KR20230040836A - 화면들 및 화면들에 대응하는 오디오 신호들을 공유하기 위한 전자 장치 및 그 방법 - Google Patents
화면들 및 화면들에 대응하는 오디오 신호들을 공유하기 위한 전자 장치 및 그 방법 Download PDFInfo
- Publication number
- KR20230040836A KR20230040836A KR1020210131963A KR20210131963A KR20230040836A KR 20230040836 A KR20230040836 A KR 20230040836A KR 1020210131963 A KR1020210131963 A KR 1020210131963A KR 20210131963 A KR20210131963 A KR 20210131963A KR 20230040836 A KR20230040836 A KR 20230040836A
- Authority
- KR
- South Korea
- Prior art keywords
- electronic device
- audio
- signal
- screen
- source
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 28
- 238000004891 communication Methods 0.000 claims abstract description 81
- 230000015654 memory Effects 0.000 claims abstract description 38
- 230000004044 response Effects 0.000 claims description 86
- 230000000007 visual effect Effects 0.000 claims description 37
- 230000005236 sound signal Effects 0.000 abstract description 121
- 230000006870 function Effects 0.000 description 46
- 238000012545 processing Methods 0.000 description 21
- 238000010586 diagram Methods 0.000 description 20
- 238000005516 engineering process Methods 0.000 description 13
- 230000008859 change Effects 0.000 description 11
- 238000013528 artificial neural network Methods 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 8
- 239000000872 buffer Substances 0.000 description 7
- 230000008569 process Effects 0.000 description 6
- 238000012546 transfer Methods 0.000 description 6
- 238000004590 computer program Methods 0.000 description 5
- 238000013507 mapping Methods 0.000 description 5
- 238000013473 artificial intelligence Methods 0.000 description 4
- 230000014509 gene expression Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000003155 kinesthetic effect Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 230000001172 regenerating effect Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000000638 stimulation Effects 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/4302—Content synchronisation processes, e.g. decoder synchronisation
- H04N21/4307—Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
- H04N21/43078—Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen for seamlessly watching content streams when changing device, e.g. when watching the same program sequentially on a TV and then on a tablet
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/165—Management of the audio stream, e.g. setting of volume, audio stream path
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/436—Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
- H04N21/43615—Interfacing a Home Network, e.g. for connecting the client to a plurality of peripherals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/439—Processing of audio elementary streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
- H04N21/8166—Monomedia components thereof involving executable data, e.g. software
- H04N21/8173—End-user applications, e.g. Web browser, game
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
일 실시예에 따른 전자 장치(electronic device)는, 통신 회로, 디스플레이, 스피커, 복수의 인스트럭션들을 저장하도록 구성된 메모리, 및 상기 통신 회로, 상기 디스플레이, 상기 스피커, 상기 메모리와 작동적으로 결합된 프로세서를 포함하고, 상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에, 상기 디스플레이의 표시 영역 내에서 제1 화면을 표시하고, 제1 오디오를 상기 스피커를 통해 제공하는 동안, 상기 통신 회로를 통하여 상기 전자 장치와 구별되는 다른 전자 장치로부터, 제1 지정된 요청을 수신하고, 상기 제1 지정된 요청을 수신하는 것에 응답하여, 상기 표시 영역 내에서 표시되고 있는 상기 제1 화면을 상기 다른 전자 장치 내에서 표시하기 위한 제1 신호 및 상기 스피커를 통해 출력되고 있는 상기 제1 오디오를 상기 다른 전자 장치 내에서 출력하기 위한 제2 신호를 송신하고, 상기 제1 신호 및 상기 제2 신호를 상기 다른 전자 장치로 송신하는 동안, 상기 다른 전자 장치로부터, 상기 전자 장치에서 상기 제1 오디오를 제공하는 하나 이상의 제1 어플리케이션들과 구별되는 제2 어플리케이션을 실행하라는 제2 지정된 요청을 수신하고, 상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제1 화면, 및 상기 제2 어플리케이션을 실행함으로써 획득되는 제2 화면 중 상기 제1 화면을 상기 표시 영역 내에서 표시하고, 상기 제2 화면을 상기 다른 전자 장치 내에서 표시하기 위한 제3 신호, 및 상기 제2 어플리케이션으로부터 획득되는 제2 오디오를 상기 다른 전자 장치 내에서 출력하기 위한 제4 신호를 상기 다른 전자 장치로 더(further) 송신할 수 있다.
Description
아래의 설명들은 화면들 및 화면들에 대응하는 오디오 신호들을 공유하기 위한 전자 장치 및 그 방법에 관한 것이다.
디지털 기술의 발달과 함께 이동통신 단말기, PDA(personal digital assistant), 전자 수첩, 스마트폰, 태블릿(tablet) PC(personal computer), 또는 웨어러블 디바이스(wearable device) 등과 같이 이동성(mobility)을 가지면서 통신 및/또는 정보 처리를 수행할 수 있는 전자 장치들이 보급되고 있다. 이러한 전자 장치는 음성 통화, 문자 메시지 송신 등과 같은 서비스 뿐만 아니라 사진 촬영, 길 찾기, 또는 웹 인터페이스 제공 등과 같은 다양한 서비스들을 제공하고 있다.
한편, 통신 기술의 발달로 인하여 사진, 동영상 등과 같은 컨텐츠(content)에 대한 접근도가 증가함에 따라 이러한 컨텐츠를 공유하는 다양한 기술(technology)들이 개발되고 있다.
사용자가 전자 장치를 이용하여, 다른 전자 장치의 화면을 수신하는 상태에서, 전자 장치를 통하여 다른 전자 장치에서 발생되는 오디오를 출력하기 위한 방안이 요구될 수 있다.
사용자가 전자 장치를 이용하여, 다른 전자 장치에 저장된 복수의 어플리케이션들을 동시에 실행하는 상태에서, 전자 장치를 이용하여 상기 복수의 어플리케이션들 각각으로부터 야기되는 복수의 오디오들을 재생하기 위한 방안이 요구될 수 있다.
본 문서에서 이루고자 하는 기술적 과제는 상술한 기술적 과제로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
일 실시예(an embodiment)에 따른 전자 장치(electronic device)는, 통신 회로, 디스플레이, 스피커, 복수의 인스트럭션들을 저장하도록 구성된 메모리, 및 상기 통신 회로, 상기 디스플레이, 상기 스피커, 상기 메모리와 작동적으로 결합된 프로세서를 포함하고, 상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에, 상기 디스플레이의 표시 영역 내에서 제1 화면을 표시하고, 제1 오디오를 상기 스피커를 통해 제공하는 동안, 상기 통신 회로를 통하여 상기 전자 장치와 구별되는 다른 전자 장치로부터, 제1 지정된 요청을 수신하고, 상기 제1 지정된 요청을 수신하는 것에 응답하여, 상기 표시 영역 내에서 표시되고 있는 상기 제1 화면을 상기 다른 전자 장치 내에서 표시하기 위한 제1 신호 및 상기 스피커를 통해 출력되고 있는 상기 제1 오디오를 상기 다른 전자 장치 내에서 출력하기 위한 제2 신호를 송신하고, 상기 제1 신호 및 상기 제2 신호를 상기 다른 전자 장치로 송신하는 동안, 상기 다른 전자 장치로부터, 상기 전자 장치에서 상기 제1 오디오를 제공하는 하나 이상의 제1 어플리케이션들과 구별되는 제2 어플리케이션을 실행하라는 제2 지정된 요청을 수신하고, 상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제1 화면, 및 상기 제2 어플리케이션을 실행함으로써 획득되는 제2 화면 중 상기 제1 화면을 상기 표시 영역 내에서 표시하고, 상기 제2 화면을 상기 다른 전자 장치 내에서 표시하기 위한 제3 신호, 및 상기 제2 어플리케이션으로부터 획득되는 제2 오디오를 상기 다른 전자 장치 내에서 출력하기 위한 제4 신호를 상기 다른 전자 장치로 더(further) 송신할 수 있다.
일 실시예에 따른 전자 장치의 방법은, 상기 전자 장치의 디스플레이의 표시 영역 내에서 제1 화면을 표시하고, 상기 전자 장치의 스피커를 통해 제1 오디오를 제공하는 동안, 상기 전자 장치와 구별되는 다른 전자 장치로부터, 제1 지정된 요청을 수신하는 동작, 상기 제1 지정된 요청을 수신하는 것에 응답하여, 상기 표시 영역 내에서 표시되고 있는 상기 제1 화면을 상기 다른 전자 장치 내에서 표시하기 위한 제1 신호 및 상기 스피커를 통해 출력되고 있는 상기 제1 오디오를 상기 다른 전자 장치 내에서 출력하기 위한 제2 신호를 송신하는 동작, 상기 제1 신호 및 상기 제2 신호를 상기 다른 전자 장치로 송신하는 동안, 상기 다른 전자 장치로부터, 상기 전자 장치에서 상기 제1 오디오를 제공하는 하나 이상의 제1 어플리케이션들과 구별되는 제2 어플리케이션을 실행하라는 제2 지정된 요청을 수신하는 동작, 상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제1 화면, 및 상기 제2 어플리케이션을 실행함으로써 획득되는 제2 화면 중 상기 제1 화면을 상기 표시 영역 내에서 표시하고, 상기 제2 화면을 다른 전자 장치 내에서 표시하기 위한 제3 신호, 및 상기 제2 어플리케이션으로부터 획득되는 제2 오디오를 상기 다른 전자 장치 내에서 출력하기 위한 제4 신호를 상기 다른 전자 장치로 더 송신하는 동작을 포함할 수 있다.
일 실시예에 따른 전자 장치(electronic device)는, 통신 회로, 디스플레이, 스피커, 복수의 인스트럭션들을 저장하도록 구성된 메모리, 및 상기 통신 회로, 상기 디스플레이, 상기 스피커, 상기 메모리와 작동적으로 결합된 프로세서를 포함하고, 상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에, 상기 디스플레이의 제1 부분 내에, 상기 통신 회로를 통하여 상기 전자 장치와 구별되는 다른 전자 장치로부터 제공되는 제1 화면을 출력하고, 상기 스피커를 통하여, 상기 다른 전자 장치로부터 제공되고, 상기 제1 화면에 대응하는 제1 오디오를 출력하고, 상기 제1 화면 및 상기 제1 오디오를 출력하는 상태에서, 상기 제1 부분과 구별되는 제2 부분에 상기 다른 전자 장치로부터 제공되는 제2 화면을 출력하고, 상기 스피커를 통하여 상기 다른 전자 장치로부터 제공되고, 상기 제2 화면에 대응하는 제2 오디오를 출력하고, 및 상기 제1 화면, 상기 제2 화면, 상기 제1 오디오 및 상기 제2 오디오를 출력하는 상태에서, 상기 제1 오디오의 볼륨을 조절하기 위한 사용자 입력을 수신하는 것에 응답하여, 상기 제2 오디오를 출력하는 것과 독립적으로, 상기 제1 오디오의 볼륨을 조절할 수 있다.
일 실시예에 따른 전자 장치의 방법은, 상기 전자 장치의 디스플레이의 제1 부분 내에, 전자 장치의 통신 회로를 통하여 다른 전자 장치로부터 제공되는 제1 화면을 출력하고, 전자 장치의 스피커를 통하여, 다른 전자 장치로부터 제공되고, 상기 제1 화면에 대응하는 제1 오디오를 출력하는 동작, 상기 제1 화면 및 상기 제1 오디오를 출력하는 상태에서, 상기 제1 부분과 구별되는 제2 부분에 상기 다른 전자 장치로부터 제공되는 제2 화면을 출력하고, 상기 스피커를 통하여, 상기 다른 전자 장치로부터 제공되고, 상기 제2 화면에 대응하는 제2 오디오를 출력하는 동작, 및 상기 제1 화면, 상기 제2 화면, 상기 제1 오디오 및 상기 제2 오디오를 출력하는 상태에서, 상기 제1 오디오의 볼륨을 조절하기 위한 사용자 입력을 수신하는 것에 응답하여, 상기 제2 오디오를 출력하는 것과 독립적으로, 상기 제1 오디오의 볼륨을 조절하는 동작을 포함할 수 있다.
일 실시예에 따른 전자 장치는, 다른 전자 장치에서 실행되는 복수의 어플리케이션들 각각에 대응하는 화면들과 함께, 복수의 어플리케이션들 각각으로부터 야기되는 복수의 오디오들을 재생할 수 있다.
상기 복수의 오디오들을 재생하는 상태에서, 일 실시예에 따른 전자 장치는 상기 복수의 오디오들 각각을, 독립적으로 제어 가능한 복수의 볼륨들에 기반하여 재생할 수 있다.
본 개시에서 얻을 수 있는 효과는 상술한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는 일 실시예에 따른 전자 장치들이 화면을 공유하는 동작을 설명하기 위한 예시적인 도면이다.
도 3은 일 실시예에 따른 전자 장치들의 블록도이다.
도 4는 일 실시예에 따른 전자 장치들 각각에서 실행되는 프로그램을 설명하기 위한 도면이다.
도 5는 일 실시예에 따른 전자 장치가, 전자 장치에서 실행되고 있는 하나 이상의 어플리케이션들로부터 제공되는 오디오를 제어하기 위해 실행하는 프로그램을 설명하기 위한 도면이다.
도 6은 일 실시예에 따른 전자 장치가, 전자 장치에서 실행되고 있는 복수의 어플리케이션들에서 획득된 오디오 신호들을 믹싱하는 동작을 설명하기 위한 예시적인 도면이다.
도 7은 일 실시예에 따른 전자 장치가, 다른 전자 장치에서 실행되고 있는 하나 이상의 어플리케이션들로부터 제공되는 오디오를 수신하기 위해 실행하는 프로그램을 설명하기 위한 도면이다.
도 8은 일 실시예에 따른 전자 장치가, 다른 전자 장치에 의해 제공되는 하나 이상의 어플리케이션들을 실행하기 위해 표시하는 UI(User Interface)의 일 예를 도시한 도면이다.
도 9는 일 실시예에 따른 전자 장치들 사이에 수립된 하나 이상의 연결들을 설명하기 위한 예시적인 도면이다.
도 10은 일 실시예에 따른 전자 장치가, 다른 전자 장치로부터 제공되는 복수의 화면들 각각에 대응하는 오디오 신호들의 볼륨을 조절하기 위해 표시하는 UI의 일 예를 도시한 도면이다.
도 11은 일 실시예에 따른 전자 장치들이 수행하는 동작을 설명하기 위한 흐름도이다.
도 12는 일 실시예에 따른 전자 장치들이, 오디오를 스트리밍하기 위하여 수행하는 동작을 설명하기 위한 흐름도이다.
도 13은 일 실시예에 따른 전자 장치들이, 오디오의 스트리밍을 종료하기 위하여 수행하는 동작을 설명하기 위한 흐름도이다.
도 14는 일 실시예에 따른 전자 장치가, 다른 전자 장치로 하나 이상의 오디오를 출력하기 위한 신호를 획득하는 동작을 설명하기 위한 흐름도이다.
도 15는 일 실시예에 따른 전자 장치가, 전자 장치에서 실행되고 있는 복수의 어플리케이션들로부터 제공된 오디오를 믹싱하는 동작을 설명하기 위한 흐름도이다.
도 16은 일 실시예에 따른 전자 장치가, 다른 전자 장치로부터 제공된 복수의 화면들 각각에 대응하는 오디오의 볼륨들을 개별적으로 제어하는 동작을 설명하기 위한 흐름도이다.
도 2는 일 실시예에 따른 전자 장치들이 화면을 공유하는 동작을 설명하기 위한 예시적인 도면이다.
도 3은 일 실시예에 따른 전자 장치들의 블록도이다.
도 4는 일 실시예에 따른 전자 장치들 각각에서 실행되는 프로그램을 설명하기 위한 도면이다.
도 5는 일 실시예에 따른 전자 장치가, 전자 장치에서 실행되고 있는 하나 이상의 어플리케이션들로부터 제공되는 오디오를 제어하기 위해 실행하는 프로그램을 설명하기 위한 도면이다.
도 6은 일 실시예에 따른 전자 장치가, 전자 장치에서 실행되고 있는 복수의 어플리케이션들에서 획득된 오디오 신호들을 믹싱하는 동작을 설명하기 위한 예시적인 도면이다.
도 7은 일 실시예에 따른 전자 장치가, 다른 전자 장치에서 실행되고 있는 하나 이상의 어플리케이션들로부터 제공되는 오디오를 수신하기 위해 실행하는 프로그램을 설명하기 위한 도면이다.
도 8은 일 실시예에 따른 전자 장치가, 다른 전자 장치에 의해 제공되는 하나 이상의 어플리케이션들을 실행하기 위해 표시하는 UI(User Interface)의 일 예를 도시한 도면이다.
도 9는 일 실시예에 따른 전자 장치들 사이에 수립된 하나 이상의 연결들을 설명하기 위한 예시적인 도면이다.
도 10은 일 실시예에 따른 전자 장치가, 다른 전자 장치로부터 제공되는 복수의 화면들 각각에 대응하는 오디오 신호들의 볼륨을 조절하기 위해 표시하는 UI의 일 예를 도시한 도면이다.
도 11은 일 실시예에 따른 전자 장치들이 수행하는 동작을 설명하기 위한 흐름도이다.
도 12는 일 실시예에 따른 전자 장치들이, 오디오를 스트리밍하기 위하여 수행하는 동작을 설명하기 위한 흐름도이다.
도 13은 일 실시예에 따른 전자 장치들이, 오디오의 스트리밍을 종료하기 위하여 수행하는 동작을 설명하기 위한 흐름도이다.
도 14는 일 실시예에 따른 전자 장치가, 다른 전자 장치로 하나 이상의 오디오를 출력하기 위한 신호를 획득하는 동작을 설명하기 위한 흐름도이다.
도 15는 일 실시예에 따른 전자 장치가, 전자 장치에서 실행되고 있는 복수의 어플리케이션들로부터 제공된 오디오를 믹싱하는 동작을 설명하기 위한 흐름도이다.
도 16은 일 실시예에 따른 전자 장치가, 다른 전자 장치로부터 제공된 복수의 화면들 각각에 대응하는 오디오의 볼륨들을 개별적으로 제어하는 동작을 설명하기 위한 흐름도이다.
이하, 본 문서의 다양한 실시예들이 첨부된 도면을 참조하여 설명된다.
본 문서의 다양한 실시 예들 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및/또는 B 중 적어도 하나", "A, B 또는 C" 또는 "A, B 및/또는 C 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", "첫째" 또는 "둘째" 등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 모듈은 ASIC(application-specific integrated circuit)으로 구성될 수 있다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108) 중 적어도 하나 와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제 2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제 2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어™)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
도 2는 일 실시예에 따른 전자 장치들이 화면을 공유하는 동작을 설명하기 위한 예시적인 도면이다. 도 2를 참고하면, 전자 장치(101) 및 전자 장치들(210) 중 적어도 하나가 유선 네트워크 및/또는 무선 네트워크에 기반하여 서로 연결된 예시적인 상황이 도시된다. 전자 장치(101) 및 전자 장치들(210) 중 적어도 하나에 포함된 하드웨어 컴포넌트는 도 3을 참고하여 설명한다.
상기 유선 네트워크는, 인터넷, LAN(Local Area Network), WAN(Wide Area Network), 이더넷 또는 이들의 조합과 같은 네트워크를 포함할 수 있다. 상기 무선 네트워크는, LTE(Long Term Evolution), 5g NR(New Radio), WiFi(Wireless Fidelity), Zigbee, NFC(Near Field Communication), Bluetooth, BLE(Bluetooth Low-Energy) 또는 이들의 조합과 같은 네트워크를 포함할 수 있다. 비록 전자 장치(101) 및 전자 장치들(210) 중 적어도 하나가 직접적으로 연결된(directly connected) 것으로 도시되었으나, 전자 장치(101) 및 전자 장치들(210) 중 적어도 하나는 하나 이상의 라우터 및/또는 AP(Access Point)를 통해 간접적으로 연결될 수 있다.
도 2를 참고하면, 전자 장치(101)및 전자 장치들(210)은 사용자에 의해 소유되는(be owned by) 단말일 수 있다. 단말은, 예를 들어, 랩톱 및 데스크톱과 같은 개인용 컴퓨터(Personal Computer, PC), 스마트폰(smartphone), 스마트패드(smartpad), 태블릿 PC(Personal Computer), 스마트워치(smartwatch) 및 HMD(Head-Mounted Device)와 같은 스마트액세서리를 포함할 수 있다. 도 2를 참고하면, 전자 장치(101)는 스마트폰, 스마트패드, 태블릿 PC에 대응하고, 전자 장치들(210)은 데스크톱에 대응하는 전자 장치(212) 및 랩톱에 대응하는 전자 장치(214)와 같은 개인용 컴퓨터에 대응하는 일 예가 도시된다. 실시예는 도 2의 일 예에 제한되지 않는다.
일 실시예에 따른 전자 장치(101)는, 전자 장치들(210) 중 적어도 하나로, 전자 장치(101)에서 실행되고 있는 하나 이상의 어플리케이션들로부터 획득된 비디오(예, 어플리케이션으로부터 획득된 화면) 및/또는 오디오(예, 어플리케이션으로부터 제공된 오디오)를 송신할 수 있다. 이하에서, 미러링 기능은, 전자 장치(101)의 기능으로써, 전자 장치(101)가 전자 장치들(210) 중 적어도 하나로, 상기 비디오 및/또는 상기 오디오를 송신하는 기능을 의미할 수 있다. 상기 미러링 기능은, 캐스트(cast) 기능, 및/또는 미러링크(mirrorlink) 기능으로 참조될 수 있다. 상기 비디오 및/또는 상기 오디오를 수신하는 전자 장치들(210)은, 디스플레이 및/또는 스피커를 이용하여, 상기 비디오 및/또는 상기 오디오를 출력할 수 있다. 미러링 기능을 수행하는 상태에서, 스트리밍에 기반하여, 전자 장치들(210)은 상기 비디오 및/또는 상기 오디오의 송신 및 출력을 실질적으로 동시에 수행할 수 있다.
일 실시예에 따른 전자 장치(101)로부터 비디오 및/또는 오디오를 수신하는 상태에서, 전자 장치들(210)은, 전자 장치들(210)의 입력 수단(예, 키보드 및/또는 마우스)을 통해 입력된 사용자 입력을, 전자 장치(101)로 송신할 수 있다. 상기 사용자 입력은, 전자 장치들(210) 중 적어도 하나로부터 출력되고, 전자 장치(101)로부터 제공된, 상기 비디오 및/또는 상기 오디오와 관련될 수 있다. 전자 장치들(210)에 의하여 탐지된 상기 사용자 입력에 응답하여, 전자 장치(101)는 전자 장치들(210)로 송신되는 상기 비디오 및/또는 상기 오디오를 변경할 수 있다. 도 2를 참고하면, 전자 장치(101) 및 전자 장치들(210) 중 적어도 하나 사이에 수립된 연결(220)에 기반하여, 상기 비디오, 상기 오디오 및/또는 상기 사용자 입력을 나타내는 신호가 송신될 수 있다. 이하에서, 연결(220)은, 세션과 같이 네트워크 내에서 수립된 종단간 연결(End-to-End connection) 및/또는 P2P 연결(Peer-to-Peer connection)을 의미할 수 있다.
일 실시예에 따른 전자 장치(101)는 별개의 화면들(distinct screens)을, 전자 장치들(210) 중 적어도 하나로 동시에 출력할 수 있다. 상기 별개의 화면들 각각은, 예를 들어, 전자 장치(101)의 디스플레이 상에 표시되고 있는 화면 및/또는 전자 장치들(210) 중 적어도 하나에 의하여 탐지된 사용자 입력에 의하여 전자 장치(101)에서 실행되는 하나 이상의 어플리케이션들로부터 획득된 화면을 포함할 수 있다. 전자 장치들(210) 중 적어도 하나로 복수의 화면들을 출력하는 상태에서, 복수의 화면들 각각에 대응하는 복수의 오디오 신호들 각각의 볼륨들이 독립적으로 제어될 수 있다. 상기 볼륨들이 독립적으로 제어되게 만들기 위하여, 전자 장치(101)는 전자 장치들(210)로 송신될 복수의 오디오 신호들을, 복수의 오디오 신호들 각각에 대응하는 복수의 어플리케이션들 각각에 대응하는 별개의 신호 경로들(distinct signal paths)을 이용하여 획득할 수 있다. 상기 신호 경로들은, 상기 복수의 어플리케이션들, 상기 복수의 화면들 또는 상기 복수의 화면들 각각에 할당된 식별자에 기반하여 구분될 수 있다. 상기 복수의 오디오 신호들은, 연결(220) 내에서, 별개의 미러링 세션들과 같은 논리적 링크들 및/또는 별개의 채널들에 의해 구별될 수 있다.
일 실시예에서, 연결(220) 내에서 구별 가능한(distinguishable) 복수의 오디오 신호들을 수신하는 것에 응답하여, 전자 장치들(210)은 복수의 오디오 신호들 각각의 볼륨들을 독립적으로 변경할 수 있다. 상기 볼륨들은, 예를 들어, 전자 장치들(210)의 디스플레이에서 구별되는 일부분들 각각에 표시되는 UI(User Interface)에 의해 조절될 수 있다. 예를 들어, 전자 장치들(210)은, 복수의 오디오 신호들 각각과 짝을 이루는 복수의 화면들 각각에, 대응하는 오디오 신호의 볼륨을 조절하기 위한 UI를 표시할 수 있다.
상술한 바와 같이, 일 실시예에 따른 전자 장치(101)는, 전자 장치들(210) 중 적어도 하나로, 미러링 기능에 기반하는 복수의 화면들 및 상기 복수의 화면들 각각에 대응하는 복수의 오디오 신호들을 송신하기 위한 연결(220)을 수립할 수 있다. 상기 연결(220) 내에서, 상기 복수의 오디오 신호들이 독립적으로 송신될 수 있다. 하나 이상의 오디오 신호들이 독립적으로 송신됨에 따라, 전자 장치(101)와 관련된 미러링 기능을 실행하는 전자 장치들(210) 중 적어도 하나는 상기 하나 이상의 오디오 신호들 각각에 대응하는 볼륨들을 조절할 수 있다. 일 실시예에 따른 전자 장치(101)가 미러링 기능을 지원하기 위하여 실행하는 하나 이상의 프로그램들은, 도 4 내지 도 6을 참고하여 후술된다. 일 실시예에 따른 전자 장치들(210) 중 적어도 하나가 미러링 기능을 지원하기 위하여 실행하는 하나 이상의 프로그램들은, 도 4 및/또는 도 7을 참고하여 후술된다. 일 실시예에 따른 전자 장치들(210) 중 적어도 하나가 미러링 기능에 기반하여 표시하는 UI의 일 예가 도 8 및/또는 도 10을 참고하여 후술된다. 일 실시예에 따른 전자 장치(101) 및 전자 장치들(210) 중 적어도 하나 사이에 수립된 연결(220)이 도 9를 참고하여 후술된다.
이하에서는, 도 3을 참고하여, 일 실시예에 따른 전자 장치(101) 및 전자 장치들(210) 각각에 포함되고, 미러링 기능과 관련된, 하나 이상의 하드웨어 컴포넌트들이 설명된다.
도 3은 일 실시예에 따른 전자 장치들(101, 210)의 블록도이다. 도 3의 전자 장치(101)는 도 1 내지 도 2의 전자 장치(101)의 일 예에 대응할 수 있다. 도 3의 전자 장치(210)는 도 2의 전자 장치들(210)의 일 예에 대응할 수 있다.
도 3을 참고하면, 일 실시예에 따른 전자 장치(101) 및 전자 장치(210) 각각은, 프로세서들(312, 314), 메모리들(322, 324), 디스플레이들(342, 344), 스피커들(352, 354) 또는 통신 회로들(362, 364) 중 적어도 하나를 포함할 수 있다. 전자 장치(101) 및 전자 장치(210) 각각에 포함된 하드웨어 컴포넌트들은 통신 버스(a communication bus)와 같은 전자 소자(electronical component)에 의해 서로 전기적으로 및/또는 작동적으로 연결될 수 있다(electronically and/or operably coupled with each other). 전자 장치(101) 및 전자 장치(210) 각각에 포함된 하드웨어 컴포넌트의 타입 및/또는 개수는 도 3에 도시된 바에 제한되지 않는다. 프로세서들(312, 314), 메모리들(322, 324), 디스플레이들(342, 344), 스피커들(352, 354) 및 통신 회로들(362, 364)은 도 1의 프로세서(120), 메모리(130), 디스플레이 모듈(160) 및 오디오 모듈(170) 각각에 대응할 수 있다. 통신 회로들(362, 364) 각각은 도 1의 통신 모듈(190), 안테나 모듈(197), 가입자 식별 모듈(196) 또는 이들의 조합(or a combination thereof)에 대응할 수 있다.
도 3을 참고하면, 메모리들(322, 324) 각각에 저장된 프로그램들(372, 374)은, 프로세서들(312, 314) 각각이 데이터를 처리하기 위하여 수행할 하나 이상의 동작들을 나타내는 인스트럭션들의 집합에 대응할 수 있다. 프로그램들(372, 374)은, 펌웨어, 운영 체제(예, 도 1의 운영 체제(142)), 미들웨어(예, 도 1의 미들 웨어(144)), 프로세스, 루틴, 서브-루틴 및/또는 어플리케이션(예, 도 1의 어플리케이션(146))으로 참조될 수 있다. 일 실시예에 따른 전자 장치들(101, 210) 각각은, 프로그램들(372, 374)을 실행하여, 후술되는 동작들, 예를 들어, 도 10 내지 도 16의 동작들 중 적어도 하나를 수행할 수 있다. 프로그램들(372, 374) 각각에 포함된 하나 이상의 인스턴스들 및/또는 하나 이상의 객체들은 도 4 내지 도 7을 참고하여 후술된다.
예를 들어, 전자 장치들(101, 210) 각각은, 프로그램들(372, 374)을 실행하여 통신 회로들(362, 364) 각각을 제어하여, 전자 장치들(101, 210) 사이의 연결(220)을 수립할 수 있다. 예를 들어, 미러링 기능과 관련된 연결(220)을 통하여, 전자 장치(101)는 디스플레이(342) 상에 표시되고 있는 화면을 나타내는 비디오 및/또는 스피커(352)에서 출력되고 있는 오디오를, 전자 장치(210)로 송신할 수 있다. 전자 장치(210)는 디스플레이(344) 상에 전자 장치(101)로부터 수신된 상기 비디오를 표시할 수 있다. 전자 장치(210)는 스피커(354)를 통하여 전자 장치(101)로부터 수신된 상기 오디오를 출력할 수 있다. 전자 장치(210)에서 상기 미러링 기능과 관련된 이벤트를 탐지하는 것에 응답하여, 전자 장치(210)는 연결(220)을 통하여 전자 장치(101)로 탐지된 이벤트를 알릴 수 있다. 전자 장치(101)는 상기 이벤트에 대한 응답으로, 전자 장치(210)로 송신되는 상기 비디오 및/또는 상기 오디오를 변경할 수 있다.
상술한 바와 같은, 일 실시예에 따른 전자 장치(101)는 디스플레이(342)의 표시 영역 내에서 제1 화면을 표시하고, 제1 화면에 대응하는 제1 오디오를 스피커(352)를 통해 제공하는 동안, 통신 회로(362)를 통하여 전자 장치(210)로부터, 제1 지정된 요청을 수신할 수 있다. 상기 제1 지정된 요청은, 예를 들어, 미러링 기능에 기반하여 상기 제1 화면 및 상기 제1 오디오를 공유하기 위한 요청을 포함할 수 있다. 상기 제1 지정된 요청을 수신하는 것에 응답하여, 전자 장치(101)는 상기 제1 화면을 전자 장치(210) 내에서 표시하기 위한 제1 신호, 및 스피커(352)를 통해 출력되고 있는 상기 제1 오디오를 전자 장치(210) 내에서 출력하기 위한 제2 신호를, 전자 장치(210)로 송신할 수 있다. 상기 제1 신호 및 상기 제2 신호는 연결(220)을 통하여 전자 장치(101)로부터 전자 장치(210)로 송신될 수 있다. 상기 제1 신호 및 상기 제2 신호를 송신하는 동안, 전자 장치(101)는 전자 장치(210)로부터, 상기 제1 오디오를 제공하는 하나 이상의 제1 어플리케이션들(예, 전자 장치(101)에 의하여 실행되고 있는 하나 이상의 어플리케이션들)과 구별되는 제2 어플리케이션(예, 전자 장치(101)에 의하여 실행되기 이전의 어플리케이션)을 실행하라는 제2 지정된 요청을 수신할 수 있다. 상기 제2 지정된 요청을 수신하는 것에 응답하여, 전자 장치(101)는 제2 어플리케이션을 실행함으로써 획득되는 제2 화면을 전자 장치(210) 내에서 표시하기 위한 제3 신호, 및 상기 제2 어플리케이션으로부터 획득되는 제2 오디오를 전자 장치(210) 내에서 출력하기 위한 제4 신호를, 전자 장치(210)로 송신할 수 있다. 일 실시예에 따른 전자 장치(101)는, 디스플레이(342)의 표시 영역 내에서 제1 화면을 표시하고, 제1 화면에 대응하는 제1 오디오를 스피커(352)를 통해 제공하는 것을 유지하면서, 상기 제3 신호 및 상기 제4 신호의 획득 및 송신을 수행할 수 있다. 상기 제1 오디오 및 상기 제2 오디오 각각에 대응하는 상기 제3 신호 및 상기 제4 신호는, 연결(220)을 통하여 전자 장치(210)로 개별적으로 송신될 수 있다. 상기 제3 신호 및 상기 제4 신호가 전자 장치(210)로 개별적으로 송신됨에 따라, 전자 장치(210)는 상기 제3 신호 및 상기 제4 신호 각각에 대응하는 상기 제1 오디오 및 상기 제2 오디오를 개별적으로 출력할 수 있다. 전자 장치(210)가 상기 제1 오디오 및 상기 제2 오디오를 개별적으로 출력하는 것은, 예를 들어, 상기 제1 오디오 및 상기 제2 오디오 각각을 독립적으로 제어되는 볼륨들에 기반하여 출력하는 동작을 포함할 수 있다.
이하에서는 도 4를 참고하여, 상기 제1 신호 내지 상기 제4 신호의 송신 및 수신을 위하여 전자 장치들(101, 210)에서 실행되는 프로그램들(372, 374)이 상세히 설명된다.
도 4는 일 실시예에 따른 전자 장치들 각각에서 실행되는 프로그램들(372, 374)을 설명하기 위한 도면이다. 도 4를 참고하면, 프로그램들(372, 374) 각각에 포함된 하나 이상의 객체들 및/또는 하나 이상의 인스턴스들이 도시된다. 객체 및/또는 인스턴스는 프로그램들(372, 374)에 의해 실행된 전자 장치에 의해 수행되는 하나 이상의 동작들의 단위를 의미한다.
도 4를 참고하면, 프로그램(372)은, 예를 들어, 도 1 내지 도 3의 전자 장치(101)에 의해 실행되는 프로그램(예, 도 3의 프로그램(372))의 일 예에 대응할 수 있다. 예를 들어, 프로그램(372)은, 프로그램(372)을 실행하는 전자 장치가 다른 전자 장치로, 미러링 기능에 기반하여 상기 전자 장치에서 생성된 화면 및/또는 오디오를 송신하기 위한 인스트럭션들을 포함할 수 있다. 프로그램(374)은, 예를 들어, 도 2 내지 도 3의 전자 장치(210)에 의해 실행되는 프로그램(예, 도 3의 프로그램(374))의 일 예에 대응할 수 있다. 예를 들어, 프로그램(374)은, 프로그램(374)을 실행하는 전자 장치가, 프로그램(372)을 실행한 다른 전자 장치로부터 수신된 화면 및/또는 오디오를, 상기 전자 장치의 디스플레이 및/또는 스피커를 통해 출력하기 위한 인스트럭션들을 포함할 수 있다. 이하에서, 프로그램(372)을 실행하는 전자 장치는, 화면 및/또는 오디오의 소스가 되는 전자 장치로써, 예를 들어, 소스 전자 장치 및/또는 제1 전자 장치로 참조될 수 있다.
일 실시예에서, 프로그램(372)은, 운영 체제 및/또는 미들 웨어의 적어도 일부분으로써, 소스 전자 장치가 상기 운영 체제 및/또는 상기 미들 웨어에 기반하여 구동함에 따라 상기 소스 전자 장치에 의하여 실행될 수 있다. 도 4를 참고하면, 소스 전자 장치가 프로그램(372)을 실행함에 따라 활성화되는 객체 및/또는 인스턴스로써, 스크린 미러링 소스 매니저(410), 소스 컨테이너 매니저(420), 소스 오디오 매니저(430) 및 시스템 서비스(440)가 도시된다. 일 실시예에서, 소스 전자 장치는, 소스 컨테이너 매니저(420)에 기반하여 미러링 기능을 실행함에 따라, 하나 이상의 소스 어플리케이션 컨테이너들을 생성할 수 있다. 도 4를 참고하면, 소스 전자 장치가 소스 컨테이너 매니저(420)에 기반하여 생성한 N 개의 소스 어플리케이션 컨테이너들(422-1, 422-2, ..., 422-N)이 도시된다. 일 실시예에서, 소스 전자 장치는, 소스 오디오 매니저(430)에 기반하여 미러링 기능을 실행함에 따라 하나 이상의 소스 오디오들을 생성할 수 있다. 도 4를 참고하면, 소스 전자 장치가 소스 오디오 매니저(430)에 기반하여 생성한 M 개의 소스 오디오들(432-1, ..., 432-M)이 도시된다. 예를 들어, 프로그램(372)은, 스크린 미러링 소스 매니저(410), 소스 컨테이너 매니저(420), 소스 어플리케이션 컨테이너, 소스 오디오 매니저(430), 소스 오디오 및 시스템 서비스(440) 각각에 대응하는 인스트럭션들을 포함할 수 있다. 이하에서, 프로그램(374)을 실행하는 전자 장치는, 화면 및/또는 오디오를 송신하는 전자 장치와 원격으로 연결된(remotely connected) 전자 장치로써, 예를 들어, 리모트 전자 장치 및/또는 제2 전자 장치로 참조될 수 있다.
일 실시예에서, 프로그램(374)은, 미러링 기능과 관련된 어플리케이션의 적어도 일부분으로써, 상기 어플리케이션을 실행하는 사용자 입력에 기반하여 리모트 전자 장치에 의하여 실행될 수 있다. 도 4를 참고하면, 리모트 전자 장치가 프로그램(374)을 실행함에 따라 활성화되는 객체 및/또는 인스턴스로써, 스크린 미러링 싱크 매니저(415), 리모트 컨테이너 매니저(425) 및 리모트 오디오 매니저(435)가 도시된다. 일 실시예에서, 리모트 전자 장치는, 리모트 컨테이너 매니저(425)에 기반하여 미러링 기능을 실행함에 따라, 하나 이상의 리모트 어플리케이션 컨테이너들을 생성할 수 있다. 도 4를 참고하면, 리모트 전자 장치가 리모트 컨테이너 매니저(425)에 기반하여 생성한 N 개의 리모트 어플리케이션 컨테이너들(427-1, 427-2, ..., 427-N)이 도시된다. 일 실시예에서, 리모트 전자 장치는 리모트 오디오 매니저(435)에 기반하여 미러링 기능을 실행함에 따라, 하나 이상의 리모트 오디오들을 생성할 수 있다. 도 4를 참고하면, 리모트 전자 장치가 리모트 오디오 매니저(435)에 기반하여 생성한 M 개의 리모트 오디오들(437-1, ..., 437-M)이 도시된다. 예를 들어, 프로그램(374)은 스크린 미러링 싱크 매니저(415), 리모트 컨테이너 매니저(425), 리모트 어플리케이션 컨테이너, 리모트 오디오 매니저(435) 및 리모트 오디오 각각에 대응하는 인스트럭션들을 포함할 수 있다.
도 4에 도시된 프로그램들(372, 374) 각각에 의해 활성화되는 인스턴스들은, 인스턴스들 각각의 타입에 따라 서로 대응할 수 있다. 소스 전자 장치 및 리모트 전자 장치는, 연결(220) 내에서 인스턴스들 사이의 대응 관계에 따라 데이터를 송신 및/또는 수신할 수 있다. 예를 들어, 소스 전자 장치에서 활성화된 스크린 미러링 소스 매니저(410)가, 리모트 전자 장치에서 활성화된 스크린 미러링 싱크 매니저(415)에 대응할 수 있다. 소스 컨테이너 매니저(420)는 리모트 컨테이너 매니저(425)에 대응할 수 있다. N 개의 소스 어플리케이션 컨테이너들(422-1, 422-2, ..., 422-N)이 N 개의 리모트 어플리케이션 컨테이너들(427-1, 427-2, ..., 427-N) 각각에 대응할 수 있다. 소스 오디오 매니저(430)가 리모트 오디오 매니저(435)에 대응할 수 있다. M 개의 소스 오디오들(432-1, ..., 432-M)이 M 개의 리모트 오디오들(437-1, ..., 437-M) 각각에 대응할 수 있다.
일 실시예에서, 소스 전자 장치는 스크린 미러링 소스 매니저(screen mirroring source manager)(410)에 기반하여, 소스 전자 장치의 디스플레이 및 스피커 각각에서 출력되고 있는 화면 및 오디오를 획득할 수 있다. 예를 들어, 소스 전자 장치는 스크린 미러링 소스 매니저(410)를 이용하여, 소스 전자 장치의 디스플레이(예, 도 3의 디스플레이(342))의 표시 영역 전체를 캡쳐할 수 있다. 예를 들어, 예를 들어, 소스 전자 장치는 스크린 미러링 소스 매니저(410)를 이용하여, 소스 전자 장치의 스피커(예, 도 3의 스피커(352))에서 출력되고 있는 오디오를 획득할 수 있다.
일 실시예에 따른 소스 전자 장치는 소스 컨테이너 매니저(420)에 기반하여, 미러링 기능에 기반하여 실행되는 하나 이상의 어플리케이션들 전부를 관리할 수 있다. 예를 들어, 소스 컨테이너 매니저(420)를 이용하여, 소스 전자 장치는 상기 하나 이상의 어플리케이션들 각각에 대응하는 인스턴스인 소스 어플리케이션 컨테이너를 생성하거나, 및/또는 제거할 수 있다. 예를 들어, 소스 전자 장치는 소스 컨테이너 매니저(420)를 이용하여, 리모트 전자 장치로부터 수신되고, 소스 전자 장치에 저장된 어플리케이션의 실행 및/또는 종료와 관련된, 요청을 처리할 수 있다. 일 실시예에서, 소스 컨테이너 매니저(420)는 어플리케이션 실행 컨테이너 매니저(application execution container manager)로 참조될 수 있다. 상기 이벤트는, 예를 들어, 소스 전자 장치에 저장된 어플리케이션을 실행하라는 요청을 수신하는 이벤트를 포함할 수 있다. 소스 컨테이너 매니저(420)가 리모트 컨테이너 매니저(425)에 대응하므로, 리모트 전자 장치는 리모트 컨테이너 매니저(425)에 기반하여, 소스 원격 장치에서 실행되는 소스 컨테이너 매니저(420)로, 리모트 전자 장치의 사용자에 의해 선택된 어플리케이션을 실행하라는 요청을 송신할 수 있다. 소스 전자 장치는, 소스 컨테이너 매니저(420)를 이용하여 상기 요청에 대응하는 소스 어플리케이션 컨테이너를 획득할 수 있다.
예를 들어, 상기 요청에 응답하여, 소스 어플리케이션 컨테이너(422-1)를 생성한 경우, 소스 전자 장치는 소스 컨테이너 매니저(420)를 이용하여 리모트 전자 장치의 리모트 컨테이너 매니저(425)로, 소스 어플리케이션 컨테이너(422-1)와 관련된 정보를 송신할 수 있다. 상기 정보는 소스 어플리케이션 컨테이너(422-1)에 할당된 식별자로써, 예를 들어, 상기 요청에 대응하는 어플리케이션의 패키지 명칭(package name), 시스템 서비스(440)에 의해 상기 어플리케이션에 할당된 UID(user ID) 또는 태스크 ID(task ID) 중 적어도 하나를 포함할 수 있다. 소스 어플리케이션 컨테이너(422-1)는, 도 5를 참고하여 후술되는 바와 같이, 상기 요청에 대응하는 어플리케이션의 화면 및/또는 오디오를, 리모트 전자 장치로 송신하기 위하여 실행될 수 있다.
일 실시예에서, 소스 전자 장치는 소스 컨테이너 매니저(420)에 기반하여, 미러링 기능을 수행함에 따라 리모트 전자 장치에서 탐지되는 사용자 입력의 적어도 일부분을 처리할 수 있다. 예를 들어, 리모트 전자 장치의 사용자가, 리모트 전자 장치를 통해 제공되고 있고, 소스 어플리케이션 컨테이너(422-1)에 기반하여 소스 전자 장치에서 실행되고 있는, 어플리케이션을 제어하기 위한 사용자 입력을 수행할 수 있다. 이 경우, 리모트 전자 장치는, 상기 소스 어플리케이션 컨테이너(422-1)에 대응하는 리모트 어플리케이션 컨테이너(427-1)를 이용하여, 소스 전자 장치로 상기 사용자 입력을 알리는 신호를 송신할 수 있다.
상기 신호를 수신하는 것에 응답하여, 소스 전자 장치는 소스 컨테이너 매니저(420)에 기반하여, 소스 어플리케이션 컨테이너(422-1)에 상기 신호에 따른 상기 사용자 입력의 발생을 알릴 수 있다. 유사하게, 소스 전자 장치의 사용자가 소스 어플리케이션 컨테이너(422-1)에 대응하는 어플리케이션을 제어하기 위한 사용자 입력을 수행하는 경우, 소스 전자 장치는 소스 컨테이너 매니저(420)에 기반하여, 상기 사용자 입력에 대응하는 이벤트를 처리하기 위한 소스 어플리케이션 컨테이너(422-1)를 식별할 수 있다.
일 실시예에 따른 소스 전자 장치는, 하나 이상의 소스 어플리케이션 컨테이너들을 이용하여, 소스 전자 장치 및 리모트 전자 장치 사이에서 연결(220)에 기반하여 형성되는 하나 이상의 세션들을 제어할 수 있다. 일 실시예에서, 상기 소스 어플리케이션 컨테이너는 어플리케이션 실행 컨테이너(Application Execution Container)로 참조될 수 있다. 상기 하나 이상의 세션들은, 리모트 전자 장치가 미러링 기능에 기반하여 실행하는 소스 전자 장치의 하나 이상의 어플리케이션들 각각에 대응하여 수립된 논리적 링크로써, 예를 들어, 미러링 세션, 화면 미러링 세션 및/또는 화면 스트리밍 세션으로 참조될 수 있다. 도 4를 참고하면, 소스 컨테이너 매니저(420)가 실행된 소스 전자 장치에 의해 생성된 N 개의 소스 어플리케이션 컨테이너들(422-1, 422-2, ..., 422-N)은, N 개의 미러링 세션들 및/또는 화면 스트리밍 세션들로써, 소스 전자 장치에서 실행되고, 리모트 전자 장치로 제공되는 N 개의 어플리케이션들에 대응할 수 있다. N 개의 미러링 세션들 각각을 통하여, 소스 전자 장치가 소스 어플리케이션 컨테이너에 기반하여 어플리케이션으로부터 획득한 화면을 나타내는 비디오 신호가 송신될 수 있다.
일 실시예에서, 소스 전자 장치는 하나 이상의 소스 어플리케이션 컨테이너들 각각에 대응하는 정보를, 메모리(예, 도 3의 전자 장치(101)의 메모리(322)) 내에 저장할 수 있다. 상기 정보는, 대응하는 소스 어플리케이션 컨테이너에 할당된 메모리의 일부분 내에 저장될 수 있다. 예를 들어, 소스 전자 장치에서 실행되는 소스 어플리케이션 컨테이너는, 소스 전자 장치가 소스 컨테이너 매니저(420)를 이용하여 고유하게 할당한(uniquely assigned) 정보로써, 식별자(ID), 대응하는 어플리케이션의 패키지 명칭, 태스크 ID 또는 UID 중 적어도 하나를 포함할 수 있다. 소스 어플리케이션 컨테이너에 할당된 정보는, 예를 들어, 리모트 전자 장치로 송신될 신호에 대응하는 소스 어플리케이션 컨테이너를 나타내기 위하여 이용될 수 있다. 소스 어플리케이션 컨테이너에 할당된 정보는, 리모트 전자 장치에서 상기 소스 어플리케이션 컨테이너에 대응하는 리모트 어플리케이션 컨테이너를 식별하기 위해 이용될 수 있다. 예를 들어, 소스 어플리케이션 컨테이너에 할당된 정보는, 소스 어플리케이션 컨테이너 및 리모트 어플리케이션 컨테이너 사이의 매핑(mapping)을 나타낼 수 있다.
일 실시예에 따른 소스 전자 장치는 소스 오디오 매니저(430)에 기반하여, 미러링 세션에 의해 구별되고, 리모트 전자 장치로 송신되는, 하나 이상의 오디오 신호들 전부를 관리할 수 있다. 예를 들어, 소스 오디오 매니저(320)를 이용하여, 소스 전자 장치는 상기 하나 이상의 오디오 신호들 각각에 대응하는 인스턴스인 소스 오디오를 생성하거나, 및/또는 제거할 수 있다. 일 실시예에서, 소스 오디오 매니저(430)는 오디오 리디렉터 소스 매니저(audio redirector source manager)로 참조될 수 있다. 예를 들어, 리모트 전자 장치가 리모트 오디오 매니저(435)에 기반하여, 특정 어플리케이션에 대한 오디오의 스트리밍을 요청하는 경우, 소스 전자 장치는 상기 특정 어플리케이션과 관련된 소스 오디오를 획득할 수 있다.
예를 들어, 상기 요청에 따라 소스 오디오(432-1)를 생성한 경우, 소스 전자 장치는 소스 오디오 매니저(430)를 이용하여 리모트 전자 장치의 리모트 오디오 매니저(435)로, 소스 오디오(432-1)와 관련된 정보를 송신할 수 있다. 상기 정보는, 소스 오디오 매니저(430)가 상기 오디오(432-1)에게 고유하게 할당한 식별자를 포함할 수 있다. 상기 식별자는, 상기 특정 어플리케이션의 UID, 패키지 명칭 및/또는 상기 특정 어플리케이션이 실행됨에 따라 시스템 서비스(440)에 의하여 할당되는 태스크 ID 중 적어도 하나를 포함할 수 있다. 상기 식별자는, 소스 오디오 및 리모트 오디오 사이의 매핑을 나타낼 수 있다.
일 실시예에 따른 소스 전자 장치는, 하나 이상의 소스 오디오들을 이용하여, 소스 전자 장치 및 리모트 전자 장치 사이의 연결(220)에 기반하여 형성되고, 오디오를 송신하기 위한 하나 이상의 세션들을 제어할 수 있다. 일 실시예에서, 소스 오디오는 오디오 리디렉터 소스(audio redirector source)로 참조될 수 있다. 일 실시예에서, 상기 하나 이상의 세션들은 하나 이상의 미러링 세션들 각각에 대응할 수 있다. 일 실시예에서, 상기 하나 이상의 세션들은 미러링 세션과 독립적인 세션으로, 오디오 미러링 세션 및/또는 오디오 스트리밍 세션으로 참조될 수 있다. 도 4를 참고하면, 소스 전자 장치가 소스 오디오 매니저(430)를 이용하여 생성한 M 개의 소스 오디오들(432-1, ..., 432-M)이 도시된다. 도 4의 일 예에서, 소스 오디오들(432-1, ..., 432-M)의 개수 M 및 소스 어플리케이션 컨테이너들(422-1, 422-2, ..., 422-N)의 개수 N은, 실시예에 따라 일치하거나, 및/또는 달라질 수 있다. 상기 오디오 스트리밍 세션을 통하여, 소스 전자 장치는 소스 오디오를 이용하여, 리모트 전자 장치로 소스 오디오의 식별자를 포함하는 오디오 신호를 송신할 수 있다.
예를 들어, 소스 전자 장치에서 실행되는 일 어플리케이션은(an application)은, 하나 이상의 화면들 및/또는 윈도우들을 생성할 수 있다. 소스 전자 장치가 리모트 전자 장치로 단일 어플리케이션으로부터 획득된 복수의 화면들을 송신하는 예시적인 상태에서, 복수의 소스 어플리케이션 컨테이너들이 상기 복수의 화면들 각각에 대응하여 생성될 수 있다. 상기 예시적인 상태에서, UID가 상기 단일 어플리케이션에 고유하게 할당됨에 따라, 소스 전자 장치가 UID에 기반하여 소스 오디오를 생성하는 일 실시예에서, 소스 전자 장치는 상기 단일 어플리케이션에 대응하는 단일 소스 오디오를 생성할 수 있다. 소스 전자 장치가 상기 단일 소스 오디오를 이용하는 경우, 리모트 전자 장치는 상기 단일 어플리케이션으로부터 획득된 복수의 화면들 각각에 대응하는 오디오 신호들이 병합된 단일 오디오 신호를 수신할 수 있다. 상기 예시에서, 소스 오디오의 개수 및 소스 어플리케이션 컨테이너의 개수가 서로 달라질 수 있다. 그러나, 실시예가 이에 제한되는 것은 아니다.
일 실시예에 따른 소스 전자 장치는 하나 이상의 소스 오디오를 이용하여 시스템 서비스(440)로, 하나 이상의 소스 오디오들을 통해 리모트 전자 장치로 송신될 하나 이상의 오디오 신호들을 요청할 수 있다. 오디오 신호의 요청은, 예를 들어, 복수의 어플리케이션들 각각에 대응하는 복수의 오디오 신호들을 결합하는 동작을 포함할 수 있다. 상기 복수의 오디오 신호들을 결합하는 것은, 믹싱(mixing) 및/또는 합성(synthesization)으로 참조될 수 있다. 예를 들어, 소스 전자 장치는 소스 오디오를 이용하여 오디오 정책 서비스(470)로, 복수의 오디오들의 믹싱에 이용되는 정보(예, 오디오 믹싱 규칙 및/또는 오디오 믹싱 정책)를 요청할 수 있다. 상기 정보는 오디오 정책 서비스(470)에 의하여, 소스 전자 장치의 운영 체제 및/또는 복수의 어플리케이션들 각각에 대하여 설정될 수 있다. 예를 들어, 소스 전자 장치는 소스 오디오는, 오디오 정책 서비스(470)로, 미러링 기능에 기반하여 실행된 복수의 어플리케이션들 각각에 대응하는 오디오 신호들을 독립적으로 획득하기 위하여, 상기 오디오 믹싱 규칙의 변경을 요청할 수 있다. 상기 요청은, 믹싱에 이용되는 하나 이상의 오디오 신호들 각각에 대응하는 하나 이상의 볼륨들을 조정하는 요청, 및/또는 복수의 오디오 신호들의 신호 경로를 다르게 조정하는 요청을 포함할 수 있다. 일 실시예에 따른 소스 전자 장치는 시스템 서비스(440)에 포함된 오디오 플린저(460)를 이용하여, 오디오 정책 서비스(470)에 의해 관리되는 상기 정보에 기반하여 복수의 오디오들을 믹싱할 수 있다.
일 실시예에 따른 리모트 전자 장치는, 소스 전자 장치의 스크린 미러링 소스 매니저(410)에 대응하는 스크린 미러링 싱크 매니저(415)에 기반하여, 소스 전자 장치의 디스플레이 및 스피커 각각에서 출력되고 있는 화면 및 오디오를 획득할 수 있다. 예를 들어, 리모트 전자 장치는 스크린 미러링 싱크 매니저(415)를 이용하여 획득된 상기 화면을, 리모트 전자 장치의 디스플레이의 적어도 일부분에 표시할 수 있다. 소스 전자 장치의 디스플레이에 대응하는 상기 화면을 표시하는 상태에서, 리모트 전자 장치는 스크린 미러링 싱크 매니저(415)를 이용하여 획득된 오디오를, 스피커를 통해 출력할 수 있다.
일 실시예에 따른 리모트 전자 장치는 리모트 컨테이너 매니저(425)에 기반하여, 미러링 기능에 기반하여 소스 전자 장치에서 실행되는 하나 이상의 어플리케이션들 각각에 대응하는 하나 이상의 미러링 세션들을 관리할 수 있다. 리모트 전자 장치에서 실행되는 상기 리모트 컨테이너 매니저(425)는 소스 전자 장치에서 실행되는 소스 컨테이너 매니저(420)에 대응할 수 있다. 일 실시예에서, 리모트 컨테이너 매니저(425)는 리모트 어플리케이션 컨테이너 매니저(remote application container manager)로 참조될 수 있다.
예를 들어, 리모트 컨테이너 매니저(425)를 이용하여, 리모트 전자 장치는 상기 하나 이상의 어플리케이션들 각각에 대응하는 인스턴스인 리모트 어플리케이션 컨테이너를 생성하거나, 및/또는 제거할 수 있다. 예를 들어, 리모트 전자 장치는 리모트 컨테이너 매니저(425)를 이용하여, 소스 전자 장치로 어플리케이션의 실행, 상기 어플리케이션의 화면을 공유하거나, 및/또는 상기 어플리케이션의 실행을 중단하라는 요청을 송신할 수 있다. 예를 들어, 어플리케이션을 실행하라는 요청을 수신하는 것에 응답하여, 소스 전자 장치는 상기 리모트 컨테이너 매니저(425)에 대응하는 소스 컨테이너 매니저(420)를 이용하여 획득된 소스 어플리케이션 컨테이너와 관련된 정보를 송신할 수 있다. 상기 정보를 수신하는 것에 응답하여, 리모트 전자 장치는 리모트 컨테이너 매니저(425)를 이용하여 상기 정보에 기반하여 상기 소스 어플리케이션 컨테이너에 대응하는 리모트 어플리케이션 컨테이너를 생성할 수 있다. 리모트 전자 장치는, 리모트 컨테이너 매니저(425)에 의해 나타나는 리모트 어플리케이션 컨테이너 및 소스 어플리케이션 컨테이너 사이의 매핑에 기반하여, 소스 전자 장치가 특정 소스 어플리케이션 컨테이너에 기반하여 송신하는 데이터를, 특정 소스 어플리케이션 컨테이너에 대응하는 리모트 어플리케이션 컨테이너로 송신할 수 있다.
일 실시예에 따른 리모트 전자 장치는, 하나 이상의 리모트 어플리케이션 컨테이너들을 이용하여, 소스 전자 장치 및 리모트 전자 장치 사이의 연결(220)에 기반하여 형성되는 하나 이상의 미러링 세션들에 기반하는 통신을 수행할 수 있다. 도 4를 참고하면, 소스 전자 장치에 의해 생성된 N 개의 소스 어플리케이션 컨테이너들(422-1, 422-2, ..., 422-N) 각각에 대응하는, N 개의 리모트 어플리케이션 컨테이너들(427-1, 427-2, ..., 427-N)이 도시된다. 예를 들어, 리모트 전자 장치는 리모트 컨테이너 매니저(425)에 적어도 기반하여, 소스 전자 장치에서 실행되고 있는 하나 이상의 소스 어플리케이션 컨테이너들과 일대일 대응을 가지는 하나 이상의 리모트 어플리케이션 컨테이너들을 획득할 수 있다. 일 실시예에 따른 리모트 전자 장치는, 리모트 컨테이너 매니저(425)에 기반하여, N 개의 리모트 어플리케이션 컨테이너들(427-1, 427-2, ..., 427-N) 각각에 고유한 식별자를 할당할 수 있다. 상기 식별자에 기반하여, N 개의 리모트 어플리케이션 컨테이너들(427-1, 427-2, ..., 427-N)은 N 개의 소스 어플리케이션 컨테이너들(422-1, 422-2, ..., 422-N) 각각에 대응할 수 있다.
일 실시예에 따른 리모트 전자 장치는 리모트 오디오 매니저(435)에 기반하여, 소스 전자 장치로부터 수신되는 하나 이상의 오디오 신호들 전부를 관리할 수 있다. 예를 들어, 리모트 오디오 매니저(435)를 이용하여, 리모트 전자 장치는 상기 하나 이상의 오디오 신호들을 수신하기 위한 리모트 오디오를 생성하거나, 및/또는 제거할 수 있다. 일 실시예에서, 리모트 오디오 매니저(435)는 오디오 리디렉터 싱크 매니저(Audio Redirector Sink Manager)로 참조될 수 있다. 일 실시예에서, 리모트 전자 장치는 리모트 오디오 매니저(435)를 이용하여, 스크린 미러링 싱크 매니저(415) 및/또는 하나 이상의 리모트 어플리케이션 컨테이너들로부터 요청된, 오디오의 스트리밍을 처리하기 위한 리모트 오디오를 획득할 수 있다. 리모트 전자 장치는, 소스 전자 장치로부터 수신되는 오디오 신호를, 대응하는 리모트 오디오로 송신할 수 있다.
일 실시예에 따른 리모트 전자 장치는, 하나 이상의 리모트 오디오들을 이용하여, 소스 전자 장치 및 리모트 전자 장치 사이의 연결(220)에 기반하여 형성되고, 오디오를 수신하기 위한 하나 이상의 세션들을 제어할 수 있다. 일 실시예에서, 리모트 오디오는 오디오 리디렉터 싱크(Audio Redirector Sink)로 참조될 수 있다. 리모트 오디오에 의해 제어되는 상기 하나 이상의 세션들은, 오디오 스트리밍 세션으로 참조될 수 있다. 도 4를 참고하면, 리모트 전자 장치가 리모트 오디오 매니저(435)를 이용하여 생성한 M 개의 리모트 오디오들(437-1, ..., 437-M)이 도시된다. 도 4의 일 예에서, M 개의 리모트 오디오들(437-1, ..., 437-M)은 소스 오디오들(432-1, ..., 432-M) 각각에 대응할 수 있다. 예를 들어, 전자 장치는 리모트 오디오 매니저(435)를 이용하여, M 개의 리모트 오디오들(437-1, ..., 437-M)에게 상이한 식별자들을 할당할 수 있다. 상기 식별자들은, 식별자에 의해 나타나는 리모트 오디오에 대응하는 소스 오디오의 식별자와 일치할 수 있다.
도 4의 일 예에서, N 개의 소스 어플리케이션 컨테이너들(422-1, 422-2, ..., 422-N) 및 N 개의 리모트 어플리케이션 컨테이너들(427-1, 427-2, ..., 427-N) 사이에서, 소스 전자 장치에서 실행되는 하나 이상의 어플리케이션들로부터 획득된 N 개의 화면들을 나타내는 N 개의 비디오 신호들을 스트리밍하기 위한, N 개의 화면 스트리밍 세션들이 수립될 수 있다. 도 4의 일 예에서, M 개의 소스 오디오들(432-1, ..., 432-M)이 M 개의 리모트 오디오들(437-1, ..., 437-M) 사이에서, 소스 전자 장치에서 실행되는 상기 하나 이상의 어플리케이션들로부터 획득된 M 개의 오디오 신호들을 스트리밍하기 위한 M 개의 오디오 스트리밍 세션들이 수립될 수 있다. 상기 화면 스트리밍 세션들 및 상기 오디오 스트리밍 세션들은, 상기 하나 이상의 어플리케이션들에 기반하여 서로 대응할 수 있다. M 개의 오디오 스트리밍 세션들을 통하여, 소스 전자 장치에서 실행되고 있는, 최소 M 개의 어플리케이션들 각각에서 획득된 오디오 신호들을 개별적으로 송신함에 따라, 리모트 전자 장치는 수신된 오디오 신호들을 독립적으로 출력할 수 있다.
상술한 바와 같이, 미러링 기능을 지원하기 위하여, 일 실시예에 따른 소스 전자 장치 및 리모트 전자 장치는 대응하는 하나 이상의 인스턴스들에 기반하여 동작하는 프로그램들(372, 374)을 실행할 수 있다. 프로그램들(372, 374) 각각을 실행하는 소스 전자 장치 및 리모트 전자 장치 사이에 수립된 연결(220)은, 하나 이상의 화면 스트리밍 세션들 및/또는 하나 이상의 오디오 스트리밍 세션들을 포함할 수 있다. 하나 이상의 화면 스트리밍 세션들은, 리모트 전자 장치를 통해 표시되고, 소스 전자 장치로부터 제공된 상이한 화면들 각각에 대응할 수 있다. 상기 상이한 화면들은, 예를 들어, 소스 전자 장치의 디스플레이 상에서 표시되고 있는 제1 화면, 및/또는 리모트 전자 장치의 요청에 응답하여 소스 전자 장치에서 실행되고, 상기 제1 화면과 구별되는 하나 이상의 제2 화면들을 포함할 수 있다. 하나 이상의 오디오 스트리밍 세션들은, 리모트 전자 장치를 통해 출력되고, 소스 전자 장치로부터 제공된 상이한 오디오 신호들 각각에 대응할 수 있다. 상기 오디오 신호들은, 예를 들어, 소스 전자 장치의 스피커를 통해 출력되고 있는 제1 오디오를 나타내는 제1 오디오 신호, 및/또는 리모트 전자 장치의 요청에 응답하여 소스 전자 장치에서 실행되고, 상기 제1 오디오 신호와 구별되는 하나 이상의 제2 오디오 신호들을 포함할 수 있다.
이하에서는, 도 5를 참고하여, 프로그램(372)을 실행하는 소스 전자 장치가 수행하는 동작이 상세히 설명된다.
도 5는 일 실시예에 따른 전자 장치가, 전자 장치에서 실행되고 있는 하나 이상의 어플리케이션들로부터 제공되는 오디오를 제어하기 위해 실행하는 프로그램(372)을 설명하기 위한 도면이다. 도 5의 전자 장치는 도 1 내지 도 3의 전자 장치(101) 및/또는 도 4의 소스 전자 장치의 일 예에 대응할 수 있다. 도 5의 프로그램(372)은, 도 4의 소스 전자 장치와 관련된 프로그램(372)의 일 예에 대응할 수 있다.
도 5를 참고하면, 일 실시예에 따른 전자 장치가 프로그램(372)에 기반하여 실행하는 복수의 인스턴스들로써, 스크린 미러링 소스 매니저(410), 소스 컨테이너 매니저(420), N 개의 소스 어플리케이션 컨테이너들(422-1, 422-2, ..., 422-N), 소스 오디오 매니저(430), M 개의 소스 오디오들(432-1, ..., 432-M) 및 오디오 서비스(440)가 도시된다. 도 4에서 상술한 바와 같이, N 개의 소스 어플리케이션 컨테이너들(422-1, 422-2, ..., 422-N)은 N 개의 화면 스트리밍 세션들 각각에 대응할 수 있다. M 개의 소스 오디오들(432-1, ..., 432-M)은 M 개의 오디오 스트리밍 세션들 각각에 대응할 수 있다. 이하에서, 전자 장치가 프로그램(372)에 기반하여 실행하는 하나 이상의 인스턴스들 중에서 도 4와 중복되는 설명은 편의상 생략된다.
도 5를 참고하면, 일 실시예에 따른 전자 장치는 스크린 미러링 소스 매니저(410)를 이용하여, 전자 장치의 디스플레이 및 스피커를 통해 제공되는 멀티미디어 콘텐트를, 다른 전자 장치(예, 도 3의 전자 장치(210))에 제공할 수 있다. 예를 들어, 전자 장치는 스크린 미러링 소스 매니저(410)에 기반하여, 전자 장치에서 제공되는 모든 오디오를 획득할 수 있다. 일 실시예에 따른 전자 장치는 스크린 미러링 소스 매니저(410)에 포함된 가상 디스플레이(520), 입력 서피스(530), 비디오 인코더(540) 및/또는 소스 오디오 핸들(550)에 기반하여, 상기 멀티미디어 콘텐트와 관련된 미러링 기능을 실행할 수 있다. 예를 들어, 스크린 미러링 소스 매니저(410)에 포함된 가상 디스플레이(520) 및 입력 서피스(530)는, 전자 장치의 디스플레이의 표시 영역에 기반하여 실행되고 있는 하나 이상의 어플리케이션들의 화면이 렌더링되는 프레임 버퍼와 관련될 수 있다. 상기 프레임 버퍼는, 예를 들어, 서피스 플린저(미도시)와 같은 시스템 서비스에 기반하여, 전자 장치에 포함된 메모리 내에서 선택된 일부분에 대응할 수 있다. 예를 들어, 입력 서피스(530)는 서피스 플린저로부터 제공된 상기 프레임 버퍼에 기반하여, 상기 화면이 렌더링 되는 가상 디스플레이(520)를, 상기 하나 이상의 어플리케이션들에 제공할 수 있다. 전자 장치는 비디오 인코더(540)를 이용하여, 가상 디스플레이(520) 및 입력 서피스(530)를 통해 획득된 디스플레이의 표시 영역의 전체에 대응하는 화면을 인코딩하여, 다른 전자 장치로 송신될 비디오 신호를 획득할 수 있다.
일 실시예에 따른 전자 장치는 스크린 미러링 소스 매니저(410)의 소스 오디오 핸들(550)을 이용하여, 소스 오디오 매니저(430)에 의해 관리되는 전체 소스 오디오(full source audio)(510)를 식별할 수 있다. 이하에서, 전체 소스 오디오(510)는 전체 오디오 리디렉터 소스(full audio redirector source)로 참조될 수 있다. 전체 소스 오디오(510)는, 전자 장치가 소스 오디오 매니저(430)를 이용하여 실행하는 인스턴스로써, 전자 장치에서 실행되는 어플리케이션들 모두에서 출력되는 오디오를 획득하기 위한 인스턴스에 대응할 수 있다. 예를 들어, 전체 소스 오디오(510)는, 전자 장치에서 실행되는 어플리케이션들 모두에서 출력되는 오디오의 결합을, 다른 전자 장치로 스트리밍하기 위한 인스턴스를 의미할 수 있다. 상기 전체 소스 오디오(510)는, 소스 오디오 매니저(430)가 실행된 전자 장치에 의하여, 다른 전자 장치로부터 전자 장치에서 표시되고 있는 화면을 송신하라는 요청에 응답하여, 생성될 수 있다.
도 5를 참고하면, 일 실시예에 따른 전자 장치는 소스 어플리케이션 컨테이너에 포함된 가상 디스플레이(예, 가상 디스플레이들(522-1, 522-2, ..., 522-N)), 입력 서피스(예, 입력 서피스들(532-1, 532-2, ..., 532-N)), 비디오 인코더(예, 비디오 인코더들(542-1, 542-2, ..., 542-N)) 및 소스 오디오 핸들(예, 소스 오디오 핸들들(552-1, 552-2, ..., 552-N))을 이용하여, 소스 어플리케이션 컨테이너에 대응하는 어플리케이션의 화면 및 오디오를, 다른 전자 장치로 제공할 수 있다. 소스 어플리케이션 컨테이너에 포함된 상기 가상 디스플레이, 입력 서피스 및 비디오 인코더는, 소스 어플리케이션 컨테이너에 대응하는 어플리케이션의 화면에 대하여, 스크린 미러링 소스 매니저(410)의 가상 디스플레이(520), 입력 서피스(530) 및 비디오 인코더(540) 각각과 유사하게 동작할 수 있다. 예를 들어, 가상 디스플레이(522-1) 및 입력 서피스(532-1)는 소스 어플리케이션 컨테이너(422-1)에 대응하는 어플리케이션의 화면을, 전자 장치의 디스플레이의 표시 영역에 대응하는 프레임 버퍼와 상이한 다른 프레임 버퍼에 렌더링하기 위해 이용되는 정보를 포함할 수 있다. 전자 장치는 비디오 인코더(542-1)를 이용하여 소스 어플리케이션 컨테이너(422-1)에 대응하는 어플리케이션에 의하여 가상 디스플레이(522-1) 내에 렌더링된 화면을 나타내는 비디오 신호를 획득할 수 있다. 상기 비디오 신호는 소스 어플리케이션 컨테이너(422-1)에 할당된 식별자에 기반하여, 다른 전자 장치로 스트리밍될 수 있다.
일 실시예에 따른 전자 장치는 소스 어플리케이션 컨테이너에 포함된 소스 오디오 핸들에 기반하여, 상기 소스 어플리케이션 컨테이너에 연결된 소스 오디오를 식별할 수 있다. 예를 들어, 전자 장치는 소스 오디오 핸들(552-1) 내에 저장된 정보를 이용하여, 소스 어플리케이션 컨테이너(422-1)에 대응하는 어플리케이션으로부터 제공되는 오디오를 획득하는 소스 오디오(432-1)를 식별할 수 있다. 도 5를 참고하면, 복수의 소스 오디오 핸들들(552-1, 552-2)이 하나의 소스 오디오(432-1)를 나타낼 수 있다. 예를 들어, 특정 어플리케이션이 복수의 화면들을 생성하는 경우, 전자 장치는 소스 컨테이너 매니저(420)에 기반하여, 상기 복수의 화면들 각각에 대응하는 복수의 소스 어플리케이션 컨테이너들(422-1, 422-2)을 획득할 수 있다. 상기 예시에서, 전자 장치가 특정 어플리케이션에 고유하게 할당된 UID에 기반하여 생성하는 경우, 전자 장치는 소스 오디오 매니저(430)를 이용하여 상기 특정 어플리케이션에 대응하는 단일 소스 오디오(432-1)를 생성할 수 있다. 이 경우, 전자 장치는 소스 오디오 핸들들(552-1, 552-2)을 이용하여, 소스 어플리케이션 컨테이너들(422-1, 422-2) 및 소스 오디오(432-1)를 연결할 수 있다. 이 경우, 복수의 소스 어플리케이션 컨테이너들(422-1, 422-2)은, 복수의 화면들 각각에 할당된 디스플레이 ID 및/또는 태스크 ID에 기반하여 구별될 수 있다.
도 5를 참고하면, 전자 장치가 소스 오디오 매니저(430)에 기반하여 생성한 전체 소스 오디오(510) 및 M 개의 소스 오디오들(432-1, ..., 432-M)은, 오디오 레코더(예, 오디오 레코더들(560, 562-1, ..., 562-M)) 및 오디오 인코더들(570, 572-1, ..., 572-M)을 포함할 수 있다. 전자 장치는 오디오 레코더를 이용하여, 소스 오디오에 연결된 하나 이상의 어플리케이션들 및/또는 화면들에 대응하는 하나 이상의 오디오 신호들을 결합할 수 있다. 전자 장치가 오디오 레코더를 이용하여 오디오 신호들을 결합 및/또는 획득하는 것은, 오디오 서비스(450)를 통해 제공되고, 오디오 믹싱을 가이드하는 정보에 기반하여 수행될 수 있다. 전자 장치는 오디오 인코더를 이용하여, 결합된 오디오 신호를 인코딩하여, 다른 전자 장치로 송신될 오디오 신호를 획득할 수 있다. 예를 들어, 전자 장치는 전체 소스 오디오(510)에 포함된 오디오 레코더(560)를 이용하여, 전자 장치에서 실행되고 있는 어플리케이션들 전체로부터 획득된 하나 이상의 오디오 신호들을 결합할 수 있다. 전자 장치는 오디오 인코더(570)를 이용하여, 오디오 레코더(560)에 의해 결합된 오디오 신호로부터, 다른 전자 장치로 송신될 오디오 신호를 획득할 수 있다.
도 5를 참고하면, 전자 장치는 소스 오디오(432-1)에 연결된 소스 어플리케이션 컨테이너들(422-1, 422-2) 각각에 대응하는 화면들에 대응하는 오디오 신호들을, 오디오 레코더(562-1)를 이용하여 결합할 수 있다. 상기 화면들은, 예를 들어, 제1 어플리케이션에 의해 생성된 화면들일 수 있다. 전자 장치는 오디오 레코더(562-1)에 대응하는 오디오 인코더(572-1)를 이용하여, 오디오 레코더(562-1)에 의하여 결합된 오디오 신호를 인코딩할 수 있다. 오디오 인코더(572-1)에 기반하여 인코딩된 오디오 신호는, 소스 오디오(432-1)에 고유하게 할당된 정보에 기반하여, 전자 장치에서 다른 전자 장치로 송신될 수 있다. 유사하게, 전자 장치는 소스 오디오(432-M)에 연결된 소스 어플리케이션 컨테이너(422-N)에 대응하고, 상기 제1 어플리케이션과 구별되는 제2 어플리케이션으로부터 제공된 오디오 신호를, 오디오 레코더(562-M)를 이용하여 획득할 수 있다. 전자 장치는 오디오 레코더(562-M)를 이용하여 획득된 상기 오디오 신호를, 오디오 인코더(572-M)를 이용하여 인코딩할 수 있다. 오디오 인코더(572-M)에 기반하여 인코딩된 오디오 신호는, 소스 오디오(432-1)에 할당된 정보와 상이하고, 소스 오디오 매니저(430)에 의하여 소스 오디오(432-M)에 할당된, 정보에 기반하여 다른 전자 장치로 송신될 수 있다.
상술한 바와 같이, 일 실시예에 따른 전자 장치는 프로그램(372)을 실행하여, 전자 장치에서 실행되고 있는 복수의 어플리케이션들 각각에 대응하는 오디오 신호들을 적어도 부분적으로(at least partially) 결합하거나, 및/또는 다른 전자 장치로 송신할 수 있다. 이 경우, 전자 장치는 구별되는 오디오 스트리밍 세션들을 이용하여, 다른 전자 장치로 복수의 오디오 신호들을 독립적으로 송신할 수 있다. 독립적으로 송신되는 복수의 오디오 신호들은, 다른 전자 장치에 의해 독립적으로 제어되고, 상기 복수의 오디오 신호들 각각에 할당된, 복수의 볼륨들에 기반하여 다른 전자 장치에 의해 재생될 수 있다.
이하에서는 도 6을 참고하여, 일 실시예에 따른 전자 장치가, 전자 장치에서 실행되고 있는 어플리케이션들로부터 획득한 오디오 신호들을 적어도 부분적으로 믹싱하는 동작이 설명된다.
도 6은 일 실시예에 따른 전자 장치가, 전자 장치에서 실행되고 있는 복수의 어플리케이션들에서 획득된 오디오 신호들을 믹싱하는 동작을 설명하기 위한 예시적인 도면이다. 도 6의 전자 장치는 도 1 내지 도 3의 전자 장치(101) 및/또는 도 4의 소스 전자 장치의 일 예에 대응할 수 있다.
도 6을 참고하면, 전자 장치에서 실행되고 있는 N 개의 어플리케이션들 각각에서 생성되는 오디오(612-1, 612-2, ..., 612-N) 및 전자 장치의 운영 체제(예, 도 1의 운영 체제(142)) 및/또는 미들 웨어(예, 도 1의 미들 웨어(144))로부터 생성되는 시스템 오디오(610) 각각에 대응하는 신호 경로들(signal paths)이 도시된다. 상기 신호 경로는 오디오(612-1, 612-2, ..., 612-N) 및 시스템 오디오(610) 각각에 대응하는 데이터 스트림 및/또는 오디오 신호들과 관련될 수 있다. 상기 신호 경로는, 전자 장치 내에서 형성된 논리적인 신호 경로로써, 예를 들어, 도 4 내지 도 5의 프로그램(372)을 실행하는 전자 장치에 의하여 생성될 수 있다. 상기 신호 경로를 통하여 상술된 오디오에 대응하는 오디오 신호가 전자 장치의 스피커 및/또는 전자 장치와 구별되는 다른 전자 장치로 송신될 수 있다. 예를 들어, 도 6의 오디오 서비스(450), 오디오 플린저(460) 및 오디오 정책 서비스(470)는 도 4의 프로그램(372)에 포함된 오디오 서비스(450), 오디오 플린저(460) 및 오디오 정책 서비스(470) 각각에 대응할 수 있다.
일 실시예에 따른 전자 장치는 오디오(612-1, 612-2, ..., 612-N) 및 시스템 오디오(610) 각각에 대응하는 신호 경로들을 조절하거나, 상기 신호 경로들에 의하여 단일 오디오 믹서(예, 오디오 믹서(620))로 전달되는 복수의 오디오 신호들을 믹싱하여, 전자 장치의 스피커 및/또는 다른 전자 장치로 제공될 오디오 신호를 획득할 수 있다. 상기 신호 경로는, 예를 들어, 도 5의 소스 오디오 핸들들(550, 552-1, 552-2, ..., 552-N)에 기반하여 결정될 수 있다.
이하에서는 도 6을 참고하여, 전자 장치가 다른 전자 장치로 미러링 기능에 기반하여, 복수의 화면들 및 상기 화면들에 대응하는 오디오 신호들을 스트리밍하는 상태에서, 전자 장치가, 전자 장치에서 실행되는 복수의 어플리케이션들 각각과 관련된 신호 경로들을 조절하는 동작이 설명된다. 예를 들어, 전자 장치가 다른 전자 장치로, 제1 어플리케이션에 대응하는 제1 화면, 제2 어플리케이션에 대응하는 제2 화면 및 디스플레이의 표시 영역에 대응하는 제3 화면을 개별적으로 송신하는 것으로 가정한다.
도 6을 참고하면, 전자 장치에서 실행되고 있는 어플리케이션들 및 운영 체제에 의해 구별되는 오디오(오디오(612-1, 612-2, ..., 612-N) 및 시스템 오디오(610)) 중 적어도 하나에 대응하는 오디오 믹서들(622-1, 622-2, 620)이 도시된다. 상기 오디오 믹서들(622-1, 622-2, 620)은, 전자 장치에서 실행되고 있는 인스턴스로써, 오디오 믹서에 입력되는 하나 이상의 오디오 신호들을, 오디오 플린저(460)로부터 제공되는 정보(예, 오디오 믹싱 규칙을 나타내는 정보)에 기반하여 믹싱하기 위하여 실행될 수 있다.
일 실시예에서, 상기 오디오 믹서들(622-1, 622-2, 620)은, 하나 이상의 소스 오디오들(예, 도 5의 전체 소스 오디오(510) 및/또는 소스 오디오들(432-1, ..., 432-M)) 각각에 대응할 수 있다. 도 6을 참고하면, 전자 장치에서 발생하는 모든 오디오(예, N 개의 어플리케이션들에서 발생되는 오디오(612-1, 612-2, ..., 612-N) 및 시스템 오디오(610))와 관련된 오디오 믹서(620)는, 예를 들어, 도 5의 스크린 미러링 소스 매니저(410)에 대응하는 전체 소스 오디오(510)에 대응할 수 있다.
상기 모든 오디오 중에서 제1 어플리케이션에서 생성된 오디오(612-1)를 수신하는 오디오 믹서(622-1)는, 상기 제1 어플리케이션에 대응하는 소스 오디오 및 상기 소스 오디오의 오디오 레코더(642)에 대응할 수 있다. 상기 모든 오디오 중에서 제2 어플리케이션에서 생성된 오디오(612-2)를 수신하는 오디오 믹서(622-2)는, 상기 제2 어플리케이션에 대응하는 소스 오디오 및 상기 소스 오디오의 오디오 레코더(644)에 대응할 수 있다. 예를 들어, 전자 장치는 오디오 믹서들(622-1, 622-2) 각각에 할당되고, 제1 어플리케이션 및 제2 어플리케이션 각각에 대응하는, 상이한 UID들을 이용하여, 오디오 믹서들(622-1, 622-2) 및 오디오(612-1, 612-2) 사이의 매핑을 식별할 수 있다. 오디오 믹서들(622-1, 622-2)에 의하여, 제1 어플리케이션 및 제2 어플리케이션 각각의 오디오에 대응하는 오디오 신호들이 생성될 수 있다. 전자 장치는 오디오 믹서들(622-1, 622-2)에 기반하여, 지정된 볼륨(예, 최대 볼륨)을 따라 오디오(612-1, 612-2) 각각에 대응하는 오디오 신호들을 생성할 수 있다.
생성된 오디오 신호들은, 오디오 믹서들(622-1, 622-2) 각각에 대응하는 오디오 레코더들(642, 644)로 송신될 수 있다. 전자 장치는 오디오 레코더들(642, 644) 각각에 대응하는 소스 오디오에 기반하여, 다른 전자 장치로 상기 오디오 신호들을 송신할 수 있다. 예를 들어, 제1 어플리케이션과 관련된 오디오 믹서(622-1)에 의해 생성된 제1 오디오 신호가, 다른 오디오 믹서들(622-2, 620)에 의해 생성된 다른 오디오 신호들과 독립적으로 다른 전자 장치로 송신될 수 있다. 예를 들어, 상기 제1 오디오 신호는, 제1 어플리케이션과 구별되는 다른 어플리케이션들의 다른 오디오와 독립적으로 생성될 수 있다.
일 실시예에 따른 전자 장치는 모든 오디오(예, N 개의 어플리케이션들에서 발생되는 오디오(612-1, 612-2, ..., 612-N) 및 시스템 오디오(610))와 관련된 오디오 믹서(620)를 이용하여 획득된 오디오 신호를, 지정된 채널들 중 어느 한 채널을 따라 출력할 수 있다. 도 6을 참고하면, 상기 지정된 채널들은, 전자 장치의 스피커에 대응하는 논리적 채널인 렌더 채널(632), 상기 렌더 채널(632)과 구별되고, 스피커와 독립적으로 오디오 신호를 획득하기 위하여 이용되는 논리적 채널인 루프백 채널(634) 또는 오디오 신호를 버리는(for discarding) 논리적 채널인 널(null) 채널(636) 중 적어도 하나를 포함할 수 있다. 상기 루프백 채널(634)은, 예를 들어, REMOTE_SUBMIX와 같은 지정된 식별자를 가질 수 있다. 오디오 믹서(620) 및 상기 지정된 채널들 사이의 연결은, 예를 들어, 전자 장치에서 실행되는 오디오 서비스(450) 및/또는 오디오 플린저(460)에 기반하여 스위칭될 수 있다.
일 실시예에 따른 전자 장치는, 다른 전자 장치로 디스플레이의 표시 영역에 대응하는 제3 화면을 송신하는 상태에서, 오디오 믹서(620)에 의하여 믹싱된 오디오 신호를, 상기 지정된 채널들 중에서 루프백 채널(634)에 할당할 수 있다. 도 6을 참고하면, 루프백 채널(634)에 도 5의 스크린 미러링 소스 매니저(410)에 대응하는 전체 소스 오디오(510)의 오디오 레코더(560)가 매칭됨에 따라, 루프백 채널(634)에 할당된 오디오 신호는, 다른 전자 장치로 송신될 수 있다. 이 경우, 오디오 믹서(620)에 의하여 믹싱된 오디오 신호가 렌더 채널(632)과 구별되는 루프백 채널(634)로 전달됨에 따라, 전자 장치가 스피커를 통하여 오디오를 재생하는 것이 중단될 수 있다. 전자 장치가 스피커를 통하여 오디오를 재생하는 것이 중단된 상태에서, 다른 전자 장치가 상기 루프백 채널(634)에 기반하여 전자 장치로부터 제공된 오디오의 재생을 개시할 수 있다(may initiate).
일 실시예에 따른 전자 장치는, 오디오 정책 서비스(470)에 저장되고, 오디오 플린저(460)를 통하여 오디오 서비스(450)로부터 제공되는 정보에 기반하여, 다른 오디오 믹서들(622-1, 622-2)에 대응하는 상기 제1 어플리케이션 및 상기 제2 어플리케이션 각각에 대응하는 오디오(612-1, 612-2)를, 오디오 믹서(620)에 의해 믹싱된 오디오 신호로부터 제외할 수 있다. 예를 들어, 전자 장치는 오디오 믹서(620)로 제공되는 상기 정보를 이용하여, 오디오 믹서(620)가 수신한 오디오(612-1, 612-2) 각각에 결합될 볼륨(예, 믹싱 볼륨)을, 실질적으로 0(zero)으로 만들 수 있다. 이 경우, 오디오 믹서(620)에서, 상기 모든 오디오 중에서 오디오(612-1, 612-2)가 음소거될 수 있고, 다른 오디오는 음소거와 구별되는 지정된 볼륨을 가질 수 있다. 오디오(612-1, 612-2)가 음소거됨에 따라, 오디오 믹서(620)는 상기 모든 오디오 중에서 오디오(612-1, 612-2)를 제외한 다른 오디오가 믹싱된 오디오 신호를 출력할 수 있다. 도 6을 참고하면, 출력된 오디오 신호는 루프백 채널(634)을 따라 오디오 레코더(560)로 송신될 수 있다.
일 실시예에서, 전자 장치는 오디오 서비스(450)로부터 오디오 믹서(620)에 제공되는 상기 정보에 기반하여, 다른 오디오 믹서들(622-1, 622-2)에 대응하는 오디오(612-1, 612-2)의 오디오 믹서(620)에서의 신호 경로를, 상기 오디오(612-1, 612-2)와 구별되는 다른 오디오와 다르게 만들 수 있다. 예를 들어, 전자 장치는 오디오 믹서(620)에서 오디오(612-1, 612-2)에 대응하는 신호 경로를, 루프백 채널(634)과 구별되는 다른 채널(예, 널 채널(636))에 할당할 수 있다. 오디오(612-1, 612-2)에 대응하는 신호 경로를 상기 다른 채널(예, 널 채널(636))에 할당한 상태에서, 전자 장치는 오디오(612-1, 612-2)와 구별되는 다른 오디오의 신호 경로를, 루프백 채널(634)에 할당할 수 있다. 이 경우, 오디오(612-1, 612-2)에 대응하는 오디오 신호들이 오디오 믹서(620)를 통하여 루프백 채널(634)과 구별되는 다른 채널로 송신됨에 따라, 오디오(612-1, 612-2)에 대응하는 오디오 신호들이 루프백 채널(634)로 송신되는 것이 중단될 수 있다.
상술한 바와 같이, 일 실시예에 따른 전자 장치가 오디오 믹서(620)로 제공되는 상기 정보를 이용하여, 오디오(612-1, 612-2)에 대응하는 믹싱 볼륨 및/또는 신호 경로를, 다른 오디오에 대응하는 믹싱 볼륨 및/또는 신호 경로와 다르게 만드는 것은, 오디오 믹서들(622-1, 622-2, 620) 각각에 대응하는 오디오 레코더들(642, 644, 560) 각각에 의한 오디오 녹음이 유지되는 동안, 수행될 수 있다. 예를 들어, 전자 장치는 다른 전자 장치로, 오디오 믹서(620)에 기반하여 전자 장치의 모든 어플리케이션들 및 운영 체제에서 발생되는 모든 오디오를 스트리밍하는 상태에서, 상기 스트리밍을 중단(예, 오디오 스트리밍 세션의 재시작 및/또는 재생성)하지 않으면서, 다른 오디오 믹서들(622-1, 622-2)에 기반하는 오디오의 스트리밍을 개시할 수 있다. 예를 들어, 전자 장치는 특정 오디오 스트리밍 세션의 생성 및/또는 제거를, 다른 오디오 스트리밍 세션에 기반하는 스트리밍의 중단 없이 수행할 수 있다. 도 6을 참고하면, 복수의 오디오 믹서들에 연결되는 복수의 신호 경로들을 가지는 오디오(612-1, 612-2)의 믹싱이, 실질적으로 단일 오디오 믹서에 의해 수행됨에 따라, 전자 장치가 복수의 오디오 믹서들(622-1, 622-2, 620) 각각에 대응하는 오디오 레코더(642, 644, 560)로부터 획득하는 오디오 신호들은, 구별되는 오디오를 포함할 수 있다. 예를 들어, 전자 장치가 오디오 레코더(560)로부터 획득하는 오디오 신호는, 오디오(612-1, 612-2)와 구별되는 다른 오디오를 포함할 수 있다. 예를 들어, 전자 장치가 오디오 레코더(644)로부터 획득하는 오디오 신호는 오디오(612-2)에 대응하는 오디오 신호를 배타적으로 포함할 수 있다. 예를 들어, 상기 오디오 신호들은, 상기 오디오 신호들을 재생하는 다른 전자 장치에서 오디오가 이중으로 출력되지 않도록, 전자 장치에 의하여 생성될 수 있다.
이하에서는 도 7을 참고하여, 도 4의 프로그램(374)을 실행하는 전자 장치가 수행하는 동작이 상세히 설명된다.
도 7은 일 실시예에 따른 전자 장치가, 다른 전자 장치에서 실행되고 있는 하나 이상의 어플리케이션들로부터 제공되는 오디오를 수신하기 위해 실행하는 프로그램(374)을 설명하기 위한 도면이다. 도 7의 전자 장치는 도 1 내지 도 3의 전자 장치(210) 및/또는 도 4의 리모트 전자 장치의 일 예에 대응할 수 있다. 도 7의 다른 전자 장치는 도 1 내지 도 3의 전자 장치(101) 및/또는 도 4의 소스 전자 장치의 일 예에 대응할 수 있다. 도 7의 프로그램(374)은, 도 4의 리모트 전자 장치와 관련된 프로그램(374)의 일 예에 대응할 수 있다.
도 7을 참고하면, 일 실시예에 따른 전자 장치가 프로그램(374)에 기반하여 실행하는 복수의 인스턴스들로써, 스크린 미러링 싱크 매니저(415), 리모트 컨테이너 매니저(425), N 개의 리모트 어플리케이션 컨테이너들(427-1, 427-2, ..., 427-N), 리모트 오디오 매니저(435), M 개의 리모트 오디오들(437-1, ..., 437-M)이 도시된다. 도 5에서 상술한 바와 같이, N 개의 리모트 어플리케이션 컨테이너들(427-1, 427-2, ..., 427-N)은 N 개의 화면 스트리밍 세션들 각각에 대응할 수 있다. M 개의 리모트 오디오들(437-1, ..., 437-M)은 M 개의 오디오 스트리밍 세션들 각각에 대응할 수 있다. 이하에서는, 프로그램(374)을 실행하는 전자 장치와 구별되는 다른 전자 장치가 도 5의 일 예에 기반하여 동작하는 것으로 가정한다. 이하에서, 전자 장치가 프로그램(374)에 기반하여 실행하는 하나 이상의 인스턴스들 중에서, 도 4 내지 도 6과 중복되는 설명은 편의상 생략된다.
도 7을 참고하면, 일 실시예에 따른 전자 장치는 스크린 미러링 싱크 매니저(415)를 이용하여, 다른 전자 장치(예, 도 3의 전자 장치(101))로부터 제공되는 멀티미디어 콘텐트를 획득할 수 있다. 상기 멀티미디어 콘텐트는, 예를 들어, 상기 다른 전자 장치의 디스플레이 또는 스피커 중 적어도 하나를 통해 출력되는 비디오 및 오디오를 포함할 수 있다. 일 실시예에 따른 전자 장치는 스크린 미러링 싱크 매니저(415)에 포함된 비디오 디코더(720), 출력 서피스(730), 서피스 뷰(740) 및/또는 리모트 오디오 핸들(750)에 기반하여, 상기 멀티미디어 콘텐트를 출력할 수 있다. 예를 들어, 스크린 미러링 싱크 매니저(415)에 대응하고, 다른 전자 장치에서 실행되는, 스크린 미러링 소스 매니저(예, 도 4 내지 5의 스크린 미러링 소스 매니저(410))에 기반하여 생성된 비디오 신호가, 전자 장치로 송신될 수 있다. 전자 장치는 상기 비디오 신호를, 스크린 미러링 싱크 매니저(415)의 비디오 디코더(720)에 기반하여 디코딩할 수 있다. 전자 장치는 스크린 미러링 싱크 매니저(415)의 출력 서피스(730)를 이용하여, 비디오 디코더(720)에 의해 디코딩된 다른 전자 장치의 화면이 렌더링될 서피스 뷰(740)를 획득할 수 있다. 전자 장치는 비디오 디코더(720)에 의해 서피스 뷰(740)에서 렌더링 되는 화면을, 전자 장치의 디스플레이(예, 도 3의 디스플레이(344))의 적어도 일부분에 표시할 수 있다. 상기 서피스 뷰(740)는, 전자 장치가 출력 서피스(730)에 기반하여 획득한 프레임 버퍼와 관련될 수 있다.
일 실시예에 따른 전자 장치는 리모트 오디오 핸들(750)을 이용하여, 리모트 오디오 매니저(435)에 의해 관리되는 전체 리모트 오디오(full remote audio)(710)를 식별할 수 있다. 일 실시예에서, 리모트 오디오 핸들(750)은 오디오 리디렉터 핸들(audio redirector handle)로, 전체 리모트 오디오(710)는 전체 오디오 리디렉터 싱크(full audio redirector sink)로 참조될 수 있다. 전체 리모트 오디오(710)는, 전자 장치가 리모트 오디오 매니저(435)를 이용하여 실행하는 인스턴스로써, 다른 전자 장치에서 실행되는 어플리케이션들 모두에서 출력되는 오디오의 결합을, 전자 장치에서 재생하기 위한 인스턴스에 대응할 수 있다. 예를 들어, 전체 리모트 오디오(710)는, 다른 전자 장치의 디스플레이에서 표시되는 화면 및 상기 화면에 대응하는 오디오를 스트리밍하라는 사용자 입력을 수신하는 것에 응답하여, 리모트 오디오 매니저(435)에 기반하여 전자 장치에 의해 생성 및 실행될 수 있다.
도 7을 참고하면, 일 실시예에 따른 전자 장치는 리모트 어플리케이션 컨테이너에 포함된 비디오 디코더(예, 비디오 디코더들(722-1, 722-2, ..., 722-N)), 출력 서피스(예, 출력 서피스들(732-1, 732-2, ..., 732-N)), 서피스 뷰(예, 서피스 뷰들(742-1, 742-2, ..., 742-N)) 및 리모트 오디오 핸들(예, 리모트 오디오 핸들들(752-1, 752-2, ..., 752-N))을 이용하여, 다른 전자 장치로부터 제공된 하나 이상의 화면들에 대응하는 비디오 신호들 및/또는 하나 이상의 오디오 신호들을 출력할 수 있다. 리모트 어플리케이션 컨테이너에 포함된 비디오 디코더, 출력 서피스, 서피스 뷰 및 리모트 오디오 핸들은, 리모트 어플리케이션 컨테이너에 대응하는 어플리케이션의 화면에 대하여, 비디오 디코더(720), 출력 서피스(730), 서피스 뷰(740) 및 리모트 오디오 핸들(750) 각각과 유사하게 동작할 수 있다. 예를 들어, 전자 장치는 비디오 디코더(722-1)를 이용하여, 리모트 어플리케이션 컨테이너(427-1)에 대응하는 비디오 신호를 디코딩할 수 있다. 전자 장치는 출력 서피스(732-1)를 이용하여 획득된 서피스 뷰(742-1)에 디코딩된 비디오 신호에 의해 나타나는 화면을 렌더링할 수 있다.
일 실시예에 따른 전자 장치는 리모트 어플리케이션 컨테이너에 포함된 리모트 오디오 핸들에 기반하여, 리모트 어플리케이션 컨테이너에 연결된 리모트 오디오를 식별할 수 있다. 예를 들어, 전자 장치는 리모트 오디오 핸들(752-1) 내에 저장된 정보를 이용하여, 리모트 어플리케이션 컨테이너(427-1)에 대응하는 리모트 오디오(437-1)를 식별할 수 있다. 도 5에서 상술된 바와 유사하게, 다른 전자 장치에서 실행되는 특정 어플리케이션이 복수의 화면들을 생성하는 경우, 전자 장치는 상기 복수의 화면들 각각에, 복수의 리모트 어플리케이션 컨테이너들(427-1, 427-2)을 할당할 수 있다. 복수의 리모트 어플리케이션 컨테이너들(427-1, 427-2)은, 예를 들어, 상기 복수의 화면들 각각에 할당된 태스크 ID에 의해 구별될 수 있다. 전자 장치는 리모트 오디오 매니저(435)를 이용하여, 상기 특정 어플리케이션의 UID에 기반하여, 상기 특정 어플리케이션에 대응하는 리모트 오디오(437-1)를 생성할 수 있다. 이 경우, 복수의 리모트 어플리케이션 컨테이너들(427-1, 427-2) 각각의 리모트 오디오 핸들들(752-1, 752-2)은, 상기 리모트 오디오(437-1)에 연결될 수 있다.
도 7을 참고하면, 전자 장치가 리모트 오디오 매니저(435)에 기반하여 생성한 전체 리모트 오디오(710) 및 M 개의 리모트 오디오들(437-1, ..., 437-M)은, 오디오 디코더(예, 오디오 디코더들(780, 782-1, ..., 782-M)), 미디어 엘리먼트(예, 미디어 엘리먼트들(770, 772-1, ..., 772-M)) 및 볼륨 컨트롤러(예, 볼륨 컨트롤러들(760, 762-1, ..., 762-M))를 포함할 수 있다. 전자 장치는 오디오 디코더를 이용하여, 리모트 오디오에 대응하고, 다른 전자 장치로부터 송신된, 오디오 신호를 디코딩할 수 있다. 전자 장치는 미디어 엘리먼트를 이용하여, 오디오 디코더에 의해 디코딩된 오디오 신호에 의해 나타나는 오디오를 재생할 수 있다. 전자 장치는 볼륨 컨트롤러를 이용하여, 미디어 엘리먼트에 의해 재생되는 오디오의 볼륨을 변경할 수 있다. 전자 장치는 상기 볼륨 컨트롤러를 이용하여, 상기 볼륨 컨트롤러에 대응하는 서피스 뷰를 통하여, 전자 장치의 디스플레이 상에 상기 볼륨을 변경하기 위한 하나 이상의 시각적 객체들을 표시할 수 있다. 도 7을 참고하면, 볼륨 컨트롤러들(760, 762-1, ..., 762-M)이 전체 리모트 오디오(710) 및 M 개의 리모트 오디오들(437-1, ..., 437-M) 각각에 의하여 재생되는 오디오의 볼륨들을 독립적으로 조절하기 위하여 실행될 수 있다.
도 7을 참고하면, 리모트 오디오(437-1)가 다른 전자 장치에서 실행되는 특정 어플리케이션에 의해 생성된 복수의 화면들 각각에 대응하는 리모트 어플리케이션 컨테이너들(427-1, 427-2) 각각에 대응함에 따라, 전자 장치는 리모트 오디오(437-1)의 볼륨 컨트롤러(762-1)를 이용하여, 상기 복수의 화면들 각각에 대응하는 오디오 전체의 볼륨을 조절할 수 있다. 전자 장치가 볼륨 컨트롤러(762-1)를 이용하여 상기 볼륨을 조절하는 것은, 전체 리모트 오디오(710)의 볼륨 컨트롤러(760)에 기반하여 다른 전자 장치의 표시 영역에 대응하는 화면과 관련된 다른 오디오의 볼륨을 조절하는 것과 독립적으로 수행될 수 있다.
상술한 바와 같이, 일 실시예에 따른 전자 장치는 다른 전자 장치로부터 제공되는 복수의 오디오 신호들의 재생을, 복수의 오디오 신호들 각각에 대응하는 볼륨 컨트롤러들(예, 볼륨 컨트롤러들(760, 762-1, ..., 762-M))을 이용하여 독립적으로 조절할 수 있다. 이하에서는 도 8을 참고하여, 일 실시예에 따른 전자 장치가 미러링 기능에 기반하여, 다른 전자 장치로 화면 및 오디오의 제공을 요청하기 위해 표시하는 UI가 설명된다.
도 8은 일 실시예에 따른 전자 장치가, 다른 전자 장치에 의해 제공되는 하나 이상의 어플리케이션들을 실행하기 위해 표시하는 UI(User Interface)의 일 예를 도시한 도면이다. 도 8의 전자 장치는 도 1 내지 도 3의 전자 장치(210) 및/또는 도 4의 리모트 전자 장치의 일 예에 대응할 수 있다. 도 8의 다른 전자 장치는 도 1 내지 도 3의 전자 장치(101) 및/또는 도 4의 소스 전자 장치의 일 예에 대응할 수 있다. 도 8의 화면(810)은, 예를 들어, 도 4 및/또는 도 7의 프로그램(374)을 실행한 전자 장치가, 상기 전자 장치의 디스플레이(예, 도 3의 디스플레이(344))에 표시하는 UI의 일 예에 대응할 수 있다.
도 8을 참고하면, 일 실시예에 따른 전자 장치가 미러링 기능에 기반하여 다른 전자 장치를 제어하기 위하여 표시하는 화면(810)이 도시된다. 화면(810) 내에서, 전자 장치는 다른 전자 장치를 나타내기 위한 정보(예, 상기 다른 전자 장치의 사용자에 할당된 식별자 및/또는 상기 다른 전자 장치의 타입), 및/또는 다른 전자 장치에 저장된 정보의 적어도 일부분을 표시할 수 있다. 예를 들어, 시각적 객체(820)를 터치 및/또는 클릭하는 사용자 입력을 수신하는 것에 응답하여, 전자 장치는 화면(810) 내에, 다른 전자 장치에 저장되고, 다른 전자 장치에 의해 실행 가능한, 하나 이상의 어플리케이션들의 리스트(840)를 표시할 수 있다. 도 8의 일 예에서, 전자 장치는 리스트(840) 내에, 다른 전자 장치에 저장된 복수의 어플리케이션들 각각의 아이콘 및 명칭과 같은 식별자를 표시할 수 있다.
도 8을 참고하면, 화면(810) 내에서, 전자 장치는 리스트(840)와 함께, 다른 전자 장치에 저장된 복수의 어플리케이션들 중 적어도 하나의 어플리케이션들을 검색하기 위한 사용자 입력을 획득하는 시각적 객체(850)를 표시할 수 있다. 예를 들어, 텍스트 박스에 기반하는 시각적 객체(850) 내에서 입력되는 키워드에 기반하여, 전자 장치는 리스트(840) 내에서, 복수의 어플리케이션들 중 적어도 하나의 표시를 일시적으로 중단할 수 있다. 전자 장치는 리스트(840) 내에서, 어플리케이션을 선택하는 사용자 입력(예, 리스트(840)에 포함된 아이콘을 터치 및/또는 클릭하는 사용자 입력)을 수신하는 것에 응답하여, 다른 전자 장치로 상기 사용자 입력에 의해 선택된 어플리케이션에 기반하는 화면 및 오디오의 송신을 요청할 수 있다. 상기 사용자 입력을 수신하는 것에 응답하여, 전자 장치는 상기 어플리케이션에 대응하는 리모트 어플리케이션 컨테이너 및/또는 리모트 오디오를 획득할 수 있다. 상기 요청을 수신한 다른 전자 장치는, 상기 어플리케이션을 실행하면서, 상기 어플리케이션과 관련된 소스 어플리케이션 컨테이너 및/또는 소스 오디오를 획득할 수 있다. 상기 요청에 대응하는 비디오 신호 및 오디오 신호를 수신하는 것에 응답하여, 전자 장치는 화면(810)과 구별되는 디스플레이의 적어도 일부분에, 상기 비디오 신호에 의해 나타나고, 상기 다른 전자 장치로부터 제공된, 상기 어플리케이션의 화면을 표시할 수 있다. 상기 요청에 대응하는 오디오 신호를 수신하는 것에 응답하여, 전자 장치는 스피커를 통하여 상기 오디오 신호에 의해 나타나고, 상기 다른 전자 장치에서 실행되는 상기 어플리케이션에 의해 생성된, 오디오를 출력할 수 있다.
도 8을 참고하면, 화면(810) 내에서, 전자 장치는 다른 전자 장치의 디스플레이 및 스피커를 통하여 출력되고 있는 화면 및 오디오의 미러링과 관련된 시각적 객체(830)를 표시할 수 있다. 시각적 객체(830)를 터치 및/또는 클릭하는 사용자 입력을 수신하는 것에 응답하여, 전자 장치는 다른 전자 장치로, 다른 전자 장치의 디스플레이 및 스피커를 통하여 출력되고 있는 화면 및 오디오를 요청할 수 있다. 상기 시각적 객체(830)와 관련된 사용자 입력을 수신하는 것에 응답하여, 전자 장치는, 도 7의 스크린 미러링 싱크 매니저(415) 및/또는 전체 리모트 오디오(710)를 획득할 수 있다. 상기 시각적 객체(830)와 관련된 요청을 수신한 다른 전자 장치는, 도 5의 스크린 미러링 소스 매니저(410) 및/또는 전체 소스 오디오(510)를 획득할 수 있다. 다른 전자 장치의 디스플레이를 통하여 출력되고 있는 화면을 나타내는 비디오 신호를 수신하는 것에 응답하여, 전자 장치는 화면(810)과 구별되는 디스플레이의 적어도 일부분에, 상기 비디오 신호에 의해 지시되는 화면을 표시할 수 있다. 다른 전자 장치의 스피커를 통하여 출력되고 있는 오디오를 나타내는 오디오 신호를 수신하는 것에 응답하여, 전자 장치는 스피커를 통하여 상기 오디오 신호에 의해 지시되는 오디오를 출력할 수 있다.
이하에서는 도 9를 참고하여, 도 8의 전자 장치가 시각적 객체(830)와 관련된 제1 사용자 입력 및 리스트(840) 내에 포함된 특정 어플리케이션과 관련된 제2 사용자 입력을 수신한 상태에서, 상기 전자 장치 및 다른 전자 장치 사이에 수립되는 하나 이상의 화면 스트리밍 세션들 및 하나 이상의 오디오 스트리밍 세션들이 설명된다.
도 9는 일 실시예에 따른 전자 장치들 사이에 수립된 하나 이상의 연결들을 설명하기 위한 예시적인 도면이다. 상기 하나 이상의 연결들은, 도 2 내지 4의 연결(220)에 포함될 수 있다. 도 9의 화면(910)은 도 1 내지 도 3의 전자 장치(101) 및/또는 도 4의 소스 전자 장치의 디스플레이(예, 도 3의 디스플레이(342))를 통하여 표시되는 UI의 일 예를 나타난다. 도 9의 화면들(922, 926)은 도 1 내지 도 3의 전자 장치(210) 및/또는 도 4의 리모트 전자 장치의 디스플레이(예, 도 3의 디스플레이(344))에 독립적으로 표시되는 UI의 일 예를 나타낸다.
도 9를 참고하면, 리모트 전자 장치는 소스 전자 장치의 화면(910)에 대응하는 화면(924)을, 리모트 전자 장치에서 수신되고, 소스 전자 장치에서 출력되고 있는 멀티미디어 콘텐트를 요청하기 위한, 제1 사용자 입력(예, 도 8의 시각적 객체(830)와 관련된 사용자 입력)을 식별하는 것에 응답하여 표시할 수 있다. 상기 제1 사용자 입력을 식별하는 것에 응답하여, 소스 전자 장치 및 리모트 전자 장치 사이에서, 소스 전자 장치의 디스플레이 및 스피커에 대응하는 화면 및 오디오를 스트리밍하기 위한 미러링 세션(930)이 수립될 수 있다. 미러링 세션(930)은, 예를 들어, 도 4의 스크린 미러링 소스 매니저(410) 및 스크린 미러링 싱크 매니저(415) 사이의 데이터 송신을 야기할 수 있다.
도 9를 참고하면, 미러링 세션(930)은, 소스 전자 장치의 디스플레이에서 표시되는 화면을 스트리밍하기 위한 비디오 스트리밍 세션(950)을 포함할 수 있다. 상기 비디오 스트리밍 세션(950)은, 도 4의 스크린 미러링 소스 매니저(410) 및 스크린 미러링 싱크 매니저(415)의 매핑에 기반하여 수립될 수 있다. 도 9를 참고하면, 미러링 세션(930)은, 소스 전자 장치의 모든 오디오(예, 소스 전자 장치에서 실행되는 모든 어플리케이션들 및 운영 체제에서 생성된 오디오)를 스트리밍하기 위한 오디오 스트리밍 세션(940)을 포함할 수 있다. 상기 오디오 스트리밍 세션(940)은, 도 5의 전체 소스 오디오(510) 및 도 7의 전체 리모트 오디오(710) 사이의 스트리밍을 위해 이용될 수 있다. 오디오 스트리밍 세션(940)을 통하여, 소스 전자 장치는 리모트 전자 장치로, 소스 전자 장치에서 실행되는 운영 체제에 의하여 생성된 시스템 오디오(946) 및 화면(910)에 대응하는 제1 어플리케이션에 대응하는 오디오(942)를 스트리밍할 수 있다.
도 9를 참고하면, 리모트 전자 장치는 미러링 세션(930)의 비디오 스트리밍 세션(950)을 이용하여, 소스 전자 장치의 화면(910)에 대응하는 화면(922)을 표시할 수 있다. 리모트 전자 장치는 화면(922) 내에, 리모트 전자 장치의 디스플레이 내에서 화면(922)의 크기 및/또는 위치를 변경하기 위한 하나 이상의 시각적 객체들을 더 표시할 수 있다. 리모트 전자 장치는 화면(922) 내에, 화면(922)에 대응하는 소스 전자 장치와 관련된 정보를 더 표시할 수 있다. 리모트 전자 장치는 화면(922)을 표시하는 상태에서, 미러링 세션(930)에 포함된 오디오 스트리밍 세션(940)에 기반하여, 소스 전자 장치로부터 제공된 오디오(예, 시스템 오디오(946) 및 제1 어플리케이션에 대응하는 오디오(942))를 출력할 수 있다. 일 실시예에 따른 리모트 전자 장치는 화면(922) 내에, 상기 화면(922)에 대응하는 오디오 스트리밍 세션(940)에 기반하여 출력되는 상기 오디오의 볼륨을 변경하기 위한 시각적 객체(924)를 표시할 수 있다. 상기 시각적 객체(924)는, 예를 들어, 도 7의 볼륨 컨트롤러(760)에 기반하여 표시될 수 있다.
도 9의 일 예에서, 소스 전자 장치의 디스플레이의 표시 영역 전체에 대응하는 화면(910)이 리모트 전자 장치로 제공되는 상태에서, 리모트 전자 장치는 제2 어플리케이션을 실행하기 위한 제2 사용자 입력(예, 도 8의 리스트(840) 내에서 제2 어플리케이션을 선택하는 사용자 입력)을 수신하는 것에 응답하여, 리모트 전자 장치는 소스 전자 장치로, 상기 제2 사용자 입력에 의해 지시되는 제2 어플리케이션의 실행을 요청할 수 있다. 상기 제2 사용자 입력을 식별하는 것에 응답하여, 소스 전자 장치 및 리모트 전자 장치 사이에서, 미러링 세션(930)과 구별되는 미러링 세션(960)이 수립될 수 있다. 미러링 세션(960)은, 예를 들어, 제2 사용자 입력에 의해 지시되는 제2 어플리케이션과 관련된, 소스 어플리케이션 컨테이너 및 리모트 어플리케이션 컨테이너에 의하여 수립될 수 있다.
제2 사용자 입력에 의해 지시되는 제2 어플리케이션이 화면(910)을 통해 제공되는 제1 어플리케이션과 구별됨을 식별하는 것에 응답하여, 소스 전자 장치는 화면(910)의 표시 및 스트리밍과 독립적으로 제2 어플리케이션을 실행하여, 제2 어플리케이션에 대응하는 화면을 획득할 수 있다. 제2 어플리케이션에 대응하는 화면은, 소스 전자 장치가 디스플레이 상에 화면(910)을 표시하는 것을 유지하는 상태에서, 소스 전자 장치에 의해 획득될 수 있다. 도 9를 참고하면, 미러링 세션(960)은, 제2 어플리케이션에 대응하는 화면을 스트리밍하기 위한 비디오 스트리밍 세션(980)을 포함할 수 있다. 상기 비디오 스트리밍 세션(980)은, 소스 어플리케이션 컨테이너 및 리모트 어플리케이션 컨테이너의 매핑에 기반하여 수립될 수 있다. 도 9를 참고하면, 미러링 세션(960)은, 제2 어플리케이션에 기반하여 생성된 오디오를 스트리밍하기 위한 오디오 스트리밍 세션(970)을 포함할 수 있다.
도 9를 참고하면, 리모트 전자 장치는 비디오 스트리밍 세션(980)을 이용하여, 소스 전자 장치에서 실행되는 제2 어플리케이션에 기반하는 화면(926)을 표시할 수 있다. 리모트 전자 장치는 미러링 세션(960)이 수립되는 동안, 오디오 스트리밍 세션(970)에 기반하여, 소스 전자 장치로부터 제공되고, 상기 제2 어플리케이션에 대응하는, 오디오를 출력할 수 있다. 일 실시예에 따른 리모트 전자 장치는 화면(926) 내에, 상기 화면(926)에 대응하는 오디오 스트리밍 세션(970)에 기반하여 출력되는 상기 오디오의 볼륨을 변경하기 위한 시각적 객체(928)를 표시할 수 있다. 상기 시각적 객체(928)는, 예를 들어, 상기 제2 어플리케이션에 대응하는 리모트 오디오의 볼륨 컨트롤러와 관련될 수 있다. 상기 시각적 객체(928)는, 예를 들어, 화면(926)에 연접하여 표시되고, 화면(926)과 관련된 정보를 표시하는 타이틀 바와 같은 시각적 객체 상에 적어도 일부분 중첩되어 표시될 수 있다.
일 실시예에 따른 소스 전자 장치 및 리모트 전자 장치 사이의 미러링 세션들(930, 960)을 이용하여, 상술된 소스 전자 장치로부터 리모트 전자 장치로 향하는 신호와 독립적으로, 리모트 전자 장치로부터 소스 전자 장치로 향하는 신호가 송신될 수 있다. 예를 들어, 리모트 전자 장치의 화면들(922, 926) 각각에서 탐지되는 사용자 입력이, 화면들(922, 926) 각각에 대응하는 미러링 세션들(930, 960)을 통하여 리모트 전자 장치로부터 소스 전자 장치로 송신될 수 있다. 소스 전자 장치는 상기 사용자 입력에 기반하여, 미러링 세션들(930, 960)을 통하여 리모트 전자 장치로 제공되는 비디오 신호들 및/또는 오디오 신호들을 변경할 수 있다. 리모트 전자 장치로부터 소스 전자 장치로 송신되고, 상기 사용자 입력의 탐지를 알리는 신호는, 화면들(922, 926) 중에서 상기 사용자 입력이 탐지된 화면에 대응하는 디스플레이 ID 및/또는 태스크 ID를 포함할 수 있다. 상기 신호에 포함된 상기 디스플레이 ID 및/또는 상기 태스크 ID는, 리모트 전자 장치가, 상기 사용자 입력에 대응하는 리모트 어플리케이션 컨테이너 및/또는 스크린 미러링 싱크 매니저를 식별하기 위해 이용될 수 있다. 식별된 리모트 어플리케이션 컨테이너 및/또는 스크린 미러링 싱크 매니저에 기반하여, 리모트 전자 장치는 소스 전자 장치의 소스 어플리케이션 컨트롤러 및/또는 스크린 미러링 소스 매니저로 상기 사용자 입력의 탐지를 알리는 신호를 송신할 수 있다.
도 9와 같이, 소스 전자 장치의 모든 오디오를 스트리밍하기 위한 미러링 세션(930) 및 특정 어플리케이션(예, 제2 어플리케이션)을 개별적으로 스트리밍 하기 위한 미러링 세션(960) 전부가 수립된 상태에서, 일 실시예에 따른 소스 전자 장치는 상기 특정 어플리케이션에 대응하는 오디오를, 상기 미러링 세션(930)에 포함된 오디오 스트리밍 세션(940) 내에서 제거할 수 있다. 예를 들어, 소스 전자 장치는 도 6에서 상술된 동작을 수행하여, 오디오 스트리밍 세션(940) 내에서, 미러링 세션(960)에 대응하는 제2 어플리케이션과 관련된 오디오(944)를 음소거를 나타내는 볼륨에 기반하여 믹싱할 수 있다. 도 9를 참고하면, 제2 어플리케이션과 관련된 오디오(944)와 구별되는 다른 오디오(예, 시스템 오디오(946) 및/또는 제1 어플리케이션의 오디오(942))는 음소거를 나타내는 상기 볼륨과 구별되는 볼륨에 기반하여, 오디오 스트리밍 세션(940) 내에 포함될 수 있다. 도 9를 참고하면, 소스 전자 장치는 오디오 스트리밍 세션(940) 내에서 제2 어플리케이션과 관련된 오디오(944)를 제거하는 대신에, 오디오 스트리밍 세션(970)을 이용하여 제2 어플리케이션에 기반하여 생성된 오디오를, 리모트 전자 장치로 송신할 수 있다.
이하에서는 도 10을 참고하여, 일 실시예에 따른 리모트 전자 장치가 화면들(922, 926) 각각에 대응하는 시각적 객체들(924, 928)에 기반하여, 화면들(922, 926) 각각에 대응하는 오디오의 볼륨을 개별적으로 변경하는 동작이 설명된다.
도 10은 일 실시예에 따른 전자 장치가, 다른 전자 장치로부터 제공되는 복수의 화면들(922, 926) 각각에 대응하는 오디오 신호들의 볼륨을 조절하기 위해 표시하는 UI의 일 예를 도시한 도면이다. 도 10의 전자 장치는 도 1 내지 도 3의 전자 장치(210) 및/또는 도 4의 리모트 전자 장치의 일 예에 대응할 수 있다. 도 10의 다른 전자 장치는 도 1 내지 도 3의 전자 장치(101) 및/또는 도 4의 소스 전자 장치의 일 예에 대응할 수 있다. 도 10의 화면들(922, 926)은, 예를 들어, 도 3의 전자 장치(210)가 디스플레이(344)의 적어도 일부분에 독립적으로 표시될 수 있다. 도 10으 화면들(922, 926)은, 도 9의 화면들(922, 926)에 대응할 수 있다. 이하에서는, 도 9에서 상술된 동작들에 기반하여 화면들(922, 926) 전부가 표시된 상태에서, 리모트 전자 장치에 대응하는 도 10의 전자 장치가 수행하는 동작이 설명된다. 이하에서, 도 9와 중복되는 설명은 편의상 생략된다.
도 10을 참고하면, 화면들(922, 926) 내에서 시각적 객체들(924, 928) 각각을 터치 및/또는 클릭하는 사용자 입력을 수신하는 것에 응답하여, 전자 장치가 표시하는 UI들(1010, 1020)이 도시된다. UI(1010)는, 화면(922)에 대응하는 오디오(예, 다른 전자 장치에서 발생되는 오디오 전부가 믹싱된 오디오 신호에 기반하는 오디오)의 볼륨을 변경하기 위하여, 화면(922)의 적어도 일부분과 중첩되어 표시될 수 있다. UI(1020)는, 화면(1020)에 대응하는 오디오(예, 다른 전자 장치의 디스플레이의 표시 영역과 독립적으로 상기 다른 전자 장치에 의해 실행되는 일 어플리케이션에 기반하는 오디오)의 볼륨을 변경하기 위하여 표시될 수 있다.
도 10의 UI들(1010, 1020)을 참고하면, UI들(1010, 1020) 각각은 대응하는 오디오의 볼륨을 나타내는 텍스트(예, 0 내지 100 사이의 자연수들 중 어느 한 자연수), UI들(1010, 1020) 각각이 볼륨을 조절하기 위한 UI임을 나타내는 아이콘 또는 드래그와 같은 제스쳐에 기반하여 상기 볼륨을 조절하기 위한 시각적 객체(예, 슬라이드바) 중 적어도 하나를 포함할 수 있다. 도 10을 참고하면, 전자 장치의 사용자는, UI들(1010, 1020) 각각을 이용하여, 화면들(922, 926) 각각에 대응하는 오디오의 볼륨을 독립적으로 변경할 수 있다. 예를 들어, UI(1010)를 이용하여 볼륨을 변경하는 경우, 변경된 볼륨은 화면(926)을 통해 표시되고, 소스 전자 장치에서 실행되는 어플리케이션에 의해 제공된 오디오와 구별되는, 다른 오디오에 적용될 수 있다. 예를 들어, UI(1020) 내에서 볼륨을 변경하기 위한 사용자 입력을 식별하는 것에 응답하여, 전자 장치는 도 9의 오디오 스트리밍 세션들(940, 970) 중에서, UI(1020)와 관련된 화면(926)에 대응하는 오디오 스트리밍 세션(970)과 관련된 오디오의 볼륨을 변경할 수 있다. 오디오 스트리밍 세션(970)과 관련된 오디오의 볼륨을 변경하는 것은, 오디오 스트리밍 세션(940)과 관련되고, UI(1010)에 의해 나타나는, 볼륨과 독립적으로 수행될 수 있다.
상술한 바와 같이, 일 실시예에 따른 전자 장치는 다른 전자 장치에 저장된 어플리케이션들 각각에 대응하는 화면들을 개별적으로 표시하는 상태에서, 화면들 각각에 대응하여 전자 장치에서 출력되는 오디오의 볼륨을 개별적으로 변경하기 위한 UI들(1010, 1020)을 표시할 수 있다.
이하에서는 도 11 내지 도 16을 참고하여, 상기 전자 장치 및 상기 다른 전자 장치가 수행하는 동작들이 설명된다.
도 11은 일 실시예에 따른 전자 장치들(101, 210)이 수행하는 동작을 설명하기 위한 흐름도이다. 도 11의 전자 장치(101)는 도 1 내지 도 3의 전자 장치(101), 도 4 및/또는 도 9의 소스 전자 장치의 일 예에 대응할 수 있다. 도 11의 전자 장치(210)는 도 1 내지 도 3의 전자 장치(210), 도 4 및/또는 도 9의 리모트 전자 장치의 일 예에 대응할 수 있다. 도 11의 동작은, 예를 들어, 도 3의 전자 장치(101)의 프로세서(312) 및/또는 전자 장치(210)의 프로세서(314)에 의해 수행될 수 있다.
도 11을 참고하면, 동작(1105)에서, 일 실시예에 따른 전자 장치(210)는, 미러링 기능과 관련된 어플리케이션을 실행할 수 있다. 예를 들어, 상기 어플리케이션을 선택하는 사용자 입력을 수신하는 것에 응답하여, 전자 장치(210)는 상기 어플리케이션을 실행할 수 있다. 전자 장치(210)가 동작(1105)에 기반하여 실행하는 어플리케이션은, 예를 들어, 도 4의 프로그램(374)과 관련될 수 있다.
도 11을 참고하면, 동작(1110)에서, 일 실시예에 따른 전자 장치(210)는, 동작(1105)에 기반하여 실행되는 어플리케이션을 이용하여, 리모트 컨테이너 매니저(예, 도 4의 리모트 컨테이너 매니저(425))를 획득할 수 있다. 예를 들어, 전자 장치(210)는 리모트 컨테이너 매니저를 초기화할 수 있다. 리모트 컨테이너 매니저와 함께, 전자 장치(210)는 도 4의 프로그램(374)에 포함된 하나 이상의 인스턴스들(예, 스크린 미러링 싱크 매니저(415), 리모트 오디오 매니저(435))을 초기화할 수 있다. 인스턴스의 초기화는, 인스턴스의 실행과 구별되고, 예를 들어, 전자 장치(210)가 메모리 내에 인스턴스와 관련된 하나 이상의 파라미터들을 페치하는 동작(fetching)을 포함할 수 있다. 일 실시예에 따른 전자 장치(210)는 동작(1110)에서, 하나 이상의 리모트 어플리케이션 컨테이너들(예, 도 4의 리모트 어플리케이션 컨테이너들(427-1, 427-2, ..., 427-N))을 초기화할 수 있다. 상기 하나 이상의 리모트 어플리케이션 컨테이너들은, 동작(1105)에 기반하여 실행되는 어플리케이션에 의하여, 전자 장치(101)로부터 식별되고, 전자 장치(101)에 저장된, 하나 이상의 어플리케이션들 각각에 대응할 수 있다. 예를 들어, 상기 하나 이상의 리모트 어플리케이션 컨테이너들이 초기화됨에 따라, 전자 장치(210)는 리모트 어플리케이션 컨테이너 내에, 대응하는 어플리케이션의 식별자(예, 패키지 명칭)를 저장할 수 있다.
도 11을 참고하면, 동작(1115)에서, 일 실시예에 따른 전자 장치(210)는, 리모트 어플리케이션 컨테이너에 기반하는 리모트 오디오를 요청하는 것에 응답하여, 리모트 오디오를 획득할 수 있다. 상기 리모트 오디오는, 예를 들어, 도 7의 전체 리모트 오디오(710) 및/또는 리모트 오디오들(437-1, ..., 437-M)을 포함할 수 있다. 예를 들어, 전자 장치(210)는 상기 요청에 대응하는 리모트 어플리케이션 컨테이너와 관련된 어플리케이션에 기반하여, 상기 어플리케이션의 UID에 대응하는 리모트 오디오를 획득할 수 있다. 전자 장치(210)가 리모트 오디오를 획득하는 것은, 대응하는 리모트 어플리케이션 컨테이너와 획득된 리모트 오디오를 연결하는 동작을 포함할 수 있다. 전자 장치(210)가 동작(1115)에 기반하여 리모트 오디오를 획득하는 동작은, 도 12를 참고하여 후술된다.
도 11을 참고하면, 동작(1120)에서, 일 실시예에 따른 전자 장치(210)는, 리모트 어플리케이션 컨테이너를 실행할 수 있다. 동작(1120)은, 예를 들어, 전자 장치(210)에서 시각적 객체(830) 및/또는 리스트(840)에 기반하는 사용자 입력을 수신하는 것에 응답하여, 수행될 수 있다. 동작(1120)에서, 전자 장치(210)는 전자 장치(101)로, 상기 사용자 입력에 대응하는 어플리케이션의 실행을 요청하기 위한 신호(1125)를 송신할 수 있다. 신호(1125)는, 전자 장치(210)에서 수행된 상기 사용자 입력에 의해 지시되고, 전자 장치(101)에 저장된, 어플리케이션을 식별하기 위한 정보(예, 패키지 명칭)를 포함할 수 있다.
동작들(1105, 1110, 1115, 1120)을 참고하면, 전자 장치(210) 및 전자 장치(101) 사이에서 미러링 세션이 수립되기 이전에, 일 실시예에 따른 전자 장치(210)는 동작들(1105, 1110, 1115, 1120)을 수행할 수 있다. 예를 들어, 동작들(1105, 1110, 1115, 1120)은 상기 미러링 세션을 준비하는 동작과 관련될 수 있다.
전자 장치(210)로부터 신호(1125)를 수신하는 것에 응답하여, 동작(1130)에서, 일 실시예에 따른 전자 장치(101)는 소스 컨테이너 매니저(예, 도 4 내지 도 5의 소스 컨테이너 매니저(420))를 획득할 수 있다. 신호(1125)를 수신하는 것에 응답하여, 전자 장치(101)는 소스 컨테이너 매니저를 초기화할 수 있다. 동작(1135)에서, 전자 장치(101)는 신호(1125)에 의해 지시되는 어플리케이션에 기반하여, 소스 어플리케이션 컨테이너를 획득할 수 있다. 소스 어플리케이션 컨테이너를 획득하는 것에 응답하여, 전자 장치(101)는 전자 장치(210)로, 획득된 소스 어플리케이션 컨테이너 및/또는 상기 어플리케이션과 관련된 정보를 포함하는 신호(1140)를 송신할 수 있다. 예를 들어, 상기 신호(1140)는 신호(1125)에 의해 지시되는 어플리케이션을 실행한 이후, 전자 장치(101)의 시스템 서비스에 의해 상기 실행된 어플리케이션에 할당된 UID와 관련된 정보를 포함할 수 있다.
도 11을 참고하면, 동작(1150)에서, 일 실시예에 따른 전자 장치(101)는 신호(1125)에 의해 지시되는 어플리케이션에 대응하는 소스 오디오를 획득할 수 있다. 상기 소스 오디오는 상기 어플리케이션에 할당된 UID에 기반하여 다른 소스 오디오들로부터 구별될 수 있다. 소스 오디오를 획득하는 것에 응답하여, 전자 장치(101)는 상기 획득된 소스 오디오를 나타내는 정보(예, 메모리 내에서 상기 소스 오디오와 관련된 하나 이상의 파라미터들이 저장된 위치를 지시하는 포인터(pointer))를, 상기 소스 오디오에 대응하는 소스 어플리케이션 컨테이너 내 소스 오디오 핸들에 저장할 수 있다.
도 11을 참고하면, 동작(1155)에서, 일 실시예에 따른 전자 장치(101)는 신호(1125)에 의해 지시되는 어플리케이션을 실행할 수 있다. 상기 어플리케이션이 실행됨에 따라, 전자 장치(101)가 상기 어플리케이션에 기반하여 획득한 화면 및 오디오의 스트리밍이 개시될 수 있다. 예를 들어, 전자 장치는 상기 어플리케이션에 대응하는 소스 어플리케이션 컨테이너를 이용하여, 상기 화면에 대한 인코딩을 수행할 수 있다. 예를 들어, 전자 장치는 상기 어플리케이션에 대응하는 소스 오디오를 이용하여, 상기 오디오에 대한 인코딩을 수행할 수 있다. 예를 들어, 전자 장치는 오디오 서비스(예, 도 4의 오디오 서비스(450))를 통해 식별된 상기 어플리케이션의 UID를 이용하여, 상기 어플리케이션에 대응하는 오디오를 개별적으로 획득할 수 있다.
도 11을 참고하면, 동작(1160)에서, 일 실시예에 따른 전자 장치(101)는 동작(1155)에 의하여 실행되는 어플리케이션에 기반하여 획득한 비디오 신호 및 오디오 신호를, 전자 장치(210)로 송신할 수 있다. 예를 들어, 신호(1165)는 상기 비디오 신호 및 상기 오디오 신호 중 적어도 하나에 대응할 수 있다. 도 11을 참고하면, 동작들(1130, 1135, 1150, 1155, 1160)은, 전자 장치(101)가 신호(1125)에 기반하는 요청을 수신하는 것에 응답하여, 신호(1125)에 의해 나타나는 어플리케이션을 실행하고, 상기 실행된 어플리케이션에 기반하여 획득한 비디오 신호 및 오디오 신호를, 전자 장치(210)로 송신하기 위하여 수행될 수 있다.
도 11을 참고하면, 신호(1140)를 수신하는 것에 응답하여, 동작(1145)에서, 일 실시예에 따른 전자 장치(210)는 리모트 어플리케이션 컨테이너에 대응하는 비디오 디코더를 획득할 수 있다. 예를 들어, 전자 장치(210)는 리모트 어플리케이션 컨테이너에 포함된 비디오 디코더, 출력 서피스 및 서피스 뷰를 획득할 수 있다. 동작(1145)에서, 전자 장치(210)는 비디오 디코더를 실행할 수 있다.
도 11을 참고하면, 동작(1170)에서, 일 실시예에 따른 전자 장치(210)는 신호(1125)에 대응하는 어플리케이션과 관련된 리모트 오디오를 이용하여, 상기 어플리케이션과 관련된 볼륨을 식별할 수 있다. 식별된 볼륨은, 상기 리모트 오디오의 미디어 엘리먼트의 볼륨을, 상기 식별된 볼륨으로 조절하기 위하여 이용될 수 있다. 도 11을 참고하면, 동작(1175)에서, 일 실시예에 따른 전자 장치(210)는 신호(1140)에 포함된 정보에 적어도 기반하여, 상기 어플리케이션에 대응하는 오디오 디코더를 획득할 수 있다. 전자 장치(210)는 획득된 오디오 디코더를 실행할 수 있다.
도 11을 참고하면, 동작(1180)에서, 일 실시예에 따른 전자 장치(210)는, 전자 장치(101)로부터 제공된 비디오 신호 또는 오디오 신호 중 적어도 하나에 대응하는 신호(1165)를 수신하는 것에 응답하여, 상기 비디오 신호에 대응하는 화면 및 상기 오디오 신호에 대응하는 오디오를 출력할 수 있다. 상기 신호(1165)는, 전자 장치들(101, 210) 사이에 수립된 미러링 세션이 수립된 동안, 전자 장치(101)로부터 전자 장치(210)로 송신될 수 있다.
도 12는 일 실시예에 따른 전자 장치들이, 오디오를 스트리밍하기 위하여 수행하는 동작을 설명하기 위한 흐름도이다. 도 12의 전자 장치는 도 1 내지 도 3의 전자 장치(101), 도 4 및/또는 도 9의 소스 전자 장치의 일 예에 대응할 수 있다. 도 12의 다른 전자 장치는 도 1 내지 도 3의 전자 장치(210), 도 4 및/또는 도 9의 리모트 전자 장치의 일 예에 대응할 수 있다. 도 12의 동작은, 예를 들어, 도 3의 전자 장치(101)의 프로세서(312)에 의해 수행될 수 있다.
도 12를 참고하면, 동작(1210)에서, 일 실시예에 따른 전자 장치는, 다른 전자 장치로부터 수신된 지정된 요청에 기반하여, 미러링 세션을 수립할 수 있다. 상기 지정된 요청은, 예를 들어, 다른 전자 장치가 도 8의 화면(810)을 표시한 상태에서 사용자로부터 식별한 사용자 입력과 관련될 수 있다. 예를 들어, 상기 지정된 요청은, 전자 장치의 스피커를 통하여 재생되고 있는 오디오 및/또는 전자 장치에 저장된 어플리케이션을 실행함에 따라, 상기 어플리케이션으로부터 제공되는 오디오를 송신하라는 요청에 대응할 수 있다. 상기 미러링 세션은, 전자 장치의 화면 및/또는 오디오를 스트리밍하기 위하여, 전자 장치 및 다른 전자 장치 사이에서 수립될 수 있다. 미러링 세션의 수립은, 도 4의 일 예에서, 전자 장치가 프로그램(372)을 실행하고, 상기 다른 전자 장치가 프로그램(374)을 실행한 상태에서, 프로그램들(372, 374) 각각에 의해 생성된 인스턴스인 소스 컨트롤러 매니저(420) 및 리모트 컨테이너 매니저(425)에 의하여 수립될 수 있다.
도 12를 참고하면, 동작(1220)에서, 일 실시예에 따른 전자 장치는, 소스 어플리케이션 컨테이너를 획득할 수 있다. 예를 들어, 전자 장치는 소스 컨테이너 매니저를 이용하여, 동작(1210)의 지정된 요청에 의해 지시되는 어플리케이션에 대응하는 소스 어플리케이션 컨테이너를 생성할 수 있다. 전자 장치가 동작(1220)에 기반하여 획득하는 소스 어플리케이션 컨테이너는, 예를 들어, 도 4의 소스 어플리케이션 컨테이너들(422-1, 422-2, ..., 422-N) 중 어느 하나에 대응할 수 있다. 전자 장치가 동작(1220)을 수행함에 따라 획득하는 소스 어플리케이션 컨테이너는, 상기 어플리케이션 및/또는 상기 어플리케이션에 의해 생성된 화면에 고유하게 할당되는 식별자를 포함할 수 있다. 상기 식별자는, 예를 들어, 상기 어플리케이션의 패키지 명칭, 상기 어플리케이션에 고유하게 할당되는 UID, 상기 화면에 고유하게 할당되는 디스플레이 ID 또는 태스크 ID 중 적어도 하나를 포함할 수 있다.
도 12를 참고하면, 동작(1230)에서, 일 실시예에 따른 전자 장치는, 소스 오디오 매니저에 기반하여, 하나 이상의 소스 오디오들을 식별할 수 있다. 예를 들어, 전자 장치는 도 4의 소스 오디오 매니저(430)를 이용하여, 지정된 요청에 의해 지시되는 어플리케이션과 관련된 소스 오디오를 식별할 수 있다. 전자 장치가 동작(1230)에 기반하여 식별하는 소스 오디오는, 예를 들어, 도 4의 소스 오디오들(432-1, ..., 432-M)을 포함할 수 있다. 예를 들어, 전자 장치는 동작(1210)의 지정된 요청을 수신하기 이전에, 상기 소스 오디오 매니저에 의하여 생성된 하나 이상의 소스 오디오들을 식별할 수 있다.
도 12를 참고하면, 동작(1240)에서, 일 실시예에 따른 전자 장치는, 동작(1230)에 기반하여 식별된 하나 이상의 소스 오디오들 중에서, 지정된 요청에 의해 지시되는 어플리케이션에 대응하는 소스 오디오를 식별하였는지 여부를 판단할 수 있다. 예를 들어, 전자 장치는 동작(1230)에서 식별된 하나 이상의 소스 오디오들 중에서, 동작(1210)의 지정된 요청에 의해 지시되는 어플리케이션의 식별자(예, UID 및/또는 패키지 명칭)에 의해 구별되는 소스 오디오를 검색할 수 있다. 상기 소스 오디오의 검색은, 전자 장치에서 실행되는 소스 오디오 매니저에 기반하여 수행될 수 있다.
지정된 요청에 의해 지시되는 어플리케이션에 대응하는 소스 오디오를 식별한 경우(1240-예), 동작(1250)에서, 일 실시예에 따른 전자 장치는, 식별된 소스 오디오를 선택할 수 있다. 예를 들어, 동작(1210)의 지정된 요청에 의해 지시되는 어플리케이션의 식별자를 가지는 소스 오디오를 식별함에 따라, 전자 장치는 동작(1210)의 미러링 세션의 수립 이전에 상기 어플리케이션에 기반하는 오디오 스트리밍 세션이 존재하는 것으로 결정할 수 있다. 상기 오디오 스트리밍 세션은 전자 장치가 식별한 상기 소스 오디오에 의하여 식별될 수 있다. 도 4에서 상술된 소스 오디오 및 리모트 오디오 사이의 대응에 기반하여, 전자 장치는 식별된 소스 오디오에 기반하여, 다른 전자 장치에서 생성된 리모트 오디오를 식별할 수 있다.
지정된 요청에 의해 지시되는 어플리케이션에 대응하는 소스 오디오를 식별하지 못한 경우(1240-아니오), 동작(1260)에서, 일 실시예에 따른 전자 장치는, 지정된 요청에 의해 지시되는 어플리케이션에 대응하는 소스 오디오를 획득할 수 있다. 예를 들어, 전자 장치는 소스 오디오 매니저를 이용하여, 동작(1210)의 지정된 요청에 의해 지시되는 어플리케이션과 관련된 식별자(예, 상기 어플리케이션의 UID 및/또는 패키지 명칭)를 가지는 소스 오디오를 생성할 수 있다.
동작들(1240, 1250, 1260)을 참고하면, 일 실시예에 따른 전자 장치는 다른 전자 장치로부터, 어플리케이션의 오디오를 송신하라는 지정된 요청을 수신하는 것에 응답하여, 상기 지정된 요청을 수신하기 이전에 상기 어플리케이션의 오디오를, 상기 다른 전자 장치로 송신하기 위한 오디오 스트리밍 세션이 존재하는지 여부를 판단할 수 있다. 상기 오디오 스트리밍 세션이 존재하는 경우(1240-예), 전자 장치는 오디오 스트리밍 세션을 추가하는 대신에, 상기 오디오 스트리밍 세션을 재사용하여 상기 어플리케이션의 오디오를 스트리밍할 수 있다. 상기 오디오 스트리밍 세션이 존재하지 않는 경우(1240-아니오), 전자 장치는 오디오 스트리밍 세션을 추가하기 위하여, 소스 오디오를 생성할 수 있다.
도 12를 참고하면, 동작(1270)에서, 일 실시예에 따른 전자 장치는, 소스 오디오에 기반하는 스트리밍이 시작된 상태인지 여부를 판단할 수 있다. 상기 스트리밍은, 전자 장치로부터 다른 전자 장치를 향하여 송신되고, 동작(1210)의 지정된 요청에 의해 지시되는 어플리케이션에 기반하여 생성된, 오디오 신호에 의하여 수행될 수 있다. 상기 오디오 신호는, 예를 들어, 소스 오디오에 의해 지시되는 오디오 스트리밍 세션에 기반하여, 전자 장치로부터 다른 전자 장치를 향하여 송신될 수 있다. 예를 들어, 동작(1250)에 기반하여 소스 오디오를 선택하는 경우, 동작(1210)의 지정된 요청을 수신하기 이전에, 상기 소스 오디오에 기반하는 스트리밍이 시작되었을 수 있다.
소스 오디오에 기반하는 스트리밍이 시작되지 않은 경우(1270-아니오), 동작(1280)에서, 일 실시예에 따른 전자 장치는, 소스 오디오에 기반하여, 오디오의 스트리밍을 시작할 수 있다. 예를 들어, 전자 장치는 소스 오디오에 기반하여 오디오 스트리밍 세션(예, 도 9의 오디오 스트리밍 세션들(940, 970))의 수립을, 다른 전자 장치로 요청할 수 있다. 상기 요청에 응답하여, 상기 오디오 스트리밍 세션이 수립된 이후, 전자 장치는 동작(1210)의 지정된 요청에 의해 지시되는 어플리케이션에 의하여 생성된 오디오를, 다른 전자 장치로 송신할 수 있다.
상술한 바와 같이, 일 실시예에 따른 전자 장치는 특정 어플리케이션에 대응하는 제1 미러링 세션을 생성하는 상태에서, 특정 어플리케이션에 의해 상기 제1 미러링 세션 이전에 생성된 제2 미러링 세션에 의해 생성된 오디오 스트리밍 세션을 식별할 수 있다. 제2 미러링 세션에 의해 생성된 오디오 스트리밍 세션을 식별하는 경우, 전자 장치는 식별된 오디오 스트리밍 세션을, 상기 제1 미러링 세션과 관련된 오디오를 스트리밍하기 위한 세션으로 결정할 수 있다. 이 경우, 전자 장치 및 다른 전자 장치 사이에서, 오디오 스트리밍 세션이 증가되지 않으면서, 제1 미러링 세션에 기반하는 오디오의 스트리밍이 수행될 수 있다.
이하에서는 도 13을 참고하여, 일 실시예에 따른 전자 장치 및 다른 전자 장치들 사이에서 오디오의 스트리밍을 종료하기 위하여 수행하는 동작이 설명된다.
도 13은 일 실시예에 따른 전자 장치들이, 오디오의 스트리밍을 종료하기 위하여 수행하는 동작을 설명하기 위한 흐름도이다. 도 13의 전자 장치(101)는 도 1 내지 도 3의 전자 장치(101), 도 4 및/또는 도 9의 소스 전자 장치의 일 예에 대응할 수 있다. 도 13의 전자 장치(210)는 도 1 내지 도 3의 전자 장치(210), 도 4 및/또는 도 9의 리모트 전자 장치의 일 예에 대응할 수 있다. 도 13의 동작은, 예를 들어, 도 3의 전자 장치(101)의 프로세서(312) 및/또는 전자 장치(210)의 프로세서(314)에 의해 수행될 수 있다. 도 13의 동작은, 예를 들어, 전자 장치들(101, 210)이 도 11 내지 도 12의 동작들 중 적어도 하나를 수행하여, 하나 이상의 오디오 신호들을 송신하는 상태에서 수행될 수 있다.
도 13을 참고하면, 동작(1310)에서, 일 실시예에 따른 전자 장치들(101, 210)은 미러링 세션을 종료하는 이벤트의 발생을 탐지할 수 있다. 상기 미러링 세션은, 예를 들어, 도 9의 미러링 세션들(930, 960) 중 어느 하나에 대응할 수 있다. 상기 미러링 세션을 종료하는 이벤트는, 예를 들어, 도 9 내지 도 10의 화면들(922, 926) 중 어느 하나를 종료하는 사용자 입력을 포함할 수 있다.
도 13을 참고하면, 상기 이벤트의 발생을 탐지하는 것에 응답하여, 동작(1320)에서, 일 실시예에 따른 전자 장치(101)는 상기 이벤트와 관련된 미러링 세션에 대응하는 소스 어플리케이션 컨테이너와 관련된 자원을 해제할 수 있다. 예를 들어, 전자 장치(101)는 상기 이벤트에 대응하는 소스 어플리케이션 컨테이너를 종료하여, 상기 미러링 세션을 종료할 수 있다. 소스 어플리케이션 컨테이너와 관련된 자원을 해제하는 것은, 전자 장치(101)의 메모리 내에서, 상기 소스 어플리케이션 컨테이너와 관련된 정보를 제거하거나, 다른 정보로 덮어쓰는(overwriting) 동작을 포함할 수 있다. 동작(1325)에서, 동작(1320)과 유사하게, 일 실시예에 따른 전자 장치(210)는 상기 이벤트와 관련된 미러링 세션에 대응하는 리모트 어플리케이션 컨테이너와 관련된 자원을 해제할 수 있다. 전자 장치들(101, 210)이 동작들(1320, 1325)을 수행함에 따라, 전자 장치들(101, 210) 사이에 수립된 미러링 세션이 종료될 수 있다.
일 실시예에서, 전자 장치(101)는 소스 오디오 및 소스 어플리케이션 컨테이너 사이의 연결에 기반하여, 소스 어플리케이션 컨테이너와 관련된 자원을 해제함에 따라, 소스 오디오와 관련된 자원을 해제할지 여부를 결정할 수 있다. 유사하게 전자 장치(210)는 리모트 오디오 및 리모트 어플리케이션 컨테이너 사이의 연결에 기반하여, 리모트 오디오와 관련된 자원을 해제할지 여부를 결정할 수 있다.
도 13을 참고하면, 동작(1330)에서, 일 실시예에 따른 전자 장치(101)는 동작(1310)의 미러링 세션에 대응하는 소스 오디오가, 다른 소스 어플리케이션 컨테이너에 의해 이용되는지 여부를 판단할 수 있다. 도 5의 일 예에서, 동작(1310)에 의해 종료되는 미러링 세션이 소스 어플리케이션 컨테이너(422-1)에 대응하는 경우, 소스 어플리케이션 컨테이너(422-1)에 대응하는 소스 오디오(432-1)는 소스 어플리케이션 컨테이너(422-1)와 구별되는 소스 어플리케이션 컨테이너(422-2)에 의해 이용될 수 있다. 도 5의 일 예에서, 동작(1310)의 미러링 세션이 소스 어플리케이션 컨테이너(422-N)에 대응하는 경우, 소스 오디오(432-M)는 소스 어플리케이션 컨테이너(422-N)와 구별되는 다른 소스 어플리케이션 컨테이너들에 의해 이용되지 않을 수 있다. 전자 장치는 상기 소스 오디오 내에 저장된 정보로써, 소스 오디오에 연결된 소스 어플리케이션 컨테이너의 리스트 내에서, 동작(1320)에 의하여 해제된 소스 어플리케이션 컨테이너를 나타내는 식별자를 제거할 수 있다. 상기 식별자를 제거함에 따라, 상기 리스트 내에 어떤 식별자도 존재하지 않는 경우, 전자 장치는 상기 소스 오디오가 다른 소스 어플리케이션 컨테이너에 의해 이용되지 않는 것으로 결정할 수 있다.
동작(1310)의 미러링 세션에 대응하는 소스 오디오가 다른 소스 어플리케이션 컨테이너에 의해 이용되는 경우(1330-예), 전자 장치(101)는 상기 소스 오디오를 종료하는 것을 적어도 일시적으로 중단할 수 있다. 동작(1310)의 미러링 세션에 대응하는 소스 오디오가 다른 소스 어플리케이션 컨테이너에 의해 이용되지 않는 경우(1330-아니오), 동작(1340)에서, 전자 장치(101)는 상기 소스 오디오에 기반하는 오디오의 스트리밍을 중지할 수 있다. 오디오의 스트리밍이 중지된 이후, 동작(1350)에서, 전자 장치(101)는 소스 오디오와 관련된 자원을 해제할 수 있다.
유사하게, 동작(1335)에서, 전자 장치(210)는 동작(1310)의 미러링 세션에 대응하는 리모트 오디오가, 다른 리모트 어플리케이션 컨테이너에 의해 이용되는지 여부를 판단할 수 있다. 상기 리모트 오디오가 다른 리모트 어플리케이션 컨테이너에 의해 이용되는 경우(1335-예), 전자 장치(210)는 상기 리모트 오디오에 기반하여 오디오를 스트리밍하는 것을 유지할 수 있다. 도 7의 일 예에서, 리모트 어플리케이션 컨테이너(427-1)와 관련된 자원이 해제되더라도, 리모트 어플리케이션 컨테이너(427-1)와 구별되는 리모트 어플리케이션 컨테이너(427-2)가 리모트 오디오(437-1)에 연결됨에 따라, 리모트 어플리케이션 컨테이너(427-1)에 대응하는 리모트 오디오(437-1)의 실행이 유지될 수 있다. 상기 리모트 오디오가 다른 리모트 어플리케이션 컨테이너에 의해 이용되지 않는 경우(1335-아니오), 동작(1345)에서, 전자 장치(210)는 리모트 오디오에 기반하는 오디오의 스트리밍을 중지할 수 있다. 오디오의 스트리밍이 중지된 이후, 동작(1355)에서, 전자 장치(210)는 리모트 오디오와 관련된 자원을 해제할 수 있다. 도 7의 일 예에서, 리모트 어플리케이션 컨테이너(427-N)와 관련된 자원이 해제됨에 따라, 전자 장치(210)는 어느 리모트 어플리케이션 컨테이너와도 연결되지 않은 리모트 오디오(437-M)를 제거할 수 있다.
상술한 바와 같이, 일 실시예에 따른 전자 장치들(101, 210)은 미러링 기능에 기반하여 공유되는 일 화면에 대응하는 미러링 세션이 종료됨에 따라, 상기 미러링 세션에 대응하는 오디오 스트리밍 세션을 유지할지 여부를 판단할 수 있다. 상기 오디오 스트리밍 세션은, 상기 일 화면에 대응하는 특정 어플리케이션 별로 구별되는, 전자 장치(101)의 소스 오디오 및 전자 장치(210)의 리모트 오디오에 의하여 수립될 수 있다. 예를 들어, 전자 장치들(101, 210)이 특정 어플리케이션에 의해 생성된 복수의 화면들을 공유하는 경우, 복수의 화면들 중 일 화면에 대응하는 미러링 세션이 종료되는 것과 독립적으로, 전자 장치들(101, 210)은 상기 미러링 세션에 대응하는 오디오 스트리밍 세션을 유지할 수 있다. 상기 오디오 스트리밍 세션은 상기 특정 어플리케이션에 의해 생성된 복수의 화면들에 대응하는 미러링 세션들 전부가 종료되는 것에 응답하여, 중단될 수 있다.
도 14는 일 실시예에 따른 전자 장치가, 다른 전자 장치로 하나 이상의 오디오를 출력하기 위한 신호를 획득하는 동작을 설명하기 위한 흐름도이다. 도 14의 전자 장치는 도 1 내지 도 3의 전자 장치(101), 도 4 및/또는 도 9의 소스 전자 장치의 일 예에 대응할 수 있다. 도 14의 다른 전자 장치는 도 1 내지 도 3의 전자 장치(210), 도 4 및/또는 도 9의 리모트 전자 장치의 일 예에 대응할 수 있다. 도 14의 동작은, 예를 들어, 도 3의 전자 장치(101)의 프로세서(312)에 의해 수행될 수 있다.
도 14를 참고하면, 동작(1410)에서, 일 실시예에 따른 전자 장치는, 디스플레이의 표시 영역 내에 제1 화면을 표시하고, 스피커를 통해 제1 오디오를 재생할 수 있다. 상기 제1 화면은, 상기 전자 장치의 디스플레이의 표시 영역의 전체에 대응할 수 있다. 상기 제1 오디오는, 전자 장치에서 실행되고 있는 모든 오디오의 결합에 대응할 수 있다.
도 14를 참고하면, 동작(1420)에서, 일 실시예에 따른 전자 장치는, 다른 전자 장치로부터, 제1 화면 및 제1 오디오에 대한 제1 지정된 요청을 수신하였는지 여부를 판단할 수 있다. 상기 제1 지정된 요청은, 예를 들어, 도 8의 시각적 객체(830)와 관련된 사용자 입력을 수신한 다른 전자 장치가 전자 장치로 송신할 수 있다.
동작(1420)의 제1 지정된 요청을 수신한 경우(1420-예), 동작(1430)에서, 일 실시예에 따른 전자 장치는, 제1 화면을 표시하기 위한 제1 신호 및 제1 오디오를 출력하기 위한 제2 신호를 송신할 수 있다. 상기 제1 신호 및 상기 제2 신호는, 예를 들어, 도 9의 미러링 세션(930)에 포함된 화면 스트리밍 세션(950) 및 오디오 스트리밍 세션(940) 각각에 기반하여, 전자 장치로부터 다른 전자 장치로 송신될 수 있다. 상기 제1 신호 및 상기 제2 신호를 송신함에 따라, 다른 전자 장치는 상기 제1 화면 및 상기 제2 화면을 출력할 수 있다.
동작(1420)의 제1 지정된 요청을 수신하지 않은 경우(1420-아니오), 동작(1440)에서, 일 실시예에 따른 전자 장치는 어플리케이션을 실행하라는 제2 지정된 요청을 수신하였는지 여부를 판단할 수 있다. 상기 제2 지정된 요청은, 예를 들어, 도 8의 리스트(840) 내에서 상기 어플리케이션을 선택하기 위한 사용자 입력을 수신한 다른 전자 장치가 전자 장치로 송신할 수 있다.
동작(1440)의 제2 지정된 요청을 수신한 경우(1440-예), 동작(1450)에서, 일 실시예에 따른 전자 장치는, 제2 지정된 요청에 대응하는 어플리케이션에 기반하여 제2 화면 및 제2 오디오를 획득할 수 있다. 전자 장치는 동작(1450)의 제2 화면을, 디스플레이의 표시 영역 내에 동작(1410)의 제1 화면을 표시하는 것을 유지하는 상태에서 획득할 수 있다.
도 14를 참고하면, 동작(1460)에서, 일 실시예에 따른 전자 장치는, 다른 전자 장치로, 제2 화면을 표시하기 위한 제3 신호 및 제2 오디오를 출력하기 위한 제4 신호를 송신할 수 있다. 일 실시예에서, 동작(1460)에 기반하는 제3 신호 및 제4 신호의 송신은, 상기 제1 지정된 요청 및 상기 제2 지정된 요청 전부를 수신한 전자 장치에 의하여, 동작(1430)에 기반하는 제1 신호 및 제2 신호의 송신과 동시에 수행될 수 있다. 이 경우, 상기 제2 신호는, 상기 제2 화면과 관련된 상기 제2 오디오를 음소거(mute)에 기반하여 제공하기 위한 데이터를 포함하고, 상기 제1 오디오를 음소거와 구별되는 볼륨에 기반하여 재생되기 위한 데이터를 포함할 수 있다. 동작들(1430, 1460)의 제1 신호 내지 제4 신호가 전자 장치로부터 다른 전자 장치로 동시에 송신되는 경우, 전자 장치는 상기 제1 신호 및 상기 제2 신호에 제1 식별자를 할당하고, 상기 제3 신호 및 상기 제4 신호에, 상기 제1 식별자와 구별되는 제2 식별자를 할당할 수 있다. 상기 제2 식별자는, 예를 들어, 동작(1440)의 어플리케이션과 관련될 수 있다. 상기 제1 식별자는, 예를 들어, 동작(1410)의 디스플레이의 표시 영역과 관련될 수 있다. 상기 제1 오디오에 대응하는 제2 신호 및 상기 제2 오디오에 대응하는 제4 신호가 상이한 식별자들에 의해 구별됨에 따라, 전자 장치는 상기 제2 신호 및 상기 제4 신호에 기반하여, 상기 제1 오디오 및 상기 제2 오디오 각각의 볼륨을 독립적으로 제어할 수 있다.
도 15는 일 실시예에 따른 전자 장치가, 전자 장치에서 실행되고 있는 복수의 어플리케이션들로부터 제공된 오디오를 믹싱하는 동작을 설명하기 위한 흐름도이다. 도 15의 전자 장치는 도 1 내지 도 3의 전자 장치(101), 도 4 및/또는 도 9의 소스 전자 장치의 일 예에 대응할 수 있다. 도 15의 다른 전자 장치는 도 1 내지 도 3의 전자 장치(210), 도 4 및/또는 도 9의 리모트 전자 장치의 일 예에 대응할 수 있다. 도 15의 동작은, 예를 들어, 도 3의 전자 장치(101)의 프로세서(312)에 의해 수행될 수 있다. 이하에서는 일 실시예에 따른 전자 장치가 다른 전자 장치로부터 전자 장치에서 생성되는 모든 오디오를 공유하라는 요청(예, 도 14의 제1 지정된 요청)을 수신한 것으로 가정한다. 도 15의 동작은, 도 6에서 상술된 전자 장치의 동작과 관련될 수 있다.
도 15를 참고하면, 동작(1510)에서, 일 실시예에 따른 전자 장치는, 전자 장치에서 실행되고 있는 하나 이상의 어플리케이션들 및 시스템 서비스로부터, 오디오를 획득할 수 있다. 도 6을 참고하면, 전자 장치는, 전자 장치에서 실행되고 있는 복수의 어플리케이션들 각각에 대응하는 오디오(612-1, 612-2, ..., 612-N) 및 시스템 오디오(610)를 획득할 수 있다.
도 15를 참고하면, 동작(1520)에서, 일 실시예에 따른 전자 장치는, 획득된 오디오를 믹싱하기 위한 오디오 믹싱 정보를 획득할 수 있다. 상기 오디오 믹싱 정보는, 예를 들어, 도 4 및/또는 도 6의 오디오 서비스(450) 및/또는 오디오 정책 서비스(470)를 실행한 전자 장치에 의하여 획득될 수 있다. 상기 오디오 믹싱 정보는, 동작(1510)에서 획득된 하나 이상의 어플리케이션들의 오디오 및 시스템 서비스의 오디오에 대응하는 볼륨들을 포함할 수 있다.
도 15를 참고하면, 동작(1530)에서, 일 실시예에 따른 전자 장치는, 다른 전자 장치로 제공되고, 전자 장치의 디스플레이의 표시 영역과 상이한 표시 영역에서 실행되는, 어플리케이션을 식별할 수 있다. 예를 들어, 도 14의 제2 지정된 요청에 기반하여, 전자 장치는 디스플레이의 표시 영역과 상이한 표시 영역을 이용하여, 상기 어플리케이션을 실행할 수 있다.
전자 장치의 디스플레이의 표시 영역과 상이한 표시 영역에서 실행되는 어플리케이션을 식별한 경우(1530-예), 동작(1550)에서, 일 실시예에 따른 전자 장치는 식별된 어플리케이션에 대응하는 오디오에 기반하여, 동작(1520)에 기반하여 획득된 오디오 믹싱 정보를 변경할 수 있다. 예를 들어, 오디오 믹싱 정보 내에서, 전자 장치는 식별된 어플리케이션의 오디오에 대응하는 볼륨을, 음소거에 대응하는 지정된 볼륨으로 변경할 수 있다.
도 15를 참고하면, 동작(1560)에서, 일 실시예에 따른 전자 장치는, 동작(1550)에 기반하여 변경된 오디오 믹싱 정보와 독립적으로, 식별된 어플리케이션에 대응하는 오디오를 출력하기 위한 제2 신호를 획득할 수 있다. 상기 제2 신호는, 예를 들어, 도 14의 제2 오디오에 대응하는 제4 신호를 포함할 수 있다. 상기 제2 신호는, 예를 들어, 음소거와 구별되는 지정된 볼륨(예, 최대 볼륨)에 기반하여, 상기 오디오를 출력하기 위한 데이터를 포함할 수 있다.
도 15를 참고하면, 동작(1540)에서, 일 실시예에 따른 전자 장치는, 오디오 믹싱 정보에 기반하여 동작(1510)에서 획득된 오디오를 믹싱하여, 다른 전자 장치로 송신되기 위한 제1 신호를 획득할 수 있다. 상기 제1 신호는, 예를 들어, 도 14의 제1 오디오에 대응하는 제2 신호를 포함할 수 있다. 동작들(1530, 1550, 1560)을 참고하면, 상기 오디오 믹싱 정보는, 동작(1530)의 어플리케이션을 식별하였는지 여부에 따라 변경될 수 있다. 상기 오디오 믹싱 정보가 변경됨에 따라, 전자 장치는 동작(1530)의 어플리케이션을 식별하였는지 여부에 기반하여, 제1 신호를 다르게 생성할 수 있다.
예를 들어, 디스플레이의 표시 영역과 상이한 표시 영역에서 실행되는 어플리케이션을 식별하지 않은 경우(1530-아니오), 전자 장치는 상기 어플리케이션과 독립적인 오디오 믹싱 정보에 기반하여 제1 신호를 믹싱할 수 있다. 이 경우, 동작(1540)에 기반하여 획득되는 제1 신호는, 동작(1510)에서 획득된 오디오가 일치된 볼륨을 따라 결합된 오디오를 나타낼 수 있다. 다른 예를 들어, 디스플레이의 표시 영역과 상이한 표시 영역에서 실행되는 어플리케이션을 식별한 경우(1530-예), 전자 장치는 상기 어플리케이션에 기반하여 변경된 오디오 믹싱 정보에 기반하여, 제1 신호를 획득할 수 있다. 이 경우, 동작(1540)에 기반하여 획득되는 제1 신호는, 동작(1550)에 의하여 동작(1530)의 어플리케이션에 대응하는 오디오를 제외한 다른 오디오가 일치된 볼륨을 따라 결합된 오디오를 나타낼 수 있다.
도 16은 일 실시예에 따른 전자 장치가, 다른 전자 장치로부터 제공된 복수의 화면들 각각에 대응하는 오디오의 볼륨들을 개별적으로 제어하는 동작을 설명하기 위한 흐름도이다. 도 16의 전자 장치는 도 1 내지 도 3의 전자 장치(210), 도 4 및/또는 도 9의 리모트 전자 장치의 일 예에 대응할 수 있다. 도 16의 다른 전자 장치는 도 1 내지 도 3의 전자 장치(101), 도 4 및/또는 도 9의 소스 전자 장치의 일 예에 대응할 수 있다. 도 16의 동작은, 예를 들어, 도 3의 전자 장치(210)의 프로세서(314)에 의해 수행될 수 있다.
도 16을 참고하면, 동작(1610)에서, 일 실시예에 따른 전자 장치는 다른 전자 장치와 관련된 미러링 기능을 제공하기 위한 지정된 화면을 표시할 수 있다. 상기 지정된 화면은, 예를 들어, 도 8의 화면(810)을 포함할 수 있다. 예를 들어, 전자 장치는 도 4 및/또는 도 7의 프로그램(874)을 실행하여, 상기 지정된 화면을 표시할 수 있다.
도 16을 참고하면, 동작(1620)에서, 일 실시예에 따른 전자 장치는 지정된 화면 내에서, 다른 전자 장치의 디스플레이의 미러링과 관련된 제1 입력을 수신하였는지 여부를 판단할 수 있다. 상기 제1 입력은, 예를 들어, 도 8의 시각적 객체(830)를 선택하는 사용자 입력을 포함할 수 있다.
동작(1620)의 제1 입력을 수신한 경우(1620-예), 동작(1630)에서, 일 실시예에 따른 전자 장치는 다른 전자 장치의 디스플레이의 표시 영역에 대응하는 제1 화면을 표시할 수 있다. 상기 제1 화면은, 도 9 및/또는 도 10의 화면(922)을 포함할 수 있다. 전자 장치는, 예를 들어, 도 4 및/또는 도 7의 스크린 미러링 싱크 매니저(415)를 실행하여, 상기 제1 화면을 표시할 수 있다. 예를 들어, 상기 제1 화면은, 도 4 및/또는 도 7의 스크린 미러링 소스 매니저(410)의 실행에 기반하여 다른 전자 장치로부터 제공될 수 있다.
동작(1620)의 제1 입력을 수신한 경우(1620-예), 동작(1640)에서, 일 실시예에 따른 전자 장치는 제1 화면과 관련된 제1 시각적 객체에 의해 지시되는 제1 볼륨에 기반하여, 제1 화면에 대응하는 제1 오디오를 출력할 수 있다. 상기 제1 오디오는, 예를 들어, 도 6의 오디오 레코더(560)에 기반하여 다른 전자 장치에 의하여 획득되고, 다른 전자 장치에서 발생하는 모든 오디오의 결합에 대응할 수 있다. 상기 제1 시각적 객체는 도 9 내지 도 10의 시각적 객체(924), 및/또는 도 10의 UI(1010)를 포함할 수 있다. 예를 들어, 전자 장치는 상기 제1 시각적 객체에 기반하여 상기 제1 볼륨을 조절하는 사용자 입력을 식별하는 것에 응답하여, 동작(1640)에 기반하여 출력되는 제1 오디오의 볼륨을, 상기 조절된 제1 볼륨으로 변경할 수 있다.
도 16을 참고하면, 동작(1650)에서, 일 실시예에 따른 전자 장치는 지정된 화면 내에서, 다른 전자 장치의 어플리케이션들 중 하나의 어플리케이션을 선택하는 제2 입력을 수신하였는지 여부를 판단할 수 있다. 상기 제2 입력은, 예를 들어, 도 8의 리스트(840) 내에 포함된 어플리케이션들 중 하나의 어플리케이션을 선택하는 사용자 입력을 포함할 수 있다. 도 16에 도시된 동작들(1620, 1650)의 순서에 실시예가 제한되는 것은 아니며, 전자 장치는 동작들(1620, 1650)에 기반하는 제1 입력 및 제2 입력 각각을 수신하는 것을, 독립적으로 수행할 수 있다.
동작(1650)의 제2 입력을 수신한 경우(1650-예), 동작(1660)에서, 일 실시예에 따른 전자 장치는 다른 전자 장치로부터 제공되고, 상기 제2 입력에 의해 선택된 어플리케이션에 대응하는 제2 화면을 표시할 수 있다. 상기 제2 화면은, 도 9 및/또는 도 10의 화면(926)을 포함할 수 있다. 전자 장치는, 예를 들어, 도 4 및/또는 도 7의 리모트 어플리케이션 컨테이너를 실행하여, 상기 제2 화면을 표시할 수 있다. 예를 들어, 상기 제2 화면은, 소스 어플리케이션 컨테이너의 실행에 기반하여 다른 전자 장치로부터 제공될 수 있다.
동작(1650)의 제2 입력을 수신한 경우(1650-예), 동작(1670)에서, 일 실시예에 따른 전자 장치는 제2 화면과 관련된 제2 시각적 객체에 의해 지시되는 제2 볼륨에 기반하여, 제2 화면에 대응하는 제2 오디오를 출력할 수 있다. 상기 제2 오디오는, 예를 들어, 도 6의 오디오 레코더들(622-1, 622-2) 중 하나에 기반하여 다른 전자 장치에 의하여 획득되고, 동작(1650)의 제2 입력에 의해 선택된 어플리케이션이 실행됨에 따라 다른 전자 장치에서 생성될 수 있다. 상기 제2 시각적 객체는 도 9 내지 도 10의 시각적 객체(928) 및/또는 도 10의 UI(1020)를 포함할 수 있다. 예를 들어, 전자 장치는 상기 제2 시각적 객체에 기반하여 상기 제2 볼륨을 조절하는 사용자 입력을 식별하는 것에 응답하여, 동작(1670)에 기반하여 출력되는 제2 오디오의 볼륨을 상기 조절된 제2 볼륨으로 변경할 수 있다.
일 실시예에서, 도 16의 동작들이 반복적으로 수행됨에 따라, 전자 장치는 동작들(1630, 1640)에 기반하는 제1 화면 및 제1 오디오를, 동작들(1660, 1670)에 기반하는 제2 화면 및 제2 오디오와 동시에 출력할 수 있다. 이 경우, 전자 장치는 동작들(1640, 1670)에 기반하여, 상기 제1 오디오 및 상기 제2 오디오에 대응하는 제1 볼륨 및 제2 볼륨을 개별적으로 조절할 수 있다.
상술한 바와 같이, 일 실시예에 따른 전자 장치는, 다른 전자 장치로 전자 장치의 디스플레이 상에 표시되고 있는 제1 화면을 송신하는 상태에서, 전자 장치에서 발생하는 모든 오디오의 결합을 나타내는 제1 오디오 신호를, 다른 전자 장치로 송신할 수 있다. 다른 전자 장치로 제1 오디오 신호를 송신하는 상태에서, 상기 제1 화면과 독립적인 제2 화면에 기반하여 특정 어플리케이션을 실행하라는 요청을 수신하는 것에 응답하여, 전자 장치는 다른 전자 장치로, 특정 어플리케이션에 대한 제2 화면을 송신하면서, 상기 제1 오디오 신호와 구별되고, 특정 어플리케이션에서 발생된 제2 오디오 신호를 송신할 수 있다. 상기 제1 오디오 신호 및 상기 제2 오디오 신호를 독립적으로 송신하는 상태에서, 전자 장치는 모든 오디오의 결합을 나타내는 제1 오디오 신호로부터, 특정 어플리케이션에 대응하는 오디오를 제거할 수 있다.
상술한 바와 같은, 일 실시예에 따른 전자 장치(electronic device)는, 통신 회로, 디스플레이, 스피커, 복수의 인스트럭션들을 저장하도록 구성된 메모리, 및 상기 통신 회로, 상기 디스플레이, 상기 스피커, 상기 메모리와 작동적으로 결합된 프로세서를 포함하고, 상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에, 상기 디스플레이의 표시 영역 내에서 제1 화면을 표시하고, 제1 오디오를 상기 스피커를 통해 제공하는 동안, 상기 통신 회로를 통하여 상기 전자 장치와 구별되는 다른 전자 장치로부터, 제1 지정된 요청을 수신하고, 상기 제1 지정된 요청을 수신하는 것에 응답하여, 상기 표시 영역 내에서 표시되고 있는 상기 제1 화면을 상기 다른 전자 장치 내에서 표시하기 위한 제1 신호 및 상기 스피커를 통해 출력되고 있는 상기 제1 오디오를 상기 다른 전자 장치 내에서 출력하기 위한 제2 신호를 송신하고, 상기 제1 신호 및 상기 제2 신호를 상기 다른 전자 장치로 송신하는 동안, 상기 다른 전자 장치로부터, 상기 전자 장치에서 상기 제1 오디오를 제공하는 하나 이상의 제1 어플리케이션들과 구별되는 제2 어플리케이션을 실행하라는 제2 지정된 요청을 수신하고, 상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제1 화면, 및 상기 제2 어플리케이션을 실행함으로써 획득되는 제2 화면 중 상기 제1 화면을 상기 표시 영역 내에서 표시하고, 상기 제2 화면을 상기 다른 전자 장치 내에서 표시하기 위한 제3 신호, 및 상기 제2 어플리케이션으로부터 획득되는 제2 오디오를 상기 다른 전자 장치 내에서 출력하기 위한 제4 신호를 상기 다른 전자 장치로 더(further) 송신할 수 있다.
예를 들어, 상기 제2 신호는, 상기 다른 전자 장치로 상기 제4 신호가 송신되는 동안, 상기 제2 화면과 관련된 상기 제2 오디오를, 음소거(mute)에 기반하여 제공하기 위한 데이터를 포함할 수 있다.
예를 들어, 상기 제2 신호는, 상기 다른 전자 장치로 상기 제4 신호가 송신되는 동안, 상기 제1 오디오가 상기 다른 전자 장치에 의하여 음소거와 구별되는 볼륨에 기반하여 재생되기 위한 데이터를 포함할 수 있다.
예를 들어, 상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에, 상기 제1 지정된 요청을 수신하기 이전에, 상기 제1 오디오를, 복수의 지정된 채널들 중에서 상기 스피커에 대응하는 제1 채널로 송신하고, 상기 제1 지정된 요청을 수신하는 것에 응답하여, 상기 제1 오디오를 상기 제1 채널과 구별되는 제2 채널로 송신하고, 상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제1 오디오를 상기 제2 채널로 송신하는 상태에서, 상기 제2 오디오를 상기 제1 채널 및 상기 제2 채널과 구별되는 제3 채널로 송신할 수 있다.
예를 들어, 상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에, 상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제3 채널로 상기 제2 오디오를 송신하기 위한 신호 경로와 구별되는 다른 신호 경로를 이용하여, 상기 제2 오디오에 대응하는 상기 제4 신호를 획득할 수 있다.
예를 들어, 상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에, 상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제2 어플리케이션이 실행됨에 따라 상기 제2 어플리케이션에 할당되는 식별자를 식별하고, 및 상기 제3 신호 및 상기 제4 신호를, 상기 식별된 식별자에 기반하여, 상기 다른 전자 장치로 송신할 수 있다.
예를 들어, 상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에, 상기 제3 신호 및 상기 제4 신호를 송신하는 상태에서, 상기 식별자와 구별되는 다른 식별자에 기반하여, 상기 다른 전자 장치로 상기 제1 신호 및 상기 제2 신호를 송신할 수 있다.
예를 들어, 상기 식별자 및 상기 다른 식별자는, 상기 다른 전자 장치에 의하여 상기 제2 신호에 대응하는 상기 제1 오디오의 볼륨 및 상기 제4 신호에 대응하는 상기 제2 오디오의 볼륨을 독립적으로 제어하기 위하여 할당될 수 있다.
상술한 바와 같은, 일 실시예에 따른 전자 장치의 방법은, 상기 전자 장치의 디스플레이의 표시 영역 내에서 제1 화면을 표시하고, 상기 전자 장치의 스피커를 통해 제1 오디오를 제공하는 동안, 상기 전자 장치와 구별되는 다른 전자 장치로부터, 제1 지정된 요청을 수신하는 동작, 상기 제1 지정된 요청을 수신하는 것에 응답하여, 상기 표시 영역 내에서 표시되고 있는 상기 제1 화면을 상기 다른 전자 장치 내에서 표시하기 위한 제1 신호 및 상기 스피커를 통해 출력되고 있는 상기 제1 오디오를 상기 다른 전자 장치 내에서 출력하기 위한 제2 신호를 송신하는 동작, 상기 제1 신호 및 상기 제2 신호를 상기 다른 전자 장치로 송신하는 동안, 상기 다른 전자 장치로부터, 상기 전자 장치에서 상기 제1 오디오를 제공하는 하나 이상의 제1 어플리케이션들과 구별되는 제2 어플리케이션을 실행하라는 제2 지정된 요청을 수신하는 동작, 상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제1 화면, 및 상기 제2 어플리케이션을 실행함으로써 획득되는 제2 화면 중 상기 제1 화면을 상기 표시 영역 내에서 표시하고, 상기 제2 화면을 다른 전자 장치 내에서 표시하기 위한 제3 신호, 및 상기 제2 어플리케이션으로부터 획득되는 제2 오디오를 상기 다른 전자 장치 내에서 출력하기 위한 제4 신호를 상기 다른 전자 장치로 더 송신하는 동작을 포함할 수 있다.
예를 들어, 전자 장치의 방법은, 상기 다른 전자 장치로 상기 제4 신호가 송신되는 동안, 상기 제2 화면과 관련된 상기 제2 오디오를, 음소거(mute)에 기반하여 제공하기 위한 데이터에 기반하여 상기 제2 신호를 획득하는 동작을 더 포함할 수 있다.
예를 들어, 전자 장치의 방법은, 상기 제1 지정된 요청을 수신하기 이전에, 상기 제1 오디오를, 복수의 지정된 채널들 중에서 상기 스피커에 대응하는 제1 채널로 송신하는 동작, 상기 제1 지정된 요청을 수신하는 것에 응답하여, 상기 제1 오디오를 상기 제1 채널과 구별되는 제2 채널로 송신하는 동작, 및 상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제1 오디오를 상기 제2 채널로 송신하는 상태에서, 상기 제2 오디오를 상기 제1 채널 및 상기 제2 채널과 구별되는 제3 채널로 송신하는 동작을 더 포함할 수 있다.
예를 들어, 상기 제3 신호 및 상기 제4 신호를 송신하는 동작은, 상기 제3 채널로 상기 제2 오디오를 송신하기 위한 신호 경로와 구별되는 다른 신호 경로를 이용하여, 상기 제2 오디오에 대응하는 상기 제4 신호를 획득하는 동작을 더 포함할 수 있다.
예를 들어, 상기 제3 신호 및 상기 제4 신호를 송신하는 동작은, 상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제2 어플리케이션이 실행됨에 따라 상기 제2 어플리케이션에 할당되는 식별자를 식별하는 동작, 및 상기 제3 신호 및 상기 제4 신호를, 상기 식별된 식별자에 기반하여, 상기 다른 전자 장치로 송신하는 동작을 더 포함할 수 있다.
예를 들어, 전자 장치의 방법은, 상기 제3 신호 및 상기 제4 신호를 송신하는 상태에서, 상기 식별자와 구별되는 다른 식별자에 기반하여, 상기 다른 전자 장치로 상기 제1 신호 및 상기 제2 신호를 송신하는 동작을 더 포함할 수 있다.
예를 들어, 상기 제4 신호는, 상기 다른 전자 장치로, 상기 제2 신호와 독립적으로 송신됨에 따라, 상기 제4 신호에 대응하는 상기 제2 오디오의 볼륨을, 상기 제2 신호에 대응하는 상기 제1 오디오의 볼륨과 독립적으로 제어하기 위하여 이용될 수 있다.
상술한 바와 같은, 일 실시예에 따른 전자 장치(electronic device)는, 통신 회로, 디스플레이, 스피커, 복수의 인스트럭션들을 저장하도록 구성된 메모리, 및 상기 통신 회로, 상기 디스플레이, 상기 스피커, 상기 메모리와 작동적으로 결합된 프로세서를 포함하고, 상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에, 상기 디스플레이의 제1 부분 내에, 상기 통신 회로를 통하여 상기 전자 장치와 구별되는 다른 전자 장치로부터 제공되는 제1 화면을 출력하고, 상기 스피커를 통하여, 상기 다른 전자 장치로부터 제공되고, 상기 제1 화면에 대응하는 제1 오디오를 출력하고, 상기 제1 화면 및 상기 제1 오디오를 출력하는 상태에서, 상기 제1 부분과 구별되는 제2 부분에 상기 다른 전자 장치로부터 제공되는 제2 화면을 출력하고, 상기 스피커를 통하여 상기 다른 전자 장치로부터 제공되고, 상기 제2 화면에 대응하는 제2 오디오를 출력하고, 및 상기 제1 화면, 상기 제2 화면, 상기 제1 오디오 및 상기 제2 오디오를 출력하는 상태에서, 상기 제1 오디오의 볼륨을 조절하기 위한 사용자 입력을 수신하는 것에 응답하여, 상기 제2 오디오를 출력하는 것과 독립적으로, 상기 제1 오디오의 볼륨을 조절할 수 있다.
예를 들어, 상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에, 상기 제1 화면과 관련된 제1 시각적 객체에 기반하여 수행된 상기 사용자 입력을 수신하는 것에 응답하여, 상기 제1 오디오의 볼륨을 조절하고, 상기 제2 화면과 관련되고, 상기 제1 시각적 객체와 구별되는 제2 시각적 객체에 기반하여 수행된 다른 사용자 입력을 수신하는 것에 응답하여, 상기 제1 오디오를 출력하는 것과 독립적으로, 상기 제2 오디오의 볼륨을 조절할 수 있다.
예를 들어, 상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에, 상기 디스플레이 내에, 상기 다른 전자 장치의 디스플레이의 표시 영역에서 표시되고 있는 상기 제1 화면, 및 상기 표시 영역과 독립적인 상기 제2 화면을 표시할 수 있다.
예를 들어, 상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에, 상기 통신 회로를 통하여, 상이한 식별자를 가지는 제1 신호 및 제2 신호 각각을 이용하여, 상기 제1 오디오 및 상기 제2 오디오를 수신할 수 있다.
예를 들어, 상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에, 상기 다른 전자 장치에 저장된 복수의 어플리케이션들의 리스트 내에 포함된 어플리케이션을 선택하는 다른 사용자 입력을 수신하는 것에 응답하여, 상기 다른 전자 장치로, 상기 선택된 어플리케이션에 기반하는 상기 제2 화면 및 상기 제2 오디오의 제공을 요청할 수 있다.
상술한 바와 같은, 일 실시예에 따른 전자 장치의 방법은, 상기 전자 장치의 디스플레이의 제1 부분 내에, 전자 장치의 통신 회로를 통하여 다른 전자 장치로부터 제공되는 제1 화면을 출력하고, 전자 장치의 스피커를 통하여, 다른 전자 장치로부터 제공되고, 상기 제1 화면에 대응하는 제1 오디오를 출력하는 동작, 상기 제1 화면 및 상기 제1 오디오를 출력하는 상태에서, 상기 제1 부분과 구별되는 제2 부분에 상기 다른 전자 장치로부터 제공되는 제2 화면을 출력하고, 상기 스피커를 통하여, 상기 다른 전자 장치로부터 제공되고, 상기 제2 화면에 대응하는 제2 오디오를 출력하는 동작, 및 상기 제1 화면, 상기 제2 화면, 상기 제1 오디오 및 상기 제2 오디오를 출력하는 상태에서, 상기 제1 오디오의 볼륨을 조절하기 위한 사용자 입력을 수신하는 것에 응답하여, 상기 제2 오디오를 출력하는 것과 독립적으로, 상기 제1 오디오의 볼륨을 조절하는 동작을 포함할 수 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 어플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 컴퓨터 저장 매체 또는 장치에 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 이때, 매체는 컴퓨터로 실행 가능한 프로그램을 계속 저장하거나, 실행 또는 다운로드를 위해 임시 저장하는 것일 수도 있다. 또한, 매체는 단일 또는 수 개의 하드웨어가 결합된 형태의 다양한 기록수단 또는 저장수단일 수 있는데, 어떤 컴퓨터 시스템에 직접 접속되는 매체에 한정되지 않고, 네트워크 상에 분산 존재하는 것일 수도 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다. 또한, 다른 매체의 예시로, 어플리케이션을 유통하는 앱 스토어나 기타 다양한 소프트웨어를 공급 내지 유통하는 사이트, 서버 등에서 관리하는 기록매체 내지 저장매체도 들 수 있다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.
Claims (20)
- 전자 장치(electronic device)에 있어서,
통신 회로;
디스플레이;
스피커;
복수의 인스트럭션들을 저장하도록 구성된 메모리; 및
상기 통신 회로, 상기 디스플레이, 상기 스피커, 상기 메모리와 작동적으로 결합된 프로세서를 포함하고, 상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에,
상기 디스플레이의 표시 영역 내에서 제1 화면을 표시하고, 제1 오디오를 상기 스피커를 통해 제공하는 동안, 상기 통신 회로를 통하여 상기 전자 장치와 구별되는 다른 전자 장치로부터, 제1 지정된 요청을 수신하고;
상기 제1 지정된 요청을 수신하는 것에 응답하여, 상기 표시 영역 내에서 표시되고 있는 상기 제1 화면을 상기 다른 전자 장치 내에서 표시하기 위한 제1 신호 및 상기 스피커를 통해 출력되고 있는 상기 제1 오디오를 상기 다른 전자 장치 내에서 출력하기 위한 제2 신호를 송신하고;
상기 제1 신호 및 상기 제2 신호를 상기 다른 전자 장치로 송신하는 동안, 상기 다른 전자 장치로부터, 상기 전자 장치에서 상기 제1 오디오를 제공하는 하나 이상의 제1 어플리케이션들과 구별되는 제2 어플리케이션을 실행하라는 제2 지정된 요청을 수신하고;
상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제1 화면, 및 상기 제2 어플리케이션을 실행함으로써 획득되는 제2 화면 중 상기 제1 화면을 상기 표시 영역 내에서 표시하고, 상기 제2 화면을 상기 다른 전자 장치 내에서 표시하기 위한 제3 신호, 및 상기 제2 어플리케이션으로부터 획득되는 제2 오디오를 상기 다른 전자 장치 내에서 출력하기 위한 제4 신호를 상기 다른 전자 장치로 더(further) 송신하는 전자 장치. - 제1항에 있어서,
상기 제2 신호는,
상기 다른 전자 장치로 상기 제4 신호가 송신되는 동안, 상기 제2 화면과 관련된 상기 제2 오디오를, 음소거(mute)에 기반하여 제공하기 위한 데이터를 포함하는 전자 장치. - 제2항에 있어서,
상기 제2 신호는,
상기 다른 전자 장치로 상기 제4 신호가 송신되는 동안, 상기 제1 오디오가 상기 다른 전자 장치에 의하여 음소거와 구별되는 볼륨에 기반하여 재생되기 위한 데이터를 포함하는 전자 장치. - 제1항에 있어서,
상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에,
상기 제1 지정된 요청을 수신하기 이전에, 상기 제1 오디오를, 복수의 지정된 채널들 중에서 상기 스피커에 대응하는 제1 채널로 송신하고;
상기 제1 지정된 요청을 수신하는 것에 응답하여, 상기 제1 오디오를 상기 제1 채널과 구별되는 제2 채널로 송신하고;
상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제1 오디오를 상기 제2 채널로 송신하는 상태에서, 상기 제2 오디오를 상기 제1 채널 및 상기 제2 채널과 구별되는 제3 채널로 송신하는 전자 장치. - 제4항에 있어서,
상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에,
상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제3 채널로 상기 제2 오디오를 송신하기 위한 신호 경로와 구별되는 다른 신호 경로를 이용하여, 상기 제2 오디오에 대응하는 상기 제4 신호를 획득하는 전자 장치. - 제1항에 있어서,
상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에,
상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제2 어플리케이션이 실행됨에 따라 상기 제2 어플리케이션에 할당되는 식별자를 식별하고; 및
상기 제3 신호 및 상기 제4 신호를, 상기 식별된 식별자에 기반하여, 상기 다른 전자 장치로 송신하는 전자 장치. - 제6항에 있어서,
상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에,
상기 제3 신호 및 상기 제4 신호를 송신하는 상태에서, 상기 식별자와 구별되는 다른 식별자에 기반하여, 상기 다른 전자 장치로 상기 제1 신호 및 상기 제2 신호를 송신하는 전자 장치. - 제7항에 있어서,
상기 식별자 및 상기 다른 식별자는,
상기 다른 전자 장치에 의하여 상기 제2 신호에 대응하는 상기 제1 오디오의 볼륨 및 상기 제4 신호에 대응하는 상기 제2 오디오의 볼륨을 독립적으로 제어하기 위하여 할당되는, 전자 장치. - 전자 장치의 방법에 있어서,
상기 전자 장치의 디스플레이의 표시 영역 내에서 제1 화면을 표시하고, 상기 전자 장치의 스피커를 통해 제1 오디오를 제공하는 동안, 상기 전자 장치와 구별되는 다른 전자 장치로부터, 제1 지정된 요청을 수신하는 동작;
상기 제1 지정된 요청을 수신하는 것에 응답하여, 상기 표시 영역 내에서 표시되고 있는 상기 제1 화면을 상기 다른 전자 장치 내에서 표시하기 위한 제1 신호 및 상기 스피커를 통해 출력되고 있는 상기 제1 오디오를 상기 다른 전자 장치 내에서 출력하기 위한 제2 신호를 송신하는 동작;
상기 제1 신호 및 상기 제2 신호를 상기 다른 전자 장치로 송신하는 동안, 상기 다른 전자 장치로부터, 상기 전자 장치에서 상기 제1 오디오를 제공하는 하나 이상의 제1 어플리케이션들과 구별되는 제2 어플리케이션을 실행하라는 제2 지정된 요청을 수신하는 동작;
상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제1 화면, 및 상기 제2 어플리케이션을 실행함으로써 획득되는 제2 화면 중 상기 제1 화면을 상기 표시 영역 내에서 표시하고, 상기 제2 화면을 다른 전자 장치 내에서 표시하기 위한 제3 신호, 및 상기 제2 어플리케이션으로부터 획득되는 제2 오디오를 상기 다른 전자 장치 내에서 출력하기 위한 제4 신호를 상기 다른 전자 장치로 더 송신하는 동작을 포함하는 방법. - 제9항에 있어서,
상기 다른 전자 장치로 상기 제4 신호가 송신되는 동안, 상기 제2 화면과 관련된 상기 제2 오디오를, 음소거(mute)에 기반하여 제공하기 위한 데이터에 기반하여 상기 제2 신호를 획득하는 동작을 더 포함하는 방법. - 제9항에 있어서,
상기 제1 지정된 요청을 수신하기 이전에, 상기 제1 오디오를, 복수의 지정된 채널들 중에서 상기 스피커에 대응하는 제1 채널로 송신하는 동작;
상기 제1 지정된 요청을 수신하는 것에 응답하여, 상기 제1 오디오를 상기 제1 채널과 구별되는 제2 채널로 송신하는 동작; 및
상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제1 오디오를 상기 제2 채널로 송신하는 상태에서, 상기 제2 오디오를 상기 제1 채널 및 상기 제2 채널과 구별되는 제3 채널로 송신하는 동작을 더 포함하는 방법. - 제11항에 있어서,
상기 제3 신호 및 상기 제4 신호를 송신하는 동작은,
상기 제3 채널로 상기 제2 오디오를 송신하기 위한 신호 경로와 구별되는 다른 신호 경로를 이용하여, 상기 제2 오디오에 대응하는 상기 제4 신호를 획득하는 동작을 더 포함하는 방법. - 제9항에 있어서,
상기 제3 신호 및 상기 제4 신호를 송신하는 동작은,
상기 제2 지정된 요청을 수신하는 것에 응답하여, 상기 제2 어플리케이션이 실행됨에 따라 상기 제2 어플리케이션에 할당되는 식별자를 식별하는 동작; 및
상기 제3 신호 및 상기 제4 신호를, 상기 식별된 식별자에 기반하여, 상기 다른 전자 장치로 송신하는 동작을 더 포함하는 방법. - 제13항에 있어서,
상기 제3 신호 및 상기 제4 신호를 송신하는 상태에서, 상기 식별자와 구별되는 다른 식별자에 기반하여, 상기 다른 전자 장치로 상기 제1 신호 및 상기 제2 신호를 송신하는 동작을 더 포함하는 방법. - 제9항에 있어서,
상기 제4 신호는, 상기 다른 전자 장치로, 상기 제2 신호와 독립적으로 송신됨에 따라, 상기 제4 신호에 대응하는 상기 제2 오디오의 볼륨을, 상기 제2 신호에 대응하는 상기 제1 오디오의 볼륨과 독립적으로 제어하기 위하여 이용되는, 방법. - 전자 장치(electronic device)에 있어서,
통신 회로;
디스플레이;
스피커;
복수의 인스트럭션들을 저장하도록 구성된 메모리; 및
상기 통신 회로, 상기 디스플레이, 상기 스피커, 상기 메모리와 작동적으로 결합된 프로세서를 포함하고, 상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에,
상기 디스플레이의 제1 부분 내에, 상기 통신 회로를 통하여 상기 전자 장치와 구별되는 다른 전자 장치로부터 제공되는 제1 화면을 출력하고, 상기 스피커를 통하여, 상기 다른 전자 장치로부터 제공되고, 상기 제1 화면에 대응하는 제1 오디오를 출력하고;
상기 제1 화면 및 상기 제1 오디오를 출력하는 상태에서, 상기 제1 부분과 구별되는 제2 부분에 상기 다른 전자 장치로부터 제공되는 제2 화면을 출력하고, 상기 스피커를 통하여 상기 다른 전자 장치로부터 제공되고, 상기 제2 화면에 대응하는 제2 오디오를 출력하고; 및
상기 제1 화면, 상기 제2 화면, 상기 제1 오디오 및 상기 제2 오디오를 출력하는 상태에서, 상기 제1 오디오의 볼륨을 조절하기 위한 사용자 입력을 수신하는 것에 응답하여, 상기 제2 오디오를 출력하는 것과 독립적으로, 상기 제1 오디오의 볼륨을 조절하는 전자 장치. - 제16항에 있어서,
상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에,
상기 제1 화면과 관련된 제1 시각적 객체에 기반하여 수행된 상기 사용자 입력을 수신하는 것에 응답하여, 상기 제1 오디오의 볼륨을 조절하고,
상기 제2 화면과 관련되고, 상기 제1 시각적 객체와 구별되는 제2 시각적 객체에 기반하여 수행된 다른 사용자 입력을 수신하는 것에 응답하여, 상기 제1 오디오를 출력하는 것과 독립적으로, 상기 제2 오디오의 볼륨을 조절하는 전자 장치. - 제16항에 있어서,
상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에,
상기 디스플레이 내에, 상기 다른 전자 장치의 디스플레이의 표시 영역에서 표시되고 있는 상기 제1 화면, 및 상기 표시 영역과 독립적인 상기 제2 화면을 표시하는 전자 장치. - 제16항에 있어서,
상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에,
상기 통신 회로를 통하여, 상이한 식별자를 가지는 제1 신호 및 제2 신호 각각을 이용하여, 상기 제1 오디오 및 상기 제2 오디오를 수신하는 전자 장치. - 제16항에 있어서,
상기 프로세서는, 상기 복수의 인스트럭션들을 실행할 시에,
상기 다른 전자 장치에 저장된 복수의 어플리케이션들의 리스트 내에 포함된 어플리케이션을 선택하는 다른 사용자 입력을 수신하는 것에 응답하여, 상기 다른 전자 장치로, 상기 선택된 어플리케이션에 기반하는 상기 제2 화면 및 상기 제2 오디오의 제공을 요청하는 전자 장치.
Priority Applications (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202280062937.4A CN117957846A (zh) | 2021-09-16 | 2022-08-04 | 用于共享屏幕和与屏幕对应的音频信号的电子设备和方法 |
| PCT/KR2022/011531 WO2023043057A1 (ko) | 2021-09-16 | 2022-08-04 | 화면들 및 화면들에 대응하는 오디오 신호들을 공유하기 위한 전자 장치 및 그 방법 |
| EP22870144.7A EP4383732A1 (en) | 2021-09-16 | 2022-08-04 | Electronic device and method for sharing screens and audio signals corresponding to screens |
| US18/428,943 US20240168698A1 (en) | 2021-09-16 | 2024-01-31 | Electronic device and method for sharing screens and audio signals corresponding to screens |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR20210124392 | 2021-09-16 | ||
| KR1020210124392 | 2021-09-16 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR20230040836A true KR20230040836A (ko) | 2023-03-23 |
Family
ID=85799061
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020210131963A KR20230040836A (ko) | 2021-09-16 | 2021-10-05 | 화면들 및 화면들에 대응하는 오디오 신호들을 공유하기 위한 전자 장치 및 그 방법 |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR20230040836A (ko) |
-
2021
- 2021-10-05 KR KR1020210131963A patent/KR20230040836A/ko active Search and Examination
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11831561B2 (en) | System, apparatus, and method for controlling internet devices via a mobile device session | |
| US10739737B2 (en) | Environment customization | |
| US20140331135A1 (en) | Digital content connectivity and control via a plurality of controllers that are treated as a single controller | |
| US10375342B2 (en) | Browsing remote content using a native user interface | |
| KR102502655B1 (ko) | 연속성을 갖는 컨텐츠 재생 방법 및 이를 위한 전자 장치 | |
| US11962853B2 (en) | Computing device upgrading system over a wireless network | |
| US11900015B2 (en) | Electronic device and method for controlling audio volume thereof | |
| KR20220016544A (ko) | 오디오 공유를 지원하는 전자 장치 | |
| US11838589B2 (en) | Port-connected television upgrader device | |
| US11190842B2 (en) | USB-based media device upgrading system | |
| TW201419839A (zh) | 無線顯示雲端模式 | |
| US10391394B2 (en) | System and method for providing a software application controller | |
| KR20230040836A (ko) | 화면들 및 화면들에 대응하는 오디오 신호들을 공유하기 위한 전자 장치 및 그 방법 | |
| EP4383732A1 (en) | Electronic device and method for sharing screens and audio signals corresponding to screens | |
| KR20200079081A (ko) | 콘텐트 공유 방법 및 그 전자 장치 | |
| CN117957846A (zh) | 用于共享屏幕和与屏幕对应的音频信号的电子设备和方法 | |
| KR20210014582A (ko) | 다중경로 무선 제어기 | |
| KR20160093877A (ko) | 가상 클라이언트와 클라우드 스트리밍 서버, 그를 포함하는 클라우드 스트리밍 서버 테스트 시스템, 그 제어 방법 및 컴퓨터 프로그램이 기록된 기록매체 | |
| US12086393B2 (en) | Communication method and device using avatar in virtual space | |
| KR101423846B1 (ko) | 스마트 기기를 통한 미디어 재생정보 전송 장치 및 방법 | |
| US20230188782A1 (en) | Input-based streaming control method and electronic device therefor | |
| US20240129257A1 (en) | System, Apparatus, And Method For Controlling Internet Devices Via A Mobile Device Session | |
| KR20240103900A (ko) | 컨텐트 재생에 기반한 출력 장치들을 제어하는 전자 장치, 그 동작 방법 및 저장 매체 | |
| KR20230064352A (ko) | 화면 미러링을 수행하는 전자 장치 및 그 동작 방법 | |
| KR20240014409A (ko) | 알림과 관련된 동작을 수행하기 위한 방법 및 이를 지원하는 전자 장치 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination |