KR101316482B1 - Mobile Device and Method for Videotelephony - Google Patents

Mobile Device and Method for Videotelephony Download PDF

Info

Publication number
KR101316482B1
KR101316482B1 KR1020110126964A KR20110126964A KR101316482B1 KR 101316482 B1 KR101316482 B1 KR 101316482B1 KR 1020110126964 A KR1020110126964 A KR 1020110126964A KR 20110126964 A KR20110126964 A KR 20110126964A KR 101316482 B1 KR101316482 B1 KR 101316482B1
Authority
KR
South Korea
Prior art keywords
networks
network
multipath
path
determining
Prior art date
Application number
KR1020110126964A
Other languages
Korean (ko)
Other versions
KR20130060743A (en
Inventor
김종항
전영삼
Original Assignee
삼성에스디에스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성에스디에스 주식회사 filed Critical 삼성에스디에스 주식회사
Priority to KR1020110126964A priority Critical patent/KR101316482B1/en
Publication of KR20130060743A publication Critical patent/KR20130060743A/en
Application granted granted Critical
Publication of KR101316482B1 publication Critical patent/KR101316482B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/40Support for services or applications
    • H04L65/403Arrangements for multi-party communication, e.g. for conferences
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/80Responding to QoS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/177Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2201/00Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/50Telephonic communication in combination with video communication

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Telephonic Communication Services (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

화상 통화를 위한 모바일 단말기 및 그의 화상통화방법이 제공된다. 화상 통화를 위한 모바일 단말기의 리소스 풀링부는 화상 통화의 요청이 입력되면, 모바일 단말기에서 사용가능한 다수의 네트워크들의 상태에 기초하여 화상 통화에 사용할 멀티패스(Multi-Path)를 결정하고, 통신부는 결정된 멀티패스를 이용하여 화상 통화에 필요한 음성데이터와 영상데이터를 전송할 수 있다.A mobile terminal for a video call and a video call method thereof are provided. When a video call request is input, the resource pooling unit of the mobile terminal for the video call determines a multi-path to be used for the video call based on the state of a plurality of networks available in the mobile terminal, and the communication unit determines the determined multi-path. The pass may be used to transmit audio data and video data required for a video call.

Description

화상 통화를 위한 모바일 단말기 및 그의 화상통화방법{Mobile Device and Method for Videotelephony}Mobile device for video call and video call method thereof {Mobile Device and Method for Videotelephony}

본 발명은 화상 통화를 위한 모바일 단말기 및 그의 화상통화방법에 관한 것으로, 보다 상세하게는 멀티패스를 이용하여 화상 통화 서비스를 제공할 수 있는 화상 통화를 위한 모바일 단말기 및 그의 화상통화방법 에 관한 것이다. The present invention relates to a mobile terminal for a video call and a video call method thereof, and more particularly, to a mobile terminal for a video call and a video call method thereof that can provide a video call service using a multipath.

능한 IP 기반의 무료 전화 어플리케이션의 제공이 늘어나고 있다. 최근에는, Google과 Apple에서도 Google Talk과 Facetime과 같은 IP 기반의 영상통화 서비스를 제공하고 있다. There is an increasing number of available IP-based toll-free applications. Recently, Google and Apple have also provided IP-based video call services such as Google Talk and Facetime.

한편, 모바일 단말기는 3G 와 같은 Cellular Network, WiFi와 같은 Wireless LAN, WiBro 등 다양한 무선 네트워크를 사용할 수 있으나, 실제 음성통화 서비스 또는 영상통화 서비스를 제공할 때는 하나의 네트워크를 이용한다. 즉, 기존에는 다양한 네트워크를 위한 인터페이스를 가지고 있음에도 불구하고 하나의 네트워크를 이용하여, IP망을 기반으로 패킷 데이터를 통해 음성통화를 구현하는 VoIP(Voice over Internet Protocol) 서비스를 제공한다. 이로 인해, 사용할 수 있는 네트워크 대역폭을 최대한 활용하지 못하면서 VoIP 서비스를 제공한다.Meanwhile, the mobile terminal can use various wireless networks such as a cellular network such as 3G, a wireless LAN such as WiFi, and WiBro, but uses one network to provide a real voice call service or a video call service. That is, although the conventional network has an interface for various networks, it provides a VoIP (Voice over Internet Protocol) service that implements a voice call through packet data based on an IP network using one network. This provides VoIP services without making the most of the available network bandwidth.

또한, 하나의 네트워크 경로를 이용하여 VoIP 서비스를 제공하는 도중 핸드오버가 발생하게 되면, 기존에는 새로운 네트워크 경로를 탐색하는 과정에서 통화를 재연결하거나 장시간 지연이 발생하는 문제가 있다. 또한, OSI 7 계층 중 전송계층에서 제공하는 멀티패스(Multipath) 기술은 TCP(Transmission Control Protocol) 기반에서 활용되고 있을 뿐, UDP(User Datagram Protocol)를 사용하는 VoIP와 같은 서비스에서는 적용되지 않고 있다.In addition, when a handover occurs while providing a VoIP service using one network path, there is a problem in that a call is reconnected or a long time delay occurs while searching for a new network path. In addition, the multipath technology provided by the transport layer of the OSI 7 layer is used based on the Transmission Control Protocol (TCP), but is not applied to a service such as VoIP using the User Datagram Protocol (UDP).

본 발명적 개념의 예시적 실시예에 따르면, 다양한 네트워크 경로의 사용과 네트워크 경로 별 사용하는 데이터의 사용량을 제어할 수 있는 화상 통화를 위한 모바일 단말기 및 그의 화상통화방법을 제공하는 것이다.According to an exemplary embodiment of the present invention, there is provided a mobile terminal for a video call and a video call method thereof capable of controlling the use of various network paths and the amount of data used for each network path.

본 발명적 개념의 다른 예시적 실시 예에 따르면, 화상 통화를 위한 모바일 단말기는, 상기 화상 통화의 요청이 입력되면, 상기 모바일 단말기에서 사용가능한 다수의 네트워크들의 상태에 기초하여 상기 화상 통화에 사용할 멀티패스(Multi-Path)를 결정하는 리소스 풀링부; 및 상기 결정된 멀티패스를 이용하여 상기 화상 통화에 필요한 음성데이터와 영상데이터를 전송하는 통신부;를 포함할 수 있다.According to another exemplary embodiment of the inventive concept, a mobile terminal for a video call may, when a request for the video call is input, multi-use for the video call based on a state of a plurality of networks available in the mobile terminal. A resource pooling unit to determine a path (Multi-Path); And a communicator configured to transmit audio data and video data necessary for the video call using the determined multipath.

상기 리소스 풀링부는, 상기 다수의 네트워크들의 상태를 나타내는 정보를 수집하여 출력하는 네트워크 상태 수집부; 상기 수집된 정보를 분석하여 상기 다수의 네트워크들의 대역폭이 사전에 정해진 기준값 이상이고, 네트워크 품질이 안정적 기준에 속하면, 상기 다수의 네트워크들 중 사용자 선호 패스가 설정된 적어도 한 개의 네트워크를 상기 멀티패스 또는 싱글패스로 결정하는 멀티패스 결정부; 및 상기 음성데이터와 영상데이터를 상기 결정된 멀티패스에 따라 적응적으로 분배하는 데이터 분배부;를 포함할 수 있다.The resource pooling unit may include: a network state collecting unit collecting and outputting information representing the states of the plurality of networks; If the bandwidth of the plurality of networks is greater than or equal to a predetermined reference value by analyzing the collected information and the network quality is within a stable criterion, the multipath or the at least one network among the plurality of networks is set. A multipath determination unit determining a single pass; And a data distribution unit for adaptively distributing the audio data and the image data according to the determined multipath.

상기 멀티패스 결정부의 요청에 의해, 상기 영상데이터의 품질을 하향조정하는 영상 처리부;를 더 포함하며, 상기 멀티패스 결정부는, 상기 다수의 네트워크들의 네트워크 품질이 불안정적 기준에 속하면, 상기 다수의 네트워크들 중 우선순위가 높은 적어도 두 개의 네트워크들 중 일부 대역을 상기 음성데이터를 중복 전송할 경로로 결정하고, 상기 우선순위가 높은 적어도 두 개의 네트워크들 중 남은 대역을 상기 품질이 하향조정된 영상데이터를 전송할 패스로 결정할 수 있다.The image processing unit for down-adjusting the quality of the image data at the request of the multipath determination unit; The multipath determination unit, if the network quality of the plurality of networks belong to an unstable criterion, Some bands of at least two networks having a high priority among networks are determined as a path for redundant transmission of the voice data, and the remaining bands of the at least two networks having the highest priority are used for downgrading the video data of which the quality is down-regulated. You can decide which path to send.

상기 리소스 풀링부는, 상기 다수의 네트워크들의 상태를 나타내는 정보를 수집하여 출력하는 네트워크 상태 수집부; 상기 수집된 정보를 분석하여 상기 다수의 네트워크들의 상태를 파악하고, 파악 결과에 따라 상기 다수의 네트워크들 중 우선순위가 높은 네트워크들을 상기 화상 통화에 사용할 멀티패스로 결정하는 멀티패스 결정부; 및 상기 음성데이터와 영상데이터를 상기 결정된 멀티패스에 따라 적응적으로 분배하는 데이터 분배부;를 포함할 수 있다.The resource pooling unit may include: a network state collecting unit collecting and outputting information representing the states of the plurality of networks; A multipath determination unit configured to analyze the collected information to determine a state of the plurality of networks, and determine, according to a result of the identification, multi-paths having higher priority among the plurality of networks to use in the video call; And a data distribution unit for adaptively distributing the audio data and the image data according to the determined multipath.

상기 멀티패스 결정부는, 상기 다수의 네트워크들 중 우선순위가 가장 높은 네트워크 중 일부 대역을 상기 음성데이터를 전송할 패스로 결정하고, 상기 우선순위가 가장 높은 네트워크의 남은 대역 및 다음으로 우선순위가 높은 네트워크들 중 적어도 하나를 상기 영상데이터를 전송할 패스로 결정할 수 있다.The multipath determining unit may determine a portion of a network having the highest priority among the plurality of networks as a path to transmit the voice data, and the remaining band of the network having the highest priority and the next higher priority network. At least one of the above may be determined as a path for transmitting the image data.

상기 멀티패스 결정부는, 상기 다수의 네트워크들 중 우선순위가 가장 높은 네트워크를 상기 음성데이터 전체와 상기 영상데이터의 일부를 전송할 패스로 결정하고, 상기 우선순위가 가장 높은 네트워크의 대역폭을 고려하여 상기 다음으로 우선순위가 높은 네트워크들 중 적어도 하나를 상기 영상데이터의 남은 일부를 전송할 패스로 결정할 수 있다.The multipath determination unit determines a network having the highest priority among the plurality of networks as a path for transmitting the entire voice data and a part of the video data, and considering the bandwidth of the network having the highest priority, As a result, at least one of the networks having high priority may be determined as a path to transmit the remaining part of the image data.

영상데이터의 품질을 하향조정하는 영상 처리부;를 더 포함하며, 상기 멀티패스 결정부는, 상기 수집된 정보를 분석하여 상기 다수의 네트워크들 모두의 대역폭이 사전에 정해진 기준값 미만이면, 상기 다수의 네트워크들 중 우선순위가 가장 높은 네트워크 중 일부 대역을 상기 음성데이터를 전송할 패스로 먼저 결정하고, 상기 우선순위가 가장 높은 네트워크 중 남은 대역 및 상기 다음으로 우선순위가 높은 네트워크들 중 적어도 하나를 상기 하향조정된 영상데이터를 전송할 패스로 결정할 수 있다.And a video processor configured to downgrade the quality of the video data, wherein the multipath determination unit analyzes the collected information to determine that the bandwidths of all of the plurality of networks are less than a predetermined reference value. Some bands of the network having the highest priority are determined as a path to transmit the voice data, and at least one of the remaining band of the network having the highest priority and the next higher priority network is down-regulated. It can be determined as a path to transmit image data.

상기 영상 처리부는, 상기 영상데이터의 GOP(Group Of Pictures), 압축률 및 프레임 레이트 중 적어도 하나를 조정하여 상기 영상데이터의 품질을 하향조정할 수 있다. The image processor may adjust the quality of the image data by adjusting at least one of a group of pictures (GOP), a compression ratio, and a frame rate of the image data.

한편, 본 발명적 개념의 다른 예시적 실시 예에 따르면, 화상 통화를 위한 모바일 단말기의 화상통화방법은, 상기 화상 통화의 요청이 입력되면, 상기 모바일 단말기에서 사용가능한 다수의 네트워크들의 상태에 기초하여 상기 화상 통화에 사용할 멀티패스(Multi-Path)를 결정하는 단계; 및 상기 결정된 멀티패스를 이용하여 영상데이터와 음성데이터를 전송하는 단계;를 포함할 수 있다.Meanwhile, according to another exemplary embodiment of the inventive concept, a video call method of a mobile terminal for a video call is based on a state of a plurality of networks available in the mobile terminal when a request for the video call is input. Determining a multi-path for use in the video call; And transmitting the image data and the audio data by using the determined multipath.

상기 멀티패스를 결정하는 단계는, 상기 다수의 네트워크들 중 우선순위가 높은 네트워크들을 상기 화상 통화에 사용할 멀티패스로서 결정할 수 있다.The determining of the multipath may include determining higher priority networks among the plurality of networks as a multipath to use for the video call.

상기 멀티패스를 결정하는 단계는, 상기 다수의 네트워크들 중 우선순위가 가장 높은 네트워크 중 일부 대역을 상기 음성데이터를 전송할 패스로 결정하고, 상기 우선순위가 가장 높은 네트워크의 남은 대역 및 다음으로 우선순위가 높은 네트워크들 중 적어도 하나를 상기 영상데이터를 전송할 패스로 결정할 수 있다.The determining of the multipath may include determining some bands of a network having the highest priority among the plurality of networks as a path for transmitting the voice data, remaining bands of the network having the highest priority, and next priority. At least one of the higher networks may be determined as a path to transmit the image data.

상기 멀티패스를 결정하는 단계는, 상기 다수의 네트워크들 중 우선순위가 가장 높은 네트워크를 상기 음성데이터 전체와 상기 영상데이터의 일부를 전송할 패스로 결정하고, 상기 우선순위가 가장 높은 네트워크의 대역폭을 고려하여 다음으로 우선순위가 높은 네트워크를 상기 영상데이터의 남은 일부를 전송할 패스로 결정할 수 있다.The determining of the multipath may include determining a network having the highest priority among the plurality of networks as a path for transmitting the entire voice data and a part of the image data, and considering the bandwidth of the network having the highest priority. Next, a network having a higher priority may be determined as a path to transmit the remaining part of the image data.

상기 멀티패스를 결정하는 단계는, 상기 다수의 네트워크들의 대역폭이 사전에 정해진 기준값 이상이고, 네트워크 품질이 안정적 기준에 속하면, 상기 다수의 네트워크들 중 사용자 선호 패스가 설정된 적어도 한 개의 네트워크를 상기 멀티패스 또는 싱글패스로 결정하는 단계;를 포함할 수 있다.The determining of the multipath may include: multiplying at least one network of which a user preference path is set among the plurality of networks if the bandwidth of the plurality of networks is equal to or greater than a predetermined reference value and the network quality is within a stable standard. Determining a pass or a single pass; may include.

상기 멀티패스를 결정하는 단계는, 상기 다수의 네트워크들의 네트워크 품질이 불안정적 기준에 속하면, 상기 다수의 네트워크들 중 우선순위가 높은 적어도 두 개의 네트워크들 중 일부 대역을 상기 음성데이터를 중복 전송할 경로로 결정하는 단계; 상기 영상데이터의 품질을 하향조정하는 단계; 및 상기 우선순위가 높은 적어도 두 개의 네트워크들 중 남은 대역 및 상기 다수의 네트워크들 중 다음으로 우선순위가 높은 네트워크들 중 적어도 하나를 상기 하향조정된 영상데이터를 전송할 패스로 결정하는 단계;를 포함할 수 있다.The determining of the multipath may include: if the network quality of the plurality of networks belongs to an unstable criterion, a path of overlapping transmission of the voice data through some bands of at least two networks having a higher priority among the plurality of networks. Determining to; Down adjusting the quality of the image data; And determining at least one of a remaining band of the at least two networks having the highest priority and a next higher priority network among the plurality of networks as a path to transmit the downscaled image data. Can be.

상기 멀티패스를 결정하는 단계는, 상기 다수의 네트워크들 모두의 대역폭이 사전에 정해진 기준값 미만이면, 상기 다수의 네트워크들 중 우선순위가 가장 높은 네트워크 중 일부 대역을 상기 음성데이터를 전송할 패스로 먼저 결정하는 단계; 상기 영상데이터의 품질을 하향조정하는 단계; 및 상기 우선순위가 가장 높은 네트워크 중 남은 대역 및 상기 다수의 네트워크들 중 다음으로 우선순위가 높은 네트워크들 중 적어도 하나를 상기 하향조정된 영상데이터를 전송할 패스로 결정하는 단계;를 포함할 수 있다.The determining of the multipath may include determining a portion of a band of a network having the highest priority among the plurality of networks as a path to transmit the voice data when the bandwidth of all the plurality of networks is less than a predetermined reference value. Making; Down adjusting the quality of the image data; And determining at least one of a remaining band of the highest priority network and a next higher priority network among the plurality of networks as a path to transmit the downscaled image data.

본 발명적 개념의 하나 이상의 예시적 실시 예에 따르면, 모바일 단말기는 멀티패스를 이용하는 경우 싱글패스만을 이용할 때보다 증가된 네트워크 대역폭을 이용하여 화상통화 서비스를 제공하며, 이로써 화상통화 시 영상데이터의 비트레이트를 높여 보다 향상된 품질의 화상통화 서비스를 제공할 수 있다.According to one or more exemplary embodiments of the present inventive concept, a mobile terminal provides a video call service using an increased network bandwidth when using a multipath, compared to using a single pass alone, whereby a bit of video data is used during a video call. Increasing the rate can provide a better quality video call service.

또한, 본 발명적 개념의 하나 이상의 예시적 실시 예에 따르면, 사용자가 통화 중 네트워크 망을 이동하여 핸드오버가 발생할 경우, 멀티패스를 사용 중이면 하나의 패스에 의한 신호가 단락되어도 다른 패스를 이용해 지속적으로 화상통화에 필요한 데이터를 송수신할 수 있으며, 이로써, 통화 끊어짐 현상을 방지하고, 음성전달 중단 시간을 단축할 수 있다.In addition, according to one or more exemplary embodiments of the present invention, when a user moves a network network during a call and a handover occurs, when a multipath is being used, another path may be used even if a signal is shorted. It is possible to continuously transmit and receive data necessary for video calls, thereby preventing a call drop and reducing voice interruption time.

또한, 본 발명적 개념의 하나 이상의 예시적 실시 예에 따르면, 멀티패스를 사용하는 경우, 네트워크의 불안정으로 인해 패킷 손실이 많아지거나, 연결이 끊어질 때, 영상데이터보다 중요도가 높은 음성데이터를 멀티경로를 통해 동시에 중복 전송함으로써, 패킷 손실률을 줄일 수 있다.In addition, according to one or more exemplary embodiments of the present invention, when using multipath, when the packet loss is increased due to instability of the network, or when the connection is lost, the audio data having a higher importance than the video data is multiplied. By simultaneously transmitting duplicated paths, the packet loss rate can be reduced.

도 1은 본 발명적 개념의 예시적 실시예에 따른 화상 통화를 위한 모바일 단말기를 도시한 블록도,
도 2는 본 발명적 개념의 예시적 실시예에 따른 리소스 풀링부를 도시한 블록도,
도 3은 본 발명적 개념의 예시적 실시예에 따른 화상 통화를 위한 모바일 단말기의 화상 통화 방법을 설명하기 위한 흐름도, 그리고,
도 4는 도 3의 S340단계를 자세히 설명하기 위한 흐름도이다.
1 is a block diagram illustrating a mobile terminal for a video call according to an exemplary embodiment of the inventive concept;
2 is a block diagram illustrating a resource pooling unit according to an exemplary embodiment of the inventive concept;
3 is a flowchart illustrating a video call method of a mobile terminal for a video call according to an exemplary embodiment of the present invention;
4 is a flowchart for describing operation S340 of FIG. 3 in detail.

이상의 본 발명의 목적들, 다른 목적들, 특징들 및 이점들은 첨부된 도면과 관련된 이하의 바람직한 실시예들을 통해서 쉽게 이해될 것이다. 그러나 본 발명은 여기서 설명되는 실시예들에 한정되지 않고 다른 형태로 구체화될 수도 있다. 오히려, 여기서 소개되는 실시예들은 개시된 내용이 철저하고 완전해질 수 있도록 그리고 당업자에게 본 발명의 사상이 충분히 전달될 수 있도록 하기 위해 제공되는 것이다.BRIEF DESCRIPTION OF THE DRAWINGS The above and other objects, features, and advantages of the present invention will become more readily apparent from the following description of preferred embodiments with reference to the accompanying drawings. However, the present invention is not limited to the embodiments described herein but may be embodied in other forms. Rather, the embodiments disclosed herein are provided so that the disclosure can be thorough and complete, and will fully convey the scope of the invention to those skilled in the art.

본 명세서에서, 어떤 구성요소가 다른 구성요소 상에 있다고 언급되는 경우에 그것은 다른 구성요소 상에 직접 형성될 수 있거나 또는 그들 사이에 제 3의 구성요소가 개재될 수도 있다는 것을 의미한다.In this specification, when an element is referred to as being on another element, it may be directly formed on another element, or a third element may be interposed therebetween.

본 명세서에서 제1, 제2 등의 용어가 구성요소들을 기술하기 위해서 사용된 경우, 이들 구성요소들이 이 같은 용어들에 의해서 한정되어서는 안 된다. 이들 용어들은 단지 어느 구성요소를 다른 구성요소와 구별시키기 위해서 사용되었을 뿐이다. 여기에 설명되고 예시되는 실시예들은 그것의 상보적인 실시예들도 포함한다.Where the terms first, second, etc. are used herein to describe components, these components should not be limited by such terms. These terms have only been used to distinguish one component from another. The embodiments described and exemplified herein also include their complementary embodiments.

또한, 제1 엘리먼트 (또는 구성요소)가 제2 엘리먼트(또는 구성요소) 상(ON)에서 동작 또는 실행된다고 언급될 때, 제1 엘리먼트(또는 구성요소)는 제2 엘리먼트(또는 구성요소)가 동작 또는 실행되는 환경에서 동작 또는 실행되거나 또는 제2 엘리먼트(또는 구성요소)와 직접 또는 간접적으로 상호 작용을 통해서 동작 또는 실행되는 것으로 이해되어야 할 것이다.Also, when it is mentioned that the first element (or component) is operated or executed on the second element (or component) ON, the first element (or component) It should be understood that it is operated or executed in an operating or running environment or is operated or executed through direct or indirect interaction with a second element (or component).

어떤 엘리먼트, 구성요소, 장치, 또는 시스템이 프로그램 또는 소프트웨어로 이루어진 구성요소를 포함한다고 언급되는 경우, 명시적인 언급이 없더라도, 그 엘리먼트, 구성요소, 장치, 또는 시스템은 그 프로그램 또는 소프트웨어가 실행 또는 동작하는데 필요한 하드웨어(예를 들면, 메모리, CPU 등)나 다른 프로그램 또는 소프트웨어(예를 들면 운영체제나 하드웨어를 구동하는데 필요한 드라이버 등)를 포함하는 것으로 이해되어야 할 것이다.It is to be understood that when an element, component, apparatus, or system is referred to as comprising a program or a component made up of software, it is not explicitly stated that the element, component, (E.g., memory, CPU, etc.) or other programs or software (e.g., drivers necessary to drive an operating system or hardware, etc.)

또한 어떤 엘리먼트(또는 구성요소)가 구현됨에 있어서 특별한 언급이 없다면, 그 엘리먼트(또는 구성요소)는 소프트웨어, 하드웨어, 또는 소프트웨어 및 하드웨어 어떤 형태로도 구현될 수 있는 것으로 이해되어야 할 것이다.It is also to be understood that the elements (or components) may be implemented in software, hardware, or any form of software and hardware, unless the context clearly dictates otherwise.

본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 '포함한다(comprises)' 및/또는 '포함하는(comprising)'은 언급된 구성요소는 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다.The terminology used herein is for the purpose of describing particular embodiments only and is not intended to be limiting of the invention. In the present specification, the singular form includes plural forms unless otherwise specified in the specification. The terms "comprises" and / or "comprising" used in the specification do not exclude the presence or addition of one or more other elements.

이하, 도면을 참조하여 본 발명적 개념을 상세히 설명하도록 한다. 아래의 특정 실시예들을 기술하는데 있어서, 여러 가지의 특정적인 내용들은 발명적 개념을 더 구체적으로 설명하고 이해를 돕기 위해 작성되었다. 하지만 본 발명적 개념을 이해할 수 있을 정도로 이 분야의 지식을 갖고 있는 독자는 이러한 여러 가지의 특정적인 내용들이 없어도 사용될 수 있다는 것을 인지할 수 있다. 어떤 경우에는, 발명적 개념을 기술하는 데 있어서 흔히 알려졌으면서 발명과 크게 관련 없는 부분들은 본 발명적 개념을 설명하는 데 있어 별 이유 없이 혼돈이 오는 것을 막기 위해 기술하지 않음을 미리 언급해 둔다. Hereinafter, the present invention will be described in detail with reference to the accompanying drawings. In describing the specific embodiments below, various specific details are written to more specifically explain and help understand the inventive concept. However, a person skilled in the art that can understand the inventive concept can recognize that it can be used without these various specific details. In some cases, it is mentioned in advance that parts of the invention which are commonly known in the description of the inventive concept and which are not highly related to the invention are not described in order to prevent confusion for no reason.

도 1은 본 발명적 개념의 예시적 실시예에 따른 화상 통화를 위한 모바일 단말기(100)를 도시한 블록도이다.1 is a block diagram illustrating a mobile terminal 100 for a video call according to an exemplary embodiment of the inventive concept.

도 1에 예시적으로 도시된 모바일 단말기(100)는 모바일 환경에서 IP(Internet Protocol) 기반의 음성 통화뿐만 아니라 화상 통화 서비스도 제공할 수 있으며, 스마트폰 또는 태블릿 PC와 같은 단말기일 수 있다. The mobile terminal 100 exemplarily illustrated in FIG. 1 may provide not only IP (Internet Protocol) based voice call but also video call service in a mobile environment, and may be a terminal such as a smartphone or a tablet PC.

도 1을 참조하면, 모바일 단말기(100)는 사용자 입력부(110), 통신부(120), 영상 처리부(130), 리소스 풀링부(Resource Pooling Unit)(140) 및 제어부(150)를 포함할 수 있다.Referring to FIG. 1, the mobile terminal 100 may include a user input unit 110, a communication unit 120, an image processing unit 130, a resource pooling unit 140, and a controller 150. .

사용자 입력부(110)는 사용자와 모바일 단말기(100) 간의 인터페이스를 제공하며, 터치 패널, 다수의 조작버튼 등으로 구현될 수 있다. 사용자는 사용자 입력부(110)를 조작하여 화상 통화를 요청할 수 있다.The user input unit 110 provides an interface between the user and the mobile terminal 100 and may be implemented as a touch panel, a plurality of operation buttons, and the like. The user may request a video call by manipulating the user input unit 110.

통신부(120)는 다수의 네트워크 통신 방식을 지원하는 제1 내지 제3네트워크 인터페이스(IF: Interface)들(121, 122, 123)을 포함할 수 있다. 다수의 네트워크 통신 방식(또는 다수의 네트워크 종류)은 3G, WiFi, Wibro 등 모든 네트워크 통신 방식일 수 있으며, 제1 내지 제3네트워크 인터페이스들(121, 122, 123)은 해당하는 통신 방식에 따라 화상 통화, 음성 통화 또는 인터넷 서비스와 관련된 데이터를 송수신할 수 있다. 도 1에는 설명의 편의를 위해 3개의 네트워크 인터페이스들(121, 122, 123)이 도시되었으나, 개수는 이에 한정되지 않는다.The communication unit 120 may include first to third network interfaces (IF) 121, 122, and 123 that support a plurality of network communication schemes. The plurality of network communication methods (or a plurality of network types) may be all network communication methods such as 3G, WiFi, and Wibro, and the first to third network interfaces 121, 122, and 123 may have images according to the corresponding communication methods. Send and receive data related to calls, voice calls, or Internet services. Although three network interfaces 121, 122, and 123 are illustrated in FIG. 1 for convenience of description, the number is not limited thereto.

특히, 통신부(120)는 리소스 풀링부(140)에서 결정된 싱글패스 또는 멀티패스(Multi-Path)를 이용하여 화상 통화에 필요한 음성데이터와 영상데이터를 수신 단말기로 전송할 수 있다. 멀티패스는 제1 내지 제3네트워크 인터페이스들(121, 122, 123) 중 적어도 두 개를 의미하거나, 또는, 제1 내지 제3네트워크 인터페이스들(121, 122, 123)과 연결된 제1 내지 제3네트워크들을 포함하는 네트워크 경로를 의미한다. 멀티패스를 이용하여 데이터를 전송하는 것은 적어도 두 개의 네트워크 인터페이스들(예를 들어, 121, 122)과 적어도 두 개의 네트워크 인터페이스들(121, 122)과 연결된 서로 다른 네트워크들(예를 들어, 3G와 WiFi)를 이용하여 수신측으로 데이터를 전송하는 것을 의미한다.In particular, the communication unit 120 may transmit voice data and video data necessary for a video call to a receiving terminal using a single pass or a multi-path determined by the resource pooling unit 140. Multipath means at least two of the first to third network interfaces 121, 122, and 123, or first to third devices connected to the first to third network interfaces 121, 122, and 123. Means a network path including networks. Transferring data using multipath can be achieved by using at least two network interfaces (eg, 121, 122) and different networks (eg, 3G) connected to at least two network interfaces 121, 122. Means transmitting data to the receiving side using WiFi).

영상 처리부(130)는 화상 통화 시, 카메라(미도시)를 통해 획득되는 영상데이터를 수신 단말기로 전송가능한 형태로 처리할 수 있다. 예를 들어, 영상 처리부(130)는 화상 통화에 사용할 네트워크의 대역폭을 고려하여 영상데이터의 GOP(Group Of Pictures), 프레임 레이트, 압축률 또는 Quality Factor 등을 조절할 수 있다. 화상 통화를 위한 영상데이터가 입력되면, 영상 처리부(130)는 VoIP(Voice over Internet Protocol) 어플리케이션을 이용하여 영상데이터의 품질을 조절할 수 있다.The image processor 130 may process image data obtained through a camera (not shown) in a video call format in a form that can be transmitted to a receiving terminal. For example, the image processor 130 may adjust a group of pictures (GOP), a frame rate, a compression rate, or a quality factor of the image data in consideration of the bandwidth of the network to be used for the video call. When video data for a video call is input, the video processor 130 may adjust the quality of the video data by using a Voice over Internet Protocol (VoIP) application.

사용자 입력부(110)를 통해 화상 통화의 요청이 입력되면, 리소스 풀링부(140)는 모바일 단말기(100)에서 사용가능한 제1 내지 제3네트워크들의 상태에 기초하여 화상 통화에 사용할 멀티패스를 결정할 수 있다. 즉, 리소스 풀링부(140)는 제1 내지 제3네트워크 인터페이스들(121, 122, 123)과 연결된 제1 내지 제3네트워크들의 상태를 고려하여, 제1 내지 제3네트워크 인터페이스들(121, 122, 123) 중 화상 통화에 사용할 멀티패스를 결정할 수 있다. 리소스 풀링부(140)의 구체적인 동작 또는 기능은 도 2를 참조하여 자세히 설명한다.When a request for a video call is input through the user input unit 110, the resource pooling unit 140 may determine a multipath to use for the video call based on the states of the first to third networks available in the mobile terminal 100. have. That is, the resource pooling unit 140 considers the states of the first to third networks connected to the first to third network interfaces 121, 122, and 123, and thus, the first to third network interfaces 121 and 122. , 123) may determine a multipath to be used for a video call. Specific operations or functions of the resource pooling unit 140 will be described in detail with reference to FIG. 2.

도 2는 본 발명적 개념의 예시적 실시예에 따른 리소스 풀링부(140)를 도시한 블록도이다.2 is a block diagram illustrating a resource pooling unit 140 according to an exemplary embodiment of the inventive concept.

도 2에 예시적으로 도시된 리소스 풀링부(140)는 네트워크 상태 수집부(141), 멀티패스 결정부(143) 및 데이터 분배부(145)를 포함할 수 있다.The resource pooling unit 140 illustrated in FIG. 2 may include a network state collecting unit 141, a multipath determination unit 143, and a data distribution unit 145.

네트워크 상태 수집부(141)는 제1 내지 제3네트워크 인터페이스들(121, 122, 123)과 연결된 제1 내지 제3네트워크들의 상태에 대한 정보를 수집하고, 수집된 정보를 멀티패스 결정부(143)에게 출력할 수 있다. 네트워크 상태 수집부(141)는 제1 내지 제3네트워크 인터페이스들(121, 122, 123)이 제1 내지 제3네트워크들을 통해 수신한 각 패킷으로부터 정보를 수집할 수 있다. 네트워크 상태 수집부(141)는 종단간 또는 인프라와의 네트워크 사용 현황을 바탕으로 제1 내지 제3네트워크들의 상태를 나타내는 정보를 수집할 수 있다.The network state collecting unit 141 collects information on the states of the first to third networks connected to the first to third network interfaces 121, 122, and 123, and uses the collected information to determine the multipath determination unit 143. ) Can be printed. The network state collecting unit 141 may collect information from each packet received by the first to third network interfaces 121, 122, and 123 through the first to third networks. The network state collecting unit 141 may collect information representing the states of the first to third networks based on the network usage status with the end-to-end or infrastructure.

네트워크 상태 수집부(141)에 의해 수집되는 정보는 제1 내지 제3네트워크들의 연결 안정성, 패킷 손실률, 네트워크 대역폭 등을 구하기 위한 정보와, 현재 모바일 단말기(100)에서 화상 통화에 사용할 수 있는 네트워크의 정보(즉, 제1 내지 제3네트워크들의 종류)를 포함할 수 있다. 예를 들어, 통신부(120)가 10개의 서로 다른 네트워크 인터페이스들을 통해 통신 서비스를 제공할지라도, 네트워크의 연결 상태에 따라 통신부(120)는 10보다 적은 개수의 네트워크 인터페이스를 이용해 통신 서비스를 제공할 수도 있으므로, 네트워크 상태 수집부(141)는 현재 사용가능한 네트워크의 정보를 멀티패스 결정부(143)에게 전달할 수 있다.The information collected by the network state collecting unit 141 includes information for obtaining connection stability, packet loss rate, network bandwidth, etc. of the first to third networks, and information on a network currently available for a video call in the mobile terminal 100. Information (ie, types of first to third networks). For example, even if the communication unit 120 provides a communication service through 10 different network interfaces, the communication unit 120 may provide a communication service using fewer than 10 network interfaces depending on the connection state of the network. Therefore, the network state collecting unit 141 may transfer the information of the currently available network to the multipath determining unit 143.

멀티패스 결정부(143)는 전달받은 정보를 분석하여 제1 내지 제3네트워크들의 상태를 파악하고, 파악된 결과에 기초하여 화상 통화에 사용할 싱글패스 또는 멀티패스를 결정할 수 있다. The multipath determination unit 143 may analyze the received information to determine the states of the first to third networks, and determine a single pass or multipath to be used for a video call based on the result of the determination.

제1예로, 멀티패스 결정부(143)는 네트워크 상태 수집부(141)에 의해 수집된 정보를 분석한 결과, 제1 내지 제3네트워크들의 대역폭이 사전에 정해진 기준값 이상이고, 제1 내지 제3네트워크들의 품질이 안정적 기준에 속하면, 제1 내지 제3네트워크들 중 사용자 선호 패스로 설정된 한 개 이상의 네트워크를 화상 통화에 사용할 싱글패스 또는 멀티패스로 결정할 수 있다. 또는, 멀티패스 결정부(143)는 네트워크 상태 수집부(141)에 의해 수집된 정보를 분석한 결과, 제1 내지 제3네트워크들의 대역폭이 사전에 정해진 기준값 이상이고, 제1 내지 제3네트워크들의 품질이 안정적 기준에 속하면, 사용자 선호 순으로 제1 내지 제3네트워크들에 우선순위를 부여하고, 높은 우선순위에 해당하는 적어도 하나의 네트워크를 화상 통화에 사용할 싱글패스 또는 멀티패스로 결정할 수 있다.As a first example, the multipath determination unit 143 analyzes the information collected by the network state collecting unit 141, the bandwidth of the first to third networks is greater than or equal to a predetermined reference value, the first to third If the quality of the networks falls within a stable criterion, one or more of the first to third networks may be determined as a single pass or a multipath to use for a video call. Alternatively, the multipath determination unit 143 analyzes the information collected by the network state collecting unit 141, and as a result, the bandwidth of the first to third networks is greater than or equal to a predetermined reference value, If the quality is within a stable criterion, the first to third networks may be prioritized in order of user preference, and at least one network corresponding to the high priority may be determined as a single pass or a multipath to use for a video call. .

‘네트워크의 품질’은 네트워크의 연결 안정성과 패킷 손실률로부터 판단될 수 있으며, 이는 주지된 기술에 해당하므로 상세한 설명은 생략한다. ‘사용자 선호 패스’는 사용자가 사전에 설정한 네트워크에 해당하는 경로로서, 사용자는 모바일 단말기(100)에서 제공하는 UI(User Interface) 화면을 통해 화상 통화 시 제1우선순위로 사용할 네트워크, 제2우선순위로 사용할 네트워크를 사전에 설정할 수 있다.'Quality of the network' can be determined from the network's connection stability and packet loss rate, which is a well-known technique, and thus a detailed description thereof will be omitted. 'User Preferred Pass' is a path corresponding to a network previously set by the user, and the user can use the network as a first priority in a video call through a UI (User Interface) screen provided by the mobile terminal 100, and a second The network to be used as a priority can be set in advance.

따라서, 멀티패스 결정부(143)는 현재 사용가능한 네트워크들 중 사용자 선호 패스로 설정된 적어도 하나의 네트워크를 음성데이터와 영상데이터를 전송할 패스로 우선적으로 정할 수 있다. 예를 들어, 현재 사용가능한 네트워크들에 해당하는 인터페이스가 제1 내지 제3네트워크 인터페이스들(121, 122, 123)이고, 제1우선순위의 사용자 선호 패스가 제1네트워크 인터페이스(121)이면, 멀티패스 결정부(143)는 제1네트워크 인터페이스(121)를 화상 통화에 사용할 패스로 정할 수 있다. Accordingly, the multipath determination unit 143 may preferentially determine at least one network that is set as a user preference path among currently available networks as a path for transmitting audio data and video data. For example, if the interface corresponding to the currently available networks are the first to third network interfaces 121, 122, 123, and the user preference pass of the first priority is the first network interface 121, The path determination unit 143 may determine the path to use the first network interface 121 for a video call.

만약, 제1네트워크 인터페이스(121)의 대역폭이 충분하면, 멀티패스 결정부(143)는 제1네트워크 인터페이스(121)를 음성데이터와 영상데이터를 모두 전송할 싱글패스로 결정할 수 있다. 반면, 제1네트워크 인터페이스(121)의 대역폭이 충분하지 못해, 제1네트워크 인터페이스(121)를 통해 음성데이터와 영상데이터를 모두 전송할 수 없는 경우, 멀티패스 결정부(143)는 제1네트워크 인터페이스(121)를 음성데이터를 전송할 패스로 먼저 정하고, 제1네트워크 인터페이스(121)와 제2우선순위의 사용자 선호 패스인 제2네트워크 인터페이스(122)를 영상데이터를 전송할 패스로 정할 수도 있다. 즉, 멀티패스 결정부(143)는 제1네트워크 인터페이스(121)에 해당하는 제1네트워크의 일부 대역을 음성데이터를 전송할 패스로 정하고, 제1네트워크의 남은 대역과 제2네트워크를 영상데이터를 전송할 패스로 정할 수 있다. 제2네트워크 인터페이스(122)에 해당하는 제2네트워크 역시 영상데이터를 전송할 충분한 대역을 갖지 못하면, 멀티패스 결정부(143)는 제3네트워크(제3네트워크 인터페이스(123)에 대응)를 멀티패스 경로로 추가할 수 있다.If the bandwidth of the first network interface 121 is sufficient, the multipath determination unit 143 may determine the first network interface 121 as a single pass for transmitting both audio data and video data. On the other hand, when the bandwidth of the first network interface 121 is not sufficient and both audio and video data cannot be transmitted through the first network interface 121, the multipath determination unit 143 may determine the first network interface ( 121 may be determined as a path for transmitting audio data first, and the first network interface 121 and a second network interface 122 which is a user preference path having a second priority may be determined as a path for transmitting image data. That is, the multipath determination unit 143 determines a part of the band of the first network corresponding to the first network interface 121 as a path for transmitting voice data, and transmits the remaining band of the first network and the second network to the image data. It can be decided by a pass. If the second network corresponding to the second network interface 122 also does not have enough bandwidth to transmit image data, the multipath determination unit 143 multipaths the third network (corresponding to the third network interface 123). Can be added as

제2예로, 멀티패스 결정부(143)는 제1 내지 제3네트워크들의 대역폭이 사전에 정해진 기준값 이상이고, 제1 내지 제3네트워크들의 품질이 안정적 기준에 속하나, 제1 내지 제3네트워크들 중 사용자 선호 패스로 설정된 네트워크가 없는 경우, 멀티패스 결정부(143)는 네트워크 품질이 높은 순서대로 제1 내지 제3네트워크들에 우선순위를 부여하고, 높은 우선순위에 해당하는 적어도 하나의 네트워크를 화상 통화에 사용할 패스로 정할 수 있다. In a second example, the multipath determining unit 143 may have a bandwidth of the first to third networks greater than or equal to a predetermined reference value, and the quality of the first to third networks may be a stable criterion, but among the first to third networks. If there is no network set as the user preference path, the multipath determination unit 143 gives priority to the first to third networks in the order of high network quality, and displays at least one network corresponding to the high priority. You can choose the pass you want to use for the call.

예를 들어, 제1 내지 제3네트워크들이 순서대로 안정도가 높은 경우, 멀티패스 결정부(143)는 가장 안정도가 높은 제1네트워크에 대응하는 제1네트워크 인터페이스(121)를 음성데이터와 영상데이터를 전송할 패스로 우선적으로 정할 수 있다. 만약, 제1네트워크 인터페이스(121)의 대역폭이 충분하지 못해, 제1네트워크 인터페이스(121)를 통해 음성데이터와 영상데이터를 모두 전송할 수 없는 경우, 멀티패스 결정부(143)는 제1네트워크 인터페이스(121)를 음성데이터를 전송할 패스로 먼저 정하고, 제1네트워크 인터페이스(121)로 음성데이터를 전송하고 남는 대역과, 다음으로 안정도가 높은 제2네트워크 인터페이스(122)를 영상데이터를 전송할 패스로 정할 수도 있다. 이때 역시, 멀티패스 결정부(143)는 제1네트워크의 남은 대역의 대역폭과 제2네트워크의 대역폭이 영상데이터를 전송하기에 불충분한 경우 제3네트워크를 멀티패스 경로로 추가할 수 있다.For example, when the first to third networks have high stability in order, the multipath determination unit 143 may select the first network interface 121 corresponding to the first network having the highest stability to transmit voice data and video data. The path to transfer can be determined first. If the bandwidth of the first network interface 121 is not sufficient and both audio data and video data cannot be transmitted through the first network interface 121, the multipath determining unit 143 may determine the first network interface ( 121 may be determined as a path for transmitting audio data first, and a band remaining after transmitting audio data to the first network interface 121 and a second network interface 122 having high stability may be determined as a path for transmitting image data. have. In this case, the multipath determination unit 143 may add the third network as a multipath path when the bandwidth of the remaining band of the first network and the bandwidth of the second network are insufficient to transmit image data.

제3예로, 멀티패스 결정부(143)는 제1 내지 제3네트워크들의 네트워크 품질이 불안정적 기준에 속하면, 영상데이터의 품질을 하향조정하도록 VoIP 어플리케이션 레이어에게 요청할 수 있다.As a third example, if the network quality of the first to third networks falls within an unstable criterion, the multipath determination unit 143 may request the VoIP application layer to downgrade the quality of the image data.

VoIP 어플리케이션 레이어는 영상 처리부(130)에 해당한다. 멀티패스 결정부(143)는 네트워크의 상태를 VoIP 어플리케이션 레이어에게 전달하면서 품질의 하향 조정을 요청할 수 있다. VoIP 어플리케이션 레이어는 네트워크의 상태에 기초하여 영상데이터의 품질을 하향조정할 수 있다. 예를 들어, VoIP 어플리케이션 레이어는 영상데이터의 압축률을 높이거나 프레임 레이트를 낮춰 품질을 하향조정할 수 있다.The VoIP application layer corresponds to the image processor 130. The multipath determination unit 143 may request the quality of down adjustment while transmitting the state of the network to the VoIP application layer. The VoIP application layer may adjust the quality of the video data down based on the state of the network. For example, the VoIP application layer can reduce the quality by increasing the compression rate of video data or lowering the frame rate.

멀티패스 결정부(143)는 품질이 하향조정된 영상데이터가 VoIP 어플리케이션 레이어로부터 입력되면, 제1 내지 제3네트워크들 중 우선순위가 높은 적어도 두 개의 네트워크들 중 일부 대역을 음성데이터를 중복 전송할 패스로 결정하고, 우선순위가 높은 적어도 두 개의 네트워크들의 남은 대역과 다음으로 우선순위가 높은 적어도 하나의 네트워크를 품질이 하향조정된 영상데이터를 전송할 패스로 결정할 수 있다. 음성데이터를 우선순위가 높은 네트워크들을 통해 중복 전송하는 이유는 화상 통화에 있어, 음성데이터가 영상데이터보다 중요도가 높기 때문이다. ‘중복 전송’은 동일한 음성데이터를 다른 네트워크를 통해 전송하는 것을 의미한다.When the video data whose quality is down-regulated is inputted from the VoIP application layer, the multipath determination unit 143 transmits the redundant transmission of the voice data to some bands of at least two networks having the highest priority among the first to third networks. The remaining bandwidth of the at least two networks having a high priority and the at least one network having the next highest priority may be determined as a path to transmit downlinked image data. The reason why the voice data is redundantly transmitted through networks having high priority is that in the video call, the voice data is more important than the video data. 'Duplicate transmission' means transmitting the same voice data through different networks.

제4예로, 멀티패스 결정부(143)는 파악된 결과에 따라 제1 내지 제3네트워크들 중 우선순위가 높은 네트워크들을 화상 통화에 사용할 멀티패스로 결정할 수도 있다. 멀티패스 결정부(143)는 음성데이터를 전송하기로 결정한 네트워크의 대역폭을 고려하여 영상데이터를 전송할 패스를 결정할 수 있다. 제1 내지 제3네트워크들의 우선순위는 사용자에 의해 설정되거나, 사용자가 사용한 빈도가 높을수록 높은 우선순위를 갖도록 자동 설정되거나, 품질과 대역폭이 우수할수록 높은 우선순위를 갖도록 자동 설정될 수 있다.As a fourth example, the multipath determining unit 143 may determine the multipaths to be used for the video call among networks having the highest priority among the first to third networks according to the determined result. The multipath determination unit 143 may determine a path to transmit the image data in consideration of the bandwidth of the network determined to transmit the voice data. The priority of the first to third networks may be set by the user, or automatically set to have a higher priority as the frequency used by the user is high, or automatically set to have a high priority as the quality and bandwidth are excellent.

자세히 설명하면, 멀티패스 결정부(143)는 제1 내지 제3네트워크들 중 우선순위가 가장 높은 제1네트워크를 음성데이터를 전송할 패스로 결정하고, 제1네트워크의 대역폭을 고려하여, 다음으로 우선순위가 높은 적어도 하나의 네트워크(예를 들어, 제2네트워크와 제3네트워크 중 적어도 하나)를 영상데이터를 전송할 패스로 결정할 수 있다.In detail, the multipath determination unit 143 determines the first network having the highest priority among the first to third networks as a path to transmit voice data, and considers the bandwidth of the first network and then, At least one high ranking network (eg, at least one of the second network and the third network) may be determined as a path for transmitting image data.

또는, 멀티패스 결정부(143)는 제1 내지 제3네트워크들 중 우선순위가 가장 높은 네트워크를 음성데이터 전체와 영상데이터의 일부를 전송할 패스로 결정하고, 제1네트워크의 대역폭을 고려하여, 다음으로 우선순위가 높은 적어도 하나의 네트워크를 영상데이터의 남은 일부를 전송할 패스로 결정할 수도 있다. 즉, 멀티패스 결정부(143)는 제1네트워크의 일부 대역으로는 음성데이터를 전송하고, 제1네트워크의 남은 대역과 다음으로 우선순위가 높은 적어도 하나의 네트워크를 영상데이터를 전송할 패스로 결정할 수 있다. Alternatively, the multipath determination unit 143 determines a network having the highest priority among the first to third networks as a path for transmitting the entire voice data and a part of the image data, and considering the bandwidth of the first network, In addition, at least one network having a high priority may be determined as a path for transmitting the remaining part of the image data. That is, the multipath determination unit 143 may transmit voice data to some bands of the first network, and determine the remaining bands of the first network and at least one network having the next highest priority as a path to transmit the video data. have.

또는, 멀티패스 결정부(143)는 수집된 정보의 분석 결과 제1 내지 제3 네트워크들 모두의 대역폭이 사전에 정해진 기준값 미만이면, 즉, 대역폭이 화상 통화에 사용하기에 불충분하면, 제1 내지 제3네트워크들 중 우선순위가 가장 높은 네트워크 중 일부 대역을 음성데이터를 전송할 패스로 먼저 결정하고, 우선순위가 가장 높은 네트워크의 남은 대역과 다음으로 우선순위가 높은 네트워크들 중 적어도 하나를 하향조정된 영상데이터를 전송할 패스로 결정할 수 있다. 이를 위해, 멀티패스 결정부(143)는 제3예에서와 같이 VoIP 어플리케이션 레이어에게 영상데이터의 품질을 하향조정하도록 요청할 수 있다.Alternatively, if the bandwidth of all of the first to third networks is less than a predetermined reference value, that is, if the bandwidth is insufficient for use in a video call, the multipath determination unit 143 may analyze the collected information. First, some bands among the networks having the highest priority among the third networks are determined as a pass for transmitting voice data, and downlinked at least one of the remaining bands of the network with the highest priority and the networks with the next highest priority. It can be determined as a path to transmit image data. To this end, the multipath determination unit 143 may request the VoIP application layer to adjust the quality of the image data downward as in the third example.

멀티패스 결정부(143)에 의해 싱글패스 또는 멀티패스가 결정되면, 데이터 분배부(145)는 마이크를 통해 입력되는 음성데이터와 카메라를 통해 획득되는 영상데이터를 결정된 싱글패스 또는 멀티패스에 따라 적응적으로 분배하여 UDP(User Datagram Protocol) 전송 레이어에게 출력할 수 있다. UDP 전송 레이어는 통신부(120)에 해당한다. When the single pass or the multipath is determined by the multipath determination unit 143, the data distribution unit 145 adapts the audio data input through the microphone and the image data acquired through the camera according to the determined singlepath or multipath. It can be distributed and output to UDP (User Datagram Protocol) transport layer. The UDP transport layer corresponds to the communication unit 120.

예를 들어, 싱글패스로서 제1네트워크 인터페이스(121)가 결정된 경우, 데이터 분배부(145)는 음성데이터와 화상데이터를 분배하지 않고 제1네트워크 인터페이스(121)에게 모두 출력할 수 있다. For example, when the first network interface 121 is determined as a single pass, the data distribution unit 145 may output both to the first network interface 121 without distributing voice data and image data.

또한, 멀티패스로서 제1 및 제2네트워크 인터페이스들(121, 122)이 결정되고, 제1네트워크 인터페이스(121)가 더 높은 우선순위를 가지는 경우, 데이터 분배부(145)는 음성데이터는 제1네트워크 인터페이스(121)로 분배하여 출력하고, 영상데이터는 제2네트워크 인터페이스(122로 출력할 수 있다. In addition, when the first and second network interfaces 121 and 122 are determined as a multipath, and the first network interface 121 has a higher priority, the data distributor 145 may determine that the voice data is the first. The image data may be distributed to the network interface 121 and output to the second network interface 122.

또한, 멀티패스로서 제1 및 제2네트워크 인터페이스들(121, 122)이 결정되고, 제1네트워크 인터페이스(121)가 더 높은 우선순위를 가지는 경우, 데이터 분배부(145)는 음성데이터 전체와 영상데이터의 일부는 제1네트워크 인터페이스(121)로 분배하여 출력하고, 영상데이터의 나머지는 제2네트워크 인터페이스(122로 출력할 수도 있다.In addition, when the first and second network interfaces 121 and 122 are determined as multipaths, and the first network interface 121 has a higher priority, the data distributor 145 may perform the entire voice data and the image. A part of the data may be distributed to the first network interface 121 and output, and the rest of the image data may be output to the second network interface 122.

제어부(150)는 상술한 모바일 단말기(100)의 전반적인 동작을 제어하며, 이를 위해 적어도 하나의 프로세서와 프로그램을 로딩할 메모리(미도시)를 포함할 수 있다. 예를 들어, 제어부(150)는 사용자로부터 화상 통화의 요청이 입력되면, 네트워크 자원, 즉, 현재 사용가능한 네트워크를 파악하도록 하고, 파악된 네트워크의 상태에 기초하여 화상 통화에 사용할 싱글패스 또는 멀티패스를 결정하도록 리소스 풀링부(140)를 제어할 수 있다. The controller 150 controls the overall operation of the mobile terminal 100 described above, and may include at least one processor and a memory (not shown) for loading a program. For example, when a request for a video call is input from a user, the controller 150 determines a network resource, that is, a network currently available, and uses a single pass or multipath to use for the video call based on the identified network state. The resource pooling unit 140 may be controlled to determine.

도 3은 본 발명적 개념의 예시적 실시예에 따른 화상 통화를 위한 모바일 단말기의 화상 통화 방법을 설명하기 위한 흐름도이다.3 is a flowchart illustrating a video call method of a mobile terminal for a video call according to an exemplary embodiment of the inventive concept.

도 3에 예시적으로 도시된 화상 통화 방법을 수행하는 모바일 단말기는 도 1을 참조하여 설명한 모바일 단말기(100) 또는 모바일 단말기(100)의 프로세서일 수 있다. The mobile terminal performing the video call method illustrated in FIG. 3 may be a processor of the mobile terminal 100 or the mobile terminal 100 described with reference to FIG. 1.

도 3을 참조하면, 모바일 단말기는 사용자로부터 화상 통화 요청을 입력받으면(S310), 모바일 단말기와 연결된 제1 내지 제3네트워크들의 상태에 대한 정보를 수집할 수 있다(S320). 이하 설명에서는, 제1 내지 제3네트워크들은 각각 제1 내지 제3네트워크 패스들에 대응하거나 또는 서로 동일한 의미로 사용될 수도 있다.Referring to FIG. 3, when the mobile terminal receives a video call request from the user (S310), the mobile terminal may collect information on the states of the first to third networks connected to the mobile terminal (S320). In the following description, the first to third networks may respectively correspond to the first to third network paths or may have the same meaning.

모바일 단말기는 수집된 정보를 분석하여 제1 내지 제3네트워크들의 상태를 파악할 수 있다(S330). S330단계에서, 모바일 단말기는 제1 내지 제3네트워크들 각각의 대역폭, 패킷 손실률, 연결 안정성 등을 파악할 수 있다.The mobile terminal may determine the states of the first to third networks by analyzing the collected information (S330). In operation S330, the mobile terminal may determine bandwidth, packet loss rate, and connection stability of each of the first to third networks.

모바일 단말기는 파악된 네트워크 상태에 기초하여, 제1 내지 제3네트워크들 중 화상 통화에 사용할 싱글패스 또는 멀티패스를 결정할 수 있다(S340). S340단계는 도 4를 참조하여 자세히 설명한다.The mobile terminal may determine a single pass or a multipath to use for a video call among the first to third networks based on the identified network state (S340). Operation S340 will be described in detail with reference to FIG. 4.

모바일 단말기는 싱글패스가 결정되면(S350-Y), 제1 내지 제3네트워크들 중 싱글패스로 결정된 네트워크를 통해 음성데이터와 영상데이터를 전송할 수 있다(S360).When the single pass is determined (S350-Y), the mobile terminal may transmit audio data and video data through the network determined as the single pass among the first to third networks (S360).

반면, 멀티패스가 결정되면(S350-N), 모바일 단말기는 음성데이터와 영상데이터를 멀티패스에 해당하는 네트워크들의 상태에 따라 적응적으로 분배하여 전송할 수 있다(S370). S370단계에서, 모바일 단말기는 멀티패스 중 하나의 패스로는 음성데이터 전체와 영상데이터의 일부를 전송하고, 나머지 패스(하나이거나 두 개 이상일 수 있음)로는 남은 영상데이터를 전송할 수 있다.On the other hand, when the multipath is determined (S350-N), the mobile terminal may adaptively distribute and transmit the voice data and the image data according to the states of the networks corresponding to the multipath (S370). In operation S370, the mobile terminal may transmit the entire audio data and a part of the image data in one pass of the multipath, and transmit the remaining image data in the remaining paths (which may be one or two or more).

도 4는 도 3의 S340단계를 자세히 설명하기 위한 흐름도이다.4 is a flowchart for describing operation S340 of FIG. 3 in detail.

도 4를 참조하면, 모바일 단말기는 S330단계에서 파악된 네트워크 상태로부터 현재 사용가능한 네트워크들을 확인할 수 있다(S405). 이하에서는, S405단계에서 확인된 사용가능한 네트워크들로서 제1 내지 제3네트워크들을 예로 들어 설명하나, 이 개수는 일 예로서 이에 한정되지 않는다.Referring to FIG. 4, the mobile terminal can identify currently available networks from the network state identified in step S330 (S405). Hereinafter, although the first to third networks are described as examples of usable networks identified in step S405, the number is not limited thereto as an example.

모바일 단말기는 제1 내지 제3네트워크들의 대역폭이 충분하면(S410-Y), 제1 내지 제3네트워크들의 품질이 화상 통화 서비스를 제공하기에 안정적인지 판단할 수 있다(S415). S410단계에서, 모바일 단말기는 S330단계에서 파악된 네트워크 상태 중 제1 내지 제3네트워크들 각각의 대역폭이 사전에 정해진 화상통화를 위한 기준값 이상이면 대역폭이 충분한 것으로 판단할 수 있다.If the bandwidth of the first to third networks is sufficient (S410-Y), the mobile terminal may determine whether the quality of the first to third networks is stable to provide a video call service (S415). In operation S410, the mobile terminal may determine that the bandwidth is sufficient if the bandwidth of each of the first to third networks is greater than or equal to a reference value for a predetermined video call among the network conditions determined in operation S330.

제1 내지 제3네트워크들의 품질이 모두 안정적이면(S415-Y), 모바일 단말기는 제1 내지 제3네트워크들에 사용자가 사전에 설정한 사용자 선호 패스가 있는지 확인할 수 있다(SS420).If the quality of the first to third networks are all stable (S415-Y), the mobile terminal may check whether the first to third networks have a user preference pass set in advance by the user (SS420).

제1 내지 제3네트워크들에 사용자 선호 패스가 있으면(S420-Y), 모바일 단말기는 사용자 선호도가 높은 순서대로 제1 내지 제3네트워크들에 우선순위를 부여할 수 있다(S425). 사용자 선호 패스는 사용자가 사전에 사용자가 선호하는 순서대로 네트워크 종류 별로 설정하거나, 모바일 단말기가 자동으로 설정할 수 있다. 예를 들어, 모바일 단말기는 사용자가 무료로 사용가능한 WiFi를 사용자 선호가 가장 높은 네트워크로 설정하고, WiFi에 해당하는 네트워크(예를 들어, 제1네트워크)에 가장 높은 우선순위를 부여할 수 있다.If there are user preference passes in the first to third networks (S420-Y), the mobile terminal may give priority to the first to third networks in order of high user preferences (S425). The user preference path may be set for each network type in the order that the user prefers in advance, or automatically set by the mobile terminal. For example, the mobile terminal may set WiFi, which is freely available to the user, as a network having the highest user preference, and give the highest priority to a network corresponding to WiFi (eg, the first network).

모바일 단말기는 S425단계에서 우선순위가 부여된 제1 내지 제3네트워크들 중 높은 우선순위에 해당하는 적어도 하나의 네트워크를 싱글패스 또는 멀티패스로 결정할 수 있다(S430). S430단계에서 모바일 단말기는 가장 높은 우선순위의 네트워크(즉, 사용자 선호도가 가장 높은 네트워크)를 이용하여 음성데이터와 영상데이터를 전송하거나, 가장 높은 우선순위의 네트워크로는 음성데이터와 일부 영상데이터, 그리고, 다음으로 높은 우선순위의 네트워크로는 남은 영상데이터를 전송하도록 결정할 수 있다.The mobile terminal may determine at least one network corresponding to the highest priority among the first to third networks assigned the priority in step S425 as a single pass or a multipath (S430). In step S430, the mobile terminal transmits the voice data and the video data using the highest priority network (that is, the network having the highest user preference), or the voice data and the partial video data as the highest priority network. Then, it may decide to transmit the remaining image data to the next higher priority network.

반면, 제1 내지 제3네트워크들에 사용자 선호 패스가 없으면(S420-N), 모바일 단말기는 네트워크 품질이 안정적인 순서대로 제1 내지 제3네트워크들에 우선순위를 부여할 수 있다(S435). On the other hand, if there are no user preference passes in the first to third networks (S420-N), the mobile terminal may give priority to the first to third networks in the order of stable network quality (S435).

모바일 단말기는 S435단계에서 우선순위가 부여된 제1 내지 제3네트워크들 중 높은 우선순위에 해당하는 적어도 하나의 네트워크를 화상통화를 위한 싱글패스 또는 멀티패스로 결정할 수 있다(S440). S440단계에서, 모바일 단말기는 모바일 단말기는 가장 높은 우선순위의 네트워크(즉, 네트워크 품질이 가장 안정적인 네트워크)를 이용하여 음성데이터와 영상데이터를 전송하거나, 가장 높은 우선순위의 네트워크로는 음성데이터와 일부 영상데이터, 그리고, 다음으로 높은 우선순위의 네트워크로는 남은 영상데이터를 전송하도록 결정할 수 있다.The mobile terminal may determine at least one network corresponding to a high priority among the first to third networks assigned the priority in step S435 as a single pass or a multipath for a video call (S440). In step S440, the mobile terminal transmits the voice data and the video data using the highest priority network (that is, the network with the most stable network quality), or the voice data and the part with the highest priority network. The video data and the next higher priority network may be determined to transmit the remaining video data.

한편, S410단계의 판단 결과 제1 내지 제3네트워크들 모두의 대역폭이 불충분하면(S445), 모바일 단말기는 제1 내지 제3네트워크들 중 제1우선순위(즉, 가장 높은 우선순위)에 해당하는 네트워크(예를 들어, 제1네트워크)를 음성데이터를 전송하기 위한 패스로 결정할 수 있다(S450).On the other hand, if the bandwidth of all of the first to third networks as a result of the determination in step S410 (S445), the mobile terminal corresponds to the first priority (that is, the highest priority) of the first to third networks The network (eg, the first network) may be determined as a path for transmitting voice data (S450).

모든 네트워크들의 대역폭이 불충분하므로, 모바일 단말기는 영상데이터의 품질을 하향조정할 수 있다(S455). S455단계에서, 모바일 단말기는 영상데이터의 압축률, 패킷 레이트 등을 조절하여 품질을 조정할 수 있다.Since the bandwidth of all the networks is insufficient, the mobile terminal can adjust the quality of the image data (S455). In step S455, the mobile terminal may adjust the quality by adjusting the compression rate, packet rate, and the like of the image data.

그리고, 모바일 단말기는 제1네트워크 중 음성데이터가 차지하는 대역 외의 대역과 제2우선순위에 해당하는 네트워크(예를 들어, 제2네트워크)를 품질이 하향조정된 영상데이터를 전송하기 위한 패스로 결정할 수 있다(S460). 이로써, S450단계와 S460단계에 의해 제1네트워크와 제2네트워크가 화상 통화를 위한 멀티패스로 결정될 수 있다. The mobile terminal may determine an out of band band occupied by voice data among the first network and a network (for example, a second network) corresponding to the second priority as a path for transmitting down-adjusted image data. There is (S460). As a result, the first network and the second network may be determined as multipaths for a video call in steps S450 and S460.

S450단계에서 음성데이터는 데이터 전송에 필요한 대역을 많이 필요로 하지 않을 수 있다. 따라서, S460단계에서, 모바일 단말기는 제1네트워크를 통해 음성데이터를 전송하고 남는 대역이 있는 경우, 제1네트워크의 남는 대역과 제2네트워크를 영상데이터를 전송할 패스로 결정할 수 있다. 제2네트워크로도 영상데이터를 전송하기에는 대역폭이 불충분한 경우, 모바일 단말기는 제3우선순위에 해당하는 제3네트워크를 영상데이터 전송을 위한 멀티패스로 추가할 수 있다.In operation S450, the voice data may not require much band for data transmission. Therefore, in step S460, if there is a band remaining after transmitting the voice data through the first network, the mobile terminal may determine the remaining band and the second network of the first network as a path to transmit the image data. If the bandwidth is insufficient to transmit the video data over the second network, the mobile terminal may add a third network corresponding to the third priority as a multipath for transmitting the video data.

한편, S415단계의 판단 결과 제1 내지 제3네트워크들 모두의 품질이 안정적이지 않으면(S415-N), 모바일 단말기는 제1 내지 제3네트워크들 중 제1 및 제2우선순위에 해당하는 네트워크들을 음성데이터를 중복전송하기 위한 멀티패스로 결정할 수 있다(S465). S465단계에서, 모바일 단말기는 제1 내지 제3네트워크들 모두가 불안정적이므로 보다 중요한 음성데이터의 손실률을 최소화하기 위해 음성데이터를 중복전송할 수 있다.If the quality of all of the first to third networks is not stable (S415-N), the mobile terminal determines networks corresponding to the first and second priorities among the first to third networks. It may be determined as a multipath for redundant transmission of voice data (S465). In operation S465, the mobile terminal may duplicately transmit the voice data in order to minimize the loss rate of more important voice data since all of the first to third networks are unstable.

S465단계에서 동일한 음성데이터가 적어도 두 개의 네트워크들을 통해 중복전송되므로, 영상데이터를 전송할 대역폭이 부족한 경우가 발생할 수 있다. 이를 대비하기 위해, 또는 실제로 영상데이터를 전송할 대역폭이 부족한 경우, 모바일 단말기는 영상데이터의 품질을 하향조정할 수 있다(S455).Since the same voice data is redundantly transmitted through at least two networks in step S465, a case where there is insufficient bandwidth to transmit image data may occur. In order to prepare for this, or when there is not enough bandwidth to actually transmit the video data, the mobile terminal can adjust the quality of the video data down (S455).

그리고, 모바일 단말기는 S465단계에서 결정된 제1네트워크 및 제2네트워크의 남은 대역을 S455단계에서 품질이 하향조정된 영상데이터를 전송하기 위한 멀티패스로 결정할 수 있다(S460). S460단계에서, 제1네트워크의 남은 대역의 대역폭과 제2네트워크의 남은 대역의 대역폭이 영상데이터를 전송하기에 불충분한 경우, 모바일 단말기는 제1네트워크의 남은 대역, 제2네트워크의 남은 대역과 제3네트워크를 영상데이터를 전송하기 위한 멀티패스로 결정할 수 있음은 물론이다.In operation S460, the mobile terminal may determine the remaining bands of the first network and the second network determined in operation S465 as multipaths for transmitting image data whose quality is down-regulated in operation S455. In operation S460, when the bandwidth of the remaining band of the first network and the bandwidth of the remaining band of the second network are insufficient to transmit the video data, the mobile terminal may include the remaining band of the first network, the remaining band of the second network, and the first bandwidth. Of course, the three networks can be determined as a multipath for transmitting image data.

도 4에서, S465단계 이후 수행되는 S460단계에서는, 제1네트워크의 남은 대역, 제2네트워크의 남은 대역, 그리고, 부족한 경우 제3네트워크를 이용하여 영상데이터를 전송하며, S450단계 이후 수행되는 S460단계에서는 제1네트워크의 남은 대역과 제2네트워크를 이용하여 영상데이터를 전송하는 측면이 일부 다르다.In FIG. 4, in step S460 performed after step S465, the remaining band of the first network, the remaining band of the second network, and, if insufficient, transmit image data using the third network, and step S460 performed after step S450. In the aspect of transmitting image data using the remaining band of the first network and the second network is slightly different.

상술한 본 발명의 개념적 실시예에 의하면, 모바일 단말기는 다양한 종류의 네트워크를 사용할 수 있으므로, VoIP와 같이 실시간성이 필요한 IP 기반의 Application 또는 서비스에서, 가용한 다수의 네트워크를 통하여 화상데이터를 송수신함으로써 화상통화 서비스의 품질을 향상시키고, Handover 상황에서 지연시간을 감소시킬 수 있다.According to the above-described conceptual embodiment of the present invention, since the mobile terminal can use various types of networks, in an IP-based application or service requiring real-time capability such as VoIP, image data is transmitted and received through a plurality of available networks. The quality of the video call service can be improved and the delay time can be reduced in the handover situation.

또한, 상술한 본 발명적 개념의 예시적 실시예들은 네트워크 자원을 관리하는 리소스 풀링을 이용하여, 모바일 환경에서 UDP를 사용하는 분야에 적용할 수 있다. 모바일 환경에서 UDP를 사용하는 분야는, 예를 들어, 모바일 VoIP 일대일 통화, 모바일 VoIP 다자간 통화 또는 화상회의, 동영상 스트리밍 서비스, 모바일 단말기를 이용한 인터넷 방송 또는 모바일 온라인 게임 등 다양하다.In addition, the exemplary embodiments of the inventive concept described above may be applied to a field using UDP in a mobile environment by using resource pooling for managing network resources. The field of using UDP in a mobile environment is various, for example, mobile VoIP one-to-one call, mobile VoIP multi-party call or video conferencing, video streaming service, Internet broadcasting or mobile online game using a mobile terminal.

상기와 같이 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 그러므로, 본 발명의 범위는 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등한 것들에 의해 정해져야 한다.While the present invention has been described with reference to the particular embodiments and drawings, it is to be understood that the invention is not limited to the disclosed embodiments, but, on the contrary, is intended to cover various modifications and equivalent arrangements included within the spirit and scope of the appended claims. This is possible. Therefore, the scope of the present invention should not be limited to the described embodiments, but should be determined by the equivalents of the claims, as well as the claims.

100: 모바일 단말기 110: 사용자 입력부
120: 통신부 130: 영상 처리부
140: 리소스 풀링부 141: 네트워크 상태 수집부
143: 멀티패스 결정부 145: 데이터 분배부
150: 제어부
100: mobile terminal 110: user input unit
120: communication unit 130: image processing unit
140: resource pooling unit 141: network state collection unit
143: Multipath determination unit 145: Data distribution unit
150:

Claims (15)

화상 통화를 위한 모바일 단말기에 있어서,
상기 화상 통화의 요청이 입력되면, 상기 모바일 단말기에서 사용가능한 다수의 네트워크들의 상태에 기초하여 상기 화상 통화에 사용할 멀티패스(Multi-Path)를 결정하는 리소스 풀링부;
상기 결정된 멀티패스를 이용하여 상기 화상 통화에 필요한 음성데이터와 영상데이터를 전송하는 통신부; 및
영상 처리부;를 포함하며,
상기 리소스 풀링부는,
상기 다수의 네트워크들의 상태를 나타내는 정보를 수집하여 출력하는 네트워크 상태 수집부, 상기 수집된 정보를 분석하여 상기 다수의 네트워크들의 상태를 파악하고, 파악 결과에 따라 상기 다수의 네트워크들 중 우선순위가 높은 적어도 두 개 이상의 네트워크들을 상기 화상 통화에 사용할 멀티패스로 결정하는 멀티패스 결정부, 및 상기 음성데이터와 영상데이터를 상기 결정된 멀티패스에 따라 적응적으로 분배하는 데이터 분배부를 포함하고,
상기 멀티패스 결정부는, 상기 다수의 네트워크들의 네트워크 품질이 불안정적 기준에 속하면, 상기 다수의 네트워크들 중 우선순위가 높은 적어도 두 개의 네트워크들 중 일부 대역을 상기 음성데이터를 중복 전송할 경로로 결정하고, 상기 우선순위가 높은 적어도 두 개의 네트워크들 중 남은 대역을 상기 품질이 하향조정된 영상데이터를 전송할 패스로 결정하며,
상기 영상 처리부는, 상기 멀티패스 결정부의 요청이 있는 경우에, 상기 영상데이터의 품질을 하향조정하는 것을 특징으로 하는 화상 통화를 위한 모바일 단말기.
In a mobile terminal for a video call,
A resource pooling unit configured to determine a multi-path to be used for the video call based on a state of a plurality of networks available in the mobile terminal when the video call request is input;
A communication unit which transmits audio data and video data necessary for the video call using the determined multipath; And
It includes; Image processing unit;
The resource pooling unit,
A network state collecting unit for collecting and outputting information indicating the state of the plurality of networks, to analyze the collected information to determine the state of the plurality of networks, according to the result of the identification of the high priority among the plurality of networks A multipath determination unit for determining at least two or more networks as a multipath for use in the video call, and a data distribution unit for adaptively distributing the audio data and the video data according to the determined multipath;
When the network quality of the plurality of networks falls within an unstable criterion, the multipath determining unit determines some bands of at least two networks having high priority among the plurality of networks as redundant transmission paths of the voice data. Determining a remaining band of at least two networks having high priority as a path to transmit the down-adjusted image data,
The image processing unit, the mobile terminal for a video call, characterized in that to adjust the quality of the video data down, when the request of the multi-path determination unit.
제1항에 있어서,
상기 멀티패스 결정부는, 상기 수집된 정보를 분석하여 상기 다수의 네트워크들의 대역폭이 사전에 정해진 기준값 이상이고, 네트워크 품질이 안정적 기준에 속하면, 상기 다수의 네트워크들 중 사용자 선호 패스가 설정된 적어도 한 개의 네트워크를 상기 멀티패스 또는 싱글패스로 결정하는 것을 특징으로 하는 화상 통화를 위한 모바일 단말기.
The method of claim 1,
The multipath determination unit analyzes the collected information, and when the bandwidth of the plurality of networks is greater than or equal to a predetermined reference value and the network quality is within a stable criterion, at least one user preference path among the plurality of networks is set. A mobile terminal for a video call, characterized in that for determining the network as the multipath or single pass.
삭제delete 삭제delete 제1항에 있어서,
상기 멀티패스 결정부는,
상기 다수의 네트워크들 중 우선순위가 가장 높은 네트워크 중 일부 대역을 상기 음성데이터를 전송할 패스로 결정하고, 상기 우선순위가 가장 높은 네트워크 다음으로 우선순위가 높은 네트워크들 중 적어도 하나와, 상기 우선순위가 가장 높은 네트워크의 남은 대역을 상기 영상데이터를 전송할 패스로 결정하는 것을 특징으로 하는 화상 통화를 위한 모바일 단말기.
The method of claim 1,
The multipath determination unit,
Determining some bands among the networks having the highest priority among the plurality of networks as a path to transmit the voice data, and at least one of the networks having the highest priority next to the network having the highest priority, and And the remaining band of the highest network is determined as a path to transmit the video data.
제1항에 있어서,
상기 멀티패스 결정부는,
상기 다수의 네트워크들 중 우선순위가 가장 높은 네트워크를 상기 음성데이터 전체와 상기 영상데이터의 일부를 전송할 패스로 결정하고, 상기 우선순위가 가장 높은 네트워크의 대역폭을 고려하여 상기 다음으로 우선순위가 높은 네트워크들 중 적어도 하나를 상기 영상데이터의 남은 일부를 전송할 패스로 결정하는 것을 특징으로 하는 화상 통화를 위한 모바일 단말기.
The method of claim 1,
The multipath determination unit,
The network having the highest priority among the plurality of networks is determined as a path for transmitting the entire voice data and a part of the video data, and considering the bandwidth of the network having the highest priority, the next higher priority network. The mobile terminal for a video call, characterized in that for determining at least one of the path to transmit the remaining part of the video data.
제1항에 있어서,
상기 멀티패스 결정부는,
상기 수집된 정보를 분석하여 상기 다수의 네트워크들 모두의 대역폭이 사전에 정해진 기준값 미만이면, 상기 다수의 네트워크들 중 우선순위가 가장 높은 네트워크 중 일부 대역을 상기 음성데이터를 전송할 패스로 먼저 결정하고, 상기 우선순위가 가장 높은 네트워크 다음으로 우선순위가 높은 네트워크들 중 적어도 하나와, 상기 우선순위가 가장 높은 네트워크의 남은 대역을 상기 하향조정된 영상데이터를 전송할 패스로 결정하는 것을 특징으로 하는 화상 통화를 위한 모바일 단말기.
The method of claim 1,
The multipath determination unit,
If the bandwidth of all the plurality of networks is analyzed by analyzing the collected information, first, some bands among the networks having the highest priority among the plurality of networks are determined as a pass to transmit the voice data, And determining at least one of the networks having the highest priority next to the network having the highest priority, and the remaining band of the network having the highest priority as a path to transmit the down-regulated video data. Mobile terminal for.
제6항 또는 제7항에 있어서,
상기 영상 처리부는,
상기 영상데이터의 GOP(Group Of Pictures), 압축률 및 프레임 레이트 중 적어도 하나를 조정하여 상기 영상데이터의 품질을 하향조정하는 것을 특징으로 하는 화상 통화를 위한 모바일 단말기.
8. The method according to claim 6 or 7,
Wherein the image processing unit comprises:
And adjusting the quality of the video data by adjusting at least one of a group of pictures (GOP), a compression ratio, and a frame rate of the video data.
화상 통화를 위한 모바일 단말기의 화상통화방법에 있어서,
상기 화상 통화의 요청이 입력되면, 상기 모바일 단말기에서 사용가능한 다수의 네트워크들의 상태에 기초하여 상기 화상 통화에 사용할 멀티패스(Multi-Path)를 결정하는 단계; 및
상기 결정된 멀티패스를 이용하여 영상데이터와 음성데이터를 전송하는 단계;를 포함하며,
상기 멀티패스를 결정하는 단계는,
상기 다수의 네트워크들의 네트워크 품질이 불안정적 기준에 속하면, 상기 다수의 네트워크들 중 우선순위가 높은 적어도 두 개의 네트워크들중 일부 대역을 상기 음성데이터를 중복 전송할 경로로 결정하는 단계, 상기 영상데이터의 품질을 하향조정하는 단계; 및 상기 우선순위가 높은 적어도 두 개의 네트워크들 다음으로 우선순위가 높은 네트워크들 중 적어도 하나와, 상기 우선순위가 높은 적어도 두 개의 네트워크들 중 남은 대역을 상기 하향조정된 영상데이터를 전송할 패스로 결정하는 단계를 포함하는 것을 특징으로 하는 화상통화방법.
In the video call method of a mobile terminal for a video call,
When a request for the video call is input, determining a multi-path to use for the video call based on a state of a plurality of networks available in the mobile terminal; And
And transmitting the image data and the audio data using the determined multipath.
The determining of the multipath may include:
If the network quality of the plurality of networks falls within an unstable criterion, determining some bands of at least two networks having high priority among the plurality of networks as redundant transmission paths of the voice data; Downgrading quality; And determining at least one of the higher priority networks and the remaining band of the at least two networks having the highest priority as a path to transmit the downscaled image data. And a video call method.
제9항에 있어서,
상기 멀티패스를 결정하는 단계는,
상기 다수의 네트워크들 중 우선순위가 높은 적어도 두 개 이상의 네트워크들을 상기 화상 통화에 사용할 멀티패스로서 결정하는 것을 특징으로 하는 화상통화방법.
10. The method of claim 9,
The determining of the multipath may include:
And determining at least two or more priorities among the plurality of networks as multipaths to be used for the video call.
제10항에 있어서,
상기 멀티패스를 결정하는 단계는,
상기 다수의 네트워크들 중 우선순위가 가장 높은 네트워크 중 일부 대역을 상기 음성데이터를 전송할 패스로 결정하고, 상기 우선순위가 가장 높은 네트워크 다음으로 우선순위가 높은 네트워크들 중 적어도 하나와, 상기 우선순위가 가장 높은 네트워크의 남은 대역을 상기 영상데이터를 전송할 패스로 결정하는 것을 특징으로 하는 화상통화방법.
The method of claim 10,
The determining of the multipath may include:
Determining some bands among the networks having the highest priority among the plurality of networks as a path to transmit the voice data, and at least one of the networks having the highest priority next to the network having the highest priority, and And determining the remaining band of the highest network as a path to transmit the video data.
제10항에 있어서,
상기 멀티패스를 결정하는 단계는,
상기 다수의 네트워크들 중 우선순위가 가장 높은 네트워크를 상기 음성데이터 전체와 상기 영상데이터의 일부를 전송할 패스로 결정하고, 상기 우선순위가 가장 높은 네트워크의 대역폭을 고려하여 다음으로 우선순위가 높은 네트워크를 상기 영상데이터의 남은 일부를 전송할 패스로 결정하는 것을 특징으로 하는 화상통화방법.
The method of claim 10,
The determining of the multipath may include:
The network having the highest priority among the plurality of networks is determined as a path for transmitting the entire voice data and a part of the video data, and considering the bandwidth of the network with the highest priority, the next highest network is selected. And determining the remaining part of the image data as a transmission path.
제9항에 있어서,
상기 멀티패스를 결정하는 단계는,
상기 다수의 네트워크들의 대역폭이 사전에 정해진 기준값 이상이고, 네트워크 품질이 안정적 기준에 속하면, 상기 다수의 네트워크들 중 사용자 선호 패스가 설정된 적어도 한 개의 네트워크를 상기 멀티패스 또는 싱글패스로 결정하는 단계;를 더 포함하는 것을 특징으로 하는 화상통화방법.
10. The method of claim 9,
The determining of the multipath may include:
If the bandwidth of the plurality of networks is greater than or equal to a predetermined reference value and the network quality is within a stable criterion, determining at least one of the plurality of networks in which a user preference path is set as the multipath or single pass; The video call method further comprises.
삭제delete 제9항에 있어서,
상기 멀티패스를 결정하는 단계는,
상기 다수의 네트워크들 모두의 대역폭이 사전에 정해진 기준값 미만이면, 상기 다수의 네트워크들 중 우선순위가 가장 높은 네트워크 중 일부 대역을 상기 음성데이터를 전송할 패스로 먼저 결정하는 단계;
상기 영상데이터의 품질을 하향조정하는 단계; 및
상기 다수의 네트워크들 중 상기 우선순위가 가장 높은 네트워크 다음으로 우선순위가 높은 네트워크들 중에서 적어도 하나와 상기 우선순위가 가장 높은 네트워크 중 남은 대역을 상기 하향조정된 영상데이터를 전송할 패스로 결정하는 단계;를 포함하는 것을 특징으로 하는 화상통화방법.
10. The method of claim 9,
The determining of the multipath may include:
If a bandwidth of all of the plurality of networks is less than a predetermined reference value, first determining a portion of a band of a network having the highest priority among the plurality of networks as a path to transmit the voice data;
Down adjusting the quality of the image data; And
Determining at least one of the highest priority networks next to the highest priority network and the remaining band of the highest priority network as a path to transmit the downlinked image data among the plurality of networks; Video call method comprising a.
KR1020110126964A 2011-11-30 2011-11-30 Mobile Device and Method for Videotelephony KR101316482B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020110126964A KR101316482B1 (en) 2011-11-30 2011-11-30 Mobile Device and Method for Videotelephony

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020110126964A KR101316482B1 (en) 2011-11-30 2011-11-30 Mobile Device and Method for Videotelephony

Publications (2)

Publication Number Publication Date
KR20130060743A KR20130060743A (en) 2013-06-10
KR101316482B1 true KR101316482B1 (en) 2013-10-08

Family

ID=48859117

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020110126964A KR101316482B1 (en) 2011-11-30 2011-11-30 Mobile Device and Method for Videotelephony

Country Status (1)

Country Link
KR (1) KR101316482B1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108337167B (en) * 2018-02-11 2020-07-31 福州大学 Video multi-channel parallel transmission and distribution method and system based on ant colony algorithm
CN111726835B (en) * 2020-06-15 2023-07-07 维沃移动通信有限公司 Voice call method and device and electronic equipment

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050001242A (en) * 2003-06-27 2005-01-06 엘지전자 주식회사 Video telephone method for mobile communication device
KR20060119686A (en) * 2005-05-20 2006-11-24 한국전자통신연구원 Multi-mode user equipment and routing controlling method thereby
KR100702457B1 (en) 2004-12-07 2007-04-03 한국전자통신연구원 Multiple mode terminal supporting handoff between heterogeneous network and the handoff method thereof
KR20090037662A (en) * 2007-10-12 2009-04-16 엘지노텔 주식회사 Apparatus and method for performing video communication

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050001242A (en) * 2003-06-27 2005-01-06 엘지전자 주식회사 Video telephone method for mobile communication device
KR100702457B1 (en) 2004-12-07 2007-04-03 한국전자통신연구원 Multiple mode terminal supporting handoff between heterogeneous network and the handoff method thereof
KR20060119686A (en) * 2005-05-20 2006-11-24 한국전자통신연구원 Multi-mode user equipment and routing controlling method thereby
KR20090037662A (en) * 2007-10-12 2009-04-16 엘지노텔 주식회사 Apparatus and method for performing video communication

Also Published As

Publication number Publication date
KR20130060743A (en) 2013-06-10

Similar Documents

Publication Publication Date Title
JP4827652B2 (en) Relay device, relay method, and relay program
KR101402533B1 (en) Method and apparatus for managing allocation of resources in a network
EP2285068B1 (en) Method, mobile device and computer readable medium for mobile telepresence
EP2625848B1 (en) Rate adaptation for video calling
RU2492588C2 (en) Video streaming method and device
CN108282671B (en) Streaming media data transmission method
US20080002711A1 (en) System and method for access state based service options
US8243679B1 (en) Initiating a handover in a communication network
US20110110309A1 (en) Network nodes cooperatively routing traffic flow amongst wired and wireless networks
CN112585922B (en) Auxiliary method, information providing method, stream transmission method and device
US11722913B2 (en) Multichannel communication systems
CN102984784A (en) Transmitting data over multiple networks
JP2016506206A (en) Retransmission and frame synchronization for error control
KR101316482B1 (en) Mobile Device and Method for Videotelephony
US11368512B2 (en) Method and system for utilizing network conditions feedback for improving quality of a collaborative media production
CN109963312A (en) A kind of method for switching network, system, link switch equipment and storage medium
CN102984785A (en) Transmitting data over multiple networks
JP2021527351A (en) Network-controlled uplink media transmission for collaborative media production in scenarios with limited network capacity
JP2005101815A (en) Portable communication terminal
JP6683916B2 (en) Wireless device and wireless communication system
KR20100084931A (en) Apparatus and method for scheduling of optimal network
EP2239916A1 (en) Improved application of unreliable transfer mechanisms
US20060218259A1 (en) Method of communication setup in a network
CN112585979B (en) Method and system for network controlled media upload of stored content
JP2010062720A (en) Communication terminal, communication system, available band estimating method, and program

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20160920

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20170928

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20180927

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20191001

Year of fee payment: 7