KR102389312B1 - 멀티미디어 데이터를 전송하는 방법 및 장치 - Google Patents

멀티미디어 데이터를 전송하는 방법 및 장치 Download PDF

Info

Publication number
KR102389312B1
KR102389312B1 KR1020150081982A KR20150081982A KR102389312B1 KR 102389312 B1 KR102389312 B1 KR 102389312B1 KR 1020150081982 A KR1020150081982 A KR 1020150081982A KR 20150081982 A KR20150081982 A KR 20150081982A KR 102389312 B1 KR102389312 B1 KR 102389312B1
Authority
KR
South Korea
Prior art keywords
audio frame
data
stored
frame
previous audio
Prior art date
Application number
KR1020150081982A
Other languages
English (en)
Other versions
KR20160006106A (ko
Inventor
정경훈
오은미
정종훈
황선호
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to CN201580048273.6A priority Critical patent/CN106688211B/zh
Priority to PCT/KR2015/007014 priority patent/WO2016006915A1/ko
Priority to EP15819284.9A priority patent/EP3169026B1/en
Priority to US15/324,922 priority patent/US10170127B2/en
Publication of KR20160006106A publication Critical patent/KR20160006106A/ko
Application granted granted Critical
Publication of KR102389312B1 publication Critical patent/KR102389312B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/36Flow control; Congestion control by determining packet size, e.g. maximum transfer unit [MTU]
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/022Blocking, i.e. grouping of samples in time; Choice of analysis windows; Overlap factoring
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/75Media network packet handling
    • H04L65/762Media network packet handling at the source 
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/005Correction of errors induced by the transmission channel, if related to the coding algorithm
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/25Flow control; Congestion control with rate being modified by the source upon detecting a change of network conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/38Flow control; Congestion control by adapting coding or compression rate
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/70Media network packetisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/75Media network packet handling
    • H04L65/764Media network packet handling at the destination 
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/80Responding to QoS

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Mobile Radio Communication Systems (AREA)
  • Detection And Prevention Of Errors In Transmission (AREA)
  • Communication Control (AREA)

Abstract

멀티미디어 데이터를 전송하는 방법 및 장치가 제공된다. 제2 디바이스에게 오디오 신호를 제공하는 제1 디바이스는, 상기 제 1 디바이스에 입력된 오디오 신호를 복수의 오디오 프레임으로 분할하고, 상기 복수의 오디오 프레임 중 현재 오디오 프레임과 상기 제1 디바이스의 메모리에 기 저장된 상기 적어도 하나의 이전 오디오 프레임을 비교하며, 상기 기 저장된 이전 오디오 프레임과 현재 오디오 프레임의 유사도에 기초하여 상기 기 저장된 이전 오디오 프레임들 중 하나를 선택하는 제어부; 및 상기 선택된 이전 오디오 프레임의 식별 값을 상기 제 2 디바이스에게 전송하는 통신부;를 포함한다.

Description

멀티미디어 데이터를 전송하는 방법 및 장치{METHOD AND APPARATUS FOR TRANSMITTING MULTIMEDIA DATA}
본 개시는 무선 통신 및 데이터 네트워크를 이용한 멀티미디어 데이터의 전송 방법 및 장치에 관한 것이다.
무선 통신 및 네트워크에서 앞서 설명한 바와 같은 데이터 전송의 문제점을 해결하기 위한 방법은 다음과 같은 것들이 있다. 예를 들어 복수의 무선환경에서 두 네트워크 간 간섭을 줄이기 위하여 네트워크 사이의 전송 상태를 인지할 수 있는 여러 가지 파라미터(parameter)를 사용하여 네트워크 상황을 모니터링하고 그 결과에 따라 두 네트워크 간의 간섭을 줄이기 위한 여러 가지 방법을 적용한다. 이들 방법들의 대부분은 네트워크 상황을 모니터링 하기 위해 RSSI(Receiver Signal Strength Indication), 시스템 잡음 레벨 정보(system noise level information), 전송되는 신호의 파워 스펙트럼(power spectrum) 등을 이용한다. 이들 결과에 따라 RF 단에서의 송신기 파워(transmitter power)를 조정하거나 데이터 전송 시 사용하는 채널 맵(channel map)의 변경을 통하여 서로 다른 데이터 네트워크 간의 간섭을 최소화한다. 또 다른 방법으로 복수의 무선 네트워크 간의 우선순위 레벨을 조정하거나 안테나 격리도를 조정하는 방법, 복수의 네트워크에서 동일 안테나를 공유하는 경우 안테나 스위치를 사용하여 네트워크 간 공존이 가능하도록 안테나 시스템을 구성하는 방법 등이 있다.
또한 패킷 전송 시에 패킷 손실(packet-loss) 정보를 이용하여 데이터 비율(data rate)을 조정하거나 계층적 코덱(scalable codec)을 사용하여 채널상황 및 대역폭에 따라 전송되는 멀티미디어 데이터의 양을 조정하는 방법을 사용한다.
패킷이 손실되거나 왜곡되는 경우 프레임 에러(frame error)가 발생하게 되고 이를 보간하기 위해 에러 은닉(error concealment) 방법을 사용한다. 음성이나 오디오 정보가 전송되는 경우에 일반적으로 사용하는 에러 은닉 방법은 오류가 발생된 프레임에서 소리의 크기를 작게 함으로써 오류가 출력 신호에 미치는 영향을 약화시키는 묵음(muting)법, 오류가 발생된 프레임의 이전 정상 프레임(Previous Good Frame)을 반복하여 재생함으로써 오류가 발생된 프레임의 신호를 복원하는 반복(repetition)법, 이전 정상 프레임과 이후 정상 프레임(Next Good Frame)의 파라미터를 보간하여 오류 프레임의 파라미터를 예측하는 보간법(interpolation) 등이 있다.
한편, 데이터를 전송하는 디바이스의 전력 효율 및 네트워크의 주파수 효율을 향상시키기 위하여 DTX(Discontinuous Transmission) 및 DRX(Discontinuous Reception)와 같은 데이터 전송 방법이 일반적으로 이용되고 있다.
또한, 무선 네트워크를 통하여 데이터가 전송되는 경우에는 유선 네트워크에 비해 불안정한 채널을 통해 데이터가 전송되므로, 데이터 전송에 있어서 필연적으로 오류가 발생할 수 있다. 이에 따라, 디바이스는 데이터 전송의 오류 비율을 감소시키기 위해서는 높은 송신 전력으로 데이터를 전송하여야 하며, 이 경우 디바이스의 전력 효율이 감소하게 되는 문제가 있었다.
복수의 무선 네트워크에서 발생하는 간섭을 줄이고 데이터를 효율적으로 전송하기 위한 방법들이 있다. 그러나, 기존의 방법들은 네트워크 환경을 모니터링 하고 그 결과를 이용하여 신호의 세기를 조절하거나, 안테나 격리도를 조정하여 채널간의 간섭을 최소화하는 등 주로 RF 단에서 네트워크간 간섭을 최소화하기 위한 방법들이 적용되고 있다.
데이터 네트워크의 상황에 따라 비트율(bit rate)을 조정하는 경우, 기존의 방법은 패킷 손실 정보를 이용하여 사용 가능한 대역폭을 예측하고, 그에 따라 비트율을 조정해주는 방법을 사용하였다. 그러나 복수의 무선 네트워크 간의 간섭이 발생하는 경우, 하나의 파라미터를 가지고 비트율을 조정해주는 방법으로는 네트워크의 간섭에 따른 상황을 정확히 반영하지 못하는 경우가 발생한다.
무선 네트워크를 이용하여 실시간 오디오 또는 비디오 스트리밍 서비스를 이용하는 경우 지연(Latency)과 채널 에러에 대한 강인성(Robustness)은 중요한 요소이다. 이때, 지연 및 강인성은 일반적으로 수신단의 입력버퍼의 크기에 의해 결정된다. 즉 입력버퍼의 크기가 크다면 에러에 대한 강인성은 좋아지지만 지연이 발생하게 되고, 입력버퍼의 크기가 작다면 지연은 짧아지는 반면 강인성은 떨어진다. TV와 같이 비디오와 함께 전송되는 오디오 데이터의 경우 동기화(sync) 및 지연은 매우 중요하다. 하지만 오디오 신호만 존재하는 데이터의 경우 비디오의 경우보다는 동기화 및 지연이 덜 중요하다. 그러나 기존의 방법은 이러한 입력 데이터의 타입을 고려하지 않고 고정된 버퍼 크기를 사용하기 때문에 데이터 타입에 따라 발생하는 동기화 및 지연에 효과적으로 대응하지 못한다.
에러 은닉의 경우 위에서 언급한 이전 정상 프레임을 이용하여 오류가 발생하는 신호를 복원하는 반복법(repetition)은 단순 반복할 경우 프레임간 불연속 및 위상 불일치(phase mismatch) 등의 문제점이 발생하게 되어 우수한 성능을 기대하기 힘들다. 이전 정상 프레임과 이후 정상 프레임을 이용하는 보간법(interpolation)의 경우 한 프레임을 지연시켜야 하므로 지연에 민감한 실시간 오디오 또는 비디오 스트리밍 서비스 시 사용하기에는 적절하지 않다.
일부 실시예에서 해결하고자 하는 과제는 무선 네트워크 환경에서 네트워크 간섭을 알 수 있는 복수의 네트워크 상태 파라미터(network status parameter), 동일 네트워크를 사용하는 복수의 무선 주변장치에 따른 대역폭 변화 등 무선 네트워크 환경을 분석하고, 이를 이용하여 오디오, 비디오 등 멀티미디어 데이터의 비트율을 효율적으로 조정하고 패킷을 구성하는 방법을 제공하는 것이다. 즉 네트워크 환경이 좋은 강전계 상황에서는 무손실(lossless) 또는 높은 비트율로 데이터를 부호화하고 네트워크 환경이 나쁜 약전계 상황에서는 낮은 비트율로 데이터를 부호화하여 채널 상황에 따라 끊김없이 데이터를 전송하는 것이다.
또한, 일부 실시예에서 해결하고자 하는 과제는 미디어 타입(오디오, 비디오)에 따라 지연을 효과적으로 조정하여 동기화가 중요한 데이터의 경우 지연을 최소화하고 그렇지 않은 경우 에러에 강인하도록 하는 방법을 제공하는 것이다.
또한, 일부 실시예에서 해결하고자 하는 과제는 에러 프레임 발생시 이전 정상프레임을 이용하는 에러 은닉 방법을 사용하여 낮은 복잡도로 추가적인 지연이 필요없는 프레임 오류 은닉 방법 및 장치를 제공하는 것이다. 이를 위하여 에러 은닉시 발생하는 프레임간의 불연속 및 위상 불일치를 최소화하여 음질 저하를 최소화할 수 있도록 하는 것이다.
또한, 일부 실시예는, 무선 통신 네트워크를 통하여 연결된 디바이스들 간에 오디오 데이터 전송함에 있어서, 디바이스의 전력 소모를 감소시킬 수 있는 방법 및 장치를 제공할 수 있다.
또한, 일부 실시예는, 오디오 데이터를 송수신을 하는 디바이스들이 오디오 프레임을 저장하는 메모리를 관리하고 동기화할 수 있는 방법 및 장치를 제공한다.
또한, 일부 실시예는, 오디오 프레임과 오디오프레임의 식별값을 선택적으로 전송할 수 있는 방법 및 장치를 제공한다.
상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 개시의 제 1 측면은, 적어도 하나의 이전 오디오 프레임을 저장하는 메모리; 상기 제 1 디바이스에 입력된 오디오 신호를 복수의 오디오 프레임으로 분할하고, 상기 복수의 오디오 프레임 중 현재 오디오 프레임과 상기 제1 디바이스의 메모리에 기 저장된 상기 적어도 하나의 이전 오디오 프레임을 비교하며, 상기 기 저장된 이전 오디오 프레임과 현재 오디오 프레임의 유사도에 기초하여 상기 기 저장된 이전 오디오 프레임들 중 하나를 선택하는 제어부; 및 상기 선택된 이전 오디오 프레임의 식별 값을 상기 제 2 디바이스에게 전송하는 통신부;를 포함하는 제2 디바이스에게 오디오 신호를 제공하는 제1 디바이스를 제공할 수 있다.
또한, 상기 제어부는, 상기 기 저장된 이전 오디오 프레임과 상기 현재 오디오 프레임의 상기 유사도가 기 설정된 임계치보다 큼에 따라, 상기 기 저장된 이전 오디오 프레임 중 하나를 선택할 수 있다.
또한, 상기 제어부는, 상기 기 저장된 이전 오디오 프레임과 상기 현재 오디오 프레임의 상기 유사도가 기 설정된 임계치보다 작음에 따라, 상기 현재 오디오 프레임을 압축하며, 상기 통신부는, 상기 압축된 현재 오디오 프레임을 상기 제 2 디바이스에게 전송할 수 있다
또한, 상기 제어부는, 상기 압축된 현재 오디오 프레임이 상기 제 2 디바이스에게 성공적으로 전송됨에 따라, 상기 기 저장된 이전 오디오 프레임 중 적어도 하나를 삭제하고, 상기 기 저장된 이전 오디오 프레임 중 적어도 하나가 삭제됨에 따라, 상기 현재 오디오 프레임을 상기 메모리에 저장할 수 있다.
또한, 상기 제어부는, 상기 기 저장된 이전 오디오 프레임 중에서 상기 메모리에 먼저 저장된 이전 오디오 프레임을 삭제할 수 있다.
또한, 상기 제어부는, 상기 기 저장된 이전 오디오 프레임의 식별 값이 상기 제 2 디바이스에게 전송된 횟수에 기초하여, 상기 기 저장된 이전 오디오 프레임 중 하나를 삭제할 수 있다.
또한, 상기 통신부는, 상기 선택된 이전 오디오 프레임의 식별 값의 전송이 실패됨에 따라, 상기 선택된 이전 오디오 프레임의 식별값을 기 설정된 전송 제한 시간 내에 상기 제 2 디바이스에게 재전송할 수 있다.
또한, 상기 제어부는, 상기 기 설정된 전송 제한 시간 내에, 상기 선택된 이전 오디오 프레임의 식별 값의 전송이 실패됨에 따라, 다음 오디오 프레임의 전송 방법을 결정할 수 있다.
또한, 본 개시의 제 2 측면은, 상기 제 1 디바이스에 입력된 오디오 신호를 복수의 오디오 프레임으로 분할하는 단계; 상기 복수의 오디오 프레임 중 현재 오디오 프레임과 상기 제 1 디바이스의 메모리에 기 저장된 적어도 하나의 이전 오디오 프레임을 비교하는 단계; 상기 기 저장된 이전 오디오 프레임과 중 상기 현재 오디오 프레임의 유사도에 기초하여, 상기 기 저장된 이전 오디오 프레임 중 하나를 선택하는 단계; 및 상기 선택된 이전 오디오 프레임의 식별 값을 상기 제 2 디바이스에게 전송하는 단계;를 포함하는 제 1 디바이스가 제 2 디바이스에게 오디오 신호를 제공하는 방법을 제공할 수 있다.
또한, 상기 선택된 이전 오디오 프레임은, 상기 제 2 디바이스에게 성공적으로 전송됨에 따라, 상기 메모리 및 상기 제 2 디바이스의 메모리에 각각 저장될 수 있다.
또한, 상기 기 저장된 이전 오디오 프레임 중 하나를 선택하는 단계는, 상기 기 저장된 이전 오디오 프레임과 상기 현재 오디오 프레임의 유사도가 기 설정된 임계치보다 큼에 따라, 상기 기 저장된 이전 오디오 프레임 중 하나를 선택할 수 있다.
또한, 상기 방법은, 상기 기 저장된 이전 오디오 프레임과 상기 현재 오디오 프레임의 유사도가 기 설정된 임계치보다 작음에 따라, 상기 현재 오디오 프레임을 압축하는 단계; 및 상기 압축된 현재 오디오 프레임을 상기 제 2 디바이스에게 전송하는 단계;를 더 포함할 수 있다.
또한, 상기 방법은, 상기 압축된 현재 오디오 프레임이 상기 제 2 디바이스에게 성공적으로 전송됨에 따라, 상기 기 저장된 이전 오디오 프레임 중 적어도 하나를 삭제하는 단계; 및 상기 기 저장된 이전 오디오 프레임 중 적어도 하나가 삭제됨에 따라, 상기 현재 오디오 프레임을 상기 메모리에 저장하는 단계;를 더 포함할 수 있다.
또한, 상기 기 저장된 이전 오디오 프레임 중 하나를 삭제하는 단계는, 상기 기 저장된 이전 오디오 프레임 중 상기 메모리에 먼저 저장된 이전 오디오 프레임을 삭제할 수 있다.
또한, 상기 기 저장된 이전 오디오 프레임 중 하나를 삭제하는 단계는, 상기 기 저장된 이전 오디오 프레임의 식별 값이 상기 제 2 디바이스에게 전송된 횟수에 기초하여, 상기 기 저장된 이전 오디오 프레임 중 하나를 삭제할 수 있다.
또한, 상기 방법은, 상기 선택된 이전 오디오 프레임의 식별 값의 전송이 실패됨에 따라, 상기 선택된 이전 오디오 프레임의 식별값을 기 설정된 전송 제한 시간 내에 상기 제 2 디바이스에게 재전송하는 단계;를 더 포함할 수 있다.
또한, 상기 방법은, 상기 기 설정된 전송 제한 시간 내에, 상기 선택된 이전 오디오 프레임의 식별 값의 전송이 실패됨에 따라, 다음 오디오 프레임의 전송 방법을 결정하는 단계;를 더 포함할 수 있다.
또한, 본 개시의 제 3 측면은, 상기 다른 디바이스로부터 상기 다른 디바이스에 입력된 오디오 신호에 관련된 데이터를 수신하는 통신부; 상기 수신된 데이터의 종류를 결정하고, 상기 결정된 데이터의 종류가 기 저장된 오디오 프레임의 식별값이면, 상기 식별값에 대응되는 오디오 프레임을 상기 디바이스의 메모리로부터 추출하고, 상기 결정된 데이터의 종류가 상기 다른 디바이스에 입력된 오디오 신호로부터 분할된 현재 오디오 프레임의 비트스트림이면, 상기 비트스트림을 현재 오디오 프레임으로 신장하는 제어부; 및 상기 추출된 오디오 프레임의 오디오 신호 또는 상기 신장된 현재 오디오 프레임의 오디오 신호를 출력하는 출력부;를 포함하는 다른 디바이스로부터 오디오 신호를 수신하는 디바이스를 제공할 수 있다.
또한, 본 개시의 제 4 측면은, 상기 다른 디바이스로부터 상기 다른 디바이스에 입력된 오디오 신호에 관련된 데이터를 수신하는 단계; 상기 수신된 데이터의 종류를 결정하는 단계; 상기 결정된 데이터의 종류가 기 저장된 오디오 프레임의 식별값이면, 상기 식별값에 대응되는 오디오 프레임을 상기 디바이스의 메모리로부터 추출하는 단계; 상기 결정된 데이터의 종류가 상기 다른 디바이스에 입력된 오디오 신호로부터 분할된 현재 오디오 프레임의 비트스트림이면, 상기 비트스트림을 현재 오디오 프레임으로 신장하는 단계; 및 상기 추출된 오디오 프레임의 오디오 신호 또는 상기 신장된 현재 오디오 프레임의 오디오 신호를 출력하는 단계;를 포함하는 디바이스가 다른 디바이스로부터 오디오 신호를 수신하는 방법을 제공할 수 있다.
또한, 본 개시의 제 5 측면은, 제 2 측면의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체를 제공할 수 있다.
도 1은 일부 실시예에서의 무선 네트워크 상황에 따른 비트율(bit-rate) 및 지연(latency)을 컨트롤하고 전송될 패킷(packet)을 구성하는 데이터 전송 장치에 대한 개략적인 블록도이다.
도 2는 일부 실시예에 의한 네트워크 채널에 따른 패킷 크기, 프레임 개수 및 프레임 크기를 결정하는 방법의 흐름도이다.
도 3은 일부 실시예에 의한 네트워크 채널에 따른 패킷 크기, 프레임 개수 및 프레임 크기를 결정하는 방법의 일 실시예를 나타내는 도면이다.
도 4는 미리 결정된 프레임 크기와 프레임 개수를 패킷 크기에 최적화 되도록 조정하는 방법에 대한 일 실시예를 나타내는 도면이다.
도 5는 일부 실시예에 따른 손실 또는 무손실 모드를 결정하는 방법의 흐름도이다.
도 6은 복수의 네트워크 상태 파라미터의 양호도와 설정되는 비트율의 관계를 나타내는 도면이다.
도 7은 도 1에서의 코딩 모드/비트율 결정 모듈(140), 미디어 부호화 모듈(160), 및 미디어 패킷 생성 모듈(170)를 보다 상세하게 나타내는 블록도이다.
도 8a는 채널 모드와 비트율에 따라 미리 정의된 프레임 개수 및 프레임 크기에 따라 패킷을 생성하는 일 실시예를 나타내는 도면이다.
도 8b는 입력 데이터가 오디오 데이터이고 코딩 모드가 무손실 코딩인 경우 비트스트림을 구성하는 일 실시예를 나타내는 도면이다.
도 9는 미디어 타입에 따른 수신단(950)의 입력 버퍼 컨트롤 방법을 나타낸 도면이다.
도 10은 일부 실시예서의 수신단에서 입력된 패킷을 처리하고 복호화하는 데이터 재생 장치(1000)에 대한 개략적인 블록도이다.
도 11은 기존의 데이터 단순 반복시 발생하는 위상 불일치나 불연속점의 문제점을 나타내는 도면이다.
도 12는 에러 은닉을 위해 사용되는 반복 데이터 생성 방법의 일 실시예로서 첫번째 에러 프레임에서 중첩 및 가산 방법을 적용하는 과정을 나타내는 도면이다.
도 13a는 반복 데이터의 한쪽 끝에서 중첩 및 가산 방법을 적용하는 과정을 나타내는 도면이다.
도 13b는 반복 데이터의 다른쪽 끝에서 중첩 및 가산 방법을 적용하는 과정을 나타내는 도면이다.
도 14는 일부 실시예에 따른 수정된 반복 버퍼를 이용한 에러 은닉 방법을 나타내는 도면이다.
도 15는 일부 실시예에 따른 데이터 전송 장치(100)가 데이터 재생 장치(1000)에게 오디오 데이터를 제공하는 예시를 나타내는 도면이다.
도 16은 일부 실시예에 따른 데이터 전송 장치(100)가 오디오 데이터를 데이터 재생 장치(1000)에게 제공하는 방법의 흐름도이다.
도 17은 일부 실시예에 따른 데이터 전송 장치(100)가 현재 오디오 프레임을 압축하여 데이터 재생 장치(1000)에게 전송하는 방법의 흐름도이다.
도 18은 일부 실시예에 따른 데이터 전송 장치(100)가 오디오 프레임을 관리하는 방법의 흐름도이다.
도 19는 일부 실시예에 따른 데이터 재생 장치(1000)가 데이터 전송 장치(100)로부터 수신된 오디오 프레임을 저장하고 관리하는 방법의 흐름도이다.
도 20 및 도 21은 일부 실시 예에 따른 데이터 전송 장치(100)의 블록도이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.
본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 본 발명에 대해 구체적으로 설명하기로 한다.
본 발명에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 발명에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 발명의 전반에 걸친 내용을 토대로 정의되어야 한다.
명세서 전체에서 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다. 또한, 명세서에서 사용되는 "부"라는 용어는 소프트웨어, FPGA 또는 ASIC과 같은 하드웨어 구성요소를 의미하며, "부"는 어떤 역할들을 수행한다. 그렇지만 "부"는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. "부"는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 "부"는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로 코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함한다. 구성요소들과 "부"들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 "부"들로 결합되거나 추가적인 구성요소들과 "부"들로 더 분리될 수 있다.
아래에서는 첨부한 도면을 참고하여 본 발명의 실시예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략한다.
도 1은 일부 실시예에서의 무선 네트워크 상황에 따른 비트율(bit-rate) 및 지연(latency)을 컨트롤하고 전송될 패킷(packet)을 구성하는 데이터 전송 장치에 대한 개략적인 블록도이다. 도 1의 블록도는 데이터 전송 장치 뿐만 아니라 데이터 전송 방법을 설명함에 사용될 수도 있다.
도 1을 참조하면, 데이터 전송 장치(100)는 채널 모드 초기화 모듈(110), 무선 네트워크 상태 분석 모듈(120), 미디어 타입 분석 모듈(130), 코딩 모드/비트율 결정 모듈(140), 패킷화 조건 제어 모듈(150), 미디어 부호화 모듈(160), 및 미디어 패킷 생성 모듈(170)을 포함한다. 여기서 '모듈'은 '부'로 사용될 수도 있다. 예를 들어 채널 모드 초기화 모듈(110)은 채널 모드 초기화부(110)로 사용될 수 있다. 식별 번호 120 내지 170에 대해서도 마찬가지이다. 또한, 미디어 부호화 모듈(160)은 미디어 부호화기(160)로 사용될 수 있다. 미디어 패킷 생성 모듈(170)은 미디어 패킷 생성기(170)로 사용될 수 있다. 도 1의 블록도를 사용하여 데이터 전송 방법을 설명할 때에는, '모듈'은 '단계'로 사용될 수도 있다. 예를 들어 채널 모드 초기화 모듈(110)은 채널 모드 초기화 단계(110)로 사용될 수 있다. 식별 번호 120 내지 170에 대해서도 마찬가지이다.
채널 모드 초기화(Initialize channel mode) 모듈(110)은 네트워크의 채널 모드를 설정하고 설정된 채널 모드에 따라 패킷 크기를 결정하고 결정된 크기에 맞게 부호화된 데이터의 비트율과 패킷에 넣을 부호화된 데이터 프레임의 개수를 설정한다. 실시예로서 블루투스의 경우 에러처리 수준, 패킷 구성에 따라 다양한 모드를 지원한다. 그 중 EDR(Enhanced data Rate) 모드의 경우 비대칭 모드에서 최고 2.1Mbps의 데이터 전송속도가 가능하며, BR(Basic rate) 모드의 경우 비대칭 모드에서 최고 723.2kbps의 전송이 가능하다. 따라서 선택된 채널이 지원하는 전송속도에 따라 패킷 크기가 결정된다. 패킷 크기가 결정되면 미디어 코덱(Media codec)에서 지원 가능한 비트율 별로 패킷에 들어갈 수 있는 프레임의 개수와 각 프레임의 크기를 결정한다. 수학식 1은 결정된 패킷 크기(packet size)에 따라 한 패킷에 들어갈 프레임의 개수(frame num)를 결정하는 방법에 대한 하나의 예이다. 이 때, 프레임 크기(frame size)는 미디어 코덱에서 지원 가능한 비트율에 따라 결정된다. 라운드(round) 함수는 반올림을 하는 함수이다. 예컨대, 프레임의 개수(frame num)가 자연수가 되도록 소수점 이하를 반올림할 수 있다.
<수학식 1>
Figure 112015056026582-pat00001
도 2는 일부 실시예에 의한 네트워크 채널에 따른 패킷 크기, 프레임 개수 및 프레임 크기를 결정하는 방법의 흐름도이다.
단계 210에서는, 네트워크의 채널 모드를 선택한다.
단계 220에서는, 선택된 채널 모드가 지원하는 대역폭에 따라 패킷 크기를 결정한다.
단계 230에서는, 단계 220에서 결정한 패킷 크기에 맞게 1 패킷에 들어갈 비트율별 프레임을 구성한다. 구체적으로 패킷에 넣을 데이터 프레임의 개수, 프레임의 크기를 설정한다.
단계 240에서는, 패킷 크기에 맞도록 프레임 개수 및 프레임 크기를 재조정한다. 프레임 개수 및 프레임 크기의 재조정과 관련된 구체적인 설명은 이후에 도 4와 함께 후술한다.
단계 250에서는, 결정된 프레임 개수 및 프레임 크기를 비트율 테이블에 저장한다.
상술한 도 2의 방법은, 데이터 전송 장치, 프로세서 등에서 수행될 수 있고, 예를 들어, 채널 모드 초기화 모듈(110)에서 행하여질 수 있다.
도 3은 일부 실시예에 의한 네트워크 채널에 따른 패킷 크기, 프레임 개수 및 프레임 크기를 결정하는 방법의 일 실시예를 나타내는 도면이다.
도 3의 일부 실시예에서는 패킷의 크기가 512byte이고, 미디어 코덱에서 지원가능한 비트율이 180/229/320/352.8kbps인 경우에 각각 결정된 프레임 크기 및 개수를 나타낸다. 이러한 경우 각 비트율에 따라 결정된 데이터의 양은 네트워크 채널 모드에 따라 결정된 패킷 크기의 크기보다 크거나 작은 경우가 생기게 된다.
도 4는 미리 결정된 프레임 크기와 프레임 개수를 패킷 크기에 최적화 되도록 조정하는 방법에 대한 일 실시예를 나타내는 도면이다. 도 4는 상술한 도 2의 단계 240에서 행하여지는 처리를 구체적으로 설명하는 일 실시예가 될 수 있다.
도 4에 나타낸 바와 같이, 부호화된 프레임의 데이터 양이 패킷 크기보다 작게 되면, 그만큼 빈 공간, 예컨대, 잔여 데이터 영역(R)이 생기게 되고 그만큼 데이터를 보낼 수 없기 때문에 데이터 공간을 낭비하게 된다. 이러한 비효율이 발생하지 않도록 패킷 크기에 꼭 맞도록 부호화된 데이터 프레임의 개수, 프레임 크기와 비트율을 조정한다. 프레임 크기를 L 이라고 하고, 1 패킷 내의 프레임 개수를 K 라고 하고, 잔여 데이터 영역의 크기를 R 이라고 하면, 조정된 프레임의 길이 L'는 L+R/K 가 될 수 있다. 프레임 크기의 조정 외에 프레임의 개수, 비트율을 조정할 수도 있다.
또한 부호화된 프레임의 데이터 양이 패킷 크기를 초과하게 되면, 예컨대, 초과 데이터 영역(R)이 존재할 경우, 초과한 프레임(도 4의 경우 frame 5)을 제외하거나 부호화된 프레임을 쪼개어 다음 패킷에서 전송하게 된다. 이러한 경우 수신단에서 데이터를 복호화할때 1 패킷 만큼의 지연이 발생하게 되므로 부호화된 프레임이 조각(fragment)이 나지 않도록 프레임의 개수, 프레임의 크기 및 비트율을 조절해준다. 프레임 크기를 L 이라고 하고, 1 패킷 내의 프레임 개수를 K 라고 하고, 초과 데이터 영역의 크기를 R 이라고 하면, 조정된 프레임의 길이 L'는 L-R/K 가 될 수 있다. 프레임 크기의 조정 외에 프레임의 개수, 비트율을 조정할 수도 있다.
상술한 바와 같이 결정된 프레임 개수와 그에 따른 비트율 정보는 도 1에 나타낸 바와 같이, 코딩 모드/비트율 결정(bit-rate decision) 모듈(140)로 전달된다.
채널 모드 초기화 모듈(110)의 다른 실시예로서 네트워크의 채널 모드를 설정하고 설정된 채널 모드에 따라 패킷 크기를 결정하고 결정된 크기에 맞게 멀티미디어 데이터의 손실 또는 무손실 코딩 모드를 결정할 수 있다. 코딩에는 압축이 포함될 수 있다. 예를 들어, 손실 코딩에는 손실 압축이 포함될 수 있다. 또한, 무손실 코딩에는 무손실 압축이 포함될 수 있다. 선택된 네트워크 채널의 대역폭이 소정 폭 이상인 경우, 채널 모드 초기화 모듈(110)은 무손실 코딩 모드에 따른 프레임 개수 및 프레임 크기를 비트율 테이블에 추가한다.
도 5는 일부 실시예에 따른 손실 또는 무손실 모드를 결정하는 방법의 흐름도이다.
단계 510에서는, 네트워크의 채널 모드를 선택한다.
단계 520에서는, 선택된 채널 모드가 지원하는 대역폭에 따라 패킷 크기를 결정한다.
단계 530에서는, 단계 520에서 결정한 패킷 크기가 데이터 임계값(Threshold)보다 큰지 판단한다. 데이터 임계값은 무손실 코덱을 적용하기 위해 필요한 최소 데이터 양이다.
단계 530의 판단 결과, 패킷 크기가 데이터 임계값보다 크지 않을 경우, 무손실 코덱을 적용할 수 없다. 따라서, 단계 532에서, 패킷 크기에 맞게 1 패킷에 들어갈 비트율별 프레임을 구성한다. 구체적으로 패킷에 넣을 데이터 프레임의 개수와 프레임의 크기를 설정한다.
단계 534에서는, 패킷 크기에 맞도록 프레임 개수 및 프레임 크기를 재조정한다. 프레임 개수 및 프레임 크기의 재조정과 관련하여, 도 4와 함께 앞에서 설명하였다.
단계 530의 판단 결과, 패킷 크기가 데이터 임계값보다 큰 경우, 무손실 코덱을 적용할 수 있다. 따라서, 단계 536에서, 출력 비트율 정보에 무손실 코딩 모드를 추가한다.
단계 540에서는, 코딩 모드와 비트율 결정을 위한 정보를 생성한다.
단계 550에서는, 비트율 테이블에 비트율 정보를 저장한다. 도 5에 도시된 바와 같이 비트율 정보를 저장하는 테이블은 각각의 비트율 1, 2, …, N 또는 무손실 코딩 모드에 따라, 프레임 크기와 프레임 개수에 관한 정보를 저장한다.
상술한 도 5의 방법은, 데이터 전송 장치, 프로세서 등에서 수행될 수 있고, 예를 들어, 도 1의 채널 모드 초기화 모듈(110), 코딩 모드/비트율 결정 모듈(140)에서 행하여질 수 있다.
여기서 생성된 코딩 모드, 프레임 크기 및 프레임 개수에 대한 테이블은 코딩 모드/비트율 결정 모듈(140)에서 미디어 인코더의 코딩 방법을 결정하는데 사용된다.
도 1의 무선 네트워크 상태 분석(Analysis wireless network status) 모듈(120)은 무선 네트워크 환경에 따른 정보를 분석한다. 이때 사용되는 정보 중 대표적인 예로 RSSI(Receiver Signal Strength index), LQI(Link Quality Indicator), AFH(Adaptive Frequency Hopping) 채널 마스킹(channel masking) 정보 등이 있다. RSSI는 수신 신호의 세기를 나타낸다. LQI는 연결된 통신상태의 품질을 나타내는 파라미터로 BER(bit error rate)을 0~255 사이의 정수로 표현한 값이다. AFH(Adaptive Frequency Hopping)는 블루투스에서 사용하는 호핑(hopping) 방식으로서, 사용가능한 79개 채널 사이를 무작위로 호핑하며 사용 불가능한 채널을 마스킹한다. 이때 네트워크 환경이 좋으면 마스킹 채널의 개수는 적다. 하지만, 간섭이 심할 경우 마스킹 채널의 개수는 많아진다. 상술한 파라미터를 이용하여 복수의 무선 네트워크가 공존하는 경우 채널간 간섭에 따른 영향이나 장애물, 벽 등의 회절에 의해 발생하는 네트워크 상황을 체크할 수 있다. 또한 동일 네트워크를 사용하는 무선 주변장치의 개수 등의 정보를 활용한다. 주변장치가 동일 네트워크를 이용하게 되면 장치의 개수가 증가할수록 디바이스 별로 사용 가능한 대역폭은 줄어들게 되고 비트율은 줄어든다. 채널의 상태를 나타내는 각각의 정보들은 비트율 결정 모듈(140)로 전달되며 비트율을 결정하는데 사용된다.
도 1의 코딩 모드/비트율 결정(coding mode/bit-rate decision) 모듈(140)은 무선 네트워크 상태 분석 모듈(120)에서 분석한 네트워크 상태 파라미터를 이용하여 미디어 인코더의 비트율을 선택한다.
도 6은 복수의 네트워크 상태 파라미터의 양호도와 설정되는 비트율의 관계를 나타내는 도면이다. 네트워크 상태 파라미터에 따른 비트율 설정은 예를 들어, 도 1의 코딩 모드/비트율 결정 모듈(140)에서 행하여질 수 있다.
도 6과 같이 전달된 네트워크 상태 파라미터는 2개 이상의 조합으로 비트율을 결정하게 된다. 복수의 파라미터를 분석하여 모든 파라미터의 값이 좋을수록 네트워크 환경을 강전계로 판단하고 높은 비트율이 선택된다. 반대로 비교하는 네트워크 상태 파라미터의 값이 나쁘다면 네트워크 환경을 약전계로 판단하고 낮은 비트율이 선택된다. RSSI의 경우, 수신 신호의 세기가 강할수록 양호한 값으로 판단할 수 있다. LQI의 경우, 연결된 통신상태의 품질을 나타내는 파라미터로 BER(bit error rate)에 따라 양호도를 판단할 수 있다. AFH 마스킹 채널의 경우, 마스킹 채널의 수가 적을수록 양호한 값으로 판단할 수 있다. 연결된 장치 개수의 경우, 장치 개수가 적을수록 양호한 값으로 판단할 수 있다.
선택된 비트율 정보는 미디어 부호화(Media Encoder) 모듈(160)로 전달되고, 미디어 부호화 모듈(160)은 선택된 비트율에 따라 입력 데이터를 부호화한다.
코딩 모드/비트율 결정 모듈(140)의 다른 실시예에 따르면, 네트워크 상태 파라미터를 이용하여 네트워크 채널환경을 파악하고, 그 결과에 따라 손실(lossy) 또는 무손실(lossless) 코딩 모드를 선택할 수 있다. 분석된 네트워크 채널 환경이 강전계이고 채널모드에서 무손실 코딩을 지원 가능하다면 코딩 모드/비트율 결정 모듈(140)은 무손실 코딩을 선택하고 이 정보를 미디어 부호화 모듈(160)에 전달한다. 무손실 코딩을 지원하지 않는다면, 네트워크 상태 분석 결과에 따라 강전계일수록 높은 비트율을 선택하고, 약전계일수록 낮은 비트율을 선택한다. 또한 선택된 비트율 정보 및 비트율에 따라 결정된 프레임 개수, 프레임 크기에 대한 정보는 패킷화 조건 제어(Control packetizing condition) 모듈(150)로 전달되며 부호화된 프레임 데이터를 이용하여 패킷을 생성하는데 사용된다.
미디어 부호화 모듈(160)은 입력된 코딩 모드(손실 또는 무손실)와 결정된 비트율에 따라 입력 신호의 부호화를 수행하고 패킷 생성을 위하여 부호화된 데이터를 미디어 패킷 생성(Media packet generator) 모듈(170)로 전송한다.
도 7은 도 1에서의 코딩 모드/비트율 결정 모듈(140), 미디어 부호화 모듈(160), 및 미디어 패킷 생성 모듈(170)를 보다 상세하게 나타내는 블록도이다. 도 7에 의하여 코딩 모드와 비트율에 따른 미디어 부호화 모듈(160)의 동작 방법을 설명한다.
코딩 모드/비트율 결정 모듈(140)은 비트율 결정 모듈(142)과 코딩 모드 결정 모듈(144)로 나누어질 수 있다.
미디어 부호화 모듈(160)은 기존의 손실 부호화를 수행하는 손실 부호화 (Lossy encoder) 모듈(162)과 무손실 부호화를 위한 잔차 부호화(Residual encoder) 모듈(166)로 나누어진다. 그 이유는 부호화된 비트스트림(bitstream)을 수신단에서 복호화할 때 기존 코덱과의 호환성을 유지하기 위함이다. 따라서, 미디어 부호화 모듈(160)은 입력된 비트율에 따라 기존의 손실 부호화 모듈(162)을 이용하여 부호화를 수행하며, 코딩모드가 무손실 코딩일 경우 무손실 코딩을 위한 여분의 데이터를 잔차 부호화 모듈(166)을 통하여 부호화한다. 코딩 모드 결정 모듈(144)에서 손실 코딩으로 결정할 경우, 예컨대, 스위치(164)를 오프하여 잔차 부호화를 수행하지 않고, 코딩 모드 결정 모듈(144)에서 무손실 코딩으로 결정할 경우, 예컨대, 스위치(164)를 온하여 잔차 부호화를 수행한다.
미디어 패킷 생성 모듈(170)은 부호화된 비트스트림을 이용하여 미리 정의한 패킷 구성 방법에 따라 패킷을 생성한다.
도 8a는 채널 모드와 비트율에 따라 미리 정의된 프레임 개수 및 프레임 크기에 따라 패킷을 생성하는 일 실시예를 나타내는 도면이다. 프레임의 크기와 프레임 개수는 네트워크 채널 상황과 패킷의 크기에 따라 미리 정의되어져 있기 때문에 여분의 데이터 공간이 남거나 초과하는 부분이 최소화 되도록 패킷 크기가 구성된다. 도 8a의 예에서는 비트율 1인 경우, 프레임 크기가 n, 프레임 개수가 m으로 결정되고, 패킷 데이터는 0부터 m-1 까지의 m개의 프레임을 포함하도록 구성된다.
도 8b는 입력 데이터가 오디오 데이터이고 코딩 모드가 무손실 코딩인 경우 비트스트림을 구성하는 일 실시예를 나타내는 도면이다. 무손실 코딩의 경우 기존의 부호화기와의 호환성을 고려하여 설계되어야 한다. 즉 입력 데이터를 손실 부호화 모듈(162)을 이용하여 손실 코딩을 수행하고, 무손실 코딩을 위한 여분의 데이터를 따로 부호화하여 비트스트림에 추가한다. 이렇게 함으로서 복호화기에서는 무손실 코딩을 지원하지 않는 경우에도 기존의 복호화기만을 이용하여 손실 부호화된 영역을 복호화하고 무손실 부호화된 영역은 스킵할 수 있다. 손실 부호화 영역과 무손실 부호화 영역을 구분하기 위한 정보를 비트스트림에 포함시킬 수 있다. 본 실시예에서는 비트스트림에서 무손실 부호화 영역을 구분할 수 있도록 손실 비트스트림과 무손실 비트스트림의 syncword의 값을 다르게 설정하였다.
도 1의 미디어 타입 분석(Analysis Media type) 모듈(130)은 송신단에서 입력 데이터의 미디어 타입(오디오 또는 비디오) 및 지연 정도를 선택한다.
도 9는 미디어 타입에 따른 수신단(950)의 입력 버퍼 컨트롤 방법을 나타낸 도면이다.
도 9의 단계 910에서, 미디어 타입은 입력 데이터의 정보, 메타데이터 및 미디어 플레이어에 의해 결정되거나, UI(User Interface)를 이용해 사용자가 직접 지연 정도를 선택할 수 있다. 선택된 미디어 타입은 전송되는 데이터의 지연을 결정함에 사용된다. 일반적으로 동영상과 같은 컨텐츠의 경우 오디오 또는 비디오 사이의 동기화(sync)가 매우 중요하기 때문에 지연이 없어야 한다. 그러나 오디오 데이터의 경우 약간의 지연이 발생해도 크게 문제가 되지 않는다. 일반적으로 수신단의 입력 버퍼가 크다면 지연이 상대적으로 증가한다. 그러나 에러에 대한 강인성(robustness)은 강해진다. 반대로 입력 버퍼가 작다면 지연은 덜 발생하지만 에러에 약한 특성이 있다. 따라서 입력 미디어 타입에 따라 수신단의 입력 버퍼의 크기를 조정함으로써 동기화 및 강인성을 적절히 조정할 수 있다.
단계 920에서는, 단계 910에서 선택된 미디어 타입 정보 또는 지연 정보가 패킷에 삽입되어 무선 네트워크 환경에서 수신단(950)에 전달되어진다.
수신단(950)에서는 단계 960에서 패킷 데이터를 파싱하고,
단계 970에서, 패킷으로부터 미디어 타입 정보 또는 지연 정보를 추출하고,
단계 980에서, 추출된 정보를 이용하여 전송된 부호화된 데이터의 타입이 오디오인 경우 버퍼 크기를 크게 설정하고, 비디오 데이터가 포함된 오디오 데이터인 경우에는 버퍼 크기를 작게 설정한다.
수신단에서는 송신단에서 전송된 패킷을 파싱(parsing)하고 미디어 비트스트림을 디코더로 전송한다.
도 10은 일부 실시예서의 수신단에서 입력된 패킷을 처리하고 복호화하는 데이터 재생 장치(1000)에 대한 개략적인 블록도이다. 도 10의 블록도는 데이터 재생 장치(1000) 뿐만 아니라 데이터 재생 방법을 설명함에 사용될 수도 있다.
도 10을 참조하면, 데이터 재생 장치(1000)는 패킷 파싱 모듈(1010), 미디어 타입 분석 모듈(1020), 입출력 버퍼 제어 모듈(1030), 미디어 복호화 모듈(1040), 및 에러 은닉 모듈(1050)을 포함한다. 여기서 '모듈'은 '부'로 사용될 수도 있다. 예를 들어 패킷 파싱 모듈(1010)은 패킷 파싱부(1010)로 사용될 수 있다. 식별 번호 1020 내지 1050에 대해서도 마찬가지이다. 또한, 미디어 복호화 모듈(1040)은 미디어 복호화기(1040)로 사용될 수 있다. 도 10의 블록도를 사용하여 데이터 재생 방법을 설명할 때에는, '모듈'은 '단계'로 사용될 수도 있다. 예를 들어 패킷 파싱 모듈(1010)은 패킷 파싱 단계(1010)로 사용될 수 있다. 식별 번호 1020 내지 1050에 대해서도 마찬가지이다.
패킷 파싱(Parsing Packet) 모듈(1010)은 입력된 패킷에 대하여 디패킷타이징(de-packetizing, 패킷들로부터 데이터를 재구성)을 수행하며, 추출한 비트스트림을 미디어 복호화 모듈(1040)로 전송한다. 또한 패킷에 삽입되어 전달된 미디어 타입 정보 또는 지연 정보를 추출하여 미디어 타입 분석(Analysis Media type) 모듈(1020)에 전송한다.
미디어 타입 분석 모듈(1020)은 입력된 미디어 타입 및 지연정보를 분석한다.
입출력 버퍼 제어 모듈(1030)은 미디어 타입 분석 모듈(1020)에서 분석된 미디어 타입(오디오 또는 비디오) 및 지연 정보에 따라 입력 버퍼의 크기를 조절한다.
미디어 복호화 모듈(1040)은 패킷 파싱 모듈(1010)에서 추출한 비트스트림과 입출력 버퍼 제어 모듈(1030)에서 조절한 크기를 갖는 입력 버퍼를 사용하여 미디어 데이터의 복호화를 수행한다.
에러 은닉(Error concealment) 모듈(1050)은 무선 네트워크를 통하여 부호화된 오디오 신호를 전송하는 과정에서 전송상의 오류로 인해 일부 패킷이 손실되거나 왜곡되어 복호화된 일부 프레임 신호에 오류가 발생하는 경우 이를 복원하는 모듈이다. 프레임에 발생된 오류를 적절히 처리하지 않으면 오류가 발생된 프레임 구간에서 오디오 신호의 음질이 저하되기 때문에, 복호화 장치에서는 데이터 반복(repetition) 방법에 의해 신호를 복원하게 된다. 일부 실시예에서는 낮은 복잡도로 추가적인 지연이 필요없이, 복호화된 오디오 데이터의 타임 영역에서 에러 은닉을 수행한다.
일부 실시예에서는 에러 은닉의 기본 방법으로서 낮은 복잡도를 위하여 이전에 복호화된 오디오 데이터를 이용하여, 이전 데이터를 반복(repetition)하는 방법을 이용한다. 반복되는 오디오 데이터는 정상 복호화된 데이터를 가장 최근의 데이터부터 일정 길이의 버퍼에 저장하고, 에러가 발생하게 되면 버퍼에 저장된 데이터를 읽어와 데이터를 반복함에 사용하게 된다.
도 11은 기존의 데이터 단순 반복시 발생하는 위상 불일치나 불연속점의 문제점을 나타내는 도면이다. 단순 데이터 반복은 도 11과 같이 반복되는 데이터의 경계에서 위상 불일치(phase-mismatching)나 불연속점을 만들게 되고 이러한 부분들은 오디오 신호의 음질을 저하시키는 원인이 된다. 또한 에러 프레임이 길어지게 되면 버퍼에 저장된 동일한 데이터가 계속하여 반복하게 되는데 이때에는 에러 은닉을 위해 반복되는 데이터 사이에서도 위와 마찬가지의 문제점들이 발생하게 된다. 따라서 이러한 문제점을 해결하기 위하여 일부 실시예에서는 에러 발생시 정상 프레임과 에러 프레임, 에러 프레임과 에러 프레임 사이의 경계에서 복원에 사용되는 버퍼에 저장된 오디오 데이터를 수정하고 이를 이용하여 중첩 및 가산(Overlap & Add) 방법을 적용하였다.
도 12는 에러 은닉을 위해 사용되는 반복 데이터 생성 방법의 일 실시예로서 첫번째 에러 프레임에서 중첩 및 가산 방법을 적용하는 과정을 나타내는 도면이다. 반복 버퍼(Repetition Buffer)는 최근의 정상동작시에 복호화되어진 N개의 오디오 데이터를 저장하고 있다. 첫번째 에러 프레임이 발생하게 되면, 수학식 2와 같이 반복을 수행할 데이터 수만큼 반복 버퍼의 최신 데이터부터 데이터 복사를 시작한다.
<수학식 2>
Figure 112015056026582-pat00002
첫번째 에러 프레임 이후부터는 반복 버퍼로부터 복사할 데이터 개수만큼 순차적으로 데이터를 복사하고 버퍼의 판독 포인터(read pointer)가 버퍼의 끝에 도달하게 되면 수학식 3과 같이 버퍼의 반대방향으로 데이터 복사를 수행한다. 판독 포인터가 버퍼의 양 끝에 도달하게 되면 위의 과정을 반복하여 데이터 복사를 수행한다.
<수학식 3>
Figure 112015056026582-pat00003
데이터 반복을 수행시 단순 반복은 위에서 언급한 대로 위상 불일치 및 불연속점을 발생시키게 된다. 따라서 첫번째 에러 프레임이 시작되는 경우 일정 길이의 중첩 구간을 만들어 문제점을 최소화하도록 반복 버퍼에 저장된 데이터를 수정하는 과정을 거친다.
<수학식 4>
Figure 112015056026582-pat00004
수학식 4는 첫번째 에러프레임이 발생했을 때 중첩 및 가산 방법을 나타낸다. 'reversed_copy_data'는 반복 버퍼로부터 복사하는 데이터의 값이다. 복사하는 데이터는 반복 버퍼의 가장 최근값(N-1)부터 중첩 크기 M 만큼 데이터를 가져온다. 'overlap_data'는 에러를 최소화하기 위해 중첩되어지는 값이다. 'overlap_data'는 반복 버퍼의 최근값(N-1)부터 중첩 크기 M 만큼의 데이터를 이용하여 수학식 5와 같이 마지막 반복 버퍼의 값을 기준으로 반전시킨다.
<수학식 5>
Figure 112015056026582-pat00005
중첩 윈도우(overlap window)는 일부 실시예에서는 수학식 6과 같은 사인 윈도우(sin window)를 사용하였다.
<수학식 6>
Figure 112015056026582-pat00006
데이터 반복 수행시 반복 버퍼의 판독 포인터가 버퍼의 양쪽 끝에 도달하게 되면 반대방향으로 데이터를 복사하게 된다. 이때 버퍼의 경계에서 위와 마찬가지로 위상 불일치, 불연속 등의 문제점이 발생하게 된다.
도 13a는 반복 데이터의 한쪽 끝에서 중첩 및 가산 방법을 적용하는 과정을 나타내는 도면이고, 도 13b는 반복 데이터의 다른쪽 끝에서 중첩 및 가산 방법을 적용하는 과정을 나타내는 도면이다. 도 13a 및 도 13b의 과정을 통하여 도 13b에 나타낸 바와 같이 수정된 반복 버퍼가 얻어진다.
도 13a에서는 반복 버퍼의 데이터를 이용하여 중첩 및 가산을 수행하여 발생하는 문제점을 최소화한다. 이때 반전 데이터(reversed data)는 중첩을 위해 참조하는 반복 버퍼의 데이터를 반전시킨 값이다. 중첩 데이터(Overlap data)는 중첩을 위해 참조하는 반복 버퍼의 값을 그대로 사용한다.
반복 버퍼는 위의 과정을 통하여 도 13a 및 도 13b에 도시되어 있는 바와 같이, 버퍼의 양 끝에서 중첩 및 가산 과정을 수행하여 새로운 반복 버퍼로 변환된다.
도 14는 일부 실시예에 따른 수정된 반복 버퍼를 이용한 에러 은닉 방법을 나타내는 도면이다.
생성된 반복 버퍼는 한번 생성되면 별도의 추가적인 작업 없이 도 14와 같이 에러 은닉을 위한 데이터 복제에 사용할 수 있다. 그렇게 함으로써 일부 실시예에서 제안한 방법은 에러 은닉의 복잡도를 줄이고 음질저하를 최소화할 수 있다.
일부 실시예를 이용하면 무선 네트워크의 채널 환경에 따라 채널 환경이 좋은 강전계의 경우 무손실 또는 높은 비트율로 멀티미디어 데이터를 부호화하여 음질을 향상시킬 수 있고, 채널환경이 나쁜 약전계의 상황에서는 네트워크 채널 환경에 따라 낮은 비트율부터 높은 비트율까지 효율적으로 가변하여 음끊김을 최소화 할 수 있다.
또한 패킷 손실이나 에러로 인하여 부호화기에서 발생하는 에러 프레임에 대하여 저복잡도의 에러은닉 방법을 적용하여 손실된 프레임을 복원하는 것이 가능하며, 위상 불일치 및 불연속점을 최소화하여 자연스러운 신호 복원이 가능하다.
또한 본 발명을 이용하면 데이터 타입(오디오 또는 비디오)에 따라 수신단의 입력 버퍼의 크기를 조정하여 데이터 타입에 따라 동기화 및 지연을 효과적으로 제어할 수 있다.
도 15는 일부 실시예에 따른 데이터 전송 장치(100)가 데이터 재생 장치(1000)에게 오디오 데이터를 제공하는 예시를 나타내는 도면이다.
도 15를 참조하면, 일부 실시예에 따른 데이터 전송 장치(100)는 오디오 신호로부터 분할된 오디오 프레임 또는 오디오 프레임의 식별값을 선택적으로 데이터 재생 장치(1000)에게 전송할 수 있다. 데이터 전송 장치(100)는 오디오 신호를 복수의 오디오 프레임으로 분할할 수 있으며, 현재 오디오 프레임인 제4 오디오 프레임을 데이터 전송 장치(100)에 저장된 이전 오디오 프레임들인 제1 오디오 프레임, 제2 오디오 프레임 및 제3 오디오 프레임과 비교할 수 있다. 또한, 비교 결과에 따라, 데이터 전송 장치(100)는 제4 오디오 프레임을 압축하여 데이터 재생 장치(1000)에게 전송하거나, 제4 오디오 프레임과 유사한 이전 오디오 프레임의 식별 값을 데이터 재생 장치(1000)에게 전송할 수 있다.
또한, 데이터 재생 장치(1000)는 데이터 전송 장치(100)로부터 수신된 압축된 제4 오디오 프레임을 신장하여 출력하거나, 데이터 전송 장치(100)로부터 수신된 식별 값에 대응되는 오디오 프레임을 데이터 재생 장치(1000)의 메모리로부터 추출하여 출력할 수 있다.
도 16은 일부 실시예에 따른 데이터 전송 장치(100)가 오디오 데이터를 데이터 재생 장치(1000)에게 제공하는 방법의 흐름도이다.
단계 S1600에서 데이터 전송 장치(100)는 데이터 전송 장치(100)로 입력된 오디오 신호를 복수의 오디오 프레임으로 분할할 수 있다. 데이터 전송 장치(100)는 사용자로부터 발화된 음성 입력을 수신하거나 다른 장치(미도시)로부터 제공된 오디오 신호를 수신할 수 있다. 또한, 데이터 전송 장치(100)가 수신한 오디오 신호가 아날로그 신호인 경우에, 데이터 전송 장치(100)는 오디오 신호를 디지털 신호로 변환할 수 있다. 또한, 데이터 전송 장치(100)는 수신된 오디오 신호를 복수의 오디오 프레임으로 분할할 수 있다. 데이터 전송 장치(100)는 오디오 신호를 시간에 따라 계속적으로 분할할 수 있다.
단계 S1610에서 데이터 전송 장치(100)는 현재 오디오 프레임을 데이터 전송 장치(100)의 메모리(1700)에 기저장된 적어도 하나의 오디오 프레임과 비교할 수 있다. 메모리(1700)에 기저장된 오디오 프레임은 현재 오디오 프레임의 이전의 오디오 프레임일 수 있다. 또한, 메모리(1700)에 기 저장된 오디오 프레임은 데이터 재생 장치(1000)에게 성공적으로 전송된 이전 오디오 프레임일 수 있다.
데이터 전송 장치(100)는 메모리(1700)에 기저장된 이전 오디오 프레임과 현재 오디오 프레임을 비교함으로써, 이전 오디오 프레임과 현재 오디오 프레임의 유사도를 결정할 수 있다. 예를 들어, 데이터 전송 장치(100)는 이전 오디오 프레임과 현재 오디오 프레임의 상관관계 수치(Correlation Value)를 산출함으로써 이전 오디오 프레임과 현재 오디오 프레임의 유사도를 결정할 수 있다. 이전 오디오 프레임과 현재 오디오 프레임의 상관관계 수치는 MSE(Mean Square Error) 등의 기법을 이용하여 산출될 수 있다. 그러나, 이에 제한되지 않으며 다양한 기법을 통하여 이전 오디오 프레임과 현재 오디오 프레임의 유사도가 판단될 수 있다.
단계 S1620에서 데이터 전송 장치(100)는 결정된 유사도가 기설정된 임계치보다 큰지를 판단할 수 있다. 기설정된 임계치는, 예를 들어, 오디오 신호의 종류, 오디오 신호의 분할 방법, 데이터 전송 장치(100)의 사양 및 데이터 재생 장치(1000)의 사양에 따라 다양하게 설정될 수 있다.
단계 S1620에서의 판단 결과, 결정된 유사도가 기설정된 임계치보다 큰 경우에, 단계 S1630에서 데이터 전송 장치(100)는 메모리(1700)에 기 저장된 이전 오디오 프레임의 식별 값을 데이터 재생 장치(1000)에게 전송할 수 있다. 데이터 전송 장치(100)는 결정된 유사도를 갖는 이전 오디오 프레임의 식별 값을 데이터 재생 장치(1000)에게 전송할 수 있다.
만약, 메모리(1700)에 기 저장된 이전 오디오 프레임들 중에서 임계치 이상의 유사도를 가지는 이전 오디오 프레임이 복수인 경우에는, 데이터 전송 장치(100)는 가장 높은 유사도를 가지는 이전 오디오 프레임의 식별 값을 데이터 재생 장치(1000)에게 전송할 수 있다.
이 경우, 이전 오디오 프레임은 데이터 재생 장치(1000)의 메모리에도 미리 저장되어 있으며, 데이터 재생 장치(1000)는 수신된 식별 값을 이용하여 데이터 재생 장치(1000)의 메모리에 저장된 이전 오디오 프레임을 추출하고 출력할 수 있게 된다.
또한, 선택된 이전 오디오 프레임의 식별 값의 전송이 실패됨에 따라, 데이터 전송 장치(100)는 선택된 이전 오디오 프레임의 식별값을 기 설정된 전송 제한 시간 내에 데이터 재생 장치(1000)에게 재전송할 수 있다.
또한, 기 설정된 전송 제한 시간 내에, 상기 선택된 이전 오디오 프레임의 식별 값의 재전송이 실패됨에 따라, 데이터 전송 장치(100)는 현재 오디오 프레임을 압축하여 데이터 재생 장치(1000)에게 전송할 수 있다. 또는, 기 설정된 전송 제한 시간 내에, 상기 선택된 이전 오디오 프레임의 식별 값의 재전송이 실패됨에 따라, 데이터 전송 장치(100)는 다음 오디오 프레임의 전송 방법을 결정할 수 있다.
단계 S1620에서의 판단 결과, 결정된 유사도가 기설정된 임계치보다 작은 경우에, 단계 S1640에서 데이터 전송 장치(100)는 현재 오디오 프레임을 압축할 수 있다.
단계 S1650에서 데이터 전송 장치(100)는 압축된 현재 오디오 프레임을 데이터 재생 장치(1000)에게 전송할 수 있다.
도 17은 일부 실시예에 따른 데이터 전송 장치(100)가 현재 오디오 프레임을 압축하여 데이터 재생 장치(1000)에게 전송하는 방법의 흐름도이다.
단계 S1700에서 데이터 전송 장치(100)는 현재 오디오 프레임을 압축할 수 있다. 데이터 전송 장치(100)는 현재 오디오 프레임을 데이터 재생 장치(1000)에게 전송하기 위하여 현재 오디오 프레임을 다양한 코덱 알고리즘을 이용하여 오디오 비트스트림으로 압축할 수 있다.
단계 S1705에서 데이터 전송 장치(100)는 압축된 오디오 프레임을 데이터 재생 장치(1000)에게 전송할 수 있다. 데이터 전송 장치(100)는 압축된 현재 오디오 프레임을 데이터 재생 장치(1000)에게 전송할 수 있다. 데이터 전송 장치(100)는 압축된 오디오 프레임을 전송한 시각을 확인할 수 있다.
단계 S1710에서 데이터 전송 장치(100)는 데이터 재생 장치(1000)로부터 ACK 신호를 수신하였는지를 판단할 수 있다. 데이터 재생 장치(1000)가 압축된 오디오 프레임을 성공적으로 수신한 경우에 데이터 재생 장치(1000)는 ACK 신호를 데이터 전송 장치(100)에게 전송할 수 있다. 또한, 데이터 재생 장치(1000)가 압축된 오디오 신호를 성공적으로 수신하지 못한 경우에 데이터 재생 장치(1000)는 NACK 신호를 데이터 전송 장치(100)에게 전송할 수 있다.
단계 S1710에서의 판단 결과, 데이터 전송 장치(100)가 데이터 재생 장치(1000)로부터 ACK 신호를 수신하였다고 판단되면, 단계 S1715에서 데이터 전송 장치(100)는 성공적으로 전송된 압축된 현재 오디오 프레임을 신장(decompression)할 수 있다.
단계 S1720에서 데이터 전송 장치(100)는 메모리(1700)에 기저장된 이전 오디오 프레임 중 적어도 하나를 삭제할 수 있다. 데이터 전송 장치(100)는 기 설정된 기준에 따라, 기저장된 이전 오디오 프레임 중 적어도 하나를 선택하고, 선택된 이전 오디오 프레임을 메모리(1700)에서 삭제할 수 있다. 메모리(1700)에 기저장된 이전 오디오 프레임 중 적어도 하나가 삭제됨에 따라, 신장된 현재 오디오 프레임이 저장될 공간이 메모리(1700) 내에 확보될 수 있다.
단계 S1730에서 데이터 전송 장치(100)는 신장된 현재 오디오 프레임을 메모리(1700)에 저장할 수 있다.
S1710에서의 판단 결과, 데이터 전송 장치(100)가 데이터 재생 장치(1000)로부터 ACK 신호를 수신하지 못하였다고 판단되면, 단계 S1730에서 데이터 전송 장치(100)는 압축된 현재 오디오 프레임의 전송 시간이 전송 제한 시간을 초과하였는지를 판단할 수 있다. 전송 제한 시간은, 압축된 현재 오디오 프레임을 전송하기 위하여 설정된 제한 시간일 수 있으며, 다양한 기준에 따라 설정될 수 있다.
단계 S1730에서의 판단 결과, 압축된 현재 오디오 프레임의 전송 시간이 전송 제한 시간을 초과하였다고 판단되면, 데이터 전송 장치(100)는 다음 오디오 프레임을 압축할 수 있다. 이후, 단계 S1705에서 데이터 전송 장치(100)는 압축된 다음 오디오 프레임을 데이터 재생 장치(1000)에게 전송할 수 있다.
도 18은 일부 실시예에 따른 데이터 전송 장치(100)가 오디오 프레임을 관리하는 방법의 흐름도이다.
도 18을 참조하면, 데이터 전송 장치(100)의 메모리(1700)에는 이전 오디오 프레임인 제1 오디오 프레임(1840), 제2 오디오 프레임(1850) 및 제3 오디오 프레임(1860)이 저장되어 있을 수 있으며, 데이터 전송 장치(100)는 현재 오디오 프레임인 제4 오디오 프레임(1870)을 메모리(1700)에 저장할 수 있다.
단계 S1800에서 데이터 전송 장치(100)는 성공적으로 전송된 압축된 제4 오디오 프레임(1870)을 신장할 수 있다. 제4 오디오 프레임(1870)은 현재 오디오 프레임일 수 있으며, 압축된 제4 오디오 프레임(1870)이 데이터 재생 장치(1000)에게 성공적으로 전송됨에 따라, 데이터 전송 장치(100)는 압축된 제4 오디오 프레임(1870)을 신장할 수 있다.
단계 S1810에서 데이터 전송 장치(100)는 이전 오디오 프레임들의 삭제 순위를 결정할 수 있다. 데이터 전송 장치(100)는 제1 오디오 프레임(1840), 제2 오디오 프레임(1850) 및 제3 오디오 프레임(1860)의 삭제 순위를 결정할 수 있다.
데이터 전송 장치(100)는 이전 오디오 프레임들이 메모리(1700)에 저장된 시각을 기준으로 이전 오디오 프레임들의 삭제 순위를 결정할 수 있다. 예를 들어, 데이터 전송 장치(100)는 메모리(1700)에 먼저 저장된 이전 오디오 프레임이 먼저 삭제되도록 삭제 순위를 결정할 수 있다.
또는, 데이터 전송 장치(100)는 이전 오디오 프레임의 식별 값이 데이터 재생 장치(1000)에게 전송된 횟수에 기초하여, 이전 오디오 프레임들의 삭제 순위를 결정할 수 있다. 예를 들어, 데이터 전송 장치(100)는 데이터 재생 장치(1000)에게 식별 값이 전송된 횟수가 적은 이전 오디오 프레임이 메모리(1700)에서 먼저 삭제되도록 삭제 순위를 결정할 수 있다.
그러나, 데이터 전송 장치(100)가 삭제 순위를 결정하는 기준은 위에 제한되지 않으며, 데이터 전송 장치(100)는 오디오 신호의 종류 등을 고려하여 다양한 기준에 따라 삭제 순위를 결정할 수 있다.
또한, 데이터 전송 장치(100)는 결정된 삭제 순위에 관한 정보를 데이터 재생 장치(1000)에게 제공할 수 있다. 이에 따라, 데이터 재생 장치(1000)도 결정된 삭제 순위에 따라 데이터 재생 장치(1000)에 저장된 이전 오디오 프레임들을 삭제할 수 있게 된다. 또한, 데이터 전송 장치(100)에 저장된 이전 오디오 프레임 및 데이터 재생 장치(1000)에 저장된 이전 오디오 프레임이 동기화될 수 있다.
단계 S1820에서 데이터 전송 장치(100)는 삭제할 이전 오디오 프레임을 선택할 수 있다. 예를 들어, 데이터 전송 장치(100)는 메모리(1700)에 저장된 제1 오디오 프레임(1840), 제2 오디오 프레임(1850) 및 제3 오디오 프레임(1860) 중에서 가장 먼저 메모리(1700)에 저장된 제1 오디오 프레임(1840)을 선택할 수 있다.
단계 S1830에서 데이터 전송 장치(100)는 선택된 이전 오디오 프레임을 메모리(1700)에서 삭제할 수 있다. 데이터 전송 장치(100)는 선택된 제1 오디오 프레임을 메모리(1700)에서 삭제할 수 있다.
단계 S1840에서 데이터 전송 장치(100)는 신장된 제4 오디오 프레임을 메모리(1700)에 저장할 수 있다.
도 19는 일부 실시예에 따른 데이터 재생 장치(1000)가 데이터 전송 장치(100)로부터 수신된 오디오 프레임을 저장하고 관리하는 방법의 흐름도이다.
단계 S1900에서 데이터 재생 장치(1000)는 데이터 전송 장치(100)로부터 오디오 신호에 관련된 데이터를 수신할 수 있다. 데이터 재생 장치(1000)는 데이터 전송 장치(100)로부터 압축된 현재 오디오 프레임을 수신하거나 이전 오디오 프레임의 식별 값을 수신할 수 있다.
단계 S1905에서 데이터 재생 장치(1000)는 수신된 데이터의 데이터 타입을 식별할 수 있다. 데이터 재생 장치(1000)는 데이터 전송 장치(100)로부터 수신된 오디오 신호에 관련된 데이터가 압축된 현재 오디오 프레임인지, 이전 오디오 프레임의 식별 값인지를 판단할 수 있다.
단계 S1905에서 식별된 데이터의 종류가 압축된 현재 오디오 프레임인 경우, 단계 S1910에서 데이터 재생 장치(1000)는 압축된 현재 오디오 프레임을 신장할 수 있다.
단계 S1910에서 데이터 재생 장치(1000)는 기설정된 삭제 순위에 기초하여, 데이터 재생 장치(1000)의 메모리에 기저장된 이전 오디오 프레임을 삭제할 수 있다. 이 경우, 데이터 재생 장치(1000)는 삭제 순위에 관한 설정 값을 데이터 전송 장치(100)로부터 미리 수신하여 저장할 수 있으며, 삭제 순위에 관한 동일한 설정 값이 데이터 전송 장치(100) 및 데이터 재생 장치(1000)에 각각 저장될 수 있다. 그러나, 이에 제한되지 않으며, 데이터 재생 장치(1000)가 사용자 입력에 기초하여, 삭제 순위에 관한 설정 값을 생성하고 생성된 설정 값을 데이터 전송 장치(100)에게 제공할 수도 있다.
또한, 데이터 재생 장치(1000)는 삭제 순위에 관한 설정 값에 따라, 메모리에 기저장된 이전 오디오 프레임 중 적어도 하나를 삭제할 수 있다. 이전 오디오 프레임이 메모리에서 삭제됨에 따라, 메모리 내에서 현재 오디오 프레임이 저장될 저장 공간이 확보될 수 있다.
단계 S1920에서 데이터 재생 장치(1000)는 신장된 현재 오디오 프레임을 메모리에 저장할 수 있다.
단계 S1925에서 데이터 재생 장치(1000)는 ACK 신호를 데이터 전송 장치(100)에게 전송할 수 있다. 데이터 재생 장치(1000)는 압축된 현재 오디오 프레임을 성공적으로 수신되었음을 데이터 전송 장치(100)에게 알리기 위하여 ACK 신호를 데이터 전송 장치(100)에게 전송할 수 있다. 이에 따라, 데이터 전송 장치(100)는 ACK 신호를 수신함으로써 압축된 현재 오디오 프레임이 성공적으로 데이터 재생 장치(1000)에게 전송되었음을 판단할 수 있다. 또한, 데이터 전송 장치(100)는 데이터 전송 장치(100)의 메모리(1700)에 기저장된 이전 오디오 프레임을 삭제하고, 압축된 현재 오디오 프레임을 신장하여 메모리(1700)에 저장할 수 있다. 이 경우, 데이터 전송 장치(100)는 데이터 재생 장치(1000)와 동일한 삭제 순위에 따라 이전 오디오 프레임을 삭제할 수 있다.
단계 S1930에서 데이터 재생 장치(1000)는 신장된 현재 오디오 프레임의 오디오 신호를 출력할 수 있다.
단계 S1905에서 식별된 데이터의 종류가 이전 오디오 프레임의 식별 값인 경우, 단계 S1935에서 데이터 재생 장치(1000)는 수신된 식별 값에 대응되는 이전 오디오 프레임을 데이터 재생 장치(1000)의 메모리로부터 추출할 수 있다. 데이터 재생 장치(1000)는 수신된 식별 값을 가지는 이전 오디오 프레임을 추출할 수 있다.
단계 S1910에서 데이터 재생 장치(1000)는 추출된 이전 오디오 프레임의 오디오 신호를 출력할 수 있다.
한편, 상기에서는 데이터 전송 장치(100) 및 데이터 재생 장치(1000)가 동일한 이전 오디오 프레임을 저장하고 삭제하기 위하여, 삭제 순위에 관한 동일한 설정 값을 이용하여 이전 오디오 프레임을 삭제하는 것으로 설명하였지만, 이에 제한되지 않는다. 데이터 재생 장치(1000)가 이전 오디오 프레임을 삭제하고, 삭제된 이전 오디오 프레임의 식별 값을 데이터 전송 장치(100)에게 제공할 수 있으며, 데이터 전송 장치(100)는 데이터 재생 장치(1000)로부터 수신된 삭제된 이전 오디오 프레임의 식별 값을 이용하여, 데이터 재생 장치(1000)에서 삭제된 이전 오디오 프레임과 동일한 이전 오디오 프레임을 데이터 전송 장치(100)의 메모리(1700)에서 삭제할 수 있다.
한편, 데이터 재생 장치(1000)는 ACK 신호를 단계 S1915 이전에 데이터 전송 장치(100)로 전송할 수 있으며, 데이터 전송 장치(100)는 ACK 신호를 수신하고 데이터 전송 장치(100)의 메모리(1700) 내의 이전 오디오 프레임을 삭제할 수 있다. 또한, 데이터 전송 장치(100)는 삭제된 이전 오디오 프레임의 식별 값을 데이터 재생 장치(1000)에게 제공할 수 있으며, 데이터 재생 장치(1000)는 데이터 전송 장치(100)로부터 수신된 삭제된 이전 오디오 프레임의 식별 값을 이용하여, 데이터 전송 장치(100)에서 삭제된 이전 오디오 프레임과 동일한 이전 오디오 프레임을 데이터 재생 장치(1000)의 메모리에서 삭제할 수도 있다.
이에 따라, 데이터 재생 장치(1000)의 메모리 및 데이터 전송 장치(100)의 메모리(1700)에는 동일한 오디오 프레임이 저장되고 삭제될 수 있다.
도 20 및 도 21은 일부 실시 예에 따른 데이터 전송 장치(100)의 블록도이다.
도 20에 도시된 바와 같이, 일부 실시예에 따른 데이터 전송 장치(100)는, 사용자 입력부(1100), 출력부(1200), 제어부(1300), 및 통신부(1500)를 포함할 수 있다. 그러나, 도 6에 도시된 구성 요소 모두가 데이터 전송 장치(100)의 필수 구성 요소인 것은 아니다. 도 20에 도시된 구성 요소보다 많은 구성 요소에 의해 데이터 전송 장치(100)가 구현될 수도 있고, 도 20에 도시된 구성 요소보다 적은 구성 요소에 의해 데이터 전송 장치(100)가 구현될 수도 있다.
예를 들어, 도 21에 도시된 바와 같이, 일부 실시 예에 따른 데이터 전송 장치(100)는, 사용자 입력부(1100), 출력부(1200), 제어부(1300), 및 통신부(1500) 이외에 센싱부(1400), A/V 입력부(1600), 및 메모리(1700)를 더 포함할 수도 있다.
사용자 입력부(1100)는, 사용자가 데이터 전송 장치(100)를 제어하기 위한 데이터를 입력하는 수단을 의미한다. 예를 들어, 사용자 입력부(1100)에는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(접촉식 정전 용량 방식, 압력식 저항막 방식, 적외선 감지 방식, 표면 초음파 전도 방식, 적분식 장력 측정 방식, 피에조 효과 방식 등), 조그 휠, 조그 스위치 등이 있을 수 있으나 이에 한정되는 것은 아니다.
사용자 입력부(1100)는, 현재 오디오 프레임과 이전 오디오 프레임의 유사도와 비교될 임계치를 설정하는 사용자 입력, 현재 오디오 프레임의 전송 제한 시간을 설정하는 사용자 입력 및 이전 오디오 프레임의 삭제 순위를 설정하는 사용자 입력 등을 수신할 수 있다.
출력부(1200)는, 오디오 신호 또는 비디오 신호 또는 진동 신호를 출력할 수 있으며, 출력부(1200)는 디스플레이부(1210), 음향 출력부(1220), 및 진동 모터(1230)를 포함할 수 있다.
디스플레이부(1210)는 데이터 전송 장치(100)에서 처리되는 정보를 표시 출력한다. 예를 들어, 디스플레이부(1210)는, 데이터 전송 장치(100)와 데이터 재생 장치(1000) 간의 데이터 전송과 관련된 정보를 디스플레이할 수 있다. 예를 들어, 디스플레이부(1210)는 오디오 프레임 식별값의 전송 비율 및 전력 효율을 디스플레이 할 수 있다. 또한 디스플레이부(1210)는 데이터 전송 장치(100)에 저장된 이전 오디오 프레임과 데이터 재생 장치(1000)에 저장된 이전 오디오 프레임의 동기화 현황에 관한 정보를 디스플레이할 수 있다.
한편, 디스플레이부(1210)와 터치패드가 레이어 구조를 이루어 터치 스크린으로 구성되는 경우, 디스플레이부(1210)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 디스플레이부(1210)는 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display), 유기 발광 다이오드(organic light-emitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전기영동 디스플레이(electrophoretic display) 중에서 적어도 하나를 포함할 수 있다. 그리고 데이터 전송 장치(100)의 구현 형태에 따라 데이터 전송 장치(100)는 디스플레이부(1210)를 2개 이상 포함할 수도 있다. 이때, 2개 이상의 디스플레이부(1210)는 힌지(hinge)를 이용하여 마주보게 배치될 수 있다.
음향 출력부(1220)는 통신부(1500)로부터 수신되거나 메모리(1700)에 저장된 오디오 데이터를 출력한다. 또한, 음향 출력부(1220)는 데이터 전송 장치(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음, 알림음)과 관련된 음향 신호를 출력한다. 이러한 음향 출력부(1220)에는 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.
진동 모터(1230)는 진동 신호를 출력할 수 있다. 예를 들어, 진동 모터(1230)는 오디오 데이터 또는 비디오 데이터(예컨대, 호신호 수신음, 메시지 수신음 등)의 출력에 대응하는 진동 신호를 출력할 수 있다. 또한, 진동 모터(1230)는 터치스크린에 터치가 입력되는 경우 진동 신호를 출력할 수도 있다.
제어부(1300)는, 통상적으로 데이터 전송 장치(100)의 전반적인 동작을 제어한다. 예를 들어, 제어부(1300)는, 메모리(1700)에 저장된 프로그램들을 실행함으로써, 사용자 입력부(1100), 출력부(1200), 센싱부(1400), 통신부(1500), A/V 입력부(1600) 등을 전반적으로 제어할 수 있다.
구체적으로, 제어부(1300)는 데이터 전송 장치(100)로 입력된 오디오 신호를 복수의 오디오 프레임으로 분할할 수 있다. 데이터 전송 장치(100)는 사용자로부터 발화된 음성 입력을 수신하거나 다른 장치(미도시)로부터 제공된 오디오 신호를 수신할 수 있으며, 제어부(1300)는 오디오 신호를 시간에 따라 계속적으로 분할할 수 있다.
제어부(1300)는 현재 오디오 프레임을 데이터 전송 장치(100)의 메모리(1700)에 기저장된 적어도 하나의 오디오 프레임과 비교할 수 있다. 메모리(1700)에 기저장된 오디오 프레임은 현재 오디오 프레임의 이전의 오디오 프레임일 수 있다. 또한, 메모리(1700)에 기 저장된 오디오 프레임은 데이터 재생 장치(1000)에게 성공적으로 전송된 이전 오디오 프레임일 수 있다.
제어부(1300)는 메모리(1700)에 기저장된 이전 오디오 프레임과 현재 오디오 프레임을 비교함으로써, 이전 오디오 프레임과 현재 오디오 프레임의 유사도를 결정할 수 있다. 예를 들어, 제어부(1300)는 이전 오디오 프레임과 현재 오디오 프레임의 상관관계 수치(Correlation Value)를 산출함으로써 이전 오디오 프레임과 현재 오디오 프레임의 유사도를 결정할 수 있다. 이전 오디오 프레임과 현재 오디오 프레임의 상관관계 수치는 MSE(Mean Square Error) 등의 기법을 이용하여 산출될 수 있다. 그러나, 이에 제한되지 않으며 다양한 기법을 통하여 이전 오디오 프레임과 현재 오디오 프레임의 유사도가 판단될 수 있다.
제어부(1300)는 결정된 유사도가 기설정된 임계치보다 큰지를 판단할 수 있다. 기설정된 임계치는, 예를 들어, 오디오 신호의 종류, 오디오 신호의 분할 방법, 데이터 전송 장치(100)의 사양 및 데이터 재생 장치(1000)의 사양에 따라 다양하게 설정될 수 있다.
또한, 결정된 유사도가 기설정된 임계치보다 큰 경우에, 제어부(1300)는 메모리(1700)에 기 저장된 이전 오디오 프레임의 식별 값을 데이터 재생 장치(1000)에게 제공할 수 있다. 제어부(1300)는 결정된 유사도를 갖는 이전 오디오 프레임의 식별 값을 데이터 재생 장치(1000)에게 제공할 수 있다.
만약, 메모리(1700)에 기 저장된 이전 오디오 프레임들 중에서 임계치 이상의 유사도를 가지는 이전 오디오 프레임이 복수인 경우에는, 제어부(1300)는 가장 높은 유사도를 가지는 이전 오디오 프레임의 식별 값을 데이터 재생 장치(1000)에게 제공할 수 있다.
이 경우, 이전 오디오 프레임은 데이터 재생 장치(1000)의 메모리에도 미리 저장되어 있으며, 데이터 재생 장치(1000)는 수신된 식별 값을 이용하여 데이터 재생 장치(1000)의 메모리에 저장된 이전 오디오 프레임을 추출하고 출력할 수 있게 된다.
한편, 결정된 유사도가 기설정된 임계치보다 작은 경우에, 제어부(1300)는 현재 오디오 프레임을 압축할 수 있다. 또한, 제어부(1300)는 압축된 현재 오디오 프레임을 데이터 재생 장치(1000)에게 제공할 수 있다.
한편, 제어부(1300)는 현재 오디오 프레임을 압축하여 데이터 재생 장치(1000)에게 제공하고, 메모리(1700)에 저장된 이전 오디오 프레임을 관리할 수 있다.
제어부(1300)는 현재 오디오 프레임을 압축할 수 있다. 제어부(1300)는 현재 오디오 프레임을 데이터 재생 장치(1000)에게 제공하기 위하여 현재 오디오 프레임을 다양한 코덱 알고리즘을 이용하여 오디오 비트스트림으로 압축할 수 있다.
제어부(1300)는 압축된 현재 오디오 프레임을 데이터 재생 장치(1000)에게 제공할 수 있다. 제어부(1300)는 압축된 오디오 프레임을 전송한 시각을 확인할 수 있다.
제어부(1300)는 데이터 재생 장치(1000)로부터 ACK 신호를 수신하였는지를 판단할 수 있다. 데이터 재생 장치(1000)가 압축된 오디오 프레임을 성공적으로 수신한 경우에 데이터 재생 장치(1000)는 ACK 신호를 데이터 전송 장치(100)에게 전송할 수 있다. 또한, 데이터 재생 장치(1000)가 압축된 오디오 신호를 성공적으로 수신하지 못한 경우에 데이터 재생 장치(1000)는 NACK 신호를 데이터 전송 장치(100)에게 전송할 수 있다.
데이터 전송 장치(100)가 데이터 재생 장치(1000)로부터 ACK 신호를 수신하였다고 판단되면, 제어부(1300)는 성공적으로 전송된 압축된 현재 오디오 프레임을 신장(decompression)할 수 있다.
제어부(1300)는 메모리(1700)에 기저장된 이전 오디오 프레임 중 적어도 하나를 삭제할 수 있다. 제어부(1300)는 기 설정된 기준에 따라, 기저장된 이전 오디오 프레임 중 적어도 하나를 선택하고, 선택된 이전 오디오 프레임을 메모리(1700)에서 삭제할 수 있다. 메모리(1700)에 기저장된 이전 오디오 프레임 중 적어도 하나가 삭제됨에 따라, 신장된 현재 오디오 프레임이 저장될 공간이 메모리(1700) 내에 확보될 수 있다.
제어부(1300)는 신장된 현재 오디오 프레임을 메모리(1700)에 저장할 수 있다.
또한, 데이터 전송 장치(100)가 데이터 재생 장치(1000)로부터 ACK 신호를 수신하지 못하였다고 판단되면, 제어부(1300)는 압축된 현재 오디오 프레임의 전송 시간이 전송 제한 시간을 초과하였는지를 판단할 수 있다. 전송 제한 시간은, 압축된 현재 오디오 프레임을 전송하기 위하여 설정된 제한 시간일 수 있으며, 다양한 기준에 따라 설정될 수 있다.
압축된 현재 오디오 프레임의 전송 시간이 전송 제한 시간을 초과하였다고 판단되면, 제어부(1300)는 다음 오디오 프레임을 압축할 수 있다. 이후, 제어부(1300)는 압축된 다음 오디오 프레임을 데이터 재생 장치(1000)에게 제공할 수 있다.
센싱부(1400)는, 데이터 전송 장치(100)의 상태 또는 데이터 전송 장치(100) 주변의 상태를 감지하고, 감지된 정보를 제어부(1300)로 전달할 수 있다.
센싱부(1400)는, 지자기 센서(Magnetic sensor)(1410), 가속도 센서(Acceleration sensor)(1420), 온/습도 센서(1430), 적외선 센서(1440), 자이로스코프 센서(1450), 위치 센서(예컨대, GPS)(1460), 기압 센서(1470), 근접 센서(1480), 및 RGB 센서(illuminance sensor)(1490) 중 적어도 하나를 포함할 수 있으나, 이에 한정되는 것은 아니다. 각 센서들의 기능은 그 명칭으로부터 당업자가 직관적으로 추론할 수 있으므로, 구체적인 설명은 생략하기로 한다.
통신부(1500)는, 데이터 전송 장치(100) 및 데이터 재생 장치(1000) 간의 통신을 하게 하는 하나 이상의 구성요소를 포함할 수 있다. 예를 들어, 통신부(1500)는, 근거리 통신부(1510), 이동 통신부(1520), 방송 수신부(1530)를 포함할 수 있다.
근거리 통신부(short-range wireless communication unit)(151)는, 블루투스 통신부, BLE(Bluetooth Low Energy) 통신부, 근거리 무선 통신부(Near Field Communication unit), WLAN(와이파이) 통신부, 지그비(Zigbee) 통신부, 적외선(IrDA, infrared Data Association) 통신부, WFD(Wi-Fi Direct) 통신부, UWB(ultra wideband) 통신부, Ant+ 통신부 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.
이동 통신부(1520)는, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 여기에서, 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
방송 수신부(1530)는, 방송 채널을 통하여 외부로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 구현 예에 따라서 데이터 전송 장치(100)가 방송 수신부(1530)를 포함하지 않을 수도 있다.
또한, 통신부(1500)는 일반적으로 사용되는 오디오 프레임 샘플을 메모리(1700)에 사전에 저장하기 위하여, 표준 오디오 프레임들을 수신할 수 있다.
입력부(1600)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(1610)와 마이크로폰(1620) 등이 포함될 수 있다. 카메라(1610)은 화상 통화모드 또는 촬영 모드에서 이미지 센서를 통해 정지영상 또는 동영상 등의 화상 프레임을 얻을 수 있다. 이미지 센서를 통해 캡쳐된 이미지는 제어부(1300) 또는 별도의 이미지 처리부(미도시)를 통해 처리될 수 있다.
카메라(1610)에서 처리된 화상 프레임은 메모리(1700)에 저장되거나 통신부(1500)를 통하여 외부로 전송될 수 있다. 카메라(1610)는 단말기의 구성 태양에 따라 2개 이상이 구비될 수도 있다.
마이크로폰(1620)은, 외부의 음향 신호를 입력 받아 전기적인 음성 데이터로 처리한다. 예를 들어, 마이크로폰(1620)은 외부 디바이스 또는 화자로부터 음향 신호를 수신할 수 있다. 마이크로폰(1620)는 외부의 음향 신호를 입력 받는 과정에서 발생 되는 잡음(noise)를 제거하기 위한 다양한 잡음 제거 알고리즘을 이용할 수 있다.
메모리(1700)는, 제어부(1300)의 처리 및 제어를 위한 프로그램을 저장할 수 있고, 데이터 전송 장치(100)로 입력되거나 데이터 전송 장치(100)로부터 출력되는 데이터를 저장할 수도 있다. 또한, 메모리(1700)는 이전 오디오 프레임을 저장하는 버퍼 메모리로 이용될 수 있다.
메모리(1700)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.
메모리(1700)에 저장된 프로그램들은 그 기능에 따라 복수 개의 모듈들로 분류할 수 있는데, 예를 들어, UI 모듈(1710), 터치 스크린 모듈(1720), 알림 모듈(1730) 등으로 분류될 수 있다.
UI 모듈(1710)은, 애플리케이션 별로 데이터 전송 장치(100)와 연동되는 특화된 UI, GUI 등을 제공할 수 있다. 터치 스크린 모듈(1720)은 사용자의 터치 스크린 상의 터치 제스처를 감지하고, 터치 제스처에 관한 정보를 제어부(1300)로 전달할 수 있다. 일부 실시예에 따른 터치 스크린 모듈(1720)은 터치 코드를 인식하고 분석할 수 있다. 터치 스크린 모듈(1720)은 컨트롤러를 포함하는 별도의 하드웨어로 구성될 수도 있다.
터치스크린의 터치 또는 근접 터치를 감지하기 위해 터치스크린의 내부 또는 근처에 다양한 센서가 구비될 수 있다. 터치스크린의 터치를 감지하기 위한 센서의 일례로 촉각 센서가 있다. 촉각 센서는 사람이 느끼는 정도로 또는 그 이상으로 특정 물체의 접촉을 감지하는 센서를 말한다. 촉각 센서는 접촉면의 거칠기, 접촉 물체의 단단함, 접촉 지점의 온도 등의 다양한 정보를 감지할 수 있다.
또한, 터치스크린의 터치를 감지하기 위한 센서의 일례로 근접 센서가 있다.
근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 사용자의 터치 제스처에는 탭, 터치&홀드, 더블 탭, 드래그, 패닝, 플릭, 드래그 앤드 드롭, 스와이프 등이 있을 수 있다.
알림 모듈(1730)은 데이터 전송 장치(100)의 이벤트 발생을 알리기 위한 신호를 발생할 수 있다. 데이터 전송 장치(100)에서 발생되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 일정 알림 등이 있다. 알림 모듈(1730)은 디스플레이부(1210)를 통해 비디오 신호 형태로 알림 신호를 출력할 수도 있고, 음향 출력부(1220)를 통해 오디오 신호 형태로 알림 신호를 출력할 수도 있고, 진동 모터(1230)를 통해 진동 신호 형태로 알림 신호를 출력할 수도 있다.
한편, 일부 실시예에 따른 데이터 재생 장치(1000)는 도 20 및 도 21에 도시된 데이터 전송 장치(100)와 마찬가지의 구성을 포함할 수 있다.
데이터 재생 장치(1000)의 제어부는 데이터 재생 장치(1000)의 통신부를 통하여 데이터 전송 장치(100)로부터 오디오 신호에 관련된 데이터를 수신할 수 있다.
데이터 재생 장치(1000)의 제어부는 수신된 데이터의 데이터 타입을 식별할 수 있다. 데이터 재생 장치(1000)의 제어부는 데이터 전송 장치(100)로부터 수신된 오디오 신호에 관련된 데이터가 압축된 현재 오디오 프레임인지, 이전 오디오 프레임의 식별 값인지를 판단할 수 있다.
식별된 데이터의 종류가 압축된 현재 오디오 프레임인 경우, 데이터 재생 장치(1000)의 제어부는 압축된 현재 오디오 프레임을 신장할 수 있다.
데이터 재생 장치(1000)의 제어부는 기설정된 삭제 순위에 기초하여, 데이터 재생 장치(1000)의 메모리에 기저장된 이전 오디오 프레임을 삭제할 수 있다. 이 경우, 데이터 재생 장치(1000)의 제어부는 삭제 순위에 관한 설정 값을 데이터 전송 장치(100)로부터 미리 수신하여 저장할 수 있으며, 삭제 순위에 관한 동일한 설정 값이 데이터 전송 장치(100) 및 데이터 재생 장치(1000)에 각각 저장될 수 있다. 그러나, 이에 제한되지 않으며, 데이터 재생 장치(1000)의 제어부가 사용자 입력에 기초하여, 삭제 순위에 관한 설정 값을 생성하고 생성된 설정 값을 데이터 전송 장치(100)에게 제공할 수도 있다.
데이터 재생 장치(1000)의 제어부는 삭제 순위에 관한 설정 값에 따라, 메모리에 기저장된 이전 오디오 프레임 중 적어도 하나를 삭제할 수 있다. 이전 오디오 프레임이 메모리에서 삭제됨에 따라, 메모리 내에서 현재 오디오 프레임이 저장될 저장 공간이 확보될 수 있다.
데이터 재생 장치(1000)의 제어부는 신장된 현재 오디오 프레임을 메모리에 저장할 수 있다.
데이터 재생 장치(1000)의 제어부는 ACK 신호를 데이터 전송 장치(100)에게 제공할 수 있다. 데이터 재생 장치(1000)의 제어부는 압축된 현재 오디오 프레임을 성공적으로 수신되었음을 데이터 전송 장치(100)에게 알리기 위하여 ACK 신호를 데이터 전송 장치(100)에게 제공할 수 있다. 이에 따라, 데이터 전송 장치(100)는 ACK 신호를 수신함으로써 압축된 현재 오디오 프레임이 성공적으로 데이터 재생 장치(1000)에게 전송되었음을 판단할 수 있다. 또한, 데이터 전송 장치(100)는 데이터 전송 장치(100)의 메모리(1700)에 기저장된 이전 오디오 프레임을 삭제하고, 압축된 현재 오디오 프레임을 신장하여 메모리(1700)에 저장할 수 있다. 이 경우, 데이터 전송 장치(100)는 데이터 재생 장치(1000)와 동일한 삭제 순위에 따라 이전 오디오 프레임을 삭제할 수 있다.
데이터 재생 장치(1000)의 제어부는 신장된 현재 오디오 프레임의 오디오 신호를 데이터 재생 장치(1000)의 출력부를 통하여 출력할 수 있다.
만약, 식별된 데이터의 종류가 이전 오디오 프레임의 식별 값인 경우, 데이터 재생 장치(1000)의 제어부는 수신된 식별 값에 대응되는 이전 오디오 프레임을 데이터 재생 장치(1000)의 메모리로부터 추출할 수 있다. 데이터 재생 장치(1000)의 제어부는 수신된 식별 값을 가지는 이전 오디오 프레임을 추출할 수 있다.
데이터 재생 장치(1000)의 제어부는 추출된 이전 오디오 프레임의 오디오 신호를 출력할 수 있다.
한편, 본 발명은 컴퓨터로 읽을 수 있는 기록 매체에 컴퓨터가 읽을 수 있는 코드로 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 장치를 포함한다.
컴퓨터가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어 인터넷을 통한 전송)의 형태로 구현하는 것을 포함한다. 또한, 컴퓨터가 읽을 수 있는 기록 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산 방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다. 그리고 본 발명을 구현하기 위한 기능적인(functional) 프로그램, 코드 및 코드 세그먼트들은 본 발명이 속하는 기술 분야의 프로그래머들에 의하여 용이하게 추론될 수 있다.
이제까지 본 발명에 대하여 바람직한 실시 예를 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 본 발명을 구현할 수 있음을 이해할 것이다. 그러므로 상기 개시된 실시 예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 한다.

Claims (20)

  1. 제2 디바이스에게 오디오 신호를 제공하는 제1 디바이스에 있어서,
    적어도 하나의 이전 오디오 프레임을 저장하는 메모리;
    채널 모드에 의해 지원되는 대역폭에 기초하여 패킷 크기를 결정하고, 상기 패킷 크기에 기초하여 프레임 크기를 결정하고, 상기 제 1 디바이스에 입력된 오디오 신호를 상기 프레임 크기에 기초하여 복수의 오디오 프레임으로 분할하고, 상기 복수의 오디오 프레임 중 현재 오디오 프레임과 상기 제1 디바이스의 메모리에 기 저장된 상기 적어도 하나의 이전 오디오 프레임을 비교하며, 상기 기 저장된 이전 오디오 프레임과 현재 오디오 프레임의 유사도에 기초하여 상기 기 저장된 이전 오디오 프레임들 중 하나를 선택하는 제어부; 및
    상기 선택된 이전 오디오 프레임의 식별 값을 상기 제 2 디바이스에게 전송하는 통신부;를 포함하는 제 1 디바이스.
  2. 제1 항에 있어서
    상기 제어부는,
    상기 기 저장된 이전 오디오 프레임과 상기 현재 오디오 프레임의 상기 유사도가 기 설정된 임계치보다 큼에 따라, 상기 기 저장된 이전 오디오 프레임 중 하나를 선택하는 것을 특징으로 하는 제 1 디바이스.
  3. 제 1 항에 있어서
    상기 제어부는,
    상기 기 저장된 이전 오디오 프레임과 상기 현재 오디오 프레임의 상기 유사도가 기 설정된 임계치보다 작음에 따라, 상기 현재 오디오 프레임을 압축하며,
    상기 통신부는,
    상기 압축된 현재 오디오 프레임을 상기 제 2 디바이스에게 전송하는 것을 특징으로 하는 제 1 디바이스.
  4. 제 3 항에 있어서
    상기 제어부는,
    상기 압축된 현재 오디오 프레임이 상기 제 2 디바이스에게 성공적으로 전송됨에 따라, 상기 기 저장된 이전 오디오 프레임 중 적어도 하나를 삭제하고,
    상기 기 저장된 이전 오디오 프레임 중 적어도 하나가 삭제됨에 따라, 상기 현재 오디오 프레임을 상기 메모리에 저장하는 것을 특징으로 하는 제 1 디바이스.
  5. 제 4 항에 있어서
    상기 제어부는,
    상기 기 저장된 이전 오디오 프레임 중에서 상기 메모리에 먼저 저장된 이전 오디오 프레임을 삭제하는 것을 특징으로 하는 제 1 디바이스.
  6. 제 4 항에 있어서,
    상기 제어부는,
    상기 기 저장된 이전 오디오 프레임의 식별 값이 상기 제 2 디바이스에게 전송된 횟수에 기초하여, 상기 기 저장된 이전 오디오 프레임 중 하나를 삭제하는 것을 특징으로 하는 제 1 디바이스.
  7. 제 1 항에 있어서,
    상기 통신부는,
    상기 선택된 이전 오디오 프레임의 식별 값의 전송이 실패됨에 따라, 상기 선택된 이전 오디오 프레임의 식별값을 기 설정된 전송 제한 시간 내에 상기 제 2 디바이스에게 재전송하는 것을 특징으로 하는 제 1 디바이스.
  8. 제 7 항에 있어서,
    상기 제어부는,
    상기 기 설정된 전송 제한 시간 내에, 상기 선택된 이전 오디오 프레임의 식별 값의 전송이 실패됨에 따라, 다음 오디오 프레임의 전송 방법을 결정하는 것을 특징으로 하는 제 1 디바이스.
  9. 제 1 디바이스가 제 2 디바이스에게 오디오 신호를 제공하는 방법에 있어서,
    채널 모드에 의해 지원되는 대역폭에 기초하여 패킷 크기를 결정하는 단계;
    상기 패킷 크기에 기초하여 프레임 크기를 결정하는 단계;
    상기 제 1 디바이스에 입력된 오디오 신호를 상기 프레임 크기에 기초하여 복수의 오디오 프레임으로 분할하는 단계;
    상기 복수의 오디오 프레임 중 현재 오디오 프레임과 상기 제 1 디바이스의 메모리에 기 저장된 적어도 하나의 이전 오디오 프레임을 비교하는 단계;
    상기 기 저장된 이전 오디오 프레임과 중 상기 현재 오디오 프레임의 유사도에 기초하여, 상기 기 저장된 이전 오디오 프레임 중 하나를 선택하는 단계; 및
    상기 선택된 이전 오디오 프레임의 식별 값을 상기 제 2 디바이스에게 전송하는 단계를 포함하는 방법.
  10. 제 9 항에 있어서,
    상기 선택된 이전 오디오 프레임은, 상기 제 2 디바이스에게 성공적으로 전송됨에 따라, 상기 메모리 및 상기 제 2 디바이스의 메모리에 각각 저장된 것인, 방법.
  11. 제 9 항에 있어서,
    상기 기 저장된 이전 오디오 프레임 중 하나를 선택하는 단계는, 상기 기 저장된 이전 오디오 프레임과 상기 현재 오디오 프레임의 유사도가 기 설정된 임계치보다 큼에 따라, 상기 기 저장된 이전 오디오 프레임 중 하나를 선택하는 것인, 방법.
  12. 제 9 항에 있어서,
    상기 기 저장된 이전 오디오 프레임과 상기 현재 오디오 프레임의 유사도가 기 설정된 임계치보다 작음에 따라, 상기 현재 오디오 프레임을 압축하는 단계; 및
    상기 압축된 현재 오디오 프레임을 상기 제 2 디바이스에게 전송하는 단계를 더 포함하는 것인, 방법.
  13. 제 12 항에 있어서,
    상기 압축된 현재 오디오 프레임이 상기 제 2 디바이스에게 성공적으로 전송됨에 따라, 상기 기 저장된 이전 오디오 프레임 중 적어도 하나를 삭제하는 단계; 및
    상기 기 저장된 이전 오디오 프레임 중 적어도 하나가 삭제됨에 따라, 상기 현재 오디오 프레임을 상기 메모리에 저장하는 단계를 더 포함하는 것인, 방법.
  14. 제 13 항에 있어서,
    상기 기 저장된 이전 오디오 프레임 중 하나를 삭제하는 단계는, 상기 기 저장된 이전 오디오 프레임 중 상기 메모리에 먼저 저장된 이전 오디오 프레임을 삭제하는 것인, 방법.
  15. 제 13 항에 있어서,
    상기 기 저장된 이전 오디오 프레임 중 하나를 삭제하는 단계는, 상기 기 저장된 이전 오디오 프레임의 식별 값이 상기 제 2 디바이스에게 전송된 횟수에 기초하여, 상기 기 저장된 이전 오디오 프레임 중 하나를 삭제하는 것인, 방법.
  16. 제 9 항에 있어서,
    상기 선택된 이전 오디오 프레임의 식별 값의 전송이 실패됨에 따라, 상기 선택된 이전 오디오 프레임의 식별값을 기 설정된 전송 제한 시간 내에 상기 제 2 디바이스에게 재전송하는 단계를 더 포함하는 것인, 방법.
  17. 제 16 항에 있어서,
    상기 기 설정된 전송 제한 시간 내에, 상기 선택된 이전 오디오 프레임의 식별 값의 전송이 실패됨에 따라, 다음 오디오 프레임의 전송 방법을 결정하는 단계를 더 포함하는 것인, 방법.
  18. 삭제
  19. 삭제
  20. 제 9 항의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 비 일시적 기록매체.
KR1020150081982A 2014-07-08 2015-06-10 멀티미디어 데이터를 전송하는 방법 및 장치 KR102389312B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN201580048273.6A CN106688211B (zh) 2014-07-08 2015-07-07 用于发送多媒体数据的方法和装置
PCT/KR2015/007014 WO2016006915A1 (ko) 2014-07-08 2015-07-07 멀티미디어 데이터를 전송하는 방법 및 장치
EP15819284.9A EP3169026B1 (en) 2014-07-08 2015-07-07 Method and apparatus for sending multimedia data
US15/324,922 US10170127B2 (en) 2014-07-08 2015-07-07 Method and apparatus for sending multimedia data

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20140085369 2014-07-08
KR1020140085369 2014-07-08

Publications (2)

Publication Number Publication Date
KR20160006106A KR20160006106A (ko) 2016-01-18
KR102389312B1 true KR102389312B1 (ko) 2022-04-22

Family

ID=55305778

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150081982A KR102389312B1 (ko) 2014-07-08 2015-06-10 멀티미디어 데이터를 전송하는 방법 및 장치

Country Status (4)

Country Link
US (1) US10170127B2 (ko)
EP (1) EP3169026B1 (ko)
KR (1) KR102389312B1 (ko)
CN (1) CN106688211B (ko)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10609418B2 (en) * 2017-04-18 2020-03-31 Qualcomm Incorporated System and method for intelligent data/frame compression in a system on a chip
US10484685B2 (en) 2017-04-18 2019-11-19 Qualcomm Incorporated System and method for intelligent data/frame compression in a system on a chip
CN110168636B (zh) * 2017-12-08 2023-08-01 谷歌有限责任公司 对重复的分组化数据传输的检测
US10834296B2 (en) * 2018-09-12 2020-11-10 Roku, Inc. Dynamically adjusting video to improve synchronization with audio
US10575197B1 (en) * 2018-11-06 2020-02-25 Verizon Patent And Licensing Inc. Automated network voice testing platform
WO2020197486A1 (en) * 2019-03-25 2020-10-01 Razer (Asia-Pacific) Pte. Ltd. Method and apparatus for using incremental search sequence in audio error concealment
EP4000275A1 (en) * 2019-07-17 2022-05-25 Dolby International AB Latency management for content delivery
US11615048B2 (en) * 2021-03-05 2023-03-28 Aspeed Technology Inc. Adaptive serial general-purpose input output interface and signal receiver thereof
CN112953850B (zh) * 2021-04-06 2022-09-02 腾讯科技(深圳)有限公司 数据传输方法、装置、计算机可读介质及电子设备
KR102641532B1 (ko) * 2022-10-20 2024-02-28 (주)한국플랫폼서비스기술 사생활 보호 딥러닝 프레임워크 응용 컴퓨팅 장치 및 그 방법

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060167693A1 (en) * 1999-04-19 2006-07-27 Kapilow David A Method and apparatus for performing packet loss or frame erasure concealment

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7142506B1 (en) 1999-02-02 2006-11-28 Vocaltec Communications Ltd. Method and apparatus for transmitting packets
KR100652004B1 (ko) 1999-03-03 2006-11-30 엘지전자 주식회사 오디오 데이터의 에러 정정 장치 및 방법
US6567388B1 (en) * 1999-03-05 2003-05-20 Qualcomm, Incorporated Method and apparatus for efficient data retransmission in a voice-over-data communication system
GB0428160D0 (en) * 2004-12-22 2005-01-26 British Telecomm Variable bit rate processing
KR100792209B1 (ko) 2005-12-07 2008-01-08 한국전자통신연구원 디지털 오디오 패킷 손실을 복구하기 위한 방법 및 장치
US8340078B1 (en) 2006-12-21 2012-12-25 Cisco Technology, Inc. System for concealing missing audio waveforms
KR20080112000A (ko) * 2007-06-20 2008-12-24 엘지전자 주식회사 음색 유사성을 활용한 부호화/복호화 방법
US8660175B2 (en) 2007-12-10 2014-02-25 Qualcomm Incorporated Selective display of interpolated or extrapolated video units
US7983189B2 (en) * 2008-03-12 2011-07-19 Embarq Holdings Company, Llc System and method for tracking performance and service level agreement compliance for multipoint packet services
KR101112000B1 (ko) * 2009-06-15 2012-03-15 한국항공우주연구원 태양전지판 지상 보조 장치
US8849202B2 (en) 2011-08-19 2014-09-30 Apple Inc. Audio transfer using the Bluetooth Low Energy standard
US9531501B2 (en) 2011-10-25 2016-12-27 Apple Inc. Data transfer between electronic devices

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060167693A1 (en) * 1999-04-19 2006-07-27 Kapilow David A Method and apparatus for performing packet loss or frame erasure concealment

Also Published As

Publication number Publication date
CN106688211A (zh) 2017-05-17
CN106688211B (zh) 2020-03-13
KR20160006106A (ko) 2016-01-18
US10170127B2 (en) 2019-01-01
EP3169026B1 (en) 2020-05-06
EP3169026A1 (en) 2017-05-17
EP3169026A4 (en) 2018-01-03
US20170206906A1 (en) 2017-07-20

Similar Documents

Publication Publication Date Title
KR102389312B1 (ko) 멀티미디어 데이터를 전송하는 방법 및 장치
TWI474660B (zh) 用於編碼及偵測浮水印信號之裝置
JP6077011B2 (ja) 冗長フレーム符号化および復号のためのデバイス
US8578247B2 (en) Bit error management methods for wireless audio communication channels
US9947066B2 (en) Method, apparatus and system for inserting watermark data
EP2211566B1 (en) Wireless communication apparatus, program and wireless communication method
KR101548846B1 (ko) 워터마킹된 신호의 적응적 인코딩 및 디코딩을 위한 디바이스
WO2018036352A1 (zh) 视频数据的编解码方法、装置、系统及存储介质
TWI435583B (zh) 用以解碼音訊內容之方法與裝置及相關電腦程式產品
WO2014051964A1 (en) Apparatus and method for audio frame loss recovery
EP2911152B1 (en) Gradual bandwidth adaptation for encoded audio signals
EP2070329B1 (en) Method and system for error robust audio playback time stamp reporting
US11908481B2 (en) Method for encoding live-streaming data and encoding device
US9842604B2 (en) Apparatus and method for improving communication quality of radio
WO2016032383A1 (en) Sharing of multimedia content
KR101073409B1 (ko) 디코딩 장치 및 디코딩 방법
CN107294655B (zh) 蓝牙通话信号恢复方法、装置、存储介质和计算机设备
CN117498892B (zh) 基于uwb的音频传输方法、装置、终端及存储介质
JP2004252109A (ja) 復号化装置及び復号化方法

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant