DE102006036562A1 - Two data streams receiving method, involves temporally outputting utilization portion of one data stream under utilization of identification characteristic of data stream matched on output of segment in another data stream - Google Patents
Two data streams receiving method, involves temporally outputting utilization portion of one data stream under utilization of identification characteristic of data stream matched on output of segment in another data stream Download PDFInfo
- Publication number
- DE102006036562A1 DE102006036562A1 DE102006036562A DE102006036562A DE102006036562A1 DE 102006036562 A1 DE102006036562 A1 DE 102006036562A1 DE 102006036562 A DE102006036562 A DE 102006036562A DE 102006036562 A DE102006036562 A DE 102006036562A DE 102006036562 A1 DE102006036562 A1 DE 102006036562A1
- Authority
- DE
- Germany
- Prior art keywords
- data stream
- data
- subsection
- signal
- useful signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 167
- 238000004458 analytical method Methods 0.000 claims abstract description 28
- 230000003111 delayed effect Effects 0.000 claims abstract description 11
- 230000005540 biological transmission Effects 0.000 claims description 175
- 230000005236 sound signal Effects 0.000 claims description 111
- 238000004891 communication Methods 0.000 claims description 91
- 230000006854 communication Effects 0.000 claims description 91
- 230000001360 synchronised effect Effects 0.000 claims description 42
- 230000000052 comparative effect Effects 0.000 claims description 30
- 239000000872 buffer Substances 0.000 claims description 22
- 238000012546 transfer Methods 0.000 claims description 18
- 101150093826 par1 gene Proteins 0.000 claims description 17
- 230000006835 compression Effects 0.000 claims description 12
- 238000007906 compression Methods 0.000 claims description 12
- 230000008569 process Effects 0.000 claims description 11
- 238000005259 measurement Methods 0.000 claims description 8
- 238000010295 mobile communication Methods 0.000 claims description 8
- 230000007774 longterm Effects 0.000 claims description 7
- 101150060512 SPATA6 gene Proteins 0.000 claims description 5
- 230000003139 buffering effect Effects 0.000 claims description 5
- 230000007175 bidirectional communication Effects 0.000 claims description 4
- 230000007176 multidirectional communication Effects 0.000 claims description 4
- 230000008054 signal transmission Effects 0.000 claims description 4
- 230000008859 change Effects 0.000 claims description 3
- 230000007423 decrease Effects 0.000 claims description 3
- 230000004044 response Effects 0.000 claims description 2
- 238000000354 decomposition reaction Methods 0.000 claims 1
- 230000000875 corresponding effect Effects 0.000 description 47
- 238000012545 processing Methods 0.000 description 12
- 238000000605 extraction Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 230000002153 concerted effect Effects 0.000 description 4
- 238000013461 design Methods 0.000 description 4
- 238000011161 development Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 230000001934 delay Effects 0.000 description 3
- 230000001419 dependent effect Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000010606 normalization Methods 0.000 description 3
- 230000002123 temporal effect Effects 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 102100040006 Annexin A1 Human genes 0.000 description 1
- 101000959738 Homo sapiens Annexin A1 Proteins 0.000 description 1
- 101000929342 Lytechinus pictus Actin, cytoskeletal 1 Proteins 0.000 description 1
- 101000959200 Lytechinus pictus Actin, cytoskeletal 2 Proteins 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000010219 correlation analysis Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/15—Conference systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/4302—Content synchronisation processes, e.g. decoder synchronisation
- H04N21/4307—Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
- H04N21/43074—Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen of additional data with content streams on the same device, e.g. of EPG data or interactive icon with a TV program
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/75—Media network packet handling
- H04L65/764—Media network packet handling at the destination
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
- H04N21/2368—Multiplexing of audio and video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/4302—Content synchronisation processes, e.g. decoder synchronisation
- H04N21/4305—Synchronising client clock from received content stream, e.g. locking decoder clock with encoder clock, extraction of the PCR packets
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/434—Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
- H04N21/4341—Demultiplexing of audio and video streams
Abstract
Description
Die Erfindung betrifft ein Verfahren zum Empfangen eines ersten Datenstroms und eines zweiten Datenstroms. Die Erfindung betrifft außerdem ein Verfahren zum Senden sowie ein Verfahren zur Übertragung eines ersten und zweiten Datenstroms von einem Sender zu einem Empfänger. Die Erfindung betrifft weiterhin eine Sendeanordnung, eine Empfangsanordnung sowie ein System aus einer Sende- und einer Empfangsanordnung.The The invention relates to a method for receiving a first data stream and a second data stream. The invention also relates to a Method for transmitting and a method for transmitting a first and second data stream from a sender to a receiver. The invention further relates to a transmitting arrangement, a receiving arrangement and a system of a transmitting and a receiving arrangement.
Die Erfindung betrifft allgemeiner ein Verfahren und ein System zur Übertragung aufeinander bezogener Datenströme sowie ein Verfahren zum Synchronisieren aufeinander bezogener Datenströme, sowie bei der Durchführung des Verfahrens bzw. bei dem Aufbau verwendbarer Systemkomponenten. Betreffend die Synchronisation von aufeinander bezogenen Datenströmen wird vor allem daran gedacht, dass es sich um in einem Kommunikationsumfeld, ggf. über verschiedene Übertragungswege oder auf verschiedene Weise übertragene Datenströme handelt, die zu synchronisieren sind. Dies ist aber nicht zwingend. Es kann sich auch um andere Datenströme handeln, die in irgendeinem technischen Umfeld auftreten oder eventuell sogar erst noch zum Zwecke der Synchronisierung aufeinander bezogener Informationen bzw. Daten erzeugt werden.The This invention relates generally to a method and system for transmission related data streams and a method for synchronizing data streams related to one another, and during execution of the method or in the construction of usable system components. Concerning the synchronization of related data streams is especially considering that it is in a communications environment, possibly over different transmission paths or transmitted in different ways Data streams, which are to be synchronized. This is not mandatory. It can also about other data streams acting in any technical environment or possibly even for the sake of synchronization with each other Information or data are generated.
Im Folgenden wird die Erfindung anhand von in einem Kommunikationsumfeld auftretenden Datenströmen erläutert, da dies in der Tat eine besonders wichtige Anwendung der Erfindungsvorschläge darstellt.in the Below, the invention is based on in a communication environment occurring data streams explains since this is indeed a particularly important application of the invention proposals.
Moderne Kommunikationsverbindungen, beispielsweise für die Übertragung von Sprach- und Audiosignalen, verwenden häufig Protokolle in Netzwerken, welche die jeweilige Sende- bzw. Empfangsstation über verschiedene Netzwerkknoten miteinander verbinden. Eine derartige Verbindung wird auch als leitungsvermittelte oder "circuit switched" Verbindung bezeichnet. Eine Daten- oder Signalübertragung erfolgt über die Netzwerkknoten, wobei je nach verwendeten Protokoll und Netzwerk unterschiedliche Datenübertragungsarten vorgesehen sein können. In einer leitungsvermittelten Verbindung wird für alle Signale und Signalkomponenten im allgemeinen der Übertragungsweg vorher festgelegt und freigehalten. Dies führt dazu, dass bei einer solchen Kommunikationsverbindung eine im Wesentlichen konstante Verzögerungszeit zwischen Sender und Empfänger auftritt. Die Dauer der Verzögerung wird unter anderem durch die Schaltzeiten der unterschiedlichen Bauelemente der verschiedenen Knoten bestimmt, über die die Kommunikationsverbindung hergestellt wird.modern Communication links, for example for the transmission of voice and audio signals, use often Protocols in networks, which the respective transmitting or receiving station via different Connect network nodes together. Such a connection is also referred to as a circuit switched or "circuit switched" connection. A data or signal transmission over the network nodes, depending on the protocol and network used different data transmission types can be provided. In a circuit-switched connection is used for all signals and signal components in general, the transmission path previously determined and kept free. This leads to that with such Communication link a substantially constant delay time between transmitter and receiver occurs. The duration of the delay Among other things, the switching times of the different Components of the various nodes determines, over which the communication connection will be produced.
Die Übertragungsformate sind dabei häufig derart ausgestaltet, dass Nutzsignale ohne darin enthaltene Zeitinformation über das Medium transportiert werden. Ein typisches Beispiel dafür ist eine gewöhnliche, z.B. analoge, Telefonverbindung zwischen einem Sender und einem Empfänger, bei dem Sprach- oder Audiosignale senderseitig von einem Mikrofon aufgenommen und über die Kommunikationsverbindung an den Empfänger gesandt werden. Sobald sie empfängerseitig verfügbar sind, werden sie über einen Lautsprecher ohne zusätzliche Verzögerung ausgegeben. Bei digitalen Kommunikationsverbindungen werden die Audiosignale häufig in Abschnitte gewisser Länge unterteilt, kodiert und diese dann an den Empfänger gesendet. Auch digital kodierte Audiosignale enthalten meist keine zusätzliche Zeitinformation. Im Allgemeinen kann davon ausgegangen werden, dass Audiosignale in einer Ende-zu-Ende-Kommunikationsverbindung unter Verwendung von "circuit switched" basierter Technologie keine zusätzlichen Zeitinformationen aufweisen.The transmission formats are often like that designed such that useful signals without time information contained therein over the Medium are transported. A typical example is one ordinary, e.g. analog, telephone connection between a transmitter and a Receiver, at the language or Audio signals are received by a microphone on the transmitter side and transmitted via the Communication link are sent to the recipient. As soon as on the receiver side available they are over a speaker without additional delay output. For digital communication links, the Audio signals frequently in sections of certain length divided, coded and then sent to the receiver. Also digital coded audio signals usually contain no additional time information. in the In general, it can be assumed that audio signals in an end-to-end communication link using circuit switched technology additional Have time information.
Daneben gibt es die Möglichkeit, Nutzdaten verschiedenen Typs oder Mediums, beispielsweise Sprache und Bild in einer synchronisierten Weise zwischen Sender und Empfänger zu übertragen. Eine derartige synchronisierte Übertragung einer Kombination aus zwei oder mehr Mediensignalen oder Datenströmen wird auch als engl. "Session" bezeichnet. Ein typisches Beispiel hierfür ist die so genannte Videokonferenz, bei der neben einem reinen Audiosignal bzw. Audiodatenstrom auch Bild- oder Videosignale übertragen werden. Zur Synchronisation zwischen Audio- und Videosignalen gibt es verschiedene Möglichkeiten. In einem leitungsvermittelten Ansatz werden Audio- und Videosignale in einen leitungsvermittelten Datenstrom zusammenfasst, typischerweise als "Multiplexing" bezeichnet, so dass ein- und derselbe Übertragungsweg für beide Ströme oder Signale benutzt wird und somit die Synchronisation durch geeignete Anordnung im Datenstrom praktisch gegeben ist, indem alle Signale nach deren Decodierung sofort ausgespielt werden In einem weiteren, z.B. paketvermittelten Ansatz können verschiedene Medien bzw. jedes einzelne Paket jedes Mediums grundsätzlich über verschiedene Übertragungswege übertragen werden. In diesem Fall für korrektes Ausspielen sowie Synchronisation sind bei der Übermittlung zusätzliche Informationen in Form von Zeitstempeln, z.B. in jedem Medienpaket, vorgesehen.Besides is there a possibility, User data of various types or media, such as language and transfer image between sender and receiver in a synchronized manner. A such synchronized transmission a combination of two or more media signals or data streams also as English "Session". One typical example of this is the so-called videoconference, in addition to a pure audio signal or audio data stream also transmitted image or video signals become. For synchronization between audio and video signals it different ways. In a circuit-switched approach, audio and video signals are used into a circuit switched data stream, typically referred to as "multiplexing", so that and the same transmission path for both Currents or Signals is used and thus the synchronization by appropriate Arrangement in the data stream is practically given by all signals be played immediately after their decoding In another, e.g. packet-switched approach different media or each package of each medium basically transmitted over different transmission paths become. In this case for correct play as well as synchronization are with the transmission additional Information in the form of timestamps, e.g. in every media package, intended.
Es kann jedoch das Bedürfnis bestehen, zusätzliche zweite Nutzdaten zu einer bereits bestehenden Kommunikationsverbindung hinfügen zu wollen, wobei die bestehende Kommunikations verbindung dabei fortgeführt wird. Dies ist beispielsweise dann der Fall, wenn zu einer Sprach- oder Audiosignalübertragung zusätzlich auch Videosignale übermittelt werden sollen. Die Frage einer gemeinsamen Ausgabe stellt sich unter anderem dann, wenn für die erste Verbindung die eingangs erwähnte "circuit switched" Technik verwendet wird.However, there may be a need to add additional second payload to an existing communication link, wherein the existing communication connection is continued. This is the case, for example, if in addition to video or audio signal transmission video signals are to be transmitted. The question of a joint output arises, inter alia, when the first mentioned connection the "circuit swit ched "technique is used.
Eine einfache Möglichkeit besteht darin, das zweite Mediensignal, im vorliegenden Fall das Videosignal, über eine zusätzliche Kommunikationsverbindung zu übertragen. In einem solchen Fall ist es durchaus möglich, dass die zweite Kommunikationsverbindung andere Bereiche des Kommunikationsnetzwerkes verwendet. Sofern empfängerseitig beide Mediensignale oder Nutzdaten ausgegeben werden, ist die aufgebaute Session nicht synchronisiert und es kommt im Allgemeinen zu einem Zeitversatz zwischen den unterschiedlichen Mediensignalen bzw. Datenströmen.A easy way consists of the second media signal, in this case the Video signal, over an additional Communication link to transfer. In such a case, it is quite possible that the second communication link other areas of the communication network used. If receiver side both media signals or payload data is output, is the built Session is not synchronized and it generally comes to one Time offset between the different media signals or data streams.
Eine Möglichkeit zur Verhinderung eines nicht aufeinander abgestimmten Ausgebens wäre es, die erste Kommunikationsverbindung zu beenden und eine vollständig neue "Session" einschließlich des zusätzlichen zweiten Mediensignals neu aufzubauen. Eine Synchronisation kann dann durch die gleichzeitige Übertragung der beiden Mediensignale bzw. Datenströme über die gleiche Verbindung erfolgen. Alternativ kann für die Verbindung auch ein weiteres Mediensignal, beispielsweise eine Videokonferenz, bereitgestellt werden. Bei dieser Lösung wird jedoch die bereits bestehende Kommunikationsverbindung beendet, ein Vorgang, der im Regelfall von einem Benutzer nicht gewünscht ist. Darüber hinaus muss auch bei einer Änderung einer der beiden Datenströme die bestehende Verbindung beendet werden. Eine flexible Addition eines zusätzlichen Mediensignals oder Datenstroms mit beispielsweise unterschiedlicher Bitrate oder Inhalten zu einer bereits existierenden Kommunikationsverbindung ist in dieser Ausgestaltung nicht möglich.A possibility to prevent mismatched output it would be that to end the first communication connection and a completely new "session" including the additional Rebuild second media signal. A synchronization can then by the simultaneous transmission the two media signals or data streams over the same connection respectively. Alternatively, for the connection also another media signal, for example a Videoconferencing, be provided. However, this solution will the already existing communication connection terminates, a process which is usually not desired by a user. In addition, must even with a change one of the two data streams the existing connection will be terminated. A flexible addition an additional one Media signal or data stream with, for example, different bit rate or content to an already existing communication connection is not possible in this embodiment.
Aufgabe der Erfindung nach einem ersten Hauptaspekt ist es, ein Verfahren vorzusehen, welches bei einer Übertragung von ersten und zweiten Datenströmen eine aufeinander abgestimmte zeitliche Ausgabe der beiden oder ggf. auch mehr Datenströme gewährleistet. Eine weitere Aufgabe der Erfindung nach dem ersten Aspekt ist es, eine Sende- bzw. Empfangsanordnung vorzusehen, die eine synchrone Datenübertragung mehrerer Datenströme in einfacher Weise ermöglicht.task The invention according to a first main aspect is a method provide, which in a transmission of first and second data streams a concerted temporal output of the two or possibly also more data streams guaranteed. Another object of the invention according to the first aspect is to provide a transmitting or receiving arrangement which is a synchronous data transfer multiple data streams in a simple way allows.
Diese Aufgaben werden mit den unabhängigen Patentansprüchen 1, 19, 23, 37, 48, 59 gelöst. Ausgestaltungsformen und weitere Aspekte der Erfindung sind Gegenstand der Unteransprüche. Lösungsansätze und Lösungen für diese Aufgabe ergeben sich ferner aus den Ansprüchen 63 bis 105.These Tasks are with the independent ones claims 1, 19, 23, 37, 48, 59 solved. embodiments and further aspects of the invention are the subject of the dependent claims. Solution approaches and solutions for this Task also emerge from the claims 63 to 105.
Nach dem erfindungsgemäßen Prinzip ist vorgesehen, in dem zweiten Datenstrom zusätzliche Identifikationsmerkmale vorzusehen, die von dem ersten Datenstrom abgeleitet sind und so ein aufeinander abgestimmtes Ausgeben des ersten und zweiten Datenstroms erlauben. Dadurch kann eine bereits bestehende Kommunikationsverbindung mit einer Übertragung des ersten Datenstroms fortgeführt werden.To the principle of the invention is provided in the second data stream additional identification features provided derived from the first data stream and so on a coordinated output of the first and second data stream allow. This allows an already existing communication connection with a transmission continue the first data stream.
Unter dem Begriff Datenstrom wird jegliche Art Signal verstanden, dass zur Übertragung von Informationen geeignet ist. Der Datenstrom kann daher ein Nutzsignal beinhalten, aber auch das Nutzsignal selbst darstellen. Ebenso kann er ein analoges oder ein digitales Signal sein oder ein solches beinhalten.Under The term data stream means any kind of signal that for transmission of information is suitable. The data stream can therefore be a useful signal include, but also represent the useful signal itself. Likewise it may be an analog or a digital signal or such include.
Nach dem vorgeschlagenen Prinzip wird zu der ersten Kommunikationsverbindung für eine Übertragung des ersten Datenstroms eine zweite Kommunikationsverbindung für die Übertragung des zweiten Datenstroms aufgebaut. In dem zweiten Datenstrom sind Identifikationsmerkmale enthalten, die eine Zuordnung von Abschnitten des zweiten Datenstroms zu korrespondierenden Abschnitten des ersten Datenstroms ermöglichen. Ebenso können in dem zweiten Datenstrom Identifikationsmerkmale enthalten sein, die eine Zuordnung von Abschnitten eines im zweiten Datenstroms enthaltenen Nutzsignals zu korrespondierenden Abschnitten des ersten Datenstroms oder zu korrespondierenden Abschnitten eines Nutzsignals im ersten Datenstrom erlauben. Empfängerseitig kann so eine aufeinander abgestimmte Ausgabe des ersten Datenstroms und des zweiten Datenstroms erfolgen.To the proposed principle becomes the first communication link for a transmission the first data stream, a second communication link for the transmission of the second data stream. In the second data stream are Identification features that contain an assignment of sections of the second data stream to corresponding sections of the first Enable data stream. Likewise be included in the second data stream identification features an assignment of sections of one in the second data stream contained useful signal to corresponding sections of the first Data stream or corresponding sections of a useful signal in the first data stream. On the receiver side, such a succession matched output of the first data stream and the second data stream respectively.
Zweckmäßigerweise sind die Identifikationsmerkmale in dem zweiten Datenstrom von dem ersten Datenstrom oder von Nutzdaten im ersten Datenstrom abgeleitet. Es ist sogar möglich, dass die Identifikationsmerkmale wesentliche Teile des ersten Datenstroms oder der Nutzdaten des ersten Datenstroms umfassen.Conveniently, are the identifiers in the second data stream of the derived first data stream or payload data in the first data stream. It is even possible that the identification features essential parts of the first data stream or the payload of the first data stream.
Beispielsweise kann der erste Datenstrom Audiosignale bzw. Audiodaten in wenigstens zwei von zeitlich aufeinander folgenden Teilabschnitten enthalten. Unter dem Begriff Audiosignal oder Audiodaten wird jede Form hörbarer Signale verstanden, also Sprache, Töne, Geräusche oder auch Musik. Aus jedem der Teilabschnitte wird ein Identifikationsmerkmal extrahiert, das eine Identifikation des jeweiligen Teilabschnitts des ersten Datenstroms ermöglicht. Dieses Identifikationsmerkmal wird einem Teilabschnitt eines zweiten Datenstroms zugeordnet, so dass eine spätere zeitlich aufeinander abgestimmte oder auch eine synchrone Ausgabe der jeweiligen Teil abschnitte möglich ist. Unter einer synchronen Ausgabe wird ein abgestimmtes Ausspielen verstanden, um möglichst gute Synchronität unter anderen Rahmenbedingungen zu haben. Es ist dabei zweckmäßig, wenn die für die Identifikation der Teilabschnitte herangezogenen Merkmale besonders robust gegen Artefakte bzw. Störungen während der Datenübertragung des ersten Datenstroms sind. Störungen bzw. Signalveränderungen können zum Beispiel entstehen durch das Codieren und Komprimieren von Signalen aufgrund von Irrelevanzreduktion und Quantisierung oder durch Verzerrungen oder Rauschen während der Übertragung oder irgendwelcher anderen Effekte. Auf diese Weise kann empfängerseitig auch nach einer oder mehreren dieser Störungen während der Datenübertragung eine synchrone Ausgabe des ersten und zweiten Datenstroms erfolgen.For example, the first data stream may contain audio signals or audio data in at least two of temporally successive subsections. The term audio signal or audio data is understood to mean any form of audible signals, ie speech, sounds, or even music. An identification feature is extracted from each of the subsections, which enables identification of the respective subsection of the first data stream. This identification feature is assigned to a subsection of a second data stream, so that later coordinated or even synchronous output of the respective subsections is possible. A synchronous output is understood to mean a balanced playing, in order to have the best possible synchronicity under other conditions. It is expedient if the features used for the identification of the subsections are particularly robust against artifacts or disturbances during the data transmission of the first data stream. Stö Changes or signal variations can arise, for example, due to the coding and compression of signals due to irrelevance reduction and quantization or due to distortions or noise during transmission or any other effects. In this way, a synchronous output of the first and second data stream can take place on the receiver side even after one or more of these disturbances during the data transmission.
In einem Aspekt der Erfindung umfasst das Verfahren die Schritte eines Empfangens und Verzögerns des ersten Datenstroms, der mehrere, in der Regel eine Vielzahl von aufeinander folgenden Teilabschnitten aufweist. Ebenso wird ein zweiter Datenstrom empfangen. Aus diesem wird nun wenigstens ein erstes Identifikationsmerkmal ermittelt, welches von wenigstens einem ersten Teilabschnitt der aufeinander folgenden Teilabschnitte des ersten Datenstroms abgeleitet ist. Zusätzlich umfasst das Verfahren den Schritt eines Analysierens des ersten verzögerten Datenstroms bzw. der einzelnen Teilabschnitte im ersten Datenstrom. Es wird ein erster Teilabschnitt des ersten Datenstroms in Abhängigkeit des wenigstens einen ersten Identifikationsmerkmals ermittelt und anschließend wird dieser erste Teilabschnitt zusammen mit dem zweiten Datenstrom ausgegeben.In According to one aspect of the invention, the method comprises the steps of Receiving and delaying the first data stream, the multiple, usually a variety of successive sections. Likewise will receive a second data stream. This will now at least one first identification feature determines which of at least a first subsection of the successive subsections derived from the first data stream. In addition, the process includes the step of analyzing the first delayed data stream or the individual sections in the first data stream. It will be a first Part of the first data stream as a function of at least one first identification feature is determined and then this first subsection is output together with the second data stream.
Zur Verzögerung des ersten Datenstroms ist es ausreichend, wenn dieser zwischengespeichert wird. Auch können für die Verarbeitung des ersten Datenstroms Maßnahmen vorgesehen sein, welche eine Ausgabe der Teilabschnitte des ersten Datenstroms zeitlich verzögern, so dass ausreichend Zeit für die weiteren Verfahrensschritte verbleibt. Ein zeitlicher Versatz zwischen korrespondierenden Abschnitten des ersten und zweiten Datenstroms kann korrigiert werden.to delay of the first data stream, it is sufficient if this is cached. Also can for processing of the first data stream measures be provided, which is an output of the sections of the first Delay data stream, allowing enough time for the further process steps remain. A time offset between corresponding sections of the first and second data streams can be corrected.
Alternativ kann auch der zweite Datenstrom verzögert und ggf. hierzu zwischengespeichert werden. Insoweit könnte dann der zweite Datenstrom wie vorangehend betreffend den ersten Datenstrom erwogen und der erste Datenstrom wie vorangehend betreffend den zweiten Datenstrom erwogen behandelt werden. Es könnten auch beide Datenströme verzögert und zwischengespeichert werden.alternative can also delay the second data stream and if necessary cached for this purpose become. In that regard could then the second data stream as above concerning the first one Stream considered and the first data stream as above concerning the second data stream are considered. It could too both data streams are delayed and be cached.
Für eine aufeinander abgestimmte Ausgabe des ersten und zweiten Datenstroms ist es demnach zweckmäßig, zusätzlich zu der Extrahierung des ersten Identifikationsmerkmals in dem zweiten Datenstrom ein entsprechendes Identifikationsmerkmal im ersten Datenstrom zu ermitteln. Dazu werden die Teilabschnitte des ersten Datenstroms analysiert und von jedem Teilabschnitt ein Identifikationsmerkmal abgeleitet. Dieses sollte von der gleichen Art wie das erste Identifikationsmerkmal sein, so dass nach einem Vergleichen eine Entscheidung darüber getroffen werden kann, ob das im zweiten Datenstrom enthaltene erste Identifikationsmerkmal mit den abgeleiteten Identifikationsmerkmalen des ersten Datenstroms übereinstimmt oder zumindest ausreichend ähnlich ist.For one another coordinated output of the first and second data stream, it is therefore appropriate, in addition to the extraction of the first identification feature in the second Data stream a corresponding identification feature in the first data stream to investigate. These are the subsections of the first data stream analyzed and derived from each subsection of an identification feature. This should be of the same type as the first identifier so, after making a comparison, make a decision about it can be whether the first identification feature contained in the second data stream matches the derived identification features of the first data stream or at least sufficiently similar is.
Bei der vorliegenden Erfindung lässt sich so ein zusätzlicher zweiter Datenstrom zu einer bereits bestehenden Kommunikationsverbindung mit einer Datenübertragung hinzufügen, ohne dass die bereits bestehende Kommunikationsverbindung unter brochen werden muss. Es ist lediglich notwendig, wenigstens einen der Datenströme, insbesondere den ersten Datenstrom, vor der Ausgabe zwischenzuspeichern, um die Schritte des Ermittelns von Identifikationsmerkmalen und des anschließenden Synchronisierens zu ermöglichen.at of the present invention such an extra second data stream to an already existing communication connection with a data transfer Add, without interrupting the already existing communication connection must become. It is only necessary to have at least one of the data streams, in particular to cache the first stream before output to the first Steps of identifying identification features and then synchronizing to enable.
Wie vorangehend schon deutlich geworden ist, wird vor allem daran gedacht, dass der erste Datenstrom und der zweite Datenstrom jeweils eine Mehrzahl oder Vielzahl aufeinander folgender Teilabschnitte, ggf. Datenframes, aufweisen, wobei mehreren oder allen Teilabschnitten des zweiten Datenstroms ein auf einen jeweiligen zugeordneten Teilabschnitt des ersten Datenstroms verweisendes, im zweiten Datenstrom enthaltenes Identifikationsmerkmal zugeordnet ist und für mehrere dieser Identifikationsmerkmale der zugeordnete Teilabschnitt des ersten Datenstroms ermittelt wird und über das jeweilige Identifikationsmerkmal einander zugeordnete Abschnitte des ersten und des zweiten Datenstroms zeitlich abgestimmt ausgegeben werden. In diesem Zusammenhang kann es zweckmäßig sein, wenn für die Zuordnung eines Teilabschnitts des ersten Datenstroms zu einem Teilabschnitt des zweiten Datenstroms mehrere, auf verschiedene Teilabschnitte des ersten Datenstroms verweisende Identifikationsmerkmale berücksichtigt werden.As has already become clear, it is mainly thought that the first data stream and the second data stream each have a plurality or multitude of consecutive subsections, possibly data frames, , wherein several or all subsections of the second Data stream on a respective associated subsection of the first data stream, contained in the second data stream Identification is assigned and for several of these identifiers the assigned subsection of the first data stream is determined and over the respective identification feature mutually associated sections the first and the second data stream output timed become. In this context, it may be appropriate if for the assignment a subsection of the first data stream to a subsection of the second data stream several, to different sections the identification of the first data stream become.
In einer Ausgestaltung der Erfindung wird für die Erzeugung des ersten Datenstroms ein erstes Nutzsignal bereitgestellt, das mehrere aufeinander folgende Teilabschnitte umfasst. Das erste Nutzsignal kann jede Art von Signal sein, die Audiodaten beinhaltet. Aus den einzelnen Teilabschnitten des Nutzsignals werden Identifikationsmerkmale abgeleitet, die den jeweiligen Teilabschnitt mit einer hohen Wahrscheinlichkeit identifizieren. Dadurch lässt sich anhand des Identifikationsmerkmals mit hoher Wahrscheinlichkeit eine Zuordnung zu dem jeweiligen Teilabschnitt bestimmen. Die abgeleiteten Identifikationsmerkmale können für eine Erzeugung eines zweiten Datenstroms verwendet werden, indem sie Teilabschnitten im zweiten Datenstrom zugeordnet werden, die für eine aufeinander abgestimmte Ausgabe mit den korrespondierenden Teilabschnitten des ersten Datenstroms vorgesehen sind.In An embodiment of the invention is for the generation of the first Data stream provided a first useful signal, the several consecutive Includes subsections. The first useful signal can be any kind of signal be containing audio data. From the individual sections of the useful signal identification features are derived, which the Identify each subsection with a high probability. By doing so leaves based on the identification feature with high probability determine an assignment to the respective subsection. The derived ones Identification features can for one Generation of a second data stream can be used by Subsections in the second data stream are assigned to one another Coordinated edition with the corresponding sections of the first data stream are provided.
Zweckmäßigerweise sind die abgeleiteten Identifikationsmerkmale besonders robust gegen Artefakte bei einer Signalverarbeitung, -kompression bzw. Störungen während der Datenübertragung. Beispielsweise können die Identifikationsmerkmale aus LTP (Long Term Prediction)-Koeffizienten eines Teilabschnittes gebildet werden. Alternativ dazu lässt sich das Identifikationsmerkmal durch Analysieren von Frequenzinformationen eines Inhalts des jeweiligen Teilabschnittes des ersten Datenstroms oder des ersten Nutzsignals erzeugen. Ebenso ist es möglich diverse Sequenzinformationen, beispielsweise HASH Sequenzen oder Prüfsummen aus Teilabschnitten zu ermitteln. Letzteres ist dann zweckmäßig, wenn das erste Nutzsignal nach einem Kodierungsverfahren kodierte Informationen enthält. Es ist aber auch möglich, dass die Identifikationsmerkmale kodierte Anteile des ersten Datenstroms oder des ersten Nutzsignals enthalten.Conveniently, the derived identification features are particularly robust against Artifacts in signal processing, compression or interference during the Data transfer. For example, you can the identifiers from LTP (Long Term Prediction) coefficients a subsection are formed. Alternatively, it can be the identifier by analyzing frequency information a content of the respective subsection of the first data stream or the first useful signal. It is also possible diverse Sequence information, such as HASH sequences or checksums to determine from subsections. The latter is appropriate if the first useful signal coded according to a coding method information contains. But it is also possible that the identification features encoded portions of the first data stream or the first useful signal included.
In einer anderen Ausgestaltung der Erfindung umfasst das Verfahren zusätzlich die Schritte eines Bereitstellens eines ersten und zweiten Nutzsignals, welche jeweils eine Vielzahl von zeitlich aufeinander folgenden Teilabschnitten aufweisen. Jeweils korrespondierende Teilabschnitte sind einander zugeordnet für eine spätere abgestimmte Ausgabe. Aus Teilabschnitten des ersten Nutzsignals werden Identifikationsmerkmale ermittelt und den korrespondierenden Teilabschnitten des zweiten Nutzsignals zugeordnet. Anschließend werden erste und zweite Nutzsignale weiter verarbeitet und als erster bzw. zweiter Datenstrom übertragen. Nach einem Empfang werden die beiden Datenströme zwischengespeichert. Die im zweiten Datenstrom vorhandenen Identifikationsmerkmale werden extrahiert. Gleichzeitig werden aus dem ersten Datenstrom die Teilabschnitte des ersten Nutzsignals gewonnen und daraus Identifikationsmerkmale ermittelt. Diese werden mit den im zweiten Datenstrom vorhandenen Identifikationsmerkmalen verglichen. Bei einer Übereinstimmung werden die korrespondierenden Teilabschnitte ausgegeben, so dass eine aufeinander abgestimmte Ausgabe gewährleistet ist.In In another embodiment of the invention, the method comprises additionally the steps of providing a first and second wanted signal, each one of a plurality of temporally successive Have sections. Corresponding sections in each case are assigned to each other for a later one coordinated edition. From sections of the first useful signal identification features are determined and the corresponding Associated with subsections of the second useful signal. Then be first and second useful signals processed further and as the first and second Transfer data stream. After a reception, the two data streams are buffered. The become in the second data stream existing identification features extracted. At the same time, the subsections become the first data stream obtained the first useful signal and identification features determined. These are with the existing in the second data stream Identification features compared. In a match, the corresponding Subsections issued, leaving a coordinated output guaranteed is.
Dabei ist es zusätzlich möglich, nach einer gewissen Zeit nicht verwendete Teilabschnitte zu verwerfen bzw. auszugeben. Dies kann insbesondere dann sinnvoll sein, wenn während der Datenübertragung des ersten bzw. zweiten Datenstroms Teile verloren gegangen sind bzw. sich aufgrund von Fehlern während der Datenübertragung nicht mehr rekonstruieren lassen.there is it additional possible, Discard unused sections after a certain period of time or spend. This can be useful, especially if while the data transmission of the first or second data stream parts have been lost or due to errors during the data transmission can not be reconstructed.
Der erste Datenstrom kann wenigstens eines der folgenden Nutzsignale enthalten oder als solche gebildet sein:
- – Analoge Audiosignale bzw. Audiodaten;
- – GSM kodierte Audiosignale;
- – G.711 kodierte Audiosignale;
- – PCM kodierte Audiosignale;
- – AMR oder AMR-WB kodierte Audiosignale;
- – nach einem der G.72x Verfahren des ITU-T Standards kodierte Audiosignale, z.B. G.723.1, G.727, G.729.
- - analog audio signals or audio data;
- - GSM encoded audio signals;
- G.711 encoded audio signals;
- - PCM encoded audio signals;
- AMR or AMR-WB encoded audio signals;
- - According to the G.72x method of the ITU-T standard coded audio signals, eg G.723.1, G.727, G.729.
Aus jedem der genannten Audiosignale lassen sich Identifikationsmerkmale für Teilabschnitte ermitteln, die mit hoher Wahrscheinlichkeit eine Identifikation des jeweiligen Teilab schnittes ermöglichen. Es ist eventuell zweckmäßig, Identifikationsmerkmale zu verwenden, die während einer vorgenommenen Signalverarbeitung oder Kodierung des Audiosignals bzw. des ersten Nutzsignals ohnehin erzeugt werden. Dies reduziert die Komplexität innerhalb einer Sendeanordnung. Durch die Nutzung bereits bestehender Kodierungs- bzw. Kommunikationsstandards können die vorhandenen Technologien und Übertragungsverfahren weiter verwendet werden.Out Each of the mentioned audio signals can be identification features determine for sections, with high probability an identification of the respective Subsection enable. It may be appropriate, identification features to use that during a signal processing or coding of the audio signal or be generated anyway of the first useful signal. This reduces the complexity within a transmission arrangement. By using existing ones Coding or communication standards may be the existing technologies and transmission method continue to be used.
Mit dem erfindungsgemäßen Verfahren ist es möglich, jeden beliebigen zusätzlichen Datenstrom zu dem bereits vorhandenen Datenstrom hinzuzufügen, ohne diesen zu unterbrechen. Beispielsweise kann der zusätzliche Datenstrom Videodaten, insbesondere im MPG, MPG2 oder H.26X Format enthalten. Ebenso lassen sich zusätzliche Bilddaten, insbesondere im JPG Format oder auch Daten für eine computergestützte Bildschirmpräsentation übertragen. Eine weitere Möglichkeit besteht in der parallelen Übertragung weiterer Sprach- oder Audiosignale bzw. Audiodaten, beispielsweise für die Übertragung eines Stereosignals. Ebenso kann Text als Nutzsignal im zweiten Datenstrom abgestimmt auf den ersten Datenstrom übertragen werden. Grundsätzlich ist jede Art von Information geeignet, die eine Synchronisation auf den ersten Datenstrom bzw. auf die im ersten Datenstrom vorhandenen Nutzdaten benötigt.With the method according to the invention Is it possible, any additional Add data stream to the existing data stream without to interrupt this. For example, the additional Data stream video data, especially in MPG, MPG2 or H.26X format contain. Likewise, additional image data, in particular in JPG format or also data for a computer-aided Transfer slide show. One more way consists in the parallel transmission other voice or audio signals or audio data, for example for the transfer of a Stereo signal. Likewise, text as a useful signal in the second data stream be transferred in a coordinated manner to the first data stream. Basically everyone is Kind of information suitable for a synchronization at first Data stream or to the existing in the first data stream user data needed.
Eine Übertragung des ersten bzw. des zweiten Datenstroms kann teilweise durch Übermittlung von Signalen nach einem mobilen Kommunikationsstandard oder beispielsweise durch eine Internetverbindung zwischen zumindest zwei verschiedenen Knoten erfolgen. Ebenso ist es möglich, eine Übertragung zumindest teilweise durch eine drahtgebundene Kommunikationsverbindung durchzuführen.A transmission the first and the second data stream can be partially transmitted by transmission of Signals according to a mobile communication standard or example through an internet connection between at least two different nodes respectively. It is also possible a transmission at least partially by a wired communication link perform.
Demgemäß umfasst eine Sendeanordnung nach dem vorgeschlagenen Prinzip eine erste Vorrichtung zum Erfassen eines ersten Nutzsignals sowie eine zweite Vorrichtung zum Erfassen eines zweiten Nutzsignals. Weiterhin ist eine Analysevorrichtung vorgesehen, die ausgeführt ist, aus einem ersten Teilabschnitt oder Teilabschnitten des ersten Nutzsignals wenigstens ein Identifikationsmerkmal für eine Identifikation des ersten bzw. des jeweiligen Teilabschnitts zu ermitteln. Die Analysevorrichtung ist an eine Kodiereinrichtung angeschlossen, die das von der Analysevorrichtung bereitgestellte Identifikationsmerkmal bzw. ein jeweiliges Identifikationsmerkmal einem ersten Teilabschnitt bzw. einem jeweiligen Teilabschnitt des zweiten Nutzsignals zuordnet. Die Sendeanordnung umfasst ebenso eine erste Sendestufe, die mit der ersten Vorrichtung für eine Übertragung des ersten Nutzsignals gekoppelt ist. Eine zweite Sendestufe für eine Übertragung des zweiten Nutzsignals ist an die Kodiereinrichtung angeschlossen.Accordingly, a transmission arrangement according to the proposed principle comprises a first device for detecting a first useful signal and a second device for detecting a second useful signal. Furthermore, an analysis device is provided, which is designed to determine at least one identification feature for an identification of the first or of the respective subsection from a first subsection or subsections of the first useful signal. The analyzer is connected to a coding device which identifies the identifier provided by the analyzer tion feature or a respective identification feature a first subsection or a respective subsection of the second useful signal assigns. The transmission arrangement also comprises a first transmission stage, which is coupled to the first device for transmission of the first useful signal. A second transmission stage for a transmission of the second useful signal is connected to the coding device.
Mit der erfindungsgemäßen Sendeanordnung lassen sich ein erstes sowie ein zweites Nutzsignal erfassen. Während das erste Nutzsignal durch die erste Sendestufe übertragen wird, umfasst die Sendeanordnung verschiedene Mittel zu einer weiteren Verarbeitung des zweiten Nutzsignals. Dabei ist vorgesehen, dem zweiten Nutzsignal Identifikationsmerkmale zuzuordnen, die eine Synchronisation mit dem ersten Nutzsignal erlauben. Zu diesem Zweck enthält die erfindungsgemäße Sendeanordnung ein Analysevorrichtung für eine Analyse von Teilabschnitten des ersten Nutzsignals.With the transmission arrangement according to the invention can be a first and a second useful signal capture. While that first payload signal is transmitted by the first transmission stage, comprises the transmission arrangement various means for further processing of the second useful signal. It is provided, the second useful signal identification features assign, which allow synchronization with the first useful signal. Contains for this purpose the transmission arrangement according to the invention an analysis device for an analysis of subsections of the first useful signal.
Die Analysevorrichtung kann ausgeführt sein, aus diesen Signalen Identifikationsmerkmale zu ermitteln, die einerseits robust gegen Störungen jeglicher Art im Sprach- oder Audio signal sind und andererseits eine Identifikation des jeweiligen Teilabschnittes des Signals ermöglichen. Neben der Verwendung rein analoger Signale lassen sich die Identifikationsmerkmale auch aus kodierten digitalen Nutzsignalen ermitteln. Ebenso können die Identifikationsmerkmale Teile des Audiosignals oder der kodierten Audiodaten enthalten.The Analysis device can be executed to identify identification features from these signals, on the one hand robust against interference of any kind in the voice or audio signal and on the other hand allow identification of the respective subsection of the signal. In addition to the use of purely analog signals can be the identification features also from coded digital useful signals. Likewise, the Identifiers Parts of the audio signal or the coded one Contain audio data.
In einer Ausgestaltung der Erfindung ist daher die erste Vorrichtung zum Erfassen des ersten Nutzsignals für eine Kodierung nach einer Kodierungsart ausgeführt. Beispielsweise ist dies eine μ-law Kodierung, eine GSM Kodierung, eine PCM Kodierung, eine AMR oder AMR-WB Kodierung eine G.711 Kodierung oder eine G.72x Kodierung, wobei x verschiedene Werte annehmen kann. Die letzt genannten Kodierungen bezeichnen verschiedene Verfahren des ITU-T Standards für die Sprachkomprimierung. Die verschiedenen Kodierungsverfahren eignen sich besonders für die Kodierung von Sprach- bzw. Audiosignalen.In An embodiment of the invention is therefore the first device for detecting the first useful signal for coding after a Coding type executed. For example, this is a μ-law Coding, a GSM coding, a PCM coding, an AMR or AMR-WB coding a G.711 coding or a G.72x coding, where x can take different values. The last mentioned codes denote various methods of the ITU-T standard for voice compression. The different coding methods are particularly suitable for coding of speech or audio signals.
Für ein aufeinander abgestimmtes Ausgeben der ersten und zweiten Nutzsignale kann es zweckmäßig sein, wenn die Kodiereinrichtung zusätzlich eine Synchronisationsvorrichtung umfasst. Diese ist geeignet, ein Identifikationsmerkmal eines Teilabschnittes des ersten Nutzsignals zu einem Teilabschnitt des zweiten Nutzsignals zuzuordnen, wobei diese Zuordnung einem vorbestimmten zeitlichen Verhältnis des Teilabschnitts des zweiten Nutzsignals zu dem Teilabschnitt des ersten Nutzsignals entspricht. Zusätzlich kann die Kodiereinrichtung für die Erzeugung von so genannten Zeitstempeln ausgeführt sein. Damit lassen sich die Identifikationsmerkmale und die Teilabschnitte im zweiten Nutzsignal beaufschlagen, wodurch eine Zuordnung bestimmt ist.For one another Coordinated output of the first and second useful signals may be expedient if the encoder in addition a synchronization device. This is suitable Identification feature of a subsection of the first useful signal to assign to a subsection of the second useful signal, wherein this assignment a predetermined time ratio of Part of the second useful signal to the subsection of the first useful signal corresponds. In addition, the encoder for the generation be executed by so-called time stamps. This can be done the identification features and the subsections in the second useful signal apply, whereby an assignment is determined.
In einer anderen Ausgestaltung der Erfindung ist die erste Sendestufe für eine Übertragung auf einem ersten Übertragungskanal und die zweite Sendestufe für eine Übertragung auf einen zweiten Übertragungskanal ausgeführt. Diese können jeweils unterschiedliche Übertragungskanäle aber auch den gleichen Übertragungskanal darstellen. Ebenso ist es möglich, dass erste und zweite Sendestufe eine gemeinsame Sendestufe bilden und erste und zweite Nutzdaten in einen gemeinsamen Übertragungskanal übermitteln.In Another embodiment of the invention is the first transmission stage for a transfer to a first transmission channel and the second transmission stage for a transmission on a second transmission channel executed. these can each different transmission channels but also the same transmission channel represent. It is also possible that first and second transmission stage form a common transmission stage and transmit first and second payload data in a common transmission channel.
Ein weiterer Aspekt der Erfindung betrifft eine Empfangsanordnung für ein aufeinander abgestimmtes Abspielen von Nutzsignalen eines ersten und zweiten Datenstroms. Diese kann einen ersten Zwischenspeicher zum Ablegen eines ersten Nutzsignals oder eine Verzögerungseinheit enthalten. Eine Analysevorrichtung in der zweiten Empfangsanordnung ist mit dem ersten Zwischenspeicher oder der Verzögerungseinheit gekoppelt und ausgeführt, aus dem ersten Nutzsignal wenigstens ein Identifikationsmerkmal für eine Identifikation wenigstens eines ersten Teilabschnittes des ersten Nutzsignals zu ermitteln und bereitzustellen.One Another aspect of the invention relates to a receiving arrangement for one another coordinated playback of useful signals of a first and second Data stream. This can be a first buffer for storing a first useful signal or a delay unit included. An analysis device in the second receiving arrangement is connected to the first latch or the delay unit coupled and executed, at least one identification feature from the first useful signal for one Identification of at least a first subsection of the first Determine and provide useful signal.
Die Empfangsanordnung enthält einen Synchronisator für eine aufeinander abgestimmte Ausgabe des ersten und zweiten Nutzsignals anhand eines Vergleichs von im zweiten Nutzsignal abgelegten Identifikationsmerkmalen mit dem wenigstens einem von der Analysevorrichtung bereitgestellten Identifikationsmerkmal.The Receiving arrangement contains a synchronizer for a concerted output of the first and second useful signal based on a comparison of stored in the second payload identification features with the at least one provided by the analyzer Identification feature.
Durch die Verarbeitung des ersten Datenstroms und die Extrahierung von Identifikationsmerkmalen entfällt die Notwendigkeit, eine bereits bestehende Kommunikationsverbindung und Übertragung des ersten Nutzsignals abzubrechen. Vielmehr ist es möglich, eine neue Kommunikationsverbindung für eine Übertragung eines zweiten Datenstroms aufzubauen, diesen zu empfangen und daraus ein zweites Nutzsignal sowie die Identifikationsmerkmale zu ermitteln, die für eine Synchronisation des zweiten Nutzsignals mit dem ersten Nutzsignal vorgesehen sind. Dadurch können bereits vorhandene Kommunikationsstandards bzw. Technologien weiter verwendet werden.By the processing of the first data stream and the extraction of Identification features deleted the need to have an already existing communication connection and transfer of the abort the first useful signal. Rather, it is possible to have one new communication connection for a transmission to build a second data stream to receive this and from it determine a second useful signal and the identification features, the for a synchronization of the second useful signal with the first useful signal are provided. Thereby can already existing communication standards or technologies be used.
In einem Aspekt der Erfindung enthält die Empfangsanordnung eine Vergleichsvorrichtung, die zur Ausgabe eines Steuersignals in Antwort auf einen Vergleich der im zweiten Datenstrom abgelegten Identifikationsmerkmalen mit den von der Analysevorrichtung bereitgestellten Identifikationsmerkmalen ausgeführt ist. Dieses Steuersignal dient zu einer Abstimmung der Abgabe des ersten und zweiten Nutzsignals.In one aspect of the invention, the receiving arrangement includes a comparison device for outputting a control signal in response to a comparison of the identification features stored in the second data stream with the identification features provided by the analysis device is executed. This control signal is used to tune the output of the first and second useful signal.
Die Vergleichsvorrichtung ist in einem Aspekt der Erfindung für die Analyse einer Ähnlichkeit zwischen den abgelegten Identifikationsmerkmalen und dem wenigstens einen bereitgestellten Identifikationsmerkmal ausgeführt. Durch die Analyse einer Ähnlichkeit wird es möglich, auch bei einer geringen Störung des ersten bzw. zweiten Nutzsignals während einer Datenübertragung eine Identifikation sowie Zuordnung für eine synchrone Ausgabe zu ermöglichen.The Comparator is in one aspect of the invention for analysis a similarity between the deposited identification features and the at least one provided identification feature executed. By analyzing a similarity will it be possible even with a slight disturbance of the first or second useful signal during a data transmission an identification and assignment for a synchronous output too enable.
In einem anderen Aspekt der Erfindung ist die Vergleichsvorrichtung mit einer Erzeugung des ersten Nutzsignals aus den Identifikationsmerkmalen ausgeführt. Dies ist beispielsweise dann zweckmäßig, wenn die Identifikationsmerkmale im zweiten Datenstrom eine kodierte Form des ersten Nutzsignals darstellen. Bei dieser Ausgestaltung ist es möglich, eine Entscheidung darüber zu treffen, welche erste Nutzsignals ausgegeben werden soll, das aus dem ersten Datenstrom ermittelte oder aus den im zweiten Datenstrom enthaltenen Identifikationsmerkmalen erzeugte.In Another aspect of the invention is the comparison device executed with a generation of the first useful signal from the identification features. This is useful, for example, if the identification features in the second data stream encoded Represent the shape of the first useful signal. In this embodiment is it possible to have one Decision about it to make which first payload is to be output, the from the first data stream or from those in the second data stream generated identification features generated.
Da im Allgemeinen die übertragenen Signale an die Empfangsanordnung gemäß einem Kommunikationsstandard kodiert sind, umfasst in einem Aspekt der Erfindung die Empfangsanordnung eine erste Kodiereinrichtung. Die Kodiereinrichtung ist zur Erzeugung des ersten Nutzsignals aus einem ersten von der Empfangsanordnung empfangenen Signal ausgebildet. Weiterhin kann eine zweite Dekodiereinrichtung vorgesehen sein, die zur Erzeugung des zweiten Nutzsignals aus einem zweiten empfangenen Signal ausgeführt ist. Es ist möglich, dass die Empfangsanordnung für einen Empfang des ersten und des zweiten Signals in einem gemeinsamen Übertragungskanal oder in verschiedenen Übertragungskanälen ausgebildet ist.There in general, the transferred Signals to the receiving device according to a communication standard encoded in one aspect of the invention comprises the receiving arrangement a first coding device. The encoder is for generation the first payload signal from a first one of the receiving device received signal formed. Furthermore, a second decoding device be provided for generating the second useful signal from a second received signal is executed. It is possible that the receiving arrangement for a reception of the first and the second signal in a common transmission channel or formed in different transmission channels is.
Bei dem erfindungsgemäßen System handelt es sich um eine Sendeanordnung, die zur Abgabe eines ersten sowie eines zweiten Signals ausgebildet ist, wobei das zweite Signal Identifikationsmerkmale umfasst, die von dem ersten Signal oder aus darin enthaltenen Informationen abgeleitet sind. Die Empfangsanordnung ist zur Ermittlung von Identifikationsmerkmalen aus dem ersten Signal ausgeführt und enthält Mittel zu einer aufeinander abgestimmten, insbesondere zu einer synchronen Ausgabe von aus dem ersten und zweiten Signal abgeleiteten Signalen. Die Ausgabe erfolgt abhängig durch einen Vergleich der ermittelten Identifikationsmerkmale mit dem im zweiten Signal enthaltenen Identifikationsmerkmal. Dadurch kann die Ausgabe eines beliebigen Inhalts eines zweiten Signals zeitlich abgestimmt zu einer Ausgabe des ersten Signals erfolgen. Das zweite Signal kann beispielsweise Audiosignale, Videosignale oder auch computergestützte Bildschirmpräsentationen umfassen.at the system according to the invention it is a sending order that is used to deliver a first and a second signal is formed, wherein the second signal Identification features included from the first signal or from Information contained therein is derived. The receiving arrangement is for identifying identification features from the first signal accomplished and contains Means for a concerted, especially one synchronous output derived from the first and second signals Signals. The output depends on a comparison the identified identification features with the in the second signal contained identification feature. This can cause the output of a arbitrary content of a second signal timed to an output of the first signal. The second signal can For example, audio signals, video signals or computer-assisted slide shows include.
Nach einem zweiten Hauptaspekt stellt die Erfindung bereit ein Verfahren zur Synchronisation mehrerer Datenströme, die jeweils eine Mehrzahl aufeinander folgender Teilabschnitte, ggf. Datenframes, aufweisen, wobei wenigstens ein zweiter der Datenströme in Zuordnung zu Teilabschnitten des zweiten Datenstroms auf Teilabschnitte wenigstens eines ersten der Datenströme verweisende Identifikationsmerkmale enthält und über die Identifikationsmerkmale einander zugeordnete Teilabschnitte der Datenströme ermittelt werden, um die Datenströme zu synchronisieren. Es kann sich bei den zu synchronisierenden Datenströmen um übertragene, ggf. über verschiedene Kommunikationskanäle übertragene Datenströme handeln. Dies ist aber nicht zwingend.To In a second major aspect, the invention provides a method for synchronizing a plurality of data streams, each a plurality of each other the following subsections, possibly data frames, having at least a second of the data streams in association with subsections of the second data stream on subsections at least a first of the data streams referring identification features contains and over the identification features mutually associated subsections the data streams be determined to synchronize the data streams. It can at the data streams to be synchronized to transmitted, possibly over different Communication channels transmitted data streams act. This is not mandatory.
Weiterbildend wird vorgeschlagen, dass für die Zuordnung eines jeweiligen Teilabschnitts des ersten Datenstroms zu einem jeweiligen Teilabschnitt des zweiten Datenstroms mehrere, auf verschiedene Teilabschnitte des ersten Datenstroms verweisende Identifikationsmerkmale berücksichtigt werden. Auf diese Weise ist die Synchronisation besonders gut und auch mit einer gewissen Fehlertoleranz möglich, was insbesondere im Falle von über ggf. gestörte Kommunikationskanäle zweckmäßig ist. Störungen eines jeweiligen Kommuniationskanals könnten dazu führen, dass im zweiten Datenstrom enthaltene Identifikationsmerkmale oder der erste Datenstrom verfälscht werden, was weniger problematisch ist, wenn bei der Synchronisation auf verschiedene Teilabschnitte des ersten Datenstroms verweisende Identifikationsmerkmale berücksichtigt werden.A development It is suggested that for the Assignment of a respective subsection of the first data stream to a respective subsection of the second data stream several, Identification features that refer to different subsections of the first data stream considered become. That way the synchronization is especially good and even with a certain fault tolerance possible, which is especially true in the Trap of over possibly disturbed communication channels is appropriate. Disruptions of a respective channels of communication cause that in the second data stream contained identification features or the first data stream is corrupted which is less problematic when synchronizing referring to different sections of the first data stream Identification features considered become.
Um eine eindeutige Identifikation einander zugeordneter Teilabschnitte der Datenströme zu ermöglichen, ist es zweckmäßig wenn für einen jeweiligen Teilabschnitt des ersten Daten stroms ein Satz von mehreren auf diesen Teilabschnitt verweisenden Identifikationsmerkmalen im zweiten Datenstrom enthalten ist und bei der Ermittlung einander zugeordneter Teilabschnitte der Datenströme berücksichtigt wird.Around a unique identification of mutually associated subsections the data streams to enable it is appropriate if for one respective subsection of the first data stream a set of several in this subsection referring identification features in second stream is included and in determining each other assigned subsections of the data streams is taken into account.
Der erste Datenstrom kann den im zweiten Datenstrom übertragenen Identifikationsmerkmalen entsprechende oder komplementäre Identifikationsmerkmale enthalten. Dies ist aber nicht zwingend. Es könnten entsprechende Identifikationsmerkmale auch erst noch zu bestimmen, beispielsweise zu berechnen sein. Allgemein wird vorgeschlagen, dass zu Teilabschnitten des ersten Datenstroms jeweils wenigstens ein Identifikationsmerkmal, ggf. ein Satz von Identifikationsmerkmalen, ermittelt wird und mit im zweiten Datenstrom enthaltenden Identifikationsmerkmalen bzw. Identifikationsmerkmalssätzen verglichen wird. Die Ermittlung von Identifikationsmerkmalen umfasst insbesondere auch, dass die Identifikationsmerkmale erst noch ermittelt, beispielsweise aus im ersten Datenstrom enthaltenen Daten berechnet oder sonstwie bestimmt werden, wie schon angesprochen. Ferner ist umfasst, dass die Identifikationsmerkmale Teildaten des ersten Datenstroms darstellen.The first data stream may include the identification features corresponding or complementary to the identification features transmitted in the second data stream. This is not mandatory. It could also be necessary to determine appropriate identification features, for example, to calculate. In general, it is proposed that in each case at least one identification feature, possibly a set of identification features, is determined for subsections of the first data stream and with identifications contained in the second data stream characteristics or identification feature sets is compared. The identification of identification features also includes, in particular, that the identification features are still being determined, for example, calculated from data contained in the first data stream or otherwise determined, as already mentioned. It is further included that the identification features represent partial data of the first data stream.
Weiterbildend wird vorgeschlagen, dass der Vergleich durch Anwendung wenigstens eines Vergleichskriteriums, ggf. eines Abstandskriteriums, erfolgt, vorzugsweise unter Ermittlung wenigstens eines Vergleichsmaßes aus dem Vergleichskriterium bzw. wenigstens eines Abstandsmaßes aus dem Abstandskriterium in einem die Identifikationsmerkmale enthaltenden abstrakten Merkmalsraum.A development It is suggested that the comparison be made by applying at least a comparison criterion, if necessary a distance criterion, takes place, preferably with determination of at least one comparative measure the comparison criterion or at least one distance measure the distance criterion in one of the identification features containing abstract feature space.
Nach einer zweckmäßigen Ausgestaltung ist vorgesehen, dass das durch mehrfache Anwendung des Vergleichskriteriums zwi schen einerseits einem für einen Aufpunkt-Teilabschnitt des ersten Datenstroms ermittelten Identifikationsmerkmal bzw. Identifikationsmerkmalssatz und andererseits mehreren, auf verschiedene Teilabschnitte des ersten Datenstroms verweisenden, mit dem zweiten Datenstrom übertragenen Identifikationsmerkmalen bzw. Identifikationsmerkmalssätzen mehrere sich einerseits auf das/den Identifikationsmerkmal bzw. Identifikationsmerkmalssatz des Aufpunkt-Teilabschnitts und andererseits auf ein/einen bestimmtes/bestimmten, im zweiten Datenstrom enthaltenes/enthaltenen Identifikationsmerkmal bzw. Identifikationsmerkmalssatz beziehende Vergleichsmaße ermittelt werden, die jeweils dem Aufpunkt-Teilabschnitt und einem bestimmten Teilabschnitt des zweiten Datenstroms zugeordnet sind oder/und einem Teilabschnitt-Abstand zwischen dem Aufpunkt-Teilabschnitt und dem bestimmten Teilabschnitt des zweiten Datenstroms.To an expedient embodiment is provided that by multiple application of the comparison criterion between on the one hand a for determined an on-point subsection of the first data stream Identification feature or identifier feature set and on the other hand several, to different sections of the first data stream referring, transmitted with the second data stream identification features or identification feature sets several on the one hand on the / the identification feature or Identification feature set of the sub-point subsection and on the other hand to a particular / specific, contained / contained in the second data stream Identification feature or Identifikationsmerkmalssatz referring Comparative measurements be determined, each of the Aufpunkt subsection and a certain subsection of the second data stream are assigned and / or a subsection distance between the subsection section and the particular subsection of the second data stream.
Alternativ und zusätzlich kann vorteilhaft vorgesehen sein, dass das durch mehrfache Anwendung des Vergleichskriteriums zwischen einerseits einem in Zuordnung zu einem Aufpunkt-Teilabschnitt des zweiten Datenstroms in diesem enthaltenen Identifikationsmerkmal bzw. Identifikationsmerkmalssatz und andererseits mehreren, für verschiedene Teilabschnitte des ersten Datenstroms ermittelten Identifikationsmerkmalen bzw. Identifikationsmerkmalssätzen mehrere sich einerseits auf das/den dem Aufpunkt-Teilabschnitt zugeordnete(n) Identifikationsmerkmal bzw. Identifikationsmerkmalsatz und andererseits auf ein/einen für einen bestimmten Teilabschnitt des ersten Datenstroms ermitteltes/ermittelten Identifikationsmerkmal bzw. Identifikationsmerkmalssatz beziehende Vergleichsmaße ermittelt werden, die jeweils dem Aufpunkt-Teilabschnitt und einem bestimmten Teilabschnitt des ersten Datenstroms zugeordnet sind oder/und einem Teilabschnitt-Abstand zwischen dem Aufpunkt-Teilabschnitt und dem bestimmten Teilabschnitt des ersten Datenstroms.alternative and additionally can be advantageously provided that by multiple use of the comparison criterion between, on the one hand, an assignment to a subsections section of the second data stream in this contained identification feature Identification feature set and on the other hand several, for different sections of the first data stream identified identification features or Identification feature sets several on the one hand to the / the Aufpunkt-Teilabschnitt associated (s) Identification feature or identification feature set and on the other hand on one for one determined / determined a particular subsection of the first data stream Identification feature or Identifikationsmerkmalssatz referring Comparative measurements be determined, each of the Aufpunkt subsection and a certain subsection of the first data stream are assigned and / or a subsection distance between the subsection section and the particular subsection of the first data stream.
Weiterbildend wird vorgeschlagen, dass auf Grundlage der ermittelten Vergleichsmaß, ggf. durch Bestimmung eines minimalen oder maximalen Vergleichsmaßes, einander zugeordnete Teilabschnitte des ersten und des zweiten Datenstroms ermittelt werden. Es wird speziell daran gedacht, dass auf Grundlage der ermittelten Vergleichsmaße, ggf. durch Bestimmung eines minimalen oder maximalen Vergleichsmaßes, ein Synchronisationsmaß, ggf. ein einem Teilabschnitt-Abstand entsprechendes Verschiebemaß, ermittelt wird, welches wenigstens einen Teilabschnitt bzw. Teilabschnitte des ersten Datenstroms wenigstens einem Teilabschnitt bzw. Teilabschnitten des zweiten Datenstroms einander paarweise zuordnet.A development It is proposed that, on the basis of the determined comparative measure, if necessary by determining a minimum or maximum degree of comparison, each other associated subsections of the first and second data streams be determined. It is specially thought that based the determined comparative dimensions, if necessary, by determining a minimum or maximum comparative measure Synchronisationsmaß, if necessary, a shift distance corresponding to a partial distance is determined which is at least one subsection or subsections of the first data stream of at least one subsection or subsections assigns the second data stream in pairs.
Nach einer besonders bevorzugten Ausgestaltung des erfindungsgemäßen Verfahrens ist vorgesehen, dass für mehrere verschiedene Aufpunkt-Teilabschnitte des ersten bzw. zweiten Datenstroms jeweils durch mehrmalige Anwendung des Vergleichskriterums mehrere Sätze von Vergleichsmaßen ermittelt werden. In diesem Zusammenhang wird weiterbildend als besonders bevorzugt, weil besonders fehlertolerant, vorgeschlagen, dass einem gleichen Teilabschnitt-Abstand zugeordnete Vergleichsmaße der Sätze von Vergleichsmaßen zu einem jeweiligen Kombinations-Vergleichsmaß miteinander kombiniert werden. Vorzugsweise erfolgt dann die Ermittlung einander zugeordneter Teilabschnitte des ersten und des zweiten Datenstroms auf Grundlage der ermittelten Kombinations-Vergleichsmaße, ggf. durch Bestimmung eines minimalen oder maximalen Kombinations-Vergleichmaßes.To a particularly preferred embodiment of the method according to the invention is provided for that several different subpopulation sections of the first and second Data stream in each case by repeated application of the comparison criterion several sentences of comparative measures be determined. In this context, further education as particularly preferred, because particularly fault-tolerant, proposed that a comparison of the sets of Comparative measurements be combined with each other to a respective combination-Vergleichmaß. Preferably, then the determination of mutually associated subsections of first and second data streams based on the determined Combination comparison dimensions, if necessary by determining a minimum or maximum combination comparison measure.
Häufig wird es zweckmäßig sein, wenn auf Grundlage der ermittelten Kombinations-Vergleichsmaße, ggf. durch Bestimmung eines minimalen oder maximalen Kombinations-Vergleichsmaßes, ein Synchronisationsmaß ermittelt wird, beispielsweise ein einem Teilabschnitt-Abstand entsprechendes Verschiebemaß. Das Synchronisationsmaß bzw. das Verschiebemaß ordnet wenigstens einen Teilabschnitt bzw. Teilabschnitte des ersten Datenstroms wenigstens einem Teilabschnitt bzw. Teilabschnitten des zweiten Datenstroms einander paarweise zu.Frequently becomes be it useful if, on the basis of the determined combination comparison dimensions, if necessary by determining a minimum or maximum combination measure Synchronization measure determined is, for example, a Teilabschnitt distance corresponding Shifting magnitude. The synchronization measure or the shift measure orders at least one subsection or subsections of the first data stream at least a subsection or subsections of the second data stream in pairs.
Vorteilhaft kann das jeweilige Kombinations-Vergleichsmaß einer gewünschtenfalls skalierten Summe oder einem gewünschtenfalls skalierten Produkt oder einer anderen mathematischen Kombination von dem gleichen Teilabschnitt-Abstand zugeordneten Vergleichsmaßen entsprechen, die mit einem jeweiligen eingehenden Vergleichsmaß zumindest monoton ansteigt oder zumindest monoton abfällt.Advantageous For example, the respective combination comparison measure of an optionally scaled sum or if desired scaled product or another math combination correspond to comparative measures assigned to the same subdivision distance, those with a respective incoming comparative measure at least increases monotonically or at least monotonically decreases.
Eine für die Praxis besonders zweckmäßige Ausgestaltung des Verfahrens sieht vor, dass die Kombinations-Vergleichsmaße aus einem anfänglichen Satz von Kombinations-Vergleichsmaßen oder einem als Ausgangssatz dienenden Satz von Vergleichsmaßen iterativ durch sukzessive Berücksichtigung weiterer Teilabschnitte des ersten Datenstroms oder/und des zweiten Datenstroms bzw. durch Berücksichtigung weiterer Sätze von Vergleichsmaßen ermittelt werden. Ferner kann vorgesehen sein, dass ein jeweiliger Satz von Vergleichsmaßen durch Berücksichtigung weiterer Teilabschnitte des ersten bzw. zweiten Datenstroms um weitere Vergleichsmaße ergänzt wird.A for the Practice particularly expedient design of the method provides that the combination comparative dimensions of a initial Set of combination comparison measures or one as an initial sentence serving set of comparative measures iteratively by successive consideration further sections of the first data stream and / or the second Data stream or by consideration further sentences determined by comparative measures become. Furthermore, it can be provided that a respective set of Comparative measurements by consideration further sections of the first and second data stream to further Comparative measurements added becomes.
Es wird vor allem (aber nicht ausschließlich) daran gedacht, dass Mediendatenströme synchronisiert werden. Beispielsweise kann wenigstens ein erster Datenstrom umfassend einen Audio datenstrom oder Sprachdatenstrom mit wenigstens einem zweiten Datenstrom umfassend wenigstens einen weiteren Audiodatenstrom oder Sprachdatenstrom oder/und umfassend wenigstens einen Videodatenstrom synchronisiert werden.It is mainly (but not exclusively) thought of Media streams be synchronized. For example, at least a first Data stream comprising an audio data stream or voice data stream with at least one second data stream comprising at least one further Audio stream or voice data stream and / or comprising at least to synchronize a video stream.
Nach einer bevorzugten, für die Praxis besonders relevanten Ausgestaltung ist vorgesehen, dass der erste Datenstrom ein Codec-kodierter Datenstrom ist, wobei von einer auf einem Codec basierenden Kodiereinrichtung ausgegebene Parameter oder Daten in den ersten Datenstrom aufgenommen werden, um eine Rekonstruktion von dem ersten Datenstrom zugrundeliegender Audio- oder Sprachinformation durch Dekodierung des ersten Datenstroms zu ermöglichen, und zumindest teilweise in den zweiten Datenstrom aufgenommen werden, um eine Synchronisation des ersten mit dem zweiten Datenstrom zu ermöglichen. Es wird in diesem Zusammenhang beispielsweise daran gedacht, dass der Codec ein auf einer Prädiktionsanalyse, vorzugsweise linearen Prädikationsanalyse, der zugrundeliegenden Audio- oder Sprachinformation beruhender Codec ist, insbesondere ein LP- oder Linear Predictive Coding- Codec oder ein CELP- oder Code Excited Linear Predictive Coding- Codec. Speziell kann der Codec ein Sprachcodec sein und auf einem Sprachmodell beruhen.To a preferred, for the practice particularly relevant embodiment is provided that the first data stream is a codec coded data stream, wherein a codec based encoder output Parameters or data are included in the first data stream, to a reconstruction of the first data stream underlying Audio or voice information by decoding the first data stream to enable and at least partially included in the second data stream, to synchronize the first with the second data stream enable. For example, in this context, it is thought that the codec on a prediction analysis, preferably linear prediction analysis, the underlying audio or Speech information based codec is, in particular an LP or Linear Predictive Coding Codec or a CELP or Code Excited Linear Predictive Coding Codec. Specifically, the codec can be a voice codec be based on a language model.
Auch betreffend den zweiten Datenstrom wird daran gedacht, dass dieser ein Codec-kodierter Datenstrom ist, wobei von einer auf einem Codec basierenden Kodiereinrichtung ausgegebene Parameter oder Daten in den zweiten Datenstrom aufgenommen werden, um eine Rekonstruktion von dem zweiten Datenstrom zugrundeliegender Audio- oder Sprachinformation bzw. Videoinformation durch Dekodierung des zweiten Datenstroms zu ermöglichen.Also concerning the second data stream, it is thought that this a codec-coded data stream is one of which is on a codec based encoder output parameters or data in the second data stream will be added to a reconstruction from the second data stream underlying audio or speech information or video information by decoding the second data stream to enable.
Man kann den ersten und den zweiten Datenstrom unmittelbar oder direkt synchronisieren, indem die Synchronisation in Bezug auf diese Datenströme selbst durchgeführt wird. Alternativ ist aber auch möglich, dass der erste und der zweite Datenstrom mittelbar oder indirekt synchronisiert werden, indem durch Dekodierung oder Umkodierung des ersten und des zweiten Datenstroms erhaltene Folgedatenströme synchronisiert werden.you can direct or direct the first and second data stream synchronize by synchronizing these data streams themselves carried out becomes. Alternatively, it is also possible that the first and the second data stream indirectly or indirectly be synchronized by decoding or recoding the first and second data streams obtained synchronized sequence data become.
Allgemein wird in Bezug auf das erfindungsgemäße Verfahren und die verschiedenen angesprochenen Ausgestaltungsmöglichkeiten weiter vorgeschlagen, dass der erste Datenstrom und der zweite Datenstrom durch eine erste Instanz erzeugt und zu einer zweiten Instanz übertragen werden, und dass der erste und der zweite Datenstrom durch die zweite Instanz oder eine die Übertragung zwischen der ersten und der zweiten Instanz vermittelnde Zwischeninstanz synchronisiert werden, wobei im Falle der Zwischeninstanz diese den ersten und den zweiten Datenstrom gewünschtenfalls zu einem Kombinations-Datenstrom kombiniert und zur zweiten Instanze überträgt, vorzugsweise anstelle des ersten und des zweiten Datenstroms.Generally is in relation to the inventive method and the various addressed design options further proposed that the first data stream and the second data stream generated by a first instance and transmitted to a second instance be, and that the first and the second data stream through the second instance or one the transmission intermediary instance mediating between the first and the second instance synchronized, and in the case of the intermediate instance, this if desired, the first and second data streams to a combined data stream combined and transmitted to the second instance, preferably instead of first and second data streams.
In einem Kommunikationsumfeld, ggf. Mobilfunk-Telekommunikationsumfeld, kann wenigstens ein erstes Benutzer-Endgerät die oder eine erste Instanz und wenigstens ein zweites Benutzer-Endgerät die oder eine zweite Instanz bilden. Erfolgt die Synchronisation durch eine Zwischeninstanz, so kann wenigstens eine Infrastruktureinrichtung des Kommunikationsumfelds die oder eine Zwischeninstanz bilden, insbesondere beispielsweise eine Einrichtungen des die Basisstation usw. umfassenden Mobilfunk-Telekommunikationssystems.In a communication environment, possibly mobile telecommunications environment, at least one first user terminal the or a first instance and at least one second user terminal the or form a second instance. If the synchronization by a Interim instance, so at least one infrastructure facility the communication environment that forms an intermediate instance, in particular, for example, a device of the base station etc. comprehensive mobile telecommunication system.
Im Falle einer bidirektionalen oder multidirektionalen Kommunikation kann das erste Benutzer-Endgerät in Bezug auf we nigstens einen weiteren ersten Datenstrom und wenigstens einen weiteren zweiten Datenstrom zugleich auch eine zweite Instanz und kann das zweite Benutzer-Endgerät in Bezug auf den weiteren ersten Datenstrom und den weiteren zweiten Datenstrom zugleich auch eine erste Instanz bilden.in the Case of bidirectional or multidirectional communication can be the first user terminal with respect to at least one other first data stream and at least another second data stream at the same time a second instance and may the second user terminal with respect to the other first data stream and the other second data stream at the same time to form a first instance.
Weiterbildend wird vorgeschlagen, dass der erste und der zweite Datenstrom bzw. der weitere erste und der weitere zweite Datenstrom über verschiedene Übertragungskanäle oder/und über auf Grundlage verschiedener Übertragungsstandards zwischen den Instanzen übertragen werden. Dabei kann zweckmäßig vorgesehen sein oder in gewissen Situationen auftreten, dass einer vom ersten und zweiten Datenstrom bzw. einer vom weiteren ersten oder zweiten Datenstrom über eine leitungs- oder schaltungs-vermittelte Verbindung, vorzugsweise zumindest abschnittsweise per Funk nach einem Mobilfunktelefonie-Standard, übertragen wird und der andere vom ersten und zweiten Datenstrom bzw. vom weiteren ersten oder zweiten Datenstrom über eine paketvermittelte Verbindung, vorzugsweise nach einem Netzwerk- oder Internet-Übertragungsstandard, übertragen wird. Es wird in diesem Zusammenhang vor allem daran gedacht, dass der erste bzw. der weitere erste Datenstrom über die leitungs- oder schaltungs-vermittelte Verbindung und der zweite bzw. der weitere zweite Datenstrom über die paketvermittelte Verbindung übertragen wird.In a further development, it is proposed that the first and the second data stream or the further first and the further second data stream are transmitted via different transmission channels and / or over between the instances on the basis of various transmission standards. In this case, it may be expedient or occur in certain situations that one of the first and second data stream or one of the further first or second data stream via a circuit-switched or circuit-switched connection, preferably at least partially by radio according to a mobile telephony standard is transmitted and the other from the first and second data stream and from another first or second data stream over a packet-switched connection, preferably according to a network or Internet transmission standard is transmitted. In this connection, it is primarily thought that the first or the further first data stream is transmitted via the circuit or circuit-switched connection and the second or the further second data stream is transmitted via the packet-switched connection.
Die erfindungsgemäße Synchronisation der Datenströme ist dann besonders zweckmäßig, wenn einer vom ersten und zweiten Datenstrom bzw. einer vom weiteren ersten oder zweiten Datenstrom gegenüber dem anderen vom ersten und zweiten Datenstrom bzw. vom weiteren ersten oder zweiten Datenstrom bei der Übertragung verzögert wird, ggf. mit variabler, sich zeitlich ändernder Verzögerungszeit.The inventive synchronization the data streams is particularly useful if one from the first and second data stream or one of the other first or second data stream the other from the first and second data stream and from the other first or second data stream is delayed during transmission, possibly with variable, time-varying delay time.
Nach einer für die Praxis besonders wichtigen Ausgestaltung des Verfahrens ist vorgesehen, dass zuerst die Erzeugung und Übertragung des ersten bzw. weiteren ersten Datenstroms einsetzt und später dann die Erzeugung und Übertragung des zweiten bzw. weiteren zweiten Datenstroms und dann die Synchronisation der Datenströme einsetzt. So kann beispielsweise zuerst ein normales Telefongespräch aufgenommen werden und dieses dann zu einem Videotelefoniegespräch oder einer Telefonkonferenz mit mehreren Teilnehmern überführt werden, ohne dass das ursprüngliche Telefongespräch unterbrochen wird. Dabei soll es nicht ausgeschlossen sein, dass das ursprüngliche Telefongespräch nur so lange weitergeführt wird, bis ein nahtloser und unterbrechungsfreier Übergang zu einer Telefonkonferenz bzw. einem Videotelefoniegespräch erreicht ist. Sofern der zweite Datenstrom auch die Sprachinformationen des ersten Datenstroms enthält, kann nach erfolgter Synchronisation die Kommunikation alleine mittels des zweiten Datenstroms erfolgen und der erste Datenstrom dann abgebrochen werden.To one for the practice is particularly important embodiment of the method provided that first the generation and transmission of the first or another first data stream and then later the generation and transmission of the second or further second data stream and then the synchronization the data streams starts. For example, a normal telephone call can be recorded first and then this to a video calling call or be transferred to a conference call with multiple participants without the original Telephone conversation interrupted becomes. It should not be excluded that the original Telephone conversation only continued for so long until a seamless and uninterrupted transition reached to a conference call or a video call. If the second data stream and the language information of the first Contains data stream, can after synchronization, the communication alone means of the second data stream and the first data stream is then aborted become.
Das erfindungsgemäße Verfahren nach dem zweiten Aspekt kann zweckmäßig durchgeführt werden im Zusammenhang mit der Durchführung des Verfahrens nach dem ersten Hauptaspekt oder als Teilverfahren des Verfahrens nach dem ersten Hauptaspekt. Aus den Erfindungs- und Weiterbildungsvorschlägen zum Verfahren nach dem ersten Hauptaspekt ergeben sich mögliche weitere Verfahrensmerkmale des Verfahrens nach dem zweiten Hauptaspekt.The inventive method according to the second aspect can be carried out appropriately in connection with the implementation of the method according to the first main aspect or as a sub-procedure of the method according to the first main aspect. From the invention and training suggestions for the procedure according to the first main aspect there are possible further Process features of the method according to the second main aspect.
Die Erfindung stellt nach dem zweiten Hauptaspekt ferner ein System zur Durchführung des Verfahrens nach dem zweiten Hauptaspekt bereit, mit wenigstens einer ersten Systemkompo nente, die dafür ausgeführt ist, den ersten Datenstrom und den zweiten Datenstrom zu erzeugen und zu einer zweiten Systemkomponente zu übertragen, wobei die zweite Systemkomponente oder wenigstens eine die Übertragung zwischen der ersten und der zweiten Systemkomponente vermittelnde Zwischenkomponente des Systems dafür ausgeführt ist, den ersten und den zweiten Datenstrom zu synchronisieren. Es wird vor allem, aber nicht ausschließlich, daran gedacht, dass das System ein Kommunikationssystem, ggf. Mobilfunk-Telekommunikationssystem, ist, oder ein Mobilfunk-Telekommunikationssystem umfasst, wobei wenigstens ein erstes Benutzer-Endgerät die oder eine erste Systemkomponente und wenigstens ein zweites Benutzer-Endgerät die oder eine zweite Systemkomponente bildet. Die erste und zweite Systemkomponente kann die erste und zweite Instanz des erfindungsgemäßen Verfahrens darstellen.The The invention further provides a system according to the second main aspect to carry out of the method according to the second main aspect, with at least a first Systemkompo component, which is designed for the first data stream and generate the second data stream and a second system component transferred to, wherein the second system component or at least one of the transmission mediating between the first and second system components Intermediate component of the system is designed for, the first and the to synchronize the second data stream. It will be mostly, but not exclusively, thought that the system would be a communication system, possibly a mobile telecommunication system, is, or a cellular telecommunications system wherein at least a first user terminal comprises the or a first system component and at least one second user terminal the or forms a second system component. The first and second system components may be the first and second instance of the method according to the invention represent.
Erfolgt die Synchronisation durch eine Zwischenkomponente des Systems, so kann eine Infrastruktureinrichtung des Kommunikationssystems die oder eine Zwischenkomponente bilden. Die Zwischenkomponente kann die Zwischeninstanz des erfindungsgemäßen Verfahrens darstellen.He follows the synchronization by an intermediate component of the system, so can an infrastructure of the communication system the or form an intermediate component. The intermediate component can be the Represent intermediate instance of the method according to the invention.
Bevorzugt ist vorgesehen, dass das System für eine bidirektionale oder multidirektionale Kommunikation ausgeführt ist, wobei das erste Benutzer-Endgerät in Bezug auf wenigstens einen weiteren ersten Datenstrom und wenigstens einen weiteren zweiten Datenstrom zugleich auch eine zweite Systemkomponente und das zweite Benutzer-Endgerät in Bezug auf den weiteren ersten Datenstrom und den weiteren zweiten Datenstrom zugleich auch eine erste Systemkomponente bildet.Prefers is provided that the system for bidirectional or multidirectional communication is performed, wherein the first user terminal in relation to at least one further first data stream and at least one another second data stream at the same time a second system component and the second user terminal with respect to the further first data stream and the other second At the same time, the data stream also forms a first system component.
Das System kann sich durch weitere Vorrichtungsmerkmale auszeichnen, die sich aus den Erläuterungen zum System und den Vorrichtungen nach dem ersten Hauptaspekt der Erfindung ergeben.The System can be characterized by further device features, resulting from the explanations to the system and the devices according to the first main aspect of Invention result.
Bereitgestellt wird vor allem auch ein Benutzer-Endgerät, ggf. Mobiltelefon, für ein erfindungsgemäßes System, wobei das Benutzer-Endgerät dafür ausgeführt ist, bei der Durchführung des Verfahrens nach dem zweiten Hauptaspekt der Erfindung den ersten und zweiten Datenstrom zu erzeugen, insbesondere auf Grundlage eingegebener bzw. erfasster Audio- oder Sprach-Information und Video-Information, und die Datenströme abzusenden, ggf. über verschiedene Kommunikationskanäle bzw. auf Grundlage verschiedener Übertragungsstandards, oder/und wobei das Benutzer-Endgerät dafür ausgeführt ist, bei der Durchführung des Verfahrens nach dem zweiten Hauptaspekt der Erfindung den ersten und zweiten Datenstrom bzw. den weiteren ersten und weiteren zweiten Datenstrom zu empfangen und zu synchronisieren, insbesondere für eine zeitlich synchrone Ausgabe vermittels der Datenströme übertragener Audio- oder Sprach-Information und Video-Information.Provided Above all, a user terminal, possibly a mobile phone, for a system according to the invention, the user terminal designed for that during execution of the method according to the second main aspect of the invention the first and generate second data stream, in particular based on input or acquired audio or voice information and video information, and the data streams to send, if necessary over different communication channels or based on various transmission standards, or / and where the user terminal designed for, at the implementation of the method according to the second main aspect of the invention the first and the second data stream or the further first and further second Data stream to receive and synchronize, especially for a time synchronous output by means of the data streams of transmitted audio or voice information and video information.
Das Benutzer-Endgerät kann eine Sendeanordnung oder/und eine Empfangsanordnung nach dem ersten Hauptaspekt der Erfindung, wie oben angesprochen, umfassen.The User terminal a transmitting device and / or a receiving device according to The first main aspect of the invention as mentioned above.
Das erfindungsgemäße System kann mehrere Benutzer-Endgeräte wie angesprochen als erste Systemkomponente oder/und als zweite Systemkomponente umfassen.The inventive system can have multiple user terminals as mentioned as the first system component and / or as the second System component include.
Im Folgenden wird die Erfindung anhand verschiedener Ausführungsbeispiele unter Zuhilfenahme der Zeichnung im Detail erläutert. Es zeigen:in the The invention will be described below with reference to various embodiments explained in detail with the aid of the drawing. Show it:
Im Regelfall umfasst ein System für eine Kommunikation die folgenden Bestandteile. Zum einen ist ein Sender vorgesehen, der die zu übertragenen Nutzdaten erfasst und nach einem Kommunikationsstandard verarbeitet. Die so verarbeiteten und gegebenenfalls aufbereiteten Daten werden an ein Kommunikationsnetzwerk weitergegeben. Dieses enthält im Regelfall mehrere einzelne Knoten, die das Nutzsignal weiterreichen. Je nach gewählter Kommunikationsverbindung kann es vorkommen, dass das Nutzsignal nochmals verarbeitet bzw. in ein anderes Datenformat umgewandelt wird. Am Ende des Systems ist das Netzwerk wiederum mit der Empfangseinheit gekoppelt, die die übertragenen Daten wieder in das Nutzsignal umwandelt.in the As a rule, a system for a communication the following components. For one thing is one Transmitter provided to transmit the User data collected and processed according to a communication standard. The processed and possibly processed data will be passed on to a communication network. This usually contains several individual nodes, which pass on the useful signal. Depending on selected Communication connection, it may happen that the useful signal reprocessed or converted into another data format becomes. At the end of the system, the network is in turn with the receiving unit coupled, who transmitted the Data again converted into the useful signal.
Ein typisches Beispiel hierfür ist eine Verbindung eines mobilen Kommunikationsgerätes in ein Festnetz und beispielsweise an einen ISDN-Telefonanschluss. Hierbei werden die zu übertragenden Nutzsignale in Form von Sprach- oder Audiosignalen von dem Sender, dem mobilen Kommunikationsgerät in Signale nach einem Kommunikationsstandard gewandelt und an eine Basisstation übertragen. Die Basisstation bildet einen Teil des Netzwerks und verarbeitet die empfangenen Signale weiter. sie extrahiert daraus beispielsweise wieder das Nutzsignal in Form des Sprachsignals. Dieses wird nach dem PCM-Kodierungsverfahren kodiert und über eine Festnetzleitung an den Empfänger übergeben. Dabei kann es durchaus vorkommen, dass je nach Entfernung zwischen Sendegerät und Empfangsgerät innerhalb des Netzwerkes mehrere verschiedene Knoten vorgesehen sind, die während der Datenübertragung das Signal erneut aufbereiten bzw. anderweitig verarbeiten.One typical example of this is a connection of a mobile communication device in a landline and for example to an ISDN telephone line. Here are the useful signals to be transmitted in the form of voice or audio signals from the transmitter, the mobile Communication device in Signals converted to a communication standard and sent to a Transfer base station. The base station forms part of the network and processes the received signals on. she extracts it, for example again the useful signal in the form of the speech signal. This will be after coded according to the PCM coding method and via a landline line hand over the recipient. It may well happen that depending on the distance between transmitter and receiving device within the network several different nodes are provided, the while the data transmission Reprocess or otherwise process the signal.
Für die Datenübertragung im vorliegenden Fall wird auf eine Ende-zu-Ende Verbindung zurückgegriffen. Hier wird die Kommunikationsverbindung zwischen dem Kommunikationsgerät und dem Telefon aufgebaut, und die Leitung bleibt unabhängig von einer Sprachübertragung bestehen. Die Verbindung wird erst bei einer vollständigen Beendigung unterbrochen. Dadurch kommt es bei der Übertragung der Sprache zu einer im Wesentlichen konstanten Verzögerungszeit, das sich die einzelnen Knoten der Kommunikationsverbindung nicht ändern. Im Allgemeinen wird eine derartige Kommunikationsverbindung auch als leitungsvermittelte oder "circuit switched"-Verbindung bezeichnet.For data transmission in the present case an end-to-end connection is used. Here, the communication connection between the communication device and the Telephone set up, and the line remains independent of a voice transmission consist. The connection will only become complete interrupted. This results in the transmission of the language to a essentially constant delay time, that the individual nodes of the communication link do not change. in the Generally, such a communication connection is also called circuit-switched or "circuit switched "connection designated.
Im Gegensatz dazu können bei einer paketorientierten Übertragung die einzelnen Pakete über unterschiedliche Routen an den Empfänger übermittelt werden. Demzufolge kann es hier auch zu unterschiedlichen Laufzeiten kommen. Ein typisches Beispiel für eine solche paketorientierte Kommunikationsverbindung liegt bei internetbasierten Übertragungen vor.in the Contrary to this in a packet-oriented transmission the individual packages over different Routes transmitted to the recipient become. As a result, it can also have different maturities come. A typical example of such a packet-oriented communication connection is included Internet-based transmissions in front.
Die
Sendeeinheit ist im vorliegenden Fall als ein mobiles Kommunikationsgerät ausgeführt. Sie enthält ein Mikrofon
Im
vorliegenden Fall umfasst das Kommunikationsnetzwerk
Letztlich
wird ein Datenstrom C, der im Idealfall die gleichen Nutzdaten (also
das Audiosignal A) beinhaltet wie der Strom B an die Basisstation
Von
der Empfangseinheit
Erfindungsgemäß ist vorgesehen,
zu einer bereits bestehenden Kommunikationsverbindung für eine Übertragung
von Sprach- oder
Audiosignalen eine weitere Kommunikationsverbindung aufzubauen.
Mit der zweiten Verbindung sollen Videosignale an die Empfangseinheit
Dazu
enthält
die Sendeeinheit
Das
Gesamtsignal N wird als Datenstrom über die Schnittstelle
Das übermittelte
Signal D wird dekodiert und die darin befindlichen Videoinformationen
in Form des Signals R an einen Videodekoder
Aufgrund
des im Netzwerk
Für ein aufeinander
abgestimmtes Ausgeben der Signale A und I im Empfänger ist
in der erfindungsgemäßen Sendeanordnung
eine Analysevorrichtung
Jeder
Teilabschnitt des Audiosignals ist so gewählt, dass seine Ausgabe in
einem zeitlich definierten Zusammenhang zu einer Darstellung eines oder
mehrerer Bilder des erfassten Videosignals erfolgt. Die Analysevorrichtung
Das Identifikationsmerkmal ist so gewählt, dass es einerseits besonders robust gegen eventuelle Störungen während der Datenübertragung ist. Andererseits ist es auch robust gegen Artefakte, die aufgrund einer Signalverarbeitung bzw. Kompression während der Übertragung des ersten Datenstroms B auftreten. Diese Artefakte können das Nutzsignal im ersten Datenstrom B beeinträchtigen.The Identification feature is chosen so that it on the one hand especially robust against possible interference while the data transmission is. On the other hand, it is also robust against artifacts due to a signal processing or compression during the transmission of the first data stream B occur. These artifacts can affect the useful signal in the first data stream B.
Das
komprimierte Videosignal M und das Identifikationsmerkmal werden
in der Kodiereinrichtung
Für jeden der Teilabschnitte TA1, TA2 und TA3 wird nun ein Fingerabdruck, ein eindeutiges Identifikationsmerkmal FP1, FP2 bzw. FP3 ermittelt. Dieser Fingerabdruck kann beispielsweise durch LTP- oder LPC-Koeffizienten bestimmt sein. Derartige Koeffizienten werden bei einer Kodierung des Sprachsignals A erzeugt und können so leicht ohne Mehraufwand benutzt werden. Eine andere Möglichkeit besteht in der Ermittlung besonders robuster Frequenzinformationen für jeden Teilabschnitt. Nach einer Erzeugung der jeweiligen Identifikationsmerkmale werden diese dem korrespondierenden Videobild des digitalen Videosignals zugeordnet.For each subsections TA1, TA2 and TA3 will now become a fingerprint, a unique identification feature FP1, FP2 or FP3 determined. This Fingerprint can be, for example, by LTP or LPC coefficients be determined. Such coefficients are used in coding of the speech signal A and can thus easily without additional effort to be used. Another possibility consists in the determination of particularly robust frequency information for each Subsection. After generation of the respective identification features These are the corresponding video image of the digital video signal assigned.
Für eine Zuordnung werden nun einerseits die Videobilder VB1 bis VB3 sowie die erzeugten Identifikationsmerkmale FP1 bis FP3 mit einem Zeitstempel K versehen. Dieser Zeitstempel K erlaubt die Zuordnung der Identifikationsmerkmale L zu dem kodierten Videosignal M mit den kodierten Videobildern.For an assignment On the one hand, the video images VB1 to VB3 and the generated identification features FP1 to FP3 with a time stamp K provided. This timestamp K allows the assignment of the identification features L to the coded Video signal M with the coded video images.
In
der Kodiereinrichtung
Wegen den in den Identifikationsmerkmalen L und dem kodierten Videodatenstrom M enthaltenen Zeitstempeln K ist eine Zuordnung auch dann gewährleistet, wenn eine andere Paketform gewählt wird. So können Videodatenstrom M und die Identifikationsmerkmale L auch in unterschiedlichen Paketen oder sogar verschiedenen Datenströmen übertragen werden.Because of in the identification features L and the encoded video data stream M contained time stamps K is guaranteed even then an assignment if another form of package is chosen. So can Video data stream M and the identification features L also in different Packets or even different data streams.
Eine andere Möglichkeit besteht darin, innerhalb des kodierten Videodatenstroms M die Identifikationsmerkmale L als zusätzliche Information, engl. "supplementary enhancement information" unterzubringen. Ein Videostandard, der dies ermöglicht, ist der H.264/AVC-Standard. Ein zusätzliches Multiplexen kann dann entfallen, der kodierte und mit den Merkmalen L versehene Videostrom M bildet in einem solchen Fall den Datenstrom N. Grundsätzlich sollte nur eine Zuordnung zwischen den Identifikationsmerkmalen im Strom L und dem Videosignal J gewährleistet sein.A different possibility consists in the coded video data stream M, the identification features L as additional Information, engl. "supplementary enhancement information ". A video standard that allows this is the H.264 / AVC standard. An additional multiplexing can then omitted, the coded and provided with the features L video stream M forms the data stream N in such a case. Basically only an association between the identification features in the stream L and the video signal J guaranteed be.
Vorliegend
umfasst nach
Der
so aufbereitete zweite Datenstrom N wird wiederum durch die zweite
Kommunikationsverbindung über
das Netzwerk
Der
Merkmalsstrom Q wird der Einrichtung
Um
eine aufeinander abgestimmte Ausgabe zu gewährleisten, ist der Audiodekoder
Der
Synchronisator ist dazu mit dem Videodekoder
Die
zusätzliche
Pufferung ermöglicht
es darüber
hinaus, im Fall verloren gegangener Daten die korrespondierenden
Signale des jeweils anderen Datenstroms abzugeben. Beispielsweise
können
Bereiche des Audiosignals F auch dann abgegeben wer den, wenn das
dazu korrespondierende Videosignal W während der Übertragung verloren gegangen
bzw. nicht rekonstruierbar ist. Aufgrund unterschiedlicher Verzögerungen
in den beiden Netzwerken
Einer Pufferung bzw. Verzögerung einer Ausgabe des Sprachsignal kann auch durch eine besondere Verarbeitung des Sprachsignal erfolgen. Anstelle des Puffers kann ein Signalprozessor vorgesehen sein, der eine zeitbasierte Modifikation des Sprachsignals durchführt. So könnte das Sprachsignal dynamisch verzerrt, z.B. vokale Laute bei der Ausgabe dynamisch verlängert oder verkürzt werden, um dadurch eine Verzögerung zu erreichen. Dieses "time scale modification" Verfahren eignet sich besonders, da eine kontinuierliche Ausgabe des Sprachsignal ohne Unterbrechungen vorgenommen, aber dennoch Zeit für die Verarbeitung des zweiten Datenstrom und die Abstimmung einer Ausgabe gewonnen wird.one Buffering or delay An output of the speech signal may also be by special processing of the speech signal. Instead of the buffer, a signal processor be provided, which is a time-based modification of the speech signal performs. So could the speech signal is dynamically distorted, e.g. vocal sounds at the output dynamically extended or shortened thereby causing a delay to reach. This "time scale modification "procedure is particularly suitable as a continuous output of the speech signal without Interruptions, but still time to process the second Data stream and the vote of an issue is won.
Während der Übertragung
des ersten Datenstroms im Netzwerk
Die
erste Vorrichtung
Der
zweite Datenstrom wird an das zweite Netzwerk
Im
vorliegenden Fall erfolgt die Übertragung des
ersten Datenstroms, also des Sprachsignals, sowie des zweiten Datenstroms über zwei
verschiedene Übertragungskanäle. Beispielsweise
können
die kodierten Audiodaten D in Form eines GSM-Signals an die Empfängeranordnung
Einen
anderen Aspekt der Erfindung verdeutlicht
Der
Synchronisator
Mit den erfindungsgemäßen Elementen der dargestellten Systeme lässt sich bei einer bestehenden Kommunikationsverbindung zur Übertragung eines ersten Datenstroms eine zweite Kommunikationsverbindung zur Übertragung eines zweiten Datenstroms ohne Unterbrechung der ersten Kommunikationsverbindung hinzufügen. Ebenso ist es möglich, eine neue Kommunikationsverbindung zur Übertragung des ersten und des zweiten Datenstroms aufzubauen. Eine zeitlich aufeinander abgestimmte Ausgabe erfolgt durch die dem zweiten Datenstrom hinzugefügten Identifikationsmerkmale, die von dem ersten Datenstrom abgeleitet sind. Die zusätzlichen Identifikationsmerkmale im zweiten Datenstrom werden sendeseitig hinzugefügt. Dies ist beispielsweise in Form eines Fingerabdrucks bzw. zusätzliche Informationen innerhalb des für den zweiten Datenstrom verwendeten Übertragungsprotokolls möglich. Zudem lassen sich weitere Informationen beispielsweise Zeitstempel übertragen. Durch Verwendung eines geeigneten Übertragungsprotokolls, beispielsweise des Real Time Protokolls wird das Hinzufügen von Zeitstempeln zu Daten bzw. Identifikationsmerkmalen noch formalisiert und deren Verwendung zur Synchronisation vereinfacht.With the elements of the invention the illustrated systems at an existing communication link for transmission a first data stream, a second communication connection for transmission a second data stream without interruption of the first communication link Add. It is also possible a new communication link for transmitting the first and the build up second data stream. A timed edition is done by the identification features added to the second data stream, derived from the first data stream. The additional identification features in the second data stream are added on the send side. This is for example in the form of a fingerprint or additional Information within the for the second data stream used transmission protocol possible. moreover Further information can be transmitted, for example, timestamps. By using a suitable transmission protocol, for example the Real Time Protocols is adding timestamps to data or identification features are still formalized and their use simplified for synchronization.
Darüber hinaus besteht die Möglichkeit selbige Identifikationsmerkmale durch einen weiteren Übertragungskanal an den Empfänger zu übermitteln. Dabei muss lediglich gewährleistet sein, dass die Identifikationsmerkmale in dem weiteren Übertragungskanal den einzelnen Abschnitten des zweiten Datenstroms zugeordnet werden können.In addition, there is the possibility selbige identification by another Transmission channel to the receiver. It merely has to be ensured that the identification features in the further transmission channel can be assigned to the individual sections of the second data stream.
In Schritt S3 werden die im zweiten Datenstrom enthaltenen Identifikationsmerkmale extrahiert. Anschließend werden in Schritt S4 Teilabschnitte des Nutzsignals im zweiten Datenstrom sowie die den Teilabschnitten zugeordneten Identifikationsmerkmale der Teilabschnitte des ersten Datenstrom zwischengespeichert. Während den Schritten S3 und S4, also des Ermittelns der Identifikationsmerkmale im zweiten Datenstrom, ist es möglich, die Teilabschnitte des zwischengespeicherten Nutzsignals zu analysieren. Dieser Vorgang erfolgt in Schritt S5. Dabei werden aus den einzelnen Teilabschnitten Identifikationsmerkmale ermittelt, die in Art und Aufbau den Identifikationsmerkmalen des zweiten Datenstroms entsprechen. Wenn also beispielsweise die Identifikationsmerkmale im zweiten Datenstrom LTP-Koeffizienten darstellen (Long Term Prediction), so werden in Schritt S5 aus den einzelnen Teilabschnitten des gespeicherten ersten Datenstroms ebenfalls die LTP-Koeffizienten ermittelt.In Step S3 becomes the identification features contained in the second data stream extracted. Subsequently In step S4, sections of the useful signal in the second data stream are generated and the identification features associated with the subsections the subsections of the first data stream cached. During the Steps S3 and S4, ie determining the identification features in second data stream, it is possible analyze the subsections of the cached useful signal. This process takes place in step S5. Here are from the individual Subpart identifiers identified in type and Structure correspond to the identification features of the second data stream. So if, for example, the identification features in the second Data stream represent LTP coefficients (Long Term Prediction), so in step S5 are stored from the individual sections of the first data stream also determines the LTP coefficients.
In Schritt S6 werden nun die jeweils die aus den Teilabschnitten des Nutzsignals ermittelten Identifikationsmerkmale mit dem oder den Identifikationsmerkmalen des zweiten Datenstroms verglichen. Beispielsweise kann jedes Identifikationsmerkmal der Teilabschnitte des Nutzsignals im ersten Datenstrom mit jedem der aus dem zweiten Datenstrom ermittelten Identifikationsmerkmalen verglichen werden. Dafür stehen in Schritt S7 verschiedene Vergleichsverfahren und Methoden zur Verfügung. Der Vergleich kann so ausgestaltet sein, dass nur bei einer genauen Übereinstimmung eines Identifikationsmerkmals eines Teilabschnittes des ersten Datenstroms mit einem Identifikationsmerkmal des zweiten Datenstroms ein positives Ergebnis erzeugt.In Step S6 will now be the ones from the subsections of Use signal identified identification features with the or Identification features of the second data stream compared. For example can each identification feature of the subsections of the useful signal in the first data stream with each of the ones determined from the second data stream Identification features are compared. There are different ones in step S7 Comparison methods and methods available. The comparison can be so be designed that only with an exact match of an identification feature a subsection of the first data stream with an identification feature the second data stream generates a positive result.
Da aber möglicherweise während einer Übertragung Fehler innerhalb der beiden Datenströme aufgetreten sind oder durch Signalverarbeitung oder Kompression Verzerrungen oder andere Veränderungen aufgetreten sein können, können sich auch die Identifikationsmerkmale leicht unterscheiden. Daher ist es eventuell zweckmäßig, für eine Entscheidung bezüglich einer Übereinstimmung gewisse Freiheiten vorzusehen. Die Übereinstimmung wird somit nur mit einer Wahrscheinlichkeit bestimmt. Überschreitet diese einen vorbestimmten Wert, so wird eine Übereinstimmung angenommen. Eine andere Möglichkeit wä re, eine Korrelationsanalyse für die Identifikationsmerkmale des ersten und zweiten Datenstroms durchzuführen.There but maybe while a transmission Errors within the two data streams have occurred or through Signal processing or compression distortions or other changes may have occurred can also the identification features are slightly different. Therefore It may be appropriate for a decision in terms of a match to provide for certain freedoms. The match will therefore only determined with a probability. If this exceeds a predetermined Value, so will a match accepted. Another possibility would be a Correlation analysis for to carry out the identification features of the first and second data stream.
Ergibt der Vergleichsvorgang in den Schritten S6 und S7, dass die Identifikationsmerkmale der Teilabschnitte des ersten Datenstroms mit dem oder den Identifikationsmerkmalen im zweiten Datenstrom nicht übereinstimmen, wird der Vergleich mit neuen Identifikationsmerkmalen des ersten bzw. zweiten Datenstroms wiederholt. Bei einer Übereinstimmung hingegen werden im Schritt S8 die den beiden Identifikationsmerkmalen zugeordneten Teilabschnitte des ersten und zweiten Datenstroms aus dem Puffer geladen. In Schritt S9 werden die Abschnitte schließlich zeitlich aufeinander abgestimmt ausgegeben.results the comparison process in steps S6 and S7 that the identification features the sections of the first data stream with the one or more identification features do not match in the second stream, will be the comparison with new identification features of the first or second data stream repeated. On the other hand, if there is a match in step S8 associated with the two identification features Portions of the first and second data streams are loaded from the buffer. Finally, in step S9, the sections become time-sequential spent spent.
Durch die Zwischenspeicherung des ersten Datenstroms und die Zwischenspeicherung des zweiten Datenstroms lässt er sich eine zeitliche Verzögerung während eines Empfangsvorgangs des ersten oder zweiten Datenstroms korrigieren. Durch die Analyse der Nutzsignale im ersten Datenstrom sowie die Ermittlung der Identifikationsmerkmale entfällt die Notwendigkeit, bereits im Vorfeld Zeitstempel in beide Datenströme für eine spätere Ausgabe einzufügen.By the caching of the first data stream and the caching of the second data stream he has a time delay while correcting a reception operation of the first or second data stream. By analyzing the useful signals in the first data stream and the Identifying the identification features eliminates the need to already to insert in advance timestamps in both data streams for later output.
Vielmehr können im zweiten Datenstrom beliebige Nutzsignale in Teilabschnitten vorgesehen sein, wobei jedem der Teilabschnitte Identifikationsmerkmalen zugeordnet werden, wenn diese synchron zu den Teilabschnitten des Nutzsignals im ersten Datenstrom ausgegeben werden sollen. Eine besondere Wahl des zweiten Nutzsignals ist dabei nicht notwendig. Beispielsweise kann durch das vorgestellte Verfahren ein Videosignal als Nutzsignal des zweiten Datenstroms mit Hilfe der Identifikationsmerkmale auf einen bereits bestehende Übertragung eines Sprachsignals synchronisiert werden. Dabei ist es nicht notwendig, den ersten und zweiten Datenstrom über den gleichen Übertragungskanal an einem Empfänger zu übermitteln.Much more can be provided in the second data stream any useful signals in subsections wherein each of the sub-sections associated with identification features when these are synchronous with the subsections of the wanted signal to be output in the first data stream. A special choice the second useful signal is not necessary. For example can by the presented method a video signal as a useful signal of the second data stream using the identification features an existing transfer of a Voice signal synchronized. It is not necessary the first and second data streams over the same transmission channel at a receiver to convey.
Zu der bereits bestehenden Kommunikationsverbindung soll nun ein zweiter Datenstrom hinzugefügt werden, der ein zweites Nutzsignal beinhaltet, das zu dem Telefonsignal synchronisiert ist. Dazu werden in Schritt S10 der erste und der zweite Datenstrom im Wesentlichen gleichzeitig über einen gemeinsamen Übertragungskanal empfangen. Dieser Übertragungskanal kann beispielsweise eine Mobilfunkverbindung nach dem UMTS-Standard darstellen. Eine andere Möglichkeit wäre, beispielsweise den ersten Datenstrom über eine Telefonverbindung und den zweiten Datenstrom paketorientiert über eine DSL-Verbindung zu empfangen. In einem solchen Fall erfolgt die Übertragung der beiden Datenströme über die gleiche physikalische Leitung.To the existing communication connection is now a second Data stream added which includes a second useful signal corresponding to the telephone signal is synchronized. For this purpose, in step S10, the first and the second data stream substantially simultaneously via a common transmission channel receive. This transmission channel can represent, for example, a mobile connection according to the UMTS standard. Another possibility would be, for example, the first data stream over a telephone connection and the second data stream packet-oriented over a DSL connection too receive. In such a case, the transmission of the two data streams via the same physical line.
In Schritt S11 wird das gemeinsame empfangene Signal decodiert bzw. in den ersten und in den zweiten Datenstrom aufgetrennt. Der erste Datenstrom als Telefonsignal wird in Schritt S12 in verschiedene Teilabschnitte gleicher Länge unterteilt. Diese Teilabschnitte sind jedoch nicht willkürlich gewählt, sondern folgen einem vordefinierten Muster, das sich aus dem ersten Datenstrom ergibt. In Schritt S16 werden diese Teilabschnitte für eine spätere Verarbeitung zwischengespeichert.In Step S11, the common received signal is decoded or separated into the first and the second data stream. The first Data stream as a telephone signal is in step S12 in various Subsections of equal length divided. However, these sections are not arbitrary, but follow a predefined pattern resulting from the first data stream results. In step S16, these subsections become for later processing cached.
Zu der Verarbeitung des ersten Datenstroms in den Schritten S12 und S16 wird auch der zweite Datenstrom mit dem zweiten Nutzsignal verarbeitet. Das zweite Nutzsignal umfasst ebenfalls mehrere Teilabschnitte, die im Schritt S13 aufgetrennt werden. Bestimmten Teilabschnitten ist jeweils ein Identifikationsmerkmal zugeordnet, das aus dem zweiten Datenstrom extrahiert und in einem Speicher abgelegt wird.To the processing of the first data stream in steps S12 and S16, the second data stream is also processed with the second useful signal. The second payload also includes several subsections, the be separated in step S13. Certain sections is each assigned an identification feature that from the second Data stream is extracted and stored in a memory.
Im Allgemeinen erfolgt der Empfang des ersten und zweiten Datenstroms zwar gleichzeitig, dies bedeutet jedoch nicht, dass die entsprechenden Abschnitte des ersten und des zweiten Nutzsignals eine bestimmte zeitliche Beziehung zueinander aufweisen. Beispielsweise kann aufgrund unterschiedlicher Übertragungswege zwischen dem Sender und dem Empfänger ein Zeitversatz zwischen korrespondierenden Teilabschnitten des ersten Datenstroms und Teilabschnitten des Nutzsignals im zweiten Datenstrom auftreten. Mit anderen Worten können Teilabschnitte des ersten Datenstroms früher oder später beim Empfänger eintreffen als die korrespondierenden Teilabschnitte des zweiten Nutzsignals. Wird dieser Zeitversatz nun größer als ein vorbestimmter Wert, ist es nicht mehr zweckmäßig, verspätet eintreffende Teilabschnitte zwischenzuspeichern. Dies ist vor allem dann nicht mehr sinnvoll, wenn beispielsweise bereits vorher eingetroffenen Teilabschnitte des ersten Datenstroms weiter verarbeitet und gegebenenfalls schon ausgegeben wurden.in the Generally, the reception of the first and second data streams takes place Although at the same time, this does not mean that the corresponding Sections of the first and second useful signal a specific have temporal relationship to each other. For example, due to different transmission paths between the sender and the receiver a time offset between corresponding sections of the first data stream and subsections of the useful signal in the second Data stream occur. In other words, subsections of the first Data stream earlier or later at receiver arrive as the corresponding sections of the second Useful signal. If this time offset now becomes greater than a predetermined value, it is no longer appropriate, late arrivals Cache subsections. This is not the case especially more useful if, for example, previously arrived Subsections of the first data stream further processed and, where appropriate already spent.
Im vorliegenden Fall wird davon ausgegangen, dass das zweite Nutzsignal gegenüber dem Telefonsignal verzögert ist. In Schritt S15 wird daher überprüft, ob die den Teilabschnitten des zweiten Datenstroms zugeordneten Identifikationsmerkmale bereits ausgegeben wurden. Dies kann durch einen kurzen Vergleich der extrahierten Identifikationsmerkmale der Teilabschnitte des zweiten Nutzsignals mit Identifikationsmerkmalen von bereits ausgegebenen Teilabschnitten des ersten Datenstroms erfolgen. Eine andere Möglichkeit für eine derartige Überprüfung besteht dann, wenn einzelnen Teilabschnitten des zweiten Nutzsignals im zweiten Datenstrom Zeitstempelinformationen zugeordnet sind. Damit können alle die Teilabschnitte verworfen werden, die einen Zeitstempel umfassen, der vor dem letzten ausgegebenen Zeitstempel eines Teilabschnittes des zweiten Nutzsignals liegen.in the In this case, it is assumed that the second useful signal across from Delayed the phone signal is. In step S15, therefore, it is checked whether the the identification features associated with the subsections of the second data stream already spent. This can be done by a quick comparison the extracted identifiers of the subsections of the second useful signal with identification features of already issued sections of the first data stream. Another possibility for such a review exists then, if individual subsections of the second useful signal in second data stream time stamp information are assigned. In order to can all the subsections are discarded that have a timestamp include, before the last issued time stamp of a subsection lie of the second useful signal.
Wenn in Schritt S18 ein solcher Vergleich einer Übereinstimmung zeigt, so wird der korrespondierende Teilabschnitt des zweiten Nutzsignals in Schritt S19 verworfen, da der zu diesem Teilabschnitt synchron auszugebende Teilabschnitt des ersten Datenstroms bereits ausgegeben wurde. Allenfalls wird in Schritt S20 der Teilabschnitt des zweiten Nutzsignals sowie des zugehörige Identifikationsmerkmal abgespeichert.If In step S18, such a comparison of a match shows the corresponding subsection of the second useful signal in step S19 discarded because the output to this section synchronously Part of the first data stream has already been issued. at best In step S20, the subsection of the second user signal as well the associated Identification stored.
In Schritt S17 wird eine Analyse und Ermittlung der Identifikationsmerkmale der Teilabschnitte des ersten Datenstroms vorgenommen.In Step S17 is an analysis and determination of the identification features the subsections of the first data stream made.
In Schritt S21 werden nun die Identifikationsmerkmale der Teilabschnitte des ersten Datenstroms mit den Identifikationsmerkmalen aus dem zweiten Datenstrom verglichen. Ergibt ein solcher Vergleich in Schritt S22 eine Übereinstimmung, so bedeutet dies im Wesentlichen, dass die Teilabschnitte des ersten und zweiten Datenstroms aufeinander abgestimmt ausgegeben werden sollen. Diese werden in Schritt S23 aus dem je weiligen Zwischenspeicher geladen und in Schritt S24 synchron ausgegeben.In Step S21 will now be the identification features of the subsections the first data stream with the identification features of the compared to the second data stream. Returns such a comparison in step S22 a match, this essentially means that the subsections of the first and second data stream are outputted coordinated should. These are loaded from the respective buffer in step S23 and output synchronously in step S24.
Wenn hingegen ein Teilabschnitt des zweiten Nutzsignals zu den korrespondierenden Teilabschnitten des ersten Datenstroms bislang noch nicht empfangen und verarbeitet wurde, ergibt der Vergleichsvorgang in den Schritten S21 und S22 keine Übereinstimmung. In einem solchen Fall wird davon ausgegangen, dass der entsprechend Teilabschnitt im zweiten Datenstrom noch nicht empfangen wurde. Daher wird in Schritt S25 ein Zähler erhöht. Der Zähler zeigt an, ob der Teilabschnitt im Telefonsignal trotz fehlenden Teilabschnittes im zweiten Nutzsignal ausgegeben werden soll. Dazu wird der Zähler in Schritt S26 mit einem im vorbestimmten Wert verglichen. Ist der Zähler kleiner als dieser Wert, so wird das Verfahren mit der weiteren Analyse neu empfangener Teilabschnitte des ersten Datenstroms fortgesetzt.If, on the other hand, a subsection of the second useful signal to the corresponding subsections of the first data stream has not yet been received and processed, the comparison procedure in steps S21 and S22 results in no match. In such a case, it is assumed that the corresponding subsection has not yet been received in the second data stream. Therefore, a counter is incremented in step S25. The counter indicates whether the subsection in the telephone signal should be output in the second useful signal despite the missing subsection. For this purpose, the counter is compared in step S26 with a predetermined value. is the counter is less than this value, the method continues with the further analysis of newly received subsections of the first data stream.
Andernfalls wird, wenn der Zähler in Schritt S25 größer als der vorbestimmter Wert ist, in Schritt S27 der als nächstes auszugebende Teilabschnitt des Telefonsignals ermittelt und in Schritt S28 ausgegeben. Das zu dem ausgegebenen Teilabschnitt gehörige Identifikationsmerkmal wird nun als bereits ausgegeben gekennzeichnet und dient dazu, einen Teilabschnitt des zweiten Nutzsignals mit gleichem zugeordnetem Identifikationsmerkmal zu identifizieren. Da der zugehörige Teilabschnitt im ersten Datenstrom bereits ausgegeben wurde, kann der Teilabschnitt im zweiten Datenstrom verworfen werden.Otherwise will if the counter greater than. in step S25 the predetermined value is, in step S27, the next one to be output Part of the telephone signal determined and output in step S28. The identification feature associated with the issued subsection is now marked as already issued and serves a subsection the second useful signal with the same assigned identification feature to identify. As the associated Partial section in the first data stream has already been issued the subsection in the second data stream is discarded.
Es ist zweckmäßig, bei der Ausgestaltung des Verfahrens sowohl eine Verzögerung der Teilabschnitte des ersten Datenstroms gegenüber den Teilabschnitten des zweiten Datenstroms, als auch die umgekehrte Möglichkeit zu berücksichtigen.It is appropriate, at the design of the method both a delay of Subsections of the first data stream relative to the subsections of second data stream, as well as the reverse possibility to take into account.
In Schritt S30 wird zwischen einem Sender und einem Empfänger eine Kommunikationsverbindung zur Übertragung eines ersten Nutzsignals bzw. eines ersten Datenstroms aufgebaut. Der Aufbau erfolgt leitungsvermittelt und bleibt bis zur Beendigung bestehen. Der erste Datenstrom enthält das Nutzsignal, beispielsweise ein Sprachsignal. Während eines nun folgenden Zeitraums erfolgt in Schritt S31 eine kontinuierliche Kommunikation. Es wird Sprache vom Sender zum Empfänger über die leitungsvermittelte Verbindung übertragen.In Step S30 becomes between a transmitter and a receiver Communication connection for transmission a first useful signal or a first data stream constructed. The structure is circuit-switched and remains until the end. The first data stream contains the useful signal, for example a voice signal. During one now the following period takes place in step S31 a continuous Communication. It becomes language from the sender to the receiver over the transmit circuit-switched connection.
Diese Kommunikation wird auch in Schritt S32 über die bereits bestehende Verbindung fortgeführt. Zusätzlich soll nun zu der bereits bestehenden ersten Kommunikationsverbindung eine zweite Kommunikationsverbindung aufgebaut werden, über die ein zweiter Datenstrom übertragen wird. Das Nutzsignal des ersten und zweiten Datenstroms soll dabei zueinander synchron erfolgen. Dazu sind das erste und das zweite Nutzsignal jeweils in Teilabschnitte aufgeteilt.These Communication is also in step S32 on the already existing Connection continued. additionally should now to the already existing first communication connection a second communication connection can be set up via the transmit second data stream becomes. The useful signal of the first and second data stream to each other done synchronously. These are the first and the second useful signal each divided into sections.
Während der Fortführung der ersten Kommunikationsverbindung und der Übertragung der ersten Nutzdaten in den Schritt S32 wird in Schritt S33 eine zweite Kommunikationsverbindung über einen weiteren Übertragungskanal aufgebaut. Dieser Übertragungskanal kann gegenüber dem Übertragungskanal für die erste Kommunikationsverbindung unterschiedlich aufgebaut sein. Während beispielsweise der erste Übertragungskanal für die erste Kommunikationsverbindung eine Festnetzverbindung umfasst, beinhaltet der zweite Übertragungskanal eine paketorientierte Internetverbindung.During the continuation the first communication connection and the transmission of the first user data in step S32, in step S33, a second communication connection is made via another transmission channel built up. This transmission channel can be opposite the transmission channel for the first communication connection be constructed differently. While, for example, the first transmission channel for the first communication connection comprises a landline connection includes the second transmission channel a packet-oriented internet connection.
In Schritt S34 wird nun ein Sprach- oder Audiosignal in Form mehrerer Teilabschnitte als erstes Nutzsignal erfasst. Im Wesentlichen gleichzeitig und synchron dazu wird ein entsprechendes Videosignal in Schritt S35 erfasst, welches ebenfalls mehrere Teilabschnitte aufweist. In Schritt S36 werden aus dem erfassten Audiosignal Identifikationsmerkmale ermittelt. Diese Merkmale können sowohl aus dem erfassten analogen Audiosignal, als auch aus einem digitalen Audiosignal oder einem bereits codierten Audiosignal ermittelt werden. Unter dem Begriff des codierten Audiosignals werden verarbeitete Audiosignale verstanden, die nach einem Verfahren kodiert wurden. Beispiele für derartige Kodierungsverfahren sind das AMR- oder das AMR-WB Kodierungsverfahren, das GSM EFR Kodierungsverfahren, G.72x-Codierungsverfahren des ITU-T Standards für Sprachkomprimierung oder auch Kombinationen hiervon. Diese eignen sich besonders für eine Sprachkodierung.In Step S34 will now be a voice or audio signal in the form of several Subsections detected as the first useful signal. Essentially at the same time and synchronously, a corresponding video signal is generated in step S35 detected, which also has several sections. In step S36, identification features are determined from the detected audio signal. These features can both from the captured analog audio signal, as well as from a digital Audio signal or an already coded audio signal can be determined. The term encoded audio signal is processed Understood audio signals that were encoded by a method. examples for such coding methods are the AMR or AMR-WB coding method, the GSM EFR coding method, G.72x coding method of the ITU-T Standards for Voice compression or combinations thereof. These are suitable especially for a voice coding.
Die Identifikationsmerkmale, die in Schritt S36 ermittelt worden, erlauben eine eindeutige Identifikation des jeweilige Teilabschnittes des Sprachsignals. Bei einer Kodierung nach einem der oben genannten Verfahren ist es zudem denkbar, Merkmale, die während bei der Kodierung erzeugt werden, auch als Identifikationsmerkmale zu verwenden. So können die bei der AMR-Kodierung erzeugten LPC Koeffizienten auch als Identifikationsmerkmale dienen. Darüber hinaus sollten die erzeugten Identifikationsmerkmale besonders robust gegen während der Übertragung des ersten Datenstroms auftretenden Störungen oder Artefakte sein.The Identification features that were determined in step S36 allow a unique identification of the respective subsection of Speech signal. For a coding according to one of the above It is also conceivable method, while generating features during coding are also to be used as identification features. So can the in the AMR coding, LPC coefficients also generated as identification features serve. About that In addition, the generated identification features should be particularly robust against during the transmission be the first data stream occurring disturbances or artifacts.
Die in Schritt S36 ermittelten Identifikationsmerkmale werden während der Kodierung der Teilabschnitte des Videosignals in Schritt S37 dem zweiten Datenstrom hinzugefügt. Dies erfolgt derart, dass ein Identifikationsmerkmal eines Teilabschnittes des Sprachsignals einem Teilabschnitt des Videosignals zugeordnet wird, der synchron zu dem korrespondierenden Teilabschnitt des Sprachsignals steht. Erreicht wird dies durch Zeitstempel oder ein geeignetes Kombinieren des Videosignals und der Identifikationsmerkmale.The Identification features determined in step S36 are used during the Coding of the subsections of the video signal in step S37 added second stream. This is done such that an identification feature of a subsection the voice signal associated with a subsection of the video signal which is synchronous with the corresponding section of the speech signal stands. This is achieved by timestamp or a suitable one Combining the video signal and the identification features.
Nach einer Kodierung des Videosignals in dem Schritt S37 wird der zweite Datenstrom sowie der erste Datenstrom in den Schritten S38 und S39 übertragen. Die Übertragung kann verschiedene Übertragungskanäle als auch einen gemeinsamen Übertragungskanal beinhalten. Unter einem gemeinsamen Übertragungskanal wird ein Übertragungskanal auf der gleichen Frequenz, unter Verwendung des gleichen Kommunikationsstandards oder unter Benutzung der gleichen Netzwerkknoten verstanden. Während der Schritte S38 und S39 kann es jedoch zu einer zeitlichen Verschiebung oder einer zeitlichen Verzögerung des ersten und zweiten Datenstroms zueinander kommen. Dadurch erfolgt ein Empfang des ersten Datenstroms in Schritt S40 sowie ein Empfang des zweiten Datenstroms in Schritt S41 zu unterschiedlichen Zeiten.After coding the video signal in step S37, the second data stream and the first data stream are transmitted in steps S38 and S39. The transmission may include various transmission channels as well as a common transmission channel. Under a common transmission channel becomes a Übertragungsungska at the same frequency, using the same communication standard or using the same network nodes. During steps S38 and S39, however, a time shift or a time delay of the first and second data streams may occur. This results in a reception of the first data stream in step S40 and a reception of the second data stream in step S41 at different times.
In Schritt S42 wird der empfangene erste Datenstrom dekodiert und das darin enthaltene Sprach oder Audiosignal extrahiert. Dieses ist in mehrere Teilabschnitte unterteilt, von denen jeder einzelne analisiert und ein Identifikationsmerkmale extrahiert wird. Parallel hierzu wird im Schritt S43 der empfangene zweite Datenstrom weiter verarbeitet. Die im zweiten Datenstrom der Teilabschnitte des Videosignals zugefügten Identifikationsmerkmale werden extrahiert. Diese Identifikati onsmerkmale werden nun im Schritt S44 mit den erzeugten Identifikationsmerkmalen der Teilabschnitte des zwischengespeicherten Audiosignals verglichen. Sofern der Vergleich eine Übereinstimmung in Schritt S46 ergibt, werden die entsprechenden Teilabschnitte des Audiosignals sowie des Videosignals in Schritt S45 geladen und in Schritt S47 synchron ausgegeben. Anderenfalls kann in Schritt S48 das Audiosignal ohne ein dazu korrespondierendes Videosignal ausgegeben werden.In Step S42, the received first data stream is decoded and the extracted speech or audio signal contained therein. This is divided into several subsections, each of which is analyzed and an identifier is extracted. Parallel to this In step S43, the received second data stream is further processed. The identification features added in the second data stream of the subsections of the video signal are extracted. These identification features are now in step S44 with the generated identification features of the subsections of the buffered audio signal compared. Unless the comparison a match in step S46, the corresponding subsections become of the audio signal and the video signal in step S45 and output synchronously in step S47. Otherwise, in step S48 the audio signal without a corresponding video signal be issued.
Da die Reihenfolge der Teilabschnitte des Audiosignals erkannt ist, können so auch Teilabschnitte des Audiosignals ausgegeben werden, die zeitlich vor einem Teilabschnitt des Audiosignals liegen, zu dem ein korrespondierender Teilabschnitt eines Videosignals gefunden wurde. Dadurch lässt sich gerade bei einer fehleranfälligen Übertragung des zweiten Datenstroms eine kontinuierliche Ausgabe des Audiosignals gewährleisten.There the order of the subsections of the audio signal is detected, can as well as portions of the audio signal are output, the time lie before a subsection of the audio signal, to which a corresponding Part of a video signal was found. This can be done especially with an error-prone transfer of second data stream, a continuous output of the audio signal guarantee.
Das dargestellte Verfahren hat den Vorteil, dass es sich in einfacher Weise auf bereits bestehende Mobilfunkstandards bzw. Kommunikationsverbindungen anwenden lässt. Insbesondere ist es möglich, ohne großen Mehraufwand eine bereits bestehende Kommunikationsverbindung fortzuführen. Es muss lediglich gewährleistet sein, dass das empfangene erste leitungsvermittelte Nutzsignal zwischengespeichert wird, so dass eine Synchronisation mit einem eventuell später empfangenen zweiten Datenstrom gewährleistet ist. Dabei ist es nicht notwendig, dass jeder Teilabschnitt des ersten Nutzsignals analysiert wird. Dies ist vielmehr abhängig von den Anforderungen des zweiten Datenstroms. Wenn beispielsweise Videosignale mit dreißig Bildern pro Sekunde übertragen werden, kann es zweckmäßig sein, das Sprach- oder Audiosignal in Abschnitte von jeweils 1/30 Sekunden zu zerlegen und aus jedem dieser Teil abschnitte ein entsprechendes Identifikationsmerkmale zu extrahieren. Ebenso ist es jedoch möglich, nur jedem x-ten Bild des Videosignals ein Identifikationsmerkmal eines entsprechenden Teilabschnitts des Audiosignals zu zuordnen. Dabei ist es bei dem erfindungsgemäßen Verfahren denkbar, dass der Empfänger die genaue Zuordnung nicht kennt. Dennoch kann eine synchrone Ausgabe erfolgen, sofern die Teilabschnitte des Audiosignals, denen kein Teilabschnitt des Videosignals zugeordnet ist, ebenfalls kontinuierlich ausgegeben werden.The The method presented has the advantage that it is easier Way to existing mobile standards or communication links apply. In particular, it is possible without big ones Extra effort to continue an existing communication connection. It must only guaranteed be that the received first circuit-switched user signal buffered will, so a synchronization with any later received second data stream ensured is. It is not necessary that every subsection of the first useful signal is analyzed. This is rather dependent on the requirements of the second data stream. For example, if video signals at thirty Transfer images per second be, it may be appropriate the voice or audio signal in 1/30 second increments to disassemble and from each of these sections a corresponding To extract identification features. However, it is equally possible only every xth image of the video signal is an identification feature of a corresponding subsection of the audio signal to assign. there it is in the inventive method conceivable that the receiver does not know the exact assignment. Nevertheless, a synchronous output provided the subsections of the audio signal to which no Part of the video signal is assigned, also continuously be issued.
Neben der Synchronisation eines Videosignals auf ein entsprechendes Audiosignal lässt er sich das erfindungsgemäße Verfahren sowie die Anordnungen auf alle Datenströme anwenden, die zeitlich aufeinander abstimmbare Nutzdaten enthalten. So ist beispielsweise auch möglich, ein gemeinsames Videosignal über mehrere Übertragungskanäle und mehrere Datenströme an einem Empfänger zu übermitteln. Denkbar ist auch eine Sprach oder Audioübertragung in mehreren Datenströmen (oder Signalen), beispielsweise um ein Stereosignal zu ermöglichen. Eine Synchronisation der Datenströme kann wie angegeben erfolgen. Auch ist das Verfahren sowie die Anordnung nicht auf die Synchronisation von zwei Datenströmen beschränkt, sondern kann auf mehrere Datenströme (mehr als zwei) erweitert werden, sofern die jeweils zu synchronisierenden Nutzdaten die Erzeugung von eindeutig zuordenbaren Identifikationsmerkmalen erlauben.Next the synchronization of a video signal to a corresponding audio signal he lets the process of the invention and apply the orders to all streams that are timed to each other contain tunable user data. For example, it is also possible to have one common video signal over several transmission channels and several streams at a receiver to convey. Also conceivable is a voice or audio transmission in several data streams (or Signals), for example to allow a stereo signal. A synchronization of the data streams can be done as indicated. Also, the method as well as the arrangement is not on the synchronization of two data streams limited, but can be extended to multiple streams (more than two) if the user data to be synchronized in each case is the generation allow unique identifiers.
Anzumerken ist, dass im Falle von in Datenströmen in kodierter Form enthaltenen Nutzdaten die Synchronisation in Bezug auf die Datenströme vor deren Dekodierung oder alternativ in Bezug auf die nach der Dekodierung aus den Datenströmen erhaltenen Nutzdatenströme erfolgen kann. Es kommt ferner auch in Betracht, die Synchronisation vor oder nach einer Umkodierung der Datenströme durchzuführen.It should be noted is that in the case of encoded data streams contained in Payload the synchronization with respect to the data streams before their Decoding or alternatively in terms of after decoding from the data streams received user data streams can be done. It also comes into consideration, the synchronization before or after a recoding of the data streams.
Eine interessante Möglichkeit ist ferner, dass die Synchronisation nicht durch Funktionalitäten eines Endgerätes sondern durch Funktionalitäten einer Infrastruktureinrichtung etwa eines Mobil-Telefonie-Betreibers erfolgt, die dann beispielsweise einen ersten, etwa Sprachdaten enthaltenden Datenstrom und einen zweiten, beispielsweise Videodaten enthaltenden Datenstrom synchronisiert und zu einem hinsichtlich der Sprachdaten und der Videodaten synchronen Folge-Datenstrom kombiniert, ggf. auf Basis einer Dekodierung des kodierte Sprachdaten enthaltenden ersten Datenstroms und des kodierte Videodaten enthaltenden zweiten Datenstroms und Kodierung des synchronisierten, noch unkodierten Sprach- und Videodatenstroms zu einem kodierten Sprach- und Videodatenstrom.A interesting possibility is further that the synchronization is not by functionalities of a terminal but by functionalities an infrastructure facility such as a mobile telephony operator takes place, then, for example, a first, such as voice data containing data stream and a second, for example video data synchronized data stream and related to a combining the voice data and the video data synchronous sequence data stream, possibly based on a decoding of the encoded voice data containing first data stream and the encoded video data containing second Data stream and encoding of the synchronized, yet uncoded voice and video data stream to a coded voice and video data stream.
Im
Folgenden soll ein Ausführungsbeispiel für eine besonders
zweckmäßige Art
und Weise der Synchronisation mehrerer Medienströme, speziell eines Audio-Stroms,
spezieller Sprachdaten-Audiostroms, einerseits und eines Video-Datenstroms
andererseits gegeben werden. Es wird auf die
Anzumerken ist, dass durch einen Sprach-Codec erzeugte kodierte Sprachdaten in Abhängigkeit von dem Sprach-Codec und den diesem zu Grunde liegenden Prinzipien die Synchronisation mit einem anderen Medienstrom, insbesondere Videostrom, besonders einfach ermöglichen, da der Inhalt des Sprachdatenstroms B bzw. bestimmte Daten bzw. Parameter hieraus selbst als Identifikationsmerkmal bzw. Identifikationsmerkmale (auch als Fingerabdruck bezeichenbar) dienen können. Es wird hierbei vor allem an in der Regel auf einer Prädiktionsanalyse, insbesondere linearen Prädiktionsanalyse, beruhende Daten und Parameter gedacht, wie LPC-Parameter, LSP-Parameter, Pitch-Informationen, Codebuch-Verstärkung etwa des vorgegebenen Codebuchs und Kombinationen aus diesen Parametern.It should be noted is that coded voice data generated by a voice codec dependent on from the speech codec and the underlying principles the synchronization with another media stream, in particular Video stream, particularly easy to enable, as the content of the Speech data stream B or certain data or parameters thereof even as identification feature or identification features (also as Fingerprint bezeichenbar) can serve. It will be here especially usually on a prediction analysis, in particular linear prediction analysis, based on data and parameters such as LPC parameters, LSP parameters, Pitch information Codebook gain about the given codebook and combinations of these parameters.
Gemäß der schematischen
Darstellung der
Anzumerken ist, dass es einerlei ist, ob die Fingerabdruck-Information in eigene Datenframes aufgenommen ist oder mit den Videodaten in gemeinsame Datenframes aufgenommen ist.It should be noted is that it does not matter if the fingerprint information is included in separate data frames or recorded with the video data in common data frames is.
Der
erste Datenstrom B und der als zweiter Datenstrom zu identifzierende
Video- und Fingerprint-Information enthaltene Datenstrom N werden an über verschiedene Übertragungskanäle und auf Grundlage
verschiedener Übertragungsstandards und
Protokolle übertragen.
Dies ist in
In Folge der unterschiedlichen Übertragungskanäle und Übertragungsstandards ist die anfänglich gemäß Ausführungsbeispiel bestehende Synchronität zwischen dem ersten Datenstrom B und dem zweiten Datenstrom N auf der Empfängerseite aufgehoben. Der empfangene, die kodierten Sprachdaten enthaltende erste Datenstrom E und der empfangene, die kodierten Videodaten R und die Fingerabdruck-Information Q enthaltende zweite Datenstrom P müssen erst noch synchronisiert werden, was zweckmäßig schon vor der Dekodierung erfolgen kann.In Sequence of different transmission channels and transmission standards is the initial one according to the embodiment existing synchronicity between the first data stream B and the second data stream N. the receiver side reserved. The received first data stream containing the coded voice data E and the received, the encoded video data R and the fingerprint information Q containing second data stream P must first be synchronized be, what purposeful already can be done before decoding.
Eine
Synchronisiereinrichtung
Eine
Vergleichseinrichtung
Beim
Ausführungsbeispiel
der
Wie
schon angedeutet, könnte
die durch die Synchronisiereinrichtung
Betreffend die Synchronisierung der Mediendatenströme ist zu beachten, dass Verfälschungen durch Störungen des jeweiligen Übertragungskanals auftreten könnten und dass ferner auch Ambivalenzen der gegenseitigen Zuordnung der Datenframes des ersten und zweiten Datenstroms, ggf. auch mehr als zwei Datenströme, auftreten könnten. Die Gefahr von Ambivalenzen der Art, dass keine eindeutige Zuordnung zwischen jeweiligen Datenframes des ersten und zweiten Datenstroms möglich ist, kann im Prinzip durch entsprechend umfangreiche Fingerabdruckdaten praktisch ausgeschaltet werden. Unter Umständen ist es aber gewünscht, im Hinblick auf die Datenübertragungsraten mit einem Minimum an Fingerabdruckdaten auszukommen.Concerning the synchronization of the media data streams is to be noted that distortions by disorders of the respective transmission channel occur could and that also ambivalence of the mutual assignment of the Data frames of the first and second data stream, possibly more than two data streams, could occur. The danger of ambivalences of the kind that no clear assignment between respective data frames of the first and second data streams possible is, in principle, through appropriately extensive fingerprint data practically turned off. It may be desirable in the In terms of data transfer rates to get along with a minimum of fingerprint data.
Eine besonders sichere Zuordnung zwischen den Datenframes des ersten und zweiten Datenstroms, die hinsichtlich Störungen aus den Übertragungskanälen oder andersartigen Störungen sehr fehlertolerant ist und überdies Ambivalenzen mit guter Zuverlässigkeit vermeidet, beruht darauf, dass für die Zuordnung die Fingerabdruck-Information mehrerer Datenframes des zweiten Datenstroms, hier des Video-Datenstroms, mit mehreren Datenframes des ersten Datenstroms, hier des Audio/Sprachdaten-Stroms, verglichen wird. Es wird im Folgenden angenommen, dass Parameter par_1 bis par_N (insbesondere LPC-Parameter, LSP-Parameter usw. wie oben angesprochen) die Fingerabdruck-Information bilden und für jeden Sprachdatenframe des ersten Datenstroms in Zuordnung zu einem jeweiligen Videodatenframe im Video-Datenstrom (zweiter Datenstrom) mit übertragen werden, vorzugsweise innerhalb des jeweiligen Video-Datenframes. Inder hier zu Grunde gelegten Ausgestaltung einer Sprach- und Video-Kommunikation in einem Telekommunikationsumfeld wird diese Fingerabdruck-Information senderseitig aus dem kodierten Sprachdatenframe extrahiert bzw. durch den Sprach- Codec bereitgestellt, ohne die Sprachdaten zu ändern. Diese Fingerabdruckdaten werden dann zusammen mit dem zugeordneten Videoframe bzw. in dem zugeordneten Videoframe übertragen.A particularly secure association between the data frames of the first and second data stream related to disturbances from the transmission channels or different types of interference is very fault tolerant and moreover Ambivalence with good reliability avoids, based on that for the Allocation of the fingerprint information of several data frames of the second data stream, here the video data stream, with multiple data frames of the first data stream, here the audio / voice data stream compared becomes. It is assumed below that parameters par_1 to par_N (especially LPC parameters, LSP parameters, etc. as mentioned above) form the fingerprint information and for each voice data frame of the first data stream in association with a respective video data frame in the video data stream (second data stream) with transfer preferably within the respective video data frame. In the embodiment of voice and video communication on which this is based in a telecommunications environment, this fingerprint information will be on the transmitter side extracted from the encoded voice data frame or provided by the voice codec, without changing the language data. These fingerprint data will then be associated with the associated one Video frame or transmitted in the associated video frame.
Für einen
jeweiligen Videoframe des zweiten Datenstroms kann der zugehörige i-te
Sprachframe des ersten Datenstroms auf Grundlage der Ähnlichkeit
zwischen den übertragenen
Fingerabdruckdaten und für
die Sprachdatenframes ermittelter entsprechender Fingerabdruckdaten
identifiziert werden. Aus der empfangenen Sequenz von Sprachdatenframes
wird auf der Empfängerseite
(oder alternativ in der Infrastruktur-Einrichtung) für jeden
Datenframe des ersten Datenstroms die Fingerabdruckinformation ermittelt
bzw. aus diesem extrahiert. Es kann dann für einen jeweiligen Datenframe
i des ersten Datenstroms ein Fehler- oder Übereinstimmungsmaß
In dieser Formel stellt k einen Zuordnungsparameter in der Art eines Such-Abstands oder Verschiebemaßes dar, der dem fiten Datenframe des ersten Datenstroms, genau dessen ermittelten Fingerabdruckdaten, den (i – k)-ten Datenframe des zweiten Datenstroms, genauer die diesem (i – k)-ten Datenframe des zweiten Datenstroms zugeordneten, auf ein bestimmtes Datenframe des ersten Datenstroms verweisenden Fingerabdruckdaten im zweiten Datenstrom, zuordnet.In This formula sets k an assignment parameter in the manner of a Search distance or shift measure which is the fite data frame of the first data stream, exactly determined fingerprint data, the (i - k) -th data frame of the second Data stream, more precisely, this (i - k) -th data frame of the second Data stream associated with a particular data frame of the first Data stream referring fingerprint data in the second data stream, assigns.
Es wird also für mehrere Datenframes i des ersten Datenstroms die Größe e(i, k) für verschiedene Werte von k bestimmt, um auf dieser Grundlage die Synchronisation durchzuführen.It So will for several data frames i of the first data stream the size e (i, k) for Different values of k are determined to be based on this synchronization perform.
Werden
als Fingerabdruckinformation zehn LPC-Parameter (N = 10) mit dem
zweiten Datenstrom übertragen
und wird für
die Bestimmung des Fehlermaßes
eine quadratische Norm verwendet, so erhält man für den Sprachdatenframe i und
den Suchabstand k:
Man
kann durchaus zweckmäßig alleine
auf Grundlage der Fehlermaße
(oder Übereinstimmungsmaße) e(i,
k) die Synchronisation durchführen. Demgegenüber ist
es aber bevorzugt, mehrere für den
gleichen Zuordnungs-Abstand k bestimmte Maße e(i, k) zu berücksichtigen,
beispielsweise in der Form eines Kombinations-Vergleichsmaßes
Dieses Kombinationsmaß kann für jeden Wert k bestimmt werden, wobei die Summe über alle zu berücksichtigenden Datenframes des ersten Datenstroms geht. Sofern nicht eine feste, sondern eine variierende Anzahl von Größen e(i, k) in das Kombinations-Vergleichsmaß E(k) eingehen, sollte die Summe durch die die Zahl von Summanden angebende Größe M nominiert werden.This Combination can for every value k, the sum being over all to be considered Data frames of the first data stream goes. Unless a firm, but enter a varying number of variables e (i, k) into the combination comparison measure E (k), the sum should be nominated by the quantity M indicating the number of summands become.
Das Kombinations-Vergleichsmaß E(k), das insbesondere einem summarischen oder mittleren Fehlermaß oder einem summarischen oder mittleren Übereinstimmungsmaß entspricht, ist sehr viel fehlertoleranter und weniger für Ambivalenzen anfällig als die zu Grunde liegenden Maße e(i, k), da eine Summation oder Mittlung über die Zeit bzw. über mehrere Datenframepaare eines jeweiligen Datenframes des ersten und eines jeweiligen Datenframes des zweiten Datenstroms beinhaltet ist. Es sind auch andere Kombinationen der Maße e(i, k) denkbar, etwa eine Produktbildung.The Combination comparison measure E (k), in particular a summary or mean error measure or a corresponds to a summary or average score, is much more error-tolerant and less prone to ambivalence than the underlying dimensions e (i, k), since a summation or averaging over time or over several Data frame pairs of a respective data frame of the first and a respective data frames of the second data stream is included. It Other combinations of the dimensions e (i, k) are conceivable, such as one Product formation.
Je
nach Definition der eingehenden Funktion DM kann ein k-Wert als Synchronisationsmaß bestimmt
werden, indem ein Maximum oder ein Minimum des Kombinations-Vergleichsmaßes E(k)
bestimmt wird. Im Falle eines als Abstandsmaß realisierten Maßes DM nehmen
die Maße
e(i, k) und dementsprechend auch die Kombinations-Maße E(k)
für bessere Übereinstimmung
zwischen der Fingerabdruckinformation des zweiten Datenstroms einerseits und
der Fingerabdruckinformation eines jeweiligen Datenframe des ersten
Datenstroms andererseits ab, so dass ein Minimum von E(k) zu finden
ist. Wenn beispielsweise ein Minimum von E(k) für k = 3 erhalten wird, so bedeutet
dies, dass der Video- und der Sprachdatenstrom um drei Datenframes
auseinandergelaufen sind, der Videostrom also um drei Frames gegenüber dem
Audiostrom verzögert
ist. Dies ermöglicht,
den Videostrom (zweiter Datenstrom) mit dem ersten Datenstrom (Audio-
bzw. Sprachdatenstrom) zu synchronisieren, indem künstlich
auch eine entsprechende Verzögerung
für den
Audio-Datenstrom
eingeführt
wird durch die Speicherung etwa im Zwischenspeicher
Vorteilhaft
können
die Kombinations-Vergleichsmaße
E(k) iterativ berechnet werden. Zuerst wird für jeden Wert von k berechnet:
Es kann dann als erste Näherung k als Minimum von E[1](k) bestimmt werden.It can then as a first approximation k can be determined as a minimum of E [1] (k).
Sobald
der nächste
Sprachdatenframe vorliegt, kann dann
Als
dritte Iterationsstufe kann dann k aus
Dies
kann entsprechend fortgeführt
werden:
Solange
nur Vergleichs-Maße
E[p](k) für
die Minimum- oder Maximumsuche berücksichtigt werden, die gleich
viele Summanden enthalten, ist ein Normierung mit der Anzahl von
Summanden nicht erforderlich, aber durchaus zweckmäßig. Unter
Berück sichtigung
einer die Anzahl von Summanden angebenden Normierungsgröße M ergeben
sich die folgenden approximativen Kombinations-Vergleichsmaße für die erste
bis dritte Approximationsstufe:
Auch in einer rekursive oder iterative Berechnung kann der richtige Normierungsfaktor, sofern überhaupt benötigt, auf einfache Weise berücksichtigt werden.Also in a recursive or iterative calculation, the correct normalization factor, if at all needed considered in a simple way become.
Die rekursive oder iterative Berechnung läuft auf eine Mittlung oder Aussummierung über die Zeit hinaus. Für jeden zusätzlich berücksichtigten Sprachdatenframe wird eine bessere Approximation für das Kombinations-Vergleichsmaß E(k) erhalten.The recursive or iterative calculation runs on an averaging or Squeeze over the time out. For each additional considered language data frame a better approximation for the combination measure E (k) is obtained.
Bei der Synchronisation kann für die synchrone Ausgabe der beiden Datenströme bzw. für ein synchrones Zusammenführen der beiden Datenströme jeweils bestimmt werden, für welchen Wert von k das Kombinations-Vergleichsmaß E(k) minimal (oder auch alternativ maximal) ist. Es können dabei jeweils in einem dem ersten Datenstrom zugeordneten Zwischenspeicher zwischengespeicherte Datenframes des ersten Datenstroms und in einem dem zweiten Datenstrom zugeordneten Zwischenspeicher zwischengespeicherte Datenframes des zweiten Datenstroms berücksichtigt werden, wobei hinzukommende Datenframes des ersten bzw. zweiten Datenstroms sukzessive mit berücksichtigt werden können.at the synchronization can be for the synchronous output of the two data streams or for a synchronous merging of the both data streams each determined for which value of k the combination comparison measure E (k) minimal (or alternatively maximum). It can in each case in a buffer associated with the first data stream cached data frames of the first data stream and in a cached the second data stream associated cache Data frames of the second data stream are taken into account, with added Data frames of the first and second data stream successively taken into account can be.
Die
vorangehend allgemein erläuterte
Art und Weise der Synchronisation soll im Folgenden anhand eines
stark vereinfachten Beispiels besser veranschaulicht werden. Es
wird auf
Gemäß
Die Nutzdaten-Parameter par_0 und par_1 des ersten Datenstroms haben der Einfachheit halber Integerwerte wie folgt: 6, 7 für den Datenframe i – 1; 4, 5 für den Datenframe i; 2, 3 für den Datenframe i + 1; 0, 1 für den Datenframe i + 2 und 8,9 für den Datenframe i + 3. In den zweiten Datenstrom sind frameweise als Fingerabdruck die als par_0* und par_1* angesprochenen Integerwerte 6, 7 für den Datenframe i – 1; 4, 5 für den Datenframe i; 2, 0 für den Datenframe i + 1 und 0,1 für den Datenframe i + 2 aufgenommen. Im Falle des Video-Datenframes i + 1 weichen die Fingerabdruckdaten 2, 0 von den entsprechenden, im Frame i + 2 des ersten Datenstroms enthaltenen Parametern 2, 3 ab, um eine beispielsweise von einer Störung hervorgerufene Abweichung zu repräsentieren. Ohne Störung müsste der Videoframe i + 2 die Fingerabdruckdaten 2, 3 enthalten oder müsste der Audioframe i + 1 für die angegebenen Parameter die Integerwerte 2, 0 enthalten.The User data parameters par_0 and par_1 of the first data stream for the sake of simplicity, integer values as follows: 6, 7 for the data frame i - 1; 4, 5 for the data frame i; 2, 3 for the data frame i + 1; 0, 1 for the data frame i + 2 and 8.9 for the data frame i + 3. In the second data stream are frame-wise as Fingerprint the integer values addressed as par_0 * and par_1 * 6, 7 for the data frame i-1; 4, 5 for the data frame i; 2, 0 for the data frame i + 1 and 0.1 for recorded the data frame i + 2. In the case of the video data frame i + 1, the fingerprint data 2, 0 differs from the corresponding, in the frame i + 2 of the first data stream contained parameters 2, 3 to, for example, caused by a fault deviation represent. Without interference should the video frame i + 2 contains or should have the fingerprint data 2, 3 Audioframe i + 1 for the specified parameters contain the integers 2, 0.
Vergleicht man ein bestimmtes Datenframe des einen Datenstroms, beispielsweise das Frame i – 1 des Sprachdatenstroms E, paarweise mit verschiedenen Datenframes des anderen Datenstroms, also vorliegend beispielsweise mit den Datenframes i – 1, i, i + 1 und i + 2 des Video-Datenstroms Q, so kann das betreffende Datenframe des erstgenannten Datenstroms – im Beispielsfall das Datenframe i – 1 des Datenstroms E – als „Aufpunkt"-Datenframe angesprochen werden, welches mit verschiedenen Datenframes des anderen Datenstroms verglichen wird. Alternativ könnte man ein bestimmtes „Aufpunkt"-Datenframe des anderen Datenstroms, also beispielsweise das Datenframe i des Video-Datenstroms Q, paarweise mit verschiedenen Datenframes des erstgenannten Datenstroms, also beispielsweise mit den Datenframes i – 1, i, i + 1, i + 2 und i + 3 des Sprachdatenstroms E, vergleichen. Alleine schon auf Grundlage eines solchen Vergleiches kann im Prinzip die Synchronisation der Datenströme erfolgen. Vorzugsweise erfolgt die Synchronisation aber auf Grundlage der Kombinations-Vergleichsmaße E(k).comparing one particular data frame of one data stream, for example the frame i - 1 of the voice data stream E, in pairs with different data frames the other data stream, so in the present example, with the Data frames i-1, i, i + 1 and i + 2 of the video data stream Q, so the relevant Data frame of the first mentioned data stream - in the example case the data frame i - 1 of the data stream E - addressed as a "Aufpunkt" data frame which will work with different data frames of the other data stream is compared. Alternatively could you get a certain "datum" data frame of the other datastream, For example, the data frame i of the video data stream Q, in pairs with different data frames of the former data stream, ie for example with the data frames i-1, i, i + 1, i + 2 and i + 3 of the voice data stream E, compare. Alone on the basis such a comparison can in principle be the synchronization of streams respectively. Preferably, however, the synchronization is based on the combination comparative measures E (k).
Vorgeschlagen wird unter anderem ein Verfahren und ein System zur Synchronisation mehrerer Datenströme, die jeweils eine Mehrzahl aufeinander folgender Teilabschnitte, ggf. Datenframes, aufweisen, wobei wenigstens ein zweiter der Datenströme in Zuordnung zu Teilabschnitten des zweiten Datenstroms auf Teilabschnitte wenigstens eines ersten der Datenströme verweisende Identifikationsmerkmale enthält und über die Identifikationsmerkmale einander zugeordnete Teilabschnitte der Datenströme ermittelt werden, um die Datenströme zu synchronisieren. Es werden ferner Vorrichtungen und Systemkomponenten bereitgestellt, auf deren Grundlage das Verfahren durchgeführt bzw. das System aufgebaut werden kann.proposed will include a method and a system for synchronization several data streams, each a plurality of successive subsections, possibly data frames, wherein at least a second of the data streams in association to subsections of the second data stream on subsections at least a first of the data streams contains referring identification features and the identification features each other assigned subsections of the data streams are determined to the streams to synchronize. There are also devices and system components on the basis of which the procedure has been carried out or the system can be built.
Claims (108)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102006036562.3A DE102006036562B4 (en) | 2006-08-04 | 2006-08-04 | Method and system for transmitting data streams related to one another and / or for synchronizing data streams related to one another |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102006036562.3A DE102006036562B4 (en) | 2006-08-04 | 2006-08-04 | Method and system for transmitting data streams related to one another and / or for synchronizing data streams related to one another |
Publications (2)
Publication Number | Publication Date |
---|---|
DE102006036562A1 true DE102006036562A1 (en) | 2008-02-07 |
DE102006036562B4 DE102006036562B4 (en) | 2014-04-10 |
Family
ID=38884968
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102006036562.3A Expired - Fee Related DE102006036562B4 (en) | 2006-08-04 | 2006-08-04 | Method and system for transmitting data streams related to one another and / or for synchronizing data streams related to one another |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102006036562B4 (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2470201A (en) * | 2009-05-12 | 2010-11-17 | Nokia Corp | Synchronising audio and image data |
DE102010018749A1 (en) * | 2010-04-29 | 2011-11-03 | Deutsches Zentrum für Luft- und Raumfahrt e.V. | Method for wireless transmission of e.g. image information in form of progressively compressed data for transmitting images received by e.g. monitoring camera, involves transferring amount of data over transfer channels |
CN112995766A (en) * | 2019-12-12 | 2021-06-18 | 天翼智慧家庭科技有限公司 | Method and apparatus for identifying multiple video streams of IPTV |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2366110A (en) * | 2000-06-23 | 2002-02-27 | Ibm | Synchronising audio and video. |
WO2002051155A1 (en) * | 2000-12-20 | 2002-06-27 | G. W. Hannaway & Associates | Webcasting method and system for time-based synchronization ofmultiple, independent media streams |
WO2004052020A1 (en) * | 2002-12-04 | 2004-06-17 | Koninklijke Philips Electronics N.V. | Synchronization of signals |
WO2005011281A1 (en) * | 2003-07-25 | 2005-02-03 | Koninklijke Philips Electronics N.V. | Method and device for generating and detecting fingerprints for synchronizing audio and video |
-
2006
- 2006-08-04 DE DE102006036562.3A patent/DE102006036562B4/en not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2366110A (en) * | 2000-06-23 | 2002-02-27 | Ibm | Synchronising audio and video. |
WO2002051155A1 (en) * | 2000-12-20 | 2002-06-27 | G. W. Hannaway & Associates | Webcasting method and system for time-based synchronization ofmultiple, independent media streams |
WO2004052020A1 (en) * | 2002-12-04 | 2004-06-17 | Koninklijke Philips Electronics N.V. | Synchronization of signals |
WO2005011281A1 (en) * | 2003-07-25 | 2005-02-03 | Koninklijke Philips Electronics N.V. | Method and device for generating and detecting fingerprints for synchronizing audio and video |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2470201A (en) * | 2009-05-12 | 2010-11-17 | Nokia Corp | Synchronising audio and image data |
DE102010018749A1 (en) * | 2010-04-29 | 2011-11-03 | Deutsches Zentrum für Luft- und Raumfahrt e.V. | Method for wireless transmission of e.g. image information in form of progressively compressed data for transmitting images received by e.g. monitoring camera, involves transferring amount of data over transfer channels |
DE102010018749B4 (en) * | 2010-04-29 | 2012-06-14 | Deutsches Zentrum für Luft- und Raumfahrt e.V. | Hybrid data transmission method for wireless communication |
DE102010018749C5 (en) * | 2010-04-29 | 2016-10-27 | Deutsches Zentrum für Luft- und Raumfahrt e.V. | Hybrid data transmission method for wireless communication |
CN112995766A (en) * | 2019-12-12 | 2021-06-18 | 天翼智慧家庭科技有限公司 | Method and apparatus for identifying multiple video streams of IPTV |
CN112995766B (en) * | 2019-12-12 | 2023-10-10 | 天翼数字生活科技有限公司 | Method and device for identifying IPTV multi-channel video stream |
Also Published As
Publication number | Publication date |
---|---|
DE102006036562B4 (en) | 2014-04-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE102010018376B4 (en) | Dynamic buffering and synchronization of related media streams in packet networks | |
EP1283611A2 (en) | Method for synchronization of a communication system via a packet oriented data network | |
DE10311541A1 (en) | Procedure for detecting zero point deviations between two clocks | |
EP2728830A1 (en) | Method and system for synchronizing audio and video streams in media relay conferencing | |
DE112018005252T5 (en) | SYSTEM AND METHOD FOR CLASSIFYING AND STAMPING PACKAGES | |
US10778361B1 (en) | Stream synchronization | |
DE19620186A1 (en) | Method and device for synchronizing temporally related data streams | |
DE602004009560T2 (en) | Data transmission synchronization scheme | |
DE102006036562B4 (en) | Method and system for transmitting data streams related to one another and / or for synchronizing data streams related to one another | |
EP1425885B1 (en) | Method and system for transmitting data from a first data network into a second data network | |
US20120327954A1 (en) | Packet Meta-Tagging Using Excess Payload | |
DE602004004577T2 (en) | Method and device for determining the language latency by a network element of a communication network | |
DE102006002061B4 (en) | Method for receiving, for transmitting and for transmitting, transmitting and receiving arrangement and system of transmitting and receiving arrangement | |
EP1516495B1 (en) | Method for creating a system clock in a receiver device and corresponding receiver device | |
EP3652872B1 (en) | Method and device for deriving audio parameter values from an aes67-compatible audio information signal | |
DE112011101955T5 (en) | Video display device | |
DE102016207785B4 (en) | Method and device for quality assessment of a video stream in the transmission of video telephony | |
WO2016128145A1 (en) | Method for transmitting data in a multimedia system, and software product and device for controlling the transmission of data in a multimedia system | |
EP2745510B1 (en) | Method for handling transmission errors of a video stream | |
WO2006108366A1 (en) | Method for synchronising medium flows in a packet-switched mobile radio network, terminal and arrangement for said method | |
DE10232988B4 (en) | Method and device for the clocked output of asynchronously received digital signals | |
DE10228861B4 (en) | Method for transmitting time-synchronized data | |
EP2254342A1 (en) | Method for the synchronisation of an audio and videostream | |
EP3507987A1 (en) | Method for transmitting real-time-based digital video signals in networks | |
EP1847047A2 (en) | Method for playing and processing audio data of at least two computer units |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
OP8 | Request for examination as to paragraph 44 patent law | ||
8139 | Disposal/non-payment of the annual fee | ||
8127 | New person/name/address of the applicant |
Owner name: PALM, INC. (N.D.GES. D. STAATES DELAWARE), SUN, US |
|
8128 | New person/name/address of the agent |
Representative=s name: SAMSON & PARTNER, PATENTANWAELTE, 80538 MUENCHEN |
|
8170 | Reinstatement of the former position | ||
8181 | Inventor (new situation) |
Inventor name: VARGA, IMRE, DR., 81477 MUENCHEN, DE Inventor name: TADDEI, HERVE, DR., 80336 MUENCHEN, DE |
|
8127 | New person/name/address of the applicant |
Owner name: HEWLETT-PACKARD DEVELOPMENT CO., L.P., HOUSTON, US |
|
R081 | Change of applicant/patentee |
Owner name: QUALCOMM INCORPORATED, SAN DIEGO, US Free format text: FORMER OWNER: PALM, INC. (N.D.GES. D. STAATES DELAWARE), SUNNYVALE, CALIF., US Effective date: 20110406 |
|
R018 | Grant decision by examination section/examining division | ||
R082 | Change of representative |
Representative=s name: SAMSON & PARTNER, PATENTANWAELTE, DE |
|
R081 | Change of applicant/patentee |
Owner name: QUALCOMM INCORPORATED, SAN DIEGO, US Free format text: FORMER OWNER: HEWLETT-PACKARD DEVELOPMENT COMPANY, L.P., HOUSTON, TEX., US Effective date: 20140307 Owner name: QUALCOMM INCORPORATED, US Free format text: FORMER OWNER: HEWLETT-PACKARD DEVELOPMENT CO., L.P., HOUSTON, US Effective date: 20140307 |
|
R082 | Change of representative |
Representative=s name: MAUCHER JENKINS, DE Effective date: 20140307 Representative=s name: SAMSON & PARTNER PATENTANWAELTE MBB, DE Effective date: 20140307 Representative=s name: MAUCHER JENKINS PATENTANWAELTE & RECHTSANWAELT, DE Effective date: 20140307 Representative=s name: SAMSON & PARTNER, PATENTANWAELTE, DE Effective date: 20140307 |
|
R020 | Patent grant now final | ||
R020 | Patent grant now final |
Effective date: 20150113 |
|
R082 | Change of representative |
Representative=s name: MAUCHER JENKINS, DE Representative=s name: MAUCHER JENKINS PATENTANWAELTE & RECHTSANWAELT, DE |
|
R119 | Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee |