Verfahren zum Erkennen eines akustischen Ereignisses in einem Audio-Signal
Die Erfindung betrifft ein Verfahren zum Erkennen eines akustischen Ereignisses in einem Audio-Signal.
Es gibt viele Anwendungen, in denen das Erkennen eines akustischen Ereignisses in einem Audio-Signal benötigt wird. Ein Beispiel ist das Erkennen einer Klappe zur Synchronisation von Audio- und Videosignalen. Das Audiosignal einer Klappe gehört als perkusives Signal zu den transienten
Signalen. Die Synchronisation von Audio- und Videosignalen wird u. a. bei der Herstellung und Übertragung von Filmen z.B. für Nachrichten benötigt, die möglichst schnell zur Verfügung stehen sollten.
Ein Verfahren zum Erkennen akustischer Ereignisse in Audio-Signalen ist in der EP 1 465 192 A1 beschrieben. Das Verfahren umfasst eine Stufe, in der eine beliebige Kombination verschiedene Schritte zu einer Klassifikation des Audio- Signals in: erkanntes Ereignis oder kein Ereignis erkannt eingesetzt wird. Die ausgewählten Schritte zur Klassifikation werden an dem gesamten ggf. bearbeiteten Audio-Signal durchgeführt. Weitere Verfahren zum Erkennen akustischer Ereignisse sind z.B. aus der US 5 884 260 und aus der US 2005/0199064 A1 bekannt.
Aufgabe der Erfindung ist es, ein Verfahren zum Erkennen eines akustischen Ereignisses zu entwickeln, das ein schnelles Erkennen des Ereignisses ermöglicht. Die Aufgabe ist durch die Merkmale des Anspruchs 1 gelöst. Vorteilhafte
Ausführungsformen der Erfindung sind in den Unteransprüchen beschrieben.
Ein erfindungsgemäßes Verfahren zum Erkennen eines akustischen Ereignisses in einem Audio-Signal, z. B. in einer wav-Datei, weist zwei Stufen auf. In der ersten Stufe werden mögliche Kandidaten ausgewählt und in der zweiten Stufe wird jedem der möglichen Kandidaten ein Konfidenzwert zugeordnet.
Eine Aufteilung des Erkennungsverfahren in zwei Stufen, nämlich zunächst eine erste Auswahl möglicher Kandidaten in der ersten Stufe und anschließend eine genauere Überprüfung der möglichen Kandidaten in der zweiten Stufe ermöglicht es, die auszuwertende Datenmenge erheblich gegenüber Verfahren zu verringern, bei denen die Überprüfung der Kandidaten ohne Vorauswahl durchgeführt wird.
Der Konfidenzwert ist ein Maß für die Wahrscheinlichkeit, dass es sich um das gesuchte Ereignis handelt. Die Zuordnung eines Konfidenzwertes zu jedem möglichen Kandidaten ermöglicht es einem Operator, bei Bestimmung der endgültigen Kandidaten, zunächst die möglichen Kandidaten mit den höchsten Konfidenzwerten zu sichten und die Suche zu beenden, sobald die gesuchten Kandidaten gefunden sind. Mögliche, falsche Kandidaten mit ähnlichen Eigenschaften wie die gesuchten Ereignisse d.h. und mit zwar hohen jedoch etwas geringeren Konfidenzwerten als die gesuchten Ereignisse können außer Betracht gelassen werden .
Zur Auswahl der möglichen Kandidaten weist die erste Stufe erfindungsgemäß folgende Schritte auf: Anwendung eines ersten Hoch-Pass-Filters auf das Audio- Signal, der ein breites Übergangsband aufweist, so dass höhere Frequenzen stärker gewichtet sind, Berechnung einer ersten Energieeinhüllenden im Zeitbereich aus dem gefilterten Audio-Signal, Berechnung einer Ableitung aus der Energieeinhüllenden und
Bestimmung von möglichen Kandidaten aus Ereignissen, deren Ableitung der Energieeinhüllenden über einem vorbestimmten Schwellenwert liegt. Dies ist ein einfaches Verfahren zur Auswahl der möglichen Kandidaten. Erfindungsgemäß weist die zweiten Stufe für jeden möglichen Kandidaten folgende Schritte auf: Auswertung mehrerer Größen des möglichen Kandidaten und Zuordnung eines gemeinsamen Konfidenzwertes mit Hilfe einer Bewertung der Größen.
Erfindungsgemäß weist die zweite Stufe für jeden möglichen Kandidaten für die Auswertung der Größen folgende Schritte auf:
Anwendung eines zweiten Hoch-Pass-Filters auf das Audio-Signal, der eine
niedrigere Grenzfrequenz aufweist als der erste Hoch-Pass-Filter, um Geräusche mit einer tiefen Frequenz zu unterdrücken, und
Berechnung einer zweiten Energieeinhüllenden im Zeitbereich aus dem gefilterten Audio-Signal.
Dabei werden erfindungsgemäß der folgenden Größen jedes möglichen Kandidaten ausgewertet:
- Energieanstieg, d.h. der Maximalwert der Ableitung der ersten Energieeinhüllenden, und
- Höhe und Position des gemessenen Maximums aus der zweiten Energieeinhüllenden.
In der zweiten Stufe werden vorzugsweise eine oder mehrerer der folgenden Größen jedes möglichen Kandidaten ausgewertet:
- Energieanstieg, d.h. der Maximalwert der Ableitung,
- Höhe und Position des gemessenen Maximums, - Steigung und Abweichung von einer an den Energieabfall der Energieeinhüllenden angepassten Kurve,
- Differenz zwischen einem gemessenen Maximum und einem aus der Kurve vorausgesagten Maximum,
- Dauer des möglichen Kandidaten, - Dauer einer Stilleperiode vor dem möglichen Kandidaten und Dauer einer Stilleperiode nach dem möglichen Kandidaten, und
- Zeitpunkt des Auftreten des möglichen Kandidaten.
Bevorzugt weist die zweite Stufe für jeden möglichen Kandidaten für die Auswertung der Größen folgenden Schritt auf: Bestimmung eines Geräuschbereichs des Audio-Signals.
In einer Ausführungsform der Erfindung umfasst die Bestimmung des Geräuschbereichs eine Bestimmung eines Grundrauschens und/oder eines Aufnahmepegels. Bevorzugt wird dabei die in der zweiten Stufe berechnete Energieeinhüllende verwendet.
Bevorzugt weist die zweite Stufe für jeden möglichen Kandidaten für die Bewertung einer oder mehrerer der ausgewerteten Größe jeweils folgende Schritte auf: Bestimmung eines Wahrscheinlichkeitsverhältnisses und/oder eines Gewichtungsfaktor. Bevorzugt werden die Wahrscheinlichkeitsverhältnisse und/oder die Gewichtungsfaktoren der ausgewerteten Größen bei der Zuordnung des gemeinsamen Konfidenzwertes zusammengefasst.
In einer Ausführungsform der Erfindung erfolgt bei der Zuordnung des gemeinsamen Konfidenzwertes eine Addition der Logarithmen der durch die Gewichtungsfaktoren gewichteten Wahrscheinlichkeitsverhältnisse der ausgewählten Größen.
Bevorzugt werden die Gewichtungsfaktoren einer oder mehrerer der ausgewerteten Größen jeweils aus Korrelationkoeffizienten für paarweise Korrelationen der ausgewerteten Größen berechnet.
Bevorzugt werden bei der Bestimmung der Wahrscheinlichkeitsverhältnisse eine oder mehrere Zusatzinformationen über das akustische Ereignis berücksichtigt.
In einer Ausführungsform der Erfindung weist die zweite Stufe für jeden möglichen Kandidaten alternativ oder zusätzlich folgenden Schritt auf: Spracherkennung eines auf das akustische Ereignis hinweisenden Textes.
Das erfindungsgemäße Verfahren wird bevorzugt zum Erkennen von Klappen bei der Synchronisation des Audio-Signals mit einem entsprechenden Video- Signal verwendet.
Die Erfindung ist anhand eines in der Zeichnung schematisch dargestellten Beispiels weiter erläutert.
Es zeigen: Figur 1 eine Block-Diagramm eines erfindungsgemäßen Beispiel und Figur 2 eine Darstellung eines möglichen Kandidaten im Zeitbereich mit ausgewerteten Größen, in der ein entsprechender Ausschnitt des Audio-Signals anhand der Energie in Dezibel dB im Verlauf der Zeit in Sekunden s zu sehen ist.
Ein erfindungsgemäßes Verfahren zum Erkennen eines akustischen Ereignisses in einem Audio-Signals S, und zwar in diesem Beispiel zum Erkennen einer Klappe, weist zwei Stufen A, B auf. In der ersten Stufe A werden mögliche Kandidaten X ausgewählt und in der zweiten Stufe B wird jedem der möglichen Kandidaten X ein Konfidenzwert W zugeordnet. Das Audio-Signal ist z. B. eine wav-Datei, die durch ein das erfindungsgemäße Verfahren durchführendes Programm bearbeitet wird.
Zur Auswahl der möglichen Kandidaten X weist die erste Stufe A des erfindungsgemäßen Verfahrens folgende in Figur 1 dargestellte Schritte auf: Anwendung 110 eines ersten Hoch-Pass-Filters auf das Audio-Signal S,
Berechnung 120 einer Energieeinhüllenden im Zeitbereich aus dem gefilterten Audio-Signal S, Berechnung 130 einer Ableitung aus der Energieeinhüllenden und Bestimmung 140 von möglichen Kandidaten aus Ereignisse, deren Maximalwert der Ableitung über einem vorbestimmten Schwellenwert liegt. Die Ableitung ist ein Maß für den Energieanstieg.
Der erste Hoch-Pass-Filter ist mit einer sehr flachen Flanke ausgeführt, d.h. er weist ein breites Übergangsband von z.B. Frequenzen zwischen 2000 und 3000 Hz auf. Dabei werden Frequenzen umso besser durchgelassen je höher sie sind, so dass höhere Frequenzen stärker gewichtet sind. Vorteil dieses Hoch-Pass- Filters ist auch, dass ein Filter mit einer solch flachen Flanke mit einer geringen Filterordnung und damit mit einer geringen Rechenkomplexität erreicht werden kann.
In dem Audio-Signal S ist bei einem möglichen Kandidat X der Maximalwert der Ableitung oberhalb eines bestimmten Schwellenwertes. Der Schwellenwert ist vom zu erkennenden Ereignis abhängig gewählt. In diesem Beispiel zum Erkennen von Klappen kann der Schwellenwert z. B. 18 dB betragen.
Da ein Klappenereignis innerhalb einer Genauigkeit eines viertel Bildes liegen sollte, d. h. im Bereich von 10 ms bei 25 Bildern pro Sekunde, wird zur Berechnung der Energieeinhüllenden ein Rechteckfenster F von 5 ms verwendet. Dieses Vorgehen entspricht einem Tief-Pass-Filter und ist geeignet, Rauschen zu unterdrücken.
In Figur 2 ist ein in der ersten Stufe A gefundener möglicher Kandidat X dargestellt. Das Rechteckfenster F ist in Figur 2 eingezeichnet.
Die zweiten Stufe B weist für jeden möglichen Kandidaten X folgende in Figur 1 dargestellte Schritte auf: Anwendung 150 eines zweiten Hoch-Pass-Filters auf das Audio-Signal S, Berechnung 160 einer zweiten Energieeinhüllenden E im Zeitbereich aus dem gefilterten Audio-Signal S,
Auswertung 170 einer oder mehrere Größen mit Hilfe der Berechnung 160 der Energieeinhüllenden E und mit Hilfe einer Bestimmung 180 eines Geräuschbereichs des gefilterten Audio-Signals S, und
Zuordnung 190 eines gemeinsamen Konfidenzwertes W mit Hilfe einer Bewertung 200 der Größen.
Der Konfidenzwert W ist ein Maß für die Wahrscheinlichkeit, dass es sich um das gesuchte Ereignis handelt. Als relatives Maß verglichen mit Konfidenzwerten W weiterer möglicher Kandidaten X eines Audio-Signals ermöglicht der Konfidenzwert W ein schnelles Auffinden des richtigen Kandidaten.
Die Auswertung 180 der Größen eines möglichen Kandidaten X erfolgt zusätzlich mit Hilfe des in der ersten Stufe A ermittelten Maximalwertes der Ableitung, d.h. des Energieanstiegs.
Der zweite Hoch-Pass-Filter, der auf das ursprüngliche Audio-Signal S angewandt wird, hat eine Grenzfrequenz von z.B. 200 Hz. Er ist eingesetzt, um Geräusche mit einer tiefen Frequenz, wie z. B. ein 50 Hz - oder 60 Hz - Brummen oder mechanische Geräusche einer laufenden Kamera zu unterdrücken.
Die Bestimmung 180 des Geräuschbereichs umfasst eine Bestimmung eines Grundrauschens G und/oder eines Aufnahmepegel A des Audio-Signals S. Bei der Bestimmung des Grundrauschens G und bei der Bestimmung des Aufnahmepegels A wird die in der zweiten Stufe B berechnete Energieeinhüllende E verwendet, wobei ein Histogramm von Werten der Energieeinhüllenden E erstellt wird. Als Aufnahmepegel A wird beispielsweise der Wert definiert, der nur von 1 % der Werte überschritten wird, und als
Grundrauschen der Wert definiert, der von 5% der Werte nicht überschritten wird.
Ausreißer mit sehr geringer Energie, z.B. durch ein Einschalten eines Mikrofons, werden bei diesem Verfahren nicht berücksichtigt. Außerdem ist der Aufnahmepegel A aus längeren Signalabschnitten zu ermitteln als das Grundrauschen G.
In der zweiten Stufe B erfolgt für jeden möglichen Kandidaten die Auswertung 170 einer oder mehrerer der folgenden Größen:
- Energieanstieg, d.h. der Maximalwert der Ableitung ,
- Höhe und Position des gemessenen Maximums M,
- Steigung und Abweichung von einer an den Energieabfall der Einhüllenden angepassten Kurve K,
- Differenz zwischen einem gemessenen Maximum M und einem aus der Kurve K vorausgesagten Maximum,
- Dauer T des möglichen Kandidaten X,
- Dauer Tv einer Stilleperiode vor dem möglichen Kandidaten X und Dauer Tn einer Stilleperiode nach dem möglichen Kandidaten X, und
- Zeitpunkt tx des Auftreten des möglichen Kandidaten X.
Der Energieanstieg ist die einzige Größe, die in der ersten Stufe A ermittelt wird, und die aus der Energieeinhüllenden des durch den ersten Hoch-Pass-Filter gefilterten Audio-Signals S berechnet wird. Alle anderen Größen werden von der Energieeinhüllenden E des durch den zweiten, nur tiefe Frequenzen abschneidenden Hoch-Pass-Filter gefilterten Audio-Signals S abgeleitet, die in der zweiten Stufe B ermittelt wird.
Bei der Auswertung des gemessenen Maximums M wird für seine Höhe des Maximums M die Differenz zwischen dem gemessenen Maximum und dem Aufnahmepegel A ermittelt. Außerdem wird seine Position festgestellt. Ein gefundenes Maximum wird durch ein früheres lokales Maximum ersetzt, wenn es vermutlich durch Reflektionen erzeugt ist. Dazu wird das Maximum in zwei unterschiedlichen Zeitintervallen bestimmt, in einem kürzeren und in einem längeren. Das Maximum im längeren Zeitintervall muss signifikant höher sein, um als reales Maximum akzeptiert zu werden.
Es wird die Steigung und Abweichung von einer an den Energieabfall der Einhüllenden angepassten Kurve K ausgewertet. Diese Auswertung berücksichtigt, dass der Energieabfall des Klappenereignisses durch die Reflektionen im Raum, d.h. an den Wänden, am Boden und an der Decke, exponentiell abfällt. Die Anpassung der Kurve erfolgt in einer logarithmischen Skalierung, so dass eine einfache Anpassung an einen linearen Abfall erfolgt. Außerdem ermöglicht diese Anpassung, die Qualität der Anpassung durch die mittlere quadratische Abweichung festzustellen.
Ein exponentieller Energieabfall stellt sich bei der Energieeinhüllenden E normalerweise erst im hinteren Verlauf durch spätere diffuse Reflektionen im so genannten Nachhall ein. Im Anfangsbereich wirken sich eher diskrete Reflektionen auf den Abfall aus. Daher wird die Kurvenanpassung auf den hinteren Teil des akustischen Ereignisses beschränkt. Bei der Kurvenanpassung werden Messwerte in Abhängigkeit zu ihrem Abstand zum Grundrauschen G gewichtet, da Werte niedriger Energie, d.h. nahe am Grundrauschen G, stärker von Hintergrundgeräuschen beeinflusst werden. Die Kurvenanpassung wird gering bewertet, wenn das Audio-Signal S vermutlich außen aufgenommen wurde, d.h. wenn es kurz ist und nur diskrete Reflektionen und kaum Nachhall vorhanden sind. Dies erfolgt, indem die Dauer des möglichen Kandidaten X und eine sigmoidale Gewichtungsfunktion benutzt werden.
Der Energieabfall kann durch simultane Hintergrundgeräusche oder andere Vordergrundgeräusche unterbrochen sein. In diesem Fall wird die Kurvenanpassung nur bis zu dieser Unterbrechung durchgeführt. Zur Erkennung einer Unterbrechung wird auf die Energieeinhüllende E ein zusätzlicher Tief- Pass-Filter angewandt. Eine Unterbrechung des Energieabfalls wird festgestellt, wenn diese gefilterte Energieeinhüllende wieder ansteigt bevor die originale Energieeinhüllende E einen unteren Stilleschwellenwert Si erreicht. Bei Feststellung einer Unterbrechung des Energieabfalls wird der Konfidenzwert W des möglichen Kandidaten X direkt oder indirekt in Abhängigkeit vom Abstand der Unterbrechung zu einem unteren Stilleschwellenwert Si verringert.
Die Differenz zwischen einem gemessenen Maximum M und einem aus der Kurve K vorausgesagten Maximum wird in einer logarithmischen Skalierung ermittelt. Es handelt sich daher um eine relative Differenz.
Die Dauer T des möglichen Kandidaten X, d.h. des akustischen Ereignisses, wird aus der Zeitspanne ermittelt, in der sich die Energie, d.h. die Energieeinhüllende E, über dem unteren Stilleschwellenwert Si befindet.
Die Dauer Tv einer Stilleperiode vor dem akustischen Ereignis, d.h. vor dem möglichen Kandidaten X, und die Dauer Tn einer Stilleperiode nach dem möglichen Kandidaten X sind Zeitspannen, die die Energieeinhüllende E benötigt, um über einen obere Stilleschwellenwert S2 zu kommen, nachdem sie unter den unteren Stilleschwellenwert Si gefallen ist. Diese Hysterese verhindert, dass leise Geräusche als Ende einer Stilleperiode erkannt werden. Bei einer richtigen Klappe sind die Stilleperioden Tv und Tn weder zu lang noch zu kurz. Wenn die Bewegung zum Schließen selbst Geräusche verursacht, gibt es möglicherweise keine Stilleperiode Tv vor der Klappe. Dies wird bei der Auswertung berücksichtigt. Für Außenaufnahmen werden bei der Auswertung der Stilleperioden Tv und Tn, soweit möglich, Echos vernachlässigt.
Bei der Auswertung des Zeitpunktes tx des Auftretens des möglichen Kandidaten wird berücksichtigt, dass sich ein möglicher Kandidat, nämlich eine Klappe, typischerweise am Anfang oder am Ende einer Aufnahme befindet.
Die zweite Stufe B umfasst für die Bewertung 200 der oben beschriebenen, ausgewerteten Größe folgende Schritte für jede Größe: Bestimmung eines Wahrscheinlichkeitsverhältnisses v und/oder eines Gewichtungsfaktor w.
Bei der Zuordnung 190 eines gemeinsamen Konfidenzwertes W zu einem möglichen Kandidaten werden die Wahrscheinlichkeitsverhältnisse v und/oder der Gewichtungsfaktoren w der ausgewerteten Größen zusammengefasst. Dies erfolgt durch eine Addition der Logarithmen der durch die Gewichtungsfaktoren w gewichteten Wahrscheinlichkeitsverhältnisse v der ausgewählten Größen. Die Gewichtungsfaktoren w der ausgewerteten Größen werden jeweils aus
Korrelationskoeffizienten k für paarweise Korrelationen der ausgewerteten Größen berechnet werden.
Insbesondere wird bei N ausgewerteten Größen der Gewichtungsfaktor wi einer Größe i aus den Korrelationskoeffizienten kij für die N paarweisen Korrelationen folgendermaßen berechnet:
Der Korrelationskoeffizienten kij ist ein Maß für die Korrelation zwischen der i-ten und j-ten Größe und wird aus empirischen Daten ermittelt. Bei der Berechnung der Korrelationskoeffizienten kij werden Ausreißer, die eine 3σ-Grenze überschreiten, unterdrückt. Der Exponent m bestimmt, wie stark die Korrelation in Betracht gezogen wird. Je größer der Exponent m, desto geringer wird der Einfluß einer möglichen Korrelation berücksichtigt. Er sollte höher gewählt werden, wenn nur wenige Daten zum Abschätzen der Korrelationskoeffizienten vorhanden sind.
In einer alternativen Ausführungsform der Erfindung werden bei der Bestimmung der Wahrscheinlichkeitsverhältnisse v eine oder mehrere Zusatzinformationen über das akustische Ereignis berücksichtigt. Derartige Zusatzinformationen sind z.B. folgende Informationen über das Audio-Signal S: Separate Aufnahmen mit Anfangsklappen oder Endklappen, Soloklappen, oder Innenaufnahmen oder Außenaufnahmen.
In einer weitern alternativen Ausführungen der Erfindung umfasst die zweite Stufe B für jeden möglichen Kandidaten X alternativ oder zusätzlich folgenden Schritt: Spracherkennung eines auf das akustische Ereignis hinweisenden Textes.