NO326770B1 - Fremgangsmate og system for videokonferanse med dynamisk layout basert pa orddeteksjon - Google Patents

Abstract

Spesielt fremviser den foreliggende oppfinnelse en fremgangsmåte og et system for konferanser inkludert trinnene å sammenkoble i det minste to steder til en konferanse og motta i det minste to videosignaler og to audiosignaler fra de sammenkoblede stedene, påfølgende analysere audiodata fra i det minste to steder sammenkoblet i konferansen ved å konvertere i det minste en del av audiodata til akustiske trekk og ekstrahere nøkkelord og taleparametere fra de akustiske trekk ved bruk av talegjenkjenning, og sammenligne nevnte ekstraherte nøkkelord med forhåndsdefinerte ord for så å bestemme om nevnte ekstraherte forhåndsdefinerte nøkkelord skal betraktes som et rop om oppmerksomhet basert på nevnte taleparameter, og videre definere en bildelayout basert på nevnte avgjørelse, og prosessere de mottatte videosignaler for å tilveiebringe et videosignal i henhold til den definerte bildelayout, og sende komposittvideosignaler til i det minste én av de i det minste to forbundne stedene.

Description

OPPFINNELSENS OMRÅDE

Oppfinnelsen er relatert til styring av bildeutlegg i et

flerpartsvideokonferanseanrop, der fokus er basert på stemmeanalyse.

BAKGRUNN

Videokonferansesystemer muliggjør samtidig utveksling av audio-, video- og datainformasjon blant flere konferansesteder. Systemer kjent som multipoint control units (MCUer) utfører svitsjefunksjoner for å muliggjøre at flere steder kan kommunisere sammen i en konferanse. MCUen kobler stedene sammen ved å motta rammer av konferansesignaler fra stedene, og prosesserer de mottatte signaler og videresender de prosesserte signalene til passende steder. Konferansesignalet inkluderer audio-, video-, data- og styringsinformasjon. I en linjesvitsjet konferanse vil videosignalene fra et av konferansestedene, typisk den som taler høyest, blir sendt til hver av deltakerne. I en "continuous presence"-konferanse blir videosignaler fra to eller flere steder rommelig mikset for å danne et komposittvideosignal for å bli sett av konferansedeltakerne. Når de forskjellige videostrømmer har blitt mikset sammen til en enkelt videostrøm, vil den komponerte videostrømmen bli sendt til de forskjellige deltakere på videokonferansen, der hver sendte videostrøm fordelaktig følger et gitt skjema som indikerer hvem som vil motta hvilke videostrøm. Generelt vil de forskjellige brukere foretrekke å motta forskjellige videostrømmer. "Continuous presence" eller komposittbildet er et kombinert bilde som kan inkludere levende videostrømmer, stillbilder, menyer eller andre synlige bilder fra deltakerkonferansen.

I et visuelt kommunikasjonssystem er det ofte ønskelig å gjenskape egenskapene for et ansikt-til-ansikt (face-to-face)-møte så nær som mulig. En fordel med et ansikt-til-ansikt-møte er at deltakerne kan rette sin oppmerksomhet mot personen han taler til for å se reaksjoner og ansiktsuttrykt klart, og tilpasse seg sitt uttrykk tilsvarende. I visuelt kommunikasjonsmøte med flere deltakere, er det muligheten for slik fokus for oppmerksomhet ofte begrenset, for eksempel som følge av skjermplass eller begrenset bildeoppløsning når en ser flere deltakere, eller fordi antallet deltakere er høyere enn antallet deltakere som kan vises samtidig. Dette kan redusere mengden av visuell tilbakemelding som en taler får fra de tenkte mottakere for en melding.

De fleste eksisterende flerparts visuelle kommunikasjonssystemer har muligheten til å tilegne mer skjermplass til bestemte deltakere ved å bruke forskjellige skjermutlegg. To vanlige muligheter er å vise bilde av en deltaker om gangen på hele skjermen (stemmesvitsjet utlegg) (Voice switched layout), eller å vise et større bilde av en deltaker og mindre bilder av de andre deltakerne på den samme skjermen (N+l utlegg). Det finnes mange varianter av disse to grunnleggende valgene og noen systemer kan også bruke flere skjermer for å omgå mangelen på fysisk plass på en enkelt skjerm. Fokus for oppmerksomheten kan derfor bli realisert ved å velge et passende skjermutlegg der én deltaker er fremhevet og metoden for hvordan en deltaker blir gitt oppmerksomhetsfokus kan variere.

En alminnelig fremgangsmåte er å måle stemmeaktiviteten for å bestemme den nåværende aktive taler i konferansen, og endre hovedbildet basert på dette. Mange systemer vil så vise et bilde av den aktive taler til alle de ikke-aktive talere, mens den aktive taler vil motta et bilde av den foregående aktive taler. Denne fremgangsmåten kan fungere om det er en dialog mellom to personer, men den slår feil om nåværende taler adresserer én deltaker forskjellig fra foregående taler. Det kan hende at nåværende taler i dette tilfellet ikke vil motta tilstrekkelige synlighet hint fra den adresserte deltaker inntil han eller hun gir en verbal respons. Fremgangsmåten vil også feile om det er to eller flere samtidige dialoger i en konferanse med overlappende talere.

Noen systemer lar hver deltaker styre sitt fokus for oppmerksomheten ved bruk av en inngangsanordning som en mus eller fjernkontroll. Dette har færre restriksjoner sammenlignet med en stemmeaktivitetsmetode, men kan lett bli distraherende for brukeren og avbryte den naturlige flyten av samtaler i et ansikt-til-ansikt-møte.

Andre systemer tillater at en administrator som er ekstern for konferansen styrer bildeutlegget. Dette vil imidlertid være avhengig av mulighetene for administratoren og er arbeidskrevende. Det kan også være at dette ikke er ønskelig om tema for samtalen er konfidensiell eller privat.

US 2005/0062844 beskriver et videotelekonferansesystem som kombinerer et antall av trekk for å fremme en realistisk "samme rom"-opplevelse for møtedeltakerne. Disse trekkene inkluderer en autoregissør (autodirector) for automatisk å velge, fra ett eller flere videokameraer som mater og andre videoinnganger, et videosignal for sending til fjernvideokonferansesteder. Denne autoregissør analyserer konferanselyd, og i henhold til én utførelsesform vil autoregissøren favorisere et bilde av en deltaker når hans eller hennes navn blir detektert på lyden. Men dette vil medføre at bildet svitsjer hver gang navnet på en deltaker blir nevnt. Det er ganske vanlig at navnet på deltakere blir brakt opp i en samtale uten i realiteten å adressere dem for en respons. Konstant svitsjing mellom deltakere kan både være irriterende for deltakerne og gi gal tilbakemelding til taleren.

Derfor er det et formål med foreliggende oppfinnelse å overkomme disse problemene som beskrevet ovenfor.

SAMMENFATNING AV OPPFINNELSEN

Det er et formål med foreliggende oppfinnelse å skaffe tilveie et system og en fremgangsmåte som eliminerer ulempene beskrevet ovenfor. Trekkene definert i de selvstendige kravene vedlagt karakteriserer dette systemet og denne fremgangsmåten.

Spesielt presenterer den foreliggende oppfinnelsen en fremgangsmåte for konferanser, inkludert trinnene å forbinde i det minste to steder til en konferanse, motta i det minste to videosignaler og to audiosignaler fra de sammenkoblede stedene, og deretter analysere audiodata fra i det minste to steder forbundet i en konferanse ved å konvertere i det minste en del av audiodataen til akustiske trekk og ekstrahere nøkkelord og taleparametre fra de akustiske trekkene ved bruk av talegjenkjenning, og sammenligne nevnte ekstraherte nøkkelord til forhåndsdefinerte ord, og så bestemme om nevnte ekstraherte nøkkelord skal betraktes som et rop om oppmerksomhet basert på nevnte taleparametre, og videre, definere et bildeutlegg basert på nevnte avgjørelse, og prosessere de mottatte videosignaler for å fremskaffe et videosignal i henhold til det definerte bildeutlegget, og sende de prosesserte videosignalene til i det minste én av de i det minste to sammenkoblede stedene.

Videre fremviser den foreliggende oppfinnelsen et system for konferanser omfattende: En grensesnittenhet for å motta i det minste audio-, og videosignaler fra i det minste to steder som er forbundet i en konferanse.

En talegjenkjennelsesenhet for å analysere audiodata fra i det minste to steder forbundet i konferansen ved å konvertere i det minste en del av audiodata til akustiske trekk og ekstrahere nøkkelord og taleparametre fra akustiske trekk ved bruk av talegjenkjennelse.

En prosesseringsenhet konfigurert for å sammenligne nevnte ekstraherte nøkkelord med forhåndsdefinerte ord og bestemme om nevnte ekstraherte nøkkelord skal betraktes som et rop om oppmerksomhet basert på nevnte taleparametre.

En styringsprosessor for dynamisk å definere et bildeutlegg basert på nevnte avgjørelse og en videoprosessor for å prosessere de mottatte videosignaler for å fremskaffe et komposittvideosignal i henhold til det definerte bildeutlegg.

KORT BESKRIVELSE AV TEGNINGENE

Det foregående og andre formål, trekk og fordeler ved oppfinnelsen vil bli tydelig fra den etterfølgende, mer detaljerte beskrivelsen for foretrukne utførelsesformer for oppfinnelsen som illustrert i de vedlagte tegninger, der identiske referansetegn refererer til samme deler gjennom de forskjellige bilder. Tegningene er ikke nødvendigvis riktig skalert, men det er i stedet lagt vekt på å illustrere prinsippene ved oppfinnelsen. Fig. 1 er en illustrasjon for videokonferanseendepunkter forbundet til en MCU.

Fig. 2 er et skjematisk bilde av den foreliggende oppfinnelsen.

Fig. 3 illustrerer et tilstandsdiagram for Markov-modellering.

Fig. 4 illustrerer nettverksstrukturer for ordgjenkjenneren

Fig. 5 illustrerer utgangsstrømmen fra ordgjenkjenneren.

Fig. 6 er et skjematisk bilde av ordmodellgeneratoren.

DETALJERT BESKRIVELSE

I det etterfølgende vil foreliggende oppfinnelse bli diskutert ved å beskrive en foretrukket utførelsesform og ved å referere til vedlagte tegninger. Men en fagmann på området vil innse at det finnes andre anvendelser og modifikasjoner innenfor omfanget av oppfinnelsen som definert i de vedlagte selvstendige krav.

Den foreliggende oppfinnelsen bestemmer det ønskede oppmerksomhetsfokus for hver deltaker i en flerpartskonferanse ved å vurdere den tiltenkte mottaker for hver talers ytring, ved bruk av talegjenkjenning på audiosignaler fra hver deltaker for å detektere og gjenkjenne ytringer av navn eller andre deltakere, eller grupper av deltakere. Videre er det et formål med den foreliggende oppfinnelse å skaffe til veie et system og en fremgangsmåte for skille mellom riktige rop om oppmerksomhet og situasjoner der deltakere eller grupper bare blir referert til i en samtale. Fokus for oppmerksomheten blir gjennomført ved å skifte bildeutlegg eller lydmiks presentert til hver enkelt bruker.

Gjennomgående i beskrivelsen vil begrepet "sted" (site) bli brukt for å referere kollektivt til et sted som har en audiovisuell endepunktsterminal og en konferansedeltaker eller -bruker. Med referanse til figur 1 blir det vist en utførelsesform for et typisk videokonferanseoppsett med flere steder (Sl-SN) sammenkoblet gjennom en kommunikasjonskanal (1) og en MCU (2). MCUen kobler stedene sammen ved å motta rammer av konferansesignalet fra stedene, prosessere de mottatte signaler og videresende de prosesserte signaler til passende steder.

Figur 2 er et skjematisk bilde av systemet i henhold til den foreliggende oppfinnelse. Akustiske data fra alle steder (Sl-SN) blir sendt til en talegjenkjenningsmaskin, der den kontinuerlige tale blir analysert. Talegjenkjenningsalgoritmen vil matche strømmen av akustiske data fra hver taler mot ordmodeller for å produsere en strøm av detekterte navn-nøkkelord. I den samme prosessen vil taleaktivitetsinformasjon bli funnet. Hvert navn-nøkkelord angir enten en deltaker eller en gruppe av deltakere. Denne strømmen av navn-nøkkelord vil så gå inn i en sentral talemodell og styringsanordning. Ved bruk av sannsynlighetsmodeller og strømmen av detekterte nøkkelord og annen informasjon, så som taleaktivitet og forbrukt tid, vil talemodellen og styringsanordningen bestemme oppmerksomhetsfokus for hver deltaker. Det bestemte oppmerksomhetsfokus bestemmer lydmiksen og videobildelayouten for hver deltaker.

For å implementere den foreliggende oppfinnelsen kreves en robust og effektiv talegjenkjennelsesmetode for bruk i talegjenkjenningsmaskinen. Talegjenkjenning er i sin enkleste definisjon den automatiserte prosessen av å gjenkjenne uttalte ord, dvs. tale, og så konvertere denne talen til tekst som blir brukt av en ordprosessor eller en annen applikasjon, eller sendt til en kommandotolker (command interpretor) for styringssystemet. Denne gjenkjennelsesprosessen består av å splitte (parsing) digitaliserte audiodata inntil meningsfylte segmenter. Segmentene blir så tilordnet mot en database av kjente fonemer og fonetiske sekvenser blir tilordnet mot et kjent vokabular eller ordbok.

I talegjenkjenning blir ofte skjulte Markov-modeller (hidden Markov models)

(HMMer) brukt. Når et HMM-talegjenkjenningssystem blir bygget, blir hvert ord i gjenkjenningsvokabularet definert som en sekvens av lyder eller et fragment av tale som forestiller uttalelsen av ordet. En Markov-modell for hvert fragment av tale blir opprettet. Markov-modeller for hver av lydene blir så slått sammen for å danne sekvenser av Markov-modeller som viser en akustisk definering av ordet i vokabularet. For eksempel, som vist i figur 3, blir det vist et fonetisk ord 100 for ordet "TETEN" som en sekvens av tre fonetiske Markov-modeller 101-103. En av de fonetiske Markov-modellene representerer det fonetiske elementet "T" (101), som har to transisjonsbuer 101A og 101B. En andre av de fonetiske Markov-modellene representerer det fonetiske elementet "EH", vist som modell 102 som har transisjonsbuene 102A og 102B. Den tredje av de fonetiske Markov-modellene 103 representerer det fonetiske elementet "N" med transisjonsbuene 103A og 103B.

Hver av de tre Markov-modellene vist i fig. 3 har en begynnelsestilstand og en slutt-tilstand. "T"- modellen 101 starter i tilstand 104 og slutter i tilstand 105. "EH"-modellen 102 starter i tilstand 105 og slutter i tilstand 106. "N"-modellen starter i tilstand 106 og slutter i tilstand 107. Selv om det ikke er vist, har hver av modellene faktisk tilstander mellom sine respektive start- og sluttilstander på samme måte som buen 101A blir vist idet den kobler tilstand 104 og 105. Flere buer strekker seg mellom og sammenkobler tilstandene. Ved gjenkjenning blir en ytring sammenlignet med sekvensen av fonetiske Markov-modeller der en starter fra tilstanden lengst til venstre, så som tilstand 104, og prosesserer i henhold til pilene gjennom de mellomliggende tilstander til tilstanden lengst til høyre, så som tilstand 107, der modellen 100 avslutter på en måte som er velkjent innenfor teknikkens stand. Transisjonstiden fra tilstanden lengst til venstre 104 til tilstanden lengst til høyre 107 reflekterer varigheten av ordet. Å ta en overgang fra tilstanden lengst til venstre 104 til tilstanden lengst til høyre 107 blir derfor tiden som blir brukt i "T"-tilstanden, "EH"-tilstanden og "N"-tilstanden resulterer i en konklusjon om at ytringen er ordet "tETEN". Således blir en skjult Markov-modell for et ord omfattet av en sekvens av modeller korresponderende til de forskjellige lyder som blir utført under uttalen av ordet.

For å bygge en Markov-modell, så som beskrevet i fig. 3, vil en uttaleordbok ofte bli brukt for å indikere komponentlydene. Forskjellige ordbøker eksisterer og kan bli brukt. Informasjonskilden til disse ordbøkene er vanligvis en fonetiker. Det finnes også andre måter for å implementere talegjenkjenning, for eksempel ved å bruke nevrale nettverk alene eller i kombinasjon med Markov-modeller som blir brukt med den foreliggende oppfinnelse.

I henhold til en utførelsesform ved den foreliggende oppfinnelse vil kun enkelte ord være av spesiell interesse. Teknikken for å gjenkjenne spesifikke ord i kontinuerlig tale blir referert til som "ordgjenkjenning" (word spotting) eller "nøkkelordgjenkjenning" (keyword spotting). En ordgjenkjennelsesapplikasjon krever vesentlig mindre beregning enn kontinuerlig talegjenkjenning, for eksempel for dikteringsformål, siden ordboken er vesentlig mindre. Når en bruker et ordgjenkjennelsessystem, vil en bruker uttale bestemte nøkkelord inneklemt i en setting og systemet vil detektere tilstedeværelsen av disse nøkkelord. Systemet vil oppdage nøkkelord selv om nøkkelordet er inneklemt i fremmede ord som ikke er en del av systemets liste av gjenkjennbare ord. Når brukeren snakker spontant, vil det være mange grammatiske feil, pauser og innartikuleringer som et kontinuerlig talegjenkjennelsessystem ikke kan være i stand til å håndtere. For disse situasjonene vil et talegjenkjennelsessystem konsentrere seg om å oppdage bestemte nøkkelord og ignorere den fremmede tale. Som vist i fig. 4 blir hvert nøkkelord som skal oppdages modellert av en distinkt HMM, men talebakgrunnen og stillhet blir moderert av henholdsvis et generelt fyllstoff og stillhetsmodeller.

En tilnærming er å modellere hele bakgrunnsmiljøet, inkludert stillheten, sende støy og fremmed tale. Dette kan bli gjort ved å bruke virkelig tale for å skape én eller flere HMMer kalt fyllstoffer eller søppelmodeller (garbage models), som representerer fremmed tale. Når den går forover, vil gjenkjennelsessystemet skape en kontinuerlig strøm av stillhet, nøkkelord og fyllstoff, og tilstedeværelsen av nøkkelord i denne utgangsstrømmen blir betraktet som et tenkt treff (putative hit). Fig. 5 viser en typisk utgangsstrøm for talegjenkjennelsesmaskinen der To angir starten av en ytring.

For at talegjenkjenningsmaskinen skal gjenkjenne navn i en audiostrøm, kreves en ordbokmodell for hver deltaker eller gruppe av deltakere i et format passende for gitte talegjenkjennelsesmaskin. Fig. 6 viser et skjematisk bilde av en talemodellgenerator i henhold til en utførelse ved den foreliggende oppfinnelse. Talemodeller blir generert fra tekstuelle navn på deltakerne ved bruk av navnuttaleanordningen. Navnuttaleanordningen kan generere ordmodeller ved bruk av enten uttaleregler eller en uttaleordbok for vanlige navn. Tilsvarende ordmodeller kan videre bli generert for andre ord av interesse.

Siden hver deltaker kan bli angitt ved flere forskjellige aliaser på sine fulle navn i en konferanse, vil navnuttaleanordningen bli forutgått ved en aliasgenerator som vil generere aliaser for et fullt navn. På samme måte som for uttale, vil aliaser vil kunne bli konstruert enten ved bruk av regler eller en database med vanlige aliaser. Aliaser for "William Gates" kan for eksempel "Bill", "Bill Gates", "Gates", "William", "Will" eller "WG".

Ved å bruke uttaleregler eller ordbøker for alminnelige uttaler vil resultere i et språkavhengig system, og krever en korrekt uttale for at gjenkjennelsesmaskinen skal ha en positiv deteksjon. En annen mulighet er å generere ordmodeller i en øvingssamling. I dette tilfellet vil hver bruker kunne bli gitt navn og/eller aliaser, og bli spurt om å lese navn/aliaser høyt. Basert på brukernes uttale, vil systemet generere ordmodeller for hvert navn/alias. Dette er en velkjent prosess i små språkuavhengige talergjenkjennelsessystemer og kan bli brukt sammen med den foreliggende oppfinnelse.

De tekstuelle navnene for deltakerne kan bli skaffet tilveie ved eksisterende kommunikasjonsprotokollmekanismer i henhold til en utførelsesform ved den foreliggende oppfinnelsen, noe som gjør manuell datainnsetting (entry) av navn unødvendig i de fleste tilfeller. H.323-protokollen og Session Initiation Protocol (SIP) er telekommunikasjonsstandarder for sanntidsmultimediakommunikasjon og konferanse over pakkebaserte nettverk og er allment brukt for videokonferanser i dag. I et lokalt nettverk med flere steder der hvert sted har sin egen unike H.323 ID eller SIP Uniform Resource Identifier (URI). I mange organisasjoner er H.323 IDer og SIP URIer for personlige systemer samme som navnet på systembrukeren ved konvensjon. Derfor vil et personlig system unikt identifisere med en adresse som ser ut omtrent som dette:

navn.etternavn@organisasjon.com

Ved å innhente systemets ID eller URI, vil det tekstuelle navnet vil kunne bli ekstrahert ved filtrering slik at dette er passende for en ordmodellgenerering. Filtreringsprosessen kan for eksempel være å eliminere ikke-alfanumeriske tegn/bokstaver og navn som ikke er lesbare for mennesker (com, net, gov, info, etc).

Hvis de personlige systemene kun er identifiserbare ved et nummer (telefonnummer, ansattnummer, etc.) vil en oppslagstabell kunne bli konstruert der alle ID-numrene blir assosiert med de respektive brukernavn.

For konferanseromsystemer brukt av flere deltakere samtidig, vil navnene på deltakerne kunne bli samlet fra styringssystemet hvis enheten har blitt bestilt som en del av en bestillingstjeneste. I tillegg til deltakernavnene som blir automatisk innhentet, vil systemet kunne blir forhåndskonfigurert med et sett av navn som antyder gruppen av deltakere, for eksempel "Oslo", "Houston", "TANDBERG", "Styret", "menneskelige ressurser", "alle", "menneske", "gutter", etc.

I en hvilken som helst gitt konferanse er det mulig at to eller flere deltakere har det samme fulle navn eller det samme alias. En kan likevel anta at deltakerne i en konferanse velger å bruke aliaser som har en unik assosiasjon til en person. For å gjøre entydig aliaser som ikke har unike assosiasjoner til en person, kan systemet i henhold til oppfinnelsen opprettholde en statistisk modell for assosiasjonen mellom alias og deltaker. Modellen er konstruert før konferansen starter, og er basert på nevnte antatte unikhet og er oppdatert under konferansen med data fra dialoganalysen.

Som diskutert ovenfor er ikke alle ytringer av navn rop om oppmerksomhet. Under en konferanse med flere deltakere, vil referanser ofte bli gjort til et flertall personer, for eksempel referere til tidligere arbeid på en oppgave, rapporter, tilegne oppgaver, osv. For å redusere antallet falske positiver, anvender oppfinnelsen en dialogmodell som gir sannsynligheten for at et navne-nøkkelord er et ordentlig rop om oppmerksomhet. Modellen er basert på tilstedeværelse av navn-nøkkelord i relasjon til ytringen og dialog. I tillegg til den forbedrede gjenkjennelsen av navn-nøkkelord, vil dialoganalyse kunne skaffe til veie andre egenskaper for dialogen, slik som fragmentering inntil underdialoger.

For å kunne differensiere mellom et riktig rop om oppmerksomhet og referanser, vil en dialogmodell i henhold til den foreliggende oppfinnelse derfor betrakte forskjellige tale- og dialogparamtere. Viktige parametere inkluderer plassering av nøkkelord innenfor en ytring, volumnivå for nøkkelordet, pauser/stillhet før og/eller etter et nøkkelord, osv.

Plasseringen av navne-nøkkelordet innenfor ytringen er en viktig parameter for å bestemme sannsynligheten for positiv deteksjon. Det er ganske vanlig i en setting med mer enn 2 personer å starte en ytring ved å antyde navnet på personen du ønsker å adressere, for eksempel "John, jeg har sett på.." eller "Så, Jenny. Jeg trenger en rapport på.." Dette er selvfølgelig fordi du ønsker å sikre at du har full oppmerksomhet fra personen du adresserer. Derfor vil rop om oppmerksomhet sannsynligvis oppstå tidlig i en ytring. Forekomsten av navne-nøkkelord tidlig i en ytring øker således sannsynligheten for et navneanrop.

Videre er et navneanrop ofte etterfulgt av et kort avbrudd eller pause i ytringen. Når vi ser på de to eksemplene over der en taler utvilsomt søker Johns og Jennys oppmerksomhet,

"John, jeg har sett på.." og

"Så, Jenny. Jeg trenger en rapport på.."

og sammenligner dem med en situasjon hvor taleren kun refererer til John og Jenny,

"I går så John og jeg på.." og

"Jeg fortalte Jenny at jeg trengte.."

vi ser at taleren tar en pause kort etter navnene i de to første eksemplene og at ikke noen slik pause er til stede i de to siste eksemplene. Avbrudd og pauser, før, etter, eller både før og etter en talers ytring øker derfor sannsynligheten for at det er et navneopprop. På samme måte vil fravær av slike avbrudd og pauser senke sannsynligheten for at det er et navneanrop.

Dialogmodellen kan også vurdere bestemte ord som "trigge"- nøkkelord. Detekterte triggernøkkelord foran eller etter navnenøkkelord øker sannsynligheten for et navneanorop. Slike ord kan for eksempel være "OK", "Vel", "Nå", "Så", "Uuhhm", "her", etc.

På en tilsvarende måte senker bestemte triggernøkkelord detektert før et navnenøkkelord skal sannsynligheten for et navneanrop. Slike nøkkelord kan for eksempel være "dette er", "det er", "hvor", etc.

En annen mulighet er å vurdere prosodien for ytringen. I det minste i noen språk vil navneanrop ha en større sannsynlighet for å ha en bestemt prosodi (uttale). Når en taler søker oppmerksomhet fra en annen deltaker, er det sannsynlig at navnet blir ytret med et noe høyere volum. Taleren kan også vektlegge en første stavelse for navnet eller søke eller senke tonen og/eller hastigheten for den siste stavelsen avhengig av henholdsvis positiv eller negativ tilbakekobling.

Dette er bare noen eksempler på tale og dialogparametere betraktet av dialogmodellen. Tale- og dialogparametere blir samlet og evaluert i dialogmodellen der hver parameter bidrar positivt eller negativt når en bestemmer om navnenøkkelord er et rop om oppmerksomhet eller ikke. For å optimalisere parameterne og bygge et fullstendig sett av parametere og regler, vil vesentlige mengder av virkelige dialogopptak måtte bli analysert.

Systemet omfatter videre en dialogstyringsenhet. Dialogstyringsenheten kontrollerer fokus for oppmerksomheten hver deltaker er presentert med. For eksempel om et detektert navnenøkkelord X blir betraktet som et rop om oppmerksomhet av dialogmodellen, vil dialogmodellen sende et styringssignal til dialogstyringsanordningen, informere dialogstyringsanordningen om at et navneanrop til bruker X ved stedet Sl har blitt detektert i audiosignalet fra stedet S2. Dialogstyringsenheten vi så mikse videosignal for hver bruker på en slik måte at i det minste stedet S2 mottar et bildeutlegg som fokuserer på stedet Sl. Fokus på stedet Sl betyr at enten all tilgjengelig skjermplass blir tilegnet Sl, eller dersom et komposittutlegg blir brukt, vil en større del av skjermen blir tilegnet Sl sammenlignet med de andre deltakerne.

Dialogstyringsanordningen vil videre fordelaktig omfatte et sett av svitsj ekriterier for å unngå forstyrrende svitsj eeffekter, så som rask fokusendringer forårsaket av stadige navneanrop, avbrudd, feilaktige ytringer av navn, osv.

Steder med flere deltakere plassert i samme rom kan forårsake uønskede deteksjoner og derav svitsjing. Dersom én av deltakerne ganske kort avbryter taleren ved å ytre et navn eller nevne et navn i bakgrunnen, kan dette bli tolket som et navneanrop av dialogmodellen. For å unngå dette vil systemet måtte være i stand til å skille mellom deltakerstemmer og se bort ifra ytringer fra stemmer som ikke er den mest høylytte taler.

De forskjellige anordningene i henhold til oppfinnelsen trenger ikke være sentralisert i en MCU, men kan bli distribuert til endepunktene. Fordelen med distribuert prosessering er ikke bare begrenset til redusert ressursbruk i sentralenheten, men kan i tilfeller av personlige systemer også forenkle prosessen av talertilpasning siden det ikke er noe behov for sentral lagring og styring av taleegenskaper.

Sammenlignet med systemer basert på enkel taleaktivitetsdeteksjon, vil den beskrevne oppfinnelsen ha evnen til å vise de ønskede bilder for hver deltaker, også i komplekse talemønstre. Den er ikke begrenset til konsepter med aktive eller inaktive talere når den bestemmer bildet for hver deltaker. Den skiller også mellom riktige anrop om oppmerksomhet og bruk av talereferanser i talerens ytring.

Sammenlignet med systemer som lar brukerne velge sine bilder ved bruk av enkle inngangsmetoder, gir den en mer sømløs opplevelse tilsvarende et ansikt-til-ansikt-møte, siden det ikke er noe behov for pause i dialogen med distraherende anordningsstyring. Siden nøkkelordene brukt for å detektere tenkte deltakere ofte er tilstede i en normal dialog, vil systemet kunne føles naturlig å bruke, og vil gi brukeren mye av fordelene med mekanismen uten å kjenne til trekkene på forhånd og uten å kreve spesiell øvelse.

Den har også store fordeler med hensyn til kostnader og personvern, sammenlignet med visningsstyring av en operatør som er ekstern for konferansen.

Claims (14)

1. Fremgangsmåte for konferanse omfattende: å forbinde i det minste to steder til en konferanse, å motta i det minste ett videosignal og ett audiosignal fra hvert av de sammenkoblede stedene, karakterisert ved deretter å analysere audiodata fra i det minste to steder forbundet i en konferanse ved å konvertere i det minste en del av audiodataene til akustiske trekk og ekstrahere nøkkelord og taleparametre fra de akustiske trekkene ved bruk av talegj enkj enning, å sammenligne nevnte ekstraherte nøkkelord til forhåndsdefinerte ord, og så bestemme om nevnte ekstraherte nøkkelord skal betraktes som et rop om oppmerksomhet basert på nevnte taleparametre, å definere et bildelayout basert på nevnte avgjørelse, å prosessere de mottatte videosignaler for å fremskaffe et videosignal i henhold til det definerte bildelayoutet, å sende de prosesserte videosignalene til i det minste én av de i det minste to sammenkoblede stedene.

2. Fremgangsmåten i henhold til krav 1, hvor fremgangsmåten videre omfatter trinnene å: forhåndsdefinere ord der ordene er definert som å være ett eller flere av de følgende: navn på deltakere i konferansen, grupper av deltakere i konferansen, aliaser for nevnte navn, andre predefinerte nøkkelord, der nevnte nøkkelord er taleparametere.

3. Fremgangsmåte i henhold til krav 2, som videre omfatter detektering av et navn, innhenting av taleparametere relatert til nevnte detekterte navn der hvert parameter veier positivt eller negativt når en bestemmer sannsynligheten for at nevnte navn er et rop om oppmerksomhet.

4. Fremgangsmåte i henhold til ett av kravene 2-3 som videre omfatter ved et positivt rop om oppmerksomhetavgjørelse, å omdefinere bildelayoutfokus på videosignalet assosiert med nevnte detekterte forhåndsdefinerte navn eller alias, prosessere det mottatte videosignalet for å fremskaffe et andre komposittvideosignal i henhold til den redefinerte bildelayouten, og sende det andre komposittvideosignalet til i det minste én av de tilkoblede stedene.

5. Fremgangsmåte i henhold til ett av kravene 2-4, som videre omfatter trinnene å: ekstrahere nevnte navn på deltakere og/eller navn på grupper av deltakere, fra et konferansestyringssystem om nevnte konferanse har blitt bestilt gjennom en bestillingstjeneste.

6. Fremgangsmåte i henhold til ett av kravene 2-4, som videre omfatter trinnene å: innhente hvert steds unike ID eller URI, og prosessere nevnte unike IR eller URI for automatisk å ekstrahere nevnte navn på deltakere, og/eller gruppe av deltakere.

7. Fremgangsmåte i henhold til kravene 2-3, videre omfattende trinnene å: å utlede et sett av aliaser for hvert nevnte navn ved hjelp av en algoritme og/eller en database av vanlig brukte aliaser.

8. Konferansesystem omfattende: en grensesnittenhet for å motta i det minste audio-, og videosignaler fra i det minste to steder som er forbundet i en konferanse, karakterisert ved en talegjenkjennelsesenhet for å analysere audiodata fra i det minste to steder forbundet i konferansen ved å konvertere i det minste en del av audiodata til akustiske trekk og ekstrahere nøkkelord og taleparametre fra akustiske trekk ved bruk av talegjenkjennelse, en prosesseringsenhet konfigurert for å sammenligne nevnte ekstraherte nøkkelord med forhåndsdefinerte ord og bestemme om nevnte ekstraherte nøkkelord skal betraktes som et rop om oppmerksomhet basert på nevnte taleparametre, en styringsprosessor for dynamisk å definere en bildelayout basert på nevnte avgjørelse og en videoprosessor for å prosessere de mottatte videosignaler for å fremskaffe et komposittvideosignal i henhold til den definerte bildelayout.

9. System i henhold til krav 8, hvori systemet videre er konfigurert for å: omdefinere bildelayouten basert på nevnte avgjørelse, fokusere på videosignaler tilsvarende nevnte ekstraherte forhåndsdefinerte nøkkelord, prosessere mottatte vidosignaler for å tilveiebringe et andre komposittvideosignal i henhold til den redefinerte bildelayout, og sende andre videosignaler til i det minste et av de tilkoblede steder.

10. System i henhold til krav 8, hvori nevnte forhåndsdefinerte ord er kategoriset som et eller flere av de følgende: - navn på deltakere i konferansen, - grupper av deltakere i konferansen, - aliaser for nevnte navn, - andre forhåndsdefinerte nøkkelord, hvori nevnte nøkkelord er taleparamtere.

11. System i henhold til krav 8, hvori talegjenkjenningsenheten ved deteksjon av et navn videre er konfigurert for å innhente nevnte taleparametere relatert til nevnte detekterte navn og bestemme sannsynligheten for at nevnte detekterte navn er et rop om oppmerksomhet basert på nevnte taleparametere, der nevnte taleparametere veier positivt og negativt i avgjørelsesprosessen.

12. System i henhold til et av de foregående kravene 8-11, hvori talegjenkjenningsenheten videre omfatter, midler for å ekstrahere nevnte navn på deltakere, og/eller navn på grupper av deltakere, fra et konferansestyringssystem, dersom nevne konferanse ble bestilt gjennom en bestillingstjeneste.

13. System i henhold til et av kravene 8-12, hvori talegjenkjenningsenheten omfatter midler for å innhente hvert steds unike ID eller URI, og midler for prosessere nevnte unike IR eller URI for automatisk å ekstraher nevnte navn på deltakere og/eller grupper av deltakere.

14. System i henhold til et av kravene 8-13, hvori talegjenkjenningsenheten videre omfatter, midler for å utlede et sett av aliaser for hvert sett av deltakere eller gruppe av deltakere basert på algoritme og/eller en database av normalt brukte aliaser.