FI116505B - Menetelmä ja järjestelmä suunnatun äänen käsittelemiseksi akustisessa virtuaaliympäristössä - Google Patents

Menetelmä ja järjestelmä suunnatun äänen käsittelemiseksi akustisessa virtuaaliympäristössä Download PDF

Info

Publication number
FI116505B
FI116505B FI980649A FI980649A FI116505B FI 116505 B FI116505 B FI 116505B FI 980649 A FI980649 A FI 980649A FI 980649 A FI980649 A FI 980649A FI 116505 B FI116505 B FI 116505B
Authority
FI
Finland
Prior art keywords
sound
filter
sound source
filters
virtual environment
Prior art date
Application number
FI980649A
Other languages
English (en)
Swedish (sv)
Other versions
FI980649A0 (fi
FI980649A (fi
Inventor
Jyri Huopaniemi
Riitta Vaeaenaenen
Original Assignee
Nokia Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nokia Corp filed Critical Nokia Corp
Publication of FI980649A0 publication Critical patent/FI980649A0/fi
Priority to FI980649A priority Critical patent/FI116505B/fi
Priority to US09/273,436 priority patent/US7369668B1/en
Priority to DE69935974T priority patent/DE69935974T2/de
Priority to AT99910399T priority patent/ATE361522T1/de
Priority to KR1020007010576A priority patent/KR100662673B1/ko
Priority to ES99910399T priority patent/ES2285834T3/es
Priority to PCT/FI1999/000226 priority patent/WO1999049453A1/en
Priority to CN998065447A priority patent/CN1132145C/zh
Priority to AU29369/99A priority patent/AU2936999A/en
Priority to EP99910399A priority patent/EP1064647B1/en
Priority to JP2000538346A priority patent/JP4573433B2/ja
Publication of FI980649A publication Critical patent/FI980649A/fi
Application granted granted Critical
Publication of FI116505B publication Critical patent/FI116505B/fi
Priority to JP2008250770A priority patent/JP2009055621A/ja

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10KSOUND-PRODUCING DEVICES; METHODS OR DEVICES FOR PROTECTING AGAINST, OR FOR DAMPING, NOISE OR OTHER ACOUSTIC WAVES IN GENERAL; ACOUSTICS NOT OTHERWISE PROVIDED FOR
    • G10K11/00Methods or devices for transmitting, conducting or directing sound in general; Methods or devices for protecting against, or for damping, noise or other acoustic waves in general
    • G10K11/18Methods or devices for transmitting, conducting or directing sound
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10KSOUND-PRODUCING DEVICES; METHODS OR DEVICES FOR PROTECTING AGAINST, OR FOR DAMPING, NOISE OR OTHER ACOUSTIC WAVES IN GENERAL; ACOUSTICS NOT OTHERWISE PROVIDED FOR
    • G10K15/00Acoustics not otherwise provided for
    • G10K15/02Synthesis of acoustic waves

Description

116505
Menetelmä ja järjestelmä suunnatun äänen käsittelemiseksi akustisessa virtuaaliympäristössä - Förfarande och anordning för att behandla riktad ljud i en akustisk virtualmiljö 5
Keksintö koskee menetelmää ja järjestelmää, joilla voidaan luoda kuuntelijalle keinotekoinen kuulovaikutelma, joka vastaa tiettyä tilaa. Erityisesti keksintö koskee suunnatun äänen käsittelemistä tällaisessa kuulovaikutelmassa sekä tuloksena syntyvän kuulovaikutelman välittämistä järjestelmässä, jossa käyttäjälle esitettävää tietoa 10 siirretään, käsitellään ja/tai kompressoidaan digitaalisessa muodossa.
Akustisella virtuaaliympäristöllä tarkoitetaan kuulovaikutelmaa, jonka avulla sähköisesti toistetun äänen kuuntelija voi kuvitella olevansa tietyssä tilassa. Monimutkaiset akustiset virtuaaliympäristöt pyrkivät usein imitoimaan jotain todellista tilaa, 15 jolloin puhutaan kyseisen tilan auralisoinnista. Tätä käsitettä on selostettu esimerkiksi artikkelissa M. Kleiner, B.-I. Dalenbäck, P. Svensson: ’’Auralization - An Overview”, 1993, J. Audio Eng. Soc., Voi. 41, No. 11, pp. 861-875. Auralisointi on luontevasti yhdistettävissä visuaalisen virtuaaliympäristön luomiseen, jolloin sopivilla näyttölaitteilla ja kaiuttimilla tai kuulokkeilla varustettu käyttäjä voi tarkastella 20 haluamaansa todellista tai kuvitteellista tilaa ja jopa ’’liikkua” kyseisessä tilassa, jolloin hänen saamansa näkö- ja kuulovaikutelma on erilainen riippuen siitä, minkä kyseisen ympäristön pisteen hän valitsee tarkastelupisteekseen.
Akustisen virtuaaliympäristön luominen jakaantuu kolmeen osatekijään, jotka ovat 25 äänilähteen mallintaminen, tilan mallintaminen ja kuuntelijan mallintaminen. Esillä oleva keksintö liittyy erityisesti äänilähteen ja äänen varhaisten heijastusten mallin-';;; ’ tamiseen.
.: Visuaalisen ja akustisen virtuaaliympäristön mallintamiseksi ja käsittelemiseksi käy- , : 30 tetään usein VRML97-kieltä (Virtual Reality Modeling Language 97), jota käsitte lee julkaisu ISO/IEC JTC/SC24 IS 14772-1, 1997, Information Technology - Com-puter Graphics and Image Processing - The Virtual Reality Modeling Language (VRML97), April 1997 sekä vastaava sivusto Internet-osoitteessa http://www.vrml.org/Specifications/VRML97/. Toinen tämän patenttihakemuksen : 35 tekohetkellä kehitteillä oleva säännöstö koskee Java3D:tä, josta on määrä tulla ’·>>* VRML:n ohjaus- ja suoritusympäristö ja jota on kuvattu esimerkiksi julkaisussa SUN Inc. 1997: JAVA 3D API Specification 1.0 ja Internet-osoitteessa :1. ·. http://www.javasoft.com/products/java-media/3D/forDevelopers/3Dguide/-. Lisäksi 2 116505 valmisteilla oleva MPEG-4-standardi (Motion Picture Experts Group 4) tähtää siihen, että digitaalisen tiedonsiirtoyhteyden kautta välitettävä multimediaesitys voi sisältää todellisia ja virtuaalisia objekteja, jotka yhdessä muodostavat tietyn audiovisuaalisen ympäristön. MPEG-4-standardia on kuvattu julkaisussa ISO/IEC 5 JTC/SC29 WG11 CD 14496. 1997: Information technology - Coding of audiovisual objects. November 1997 ja vastaavassa sivustossa Internet-osoitteessa http://www.cselt.it/mpeg/public/mpeg-4_cd.htm.
Kuva 1 esittää tunnettua suunnatun äänen mallia, jota käytetään VRML97:ssä ja 10 MPEG-4:ssä. Äänilähde sijaitsee pisteessä 101 ja sen ympärille kuvitellaan kaksi sisäkkäistä ellipsoidia 102 ja 103, joiden toinen polttopiste yhtyy äänilähteen sijaintiin ja joiden pääakselit ovat yhdensuuntaiset. Ellipsoidien 102 ja 103 kokoa kuvataan pitemmän pääakselin suunnassa mitatuilla etäisyyksillä maxBack, maxFront, min-Back ja minFront. Äänen vaimentumista etäisyyden funktiona kuvaa käyrä 104. Si-15 semmän ellipsoidin 102 sisällä äänen intensiteetti on vakio ja ulomman ellipsoidin 103 ulkopuolella äänen intensiteetti on nolla. Edettäessä mitä tahansa pisteen 101 kautta kulkevaa suoraa pisteestä 101 poispäin äänen intensiteetti vähenee sisemmän ja ulomman ellipsoidin välissä lineaarisesti 20 desibeliä. Toisin sanoen ellipsoidien välissä sijaitsevassa pisteessä 105 havaittava vaimennus A on laskettavissa kaavasta 20 A = -20 dB · (d’/d”) missä d’ on pisteitä 101 ja 105 yhdistävää suoraa pitkin mitattu etäisyys sisemmän ellipsoidin pinnasta tarkastelupisteeseen ja d” on samaa suoraa pitkin mitattu si-25 semmän ja ulomman ellipsoidin välinen etäisyys.
’;;; ‘ Java3D:ssä suunnattua ääntä mallinnetaan ConeSound-käsitteellä, jota havainnollis- ' ·.' taa kuva 2. Kuvassa on esitetty tietyn kaksoiskartiorakenteen leikkaus sellaista tasoa •.:.: pitkin, joka sisältää kartioiden yhteisen pituusakselin. Äänilähde sijaitsee kartioiden · 30 201 ja 202 yhteisessä kärkipisteessä 203. Sekä etukartion 201 että takakartion 202 alueella ääni vaimenee tasaisesti. Kartioiden välisellä alueella sovelletaan lineaarista interpolointia. Tarkastelupisteessä 204 havaittavan vaimentumisen laskemiseksi on : tunnettava äänen intensiteetti ilman vaimennusta, etu- ja takakartioiden leveys sekä pisteitä 203 ja 204 yhdistävän suoran ja etukartion pituusakselin välinen kulma.
: ‘f 35 >.·' Eräs tunnettu menetelmä pinnoista koostuvan tilan akustiikan mallintamiseksi on : “ ’; kuvalähdemenetelmä (engl. image source method), jossa alkuperäiselle äänilähteelle muodostetaan joukko kuvitteellisia kuvalähteitä, jotka ovat äänilähteen peilikuvia 3 116505 tarkasteltavien heijastuspintojen suhteen: jokaisen tarkasteltavan heijastuspinnan taakse sijoitetaan yksi kuvalähde, jonka suoraan mitattu etäisyys tarkastelupisteestä on sama kuin heijastuksen kautta mitattu etäisyys alkuperäisen äänilähteen ja tarkastelupisteen välillä. Lisäksi kuvalähteestä tuleva ääni tulee tarkastelupisteeseen sa-5 masta suunnasta kuin todellinen, heijastunut ääni. Kuulovaikutelma saadaan laskemalla kuvalähteiden tuottamat äänet yhteen.
Tekniikan tason mukaiset menetelmät ovat laskennallisesti hyvin raskaita. Jos oletetaan, että virtuaaliympäristö välitetään käyttäjälle esimerkiksi yleisradiolähetyksenä 10 tai tietoverkon kautta, käyttäjän vastaanottimen tulisi jatkuvasti laskea yhteen jopa tuhansien kuvalähteiden tuottama ääni. Lisäksi laskennan perusteet muuttuvat aina, kun käyttäjä päättää vaihtaa tarkastelupisteen sijaintia. Edelleen tunnetut ratkaisut jättävät kokonaan huomiotta sen, että äänen suuntaavuus riippuu suuresti suuntakulman lisäksi sen aallonpituudesta eli erikorkuiset äänen suuntautuvat eri tavoin.
15
Suomalaisesta patenttihakemuksesta numero 974006 (Nokia OYJ) tunnetaan eräs menetelmä ja järjestelmä akustisen virtuaaliympäristön käsittelemiseksi. Siinä mallinnettavan ympäristön pinnat kuvataan suodattimilla, joilla on tietty taajuusvaste. Mallinnetun ympäristön välittämiseksi digitaalisessa siirtomuodossa riittää ilmaista 20 tavalla tai toisella kaikkien ympäristöön kuuluvien merkittävien pintojen siirtofunktiot. Tässäkään ei kuitenkaan huomioida äänen tulosuunnan tai korkeuden vaikutusta sen suuntautuvuuteen.
Esillä olevan keksinnön tavoitteena on esittää menetelmä ja järjestelmä, joilla akus-. 25 tinen virtuaaliympäristö voidaan välittää käyttäjälle kohtuullisella laskentakuor- I maila. Lisäksi keksinnön tavoitteena on esittää menetelmä ja järjestelmä, joilla pys- ;' tytään huomioimaan äänen korkeuden ja tulosuunnan vaikutus sen suuntautumiseen.
.· Keksinnön tavoitteet saavutetaan kuvaamalla äänilähde tai sen varhainen heijastus : - 30 parametrisoidulla systeemifunktiolla, jossa eri parametrein voidaan asettaa äänen suuntautuminen halutuksi ja ottaa huomioon suuntautumisen riippuvuus taajuudesta ja suuntakulmasta.
Keksinnön mukaiselle menetelmälle tunnusomaiset piirteet on esitetty menetelmään • · • · * 35 kohdistuvan itsenäisen patenttivaatimuksen tunnusmerkkiosassa.
. ·1 ·. Keksintö kohdistuu myös järjestelmään, jonka tunnusomaiset piirteet on esitetty jär- I I · : ·. ·. jestelmään kohdistuvan itsenäisen patenttivaatimuksen tunnusmerkkiosassa.
» · 4 116505
Keksinnön mukaisesti äänilähteen tai siitä lasketun heijastuksen malli koostuu suun-tariippuvista digitaalisista suodattimista. Äänelle valitaan tietty referenssisuunta, jota nimitetään nolla-atsimuutiksi. Se voi suuntautua akustisessa virtuaaliympäristössä 5 mihin tahansa suuntaan. Sen lisäksi valitaan joukko muita suuntia, joissa äänen suuntautumista halutaan kuvata. Myös nämä suunnat voidaan valita mielivaltaisesti. Kukin valittu muu suunta kuvataan omalla digitaalisella suodattimellaan, jonka siirtofunktio voidaan valita joko taajuudesta riippuvaksi tai riippumattomaksi. Siltä varalta, että tarkastelupiste sijaitsee jossakin muualla kuin tarkasti jossakin suodatti-10 mella kuvatussa suunnassa, voidaan muodostaa suodattimien siirtofunktioiden välille erilaisia interpolaatioita.
Kun ääntä ja sen suuntautumista halutaan kuvata järjestelmässä, jossa tieto on siirrettävä digitaalisesti, tarvitsee vain siirtää tiedot kustakin siirtofunktiosta. Vastaanot-15 tava laite, jolla on tiedossaan haluttu tarkastelupiste, määrittää rekonstruoimiensa siirtofunktioiden avulla suuntautuvuuden äänilähteen sijaintipisteestä kohti tarkastelupistettä. Jos tarkastelupisteen sijainti nolla-atsimuutin suhteen muuttuu, vastaanottava laite tarkistaa, mikä on äänen suuntautuvuus kohti uutta tarkastelupistettä. Äänilähteitä voi olla useita, jolloin vastaanottava laite laskee äänen suuntautuvuuden 20 kustakin äänilähteestä tarkastelupisteeseen ja muokkaa toistamaansa ääntä vastaavasti. Kuuntelijalle tulee tällöin vaikutelma oikeasta kuuntelupaikan sijainnista esimerkiksi sellaisen virtuaalisen orkesterin suhteen, jossa instrumentit sijaitsevat eri paikoissa ja ne on suunnattu eri tavoin.
t > r 25 Yksinkertaisin vaihtoehto suuntariippuvan digitaalisen suodatuksen toteuttamiseksi " ’; on liittää kuhunkin valittuun suuntaan tietty vahvistuskerroin. Tällöin äänen korkeus *;;; * kuitenkin jää huomioimatta. Kehittyneemmässä vaihtoehdossa tarkasteltava taajuus- ’ · · · ’ kaista jaetaan alikaistoiksi, joille kullekin esitetään omat vahvistuskertoimensa vali- ·.*.· tuissa suunnissa. Edelleen kehittyneemmässä versiossa kukin tarkasteltava suunta v · 30 kuvataan yleisellä siirtofunktiolla, josta ilmaistaan tietyt kertoimet, joiden avulla samojen siirtofunktioiden rekonstruointi on mahdollista.
: : Seuraavassa selostetaan keksintöä yksityiskohtaisemmin viitaten esimerkkinä esitet- ,. *, tyihin edullisiin suoritusmuotoihin ja oheisiin kuviin, joissa 35 ‘ ; · ‘ kuva 1 esittää erästä tunnettua suunnatun äänen mallia, : ‘ : kuva 2 esittää erästä toista tunnettua suunnatun äänen mallia * « » : v, kuva 3 esittää kaavamaisesti erästä keksinnön mukaista suunnatun äänen mallia, 5 116505 kuva 4 esittää keksinnön mukaisen mallin perusteella muodostettua äänen suuntautumisen kuvaajaa, kuva 5 esittää keksinnön soveltamista erääseen akustiseen virtuaaliympäristöön, kuva 6 esittää erästä keksinnön mukaista järjestelmää, 5 kuva 7a esittää tarkemmin osaa keksinnön mukaisesta järjestelmästä ja kuva 7b esittää yksityiskohtaa kuvasta 7a.
Edellä tekniikan tason selostuksen yhteydessä on viitattu kuviin 1 ja 2, joten seuraa-vassa keksinnön ja sen edullisten suoritusmuotojen selostuksessa viitataan lähinnä 10 kuviin 3 - 7b.
Kuvassa 3 on esitetty äänilähteen sijainti pisteessä 300 sekä nolla-atsimuutin suunta 301. Kuvassa on oletettu, että pisteessä 300 sijaitseva äänilähde halutaan esittää keksinnön mukaisesti neljällä suodattimena, joista ensimmäinen kuvaa äänilähteestä 15 suuntaan 302 etenevää ääntä, toinen kuvaa äänilähteestä suuntaan 303 etenevää ääntä, kolmas kuvaa äänilähteestä suuntaan 304 etenevää ääntä ja neljäs kuvaa äänilähteestä suuntaan 305 etenevää ääntä. Kuvassa on lisäksi oletettu, että äänen eteneminen tapahtuu symmetrisesti nolla-atsimuutin suunnan 301 suhteen, joten kukin suunnista 302-305 edustaa itse asiassa mitä tahansa vastaavaa suuntaa kartiopinnal-20 la, joka saadaan kiertämällä tarkasteltavaa suuntaa kuvaava puolisuora nolla-atsimuutin suunnan 301 ympäri. Keksintö ei rajoitu näihin oletuksiin, mutta eräät keksinnön piirteet on helpompi ymmärtää ajattelemalla aluksi keksinnön yksinkertaistettua suoritusmuotoa. Suunnat 302-305 on kuvassa esitetty tasavälein samassa , ·; , tasossa, mutta suunnat voidaan yhtä hyvin valita mielivaltaisesti.
25
Kuhunkin kuvassa 3 esitettyyn nolla-atsimuutista poikkeavaan suuntaan etenevää ääntä kuvaava suodatin on kuvattu symbolisesti lohkolla 306, 307, 308 ja 309. Ku-takin suodatinta luonnehtii tietty siirtofunktio Η„ missä i g {1, 2, 3, 4}. Suodattimi-en siirtofunktiot on normeerattu siten, että nolla-atsimuutin suhteen etenevä ääni on v * 30 sama kuin äänilähteen tuottama ääni sellaisenaan. Koska ääni on tyypillisesti ajan funktio, äänilähteen tuottamaa ääntä on merkitty X(t):llä. Kukin suodatin 306 - 309 i muodostaa vasteen Y,(t), missä ie {1, 2, 3,4}, yhtälön
Yi(t) = Hi*X(t) (1) ; ·' 35 mukaisesti, missä * kuvaa konvoluutiota ajan suhteen. Vaste Yi(t) on kyseiseen •...' suuntaan suuntautuva ääni.
6 116505
Yksinkertaisimmillaan siirtofunktio tarkoittaa herätteen X(t) kertomista jollakin reaaliluvulla. Koska on luonnollista valita nolla-atsimuutin suunnaksi se suunta, johon ääni suuntautuu voimakkaimpana, suodattimien 306 - 309 yksinkertaisimmat siirto-funktiot ovat reaalilukuja nollan ja ykkösen väliltä nämä rajat mukaanlukien.
5
Pelkkä reaaliluvulla kertominen ei ota huomioon äänen korkeuden merkitystä sen suuntautuvuudelle. Eräs monipuolisempi siirtofunktio on sellainen, jossa heräte jaetaan ennalta määrättyihin taajuuskaistoihin ja kukin taajuuskaista kerrotaan omalla vahvistuskertoimellaan, joka on reaaliluku. Taajuuskaistat voidaan määritellä yhdel-10 lä luvulla, joka ilmaisee taajuuskaistan suurimman taajuuden. Vaihtoehtoisesti voidaan ilmoittaa tietyt reaalilukukertoimet muutamalle esimerkkitaajuudelle, jolloin näiden taajuuksien välillä sovelletaan sopivaa interpolointia (jos on annettu esimerkiksi taajuus 400 Hz ja kerroin 0,6 sekä taajuus 1000 Hz ja kerroin 0,2, saadaan suoraviivaisella interpoloinnilla taajuudelle 700 Hz kerroin 0,4).
15
Yleisesti voidaan todeta, että kukin suodatin 306 - 309 on tietty IIR- tai FIR-suodatin (Infinite Impulse Response; Finite Impulse Response), jonka siirtofunktio H voidaan esittää Z-muunnoksen H(z) avulla. Kun otetaan herätteen X(t) Z-muunnos X(z) ja vasteen Y(t) Z-muunnos Y(z), saadaan määritelmä 20
M
Yi \ Σν * tItt (2> k=\ » · ► • * i » * * * ,,Y jolloin mielivaltaisen siirtofunktion esittämiseksi parametrimuodossa riittää esittää : Jt: sen Z-muunnoksen kuvauksessa käytetyt kertoimet [b0 b, a, b2 a2...]. Summauksessa : ‘ ‘ ‘: 25 käytetyt ylärajat N ja M edustavat sitä tarkkuutta, jolla siirtofunktio halutaan määri- Y; teliä. Käytännössä ne määräytyvät siitä, kuinka suuri kapasiteetti on käytettävissä I i . γ. kunkin yksittäisen siirtofunktion kuvaamisessa käytettävien kertoimien tallentami- i ...
seksi ja/tai välittämiseksi tiedonsiirtojärjestelmässä.
! Y 30 Kuva 4 esittää trumpetin tuottaman äänen suuntautumista esitettynä keksinnön mu- kaisesti nolla-atsimuutin lisäksi kahdeksalla taajuusriippuvalla siirtofunktiolla ja Ϋ niiden välisillä interpoloinneilla. Äänen suuntautumista kuvataan kolmiulotteisessa ”': koordinaatistossa, jossa pystyakseli kuvaa äänen voimakkuutta desibeleinä, ensim- .! > mäinen vaaka-akseli kuvaa suuntakulmaa nolla-atsimuuttiin nähden asteina ja toinen ,: * 35 vaaka-akseli kuvaa äänen taajuutta kilohertseinä. Interpolointien ansiosta ääntä ku- » 7 116505 vaa pinta 400. Kuvan vasemmassa yläreunassa se rajoittuu vaakasuoraan viivaan 401, joka kuvaa sitä, että nolla-atsimuutin suunnassa äänen voimakkuus ei riipu taajuudesta. Oikeassa yläreunassa pinta 400 rajoittuu lähes vaakasuoraan viivaan 402, joka kuvaa sitä, että hyvin matalilla taajuuksilla (taajuuksilla, jotka lähestyvät 0 5 Hz:iä) äänen voimakkuus ei riipu suuntakulmasta. Eri suuntakulmia kuvaavien suo-datinten taajuusvasteet ovat käyriä, jotka alkavat viivasta 402 ja jatkuvat kuvassa alaviistoon vasemmalle. Suuntakulmat ovat tasavälein ja niiden suuruudet ovat 22,5°, 45°, 67,5°, 90°, 112,5°, 135°, 157,5° ja 180°. Esimerkiksi käyrä 403 kuvaa nolla-atsimuutista mitattuna 157,5°:een kulmaan etenevän äänen voimakkuutta taa-10 juuden funktiona ja siitä nähdään, että korkeimmat taajuudet vaimentuvat tässä suunnassa enemmän kuin matalat taajuudet.
Keksintö soveltuu paikallisessa laitteistossa tapahtuvaan toistamiseen, jossa akustinen virtuaaliympäristö luodaan tietokoneen muistiin ja sitä käsitellään samassa yh-15 teydessä tai se luetaan tallennusvälineeltä, kuten DVD-levyltä (Digital Versatile Disc) ja toistetaan käyttäjälle audiovisuaalisten esitys välineiden (näytöt, kaiuttimet) välityksellä. Lisäksi keksintö soveltuu järjestelmiin, joissa akustinen virtuaaliympäristö tuotetaan jossakin ns. palveluntarjoajan laitteistossa ja se välitetään käyttäjille tiedonsiirtojärjestelmän kautta. Laitetta, joka toistaa keksinnön mukaisella tavalla 20 käsitellyn suunnatun äänen käyttäjälle ja joka tyypillisesti antaa käyttäjälle mahdollisuuden valita, missä akustisen virtuaaliympäristön pisteessä hän haluaa kuunnella toistettua ääntä, nimitetään yleisesti vastaanottavaksi laitteeksi. Tätä nimitystä ei ole tarkoitettu keksinnön kannalta rajoittavaksi.
• 1 t 25 Kun käyttäjä on antanut vastaanottavalle laitteelle tiedon siitä, missä akustisen vir-: : ’: tuaaliympäristön pisteessä hän haluaa kuunnella toistettua ääntä, vastaanottava laite :' “: määrittää, millä tavalla ääni suuntautuu äänilähteestä kohti kyseistä pistettä. Kuvas-
> I I
; *; ‘; sa 4 tämä tarkoittaa graafisesti tarkasteltuna, että kun vastaanottava laite on määrit- tänyt äänilähteen nolla-atsimuutin ja tarkastelupisteen suunnan välisen kulman, se 30 leikkaa pinnan 400 pystysuoralla tasolla, joka on yhdensuuntainen taajuus akselin , . kanssa ja leikkaa suuntakulma-akselin sen arvon kohdalla, joka ilmaisee nolla- ’;;,' atsimuutin ja tarkastelupisteen suunnan välisen kulman. Pinnan 400 ja mainitun pys- ’ ; · ‘ tysuoran tason leikkaus on käyrä, joka kuvaa tarkastelupisteen suunnassa havaittua : ’ * ’: äänen suhteellista voimakkuutta taajuuden funktiona. Vastaanottava laite muodostaa 35 suodattimen, joka toteuttaa kyseisen käyrän mukaisen taajuusvasteen, ja ohjaa ääni-lähteen tuottaman äänen muodostamansa suodattimen läpi ennen sen toistamista ;·;* käyttäjälle. Jos käyttäjä päättää muuttaa tarkastelupisteen sijaintia, vastaanottava lai- * · ’ te määrittää uuden käyrän ja muodostaa uuden suodattimen edellä kuvatulla tavalla.
8 116505
Kuva 5 esittää erästä akustista virtuaaliympäristöä 500, jossa on kolme virtuaalista äänilähdettä 501, 502 ja 503, jotka on suunnattu eri tavoin. Piste 504 kuvaa käyttäjän valitsemaa tarkastelupistettä. Kuvan 5 esittämän tilanteen kuvaamiseksi keksin-5 non mukaisella tavalla kustakin äänilähteestä 501, 502 ja 503 muodostetaan oma äänen suuntautuvuutta kuvaava mallinsa, joka voi kussakin tapauksessa olla suunnilleen kuvien 3 ja 4 mukainen ottaen kuitenkin huomioon, että nolla-atsimuutin suunta on kunkin virtuaalisen äänilähteen mallissa eri. Tällaisessa tapauksessa vastaanottavan laitteen on muodostettava äänten suuntautumisen huomioonottamiseksi 10 kolme erillistä suodatinta. Ensimmäisen suodattimen muodostamiseksi määritetään ne siirtofunktiot, jotka kuvaavat ensimmäisen äänilähteen lähettämän äänen suuntautumista, ja muodostetaan niiden ja interpoloinnin avulla kuvan 4 mukainen pinta. Lisäksi määritetään äänilähteen 501 nolla-atsimuutin 505 ja tarkastelupisteen suunnan välinen kulma ja luetaan sen avulla edellä mainitulta pinnalta taajuusvaste ky-15 seisessä suunnassa. Samat operaatiot toistetaan kullekin äänilähteelle erikseen. Käyttäjälle toistettava ääni on summa kaikkien kolmen äänilähteen äänestä, jossa summassa kukin ääni on suodatettu kyseisen äänen suuntautumista kuvaavalla suodattimena.
20 Keksinnön mukaisesti voidaan kuvata varsinaisten äänilähteiden lisäksi äänen heijastuksia, etenkin varhaisia heijastuksia. Kuvassa 5 on muodostettu sinänsä tunnetulla kuvalähdemenetelmällä kuvalähde 506, joka esittää äänilähteen 503 lähettämän äänen heijastumista vieressä olevasta seinästä. Tätä kuvalähdettä voidaan käsitellä •, · ' keksinnön mukaisesti aivan samalla tavalla kuin varsinaisia äänilähteitäkin eli sille , * · * 25 voidaan määrittää nolla-atsimuutin suunta ja äänen (tarvittaessa taajuusriippuva) ; suuntautuvuus nolla-atsimuutin suunnasta poikkeavissa suunnissa. Vastaanottava ’ ‘; laite toistaa kuvalähteen ’’tuottaman” äänen samalla periaatteella kuin varsinaisten äänilähteidenkin tuottaman äänen.
I t 30 Kuva 6 esittää järjestelmää, jossa on lähettävä laite 601 ja vastaanottava laite 602.
. . Lähettävä laite 601 muodostaa tietyn akustisen virtuaaliympäristön, johon kuuluu ';;, * ainakin yksi äänilähde ja ainakin yhden tilan akustiset ominaisuudet, ja toimittaa sen jossain muodossa vastaanottavalle laitteelle 602. Toimitus voi tapahtua esimerkiksi :’: digitaalisena radio- tai televisiolähetyksenä tai tietoverkon kautta. Toimitus voi 35 myös tarkoittaa, että lähettävä laite 601 tuottaa muodostamansa akustisen virtuaa- * I » liympäristön perusteella tallenteen, kuten DVD-levyn (Digital Versatile Disk), jonka I · ‘; ;' vastaanottavan laitteen käyttäjä hankkii käyttöönsä. Tyypillinen tallenteena toimitet- : ·' tava sovellus voisi olla konsertti, jossa äänilähteenä on virtuaalisista instrumenteista 9 116505 koostuva orkesteri ja tilana on sähköisesti mallinnettu kuvitteellinen tai todellinen konserttisali, jolloin vastaanottavan laitteen käyttäjä voi laitteistollaan kuunnella, millaiselta esitys kuullostaa eri kohdissa salia. Jos tällainen virtuaaliympäristö on audiovisuaalinen, siihen kuuluu myös tietokonegrafiikalla toteutettu visuaalinen 5 osuus. Keksintö ei edellytä, että lähettävä laite ja vastaanottava laite ovat eri laitteita, vaan käyttäjä voi luoda tietyn akustisen virtuaaliympäristön yhdessä laitteessa ja käyttää samaa laitetta luomuksensa tarkastelemiseen.
Kuvan 6 esittämässä suoritusmuodossa lähettävän laitteen käyttäjä muodostaa tietyn 10 visuaalisen ympäristön, kuten konserttisalin, tietokonegrafiikan työkaluilla 603 sekä videoanimaation, kuten virtuaalisen orkesterin soittajat ja instrumentit, vastaavilla työkaluilla 604. Lisäksi hän syöttää muodostamansa ympäristön äänilähteille tietyt suuntaavuudet, edullisimmin äänen taajuusriippuvaa suuntautumista kuvaavat siirto-funktiot, näppäimistöllä 605. Äänten suuntautumisen kuvaaminen voi perustua myös 15 mittauksiin, jotka on tehty oikeista äänilähteistä; tällöin suuntautumistiedot luetaan tyypillisesti tietokannasta 606. Virtuaalisten instrumenttien äänet ladataan tietokannasta 606. Lähettävä laite muokkaa käyttäjän antamat tiedot bittivirroiksi lohkoissa 607, 608, 609 ja 610 ja yhdistää bittivirrat yhdeksi tietovirraksi multiplekserissä 611. Tietovirta toimitetaan jossakin muodossa vastaanottavalle laitteelle 602, jossa 20 demultiplekseri 612 erottaa tietovirrasta staattista ympäristöä edustavan kuvaosuu-den lohkoon 613, ajasta riippuvan kuvaosuuden eli animaation lohkoon 614, ajasta riippuvan äänen lohkoon 615 ja pintoja kuvaavat kertoimet lohkoon 616. Kuva-osuudet yhdistetään näytönohjainlohkossa 617 ja ohjataan näyttöön 618. Äänilähtei-* den lähettämää ääntä edustavat signaalit ohjataan lohkosta 615 suodatinpankkiin 25 619, jonka suodattimien siirtofunktiot on rekonstruoitu lohkosta 616 saatujen a- ja L ·.: b-parametrien avulla. Suodatinpankin 619 antama ääni ohjataan kuulokkeisiin 620.
» · , Kuvissa 7a ja 7b on esitetty tarkemmin eräs vastaanottavan laitteen suodatin- . 1: ·. järjestely, jolla voidaan toteuttaa akustinen virtuaaliympäristö keksinnön mukaisella 30 tavalla. Kuvissa on huomioitu myös muita äänen käsittelyyn liittyviä tekijöitä kuin keksinnön mukainen äänen suuntautuvuuden kuvaaminen. Viive-elimellä 721 muo-\' dostetaan eri äänikomponenttien (esimerkiksi eri reittejä pitkin heijastuneiden ään- ; ten tai eri etäisyyksillä sijaitsevien virtuaalisten äänilähteiden) keskinäiset aikaerot.
: 1 : Samalla viive-elin 721 toimii demultiplekserinä, joka ohjaa oikeat äänet oikeisiin 35 suodattimiin 722, 723 ja 724. Suodattimet 722, 723 ja 724 ovat parametrisoituja ... suodattimia, joita kuvataan tarkemmin kuvassa 7b. Niiden antama signaali haaroite-
t I
taan toisaalta suodattimiin 701, 702 ja 703 ja toisaalta summainten ja vahvistimen · 1 704 välityksellä summaimeen 705, joka yhdessä kaikuhaarojen 706, 707, 708 ja 709 ίο 116505 sekä summaimen 710 ja vahvistinten 711, 712, 713 ja 714 kanssa muodostaa sinänsä tunnetun kytkennän, jolla tiettyyn signaaliin voidaan muodostaa jälkikaikua. Suodattimet 701,702ja703 ovat sinänsä tunnettuja suuntasuodattimia, joilla otetaan huomioon kuuntelijan kuuloaistimusten erilaisuus eri suunnissa esimerkiksi HRTF-5 mallin mukaisesti (Head-Related Transfer Function). Suodattimet 701, 702 ja 703 sisältävät edullisimmin myös ns. ITD-viiveet (Interaural Time Difference), joilla kuvataan eri suunnista kuuntelijan korviin tulevien äänikomponenttien keskinäistä aikaeroa.
10 Suodattimissa 701, 702 ja 703 kukin signaalikomponentti jaetaan oikeaan ja vasempaan kanavaan tai useampikanavaisessa järjestelmässä yleisesti N:ään kanavaan. Kaikki tiettyyn kanavaan liittyvät signaalit kootaan summaimessa 715 tai 716 ja johdetaan summaimeen 717 tai 718, jossa kunkin kanavan signaaliin yhdistetään siihen kuuluva jälkikaiku. Linjat 719 ja 720 johtavat kaiuttimille tai kuulokkeisiin.
15 Kuvassa 7a suodattimien 723 ja 724 ja suodattimien 702 ja 703 väliset pisteet tarkoittavat, että keksintö ei rajoita sitä, montako suodatinta vastaanotinlaitteen suoda-tinpankissa on. Suodattimia voi olla jopa useita satoja tai tuhansia riippuen mallinnetun akustisen virtuaaliympäristön monimutkaisuudesta.
20 Kuva 7b esittää tarkemmin erästä mahdollisuutta kuvassa 7a esitetyn parametrisoi-dun suodattimen 722 toteuttamiseksi. Kuvassa 7b suodatin 722 koostuu kolmesta peräkkäisestä suodatinasteesta 730, 731 ja 732, joista ensimmäinen aste 730 kuvaa etenemisvaimennusta väliaineessa (yleensä ilmassa), toinen aste 731 kuvaa heijasta-v : vassa materiaalissa tapahtuvaa absorptiota (sitä sovelletaan erityisesti heijastusten ·;· 25 kuvaamisessa) ja kolmas aste 732 ottaa huomioon äänilähteen suuntaavuuden. Επί simmäisessä asteessa 730 voidaan ottaa huomioon sekä äänen kulkema matka väli- aineessa äänilähteestä (mahdollisesti heijastavan pinnan kautta) tarkastelupisteeseen että väliaineen ominaisuudet, kuten ilman kosteus, paine ja lämpötila. Matkan las-kemiseksi ensimmäinen aste 730 saa lähettävältä laitteelta tiedon äänilähteen sijain- 30 nista mallinnettavan tilan koordinaatistossa ja vastaanottavalta laitteelta tiedon sen , , pisteen koordinaateista, jonka käyttäjä on valinnut tarkastelupisteeksi. Väliaineen : · ominaisuuksia kuvaavat tiedot ensimmäinen aste 730 saa joko lähettävältä laitteelta tai vastaanottavalta laitteelta (vastaanottavan laitteen käyttäjällä voi olla mahdolli- * suus asettaa väliaineen ominaisuudet haluamikseen). Toinen aste 731 saa heijasta- t * 35 van pinnan absorptiota kuvaavan kertoimen oletusarvoisesti lähettävältä laitteelta, y joskin tässäkin vastaanottavan laitteen käyttäjälle voidaan antaa mahdollisuus muu- I » telia mallinnetun tilan ominaisuuksia. Kolmannella asteella 732 otetaan huomioon : . · se, miten äänilähteen lähettämä ääni suuntautuu äänilähteestä eri suuntiin mallinnet- 11 116505 tavassa tilassa; kolmas aste 732 siis toteuttaa tässä patenttihakemuksessa esitetyn keksinnön.
Edellä on tarkasteltu yleisesti sitä, miten akustisen virtuaaliympäristön ominaisuuk-5 siä voidaan käsitellä ja siirtää laitteesta toiseen käyttämällä parametreja. Seuraavaksi tarkastellaan keksinnön soveltamista erääseen erityiseen tiedonsiirtomuotoon. Multimedialla tarkoitetaan audiovisuaalisten kohteiden toisiinsa tahdistettua esittämistä käyttäjälle. Interaktiivisten multimediaesitysten on arveltu tulevan tulevaisuudessa laajamittaiseen käyttöön esimerkiksi viihde- ja telekonferenssimuotona. Tekniikan 10 tasosta tunnetaan joukko standardeja, jotka määrittelevät eri tapoja multimediaohjelmien välittämiseksi sähköisessä muodossa. Tässä patenttihakemuksessa käsitellään erityisesti ns. MPEG-standardeja (Motion Picture Experts Group), joista erityisesti tämän patenttihakemuksen jättöhetkellä valmisteilla oleva MPEG-4-standardi tähtää siihen, että välitettävä multimediaesitys voi sisältää todellisia ja virtuaalisia 15 objekteja, jotka yhdessä muodostavat tietyn audiovisuaalisen ympäristön. Keksintö ei mitenkään rajoitu käytettäväksi vain MPEG-4-standardin yhteydessä vaan sitä voidaan soveltaa esimerkiksi VRML97-standardin laajennuksissa tai jopa toistaiseksi tuntemattomissa tulevissa audiovisuaalisissa standardeissa.
20 MPEG-4-standardin mukainen tietovirta koostuu multipleksatuista audiovisuaalisista objekteista, jotka voivat sisältää ajallisesti jatkuvan osuuden (kuten tietty syntetoi-tu ääni) sekä parametreja (kuten äänilähteen sijainti mallinnettavassa tilassa). Objektit voidaan määritellä hierarkkisiksi, jolloin hierarkian alimmalla tasolla ovat ns. V : primitiiviset objektit. Objektien lisäksi MPEG-4-standardin mukaiseen multime- ’ 25 diaohjelmaan kuuluu ns. näkymän kuvaus (scene description), joka sisältää sellaista : ; ; objektien keskinäisiin suhteisiin ja ohjelman yleisten puitteiden järjestämiseen liit- ;: tyvää tietoa, joka on edullisinta koodata ja dekoodata erillään varsinaisista objekteis- , 1. ta. Näkymän kuvausta nimitetään myös BIFS-osuudeksi (Binary Format for Scene , description). Keksinnön mukainen akustisen virtuaaliympäristön välittäminen on 30 edullista toteuttaa käyttämällä MPEG-4-standardin määrittelemää strukturoitua au-. . diokieltä (SAOL/SASL; Structured Audio Orchestra Language / Structured Audio :;; t: Score Language) tai VRML97-kieltä.
:*·*; Edellä mainituissa kielissä on nykyisellään määritelty Sound-solmu (engl. Sound . * * ‘; 35 node), joka kuvaa äänilähdettä. Keksinnön mukaisesti voidaan määritellä tunnetun
Sound-solmun laajennus, jota nimitetään tässä patenttihakemuksessa Directi-veSound-solmuksi. Se sisältää tunnetun Sound-solmun lisäksi kentän, jota nimite-.* tään tässä directivity-kentäksi ja jossa ilmaistaan äänen suuntautumista kuvaavien 12 116505 suodattimien rekonstruoimiseksi tarvittavat tiedot. Edellä on esitetty kolme eri vaihtoehtoa suodattimien kuvaamiseksi, joten seuraavassa selostetaan, miten nämä vaihtoehdot näkyvät keksinnön mukaisen DirectiveSound-solmun directivity-kentässä.
5 Ensimmäisen vaihtoehdon mukaan kukin tiettyä nolla-atsimuutin suunnasta poikkeavaa suuntaa kuvaava suodatin vastaa pelkkää kertomista vahvistuskertoimella, joka on 0:n ja l:n väliin normeerattu reaaliluku. Tällöin directivity-kentän sisältö voisi olla esimerkiksi seuraavanlainen: 10 ((0.79 0.8) (1.57 0.6) (2.36 0.4) (3.14 0.2)) Tässä vaihtoehdossa directivity-kentässä on yhtä monta lukuparia kuin äänilähteen mallissa on nolla-atsimuutin suunnasta eroavia suuntia. Lukuparin ensimmäinen luku ilmoittaa kyseisen suunnan ja nolla-atsimuutin välisen kulman radiaaneina ja toi-15 nen luku ilmoittaa vahvistuskertoimen kyseisessä suunnassa.
Toisen vaihtoehdon mukaan ääni jaetaan kussakin nolla-atsimuutin suunnasta poikkeavassa suunnassa taajuuskaistoiksi, joista kullakin on oma vahvistuskertoimensa. Directivity-kentän sisältö voisi olla esimerkiksi seuraavanlainen: 20 ((0.79 125.0 0.8 1000.0 0.6 4000.0 0.4) (1.57 125.0 0.7 1000.0 0.5 4000.0 0.3) (2.36 125.0 0.6 1000.0 0.4 4000.0 0.2) (3.14 125.00.5 1000.00.34000.00.1)) ..;i* 25 : Tässä vaihtoehdossa directivity-kentässä on yhtä monta sisemmillä sulkeilla toisis- .*··, taan erotettua lukujoukkoa kuin äänilähteen mallissa on nolla-atsimuutin suunnasta .w eroavia suuntia. Kussakin lukujoukossa ensimmäinen luku ilmoittaa kyseisen suun- . 1 _ nan ja nolla-atsimuutin välisen kulman radiaaneina. Ensimmäisen luvun jälkeen seu- 30 raa lukupareja, joista ensimmäinen ilmaisee tietyn taajuuden hertseinä ja toinen on vahvistuskerroin. Esimerkiksi lukujoukko (0.79 125.0 0.8 1000.0 0.6 4000.0 0.4) : voidaan tulkita siten, että suunnassa 0.79 radiaania taajuuksilla 0 - 125 Hz käytetään vahvistuskerrointa 0.8, taajuuksilla 125 - 1000 Hz käytetään vahvistuskerrointa 0.6 ja taajuuksilla 1000 - 4000 Hz käytetään vahvistuskerrointa 0.4. Vaihtoehtoisesti .·. 35 voidaan käyttää merkintätapaa, jossa edellä mainittu lukujoukko tarkoittaa, että ; suunnassa 0.79 radiaania taajuudella 125 Hz vahvistuskerroin on 0.8, taajuudella ··’ 1000 Hz vahvistuskerroin on 0.6, taajuudella 4000 Hz vahvistuskerroin on 0.4 ja : .* vahvistuskertoimet muilla taajuuksilla lasketaan näistä inter- ja ekstrapoloimalla.
13 116505
Keksinnön kannalta ei ole oleellista, mitä merkintätapaa käytetään, kunhan käytettävä merkintätapa on sekä lähettävän että vastaanottavan laitteen tiedossa.
Kolmannen vaihtoehdon mukaan kussakin nolla-atsimuutin suunnasta poikkeavassa 5 suunnassa sovelletaan siirtofunktiota, jonka määrittelemiseksi annetaan sen Z-muunnosesityksen a- ja b-kertoimet. Directivity-kentän sisältö voisi olla esimerkiksi seuraavanlainen: ((45 £>45,0 £>45,1 #45,1 £>45,2 #45,2 ...) 10 (90 bgofl £>90,1 Ö90,i £>90,2 #90,2 ...) (135 £>135,0 £>135,1 #135,1 ^135,2^135,2...) (180 £>180,0 £>180,1 #180,1 b 180,2 0)80,2...)) Tässä vaihtoehdossa directivity-kentässä on myös yhtä monta sisemmillä sulkeilla 15 toisistaan erotettua lukujoukkoa kuin äänilähteen mallissa on nolla-atsimuutin suunnasta eroavia suuntia. Kussakin lukujoukossa ensimmäinen luku ilmoittaa kyseisen suunnan ja nolla-atsimuutin välisen kulman tällä kertaa asteina; tässä samaten kuin edellä voidaan yhtä hyvin käyttää mitä tahansa muita tunnettuja kulmayksiköitä. Ensimmäisen luvun jälkeen seuraavat a- ja b-kertoimet, jotka määrittävät kyseisessä 20 suunnassa käytettävän siirtofunktion Z-muunnoksen. Pisteet kunkin lukujoukon perässä tarkoittavat, että keksintö ei rajoita sitä, kuinka monella a- ja b-kertoimella siirtofunktioiden Z-muunnokset määritellään. Eri lukujoukoissa voidaan antaa eri määrä a- ja b-kertoimia. Kolmannessa vaihtoehdossa a- ja b-kertoimet voitaisiin an-v : taa myös omina vektoreinaan, jotta FIR- tai all-pole-IIR-suodattimien tehokas ku- ; 25 vaaminen olisi mahdollista samalla tavalla kuin julkaisussa Ellis, S. 1998: ’’Towards : more realistic sound in VRML”. Proc. VRML’98, Monterey, USA, Feb. 16-19, ::::: 1998, pp. 95-100.
( ; · ; ·, Edellä esitetyt keksinnön suoritusmuodot on luonnollisesti tarkoitettu vain esimer- 30 kinomaisiksi eikä niillä ole keksintöä rajoittavaa vaikutusta. Erityisesti se tapa, jolla , . suodattimia kuvaavat parametrit järjestetään DirectiveSound-solmun directivity- :kenttään, voidaan valita hyvin monella tavalla.
» · · » » *

Claims (14)

116505
1. Menetelmä akustisen virtuaaliympäristön käsittelemiseksi elektronisessa laitteessa, joka akustinen virtuaaliympäristö käsittää ainakin yhden äänilähteen (300), 5 tunnettu siitä, että - äänilähteelle määritetään tietty referenssisuunta (301) ja joukko siitä poikkeavia suuntia (302, 303, 304, 305) - äänen suuntautumisen kuvaamiseksi äänilähteeseen liitetään äänilähdekohtainen suuntariippuva suodatusjärjestely (306, 307, 308, 309), jossa kuhunkin määritettyyn 10 referenssisuunnasta poikkeavaan suuntaan liitetään suodatin (306, 307, 308, 309), jonka vaikutus ääneen riippuu suodatinkohtaisista parametreista - tieto äänilähteestä (300) ja siihen liitetystä suodatusjärjestelystä (306, 307, 308, 309) siirretään lähettävästä laitteesta vastaanottavaan laitteeseen digitaalisesti.
2. Patenttivaatimuksen 1 mukainen menetelmä, tunnettu siitä, että mainitut suo- datinkohtaiset parametrit ovat vahvistuskertoimia äänilähteestä eri suuntiin suuntautuvan äänen suhteellisen vahvistuksen määrittämiseksi.
3. Patenttivaatimuksen 2 mukainen menetelmä, tunnettu siitä, että mainitut vah-20 vistuskertoimet käsittävät ainakin yhdessä määritetyssä referenssisuunnasta poikkeavassa suunnassa erillisiä vahvistuskertoimia äänen eri taajuuksia varten.
4. Patenttivaatimuksen 1 mukainen menetelmä, tunnettu siitä, että mainitut suo- :: ; datinkohtaiset parametrit ovat suodattimien siirtofunktion Z-muunnoksen osamäärä- _ (; j' 25 esityksen ’ ! M y(z) Σμ * : : : l + LakZ ’ k=1 .; i kertoimia [b0 b, a, b2 a2...]. O 30
5. Patenttivaatimuksen 1 mukainen menetelmä, tunnettu siitä, että äänen suun- ', tautumisen kuvaamiseksi muissa suunnissa kuin referenssisuunnassa ja määritetyis- ! ’ sä referenssisuunnasta poikkeavissa suunnissa se käsittää interpoloinnin (400) mää- * , · ritettyihin referenssisuunnista poikkeaviin suuntiin liitettyjen suodattimien välillä. 35 116505
6. Patenttivaatimuksen 1 mukainen menetelmä, tunnettu siitä, että se käsittää vaiheet, joissa - lähettävä laite muodostaa tietyn akustisen virtuaaliympäristön (500), jonka käsit-tämien äänilähteiden (501, 502, 503, 504) äänen suuntautumista kuvataan suodatti- 5 millä, joiden vaikutus ääneen riippuu suodatinkohtaisista parametreista, - lähettävä laite välittää vastaanottavalle laitteelle tiedot mainituista suodatinkohtaisista parametreista, ja - rekonstruoidakseen akustisen virtuaaliympäristön vastaanottava laite muodostaa suodatinpankin, joka käsittää suodattimia, joiden vaikutus akustiseen signaaliin riip- 10 puu suodatinkohtaisista parametreista, ja muodostaa suodatinkohtaiset parametrit lähettävän laitteen välittämien tietojen perusteella.
7. Patenttivaatimuksen 6 mukainen menetelmä, tunnettu siitä, että lähettävä laite välittää vastaanottavalle laitteelle tiedot mainituista suodatinkohtaisista parametreis- 15 ta osana MPEG-4-standardin mukaista tietovirtaa.
8. Patenttivaatimuksen 1 mukainen menetelmä, tunnettu siitä, että mainittu ääni-lähde on varsinainen äänilähde (501, 502, 503).
9. Patenttivaatimuksen 1 mukainen menetelmä, tunnettu siitä, että mainittu ääni- lähde on heijastus (504).
10. Järjestelmä akustisen virtuaaliympäristön käsittelemiseksi, joka virtuaaliympä-' ristö käsittää ainakin yhden äänilähteen, tunnettu siitä, että se käsittää 1* 25 - välineet parametrisoiduista suodattimista koostuvan suodatinpankin (619) muodos- : tamiseksi akustisen virtuaaliympäristön käsittämien äänilähteiden äänen suuntautu- I · “. misen mallintamista varten siten, että tiettyyn äänilähteeseen liitetään äänilähdekoh- tainen suuntariippuva suodatusjärjestely (306, 307, 308, 309), jossa kuhunkin määri-• ;‘.t tettyyn, tietystä referenssisuunnasta poikkeavaan suuntaan liitetään suodatin (306, ‘ 30 307, 308, 309), jonka vaikutus ääneen riippuu suodatinkohtaisista parametreista - välineet tiedon äänilähteestä (300) ja siihen liitetystä suodatusjärjestelystä (306, ’· : 307, 308, 309) siirtämiseksi lähettävästä laitteesta vastaanottavaan laitteeseen digi- ...' taalisesti. I I ,··. 35 11. Patenttivaatimuksen 10 mukainen järjestelmä, tunnettu siitä, että se käsittää * lähettävän laitteen (601) ja vastaanottavan laitteen (602) ja välineet sähköisen tie- ’ donsiirron toteuttamiseksi lähettävän laitteen ja vastaanottavan laitteen välillä. 116505
12. Patenttivaatimuksen 10 mukainen järjestelmä, tunnettu siitä, että se käsittää lähettävässä laitteessa multipleksointivälineet (611) parametrisoitujen suodattimien ominaisuuksia kuvaavien parametrien liittämiseksi MPEG-4-standardin mukaiseen tietovirtaan ja vastaanottavassa laitteessa demultipleksointivälineet (612) parametri- 5 soitujen suodattimien ominaisuuksia kuvaavien parametrien ottamiseksi selville MPEG-4-standardin mukaisesta tietovirrasta.
13. Patenttivaatimuksen 10 mukainen järjestelmä, tunnettu siitä, että se käsittää lähettävässä laitteessa multipleksointivälineet (611) parametrisoitujen suodattimien 10 ominaisuuksia kuvaavien parametrien liittämiseksi VRML-97-standardin laajennuksen mukaiseen tietovirtaan ja vastaanottavassa laitteessa demultipleksointivälineet (612) parametrisoitujen suodattimien ominaisuuksia kuvaavien parametrien ottamiseksi selville VRML-97-standardin laajennuksen mukaisesta tietovirrasta.
15 Patentkrav
FI980649A 1998-03-23 1998-03-23 Menetelmä ja järjestelmä suunnatun äänen käsittelemiseksi akustisessa virtuaaliympäristössä FI116505B (fi)

Priority Applications (12)

Application Number Priority Date Filing Date Title
FI980649A FI116505B (fi) 1998-03-23 1998-03-23 Menetelmä ja järjestelmä suunnatun äänen käsittelemiseksi akustisessa virtuaaliympäristössä
US09/273,436 US7369668B1 (en) 1998-03-23 1999-03-22 Method and system for processing directed sound in an acoustic virtual environment
PCT/FI1999/000226 WO1999049453A1 (en) 1998-03-23 1999-03-23 A method and a system for processing directed sound in an acoustic virtual environment
AT99910399T ATE361522T1 (de) 1998-03-23 1999-03-23 Verfahren und system zur behandlung von gerichtetem schall in einer akustisch-virtuellen umgegung
KR1020007010576A KR100662673B1 (ko) 1998-03-23 1999-03-23 청각 가상환경에서 유향음을 처리하기 위한 방법 및 시스템
ES99910399T ES2285834T3 (es) 1998-03-23 1999-03-23 Metodo y sistema dpara procesar sonido dirigido en un entorno virtual acustico.
DE69935974T DE69935974T2 (de) 1998-03-23 1999-03-23 Verfahren und system zur behandlung von gerichtetem schall in einer akustisch-virtuellen umgegung
CN998065447A CN1132145C (zh) 1998-03-23 1999-03-23 用于处理声学虚拟环境中的定向声的方法和系统
AU29369/99A AU2936999A (en) 1998-03-23 1999-03-23 A method and a system for processing directed sound in an acoustic virtual environment
EP99910399A EP1064647B1 (en) 1998-03-23 1999-03-23 A method and a system for processing directed sound in an acoustic virtual environment
JP2000538346A JP4573433B2 (ja) 1998-03-23 1999-03-23 仮想音響環境において指向性音響を処理する方法およびシステム
JP2008250770A JP2009055621A (ja) 1998-03-23 2008-09-29 仮想音響環境において指向性音響を処理する方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FI980649A FI116505B (fi) 1998-03-23 1998-03-23 Menetelmä ja järjestelmä suunnatun äänen käsittelemiseksi akustisessa virtuaaliympäristössä
FI980649 1998-03-23

Publications (3)

Publication Number Publication Date
FI980649A0 FI980649A0 (fi) 1998-03-23
FI980649A FI980649A (fi) 1999-09-24
FI116505B true FI116505B (fi) 2005-11-30

Family

ID=8551352

Family Applications (1)

Application Number Title Priority Date Filing Date
FI980649A FI116505B (fi) 1998-03-23 1998-03-23 Menetelmä ja järjestelmä suunnatun äänen käsittelemiseksi akustisessa virtuaaliympäristössä

Country Status (11)

Country Link
US (1) US7369668B1 (fi)
EP (1) EP1064647B1 (fi)
JP (2) JP4573433B2 (fi)
KR (1) KR100662673B1 (fi)
CN (1) CN1132145C (fi)
AT (1) ATE361522T1 (fi)
AU (1) AU2936999A (fi)
DE (1) DE69935974T2 (fi)
ES (1) ES2285834T3 (fi)
FI (1) FI116505B (fi)
WO (1) WO1999049453A1 (fi)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FI116505B (fi) * 1998-03-23 2005-11-30 Nokia Corp Menetelmä ja järjestelmä suunnatun äänen käsittelemiseksi akustisessa virtuaaliympäristössä
US6668177B2 (en) 2001-04-26 2003-12-23 Nokia Corporation Method and apparatus for displaying prioritized icons in a mobile terminal
US7032188B2 (en) 2001-09-28 2006-04-18 Nokia Corporation Multilevel sorting and displaying of contextual objects
US6996777B2 (en) 2001-11-29 2006-02-07 Nokia Corporation Method and apparatus for presenting auditory icons in a mobile terminal
US6934911B2 (en) 2002-01-25 2005-08-23 Nokia Corporation Grouping and displaying of contextual objects
JP2005094271A (ja) * 2003-09-16 2005-04-07 Nippon Hoso Kyokai <Nhk> 仮想空間音響再生プログラムおよび仮想空間音響再生装置
DE602004021716D1 (de) * 2003-11-12 2009-08-06 Honda Motor Co Ltd Spracherkennungssystem
CN1969589B (zh) * 2004-04-16 2011-07-20 杜比实验室特许公司 用于创建音频场景的设备和方法
JP4789145B2 (ja) * 2006-01-06 2011-10-12 サミー株式会社 コンテンツ再生装置及びコンテンツ再生プログラム
JP4894386B2 (ja) * 2006-07-21 2012-03-14 ソニー株式会社 音声信号処理装置、音声信号処理方法および音声信号処理プログラム
JP5082327B2 (ja) * 2006-08-09 2012-11-28 ソニー株式会社 音声信号処理装置、音声信号処理方法および音声信号処理プログラム
GB0724366D0 (en) * 2007-12-14 2008-01-23 Univ York Environment modelling
JP5397131B2 (ja) * 2009-09-29 2014-01-22 沖電気工業株式会社 音源方向推定装置及びプログラム
JP5141738B2 (ja) * 2010-09-17 2013-02-13 株式会社デンソー 立体音場生成装置
US8810598B2 (en) 2011-04-08 2014-08-19 Nant Holdings Ip, Llc Interference based augmented reality hosting platforms
CN103563401B (zh) * 2011-06-09 2016-05-25 索尼爱立信移动通讯有限公司 减少头部相关传递函数数据量
CN103152500B (zh) * 2013-02-21 2015-06-24 黄文明 多方通话中回音消除方法
US9582516B2 (en) 2013-10-17 2017-02-28 Nant Holdings Ip, Llc Wide area augmented reality location-based services
WO2018077379A1 (en) 2016-10-25 2018-05-03 Huawei Technologies Co., Ltd. Method and apparatus for acoustic scene playback
KR102113542B1 (ko) 2017-11-30 2020-05-21 서울과학기술대학교 산학협력단 심층신경망을 이용하여 음향 신호를 정규화하는 방법
US10705790B2 (en) * 2018-11-07 2020-07-07 Nvidia Corporation Application of geometric acoustics for immersive virtual reality (VR)
CN114630240B (zh) * 2022-03-16 2024-01-16 北京小米移动软件有限公司 方向滤波器的生成方法、音频处理方法、装置及存储介质

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4731848A (en) 1984-10-22 1988-03-15 Northwestern University Spatial reverberator
US5285165A (en) 1988-05-26 1994-02-08 Renfors Markku K Noise elimination method
FI90166C (fi) 1991-10-16 1993-12-27 Nokia Mobile Phones Ltd Cmos-kompander
FI89846C (fi) 1991-11-29 1993-11-25 Nokia Mobile Phones Ltd En deviationsbegraensare foer en fraon en radiotelefon utsaend signal
FI92535C (fi) 1992-02-14 1994-11-25 Nokia Mobile Phones Ltd Kohinan vaimennusjärjestelmä puhesignaaleille
EP0563929B1 (en) 1992-04-03 1998-12-30 Yamaha Corporation Sound-image position control apparatus
WO1994001933A1 (en) 1992-07-07 1994-01-20 Lake Dsp Pty. Limited Digital filter having high accuracy and efficiency
JPH06292298A (ja) * 1993-03-31 1994-10-18 Sega Enterp Ltd 聴覚特性及びモニター環境を考慮した三次元仮想音像形成装置
JP3552244B2 (ja) * 1993-05-21 2004-08-11 ソニー株式会社 音場再生装置
JP3578783B2 (ja) 1993-09-24 2004-10-20 ヤマハ株式会社 電子楽器の音像定位装置
JPH0793367A (ja) * 1993-09-28 1995-04-07 Atsushi Matsushita 音声情報検索システム及び装置
US5485514A (en) 1994-03-31 1996-01-16 Northern Telecom Limited Telephone instrument and method for altering audible characteristics
US5659619A (en) 1994-05-11 1997-08-19 Aureal Semiconductor, Inc. Three-dimensional virtual audio display employing reduced complexity imaging filters
US5684881A (en) 1994-05-23 1997-11-04 Matsushita Electric Industrial Co., Ltd. Sound field and sound image control apparatus and method
JP3258195B2 (ja) * 1995-03-27 2002-02-18 シャープ株式会社 音像定位制御装置
JPH08272380A (ja) * 1995-03-30 1996-10-18 Taimuuea:Kk 仮想3次元空間音響の再生方法および装置
EP0777209A4 (en) * 1995-06-16 1999-12-22 Sony Corp SOUND GENERATION METHOD AND APPARATUS
FR2736499B1 (fr) 1995-07-03 1997-09-12 France Telecom Procede de diffusion d'un son avec une directivite donnee
FR2738099B1 (fr) 1995-08-25 1997-10-24 France Telecom Procede de simulation de la qualite acoustique d'une salle et processeur audio-numerique associe
US5790957A (en) 1995-09-12 1998-08-04 Nokia Mobile Phones Ltd. Speech recall in cellular telephone
FI102337B (fi) 1995-09-13 1998-11-13 Nokia Mobile Phones Ltd Menetelmä ja piirijärjestely audiosignaalin käsittelemiseksi
JP3296471B2 (ja) * 1995-10-09 2002-07-02 日本電信電話株式会社 音場制御方法および装置
FI100840B (fi) 1995-12-12 1998-02-27 Nokia Mobile Phones Ltd Kohinanvaimennin ja menetelmä taustakohinan vaimentamiseksi kohinaises ta puheesta sekä matkaviestin
JP3976360B2 (ja) * 1996-08-29 2007-09-19 富士通株式会社 立体音響処理装置
DE19646055A1 (de) 1996-11-07 1998-05-14 Thomson Brandt Gmbh Verfahren und Vorrichtung zur Abbildung von Schallquellen auf Lautsprecher
JP3266020B2 (ja) * 1996-12-12 2002-03-18 ヤマハ株式会社 音像定位方法及び装置
FI116990B (fi) 1997-10-20 2006-04-28 Nokia Oyj Menetelmä ja järjestelmä akustisen virtuaaliympäristön käsittelemiseksi
FI116505B (fi) * 1998-03-23 2005-11-30 Nokia Corp Menetelmä ja järjestelmä suunnatun äänen käsittelemiseksi akustisessa virtuaaliympäristössä

Also Published As

Publication number Publication date
JP2002508609A (ja) 2002-03-19
DE69935974T2 (de) 2007-09-06
CN1302426A (zh) 2001-07-04
ATE361522T1 (de) 2007-05-15
WO1999049453A1 (en) 1999-09-30
JP4573433B2 (ja) 2010-11-04
KR100662673B1 (ko) 2006-12-28
EP1064647A1 (en) 2001-01-03
KR20010034650A (ko) 2001-04-25
CN1132145C (zh) 2003-12-24
ES2285834T3 (es) 2007-11-16
FI980649A0 (fi) 1998-03-23
JP2009055621A (ja) 2009-03-12
US7369668B1 (en) 2008-05-06
DE69935974D1 (de) 2007-06-14
AU2936999A (en) 1999-10-18
EP1064647B1 (en) 2007-05-02
FI980649A (fi) 1999-09-24

Similar Documents

Publication Publication Date Title
FI116505B (fi) Menetelmä ja järjestelmä suunnatun äänen käsittelemiseksi akustisessa virtuaaliympäristössä
KR100440454B1 (ko) 가상 음향 환경을 처리하는 방법 및 시스템
KR102502383B1 (ko) 오디오 신호 처리 방법 및 장치
Jot et al. Rendering spatial sound for interoperable experiences in the audio metaverse
KR100551605B1 (ko) 음원을 스피커로 프로젝팅하는 방법과 장치
EP2153695A2 (en) Early reflection method for enhanced externalization
JP7453248B2 (ja) オーディオ装置およびその処理の方法
CN116671133A (zh) 用于融合虚拟场景描述和收听者空间描述的方法和装置
WO2019193244A1 (en) An apparatus, a method and a computer program for controlling playback of spatial audio
Huopaniemi et al. DIVA virtual audio reality system
Hoffmann et al. An independent declarative 3D audio format on the basis of XML
RU2804014C2 (ru) Аудиоустройство и способ для него
WO2023199817A1 (ja) 情報処理方法、情報処理装置、音響再生システム、及び、プログラム
Väänänen Parametrization, auralization, and authoring of room acoustics for virtual reality applications
US20240135953A1 (en) Audio rendering method and electronic device performing the same
WO2023199815A1 (ja) 音響処理方法、プログラム、及び音響処理システム
KR20240054885A (ko) 오디오 렌더링 방법 및 이를 수행하는 전자 장치
Stewart Spatial auditory display for acoustics and music collections
Ogi et al. Immersive sound field simulation in multi-screen projection displays
WO2023083788A1 (en) Late reverberation distance attenuation
JPH1083190A (ja) 過渡応答信号生成と設定方法及びその装置
Senki Development of a Windows (TM) three-dimensional sound system using binaural technology.
Pulkki Implementing a modular architecture for virtual-world Directional Audio Coding

Legal Events

Date Code Title Description
FG Patent granted

Ref document number: 116505

Country of ref document: FI

PC Transfer of assignment of patent

Owner name: NOKIA TECHNOLOGIES OY

MA Patent expired