JP4347422B2 - 空間形成されたオーディオの再生 - Google Patents
空間形成されたオーディオの再生 Download PDFInfo
- Publication number
- JP4347422B2 JP4347422B2 JP50393099A JP50393099A JP4347422B2 JP 4347422 B2 JP4347422 B2 JP 4347422B2 JP 50393099 A JP50393099 A JP 50393099A JP 50393099 A JP50393099 A JP 50393099A JP 4347422 B2 JP4347422 B2 JP 4347422B2
- Authority
- JP
- Japan
- Prior art keywords
- component
- sound
- speaker
- warping
- format
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S3/00—Systems employing more than two channels, e.g. quadraphonic
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S2420/00—Techniques used stereophonic systems covered by H04S but not provided for in its groups
- H04S2420/11—Application of ambisonics in stereophonic audio systems
Description
浸漬効果を現実的にするために、ユーザは浸漬効果に貢献する全ての感覚に対して適切な入力を受領しなければならない。とくに、オーディオとビデオとを組合せて使用することは、大抵の浸漬環境の重要な特徴事項である:例を参照されたい:
ANDERSON.D. & CASEY.M.“Virtual worlds-The sound dimension”IEEE Spectrum 1997,Vol.34,No 3,pp46-50:
BRAHAM.R. & COMERFORD.R.“Sharing virtual worlds”IEEE Spectrum 1997,Vol.34,No 3,pp18-20:
WATERS.R & BARRUS.J“The rise of shared virtual enviroments”IEEE Spectrum 1997,Vol.34,No 3,pp20-25。
空間形成されたオーディオは周知のように、2以上のスピーカを使用すると、聞き手がスピーカから離れた源から放出されていると知覚するオーディオ効果を生成する。その最も簡単な形態では、立体音響効果が数十年間にわたってオーディオシステムに使用されてきた。本明細書では“バーチャル”の音源という用語を使用して、聞き手によって知覚されるような、実際の音源、すなわちスピーカから離れている現実の音源を意味する。
浸漬環境は、臨場感(Telepresence)、テレビ会議、“フライングスルー(flying through)”建築家の設計図、教育、および医療で使用するために研究されている。幅広い視界を空間のオーディオと組合せて、“そこにいる”ような感じを作って、通信プロセスを助け、さらに大きさと奥行きの感覚を付加し、効果的な共同作業の設計空間を用意することができる。
浸漬環境の幾つかの例は、D.M.Trail、J.M.Bowskill、およびP.J.Lawlenceによって、文献(“Interactive Collaborative Media Enviroments”(British Telecommunications Technology Journal Vol 15 No 4(October 1997)),pp.130ないし139)に記載されている。浸漬環境の1つの例はBT/AEC VisionDome(前出文献の135ないし136頁および図7に記載されている)であり、視覚イメージはユーザがイメージ内にいる状態で大型凹形スクリーン上で表される(図1および2参照)。8つのスピーカを有する多チャンネルの空間形成されたオーディオシステムを使用して、オーディオ浸漬を与える。さらに詳しくは次を参照されたい:
http://www.labs.bt.com/people/walkergr/IBTE_VisionDome/index.htm
第2の例は、同文献の134ないし135頁(および図6)に記載されている“SmartSpace”の椅子であり、これは広角ビデオスクリーン、コンピュータ端末、および空間形成されたオーディオを組合せ、全てが回転椅子の回転で動作するようにされており―このシステムはブリティッシュテレコミュニケーションズ(British Telecommunications plc)によって現在開発中である。椅子の回転によって環境内のユーザの方向が変わり、それにしたがってビジュアルおよびオーディオの入力が修正される。SmartSpaceの座長は聴覚を超越した(transsaural)処理を使用し、文献(“Prospects for transaural recording”,Journal of the Audio Engineering Society 1989,Vol.37,No1/2,pp3-19)に記載されているように、ユーザの周りに“サウンドバブル(sound bubble)”を準備して、ユーザが完全にオーディオに浸漬した感じを与えながらラップアラウンドスクリーンは視覚的な浸漬を与える。
浸漬環境が対話式であるときには、イメージおよび空間形成されたサウンドは実時間で(一般的にコンピュータアニメーションとして)生成され、その一方では対話式でない材料はしばしばアンビソニックB-Formatサウンドトラックで供給される。なおアンビソニックB-Formatサウンドトラックの特徴は本明細書において後で記載することにする。アンビソニックコーディングは浸漬オーディオ環境については一般的に普及している選択肢である。その理由は3または4のみの伝送チャンネルを使用して、チャンネルを幾つでもデコードできるからである。しかしながら、アンビソニック技術は、後に記載するように臨場感(telepresence enviroment)のある環境で使用されるときに制限される。
ここで浸漬環境におけるサウンドの局所化に関する幾つかの問題を検討することにする。図1および2は、VisionDome(ビジョンドーム)の平面図および側断面図であり、8つのスピーカ(1,2,3,4,5,6,7,8)と、ラップアラウンドスクリーンとをもち、通常のユーザ位置が記されている。多チャンネルアンビソニックオーディオトラックは通常長方形のリスニングルーム内で再生される。半球形ドーム内で再生されるときは、リスニング環境の幾何学的形状によって空間形成の品質が悪くなる。半球体内での反響はサウンドフィールド(音場)の再結合を壊すことである:これは壁表面を適切な吸収材料で処理することによって最小にできるときもあるが、常に実用的である訳ではない。リスニングルームとして固いプラスチックのドームを使用すると、複数の反響によって主として生じる多くの音響問題を生み出す。ドームの音響特性は、処理されないまま残されるときは、サウンドが多数の源から発生し、意図されたサウンドの空間形成効果が壊れるように考えられる。1つの解決案ではドームの内側表面を、反響を低減する吸収材料で被覆する。ビデオスクリーン材料、それ自体はサウンド吸収性であるのでサウンドの反響を低減するのを助けるが、ビデオスクリーン材料はさらにスクリーンの背後に置かれたスピーカから発生するサウンドに対して高周波数を相当に減衰させる。この高周波数の減衰は、スクリーンの背後に置かれたスピーカ1,2,3,7,8へ供給される信号を等化することによって克服される。
プラスチックのドーム以外のリスニング環境は特有の音響特性を有し、大抵の場合に反響はエラーの原因となる。ドームに音響タイルを貼付して反射量を低減することによって、ユーザは一層オーディオ信号を適切に空間形成できるようになる。
大抵の投影スクリーンおよびビデオモニタは平面(またはほぼ平面)のスクリーンである。予め録音されたB-Format(Bフォーマット)サウンドトラックは動画(moving video)イメージに一致するように構成されているときは、一般的にこのような平面ビデオスクリーンを使用してスタジオ内で構成される。正確な空間知覚(知覚した音場)を与えるために、B-Formatコーディングを使用して、オーディオを平面ビデオスクリーンにマップする。しかしながらVisionDomeのような多数のユーザを含む大きな環境を使用するときは、凹形スクリーン上でビデオを再生し、観察者に正確に見えるようにビデオイメージを適切に修正する。しかしながら幾何学的形状によるオーディオへの効果は最早ビデオと一致せず、知覚上の同期を回復するのに非線形のマッピングを必要とする。対話式材料の場合、B-Formatコーダは単位円の環境上にバーチャル源を置き、スクリーンの曲率をマッピングする。
聞き手のグループが小さい領域内に位置している環境では、アンビソニック再生システムは聞き手のほとんどに対して所望の聞くことに関する空間形成を生成するのに失敗しそうである。その1つの理由は、スピーカのみによって生成される種々の音場が正確に結合して、“スイートスポット”として知られるように、1つの位置における“バーチャル”の音源の所望の効果を生成できるからである。精密なスイートスポットには(多くとも)たった1人の聞き手が置ける。これは、同位相と逆位相との信号が正確に再構成して所望の信号を与える場合の真のスイートスポットが小さい領域であり、スイートスポットの外側の関係者は同位相および逆位相の信号の不正確な組合せを受取るからである。事実、半球形のスクリーンにおいて通常ビデオプロジェクタは半球体の幾何学的形状の中心にあり、アンビソニックは一般に、“スイートスポット”もスピーカアレイの幾何学的中心にあって、スクリーンと同心になるようにされている。したがって実際の“スイートスポット”はプロジェクタによって占められているので、その位置には誰も存在できない。
スイートスポットを移動して、聞き手の位置と一致させる効果は、BURRASTON,HOLLIER & HAWKSFORDによって研究されてきた(文献“Limitations of dynamically controlling the listening position in a 3-D ambisonic enviroment”Preprint from 102nd AES Convention March 1997 Audio Engineering Society(Preprint No 4460)参照)。これにより元のスイートスポット内に位置していなかった聞き手がアンビソニックデコード信号の正確な組合せを受領できるようになった。しかしながらこのシステムは単一ユーザ用に設計され、スイートスポットは一度に1つのみの位置に移動できる。この文献では、聞き手をスイートスポットの外側に位置付けた場合の効果(バーチャルの会合場所に聞き手のグループがいるときに発生するような効果)について記載し、非常に多くの正式なリスニング試験に基づいて、聞き手がスイートスポットに位置付けられているときのみ、聞き手はサウンドを正確に局所化できると結論している。
音源が移動し、聞き手がスイートスポット以外の位置にいるとき、興味深い効果が示される。サウンドが前方右から前方左へ移動し、聞き手が中心から外れて、前方に近付いている例について検討する。サウンドは最初に右側スピーカから放出され、しばらくそこにとどまり、次に迅速に中心を横切って、左側スピーカへ移動すると思われる―サウンドはスピーカの周りに“引掛かり(hang)”、音響的には中空の中心領域、すなわち“ホール(hole)”を生成する。スイートスポットに位置していない聞き手にとっては、どんなバーチャルの音源も概ねスピーカの1つに近付きすぎると思われる。(スイートスポットにいる聞き手によって知覚されるところによると)空間をサウンドが滑らかに移動するとすると、スイートスポットにいないユーザは1つのスピーカの位置の近くに留まっているバーチャルの源と知覚し、次に別のスピーカに突然に飛び移ることになる。
幾何学的形に協同する補正の最も簡単な方法は、スピーカの幾何学的位置をアンビソニックデコーダ内にプログラムするときにスピーカの位置を歪ませる(wrap)ことを含んでいる。デコーダは、スピーカを真の位置よりも中心に近付けた位置でプログラムされる:この結果サウンドはスクリーンの縁部で迅速に、スクリーンの中心近くでゆっくりと移動し-この結果スクリーン上のイメージに関してサウンドの知覚される線形移動を生ずる。この原理はアンビソニックデコーダのみに応用でき、アンビソニックデコーダは選択可能なスピーカの位置へ向うB-Format信号をデコードできる。すなわちこの原理は(立方体の8つの角部かまたは正方形の4つの角部のような)固定のスピーカ位置について設計されたデコーダに使用できない。
非線形のパニング(panning)方式が開発され、これは入力としてモノフォニック音源、所望のサウンド位置(x,y,z)および再生システムにおけるNスピーカの位置(x,y,z)をもつ。このシステムは1または複数の別々の入力源を有することができ、該入力源は空間内の別々の場所で個々に局所化できる。バーチャルの音源は非線形パニングの特徴を使用して1つの位置から別の位置へパンされる。非線形パニングは、オーディオの“ホール”が知覚されるという上述の効果を補正する。知覚の経験が補正されて、最初の位置から最後の位置への線形オーディオの軌跡を与える。非線形パニング機構は、強度パニングに基づき、アンビソニックシステムの中でのように波面再構成には基づいていない。ワーピング(warping)は強度パニングに基づくので、他のスピーカの逆位相信号は存在せず、それ故にマルチユーザシステムでは聞き手の全ては正確に空間形成されたオーディオを経験することになる。非線形ワーピングアルゴリズムは完全なシステムであり(すなわち、信号座標を採用して、3次元空間内に信号を位置付ける)、したがって実時間素材のみに使用でき、アンビソニック記録のワーピングには使用できない。
本発明にしたがって、リスニング空間を定めるスピーカアレイから音場を生成する方法であって、スピーカの出力が結合して、バーチャルの音源空間の知覚を与え;該方法は、アレイ内の各スピーカについて、各スピーカの出力を制御するために各出力成分Pnを生成することを含み、該出力は入力信号内で運ばれるデータから得られ、該データは和参照信号W、およびバーチャルの音源によって生成されるときは異なる方向をもつサウンド成分を表わす方向性サウンド成分X、Y、(Z)を含み;該方法は、各スピーカに対して、各成分Pnが同位相または逆位相で和参照信号Wに変化するか否かを知覚する段階と、前記信号が逆位相であるときはそれを修正する段階と、生成された修正成分を各スピーカへ供給する段階とを含む方法を提供する。
本発明の第2の態様にしたがって、音場を生成する装置であって:リスニング空間を定め、スピーカの出力を結合して、バーチャルの音源空間の知覚を与えるスピーカのアレイと;入力信号内を搬送されるデータを送信および処理する手段と;和参照信号Wとバーチャルの音源によって生成されるように異なる方向においてサウンドを示す方向情報要素X,Y,(Z)とを含むデータと;アレイ内の各スピーカの出力を制御する各出力成分Pnの前記データからの生成手段と;各スピーカに対して各成分Pnが和参照信号Wに対して同位相または逆位相で変化することを知覚する手段と;前記信号が逆位相のとき、それを修正する手段と;各スピーカに対して生成された修正成分を供給する手段とを含む装置を提供する。
好ましいのは各方向性サウンド成分は、各方向性サウンド成分の関数であるワーピング要素によって乗算されて、移動しているバーチャルの音源がリスニングフィールド内の任意の場所において聞き手によって知覚される平滑な軌跡に続き、さらにリスニングフィールド内の他の場所において知覚される平滑な軌跡に続く。したがってバーチャルの音源は、リスニングフィールドの中心領域よりも他の領域に現れる傾向がある。ワーピング要素は方向性サウンド成分の2乗以上の偶数冪か、またはシヌソイド関数であってもよい。
ここで2次元再生システムに関するアンビソニックB-Formatコーディングおよびデコーディングの方程式を簡単に記載する。この段落ではアンビソニックの詳細な理論を記載しないが、フィールドにおける他の研究者の成果を記載する。アンビソニック理論は方向性情報をオーディオ信号にコード化するという問題に対する解決案を表している。信号は、少なくとも4つのスピーカ(パントホニック(pantophonic)-水平面-システム)または8つのスピーカ(無方向性(ペリホニック)-水平および垂直面-システム)のアレイ上で再生されることを意図されている。信号は“B-Format”と呼ばれ、パントホニックシステム(W,X,Y)の3つの成分および無方向性システム(W,X,Y,Z)の4つの成分から成る。サラウンド−サウンドおよびアンビソニック理論の詳細な解析に関しては次の文献を参照されたい:
BAMFORD.J.& VANDERKOOYJ. “Ambisonic sound for us”Preprint from 99th AES Convention October 1995 Audio Engineering Society(Preprint No4138)
BEGAULT.D.“Challenges to the successful imprementation of 3-D sound”Journal of the Audio Engineering Society 1991,Vol.39,No 11,pp864-870
BURRASTON他(上述参照)
GERZON.M.“Optimum reproduction matrices for multi-speaker stereo”Journal of the Audio Engineering Society 1992,Vol.40,No 7/8,pp571-589
GERZON.M.“Surround sound psychoacoustics”Wireless World December 1974,Vol.80,pp483-485
MALHAM.D.G“Computer control of ambisonic soundfields”Preprint from 82nd AES Convention March 1987 Audio Engeering Society(Preprint No2463)
MALHAM.D.G. & CLARKE.J.“Control software for a programmable soundfield controller”Proceedings of the Institute of Acoustics Autumn Conference on Reproduced Sound 8,Windermere 1992,pp265-272
MALHAM.D.G. & MYATT.A.“3-D Sound spatialisation using ambisonic techniques”Computer Music Journal 1995,Vol.19 No4,pp58-70
POLETTI.M.“The design of encoding functions for stereophonic and polyphonic sound systems”Jonrnal of the Audio Engineering Society 1996,Vol.44,No 11,pp948-963
VANDERKOOY.J. & LIPSHITZ.S.“Anomalies of wavefront reconstruction in stereo and surround-sound reproduction”Preprint from 83rd AES Convention October 1987 Audio Engineering Society(Preprint No 2554)
本明細書に記載したアンビソニックシステムは全て第1次、すなわちm=lであり、チャンネル数は2次元のシステムでは2m+l(3チャンネル:w,x,y)によって、3次元システムでは(m+l)2に(4チャンネル:w,x,y,z)よって得られる。本明細書では、2次元システムのみを検討するが、本明細書に記載した発想は完全な3次元再生システムで使用するために直ぐにスケール合わせをすることができ、請求項の技術的範囲はこのような3次元再生システムを含む。
2次元システムを使用すると、エンコードされた空間形成されたサウンドは1つの平面、すなわち(x,y)面内のみにある。音源が単位円内にx2+y2≦1(図3参照)位置付けられていると仮定する。単位円上に位置付けられたモノフォニック信号については:
x=cos(ψ)
y=sin(ψ)
ここで、ψは図3に規定したように音源の元の位置と所望の位置との間の角度である。
B-Format信号は3つの信号W,X,Yを含み、これらは次のように定められている(上述のMalhamおよびMyatt参照)
W=S・1/√2
X=S・cos(ψ)
Y=S・sin(ψ)
ここで、Sは空間形成されたモノフォニック信号である。
バーチャルの音源が単位円上にある;すなわちx=cos(ψ)およびy=sin(ψ)であるとき、xおよびyに関するW,X,Yに対する方程式を与える:
W=1/√2・S 周囲の信号
X=x・S 前−後信号
Y=y・S 左-右信号
同じくMalhamおよびMyattによって記載されているように、デコーダは次のように動作する。Nスピーカの標準のアレイでは、パントホニックシステムデコーディング方程式は次の通りである:
Pn=(1/N)・W+2Xcos(ψn)+2Ysin(ψn)
なお、ψnはスピーカ“n”の方向であり(図4参照)、したがって図4に示したような標準の4つのスピーカアレイにおいて、各スピーカに供給される信号は次の通りである:
本発明の方法を使用して、B-Formatアンビソニック信号(または後で記載するワープされたB’-Format信号)をとり、逆位相の成分を低減して、非線形のパニングタイプ信号を生成し、ユーザのグループが空間形成されたサウンドを経験できるようにする。真の波面再構成は最早達成されないので、再生成は最早アンビソニックシステムではない。デコーダワーピングアルゴリズムはアンビソニックデコーダから出力をとり、出力が各再生成チャンネルに供給される前に出力をワープし、したがってN出力チャンネルのそれぞれに対してデコーダワーパ(warper)の1つの構成がある。B-FormatまたはB’-Formatデコーダ出力の何れかからの信号の位相成分がずれているとき、その位相はW入力信号に対して逆にされ-したがってデコーダ出力をWと比較することによって、信号の位相がずれているか否かを判断することができる。所定のデコーダ出力の位相がずれているとき、出力は減衰要素Dによって減衰される:
P’n=Pn・D
ここで、sign(Pn)≠sign(W)の場合に0≦D<1、さもなければD=1
この簡単なアルゴリズムは、聞き手がスイートスポットから離れているとき、最も近いスピーカに対してサウンドの局所化が壊れる見込みを低減する。
B-FormatワーピングはアンビソニックのB-Format記録をとり、知覚した非線形の軌跡を補正する。システムへの入力はB-Format記録であり、出力はワープされたB-Format記録である(ここではB’-Format記録と記載される)。B’-Format記録は、既存のデコーダを使用できるB-Formatデコーダでデコードすることができる。アンビソニックシステムは、音場が正しく再構成する再生領域内に‘スイートスポット’を生成し、他の領域では聞き手は正しく空間形成されたサウンドを経験しないことになる。ワーピングアルゴリズムの目的は、x&y値の線形領域から非線形領域へ変更することである。サウンドが右から左へ移動する例を検討する;サウンドは最初に迅速に移動し、次にゆっくりと中心を横切って、最後に遠くの左側へ迅速に横切って、知覚を修正することが必要である。ワーピングはさらに、静止しているオブジェクトの知覚ビューにも影響を与えるが、その理由はワーピングなしでは、スイートスポットから離れている聞き手が最もバーチャルである音源が幾つかの領域に集中することを知覚することになるからであり、中心領域は一般的に密度が低く、知覚されたオーディオの“ホール”となっているのである。B-Format信号成分X,Y,およびWに関して、xおよびyの元の値の推定値を判断することができ、したがって元の信号Sを再構成して、S’=W√2を求め、S’=W√2から推定値x’およびy’を得ることができる:
したがって
は、範囲(+1,+1)内の正規化されたxおよびyの値を表す。一般的なワーピングアルゴリズムは次の式によって与えられる:
および Y’=Y・∫(y’)
しかしながら、xはXの関数であり、yがYの関数であるので、次のようになる。
X’=X・∫(X) および Y’=Y・∫(Y)
生成された信号X’、Y’、およびWはB’-Format信号と呼ばれることになる。
ここで2つの可能なワーピング関数を記載することにする。
1)冪のワーピング
冪のワーピングを使用して、Xの値は偶数の冪で冪乗された
によって乗算され(Xを奇数の冪で効果的に冪乗して―そのサインを維持する)、Yは同じやり方でワーピングされる。
これらの方程式では、i=0を選択すると、ワーピングされていない構成が得られ、i>0のときは、非線形ワーピングが生成される。
2)シヌソイドのワーピング
シヌソイドワーピングの異なる関数を使用して、異なる関数f(X)およびf(Y)を
の範囲の異なる部分に使用する。シヌソイドワーピングはバーチャルの音源がその範囲の極値であり、中心領域に迅速に遷移するときに一定のレベルを与えるために行なわれる。冪乗された正弦波の半周期を使用して、値と中心領域との間に滑らかに補間する。
Xにおいて:
Yにおいて
定数x1…4およびy1…4に対する通常の値は次の通りである:
x1=y1=-0.75; x2=y2=-0.25; x3=y3=0.75; x4=y4=0.75
ワーピングアルゴリズムへの入力としてB-Format信号を使用することは、他の方法よりも多くの長所を有する。バーチャルの会合環境において、ユーザの音声はB-Format信号でコード化することができ、次にこのB-Format信号はシステム内の全ての他のユーザへ送られる(他のユーザは世界のどこかにいると仮定する)。他のユーザが位置している物理的な環境は著しく変化することがあり、バイノーラ(2聴覚の)ルヘッドホン応用システムを使用してもよい(MOLLER.H.“Fundamentals of binaural technology”Applied Acoustics 1992,Vol.36,pp171-218)。別の環境は、ワープされたアンビソニックスを使用したビジョンドーム(Visiondome)内であってもよい。さらに別の環境は単一ユーザを使用する真のアンビソニックシステム、または聴覚を超越した2つのスピーカ再生システムであってもよく、これはCooperおよびBauckによって文献(上述参照)に記載されている。その内容は図5に示した。
ここで専用の装置(proprietary equipment)を使用して、本発明の2つの構成(一方はディジタル、他方はアナログ)を記載することにする。バーチャルの会合環境において、オーディオは実時間で処理する必要がある。ここでは全てのデコーディングはアナログまたはDSP応用ハードウエアの何れかを使用して実時間で実行されることが要求されると仮定する。
実際のバーチャルの会合位置は、数メートルまたは何千キロメートルも離れていてもよい。各関係者(participant)間のオーディオ接続は一般的に、ISDN、LANmまたはWANのような広帯域ディジタルネットワークを介して行なわれる。したがって有益なことはディジタル領域内でコーディングおよびデコーディングを行って、不必要なD/AおよびA/D変換段階をやめることである。コーディングは従来のB-Formatコーダを使用することによって実行され、デコーディングは修正を加えた(ワーピング)デコーダによって実行される。この例外として非線形パニングの使用であり、こうして非線形パニングを使用するときは、その座標をもつモノフォニック信号か、またはNチャンネル信号を送ることが必要であり―こうして、非線形パニングを遠隔のバーチャルの会合場所を採用するシステムで使用するにはより不適切とする。
Lake HURON DSPエンジンはアンビソニックB-Format信号を生成およびデコーディングする専用の方法であり、1または複数の任意の間隔で位置付けられたスピーカで2次元および3次元の両方のオーディオをデコードすることができる。これはhttp://www.lakedsp.com//index.htm.に記載されている。Huronは必要なツールを供給されて、注文製のDSPプログラムを生成し、また本明細書中に示したワーピングアルゴリズムの計算は比較的に簡単であるので、これをアンビソニックデコーダの構成に含んでもよい。この方法の主な長所は、ハードウエアが既に開発されており、システムが多数のI/Oチャンネルを処理できることである。
第2のディジタル構成方法は、主要なDSPチップ製造業者から販売されている多くのDSP開発システムの1つの上でDSPチップをプログラミングすることを含む。このようなシステムには2または3の入力チャンネルおよびより多くの出力チャンネル(普通は4または8)が必要である。この構成では容易に大量生産できる高度に専門化されたデコーダを生成する。
PCおよびサウンドカード技術が増大するのにしたがって、実時間のアンビソニックデコーディングおよびワーピングが現実的になり―複雑なDSPシステム設計に対する要件が低減する。
B-Formatワーピングおよびデコーダワーピングをアナログ領域においてアナログの乗算器を使用して交互に実行することができる。従来のアンビソニックデコーダを使用して、B’-Formatデコーディングを実行し、デコーダの出力をデコーダワーパハードウエアに供給する。このようなシステムは図6に示した。B-Formatワーパおよびデコーダワーパのブロック図は、それぞれ図7および8に示した。ブロック図はアナログ乗算器で使用可能な機能ブロックに対応し、一般的な種類のアナログ乗算器は://www.analog.com/products/index/12.htmlに記載されている。
ここで実時間で動作するのではなく、上述の方法を使用する多数のシミュレーションを記載することにする。実際的な実施形態に対して要求されるように、これらの例を生成するのに使用される処理は、適切なオーディオインターフェイスをもつPCを使用してオフラインで計算された。正規化された座標として各xおよびyがが−1ないし+1の値のみをとることができると仮定して、最初に単一の音源を(-1,-1)から(1,1)へ移動する例を検討する。オーディオトラックの始めにバーチャルのサウンドを位置(-1,-1)に位置付け、トラックの終わりにバーチャルのサウンドを位置(1,1)に位置付ける。サウンドをコード化して、開始位置から終了位置へ線形に移動する。説明を分かり易くするために、空間形成されたモノフォニック源信号は正のDC電圧にセットした。上述のB-Formatコーディング技術を使用することによって、3チャンネル信号を構成し、次にこれを上述のワーピングアルゴリズムでデコードした。
図9は、図4に示したスピーカの幾何学的形状をもつ4つの各スピーカの出力が、4チャンネルデコーダから、従来のアンビソニックB-Formatコーディングを使用して供給することを示す。最初にバーチャルの源を、完全な大きさの出力をもつスピーカ3の近くに位置付け、スピーカ1の出力は最初は逆位相であり、スピーカ2および4はWの値をもつことが分かる。バーチャルの源が中心領域を移動するとき、スピーカ1、2、3、および4のレベルは等しい。例示した軌跡の終わりにスピーカ1は高出力レベルをもち、スピーカ3は逆位相であり、スピーカ2および4は一定Wレベルを維持する。
図10は、B-Formatワーピング(B’-Format信号)を導入する効果を示す。スピーカは軌跡の最初と最後の場所で従来のB-Formatワーピングと類似のレベルをもつが、ここで経路は主として中央領域内にあり、したがって個々のスピーカ“の周りに引掛かる(hang around)”または“崩壊していく(collapsing to)”サウンドの知覚が除かれる。
図9および10に示したスピーカはアンビソニック信号を供給し―ここでは同位相または逆位相信号のベクトルの和によって正しい信号がスイートスポットで得られる。デコーダワーピングアルゴリズムは、よりコヒーレントな信号をスイートスポットに位置していない聞き手に向けて提供する逆位相の成分を減衰する。図11は、付加的にデコーダワーピングを行った基本的なアンビソニックB-Formatデコーディング(図9参照)を示す。逆位相成分の除去は、この例ではD=0のとき明白に分かる。図12は、デコーダワーピングを行ったB’-Formatデコーディング(図10参照)を示し、逆位相の減衰効果が分かる。
上述の例では(-1,-1)から(1,1)、すなわち後方左から前方右への軌跡を検討したが;次の例では(1,1)から(-1,1)、すなわち前方右から前方左への軌跡を検討する。図13、14、15、および16はそれぞれ、B-Formatデコーダ、B’-Formatデコーダ、デコーダワーピングをもつB-Formatデコーダ、およびデコーダワーピングをもつB’-Formatデコーダの効果を示している。この例では、逆位相信号は、選択したバーチャル源軌跡によってより優れている。上述の例に関して、デコーダワーピング要素Dはゼロにセットされ、逆位相成分を全て取り除く。
グラフ表現を明らかにするために、ここでは正のDC電圧をバーチャルの源として使用した2つの例を記載する。しかしながら実際には正弦波および複雑な波面(実際のオーディオ信号)が使用される。デコーダアルゴリズムは複雑な波面で試験され、正確な動作を確かめた。
空間形成された最終的なアビータ(仲裁者)は聞き手である。オーディオサウンドの効果は前方右から前方左への軌跡をもつB-Format信号へコード化され、次に上述の同じ4つのでコーディングアルゴリズムを使用してデコードされた。非公式のリスニング試験をビジョンドームで行い、次のリスニング位置で聞き手によって続く観察を行った:
1.スイートスポットにおいて
・B-Format
移動する音源の知覚を与えるためにスピーカ信号を正確に結合した。しかしながらリスニング環境の幾何学的形状および音響特性のために、サウンドは線形の軌跡をもつリスニング空間を横切って移動することは考えられなかった。
・B’-Format
B-Formatの例のように、個々の音場を正確に再構成して、移動する音源の知覚を与えるようにした。バーチャルの音源は、非線形ワーピングの使用によって知覚された線形の軌跡をもった。
・デコーダワーピングをもつB-Format
サウンドは非線形の軌跡を伴ってリスニング領域を横切って移動すると考えられた。この知覚はB-Formatの例の知覚と類似していた。
・デコーダワーピングをもつB’-Format
サウンドは線形の軌跡を伴ってリスニング領域を横切って移動すると考えられた。この知覚はB’-Format知覚の例と類似していた。
2.前方左または前方右のスピーカへの接近(図4の位置1および4)
・B-Format
バーチャルの音源の位置は最も近いスピーカに対して“崩壊を与える(collapse)”し―このスピーカの寄与は聴覚のランドスケープ(aural landscape)を支配しており、軌跡の感覚はほとんどまたは全く得られない
・B’-Format
バーチャルの音源の位置は最も近いスピーカに対して“崩壊を与える”―このスピーカの寄与は聴覚のランドスケープを支配しており、全体的な音場は、後方の逆位相のスピーカの供給から何も寄与しないからであり、軌跡の感覚がわずかに残る。
・デコーダワーピングをもつB-Format
移動の感覚は向上するが、知覚される軌跡は非線形である。
・デコーダワーピングをもつB’-Format
サウンドが1つの位置から別の位置への移動が、ほぼ線形の知覚された軌跡経路を伴う。
3.前方左と後方左のスピーカ(4および3)間の中途または前方右と後方右のスピーカ(1および2)間の中途
・B-Format
2つの別個の軌跡が知覚される:(スピーカ4および1から)同位相信号が右から左へ移動し、逆位相信号が左から右へ移動する。2つの別個の軌跡は混乱の原因となり、軌跡が全くないときよりも紛らわしくなる。
・B’-Format
この信号の知覚はB-Format信号の知覚と類似しているが、B-Format信号よりも類似の度合いは低く、2つの別々のバーチャル源の軌跡の感覚は少なくなる。
・デコーダワーピングをもつB-Format
1つのみの軌跡が観察されたが、軌跡は明らかに非線形であった。
・デコーダワーピングをもつB’-Format
ここでは1つの軌跡が観察され、この軌跡は知覚された軌跡の中でB’-Format信号よりも線形であった。非線形の歪みの度合いがより大きいと局所化がより明白になる。
4.後方左と後方右のスピーカ(3および2)の間
・B-Format
2つの主要なスピーカ源は後方のスピーカ(2および3)であるので、主要な音源は逆位相成分である。バーチャルの音源は、意図されていた方向と逆方向に移動すると考えられる。したがって、音源が浸漬環境内のビデオ源と結合されるときは危険であると推測される。サウンドおよび視界を反対方向に移動することは、明らかにモード相反という容認できない形式となる。
・B’-Format
観察された効果はB-Format信号と同じである。
・デコーダワーピングをもつB-Format
通路の軌跡は逆位相成分の除去により、非線形ではあるが、はっきりしている。
・デコーダワーピングをもつB’-Format
前方右のスピーカから前方左のスピーカへは、はっきりした線形の軌跡になる。
Claims (8)
- リスニング空間を定めるスピーカアレイから音場を生成する方法であって、スピーカの出力が結合して、バーチャルの音源空間の知覚を与え;該方法は、アレイ内の各スピーカについて、各スピーカの出力を制御するために各出力成分Pnを生成することを含み、該出力は入力信号内で運ばれるデータから得られ、該データは和参照信号W、およびバーチャルの音源によって生成されるときは異なる方向をもつサウンド成分を表わす方向性サウンド成分X、Y、(Z)を含み;該方法は、各スピーカについて、各成分Pnが同位相または逆位相で和参照信号Wに変化するか否かを知覚する段階と、前記信号が逆位相であるときはそれを修正する段階と、生成された修正成分を各スピーカへ供給する段階とを含む方法。
- 各方向性のサウンド成分が、各方向性サウンド成分の関数であるワーピング要素によって乗算されて、移動するバーチャルの音源が、リスニングフィールド内の任意の場所において聞き手によって知覚されるような滑らかな軌跡に続き、さらにリスニングフィールド内の任意の他の場所において知覚されるような滑らかな軌跡に続く請求項1記載の方法。
- ワーピング要素が、方向性成分の2乗以上の偶数冪である請求項2記載の方法。
- ワーピング要素が、方向性成分のシヌソイド関数である請求項2記載の方法。
- 音場を生成する装置であって:リスニング空間を定め、スピーカの出力を結合して、バーチャルの音源空間の知覚を与えるスピーカのアレイと;入力信号内を搬送されるデータを送信および処理する手段と;和参照信号Wとバーチャルの音源によって生成されるように異なる方向においてサウンドを示す方向情報要素X,Y,(Z)とを含むデータと;アレイ内の各スピーカの出力を制御する各出力成分Pnの前記データからの生成手段と;各スピーカに対して各成分Pnが和参照信号Wに対して同位相または逆位相で変化することを知覚する手段と;前記信号が逆位相のとき、それを修正する手段と、各スピーカに対して生成された修正成分を供給する手段とを含む装置。
- 各方向性成分の関数であるワーピング要素によって各方向性要素を乗算する手段をさらに含み、移動しているバーチャルの音源がリスニングフィールド内の任意の場所において聞き手によって知覚される平滑な軌跡に続き、リスニングフィールド内の他の場所において知覚される平滑な軌跡が続く請求項5記載の装置。
- ワーピング要素が方向性成分の2乗以上の偶数冪である請求項6記載の装置。
- ワーピング要素が方向性成分のシヌソイド関数である請求項6記載の装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP97304218 | 1997-06-17 | ||
EP97304218.7 | 1997-06-17 | ||
PCT/GB1998/001594 WO1998058523A1 (en) | 1997-06-17 | 1998-06-01 | Reproduction of spatialised audio |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2002505058A JP2002505058A (ja) | 2002-02-12 |
JP2002505058A5 JP2002505058A5 (ja) | 2005-12-22 |
JP4347422B2 true JP4347422B2 (ja) | 2009-10-21 |
Family
ID=8229380
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP50393099A Expired - Lifetime JP4347422B2 (ja) | 1997-06-17 | 1998-06-01 | 空間形成されたオーディオの再生 |
Country Status (6)
Country | Link |
---|---|
US (1) | US6694033B1 (ja) |
EP (1) | EP0990370B1 (ja) |
JP (1) | JP4347422B2 (ja) |
AU (1) | AU735333B2 (ja) |
DE (1) | DE69839212T2 (ja) |
WO (1) | WO1998058523A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102061094B1 (ko) * | 2012-03-06 | 2019-12-31 | 돌비 인터네셔널 에이비 | 고차 앰비소닉 오디오 신호의 재생 방법 및 장치 |
Families Citing this family (36)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE19906420B4 (de) * | 1999-02-16 | 2013-05-29 | Grundig Multimedia B.V. | Lautsprechereinheit |
AU7538000A (en) * | 1999-09-29 | 2001-04-30 | 1... Limited | Method and apparatus to direct sound |
AUPQ942400A0 (en) * | 2000-08-15 | 2000-09-07 | Lake Technology Limited | Cinema audio processing system |
US7184559B2 (en) * | 2001-02-23 | 2007-02-27 | Hewlett-Packard Development Company, L.P. | System and method for audio telepresence |
US7277554B2 (en) | 2001-08-08 | 2007-10-02 | Gn Resound North America Corporation | Dynamic range compression using digital frequency warping |
DE10248754B4 (de) * | 2002-10-18 | 2004-11-18 | Siemens Ag | Verfahren zum Vortäuschen einer Bewegung mittels einer akustischen Wiedergabeeinrichtung und Schallwiedergabeanordnung dafür |
JP2004144912A (ja) * | 2002-10-23 | 2004-05-20 | Matsushita Electric Ind Co Ltd | 音声情報変換方法、音声情報変換プログラム、および音声情報変換装置 |
JP2004151229A (ja) * | 2002-10-29 | 2004-05-27 | Matsushita Electric Ind Co Ltd | 音声情報変換方法、映像・音声フォーマット、エンコーダ、音声情報変換プログラム、および音声情報変換装置 |
AU2003298146B2 (en) * | 2002-12-02 | 2009-04-09 | Interdigital Ce Patent Holdings | Method for describing the composition of audio signals |
FI118247B (fi) | 2003-02-26 | 2007-08-31 | Fraunhofer Ges Forschung | Menetelmä luonnollisen tai modifioidun tilavaikutelman aikaansaamiseksi monikanavakuuntelussa |
US7106411B2 (en) * | 2004-05-05 | 2006-09-12 | Imax Corporation | Conversion of cinema theatre to a super cinema theatre |
WO2005117483A1 (en) * | 2004-05-25 | 2005-12-08 | Huonlabs Pty Ltd | Audio apparatus and method |
US7720212B1 (en) * | 2004-07-29 | 2010-05-18 | Hewlett-Packard Development Company, L.P. | Spatial audio conferencing system |
JP2006086921A (ja) | 2004-09-17 | 2006-03-30 | Sony Corp | オーディオ信号の再生方法およびその再生装置 |
JP4625671B2 (ja) | 2004-10-12 | 2011-02-02 | ソニー株式会社 | オーディオ信号の再生方法およびその再生装置 |
JP2006115396A (ja) * | 2004-10-18 | 2006-04-27 | Sony Corp | オーディオ信号の再生方法およびその再生装置 |
US7928311B2 (en) * | 2004-12-01 | 2011-04-19 | Creative Technology Ltd | System and method for forming and rendering 3D MIDI messages |
US8290167B2 (en) * | 2007-03-21 | 2012-10-16 | Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. | Method and apparatus for conversion between multi-channel audio formats |
US9015051B2 (en) * | 2007-03-21 | 2015-04-21 | Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. | Reconstruction of audio channels with direction parameters indicating direction of origin |
US20080232601A1 (en) * | 2007-03-21 | 2008-09-25 | Ville Pulkki | Method and apparatus for enhancement of audio reconstruction |
US8908873B2 (en) * | 2007-03-21 | 2014-12-09 | Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. | Method and apparatus for conversion between multi-channel audio formats |
US8351589B2 (en) * | 2009-06-16 | 2013-01-08 | Microsoft Corporation | Spatial audio for audio conferencing |
CA2941646C (en) | 2009-10-05 | 2019-09-10 | Harman International Industries, Incorporated | Multichannel audio system having audio channel compensation |
DE102010052097A1 (de) | 2010-11-20 | 2011-06-22 | Daimler AG, 70327 | Kraftfahrzeug mit einer Schallwiedergabevorrichtung |
EP2541547A1 (en) * | 2011-06-30 | 2013-01-02 | Thomson Licensing | Method and apparatus for changing the relative positions of sound objects contained within a higher-order ambisonics representation |
US10051400B2 (en) | 2012-03-23 | 2018-08-14 | Dolby Laboratories Licensing Corporation | System and method of speaker cluster design and rendering |
US9565314B2 (en) | 2012-09-27 | 2017-02-07 | Dolby Laboratories Licensing Corporation | Spatial multiplexing in a soundfield teleconferencing system |
US9892743B2 (en) * | 2012-12-27 | 2018-02-13 | Avaya Inc. | Security surveillance via three-dimensional audio space presentation |
US10203839B2 (en) * | 2012-12-27 | 2019-02-12 | Avaya Inc. | Three-dimensional generalized space |
US10149058B2 (en) | 2013-03-15 | 2018-12-04 | Richard O'Polka | Portable sound system |
WO2014144968A1 (en) | 2013-03-15 | 2014-09-18 | O'polka Richard | Portable sound system |
USD740784S1 (en) | 2014-03-14 | 2015-10-13 | Richard O'Polka | Portable sound device |
KR102230645B1 (ko) * | 2016-09-14 | 2021-03-19 | 매직 립, 인코포레이티드 | 공간화 오디오를 갖는 가상 현실, 증강 현실 및 혼합 현실 시스템들 |
US10721578B2 (en) | 2017-01-06 | 2020-07-21 | Microsoft Technology Licensing, Llc | Spatial audio warp compensator |
US10182303B1 (en) | 2017-07-12 | 2019-01-15 | Google Llc | Ambisonics sound field navigation using directional decomposition and path distance estimation |
CN115715470A (zh) | 2019-12-30 | 2023-02-24 | 卡姆希尔公司 | 用于提供空间化声场的方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4392019A (en) * | 1980-12-19 | 1983-07-05 | Independent Broadcasting Authority | Surround sound system |
US5172415A (en) * | 1990-06-08 | 1992-12-15 | Fosgate James W | Surround processor |
US5199075A (en) * | 1991-11-14 | 1993-03-30 | Fosgate James W | Surround sound loudspeakers and processor |
US5757927A (en) * | 1992-03-02 | 1998-05-26 | Trifield Productions Ltd. | Surround sound apparatus |
US5533129A (en) * | 1994-08-24 | 1996-07-02 | Gefvert; Herbert I. | Multi-dimensional sound reproduction system |
EP0905933A3 (de) * | 1997-09-24 | 2004-03-24 | STUDER Professional Audio AG | Verfahren und Vorrichtung zum Mischen von Tonsignalen |
-
1998
- 1998-06-01 AU AU77783/98A patent/AU735333B2/en not_active Ceased
- 1998-06-01 DE DE69839212T patent/DE69839212T2/de not_active Expired - Lifetime
- 1998-06-01 EP EP98925802A patent/EP0990370B1/en not_active Expired - Lifetime
- 1998-06-01 JP JP50393099A patent/JP4347422B2/ja not_active Expired - Lifetime
- 1998-06-01 US US09/101,382 patent/US6694033B1/en not_active Expired - Lifetime
- 1998-06-01 WO PCT/GB1998/001594 patent/WO1998058523A1/en active IP Right Grant
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102061094B1 (ko) * | 2012-03-06 | 2019-12-31 | 돌비 인터네셔널 에이비 | 고차 앰비소닉 오디오 신호의 재생 방법 및 장치 |
KR20200132818A (ko) * | 2012-03-06 | 2020-11-25 | 돌비 인터네셔널 에이비 | 고차 앰비소닉 오디오 신호의 재생 방법 및 장치 |
KR102248861B1 (ko) | 2012-03-06 | 2021-05-06 | 돌비 인터네셔널 에이비 | 고차 앰비소닉 오디오 신호의 재생 방법 및 장치 |
KR20210049771A (ko) * | 2012-03-06 | 2021-05-06 | 돌비 인터네셔널 에이비 | 고차 앰비소닉 오디오 신호의 재생 방법 및 장치 |
KR102428816B1 (ko) | 2012-03-06 | 2022-08-04 | 돌비 인터네셔널 에이비 | 고차 앰비소닉 오디오 신호의 재생 방법 및 장치 |
KR20220112723A (ko) * | 2012-03-06 | 2022-08-11 | 돌비 인터네셔널 에이비 | 고차 앰비소닉 오디오 신호의 재생 방법 및 장치 |
KR102568140B1 (ko) | 2012-03-06 | 2023-08-21 | 돌비 인터네셔널 에이비 | 고차 앰비소닉 오디오 신호의 재생 방법 및 장치 |
US11895482B2 (en) | 2012-03-06 | 2024-02-06 | Dolby Laboratories Licensing Corporation | Method and apparatus for screen related adaptation of a Higher-Order Ambisonics audio signal |
Also Published As
Publication number | Publication date |
---|---|
EP0990370A1 (en) | 2000-04-05 |
EP0990370B1 (en) | 2008-03-05 |
DE69839212D1 (de) | 2008-04-17 |
AU7778398A (en) | 1999-01-04 |
DE69839212T2 (de) | 2009-03-19 |
AU735333B2 (en) | 2001-07-05 |
WO1998058523A1 (en) | 1998-12-23 |
US6694033B1 (en) | 2004-02-17 |
JP2002505058A (ja) | 2002-02-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4347422B2 (ja) | 空間形成されたオーディオの再生 | |
Kyriakakis | Fundamental and technological limitations of immersive audio systems | |
Hacihabiboglu et al. | Perceptual spatial audio recording, simulation, and rendering: An overview of spatial-audio techniques based on psychoacoustics | |
Jot | Real-time spatial processing of sounds for music, multimedia and interactive human-computer interfaces | |
EP2891336B1 (en) | Virtual rendering of object-based audio | |
Theile et al. | Wave field synthesis: A promising spatial audio rendering concept | |
CN106714074B (zh) | 用于回放更高阶立体混响音频信号的方法和设备 | |
MXPA05004091A (es) | Captura y reproduccion de sonido dinamico biauricular. | |
JP2004526355A (ja) | オーディオチャンネル変換方法 | |
WO2009046460A2 (en) | Phase-amplitude 3-d stereo encoder and decoder | |
JP6404354B2 (ja) | 多くの拡声器信号を生成するための装置及び方法、並びにコンピュータ・プログラム | |
Bates | The composition and performance of spatial music | |
EP3569000A1 (en) | Dynamic equalization for cross-talk cancellation | |
Jot et al. | Binaural simulation of complex acoustic scenes for interactive audio | |
Malham | Approaches to spatialisation | |
Kapralos et al. | Auditory perception and spatial (3d) auditory systems | |
WO2023083876A2 (en) | Renderers, decoders, encoders, methods and bitstreams using spatially extended sound sources | |
Hollier et al. | Spatial audio technology for telepresence | |
Andre et al. | Adding 3D sound to 3D cinema: Identification and evaluation of different reproduction techniques | |
Pelzer et al. | 3D reproduction of room auralizations by combining intensity panning, crosstalk cancellation and Ambisonics | |
Travis | Virtual reality perspective on headphone audio | |
Kang et al. | Realistic audio teleconferencing using binaural and auralization techniques | |
Hawksford | Scalable multichannel coding with HRTF enhancement for DVD and virtual sound systems | |
Tarzan et al. | Assessment of sound spatialisation algorithms for sonic rendering with headphones | |
Kapralos | Auditory perception and virtual environments |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050526 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050526 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080401 |
|
A524 | Written submission of copy of amendment under section 19 (pct) |
Free format text: JAPANESE INTERMEDIATE CODE: A524 Effective date: 20080512 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090616 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090716 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120724 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130724 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |