JP4426159B2 - ミキシング装置 - Google Patents

ミキシング装置 Download PDF

Info

Publication number
JP4426159B2
JP4426159B2 JP2002249093A JP2002249093A JP4426159B2 JP 4426159 B2 JP4426159 B2 JP 4426159B2 JP 2002249093 A JP2002249093 A JP 2002249093A JP 2002249093 A JP2002249093 A JP 2002249093A JP 4426159 B2 JP4426159 B2 JP 4426159B2
Authority
JP
Japan
Prior art keywords
sound image
image localization
sound
input
localization control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002249093A
Other languages
English (en)
Other versions
JP2004088608A (ja
Inventor
幸司 谷高
知光 浦井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yamaha Corp
Original Assignee
Yamaha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yamaha Corp filed Critical Yamaha Corp
Priority to JP2002249093A priority Critical patent/JP4426159B2/ja
Publication of JP2004088608A publication Critical patent/JP2004088608A/ja
Application granted granted Critical
Publication of JP4426159B2 publication Critical patent/JP4426159B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Stereophonic System (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、オーディオ信号のミキシングを行うミキシング装置に関する。
【0002】
【従来の技術】
周知の通り、ミキサは、複数の音源から得られるオーディオ信号をミキシングするための手段である。現在では、幅広い用途にミキサが使用されており、また、種々の要求に対応し、様々なタイプのミキサが提供されている。
【0003】
図17は、この種のミキサのうち、いわゆるサイレント楽器を利用して合奏(アンサンブル演奏)を行う際などに利用されるミキサを例示するものである。このミキサによれば、最大nチャネルまでの楽器の演奏音等のオーディオ信号のミキシングを行い、ミックスダウンされたL、R2チャネルからなるステレオ形式のオーディオ信号をステレオヘッドホン出力端子から出力することができる。
サイレント楽器を利用してアンサンブル演奏を行う各演奏者は、該ミキサの各ステレオヘッドホン出力端子にそれぞれヘッドホンを接続し、種々の楽曲を演奏することにより、このミキサによって生成されるアンサンブル演奏音をヘッドホン経由で直接確認することができる。
【0004】
【発明が解決しようとする課題】
各演奏者は上述したように全体としてアンサンブル演奏が思い通りに行われているか否かを確認することができるのであるが、ヘッドホンを介して受聴するアンサンブル演奏音の音像位置(すなわち、アンサンブル演奏音の仮想発音位置)と各演奏者の位置が一致しないために違和感があった。詳述すると、例えば図18に示すようにサイレント楽器Aを演奏する第1演奏者がホール中央、サイレント楽器Bを演奏する第2演奏者がホール右前方(第1演奏者からみて右前方)、サイレント楽器Cを演奏する第3演奏者がホール左前方(第1演奏者からみて左前方)の位置で演奏を行う場合、ミキサから各ヘッドホンに出力される各サイレント楽器A、B、Cの演奏音の音像a、b、cは、各演奏者に対して全て正面前方等に定位される。この結果、例えば第1演奏者は、右前方或いは左前方に第2演奏者、第3演奏者がいるにもかかわらず、第2及び第3演奏者が演奏するサイレント楽器B、Cの演奏音が正面前方から聞こえてくるといった違和感を生じ、これによりアンサンブル演奏の臨場感に欠けるといった問題が生じていた。
【0005】
本発明は、以上説明した事情を鑑みてなされたものであり、サイレント楽器等を利用してアンサンブル演奏等を行う場合であっても、各演奏者が臨場感に溢れたアンサンブル演奏音を受聴することができるミキシング装置等を提供することを目的とする。
【0006】
【課題を解決するための手段】
以上説明した課題を解決するため、本発明は、複数の演奏者のそれぞれの位置に設けられ、各演奏者の演奏操作に応じたオーディオ信号を生成する複数の電子楽器において生成される各オーディオ信号を入力する複数の入力チャネルと、前記複数の入力チャネルを介して入力される複数チャネルのオーディオ信号のそれぞれの音像を所定の位置に定位させるとともに、前記複数の電子楽器のそれぞれの位置で集音するマイクロホンを介して入力されるオーディオ信号のそれぞれの音像を所定の位置に定位させる複数の音像定位制御手段と、前記各音像定位制御手段に対応して設けられ、前記音像定位制御手段による信号処理後の各オーディオ信号をミキシングする複数のミキシング手段と、前記各ミキシング手段によってミキシングされた後のオーディオ信号を、前記各演奏者に対応した放音手段に出力する複数の出力チャネルとを備えたミキシング装置であって、前記各音像定位制御手段は、前記複数の入力チャネルを介して入力される複数チャネルのオーディオ信号及び前記各マイクロホンを介して入力される複数のオーディオ信号のそれぞれに対し、各音像定位制御手段に設定される信号処理パラメータに基づく信号処理を施し、前記複数の電子楽器の位置を示す位置情報をそれぞれ入力する入力手段と、前記複数の電子楽器の位置を示す位置情報をそれぞれ入力する入力手段と、前記複数の電子楽器のそれぞれについて、その電子楽器の位置を基準とした他の電子楽器の相対的な位置関係を前記入力手段によって入力される位置情報から求め、求めた位置関係と各信号処理パラメータに対応する複数のオーディオ信号の音像定位位置の相対的な位置関係とが一致するように、前記音像定位制御手段毎に設定すべき複数の信号処理パラメータをそれぞれ求め、求めた複数の信号処理パラメータをそれぞれ各出力チャネルに対応する音像定位制御手段に設定するパラメータ設定手段とを具備することを特徴とする。
【0007】
かかる構成によれば、複数の入力チャネルを介して入力される複数のオーディオ信号生成装置(例えば、サイレント楽器等)において生成される各オーディオ信号の音像定位置は、該複数のオーディオ信号生成装置の相対的な位置関係によって決定される。従って、例えば図2に示すようにサイレント楽器Aを演奏する第1演奏者がホール中央、サイレント楽器Bを演奏する第2演奏者がホール右前方、サイレント楽器Cを演奏する第3演奏者がホール左前方に立ってアンサンブル演奏を行う場合、図3のAに示すように第1演奏者に対するサイレント楽器A、B、Cの演奏音の音像a、b、cは、それぞれ第1演奏者からみて正面前、右前方、左前方にそれぞれ定位される。一方、図3のBに示すように第2演奏者に対するサイレント楽器A、B、Cの演奏音の音像a、b、cは、それぞれ第2演奏者からみて左、正面前、左前方にそれぞれ定位され、第3演奏者に対するサイレント楽器A、B、Cの演奏音の音像は、図3のCに示すように第3演奏者からみて右、正面前、右前方にそれぞれ定位される。この結果、各演奏者は、違和感なく、臨場感あるアンサンブル演奏を行うことが可能となる。
【0008】
【発明の実施の形態】
A.本実施形態
(1)実施形態の構成
図1は、本実施形態に係るサイレントアンサンブル演奏システムSASの構成を示す図である。サイレントアンサンブル演奏システムSASは、複数のオーディオ信号生成装置としてのサイレント楽器SM、各サイレント楽器SMにおいて生成される各オーディオ信号をミキシングし、ミキシングした後のオーディオ信号を各演奏者に対応したヘッドホンHPに出力するミキシング装置MX等によって構成されている。なお、図1では、図面が煩雑になるのを防ぐため、サイレント楽器SMを1台のみ図示している。
【0009】
サイレント楽器SMは、例えば電子バイオリン、電子トランペット、電子ピアノ等であり、演奏者による演奏操作を検出するセンサと、センサの検出内容に応じてオーディオ信号を生成する音源回路(いずれも図示略)とを具備している。サイレント楽器SMを利用してアンサンブル演奏を行う各演奏者は、アンサンブル演奏により奏でられる演奏音(自己の演奏音を含む全演奏者の演奏音;以下、アンサンブル演奏音)を自己の頭部に装着したヘッドホンHPを通じて受聴可能となっている。
【0010】
ミキシング装置MXは、n個の入力チャネルと各入力チャネルに対応したn個の出力チャネルを有している。なお、図1では、説明の理解を容易にするため、入力チャネルと出力チャネルが過不足なく1対1に対応している場合を例示しているが、例えば入力チャネルと出力チャネルの一部のみが1対1に対応しているものにも適用可能である。
【0011】
また、このミキシング装置MXには、各チャネル毎に、入力チャネルを介して入力される最大nチャネルのオーディオ信号のそれぞれに対し、音像を所定の位置に定位させるための信号処理(後述)を施す音像定位制御手段100と、音像定位制御手段100から出力される各オーディオ信号のミキシングを行うミキシング手段200等が設けられている。
ここで、本実施形態に係るミキシング装置MXには、モノラル形式のオーディオ信号が入力される。音像定位制御手段100は、各入力チャネルを介して入力されるモノラル形式のオーディオ信号をL、Rの2チャネルからなるステレオ形式のオーディオ信号に変換し、変換後のオーディオ信号に対して上記信号処理を施す。このように、本実施形態では、モノラル形式のオーディオ信号が入力される場合を例に説明を行うが、例えば入力されるオーディオ信号の全部若しくは一部がL、Rの2チャネルからなるステレオ形式のオーディオ信号である場合にも適用可能である。
【0012】
音像定位制御手段100から出力される各オーディオ信号をミキシングするミキシング手段200は、ミキシング結果を各出力チャネルを介してステレオ形式のオーディオ信号として各ヘッドホンHPに出力される。この結果、サイレント楽器SMを利用してアンサンブル演奏を行う各演奏者は、頭部に装着したヘッドホンHPを介してアンサンブル演奏音を受聴することが可能となる。ここで、本発明は、この各演奏者によって受聴されるアンサンブル演奏音の音像が他の演奏者との相対的な位置関係に基づいて、各演奏者毎に異なる位置に定位される点に特徴がある。
【0013】
一例を挙げて説明すると、例えば図2(前掲図18に対応)に示すようにサイレント楽器Aを演奏する第1演奏者がホール中央、サイレント楽器Bを演奏する第2演奏者がホール右前方(第1演奏者からみて右前方)、サイレント楽器Cを演奏する第3演奏者がホール左前方(第1演奏者からみて左前方)に立ってアンサンブル演奏を行う場合、図3のAに示すように第1演奏者に対するサイレント楽器A、B、Cの演奏音の音像a、b、cは、それぞれ第1演奏者からみて正面前、右前方、左前方にそれぞれ定位される。一方、図3のBに示すように第2演奏者に対するサイレント楽器A、B、Cの演奏音の音像a、b、cは、それぞれ第2演奏者からみて左、正面前、左前方にそれぞれ定位され、第3演奏者に対するサイレント楽器A、B、Cの演奏音の音像は、図3のCに示すように第3演奏者からみて右、正面前、右前方にそれぞれ定位される。
【0014】
このように、各演奏者によって受聴されるアンサンブル演奏音の音像が、他の演奏者との相対的な位置関係に基づいて、各演奏者毎に異なる位置に定位されるように制御することで、各演奏者は、違和感(従来技術の項参照)なく、臨場感あるアンサンブル演奏を行うことができる。
以下、図1、図4等を参照しながらミキシング装置MXの具体的構成について説明する。
【0015】
図1において、モノラル入力端子10−k(1≦k≦n)は、それぞれ第k入力チャネルに対応する入力端子であり、各々モノラル形式のオーディオ信号が入力される。モノラル入力端子10−kから入力されたモノラル形式のオーディオ信号は、各々チャネル毎にn分岐され、音像定位制御部110を構成する第1〜第n音像定位制御手段100にそれぞれ供給される。
【0016】
図4は、第1音像定位制御手段100及び第1ミキシング手段200の構成を示す図である。なお、他の音像定位制御手段100及びミキシング手段200の構成は、第1音像定位制御手段100及び第1ミキシング手段200と同様であるため、説明を割愛する。
第1音像定位制御手段100は、各モノラル入力端子10−kから入力されたモノラル形式の信号を各々増幅し、L、R2チャネルからなるステレオ形式のオーディオ信号に変換するアンプ20−kと、アンプ20−kから出力されるステレオ形式のオーディオ信号の音像を所望の位置に定位させるため、該ステレオ形式のオーディオ信号に所定のフィルタ処理(以下、音像定位処理という)を施すFIRフィルタ30−kとを具備している。
【0017】
ここで、FIRフィルタ30−kは、各々Lチャネルのオーディオ信号にフィルタ処理を施すFIRフィルタ30L−kと、Rチャネルのオーディオ信号にフィルタ処理を施すFIRフィルタ30R−kにより構成されている。FIRフィルタ30L−kは、オーディオ信号に対応した楽音が音像定位方向から左耳に聞こえてくる場合の響きを頭部音響伝達関数(Head Related Transfer Function;HRTF)によりシミュレートし、FIRフィルタ30R−kは、オーディオ信号に対応した楽音が音像定位方向から右耳に聞こえてくる場合の響きを頭部音響伝達関数によりシミュレートする。なお、各FIRフィルタ30L−k、30R−kに与えられるフィルタ係数(信号処理パラメータ)は、情報処理部300において生成されるようになっている(図1参照;詳細は後述)。
【0018】
第1ミキシング手段200は、第1音像定位制御手段100から音像定位処理の施されたnチャネルのステレオ形式のオーディオ信号を受け取ると、これらをミキシングし、ミキシングしたステレオ形式のオーディオ信号のうちLチャネルのオーディオ信号をヘッドホン出力端子40L−1ヘ出力し、Rチャネルのオーディオ信号をヘッドホン出力端子40R−1へ出力する。なお、各ヘッドホン出力端子40には、対応する演奏者が使用するヘッドホンHPが接続される。具体的には、図1に示すようにヘッドホン出力端子40L−1、40R−1には、第1演奏者が使用するヘッドホンHPが接続され、ヘッドホン出力端子40L−2、40R−2には、第2演奏者が使用するヘッドホンHPが接続され、・・・、ヘッドホン出力端子40L−n、40R−nには、第n演奏者が使用するヘッドホンHPが接続される。
【0019】
ここで、上記フィルタ係数を生成する情報処理部300及びフィルタ係数を生成する際に必要となる各種の情報を入力する情報入力部400等について図1を参照しながら説明する。
情報入力部400は、例えばマウス、キーボード等の操作子によって構成され、該操作子を適宜操作することにより、演奏環境設定(例えば、アンサンブル演奏を行うホールの形状、大きさ等の設定)や、演奏者が使用するサイレント楽器SMの種類(例えば、電子バイオリン、電子トランペット)、演奏者の演奏位置・方向(例えば、ホール中央)など、様々な情報を入力することが可能となっている。かかる情報入力部400を介して入力された情報は、CPU、ROM、RAM等により構成されたミキシング装置MXの制御部(図示略)による制御の下、液晶パネル等の表示部450に表示されると共に、情報処理部300に供給される。
【0020】
ここで、図5〜図7は、情報入力部400による入力操作を説明するための図である。なお、以下では、第1〜第3演奏者が、それぞれサイレント楽器A、サイレント楽器B、サイレント楽器Cを利用してアンサンブル演奏を行う場合を例に説明する。
上記演奏者のいずれかの演奏者によって、ミキシング装置MXに電源が投入され、所定の入力操作が行われると、表示部450には演奏環境設定画面が表示される(図5に示すA参照)。演奏者は、該演奏環境設定画面を確認すると、まず情報入力部400のマウス等を操作して、ホールの種類を選択する。例えば、図5のAに示すホールBを選択する場合、演奏者はマウス等を利用して画面左欄R1に表示されている複数のホールを示すアイコンの中からホールBに対応するアイコンをクリックする。かかる操作が行われると、画面右欄R2には、演奏者によって選択されたホールの外形が表示され、画面左欄R1には、複数のサイレント楽器を示すアイコンが表示される(図5に示すB参照)。
【0021】
演奏者は、画面左欄R1に表示されている複数のサイレント楽器を示すアイコンの中からアンサンブル演奏時に使用するサイレント楽器に対応するアイコンを選択し、ドラッグアンドドロップ操作により、選択したアイコンをホールBの所望の位置へ移動させる(図6に示すC参照)。なお、図6に示すCは、アンサンブル演奏時に使用するサイレント楽器としてサイレント楽器Aが選択され、該サイレント楽器AがホールBの中央で演奏されることを示している。このように、サイレント楽器Aに対応するアイコンがホールBの所定の箇所に配置されると、該アイコンに演奏方向を示す記号(矢印、三角印などでも良い)Yが表示される(図6に示すD参照)。演奏者は、マウス等を利用してこの矢印Yを適宜回転させ、演奏方向を決定する。演奏者は、かかる操作を繰り返し実行することにより、アンサンブル演奏時に使用する全てのサイレント楽器の選択、配置等を行う。
【0022】
この結果、表示部450には、演奏者によって選択、配置された全てのサイレント楽器A、B、Cが表示される(図7参照)。演奏者は、以上説明した一連の操作を終了すると、キーボード等を利用して操作を終了すべき旨の入力を行う。かかる入力が行われると、情報入力部400は、演奏者によって選択されたホールに関する情報(以下、ホール特性情報)や、演奏者によって選択、配置されたサイレント楽器SMに関する情報(楽器位置方向情報)等を情報処理部300に供給する。ここで、ホール特性情報には、例えば選択されたホールの形状、寸法等を示す情報が含まれ、楽器位置方向情報には、例えば選択されたサイレント楽器の種類及び該サイレント楽器が接続されるチャネルを示す情報や、楽器の位置を示す該楽器の中心位置の座標(x1、y1)、該楽器の向きを示す矢印Yの先端位置の座標(x2、y2)等が含まれる(図8参照)。
【0023】
なお、楽器の向きと演奏者の向きが一致している場合には、上記のように楽器の向きを示す矢印Yの先端位置の座標(x2、y2)を求めるだけでも良いが、例えば電子バイオリンを演奏するときなど、楽器の向きと演奏者の向きが一致しない場合もある(電子バイオリンを演奏するときの楽器の向きは、演奏者に対して左前方になる)。かかる事情を鑑みて、例えば図9に示すように演奏者の向きを示す一点鎖線矢印Zを表示部450に表示し、マウス等を利用してこの矢印Zを適宜回転させることにより演奏者の方向を決定するようにしても良い。この場合、上述した楽器位置方向情報には、楽器の位置を示す該楽器の中心位置の座標(x1、y1)、該楽器の向きを示す矢印Yの先端位置の座標(x2、y2)のほか、演奏者の向きを示す一点鎖線矢印Zの先端位置の座標(x3、y3)等が含まれ、かかる楽器位置方向情報に基づいて演奏者の向き、楽器の位置、向き等が決定される。
【0024】
また、各サイレント楽器に対するチャネルの割り当てについては、例えばサイレント楽器の選択順序に従って自動で割り当てるように設定すれば良い。一例を挙げて説明すると、サイレント楽器A→サイレント楽器B→サイレント楽器Cの順番で選択された場合、サイレント楽器Aには第1チャネルを割り当て、サイレント楽器Bには第2チャネルを割り当て、サイレント楽器Cには第3チャネルを割り当てる。
【0025】
さて、情報処理部300は、これらホール特性情報及び楽器位置方向情報を情報入力部400から受け取ると、図示せぬROM等に格納されているフィルタ係数算出プログラムを起動し、音像定位制御手段毎に各FIRフィルタ30に与えるべきフィルタ係数を求めていく。
上述した場合を例に説明すると、情報処理部300は、まず第1音像定位制御手段100を構成する各FIRフィルタ30に供給すべき複数のフィルタ係数(以下、第1フィルタ係数群)を求め、次に第2音像定位制御手段100を構成する各FIRフィルタ30に供給すべき複数のフィルタ係数(以下、第2フィルタ係数群)を求め、最後に第3音像定位制御手段100を構成する各FIRフィルタ30に供給すべき複数のフィルタ係数(以下、第3フィルタ係数群)を求める。そして、情報処理部300は、求めた各フィルタ係数群を、それぞれ対応する音像定位制御手段100へ供給する。
【0026】
前述したように、この情報処理部300によって生成される各フィルタ係数群は、音像定位制御手段毎に異なっている。すなわち、第1フィルタ係数群は、サイレント楽器Aを演奏する第1演奏者からみたときのサイレント楽器A、B、Cの音像定位位置を決定するフィルタ係数群であり、第2フィルタ係数群は、サイレント楽器Bを演奏する第2演奏者からみたときのサイレント楽器A、B、Cの音像定位位置を決定するフィルタ係数群であり、第3フィルタ係数群は、サイレント楽器Cを演奏する第3演奏者からみたときのサイレント楽器A、B、Cの音像定位位置を決定するフィルタ係数群である。
【0027】
各音像定位制御手段100は、情報処理部300からフィルタ係数群が与えられると、該フィルタ係数群に含まれる複数のフィルタ係数を、対応するFIRフィルタ30に順次供給する。各FIRフィルタ30は、与えられるフィルタ係数を利用して、順次入力されるオーディオ信号に音像定位制御処理を施す。音像定位制御処理の施されたオーディオ信号は、対応するミキシング手段200によってミキシングされ、ミキシング後のオーディオ信号が各演奏者の頭部に装着されたヘッドホンHPに出力される。
【0028】
この結果、例えばヘッドホン出力端子40L−1、40L−1に接続されたヘッドホンHPを装着してサイレント楽器Aを演奏する第1演奏者は、自己の演奏音(すなわち、サイレント楽器Aの演奏音)の音像が正面前方に定位され、サイレント楽器B及びサイレント楽器Cの演奏音の音像がそれぞれ右前方、左前方に定位されていることを認識する(図3に示すA参照)。一方、ヘッドホン出力端子40L−2、40R−2に接続されたヘッドホンHPを装着してサイレント楽器Bを演奏する第2演奏者は、自己の演奏音(すなわち、サイレント楽器Bの演奏音)の音像が正面前方に定位され、サイレント楽器A及びサイレント楽器Cの演奏音の音像がそれぞれ左、左前方に定位されていることを認識する(図3に示すB参照)。さらに、ヘッドホン出力端子40L−3、40R−3に接続されたヘッドホンHPを装着してサイレント楽器Cを演奏する第3演奏者は、自己の演奏音(すなわち、サイレント楽器Cの演奏音)の音像が正面前方に定位され、サイレント楽器A及びサイレント楽器Bの演奏音の音像がそれぞれ右、右前方に定位されていることを認識する(図3に示すC参照)。
【0029】
以上の説明から明らかなように、本実施形態に係るサイレントアンサンブル演奏システムSASによれば、各演奏者によって受聴されるアンサンブル演奏音の音像が、他の演奏者との相対的な位置関係に基づいて、各演奏者毎に異なる位置に定位されるように制御されるため、各演奏者は、違和感(従来技術の項参照)なく、臨場感あるアンサンブル演奏を行うことができる。
【0030】
なお、上述した本実施形態では、実際に自然楽器を利用して演奏したときの臨場感を得るべく、第1演奏者がヘッドホン出力端子40L−1、40L−1に接続されたヘッドホンHPを装着し、第2演奏者がヘッドホン出力端子40L−2、40R−2に接続されたヘッドホンHPを装着し、第3演奏者がヘッドホン出力端子40L−3、40R−3に接続されたヘッドホンHPを装着した場合を例に説明したが、例えばアンサンブル演奏の演奏音が他の演奏者にどのように聞こえているのか確認したい場合もある。かかる場合を想定し、例えば各ミキシング手段200の後段に出力切り換えスイッチを設け、自己のヘッドホンHPに供給されるオーディオ信号のチャネルを切り換える(例えば、第2ミキシング手段200から出力されるオーディオ信号をヘッドホン出力端子40L−1、40R−1に出力する等)ようにしても良い。
【0031】
また、上述した本実施形態では、3人の演奏者がサイレント楽器SMを利用してアンサンブル演奏を行う場合を例に説明したが、1人の演奏者がサイレント楽器Aを利用して個人練習する場合にも適用可能である。例えば、図7に示すようにサイレント楽器A、B、Cを配置し、第1演奏者がサイレント楽器Aのみを利用して個人練習する場合、サイレント楽器B及びサイレント楽器Cに対応する演奏音を図示せぬオーディオデータ再生装置(オーディオ信号生成装置)を利用して再生する。このオーディオデータ再生装置から出力される各オーディオ信号をモノラル入力端子10−2、10−3から入力することにより、上記と同様、第1演奏者はヘッドホンHPを介して自己の演奏音(すなわち、サイレント楽器Aの演奏音)の音像が正面前方に定位され、サイレント楽器B及びサイレント楽器Cの演奏音の音像がそれぞれ右前方、左前方に定位されていることを認識する(図3に示すA参照)。このように、本実施形態に係るサイレントアンサンブル演奏システムSASを個人練習用に利用することも可能である。さらに、音響定位制御部110において、楽器のもつ角度による音響放射特性を加味して制御しても良い。このような制御を行うことにより、より臨場感あるアンサンブル演奏が可能となる。
【0032】
B.変形例
以上この発明の一実施形態について説明したが、上記実施形態はあくまで例示であり、上記実施形態に対しては、本発明の趣旨から逸脱しない範囲で様々な変形を加えることができる。変形例としては、例えば以下のようなものが考えられる。
【0033】
<変形例1>
図10は、変形例1に係るミキシング装置MX1の構成を示す図である。
本変形例に係るミキシング装置MX1は、上述した本実施形態に係るミキシング装置MXに対し、残響付加部510及び音量調整部610を設けたものである。その他の構成は、ミキシング装置MXと同様であるため、対応する部分には同一符号を付し説明を省略する。
残響付加部510は、第1〜第nミキシング手段200の後段に設けた第1〜第n残響付加手段500によって構成されている。各残響付加手段500は、ミキシング手段200によってミキシングされた後のオーディオ信号に残響を付加して各音像との距離感を創出すると共に、仮想空間をシミュレートし、残響音として出力する。
【0034】
一方、音量調整部610は、第1〜第n残響付加手段500の後段に設けた第1〜第n音量調整手段600によって構成されている。本変形例に係る情報入力部400には、各出力チャネル毎に音量調整ダイアル(図示略)が設けられており、演奏者が音量調整ダイアルを適宜操作することにより、ヘッドホンHPを通じて放音される楽音の音量が調整可能となっている。
【0035】
ここで、上記残響時間、周波数帯域毎の減衰量等の残響特性は、アンサンブル演奏を行うホールの種類等に応じて異なる。このため、本変形例においては、演奏者によりアンサンブル演奏を行うホールの種類が決定されると(図5に示すB参照)、情報入力部400は、前述したホール特性情報に選択されたホールの残響特性を示す情報(以下、残響特性情報)を含めて情報処理部300へ送出する。情報処理部300は、このホールの残響特性情報に基づいて残響時間、周波数帯域毎の減衰量等を決定し、残響パラメータとして各残響付加手段500に供給する。なお、FD(フレキシブル・ディスク)等の記録メディアに予め上記残響特性情報を複数格納し、アンサンブル演奏を行う際に演奏者が該記録メディアに格納されている複数の残響特性情報の中から適宜選択するようにしても良い。かかる残響付加部510及び音量調整部610を設けることにより、より臨場感あるアンサンブル演奏を行うことが可能となる。
【0036】
<変形例2>
図11は、変形例2に係るサイレントアンサンブル演奏システムSAS1の構成を示す図である。
本変形例に係るサイレントアンサンブル演奏システムSAS1は、前掲図1に示すヘッドホンHPの代わりにヘッドセットHSが設けられ、ミキシング装置MXの代わりにミキシング装置MX2が設けられている。
ヘッドセットHSは、本実施形態に係るヘッドホンHPと同様の機能を有するヘッドホン部と、ヘッドセットHSを頭部に装着した演奏者の音声、周囲環境音等を集音するマイクロホンを備えたマイクロホン部とを具備している。マイクロホン部が集音した音声等は、該ヘッドセットHSによりオーディオ信号に変換され、モノラル形式のオーディオ信号としてミキシング装置MX2に出力される。
【0037】
ミキシング装置MX2には、ヘッドホン出力端子40−k(図1参照)に対応するヘッドセット出力端子41−kが設けられているほか、ヘッドセット用のモノラル入力端子11−kが設けられている。各ヘッドセットHSは、このミキシング装置MX2に設けられたヘッドセット出力端子41−k及びヘッドセット用のモノラル入力端子11−kに接続され、該ヘッドセット用のモノラル入力端子11−kから入力されたモノラル形式のオーディオ信号は、各々チャネル毎にn分岐され、音像定位制御部110を構成する第1〜第n音像定位制御手段100’にそれぞれ供給される。
【0038】
図12は、第1音像定位制御手段100’及び第1ミキシング手段200’の構成を示す図である。なお、他の音像定位制御手段100’及びミキシング手段200’の構成は、第1音像定位制御手段100’及び第1ミキシング手段200’と同様であるため、説明を割愛する。
【0039】
第1音像定位制御手段100’は、上述した本実施形態に係るアンプ20−k及びFIRフィルタ30−kのほか、ヘッドセット用のモノラル入力端子11−kから入力されたモノラル形式の信号を各々増幅し、L、R2チャネルからなるステレオ形式のオーディオ信号に変換するアンプ21−kと、アンプ21−kから出力される音声等に対応したステレオ形式のオーディオ信号に音像定位処理とを施すFIRフィルタ31−kとを具備している。
【0040】
第1ミキシング手段200’は、第1音像定位制御手段100’から音像定位処理の施された各サイレント楽器の演奏音に対応するnチャネルのステレオ形式のオーディオ信号のみならず、音像定位処理の施された各音声(ボーカル、会話等)、周囲環境音等に対応するnチャネルのステレオ形式のオーディオ信号を受け取り、これらをミキシングする。そして、ミキシングしたステレオ形式のオーディオ信号のうちLチャネルのオーディオ信号をヘッドセット出力端子41L−1ヘ出力し、Rチャネルのオーディオ信号をヘッドセット出力端子41R−1へ出力する。
【0041】
この結果、各演奏者によるサイレント楽器の演奏音のみならず、各演奏者の音声(ボーカル、会話等)、周囲環境音等についても、他の演奏者との相対的な位置関係に基づいて、各演奏者毎に異なる位置に定位されるように制御され、これにより各演奏者は、より臨場感あるアンサンブル演奏を行うことが可能となる。なお、ヘッドセットHSにより集音された音声等については、音像定位処理を施すことなく、直接各ミキシング手段に入力するようにしても良い。すなわち、ヘッドセット用のモノラル入力端子11−kから入力されるオーディオ信号については、音像定位制御部110を介すことなく、直接各ミキシング手段に入力する。かかる場合には、会話の聞こえ方等に多少の違和感を生ずるものの、上述した本実施形態と同様、臨場感あるアンサンブル演奏が可能となる。なお、周囲音、会話等を共聴することを目的とするのであれば、図13の構成に示すようにマイクロホンMPを1本用いて各ヘッドホンHPにモノラルで入力しても良い。
【0042】
<変形例3>
図13は、変形例3に係るサイレントアンサンブル演奏システムSAS2の構成を示す図である。
本変形例に係るサイレントアンサンブル演奏システムSAS2は、アンサンブル演奏を録音するための記録装置700を備えている。これは上記実施形態で示した各演奏者位置での音像定位をもつ録音ができると共に、ある仮想受音位置における音像定位を記録することを可能とする。例えば客席での位置の座標を入力することで、各演奏者からの相対位置を計算し、それに対応する音像定位をするように各音像定位手段100で調整された音響信号を記録装置700で録音する。
【0043】
この結果、例えば図14に示す観客席の位置PにマイクロホンMPを配置してアンサンブル演奏を行う場合、各演奏者は自己の頭部に装着したヘッドホンHPを介して所定の位置に音像が定位されたアンサンブル演奏音を受聴することができる一方、アンサンブル演奏終後においては記録装置700によって記録メディアMAに記録されたオーディオ信号を再生することにより、観客の位置Pで該アンサンブル演奏音がどのように聞こえていたのかを確認することができる。
また、観客の位置Pをインタフェースにより手入力する代わりに、後述する変形例7に示すような位置検出機構を用いて聞きたい位置において自動的に検出(測定)するようにしても良い。
【0044】
<変形例4>
ここで、上述した本実施形態では、演奏者がホールを選択する際、画面右欄R2に表示されているアイコンの中から所望のホールを示すアイコンをクリックして選択する場合について説明したが、演奏者が該ホールの形状等を自由に設定できるようにしても良い。例えば図15に示すように、演奏者によって選択されたホールBが画面右欄R2に表示された場合、演奏者は、該ホールの頂点をドラッグして該ホールの形状を拡大・縮小する。かかる操作に従って、画面に表示されているホールの寸法が自動計算され、自動計算後のホールの寸法が表示部450に表示される。なお、演奏者によって設定されたホールの寸法、形状等に関する情報は、ホール情報としてミキシング装置MXの図示せぬ記憶手段(RAM、EEPROM等)あるいはミキシング装置MXが読み取り可能な記録メディア等に記憶すれば、以後、該記憶手段等に記憶されているホール情報を適宜読み出すことにより、演奏者は好みに応じたホールでアンサンブル演奏を行う臨場感を得ることができる。なお、ホールの形状等のみならず、ホールの残響特性等について演奏者が設定しても良いのはもちろんである。
【0045】
<変形例5>
また、上述した本実施形態では、FIRフィルタ30が音像定位処理を施す場合を例に説明したが、該音像定位処理を施す手段としてFIRフィルタ30の代わりに遅延回路、乗算器等を設けるようにしても良い。かかる場合、情報処理部300は、フィルタ係数の代わりに遅延時間、乗算係数(信号処理パラメータ)を生成し、生成した遅延時間、乗算係数を対応する遅延回路、乗算器等に供給する。なお、各演奏音の音像定位を制御する方法として、例えば左右2つの出力チャンネルの音量レベル差により制御するほか、2つの出力チャンネル間の位相差、時間差によって音像定位を制御してもよい。さらに、オーディオ信号の2つの出力チャンネル間の音量差、位相差、時間差によって音像定位を制御してもよい。また、出力チャネルは2チャンネルを超えてもよく、それぞれの出力チャンネルの音量比等を制御することにより、2次元、3次元の音場空間上に、各演奏音の音像を定位させるようにしても良い。
【0046】
また、以上説明した本実施形態及び各変形例では、演奏者が情報入力部400を適宜操作してンサンブル演奏時に利用するサイレント楽器の種類等を入力する場合について説明したが、例えば各サイレント楽器SMに、楽器の種類を示す楽器識別コードを出力する機能(楽器識別コード出力機能)を搭載し、ミキシング装置MXが各モノラル入力端子10−kから入力される楽器識別コードを自動判別するようにしても良い。このように、ミキシング装置MXが各モノラル入力端子10−kから入力される楽器識別コードを自動判別することで、各サイレント楽器に対するチャネルの割り当て(すなわち、どのサイレント楽器にどのチャネルを割り当てるか)を自動設定することが可能となる。
【0047】
<変形例7>
また、上述した本実施形態及び各変形例では、演奏者がサイレント楽器SMの位置、向き等を入力する場合について説明したが、例えばサイレント楽器SMの位置、向き等を検出する検出機構を設けるようにしても良い。
図16は、変形例7に係る検出機構を説明するための図である。
検出機構は、各サイレント楽器SMに設けた赤外線LED等の発光素子G、ミキシング装置MXに設けた複数の受光素子R及び各受光素子Rによる受光結果に基づき各サイレント楽器SMの位置、向き等を検出する検出部D等により構成されている。
【0048】
複数の受光素子R1〜R6は、水平面に対して放射状に配置されている。各受光素子Rは、60°間隔で配置されており、これら各受光素子R1〜R6は発光素子Gから発せられる光を受光し、受光結果を受光信号として検出部Dに出力する。検出部Dは、各受光信号の信号レベル等を比較することにより、各サイレント楽器SMの位置、向きを特定し、楽器位置方向情報として情報処理部300に供給する。なお、この後の動作については、上述した本実施形態等と同様に説明することができるため、説明を割愛する。また、本変形例では、赤外線LED等の発光素子Gを例示したが、例えば超音波、電磁波等を発生する発振回路を適用することができる。すなわち、本発明では、楽器の位置、向きを検出することができるあらゆる検出機構を適用することができる。
【0049】
<変形例8>
また、本実施形態及び各変形例では、情報入力部400の操作子としてマウス、キーボード等を例示したが、例えばジョイスティック、ロータリーエンコーダ、スライダ、タッチパネル、テンキー、各種操作ボタンなど、あらゆる操作子を用いることができる。また、サイレント楽器SMの選択、配置操作の一例として、マウス等によるクリック操作、ドラッグアンドドロップ操作等を例示したが、テンキー等を用いて座標値を直接入力する操作等にも適用可能である。
【0050】
【発明の効果】
以上説明したように本発明によれば、サイレント楽器等を利用してアンサンブル演奏等を行う場合であっても、各演奏者が臨場感に溢れたアンサンブル演奏音を受聴することが可能となる。
【図面の簡単な説明】
【図1】本実施形態におけるサイレントアンサンブル演奏システムの構成を示す図である。
【図2】同実施形態に係る各演奏者の配置例を示す図である。
【図3】同実施形態に係る各演奏者からみた各演奏音の音像定位位置を示す図である。
【図4】同実施形態に係る第1音像定位制御手段及び第1ミキシング手段の構成を示す図である。
【図5】同実施形態に係る情報入力部による入力操作を説明するための図である。
【図6】同実施形態に係る情報入力部による入力操作を説明するための図である。
【図7】同実施形態に係る情報入力部による入力操作を説明するための図である。
【図8】同実施形態に係る楽器位置方向情報を説明するための図である。
【図9】同実施形態に係る楽器位置方向情報を説明するための図である。
【図10】変形例1に係るミキシング装置の構成を示す図である。
【図11】変形例2に係るサイレントアンサンブル演奏システムの構成を示す図である。
【図12】同変形例に係る第1音像定位制御手段及び第1ミキシング手段の構成を示す図である。
【図13】変形例3に係るサイレントアンサンブル演奏システムの構成を示す図である。
【図14】同変形例に係る各演奏者及びマイクロホンの配置例を示す図である。
【図15】変形例4に係る情報入力部による表示を説明するための図である。
【図16】変形例7に係る検出機構を説明するための図である。
【図17】従来のミキサを説明するための図である。
【図18】従来における各演奏者からみた各演奏音の音像定位位置を示す図である。
【符号の説明】
110・・・音像定位制御部、100、100’・・・音像定位制御手段、200、200’・・・ミキシング手段、300・・・情報処理部、400・・・情報入力部、450・・・表示部、10・・・モノラル入力端子、40・・・ヘッドホン出力端子、20・・・アンプ、30・・・FIRフィルタ、510・・・残響付加部、500・・・残響付加手段、610・・・音量調整部、600・・・音量調整手段。

Claims (4)

  1. 複数の演奏者のそれぞれの位置に設けられ、各演奏者の演奏操作に応じたオーディオ信号を生成する複数の電子楽器において生成される各オーディオ信号を入力する複数の入力チャネルと、
    前記複数の入力チャネルを介して入力される複数チャネルのオーディオ信号のそれぞれの音像を所定の位置に定位させるとともに、前記複数の電子楽器のそれぞれの位置で集音するマイクロホンを介して入力されるオーディオ信号のそれぞれの音像を所定の位置に定位させる複数の音像定位制御手段と、
    前記各音像定位制御手段に対応して設けられ、前記音像定位制御手段による信号処理後の各オーディオ信号をミキシングする複数のミキシング手段と、
    前記各ミキシング手段によってミキシングされた後のオーディオ信号を、前記各演奏者に対応した放音手段に出力する複数の出力チャネルとを備えたミキシング装置であって、
    前記各音像定位制御手段は、前記複数の入力チャネルを介して入力される複数チャネルのオーディオ信号及び前記各マイクロホンを介して入力される複数のオーディオ信号のそれぞれに対し、各音像定位制御手段に設定される信号処理パラメータに基づく信号処理を施し、
    前記複数の電子楽器の位置を示す位置情報をそれぞれ入力する入力手段と、
    前記複数の電子楽器のそれぞれについて、その電子楽器の位置を基準とした他の電子楽器の相対的な位置関係を前記入力手段によって入力される位置情報から求め、求めた位置関係と各信号処理パラメータに対応する複数のオーディオ信号の音像定位位置の相対的な位置関係とが一致するように、前記音像定位制御手段毎に設定すべき複数の信号処理パラメータをそれぞれ求め、求めた複数の信号処理パラメータをそれぞれ各出力チャネルに対応する音像定位制御手段に設定するパラメータ設定手段と
    を具備することを特徴とするミキシング装置。
  2. 記入力手段は、前記複数の電子楽器の位置及び方向を示す位置方向情報をそれぞれ入力し、
    前記パラメータ設定手段は、前記複数の電子楽器のそれぞれについて、その電子楽器の正面方向に対する他の電子楽器の相対的な位置方向関係を、前記入力手段によって入力される位置方向情報から求め、求めた位置方向関係に基づき、前記音像定位制御手段毎に設定すべき複数の信号処理パラメータをそれぞれ求め、求めた複数の信号処理パラメータをそれぞれ各出力チャネルに対応する音像定位制御手段に設定することを特徴とする請求項1に記載のミキシング装置。
  3. 複数の演奏者のそれぞれの位置に設けられ、各演奏者の演奏操作に応じたオーディオ信号を生成する複数の電子楽器において生成される各オーディオ信号を入力する複数の入力チャネルと、
    前記複数の入力チャネルを介して入力される複数チャネルのオーディオ信号のそれぞれの音像を所定の位置に定位させるとともに、前記複数の電子楽器のそれぞれの位置で集音するマイクロホンを介して入力されるオーディオ信号のそれぞれの音像を所定の位置に定位させる複数の音像定位制御手段と、
    前記各音像定位制御手段に対応して設けられ、前記音像定位制御手段による信号処理後の各オーディオ信号をミキシングする複数のミキシング手段と、
    前記各ミキシング手段によってミキシングされた後のオーディオ信号を、前記各演奏者に対応した放音手段に出力する複数の出力チャネルとを備えたミキシング装置であって、
    前記各音像定位制御手段は、前記複数の入力チャネルを介して入力される複数チャネルのオーディオ信号及び前記各マイクロホンを介して入力される複数のオーディオ信号のそれぞれに対し、各音像定位制御手段に設定される信号処理パラメータに基づく信号処理を施し、
    前記複数の電子楽器の位置を検出し、検出結果を位置情報として出力する検出手段と、
    前記複数の電子楽器のそれぞれについて、その電子楽器の位置を基準とした他の電子楽器の相対的な位置関係を前記検出手段から出力される位置情報から求め、求めた位置関係と各信号処理パラメータに対応する複数のオーディオ信号の音像定位位置の相対的な位置関係とが一致するように、前記音像定位制御手段毎に設定すべき複数の信号処理パラメータをそれぞれ求め、求めた複数の信号処理パラメータをそれぞれ各出力チャネルに対応する音像定位制御手段に設定するパラメータ設定手段と
    を具備することを特徴とするミキシング装置。
  4. 記出力チャネルから出力されるオーディオ信号が供給される出力端子について、該出力端子に供給されるオーディオ信号の出力チャネルを切り換える切り換えスイッチ
    を具備することを特徴とする請求項1乃至のいずれかに記載のミキシング装置。
JP2002249093A 2002-08-28 2002-08-28 ミキシング装置 Expired - Fee Related JP4426159B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002249093A JP4426159B2 (ja) 2002-08-28 2002-08-28 ミキシング装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002249093A JP4426159B2 (ja) 2002-08-28 2002-08-28 ミキシング装置

Publications (2)

Publication Number Publication Date
JP2004088608A JP2004088608A (ja) 2004-03-18
JP4426159B2 true JP4426159B2 (ja) 2010-03-03

Family

ID=32056305

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002249093A Expired - Fee Related JP4426159B2 (ja) 2002-08-28 2002-08-28 ミキシング装置

Country Status (1)

Country Link
JP (1) JP4426159B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4457308B2 (ja) * 2005-04-05 2010-04-28 ヤマハ株式会社 パラメータ生成方法、パラメータ生成装置およびプログラム
JP4457307B2 (ja) * 2005-04-05 2010-04-28 ヤマハ株式会社 パラメータ生成方法、パラメータ生成装置およびプログラム
CN102047566B (zh) * 2008-05-15 2016-09-07 詹姆哈伯有限责任公司 用于组合电子音乐乐器的输入的系统和设备
CN104064191B (zh) * 2014-06-10 2017-12-15 北京音之邦文化科技有限公司 混音方法及装置
WO2018116368A1 (ja) * 2016-12-20 2018-06-28 ヤマハ株式会社 演奏音提供装置および記録媒体
JP6915422B2 (ja) * 2017-07-19 2021-08-04 ヤマハ株式会社 音処理装置及び表示方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08140199A (ja) * 1994-11-08 1996-05-31 Roland Corp 音像定位設定装置
JP2967471B2 (ja) * 1996-10-14 1999-10-25 ヤマハ株式会社 音処理装置
JP3525653B2 (ja) * 1996-11-07 2004-05-10 ヤマハ株式会社 音響調整装置
JPH1152836A (ja) * 1997-07-29 1999-02-26 Matsushita Electric Ind Co Ltd 楽器練習装置
JP3514128B2 (ja) * 1997-08-22 2004-03-31 ヤマハ株式会社 ミキサおよびヘッドフォンアンプ
JPH11355900A (ja) * 1998-06-08 1999-12-24 Matsushita Electric Ind Co Ltd サラウンド定位点制御方式
JP4159189B2 (ja) * 1999-07-30 2008-10-01 ローランド株式会社 録音再生装置
JP2001169309A (ja) * 1999-12-13 2001-06-22 Mega Chips Corp 情報記録装置および情報再生装置
JP2001251698A (ja) * 2000-03-07 2001-09-14 Canon Inc 音響処理システム及びその制御方法並びに記憶媒体
JP3955425B2 (ja) * 2000-03-24 2007-08-08 三菱電機株式会社 3次元音再生システム
JP4497264B2 (ja) * 2001-01-22 2010-07-07 株式会社セガ ゲームプログラム、ゲーム装置、効果音の出力方法及び記録媒体

Also Published As

Publication number Publication date
JP2004088608A (ja) 2004-03-18

Similar Documents

Publication Publication Date Title
Emmerson et al. Electro-acoustic music
JP4674505B2 (ja) 音声信号処理方法、音場再現システム
US7928311B2 (en) System and method for forming and rendering 3D MIDI messages
EP1540988B1 (en) Smart speakers
EP1900252B1 (en) Recording, synthesis and reproduction of sound fields in an enclosure
US20220386062A1 (en) Stereophonic audio rearrangement based on decomposed tracks
JP3624805B2 (ja) 音像定位装置
JP2022083443A (ja) オーディオと関連してユーザカスタム型臨場感を実現するためのコンピュータシステムおよびその方法
JP2006509439A (ja) パーソナライズされたサラウンドサウンドヘッドホンシステム
WO2022163137A1 (ja) 情報処理装置、情報処理方法、およびプログラム
Bartlett Stereo microphone techniques
JP4426159B2 (ja) ミキシング装置
JP2010154549A (ja) 音声信号処理方法、音場再現システム
US20240163624A1 (en) Information processing device, information processing method, and program
Einbond Mapping the Klangdom Live: Cartographies for piano with two performers and electronics
JP4096801B2 (ja) 簡易型ステレオ発音実現方法、ステレオ発音システム及び楽音発生制御システム
Canfield-Dafilou Performing, Recording, and Producing Immersive Music in Virtual Acoustics
JP2005051801A (ja) 音像定位装置
Munoz Space Time Exploration of Musical Instruments
JP2013038511A (ja) オーディオデータの再生方法、及び、オーディオデータの再生装置
JP4457308B2 (ja) パラメータ生成方法、パラメータ生成装置およびプログラム
has released Cubase Products of Interest
Byome et al. Products of Interest
Hubbard So, You Want to Do a Piece with Electronics? A Layperson’s Guide to Works for Wind Band and Electronics
Tom Automatic mixing systems for multitrack spatialization based on unmasking properties and directivity patterns

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061121

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070122

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070213

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070413

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20070514

A912 Removal of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20070615

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091210

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121218

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131218

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees