JP7292650B2 - ミキシング装置、ミキシング方法、及びミキシングプログラム - Google Patents

ミキシング装置、ミキシング方法、及びミキシングプログラム Download PDF

Info

Publication number
JP7292650B2
JP7292650B2 JP2020514118A JP2020514118A JP7292650B2 JP 7292650 B2 JP7292650 B2 JP 7292650B2 JP 2020514118 A JP2020514118 A JP 2020514118A JP 2020514118 A JP2020514118 A JP 2020514118A JP 7292650 B2 JP7292650 B2 JP 7292650B2
Authority
JP
Japan
Prior art keywords
channel
signal
gain
power
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020514118A
Other languages
English (en)
Other versions
JPWO2019203126A1 (ja
Inventor
弘太 高橋
宰 宮本
良行 小野
洋司 阿部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
HIBINO CORPORATION
THE UNIVERSITY OF ELECTRO-COMUNICATINS
Original Assignee
HIBINO CORPORATION
THE UNIVERSITY OF ELECTRO-COMUNICATINS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by HIBINO CORPORATION, THE UNIVERSITY OF ELECTRO-COMUNICATINS filed Critical HIBINO CORPORATION
Publication of JPWO2019203126A1 publication Critical patent/JPWO2019203126A1/ja
Application granted granted Critical
Publication of JP7292650B2 publication Critical patent/JP7292650B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0316Speech enhancement, e.g. noise reduction or echo cancellation by changing the amplitude
    • G10L21/0324Details of processing therefor
    • G10L21/0332Details of processing therefor involving modification of waveforms
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S3/00Systems employing more than two channels, e.g. quadraphonic
    • H04S3/008Systems employing more than two channels, e.g. quadraphonic in which the audio signals are in digital form, i.e. employing more than two discrete digital channels
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0316Speech enhancement, e.g. noise reduction or echo cancellation by changing the amplitude
    • G10L21/0364Speech enhancement, e.g. noise reduction or echo cancellation by changing the amplitude for improving intelligibility
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2420/00Details of connection covered by H04R, not provided for in its groups
    • H04R2420/01Input selection or mixing for amplifiers or loudspeakers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2400/00Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/13Aspects of volume control, not necessarily automatic, in stereophonic sound systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Quality & Reliability (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Stereophonic System (AREA)
  • Circuit For Audible Band Transducer (AREA)

Description

本発明は、入力信号のミキシング技術に関し、特にステレオ(立体音響)でのミキシング技術に関する。
スマートミキサーは、優先音と非優先音を時間周波数平面上で混合することにより、非優先音の音量感を保ったまま、優先音の明瞭度を上げる新しい音混合法である(たとえば特許文献1参照)。時間周波数平面上の各点で信号特性を判断し、その信号特性に応じて優先音の明瞭度を上げる処理が施される。しかし、スマートミキシングで優先音を明瞭に聞かせることに重点がおかれると、非優先音に若干の副作用(音の欠落感の知覚)が生じる。ここで、優先音とは音声、ボーカル、ソロパート等のように、優先的に聞かせたい音である。非優先音とはバックグラウンド音、伴奏音等、優先音以外の音である。
非優先音に生じる欠落感を抑制するために、優先音と非優先音に適用されるゲインを適切な方法で決定して、より自然な混合音を出力する手法が提案されている(たとえば、特許文献2参照)。
図1は、従来のモノラルのミキシング構成を示す図である。優先音を表わす優先信号と非優先音を表わす非優先信号それぞれに、窓関数を掛けて短時間のFFT(Fast Fourier Transform:高速フーリエ変換)を行って、時間周波数平面上に展開する。時間周波数平面で、優先音と非優先音のそれぞれのパワーを算出して、時間方向に平滑化する。優先音と非優先音の平滑化パワーに基づいて、優先音のためのゲインα1と、非優先音のためのゲインα2が導出される。優先音と非優先音にゲインα1とゲインα2をそれぞれ乗算して加算した後に、時間領域信号に戻して出力する。
ゲインの導出には、「対数強度の和の原理」と、「穴埋めの原理」という2つの基本原理が用いられている。「対数強度の和の原理」とは、出力信号の対数強度を入力信号の対数強度の和を超えない範囲に制限するものである。「対数強度の和の原理」によって、優先音が強調されすぎて混合音に違和感が生じることを抑制する。「穴埋めの原理」とは、非優先音のパワーの減少を、優先音のパワー増加分を超えない範囲に制限するものである。「穴埋めの原理」によって、混合音において非優先音が抑制されすぎて違和感が生じることを抑制する。これらの原理に基づいて合理的にゲインを決定することで、より自然な混合音が出力される。
特許第5057535号 特開第2016-134706号公報
従来の方法は、モノラル出力を前提としている。モノラル出力とは、一般にスピーカまたは出力端子が一つの場合をいうが、複数の出力端子からまったく同じ音が出力される場合もモノラルに含められることがある。これに対し、複数の出力端子から異なる音が出力される場合をステレオ再生という。
特許文献1のミキシングの手法をステレオに拡張することができれば、ヘッドフォンによる鑑賞から巨大ホールでのコンサート鑑賞まで、どのような形態で聴取されても不具合のないステレオ信号を生成することができる。また、ステレオ化することで、レコーディングスタジオでのミキシング技術にも適用することができる。
しかし、特許文献1の手法をステレオ再生に適用する場合、上記の「対数強度の和の原理」と「穴埋めの原理」をどのように拡張するかは自明ではない。
本発明は、スマートミキシングの手法をステレオ再生に拡張しても、再生音に不具合が生じることを抑制し、自然な音質で再生することのできるミキシング技術を提供することを課題とする。
本発明の第1の態様では、ステレオ出力を有するミキシング装置は、
第1のチャネルで第1信号と第2信号を混合する第1の信号処理部と、
第2のチャネルで第3信号と第4信号を混合する第2の信号処理部と、
前記第1のチャネルの信号と前記第2のチャネルの信号の加重和を処理する第3のチャネルと、
前記第1のチャネルと前記第2のチャネルで共通に用いられるゲインマスクを生成するゲイン導出部と、
を有し、
前記ゲイン導出部は、前記第1のチャネルと、前記第2のチャネルと、前記第3のチャネルのうち、少なくとも前記第1のチャネルと前記第2のチャネルで同時にゲイン生成のための所定の条件が満たされるように、前記第1信号と前記第3信号に共通に適用される第1のゲインと、前記第2信号と前記第4信号に共通に適用される第2のゲインを決定することを特徴とする。
本発明の第2の態様では、ステレオ出力を有するミキシング装置は、
第1のチャネルで第1信号と第2信号を混合する第1の信号処理部と、
第2のチャネルで第3信号と第4信号を混合する第2の信号処理部と、
前記第1のチャネルの信号と前記第2のチャネルの信号の加重和を処理する第3のチャネルと、
前記第1のチャネルで用いられる第1ゲインマスクを生成する第1のゲイン導出部と、
前記第2のチャネルで用いられる第2ゲインマスクを生成する第2のゲイン導出部と、
を有し、
前記第1のゲイン導出部は、前記第3のチャネルでゲイン生成のための所定の条件が満たされるように、前記第1ゲインマスクを生成し、
前記第2のゲイン導出部は、前記第3のチャネルで前記所定の条件が満たされるように前記第2ゲインマスクを生成する、
ことを特徴とする。
上記の構成により、スマートミキシングの手法をステレオ再生に拡張しても、再生音に不具合が生じることを抑制し、自然な音質で再生することができる。
従来のモノラルのミキシング構成を示す図である。 本発明に至る過程で考えられる構成を示す図である。 第1実施形態のミキシング装置1Aの概略構成図である。 第2実施形態のミキシング装置1Bの概略構成図である。 実施形態の穴埋めの原理に基づくゲイン更新のフローチャートである。 実施形態の穴埋めの原理に基づくゲイン更新のフローチャートであり、図5AのS18に引き続く工程を示す図である。
図1の従来構成をステレオに拡張する最も簡単な方法は、図1の処理系を2つ並列に並べて、一方を左側のチャネル(Lチャネル)専用、他方を右側のチャネル(Rチャネル)専用にする構成である。この場合、「対数強度の和の原理」と「穴埋めの原理」は、チャネルごとに適用されるので、片方のチャネルを単独で聴いたときには、それぞれのチャネルで満足のいく結果が得られる。
しかし、この簡易的な構成には、次の問題がある。たとえば、優先音が中央に定位している場合を考える。優先音の時間周波数平面上の点(i,k)におけるLチャネルのゲインα1L[i,k]と、同じ点(i,k)のRチャネルのゲインα1R[i,k]は、別々の処理系(ブロック)で独立して設定されるため、異なる値となり得る。このようなチャネル間の差異は、時間周波数平面上の点(i,k)ごとに生じ、かつ点(i,k)ごとに差異の大きさも変わり得る。この結果、中央の優先音の定位が偏移する。たとえば、優先音がボーカルであるとすると、ボーカルの定位が時々刻々と変化し、ステレオ再生した場合にボーカルの音が左右に揺れて聴こえる。
図2は、本発明に至る過程で考えられるステレオ化の構成例を示す。図2では、優先音と非優先音に対し、LチャネルとRチャネルで共通化したゲインα1[i,k]とα2[i,k]をそれぞれ適用してミキシングを行う。
優先音の定位に揺れを起こさせないためには、優先音の時間周波数平面上の点(i,k)におけるLチャネルのゲインα1L[i,k]と、Rチャネルのゲインα1R[i,k]を、常に等しくすることが考えられる。この共通化したゲインをα1[i,k]とする。
非優先音についても、定位に揺れを生じさせないためには、非優先音のためのLチャネルのゲインα2L[i,k]と、Rチャネルのゲインα2R[i,k]を、常に等しくする。この共通化したゲインをα2[i,k]とする。
優先音と非優先音のそれぞれについて、LチャネルとRチャネルを平均化したモノラルチャネル(Mチャネル)を設定し、両チャネル間で共通に用いられるゲインα1[i,k]、α2[i,k]を生成する。LチャネルとRチャネルの平均化は、必ずしもチャネル間の平均値をとる必要はなく、加算値を用いてもよい。
ゲインマスクは、Mチャネルの信号を用いて、モノラルのスマートミキシングの原理で生成される。すなわち、Lチャネルの時間周波数軸上の優先音の信号X1L[i,k]とRチャネルの時間周波数軸上の優先音の信号X1R[i,k]の平均値または加算値からパワー(振幅の2乗)を求め、時間方向の平滑化パワーE1M[i,k]を得る。同様に、Lチャネルの時間周波数軸上の非優先音の信号X2L[i,k]とRチャネルの時間周波数軸上の優先音の信号X2R[i,k]の平均値または加算値からパワーを求め、時間方向の平滑化パワーE2M[i,k]を得る。優先音と非優先音の平滑化パワーE1M[i,k]とE2M[i,k]から、共通のゲインα1[i,k]とα2[i,k]を導出する。ゲインα1[i,k]とα2[i,k]は、特許文献2に記載されるように、「対数強度の和の原理」と「穴埋めの原理」にしたがって算出される。
得られたゲインα1[i,k]を、Lチャネルの優先音の信号X1L[i,k]とRチャネルの優先音の信号X1R[i,k]のそれぞれに乗算する。また、ゲインα2[i,k]を、Lチャネルの非優先音の信号X2L[i,k]とRチャネルの非優先音の信号X2R[i,k]のそれぞれに乗算する。LチャネルとRチャネルのそれぞれで、乗算結果を加算し、時間領域に戻して出力することで、出力される混合音に定位の揺れが生じることを防止できる。
しかし、「穴埋めの原理」をMチャネルに対してのみ適用していることから、別の問題が生じる。たとえば、大きなホールやスタジアムで、一方のチャネル(たとえばRチャネル)のスピーカの真ん前に立つ観客の立場を考える。この観客にとっては、Lチャネルの音はほとんど聴こえず、もっぱらRチャネルのスピーカの音が聴こえる。
ここで、Lチャネルで楽器ILが演奏され、Rチャネルで別の楽器IRが演奏されているとする。ある瞬間にボーカル(優先音)がLチャネルで発声すると、「穴埋めの原理」にしたがって、LチャネルとRチャネルの両方で非優先音のゲイン抑制が行われる。その結果、Rチャネルにはボーカル音がほとんど存在しないにもかかわらず、楽器IRは時間周波数平面上で部分的に減衰を受ける。Rチャネルのスピーカの前に立つ観客は、楽器IRの音の劣化(欠落感)を知覚する。
このような不具合は、Rチャネルから出力される音に関して「穴埋めの原理」が正しく機能していないために生じる。したがって、図2の構成をさらに洗練させた新たな構成が望まれる。
<第1実施形態>
図3は、第1実施形態のミキシング装置1Aの構成例である。上述した考察から、以下のことが導かれる。第1は、スマートミキシングをステレオ化に適用するためには、定位を保つことが重要である。第2は、定位を維持したうえで、片方のスピーカの音だけを聴く観客に対しても非優先音の劣化(欠落感)を感じさせないようにする。
定位を保つためには、共通のゲインマスクを使う必要があり、基本的にはゲイン生成のためのモノラル処理が求められる。一方、非優先音の劣化を防ぐためには、個別のチャネルごとに穴埋めの原理を適用する必要があり、基本的にはステレオ処理が求められる。
この2つの要請を満たすのが、第1実施形態のミキシング装置1Aである。ミキシング装置1Aでは、モノラル処理によりLチャネルとRチャネルで共通のゲインマスクを生成してこれを用いるが、「穴埋めの原理」を、Mチャネルだけではなく、LチャネルとRチャネルにも反映させる。
ミキシング装置1Aは、Lチャネル信号処理部10Lと、Rチャネル信号処理部10Rと、ゲインマスク生成部20を有する。図3の例では、ゲインマスク生成部20は、Mチャネルとして機能するが、ゲイン導出部19は、必ずしもMチャネルの処理系の中に配置される必要はなく、Mチャネルの処理系の外に配置されていてもよい。
Lチャネル信号処理部10Lに、音声等の優先音の信号x1L[n]と、バックグラウンド音等の非優先音の信号x2L[n]が入力される。それぞれの入力信号に短時間FFT等の周波数解析が適用され、時間周波数平面上の優先音の信号X1L[i,k]と非優先音の信号X2L[i,k]が生成される。ここで、時間軸上の信号を小文字のxで表し、時間周波数平面上の信号を大文字のXで表す。
優先音の信号X1L[i,k]と非優先音の信号X2L[i,k]は、それぞれゲインマスク生成部20で実現されるMチャネルに入力されるとともに、Lチャネル信号処理部10Lの内部で、各信号のパワーの算出と、時間方向の平滑化処理を受ける。これにより、優先音と非優先音の時間方向の平滑化パワーE1L[i,k]とE2L[i,k]が得られる。
Rチャネル信号処理部10Rには、音声等の優先音の信号x1R[n]と、バックグラウンド音等の非優先音の信号x2R[n]が入力される。それぞれの入力信号に短時間FFT等の周波数解析が適用され、時間周波数平面上の優先音の信号X1R[i,k]と非優先音の信号X2R[i,k]が生成される。
優先音の信号X1R[i,k]と非優先音の信号X2R[i,k]は、それぞれゲインマスク生成部20で実現されるMチャネルに入力されるとともに、Rチャネル信号処理部10Rの内部で、各信号のパワーの算出と、時間方向の平滑化処理を受ける。これにより、優先音と非優先音の時間方向の平滑化パワーE1R[i,k]とE2R[i,k]が得られる。
Mチャネルを形成するゲインマスク生成部20では、LチャネルとRチャネルの時間周波数平面上の優先音の信号X1L[i,k]とX1R[i,k]の平均(または加算値)を用いて、時間方向の平滑化パワーE1M[i,k]が生成される。同様に、LチャネルとRチャネルの時間周波数平面上の非優先音の信号X2L[i,k]とX2R[i,k]の平均(または加算値)を用いて、時間方向の平滑化パワーE2M[i,k]が生成される。
すなわち、Mチャネル、Lチャネル、及びRチャネルのそれぞれで、時間周波数平面の各点(i,k)における優先音と非優先音の時間方向の平滑化パワーE1[i,k]及びE2[i,k]が得られる(ここで、E1M、1L、1Rを総称してE1と書いた。E2も同じ)。
ゲイン導出部19には、3組の平滑化パワーが入力される。すなわち、ゲインマスク生成部20で得られた平滑化パワーE1M[i,k]とE2M[i,k]、Lチャネル信号処理部10Lで得られた平滑化パワーE1L[i,k]とE2L[i,k]、及びRチャネル信号処理部10Rで得られた平滑化パワーE1R[i,k]とE2R[i,k]である。
ゲイン導出部19は、入力された3組、6つのパラメータから、共通のゲインマスクであるα1[i,k]とα2[i,k]を生成する。ゲインα1[i,k]とα2[i,k]の組は、Lチャネル信号処理部10Lと、Rチャネル信号処理部10Rのそれぞれに供給されて、優先音信号X1[i,k]と非優先音信号X2[i,k]に対するゲインの乗算に用いられる(ここで、X1L、1Rを総称してX1と書いた。X2も同じ)。ゲイン乗算後の優先音と非優先音が加算され、時間領域に復元されて、LチャネルとRチャネルから出力される。
この構成では、共通のゲインマスクを前提としつつ、ゲイン導出部19における穴埋めの原理はLチャネルとRチャネルのそれぞれにも適用されてゲインマスク(α1[i,k],α2[i,k])が生成される。これについて、以下でさらに詳細に説明する。なお、以下の説明で用いる変数を表1に示す。
Figure 0007292650000001
まず、式(0)のように、最小可聴パワーA[k]の逆数である聴感補正係数B[k]を求める。
Figure 0007292650000002
ここで、CLp[i]は、等ラウドネス曲線から選ぶ最小可聴曲線(Lp)の主要部分を抽出してサンプリングしたデータである。定数Sは、時間領域での入力信号xj[n](j=1,2)がフルスケールの信号であったときに、その等ラウドネス曲線の縦軸の音圧レベルの何dBに相当させるかを設定するための定数である。
聴感補正係数B[k]は、入力信号から得られた時間方向の平滑化パワーEj[i,k]を、人間の聴覚に即して処理するための補正係数である。平滑化パワーEj[i,k]を、最小可聴パワーA[k]で除算した結果が1よりも大きければ可聴であり、その可聴レベルはEj[i,k]/A[k]で表される。たとえば、Ej[i,k]/A[k]=100であれば、その音は最小可聴の音に比べて100倍のパワーを持っている。ここでは、A[k]の除算を行うかわりに、A[k]の逆数である聴感補正係数B[k]を用いている。
聴感補正係数B[k]を用いて、ゲイン導出部19に入力された6つの平滑化パワーEj[i,k]から、式(1)~式(6)により6つの聴感補正パワーPj[i,k]を求める。
Figure 0007292650000003
なお、ミキシングの各時間区間で優先音が有音であり、かつ低SNRのときにブースト判定が行われるが(特許文献2を参照)、ここでは、簡単化のためにブースト処理を省略する。換言すると、特許文献2のブースト判定式b[i]を常に「1」とする。
次に、入力された6つのパラメータのゲイン更新前の聴感補正パワーLj[i,k]を、式(7)~(12)に基づいて求める。
Figure 0007292650000004
ゲイン調整後の聴感補正パワーLj[i,k]は、時間周波数平面の点(i,k)の聴感補正パワーPj[i,k]に、点(i-1,k)で得られたゲインを適用することによって、得られる。
Mチャネル、Lチャネル、Rチャネルのそれぞれで、ミキシング出力の聴感補正パワーLj[i,k]は、優先音と非優先音の寄与の和として、式(13)~(15)で表される。
Figure 0007292650000005
優先音のゲインをΔ1だけ増加させたときの聴感補正パワーをL1p[i,k]と定義すると、各チャネルでの優先音のゲイン増加後の聴感補正パワーは、式(16)~(18)で表される。
Figure 0007292650000006
ゲイン増加時のミキシング出力の聴感補正パワーをLp[i,k]とすると、各チャネルでのゲイン増加後のミキシング出力の聴感補正パワーは、式(19)~(21)のようになる。
Figure 0007292650000007
一方、非優先音のゲインをΔ2だけ減少させたときの聴感補正パワーをL2m[i,k]と定義すると、各チャネルでの非優先音のゲイン減少後の聴感補正パワーは、式(22)~(24)で表される。
Figure 0007292650000008
調整後のゲインα1[i,k]を用いたときの優先音に対する聴覚補正パワーをL[i,k]と定義しておくと、各チャネルでの調整後ゲインα1[i,k]を用いた優先音に対する聴覚補正パワーは、式(25)~(27)で表される。
Figure 0007292650000009
次に、ゲインの更新条件について説明する。優先音のためのα1の増加、すなわちα1[i,k]=(1+Δ11[i-1,k]の処理が行われるのは、式(28)~(32)の条件がすべて満たされるときである。
Figure 0007292650000010
式(28)と式(29)は、Mチャネルで(すなわちLチャネルとRチャネルの加重和で)、優先音と非優先音の双方が可聴であるときにだけα1を増加することを意味する。これにより、例えばボーカルが含まれていないときに、優先音の強調と非優先音の減衰が行われないようにする。式(30)は、混合音の対数強度(パワー)が優先音と非優先音の対数強度の和を上回らないように働く(「対数強度の和の原理」)。
式(31)のTIHは優先音に対するゲインの上限、式(32)のTGは、混合パワーの増幅限界である。TIHにより、優先音に対するゲインを一定値以下に抑える。TGにより、単純加算の場合と異なり、時間周波数平面の局所であっても、パワーの上昇を一定の限界(振幅比でTG倍)以下に抑える。
次に、α1の減少、すなわちα1[i,k]=(1+Δ1)-1α1[i-1,k]の処理が行われるのは、式(33)~(37)のいずれかが成り立ち、かつ式(38)が成り立つときである。
Figure 0007292650000011
式(33)と式(34)は、時間周波数平面上の点(i,k)において、優先音と非優先音の少なくとも一方が可聴レベルを満たさない場合は、優先音のゲインを戻す(減らす)ことを意味する。式(35)は、混合音の対数強度が、優先音の対数強度と非優先音の対数強度の和を上回っている場合に、優先音のゲインを減らす方向に働く。式(36)はゲインα1が上限T1Hを超えたときは、その超過を解消する。式(37)は、単純加算による混合音に所定の倍率(比率)Tを乗算したレベルを超える場合に優先音のゲインを戻す方向に働く。式(38)は、優先音のゲイン値が1よりも大きいときにのみ減少させる。
次に、非優先音のためのα2の減少、すなわちα2[i,k]=α2[i-1,k]-Δ2の処理が行われるのは、式(39)~(42)の条件がすべて満たされるときである。
Figure 0007292650000012
ここで、T2Lは非優先音に対するゲインの下限である。
式(39)はモノラル(Mチャネル)に対する穴埋めの条件、式(40)はLチャネルに対する穴埋めの条件、式(41)はRチャネルに対する穴埋めの条件をそれぞれ表している。α2を減少できるのは、これら3つの条件がすべて満たされるときに限られ、非優先音が安易に抑制されることが防止される。
最後に、α2の増加、すなわちα2[i,k]=α2[i-1,k]+Δ2の処理が行われるのは、式(43)~(45)のいずれかが満たされ、かつ式(46)が満たされるときである。
Figure 0007292650000013
式(43)はモノラル(Mチャネル)に対する穴埋めの条件、式(44)はLチャネルに対する穴埋めの条件、式(45)はRチャネルに対する穴埋めの条件をそれぞれ表している。α2を増加できるのは、たとえば、ボーカルのような優先音がなくなったときである。式(43)~(45)の3つの条件のうちのひとつでも崩れそうになると、α2の増加が阻止されて、穴埋め条件の崩壊が防止される。
上述した方法は、LチャネルとRチャネルで共通のゲインマスクを用いることを前提として、Mチャネル、Lチャネル、及びRチャネルの3つのチャネルについて穴埋めの原理の条件が満たされることを維持しながらゲインを調整するものである。Mチャネルの処理は、Lチャネルの出力とRチャネルの出力の加重和(または線形和)についての、穴埋めの原理に基づくゲイン更新である。
一方で、LチャネルとRチャネルの2つのチャネルについて穴埋めの原理を成立させれば、Mチャネルについてもほとんどの場合で穴埋めの原理は成立する場合がある。この場合は式(39)と式(43)のモノラルに対する穴埋めの条件を省略することができる。すなわち、Lチャネルの出力に関する穴埋めの原理と、Rチャネルの出力に関する穴埋めの原理の条件を同時に満たすように、ゲインは決定される。
すなわち、Mチャネル、Lチャネル、及びRチャネルのうち、少なくともLチャネルとRチャネルで穴埋めの原理の条件が同時に満たされるように、ゲインが生成される構成を採用してもよい。
第1実施形態の構成により、優先音の定位を保ち、観客が一方のスピーカの前に立っている場合でも、非優先音の劣化(欠落感)を感じさせないステレオのスマートミキシングが実現される。
<第2実施形態>
図4は、第2実施形態のミキシング装置1Bの構成例である。第2実施形態では、LチャネルとRチャネルで独立のゲインマスクを用いる。
第1実施形態では、LチャネルとRチャネルで共通のゲインマスクを用いた。これは音の定位を保つためである。大きなホールでは、反響音や残響も大きいため、Lチャネルの音とRチャネルの音が空間内で混ざり、定位感が薄れる。このため定位の揺れはそれほど問題にならない。
このような条件では、LチャネルとRチャネルで独立のゲインマスクを用いても実用に資する場合がある。ただし、従来のモノラル用のスマートミキシングの処理系を単純に2つ並列に並べるだけでは、やはり不十分であり、改良が必要である。
図4では、ゲインマスクはLチャネルとRチャネルで独立に生成されるが、穴埋めの原理に基づく処理を、Mチャネルの信号を参照して実施する。第2実施形態の構成は、会場の設計や客席の設定等によって、極端に一方のスピーカに接近した位置で聴く観客を考慮する必要のない場合に有効である。
上述のように、LチャネルとRチャネルの音が会場内で混ざり合って定位感が薄れるならば、穴埋めの原理の適用もモノラル(Mチャネル)のみで成立させればよい。穴埋めの原理をモノラルのみに適用することで、穴埋め処理で勘案するエネルギー(またはパワー)をLチャネルとRチャネルの間で融通または分配することができる。たとえば、Lチャネルにボーカルと楽器の音が入っており、Rチャネルは楽器のみの場合、Lチャネルの楽器の音(非優先音)を減衰させることはもちろん、Rチャネルの楽器音も減衰させることができる。これによって、ボーカルの明瞭度を上げることができる(図3の第一実施形態に対する優位性)。あわせて、LチャネルとRチャネル(つまりセンター)にボーカルがあり、Lチャネルに大音量の楽器、Rチャネルに小音量の楽器がある場合、LチャネルのボーカルをRチャネルのボーカルよりも強めることができる。このように、より精密なゲイン調整が可能となることから、ボーカルの明瞭度をさらに上げることができる(図2の方式に対する優位性)。
ミキシング装置1Bは、Lチャネル信号処理部30Lと、Rチャネル信号処理部30Rと、加重和平滑部40を有する。Lチャネル信号処理部30Lはゲイン導出部19Lを有し、Rチャネル信号処理部30Rはゲイン導出部19Rを有する。
Lチャネル信号処理部30Lは、入力された優先音の信号x1L[n]と非優先音の信号x2L[n]に短時間FFT等の周波数解析を施して、時間周波数平面上の優先音の信号X1L[i,k]と非優先音の信号X2L[i,k]を生成する。優先音の信号X1L[i,k]と非優先音の信号X2L[i,k]はLチャネル信号処理部30Lで平滑化パワーE1L[i,k]とE2L[i,k]の算出に用いられるとともに、Mチャネルを形成する加重和平滑部40にも入力される。Lチャネル信号処理部30Lで算出された平滑化パワーE1L[i,k]とE2L[i,k]は、ゲイン導出部19Lに入力される。
Rチャネル信号処理部30Rは、入力された優先音の信号x1R[n]と非優先音の信号x2R[n]に短時間FFT等の周波数解析を施して、時間周波数平面上の優先音の信号X1R[i,k]と非優先音の信号X2R[i,k]を生成する。優先音の信号X1R[i,k]と非優先音の信号X2R[i,k]はRチャネル信号処理部30Rで平滑化パワーE1R[i,k]とE2R[i,k]の算出に用いられるとともに、Mチャネルを形成する加重和平滑部40にも入力される。Rチャネル信号処理部30Rで算出された平滑化パワーE1R[i,k]とE2R[i,k]は、ゲイン導出部19Rに入力される。
加重和平滑部40は、LチャネルとRチャネルの時間周波数平面上の優先音の信号X1L[i,k]とX1R[i,k]の平均(または加算値)を用いて、時間方向の平滑化パワーE1M[i,k]が生成される。同様に、LチャネルとRチャネルの時間周波数平面上の非優先音の信号X2L[i,k]とX2R[i,k]の平均(または加算値)を用いて、時間方向の平滑化パワーE2M[i,k]が生成される。
Mチャネルの平滑化パワーE1M[i,k]とE2M[i,k]は、それぞれLチャネル信号処理部30Lのゲイン導出部19Lと、Rチャネル信号処理部30Rのゲイン導出部19Rに供給される。
ゲイン導出部19Lは、4つの平滑化パワーE1L[i,k]、E2L[i,k]、E1M[i,k]、及びE2M[i,k]を用いて、穴埋めの原理に基づいてゲインマスクα1L[i,k]とα2L[i,k]を生成する。時間周波数上の入力信号X1L[i,k]とX2L[i,k]に、ゲインα1L[i,k]とα2L[i,k]がそれぞれ乗算される。ゲイン適用された優先信号と非優先信号の加算信号(YL[i,k])は、時間領域に復元されて出力される。
ゲイン導出部19Rは、4つの平滑化パワーE1R[i,k]、E2R[i,k]、E1M[i,k]、及びE2M[i,k]を用いて、穴埋めの原理に基づいてゲインマスクα1R[i,k]とα2R[i,k]を生成する。時間周波数上の入力信号X1R[i,k]とX2R[i,k]に、ゲインα1R[i,k]とα2R[i,k]がそれぞれ乗算される。ゲイン適用された優先信号と非優先信号の加算信号(YR[i,k])は、時間領域に復元されて出力される。
以下で、穴埋めの原理に基づくLチャネルのゲインマスクα1L[i,k]とα2L[i,k]の更新について、より詳細に説明する。Rチャネルのゲインマスクα1R[i,k]とα2R[i,k]については、Lチャネルと同じ処理なので説明を省略する。
優先音のためのゲインα1Lの増加、すなわちα1L[i,k]=(1+Δ11L[i-1,k]の演算を行うのは、式(47)~(51)の条件がすべて満たされるときである。
Figure 0007292650000014
ここで、TIHは優先音に対するゲインの上限、TGは混合パワーの増幅限界である。
α1Lの減少、すなわちα1L[i,k]=(1+Δ1)-1α1L [i-1,k]の演算を行うのは、式(52)~(56)のいずれかが成り立ち、かつ式(57)が成り立つときである。
Figure 0007292650000015
非優先音のためのα2Lの減少、すなわちα2L[i,k]=α2L[i-1,k]-Δ2の処理を行うのは、式(58)と式(59)の双方の条件が満たされるときである。
Figure 0007292650000016
ここで、式(58)はLチャネルではなく、Mチャネル(モノラル)に対する穴埋め条件になっていることに留意されたい。これによって、穴埋めで移動するエネルギーが、LチャネルとRチャネルの間でフレキシブルに分配される。
α2Lの増加、すなわちα2L[i,k]=α2L[i-1,k]+Δ2の演算を行うのは、式(60)と式(61)の双方の条件が満たされるときである。
Figure 0007292650000017
ここでも、式(60)がMチャネル(モノラル)に対する穴埋め条件になっている。穴埋めで移動するエネルギーをLチャネルとRチャネルの間で融通しても穴埋めの条件が崩れそうになったときに、α2Lの増加を停止して穴埋め条件の崩壊を防止する。
第2実施形態では、LチャネルとRチャネルで独立したゲインマスクを用いることを前提として、穴埋めの原理についてはMチャネルだけを参照することで、反射や残響の大きな大ホールでのミキシングに適用することができる。
図5Aと図5Bは、第1実施形態と第2実施形態で行われる穴埋めの原理に基づくゲインの更新フローを示す。第1実施形態と第2実施形態では、ゲインマスクがLチャネルとRチャネルの間で共通に用いられるか、独立して生成されるかの違いはあるが、穴埋めの原理に基づくゲイン更新の基本的なフローは同じである。
まず、Lチャネル、Rチャネル、Mチャネルのそれぞれで、優先音と非優先音の時間方向の平滑化パワーEj[i,k](j=1,2)を求める(S11)。ここではチャネルを識別する下付き文字を省略する。
Lチャネル、Rチャネル、Mチャネルのそれぞれで、優先音の聴感補正パワーP1、非優先音の聴感補正パワーP2、更新前のゲインα1を適用した聴感補正パワーL1、更新前のゲインα2を適用した聴感補正パワーL2、L1とL1を混合したミキシング出力の聴感補正パワーL、優先音のゲイン増加時のミキシング出力の聴感補正パワーLp、及び非優先音のゲイン減少時のミキシング出力の聴感補正パワーLmを求める(S12)。
優先音のゲインα1の増加条件(式(28)~(32)、または式(47)~(51)が満たされているか否かが判断され(S13)、満たされている場合は、α1を所定のステップサイズで増大して(S14)、S15へ進む。α1の増加条件が満たされていない場合は(S13でNO)、直接ステップS15へ進む。
次に、α1の減少条件(式(33)~(38)、または式(52)~(57))が満たされているか否かが判断される(S15)。α1の減少条件が満たされていない場合は、そのまま図5Bの非優先音のゲインα2の処理に移る。α1の減少条件が満たされている場合は(S15でYES)、α1を所定の割合で減少させ(S16)、減少後のα1が1よりも小さくなったか否か(α1<1)を判断する(S17)。α1が1よりも小さい場合は(S17でYES)、α1=1に設定して(S18)、α2の処理に移る。これにより、α1の減少操作により1未満となったときにα1=1に回復する。α1が1以上のときは(S17でNO)、直接α2の処理に移る。
図5Bを参照して、非優先音のゲインα2の減少条件(式(39)~(42)、または式(58)~(59)が満たされているか否かが判断され(S21)、満たされている場合はα2を所定のステップサイズで減少して(S22)、S23へ進む。α2の減少条件が満たされていない場合は(S21でNO)、直接ステップS23へ進む。
次に、α2の増加条件(式(43)~(46)、または式(60)~(61))が満たされているか否かが判断される(S23)。α2の増加条件が満たされている場合は、α2を所定のステップサイズで増加させ(S24)、増加後のα2が1よりも大きくなったか否か(α2>1)を判断する(S25)。α2が1を超える場合は(S25でYES)、α2=1に設定し(S26)、1を超えない場合は(S25でNO)、現在の値を維持する。
ステップS23で、α2の増加条件が満たされていない場合は(S23でNO)、そのままステップS25に飛んで、現在のα2が1よりも大きいか否か(α2>1)を判断する(S25)。α2が1を超える場合は(S25でYES)、α2=1に設定し(S26)、1を超えない場合は、現在の値を維持する。
以上の処理を、時間周波数平面上のすべての点について繰り返し行って(S27)、処理を終了する。
本発明によれば、共通ゲインマスクを生成する際に、Lチャネル出力に関する穴埋めの原理と、Rチャネル出力に関する穴埋めの原理と、Lチャネル出力とRチャネル出力の(加重和)に関する穴埋めの原理のうち、少なくともLチャネル出力とRチャネル出力に関する穴埋めの原理の条件を同時に満たすようにゲインが決定される(第1実施形態)。
これにより、定位を維持し、かつ、聴取者が片方のスピーカの前に位置する場合でも、非優先音の劣化(欠落感)を感じさせないステレオのスマートミキシングが実現できる。
LチャネルとRチャネルに個別のゲインマスクを用いる場合は、Lチャネル出力とRチャネル出力の加重和(すなわちMチャネル)に関する穴埋めの原理が満たされるように、ゲインが決定される(第2実施形態)。
これにより、LチャネルとRチャネルの音が強く混合されるホール等において、LチャネルとRチャネルで独立したゲインマスクでより精密なゲイン調整をすることができる。さらに、穴埋めの原理をモノラルで適用することで、優先音をより明瞭に聴かせることのできるステレオのスマートミキシングが実現される。
実施形態のミキシング装置1A及び1Bは、FPGA(Field Programmable Gate Array)、PLD(Programmable Logic Device)などのロジックデバイスで実現可能であるが、ミキシングプログラムをプロセッサに実行させることによっても実現可能である。
本発明の構成と手法は、コンサート会場やレコーディングスタジオにおける業務用ミキシング装置だけではなく、アマチュア用のミキサー、DAW(Digital Audio Workstation)、スマートフォン用のアプリケーション等のステレオ再生にも応用可能である。
この出願は、2018年4月19日に出願された日本国特許出願第2018-080671号に基づき、その優先権を主張するものであり、その全内容は本件出願中に含まれる。
1、1A、1B ミキシング装置
10L、30L Lチャネル信号処理部
10R、30R Rチャネル信号処理部
19、19L、19R ゲイン導出部
20 ゲインマスク生成部
40 加重和平滑部

Claims (8)

  1. ステレオ出力を有するミキシング装置であって、
    第1のチャネルで第1信号と第2信号を混合する第1の信号処理部と、
    第2のチャネルで第3信号と第4信号を混合する第2の信号処理部と、
    前記第1のチャネルの信号と前記第2のチャネルの信号の加重和を処理する第3のチャネルと、
    前記第1のチャネルと前記第2のチャネルで共通に用いられるゲインマスクを生成するゲイン導出部と、
    を有し、
    前記ゲイン導出部は、前記第1のチャネルと、前記第2のチャネルと、前記第3のチャネルのうち、少なくとも前記第1のチャネルと前記第2のチャネルで同時にゲイン生成のための所定の条件が満たされるように、前記第1信号と前記第3信号に共通に適用される第1のゲインと、前記第2信号と前記第4信号に共通に適用される第2のゲインを決定し、
    前記所定の条件は、前記第2信号のパワーの減少が前記第1信号のパワーの増加分を超えず、かつ前記第4信号のパワーの減少が前記第3信号のパワーの増加分を超えない条件であり、
    前記第1の信号処理部は、時間周波数平面上の各点で、前記第1信号と前記第2信号の時間方向の平滑化パワーを含む第1パワー対を算出し、
    前記第2の信号処理部は、前記時間周波数平面上の各点で、前記第3信号と前記第4信号の時間方向の平滑化パワーを含む第2パワー対を算出し、
    前記第3のチャネルは、前記加重和に基づく時間方向の平滑化パワーを含む第3パワー対を算出し、
    前記ゲイン導出部は、前記第1パワー対、前記第2パワー対、及び前記第3パワー対を用いて、前記第1のゲインと前記第2のゲインを決定する
    ことを特徴とするミキシング装置。
  2. 前記第1のチャネルと、前記第2のチャネルと、前記第3のチャネルで、前記所定の条件が同時に満たされることを特徴とする請求項1に記載のミキシング装置。
  3. ステレオ出力を有するミキシング装置であって、
    第1のチャネルで第1信号と第2信号を混合する第1の信号処理部と、
    第2のチャネルで第3信号と第4信号を混合する第2の信号処理部と、
    前記第1のチャネルの信号と前記第2のチャネルの信号の加重和を処理する第3のチャネルと、
    前記第1のチャネルで用いられる第1ゲインマスクを生成する第1のゲイン導出部と、
    前記第2のチャネルで用いられる第2ゲインマスクを生成する第2のゲイン導出部と、
    を有し、
    前記第1のゲイン導出部は、前記第3のチャネルでゲイン生成のための所定の条件が満たされるように、前記第1ゲインマスクを生成し、
    前記第2のゲイン導出部は、前記第3のチャネルで前記所定の条件が満たされるように前記第2ゲインマスクを生成し、
    前記所定の条件は、前記第2信号と前記第4信号の加重和パワーの減少が、前記第1信号と前記第3信号の加重和パワーの増加分を超えない条件である
    ことを特徴とするミキシング装置。
  4. 前記第1の信号処理部は、時間周波数平面上の各点で、前記第1信号と前記第2信号の時間方向の平滑化パワーを含む第1パワー対を算出し、
    前記第2の信号処理部は、前記時間周波数平面上の各点で、前記第3信号と前記第4信号の時間方向の平滑化パワーを含む第2パワー対を算出し、
    前記第3のチャネルは、前記加重和に基づく時間方向の平滑化パワーを含む第3パワー対を算出し、
    前記第1のゲイン導出部は、前記第1パワー対と前記第3パワー対を用いて、前記第1ゲインマスクを生成し、
    前記第2のゲイン導出部は、前記第2パワー対と前記第3パワー対を用いて、前記第2ゲインマスクを生成する、
    ことを特徴とする請求項3に記載のミキシング装置。
  5. ステレオ出力を行うミキシング方法であって、
    第1のチャネルに第1信号と第2信号を入力し、
    第2のチャネルで第3信号と第4信号を入力し、
    第3のチャネルで、前記第1のチャネルの信号と前記第2のチャネルの信号の加重和を処理し、
    前記第1のチャネルの出力と、前記第2のチャネルの出力と、前記第3のチャネルの出力に基づいて、前記第1のチャネルと前記第2のチャネルで共通に用いられるゲインマスクを生成し、
    前記ゲインマスクを前記第1のチャネルに適用して前記第1信号と前記第2信号を混合し、
    前記ゲインマスクを前記第2のチャネルに適用して前記第3信号と前記第4信号を混合し、
    前記ゲインマスクは、前記第1のチャネルと、前記第2のチャネルと、前記第3のチャネルのうち、少なくとも前記第1のチャネルと前記第2のチャネルで同時にゲイン生成のための所定の条件が満たされるように生成され
    前記所定の条件は、前記第2信号のパワーの減少が前記第1信号のパワーの増加分を超えず、かつ前記第4信号のパワーの減少が前記第3信号のパワーの増加分を超えない条件であり、
    前記第1のチャネルの時間周波数平面上の各点で、前記第1信号と前記第2信号の時間方向の平滑化パワーを含む第1パワー対を算出し、
    前記第2のチャネルの前記時間周波数平面上の各点で、前記第3信号と前記第4信号の時間方向の平滑化パワーを含む第2パワー対を算出し、
    前記第3のチャネルで、前記加重和に基づく時間方向の平滑化パワーを含む第3パワー対を算出し、
    前記第1パワー対、前記第2パワー対、及び前記第3パワー対を用いて、前記第1信号と前記第3信号に共通に適用される第1のゲインと、前記第2信号と前記第4信号に共通に適用される第2のゲインを決定する
    ことを特徴とするミキシング方法。
  6. ステレオ出力を行うミキシング方法であって、
    第1のチャネルに第1信号と第2信号を入力し、
    第2のチャネルで第3信号と第4信号を入力し、
    第3のチャネルで、前記第1のチャネルの信号と前記第2のチャネルの信号の加重和を処理し、
    前記第1のチャネルの出力と前記第3のチャネルの出力に基づいて、前記第1のチャネルで用いられる第1ゲインマスクを生成し、
    前記第2のチャネルの出力と前記第3のチャネルの出力に基づいて、前記第2のチャネルで用いられる第2ゲインマスクを生成し、
    前記第1ゲインマスクと前記第2ゲインマスクは、前記第3のチャネルでゲイン生成のための所定の条件が満たされるように生成され、
    前記所定の条件は、前記第2信号と前記第4信号の加重和パワーの減少が、前記第1信号と前記第3信号の加重和パワーの増加分を超えない条件である
    ことを特徴とするミキシング方法。
  7. プロセッサに以下の手順を実行させるミキシングプログラムであって、
    第1のチャネルで第1信号と第2信号を取得する手順と、
    第2のチャネルで第3信号と第4信号を取得する手順と、
    第3のチャネルで前記第1のチャネルの信号と前記第2のチャネルの信号の加重和を処理する手順と、
    前記第1のチャネルの出力と、前記第2のチャネルの出力と、前記第3のチャネルの出力に基づいて、前記第1のチャネルと前記第2のチャネルで共通に用いられるゲインマスクを生成する手順と、
    前記ゲインマスクを前記第1のチャネルに適用して前記第1信号と前記第2信号を混合する手順と、
    前記ゲインマスクを前記第2のチャネルに適用して前記第3信号と前記第4信号を混合する手順と、
    を前記プロセッサに実行させ、
    前記ゲインマスクの生成手順は、前記第1のチャネルと、前記第2のチャネルと、前記第3のチャネルのうち、少なくとも前記第1のチャネルと前記第2のチャネルで同時にゲイン生成のための所定の条件が満たされるように前記ゲインマスクを生成し、
    前記所定の条件は、前記第2信号のパワーの減少が前記第1信号のパワーの増加分を超えず、かつ前記第4信号のパワーの減少が前記第3信号のパワーの増加分を超えない条件であり、
    前記第1のチャネルの時間周波数平面上の各点で、前記第1信号と前記第2信号の時間方向の平滑化パワーを含む第1パワー対を算出し、
    前記第2のチャネルの前記時間周波数平面上の各点で、前記第3信号と前記第4信号の時間方向の平滑化パワーを含む第2パワー対を算出し、
    前記第3のチャネルで、前記加重和に基づく時間方向の平滑化パワーを含む第3パワー対を算出し、
    前記第1パワー対、前記第2パワー対、及び前記第3パワー対を用いて、前記第1信号と前記第3信号に共通に適用される第1のゲインと、前記第2信号と前記第4信号に共通に適用される第2のゲインを決定する
    ことを特徴とするミキシングプログラム。
  8. プロセッサに以下の手順を実行させるミキシングプログラムであって、
    第1のチャネルで第1信号と第2信号を取得する手順と、
    第2のチャネルで第3信号と第4信号を取得する手順と、
    第3のチャネルで、前記第1のチャネルの信号と前記第2のチャネルの信号の加重和を処理する手順と、
    前記第1のチャネルの出力と前記第3のチャネルの出力に基づいて、前記第1のチャネルで用いられる第1ゲインマスクを生成する手順と、
    前記第2のチャネルの出力と前記第3のチャネルの出力に基づいて、前記第2のチャネルで用いられる第2ゲインマスクを生成する手順と、
    を前記プロセッサに実行させ、
    前記第1ゲインマスクと前記第2ゲインマスクは、前記第3のチャネルでゲイン生成のための所定の条件が満たされるように生成され、
    前記所定の条件は、前記第2信号と前記第4信号の加重和パワーの減少が、前記第1信号と前記第3信号の加重和パワーの増加分を超えない条件である
    ことを特徴とするミキシングプログラム。
JP2020514118A 2018-04-19 2019-04-11 ミキシング装置、ミキシング方法、及びミキシングプログラム Active JP7292650B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018080671 2018-04-19
JP2018080671 2018-04-19
PCT/JP2019/015834 WO2019203126A1 (ja) 2018-04-19 2019-04-11 ミキシング装置、ミキシング方法、及びミキシングプログラム

Publications (2)

Publication Number Publication Date
JPWO2019203126A1 JPWO2019203126A1 (ja) 2021-04-22
JP7292650B2 true JP7292650B2 (ja) 2023-06-19

Family

ID=68240005

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020514118A Active JP7292650B2 (ja) 2018-04-19 2019-04-11 ミキシング装置、ミキシング方法、及びミキシングプログラム

Country Status (4)

Country Link
US (1) US11222649B2 (ja)
EP (1) EP3783913A4 (ja)
JP (1) JP7292650B2 (ja)
WO (1) WO2019203126A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013051589A (ja) 2011-08-31 2013-03-14 Univ Of Electro-Communications ミキシング装置、ミキシング信号処理装置、ミキシングプログラム及びミキシング方法
JP2016134706A (ja) 2015-01-19 2016-07-25 国立大学法人電気通信大学 ミキシング装置、信号ミキシング方法、及びミキシングプログラム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5228093A (en) 1991-10-24 1993-07-13 Agnello Anthony M Method for mixing source audio signals and an audio signal mixing system
US6587816B1 (en) 2000-07-14 2003-07-01 International Business Machines Corporation Fast frequency-domain pitch estimation
JP2008532353A (ja) 2005-02-14 2008-08-14 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 第1の音声データを第2の音声データと混合するためのシステム及び方法、プログラム要素並びにコンピュータ読取可能な媒体
JP4823030B2 (ja) 2006-11-27 2011-11-24 株式会社ソニー・コンピュータエンタテインメント 音声処理装置および音声処理方法
WO2009119460A1 (ja) 2008-03-24 2009-10-01 日本ビクター株式会社 オーディオ信号処理装置及びオーディオ信号処理方法
JP2010081505A (ja) 2008-09-29 2010-04-08 Panasonic Corp 窓関数算出装置、方法及び窓関数算出プログラム
JP5532518B2 (ja) 2010-06-25 2014-06-25 ヤマハ株式会社 周波数特性制御装置
US8874245B2 (en) 2010-11-23 2014-10-28 Inmusic Brands, Inc. Effects transitions in a music and audio playback system
JP2013164572A (ja) 2012-01-10 2013-08-22 Toshiba Corp 音声特徴量抽出装置、音声特徴量抽出方法及び音声特徴量抽出プログラム
US9312829B2 (en) 2012-04-12 2016-04-12 Dts Llc System for adjusting loudness of audio signals in real time
US9143107B2 (en) 2013-10-08 2015-09-22 2236008 Ontario Inc. System and method for dynamically mixing audio signals
JP2015118361A (ja) 2013-11-15 2015-06-25 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
DE102014214143B4 (de) 2014-03-14 2015-12-31 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Verarbeiten eines Signals im Frequenzbereich
US10057681B2 (en) 2016-08-01 2018-08-21 Bose Corporation Entertainment audio processing
JP2018080671A (ja) 2016-11-18 2018-05-24 本田技研工業株式会社 内燃機関

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013051589A (ja) 2011-08-31 2013-03-14 Univ Of Electro-Communications ミキシング装置、ミキシング信号処理装置、ミキシングプログラム及びミキシング方法
JP2016134706A (ja) 2015-01-19 2016-07-25 国立大学法人電気通信大学 ミキシング装置、信号ミキシング方法、及びミキシングプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
勝山 峻,高橋 弘太,ステレオ再生を前提としたスマートミキサーの高性能化,日本音響学会 2017年 秋季研究発表会講演論文集CD-ROM [CD-ROM],2017年09月,p.465-468

Also Published As

Publication number Publication date
US11222649B2 (en) 2022-01-11
EP3783913A4 (en) 2021-06-16
EP3783913A1 (en) 2021-02-24
US20210151068A1 (en) 2021-05-20
JPWO2019203126A1 (ja) 2021-04-22
WO2019203126A1 (ja) 2019-10-24

Similar Documents

Publication Publication Date Title
US8036767B2 (en) System for extracting and changing the reverberant content of an audio input signal
CN108781331B (zh) 用于头戴式扬声器的音频增强
US8890290B2 (en) Diffusing acoustical crosstalk
JP6968376B2 (ja) ステレオ仮想バス拡張
RU2666316C2 (ru) Аппарат и способ улучшения аудиосигнала, система улучшения звука
US10706869B2 (en) Active monitoring headphone and a binaural method for the same
CN109155895B (zh) 有源监听耳机及用于正则化其反演的方法
CA2908794C (en) Apparatus and method for center signal scaling and stereophonic enhancement based on a signal-to-downmix ratio
JP2019516311A (ja) アクティブモニタリングヘッドホンとその較正方法
JP7292650B2 (ja) ミキシング装置、ミキシング方法、及びミキシングプログラム
CN112602338A (zh) 信号处理装置、信号处理方法和程序
Uhle Center signal scaling using signal-to-downmix ratios
US20240056735A1 (en) Stereo headphone psychoacoustic sound localization system and method for reconstructing stereo psychoacoustic sound signals using same
JP4430105B2 (ja) 音響再生装置
JP6905332B2 (ja) マルチチャンネル音響の音声信号変換装置及びそのプログラム
JP2017126944A (ja) 音響装置、電子鍵盤楽器およびプログラム
KR20210034564A (ko) 입체 음향 재생 방법 및 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230509

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230529

R150 Certificate of patent or registration of utility model

Ref document number: 7292650

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150