JP2020036139A - Sound pickup device, program and method - Google Patents
Sound pickup device, program and method Download PDFInfo
- Publication number
- JP2020036139A JP2020036139A JP2018159969A JP2018159969A JP2020036139A JP 2020036139 A JP2020036139 A JP 2020036139A JP 2018159969 A JP2018159969 A JP 2018159969A JP 2018159969 A JP2018159969 A JP 2018159969A JP 2020036139 A JP2020036139 A JP 2020036139A
- Authority
- JP
- Japan
- Prior art keywords
- target area
- sound
- signal
- area sound
- microphone
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Obtaining Desirable Characteristics In Audible-Bandwidth Transducers (AREA)
- Circuit For Audible Band Transducer (AREA)
Abstract
Description
この発明は、収音装置、プログラム及び方法に関し、例えば、特定のエリアの音を強調し、それ以外のエリアの音を抑制するシステムに適用し得る。 The present invention relates to a sound collection device, a program, and a method, and can be applied to, for example, a system that emphasizes sound in a specific area and suppresses sound in other areas.
複数の音源が存在する環境下において、ある特定方向の音のみ分離し収音する技術として、マイクロホンアレイを用いたビームフォーマ(Beam Former;以下「BF」とも呼ぶ)がある。BFとは、各マイクロホンに到達する信号の時間差を利用して指向性を形成する技術である(非特許文献1参照)。 In an environment where a plurality of sound sources exist, as a technique for separating and collecting only sound in a specific direction, there is a beam former (hereinafter also referred to as “BF”) using a microphone array. BF is a technique for forming directivity by using a time difference between signals reaching each microphone (see Non-Patent Document 1).
従来、BFは、加算型と減算型の大きく2つの種類に分けられる。特に減算型BFは、加算型即に比べ、少ないマイクロホン数で指向性を形成できるという利点がある。 Conventionally, BFs are roughly classified into two types, namely, an addition type and a subtraction type. In particular, the subtraction type BF has an advantage that directivity can be formed with a smaller number of microphones than the addition type BF.
図4は、マイクロホンMの数が2個の場合の減算型BF200に係る構成を示すブロック図である。
FIG. 4 is a block diagram illustrating a configuration of the
図5は、2個のマイクロホンM1、M2を用いた減算型BF200により形成される指向性フィルタの例について示した説明図である。 FIG. 5 is an explanatory diagram showing an example of a directional filter formed by a subtraction type BF 200 using two microphones M1 and M2.
減算型BF200は、まず遅延器210により目的とする方向に存在する音(以下、「目的音」と呼ぶ)が各マイクロホンM1、M2に到来する信号の時間差を算出し、遅延を加えることにより目的音の位相を合わせる。上述の時間差は以下の(1)式により算出することができる。
The
ここで、dはマイクロホンM1、M2間の距離、cは音速、τiは遅延量である。またθLは、各マイクロホンM(M1、M2)を結んだ直線に対する垂直方向から目的方向への角度である。また、ここで、死角がマイクロホンM1とM2の中心に対し、マイクロホンM1の方向に存在する場合、遅延器210は、マイクロホンM1の入力信号x1(t)に対し遅延処理を行う。
Here, d is the distance between the microphones M1 and M2, c is the sound speed, and τ i is the delay amount. The theta L is the angle from the vertical direction to the target direction against the line connecting the microphones M (M1, M2). Also, here, with respect to the center of the blind spot is a microphone M1 M2, when present in the direction of the microphone M1,
その後、減算型BF200では、以下の(2)式に従い処理(減算処理)を行う。減算型BF200の処理は周波数領域でも同様に行うことができ、その場合(2)式は以下の(3)式のように変更される。
ここでθL=±π/2の場合、減算型BF200により形成される指向性は図5(a)に示すように、カージオイド型の単一指向性となる。また、「θL=0,π」の場合、減算型BF200により形成される指向性は、図5(b)のような8の字型の双指向性となる。
Here, when θ L = ± π / 2, the directivity formed by the
以下では、入力信号から単一指向性を形成するフィルタを「単一指向性フィルタ」と呼び、双指向性を形成するフィルタを双指向性フィルタと呼ぶものとする。 Hereinafter, a filter that forms unidirectionality from an input signal is referred to as a “unidirectionality filter”, and a filter that forms bidirectionality is referred to as a bidirectional filter.
また、減算器220では、スペクトル減算法(Spectral Subtraction;以下、単に、「SS」とも呼ぶ)を用いることで、双指向性の死角に強い指向性を形成することもできる。SSによる指向性は、以下の(4)式に従い全周波数、もしくは指定した周波数帯域で形成される。
In addition, the
以下の(4)式では、マイクロホンM1の入力信号X1を用いているが、マイクロホンM2の入力信号X2でも同様の効果を得ることができる。ここでβは、SSの強度を調節するための係数である。また、減算器220では、減算時に値がマイナスなった場合は、0または元の値を小さくした値に置き換えるフロアリング処理を行う。以上のような減算型BF200の処理方式では、双指向性の特性によって目的方向以外に存在する音(以下、「非目的音」と呼ぶ)を抽出し、抽出した非目的音の振幅スペクトルを入力信号の振幅スペクトルから減算することで、目的音を強調することができる。
ある特定のエリア内に存在する音(以下、「目的エリア音」と呼ぶ)だけを収音したい場合、減算型BFを用いるだけでは、そのエリアの周囲に存在する音源の音(以下、「非目的エリア音」と呼ぶ)も収音してしまう可能性がある。そこで、特許文献1では、複数のマイクロホンアレイを用い、それぞれ別々の方向から目的エリアヘ指向性を向けレ指向性を目的エリアで交差させることで目的エリア音を収音する手法(以下、「エリア収音」と呼ぶ)を提案している。エリア収音では、まず各マイクロホンアレイのBF出力に含まれる目的エリア音の振幅スペクトルの比率を推定し、それを補正係数とする。 When it is desired to collect only sounds existing in a specific area (hereinafter, referred to as “target area sound”), the sound of a sound source existing around that area (hereinafter, “non (Referred to as “target area sound”). Therefore, in Japanese Patent Application Laid-Open No. H11-163, a method of collecting a target area sound by using a plurality of microphone arrays and directing the directivity from different directions to the target area so that the directivity intersects the target area is described. Sound "). In the area sound collection, first, the ratio of the amplitude spectrum of the target area sound included in the BF output of each microphone array is estimated, and the ratio is used as a correction coefficient.
例えば、2つのマイクロホンアレイを使用する場合、目的エリア音振幅スペクトルの補正係数は、以下の(5)式及び(6)式の組み合わせ、又は以下の(7)式及び(8)式の組み合わせにより算出することができる。ここで、Y1k(n)は第1のマイクロホンアレイのBF出力の振幅スペクトルであり、Y2k(n)は第2のマイクロホンアレイのBF出力の振幅スペクトルであり、Nは周波数ビンの総数であり、kは周波数である。また、ここで、α1(n)、α2(n)はそれぞれ各BF出力に対する振幅スペクトル補正係数である。さらに、ここで、modeは最頻値を表し、medeianは中央値を表している。
以上の処理により、減算器220は、補正係数α1(n)、α2(n)を求め、求めた補正係数により各BF出力を補正し、SSすることで、目的エリア方向に存在する非目的エリア音を抽出する。さらに、減算器220は、抽出した非目的エリア音を各BFの出力からSSすることにより目的エリア音を抽出することができる。
By the above processing, the
減算型BF200は、第1のマイクロホンアレイからみた目的エリア方向に存在する非目的エリア音N1(n)を抽出する際、例えば、(9)式に示すように、第1のマイクロホンアレイのBF出力Y1(n)から第2のマイクロホンアレイのBF出力Y2(n)に振幅スペクトル補正係数α2を掛けたものをSSする。減算型BF200は、同様に、以下の(10)式に従い、第2のマイクロホンアレイからみた目的エリア方向に存在する非目的エリア音N2(n)を抽出する。
When extracting the non-target area sound N 1 (n) existing in the direction of the target area viewed from the first microphone array, the
その後、減算型BF200は、以下の(11)式、又は(12)式に従い、各BF出力から非目的エリア音をSSして目的エリア音を抽出する。なお、以下の(11)式は、第1のマイクロホンアレイを基準として、目的エリア音を抽出する場合の処理を示している。また、以下の(12)式は、第2のマイクロホンアレイを基準として目的エリア音を抽出する場合の処理を示している。ここでγ1(n)、γ2(n)は、SS時の強度を変更するための係数である。
ところで、背景雑音や非目的エリア音の音量レベルが大きい場合、目的エリア音抽出の際に行うSSにより、目的エリア音が歪んだり、ミュージカルノイズという耳障りな異音が発生する可能性がある。 By the way, when the volume level of the background noise or the non-target area sound is large, the target area sound may be distorted or annoying abnormal noise such as musical noise may occur due to SS performed at the time of extracting the target area sound.
そこで、特許文献3の手法では、背景雑音と非目的エリア音の大きさに応じて、マイクの入力信号と推定雑音の音量レベルをそれぞれ調節し、抽出した目的エリア音に混合している。 Therefore, in the method of Patent Document 3, the volume levels of the microphone input signal and the estimated noise are adjusted according to the loudness of the background noise and the non-target area sound, respectively, and are mixed with the extracted target area sound.
目的エリア音を抽出する処理により発生するミュージカルノイズは、背景雑音と非目的エリア音の音量レベルが大きいほど強くなるため、特許文献3の手法では、混合する入力信号と推定雑音の総和の音量レベルも、背景雑音と非目的エリア音の音量レベルに比例して大きくしている。 Since the musical noise generated by the process of extracting the target area sound increases as the volume levels of the background noise and the non-target area sound increase, the technique of Patent Document 3 discloses the technique of Japanese Patent Application Laid-Open No. H11-157100. Are also increased in proportion to the volume levels of the background noise and the non-target area sound.
具体的には、特許文献3の手法において、背景雑音の音量レベルは、背景雑音を抑圧する過程で求める推定雑音から算出する。また、特許文献3の手法では、非目的エリア音の音量レベルは、目的エリア音を強調する過程で抽出する目的エリア方向に存在する非目的エリア音と、目的エリア方向以外に存在する非目的エリア音を合わせたものから算出する。さらに、特許文献3の手法では、混合する入力信号と推定雑音の比率は、推定雑音と非目的エリア音の音量レベルから決定する。 Specifically, in the technique of Patent Document 3, the volume level of the background noise is calculated from the estimated noise obtained in the process of suppressing the background noise. Further, in the method of Patent Document 3, the volume level of the non-target area sound is divided into the non-target area sound existing in the target area direction extracted in the process of emphasizing the target area sound and the non-target area sound existing outside the target area direction. Calculated from the combined sound. Further, in the method of Patent Document 3, the ratio between the input signal to be mixed and the estimated noise is determined from the volume level of the estimated noise and the non-target area sound.
目的エリアの近くに非目的エリア音が存在する場合、混合する入力信号の音量レベルが大きすぎると目的エリア音に非目的エリア音が混入し、どちらが目的エリア音なのかが分からなくなってしまう。そこで、特許文献3の手法では、非目的エリア音が大きいときは混合する入力信号の音量レベルを下げ、推定雑音の音量レベルを大きくして混合する。つまり、特許文献3の手法では、非目的エリア音が存在しないか音量レベルが小さい場合は入力信号の割合を多くし、逆に非目的エリア音の音量レベルが大きい場合推定雑音の割合を多くして混合する。 When the non-target area sound exists near the target area, if the volume level of the input signal to be mixed is too high, the non-target area sound is mixed with the target area sound, and it is difficult to know which is the target area sound. Therefore, in the method of Patent Document 3, when the non-target area sound is loud, the volume level of the input signal to be mixed is lowered, and the volume level of the estimated noise is increased to mix. That is, in the method of Patent Document 3, when the non-target area sound does not exist or the volume level is low, the ratio of the input signal is increased, and when the volume level of the non-target area sound is high, the ratio of the estimated noise is increased. Mix.
このように特許文献3の手法を用いれば、目的エリア音に入力信号及び推定雑音を混合することにより、ミュージカルノイズをマスキングし、通常の背景雑音のように違和感なく聞かせることができる。さらに、特許文献3の手法では、マイク入力信号に含まれる目的エリア音の成分により、目的エリア音の歪みを補正し、音質を改善することができる。 Thus, by using the method of Patent Document 3, by mixing the input signal and the estimated noise with the sound of the target area, the musical noise can be masked and can be heard without discomfort like ordinary background noise. Further, according to the method of Patent Document 3, distortion of the target area sound can be corrected by the component of the target area sound included in the microphone input signal, and the sound quality can be improved.
しかしながら、特許文献3の手法では、目的エリアの近くに非目的エリア音が存在する場合、混合する入力信号のレベルを下げるため、非目的エリア音の混入は抑えることができるが、目的エリア音の歪みを改善する効果は低くなってしまう。 However, according to the method disclosed in Patent Document 3, when a non-target area sound exists near the target area, the level of the input signal to be mixed is reduced, so that mixing of the non-target area sound can be suppressed. The effect of improving distortion is reduced.
そのため、より少ない歪みの目的エリア音を収音する収音装置、プログラム及び方法が望まれている。 Therefore, a sound collecting device, a program, and a method for collecting a target area sound with less distortion are desired.
第1の本発明の収音装置は、(1)複数のマイクロホンアレイから入力された入力信号に基づいて、それぞれの前記マイクロホンアレイのビームフォーマ出力を取得し、取得したビームフォーマ出力を用いて目的エリアを音源とする目的エリア音を抽出する目的エリア音抽出手段と、(2)それぞれの前記マイクロホンアレイの入力信号の平均振幅スペクトルを比較した結果に基づいていずれかの前記マイクロホンアレイの入力信号を混合信号として選択する選択手段と、(3)前記目的エリア音抽出手段で抽出された目的エリア音に前記選択手段で選択された前記マイクロホンアレイの入力信号を混合信号として混合する信号混合手段と、(4)前記選択手段が混合した混合後信号を出力する出力手段とを有することを特徴とする。 According to a first aspect of the present invention, there is provided a sound collecting apparatus which (1) acquires beamformer outputs of the respective microphone arrays based on input signals inputted from a plurality of microphone arrays, and uses the acquired beamformer outputs. A target area sound extracting means for extracting a target area sound having an area as a sound source; and (2) an input signal of any one of the microphone arrays based on a result of comparing average amplitude spectra of input signals of the respective microphone arrays. Selecting means for selecting as a mixed signal; (3) signal mixing means for mixing, as a mixed signal, the input signal of the microphone array selected by the selecting means with the target area sound extracted by the target area sound extracting means; (4) The selection means has an output means for outputting a mixed signal after mixing.
第2の本発明の収音プログラムは、コンピュータを、(1)複数のマイクロホンアレイから入力された入力信号に基づいて、それぞれの前記マイクロホンアレイのビームフォーマ出力を取得し、取得したビームフォーマ出力を用いて目的エリアを音源とする目的エリア音を抽出する目的エリア音抽出手段と、(2)それぞれの前記マイクロホンアレイの入力信号の平均振幅スペクトルを比較した結果に基づいていずれかの前記マイクロホンアレイの入力信号を混合信号として選択する選択手段と、(3)前記目的エリア音抽出手段で抽出された目的エリア音に前記選択手段で選択された前記マイクロホンアレイの入力信号を混合信号として混合する信号混合手段と、(4)前記選択手段が混合した混合後信号を出力する出力手段として機能させることを特徴とする。 A sound collection program according to a second aspect of the present invention provides a computer which (1) acquires beamformer outputs of the respective microphone arrays based on input signals input from a plurality of microphone arrays, and outputs the acquired beamformer outputs. A target area sound extracting means for extracting a target area sound using the target area as a sound source, and (2) comparing one of the microphone arrays based on a result of comparing average amplitude spectra of input signals of the microphone arrays. Selecting means for selecting an input signal as a mixed signal; and (3) signal mixing for mixing an input signal of the microphone array selected by the selecting means with a target area sound extracted by the target area sound extracting means as a mixed signal. And (4) functioning as output means for outputting a mixed signal mixed by the selection means. And wherein the Rukoto.
第3の本発明は、収音装置が行う収音方法において、(1)目的エリア音抽出手段、選択手段、信号混合手段、出力手段を備え、(2)前記目的エリア音抽出手段は、複数のマイクロホンアレイから入力された入力信号に基づいて、それぞれの前記マイクロホンアレイのビームフォーマ出力を取得し、取得したビームフォーマ出力を用いて目的エリアを音源とする目的エリア音を抽出し、(3)前記選択手段は、それぞれの前記マイクロホンアレイの入力信号の平均振幅スペクトルを比較した結果に基づいていずれかの前記マイクロホンアレイの入力信号を混合信号として選択し、(4)前記信号混合手段は、前記目的エリア音抽出手段で抽出された目的エリア音に前記選択手段で選択された前記マイクロホンアレイの入力信号を混合信号として混合し、(5)前記出力手段は、前記選択手段が混合した混合後信号を出力することを特徴とする。 According to a third aspect of the present invention, there is provided a sound collection method performed by a sound collection device, comprising: (1) a target area sound extraction unit, a selection unit, a signal mixing unit, and an output unit; (3) acquiring a beamformer output of each of the microphone arrays based on an input signal input from the microphone array, and extracting a target area sound having a target area as a sound source using the acquired beamformer output. The selection means selects one of the microphone array input signals as a mixed signal based on a result of comparing the average amplitude spectra of the input signals of the microphone arrays, and (4) the signal mixing means The input signal of the microphone array selected by the selection means is added to the target area sound extracted by the target area sound extraction means as a mixed signal. Mixed Te, (5) and the output means, and outputs the mixed signal after said selecting means are combined.
本発明によれば、より少ない歪みの目的エリア音を収音する収音装置、プログラム及び方法を提供することができる。 According to the present invention, it is possible to provide a sound collecting apparatus, a program, and a method for collecting a target area sound with less distortion.
(A)第1の実施形態
以下、本発明による収音装置、プログラム及び方法の第1の実施形態を、図面を参照しながら詳述する。
(A) First Embodiment Hereinafter, a first embodiment of a sound collection device, a program, and a method according to the present invention will be described in detail with reference to the drawings.
(A−1)第1の実施形態の構成
図1は、この実施形態の収音装置100の機能的構成について示したブロック図である。
(A-1) Configuration of First Embodiment FIG. 1 is a block diagram showing a functional configuration of a
収音装置100は、2つのマイクロホンアレイMA(MA1、MA2)を用いて、目的エリアの音源からの目的エリア音を収音する目的エリア音収音処理を行う。
The
マイクロホンアレイMA1、MA2は、目的エリアが存在する空間の任意の場所に配置される。目的エリアに対するマイクロホンアレイMA1、MA2の位置は、指向性が目的エリアでのみ重なればどこでも良く、例えば目的エリアを挟んで対向に配置しても良い。各マイクロホンアレイMAは2つ以上のマイクロホンMから構成され、各マイクロホンMにより音響信号を収音する。この実施形態では、各マイクロホンアレイMAに、音響信号を収音する2つのマイクロホンM(M1、M2)が配置されるものとして説明する。すなわち、各マイクロホンアレイMAは、2chマイクロホンアレイを構成している。なお、マイクロホンアレイMAの数は2つに限定するものではなく、目的エリアが複数存在する場合、全てのエリアをカバーできる数のマイクロホンアレイMAを配置する必要がある。 The microphone arrays MA1 and MA2 are arranged at any place in the space where the target area exists. The positions of the microphone arrays MA1 and MA2 with respect to the target area may be anywhere as long as the directivity overlaps only in the target area. For example, the microphone arrays MA1 and MA2 may be arranged to face each other across the target area. Each microphone array MA includes two or more microphones M, and each microphone M collects an acoustic signal. In this embodiment, a description will be given assuming that two microphones M (M1, M2) that collect sound signals are arranged in each microphone array MA. That is, each microphone array MA constitutes a 2ch microphone array. Note that the number of microphone arrays MA is not limited to two, and when there are a plurality of target areas, it is necessary to arrange the number of microphone arrays MA that can cover all the areas.
収音装置100は、信号入力部101、雑音抑圧部102、指向性形成部103、遅延補正部104、空間座標データ105、補正係数算出部106、目的エリア音抽出部107、混合信号選択部108、信号混合部109、及び信号出力部110を備える。
The
収音装置100を構成する各機能ブロックの詳細処理については後述する。
Detailed processing of each functional block configuring the
収音装置100は、全てハードウェア(例えば、専用チップ等)により構成するようにしてもよいし一部又は全部についてソフトウェア(プログラム)として構成するようにしてもよい。収音装置100は、例えば、プロセッサ及びメモリを有するコンピュータにプログラム(実施形態の判定プログラムや収音プログラムを含む)をインストールすることにより構成するようにしてもよい。
The
(A−2)第1の実施形態の動作
次に、以上のような構成を有する第1の実施形態の収音装置100の動作(実施形態に係る収音方法)を説明する。
(A-2) Operation of First Embodiment Next, an operation (a sound collection method according to the embodiment) of the
信号入力部101は、各マイクロホンアレイで収音した音響信号をアナログ信号からデジタル信号に変換し入力する。その後、例えば高速フーリエ変換を用いて時間領域から周波数領域へ変換する。
The
雑音抑圧部102は、信号入力部101で取得した信号に含まれる背景雑音の成分を推定し、抑圧する。雑音抑圧部102による雑音抑圧には、例えば、SSやウィーナーフィルタリング法(Wiener Filtering)などを用いることができる。
The
指向性形成部103は、マイクロホンアレイ毎に雑音抑圧部により背景雑音を抑圧した信号に対し、(4)式に従いBFにより目的エリア方向に指向性を形成する。
The
遅延補正部104は、目的エリアと各マイクロホンアレイの距離の違いにより発生する遅延を算出し、補正する。遅延補正部104は、まず空間座標データ105から目的エリアの位置と各マイクロホンアレイの位置を取得し、各マイクロホンアレイヘの目的エリア音の到達時間の差を算出する。次に最も目的エリアから遠い位置に配置されたマイクロホンアレイを基準として、全てのマイクロホンアレイに目的エリア音が同時に到達するように遅延を加える。
The
空間座標データ105は、全ての目的エリアと各マイクロホンアレイと各マイクロホンアレイを構成するマイクロホンの位置情報を保持している。空間座標データ105が各マイクロホンアレイの各マイクロホンの位置情報を保持する方法や、空間座標データ105が保持する位置情報の具体的な形式は限定されないものであり、種々のデータ形式を適用することができる。
The spatial coordinate
補正係数算出部106は、各BF出力に含まれる目的エリア音成分の振幅スペクトルを同じにするための補正係数を(5)、(6)式または(7)、(8)式に従い算出する。
The correction
目的エリア音抽出部107は、補正係数算出部5で算出した補正係数により補正した各BF出力データを(9)、もしくは(10)式に従いSSし、目的エリア方向に存在する非目的エリア音を抽出する。さらに抽出した雑音を各BFの出力から(1O)、もしくは(11)式に従いSSすることにより目的エリア音を抽出する。
The target area
混合信号選択部108は、各マイクロホンアレイを構成するマイクロホンの入力信号の中で、最も平均振幅スペクトルが小さい信号を、混合信号として選択する。2chのマイクロホンアレイMA1、MA2を用いエリア収音を行う場合、混合信号選択部108では、以下の(13)式、(14)式に従った処理により混合信号XMIX(n)を選択することができる。
The mixed
なお、以下の数式以外の文章部分(テキスト部分)では、使用可能な文字(記号)の都合上、(13)式等の数式における「X」に上線(オーバーライン;バー)が付された記号を「^X」と書き換えて記載するものとする。例えば、以下の(13)式は、「^Xij(n)=min(^X11(n)、^X12(n)、^X21(n)、^X22(n))」と書き換えて記載される。 In addition, in a sentence portion (text portion) other than the following mathematical formulas, for convenience of usable characters (symbols), a symbol in which “X” in mathematical formulas such as formula (13) is overlined (overline; bar) Is rewritten as “ΔX”. For example, the following expression (13) is expressed as “^ X ij (n) = min (^ X 11 (n), ^ X 12 (n), ^ X 21 (n), ^ X 22 (n))”. Rewritten and described.
ここで、^X11(n)、^X12(n)は、それぞれマイクロホンアレイMA1を構成するマイクロホンM1、M2の入力信号(X11(n)、X12(n))の平均振幅スペクトルである。また、^X21(n)、^X22(n)は、それぞれマイクロホンアレイMA2を構成するマイクロホンM1、M2の入力信号(X21(n)、X22(n))の平均振幅スペクトルである。さらに、iはマイクロホンアレイの番号(識別子)であり、jはマイクロホンアレイを構成するマイクロホンの番号(識別子)である。ここでは、マイクロホンアレイMA1の番号を1、マイクロホンアレイMA2の番号を2と表すものとする。また、ここでは、マイクロホンM1の番号を1、マイクロホンM2の番号を2と表すものとする。
なお、混合信号選択部108において、混合信号としてX11(n)もしくはX12(n)が選択された場合、混合信号は、以下の(15)式のように、マイクロホンアレイを構成するマイクロホンの入力信号の加算平均としても良い。なお平均振幅スペクトルは、全帯域ではなく、周波数の上限と下限を設けて帯域制限しても良い。
信号混合部109は、目的エリア音抽出部107で抽出した目的エリア音に、混合信号選択部108で選択した入力信号を混合する。例えば、信号混合部109が、式(11)に従いマイクロホンアレイMA1を基準としてエリア収音を行う場合、最終的な出力W1(n)は以下の(16)式に従い混合される。ここで、μは混合する信号の大きさを調整するパラメータである。
信号混合部109では、混合を行った出力信号に位相を復元する際、位相情報としては、目的エリア音抽出部107において基準としたマイクロホンアレイを構成するマイクロホンの入力信号の加算平均、もしくはどれか1つのマイクロホンの入力信号を使用するようにしてもよい。また、信号混合部109では、混合信号として選択した入力信号の位相を使用しても良い。
When restoring the phase to the mixed output signal in the
例えば、信号混合部109において、(11)式により目的エリア音を抽出した場合、マイクロホンアレイMA1を基準としている。したがって、信号混合部109は、入力信号X11(n)とX12(n)の加算平均、又は、X11(n)若しくはX12(n)どちらかの位相情報を用いて、出力信号に位相を復元するようにしてもよい。
For example, in the
さらに、信号混合部109において、信号の混合処理は、目的エリア音と混合信号の振幅スペクトルにそれぞれ位相情報を復元した後に行っても良い。この場合、信号混合部109では、位相復元に使用する情報は目的エリア音と混合信号で別々にすることができる。例えば、信号混合部109では、目的エリア音には、目的エリア音抽出部107において基準としたマイクロホンアレイを構成するマイクロホンの入力信号の加算平均、もしくは基準としたマイクロホンアレイを構成するマイクロホンの内どれか1つの入力信号を適用し、混合信号には、混合信号として選択した入力信号の位相を使用するようにしてもよい。
Further, in the
信号出力部110は、信号混合部109において処理した出力信号を、周波数領域から時間領域へ変換し、出力する。
The
以上のように、混合信号選択部108は、混合信号として、エリア収音に使用する全マイクロホンの入力信号の平均振幅スペクトルを比較し、最も平均振幅スペクトルが小さい信号を選択する。さらに、第1の実施形態では、特定のエリアを収音する場合、マイクロホンアレイを収音エリアの周囲に設置することが望ましい。
As described above, the mixed
(A−3)第1の実施形態の効果
第1の実施形態によれば、以下のような効果を奏することができる。
(A-3) Effects of First Embodiment According to the first embodiment, the following effects can be obtained.
第1の実施形態の収音装置100では、各マイクロホンアレイの入力信号の中で、最も平均振幅スペクトルの小さいものを混合信号として選択することで、目的エリアの近くに非目的エリア音が存在する場合においても、混合後の非目的エリア音の混入を抑え、目的エリア音の歪みを改善することができる。
In the
図2は、各マイクロホンアレイの位置と、各音源の位置(目的エリア音及び非目的エリア音の音源の位置)との関係について示した説明図(イメージ図である)である。 FIG. 2 is an explanatory diagram (image diagram) showing the relationship between the position of each microphone array and the position of each sound source (the position of the sound source of the target area sound and the non-target area sound).
第1の実施形態において、各マイクロホンアレイから収音エリアの中心までは等距離であるものとすると、目的エリア音は、各マイクロホンアレイを構成するマイクロホン全てに同じ音量で入力される(図2(a)参照)。一方、非目的エリア音が存在する位置は、各マイクロホンアレイからの距離が異なる。そのため、各マイクロホンアレイの信号に含まれる非目的エリア音の音量は、距離減衰によって違う大きさとなる。また、1つのマイクロホンアレイを構成する各マイクロホンにおいても、非目的エリア音がマイクロホンアレイの正面以外に存在する場合、非目的エリア音と各マイクロホンとの距離が違うため、音量に差が生じる(図2(b)参照)。つまり、非目的エリア音から最も遠い位置にあるマイクロホンの入力信号は、含まれる非目的エリア音が最も小さくなる。目的エリア音は、全てのマイクロホンに同じ音量で含まれているので、全マイクロホンの中で1番平均振幅スペクトルが小さい入力信号は、SN比が最も高いことになる。そのため、第1の実施形態では、目的エリアの近くに非目的エリア音が存在する場合においても、混合後の非目的エリア音の混入を抑え、目的エリア音の歪みを改善するという効果を奏することができる。 In the first embodiment, assuming that the distance from each microphone array to the center of the sound pickup area is equal, the target area sound is input to all the microphones constituting each microphone array at the same volume (FIG. 2 ( a)). On the other hand, the position where the non-target area sound exists has a different distance from each microphone array. Therefore, the volume of the non-target area sound included in the signal of each microphone array has a different magnitude due to the distance attenuation. Also, in each microphone constituting one microphone array, if the non-target area sound exists other than in front of the microphone array, the distance between the non-target area sound and each microphone is different, so that a difference occurs in the sound volume (see FIG. 2 (b)). That is, the input signal of the microphone located farthest from the non-target area sound includes the smallest non-target area sound. Since the target area sound is included in all the microphones at the same volume, the input signal having the smallest average amplitude spectrum among all the microphones has the highest SN ratio. Therefore, in the first embodiment, even when a non-target area sound exists near the target area, the effect of suppressing the mixing of the mixed non-target area sound and improving the distortion of the target area sound is obtained. Can be.
(B)第2の実施形態
以下、本発明による収音装置、プログラム及び方法の第2の実施形態を、図面を参照しながら詳述する。
(B) Second Embodiment Hereinafter, a second embodiment of a sound collection device, a program, and a method according to the present invention will be described in detail with reference to the drawings.
(B−1)第2の実施形態の構成
図3は、第2の実施形態の収音装置100Aに係る機能的構成について示したブロック図であり、上述の図1と同一部分又は対応部分については同一符号又は対応符号を付している。
(B-1) Configuration of Second Embodiment FIG. 3 is a block diagram showing a functional configuration of a
以下では、第2の実施形態について第1の実施形態との差異を説明する。 Hereinafter, differences between the second embodiment and the first embodiment will be described.
第2の実施形態の収音装置100Aでは、マイクロホンアレイ選択部11が追加されている点で第1の実施形態と異なっている。また、第2の実施形態の収音装置100Aでは、目的エリア音抽出部107が、目的エリア音抽出部107Aに置き換わっている点で第1の実施形態と異なっている。さらに、第2の実施形態では、混合信号選択部108の処理結果がマイクロホンアレイ選択部111及び目的エリア音抽出部107Aに供給される点で第1の実施形態と異なっている。
The
収音装置100Aを構成する各機能ブロックの詳細処理については後述する。
Detailed processing of each functional block configuring the
(B−2)第2の実施形態の動作
次に、以上のような構成を有する第2の実施形態の収音装置100Aの動作(実施形態に係る収音方法)について、第1の実施形態との差異を中心に説明する。
(B-2) Operation of the Second Embodiment Next, the operation (sound collection method according to the embodiment) of the
マイクロホンアレイ選択部111は、混合信号選択部108によって選択された混合信号によって、目的エリア音抽出部107において基準とするマイクロホンアレイ(MA1又はMA2)を選択する。
The microphone
例えば、マイクロホンアレイ選択部111が、混合信号としてマイクロホンアレイMA1を構成するマイクロホンの入力信号X11(n)を選択した場合、基準となるマイクロホンアレイとして、マイクロホンアレイMA1が選択されたことになる。この場合、目的エリア音抽出部107A、では(11)式に従って目的エリア音を抽出することになる。
For example, when the microphone
(B−3)第2の実施形態の効果
第2の実施形態によれば、第1の実施形態と比較して以下のような効果を奏することができる。
(B-3) Effects of the Second Embodiment According to the second embodiment, the following effects can be obtained as compared with the first embodiment.
第2の実施形態では、目的エリア音抽出部107Aが、混合信号選択部108によって選択された混合信号の供給元となるマイクロホンアレイ(マイクロホンアレイ選択部111が選択したマイクロホンアレイ)を基準とした目的エリア音の抽出処理を行う。これにより、第2の実施形態の収音装置100Aでは、混合信号と目的エリア音抽出処理で用いる信号の供給元(供給元のマイクロホンアレイ)が一致するため、目的エリア音の歪みをより改善するという効果を奏することができる。
In the second embodiment, the target area
(C)他の実施形態
本発明は、上記の各実施形態に限定されるものではなく、以下に例示するような変形実施形態も挙げることができる。
(C) Other Embodiments The present invention is not limited to the above embodiments, but may include modified embodiments as exemplified below.
(C−1)上記の各実施形態の収音装置では、収音に用いる各マイクロホンアレイMAのマイクロホンの数は2つであったが、3つ以上のマイクを用いて収音した音響信号に基づいて目的エリア方向の音を収音するようにしてもよい。上記の各実施形態において、適用するマイクロホンアレイMA毎のマイクロホンの数や目的音方向の音を収音する方式については、既存の種々の方式を適用することができる。 (C-1) In the sound collection device of each of the above embodiments, the number of microphones of each microphone array MA used for sound collection is two, but the number of microphones used for sound collection is three or more. The sound in the direction of the target area may be collected based on the sound. In each of the above embodiments, various existing systems can be applied to the number of microphones for each microphone array MA to be applied and the system for collecting sound in the target sound direction.
100…収音装置、M1、M2…マイクロホン、MA1、MA2…マイクロホンアレイ、101…信号入力部、102…雑音抑圧部、103…指向性形成部、104…遅延補正部、105…空間座標データ、106…補正係数算出部、107…目的エリア音抽出部、108…混合信号選択部、109…信号混合部、110…信号出力部。 100: sound collecting device, M1, M2: microphone, MA1, MA2: microphone array, 101: signal input unit, 102: noise suppression unit, 103: directivity forming unit, 104: delay correction unit, 105: spatial coordinate data, 106: correction coefficient calculation unit, 107: target area sound extraction unit, 108: mixed signal selection unit, 109: signal mixing unit, 110: signal output unit.
第1の本発明の収音装置は、(1)複数のマイクロホンアレイから入力された入力信号に基づいて、それぞれの前記マイクロホンアレイのビームフォーマ出力を取得し、取得したビームフォーマ出力を用いて目的エリアを音源とする目的エリア音を抽出する目的エリア音抽出手段と、(2)それぞれの前記マイクロホンアレイの入力信号の平均振幅スペクトルを比較した結果に基づいていずれかの前記マイクロホンアレイの入力信号を混合信号として選択する選択手段と、(3)前記目的エリア音抽出手段で抽出された目的エリア音に前記選択手段で選択された前記マイクロホンアレイの入力信号を混合信号として混合する信号混合手段と、(4)前記選択手段が混合した混合後信号を出力する出力手段とを有し、(5)前記選択手段は、複数の前記マイクロホンアレイの入力信号の中で平均振幅スペクトルが最小の信号を前記混合信号として選択することを特徴とする。 According to a first aspect of the present invention, there is provided a sound collecting apparatus which (1) acquires beamformer outputs of the respective microphone arrays based on input signals inputted from a plurality of microphone arrays, and uses the acquired beamformer outputs. A target area sound extracting means for extracting a target area sound having an area as a sound source; and (2) an input signal of any one of the microphone arrays based on a result of comparing average amplitude spectra of input signals of the respective microphone arrays. Selecting means for selecting as a mixed signal; (3) signal mixing means for mixing, as a mixed signal, the input signal of the microphone array selected by the selecting means with the target area sound extracted by the target area sound extracting means; (4) possess and output means for outputting a mixed signal after said selection means are mixed, (5) the selection means, double Average amplitude spectrum in the input signal of the microphone array and selects the minimum signal as the mixing signal.
第2の本発明の収音プログラムは、コンピュータを、(1)複数のマイクロホンアレイから入力された入力信号に基づいて、それぞれの前記マイクロホンアレイのビームフォーマ出力を取得し、取得したビームフォーマ出力を用いて目的エリアを音源とする目的エリア音を抽出する目的エリア音抽出手段と、(2)それぞれの前記マイクロホンアレイの入力信号の平均振幅スペクトルを比較した結果に基づいていずれかの前記マイクロホンアレイの入力信号を混合信号として選択する選択手段と、(3)前記目的エリア音抽出手段で抽出された目的エリア音に前記選択手段で選択された前記マイクロホンアレイの入力信号を混合信号として混合する信号混合手段と、(4)前記選択手段が混合した混合後信号を出力する出力手段として機能させ、(5)前記選択手段は、複数の前記マイクロホンアレイの入力信号の中で平均振幅スペクトルが最小の信号を前記混合信号として選択することを特徴とする。 A sound collection program according to a second aspect of the present invention provides a computer which (1) acquires beamformer outputs of the respective microphone arrays based on input signals input from a plurality of microphone arrays, and outputs the acquired beamformer outputs. A target area sound extracting means for extracting a target area sound using the target area as a sound source, and (2) comparing one of the microphone arrays based on a result of comparing average amplitude spectra of input signals of the microphone arrays. Selecting means for selecting an input signal as a mixed signal; and (3) signal mixing for mixing an input signal of the microphone array selected by the selecting means with a target area sound extracted by the target area sound extracting means as a mixed signal. And (4) functioning as output means for outputting a mixed signal mixed by the selection means. , (5) the selection means, the average amplitude spectrum in the plurality of input signals of the microphone array, characterized in you to select a minimum signal as the mixing signal.
第3の本発明は、収音装置が行う収音方法において、(1)目的エリア音抽出手段、選択手段、信号混合手段、出力手段を備え、(2)前記目的エリア音抽出手段は、複数のマイクロホンアレイから入力された入力信号に基づいて、それぞれの前記マイクロホンアレイのビームフォーマ出力を取得し、取得したビームフォーマ出力を用いて目的エリアを音源とする目的エリア音を抽出し、(3)前記選択手段は、それぞれの前記マイクロホンアレイの入力信号の平均振幅スペクトルを比較した結果に基づいていずれかの前記マイクロホンアレイの入力信号を混合信号として選択し、(4)前記信号混合手段は、前記目的エリア音抽出手段で抽出された目的エリア音に前記選択手段で選択された前記マイクロホンアレイの入力信号を混合信号として混合し、(5)前記出力手段は、前記選択手段が混合した混合後信号を出力し、(6)前記選択手段は、複数の前記マイクロホンアレイの入力信号の中で平均振幅スペクトルが最小の信号を前記混合信号として選択することを特徴とする。
According to a third aspect of the present invention, there is provided a sound collection method performed by a sound collection device, comprising: (1) a target area sound extraction unit, a selection unit, a signal mixing unit, and an output unit; (3) acquiring a beamformer output of each of the microphone arrays based on an input signal input from the microphone array, and extracting a target area sound having a target area as a sound source using the acquired beamformer output. The selection means selects one of the microphone array input signals as a mixed signal based on a result of comparing the average amplitude spectra of the input signals of the microphone arrays, and (4) the signal mixing means The input signal of the microphone array selected by the selection means is added to the target area sound extracted by the target area sound extraction means as a mixed signal. Mixed Te, (5) said output means outputs the mixed signal after said selection means are mixed, (6) the selection means, the average amplitude spectrum in the plurality of input signals of the microphone array is smallest A signal is selected as the mixed signal .
Claims (6)
それぞれの前記マイクロホンアレイの入力信号の平均振幅スペクトルを比較した結果に基づいていずれかの前記マイクロホンアレイの入力信号を混合信号として選択する選択手段と、
前記目的エリア音抽出手段で抽出された目的エリア音に前記選択手段で選択された前記マイクロホンアレイの入力信号を混合信号として混合する信号混合手段と、
前記選択手段が混合した混合後信号を出力する出力手段と
を有することを特徴とする収音装置。 A target area sound for acquiring a beamformer output of each of the microphone arrays based on input signals input from a plurality of microphone arrays, and extracting a target area sound having a target area as a sound source using the acquired beamformer outputs; Extraction means;
Selecting means for selecting an input signal of any one of the microphone arrays as a mixed signal based on a result of comparing the average amplitude spectra of the input signals of the respective microphone arrays,
Signal mixing means for mixing the input signal of the microphone array selected by the selection means with the target area sound extracted by the target area sound extraction means as a mixed signal,
An output unit for outputting a mixed signal mixed by the selection unit.
複数のマイクロホンアレイから入力された入力信号に基づいて、それぞれの前記マイクロホンアレイのビームフォーマ出力を取得し、取得したビームフォーマ出力を用いて目的エリアを音源とする目的エリア音を抽出する目的エリア音抽出手段と、
それぞれの前記マイクロホンアレイの入力信号の平均振幅スペクトルを比較した結果に基づいていずれかの前記マイクロホンアレイの入力信号を混合信号として選択する選択手段と、
前記目的エリア音抽出手段で抽出された目的エリア音に前記選択手段で選択された前記マイクロホンアレイの入力信号を混合信号として混合する信号混合手段と、
前記選択手段が混合した混合後信号を出力する出力手段と
して機能させることを特徴とする収音プログラム。 Computer
A target area sound for acquiring a beamformer output of each of the microphone arrays based on input signals input from a plurality of microphone arrays, and extracting a target area sound having a target area as a sound source using the acquired beamformer outputs; Extraction means;
Selecting means for selecting an input signal of any one of the microphone arrays as a mixed signal based on a result of comparing the average amplitude spectra of the input signals of the respective microphone arrays,
Signal mixing means for mixing the input signal of the microphone array selected by the selection means with the target area sound extracted by the target area sound extraction means as a mixed signal,
A sound collection program characterized by causing the selection means to function as an output means for outputting a mixed signal after mixing.
目的エリア音抽出手段、選択手段、信号混合手段、出力手段を備え、
前記目的エリア音抽出手段は、複数のマイクロホンアレイから入力された入力信号に基づいて、それぞれの前記マイクロホンアレイのビームフォーマ出力を取得し、取得したビームフォーマ出力を用いて目的エリアを音源とする目的エリア音を抽出し、
前記選択手段は、それぞれの前記マイクロホンアレイの入力信号の平均振幅スペクトルを比較した結果に基づいていずれかの前記マイクロホンアレイの入力信号を混合信号として選択し、
前記信号混合手段は、前記目的エリア音抽出手段で抽出された目的エリア音に前記選択手段で選択された前記マイクロホンアレイの入力信号を混合信号として混合し、
前記出力手段は、前記選択手段が混合した混合後信号を出力する
ことを特徴とする収音方法。 In the sound pickup method performed by the sound pickup device,
Target area sound extraction means, selection means, signal mixing means, output means,
The target area sound extracting means obtains a beamformer output of each of the microphone arrays based on input signals input from a plurality of microphone arrays, and uses the obtained beamformer outputs to set a target area as a sound source. Extract area sounds,
The selecting means selects any one of the microphone array input signals as a mixed signal based on a result of comparing the average amplitude spectrum of the respective microphone array input signals,
The signal mixing unit mixes the input signal of the microphone array selected by the selection unit with the target area sound extracted by the target area sound extraction unit as a mixed signal,
The sound pickup method, wherein the output means outputs a mixed signal mixed by the selection means.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018159969A JP6624256B1 (en) | 2018-08-29 | 2018-08-29 | Sound pickup device, program and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018159969A JP6624256B1 (en) | 2018-08-29 | 2018-08-29 | Sound pickup device, program and method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6624256B1 JP6624256B1 (en) | 2019-12-25 |
JP2020036139A true JP2020036139A (en) | 2020-03-05 |
Family
ID=69101070
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018159969A Active JP6624256B1 (en) | 2018-08-29 | 2018-08-29 | Sound pickup device, program and method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6624256B1 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114927141B (en) * | 2022-07-19 | 2022-10-25 | 中国人民解放军海军工程大学 | Method and system for detecting abnormal underwater acoustic signals |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016127457A (en) * | 2015-01-05 | 2016-07-11 | 沖電気工業株式会社 | Sound pickup device, program and method |
JP2016127459A (en) * | 2015-01-05 | 2016-07-11 | 沖電気工業株式会社 | Sound pickup device, program and method |
JP2017183902A (en) * | 2016-03-29 | 2017-10-05 | 沖電気工業株式会社 | Sound collection device and program |
JP2018132737A (en) * | 2017-02-17 | 2018-08-23 | 沖電気工業株式会社 | Sound pick-up device, program and method, and determining apparatus, program and method |
-
2018
- 2018-08-29 JP JP2018159969A patent/JP6624256B1/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016127457A (en) * | 2015-01-05 | 2016-07-11 | 沖電気工業株式会社 | Sound pickup device, program and method |
JP2016127459A (en) * | 2015-01-05 | 2016-07-11 | 沖電気工業株式会社 | Sound pickup device, program and method |
JP2017183902A (en) * | 2016-03-29 | 2017-10-05 | 沖電気工業株式会社 | Sound collection device and program |
JP2018132737A (en) * | 2017-02-17 | 2018-08-23 | 沖電気工業株式会社 | Sound pick-up device, program and method, and determining apparatus, program and method |
Also Published As
Publication number | Publication date |
---|---|
JP6624256B1 (en) | 2019-12-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6187626B1 (en) | Sound collecting device and program | |
JP6065028B2 (en) | Sound collecting apparatus, program and method | |
JP5772151B2 (en) | Sound source separation apparatus, program and method | |
JP2011124872A (en) | Sound source separation device, method and program | |
JP6540730B2 (en) | Sound collection device, program and method, determination device, program and method | |
JP2017022468A (en) | Sound collection device, program and method | |
JP6943120B2 (en) | Sound collectors, programs and methods | |
JP6436180B2 (en) | Sound collecting apparatus, program and method | |
JP2016163135A (en) | Sound collection device, program and method | |
JP6624256B1 (en) | Sound pickup device, program and method | |
US11095979B2 (en) | Sound pick-up apparatus, recording medium, and sound pick-up method | |
JP6241520B1 (en) | Sound collecting apparatus, program and method | |
US11825264B2 (en) | Sound pick-up apparatus, storage medium, and sound pick-up method | |
JP6624255B1 (en) | Sound pickup device, program and method | |
JP6260666B1 (en) | Sound collecting apparatus, program and method | |
JP6065029B2 (en) | Sound collecting apparatus, program and method | |
JP6725014B1 (en) | Sound collecting device, sound collecting program, and sound collecting method | |
JP5105336B2 (en) | Sound source separation apparatus, program and method | |
JP6669219B2 (en) | Sound pickup device, program and method | |
JP6923025B1 (en) | Sound collectors, programs and methods | |
JP6863004B2 (en) | Sound collectors, programs and methods | |
JP7207170B2 (en) | Sound collection device, sound collection program, sound collection method, and sound collection system | |
JP7158976B2 (en) | Sound collecting device, sound collecting program and sound collecting method | |
JP2024027617A (en) | Voice recognition device, voice recognition program, voice recognition method, sound collection device, sound collection program and sound collection method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180829 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190806 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191004 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191029 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191111 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6624256 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |