JP2017090428A - Method and diagnostic system for extracting diagnostic signal with sound signal - Google Patents
Method and diagnostic system for extracting diagnostic signal with sound signal Download PDFInfo
- Publication number
- JP2017090428A JP2017090428A JP2015254034A JP2015254034A JP2017090428A JP 2017090428 A JP2017090428 A JP 2017090428A JP 2015254034 A JP2015254034 A JP 2015254034A JP 2015254034 A JP2015254034 A JP 2015254034A JP 2017090428 A JP2017090428 A JP 2017090428A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- diagnostic
- noise
- value
- unit time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000005236 sound signal Effects 0.000 title claims abstract description 94
- 238000000034 method Methods 0.000 title claims abstract description 17
- 239000000284 extract Substances 0.000 claims abstract description 17
- 238000000605 extraction Methods 0.000 claims abstract description 16
- 238000003745 diagnosis Methods 0.000 claims description 44
- 230000008859 change Effects 0.000 claims description 42
- 238000001228 spectrum Methods 0.000 claims description 7
- 238000002405 diagnostic procedure Methods 0.000 claims 11
- 238000000926 separation method Methods 0.000 abstract description 36
- 230000003467 diminishing effect Effects 0.000 abstract 1
- 230000002238 attenuated effect Effects 0.000 description 8
- 230000007613 environmental effect Effects 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 4
- 238000001914 filtration Methods 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000013016 damping Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000003292 diminished effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Processing of the speech or voice signal to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/0208—Noise filtering
- G10L21/0264—Noise filtering characterised by the type of parameter measurement, e.g. correlation techniques, zero crossing techniques or predictive techniques
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
- G10L25/18—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being spectral information of each sub-band
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
- G10L25/21—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being power information
Abstract
Description
本発明は、サウンド信号で診断信号を抽出する方法および診断装置に関する。 The present invention relates to a method and apparatus for extracting a diagnostic signal from a sound signal.
診断システムは機械装置の状態を診断する。大部分の診断システムは、診断部位で発生される10〜1khz帯域の振え、つまり、振動を測定して機械装置の状態を診断する。しかし、実際の機械装置の駆動時、言い換えるとランタイム(Run−Time)環境下では機械装置のすべての構成要素が全体的にかみ合っているため、運搬物、作業工程、または関節およびライン動作により診断部位の振動データが影響を受けて診断部位だけでなく、他の部位の振動データまで含まれたりその特性が変わり得るため、測定された振動データはその信頼性が非常に低いと言える。そのため、振動基盤診断システムでは機械装置を停止した後、診断部位だけを動作させて振動を測定する。このように、振動基盤診断システムは診断部位以外の動きや環境的な要素の影響を減らすために、必ず機械装置を停止しなければならないため、駆動中に発生する実質的問題を正確に診断しにくい。 The diagnostic system diagnoses the state of the mechanical device. Most diagnostic systems measure the vibration of the 10-1 kHz band generated at the diagnosis site, that is, the vibration to diagnose the state of the mechanical device. However, when the actual machine is driven, in other words, in a run-time environment, all the components of the machine are totally engaged, so diagnosis is made by the transported goods, work process, or joint and line movements. Since the vibration data of the part is affected and not only the diagnosis part but also vibration data of other parts can be included or its characteristics can be changed, it can be said that the reliability of the measured vibration data is very low. Therefore, in the vibration-based diagnosis system, after stopping the mechanical device, only the diagnosis part is operated to measure vibration. In this way, the vibration-based diagnosis system must always stop the mechanical device in order to reduce the influence of movements and environmental factors other than the diagnosis part, so it can accurately diagnose substantial problems that occur during driving. Hateful.
最近、サウンド基盤診断システムが開発されている。振動は運搬物や作業工程などにより特性が変わり得るが、機械装置の各関節、加/減速器、モータベアリングなどが動作する時に発生されるサウンドは当該部位固有の特性を含む。したがって、サウンド基盤診断システムはランタイム環境下でも駆動中の機械装置で当該部位の状態を診断することができる。 Recently, sound-based diagnostic systems have been developed. The characteristics of vibration may vary depending on the transported object, work process, etc., but the sound generated when each joint of the mechanical device, the accelerator / decelerator, the motor bearing, etc. is operated includes characteristics specific to the part. Therefore, the sound-based diagnosis system can diagnose the state of the part with the mechanical device being driven even in the runtime environment.
しかし、サウンド基盤診断システムは、測定部位で発生したサウンド信号だけでなく、周辺の環境騒音も含まれ得る。したがって、サウンド基盤診断システムは、入力されたサウンド信号で診断部位で発生した信号を正確に抽出することが非常に重要である。しかし、これまでのサウンド基盤診断システムは、入力信号をローパスフィルターやハイパスフィルターを利用して単純フィルタリングする騒音除去技術を主に使用する。このようなフィルタリング方法は、人声のようにサウンドの特徴を予め知っていたり、特徴が明確なサウンドを抽出する時に使用可能である。しかし、このようなフィルタリング方法は不特定多数の駆動中である機械装置で発生される多様で類似するサウンドのうち、診断部位で発生するサウンドだけを正確に抽出するのには限界がある。 However, the sound-based diagnosis system can include not only a sound signal generated at a measurement site but also ambient environmental noise. Therefore, it is very important for the sound-based diagnosis system to accurately extract a signal generated at the diagnosis site from the input sound signal. However, conventional sound-based diagnosis systems mainly use noise reduction technology that simply filters an input signal using a low-pass filter or a high-pass filter. Such a filtering method can be used when a sound characteristic such as a human voice is known in advance or a sound with a clear characteristic is extracted. However, such a filtering method has a limit in accurately extracting only a sound generated at a diagnostic site among various similar sounds generated by an unspecified number of driven mechanical devices.
一方、単純フィルタリングでなく、既存の騒音除去を進行するとしても、実際の環境的な要素やデータ内の実際の特殊状況が全く考慮されていないため、不必要な信号の除去により抽出された信号が歪曲され得る。したがって、これまでのサウンド基盤診断システムはサウンド信号で抽出された診断信号の信頼性が低く、結果的に診断部位の状態を正確に診断しにくい。 On the other hand, even if we proceed with existing noise removal instead of simple filtering, the actual environmental factors and the actual special situation in the data are not considered at all, so the signal extracted by removing unnecessary signals Can be distorted. Therefore, conventional sound-based diagnostic systems have low reliability of the diagnostic signal extracted from the sound signal, and as a result, it is difficult to accurately diagnose the state of the diagnostic part.
本発明が解決しようとする課題は、入力サウンド信号に含まれている信号の相関関係に基づいて入力サウンド信号で騒音信号を実際状況に合うよう可変的に除去して正確に診断信号を抽出する方法および装置を提供することにある。 The problem to be solved by the present invention is to extract a diagnostic signal accurately by variably removing a noise signal from an input sound signal so as to match an actual situation based on a correlation of signals included in the input sound signal. It is to provide a method and apparatus.
本発明の一実施形態によりサウンド信号で診断信号を抽出する診断装置であって、入力サウンド信号を診断信号区間と騒音信号区間に分離する信号分離部と、前記診断信号区間の第1信号と前記騒音信号区間の第2信号の相関関係に基づいて騒音減衰程度を調節する第1パラメータを設定する騒音除去パラメータ設定部と、前記第1パラメータに基づいて前記診断信号区間に含まれている騒音信号を減殺して診断信号を抽出する信号抽出部と、を含む。 A diagnostic apparatus for extracting a diagnostic signal from a sound signal according to an embodiment of the present invention, comprising: a signal separating unit that separates an input sound signal into a diagnostic signal section and a noise signal section; a first signal of the diagnostic signal section; A noise removal parameter setting unit for setting a first parameter for adjusting the degree of noise attenuation based on the correlation of the second signal in the noise signal section; and a noise signal included in the diagnostic signal section based on the first parameter And a signal extraction unit for extracting a diagnostic signal.
前記騒音除去パラメータ設定部は、前記第1信号と前記第2信号の相関係数を計算し、前記相関係数に基づいて前記第1信号で前記第2信号の減衰程度を調節する前記第1パラメータを設定することができる。 The noise removal parameter setting unit calculates a correlation coefficient between the first signal and the second signal, and adjusts the degree of attenuation of the second signal with the first signal based on the correlation coefficient. Parameters can be set.
前記騒音除去パラメータ設定部は、前記第1信号を周波数別に分離し、前記第1信号の周波数別に時間に応じたエネルギー変化パターンを抽出し、前記第2信号を周波数別に分離し、前記第2信号の周波数別に時間に応じたエネルギー変化パターンを抽出し、前記第1信号と前記第2信号の周波数別に抽出したエネルギー変化パターンに基づいて前記第1信号と前記第2信号の周波数別相関係数を計算することができる。 The noise removal parameter setting unit separates the first signal by frequency, extracts an energy change pattern according to time for each frequency of the first signal, separates the second signal by frequency, and extracts the second signal. An energy change pattern corresponding to time is extracted for each frequency of the first signal and the correlation coefficient for each frequency of the first signal and the second signal based on the energy change pattern extracted for each frequency of the first signal and the second signal. Can be calculated.
前記騒音除去パラメータ設定部は、前記周波数別相関係数に基づいて周波数別に前記第1パラメータを設定することができる。 The noise removal parameter setting unit may set the first parameter for each frequency based on the correlation coefficient for each frequency.
前記騒音除去パラメータ設定部は、前記診断信号区間と前記騒音信号区間に含まれている信号のエネルギー値比率に基づいて前記入力サウンド信号の騒音減衰程度を調節する第2パラメータをさらに設定することができる。 The noise removal parameter setting unit may further set a second parameter for adjusting a noise attenuation level of the input sound signal based on an energy value ratio of signals included in the diagnostic signal section and the noise signal section. it can.
前記信号抽出部は、前記第1パラメータと前記第2パラメータを利用して前記診断信号区間で前記診断信号区間に含まれている騒音信号を減殺して前記診断信号を抽出することができる。 The signal extraction unit may extract the diagnostic signal by using the first parameter and the second parameter to attenuate a noise signal included in the diagnostic signal section in the diagnostic signal section.
前記信号分離部は、前記入力サウンド信号を単位時間に切断し、各単位時間の特徴値を計算し、各単位時間の特徴値と基準値を比較して各単位時間の信号を前記騒音信号区間と前記診断信号区間のうちのいずれか一つに分離し、前記特徴値は、信号大きさ変化値、振幅変化値、強さ変化値、エネルギー値、およびスペクトル値のうちのいずれか一つであってもよい。 The signal separation unit cuts the input sound signal into unit time, calculates a feature value of each unit time, compares the feature value of each unit time with a reference value, and converts the signal of each unit time into the noise signal section And the feature value is any one of a signal magnitude change value, an amplitude change value, an intensity change value, an energy value, and a spectrum value. There may be.
前記信号分離部は、前記入力サウンド信号を単位時間に切断し、各単位時間の特徴値を計算し、任意単位時間と前記任意単位時間の以前単位時間の特徴値差に基づいて前記任意単位時間の信号を前記騒音信号区間と前記診断信号区間のうちのいずれか一つに分離し、前記特徴値は、信号大きさ変化値、振幅変化値、強さ変化値、エネルギー値、およびスペクトル値のうちのいずれか一つであってもよい。 The signal separation unit cuts the input sound signal into unit time, calculates a feature value of each unit time, and based on a feature value difference between the arbitrary unit time and the previous unit time of the arbitrary unit time, the arbitrary unit time Is separated into one of the noise signal section and the diagnostic signal section, and the feature value is a signal magnitude change value, an amplitude change value, an intensity change value, an energy value, and a spectrum value. Any one of them may be used.
前記診断装置は、診断地点に付着された少なくとも二つのマイクで測定されたサウンド信号の入力を受け、測定されたサウンド信号の物理的な位相差に基づいて騒音除去を遂行して前記入力サウンド信号を生成するサウンド信号入力部をさらに含むことができる。 The diagnostic apparatus receives an input of a sound signal measured by at least two microphones attached to a diagnosis point, performs noise removal based on a physical phase difference of the measured sound signal, and inputs the input sound signal. May further include a sound signal input unit.
本発明の他の実施形態による診断装置がサウンド信号で診断信号を抽出する方法であって、入力サウンド信号を単位時間に切断し、各単位時間のエネルギー値を計算する段階と、第1単位時間と第2単位時間のエネルギー値差と臨界値を比較し、比較結果に基づいて前記第1単位時間の信号を診断信号区間バッファーと騒音信号区間バッファーのうちのいずれか一つに保存する段階と、前記診断信号区間バッファーに保存された信号で騒音信号区間バッファーに保存された騒音信号を減殺して診断信号を抽出する段階と、を含み、前記第2単位時間は、前記第1単位時間の以前単位時間である。 The diagnostic apparatus according to another embodiment of the present invention is a method for extracting a diagnostic signal from a sound signal, cutting an input sound signal into unit time, calculating an energy value of each unit time, and a first unit time. Comparing the energy value difference between the second unit time and the critical value, and storing the signal of the first unit time in one of the diagnostic signal interval buffer and the noise signal interval buffer based on the comparison result; And a step of reducing a noise signal stored in a noise signal interval buffer with a signal stored in the diagnosis signal interval buffer and extracting a diagnosis signal, wherein the second unit time is equal to the first unit time. Previously unit time.
前記保存する段階は、前記診断信号区間バッファーに保存された信号と前記騒音信号区間バッファーに保存された信号のエネルギー値差に基づいて前記臨界値を更新し、更新した臨界値に基づいて各単位時間の信号を前記診断信号区間バッファーと前記騒音信号区間バッファーのうちのいずれか一つに保存することができる。 The storing step updates the critical value based on the energy value difference between the signal stored in the diagnostic signal interval buffer and the signal stored in the noise signal interval buffer, and each unit based on the updated threshold value. A time signal may be stored in one of the diagnostic signal interval buffer and the noise signal interval buffer.
前記保存する段階は、前記第1単位時間のエネルギー値が前記第2単位時間のエネルギー値に比べて前記臨界値よりも小さい場合、前記第1単位時間の信号を前記騒音信号区間バッファーに保存する段階と、前記第1単位時間のエネルギー値が前記第2単位時間のエネルギー値に比べて前記臨界値よりも大きい場合、前記第1単位時間のエネルギー値が前記第2単位時間のエネルギー値に比べて前記臨界値よりも大きい値であるか判断する段階と、前記第1単位時間のエネルギー値が前記第2単位時間のエネルギー値に比べて前記臨界値よりも大きい値である場合、前記第1単位時間の信号を前記診断信号区間バッファーに保存する段階と、前記第1単位時間のエネルギー値が前記第2単位時間のエネルギー値に比べて前記臨界値よりも小さい値である場合、前記第1単位時間の信号を前記第2単位時間の信号と同一のバッファーに保存する段階と、を含むことができる。 The storing step stores the signal of the first unit time in the noise signal interval buffer when the energy value of the first unit time is smaller than the critical value compared to the energy value of the second unit time. And if the energy value of the first unit time is greater than the critical value compared to the energy value of the second unit time, the energy value of the first unit time is compared to the energy value of the second unit time. Determining whether the energy value is greater than the critical value, and when the energy value of the first unit time is greater than the critical value compared to the energy value of the second unit time, Storing the unit time signal in the diagnostic signal interval buffer; and the energy value of the first unit time is smaller than the critical value compared to the energy value of the second unit time. If the value may include the steps of storing a signal of said first unit time to the second time unit of the signal with the same buffer.
前記診断信号を抽出する段階は、前記診断信号区間バッファーに保存された第1信号と前記騒音信号区間バッファーに保存された第2信号の相関関係に基づいて前記第1信号での騒音減衰程度を調節するパラメータを設定する段階と、前記パラメータに基づいて前記第1信号で前記第2信号を減殺して診断信号を抽出する段階と、を含むことができる。 The step of extracting the diagnostic signal is to determine a noise attenuation level in the first signal based on a correlation between the first signal stored in the diagnostic signal section buffer and the second signal stored in the noise signal section buffer. The method may include setting a parameter to be adjusted and extracting a diagnostic signal by attenuating the second signal with the first signal based on the parameter.
本発明のまた他の実施形態に係る診断装置が診断信号区間と騒音信号区間に分離されたサウンド信号に基づいて診断信号を抽出する方法であって、前記診断信号区間と前記騒音信号区間の相関係数を計算する段階と、前記相関係数に基づいて前記診断信号区間の騒音減衰程度を調節する第1パラメータを設定する段階と、前記第1パラメータに基づいて前記診断信号区間に含まれている騒音信号を減殺して診断信号を抽出する段階と、を含む。 A diagnostic apparatus according to still another embodiment of the present invention is a method for extracting a diagnostic signal based on a sound signal separated into a diagnostic signal section and a noise signal section, and includes a phase between the diagnostic signal section and the noise signal section. Calculating a relation number; setting a first parameter for adjusting a noise attenuation level of the diagnostic signal section based on the correlation coefficient; and including the diagnostic signal section based on the first parameter. And a diagnostic signal is extracted by attenuating the noise signal.
前記相関係数を計算する段階は、前記診断信号区間の第1時間区間を周波数別に分離し、前記第1時間区間の周波数別に時間に応じたエネルギー変化パターンを抽出する段階と、前記騒音信号区間の第2時間区間を周波数別に分離し、前記第2時間区間の周波数別に時間に応じたエネルギー変化パターンを抽出する段階と、前記第1時間区間と前記第2時間区間の周波数別に抽出したエネルギー変化パターンに基づいて前記第1時間区間と前記第2時間区間の周波数別相関係数を計算する段階と、を含むことができる。 The step of calculating the correlation coefficient includes separating a first time interval of the diagnostic signal interval by frequency, extracting an energy change pattern according to time for each frequency of the first time interval, and the noise signal interval. Separating the second time interval by frequency, extracting an energy change pattern according to time for each frequency of the second time interval, and extracting energy change for each frequency of the first time interval and the second time interval Calculating a correlation coefficient for each frequency of the first time interval and the second time interval based on a pattern.
前記第1パラメータを設定する段階は、前記周波数別相関係数に基づいて周波数別に前記第1パラメータを設定することができる。 The step of setting the first parameter may set the first parameter for each frequency based on the correlation coefficient for each frequency.
前記第2時間区間は、前記第1時間区間に隣接した時間区間であってもよい。 The second time interval may be a time interval adjacent to the first time interval.
前記診断方法は、前記診断信号区間と前記騒音信号区間に含まれている信号のエネルギー値比率に基づいて前記入力サウンド信号の騒音減衰程度を調節する第2パラメータを設定する段階をさらに含むことができる。 The diagnosis method may further include setting a second parameter for adjusting a noise attenuation level of the input sound signal based on an energy value ratio of signals included in the diagnosis signal section and the noise signal section. it can.
前記エネルギー値比率は、前記入力サウンド信号の信号対雑音比であってもよい。 The energy value ratio may be a signal to noise ratio of the input sound signal.
前記診断信号を抽出する段階は、前記第1パラメータと前記第2パラメータを利用して前記診断信号区間で前記診断信号区間に含まれている騒音信号を減殺して前記診断信号を抽出することができる。 The step of extracting the diagnostic signal may include extracting the diagnostic signal by attenuating a noise signal included in the diagnostic signal section in the diagnostic signal section using the first parameter and the second parameter. it can.
本発明の実施形態によれば、入力サウンド信号で診断信号区間を正確に検出することができる。本発明の実施形態によれば、入力サウンド信号に含まれている信号の相関関係に基づいて入力サウンド信号で騒音信号を適切に除去して抽出された診断信号の歪曲を減らすことができる。本発明の実施形態によれば、サウンド信号に基づいて診断対象装置を駆動した状態で診断対象装置の状態を診断することができる。 According to the embodiment of the present invention, the diagnostic signal section can be accurately detected from the input sound signal. According to the embodiment of the present invention, it is possible to reduce the distortion of the diagnostic signal extracted by appropriately removing the noise signal from the input sound signal based on the correlation of the signals included in the input sound signal. According to the embodiment of the present invention, it is possible to diagnose the state of the diagnosis target device while driving the diagnosis target device based on the sound signal.
以下、添付図面を参照して本発明の実施形態について本発明が属する技術分野における通常の知識を有する者が容易に実施することができるように詳しく説明する。しかし、本発明は、多様な異なる形態に具現することができ、ここで説明する実施形態に限定されない。そして、図面において本発明を明確に説明するために、説明上不要な部分は省略し、明細書全体にわたって類似する部分については類似する図面符号を付した。 Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those skilled in the art to which the present invention pertains can easily implement the embodiments. However, the present invention can be embodied in a variety of different forms and is not limited to the embodiments described herein. In order to clearly describe the present invention in the drawings, unnecessary parts for the description are omitted, and similar parts are denoted by similar reference numerals throughout the specification.
明細書全体において、ある部分がある構成要素を「含む」という時、これは特に反対の記載がない限り、他の構成要素を除くのではなく、他の構成要素をさらに含むことができることを意味する。 Throughout the specification, when a part “includes” a component, unless stated to the contrary, this means that the component may further include other components, unless otherwise stated. To do.
図1は、本発明の一実施形態に係る診断装置の概略的な構成図である。 FIG. 1 is a schematic configuration diagram of a diagnostic apparatus according to an embodiment of the present invention.
図1を参照すれば、診断装置100は、騒音信号(noise)が混在されているサウンド信号で診断信号を抽出し、診断信号に基づいて診断地点(診断部位)の状態を診断する。診断地点は機械装置の任意の位置であり、例えば、関節、機関、モータ、エンジン、ベアリングなどであってもよい。診断地点にマイクが付着されたり診断地点周辺にマイクが設けられる。診断信号は診断地点で発生した音である。
Referring to FIG. 1, the
診断装置100は、多様な周波数のサウンド信号で多様な信号を抽出することができるが、機械装置の診断地点で発生する信号を抽出するものを例に挙げて説明する。つまり、診断装置100は、産業自動化機器、自動車、航空機、船舶など多様な機械装置で発生される音のうち、診断地点で出る音を抽出する。
The
診断装置100は、サウンド信号入力部110、信号分離部130、騒音除去パラメータ設定部150、信号抽出部170、および判断部190を含む。信号分離部130は、騒音信号区間バッファー200と診断信号区間バッファー300を含む。
The
サウンド信号入力部110は、診断地点に付着されたマイクで測定されたサウンド信号の入力を受ける。サウンド信号入力部110は、アナログサウンド信号をデジタルサウンド信号に変換して信号分離部130に伝達する。サウンド信号入力部110とマイクは無線で連結され得る。サウンド信号入力部110は、無線通信を利用してサウンド信号を信号分離部130に伝達することができる。有線通信でサウンド信号を伝達する場合、線が絡まったり機械装置に巻き込まれて機械装置の動作を妨害するおそれがあるためである。
The sound
サウンド信号入力部110は、入力サウンド信号の特性や環境により初期騒音除去を行うことができる。ここで診断信号は、人声でなく機械音であるため、サウンド信号入力部110は人声の特徴を用いて騒音除去をすることができない。なぜなら、人声を抽出する従来の騒音除去方法はモータサウンドや関節音などを騒音と見なすためである。
The sound
サウンド信号入力部110は、少なくとも二つのマイクに入力されたサウンド信号の物理的な位相差を利用して初期騒音除去をする。具体的に、二つのマイクが診断地点に設けられる。二つのマイクは基準距離以内に近く設けられる。常温での音の速度を考慮すれば、診断地点で発生される音が各マイクに到達する場合、二つのマイクに入力される音の位相差は殆どない。しかし、環境的な要因または距離に応じた音の屈折、回折、反射などにより、診断地点から離れたところで発生した音が各マイクに到達する場合、二つのマイクに入力される音の位相差が生じる。サウンド信号入力部110は、二つのマイクに入力されたサウンドのうち、位相差が互いに異なる入力信号を騒音と見なしてこれを除去する。このように初期騒音除去を経たサウンド信号は診断地点から一定半径以内で発生したサウンド情報を含んでいる。
The sound
信号分離部130は、サウンド信号入力部110から伝達された入力サウンド信号を診断信号区間と騒音信号区間に分離する。信号分離部130は、入力サウンド信号の振幅変化、エネルギー値などに基づいて入力サウンド信号を診断信号区間と騒音信号区間に分離することができる。信号分離部130は、分離した信号を騒音信号区間バッファー200と診断信号区間バッファー300に保存することができる。
The
騒音除去パラメータ設定部150は、診断信号区間と騒音信号区間のそれぞれのデータに基づいて信号抽出部170で用いる各種パラメータを設定する。診断信号区間で騒音信号が全部除去される場合、信号の歪曲が激しくなって異常兆候を示す信号が良好に抽出されないおそれがある。したがって、騒音除去パラメータ設定部150は、騒音除去時、騒音信号をどの程度減殺するかを決定するパラメータを設定する。騒音除去パラメータは、環境関連パラメータ、および相関関係パラメータを含むことができる。このような騒音除去パラメータを減衰ファクター(smoothing factor)と言える。
The noise removal
環境関連パラメータは、測定環境により騒音信号の減衰程度を調節するパラメータである。環境関連パラメータは、信号対雑音比(Sound to Noise Ratio、SNR)に基づいて設定され得る。環境関連パラメータは、信号対雑音比に基づいて騒音除去を遂行する比率を計算する。つまり、診断装置100は、設定された減衰ファクターをそのまま適用するか適用しないか、あるいは設定された減衰ファクターの一定比率だけ適用するかを決定する。環境関連パラメータは、診断信号区間バッファー300に保存された診断信号区間のエネルギー値と騒音信号区間バッファー200に保存された騒音信号区間のエネルギー値の比率に基づいて決定され得る。騒音除去は診断信号を正確に抽出するためのものであるが、信号対雑音比が基準値よりも低い場合(例えば、大型スピーカの前で小さい声で通話する場合)には騒音除去をすると、むしろ診断信号まで除去されるため、騒音除去をしないか、騒音を低い水準(例えば、10%未満)に減殺させることがよい。または、騒音信号区間のエネルギー値が非常に低い場合(例えば、静かな場合)にも騒音除去をしないか、騒音を低い水準に減殺することがよい。したがって、環境関連パラメータは、信号対雑音比に関連した騒音減衰率を示す。例えば、騒音減衰率0は騒音除去をしないこと(騒音除去off)であり、減衰率100%は騒音を全部除去すること(騒音除去on)を意味し得る。
The environment-related parameter is a parameter that adjusts the degree of attenuation of the noise signal according to the measurement environment. The environment related parameter may be set based on a signal-to-noise ratio (SNR). The environment related parameter calculates a ratio for performing noise reduction based on the signal-to-noise ratio. That is, the
相関関係パラメータは、診断信号区間に含まれている騒音信号を減殺する程度を調節するパラメータである。相関関係パラメータは、診断信号区間530に騒音信号がどの程度重なっているかを示す相関係数に基づいて設定され得る。騒音除去パラメータ設定部150は、診断信号区間のエネルギー変化パターンと診断信号区間に隣接した騒音信号区間のエネルギー変化パターンに基づいて相関関係を計算する。診断信号区間には騒音信号が含まれており、診断信号区間で騒音信号が全部除去される場合、抽出された信号の歪曲が激しくなる。したがって、騒音除去パラメータ設定部150は、相関関係パラメータに基づいて診断信号区間で騒音信号の減衰程度を決定する。
The correlation parameter is a parameter that adjusts the degree to which the noise signal included in the diagnostic signal section is attenuated. The correlation parameter can be set based on a correlation coefficient indicating how much the noise signal overlaps the
信号抽出部170は、騒音除去パラメータに基づいて診断信号区間で騒音信号を減殺して診断信号を抽出する。信号抽出部170は、環境関連パラメータに基づいて騒音信号区間で騒音信号を減衰し、環境関連パラメータと相関関係パラメータに基づいて診断信号区間で騒音信号を減殺することができる。つまり、信号抽出部170は、診断信号区間で騒音信号を適切に除去して歪曲が少ない診断信号を抽出する。
The
判断部190は、信号抽出部170で抽出された信号に基づいて診断部位の状態を診断する。
The
図2と図3は、本発明の一実施形態に係る信号分離方法のフローチャートであり、図4は、本発明の一実施形態に係る入力サウンド信号の例示であり、図5は、本発明の一実施形態に係る分離された騒音信号区間の例示であり、図6は、本発明の一実施形態に係る分離された診断信号区間の例示である。 2 and 3 are flowcharts of a signal separation method according to an embodiment of the present invention, FIG. 4 is an illustration of an input sound signal according to an embodiment of the present invention, and FIG. FIG. 6 is an illustration of a separated noise signal section according to an embodiment, and FIG. 6 is an illustration of a separated diagnostic signal section according to an embodiment of the present invention.
図2から図6を参照すれば、信号分離部130は、入力サウンド信号を診断信号区間と騒音信号区間に分離する。図4の入力サウンド信号400を参照すれば、騒音信号410と診断信号430は時間に応じた信号大きさが異なる。信号大きさは振幅、強さまたは信号が有するエネルギー値で表現され得る。入力サウンド信号に含まれている騒音信号は、最初騒音除去を経た信号であるか、または診断地点から遠く離れた地点で発生した信号であるため、騒音信号410のように信号大きさが小さい。反面、診断信号は診断地点近くで発生した信号であるため、診断信号430のように騒音信号に比べて振幅変化が大きい。これは、騒音環境でなく、静かな環境で同一のエネルギー値を有するサウンドデータをマイクに入力した場合、距離によりエネルギー値が減殺される特性と類似している。
2 to 6, the
信号分離部130は、信号区間の振幅変化またはエネルギー値に基づいて入力サウンド信号を診断信号区間と騒音信号区間に分離する。騒音信号区間バッファー200には、例えば、図5のように入力サウンド信号の一定の区間が騒音信号区間510として保存され、診断信号区間バッファー300には図6のように入力サウンド信号の残りの区間が診断信号区間530として保存され得る。
The
図2を参照すれば、信号分離部130は、サウンド信号入力部110から入力サウンド信号の伝達を受ける(S110)。信号分離部130が図3のようなサウンド信号の入力を受けたことを例に挙げて説明する。
Referring to FIG. 2, the
信号分離部130は、入力サウンド信号を一定時間単位に切断し、単位時間の特徴値を計算する(S120)。特徴値は単位時間に含まれている信号の特徴(feature)を示す指標であり、時間ドメイン、周波数ドメインなど信号を処理するドメインにより変わり得る。例えば、特徴値は、信号大きさ変化値(振幅変化値)、強さ変化値、エネルギー値、スペクトル値など多様化することができ、ここでは信号のエネルギー値を特徴値として説明する。
The
信号分離部130は、各単位時間のエネルギー値と基準値を比較して各単位時間の信号を騒音信号区間バッファーまたは診断信号区間バッファーに保存する(S130)。例えば、ある単位時間のエネルギー値が基準値よりも大きいと、信号分離部130は、この単位時間の信号を診断信号区間バッファーに保存し、ある単位時間のエネルギー値が基準値よりも小さいと、信号分離部130は、この単位時間の信号を騒音信号区間バッファーに保存することができる。基準値は多様な方法で設定され得る。例えば、大部分の入力サウンド信号は初期に騒音信号だけが入力される途中、診断信号が入力される。したがって、信号分離部130は、入力サウンド信号の初期信号を騒音信号と見なし、初期信号のエネルギー値に基づいて基準値を決定することができる。
The
信号分離部130は、騒音信号区間バッファーに保存された信号の総エネルギー値に基づいて基準値を更新する(S140)。信号分離部130は、更新した基準値に基づいてサウンド信号を騒音信号区間バッファーまたは診断信号区間バッファーに保存する段階(S130)を繰り返すことができる。
The
図3を参照すれば、大部分の入力サウンド信号は、初期に騒音信号だけが入力され、後ほど診断信号が入力され得る。しかし、機械装置の動きを予測しにくい状態で、場合によっては入力サウンド信号の初期に診断信号が入力され得る。この場合、診断信号も騒音の一種であるため、診断装置100が初期信号を見て騒音信号であるか診断信号であるか分からない。信号分離部130は、入力サウンド信号の多様な状況を考慮して、次のとおり信号を分離することができる。
Referring to FIG. 3, as for most input sound signals, only a noise signal is initially input, and a diagnosis signal may be input later. However, in some cases, it is difficult to predict the movement of the mechanical device, and in some cases, a diagnostic signal may be input at the initial stage of the input sound signal. In this case, since the diagnostic signal is also a kind of noise, the
信号分離部130は、入力サウンド信号を一定時間単位に切断し、各単位時間の間のエネルギー値を計算する(S210)。
The
信号分離部130は、基準値(E[t(0)])と臨界値(A)を設定する(S220)。基準値(E[t(0)])は最初信号比較のための値である。基準値(E[t(0)])と臨界値(A)は初期値であり、多様な方式で計算された値が設定され得る。例えば、基準値(E[t(0)])は、入力サウンド信号の平均エネルギー値や初期入力サウンド信号の平均エネルギー値であってもよい。基準値(E[t(0)])は信号分離過程を経ながら更新され得る。
The
信号分離部130は、単位時間[t(k)]のエネルギー値(E[t(k)])が以前単位時間[t(k−1)]のエネルギー値(E[t(k−1)])に比べて臨界値(A)よりも小さいか(式1、E[t(k)]<E[t(k−1)]−A)判断する(S230)。
In the
式1(E[t(k)]<E[t(k−1)]−A)が「はい」である場合、信号分離部130は単位時間[t(k)]の信号を騒音信号区間バッファーに保存する(S240)。
When Expression 1 (E [t (k)] <E [t (k−1)] − A) is “Yes”, the
式1(E[t(k)]<E[t(k−1)]−A)が「いいえ」である場合、信号分離部130は単位時間[t(k)]のエネルギー値(E[t(k)])が以前単位時間[t(k−1)]のエネルギー値(E[t(k−1)])に比べて臨界値(A)よりも大きいか(式2、E[t(k)]>E[t(k−1)]+A)判断する(S250)。
When Expression 1 (E [t (k)] <E [t (k−1)] − A) is “No”, the
式2(E[t(k)]>E[t(k−1)]+A)が「はい」である場合、信号分離部130は単位時間[t(k)]の信号を診断信号区間バッファーに保存する(S260)。
When Expression 2 (E [t (k)]> E [t (k−1)] + A) is “Yes”, the
式2(E[t(k)]>E[t(k−1)]+A)が「いいえ」である場合、信号分離部130は単位時間[t(k)]の信号を以前単位時間[t(k−1)]の信号と同一のバッファーに保存する(S270)。信号分離部130は順にn個の単位時間の信号を分離する。
When Expression 2 (E [t (k)]> E [t (k−1)] + A) is “No”, the
信号分離部130は、騒音信号区間バッファーに保存された信号の総エネルギー値(騒音区間エネルギー値)と振動信号バッファーに保存された信号の総エネルギー値(診断区間エネルギー値)を計算する(S280)。
The
信号分離部130は、診断区間エネルギー値と騒音区間エネルギー値の差に基づいて臨界値(A)を更新する(S290)。信号分離部130は、騒音区間エネルギー値に基づいて基準値(E[t(0)])を更新することができる。
The
信号分離部130は、更新した基準値および臨界値に基づいてサウンド信号を騒音信号区間バッファーまたは診断信号区間バッファーに保存する段階を繰り返すことができる。
The
臨界値を更新する周期は多様に設定され得る。例えば、臨界値は単位時間ごとに更新され得る。臨界値は単位時間ごとに更新する場合、エネルギー値が一定でない騷音源であっても単位時間ごとに更新される臨界値により騒音信号と診断信号を区分することができる。または臨界値は全体単位時間に対する分離が完了した後、更新され得る。 Various periods for updating the critical value can be set. For example, the critical value can be updated every unit time. When the critical value is updated every unit time, the noise signal and the diagnostic signal can be distinguished by the critical value updated every unit time even if the sound source has a non-constant energy value. Alternatively, the critical value can be updated after the separation for the entire unit time is completed.
このように、信号分離部130は、最初基準値および臨界値を任意値として設定し、分離された信号区間に基づいて基準値または臨界値を更新しながら騒音信号区間と診断信号区間を一層正確に分離することができる。
As described above, the
図7は、本発明の一実施形態に係る環境関連パラメータ計算方法を説明するフローチャートである。 FIG. 7 is a flowchart illustrating an environment-related parameter calculation method according to an embodiment of the present invention.
図7を参照すれば、騒音除去パラメータ設定部150は、騒音信号区間バッファー200に保存された信号の総エネルギー値(騒音区間エネルギー値)を計算する(S310)。
Referring to FIG. 7, the noise removal
騒音除去パラメータ設定部150は、診断信号区間バッファー300に保存された信号の総エネルギー値(診断区間エネルギー値)を計算する(S320)。
The noise removal
騒音除去パラメータ設定部150は、騒音区間エネルギー値と診断区間エネルギー値に基づいて信号対雑音比を計算する(S330)。
The noise removal
騒音除去パラメータ設定部150は、信号対雑音比に基づいて騒音信号減衰率に該当する環境関連パラメータを決定する(S340)。
The noise removal
図8は、本発明の一実施形態に係る相関関係パラメータ計算方法を説明するフローチャートであり、図9は、本発明の一実施形態に係る時間−周波数ドメインでの騒音信号区間の例示であり、図10は、本発明の一実施形態に係る時間−周波数ドメインでの診断信号区間の例示である。 FIG. 8 is a flowchart illustrating a correlation parameter calculation method according to an embodiment of the present invention. FIG. 9 is an example of a noise signal section in the time-frequency domain according to an embodiment of the present invention. FIG. 10 is an illustration of a diagnostic signal interval in the time-frequency domain according to an embodiment of the present invention.
図8を参照すれば、診断信号区間は診断信号と騒音信号が重なって存在する。騒音除去パラメータ設定部150は、診断信号区間で診断信号と騒音信号がどの程度重なっているかを示す相関係数を計算し、相関係数に基づいて診断信号区間で騒音信号の減衰程度を決定する。
Referring to FIG. 8, the diagnostic signal section overlaps the diagnostic signal and the noise signal. The noise removal
騒音除去パラメータ設定部150は、騒音信号区間バッファー200に保存された信号を時間−周波数ドメインに変換する(S410)。騒音信号区間バッファー200に保存された信号510は、図9の時間−周波数ドメイン610に変換される。
The noise removal
騒音除去パラメータ設定部150は、時間−周波数ドメインの騒音区間信号を周波数別に分離し、周波数別に時間に応じたエネルギー変化パターンを抽出する(S420)。騒音除去パラメータ設定部150は、分離された時間区間(時間バンド)ごとに、周波数別時間に応じたエネルギー変化パターンを保存する。図9を参照すれば、時間−周波数ドメイン610で横軸が時間であり、縦軸が周波数である。つまり、ある時間区間に入力されたサウンド信号は多様な周波数の信号が含まれているため、騒音除去パラメータ設定部150は信号を周波数別に分離する。例えば、図9を参照すれば、騒音除去パラメータ設定部150は、ある時間区間で、N番目周波数の時間に応じたエネルギー変化パターン710を抽出することができる。この時、エネルギー変化パターン710は、騒音だけが存在するN番目周波数帯域での時間に応じた騒音パターンと類似していてもよい。
The noise removal
騒音除去パラメータ設定部150は、診断信号区間バッファー300に保存された信号を時間−周波数ドメインに変換する(S430)。診断信号区間バッファー300に保存された信号530は、図10の時間−周波数ドメイン630に変換される。
The noise removal
騒音除去パラメータ設定部150は、時間−周波数ドメインの診断信号区間を周波数別に分離し、周波数別に時間に応じたエネルギー変化パターンを抽出する(S440)。騒音除去パラメータ設定部150は、分離された時間区間(時間バンド)ごとに、周波数別時間に応じたエネルギー変化パターンを保存する。図10を参照すれば、騒音除去パラメータ設定部150は、ある時間区間で、N番目周波数の時間に応じたエネルギー変化パターン720を抽出することができ、K番目周波数の時間に応じたエネルギー変化パターン730を抽出することができる。
The noise removal
騒音除去パラメータ設定部150は、診断信号区間と騒音信号区間の周波数別時間に応じたエネルギー変化パターンを比較し、周波数別に騒音信号と診断信号の相関関係を計算する(S450)。具体的に、騒音除去パラメータ設定部150は、診断信号区間に隣接した騒音信号区間の時間に応じたエネルギー変化パターンを利用して、診断信号区間内に存在する診断信号と騒音信号の間の相関係数を推定する。例えば、ある診断信号区間のN番目周波数のパターン720は、隣接した騒音信号区間のN番目周波数のパターン710と類似しているが、反面、診断信号区間のK番目周波数のパターン730は、隣接した騒音信号区間のK番目周波数のパターン(図示せず)と異なっていてもよい。したがって、ある診断信号区間のN番目周波数信号と隣接した騒音信号区間のN番目周波数信号の相関関係が高く計算され、これによって、診断信号区間のN番目周波数信号は騒音信号に近いと判断される。反面、ある診断信号区間のK番目周波数は診断信号と騒音信号が混在されており、これらの重畳率により、ある診断信号区間のK番目周波数に含まれている診断信号と騒音信号の相関係数が計算される。
The noise removal
騒音除去パラメータ設定部150は、周波数別に計算した騒音信号と診断信号の相関関係に基づき、診断信号区間の周波数別に相関関係パラメータを計算する(S460)。周波数別相関関係パラメータは、周波数別に診断信号区間に含まれている騒音信号を減殺する程度を調節するパラメータである。例えば、ある騒音信号区間のN番目周波数と診断信号区間のN番目周波数のパターンが一致する場合、これはほとんど騒音信号であるため、N番目周波数の相関関係パラメータは騒音信号とほとんど近い相関係数値(A)に計算され、これによって、N番目周波数のエネルギー値を計算された相関係数の比率によりA分減衰率が設定される。たとえ100%に近い相関係数値ではないとしてもN番目周波数のエネルギー値として計算された相関係数の値に応じた比率によりエネルギー値の減衰率が設定される。
The noise removal
図11は、本発明の一実施形態に係る診断信号抽出方法を説明するフローチャートであり、図12は、本発明の一実施形態に係る騒音減衰された診断信号の時間−周波数ドメインの例示である。 FIG. 11 is a flowchart illustrating a diagnostic signal extraction method according to an embodiment of the present invention, and FIG. 12 is an example of a time-frequency domain of a noise-attenuated diagnostic signal according to an embodiment of the present invention. .
本発明は、通話時に騒音除去を通じて相手に話者の音声だけを伝達するためのものでなく、測定部位の区間の音を検出して状態を診断する装置であるため、騒音が減衰された診断信号区間を別途に再び時間領域のオーディオデータに変換せずに、騒音が減衰された診断信号区間のスペクトルデータを獲得する。獲得した以降は、騒音信号区間は別途に利用せずに、診断信号区間のスペクトルデータだけを抽出する。 The present invention is not a device for transmitting only the voice of the speaker to the other party through noise removal during a call, but is a device for diagnosing the state by detecting the sound of the section of the measurement site. Spectral data of the diagnostic signal section in which noise is attenuated is acquired without separately converting the signal section into audio data in the time domain again. After the acquisition, only the spectrum data of the diagnostic signal section is extracted without using the noise signal section separately.
図11を参照すれば、信号抽出部170は、騒音除去パラメータ設定部で設定または計算された騒音除去パラメータに基づいて診断信号区間に含まれている騒音信号を減衰し、診断信号だけを抽出する。
Referring to FIG. 11, the
信号抽出部170は、環境関連パラメータと周波数別相関関係パラメータに基づいて診断信号区間で騒音信号のエネルギーを減殺する(S510)。つまり、信号抽出部170は、診断信号区間で騒音信号を減殺する時、各周波数別に騒音信号区間と診断信号区間との相関関係比率により当該周波数のエネルギー値を減殺させる。相関関係が大きいと、言い換えると100%に近い値であれば、騒音信号とほとんど類似しているため、これは騒音信号と見なして大きく減衰し、相関関係が小さいと、つまり、0%に近いと、これは騒音信号と異なると見ることができるため、小さく減殺させる。
The
しかし、全体システムの運用環境、つまり、マイクの種類および入力ボリュームなどが互いに異なって理論的に計算された信号の相関関係が実際の多様な環境に適しないことがあるため、相関係数が100%に計算されたとしても100%の減衰を進行せずに、別途の定数パラメータを通じて最大減衰率を設定し、これによってエネルギー値を減殺させるが、この時、騒音除去パラメータ設定部で設定した環境パラメータを適用して最終周波数別エネルギー減衰率を計算する。 However, since the correlation of the signals calculated theoretically with different operation types of the entire system, that is, the type of microphone and the input volume may not be suitable for various actual environments, the correlation coefficient is 100. Even if calculated as%, the maximum attenuation rate is set through a separate constant parameter without proceeding with 100% attenuation, thereby reducing the energy value. At this time, the environment set by the noise removal parameter setting unit Apply the parameters to calculate the final frequency energy decay rate.
相関関係を通じて設定された減衰率を適用して各周波数別に減衰率を適用したエネルギー値を求めるとしても診断区間内で騒音信号が減衰されたエネルギー値と言えるが、診断信号区間と騒音信号区間の比率、つまり、信号対雑音比(SNR、ここでは環境関連パラメータ(C)という)が低い場合、これは診断信号のエネルギー値が非常に小さかったりあるいは診断信号だけが入力される場合と見ることができる。このような場合、相関関係による減衰率をそのまま適用した時、信号全体が無くなったり、歪曲されたり、あるいは残っていた診断信号が減殺されてしまうおそれがある。したがって、環境パラメータは、このような状況を補完できる手段として、環境関連パラメータ(C)を相関係数を通じて計算されたそれぞれの周波数のエネルギー値の減衰率に適用する。SNRが高いほど環境関連パラメータ(C)は1に近い値となり、SNRが低いほど環境パラメータ(C)は0に近い値が導き出される。これを利用して、相関関係により計算されたそれぞれの周波数に対する減衰率に環境関連パラメータを適用すればSNRが高く、よいほど1に近い値となるため、相関関係により計算された周波数帯域の減衰率がそのまま適用されてエネルギー値が減殺される。反面、SNRが低く、よくないほど、環境関連パラメータは0に近い値となるため、相関関係により計算された周波数帯域の減衰率に環境関連パラメータを適用すれば減衰率0%に近い値が算出される。減衰率0%は全く減衰しないという意味になり得るため、結局、SNRが低く、よくない場合には減衰率が0%、つまり、ほとんどバイパス状態になって入力された信号を完全に保全できるようになる。 Even if the attenuation value set through the correlation is applied and the energy value obtained by applying the attenuation factor for each frequency is obtained, it can be said that the noise signal is attenuated within the diagnosis interval. If the ratio, ie the signal-to-noise ratio (SNR, here referred to as environment-related parameter (C)) is low, this can be seen as a case where the energy value of the diagnostic signal is very small or only the diagnostic signal is input. it can. In such a case, when the attenuation rate due to the correlation is applied as it is, the entire signal may be lost, distorted, or the remaining diagnostic signal may be diminished. Therefore, the environment parameter is applied as a means for supplementing such a situation to the attenuation rate of the energy value of each frequency calculated through the correlation coefficient. The higher the SNR, the closer the environment-related parameter (C) is to 1, and the lower the SNR, the closer to 0 the environmental parameter (C) is derived. By using this, if the environment-related parameter is applied to the attenuation rate for each frequency calculated by the correlation, the SNR is high, and the better, the value is closer to 1. Therefore, the attenuation of the frequency band calculated by the correlation The rate is applied as is, and the energy value is reduced. On the other hand, as the SNR is lower and worse, the environment-related parameter becomes closer to 0. Therefore, if the environment-related parameter is applied to the attenuation rate of the frequency band calculated by the correlation, a value close to 0% is calculated. Is done. Since an attenuation factor of 0% can mean no attenuation at all, the SNR is low in the end. If it is not good, the attenuation factor is 0%, that is, almost completely bypassed so that the input signal can be completely preserved. become.
信号抽出部170は、騒音減衰された診断信号を出力する(S520)。
The
診断信号区間内で相関関係と環境パラメータにより設定された減衰率により各周波数別にエネルギー値を減殺すれば、結局、図12のように診断区間信号内で騒音信号が除去されたスペクトルデータを得るようになり、後ほどデータの状態診断のためにデジタルファイルで保存する。図12を参照すれば、診断信号の時間−周波数ドメイン650と騒音減衰前の時間−周波数ドメイン630を比較すると、時間−周波数ドメイン650が診断信号の特徴をより正確に示すことが分かる。
If the energy value is attenuated for each frequency by the attenuation rate set by the correlation and the environmental parameter in the diagnostic signal section, the spectrum data from which the noise signal is removed in the diagnostic section signal as shown in FIG. Later, it is saved as a digital file for data diagnosis. Referring to FIG. 12, when comparing the time-
このように、本発明の実施形態によれば、入力サウンド信号で診断部位の動きが起こった診断信号区間を正確に検出することができ、特に信号対雑音比が顕著に改善されて正確に動きの始まりと終わりを検出することができる。本発明の実施形態によれば、入力サウンド信号に含まれている信号の相関関係に基づいて入力サウンド信号で騒音信号を適切に除去して抽出された診断信号の歪曲を減らすことができる。本発明の実施形態によれば、サウンド信号に基づいて診断対象装置を駆動した状態で診断対象装置の状態を診断することができる。 As described above, according to the embodiment of the present invention, it is possible to accurately detect a diagnostic signal section in which a movement of a diagnostic part has occurred in an input sound signal, and in particular, the signal-to-noise ratio is remarkably improved and the movement is accurately performed. Can detect the beginning and end of. According to the embodiment of the present invention, it is possible to reduce the distortion of the diagnostic signal extracted by appropriately removing the noise signal from the input sound signal based on the correlation of the signals included in the input sound signal. According to the embodiment of the present invention, it is possible to diagnose the state of the diagnosis target device while driving the diagnosis target device based on the sound signal.
以上で、本発明の実施形態について詳細に説明したが、本発明の権利範囲はこれに限定されず、特許請求の範囲で定義している本発明の基本概念を利用した当業者の多様な変形および改良形態も本発明の権利範囲に属する。 Although the embodiments of the present invention have been described in detail above, the scope of the present invention is not limited thereto, and various modifications of those skilled in the art using the basic concept of the present invention defined in the claims. And improvements are also within the scope of the present invention.
Claims (20)
入力サウンド信号を診断信号区間と騒音信号区間に分離する信号分離部と、
前記診断信号区間の第1信号と前記騒音信号区間の第2信号の相関関係に基づいて騒音減衰程度を調節する第1パラメータを設定する騒音除去パラメータ設定部と、
前記第1パラメータに基づいて前記診断信号区間に含まれている騒音信号を減殺して診断信号を抽出する信号抽出部と、
を含む診断装置。 A diagnostic device for extracting a diagnostic signal with a sound signal,
A signal separator for separating the input sound signal into a diagnostic signal section and a noise signal section;
A noise removal parameter setting unit for setting a first parameter for adjusting a degree of noise attenuation based on a correlation between the first signal of the diagnostic signal section and the second signal of the noise signal section;
A signal extractor for attenuating a noise signal included in the diagnostic signal section based on the first parameter and extracting a diagnostic signal;
Diagnostic device including
前記第1信号と前記第2信号の相関係数を計算し、前記相関係数に基づいて前記第1信号で前記第2信号の減衰程度を調節する前記第1パラメータを設定する、請求項1に記載の診断装置。 The noise removal parameter setting unit includes:
The correlation coefficient between the first signal and the second signal is calculated, and the first parameter for adjusting the degree of attenuation of the second signal with the first signal is set based on the correlation coefficient. The diagnostic device according to 1.
前記第1信号を周波数別に分離し、前記第1信号の周波数別に時間に応じたエネルギー変化パターンを抽出し、
前記第2信号を周波数別に分離し、前記第2信号の周波数別に時間に応じたエネルギー変化パターンを抽出し、
前記第1信号と前記第2信号の周波数別に抽出したエネルギー変化パターンに基づいて前記第1信号と前記第2信号の周波数別相関係数を計算する、請求項2に記載の診断装置。 The noise removal parameter setting unit includes:
Separating the first signal according to frequency, extracting an energy change pattern according to time according to the frequency of the first signal;
Separating the second signal according to frequency, extracting an energy change pattern according to time according to the frequency of the second signal;
The diagnostic apparatus according to claim 2, wherein a correlation coefficient for each frequency of the first signal and the second signal is calculated based on an energy change pattern extracted for each frequency of the first signal and the second signal.
前記周波数別相関係数に基づいて周波数別に前記第1パラメータを設定する、請求項3に記載の診断装置。 The noise removal parameter setting unit includes:
The diagnostic apparatus according to claim 3, wherein the first parameter is set for each frequency based on the correlation coefficient for each frequency.
前記診断信号区間と前記騒音信号区間に含まれている信号のエネルギー値比率に基づいて前記入力サウンド信号の騒音減衰程度を調節する第2パラメータをさらに設定する、請求項2に記載の診断装置。 The noise removal parameter setting unit includes:
The diagnostic apparatus according to claim 2, further comprising a second parameter for adjusting a noise attenuation level of the input sound signal based on a ratio of energy values of signals included in the diagnostic signal section and the noise signal section.
前記第1パラメータと前記第2パラメータを利用して前記診断信号区間で前記診断信号区間に含まれている騒音信号を減殺して前記診断信号を抽出する、請求項5に記載の診断装置。 The signal extraction unit
The diagnostic apparatus according to claim 5, wherein the diagnostic signal is extracted by reducing a noise signal included in the diagnostic signal section in the diagnostic signal section using the first parameter and the second parameter.
前記入力サウンド信号を単位時間に切断し、各単位時間の特徴値を計算し、各単位時間の特徴値と基準値を比較して各単位時間の信号を前記騒音信号区間と前記診断信号区間のうちのいずれか一つに分離し、
前記特徴値は、信号大きさ変化値、振幅変化値、強さ変化値、エネルギー値、およびスペクトル値のうちのいずれか一つである、請求項1に記載の診断装置。 The signal separator is
The input sound signal is cut into unit times, a feature value for each unit time is calculated, a feature value for each unit time is compared with a reference value, and a signal for each unit time is compared between the noise signal interval and the diagnostic signal interval. Separated into one of them,
The diagnostic apparatus according to claim 1, wherein the feature value is any one of a signal magnitude change value, an amplitude change value, an intensity change value, an energy value, and a spectrum value.
前記入力サウンド信号を単位時間に切断し、各単位時間の特徴値を計算し、任意単位時間と前記任意単位時間の以前単位時間の特徴値差に基づいて前記任意単位時間の信号を前記騒音信号区間と前記診断信号区間のうちのいずれか一つに分離し、
前記特徴値は、信号大きさ変化値、振幅変化値、強さ変化値、エネルギー値、およびスペクトル値のうちのいずれか一つである、請求項1に記載の診断装置。 The signal separator is
The input sound signal is cut into unit times, a feature value of each unit time is calculated, and the signal of the arbitrary unit time is converted to the noise signal based on a feature value difference between the arbitrary unit time and the previous unit time of the arbitrary unit time. Separating into one of the section and the diagnostic signal section,
The diagnostic apparatus according to claim 1, wherein the feature value is any one of a signal magnitude change value, an amplitude change value, an intensity change value, an energy value, and a spectrum value.
をさらに含む、請求項1に記載の診断装置。 A sound signal that receives input of a sound signal measured by at least two microphones attached to a diagnosis point and performs noise removal based on a physical phase difference of the measured sound signal to generate the input sound signal The diagnostic apparatus according to claim 1, further comprising an input unit.
入力サウンド信号を単位時間に切断し、各単位時間のエネルギー値を計算する段階と、
第1単位時間と第2単位時間のエネルギー値差と臨界値を比較し、比較結果に基づいて前記第1単位時間の信号を診断信号区間バッファーと騒音信号区間バッファーのうちのいずれか一つに保存する段階と、
前記診断信号区間バッファーに保存された信号で騒音信号区間バッファーに保存された騒音信号を減殺して診断信号を抽出する段階と、を含み、
前記第2単位時間は、前記第1単位時間の以前単位時間である診断方法。 A method in which a diagnostic device extracts a diagnostic signal using a sound signal,
Cutting the input sound signal into unit time and calculating the energy value of each unit time;
The energy value difference between the first unit time and the second unit time is compared with the critical value, and the signal of the first unit time is converted into one of the diagnostic signal interval buffer and the noise signal interval buffer based on the comparison result. Saving, and
Attenuating the noise signal stored in the noise signal interval buffer with the signal stored in the diagnostic signal interval buffer and extracting the diagnostic signal; and
The diagnostic method, wherein the second unit time is a unit time before the first unit time.
前記診断信号区間バッファーに保存された信号と前記騒音信号区間バッファーに保存された信号のエネルギー値差に基づいて前記臨界値を更新し、更新した臨界値に基づいて各単位時間の信号を前記診断信号区間バッファーと前記騒音信号区間バッファーのうちのいずれか一つに保存する、請求項10に記載の診断方法。 The storing step includes
The critical value is updated based on the energy value difference between the signal stored in the diagnostic signal interval buffer and the signal stored in the noise signal interval buffer, and the signal of each unit time is diagnosed based on the updated critical value. The diagnostic method according to claim 10, wherein the diagnostic method is stored in any one of a signal interval buffer and the noise signal interval buffer.
前記第1単位時間のエネルギー値が前記第2単位時間のエネルギー値に比べて前記臨界値よりも小さい場合、前記第1単位時間の信号を前記騒音信号区間バッファーに保存する段階と、
前記第1単位時間のエネルギー値が前記第2単位時間のエネルギー値に比べて前記臨界値よりも大きい場合、前記第1単位時間のエネルギー値が前記第2単位時間のエネルギー値に比べて前記臨界値よりも大きい値であるか判断する段階と、
前記第1単位時間のエネルギー値が前記第2単位時間のエネルギー値に比べて前記臨界値よりも大きい値である場合、前記第1単位時間の信号を前記診断信号区間バッファーに保存する段階と、
前記第1単位時間のエネルギー値が前記第2単位時間のエネルギー値に比べて前記臨界値よりも小さい値である場合、前記第1単位時間の信号を前記第2単位時間の信号と同一のバッファーに保存する段階と、
を含む、請求項10に記載の診断方法。 The storing step includes
Storing the signal of the first unit time in the noise signal interval buffer when the energy value of the first unit time is smaller than the critical value compared to the energy value of the second unit time;
If the energy value of the first unit time is greater than the critical value compared to the energy value of the second unit time, the energy value of the first unit time is greater than the critical value compared to the energy value of the second unit time. Determining whether the value is greater than the value;
Storing the first unit time signal in the diagnostic signal interval buffer when the energy value of the first unit time is greater than the critical value compared to the energy value of the second unit time;
When the energy value of the first unit time is smaller than the critical value compared to the energy value of the second unit time, the signal of the first unit time is the same buffer as the signal of the second unit time. To save the stage,
The diagnostic method of Claim 10 containing these.
前記診断信号区間バッファーに保存された第1信号と前記騒音信号区間バッファーに保存された第2信号の相関関係に基づいて前記第1信号での騒音減衰程度を調節するパラメータを設定する段階と、
前記パラメータに基づいて前記第1信号で前記第2信号を減殺して診断信号を抽出する段階と、
を含む、請求項10に記載の診断方法。 Extracting the diagnostic signal comprises:
Setting a parameter for adjusting the degree of noise attenuation in the first signal based on the correlation between the first signal stored in the diagnostic signal section buffer and the second signal stored in the noise signal section buffer;
Reducing the second signal with the first signal based on the parameter and extracting a diagnostic signal;
The diagnostic method of Claim 10 containing these.
前記診断信号区間と前記騒音信号区間の相関係数を計算する段階と、
前記相関係数に基づいて前記診断信号区間の騒音減衰程度を調節する第1パラメータを設定する段階と、
前記第1パラメータに基づいて前記診断信号区間に含まれている騒音信号を減殺して診断信号を抽出する段階と、
を含む診断方法。 A diagnostic device extracts a diagnostic signal based on a sound signal separated into a diagnostic signal section and a noise signal section,
Calculating a correlation coefficient between the diagnostic signal section and the noise signal section;
Setting a first parameter for adjusting a noise attenuation level of the diagnostic signal section based on the correlation coefficient;
Extracting a diagnostic signal by attenuating a noise signal included in the diagnostic signal section based on the first parameter;
A diagnostic method comprising:
前記診断信号区間の第1時間区間を周波数別に分離し、前記第1時間区間の周波数別に時間に応じたエネルギー変化パターンを抽出する段階と、
前記騒音信号区間の第2時間区間を周波数別に分離し、前記第2時間区間の周波数別に時間に応じたエネルギー変化パターンを抽出する段階と、
前記第1時間区間と前記第2時間区間の周波数別に抽出したエネルギー変化パターンに基づいて前記第1時間区間と前記第2時間区間の周波数別相関係数を計算する段階と、
を含む、請求項14に記載の診断方法。 Calculating the correlation coefficient comprises:
Separating the first time interval of the diagnostic signal interval by frequency and extracting an energy change pattern according to time for the frequency of the first time interval;
Separating the second time interval of the noise signal interval by frequency, and extracting an energy change pattern according to time for each frequency of the second time interval;
Calculating a correlation coefficient for each frequency of the first time interval and the second time interval based on an energy change pattern extracted for each frequency of the first time interval and the second time interval;
The diagnostic method of Claim 14 containing these.
前記周波数別相関係数に基づいて周波数別に前記第1パラメータを設定する、請求項15に記載の診断方法。 Setting the first parameter comprises:
The diagnostic method according to claim 15, wherein the first parameter is set for each frequency based on the correlation coefficient for each frequency.
をさらに含む、請求項14に記載の診断方法。 The method according to claim 14, further comprising: setting a second parameter for adjusting a noise attenuation level of the input sound signal based on a ratio of energy values of signals included in the diagnostic signal section and the noise signal section. Diagnosis method.
前記第1パラメータと前記第2パラメータを利用して前記診断信号区間で前記診断信号区間に含まれている騒音信号を減殺して前記診断信号を抽出する、請求項18に記載の診断方法。 Extracting the diagnostic signal comprises:
The diagnostic method according to claim 18, wherein the diagnostic signal is extracted by reducing a noise signal included in the diagnostic signal section in the diagnostic signal section using the first parameter and the second parameter.
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020150153379A KR20170051856A (en) | 2015-11-02 | 2015-11-02 | Method for extracting diagnostic signal from sound signal, and apparatus using the same |
KR10-2015-0153379 | 2015-11-02 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017090428A true JP2017090428A (en) | 2017-05-25 |
JP6643080B2 JP6643080B2 (en) | 2020-02-12 |
Family
ID=58740180
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015254034A Active JP6643080B2 (en) | 2015-11-02 | 2015-12-25 | Method and apparatus for extracting diagnostic signal from sound signal |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP6643080B2 (en) |
KR (1) | KR20170051856A (en) |
CN (1) | CN106653045B (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101815507B1 (en) * | 2017-08-17 | 2018-01-05 | 한국콘베어공업주식회사 | Method for estimating an amount of wear for roller chain pin using friction sound |
CN113074935B (en) * | 2021-04-01 | 2022-09-13 | 西华大学 | Acoustic separation and diagnosis method for impact fault characteristics of gearbox |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5764126A (en) * | 1980-10-08 | 1982-04-19 | Chugoku Electric Power Co Ltd:The | Oscillation detecting apparatus |
JPH06201452A (en) * | 1992-12-28 | 1994-07-19 | Hitachi Ltd | Abnormality decision system for machine |
JPH109948A (en) * | 1996-06-21 | 1998-01-16 | Daikin Ind Ltd | Method and apparatus for inspection of abnormal sound of rotating machine |
JP2005172548A (en) * | 2003-12-10 | 2005-06-30 | Nippon Sheet Glass Co Ltd | Supervisory device and database construction method |
US20120035885A1 (en) * | 2009-02-18 | 2012-02-09 | Optimized Systems And Solutions Limited | Method and apparatus for monitoring and analyzing vibrations in rotary machines |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3912913B2 (en) * | 1998-08-31 | 2007-05-09 | キヤノン株式会社 | Speech synthesis method and apparatus |
US7092881B1 (en) * | 1999-07-26 | 2006-08-15 | Lucent Technologies Inc. | Parametric speech codec for representing synthetic speech in the presence of background noise |
EP2460157B1 (en) * | 2009-07-27 | 2020-02-26 | Scti Holdings, Inc. | System and method for noise reduction in processing speech signals by targeting speech and disregarding noise |
CN102792373B (en) * | 2010-03-09 | 2014-05-07 | 三菱电机株式会社 | Noise suppression device |
EP2561508A1 (en) * | 2010-04-22 | 2013-02-27 | Qualcomm Incorporated | Voice activity detection |
WO2011148860A1 (en) * | 2010-05-24 | 2011-12-01 | 日本電気株式会社 | Signal processing method, information processing device, and signal processing program |
JP5605204B2 (en) * | 2010-12-15 | 2014-10-15 | ソニー株式会社 | Respiratory signal processing device, processing method thereof, and program |
CN102231280B (en) * | 2011-05-06 | 2013-04-03 | 山东大学 | Frequency-domain blind separation sequencing algorithm of convolutive speech signals |
EP2788979A4 (en) * | 2011-12-06 | 2015-07-22 | Intel Corp | Low power voice detection |
PT2795613T (en) * | 2011-12-21 | 2018-01-16 | Huawei Tech Co Ltd | Very short pitch detection and coding |
JP5930789B2 (en) * | 2012-03-23 | 2016-06-08 | 三菱電機株式会社 | Abnormal sound diagnosis device |
JP2015118361A (en) * | 2013-11-15 | 2015-06-25 | キヤノン株式会社 | Information processing apparatus, information processing method, and program |
CN104795076B (en) * | 2014-01-21 | 2018-08-14 | 宁波远志立方能源科技有限公司 | A kind of audio method for detecting |
JP6337519B2 (en) * | 2014-03-03 | 2018-06-06 | 富士通株式会社 | Speech processing apparatus, noise suppression method, and program |
CN104934032B (en) * | 2014-03-17 | 2019-04-05 | 华为技术有限公司 | The method and apparatus that voice signal is handled according to frequency domain energy |
CN103945062B (en) * | 2014-04-16 | 2017-01-18 | 华为技术有限公司 | User terminal volume adjusting method, device and terminal |
CN104538041B (en) * | 2014-12-11 | 2018-07-03 | 深圳市智美达科技有限公司 | abnormal sound detection method and system |
CN104616662A (en) * | 2015-01-27 | 2015-05-13 | 中国科学院理化技术研究所 | Active noise reduction method and device |
CN106448700B (en) * | 2016-10-31 | 2019-09-17 | 济南中维世纪科技有限公司 | A kind of piping detection method and system |
-
2015
- 2015-11-02 KR KR1020150153379A patent/KR20170051856A/en not_active Application Discontinuation
- 2015-12-23 CN CN201510977516.6A patent/CN106653045B/en active Active
- 2015-12-25 JP JP2015254034A patent/JP6643080B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5764126A (en) * | 1980-10-08 | 1982-04-19 | Chugoku Electric Power Co Ltd:The | Oscillation detecting apparatus |
JPH06201452A (en) * | 1992-12-28 | 1994-07-19 | Hitachi Ltd | Abnormality decision system for machine |
JPH109948A (en) * | 1996-06-21 | 1998-01-16 | Daikin Ind Ltd | Method and apparatus for inspection of abnormal sound of rotating machine |
JP2005172548A (en) * | 2003-12-10 | 2005-06-30 | Nippon Sheet Glass Co Ltd | Supervisory device and database construction method |
US20120035885A1 (en) * | 2009-02-18 | 2012-02-09 | Optimized Systems And Solutions Limited | Method and apparatus for monitoring and analyzing vibrations in rotary machines |
Also Published As
Publication number | Publication date |
---|---|
KR20170051856A (en) | 2017-05-12 |
CN106653045A (en) | 2017-05-10 |
CN106653045B (en) | 2021-01-22 |
JP6643080B2 (en) | 2020-02-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DK3089475T3 (en) | Method and apparatus for compensating sound power in a headphone and headphone | |
EP2456232B1 (en) | Howling canceller | |
US9082411B2 (en) | Method to reduce artifacts in algorithms with fast-varying gain | |
US20170092256A1 (en) | Adaptive block matrix using pre-whitening for adaptive beam forming | |
JP2017021385A (en) | Method and device for dereverberation of single-channel speech | |
RU2013123696A (en) | ECHO SUPPRESSION CONTAINING MODELING OF LATE REVERB COMPONENTS | |
EP1626025A3 (en) | Method for monitoring operating characteristics of a single axis machine | |
CN108235207B (en) | Method for determining the direction of a useful signal source | |
WO2017147428A1 (en) | Capture and extraction of own voice signal | |
JPWO2014128856A1 (en) | Active vibration noise control device | |
RU2016102716A (en) | CONTROL SYSTEM FOR NOISE GENERATED BY FUNCTIONAL COMPONENTS OF TECHNICAL MEANS | |
JP2010217453A (en) | Microphone system for voice recognition | |
JP6643080B2 (en) | Method and apparatus for extracting diagnostic signal from sound signal | |
EP3079376B1 (en) | Acoustic device, acoustic processing method, and acoustic processing program | |
KR102569365B1 (en) | Home appliance and method for voice recognition thereof | |
CN108028876B (en) | Acoustic echo path changes detection device and method | |
JP5782402B2 (en) | Voice quality objective evaluation apparatus and method | |
KR101637027B1 (en) | Method for extracting diagnostic signal from sound signal, and apparatus using the same | |
KR20190099445A (en) | Far Field Sound Capturing | |
US10070219B2 (en) | Sound feedback detection method and device | |
CN112116927A (en) | Real-time detection of speech activity in an audio signal | |
JP2011135485A (en) | Howling suppression apparatus | |
JP5287642B2 (en) | Sound / silence determination device, sound / silence determination method, and sound / silence determination program | |
JP7294422B2 (en) | SOUND MODEL GENERATOR, SOUND SIGNAL PROCESSING SYSTEM, SOUND MODEL GENERATION METHOD, AND PROGRAM | |
CN109949831B (en) | Method and device for voice recognition in intelligent equipment and computer readable storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181225 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190619 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190730 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191030 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191217 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200106 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6643080 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |