JP2010134367A - Electric equipment - Google Patents
Electric equipment Download PDFInfo
- Publication number
- JP2010134367A JP2010134367A JP2008312461A JP2008312461A JP2010134367A JP 2010134367 A JP2010134367 A JP 2010134367A JP 2008312461 A JP2008312461 A JP 2008312461A JP 2008312461 A JP2008312461 A JP 2008312461A JP 2010134367 A JP2010134367 A JP 2010134367A
- Authority
- JP
- Japan
- Prior art keywords
- voice
- sound
- unit
- recognition
- vibration
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 claims description 52
- 230000000694 effects Effects 0.000 claims description 47
- 238000004458 analytical method Methods 0.000 claims description 20
- 238000003745 diagnosis Methods 0.000 description 53
- 238000004378 air conditioning Methods 0.000 description 34
- 238000009434 installation Methods 0.000 description 25
- 238000000034 method Methods 0.000 description 19
- 230000005856 abnormality Effects 0.000 description 14
- 230000005236 sound signal Effects 0.000 description 13
- 238000004364 calculation method Methods 0.000 description 11
- 230000006866 deterioration Effects 0.000 description 11
- 230000002159 abnormal effect Effects 0.000 description 10
- 238000004891 communication Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 239000000428 dust Substances 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 238000001228 spectrum Methods 0.000 description 5
- 239000000463 material Substances 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000000926 separation method Methods 0.000 description 4
- 230000000153 supplemental effect Effects 0.000 description 4
- 230000032683 aging Effects 0.000 description 3
- 238000001816 cooling Methods 0.000 description 3
- 238000010438 heat treatment Methods 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 239000013589 supplement Substances 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 239000003990 capacitor Substances 0.000 description 2
- 238000004140 cleaning Methods 0.000 description 2
- 230000001143 conditioned effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000005855 radiation Effects 0.000 description 2
- 238000010079 rubber tapping Methods 0.000 description 2
- 238000009423 ventilation Methods 0.000 description 2
- 238000013475 authorization Methods 0.000 description 1
- 238000007664 blowing Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 238000005265 energy consumption Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000037081 physical activity Effects 0.000 description 1
- 238000005057 refrigeration Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000001845 vibrational spectrum Methods 0.000 description 1
Images
Landscapes
- Air Conditioning Control Device (AREA)
Abstract
Description
本発明は、空気調和機などの電気機器の故障検出を音声認識により行う技術に関する。 The present invention relates to a technique for detecting a failure of an electric device such as an air conditioner by voice recognition.
従来より、音認識技術を用い、音声入力により電気機器を操作する技術が開示されている。例えば、「手叩き・音声等による運転、停止、設定変更等の音響指示を空気調和機が受け付けたとき、空気調和機側にてその指示入力を実行する旨の予告表示を出力して指示者に伝え、その予告表示内容に対する認可を意味する指示者からの音響指示を再度受け付けた場合にのみ、上記予告表示された動作を実行する」ものが提案されている(例えば、特許文献1参照)。 2. Description of the Related Art Conventionally, a technique for operating an electrical device by voice input using a sound recognition technique has been disclosed. For example, “When the air conditioner accepts an acoustic instruction such as driving, stopping, changing settings, etc. by tapping / speeching, it outputs a notice indicating that the instruction input is to be executed on the air conditioner side. The above-mentioned operation that is displayed in advance is executed only when an acoustic instruction from the instructor that means authorization for the display content of the advance notice is received again (for example, see Patent Document 1). .
また、騒音感知センサを含む環境センサにより空気調和対象者の有無、活動量、人数を推測し、快適な温・湿度を決定して空気調和制御を行う技術が提案されている(例えば、特許文献2参照)。 In addition, a technology has been proposed in which air conditioning control is performed by estimating the presence / absence of an air conditioning target person, the amount of activity, the number of people by an environmental sensor including a noise detection sensor, and determining a comfortable temperature / humidity (for example, patent documents). 2).
また、「圧縮機、室外熱交換器、減圧機、室内熱交換器を順次連通してなる冷凍サイクルと、前記室外熱交換器に室外空気を循環させる室外ファンと、前記室内熱交換器に室内空気を循環させる室内ファンと、室外側に設けた音センサと、この音センサの検知音レベルと設定音レベルとを比較する比較手段と、この比較手段の比較結果に応じて前記室外ファンまたは圧縮機の回転数を制御手段とを備え」た空気調和機が提案されている(例えば、特許文献3参照)。 In addition, “a refrigeration cycle in which a compressor, an outdoor heat exchanger, a decompressor, and an indoor heat exchanger are sequentially communicated, an outdoor fan that circulates outdoor air to the outdoor heat exchanger, and an indoor heat exchanger An indoor fan that circulates air, a sound sensor provided on the outdoor side, a comparison means that compares a detected sound level of the sound sensor with a set sound level, and the outdoor fan or compression depending on the comparison result of the comparison means An air conditioner having a control means for controlling the number of rotations of the machine has been proposed (see, for example, Patent Document 3).
上記特許文献1では、リモコンなどの送信機を用いない空気調和機への命令手段として音声を用いる技術が開示されている。そして、命令内容を再度音声で承認させることで、指示者の意図に合致した実行を確実に空気調和機に行わせるようにしている。
しかし、音声による命令を認識することができても、音声による命令がどの位置から発せられているのか判断することができない。このため、命令を意図しない音声であっても、命令であると認識して動作してしまうという課題があった。
In the above-mentioned patent document 1, a technique using voice as a command means to an air conditioner that does not use a transmitter such as a remote controller is disclosed. Then, by allowing the command contents to be approved again by voice, the air conditioner is surely executed in accordance with the intention of the instructor.
However, even if the voice command can be recognized, it cannot be determined from which position the voice command is issued. For this reason, even if the voice does not intend the command, there is a problem that the command is recognized and operated.
上記特許文献2では、騒音感知センサを利用してユーザーなどの空気調和対象者の活動量などを推測し、温・湿度を決定している。しかし、騒音が発生していることを推測することはできても、どの方向で騒音が発生しているのか特定することができない。このため、空気調和対象者の活動が活発な箇所に対して効果的に空気調和できない場合や、空気調和対象者がいない箇所に対して空気調和を行う場合など、空気調和運転に伴うエネルギーロスが生じていた。
In the above-mentioned
上記特許文献3では、音センサを空気調和機の室外側に設け、検知音レベルと設定温レベルとを比較し、圧縮機の回転数を制御する技術が開示されている。しかし、空気調和機及び音センサの設置条件や設置環境によって検知音レベルが左右され、正確に判断できない場合があった。また、音センサが検出した騒音の原因が圧縮機にあるのか否か特定できないため、圧縮機に騒音の原因が無い場合にも圧縮機の回転数を変えてしまい、適切な空気調和が行えないという課題があった。 Patent Document 3 discloses a technique in which a sound sensor is provided outside the air conditioner, a detected sound level is compared with a set temperature level, and the rotation speed of the compressor is controlled. However, the detected sound level depends on the installation conditions and installation environment of the air conditioner and the sound sensor, and there are cases where accurate determination cannot be made. In addition, since it is impossible to determine whether the noise detected by the sound sensor is caused by the compressor, even when there is no cause for noise in the compressor, the rotation speed of the compressor is changed and appropriate air conditioning cannot be performed. There was a problem.
本発明は、上記のような課題を解決するためになされたもので、音声に基づいて故障を検出することのできる電気機器を得るものである。また、音声に基づいてユーザーの快適性を向上させつつ、省エネルギーで運転することのできる電気機器を得るものである。 The present invention has been made in order to solve the above-described problems, and provides an electric device capable of detecting a failure based on sound. Further, it is an object of the present invention to obtain an electric device that can be operated with energy saving while improving user comfort based on voice.
本発明に係る電気機器は、音声を取得する複数の音声取得手段と、音声取得手段により取得された音声の音源方向を検出する音声到達方向検出手段と、音声取得手段により取得された音声と予め記憶した音声パターンに基づいて音声認識する音声認識手段と、音声取得手段により取得された音声の音源方向と前記音声認識手段の認識結果に基づいて、故障検出を行う故障検出手段とを備えたものである。 The electrical device according to the present invention includes a plurality of sound acquisition means for acquiring sound, a sound arrival direction detection means for detecting a sound source direction of sound acquired by the sound acquisition means, a sound acquired by the sound acquisition means, Voice recognition means for recognizing voice based on the stored voice pattern, and failure detection means for performing fault detection based on the sound source direction of the voice acquired by the voice acquisition means and the recognition result of the voice recognition means It is.
本発明に係る電気機器は、音源の方向と音声認識結果に基づいて故障を検出することができる。このため、ユーザーの使い勝手を向上させることができる。 The electric device according to the present invention can detect a failure based on the direction of the sound source and the voice recognition result. For this reason, user convenience can be improved.
実施の形態1.
本実施の形態1では、天井カセット型の室内機と室外機を有し、リモコンによって操作可能な空気調和機100を例に説明する。
図1は、本発明の実施の形態1に係る空気調和機100のハードウェア構成を示す図である。図1において、空気調和機100は、スピーカー1と、マイク2と、制御装置3と、表示部4と、室内の温度を測定する温度センサー5を備える。また、空気調和機100は、外部機器であるPC300と接続可能である。
Embodiment 1 FIG.
In the first embodiment, an air conditioner 100 having a ceiling cassette type indoor unit and an outdoor unit and operable by a remote controller will be described as an example.
FIG. 1 is a diagram showing a hardware configuration of an air conditioner 100 according to Embodiment 1 of the present invention. In FIG. 1, an air conditioner 100 includes a speaker 1, a
スピーカー1は、本発明の音声出力手段に相当し、制御装置3に制御されて所定の警報音や警報メッセージなどを出力する。スピーカー1は、空気調和機100の室内機、またはリモコンなどに設けることができる。 The speaker 1 corresponds to the sound output means of the present invention, and is controlled by the control device 3 to output a predetermined alarm sound or alarm message. The speaker 1 can be provided in an indoor unit of the air conditioner 100 or a remote controller.
マイク2は、本発明の音声取得手段に相当し、音声を音声信号の形で取り込んで制御装置3へ出力する。マイク2は、室内機、室外機、またはリモコンなどの分離型の装置に、複数台が設けられている。また、マイク駆動装置13(アクチュエータ)により設置方向や設置位置を設定でき、マイク2の音声取得方向を変えることができる。
The
図2は、天井カセット型の室内機の外観模式図であり、マイク2の設置例を示している。図2(A)では、マイク2は、制御装置3が収納された電気品ボックス103の下部に3台取り付けている。このように電気品ボックス103の近傍に設置することで、マイク2と制御装置3との配線を容易にすることができる。また、図2(B)では、室内機の筐体101の四隅に1台ずつマイク2を設置している。このようにマイク2間の距離を離して設置することで、後述するように音源の方向をより正確に検出することができる。
FIG. 2 is a schematic external view of a ceiling cassette type indoor unit and shows an installation example of the
表示部4は、室内機とリモコンのいずれかまたは両方に設けられ、空気調和機100の各種設定情報や、運転状態などの情報を表示する。表示部4は、液晶表示、LEDなどのランプ表示などを適宜組み合わせて構成することができる。
The
制御装置3は、マイク2が取り込んだ音声信号を増幅するとともに、所定の周波数だけを分離して取り込むフィルタ/アンプ6と、アナログ信号をデジタル信号に変換あるいはデジタル信号をアナログ信号に変換するA/D・D/Aコンバーター7と、スピーカー1が出力するための音声信号を増幅させるパワーアンプ8と、各種演算及び処理を実行するMPU9と、処理中あるいは処理済みの各種データを記憶するRAM10と、MPU9が実行するソフトウェア及び音声データベース30を記憶するROM11と、外部機器であるPC300と接続する接続部12とを備える。
The control device 3 amplifies the audio signal captured by the
図3は、MPU9の機能ブロック及びROM11に格納された音声データベース30の構成を示す図である。図3において、MPU9は、デジタル化された音声信号を解析して音声認識の対象とする音声信号を特定する音響分析部20、音響分析部20が分析した音声信号に所定の音声認識アルゴリズムを適用して特徴量を抽出する特徴量・補足計算部21、特徴量・補足計算部21の出力結果に基づいて音声認識を行う音声認識部23、音響分析部20の出力結果に基づいて音源の方向を特定する音声到達方向特定部22、音声認識部23の認識結果及び音声到達方向特定部22の特定結果に基づいて故障診断を行う故障診断部24、及び、ROM11に格納された音声データベース30の更新を行うデータベース更新部25を備える。
FIG. 3 is a diagram showing the configuration of the
音響分析部20は、音声信号を解析して、音声認識の対象とする音声入力区間を特定する。具体的には、まず、所定区間ごとに音声信号を取り込み、音声信号の振幅値または電力値(以下、音声レベルという)を所定のサンプリングタイムで積算し、この積算量を一つ前の区間のそれと比較し、差分が音声認識開始用の閾値を超えた区間を音声認識開始区間とする。そして、音声認識開始区間から一連の複数区間を音声入力区間とし、この音声入力区間に取得した音声信号を、音声認識処理のために特徴量・補足計算部21へ送る。なお、音圧レベルにより音声入力区間を定めるのではなく、周波数領域で音声入力区間を定めてもよい。
The
特徴量・補足計算部21は、音声認識部23の認識アルゴリズムに応じて、音響分析部20により出力された音声信号の特徴量の抽出や他の補足計算を行う。処理内容は音声認識アルゴリズムにより異なる。例えば、音声認識アルゴリズムとしてHMM(HiddenMarkovModel:隠れマルコフモデル)を用いる場合、メルケプストラム分析により、入力音声から音響特徴量として、メルケプストラム、このメルケプストラムの動的特徴量(メルケプストラムの時間領域での変化量)、及びlogパワーの動的特徴量などの特徴ベクトルを抽出する。そして、得られた特徴ベクトル等の信号を、音声認識部23に出力する。
The feature amount /
音声到達方向特定部22は、音響分析部20が分析した信号に基づいて、音声の発せられた方向を特定する。ある音声を複数のマイク2で取得する場合において、マイク2ごとに音源との距離が異なるため、各マイク2が音声を取得するタイミングに時間的な差が発生する。音声到達方向特定部22は、この差を利用して音源の方向を特定する。
The voice arrival
図4を参照しつつ、2台のマイク2で音源の平面角を求める方法の例を示す。図4は、音源の平面角の求め方の一例を示す模式図である。図4において、2台のマイク2A、2Bの間の距離を距離d、音源からマイク2Aまでの距離とマイク2Bまでの距離の距離差を距離差lとする。
音源とマイク2A、2Bとの距離が十分に遠い場合、音声の波形は平面波として近似可能であり、下記の式が適用できる。
τ=l/c=dsin(θ)/c
θ=sin−1(cτ/d)
l:音源からマイク2までの距離差、c:音速、d:マイク間距離、τ:遅延時間
An example of a method for obtaining a plane angle of a sound source with two
When the distance between the sound source and the
τ = 1 / c = dsin (θ) / c
θ = sin−1 (cτ / d)
l: distance difference from sound source to
また、音声の波が定常波である場合には、マイク間の距離は取得する音声波長の1/2以下で設ける必要がある。
d<c/2fmax=c/fs
c:音速、d:マイク間距離、fmax:最大周波数、fs:サンプリング周波数
例えば、周波数5.5kHzの音声を11kHzサンプリングでデジタル化して取得するとした場合、マイク2間距離は3.09cm以下にする必要がある。また逆に、マイク2を室内機の筐体101の両端70cmの距離に設けた場合、使用できる周波数は340/(0.7×2)=242Hz以下である。
When the sound wave is a stationary wave, the distance between the microphones must be set to be ½ or less of the sound wavelength to be acquired.
d <c / 2fmax = c / fs
c: speed of sound, d: distance between microphones, fmax: maximum frequency, fs: sampling frequency For example, when a voice having a frequency of 5.5 kHz is digitized and acquired by 11 kHz sampling, the distance between
図3(B)に示すように、互いの距離を離して複数のマイク2を設置すると、空気調和機100からより遠い距離を計測することができる。3台以上のマイク2を設けて音声を取得すると、音源までの立体角を検出することができるので、より正確に音源の方向を特定することができる。複数のマイク2を設ける場合には、基準となる一のマイク2から他のマイク2までの距離が等しくなるように設置すると、音源方向を特定しやすい。また、複数のマイク2を設置する際には、横方向の設置位置だけでなく、高さ方向の設置位置も変えて設置する。このようにすることで、音声到達方向を検知できる指向性を変えることができる。また、マイク駆動装置13によりマイク2の設置位置や設置方向を変え、音声信号を取得しやすくすることもできる。
As shown in FIG. 3B, when a plurality of
音声データベース30は、音声認識を行う際の音声認識パターン31を格納している。音声認識パターン31は、音声認識部23にて音声認識を行うときに認識対象となる音声の特徴量である。正常音声パターン32は、空気調和機100が正常運転を行うときに生じる運転動作音のパターンである。異常音声パターン33は、空気調和機100を構成する部材(例えば、ファンなど)に異常が生じた状態で空気調和機100を運転したときの運転音の音声パターンである。なお、運転モードや各種設定によって運転動作音が異なる場合には、運転モードや各種設定ごとに正常音声パターン32及び異常運転パターン33を格納する。正常音声パターン32と異常音声パターン33は、後述するデータベース更新部25により所定のタイミングで更新される。また、音声パターン初期値34は、正常音声パターン32及び異常音声パターン33の初期値である。
The
音声認識部23は、特徴量・補足計算部21が抽出した特徴量と、音声データベース30に記憶された音声認識パターン31とに基づいて音声認識を行う。音声認識は、種々の方法で行うことができるが、例えば、「音声情報処理」(古井貞煕著、森北出版株式会社)の第5章に記載されている方式を用いることで実現することができる。
例えば音声認識アルゴリズムとしてHMMを用いる場合、音声データベース30に認識対象となる音声をHMMとして表現しておき、このHMMが、実際に取得された音声の特徴ベクトル列を生成する確率を計算し、最も高い確率で出力するHMMを認識結果とする。
The
For example, when an HMM is used as the speech recognition algorithm, the speech to be recognized is represented as an HMM in the
なお、音声認識を行う前に、音声信号の周波数分離を行い、認識対象とすべき音声と同様の周波数を持つ音声信号のみを抽出する。このようにすることで、音声認識対象からノイズを除去することができ、誤認識を防ぐことができる。周波数分離は、MPU9の機能で行ってもよいが、フィルタで行うこともできる。この場合、デジタルフィルタなどを設け、周波数ごとに、音声、振動、ノイズなどを分離することができる。
Before performing speech recognition, frequency separation of speech signals is performed, and only speech signals having the same frequency as the speech to be recognized are extracted. By doing in this way, noise can be removed from the speech recognition target and erroneous recognition can be prevented. The frequency separation may be performed by the function of the
故障診断部24は、音声認識部23の音声認識結果と、音声到達方向特定部22が特定した音源の方向に基づいて、故障診断を行う。故障診断においては、経年変化に伴う異常推定も行う。なお、故障診断の詳細については後述する。
The
データベース更新部25は、音声認識部23の認識結果、及び、故障診断部24の認識結果に基づいて音声データベース30の更新を行う。データベースの更新には、空気調和機100を据え付けたときに行う初期更新と、所定タイミングで行う通常更新とがある。
まず、初期更新について説明する。初期状態において、音声データベース30には所定の運転動作音が音声認識パターン31として初期登録されている。初期更新では、空気調和機100を据え付けたときに行う試運転の運転動作音を、正常音声パターン32として追加で登録する。このとき、暖房、冷房、送風などの運転モードや、強風、弱風などの各種設定を組み合わせて試運転し、各設定ごとの運転動作音を登録する。運転動作音は、空気調和機100の据え付け環境の周囲の材質、配管長、周辺の騒音などの据え付け条件によって差異が生じるが、空気調和機100の据え付け環境において音声データベース30の更新を行うことで、より正確な音声認識及び故障診断を行うことができる。なお、試運転での運転動作音が、音声データベース30に初期登録されている正常音声パターン32と一致しない場合には、異常が生じているものと判定して報知動作を行うこともできる。
The
First, the initial update will be described. In the initial state, a predetermined driving operation sound is initially registered as a
なお、マイク2の設置場所が壁に近い場合には、反射によって正確に音声認識や音声到達方向の特定が行えない可能性がある。また、音源とマイク2との距離が近い場合には、マイク2が取得した音声信号がピークカットされてしまい、同様に音声認識や音声到達方向の特定が正確に行えない可能性がある。
このような場合に対応するため、空気調和機100の据え付けから例えば24時間、1週間、1ヶ月など、一定期間にわたって音声信号を取得するとともに音声認識を行って音声データベース30の初期更新を行ってもよい。または、空気調和機100の本体または分離型装置に設けたブザーなどの音声発生装置から音を発生させ、マイク2により取得した該ブザーの音声信号の音圧から、PGA(プログラマブルゲインアンプ)によって自動でゲイン調整を行ってもよい。
また、反射が重畳されない場合は、マイク2はスペクトルの低い音声を取得する。このため、反響の対策としては、同様の音声認識パターン31が連続した場合にはこれをカットする、あるいは、スペクトル減算、音声認識部23の認識窓の調整を行うなどすることができる。
In addition, when the installation place of the
In order to cope with such a case, the
In addition, when the reflection is not superimposed, the
次に、音声データベース30の通常更新について説明する。通常更新は、音声認識や故障診断を行ったタイミングで行う。データベース更新部25は、音声認識部23が認識した運転動作音を、空気調和機100の運転モードや各種設定などの情報とともに、音声認識パターン31として音声データベース30に追加登録する。このとき、正常運転時の運転動作音は正常音声パターン32として登録する。また、故障診断により故障と判断された場合の運転動作音は、異常音声パターン33として登録する。このように、空気調和機100の運転中に実際に取得した運転動作音に基づいて音声データベース30を更新することで、音声認識の精度を向上させることができる。なお、通常更新においては、認識した運転動作音の音声データを、ログとして格納することもできる。このようにすることで、後述する故障診断における経年変化による故障推定を容易に行うことができる。
Next, normal update of the
なお、音響分析部20、特徴量・補足計算部21、音声認識部23、音声到達方向特定部22、故障診断部24、データベース更新部25の各機能は、それぞれに対応する専用プログラムをMPU9が実行することによって実現される。なお、これらのプログラムはROM11に格納されており、必要時にRAM10に読み出された上でMPU9によって実行されるものである。
Note that the
図5は、上記のように構成された空気調和機100の故障診断の動作フローである。
故障診断を開始すると、MPU9は、マイク2、フィルタ、アンプ、A/D・D/Aコンバーター7を介して音声信号を取得する(S121)。次に、音響分析を行い、音声認識の対象とする音声信号を特定する(S122)。続けて、音声認識部23の音声認識アルゴリズムに応じた特徴量の抽出等を行う(S123)。次に、音声認識部23の音声認識アルゴリズムにより、取得した音声が何の音声であるか、音声認識を行う(S124)。また、音声到達方向を特定する(S125)。なお、図5では音声認識を行った後に音声到達方向を特定するものとして記載しているが(S124、S125)、両処理は平行して行うこともできる。
FIG. 5 is an operational flow of failure diagnosis of the air conditioner 100 configured as described above.
When the failure diagnosis is started, the
そして、音声認識結果と音声到達方向に基づき、故障診断を行う(S126)。異常があれば(S127)、故障箇所を特定し(S131)、表示部4またはスピーカー1等により異常を報知する(S132)。故障診断で異常が無ければ(S127)、経年劣化診断を行う(S128)。経年劣化診断では、音声認識結果と音声パターン初期値34と対比し、経年変化により徐々に劣化していないか判断する(S128)。経年変化が正常範囲を超えている場合には異常が生じていると判断し(S129)、故障箇所を特定して(S131)、スピーカー1や表示部4等を用いて異常を報知する(S132)。なお、故障による異常か経年変化による異常かで報知方法を変えれば、異常内容をユーザーに分かりやすく伝えることができる。また、経年変化が正常の範囲内であれば(S129)、そのデータを最新の正常運転音として音声データベース30の正常音声パターン32に記憶する(S130)。
Then, failure diagnosis is performed based on the voice recognition result and the voice arrival direction (S126). If there is an abnormality (S127), a fault location is specified (S131), and the abnormality is notified by the
ここで、音声認識や音声到達方向の特定を正確に行うためには、複数のマイク2は同じ特性のものを用い、振幅や位相がなるべく正確に比較できるようにすることができる。
一方で、用途に応じて異なる種類のマイク2を用いることもできる。例えば、周波数特性の異なる4台のマイク2を用いると、4台のうちいずれかのマイク2で利得の大きい正確な音声を取得することができ、他のマイク2は、位相差判定など音声到達方向の検出に使用する。このようにすることで、利得最大の音声信号を取得しつつ、音声到達方向を検出することができる。
また、指向性を出すために、マイク2に遅延を設けることができる。または、特性の違うマイク2を用いてガンマイクのように指向性を出すなど、認識対象の音声に応じて使い分けることができる。
Here, in order to accurately perform voice recognition and voice arrival direction specification, a plurality of
On the other hand, different types of
Further, in order to obtain directivity, the
次に、故障診断処理について詳細に説明する。
故障診断処理においては、音声認識部23による音声認識結果に基づいて、故障が生じているか否か診断する。例えば、音声認識部23がHMMによる音声認識を行う場合、音声データベース30に認識対象となる音声をHMMとして表現しておき、このHMMが、実際に取得された音声の特徴ベクトル列を生成する確率を計算し、最も高い確率で出力するHMMを認識結果とするが、この認識結果が正常音声パターン32を示す場合には、故障が生じていないと判断することができる。また、認識結果が正常音声パターン32を示す場合であっても、その確率が所定の閾値以下である場合には、故障が生じていると診断することもできる。故障診断を行う際の閾値等は、空気調和機100の設置環境や据え付け年数等に応じて任意に設定することができる。
そして、取得された運転動作音が異常であると診断した場合には、音声到達方向特定部22が特定した音源の方向に基づいて、異常箇所を特定する。例えば、室内機の中央方向が音源となっている場合には、その方向にある部品等に異常が生じていると判断する。このように、音源の方向を故障診断に利用することで、より精度の高い故障判定を行うことができる。また、特定した故障箇所を報知すれば、使用者や修理担当者が故障箇所や故障原因を容易に特定することができる。
Next, the failure diagnosis process will be described in detail.
In the failure diagnosis process, whether or not a failure has occurred is diagnosed based on the voice recognition result by the
When the obtained driving operation sound is diagnosed as abnormal, the abnormal location is specified based on the direction of the sound source specified by the voice arrival
なお、認識した音声が正常であると判断した場合でも、音源の方向が、本来なら音がほとんど鳴らないような箇所である場合には、その箇所に異常が生じていると判断することもできる。
また、故障診断では、音声認識部23で認識した音声によって診断を行うが、この音声は周波数分離がなされている。このため、周波数ごとに診断することができるので、より詳細な故障診断が可能である。
Even when it is determined that the recognized sound is normal, if the direction of the sound source is a place where the sound hardly sounds, it can be determined that an abnormality has occurred in that place. .
In the failure diagnosis, the diagnosis is performed using the voice recognized by the
次に、経年変化による故障推定の動作について説明する。前述の通り、音声データベース30の正常音声パターン32は、故障診断を行って正常であると判定されると更新される(図5のステップS130参照)。したがって、音声データベース30の正常音声パターン32は徐々に変化していくので、経年変化により徐々に劣化が生じている場合にはその変化を把握するのが困難である。例えば、空気調和機100に設置されている除塵フィルタなどは、時間とともに徐々に汚れていくが、正常音声パターン32も定期的に更新されていくので、除塵フィルタの汚れに伴う音声の変化を把握するのが困難である。このため、経年変化による故障推定においては、音声パターン初期値34と、現在認識した音声パターンとを比較し、差分を検出する。そして、差分が所定の閾値を超えている場合には、経年劣化が生じているものと判断する。このようにすることで、徐々に生じる劣化を検出することができる。
Next, the failure estimation operation due to secular change will be described. As described above, the
例えば、除塵フィルタの汚れが生じている場合には、除塵フィルタを通過する空気の音の音声スペクトルが大きくなるので、除塵フィルタが埃で目詰まりしていると判断することができる。従来より、運転時間によって劣化を推定してフィルタ清掃を行う技術があるが、本発明によれば、劣悪な環境で運転していてすぐに目詰まりしてしまったような場合でも、適切にフィルタ清掃を行うことができる。 For example, when the dust filter is contaminated, the sound spectrum of the sound of the air passing through the dust filter is increased, so that it can be determined that the dust filter is clogged with dust. Conventionally, there is a technique for performing filter cleaning by estimating deterioration based on operation time. However, according to the present invention, even when the driver is operating in a poor environment and immediately becomes clogged, the filter is appropriately filtered. Cleaning can be performed.
ここで、故障診断は、任意のタイミングで行うことができる。例えば、所定日時に行うこともできるし、所定時間ごとに定期的に行うこともできる。
また、故障診断を行うタイミングを設定する手段、あるいは、故障診断を開始する操作手段などを設け、ユーザーが指定したタイミングで故障診断を行うこととしてもよい。このように故障診断を行うタイミングをユーザーが指定できるようにすることで、空気調和機100を使用している最中に故障診断を行うのを避けるなど、ユーザーの使い勝手を向上させることができる。また、空気調和機100の運転状況から空気調和機100をほとんど使用しない期間を推定し(例えば、春や秋など)、この期間に定期的に故障診断を行うこともできる。
また、空気調和機100を据え付けてからの時間を計測する計時手段を設け、据え付け後の経過時間に応じて故障診断の内容を変えてもよい。例えば、据え付けから間もないときには故障する可能性が低いので経年劣化の診断を省くなどして簡易な故障診断を行い、据え付けから所定期間経過した後に経年劣化の診断などを行うことができる。このようにすることで、故障診断に要する負荷を低減することができる。
Here, the failure diagnosis can be performed at an arbitrary timing. For example, it can be performed at a predetermined date and time, or can be performed periodically every predetermined time.
Further, a means for setting the timing for performing the failure diagnosis or an operation means for starting the failure diagnosis may be provided to perform the failure diagnosis at a timing designated by the user. By making it possible for the user to specify the timing for performing failure diagnosis in this way, it is possible to improve user convenience, such as avoiding failure diagnosis while the air conditioner 100 is being used. In addition, a period in which the air conditioner 100 is hardly used can be estimated from the operating state of the air conditioner 100 (for example, spring or autumn), and failure diagnosis can be performed periodically during this period.
Further, a time measuring unit that measures the time after the air conditioner 100 is installed may be provided, and the content of the failure diagnosis may be changed according to the elapsed time after the installation. For example, since it is unlikely that a failure will occur immediately after installation, a simple failure diagnosis can be performed by omitting the diagnosis of aging deterioration, and a diagnosis of aging deterioration can be performed after a predetermined period of time has elapsed since installation. In this way, the load required for failure diagnosis can be reduced.
また、故障診断タイミングでない場合でも所定タイミングで音声認識部23が音声認識を行うようにし、空気調和機100の運転中に定常波に大きな変化(大きな音)が生じた場合には、そのときの運転制御と同様の制御を再び実行し、現象が再現するかどうか判断する。そして、再現する場合には異常を報知し、再現しない場合には故障診断を行う。このようにすることで、所定の故障診断タイミング以外に故障が生じた場合でも、適切に故障診断を行うことができる。
Further, even when it is not the failure diagnosis timing, the
また、上記説明では、制御装置3のMPU9によって音声データベース30の構築を行うこととして説明したが、MPU9の処理能力によっては高い精度で処理することが困難な場合がある。このような場合には、接続部12を介して接続したPC300に複数のマイク2を接続し、マイク2が取得した音声信号に基づいて音声認識を行って音声データベース30を構築する。このようにして構築した音声データベース30を、制御部のROM11に格納する。PC300であれば、音声認識エリアの指定、壁の位置や材質、騒音フィルタなど、精度の高い音声認識を行うための設定を細かく行うことができるので、より精度の高い音声データベース30を構築することができる。なお、PC300でなくとも、インターネット上のアプリケーションサーバなど、同等の機能を実現できる機器であれば用いる装置は問わない。
また、空気調和機100と外部装置(PC300など)との通信方法は、無線LAN、微弱無線、赤外線通信、可視光通信、RFIDなどの無線通信、または、Ethernet(登録商標)、UART(Universal Asynchronous Receiver Transmitter)、I2C(Inter IC Comunication)、PLC(Power Line Communication)などの有線通信によって行うことができ、通信が可能であればその方式は問わない。
また、マイク自体を空気調和機100や外部装置とは別の場所に設け、そのマイクで取得した音声データを空気調和機100や外部装置に転送することも可能である。
In the above description, the
The communication method between the air conditioner 100 and an external device (such as the PC 300) can be wireless LAN, weak wireless, infrared communication, visible light communication, wireless communication such as RFID, Ethernet (registered trademark), UART (Universal Asynchronos). It can be performed by wired communication such as Receiver Transmitter (I2C), I2C (Inter IC Communication), and PLC (Power Line Communication), and any method can be used as long as communication is possible.
It is also possible to provide the microphone itself at a place different from the air conditioner 100 and the external device, and transfer the audio data acquired by the microphone to the air conditioner 100 and the external device.
また、アクティブノイズキャンセルを行うこともできる。具体的には、音声認識部23により認識した音声が、定常波である一定以上の音声スペクトルを有している場合には、経年劣化などにより空気調和機100を構成するいずれかの部品がノイズ音を発するようになったものと判断し、ノイズ音の周波数の位相を反転した音声を、認識した音声の音源方向に向いているスピーカー1から出力する。このようにすると、ノイズ音を相殺することができるので、空気調和機100の据え付け後に経年劣化や故障で音のトラブルが生じた場合でも、故障に伴う異常な運転動作音を検出することができる。また、運転動作に伴うノイズ音を打ち消すことができるので、使用者の快適性を向上させることができる。さらには、空気調和機100に設けるべき消音材などの材料を削減することができる。なお、アクティブノイズキャンセルを行う場合には、ノイズ源に変化がないか、また、別の方向のノイズが大きくなっていないか、など、定期的に音声認識部23により判断を行う。
Also, active noise cancellation can be performed. Specifically, when the speech recognized by the
このように、本実施の形態1に係る空気調和機100によれば、音声認識結果と音源方向に基づいて故障検出を行うようにしたので、故障位置と故障内容を適切に把握することができる。また、音声認識に使用する音声認識パターンを更新可能に構成した。このため、空気調和機100の据え付け環境により運転動作音が異なる場合でも、より正確な音声認識及び故障診断を行うことができる。 As described above, according to the air conditioner 100 according to the first embodiment, the failure detection is performed based on the voice recognition result and the sound source direction, so that the failure position and the failure content can be appropriately grasped. . Also, the voice recognition pattern used for voice recognition can be updated. For this reason, even when the driving operation sound varies depending on the installation environment of the air conditioner 100, more accurate voice recognition and failure diagnosis can be performed.
なお、本実施の形態1では、音声データベース30の初期更新や通常更新を行うものとして説明したが、音声データベース30は更新せず、予め構築された音声データベース30により音声認識を行ってもよい。この場合、試験運転等により、運転モードや各種設定に応じた正常音声パターン32と異常音声パターン33を各種登録しておく。このようにしても音声認識により故障診断を行うことができ、音声データベース30の更新に要する空気調和機100の負担を省くことができる。
In the first embodiment, it has been described that the initial update or the normal update of the
また、本実施の形態1では、複数のマイク2を設け、各マイク2が音声を取得するタイミングの差を利用して音源方向を特定する場合を例に説明したが、マイク2は1台であってもよい。この場合、指向性の強いマイクのマイクヘッド等を改造して様々な方向を向くようにし、複数の方向から音声を取得して最も音圧レベルの高い方向を音源方向とすることができる。
In the first embodiment, a case where a plurality of
実施の形態2.
本実施の形態2では、音声取得手段としてのマイク2により振動を検知し、振動により故障診断を行う場合の例について説明する。ここで、マイク2は、内部に図示しない振動板を備え、音圧によって生じる静電容量の変化により音声を取得するものとする。なお、本実施の形態2に係る空気調和機は、MPUの機能のみ前述の実施の形態1と異なるので、相違点を中心に説明する。
In the second embodiment, an example will be described in which vibration is detected by a
図6は、本実施の形態2に係るMPU9の機能ブロック及びROM11に格納された振動データベース150の構成を示す図である。図6において、MPU9aは、振動分析部40、振動認識部41、振動到達方向特定部42、及び故障診断部43を備える。
FIG. 6 is a diagram illustrating a functional block of the
振動データベース50は、振動パターン51を格納している。振動パターン51は、空気調和機が正常運転を行っている場合において、運転により生じる振動の振動パターンである。なお、運転モードや各種設定によって、空気調和機の運転による振動が異なる場合には、運転モードや各種設定ごとに正常振動パターン51を格納する。
The
振動分析部40は、マイク2が取得した振動の周波数分離を行った後、周波数分析を行って振動スペクトルを検出する。振動認識部41は、振動分析部40の検出結果と振動データベース50に格納された正常振動パターン51とを比較する。そして、振動分析部40の検出結果が、正常振動パターン51と同じ、または正常振動パターン51の逓倍、または正常振動パターン51の分周、のいずれかと合致するか否か認識する。振動到達方向特定部42は、振動分析部40の検出結果に基づいて振動源の方向を特定する。振動源の特定は、前述の実施の形態1で述べた音声到達方向特定部22と同様に、複数のマイク2が取得した振動の到達遅延時間に基づいて行う。そして、故障診断部43は、振動認識部41の認識結果及び振動到達方向特定部42の検出結果に基づいて、故障の有無と故障の方向を診断する。例えば、図2(B)で示したように室内機の筐体の四隅にマイク2を設置した状態において、4台のマイク2に同時に振動が到達した場合(4台のマイク2から振動源までの距離が等しい場合)であって、その振動が正常運転時の振動パターンとは異なる場合には、室内機の中央付近(例えば、図示しないファン)に何らかの故障が発生していると診断する。
The
コンデンサを用いる方式のマイク2を音声取得手段として用いる場合、音圧によってマイク2内に設けられた振動板が変化するので、その静電容量の変化によって音声信号を取得している。このように、振動により音声を取得する方式のマイク2では、周波数特性を音声領域(可聴領域)に合わせて利得が出るように設計し、音声を取得しやすくしている。しかし、空気調和機のように運転動作によって振動が生じるような機器にマイク2を取り付けると、運転動作の振動によってマイク2内の振動板に影響を与えてしまう。このような影響を除去するため、フィルタリングを行って音声信号を取得している。
When the
本実施の形態2では、マイク2が取得した振動の周波数分離を行うとともに周波数分析を行い、振動の周波数によって故障の有無を診断している。このように、音声取得手段であるマイク2が感知した振動によっても、故障診断や故障位置の特定を行うことができる。また、前述の実施の形態1で述べた音声による故障診断と組み合わせて用いることで、より詳細な故障診断を行うことができる。
In the second embodiment, frequency separation of vibrations acquired by the
実施の形態3.
本実施の形態3では、音声認識結果に基づいて空調制御を行うとともに、音声入力による操作が可能な空気調和機200を例に説明する。なお、本実施の形態3において、前述の実施の形態1と同様の構成要素には同じ番号を付している。
Embodiment 3 FIG.
In the third embodiment, an air conditioner 200 that performs air conditioning control based on a voice recognition result and can be operated by voice input will be described as an example. In the third embodiment, the same reference numerals are assigned to the same components as those in the first embodiment.
図7は、本実施の形態3に係る空気調和機200のハードウェア構成を示す図である。本実施の形態3では、任意の方向に超音波を発生させることのできる超音波送信器14を備える点が、前述の実施の形態1と異なる。 FIG. 7 is a diagram illustrating a hardware configuration of the air conditioner 200 according to the third embodiment. The third embodiment is different from the first embodiment in that an ultrasonic transmitter 14 that can generate ultrasonic waves in an arbitrary direction is provided.
図8は、本実施の形態3に係るMPU9の機能ブロック及びROM11に格納された音声データベース60と活動データベース70の構成を示す図である。図8において、MPU9は、音響分析部20、特徴量・補足計算部21、音声認識部23、音声到達方向特定部22、音声認識部23の認識結果及び音声到達方向特定部22の特定結果に基づいて人体の活動領域や活動量を検知する人体検知部82、データベース更新部83、空気調和機200の運転動作を制御する空調制御部85、及び、図示しないリモコンなどからの操作指示を受け付けて運転信号に変換する操作I/F(インターフェース)84を備える。
FIG. 8 is a diagram showing the functional blocks of the
音声データベース60は、音声認識を行う際の音声認識パターン61を格納している。音声認識パターン61には、生活音声パターン62と操作音声パターン63の2種類がある。生活音声パターン62は、空気調和機200の設置環境におけるユーザーの代表的な生活音の特徴量である。例えば、オフィスなどに設置される空気調和機200の場合は、生活音声パターン62として、マウスのクリック音、キーボードの打鍵音、電話の呼び出し音、などを格納する。また、操作音声パターン63は、音声による操作を行うための音声パターンが格納されている。例えば、「拍手2回」で所定の操作を行う場合には、拍手を2回行ったときの音声パターンが格納されている。
The
活動データベース70は、空気調和機200が据え付けられた環境における、日時とその日時におけるユーザーの活動エリア、活動量などを活動パターン71として格納している。ユーザーは、予め活動データベース70を設定しておくことができる。また、ユーザーの活動状況に応じて、学習により活動データベース70を更新することもできる。活動データベース70は、24時間、1週間、1ヶ月などの所定期間内において、いつ、どこで、どのような活動をユーザーが行うかを示す情報であるといえる。
The
音声認識部23は、特徴量・補足計算部21が抽出した特徴量に基づき、音声データベース60を参照して、音声を特定する。音声認識の結果は、人体検知部82に出力されるとともに、認識した音声が操作音声である場合には、操作I/F84へ出力する。なお、音声認識方法は、前述の実施の形態1と同様である。
The
空間認識部81は、特徴量・補足計算部21が抽出した特徴量と、音声到達方向特定部22が特定した音源の方向に基づいて、空間認識を行う。空間認識の動作については後述する。
The
人体検知部82は、音声認識部23の音声認識結果と、音声到達方向が特定した音源の方向に基づいて、ユーザーの在・不在、ユーザーの活動エリア、ユーザーの活動量などを検出する。人体検知の動作については後述する。
The human
データベース更新部83は、空気調和機200を据え付けたときに初期更新を行うとともに、所定周期で音声認識部23や人体検知部82の検知結果に基づいて音声データベース60や活動データベース70を更新する。
まず、音声データベース60の更新について説明する。音声データベース60には、予めユーザーの生活音の音声認識パターン61が格納されているが、ユーザーによって生活音は異なる。このため、例えば、音声認識部23が所定期間内(24時間、1週間、1ヶ月など)に特定の音声データを繰り返し検知した場合には、その音声がユーザーの生活音であると判断し、音声データベース60に音声認識パターン61として書き込む。このようにすることで、音声認識部23による音声認識の精度を高めることができる。
次に、活動データベース70の更新について説明する。人体検知部82は、所定期間内(24時間、1週間、1ヶ月など)における人体検知において、検知内容とその時刻や場所等を学習して活動データベース70に格納する。格納する情報は、例えば、いつ、どの場所に、ユーザーが存在したか、などである。また、ユーザーが空気調和機200の運転操作を行った場合には、その時刻と内容を学習して活動データベース70に格納してもよい。
The
First, the update of the
Next, the update of the
操作I/F84は、リモコン(図示せず)などの操作手段から送られた入力信号を受信し、運転信号として空調制御部85に伝える。また、音声認識部23により認識された音声が操作指令である場合には、認識された音声を運転信号として空調制御部85に伝える。
The operation I / F 84 receives an input signal sent from an operation means such as a remote controller (not shown) and transmits it to the air
空調制御部85は、操作I/F84からの入力信号に基づいて、冷暖房などの空調制御を行う。このとき、活動データベース70を参照してユーザーの活動エリアを把握し、ユーザーの活動エリアに対して選択的に空調を行うようにする。例えば、ユーザーの活動エリアに対して涼感を与えるようスイングで風を送るよう制御する。あるいは、ユーザーの活動エリア以外には、空調を行わないように制御する。なお、空調動作については後述する。
The air
次に、空間認識動作について説明する。
空気調和機200の据え付け時などの初期設定時において、一定期間(例えば、24時間、1週間、1ヶ月など)マイク2により音声信号を取得するとともに、音声到達方向特定部22によりその音源の方向を特定する。そして、音源到達方向ごとに、音声信号の音声スペクトルを比較し、音声スペクトルの差分が大きい場所を室内・室外の境界とする。
Next, the space recognition operation will be described.
At the time of initial setting such as when the air conditioner 200 is installed, the sound signal is acquired by the
空間認識は、初期設定時に行うとともに、空気調和機200の通常運転中にも所定タイミングで繰り返し行う。このようにすることで、ドアの開け閉めや什器の移動などに伴う空間の変化も把握する。
また、カメラ、フォトダイオード、焦電センサー、サーモパイル、測距センサー、レーダーによる空間認識を併せて行ってもよい。この場合、音声認識部23が所定の音声を認識したときに、カメラ等による認識を併せて行うことで、検知対象をより正確に検知することができる。さらには、PC300などの外部機器で空間認識を行ってもよい。
Spatial recognition is performed at the time of initial setting, and is also repeatedly performed at a predetermined timing during normal operation of the air conditioner 200. In this way, it is possible to grasp the change in the space due to the opening / closing of the door and the movement of the fixture.
Further, space recognition by a camera, a photodiode, a pyroelectric sensor, a thermopile, a distance measuring sensor, and a radar may be performed together. In this case, when the
また、空間認識は、超音波により行うこともできる。この場合、超音波送信器14により所定方向に対して超音波を発し、反射波をマイク2で受信して壁などの非検出物との距離を測定することにより空間認識を行う。すなわち、音声取得手段としてのマイク2を、超音波センサーとして利用する。用いるマイク2は、圧電素子方式でもコンデンサ方式でもよく、音波と超音波を受信できるものであればよい。また、マイク2とスピーカが一体に構成されているものであれば、部品数を削減することができる。マイク2により超音波信号を受信すると、受信した信号に基づいて検出対象との距離を測定する。測定の原理は一般的な超音波センサーと同様である。このとき、複数のマイク2を用いて超音波の送受信を繰り返し行うことで、検出精度を向上させることができる。広域に超音波を発信した場合、反射した超音波をマイク2が受信する時間差から、壁などの障害物までの距離が判明する。
Spatial recognition can also be performed by ultrasonic waves. In this case, the ultrasonic transmitter 14 emits an ultrasonic wave in a predetermined direction, receives the reflected wave with the
また、気温によって超音波の伝搬速度が異なるが、空気調和機200が備える図示しない温度センサー5の検出結果を用いることで、精度の高い距離検出を行うことができる。なお、音波の速度vは、下記式で簡易に求めてもよい。
v≒331.5+0.61*t(m/s)
t:気温(℃)
Moreover, although the propagation speed of an ultrasonic wave changes with air temperature, distance detection with high precision can be performed by using the detection result of the temperature sensor 5 (not shown) with which the air conditioner 200 is provided. Note that the velocity v of the sound wave may be easily obtained by the following equation.
v≈331.5 + 0.61 * t (m / s)
t: Air temperature (° C)
また、例えば検出対象との距離が遠い場合であって、超音波によっては距離検出を行うことができない場合には、音波領域の波長でセンシングしてもよい。この場合、音声認識あるいは赤外線センサーなどで人の在・不在判定を行い、不在のエリアに対して長い波長の音波を発生させる。このようにすることで、ユーザーに不快感を与えることなく、空間認識を行うことができる。 Further, for example, when the distance to the detection target is far and the distance cannot be detected by the ultrasonic wave, sensing may be performed with the wavelength of the sound wave region. In this case, the presence / absence determination of a person is performed by voice recognition or an infrared sensor, and a sound wave having a long wavelength is generated in the absence area. By doing in this way, space recognition can be performed without giving a user discomfort.
次に、ユーザーの活動エリアを検出する人体検知動作について説明する。
空気調和機200の据え付け時などの初期設定時において、一定期間(例えば、24時間、1週間、1ヶ月など)マイク2により音声信号を取得し、音声認識部23により音声認識を行う。音声データベース60には予め典型的なユーザーの生活音(ユーザーの声、電話の呼び出し音、マウスのクリック音、キーボードの打鍵音など)の音声認識パターン61が登録されており、所定の音声認識アルゴリズムによって音声認識が行われる。併せて、音声到達方向特定部22により音源の方向が特定される。人体検知部82は、ユーザーの生活音が認識された場合には、その音源の方向がユーザーの活動エリアであると判断する。また、ユーザーの生活音が認識できない場合には、ユーザーの活動エリア外であると判断する。ユーザーの活動エリアか否かを判断する場合には、生活音が所定の閾値を超えて繰り返し認識されたか否か、などの基準を設けて判断することができる。
Next, a human body detection operation for detecting a user's activity area will be described.
At the time of initial setting such as when the air conditioner 200 is installed, a voice signal is acquired by the
また、ユーザーの活動エリアの検出は、時刻、照明のON/OFF状態などと連動して行うことができる。この場合、図示しない計時手段を空気調和機200に設け、時刻によってユーザーの在・不在を検出する。あるいは、照明のON/OFF状態を取得し、OFFのときにはユーザーが不在であると判断する。さらには、赤外線センサーやカメラによりユーザーの活動エリアを検出してもよい。また、PC300などの外部機器を用いてもよい。
また、空気調和機200の室内機の据え付け位置が予め設定されている場合には、この情報を活用する。さらには、前述の超音波送信器14により所定方向に対して超音波を発し、ユーザーの在・不在を判定することによりユーザーの活動エリアを検出してもよい。
The user's activity area can be detected in conjunction with the time, lighting ON / OFF state, and the like. In this case, a time measuring means (not shown) is provided in the air conditioner 200, and the presence / absence of the user is detected according to the time. Alternatively, the lighting ON / OFF state is acquired, and when it is OFF, it is determined that the user is absent. Further, the user activity area may be detected by an infrared sensor or a camera. An external device such as the
Moreover, this information is utilized when the installation position of the indoor unit of the air conditioner 200 is preset. Furthermore, the user's activity area may be detected by emitting ultrasonic waves in a predetermined direction by the ultrasonic transmitter 14 and determining the presence / absence of the user.
次に、空調制御動作について説明する。
空調運転を開始すると、リモコンなどの操作手段により設定された温度や運転モードで空調動作を開始する。このとき、活動データベース70を参照し、空間認識により「室内」と認識された領域や、ユーザーの活動エリアに対して選択的に空調を行うようにする。例えば、ユーザーの活動エリアに向けて涼感を与えるようスイングで風を送るなどの制御を行う。また、活動データベース70により予めユーザーの活動予定が推測できる場合には、事前に冷房を開始・停止するなどの予測運転を行ってもよい。このようにすることで、無駄な空調を省き、エネルギー消費量を低減することができる。
Next, the air conditioning control operation will be described.
When the air-conditioning operation is started, the air-conditioning operation is started at the temperature and the operation mode set by operation means such as a remote controller. At this time, the
また、空調運転中も音声認識と人体検知を行い、検知結果に基づいて空調制御を行う。例えば、ユーザーの声やキーボードの打鍵音など、ユーザーの生活音を所定時間検出できない場合には、ユーザーがいないものと判断し、そのエリアに対しては空調を停止する、あるいは、省エネモードで運転するなどの制御を行う。
また、ユーザーの声を検出した場合において、その音声の到達方向が頻繁に変化する場合には、ユーザーが移動を繰り返していて活動量が大きく人体の発熱も大きいと判断し、例えば冷房を強めに設定する、あるいは、暖房を弱めに設定する、などの空調制御を行う。このようにすることで、ユーザーの快適性を向上させることができる。なお、音声認識結果により空調制御を行う場合でも、ユーザーの手動設定により運転することも可能である。
In addition, voice recognition and human body detection are performed during air conditioning operation, and air conditioning control is performed based on the detection result. For example, if the user's daily sound such as the user's voice or keyboard tapping sound cannot be detected for a predetermined time, it is determined that there is no user and the air conditioning is stopped for that area, or the system is operated in the energy saving mode. Control such as to do.
Also, when the user's voice is detected and the direction of arrival of the voice changes frequently, it is determined that the user has repeatedly moved, the amount of activity is large, and the human body generates a large amount of heat. Air conditioning control such as setting or setting the heating to be weak is performed. By doing in this way, a user's comfort can be improved. Even when the air conditioning control is performed based on the voice recognition result, it is possible to operate by a user's manual setting.
次に、音声による操作方法について説明する。
取得した音声が音声操作信号であると認識された場合、操作I/F84を介して空調制御部85に音声操作信号が伝達される。空調制御部85は、音声操作信号の音源方向と活動データベース70を参照して、この音声操作信号がユーザーの活動エリアから発せられたものか否か判断し、活動エリアからの音声操作のみ受け付ける。そして、スピーカー1からの音声出力あるいは表示部4による表示により、音声操作の確認を行い、ユーザーから所定の反応があった場合に音声操作を実行する。また、予め音声操作が可能なエリアを設定しておき、このエリア以外からの音声操作は受け付けないようにしてもよい。例えば、拍手2回で音声操作機能を起動し、その後拍手1回で設定温度を上げる、という設定の場合には、音声認識の結果と音源方向とで音声操作を受け付けるか否か判断する。このようにすることで、音声操作の誤認識を防ぐことができる。
Next, an operation method using voice will be described.
When the acquired voice is recognized as a voice operation signal, the voice operation signal is transmitted to the air
また、ネットワークに接続し、他の空気調和機200、サーキュレータ、換気扇、加湿器、除湿機、空気清浄機などと連動することができる。例えば、他の空気調和機200と連動する場合において、双方で人体検知を行い、一方の空気調和機200の空調対象エリアにのみユーザーが存在する場合には、そのエリアから空調された空気が逃げないように、他方が送風を行ってエアーカーテンを形成する。このようにすることで、空調効率を向上させることができる。また、複数の空気調和機200で空調を行っている場合において、ある空気調和機200がフルパワーで運転している場合には、他の空気調和機200から空調した空気を送り込んで空調を手助けする。このようにすることで、各空気調和機200が効率よく空調を行うことができる。また、空気調和機200の操作履歴、設定情報、電気代などをネットワーク経由で外部機器から確認したり、外部機器により遠隔操作を行うこともできる。 Moreover, it can connect with a network and can interlock | cooperate with the other air conditioner 200, a circulator, a ventilation fan, a humidifier, a dehumidifier, an air cleaner, etc. For example, when interlocking with another air conditioner 200, human body detection is performed on both sides, and if a user exists only in the air-conditioning target area of one air conditioner 200, the air conditioned escapes from that area. The other blows to form an air curtain so that there is no air. By doing in this way, air-conditioning efficiency can be improved. In addition, when air conditioning is performed with a plurality of air conditioners 200, when a certain air conditioner 200 is operating at full power, air conditioned air is sent from another air conditioner 200 to assist air conditioning. To do. By doing in this way, each air conditioner 200 can air-condition efficiently. Further, the operation history, setting information, electricity bill, etc. of the air conditioner 200 can be confirmed from an external device via a network, or remote operation can be performed by the external device.
また、本発明の空気調和機200は、人体検知部82によりユーザーの在・不在が判断できるので、就業時間外に人体が検知された場合には、警報動作を行うことができる。この場合、例えば警備員が入室する場合など警報動作が不要なときには、空気調和機200とネットワークで接続されたRFIDなどの認証システムと連携し、この認証システムから特定の音声を発した音声を空気調和機200が認識した際には、所定時間は人体検知を停止することとしてもよい。従来より、カメラにより人体検知を行う技術があるが、本実施の形態3に係る空気調和機200によればより安価に人体検知を行うことができる。また、輻射センサー、あるいは赤外線焦電センサーにより人体検知を行う技術もあるが、輻射センサーにより温度を取得して人体検知する場合には、温度を取得するまでに時間がかかるので、リアルタイムに人体検知を行うことができない。また、赤外線焦電センサーによれば、赤外線の変化の有無は判断することができるが、検出対象の大きさなど詳細な状況を判断することができない。本実施の形態3に係る空気調和機200によれば、音声認識により人体検知を行うので、リアルタイムに判断することができる。また、音声到達方向により検出対象の位置や大きさも検出できる。また、インターネットや電話回線を通じて警報動作を行うこともできる。
Moreover, since the air conditioner 200 of the present invention can determine the presence / absence of the user by the human
このように、本実施の形態3に係る空気調和機200によれば、音声認識結果と音源方向に基づいて空間認識及び人体検知を行い、空間認識結果と人体検知結果に基づいて空調制御を行うようにした。このため、ユーザーの快適性を向上させつつ、省エネルギーで運転することができる。 Thus, according to the air conditioner 200 according to Embodiment 3, space recognition and human body detection are performed based on the voice recognition result and the sound source direction, and air conditioning control is performed based on the space recognition result and the human body detection result. I did it. For this reason, it is possible to drive with energy saving while improving user comfort.
なお、上記説明では、空気調和機を例に説明したが、本発明に係る電気機器は様々な機器に適用可能である。例えば、空気清浄機、加湿器、除湿機、換気扇、テレビなどのAV機器に適用することもできる。また、冷蔵庫に適用し、音声認識により冷蔵庫扉の開閉回数を把握して開閉が多い場合には設定温度を下げる、あるいは扉入口のエアーカーテンを作動させる、警告を行う、などの制御が可能である。
また、音声認識によりユーザーの活動時間帯を把握し、活動時間帯以外には運転能力を落とす、液晶などの表示装置を待機状態や停止状態にする、などの運転制御を行うことができる。
また、音声認識により故障箇所を検出できるので、例えば電話による修理相談などもスムーズに行えてユーザーの満足度を向上させることができるとともに、修理担当者の作業効率も向上させることができる。
In the above description, the air conditioner has been described as an example, but the electric device according to the present invention can be applied to various devices. For example, the present invention can be applied to AV equipment such as an air cleaner, a humidifier, a dehumidifier, a ventilation fan, and a television set. In addition, it can be applied to refrigerators to control the number of times the refrigerator door is opened and closed by voice recognition, and when it is frequently opened and closed, the set temperature can be lowered, the air curtain at the door entrance is operated, and a warning can be issued. is there.
In addition, it is possible to perform operation control such as grasping the user's activity time zone by voice recognition, reducing the driving ability outside the activity time zone, and putting the display device such as a liquid crystal in a standby state or a stopped state.
In addition, since the failure location can be detected by voice recognition, for example, repair consultation by telephone can be smoothly performed and the satisfaction of the user can be improved, and the work efficiency of the repair staff can be improved.
また、マイクは、設置時や空気調和機の運転中に、手動/自動でその方向を変えることができ、音声を取得するのに最適な位置に配置することができる。 In addition, the direction of the microphone can be changed manually / automatically during installation or during operation of the air conditioner, and can be disposed at an optimal position for acquiring sound.
1 スピーカー、2 マイク、2A マイク、2B マイク、3 制御装置、4 表示部、5 温度センサー、6 フィルタ/アンプ、7 A/D・D/Aコンバーター、8 パワーアンプ、9 MPU、10 RAM、11 ROM、12 接続部、13 マイク駆動装置、14 超音波送信器、20 音響分析部、21 特徴量・補足計算部、22 音声到達方向特定部、23 音声認識部、24 故障診断部、25 データベース更新部、30 音声データベース、31 音声認識パターン、32 正常音声パターン、33 異常音声パターン、34 音声パターン初期値、40 振動分析部、41 振動認識部、42 振動到達方向特定部、43 故障診断部、50 振動データベース、51 振動パターン、52 正常振動パターン、60 音声データベース、61 音声認識パターン、62 生活音声パターン、63 操作音声パターン、70 活動データベース、71 活動パターン、81 空間認識部、82 人体検知部、83 データベース更新部、85 空調制御部、100 空気調和機、101 筐体、102 フラップ、103 電気品ボックス、200 空気調和機。
1 speaker, 2 microphone, 2A microphone, 2B microphone, 3 control device, 4 display unit, 5 temperature sensor, 6 filter / amplifier, 7 A / D / D / A converter, 8 power amplifier, 9 MPU, 10 RAM, 11 ROM, 12 connection unit, 13 microphone driving device, 14 ultrasonic transmitter, 20 acoustic analysis unit, 21 feature quantity / supplement calculation unit, 22 voice arrival direction specifying unit, 23 voice recognition unit, 24 fault diagnosis unit, 25 database update Part, 30 voice database, 31 voice recognition pattern, 32 normal voice pattern, 33 abnormal voice pattern, 34 voice pattern initial value, 40 vibration analysis part, 41 vibration recognition part, 42 vibration arrival direction specifying part, 43 fault diagnosis part, 50 Vibration database, 51 vibration pattern, 52 normal vibration pattern, 60
Claims (15)
前記音声取得手段により取得された音声の音源方向を検出する音声到達方向検出手段と、
前記音声取得手段により取得された音声と予め記憶した音声パターンに基づいて音声認識する音声認識手段と、
音声到達方向検出手段により検出された音声の音源方向と前記音声認識手段の認識結果に基づいて、故障検出を行う故障検出手段とを備えた
ことを特徴とする電気機器。 Audio acquisition means for acquiring audio from each of a plurality of directions;
Voice arrival direction detection means for detecting the sound source direction of the voice acquired by the voice acquisition means;
Voice recognition means for recognizing voice based on the voice acquired by the voice acquisition means and a voice pattern stored in advance;
An electrical apparatus comprising: a failure detection unit that detects a failure based on a sound source direction of a voice detected by a voice arrival direction detection unit and a recognition result of the voice recognition unit.
ことを特徴とする請求項1記載の電気機器。 The electrical device according to claim 1, wherein the failure detection unit periodically detects a failure.
ことを特徴とする請求項1または請求項2記載の電気機器。 The electrical apparatus according to claim 1, further comprising an updating unit configured to update the previously stored voice pattern at a predetermined timing based on a voice recognition result by the voice recognition unit.
前記音声出力手段は、前記音声認識手段による音声認識結果に基づいて、前記故障検出手段により正常であると判断された場合の音声の周波数の位相を反転した音声を出力する
ことを特徴とする請求項1〜請求項3のいずれかに記載の電気機器。 With audio output means,
The voice output unit outputs a voice obtained by inverting the phase of the frequency of the voice when it is determined that the failure detection unit is normal based on a voice recognition result by the voice recognition unit. The electrical apparatus in any one of Claims 1-3.
前記振動分析手段が検出した振動信号の振動源方向を検出する振動到達方向検出手段と、
前記振動分析手段が検出した振動信号と予め記憶した振動パターンに基づいて振動を認識する振動認識手段とを備え、
前記故障検出手段は、前記振動到達方向検出手段により検出された振動源方向と前記振動認識手段の認識結果に基づいて、故障検出を行う
ことを特徴とする請求項1〜請求項4のいずれかに記載の電気機器。 Among the output signals from the sound acquisition means, vibration analysis means for detecting a vibration signal from a vibration source excluding a sound source;
Vibration arrival direction detection means for detecting the vibration source direction of the vibration signal detected by the vibration analysis means;
A vibration recognition means for recognizing vibration based on a vibration signal detected by the vibration analysis means and a vibration pattern stored in advance;
The failure detection unit performs failure detection based on a vibration source direction detected by the vibration arrival direction detection unit and a recognition result of the vibration recognition unit. Electrical equipment as described in.
ことを特徴とする請求項1〜請求項5のいずれかに記載の電気機器。 2. A space recognition unit that learns a sound source direction of the sound acquired by the sound acquisition unit and a recognition result of the sound recognition unit for a predetermined period and performs space recognition based on the learned result. The electrical apparatus according to any one of claims 5 to 6.
ことを特徴とする請求項6記載の電気機器。 When the voice acquired by the voice acquisition unit is recognized as a control command by the voice recognition unit, and the sound source direction of the acquired voice is a predetermined space recognized by the space recognition unit The electric device according to claim 6, further comprising operation control means for performing operation control according to a voice recognition result by the voice recognition means.
前記運転制御手段は、前記人体検知手段の検知結果に応じて運転制御を行う
ことを特徴とする請求項1〜請求項7のいずれかに記載の電気機器。 Human body detecting means for detecting the presence or absence of a user based on a voice recognition result by the voice recognition means;
The electric device according to any one of claims 1 to 7, wherein the operation control unit performs operation control according to a detection result of the human body detection unit.
前記人体検知手段は、前記音声認識手段が認識した音声の音源方向を所定タイミングで繰り返し取得し、前記音源方向の変化量に基づいて使用者の活動量を判定し、
前記運転制御手段は、前記使用者の活動量に応じて運転制御を行う
ことを特徴とする請求項8記載の電気機器。 When the voice recognition means recognizes a voice generated by a user,
The human body detection means repeatedly obtains the sound source direction of the voice recognized by the voice recognition means at a predetermined timing, determines the amount of activity of the user based on the amount of change in the sound source direction,
The electric device according to claim 8, wherein the operation control unit performs operation control according to an activity amount of the user.
ことを特徴とする請求項1〜請求項9のいずれかに記載の電気機器。 The electric device according to any one of claims 1 to 9, further comprising a voice acquisition direction setting unit that sets a voice acquisition direction of the voice acquisition unit.
ことを特徴とする請求項1〜請求項10のいずれかに記載の電気機器。 The electric device according to any one of claims 1 to 10, further comprising notification means for notifying information on a failure detected by the failure detection means.
前記複数の音声取得手段は、基準となる一の音声取得手段からの距離が一定になるように設けられている
ことを特徴とする請求項1〜請求項11のいずれかに記載の電気機器。 A plurality of the voice acquisition means;
The electrical equipment according to any one of claims 1 to 11, wherein the plurality of voice acquisition units are provided such that a distance from a reference voice acquisition unit is constant.
前記外部機器により少なくとも前記音声パターンを含む各種情報を取得する
ことを特徴とする請求項1〜請求項12のいずれかに記載の電気機器。 It has a connection that can be connected to external devices,
The electric apparatus according to claim 1, wherein various kinds of information including at least the sound pattern are acquired by the external apparatus.
前記音声取得手段は、室内機の筐体の下端、両端、または内部に実装されることを特徴とする電気機器。 The electrical device according to any one of claims 1 to 13 is an air conditioner,
The sound acquisition means is mounted on the lower end, both ends, or inside the casing of the indoor unit.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008312461A JP5020222B2 (en) | 2008-12-08 | 2008-12-08 | Air conditioner |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008312461A JP5020222B2 (en) | 2008-12-08 | 2008-12-08 | Air conditioner |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010134367A true JP2010134367A (en) | 2010-06-17 |
JP5020222B2 JP5020222B2 (en) | 2012-09-05 |
Family
ID=42345694
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008312461A Expired - Fee Related JP5020222B2 (en) | 2008-12-08 | 2008-12-08 | Air conditioner |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5020222B2 (en) |
Cited By (44)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011093205A1 (en) * | 2010-01-26 | 2011-08-04 | ダイキン工業株式会社 | Ceiling-mounted indoor unit for air conditioning device |
JP2012057814A (en) * | 2010-09-06 | 2012-03-22 | Hitachi Appliances Inc | Air conditioner |
JP2012057817A (en) * | 2010-09-06 | 2012-03-22 | Hitachi Appliances Inc | Air conditioner |
JP2012057815A (en) * | 2010-09-06 | 2012-03-22 | Hitachi Appliances Inc | Air conditioner |
JP2012057816A (en) * | 2010-09-06 | 2012-03-22 | Hitachi Appliances Inc | Air conditioner |
JP2012083088A (en) * | 2010-10-15 | 2012-04-26 | Hitachi Appliances Inc | Air conditioner |
JP2012112570A (en) * | 2010-11-24 | 2012-06-14 | Hitachi Appliances Inc | Air conditioner |
CN102967026A (en) * | 2012-12-07 | 2013-03-13 | 四川长虹电器股份有限公司 | Intelligent air conditioner and control method thereof |
JP2014033257A (en) * | 2012-08-01 | 2014-02-20 | Sharp Corp | Information terminal device and program therefor |
CN103712311A (en) * | 2012-10-09 | 2014-04-09 | Lg电子株式会社 | Air conditioner and control method thereof |
CN104931284A (en) * | 2015-05-29 | 2015-09-23 | 广东美的制冷设备有限公司 | Fault detection method and device for air conditioner, and air conditioner |
CN105115119A (en) * | 2015-09-18 | 2015-12-02 | 珠海格力电器股份有限公司 | Fault detection method, device and equipment for air conditioning unit |
CN105161108A (en) * | 2015-08-21 | 2015-12-16 | 嘉兴奥塔尔电气科技有限公司 | Integrated ceiling intelligent voice control system |
CN105161107A (en) * | 2015-08-21 | 2015-12-16 | 嘉兴奥塔尔电气科技有限公司 | Ceiling embedded electric device having intelligent voice control function |
JP2016042018A (en) * | 2014-08-15 | 2016-03-31 | 台達電子工業股▲ふん▼有限公司Delta Electronics,Inc. | Control method of air-conditioning facility |
WO2017022692A1 (en) * | 2015-07-31 | 2017-02-09 | ダイキン工業株式会社 | Air conditioner |
JP2018151086A (en) * | 2017-03-10 | 2018-09-27 | 三菱電機株式会社 | Air conditioning control device, control method of air conditioner, and program |
KR20180111310A (en) * | 2017-03-31 | 2018-10-11 | 엘지전자 주식회사 | Home appliance, voice recognition module and home appliance system |
KR20180118462A (en) * | 2017-04-21 | 2018-10-31 | 엘지전자 주식회사 | Voice recognition apparatus and home appliance system |
JP2019003039A (en) * | 2017-06-15 | 2019-01-10 | 東芝ライフスタイル株式会社 | refrigerator |
WO2019013349A1 (en) * | 2017-07-14 | 2019-01-17 | ダイキン工業株式会社 | Air conditioner, air-conditioning system, communication system, control system, machinery control system, machinery management system, and sound information analysis system |
KR20190026520A (en) * | 2017-09-05 | 2019-03-13 | 엘지전자 주식회사 | Air conditioner and method for controlling the same |
WO2019069592A1 (en) * | 2017-10-03 | 2019-04-11 | 東芝ライフスタイル株式会社 | Operation sound comparison device |
WO2019077856A1 (en) * | 2017-10-16 | 2019-04-25 | 三菱重工サーマルシステムズ株式会社 | Position estimation device, air conditioning system, position estimation method, and program |
JP2019082835A (en) * | 2017-10-30 | 2019-05-30 | 三菱電機株式会社 | Voice analysis device, voice analysis system, voice analysis method and program |
KR20190097902A (en) * | 2018-02-13 | 2019-08-21 | 엘지전자 주식회사 | Air-conditioner controlling direction of the wind by instructed position and method of controlling thereof |
CN110191384A (en) * | 2018-02-23 | 2019-08-30 | 松下知识产权经营株式会社 | Diagnostic method, diagnostic device and computer-readable recording medium |
WO2019203347A1 (en) * | 2018-04-20 | 2019-10-24 | 三菱重工サーマルシステムズ株式会社 | Air conditioner |
JP2019199982A (en) * | 2018-05-15 | 2019-11-21 | 三菱重工サーマルシステムズ株式会社 | Air conditioning control device, air conditioning control system, air conditioning control method, and program |
JP2019200091A (en) * | 2018-05-15 | 2019-11-21 | 三菱重工サーマルシステムズ株式会社 | Positioning system, air conditioning system, terminal device, location estimation device, location estimation method, sound wave output method and program |
CN110671789A (en) * | 2019-09-17 | 2020-01-10 | 珠海格力电器股份有限公司 | Fault machine positioning method and device and air conditioning unit |
WO2020026829A1 (en) * | 2018-07-31 | 2020-02-06 | パナソニックIpマネジメント株式会社 | Sound data processing method, sound data processing device, and program |
JP2020094790A (en) * | 2018-12-14 | 2020-06-18 | 株式会社ノーリツ | Hot water supply device |
CN111412587A (en) * | 2020-03-31 | 2020-07-14 | 广东美的制冷设备有限公司 | Voice processing method and device of air conditioner, air conditioner and storage medium |
CN112164390A (en) * | 2020-09-16 | 2021-01-01 | 珠海格力电器股份有限公司 | Equipment fault identification method and system |
CN112197405A (en) * | 2020-10-30 | 2021-01-08 | 佛山市顺德区美的电子科技有限公司 | Area planning method, terminal device and computer-readable storage medium |
CN112556087A (en) * | 2020-11-20 | 2021-03-26 | 珠海格力电器股份有限公司 | Unit fault diagnosis method and device and controller |
JP2021103029A (en) * | 2019-12-25 | 2021-07-15 | パナソニックIpマネジメント株式会社 | Air cleaning system and air cleaning method |
JPWO2020110216A1 (en) * | 2018-11-28 | 2021-09-02 | 三菱電機株式会社 | Air conditioner |
CN113865021A (en) * | 2021-08-20 | 2021-12-31 | 海信(山东)空调有限公司 | Air conditioning system and air conditioning control method |
US11226127B2 (en) | 2018-01-26 | 2022-01-18 | Mitsubishi Electric Corporation | Control system, air conditioner, and server |
WO2022149597A1 (en) * | 2021-01-08 | 2022-07-14 | ダイキン工業株式会社 | Defective site inference system, defective site inference method, and program |
CN115789917A (en) * | 2022-12-01 | 2023-03-14 | 珠海格力电器股份有限公司 | Noise reduction method, device and system for air conditioner noise, user terminal and storage medium |
CN117153193A (en) * | 2023-10-30 | 2023-12-01 | 国网安徽省电力有限公司电力科学研究院 | Power equipment fault voiceprint recognition method integrating physical characteristics and data diagnosis |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106288154A (en) * | 2016-08-01 | 2017-01-04 | 珠海格力电器股份有限公司 | Air conditioner and control method, device and system thereof |
CN109974845A (en) * | 2019-02-28 | 2019-07-05 | 合肥美的电冰箱有限公司 | Fault warning method, computer readable storage medium and refrigeration equipment |
CN110486859B (en) * | 2019-08-28 | 2020-12-22 | 广东美的制冷设备有限公司 | Multi-split air conditioning system, control method and device thereof and readable storage medium |
CN111692702B (en) * | 2020-06-23 | 2021-06-22 | 广东台德智联科技有限公司 | Embedded intelligent voice interaction module of air conditioner |
Citations (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6280699A (en) * | 1985-10-04 | 1987-04-14 | 株式会社リコー | Voice pattern updating system |
JPH0535751A (en) * | 1991-10-24 | 1993-02-12 | Osaka Kiko Co Ltd | Periodical diagnosing, fault diagnosing and fault recovering method for machine tool |
JPH05240483A (en) * | 1992-02-27 | 1993-09-17 | Daikin Ind Ltd | Air-conditioning machine |
JPH0675584A (en) * | 1992-08-25 | 1994-03-18 | Honda Motor Co Ltd | Active vibration noise controller |
JPH06266385A (en) * | 1993-03-16 | 1994-09-22 | Fujitsu Ltd | Dictionary update of speech recognition device |
JPH06323599A (en) * | 1993-05-18 | 1994-11-25 | Sharp Corp | Air conditioner |
JPH07203596A (en) * | 1993-12-28 | 1995-08-04 | Toto Ltd | Acoustic device |
JPH0990977A (en) * | 1995-09-25 | 1997-04-04 | Nippon Telegr & Teleph Corp <Ntt> | Abnormality detection method by acoustic signal |
JPH10267352A (en) * | 1997-03-28 | 1998-10-09 | Lg Electron Inc | Controller and control method for flow rate of refrigerant in multiple air-conditioner |
JP2001092684A (en) * | 1999-09-22 | 2001-04-06 | Hitachi Software Eng Co Ltd | Method and system for system switching of n+m waiting type redundant system |
JP2002507776A (en) * | 1998-03-13 | 2002-03-12 | レオンハルト,フランク,ウルダル | Signal processing method for analyzing transients in audio signals |
JP2003111157A (en) * | 2001-09-28 | 2003-04-11 | Toshiba Corp | Integrated controller, apparatus controlling method, and apparatus controlling program |
JP2003279403A (en) * | 2002-03-22 | 2003-10-02 | Hitachi Zosen Corp | Sound source monitoring device |
JP2004283927A (en) * | 2003-03-20 | 2004-10-14 | Sony Corp | Robot control device, and method, recording medium and program |
JP2005184064A (en) * | 2003-12-16 | 2005-07-07 | Daikin Ind Ltd | Repair request system, remote control apparatus, repair management apparatus, device, repair request method, and repair request program |
JP2005184426A (en) * | 2003-12-19 | 2005-07-07 | Chiyuuden Plant Kk | Apparatus and method for detecting sound source direction |
JP2006309920A (en) * | 2005-03-30 | 2006-11-09 | Toshiba Corp | Information processing apparatus and its method |
JP2007193138A (en) * | 2006-01-19 | 2007-08-02 | Ricoh Co Ltd | Image forming device |
-
2008
- 2008-12-08 JP JP2008312461A patent/JP5020222B2/en not_active Expired - Fee Related
Patent Citations (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6280699A (en) * | 1985-10-04 | 1987-04-14 | 株式会社リコー | Voice pattern updating system |
JPH0535751A (en) * | 1991-10-24 | 1993-02-12 | Osaka Kiko Co Ltd | Periodical diagnosing, fault diagnosing and fault recovering method for machine tool |
JPH05240483A (en) * | 1992-02-27 | 1993-09-17 | Daikin Ind Ltd | Air-conditioning machine |
JPH0675584A (en) * | 1992-08-25 | 1994-03-18 | Honda Motor Co Ltd | Active vibration noise controller |
JPH06266385A (en) * | 1993-03-16 | 1994-09-22 | Fujitsu Ltd | Dictionary update of speech recognition device |
JPH06323599A (en) * | 1993-05-18 | 1994-11-25 | Sharp Corp | Air conditioner |
JPH07203596A (en) * | 1993-12-28 | 1995-08-04 | Toto Ltd | Acoustic device |
JPH0990977A (en) * | 1995-09-25 | 1997-04-04 | Nippon Telegr & Teleph Corp <Ntt> | Abnormality detection method by acoustic signal |
JPH10267352A (en) * | 1997-03-28 | 1998-10-09 | Lg Electron Inc | Controller and control method for flow rate of refrigerant in multiple air-conditioner |
JP2002507776A (en) * | 1998-03-13 | 2002-03-12 | レオンハルト,フランク,ウルダル | Signal processing method for analyzing transients in audio signals |
JP2001092684A (en) * | 1999-09-22 | 2001-04-06 | Hitachi Software Eng Co Ltd | Method and system for system switching of n+m waiting type redundant system |
JP2003111157A (en) * | 2001-09-28 | 2003-04-11 | Toshiba Corp | Integrated controller, apparatus controlling method, and apparatus controlling program |
JP2003279403A (en) * | 2002-03-22 | 2003-10-02 | Hitachi Zosen Corp | Sound source monitoring device |
JP2004283927A (en) * | 2003-03-20 | 2004-10-14 | Sony Corp | Robot control device, and method, recording medium and program |
JP2005184064A (en) * | 2003-12-16 | 2005-07-07 | Daikin Ind Ltd | Repair request system, remote control apparatus, repair management apparatus, device, repair request method, and repair request program |
JP2005184426A (en) * | 2003-12-19 | 2005-07-07 | Chiyuuden Plant Kk | Apparatus and method for detecting sound source direction |
JP2006309920A (en) * | 2005-03-30 | 2006-11-09 | Toshiba Corp | Information processing apparatus and its method |
JP2007193138A (en) * | 2006-01-19 | 2007-08-02 | Ricoh Co Ltd | Image forming device |
Cited By (84)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011093205A1 (en) * | 2010-01-26 | 2011-08-04 | ダイキン工業株式会社 | Ceiling-mounted indoor unit for air conditioning device |
JP2011174693A (en) * | 2010-01-26 | 2011-09-08 | Daikin Industries Ltd | Ceiling-mounted indoor unit for air conditioning device |
JP2012057814A (en) * | 2010-09-06 | 2012-03-22 | Hitachi Appliances Inc | Air conditioner |
JP2012057817A (en) * | 2010-09-06 | 2012-03-22 | Hitachi Appliances Inc | Air conditioner |
JP2012057815A (en) * | 2010-09-06 | 2012-03-22 | Hitachi Appliances Inc | Air conditioner |
JP2012057816A (en) * | 2010-09-06 | 2012-03-22 | Hitachi Appliances Inc | Air conditioner |
JP2012083088A (en) * | 2010-10-15 | 2012-04-26 | Hitachi Appliances Inc | Air conditioner |
CN102455036A (en) * | 2010-10-15 | 2012-05-16 | 日立空调·家用电器株式会社 | Air conditioner |
CN102455036B (en) * | 2010-10-15 | 2014-11-26 | 日立空调·家用电器株式会社 | Air conditioner |
JP2012112570A (en) * | 2010-11-24 | 2012-06-14 | Hitachi Appliances Inc | Air conditioner |
KR101336460B1 (en) * | 2010-11-24 | 2013-12-16 | 히타치 어플라이언스 가부시키가이샤 | air conditioner |
JP2014033257A (en) * | 2012-08-01 | 2014-02-20 | Sharp Corp | Information terminal device and program therefor |
CN103712311A (en) * | 2012-10-09 | 2014-04-09 | Lg电子株式会社 | Air conditioner and control method thereof |
CN102967026A (en) * | 2012-12-07 | 2013-03-13 | 四川长虹电器股份有限公司 | Intelligent air conditioner and control method thereof |
JP2016042018A (en) * | 2014-08-15 | 2016-03-31 | 台達電子工業股▲ふん▼有限公司Delta Electronics,Inc. | Control method of air-conditioning facility |
CN104931284A (en) * | 2015-05-29 | 2015-09-23 | 广东美的制冷设备有限公司 | Fault detection method and device for air conditioner, and air conditioner |
WO2017022692A1 (en) * | 2015-07-31 | 2017-02-09 | ダイキン工業株式会社 | Air conditioner |
JP2017032273A (en) * | 2015-07-31 | 2017-02-09 | ダイキン工業株式会社 | Air conditioner |
CN105161108A (en) * | 2015-08-21 | 2015-12-16 | 嘉兴奥塔尔电气科技有限公司 | Integrated ceiling intelligent voice control system |
CN105161107A (en) * | 2015-08-21 | 2015-12-16 | 嘉兴奥塔尔电气科技有限公司 | Ceiling embedded electric device having intelligent voice control function |
CN105115119A (en) * | 2015-09-18 | 2015-12-02 | 珠海格力电器股份有限公司 | Fault detection method, device and equipment for air conditioning unit |
JP7122808B2 (en) | 2017-03-10 | 2022-08-22 | 三菱電機株式会社 | Air conditioning control device, air conditioner control method and program |
JP2018151086A (en) * | 2017-03-10 | 2018-09-27 | 三菱電機株式会社 | Air conditioning control device, control method of air conditioner, and program |
KR20180111310A (en) * | 2017-03-31 | 2018-10-11 | 엘지전자 주식회사 | Home appliance, voice recognition module and home appliance system |
KR101989106B1 (en) * | 2017-03-31 | 2019-06-13 | 엘지전자 주식회사 | Home appliance, voice recognition module and home appliance system |
KR20180118462A (en) * | 2017-04-21 | 2018-10-31 | 엘지전자 주식회사 | Voice recognition apparatus and home appliance system |
US11183173B2 (en) | 2017-04-21 | 2021-11-23 | Lg Electronics Inc. | Artificial intelligence voice recognition apparatus and voice recognition system |
US10657953B2 (en) | 2017-04-21 | 2020-05-19 | Lg Electronics Inc. | Artificial intelligence voice recognition apparatus and voice recognition |
KR102068182B1 (en) * | 2017-04-21 | 2020-01-20 | 엘지전자 주식회사 | Voice recognition apparatus and home appliance system |
JP2019003039A (en) * | 2017-06-15 | 2019-01-10 | 東芝ライフスタイル株式会社 | refrigerator |
CN110678701A (en) * | 2017-07-14 | 2020-01-10 | 大金工业株式会社 | Air conditioner, air conditioning system, communication system, control system, equipment management system, and sound information analysis system |
WO2019013349A1 (en) * | 2017-07-14 | 2019-01-17 | ダイキン工業株式会社 | Air conditioner, air-conditioning system, communication system, control system, machinery control system, machinery management system, and sound information analysis system |
JPWO2019013349A1 (en) * | 2017-07-14 | 2020-08-27 | ダイキン工業株式会社 | Air conditioners, air conditioning systems, communication systems, control systems, equipment control systems, equipment management systems, and sound information analysis systems |
JP7060812B2 (en) | 2017-07-14 | 2022-04-27 | ダイキン工業株式会社 | Air conditioner, air conditioning system, communication system, control system, equipment control system, equipment management system and sound information analysis system |
KR20190026520A (en) * | 2017-09-05 | 2019-03-13 | 엘지전자 주식회사 | Air conditioner and method for controlling the same |
KR102399914B1 (en) * | 2017-09-05 | 2022-05-18 | 엘지전자 주식회사 | Artificial intelligence Air conditioner and control method thereof |
JP2019066378A (en) * | 2017-10-03 | 2019-04-25 | 東芝ライフスタイル株式会社 | Operating sound comparison device |
WO2019069592A1 (en) * | 2017-10-03 | 2019-04-11 | 東芝ライフスタイル株式会社 | Operation sound comparison device |
CN111183340A (en) * | 2017-10-03 | 2020-05-19 | 东芝生活电器株式会社 | Action sound comparing device |
CN111226125B (en) * | 2017-10-16 | 2023-08-22 | 三菱重工制冷空调系统株式会社 | Air conditioning system and air conditioning control method |
WO2019077856A1 (en) * | 2017-10-16 | 2019-04-25 | 三菱重工サーマルシステムズ株式会社 | Position estimation device, air conditioning system, position estimation method, and program |
JP2019074400A (en) * | 2017-10-16 | 2019-05-16 | 三菱重工サーマルシステムズ株式会社 | Position estimating device, air conditioning system, position estimation method, and program |
CN111226125A (en) * | 2017-10-16 | 2020-06-02 | 三菱重工制冷空调系统株式会社 | Position estimation device, air conditioning system, position estimation method, and program |
JP2019082835A (en) * | 2017-10-30 | 2019-05-30 | 三菱電機株式会社 | Voice analysis device, voice analysis system, voice analysis method and program |
US11226127B2 (en) | 2018-01-26 | 2022-01-18 | Mitsubishi Electric Corporation | Control system, air conditioner, and server |
KR20190097902A (en) * | 2018-02-13 | 2019-08-21 | 엘지전자 주식회사 | Air-conditioner controlling direction of the wind by instructed position and method of controlling thereof |
KR102121785B1 (en) * | 2018-02-13 | 2020-06-26 | 엘지전자 주식회사 | Air-conditioner controlling direction of the wind using artificial intelligence by instructed position and method of controlling thereof |
CN110191384A (en) * | 2018-02-23 | 2019-08-30 | 松下知识产权经营株式会社 | Diagnostic method, diagnostic device and computer-readable recording medium |
CN112119264B (en) * | 2018-04-20 | 2022-05-03 | 三菱重工制冷空调系统株式会社 | Air conditioner |
JP2019190694A (en) * | 2018-04-20 | 2019-10-31 | 三菱重工サーマルシステムズ株式会社 | Air conditioner |
WO2019203347A1 (en) * | 2018-04-20 | 2019-10-24 | 三菱重工サーマルシステムズ株式会社 | Air conditioner |
JP7049167B2 (en) | 2018-04-20 | 2022-04-06 | 三菱重工サーマルシステムズ株式会社 | Air conditioner |
CN112119264A (en) * | 2018-04-20 | 2020-12-22 | 三菱重工制冷空调系统株式会社 | Air conditioner |
CN112400085A (en) * | 2018-05-15 | 2021-02-23 | 三菱重工制冷空调系统株式会社 | Air conditioning control device, air conditioning control system, air conditioning control method, and program |
WO2019220760A1 (en) * | 2018-05-15 | 2019-11-21 | 三菱重工サーマルシステムズ株式会社 | Position measuring system, air conditioning system, terminal device, position estimation device, position estimation method, sound wave outputting method, and program |
JP2019199982A (en) * | 2018-05-15 | 2019-11-21 | 三菱重工サーマルシステムズ株式会社 | Air conditioning control device, air conditioning control system, air conditioning control method, and program |
JP7063716B2 (en) | 2018-05-15 | 2022-05-09 | 三菱重工サーマルシステムズ株式会社 | Air conditioning control device, air conditioning control system, air conditioning control method, and program |
JP2019200091A (en) * | 2018-05-15 | 2019-11-21 | 三菱重工サーマルシステムズ株式会社 | Positioning system, air conditioning system, terminal device, location estimation device, location estimation method, sound wave output method and program |
EP3792564A4 (en) * | 2018-05-15 | 2021-07-07 | Mitsubishi Heavy Industries Thermal Systems, Ltd. | Air-conditioning control device, air-conditioning control system, air-conditioning control method, and program |
WO2019220874A1 (en) * | 2018-05-15 | 2019-11-21 | 三菱重工サーマルシステムズ株式会社 | Air-conditioning control device, air-conditioning control system, air-conditioning control method, and program |
CN112400085B (en) * | 2018-05-15 | 2022-04-19 | 三菱重工制冷空调系统株式会社 | Air conditioning control device, air conditioning control system, air conditioning control method, and program |
JP7001539B2 (en) | 2018-05-15 | 2022-01-19 | 三菱重工サーマルシステムズ株式会社 | Positioning system, air conditioning system, terminal device, position estimation device, position estimation method, sound wave output method, program |
JP7407382B2 (en) | 2018-07-31 | 2024-01-04 | パナソニックIpマネジメント株式会社 | Sound data processing method, sound data processing device and program |
WO2020026829A1 (en) * | 2018-07-31 | 2020-02-06 | パナソニックIpマネジメント株式会社 | Sound data processing method, sound data processing device, and program |
JPWO2020026829A1 (en) * | 2018-07-31 | 2021-08-02 | パナソニックIpマネジメント株式会社 | Sound data processing method, sound data processing device and program |
US11830518B2 (en) | 2018-07-31 | 2023-11-28 | Panasonic Intellectual Property Management Co., Ltd. | Sound data processing method, sound data processing device, and program |
JPWO2020110216A1 (en) * | 2018-11-28 | 2021-09-02 | 三菱電機株式会社 | Air conditioner |
JP2020094790A (en) * | 2018-12-14 | 2020-06-18 | 株式会社ノーリツ | Hot water supply device |
CN110671789A (en) * | 2019-09-17 | 2020-01-10 | 珠海格力电器股份有限公司 | Fault machine positioning method and device and air conditioning unit |
CN110671789B (en) * | 2019-09-17 | 2021-02-26 | 珠海格力电器股份有限公司 | Fault machine positioning method and device and air conditioning unit |
JP7478982B2 (en) | 2019-12-25 | 2024-05-08 | パナソニックIpマネジメント株式会社 | Air purification system and air purification method |
JP2021103029A (en) * | 2019-12-25 | 2021-07-15 | パナソニックIpマネジメント株式会社 | Air cleaning system and air cleaning method |
CN111412587A (en) * | 2020-03-31 | 2020-07-14 | 广东美的制冷设备有限公司 | Voice processing method and device of air conditioner, air conditioner and storage medium |
CN112164390A (en) * | 2020-09-16 | 2021-01-01 | 珠海格力电器股份有限公司 | Equipment fault identification method and system |
CN112197405A (en) * | 2020-10-30 | 2021-01-08 | 佛山市顺德区美的电子科技有限公司 | Area planning method, terminal device and computer-readable storage medium |
CN112556087A (en) * | 2020-11-20 | 2021-03-26 | 珠海格力电器股份有限公司 | Unit fault diagnosis method and device and controller |
CN112556087B (en) * | 2020-11-20 | 2021-12-10 | 珠海格力电器股份有限公司 | Unit fault diagnosis method and device and controller |
JP7189468B2 (en) | 2021-01-08 | 2022-12-14 | ダイキン工業株式会社 | Defect point estimation system, defect point estimation method, and program |
JP2022107519A (en) * | 2021-01-08 | 2022-07-21 | ダイキン工業株式会社 | Troubled section estimation system, troubled section estimation method, and program |
WO2022149597A1 (en) * | 2021-01-08 | 2022-07-14 | ダイキン工業株式会社 | Defective site inference system, defective site inference method, and program |
CN113865021A (en) * | 2021-08-20 | 2021-12-31 | 海信(山东)空调有限公司 | Air conditioning system and air conditioning control method |
CN115789917A (en) * | 2022-12-01 | 2023-03-14 | 珠海格力电器股份有限公司 | Noise reduction method, device and system for air conditioner noise, user terminal and storage medium |
CN117153193A (en) * | 2023-10-30 | 2023-12-01 | 国网安徽省电力有限公司电力科学研究院 | Power equipment fault voiceprint recognition method integrating physical characteristics and data diagnosis |
CN117153193B (en) * | 2023-10-30 | 2024-02-13 | 国网安徽省电力有限公司电力科学研究院 | Power equipment fault voiceprint recognition method integrating physical characteristics and data diagnosis |
Also Published As
Publication number | Publication date |
---|---|
JP5020222B2 (en) | 2012-09-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5020222B2 (en) | Air conditioner | |
JP2010181064A (en) | Air conditioner | |
US20210080141A1 (en) | Air conditioner, air-conditioning system, communication system, control system, device control system, device management system, and sound information analysis system | |
JP7284426B2 (en) | Equipment control system | |
CN110036246B (en) | Control device, ventilation system, ventilation method, and recording medium | |
CN200953174Y (en) | Remote control electric entrance guard | |
JP2017082507A (en) | Controller, control system, and program | |
WO2016157379A1 (en) | Air conditioner, sensor unit and air conditioning system | |
US20170321920A1 (en) | Apparatus and method for improved control of a mini split hvac system | |
CN110332657A (en) | Security robot based on air conditioner and air conditioner comprising same | |
JP3048825B2 (en) | Equipment control device and indoor equipment control system | |
CN110602197A (en) | Internet of things control device and method and electronic equipment | |
KR102001782B1 (en) | Method of controlling air-cleaner using artificial intelligence based on input sound and air-cleaner implementing thereof | |
EP3908987B1 (en) | Method and system for reducing carbon monoxide in a building | |
CN111183478B (en) | Household electrical appliance system | |
CN113848732B (en) | Building automation method using building state information and corresponding building | |
CN112850401B (en) | Elevator car acoustic integrity checking | |
CN113365200A (en) | Self-adaptive abnormal sound source detection device and detection method | |
KR20090043267A (en) | Air conditioner | |
KR20210076694A (en) | Emergency response system in apartment housing environment using home edge hub | |
KR20210122966A (en) | Integrated interior environment managing system and method | |
EP3505839A1 (en) | Control device and control method for an air modification device | |
CN109473099A (en) | A kind of office environment intelligent measurement sound control method | |
JP2840525B2 (en) | Air conditioner | |
JP2004062791A (en) | Device for detecting abnormal condition of human body in bathroom |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100517 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110707 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110712 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110908 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120515 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120612 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5020222 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150622 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |