JP2017004231A - Electronic device - Google Patents

Electronic device Download PDF

Info

Publication number
JP2017004231A
JP2017004231A JP2015117036A JP2015117036A JP2017004231A JP 2017004231 A JP2017004231 A JP 2017004231A JP 2015117036 A JP2015117036 A JP 2015117036A JP 2015117036 A JP2015117036 A JP 2015117036A JP 2017004231 A JP2017004231 A JP 2017004231A
Authority
JP
Japan
Prior art keywords
voice
unit
door
acquisition unit
electronic device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015117036A
Other languages
Japanese (ja)
Other versions
JP6748404B2 (en
Inventor
滝本 和利
Kazutoshi Takimoto
和利 滝本
浩幸 亀山
Hiroyuki Kameyama
浩幸 亀山
篤史 長濃
Atsushi Nagano
篤史 長濃
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2015117036A priority Critical patent/JP6748404B2/en
Publication of JP2017004231A publication Critical patent/JP2017004231A/en
Application granted granted Critical
Publication of JP6748404B2 publication Critical patent/JP6748404B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Cold Air Circulating Systems And Constructional Details In Refrigerators (AREA)
  • User Interface Of Digital Computer (AREA)
  • Selective Calling Equipment (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an electronic device with an additional feature of acquiring voice, which can be used by a user without concern even if the additional feature is configured to be activated by an act of the user on the electronic device.SOLUTION: A home electronic appliance 10 has a voice acquisition feature provided as an additional feature on top of main features of the home electronic appliance 10. The home electronic appliance 10 includes; a voice acquisition unit 15 configured to acquire voice and convert the acquired voice to an electrical signal; a voice acquisition control unit 11b configured to activate the voice acquisition unit 15 upon detection of a predefined event for triggering activation of the voice acquisition unit 15; and a notification lamp 16b that notifies an operational state of the voice acquisition unit 15 to a user.SELECTED DRAWING: Figure 2

Description

本発明は、電子機器としての主たる機能以外の付加機能として、音声を取得する機能を有する電子機器に関する。   The present invention relates to an electronic device having a function of acquiring sound as an additional function other than the main function as an electronic device.

近年、家電(家庭用電子機器)としての主たる機能以外の付加機能として、マイクなどの音声を取得する機能を有し、取得した音声を音声認識するものが開発されている。   In recent years, as an additional function other than the main function as a home appliance (household electronic device), a function of acquiring a voice such as a microphone and recognizing the acquired voice has been developed.

例えば、特許文献1には、音声認識部を備え、音声認識部にて認識された情報を外部機器に送信することで、音声だけでレシピ検索を行うことができる冷蔵庫が開示されている。音声認識部は、冷蔵庫のドアが開かれたり、人感センサにて冷蔵庫の前に人がいることが検出されたりすると起動する。これによれば、音声認識部を常に動作させておく必要がないので、省エネを実現できる。また、手動にて、音声認識部を駆動させる必要もなく、好適である。   For example, Patent Document 1 discloses a refrigerator that includes a voice recognition unit and that can perform recipe search only by voice by transmitting information recognized by the voice recognition unit to an external device. The voice recognition unit is activated when the door of the refrigerator is opened or when a human sensor detects that there is a person in front of the refrigerator. According to this, since it is not necessary to always operate the voice recognition unit, energy saving can be realized. Further, it is preferable that the voice recognition unit is not manually driven.

また、特許文献2には、音声取得部を備え、音声取得部にて、庫外の情報を取得して外部の装置側に送信することで、対象者を遠隔地から見守ることができる冷蔵庫が開示されている。音声取得部は、冷蔵庫の操作パネルが操作されたり、人感センサにて冷蔵庫の前に人がいることが検出されたりすると起動する。これによれば、対象者が意識することなく、また、対象者の負担となることなく、見守ることができる。   Patent Document 2 also includes a refrigerator that includes an audio acquisition unit, and can acquire information outside the warehouse and transmit the information to an external device side by the audio acquisition unit so that the target person can be watched from a remote location. It is disclosed. The voice acquisition unit is activated when the operation panel of the refrigerator is operated or when a human sensor detects that there is a person in front of the refrigerator. According to this, it is possible to watch without the subject being aware of it and without burdening the subject.

さらに、今日、市場には、冷蔵庫等の家電において、当該家電のドアが開けられたり、特定のボタンが押されたり、当該家電の稼働状態が変化したりといった、何らかのアクションが発生すると、それに応じて音声出力部から音声を出力して発話するものも登場している。このような発話する家電においては、ネットワークを介してサーバと接続され、サーバから発話内容を受信するものもある。   Furthermore, in the market today, when some kind of action occurs in a household appliance such as a refrigerator, such as when the door of the household appliance is opened, a specific button is pressed, or the operating state of the household appliance changes, it responds accordingly. There are also products that output voice from the voice output unit. Some household appliances that speak are connected to a server via a network and receive speech content from the server.

特開2014−196847号公報(2014年10月16日公開)JP 2014-196847 A (released on October 16, 2014) 特開2014−070739号公報(2014年02月21日公開)Japanese Patent Laying-Open No. 2014-070739 (released on February 21, 2014)

しかしながら、特許文献1、2の技術では、冷蔵庫に対するユーザの行動をきっかけに、音声認識部や音声取得部を起動させたことをユーザに通知するようにはなっていない。そのため、特許文献1、2の技術では、発話に対して家電が応答するまでの間、発話した音声が間違いなく取得・認識されているのかどうか不安を感じることがある。また、音声の取得・認識を希望しない場合に、音声認識部や音声取得部が稼働中でないことを確認する術がないため、第3者に会話等が聞かれているような不安を感じてしまうこともある。   However, in the techniques of Patent Documents 1 and 2, the user is not notified that the voice recognition unit or the voice acquisition unit has been activated in response to the user's action on the refrigerator. Therefore, in the techniques of Patent Documents 1 and 2, there is a case where anxiety is felt whether or not the spoken voice is definitely acquired and recognized until the home appliance responds to the utterance. Also, if you do not wish to acquire / recognize speech, there is no way to confirm that the speech recognition unit or the speech acquisition unit is not in operation. Sometimes it ends up.

このように、特許文献1,2の技術では、冷蔵庫としての主たる機能以外に、冷蔵庫に対するユーザの行動をきっかけに、音声を取得してこれを何等かに利用するといった便利な付加機能を搭載しているにもかかわらず、使い勝手に問題があり、ユーザに不安を感じさせるといった問題がある。   As described above, in the techniques of Patent Documents 1 and 2, in addition to the main function as a refrigerator, a convenient additional function such as acquiring sound and using it for some reason triggered by the user's action on the refrigerator is installed. However, there is a problem in usability, and there is a problem that makes the user feel uneasy.

本発明は、このような課題に鑑みなされたもので、その目的は、音声を取得する付加機能が、電子機器に対するユーザの行動をきっかけに起動する構成であっても、ユーザに不安を感じさせることなく、該付加機能の利用が可能となる電子機器を提供することにある。   The present invention has been made in view of such a problem, and its purpose is to make the user feel uneasy even if the additional function for acquiring sound is triggered by the user's action on the electronic device. It is an object of the present invention to provide an electronic device that can use the additional function without any problem.

本発明の一態様に係る電子機器は、上記課題を解決するために、電子機器としての主たる機能以外の付加機能として、音声を取得する機能を有する電子機器であって、音声を取得する音声取得部と、前記音声取得部を起動させるきっかけとなる予め定められた事象の発生を検知すると、前記音声取得部を起動させる起動部と、前記音声取得部の稼働状態をユーザに通知する通知部と、を備えることを特徴とする。   In order to solve the above problems, an electronic device according to one embodiment of the present invention is an electronic device having a function of acquiring sound as an additional function other than the main function of the electronic device, and acquires sound. And an activation unit that activates the audio acquisition unit upon detection of occurrence of a predetermined event that triggers activation of the audio acquisition unit, and a notification unit that notifies a user of an operating state of the audio acquisition unit It is characterized by providing.

本発明の一態様に係る電子機器によれば、音声を取得する付加機能が、電子機器に対するユーザの行動をきっかけに起動する構成であっても、ユーザに不安を感じさせることなく、該付加機能の利用が可能となる電子機器を提供できるという効果を奏する。   According to the electronic device according to one aspect of the present invention, even if the additional function for acquiring sound is configured to be triggered by the user's action on the electronic device, the additional function can be performed without causing the user to feel uneasy. It is possible to provide an electronic device that can be used.

実施の一形態にかかる、音声対話を行う家電が含まれた遠隔操作システムの概略構成を示す図である。It is a figure which shows schematic structure of the remote control system containing the household appliance which performs voice dialogue concerning one Embodiment. 上記家電の概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the said household appliance. 上記遠隔操作システムに含まれたサーバの概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the server contained in the said remote control system. 上記家電における音声対話の処理を示すフローチャートである。It is a flowchart which shows the process of the voice dialog in the said household appliance. 上記家電の一例としての冷蔵庫の外観斜視図、および操作パネルの拡大図である。It is the external appearance perspective view of the refrigerator as an example of the said household appliance, and the enlarged view of an operation panel. 他の実施の形態にかかる家電の一例としての冷蔵庫のドアが開かれた状態の要部斜視図、および庫内操作部の拡大図である。It is the principal part perspective view in the state where the door of the refrigerator as an example of the household appliance concerning other embodiments was opened, and the enlarged view of the operation part in a warehouse. 変形例の冷蔵庫のドアが開かれた状態の要部斜視図である。It is a principal part perspective view of the state where the door of the refrigerator of the modification was opened. 他の変形例の冷蔵庫のドアが開かれた状態の要部斜視図である。It is a principal part perspective view of the state by which the door of the refrigerator of the other modification was opened. 他の実施の形態にかかる家電の一例としての冷蔵庫のドアが開かれた状態の外観斜視図である。It is an external appearance perspective view of the state where the door of the refrigerator as an example of the household appliance concerning other embodiments was opened.

〔実施の形態1〕
以下、本発明の一実施形態について図1〜図5に基づいて説明すれば以下の通りである。なお、本実施の形態では、電子機器である家電が、ユーザの発話の音声を取得し、その回答を発話する音声対話を、遠隔操作システムに含まれるサーバを経由して行う構成を例示する。
[Embodiment 1]
Hereinafter, it will be as follows if one Embodiment of this invention is described based on FIGS. Note that the present embodiment exemplifies a configuration in which a home appliance, which is an electronic device, acquires voice of a user's utterance and utters a voice conversation via a server included in the remote operation system.

(遠隔操作システム1の構成)
図1は、本実施の形態に係る、音声対話を行う家電10が含まれた遠隔操作システム1の概略構成を示す図である。図1に示すように、遠隔操作システム1では、ユーザ宅70に設置された家電10(10−1〜10−4)と、サーバ20と、通信端末装置30(30−1〜30−3)とが、通信ネットワーク60を介して接続されている。なお、図1は、遠隔操作システム1における、あるユーザ宅70に関する部分を示している。
(Configuration of remote control system 1)
FIG. 1 is a diagram illustrating a schematic configuration of a remote control system 1 including a home appliance 10 that performs voice conversation according to the present embodiment. As shown in FIG. 1, in the remote operation system 1, a home appliance 10 (10-1 to 10-4), a server 20, and a communication terminal device 30 (30-1 to 30-3) installed in a user home 70. Are connected via the communication network 60. FIG. 1 shows a part related to a certain user home 70 in the remote operation system 1.

家電10は、通信ネットワーク60に接続してサーバ20と通信するための無線通信機能を有するネットワーク家電である。無線通信機能は、家電10本体に内蔵されていてもよいし、家電10本体に外付けされる通信アダプタに備えられていてもよい。家電10は、サーバ20を介して、対応付けられた通信端末装置30による遠隔操作を受け付ける。通信端末装置30は、遠隔操作のためのアプリケーションがダウンロードされているスマートフォンやタブレット端末などである。   The home appliance 10 is a network home appliance having a wireless communication function for connecting to the communication network 60 and communicating with the server 20. The wireless communication function may be incorporated in the home appliance 10 main body, or may be provided in a communication adapter externally attached to the home appliance 10 main body. The home appliance 10 receives a remote operation by the associated communication terminal device 30 via the server 20. The communication terminal device 30 is a smartphone or a tablet terminal in which an application for remote operation is downloaded.

また、家電10は、後述する音声取得部15(図2参照)を備え、家電10としての主たる機能以外の付加機能として音声を取得する機能を有するものである。家電10は、家電10のドアが開けられたり、家電10の所定のボタンが操作されたりするなどの、音声取得部15を起動させるきっかけとなる予め定められた事象の発生を検知すると、音声取得部15を起動して、ユーザの発話した音声を取得し、取得した音声に対する回答を発話する音声対話機能を有している。   Moreover, the household appliance 10 is provided with the audio | voice acquisition part 15 (refer FIG. 2) mentioned later, and has a function which acquires an audio | voice as additional functions other than the main functions as the household appliance 10. FIG. When the home appliance 10 detects the occurrence of a predetermined event that triggers the start of the audio acquisition unit 15 such as opening the door of the home appliance 10 or operating a predetermined button of the home appliance 10, the home appliance 10 acquires a voice. The unit 15 is activated to obtain a voice spoken by the user, and has a voice dialogue function for uttering an answer to the obtained voice.

本実施の形態では、家電10は取得した音声の音声データをサーバ20に送信し、サーバ20が音声認識を行って発話の内容を特定し、特定した内容に基づいた回答の音声データを家電10に送信する構成を例示する。   In the present embodiment, the home appliance 10 transmits the acquired voice data to the server 20, the server 20 performs voice recognition to specify the content of the utterance, and the voice data of the answer based on the specified content is used as the home appliance 10. The structure which transmits to is illustrated.

なお、家電10が音声認識機能を有し、家電10にて音声認識を行って発話の内容を特定し、特定した内容をサーバ20に送信して、回答の音声データをサーバ20から受信する構成としてもよい。あるいは、サーバ20を介さず、家電10にて音声認識を行うと共に、回答する音声データの準備まで実施する構成としてもよい。   The home appliance 10 has a voice recognition function, and the home appliance 10 performs voice recognition to specify the content of the utterance, transmits the specified content to the server 20, and receives the voice data of the answer from the server 20. It is good. Or it is good also as a structure which implements until the voice data to answer as well as performing voice recognition in the household appliance 10 without going through the server 20.

図1の例では、家電10として、冷蔵庫10−1、加熱調理器10−2、エアコン10−3、洗濯機10−4を例示しているが、このような音声対話機能を有する家電10としては、空気清浄機や、照明装置などの他の家電であってもよい。   In the example of FIG. 1, the refrigerator 10-1, the heating cooker 10-2, the air conditioner 10-3, and the washing machine 10-4 are illustrated as the home appliance 10, but the home appliance 10 having such a voice interaction function is illustrated. May be other household appliances such as an air purifier or a lighting device.

サーバ20は、遠隔操作を可能とする通信端末装置30と家電10とを対応付けて、その組み合わせを登録管理するものである。サーバ20に組み合わせが登録されることで、通信端末装置30による家電10の遠隔操作が可能となる。   The server 20 associates the communication terminal device 30 that enables remote operation with the home appliance 10, and registers and manages the combination. By registering the combination in the server 20, the remote control of the home appliance 10 by the communication terminal device 30 becomes possible.

本実施の形態では、上述したように、サーバ20は、家電10から送信される音声データを音声認識し、特定された発話の内容に基づいた回答の音声データを準備して家電10に送信する機能も有している。   In the present embodiment, as described above, the server 20 recognizes voice data transmitted from the home appliance 10, prepares response voice data based on the content of the specified utterance, and transmits it to the home appliance 10. It also has a function.

ユーザ宅70には、通信ネットワーク60の一部をなす無線LAN(Wireless Local Area Network)が整備されている。無線LANの中継局40は、インターネットを含む通信ネットワーク60と接続されている。中継局40は、例えばWiFi(登録商標)ルータやWiFi(登録商標)アクセスポイントなどの通信機器である。本実施の形態では、通信ネットワーク60としてインターネットを含む構成を例示しているが、電話回線網、移動体通信網、CATV(CAble TeleVision)通信網、衛星通信網などを利用することもできる。   The user home 70 is provided with a wireless local area network (LAN) that forms part of the communication network 60. The wireless LAN relay station 40 is connected to a communication network 60 including the Internet. The relay station 40 is a communication device such as a WiFi (registered trademark) router or a WiFi (registered trademark) access point. In the present embodiment, a configuration including the Internet is exemplified as the communication network 60, but a telephone line network, a mobile communication network, a CATV (CAble TeleVision) communication network, a satellite communication network, or the like can also be used.

サーバ20と家電10とは、通信ネットワーク60および無線LANの中継局40を介して通信可能となる。また、サーバ20と通信端末装置30とは、通信ネットワーク60を介して通信可能となる。通信端末装置30と通信ネットワーク60におけるインターネットとの間は、3G(3rd Generation)、LTE(Long Term Evolution)や、宅内あるいは公衆のWiFi(登録商標)アクセスポイントなどを利用して接続される。   The server 20 and the home appliance 10 can communicate with each other via the communication network 60 and the wireless LAN relay station 40. The server 20 and the communication terminal device 30 can communicate with each other via the communication network 60. The communication terminal device 30 and the Internet in the communication network 60 are connected using 3G (3rd Generation), LTE (Long Term Evolution), a home or public WiFi (registered trademark) access point, and the like.

(家電10の構成)
図2は、家電10の概略構成を示すブロック図である。家電10は、図2に示すように、制御部11、記憶部12、通信部13、音声出力部14、音声取得部15、および操作パネル16を備えている。また、制御部11には、音声出力制御部11a、音声取得制御部11b、およびパネル制御部11cが構築されている。
(Configuration of home appliance 10)
FIG. 2 is a block diagram illustrating a schematic configuration of the home appliance 10. As shown in FIG. 2, the home appliance 10 includes a control unit 11, a storage unit 12, a communication unit 13, a voice output unit 14, a voice acquisition unit 15, and an operation panel 16. The control unit 11 includes an audio output control unit 11a, an audio acquisition control unit 11b, and a panel control unit 11c.

制御部11は、例えば、CPU(Central Processing Unit)や専用プロセッサなどの演算処理部などにより構成されるコンピュータ装置からなり、家電10の各部の動作を制御するものである。   The control part 11 consists of computer apparatuses comprised by arithmetic processing parts, such as CPU (Central Processing Unit) and a dedicated processor, for example, and controls operation | movement of each part of the household appliance 10. FIG.

記憶部12は、家電10で用いられる各種情報を記憶するもので、サーバ20からダウンロードした発話すべき音声データや音声対話における回答の音声データなども記憶する。通信部(送信部、受信部)13は、制御部11の制御のもと、無線LANの中継局40および通信ネットワーク60を介してサーバ20と相互通信を行うものである。   The storage unit 12 stores various types of information used in the home appliance 10 and also stores voice data to be uttered downloaded from the server 20, voice data of answers in voice conversation, and the like. The communication unit (transmission unit, reception unit) 13 performs mutual communication with the server 20 via the wireless LAN relay station 40 and the communication network 60 under the control of the control unit 11.

音声出力部14は、スピーカなどからなり、後述する音声出力制御部11aの制御のもと、音声データに基づいた音声を出力するものである。音声取得部15は、マイクなどからなり、後述する音声取得制御部11bの制御のもと、音声を取得し、取得した音声を電気信号に変換するものである。   The audio output unit 14 includes a speaker or the like, and outputs audio based on audio data under the control of the audio output control unit 11a described later. The sound acquisition unit 15 includes a microphone and acquires sound under the control of a sound acquisition control unit 11b described later, and converts the acquired sound into an electrical signal.

操作パネル16は、後述するパネル制御部11cの制御のもと、家電10に対してユーザが指示を入力したり、家電10の状態(庫内温度、設定温度等)を通知したりするためのユーザ・インターフェースである。操作パネル16には、発話ボタン16aと、通知ランプ16bとが設けられている。通知ランプ16bは、例えば3色LEDからなる。   The operation panel 16 is used for a user to input an instruction to the home appliance 10 or to notify the state of the home appliance 10 (internal temperature, set temperature, etc.) under the control of the panel control unit 11c described later. User interface. The operation panel 16 is provided with an utterance button 16a and a notification lamp 16b. The notification lamp 16b is made of, for example, a three-color LED.

発話ボタン16aは、サーバ20よりダウンロードした発話すべき音声データが存在する場合、これの発話指示を受け付けるものである。また、本実施の形態では、発話ボタン16aは、音声取得部15の起動指示や、停止指示を受け付けるものでもある。   The utterance button 16a accepts an utterance instruction when there is voice data to be uttered downloaded from the server 20. Further, in the present embodiment, the utterance button 16a also receives a start instruction or a stop instruction for the voice acquisition unit 15.

通知ランプ16bは、家電10が発話すべき音声データを有する場合には、その存在を通知するものである。また、本実施の形態では、通知ランプ16bは、音声取得部15の稼働状態を通知するものでもある。   The notification lamp 16b notifies the presence when the home appliance 10 has voice data to be uttered. Moreover, in this Embodiment, the notification lamp 16b notifies the operating state of the audio | voice acquisition part 15. FIG.

音声出力制御部11aは、音声出力部14を制御するものである。音声出力制御部11aは、発話すべき音声データがある場合には、発話するきっかけとなる予め定められた事象が発生するか、あるいは発話ボタン16aが押圧されると、音声出力部14に音声データを送り、これを発話させる。発話すべき音声データとしては、サーバ20よりダウンロードしたものや、記憶部12に家電10の出庫時から記憶されていたものなどがある。その内容は、例えば、通信端末装置30から入力された伝言や、製氷機の水がなくなっていることを知らせるメッセージなど様々である。   The audio output control unit 11 a controls the audio output unit 14. When there is voice data to be uttered, the voice output control unit 11a causes the voice output unit 14 to send voice data when a predetermined event that triggers the utterance occurs or when the utterance button 16a is pressed. To speak. Examples of voice data to be uttered include data downloaded from the server 20 and data stored in the storage unit 12 since the delivery of the home appliance 10. The contents include various messages such as a message input from the communication terminal device 30 and a message notifying that the ice machine has run out of water.

また、本実施の形態では、音声出力制御部11aは、音声取得部15が起動すると、音声取得部15の起動を知らせる音声データを音声出力部14に送り、発話させる。音声取得部15の起動を知らせる音声データによる発話とは、例えば、「は〜い/なになに?…」というようなものである。同様に、音声取得部15が停止すると、音声取得部15の停止を知らせる音声データを音声出力部14に送り、発話させる。音声取得部15の停止を知らせる音声データによる発話とは、例えば、「またね!」,「通信状態が良くないみたい!」というようなものである。   In the present embodiment, when the voice acquisition unit 15 is activated, the voice output control unit 11a sends the voice data notifying the activation of the voice acquisition unit 15 to the voice output unit 14 to utter. The utterance based on the voice data that informs the activation of the voice acquisition unit 15 is, for example, “haha / what?”. Similarly, when the voice acquisition unit 15 stops, voice data notifying the stop of the voice acquisition unit 15 is sent to the voice output unit 14 to speak. The speech based on the voice data that informs the stop of the voice acquisition unit 15 is, for example, “See you again!” Or “It seems that the communication state is not good!”.

さらに、音声出力制御部11aは、音声出力部14を発話させている状態で発話ボタン16aが押圧されると、音声出力部14を停止させて発話を中止させる。   Further, when the speech button 16a is pressed while the voice output unit 14 is speaking, the voice output control unit 11a stops the voice output unit 14 and stops the speech.

音声取得制御部(起動部)11bは、音声取得部15の稼働を制御すると共に、音声取得部15が取得した音声の音声データを作成し、通信部13を介してサーバ20に送信するものである。音声取得制御部11bは、音声取得部15を停止させている状態で、音声取得部15を起動するきっかけとなる予め定められた事象が発生するか、あるいは発話ボタン16aが押圧されると、音声取得部15を起動させる。   The voice acquisition control unit (starting unit) 11 b controls the operation of the voice acquisition unit 15, creates voice data of the voice acquired by the voice acquisition unit 15, and transmits the voice data to the server 20 via the communication unit 13. is there. When the voice acquisition control unit 11b stops the voice acquisition unit 15 and a predetermined event that triggers the start of the voice acquisition unit 15 occurs or the utterance button 16a is pressed, the voice acquisition control unit 11b The acquisition unit 15 is activated.

本実施の形態においては、音声出力制御部11aが用いる「発話するきっかけとなる予め定められた事象」と、音声取得部15が用いる「音声取得部15を起動するきっかけとなる予め定められた事象」とを共通としている。但し、発話のきっかけと音声取得のきっかけは別であってもよい。   In the present embodiment, the “predetermined event that triggers the utterance” used by the voice output control unit 11a and the “predetermined event that triggers the voice acquisition unit 15 used by the voice acquisition unit 15”. "Is common. However, the trigger for utterance and the trigger for voice acquisition may be different.

音声取得制御部11bは、音声取得部15を稼働させている状態で、音声出力部14が発話を行う場合、音声取得部15を一旦停止させ、発話が完了すると再び起動させる。また、音声取得制御部11bは、音声を取得できない状態が所定期間、例えば30秒続くと、音声取得部15を停止させる。さらに、音声取得制御部11bは、音声取得部15を稼働させている状態で発話ボタン16aが押圧されると、音声取得部15を停止させる。   When the voice output unit 14 utters while the voice acquisition unit 15 is operating, the voice acquisition control unit 11b temporarily stops the voice acquisition unit 15 and starts again when the utterance is completed. In addition, the voice acquisition control unit 11b stops the voice acquisition unit 15 when a state in which voice cannot be acquired continues for a predetermined period, for example, 30 seconds. Furthermore, the voice acquisition control unit 11b stops the voice acquisition unit 15 when the utterance button 16a is pressed while the voice acquisition unit 15 is operating.

パネル制御部11cは、操作パネル16を制御するものである。本実施形態では、パネル制御部11cは、通知ランプ16bの点灯を制御して、発話すべき音声データの有無と、音声取得部15の稼働状態をユーザに通知する。   The panel control unit 11 c controls the operation panel 16. In the present embodiment, the panel control unit 11c controls the lighting of the notification lamp 16b to notify the user of the presence / absence of voice data to be uttered and the operating state of the voice acquisition unit 15.

パネル制御部11cは、発話すべき音声データが存在せず、かつ、音声取得部15も停止している状態(非稼働状態)では、通知ランプ16bを例えば消灯させる。これに対し、発話すべき音声データが存在している場合には、発話すべき音声データの存在を知らせる所定の第1色(例えばピンク)で点滅点灯させる。また、音声取得部15が稼働している状態(稼働状態)では、音声取得部15の稼働を知らせる所定の第2色(例えばグリーン)で点滅点灯させる。音声取得部15の稼働を知らせる第2色は、発話すべき音声データの存在を知らせる第1色よりも優先され、パネル制御部11cは、音声取得部15が稼働している状態では、たとえ発話すべき音声データが存在していても、音声取得部15の稼働を知らせる第2色で点滅点灯させる。   The panel control unit 11c turns off the notification lamp 16b, for example, when there is no voice data to be uttered and the voice acquisition unit 15 is stopped (non-operating state). On the other hand, when there is audio data to be uttered, the light is flashed in a predetermined first color (for example, pink) to notify the presence of the audio data to be uttered. Further, in a state where the voice acquisition unit 15 is operating (operational state), the voice acquisition unit 15 blinks in a predetermined second color (for example, green) that notifies the operation of the voice acquisition unit 15. The second color notifying the operation of the voice acquisition unit 15 has priority over the first color notifying the presence of the voice data to be uttered, and the panel control unit 11c does not have to speak even when the voice acquisition unit 15 is operating. Even if there is voice data to be spoken, the second color for flashing and lighting the voice acquisition unit 15 is activated.

また、パネル制御部11cは、音声出力部14の発話中(音声取得部15は停止中)は、通知ランプ16bを非点滅点灯させる。非点滅点灯の色は、例えば、発話すべき音声データの発話中であれば第1色、起動時や停止時の発話中であれば第2色である。   The panel control unit 11c turns off the notification lamp 16b while the voice output unit 14 is speaking (the voice acquisition unit 15 is stopped). The non-flashing lighting color is, for example, the first color when speech data to be spoken is being spoken, and the second color when speech is being activated or stopped.

音声出力制御部11aと音声出力部(音出力部)14とで、本発明における通知部が構成され、パネル制御部11cと通知ランプ(光出力部)16bとでも本発明における通知部が構成される。   The voice output control unit 11a and the voice output unit (sound output unit) 14 constitute a notification unit in the present invention, and the panel control unit 11c and the notification lamp (light output unit) 16b also constitute a notification unit in the present invention. The

(サーバ20の構成)
図3は、サーバ20の概略構成を示すブロック図である。サーバ20は、各家電10を管理するサーバであり、図3に示すように、制御部21、記憶部22、通信部23、および音声認識装置24を備えている。また、制御部21には、音声提供機能部21aが構築されている。
(Configuration of server 20)
FIG. 3 is a block diagram illustrating a schematic configuration of the server 20. The server 20 is a server that manages each home appliance 10, and includes a control unit 21, a storage unit 22, a communication unit 23, and a voice recognition device 24 as shown in FIG. In addition, a voice providing function unit 21 a is constructed in the control unit 21.

制御部21は、例えば、CPU(Central Processing Unit)や専用プロセッサなどの演算処理部などにより構成されるコンピュータ装置からなり、サーバ20の各部の動作を制御するものである。   The control unit 21 is composed of, for example, a computer device including an arithmetic processing unit such as a CPU (Central Processing Unit) or a dedicated processor, and controls the operation of each unit of the server 20.

記憶部22は、サーバ20で用いられる各種情報を記憶するものであり、後述する音声提供機能部21aが、家電10に提供する音声データの作成時に参照する文章例等も記憶している。通信部23は、制御部21の制御のもと、通信ネットワーク60を介して家電10および通信端末装置30と相互通信を行うものである。   The storage unit 22 stores various types of information used in the server 20, and also stores text examples and the like that are referred to when the voice providing function unit 21 a described later creates voice data to be provided to the home appliance 10. The communication unit 23 performs mutual communication with the home appliance 10 and the communication terminal device 30 via the communication network 60 under the control of the control unit 21.

音声認識装置24は、家電10より送信され、通信部23が受信した音声データを音声認識して、文字列に変換するものである。音声認識装置24には、単なる文字列ではなく、意味ある文章に変換する機能等も備えられている。   The voice recognition device 24 recognizes voice data transmitted from the home appliance 10 and received by the communication unit 23 and converts it into a character string. The voice recognition device 24 is provided with a function of converting not only a character string but also a meaningful sentence.

音声提供機能部21aは、家電10にて取得された発話に対する回答の音声データを家電10に提供するものである。音声提供機能部21aは、提供する音声データを、記憶部22を参照して作成したり、通信ネットワーク60を介して取得したりする。音声提供機能部21aは、作成した音声データを、通信部23を介して家電10に送信し、ダウンロードさせる。   The voice providing function unit 21 a provides the home appliance 10 with voice data of an answer to the utterance acquired by the home appliance 10. The voice providing function unit 21 a creates the voice data to be provided with reference to the storage unit 22 or obtains it via the communication network 60. The voice providing function unit 21a transmits the created voice data to the home appliance 10 via the communication unit 23 and downloads it.

(音声対話における処理の流れ)
家電10における音声対話の処理を、図4のフローチャートを用いて説明する。制御部11は、発話ボタン16aが押圧されたかどうか、あるいは発話・起動するきっかけとなる予め定められた事象が発生したかどうかを常に判断している(S1)。このとき、通知ランプ16bは、発話すべき音声データが存在する場合は、その存在を知らせる第1色で点滅点灯し、存在しない場合は消灯している。
(Processing flow in voice dialogue)
The voice conversation process in the home appliance 10 will be described with reference to the flowchart of FIG. The control unit 11 always determines whether or not the utterance button 16a is pressed or whether or not a predetermined event that triggers utterance or activation has occurred (S1). At this time, the notification lamp 16b flashes and lights in the first color notifying the presence when there is voice data to be uttered, and is turned off when there is no speech data.

S1において、YESと判断すると、S2とS9とに移行し、並行処理を行う。まず、S2に進んだ場合から説明する。   If YES is determined in S1, the process proceeds to S2 and S9 to perform parallel processing. First, the case where the process proceeds to S2 will be described.

S2では、制御部11は、発話すべき音声データが存在する場合はこれを発話させる。また、制御部11は、音声取得部15を起動させ、音声取得部15の起動を通知する発話(例えば、「は〜い/なになに?…」)を行わせる。なお、発話すべき音声データが存在する場合は、その発話を完了した後に音声取得部15の起動を知らせる発話を行う。   In S2, if there is voice data to be uttered, the control unit 11 utters the voice data. In addition, the control unit 11 activates the voice acquisition unit 15 to perform an utterance (for example, “Hai / What?”) That notifies the activation of the voice acquisition unit 15. If there is voice data to be uttered, utterance notifying activation of the voice acquisition unit 15 is performed after the utterance is completed.

S2に進むと、通知ランプ16bは、音声取得部15の稼働状態を知らせる第2色にて点滅点灯する。発話すべき音声データが存在して既に第1色で点滅点灯している場合は、点滅点灯の色が第2色に切り換わる。また、第2色で点滅点灯に移行した後も、音声出力部14が発話中は、第2色で非点滅点灯し、音声出力部14の発話が終わると第2色の点滅点灯に戻る。   When the process proceeds to S <b> 2, the notification lamp 16 b blinks in a second color that notifies the operating state of the voice acquisition unit 15. If there is audio data to be uttered and already blinking in the first color, the blinking color is switched to the second color. In addition, even after the transition to the blinking lighting of the second color, while the voice output unit 14 is speaking, the second color is not blinking lighting, and when the voice output unit 14 finishes speaking, it returns to the second color blinking lighting.

次に、制御部11は、音声取得部15にてユーザの発話等の音声を取得したか否か判断し(S3)、YESと判断すると、取得した音声の音声データを作成してサーバ20に送信する(S4)。その後、サーバ20から回答の音声データを受信したかどうかを判断し(S5)、YESと判断すると、これを発話させる(S6)。その後S3に戻り、次の音声取得を行う。   Next, the control unit 11 determines whether or not a voice such as a user's speech has been acquired by the voice acquisition unit 15 (S3). If YES is determined, the voice data of the acquired voice is created and stored in the server 20. Transmit (S4). Thereafter, it is determined whether or not the answer voice data has been received from the server 20 (S5), and if YES is determined, this is uttered (S6). Thereafter, the process returns to S3, and the next voice acquisition is performed.

一方、S5にてNOと判断すると、S7に進み、所定時間、例えば10秒過したかどうかを判断する。ここで、YESと判断すると、S8に進み、音声取得部15およびサーバからの音声データの受信待ちを停止し、その停止を通知する発話(例えば、「通信状態が良くないみたい!」)を行わせ、その後、S1に戻る。   On the other hand, if NO is determined in S5, the process proceeds to S7, and it is determined whether or not a predetermined time, for example, 10 seconds has elapsed. If “YES” is determined here, the process proceeds to S8, the reception of the voice data from the voice acquisition unit 15 and the server is stopped, and an utterance notifying the stop (for example, “the communication state seems to be bad!”) Is performed. And then return to S1.

一方、S3にてNOと判断した場合は、S9に進み、所定時間、例えば30秒経過したかどうかを判断する。ここで、NOと判断するとS3に戻る。S3〜S7、S9は、S7あるいはS9にてYESと判断するまで繰り返す。S9にてYESと判断すると、制御部11は、音声取得部15を停止させると共に、その停止を通知する発話(例えば、「またね!」)を行わせ(S10)、その後S1に戻る。   On the other hand, if NO is determined in S3, the process proceeds to S9, and it is determined whether or not a predetermined time, for example, 30 seconds has elapsed. If NO is determined here, the process returns to S3. S3 to S7 and S9 are repeated until YES is determined in S7 or S9. If YES is determined in S9, the control unit 11 stops the voice acquisition unit 15 and makes an utterance (for example, “See you!”) Notifying the stop (S10), and then returns to S1.

S8あるいはS10に進むまでの間、通知ランプ16bは、第2色で点滅点灯し、音声出力部14が発話中は第2色で非点滅点灯する。S8あるいはS10に進むことで、通知ランプ16bは、S2にて発話すべき音声データを発話できていない場合は点滅点灯の色が第1色に切り換わり、発話が完了している場合は消灯する。なお、S2にて発話すべき音声データを発話できていない場合とは、発話すべき音声データを発話するよりも前に、発話ボタン16aが押圧されて、並行処理のS11にてYESと判断された場合である。   Until the process proceeds to S8 or S10, the notification lamp 16b is flashed in the second color, and is not flashed in the second color while the voice output unit 14 is speaking. By proceeding to S8 or S10, the notification lamp 16b switches the blinking lighting color to the first color when the voice data to be uttered in S2 cannot be uttered, and turns off when the utterance is completed. . In the case where the voice data to be uttered cannot be spoken in S2, the utterance button 16a is pressed before the voice data to be uttered is uttered, and YES is determined in S11 of the parallel processing. This is the case.

S11では、制御部11は、発話ボタン16aが押圧されたかどうかを常に判断している。そして、S11において、YESと判断すると、S12に進み、音声出力部14が発話中であるかどうかを判断する。ここで、YESと判断すると、音声出力部14からの発話を中止し(S13)、S3に戻る。一方、S12にて、NOと判断すると、制御部11は、音声取得部15を停止させ(S14)、その後S1に戻る。   In S11, the control unit 11 always determines whether or not the utterance button 16a has been pressed. And if it is judged as YES in S11, it will progress to S12 and it will be judged whether voice output part 14 is speaking. If YES is determined here, the speech from the voice output unit 14 is stopped (S13), and the process returns to S3. On the other hand, when it is determined NO in S12, the control unit 11 stops the voice acquisition unit 15 (S14), and then returns to S1.

なお、S14においては、S10と同様に、停止を通知する発話を行うようにしてもよい。また、通知ランプ16bは、S14に移行するまでは、S2〜S9に応じた点灯状態となり、S14に移行すると、S10に応じた点灯状態となる。   In S14, as in S10, an utterance notifying the stop may be performed. Further, the notification lamp 16b is in a lighting state according to S2 to S9 until it shifts to S14, and when it shifts to S14, it becomes a lighting state according to S10.

(冷蔵庫10−1の構成)
ここで、図5を用いて、家電10の一例としての冷蔵庫10−1について詳細に説明する。図5は、冷蔵庫10−1の外観斜視図、および操作パネル16の拡大図である。図5に示すように、冷蔵庫10−1は、下部に、野菜室41、冷凍室42、調整冷凍室43、製氷室44等が設けられ、上部に冷蔵室45が設けられている。冷蔵室45のドア46は、観音開きタイプであり、2枚あるドア46a,46bのうちのより大きい方の第1ドア46aの開放端側に、縦長の操作パネル16が設けられている。
(Configuration of refrigerator 10-1)
Here, the refrigerator 10-1 as an example of the household appliance 10 is demonstrated in detail using FIG. FIG. 5 is an external perspective view of the refrigerator 10-1 and an enlarged view of the operation panel 16. As shown in FIG. 5, the refrigerator 10-1 is provided with a vegetable room 41, a freezing room 42, an adjustment freezing room 43, an ice making room 44, and the like at the lower part, and a refrigeration room 45 at the upper part. The door 46 of the refrigerator compartment 45 is a double door opening type, and the vertically long operation panel 16 is provided on the open end side of the larger first door 46a of the two doors 46a and 46b.

操作パネル16には、上述した発話ボタン16aおよび通知ランプ16bの他、サーバ20との接続状態を示すコネクトランプ16cなどが備えられている。発話ボタン16aおよびコネクトランプ16cは、冷蔵庫10−1の前に立ったユーザ(一般的な身長のユーザ)の顔の高さにくるように、操作パネル16の上部に配置され、発話ボタン16aは、それよりも下に配置されている。   In addition to the speech button 16a and the notification lamp 16b described above, the operation panel 16 includes a connect lamp 16c that indicates a connection state with the server 20. The utterance button 16a and the connect lamp 16c are arranged at the upper part of the operation panel 16 so as to be at the height of the face of the user (general height user) standing in front of the refrigerator 10-1, and the utterance button 16a is It is placed below it.

以上のように、本実施の形態の家電10の構成によれば、家電10に対するユーザの行動をきっかけに、音声取得部15が起動した場合に、起動したことを知らせる発話と共に、通知ランプ16bの点灯の状態を確認することで、ユーザは、音声取得部15が稼働状態にあるかどうかを確認することができる。   As described above, according to the configuration of the home appliance 10 according to the present embodiment, when the voice acquisition unit 15 is activated in response to the user's action on the home appliance 10, the notification lamp 16b By confirming the lighting state, the user can confirm whether or not the voice acquisition unit 15 is in an operating state.

そのため、ユーザは、発話した音声が間違いなく取得されているのかどうか不安を感じることなく、家電10と対話できる。また、音声の取得を希望しない場合にも、音声取得部15が非稼働であることを確認でき、確認する術が無かった場合のような、第3者に会話等が聞かれているような不安を感じることがない。   Therefore, the user can interact with the home appliance 10 without feeling uneasy about whether the spoken voice is definitely acquired. Further, even when voice acquisition is not desired, it can be confirmed that the voice acquisition unit 15 is not in operation, and a conversation or the like is being heard by a third party, such as when there is no way to check. I don't feel anxious.

これにより、家電10としての主たる機能以外に、家電10に対するユーザの行動をきっかけに、音声を取得してこれを何等かに利用する(本実施の形態では音声対話に利用)するといった便利な付加機能を、ユーザに不安を感じさせることなく利用させることができる。   As a result, in addition to the main functions of the home appliance 10, a convenient addition such as acquiring voice and using it for some purpose (in this embodiment, used for voice conversation) triggered by the user's action on the home appliance 10 The function can be used without making the user feel uneasy.

また、本実施の形態では、音声出力部14によるから発話と通知ランプ16bの点灯状態との両方で、音声取得部15の稼働状態を通知するので、視覚と聴覚の両方から知ることができる。なお、音声取得部15の稼働状態の通知は、通知ランプ16bの点灯あるいは発話の何れか一方で、通知される構成であってもよい。   In the present embodiment, since the voice output unit 14 notifies the operating state of the voice acquisition unit 15 by both the utterance and the lighting state of the notification lamp 16b, it can be known from both visual and auditory senses. The notification of the operating state of the voice acquisition unit 15 may be configured to be notified by either the lighting of the notification lamp 16b or the utterance.

〔実施の形態2〕
本発明の他の実施形態について説明する。なお、説明の便宜上、前記実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を省略する。
[Embodiment 2]
Another embodiment of the present invention will be described. For convenience of explanation, members having the same functions as those described in the embodiment are given the same reference numerals, and descriptions thereof are omitted.

図6は、本実施の形態の家電としての冷蔵庫10A−1のドアが開かれた状態の要部斜視図、および庫内操作部の拡大図である。図6に示すように、冷蔵庫10A−1は、第1ドア46aに設けられた操作パネル16の通知ランプ16b以外に、冷蔵庫10A−1の本体47側にも、音声取得部15の稼働状態を通知する庫内通知ランプ50が設けられている。庫内通知ランプ50による音声取得部15の稼働状態の通知の仕方は通知ランプ16bと同じであるので説明は省略する。   FIG. 6 is a perspective view of a main part in a state where the door of the refrigerator 10A-1 as the home appliance of the present embodiment is opened, and an enlarged view of the internal operation unit. As shown in FIG. 6, the refrigerator 10 </ b> A- 1 has the operating state of the voice acquisition unit 15 on the main body 47 side of the refrigerator 10 </ b> A- 1 in addition to the notification lamp 16 b of the operation panel 16 provided on the first door 46 a. An internal notification lamp 50 for notification is provided. The method of notifying the operating state of the voice acquisition unit 15 by the internal notification lamp 50 is the same as that of the notification lamp 16b, and thus the description thereof is omitted.

庫内通知ランプ50は、本体47における第1ヒンジカバー部51aに設けられた庫内操作部52に搭載されている。第1ヒンジカバー部51aは、本体47に対して第1ドア46aを開閉自在に支持するヒンジ機構を覆う部材である。第2ドア46bにも、そのヒンジ機構を第2ヒンジカバー部51bが設けられている。第1ドア46aは、第2ドア46bよりも大きく利き手側にくるように設計されるため、第2ドア46bよりも開閉頻度が高い。したがって、庫内通知ランプ50をヒンジカバー部に設ける場合は、第2ヒンジカバー部51bではなく、第1ドア46aの第1ヒンジカバー部51aに設けることが好ましい。   The internal notification lamp 50 is mounted on an internal operation unit 52 provided in the first hinge cover portion 51 a of the main body 47. The first hinge cover portion 51 a is a member that covers a hinge mechanism that supports the first door 46 a so that it can be opened and closed with respect to the main body 47. The second door 46b is also provided with a second hinge cover portion 51b as its hinge mechanism. Since the 1st door 46a is designed so that it may come to the dominant hand side larger than the 2nd door 46b, opening and closing frequency is higher than the 2nd door 46b. Therefore, when the inside notification lamp 50 is provided in the hinge cover part, it is preferable to provide it in the first hinge cover part 51a of the first door 46a instead of the second hinge cover part 51b.

庫内操作部52は、冷蔵庫10A−1を通信ネットワーク60に接続してサーバ20と通信するための上述した無線通信機能を有するものでもある。庫内操作部52の正面には、通信電源53、無線LANボタン54、リンクボタン55、通信状態を表示するLED等からなる複数のランプ56〜58、および庫内通知ランプ50が設けられている。   The internal operation unit 52 has the above-described wireless communication function for connecting the refrigerator 10 </ b> A- 1 to the communication network 60 to communicate with the server 20. On the front surface of the internal operation unit 52, a communication power source 53, a wireless LAN button 54, a link button 55, a plurality of lamps 56 to 58 including LEDs for displaying a communication state, and an internal notification lamp 50 are provided. .

つまり、冷蔵庫10A−1では、音声取得部15の稼働状態を光(表示を含む)にて通知する通知部として、ドア46aに設けられた操作パネル16の通知ランプ16bと、本体47に設けられた庫内操作部52の庫内通知ランプ50との2つを備えている。   That is, in the refrigerator 10 </ b> A- 1, the notification lamp 16 b of the operation panel 16 provided on the door 46 a and the main body 47 are provided as a notification unit that notifies the operating state of the sound acquisition unit 15 with light (including display). And an internal notification lamp 50 of the internal operation unit 52.

このように、音声取得部15の稼働状態を光で通知する通知部を、正面の第1ドア46aと、第1ドア46aを開いた場合に正面にくる本体47との両方に設けたことで、ユーザは、第1ドア46aを開けた状態でも閉めた状態でも、音声取得部15の稼働状態を確認することができる。   As described above, the notification unit for notifying the operating state of the voice acquisition unit 15 by light is provided in both the front first door 46a and the main body 47 that is in front when the first door 46a is opened. The user can check the operating state of the voice acquisition unit 15 regardless of whether the first door 46a is opened or closed.

第1ドア46aを開けて庫内の食材をチェックしているユーザは、操作パネル16の通知ランプ16bを視認するこができない。そのため、音声取得部15の稼働状態が気になった場合、一々第1ドア46aを閉じる方向に回転させる必要がある。しかしながら、このように、庫内通知ランプ50を設けて第1ドア46aを開けた状態でも確認できる構成としておくことで、冷蔵室45から食材等を出し入れしながら、音声取得部15の稼働状態を確認することができる。   A user who opens the first door 46a and checks the food in the cabinet cannot visually recognize the notification lamp 16b on the operation panel 16. Therefore, when the operating state of the voice acquisition unit 15 is concerned, it is necessary to rotate the first door 46a in the closing direction. However, as described above, the internal notification lamp 50 is provided so that the first door 46a can be opened, so that the operating state of the voice acquisition unit 15 can be changed while taking out food and the like from the refrigerator compartment 45. Can be confirmed.

また、より好ましい構成としては、第1ドア46aの閉時は、庫内通知ランプ50を含め、庫内操作部52のランプ表示を消灯することである。また、これに組み合わせて、第1ドア46aの開時には、通知ランプ16bを含め、操作パネル16における表示(ランプに限らず)を消灯することである。これにより、無駄な電力消費を抑えることができる。   Further, as a more preferable configuration, when the first door 46a is closed, the lamp display of the internal operation unit 52 including the internal notification lamp 50 is turned off. In combination with this, when the first door 46a is opened, the display (not limited to the lamp) on the operation panel 16 including the notification lamp 16b is turned off. Thereby, useless power consumption can be suppressed.

また、庫内通知ランプ50を含む庫内操作部52をヒンジカバー部51に設けることで、第1ドア46aに設けられた操作パネル16との通信が容易になる。これは、第1ドア46aに設けられた操作パネル16と本体47間の通信は、ヒンジ機構に通した配線を利用しているためである。   Further, by providing the inside operation unit 52 including the inside notification lamp 50 in the hinge cover unit 51, communication with the operation panel 16 provided in the first door 46a is facilitated. This is because the communication between the operation panel 16 provided on the first door 46a and the main body 47 uses the wiring passed through the hinge mechanism.

なお、庫内通知ランプ50を設ける位置は、上述した第1ヒンジカバー部51aのある天面部に限らず、例えば、図7に示すように、冷蔵室47の一番下の仕切り部分に設けてもよい。図7は、変形例の冷蔵庫10B−1のドアが開かれた状態の要部斜視図である。   In addition, the position where the inside notification lamp 50 is provided is not limited to the top surface portion where the first hinge cover portion 51a described above is provided, and is provided, for example, in the lowermost partition portion of the refrigerator compartment 47 as shown in FIG. Also good. FIG. 7 is a perspective view of a main part in a state where the door of the refrigerator 10B-1 of the modified example is opened.

また、庫内通知ランプ50を第1ヒンジカバー部51aに設ける場合においても、図8の(a)(b)に示すように、第1ドア46aおよび第2ドア46bの各開放端が共に位置する開閉位置に設けてもよい。開閉位置に設けることで、第1ドア46aおよび第2ドア46bのどちらのドアが開かれても確認ができる。図8の(a)は、変形例の冷蔵庫10C−1のドアが開かれた状態の要部斜視図、(b)は、その要部平面図である。   Further, even when the inside notification lamp 50 is provided in the first hinge cover portion 51a, as shown in FIGS. 8A and 8B, the open ends of the first door 46a and the second door 46b are both positioned. It may be provided at the opening / closing position. By providing at the opening / closing position, it can be confirmed whether the first door 46a or the second door 46b is opened. (A) of FIG. 8 is a principal part perspective view in the state by which the door of refrigerator 10C-1 of the modification was opened, (b) is the principal part top view.

なお、ここでは、ドアを備える家電10として、冷蔵庫10A−1を例示したが、ドアを開けて使用する加熱調理器10−2等でも、ドアに通知ランプ16bを含む操作パネル16が設けられている構成に適用できる。   In addition, although refrigerator 10A-1 was illustrated here as the household appliance 10 provided with a door, operation panel 16 including the notification lamp 16b is provided in the door also in the cooking device 10-2 etc. which open and use a door. Applicable to any configuration.

〔実施の形態3〕
本発明の他の実施形態について説明する。なお、説明の便宜上、前記実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を省略する。
[Embodiment 3]
Another embodiment of the present invention will be described. For convenience of explanation, members having the same functions as those described in the embodiment are given the same reference numerals, and descriptions thereof are omitted.

図9は、本実施の形態の家電としての冷蔵庫10D−1のドアが開かれた状態の外観斜視図である。図9に示すように、冷蔵庫10D−1は、第1ドア46aと第2ドア46bの各開放端に、光出力部としての導光板発光部61が設けられた構成である。導光板発光部61が設けられた、第1ドア46aおよび第2ドア46bの各開放端側のエッジが光って音声取得部15の稼働状態を通知する。これによれば、本体47を変更することなく、第1ドア46aおよび第2ドア46bのドア側の工夫だけで、ドアの開閉状態に関わりなく、ドアを操作するユーザに確認させることができる。   FIG. 9 is an external perspective view of a state where the door of refrigerator 10D-1 as the home appliance of the present embodiment is opened. As shown in FIG. 9, the refrigerator 10 </ b> D- 1 has a configuration in which a light guide plate light emitting unit 61 as a light output unit is provided at each open end of the first door 46 a and the second door 46 b. Edges on the open end sides of the first door 46a and the second door 46b provided with the light guide plate light-emitting unit 61 shine to notify the operating state of the sound acquisition unit 15. According to this, without changing the main body 47, only the device on the door side of the first door 46a and the second door 46b can be confirmed by the user operating the door regardless of the open / closed state of the door.

さらに、光出力部を庫内の照明装置とし、音声取得部15の稼働状態を、庫内を照らす照明の色を変えて通知する構成とすることもできる。   Further, the light output unit may be a lighting device in the cabinet, and the operating state of the voice acquisition unit 15 may be notified by changing the color of the lighting that illuminates the inside of the cabinet.

〔実施の形態4〕
実施の形態1から3にて説明した家電10、サーバ20における、音声出力制御部11a、音声取得制御部11b、パネル制御部11c、音声提供機能部21aは、集積回路(ICチップ)上に形成された論理回路によってハードウェア的に実現してもよいし、CPU(Central Processing Unit)を用いてソフトウェア的に実現してもよい。
[Embodiment 4]
The audio output control unit 11a, the audio acquisition control unit 11b, the panel control unit 11c, and the audio providing function unit 21a in the home appliance 10 and the server 20 described in the first to third embodiments are formed on an integrated circuit (IC chip). It may be realized by hardware using a logic circuit that has been configured, or may be realized by software using a CPU (Central Processing Unit).

後者の場合、家電10、サーバ20は、それぞれ、各機能を実現するソフトウェアであるプログラムの命令を実行するCPU、上記プログラム及び各種データがコンピュータ(又はCPU)で読み取り可能に記録されたROM(Read Only Memory)又は記憶装置(これらを「記録媒体」と称する)、上記プログラムを展開するRAM(Random Access Memory)等を備えている。そして、コンピュータ(又はCPU)が上記プログラムを上記記録媒体から読み取って実行することにより、本発明の目的が達成される。上記記録媒体としては、「一時的でない有形の媒体」、例えば、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路等を用いることができる。また、上記プログラムは、該プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記コンピュータに供給されてもよい。なお、本発明は、上記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。   In the latter case, the home appliance 10 and the server 20 are respectively a CPU that executes instructions of a program, which is software that implements each function, and a ROM (Read CPU) in which the program and various data are recorded so as to be readable by the computer (or CPU). Only Memory) or a storage device (these are referred to as “recording media”), a RAM (Random Access Memory) for expanding the program, and the like. And the objective of this invention is achieved when a computer (or CPU) reads the said program from the said recording medium and runs it. As the recording medium, a “non-temporary tangible medium” such as a tape, a disk, a card, a semiconductor memory, a programmable logic circuit, or the like can be used. The program may be supplied to the computer via an arbitrary transmission medium (such as a communication network or a broadcast wave) that can transmit the program. The present invention can also be realized in the form of a data signal embedded in a carrier wave in which the program is embodied by electronic transmission.

本発明は上述した各実施の形態に限定されるものではなく、種々の変更が可能であり、異なる実施の形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施の形態についても本発明の技術的範囲に含まれる。さらに、各実施の形態にそれぞれ開示された技術的手段を組み合わせることにより、新しい技術的特徴を形成することができる。   The present invention is not limited to the above-described embodiments, and various modifications are possible, and the present invention also relates to embodiments obtained by appropriately combining technical means disclosed in different embodiments. Is included in the technical scope. Furthermore, a new technical feature can be formed by combining the technical means disclosed in each embodiment.

〔まとめ〕
本発明の態様1に係る電子機器(家電10)は、家電10としての主たる機能以外の付加機能として、音声を取得する機能を有する家電であって、音声を取得する音声取得部15と、前記音声取得部15を起動させるきっかけとなる予め定められた事象の発生を検知すると、前記音声取得部15を起動させる起動部(音声取得制御部11b)と、前記音声取得部15の稼働状態をユーザに通知する通知部(音声出力制御部11aと音声取得部15、パネル制御部11cと通知ランプ16b)、を備える。
[Summary]
The electronic device (home appliance 10) according to aspect 1 of the present invention is a home appliance having a function of acquiring voice as an additional function other than the main function as the home appliance 10, and the voice acquisition unit 15 that acquires voice; When the occurrence of a predetermined event that triggers activation of the voice acquisition unit 15 is detected, the activation unit (voice acquisition control unit 11b) that activates the voice acquisition unit 15 and the operating state of the voice acquisition unit 15 are set to the user. A notification unit (audio output control unit 11a and audio acquisition unit 15, panel control unit 11c and notification lamp 16b).

上記構成によれば、家電10に対するユーザの行動をきっかけに、音声取得部15が起動した場合でも、通知部が音声取得部15の稼働状態を通知するので、ユーザは、音声取得部15が稼働状態にあるかどうかを確認することができる。   According to the above configuration, even when the voice acquisition unit 15 is activated by the user's action on the home appliance 10, the notification unit notifies the operating state of the voice acquisition unit 15, so that the user operates the voice acquisition unit 15. You can check if it is in a state.

そのため、ユーザは、発話した音声が間違いなく取得されているのかどうか不安を感じることなく、家電10と対話できる。また、音声の取得を希望しない場合にも、音声取得部15が非稼働であることを確認でき、確認する術が無かった場合のような、第3者に会話等が聞かれているような不安を感じることがない。   Therefore, the user can interact with the home appliance 10 without feeling uneasy about whether the spoken voice is definitely acquired. Further, even when voice acquisition is not desired, it can be confirmed that the voice acquisition unit 15 is not in operation, and a conversation or the like is being heard by a third party, such as when there is no way to check. I don't feel anxious.

これにより、家電10としての主たる機能以外に、家電10に対するユーザの行動をきっかけに、音声を取得してこれを何等かに利用する(本実施の形態では音声対話に利用)するといった便利な付加機能を、ユーザに不安を感じさせることなく利用させることができる。   As a result, in addition to the main functions of the home appliance 10, a convenient addition such as acquiring voice and using it for some purpose (in this embodiment, used for voice conversation) triggered by the user's action on the home appliance 10 The function can be used without making the user feel uneasy.

本発明の態様2に係る家電10は、さらに、前記通知部は、光を出力する光出力部(通知ランプ16b、導光板発光部61)あるいは音を出力する音出力部(音声出力部14)、あるいはその両方を含み、光、あるいは音、あるいはその両方を用いて通知する構成としてもよい。   In the home appliance 10 according to aspect 2 of the present invention, the notification unit further includes a light output unit (notification lamp 16b, light guide plate light-emitting unit 61) that outputs light, or a sound output unit (audio output unit 14) that outputs sound. Or both, and may be configured to notify using light, sound, or both.

本発明の態様3に係る家電10は、さらに、当該家電10の使用時に開かれるドア(第1ドア46a)を備え、前記通知部は、光を出力する光出力部を含み、前記光出力部(導光板発光部61)は、前記ドアが開いた状態および前記ドアが閉じた状態の何れにおいても、前記ドアを操作するユーザが視認し得るように配設されている構成とすることもできる。   The household appliance 10 which concerns on aspect 3 of this invention is further provided with the door (1st door 46a) opened at the time of use of the said household appliance 10, and the said notification part contains the light output part which outputs light, The said light output part The (light guide plate light-emitting unit 61) may be arranged so that a user who operates the door can visually recognize both the opened state of the door and the closed state of the door. .

冷蔵庫等のドアを開いて使用する電子機器では、例えばドアに通知部が設けられていた場合、ユーザは通知部を確認することができないが、上記構成により、ドアを開いた状態でも確認できる。   In an electronic device that is used by opening a door such as a refrigerator, for example, when a notification unit is provided on the door, the user cannot check the notification unit, but with the above configuration, the user can check even when the door is open.

本発明の態様4に係る家電10は、さらに、前記光出力部(通知ランプ16b、庫内通知ランプ50)は、前記ドアと、前記ドアを開いた状態で露出する機器本体部分との両方に配設されている構成とすることもできる。   In the home appliance 10 according to the fourth aspect of the present invention, the light output unit (the notification lamp 16b and the in-house notification lamp 50) is provided on both the door and the device main body exposed when the door is opened. It can also be set as the structure arrange | positioned.

上記構成によれば、電子機器のドアが開いた状態およびドアが閉じた状態の何れにおいても通知部を確認できる構成を、簡単に実現できる。   According to the said structure, the structure which can confirm a notification part in any of the state where the door of the electronic device was opened and the state where the door was closed is easily realizable.

本発明の態様5に係る家電10は、さらに、音声データに基づいた音声を出力する音声出力部14を備え、前記音声取得部15にて取得された音声を音声認識した結果に対して、その回答となる音声を前記音声出力部14から出力する構成とすることもできる。   The household appliance 10 which concerns on aspect 5 of this invention is further equipped with the audio | voice output part 14 which outputs the audio | voice based on audio | voice data, and with respect to the result of carrying out the audio | voice recognition in the said audio | voice acquisition part 15, It can also be set as the structure which outputs the voice used as a reply from the said audio | voice output part 14.

上記構成によれば、例えば、ユーザは、電子機器のドアを開けるなどの操作によって音声取得部を起動させ、電子機器との間で、会話を行うことができる。   According to the above configuration, for example, the user can activate the voice acquisition unit by an operation such as opening a door of the electronic device, and can have a conversation with the electronic device.

本発明の態様6に係る家電10は、通信ネットワーク60を介して、前記音声取得部15にて取得した音声データをサーバ20に送信する送信部(通信部13)と、通信ネットワーク60を介して、前記送信に対する応答として前記サーバ20から音声データを受信する受信部(通信部13)とを備え、受信した前記音声データに基づいて前記音声出力部14から回答となる音声を出力する構成とすることもできる。   The home appliance 10 according to the aspect 6 of the present invention includes a transmission unit (communication unit 13) that transmits the audio data acquired by the audio acquisition unit 15 to the server 20 via the communication network 60, and the communication network 60. A reception unit (communication unit 13) that receives voice data from the server 20 as a response to the transmission, and outputs a voice as a response from the voice output unit 14 based on the received voice data. You can also.

上記構成によれば、電子機器に音声認識の機能を搭載させる必要がないため、電子機器のコストを安価にできる。しかも、回答がサーバにて準備されるので、会話の内容を適宜更新したり、種類を増やしたりすることが容易に行え、より有効でより自然な会話を実現できる。   According to the above configuration, since it is not necessary to install a voice recognition function in the electronic device, the cost of the electronic device can be reduced. In addition, since the answer is prepared by the server, it is possible to easily update the content of the conversation as appropriate or increase the types of conversations, thereby realizing a more effective and more natural conversation.

本発明は、付加機能として音声取得部15を備えた電子機器に利用でき、通信ネットワークに接続して、サーバに音声データを送信したり、サーバから音声データをダウンロードして音声出力したりする電子機器にも利用可能である。   The present invention can be used in an electronic device including the voice acquisition unit 15 as an additional function, and is connected to a communication network to transmit voice data to a server, or to download voice data from the server and output the voice. It can also be used for equipment.

1 遠隔操作システム
10 家電(電子機器)
10−1 冷蔵庫
10−2 加熱調理器
10−3 エアコン
10−4 洗濯機
11 制御部
11a 音声出力制御部
11b 音声取得制御部
11c パネル制御部
13 通信部(受信部,送信部)
14 音声出力部
15 音声取得部
16 操作パネル
16a 発話ボタン
16b 通知ランプ
20 サーバ
21 制御部
21a 音声提供機能部
24 音声認識装置
30 通信端末装置
46 ドア
46a 第1ドア
46b 第2ドア
47 冷蔵室
50 庫内通知ランプ
51 ヒンジカバー部
51a 第1ヒンジカバー部
51b 第2ヒンジカバー部
52 庫内操作部
60 通信ネットワーク
61 導光板発光部
1 Remote control system 10 Consumer electronics (electronic equipment)
10-1 refrigerator 10-2 heating cooker 10-3 air conditioner 10-4 washing machine 11 control unit 11a audio output control unit 11b audio acquisition control unit 11c panel control unit 13 communication unit (reception unit, transmission unit)
DESCRIPTION OF SYMBOLS 14 Voice output part 15 Voice acquisition part 16 Operation panel 16a Speech button 16b Notification lamp 20 Server 21 Control part 21a Voice provision function part 24 Voice recognition apparatus 30 Communication terminal apparatus 46 Door 46a 1st door 46b 2nd door 47 Cold room 50 Storage Inner notification lamp 51 Hinge cover part 51a First hinge cover part 51b Second hinge cover part 52 Internal operation part 60 Communication network 61 Light guide plate light emitting part

Claims (5)

電子機器としての主たる機能以外の付加機能として、音声を取得する機能を有する電子機器であって、
音声を取得する音声取得部と、
前記音声取得部を起動させるきっかけとなる予め定められた事象の発生を検知すると、前記音声取得部を起動させる起動部と、
前記音声取得部の稼働状態をユーザに通知する通知部と、を備えることを特徴とする電子機器。
As an additional function other than the main function as an electronic device, an electronic device having a function of acquiring sound,
An audio acquisition unit for acquiring audio;
When detecting the occurrence of a predetermined event that triggers activation of the voice acquisition unit, an activation unit that activates the voice acquisition unit;
An electronic device comprising: a notification unit that notifies a user of an operating state of the voice acquisition unit.
当該電子機器の使用時に開かれるドアを備え、
前記通知部は、光を出力する光出力部を含み、
前記光出力部は、前記ドアが開いた状態および前記ドアが閉じた状態の何れにおいても、前記ドアを操作するユーザが視認し得るように配設されていることを特徴とする請求項1に記載の電子機器。
A door that is opened when the electronic device is used;
The notification unit includes a light output unit that outputs light,
2. The light output unit according to claim 1, wherein the light output unit is disposed so that a user who operates the door can visually recognize the door when the door is open and when the door is closed. The electronic device described.
前記光出力部は、前記ドアと、前記ドアを開いた状態で露出する機器本体部分との両方に配設されていることを特徴とする請求項2に記載の電子機器。   The electronic device according to claim 2, wherein the light output unit is disposed in both the door and a device main body portion exposed when the door is opened. 音声データに基づいた音声を出力する音声出力部を備え、
前記音声取得部にて取得された音声を音声認識した結果に対して、その回答となる音声を前記音声出力部から出力することを特徴とする請求項1〜3の何れか1項に記載の電子機器。
Provided with an audio output unit that outputs audio based on audio data,
The voice as a response is output from the voice output unit with respect to a result of voice recognition of the voice acquired by the voice acquisition unit. Electronics.
通信ネットワークを介して、前記音声取得部にて取得した音声データをサーバに送信する送信部と、
通信ネットワークを介して、前記送信に対する応答として前記サーバから音声データを受信する受信部とを備え、
受信した前記音声データに基づいて前記音声出力部から回答となる音声を出力することを特徴とする請求項4に記載の電子機器。
A transmission unit that transmits the audio data acquired by the audio acquisition unit to a server via a communication network;
A reception unit that receives voice data from the server as a response to the transmission via a communication network;
The electronic device according to claim 4, wherein a voice as a reply is output from the voice output unit based on the received voice data.
JP2015117036A 2015-06-09 2015-06-09 Electronics Expired - Fee Related JP6748404B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015117036A JP6748404B2 (en) 2015-06-09 2015-06-09 Electronics

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015117036A JP6748404B2 (en) 2015-06-09 2015-06-09 Electronics

Publications (2)

Publication Number Publication Date
JP2017004231A true JP2017004231A (en) 2017-01-05
JP6748404B2 JP6748404B2 (en) 2020-09-02

Family

ID=57754267

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015117036A Expired - Fee Related JP6748404B2 (en) 2015-06-09 2015-06-09 Electronics

Country Status (1)

Country Link
JP (1) JP6748404B2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020099459A (en) * 2018-12-21 2020-07-02 パナソニックIpマネジメント株式会社 Washing machine
WO2020144884A1 (en) * 2019-01-11 2020-07-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ Method, control device, and program
JP2021018543A (en) * 2019-07-18 2021-02-15 東芝ライフスタイル株式会社 Household electrical appliance and information processing system
US11289081B2 (en) 2018-11-08 2022-03-29 Sharp Kabushiki Kaisha Refrigerator

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10111664A (en) * 1996-10-07 1998-04-28 Brother Ind Ltd Communication device
JP2001293284A (en) * 2000-04-13 2001-10-23 Hitachi Ltd Washing machine
JP2005284492A (en) * 2004-03-29 2005-10-13 Mitsubishi Electric Corp Operating device using voice
JP2010249428A (en) * 2009-04-16 2010-11-04 Mitsubishi Electric Corp Refrigerator
JP2012145304A (en) * 2011-01-14 2012-08-02 Panasonic Corp Refrigerator
JP2014089524A (en) * 2012-10-29 2014-05-15 Sharp Corp Message management device, message presentation device, message presentation system, control method and program for message management device and message presentation device, and recording medium
JP2014196847A (en) * 2013-03-29 2014-10-16 パナソニック株式会社 Refrigerator
JP2015106203A (en) * 2013-11-28 2015-06-08 Necパーソナルコンピュータ株式会社 Information processing apparatus, information processing method, and program

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10111664A (en) * 1996-10-07 1998-04-28 Brother Ind Ltd Communication device
JP2001293284A (en) * 2000-04-13 2001-10-23 Hitachi Ltd Washing machine
JP2005284492A (en) * 2004-03-29 2005-10-13 Mitsubishi Electric Corp Operating device using voice
JP2010249428A (en) * 2009-04-16 2010-11-04 Mitsubishi Electric Corp Refrigerator
JP2012145304A (en) * 2011-01-14 2012-08-02 Panasonic Corp Refrigerator
JP2014089524A (en) * 2012-10-29 2014-05-15 Sharp Corp Message management device, message presentation device, message presentation system, control method and program for message management device and message presentation device, and recording medium
JP2014196847A (en) * 2013-03-29 2014-10-16 パナソニック株式会社 Refrigerator
JP2015106203A (en) * 2013-11-28 2015-06-08 Necパーソナルコンピュータ株式会社 Information processing apparatus, information processing method, and program

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11289081B2 (en) 2018-11-08 2022-03-29 Sharp Kabushiki Kaisha Refrigerator
JP2020099459A (en) * 2018-12-21 2020-07-02 パナソニックIpマネジメント株式会社 Washing machine
WO2020144884A1 (en) * 2019-01-11 2020-07-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ Method, control device, and program
JP2021018543A (en) * 2019-07-18 2021-02-15 東芝ライフスタイル株式会社 Household electrical appliance and information processing system
JP7269812B2 (en) 2019-07-18 2023-05-09 東芝ライフスタイル株式会社 Home appliances

Also Published As

Publication number Publication date
JP6748404B2 (en) 2020-09-02

Similar Documents

Publication Publication Date Title
WO2017073227A1 (en) Electronic device and method for controlling same
EP3047583B1 (en) Home appliance and mobile terminal
JP6748404B2 (en) Electronics
JP6355939B2 (en) Voice server, control method therefor, and voice system
Yue et al. Voice activated smart home design and implementation
JP6660808B2 (en) Audio output control device, electronic device, and control method for audio output control device
JP2005284492A (en) Operating device using voice
CN105929700A (en) Intelligent control method and device
US11289081B2 (en) Refrigerator
JP7340764B2 (en) voice control system
JP6400337B2 (en) Electronic equipment and message system
JP2020200968A (en) Electric apparatus
TWI840437B (en) refrigerator
KR20180083236A (en) Home Social Robot
CN106773754A (en) A kind of intelligent home control system and method based on speech recognition technology
US20240221720A1 (en) Method for controlling utterance device, server, utterance device, and program
JP7269812B2 (en) Home appliances
CN109218144A (en) The method remotely monitored by refrigerator
Bhandari et al. Survey on IOT based Home Automation
CN115461810A (en) Method for controlling speech device, server, speech device, and program
CN207541457U (en) A kind of intelligent power switch of multimodal fusion formula control
CN207516799U (en) Intelligent appliance equipment voice switch
GB2496983A (en) Environmental Control System
KR102243641B1 (en) Home appliance, and method for operating the same
CN108593094A (en) Transmission method, system and the kitchen ventilator of environmental sound signal

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180323

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181211

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190325

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190910

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191031

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200331

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200525

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200603

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200804

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200807

R150 Certificate of patent or registration of utility model

Ref document number: 6748404

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees