JP2017004231A - Electronic device - Google Patents
Electronic device Download PDFInfo
- Publication number
- JP2017004231A JP2017004231A JP2015117036A JP2015117036A JP2017004231A JP 2017004231 A JP2017004231 A JP 2017004231A JP 2015117036 A JP2015117036 A JP 2015117036A JP 2015117036 A JP2015117036 A JP 2015117036A JP 2017004231 A JP2017004231 A JP 2017004231A
- Authority
- JP
- Japan
- Prior art keywords
- voice
- unit
- door
- acquisition unit
- electronic device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000004913 activation Effects 0.000 claims abstract description 12
- 238000004891 communication Methods 0.000 claims description 54
- 230000005540 biological transmission Effects 0.000 claims description 8
- 230000004044 response Effects 0.000 claims description 7
- 238000001514 detection method Methods 0.000 abstract description 2
- 230000006870 function Effects 0.000 description 45
- 238000000034 method Methods 0.000 description 16
- 230000008569 process Effects 0.000 description 12
- 230000009471 action Effects 0.000 description 9
- 230000004397 blinking Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000001960 triggered effect Effects 0.000 description 5
- 230000004048 modification Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 3
- 235000013305 food Nutrition 0.000 description 2
- 230000008014 freezing Effects 0.000 description 2
- 238000007710 freezing Methods 0.000 description 2
- 238000010438 heat treatment Methods 0.000 description 2
- 238000005406 washing Methods 0.000 description 2
- 208000019901 Anxiety disease Diseases 0.000 description 1
- 206010002953 Aphonia Diseases 0.000 description 1
- 241000989913 Gunnera petaloidea Species 0.000 description 1
- 230000036506 anxiety Effects 0.000 description 1
- 238000010411 cooking Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000005057 refrigeration Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 235000013311 vegetables Nutrition 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Landscapes
- Cold Air Circulating Systems And Constructional Details In Refrigerators (AREA)
- User Interface Of Digital Computer (AREA)
- Selective Calling Equipment (AREA)
Abstract
Description
本発明は、電子機器としての主たる機能以外の付加機能として、音声を取得する機能を有する電子機器に関する。 The present invention relates to an electronic device having a function of acquiring sound as an additional function other than the main function as an electronic device.
近年、家電(家庭用電子機器)としての主たる機能以外の付加機能として、マイクなどの音声を取得する機能を有し、取得した音声を音声認識するものが開発されている。 In recent years, as an additional function other than the main function as a home appliance (household electronic device), a function of acquiring a voice such as a microphone and recognizing the acquired voice has been developed.
例えば、特許文献1には、音声認識部を備え、音声認識部にて認識された情報を外部機器に送信することで、音声だけでレシピ検索を行うことができる冷蔵庫が開示されている。音声認識部は、冷蔵庫のドアが開かれたり、人感センサにて冷蔵庫の前に人がいることが検出されたりすると起動する。これによれば、音声認識部を常に動作させておく必要がないので、省エネを実現できる。また、手動にて、音声認識部を駆動させる必要もなく、好適である。
For example,
また、特許文献2には、音声取得部を備え、音声取得部にて、庫外の情報を取得して外部の装置側に送信することで、対象者を遠隔地から見守ることができる冷蔵庫が開示されている。音声取得部は、冷蔵庫の操作パネルが操作されたり、人感センサにて冷蔵庫の前に人がいることが検出されたりすると起動する。これによれば、対象者が意識することなく、また、対象者の負担となることなく、見守ることができる。
さらに、今日、市場には、冷蔵庫等の家電において、当該家電のドアが開けられたり、特定のボタンが押されたり、当該家電の稼働状態が変化したりといった、何らかのアクションが発生すると、それに応じて音声出力部から音声を出力して発話するものも登場している。このような発話する家電においては、ネットワークを介してサーバと接続され、サーバから発話内容を受信するものもある。 Furthermore, in the market today, when some kind of action occurs in a household appliance such as a refrigerator, such as when the door of the household appliance is opened, a specific button is pressed, or the operating state of the household appliance changes, it responds accordingly. There are also products that output voice from the voice output unit. Some household appliances that speak are connected to a server via a network and receive speech content from the server.
しかしながら、特許文献1、2の技術では、冷蔵庫に対するユーザの行動をきっかけに、音声認識部や音声取得部を起動させたことをユーザに通知するようにはなっていない。そのため、特許文献1、2の技術では、発話に対して家電が応答するまでの間、発話した音声が間違いなく取得・認識されているのかどうか不安を感じることがある。また、音声の取得・認識を希望しない場合に、音声認識部や音声取得部が稼働中でないことを確認する術がないため、第3者に会話等が聞かれているような不安を感じてしまうこともある。
However, in the techniques of
このように、特許文献1,2の技術では、冷蔵庫としての主たる機能以外に、冷蔵庫に対するユーザの行動をきっかけに、音声を取得してこれを何等かに利用するといった便利な付加機能を搭載しているにもかかわらず、使い勝手に問題があり、ユーザに不安を感じさせるといった問題がある。
As described above, in the techniques of
本発明は、このような課題に鑑みなされたもので、その目的は、音声を取得する付加機能が、電子機器に対するユーザの行動をきっかけに起動する構成であっても、ユーザに不安を感じさせることなく、該付加機能の利用が可能となる電子機器を提供することにある。 The present invention has been made in view of such a problem, and its purpose is to make the user feel uneasy even if the additional function for acquiring sound is triggered by the user's action on the electronic device. It is an object of the present invention to provide an electronic device that can use the additional function without any problem.
本発明の一態様に係る電子機器は、上記課題を解決するために、電子機器としての主たる機能以外の付加機能として、音声を取得する機能を有する電子機器であって、音声を取得する音声取得部と、前記音声取得部を起動させるきっかけとなる予め定められた事象の発生を検知すると、前記音声取得部を起動させる起動部と、前記音声取得部の稼働状態をユーザに通知する通知部と、を備えることを特徴とする。 In order to solve the above problems, an electronic device according to one embodiment of the present invention is an electronic device having a function of acquiring sound as an additional function other than the main function of the electronic device, and acquires sound. And an activation unit that activates the audio acquisition unit upon detection of occurrence of a predetermined event that triggers activation of the audio acquisition unit, and a notification unit that notifies a user of an operating state of the audio acquisition unit It is characterized by providing.
本発明の一態様に係る電子機器によれば、音声を取得する付加機能が、電子機器に対するユーザの行動をきっかけに起動する構成であっても、ユーザに不安を感じさせることなく、該付加機能の利用が可能となる電子機器を提供できるという効果を奏する。 According to the electronic device according to one aspect of the present invention, even if the additional function for acquiring sound is configured to be triggered by the user's action on the electronic device, the additional function can be performed without causing the user to feel uneasy. It is possible to provide an electronic device that can be used.
〔実施の形態1〕
以下、本発明の一実施形態について図1〜図5に基づいて説明すれば以下の通りである。なお、本実施の形態では、電子機器である家電が、ユーザの発話の音声を取得し、その回答を発話する音声対話を、遠隔操作システムに含まれるサーバを経由して行う構成を例示する。
[Embodiment 1]
Hereinafter, it will be as follows if one Embodiment of this invention is described based on FIGS. Note that the present embodiment exemplifies a configuration in which a home appliance, which is an electronic device, acquires voice of a user's utterance and utters a voice conversation via a server included in the remote operation system.
(遠隔操作システム1の構成)
図1は、本実施の形態に係る、音声対話を行う家電10が含まれた遠隔操作システム1の概略構成を示す図である。図1に示すように、遠隔操作システム1では、ユーザ宅70に設置された家電10(10−1〜10−4)と、サーバ20と、通信端末装置30(30−1〜30−3)とが、通信ネットワーク60を介して接続されている。なお、図1は、遠隔操作システム1における、あるユーザ宅70に関する部分を示している。
(Configuration of remote control system 1)
FIG. 1 is a diagram illustrating a schematic configuration of a
家電10は、通信ネットワーク60に接続してサーバ20と通信するための無線通信機能を有するネットワーク家電である。無線通信機能は、家電10本体に内蔵されていてもよいし、家電10本体に外付けされる通信アダプタに備えられていてもよい。家電10は、サーバ20を介して、対応付けられた通信端末装置30による遠隔操作を受け付ける。通信端末装置30は、遠隔操作のためのアプリケーションがダウンロードされているスマートフォンやタブレット端末などである。
The
また、家電10は、後述する音声取得部15(図2参照)を備え、家電10としての主たる機能以外の付加機能として音声を取得する機能を有するものである。家電10は、家電10のドアが開けられたり、家電10の所定のボタンが操作されたりするなどの、音声取得部15を起動させるきっかけとなる予め定められた事象の発生を検知すると、音声取得部15を起動して、ユーザの発話した音声を取得し、取得した音声に対する回答を発話する音声対話機能を有している。
Moreover, the
本実施の形態では、家電10は取得した音声の音声データをサーバ20に送信し、サーバ20が音声認識を行って発話の内容を特定し、特定した内容に基づいた回答の音声データを家電10に送信する構成を例示する。
In the present embodiment, the
なお、家電10が音声認識機能を有し、家電10にて音声認識を行って発話の内容を特定し、特定した内容をサーバ20に送信して、回答の音声データをサーバ20から受信する構成としてもよい。あるいは、サーバ20を介さず、家電10にて音声認識を行うと共に、回答する音声データの準備まで実施する構成としてもよい。
The
図1の例では、家電10として、冷蔵庫10−1、加熱調理器10−2、エアコン10−3、洗濯機10−4を例示しているが、このような音声対話機能を有する家電10としては、空気清浄機や、照明装置などの他の家電であってもよい。
In the example of FIG. 1, the refrigerator 10-1, the heating cooker 10-2, the air conditioner 10-3, and the washing machine 10-4 are illustrated as the
サーバ20は、遠隔操作を可能とする通信端末装置30と家電10とを対応付けて、その組み合わせを登録管理するものである。サーバ20に組み合わせが登録されることで、通信端末装置30による家電10の遠隔操作が可能となる。
The
本実施の形態では、上述したように、サーバ20は、家電10から送信される音声データを音声認識し、特定された発話の内容に基づいた回答の音声データを準備して家電10に送信する機能も有している。
In the present embodiment, as described above, the
ユーザ宅70には、通信ネットワーク60の一部をなす無線LAN(Wireless Local Area Network)が整備されている。無線LANの中継局40は、インターネットを含む通信ネットワーク60と接続されている。中継局40は、例えばWiFi(登録商標)ルータやWiFi(登録商標)アクセスポイントなどの通信機器である。本実施の形態では、通信ネットワーク60としてインターネットを含む構成を例示しているが、電話回線網、移動体通信網、CATV(CAble TeleVision)通信網、衛星通信網などを利用することもできる。
The
サーバ20と家電10とは、通信ネットワーク60および無線LANの中継局40を介して通信可能となる。また、サーバ20と通信端末装置30とは、通信ネットワーク60を介して通信可能となる。通信端末装置30と通信ネットワーク60におけるインターネットとの間は、3G(3rd Generation)、LTE(Long Term Evolution)や、宅内あるいは公衆のWiFi(登録商標)アクセスポイントなどを利用して接続される。
The
(家電10の構成)
図2は、家電10の概略構成を示すブロック図である。家電10は、図2に示すように、制御部11、記憶部12、通信部13、音声出力部14、音声取得部15、および操作パネル16を備えている。また、制御部11には、音声出力制御部11a、音声取得制御部11b、およびパネル制御部11cが構築されている。
(Configuration of home appliance 10)
FIG. 2 is a block diagram illustrating a schematic configuration of the
制御部11は、例えば、CPU(Central Processing Unit)や専用プロセッサなどの演算処理部などにより構成されるコンピュータ装置からなり、家電10の各部の動作を制御するものである。
The control part 11 consists of computer apparatuses comprised by arithmetic processing parts, such as CPU (Central Processing Unit) and a dedicated processor, for example, and controls operation | movement of each part of the
記憶部12は、家電10で用いられる各種情報を記憶するもので、サーバ20からダウンロードした発話すべき音声データや音声対話における回答の音声データなども記憶する。通信部(送信部、受信部)13は、制御部11の制御のもと、無線LANの中継局40および通信ネットワーク60を介してサーバ20と相互通信を行うものである。
The
音声出力部14は、スピーカなどからなり、後述する音声出力制御部11aの制御のもと、音声データに基づいた音声を出力するものである。音声取得部15は、マイクなどからなり、後述する音声取得制御部11bの制御のもと、音声を取得し、取得した音声を電気信号に変換するものである。
The
操作パネル16は、後述するパネル制御部11cの制御のもと、家電10に対してユーザが指示を入力したり、家電10の状態(庫内温度、設定温度等)を通知したりするためのユーザ・インターフェースである。操作パネル16には、発話ボタン16aと、通知ランプ16bとが設けられている。通知ランプ16bは、例えば3色LEDからなる。
The
発話ボタン16aは、サーバ20よりダウンロードした発話すべき音声データが存在する場合、これの発話指示を受け付けるものである。また、本実施の形態では、発話ボタン16aは、音声取得部15の起動指示や、停止指示を受け付けるものでもある。
The
通知ランプ16bは、家電10が発話すべき音声データを有する場合には、その存在を通知するものである。また、本実施の形態では、通知ランプ16bは、音声取得部15の稼働状態を通知するものでもある。
The
音声出力制御部11aは、音声出力部14を制御するものである。音声出力制御部11aは、発話すべき音声データがある場合には、発話するきっかけとなる予め定められた事象が発生するか、あるいは発話ボタン16aが押圧されると、音声出力部14に音声データを送り、これを発話させる。発話すべき音声データとしては、サーバ20よりダウンロードしたものや、記憶部12に家電10の出庫時から記憶されていたものなどがある。その内容は、例えば、通信端末装置30から入力された伝言や、製氷機の水がなくなっていることを知らせるメッセージなど様々である。
The audio
また、本実施の形態では、音声出力制御部11aは、音声取得部15が起動すると、音声取得部15の起動を知らせる音声データを音声出力部14に送り、発話させる。音声取得部15の起動を知らせる音声データによる発話とは、例えば、「は〜い/なになに?…」というようなものである。同様に、音声取得部15が停止すると、音声取得部15の停止を知らせる音声データを音声出力部14に送り、発話させる。音声取得部15の停止を知らせる音声データによる発話とは、例えば、「またね!」,「通信状態が良くないみたい!」というようなものである。
In the present embodiment, when the
さらに、音声出力制御部11aは、音声出力部14を発話させている状態で発話ボタン16aが押圧されると、音声出力部14を停止させて発話を中止させる。
Further, when the
音声取得制御部(起動部)11bは、音声取得部15の稼働を制御すると共に、音声取得部15が取得した音声の音声データを作成し、通信部13を介してサーバ20に送信するものである。音声取得制御部11bは、音声取得部15を停止させている状態で、音声取得部15を起動するきっかけとなる予め定められた事象が発生するか、あるいは発話ボタン16aが押圧されると、音声取得部15を起動させる。
The voice acquisition control unit (starting unit) 11 b controls the operation of the
本実施の形態においては、音声出力制御部11aが用いる「発話するきっかけとなる予め定められた事象」と、音声取得部15が用いる「音声取得部15を起動するきっかけとなる予め定められた事象」とを共通としている。但し、発話のきっかけと音声取得のきっかけは別であってもよい。
In the present embodiment, the “predetermined event that triggers the utterance” used by the voice
音声取得制御部11bは、音声取得部15を稼働させている状態で、音声出力部14が発話を行う場合、音声取得部15を一旦停止させ、発話が完了すると再び起動させる。また、音声取得制御部11bは、音声を取得できない状態が所定期間、例えば30秒続くと、音声取得部15を停止させる。さらに、音声取得制御部11bは、音声取得部15を稼働させている状態で発話ボタン16aが押圧されると、音声取得部15を停止させる。
When the
パネル制御部11cは、操作パネル16を制御するものである。本実施形態では、パネル制御部11cは、通知ランプ16bの点灯を制御して、発話すべき音声データの有無と、音声取得部15の稼働状態をユーザに通知する。
The
パネル制御部11cは、発話すべき音声データが存在せず、かつ、音声取得部15も停止している状態(非稼働状態)では、通知ランプ16bを例えば消灯させる。これに対し、発話すべき音声データが存在している場合には、発話すべき音声データの存在を知らせる所定の第1色(例えばピンク)で点滅点灯させる。また、音声取得部15が稼働している状態(稼働状態)では、音声取得部15の稼働を知らせる所定の第2色(例えばグリーン)で点滅点灯させる。音声取得部15の稼働を知らせる第2色は、発話すべき音声データの存在を知らせる第1色よりも優先され、パネル制御部11cは、音声取得部15が稼働している状態では、たとえ発話すべき音声データが存在していても、音声取得部15の稼働を知らせる第2色で点滅点灯させる。
The
また、パネル制御部11cは、音声出力部14の発話中(音声取得部15は停止中)は、通知ランプ16bを非点滅点灯させる。非点滅点灯の色は、例えば、発話すべき音声データの発話中であれば第1色、起動時や停止時の発話中であれば第2色である。
The
音声出力制御部11aと音声出力部(音出力部)14とで、本発明における通知部が構成され、パネル制御部11cと通知ランプ(光出力部)16bとでも本発明における通知部が構成される。
The voice
(サーバ20の構成)
図3は、サーバ20の概略構成を示すブロック図である。サーバ20は、各家電10を管理するサーバであり、図3に示すように、制御部21、記憶部22、通信部23、および音声認識装置24を備えている。また、制御部21には、音声提供機能部21aが構築されている。
(Configuration of server 20)
FIG. 3 is a block diagram illustrating a schematic configuration of the
制御部21は、例えば、CPU(Central Processing Unit)や専用プロセッサなどの演算処理部などにより構成されるコンピュータ装置からなり、サーバ20の各部の動作を制御するものである。
The
記憶部22は、サーバ20で用いられる各種情報を記憶するものであり、後述する音声提供機能部21aが、家電10に提供する音声データの作成時に参照する文章例等も記憶している。通信部23は、制御部21の制御のもと、通信ネットワーク60を介して家電10および通信端末装置30と相互通信を行うものである。
The
音声認識装置24は、家電10より送信され、通信部23が受信した音声データを音声認識して、文字列に変換するものである。音声認識装置24には、単なる文字列ではなく、意味ある文章に変換する機能等も備えられている。
The
音声提供機能部21aは、家電10にて取得された発話に対する回答の音声データを家電10に提供するものである。音声提供機能部21aは、提供する音声データを、記憶部22を参照して作成したり、通信ネットワーク60を介して取得したりする。音声提供機能部21aは、作成した音声データを、通信部23を介して家電10に送信し、ダウンロードさせる。
The voice providing
(音声対話における処理の流れ)
家電10における音声対話の処理を、図4のフローチャートを用いて説明する。制御部11は、発話ボタン16aが押圧されたかどうか、あるいは発話・起動するきっかけとなる予め定められた事象が発生したかどうかを常に判断している(S1)。このとき、通知ランプ16bは、発話すべき音声データが存在する場合は、その存在を知らせる第1色で点滅点灯し、存在しない場合は消灯している。
(Processing flow in voice dialogue)
The voice conversation process in the
S1において、YESと判断すると、S2とS9とに移行し、並行処理を行う。まず、S2に進んだ場合から説明する。 If YES is determined in S1, the process proceeds to S2 and S9 to perform parallel processing. First, the case where the process proceeds to S2 will be described.
S2では、制御部11は、発話すべき音声データが存在する場合はこれを発話させる。また、制御部11は、音声取得部15を起動させ、音声取得部15の起動を通知する発話(例えば、「は〜い/なになに?…」)を行わせる。なお、発話すべき音声データが存在する場合は、その発話を完了した後に音声取得部15の起動を知らせる発話を行う。
In S2, if there is voice data to be uttered, the control unit 11 utters the voice data. In addition, the control unit 11 activates the
S2に進むと、通知ランプ16bは、音声取得部15の稼働状態を知らせる第2色にて点滅点灯する。発話すべき音声データが存在して既に第1色で点滅点灯している場合は、点滅点灯の色が第2色に切り換わる。また、第2色で点滅点灯に移行した後も、音声出力部14が発話中は、第2色で非点滅点灯し、音声出力部14の発話が終わると第2色の点滅点灯に戻る。
When the process proceeds to S <b> 2, the
次に、制御部11は、音声取得部15にてユーザの発話等の音声を取得したか否か判断し(S3)、YESと判断すると、取得した音声の音声データを作成してサーバ20に送信する(S4)。その後、サーバ20から回答の音声データを受信したかどうかを判断し(S5)、YESと判断すると、これを発話させる(S6)。その後S3に戻り、次の音声取得を行う。
Next, the control unit 11 determines whether or not a voice such as a user's speech has been acquired by the voice acquisition unit 15 (S3). If YES is determined, the voice data of the acquired voice is created and stored in the
一方、S5にてNOと判断すると、S7に進み、所定時間、例えば10秒過したかどうかを判断する。ここで、YESと判断すると、S8に進み、音声取得部15およびサーバからの音声データの受信待ちを停止し、その停止を通知する発話(例えば、「通信状態が良くないみたい!」)を行わせ、その後、S1に戻る。
On the other hand, if NO is determined in S5, the process proceeds to S7, and it is determined whether or not a predetermined time, for example, 10 seconds has elapsed. If “YES” is determined here, the process proceeds to S8, the reception of the voice data from the
一方、S3にてNOと判断した場合は、S9に進み、所定時間、例えば30秒経過したかどうかを判断する。ここで、NOと判断するとS3に戻る。S3〜S7、S9は、S7あるいはS9にてYESと判断するまで繰り返す。S9にてYESと判断すると、制御部11は、音声取得部15を停止させると共に、その停止を通知する発話(例えば、「またね!」)を行わせ(S10)、その後S1に戻る。
On the other hand, if NO is determined in S3, the process proceeds to S9, and it is determined whether or not a predetermined time, for example, 30 seconds has elapsed. If NO is determined here, the process returns to S3. S3 to S7 and S9 are repeated until YES is determined in S7 or S9. If YES is determined in S9, the control unit 11 stops the
S8あるいはS10に進むまでの間、通知ランプ16bは、第2色で点滅点灯し、音声出力部14が発話中は第2色で非点滅点灯する。S8あるいはS10に進むことで、通知ランプ16bは、S2にて発話すべき音声データを発話できていない場合は点滅点灯の色が第1色に切り換わり、発話が完了している場合は消灯する。なお、S2にて発話すべき音声データを発話できていない場合とは、発話すべき音声データを発話するよりも前に、発話ボタン16aが押圧されて、並行処理のS11にてYESと判断された場合である。
Until the process proceeds to S8 or S10, the
S11では、制御部11は、発話ボタン16aが押圧されたかどうかを常に判断している。そして、S11において、YESと判断すると、S12に進み、音声出力部14が発話中であるかどうかを判断する。ここで、YESと判断すると、音声出力部14からの発話を中止し(S13)、S3に戻る。一方、S12にて、NOと判断すると、制御部11は、音声取得部15を停止させ(S14)、その後S1に戻る。
In S11, the control unit 11 always determines whether or not the
なお、S14においては、S10と同様に、停止を通知する発話を行うようにしてもよい。また、通知ランプ16bは、S14に移行するまでは、S2〜S9に応じた点灯状態となり、S14に移行すると、S10に応じた点灯状態となる。
In S14, as in S10, an utterance notifying the stop may be performed. Further, the
(冷蔵庫10−1の構成)
ここで、図5を用いて、家電10の一例としての冷蔵庫10−1について詳細に説明する。図5は、冷蔵庫10−1の外観斜視図、および操作パネル16の拡大図である。図5に示すように、冷蔵庫10−1は、下部に、野菜室41、冷凍室42、調整冷凍室43、製氷室44等が設けられ、上部に冷蔵室45が設けられている。冷蔵室45のドア46は、観音開きタイプであり、2枚あるドア46a,46bのうちのより大きい方の第1ドア46aの開放端側に、縦長の操作パネル16が設けられている。
(Configuration of refrigerator 10-1)
Here, the refrigerator 10-1 as an example of the
操作パネル16には、上述した発話ボタン16aおよび通知ランプ16bの他、サーバ20との接続状態を示すコネクトランプ16cなどが備えられている。発話ボタン16aおよびコネクトランプ16cは、冷蔵庫10−1の前に立ったユーザ(一般的な身長のユーザ)の顔の高さにくるように、操作パネル16の上部に配置され、発話ボタン16aは、それよりも下に配置されている。
In addition to the
以上のように、本実施の形態の家電10の構成によれば、家電10に対するユーザの行動をきっかけに、音声取得部15が起動した場合に、起動したことを知らせる発話と共に、通知ランプ16bの点灯の状態を確認することで、ユーザは、音声取得部15が稼働状態にあるかどうかを確認することができる。
As described above, according to the configuration of the
そのため、ユーザは、発話した音声が間違いなく取得されているのかどうか不安を感じることなく、家電10と対話できる。また、音声の取得を希望しない場合にも、音声取得部15が非稼働であることを確認でき、確認する術が無かった場合のような、第3者に会話等が聞かれているような不安を感じることがない。
Therefore, the user can interact with the
これにより、家電10としての主たる機能以外に、家電10に対するユーザの行動をきっかけに、音声を取得してこれを何等かに利用する(本実施の形態では音声対話に利用)するといった便利な付加機能を、ユーザに不安を感じさせることなく利用させることができる。
As a result, in addition to the main functions of the
また、本実施の形態では、音声出力部14によるから発話と通知ランプ16bの点灯状態との両方で、音声取得部15の稼働状態を通知するので、視覚と聴覚の両方から知ることができる。なお、音声取得部15の稼働状態の通知は、通知ランプ16bの点灯あるいは発話の何れか一方で、通知される構成であってもよい。
In the present embodiment, since the
〔実施の形態2〕
本発明の他の実施形態について説明する。なお、説明の便宜上、前記実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を省略する。
[Embodiment 2]
Another embodiment of the present invention will be described. For convenience of explanation, members having the same functions as those described in the embodiment are given the same reference numerals, and descriptions thereof are omitted.
図6は、本実施の形態の家電としての冷蔵庫10A−1のドアが開かれた状態の要部斜視図、および庫内操作部の拡大図である。図6に示すように、冷蔵庫10A−1は、第1ドア46aに設けられた操作パネル16の通知ランプ16b以外に、冷蔵庫10A−1の本体47側にも、音声取得部15の稼働状態を通知する庫内通知ランプ50が設けられている。庫内通知ランプ50による音声取得部15の稼働状態の通知の仕方は通知ランプ16bと同じであるので説明は省略する。
FIG. 6 is a perspective view of a main part in a state where the door of the
庫内通知ランプ50は、本体47における第1ヒンジカバー部51aに設けられた庫内操作部52に搭載されている。第1ヒンジカバー部51aは、本体47に対して第1ドア46aを開閉自在に支持するヒンジ機構を覆う部材である。第2ドア46bにも、そのヒンジ機構を第2ヒンジカバー部51bが設けられている。第1ドア46aは、第2ドア46bよりも大きく利き手側にくるように設計されるため、第2ドア46bよりも開閉頻度が高い。したがって、庫内通知ランプ50をヒンジカバー部に設ける場合は、第2ヒンジカバー部51bではなく、第1ドア46aの第1ヒンジカバー部51aに設けることが好ましい。
The
庫内操作部52は、冷蔵庫10A−1を通信ネットワーク60に接続してサーバ20と通信するための上述した無線通信機能を有するものでもある。庫内操作部52の正面には、通信電源53、無線LANボタン54、リンクボタン55、通信状態を表示するLED等からなる複数のランプ56〜58、および庫内通知ランプ50が設けられている。
The
つまり、冷蔵庫10A−1では、音声取得部15の稼働状態を光(表示を含む)にて通知する通知部として、ドア46aに設けられた操作パネル16の通知ランプ16bと、本体47に設けられた庫内操作部52の庫内通知ランプ50との2つを備えている。
That is, in the
このように、音声取得部15の稼働状態を光で通知する通知部を、正面の第1ドア46aと、第1ドア46aを開いた場合に正面にくる本体47との両方に設けたことで、ユーザは、第1ドア46aを開けた状態でも閉めた状態でも、音声取得部15の稼働状態を確認することができる。
As described above, the notification unit for notifying the operating state of the
第1ドア46aを開けて庫内の食材をチェックしているユーザは、操作パネル16の通知ランプ16bを視認するこができない。そのため、音声取得部15の稼働状態が気になった場合、一々第1ドア46aを閉じる方向に回転させる必要がある。しかしながら、このように、庫内通知ランプ50を設けて第1ドア46aを開けた状態でも確認できる構成としておくことで、冷蔵室45から食材等を出し入れしながら、音声取得部15の稼働状態を確認することができる。
A user who opens the
また、より好ましい構成としては、第1ドア46aの閉時は、庫内通知ランプ50を含め、庫内操作部52のランプ表示を消灯することである。また、これに組み合わせて、第1ドア46aの開時には、通知ランプ16bを含め、操作パネル16における表示(ランプに限らず)を消灯することである。これにより、無駄な電力消費を抑えることができる。
Further, as a more preferable configuration, when the
また、庫内通知ランプ50を含む庫内操作部52をヒンジカバー部51に設けることで、第1ドア46aに設けられた操作パネル16との通信が容易になる。これは、第1ドア46aに設けられた操作パネル16と本体47間の通信は、ヒンジ機構に通した配線を利用しているためである。
Further, by providing the
なお、庫内通知ランプ50を設ける位置は、上述した第1ヒンジカバー部51aのある天面部に限らず、例えば、図7に示すように、冷蔵室47の一番下の仕切り部分に設けてもよい。図7は、変形例の冷蔵庫10B−1のドアが開かれた状態の要部斜視図である。
In addition, the position where the
また、庫内通知ランプ50を第1ヒンジカバー部51aに設ける場合においても、図8の(a)(b)に示すように、第1ドア46aおよび第2ドア46bの各開放端が共に位置する開閉位置に設けてもよい。開閉位置に設けることで、第1ドア46aおよび第2ドア46bのどちらのドアが開かれても確認ができる。図8の(a)は、変形例の冷蔵庫10C−1のドアが開かれた状態の要部斜視図、(b)は、その要部平面図である。
Further, even when the
なお、ここでは、ドアを備える家電10として、冷蔵庫10A−1を例示したが、ドアを開けて使用する加熱調理器10−2等でも、ドアに通知ランプ16bを含む操作パネル16が設けられている構成に適用できる。
In addition, although
〔実施の形態3〕
本発明の他の実施形態について説明する。なお、説明の便宜上、前記実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を省略する。
[Embodiment 3]
Another embodiment of the present invention will be described. For convenience of explanation, members having the same functions as those described in the embodiment are given the same reference numerals, and descriptions thereof are omitted.
図9は、本実施の形態の家電としての冷蔵庫10D−1のドアが開かれた状態の外観斜視図である。図9に示すように、冷蔵庫10D−1は、第1ドア46aと第2ドア46bの各開放端に、光出力部としての導光板発光部61が設けられた構成である。導光板発光部61が設けられた、第1ドア46aおよび第2ドア46bの各開放端側のエッジが光って音声取得部15の稼働状態を通知する。これによれば、本体47を変更することなく、第1ドア46aおよび第2ドア46bのドア側の工夫だけで、ドアの開閉状態に関わりなく、ドアを操作するユーザに確認させることができる。
FIG. 9 is an external perspective view of a state where the door of
さらに、光出力部を庫内の照明装置とし、音声取得部15の稼働状態を、庫内を照らす照明の色を変えて通知する構成とすることもできる。
Further, the light output unit may be a lighting device in the cabinet, and the operating state of the
〔実施の形態4〕
実施の形態1から3にて説明した家電10、サーバ20における、音声出力制御部11a、音声取得制御部11b、パネル制御部11c、音声提供機能部21aは、集積回路(ICチップ)上に形成された論理回路によってハードウェア的に実現してもよいし、CPU(Central Processing Unit)を用いてソフトウェア的に実現してもよい。
[Embodiment 4]
The audio
後者の場合、家電10、サーバ20は、それぞれ、各機能を実現するソフトウェアであるプログラムの命令を実行するCPU、上記プログラム及び各種データがコンピュータ(又はCPU)で読み取り可能に記録されたROM(Read Only Memory)又は記憶装置(これらを「記録媒体」と称する)、上記プログラムを展開するRAM(Random Access Memory)等を備えている。そして、コンピュータ(又はCPU)が上記プログラムを上記記録媒体から読み取って実行することにより、本発明の目的が達成される。上記記録媒体としては、「一時的でない有形の媒体」、例えば、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路等を用いることができる。また、上記プログラムは、該プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記コンピュータに供給されてもよい。なお、本発明は、上記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。
In the latter case, the
本発明は上述した各実施の形態に限定されるものではなく、種々の変更が可能であり、異なる実施の形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施の形態についても本発明の技術的範囲に含まれる。さらに、各実施の形態にそれぞれ開示された技術的手段を組み合わせることにより、新しい技術的特徴を形成することができる。 The present invention is not limited to the above-described embodiments, and various modifications are possible, and the present invention also relates to embodiments obtained by appropriately combining technical means disclosed in different embodiments. Is included in the technical scope. Furthermore, a new technical feature can be formed by combining the technical means disclosed in each embodiment.
〔まとめ〕
本発明の態様1に係る電子機器(家電10)は、家電10としての主たる機能以外の付加機能として、音声を取得する機能を有する家電であって、音声を取得する音声取得部15と、前記音声取得部15を起動させるきっかけとなる予め定められた事象の発生を検知すると、前記音声取得部15を起動させる起動部(音声取得制御部11b)と、前記音声取得部15の稼働状態をユーザに通知する通知部(音声出力制御部11aと音声取得部15、パネル制御部11cと通知ランプ16b)、を備える。
[Summary]
The electronic device (home appliance 10) according to
上記構成によれば、家電10に対するユーザの行動をきっかけに、音声取得部15が起動した場合でも、通知部が音声取得部15の稼働状態を通知するので、ユーザは、音声取得部15が稼働状態にあるかどうかを確認することができる。
According to the above configuration, even when the
そのため、ユーザは、発話した音声が間違いなく取得されているのかどうか不安を感じることなく、家電10と対話できる。また、音声の取得を希望しない場合にも、音声取得部15が非稼働であることを確認でき、確認する術が無かった場合のような、第3者に会話等が聞かれているような不安を感じることがない。
Therefore, the user can interact with the
これにより、家電10としての主たる機能以外に、家電10に対するユーザの行動をきっかけに、音声を取得してこれを何等かに利用する(本実施の形態では音声対話に利用)するといった便利な付加機能を、ユーザに不安を感じさせることなく利用させることができる。
As a result, in addition to the main functions of the
本発明の態様2に係る家電10は、さらに、前記通知部は、光を出力する光出力部(通知ランプ16b、導光板発光部61)あるいは音を出力する音出力部(音声出力部14)、あるいはその両方を含み、光、あるいは音、あるいはその両方を用いて通知する構成としてもよい。
In the
本発明の態様3に係る家電10は、さらに、当該家電10の使用時に開かれるドア(第1ドア46a)を備え、前記通知部は、光を出力する光出力部を含み、前記光出力部(導光板発光部61)は、前記ドアが開いた状態および前記ドアが閉じた状態の何れにおいても、前記ドアを操作するユーザが視認し得るように配設されている構成とすることもできる。
The
冷蔵庫等のドアを開いて使用する電子機器では、例えばドアに通知部が設けられていた場合、ユーザは通知部を確認することができないが、上記構成により、ドアを開いた状態でも確認できる。 In an electronic device that is used by opening a door such as a refrigerator, for example, when a notification unit is provided on the door, the user cannot check the notification unit, but with the above configuration, the user can check even when the door is open.
本発明の態様4に係る家電10は、さらに、前記光出力部(通知ランプ16b、庫内通知ランプ50)は、前記ドアと、前記ドアを開いた状態で露出する機器本体部分との両方に配設されている構成とすることもできる。
In the
上記構成によれば、電子機器のドアが開いた状態およびドアが閉じた状態の何れにおいても通知部を確認できる構成を、簡単に実現できる。 According to the said structure, the structure which can confirm a notification part in any of the state where the door of the electronic device was opened and the state where the door was closed is easily realizable.
本発明の態様5に係る家電10は、さらに、音声データに基づいた音声を出力する音声出力部14を備え、前記音声取得部15にて取得された音声を音声認識した結果に対して、その回答となる音声を前記音声出力部14から出力する構成とすることもできる。
The
上記構成によれば、例えば、ユーザは、電子機器のドアを開けるなどの操作によって音声取得部を起動させ、電子機器との間で、会話を行うことができる。 According to the above configuration, for example, the user can activate the voice acquisition unit by an operation such as opening a door of the electronic device, and can have a conversation with the electronic device.
本発明の態様6に係る家電10は、通信ネットワーク60を介して、前記音声取得部15にて取得した音声データをサーバ20に送信する送信部(通信部13)と、通信ネットワーク60を介して、前記送信に対する応答として前記サーバ20から音声データを受信する受信部(通信部13)とを備え、受信した前記音声データに基づいて前記音声出力部14から回答となる音声を出力する構成とすることもできる。
The
上記構成によれば、電子機器に音声認識の機能を搭載させる必要がないため、電子機器のコストを安価にできる。しかも、回答がサーバにて準備されるので、会話の内容を適宜更新したり、種類を増やしたりすることが容易に行え、より有効でより自然な会話を実現できる。 According to the above configuration, since it is not necessary to install a voice recognition function in the electronic device, the cost of the electronic device can be reduced. In addition, since the answer is prepared by the server, it is possible to easily update the content of the conversation as appropriate or increase the types of conversations, thereby realizing a more effective and more natural conversation.
本発明は、付加機能として音声取得部15を備えた電子機器に利用でき、通信ネットワークに接続して、サーバに音声データを送信したり、サーバから音声データをダウンロードして音声出力したりする電子機器にも利用可能である。
The present invention can be used in an electronic device including the
1 遠隔操作システム
10 家電(電子機器)
10−1 冷蔵庫
10−2 加熱調理器
10−3 エアコン
10−4 洗濯機
11 制御部
11a 音声出力制御部
11b 音声取得制御部
11c パネル制御部
13 通信部(受信部,送信部)
14 音声出力部
15 音声取得部
16 操作パネル
16a 発話ボタン
16b 通知ランプ
20 サーバ
21 制御部
21a 音声提供機能部
24 音声認識装置
30 通信端末装置
46 ドア
46a 第1ドア
46b 第2ドア
47 冷蔵室
50 庫内通知ランプ
51 ヒンジカバー部
51a 第1ヒンジカバー部
51b 第2ヒンジカバー部
52 庫内操作部
60 通信ネットワーク
61 導光板発光部
1
10-1 refrigerator 10-2 heating cooker 10-3 air conditioner 10-4 washing machine 11
DESCRIPTION OF
Claims (5)
音声を取得する音声取得部と、
前記音声取得部を起動させるきっかけとなる予め定められた事象の発生を検知すると、前記音声取得部を起動させる起動部と、
前記音声取得部の稼働状態をユーザに通知する通知部と、を備えることを特徴とする電子機器。 As an additional function other than the main function as an electronic device, an electronic device having a function of acquiring sound,
An audio acquisition unit for acquiring audio;
When detecting the occurrence of a predetermined event that triggers activation of the voice acquisition unit, an activation unit that activates the voice acquisition unit;
An electronic device comprising: a notification unit that notifies a user of an operating state of the voice acquisition unit.
前記通知部は、光を出力する光出力部を含み、
前記光出力部は、前記ドアが開いた状態および前記ドアが閉じた状態の何れにおいても、前記ドアを操作するユーザが視認し得るように配設されていることを特徴とする請求項1に記載の電子機器。 A door that is opened when the electronic device is used;
The notification unit includes a light output unit that outputs light,
2. The light output unit according to claim 1, wherein the light output unit is disposed so that a user who operates the door can visually recognize the door when the door is open and when the door is closed. The electronic device described.
前記音声取得部にて取得された音声を音声認識した結果に対して、その回答となる音声を前記音声出力部から出力することを特徴とする請求項1〜3の何れか1項に記載の電子機器。 Provided with an audio output unit that outputs audio based on audio data,
The voice as a response is output from the voice output unit with respect to a result of voice recognition of the voice acquired by the voice acquisition unit. Electronics.
通信ネットワークを介して、前記送信に対する応答として前記サーバから音声データを受信する受信部とを備え、
受信した前記音声データに基づいて前記音声出力部から回答となる音声を出力することを特徴とする請求項4に記載の電子機器。 A transmission unit that transmits the audio data acquired by the audio acquisition unit to a server via a communication network;
A reception unit that receives voice data from the server as a response to the transmission via a communication network;
The electronic device according to claim 4, wherein a voice as a reply is output from the voice output unit based on the received voice data.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015117036A JP6748404B2 (en) | 2015-06-09 | 2015-06-09 | Electronics |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015117036A JP6748404B2 (en) | 2015-06-09 | 2015-06-09 | Electronics |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017004231A true JP2017004231A (en) | 2017-01-05 |
JP6748404B2 JP6748404B2 (en) | 2020-09-02 |
Family
ID=57754267
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015117036A Expired - Fee Related JP6748404B2 (en) | 2015-06-09 | 2015-06-09 | Electronics |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6748404B2 (en) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020099459A (en) * | 2018-12-21 | 2020-07-02 | パナソニックIpマネジメント株式会社 | Washing machine |
WO2020144884A1 (en) * | 2019-01-11 | 2020-07-16 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | Method, control device, and program |
JP2021018543A (en) * | 2019-07-18 | 2021-02-15 | 東芝ライフスタイル株式会社 | Household electrical appliance and information processing system |
US11289081B2 (en) | 2018-11-08 | 2022-03-29 | Sharp Kabushiki Kaisha | Refrigerator |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10111664A (en) * | 1996-10-07 | 1998-04-28 | Brother Ind Ltd | Communication device |
JP2001293284A (en) * | 2000-04-13 | 2001-10-23 | Hitachi Ltd | Washing machine |
JP2005284492A (en) * | 2004-03-29 | 2005-10-13 | Mitsubishi Electric Corp | Operating device using voice |
JP2010249428A (en) * | 2009-04-16 | 2010-11-04 | Mitsubishi Electric Corp | Refrigerator |
JP2012145304A (en) * | 2011-01-14 | 2012-08-02 | Panasonic Corp | Refrigerator |
JP2014089524A (en) * | 2012-10-29 | 2014-05-15 | Sharp Corp | Message management device, message presentation device, message presentation system, control method and program for message management device and message presentation device, and recording medium |
JP2014196847A (en) * | 2013-03-29 | 2014-10-16 | パナソニック株式会社 | Refrigerator |
JP2015106203A (en) * | 2013-11-28 | 2015-06-08 | Necパーソナルコンピュータ株式会社 | Information processing apparatus, information processing method, and program |
-
2015
- 2015-06-09 JP JP2015117036A patent/JP6748404B2/en not_active Expired - Fee Related
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10111664A (en) * | 1996-10-07 | 1998-04-28 | Brother Ind Ltd | Communication device |
JP2001293284A (en) * | 2000-04-13 | 2001-10-23 | Hitachi Ltd | Washing machine |
JP2005284492A (en) * | 2004-03-29 | 2005-10-13 | Mitsubishi Electric Corp | Operating device using voice |
JP2010249428A (en) * | 2009-04-16 | 2010-11-04 | Mitsubishi Electric Corp | Refrigerator |
JP2012145304A (en) * | 2011-01-14 | 2012-08-02 | Panasonic Corp | Refrigerator |
JP2014089524A (en) * | 2012-10-29 | 2014-05-15 | Sharp Corp | Message management device, message presentation device, message presentation system, control method and program for message management device and message presentation device, and recording medium |
JP2014196847A (en) * | 2013-03-29 | 2014-10-16 | パナソニック株式会社 | Refrigerator |
JP2015106203A (en) * | 2013-11-28 | 2015-06-08 | Necパーソナルコンピュータ株式会社 | Information processing apparatus, information processing method, and program |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11289081B2 (en) | 2018-11-08 | 2022-03-29 | Sharp Kabushiki Kaisha | Refrigerator |
JP2020099459A (en) * | 2018-12-21 | 2020-07-02 | パナソニックIpマネジメント株式会社 | Washing machine |
WO2020144884A1 (en) * | 2019-01-11 | 2020-07-16 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | Method, control device, and program |
JP2021018543A (en) * | 2019-07-18 | 2021-02-15 | 東芝ライフスタイル株式会社 | Household electrical appliance and information processing system |
JP7269812B2 (en) | 2019-07-18 | 2023-05-09 | 東芝ライフスタイル株式会社 | Home appliances |
Also Published As
Publication number | Publication date |
---|---|
JP6748404B2 (en) | 2020-09-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2017073227A1 (en) | Electronic device and method for controlling same | |
EP3047583B1 (en) | Home appliance and mobile terminal | |
JP6748404B2 (en) | Electronics | |
JP6355939B2 (en) | Voice server, control method therefor, and voice system | |
Yue et al. | Voice activated smart home design and implementation | |
JP6660808B2 (en) | Audio output control device, electronic device, and control method for audio output control device | |
JP2005284492A (en) | Operating device using voice | |
CN105929700A (en) | Intelligent control method and device | |
US11289081B2 (en) | Refrigerator | |
JP7340764B2 (en) | voice control system | |
JP6400337B2 (en) | Electronic equipment and message system | |
JP2020200968A (en) | Electric apparatus | |
TWI840437B (en) | refrigerator | |
KR20180083236A (en) | Home Social Robot | |
CN106773754A (en) | A kind of intelligent home control system and method based on speech recognition technology | |
US20240221720A1 (en) | Method for controlling utterance device, server, utterance device, and program | |
JP7269812B2 (en) | Home appliances | |
CN109218144A (en) | The method remotely monitored by refrigerator | |
Bhandari et al. | Survey on IOT based Home Automation | |
CN115461810A (en) | Method for controlling speech device, server, speech device, and program | |
CN207541457U (en) | A kind of intelligent power switch of multimodal fusion formula control | |
CN207516799U (en) | Intelligent appliance equipment voice switch | |
GB2496983A (en) | Environmental Control System | |
KR102243641B1 (en) | Home appliance, and method for operating the same | |
CN108593094A (en) | Transmission method, system and the kitchen ventilator of environmental sound signal |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180323 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181211 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190129 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190325 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190910 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191031 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200331 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200525 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20200603 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200804 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200807 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6748404 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |