JP2015210059A - 冷蔵庫 - Google Patents

冷蔵庫 Download PDF

Info

Publication number
JP2015210059A
JP2015210059A JP2014093667A JP2014093667A JP2015210059A JP 2015210059 A JP2015210059 A JP 2015210059A JP 2014093667 A JP2014093667 A JP 2014093667A JP 2014093667 A JP2014093667 A JP 2014093667A JP 2015210059 A JP2015210059 A JP 2015210059A
Authority
JP
Japan
Prior art keywords
specific information
refrigerator
control
person
door
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014093667A
Other languages
English (en)
Other versions
JP6336816B2 (ja
Inventor
尚宏 兼坂
Naohiro Kanesaka
尚宏 兼坂
林 秀竹
Hidetake Hayashi
秀竹 林
裕樹 丸谷
Hiroki Marutani
裕樹 丸谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Lifestyle Products and Services Corp
Original Assignee
Toshiba Corp
Toshiba Lifestyle Products and Services Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Lifestyle Products and Services Corp filed Critical Toshiba Corp
Priority to JP2014093667A priority Critical patent/JP6336816B2/ja
Publication of JP2015210059A publication Critical patent/JP2015210059A/ja
Application granted granted Critical
Publication of JP6336816B2 publication Critical patent/JP6336816B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Devices That Are Associated With Refrigeration Equipment (AREA)
  • Cold Air Circulating Systems And Constructional Details In Refrigerators (AREA)

Abstract

【課題】人に関する特定情報を検知し、特定情報に応じた制御を行うことでユーザに利便性を提供することができる冷蔵庫を提供する。
【解決手段】実施形態の冷蔵庫1は、カメラ15を有し、カメラ15で撮像された画像に含まれている人に関する特定情報を検知すると、当該特定情報に応じた制御を行う。撮像した画像に前記特定情報が含まれているか否かを前記カメラ自身が検知する。
【選択図】図1

Description

本発明の実施形態は、冷蔵庫に関する。
従来、例えば特許文献1のように、庫内を撮像するカメラを備えた冷蔵庫が提案されている。このようなカメラを用いると、庫内の様子を確認することができ、利便性が向上すると考えられる。
特開2002−267337号公報
しかしながら、例えば表情などの人に関する特定情報を検知することは行われていなかった。つまり、従来は撮像された画像に基づいてユーザ自身が判断を行っていただけであり、冷蔵庫側からユーザに対して利便性を提供することは行われていなかった。
そこで、人に関する特定情報を検知し、特定情報に応じた制御を行うことでユーザに利便性を提供することができる冷蔵庫を提供する。
実施形態の冷蔵庫は、カメラを有し、前記カメラで撮像された画像に含まれている人に関する特定情報を検知すると、当該特定情報に応じた制御を行う。
第1実施形態の冷蔵庫の構成を模式的に示す縦断断面図 第1実施形態の冷蔵庫にて行われる処理の流れを模式的に示す図 第1実施形態における冷蔵庫と人との関係を模式的に示す図で、(A)は手の位置を模式的に示す図、(B)は手の形状を模式的に示す図 第2実施形態の冷蔵庫にて行われる処理の流れを模式的に示す図 第2実施形態の冷蔵庫に登録されている設定を示す図で、(A)は認証結果と、利用頻度、物品、表示内容およびアドバイスとの対応関係を示す図、(B)は認証結果と、ロックの非解除条件および表示内容との対応関係を示す図 第3実施形態の冷蔵庫を適用した家電ネットワークの構成を模式的に示す図 第3実施形態の冷蔵庫にて行われる処理の流れを模式的に示す図
以下、複数の実施形態について図面を参照しながら説明する。なお、複数の実施形態において実質的に共通する部位には同一の符号を付し、その詳細な説明は省略する。
(第1実施形態)
以下、第1実施形態について図1から図3を参照しながら説明する。
図1に示すように、実施形態の冷蔵庫1は、本体2の内部に、上部から順に、食材を貯蔵するための貯蔵庫である冷蔵温度帯の冷蔵室3および野菜室4と、冷凍温度帯の製氷室5および冷凍室6とが設けられている。野菜室4と製氷室5との間は、断熱仕切壁により仕切られている。冷蔵室3は、図1に示すように、扉3aによって開閉され、野菜室4、製氷室5および冷凍室6は、それぞれ引き出し式の扉4a、扉5aおよび扉6aによってそれぞれ開閉される。なお、図示は省略するが、冷蔵庫1には、製氷室5に隣り合うように上部冷凍室が配置されている。これらの貯蔵庫の構成は一例であり、各貯蔵庫の配置順が異なっていたりしてもよい。
冷蔵庫1には、扉をロックするためのロック機構が設けられている。具体的には、扉3aにはロック機構3bが設けられており、扉4aにはロック機構4bが設けられており、扉5aにはロック機構5bが設けられており、扉6aにはロック機構6bが設けられている。また、冷蔵庫1には、扉の開放を検知する開扉センサが設けられている。具体的には、扉3aには開扉センサ3cが設けられており、扉4aには開扉センサ4cが設けられており、扉5aには開扉センサ5cが設けられており、扉6aには開扉センサ6cが設けられている。
また、扉3aの庫内側には、冷蔵室3内の情報を取得する庫内情報取得部3dが設けられている。この庫内情報取得部3dは、本実施形態では、庫内を撮像するための庫内用カメラと、貯蔵されている食品の温度を検知する食品温度センサとを備えており、冷蔵室3内の画像および食材の温度を庫内情報として取得する。また、扉4aおよび扉6aの庫内側にも、それぞれ庫内情報取得部4dおよび庫内情報取得部6dが設けられており、野菜室4および冷凍室6の庫内情報を取得する。これら庫内情報取得部3d、4d、6dは、庫内情報取得手段を構成する。なお、上部冷凍室にもロック手段や開扉センサおよび庫内情報取得部を設けてもよい。
この冷蔵庫1は本体2内に設けられている制御回路7によって冷凍サイクルが制御されている。また、この制御回路7によって、上記したロック手段のロックを解除する制御、開扉センサにより扉の開放状態を検知する制御、庫内情報取得部により庫内情報を取得する制御が行われる。また、制御回路7は、現在時刻を取得するためのタイマ機能も備えている。
冷蔵庫1の扉3aの前面側には、画像やメッセージ等を表示してユーザに視覚的な報知を行う表示部10と、音声を出力してユーザに聴覚的な報知を行うスピーカ11とが設けられている。これら表示部10およびスピーカ11は、報知手段を構成する。
また、冷蔵庫1の前面側には、冷蔵庫1に対する操作を行う操作パネル24(図6参照)、照度センサ12、人感センサ13および周囲温度センサ14が設けられている。照度センサ12は、庫外の照度を検知する。人感センサ13は、例えば赤外線センサ等により構成されており、冷蔵庫1の周囲に存在する人を検知する。周囲温度センサ14は、庫外の温度を検知する。これら照度センサ12、人感センサ13および周囲温度センサ14は、庫外情報取得手段を構成している。
これら照度センサ12、人感センサ13および周囲温度センサ14は、本実施形態に関連して、冷蔵庫1の近傍に存在する人を検知する人検知手段を構成している。人感センサ13であれば、直接的に人を検知することができる。照度センサ12であれば、夜間等の暗い時間帯において検知した照度が所定の基準値を超えた場合には照明機器が点灯したと判断することができ、もって、人が冷蔵庫1の近傍にいることを間接的に検知することができる。温度センサであれば、室温が所定の基準値を超えた場合には例えば暖房が行われていると判断することができ、もって、人が冷蔵庫1の近傍にいることを間接的に検知することができる。
また、扉3aの前面側には、カメラ15が設けられている。このカメラ15は、主に冷蔵庫1の正面側の画像を撮像する。カメラ15の電源は冷蔵庫1と連動しており、冷蔵庫1が通電されているときにはカメラ15にも通電されている。ただし、カメラ15は、基本的には省電力状態で待機しており、後述するように冷蔵庫1の近傍に人が存在することが検知されると動作状態に移行する。
そして、カメラ15は、動作状態に移行すると、自動で撮像を行うとともに、撮像した画像に含まれている人に関する特定情報(以下、便宜的に人情報とも称する)を検知する。つまり、本実施形態の場合、特定情報の検知は、カメラ15によって行われている。そして、カメラ15により検知された特定情報が制御回路7に送信され、特定情報を受信した制御回路7によって、後述するように特定情報に応じた制御が行われる。このカメラ15は、言わば人情報を検知する人情報検知手段として機能する。
ここで、人検知手段としての照度センサ12、人感センサ13および周囲温度センサ14等による人の検知と、人情報検知手段としてのカメラ15により行われる人に関する特定情報の検知との違いについて説明する。
人検知手段は、上記したように冷蔵庫1の周囲に存在する人を検知するものであり、必ずしも冷蔵庫1を利用する場合だけでなく、冷蔵庫1が設置されている例えばキッチン等に人が存在することも検知する。本実施形態では、カメラ15は通常は省電力状態となっており、人検知手段により人が検知されたときに、カメラ15を撮像動作が可能な動作状態に移行させている。つまり、人検知手段は、カメラ15の動作を開始する起因となる人の存在を検知する。
これに対して、人情報検知手段としてのカメラ15は、人を撮像し、その画像に写っている人に関する各種の情報を検知する。具体的には、カメラ15は、撮像した画像に基づいて、人が存在するか否かの情報、手の位置や指の向きあるいは手のひらが見えているかなどの人の手に関する情報、表情や視線などの人の顔に関する情報などを、特定情報として検知する。また、カメラ15は、人の顔の情報に基づいて個人の認証も行う。なお、人が存在するか否かの情報を利用すればカメラ15を人検知手段として用いることもできるが、本実施形態では、省電力化を図るため、カメラ15とは別に人検知手段を設けている。
次に上記した冷蔵庫1の作用について説明する。
冷蔵庫1は、人検知手段により冷蔵庫1の周囲に人が存在することが検知されると、カメラ15を動作状態に移行させ、図2に示す処理を実行する。冷蔵庫1は、カメラ15により人を検知したか否かを判定している(S1)。このステップS1では、冷蔵庫1は人が存在するという情報が検知されたこと、より具体的には、冷蔵庫1の正面近傍に人が存在するという情報をカメラ15によって検知している。これは、冷蔵庫1の正面近傍に人が存在する場合、その人が冷蔵庫1を使用する可能性が高いと判断できるためである。このステップS1の処理は、上記した人情報の検知に相当する。
冷蔵庫1は、人を検知していない場合には(S1:NO)、処理を終了する。つまり、人を検知していない場合には、後述するステップS6における扉のロックの解除を行わない。
これに対して、冷蔵庫1は、人を検知した場合には(S1:YES)、表示部10の表示を開始する(S2)。つまり、冷蔵庫1の場合、カメラ15と表示部10とは互いに連動して動作する。このとき、人を検知した後に表示部10の表示を開始するのは、通常は表示部10を省電力状態にしておき、電力消費を抑制するためである。なお、上記したようにカメラ15は動作状態に移行すると自動で撮像を行うため、ステップS2と後述するステップS3とは実際にはほぼ同時に行われることになる。
冷蔵庫1は、カメラ15により人を撮像すると(S3)、現在時刻に応じたメッセージを報知する(S4)。より具体的には、冷蔵庫1は、メッセージを表示部10に表示するとともに、スピーカ11から音声出力する。ここで、報知されるメッセージは、例えば現在時刻が朝であれば「おはようございます」のようなメッセージであり、夜であれば「こんばんは」のようなメッセージである。つまり、冷蔵庫1を擬人化している。なお、メッセージの表示は、以下のステップS5およびS6の処理と前後してもよいし、同時に行ってもよい。このステップS4の処理は、特定情報に応じた制御に相当する。
そして、冷蔵庫1は、カメラ15で撮像した画像に基づいて、人の手に関する情報、手の位置を検知する(S5)。冷蔵庫1には、カメラ15から受信した手の位置と、冷蔵庫1の貯蔵庫の高さとの関係が予め設定されている。具体的には、冷蔵庫1には、図3(A)に示すような各貯蔵室の扉の位置に応じた領域R1〜R4が設定されており、カメラ15で撮像した画像において、人M1(ユーザ)の手M2がどの領域に位置しているかを検知する。
手M2の位置を検知すると、冷蔵庫1は、対応する扉のロックを解除する。例えば、手M2が領域R1に位置している場合、人M1は冷蔵室3の扉3aを開放しようとしていると想定される。そのため、冷蔵庫1は、手M2が領域R1に位置している場合には、扉3aのロック機構3bを解除して、扉3aを開放可能な状態とする。同様に、冷蔵庫1は、手M2が領域R2に位置している場合には、扉4aのロック機構4bを解除し、手M2が領域R3に位置している場合には、扉5aのロック機構5bを解除し、手M2が領域R4に位置している場合には、扉6aのロック機構6bを解除する。このステップS6の処理は、特定情報に応じた制御に相当する。
このとき、冷蔵庫1の構成によっては、例えば冷蔵室3の取手が扉3aの下部に設けられ、野菜室4の取手が扉4aの上部に設けられるなど、両者の位置が近い場合がある。そのため、例えば、手M2が領域R1の下端側に検知されたときには扉3aと扉4aの双方のロックを解除してもよい。また、各領域の下端側と上端側とをオーバーラップさせるような構成としてもよい。
また、人M1が冷凍室6の扉6aを開放しようとしているとき、カメラ15の取り付け位置や視野角の大きさ等によっては、手M2が領域R3と領域R4のいずれに位置しているのかを正確に検知できない可能性がある。そのため、手M2の形を検知する構成とし、図3(B)に示すように例えば手M2に対して指M3(例えば親指)が上方に向かって伸びていれば冷蔵室3の扉3aのロックを解除し、指M3が下方に向かって伸びていれば冷凍室6の扉6aのロックを解除するようにしてもよい。
このように、冷蔵庫1は、カメラ15により特定情報を検知し、その特定情報に応じた制御を行っている。
以上説明した実施形態によれば、次のような効果を得ることができる。
冷蔵庫1は、カメラ15を有し、そのカメラ15で撮像された画像に含まれている人に関する特定情報を検知すると、当該特定情報に応じた制御を行う。つまり、冷蔵庫1は、冷蔵庫1を利用するユーザに応じた制御を行う。これにより、ユーザに利便性を提供することができる。
冷蔵庫1は、撮像した画像に特定情報が含まれているか否かを、カメラ15にて検知する。換言すると、カメラ15自身が、特定情報を検知する機能を備えている。このため、冷蔵庫1の制御回路7に大きな変更を加えることなく、また、制御回路7の処理負荷が大幅に増加するような状況を避けつつ、人情報を検知することができる。
冷蔵庫1は、貯蔵室の扉をロックするロックを備え、特定情報として当該冷蔵庫1の正面側に位置する人を検知するとともに、人が検知されていないときには扉のロックを解除しない制御を行う。これにより、不要に冷蔵庫1の扉が開放されるおそれを低減することができる。
また、冷蔵庫1は、検知した人の手の位置に応じた扉のロックを解除する制御を行う。これにより、不要な扉の開閉を抑制しつつも、ユーザが所望する扉は開放可能とすることができる。
冷蔵庫1では、人検知手段により人が検知されたとき、カメラ15が動作状態になる。換言すると、カメラ15は、人検知手段により人が検知されていない場合には省電力モードで待機している。これにより、省電力化を図ることができるとともに、人検知手段により人が検知された時点で動作状態となることで起動時間を確保でき、人が冷蔵庫1の正面つまりはカメラ15の正面に来たときに迅速に撮像することができる。
冷蔵庫1は、報知手段としての表示部10を備えており、特定情報に応じた報知を行う。本実施形態の場合、時刻に応じた挨拶を表示出力および音声出力する。これにより、冷蔵庫1をあたかも擬人化させることができる。
冷蔵庫1は、特定情報として、人の手を検知する。ユーザが冷蔵庫1を利用する場合、手で扉を開けることが想定される。そのため、特定情報として人の手を検知することにより、ユーザの希望に応じた制御を行うことができる。
また、特定情報として手のひらを検知し、手のひらが検知されたとき、つまり、ユーザが冷蔵庫1に対して手のひらを見せているとき、その時刻に応じた報知を行ってもよい。例えばユーザが手のひらを明示的に冷蔵庫1側に向けた場合、ユーザが冷蔵庫1に挨拶していると考えられる。そのため、手のひらを検知したときに冷蔵庫1側から挨拶を報知することで、冷蔵庫1を擬人化させることができる。なお、上記したロックの解除との区別を付けるため、例えば人の顔の付近で手のひらを検知した場合等に挨拶をするようにしてもよい。
また、本実施形態ではカメラ15を1つ設けた構成を例示したが、各扉にそれぞれカメラ15を設けたり、扉3aと扉4aとにカメラ15を設けたりする構成としてもよい。これにより、例えば小さい子供であっても正面から撮像すること等が可能となり、より細やかな対応を行うことができる。
(第2実施形態)
以下、第2実施形態について図4および図5を参照しながら説明する。第2実施形態では、特定情報の種類が第1実施形態と異なっている。なお、冷蔵庫1の構成は第1実施形態と共通するので、図1も参照しながら説明する。
第2実施形態の冷蔵庫1は、特定情報として人の顔を検知する。なお、本実施形態の人の顔の検知と、第1実施形態で示した人の手の検知とを同時に行ってもよい。
冷蔵庫1は、人検知手段により冷蔵庫1の周囲に人が存在することが検知されると、カメラ15を動作状態に移行させ、図4に示す処理を実行する。冷蔵庫1は、カメラ15により人を検知すると(S11)、表示部10の表示を開始する(S12)。続いて、冷蔵庫1は、人を撮像し(S13)、顔認証できたか否かを判定する(S14)。このとき、認証用のデータは予め冷蔵庫1に登録されている。
冷蔵庫1は、顔認証できなかった場合には(S14:NO)、処理を終了する。なお、上記したように顔認証自体はカメラ15により行われるため、ステップS14においては、冷蔵庫1の制御回路7は、認証ができた旨の認証結果をカメラ15から受信したか否かを判定することになる。また、ステップS14では、顔が検知できない状態、つまり、顔が撮像できなかった状態も顔認証できなかった場合に含めて判定している。
これに対して、冷蔵庫1は、顔認証できた場合には(S14:YES)、つまり、カメラ15から認証結果を受信した場合には、庫内情報を取得する(S15)。このとき、冷蔵庫1は、冷蔵庫1は、図5(A)に示す設定に基づいて、庫内情報を取得する。この図5(A)には認証した人とその人の過去の利用状況とが対応付けられて記憶されている。そのため、冷蔵庫1は、ステップS14における認証結果が「父」であれば、過去の利用状況に鑑みて、利用頻度の高い扉が冷蔵室3の扉3aであり、取り出すと品物がビールであると予想して、表示部10に表示する内容として庫内情報取得部3dで取得したビールの温度(ビールの冷え具合)、合わせて表示するアドバイスとして「飲み過ぎに注意しましょう」を設定する。
なお、認証結果が「母」であった場合には、過去の利用状況に鑑みて、利用頻度の高い扉が野菜室4の扉4aであり、取り出すと品物が野菜であると予想して、表示部10に表示する内容として野菜の種類つまり庫内情報取得部3dで取得した野菜室4の内部の画像、合わせて表示するアドバイスとして「緑黄色野菜をとりましょう」を設定する。また、認証結果が「子供」であった場合には、過去の利用状況に鑑みて、利用頻度の高い扉が冷凍室6の扉6aであり、取り出すと品物がアイスクリーム(図5には単に「アイス」と示す)であると予想して、表示部10に表示する内容としてアイスクリームの種類つまり庫内情報取得部6dで取得した冷凍室6の内部の画像、合わせて表示するアドバイスとして「食べ過ぎないでね」を設定する。
その後、冷蔵庫1は、認証した人に応じたメッセージを報知する(S16)。具体的には、認証した人が父であれば、上記したようにビールの温度と「飲み過ぎに注意しましょう」といったアドバイスとを表示する。そして、冷蔵庫1は、対応する扉のロックを解除する(S17)。
なお、図5には示していないが、冷蔵庫1は、実際の利用状況を記憶する。例えば、上記したように父に対して冷蔵室3の扉3aのロックを解除したとき、実際に扉3aが開閉されたか否かを開扉センサ3cにより検知する。また、他の扉が開放されたか否かを開扉センサ4c〜6c等により検知する。そして、「父」の認証結果と実際に開閉された扉とを対応付けて記憶することで、利用頻度の高い扉を学習する。
このように、冷蔵庫1は、カメラ15により特定情報として人の顔を検知し、その特定情報に応じた制御を行っている。
以上説明した実施形態によれば、次のような効果を得ることができる。
冷蔵庫1は、特定情報として、人の顔を検知する。冷蔵庫1を利用するユーザが異なれば、その利用状況も異なると予想される。そこで、人の顔を検知し、それに応じた制御を行うことで個別のユーザごとへの対応が可能となり、ユーザに取ってより利便性の高い制御を行うことができる。
冷蔵庫1は、特定情報に基づいて人を認証したとき、認証した人に応じた報知を行う。冷蔵庫1は、例えばユーザがよく使う貯蔵室の状況を報知したり、アドバイスを提示したりする。これにより、より冷蔵庫1を擬人化させることができる。
そして、冷蔵庫1は、認証した人の該冷蔵庫の利用状況を収集する制御を行う。これにより、費用頻度の高い扉を学習すること等ができ、より細かな応答を行うことができる。
冷蔵庫1は、貯蔵庫内の情報を取得する庫内情報取得部を備え、認証した人の利用頻度の高い貯蔵庫の状況を表示部10に表示する制御を行う。これにより、扉を開けなくても庫内の様子を把握することができ、庫内の温度が過度に上昇することを防止でき、省電力化に貢献することができる。
冷蔵庫1は、人の顔が検知されていないときもふくめて、顔認証できなかったときには扉のロックを解除しない制御を行う。これにより、不要な扉の開閉を制限することができる。
特定情報に応じた制御として、人の顔を検知したとき、その時刻に応じた報知を行う制御を行ってもよい。例えば第1実施形態で示したように、朝であれば「おはようございます」といったメッセージを表示や音声にて出力してもよい。
特定情報に応じた制御として、認証した人に応じて扉のロックを解除するか否かを判断する制御を行ってもよい。また、時刻に応じてロックを解除するか否かを判断してもよい。例えば、図5(B)に示すように、認証した人と、ロックを解除しない条件(非解除条件)とを対応付けて記憶しておき、例えば「父」であれば23時以降に認証された場合(つまり、冷蔵庫1を利用しようとした場合)には、ロックを解除せず、例えば「メタボに注意しましょう」といったアドバイスを表示させるとよい。あるいは、「子供」であれば、例えば16時から18時といった夕食前の時間にはアイスクリームを食べないように、「食事前は食べてはだめです」といったアドバイスを表示させるとよい。もちろん、いわゆるチャイルドロック機能として利用することもできる。これらにより、健康への気配りを推奨することができる等、冷蔵庫1の利用価値を向上させることができる。
特定情報に応じた制御として、認証した人に応じて扉が開放されてから閉鎖するように注意を促すまでの時間を変更する制御を行ってもよい。例えば、認証した人が「子供」であれば、閉め忘れが考えられるため、注意を促すための時間を通常よりも短くしてもよい。あるいは、認証した人が「母」であれば、献立の検討中であったり、まとめ買いした食材を入れていたりすること等が考えられるため、注意を促すための時間を通常よりも長くしてもよい。これにより、不必要に注意を促すようなことを抑制できるとともに、扉の閉め忘れにも対応することができる。
特定情報に応じた制御として、認証した人の顔の位置に応じた棚の位置を提案する制御を行ってもよい。人の顔の位置が検知できれば、おおよその身長を把握することができる。そして、冷蔵庫1には、図1に示したように冷蔵室3内に高さの異なる棚8a〜8dが存在しているため、認証した人の身長に応じて使いやすい棚を提案することで、冷蔵庫1の使い勝手を向上させることができる。
特定情報に応じた制御として、人の顔を検知したとき、該冷蔵庫1の操作パネル24(図6参照)を操作可能状態にする制御を行ってもよい。人の顔を検知できたと言うことは、人が冷蔵庫1にほぼ正対している状態であり、冷蔵庫1と使う可能性が高いと考えられる。そのため、人の顔を検知したときに操作パネルを点灯させる等の動作可能状態とすることで、冷蔵庫1が使用されないときの省電力化を図ることができるとともに、冷蔵庫1が使用されるときにはユーザを待たせることがない。
同様に、特定情報に応じた制御として、人の顔を検知したとき、表示部10やスピーカ11等の報知手段を動作可能状態にする制御を行ってもよい。この場合も、冷蔵庫1が使用されないときの省電力化を図ることができる。
また、特定情報として、人の顔を検知したとき、人の目線を合わせて検知してもよい。そして、特定情報に応じた制御として人の目線が示す位置に応じた扉のロックを解除する制御を行ってもよい。
また、特定情報に応じた制御として、人の目線が示す位置の照度を上げる制御を行ってもよい。例えば目線が冷蔵室3の下方に向いている場合、下方側の照度を上げることで庫内を見やすくすることができる。
(第3実施形態)
以下、第3実施形態について図6および図7を参照しながら説明する。第3実施形態では、特定情報の種類が第1実施形態と異なっている。なお、冷蔵庫1の構成は第1実施形態と共通するので、図1も参照しながら説明する。
第3実施形態の冷蔵庫1は、特定情報として人の表情を検知する。なお、人の表情は、第2実施形態で例示した人の顔の検知と合わせて行ってもよいし、第1実施形態で示した人の手の検知とを同時に行ってもよい。
図5に示すように、本実施形態の冷蔵庫1は、アクセスポイント20を介して例えばインターネット等のネットワーク21に接続されている。このネットワーク21には、サーバ22、および、ユーザが所有する携帯端末23等も接続されている。なお、携帯端末23は冷蔵庫1のユーザが所有するものに限らず、ユーザの家族が所有するものであってもよい。また、ネットワーク21には、例えば遠隔地に住む祖父母宅に設置されている他の冷蔵庫が接続されていてもよい。
冷蔵庫1は、人検知手段により冷蔵庫1の周囲に人が存在することが検知されると、カメラ15を動作状態に移行させ、図7に示す処理を実行する。冷蔵庫1は、カメラ15により人を検知すると(S21)、表示部10の表示を開始する(S22)。続いて、冷蔵庫1は、人を撮像し(S23)、表情を認識する(S24)。この表情の認識も、カメラ15により行われる。このとき、カメラ15は、例えば明るい表情や暗い表情といった喜怒哀楽を含めて人の表情を検知(認識)する。
続いて、冷蔵庫1は、表情に関する情報をサーバ22に送信し、サーバ22から表情に応じたデータを取得する(S25)。このとき、サーバ22には、その表情に対応するメッセージが、時刻に対応付けてデータとして設定されている。具体的には、例えば、暗い表情で時刻が朝であれば、「スマイルで行きましょう」といった文章がデータとして設定されている。あるいは、サーバ22には、疲れた表情で時刻が夜であれば「リラックスしてお休みなさい」といった文章がデータとして設定されている。なお、設定されるデータとしては、例えば気分を高揚させるような画像あるいは音楽や、リラックスさせるような画像あるいは音楽等であってもよい。
冷蔵庫1は、サーバ22からデータを受信すると、データや時刻に応じたメッセージを報知する(S26)。このとき、冷蔵庫1は、例えば表示部10に「スマイルで行きましょう」といった文章を表示出力し、スピーカ11から「いってらっしゃい」といった音声を出力する。
このように、冷蔵庫1は、特定情報として人の表情を検知し、その特定情報に応じた制御を行っている。
以上説明した実施形態によれば、次のような効果を得ることができる。
冷蔵庫1は、特定情報として人の表情を検知し、その表情に応じた制御を行っている。これにより、単なる貯蔵庫として以上の役割を冷蔵庫1に与えることができる。
冷蔵庫1は、例えば暗い表情であれば明るくするためのメッセージを報知すること等により、ユーザの気分を向上させることができる。つまり、冷蔵庫1を擬人化させることができ、簡易的な人工知能として機能させることができる。
特定情報に応じた制御として、前記特定情報に基づいて認証した人の表情を表示部10に表示する制御を行ってもよい。具体的には、例えば子供が喜んでいる表情や落ち込んでいる表情などを表示部10に表示することで、家族が子供の様子を把握することができる。このとき、第2実施形態で例示した顔認証と組み合わせて、子供の暗い表情であれば両親に対して表示するようにしたり、父の疲れた表情であれば子供には見せずに母に対してだけ表示するようにしたりしてもよい。これらにより、冷蔵庫1にて家族を想うきっかけを提供することができる。もちろん、遠隔地の祖父母等の表情であっても同様である。
(その他の実施形態)
本発明は、上記した一実施形態にて例示したものに限定されることなく、その範囲を逸脱しない範囲で任意に例えば以下のように変形あるいは拡張することができる。
各実施形態で示したメッセージ等は一例であり、それらに限定されるものではない。
各実施形態の構成を組み合わせてもよい。例えば、第1実施形態と第2実施形態とを組み合わせて、人の顔と手との双方を検知したときに、冷蔵庫1を利用しようとしていると判断してロックを解除する構成としてもよい。
カメラ15で撮像した画像を表示部10に表示してもよい。そのとき、第3実施形態で例示したようにサーバ22から表情に対応するデータを取得し、そのデータを合わせて表示してもよい。
冷蔵庫1で撮像した画像を、例えば祖父母宅の冷蔵庫に送信可能としてもよい。また、例えば母から子供へのメッセージを伝える伝言板の機能を冷蔵庫1に持たせてもよい。
サーバ22に携帯端末23等から送信された電子メール等を記憶させ、第2実施形態にて顔認証した際に該当する電子メール等を表示させてもよい。
各実施形態において人を検知したときや、第2実施形態にて顔認証できなかったときなどに撮像した画像を保存可能としてもよい。これにより、防犯カメラの機能を冷蔵庫1に持たせることができる。
ロック機構により扉のロックおよびロックの解除を行う代わりに、特定情報を検知するとソレノイドの駆動により冷蔵庫の筺体に設けられた棒が扉側に押し出されることにより、扉を自動で開放する扉開放手段を設けてもよい。そして、特定情報に応じた制御として、扉を自動で開放する制御を行ってもよい。
各実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。本実施形態およびその変形は、発明の範囲および要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
図面中、1は冷蔵庫、3a〜6aは扉、3b〜6bはロック機構、3c〜6cは開扉センサ、3d〜6dは庫内情報取得部(庫内情報取得手段)、8a〜8dは棚、10は表示部(報知手段)、11はスピーカ(報知手段)、15はカメラ、24は操作パネル、M1は人、M2は人の手、M3は指を示す。

Claims (24)

  1. カメラを有し、前記カメラで撮像された画像に含まれている人に関する特定情報を検知すると、当該特定情報に応じた制御を行うことを特徴とする冷蔵庫。
  2. 撮像した画像に前記特定情報が含まれているか否かを前記カメラ自身が検知することを特徴とする請求項1記載の冷蔵庫。
  3. 貯蔵室の扉をロックするロック機構を備え、
    前記特定情報として、当該冷蔵庫の正面側に位置する人を検知し、
    前記特定情報に応じた制御として、人が検知されていないときには扉のロックを解除しない制御を行うことを特徴とする請求項1または2記載の冷蔵庫。
  4. 報知手段を備え、
    前記特定情報に応じた制御として、前記特定情報に応じた報知を行う制御を行うことを特徴とする請求項1から3のいずれか一項記載の冷蔵庫。
  5. 前記特定情報として、人の手を検知することを特徴とする請求項1から4のいずれか一項記載の冷蔵庫。
  6. 貯蔵室の扉をロックするロック機構を備え、
    前記特定情報に応じた制御として、前記特定情報に基づいて検知した人の手の位置に応じた扉のロックを解除する制御を行うことを特徴とする請求項5記載の冷蔵庫。
  7. 報知手段を備え、
    前記特定情報に応じた制御として、前記特定情報に基づいて人の手のひらを検知したとき、その時刻に応じた報知を行う制御を行うことを特徴とする請求項5または6記載の冷蔵庫。
  8. 前記特定情報として、人の顔を検知することを特徴とする請求項1から7のいずれか一項記載の冷蔵庫。
  9. 報知手段を備え、
    前記特定情報に応じた制御として、前記特定情報に基づいて人を認証したとき、認証した人に応じた報知を行う制御を行うことを特徴とする請求項8記載の冷蔵庫。
  10. 報知手段を備え、
    前記特定情報に応じた制御として、人の顔を検知したとき、その時刻に応じた報知を行う制御を行うことを特徴とする請求項8または9記載の冷蔵庫。
  11. 前記特定情報に応じた制御として、前記特定情報に基づいて人を認証したとき、認証した人の該冷蔵庫の利用状況を収集する制御を行うことを特徴とする請求項10記載の冷蔵庫。
  12. 表示部と、
    貯蔵庫内の情報を取得する庫内情報取得手段と、を備え、
    前記特定情報に応じた制御として、認証した人の利用頻度の高い貯蔵庫の状況を前記表示部に表示する制御を行うことを特徴とする請求項8から11のいずれか一項記載の冷蔵庫。
  13. 貯蔵室の扉をロックするロック機構を備え、
    前記特定情報に応じた制御として、人の顔が検知されていないときには扉のロックを解除しない制御を行うことを特徴とする請求項8から12のいずれか一項記載の冷蔵庫。
  14. 貯蔵室の扉をロックするロック機構を備え、
    前記特定情報に応じた制御として、前記特定情報に基づいて認証した人に応じて扉のロックを解除するか否かを判断する制御を行うことを特徴とする請求項8から13のいずれか一項記載の冷蔵庫。
  15. 前記特定情報に応じた制御として、前記特定情報に基づいて認証した人に応じて、扉が開放されてから注意を促すまでの時間を変更する制御を行うことを特徴とする請求項8から14のいずれか一項記載の冷蔵庫。
  16. 前記特定情報に応じた制御として、前記特定情報に基づいて認証した人の顔の位置に応じた棚の位置を提案する制御を行うことを特徴とする請求項8から15のいずれか一項記載の冷蔵庫。
  17. 前記特定情報に応じた制御として、前記特定情報に基づいて人の顔を検知したとき、該冷蔵庫の操作パネルを操作可能状態にする制御を行うことを特徴とする請求項8から16のいずれか一項記載の冷蔵庫。
  18. 報知手段を備え、
    前記特定情報に応じた制御として、人の顔を検知したとき、前記報知手段を動作可能状態にする制御を行うことを特徴とする請求項8から17記載の冷蔵庫。
  19. 前記特定情報として、人の目線を検知することを特徴とする請求項1から18のいずれか一項記載の冷蔵庫。
  20. 貯蔵室の扉をロックするロック機構を備え、
    前記特定情報に応じた制御として、前記特定情報に基づいて検知した人の目線が示す位置に応じた扉のロックを解除する制御を行うことを特徴とする請求項19記載の冷蔵庫。
  21. 前記特定情報に応じた制御として、前記特定情報に基づいて検知した人の目線が示す位置の照度を上げる制御を行うことを特徴とする請求項19または20記載の冷蔵庫。
  22. 前記特定情報として、人の表情を検知することを特徴とする請求項1から21のいずれか一項記載の冷蔵庫。
  23. 報知手段を備え、
    前記特定情報に応じた制御として、前記特定情報に基づいて検知した人の表情に応じたメッセージを報知する制御を行うことを特徴とする請求項22記載の冷蔵庫。
  24. 表示部を備え、
    前記特定情報に応じた制御として、前記特定情報に基づいて検知した人の表情を前記表示部に表示する制御を行うことを特徴とする請求項22または23記載の冷蔵庫。
JP2014093667A 2014-04-30 2014-04-30 冷蔵庫 Active JP6336816B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014093667A JP6336816B2 (ja) 2014-04-30 2014-04-30 冷蔵庫

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014093667A JP6336816B2 (ja) 2014-04-30 2014-04-30 冷蔵庫

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018085112A Division JP6629912B2 (ja) 2018-04-26 2018-04-26 冷蔵庫

Publications (2)

Publication Number Publication Date
JP2015210059A true JP2015210059A (ja) 2015-11-24
JP6336816B2 JP6336816B2 (ja) 2018-06-06

Family

ID=54612381

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014093667A Active JP6336816B2 (ja) 2014-04-30 2014-04-30 冷蔵庫

Country Status (1)

Country Link
JP (1) JP6336816B2 (ja)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017106671A (ja) * 2015-12-10 2017-06-15 三菱電機株式会社 冷蔵庫、冷蔵庫内画像管理システムおよびプログラム
JP2017146057A (ja) * 2016-02-19 2017-08-24 東芝ライフスタイル株式会社 冷蔵庫
JP2017161143A (ja) * 2016-03-09 2017-09-14 東芝ライフスタイル株式会社 冷蔵庫
JP2017211168A (ja) * 2016-05-27 2017-11-30 シャープ株式会社 冷蔵庫、および広告表示プログラム
WO2018087972A1 (ja) * 2016-11-14 2018-05-17 ソニー株式会社 情報処理装置、情報処理方法、および記録媒体
JP2018112402A (ja) * 2018-04-26 2018-07-19 東芝ライフスタイル株式会社 冷蔵庫
JP2018194193A (ja) * 2017-05-12 2018-12-06 シャープ株式会社 制御装置、冷蔵庫、冷蔵システム、制御方法、および制御プログラム
CN110123080A (zh) * 2018-02-09 2019-08-16 松下知识产权经营株式会社 开放式展示柜
JP2020133986A (ja) * 2019-02-18 2020-08-31 ホシザキ株式会社 貯蔵庫
JP2020133985A (ja) * 2019-02-18 2020-08-31 ホシザキ株式会社 貯蔵庫
WO2020213394A1 (ja) * 2019-04-15 2020-10-22 ソニー株式会社 情報処理装置、情報処理方法、及び食品保管装置
CN112325557A (zh) * 2020-11-12 2021-02-05 四川长虹电器股份有限公司 一种基于物联网的智能公共冰箱系统
WO2021066000A1 (ja) * 2019-09-30 2021-04-08 日本電気株式会社 店舗システム、店舗サーバ及び店舗システムの処理方法
JP2022003546A (ja) * 2016-08-31 2022-01-11 ソニーグループ株式会社 制御システム、プログラム、および制御方法
WO2023193756A1 (zh) * 2022-04-07 2023-10-12 海尔智家股份有限公司 制冷设备及其控制方法
JP7496945B1 (ja) 2023-03-08 2024-06-07 三菱電機株式会社 開閉制御システム、開閉装置、及び開閉制御方法

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210103608A (ko) 2020-02-13 2021-08-24 삼성전자주식회사 냉장고, 서버 및 냉장고의 제어 방법

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11207031A (ja) * 1998-01-22 1999-08-03 Namco Ltd 携帯用通信玩具及び情報記憶媒体
JP3066762U (ja) * 1999-08-20 2000-03-07 ナツメ株式会社 会話玩具
JP2003090661A (ja) * 2001-09-20 2003-03-28 Hitachi Ltd 個室付き収納庫およびその制御方法
JP2004085173A (ja) * 2002-08-23 2004-03-18 Samsung Electronics Co Ltd 冷蔵庫及びその制御方法
JP2006061632A (ja) * 2004-08-30 2006-03-09 Ishisaki:Kk 感情データ提供装置、心理解析装置、および電話ユーザ心理解析方法
JP2006107401A (ja) * 2004-10-08 2006-04-20 Fujitsu Ltd 生体認証システムの登録方法、生体認証システム及びそのプログラム
US20060224050A1 (en) * 2005-03-30 2006-10-05 Lee Ik K Refrigerator for health care
JP2006293786A (ja) * 2005-04-12 2006-10-26 Biophilia Kenkyusho Kk 視線入力装置を備えた市場調査用機器
JP2008309369A (ja) * 2007-06-13 2008-12-25 Panasonic Corp 冷蔵庫
JP2009178783A (ja) * 2008-01-29 2009-08-13 Toyota Motor Corp コミュニケーションロボット及びその制御方法
JP2009198025A (ja) * 2008-02-19 2009-09-03 Keiko Asano 食品貯蔵庫
JP2012178092A (ja) * 2011-02-28 2012-09-13 Shinshu Univ ロボット装置
JP2014066407A (ja) * 2012-09-25 2014-04-17 Toshiba Corp 冷蔵庫
JP2014075045A (ja) * 2012-10-04 2014-04-24 Sharp Corp 制御装置、制御装置の制御方法、被制御装置、サーバ、制御プログラム、および記録媒体

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11207031A (ja) * 1998-01-22 1999-08-03 Namco Ltd 携帯用通信玩具及び情報記憶媒体
JP3066762U (ja) * 1999-08-20 2000-03-07 ナツメ株式会社 会話玩具
JP2003090661A (ja) * 2001-09-20 2003-03-28 Hitachi Ltd 個室付き収納庫およびその制御方法
JP2004085173A (ja) * 2002-08-23 2004-03-18 Samsung Electronics Co Ltd 冷蔵庫及びその制御方法
JP2006061632A (ja) * 2004-08-30 2006-03-09 Ishisaki:Kk 感情データ提供装置、心理解析装置、および電話ユーザ心理解析方法
JP2006107401A (ja) * 2004-10-08 2006-04-20 Fujitsu Ltd 生体認証システムの登録方法、生体認証システム及びそのプログラム
US20060224050A1 (en) * 2005-03-30 2006-10-05 Lee Ik K Refrigerator for health care
JP2006293786A (ja) * 2005-04-12 2006-10-26 Biophilia Kenkyusho Kk 視線入力装置を備えた市場調査用機器
JP2008309369A (ja) * 2007-06-13 2008-12-25 Panasonic Corp 冷蔵庫
JP2009178783A (ja) * 2008-01-29 2009-08-13 Toyota Motor Corp コミュニケーションロボット及びその制御方法
JP2009198025A (ja) * 2008-02-19 2009-09-03 Keiko Asano 食品貯蔵庫
JP2012178092A (ja) * 2011-02-28 2012-09-13 Shinshu Univ ロボット装置
JP2014066407A (ja) * 2012-09-25 2014-04-17 Toshiba Corp 冷蔵庫
JP2014075045A (ja) * 2012-10-04 2014-04-24 Sharp Corp 制御装置、制御装置の制御方法、被制御装置、サーバ、制御プログラム、および記録媒体

Cited By (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017106671A (ja) * 2015-12-10 2017-06-15 三菱電機株式会社 冷蔵庫、冷蔵庫内画像管理システムおよびプログラム
JP2017146057A (ja) * 2016-02-19 2017-08-24 東芝ライフスタイル株式会社 冷蔵庫
JP2017161143A (ja) * 2016-03-09 2017-09-14 東芝ライフスタイル株式会社 冷蔵庫
JP2017211168A (ja) * 2016-05-27 2017-11-30 シャープ株式会社 冷蔵庫、および広告表示プログラム
JP2022008396A (ja) * 2016-08-31 2022-01-13 ソニーグループ株式会社 制御システム、プログラム、および制御方法
JP2022003546A (ja) * 2016-08-31 2022-01-11 ソニーグループ株式会社 制御システム、プログラム、および制御方法
US11594158B2 (en) 2016-11-14 2023-02-28 Sony Group Corporation Information processing device, information processing method, and recording medium
JPWO2018087972A1 (ja) * 2016-11-14 2019-09-26 ソニー株式会社 情報処理装置、情報処理方法、および記録媒体
US11094228B2 (en) 2016-11-14 2021-08-17 Sony Corporation Information processing device, information processing method, and recording medium
JP7074066B2 (ja) 2016-11-14 2022-05-24 ソニーグループ株式会社 情報処理装置、情報処理方法、記録媒体、およびプログラム
WO2018087972A1 (ja) * 2016-11-14 2018-05-17 ソニー株式会社 情報処理装置、情報処理方法、および記録媒体
JP2022009488A (ja) * 2017-05-12 2022-01-14 シャープ株式会社 制御装置
JP2018194193A (ja) * 2017-05-12 2018-12-06 シャープ株式会社 制御装置、冷蔵庫、冷蔵システム、制御方法、および制御プログラム
CN110123080A (zh) * 2018-02-09 2019-08-16 松下知识产权经营株式会社 开放式展示柜
JP2018112402A (ja) * 2018-04-26 2018-07-19 東芝ライフスタイル株式会社 冷蔵庫
JP2020133985A (ja) * 2019-02-18 2020-08-31 ホシザキ株式会社 貯蔵庫
JP2020133986A (ja) * 2019-02-18 2020-08-31 ホシザキ株式会社 貯蔵庫
WO2020213394A1 (ja) * 2019-04-15 2020-10-22 ソニー株式会社 情報処理装置、情報処理方法、及び食品保管装置
WO2021066000A1 (ja) * 2019-09-30 2021-04-08 日本電気株式会社 店舗システム、店舗サーバ及び店舗システムの処理方法
CN112325557A (zh) * 2020-11-12 2021-02-05 四川长虹电器股份有限公司 一种基于物联网的智能公共冰箱系统
WO2023193756A1 (zh) * 2022-04-07 2023-10-12 海尔智家股份有限公司 制冷设备及其控制方法
JP7496945B1 (ja) 2023-03-08 2024-06-07 三菱電機株式会社 開閉制御システム、開閉装置、及び開閉制御方法
WO2024185052A1 (ja) * 2023-03-08 2024-09-12 三菱電機株式会社 開閉制御システム、開閉装置、及び開閉制御方法

Also Published As

Publication number Publication date
JP6336816B2 (ja) 2018-06-06

Similar Documents

Publication Publication Date Title
JP6336816B2 (ja) 冷蔵庫
JP6576560B2 (ja) 冷蔵庫、それを備えたネットワークシステム、生活状況の報知方法、及び生活状況の報知プログラム
KR101400730B1 (ko) 지능형 냉장고 및 지능형 냉장고를 제어하는 방법
US10495377B2 (en) Refrigerated enclosure with automated monitored refrigerated product safe health user access control
KR102023013B1 (ko) 냉장고 및 그 동작 방법
ES2765519T3 (es) Procedimiento y dispositivo para enviar y recibir información sobre un artículo
JP6745872B2 (ja) 冷蔵庫及びそれを含むネットワークシステム
AU2016415984B2 (en) Refrigerator system
CA3195427A1 (en) Velf-serve food locker assembly
US20180089973A1 (en) Refrigerator and home automation system having the same
KR20170029905A (ko) 식품 저장 장치 및 그 제어 방법
JP6080655B2 (ja) 冷蔵庫
JP6303127B2 (ja) 冷蔵庫
JP2018112402A (ja) 冷蔵庫
JP6939412B2 (ja) 冷蔵庫システム
CN109631453B (zh) 冰箱
US11131498B2 (en) Household electrical appliance and refrigerator
JP6629899B2 (ja) カメラシステム、冷蔵庫
JP2004323118A (ja) 在庫管理装置、収納庫及び冷蔵庫
JP6157516B2 (ja) 加熱調理器
CN108870861A (zh) 一种显示物品存放时长的冰箱
JP2008261549A (ja) キッチン設備制御システム
CN110398129B (zh) 冰箱、控制方法、计算机装置及计算机可读存储介质
JP2017142063A (ja) 冷蔵庫
US20190390898A1 (en) Domestic system and method for operating a domestic system

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20160628

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170209

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171109

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180403

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180507

R150 Certificate of patent or registration of utility model

Ref document number: 6336816

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150