この発明を実施するための形態について添付の図面を参照しながら説明する。各図において、同一又は相当する部分には同一の符号を付して、重複する説明は適宜に簡略化又は省略する。なお、本発明は以下の実施の形態に限定されることなく、本発明の趣旨を逸脱しない範囲で種々変形することが可能である。
実施の形態1.
図1から図13は、この発明の実施の形態1に係るもので、図1は冷蔵庫を備えた冷蔵庫システムの構成を示すブロック図、図2は冷蔵庫の正面図、図3は冷蔵庫の縦断面図、図4は冷蔵庫の制御系統の構成を示すブロック図、図5は図4の制御装置の構成を示すブロック図、図6は冷蔵庫システムが備える端末装置の構成を示すブロック図、図7は冷蔵庫システムが備えるサーバ装置の構成を示すブロック図、図8は端末装置の画面表示の一例を模式的に示す図、図9は端末装置の画面表示の一例を模式的に示す図、図10は端末装置の画面表示の一例を模式的に示す図、図11は冷蔵庫の音声再生及び録音動作の一例を示すフロー図、図12は冷蔵庫の画像送信動作の一例を示すフロー図、図13は端末装置の音声録音動作の一例を示すフロー図である。
図1に示すように、この発明の実施の形態1に係る冷蔵庫100を備えた冷蔵庫システムは、冷蔵庫100と、端末装置200と、サーバ装置300とを備えている。冷蔵庫100とサーバ装置300とは、相互に通信可能に接続されている。端末装置200とサーバ装置300とは、相互に通信可能に接続されている。なお、ここでは図示していないが、冷蔵庫100と端末装置200とを、相互に通信可能に接続してもよい。
端末装置200は、冷蔵庫100のユーザ(以下、「冷蔵庫ユーザ」という)の生活状況を見守るユーザ(以下、「見守りユーザ」という)に主に使用される。冷蔵庫100は、例えば、冷蔵庫ユーザの家宅内に設置される。端末装置200は、例えば、見守りユーザの家宅内に設置されるパソコン(パーソナル・コンピュータ)等である。他に例えば、端末装置200は、見守りユーザが使用するスマートフォン又はタブレット端末等の携帯端末でもよい。
サーバ装置300は、例えば、冷蔵庫ユーザの家宅内又は見守りユーザの家宅内に設置されるコンピュータ等である。なお、サーバ装置300は、冷蔵庫ユーザの家宅内及び見守りユーザの家宅内のいずれでもない場所に設置されていてもよい。
サーバ装置300と通信可能に接続される冷蔵庫100の数は、1つに限られず複数であってもよい。同様に、サーバ装置300と通信可能に接続される端末装置200の数は、1つに限られず複数であってもよい。また、サーバ装置300は、複数のサーバ(サーバ群)からなるクラウドサーバであってもよい。
まず、図2から図4を参照しながら、この発明の実施の形態1に係る冷蔵庫100の構成について説明する。冷蔵庫100は、図3に示すように断熱箱体1を有している。断熱箱体1は、前面(正面)が開口されて内部に貯蔵空間が形成されている。断熱箱体1は、外箱、内箱及び断熱材を有している。外箱は鋼鉄製である。内箱は樹脂製である。内箱は外箱の内側に配置される。断熱材は、例えば発泡ウレタン等であり、外箱と内箱との間の空間に充填されている。断熱箱体1の内部に形成された貯蔵空間は、1つ又は複数の仕切り部材により、食品を収納保存する複数の貯蔵室に区画されている。
図2及び図3に示すように、ここでは、冷蔵庫100は、複数の貯蔵室として、例えば、冷蔵室10、切替室20、製氷室30、冷凍室40及び野菜室50を備えている。これらの貯蔵室は、断熱箱体1において上下方向に4段構成となって配置されている。
冷蔵室10は、断熱箱体1の最上段に配置されている。切替室20は冷蔵室10の下方における左右の一側に配置されている。切替室20の保冷温度帯は、複数の温度帯のうちのいずれかを選択して切り替えることができる。切替室20の保冷温度帯として選択可能な複数の温度帯は、例えば、冷凍温度帯(例えば−18℃程度)、冷蔵温度帯(例えば3℃程度)、チルド温度帯(例えば0℃程度)及びソフト冷凍温度帯(例えば−7℃程度)等である。製氷室30は、切替室20の側方に隣接して切替室20と並列に、すなわち、冷蔵室10の下方における左右の他側に配置されている。
冷凍室40は、切替室20及び製氷室30の下方に配置されている。冷凍室40は、主に貯蔵対象を比較的長期にわたって冷凍保存する際に用いるためのものである。野菜室50は、冷凍室40の下方の最下段に配置されている。野菜室50は、主に野菜や容量の大きな(例えば2L等)の大型ペットボトル等を収納するためのものである。
冷蔵室10の前面に形成された開口部には、当該開口部を開閉する回転式の冷蔵室扉7が設けられている。ここでは、冷蔵室扉7は両開き式(観音開き式)であり、右扉7a及び左扉7bにより構成されている。冷蔵庫100の前面の冷蔵室扉7(例えば、左扉7b)の外側表面には、操作パネル6が設けられている。
冷蔵室10以外の各貯蔵室(切替室20、製氷室30、冷凍室40及び野菜室50)は、それぞれ引き出し式の扉によって開閉される。これらの引き出し式の扉は、扉に固定して設けられたフレームを各貯蔵室の左右の内壁面に水平に形成されたレールに対してスライドさせることにより、冷蔵庫100の奥行方向(前後方向)に開閉できるようになっている。
冷蔵室扉7の内側の面には、カメラ9が設置されている。カメラ9は、貯蔵室(ここでは冷蔵室10)の内部を撮影して貯蔵室画像を出力する。カメラ9は、冷蔵室10の内部の天井面から最下部のチルド室までを視野範囲としている。すなわち、カメラ9は、冷蔵室扉7側から冷蔵室10の内部を見た冷蔵庫ユーザと同じ視点から、冷蔵室10の内部を撮影することができる。
なお、カメラ9の設置位置は、図3に示すような冷蔵室扉7の内側の面に限られない。カメラ9は、冷蔵室10の棚板に載置される食品等の収納物を撮影できる位置であればどこに設置してもよい。また、カメラ9の設置数は1つに限られない。すなわち、複数のカメラ9を設置してもよい。カメラ9を複数設置することで、冷蔵室10内に収納された食品等により視野が遮られて死角が生じることを抑制することができる。さらに、冷蔵室10に限らず他の貯蔵室にカメラ9を設置してもよい。
冷蔵庫100は、各貯蔵室へ供給する空気を冷却する冷凍サイクル回路を備えている。冷凍サイクル回路は、圧縮機2、凝縮器(図示せず)、絞り装置(図示せず)及び冷却器3等によって構成されている。圧縮機2は、冷凍サイクル回路内の冷媒を圧縮し吐出する。凝縮器は、圧縮機2から吐出された冷媒を凝縮させる。絞り装置は、凝縮器から流出した冷媒を膨張させる。冷却器3は、絞り装置で膨張した冷媒によって各貯蔵室へ供給する空気を冷却する。圧縮機2は、例えば、冷蔵庫100の背面側の下部に配置される。
冷蔵庫100には、冷凍サイクル回路によって冷却された空気を各貯蔵室へ供給するための風路5が形成されている。この風路5は、主に冷蔵庫100内の背面側に配置されている。冷凍サイクル回路の冷却器3は、この風路5内に設置される。また、風路5内には、冷却器3で冷却された空気を各貯蔵室へ送るための送風ファン4も設置されている。
送風ファン4が動作すると、冷却器3で冷却された空気(冷気)が風路5を通って冷凍室40、切替室20、製氷室30及び冷蔵室10へと送られ、これらの貯蔵室内を冷却する。野菜室50は、冷蔵室10からの戻り冷気を冷蔵室用帰還風路を介して野菜室50内に導入することで冷却される。野菜室50を冷却した冷気は、野菜室用帰還風路を通って冷却器3のある風路5内へと戻される(これらの帰還風路は図示せず)。そして、冷却器3によって再度冷却されて、冷蔵庫100内を冷気が循環される。
風路5からそれぞれの貯蔵室へと通じる中途の箇所には、図示しないダンパが設けられている。各ダンパは、風路5の各貯蔵室へと通じる箇所を開閉する。ダンパの開閉状態を変化させることで、各貯蔵室へと供給する冷気の送風量を調節することができる。また、冷気の温度は圧縮機2の運転を制御することで調節することができる。
以上のようにして設けられた圧縮機2及び冷却器3からなる冷凍サイクル回路、送風ファン4、風路5及びダンパは、貯蔵室の内部を冷却する冷却手段を構成している。
冷蔵庫100の例えば背面側の上部には、制御装置8が収容されている。制御装置8には、冷蔵庫100の動作に必要な各種の制御を実施するための制御回路等が備えられている。
次に、図4を参照しながら、冷蔵庫100の制御系統の構成を説明する。制御装置8は、例えばマイクロコンピュータを備えており、プロセッサ8a及びメモリ8bを備えている。制御装置8は、メモリ8bに記憶されたプログラムをプロセッサ8aが実行することにより、予め設定された処理を実行し、冷蔵庫100を制御する。
操作パネル6は、操作部6a、表示部6b、マイク6c及びスピーカ6dを備えている。操作部6aは、各貯蔵室の保冷温度及び冷蔵庫100の動作モード(解凍モード等)を設定するための操作スイッチである。表示部6bは、各貯蔵室の温度等の各種情報を表示する液晶ディスプレイである。また、操作パネル6は、操作部6aと表示部6bを兼ねるタッチパネルを備えていてもよい。
マイク6cは、冷蔵庫100の周囲の音声、特に冷蔵室扉7の前に立つ冷蔵庫ユーザが発した声を入力するための音声入力装置である。スピーカ6dは、冷蔵庫100の周囲、特に冷蔵室扉7の前に立つ冷蔵庫ユーザに対して、音声を鳴らすための音声出力装置である。
冷蔵庫100は、サーミスタ91及び扉開閉検知スイッチ92を備えている。サーミスタ91は、各貯蔵室内の温度を検出する。サーミスタ91は、それぞれの貯蔵室に設置される。扉開閉検知スイッチ92は、貯蔵室の扉の開閉を検知する開閉検知手段である。扉開閉検知スイッチ92は、例えば、冷蔵室10の冷蔵室扉7の開閉を検知する。扉開閉検知スイッチ92は、例えば、一般的なマグネット方式のスイッチである。すなわち、扉開閉検知スイッチ92は、例えば、冷蔵室扉7に埋め込まれた磁石の近接を、冷蔵庫100本体側に設置された一対のリードスイッチによって検出する。
制御装置8には、サーミスタ91から各貯蔵室の内部の温度の検知信号が入力される。また、制御装置8には、操作パネル6の操作部6aからの操作信号も入力される。さらに、制御装置8には、扉開閉検知スイッチ92からの検知信号も入力される。
制御装置8は、入力された信号に基づいて、各貯蔵室の内部が設定された温度に維持されるように、圧縮機2及び送風ファン4等の動作を制御する処理を実行する。すなわち、制御装置8は前述した冷却手段等を制御して、冷蔵庫100の動作を制御する。
次に、図4に加えて図5から図7も参照して、以上のように構成された冷蔵庫100を備えた冷蔵庫システムの構成について説明する。前述したように、冷蔵庫システムは、冷蔵庫100と、端末装置200と、サーバ装置300とを備えている。図5に示すように、冷蔵庫100の制御装置8は、再生音声決定部101、冷蔵庫音声再生部102、冷蔵庫録音部103、音声識別部104、撮像部105及び冷蔵庫通信部110を備えている。また、図6に示すように、端末装置200は、端末録音部201、再生順位設定部202、端末音声再生部203、画像表示部204及び端末通信部210を備えている。そして、図7に示すように、サーバ装置300は、記憶部301及びサーバ通信部310を備えている。
冷蔵庫通信部110は、冷蔵庫100とサーバ装置300との間で、データを双方向に通信するためのものである。また、端末通信部210は、端末装置200とサーバ装置300との間で、データを双方向に通信するためのものである。そして、サーバ通信部310は、サーバ装置300と冷蔵庫100との間、及び、サーバ装置300と端末装置200との間のそれぞれで、データを双方向に通信するためのものである。
端末録音部201は、端末装置200の見守りユーザが発した音声を録音するためのものである。端末装置200には、図示しないマイク等の音声入力装置が備えられ、又は、接続されている。端末録音部201は、端末装置200の音声入力装置に入力された音声を録音し、音声データとして保存する。
再生順位設定部202は、端末録音部201が録音した音声データについて、再生順位を設定するためのものである。再生順位とは、1以上の音声データについて、冷蔵庫100の冷蔵庫音声再生部102で再生する順位のことである。見守りユーザは端末装置200を操作して、端末録音部201が録音したそれぞれの音声データについて、再生順位を設定することができる。再生順位設定部202は、見守りユーザによる端末装置200への操作内容に従って、端末録音部201が録音したそれぞれの音声データについて、再生順位を設定する。
そして、再生順位設定部202は、設定された再生順位に基づいて、再生順位指定データを生成する。再生順位指定データには、1以上の音声データについて、再生順位設定部202で設定された再生順位を指定する情報が含まれている。
なお、見守りユーザは、再生順位を直接的にではなく間接的に設定できるようにしてもよい。間接的な再生順位の設定とは、具体的に例えば、各音声データに重要度を設定し、各音声データの重要度に基づいて、各音声データの再生順位を設定すること等が挙げられる。この場合には、重要度が高い音声データほど、再生順位は上になる。重要度が同じ音声データが複数あった場合には、例えば、録音時刻が遅い、すなわち、より新しい音声データの再生順位が上になるようにする。なお、音声データが1つしかない場合には、当該音声データの再生順位は最上位に自動的に設定される。
端末通信部210は、端末録音部201で録音された音声データと、再生順位設定部202が生成した再生順位指定データとを、サーバ装置300へと送信する。
サーバ装置300のサーバ通信部310は、端末装置200から送信された音声データ及び再生順位指定データを受信する。サーバ装置300の記憶部301は、サーバ通信部310が受信した音声データ及び再生順位指定データを記憶する。すなわち、記憶部301は、端末装置200で録音された音声データ、及び、端末装置200で生成された再生順位指定データを記憶する記憶手段である。また、サーバ通信部310は、受信した音声データ及び再生順位指定データを、冷蔵庫100へと送信する。
冷蔵庫通信部110は、サーバ装置300から送信された音声データ及び再生順位指定データを受信する。すなわち、冷蔵庫通信部110は、音声データ及びこの音声データの再生順位指定データを外部から取得するデータ取得手段である。
再生音声決定部101は、冷蔵庫通信部110が受信した再生順位指定データに基づいて、冷蔵庫通信部110が受信した音声データのうちから、次回再生音声データを決定する。すなわち、再生音声決定部101は、再生順位指定データに基づいて、次回再生音声データを決定する再生音声決定手段である。ここで、次回再生音声データとは、次に扉開閉検知スイッチ92が冷蔵室扉7の開閉を検知した時に再生する音声データである。
具体的には、再生音声決定部101は、データ取得手段である冷蔵庫通信部110が取得した音声データのうちで、再生順位指定データによって最上位の再生順位が指定されている音声データを、次回再生音声データに決定する。この際、再生音声決定部101は、冷蔵庫音声再生部102及びスピーカ6dが未だ再生していない音声データのうちから、次回再生音声データを決定するようにするとよい。また、再生音声決定部101は、最後に扉開閉検知スイッチ92が冷蔵室扉7の開閉を検知した時以降に冷蔵庫通信部110が取得した音声データのうちから、次回再生音声データを決定するようにしてもよい。
さらに、再生音声決定部101は、再生順位指定データと現在時刻とに基づいて、次回再生音声データを決定するようにしてもよい。具体的に例えば、音声データの内容が冷蔵室10内の食品の賞味期限等を知らせるものであった場合、現在時刻が当該賞味期限を過ぎているときには、再生音声決定部101は、再生順位指定データにかかわらず、当該音声データを次回再生音声データに決定する。
冷蔵庫音声再生部102は、扉開閉検知スイッチ92が冷蔵室扉7の開閉を検知した場合に、再生音声決定部101が決定した次回再生音声データをスピーカ6dに再生させる。そして、スピーカ6dは次回再生音声データを鳴らして、冷蔵庫ユーザに次回再生音声データの内容を音声で知らせる。すなわち、スピーカ6d及び冷蔵庫音声再生部102は、開閉検知手段が扉の開閉を検知した場合に、再生音声決定手段が決定した次回再生音声データを再生する音声再生手段を構成している。
冷蔵庫録音部103は、冷蔵庫100のマイク6cに入力された音声を録音する。冷蔵庫録音部103は、冷蔵庫音声再生部102による次回再生音声データのスピーカ6dでの再生が終了した後に、音声の録音を開始する。すなわち、冷蔵庫録音部103及びマイク6cは、音声再生手段が次回再生音声データの再生を終了した後に音声を録音する録音手段を構成している。
冷蔵庫通信部110は、冷蔵庫録音部103が録音した音声を対象音声データとしてサーバ装置300へと送信する。したがって、冷蔵庫通信部110は、録音手段が録音した音声を対象音声データとして外部に送信するデータ送信手段でもある。
この際、冷蔵庫通信部110は、冷蔵庫録音部103が録音した音声に人の声が含まれる場合に、当該音声を対象音声データとして送信するようにしてもよい。このために、制御装置8は音声識別部104を備えている。音声識別部104は、冷蔵庫録音部103が録音した音声を解析し、当該音声に人の声が含まれているか否かを判定する。そして、音声識別部104によって冷蔵庫録音部103が録音した音声に人の声が含まれていると判定された場合には、冷蔵庫通信部110は、当該音声を対象音声データとして送信する。
なお、音声識別部104による冷蔵庫録音部103が録音した音声の解析は、既存の公知技術を用いて行うことができる。そのような既存の公知技術として、具体的に例えば、メル周波数ケプストラム係数(MFCC:Mel−frequency cepstral coefficients)、隠れマルコフモデル(HMM:Hidden Markov Model)等が挙げられる。
サーバ装置300のサーバ通信部310は、冷蔵庫100から送信された対象音声データを受信する。記憶部301は、サーバ通信部310が受信した対象音声データを記憶する。すなわち、記憶手段である記憶部301は、データ送信手段が送信した対象音声データをさらに記憶する。そして、サーバ通信部310は、受信した対象音声データを、端末装置200へと送信する。
端末装置200の端末通信部210は、サーバ装置300から送信された対象音声データを受信する。端末音声再生部203は、端末通信部210が受信した対象音声データを再生し、その内容を見守りユーザに音声で知らせるためのものである。このため、端末装置200には、図示しないスピーカ等の音声出力装置が備えられ、又は、接続されている。端末音声再生部203は、対象音声データを端末装置200の音声出力装置に再生させる。そして、端末装置200の音声出力装置は対象音声データを鳴らして、見守りユーザに対象音声データの内容を音声で知らせる。このようにして、端末装置200は、サーバ装置300の記憶手段に記憶された対象音声データを取得して再生可能である。
以上のように構成された冷蔵庫100及びこの冷蔵庫100を備えた冷蔵庫システムにおいては、冷蔵庫100の扉を開閉するという冷蔵庫ユーザの日常的な動作をきっかけにして、見守りユーザからの音声データのメッセージを冷蔵庫ユーザに伝えることができる。この際、見守りユーザからの音声データが複数ある場合であっても、再生音声決定部101が再生順位指定データに基づいて適切な音声データを選択して次回再生音声データを決定する。このため、冷蔵庫100の扉を開閉するという冷蔵庫ユーザの日常的な動作だけで、見守りユーザの意図に沿った音声データを冷蔵庫ユーザに対して再生することが可能である。
また、見守りユーザからの音声データを冷蔵庫ユーザに対して再生した後に、自動的に冷蔵庫ユーザの声を録音し、この録音された冷蔵庫ユーザの声を見守りユーザは端末装置200で確認することができる。したがって、冷蔵庫ユーザの特別な操作等を必要とすることなく、冷蔵庫ユーザと見守りユーザとの間での適切な双方向コミュニケーションを支援することができる。
さらに、見守りユーザによる音声データの録音と冷蔵庫ユーザに対する当該音声データの再生、及び、冷蔵庫ユーザによる対象音声データの録音と見守りユーザによる当該対象音声データの再生は、いずれもリアルタイムで同時に行われる必要がない。このため、時間に縛られることなく、コミュニケーションを図ることが可能である。
なお、以上においては、録音手段である冷蔵庫録音部103及びマイク6cは、冷蔵庫音声再生部102による次回再生音声データの再生が終了した後に、音声の録音を開始する例について説明した。しかし、録音手段が音声の録音を開始するタイミングはこれに限られない。冷蔵庫録音部103は、扉開閉検知スイッチ92が冷蔵室扉7の開閉を検知した場合に録音すれば、次回再生音声データの再生が終了する前に音声の録音を開始しても構わない。
次回再生音声データの再生中に録音を開始する場合、スピーカ6dで再生される次回再生音声データの音声がマイク6cに入力され、冷蔵庫録音部103が録音する音声に、次回再生音声データの音声が重なってしまう可能性がある。そこで、冷蔵庫録音部103は、冷蔵庫音声再生部102から再生中の次回再生音声データを取得し、マイク6cに入力された音声信号から次回再生音声データを除去したものを、録音するようにしてもよい。
次に、図8及び図9を参照しながら、以上のように構成された端末装置200における画面表示例について説明する。端末装置200は、前述したようにパソコン、スマートフォン、タブレット端末等である。端末装置200は、各種の画面を表示可能な表示装置を備えている。表示装置は、例えば液晶ディスプレイ等である。
図8に示すのは、端末装置200に表示される冷蔵庫ユーザ一覧画面400の一例である。この冷蔵庫ユーザ一覧画面400の例では、冷蔵庫ユーザ通し番号401、冷蔵庫ユーザ名402、冷蔵庫ユーザ年齢403、冷蔵庫ユーザ同居情報404、冷蔵庫ユーザ住所405及び最終確認日406等の各種の情報が、当該端末装置200の見守り対象である冷蔵庫ユーザ毎に一覧で表示されている。なお、最終確認日406は、端末装置200で当該冷蔵庫ユーザの詳細情報を最後に確認した日時である。
また、冷蔵庫ユーザ一覧画面400には、冷蔵庫ユーザ毎に詳細情報表示ボタン407が表示されている。詳細情報表示ボタン407を操作すると、当該操作したボタンに対応する冷蔵庫ユーザの詳細情報を表示する冷蔵庫ユーザ詳細画面に遷移する。
図9に示すのは、端末装置200に表示される冷蔵庫ユーザ詳細画面(音声のみ)500の一例である。冷蔵庫ユーザ一覧画面400の詳細情報表示ボタン407を操作すると、対応する冷蔵庫ユーザの冷蔵庫ユーザ詳細画面(音声のみ)500が端末装置200に表示される。
図9に示す冷蔵庫ユーザ詳細画面(音声のみ)500の例では、戻るボタン501、冷蔵庫ユーザ基本情報510、録音開始ボタン520、冷蔵庫情報リスト530、見守る側の音声情報リスト540、見守られる側の音声情報リスト550及び再生順位設定選択部560が表示されている。
戻るボタン501を操作すると、冷蔵庫ユーザ一覧画面400に戻ることができる。録音開始ボタン520を操作すると、端末録音部201による録音が開始され、前述の音声データを作成することができる。端末録音部201による録音中は、録音開始ボタン520が録音停止ボタンに変化する。
冷蔵庫情報リスト530には、ドア開閉タイミング情報531とドア開時間情報532とが含まれている。これらの情報は、冷蔵庫100の扉開閉検知スイッチ92の検知結果をもとにして作成される。
見守る側の音声情報リスト540には、端末装置200で録音された音声データの情報のリストが表示されている。見守る側の音声情報リスト540には、作成日時541、重要度チェックボックス542、再生ボタン543及び次回再生チェックボックス544が含まれている。作成日時541は、当該音声データが録音された日時である。見守りユーザが重要度チェックボックス542を操作することで、当該音声データの重要度を設定することができる。この例では、重要度チェックボックス542にチェックが入っている状態にすると、当該音声データの重要度を「高」に設定することができる。また、重要度チェックボックス542のチェックが外れた状態にすると、当該音声データの重要度を「低」に設定することができる。
見守りユーザが再生ボタン543を操作すると、端末装置200で当該音声データを再生し、見守りユーザはその内容を確認することができる。見守りユーザが次回再生チェックボックス544を操作することで、当該音声データを冷蔵庫100側で再生させるか否かを設定することができる。この例では、次回再生チェックボックス544にチェックが入っている状態にすると、当該音声データを次回の冷蔵室扉7の開閉時に再生する設定にすることができる。また、次回再生チェックボックス544のチェックが外れた状態にすると、当該音声データを次回の冷蔵室扉7の開閉時に再生しない設定にすることができる。
なお、見守る側の音声情報リスト540には、当該音声データが冷蔵庫100で再生されたか否かを示す情報も表示される。図9の例では、冷蔵庫100で未再生の音声データには、「未再生」マークが表示されている。
見守られる側の音声情報リスト550には、冷蔵庫100で録音された対象音声データの情報のリストが表示されている。見守られる側の音声情報リスト550には、作成日時551及び再生ボタン552が含まれている。作成日時551は、当該対象音声データが録音された日時である。見守りユーザが再生ボタン552を操作すると、端末音声再生部203が当該対象音声データを再生し、見守りユーザはその内容を確認することができる。
再生順位設定選択部560は、再生順位設定部202が再生順位を設定する際の再生順位設定部202の動作内容に関する設定を行うためのものである。再生順位設定選択部560を操作することで、例えば、以下についての設定を行うことができる。
・重要度チェックボックス542のチェック状態を再生順位に反映するか否か
・特段の指定がない場合の既定の動作として、最新の音声の再生順位を上位にするか否か
・特段の指定がない場合の既定の動作として、未再生の音声を全て再生するか否か
ここで、前述したように、冷蔵庫100は、貯蔵室(冷蔵室10)の内部を撮影するカメラ9を備えている。そこで、例えば以下に説明する構成によって、カメラ9が撮影した冷蔵室10の内部の画像を端末装置200で確認できるようにしてもよい。すなわち、図5に示すように、冷蔵庫100の制御装置8は、撮像部105を備えている。撮像部105は、カメラ9の撮影動作を制御する。そして、撮像部105は、カメラ9が撮影した貯蔵室内の画像を取得する。
具体的には、撮像部105は、例えば扉開閉検知スイッチ92が冷蔵室扉7の開閉を検知した時に、カメラ9に冷蔵室10内を撮影させる。より詳しくは、撮像部105は、例えば、開かれていた冷蔵室扉7が閉じられたことを検知した後、冷蔵室10内が照明されている間にカメラ9に撮影を行わせる。そして、カメラ9が撮影した冷蔵室10内の画像は、撮像部105へと送られる。このようにして、カメラ9及び撮像部105は、貯蔵室の内部の画像を撮影する撮像手段を構成している。
冷蔵庫通信部110は、カメラ9が撮影した冷蔵室10内の画像を画像データとしてサーバ装置300へと送信する。すなわち、データ送信手段である冷蔵庫通信部110は、撮像手段が録音した画像を画像データとして外部に送信する。
図7に示すサーバ装置300のサーバ通信部310は、冷蔵庫100から送信された画像データを受信する。記憶部301は、サーバ通信部310が受信した画像データを記憶する。すなわち、記憶手段である記憶部301は、データ送信手段が送信した画像データをさらに記憶する。そして、サーバ通信部310は、受信した画像データを、端末装置200へと送信する。
図6に示す端末装置200の端末通信部210は、サーバ装置300から送信された画像データを受信する。図6に示すように、端末装置200は、画像表示部204を備えている。画像表示部204は、端末通信部210が受信した画像データを、端末装置200の表示装置に表示させる。そして、見守りユーザは,端末装置200の表示装置表示された画像データを確認することができる。このようにして、端末装置200は、サーバ装置300の記憶手段に記憶された画像データを取得して表示可能である。
以上のように構成された冷蔵庫100及びこの冷蔵庫100を備えた冷蔵庫システムにおいては、見守りユーザは、冷蔵庫100の貯蔵室内の様子を端末装置200で確認することができる。また、見守りユーザは、冷蔵庫100の貯蔵室内の状況に合わせた音声データを録音することができ、冷蔵庫ユーザの食生活支援等を容易に行うことも可能である。
図10に示すのは、カメラ9が撮影した冷蔵室10の内部の画像を端末装置200で確認できる構成での、端末装置200に表示される冷蔵庫ユーザ詳細画面(音声及び画像)600の一例である。図8の冷蔵庫ユーザ一覧画面400の詳細情報表示ボタン407を操作すると、カメラ9が撮影した冷蔵室10の内部の画像を端末装置200で確認できる場合には、対応する冷蔵庫ユーザの冷蔵庫ユーザ詳細画面(音声及び画像)600が端末装置200に表示される。
図10に示す冷蔵庫ユーザ詳細画面(音声及び画像)600の例では、戻るボタン601、冷蔵庫ユーザ基本情報610、撮影日時621、622、623、貯蔵室内画像631、632、633、見守る側の音声再生ボタン641、642、見守られる側の音声再生ボタン651、652、653及び録音開始ボタン660が表示されている。
戻るボタン601を操作すると、冷蔵庫ユーザ一覧画面400に戻ることができる。貯蔵室内画像631、632、633は、カメラ9が撮影した冷蔵室10の内部の画像である。図10の例では、貯蔵室内画像631は撮影日時621のものである。また、貯蔵室内画像632は撮影日時622のものである。そして、貯蔵室内画像633は撮影日時623のものである。
図10の例では、貯蔵室内画像631に対応して見守る側の音声再生ボタン641が表示されている。また、貯蔵室内画像632に対応して見守る側の音声再生ボタン642が表示されている。そして、最新の貯蔵室内画像633については、見守る側の音声再生ボタンではなく録音開始ボタン660が対応して表示されている。
見守りユーザが録音開始ボタン660を操作すると、端末録音部201による録音が開始され、音声データを作成することができる。端末録音部201による録音中は、録音開始ボタン660が録音停止ボタンに変化する。この録音で作成された音声データは、最新の貯蔵室内画像633に対応付けられる。このようにして、それぞれの音声データは、当該音声データの作成時において最新の貯蔵室内画像に対応付けられる。
見守りユーザが見守る側の音声再生ボタン641、642を操作すると、各ボタンに対応する音声データを端末装置200で再生し、見守りユーザはその内容を確認することができる。図10の例では、見守る側の音声再生ボタン641を操作すると、貯蔵室内画像631に対応する音声データが再生される。また、見守る側の音声再生ボタン642を操作すると、貯蔵室内画像632に対応する音声データが再生される。
見守りユーザが見守られる側の音声再生ボタン651、652、653を操作すると、各ボタンに対応する対象音声データを端末音声再生部203が再生し、見守りユーザはその内容を確認することができる。図10の例では、見守られる側の音声再生ボタン651は、貯蔵室内画像631に対応している。したがって、見守られる側の音声再生ボタン651で再生される対象音声データは、貯蔵室内画像631に対応している。
また、見守られる側の音声再生ボタン652は、貯蔵室内画像632に対応している。したがって、見守られる側の音声再生ボタン652で再生される対象音声データは、貯蔵室内画像632に対応している。ただし、図10の例では、貯蔵室内画像632に対応する対象音声データは存在していない。このため、見守られる側の音声再生ボタン652を操作しても対象音声データは再生されない。なお、このように、対応する対象音声データが存在しない場合には、対応する見守られる側の音声再生ボタンを操作できないようにするとよい。
そして、見守られる側の音声再生ボタン653は、貯蔵室内画像633に対応している。したがって、見守られる側の音声再生ボタン653で再生される対象音声データは、貯蔵室内画像633に対応している。このようにして、それぞれの対象音声データは、当該対象音声データの録音時に撮影された画像データと対応付けられている。
次に、図11を参照しながら、以上のように構成された冷蔵庫100の音声再生及び録音動作の一例について説明する。冷蔵庫100が音声再生及び録音動作を開始すると(ステップS100)、まず、ステップS101において、制御装置8は、冷蔵室扉7が開いたことを扉開閉検知スイッチ92が検知したか否かを確認する。冷蔵室扉7が開いたことを扉開閉検知スイッチ92が検知しない場合、冷蔵室扉7が開いたことを扉開閉検知スイッチ92が検知するまで、処理はこのステップS101で待機する。そして、冷蔵室扉7が開いたことを扉開閉検知スイッチ92が検知すると、処理はステップS102へと進む。
ステップS102においては、冷蔵庫音声再生部102は、再生音声決定部101が決定した次回再生音声データをスピーカ6dに再生させる。ステップS102の後、処理はステップS103へと進む。
ステップS103においては、冷蔵庫録音部103は、冷蔵庫音声再生部102による次回再生音声データの再生が終了した後に、音声の録音を開始する。ステップS103の後、処理はステップS104へと進む。
ステップS104においては、冷蔵庫録音部103は、ステップS103で録音を開始してから、予め設定された一定時間が経過したか否かを確認する。録音開始から一定時間が経過していない場合には、処理はステップS105へと進む。
ステップS105においては、冷蔵庫録音部103は、冷蔵室扉7が閉まっていることを扉開閉検知スイッチ92が検知しているか否かを確認する。冷蔵室扉7が閉まっていることを扉開閉検知スイッチ92が検知していない場合には、処理はステップS104へと戻る。
一方、ステップS105で冷蔵室扉7が閉まっていることを扉開閉検知スイッチ92が検知している場合には、処理はステップS106へと進む。また、ステップS104で録音開始から一定時間が経過した場合も、処理はステップS106へと進む。この場合には、処理はステップS105を経ることなく、ステップS104から直接ステップS106へと進む。ステップS106においては、冷蔵庫録音部103は、音声の録音を停止する。ステップS106の後、処理はステップS107へと進む。
ステップS107においては、音声識別部104は、ステップS103からステップS106までで冷蔵庫録音部103が録音した音声に人の声が含まれているか否かを確認する。冷蔵庫録音部103が録音した音声に人の声が含まれている場合、処理はステップS108へと進む。ステップS108においては、音声識別部104は、冷蔵庫録音部103が録音した音声に人の声が含まれていると判定する。
一方、ステップS107で、冷蔵庫録音部103が録音した音声に人の声が含まれていない場合、処理はステップS109へと進む。ステップS109においては、制御装置8は、ステップS103からステップS106までで冷蔵庫録音部103が録音した音声のデータを削除する。ステップS109の後、処理はステップS110へと進む。ステップS110においては、音声識別部104は、冷蔵庫録音部103が録音した音声に人の声が含まれていないと判定する。ステップS108又はステップS110の処理が完了すると、冷蔵庫100の一連の音声再生及び録音動作は終了となる。
次に、図12を参照しながら、以上のように構成された冷蔵庫100の画像送信動作の一例を説明する。図11に示す冷蔵庫100の音声再生及び録音動作のフロー中のステップS101で冷蔵室扉7が開いたことを扉開閉検知スイッチ92が検知した場合、図11のフローのステップS102以降と並行して、図12に示す画像送信動作が実行される。
冷蔵庫100が画像送信動作を開始すると(ステップS200)、まず、ステップS201において、撮像部105は、冷蔵室扉7が閉まったことを扉開閉検知スイッチ92が検知したか否かを確認する。冷蔵室扉7が閉まったことを扉開閉検知スイッチ92が検知しない場合、冷蔵室扉7が閉まったことを扉開閉検知スイッチ92が検知するまで、処理はこのステップS201で待機する。そして、冷蔵室扉7が閉まったことを扉開閉検知スイッチ92が検知すると、処理はステップS202へと進む。
ステップS202においては、撮像部105は、ステップS201で冷蔵室扉7が閉まったことを扉開閉検知スイッチ92が検知してから、予め設定された一定時間が経過したか否かを確認する。このステップS202の一定時間は、前述したステップS104の一定時間とは別個に設定される。冷蔵室扉7が閉まったことを扉開閉検知スイッチ92が検知してから一定時間が経過していない場合、一定時間が経過するまで、処理はこのステップS202で待機する。そして、一定時間が経過すると、処理はステップS203へと進む。
ステップS203においては、撮像部105は、カメラ9に貯蔵室の内部の画像を撮影させる。そして、撮像部105は、カメラ9が撮影した貯蔵室の内部の画像を取得する。ステップS203の後、処理はステップS204へと進む。
ステップS204においては、冷蔵庫通信部110は、ステップS203で撮影した貯蔵室の内部の画像の画像データをサーバ装置300へと送信する。また、このステップS204では、図11のステップS108が実行されて人の声が含まれていると判定された音声が録音されている場合に、冷蔵庫通信部110は、人の声が含まれている当該音声を対象音声データとして併せてサーバ装置300へと送信する。ステップS204の処理が完了すると、冷蔵庫100の一連の画像送信動作は終了となる。
次に、図13を参照しながら、以上のように構成された端末装置200の音声録音動作の一例を説明する。端末装置200が音声録音動作を開始すると(ステップS300)、まず、ステップS301において、端末録音部201は、図9に示す冷蔵庫ユーザ詳細画面(音声のみ)500の録音開始ボタン520、又は、図10に示す冷蔵庫ユーザ詳細画面(音声及び画像)600の録音開始ボタン660が操作されたか否かを確認する。録音開始ボタンが操作されない場合、端末装置200の音声録音動作は終了する。一方、録音開始ボタンが操作された場合、処理はステップS302へと進む。
ステップS302においては、端末録音部201は、音声の録音を開始する。ステップS302の後、処理はステップS303へと進む。ステップS303においては、端末録音部201は、ステップS302で録音を開始してから、予め設定された一定時間が経過したか否かを確認する。このステップS303の一定時間は、前述したステップS104及びステップS202の一定時間とは別個に設定される。録音開始から一定時間が経過していない場合には、処理はステップS304へと進む。
ステップS304においては、端末録音部201は、冷蔵庫ユーザ詳細画面(音声のみ)500の図示しない録音停止ボタン、又は、冷蔵庫ユーザ詳細画面(音声及び画像)600の図示しない録音停止ボタンが操作されたか否かを確認する。録音停止ボタンが操作されない場合、処理はステップS303へと戻る。
一方、ステップS304で録音停止ボタンが操作された場合には、処理はステップS305へと進む。また、ステップS303で録音開始から一定時間が経過した場合も、処理はステップS305へと進む。この場合には、処理はステップS304を経ることなく、ステップS303から直接ステップS305へと進む。ステップS305においては、端末録音部201は、音声の録音を停止する。ステップS305の後、処理はステップS306へと進む。
ステップS306においては、端末通信部210は、ステップS302からステップS305までで録音した音声データをサーバ装置300へと送信する。また、このステップS306では、端末通信部210は、再生順位設定部202が生成した再生順位指定データも併せてサーバ装置300へと送信する。ステップS306の処理が完了すると、端末装置200の一連の音声録音動作は終了となる。ステップS110の処理が完了すると、冷蔵庫100の一連の音声再生及び録音動作は終了となる。
なお、以上のように構成された冷蔵庫システムにおいて、1つの冷蔵庫100で録音された対象音声データを複数の端末装置200で再生できるようにする場合、どの端末装置200で再生させるかを冷蔵庫ユーザが選択できるようにしてもよい。このような構成の活用場面として、具体的に例えば、冷蔵庫ユーザが高齢者であって、この高齢者の家族と施設スタッフとが見守りユーザとしてそれぞれ別の端末装置200を使用している場合が考えられる。
この場合、例えば、通常時は施設スタッフの端末装置200に対象音声データを送信する。そして、特定のボタンを押したときだけ、家族の端末装置200に対象音声データを送信できるようにする。このようにすることで、冷蔵庫ユーザが施設スタッフに伝えたくないことは、家族にだけ伝えることができ、プライバシーを確保することが可能である。
また、端末装置200に貯蔵室内の画像データを送信する場合、端末装置200は、画像データの時間変化から冷蔵庫ユーザによる食材の推定消費量を算出するようにしてもよい。さらに、端末装置200は、消費された食材の種類を判別し、冷蔵庫ユーザの栄養状態を評価できるようにしてもよい。このようにすることで、見守りユーザは、冷蔵庫ユーザの食生活及び栄養状態について容易に把握することができる。
また、冷蔵庫100の制御装置8は、端末装置200で録音された音声データの内容を解析し、音声の内容に合わせて、冷蔵庫100の動作を制御してもよい。音声データの内容が冷蔵室10内の特定の食品に関するものであった場合、当該食品の位置が冷蔵庫ユーザに分かるように、例えば当該食品の位置をLED等で照らすようにしてもよい。