JP2022125367A - システム、冷蔵庫 - Google Patents

Abstract

【課題】音声だけでレシピ検索が容易にできる冷蔵庫の提供。【解決手段】外部からの音声を認識する音声認識手段と、音声認識手段による音声情報を外部機器に伝送する通信手段と、外部機器から受信した情報を表示する表示手段と、表示手段に表示された食材に関連するレシピを検索する検索手段と、扉の開閉を検知する扉開閉検知手段と、貯蔵庫前の人の在否を感知する人感センサとを備え、扉の開を検知したときや人感センサで人がいることを検知した場合に前記音声認識手段を動作させ、食品の名称を音声入力することが可能となり、音声だけでレシピ検索が容易にできる。またドア開閉や人感センサに連動させることによって、常に音声認識手段を動作させなくて済むため、誤認識を防ぐことができるとともに省エネにもなる。【選択図】図２９

Description

本発明は、貯蔵庫内の食品に関連するレシピを音声だけで検索することができる冷蔵庫に関する。

一般にこの種の冷蔵庫及び冷蔵システムは数多くのものが提案されている。例えば、特許文献１に記載されている冷蔵庫及び冷蔵システムは、貯蔵庫内に小型カメラを設け、この小型カメラで撮影した貯蔵庫内の食品収納状況を、インターネット回線を介して携帯電話等の表示端末により確認できるように構成してある。

また、特許文献２にも特許文献１と同様の冷蔵庫及び冷蔵システムが開示してあり、この特許文献１に記載のものは冷蔵庫の扉を閉じたときに小型カメラで貯蔵庫内の食品状態を撮影するように構成してある。

さらに、特許文献３に記載されている冷蔵庫及び冷蔵システムは、特許文献１記載の構成に加えて、更に冷蔵庫の表面に表示端末を設け、この表示端末は冷蔵庫表面に組み込んだ固定端末機と冷蔵庫表面から取り外して持ち歩ける携帯電話等の表示端末とで構成し、前記両端末はインターネット回線を介して小型カメラで撮影した貯蔵庫内の食品収納状況をその表示部に表示可能としてあり、出かけているときはもちろん在宅時にも冷蔵庫の扉を開くことなく貯蔵庫内の食品収納状況を知ることができるように構成してある。

特開２００２－２３６７９８号公報 特開２００７－４６８３３号公報 特開２００２－８１８１８号公報

本発明は、貯蔵庫の扉を開けた状態で音声を認識しやすい冷蔵庫を提供することを目的とする。

本発明の冷蔵庫は、冷蔵室と、冷蔵室の内部の側面に設けられている、レシピ検索に必要な音声を認識するための音声認識手段とを備え、レシピ検索に必要な音声は食品名称であることを特徴とする。

本発明によれば、貯蔵庫の扉を開けた状態で音声を認識しやすい冷蔵庫を提供することができる。

本発明の実施の形態における冷蔵庫の斜視図 同冷蔵庫の概略断面図 同冷蔵庫の貯蔵庫扉を開いたときの内部を示す斜視図 （ａ）同冷蔵庫に表示端末を一体的に装備させた斜視図、（ｂ）同冷蔵庫に表示端末を着脱自在に装備させた斜視図 同冷蔵庫に用いる表示端末の装着構成例を示し、（ａ）は表示端末を一体的に取り付けた場合の断面図、（ｂ）は表示端末を着脱自在に装着した場合の断面図 同冷蔵庫に用いる表示端末のディスプレイ視認構成例を示し、（ａ）（ｂ）は扉の外被パネルをガラスとした場合の概略断面図、（ｃ）は扉の外被パネルをマジックミラーで構成した場合の概略断面図 同冷蔵庫のカメラ取り付け例を示す縦断面図 同冷蔵庫のカメラ取り付け例を示し、（ａ）は扉を閉じた状態の冷蔵庫扉部分の横断面図、（ｂ）は同扉を開いたときの扉内面側の正面図 （ａ）（ｂ）（ｃ）同冷蔵庫のカメラ取り付け例の他の例を示す縦断面図 同冷蔵庫に取り付けるカメラの一例を示す説明図 同実施の形態における冷蔵庫システムのシステム構成図 同冷蔵庫システムの冷蔵庫構成を示すブロック図 同冷蔵庫システムのサーバ構成を示すブロック図 同冷蔵庫システムの扉閉時における撮影～データ記憶動作を示すフローチャート 同冷蔵庫システムの冷蔵室冷却運転時における撮影～データ記憶動作を示すフローチャート 同冷蔵庫システムの扉開時における撮影～データ記憶動作を示すフローチャート 図１４～図１６における撮影動作の他の動作例を示すフローチャート 同冷蔵庫システムにおけるデータ保存と合成動作をサーバ装置で行う場合を示すフローチャート 同冷蔵庫システムにおけるデータ保存と合成動作を冷蔵庫側で行う場合を示すフローチャート 同冷蔵庫システムにおけるデータ保存と合成動作を表示端末側で行う場合を示すフローチャート 同冷蔵庫システムにおける通常の画像データ送受信を示すフローチャート 同冷蔵庫システムにおいて画像データを表示端末に保存している場合の画像データの送受信を示すフローチャート 同冷蔵庫システムにおいて個別画像と合成画像を切り換えて送受信する場合を示すフローチャート 同冷蔵庫システムにおいて事前送信要求時の画像データ送受信を示すフローチャート 同冷蔵庫システムにおける送受信経路の切換を説明するための表示端末の正面図 同冷蔵庫システムにおける画像合成処理を説明するための図 本発明の実施の形態における冷蔵庫の斜視図 同冷蔵庫の貯蔵庫扉を開いたときの内部を示す斜視図 同冷蔵庫システムの音声認識に関する冷蔵庫構成を示すブロック図 同冷蔵庫システムの音声認識に関する扉開時における音声認識～データ記憶動作を示すフローチャート 同冷蔵庫システムの音声認識に関する人感センサ在時における音声認識～データ記憶動作を示すフローチャート 同冷蔵庫システムの音声認識に関する扉閉時における音声認識停止動作を示すフローチャート 同冷蔵庫システムの音声認識に関する人感センサ否時における音声認識停止動作を示すフローチャート 同冷蔵庫システムの音声認識におけるレシピ検索処理をサーバ装置で行う場合を示すフローチャート 同冷蔵庫システムの音声認識におけるレシピ検索処理を表示端末側で行う場合を示すフローチャート 同冷蔵庫システムの音声認識におけるレシピ検索結果を表示端末に表示する場合を示すフローチャート

以下、本発明の具体的かつ詳細な実施の形態を説明するが、まず本発明の実施の形態の要点を記載する。

本発明における冷蔵庫の実施の形態は、断熱壁と断熱扉によって区画され収納物を収納する収納室と、収納室を覆う断熱扉と、外部からの音声を認識する音声認識手段と、音声認識手段による音声情報を外部機器に伝送する通信手段と、外部機器から受信した情報を表示する表示手段と、表示手段に表示された内容もしくは音声認識手段による音声情報に基づいて通信手段を介して検索を行う検索手段と、収納室前方の人の在否を感知する人感センサを備え、前記表示手段は音声認識起動指示を出すことにより前記音声認識手段を動作させる機能を有し、人感センサにより人の在を検知した場合に音声認識手段を動作させ、前記音声認識手段は、前記断熱扉の前面と前記収納室内の側面に配置して各音声認識手段の音声入力レベルに応じて、採用する音声認識データを切替える構成としてある。

これによって、人感センサで人がいることを検知した場合に前記音声認識手段を動作させ、食品の名称を音声入力することが可能となり、入力した音声だけでクラウド上のデータベースからレシピ検索等が容易にできる。また人感センサに連動させることによって、常に音声認識手段を動作させなくて済むため、誤認識を防ぐことができるとともに省エネにもなる。

以下、本発明の実施の形態１について、図面を用いて説明する。尚、本発明は以下の実施の形態に限定されるものではない。

［実施の形態１］
＜１．構成＞
１－１．冷蔵庫の構成
１－１－１．フレンチドアタイプの冷蔵庫の構成
図１～図９を用いてフレンチドアタイプの冷蔵庫の場合の構成例についてまず説明する。

図１～図３において、冷蔵庫本体１は、前方に開口する金属製（例えば鉄板）の外箱２と、硬質樹脂製（例えばＡＢＳ）の内箱３と、これら外箱２と内箱３との間に発泡充填した硬質発泡ウレタン等の断熱材４からなる。上記冷蔵庫本体１はその内部に複数の貯蔵庫を仕切形成してある。この貯蔵庫は、冷蔵庫本体１の上部から、冷蔵室５、冷蔵室５の下に位置する切替室６及び切替室６に並設した製氷室７、切替室６及び製氷室７の下部に位置する冷凍室８と、冷凍室８の下部に位置する野菜室９となっている。また、前記冷蔵室５の前面は、観音開き式の扉１０－１，１０－２により開閉自由に閉塞し、切替室６及び製氷室７と冷凍室８と野菜室９の前面部は引き出し式の扉１２ａ，１２ｂ，１３，１４（以下、引き出し式扉と称す）によって開閉自由に閉塞してある。

冷蔵庫本体１の背面には冷却室１６があり、冷気を生成する冷却器１７と、冷気を各室に供給する送風ファン１８と、冷蔵室への風量を調整するためのダンパ（風量調整手段）２２とが設けてある。また、上記冷蔵庫本体１の本体天面奥部にはコンプレッサ１９が設けてあり、コンデンサ（図示せず）と、放熱用の放熱パイプ２０と、キャピラリーチューブ２１と、前記した冷却器１７とを順次環状に接続してなる冷凍サイクルに冷媒を封入し、冷却運転を行うように構成してある。

ここで、上記扉１０－１，１０－２，１２ａ，１２ｂ，１３，１４は冷蔵庫本体１と同様硬質発泡ウレタンを充填して断熱性を持たせてあり、冷蔵室となる貯蔵庫５の扉１０－１，１０－２のうち、一方の扉１０－１は他方の扉１０－２より横幅が狭く、その開放端部に冷気洩れ防止用のセンターピラー１１が取り付けてある。そして、この冷蔵庫では、もう一方の幅が広い扉１０－２の前面に表示端末１５が装備してある。この表示端末１５は図４（ａ）に示すように液晶パネル等のディスプレイ部とそれを制御する制御部で構成し、扉１０に一体的に取付けたり、あるいは、図４（ｂ）に示すようにスマートフォン、タブレットＰＣで形成し、扉１０に着脱自在としてあり、いずれかの方式で装備させればよい。

図５（ａ）、（ｂ）は扉１０に対する表示端末１５の装着構成例を示し、図５（ａ）は表示端末１５を一体的に取り付けた場合、図５（ｂ）は表示端末１５を着脱自在に装着した場合を示す。

図５（ａ）、（ｂ）において、扉１０は、主に、冷蔵庫の前面側に面する外被パネル１０ａと、冷蔵庫の庫内側に面する内側板１０ｂと、外被パネル１０ａと内側板１０ｂとの間に充填した断熱材４とで構成してある。外被パネル１０ａはカラー鋼板などの金属製の部材或いはガラス板等の透明の部材で構成してあり、内側板１０ｂは真空成型により形成した合成樹脂部材である。内側板１０ｂの周囲部分には、庫内側から見てロの字状で庫内側に突出する隆起壁部１０ｂ－１が設けてある。また、断熱材４にはすでに述べたように例えば硬質発泡ウレタンなどが用いてある。

また、表示端末１５を一体化した図５（ａ）の扉１０においては、扉１０の前面側に、外被パネル１０ａと連続して断熱材４を覆う樹脂製の収納枠体２３が設けてある（外被パネル１０ａがガラス板である場合はガラス板に一体的に接着して設けてある）。表示端末１５は、端末保持体２４を介して収納枠体２３に固定されている。また、表示端末１５の前面側には、タッチパネル２５を設けている。表示端末１５とタッチパネル２５間は隙間２６が設けてあり、表示端末１５からのノイズによってタッチパネル２５が誤作動を起さないようにしてある。表示端末１５、タッチパネル２５はその外周縁を覆う枠体２７を扉１０表面に取り付けて固定してある。このように、収納枠体２３を設けることで、断熱材４が表示端末１５に直接ふれることがないため、断熱材４を発泡する際に、表示端末１５が高温に曝されたり、変形したりするなどの不具合を防止することができる。一方、表示端末１５を着脱自在とした図５（ｂ）の扉１０では、扉１０の前面部に収納枠体２３を設けることで、凹部２８を形成し、この凹部２８に表示端末１５を着脱するように構成してある。

図６（ａ）、（ｂ）、（ｃ）は、扉１０と表示端末１５のディスプレイ透視構成の一例を示し、図６（ａ）、（ｂ）は扉１０の外被パネル１０ａがガラス板１０ａ－１の場合、図３（ｃ）は扉１０の外被パネル１０ａをマジックミラー１０ａ－２で構成した場合を示す。

図６（ａ）においては、扉１０に埋設した表示端末１５とガラス板１０ａ－１との間に、表示端末１５と対向する部分のみ透明としたスモークシート２９が設けてあり、表示端末１５がオフで黒っぽく見える時でも、表示端末１５以外のガラス板１０ａ－１部分もスモークシート２９によって黒っぽく見えて表示端末１５との境界が目立つことがなくなり、外観を良好に維持することができる。また、図６（ｂ）においては、表示端末１５の表示部として透明液晶表示部を用い全体が黒いスモークシート２９ａを透明液晶表示部の裏面に沿うように敷設したもので、この形態によっても外観を良好なものとすることができる。更に、図６（ｃ）では図６（ａ）、（ｂ）のガラス板１０ａ－１をマジックミラー１０ａ－２とし、スモークシート２９を不要としたもので、この場合も外観を良好に維持することができる。いずれも表示端末１５を扉１０に一体的に取り付けた場合の例を示す。なお、スモークシート２９の代わりにガラス板１０ａ－１の背面側に黒っぽく見えるよう塗装を行ってもよい。

図７、図８（ａ）、（ｂ）は本発明の主要部となるカメラと庫内照明灯の取り付け例を示すもので、図４は扉を閉じた状態の冷蔵庫の縦断面図、図８（ａ）は同扉を閉じた状態の冷蔵庫における扉内面部を示す横断面図、図８（ｂ）は同扉を開いたときの扉内面部の正面図である。

図７、図８（ａ）、（ｂ）において、冷蔵庫の貯蔵庫５には上下複数段に棚板３０－１～３０－４が設けてある。この棚板３０－１～３０－４は周囲の枠を除き、透明な合成樹脂材やガラスなどの透過性を有する材料で形成してある。

３１は最下段の棚板３０－４の下方に引き出し自在に設けた収納容器である。最下段の棚板３０－４は収納容器３１の上面を構成することから固定されているものの、棚板３０－１～３０－３は、それぞれ貯蔵庫５の両側壁部に設けられた側壁凸部３２－１～３２－４に載せられており、脱着自在となっている。特に、最下段の棚板３０－４を除いた棚板３０－１～３０－３のうち中央の棚板３０－２には、対応する側壁凸部３２－２が異なる高さに複数、設けられており、棚の高さを調節できるようになっている。

３３－１～３３－３は前記貯蔵庫５の開口を開閉する扉１０の内面部に設けた扉ポケットで、上下複数段設けてある。この扉ポケット３３－１～３３－３も透過性を有する材料で形成してある。

３４－１，３４－２は庫内照明灯となる照明装置（以下、庫内照明灯と称す）で、前記各棚板３０－１～３０－４の前端より前方の前記貯蔵庫５の前面開口両側壁部と前面開口上面壁面部に設けてある。なお、この庫内照明灯３４－１，３４－２は省エネの関係から複数のＬＥＤを配置した基板を例えば上下方向に渡り設けて透光性のカバーで覆ってある。

３５－１，３５－２は前記庫内照明灯３４－１，３４－２と同様貯蔵庫５の前面側に位置するように設けたカメラ等の撮影装置（以下、カメラと称す）で、例えば、ＣＣＤカメラやＣＭＯＳカメラ等で構成してあり、その種類は特に限定するものではないが、結露等に強いものであるのが好ましい。

上記カメラ３５－１，３５－２は、貯蔵庫５用の扉１０－１，１０－２のうち、センターピラー１１を有さない幅の広い側の扉１０－２の内面部に設けてあり、扉１０－２の開放端部付近に設けて、冷蔵庫５１の略中央部に位置するように設定してある。

この実施の形態では一方のカメラ３５－１は上段扉ポケット３３－１の前後方向略中央の下面に取り付け、もう一つのカメラ３５－２は最下段の扉ポケット３３－３の上部付近に取り付けてある。ここで、扉ポケット３３の前後方向とは、扉１０の内側板１０ｂが構成する面に対して垂直方向であり、扉１０を閉じた際には貯蔵庫５の前後方向と同一となる方向である。

また、上方のカメラ３５－１は最上段の棚板３０－１の略前方に、下方のカメラ３５－２は図中三段目の棚板３０－３の前方に位置するように設けてある。つまり、いずれのカメラも、高さ調節を前提にして設けられている複数の側壁凸部３２－２に載せられる棚板３０－２ではなく、脱着可能ではあるが高さ調整を前提としていない棚板３０－１、棚板３０－３の略前方に位置するように設けてある。

以上のように、上記いずれのカメラ３５－１，３５－２も、センターピラー１１（図３参照）が設けられていない扉１０－２側に設けて、冷蔵庫５１の略中央部に位置するように設定し、かつ、図７から明らかなように各棚板３０－１～３０－４の前端より前方位置であって、かつ、図８（ｂ）に示す様に扉１０の軸支部Ｘとは反対の開放端側端部Ｙ付近、すなわち冷蔵庫５１の左右方向の略中央部に位置するように設けて、この二つのカメラ３５－１，３５－２で庫内のほぼ全域が撮影できるようにしてある。

なお、カメラ３５－１，３５－２は、図９の（ａ）に示すように収納容器内専用のカメラ３５－３を追加設置したり、同図（ｂ）のように、下方のカメラ３５－２を上下動自在に設けたり、同図（ｃ）のように、下方のカメラ３５－２を上下方向に回動自在に設けたりと、設置する冷蔵庫の形態に応じて任意に設定すればよい。

また、前記庫内照明灯３４－１，３４－２は、図７から明らかなようにカメラ３５－１，３５－２より貯蔵庫奥側の位置に設け、庫内照明灯３４－１，３４－２の光が直接カメラ３５－１，３５－２の撮影部に入り込まないように設けてある。

より具体的には、図８（ａ）に示すように、カメラ３５－１，３５－２の撮影部は、庫内照明灯３４－１，３４－２の照射方向の照射量（最大照射量）に対し照射量が１／２以上となる範囲、この例では、照射角６０度の範囲の外に設けてある。

なお、これは、図示しないが、庫内照明灯３４－１，３４－２のカメラ側に遮光部を設けたり、或いは庫内照明灯３４－１，３４－２を構成するＬＥＤ等の光原を斜め後方向きに傾斜配置するなどの構成とすることによって、庫内照明灯３４－１，３４－２の光が直接カメラ３５－１，３５－２の撮影部に入り込まないようにしてもよいものであり、カメラの設置条件等に応じて適切に選択すればよい。

１－１－３．カメラ構成
図１０は庫内撮影用に用いるカメラの一例を示す。庫内撮影に当たってカメラは前記各例で説明したように上下に離れた位置に設けるのがもっとも好ましいが、図１０に示すように上下のカメラ３５－１，３５－２を近接設置しても庫内の全域を撮影できることが検証の結果確認できた。

よって、このような場合、カメラ３５－１，３５－２は一体化してカメラモジュール４１とすることが考えられ、このようにモジュール化することによって設置の容易化とコストダウンが可能となる。また、魚眼レンズなど更に広角なレンズを用いることでもモジュール化することができる。

１－１－４．マイク構成
図２７、図２８は音声認識用に用いるマイクの一例を示す。冷蔵庫の扉を開けて音声認識させる場合と、冷蔵庫の扉を開けないで音声認識させる場合があるため、マイクは冷蔵庫の前面１００－１と冷蔵庫内部の側面１００－２に取り付ける構成とする。これにより音声認識時に音声入力レベルを高くすることが可能となる。

１－１－５．人感センサ構成
図２７は音声認識用に用いる人感センサの一例を示す。冷蔵庫の扉を開けないで音声認識させる場合があるため、冷蔵庫の前面に人感センサ１０１を取り付ける構成とする。これにより音声認識装置の起動／停止の操作が不要となる。

１－２．冷蔵庫システムの全体構成
次にこれまでに述べてきたような冷蔵庫を用いた冷蔵庫システム全体について図１１～図２６を用いて説明する。

図１１は上記した冷蔵庫を用いた冷蔵庫システム５０の全体構成を示す。図１１に示すように、この冷蔵庫システム５０は、表示端末１５等によって、冷蔵庫５１内の食品状況を確認するシステムである。

この冷蔵庫システム５０は、冷蔵庫５１と、表示端末１５とを備え、さらに、無線アダプタ（通信装置）５３、ゲートウェイ装置（中継装置）５４、ルーター装置５５、インターネット５６、サーバ装置５７を含む。

冷蔵庫５１は、使用者の住居Ａ内に配置され、例えば、住居Ａ内のキッチンルームに配置される。

無線アダプタ（通信装置）５３は、冷蔵庫５１の後述する制御部に電気的に接続し、ゲートウェイ装置（中継装置）５４を介してルーター装置５５と通信するように構成される。無線アダプタ５３は、ルーター装置５５から送信される信号を受信し、受信した信号を冷蔵庫５１の制御部に出力する。この信号に基づいて、冷蔵庫５１は、対応する動作を実行するように構成される。

無線アダプタ５３は、また、冷蔵庫５１の識別情報（例えば、製造番号や型番等）や後述する庫内画像データ等を冷蔵庫５１の記憶部から取得し、ゲートウェイ装置（中継装置）５４を介してルーター装置５５に送信するように構成される。なお、無線アダプタ５３は、冷蔵庫５１に一体に設けてもよいし、着脱可能に構成してもよい。

無線アダプタ５３は、「接続」ボタン５３ａを備える。「接続」ボタン５３ａは、ゲートウェイ装置（中継装置）５４と新規に接続するためのものである。「接続」ボタン５３ａが使用者によって操作されると、無線アダプタ５３は、冷蔵庫５１の記憶部から冷蔵庫５１の識別情報（例えば製造番号や型番）を取得するように構成される。

表示端末１５は、既述した如く、例えば、スマートフォン、タブレットＰＣ（パーソナルコンピュータ）などの汎用の携帯型の端末であって、本実施の形態の場合、すでに述べた冷蔵庫５１の扉１０に着脱自在に装備可能なもので、インターネット５６に接続する機能（手段）と、後述するゲートウェイ装置５４と通信する機能（手段）とを備える。

表示端末１５（例えばスマートフォン）は、電話回線網（例えば３Ｇ回線網）を介して、インターネット５６に接続するように構成されている。それに加えてまたは代わりとして、例えば、表示端末１５は、Ｗｉ－Ｆｉ通信機能によって公衆無線ＬＡＮを介してインターネット５６に接続するように構成されている。

インターネット５６に接続することにより、例えば、表示端末１５は、本発明の対象となる冷蔵庫内の食品の画像データや省エネ運転をさせるためのデータ（例えば扉の開閉回数等のデータ）を取得するプログラムを、インターネット５６を介して冷蔵庫５１の製造メーカのホームページから取得することができる。この取得したプログラムを表示端末１５にインストールし、インストールしたプログラムを起動させることにより、表示端末１５は、冷蔵庫内の食品の画像データ等を取得することが可能になる。即ち、表示端末１５はそのディスプレイ１５ａの操作画面を操作することにより、冷蔵庫５１の画像データを取得するための操作信号を生成し、送信することが可能になる。詳細については、後述する。

表示端末１５はまた、例えば、Ｗｉ－Ｆｉ通信、Ｂｌｕｅｔｏｏｔｈ（登録商標）通信、赤外線通信などのインターネット５６を介さない汎用の通信によってルーター装置５５と接続し、そのルーター装置５５を介してゲートウェイ装置５４に通信接続するように構成されている。そのためのデバイス（例えばＷｉ－Ｆｉアンテナ等）が表示端末１５に組み込まれている。

ゲートウェイ装置（中継装置）５４は、無線アダプタ５３と表示端末１５との通信を中継する装置であって、例えば、無線アダプタ５３と、特定小電力無線特別小型周波数帯（９２４．０～９２８．０ＭＨｚ）の信号を用いて通信するように構成される。ゲートウェイ装置５４と無線アダプタ５３間の通信の周波数帯は、遠距離まで届く低周波数帯が好ましく、ルーター装置５５とともに冷蔵庫５１が設置された使用者の住居Ａ内に設置されている。

ゲートウェイ装置５４はまた、表示端末１５とルーター装置５５を介して通信接続するように構成されている。すなわち、表示端末１５とインターネット５６を介さずにルーター装置５５のみを介して通信（第１の通信）が実行できるように、ゲートウェイ装置５４は構成されている。

ゲートウェイ装置５４はさらに、ルーター装置５５を介してインターネット５６に接続可能に構成されている。これにより、ゲートウェイ装置５４は、インターネット５６およびルーター装置５５を介して、表示端末１５と通信（第２の通信）することができるとともにサーバ装置５７にも通信することができる。

したがって、ゲートウェイ装置５４は、表示端末１５に対して、インターネット５６を介さない通信（すなわちルーター装置５５のみを介する第１の通信）と、インターネット５６を介する通信（すなわちインターネット５６およびルーター装置５５を介する第２の通信）とが実行できるように構成されている。このように構成する理由については後述する。

サーバ装置５７は、例えば、冷蔵庫５１の製造メーカにより用意される。サーバ装置５７は、表示端末１５、冷蔵庫５１、無線アダプタ５３に関し、アクセスや認証に必要な情報等を管理する。例えば、サーバ装置５７は、通信要求信号に含まれる表示端末１５の識別情報と、無線アダプタ５３に対応付けされて記憶（登録）されている表示端末１５の識別情報とが一致するか否かを認証（判別）する。そして、サーバ装置５７は、これらが一致する場合には、アクセスする表示端末１５を、正規の表示端末として認証し、住居Ａ内の冷蔵庫５１との通信を許可する。

また、サーバ装置５７は、前記した、冷蔵庫５１より送信される冷蔵庫内の食品の画像データや省エネ運転をさせるためのデータ等を保存する。これらのデータは表示端末１５からのデータ呼び出し信号に基づき表示端末１５に送信する。すなわち、使用者は表示端末１５を操作することによって冷蔵庫内の食品画像データをディスプレイに表示させて確認することができる。

１－３．冷蔵庫のシステム部構成
図１２は上記冷蔵システムに用いる冷蔵庫のシステム部構成を示す。

図１２において、この冷蔵庫５１は、インターフェイス（Ｉ／Ｆ）５８、制御部５９、記憶部６０、及び扉開閉検出部６１、庫内照明灯３４－１，３４－２、カメラ３５－１，３５－２、ファン駆動回路６２、コンプレッサ駆動回路６３、送風ファン１８、及びコンプレッサ１９を備え、例えば住居Ａ内の商用電源等の交流電源６４から電力の供給を受ける。

インターフェイス（Ｉ／Ｆ）５８は、無線アダプタ５３と冷蔵庫５１の制御部５９との間のデータ等のやり取りを行う。

制御部５９は、冷蔵庫の動作を制御する。また、この制御部５９は、カメラ３５－１，３５－２と庫内照明灯３４－１，３４－２を制御して冷蔵庫内の食品を撮影するとともに、この画像データを記憶部６０に一旦記憶し、かつ、インターネット５６のサーバ装置５７に送信する。更に、表示端末１５からサーバ装置５７を介して画像データ事前送信の要求信号があれば食品撮影後に直ちにサーバ装置５７を介して表示端末１５に送信実行するように指示する。その詳細については、後述する。

記憶部６０は、識別記号や制御プログラムのほかに、カメラ３５－１，３５－２で撮影した庫内食品の画像データや省エネ運転をさせるためのデータを書き換え記憶する。

庫内照明灯３４－１，３４－２は、扉開閉検出部６１からの信号に基づき制御部５９によって点灯・消灯が制御され、扉１０が開かれると点灯し、扉１０が閉じられると数秒の遅延時間をおいて消灯する。

カメラ３５－１，３５－２は、扉開閉検出部６１からの信号に基づき制御部５９よって制御され、扉１０が閉じられると冷蔵庫内の食品を撮影する。その詳細は後述する。

ファン駆動回路６２は、制御部５９からの制御信号を受け、送風ファン１８の回転の駆動を制御する。

コンプレッサ駆動回路６３は、制御部５９からの制御信号を受け、コンプレッサ１９の回転数等の駆動を制御する。

送風ファン１８は、ファン駆動回路６２の制御に従い動作して、冷気を循環させるための気流を発生する。

コンプレッサ１９は、コンプレッサ駆動回路６３の制御に従い、冷蔵庫５１内を循環する冷媒（図示せず）を圧縮する。

また図２９は上記冷蔵システムに用いる音声認識に関する冷蔵庫のシステム部構成を示す。

図２９において、この冷蔵庫５１は、インターフェイス（Ｉ／Ｆ）５８、制御部５９、記憶部６０、及び扉開閉検出部６１、庫内照明灯３４－１，３４－２、マイク１００－１，１００－２、ファン駆動回路６２、コンプレッサ駆動回路６３、送風ファン１８、及びコンプレッサ１９を備え、例えば住居Ａ内の商用電源等の交流電源６４から電力の供給を受ける。

インターフェイス（Ｉ／Ｆ）５８は、無線アダプタ５３と冷蔵庫５１の制御部５９との間のデータ等のやり取りを行う。

制御部５９は、冷蔵庫の動作を制御する。また、この制御部５９は、マイク１００－１，１００－２を制御して外部からの音声を認識するとともに、この音声認識データを記憶部６０に一旦記憶し、かつ、インターネット５６のサーバ装置５７に送信する。更に、表示端末１５からサーバ装置５７を介して画像データ事前送信の要求信号があれば食品撮影後に直ちにサーバ装置５７を介して表示端末１５に送信実行するように指示する。その詳細については、後述する。

記憶部６０は、識別記号や制御プログラムのほかに、マイク１００－１，１００－２で音声認識したデータや省エネ運転をさせるためのデータを書き換え記憶する。

庫内照明灯３４－１，３４－２は、扉開閉検出部６１からの信号に基づき制御部５９によって点灯・消灯が制御され、扉１０が開かれると点灯し、扉１０が閉じられると数秒の遅延時間をおいて消灯する。

マイク１００－１，１００－２は、扉開閉検出部６１からの信号に基づき制御部５９によって制御され、扉１０が開かれると音声認識装置を起動し、扉１０が閉じられると一定の時間経過後に音声認識装置を停止する。その詳細は後述する。

ファン駆動回路６２は、制御部５９からの制御信号を受け、送風ファン１８の回転の駆動を制御する。

コンプレッサ駆動回路６３は、制御部５９からの制御信号を受け、コンプレッサ１９の回転数等の駆動を制御する。

送風ファン１８は、ファン駆動回路６２の制御に従い動作して、冷気を循環させるための気流を発生する。

コンプレッサ１９は、コンプレッサ駆動回路６３の制御に従い、冷蔵庫５１内を循環する冷媒（図示せず）を圧縮する。

１－４．サーバ装置の構成
次に、図１３を用い、実施の形態１における冷蔵庫システムのサーバ装置の構成例について説明する。ここでは、前記図１１中のサーバ装置５７の構成を一例に挙げる。

図１３に示すように、このサーバ装置５７は、サーバ用インターフェイス６５、サーバ制御部６６、及びデータ記憶部６７を備える。

サーバ用インターフェイス６５は、サーバ制御部６６の制御に従い、インターネット５６を介した表示端末１５及びルーター装置５５とサーバ装置５７との間のデータ等のやり取りを行う通信部である。

サーバ制御部６６は、このサーバ装置５７の全体の動作を制御する。サーバ制御部６６は、また冷蔵庫５１から送信される食品の画像データを結合処理し、データ記憶部６７に記憶させるとともに、表示端末１５から画像データの事前送信要求の信号があると、データ記憶部６７に記憶している画像データの最新画像データを、当該画像データが冷蔵庫５１から送信されてくる都度、表示端末１５に送信し、表示端末１５に書き換え更新させる。もちろん、画像データの事前送信要求の信号がない状態で表示端末１５からデータ呼び出し信号が送信されてくると、データ記憶部６７に記憶している最新の画像データを表示端末１５に送信する。

データ記憶部６７は、冷蔵庫システムを実行するための管理プログラムやアプリケーションプログラム等の必要なデータを記憶している。更にデータ記憶部６７は、サーバ制御部６６の制御に従い、冷蔵庫５１より送信されてくる食品画像データの最新データを書き換え記憶する。データ記憶部６７は、例えば、ＨＤＤ（Ｈａｒｄ Ｄｉｓｃ Ｄｒｉｖｅ）やＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）等により構成される。

なお、サーバ装置５７は単一の大型コンピュータで構成されるサーバ、或いは、多数のコンピュータ群で構成されるクラウド型サーバのいずれでも構築できるものである。

＜２．動作＞
次に上記構成からなる冷蔵庫及び冷蔵システムの動作について説明する。なお、以下の各説明において同じ動作については同一のステップ番号を付記して説明する。

２－１．食品の撮影動作
２－１－１．扉閉時の撮影
図１４は冷蔵庫５１の扉１０を閉じたときに貯蔵庫内の食品の撮影を行うようにした場合の動作を示すフローチャートである。

食品を出し入れすべく扉１０が開かれると（ステップ１のＹ）、庫内照明灯３４－１，３４－２を点灯し（ステップ２）、扉１０が閉じられると（ステップ３のＹ）、庫内照明灯３４－１，３４－２の照度を落とし（ステップ４）、しばらく、例えば数秒経過後にカメラ３５－１，３５－２を起動させて、庫内の食品を撮影する（ステップ５）。その後、撮影した画像データを冷蔵庫５１の記憶部６０に記憶させ（ステップ６）、庫内照明灯３４－１，３４－２を消灯する（ステップ７）。

ここで、上記撮影時に庫内照明灯３４－１，３４－２の照度を落として撮影すると、食品を鮮明に撮影することができ、好適である。すなわち、庫内照明灯３４－１，３４－２を点灯して食品を撮影すると、貯蔵庫内面が白色系であることもあってその反射光が貯蔵庫開口部分を除く全周面から食品に強く反射し（照度が低下することなく高い照度のまま食品にはね返る）、食品が白っぽくなって、鮮明な撮影が困難となる。しかしながら、上記した例のように庫内照明灯３４－１，３４－２の照度を落とすと、貯蔵庫内面からの反射光の影響を大幅に低減することができて鮮明な画像の卒撮影が可能となるのである。

２－１－２．冷蔵室冷却運転時の撮影
図１５は冷蔵庫内の食品を出し入れした後、冷蔵室冷却時に貯蔵室の食品の撮影を行うようにした場合の動作を示すフローチャートである。
食品を出し入れすべく扉１０が開かれると（ステップ１のＹ）、庫内照明３４－１、３４－２を点灯し（ステップ２）、扉１０が閉じられ（ステップ３のＹ）、冷蔵室の冷却運転状態か否か判断する（ステップ８）。もし、送風ファン１８がＯＮ、かつダンパ２２が開であり、冷蔵室の冷却運転中であれば前記扉閉時と同様、庫内照明灯３４－１，３４－２の照度を落とし（ステップ４）、カメラ３５－１，３５－２を起動させて、庫内の食品を撮影する（ステップ５）。その後、撮影した画像データを冷蔵庫５１の記憶部６０に記憶させ（ステップ６）、庫内照明灯３４－１，３４－２を消灯する（ステップ７）。

このように、冷蔵室冷却運転後に撮影するようにすることによって、例えば新しく貯蔵庫内に入れた食品の表面に貯蔵庫内外の温度差で結露が生じても、この結露は冷却動作によって解消され、なくなる。よって、カメラ３５－１，３５－２による撮影は食品包装容器に記載されている文字が読み取れるほど鮮明に行われ、好適である。

なお、前記動作の中で、扉１０が閉じられると（ステップ１のＹ）、一度庫内照明灯３４－１，３４－２を消灯し、撮影前に再度庫内照明灯３４－１，３４－２点灯して、その照度を低下させるようにすれば、庫内照明灯３４－１，３４－２が点灯し続けることによる無駄な電力の消費を抑制することができる。

２－１－３．扉開時の撮影
図１６は１枚扉の場合であって、扉１０を所定角度開いた時点で貯蔵庫内の食品の撮影を行うようにした場合の動作を示すフローチャートである。

食品を出し入れすべく扉１０が開かれると（ステップ１のＹ）、庫内照明灯３４－１，３４－２を点灯し（ステップ２）、上記扉の開き角度が所定角度、例えば図１３に示した３０度の開き角度になると（ステップ１０のＹ）、庫内照明灯３４－１，３４－２の照度を落とし（ステップ４）、カメラ３５－１，３５－２を起動させて、庫内の食品を撮影する（ステップ５）。その後、撮影した画像データを冷蔵庫５１の記憶部６０に記憶させ（ステップ６）、扉が閉じると（ステップ１１のＹ）、庫内照明灯３４－１，３４－２を消灯する（ステップ７）。

この例のように扉１０を所定角度開いた時点で撮影するようにすると、すでに述べているように貯蔵庫内を広範囲に撮影でき、しかもその画像は和感のない自然なものとなって、好適である。

なお、所定角度開時に撮影する場合、扉開動作時と扉閉動作時の少なくとも２回以上撮影を行うことになる。このとき、１回の扉開から閉までの動作時間の中で、最後に撮影した画像データ（扉閉動作時）を記憶部６０に記憶させることにより、食品の出し入れを終えた最新の貯蔵庫の食品状態を撮影することができる。

なお、いうまでもないことではあるが、扉１０の開き角度が所定角度に達するか否かを検出するステップ１０において、扉１０が所定角度に達する前に閉じられると庫内照明灯３４－１，３４－２を消灯し、再び扉１０が開かれるのを待つことになる。

以上、撮影動作について代表的なものを例示して説明したが、前記撮影動作以外に例えば、定刻若しくは前回の撮影後所定時間が経過すると撮影する、或いは、表示端末１５から撮影指示があると撮影する、等の撮影動作も考えられる。

２－１－４．撮影時の照明
撮影時の食品照明は、前記図１４、図１５、図１６ですでに説明したように、庫内照明灯３４－１，３４－２を点灯させた上でその照度を低下させて照射し撮影する。場合によっては、貯蔵庫両側面の庫内照明灯３４－１或いは貯蔵庫上面の庫内照明灯３４－２のみの点灯として照度を低下させて照射し撮影することも考えられる。この照度を低下させて撮影する理由は後述する。

また、撮影時の食品照射の他の例として次のようにすることも考えられる。すなわち、図１７はカメラ３５－１，３５－２による撮影時の庫内照明灯３４－１，３４－２の点・消灯の状態を示すフローチャートで、前記した図１４、図１５、図１６の破線部分の動作に相当するものである。

前記した図１４、図１５、図１６での撮影は、庫内照明灯３４－１，３４－２を点灯させた上でその照度を低下させて撮影する例であるが、この例では貯蔵庫両側面の庫内照明灯３４－１の片方づつを消灯、換言すると貯蔵庫両側面の庫内照明灯３４－１の片方のみが点灯している状態にして食品を照射し撮影するようにしてある。この場合、貯蔵庫上面の庫内照明灯３４－２は点灯、消灯いずれであっても良いが、庫内の照度が撮影に最適になるようにいずれかを適宜選択すればよい。

図１７において、カメラ３５－１，３５－２により撮影を始める前に、すでに点灯している貯蔵庫両側面の庫内照明灯３４－１のいずれか一方、例えば右庫内照明灯を消灯し（ステップ１２）、左庫内照明灯により照射されている状態の食品を撮影（ステップ１３）して記憶する（ステップ１４）。その後、右庫内照明灯を点灯し（ステップ１５）、次に、左庫内照明灯を消灯（ステップ１６）して右庫内照明灯で照射している状態の食品を撮影する（ステップ１７）。その画像データを記憶し（ステップ１８）、右庫内照明灯を消灯する（ステップ１９）。このように食品を片方側から照射して記憶した画像データは合成して一つの画像とし、記憶する。

以上のように庫内照明灯３４－１，３４－２を片方づつ点灯して食品を撮影し一つに合成する理由は以下の通りである。すなわち、すでに述べたとおり撮影時には庫内照明灯３４－１，３４－２の照度を低下させて撮影するのであるが、その照度低下はあまり大きくすると写りが暗くなって鮮明さに欠けるようになるため照度低下にも限度がある。そのためある程度の照度を維持しているが、その照度であっても、貯蔵庫内容積が小さい場合等には反射光による影響が残る場合がある。しかしながら、この例で説明したように庫内照明灯３４－１の左右の片方づつを点灯して食品を撮影すると、反射光の影響を低減できて、庫内照明灯照明灯３４－１が点灯している側の面は適度な明るさで撮影できる。よって、この適度の明るさで撮影した食品の左右の画像を結合する合成処理を行えば、全体が鮮明な画像となり、好適なのである。

２－２．画像の保存と合成
次に前記した各動作によって撮影した画像データの保存と合成について説明する。

２－２－１－サーバで保存と合成
図１８はサーバ装置５７で画像データを保存と合成する場合を示し、前記図１７を含む図１４～図１６に示す動作によって庫内が撮影されると、冷蔵庫５１は無線アダプタ５３からゲートウェイ装置５４、ルーター装置５５を介してインターネット５６に接続し（ステップ２０）、各カメラで撮影し記憶した個別の画像データをインターネット５６に接続されたサーバ装置５７に送信する（ステップ２１）。インターネット５６を経由して送信された画像データはサーバ装置５７のサーバ制御部６６によって個別の画像データを結合する合成処理（ステップ２２）を行う。合成処理された画像データはサーバ装置５７のデータ記憶部６７に保存される（ステップ２３）。

この例のようにサーバ装置５７で画像を合成し、かつ、記憶保存しておけば、冷蔵庫側の制御部５９や記憶部６０の負荷を低減することができ、インターネット対応型の冷蔵庫を安価に提供することができる。

２－２－２－冷蔵庫側で保存と合成
図１９は冷蔵庫側で画像データを保存と合成する場合を示し、前記図１７を含む図１４～図１６に示す動作によって庫内が撮影されると、冷蔵庫５１の制御部５９は記憶部６０に記憶した各カメラからの個別の画像データを取り出して結合し合成する（ステップ２４）。合成した画像データを記憶し（ステップ２５）、冷蔵庫５１は無線アダプタ５３からゲートウェイ装置５４、ルーター装置５５を介してインターネット５６に接続し（ステップ２０）、記憶した画像データをインターネット５６に接続されたサーバ装置５７に送信する（ステップ２１）。インターネット５６を経由して送信された合成画像データはサーバ装置５７のデータ記憶部６７に保存される（ステップ２３）。

この例では冷蔵庫側の制御部５９や記憶部６０の負荷は大きくなるが、サーバ装置５７のデータ記憶部６７を介することなく表示端末１５と画像データを送受信することができ、システム運営費を安価にすることができる。

２－２－３．表示端末側で保存と合成
図２０は表示端末１５側で画像データを保存と合成する場合を示し、前記図１７を含む図１４～図１６に示す動作によって庫内が撮影されると、冷蔵庫５１は無線アダプタ５３からゲートウェイ装置５４、ルーター装置５５を介してインターネット５６に接続し（ステップ２０）、サーバではなく表示端末１５に画像データを送信する（ステップ２６）。インターネット５６を経由して送信された画像データは表示端末１５によって画像データを結合する合成処理（ステップ２７）を行う。合成処理された画像データは表示端末１５のデータ記憶部に保存される（ステップ２８）。

この例の場合も表示端末１５の負荷は増大するものの、冷蔵庫側の制御部５９や記憶部６０の負荷を低減することができ、インターネット対応型の冷蔵庫を安価に提供することができる。

以上、画像データの送信と合成動作について代表的なものを例示して説明したが、前記保存と合成箇所は必ずしも同一箇所、例えばサーバ装置５７で行わなければならないというものではなく、例えば、冷蔵庫５１で画像データを合成し、サーバ装置５７で画像データを保存する、等、システムに応じて任意に設定すればよいものである。

２－３．画像データの通常の送受信
２－３－１．サーバ、冷蔵庫に保存の画像データの送受信
図２１はサーバ装置５７或いは冷蔵庫５１と表示端末１５との送受信を示すフローチャートで、サーバ装置５７或いは冷蔵庫５１に記憶している画像データの送受信を示すものである。

まず、使用者は例えば買い物先などで表示端末１５のディスプレイに表示されるサーバ接続ボタン（図示せず）を押し、サーバ装置５７のデータ記憶部６７に記憶された画像データの読み込み要求を行う（ステップ３１）。サーバ装置５７から画像データを取り込まれたかを検出し（ステップ３２）、画像データが転送されてこなければ表示端末１５からインターネット５６に接続を行う（ステップ３３）。サーバ装置５７のデータ記憶部６７或いは冷蔵庫の記憶部６０に記憶された画像データを取り出し（ステップ３４）、画像データをインターネット５６を経由し、データ呼び出し元であるスマートフォン等の表示端末１５に画像データを転送する（ステップ３５）。サーバ装置５７から画像データを取り込まれたかを検出し（ステップ３２）、画像データが取り込まれたら表示端末１５のディスプレイに画像データを出力する（ステップ３６）
その後、表示端末１５のディスプレイに表示されている拡大ボタン（図示せず）が押されたかを検知し（ステップ３７）、拡大ボタンが押されたことを検知すると、ディスプレイに出力された貯蔵庫内の画像データをデジタル変換で１．１倍以上に拡大した画像データを作成する。拡大変換した画像データを表示端末１５のディスプレイに出力する（ステップ３６）。

更にその後、ディスプレイに表示されているテンキーボタン（図示せず）が押されたかを検知し（ステップ３８）、テンキーボタンが押されたことを検知するとディスプレイに出力された貯蔵庫内の拡大画像データをテンキーボタンで指定された箇所の画像データとし、ディスプレイに出力する（ステップ３６）。さらにテンキーボタンが押されたかを検知する（ステップ３８）。検知されなかったら終了する。

なお、前記拡大ボタン及び所定箇所の画像データを表示させるテンキーボタンは、ディスプレイの表面を指でスライドする方式とすればよく、このような構成とすることによって使い勝手が向上する。

以上のように、この冷蔵庫システムによれば、買い物先で冷蔵庫５１の中身を一目で確認することができ、買い忘れが予防できるとともに、余分な食材を購入してしまう無駄をなくすることができる。また、共働きで働く家庭では、帰る間際に冷蔵庫５１の貯蔵庫５内を確認し帰宅途中で食材等を購入することができ使用者にとって時間の短縮ができる。

また、拡大表示や所定箇所表示をさせることによって、表示端末１５のように小型化が進んだ表示端末１５でも拡大して画像を表示させることで小型の表示端末１５では確認しにくい食材も確実に見ることができる。

２－３－２．表示端末に保存の画像データの送受信
図２２はすでに表示端末１５に画像データを記憶保存している場合を示す。この場合は図２４で述べた様に表示端末１５に画像データが送信されて保存されており、この画像データの読み込み要求を行う（ステップ３１）と、表示端末１５の記憶部から画像データを取り込んで表示端末１５のディスプレイに画像データを出力する（ステップ３６）。その後の拡大表示操作や局所表示は図２５で説明した通りである。

２－３－３．画像データの切換受信
カメラ３５－１，３５－２で撮影した画像は、各カメラ３５－１，３５－２個々の撮影画像（貯蔵庫内の上半分或いは下半分）と、これらの各撮影画像を結合して合成した合成画像（貯蔵庫内を上から下まで１枚に合成した画像）が記憶保存されており、これらの画像を切換えて送受信し表示端末１５に表示することができる例を示す。

図２３はこのような場合の動作を示すフローチャートである。

まず、使用者は表示端末１５のディスプレイに表示される個別画像／合成画像呼び込みボタン（図示せず）を押し（ステップ４１）、個別画像或いは合成画像のいずれかの画像の呼び出しを行う（ステップ４２）。以降は図２５或いは図２６に示すフローによって個別画像或いは合成画像のいずれかの画像データを取り込み、表示端末１５のディスプレイに表示させる。

この例のように表示端末１５に表示させる画像を個別画像或いは合成画像のいずれかに切り換えることができるようにすると、通常は合成画像を呼び込んで表示させることにより貯蔵庫内の食品状況を一目で確認し、貯蔵庫隅部にある等によって食品が判別しにくいときなどは個別画像に切り換えて表示させれば確実に判別することができ、使い勝手が向上する。

２－４．画像データ等の事前送信要求時の送受信
図２４は表示端末１５から画像の事前送信要求があった場合のフローチャートを示す。

まず、使用者が表示端末１５を操作し、事前要求信号の要求操作を行う（ステップ５１）。サーバ装置５７又は冷蔵庫５１はこの要求信号を受信し（ステップ５２）、データ記憶部６７或いは記憶部６０に記憶された画像データ（個別画像データ或いは合成画像データ、以下同じ）を読み込み送信する（ステップ５３）。表示端末１５はサーバ装置５７或いは冷蔵庫５１からの画像データが取り込まれたかを検出し（ステップ５４）、画像データが送信されてこなければ表示端末１５からインターネット５６に接続を行う（ステップ５５）。サーバ装置５７類は冷蔵庫５１に記憶された画像データを取り出し（ステップ５６）、画像データをインターネット５６を経由し、表示端末１５に画像データを送信する（ステップ５７）。サーバ装置５７から画像データを取り込まれたかを検出し（ステップ５４）、画像データが検出されたら画像データの呼び出しがあるまで待機する（ステップ５８のＮ）。画像データの呼び出しがあれば（ステップ５８のＹ）、表示端末１５のディスプレイに画像データを出力する（ステップ５９）。

これにより、表示端末１５で画像データの要求したとき、サーバ装置５７へのアクセスが集中していてサーバ装置５７からの画像データの送信が遅くなる場合でも、画像データの要求と同時にリアルタイムに画像データをディスプレイに表示させて画像を確認することができる。したがって、買い物先で画像データが表示されるのを待つような事態を避けることができ、買い物時間を短縮することができる。

また、表示端末１５から画像の事前送信要求があれば、サーバ装置５７は冷蔵庫５１の扉１０が閉じられるたびに送信される画像データを都度表示端末１５に送信する設定とし、かつ、表示端末１５を持っている使用者は画像データが送信されるとこれを放置するように設定しておけば、扉開閉が行われる都度これを知ることができる。よって、使用者は、例えば扉開閉回数が多くなって電力消費量が多くなりそうな場合には自宅に電話して子供等に冷蔵庫５１の使用を控えるように話をすることができ、省エネに対する利便性も向上する。

２－５．画像データ等の送受信経路の切換
図２５は表示端末１５の通信系路選択時のディスプレイ表示を示す。画像データの送受信の流れはすでに述べたとおりであるが、通信の経路を変更して画像データの取得を迅速化するものである。

具体的には使用者が表示端末１５を、ルーター装置５５を介してゲートウェイ装置５４と直接行うか、またはインターネット５６を介してサーバ装置５７と行うかを選択可能としたものである。

図２５において、７０、７１は表示端末１５のディスプレイに表示される通信経路の選択ボタンで、７０は表示端末１５をルーター装置５５、ゲートウェイ装置５４を介して冷蔵庫５１に直接接続する「ダイレクト」選択ボタン、７１は更にインターネット５６を介してサーバ装置５７或いは冷蔵庫５１に接続する「サーバ」選択ボタンである。７２、７３は呼び出すデータのデータ選択ボタンで、７２が食品の画像データ、７３が扉開閉回数等の省エネ関連データのボタンである。７４は送信ボタンである。

「ダイレクト」選択ボタン７０はこれを選択すると、表示端末１５は「ダイレクト」通信が設定される。「ダイレクト」通信が設定されている状態で、使用者が送信ボタン７４に触れると、表示端末１５の画像データ要求信号が、表示端末１５からルーター装置５５を介し直接ゲートウェイ装置（中継装置）５４に送信される。ゲートウェイ装置５４は、受信したデータ要求信号を、冷蔵庫５１の無線アダプタ５３に送信する。無線アダプタ５３は、上記画像データ要求信号を受信すると、冷蔵庫５１の制御部５９にこれを送信する。冷蔵庫５１の制御部５９は画像データ要求信号を受信すると、記憶部６０に保存している画像データを読み込み、無線アダプタ５３、ルーター装置５５を介して表示端末１５に画像データを送信する。

したがって、使用者が図１１の破線で示すように、住居Ａ内に位置する場合、広義には表示端末１５がルーター装置５５と直接通信できる位置に存在する場合、表示端末１５は、ルーター装置５５を介してゲートウェイ装置５４と通信し、冷蔵庫５１の記憶部６０から画像データを直接取得することができる。

これによって、インターネット５６へのアクセス集中による回線の混雑等により、表示端末１５への使用者の操作に対する画像データの送信レスポンスに遅延が発生するような場合には、使用者が表示端末１５を「ダイレクト」通信に切り替えることによって、インターネット５６の回線の混雑等を受けずに画像データの取得を行うことができる。よって、使用者は待ち時間なしにリアルタイムに表示端末１５のディスプレイに画像を表示させて貯蔵庫５内の食品状況を確認することができる。

一方、使用者が図１１の実線に示すように、住居Ａ外に位置する場合、広義には表示端末１５がルーター装置５５と直接通信できない位置に存在する場合、使用者が「サーバ」選択ボタン７１に触れることによって表示端末１５は、インターネット５６を介してサーバ装置５７と通信を行い、冷蔵庫５１の画像データを読み込む。すなわち、使用者は、住居Ａ外にいる場合、「サーバ」選択ボタン７１に触れて「サーバ」通信を設定すれば、遠隔地に居ても表示端末１５によって冷蔵庫の画像データを取得し、食品の収納状況を知ることができる。

このように、この実施の形態における冷蔵庫システムは、使用者が、「ダイレクト」通信または「サーバ」通信のいずれか一方を選択することができ、住居Ａ内に居るような場合には「ダイレクト」通信を選択して、インターネット回線の混雑に影響されることなく快適な状態で画像を見ることができる。

以上、具体的な構成を例示して本発明の冷蔵庫と冷蔵庫システムを説明したが、本発明は上記構成に限定されるものではない。

例えば、前記実施の形態では表示端末１５と冷蔵庫５１の無線アダプタ５３、インターネット５６との通信経路にゲートウェイ装置５４を介在させるものを例示したが、このゲートウェイ装置５４は必ずしも必要でなく、ルーター装置５５を介して直接表示端末１５及び冷蔵庫５１の無線アダプタ５３、インターネット５６と通信するように構成してもよく、このようにすることによってシステム構成の簡素化が図れる。

また前記実施の形態では使用者が住居Ａ外に居るときにはサーバ装置５７から画像データを取得するようにしたが、サーバ装置５７を介さずに、表示端末１５からインターネット５６およびルーター装置５５、ゲートウェイ装置５４と通信し、冷蔵庫５１の記憶部６０に記憶されている画像データを冷蔵庫５１から直接取り込むように構成してもよい。この場合及び「ダイレクト」通信を行う場合は、冷蔵庫５１の記憶部６０で画像の結合処理を行い、この結合処理後の画像データを送信するのが好ましい。

更にこの実施の形態では、表示端末１５のディスプレイに「ダイレクト」選択ボタン７０と「サーバ」選択ボタン７１を表示させて、使用者が「ダイレクト」通信と「サーバ」通信の選択を行う場合を例示したが、これは表示端末１５にルーター装置５５の電波をキャッチすると自動的に「ダイレクト」通信に切り替わる機能を持たせて「ダイレクト」通信が自動的に選択されるようにしても良く、使い勝手を向上させることができる。

２－６．食品名称の音声認識動作
２－６－１．扉開時の音声認識動作
図３０は冷蔵庫５１の扉１０を開いたときに音声認識装置を起動するようにした場合の動作を示すフローチャートである。

食品を確認するために扉１０を開くと（ステップ１０１のＹ）、音声認識装置１００－１、１００－２を起動し（ステップ１０２）、庫内照明灯３４－１，３４－２を点灯する（ステップ１０３）。音声認識装置で音声が認識されると（ステップ１０４のＹ）、マイク判別処理により音声認識装置１００－１、１００－２の音声入力レベルを確認してどちらの音声認識データを採用するかを判断し（ステップ１０５）、音声解析処理により採用した音声データを解析して入力された食品の名称を確定し（ステップ１０６）、確定した音声データを冷蔵庫５１の記憶部６０に記憶させる（ステップ１０７）。音声認識装置で音声が認識されない場合は（ステップ１０４のＮ）、扉１０の状態を確認して扉１０が閉まっていない場合は再度音声認識装置の音声を確認する（ステップ１０８のＮ）。扉１０が閉まっている場合は（ステップ１０８のＹ）、庫内照明灯３４－１，３４－２を消灯し（ステップ１０９）、しばらく、例えば数秒経過後に音声認識装置１００－１、１００－２を停止する（ステップ１１０）。

ここで、上記音声認識装置を扉１０に連動することで、扉が開くと音声認識装置を起動し、扉が閉まると音声認識装置を停止することができ、好適である。すなわち、常に音声認識装置を動作させることが不要であるため、音声の誤認識を防ぐことができるとともに省エネを実現することができる。

２－６－２．人感センサの在による音声認識動作
図３１は冷蔵庫５１の前に人が存在することを検出したときに音声認識装置を起動するようにした場合の動作を示すフローチャートである。

冷蔵庫の前に人が存在することを人感センサ１０１が検出すると（ステップ１１１のＹ）、音声認識装置１００－１、１００－２を起動する（ステップ１０２）。音声認識装置で音声が認識されると（ステップ１０４のＹ）、マイク判別処理により音声認識装置１００－１、１００－２の音声入力レベルを確認してどちらの音声認識データを採用するかを判断し（ステップ１０５）、音声解析処理により採用した音声データを解析して入力された食品の名称を確定し（ステップ１０６）、確定した音声データを冷蔵庫５１の記憶部６０に記憶させる（ステップ１０７）。音声認識装置で音声が認識されない場合は（ステップ１０４のＮ）、人感センサ１０１の状態を確認して人を検出している場合は再度音声認識装置の音声を確認する（ステップ１１２のＮ）。人を検出していない場合は（ステップ１１２のＹ）、しばらく、例えば数秒経過後に音声認識装置１００－１、１００－２を停止する（ステップ１１０）。

ここで、上記音声認識装置を人感センサ１０１に連動することで、人を検出すると音声認識装置を起動し、人を検出しなくなると音声認識装置を停止することができ、好適である。すなわち、常に音声認識装置を動作させることが不要であるため、音声の誤認識を防ぐことができるとともに省エネを実現することができる。

以上、音声認識動作について代表的なものを例示して説明したが、前記音声認識動作以外に例えば、表示端末１５から音声認識起動指示があると起動する、等の音声認識動作も考えられる。

２－６－３．扉閉時の音声認識動作
図３２は冷蔵庫５１の扉１０を閉じたときに音声認識装置を停止するようにした場合の動作を示すフローチャートである。
扉１０が閉まっている場合は（ステップ１０８のＹ）、庫内照明灯３４－１，３４－２を消灯し（ステップ１０９）、しばらく、例えば数秒経過後に音声認識装置１００－１、１００－２を停止する（ステップ１１０）。扉１０が閉まっていない場合は再度扉の状態を確認する（ステップ１０８のＮ）。

ここで、上記音声認識装置を扉１０に連動することで、扉が閉まると音声認識装置を停止することができ、好適である。すなわち、わざわざ手動で音声認識装置を停止する操作が必要なく、音声認識装置の停止忘れがなくなるため、音声の誤認識を防ぐことができるとともに省エネを実現することができる。

２－６－４．人感センサの否による音声認識動作
図３３は冷蔵庫５１の前に人が存在していないことを検出したときに音声認識装置を停止するようにした場合の動作を示すフローチャートである。
人感センサ１０１の状態を確認して人を検出していない場合は（ステップ１１２のＹ）、しばらく、例えば数秒経過後に音声認識装置１００－１、１００－２を停止する（ステップ１１０）。人を検出している場合は再度人感センサの状態を確認する（ステップ１１２のＮ）。

ここで、上記音声認識装置を人感センサ１０１に連動することで、人を検出していない場合に音声認識装置を停止することができ、好適である。すなわち、わざわざ手動で音声認識装置を停止する操作が必要なく、音声認識装置の停止忘れがなくなるため、音声の誤認識を防ぐことができるとともに省エネを実現することができる。

以上、音声認識動作について代表的なものを例示して説明したが、前記音声認識動作以外に例えば、表示端末１５から音声認識停止指示があると停止する、等の音声認識動作も考えられる。

２－７．音声認識した食品のレシピ検索
次に前記した各動作によって音声認識したデータを用いたレシピ検索について説明する。

２－７－１．サーバでレシピ検索
図３４はサーバ装置５７で音声認識データに従ってレシピ検索する場合を示し、前記図３０、図３１に示す動作によって音声認識されると、冷蔵庫５１は無線アダプタ５３からゲートウェイ装置５４、ルーター装置５５を介してインターネット５６に接続し（ステップ１１３）、音声認識したデータをインターネット５６に接続されたサーバ装置５７に送信する（ステップ１１４）。インターネット５６を経由して送信された音声認識データはサーバ装置５７のサーバ制御部６６によって音声認識データを用いたレシピの検索処理（ステップ１１５）を行う。レシピ検索された結果はサーバ装置５７のデータ記憶部６７に保存される（ステップ１１６）。

この例のようにサーバ装置５７でレシピ検索を行い、かつ、記憶保存しておけば、冷蔵庫側の制御部５９や記憶部６０の負荷を低減することができ、インターネット対応型の冷蔵庫を安価に提供することができる。

２－７－２．表示端末側でレシピ検索
図３５は表示端末１５側で音声認識データに従ってレシピ検索する場合を示し、前記図３０、図３１に示す動作によって音声認識されると、冷蔵庫５１は無線アダプタ５３からゲートウェイ装置５４、ルーター装置５５を介してインターネット５６に接続し（ステップ１１３）、サーバではなく表示端末１５に音声認識したデータを送信する（ステップ１１７）。インターネット５６を経由して送信された音声認識データは表示端末１５によって音声認識データを用いたレシピの検索処理（ステップ１１８）を行う。レシピ検索された結果は表示端末１５のデータ記憶部に保存される（ステップ１１９）。

この例の場合も表示端末１５の負荷は増大するものの、冷蔵庫側の制御部５９や記憶部６０の負荷を低減することができ、インターネット対応型の冷蔵庫を安価に提供することができる。

以上、音声認識したデータの送信とレシピ検索動作について代表的なものを例示して説明したが、前記保存とレシピ検索する箇所は必ずしも同一箇所、例えばサーバ装置５７で行わなければならないというものではなく、例えば、表示端末１５側でレシピ検索処理を行い、サーバ装置５７でレシピ検索結果を保存する、等、システムに応じて任意に設定すればよいものである。

２－８．表示端末でのレシピ表示
２－８－１．表示端末でのレシピ検索結果の表示
図３６はサーバ装置５７或いは冷蔵庫５１と表示端末１５との送受信を示すフローチャートで、サーバ装置５７或いは冷蔵庫５１に記憶しているデータの送受信を示すものである。

表示端末１５は音声認識があれば、冷蔵庫５１の音声解析処理によって識別された音声認識データを受け取り表示端末１５に表示する（ステップ１２０）。音声認識データを表示した後は、表示端末１５の検索開始ボタンを押すか特定のキーワードを言うことにより、サーバ装置５７或いは表示端末１５でレシピ検索を行い、レシピ検索が完了するまでレシピ検索状況を確認し続ける（ステップ１２１のＮ）。レシピ検索が完了すると（ステップ１２１のＹ）、レシピ検索結果を表示端末１５に表示する（ステップ１２２）。なお、レシピ検索結果はユーザーの背の高さに応じて最適な表示位置になるように自動調整を行ってもよい。

以上のように、この冷蔵庫システムによれば、表示端末１５にレシピ検索の結果を表示することができ、表示端末１５を取り外すことにより、表示端末を見る場所に制限がなく、料理をしているすぐ近くまで持ち運んで確認することができ、料理の作業効率向上となる。

＜３．作用効果＞
以上、具体的な構成を持って説明してきたように本発明の実施の形態における冷蔵庫及び冷蔵庫システムは種々の作用効果を果たすが、本発明の要旨となる冷蔵庫、すなわち、冷蔵庫の扉の前面と冷蔵庫内部の側面に音声認識装置を設けたことにより、冷蔵庫の扉が開いている状態、閉まっている状態に関わらず音声認識することが可能となり、音声だけでレシピ検索できる冷蔵庫を提供することができる。またドア開閉や人感センサに連動させることによって、常に音声認識手段を動作させなくて済むため、誤認識を防ぐことができるとともに省エネに貢献する、冷蔵庫を提供することができる。

また、この実施の形態の冷蔵庫では、カメラ３５－１，３５－２は貯蔵庫５の前面側から貯蔵庫５内の食品を撮影するが、このとき庫内照明灯３４－１，３４－２も貯蔵庫５の前面側に設けてあって、貯蔵庫５内の食品をカメラ３５－１，３５－２による撮影方向と同じ前面側から照射している。したがって、その撮影画像は庫内照明灯３４－１，３４－２が貯蔵庫５の奥壁に設けてある場合のような暗さや見にくさはなく、鮮明な画像となる。また、撮影した画像を明るくし、鮮明にする画像処理をサーバ装置５７に求める必要もなくなる。

また、上記カメラ３５－１，３５－２と庫内照明灯３４－１，３４－２とは前記棚板３０－１～３０－４の前端より前方側に位置するように設けてあるから、カメラ３５－１，３５－２で撮影した貯蔵庫５内の画像は、使用者が冷蔵庫５１の扉１０を開いて実際に見る状態と同じとなる。したがって、使用者が表示端末１５に画像データを表示させてみたときに何ら違和感を持つことなく貯蔵庫５内の食品状況を確認することができる。しかも、庫内照明灯３４－１，３４－２は棚板３０－１～３０－４の前端前方から棚板上の食品を照らすので、棚板３０－１～３０－４の前端部に載置されている食品も明るく、かつ、鮮明に撮影することができる。

また、上記カメラ３５－１，３５－２は冷蔵庫５１の扉１０内面部に設けるとともに、庫内照明灯３４－１，３４－２は貯蔵庫５の開口縁両側壁部に設けてあるから、カメラ３５－１，３５－２はまず貯蔵庫５の左右略中央部に位置することになる。したがって、当該カメラ３５－１，３５－２で撮影した画像を使用者が冷蔵庫５１の扉１０を開いて実際に見る状態により近い形とすることができる。加えて、上記カメラ３５－１，３５－２と棚板上の食品との間の距離を大きくとって貯蔵庫５内の広い範囲を撮影することができ、より広範囲の食品の収納状況を表示端末１５で確認することが可能となる。

また、カメラ３５－１，３５－２は扉内面の扉ポケット３３－１，３３－２の前後方向の略中央部分に位置するように設けてあるから、貯蔵庫５内の食品のみならず扉ポケット３３－１，３３－２に収納している食品、例えば牛乳パック等をもその一部を撮影することができる。使用者は自分で収納したものであるから、その一部が写っているだけでもそれが何であるかを認識することができる。よって、貯蔵庫内のほぼ全ての食品を撮影することが可能となる。

また、カメラは図９（ａ）に示すように収納容器専用のカメラ３５－３を設ければ収納容器３１内の食品も鮮明に撮影することができる。更に図９（ｂ）で示すようにカメラ３５－２を上下動可能にしたり、図９（ｃ）のように上下回動自在とすることによって収納容器３１内の食品も二つのカメラ、すなわち、少ないカメラ数で効率よく撮影することができる。

一方、前記庫内照明灯３４－１，３４－２は、図７から明らかなようにカメラ３５－１，３５－２より奥側の位置に設け、庫内照明灯３４－１，３４－２の光が直接カメラ３５－１，３５－２の撮影部に入り込まないように設けてあるから、庫内照明灯３４－１，３４－２の光がカメラ３５－１，３５－２に入ってカメラ３５－１，３５－２の写りが悪くなることを防止でき、常に良好な画像を得ることができる。これは、庫内照明灯３５－１，３５－２のカメラ側に遮光部を設けたり、或いは庫内照明灯３４－１，３４－２を構成するＬＥＤ等の光原を斜め後方向きに傾斜配置するなどの構成を採用しても同様の効果が得られる。

また、上記庫内照明灯３４－１，３４－２は貯蔵庫内の照度が１５０ルックス～２００ルックスであり、このままの照度で撮影すると、図１４の撮影動作の項で説明したように食品が白っぽく写り、判別がしにくいものとなる。そのため、この実施形態では照度を低下させて撮影する構成としてある。これによりＣＣＤカメラやＣＭＯＳカメラであっても鮮明な撮影を可能とする。この庫内照明灯３４－１，３４－２の照度は、扉１０を閉じて、或いは扉１０を開いて撮影するときだけ通常時よりも低い照度となるようサーバ制御部６６によって制御するようにしても良く、このような制御をすることによって撮影しない通常時はこれまで通りの照度を保って庫内を見やすくしつつ鮮明な撮影を可能とすることができる。上記照度の低下は、例えば庫内照明灯３４－１，３４－２のいずれか一方或いはその両方の庫内照明灯３４－１，３４－２の一部を消灯させたり、両方の庫内照明灯３４－１，３４－２の照度を低下させる等種々考えられ、適宜選択すればよい。

また、上記カメラ３５－１，３５－２で撮影した貯蔵庫５内の画像は、それぞれのカメラ３５－１，３５－２の画像をサーバ装置５７に送信してサーバ装置５７、或いは冷蔵庫５１、或いは表示端末１５内で結合処理し合成するが、この実施の形態では上記画像の合成処理が容易になる。

すなわち、上記カメラ３５－１，３５－２は、棚板３０－１～３０－４の前端と対応する扉内面部、この例では上段の棚板３０－１と３段目の棚板３０－３の前端と対応する扉内面部に設けてあるから、それぞれのカメラ３５－１，３５－２の撮影は図２６中の線Ｚで示すように棚板３０－１，３０－３を中心として撮影することになる。

したがって、二つのカメラ３５－１，３５－２で撮影した貯蔵庫５内の画像データは、２段目の棚板３０－２部分で結合処理することを可能とする。すなわち、図２７の「撮影生画像」に示すように上下それぞれの画像には棚板３０－２が共通して写っており、この「撮影生画像」の湾曲を修正して「湾曲修正処理後画像」にした後、前記上下の画像に移っている共通の棚板３０－２を合致させれば貯蔵庫全体の撮影画像となる。その結果、画像の結合処理時に棚板の上に置かれている各食品を、各食品ごとに位置合わせして結合するきわめて困難な補正処理をする必要がなくなって、画像の結合処理は容易となる。よって、画像結合のための処理プログラムも簡素なものとすることができ、画像結合処理のためのサーバ装置５７、或いは冷蔵庫５１、或いは表示端末１５の制御部分の容量も大容量のものを必要としなくなり、処理速度のスピーディ化に貢献できる。

さらに、二つのカメラ３５－１，３５－２は、高さ調整ができない棚板３０－１、棚板３０－３の略前方位置に設けてあることから、高さ調節可能な棚板３０－２の高さが変更された場合でも、画像の結合処理時に、棚板３０－２の高さに応じて結合処理する範囲を調整することで、容易に画像の結合処理が可能となる。

本発明は、貯蔵庫内の食品に関連するレシピを音声だけで検索することができる冷蔵庫及びその冷蔵庫システムを提供することができ、家庭用の冷蔵庫で適用することができる。

１ 冷蔵庫本体
２ 外箱
３ 内箱
４ 断熱材
５ 貯蔵庫（冷蔵室）
６ 切替室（貯蔵庫）
７ 製氷室（貯蔵庫）
８ 冷凍室（貯蔵庫）
９ 野菜室（貯蔵庫）
１０ 扉
１０ａ 外被パネル
１０ａ－１ ガラス板
１０ａ－２ マジックミラー
１０ｂ 内側板
１０ｂ－１，１０ｂ－２ 隆起壁部
１１ センターピラー
１２ａ，１２ｂ，１３，１４ 引き出し式扉
１５ 表示端末
１５ａ ディスプレイ
１６ 冷却室
１７ 冷却器
１８ 送風ファン
１９ コンプレッサ
２０ 放熱パイプ
２１ キャピラリーチューブ
２２ ダンパ
２３ 収納枠体
２４ 端末保持体
２５ タッチパネル
２６ 隙間
２７ 枠体
２８ 凹部
２９、２９ａ スモークシート
３０－１～３０－４ 棚板
３１ 収納容器
３２－１～３２－４ 側壁凸部
３３－１～３３－８ 扉ポケット
３４－１，３４－２ 庫内照明灯（照明装置）
３５－１，３５－２，３５－３ カメラ（撮影装置）
４１ カメラモジュール
５０ 冷蔵庫システム
５１ 冷蔵庫
５３ 無線アダプタ（通信装置）
５３ａ 「接続」ボタン
５４ ゲートウェイ装置（中継装置）
５５ ルーター装置
５６ インターネット
５７ サーバ装置
５８ インターフェイス（Ｉ／Ｆ）
５９ コントローラ（制御部）
６０ 記憶部
６１ 扉開閉検出部
６２ ファン駆動回路
６３ コンプレッサ駆動回路
６４ 交流電源
６５ サーバ用インターフェイス
６６ サーバ制御部
６７ データ記憶部
７０ 「ダイレクト」選択ボタン
７１ 「サーバ」選択ボタン
７２ 画像データ選択ボタン
７３ 省エネ関連データ選択ボタン
７４ 送信ボタン
１００－１、１００－２ マイク（音声認識装置）
１０１ 人感センサ
Ａ 住居

本発明は、貯蔵庫内の食品に関連するレシピを音声だけで検索することができるシステムおよび冷蔵庫に関する。

本発明は、レシピを検索することができるシステムおよび冷蔵庫を提供することを目的とする。

本発明のシステムは、冷蔵庫と表示端末とを備えたシステムにおいて、冷蔵庫は、冷蔵室と、冷蔵室に設けられた扉と、扉の前面に設けられている、音声を認識するための第１の音声認識手段と、冷蔵室の内部の側面に設けられている、音声を認識するための第２の音声認識手段と、扉の開閉状態を検出するための扉開閉検出手段と、制御手段とを備え、扉開閉検出手段によって前記扉の開状態が検出されたら、制御手段は、第１の音声認識手段および第２の音声認識手段を起動させ、第１の音声認識手段および第２の音声認識手段によって音声が認識された場合、制御手段は、第１の音声認識手段によって認識された第１の音声データと第２の音声認識手段によって認識された第２の音声データのうち、音声入力レベルに基づいて採用する音声データを判断し、制御手段によって音声データが判断された後、表示端末に音声データが表示され、音声データを用いたレシピ検索を実行するか否かを判断する確認手段が設けられ、確認手段によって音声データを用いたレシピ検索を実行すると判断された場合、レシピ検索の結果が表示端末に表示されることを特徴とする。
また、本発明の冷蔵庫は、冷蔵室と、冷蔵室に設けられた扉と、扉の前面に設けられている、音声を認識するための第１の音声認識手段と、冷蔵室の内部の側面に設けられている、音声を認識するための第２の音声認識手段と、扉の開閉状態を検出するための扉開閉検出手段と、制御手段と、表示手段とを備え、扉開閉検出手段によって扉の開状態が検出されたら、制御手段は、第１の音声認識手段および第２の音声認識手段を起動させ、第１の音声認識手段および第２の音声認識手段によって音声が認識された場合、制御手段は、第１の音声認識手段によって認識された第１の音声データと第２の音声認識手段によって認識された第２の音声データのうち、音声入力レベルに基づいて採用する音声データを判断し、制御手段によって音声データが判断された後、表示手段に音声データが表示され、音声データを用いたレシピ検索を実行するか否かを判断する確認手段が設けられ、確認手段によって音声データを用いたレシピ検索を実行すると判断された場合、レシピ検索の結果が表示手段に表示されることを特徴とする。

本発明によれば、レシピを検索することができるシステムおよび冷蔵庫を提供することができる。

Claims (10)

1. 冷蔵室と、
   前記冷蔵室の内部の側面に設けられている、レシピ検索に必要な音声を認識するための音声認識手段とを備え、
   前記レシピ検索に必要な音声は食品名称であることを特徴とする冷蔵庫。
2. 前記冷蔵室の扉が開けられたことに基づいて、前記音声認識手段を起動し、前記冷蔵室の扉が閉じられたことに基づいて、前記音声認識手段を停止することを特徴とする請求項１に記載の冷蔵庫。
3. 前記冷蔵室に設けられている、前記冷蔵室の内部を照明する照明手段と、
   前記冷蔵室の扉が開けられたことに基づいて、前記音声認識手段を起動し、前記照明手
   段を点灯し、前記冷蔵室の扉が閉じられたことに基づいて、前記照明手段を消灯し、前記
   照明手段を消灯してから所定の時間経過後に前記音声認識手段を停止することを特徴とする請求項１に記載の冷蔵庫。
4. 前記冷蔵室の扉が開けられたことに基づいて、前記音声認識手段を、音声を認識しない第１の状態から音声を認識する第２の状態に遷移させ、前記冷蔵室の扉が閉じられたことに基づいて、前記音声認識手段を、前記第２の状態から前記第１の状態に遷移させることを特徴とする請求項１に記載の冷蔵庫。
5. 前記冷蔵室に設けられている、前記冷蔵室の内部を照明する照明手段と、
   前記冷蔵室の扉が開けられたことに基づいて、前記音声認識手段を、音声を認識しない第１の状態から音声を認識する第２の状態に遷移させ、前記照明手段を点灯させ、前記冷蔵室の扉が閉じられたことに基づいて、前記照明手段を消灯させ、前記照明手段を消灯させてから所定の時間経過後に前記音声認識手段を、前記第２の状態から前記第１の状態に遷移させることを特徴とする請求項１に記載の冷蔵庫。
6. 前記音声認識手段が認識した音声に対応する音声データを外部に送信する送信手段を更に備えることを特徴とする請求項１から５のいずれか１項に記載の冷蔵庫。
7. 前記音声認識手段が認識した音声に対応する音声データを、レシピ検索を実行可能な外部のサーバに送信する送信手段と、
   前記レシピ検索の結果を表示する表示手段とを更に備えることを特徴とする請求項１から５のいずれか１項に記載の冷蔵庫。
8. 前記音声認識手段によって前記食品名称が認識されると、前記音声認識手段が認識した前記食品名称に基づいてレシピ検索が実行され、
   前記レシピ検索の結果を表示する表示手段を更に備えることを特徴とする請求項１から５のいずれか１項に記載の冷蔵庫。
9. 前記冷蔵室の扉の前面に、前記食品名称を認識するための第２の音声認識手段が更に設けられていることを特徴とする請求項１から８のいずれか１項に記載の冷蔵庫。
10. 前記冷蔵室の扉は観音開き式の扉であることを特徴とする請求項１から９のいずれか１項に記載の冷蔵庫。

Images