JP2018035983A - 食品貯蔵庫、庫内撮影システム - Google Patents

食品貯蔵庫、庫内撮影システム Download PDF

Info

Publication number
JP2018035983A
JP2018035983A JP2016168261A JP2016168261A JP2018035983A JP 2018035983 A JP2018035983 A JP 2018035983A JP 2016168261 A JP2016168261 A JP 2016168261A JP 2016168261 A JP2016168261 A JP 2016168261A JP 2018035983 A JP2018035983 A JP 2018035983A
Authority
JP
Japan
Prior art keywords
food
information
door
unit
refrigerator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016168261A
Other languages
English (en)
Inventor
晃二 古寺
Koji Kodera
晃二 古寺
淳一 白川
Junichi Shirakawa
淳一 白川
慎二 松浦
Shinji Matsuura
慎二 松浦
赤羽 俊夫
Toshio Akaha
俊夫 赤羽
正徳 荻野
Masanori Ogino
正徳 荻野
裕之 岸田
Hiroyuki Kishida
裕之 岸田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2016168261A priority Critical patent/JP2018035983A/ja
Publication of JP2018035983A publication Critical patent/JP2018035983A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Cold Air Circulating Systems And Constructional Details In Refrigerators (AREA)
  • Studio Devices (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

【課題】食品貯蔵庫内の食材に関して、ユーザにとって有益な情報を提供する。【解決手段】本発明の冷蔵庫は、食品管理情報から、当該冷蔵庫1のユーザにとって有益な情報を報知情報として生成する報知情報生成部(24b)と、上記報知情報生成部(24b)にて生成された報知情報をスピーカおよびディスプレイを介してユーザに報知させる報知制御部(24c)とを含んでいる。【選択図】図2

Description

本発明は、食材を貯蔵する食品貯蔵庫、庫内撮影システムに関する。
冷蔵庫や冷凍庫等の食品貯蔵庫において、食品の在庫管理は重要である。例えば、特許文献1には、冷蔵庫の庫内に設置されたカメラが、所定時間間隔で冷蔵庫開口部を通過する対象物を撮影し、これにより得らえた複数の画像に対して画像演算処理を施して、食品の入出庫判定を行うことで在庫管理を行っている冷蔵庫が開示されている。
また、冷蔵庫の在庫管理の一方法として、カメラにより庫内を撮影して撮影画像により庫内の状況を確認する技術が知られている。例えば、特許文献2には、冷蔵庫に内蔵されたカメラにより、当該冷蔵庫の貯蔵室内の最新状況を画像として取得し、宅内または宅外においてユーザが貯蔵室内の状況をリアルタイムで把握することが可能な冷蔵庫が開示されている。
さらに、冷蔵庫の食品在庫管理を利用して料理のレシピを提供する技術が知られている。例えば、特許文献3には、冷蔵庫にある在庫食材の情報をもとにレシピデータベースを通知し、レシピに必要な在庫にない食材を通知する料理支援システムが開示されている。
特開2015−81762号公報(2015年4月27日公開) 特開2015−222138号公報(2015年12月10日公開) 特開2005−32188号公報(2005年2月3日公開)
しかしながら、特許文献1及び2に開示された技術では、何れも冷蔵庫内の在庫管理を行うことができるものの、在庫の食材に関して、ユーザにとって有益な情報、例えばユーザに対する健康へのアドバイス等は提供されない。
特許文献3に開示された技術では、冷蔵庫の在庫から料理のレシピを提案し、レシピに必要な食材がないことを通知することで、一見、ユーザにとって有益な情報を提供しているが、レシピに必要な食材がないことを通知するだけで、その食材をどの店舗(スーパー等)で購入したらよいか、あるいはどの商品を購入したらよいか等のよりユーザにとってより有益な情報は提供されない。
つまり、特許文献1〜3では、ユーザに報知すべき情報、例えば健康に関する情報等のユーザに利益となるような情報を、当該ユーザに十分に提供できていない。
本発明は、前記の問題点に鑑みてなされたものであり、その目的は、食品貯蔵庫内の食材に関して、ユーザに報知すべき情報を十分に提供することのできる食品貯蔵庫、庫内撮影システムを実現することにある。
上記の課題を解決するために、本発明の一態様に係る食品貯蔵庫は、食品を庫内に貯蔵する食品貯蔵庫であって、上記庫内に貯蔵された各食品の種別、重量、配置位置を示す情報からなる属性情報及び取り出し履歴情報を含む食品管理情報から、当該食品貯蔵庫のユーザに報知すべき情報を報知情報として生成する報知情報生成部と、上記報知情報生成部にて生成された報知情報を上記ユーザに報知する報知部と、を含んでいることを特徴としている。
本発明の他の一態様に係る食品貯蔵庫は、食品を庫内に貯蔵する食品貯蔵庫であって、レシピデータベースを含み、上記庫内からユーザによって取り出された食品または上記庫内に入れられた食品を、上記記庫内に貯蔵された各食品の種別、重量、配置位置を示す情報からなる属性情報及び取り出し履歴情報を含む食品管理情報を用いて特定する食品特定部と、上記レシピデータベースから、上記食品特定部によって特定された食品に関する情報を抽出し、抽出した情報からユーザに報知すべき情報を報知情報として生成する報知情報生成部と、上記報知情報生成部にて生成された報知情報を上記ユーザに報知する報知部と、を含んでいることを特徴としている。
本発明のさらに他の態様に係る食品貯蔵庫は、食品を貯蔵する庫内を開放または閉塞するための扉が設けられた食品貯蔵庫であって、上記扉の上記庫内に対向する面に、当該庫内を撮影するためのカメラと、上記扉の動きを検知するセンサと、上記センサによって上記扉の静止が検知されたとき、上記カメラに上記庫内の撮影を行わせるカメラ制御部と、を含んでいることを特徴としている。
本発明のさらに他の態様に係る庫内撮影システムは、食品を貯蔵する庫内を開放または閉塞するための扉が設けられた食品貯蔵庫と、上記食品貯蔵庫とクラウドサーバを介して通信可能に接続された、撮影機能を有する通信端末と、を含む庫内撮影システムであって、上記通信端末は、上記クラウドサーバから、上記食品貯蔵庫の扉が開放されたことが検知されたことが通知されると、上記食品貯蔵庫の庫内の撮影を行うことを特徴としている。
本発明の一態様によれば、食品貯蔵庫内の食材に関して、ユーザに報知すべき情報を十分に提供できるという効果を奏する。
本発明の実施形態1に係る冷蔵庫の要部構成を示すブロック図である。 図1に示す冷蔵庫に備えられた在庫管理部の概略構成ブロック図である。 本発明の実施形態1に係る在庫管理システムの概要を示す図である。 図1に示す冷蔵庫の冷蔵室のドア部を開いた状態の一部透過斜視図である。 図1に示す冷蔵庫に備えられた重量センサにマトリクス状に配置された圧力センサの一例を示す図である。 図1に示す冷蔵庫における品物入庫時の処理の流れを示すフローチャートである。 図1に示す冷蔵庫における品物出庫時の処理の流れを示すフローチャートである。 食材管理テーブルの一例を示す図である。 飲み物詳細テーブルの一例を示す図である。 野菜詳細テーブルの一例を示す図である。 図1に示す冷蔵庫における情報提供の処理の流れを示すフローチャートである。 本発明の実施形態2に係る冷蔵庫で用いるレシピデータベースの一例を示す図である。 本発明の実施形態2に係る冷蔵庫に備えられた在庫管理部の概略構成ブロック図である。 図12に示すレシピデータベースを用いた情報提供の処理の流れを示すフローチャートである。 本発明の実施形態3に係る冷蔵庫の冷蔵室のドア部を開いた状態の一部透過斜視図である。 図15に示す冷蔵庫の要部構成を示すブロック図である。 図15に示す冷蔵庫における庫内撮影処理の流れの一例を示すフローチャートである。 図15に示す冷蔵庫における庫内撮影処理の流れの他の例を示すフローチャートである。 図15に示す冷蔵庫における庫内撮影処理の流れのさらに他の例を示すフローチャートである。 図15に示す冷蔵庫における庫内撮影処理の流れのさらに他の例を示すフローチャートである。 図15に示す冷蔵庫における庫内撮影処理の流れのさらに他の例を示すフローチャートである。 図15に示す冷蔵庫における庫内撮影処理の流れのさらに他の例を示すフローチャートである。 図15に示す冷蔵庫における庫内撮影処理の流れのさらに他の例を示すフローチャートである。 本発明の実施形態4に係る通信端末の要部構成のブロック図である。 図24に示す通信端末によって撮影された冷蔵庫の庫内の画像を示す図である。 図24に示す通信端末による冷蔵庫内の撮影処理の流れを示すフローチャートである。 図26に示す撮影処理における画像アップロード処理の流れを示すフローチャートである。
〔実施形態1〕
以下、本発明の一実施形態について、以下に説明する。本実施形態では、本発明の食品貯蔵庫として食材(食品)を冷蔵または冷凍して貯蔵する冷蔵庫について説明する。以下の他の実施形態においても同様に、食品貯蔵庫として冷蔵庫について説明する。
最初に、冷蔵庫の在庫を管理する在庫管理装置について説明し、その後、冷蔵庫について詳細に説明する。なお、以下では、在庫管理装置の一例として在庫管理システムについて説明する。
(在庫管理システムの概要)
図3は、本発明の実施形態1に係る在庫管理システム100の概要を示す図である。在庫管理システム100は、食材の貯蔵を行う冷蔵庫1、1a、1b、・・・と、冷蔵庫1と広域通信ネットワーク4を介して通信するクラウドサーバ2とを含む。在庫管理システム100は、必要に応じて、さらに、ユーザが携帯する小型の通信端末(通信端末)3を含んでいてもよい。通信端末3は、例えば、スマートフォン、タブレット端末、携帯電話などであり、ユーザによって携帯されている。クラウドサーバ2、通信端末3、および、冷蔵庫1は、広域通信ネットワーク4を介して接続するよう構成されている。なお、冷蔵庫1および通信端末3について、数や種類は限定されず、個別に説明する必要のない場合は、総称として冷蔵庫1と通信端末3とを用いる。また、クラウドサーバ2によって管理されるユーザ宅の数も限定されない。
なお、冷蔵庫1のそれぞれには、図示しない家電アダプタが接続されており、家電アダプタは、通信部の一部を構成し、冷蔵庫1を広域通信ネットワーク4に接続させる。これによって、冷蔵庫1を、いわゆるネットワーク家電にすることができ、冷蔵庫1は、クラウドサーバ2などの外部装置から、必要な情報を受信することができるし、また、ローカルに保存された情報を冷蔵庫1からクラウドサーバ2に送信することもできる。なお、ここでは、広域通信ネットワーク4としてインターネットを含む構成を例示しているが、電話回線網、移動体通信網、CATV(CAble TeleVision)通信網、衛星通信網などを利用
することもできる。
また、広域通信ネットワーク4を介して、クラウドサーバ2と通信端末3とが通信可能になっている。通信端末3と広域通信ネットワーク4におけるインターネットとの間は、3G(3rd Generation)、LTE(Long Term Evolution)や、宅内あるいは公衆のWi
−Fi(登録商標)アクセスポイントなどを利用して接続される。
本実施形態に係る在庫管理システム100において、冷蔵庫1は、品物の入出庫判定機能および在庫管理機能を担い、これを実行する。クラウドサーバ2は、冷蔵庫1が上記各機能を実行する上で必要な情報を適宜冷蔵庫1に提供する。また、クラウドサーバ2は、必要に応じて、冷蔵庫1の情報(在庫の情報など)を収集し、冷蔵庫1のユーザの通信端末3に対して収集した情報を配信する。
なお、本実施形態では、クラウドサーバ2は、クライアント(ユーザ宅)ごとに、冷蔵庫1および通信端末3を個々に登録して管理している。したがって、クラウドサーバ2は、データを受信するときは、どの冷蔵庫1または通信端末3から送信されたデータであるのかを把握することが可能であり、データを送信するときは、どの冷蔵庫1または通信端末3宛てであるかを指定して送信することが可能である。
(冷蔵庫の概観)
図4は、冷蔵庫1の冷蔵室1cのドア部1dを開いた状態の一部透過斜視図である。図4に示すとおり、冷蔵庫1は、一例として、3つの貯蔵庫からなり、各庫は、上から順に、冷蔵室1c、冷凍室1f、および、野菜室1vを構成する。冷蔵庫1の各庫の構成は、上記に限定されず、さらに、製氷室またはチルド室を有していてもよいし、冷蔵庫1は、冷蔵室1cのみ、冷凍室1fのみで構成されていてもよい。また、各庫の位置は、上下逆でも構わない。
冷凍室1fおよび野菜室1vは、引き出し型の貯蔵スペースを有し、ユーザは、取っ手を手前に引くことで、冷凍室1fおよび野菜室1vの庫内に手をのばすことができる。一方、冷蔵室1cは、片開き型の1枚の扉によって構成されるドア部1dを有し、ユーザは、取っ手を手前に引いてドア部1dを開くことで、冷蔵室1cの庫内に手をのばすことができる。なお、冷蔵室1cのドア部1dは、観音開き型の2枚の扉によって構成されてもよい。
冷蔵室1cの貯蔵スペースは、さらに、一例として、1枚の棚板1rによって、2段に区切られていてもよい。なお、棚板1rの数は、上記に限定されず、0枚であってもよいし、1枚より少なくても、多くてもよい。
図4に示すとおり、冷蔵庫1内の各貯蔵スペースの床面には、該貯蔵スペース内に置かれた品物の重量を測定する1以上の重量センサ14が設けられる。図4に示す例では、重量センサ14は、一例としてマトリクス状に配列された圧力センサの集合で実現されており、個々の圧力センサは、マトリクス状に一定の間隔で、床面一面に敷き詰められる。この圧力センサの集合は、1つのグループを形成し、これが、1つの重量センサ14に対応する。重量センサ14には、圧力センサの個々のグループを識別するために、番地が割り当てられており、貯蔵スペースには、1以上の重量センサ14が設けられる。
図4に示す例では、冷蔵室1cの貯蔵スペース1段につき、2個の重量センサ14が設けられている。具体的には、上段の床面には、番地Aおよび番地Bが割り当てられた重量センサ14が、下段の床面には、番地Cおよび番地Dが割り当てられた重量センサ14が、それぞれ設けられている。冷凍室1fの床面には、番地Eが割り当てられた重量センサ14が設けられ、野菜室1vの床面には、番地Fが割り当てられた重量センサ14が設けられている。また、ドア部1dのドアポケット上段には、番地Gが割り当てられた重量センサ14が設けられ、ドアポケット下段には、番地Hが割り当てられた重量センサ14が設けられている。冷蔵室1cの各段のように、各貯蔵スペースの床面における重量センサ14の数は、1より多い任意の数で構わない。また、棚板1rを複数設けて貯蔵スペースが増える場合には、各段の床面に重量センサ14を設ける。すなわち、品物を置くことが可能なすべての床面における重量を把握するために、適宜の数および位置にて重量センサ14を設ける。重量センサ14の詳細については後述する。
(冷蔵庫の構成)
図1は、冷蔵庫1の要部構成を示すブロック図である。該ブロック図は、冷蔵庫1のブロック図ではあるが、本図において、本発明に直接関係の無い部分、例えば、冷却または冷凍機能を実現する部分などの記載を省略している。冷蔵庫1は、図1に示すように、少なくとも、制御部10、記憶部11、重量センサ14およびマイク15を備えている構成であり、必要に応じてさらに、通信部12、センサ13、報知部としてのスピーカ16およびディスプレイ17を備えていてもよい。通信部12は、上述の家電アダプタを含み、広域通信ネットワーク4を介してクラウドサーバ2と相互通信を行う。マイク15は、ユーザが制御部10に対して入力する音声を取得する。マイク15によって取得された音声は、図示しない音声制御部によって入力音声データに変換され、音声認識部20によって、音声認識処理される。スピーカ16は、上記音声制御部によって処理された出力音声データを、ユーザが聴取する音声として出力する。ディスプレイ17は、記憶部11に記憶されている各種データをユーザが視認可能なように表示するものであり、例えば、LCD(液晶ディスプレイ)、有機ELD(エレクトロルミネセンスディスプレイ)などの表示装置で構成される。
センサ13は、ドア部1dの開閉を検知するための開閉センサである。開閉センサとしてのセンサ13は、ドアが開けられたこと、または、閉じられたことを検知し、検知結果を音声認識部20、測定部21、在庫管理部24に出力する。なお、センサ13は、照度センサ、接触センサなど適宜のセンサで実現される。重量センサ14は、上述したとおり、貯蔵スペースに置かれた品物(食材)の重量を検知するものである。重量センサ14が取得したセンサ値(重量値)は、測定部21に供給される。
制御部10は、冷蔵庫1の各部の動作を統括的に制御する。制御部10は、例えば、CPUや専用プロセッサなどの演算処理部などにより構成されるコンピュータ装置から成る。制御部10は、機能ブロックとして、少なくとも、音声認識部20、測定部21および在庫管理部24を含み、より好ましくは、必要に応じて、入出庫判定部22および品物識別部23を含んでいる。
記憶部11は、冷蔵庫1が処理する各種データを記憶する。例えば、記憶部11は、音声認識部20によって認識された音声の認識結果を記憶するための認識結果記憶部30を含む。また、記憶部11は、重量センサ14が検知したセンサ値(重量値)および該センサ値から得られた測定結果を記憶するための測定結果記憶部31を含む。また、記憶部11は、冷蔵庫1の各庫内に貯蔵されている品物の一覧表である在庫表を記憶する在庫表記憶部32を含む。さらに、記憶部11は、冷蔵庫1の各庫内に貯蔵されている食材を管理するための食材管理テーブル33、食材管理テーブルの属性毎に設けられた属性テーブル34、レシピDB(データベース)35及び食材DB(データベース)36をさらに含んでいる。なお、記憶部11に記憶されている情報は、冷蔵庫1内に設けられた当該記憶部11に格納されていてもよいし、図3に示すクラウドサーバ2等の外部の記憶装置に格納されていてもよい。
音声認識部20は、マイク15を制御して、ユーザが発した音声を認識する。より好ましくは、音声認識部20は、センサ13によって開ドアが検知されてから閉ドアが検知されるまでの間、マイク15を起動する。そして、ユーザが品物を入庫するタイミングで発した音声を、テキストデータに変換し、該テキストデータを音声取得日時とともに、認識結果記憶部30に記憶する。ここで、ユーザは、品物を入庫するタイミングで品物の名称を発するだけである。これにより、入庫された品物名が認識結果記憶部30に記憶され、在庫管理部24が在庫管理を実施する際に利用することができる。
測定部21は、重量センサ14(各圧力センサ)からのセンサ値に基づいて、重量変化量(貯蔵スペース床面における負荷の変化量)および重量(負荷)が変化した位置(以下、変化位置)を測定する。貯蔵スペースに品物が入庫されたり、出庫されたりして、重量に変化があれば、測定部21が、変化前後のセンサ値の差分から重量変化量を求める。また、センサ値が変化した重量センサ14の番地および圧力センサの座標に基づいて、重量変化が起きた変化位置を特定する。
在庫管理部24は、音声認識部20による音声認識結果および測定部21による測定結果に基づいて、在庫表を更新し、冷蔵庫1の在庫を管理する。具体的には、入庫された品物のレコードを在庫表に登録したり、出庫された品物のレコードを在庫表から削除したり、その他状態に変化があった品物のレコードを更新したりする。なお、在庫管理部24は、冷蔵庫1の庫内に貯蔵された食材の食材管理テーブル33から報知すべき情報(報知情報)を生成し、冷蔵庫1を利用するユーザに対して有益な情報を報知する機能も有している。この機能についての詳細は、後述する。
入出庫判定部22は、測定部21が測定する重量変化量に応じて、入出庫判定を行う。入出庫判定部22は、重量が増加したことによって品物が入庫されたと判定し、重量が減少したことによって品物が出庫されたと判定する。とりわけ、入出庫判定部22は、品物が出庫されてから所定時間以内に、出庫時と同じ位置に、上記出庫された品物の重量以下の品物が入庫された場合に、入庫された品物が、出庫された品物と同一であると判定し、品物が再入庫されたことを在庫管理部24に通知する。
なお、入出庫判定部22は、さらに、出入庫された品物の異同の判定精度を高めるために、ユーザに品物の異同を確認する構成であってもよい。具体的には、入出庫判定部22は、「先ほど取り出した○○ですか?」という確認メッセージを生成し、図示しない発話制御部を利用して、該メッセージの出力音声データをスピーカ16から出力させるか、あるいは該メッセージのテキストデータをディスプレイ17に表示させる。なお、メッセージ内の「○○」の部分には、出庫された品物のレコードから品物識別情報を読み出して挿入すればよい。上記メッセージに対して同一である旨の回答が、ユーザによって制御部310に入力された場合に、入出庫判定部22は、品物が再入庫されたと判定する。なお、ユーザは、同一である旨の回答を入力するために、図示しない操作部を操作して、ディスプレイ17に表示された「はい」のボタンを押下してもよいし、マイク15に向かって「はい」と発話してもよい。
なお、重量が増加したことによって入庫を判定し、重量が減少したことによって出庫を判定する簡易な処理のみを実行する入出庫判定部22は、制御部10の構成から省略されても構わない。この場合、在庫管理部24を、重量が増加した場合に新規レコードを登録し、重量が減少した場合に該当レコードを削除するように構成する。
品物識別部23は、重量変化が起こったタイミング(負荷に変化が生じた時点)で、音声が入力されなかった場合、または、音声の認識に失敗した場合などに、その重量変化に関与している品物について、仮の品物識別情報を作成してもよい。仮の品物識別情報は、任意の意味を持たない文字列であってよいし、重量変化量、変化位置、変化日時などの意味がある文字列であってもよい。このようにして作成された仮の品物識別情報は、在庫管理部24によって利用される。
(測定部21による測定処理)
図5は、1つの重量センサ14にマトリクス状に配置された圧力センサの一例を示す図である。同図に示す例では、重量センサ14は、計64個の圧力センサからなり、圧力センサは、x軸方向に8列、y軸方向に8列でマトリクス状に配置されている。
この重量センサ14に、ある品物(例えば、りんご)が置かれると、重量値が増加する方向に変化する。図5には、説明の目的で、重量の増加を検知した圧力センサのセル内に、「+数字」の記号を付す。数字は、重量増加前の重量との比較で相対的な増加量を表しており、実際の増加重量を表しているわけではない。
測定部21は、1以上の圧力センサのセンサ値が変動し、変化後のセンサ値で安定すると、変化前に安定していたセンサ値と比較してセンサ値の差分が生じた圧力センサを特定する。図5に示す例では、「+数字」の記号が付された圧力センサを特定する。そして、測定部21は、特定したすべての圧力センサのセンサ値の差分を合計し、これを、重量変化量として出力する。この重量変化量が、すなわち、入庫されたりんごの重量として扱われる。
さらに、測定部21は、センサ値が変化した位置である変化位置を特定する。位置の特定精度は特に限定されない。例えば、測定部21は、センサ値が変化した重量センサ14に割り当てられている番地(A〜H)を、そのまま、変化位置として採用してもよい。例えば、図5に示す重量センサ14の番地が「A」であれば、測定部21は、変化位置「A」を出力する。変化位置「A」は、入庫されたりんごの貯蔵位置(貯蔵スペース)として扱われる。
あるいは、測定部21は、センサ値が変化した圧力センサをすべて含む外接矩形14kを定義し、外接矩形14kの座標情報を変化位置として採用してもよい。例えば、図5に示す外接矩形14kに基づく変化位置は、外接矩形14kの最左下の圧力センサ14sの座標情報と、最右上の圧力センサ14eの座標情報との組み合わせにより、表現される。例えば、重量センサ14の番地が「A」であり、圧力センサ14sの座標情報が「x1、y1」であり、圧力センサ14eの座標情報が「x2、y2」である場合、変化位置は、「A、(x1、y1)、(x2、y2)」と表現され得る。変化位置「A、(x1、y1)、(x2、y2)」は、入庫されたりんごの貯蔵位置として扱われる。
なお、重量センサ14の構成は、上記に限定されない。例えば、重量センサ14は、貯蔵スペースの床面の四隅に配置された4つの圧力センサの組み合わせによって実現されてもよい。
(在庫管理部24による在庫管理処理)
図6は、在庫管理部24によって実行される入庫時の在庫管理処理の流れを示すフローチャートである。図7は、在庫管理部24によって実行される出庫時または再入庫時の在庫管理処理の流れを示すフローチャートである。なお、上述の各フローチャートには、入出庫判定部22によって実行される入出庫判定処理も含まれている。
センサ13によって開ドアが検知されると(S1でYES)、音声認識部20は、マイク15を起動する。そして、マイク15を介して音声が入力されると(S2でYES)、音声認識部20は、入力された音声を認識し、その認識結果(品物名のテキストデータ)を、音声入力日時とともに認識結果記憶部30に記憶する(S3)。
測定部21は、重量センサ14から供給されるセンサ値の変動を監視し、センサ値に変化があれば(S4でYES)、センサ値が変化した変化日時、重量変化量、および、変化位置を特定する(S5)。測定部21は、これらの特定した内容を、測定結果記憶部31に記憶する。
上記重量変化量が正の値である、すなわち、センサ値(重量値)が変化前と比較して増加している場合(S6でYES)、次に、入出庫判定部22は、既出の品物の再入庫の可能性を判断する。すなわち、入出庫判定部22は、上記変化位置が、先に出庫された品物の貯蔵位置とほぼ同一で、かつ、上記重量変化量(増加量)は、上記出庫された品物の重量以下である場合に(S7でYES)、品物が再入庫された可能性があると判断し、図7に示すS17のステップに移行する。
一方、重量が増加した変化位置が上記貯蔵位置とは異なっていたり、または、増加量が上記品物の重量を超えている場合は(S7でNO)、在庫管理部24は、新規の品物が入庫されたと判断し、該品物の新規レコードを在庫表に登録する(S8)。具体的には、在庫管理部24は、入庫された品物の品物識別情報、入庫日時、貯蔵位置および重量を、上記在庫表のそれぞれのカラムに格納する。在庫管理部24は、S5にて特定された変化日時に最も近い音声入力日時が対応付けられているテキストデータを、上記品物の品物識別情報として認識結果記憶部30から取得する。在庫管理部24は、上記変化日時を入庫日時として測定結果記憶部31から取得する。在庫管理部24は、S5にて特定された変化位置を貯蔵位置として測定結果記憶部31から取得する。在庫管理部24は、上記重量変化量を、上記品物の重量として測定結果記憶部31から取得する。
なお、在庫管理部24は、品物の名称を認識結果記憶部30から取得できなかった場合には、「先ほど入れたものは何ですか?」などの確認メッセージを生成し、上記発話制御部を利用して、該メッセージの音声をスピーカ16から出力してもよい。センサ13によって閉ドアが検知されないうちは(S9でNO)、冷蔵庫1の制御部10は、S2に戻り以降の処理を繰り返す。
一方、S6にて、センサ値が変化前と比較して減少している場合(S6でNO)、図7を参照して、在庫管理部24は、品物が出庫されたと判断し(S11)(S11では、あるいは、入出庫判定部22は品物が出庫されたと判定してもよい)、出庫された品物のレコードを在庫表から検索する(S12)。具体的には、在庫管理部24は、貯蔵位置がセンサ値の変化位置にほぼ合致するレコード、かつ、重量変化量(減少量)が、重量にほぼ合致するレコードを特定する。
在庫管理部24は、特定した上記レコードにおいて、出庫された品物の出庫日時を記録する(S13)。出庫日時は、S5にて特定された変化日時とする。ここで、図示しないタイマ部により、出庫日時からの経過時間が計測されてもよい。
その後、出庫された品物と同じ貯蔵位置、かつ、該出庫された品物の重量以下で、センサ値が増加した場合(S14でYES)、入出庫判定部22は、再入庫の可能性がある判断し、S14にて入庫された品物が、S11にて出庫された品物と同一か否かを確認するメッセージを出力する(S17)。
上記メッセージに対して、ユーザより、品物が同一である旨の回答が入力されると(S18でYES)、入出庫判定部22は、出庫された品物が再入庫されたと判定する(S19)。この場合、在庫管理部24は、再入庫と判定された品物のレコードにおいて、重量を、S14にて計測されたものに更新する(S20)。一方、記メッセージに対して、ユーザより、品物が同一でない旨の回答が入力されると(S18でNO)、在庫管理部24は、「じゃあ、何を入れたの?教えて」など、品物名の入力を促すメッセージを出力し、ユーザの入力を受け付ける(S21)。該メッセージに対してユーザが、音声またはキーボード操作によって品物名を入力する。
在庫管理部24は、出庫された品物の貯蔵位置に別の品物が入庫されたことに伴い、該貯蔵位置から出庫されたとしてこれまで管理されていた品物のレコードを削除する(S22)。そして、上記別の品物について、在庫表に新規レコードを登録する(S23)。なお、在庫管理部24は、品物識別情報として、S21にてユーザから入力された品物名を採用することができる。
一方、S14の条件に合致するセンサ値の増加がないまま、S13にて記録された出庫日時から所定時間が経過した場合(S14でNO、かつ、S15でYES)、出庫された品物が再入庫される可能性は低いとして、在庫管理部24は、出庫された品物のレコード(出庫日時から所定時間が経過したレコード)を在庫表から削除する(S16)。上述の一連の在庫管理が完了すると、冷蔵庫1の制御部10は、S9に戻り、センサ13によって閉ドアが検知されないうちは(S9でNO)、S2に戻り以降の処理を繰り返す。
(食材管理テーブル33、属性テーブル34の作成)
食材管理テーブル33及び属性テーブル34には、冷蔵庫1の庫内に貯蔵された各食材(食品)の種別、重量、配置位置を示す情報からなる属性情報及び取り出し履歴情報が含まれた食品管理情報が記録されている。
在庫管理部24による在庫管理処理を実行する際に、食材管理テーブル33に情報が記録される。
食材管理テーブル33には、例えば図8に示すように、冷蔵庫1に入庫された食材について、属性と過去の取出し履歴が記録されている。属性には、“飲み物”、“嗜好品”、“野菜”、“肉”、“魚”等があり、食材はいずれかの属性に対応付けられる。なお、食材と属性の対応付けは、別途設けた食材と属性との対応テーブル(図示せず)を用いて行うものとする。
過去の取出し履歴として、食材が取り出された日時が、当該食材が取り出される都度、食材管理テーブル33に記録される。この過去の取出し履歴を用いれば、食材がどの程度の頻度で取り出されるかを、飲食されているかを判断することが可能となる。
属性テーブル34には、例えば図9に示す飲み物詳細テーブルや、図10に示す野菜詳細テーブルなどがあり、属性毎に詳細テーブルがある。
飲み物詳細テーブルには、図9に示すように、各食材に、“健康度”、“警告時間帯”、“警告取出し頻度”が対応付けられて記録されている。例えば食材の一つであるビールは、“健康度”が悪(健康に悪いことを示す)、“警告時間帯”が22:00〜17:00、“警告取出し頻度”が1週間にX回以上が対応付けられて記録されている。つまり、属性が“飲み物”の場合、飲み物詳細テーブルに記録されている“警告時間帯”、“警告取出し頻度”から、対象となる食材としての飲み物が冷蔵庫1から取り出されたときに、ユーザにとって有益な情報(警告)を提供する。この提供方法は、スピーカ16による音声の出力であってもよいし、ディスプレイ17に警告文を表示してもよい。
ユーザにとって有益な情報とは、ユーザに報知すべき情報であり、個々人によって情報内容は異なるが、ユーザに不利益とならない情報である。例えば、食材に関する健康へのアドバイス等である。
野菜詳細テーブルには、図10に示すように、各食材に、“栄養素”が対応付けられて記録されている。この野菜詳細テーブルから、例えば食材の一つであるキャベツに、“栄養素”としてカウルシム、カリウム、ビタミンB2、ビタミンC等が含まれていることが分かる。このように、食材に、“栄養素”が対応付けられて記録されていることで、食材管理テーブル33に記録されている過去の取出し履歴から、頻繁に取り出されている食材があったときに、ユーザが摂取している栄養に偏りが生じていることが分かる。このことから、ユーザに対して、栄養に偏りがあるため、あまり使用されていない栄養素の野菜を見つけて、その野菜を使うように促す情報を提供することができる。提供方法は、スピーカ16による音声の出力であってもよいし、ディスプレイ17による情報表示であってもよい。
なお、属性テーブル34は、予め設定した情報が記録されているが、ユーザが必要に応じて記録されている情報を変更してもよい。
属性テーブル34として、属性が飲み物、野菜の場合を例として説明したが、他の属性として、嗜好品、肉、魚等の詳細テーブル(図示せず)を用いても同様に、食材を取り出すユーザに対して有益な情報を提供することができる。以下に、食材を取り出すユーザに対して有益な情報を提供するための構成及び処理の流れについて説明する。
(在庫管理部24の情報提供機能)
図2は、在庫管理部24の要部構成のブロック図である。在庫管理部24は、食品特定部24a、報知情報生成部24b、報知制御部24cを含んでいる。食品特定部24aは、在庫表記憶部32に記憶された在庫管理情報と、入出庫判定部22からの入出庫判定結果とから、ユーザが冷蔵庫1から取り出した食材と特定する。報知情報生成部24bは、食材管理テーブル33及び属性テーブル34に記録された食品管理情報と、食品特定部24aによって特定された食材から、当該ユーザに対して報知すべき情報を生成する。報知情報生成部24bによる情報生成は、センサ13からセンサ情報(冷蔵庫1のドア開検知を示す情報)を受信したタイミングで行ってもよい。報知制御部24cは、報知情報生成部24bにて生成された情報を報知するために、スピーカによる音声出力制御、ディスプレイによる表示制御を行う。つまり、在庫管理部24は、冷蔵庫1から食材を取り出したユーザに対して、当該食材から得られるユーザにとって有益な情報を、スピーカによる音声出力及び/またはディスプレイによる表示によって報知する。
(情報提供処理)
図11は、冷蔵庫1から食材を取り出したユーザに対して、当該食材から得られる有益な情報を提供する処理の流れを示すフローチャートである。
まず、ドア開検知したか否かを判定する(S31)。ここでは、センサ13からの検知信号により、測定部21によってドアの開放を検知したか否かを判定する。
ドア開検知した場合(S31のYES)、ドア開検知した時間が特定の時間帯か否かを判定する(S32)。ここでは、在庫管理部24は、測定部21によってドア開が検知した時間が、属性テーブル34に記録されている特定の時間帯か否かを判定する。
特定の時間帯であると判定した場合(S32のYES)、冷蔵庫1のドアを開けたユーザに対して警告し(S33)、後述するS34に移行する。具体的には、ドア開を検知した時間が23:00であれば、図9に示す属性テーブルから、23:00が含まれる特定時間帯に対応するビール、チューハイ、ジュースに基づく警告を行う。「こんなに夜遅くにジュースを飲んだら駄目だよ。」、「昨日も一昨日もビールを飲んでいたよう。1週間に?回くらいにしようね。」などの警告を行う。この警告は音声、表示の何れであってもよいが、ユーザに警告を促すことを考慮した場合、音声が好ましい。
一方、特定の時間帯でないと判定した場合(S32のNO)、食材が取り出されたか否かを判定する(S34)。ここでは、在庫管理部24によって、入出力判定部22から判定結果から食材が冷蔵庫1から取り出されたか否かを判定する。
食材が冷蔵庫1から取り出されたと判定した場合(S34のYES)、取り出された食材に関してユーザにとって有益な情報を提供する(S35)。ここでは、在庫管理部24の報知情報生成部24bによってユーザが取り出した食材に関して様々な情報を生成して提供することが可能となる。
次に、冷蔵庫のドアが閉じられたか否かを判定する(S36)。ここでは、センサ13からの検知信号により、測定部21によってドアの閉塞を検知したか否かを判定する。
ドア閉検知したと判定した場合(S36のYES)、処理を終了する。
一方、ドア閉検知しなければ、S32に移行して、再度、現在の時刻が特定の時間帯に含まれているか否かを判定し、上記の処理を続行する。
以上のように、ユーザに対する警告は音声が好ましいが、ディスプレイに警告を表示したり、音声と合わせてディスプレイに警告を表示したりしてもよい。
(効果)
上記構成の冷蔵庫1によれば、当該冷蔵庫1を利用するユーザが実際にその食材を食べたり、飲んだり、使ったりするところでアドバイスをすることができ、また、食べたり飲んだりする時間帯なども考慮してアドバイスすることができるので、健康促進により期待できるという効果を奏する。
以上のことから、本実施形態の冷蔵庫1によれば、ユーザにとって有益な情報(健康促進のための情報(飲酒制限の警告等))を提供することができるという効果を奏する。
上記の情報提供処理の説明では、S31においてドア開検知をトリガにして、ユーザに対する警告を行っていたが、ユーザが冷蔵庫1の所定の範囲に近接したときをトリガにして、ユーザに対する警告を行ってもよい。この場合、ユーザが冷蔵庫1のドアを開ける前に当該ユーザに対して警告することができる。従って、ユーザは冷蔵庫1から食材を取り出すことなく、警告を受けることになるため、無駄な冷蔵庫1の開閉を無くすことができる。
なお、ユーザにとって有益な情報としては、上記のような食材の属性に基づく情報に限定されるものではなく、食材を含む料理、すなわちレシピに関連する情報であってもよい。以下の実施形態2では、ユーザに有益な情報として、レシピに関連する情報を提供する例について説明する。
〔実施形態2〕
本発明の他の実施形態について説明すれば、以下のとおりである。なお、説明の便宜上、前記実施形態1にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を省略する。
本実施形態では、前記実施形態1と同じ冷蔵庫1を用い、図1に示す記憶部11のレシピDB(レシピデータベース)35及び食材DB36を用いる。また、冷蔵庫1は、前記実施形態1と同様に、図3に示すクラウドサーバ2に通信可能となっている。
レシピDB35は、調理法と、調理法に用いる食材、食材に関連付けられた食材情報(メーカ広告、販売店広告、豆知識)を記録している。例えば図12に示すように、レシピDB35は、調理法として「野菜サラダ」であれば、この調理法に用いる食材としてドレッシング、ドレッシングに関連付けられた食材情報としてAAドレッシング、食材としてレタス、レタスに関連付けられた食材情報として、BBスーパー等が記録されている。
食材DB36は、冷蔵庫1の在庫表記憶部32に記憶されている食材の在庫情報及び食材管理テーブル33から抽出された、最近追加された食材、残りの少ない食材、間もなく入庫される予定の食材が記録されている。食材DB36に記録する情報は、食材管理システムや購入管理システムによって管理されている情報である。
レシピDB35及び食材DB36に記録された情報からユーザにとって有益な情報の当該ユーザへの提供は、図13に示す在庫管理部124によって実現される。在庫管理部124は、図13に示すように、情報選択部24d、報知情報生成部24b、報知制御部24cを含んでいる。すなわち在庫管理部124は、前記実施形態1の在庫管理部24とは食品特定部24aが情報選択部24dに変更されたのみで、他の部は同じである。
情報選択部24dは、レシピDB35及び食材DB36を参照して、在庫食材に適したレシピを選択し、不足する食材や間もなく購入する食材や調味料の情報を抽出し、さらに、これらの食材に紐づいた広告情報があれば抽出する。
報知情報生成部24bは、情報選択部24dによって選択及び抽出された情報からユーザにとって有益な情報を生成する。例えば、報知情報生成部24bは、「レタスが入った」という情報、「ドレッシング少ない」という情報が情報選択部24dから入ると、ユーザにとって有益な情報として、「レタスときゅうりで生野菜サラダはどうですか?新発売の「AAドレッシング」はどう?今ならプレゼントもらえるよ。」という情報を生成する。あるいは、特定された食材の賞味期限が迫っていれば、賞味期限が迫っていることをユーザに報知するようにしてもよい。
報知制御部24cは、報知情報生成部24bにて生成された上記の情報を報知するために、スピーカによる音声出力制御、ディスプレイによる表示制御を行う。
つまり、在庫管理部124は、ユーザに対して有益な情報、例えば料理法、不足食材、広告を、スピーカによる音声出力及び/またはディスプレイによる表示によって報知する。
なお、在庫管理部124は、広告の提示時と、一定期間内に購入したことを検出した時、広告効果情報として記録、広告主へ通知してもよい。
(情報提供処理)
本実施形態に係る冷蔵庫1におけるユーザに対して有益な情報を提供する処理について説明する。以下では、ユーザへの情報提供のタイミングを、冷蔵庫1に食材を入庫したときとして説明するが、これに限定されるものではなく、他のタイミング、例えば冷蔵庫1にユーザが近づいたときや、冷蔵庫1の扉を開けたとき、冷蔵庫1から食材を取り出したときなどであってもよい。
図14は、本実施形態に係る冷蔵庫1におけるユーザに対して有益な情報を提供する処理の流れを示すフローチャートである。情報提供の処理の流れについて、図13のブロック図、図14に示すフローチャート及び図1の冷蔵庫1のブロック図を参照しながら説明する。
まず、ドア開検知したか否かを判定する(S41)。ここでは、センサ13からの検知信号により、測定部21によってドアの開放を検知したか否かを判定する。
ドア開検知した場合(S41のYES)、冷蔵庫1に食材が入庫されたか否かを判定する(S42)。ここでは、入出庫判定部22の判定結果から冷蔵庫1に食材が入庫されたか否かを判定する。
食材入庫と判定されれば、情報提供を行う(S43)。具体的には、在庫管理部124において、ユーザに対して有益な情報、例えば料理法、不足食材、広告を、スピーカによる音声出力及び/またはディスプレイによる表示によって報知する。
続いて、ドア閉検知したか否かを判定する(S44)。ここでは、センサ13からの検知信号により、測定部21によってドアの閉塞を検知したか否かを判定する。ドア閉検知した場合(S44のYes)、処理を終了し、ドア閉検知しなければ(S44のNO)、S42に移行し、再び食材入庫の判定を行い、上記の処理を続行する。
なお、本実施形態では、食材DB36に記録する情報は、食材管理システムや購入管理システムによって管理されている、すなわちクラウドサーバで管理する例について説明したが、これに限定されるものではなく、冷蔵庫1自体に在庫状況を記録するようにしてもよい。例えば、扉の内側にカメラを設けて、庫内を一定の間隔で撮影し、撮影した画像を解析することで、食材の量が減ったこと、食材がなくなったこと、食材が増えたこと等を記録し、この情報を食材DB36に記録するようにしてもよい。
(効果)
上記構成の冷蔵庫1によれば、当該冷蔵庫1を利用するユーザに対して、在庫の食材に関する情報(レシピ情報等)を提供することができる。つまり、冷蔵庫1内の食材に関して、ユーザにとって必要な情報とともに提示することで、効果的な気付きを与えることができる。また、冷蔵庫1に入庫済みあるいはこれから入庫しようとする食材に関する広告を表示するようになり、入庫予定のない、入庫されていない食材の広告等の不要な広告が少なくなる。さらに、購入に繋がったかどうかを広告主に伝えることができるという効果も奏する。
また、本実施形態の冷蔵庫1によれば、前記実施形態1と同様に、ユーザにとって有益な情報(レシピに関する情報)を提供することができるという効果を奏する。
また、食材に関連付けられて記録されている広告が示すレシピをレシピDB35に追加してもよい。
以上の実施形態1,2では、冷蔵庫1に貯蔵されている食材に関する情報を、ユーザにとって有益な情報として当該ユーザに提供する点について説明したが、以下の実施形態3,4では、冷蔵庫1の庫内を撮影した画像を、ユーザにとって有益情報として当該ユーザに提供する点について説明する。
〔実施形態3〕
本発明の他の実施形態について説明すれば、以下のとおりである。なお、説明の便宜上、前記実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を省略する。
図15に示すように、本実施形態に係る冷蔵庫201は、前記実施形態1の冷蔵庫1と、ドア部1dの庫内側の上端部にカメラ131が配置されている点で異なる。
カメラ131は、ドア部1dが閉じたときに、冷蔵庫1の庫内に対向する位置に配置されており、冷蔵庫1の庫内を撮影するための撮像装置である。カメラ131の画角は、少なくとも冷蔵庫201の冷蔵室1cの前面をほぼカバーできる画角であればよい。例えば魚眼レンズを備えたカメラ131が好ましい。つまり、カメラ131は、ドア部1dが開いた状態で、冷蔵庫1の庫内を撮影するため、可能な限り画角が広いほうが好ましい。なお、カメラ131は、1台に限定されるものではなく、複数台であってもよい。これにより、1台のカメラ131でカバーできる撮影範囲が狭くても、カメラ131を複数台設置すれば、ユーザが所望する撮影範囲をカバーすることが可能となる。
カメラ131の撮影は、冷蔵庫201のドア部1dを閉じた状態で定期的に行ってもよいし、冷蔵庫201のドア部1dを開けるタイミングで行ってもよい。また、ユーザが外出先から冷蔵庫201内を確認できるよう、カメラ131を遠隔操作するようにしてもよい。この場合、少なくともカメラ131に通信機能を備える必要がある。あるいは、カメラ131が冷蔵庫201によって撮影制御されるようにし、当該冷蔵庫201に通信機能を持たせてもよい。
ところで、カメラ131は、撮影中に振動が加わると撮影画像にぶれが生じる。このため、ぶれた撮像画像では、冷蔵庫201内に貯蔵された食材を適切に把握するのが難しくなる。特に、安価なカメラ131では、レンズが暗く、露光時間を長くする必要があるため、振動等の影響を受けてぶれやすい。特に、冷蔵庫201のドア部1dにカメラ131が設置されているため、当該ドア部1dの開閉動作時の振動がカメラ131に伝わり、撮影された画像がぶれたものになる。
また、カメラ131に影響を与えるものとしては、ドア部1dの動作以外に、冷蔵庫201が当然備えているコンプレッサの動作による振動も考えられる。
そこで、本実施形態に係る冷蔵庫201は、ドア部1dの動作、コンプレッサの動作の影響を受けずにカメラ131による撮影を実現するために、図16に示すカメラ制御部130を備えている。
カメラ制御部130は、図16に示すように、ドア開検知部141、ドア静止検知部142、撮影制御部143、画像選択部144、コンプレッサ制御部145を含んでいる。
ドア開検知部141は、ドア部1dの開閉を検知する第1センサ133からの検知信号からドア部1dが開いていることを検知する。第1センサ133としては、例えば開閉センサが用いられる。
ドア静止検知部142は、ドア部1dが動いているか否かを検知する第2センサ134からの検知信号からドア部1dが静止していることを検知する。第2センサ134としては、例えば加速度センサが用いられる。
撮影制御部143は、カメラ131の撮影を制御する。ここでは、撮影制御部143は、ドア開検知部141にてドア開が検知され、ドア静止検知部142にてドア静止が検知されたとき、撮影を行うようにカメラ131を制御する。
画像選択部144は、カメラ131にて撮影された画像を所定の基準に保存すべき画像か破棄すべき画像かを選択する。保存すべき画像は、メモリ135に格納したり、通信部136に送ってクラウドサーバ2上に格納したりする。具体的には、カメラ131の撮影中に振動を検知したときに、撮影した画像に振動を検知したことが分かるマークを付与し、画像選択部144では画像に付与されたマークの有無により保存すべき画像か破棄する画像かを選択する。
コンプレッサ制御部145は、冷蔵庫201で用いられるコンプレッサ137の動作を制御する。コンプレッサ制御部145は、例えば第1センサ133からの検知信号、すなわちドア部1dが動いたことを検知した信号を受信したとき、コンプレッサ137を停止させるか、あるいは、タイマ132により一定時間結果毎にコンプレッサ137を停止させるようにしてもよい。なお、コンプレッサ137の停止時間は、カメラ131によるカメラ撮影が行われている期間、すなわち露光時間よりも少し長い程度に設定される。
以上のように、本実施形態に係る冷蔵庫201によれば、ドア部1dが静止した状態を検知したときにカメラ131により庫内を撮影すること、コンプレッサ137を停止させてカメラ131により庫内を撮影することの少なくとも一方を実行することで、ぶれの無い撮影を可能にしている。以下に、冷蔵庫201による庫内撮影処理について説明する。
(庫内撮像処理(1):ドア静止検知)
図17は、庫内撮影処理の流れの一例を示すフローチャートである。
まず、ドア開検知部141によるドア開検知を行う(S51)。
次に、ドア静止検知部142によるドア静止検知を行う(S52)。
そして、撮影制御部143は、これら2つの条件がそろったときに、カメラ131によるカメラ露光開始させ(S53)、所定の露光時間を過ぎると、カメラ131によるカメラ露光終了させる(S54)。ここで、露光時間は、カメラ131の性能に合わせて、1/30、1/20、1/10秒等に設定される。
最後に、カメラ131によって撮影した画像をメモリ135に保存する(S55)。ここで、撮影した画像はメモリ135に保存する以外に、通信部136を介してクラウドサーバ2に保存するようにしてもよい。
上記の処理では、カメラ131の露光中にドア部1dが動かないことを前提としているが、ドア部1dが動いた場合の庫内撮影処理について以下に説明する。
(庫内撮像処理(2):ドア動検知)
図18は、庫内撮影処理の流れの他の例を示すフローチャートである。図17と同じ処理については同じステップ番号を付して詳細な説明は省略する。
まず、ドア開検知部141によるドア開検知を行う(S51)。
次に、撮影制御部143は、ドア開検知によりカメラ131によるカメラ露光開始させる(S53)。
続いて、露光中にドアの動きを検知したか否かを判定する(S61)。ここでは、第2センサ134の検知信号からドア静止検知部142によって、ドア部1dが動いたか否かを判定する。ドアの動き検知した場合(S61のYES)、動き検知信号を付加する(S62)。ここでの動き検知信号の付加は、カメラ131による露光中の画像に対して行われる。
ドアの動きを検知しない場合(S61のNO)、所定の露光時間を過ぎると、カメラ131によるカメラ露光終了させる(S54)。
続いて、露光中にドアの動きを検知したか否かを判定する(S63)。具体的には、画像選択部144によって、カメラ131によって撮影された画像に対して動き検知信号が付加されているかを判定している。そして、画像選択部144は、動き検知信号が付加されていると判定した場合(S63のYes)、撮影画像を破棄し(S64)、動き検知信号が付加されていないと判定した場合(S63のNO)、撮影画像を保存する(S55)。
(庫内撮像処理(3):コンプレッサ停止)
図19は、庫内撮影処理の流れの他の例を示すフローチャートである。
まず、ドア開検知部141によるドア開検知を行う(S51)。
次に、コンプレッサ制御部145によるコンプレッサ137の停止(S71)。
そして、撮影制御部143は、これら2つの条件がそろったときに、カメラ131によるカメラ露光開始させ(S53)、所定の露光時間を過ぎると、カメラ131によるカメラ露光終了させる(S54)。ここで、露光時間は、カメラ131の性能に合わせて、1/30、1/20、1/10秒等に設定される。
続いて、カメラ131によって撮影した画像をメモリ135に保存する(S55)。
最後に、コンプレッサ制御部145によりコンプレッサ137を再度駆動させる(S72)。
(庫内撮像処理(4):ドア静止検知+ドア動検知)
図20は、庫内撮影処理の流れの他の例を示すフローチャートである。図18と同じ処理については同じステップ番号を付して詳細な説明は省略する。
まず、ドア開検知部141によるドア開検知を行う(S51)。
次に、ドア静止検知部142によるドア静止検知を行う(S52)。
次いで、撮影制御部143は、ドア開検知によりカメラ131によるカメラ露光開始させる(S53)。
続いて、露光中にドアの動きを検知したか否かを判定する(S61)。ここでは、第2センサ134の検知信号からドア静止検知部142によって、ドア部1dが動いたか否かを判定する。ドアの動き検知した場合(S61のYES)、動き検知信号を付加する(S62)。ここでの動き検知信号の付加は、カメラ131による露光中の画像に対して行われる。
ドアの動きを検知しない場合(S61のNO)、所定の露光時間を過ぎると、カメラ131によるカメラ露光終了させる(S54)。
続いて、露光中にドアの動きを検知したか否かを判定する(S63)。具体的には、画像選択部144によって、カメラ131によって撮影された画像に対して動き検知信号が付加されているかを判定している。そして、画像選択部144は、動き検知信号が付加されていると判定した場合(S63のYES)、撮影画像を破棄し(S64)、動き検知信号が付加されていないと判定した場合(S63のNO)、撮影画像を保存する(S55)。
(庫内撮像処理(5):コンプレッサ停止+ドア静止検知)
図21は、庫内撮影処理の流れの他の例を示すフローチャートである。図19と同じ処理については同じステップ番号を付して詳細な説明は省略する。
まず、ドア開検知部141によるドア開検知を行う(S51)。
次に、ドア静止検知部142によるドア静止検知を行う(S52)。
次いで、コンプレッサ制御部145によるコンプレッサ137の停止(S71)。
そして、撮影制御部143は、これら2つの条件がそろったときに、カメラ131によるカメラ露光開始させ(S53)、所定の露光時間を過ぎると、カメラ131によるカメラ露光終了させる(S54)。ここで、露光時間は、カメラ131の性能に合わせて、1/30、1/20、1/10秒等に設定される。
続いて、カメラ131によって撮影した画像をメモリ135に保存する(S55)。
最後に、コンプレッサ制御部145によりコンプレッサ137を再度駆動させる(S72)。
(庫内撮像処理(6):ドア動検知+コンプレッサ停止)
図22は、庫内撮影処理の流れの他の例を示すフローチャートである。図18と同じ処理については同じステップ番号を付して詳細な説明は省略する。
まず、ドア開検知部141によるドア開検知を行う(S51)。
次に、コンプレッサ制御部145によるコンプレッサ137の停止(S71)。
次いで、撮影制御部143は、ドア開検知によりカメラ131によるカメラ露光開始させる(S53)。
続いて、露光中にドアの動きを検知したか否かを判定する(S61)。ここでは、第2センサ134の検知信号からドア静止検知部142によって、ドア部1dが動いたか否かを判定する。ドアの動き検知した場合(S61のYES)、動き検知信号を付加する(S62)。ここでの動き検知信号の付加は、カメラ131による露光中の画像に対して行われる。
ドアの動きを検知しない場合(S61のNO)、所定の露光時間を過ぎると、カメラ131によるカメラ露光終了させる(S54)。
続いて、露光中にドアの動きを検知したか否かを判定する(S63)。具体的には、画像選択部144によって、カメラ131によって撮影された画像に対して動き検知信号が付加されているかを判定している。そして、画像選択部144は、動き検知信号が付加されていると判定した場合(S63のYES)、撮影画像を破棄し(S64)、動き検知信号が付加されていないと判定した場合(S63のNO)、撮影画像を保存する(S55)。
最後に、コンプレッサ制御部145によりコンプレッサ137を再度駆動させる(S72)。
(庫内撮像処理(7):ドア静止検知+ドア動検知+コンプレッサ停止)
図23は、庫内撮影処理の流れの他の例を示すフローチャートである。図22と同じ処理については同じステップ番号を付して詳細な説明は省略する。
まず、ドア開検知部141によるドア開検知を行う(S51)。
次に、コンプレッサ制御部145によるコンプレッサ137の停止(S71)。
次いで、ドア静止検知部142によるドア静止検知を行う(S52)。
次に、撮影制御部143は、ドア開検知によりカメラ131によるカメラ露光開始させる(S53)。
続いて、露光中にドアの動きを検知したか否かを判定する(S61)。ここでは、第2センサ134の検知信号からドア静止検知部142によって、ドア部1dが動いたか否かを判定する。ドアの動き検知した場合(S61のYES)、動き検知信号を付加する(S62)。ここでの動き検知信号の付加は、カメラ131による露光中の画像に対して行われる。
ドアの動きを検知しない場合(S61のNO)、所定の露光時間を過ぎると、カメラ131によるカメラ露光終了させる(S54)。
続いて、露光中にドアの動きを検知したか否かを判定する(S63)。具体的には、画像選択部144によって、カメラ131によって撮影された画像に対して動き検知信号が付加されているかを判定している。そして、画像選択部144は、動き検知信号が付加されていると判定した場合(S63のYES)、撮影画像を破棄し(S64)、動き検知信号が付加されていないと判定した場合(S63のNO)、撮影画像を保存する(S55)。
最後に、コンプレッサ制御部145によりコンプレッサ137を再度駆動させる(S72)。
(効果)
上記構成の冷蔵庫201によれば、ドア部1dが静止しているときにカメラ131の撮影を行うことで、ドア部1dが動くことによるぶれが発生せず、鮮明な画像を得ることができる。また、コンプレッサ137が停止しているときにカメラ131の撮影を行うことで、コンプレッサ137が動いていることによるぶれが発生せず、鮮明な画像を得ることができる。
しかも、カメラ131による撮影中にドアの動きが検知されれば、そのとき撮影した画像を破棄することで、ぶれのない鮮明な画像のみを保存することが可能となる。
これにより、前記実施形態1,2と同様に、ユーザにとって有益な情報(庫内の鮮明な画像)を提供することができるという効果を奏する。
また、上記構成の冷蔵庫201では、カメラ131による露光中のぶれを抑える構成となっているため、使用するカメラ131として露光時間の長い安価なカメラを使用することが可能となる。
なお、本実施形態ではカメラ131が予め冷蔵庫201に内蔵されていることを前提とした例について説明したが、カメラが内蔵されていない冷蔵庫の庫内撮影を行う例について以下の実施形態4において説明する。
〔実施形態4〕
本発明の他の実施形態について説明すれば、以下のとおりである。なお、説明の便宜上、前記実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を省略する。
本実施形態では、前記実施形態1で説明した冷蔵庫1、すなわちカメラは内蔵していないが、通信機能を内蔵した冷蔵庫1の庫内撮影する例について説明する。冷蔵庫1の庫内撮影は、図3に示す通信端末3を用いる。通信端末3は、前記実施形態1の図3に示すように、クラウドサーバ2を介して冷蔵庫1に通信可能に接続され、冷蔵庫1の庫内を撮影する庫内撮影システムを構成している。そして、通信端末3は、撮影機能としてカメラを備えている。つまり、通信端末3を用いることで、ユーザは、クラウドサーバ2を介して何時でも冷蔵庫1の庫内を確認することができるようになっている。
図24は、本実施形態で用いる通信端末3の要部構成のブロック図である。通信端末3は、制御部300、カメラ101、メモリ102、通信部103を含んでいる。ここで、通信部103は、WiFi(登録商標)通信を行う通信機能、インターネット等の外部ネットワークと通信を行う通信機能の他に、GPS(Global Positioning System)信号を受信する受信機能を有するものとする。
制御部300は、通信端末3の位置を判定する位置判定部111、カメラ101の撮影を制御する撮像制御部112、撮影した画像を選択する画像選択部113を含んでいる。
位置判定部111は、通信部103から得られるGPS信号の受信、WiFi通信等によって、通信端末3の現在位置を判定する。例えば、撮影対象である冷蔵庫が設置された室内では、WiFiにより通信端末3が当該室内に居るか否かを判定する。
撮像制御部112は、位置判定部111によって通信端末3が冷蔵庫1を設置した屋内にいると判定され、且つ、通信部103を介して冷蔵庫のドアの開を検知したドア開・閉検知信号を受信することで、カメラ101に撮影指示を与える。
カメラ101によって撮影された画像は、一旦メモリ102に格納される。メモリ102に格納された画像は、画像選択部113により所定の基準によって保存すべき画像のみを選択し、通信部103を介してクラウドサーバ2にアップロードされ保存される。
(庫内撮影)
庫内撮影を行う前提として、ユーザが着ているシャツの胸ポケットに通信端末3を収容する。このとき、通信端末3のカメラ101のレンズ部分をユーザとは反対の向き、すなわちユーザが向いている方向に向けるように、通信端末3を胸ポケットに収容する。
図25は、通信端末3を上記のようにしてユーザのシャツの胸ポケットに収容して撮影した冷蔵庫1の庫内の画像の一例を示す。庫内の撮影は、ユーザが意図することなく、図24に示す撮像制御部112によってカメラ101が制御され自動的に行われる。庫内撮影処理及び画像アップロード処理は、以下のようにして行われる。
(庫内撮影処理)
図26は、庫内撮影処理の流れを示すフローチャートである。
まず、ドア開検知(S81)。ここで、クラウドサーバ2は、冷蔵庫1のドア部1dが開放されたことを示す検知信号を受信したか否かを判定する。
ドア開検知であると判定された場合(S81のYES)、ドア開通知が行われる(S82)。ここでは、クラウドサーバ2が通信端末3に対して、冷蔵庫1のドア部1dが開いたことを通知する。
次に、通信端末3が冷蔵庫1の近くにいるか否かを判定する(S83)。ここでは、通信端末3の通信部103のWiFi通信機能を用いて、冷蔵庫1を設置した屋内に居るか否かを判定する。例えば通信端末3が屋内に設置したWiFiアクセスポイントからIPアドレスを払いだされていれば、当該通信端末3は冷蔵庫1が設置した屋内に居る、すなわち冷蔵庫1の近くに居ると判定することができる。
通信端末3が冷蔵庫1の近くに居ると判定した場合(S83のYES)、既に冷蔵庫1のドア部1dが開いているので撮影を開始し(S84)、撮影した画像のアップロード処理を行う(S85)。画像のアップロード処理についての詳細は後述する。
一方、通信端末3が冷蔵庫1の近くに居ないと判定した場合(S83のNO)、庫内撮影処理を終了する。
S85の画像のアップロード処理が終了した後、ドア閉検知を判定する(S86)。ここでも、S81と同様に、クラウドサーバ2が、冷蔵庫1のドア部1dが閉塞されたことを示す検知信号を受信したか否かを判定する。
ドア閉検知であると判定された場合(S86のYES)、庫内撮影処理を終了し、ドア閉検知でないと判定された場合(S86のNO)、再びS83に移行し、冷蔵庫1の庫内撮影を続ける処理を行う。
(画像アップロード処理)
図27は、図26のS85に示す画像アップロード処理の流れを示すフローチャートである。
まず、画像選択部113は、メモリ102に一旦格納された画像から保存すべき画像を選択する(S91)。例えば、撮影画像が図25に示す4枚の画像であるとき、図25の(a)(b)(d)は、所定の範囲に庫内の食材が分かる程度に写されているので保存すべき画像と判断し、図25の(c)は、所定の範囲に庫内の食材が分かる程度に写されていないので保存すべき画像でないと判断する。この画像の判断は、公知の画像処理技術によって実現することができる。なお、画像選択部113は、画像1枚毎に上記判断処理を行うものとする。
次に、S91において選択された画像をクラウドサーバ2にアップロードする(S92)。
次いで、画像選択部113による画像の選択が終了したか否かを判定する(S93)。ここの判定は、画像選択部113が選択判断すべき画像がメモリ102に無くなったか否かで行う。
選択終了と判定すれば(S93のYES)、図26のS86に移行し、選択終了でなければ(S94のNO)、再びS91に移行し、画像選択を行う。
以上の説明では、冷蔵庫1に通信機能が内蔵され、冷蔵庫1のドアの開閉情報がクラウドサーバ2で管理されることが前提となっていたが、冷蔵庫1と通信端末3との間で直接通信を行い、冷蔵庫1からドア開検知信号が直接通信端末3に送信されてもよい。
また、通信端末3を用いれば、カメラ及び通信機能が内蔵されていない冷蔵庫の庫内撮影も行うことが可能である。例えば、冷蔵庫側にマークを入れておき、そのマークを通信端末3のカメラ101によって認識したときに、写真を撮るようにすればよい。この場合、通信端末3のカメラ101のレンズ部分を必ず冷蔵庫の庫内に向けた状態で撮影されるので、確実に庫内の撮影を行うことができ、この結果、無駄な撮影をなくすことができる。このマークの利用は、上述した通信機能を内蔵した冷蔵庫1の場合にも適用することができる。
(効果)
本実施形態では、通信端末3を胸ポケットに入れるだけで、簡単に冷蔵庫1の庫内を撮影することができる。しかも、通信端末3が胸ポケットに入れて、レンズ部分を正面に向けていれば、冷蔵庫1のドアを開けるときにも、下の引き出しを引き出すときにも通信端末3のカメラ101のレンズ部分が正面を向きやすいので、ユーザは意識せずに撮影することが可能となる。従って、冷蔵庫1内の食材を個別に登録することなく容易にユーザが所有している食材を思い出すことが可能となるという効果を奏する。
このように、本実施形態においても前記実施携帯1〜3と同様に、ユーザにとって有益な情報(冷蔵庫1内の食材を思い出すための画像)を提供することが可能となる。
〔ソフトウェアによる実現例〕
冷蔵庫1の制御装置の制御ブロック(特に、在庫管理部24、制御部100、在庫管理部124、カメラ制御部130)は、集積回路(ICチップ)等に形成された論理回路(ハードウェア)によって実現してもよいし、CPU(Central Processing Unit)を用いてソフトウェアによって実現してもよい。
後者の場合、制御装置は、各機能を実現するソフトウェアであるプログラムの命令を実行するCPU、上記プログラムおよび各種データがコンピュータ(またはCPU)で読み取り可能に記録されたROM(Read Only Memory)または記憶装置(これらを「記録媒体」と称する)、上記プログラムを展開するRAM(Random Access Memory)などを備えている。そして、コンピュータ(またはCPU)が上記プログラムを上記記録媒体から読み取って実行することにより、本発明の目的が達成される。上記記録媒体としては、「一時的でない有形の媒体」、例えば、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、上記プログラムは、該プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記コンピュータに供給されてもよい。なお、本発明は、上記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。
〔まとめ〕
本発明の態様1に係る食品貯蔵庫(冷蔵庫1)は、食品を庫内に貯蔵する食品貯蔵庫(冷蔵庫1)であって、上記庫内に貯蔵された各食品の種別、重量、配置位置を示す情報からなる属性情報及び取り出し履歴情報を含む食品管理情報(食材管理テーブル33、属性テーブル34)から、当該食品貯蔵庫(冷蔵庫1)のユーザに報知すべき情報を報知情報として生成する報知情報生成部24bと、上記報知情報生成部24bにて生成された報知情報を上記ユーザに報知する報知部(スピーカ16,ディスプレイ17)と、を含んでいることを特徴としている。
上記構成によれば、報知情報生成部によって、食品貯蔵庫の庫内に貯蔵された各食品の種別、重量、配置位置を示す情報からなる属性情報及び取り出し履歴情報を含む食品管理情報から、当該食品貯蔵庫のユーザに報知すべき情報を報知情報として生成し、報知部によって、生成された報知情報をユーザに報知するので、ユーザは食品貯蔵庫から自分にとって必要であり有益な情報を得ることが可能となる。
本発明の態様2に係る食品貯蔵庫は、上記態様1において、上記庫内を開放または閉塞するための扉(ドア部1d)と、上記扉(ドア部1d)が開放されたことを検知するセンサ13と、が設けられ、上記報知情報生成部24bは、上記センサ13によって扉(ドア部1d)が開放されたことが検知されたとき、上記報知情報を生成してもよい。
上記構成によれば、報知情報生成部による報知情報の生成のトリガが、食品貯蔵庫の扉の開放を検知したときであるので、食品貯蔵庫を利用しようとするユーザに対して適切なタイミングで、ユーザにとって有益な情報を当該ユーザに提供することが可能となる。
本発明の態様3に係る食品貯蔵庫は、上記態様1において、上記庫内からユーザによって取り出された食品を、上記食品管理情報を用いて特定する食品特定部24aを含み、上記報知情報生成部24bは、上記食品特定部24aによって特定された食品に対応付けられた属性情報、取り出し履歴情報を含む食品管理情報(食材管理テーブル33、属性テーブル34)から、上記報知情報を生成してもよい。
上記構成によれば、報知情報生成部による報知情報の生成のトリガが、食品貯蔵庫から食品を取りだしたときであるので、食品貯蔵庫を利用したユーザに対して適切なタイミングで、しかも取り出した食品に関する、ユーザにとって有益な情報を当該ユーザに提供することが可能となる。
本発明の態様4に係る食品貯蔵庫は、食品を庫内に貯蔵する食品貯蔵庫(冷蔵庫1)であって、レシピデータベース(レシピDB35)を含み、上記庫内からユーザによって取り出された食品または上記庫内に入れられた食品を、上記庫内に貯蔵された各食品の種別、重量、配置位置を示す情報からなる属性情報及び取り出し履歴情報を含む食品管理情報(食材管理テーブル33、属性テーブル34)を用いて特定する食品特定部24aと、上記レシピデータベース(レシピDB35)から、上記食品特定部24aによって特定された食品に関する情報を抽出し、抽出した情報からユーザに報知すべき情報を報知情報として生成する報知情報生成部24bと、上記報知情報生成部24bにて生成された報知情報を上記ユーザに報知する報知部(スピーカ16,ディスプレイ17)と、を含んでいることを特徴としている。
上記構成によれば、レシピデータベースから、食品特定部によって特定された食品に関する情報を抽出し、抽出した情報からユーザにとって有益な情報を報知情報として生成し、報知部によって、生成された報知情報をユーザに報知するので、ユーザは取り出した食品及びレシピに関して、自分にとって有益な情報を得ることができる。
本発明の態様5に係る食品貯蔵庫は、食品を貯蔵する庫内を開放または閉塞するための扉(ドア部1d)が設けられた食品貯蔵庫(冷蔵庫201)であって、上記扉(ドア部1d)の上記庫内に対向する面に、当該庫内を撮影するためのカメラ131と、上記扉(ドア部1d)の動きを検知するセンサ(第1センサ133)と、上記センサ(第1センサ133)によって上記扉(ドア部1d)の静止が検知されたとき、上記カメラ131に上記庫内の撮影を行わせるカメラ制御部130と、を含んでいることを特徴としている。
上記構成によれば、扉が静止したときにカメラの撮影を行うことになるので、ぶれの少ない画像を撮影することができる。これにより、ぶれの少ない庫内の撮影画像を、ユーザにとって有益な情報として提供することができる。
本発明の態様6に係る庫内撮影システムは、食品を貯蔵する庫内を開放または閉塞するための扉が設けられた食品貯蔵庫(冷蔵庫1)と、上記食品貯蔵庫(冷蔵庫1)とクラウドサーバ2を介して通信可能に接続された、撮影機能を有する通信端末3と、を含む庫内撮影システムであって、上記通信端末3は、上記クラウドサーバ2から、上記食品貯蔵庫(冷蔵庫1)の扉(ドア部1d)が開放されたことが検知されたことが通知されると、上記食品貯蔵庫(冷蔵庫1)の庫内の撮影を行うことを特徴としている。
上記構成によれば、食品貯蔵庫の庫内の撮影は、通信端末のユーザが意識することなく実行されるため、ユーザが意識して庫内撮影を行う場合に比べて庫内撮影に係る煩わしさを軽減することができる。
しかも、通信端末をユーザのシャツのポケットに入れて、カメラのレンズ部分を正面に向けることで、食品貯蔵庫の庫内の正面から撮影することが可能となる。
以上のことから、庫内の撮影画像を、ユーザにとって有益な情報として提供することができる。
本発明の態様7に係る庫内撮影システムは、上記態様6において、上記通信端末3は、上記扉(ドア部1d)が開放されたことが検知されたことが通知され、且つ、上記庫内の所定の範囲が撮影範囲に含まれたときに、撮影を行ってもよい。
上記構成によれば、上記通信端末は、扉が開放されたことが検知されたとしても、庫内の所定の範囲が撮影範囲に含まれなければ、撮影を行わないので、無駄な撮影を行うことがなくなる。
これにより、無駄なく庫内の撮影画像を、ユーザにとって有益な情報として提供することができる。
本発明の各態様に係る冷蔵庫の制御装置は、コンピュータによって実現してもよく、この場合には、コンピュータを上記制御装置が備える各部(ソフトウェア要素)として動作させることにより上記制御装置をコンピュータにて実現させる制御装置の制御プログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。さらに、各実施形態にそれぞれ開示された技術的手段を組み合わせることにより、新しい技術的特徴を形成することができる。
1 冷蔵庫(食品貯蔵庫)
1c 冷蔵室
1d ドア部(扉)
1f 冷凍室
1r 棚板
1v 野菜室
2 クラウドサーバ
3 通信端末
4 広域通信ネットワーク
10 制御部
11 記憶部
12 通信部
13 センサ
14 重量センサ
14e 圧力センサ
14k 外接矩形
14s 圧力センサ
15 マイク
16 スピーカ(報知部)
17 ディスプレイ(報知部)
20 音声認識部
21 測定部
22 入出庫判定部
22 入出力判定部
23 品物識別部
24 在庫管理部
24a 食品特定部
24b 報知情報生成部
24c 報知制御部
24d 情報選択部
30 認識結果記憶部
31 測定結果記憶部
32 在庫表記憶部
33 食材管理テーブル(食品管理情報)
34 属性テーブル(食品管理情報)
35 レシピDB(レシピデータベース)
36 食材DB(食材データベース)
100 在庫管理システム
101 カメラ
102 メモリ
103 通信部
111 位置判定部
112 撮像制御部
113 画像選択部
124 在庫管理部
130 カメラ制御部
131 カメラ
132 タイマ
133 第1センサ(センサ)
134 第2センサ(センサ)
135 メモリ
136 通信部
137 コンプレッサ
141 ドア開検知部
142 ドア静止検知部
143 撮影制御部
144 画像選択部
145 コンプレッサ制御部
201 冷蔵庫(食品貯蔵庫)
300 制御部
310 制御部

Claims (7)

  1. 食品を庫内に貯蔵する食品貯蔵庫であって、
    上記庫内に貯蔵された各食品の種別、重量、配置位置を示す情報からなる属性情報及び取り出し履歴情報を含む食品管理情報から、当該食品貯蔵庫のユーザに報知すべき情報を報知情報として生成する報知情報生成部と、
    上記報知情報生成部にて生成された報知情報を上記ユーザに報知する報知部と、を含んでいることを特徴とする食品貯蔵庫。
  2. 上記庫内を開放または閉塞するための扉と、
    上記扉が開放されたことを検知するセンサと、が設けられ、
    上記報知情報生成部は、
    上記センサによって扉が開放されたことが検知されたとき、上記報知情報を生成することを特徴とする請求項1に記載の食品貯蔵庫。
  3. 上記庫内からユーザによって取り出された食品を、上記食品管理情報を用いて特定する食品特定部を含み、
    上記報知情報生成部は、
    上記食品特定部によって特定された食品に対応付けられた属性情報、取り出し履歴情報を含む食品管理情報から、上記報知情報を生成することを特徴とする請求項1に記載の食品貯蔵庫。
  4. 食品を庫内に貯蔵する食品貯蔵庫であって、
    レシピデータベースを含み、
    上記庫内からユーザによって取り出された食品または上記庫内に入れられた食品を、上記庫内に貯蔵された各食品の種別、重量、配置位置を示す情報からなる属性情報及び取り出し履歴情報を含む食品管理情報を用いて特定する食品特定部と、
    上記レシピデータベースから、上記食品特定部によって特定された食品に関する情報を抽出し、抽出した情報からユーザに報知すべき情報を報知情報として生成する報知情報生成部と、
    上記報知情報生成部にて生成された報知情報を上記ユーザに報知する報知部と、を含んでいることを特徴とする食品貯蔵庫。
  5. 食品を貯蔵する庫内を開放または閉塞するための扉が設けられた食品貯蔵庫であって、
    上記扉の上記庫内に対向する面に、当該庫内を撮影するためのカメラと、
    上記扉の動きを検知するセンサと、
    上記センサによって上記扉の静止が検知されたとき、上記カメラに上記庫内の撮影を行わせるカメラ制御部と、を含んでいることを特徴とする食品貯蔵庫。
  6. 食品を貯蔵する庫内を開放または閉塞するための扉が設けられた食品貯蔵庫と、
    上記食品貯蔵庫とクラウドサーバを介して通信可能に接続された、撮影機能を有する通信端末と、を含む庫内撮影システムであって、
    上記通信端末は、
    上記クラウドサーバから、上記食品貯蔵庫の扉が開放されたことが検知されたことが通知されると、上記食品貯蔵庫の庫内の撮影を行うことを特徴とする庫内撮影システム。
  7. 上記通信端末は、
    上記扉が開放されたことが検知されたことが通知され、且つ、上記庫内の所定の範囲が撮影範囲に含まれたときに、撮影を行うことを特徴とする請求項6に記載の庫内撮影システム。
JP2016168261A 2016-08-30 2016-08-30 食品貯蔵庫、庫内撮影システム Pending JP2018035983A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016168261A JP2018035983A (ja) 2016-08-30 2016-08-30 食品貯蔵庫、庫内撮影システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016168261A JP2018035983A (ja) 2016-08-30 2016-08-30 食品貯蔵庫、庫内撮影システム

Publications (1)

Publication Number Publication Date
JP2018035983A true JP2018035983A (ja) 2018-03-08

Family

ID=61566502

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016168261A Pending JP2018035983A (ja) 2016-08-30 2016-08-30 食品貯蔵庫、庫内撮影システム

Country Status (1)

Country Link
JP (1) JP2018035983A (ja)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109612199A (zh) * 2018-11-20 2019-04-12 珠海格力电器股份有限公司 一种冰箱中异物信息提醒方法及装置
JPWO2019017323A1 (ja) * 2017-07-21 2020-06-11 パナソニックIpマネジメント株式会社 食品管理システム
JP2020094702A (ja) * 2018-12-10 2020-06-18 東芝ライフスタイル株式会社 冷蔵庫
JP2020201538A (ja) * 2019-06-06 2020-12-17 株式会社Lixil 情報提供装置
JP2021018633A (ja) * 2019-07-22 2021-02-15 パナソニックIpマネジメント株式会社 システム
JP2021117572A (ja) * 2020-01-23 2021-08-10 日立グローバルライフソリューションズ株式会社 冷蔵庫管理装置およびプログラム
CN114857852A (zh) * 2021-03-29 2022-08-05 青岛海尔电冰箱有限公司 高质量图像的获取方法、设备及冰箱
CN115082918A (zh) * 2022-07-20 2022-09-20 深圳快品信息技术有限公司 外卖配送实时监测装置、系统及方法
WO2023067966A1 (ja) * 2021-10-19 2023-04-27 日立グローバルライフソリューションズ株式会社 貯蔵庫並びに貯蔵庫及び撮影装置が行う撮影方法
CN116182463A (zh) * 2021-11-25 2023-05-30 海信集团控股股份有限公司 检测设备、冰箱及用户对冰箱内食材的存取行为识别方法
JP7458955B2 (ja) 2020-10-01 2024-04-01 信越ポリマー株式会社 忘れ物検知報告システムおよび忘れ物検知報告方法
JP7505192B2 (ja) 2020-02-04 2024-06-25 沖電気工業株式会社 画像処理装置、画像処理プログラム、及び画像処理方法

Citations (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0668114A (ja) * 1992-08-24 1994-03-11 Matsushita Electric Ind Co Ltd 在庫管理冷蔵庫
JP2002039669A (ja) * 2000-07-24 2002-02-06 Isamu Uchida 収納管理機能および献立立案機能を有する冷蔵庫
JP2002081818A (ja) * 2000-09-05 2002-03-22 Hitachi Ltd 冷蔵庫
JP2002081848A (ja) * 2000-09-06 2002-03-22 Toshiba Corp 食品管理保存庫
JP2002243335A (ja) * 2001-02-21 2002-08-28 Toshiba Corp 食品保存庫、ホームネットワーク装置、携帯情報端末、食品情報提供サーバ、献立情報提供サーバ及び保存庫内収納情報提供サーバ
JP2002295962A (ja) * 2001-03-29 2002-10-09 Sanyo Electric Co Ltd 冷蔵庫
JP2002303479A (ja) * 2001-03-30 2002-10-18 Toshiba Corp 冷蔵庫
JP2003185327A (ja) * 2001-12-18 2003-07-03 Hitachi Ltd 食品保存庫、食品管理装置および食品管理方法
JP2004085173A (ja) * 2002-08-23 2004-03-18 Samsung Electronics Co Ltd 冷蔵庫及びその制御方法
JP2005032188A (ja) * 2003-07-11 2005-02-03 Nippon Telegr & Teleph Corp <Ntt> 料理支援システム及び方法
JP2005164054A (ja) * 2003-11-28 2005-06-23 Toshiba Corp 健康管理冷蔵庫、および健康管理システム
JP2005265274A (ja) * 2004-03-18 2005-09-29 Fujitsu Ltd 食品を無駄無く食すのを促す方法、これを用いた冷蔵庫、および電子秤
US20060224050A1 (en) * 2005-03-30 2006-10-05 Lee Ik K Refrigerator for health care
JP2007010208A (ja) * 2005-06-29 2007-01-18 Toshiba Corp 冷蔵庫
JP2007094655A (ja) * 2005-09-28 2007-04-12 Nec Corp 摂取カロリー管理システム、摂取カロリー管理方法、保管庫、及びプログラム
JP2014066407A (ja) * 2012-09-25 2014-04-17 Toshiba Corp 冷蔵庫
JP2014196843A (ja) * 2013-03-29 2014-10-16 パナソニック株式会社 冷蔵庫及び冷蔵庫システム
JP2015080017A (ja) * 2013-10-15 2015-04-23 パナソニックIpマネジメント株式会社 冷蔵庫および冷蔵庫内表示システム
JP2015081762A (ja) * 2013-10-24 2015-04-27 三菱電機株式会社 冷蔵庫
US20150294451A1 (en) * 2012-01-13 2015-10-15 Lg Electronics Inc. Method for controlling operation of refrigerator by using speech recognition, and refrigerator employing same
JP2015222138A (ja) * 2014-05-22 2015-12-10 三菱電機株式会社 冷蔵庫及びネットワークシステム
JP2016012247A (ja) * 2014-06-30 2016-01-21 富士機械製造株式会社 献立作成システム
JP2016057022A (ja) * 2014-09-11 2016-04-21 株式会社東芝 食材管理システム

Patent Citations (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0668114A (ja) * 1992-08-24 1994-03-11 Matsushita Electric Ind Co Ltd 在庫管理冷蔵庫
JP2002039669A (ja) * 2000-07-24 2002-02-06 Isamu Uchida 収納管理機能および献立立案機能を有する冷蔵庫
JP2002081818A (ja) * 2000-09-05 2002-03-22 Hitachi Ltd 冷蔵庫
JP2002081848A (ja) * 2000-09-06 2002-03-22 Toshiba Corp 食品管理保存庫
JP2002243335A (ja) * 2001-02-21 2002-08-28 Toshiba Corp 食品保存庫、ホームネットワーク装置、携帯情報端末、食品情報提供サーバ、献立情報提供サーバ及び保存庫内収納情報提供サーバ
JP2002295962A (ja) * 2001-03-29 2002-10-09 Sanyo Electric Co Ltd 冷蔵庫
JP2002303479A (ja) * 2001-03-30 2002-10-18 Toshiba Corp 冷蔵庫
JP2003185327A (ja) * 2001-12-18 2003-07-03 Hitachi Ltd 食品保存庫、食品管理装置および食品管理方法
JP2004085173A (ja) * 2002-08-23 2004-03-18 Samsung Electronics Co Ltd 冷蔵庫及びその制御方法
JP2005032188A (ja) * 2003-07-11 2005-02-03 Nippon Telegr & Teleph Corp <Ntt> 料理支援システム及び方法
JP2005164054A (ja) * 2003-11-28 2005-06-23 Toshiba Corp 健康管理冷蔵庫、および健康管理システム
JP2005265274A (ja) * 2004-03-18 2005-09-29 Fujitsu Ltd 食品を無駄無く食すのを促す方法、これを用いた冷蔵庫、および電子秤
US20060224050A1 (en) * 2005-03-30 2006-10-05 Lee Ik K Refrigerator for health care
JP2007010208A (ja) * 2005-06-29 2007-01-18 Toshiba Corp 冷蔵庫
JP2007094655A (ja) * 2005-09-28 2007-04-12 Nec Corp 摂取カロリー管理システム、摂取カロリー管理方法、保管庫、及びプログラム
US20150294451A1 (en) * 2012-01-13 2015-10-15 Lg Electronics Inc. Method for controlling operation of refrigerator by using speech recognition, and refrigerator employing same
JP2014066407A (ja) * 2012-09-25 2014-04-17 Toshiba Corp 冷蔵庫
JP2014196843A (ja) * 2013-03-29 2014-10-16 パナソニック株式会社 冷蔵庫及び冷蔵庫システム
JP2015080017A (ja) * 2013-10-15 2015-04-23 パナソニックIpマネジメント株式会社 冷蔵庫および冷蔵庫内表示システム
JP2015081762A (ja) * 2013-10-24 2015-04-27 三菱電機株式会社 冷蔵庫
JP2015222138A (ja) * 2014-05-22 2015-12-10 三菱電機株式会社 冷蔵庫及びネットワークシステム
JP2016012247A (ja) * 2014-06-30 2016-01-21 富士機械製造株式会社 献立作成システム
JP2016057022A (ja) * 2014-09-11 2016-04-21 株式会社東芝 食材管理システム

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2019017323A1 (ja) * 2017-07-21 2020-06-11 パナソニックIpマネジメント株式会社 食品管理システム
CN109612199A (zh) * 2018-11-20 2019-04-12 珠海格力电器股份有限公司 一种冰箱中异物信息提醒方法及装置
CN109612199B (zh) * 2018-11-20 2019-12-06 珠海格力电器股份有限公司 一种冰箱中异物信息提醒方法及装置
JP2020094702A (ja) * 2018-12-10 2020-06-18 東芝ライフスタイル株式会社 冷蔵庫
JP2020201538A (ja) * 2019-06-06 2020-12-17 株式会社Lixil 情報提供装置
JP2021018633A (ja) * 2019-07-22 2021-02-15 パナソニックIpマネジメント株式会社 システム
JP2021117572A (ja) * 2020-01-23 2021-08-10 日立グローバルライフソリューションズ株式会社 冷蔵庫管理装置およびプログラム
JP7269894B2 (ja) 2020-01-23 2023-05-09 日立グローバルライフソリューションズ株式会社 冷蔵庫管理装置およびプログラム
JP7505192B2 (ja) 2020-02-04 2024-06-25 沖電気工業株式会社 画像処理装置、画像処理プログラム、及び画像処理方法
JP7458955B2 (ja) 2020-10-01 2024-04-01 信越ポリマー株式会社 忘れ物検知報告システムおよび忘れ物検知報告方法
CN114857852A (zh) * 2021-03-29 2022-08-05 青岛海尔电冰箱有限公司 高质量图像的获取方法、设备及冰箱
CN114857852B (zh) * 2021-03-29 2023-08-15 青岛海尔电冰箱有限公司 高质量图像的获取方法、设备及冰箱
WO2023067966A1 (ja) * 2021-10-19 2023-04-27 日立グローバルライフソリューションズ株式会社 貯蔵庫並びに貯蔵庫及び撮影装置が行う撮影方法
CN116182463A (zh) * 2021-11-25 2023-05-30 海信集团控股股份有限公司 检测设备、冰箱及用户对冰箱内食材的存取行为识别方法
CN115082918B (zh) * 2022-07-20 2022-11-08 深圳快品信息技术有限公司 外卖配送实时监测装置、系统及方法
CN115082918A (zh) * 2022-07-20 2022-09-20 深圳快品信息技术有限公司 外卖配送实时监测装置、系统及方法

Similar Documents

Publication Publication Date Title
JP2018035983A (ja) 食品貯蔵庫、庫内撮影システム
JP6138372B2 (ja) 物品情報の送受信方法、装置、プログラム、及び記録媒体
US9922530B2 (en) Method and device for generating information
JP6938116B2 (ja) 在庫管理装置および在庫管理方法
US20160148536A1 (en) Tracking Nutritional Information about Consumed Food with a Wearable Device
JP6157822B2 (ja) 冷蔵庫
JP6877734B2 (ja) 物品貯蔵庫の在庫管理装置
JP2006329597A (ja) 冷蔵庫
JP7281755B2 (ja) 冷蔵庫
CN111382660A (zh) 电器库存的增强现实反馈
US20140168396A1 (en) Method for viewing contents of a refrigerator appliance
CN204115391U (zh) 一种智能调温冰箱
KR102473583B1 (ko) 냉장고 및 그 제어 방법
CN109478274A (zh) 用于消费者移动装置的冷链情报
JP2023083476A (ja) プログラム
CN111692832B (zh) 用于冰箱的食材信息管理方法和装置
JP2005037086A (ja) 冷蔵庫並びに冷蔵庫の食品管理方法
TWI629672B (zh) Smart refrigerator reminder method that can remind food preservation
JP2018190120A (ja) 物品収納装置及び物品管理システム
JP2015007851A (ja) 食材消費情報提供方法、食材消費情報提供装置、期間情報表示方法および期間情報表示装置
US20220318816A1 (en) Speech, camera and projector system for monitoring grocery usage
WO2021014931A1 (ja) システム
JP7245049B2 (ja) 冷蔵庫システム、サーバ装置、冷蔵庫、通信端末およびサーバ装置の制御方法
JP2014142142A (ja) 提示装置
WO2024004569A1 (ja) タグ、制御方法、および、制御システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190320

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200114

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200303

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200407

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20201201