JP2022064576A - 情報処理システム、及び品質推定方法 - Google Patents

情報処理システム、及び品質推定方法 Download PDF

Info

Publication number
JP2022064576A
JP2022064576A JP2020173286A JP2020173286A JP2022064576A JP 2022064576 A JP2022064576 A JP 2022064576A JP 2020173286 A JP2020173286 A JP 2020173286A JP 2020173286 A JP2020173286 A JP 2020173286A JP 2022064576 A JP2022064576 A JP 2022064576A
Authority
JP
Japan
Prior art keywords
food
information
refrigerator
quality
storage
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020173286A
Other languages
English (en)
Inventor
太陽 中野
Taiyo Nakano
慎 竹内
Shin Takeuchi
健吾 松永
Kengo Matsunaga
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Lifestyle Products and Services Corp
Original Assignee
Toshiba Lifestyle Products and Services Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Lifestyle Products and Services Corp filed Critical Toshiba Lifestyle Products and Services Corp
Priority to JP2020173286A priority Critical patent/JP2022064576A/ja
Publication of JP2022064576A publication Critical patent/JP2022064576A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Cold Air Circulating Systems And Constructional Details In Refrigerators (AREA)

Abstract

【課題】冷蔵庫に保管された食品の品質を推定する情報処理システム、及び品質推定方法を提供する。【解決手段】実施形態の情報処理システムは、取得部と、推定部とを持つ。取得部は、冷蔵庫に保管された評価対象の食品を夫々識別可能な食品属性情報と、前記食品の種別を識別可能な種別識別情報と、前記食品の保管条件と保管期間に関する保管履歴情報と、前記冷蔵庫の使用に関する冷蔵庫使用履歴情報とを取得す。推定部は、前記種別識別情報に係る食品の品質の状態を模擬するように構成された食品品質モデルを用いて、前記食品属性情報により識別される前記評価対象の食品の前記保管履歴情報と、前記評価対象の食品の前記保管期間における前記冷蔵庫使用履歴情報とに基づいて、前記評価対象の食品の品質を推定する。【選択図】図7

Description

本発明の実施形態は、情報処理システム、及び品質推定方法に関する。
冷蔵庫などの食品の冷蔵庫に保管された食品について、その食品の品質を確認したいという要求がある。住居に配置される冷蔵庫内に食品を保管する場合には、恒温槽内の安定した環境で食品の品質の状態を評価する場合とは異なり、不定期に食品を外部から取り込んで冷蔵庫内にそれを配置したり、保管を継続する食品以外の食品を冷蔵庫から取り出したりすることがある。これに伴い、冷蔵庫内の環境が変化する。
特開平8-338837号公報
上記のように、冷蔵庫内の環境が変化すると、冷蔵庫に保管された食品の品質を推定することが困難になることがあった。
本発明が解決しようとする課題は、冷蔵庫に保管された食品の品質を推定する情報処理システム、及び品質推定方法を提供することである。
実施形態の情報処理システムは、取得部と、推定部とを持つ。取得部は、冷蔵庫に保管された評価対象の食品を夫々識別可能な食品属性情報と、前記食品の種別を識別可能な種別識別情報と、前記食品の保管条件と保管期間に関する保管履歴情報と、前記冷蔵庫の使用に関する冷蔵庫使用履歴情報とを取得する。推定部は、前記種別識別情報に係る食品の品質の状態を模擬するように構成された食品品質モデルを用いて、前記食品属性情報により識別される前記評価対象の食品の前記保管履歴情報と、前記評価対象の食品の前記保管期間における前記冷蔵庫使用履歴情報とに基づいて、前記評価対象の食品の品質を推定する。
実施形態の情報処理システムの全体構成を示す図。 実施形態の端末装置の概略構成図。 実施形態の冷蔵庫の構成例を示す外観図。 実施形態の冷蔵庫の構成例を示す断面図。 実施形態の冷蔵庫の制御に関する構成例を示すブロック図。 実施形態の冷蔵庫の庫内画像の具体例を示す図。 実施形態のサーバの構成例を示すブロック図。 実施形態における食品の品質の推定について説明するための図。 実施形態の魚の品質について説明するための図である。 実施形態の加工食品の品質について説明するための図。 実施形態の野菜の品質について説明するための図。 実施形態のデータDの具体例を示す図。 実施形態の推定モデルKLMの学習用の構成のブロック図。 実施形態の食品の品質を推定する構成のブロック図。 実施形態のサーバによる処理のフローチャート。 実施形態の情報のアップロードについて説明するための図。 実施形態の食品品質情報をユーザに通知するための処理のフローチャート。 実施形態のサーバが通知する情報について説明するための図。 実施形態のユーザの嗜好に応じた処理を説明するための図。 実施形態の変形例の食品の品質を推定する構成のブロック図。 第2の実施形態の推定モデルKLMの学習用の構成のブロック図。 第2の実施形態の食品の品質を推定する構成のブロック図。 第2の実施形態の変形例の食品の品質を推定する構成のブロック図。 第3の実施形態の推定モデルKLMの学習用の構成のブロック図。 第4の実施形態の推定モデルKLMの学習用の構成のブロック図。
以下、実施形態の情報処理システム、及び品質推定方法を、図面を参照して説明する。以下の説明では、同一又は類似の機能を有する構成に同一の符号を付す。そして、それら構成の重複する説明は省略する場合がある。「XXに基づく」とは、「少なくともXXに基づく」ことを意味し、XXに加えて別の要素に基づく場合も含み得る。「XXに基づく」とは、XXを直接に用いる場合に限定されず、XXに対して演算や加工が行われたものに基づく場合も含み得る。「XX又はYY」とは、XXとYYのうち何れか一方の場合に限定されず、XXとYYの両方の場合も含み得る。これは選択的要素が3つ以上の場合も同様である。「XX」及び「YY」は、任意の要素(例えば任意の情報)である。
実施形態における「食品」は、調理用の食材、生食可能な食物、飲料などを含む。その「食品」の包装の有無に制限はなく、飲料などは容器に入れられていてよい。
(第1の実施形態)
<1.情報処理システムの全体構成>
図1は、実施形態の情報処理システム1の全体構成を示す図である。情報処理システム1は、例えば、各家庭に配置された冷蔵庫100、サーバ200、及び端末装置300を含む。ただし、本明細書で「情報処理システム」とは、冷蔵庫100及び端末装置300を含まず、サーバ200のみを意味してもよい。後述するネットワークNWとして、例えば、インターネット、セルラー網、Wi-Fi網、WAN(Wide Area Network)、家庭内のLAN(Local Area Network)、無線LANなどを状況に応じて利用すればよい。
冷蔵庫100は、ユーザUの住居内に配置される。冷蔵庫100は、例えば、ユーザUの住居内に配置された無線ルータR及びネットワークNWを介して、サーバ200と通信可能である。冷蔵庫100については、詳しく後述する。
サーバ200は、1台以上のサーバ装置SD(例えばクラウドサーバ)で構成される。
サーバ200は、「サーバシステム」と称されてもよい。サーバ200は、エッジコンピューティングやフォグコンピューティングを行う情報処理部などを含んでもよい。サーバ200については、詳しく後述する。
端末装置300は、パーソナルコンピュータなどの機器であり、ネットワークNWを介してサーバ200と通信可能である。端末装置300は、液晶ディスプレイなどの表示装置310を含む。
<2.端末装置>
図2は、実施形態の端末装置300の概略構成図である。
端末装置300は、表示装置310と、入力装置320と、補助記憶装置330と、無線モジュール340と、記憶部360と、制御部380とを備える。表示装置310と、入力装置320と、補助記憶装置330と、無線モジュール340と、記憶部360と、制御部380は、端末装置300の内部でバスなどを介して互いに接続されている。
例えば、入力装置320は、キーボード、マウス、タッチパネル型入力装置などの総称である。補助記憶装置330は、SSD(Solid State Drive)やHDD(Hard Disk Drive)等を含む。無線モジュール340は、外部の装置と無線で通信するための回路ユニットである。記憶部360は、SRAM(Static Random Access Memory)やDRAM(Dynamic Random Access Memory)等の半導体メモリを含む。制御部380は、例えばCPU(Central Processing Unit)等のプロセッサを含む。制御部380は、プロセッサが補助記憶装置330に記憶されているプログラムAPLを半導体メモリ上に読み出して実行することにより、情報入力部381、情報処理部382及び情報出力部383を備える装置として機能する。
情報入力部381は、ユーザの入力装置320に対する操作に基づいて、識別情報I1、食品属性情報I3、種別識別情報I4及び保管履歴情報I5を取得して、記憶部360に記憶させる。識別情報I1は、冷蔵庫100を識別するために各冷蔵庫100に付与された機器IDを示す。食品属性情報I3は、冷蔵庫100に保管された評価対象の食品を夫々識別可能な識別情報である。種別識別情報I4は、食品の種別を識別可能な識別情報である。保管履歴情報I5は、食品の保管条件と保管期間とに関する情報を含む。識別情報I1、食品属性情報I3、種別識別情報I4及び保管履歴情報I5の詳細は後述する。
情報処理部382は、記憶部360に記憶されている識別情報I1、食品属性情報I3、種別識別情報I4及び保管履歴情報I5を、無線モジュール340を介してサーバ200に通知する。情報処理部382は、無線モジュール340を介してサーバ200からシミュレーションの結果を受信して、これを記憶部360に追加する。
情報出力部383は、記憶部360に格納されているシミュレーションの結果を表示装置310に表示させる。
なお、端末装置300とサーバ装置SDは、1つの装置として一体化されていてもよい。また、冷蔵庫100と端末装置300は、1つの装置として一体化されていてもよい。冷蔵庫100とサーバ装置SDは、1つの装置として一体化されていてもよい。このように、食品の品質を推定するための処理を実行するサーバ装置SDが配置される装置に制限はなく、適宜決定してよい。
<3.冷蔵庫>
<3.1 冷蔵庫の全体構成>
図3Aは、冷蔵庫100の構成例を示す外観図である。冷蔵庫100は、例えば、冷蔵室10、野菜室20、冷凍室30及び製氷室40を貯蔵室として備え、各貯蔵室を開閉するための扉として冷蔵室扉11、野菜室扉21、冷凍室扉31及び製氷室扉41を備えている。また、冷蔵室扉11、野菜室扉21、冷凍室扉31及び製氷室扉41には、それぞれの開閉状態を検知するためのセンサとして冷蔵室扉スイッチ12、野菜室扉スイッチ22、冷凍室扉スイッチ32及び製氷室扉スイッチ42を備えている。さらに、冷蔵庫100の外面には、冷蔵庫100の動作状態などの情報をユーザUに提供するためのディスプレイ56が設けられている。
図3Bは、冷蔵庫100の構成例を示す断面図(図3AにおけるA-A線断面)である。図3Bは、冷蔵庫100の一例として2つの冷却機構を有する、いわゆるツイン冷却式の冷蔵庫を示す。冷蔵庫100は、例えば、冷凍サイクルを実現するための構成要素として、冷蔵冷却器13、冷凍冷却器33、冷蔵冷却ファン14、冷凍冷却ファン34、コンプレッサ51、冷媒切替弁52(図4)、ダンパ53、製氷皿モータ54、給水モータ55、脱臭装置57を備えている。冷蔵冷却ファン14と冷凍冷却ファン34を纏めて冷却ファンと呼ぶ。
コンプレッサ51は、熱交換媒体として冷凍サイクルを循環する冷媒を圧縮する装置である。冷蔵冷却器13は、冷媒との熱交換により、冷蔵冷却室15内の空気を冷却する蒸発器である。冷蔵冷却器13によって冷却された空気は冷蔵冷却ファン14の回転により、連通部533を介して冷蔵室10又は野菜室20に供給される。同様に、冷凍冷却器33は、冷媒との熱交換により、冷凍冷却室35内の空気を冷却する蒸発器である。冷凍冷却器33によって冷却された空気は冷凍冷却ファン34の回転により、連通部533を介して冷凍室30又は製氷室40に供給される。
冷媒切替弁52は、冷媒が冷蔵冷却器13及び冷凍冷却器33の一方又は両方に送られるように冷媒の流路を切り替える弁である。冷蔵冷却ダンパ531は、連通部533を介して冷蔵冷却室15と冷蔵室10との間を流通する空気の流量を調整する装置である。冷凍冷却ダンパ532は、連通部533を介して冷凍冷却室35と冷凍室30との間を流通する空気の流量を調整する装置である。製氷皿モータ54は、製氷室40において製氷皿に生成された氷を受け皿に移動させるために製氷皿を回転させるためモータである。給水モータ55は、製氷室40において給水タンクに蓄えられている水を製氷皿に供給するためのモータである。
脱臭装置57は、光触媒膜などを有するフィルタを含み、貯蔵室内のエチレン、アンモニアなどの臭気性ガスの濃度を低減させる。上記に限らず脱臭装置57を省略してもよく、他の構成に置換してもよい。
<3.2 冷蔵庫のセンサ群及び制御部の構成>
図4は、冷蔵庫100の制御に関する構成例を示すブロック図である。冷蔵庫100は、自身を他の通信機器と通信可能に接続するための無線モジュール58と、自身を冷凍サイクル装置として機能させるための制御部80と、冷凍サイクルの制御に必要な各種情報を取得するためのセンサ群SUと、を備える。制御部80は、冷蔵庫100内部の通信線によりセンサ群SUと無線モジュール58と通信可能に接続される。制御部80は、無線ルータRを介してサーバ200又は端末装置300と無線で通信する。
制御部80は、例えばCPU等のプロセッサ、半導体メモリ、SSDやHDD等の補助記憶装置を含んで構成される。制御部80は、プロセッサが補助記憶装置に記憶されているプログラムをメモリ上に読み出して実行することにより、冷凍サイクル制御部81、記憶部82、情報記録部83及び情報出力部84を備える装置として機能する。なお、制御部80の機能の全部又は一部は、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、又はFPGA(Field Programmable Gate Array)などのハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアとの協働によって実現されてもよい。
冷凍サイクル制御部81は、冷蔵庫100を冷凍サイクル装置として機能させるため、各貯蔵室の温度に基づいて冷蔵冷却ファン14、冷凍冷却ファン34、コンプレッサ51、冷媒切替弁52、ダンパ53、製氷皿モータ54、給水モータ55の動作を制御する機能を有する。冷凍サイクル制御部81は、各貯蔵室の温度に基づく制御に加えて、ユーザUの設定に基づく制御を行うように構成されてもよい。
記憶部82は、識別情報I1及び状態情報I2を記憶する。識別情報I1は、冷蔵庫100を識別するために各冷蔵庫100に付与された機器IDを示す。状態情報I2は、冷蔵庫100の状態を示す時系列情報である。
情報記録部83は、例えば不図示のタイマを参照し、冷蔵庫100の状態を示す情報と日時情報とを対応付けて、記憶部82の状態情報I2に追加する。「冷蔵庫100の状態」は、例えば、冷蔵庫100の電源のON/OFFの状態や、コンプレッサ51、冷媒切替弁52、冷蔵冷却ファン14、冷凍冷却ファン34の運転状態などを含む。また、「冷蔵庫100の状態」は冷蔵庫100が収納するモノの状態を含んでもよい。日時情報は、曜日及び時刻を示す情報を含む。
さらに、情報記録部83は、センサ群SUの検出結果を示す情報と日時情報とを対応付けて、記憶部82の状態情報I2に追加する。ここで、冷蔵庫100は、センサ群SUとして、上記の冷蔵室扉スイッチ12、野菜室扉スイッチ22、冷凍室扉スイッチ32、製氷室扉スイッチ42に加え、冷蔵室温度センサ61、野菜室温度センサ62、冷凍室温度センサ63、製氷室温度センサ64、庫内カメラ65(CAM)、周囲温度センサ67、周囲湿度センサ68、補助センサ69を備えている。冷蔵室温度センサ61、野菜室温度センサ62、冷凍室温度センサ63、製氷室温度センサ64は、それぞれ、冷蔵室10、野菜室20、冷凍室30及び製氷室40の室内温度を測定するための温度センサである。
庫内カメラ65は、冷蔵庫100の庫内の食品を撮像してカラー画像を生成する。例えば図5は、庫内カメラ65によって冷蔵庫100の庫内が撮像された画像(以下「庫内画像」という。)の具体例を示す図である。冷蔵室10の内部の食品を撮像するように設置された例である。必要に応じて野菜室20や冷凍室30、製氷室40の内部に配置された食品を撮像するように、庫内カメラ65を設置する。複数の貯蔵室に、庫内カメラ65をそれぞれ設置してもよい。
周囲温度センサ67は、冷蔵庫100付近の温度(周囲温度)を検知するセンサである。周囲湿度センサ68は、冷蔵庫100付近の湿度(周囲湿度)を検知するセンサである。
補助センサ69は、冷蔵庫100内に保管された食品の品質Qrを検出するためのセンサである。補助センサ69による食品の品質Qrの検出結果である品質検出値Qdは、所望の検出精度を得ることができ、後述する推定モデルKLMを生成するための教師データに利用される。補助センサ69は、評価用に利用する冷蔵庫100(評価用冷蔵庫100Tと呼ぶ。)に設けられていればよく、商用の冷蔵庫100に必ずしも設けられていなくてもよい。例えば、補助センサ69は、化学的成分の量を検出して、検出した量に応じた結果を示すセンサ、対象物の視覚的特徴を検出するためのカラーカメラなどを含む。補助センサ69の出力を、制御部80が収集してもよく、冷蔵庫100の外部の計器が収集して、その結果をサーバ200が利用してもよい。
センサ群SUの検出結果は、上述した各種センサやスイッチの検出結果である。これら情報は、生データが記録されてもよいし、必要な演算が行われた状態で記録されてもよい。
情報出力部84は、無線モジュール58を介して、記憶部82に記憶された状態情報I2をサーバ200に送信する。情報出力部84は、例えば所定の周期で、状態情報I2をサーバ200に送信する。このとき、情報出力部84は、状態情報I2と、記憶部82に記憶された識別情報I1とを紐付けてサーバ200に送信する。識別情報I1は、冷蔵庫100を識別するために各冷蔵庫100に付与された機器IDである。状態情報I2と識別情報I1とは、冷蔵庫100からサーバ200に送信されるデータの一例である。以下の説明では、状態情報I2と識別情報I1とを纏めて「データD」と称する。
なお上記構成に代えて、情報記録部83が省略され、情報出力部84は、冷蔵庫100の運転状態及びセンサ群SUの検出結果を、リアルタイムでサーバ200に送信してもよい。この場合、冷蔵庫100の運転状態及びセンサ群SUの検出結果と、日時情報との対応付けは、サーバ200で行われてもよい。
<4.サーバ>
<4.1 サーバの概略構成>
図6は、サーバ200の構成例を示すブロック図である。サーバ200は、例えば、情報取得部201、情報変換部202、学習部203、推定部204、情報記録部205、及び情報出力部206を含む。これら機能部は、サーバ200が有するCPUのようなハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。ただし、これら機能部の全部又は一部は、ASIC、PLD、又はFPGAなどのハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアとの協働によって実現されてもよい。
さらに、サーバ200は、記憶部207を有する。記憶部207は、例えば、RAM、ROM、HDD、フラッシュメモリ、又はこれらのうち複数の組み合わせにより実現される。記憶部207には、蓄積情報I11、ユーザ登録情報I12、学習モデルL、推定モデル(学習済みモデル)KLM、及び食品品質情報I13が記憶される。推定モデルKLMは、食品品質モデルの一例である。
情報取得部201は、冷蔵庫100から送信されたデータDを取得する(受け取る)。なお、推定モデルKLMの学習が行われる場合には、情報取得部201は、評価用冷蔵庫100TからデータDを収集する。情報取得部201は、取得したデータDを蓄積情報I11として記憶部207に蓄積する。推定モデルKLMの学習は、冷蔵庫100が推定モデルKLMを利用して食品の品質を推定するよりも前の段階で実施される。情報取得部201は、例えば各冷蔵庫100において食品の品質を推定する場合には、各冷蔵庫100からのデータDを逐次、記憶部207に蓄積する。情報取得部201は、端末装置300から送信された識別情報I1、食品属性情報I3、種別識別情報I4及び保管履歴情報I5を取得して、記憶部207に蓄積する。情報取得部201は、「取得部」の一例である。
情報変換部202は、各冷蔵庫100のデータDが蓄積された蓄積情報I11と学習モデルLとに基づき、推定モデルKLMに入力する入力情報を生成する。学習モデルLは機械学習を行うためのアルゴリズムを示すモデルである。
学習部203(モデル生成制御部)は、評価用冷蔵庫100Tに保管した状態のサンプル食品の品質の検出結果を用いて、上記の食品の品質を模擬する推定モデルKLMを生成する。サンプル食品とは、品質の推定対象に定める食品と同種の食品のことである。学習部203は、例えば、種別識別情報I4により識別可能なサンプル食品が評価用冷蔵庫に保管され、その後、サンプル食品の品質が時間差をつけて検出され、時間差をつけて検出された品質の検出の結果を用いて推定モデルKLMの生成を制御するとよい。
推定部204は、例えば、学習部203によって生成された推定モデルKLMを用いて、判定対象の冷蔵庫100に保管されている評価対象の保管食品の品質を推定する。
情報記録部205は、推定部204によって推定された保管食品の品質を食品品質情報I13として記憶部207に記憶させる。
情報出力部206は、上述した処理によって得られた食品品質情報I13を、端末装置300に送信する。これにより、食品品質情報I13は、冷蔵庫100内の保管食品の品質を確保するサービスの提供などに利用可能になる。
<4.2 食品の品質の推定について>
図7は、実施形態における食品の品質の推定について説明するための図である。
ユーザは、端末装置300などを操作して、保管食品に関する情報をサーバ200に登録する(アップロード)。例えば、端末装置300は、保管食品に関する情報を、冷蔵庫100を経てサーバ200に通知して、又は同情報をサーバ200に通知する。サーバ200は、通知された保管食品に関する情報を、ユーザの識別情報に関連付けて登録する。
冷蔵庫100は、ユーザによる扉の開閉操作などを使用状況として検出する。冷蔵庫100は、扉の開閉操作に関する情報を含めて、上記のデータDを、所定の周期でサーバ200に通知する。
サーバ200は、上記のデータDを冷蔵庫100の使用状況を示す情報として取得すると、学習済み推定モデルKLMを用いて、冷蔵庫100内の各食品の品質を推定するシミュレーションを実行する。サーバ200は、各食品の品質の推定結果と、この推定結果に基づいた判定結果とを冷蔵庫100又は端末装置300に通知する。上記の判定結果に、食品の賞味期限に関する通知が含まれていてよい。この通知により、冷蔵庫100又は端末装置300は、上記の通知に応じて、上記の推定結果と判定結果を取得(ダウンロード)する。ユーザは、冷蔵庫100内の食品を実際に確認することなく、食品の品質の推定結果と、この推定結果に基づいた判定結果とを得ることができる。
上記の処理により、サーバ200は、食品の品質に係る標準的な推定結果と、その判定結果とをユーザに伝えることができる。
ただし、標準的な推定結果とその判定結果とに対して、ユーザ固有の嗜好が乖離していることがある。このような場合には、ユーザの嗜好に関する情報(個人データ)を、ユーザからの申告(フィードバック)を利用して収集して、推定処理の基準又は判定処理の基準を補正することで、上記の乖離の幅を少なくすることができる。冷蔵庫100又は端末装置300を介してユーザからの申告を受け付ける事例については、変形例として後述する。
<4.3 食品の品質とそのモデルについて>
以下、各食品の品質とそれを模擬するモデル(推定モデルKLMという。)について説明する。サーバ200は、推定モデルKLMを利用することで、保管食品の品質を推定する。例えば、推定モデルKLMは、学習モデルLと教師データとを用いて学習された教師あり機械学習によって生成される学習済みモデルである。対象の食品の種類には、肉、魚、果物、野菜などの生鮮食品、パン、牛乳、チーズなどの加工食品などが含まれる。対象の食品の品質を示す指標として、熟成と腐敗に関係して変化する食品の化学的成分の量に基づいたデータ、特有のにおいの特徴、カビの発生の有無などを含む視覚的変化、賞味期限(消費期限)などが挙げられる。例えば、熟成と腐敗に関係して変化する食品の化学的成分の量に基づいた指標として、食品の腐敗時期、食品が食に適した状態にあるかを示すK値が知られている。ただし、推定する対象の食品の属性は、対象の食品に関する蓄積情報I11に基づいて、その品質を推定することのできる事項であれば、上記列挙した事項以外の事項であってもよい。
推定モデルKLMは、以下に列挙する推定モデルKLMAからKLMDの一部又は全部を含む。
・食品の化学的成分に関わる代表値(例えば腐敗時期、食品が食に適した状態にあるかを示すK値)を推定する推定モデルKLMA
・食品が発するにおいの発生状況を推定する推定モデルKLMB
・食品の視覚的変化(カビの発生状況を含む)を推定する推定モデルKLMC
・食品の食に適した期間(賞味期限又は消費期限までの期間)を推定する推定モデルKLMD
上記の推定モデルKLMAからKLMDと、推定モデルKLMは、食品品質モデルの一例である。推定モデルKLMの生成の詳細については後述する。
<4.4 推定モデルKLMと食品の品質との関係について>
いくつかの具体的な食品の例を挙げて、推定モデルKLMと食品の品質との関係について説明する。
(第1実施例:魚の品質)
図8は、実施形態の魚の品質について説明するための図である。
魚の品質の指標にK値を適用することがある。K値は、ATP関連化合物の量を比率で示したものである。K値は、主に魚の鮮度を表す指標として利用され、0から100%の範囲で規定される。鮮度が良いほどK値の値が小さく、一般に60%以上になると初期腐敗と言われる。生食の場合は、20%以下であることが推奨される。
図8中の(a)のグラフに、保管温度を5段階に設定した各温度条件の下でサンマの品質の変化の記録を示す。図8中の(b)のグラフに、保管温度を5段階に設定した各温度条件の下でサバの品質の変化の記録を示す。図8中の(c)のグラフに、サンマの保管温度を途中で切り替えた場合のサンマの品質を推定する事例について示す。
例えば、魚のK値は一般的に水揚げ後に上昇し始めて、その値が20%以下であればその魚を生食できる。水揚げ後に10℃でサンマを保管すれば72時間経過するまで20%以下にK値を維持することができる。これに対して、サバの場合には、サンマと同様の条件で保管すると24時間経過するまでは20%以下にK値を維持することができる。サバの方がサンマに比べて腐敗しやすいため、上記の時間が短くなっている。
上記のように保存温度ごとのK値の変化の傾向を推定モデルKLMAに学習させれば、K値を測定する代わりに推定モデルKLMAを用いた推定によりK値の推定値を得ることが可能になる。一例として、水揚げから24時間経過時点まで15℃で保管した後に冷蔵庫100に保管して保管温度を5℃に切り替える場合について検討する。
冷蔵庫100に保管した食品の初期状態の各データには、その食品の食品種別と、その食品の賞味期限と、その食品の保管を開始した日付と、チルド室の温度(保管温度)とが含まれる。例えば、食品種別を「サンマ」にして、賞味期限を2日後の24:00までに設定する。教師データとして上記のデータDを利用して、教師あり機械学習によって推定モデルKLMAを学習させる。
これにより、推定モデルKLMAは、上記の各温度環境で保管された場合の品質の状態を模擬するモデルになる。例えば、サンマを冷蔵庫に保管するまでに15℃の環境で24時間経過したことを示す入力データを推定モデルKLMAに入力してこれを用いたシミュレーションの結果から、上記の24時間経過時のK値の値が15%になることを算出できる。さらに、このタイミングで冷蔵庫のチルド室(5℃)で保管することに切り替えた場合、K値が20%以下であることという条件を満たす期間は、残り24時間になることが同様に算出できる。
上記のように購入段階では、賞味期限として「2日後の24:00まで」とラベルなどに提示されていたサンマであっても、購入後から24時間経過するまでの保管条件が適当でなかったために鮮度が低下してしまい、上記のシミュレーションの結果が導出された。このサンマは生食に適さない状態に近づいているため、サーバ200は、以下の表示を行ってユーザに注意を促すとよい。例えば、サーバ200は、「今日中に消費する」、「においが強くなる」、「刺身ではなく焼いて食べる」などの消費方法の注意点に関する案内を通知するとよい。
シミュレーションの結果を別の観点で整理する。推定したK値から、上記の残り24時間の間は、アミノ酸の量が増加して食べごろになっていると推定できる。これに応じて、サーバ200は、「今が食べ時」、「1日寝かすとおいしい」などの、消費方法のアドバイスに関する案内を通知するとよい。
なお、上記のように一定の温度で保管していた時間の長さの関係に基づいた解析だけでは、冷蔵庫100の扉の開閉の影響による保管食品の品質を推定しきれないことがある。これに対して、実施形態のサーバ200は、食品を保管中に冷蔵庫100の扉が開閉されることを条件に加えて解析する。
(第2実施例:加工食品の品質)
図9は、実施形態の加工食品の品質について説明するための図である。
加工食品も保管すると徐々に腐敗が進行する。腐敗の進行の速度は、食品の種類、保管温度、保管湿度などによって影響される。さらに、冷蔵庫に保管されるまでに経過した時間も品質に影響する。そこで、食品の賞味期限又は消費期限、加工日などの情報を合わせて利用する。例えば、加工食品の一例としてパンを例示して説明する。
図9中の(a)のグラフに、冷蔵庫内温度を3段階に設定して、各条件の下で加工食品(パン)の品質の変化の記録を示す。図9中の(b)のグラフに、冷蔵庫内湿度を3段階に設定して、各条件の下で加工食品(パン)の品質の変化の記録を示す。
パンの品質(腐敗度)を、例えば一般生菌数を用いて規定する。一般生菌数を用いる判定で腐敗と判定する閾値は、食品の種類に応じて値に定めるとよい。パンの場合には1.0x10個/g(グラム)を閾値に定め、これを超えると腐敗していると判定する。保管を開始した日を基準にして、その日付からの経過日数(保存期間)に基づいて品質を推定する。一般生菌数は、後述する教師データの一例である。
そこで、パンについては、冷蔵庫内温度と冷蔵庫内湿度とに基づいて、保管食品の生菌数を予測する。賞味期限が比較的近いパンが冷蔵庫に保管された場合、一般生菌数の初期値を比較的大きな値に設定するとよい。
製造日を含め概ね5日を超えたパン類はカビることがある。本実施形態では、食品の視覚的変化の情報を保管食品の品質の推定に利用して、カビが発生しそうな状態を検出する。例えば、保管食品の複数の画像から食品の変色量を検出して、変色量に基づいて食品の腐敗度を推定する。これにより、保存期間に基づいて推定された品質に問題がなくても、食品の画像から所定の程度を超える変色が検出された場合には、カビの発生を疑って腐敗と判定することができる。
食品の色の変化を検出するには、特定の表色系を定めて、特定の表色系上に配置される色点の分布の変化に基づいて色の変化を検出するとよい。この色の変化の検出の方法は既知の画像処理の手法を利用してもよい。以下、代表的な表色系の適用を例示して説明する。
(L*a*b*表色系の利用)
パンの色の変化を検出するために、L*a*b*表色系を利用する場合を例示する。L*a*b*表色系では、a*軸の成分とb*軸の成分のそれぞれに0から±1までの値が割り付けられる。例えば、食品を保管した初期の状態の色点群から、a*軸の成分とb*軸の成分の何れかに0.5以上隔てた位置に新たな色点が検出された場合に、検出すべき色の変化があったと認められ、これを腐敗と判定してよい。
(RGB表色系の利用)
パンの色の変化を検出するために、RGB表色系を利用する場合を例示する。RGB表色系では、RGBの各軸の成分のそれぞれに0から最大値までの値が割り付けられる。例えば、食品を保管した初期の状態の色点のRGB各成分の値が10%以上ずれた場合に、これを腐敗と判定してよい。「RGB各成分の値が10%以上ずれる」とは、検出対象(パン)の像を示す各画素に対応する点を画像ごとにRGB空間に配置して、各点のそれぞれの軸の成分の重心が軸方向に10%以上移動することを言う。
推定した食品の状態が腐敗と判定される時期が所定の状態に近づいていると推定される場合には、その前にユーザが消費するように、「今日中に消費する」ことを促したり、「乾燥してきている」などの情報を提供して、ユーザに対して消費に関する注意を促したりするとよい。
(第3実施例:野菜の品質)
図10は、実施形態の野菜の品質について説明するための図である。図10中の(a)のグラフに、冷蔵庫100の扉を開く頻度を3段階に設定して、各条件の下の野菜の水分残存率を示す。図10中の(b)のグラフに、冷蔵庫100の扉を開いている時間を3段階に設定して、各条件の下の野菜の水分残存率を示す。
野菜を野菜室20に保管しても、収穫後の野菜の鮮度(水分残存率)は徐々に低下する。野菜の鮮度の低下の傾向は、野菜の種類と野菜が保管される環境(保管温度、保管湿度)によって異なる。そこで、本実施例のサーバ200は、野菜(食品)の種類、保管を開始した日付、保管開始時点の見込みの賞味期限などの情報を利用して、保管食品の鮮度(品質)を推定する。
野菜の保管中に冷蔵庫100の扉を開く回数(開閉回数)が多いと、また開けている時間が長いと、冷蔵庫内温度が高くなり、冷蔵庫内湿度が低くなるために、野菜の鮮度の低下が進む要因になる。そこで、サーバ200は、冷蔵庫100の扉を開く回数(開閉回数)と、扉を開けている時間に基づいて、扉の開閉に伴う野菜の鮮度の低下を推定して、その結果を出力する。
例えば、野菜の水分残存率が例えば80%以下になると、明らかに鮮度が落ちたと感じられる状態になる。そこで、サーバ200は、水分残存率が80%以下になる時期を予測して、80%以下になる前にユーザが消費するように、「今日中に消費する」ことを促したり、「乾燥してきている」などの情報を提供して、ユーザに対して消費に関する注意を促したりするとよい。
<4.5 冷蔵庫100の使用状況と貯蔵室の環境の変動について>
図11は、実施形態の成分量推定用入力情報の生成に用いられるデータDの具体例を示す図である。データDはセンサ群SUの検出結果を示す時系列データである。冷蔵庫100の使用タイミングと、各使用タイミングにおいて使用される貯蔵室は、各貯蔵室の扉スイッチのON/OFFの状態の検出結果から検知される。また、コンプレッサ51、冷蔵冷却ファン14、冷凍冷却ファン34の動作状況によって各貯蔵室の温度が変動する。
情報変換部202は、このようなデータDに基づいて、成分量推定用入力情報を生成する。これにより、食品の成分量を直接的に検出することなく、食品の成分量を推定することができる。
<4.6 推定モデルKLMの入力情報>
(a.食品に含まれる成分の量を推定する推定モデルKLMAの入力情報)
情報変換部202は、例えば、食品に含まれる成分の量を推定モデルKLMAに推定させるための入力情報(以下「成分量推定用入力情報」と称する)を、蓄積情報I11に基づき生成する。
食品の品質の推定に関連する情報として、例えば、食品属性情報I3と、種別識別情報I4と、保管履歴情報I5と、状態情報I2(冷蔵庫使用履歴情報)と、が含まれる。
食品属性情報I3には、食品の個体識別情報と、日限関連情報とが含まれる。個体識別情報は、冷蔵庫100に保管された評価対象の食品を夫々識別可能にする情報であって、同じ種類の食品を、個体ごとに個別に識別可能にする。日限関連情報には、個体識別情報により識別される食品に関連付けられて設定され、その食品の加工段階で設定された賞味期限、消費期限、加工日などが含まれる。情報変換部202は、例えば端末装置300などから通知されて蓄積された蓄積情報I11に基づいて、食品属性情報I3を生成する。
種別識別情報I4は、食品の種別(種類)を識別可能にする情報である。保管履歴情報I5は、食品の保管期間に関する情報である。保管履歴情報I5における食品の保管条件とは、食品が配置された貯蔵庫を特定する情報を含む。保管履歴情報I5における保管期間に関する情報には、例えば、上記の貯蔵庫で保管を開始した日時の情報が含まれる。情報変換部202は、種別識別情報I4と保管履歴情報I5を、例えば端末装置300などから通知されて蓄積された蓄積情報I11に基づいて生成する。
状態情報I2は、冷蔵庫100の使用に関する情報の一例である。情報変換部202は、例えば、状態情報I2として、次に列挙する情報のうち1つ以上を、蓄積情報I11に基づき生成する。状態情報I2は、少なくとも以下に説明する観点において食品に含まれる成分の量との相関性を有する。そのため、以下に列挙する各情報のうち1つ以上を、食品に含まれる成分の量の評価値を出力情報とする推定モデルKLMの入力情報として用いることができる。
・冷蔵庫100の扉の開閉回数に関する情報
・冷蔵庫100の扉の開閉時間(開閉時刻)に関する情報
・冷蔵庫100の庫内温度に関する情報
・冷蔵庫100の庫内湿度に関する情報
・冷蔵庫100の周囲湿度に関する情報
・冷蔵庫100のコンプレッサ51の動作に関する情報
・冷蔵庫100の冷却ファンの動作に関する情報
・冷蔵庫100の脱臭装置の動作に関する情報
・冷蔵庫100の除霜運転動作に関する情報
例えば、評価対象の食品を保管する冷蔵庫100は、食品を保管する貯蔵室と、貯蔵室に設けられた開口部を閉塞して食品の出し入れの際に開かれる扉とを備えている。このような冷蔵庫100に関わるデータDを、少なくとも扉の開閉に関する情報が含まれるように構成するとよい。なお扉の開閉に関する情報には、扉を開けた回数(開閉回数)を示す情報と、扉を開いていた時間(開閉時間)を示す情報との何れかの情報が含まれているとよい。
(食品の保存中の環境と品質について)
食品の保存中の環境と品質の関係について説明する。
例えば、冷蔵庫内温度が比較的高い場合、保存状態にある食品(保管食品という。)の腐敗が早まり、冷蔵庫内温度が高いほど保管食品の賞味期限及び消費期限が短くなることが予測される。
冷蔵庫内湿度が比較的高い場合、カビが発生しやすくなり、比較的短期間でカビが発生することが予想される。これに対して、後述するように野菜を保存する場合には、高湿度では賞味期限及び消費期限が長くなることが推定される。
周囲温度が比較的高い場合、小売店で食品が購入されてから、その後にその食品が冷蔵庫100に保存されるまでの期間に食品の温度が上昇することがあり、これにより食品の賞味期限及び消費期限が短くなることが予想される。また、上記の場合、周囲温度を遮断する扉の内側に位置するドアポケットの温度が比較的高くなることがあり、ドアポケットに保存する食品(卵や牛乳)の賞味期限及び消費期限が短くなると予想される。
コンプレッサ51が動作する頻度が比較的高い場合、冷蔵庫内温度が比較的低くなるため、賞味期限及び消費期限が比較的長くなると予想される。
冷却ファンの動作頻度が比較的高い場合、冷蔵庫内温度が比較的低くなるため、賞味期限及び消費期限が比較的長くなると予想される。
脱臭装置57の作動している場合、保管食品に含まれる成分が気化したガスから、保管食品に含まれる成分量を検出する測定系に影響するときがある。それゆえ、脱臭装置57の作動が比較的多い場合、保管食品に含まれる成分が検知されにくくなる。
除霜制御の作動が比較的多い場合、冷蔵庫内温度が比較的高くなり、冷蔵庫内湿度も比較的高くなるため、賞味期限及び消費期限が比較的短くなると予測される。
そこで、サーバ200は、冷蔵庫100の状態情報I2を、保管食品の品質を推定するための指標値として利用する。
(b.食品が発する特有のにおいの発生を推定する推定モデルKLMBの入力情報)
情報変換部202は、例えば、推定モデルKLMBに食品が発する特有のにおいの発生を推定させるための入力情報(以下「におい推定用入力情報」と称する)として、状態情報I2のうち1つ以上を、蓄積情報I11に基づき生成する。これらの情報は、少なくとも以下に説明する観点において食品が発する特有のにおいの発生との相関性を有する。そのため、状態情報I2のうち1つ以上を、食品が発する特有のにおいの発生に関する属性を出力情報とする推定モデルKLMBの入力情報として用いる。なお、においの発生の推定は、においの強さ、においの質などの特徴と、においの発生の検知結果とを通知するようにしてもよい。
例えば、脱臭装置57の作動している場合、冷蔵庫100内のにおいの成分の量が、作動していない場合に比べて少なくなる。それゆえ、脱臭装置57の作動が比較的多い場合、保管食品からのにおいの発生量が同じであっても、においの発生が検知されにくくなる。あるいは、腐敗初期の僅かなにおいをユーザが気づかないことがある。上記のような場合に、においの発生を推定し、その結果を通知することによって、ユーザはにおいが発生する状況を認識できる。
(c.食品の視覚的変化が生じることを推定する推定モデルKLMCの入力情報)
食品の視覚的変化が生じる場合には、食品の表面などにカビの発生することに起因するもの、又は食品そのものが変色することに起因するものなどが含まれる。
情報変換部202は、例えば、推定モデルKLMCに食品の視覚的変化が生じることを推定させるための入力情報(以下「視覚的変化推定用入力情報」と称する)として、状態情報I2のうち1つ以上を、蓄積情報I11に基づき生成する。これらの情報は、少なくとも以下に説明する観点において食品の視覚的変化が生じることとの相関性を有する。そのため、状態情報I2のうち1つ以上を、食品の視覚的変化が生じることに関する属性を出力情報とする推定モデルKLMCの入力情報として用いる。
食品の視覚的変化が生じていることを推定できると、以下の事例への適用が可能にある。食品の種類が異なると、一律な処理によって推定することが困難な場合がある。食肉であってもその種類が異なると、腐敗に至る状況が異なることがある。例えば、牛肉に比べて鶏肉の方が腐敗しやすく、肉の色の変化が起こりやすい。食品の色を品質の推定に利用すれば、鶏肉の腐敗時期をより短く予測することが可能になる。また、切り落とし肉に比べると、ひき肉は腐敗しやすい。食肉の表面の画像を解析することにより、ブロック肉、切り落とし肉、ひき肉などの加工の方法を識別することができる。これにより、腐敗時期の予測を補正することが可能になる。画像認識処理には、画像データの各画素値のデータから取得される各種の特徴量に基づいて食品の表面の状態を識別する方法を用いることができる。そこで情報変換部202は画像認識処理による食品の表面の状態の検出結果を示す情報を状態情報I2として生成するとよい。
なお、上記に加えて、カビの発生の検出又は発生を予測した結果をトリガにして、判定を制御することも可能である。この事例については後述する。
(d.食品の賞味期限を推定する推定モデルKLMDの入力情報)
情報変換部202は、例えば、推定モデルKLMDに食品の賞味期限を推定させるための入力情報(以下「賞味期限推定用入力情報」と称する)として、状態情報I2のうち1つ以上を、蓄積情報I11に基づき生成する。これらの情報は、少なくとも以下に説明する観点において食品の賞味期限との相関性を有する。そのため、状態情報I2のうち1つ以上を、食品の賞味期限に関する属性を出力情報とする推定モデルKLMDの入力情報として用いる。
例えば、食品が包装されている場合に、その内部の状態を包装の外からは識別できないことがある。この場合に、当初設定された食品の賞味期限を、保管食品の保管状態に応じて補正することに推定モデルKLMDを適用してもよい。
<4.7 推定モデルKLMの学習>
図12Aは、実施形態の推定モデルKLMの学習用の構成のブロック図である。
評価用冷蔵庫100Tの貯蔵室内に食品が保管された状態で、冷凍サイクル制御部81は、冷蔵庫温度が、制御目標の冷蔵庫温度Trefに対して定まる変動範囲内に収まるように冷却制御を実施する。これにより貯蔵室内の空気と食品が所望の冷蔵庫温度の変動範囲の温度に冷却される。
補助センサ69(図中の記載はSENS)は、食品の品質に関わる状態を、所定の検出方法で検出して、検出した結果を食品の品質の検出値(品質検出値Qdという。)として出力する。
サーバ200の学習部203は、例えば、演算ブロック203a、203b、203cを備える。
演算ブロック203cは、推定モデルKLMを含み、制御目標の冷蔵庫温度Trefと、データDとに基づいて食品の品質を推定して、その推定の結果を品質推定値Qeとして出力する。なお、演算ブロック203cは、制御目標の冷蔵庫温度Trefに代えて、冷凍サイクル制御部81の出力を用いてもよい。
演算ブロック203aは、減算器であり、補助センサ69が出力する品質検出値Qdと、演算ブロック203cが出力する品質推定値Qeとに基づいて、その偏差(品質推定偏差という。)を出力する。
演算ブロック203bは、上記の品質推定偏差と、学習モデルLとに基づいて、品質推定偏差がより小さくなるように演算ブロック203cにおける推定モデルKLMを学習させる。演算ブロック203bは、同種の食品による学習により、これを少なくとも1回以上繰り返すことで、同種の食品の品質の推定に対する確度が高まる。また、演算ブロック203bは、種類が異なる食品による学習を繰り返すことで、各種食品の品質の推定に対する確度が高まる。演算ブロック203bは、このような学習処理を繰り返して、所望の推定確度が得られた段階で、その学習処理を中断するとよい。
上記のような教師あり機械学習によって、推定モデルKLMを学習させることができる。
なお、演算ブロック203aによる品質推定偏差の生成を、ユーザの判定に代えてもよい。ユーザは、補助センサ69が出力する品質検出値Qdと、演算ブロック203cが出力する品質推定値Qeとを比較して、その差が所望の範囲内であれば、推定結果に対する肯定的判定を演算ブロック203bの入力値にして、その差が所望の範囲外であれば、推定結果に対する否定的判定を演算ブロック203bの入力値にするとよい。この場合、演算ブロック203bは、推定結果に対する肯定的判定又は否定的判定の結果を、上記の品質推定偏差とするとよい。
上記の通りサンプル食品の保管に関する情報には、例えば、保管履歴情報I5と、上記のデータDとが含まれる。学習部203は、サンプル食品の品質の検出結果を用いて推定モデルKLMの生成を制御する場合に、サンプル食品の保管に関する情報に基づいて推定モデルKLMを形成するとよい。推定モデルKLMは、サンプル食品の品質に関わる推定情報を生成するように形成されるとよい。
学習部203は、サンプル食品の品質を検出する補助センサ69によって検出された品質(鮮度)の情報と、推定モデルKLMによって推定されたサンプル食品の品質の推定情報との一致度に基づいて、推定モデルKLMを調整するとよい。補助センサ69は、鮮度検出部の一例である。
次に、学習部203について整理する。学習部203は、上述した各種入力情報と、機械学習の学習モデルLとを適用することにより、食品の品質を推定するための推定モデルKLMを学習済みモデルとして生成する。推定モデルKLMは、冷蔵庫100に関する情報が入力されると、冷蔵庫100のユーザUの属性の推定結果を出力するように学習される。
なお、上記の説明では、推定モデルKLMが教師あり機械学習によって生成される場合について説明したが、推定モデルKLMは教師なし機械学習によって生成されてもよい。例えば、学習部203は、情報変換部202によって生成された各種推定用入力情報と補助センサ69による検出結果の情報とを教師データに適用して各種推定用入力情報とユーザ登録情報I12との関係性を学習させることにより、学習済みモデルとして推定モデルKLMA~KLMDを生成する。学習モデルLには、例えばニューラルネットワーク、強化学習、ディープラーニングなどを用いることができるが、学習モデルLはこれらに限定されない。学習モデルLは、回帰曲線や分類器を上記関係性の学習結果として生成するものであってもよい。例えば、ニューラルネットワーク以外の学習モデルLとしてSVM(Support Vector Machine)や決定木(Decision Tree)、ランダムフォレスト、k近傍法などが用いられてもよい。
<4.8 推定モデルKLMを用いた食品の品質の推定>
図12Bは、実施形態の食品の品質を推定する構成のブロック図である。冷蔵庫100の貯蔵室内に食品が保管された状態で、冷凍サイクル制御部81は、制御目標の冷蔵庫温度Trefの変動範囲内に収まるように冷却制御を実施する。これにより貯蔵室内の空気と食品が所望の冷蔵庫温度の変動範囲の温度に冷却される。
サーバ200の学習部203は、さらに演算ブロック204a、204b、204c、204dを備える。端末装置300(情報処理部382)は、演算ブロック301を備える。
演算ブロック204aは、第1の推定モデルKLMを含み、庫外保管情報に基づいて、推定モデルKLMを用いて食品の保管開始段階の品質を推定する。なお、この演算ブロック204aの処理を省略してもよい。
演算ブロック204bは、第2の推定モデルKLMを含み、データDに基づいて、食品の保管開始後に推定モデルKLMを用いて現時点の食品の品質を推定する。なお、演算ブロック204bは、上記の演算ブロック204aの推定結果を、食品の品質の推定処理の初期値に割り当てて、その後の品質の変化を推定してもよい。演算ブロック204bの推定処理の結果から、現時点の食品の品質の推定値を得ることができる。
演算ブロック204dは、データDに基づいて冷蔵庫100の使用状況を解析して、その解析結果から将来の冷蔵庫100の使用状況を推定する。この使用状況の推定の結果を推定データDeと呼ぶ。演算ブロック204dは、保管環境推定部の一例である。例えば、演算ブロック204dは、データDに基づいて、保管期間を延長して評価対象の食品を冷蔵庫100に保管するときの冷蔵庫100内の保管環境を推定するとよい。
演算ブロック204cは、第3の推定モデルKLMを含み、推定データDeに基づいて、第3の推定モデルKLMを用いて将来の食品の品質を推定する。なお、演算ブロック204cは、上記の演算ブロック204bの推定結果を、食品の品質の推定処理の初期値に割り当てることで、将来の品質を推定することができる。例えば、演算ブロック204dは、冷蔵庫100における評価対象の食品の保管を継続した場合の将来の評価対象の食品の品質を、推定モデルKLMを用いて、推定された保管環境に関する保管環境推定情報に基づいて推定するとよい。
演算ブロック301は、予め定められた判定基準に従い、将来の食品の品質の推定値に基づいて推定して得られた、その食品の賞味期限などを含む判定結果Qfを生成する。端末装置300は、サーバ200による処理(シミュレーション)の結果の品質推定値Qeと判定結果Qfを表示装置310に表示させる。
<4.9 食品の品質の推定処理>
図13は、実施形態のサーバ200による処理のフローチャートである。前提として、冷蔵庫100からサーバ200に送信されたデータDは、情報取得部201によって取得され、蓄積情報I11として蓄積されている。
まず、情報変換部202は、蓄積情報I11に基づき、上述した食品の品質に関する推定用入力情報を生成する(S201)。次に、推定部204は、生成した各種推定用入力情報を推定モデルKLMに入力することで、出力情報として食品の品質に関する推定結果を得る(S202)。次に、情報出力部206は、推定部204により推定された食品の品質に関する推定結果である食品品質情報を端末装置300に出力させる(S203)。
<4.10 情報のアップロード>
図14は、実施形態の情報のアップロードについて説明するための図である。図14中の時間軸上の各タイミングにサーバ200に対して通知される情報の種類を示す。
保管食品が配置されている環境は、上記のように食品の品質に影響する。
冷蔵庫100は、通電中に所定の周期で収集したデータDを記録する。上記の所定の周期は、例えば1時間である。冷蔵庫100は、収集したデータDをサーバ200に通知する。なお、冷蔵庫100は、ユーザからのフィードバックを、上記のデータDと同様の方法でサーバに通知してもよい。
さらに、以下に示すイベントが生じたタイミングに、冷蔵庫100と端末装置300は、サーバ200に情報を通知する。
(食品購入時のデータの登録)
端末装置300は、ユーザが小売店などで購入した食品について、食品の種類、賞味期限、加工日などの情報を取得する。例えば、商品を購入した際、又は冷蔵庫100に保管する際に、端末装置300は、食品のラベルなどに記載された文字、コードなどを画像処理の手法で読み取って、これに基づいて所望のデータを抽出してもよい。これに変えて、ユーザが端末装置300などを用いて、サーバ200に通知して、登録してもよい。
上記の何れかの手法で入力された情報は、サーバ200に蓄積される。サーバ200は、これらの情報に基づいた推定処理により、保管食品の賞味期限、腐敗時期などを推定してこの結果を出力する。冷蔵庫100は、この結果を受信して、ディスプレイ56に表示させてもよい。また、端末装置300は、この結果を受信して、その表示装置310に表示させてもよい。ユーザは、上記の表示を確認して、推定結果を得ることができる。
サーバ200は、食品の加工段階で食品に設定された賞味期限に基づいて、実際の食品の賞味期限や、腐敗時期を推定してもよい。例えば同じ種類の食品を2つ同時期に保存した場合、食品の加工段階で食品に設定された賞味期限が不ぞろいである場合には、加工日から経過した時間が互いに異なっていると推定できる。賞味期限が短い方の食品は、製造から日が経っているために、その分だけ賞味期限、腐敗時期がより短く推定される。
サーバ200は、食品の加工日の情報に基づいて実際の食品の賞味期限や、腐敗時期を推定してもよい。例えば2つの同じ食品を同時期に保存しても、加工日から冷蔵庫100に保存されるときまでの時間がより多く経っている場合には、その分だけ実際の食品の賞味期限、腐敗時期がより短く推定される。
(食品保存開始時点のデータの登録)
食品を保存するため又は取り出すために、ユーザは冷蔵庫100の扉を開ける。冷蔵庫100は、冷蔵庫100の扉が開かれたことを検出して、扉の開閉回数を記録して、食品の保存を開始した時点の日付を記録する。冷蔵庫100は、所定のタイミングに扉開閉回数の計数に係る情報をサーバ200に通知する。例えば、この通知に、扉の種類と、その扉が開かれたことを示す情報を含めてよい。
扉の開閉回数が比較的多いと貯蔵室内の温度(冷蔵庫温度)が高くなるため、食品の賞味期限、腐敗時期が短くなると予測される。特にドアポケットに保存する食品(卵、牛乳)は扉の開閉回数が多い場合、賞味期限が短くなると予想される。
(食品保存後)
ユーザは、冷蔵庫100の中に食品を保存した後、冷蔵庫100の扉を閉じる。冷蔵庫100は、食品が庫内に配置されたことを検出して、冷蔵庫を開けてから閉じるまでの時間から扉の開閉時間を記録して、少なくとも食品が配置された日時をサーバに通知する。冷蔵庫100は、さらに、食品を識別する情報を上記の通知に含めてもよい。
冷蔵庫100は、これに応じて、扉開閉回数に係る情報、扉の開放時間、保管を開始する食品の画像などをサーバ200に通知(食品保管開始通知)するとよい。例えば、この通知には、扉の種類と、その扉が閉じられたことを示す情報を含めてよい。
なお、冷蔵庫100は、各扉が閉じられたことを検出して、又は定期的に、カラーの庫内画像を撮影し、保管食品の色を記憶する。冷蔵庫100は、上記の庫内画像を、又は庫内画像から抽出した色の情報をサーバ200に通知する。
サーバ200は、保管食品を含む庫内画像に基づいて、定期的に保管食品の色を比較することで、保管食品の賞味期限、腐敗時期を推定してもよい。例えば鶏肉の場合、腐敗時期が近づくと、肉色が緑色を帯びてくるが、庫内画像を食品の品質の推定に用いることで、これを検出することができる。
さらに、冷蔵庫100は、急速冷蔵機能を作動させた場合に、保管食品のカラー画像を記録に残して、急速冷蔵機能の作動を示す情報をサーバ200に通知する。急速冷蔵機能によって、保管を開始した保管食品の温度を素早く下げることができ、賞味期限、腐敗時期がより長くなると推定される。
上記のように、サーバ200は、それぞれのタイミングに冷蔵庫100から通知を受け、これを記憶部207に記憶させるとともに、通知された情報を用いて食品の品質を推定するためのシミュレーションを実行する。
<4.11 情報のダウンロード>
図15は、実施形態のサーバ200が食品品質情報をユーザに通知するための処理のフローチャートである。
情報出力部206は、食品品質情報をユーザに通知可能なタイミングか否かを判定する(S2031)。通知可能なタイミングとは、端末装置300の情報処理部382が所望のアプリケーションソフトを実行しているとき、冷蔵庫100がディスプレイ56に通電して表示可能にしているとき、などである。食品品質情報をユーザに通知可能なタイミングである場合、例えば、情報出力部206は、食品品質情報の前回の通知から所定の時間が経過しているか否かを判定する(S2032)。例えば所定の時間とは、12時間以上の時間である。食品品質情報の前回の通知から所定の時間が経過している場合、情報出力部206は、予め設定された通知のタイミングであるか否かを判定する(S2033)。予め設定された通知のタイミングとは、例えば、ユーザが任意に選択したタイミング又はユーザの要求に応じて設定されたタイミングなどである。予め設定された通知のタイミングでない場合には、情報出力部206は、腐敗、賞味期限切れが検出されたか否かを判定する(S2034)。腐敗、賞味期限切れが検出された場合、又は予め設定された通知のタイミングである場合には、情報出力部206は、サーバ200が食品品質情報をユーザに通知して(S2035)、一連の処理を終える。
ユーザが認識できる。
また、情報出力部206は、食品品質情報をユーザに通知可能なタイミングでない場合と、食品品質情報の前回の通知から所定の時間が経過していない場合と、腐敗、賞味期限切れが検出されなかった場合のうちの何れかの場合には、一連の処理を終える。
ユーザが認識できる。
上記の処理により、予め設定されたタイミングと、腐敗、賞味期限切れが検出されたタイミングとに、食品品質情報をユーザに通知することができる。
(情報のアウトプット)
図16は、実施形態のサーバ200が通知する情報について説明するための図である。図16中の時間軸上の各タイミングにサーバ200が通知する情報の種類を示す。
ユーザが冷蔵庫100に食品を保存して、例えば端末装置300の操作により保存した食品の情報を、通信回線を通してサーバ200に登録させる。
その後、サーバ200は、冷蔵庫100内にある保管食品の状態を周期的に推定し、推定の結果を端末装置300、又は冷蔵庫100に通知する。例えば、端末装置300、又は冷蔵庫100は、搭載されたディスプレイ56に、通知された推定結果(例えば、食品の賞味期限又は腐敗時期)を表示させるとよい。
サーバ200は、端末装置300、又は冷蔵庫100から、食品保管を開始する冷蔵庫100から食品保管開始通知(図14)を受けると、例えば次の情報の一部又は全部を通知する。例えば、「食品の賞味期限の推定表示」、「推定腐敗時期」、「生食可能な期限」、「加熱調理の要否」、「新鮮度(みずみずしさ)」、「カビが発生するまでの推定期間」、「カビが発生するまでの推定期限」、「食品の食べごろの時期」などは、上記の食品保管開始通知に応じて通知する情報の一例である。
上記の通知のタイミングは、ユーザが指定する任意のタイミング、比較的長期間に亘って冷蔵庫100の扉が閉となっていて、その後、扉が開閉されたタイミングなどである。
サーバ200は、所定の時間が経過したことを検出すると、例えば次の情報の一部又は全部を通知する。上記の所定の時間は、例えば1時間であり、これを繰り返すとよい。
例えば、「食品腐敗の通知」、「賞味期限通知」、「においの強さ」、「においの質」、「においの発生通知」、「カビの発生の通知」、「食品の食べごろの通知」などは、上記の所定の時間ごとに通知する情報の一例である。「においの強さ」、「においの質」、「においの発生通知」などの情報は、「においの特徴」の一例である。
サーバ200は、上記の所定の時間ごとの通知の他に、日ごとに同様の情報を通知してもよい。例えば、1日の中で冷蔵庫100を最初に操作する場合、又は朝になってから冷蔵庫100を最初に操作する場合などに、上記の通知を行うとよい。これにより、ユーザは、早めに消費することが推奨された食品の有無などを認識できる。なお、フィードバックについては、後述する。
<5.作用>
なお、情報処理システム1は、情報取得部201と、推定部204とを含む。情報取得部201は、冷蔵庫100に保管された評価対象の食品を夫々識別可能な食品属性情報I3と、食品の種別を識別可能な種別識別情報I4と、食品の保管条件と保管期間に関する保管履歴情報I5と、冷蔵庫100の使用に関するデータDとを取得する。推定部204は、種別識別情報I4に係る食品の品質の状態を模擬するように構成された推定モデルKLMを用いて、食品属性情報I3により識別される評価対象の食品の保管履歴情報I5と、評価対象の食品の保管期間におけるデータDとに基づいて、評価対象の食品の品質を推定する。これにより、冷蔵庫100に保管された食品の品質を推定することができる。
なお、推定部204は、例えば、学習部203により得られた推定モデルKLMを用いて、判定対象の冷蔵庫100に保管されている評価対象の保管食品の品質を推定する。推定モデルKLMは、種別識別情報I4に係る食品の品質の状態を模擬するように構成されている。推定部204は、食品属性情報I3により識別される評価対象の食品の保管履歴情報I5と、評価対象の食品の保管期間におけるデータDとに基づいて、推定モデルKLMを用いて評価対象の保管食品の品質を推定するとよい。
これにより、推定モデルKLMは、評価対象の食品の保管に関する情報に基づいて、評価対象の食品の鮮度に関わる推定情報を生成するように形成される。なお、評価対象の食品の保管に関する情報には、種別識別情報I4と、保管履歴情報I5と、データDとが含まれていてよい。
推定部204は、推定モデルKLMを用いて、保管履歴情報I5と、データDとに基づいて、評価対象の食品の品質を推定するとよい。さらに、推定部204は、推定モデルKLMを用いて、冷蔵庫100に保管するまでの保管情報に基づいて、評価対象の食品の、冷蔵庫100に格納する段階の評価対象の食品の品質を推定して、その推定の結果に基づいて冷蔵庫100に格納する段階の評価対象の食品の品質(初期値)を決定するとよい。これについて後述する。
(第1の実施形態の変形例)
食品の品質の推定結果と、標準的な判定基準に基づいた判定の結果を提供するのでは、ユーザが要求する情報を得られない場合がある。本変形例は、このような事象に対して、ユーザの要求を満たした情報を提供するように、ユーザからの要求を受け付ける事例について説明する。
図17は、実施形態のユーザの嗜好(要求)に応じた処理の一例を説明するための図である。図18は、第1の実施形態の変形例の食品の品質を推定する構成のブロック図である。
第1の実施形態に比べて、端末装置300は、演算ブロック303をさらに備え、演算ブロック301に代えて演算ブロック301Bを備える。
演算ブロック303は、ユーザからの要望(フィードバック)を受け付けて、演算ブロック301Bの判定基準をその要望に基づいて補正する。演算ブロック301Bは、演算ブロック303により補正された判定基準に従い、将来の食品の品質の推定値に基づいて、その食品の賞味期限などを推定する。例えば、演算ブロック303は、嗜好調整部の一例である。演算ブロック303は、ユーザの嗜好に関する嗜好情報に基づいて推定モデルKLMの生成の基準を調整してよい。
これにより、ユーザの要望に応じて、食品の賞味期限に関する通知の時期を調整することができる。演算ブロック303は、ユーザからの要望を受け付けて、ユーザの嗜好に関する嗜好情報に基づいて食品の品質の推定の結果を調整するとよい。
図17に示すように、例えば、ユーザAは、「より新鮮なうちに肉を食べる。」ことを希望する。これに対して、ユーザBは、「熟成が進んだ肉を食べる。」ことを希望して、「賞味期限が切れる直前に通知が欲しい。」と欲するものとする。上記は、標準的な基準に対して異なるものであり、互いに相反する嗜好の一例である。
例えば、サーバ200が、「冷蔵庫100に保管されている肉(食品)が、あと7日で賞味期限が切れる」ことを推定したとする。この場合、上記のユーザAに対しては、この推定結果に応じて「賞味期限の7日前」に通知することが好ましく、ユーザBに対しては、この推定結果による賞味期限の1日前まで待機してから通知することが好ましい。
本実施形態のサーバ200は、上記のように個人の嗜好に応じて必要な情報の提供を可能にする。
なお、上記の通知によって示唆されたタイミングが、ユーザにとって適したものであるか否かについての見解を、サーバ200などに通知して、これをフィードバックするように構成してもよい。この場合、フィードバックで得られたユーザの嗜好情報により、次回以降の通知が修正される。この設定は、ユーザが任意に行う設定(個人設定)の項目に含めてもよい。
例えば、ユーザのフィードバックに関して、肉の賞味期限の7日前に通知されたが、通知タイミングが早すぎるという内容だった場合、通知を賞味期限の6日前に通知し、再び早いか遅いかのフィードバックを得る。
これに代わり、複数回のフィードバックの後に、ちょうどよいというフィードバックを得た場合、通知タイミングを固定する。通知タイミングを固定しても日数が経過した際に(例えば1か月後)再びフィードバックの有無をディスプレイやアプリケーションプログラムを通して、ユーザに通知する。
上記の処理により、予め設定されたタイミングと、腐敗、賞味期限切れが検出されたタイミングとに、食品品質情報をユーザに通知することができる。
(第2の実施形態)
図19Aと図19Bとを参照して、第2の実施形態の食品の品質の推定について説明する。
本実施形態のサーバ200は、推定モデルKLMの学習用に庫内カメラ65(図中の記載はCAM)によって撮像された庫内画像を利用して、保存食品の表面に生じた視覚的な変化の検出結果を、食品の判定に利用する。
図19Aは、第2の実施形態の推定モデルKLMの学習用の構成のブロック図である。
評価用冷蔵庫100Tの庫内カメラ65は、保管食品(サンプル食品)を撮像する。庫内カメラ65は、第1カメラの一例である。
制御部80は、画像処理部85をさらに備える。画像処理部85は、庫内カメラ65によって撮像された保管食品(サンプル食品)の画像に基づいて、保管食品の表面に生じた視覚的な状態の変化を検出する。画像処理部85は、第1画像処理部の一例である。
サーバ200は、第1の実施形態の演算ブロック203bに代えて演算ブロック203dを備える。
演算ブロック203dは、画像処理部85の解析結果と、上記の品質推定偏差と、学習モデルLとに基づいて、品質推定偏差がより小さくなるように演算ブロック203cにおける推定モデルKLMを学習させる。これにより、推定モデルKLMの学習を、食品の画像に基づいて実施することができる。
換言すれば、学習部203は、品質の検出の結果と、第1画像処理部によって検出された画像の変化を示す第1画像情報とを用いて推定モデルKLMの生成を制御することができる。
図19Bは、第2の実施形態の食品の品質を推定する構成のブロック図である。端末装置300は、演算ブロック302をさらに備え、演算ブロック301に代えて演算ブロック301Aを備える。庫内カメラ65は、第2カメラの一例である。
演算ブロック302は、予め定められた判定基準に従い、将来の食品の品質の推定値に基づいて、その食品の賞味期限などを推定する。ただし、演算ブロック302は、画像処理部85の解析により食品の品質の評価が、所定の品質基準よりも下回ると判定された場合には、この判定の結果を優先して、食品の賞味期限などに関するユーザ宛に通知する情報を補正して提供する。例えば、演算ブロック302により推定された食品の賞味期限に余裕があったとしても、画像処理部85の解析により食品の品質の評価が所定の品質基準よりも下回っていると判定された場合には、この判定の結果を優先して、食品が食に適さない状況にあることをユーザに通知する。上記の補正の方法は、一例であり、これに限らない。
演算ブロック301Aも、上記の演算ブロック302と同様に、画像処理部85の解析により食品の品質の評価が、所定の品質基準よりも下回ると判定された場合には、この判定の結果を優先して、食品の賞味期限などに関するユーザ宛に通知する情報を補正して提供する。
これにより、推定モデルKLMによる推定の結果よりも、食品の画像に基づいた判定の結果を優先させて、その結果をユーザ宛に通知することができる。なお、上記の画像処理部85は、第2画像処理部の一例である。
図19Cは、第2の実施形態の変形例の食品の品質を推定する構成のブロック図である。端末装置300は、演算ブロック301に代えて演算ブロック301Cを備える。
演算ブロック301Cは、演算ブロック301Bのように、演算ブロック303により補正された判定基準に従い、将来の食品の品質の推定値に基づいて、その食品の賞味期限などを推定する。ただし、上記の演算ブロック302と同様に、画像処理部85の解析により食品の品質の評価が、所定の品質基準よりも下回ると判定された場合には、この判定の結果を優先して、食品の賞味期限などに関するユーザ宛に通知する情報を補正して提供する。
なお、演算ブロック301Cは、判定部の一例である。演算ブロック301Cは、品質の検出の結果と、画像処理部85(第2画像処理部)によって検出された画像の変化を示す第2画像情報とを用いて判定の基準を調整してもよい。
これにより、ユーザの要望に応じて、食品の賞味期限に関する通知の時期を調整する場合においても、推定モデルKLMによる推定の結果よりも、食品の画像に基づいた判定の結果を優先させて、その結果をユーザ宛に通知することができる。
(第3の実施形態)
第3の実施形態の食品の品質の推定について、学習制御の条件をユーザの要望に基づいて補正する事例を示して説明する。図20は、第3の実施形態の推定モデルKLMの学習用の構成のブロック図である。
サーバ200の学習部203は、第1の実施形態に比べて演算ブロック203fを備え、さらに、演算ブロック203bに代えて演算ブロック203eを備える。
演算ブロック203fは、ユーザからの要望(フィードバック)を受け付けて、演算ブロック203eの学習制御の条件をその要望に基づいて補正する。
演算ブロック203eは、演算ブロック203bのように、上記の品質推定偏差と、学習モデルLとに基づいて、品質推定偏差がより小さくなるように演算ブロック203cにおける推定モデルKLMを学習させる。さらに、演算ブロック203eは、演算ブロック203fの補正の要求に従い、学習モデルLを補正して、補正後の学習モデルLに基づいて、推定モデルKLMを学習させる。学習の手法は、上記と同様の手法を用いることができる。
このように、本実施形態によれば、ユーザからの要望(フィードバック)を受け付けて、演算ブロック203eの学習制御の条件をその要望に基づいて補正することができる。
(第4の実施形態)
第4の実施形態の食品の品質の推定について、推定モデルKLMの入力変数に、ユーザの要望を加えて推定モデルKLMの機械学習を実施する事例を示して説明する。図21は、第4の実施形態の推定モデルKLMの学習用の構成のブロック図である。
サーバ200の学習部203は、第1の実施形態に比べて演算ブロック203hを備え、さらに、演算ブロック203cに代えて演算ブロック203gを備える。
演算ブロック203hは、ユーザからの要望(フィードバック)を受け付けて、演算ブロック203gの学習制御の条件をその要望に基づいて補正する。
演算ブロック203gは、推定モデルKLMを含み、制御目標の冷蔵庫温度Trefと、データDとに基づいて食品の品質を推定して、その推定の結果を品質推定値Qeとして出力する。なお、演算ブロック203gは、制御目標の冷蔵庫温度Trefに代えて、冷凍サイクル制御部81の出力を用いてもよい。さらに、演算ブロック203gは、演算ブロック203hの補正の要求に従い、学習モデルKLMの学習制御の条件を調整する。学習の手法は、上記と同様の手法を用いてもよく、例えば、演算ブロック203hの補正の要求を報酬として扱うことで、学習制御の条件を、ユーザの要望に応じたものに調整してもよい。これにより学習の結果が、ユーザの要望により近いものにすることができる。
このように、本実施形態によれば、ユーザからの要望(フィードバック)を受け付けて、推定モデルKLMをその要望に基づいて補正することができる。
以上説明した少なくともひとつの実施形態によれば、情報処理システムは、取得部と、推定部とを持つ。取得部は、冷蔵庫に保管された評価対象の食品を夫々識別可能な食品属性情報と、前記食品の種別を識別可能な種別識別情報と、前記食品の保管条件と保管期間に関する保管履歴情報と、前記冷蔵庫の使用に関する冷蔵庫使用履歴情報とを取得す。推定部は、前記種別識別情報に係る食品の品質の状態を模擬するように構成された食品品質モデルを用いて、前記食品属性情報により識別される前記評価対象の食品の前記保管履歴情報と、前記評価対象の食品の前記保管期間における前記冷蔵庫使用履歴情報とに基づいて、前記評価対象の食品の品質を推定することにより、冷蔵庫に保管された食品の品質を推定することができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
食品の品質を推定した結果を、端末装置300が判定して、その結果を表示装置310に表示させる事例について説明したが、その判定の処理を、サーバ200又は冷蔵庫100が実施することに制限されることはない。
1…情報処理システム、100…冷蔵庫、10…冷蔵室、11…冷蔵室扉、12…冷蔵室扉スイッチ、13…冷蔵冷却器、14…冷蔵冷却ファン、15…冷蔵冷却室、20…野菜室、21…野菜室扉、22…野菜室扉スイッチ、30…冷凍室、31…冷凍室扉、32…冷凍室扉スイッチ、33…冷凍冷却器、34…冷凍冷却ファン、35…冷凍冷却室、40…製氷室、41…製氷室扉、42…製氷室扉スイッチ、51…コンプレッサ、52…冷媒切替弁、53…ダンパ、531…冷蔵冷却ダンパ、532…冷凍冷却ダンパ、533…連通部、54…製氷皿モータ、55…給水モータ、56…ディスプレイ、57…脱臭装置、58…無線モジュール、61…冷蔵室温度センサ、62…野菜室温度センサ、63…冷凍室温度センサ、64…製氷室温度センサ、65…庫内カメラ(CAM)、67…周囲温度センサ、68…周囲湿度センサ、69…補助センサ、80…制御部、81…冷凍サイクル制御部、82…記憶部、83…情報記録部、84…情報出力部、200…サーバ、201…情報取得部、202…情報変換部、202…情報変換部、203…学習部、203…学習部、204…推定部、205…情報記録部、206…情報出力部、207…記憶部、300…端末装置、310…表示装置。

Claims (16)

  1. 冷蔵庫に保管された評価対象の食品を夫々識別可能な食品属性情報と、前記食品の種別を識別可能な種別識別情報と、前記食品の保管条件と保管期間に関する保管履歴情報と、前記冷蔵庫の使用に関する冷蔵庫使用履歴情報とを取得する取得部と、
    前記種別識別情報に係る食品の品質の状態を模擬するように構成された食品品質モデルを用いて、前記食品属性情報により識別される前記評価対象の食品の前記保管履歴情報と、前記評価対象の食品の前記保管期間における前記冷蔵庫使用履歴情報とに基づいて、前記評価対象の食品の品質を推定する推定部と、
    を備える情報処理システム。
  2. 前記種別識別情報により識別可能なサンプル食品が評価用冷蔵庫に保管され、その後、前記サンプル食品の品質が時間差をつけて検出され、前記時間差をつけて検出された前記品質の検出の結果を用いて前記食品品質モデルの生成を制御するモデル生成制御部(学習部)
    を備える請求項1に記載の情報処理システム。
  3. 前記モデル生成制御部は、
    前記種別識別情報と、前記保管履歴情報と、前記冷蔵庫使用履歴情報とを含む情報に基づいて、前記サンプル食品の品質に関わる推定情報を生成するように、前記食品品質モデルを形成する、
    請求項2に記載の情報処理システム。
  4. 前記モデル生成制御部は、
    前記サンプル食品の品質を検出する鮮度検出部によって前記検出された鮮度の情報と、前記食品品質モデルによって推定された前記サンプル食品の品質の推定情報との一致度に基づいて、前記食品品質モデルを調整する、
    請求項2に記載の情報処理システム。
  5. 前記食品品質モデルは、前記種別識別情報と、前記保管履歴情報と、前記冷蔵庫使用履歴情報とを含む前記評価対象の食品の保管に関する情報に基づいて、前記評価対象の食品の鮮度に関わる推定情報を生成するように形成される、
    請求項1に記載の情報処理システム。
  6. 前記推定部は、
    前記食品品質モデルを用いて、前記保管履歴情報と、前記冷蔵庫使用履歴情報とに基づいて、前記評価対象の食品の品質を推定する、
    請求項1に記載の情報処理システム。
  7. 前記推定部は、
    前記食品品質モデルを用いて、前記冷蔵庫外の保管情報に基づいて、前記評価対象の食品の、前記冷蔵庫に格納する段階の前記評価対象の食品の品質を推定して、前記推定の結果に基づいて前記冷蔵庫に格納する段階の前記評価対象の食品の品質の初期値を決定する、
    請求項6に記載の情報処理システム。
  8. 前記冷蔵庫使用履歴情報に基づいて、前記保管期間を延長して前記評価対象の食品を前記冷蔵庫に保管するときの前記冷蔵庫内の保管環境を推定する保管環境推定部
    を備え、
    前記推定部は、
    前記冷蔵庫における前記評価対象の食品の保管を継続した場合の将来の前記評価対象の食品の品質を、前記食品品質モデルを用いて、前記推定された保管環境に関する保管環境推定情報に基づいて推定する、
    請求項6に記載の情報処理システム。
  9. ユーザの嗜好に関する嗜好情報に基づいて前記推定の結果を調整する嗜好調整部
    を備え、
    前記取得部は、
    ユーザの要求に基づいた前記嗜好情報(フィードバック)を受け付ける、
    請求項1に記載の情報処理システム。
  10. ユーザの嗜好に関する嗜好情報に基づいて前記食品品質モデルの生成の基準を調整する嗜好調整部
    を備え、
    前記取得部は、
    ユーザの要求に基づいた前記嗜好情報(フィードバック)を受け付ける、
    請求項1に記載の情報処理システム。
  11. 前記サンプル食品の画像を撮像する第1カメラと、
    前記第1カメラによって撮像された前記サンプル食品の画像を検出する第1画像処理部と、
    を備え、
    前記モデル生成制御部は、
    前記品質の検出の結果と、前記第1画像処理部によって前記検出された画像の変化を示す第1画像情報とを用いて前記食品品質モデルの生成を制御する、
    請求項2に記載の情報処理システム。
  12. 前記評価対象の食品の画像を撮像する第2カメラと、
    前記第2カメラによって撮像された前記評価対象の食品の画像を検出する第2画像処理部と、
    前記評価対象の食品の品質の推定の結果が、所定の条件を満たすか否かを判定する判定部と
    を備え、
    前記判定部は、
    前記品質の検出の結果と、前記第2画像処理部によって前記検出された画像の変化を示す第2画像情報とを用いて前記判定の基準を調整する、
    請求項1に記載の情報処理システム。
  13. 前記食品品質モデルは、前記食品の品質を模擬するように機械学習の手法によって形成される、
    請求項1に記載の情報処理システム。
  14. 前記評価対象の食品を保管する冷蔵庫は、前記食品を保管する貯蔵室と、前記貯蔵室に設けられた開口部を閉塞し前記食品の出し入れの際に開かれる扉とを備えていて、
    前記冷蔵庫使用履歴情報には、少なくとも前記扉の開閉に関する情報が含まれる、
    請求項1に記載の情報処理システム。
  15. 前記扉の開閉に関する情報には、前記扉を開けた回数(開閉回数)を示す情報と、前記扉を開いていた時間(開閉時間)を示す情報との何れかの情報が含まれる、
    請求項14に記載の情報処理システム。
  16. コンピュータに、
    冷蔵庫に保管された評価対象の食品を夫々識別可能な個体識別情報と、前記食品の種別を識別可能な種別識別情報と、前記食品の保管期間に関する保管履歴情報と、前記冷蔵庫の使用に関する冷蔵庫使用履歴情報とを取得させて、
    前記種別識別情報に係る食品の品質の状態を模擬するように構成された食品品質モデルを用いて、前記個体識別情報により識別される前記評価対象の食品の前記保管履歴情報と、前記評価対象の食品の前記保管期間における前記冷蔵庫使用履歴情報とに基づいて、前記評価対象の食品の品質を推定させるステップ
    を含む品質推定方法。
JP2020173286A 2020-10-14 2020-10-14 情報処理システム、及び品質推定方法 Pending JP2022064576A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020173286A JP2022064576A (ja) 2020-10-14 2020-10-14 情報処理システム、及び品質推定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020173286A JP2022064576A (ja) 2020-10-14 2020-10-14 情報処理システム、及び品質推定方法

Publications (1)

Publication Number Publication Date
JP2022064576A true JP2022064576A (ja) 2022-04-26

Family

ID=81385934

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020173286A Pending JP2022064576A (ja) 2020-10-14 2020-10-14 情報処理システム、及び品質推定方法

Country Status (1)

Country Link
JP (1) JP2022064576A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024057563A1 (ja) * 2022-09-14 2024-03-21 日立グローバルライフソリューションズ株式会社 食材管理システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024057563A1 (ja) * 2022-09-14 2024-03-21 日立グローバルライフソリューションズ株式会社 食材管理システム

Similar Documents

Publication Publication Date Title
Papadopoulou et al. Sensory and microbiological quality assessment of beef fillets using a portable electronic nose in tandem with support vector machine analysis
Loisel et al. Cold chain break detection and analysis: Can machine learning help?
WO2020125456A1 (zh) 一种食物监控方法、冰箱及具有存储功能的装置
JP5316676B2 (ja) 冷蔵庫
EP1943472A1 (en) A refrigerator
Brown et al. Reducing domestic food waste by lowering home refrigerator temperatures
Koutsoumanis et al. Meat safety, refrigerated storage and transport: modeling and management
JP2022064576A (ja) 情報処理システム、及び品質推定方法
CN115335835A (zh) 学习装置、生鲜品的收纳装置和程序
de la Cruz Quiroz et al. Residential refrigerator performance based on microbial indicators of ground beef preservation assessed using predictive microbiology tools
de la Cruz Quiroz et al. Food preservation performance of residential refrigerators: Pasteurized milk and ground beef as animal food models
Hadawey et al. Unwrapped food product display shelf life assessment
Ahmad et al. Application of support vector classification algorithms for the prediction of quality level of frozen shrimps (Litopenaeus vannamei) suitable for sensor-based time-temperature monitoring
CN115014025B (zh) 一种深冻模式下的菌落监测方法、装置及冰箱
CN113932558B (zh) 冰箱内食材保质期的确定方法
CN111059863A (zh) 食品管理方法、装置、设备和储藏设备
US20230168027A1 (en) Control system and control method of refrigeration environment in closed space based on computer vision
KR101884815B1 (ko) 냉각 장치 및 그 제어 방법
Geczi et al. Cold chain interruption by consumers significantly reduces shelf life of vacuum-packed pork ham slices
CN112413991A (zh) 一种冰箱食物存储温度控制方法及冰箱
CN112964019A (zh) 一种食品保鲜控制方法、装置及冰箱
Giannakourou et al. Reaction kinetics
Cai Control of refrigeration systems for trade-off between energy consumption and food quality loss
CN115507596B (zh) 冷藏冷冻装置及其控制方法
CN117606177A (zh) 冰箱参数控制方法、装置、智能冰箱及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230601

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240305

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240430