JP2024058085A - 物品管理システム、物品管理システムの制御方法、物品管理装置、及びプログラム - Google Patents

物品管理システム、物品管理システムの制御方法、物品管理装置、及びプログラム Download PDF

Info

Publication number
JP2024058085A
JP2024058085A JP2022165226A JP2022165226A JP2024058085A JP 2024058085 A JP2024058085 A JP 2024058085A JP 2022165226 A JP2022165226 A JP 2022165226A JP 2022165226 A JP2022165226 A JP 2022165226A JP 2024058085 A JP2024058085 A JP 2024058085A
Authority
JP
Japan
Prior art keywords
item
management
unit
items
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022165226A
Other languages
English (en)
Inventor
愼一 堀井
ザリナ ラフィー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2022165226A priority Critical patent/JP2024058085A/ja
Publication of JP2024058085A publication Critical patent/JP2024058085A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Cold Air Circulating Systems And Constructional Details In Refrigerators (AREA)

Abstract

【課題】貯蔵庫に収容される物品を精度良く管理できる物品管理システム、物品管理システムの制御方法、物品管理装置、及びプログラムを提供する。【解決手段】物品管理システムは、貯蔵庫に収容される物品を管理する物品管理システムであって、前記貯蔵庫の収容ケースを撮影するカメラの撮影画像から前記物品を認識する認識部と、前記認識部が認識した前記物品ごとに、前記物品が収容される前記収容ケースのエリアと、前記物品に関する物品関連情報とを対応付けて前記物品を管理する管理部と、を備え、前記管理部は、管理中の前記物品と、前記認識部が新たな前記撮影画像から認識した新規認識物品とが、同じ前記エリアに属し且つ同種の前記物品である場合、前記新規認識物品が管理中の前記物品であるとして、管理中の前記物品の前記物品関連情報を前記新規認識物品に引き継がせる。【選択図】図5

Description

本開示は、物品管理システム、物品管理システムの制御方法、物品管理装置、及びプログラムに関する。
特許文献1は、冷蔵庫の上部にカメラを設け、冷蔵庫の開口部を通過する物体を検出した際に撮影を実行し、撮影結果に基づいて冷蔵庫に収容される食品を管理する技術を開示する。
特開2019-070476号公報
本開示は、貯蔵庫に収容される物品を精度良く管理できる物品管理システム、物品管理システムの制御方法、物品管理装置、及びプログラムを提供する。
本開示における物品管理システムは、貯蔵庫に収容される物品を管理する物品管理システムであって、前記貯蔵庫の収容ケースを撮影するカメラの撮影画像から前記物品を認識する認識部と、前記認識部が認識した前記物品ごとに、前記物品が収容される前記収容ケースのエリアと、前記物品に関する物品関連情報とを対応付けて前記物品を管理する管理部と、を備え、前記管理部は、管理中の前記物品と、前記認識部が新たな前記撮影画像から認識した新規認識物品とが、同じ前記エリアに属し且つ同種の前記物品である場合、前記新規認識物品が管理中の前記物品であるとして、管理中の前記物品の前記物品関連情報を前記新規認識物品に引き継がせる。
また、本開示における物品管理システムの制御方法は、貯蔵庫に収容される物品を管理する物品管理システムの制御方法であって、前記貯蔵庫の収容ケースを撮影するカメラの撮影画像から前記物品を認識し、認識した前記物品ごとに、前記物品が収容される前記収容ケースのエリアと、前記物品に関する物品関連情報とを対応付けて前記物品を管理し、前記物品の管理においては、管理中の前記物品と、新たな前記撮影画像から認識された新規認識物品とが、同じ前記エリアに属し且つ同種の前記物品である場合、前記新規認識物品が管理中の前記物品であるとして、管理中の前記物品の前記物品関連情報を前記新規認識物品に引き継がせる。
また、本開示における物品管理装置は、貯蔵庫に収容される物品を管理する物品管理装置であって、前記貯蔵庫の収容ケースを撮影するカメラの撮影画像から前記物品を認識する認識部と、前記認識部が認識した前記物品ごとに、前記物品が収容される前記収容ケースのエリアと、前記物品に関する物品関連情報とを対応付けて前記物品を管理する管理部と、を備え、前記管理部は、管理中の前記物品と、前記認識部が新たな前記撮影画像から認識した新規認識物品とが、同じ前記エリアに属し且つ同種の前記物品である場合、前記新規認識物品が管理中の前記物品であるとして、管理中の前記物品の前記物品関連情報を前記新規認識物品に引き継がせる。
また、本開示におけるプログラムは、貯蔵庫に収容される物品を管理する物品管理装置のプロセッサを、前記貯蔵庫の収容ケースを撮影するカメラの撮影画像から前記物品を認識する認識部と、前記認識部が認識した前記物品ごとに、前記物品が収容される前記収容ケースのエリアと、前記物品に関する物品関連情報とを対応付けて前記物品を管理する管理部と、して機能させ、前記管理部は、管理中の前記物品と、前記認識部が新たな前記撮影画像から認識した新規認識物品とが、同じ前記エリアに属し且つ同種の前記物品である場合、前記新規認識物品が管理中の前記物品であるとして、管理中の前記物品の前記物品関連情報を前記新規認識物品に引き継がせる。
本開示における物品管理システム、物品管理システムの制御方法、物品管理装置、及びプログラムは、管理中の物品と新規認識物品とが同じエリアに属し且つ同種の物品である場合、新規認識物品を管理中の物品として管理できる。よって、貯蔵庫に収容される物品を精度良く管理できる。
実施の形態1における物品管理システムの構成を示す図 実施の形態1における冷蔵庫及び撮影装置を前方から見た平面図 実施の形態1における冷蔵庫及び撮影装置を右方から見た平面図 実施の形態1における撮影装置の構成を示すブロック図 実施の形態1における端末装置及び物品管理サーバの構成を示すブロック図 実施の形態1における物品管理DBが格納する1件のレコードの一例を示す図 実施の形態1における管理外DBの一例を示す図 実施の形態1における撮影装置の動作を示すフローチャート 実施の形態1における撮影装置、及び物品管理データの動作を示すフローチャート 実施の形態1における生成処理における撮影装置の動作を示すフローチャート 実施の形態1におけるエリア判定を説明するための図 実施の形態1における管理処理における物品管理サーバの動作を示すフローチャート 実施の形態1における管理部の管理を具体的に説明するための図 実施の形態1における端末装置、及び物品管理サーバの動作を示すフローチャート 実施の形態1における野菜室画面の一例を示す図 実施の形態1における詳細画面の一例を示す図 実施の形態2における物品管理システムの構成を示す図 実施の形態2における冷蔵庫の構成を示すブロック図
(本開示の基礎となった知見等)
発明者らが本開示に想到するに至った当時、冷蔵庫の開口部を通過する物体を検出した際に撮影を実行し、撮影結果に基づいて冷蔵庫に収容される食品を管理するという技術があった。しかしながら、従来の技術では、貯蔵庫内で物品の収容位置が変わった場合、収容位置が変わった物品を新規に入庫された物品として管理し得る。そのため、従来の技術では、例えば貯蔵庫内で転がったなどで物品の収容位置が少しだけ変わった場合でも、収容位置が変わった物品を新規で入庫された物品として管理してしまう可能性があり、物品の管理精度の向上に改善の余地があると言う課題を発明者らは発見し、その課題を解決するために、本開示の主題を構成するに至った。
そこで、本開示は、貯蔵庫に収容される物品を精度良く管理できる物品管理システム、物品管理システムの制御方法、物品管理装置、及びプログラムを提供する。
以下、図面を参照しながら実施の形態を詳細に説明する。但し、必要以上に詳細な説明を省略する場合がある。例えば、既によく知られた事項の詳細説明、または、実質的に同一の構成に対する重複説明を省略する場合がある。
なお、添付図面および以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することを意図していない。
(実施の形態1)
[1-1.構成]
[1-1-1.物品管理システムの構成]
図1は、実施の形態1における物品管理システム1の構成を示す図である。
物品管理システム1は、冷蔵庫2に収容される物品を管理するシステムである。本実施形態の物品は、食品である。本実施の形態の物品管理システム1は、物品の名称(以下、「物品名」という)や、物品が冷蔵庫2に収容開始された日時(以下、「収容開始日時」という)、物品の画像(以下、「物品画像」といい「FG」の符号を付す)などを管理する。本実施の形態では、物品管理システム1が野菜室25に収容される物品を管理する場合を例示する。
冷蔵庫2は、本開示の「貯蔵庫」に相当する。
物品管理システム1は、冷蔵庫2を備える。
冷蔵庫2は、前面が開口した主箱体20を備える。主箱体20には、冷蔵室21、製氷室22、新鮮凍結室23、冷凍室24、及び野菜室25が形成されている。これらの収容室は、冷気で冷却されている。冷蔵室21の前面の開口部201には、回転式のドア21Aが設置されている。ドア21Aは、回転式の右ドア21Bと回転式の左ドア21Cとを含む。製氷室22、新鮮凍結室23、冷凍室24、及び野菜室25の各々には、物品を収容可能な引出22A、23A、24A、25Aがそれぞれ設置されている。引出22A~25Aの各々は、設置状態において上面が開口している。本実施の形態の引出25Aには、収容ケースCAが設けられている。
以下、引出22A、23A、24A、25Aを区別せずに総称する場合、「26A」の符号を付して、「引出26A」と表現する。
物品管理システム1は、撮影装置3を備える。撮影装置3は、冷蔵庫2の主箱体20の天面20Aに設けられ、冷蔵庫2を撮影する。
物品管理システム1は、端末装置4を備える。端末装置4は、スマートフォンなどの携帯型のコンピュータである。端末装置4は、冷蔵庫2が収容する物品の管理に係わるアプリケーションプログラムがインストールされており、このアプリケーションプログラムの機能によって物品管理サーバ5と通信する。
以下の説明では、このアプリケーションプログラムを、「物品管理アプリ」といい「411」の符号を付す。
物品管理サーバ5は、本開示の「物品管理装置」に相当する。
図1では、在宅するユーザPを実線で示し、自宅Hから外出したユーザPを点線で示している。端末装置4は、在宅するユーザPに使用される場合、通信装置6を介して、或いは通信装置6を介さずに、物品管理サーバ5と通信する。また、端末装置4は、自宅Hから外出したユーザPに使用され、且つ、通信装置6と通信接続を確立できない場合、通信装置6を介すことなく物品管理サーバ5と通信する。
通信装置6は、公衆回線網などで構成されたネットワークNWに接続し、ネットワークNWを介して物品管理サーバ5と通信する。通信装置6は、冷蔵庫2、撮影装置3、及び端末装置4をネットワークNWに接続するためのインターフェイス装置として機能する。通信装置6は、自宅Hにローカルネットワークを構築する。
物品管理システム1は、物品管理サーバ5を備える。物品管理サーバ5は、冷蔵庫2が収容する物品を管理する装置である。物品管理サーバ5は、ネットワークNWに接続する。なお、各図では、物品管理サーバ5を、1つのブロックによって表現するが、これは必ずしも物品管理サーバ5が単一の装置により構成されることを意味していない。
[1-1-2.撮影装置の構成]
図2-図4を参照して撮影装置3について説明する。
図2-図3では、X軸、Y軸、及びZ軸を図示している。X軸、Y軸、及びZ軸は互いに直交する。Z軸は、上下方向を示す。X軸及びY軸は、水平方向と平行である。X軸は左右方向を示し、また、冷蔵庫2及び撮影装置3の幅方向を示す。Y軸は前後方向を示し、また、冷蔵庫2及び撮影装置3の奥行き方向を示す。X軸の正方向は右方向を示す。Y軸の正方向は前方向を示す。Z軸の正方向は上方向を示す。
図2は、冷蔵庫2と冷蔵庫2に取り付けられた撮影装置3とを前方からみた平面図である。図2に示す冷蔵庫2は、ドア21Aが開状態である。図3は、冷蔵庫2と冷蔵庫2に取り付けられた撮影装置3とを右方からみた平面図である。図3に示す冷蔵庫2は、引出25Aが、開状態、すなわち引き出された状態である。
撮影装置3は、本体30と、本体30から前方に延在する撮影部材31とを備える。撮影装置3は、広角カメラ301及び狭角カメラ302を備える。広角カメラ301及び狭角カメラ302は、撮影部材31の底面31Aの前端部に設置される。広角カメラ301及び狭角カメラ302は、撮影装置3が冷蔵庫2に取り付けられた状態であって且つドア21Aが閉状態である場合に、ドア21Aの前方に位置する。
狭角カメラ302は、本開示の「カメラ」に相当する。
広角カメラ301は、狭角カメラ302より広角のカメラである。広角カメラ301は、撮影装置3が冷蔵庫2に取り付けられた状態において、冷蔵庫2の前上方から冷蔵室21を撮影する。
例えば、広角カメラ301の撮影範囲は、冷蔵庫2の前方からみて、図2に示す範囲A1を含む。範囲A1は、右ドア21B及び左ドア21Cが最大開度で開状態である場合に、右ドア21B及び左ドア21Cのドアポケット21E、及び冷蔵室21の開口部201を含む範囲である。また、広角カメラ301の撮影範囲は、冷蔵庫2の右方からみて、図3に示す範囲A3を含む。範囲A3は、前後方向において、開状態の右ドア21B及び左ドア21Cの前端部から棚21Fの前端部までを含む範囲であり、且つ、上下方向において、冷蔵室21の開口部201を含む範囲である。
狭角カメラ302は、広角カメラ301より狭角のカメラである。狭角カメラ302は、撮影装置3が冷蔵庫2に取り付けられた状態において、冷蔵庫2の前上方から引出26Aを撮影する。
例えば、狭角カメラ302の撮影範囲は、冷蔵庫2の前方からみて、図2に示す範囲A2を含む。範囲A2は、冷蔵庫2の前方からみて、引出26Aを含む範囲である。また、例えば、狭角カメラ302の撮影範囲は、冷蔵庫2の右方からみて、図3に示す範囲A4を含む。範囲A4は、前後方向において、最も引き出された状態の引出26Aを含む範囲である。
撮影装置3は、第1フォトセンサ303、及び第2フォトセンサ304を備える。第1フォトセンサ303、及び第2フォトセンサ304は、本体30に設置される。
第1フォトセンサ303は、右ドア21Bの開閉を検知するためのセンサである。第1フォトセンサ303は、反射型のフォトセンサである。第1フォトセンサ303は、撮影装置3が冷蔵庫2に取り付けられた状態において、右ドア21Bの所定箇所に投光する。そして、第1フォトセンサ303は、受光量を示す信号を出力する。
第2フォトセンサ304は、左ドア21Cの開閉を検知するためのセンサである。第2フォトセンサ304は、反射型のフォトセンサである。第2フォトセンサ304は、撮影装置3が冷蔵庫2に取り付けられた状態において、左ドア21Cの所定箇所に投光する。そして、第2フォトセンサ304は、受光量を示す検出値を出力する。
撮影装置3は、サーモパイル305を備える。サーモパイル305は、引出26Aの開閉を検知するためのセンサである。サーモパイル305は、撮影部材31の底面31Aの前端部に設置される。サーモパイル305は、検出した温度を示す検出値を出力する。
撮影装置3は、人感センサ306を備える。人感センサ306は、赤外線式のセンサでも超音波式のセンサでもよい。人感センサ306は、検出値を出力する。人感センサ306は、撮影部材31の底面31Aの前端部に設置される。
撮影装置3は、照度センサ307を備える。照度センサ307は、広角カメラ301及び狭角カメラ302の露出を調整するためのセンサである。照度センサ307は、検出値を出力する。照度センサ307は、撮影部材31の前端部に設置される。
撮影装置3は、第1LED308、及び第2LED309を備える。第1LED308は、撮影部材31の底面31Aの右前端部に設置される。第2LED309は、撮影部材31の底面31Aの左前端部に設置される。第1LED308、及び第2LED309は、撮影装置3が取り付けられた冷蔵庫2を上方から照らす。
図4は、撮影装置3の構成を示すブロック図である。
図4に示すように、撮影装置3は、第1制御基板311を備える。第1制御基板311は、撮影装置3が具備する各種センサ、及び撮影装置3の電源を制御する基板である。第1制御基板311は、撮影装置3の内部に設置される。第1制御基板311には、第1フォトセンサ303、第2フォトセンサ304、サーモパイル305、人感センサ306、照度センサ307、第1LED308、及び第2LED309が接続する。そして、第1制御基板311は、これらデバイスを制御する。
第1制御基板311は、CPU(Central Processing Unit)などの第1プロセッサ320、第1メモリ330、第1通信モジュール340、及び他の装置やセンサ類が接続されるインターフェイス回路を備える。
第1メモリ330は、第1プロセッサ320が実行するプログラムやデータを記憶する記憶装置である。第1メモリ330は、例えばROM(Read Only Memory)などの不揮発性の記憶装置により構成される。第1メモリ330は、例えばRAM(Random Access Memory)などの、第1プロセッサ320のワークエリアを構成する揮発性の記憶装置を含んでもよい。第1メモリ330は、第1プロセッサ320により処理されるデータや、第1プロセッサ320が実行する制御プログラム331を記憶する。
第1通信モジュール340は、所定の有線通信規格に従った通信回路やコネクタなどのハードウェアを備え、第1プロセッサ320の制御に従って第2制御基板312と通信する。
第1プロセッサ320は、制御プログラム331を読み出して実行することにより、図示せぬ電源ボタンの操作に応じて、撮影装置3の電源のオンオフを行う。
また、第1プロセッサ320は、制御プログラム331を読み出して実行することにより、第1LED308、及び第2LED309の点灯及び消灯を行う。
また、第1プロセッサ320は、制御プログラム331を読み出して実行することにより、第1制御基板311に接続する各センサが出力した検出値を、第1通信モジュール340を介して第2制御基板312に送信する。
図4に示すように、撮影装置3は、第2制御基板312を備える。第2制御基板312は、広角カメラ301と狭角カメラ302を制御し、また、第1無線通信モジュール313を制御する基板である。第2制御基板312には、広角カメラ301、狭角カメラ302、及び第1無線通信モジュール313が接続する。
第2制御基板312は、CPUなどの第2プロセッサ350、第2メモリ360、第2通信モジュール370、及び他の装置やセンサ類が接続されるインターフェイス回路を備える。
第2メモリ360は、第2プロセッサ350が実行するプログラムやデータを記憶する記憶装置である。第2メモリ360は、例えばROMなどの不揮発性の記憶装置により構成される。また、第2メモリ360は、例えばRAMなどの、第2プロセッサ350のワークエリアを構成する揮発性の記憶装置を含んでもよい。第2メモリ360は、第2プロセッサ350により処理されるデータや、第2プロセッサ350が実行する制御プログラム361や撮影装置ID(Identification)362を記憶する。
撮影装置ID362は、撮影装置3を一意に特定する情報である。
第2通信モジュール370は、所定の有線通信規格に従った通信回路やコネクタなどのハードウェアを備え、第2プロセッサ350の制御に従って第1制御基板311と通信する。
第2プロセッサ350は、第2メモリ360に記憶された制御プログラム361を読み出して実行することにより、第1通信制御部351、第2通信制御部352、開閉判定部353、撮影制御部354、録画制御部355、及び生成部356として機能する。
生成部356は、本開示の「切出部」及び「分割部」に相当する。
第1通信制御部351は、第1無線通信モジュール313を介して、物品管理サーバ5と通信する。
第2通信制御部352は、第2通信モジュール370を介して、第1制御基板311と通信する。第2通信制御部352は、第1制御基板311に接続される各種センサの検出値を第1制御基板311から受信する。
開閉判定部353は、第2通信制御部352が受信する第1フォトセンサ303の検出値に基づいて、右ドア21Bが開状態か閉状態かを判定する。開閉判定部353は、閉状態に対応する検出値と異なる検出値を、第2通信制御部352が受信した場合、右ドア21Bが開状態であると判定する。一方、開閉判定部353は、閉状態に対応する検出値を第2通信制御部352が受信した場合、右ドア21Bが閉状態であると判定する。
開閉判定部353は、右ドア21Bについての判定と同様に、第2通信制御部352が第2フォトセンサ304の検出値に基づいて、左ドア21Cが開状態か閉状態かを判定する。
開閉判定部353は、第2通信制御部352が受信するサーモパイル305の検出値に基づいて、引出26Aが開状態か閉状態かを判定する。開閉判定部353は、所定温度以下の温度を示すサーモパイル305の検出値を、第2通信制御部352が受信した場合、引出26Aが開状態であると判定する。一方、開閉判定部353は、所定温度を上回る温度を示すサーモパイル305の検出値を第2通信制御部352が受信した場合、引出26Aが閉状態であると判定する。
撮影制御部354は、ドア21A又は引出26Aが開状態になったと開閉判定部353が判定した場合、広角カメラ301及び狭角カメラ302に撮影を開始させる。なお、第2通信制御部352は、撮影制御部354が広角カメラ301及び狭角カメラ302に撮影を開始させると、第1制御基板311に点灯要求情報を送信する。点灯要求情報は、第1LED308及び第2LED309の点灯を要求する情報である。第1プロセッサ320は、点灯要求情報を受信すると、第1LED308及び第2LED309を点灯させ、撮影を開始したことをユーザPに通知する。
撮影制御部354は、ドア21A及び引出26Aが閉状態になったと開閉判定部353が判定した場合、広角カメラ301及び狭角カメラ302に撮影を終了させる。なお、第2通信制御部352は、撮影制御部354が広角カメラ301及び狭角カメラ302に撮影を終了させると、第1制御基板311に消灯要求情報を送信する。消灯要求情報は、第1LED308及び第2LED309の消灯を要求する情報である。第1プロセッサ320は、消灯要求情報を受信すると、第1LED308及び第2LED309を消灯させ、撮影を終了したことをユーザPに通知する。
録画制御部355は、ドア21A又は引出26Aが開状態になったと開閉判定部353が判定した場合、広角カメラ301及び狭角カメラ302の撮影結果の録画を開始する。すなわち、録画制御部355は、第2メモリ360に対して、広角カメラ301の撮影結果を示す第1録画データ363と、狭角カメラ302の撮影結果を示す第2録画データ364との記録を開始する。第1録画データ363と第2録画データ364とは、動画像のデータである。
録画制御部355は、ドア21A及び引出26Aが閉状態になったと開閉判定部353が判定した場合、広角カメラ301及び狭角カメラ302の撮影結果の録画を終了する。
生成部356は、管理用データD1を生成する。管理用データD1は、物品管理サーバ5に送信されるデータである。第1通信制御部351は、生成部356が生成した管理用データD1を物品管理サーバ5に送信する。
[1-1-3.物品管理サーバの構成]
図5は、端末装置4及び物品管理サーバ5の構成を示すブロック図である。
物品管理サーバ5は、CPUなどのプロセッサであるサーバプロセッサ50、サーバメモリ51、及びサーバ通信モジュール52を備える。サーバプロセッサ50には、サーバメモリ51及びサーバ通信モジュール52が接続される。
サーバメモリ51は、サーバプロセッサ50が実行するプログラムやデータを記憶する記憶装置である。サーバメモリ51は、不揮発性の記憶装置により構成される。また、サーバメモリ51は、サーバプロセッサ50のワークエリアを構成する不揮発性の記憶装置を含んでもよい。サーバメモリ51は、サーバプロセッサ50により処理されるデータや、サーバプロセッサ50が実行する制御プログラム511、物品管理DB(database)512、及び管理外DB513を記憶する。
物品管理DB512は、収容ケースCAに収容される物品を管理するデータベースである。
管理外DB513は、管理から外れた物品に係わるデータベースである。
図6は、物品管理DB512が格納する1件のレコードRAの一例を示す図である。
図6に示すように、レコードRAは、ユーザID5121、撮影装置ID362、収容ケース画像データ5122、及びサブレコードSRを有する。
ユーザID5121は、物品管理アプリ411のユーザを一意に特定する情報である。
収容ケース画像データ5122は、収容ケースCAの画像である収容ケース画像CAGの画像データである。なお、収容ケース画像CAGは、収容ケースCAの開口の上方から収容ケースCAを写した画像である。
1件のレコードRAは、1又は複数のサブレコードSRを有する。
サブレコードSRは、エリア情報5123、物品画像データ5124、及び物品関連情報5125を有する。これら情報及びデータは、サブレコードSRにおいて対応付けられている。
エリア情報5123は、物品が収容されているエリアARを示す情報である。エリアARの詳細については後述する。
物品画像データ5124は、物品画像FGの画像データである。
物品関連情報5125は、収容開始日時情報5126、物品名情報5127、第1ID5128、第2ID5129、及びメモ情報5130を有する。
収容開始日時情報5126は、収容開始日時を示す情報である。
物品名情報5127は、物品名を示す情報である。
第1ID5128は、物品を一意に特定する情報である。第1ID5128は、後述の認識部502が認識した物品が何であるかを物品管理サーバ5が保持するためのIDである。
第2ID5129は、物品を一意に特定する情報である。第2ID5129は、認識部502の誤認識を得るための情報でもある。このことについては後述する。
メモ情報5130は、ユーザPが入力したメモを示す情報である。ユーザPがメモを入力していない場合、メモ情報5130は、ブランクを示す。図6では、ブランクを「-」で示している。
図7は、管理外DB513の一例を示す図である。図7に示すように、管理外DB513は、サブレコードSRを格納する。管理外DB513が格納するサブレコードSRは、管理から外された物品のサブレコードSRである。管理外DB513に格納されたサブレコードSRは、管理外SB513に格納されたときから所定期間(例えば、3日間)が経過すると、管理外DB513から消去されてもよい。なお、管理外DB513から消去する際に用いる管理外DB513に格納されたときからの所定期間は、後述する物品関連情報5125を引き継がせる際に用いる管理から外した物品の管理からはずした日時からの所定期間よりも長いことが好ましい。これによれば、管理外DB513の物品関連情報5125を引き継がせる前に管理外DB513から消去されることを抑制できる。
図5の説明に戻り、サーバ通信モジュール52は、所定の通信規格に従った通信回路やコネクタなどを備え、ネットワークNWを介して冷蔵庫2、撮影装置3、及び端末装置4と通信する。
サーバプロセッサ50は、サーバメモリ51が記憶する制御プログラム511を読み出して実行することにより、サーバ通信制御部501、認識部502、及び管理部503として機能する。
サーバ通信制御部501は、サーバ通信モジュール52を介して冷蔵庫2、撮影装置3、及び端末装置4と通信する。
認識部502は、収容ケースCAに収容された物品を認識する。認識部502は、物品画像FGに基づいて物品を認識する。物品認識に必要なデータは、サーバメモリ51などの所定の記憶領域に記憶されている。
本実施の形態において、物品の認識は、物品名情報5127、第1ID5128、及び第2ID5129を取得することを示すとする。
例えば、認識部502は、以下のように物品の認識を行う。
認識部502は、認識対象の物品画像FGと最も一致度の高い物品画像FGを示す物品画像データ5124を、所定のデータベースから特定する。この所定のデータベースは、物品ごとに、物品画像データ5124、物品名情報5127、第1ID5128、及び第2ID5129が格納されたデータベースである。この所定のデータベースは、物品管理サーバ5が記憶してもよく、物品管理サーバ5と通信可能な別のサーバが記憶していてもよい。なお、一致度は、例えば形状や色等の特徴量に基づいて判断される。認識部502は、特定した物品画像データ5124に紐付く物品名情報5127、第1ID5128、及び第2ID5129を所定のデータベースから取得する。
なお、認識部502は、AI(Artificial Intelligence)によって物品を認識してもよい。例えば教師用の物品画像FGから物品の色や形状等の特徴量を学習する機械学習処理を行い、学習済みモデルを構築しておく。この学習済みモデルは、サーバメモリ51などの所定の記憶領域に記憶させておく。認識部502は、認識対象の物品画像データ5124を入力データとして学習済みモデルを参照し、学習済みモデルから物品名情報5127、第1ID5128、及び第2ID5129を取得する。ここで、この学習済みモデルがネットワークNWに接続する物品管理サーバ5以外の機器に記憶させ、物品管理サーバ5と当該機器とが通信することによって物品の認識が行われる構成でもよい。
管理部503は、収容ケースCAに収容される物品を管理する。管理部503は、物品管理DB512のレコードRAの内容変更などを行うことで、物品を管理する。また、管理部503は、物品管理DB512のサブレコードSRを管理外DB513に格納することで、物品を管理から外す。
[1-1-4.端末装置の構成]
次に、端末装置4の構成について説明する。
端末装置4は、CPUなどのプロセッサである端末プロセッサ40、端末メモリ41、端末通信モジュール42、及びタッチパネル43を備える。
端末メモリ41は、端末プロセッサ40が実行するプログラムやデータを不揮発的に記憶する記憶装置である。端末メモリ41は、不揮発性記憶装置により構成される。また、端末メモリ41は、端末プロセッサ40のワークエリアを構成するRAMを含んでもよい。端末メモリ41は、端末プロセッサ40により処理されるデータや、端末プロセッサ40が実行する制御プログラム、物品管理アプリ411を記憶する。
端末通信モジュール42は、所定の通信規格に従った通信回路やコネクタなどを備え、端末プロセッサ40の制御に従って物品管理サーバ5と通信する。
タッチパネル43は、表示パネルと、表示パネルに重ねて或いは一体に設けられたタッチセンサとを備える。
端末プロセッサ40は、アプリ実行部400として機能する。
アプリ実行部400は、端末通信モジュール42を介して、物品管理サーバ5と通信する。
アプリ実行部400は、冷蔵庫2が収容する物品の管理に係るユーザーインターフェースを、タッチパネル43に表示させる。以下の説明において、このユーザーインターフェースを、「アプリUI」といい「401」の符号を付す。
アプリ実行部400は、アプリUI401を介して各種入力をユーザPから受け付ける。
[1-2.動作]
次に、物品管理システム1の各部の動作について説明する。
[1-2-1.録画に係わる動作]
まず、録画に係わる撮影装置3の動作について説明する。
図8は、撮影装置3の動作を示すフローチャートFAである。
開閉判定部353は、ドア21A又は引出26Aが開状態になったか否かを判定する(ステップSA1)。
開閉判定部353が、ドア21A又は引出26Aが開状態になっていないと判定した場合(ステップA1:NO)、第2プロセッサ350は、処理をステップSA1に戻す。
開閉判定部353が、ドア21A又は引出26Aが開状態になったと判定した場合(ステップSA1:YES)、撮影制御部354は、広角カメラ301及び狭角カメラ302に撮影を開始させる(ステップSA2)。
次いで、録画制御部355は、広角カメラ301及び狭角カメラ302の撮影結果の録画を開始する(ステップSA3)。
次いで、開閉判定部353は、ドア21A及び引出26Aが閉状態になったか否か判定する(ステップSA4)。開閉判定部353は、ドア21A及び引出26Aが閉状態になっていないと判定した場合(ステップSA4:NO)、再度、ステップSA4の判定を行う。
一方、ドア21A及び引出26Aが閉状態になったと判定した場合(ステップSA4:YES)、録画制御部355は、撮影結果の録画を終了する(ステップSA5)。これにより、第2メモリ360には、第1録画データ363及び第2録画データ364が生成される。
次いで、撮影制御部354は、広角カメラ301及び狭角カメラ302に撮影を終了させる(ステップSA6)。
[1-2-2.物品の管理に係わる動作]
次に、物品の管理に係わる動作について説明する。
図9は、撮影装置3、及び物品管理サーバ5の動作を示すフローチャートである。
図9において、フローチャートFBは撮影装置3の動作を示し、フローチャートFCは物品管理サーバ5の動作を示す。
生成部356は、第2メモリ360に、第2録画データ364が記憶されたか否かを判定する(ステップSB1)。生成部356は、第2録画データ364が記憶されていないと判定した場合(ステップSB1:NO)、再度、ステップSB1の判定を行う。
一方、生成部356は、第2録画データ364が記憶されたと判定した場合(ステップSB1:YES)、第2メモリ360が記憶する第2録画データ364が示す動画像から、検出用画像を選定する(ステップSB2)。
ステップSB2について詳述する。
検出用画像は、閉状態の引出度合いを0%とし最も開いた状態の引出度合いを100%とした場合において、引出度合いがα%以上の収容ケースCAが写る撮影画像である。なお、引出度合いとは、引き出された度合いのことを指す。また、検出用画像は、ユーザPの写り込みが最も少ない撮影画像である。α%は、例えば80%である。
生成部356は、収容ケースCAに付されているマーカーMKが写る撮影画像を、第2録画データ364が示す動画像から選定する。マーカーMKは、収容ケースCAがα%以上引き出された場合に、狭角カメラ302の撮影結果に写るように付されている。次いで、生成部356は、選定した撮影画像からユーザPの映り込みが最も少ない撮影画像を検出用画像として選定する。
マーカーMKは、本開示の「特徴部」に相当する。
フローチャートFBの説明に戻り、生成部356は、検出用画像を選定できたか否かを判定する(ステップSB3)。
生成部356は、検出用画像を選定できなかったと判定した場合(ステップSB3:NO)、ステップSB7処理を行う。
一方、生成部356は、検出用画像を選定できたと判定した場合(ステップSB3:YES)、生成処理を実行する(ステップSB4)。生成処理は、管理用データD1を生成する処理である。
図10は、生成処理における撮影装置3の動作を示すフローチャートSBBである。
生成部356は、検出用画像から収容ケース画像CAGを切り出す(ステップSBB1)。収容ケース画像CAGは、収容ケースCAを示す画像である。生成部356は、パターンマッチングや、色差、収容ケースCAに付されたマーカーMKの位置などに基づいて、検出用画像から収容ケース画像CAGを切り出す。収容ケース画像CAGの切り出しに必要なデータは、第2メモリ360などの記憶領域に記憶されている。
次いで、生成部356は、ステップSBB1で切り出した収容ケース画像CAGから、物品を検出する(ステップSBB2)。ステップSBB2において、生成部356は、形状や色差などの特徴量に基づいて物品を検出する。物品検出に必要なデータは、第2メモリ360などの、生成部356が参照可能な記憶領域に記憶されている。
生成部356は、収容ケース画像CAGから物品を検出できたか否かを判定する(ステップSBB3)。
生成部356は、収容ケース画像CAGから物品を検出できなかったと判定した場合(ステップSBB3:NO)、生成処理を終了する。
一方、生成部356は、収容ケース画像CAGから物品を検出できたと判定した場合(ステップSBB3:YES)、検出した物品ごとに、エリア判定を行う(ステップSBB4)。エリア判定とは、収容ケース画像CAGを分割したエリアARのうち、検出した物品がどのエリアARに属するかを判定する処理である。
図11は、エリア判定を説明するための図である。
図11に示すように、生成部356は、収容ケース画像CAGの画像領域を、第1エリアAR1、第2エリアAR2、第3エリアAR3、第4エリアAR4の4つのエリアARに分割する。図11に示すように、生成部356は、収容ケース画像CAGの画像領域を格子状に4つのエリアARに分割する。生成部356は、収容ケースCAに付されたマーカーMKを基準に4つのエリアARを分割する。例えば、生成部356は、収容ケース画像CAGの短手方向において、収容ケース画像CAGに写るマーカーMKの中心から収容ケースCAの前端に向かった距離Lの位置に、第1エリアAR1と第3エリアAR3の境界、及び第2エリアAR2と第4エリアAR4の境界が位置するように、分割する。
なお、マーカーMKを基準とした分割態様は、上述の例に限定されず、マーカーMKを基準とした態様であればよい。例えば、生成部356は、収容ケース画像CAGの短手方向において、収容ケース画像CAGに写るマーカーMKの下端或いは上端から収容ケースCAの前端に向かった所定距離の位置に、第1エリアAR1と第3エリアAR3の境界、及び第2エリアAR2と第4エリアAR4の境界が位置するように、分割してもよい。また、例えば、生成部356は、収容ケース画像CAGの長手方向において、収容ケース画像CAGに写るマーカーMKの右端或いは左端から物品が写る方向に向かった所定距離の位置に、第1エリアAR1と第2エリアAR2の境界、及び第3エリアAR3と第4エリアAR4の境界が位置するように、分割してもよい。
生成部356は、収容ケース画像CAGを4つのエリアARに分割すると、検出した物品ごとに、検出した物品がどのエリアARに属するかを判定する。生成部356は、検出した物品ごとに、物品画像FGに対応する矩形領域を定める。生成部356は、例えば色差に基づいて矩形領域を定める。そして、生成部356は、設定した矩形領域の中心CPがどのエリアARに属するか判定することで、検出した物品がどのエリアARに属するかを判定する。図11では、生成部356が、収容ケース画像CAGから第1物品F1と第2物品F2と第3物品F3とを検出した場合を例示している。図11の場合、生成部356は、第1物品F1が第2エリアAR2に属し、第2物品F2が第3エリアAR3に属し、第3物品F3が第4エリアAR4に属すると判定する。
図10のフローチャートの説明に戻り、生成部356は、エリア判定を行うと、ステップSBB2で検出した物品ごとに、物品画像FGを切り出す(ステップSBB5)。ステップSBB5において、生成部356は、エリア判定の際に定めた矩形領域を物品画像FGの画像領域として、物品画像FGを切り出す。
次いで、生成部356は、管理用データD1を生成する(ステップSBB6)。
管理用データD1は、第2メモリ360が記憶する撮影装置ID362を含む。
管理用データD1は、ステップSBB2で切り出された収容ケース画像CAGを示す収容ケース画像データ5122を含む。
管理用データD1は、ステップSBB2で検出された物品ごとに、ステップSBB4で判定されたエリアを示すエリア情報5123と、ステップSBB5で切り出された物品画像FGを示す物品画像データ5124と、第2録画データ364の記録が終了した撮影日時を示す撮影日時情報と、の組み合わせを有する。なお、第2録画データ364には、撮影日時情報が対応付いている。
図9に示すフローチャートFBの説明に戻り、生成部356は、生成処理において管理用データD1を生成したか否かを判定する(ステップSB5)。
生成部356は、生成処理において管理用データD1を生成しなかったと判定した場合(ステップSB5:NO)、ステップSB7の処理を行う。
生成部356が、生成処理において管理用データD1を生成したと判定した場合(ステップSB5:YES)、第1通信制御部351は、生成部356が生成した管理用データD1を物品管理サーバ5に送信する(ステップSB6)。
次いで、生成部356は、ステップSB2以降で処理対象とした第2録画データ364を第2メモリ360から消去する(ステップSB7)。
フローチャートFCで示すように、サーバ通信制御部501は、撮影装置3から管理用データD1を受信したか否かを判定する(ステップSC1)。サーバ通信制御部501が、管理用データD1を受信したと判定した場合(ステップSC1:YES)、サーバプロセッサ50は、受信した管理用データD1に基づいて管理処理を行う(ステップSC2)。管理処理とは、物品の管理に係わる処理である。
図12は、管理処理における物品管理サーバ5の動作を示すフローチャートSCCである。
管理部503は、受信された管理用データD1が含む撮影装置ID362のレコードRAを、物品管理DB512から特定する(ステップSCC1)。
次いで、管理部503は、ステップSCC1で特定したレコードRAの収容ケース画像データ5122を、受信された管理用データD1が含む収容ケース画像データ5122に変更する(ステップSCC2)。
認識部502は、管理用データD1が含む組み合わせごとに、当該組み合わせの物品画像データ5124が示す物品画像FGに基づいて物品を認識する(ステップSCC3)。
ステップSCC3で認識対象とされる物品画像FGは、狭角カメラ302の撮影により得られた撮影画像の一部である。そして、ステップSCC3の認識は、狭角カメラ302が撮影した新たな撮影画像に対して行われる認識である。以下では、ステップSCC3で認識された物品を「新規認識物品」という。
次いで、管理部503は、管理用データD1が含む組み合わせごとに、処理用データ群を生成する(ステップSCC4)。処理用データ群とは、ステップSCC5以降に処理されるデータ群を示す。
処理用データ群は、対応する組み合わせが有するエリア情報5123を有する。
処理用データ群は、対応する組み合わせが有する物品画像データ5124を有する。
処理用データ群は、対応する組み合わせが有する撮影日時情報を有する。
処理用データ群は、ステップSCC3の物品認識において取得された物品名情報5127を有する。
処理用データ群は、ステップSCC3の物品認識において取得された第1ID5128を有する。
処理用データ群は、ステップSCC3の物品認識において取得された第2ID5129を有する。
次いで、管理部503は、ステップSCC5で生成された処理用データ群に対応しないサブレコードSRを、ステップSCC1で特定したレコードRAから管理外DB513に移動させる(ステップSCC5)。処理用データ群に対応しないサブレコードSRとは、処理用データ群のエリア情報5123及び第1ID5128を有さないサブレコードSRを指す。ステップSCC5の処理によって、収容ケース画像CAGに写らない物品が管理から外される。この場合、管理外DB513に移動したサブレコードSRには、管理から外した日時の情報として撮影日時情報が紐付く。
次いで、管理部503は、ステップSCC5で生成された処理用データ群から1つの処理用データ群を特定する(ステップSCC6)。ステップSCC7~ステップSCC13の処理は、ステップSCC6で特定された処理用データ群に基づいて行われる。
次いで、管理部503は、管理中の物品のうち、新規認識物品と同種で且つ同じエリアARに属する物品があるか否かを判定する(ステップSCC7)。ここで、管理中の物品とは、ステップSCC5の処理後において、ステップSCC1で特定されたレコードRAが有するサブレコードSRに対応する物品を指す。
ステップSCC7について詳述する。
管理部503は、ステップSCC6で特定された処理用データ群の第1ID5128及びエリア情報5123を有するサブレコードSRを、ステップSCC1で特定したレコードRAが有するか否かを判定する。
管理部503は、ステップSCC1で特定したレコードRAがこのサブレコードSRを有さないと判定した場合、ステップSCC7で否定判定する。
一方、管理部503は、ステップSCC1で特定したレコードRAがこのサブレコードSRを有すると判定した場合、ステップSCC7で肯定判定する。
管理部503は、ステップSCC7で肯定判定した場合(ステップSCC7:YES)、新規認識物品と同種で且つ同じエリアARに属する管理中の物品の物品関連情報5125を、新規認識物品に引き継がせる(ステップSCC8)。
ステップSCC8について詳述する。
管理部503は、ステップSCC6で特定された処理用データ群の第1ID5128及びエリア情報5123を有するサブレコードSRを、ステップSCC1で特定したレコードRAから特定する。次いで、管理部503は、特定したサブレコードSRの物品画像データ5124を、ステップSCC6で特定した処理用データ群の物品画像データ5124に変更する。
管理部503は、ステップSCC7において否定判定した場合(ステップSCC7:NO)、管理を外してから所定期間が経過していない物品のうち、新規認識物品と同種で且つ同じエリアARに属する物品があるか否かを判定する(ステップSCC9)。
ステップSCC9について詳述する。
管理部503は、ステップSCC6で特定された処理用データ群の第1ID5128及びエリア情報5123を有するサブレコードSRが、管理外DB513に格納されているか否かを判定する。
管理部503は、このサブレコードSRが、管理外DB513に格納されていないと判定した場合、ステップSCC9で否定判定する。
一方、管理部503は、このサブレコードSRが、管理外DB513に格納されていると判定した場合、ステップSCC9で肯定判定する。
管理部503は、ステップSCC9において肯定判定した場合(ステップSCC9:YES)、新規認識物品と同種で且つ同じエリアARに属する管理外の物品の管理から外した日時が、現在から所定期間内であるか否かを判定する(ステップSCC10)。
ステップSCC10について詳述する。
管理部503は、ステップSCC6で特定された処理用データ群の第1ID5128及びエリア情報5123を有するサブレコードSRを、管理外DB513から特定する。次いで、管理部503は、特定したサブレコードSRの管理から外した日時が、現在日時から所定期間(例えば、1日間)内であるか否か(現在日時から所定期間(例えば、1日)経過したか否か)を判定する。
管理部503は、ステップSCC10で肯定判定した場合(ステップSCC10:YES)、新規認識物品と同種で且つ同じエリアARに属する管理外の物品の物品関連情報5125を、新規認識物品に引き継がせる(ステップSCC11)。この場合、新規認識物品と同種で且つ同じエリアARに属する管理外の物品を管理外DB513から削除し、新規認識物品と同種で且つ同じエリアARに属する管理外の物品の物品関連情報5125に引き継がれた新規認識物品を物品管理DB512に追加される。なお、新規認識物品を物品管理DB512に追加後、管理外DB513から削除してもよい。
ステップSCC11について詳述する。
管理部503は、ステップSCC6で特定された処理用データ群の第1ID5128及びエリア情報5123を有するサブレコードSRを、管理外DB513から取得する。次いで、管理部503は、取得したサブレコードSRの物品画像データ5124を、ステップSCC6で特定した処理用データ群の物品画像データ5124に変更する。そして、管理部503は、変更を行ったサブレコードSRを、ステップSCC1で特定したレコードRAに追加する。
管理部503は、ステップSCC9において否定判定した場合(ステップSCC9:NO)、又は、ステップSCC10において否定判定した場合(ステップSCC10:NO)、新規認識物品を新たに入庫された物品として管理を開始する(ステップSCC12)。
ステップSCC12について詳述する。
管理部503は、ステップSCC6で特定した処理用データ群に対応するサブレコードSRを生成し、生成したサブレコードSRをステップSCC1で特定したレコードRAに追加する。
ステップSCC12で追加されるサブレコードSRのエリア情報5123は、ステップSCC6で特定された処理用データ群のエリア情報5123である。
また、ステップSCC12で追加されるサブレコードSRの物品画像データ5124は、ステップSCC6で特定した処理用データ群の物品画像データ5124である。
また、ステップSCC12で追加されるサブレコードSRの収容開始日時情報5126は、ステップSCC6で特定した処理用データ群の撮影日時情報である。
また、ステップSCC12で追加されるサブレコードSRの物品名情報5127は、ステップSCC6で特定した処理用データ群の物品名情報5127である。
また、ステップSCC12で追加されるサブレコードSRの第1ID5128及び第2ID5129は、ステップSCC6で特定した処理用データ群の第1ID5128及び第2ID5129である。
また、ステップSCC12で追加されるサブレコードSRのメモ情報5129は、ブランクを示す情報である。
管理部503は、ステップSCC4で生成した処理用データ群の全てを、ステップSCC6で特定したか否かを判定する(ステップSCC13)。
管理部503は、全ての処理用データ群を特定していないと判定した場合(ステップSCC13:NO)、処理をステップSCC6に戻し、未特定の処理用データ群をステップSCC6で1つ特定して、再度、ステップSCC7以降の処理を行う。
一方、管理部503は、全ての処理用データ群を特定したと判定した場合(ステップSCC13:YES)、管理処理を終了する。
図13を参照して、管理部503の管理を具体的に説明する。
図13は、管理部503の管理を具体的に説明するための図である。
図13では、撮影日時が「2022/3/3/19:00:11」の収容ケース画像CAGから林檎AP1及びタマネギON1が検出され、林檎AP1及びタマネギON1が新規に入庫された物品として管理が開始された場合を示している。
また、図13では、撮影日時が「2022/3/4/15:02:34」の収容ケース画像CAGから林檎AP2及びタマネギON2が検出された場合を示している。
この場合では、管理部503は、林檎AP2が、林檎AP1と同種の物品であり且つ同じエリアARに属する物品であるとして、林檎AP1の物品関連情報5125を林檎AP2に引き継がせる。これにより、林檎AP2は、新規で入庫された物品ではなく、既に入庫されている林檎AP1として管理されることになる。
一方、タマネギON2とタマネギON1とは同種の物品であるがエリアARが異なるため、管理部503は、新規に入庫された物品として、タマネギON2の管理を開始する。
また、図13では、撮影日時が「2022/3/5/20:05:10」の収容ケース画像CAGからタマネギON3が検出された場合を示している。
この場合では、前回検出された林檎AP2(AP1)が検出されていない。管理部503は、林檎AP2(AP1)の物品関連情報5125を含むサブレコードSRを、管理外DB513に移動させる。
一方、タマネギON3とタマネギON2とは同種の物品であり且つ同じエリアARに属する物品であるとして、タマネギON2の物品関連情報5125をタマネギON3に引き継がせる。これにより、タマネギON3は、新規で入庫された物品ではなく、既に入庫されているタマネギON2として管理されることになる。
また、図13では、撮影日時が「2022/3/8/14:09:21」の収容ケース画像CAGから林檎AP3及びタマネギON4が検出された場合を示している。
この場合では、林檎AP2(AP1)の管理から外した日時が現在から所定期間経過している。そのため、管理部503は、林檎AP3と林檎AP2(AP1)とが同種であり且つ同じエリアARに属するが、林檎AP2(AP1)の物品関連情報5125を林檎AP3に引き継がせない。これにより、林檎AP3と林檎AP2(AP1)とは同じ物品であるかもしれないが、管理部503は、林檎AP3を、新たに入庫された物品として管理する。一方、管理部503は、タマネギON4が、タマネギON3(ON2)と同種であり且つ同じエリアARに属する物品であるとして、タマネギON3(ON2)の物品関連情報5125をタマネギON4に引き継がせる。これにより、タマネギON4は、新規で入庫された物品ではなく、既に入庫されているタマネギON3(ON2)として管理されることになる。
[1-2-3.アプリUIに係わる動作]
アプリUI401においては、物品関連情報5125を修正可能である。
以下、アプリUI401に係わる動作について説明する。
[1-2-3-1.アプリUIの表示に係わる動作]
次に、アプリUI401に係わる物品管理システム1の動作について説明する。
図14は、端末装置4、及び物品管理サーバ5の動作を示すフローチャートである。図14において、フローチャートFDは端末装置4の動作を示し、フローチャートFEは物品管理サーバ5の動作を示す。
フローチャートFDで示すように、アプリ実行部400は、物品管理DB512に格納されているレコードRAを要求するか否かを判定する(ステップSD1)。例えば、端末通信制御部401は、物品管理アプリ411が立ち上がった場合に、ステップSD1において肯定判定する。
アプリ実行部400は、レコードRAを要求すると判定した場合(ステップSD1:YES)、レコードRAを要求する要求データを物品管理サーバ5に送信する(ステップSD2)。要求データには、ユーザID5121が含まれる。なお、端末装置4は、所定のタイミングでユーザID5121を取得している。
フローチャートFEで示すように、サーバ通信制御部501は、要求データを受信する(ステップSE1)。次いで、サーバ通信制御部501は、サーバ通信制御部501が受信した要求データに含まれるユーザID5121のレコードRAを、物品管理DB512から取得する(ステップSE2)。次いで、サーバ通信制御部501は、取得したレコードRAを、要求データの応答として、端末装置4に送信する(ステップSE3)。
フローチャートFDを参照して、アプリ実行部400は、レコードRAを物品管理サーバ5から受信する(ステップSD3)。次いで、アプリ実行部400は、ステップSD3で受信されたレコードRAに基づいてアプリUIをタッチパネル43に表示させる(ステップSD4)。
[1-2-3-2.野菜室に係わる画面]
本実施の形態のアプリUI401は、野菜室25に係わる画面(以下、「野菜室画面」といい「402」の符号を付す)を表示する。
図15は、野菜室画面402の一例を示す図である。
野菜室画面402は、収容ケース画像CAGを表示する表示領域403を有する。表示領域403が表示する収容ケース画像CAGは、受信されたレコードRAが有する収容ケース画像データ5122が示す収容ケース画像CAGである。
野菜室画面402においては、表示領域403が表示する収容ケース画像CAGに写る物品ごとに、タッチ操作を受け付ける。表示領域403においてタッチ操作を受け付けると、アプリUI401は、野菜室画面402において詳細画面404を重畳表示する。
図16は、詳細画面404の一例を示す図である。
図16は、図15に示す収容ケース画像CAGにおいてトマトF4がタッチ操作された場合の詳細画面404を示している。
詳細画面404は、収容開始日時情報5126、物品画像FG、物品名情報5127、メモ情報5130、第1メモ入力ボタンB1、戻りボタンB2、第2メモ入力ボタンB3、メモ保存ボタンB4、メモ削除ボタンB5、収納開始日時変更ボタンB6、及び物品削除ボタンB7を有する。
詳細画面404の収容開始日時情報5126は、野菜室画面402でタッチ操作された物品の収容開始日時を示す。より詳細には、詳細画面404の収容開始日時情報5126は、ステップSD3で受信されたレコードRAが有するサブレコードSRのうち、野菜室画面402でタッチ操作された物品に対応するサブレコードSRの収容開始日時情報5126である。
詳細画面404の物品画像FGは、野菜室画面402でタッチ操作された物品の画像である。より詳細には、詳細画面404の物品画像FGは、ステップSD3で受信されたレコードRAが有するサブレコードSRのうち、野菜室画面402でタッチ操作された物品に対応するサブレコードSRの物品画像データ5124が示す物品画像FGである。
詳細画面404の物品名情報5127は、野菜室画面402でタッチ操作された物品の物品名を示す。より詳細には、詳細画面404の物品名情報5127は、ステップSD3で受信されたレコードRAが有するサブレコードSRのうち、野菜室画面402でタッチ操作された物品に対応するサブレコードSRの物品名情報5127である。
詳細画面404のメモ情報5130は、野菜室画面402でタッチ操作された物品について入力されたメモを示す。より詳細には、詳細画面404のメモ情報5130は、ステップSD3で受信されたレコードRAが有するサブレコードSRのうち、野菜室画面402でタッチ操作された物品に対応するサブレコードSRのメモ情報5130である。
第1メモ入力ボタンB1は、任意のメモを詳細画面404に入力するためのソフトウェアボタンである。なお、第1メモ入力ボタンB1は、物品名を直接入力(修正)するためのソフトウェアボタンとしてもよい。
戻るボタンB2は、詳細画面404の表示を取り止めるソフトウェアボタンである。
第2メモ入力ボタンB3は、定型のメモを詳細画面404に入力するためのソフトウェアボタンである。
メモ保存ボタンB4は、詳細画面404に入力されたメモを保存するためのソフトウェアボタンである。
メモ削除ボタンB5は、メモを削除するソフトウェアボタンである。
収容開始日時変更ボタンB6は、詳細画面404の収容開始日時情報5126が示す収容開始日を変更するためのソフトウェアボタンである。
物品削除ボタンB7は、野菜室画面404でタッチ操作された物品を管理から外すためのソフトウェアボタンである。
[1-2-3-3.物品名に変更があった場合]
次に、詳細画面404において物品名の変更があった場合の物品管理システム1の動作について説明する。
詳細画面404においては、詳細画面404が表示する物品名を修正可能である。アプリ実行部400は、詳細画面404において物品名情報5127がタッチ操作されると、物品名の一覧リストを詳細画面404において表示する。アプリ実行部400は、物品名の一覧リストから1つの物品名が選択された場合、物品名の変更を要求する第1要求情報を物品管理サーバ5に送信する。第1要求情報には、選択された物品名を示す物品名情報5127、選択された物品名に対応する第2ID5129、及び、ステップSD3で受信されたレコードRAの撮影装置ID362が含まれる。なお、物品名の一覧リストは、類似物品がリスト化されたものでもよい。
サーバ通信制御部501は、第1要求情報を受信する。管理部503は、受信された第1要求情報に含まれる撮影装置ID362のレコードRAを、物品管理DB512から特定する。次いで、管理部503は、特定したレコードRAの物品名情報5127を、第1要求情報の物品名情報5127に変更する。さらに、管理部503は、特定したレコードRAの第2ID5129を、第1要求情報の第2ID5129に変更する。
このように、物品名に修正があった場合には、物品管理サーバ5が管理するレコードRAにおいては、第2ID5129が変更される。これにより、物品管理サーバ5は、第2ID5129が変更されたかどうかによって、どの物品に誤認識があったかを判断できるようになるため、物品の管理精度を向上させることができる。
[1-2-3-4.メモに変更があった場合]
次に、詳細画面404においてメモの変更があった場合の物品管理システム1の動作について説明する。
詳細画面404においては、詳細画面404が表示するメモを変更可能である。アプリ実行部400は、詳細画面404において新たなメモが入力されメモ保存ボタンB4がタッチ操作されると、メモの変更を要求する第2要求情報を物品管理サーバ5に送信する。第2要求情報には、変更後のメモを示すメモ情報5130、及び、ステップSD3で受信されたレコードRAの撮影装置ID362が含まれる。
サーバ通信制御部501は、第2要求情報を受信する。管理部503は、受信された第2要求情報に含まれる撮影装置ID362のレコードRAを、物品管理DB512から特定する。次いで、管理部503は、特定したレコードRAのメモ情報5130を、第2要求情報のメモ情報5130に変更する。
[1-2-3-5.メモの削除があった場合]
次に、詳細画面404においてメモの削除があった場合の物品管理システム1の動作について説明する。
詳細画面404においては、物品に対して設定するメモを削除可能である。アプリ実行部400は、メモ削除ボタンB5がタッチ操作されると、メモの削除を要求する第3要求情報を物品管理サーバ5に送信する。第3要求情報には、ステップSD3で受信されたレコードRAの撮影装置ID362が含まれる。
サーバ通信制御部501は、第3要求情報を受信する。管理部503は、受信された第3要求情報に含まれる撮影装置ID362のレコードRAを、物品管理DB512から特定する。次いで、管理部503は、特定したレコードRAのメモ情報5130を、ブランクの情報に変更する。
[1-2-3-6.収容開始日時に変更があった場合]
次に、詳細画面404において収容開始日時の変更があった場合の物品管理システム1の動作について説明する。
詳細画面404においては、収容開始日時を変更可能である。アプリ実行部400は、詳細画面404において収容開始日時変更ボタンB6がタッチ操作されて収容開始日時が変更された場合、収容開始日時の変更を要求する第4要求情報を物品管理サーバ5に送信する。第4要求情報には、変更後の収容開始日時を示す収容開始日時情報5126、及び、ステップSD3で受信されたレコードRAの撮影装置ID362が含まれる。
サーバ通信制御部501は、第4要求情報を受信する。管理部503は、受信された第4要求情報に含まれる撮影装置ID362のレコードRAを、物品管理DB512から特定する。次いで、管理部503は、特定したレコードRAの収容開始日時情報5126を、第4要求情報の収容開始日時情報5126に変更する。
[1-2-3-7.物品の削除があった場合]
アプリ実行部400は、詳細画面404において、物品削除ボタンB7が押下された場合、第5要求情報を生成する。第5要求情報は、詳細画面404に対応する物品の第2ID5129、及び、ステップSD3で受信されたレコードRAの撮影装置ID362を含む。
サーバ通信制御部501は、第5要求情報を受信する。管理部503は、第5要求情報が受信されると、第5要求情報に含まれる撮影装置ID362を含むレコードRAを物品管理DB512から特定する。次いで、管理部503は、特定したレコードRAが有するサブレコードSRのうち、第5要求情報に含まれる第2ID5129を有するサブレコードARを削除する。なお、この削除では、管理外DB513にサブレコードSRが移動しない。
[1-3.効果等]
以上、説明したように、物品管理システム1は、冷蔵庫2に収容される物品を管理する。物品管理システム1は、冷蔵庫2の収容ケースCAを撮影する狭角カメラ302の撮影画像から物品を認識する認識部502と、認識部502が認識した物品ごとに、物品が収容される収容ケースCAのエリアARと、物品に関する物品関連情報5125とを対応付けて物品を管理する管理部503と、を備える。管理部503は、管理中の物品と、認識部502が新たな撮影画像から認識した新規認識物品とが、同じエリアARに属し且つ同種の物品である場合、新規認識物品が管理中の物品であるとして、管理中の物品の物品関連情報5125を新規認識物品に引き継がせる。
これによれば、管理中の物品と新規認識物品とが同じエリアARに属し且つ同種の物品である場合、新規認識物品を管理中の物品として管理できる。よって、冷蔵庫2に収容される物品を精度良く管理できる。
管理部503は、管理中の物品が属するエリアARと新規認識物品が属するエリアARとが異なる場合、又は、管理中の物品と新規認識物品とが異種の物品である場合、管理中の物品の物品関連情報5125を新規認識物品に引き継がせることなく、新規認識物品を新たに冷蔵庫2に入庫された物品として管理する。
これによれば、管理中の物品と新規認識物品とが同じエリアARに属さず又は異種の物品である場合、新規認識物品を管理中の物品として管理せず、新たに入庫された物品として管理する。よって、新規認識物品を適切に管理できるため、冷蔵庫2に収容される物品を精度良く管理できる。
管理部503は、管理を外してから所定期間が経過していない物品の中に、新規認識物品と同じエリアARに属し、且つ新規認識物品と同種の物品がある場合、この場合に該当する管理から外した物品の物品関連情報5125を、新規認識物品に引き継がせる。
これによれば、誤って管理から外れてしまった物品を、再度、適切に管理できるようになる。よって、冷蔵庫2に収容される物品をより精度良く管理できる。
管理部503は、物品関連情報5125に修正があった場合、修正された物品関連情報5125とエリアARとを対応付けて物品を管理する。
これによれば、修正された物品関連情報5125を管理に反映させることができるため、ユーザPの意図を反映して物品を管理できる。よって、冷蔵庫2に収容される物品を適切に且つ精度良く管理できる。
物品管理サーバ5は、収容ケースCAの画像を撮影画像から切り出し、切り出した収容ケースCAの画像が含むマーカーMKを基準として収容ケースCAの画像を複数のエリアARに分割する生成部356を備える。管理部503は、生成部356が分割したエリアARと物品関連情報5125とを対応付けて物品を管理する。
これによれば、マーカーMKを基準にしてエリアARが分割されるため、収容ケースCAの画像に写る収容ケースCAの引き出し度合いによって分割されるエリアARが異なってしまうことを防止できる。よって、収容ケースCAの画像に写る収容ケースCAの引き出し度合いよることなく、新規認識物品が管理中の物品であるか否かを適切に判定できるようになるため、冷蔵庫2に収容される物品をより精度良く管理できる。
物品管理システム1の制御方法は、冷蔵庫2の収容ケースCAを撮影する狭角カメラ302の撮影画像から物品を認識し、認識した物品ごとに、物品が収容される収容ケースCAのエリアARと、物品に関する物品関連情報5125とを対応付けて物品を管理する。物品管理システム1の制御方法は、物品の管理においては、管理中の物品と、新たな撮影画像から認識された新規認識物品とが、同じエリアARに属し且つ同種の物品である場合、新規認識物品が管理中の物品であるとして、管理中の物品の物品関連情報5125を新規認識物品に引き継がせる。
これによれば、上述した物品管理システム1の作用効果と同様の作用効果を奏する。
物品管理サーバ5は、冷蔵庫2の収容ケースCAを撮影する狭角カメラ302の撮影画像から物品を認識する認識部502と、認識部502が認識した物品ごとに、物品が収容される収容ケースCAのエリアARと、物品に関する物品関連情報5125とを対応付けて物品を管理する管理部503と、を備える。管理部503は、管理中の物品と、認識部502が新たな撮影画像から認識した新規認識物品とが、同じエリアARに属し且つ同種の物品である場合、新規認識物品が管理中の物品であるとして、管理中の物品の物品関連情報5125を新規認識物品に引き継がせる。
これによれば、上述した物品管理システム1の作用効果と同様の作用効果を奏する。
制御プログラム511は、冷蔵庫2に収容される物品を管理する物品管理サーバ5のサーバプロセッサ50を、冷蔵庫2の収容ケースCAを撮影する狭角カメラ302の撮影画像から物品を認識する認識部502と、認識部502が認識した物品ごとに、物品が収容される収容ケースCAのエリアARと、物品に関する物品関連情報5125とを対応付けて物品を管理する管理部503と、して機能させる。管理部503は、管理中の物品と、認識部502が新たな撮影画像から認識した新規認識物品とが、同じエリアARに属し且つ同種の物品である場合、新規認識物品が管理中の物品であるとして、管理中の物品の物品関連情報5125を新規認識物品に引き継がせる。
これによれば、上述した物品管理システム1の作用効果と同様の作用効果を奏する。
(実施の形態2)
次に、実施の形態2について説明する。実施の形態2の説明では、実施の形態1の物品管理システム1の各部の構成要素と同じ構成要素については、同一の符号を付して詳細な説明を適宜に省略する。
[2-1.構成]
図17は、実施の形態2における物品管理システム1Aの構成を示す図である。
本実施の形態における物品管理システム1Aは、冷蔵庫2A、物品管理サーバ5、及び端末装置4を備える。上述した実施の形態1の冷蔵庫2と撮影装置3とは、別体であったが、実施の形態2における冷蔵庫2Aは、撮影装置3Aを備える。すなわち、本実施の形態における冷蔵庫2Aと撮影装置3Aとは、別体ではない。
冷蔵庫2Aは、本開示の「貯蔵庫」に相当する。
図18は、本実施の形態における冷蔵庫2Aの構成を示すブロック図である。
冷蔵庫2Aは、第3制御基板220を備える。第3制御基板220は、CPUなどの第3プロセッサ230、第3メモリ240、第3通信モジュール250、及び他の装置やセンサ類が接続されるインターフェイス回路を備える。
第3メモリ240は、第3プロセッサ230が実行するプログラムやデータを記憶する記憶装置である。第3メモリ240は、不揮発性の記憶装置により構成される。また、第3メモリ240は、第3プロセッサ230のワークエリアを構成する揮発性の記憶装置を含んでもよい。第3メモリ240は、第3プロセッサ230により処理されるデータや、第3プロセッサ230が実行する制御プログラム241を記憶する。
第3通信モジュール250は、所定の有線通信規格に従った通信回路やコネクタなどの通信ハードウェアを備え、第3プロセッサ230の制御に従って第1制御基板311Aと通信する。
第3制御基板220には、第2無線通信モジュール206、冷却部207、第1開閉センサ208、第2開閉センサ209、第3開閉センサ210、第4開閉センサ211、第5開閉センサ212、及び第6開閉センサ213が接続する。
冷却部207は、圧縮機や、凝縮器、キャピラリーチューブ、冷却器、冷却器が生成した冷気を各収容室に送る冷却ファン、及び、冷却ファンにより送られる冷気を分流するダンパー等の冷蔵庫2Aの各収容室を冷却する機構を備える。冷却部207は、第3制御基板220の制御に従って、冷蔵庫2Aの各収容室を冷却する。
第1開閉センサ208~第6開閉センサ213は、例えばホールICで構成される。
第1開閉センサ208は、右ドア21Bの開閉センサを検出するためのセンサである。
第2開閉センサ209は、左ドア21Cの開閉センサを検出するためのセンサである。
第3開閉センサ210は、引出22Aの開閉センサを検出するためのセンサである。
第4開閉センサ211は、引出23Aの開閉センサを検出するためのセンサである。
第5開閉センサ212は、引出24Aの開閉センサを検出するためのセンサである。
第6開閉センサ213は、引出25Aの開閉センサを検出するためのセンサである。
各開閉センサは、検出値を第3制御基板220に出力する。
第3プロセッサ230は、制御プログラム241を読み出して実行することにより、第2無線通信モジュール206を介して、外部機器と通信する。
また、第3プロセッサ230は、制御プログラム241を読み出して実行することにより、冷却部207によって冷蔵庫2Aの各収容室を冷却する。
また、第3プロセッサ230は、制御プログラム241を読み出して実行することにより、第1開閉センサ208~第6開閉センサ213の各々が出力した検出値を第1制御基板311Aに送信する。
冷蔵庫2Aは、撮影装置3Aを備える。撮影装置3Aは、撮影装置3と比較して、第1フォトセンサ303、第2フォトセンサ304、サーモパイル305、人感センサ306、第1LED308、及び第2LED309を備えていない。
実施の形態2の撮影装置3Aは、第1制御基板311の代わりに第1制御基板311Aを備える。第1制御基板311Aには、図示せぬ電源ボタンや照度センサ307が接続する。また、実施の形態2における撮影装置3Aは、第2制御基板312の代わりに第2制御基板312Aを備える。第2制御基板312Aには、広角カメラ301、狭角カメラ302、及び第1無線通信モジュール313が接続する。
第1制御基板311Aは、CPUなどの第1プロセッサ320A、第1メモリ330A、第1通信モジュール340A、及び他の装置やセンサ類が接続されるインターフェイス回路を備える。
第1メモリ330Aは、第1メモリ330と同様のメモリである。第1メモリ330Aは、第1プロセッサ320Aにより処理されるデータや、第1プロセッサ320Aが実行する制御プログラム331Aを記憶する。
第1通信モジュール340Aは、所定の有線通信規格に従った通信回路やコネクタなどの通信ハードウェアを備え、ケーブルを介して第2制御基板312A及び第3制御基板220と通信する。
第1プロセッサ320Aは、制御プログラム331Aを読み出して実行することにより、電源ボタンの操作に応じて撮影装置3Aの電源のオンオフを行う。
第1プロセッサ320Aは、制御プログラム331Aを読み出して実行することにより、第1通信モジュール340Aを介して、照度センサ307が出力した検出値を、第2制御基板312Aに送信する。
第1プロセッサ320Aは、制御プログラム331Aを読み出して実行することにより、第1通信モジュール340Aを介して、第3制御基板220から受信した第1開閉センサ208~第6開閉センサ213の検出値を、第2制御基板312Aに送信する。
第2制御基板312Aは、CPUなどの第2プロセッサ350A、第2メモリ360A、第2通信モジュール370A、及び他の装置やセンサ類が接続されるインターフェイス回路を備える。
第2メモリ360Aは、第1メモリ330と同様のメモリである。第2メモリ360Aは、第2プロセッサ350Aにより処理されるデータや、第2プロセッサ350Aが実行する制御プログラム361Aを記憶する。
第2通信モジュール370Aは、所定の通信規格に従った通信回路やコネクタなどの通信ハードウェアを備え、第2プロセッサ350Aの制御に従って第1制御基板311Aと通信する。
第2プロセッサ350Aは、第2メモリ360Aに記憶された制御プログラム361Aを読み出して実行することにより、第1通信制御部351、第2通信制御部352A、開閉判定部353A、撮影制御部354、録画制御部355、及び生成部356として機能する。
第2通信制御部352Aは、第2通信モジュール370Aを介して、第1制御基板311Aと通信する。第2通信制御部352Aは、各種センサの検出値を第1制御基板311Aから受信する。
開閉判定部353Aは、第2通信制御部352Aが受信する第1開閉センサ208の検出値に基づいて、右ドア21Bが開状態か閉状態かを判定する。開閉判定部353は、閉状態に対応する検出値と異なる検出値を、第2通信制御部352Aが受信した場合、右ドア21Bが開状態であると判定する。一方、開閉判定部353Aは、閉状態に対応する検出値を第2通信制御部352Aが受信した場合、右ドア21Bが閉状態であると判定する。
開閉判定部353Aは、右ドア21Bについての判定と同様に、第2通信制御部352Aが第2開閉センサ209の検出値に基づいて、左ドア21Cが開状態か閉状態かを判定する。
開閉判定部353Aは、第2通信制御部352Aが受信する第3開閉センサ210~第6開閉センサ213の検出値に基づいて、引出26Aが開状態か閉状態かを判定する。開閉判定部353Aは、右ドア21Bの判定と同様に判定を行う。
[2-2.動作]
本実施の形態のおける物品管理システム1Aの各部の動作は、実施の形態1の物品管理システム1の各部の動作と同じである。
[2-3.効果等]
上述した実施の形態2によれば、実施の形態1と同様の効果を奏する。
(他の実施の形態)
以上のように、本出願において開示する例示として、上記実施の形態1、2を説明した。しかしながら、本開示における技術は、これに限定されず、変更、置き換え、付加、省略などを行った実施の形態にも適用できる。また、上記実施の形態1、2で説明した各構成要素を組み合わせて、新たな実施の形態とすることも可能である。そこで、以下、他の実施の形態を例示する。
上述した実施の形態では、本開示の「貯蔵庫」として冷蔵庫2を例示した。しかしながら、本開示の「貯蔵庫」は、冷蔵庫2に限定されず、例えばオフィス等に設置される倉庫や、冷凍庫、常温保存庫などの他の貯蔵庫でもよい。
上述した実施の形態1、2では、野菜室25に設けられる1段の収容ケースCAに収容される物品を管理する構成である。他の実施の形態では、野菜室25が複数段の収容ケースCAを備えており、物品管理システム1が、複数の収容ケースCAの各々について収容される物品を管理する構成としてもよい。この構成の場合、野菜室画面404は、野菜室25が備える収容ケースCAごとに、収容ケース画像CAGを表示する。この構成における野菜室画面404では、複数の収容ケース画像CAGが重畳されて表示される。例えば、野菜室25が上下2段の収容ケースCAを備える場合、野菜室画面402は、下段ケースに対応する収容ケース画像CAGに対して、上段ケースに対応する収容ケース画像CAGを重畳表示する。また、この場合の野菜室画面402は、上段ケースに対応する収容ケース画像CAGをスクロール操作で所定方向に移動可能に表示する。
上述した実施の形態1、2では、野菜室25に収容される物品を管理する場合を例示した。しかしながら、物品管理システム1が管理する物品は、野菜室25に収容される物品に限定されず、製氷室22に収容される物品でもよいし、新鮮凍結室23に収容される物品でもよいし、冷凍室24に収容される物品でもよいし、冷蔵室21のチルド室に収容される物品でもよい。
他の実施の形態では、生成部356の機能のうち、管理用データD1の送信以外の機能の一部或いは全てをサーバプロセッサ50が行ってよい。例えば、他の実施の形態では、サーバプロセッサ50が、収容ケース画像CAGの切り出し、物品の検出、エリア判定、及び物品画像FGの切り出しを行ってもよい。この場合、生成部356が生成する管理用データD1は、検出用画像の画像データ、及び、第2メモリ360が記憶する撮影装置ID362を含む。また、例えば、他の実施の形態では、サーバプロセッサ50が、物品の検出、エリア判定、及び物品画像FGの切り出しを行ってもよい。この場合、生成部356が生成する管理用データD1は、収容ケース画像データ5122、及び、第2メモリ360が記憶する撮影装置ID362を含む。
上述した実施の形態では、図2に示すように、撮影部材31の前端部において、第2LED309、照度センサ307、人感センサ306、広角カメラ301、狭角カメラ302、サーモパイル305、及び第1LED308がこの順並んでいる。しかしながら、この並び順はあくまで一例であって、これらデバイスの並び順は実施の形態に限定されない。
上述した実施の形態2では、第1フォトセンサ303、第2フォトセンサ304、サーモパイル305、人感センサ306、第1LED308、及び第2LED309を備えていない構成である。実施の形態2に係わる他の実施の形態では、これらデバイスのうち任意のデバイスを備えていてもよい。
上述した実施の形態1、2では、右ドア21Bと左ドア21Cとの幅が異なる場合を例示した。他の実施の形態では、右ドア21Bと左ドア21Cとの幅は同じでもよいし、右ドア21Bの幅より左ドア21Cの幅のほうが長くてもよい。
上述した実施の形態1、2では、第1LED308と第2LED309とを撮影装置3、3Aが具備する構成である。他の実施の形態では、第1LED308及び第2LED309が一つのLEDで構成されてもよい。
上述した実施の形態2では、第1開閉センサ208~第6開閉センサ213がホールICで構成される場合を例示した。しかしながら、第1開閉センサ208、及び第2開閉センサ209は、測距センサや、角度センサ、カメラ、温度センサなどの他のセンサでもよい。また、第3開閉センサ210~第6開閉センサ213は、加速度センサや、機械式スイッチ、角度センサ、カメラ、温度センサなどの他のセンサでもよい。
上述した実施の形態1、2では、本開示の「特徴部」としてマーカーMKを例示した。しかしながら、本開示の「特徴部」は、マーカーMKに限定されず、例えば収容ケースCAの特徴的な所定箇所でもよい。
他の実施の形態では、図12のステップSCC10において、管理部503は、特定したサブレコードSRが所定回数(例えば、5回)連続して管理外DB513に残っているか否かを判定してもよい。管理部503は、否定判定した場合、ステップSCC11に処理を進めて、新規認識物品と同種で且つ同じエリアARに属する管理外の物品の物品関連情報5125を、新規認識物品に引き継がせてもよい。一方で、管理部503は、肯定判定した場合、ステップSCC12に処理を進めて、新規認識物品を新たに入庫された物品として管理を開始してもよい。
図12のステップSCC8やステップSCC11において、物品関連情報を引き継がせる際に、管理部503はユーザに物品関連情報5125を引き継がせるか否かを問合せしてもよい。管理部503が問合せ結果(引き継がせる)を受信した場合、物品関連情報5125を引き継がせてもよい。一方で、管理部503は問合せ結果(引き継がせない)を受信した場合、物品関連情報5125を引き継がせなくてもよい。
また、図12のステップSCC5において、管理外DB513に移動させる際に、管理部503はユーザに管理外DBに移動させるか否かを問合せしてもよい。また、管理部503は、管理外DB513に移動させる物品に関してユーザに通知してもよい。
他の実施の形態では、図12のステップSCC9とSCC10を入れ替えて構成されてもよい。これによれば、管理から外した物品の管理から外した日時が現在から所定期間内である物品のうち、新規認識物品と同種で且つ同じエリアに属する物品がある場合に、管理から外した物品の物品関連情報5125を新規認識物品に引き継がせることができる。したがって、誤って管理から外してしまった物品を、再度、適切に管理できるようになり、冷蔵庫2に収容される物品をより精度良く管理できる。
他の実施の形態では、実施の形態1における第2プロセッサ350の各機能部に加えて、第2プロセッサ350は人物存在判定部として機能してもよい。人物存在判定部は、人感センサ306の検出値に基づいて、冷蔵庫2の周辺に人が存在するか否かを判定する。より具体的に、人物存在判定部は、人感センサ306の検出値が人が存在することに対応する検出値の場合、冷蔵庫2の周辺に人が存在すると判定し、そうでない場合、冷蔵庫2の周辺に人が存在しないと判定する。第2プロセッサ350が人物存在判定部として機能する場合、撮影制御部354は、人が存在すると人物存在判定部が判定した場合に、広角カメラ301及び狭角カメラ302に撮影を開始させ、人が存在しないと人物存在判定部が判定した場合に、広角カメラ301及び狭角カメラ302に撮影を終了させる。また、第2プロセッサ350が人物存在判定部として機能する場合、録画制御部355は、人が存在すると人物存在判定部が判定した場合に、録画を開始し、人が存在しないと人物存在判定部が判定した場合に、録画を終了する。これにより、開閉判定部353が誤判定した場合でも、適切に広角カメラ301及び狭角カメラ302の撮影結果を録画できる。
他の実施の形態では、冷蔵庫2、2Aの主箱体20に形成される部屋は、上述した5種以外の収容室があってもよいし少なくてもよい。また、他の実施の形態では、冷蔵室21の開口部201に設けられるドアの数は、1つでもよい。
第1プロセッサ320、320A、第2プロセッサ350、350A、サーバプロセッサ50、及び端末プロセッサ40は、単一のプロセッサにより構成されてもよいし、複数のプロセッサにより構成されていてもよい。これらプロセッサは、対応する機能部を実現するようプログラムされたハードウェアでもよい。すなわち、これらプロセッサは、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)で構成されてもよい。
図4、図5、及び図18に示した撮影装置3、冷蔵庫2A、端末装置4、及び物品管理サーバ5の構成は一例であって、具体的な実装形態は特に限定されない。つまり、必ずしも各部に個別に対応するハードウェアが実装される必要はなく、一つのプロセッサがプログラムを実行することで各部の機能を実現する構成とすることも可能である。また、上述した実施の形態においてソフトウェアで実現される機能の一部をハードウェアとしてもよく、或いは、ハードウェアで実現される機能の一部をソフトウェアで実現してもよい。
図8、図9、図10、図12、及び図14に示す動作のステップ単位は、動作の理解を容易にするために、主な処理内容に応じて分割したものであり、処理単位の分割の仕方や名称によって、動作が限定されることはない。処理内容に応じて、さらに多くのステップ単位に分割してもよい。また、1つのステップ単位がさらに多くの処理を含むように分割してもよい。また、そのステップの順番は、本開示の趣旨に支障のない範囲で適宜に入れ替えてもよい。
なお、上述の実施の形態は、本開示における技術を例示するためのものであるから、特許請求の範囲またはその均等の範囲において種々の変更、置き換え、付加、省略などを行うことができる。
(付記)
以上の実施の形態の記載により、下記の技術が開示される。
(技術1)貯蔵庫に収容される物品を管理する物品管理システムであって、前記貯蔵庫の収容ケースを撮影するカメラの撮影画像から前記物品を認識する認識部と、前記認識部が認識した前記物品ごとに、前記物品が収容される前記収容ケースのエリアと、前記物品に関する物品関連情報とを対応付けて前記物品を管理する管理部と、を備え、前記管理部は、管理中の前記物品と、前記認識部が新たな前記撮影画像から認識した新規認識物品とが、同じ前記エリアに属し且つ同種の前記物品である場合、前記新規認識物品が管理中の前記物品であるとして、管理中の前記物品の前記物品関連情報を前記新規認識物品に引き継がせる、物品管理システム。
これによれば、管理中の物品と新規認識物品とが同じエリアに属し且つ同種の物品である場合、新規認識物品を管理中の物品として管理できる。よって、貯蔵庫に収容される物品を精度良く管理できる。
(技術2)前記管理部は、管理中の前記物品が属する前記エリアと前記新規認識物品が属する前記エリアとが異なる場合、又は、管理中の前記物品と前記新規認識物品とが異種の前記物品である場合、管理中の前記物品の前記物品関連情報を前記新規認識物品に引き継がせることなく、前記新規認識物品を新たに前記貯蔵庫に入庫された前記物品として管理する、技術1に記載の物品管理システム。
これによれば、管理中の物品と新規認識物品とが同じエリアに属さず又は異種の物品である場合、新規認識物品を管理中の物品として管理せず、新たに入庫された物品として管理する。よって、新規認識物品を適切に管理できるため、貯蔵庫に収容される物品を精度良く管理できる。
(技術3)前記管理部は、管理を外してから所定期間が経過していない前記物品の中に、前記新規認識物品と同じ前記エリアに属し、且つ前記新規認識物品と同種の物品がある場合、この場合に該当する管理から外した前記物品の前記物品関連情報を、前記新規認識物品に引き継がせる、技術1又は技術2に記載の物品管理システム。
これによれば、誤って管理から外してしまった物品を、再度、適切に管理できるようになる。よって、貯蔵庫に収容される物品をより精度良く管理できる。
(技術4)前記管理部は、前記物品関連情報に修正があった場合、修正された前記物品関連情報と前記エリアとを対応付けて前記物品を管理する、技術1から技術3のいずれか一つに記載の物品管理システム。
これによれば、修正された物品関連情報を管理に反映させることができるため、ユーザの意図を反映して物品を管理できる。よって、貯蔵庫に収容される物品を適切に且つ精度良く管理できる。
(技術5)前記収容ケースの画像を前記撮影画像から切り出す切出部と、切り出した前記収容ケースの画像が含む特徴部を基準として前記収容ケースの画像を複数の前記エリアに分割する分割部と、を備え、前記管理部は、前記分割部が分割した前記エリアと前記物品関連情報とを対応付けて前記物品を管理する、技術1から技術4のいずれか一つに記載の物品管理システム。
これによれば、特徴部を基準にしてエリアが分割されるため、収容ケースの画像に写る収容ケースの引き出し度合いによって分割されるエリアが異なってしまうことを防止できる。よって、収容ケースの画像に写る収容ケースの開度に依ることなく、新規認識物品が管理中の物品であるか否かを適切に判定できるようになるため、貯蔵庫に収容される物品をより精度良く管理できる。
(技術6)貯蔵庫に収容される物品を管理する物品管理システムの制御方法であって、前記貯蔵庫の収容ケースを撮影するカメラの撮影画像から前記物品を認識し、認識した前記物品ごとに、前記物品が収容される前記収容ケースのエリアと、前記物品に関する物品関連情報とを対応付けて前記物品を管理し、前記物品の管理においては、管理中の前記物品と、新たな前記撮影画像から認識された新規認識物品とが、同じ前記エリアに属し且つ同種の前記物品である場合、前記新規認識物品が管理中の前記物品であるとして、管理中の前記物品の前記物品関連情報を前記新規認識物品に引き継がせる、物品管理システムの制御方法。
これによれば、技術1の物品管理システムと同様の効果を奏する。
(技術7)貯蔵庫に収容される物品を管理する物品管理装置であって、前記貯蔵庫の収容ケースを撮影するカメラの撮影画像から前記物品を認識する認識部と、前記認識部が認識した前記物品ごとに、前記物品が収容される前記収容ケースのエリアと、前記物品に関する物品関連情報とを対応付けて前記物品を管理する管理部と、を備え、前記管理部は、管理中の前記物品と、前記認識部が新たな前記撮影画像から認識した新規認識物品とが、同じ前記エリアに属し且つ同種の前記物品である場合、前記新規認識物品が管理中の前記物品であるとして、管理中の前記物品の前記物品関連情報を前記新規認識物品に引き継がせる、物品管理装置。
これによれば、技術1の物品管理システムと同様の効果を奏する。
(技術8)貯蔵庫に収容される物品を管理する物品管理装置のプロセッサを、前記貯蔵庫の収容ケースを撮影するカメラの撮影画像から前記物品を認識する認識部と、前記認識部が認識した前記物品ごとに、前記物品が収容される前記収容ケースのエリアと、前記物品に関する物品関連情報とを対応付けて前記物品を管理する管理部と、して機能させ、前記管理部は、管理中の前記物品と、前記認識部が新たな前記撮影画像から認識した新規認識物品とが、同じ前記エリアに属し且つ同種の前記物品である場合、前記新規認識物品が管理中の前記物品であるとして、管理中の前記物品の前記物品関連情報を前記新規認識物品に引き継がせる、プログラム。
これによれば、技術1の物品管理システムと同様の効果を奏する。
以上のように、本発明に係る物品管理システム、物品管理システムの制御方法、物品管理装置、及びプログラムは、貯蔵庫に収容される物品を管理する用途に利用可能である。
1、1A 物品管理システム
2、2A 冷蔵庫(貯蔵庫)
3、3A 撮影装置
4 端末装置
5 物品管理サーバ(物品管理装置)
50 サーバプロセッサ(プロセッサ)
51 サーバメモリ
52 サーバ通信モジュール
302 狭角カメラ(カメラ)
356 生成部(切出部、分割部)
403 認識部
501 サーバ通信制御部
502 認識部
503 管理部
511 制御プログラム(プログラム)
5125 物品関連情報
AR エリア
CA 収容ケース
CAG 収容ケース画像
D1 管理用データ
MK マーカー(特徴部)

Claims (8)

  1. 貯蔵庫に収容される物品を管理する物品管理システムであって、
    前記貯蔵庫の収容ケースを撮影するカメラの撮影画像から前記物品を認識する認識部と、
    前記認識部が認識した前記物品ごとに、前記物品が収容される前記収容ケースのエリアと、前記物品に関する物品関連情報とを対応付けて前記物品を管理する管理部と、を備え、
    前記管理部は、
    管理中の前記物品と、前記認識部が新たな前記撮影画像から認識した新規認識物品とが、同じ前記エリアに属し且つ同種の前記物品である場合、前記新規認識物品が管理中の前記物品であるとして、管理中の前記物品の前記物品関連情報を前記新規認識物品に引き継がせる、
    物品管理システム。
  2. 前記管理部は、
    管理中の前記物品が属する前記エリアと前記新規認識物品が属する前記エリアとが異なる場合、又は、管理中の前記物品と前記新規認識物品とが異種の前記物品である場合、管理中の前記物品の前記物品関連情報を前記新規認識物品に引き継がせることなく、前記新規認識物品を新たに前記貯蔵庫に入庫された前記物品として管理する、
    請求項1に記載の物品管理システム。
  3. 前記管理部は、
    管理を外してから所定期間が経過していない前記物品の中に、前記新規認識物品と同じ前記エリアに属し、且つ前記新規認識物品と同種の物品がある場合、この場合に該当する管理から外した前記物品の前記物品関連情報を、前記新規認識物品に引き継がせる、
    請求項1又は2に記載の物品管理システム。
  4. 前記管理部は、
    前記物品関連情報に修正があった場合、修正された前記物品関連情報と前記エリアとを対応付けて前記物品を管理する、
    請求項1又は2に記載の物品管理システム。
  5. 前記収容ケースの画像を前記撮影画像から切り出す切出部と、
    切り出した前記収容ケースの画像が含む特徴部を基準として前記収容ケースの画像を複数の前記エリアに分割する分割部と、を備え、
    前記管理部は、前記分割部が分割した前記エリアと前記物品関連情報とを対応付けて前記物品を管理する、
    請求項1に記載の物品管理システム。
  6. 貯蔵庫に収容される物品を管理する物品管理システムの制御方法であって、
    前記貯蔵庫の収容ケースを撮影するカメラの撮影画像から前記物品を認識し、
    認識した前記物品ごとに、前記物品が収容される前記収容ケースのエリアと、前記物品に関する物品関連情報とを対応付けて前記物品を管理し、
    前記物品の管理においては、
    管理中の前記物品と、新たな前記撮影画像から認識された新規認識物品とが、同じ前記エリアに属し且つ同種の前記物品である場合、前記新規認識物品が管理中の前記物品であるとして、管理中の前記物品の前記物品関連情報を前記新規認識物品に引き継がせる、
    物品管理システムの制御方法。
  7. 貯蔵庫に収容される物品を管理する物品管理装置であって、
    前記貯蔵庫の収容ケースを撮影するカメラの撮影画像から前記物品を認識する認識部と、
    前記認識部が認識した前記物品ごとに、前記物品が収容される前記収容ケースのエリアと、前記物品に関する物品関連情報とを対応付けて前記物品を管理する管理部と、を備え、
    前記管理部は、
    管理中の前記物品と、前記認識部が新たな前記撮影画像から認識した新規認識物品とが、同じ前記エリアに属し且つ同種の前記物品である場合、前記新規認識物品が管理中の前記物品であるとして、管理中の前記物品の前記物品関連情報を前記新規認識物品に引き継がせる、
    物品管理装置。
  8. 貯蔵庫に収容される物品を管理する物品管理装置のプロセッサを、
    前記貯蔵庫の収容ケースを撮影するカメラの撮影画像から前記物品を認識する認識部と、
    前記認識部が認識した前記物品ごとに、前記物品が収容される前記収容ケースのエリアと、前記物品に関する物品関連情報とを対応付けて前記物品を管理する管理部と、して機能させ、
    前記管理部は、
    管理中の前記物品と、前記認識部が新たな前記撮影画像から認識した新規認識物品とが、同じ前記エリアに属し且つ同種の前記物品である場合、前記新規認識物品が管理中の前記物品であるとして、管理中の前記物品の前記物品関連情報を前記新規認識物品に引き継がせる、
    プログラム。
JP2022165226A 2022-10-14 2022-10-14 物品管理システム、物品管理システムの制御方法、物品管理装置、及びプログラム Pending JP2024058085A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022165226A JP2024058085A (ja) 2022-10-14 2022-10-14 物品管理システム、物品管理システムの制御方法、物品管理装置、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022165226A JP2024058085A (ja) 2022-10-14 2022-10-14 物品管理システム、物品管理システムの制御方法、物品管理装置、及びプログラム

Publications (1)

Publication Number Publication Date
JP2024058085A true JP2024058085A (ja) 2024-04-25

Family

ID=90789846

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022165226A Pending JP2024058085A (ja) 2022-10-14 2022-10-14 物品管理システム、物品管理システムの制御方法、物品管理装置、及びプログラム

Country Status (1)

Country Link
JP (1) JP2024058085A (ja)

Similar Documents

Publication Publication Date Title
WO2018045838A1 (zh) 智能冰箱的食品信息管理方法、设备和计算机可读存储介质
JP2016023854A (ja) 判定装置、および、判定方法
CN105358925A (zh) 制冷器具系统
JP2016196981A (ja) 庫内管理システムおよび庫内管理方法
JP2012193873A (ja) 収納装置
JP2023001274A (ja) 食品検出装置
WO2021212993A1 (zh) 制冷电器摄像头模块和用于防止镜头起雾的方法
JP7281755B2 (ja) 冷蔵庫
KR102145607B1 (ko) 전기제품
JP7340766B2 (ja) 冷蔵庫
JP2024058085A (ja) 物品管理システム、物品管理システムの制御方法、物品管理装置、及びプログラム
JP2024016290A (ja) 撮影装置
JP2022162053A (ja) 食品管理システム、及び冷蔵庫
JP2022162054A (ja) 食品管理システム
KR20190097903A (ko) 입력 패턴에 따라 인공지능을 이용하여 정보를 처리하는 냉장고 및 방법
WO2023095536A1 (ja) 検出装置、検出装置の制御方法、及びプログラム
WO2024080037A1 (ja) 物品管理システム、及び冷蔵庫
WO2023095533A1 (ja) 検出システム、プログラム及び入出庫管理方法
WO2023095529A1 (ja) プログラム、端末装置、端末装置の制御方法、及び表示システム
WO2024080015A1 (ja) 撮像システム、撮像装置、及び冷蔵庫
WO2023166916A1 (ja) 物品管理システム、物品管理方法及びプログラム
JP2023079899A (ja) プログラム、端末装置、およびレシピ表示システム
JP7289084B2 (ja) 冷蔵庫
JP7407383B2 (ja) プログラム、端末装置、及び端末装置の制御方法
CN111418269B (zh) 移动式辅助装置及移动式辅助方法