JP2024058083A - 撮像システム、撮像装置、及び冷蔵庫 - Google Patents

撮像システム、撮像装置、及び冷蔵庫 Download PDF

Info

Publication number
JP2024058083A
JP2024058083A JP2022165224A JP2022165224A JP2024058083A JP 2024058083 A JP2024058083 A JP 2024058083A JP 2022165224 A JP2022165224 A JP 2022165224A JP 2022165224 A JP2022165224 A JP 2022165224A JP 2024058083 A JP2024058083 A JP 2024058083A
Authority
JP
Japan
Prior art keywords
image
drawer
photographed
camera
refrigerator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022165224A
Other languages
English (en)
Inventor
愼一 堀井
拓 仮屋崎
和寛 持永
渉 須田
ザリナ ラフィー
博之 海藏
望 江坂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2022165224A priority Critical patent/JP2024058083A/ja
Priority to PCT/JP2023/031235 priority patent/WO2024080015A1/ja
Publication of JP2024058083A publication Critical patent/JP2024058083A/ja
Pending legal-status Critical Current

Links

Classifications

    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F25REFRIGERATION OR COOLING; COMBINED HEATING AND REFRIGERATION SYSTEMS; HEAT PUMP SYSTEMS; MANUFACTURE OR STORAGE OF ICE; LIQUEFACTION SOLIDIFICATION OF GASES
    • F25DREFRIGERATORS; COLD ROOMS; ICE-BOXES; COOLING OR FREEZING APPARATUS NOT OTHERWISE PROVIDED FOR
    • F25D11/00Self-contained movable devices, e.g. domestic refrigerators
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F25REFRIGERATION OR COOLING; COMBINED HEATING AND REFRIGERATION SYSTEMS; HEAT PUMP SYSTEMS; MANUFACTURE OR STORAGE OF ICE; LIQUEFACTION SOLIDIFICATION OF GASES
    • F25DREFRIGERATORS; COLD ROOMS; ICE-BOXES; COOLING OR FREEZING APPARATUS NOT OTHERWISE PROVIDED FOR
    • F25D23/00General constructional features
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F25REFRIGERATION OR COOLING; COMBINED HEATING AND REFRIGERATION SYSTEMS; HEAT PUMP SYSTEMS; MANUFACTURE OR STORAGE OF ICE; LIQUEFACTION SOLIDIFICATION OF GASES
    • F25DREFRIGERATORS; COLD ROOMS; ICE-BOXES; COOLING OR FREEZING APPARATUS NOT OTHERWISE PROVIDED FOR
    • F25D29/00Arrangement or mounting of control or safety devices

Landscapes

  • Engineering & Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Thermal Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Cold Air Circulating Systems And Constructional Details In Refrigerators (AREA)
  • Devices That Are Associated With Refrigeration Equipment (AREA)

Abstract

【課題】カメラにより撮影された画像から冷蔵庫の庫内状況を適切に撮像した撮影画像を選定する。【解決手段】撮像システム7は、上面に開口が形成された引出24Aを有する冷凍室24を備える冷蔵庫2を撮影し、冷蔵庫2の天面20Aに配置された挟角カメラ302と、引出24Aの上端部に配置され、引出24Aの引出量に応じて挟角カメラ302による撮影状態が変化する被撮影体PS2と、引出24Aの所定の引出量における被撮影体PS2の挟角カメラ302による撮影状態である第2撮影状態CD2を記憶する状態記憶部364と、第2撮影状態CD2に基づいて、挟角カメラ302により撮影された撮像画像PB2から引出24Aが引き出された状態である場合の撮影画像である第2撮影画像P2を選定する生成部356と、を備える。【選択図】図8

Description

本開示は、撮像システム、撮像装置、及び冷蔵庫に関する。
特許文献1は、冷蔵庫の上部にカメラを設け、冷蔵庫の開口部を通過する物体を検出した際に撮影を実行し、撮影結果に基づいて冷蔵庫に収容される食品を管理する技術を開示する。
特開2019-070476号公報
本開示は、カメラにより撮影された画像から冷蔵庫の庫内状況を適切に撮像した撮影画像を選定する撮像システム、撮像装置、及び冷蔵庫を提供する。
本開示における撮像システムは、上面に開口が形成された引出を有する貯蔵室を備える冷蔵庫を撮影し、前記冷蔵庫の上面に配置されたカメラと、前記引出の上端部に配置され、前記引出の引出量に応じて前記カメラによる撮影状態が変化する被撮影体と、前記引出の所定の引出量における前記被撮影体の前記カメラによる撮影状態を記憶する状態記憶部と、前記状態記憶部が記憶した前記被撮影体の前記カメラによる撮影状態に基づいて、前記カメラにより撮影された画像から前記引出が引き出された状態である場合の撮影画像を選定する選定部と、を備える。
また、本開示における撮像装置は、上面に開口が形成された引出を有する貯蔵室を備える冷蔵庫を撮影し、前記冷蔵庫の上面に配置されたカメラと、前記引出の所定の引出量における被撮影体の前記カメラによる撮影状態を記憶する状態記憶部と、前記状態記憶部が記憶した前記被撮影体の前記カメラによる撮影状態に基づいて、前記カメラにより撮影された画像から前記引出が引き出された状態である場合の撮影画像を選定する選定部と、を備え、前記被撮影体は、前記引出の上端部に配置され、前記引出の引出量に応じて前記カメラによる撮影状態が変化する。
また、本開示における冷蔵庫は、上面に開口が形成された引出を有する貯蔵室を備える冷蔵庫を撮影し、前記冷蔵庫の上面に配置されたカメラと、前記引出の上端に配置され、前記引出の引出量に応じて前記カメラによる撮影状態が変化する被撮影体と、前記引出の所定の引出量における前記被撮影体の前記カメラによる撮影状態を記憶する状態記憶部と、前記状態記憶部が記憶した前記被撮影体の前記カメラによる撮影状態に基づいて、前記カメラにより撮影された画像から前記引出が引き出された状態である場合の撮影画像を選定する選定部と、を備える。
本開示における撮像システム、撮像装置、及び冷蔵庫は、状態記憶部が記憶した被撮影体のカメラによる撮影状態に基づいて、カメラにより撮影された画像から引出が引き出された状態である場合の撮影画像を選定できる。したがって、カメラにより撮影された画像から貯蔵室の引出の収納状況を適切に撮像した撮影画像を選定できる。
実施の形態1における物品管理システムの構成を示す図 実施の形態1における冷蔵庫の斜視図 実施の形態1における撮影装置を右方からみた側面図 実施の形態1における主箱体の前端縁に当接している規制部材を左前方から見た斜視図 実施の形態1における冷蔵庫及び撮影装置を前方から見た正面図 実施の形態1における冷蔵庫及び撮影装置を右方から見た側面図 実施の形態1における冷蔵庫に取り付けられた撮影装置を上方から見た平面図 実施の形態1における撮影装置の構成を示すブロック図 実施の形態1における被撮影体の第1実施例の構成を示す図 実施の形態1における被撮影体の第2実施例の構成を示す図 実施の形態1における被撮影体の第2実施例の構成を示す図 実施の形態1における被撮影体の撮影対象画像の第1実施例を示す図 実施の形態1における被撮影体の撮影対象画像の第2実施例を示す図 実施の形態1における端末装置及び物品管理サーバの構成を示すブロック図 実施の形態1における撮影装置の動作を示すフローチャート 実施の形態1における撮影装置及び物品管理サーバの動作を示すフローチャート 実施の形態1における端末装置及び物品管理サーバの動作を示すフローチャート 実施の形態2における物品管理システムの構成を示す図 実施の形態2における冷蔵庫の構成を示すブロック図 撮像装置の動作を示すフローチャート
(本開示の基礎となった知見等)
発明者らが本開示に想到するに至った当時には、冷蔵庫の開口部を通過する物体を検出した際に撮影を実行し、撮影結果に基づいて冷蔵庫に収容される食品を管理するという技術があった。
冷蔵庫の庫内状況を適切に撮像した撮影画像を選定するという課題を発明者らは発見し、その課題を解決するために、本開示の主題を構成するに至った。
そこで、本開示は、カメラにより撮影された画像から冷蔵庫の庫内状況を適切に撮像した撮影画像を選定する撮像システム、撮像装置、及び冷蔵庫を提供する。
以下、図面を参照しながら実施の形態を詳細に説明する。但し、必要以上に詳細な説明を省略する場合がある。例えば、既によく知られた事項の詳細説明、または、実質的に同一の構成に対する重複説明を省略する場合がある。
なお、添付図面および以下の説明は、当業者が本開示を充分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することを意図していない。
(実施の形態1)
[1-1.構成]
[1-1-1.物品管理システムの構成]
図1は、実施の形態1における物品管理システム1の構成を示す図である。
物品管理システム1は、冷蔵庫2が収容する物品を管理するシステムである。本実施の形態の物品管理システム1は、物品の管理の一例として、冷蔵庫2が収容する物品が写る画像を管理する。
本実施の形態において、冷蔵庫2に収容される物品は、食品や、食品を収容する容器などを含む。物品には、所定のマーカーが付されていてもよい。
物品管理システム1は、冷蔵庫2を備える。
冷蔵庫2は、前面が開口した主箱体20を備える。主箱体20には、冷蔵室21、製氷室22、新鮮凍結室23、冷凍室24、及び野菜室25が形成される。これらの収容室は、冷気で冷却される。冷蔵室21の前面の開口201には、回転式のドア21Aが設置される。ドア21Aは、回転式の右ドア21Bと回転式の左ドア21Cとを含む。製氷室22、新鮮凍結室23、冷凍室24、及び野菜室25の各々には、物品を収容可能な引出22A、引出23A、引出24A、引出25Aがそれぞれ設置される。引出22A~25Aの各々は、設置状態において上面が開口する。以下、引出22A、引出23A、引出24A、及び引出25Aを区別せずに総称する場合には、「26A」の符号を付して、「引出26A」と記載する。また、製氷室22、新鮮凍結室23、冷凍室24、及び野菜室25の各々を区別せずに総称する場合には、「26」の符号を付して、貯蔵室26と記載する。
製氷室22、新鮮凍結室23、冷凍室24、及び野菜室25の各々は、本開示の「貯蔵室」の一例に対応する。
実施の形態1では、本開示の「貯蔵室」が冷凍室24である場合について説明する。
物品管理システム1は、撮像装置3を備える。撮像装置3は、冷蔵庫2の主箱体20の天面20Aに設けられる。なお、主箱体20の天面20Aは、金属で構成される。撮像装置3は、冷蔵庫2を撮影する。
天面20Aは、本開示の「上面」の一例に対応する。
物品管理システム1は、端末装置4を備える。端末装置4は、スマートフォンなどの携帯型のコンピュータである。端末装置4は、冷蔵庫2が収容する物品の管理に係わるアプリケーションプログラムがインストールされており、このアプリケーションプログラムの機能によって物品管理サーバ5と通信する。
以下の説明では、このアプリケーションプログラムを、「物品管理アプリ」と記載し、「411」の符号を付す。
図1では、在宅するユーザPを実線で示し、自宅Hから外出したユーザPを点線で示す。端末装置4は、在宅するユーザPに使用される場合には、通信装置6を介して、或いは通信装置6を介さずに、物品管理サーバ5と通信する。また、端末装置4は、自宅Hから外出したユーザPに使用され、且つ、通信装置6と通信接続を確立できない場合に、通信装置6を介すことなく物品管理サーバ5と通信する。
通信装置6は、公衆回線網などで構成されたネットワークNWに接続し、ネットワークNWを介して物品管理サーバ5と通信する。通信装置6は、冷蔵庫2、撮像装置3、及び端末装置4をネットワークNWに接続するためのインターフェイス装置として機能する。通信装置6は、自宅Hにローカルネットワークを構築する。
物品管理システム1は、物品管理サーバ5を備える。物品管理サーバ5は、冷蔵庫2が収容する物品を管理する装置である。物品管理サーバ5は、物品の管理として、物品が写る画像を保管する。物品管理サーバ5は、ネットワークNWに接続する。なお、各図では、物品管理サーバ5を、1つのブロックによって表現するが、これは必ずしも物品管理サーバ5が単一の装置により構成されることを意味していない。
[1-1-2.冷蔵庫の構成]
図2は、設置状態における冷蔵庫2の斜視図である。
図2では、X軸、Y軸、及びZ軸を図示している。X軸、Y軸、及びZ軸は互いに直交する。Z軸は、上下方向を示し、冷蔵庫2の高さ方向に相当する。X軸及びY軸は、水平方向と平行である。X軸は左右方向を示す。左右方向は、冷蔵庫2の幅方向に相当する。Y軸は前後方向を示す。X軸の正方向は右方向を示す。Y軸の正方向は前方向を示す。Z軸の正方向は上方向を示す。
冷蔵庫2は、主箱体20、ドア21A、及び引出26Aを備える。
主箱体20は、冷蔵庫2の本体を形成する箱状部材である。主箱体20は、前面に開口する外箱202と、外箱202の内部に収められ、前面に開口する内箱203と、外箱202と内箱203との間の空間に充填された断熱材とを備える。外箱202は、例えば、鉄などの金属やABSなどの硬質樹脂等で形成される。外箱202の上面、すなわち主箱20の天面20Aは、金属で形成される。内箱203は、例えばABSなどの硬質樹脂で形成される。断熱材は、例えば硬質ウレタンフォームが採用される。なお、断熱材は、これに限らず、断熱性を有し、外箱202と内箱203との間の空間に充填可能な材料であればよい。
内箱203の内部空間は、仕切り部材によって複数の空間に仕切られる。本実施形態では、内箱203の内部空間は、5つの空間に仕切られ、5つの空間が、それぞれ、冷蔵室21、製氷室22、新鮮凍結室23、冷凍室24、及び野菜室25として機能する。
右ドア21Bは、右ドアヒンジ部材204によって、回転可能に軸支される。右ドアヒンジ部材204は、主箱体20の天面20Aに設置されるヒンジ部材である。左ドア21Cは、左ドアヒンジ部材205によって、回転可能に軸支される。左ドアヒンジ部材205は、主箱体20の天面20Aに設置されたヒンジ部材である。
右ドアヒンジ部材204には、第2無線通信モジュール206が設置される。第2無線通信モジュール206は、冷蔵庫2を制御する制御データを外部装置から受信したり、外部装置に所定のデータを送信したりするモジュールである。
[1-1-3.撮影装置の構成]
図3-図7を参照して撮像装置3について説明する。
図3-図7では、図2に示すX軸、Y軸、及びZ軸と同じX軸、Y軸、及びZ軸を図示する。X軸方向は、撮像装置3の幅方向、及び撮像装置3の左右方向に対応する。Y軸方向は、撮像装置3の前後方向に対応する。Z軸方向は、撮像装置3の上下方向に対応する。
図3は、冷蔵庫2に取り付けられた撮像装置3を右方から見た側面図である。図4は、主箱体20の前端縁20Bに当接している規制部材34を左前方から見た斜視図である。
図3及び図4で示すように、撮像装置3は、主箱体20の天面20Aに設置される本体30と、本体30から前方に延在する撮影部材31と、を備える。撮影部材31は、本体30の前部上方に設けられる。
本体30は、前面において、撮像装置3の電源をオンオフするための電源ボタン32を備える。電源ボタン32には、所定の情報を通知する第1LED(Light emitting diode)33が設けられる。
本体30は、規制部材34を備える。規制部材34は、主箱体20の前端縁20Bに当接することで、冷蔵庫2の前後方向における撮影部材31の位置を規制する。規制部材34は、本体30の底面30Aから下方に延びる板状部材である。規制部材34は、本体30の前面において本体30の幅方向(撮像装置3の幅方向)に延在し、本体30の幅方向の中央にマーク35を有する。マーク35は、撮像装置3の幅方向の中央を示す。規制部材34は、底面30Aから延びる長さが、主箱体20の天面20Aから、ドア21Aの内面上部において天面20Aと略並行に設けられたドアパッキンまでの長さよりも短く形成される。
図5は、冷蔵庫2と冷蔵庫2に取り付けられた撮像装置3とを前方からみた正面図である。図5に示す冷蔵庫2は、ドア21Aが開状態である。図6は、冷蔵庫2と冷蔵庫2に取り付けられた撮像装置3とを右方からみた側面図である。図6に示す冷蔵庫2は、引出25Aが、開状態、すなわち引き出された状態である。図7は、冷蔵庫2に取り付けられた撮像装置3を上方からみた平面図である。
撮像装置3は、広角カメラ301及び狭角カメラ302を備える。広角カメラ301及び狭角カメラ302は、撮影部材31の底面31Aの前端部に設置される。広角カメラ301及び狭角カメラ302は、撮像装置3が冷蔵庫2に取り付けられた状態であって且つドア21Aが閉状態である場合に、ドア21Aの前方に位置する。
広角カメラ301は、狭角カメラ302よりも広角のカメラである。広角カメラ301は、撮像装置3が冷蔵庫2に取り付けられた状態において、冷蔵庫2の前上方から冷蔵室21を撮影する。
例えば、広角カメラ301の撮影範囲は、冷蔵庫2の前方からみて、図5に示す範囲A1を含む。範囲A1は、右ドア21B及び左ドア21Cが最大開度で開状態である場合に、右ドア21B及び左ドア21Cのドアポケット21E、及び冷蔵室21の開口201を含む範囲である。また、広角カメラ301の撮影範囲は、冷蔵庫2の右方からみて、図6に示す範囲A3を含む。範囲A3は、前後方向において、開状態の右ドア21B及び左ドア21Cの前端部から棚21Fの前端部までを含む範囲であり、且つ、上下方向において、冷蔵室21の開口201を含む範囲である。
狭角カメラ302は、広角カメラ301よりも狭角のカメラである。狭角カメラ302は、撮像装置3が冷蔵庫2に取り付けられた状態において、冷蔵庫2の前上方から引出26Aを撮影する。
例えば、狭角カメラ302の撮影範囲は、冷蔵庫2の前方からみて、図5に示す範囲A2を含む。範囲A2は、冷蔵庫2の前方からみて、引出26Aを含む範囲である。また、例えば、狭角カメラ302の撮影範囲は、冷蔵庫2の右方からみて、図6に示す範囲A4を含む。範囲A4は、前後方向において、最も引き出された状態の引出26Aを含む範囲である。なお、狭角カメラ302の撮影範囲は、冷蔵室21内に設けられた引出を含む範囲でもよい。
狭角カメラ302は、本開示の「カメラ」の一例に対応する。
図5-図7に示すように、狭角カメラ302は、実施の形態1における撮像システム7の一部を構成する。実施の形態1における撮像システム7は、狭角カメラ302と、被撮影体PSと、状態記憶部364と、生成部356と、を含む。換言すれば、撮像システム7は、被撮影体PSを備える冷蔵庫2と、狭角カメラ302、状態記憶部364、及び生成部356を備える撮像装置3と、を含む。
被撮影体PS、状態記憶部364、及び生成部356については、図8を参照して説明する。
撮像装置3は、第1フォトセンサ303、及び第2フォトセンサ304を備える。第1フォトセンサ303、及び第2フォトセンサ304は、本体30に設置される。
第1フォトセンサ303は、右ドア21Bの開閉を検知するセンサである。第1フォトセンサ303は、反射型のフォトセンサである。第1フォトセンサ303は、撮像装置3が冷蔵庫2に取り付けられた状態において、右ドア21Bの所定箇所に投光する。そして、第1フォトセンサ303は、受光量を示す信号を出力する。
第2フォトセンサ304は、左ドア21Cの開閉を検知するセンサである。第2フォトセンサ304は、反射型のフォトセンサである。第2フォトセンサ304は、撮像装置3が冷蔵庫2に取り付けられた状態において、左ドア21Cの所定箇所に投光する。そして、第2フォトセンサ304は、受光量を示す検出値を出力する。
撮像装置3は、サーモパイル305を備える。サーモパイル305は、引出26Aの開閉を検知するセンサである。サーモパイル305は、撮影部材31の底面31Aの前端部に設置される。サーモパイル305は、検出した温度を示す検出値を出力する。
撮像装置3は、人感センサ306を備える。人感センサ306は、赤外線式のセンサでも超音波式のセンサでもよい。人感センサ306は、検出値を出力する。人感センサ306は、撮影部材31の底面31Aの前端部に設置される。
撮像装置3は、照度センサ307を備える。照度センサ307は、広角カメラ301及び狭角カメラ302の露出を調整するためのセンサである。照度センサ307は、検出値を出力する。照度センサ307は、撮影部材31の前端部に設置される。
撮像装置3は、第2LED308、及び第3LED309を備える。第2LED308は、撮影部材31の底面31Aの右前端部に設置される。第3LED309は、撮影部材31の底面31Aの左前端部に設置される。第2LED308、及び第3LED309は、撮像装置3が取り付けられた冷蔵庫2を上方から照らす。
図7に示すように、撮像装置3は、第1制御基板311、及び第2制御基板312を含む。
第1制御基板311は、撮像装置3が具備する各種センサ、及び撮像装置3の電源を制御する基板である。第1制御基板311は、撮像装置3の内部に設置される。第1制御基板311には、電源ボタン32、第1LED33、第1フォトセンサ303、第2フォトセンサ304、サーモパイル305、人感センサ306、及び照度センサ307が接続する。そして、第1制御基板311は、これらデバイスを制御する。第1制御基板311は、第2制御基板312及び第1無線通信モジュール313の後方に設置される。
第2制御基板312は、広角カメラ301と狭角カメラ302を制御し、また、第1無線通信モジュール313を制御する基板である。第2制御基板312は、撮像装置3の内部に設置される。第2制御基板312には、広角カメラ301、狭角カメラ302、及び第1無線通信モジュール313が接続する。そして、第2制御基板312は、これらデバイスを制御する。第2制御基板312は、第1制御基板311の前方に第1制御基板311と並んで設置される。
第1無線通信モジュール313は、アンテナや無線通信回路などのハードウェアを備える装置である。第1無線通信モジュール313は、撮影部材31の内部において、第2制御基板312の左方に設置される。第1無線通信モジュール313は、撮像装置3が冷蔵庫2に取り付けられた状態において主箱体20の開口201より前方に位置するように、撮像装置3に設置される。より具体的には、第1無線通信モジュール313は、撮像装置3において規制部材34よりも前方に設置される。
図7に示すように、撮像装置3が冷蔵庫2に取り付けられた状態において、左右方向における第1無線通信モジュール313と第2無線通信モジュール206との間には、金属板314が設置される。
図8は、撮像装置3の構成を示すブロック図である。
図8に示すように、第1制御基板311は、CPU(Central Processing Unit)などの第1プロセッサ320、第1メモリ330、第1通信モジュール340、及び他の装置やセンサ類が接続されるインターフェイス回路を備える。
第1メモリ330は、第1プロセッサ320が実行するプログラムやデータを記憶する記憶装置である。第1メモリ330は、例えばROM(Read Only Memory)などの不揮発性の記憶装置により構成される。第1メモリ330は、例えばRAM(Random Access Memory)などの、第1プロセッサ320のワークエリアを構成する揮発性の記憶装置を含んでもよい。第1メモリ330は、第1プロセッサ320により処理されるデータや、第1プロセッサ320が実行する制御プログラム331を記憶する。
第1通信モジュール340は、所定の有線通信規格に従った通信回路やコネクタなどのハードウェアを備え、第1プロセッサ320の制御に従って第2制御基板312と通信する。
第1プロセッサ320は、制御プログラム331を読み出して実行することにより、電源ボタン32の操作に応じて、撮像装置3の電源のオンオフを行う。
また、第1プロセッサ320は、制御プログラム331を読み出して実行することにより、第1LED33、第2LED308、及び第3LED309の点灯及び消灯を行う。
また、第1プロセッサ320は、制御プログラム331を読み出して実行することにより、第1制御基板311に接続する各センサが出力した検出値を、第1通信モジュール340を介して第2制御基板312に送信する。
第2制御基板312は、CPUなどの第2プロセッサ350、第2メモリ360、第2通信モジュール370、及び他の装置やセンサ類が接続されるインターフェイス回路を備える。
第2メモリ360は、第2プロセッサ350が実行するプログラムやデータを記憶する記憶装置である。第2メモリ360は、例えばROMなどの不揮発性の記憶装置により構成される。また、第2メモリ360は、例えばRAMなどの、第2プロセッサ350のワークエリアを構成する揮発性の記憶装置を含んでもよい。第2メモリ360は、第2プロセッサ350により処理されるデータや、第2プロセッサ350が実行する制御プログラム361や撮影装置ID(Identification)362を記憶する。
撮影装置ID362は、撮像装置3を一意に特定する情報である。
第2通信モジュール370は、所定の有線通信規格に従った通信回路やコネクタなどのハードウェアを備え、第2プロセッサ350の制御に従って第1制御基板311と通信する。
第2プロセッサ350は、第2メモリ360に記憶された制御プログラム361を読み出して実行することにより、第1通信制御部351、第2通信制御部352、開閉判定部353、撮影制御部354、録画制御部355、及び生成部356として機能する。また、第2プロセッサ350は、第2メモリ360に記憶された制御プログラム361を読み出して実行することによって、第2メモリ360を、状態記憶部364として機能させる。
第1通信制御部351は、第1無線通信モジュール313を介して、物品管理サーバ5と通信する。
第2通信制御部352は、第2通信モジュール370を介して、第1制御基板311と通信する。第2通信制御部352は、第1制御基板311に接続される各種センサの検出値を第1制御基板311から受信する。
開閉判定部353は、第2通信制御部352が受信する第1フォトセンサ303の検出値に基づいて、右ドア21Bが開状態か閉状態かを判定する。開閉判定部353は、閉状態に対応する検出値と異なる検出値を、第2通信制御部352が受信した場合には、右ドア21Bが開状態であると判定する。一方、開閉判定部353は、閉状態に対応する検出値を第2通信制御部352が受信した場合に、右ドア21Bが閉状態であると判定する。
開閉判定部353は、右ドア21Bについての判定と同様に、第2通信制御部352が第2フォトセンサ304の検出値に基づいて、左ドア21Cが開状態か閉状態かを判定する。
開閉判定部353は、第2通信制御部352が受信するサーモパイル305の検出値に基づいて、引出26Aが開状態か閉状態かを判定する。開閉判定部353は、所定温度以下の温度を示すサーモパイル305の検出値を、第2通信制御部352が受信した場合には、引出26Aが開状態であると判定する。一方、開閉判定部353は、所定温度を上回る温度を示すサーモパイル305の検出値を第2通信制御部352が受信した場合には、引出26Aが閉状態であると判定する。
撮影制御部354は、ドア21A又は引出26Aが開状態になったと開閉判定部353が判定した場合に、広角カメラ301及び狭角カメラ302に撮影を開始させる。なお、第2通信制御部352は、撮影制御部354が広角カメラ301及び狭角カメラ302に撮影を開始させると、第1制御基板311に点灯要求情報を送信する。点灯要求情報は、第2LED308及び第3LED309の点灯を要求する情報である。第1プロセッサ320は、点灯要求情報を受信すると、第2LED308及び第3LED309を点灯させ、撮影を開始したことをユーザPに通知する。
撮影制御部354は、ドア21A及び引出26Aが閉状態になったと開閉判定部353が判定した場合には、広角カメラ301及び狭角カメラ302に撮影を終了させる。なお、第2通信制御部352は、撮影制御部354が広角カメラ301及び狭角カメラ302に撮影を終了させると、第1制御基板311に消灯要求情報を送信する。消灯要求情報は、第2LED308及び第3LED309の消灯を要求する情報である。第1プロセッサ320は、消灯要求情報を受信すると、第2LED308及び第3LED309を消灯させ、撮影を終了したことをユーザPに通知する。
録画制御部355は、ドア21A又は引出26Aが開状態になったと開閉判定部353が判定した場合に、広角カメラ301及び狭角カメラ302の撮影結果の録画を開始する。すなわち、録画制御部355は、第2メモリ360に対して、録画データ363の記録を開始する。録画データ363には、広角カメラ301の撮影結果を示す第1録画データDV1と、狭角カメラ302の撮影結果を示す第2録画データDV2とが含まれる。
録画制御部355は、ドア21A及び引出26Aが閉状態になったと開閉判定部353が判定した場合には、広角カメラ301及び狭角カメラ302の撮影結果の録画を終了する。
状態記憶部364は、第1撮影状態CD1と第2撮影状態CD2とを、予め記憶する。第1撮影状態CD1は、ドア21Aの所定の開閉角度における被撮影体PS1の広角カメラ301による撮影状態を示す。開閉角度が零度の場合に、ドア21Aは、閉状態であることを示す。開閉角度が大きい程、ドア21Aは、大きく開いていることを示す。所定の開閉角度は、例えば、60度~100度の範囲に含まれる。所定の開閉角度は、例えば、90度である。以下の説明では、ドア21Aが所定の開閉角度(例えば、60度~100度)の状態を、「第1基準状態」と記載する。
第1撮影状態CD1は、例えば、第1基準状態で広角カメラ301によって撮像された撮像画像PA1において、被撮影体PS1に対応する画像の位置、サイズ、及び形状の少なくとも1つを含む。実施の形態1では、第1撮影状態CD1は、例えば、第1基準状態で広角カメラ301によって撮像された撮像画像PA1において、被撮影体PS1に対応する画像のサイズを含む。
被撮影体PS1については、図9を参照して更に説明する。
第2撮影状態CD2は、引出26Aの所定の引出量における被撮影体PS2の狭角カメラ302による撮影状態を示す。引出量が零の場合に、引出26Aは、閉状態であることを示す。所定の引出量が大きい程、引出26Aは、大きく開いていることを示す。引出量が100%であることは、引出26Aが全開状態であることを示す。所定の引出量は、例えば、70%~100%の範囲に含まれる。所定の引出量は、例えば、80%である。以下の説明では、引出26Aが所定の引出量(例えば、70%~100%)の状態を、「第2基準状態」と記載する。
第2撮影状態CD2は、例えば、第2基準状態で狭角カメラ302によって撮像された撮像画像PA2において、被撮影体PS2に対応する画像の位置、サイズ、及び形状の少なくとも1つを含む。実施の形態1、及び実施の形態2では、第2撮影状態CD2は、例えば、第2基準状態で狭角カメラ302によって撮像された撮像画像PA2において、被撮影体PS2に対応する画像のサイズを含む。
第2撮影状態CD2は、本開示の「引出の所定の引出量における被撮影体のカメラによる撮影状態」の一例に対応する。
被撮影体PS2は、貯蔵室26の引出26Aの上端部に配置され、引出26Aの引出量に応じて狭角カメラ302による撮影状態が変化する。なお、引出26Aの引出量とは、引出26Aの貯蔵室26に対する引出量である。実施の形態1では、貯蔵室26が冷凍室24であり、引出26Aが引出24Aである場合について説明する。
被撮影体PS2は、例えば、引出24Aの上端部に配置され、引出24Aの引出量に応じて狭角カメラ302による撮影状態が変化する。
被撮影体PS2については、図11を参照して更に説明する。
生成部356は、録画データ363の第1録画データDV1が示す動画像に含まれる撮像画像PB1から、第1撮影状態CD1に基づいて、第1撮影画像P1を選定する。第1撮影画像P1は、ドア21Aが開状態である場合の撮像画像PA1である。
また、生成部356は、録画データ363の第2録画データDV2が示す動画像に含まれる撮像画像PB2から、第2撮影状態CD2に基づいて、第2撮影画像P2を選定する。第2撮影画像P2は、引出26Aが開状態である場合の撮像画像PA2である。
そして、生成部356は、第1撮影画像P1及び第2撮影画像P2から管理用データD1を生成する。管理用データD1は、物品管理サーバ5にアップロードするデータであり、冷蔵庫2が収容する物品を管理するためのデータである。第1通信制御部351は、生成部356が生成した管理用データD1を物品管理サーバ5に送信する。
生成部356は、本開示の「選定部」の一例に対応する。
撮像画像PB2は、本開示の「カメラにより撮影された画像」の一例に対応する。
第2撮影画像P2は、本開示の「引出が引き出された状態である場合の撮影画像」の一例に対応する。
本実施形態では、撮像装置3が生成部356を備える場合について説明するが、これに限定されない。例えば、物品管理サーバ5が、生成部356を備える形態でもよい。この場合には、管理用データD1は、第1録画データDV1、及び第2録画データDV2を含む。
なお、実施の形態1では、生成部356は、録画データ363の第1録画データDV1が示す動画像に含まれる撮像画像PB1から、第1撮影状態CD1に基づいて、第1撮影画像P1を選定するが、これに限定されない。生成部356は、録画データ363の第1録画データDV1が示す動画像に含まれる撮像画像PB1から、第1撮影状態CD1に基づいて、且つ、ユーザPの映り込みが最も少ない撮像画像PB1を第1撮影画像P1として選定してもよい。
この場合には、生成部356は、第1撮影状態CD1に基づいて選定された第1撮影画像P1の中から、以下のようにして、更に第1撮影画像P1を選定する。すなわち、生成部356は、例えば、パターンマッチングなどの方法によってユーザPの画像を認識し、認識したユーザPの画像の面積が最も少ない撮像画像PB1を第1撮影画像P1として選定する。
同様に、実施の形態1では、生成部356は、録画データ363の第2録画データDV2が示す動画像に含まれる撮像画像PB2から、第2撮影状態CD2に基づいて、第2撮影画像P2を選定するが、これに限定されない。生成部356は、録画データ363の第2録画データDV2が示す動画像に含まれる撮像画像PB2から、第2撮影状態CD2に基づいて、且つ、ユーザPの映り込みが最も少ない撮像画像PB2を第2撮影画像P2として選定してもよい。
[1-1-4.被撮影体の構成]
次に、図9を参照して、被撮影体PSの構成の一例について説明する。図9は、実施の形態1における被撮影体PSの第1実施例の構成を示す図である。以下の説明において、第1実施例の被撮影体PSを、被撮影体PS1と記載する。被撮影体PS1は、右ドア21Bの左端と、冷蔵室21の開口の右端との間を連結する連結部材で構成される。被撮影体PS1は、右ドア21Bの開閉角度が大きくなる程、左右方向の長さLDが増大する。
この場合には、状態記憶部364は、第1撮影状態CD1の一例として、開閉角度を60度~100度にしたときの広角カメラ301によって撮像された撮像画像PA1における長さLDを記憶する。また、生成部356は、状態記憶部364が記憶した撮像画像PA1における長さLDに基づいて、録画データ363の第1録画データDV1が示す動画像に含まれる撮像画像PB1から右ドア21Bが開状態である場合の第1撮影画像P1を選定する。
なお、生成部356は、状態記憶部364が記憶した撮像画像PA1における被撮影体PS1の面積に基づいて、録画データ363の第1録画データDV1が示す動画像に含まれる撮像画像PB1から右ドア21Bが開状態である場合の第1撮影画像P1を選定してもよい。この場合には、状態記憶部364は、第1撮影状態CD1の一例として、開閉角度を60~100度にしたときの広角カメラ301によって撮像された撮像画像PA1における被撮影体PS1の面積を記憶してもよい。
図9では、被撮影体PS1が、右ドア21Bの左端と、冷蔵室21の開口の右端との間を連結する連結部材で構成される場合について説明したが、被撮影体PS2が、左ドア21Cの右端と、冷蔵室21の開口の左端との間を連結する連結部材で構成されてもよい。
なお、図9、図10、及び図11には、図2に示すX軸、Y軸、及びZ軸と同じX軸、Y軸、及びZ軸を図示する。
次に、図10-図11を参照して、被撮影体PSの構成について説明する。なお、以下の説明では、被撮影体PSが、引出24Aの上端部に配置され、引出24Aの引出量に応じて狭角カメラ302による撮影状態が変化する場合について説明する。
なお、以下の説明では、状態記憶部364が、第2撮影状態CD2として、撮影対象画像MKを記憶する場合について説明する。
また、撮影対象画像MKについては、図12-図13を参照して説明する。
図10-図11は、実施の形態1における被撮影体PSの第2実施例の構成を示す図である。以下の説明において、第2実施例の被撮影体PSを、被撮影体PS2と記載する。図10は、引出24Aを100%引き出した状態を示す斜視図である。換言すれば、図10は、最も引き出された状態、すなわち全開状態の引出24Aを示す斜視図である。
図10に示すように、引出24Aには、第1トレイTR1と、第2トレイTR2とが配置される。
第2トレイTR2は、例えば、引出24Aの一対の側面部材の上端部に対して、前後方向、すなわち、Y軸方向に摺動自在に構成される。引出24Aの一対の側面部材は、Y-Z平面と平行に配置される。また、第2トレイTR2のうち冷凍室24内に配置されている部分は、冷凍室24を構成する内箱203の側面に配置されるガイドレールによって、摺動自在に支持される。
第1トレイTR1は、第2トレイTR2の上方に配置され、例えば、第2トレイTR2の一対の側面部材TS1の上端部に対して、前後方向、すなわち、Y軸方向に摺動自在に構成される。第2トレイTR2の一対の側面部材TSAは、Y-Z平面と平行に配置される。また、側面部材TSAの上端部は、Y軸方向に延びる。また、第1トレイTR1のうち冷凍室24内に配置されている部分は、冷凍室24を構成する内箱203の側面に配置されるガイドレールによって、摺動自在に支持される。
第1トレイTR1は、「収納ケース」の一例に対応する。
図10に示すように、被撮影体PS2は、第1トレイTR1の一対の側面部材TS1の上端部に配置される。第1トレイTR1は、一対の側面部材TS1と、前面部材TS2と、背面部材TS3と、底面部材TS4とで上面が開口した箱状に構成される。一対の側面部材TS1の各々は、第1トレイTR1の側面を構成する。前面部材TS2は、第1トレイTR1の前面を構成する。背面部材TS3は、第1トレイTR1の背面を構成する。底面部材TS4は、第1トレイTR1の底面を構成する。
被撮影体PS2は、第1トレイTR1の引き出し方向、すなわち、Y軸方向において、奥側の端部の位置が、所定の引出量に対応する位置に配置される。距離LAは、第1トレイTR1の引き出し方向、すなわち、Y軸方向のサイズである。距離LBは、第1トレイTR1の前面部材TS2と、被撮影体PS2の後端との距離である。被撮影体PS2の後端は、被撮影体PS2のY軸の負方向端である。距離LBは、例えば、距離LAの80%に設定される。すなわち、第1トレイTR1の引出量が80%以上である場合に、被撮影体PS2は、狭角カメラ302で撮像可能な位置に配置される。なお、距離LBは、第1トレイTR1の前面部材TS2と、被撮影体PS2の中心や前端との距離でもよい。
また、撮影面PF2は、固定部材ATの上面に対応する。固定部材ATは、断面が直角三角形の柱状に形成される。固定部材ATは、第1トレイTR1の側面部材TS1に固定される。側面部材TS1は、第1トレイTR1の左側面を構成する左側面部材TS11と、第1トレイTR1の右側面を構成する右側面部材TS12とで構成される。固定部材ATは、左側面部材TS11及び右側面部材TS12の各々の内面側に固定される。なお、固定部材ATは、左側面部材TS11及び右側面部材TS12の少なくとも一方の内面側に固定されてもよい。
図10に示すように、固定部材ATの上面の長辺方向が側面部材TS1と平行になるように固定部材ATが配置される。よって、固定部材ATが第1トレイTR1の内部に突出する長さを抑制できる。したがって、第1トレイTR1に物品を収納する場合、及び第1トレイTR1に収納された物品を取り出す場合に、固定部材ATが邪魔になることを抑制できる。
図11は、右側面部材TS12に固定される固定部材ATの斜視図である。図11に示すように、固定部材ATは、嵌合部材AT1と、柱状部材AT2と、で構成される。
嵌合部材AT1は、第1トレイTR1の右側面部材TS12の上端部に形成された図略の孔に挿入され、第1トレイTR1の右側面部材TS12と嵌合する。
柱状部材AT2は、断面が直角三角形の柱状に形成される。柱状部材AT2は、上面部材AT21と、第1側面部材AT22と、一対の第2側面部材AT23と、を有する。上面部材AT21は、被撮影体PS2に対応する。また、上面部材AT21の上面は、撮影面PF2に対応する。撮影面PF2は、被撮影体PS1のうち、狭角カメラ302によって撮像される面である。撮影面PF2には、破線で示すように、冷凍室24に収納される物品の種類を示す識別情報を含む撮影対象画像MKが形成される。例えば、撮影対象画像MKが形成されたシールが、撮影面PF1に貼付される。
状態記憶部364は、撮影対象画像MKを記憶する。撮影対象画像MKは、第1撮影状態CD1の一例に対応する。
生成部356は、状態記憶部364が記憶した撮影対象画像MKに基づいて、録画データ363の第2録画データDV2が示す動画像に含まれる撮像画像PB2から引出24Aが引き出された状態である場合の第2撮影画像P2を選定する。
第1撮影対象画像MK1については、図12-図13を参照して更に説明する。
第1側面部材AT22は、上面部材AT21に対して直角になるように形成される。第1側面部材AT22には、一対の嵌合部材AT1が立設される。一対の嵌合部材AT1は、前後方向、すなわち、Y軸方向に沿って、第1側面部材AT22に配列される。右側面部材TS12に形成された一対の孔に、嵌合部材AT1が嵌合することによって、固定部材ATが右側面部材TS12に固定される。固定部材ATが右側面部材TS12に固定された状態では、第1側面部材AT22は、右側面部材TS12に当接する。
一対の第2側面部材AT23は、柱状部材AT2のY軸方向の両端、すなわち、手前側端、及び奥側端、に配置される。一対の第2側面部材AT23は、第1側面部材AT22及び第1側面部材AT22と一体に構成される。一対の第2側面部材AT23は、第1側面部材AT22と第1側面部材AT22とが互いに直角をなすように、第1側面部材AT22及び第1側面部材AT22を固定する。
図10では、被撮影体PS2が第1トレイTR1の一対の側面部材TS1の上端部に配置される場合について説明するが、被撮影体PS2が第2トレイTR2の一対の側面部材TSAの上端部に配置されてもよい。また、被撮影体PS2が引出24Aの一対の側面部材24Sの上端部に配置されてもよい。
例えば、冷凍室24において第1トレイTR1、第2トレイTR2、及び引出24Aに被撮影体PS2を配置する場合には、撮影対象画像MKは、冷蔵庫2における冷凍室24に収納される物品の種類を示す識別情報に加えて、被撮影体PS2が配置されている領域情報を含むことが好ましい。
第1トレイTR1に配置される被撮影体PS2の撮影対象画像MKは、例えば、第1トレイTR1を示す領域情報を有する。また、第2トレイTR2に配置される被撮影体PS2の撮影対象画像MKは、例えば、第2トレイTR2を示す領域情報を有する。また、引出24Aに配置される被撮影体PS2の撮影対象画像MKは、例えば、引出24Aを示す領域情報を有する。
図10に示すように、被撮影体PS2は、第1トレイTR1の一対の側面部材TS1の上端部に配置されるため、狭角カメラ302と被撮影体PS1との距離を、例えば、被撮影体PS2が第1トレイTR1の他の位置(例えば、底面部材TS4)に配置される場合と比較して、短くできる。その結果、狭角カメラ302は、第2基準状態で、被撮影体PS2の撮影面PF2に形成される撮影対象画像MKを適切に撮像できる。
また、図10に示すように、被撮影体PS2は、第1トレイTR1の一対の側面部材TS1の上端部に配置されるため、冷蔵庫2に収納される物品等によって、狭角カメラ302と被撮影体PS2との間が遮られることを抑制できる。その結果、狭角カメラ302は、第2基準状態で、被撮影体PS2の撮影面PF2に形成される撮影対象画像MKを適切に撮像できる。
次に、図12-図13を参照して、撮影対象画像MKについて説明する。図12は、実施の形態1における被撮影体PS2の第1撮影対象画像MK1の第1実施例を示す図である。
図12に示すように、撮影対象画像MKは、矩形の外枠画像MFと、外枠画像MFの内部に形成される識別画像MDとを含む。識別画像MDは、冷蔵庫2における冷凍室24に収納される物品の種類を示す識別情報に対応する。外枠画像MFは、例えば、黒色で形成される。
識別画像MDは、第1色の第1矩形画像PD1と、第1色と異なる第2色の第2矩形画像PD2とで構成され、第1矩形画像PD1と第2矩形画像PD2との配置のパターンが、識別情報を示す。第1色は、例えば、白色であり、第2色は、例えば、黒色である。
第1矩形画像PD1のサイズは、第2矩形画像PD2のサイズと同一であり、第1矩形画像PD1及び第2矩形画像PD2の各々は、例えば、正方形である。換言すれば、第1矩形画像PD1の幅WP1と第2矩形画像PD2の幅WP2とは、第1矩形画像PD1及びと第2矩形画像PD2の高さHPと同一である。
外枠画像MFの短辺方向(上下方向)の太さHF、外枠画像MFの長辺方向(左右方向)の太さWFの各々は、例えば、第1矩形画像PD1の幅WP1、第2矩形画像PD2の幅WP2、第1矩形画像PD1の高さHP及び第2矩形画像PD2の高さHPと同一である。
外枠画像MFの短辺方向(上下方向)の太さHF、外枠画像MFの長辺方向(左右方向)の太さWFの各々は、狭角カメラ302の解像度、及び、引出24Aの所定の引出量(例えば、90%)における狭角カメラ302と撮影対象画像MKとの距離に基づいて決定される。また、外枠画像MFの短辺方向(上下方向)の太さHF、外枠画像MFの長辺方向(左右方向)の太さWFの各々は、狭角カメラ302の撮像範囲、又は画角に基づいて決定される。
例えば、狭角カメラ302の解像度が大きい程、外枠画像MFの長辺方向の太さHF、及び外枠画像MFの短辺方向の太さWFを小さくすることができる。また、引出24Aの所定の引出量(例えば、90%)における狭角カメラ302と撮影対象画像MKとの距離が長い程、外枠画像MFの長辺方向の太さHF、及び外枠画像MFの短辺方向の太さWFを大きくする必要がある。また、狭角カメラ302の撮像範囲、又は画角が大きい程、外枠画像MFの長辺方向の太さHF、及び外枠画像MFの短辺方向の太さWFを大きくする必要がある。
図12に示す撮影対象画像MKでは、外枠画像MFの長辺方向の太さHF、外枠画像MFの短辺方向の太さWFの各々は、例えば、6mmである。
第1矩形画像PD1と第2矩形画像PD2とは、外枠画像MFの長手方向(ここでは、左右方向)に沿って配列される。図12では、識別画像MDとして、5個の第1矩形画像PD1と、4個の第2矩形画像PD2が配列される。第1矩形画像PD1は、例えば、「0」を示し、第2矩形画像PD2は、例えば「1」を示す。すなわち、識別画像MDは、9桁の二進数を示す。
識別画像MDは、情報画像MDAと、符号画像MDBとで構成される。情報画像MDAは、5個の矩形画像PDで構成され、符号画像MDBは、4個の矩形画像PDで構成される。矩形画像PDは、第1矩形画像PD1又は第2矩形画像PD2である。情報画像MDAは、冷蔵庫2における冷蔵室21に収納される物品の種類を示す識別情報に対応する。符号画像MDBは、情報画像MDAが示す識別情報の誤り訂正用の符号を示す。
情報画像MDAは、5個の矩形画像PDで構成されるため、5桁の2進数を示す。すなわち、情報画像MDAは、2の5乗、すなわち32種類の識別情報を示す。例えば、図12に示す情報画像MDAは、「01010」という5桁の2進数を示す。
第1矩形画像PD1のサイズ、及び第2矩形画像PD2のサイズは、狭角カメラ302の解像度、及び、引出24Aの所定の引出量(例えば、90%)における狭角カメラ302と撮影対象画像MKとの距離に基づいて決定される。また、第1矩形画像PD1のサイズ、及び第2矩形画像PD2のサイズは、狭角カメラ302の撮像範囲、又は画角に基づいて決定される。
例えば、狭角カメラ302の解像度が大きい程、第1矩形画像PD1のサイズ、及び第2矩形画像PD2のサイズを小さくすることができる。また、引出24Aの所定の引出量(例えば、90%)における狭角カメラ302と撮影対象画像MKとの距離が長い程、第1矩形画像PD1のサイズ、及び第2矩形画像PD2のサイズを大きくする必要がある。また、狭角カメラ302の撮像範囲、又は画角が大きい程、第1矩形画像PD1のサイズ、及び第2矩形画像PD2のサイズを大きくする必要がある。
図12に示す撮影対象画像MKでは、第1矩形画像PD1のサイズ、及び第2矩形画像PD2のサイズは、1辺が6mmの正方形である。
図13は、実施の形態1における被撮影体PSの撮影対象画像MKの第2実施例を示す図である。図13に示す撮影対象画像MKは、識別画像MDが上下方向に2列の矩形画像PDを有する点で、図12に示す撮影対象画像MKと相違する。
情報画像MDAは、10個の矩形画像PDで構成され、符号画像MDBは、8個の矩形画像PDで構成される。符号画像MDBを構成する8個の矩形画像PDのうち、上段の4個の矩形画像PDは、情報画像MDAを構成する10個の矩形画像PDのうち、上段の5個の矩形画像PDが示す識別情報の誤り訂正用の符号を示す。また、符号画像MDBを構成する8個の矩形画像PDのうち、下段の4個の矩形画像PDは、情報画像MDAを構成する10個の矩形画像PDのうち、下段の5個の矩形画像PDの示す識別情報の誤り訂正用の符号を示す。
図13では、識別画像MDが上下方向に2列の矩形画像PDを有する場合について説明するが、これに限定されない。識別画像MDが上下方向に3列以上の矩形画像PDを有してもよい。
図12-図13では、外枠画像MFが黒色で形成される場合について説明するが、これに限定されない。例えば、外枠画像MFが青色で形成されてもよい。また、第1色が白色であり、第2色が黒色である場合について説明するが、これに限定されない。例えば、第1色が黄色であり、第2色が青色でもよい。
図10-図11を参照して説明した被撮影体PS2は、撮影対象画像MKを備える。また、図12-図13に示すように、撮影対象画像MKは、矩形の外枠画像MFと、外枠画像MFの内部に形成される識別画像MDとを含む。そこで、生成部356は、以下の処理を実行する。
すなわち、生成部356は、まず、録画データ363の第2録画データDV2が示す動画像に含まれる撮像画像PB2の各々から外枠画像MFを検出できるか否かを判定する。そして、撮像画像PB2から外枠画像MFを検出できた場合に、生成部356は、検出した外枠画像MFの内部の識別画像MDの示す識別情報を読み取ることができるか否かを判定する。次に、識別画像MDの示す識別情報を読み取ることができ、且つ、読み取った識別情報が、状態記憶部364に記憶された撮影対象画像MKに含まれる識別情報と一致する場合に、生成部356は、撮像画像PB2を、第2撮影画像P2として選定する。
また、生成部356は、例えば、第2録画データDV2が示す動画像に含まれる撮像画像PB1の各々から外枠画像MFを検出できた場合に、被撮影体PSを狭角カメラ302が撮影したことを、LEDの点灯、点滅、又は音声等でユーザPに通知する。
撮像画像PB2の各々から外枠画像MFを検出できた場合は、「前記カメラが前記被撮影体を撮影したと判定した場合」の一例に対応する。
また、生成部356が、第2録画データDV2が示す動画像に含まれる撮像画像PB2の各々から外枠画像MFを容易に検出可能にするために、外枠画像MFの色は、冷凍室24の内側面の色、及び冷凍室24に収納される物品の色と相違することが好ましい。そこで、外枠画像MFの色は、例えば、黒色、青色等が好ましい。
[1-1-5.物品管理サーバの構成]
図14は、端末装置4及び物品管理サーバ5の構成を示すブロック図である。
物品管理サーバ5は、CPUなどのプロセッサであるサーバプロセッサ50、サーバメモリ51、及びサーバ通信モジュール52を備える。サーバプロセッサ50には、サーバメモリ51及びサーバ通信モジュール52が接続される。
サーバメモリ51は、サーバプロセッサ50が実行するプログラムやデータを記憶する記憶装置である。サーバメモリ51は、不揮発性の記憶装置により構成される。また、サーバメモリ51は、サーバプロセッサ50のワークエリアを構成する不揮発性の記憶装置を含んでもよい。サーバメモリ51は、サーバプロセッサ50により処理されるデータや、サーバプロセッサ50が実行する制御プログラム511、物品管理DB(database)512を記憶する。
物品管理DB512は、撮像装置3ごとに1件のレコードを有する。この1件のレコードには、撮影装置ID362、第1撮影画像P1の画像データ、及び第2撮影画像P2の画像データが含まれる。
サーバ通信モジュール52は、所定の通信規格に従った通信回路やコネクタなどを備え、ネットワークNWを介して冷蔵庫2、撮像装置3、及び端末装置4と通信する。
サーバプロセッサ50は、サーバメモリ51が記憶する制御プログラム511を読み出して実行することにより、サーバ通信制御部501及びサーバ処理部502として機能する。
サーバ通信制御部501は、サーバ通信モジュール52を介して冷蔵庫2、撮像装置3、及び端末装置4と通信する。
サーバ処理部502は、撮像装置3及び端末装置4をクライアントとして各種の情報処理を行う。サーバ処理部502は、冷蔵庫2もクライアントとしてもよい。
[1-1-6.端末装置の構成]
次に、端末装置4の構成について説明する。
端末装置4は、CPUなどのプロセッサである端末プロセッサ40、端末メモリ41、端末通信モジュール42、及びタッチパネル43を備える。
端末メモリ41は、端末プロセッサ40が実行するプログラムやデータを不揮発的に記憶する記憶装置である。端末メモリ41は、不揮発性記憶装置により構成される。また、端末メモリ41は、端末プロセッサ40のワークエリアを構成するRAMを含んでもよい。端末メモリ41は、端末プロセッサ40により処理されるデータや、端末プロセッサ40が実行する制御プログラム、物品管理アプリ411を記憶する。
端末通信モジュール42は、所定の通信規格に従った通信回路やコネクタなどを備え、端末プロセッサ40の制御に従って物品管理サーバ5と通信する。
タッチパネル43は、表示パネルと、表示パネルに重ねて或いは一体に設けられたタッチセンサとを備える。
端末プロセッサ40は、アプリ実行部400として機能する。
アプリ実行部400は、端末通信モジュール42を介して、物品管理サーバ5と通信する。
アプリ実行部400は、冷蔵庫2が収容する物品の管理に係るユーザーインターフェースを、タッチパネル43に表示させる。以下の説明において、このユーザーインターフェースを、「アプリUI」という。本実施の形態の表示制御部402は、アプリUIを表示させることで、冷蔵庫2が収容する物品の画像などを表示する。
アプリ実行部400は、アプリUIを介して各種入力をユーザPから受け付ける。
[1-2.動作]
次に、物品管理システム1の各部の動作について説明する。
[1-2-1.録画に係わる動作]
まず、録画に係わる撮像装置3の動作について説明する。
図15は、撮像装置3の動作を示すフローチャートFAである。
開閉判定部353は、ドア21A又は引出26Aが開状態になったか否かを判定する(ステップSA1)。
開閉判定部353が、ドア21A又は引出26Aが開状態になっていないと判定した場合(ステップSA1:NO)、第2プロセッサ350は、処理をステップSA1に戻す。
開閉判定部353が、ドア21A又は引出26Aが開状態になったと判定した場合(ステップSA1:YES)、撮影制御部354は、広角カメラ301及び狭角カメラ302に撮影を開始させる(ステップSA2)。
次いで、録画制御部355は、広角カメラ301及び狭角カメラ302の撮影結果の録画を開始する(ステップSA3)。
次いで、開閉判定部353は、ドア21A及び引出26Aが閉状態になったか否か判定する(ステップSA4)。開閉判定部353は、ドア21A及び引出26Aが閉状態になっていないと判定した場合(ステップSA4:NO)には、再度、ステップSA4の判定を行う。
一方、ドア21A及び引出26Aが閉状態になったと判定した場合(ステップSA4:YES)には、録画制御部355は、撮影結果の録画を終了する(ステップSA5)。これにより、第2メモリ360には、録画データ363が生成される。
次いで、撮影制御部354は、広角カメラ301及び狭角カメラ302に撮影を終了させる(ステップSA6)。
[1-2-2.管理用データの送信に係わる動作]
次に、管理用データD1の送信に係わる動作について説明する。
図16は、撮像装置3、及び物品管理サーバ5の動作を示すフローチャートである。
図16において、フローチャートFBは撮像装置3の動作を示し、フローチャートFCは物品管理サーバ5の動作を示す。
生成部356は、第2メモリ360に、録画データ363が記憶されたか否かを判定する(ステップSB1)。生成部356は、録画データ363が記憶されていないと判定した場合(ステップSB1:NO)、再度、ステップSB1の判定を行う。
一方、生成部356は、録画データ363が記憶されたと判定した場合(ステップSB1:YES)、第2メモリ360が記憶する録画データ363の第1録画データDV1が示す動画像に含まれる撮像画像PB1から、状態記憶部364に記憶された第1撮影状態CD1に基づいて、第1撮影画像P1を選定する(ステップSB2)。
ステップSB2について詳述する。
第1撮影画像P1は、右ドア21B又は左ドア21Cが所定の開閉角度(例えば、90度)で開いている場合の撮影画像である。
生成部356は、状態記憶部364が記憶した撮像画像PA1における長さLDに基づいて、録画データ363の第1録画データDV1が示す動画像に含まれる撮像画像PB1から右ドア21Bが開状態である場合の第1撮影画像P1を選定する。
フローチャートFBの説明に戻り、生成部356は、記憶された録画データ363の第2録画データDV2が示す動画像に含まれる撮像画像PB2の各々から、第2撮影画像P2を選定する(ステップSB3)。
ステップSB3について詳述する。
第2撮影画像P2は、引出26Aが開状態である場合の撮影画像である。
生成部356は、まず、録画データ363の第2録画データDV2が示す動画像に含まれる撮像画像PB2の各々から外枠画像MFを検出できるか否かを判定する。そして、撮像画像PB2から外枠画像MFを検出できた場合に、生成部356は、検出した外枠画像MFの内部の識別画像MDの示す識別情報を読み取ることができるか否かを判定する。次に、識別画像MDの示す識別情報を読み取ることができ、且つ、読み取った識別情報が、状態記憶部364に記憶された撮影対象画像MKに含まれる識別情報と一致する場合に、生成部356は、撮像画像PB2を、第2撮影画像P2として選定する。
生成部356は、第1撮影画像P1及び第2撮影画像P2の少なくとも一方を選定できたか否かを判定する(ステップSB4)。
生成部356は、第1撮影画像P1及び第2撮影画像P2を選定できなかったと判定した場合(ステップSB4:NO)には、ステップSB7の処理を行う。
一方、生成部356は、第1撮影画像P1及び第2撮影画像P2の少なくとも一方を選定できたと判定した場合(ステップSB4:YES)には、管理用データD1を生成する(ステップSB5)。
第1撮影画像P1及び第2撮影画像P2を選定できた場合には、生成部356は、第1撮影画像P1の画像データ、第2撮影画像P2の画像データ、及び撮影装置ID362を含む管理用データD1を生成する。
第1撮影画像P1を選定できた一方で第2撮影画像P2を選定できなかった場合には、生成部356は、第1撮影画像P1の画像データ、及び撮影装置ID362を含む管理用データD1を生成する。
第2撮影画像P2を選定できた一方で第1撮影画像P1を選定できなかった場合には、生成部356は、第2撮影画像P2の画像データ、及び撮影装置ID362を含む管理用データD1を生成する。
次いで、第1通信制御部351は、生成部356が生成した管理用データD1を物品管理サーバ5に送信する(ステップSB6)。
次いで、生成部356は、ステップSB2以降で処理対象とした録画データ363を第2メモリ360から消去する(ステップSB7)。
フローチャートFCで示すように、サーバ通信制御部501は、撮像装置3から管理用データD1を受信したか否かを判定する(ステップSC1)。サーバ通信制御部501が、管理用データD1を受信したと判定した場合(ステップSC1:YES)には、サーバ処理部502は、サーバ通信制御部501が受信した管理用データD1に基づいて物品管理DB512を更新する(ステップSC2)。
ステップSC2について詳述する。
サーバ処理部502は、管理用データD1に含まれる撮影装置ID362を含むレコードを物品管理DB512から特定し、特定したレコードの第1撮影画像P1の画像データを、管理用データD1が含む第1撮影画像P1の画像データに更新する。
サーバ処理部502は、管理用データD1に含まれる撮影装置ID362を含むレコードを物品管理DB512から特定し、特定したレコードの第2撮影画像P2の画像データを、管理用データD1が含む第2撮影画像P2の画像データに更新する。
[1-2-3.アプリUIに係わる動作]
次に、アプリUIに係わる物品管理システム1の動作について説明する。
図17は、端末装置4及び物品管理サーバ5の動作を示すフローチャートである。図17において、フローチャートFDは端末装置4の動作を示し、フローチャートFEは物品管理サーバ5の動作を示す。
フローチャートFDで示すように、アプリ実行部400は、物品管理サーバ5から、物品管理DB512に格納されている画像データを要求するか否かを判定する(ステップSD1)。例えば、端末通信制御部401は、物品管理アプリ411が立ち上がった場合に、ステップSD1において肯定判定する。
アプリ実行部400は、物品管理DB512に格納されている画像データを要求すると判定した場合(ステップSD1:YES)には、画像データを要求する要求データを、物品管理サーバ5に送信する(ステップSD2)。要求データには、端末メモリ41が記憶する撮影装置ID362が含まれる。なお、端末装置4は、所定のタイミングで撮影装置ID362を取得している。
フローチャートFEで示すように、サーバ通信制御部501は、要求データを受信する(ステップSE1)。次いで、サーバ処理部502は、サーバ通信制御部501が受信した要求データに含まれる撮影装置ID362に対応する画像データを、物品管理DB512から取得する(ステップSE2)。次いで、サーバ通信制御部501は、サーバ処理部502が取得した画像データを、要求データの応答として、端末装置4に送信する(ステップSE3)。
フローチャートFDを参照して、アプリ実行部400は、画像データを物品管理サーバ5から受信する(ステップSD3)。次いで、アプリ実行部400は、ステップSD3で受信された画像データが示す画像を含むアプリUIをタッチパネル43に表示させる(ステップSD4)。
[1-3.効果等]
以上、図1-図17を参照して説明したように、実施の形態1における撮像システム7は、上面に開口が形成された引出24Aを有する冷凍室24を備える冷蔵庫2を撮影し、冷蔵庫2の天面20Aに配置された挟角カメラ302と、引出24Aの上端部に配置され、引出24Aの引出量に応じて挟角カメラ302による撮影状態が変化する被撮影体PS2と、引出24Aの所定の引出量における被撮影体PS2の挟角カメラ302による撮影状態である第2撮影状態CD2を記憶する状態記憶部364と、第2撮影状態CD2に基づいて、挟角カメラ302により撮影された撮像画像PB2から引出24Aが引き出された状態である場合の撮影画像である第2撮影画像P2を選定する生成部356と、を備える。
これによれば、引出24Aの所定の引出量における被撮影体PS2の挟角カメラ302による撮影状態である第2撮影状態CD2に基づいて、挟角カメラ302により撮影された撮像画像PB2から引出24Aが引き出された状態である場合の第2撮影画像P2を選定する。したがって、所定の引出量を適正に設定することによって、引出24Aが引き出された状態であるである場合の撮影画像である第2撮影画像P2として、冷凍室24の引出24Aの収納状況を適切に撮像した撮像画像を選定できる。所定の引出量は、例えば、80%~100%である。
また、撮像システム7において、引出24Aが所定の引出量において、被撮影体PS2の撮影面PF2が挟角カメラ302の撮像領域に含まれるように、被撮影体PS2は引出24Aに配置される。
これによれば、引出24Aが所定の引出量において、被撮影体PS2の撮影面PF2を挟角カメラ302が撮像できる。
また、撮像システム7において、引出24Aは、引出可能に構成された第1トレイTR1が配置され、被撮影体PS2は、第1トレイTR1に配置され、被撮影体PS2を第1トレイTR1の側面の上端部に固定する固定部材ATを備える。
これによれば、被撮影体PS2は、第1トレイTR1に配置されるため、引出24Aの引出量に応じて挟角カメラ302による撮影状態が変化する。したがって、被撮影体PS2を適正な位置に配置できる。
また、撮像システム7において、被撮影体PS2の撮影面PF2には、冷凍室24に収納される物品の種類、及び物品が収納される冷凍室24の少なくとも一方を示す識別情報を含む撮影対象画像MKが形成され、状態記憶部364は、撮影対象画像MKを記憶し、生成部356は、状態記憶部364が記憶した撮影対象画像MKに基づいて、挟角カメラ302により撮影された撮像画像PB2から引出24Aが引き出された状態である場合の第2撮影画像P2を選定する。
これによれば、挟角カメラ302により撮影された撮像画像PB2から、例えば、撮影対象画像MKが適切に撮像された撮像画像PB1を第2撮影画像P2として選定することによって、第2撮影画像P2を適正に選定できる。
また、撮像システム7において、撮影対象画像MKは、矩形の外枠画像MFと、外枠画像MFの内部に形成され、冷蔵庫2における冷凍室24に収納される物品の種類を示す識別情報に対応する識別画像MDと、を含む。
これによれば、挟角カメラ302により撮影された撮像画像PB2から、例えば、外枠画像MF及び識別画像MDが適切に撮像された撮像画像PB2を第2撮影画像P2として選定することによって、第2撮影画像P2を適正に選定できる。
また、撮像システム7において、識別画像MDは、第1色の第1矩形画像PD1と、第1色と異なる第2色の第2矩形画像PD2とで構成され、第1矩形画像PD1と第2矩形画像PD2との配置のパターンは、前記識別情報を示す。
これによれば、第1色及び第2色の各々を適正に設定することによって、第1矩形画像PD1と第2矩形画像PD2との配置のパターンが示す識別情報を正確に検出できる。
また、撮像システム7において、第1矩形画像PD1のサイズは、第2矩形画像PD2のサイズと同一であり、第1矩形画像PD1と第2矩形画像PD2とは、外枠画像MFの長手方向に沿って配列される。
これによれば、第1矩形画像PD1のサイズは、第2矩形画像PD2のサイズと同一であるため、識別情報を第1矩形画像PD1と第2矩形画像PD2との配置のパターンで効率的に表現できる。また、第1矩形画像PD1と第2矩形画像PD2とは、外枠画像MFの長手方向に沿って配列されるため、第1矩形画像PD1と第2矩形画像PD2とをコンパクトに配置できる。
また、撮像システム7において、第1矩形画像PD1のサイズ、及び第2矩形画像PD2のサイズは、挟角カメラ302の解像度、及び、引出24Aの所定の引出量における挟角カメラ302と撮影対象画像MKとの距離に基づいて決定される。
これによれば、例えば、挟角カメラ302の解像度が高い程、第1矩形画像PD1のサイズ、及び第2矩形画像PD2のサイズを小さくする。また、例えば、引出24Aの所定の引出量における挟角カメラ302と撮影対象画像MKとの距離が長い程、第1矩形画像PD1のサイズ、及び第2矩形画像PD2のサイズを大きくする。このようにして、第1矩形画像PD1のサイズ、及び第2矩形画像PD2のサイズを適正に決定できる。
また、撮像システム7において、生成部356は、挟角カメラ302により撮影された撮像画像PB2に含まれる外枠画像MFを検出することができ、且つ、挟角カメラ302により撮影された撮像画像PB2に含まれる撮影対象画像MKの識別画像MDが示す識別情報が、状態記憶部364が記憶した撮影対象画像MKの識別画像MDが示す識別情報と一致した場合に、撮像画像PB1を第2撮影画像P2として選定する。
これによれば、挟角カメラ302により撮影された撮像画像PB2に含まれる外枠画像MFを検出することができる場合には、撮像画像PB2が適切に撮像された画像である。また、撮像画像PB2に含まれる撮影対象画像MKの識別画像MDが示す識別情報が、状態記憶部364が記憶した撮影対象画像MKの識別画像MDが示す識別情報と一致した場合には、撮像画像PB2は更に適切に撮像された画像である。したがって、第2撮影画像P2を容易に、且つ、適切に選定できる。
また、撮像システム7において、生成部356は、挟角カメラ302が被撮影体PSを撮影したと判定した場合に、挟角カメラ302が被撮影体PSを撮影したことをユーザに通知する。
これによれば、挟角カメラ302が被撮影体PSを撮影したことをユーザに通知するため、ユーザは、挟角カメラ302が被撮影体PSを撮影したことを容易に認識できる。したがって、ユーザの利便性を向上できる。
また、実施の形態1における撮像装置3は、上面に開口が形成された引出24Aを有する冷凍室24を備える冷蔵庫2を撮影し、冷蔵庫2の天面20Aに配置された挟角カメラ302と、引出24Aの所定の引出量における被撮影体PS2の挟角カメラ302による撮影状態である第2撮影状態CD2を記憶する状態記憶部364と、第2撮影状態CD2に基づいて、挟角カメラ302により撮影された撮像画像PB2から引出24Aが引き出された状態である場合の撮影画像である第2撮影画像P2を選定する生成部356と、を備え、被撮影体PS2は、引出24Aの上端部に配置され、引出24Aの引出量に応じて挟角カメラ302による撮影状態が変化する。
これによれば、実施の形態1における撮像装置3は、実施の形態1における撮像システム7と同様の効果を奏する。
(実施の形態2)
次に、実施の形態2について説明する。実施の形態2の説明では、実施の形態1の物品管理システム1の各部の構成要素と同じ構成要素については、同一の符号を付して詳細な説明を適宜に省略する。
[2-1.構成]
図18は、実施の形態2における物品管理システム1Aの構成を示す図である。
実施の形態2における物品管理システム1Aは、冷蔵庫2A、物品管理サーバ5、及び端末装置4を備える。上述した実施の形態1の冷蔵庫2と撮像装置3とは、別体であるが、実施の形態2における冷蔵庫2Aは、撮像装置3Aを備える。すなわち、本実施の形態における冷蔵庫2Aと撮像装置3Aとは、別体ではない。
図19は、本実施の形態における冷蔵庫2Aの構成を示すブロック図である。
冷蔵庫2Aは、第3制御基板220を備える。第3制御基板220は、CPUなどの第3プロセッサ230、第3メモリ240、第3通信モジュール250、及び他の装置やセンサ類が接続されるインターフェイス回路を備える。
第3メモリ240は、第3プロセッサ230が実行するプログラムやデータを記憶する記憶装置である。第3メモリ240は、不揮発性の記憶装置により構成される。また、第3メモリ240は、第3プロセッサ230のワークエリアを構成する揮発性の記憶装置を含んでもよい。第3メモリ240は、第3プロセッサ230により処理されるデータや、第3プロセッサ230が実行する制御プログラム241を記憶する。
第3通信モジュール250は、所定の有線通信規格に従った通信回路やコネクタなどの通信ハードウェアを備え、第3プロセッサ230の制御に従って第1制御基板311Aと通信する。
第3制御基板220には、第2無線通信モジュール206、冷却部207、第1開閉センサ208、第2開閉センサ209、第3開閉センサ210、第4開閉センサ211、第5開閉センサ212、及び第6開閉センサ213が接続する。
冷却部207は、圧縮機や、凝縮器、キャピラリーチューブ、冷却器、冷却器が生成した冷気を各収容室に送る冷却ファン、及び、冷却ファンにより送られる冷気を分流するダンパー等の冷蔵庫2Aの各収容室を冷却する機構を備える。冷却部207は、第3制御基板220の制御に従って、冷蔵庫2Aの各収容室を冷却する。
第1開閉センサ208~第6開閉センサ213は、例えばホールICで構成される。
第1開閉センサ208は、右ドア21Bの開閉センサを検出するためのセンサである。
第2開閉センサ209は、左ドア21Cの開閉センサを検出するためのセンサである。
第3開閉センサ210は、引出22Aの開閉センサを検出するためのセンサである。
第4開閉センサ211は、引出23Aの開閉センサを検出するためのセンサである。
第5開閉センサ212は、引出24Aの開閉センサを検出するためのセンサである。
第6開閉センサ213は、引出25Aの開閉センサを検出するためのセンサである。
各開閉センサは、検出値を第3制御基板220に出力する。
第3プロセッサ230は、制御プログラム241を読み出して実行することにより、第2無線通信モジュール206を介して、外部機器と通信する。
また、第3プロセッサ230は、制御プログラム241を読み出して実行することにより、冷却部207によって冷蔵庫2Aの各収容室を冷却する。
また、第3プロセッサ230は、制御プログラム241を読み出して実行することにより、第1開閉センサ208~第6開閉センサ213の各々が出力した検出値を第1制御基板311Aに送信する。
冷蔵庫2Aは、撮像装置3Aを備える。撮像装置3Aは、撮像装置3と比較して、第1フォトセンサ303、第2フォトセンサ304、サーモパイル305、人感センサ306、第2LED308、及び第3LED309を備えていない。
また、被撮影体PSは、冷蔵庫2Aの冷蔵室21の開口の近傍、右ドア21B、又は左ドア21Cに配置され、右ドア21B及び左ドア21Cの開閉角度に応じて広角カメラ301による撮影状態が変化する。
また、被撮影体PSは、本開示に係る冷蔵庫2Aの一部を構成する。
実施の形態2の撮像装置3Aは、第1制御基板311の代わりに第1制御基板311Aを備える。第1制御基板311Aには、電源ボタン32、第1LED33、及び照度センサ307が接続する。また、実施の形態2における撮像装置3Aは、第2制御基板312の代わりに第2制御基板312Aを備える。第2制御基板312Aには、広角カメラ301、狭角カメラ302、及び第1無線通信モジュール313が接続する。
第1制御基板311Aは、撮像装置3Aにおいて、撮像装置3における第1制御基板311の設置位置と同様の位置に設置される。
また、第2制御基板312Aは、撮像装置3Aにおいて、撮像装置3における第2制御基板312の設置位置と同様の位置に設置される。
また、本実施の形態において、広角カメラ301、狭角カメラ302、電源ボタン32、第1LED33、照度センサ307、及び第1無線通信モジュール313は、実施の形態1における設置位置と同じ位置に設置される。
第1制御基板311Aは、CPUなどの第1プロセッサ320A、第1メモリ330A、第1通信モジュール340A、及び他の装置やセンサ類が接続されるインターフェイス回路を備える。
第1メモリ330Aは、第1メモリ330と同様のメモリである。第1メモリ330Aは、第1プロセッサ320Aにより処理されるデータや、第1プロセッサ320Aが実行する制御プログラム331Aを記憶する。
第1通信モジュール340Aは、所定の有線通信規格に従った通信回路やコネクタなどの通信ハードウェアを備え、ケーブルを介して第2制御基板312A及び第3制御基板220と通信する。
第1プロセッサ320Aは、制御プログラム331Aを読み出して実行することにより、電源ボタン32の操作に応じて撮像装置3Aの電源のオンオフを行う。
第1プロセッサ320Aは、制御プログラム331Aを読み出して実行することにより、第1LED33の点灯及び消灯を行う。
第1プロセッサ320Aは、制御プログラム331Aを読み出して実行することにより、第1通信モジュール340Aを介して、照度センサ307が出力した検出値を、第2制御基板312Aに送信する。
第1プロセッサ320Aは、制御プログラム331Aを読み出して実行することにより、第1通信モジュール340Aを介して、第3制御基板220から受信した第1開閉センサ208~第6開閉センサ213の検出値を、第2制御基板312Aに送信する。
第2制御基板312Aは、CPUなどの第2プロセッサ350A、第2メモリ360A、第2通信モジュール370A、及び他の装置やセンサ類が接続されるインターフェイス回路を備える。
第2メモリ360Aは、第1メモリ330と同様のメモリである。第2メモリ360Aは、第2プロセッサ350Aにより処理されるデータや、第2プロセッサ350Aが実行する制御プログラム361Aを記憶する。
第2通信モジュール370Aは、所定の通信規格に従った通信回路やコネクタなどの通信ハードウェアを備え、第2プロセッサ350Aの制御に従って第1制御基板311Aと通信する。
第2プロセッサ350Aは、第2メモリ360Aに記憶された制御プログラム361Aを読み出して実行することによって、第1通信制御部351、第2通信制御部352A、開閉判定部353A、撮影制御部354、録画制御部355、及び生成部356として機能する。また、第2プロセッサ350Aは、第2メモリ360Aに記憶された制御プログラム361Aを読み出して実行することによって、第2メモリ360Aを状態記憶部364として機能させる。
実施の形態2における冷蔵庫2Aは、広角カメラ301と、被撮影体PSと、状態記憶部364と、生成部356と、を含む。
第2通信制御部352Aは、第2通信モジュール370Aを介して、第1制御基板311Aと通信する。第2通信制御部352Aは、各種センサの検出値を第1制御基板311Aから受信する。
開閉判定部353Aは、第2通信制御部352Aが受信する第1開閉センサ208の検出値に基づいて、右ドア21Bが開状態か閉状態かを判定する。開閉判定部353は、閉状態に対応する検出値と異なる検出値を、第2通信制御部352Aが受信した場合には、右ドア21Bが開状態であると判定する。一方、開閉判定部353は、閉状態に対応する検出値を第2通信制御部352が受信した場合には、右ドア21Bが閉状態であると判定する。
開閉判定部353Aは、右ドア21Bについての判定と同様に、第2通信制御部352が第2開閉センサ209の検出値に基づいて、左ドア21Cが開状態か閉状態かを判定する。
開閉判定部353Aは、第2通信制御部352が受信する第3開閉センサ210~第6開閉センサ213の検出値に基づいて、引出26Aが開状態か閉状態かを判定する。開閉判定部353Aは、右ドア21Bの判定と同様に判定を行う。
[2-2.動作]
実施の形態2における物品管理システム1Aの各部の動作は、実施の形態1の物品管理システム1の各部の動作と同じである。すなわち、録画に係わる撮像装置3Aの動作は、実施の形態1における撮像装置3の動作と同じである。また、管理用データD1に係わる撮像装置3Aの動作は、実施の形態1における撮像装置3の動作と同じである。
[2-3.効果等]
以上、図18-図19を参照して説明したように、実施の形態2における冷蔵庫2Aは、上面に開口が形成された引出24Aを有する冷凍室24を備える冷蔵庫2を撮影し、冷蔵庫2の天面20Aに配置された挟角カメラ302と、引出24Aの上端部に配置され、引出24Aの引出量に応じて挟角カメラ302による撮影状態が変化する被撮影体PS2と、引出24Aの所定の引出量における被撮影体PS2の挟角カメラ302による撮影状態である第2撮影状態CD2を記憶する状態記憶部364と、第2撮影状態CD2に基づいて、挟角カメラ302により撮影された撮像画像PB2から引出24Aが引き出された状態である場合の撮影画像である第2撮影画像P2を選定する生成部356と、を備える。
これによれば、実施の形態2における冷蔵庫2Aは、実施の形態1における撮像システム7と同様の効果を奏する。
(他の実施の形態)
以上のように、本出願において開示する例示として、上記実施の形態1、2を説明した。しかしながら、本開示における技術は、これに限定されず、変更、置き換え、付加、省略などを行った実施の形態にも適用できる。また、上記実施の形態1、2で説明した各構成要素を組み合わせて、新たな実施の形態とすることも可能である。そこで、以下、他の実施の形態を例示する。
上述した実施の形態1、2では、被撮影体PS2が、冷凍室24に配置される場合について説明したが、被撮影体PS2が、製氷室22、新鮮凍結室23、又は野菜室25に配置されてもよい。
上述した実施の形態1、2では、被撮影体PS2が、冷凍室24の第1トレイTR1に配置される場合について説明したが、被撮影体PS2が、冷凍室24の第2トレイTR2又は引出24Aに配置されてもよい。
上述した実施の形態1、2では、被撮影体PS2が、固定部材ATの嵌合部材AT1によって第1トレイTR1の一対の側面部材TS1に固定される場合について説明したが、被撮影体PS2が、第1トレイTR1の一対の側面部材TS1の上端部に配置されればよい。例えば、固定部材ATの柱状部材AT2が第1トレイTR1の一対の側面部材TS1の上端部に、接着剤等で、貼り付けられてもよい。
上述した実施の形態1、2では、識別画像MDが、情報画像MDAと、符号画像MDBとで構成されるが、識別画像MDが情報画像MDAだけで構成されてもよい。換言すれば、識別画像MDが、符号画像MDBを含まなくてもよい。
上述した実施の形態1、2では、第1矩形画像PD1及び第2矩形画像PD2が正方形である場合について説明したが、第1矩形画像PD1及び第2矩形画像PD2が長方形でもよい。
上述した実施の形態1、2では、外枠画像MFが黒色で形成される場合について説明するが、これに限定されない。例えば、外枠画像MFが青色で形成されてもよい。また、第1色が白色であり、第2色が黒色である場合について説明するが、これに限定されない。例えば、第1色が黄色であり、第2色が青色でもよい。
生成部356が、第1録画データDV1が示す動画像に含まれる撮像画像PB1の各々から外枠画像MFを容易に検出可能にするために、外枠画像MFの色は、冷蔵室21の内側面の色、及び冷蔵室21に収納される物品の色と相違することが好ましい。そこで、外枠画像MFの色は、例えば、黒色、青色等が好ましい。
上述した実施の形態2では、第1フォトセンサ303、第2フォトセンサ304、サーモパイル305、人感センサ306、第2LED308、及び第3LED309を備えていない構成である。実施の形態2に係わる他の実施の形態では、これらデバイスのうち任意のデバイスを備えていてもよい。
上述した実施の形態1、2では、右ドア21Bと左ドア21Cとの幅が異なる場合を例示した。他の実施の形態では、右ドア21Bと左ドア21Cとの幅は同じでもよいし、右ドア21Bの幅より左ドア21Cの幅のほうが長くてもよい。
上述した実施の形態1、2では、第2LED308と第3LED309とを撮像装置3、3Aが具備する構成である。他の実施の形態では、第2LED308及び第3LED309が一つのLEDで構成されてもよい。
上述した実施の形態1では、引出26Aの開閉を検知するためのセンサがサーモパイル305で構成される場合を例示した。しかしながら、引出26Aの開閉を検知するためのセンサは、測距センサでもよい。この場合、開閉判定部353は、測距センサの検出値に基づいて、引出26Aが開状態か閉状態かを判定する。引出26Aが引き出されたときに動きがあったと検出する。なお、測距センサは赤外線方式でも超音波方式でもよい。
上述した実施の形態2では、第1開閉センサ208~第6開閉センサ213がホールICで構成される場合を例示した。しかしながら、第1開閉センサ208、及び第2開閉センサ209は、角度センサ、カメラ、温度センサなどの他のセンサでもよい。また、第3開閉センサ210~第6開閉センサ213は、加速度センサや、機械式スイッチ、角度センサ、カメラ、温度センサなどの他のセンサでもよい。
他の実施の形態では、生成部356は、カメラにより撮影された画像と予め記憶された引出が引き出された状態である画像を比較して、引出が引き出された状態である画像を選定してもよい。
他の実施の形態では、撮像装置3は、被撮影体検出部を備えてもよい。この場合、被撮影体検出部が被撮影体を検出できたことに基づいて、録画制御部355は、録画の開始と終了を制御してもよい。これにより、録画データの容量を小さくできる。また、処理速度を向上できる。
被撮影体検出部は、「選定部」の一例に対応する。
被撮影体に基づいた録画に係わる撮像装置3の動作について説明する。図20は、撮像装置3の動作を示すフローチャートFFである。
開閉判定部353は、ドア21A又は引出26Aが開状態になったか否かを判定する(ステップSF1)。
開閉判定部353が、ドア21A又は引出26Aが開状態になっていないと判定した場合(ステップSF1:NO)、第2プロセッサ350は、処理をステップSF1に戻す。
開閉判定部353が、ドア21A又は引出26Aが開状態になったと判定した場合(ステップSF1:YES)、撮影制御部354は、広角カメラ及び狭角カメラ302に撮影を開始させる(ステップSF2)。
次いで、被撮影体検出部は、被撮影体を検出できたか否かを判定する(ステップSF3)。
被撮影体検出部が、被撮影体を検出できないと判定した場合(ステップSF3:NO)、第2プロセッサ350は、処理をステップSF7に進める。
被撮影体検出部が、被撮影体を検出できたと判定した場合(ステップSF3:YES)、録画制御部355は、広角カメラ301及び狭角カメラ302の撮影結果の録画を開始する(ステップSF4)。なお、広角カメラ301に対応する被撮影体に基づいて、広角カメラ301のみの撮影結果の録画を開始してもよい。また同様に、狭角カメラ302に対応する被撮影体に基づいて、狭角カメラ302のみの撮影結果の録画を開始してもよい。また、被撮影体検出部が、被撮影体を検出できたと判定した場合、被撮影体検出部は、被撮影体を検出できた(撮影結果の録画を開始した)ことをユーザに通知してもよい。これによれば、被撮影体を検出した(撮影結果の録画を開始した)ことをユーザに通知するため、ユーザは、撮影結果の録画を開始したことを容易に認識できる。したがって、撮影のノイズを減らすことにつながり、ユーザの利便性を向上できる。
録画制御部355が、広角カメラ301及び狭角カメラ302の撮影結果の録画を開始した後、被撮影検出部は、被撮影体を検出できたか否かを判定する(ステップSF5)。
被撮影体検出部は、被撮影体を検出できたと判定した場合(ステップSF5:YES)には、再度、ステップSF5の判定を行う。
一方、被撮影体検出部が、被撮影体を検出できなかったと判定した場合(ステップSF5:NO)には、録画制御部355は、撮影結果の録画を終了する(ステップSF6)。これにより、第2メモリ360には、録画データ363が生成される。なお、録画データ363は複数の録画データを含んでいてもよい。例えば、一回の撮影で、複数の録画データを第2メモリ360に生成してもよい。この場合、生成部356は、複数の録画データそれぞれに対して、ステップSB1~ステップSB7の処理を行ってもよい。また、被撮影体検出部が、被撮影体を検出できなかったと判定した場合、被撮影体検出部は、被撮影体を検出できなかった(撮影結果の録画を終了した)ことをユーザに通知してもよい。これによれば、被撮影体を検出できなかった(撮影結果の録画を終了した)ことをユーザに通知するため、ユーザは、撮影結果の録画を終了したことを容易に認識できる。したがって、ユーザの利便性を向上できる。
次いで、開閉判定部353は、ドア21A及び引出26Aが閉状態になったか否か判定する(ステップSF7)。開閉判定部353が、ドア21A及び引出26Aが閉状態になっていないと判定した場合(ステップSF7:NO)には、第2プロセッサ350は、処理をステップSF3に戻す。
一方、開閉判定部353が、ドア21A及び引出26Aが閉状態になったと判定した場合(ステップSF7:YES)には、撮影制御部354は、広角カメラ301及び狭角カメラ302に撮影を終了させる(ステップSF8)。
他の実施の形態では、生成部356は、カメラにより撮影された画像と予め記憶された引出が開状態である画像を比較して、引出が開状態である画像を選定してもよい。
他の実施の形態では、録画制御部355は、撮影結果の録画を開始してから所定時間(例えば、1分)経過後に撮影結果の録画を終了させてもよい。これによれば、撮影装置3の不具合にも対応できる。
他の実施の形態では、撮影装置3は、撮影装置確認部を備えてもよい。撮影装置確認部は、ユーザが撮影装置3を冷蔵庫2に設置する際に、撮影装置3が冷蔵庫2の所定の位置に設置できていることを確認するためのものである。この場合、撮影装置確認部は、被撮影体を予め記憶された領域内で検出できたときに、撮影装置3が冷蔵庫2の所定の位置(例えば、冷蔵庫2の左右方向における中心位置)に設置できていることをLEDの点灯、点滅、又は音声や、端末装置4への通知等でユーザに通知してもよい。これによれば、ユーザは、撮影装置3を冷蔵庫2の所定の位置に設置できていることを容易に認識でき、次の設定作業に移ることができる。したがって、ユーザの利便性を向上できる。
また、撮影装置確認部は、被撮影体を予め記憶された領域内で検出できなかったときに、撮影装置3が冷蔵庫2の所定の位置に設置できていないことを、LEDの点灯、点滅、又は音声や、端末装置4への通知等でユーザに通知してもよい。これによれば、ユーザは、撮影装置3を冷蔵庫2の所定の位置に設置できていないことを容易に認識できる。したがって、ユーザの利便性を向上できる。また、撮影装置確認部は、撮影装置3が冷蔵庫2の所定の位置に設置できているときと、冷蔵庫2の所定の位置に設置できていないときとでユーザへの通知態様を異ならせてもよい。例えば、撮影装置3を冷蔵庫2の所定の位置に設置できているときにはLEDを点灯させ、冷蔵庫2の所定の位置に設置できていないときにはLEDを点滅させてもよい。これによれば、ユーザは、撮影装置3を冷蔵庫2の所定の位置に設置できていること、及び、冷蔵庫2の所定の位置に設置できてないことを容易に認識できる。したがって、ユーザの利便性を向上できる。
他の実施の形態では、撮影装置3は、被撮影体確認部を備えてもよい。被撮影体確認部は、ユーザが被撮影体を冷蔵庫2に設置する際に、被撮影体が冷蔵庫2の所定の位置に設置できていることを確認するためのものである。この場合、被撮影体確認部は、被撮影体の情報(撮影された被撮影体から得られた情報)と予め記憶された貯蔵室の情報とが一致していたときに、被撮影体が冷蔵庫2の所定の位置に設置できていることをLEDの点灯、点滅、又は音声や、端末装置4への通知等でユーザに通知してもよい。これによれば、例えば、野菜室に冷凍室用の被撮影体を設置していないか、又は上段ケースに下段ケース用の被撮影体を設置していないか等をユーザは容易に認識できる。すなわち、ユーザは、被撮影体を冷蔵庫2の所定の位置に設置できていることを容易に認識でき、次の設定作業に移ることができる。したがって、ユーザの利便性を向上できる。
また、被撮影体確認部は、被撮影体の情報(撮影された被撮影体から得られた情報)と、予め記憶された貯蔵室の情報とが一致していないときに、被撮影体が冷蔵庫2の所定の位置に設置できていないことを、LEDの点灯、点滅、又は音声や、端末装置4への通知(例えば、被撮影体の情報を表示する)等でユーザに通知してもよい。これによれば、ユーザは、被撮影体を冷蔵庫2の所定の位置に設置できていないことを容易に認識できる。したがって、ユーザの利便性を向上できる。また、被撮影体確認部は、被撮影体が冷蔵庫2の所定の位置に設置できているときと、冷蔵庫2の所定の位置に設置できていないときとでユーザへの通知態様を異ならせてもよい。例えば、被撮影体を冷蔵庫2の所定の位置に設置できているときにはLEDを点灯させ、冷蔵庫2の所定の位置に設置できていないときにはLEDを点滅させてもよい。これによれば、ユーザは、被撮影体を冷蔵庫2の所定の位置に設置できていること、及び、冷蔵庫2の所定の位置に設置できていないことを容易に認識できる。したがって、ユーザの利便性を向上できる。
また、被撮影体が収納ケースの側面のうち一方のみに設置される場合には、被撮影体確認部は、予め登録された情報(どちらの側面に設置したか)と被撮影体の情報(撮影された被撮影体から得られた側面の情報)とが一致していたときに、被撮影体が冷蔵庫2の所定の位置に設置できていることをLEDの点灯、点滅、又は音声や、端末装置4への通知等でユーザに通知してもよい。これによれば、ユーザは、被撮影体を冷蔵庫2の所定の位置に設置できていることを容易に認識でき、次の設定作業に移ることができる。したがって、ユーザの利便性を向上できる。
また、被撮影体確認部は、予め登録された情報と被撮影体の情報とが一致していないときに、被撮影体が冷蔵庫2の所定の位置に設置できていないことをLEDの点灯、点滅、又は音声や、端末装置4への通知(例えば、被撮影体の情報を表示する)等でユーザに通知してもよい。これによれば、ユーザは、被撮影体を冷蔵庫2の所定の位置に設置できていないことを容易に認識できる。したがって、ユーザの利便性を向上できる。また、被撮影体確認部は、被撮影体が冷蔵庫2の所定の位置に設置できているときと、冷蔵庫2の所定の位置に設置できていないときとで、ユーザへの通知態様を異ならせてもよい。例えば、被撮影体を冷蔵庫2の所定の位置に設置できているときにはLEDを点灯させ、冷蔵庫2の所定の位置に設置できていないときにはLEDを点滅させてもよい。これによれば、ユーザは、被撮影体を冷蔵庫2の所定の位置に設置できていること、及び、冷蔵庫2の所定の位置に設置できていないことを容易に認識できる。したがって、ユーザの利便性を向上できる。
被撮影体は、設置すべき貯蔵室又は収納ケースの情報がわかる文字やイラスト等(例えば、野菜室上段ケースという文字、野菜室上段ケースのイラストや、果物のマーク)を含んでいてもよい。これによれば、ユーザが被撮影体を冷蔵庫2に設置する際に、設置すべき貯蔵室又は収納ケースを容易に認識できる。したがって、ユーザの設置ミスを抑制でき、ユーザの利便性を向上できる。
他の実施の形態では、実施の形態1、2における第2プロセッサ350、350Aの各機能部に加えて、第2プロセッサ350、350Aは、物品を検出する検出部として機能してもよい。録画制御部355が広角カメラ301及び狭角カメラ302の録画を開始してから終了するまでの間に、検出部は、冷蔵室21に出し入れされる物品の画像を動画像から切り出してもよい。また、物品にマーカーが付されている場合には、検出部は、マーカー付の物品を検出してもよい。
他の実施の形態では、実施の形態1における第2プロセッサ350の各機能部に加えて、第2プロセッサ350は人物存在判定部として機能してもよい。人物存在判定部は、人感センサ306の検出値に基づいて、冷蔵庫2の周辺に人が存在するか否かを判定する。より具体的に、人物存在判定部は、人感センサ306の検出値が、人が存在することに対応する検出値の場合には、冷蔵庫2の周辺に人が存在すると判定し、そうでない場合には、冷蔵庫2の周辺に人が存在しないと判定する。
第2プロセッサ350が人物存在判定部として機能する場合には、撮影制御部354は、人が存在すると人物存在判定部が判定した場合に、広角カメラ301及び狭角カメラ302に撮影を開始させ、人が存在しないと人物存在判定部が判定した場合に、広角カメラ301及び狭角カメラ302に撮影を終了させる。また、第2プロセッサ350が人物存在判定部として機能する場合には、録画制御部355は、人が存在すると人物存在判定部が判定した場合に、録画を開始し、人が存在しないと人物存在判定部が判定した場合に、録画を終了する。これにより、開閉判定部353が誤判定した場合でも、適切に広角カメラ301及び狭角カメラ302の撮影結果を録画できる。
他の実施の形態では、実施の形態1、2における第2プロセッサ350、350Aの各機能部に加えて、第2プロセッサ350、350Aは、入出庫判定部として機能してもよい。この場合には、左ドア21C及び右ドア21Bの開閉角度に応じて、入出庫判定部は、入出庫の判定に用いる境界線を変更し、物品の入出庫を判定する。また、引出26Aの引出し度合いに応じて、入出庫判定部は、入出庫の判定に用いる境界線を変更し、物品の入出庫を判定する。
他の実施の形態では、第1撮影画像P1が画像補正されて物品管理サーバ5にアップロードされてもよい。画像補正としては、視点変換の補正が例に挙げられる。
上述した実施の形態では、第1撮影画像P1と第2撮影画像P2とが端末装置4の表示の用途に使用される場合を例示した。しかしながら、第1撮影画像P1及び第2撮影画像P2は、例えば、冷蔵庫2、2Aに収容される物品の検出など、他の用途に使用されてもよい。
他の実施の形態では、冷蔵庫2、2Aの主箱体20に形成される部屋は、上述した5種以外の収容室があってもよいし少なくてもよい。また、他の実施の形態では、冷蔵庫2、2Aの主箱体20に形成される引出型の貯蔵室は、1つでもよい。
第1プロセッサ320、320A、第2プロセッサ350、350A、サーバプロセッサ50、及び端末プロセッサ40は、単一のプロセッサにより構成されてもよいし、複数のプロセッサにより構成されていてもよい。これらプロセッサは、対応する機能部を実現するようプログラムされたハードウェアでもよい。すなわち、これらプロセッサは、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)で構成されてもよい。
図8、図14、及び図19に示した撮像装置3、3A、冷蔵庫2、2A、端末装置4、及び物品管理サーバ5の構成は一例であって、具体的な実装形態は特に限定されない。つまり、必ずしも各部に個別に対応するハードウェアが実装される必要はなく、一つのプロセッサがプログラムを実行することで各部の機能を実現する構成とすることも可能である。また、上述した実施の形態においてソフトウェアで実現される機能の一部をハードウェアとしてもよく、或いは、ハードウェアで実現される機能の一部をソフトウェアで実現してもよい。
図15、図16、図17及び図20に示す動作のステップ単位は、動作の理解を容易にするために、主な処理内容に応じて分割したものであり、処理単位の分割の仕方や名称によって、動作が限定されることはない。処理内容に応じて、さらに多くのステップ単位に分割してもよい。また、1つのステップ単位がさらに多くの処理を含むように分割してもよい。また、そのステップの順番は、本開示の趣旨に支障のない範囲で適宜に入れ替えてもよい。
なお、上述の実施の形態は、本開示における技術を例示するためのものであるから、特許請求の範囲またはその均等の範囲において種々の変更、置き換え、付加、省略などを行うことができる。
(付記)
以上の実施の形態の記載により、下記の技術が開示される。
(技術1)上面に開口が形成された引出を有する貯蔵室を備える冷蔵庫を撮影し、前記冷蔵庫の上面に配置されたカメラと、前記引出の上端部に配置され、前記引出の引出量に応じて前記カメラによる撮影状態が変化する被撮影体と、前記引出の所定の引出量における前記被撮影体の前記カメラによる撮影状態を記憶する状態記憶部と、前記状態記憶部が記憶した前記被撮影体の前記カメラによる撮影状態に基づいて、前記カメラにより撮影された画像から前記引出が引き出された状態である場合の撮影画像を選定する選定部と、を備える、撮像システム。
この構成によれば、引出の所定の引出量における被撮影体のカメラによる撮影状態に基づいて、前記カメラにより撮影された画像から前記引出が引き出された状態である場合の撮影画像を選定する。したがって、所定の引出量を適正に設定することによって、前記引出が引き出された状態である場合の撮影画像として、冷蔵庫の庫内状況を適切に撮像した撮像画像を選定できる。
(技術2)前記引出が所定の引出量において、前記被撮影体の撮影面が前記カメラの撮像領域に含まれるように、前記被撮影体は前記引出に配置される、技術1に記載の撮像システム。
この構成によれば、前記引出が所定の引出量において、前記被撮影体を前記カメラが撮像できる。
(技術3)前記引出は、引出可能に構成された収納ケースが配置され、前記被撮影体は、前記収納ケースに配置され、前記被撮影体を前記収納ケースの側面の上端部に固定する固定部材を備える、技術2に記載の撮像システム。
この構成によれば、前記被撮影体は、前記収納ケースの側面の上端部に固定されるため、前記引出の引出量に応じて前記被撮影体の前記カメラによる撮影状態が変化する。したがって、前記被撮影体を適正な位置に配置できる。
(技術4)前記被撮影体の撮影面には、前記貯蔵室に収納される物品の種類、又は物品が収納される前記貯蔵室を示す識別情報を含む撮影対象画像が形成され、前記状態記憶部は、前記撮影対象画像を記憶し、前記選定部は、前記状態記憶部が記憶した前記撮影対象画像に基づいて、前記カメラにより撮影された画像から前記引出が引き出された状態である場合の撮影画像を選定する、技術1から技術3のいずれか1つに記載の撮像システム。
この構成によれば、前記カメラにより撮影された画像から、例えば、前記撮影対象画像が適切に撮像された撮像画像を、前記引出が引き出された状態である場合の撮影画像として選定することによって、前記引出が引き出された状態である場合の撮影画像を適正に選定できる。
(技術5)前記撮影対象画像は、矩形の外枠画像と、前記外枠画像の内部に形成され、前記冷蔵庫における前記貯蔵室に収納される物品の種類、又は物品が収納される前記貯蔵室を示す識別情報に対応する識別画像と、を含む、技術4に記載の撮像システム。
この構成によれば、前記カメラにより撮影された画像から、例えば、前記外枠画像、及び前記識別画像が適切に撮像された撮像画像を、前記引出が引き出された状態である場合の撮影画像として選定することによって、前記引出が引き出された状態である場合の撮影画像を適正に選定できる。
(技術6)前記識別画像は、第1色の第1矩形画像と、第1色と異なる第2色の第2矩形画像とで構成され、前記第1矩形画像と前記第2矩形画像との配置のパターンは、前記識別情報を示す、技術5に記載の撮像システム。
この構成によれば、第1色及び第2色の各々を適正に設定することによって、前記第1矩形画像と前記第2矩形画像との配置のパターンが示す前記識別情報を正確に検出できる。
(技術7)前記第1矩形画像のサイズは、前記第2矩形画像のサイズと同一であり、前記第1矩形画像と前記第2矩形画像とは、前記外枠画像の長手方向に沿って配列される、技術6に記載の撮像システム。
この構成によれば、前記第1矩形画像のサイズは、前記第2矩形画像のサイズと同一であるため、識別情報を前記第1矩形画像と前記第2矩形画像との配置のパターンで効率的に表現できる。また、前記第1矩形画像と前記第2矩形画像とは、前記外枠画像の長手方向に沿って配列されるため、前記第1矩形画像と前記第2矩形画像とをコンパクトに配置できる。
(技術8)前記第1矩形画像のサイズ、及び前記第2矩形画像のサイズは、前記カメラの解像度、及び、前記引出の所定の引出量における前記カメラと前記撮影対象画像との距離に基づいて決定される、技術6又は技術7に記載の撮像システム。
この構成によれば、例えば、前記カメラの解像度が高い程、前記第1矩形画像のサイズ、及び前記第2矩形画像のサイズを小さくする。また、例えば、前記引出の所定の引出量における前記カメラと前記撮影対象画像との距離が長い程、前記第1矩形画像のサイズ、及び前記第2矩形画像のサイズを大きくする。このようにして、前記第1矩形画像のサイズ、及び前記第2矩形画像のサイズを適正に決定できる。
(技術9)前記選定部は、前記カメラにより撮影された画像に含まれる前記外枠画像を検出することができ、且つ、前記カメラにより撮影された画像に含まれる前記撮影対象画像の識別画像が示す識別情報が、前記状態記憶部が記憶した前記撮影対象画像の識別画像が示す識別情報と一致した場合に、前記カメラにより撮影された画像を前記引出が引き出された状態である場合の撮影画像として選定する、技術5から技術8のいずれか1つに記載の撮像システム。
この構成によれば、前記カメラにより撮影された画像に含まれる前記外枠画像を検出することができる場合には、前記カメラにより撮影された画像が、適切に撮像された画像である。また、前記カメラにより撮影された画像に含まれる前記撮影対象画像の識別画像が示す識別情報が、前記状態記憶部が記憶した前記撮影対象画像の識別画像が示す識別情報と一致した場合には、前記カメラにより撮影された画像が、更に適切に撮像された画像である。したがって、前記引出が引き出された状態である場合の撮影画像を容易に、且つ、適切に選定できる。
(技術10)前記選定部は、前記カメラが前記被撮影体を撮影したと判定した場合に、前記カメラが前記被撮影体を撮影したことをユーザに通知する、技術1から技術9のいずれか1つに記載の撮像システム。
この構成によれば、前記カメラが前記被撮影体を撮影したと判定した場合に、前記カメラが前記被撮影体を撮影したことをユーザに通知するため、ユーザは、前記カメラが前記被撮影体を撮影したことを容易に認識できる。したがって、ユーザの利便性を向上できる。
(技術11)上面に開口が形成された引出を有する貯蔵室を備える冷蔵庫を撮影し、前記冷蔵庫の上面に配置されたカメラと、前記引出の所定の引出量における被撮影体の前記カメラによる撮影状態を記憶する状態記憶部と、前記状態記憶部が記憶した前記被撮影体の前記カメラによる撮影状態に基づいて、前記カメラにより撮影された画像から前記引出が引き出された状態である場合の撮影画像を選定する選定部と、を備え、前記被撮影体は、前記貯蔵室の上端部に配置され、前記引出の引出量に応じて前記カメラによる撮影状態が変化する、撮像装置。
この構成によれば、技術1に記載の撮像システムと同様の効果を奏する。
(技術12)上面に開口が形成された引出を有する貯蔵室を備える冷蔵庫を撮影し、前記冷蔵庫の上面に配置されたカメラと、前記引出の上端に配置され、前記引出の引出量に応じて前記カメラによる撮影状態が変化する被撮影体と、前記引出の所定の引出量における前記被撮影体の前記カメラによる撮影状態を記憶する状態記憶部と、前記状態記憶部が記憶した前記被撮影体の前記カメラによる撮影状態に基づいて、前記カメラにより撮影された画像から前記引出が引き出された状態である場合の撮影画像を選定する選定部と、を備える、冷蔵庫。
この構成によれば、技術1に記載の撮像システムと同様の効果を奏する。
以上のように、本発明に係る撮像システム、撮像装置、及び冷蔵庫は、カメラにより撮影された画像から冷蔵庫の庫内状況を適切に撮像した撮影画像を選定する用途に利用可能である。
1、1A 物品管理システム
2、2A 冷蔵庫
3、3A 撮影装置
4 端末装置
5 物品管理サーバ
7 撮像システム
20A 天面(上面)
22 製氷室(貯蔵室)
23 新鮮凍結室(貯蔵室)
24 冷凍室(貯蔵室)
25 野菜室(貯蔵室)
26 貯蔵室
22A、23A、24A、25A、26A 引出
301 広角カメラ
302 挟角カメラ(カメラ)
350、350A 第2プロセッサ
351 第1通信制御部
352、352A 第2通信制御部
353、353A 開閉判定部
354 撮影制御部
355 録画制御部
356 生成部(選定部)
360、360A 第2メモリ
361、361A 制御プログラム
362 撮影装置ID
363 録画データ
364 状態記憶部
AT 固定部材
AT1 嵌合部材
AT2 柱状部材
CD1 第1撮影状態
CD2 第2撮影状態(引出の所定の引出量における被撮影体のカメラによる撮影状態)
D1 管理用データ
DV1 第1録画データ
DV2 第2録画データ
MK 撮影対象画像
MD 識別画像
MDA 情報画像
MDB 符号画像
PD1 第1矩形画像
PD2 第2矩形画像
MF 外枠画像
P1 第1撮影画像
P2 第2撮影画像(引出が引き出された状態である場合の撮影画像)
PB2 撮像画像(カメラにより撮影された画像)
PF2 撮影面
PS1、PS2、PS 被撮影体
TR1 第1トレイ(収納ケース)
TR2 第2トレイ

Claims (12)

  1. 上面に開口が形成された引出を有する貯蔵室を備える冷蔵庫を撮影し、前記冷蔵庫の上面に配置されたカメラと、
    前記引出の上端部に配置され、前記引出の引出量に応じて前記カメラによる撮影状態が変化する被撮影体と、
    前記引出の所定の引出量における前記被撮影体の前記カメラによる撮影状態を記憶する状態記憶部と、
    前記状態記憶部が記憶した前記被撮影体の前記カメラによる撮影状態に基づいて、前記カメラにより撮影された画像から前記引出が引き出された状態である場合の撮影画像を選定する選定部と、
    を備える、撮像システム。
  2. 前記引出が所定の引出量において、前記被撮影体の撮影面が前記カメラの撮像領域に含まれるように、前記被撮影体は前記引出に配置される、
    請求項1に記載の撮像システム。
  3. 前記引出は、引出可能に構成された収納ケースが配置され、
    前記被撮影体は、前記収納ケースに配置され、
    前記被撮影体を前記収納ケースの側面の上端部に固定する固定部材を備える、請求項2に記載の撮像システム。
  4. 前記被撮影体の撮影面には、前記貯蔵室に収納される物品の種類、又は物品が収納される前記貯蔵室を示す識別情報を含む撮影対象画像が形成され、
    前記状態記憶部は、前記撮影対象画像を記憶し、
    前記選定部は、前記状態記憶部が記憶した前記撮影対象画像に基づいて、前記カメラにより撮影された画像から前記引出が引き出された状態である場合の撮影画像を選定する、
    請求項1に記載の撮像システム。
  5. 前記撮影対象画像は、
    矩形の外枠画像と、
    前記外枠画像の内部に形成され、前記貯蔵室に収納される物品の種類、又は物品が収納される前記貯蔵室を示す識別情報に対応する識別画像と、
    を含む、請求項4に記載の撮像システム。
  6. 前記識別画像は、第1色の第1矩形画像と、第1色と異なる第2色の第2矩形画像とで構成され、
    前記第1矩形画像と前記第2矩形画像との配置のパターンは、前記識別情報に対応する、
    請求項5に記載の撮像システム。
  7. 前記第1矩形画像のサイズは、前記第2矩形画像のサイズと同一であり、
    前記第1矩形画像と前記第2矩形画像とは、前記外枠画像の長手方向に沿って配列される、
    請求項6に記載の撮像システム。
  8. 前記第1矩形画像のサイズ、及び前記第2矩形画像のサイズは、前記カメラの解像度、及び、前記貯蔵室が所定の引出量における前記カメラと前記撮影対象画像との距離に基づいて決定される、
    請求項7に記載の撮像システム。
  9. 前記選定部は、前記カメラにより撮影された画像に含まれる前記外枠画像を検出することができ、且つ、前記カメラにより撮影された画像に含まれる前記撮影対象画像の識別画像が示す識別情報が、前記状態記憶部が記憶した前記撮影対象画像の識別画像が示す識別情報と一致した場合に、前記カメラにより撮影された画像を前記引出が引き出された状態である場合の撮影画像として選定する、
    請求項5から請求項8のいずれか1項に記載の撮像システム。
  10. 前記選定部は、前記カメラが前記被撮影体を撮影したと判定した場合に、前記カメラが前記被撮影体を撮影したことをユーザに通知する、
    請求項1に記載の撮像システム。
  11. 上面に開口が形成された引出を有する貯蔵室を備える冷蔵庫を撮影し、前記冷蔵庫の上面に配置されたカメラと、
    前記引出の所定の引出量における被撮影体の前記カメラによる撮影状態を記憶する状態記憶部と、
    前記状態記憶部が記憶した前記被撮影体の前記カメラによる撮影状態に基づいて、前記カメラにより撮影された画像から前記引出が引き出された状態である場合の撮影画像を選定する選定部と、
    を備え、
    前記被撮影体は、前記引出の上端部に配置され、前記引出の引出量に応じて前記カメラによる撮影状態が変化する、撮像装置。
  12. 上面に開口が形成された引出を有する貯蔵室を備える冷蔵庫を撮影し、前記冷蔵庫の上面に配置されたカメラと、
    前記引出の上端に配置され、前記引出の引出量に応じて前記カメラによる撮影状態が変化する被撮影体と、
    前記引出の所定の引出量における前記被撮影体の前記カメラによる撮影状態を記憶する状態記憶部と、
    前記状態記憶部が記憶した前記被撮影体の前記カメラによる撮影状態に基づいて、前記カメラにより撮影された画像から前記引出が引き出された状態である場合の撮影画像を選定する選定部と、
    を備える、冷蔵庫。
JP2022165224A 2022-10-14 2022-10-14 撮像システム、撮像装置、及び冷蔵庫 Pending JP2024058083A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022165224A JP2024058083A (ja) 2022-10-14 2022-10-14 撮像システム、撮像装置、及び冷蔵庫
PCT/JP2023/031235 WO2024080015A1 (ja) 2022-10-14 2023-08-29 撮像システム、撮像装置、及び冷蔵庫

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022165224A JP2024058083A (ja) 2022-10-14 2022-10-14 撮像システム、撮像装置、及び冷蔵庫

Publications (1)

Publication Number Publication Date
JP2024058083A true JP2024058083A (ja) 2024-04-25

Family

ID=90669472

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022165224A Pending JP2024058083A (ja) 2022-10-14 2022-10-14 撮像システム、撮像装置、及び冷蔵庫

Country Status (2)

Country Link
JP (1) JP2024058083A (ja)
WO (1) WO2024080015A1 (ja)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003042626A (ja) * 2001-07-26 2003-02-13 Toshiba Corp 冷蔵庫
JP2014070796A (ja) * 2012-09-28 2014-04-21 Sharp Corp 庫内撮影装置および冷蔵庫
JP5827292B2 (ja) * 2013-10-29 2015-12-02 三菱電機株式会社 冷蔵庫
JP6938116B2 (ja) * 2016-05-30 2021-09-22 シャープ株式会社 在庫管理装置および在庫管理方法
CN116829888A (zh) * 2021-02-25 2023-09-29 松下知识产权经营株式会社 出入库管理装置、出入库管理系统、以及出入库管理方法

Also Published As

Publication number Publication date
WO2024080015A1 (ja) 2024-04-18

Similar Documents

Publication Publication Date Title
CN112984913B (zh) 物品显示系统
US20160138857A1 (en) Refrigeration appliance comprising a camera module
JP2021050909A (ja) 通知方法、システム
CN105605881B (zh) 冰箱及其控制方法
JP6391943B2 (ja) 冷蔵庫、カメラ装置、庫内画像表示プログラム
CN105358925A (zh) 制冷器具系统
JP2016148503A (ja) 冷蔵庫、冷蔵庫管理方法及びプログラム
JP2016183826A (ja) 撮像ユニット及び冷蔵庫
JP6655908B2 (ja) 冷蔵庫およびプログラム
KR102145607B1 (ko) 전기제품
JP2009184781A (ja) 書庫管理システム及び書庫管理方法
WO2022049919A1 (ja) 食品検出装置
JP2022033235A (ja) 冷蔵庫
JP2022003299A (ja) 冷蔵庫
WO2024080015A1 (ja) 撮像システム、撮像装置、及び冷蔵庫
JP2022103368A (ja) 冷蔵庫
KR20150026412A (ko) 전기제품
WO2024080014A1 (ja) 撮像システム、撮像装置、及び冷蔵庫
JP6681555B2 (ja) 冷蔵庫
TW202417792A (zh) 拍攝系統、拍攝裝置、及冰箱
WO2022049921A1 (ja) 食品管理システム
WO2022048564A1 (zh) 具有可移动相机的制冷电器
WO2022049920A1 (ja) 食品管理システム、及び冷蔵庫
WO2024080037A1 (ja) 物品管理システム、及び冷蔵庫
JP2018173272A (ja) 冷蔵庫、カメラ装置、冷蔵庫用ドアポケット、通信端末、家電ネットワークシステム、庫内画像表示プログラム