JP2019070477A - refrigerator - Google Patents

refrigerator Download PDF

Info

Publication number
JP2019070477A
JP2019070477A JP2017196353A JP2017196353A JP2019070477A JP 2019070477 A JP2019070477 A JP 2019070477A JP 2017196353 A JP2017196353 A JP 2017196353A JP 2017196353 A JP2017196353 A JP 2017196353A JP 2019070477 A JP2019070477 A JP 2019070477A
Authority
JP
Japan
Prior art keywords
food
storage
opening
information
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017196353A
Other languages
Japanese (ja)
Other versions
JP7012262B2 (en
JP2019070477A5 (en
Inventor
村上 和宏
Kazuhiro Murakami
和宏 村上
田中 倫明
Tomoaki Tanaka
倫明 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2017196353A priority Critical patent/JP7012262B2/en
Priority to CN201811155860.7A priority patent/CN109631484A/en
Publication of JP2019070477A publication Critical patent/JP2019070477A/en
Publication of JP2019070477A5 publication Critical patent/JP2019070477A5/ja
Priority to JP2021212787A priority patent/JP7386459B2/en
Application granted granted Critical
Publication of JP7012262B2 publication Critical patent/JP7012262B2/en
Priority to JP2023186805A priority patent/JP2023181404A/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F25REFRIGERATION OR COOLING; COMBINED HEATING AND REFRIGERATION SYSTEMS; HEAT PUMP SYSTEMS; MANUFACTURE OR STORAGE OF ICE; LIQUEFACTION SOLIDIFICATION OF GASES
    • F25DREFRIGERATORS; COLD ROOMS; ICE-BOXES; COOLING OR FREEZING APPARATUS NOT OTHERWISE PROVIDED FOR
    • F25D29/00Arrangement or mounting of control or safety devices
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F25REFRIGERATION OR COOLING; COMBINED HEATING AND REFRIGERATION SYSTEMS; HEAT PUMP SYSTEMS; MANUFACTURE OR STORAGE OF ICE; LIQUEFACTION SOLIDIFICATION OF GASES
    • F25DREFRIGERATORS; COLD ROOMS; ICE-BOXES; COOLING OR FREEZING APPARATUS NOT OTHERWISE PROVIDED FOR
    • F25D25/00Charging, supporting, and discharging the articles to be cooled
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F25REFRIGERATION OR COOLING; COMBINED HEATING AND REFRIGERATION SYSTEMS; HEAT PUMP SYSTEMS; MANUFACTURE OR STORAGE OF ICE; LIQUEFACTION SOLIDIFICATION OF GASES
    • F25DREFRIGERATORS; COLD ROOMS; ICE-BOXES; COOLING OR FREEZING APPARATUS NOT OTHERWISE PROVIDED FOR
    • F25D2500/00Problems to be solved
    • F25D2500/06Stock management

Landscapes

  • Engineering & Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Thermal Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Cold Air Circulating Systems And Constructional Details In Refrigerators (AREA)
  • Refrigerator Housings (AREA)

Abstract

To provide a refrigerator capable of acquiring and managing information of food stored in a storage chamber more surely, by eliminating a constitution for preventing fogging of a lens.SOLUTION: A refrigerator 1 includes: a refrigeration chamber 10 having an opening 10a; a right door and a left door 12 for opening/closing the refrigeration chamber 10; a camera 60 arranged in a position which is outside of the refrigeration chamber 10 and in which the opening 10a is included in an imaging range 60a when the right door or the left door 12 is in an open state; a food information acquisition part for acquiring information of food passing the opening 10a from the photographed image by the camera 60; and a food information managing part for managing the information of food stored in the refrigeration chamber 10 storage chamber based on the food information acquired by the food information acquisition part.SELECTED DRAWING: Figure 5

Description

本発明は、冷蔵庫に関する。   The present invention relates to a refrigerator.

従来、冷蔵室の右扉の内側に設けられたカメラにより冷蔵室内を撮像し、撮像した画像のデータを、ネットワークを経由して外部の通信端末送信するようにした冷蔵庫が提案されている(例えば、特許文献1参照)。特許文献1に記載された冷蔵庫においては、冷蔵室の扉を開けた際に生じるレンズの曇りを防止するために、レンズヒーターを設けた構成が開示されている。   Conventionally, a refrigerator has been proposed in which the refrigerator compartment is imaged by a camera provided inside the right door of the refrigerator compartment, and data of the imaged image is transmitted via the network to an external communication terminal (for example, , Patent Document 1). In the refrigerator described in Patent Document 1, a configuration is disclosed in which a lens heater is provided in order to prevent fogging of the lens that occurs when the door of the refrigerator compartment is opened.

特開2015−111025号公報JP, 2015-111025, A

上記特許文献1に記載された構成にように、扉の内側に設けられたカメラにより冷蔵室内を撮像した場合、食品の収容状態によっては、カメラの撮像方向で複数の食品同士が重なり合って、一部の食品が撮像されない場合がある。この場合には、撮像されなかった食品の情報を得ることができない。また、庫内に配置されたカメラにレンズヒーターを設けることは、カメラ周囲の設置スペースの増大とコストアップを招くと共に、レンズヒーターからの放熱により庫内の冷却が妨げられるという不都合がる。
本発明はかかる背景に鑑みてなされたものであり、カメラレンズの曇りを防止するための構成を不要として、収容室に収容されている食品の情報をより確実に取得して管理することができる冷蔵庫を提供することを目的とする。
As in the configuration described in Patent Document 1, when the refrigerator compartment is imaged by a camera provided inside the door, depending on the storage condition of the food, a plurality of food products overlap in the imaging direction of the camera. Department of food may not be imaged. In this case, it is not possible to obtain information on food that has not been imaged. Further, providing the lens heater in the camera disposed in the storage increases the installation space around the camera and increases the cost, and also has the disadvantage that the cooling of the inside of the storage is hindered by the heat radiation from the lens heater.
The present invention has been made in view of the above background, and it is possible to more reliably acquire and manage information on food stored in a storage room without requiring a configuration for preventing fogging of a camera lens. Intended to provide a refrigerator.

前記従来の課題を解決するために、本発明の冷蔵庫は、開口部を有する収容室と、前記開口部を開閉する開閉部と、前記収容室の外部であって、前記開閉部が開状態であるときに前記開口部が撮像範囲に含まれる位置に配置されたカメラと、前記カメラによる撮像画像から、前記開口部を通過する食品の情報を取得する食品情報取得部と、前記食品情報取得部により取得された食品の情報に基づいて、前記収容室に収容されている食品の情報を管理する食品情報管理部とを備えているものである。   In order to solve the above-mentioned conventional problems, in the refrigerator according to the present invention, a storage chamber having an opening, an opening and closing portion for opening and closing the opening, and an outside of the storage chamber, the opening and closing portion being open A food information acquisition unit that acquires information of food passing through the opening from the camera when the opening is located at a position where the opening is included in the imaging range, an image captured by the camera, and the food information acquisition unit And a food information management unit that manages information of the food contained in the storage room based on the information of the food obtained by the method.

本発明によれば、カメラが収容室の外部に配置されるため、開閉部が閉状態から開状態に切り替わったときに、収容室に流入する室内の空気によってカメラのレンズが曇ることがない。そのため、レンズの曇りを防止するための構成を不要とすることができる。また、開閉部が開状態であるときに、カメラの撮像範囲に収容室の開口部が含まれた状態となるため、食品情報取得部は、カメラの撮像画像から、収容室の開口部を通過する食品の情報を取得することができる。これにより、収容室に収容されている食品が重なり合っている場合であっても、食品情報管理部は、食品が開口部を通過する段階での撮像画像から取得された食品の情報に基づいて、収容室に収容されている食品の情報を管理することができる。   According to the present invention, since the camera is disposed outside the storage chamber, air in the room flowing into the storage chamber does not cloud the lens of the camera when the open / close unit is switched from the closed state to the open state. Therefore, the configuration for preventing the fogging of the lens can be eliminated. In addition, when the opening / closing unit is in the open state, the opening of the storage chamber is included in the imaging range of the camera, so the food information acquisition unit passes the opening of the storage chamber from the captured image of the camera You can get information on the food you Thereby, even if the food stored in the storage room overlaps each other, the food information management unit is based on the information of the food acquired from the captured image at the stage when the food passes through the opening, It is possible to manage information of food contained in the storage room.

本発明の冷蔵庫によれば、収容室の開口部を通過する食品を収容室の外部に配置されたカメラにより撮像することによって、カメラレンズの曇りを防止するための構成を不要として、収容室に収容されている食品の情報をより確実に取得して管理することができる。   According to the refrigerator of the present invention, the image of food passing through the opening of the storage chamber is imaged by the camera disposed outside the storage chamber, thereby eliminating the need for a configuration for preventing the camera lens from being fogged. Information on stored food can be acquired and managed more reliably.

家屋に設置された冷蔵庫に収容された食品の状況を、端末装置により確認する構成の説明図Explanatory drawing of the structure which confirms the condition of the food accommodated in the refrigerator installed in the house by a terminal device 冷蔵庫の外観の説明図Illustration of the appearance of the refrigerator 冷蔵庫の庫内の構成を、右側から見た断面図により示した説明図Explanatory drawing which showed the structure in the inside of the refrigerator of a refrigerator by sectional drawing seen from the right side 冷蔵室の左ドアを開けたときの状態を、右側から見た断面図により示した説明図Explanatory drawing which showed the state when the left door of the refrigerator compartment was opened by the sectional view seen from the right side 冷蔵室の右ドアを開閉した状態を上方から見た場合の説明図An explanatory view of the state in which the right door of the refrigerator compartment is opened and closed as viewed from above 冷蔵室の内部構成を、正面から見た断面図により示した説明図Explanatory drawing which showed the internal structure of the refrigerator compartment by sectional drawing seen from the front 制御ユニットの構成図Control unit configuration diagram 制御ユニットによる全体的な処理を示したフローチャートFlow chart showing overall processing by control unit 撮像処理のフローチャートFlow chart of imaging process 重量情報処理のフローチャートFlowchart of weight information processing 入庫時画像の分析処理のフローチャートFlow chart of analysis process of image at storage 出庫時画像の分析処理のフローチャートFlow chart of analysis processing at the time of delivery 重量センサ補正処理のフローチャートFlow chart of weight sensor correction process 庫内食品管理処理の第1のフローチャートFirst flow chart of in-house food management processing 庫内食品管理処理の第2のフローチャートSecond flow chart of in-house food management processing 庫内食品リスト及び賞味期限基準リストの説明図Explanatory diagram of in-house food list and shelf life criteria list

第1の発明は、開口部を有する収容室と、前記開口部を開閉する開閉部と、前記収容室の外部であって、前記開閉部が開状態であるときに前記開口部が撮像範囲に含まれる位置に配置されたカメラと、前記カメラによる撮像画像から、前記開口部を通過する食品の情報を取得する食品情報取得部と、前記食品情報取得部により取得された食品の情報に基づいて、前記収容室に収容されている食品の情報を管理する食品情報管理部とを備えている。
第1の発明によれば、収容室の開口部を撮像範囲に含むカメラが、収容室の外部に配置されている。そのため、収容室の開閉部が閉状態から開状態に切り替わったときに、収容室内に流入する室内空気によってカメラのレンズが曇ることが回避され、レンズの曇りを防止するための構成を不要とすることができる。また、食品情報取得部により、カメラの撮像画像から、収容室の開口部を通過した食品の情報が取得される。そして、食品情報管理部は、収容室に収容されている食品が重なり合っている場合であっても、食品情報取得部により取得された開口部を通過した食品の情報に基づいて、収容室に収容されている食品の情報を管理することができる。
According to a first aspect of the present invention, there is provided a storage chamber having an opening, an opening and closing portion for opening and closing the opening, and the outside of the storage chamber, the opening being in an imaging range when the opening and closing portion is open. Based on the information of the food obtained by the food information acquisition unit that acquires information of the food passing through the opening from the camera disposed at the included position, the image captured by the camera, and the information on the food acquired by the food information acquisition unit And a food information management unit configured to manage information of food stored in the storage room.
According to the first aspect of the invention, the camera including the opening of the storage chamber in the imaging range is disposed outside the storage chamber. Therefore, when the opening / closing part of the storage chamber is switched from the closed state to the open state, the lens of the camera is prevented from being fogged by room air flowing into the storage chamber, and the configuration for preventing the lens from fogging is unnecessary. be able to. Further, the food information acquisition unit acquires, from the captured image of the camera, information on the food that has passed through the opening of the storage chamber. Then, the food information management unit stores the food in the storage room based on the information on the food that has passed through the opening acquired by the food information acquisition unit, even when the food stored in the storage room overlaps each other. You can manage the information of the food that is being

第2の発明は、前記カメラは前記開口部の外周部に配置され、前記開閉部の外周部であって前記開閉部が閉状態であるときに前記カメラと対向する箇所に設けられ、前記開閉部が閉状態であるときに、前記開閉部の外側からの前記カメラの視認を不能とする目隠し部を備えている。
第2の発明によれば、開閉部が閉状態であるときにカメラの視認を不能とする目隠し部を備えることによって、収容室への入庫及び収容室からの出庫が行われていないときの冷蔵庫の美観を高めることができる。
In a second aspect of the present invention, the camera is disposed at an outer peripheral portion of the opening, and is provided at an outer peripheral portion of the opening and closing portion and facing the camera when the opening and closing portion is in a closed state. When the unit is in the closed state, it has a blind portion that makes it impossible to view the camera from the outside of the opening / closing unit.
According to the second aspect of the invention, by providing the blindfold portion that makes it impossible to view the camera when the opening and closing portion is in the closed state, the refrigerator when the storage into the storage chamber and the removal from the storage chamber are not performed Can enhance the aesthetics of

第3の発明では、前記収容室は前記冷蔵庫の最上段に配置され、前記カメラは前記収容室の天板に配置されている。
第3の発明によれば、冷蔵庫の最上段に配置された収容室の天板にカメラを配置することにより、ユーザーがカメラを視認し難くして、カメラを収容室に配置することによる美観の低下を抑えることができる。
In the third invention, the storage chamber is disposed at the top of the refrigerator, and the camera is disposed on a top plate of the storage chamber.
According to the third aspect of the present invention, by disposing the camera on the top plate of the storage room disposed at the uppermost stage of the refrigerator, it is difficult for the user to visually recognize the camera, and aesthetics is achieved by disposing the camera in the storage room. It is possible to suppress the decline.

以下、本発明の実施の形態について、図面を参照しながら説明する。なお、本実施の形態によって本発明が限定されるものではない。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. The present invention is not limited by the present embodiment.

[1.冷蔵庫の使用態様]
図1は、本実施形態の冷蔵庫の使用態様を示している。本実施形態の冷蔵庫1は、家屋Hに設置され、ゲートウェイ500及び通信ネットワーク510を介して管理サーバー520との間で通信を行う機能を有している。また、冷蔵庫1は、端末装置(スマートフォン、タブレット端末等)400との間で通信を行う機能を有している。端末装置400は、ゲートウェイ500及び通信ネットワーク510を介して管理サーバー520との間で通信を行う機能を有している。
[1. Usage of refrigerator]
FIG. 1 shows a usage mode of the refrigerator of the present embodiment. The refrigerator 1 according to the present embodiment is installed in a house H and has a function of communicating with the management server 520 via the gateway 500 and the communication network 510. In addition, the refrigerator 1 has a function of performing communication with a terminal device (a smartphone, a tablet terminal, and the like) 400. The terminal device 400 has a function of communicating with the management server 520 via the gateway 500 and the communication network 510.

冷蔵庫1に備えられた制御ユニット100は、冷蔵庫1の全体的な作動を制御すると共に、冷蔵庫1の収容室に収容されている食品の情報を示す庫内食品リスト131を生成して管理サーバー520に送信する。端末装置400において実行される冷蔵庫の管理用アプリケーションは、管理サーバー520から庫内食品リスト131のデータを取得することにより、或いは冷蔵庫1から庫内食品リスト131のデータを取得することにより、庫内食品リスト131に基づいて、冷蔵庫1に収容されている食品の情報を表示部に表示する。冷蔵庫1のユーザーPは、端末装置400の表示を視認することにより、冷蔵庫1に収容されている食品の状況(食品名、賞味期限、残量等)を確認することができる。   The control unit 100 provided in the refrigerator 1 controls the overall operation of the refrigerator 1 and generates an in-box food list 131 indicating information on the food stored in the storage chamber of the refrigerator 1 to manage the management server 520. Send to The application for management of the refrigerator executed in the terminal device 400 is in the storage by acquiring the data of the storage in the storage list 131 from the management server 520 or by acquiring the data of the storage in the storage list 131 from the refrigerator 1 Information of the food accommodated in the refrigerator 1 is displayed on the display unit based on the food list 131. The user P of the refrigerator 1 can confirm the condition (food name, expiration date, remaining amount, etc.) of the food accommodated in the refrigerator 1 by visually recognizing the display on the terminal device 400.

冷蔵庫1の最上部の外部(庫外)には、冷蔵室10の開口部付近を撮像するカメラ60が設けられている。カメラ60は、詳細は後述するが、右ドア11が閉まっているときはユーザーPに視認されない状態となる。また、本実施形態では、カメラ60がユーザーPよりも高い位置に設けられているため、右ドア11が開いているときにも、カメラ60がユーザーPに視認され難い。このようなカメラ60の設置態様により、カメラ60を庫外に設けることによって、冷蔵庫1の美観が損なわれることが抑制されている。   At the top outside (outside the refrigerator) of the refrigerator 1, a camera 60 for imaging the vicinity of the opening of the refrigerator compartment 10 is provided. The camera 60 will be described later in detail, but will not be viewed by the user P when the right door 11 is closed. Further, in the present embodiment, since the camera 60 is provided at a position higher than the user P, the camera 60 is less likely to be visually recognized by the user P even when the right door 11 is opened. With such an installation mode of the camera 60, the appearance of the refrigerator 1 is prevented from being impaired by providing the camera 60 outside the storage.

[2.冷蔵庫の構成]
図2〜図7を参照して、冷蔵庫1の構成について説明する。図2は冷蔵庫1の外観を示した説明図である。図2に示したように、冷蔵庫1は前面に開口した主箱体2を備え、主箱体2内には、冷蔵室10(本発明の収容室に相当する)、製氷室30、製氷室30に併設されて庫内の温度が変更できる切換室20、冷凍室40、及び野菜室50が形成されている。
[2. Configuration of refrigerator]
The configuration of the refrigerator 1 will be described with reference to FIGS. 2 to 7. FIG. 2 is an explanatory view showing the appearance of the refrigerator 1. As shown in FIG. 2, the refrigerator 1 is provided with a main box 2 opened at the front, and in the main box 2, a refrigerator compartment 10 (corresponding to the storage compartment of the present invention), an ice making room 30, an ice making room A switching room 20, a freezing room 40, and a vegetable room 50 which are juxtaposed to 30 and in which the temperature inside the storage can be changed are formed.

冷蔵室10の前面の開口部には、回転式の右ドア11及び左ドア12が設けられている。また、切換室20、製氷室30、冷凍室40、及び野菜室50には、それぞれ食品を収容する引き出し21、31、41、51が設けられている。冷蔵室10の天板の外周部(冷蔵室10の外部)には、冷蔵室10の開口部を撮像範囲に含んでいるカメラ60が配置されている。   At the front opening of the refrigerator compartment 10, rotary right and left doors 11 and 12 are provided. Further, drawers 21, 31, 41, 51 for storing food are provided in the switching room 20, the ice making room 30, the freezing room 40, and the vegetable room 50, respectively. The camera 60 which includes the opening of the refrigerator compartment 10 in the imaging range is arranged at the outer peripheral part of the top plate of the refrigerator compartment 10 (outside of the refrigerator compartment 10).

次に、図3は冷蔵庫1の庫内の構成を右側から見た断面図により示した説明図であり、図4は冷蔵室10の内部構成を正面から見た断面図により示した説明図である。図3、図4を参照して、冷蔵室10には、冷蔵室10をサブエリアに区画する上棚13、中棚14、下棚15が配置されている。また、冷蔵室10には、上棚13に置かれた食品の重量を検出する重量センサ13a,13b、中棚14に置かれた食品の重量を検出する重量センサ14a,14b、下棚15に置かれた食品の重量を検出する重量センサ15a,15bが設けられている。さらに、冷蔵室10には、冷蔵室10内を照らす照明部16a〜16f、冷蔵室10内の照度を検出する照度センサ17a〜17c、及びカメラ60が設けられている。   Next, FIG. 3 is an explanatory view showing the internal configuration of the refrigerator 1 as viewed from the right side, and FIG. 4 is an explanatory view showing the internal configuration of the refrigerator compartment 10 as viewed from the front. is there. With reference to FIG. 3 and FIG. 4, an upper shelf 13, a middle shelf 14, and a lower shelf 15 are disposed in the refrigerator compartment 10 to partition the refrigerator compartment 10 into sub areas. In the refrigerator compartment 10, weight sensors 13a and 13b for detecting the weight of food placed on the upper shelf 13, weight sensors 14a and 14b for detecting weight of food placed on the middle shelf 14, and lower shelf 15 Weight sensors 15a and 15b are provided to detect the weight of the prepared food. Furthermore, in the refrigerator compartment 10, illumination units 16a to 16f for illuminating the inside of the refrigerator compartment 10, illuminance sensors 17a to 17c for detecting the illuminance in the refrigerator compartment 10, and a camera 60 are provided.

また、冷凍サイクルを構成する補機である圧縮機61、冷却ファン62、冷却器63、及び凝縮器64が設けられている。さらに、冷蔵室10の背面には、冷気を流通させるための冷蔵室ダクト70と冷気吐出口71〜73が配置されている。   In addition, a compressor 61, which is an auxiliary device constituting the refrigeration cycle, a cooling fan 62, a cooler 63, and a condenser 64 are provided. Furthermore, on the back surface of the refrigerator compartment 10, a refrigerator compartment duct 70 and cold air discharge ports 71 to 73 for circulating cold air are disposed.

冷蔵室10には、右ドア11の開閉を検出する開閉センサ18bと、左ドア12の開閉を検出する開閉センサ18aとが設けられている。開閉センサ18bは、右ドア11が閉まっているときは閉検出信号を出力し、右ドア11が開いているときには開検出信号を出力する。同様に、開閉センサ18aは、左ドア12が閉まっているときは閉検出信号を出力し、左ドア12が開いているときには開検出信号を出力する。   In the refrigerator compartment 10, an open / close sensor 18b for detecting the opening / closing of the right door 11 and an open / close sensor 18a for detecting the opening / closing of the left door 12 are provided. The open / close sensor 18b outputs a close detection signal when the right door 11 is closed, and outputs an open detection signal when the right door 11 is open. Similarly, the open / close sensor 18a outputs a close detection signal when the left door 12 is closed, and outputs an open detection signal when the left door 12 is open.

切換室20には、開口部20aの開閉を検出する開閉センサ22が設けられている。開閉センサ22は、切換室20に引き出し21が収容されているときは閉検出信号を出力し、切換室20から引き出し21が引き出されているときには開検出信号を出力する。   The switching chamber 20 is provided with an open / close sensor 22 for detecting the opening / closing of the opening 20a. The open / close sensor 22 outputs a close detection signal when the drawer 21 is accommodated in the switching chamber 20, and outputs an open detection signal when the drawer 21 is withdrawn from the switching chamber 20.

同様に、製氷室30には引き出し31による開口部30aの開閉を検出する開閉センサ32が設けられ、冷凍室40には引き出し41による開口部40aの開閉を検出する開閉センサ42が設けられ、野菜室50には引き出し51による開口部50aの開閉を検出する開閉センサ52が設けられている。開閉センサ32,42,52は、開閉センサ22と同様に、閉検出信号と開検出信号を出力する。   Similarly, the ice making chamber 30 is provided with an open / close sensor 32 for detecting the opening / closing of the opening 30a by the drawer 31, and the freezing chamber 40 is provided with the open / close sensor 42 for detecting the opening / closing of the opening 40a by the drawer 41 The chamber 50 is provided with an open / close sensor 52 for detecting the opening / closing of the opening 50 a by the drawer 51. The open / close sensors 32, 42, 52 output the close detection signal and the open detection signal, as in the case of the open / close sensor 22.

次に、図5は、冷蔵室10の左ドア12が開いている状態での冷蔵庫1の庫内の構成を右側から見た断面図により示した説明図である。カメラ60は、冷蔵室10の天板19の前端付近の外側に設けられている。カメラ60の撮像範囲60aは、冷蔵室10の開口部10aを含んでおり、カメラ60は、開口部10aから各棚13,14,15の前端付近までの範囲を撮像する。これにより、上棚13、中棚14、及び下棚15に入庫される食品、及び上棚13、中棚14、及び下棚15から出庫される食品を、開口部10aを通過する際に、カメラ60により撮像可能な構成となっている。   Next, FIG. 5 is explanatory drawing which showed the structure in the inside of the refrigerator 1 in the state in which the left door 12 of the refrigerator compartment 10 was open by sectional drawing seen from the right side. The camera 60 is provided on the outside near the front end of the top 19 of the refrigerator compartment 10. The imaging range 60 a of the camera 60 includes the opening 10 a of the cold storage room 10, and the camera 60 images the range from the opening 10 a to the vicinity of the front end of each shelf 13, 14, 15. Thus, the camera 60 receives the food stored in the upper shelf 13, the middle shelf 14, and the lower shelf 15, and the food discharged from the upper shelf 13, the middle shelf 14, and the lower shelf 15 through the opening 10 a. Is configured to be capable of imaging.

また、図6は、冷蔵室10の右ドア11を開閉した状態を、冷蔵庫1の上方から見た場合を示している。右ドア11は右ヒンジ200によって軸支され、左ドア12は左ヒンジ201に軸支されている。   Moreover, FIG. 6 has shown the case where the state which opened and closed the right door 11 of the refrigerator compartment 10 was seen from the upper direction of the refrigerator 1. FIG. The right door 11 is pivotally supported by the right hinge 200, and the left door 12 is pivotally supported by the left hinge 201.

右ドア10の枠の外周部の上端には、凹形状の目隠し部210が設けられている。図6のAに示したように、目隠し部210は、右ドア11が閉まっているときに、カメラ60と対向する箇所に設けられている。右ドア11が閉まっている状態では、カメラ60の前面が目隠し部210により覆われるため、ユーザーPは冷蔵庫1の前面(図6の矢印D1の方向)からカメラ60を視認することができない。これにより、カメラ60を庫外に設けることに伴って、右ドア11が閉まっていいる状態での冷蔵庫1の美観が損なわれることを防止している。   A concave blind portion 210 is provided at the upper end of the outer peripheral portion of the frame of the right door 10. As shown in A of FIG. 6, the blindfold portion 210 is provided at a position facing the camera 60 when the right door 11 is closed. In the state where the right door 11 is closed, the front surface of the camera 60 is covered by the blindfold portion 210, so the user P can not visually recognize the camera 60 from the front surface of the refrigerator 1 (direction of arrow D1 in FIG. 6). Thus, the appearance of the refrigerator 1 in a state in which the right door 11 is closed is prevented from being impaired as the camera 60 is provided outside the storage.

また、図6のBに示したように、冷蔵室10の右ドア11が開いているときには、見隠し部210がカメラ60から離れて露出するが、図1を参照して上述したように、カメラ60は冷蔵庫1の最上部に設けられているため、ユーザーPの視界に入り難い。   Moreover, as shown to B of FIG. 6, when the right door 11 of the refrigerator compartment 10 is open, although the concealment part 210 is separated and exposed from the camera 60, as above-mentioned with reference to FIG. Since the camera 60 is provided at the top of the refrigerator 1, it is difficult for the user P to view.

ここで、カメラを冷蔵室10内に配置した場合には、右ドア11又は左ドア12が開けられたときに、室内の空気(冷蔵室10内よりも高い温度の空気)が冷蔵室10に流入して低温となっているカメラのレンズに触れ、レンズの曇りが生じる。そのため、レンズヒータ等を設けて、レンズの曇りを防止する必要がある。   Here, when the camera is disposed in the refrigerator compartment 10, when the right door 11 or the left door 12 is opened, indoor air (air having a temperature higher than that in the refrigerator compartment 10) is sent to the refrigerator compartment 10. Touching the camera lens that has flowed in and becoming cold, the lens becomes cloudy. Therefore, it is necessary to provide a lens heater or the like to prevent fogging of the lens.

それに対して、本実施形態では、カメラ60を冷蔵室10の外部に設けているため、右ドア11又は左ドア12が開けられたときに、カメラ60のレンズが曇ることがない。そのため、レンズの曇りを防止するための構成を設ける必要がなく、この構成を設けることによる庫内の食品の収容スペースの減少を回避することができる。さらに、レンズヒーターを設けた場合の弊害である、レンズヒーターからの発熱による庫内温度の上昇を回避することができる。   On the other hand, in the present embodiment, since the camera 60 is provided outside the refrigerator compartment 10, when the right door 11 or the left door 12 is opened, the lens of the camera 60 does not become cloudy. Therefore, it is not necessary to provide a configuration for preventing the fogging of the lens, and it is possible to avoid the reduction of the storage space of the food in the refrigerator by providing this configuration. Furthermore, it is possible to avoid an increase in the temperature inside the chamber due to heat generation from the lens heater, which is a bad effect when the lens heater is provided.

次に、図7は制御ユニット100の構成図である。図7を参照して、制御ユニット100は、CPU(Central Processing Unit)110、画像処理部120、記憶部130、無線通信部140、日時認識部141、及び図示しないインターフェース回路等によって構成された電子回路ユニットである。   Next, FIG. 7 is a block diagram of the control unit 100. As shown in FIG. Referring to FIG. 7, control unit 100 is an electronic device configured of a central processing unit (CPU) 110, an image processing unit 120, a storage unit 130, a wireless communication unit 140, a date and time recognition unit 141, and an interface circuit not shown. It is a circuit unit.

CPU110は、記憶部130に保存された冷蔵庫1の制御用プログラムを実行することによって、通過物体検出部111、収容量認識部112、入出庫判定部113、食品情報取得部114、及び食品情報管理部115として機能する。   The CPU 110 executes the control program for the refrigerator 1 stored in the storage unit 130 to detect the passing object detection unit 111, the storage amount recognition unit 112, the storage and storage determination unit 113, the food information acquisition unit 114, and the food information management. It functions as the unit 115.

制御ユニット100は、開閉センサ18a,18b,22,32,42,52、照度センサ17a,17b,17c、重量センサ13a,13b,14a,14b,15a,15b、カメラ60、照明部16a,16b,16c,16d,16e,16f、及び冷凍サイクル補機61,62,63,64と接続されている。   The control unit 100 includes open / close sensors 18a, 18b, 22, 32, 42, 42, illuminance sensors 17a, 17b, 17c, weight sensors 13a, 13b, 14a, 14b, 15a, 15b, a camera 60, illumination units 16a, 16b, It is connected to 16c, 16d, 16e, 16f and refrigeration cycle accessories 61, 62, 63, 64.

制御ユニット100には、開閉センサ18a,18b,22,32,42,52、照度センサ17a,17b,17c、及び重量センサ13a,13b,14a,14b,15a,15bの検出信号等が入力される。また、制御ユニット100から出力される制御信号によって、照明部16a,16b,16c,16d,16e,16f、及び冷凍サイクル補機61,62,63,64等の作動が制御される。   Detection signals and the like of the open / close sensors 18a, 18b, 22, 32, 42, 42, the illuminance sensors 17a, 17b, 17c, and the weight sensors 13a, 13b, 14a, 14b, 15a, 15b are input to the control unit 100. . In addition, the operation of the illumination units 16a, 16b, 16c, 16d, 16e, 16f, the refrigeration cycle accessories 61, 62, 63, 64 and the like is controlled by the control signal output from the control unit 100.

さらに、制御ユニット100から出力される制御信号により、画像処理部120を介してカメラ60による撮像が制御される。画像処理部120は、カメラ60から出力される映像信号をデジタルの諧調信号に変換して撮像画像を生成し、撮像画像のデータを画像メモリ121に保存する。画像処理部120は、CPU110から出力される制御信号に応じて、画像メモリ121に保存された撮像画像に対する処理を行う。   Furthermore, the imaging by the camera 60 is controlled via the image processing unit 120 by the control signal output from the control unit 100. The image processing unit 120 converts a video signal output from the camera 60 into a digital gradation signal to generate a captured image, and stores data of the captured image in the image memory 121. The image processing unit 120 performs processing on a captured image stored in the image memory 121 in accordance with a control signal output from the CPU 110.

日時認識部141は、クロック信号を計時して現在の日時(日付と時刻)を認識する。なお、管理サーバー520との通信により、管理サーバー520から現在の日時の情報を取得して、現在の日時を認識する構成としてもよい。   The date and time recognition unit 141 counts a clock signal to recognize the current date and time (date and time). Information on the current date and time may be acquired from the management server 520 through communication with the management server 520 to recognize the current date and time.

記憶部130には、庫内食品リスト131のデータの他に、冷蔵室10に入庫された食品の情報が記録された入庫食品情報132、及び冷蔵室10から出庫された食品の情報が記録された出庫食品情報133のデータが保存される。さらに、記憶部130には、種々の食品のサンプル画像134、及び種々の食品の一般的な賞味期限を示す賞味期限リスト135のデータが保存されている。   In the storage unit 130, in addition to the data of the in-warehouse food list 131, the warehousing food information 132 in which the information of the food received in the cold storage 10 is recorded, and the information of the food delivered from the cold storage 10 are recorded Data of leaving food information 133 is stored. Furthermore, the storage unit 130 stores sample images 134 of various foods and data of a shelf life date list 135 indicating general shelf life of various foods.

通過物体検出部111は、照度センサ17a,17b,17cにより検出される冷蔵室10内の照度の変化に基づいて、冷蔵室10の開口部10aを通過する物体を検出する。収容量認識部112は、重量センサ13a,13b,14a,14b,15a,15bの検出信号に基づいて、上棚13、中棚14、及び下棚15に置かれている食品の量を、重量によって認識する。   The passing object detection unit 111 detects an object passing through the opening 10a of the refrigerator compartment 10 based on the change in the illuminance in the refrigerator compartment 10 detected by the illuminance sensors 17a, 17b and 17c. Based on the detection signals of the weight sensors 13a, 13b, 14a, 14b, 15a and 15b, the storage amount recognition unit 112 uses the weight of the amount of food placed on the upper shelf 13, the middle shelf 14 and the lower shelf 15 by weight. recognize.

収容量認識部112は、冷蔵室10に収容されている食品の量を、重量センサ13a,13bにより検出される上棚13に置かれた食品の重量、重量センサ14a,14bにより検出される中棚14に置かれた食品の重量、及び重量センサ15a,15bにより検出される下棚15に置かれた食品の重量により区別して認識する。   The storage amount recognition unit 112 detects the weight of food placed on the upper shelf 13 detected by the weight sensors 13a and 13b, and the middle shelf detected by the weight sensors 14a and 14b. The weight of the food placed at 14 and the weight of the food placed on the lower shelf 15 detected by the weight sensors 15a and 15b are distinguished and recognized.

入出庫判定部113は、通過物体検出部111により、冷蔵室10の開口部10aを通過する物体が検出された時に、収容量認識部112により認識される各棚13,14,15に置かれた食品の量(重量)の変化に基づいて、冷蔵室10への食品の入庫と冷蔵室10からの食品の出庫とを判定する。   The storage / storage determination unit 113 is placed on each shelf 13, 14, 15 recognized by the storage capacity recognition unit 112 when the passing object detection unit 111 detects an object passing through the opening 10a of the refrigerator compartment 10. Based on the change in the amount (weight) of the food, it is determined whether the storage of the food into the cold storage room 10 and the delivery of the food from the cold storage room 10 are performed.

食品情報取得部114は、冷蔵室10の開口部10aを通過した物体をカメラ60によって撮像する。そして、入出庫判定部113により、冷蔵室10への食品の入庫又は冷蔵室からの食品の出庫が判定されたときに、撮像画像から食品の画像部分を抽出する。   The food information acquisition unit 114 picks up an object that has passed through the opening 10 a of the refrigerator compartment 10 with the camera 60. Then, when the storage determination unit 113 determines that the storage of the food into the cold storage room 10 or the delivery of the food from the cold storage room is determined, the image part of the food is extracted from the captured image.

食品情報取得部114は、食品の画像部分に含まれる文字を認識し、或いは食品の画像部分の特徴から、食品名、内容量、原産地、賞味期限等の情報を取得する。そして、食品情報取得部114は、取得した情報を、入庫が判定された食品(入庫食品)については入庫食品情報132に記録し、出庫が判定された食品(出庫食品)については出庫食品情報133に記録する。   The food information acquisition unit 114 recognizes characters included in the image portion of the food, or acquires information such as the food name, content, origin, expiration date, and the like from the characteristics of the image portion of the food. And the food information acquisition part 114 records the acquired information in the warehousing food information 132 about the food (warehousing food) in which the warehousing was determined, and the food-out food information 133 about the food (the leaving food) in which the warehousing was judged. Record on

食品情報管理部115は、収容量認識部112により認識された冷蔵室10内の食品の重量、食品情報取得部114により記録された入庫食品情報132及び出庫食品情報133等に基づいて、庫内食品リスト131への食品情報の追加と更新を行う。   The food information management unit 115 is based on the weight of the food in the cold storage compartment 10 recognized by the storage capacity recognition unit 112, the received food information 132 recorded by the food information acquisition unit 114, the delivered food information 133, etc. Add and update food information to the food list 131.

[3.制御ユニットによる処理]
次に、図8〜図16を参照して、制御ユニット100により実行される冷蔵室10に収容された食品の管理に関する処理について説明する。
[3. Processing by control unit]
Next, with reference to FIGS. 8-16, the process regarding management of the foodstuff accommodated in the refrigerator compartment 10 performed by the control unit 100 is demonstrated.

図8は、制御ユニット100により実行される一連の処理の概要を示したフローチャートである。制御ユニット100は、ステップS1で「撮像処理」、ステップS2で「重量情報処理」、ステップS3で「画像分析処理」、ステップS4で「重量センサ補正処理」、ステップS5で「庫内食品管理処理」を、それぞれ実行する。以下、各処理の詳細について説明する。   FIG. 8 is a flowchart showing an outline of a series of processes executed by the control unit 100. The control unit 100 performs "imaging processing" in step S1, "weight information processing" in step S2, "image analysis processing" in step S3, "weight sensor correction processing" in step S4, and "in-box food management processing" in step S5. ", Respectively. The details of each process will be described below.

[3−1.撮像処理]
図9に示したフローチャートに従って、「撮像処理」の実行手順について説明する。「撮像処理」は、通過物体検出部111及び食品情報取得部114により実行される。図9のステップS10〜S15は、通過物体検出部111による処理である。通過物体検出部111は、ステップS10で、開閉センサ18a,18bの検出信号から、冷蔵室10の右ドア11と左ドア12の一方又は両方が開けられたと判断したときに、ステップS11に処理を進める。
[3-1. Imaging process]
The execution procedure of the "imaging process" will be described according to the flowchart shown in FIG. The “imaging process” is executed by the passing object detection unit 111 and the food information acquisition unit 114. Steps S <b> 10 to S <b> 15 in FIG. 9 are processes by the passing object detection unit 111. When the passing object detection unit 111 determines in step S10 that one or both of the right door 11 and the left door 12 of the refrigerator compartment 10 are opened from the detection signals of the open / close sensors 18a and 18b, the process is performed in step S11. Advance.

ステップS11で、通過物体検出部111は、照度センサ17a,17b,17cにより冷蔵室10の上棚13、中棚14、下棚15の照度(棚により区画された各スペースの照度)を検出する。そして、通過物体検出部111は、検出した上棚13の照度を上基準照度とし、中棚14の照度を中基準照度とし、下棚15の照度を下基準照度とする。通過物体検出部111は、上基準照度、中基準照度、及び下基準照度のデータを記憶部130に保存する。   In step S11, the passing object detection unit 111 detects the illuminance of the upper shelf 13, the middle shelf 14, and the lower shelf 15 of the refrigerator compartment 10 (the illuminance of each space partitioned by the shelves) by the illuminance sensors 17a, 17b, 17c. Then, the passing object detection unit 111 sets the detected illuminance of the upper shelf 13 as the upper reference illuminance, the illuminance of the middle shelf 14 as the middle reference illuminance, and the illuminance of the lower shelf 15 as the lower reference illuminance. The passing object detection unit 111 stores data of the upper reference illuminance, the middle reference illuminance, and the lower reference illuminance in the storage unit 130.

上基準照度、中基準照度、及び下基準照度は、冷蔵室10の右ドア11と左ドア12の一方又は両方が開けられ、物体(ユーザーの手、食品等)が冷蔵室10の開口部10aを通過する前の状態における各棚13,14,15の照度である。なお、検出照度の誤差や変動を考慮して、上基準照度、中基準照度、及び下基準照度を、各照度センサ17a,17b,17cの検出照度よりも若干低い照度、或いは若干高い照度に設定してもよい。また、後述するステップS13で使用する上基準照度、中基準照度、及び下基準照度と、ステップS14で使用する上基準照度、中基準照度、及び下基準照度とを、異なる値に設定してもよい。   In the upper reference illuminance, the middle reference illuminance, and the lower reference illuminance, one or both of the right door 11 and the left door 12 of the refrigerator compartment 10 are opened, and an object (a user's hand, food, etc.) The illuminance of each shelf 13, 14 and 15 in the state before passing through. The upper reference illuminance, the middle reference illuminance, and the lower reference illuminance are set to illuminance slightly lower or higher than the detected illuminance of each of the illuminance sensors 17a, 17b, 17c in consideration of the error and fluctuation of the detected illuminance. You may Also, the upper reference illuminance, the middle reference illuminance, and the lower reference illuminance used in step S13 described later and the upper reference illuminance, the middle reference illuminance, and the lower reference illuminance used in step S14 may be set to different values. Good.

続くステップS12で、通過物体検出部111は、照度センサ17a,17b,17cにより上棚13、中棚14、及び下棚15の照度をそれぞれ検出する。そして、通過物体検出部111は、次のステップS13で、検出照度が基準照度よりも所定レベル以上低下した棚があるか否かを判断する。具体的には、通過物体検出部111は、以下の(1)〜(3)の各条件の成否を判断する。   In the subsequent step S12, the passing object detection unit 111 detects the illuminance of the upper shelf 13, the middle shelf 14 and the lower shelf 15 by the illuminance sensors 17a, 17b and 17c. Then, in the next step S13, the passing object detection unit 111 determines whether there is a shelf whose detected illuminance is lower than the reference illuminance by a predetermined level or more. Specifically, the passing object detection unit 111 determines whether the following conditions (1) to (3) are met.

(1)照度センサ17aの検出照度が、「上基準照度」から「上基準照度−α」以下に変化した。
(2)照度センサ17bの検出照度が、「中基準照度」から「中基準照度−α」以下に変化した。
(3)照度センサ17cの検出照度が、「下基準照度」から「下基準照度−α」以下に変化した。
(1) The detected illuminance of the illuminance sensor 17a has changed from "upper reference illuminance" to "upper reference illuminance-α" or less.
(2) The detected illuminance of the illuminance sensor 17b changes from "medium reference illuminance" to "middle reference illuminance-α" or less.
(3) The detected illuminance of the illuminance sensor 17c has changed from "lower reference illuminance" to "lower reference illuminance-α" or less.

但し、α:物品(食品、使用者の手等)が、上棚13、中棚14、下棚15内に進入した場合に生じる照度の低下を想定して、実験やコンピュータシミュレーション等によって決定された閾値決定用の定数。なお、αは、上基準照度、中基準照度、及び下基準照度に対して共通な値としてもよく、上基準照度、中基準照度、及び下基準照度に対して個別に異なる値に設定してもよい。   However, α: determined by experiment, computer simulation, etc. on the assumption that the illuminance (ie, food, user's hand, etc.) enters the upper shelf 13, middle shelf 14, and lower shelf 15 and decreases in illuminance. Constant for threshold determination. Here, α may be a value common to the upper reference illuminance, the middle reference illuminance, and the lower reference illuminance, and is set to values individually different from the upper reference illuminance, the middle reference illuminance, and the lower reference illuminance. It is also good.

そして、通過物体検出部111は、上記(1)〜(3)の少なくともいずれか一つが成立したときに、ステップS20に処理を進める。上記(1)〜(3)の少なくともいずれか一つが成立したときは、ユーザーが、冷蔵室10に食品を入れるため(入庫)、或いは冷蔵室10から食品を取り出すため(出庫)、又は冷蔵室10の食品の位置の変更等を行うために、冷蔵室10内に手を入れたと想定される。そして、この場合、通過物体検出部111は、物体(ユーザーの手、ユーザーの手が掴んでいる食品等)が、冷蔵室10の開口部10aを通過したと判断することができる。   Then, when at least one of the above (1) to (3) is established, the passing object detection unit 111 advances the process to step S20. When at least one of the above (1) to (3) is established, the user puts the food in the refrigerator compartment 10 (storage), or removes the food from the refrigerator compartment 10 (delivery), or the refrigerator compartment It is assumed that the cold storage room 10 is put into a hand in order to change the position of the food 10 and so on. Then, in this case, the passing object detection unit 111 can determine that the object (the user's hand, the food held by the user's hand, etc.) has passed through the opening 10 a of the refrigerator compartment 10.

一方、上記(1)〜(3)のいずれも成立していないときには、通過物体検出部111は、ステップS14に処理を進める。ステップS14で、通過物体検出部111は、検出照度が、「基準照度−β」以下から「基準照度」以上に変化した棚があるか否かを判断する。具体的には、通過物体検出部111は、以下の(4)〜(6)の各条件の成否を判断する。   On the other hand, when none of the above (1) to (3) holds, the passing object detection unit 111 proceeds with the process to step S14. In step S14, the passing object detection unit 111 determines whether there is a shelf in which the detected illuminance has changed from "reference illuminance-β" or less to "reference illuminance" or more. Specifically, the passing object detection unit 111 determines whether the following conditions (4) to (6) are met.

(4)照度センサ17aの検出照度が、「上基準照度−β」以下から「上基準照度」以上に変化した。
(5)照度センサ17bの検出照度が、「中基準照度−β」以下から「中基準照度」以上に変化した。
(6)照度センサ17cの検出照度が、「下基準照度−β」以下から「下基準照度」以上に変化した。
(4) The detected illuminance of the illuminance sensor 17a changes from "upper reference illuminance-β" or less to "upper reference illuminance" or more.
(5) The detected illuminance of the illuminance sensor 17b changes from "middle reference illuminance-β" or less to "middle reference illuminance" or more.
(6) The detected illuminance of the illuminance sensor 17c changes from "lower reference illuminance-β" or less to "lower reference illuminance" or more.

但し、β:上棚13、中棚14、又は下棚15に進入していた物体(食品、使用者の手等)が、開口部10aを通過して冷蔵室10外に出たときに生じる照度の上昇を想定して、実験やコンピュータシミュレーション等により決定された閾値決定用の定数。なお、βは、上基準照度、中基準照度、及び下基準照度に対して共通に設定してもよいし、上基準照度、中基準照度、及び下基準照度に対して個別に異なる値に設定してもよい。   However, β: illuminance generated when an object (food, user's hand, etc.) entering the upper shelf 13, middle shelf 14, or lower shelf 15 passes through the opening 10a and exits the refrigerator compartment 10 A constant for determining the threshold value determined by experiments, computer simulations, etc., assuming an increase in. Note that β may be set commonly for the upper reference illuminance, the middle reference illuminance, and the lower reference illuminance, or is set to values individually different for the upper reference illuminance, the middle reference illuminance, and the lower reference illuminance. You may

そして、通過物体検出部111は、上記(4)〜(6)の少なくともいずれか一つが成立したときに、ステップS22に処理を進める。上記(4)〜(6)の少なくともいずれか一つが成立したときは、ユーザーが、冷蔵室10に食品を入れるため(入庫)、冷蔵室10から食品を取り出すため(出庫)、或いは冷蔵室10に収容されている食品の位置の変更等を行って、冷蔵室10内に入れていた手を抜いたと想定される。そして、この場合、通過物体検出部111は、物体(ユーザーの手、ユーザーの手が掴んでいる食品等)が、冷蔵室10の開口部10aを通過したと判断することができる。   Then, the passing object detection unit 111 advances the process to step S22 when at least one of the above (4) to (6) is established. When at least one of the above (4) to (6) is established, the user puts the food into the cold storage room 10 (storage), takes out the food from the cold storage room 10 (delivery), or It is assumed that the hand placed in the refrigerator compartment 10 is removed by changing the position of the food stored in the storage room 10. Then, in this case, the passing object detection unit 111 can determine that the object (the user's hand, the food held by the user's hand, etc.) has passed through the opening 10 a of the refrigerator compartment 10.

一方、上記(4)〜(6)のいずれも成立していないときには、通過物体検出部111はステップS15に処理を進める。ステップS15で、通過物体検出部111は、開閉センサ18a,18bの検出信号から、冷蔵室10の右ドア11と左ドア12が共に閉められたか否かを判断する。そして、通過物体検出部111は、右ドア11と左ドア12が共に閉められたときはステップS15に処理を進めて、「撮像処理」を終了する。一方、右ドア11と左ドア12の少なくともいずれか一方が開いているときには、通過物体検出部111は、ステップS12に処理を進める。   On the other hand, when none of the above (4) to (6) is established, the passing object detection unit 111 proceeds with the process to step S15. In step S15, the passing object detection unit 111 determines whether or not the right door 11 and the left door 12 of the cold storage room 10 are both closed from the detection signals of the open / close sensors 18a and 18b. Then, when the right door 11 and the left door 12 are both closed, the passing object detection unit 111 proceeds to step S15 and ends the “imaging process”. On the other hand, when at least one of the right door 11 and the left door 12 is open, the passing object detection unit 111 proceeds the process to step S12.

次に、ステップS20〜S21、及びステップS22〜S23は、食品情報取得部114による処理である。食品情報取得部114は、ステップS20で、画像処理部120を介して、カメラ60により冷蔵室10の開口部10aを含む範囲を撮像する。続くステップS21で、食品情報取得部114は、ステップS20で撮像した画像のデータを「入庫時画像」のデータとして画像メモリ121に保存し、ステップS15に処理を進める。なお、撮像を複数回行って、複数の画像のデータを「入庫時画像」のデータとして記憶部130に保存するようにしてもよい。   Next, steps S20 to S21 and steps S22 to S23 are processes by the food information acquisition unit 114. In step S <b> 20, the food information acquisition unit 114 images a range including the opening 10 a of the refrigerator compartment 10 with the camera 60 via the image processing unit 120. In the following step S21, the food information acquisition unit 114 stores the data of the image captured in step S20 in the image memory 121 as data of "image at storage time", and advances the process to step S15. Note that imaging may be performed a plurality of times, and data of a plurality of images may be stored in the storage unit 130 as data of “image at storage”.

また、ステップS22で、食品情報取得部114は、画像処理部120を介して、カメラ60により冷蔵室10の開口部10aを含む範囲を撮像する。続くステップS23で、食品情報取得部114は、ステップS22で撮像した画像のデータを「出庫時画像」のデータとして画像メモリ121に保存し、ステップS15に処理を進める。なお、撮像を複数回行って、複数の画像のデータを「出庫時画像」のデータとして記憶部130に保存するようにしてもよい。   Further, in step S22, the food information acquisition unit 114 images a range including the opening 10a of the refrigerator compartment 10 with the camera 60 via the image processing unit 120. In the following step S23, the food information acquisition unit 114 stores the data of the image captured in step S22 in the image memory 121 as data of the “delivery image”, and the process proceeds to step S15. Note that imaging may be performed a plurality of times, and data of a plurality of images may be stored in the storage unit 130 as data of “image upon leaving”.

図9に示した「撮像処理」によって、通過物体検出部111により、照度センサ17a,7b,17cにより検出される上棚13、中棚14、及び下棚15の照度の変化に基づいて、冷蔵室10の開口部10aを通過する物体が検出される。   Based on the change in the illuminance of the upper shelf 13, the middle shelf 14 and the lower shelf 15 detected by the illuminance sensors 17a, 7b and 17c by the passing object detection unit 111 by the "imaging process" shown in FIG. An object passing through the ten openings 10a is detected.

また、通過物体検出部111により、開口部10aを通過していずれかの棚13,14,15に入った物体が検出された時点での撮像画像である「入庫時画像」と、通過物体検出部111により、いずれかの棚13,14,15から出て開口部10aを通過した物体が検出された時点での撮像画像である「出庫時画像」とが、画像メモリ121に保存される。   In addition, “the image at the time of storage” which is a captured image when an object which has passed through the opening 10a and entered any of the shelves 13, 14 and 15 is detected by the passing object detection unit 111, and the passing object detection The unit 111 stores in the image memory 121 an “at-delivery image” which is a captured image at the time when an object which has exited any one of the shelves 13, 14 and 15 and has passed through the opening 10 a is detected.

なお、図9のステップS15で、右ドア11と左ドア12が閉められたことが検出される前に、ステップ13において開口部10aを通過する物体が複数回検出されたときには、ステップS20〜S21により、複数の「入庫時画像」の撮像と保存が行われる。そして、後述する「重量情報処理」により入庫が判定された食品の「入庫時画像」について、それぞれ「画像分析処理」が実行される。   If an object passing through the opening 10a is detected a plurality of times in step 13 before it is detected in step S15 in FIG. 9 that the right door 11 and the left door 12 are closed, the steps S20 to S21 are performed. As a result, imaging and storage of a plurality of "image at storage time" are performed. Then, the “image analysis process” is executed for each “image upon storage” of the food of which the storage is determined by “weight information processing” described later.

同様に、図9のステップS15で、右ドア11と左ドア12が閉められたことが検出される前に、ステップS14において開口部10aを通過する物体が複数回検出されたときには、ステップS22〜S23により、複数の「出庫時画像」の撮像と保存が行われる。そして、後述する「重量情報処理」により出庫が判定された食品の「出庫時画像」について、それぞれ「画像分析処理」が実行される。   Similarly, when an object passing through the opening 10a is detected a plurality of times in step S14 before it is detected that the right door 11 and the left door 12 are closed in step S15 of FIG. 9, step S22 to step S22 By S23, imaging and storage of a plurality of "outgoing images" are performed. Then, the “image analysis process” is performed on each “food-at-delivery image” of the food of which the delivery is determined by “weight information processing” described later.

[3−2.重量情報処理]
次に、図10に示したフローチャートに従って、「重量処理」の実行手順について説明する。「重量情報処理」は、入出庫判定部113、及び食品情報取得部114により実行される。
[3-2. Weight information processing]
Next, the execution procedure of the "weight processing" will be described according to the flowchart shown in FIG. The “weight information processing” is executed by the storage and storage determination unit 113 and the food information acquisition unit 114.

図10のステップS30〜S33及びS40は、入出庫判定部113による処理である。入出庫判定部113は、ステップS30で、収容量認識部112により各棚13,14,15の重量を認識して記憶部130に保存する。続くステップS31で、通過物体検出部111により、図7のステップS13又はステップS14で、冷蔵室10の開口部10aを通過する物体が検出されたとき(冷蔵室10への物体の出入りあり)に、入出庫判定部113は、ステップS32に処理を進める。   Steps S30 to S33 and S40 in FIG. In step S30, the storage / receipt determination unit 113 recognizes the weight of each shelf 13, 14, 15 by the storage capacity recognition unit 112, and stores the weight in the storage unit 130. In the subsequent step S31, when an object passing through the opening 10a of the refrigerator compartment 10 is detected by the passing object detection unit 111 in step S13 or step S14 of FIG. 7 (with objects entering and leaving the refrigerator compartment 10). The storage / storage determination unit 113 advances the process to step S32.

ステップS32で、入出庫判定部113は、収容量認識部112により各棚13,14,15の重量を認識する。次のステップS33で、入出庫判定部113は、ステップS30で認識した重量に対して、ステップS32で認識した重量が増加した棚があるか否かを判断する。そして、重量が増加した棚があるとき(この場合は、冷蔵室10に食品が入庫したと判断できる)は、入出庫判定部113はステップS34に処理を進める。   In step S32, the storage / receipt determination unit 113 causes the storage amount recognition unit 112 to recognize the weight of each shelf 13, 14, 15. In the next step S33, the storage / withdrawal determination unit 113 determines whether there is a shelf in which the weight recognized in step S32 has increased relative to the weight recognized in step S30. Then, when there is a shelf whose weight has increased (in this case, it can be determined that the food has been stored in the refrigerator compartment 10), the storage / storage determination unit 113 proceeds with the process to step S34.

一方、重量が増加した棚がないときには、入出庫判定部113は、ステップ33からステップS40に処理を進め、ステップS30で認識した重量に対して、ステップS32で認識した重量が減少した棚があるか否かを判断する。そして、重量が減少した棚があるとき(この場合は、冷蔵室10から食品が出庫したと判断できる)は、入出庫判定部113はステップS41に処理を進める。また、重量が増加した棚がないとき(この場合は、冷蔵室10への食品の入庫及び冷蔵室10からの食品の出庫がなかったと判断できる)には、入出庫判定部113は、ステップS36に処理を進めて「重量情報処理」を終了する。   On the other hand, when there is no shelf whose weight has increased, the storage / storage determination unit 113 proceeds from step 33 to step S40, and there is a shelf in which the weight recognized in step S32 is reduced relative to the weight recognized in step S30. Determine if it is or not. Then, when there is a shelf whose weight has decreased (in this case, it can be determined that the food has been delivered from the refrigerator compartment 10), the storage / storage determination unit 113 proceeds with the process to step S41. In addition, when there is no shelf whose weight has increased (in this case, it can be determined that the storage of the food into the cold storage room 10 and the delivery of the food from the cold storage room 10 have not been performed), Process and end “weight information processing”.

ステップS34〜S35及びステップS41は、食品情報取得部114による処理である。食品情報取得部114は、ステップS34で、収容量認識部112により認識された各棚13,14,15の左右の重量から、入庫食品の収容位置を推定する。   Steps S34 to S35 and step S41 are processing by the food information acquisition unit 114. In step S34, the food information acquisition unit 114 estimates the storage position of the stored food from the left and right weights of the shelves 13, 14 and 15 recognized by the storage capacity recognition unit 112.

次のステップS35で、食品情報取得部114は、入庫食品情報132(図5参照)に、入庫食品の重量と収容位置の情報を記録して、ステップS36に処理を進め、「重量情報処理」を終了する。入庫食品情報132のデータは、庫内食品リスト131への情報の追加、更新等を行うために記憶部130に一時的に保存される。   In the next step S35, the food information acquisition unit 114 records the information on the weight and storage position of the received food in the received food information 132 (see FIG. 5), proceeds to step S36, and performs “weight information processing” Finish. The data of the stored food information 132 is temporarily stored in the storage unit 130 in order to add information to the in-house food list 131, update the information, and the like.

また、ステップS41で、食品情報取得部114は、出庫食品情報133(図5参照)に、出庫食品の重量の情報を記録してステップS36に処理を進め、「重量情報処理」を終了する。出庫食品情報133のデータは、庫内食品リスト131への食品情報の追加、更新等を行うために記憶部130に一時的に保存される。   Further, in step S41, the food information acquisition unit 114 records the information on the weight of the output food in the output food information 133 (see FIG. 5), proceeds the process to step S36, and ends the “weight information processing”. The data of the leaving food information 133 is temporarily stored in the storage unit 130 in order to add or update the food information to the in-chamber food list 131.

[3−3.画像分析処理]
次に、図11、図12に示したフローチャートに従って、「画像分析処理」の実行手順について説明する。「画像分析処理」は、食品情報取得部114により実行される。図11は、冷蔵室10に入庫された食品について、「入庫時画像」から情報を取得する処理である。また、図12は、冷蔵室10から出庫された食品について、「出庫時画像」から情報を取得する処理である。
[3-3. Image analysis processing]
Next, the execution procedure of the “image analysis process” will be described according to the flowcharts shown in FIG. 11 and FIG. The “image analysis process” is performed by the food information acquisition unit 114. FIG. 11 is a process of acquiring information from the “image at storage time” for the food stored in the cold storage room 10. Moreover, FIG. 12 is a process which acquires information from "the image at the time of leaving" about the foodstuff delivered from the refrigerator compartment 10. As shown in FIG.

先ず、図11を参照して、「入庫時画像」に対する「画像分析処理」について説明する。食品情報取得部114は、図9のステップS50で、入庫食品の「入庫時画像」に対して、画像処理部120により文字抽出処理を実行する。ここで、入庫食品とは、図8のステップS33で、入出庫判定部113により冷蔵室10に入庫されたと判定された食品である。また、入庫食品の「入庫時画像」とは、図8のステップS33で入庫と判定された食品について、図7のステップS20,S21で食品情報取得部114により撮像及び保存された「入庫時画像」である。   First, with reference to FIG. 11, the “image analysis process” for the “image at time of storage” will be described. The food information acquisition unit 114 causes the image processing unit 120 to perform character extraction processing on the "image at storage time" of the stored food at step S50 in FIG. Here, the stored food is the food which is determined to be stored in the refrigerator compartment 10 by the storage and storage determination unit 113 in step S33 of FIG. 8. In addition, the "image at storage time" of the storage food is the "image at storage time" captured and stored by the food information acquisition unit 114 in steps S20 and S21 of FIG. 7 for the food determined to be storage in step S33 of FIG. ".

続くステップS51で、食品情報取得部114は、画像処理部120により「入庫時画像」から文字が抽出されたか否かを判断する。そして、食品情報取得部114は、文字が抽出されたときはステップS52に処理を進め、文字が抽出されなかったときにはステップS60に処理を進める。   In the subsequent step S51, the food information acquisition unit 114 determines whether the character has been extracted by the image processing unit 120 from the "image at storage time". Then, when the character is extracted, the food information acquisition unit 114 proceeds with the process to step S52, and when the character is not extracted, the food information acquiring unit 114 proceeds with the process to step S60.

ステップS52で、食品情報取得部114は、画像処理部120により抽出された文字の情報を分析する。そして、続くステップS53で、食品情報取得部114は、文字の情報から、食品名、賞味期限、産地、内容量等の入庫食品の情報を取得する。次のステップS54で、食品情報取得部114は、取得した入庫食品の情報を入庫食品情報132に記録して、「画像分析処理」を終了する。   In step S52, the food information acquisition unit 114 analyzes the information of the character extracted by the image processing unit 120. Then, in the subsequent step S53, the food information acquisition unit 114 acquires information of the received food such as the food name, the expiration date, the production area, and the content from the information of the character. In the next step S54, the food information acquisition unit 114 records the acquired information on the stored food in the stored food information 132, and ends the “image analysis process”.

また、ステップS60で、食品情報取得部114は、画像処理部120によって、「入庫時画像」から入庫食品の画像部分を抽出する。続くステップS61で、食品情報取得部114は、抽出した入庫食品の画像部分と、予め記憶部130に保存された種々の食品のサンプル画像134(図7参照)との一致率を算出する。   Further, in step S60, the food information acquisition unit 114 causes the image processing unit 120 to extract the image portion of the received food from the “image at storage time”. In the subsequent step S61, the food information acquisition unit 114 calculates the matching rate between the extracted image portion of the stored food and the sample images 134 (see FIG. 7) of various food items stored in advance in the storage unit 130.

次のステップS62で、食品情報取得部114は、一致率が最も高いサンプル画像134の食品名を入庫食品の食品名と推定して取得し、ステップS54に処理を進める。ステップS60〜S62の処理により、入庫食品の「入庫時画像」から文字が抽出できなかった場合であっても、入庫食品の食品名を推定して入庫食品情報に記録することができる。   In the next step S62, the food information acquisition unit 114 estimates and acquires the food name of the sample image 134 with the highest matching rate as the food name of the received food, and advances the process to step S54. By the processes of steps S60 to S62, even if characters can not be extracted from the "image at the time of storage" of the storage food, the food name of the storage food can be estimated and recorded in the storage food information.

次に、図12を参照して、「出庫時画像」に対する「画像分析処理」について説明する。食品情報取得部114は、図10のステップS70で、出庫食品の「出庫時画像」に対して、画像処理部120により文字抽出処理を実行する。ここで、出庫食品とは、図10のステップS40で、入出庫判定部113により冷蔵室10から出庫されたと判定された食品である。また、出庫食品の「出庫時画像」とは、図10のステップS40で出庫と判定された食品について、図7のステップS22,S23で食品情報取得部114により撮像及び保存された「出庫時画像」である。   Next, with reference to FIG. 12, the “image analysis process” on the “delivery image” will be described. In step S70 of FIG. 10, the food information acquisition unit 114 causes the image processing unit 120 to perform character extraction processing on the “delivery image” of the delivered food. Here, the delivered food is a food which is determined in step S40 of FIG. 10 to have been delivered from the cold storage room 10 by the entering and leaving determination unit 113. In addition, the “at-delivery image” of the delivered food refers to the “at-delivery image taken and stored by the food information acquisition unit 114 at steps S22 and S23 of FIG. 7 for the food determined to be withdrawn at step S40 of FIG. ".

続くステップS71で、食品情報取得部114は、画像処理部120により「出庫時画像」から文字が抽出されたか否かを判断する。そして、食品情報取得部114は、文字が抽出されたときはステップS72に処理を進め、文字が抽出されなかったときにはステップS80に処理を進める。   In the subsequent step S71, the food information acquisition unit 114 determines whether the character has been extracted from the “delivery image” by the image processing unit 120. Then, when the character is extracted, the food information acquisition unit 114 proceeds with the process to step S72. When the character is not extracted, the food information acquiring unit 114 proceeds with the process to step S80.

ステップS72で、食品情報取得部114は、画像処理部120により抽出された文字の情報を分析する。そして、続くステップS73で、食品情報取得部114は、文字の情報から、食品名、賞味期限、産地、内容量等の出庫食品の情報を取得する。次のステップS74で、食品情報取得部114は、取得した出庫食品の情報を出庫食品情報133に記録して、「画像分析処理」を終了する。   In step S72, the food information acquisition unit 114 analyzes the information of the character extracted by the image processing unit 120. Then, in the subsequent step S73, the food information acquisition unit 114 acquires information of the delivered food such as the food name, the expiration date, the production area, and the content from the information on the character. In the next step S74, the food information acquisition unit 114 records the acquired information on the exited food in the exited food information 133, and ends the “image analysis process”.

また、ステップS80で、食品情報取得部114は、画像処理部120によって、「出庫時画像」から出庫食品の画像部分を抽出する。続くステップS81で、食品情報取得部114は、抽出した出庫食品の画像部分と、予め記憶部130に保存された種々の食品のサンプル画像134との一致率を算出する。   In step S80, the food information acquisition unit 114 causes the image processing unit 120 to extract the image portion of the delivered food from the "delivery image". In the subsequent step S81, the food information acquisition unit 114 calculates the matching rate between the extracted image portion of the stored food and the sample images 134 of various food items stored in advance in the storage unit 130.

次のステップS82で、食品情報取得部114は、一致率が最も高いサンプル画像134の食品名を出庫食品の食品名と推定して取得し、ステップS74に処理を進める。ステップS80〜S82の処理により、出庫食品の「出庫時画像」から文字が抽出できなかった場合であっても、出庫食品の食品名を推定して出庫食品情報に記録することができる。   In the next step S82, the food information acquisition unit 114 estimates and acquires the food name of the sample image 134 with the highest matching rate as the food name of the delivered food, and the process proceeds to step S74. Even if characters can not be extracted from the “at-delivery image” of the delivered food by the processes at steps S80 to S82, it is possible to estimate the food name of the delivered food and record it in the delivered food information.

図11の画像分析処理は、冷蔵室10への入庫が判定された場合の入庫時画像を対象として行われ、図12の画像分析処理は、冷蔵室10からの出庫が判定された場合の出庫時画像を対象として行われる。そのため、食品ではなく、右ドア11又は左ドア12が通過物体検出部111により検出されたときには、入庫又は出庫と判定されないため、画像分析処理は行われない(撮像画像は無効となる)。これにより、右ドア11又は左ドア12の画像部分から、誤った食品情報が取得されることを防止することができる。   The image analysis process of FIG. 11 is performed on the image at the time of storage when the storage in the cold storage room 10 is determined, and the image analysis process of FIG. 12 is the delivery when the storage from the cold storage room 10 is determined. It is performed for the time image. Therefore, when the right door 11 or the left door 12 is detected by the passing object detection unit 111 instead of the food, the image analysis processing is not performed (the captured image is invalidated) because it is not determined to be warehousing or leaving. As a result, it is possible to prevent acquisition of erroneous food information from the image portion of the right door 11 or the left door 12.

[3−4.重量センサ補正処理]
図13に示したフローチャートに従って、重量センサ13a,13b,14a,14b,15a,15bの検出重量を補正するための「重量センサ校正処理」の実行手順について説明する。「重量センサ補正処理」は、収容量認識部112により実行される。「重量センサ補正処理」は、経時変化等によって生じ得る重量センサ13a,13b,14a,14b,15a,15bの検出誤差を修正(校正)するための処理である。
[3-4. Weight sensor correction process]
The execution procedure of the "weight sensor calibration process" for correcting the detected weight of the weight sensors 13a, 13b, 14a, 14b, 15a, 15b will be described according to the flowchart shown in FIG. The “weight sensor correction process” is performed by the storage amount recognition unit 112. The "weight sensor correction process" is a process for correcting (calibrating) a detection error of the weight sensors 13a, 13b, 14a, 14b, 15a, 15b which may occur due to a change with time or the like.

図13のステップS90で、収容量認識部112は、入出庫判定部113により冷蔵室への食品の入庫ありと判定されたとき(図10のステップS33でYES)に、ステップS91に処理を進める。ステップS91で、収容量認識部112は、入庫食品情報132に入庫食品の内容量の情報が記録(図11のステップS54の処理)されているか否かを判断する。そして、収容量認識部112は、入庫食品情報132に入庫食品の内容量(図11のステップS53で取得した食品の内容量)の情報が記録されているときはステップS92に処理を進める。   In step S90 of FIG. 13, when the storage / receipt determination unit 113 determines that the storage of food is in the cold storage (YES in step S33 of FIG. 10), the storage capacity recognition unit 112 proceeds to step S91. . In step S91, the storage capacity recognition unit 112 determines whether or not the information on the content of the stored food is stored in the stored food information 132 (processing of step S54 in FIG. 11). Then, when the information on the content of the received food (the content of the food acquired in step S53 of FIG. 11) is recorded in the received food information 132, the storage capacity recognition unit 112 proceeds the process to step S92.

ステップS92で、収容量認識部112は、入庫食品情報132に記録された入庫食品の重量と内容量との比を算出する。そして、収容量認識部112は、算出した比を、入庫食品の重量検出に用いられた重量センサの補正係数に設定する。例えば、入庫食品が上棚13に入庫され、重量センサ13a,13bによって重量が検出された場合には、収容量認識部112は、算出した比を重量センサ13a,13bの検出重量の補正係数として設定する。   In step S 92, the storage capacity recognition unit 112 calculates the ratio between the weight and the internal capacity of the stored food stored in the stored food information 132. Then, the storage amount recognition unit 112 sets the calculated ratio as the correction coefficient of the weight sensor used for detecting the weight of the received food. For example, when the stored food is stored in the upper shelf 13 and the weight is detected by the weight sensors 13a and 13b, the storage amount recognition unit 112 sets the calculated ratio as a correction coefficient of the detected weight of the weight sensors 13a and 13b. Do.

続くステップS93で、収容量認識部112は、補正係数のデータを記憶部130に保存し、ステップS94に処理を進めて「重量センサ補正処理」を終了する。以後、収容量認識部112は、重量センサ13a,13bの検出重量に補正係数を乗じた値を、検出重量として扱う。同様にして、収容量認識部112は、入庫食品が中棚14に収容されたときは、重量センサ14a,14bの補正係数を設定し、入庫食品が下棚15に収容されたときは、重量センサ15a,15bの補正係数を設定する。   In the following step S93, the storage amount recognition unit 112 stores the data of the correction coefficient in the storage unit 130, advances the process to step S94, and ends the "weight sensor correction process". Thereafter, the storage amount recognition unit 112 treats a value obtained by multiplying the detection weight of the weight sensors 13a and 13b by the correction coefficient as a detection weight. Similarly, when the stored food is stored in the middle shelf 14, the storage amount recognition unit 112 sets the correction coefficient of the weight sensors 14a and 14b, and when the stored food is stored in the lower shelf 15, the weight is recognized The correction coefficients of the sensors 15a and 15b are set.

一方、ステップS91で、入庫食品情報132に内容量の情報が記録されていなかった場合には、収容量認識部112は、ステップS94に処理を進めて「重量センサ補正処理」を終了する。この場合は、補正係数の算出及び設定は行われない。   On the other hand, when the information on the content is not recorded in the received food information 132 in step S91, the storage capacity recognition unit 112 advances the process to step S94 and ends the “weight sensor correction process”. In this case, calculation and setting of the correction coefficient are not performed.

[3−5.庫内食品管理処理]
図14及び図15に示したフローチャートに従って、冷蔵室10に収容された食品の情報を管理するための「庫内食品管理処理」の実行手順について説明する。「庫内食品管理処理」は、食品情報管理部115により実行される。
[3-5. In-house food control processing]
The execution procedure of the "in-house food management process" for managing the information of the food stored in the cold storage room 10 will be described according to the flowcharts shown in FIG. 14 and FIG. The “in-box food management process” is executed by the food information management unit 115.

食品情報管理部115は、冷蔵室10に収容された食品の情報を、庫内食品リスト131(図5参照)により管理する。庫内食品リスト131には、図16に示したように、冷蔵室10に入庫された食品に付された番号(1,2,3,…)と、番号が付された各入庫食品の情報として、食品名、重量(初回、現在、喫食量)、入出庫日時(初回入庫、最新出庫、最新入庫)在庫(1:あり、0:なし)、賞味期限、及び産地とが記録されている。食品情報管理部115は、食品情報取得部114により記録された入庫食品情報132及び出庫食品情報133の情報に基づいて、庫内食品リスト131の生成及び更新を行う。   The food information management unit 115 manages information of the food stored in the refrigerator compartment 10 by the in-storage food list 131 (see FIG. 5). In the in-chamber food list 131, as shown in FIG. 16, the numbers (1, 2, 3,...) Attached to the food stored in the refrigerator compartment 10, and the information of the respective stored food items with the numbers As the food name, weight (first time, current consumption amount), arrival and withdrawal date (first receipt, latest issue, latest receipt) inventory (1: present, 0: no), shelf life, and production area are recorded. . The food information management unit 115 generates and updates the in-chamber food list 131 based on the information of the stored food information 132 and the leaving food information 133 recorded by the food information acquisition unit 114.

図14のステップS100で、食品情報管理部115は、入出庫判定部113により、冷蔵室10への食品の入庫又は冷蔵室10からの食品の出庫が判定されたか否かを判断し、入庫又は出庫が判定されたときにステップS101に処理を進める。ステップS101で、食品情報管理部115は、入庫の判定がなされたか否かを判断し、入庫の判定がなされたときはステップS102に処理を進める。一方、入庫の判定がなされなかったとき(出庫の判定がなされたとき)には、食品情報管理部115は、ステップS110に処理を進める。   In step S100 of FIG. 14, the food information management unit 115 determines whether the storage determination of the food to the cold storage room 10 or the delivery of the food from the cold storage room 10 has been determined by the storage and storage determination unit 113. When the delivery is determined, the process proceeds to step S101. In step S101, the food information management unit 115 determines whether or not the storage determination is made, and when the storage determination is made, the process proceeds to step S102. On the other hand, when the storage determination is not made (when the storage determination is made), the food information management unit 115 proceeds the process to step S110.

ステップS102で、食品情報管理部115は、所定時間以内に冷蔵室10からの出庫があったか否かを判断する。そして、所定時間以内に冷蔵室10からの出庫があったときはステップS103に処理を進め、所定時間以内に冷蔵室10からの出庫がなかったときにはステップS111に処理を進める。なお、所定時間以内に冷蔵室10からの出庫があったことは、庫内食品リスト131から認識することができる。   In step S102, the food information management unit 115 determines whether or not there is a delivery from the cold storage room 10 within a predetermined time. Then, the process proceeds to step S103 when there is leaving the cold storage room 10 within the predetermined time, and the process proceeds to step S111 when there is no leaving from the cold storage room 10 within the predetermined time. In addition, it can be recognized from the in-warehouse food list 131 that there is a delivery from the refrigerator compartment 10 within a predetermined time.

ステップS103で、食品情報管理部115は、前回出庫された食品と今回入庫された食品との一致率が所定値以上であるか否かを判断する。ここで、食品情報管理部115は、庫内食品リスト131に記録された前回出庫された商品の情報と、入庫食品情報132に記録された今回入庫された商品と情報とを対比して、食品名、賞味期限、産地等の一致状況から、前回出庫された食品と今回入庫された食品の一致率を算出する。   In step S103, the food information management unit 115 determines whether the matching rate between the previously issued food and the currently received food is equal to or greater than a predetermined value. Here, the food information management unit 115 compares the information of the product that has been issued last time recorded in the in-chamber food list 131 with the information of the currently received product and information recorded in the incoming food information 132, From the matching situation of name, expiration date, production area, etc., the matching rate of the food that was issued last time and the food that was received this time is calculated.

そして、食品情報管理部115は、前回出庫された食品と今回入庫された食品との一致率が所定値以上であるときはステップS104に処理を進め、前回出庫された食品と今回入庫された食品との一致率が所定値未満であるときには、ステップS112に処理を進める。   Then, the food information management unit 115 advances the processing to step S104 when the matching rate between the previously delivered food and the currently received food is equal to or more than the predetermined value, and the previously delivered food and the currently received food If the matching rate with is less than the predetermined value, the process proceeds to step S112.

ステップS104は、前回出庫された食品と今回入庫された食品との一致率が所定値以上であって、前回出庫された食品と今回入庫された食品とが同一物であると判断できる場合の処理である。ステップS104で、食品情報管理部115は、庫内食品リスト131において、所定時間以前に出庫した食品の現在重量、最新入庫日時、喫食量(初回入庫時と現在の重量の差)を、入庫食品情報132に記録された情報に基づいて更新し、図15のステップS105に処理を進める。   Step S104 is a process where it is determined that the matching rate between the previously issued food and the currently received food is equal to or higher than a predetermined value, and the previously issued food and the currently received food are identical. It is. In step S104, the food information management unit 115 stores the current weight, the latest warehousing date, and the eating amount (difference between the weight at the first warehousing and the current weight) of the food delivered before the predetermined time in the in-chamber food list 131 It updates based on the information recorded on the information 132, and advances a process to FIG.15 S105.

ステップS112は、前記出庫された食品と今回入庫された食品との一致率が所定値未満であって、前回出庫された食品と今回入庫された食品とが異なると判断できる場合の処理である。食品情報管理部115は、ステップS112で、庫内食品リスト131において、入庫食品情報132に記録された情報に基づいて入庫食品を新規登録し、図15のステップS105に処理を進める。   Step S112 is processing in the case where it is determined that the matching rate between the delivered food and the currently received food is less than a predetermined value, and that the previously delivered food and the currently received food are different. In step S112, the food information management unit 115 newly registers the stored food on the basis of the information recorded in the stored food information 132 in the in-chamber food list 131, and advances the process to step S105 in FIG.

ステップS111は、所定時間以前に出庫がなかった場合の処理である。食品情報管理部115は、ステップS111で、庫内食品リスト131において、入庫食品情報132に記録された情報に基づいて入庫食品を新規登録し、図15のステップS105に処理を進める。   Step S111 is processing when there is no delivery before a predetermined time. In step S111, the food information management unit 115 newly registers the stored food on the basis of the information recorded in the stored food information 132 in the in-chamber food list 131, and advances the process to step S105 in FIG.

ステップS110は、冷蔵室10から食品が出庫されたと判定された場合の処理である。食品情報管理部115は、ステップS110で、庫内食品リスト131において、該当食品(出庫食品)の現在重量を0に更新する。また、食品情報管理部115は、庫内食品リスト131において、該当食品の喫食量を更新し、出庫食品情報133に記録された情報に基づいて最新出庫時刻を更新して、図15のステップ105に処理を進める。   Step S110 is processing when it is determined that the food has been discharged from the refrigerator compartment 10. In step S110, the food information management unit 115 updates the current weight of the corresponding food (disbursed food) to 0 in the in-chamber food list 131. Further, the food information management unit 115 updates the eating amount of the corresponding food in the in-chamber food list 131, and updates the latest delivery time based on the information recorded in the delivery food information 133, and step 105 of FIG. Proceed to

図15のステップS105で、食品情報管理部115は、ステップS110の処理により現在重量が0グラムになった食品があるか否かを判断する。そして、食品情報管理部115は、現在重量が0グラムになった食品があるときはステップS105に処理を進め、現在重量が0グラムになった食品が無いときにはステップS120に処理を進める。   In step S105 of FIG. 15, the food information management unit 115 determines whether there is any food whose weight is currently 0 gram by the process of step S110. Then, the food information management unit 115 advances the process to step S105 when there is a food whose weight is currently 0 gram, and advances the process to step S120 when there is no food whose weight is currently 0 gram.

ステップS106で、食品情報管理部115は、庫内食品リスト131の該当食品(今回、出庫されたと判定された食品)の情報を、‘在庫なし’(在庫0)に更新して、ステップS107に処理を進める。また、ステップS120で、食品情報管理部115は、庫内食品リスト131の該当食品(今回、入庫したと判定された食品)の情報を、‘在庫あり’(在庫1)に更新して、ステップS107に処理を進める。   In step S106, the food information management unit 115 updates the information of the corresponding food (food determined to have been delivered this time) in the in-chamber food list 131 to 'not in stock' (in stock 0), and the process proceeds to step S107. Proceed with the process. Further, in step S120, the food information management unit 115 updates the information of the corresponding food (food determined to be received this time) in the in-box food list 131 to 'in stock' (in stock 1), and step The process proceeds to step S107.

ステップS107で、食品情報管理部115は、入庫食品情報132に賞味期限の情報が記録されているか否かを判断する。そして、食品情報管理部115は、入庫食品情報132に賞味期限の情報が記録されているときはステップS107に処理を進め、賞味期限の情報が記録されていないときにはステップS121に処理を進める。   In step S107, the food information management unit 115 determines whether or not the information on the expiration date is recorded in the incoming food information 132. Then, the food information management unit 115 proceeds the process to step S107 when the information on the shelf life is recorded in the received food information 132, and proceeds to the process to step S121 when the information on the shelf life is not recorded.

ステップS171で、食品情報管理部115は、入庫食品情報132に記録された賞味期限の情報に基づいて、庫内食品リスト131に今回入庫された食品の賞味期限を記録し、ステップS107に処理を進める。また、ステップS121で、食品情報管理部115は、記憶部130に保存された賞味期限リスト135を参照して、該当食品の賞味期限を検索する。   In step S171, the food information management unit 115 records the expiration date of the food that is currently received in the in-house food list 131 based on the information on the expiration date recorded in the received food information 132, and the process is performed in step S107. Advance. Further, in step S121, the food information management unit 115 refers to the expiration date list 135 stored in the storage unit 130, and searches for the expiration date of the corresponding food.

賞味期限リスト135は、図16に示したように、食品名と食品の賞味期限とを対応付けたリストであり、食品情報管理部115は、今回の入庫食品の食品名に対応付けられた賞味期限を検索する。続くステップS122で、食品情報管理部115は、庫内食品リスト131の該当食品のデータに賞味期限を記録して、ステップS107に処理を進める。   The expiration date list 135 is a list in which the food name and the food expiration date are associated with each other, as shown in FIG. 16, and the food information management unit 115 is associated with the food name of the present stored food. Search for deadlines. In the following step S122, the food information management unit 115 records the expiration date in the data of the corresponding food in the in-chamber food list 131, and advances the process to step S107.

ステップS107で、食品情報管理部115は、更新した庫内食品リスト131のデータを、無線通信部140により、通信ネットワーク510を介して管理サーバー520に送信し、「庫内食品管理処理」を終了する。   In step S107, the food information management unit 115 causes the wireless communication unit 140 to transmit the updated data of the stored food list 131 to the management server 520 via the communication network 510, and ends the "stored food management process". Do.

管理サーバー520は、冷蔵庫1から受信した庫内食品リスト131のデータを記憶装置(図示しない)に保存し、庫内食品リスト131から認識される各商品の喫食状況、賞味期限までの残日数等を、ユーザーの端末装置400に送信する。これにより、ユーザーは、外出先等においても、端末装置400により冷蔵庫1に収容された商品の状況を確認することができる。   The management server 520 stores the data of the in-box food list 131 received from the refrigerator 1 in a storage device (not shown), and the eating condition of each product recognized from the in-box food list 131, the remaining number of days until the expiration date, etc. Are sent to the terminal device 400 of the user. Thereby, the user can confirm the condition of the goods accommodated in the refrigerator 1 by the terminal device 400 even when he or she goes out.

[4.他の実施形態]
上記実施形態において、通過物体検出部111は、照度センサ17a,17b,17cにより検出される冷蔵室10内の照度の変化によって、冷蔵室10の開口部10aを通過する物体を検出した。通過物体検出部111の他の構成として、カメラ60による撮像画像から開口部10a付近の物体の画像部分を抽出することによって、開口部10aを通過する物体を検出してもよい。或いは、反射型又は透過型の光センサ、超音波センサ、静電容量センサ等により、開口部10aを通過する物体を検出するようにしてもよい。
[4. Other embodiments]
In the said embodiment, the passing object detection part 111 detected the object which passes the opening part 10a of the refrigerator compartment 10 by the change of the illumination intensity in the refrigerator compartment 10 detected by illuminance sensor 17a, 17b, 17c. As another configuration of the passing object detection unit 111, an object passing through the opening 10a may be detected by extracting an image portion of an object near the opening 10a from an image captured by the camera 60. Alternatively, an object passing through the opening 10 a may be detected by a reflective or transmissive optical sensor, an ultrasonic sensor, a capacitance sensor, or the like.

或いは、図3〜図5に示したように、開口部10aを検出範囲に含み、開口部10aを通過する物体を直接検出する対物センサ80(反射型又は透過型の光センサ、超音波センサ、静電容量センサ等)を用いてもよい。この場合、対物センサ80の検出範囲を、開口部10aから冷蔵室10内に向かう方向において、カメラ60の撮像範囲60aよりも手前側に設定してもよい。これにより、開口部10aを通過する物体が検出された時点から、カメラ60による撮像が実行されるまでの遅れ時間により、入庫される食品の撮像に失敗することを防止することができる。   Alternatively, as shown in FIGS. 3 to 5, an objective sensor 80 (a reflective or transmissive optical sensor, an ultrasonic sensor, and the like) which includes the opening 10 a in a detection range and directly detects an object passing through the opening 10 a. A capacitance sensor or the like may be used. In this case, the detection range of the objective sensor 80 may be set on the front side of the imaging range 60a of the camera 60 in the direction from the opening 10a to the inside of the refrigerator compartment 10. As a result, it is possible to prevent a failure in imaging of the stored food due to a delay time from when an object passing through the opening 10a is detected to when the imaging by the camera 60 is performed.

また、開閉センサ18aにより左ドア12開けられたことが検出されたとき、及び開閉センサ18bにより右ドア11が開けられたことが検出されたときに、カメラ60への通電を開始して、カメラ60による撮像を可能にしてもよい。この構成によれば、左ドア12と右ドアが閉められているときは、カメラ60への通電を遮断して節電することができる。また、右ドア又は左ドア12が開けられたタイミングでカメラ60への通電を開始することによって、カメラ60の起動の遅れにより入庫される食品の撮像に失敗することを防止することができる。   Also, when the open / close sensor 18a detects that the left door 12 is opened, and when the open / close sensor 18b detects that the right door 11 is opened, energization of the camera 60 is started, Imaging by 60 may be enabled. According to this configuration, when the left door 12 and the right door are closed, the camera 60 can be deenergized to save power. Further, by starting energization of the camera 60 at the timing when the right door or the left door 12 is opened, it is possible to prevent failure in imaging of the stored food due to the delay in activation of the camera 60.

また、食品情報取得部114は、通過物体検出部111により、開口部10aを通過する物体が検出された時から所定時間以内に、開閉センサ18aにより左ドア12が開状態から閉状態に切り替わったことが検出されたとき、又は開閉センサ18bにより右ドア11が開状態から閉状態に切り替わったことが検出されたときには、カメラ60により撮像された画像データを無効にする構成としてもよい。この構成によれば、左ドア12又は右ドア11が閉められる際に、左ドア12又は右ドア11が通過物体検出部111により検出されてカメラ60により撮像されたときに、左ドア12又は右ドア11の画像から、誤った食品の情報が抽出されることを防止することができる。   Further, the food information acquisition unit 114 switches the left door 12 from the open state to the closed state by the open / close sensor 18a within a predetermined time from when the passing object detection unit 111 detects an object passing through the opening 10a. When it is detected or when the open / close sensor 18b detects that the right door 11 is switched from the open state to the closed state, the image data captured by the camera 60 may be invalidated. According to this configuration, when the left door 12 or the right door 11 is detected by the passing object detection unit 111 and captured by the camera 60 when the left door 12 or the right door 11 is closed, the left door 12 or the right It is possible to prevent extraction of erroneous food information from the image of the door 11.

上記実施形態において、収容量認識部112は、重量センサ13a,13b,14a,14b,15a,15bによる検出重量に基づいて、冷蔵室10の各棚13,14,15に収容されている食品の量を認識した。収容量認識部112の他の構成として、照明部16a,16b,16c,16d,16e,16fを点灯させた状態での照度センサ17a,17b,17cによる検出照度に基づいて、冷蔵室10の各棚13,14,15に収容されている食品の量を認識してよい。或いは、カメラ60又は別に配置したカメラによる冷蔵室10の内部の撮像画像から、食品の画像部分を抽出することによって、冷蔵室10の各棚13,14,15に収容されている食品の量を認識してもよい。   In the above embodiment, the storage capacity recognition unit 112 is configured to store the food stored in each shelf 13, 14, 15 of the refrigerator compartment 10 based on the detected weight by the weight sensors 13a, 13b, 14a, 14b, 15a, 15b. Recognized the amount. As another configuration of the storage capacity recognition unit 112, each of the refrigerator compartment 10 based on the detected illuminance by the illuminance sensors 17a, 17b and 17c in the state where the illumination units 16a, 16b, 16c, 16d, 16e and 16f are turned on. The amount of food contained in the shelves 13, 14, 15 may be recognized. Alternatively, the amount of food contained in each shelf 13, 14, 15 of the refrigerator compartment 10 is obtained by extracting the image part of the food from the captured image of the inside of the refrigerator compartment 10 by the camera 60 or a camera separately disposed. It may be recognized.

上記実施形態では、カメラ60の撮像画像に対する処理を画像処理部120により行ったが、画像処理部120の機能をCPU110に備えて、CPU110により撮像画像に対する処理を行ってもよい。   In the above embodiment, the image processing unit 120 performs the process on the captured image of the camera 60. However, the CPU 110 may have the function of the image processing unit 120 and the CPU 110 may perform the process on the captured image.

上記実施形態では、サンプル画像134と賞味期限リスト135のデータを、記憶部130に保存したが、管理サーバー520に保存して、使用時に管理サーバー520から冷蔵庫1の制御ユニット100にダウンロードするようにしてもよい。   Although the data of the sample image 134 and the expiration date list 135 are stored in the storage unit 130 in the above embodiment, they are stored in the management server 520 and downloaded from the management server 520 to the control unit 100 of the refrigerator 1 when used. May be

また、サンプル画像134を記憶部130又は管理サーバー520に保存するとしたが、色や形、大きさなどの各々の食品や収納物の特徴を事前に学習した画像認識プログラムをCPU110に実装しておき、入庫食品の画像部分を画像認識プログラムで処理をして一致率を算出し入庫食品の食品名と推定して取得してもよい。これによってサンプル画像134は不要となって記憶部130または管理サーバー520で保存する記憶容量を小さくすることができ、入庫食品の食品名を推定する認識処理時間も早く処理できる。出庫食品の食品名の推定も上記と同様に処理することができる。   In addition, although the sample image 134 is stored in the storage unit 130 or the management server 520, an image recognition program in which the features of each food or stored item such as color, shape, and size are learned in advance is installed in the CPU 110 The image recognition program may process the image portion of the incoming food to calculate the matching rate and estimate the same as the food name of the incoming food. As a result, the sample image 134 becomes unnecessary and the storage capacity stored in the storage unit 130 or the management server 520 can be reduced, and the recognition processing time for estimating the food name of the stored food can be processed quickly. The estimation of the food name of the leaving food can be processed in the same manner as described above.

上記実施形態では、冷蔵庫1の冷蔵室10について、入出庫判定部113により食品の入庫と出庫を判別して、食品情報取得部114により入庫食品及び出庫食品の情報を取得し、食品情報管理部115により冷蔵室10に収容された食品の情報を管理した。切換室20、冷凍室40、及び野菜室50についても、開口部20a,40a,50aを通過する物体を検出する通過物体検出部と、収容された食品の量を認識する収容量認識部を備えることにより、食品の入庫と出庫を判定することができる。   In the above embodiment, in the cold storage room 10 of the refrigerator 1, the storage / storage determination unit 113 determines the storage and exit of the food, and the food information acquisition unit 114 acquires the information of the storage food and the storage food, and the food information management unit The information of the food stored in the refrigerator compartment 10 was managed by 115. The switching room 20, the freezing room 40, and the vegetable room 50 also have a passing object detection unit that detects an object passing through the openings 20a, 40a, 50a, and a storage capacity recognition unit that recognizes the amount of food stored. Thus, it is possible to determine whether the food is in or out.

また、外部に配置したカメラにより、切換室20、冷凍室40、及び野菜室50の開口部20a,40a,50aを通過する食品を撮像する構成としてもよい。この構成によれば、カメラレンズの曇りを防止するための構成を不要として、カメラにより開口部20a,40a,50aを含む範囲を撮像することができる。そして、撮像画像から入庫食品及び出庫食品の情報を取得することにより、切換室20、冷凍室40、及び野菜室50に収容された食品の情報を取得して、食品の管理を行うことができる。   Further, the camera may be configured to pick up an image of the food passing through the openings 20a, 40a, 50a of the switching room 20, the freezing room 40, and the vegetable room 50 by a camera disposed outside. According to this configuration, it is possible to capture a range including the openings 20a, 40a, and 50a by the camera without requiring a configuration for preventing fogging of the camera lens. Then, by acquiring information of the stored food and the stored food from the captured image, the information of the food accommodated in the switching room 20, the freezing room 40, and the vegetable room 50 can be acquired to manage the food. .

以上のように、本発明にかかる冷蔵庫は、収容室の開口部を通過する食品を収容室の外部に配置されたカメラにより撮像することによって、カメラレンズの曇りを防止するための構成を不要として、収容室に収容されている食品の情報をより確実に取得して管理することができるので、冷蔵庫に収容された食品を管理する用途に適用することができる。   As described above, the refrigerator according to the present invention does not require a configuration for preventing fogging of the camera lens by imaging the food passing through the opening of the storage chamber with the camera disposed outside the storage chamber. Since the information of the food stored in the storage room can be acquired more reliably and managed, the present invention can be applied to the application for managing the food stored in the refrigerator.

1 冷蔵庫
10 冷蔵室
10a 開口部
11 右ドア
12 左ドア
13 上棚
13 棚
13a、13b 重量センサ
14 中棚
14a、14b 重量センサ
15 下棚
15a、15b 重量センサ
16a、16b、16c、16d、16r、16f 照明部
17a、17b、17c 照度センサ
18a、18b 開閉センサ
19 冷蔵室10の天板
20 切換室
20a 開口部
22 開閉センサ
30 製氷室
30a 開口部
32 開閉センサ
32 ステップ
32 開閉センサ
40 ステップ
40 冷凍室
40a 開口部
42 開閉センサ
50 野菜室
50a 開口部
52 開閉センサ
60 カメラ
61 圧縮機
62 冷却ファン
63 冷却器
64 凝縮器
100 制御ユニット
110 CPU
111 通過物体検出部
112 収容量認識部
113 入出庫判定部
114 食品情報取得部
115 食品情報管理部
120 画像処理部
121 画像メモリ
130 記憶部
131 庫内食品リスト
132 入庫食品情報
133 出庫食品情報
134 サンプル画像
135 賞味期限リスト
140 無線通信部
141 日時認識部
210 目隠し部
400 端末装置
500 ゲートウェイ
510 通信ネットワーク
520 管理サーバー
DESCRIPTION OF SYMBOLS 1 refrigerator 10 cold storage room 10a opening part 11 right door 12 left door 13 upper shelf 13 shelves 13a and 13b weight sensor 14 middle shelf 14a and 14b weight sensor 15 lower shelf 15a and 15b weight sensor 16a, 16b, 16c, 16d, 16r, 16f Lighting unit 17a, 17b, 17c Illuminance sensor 18a, 18b Open / close sensor 19 Top plate of cold storage room 10 Switched room 20a Opening 22 Open / close sensor 30 Icemaker 30a Opening 32 Open / close sensor 32 Step 32 Open / close sensor 40 Step 40 Freezer 40a Opening 42 opening / closing sensor 50 vegetable room 50a opening 52 opening / closing sensor 60 camera 61 compressor 62 cooling fan 63 cooler 64 condenser 100 control unit 110 CPU
111 passing object detection unit 112 storage capacity recognition unit 113 entry and exit determination unit 114 food information acquisition unit 115 food information management unit 120 image processing unit 121 image memory 130 storage unit 131 in-chamber food list 132 warehousing food information 133 leaving food information 134 samples Image 135: Shelf life list 140: Wireless communication unit 141: Date and time recognition unit 210: Blind part 400: Terminal device 500: Gateway 510: Communication network 520: Management server

Claims (3)

開口部を有する収容室と、
前記開口部を開閉する開閉部と、
前記収容室の外部であって、前記開閉部が開状態であるときに前記開口部が撮像範囲に含まれる位置に配置されたカメラと、
前記カメラによる撮像画像から、前記開口部を通過する食品の情報を取得する食品情報取得部と、
前記食品情報取得部により取得された食品の情報に基づいて、前記収容室に収容されている食品の情報を管理する食品情報管理部と
を備えていることを特徴とする冷蔵庫。
A storage chamber having an opening;
An opening and closing part for opening and closing the opening;
A camera which is disposed outside the storage chamber, and in which the opening is included in an imaging range when the open / close unit is in an open state;
A food information acquisition unit that acquires information of food passing through the opening from the image captured by the camera;
And a food information management unit that manages information of the food stored in the storage room based on the food information acquired by the food information acquisition unit.
前記カメラは前記開口部の外周部に配置され、
前記開閉部の外周部であって前記開閉部が閉状態であるときに前記カメラと対向する箇所に設けられ、前記開閉部が閉状態であるときに、前記開閉部の外側からの前記カメラの視認を不能とする目隠し部を備えていることを特徴とする請求項1に記載の冷蔵庫。
The camera is disposed at an outer peripheral portion of the opening,
It is an outer peripheral portion of the opening and closing part, and is provided at a position facing the camera when the opening and closing part is in a closed state, and when the opening and closing part is in a closed state, the camera from the outside of the opening and closing part The refrigerator according to claim 1, characterized in that it comprises a blind part that makes it impossible to view.
前記収容室は前記冷蔵庫の最上段に配置され、
前記カメラは前記収容室の天板に配置されていることを特徴とする請求項1又は請求項2に記載の冷蔵庫。

The storage room is disposed at the top of the refrigerator,
The refrigerator according to claim 1 or 2, wherein the camera is disposed on a top plate of the storage chamber.

JP2017196353A 2017-10-06 2017-10-06 refrigerator Active JP7012262B2 (en)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017196353A JP7012262B2 (en) 2017-10-06 2017-10-06 refrigerator
CN201811155860.7A CN109631484A (en) 2017-10-06 2018-09-30 Freezer
JP2021212787A JP7386459B2 (en) 2017-10-06 2021-12-27 refrigerator
JP2023186805A JP2023181404A (en) 2017-10-06 2023-10-31 refrigerator

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017196353A JP7012262B2 (en) 2017-10-06 2017-10-06 refrigerator

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021212787A Division JP7386459B2 (en) 2017-10-06 2021-12-27 refrigerator

Publications (3)

Publication Number Publication Date
JP2019070477A true JP2019070477A (en) 2019-05-09
JP2019070477A5 JP2019070477A5 (en) 2021-03-04
JP7012262B2 JP7012262B2 (en) 2022-01-28

Family

ID=66066334

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2017196353A Active JP7012262B2 (en) 2017-10-06 2017-10-06 refrigerator
JP2021212787A Active JP7386459B2 (en) 2017-10-06 2021-12-27 refrigerator
JP2023186805A Pending JP2023181404A (en) 2017-10-06 2023-10-31 refrigerator

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2021212787A Active JP7386459B2 (en) 2017-10-06 2021-12-27 refrigerator
JP2023186805A Pending JP2023181404A (en) 2017-10-06 2023-10-31 refrigerator

Country Status (2)

Country Link
JP (3) JP7012262B2 (en)
CN (1) CN109631484A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019219127A (en) * 2018-06-21 2019-12-26 東芝ライフスタイル株式会社 refrigerator
CN113932553A (en) * 2020-07-14 2022-01-14 青岛海尔电冰箱有限公司 Refrigerator and control method thereof

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102019211351A1 (en) * 2019-07-30 2021-02-04 BSH Hausgeräte GmbH Household refrigeration device with a digital camera
JP2022035347A (en) * 2020-08-20 2022-03-04 日立グローバルライフソリューションズ株式会社 Method for processing image data in refrigerator and refrigerator

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004183987A (en) * 2002-12-04 2004-07-02 Hitachi Home & Life Solutions Inc Refrigerator
JP2015081762A (en) * 2013-10-24 2015-04-27 三菱電機株式会社 Refrigerator
JP2015125535A (en) * 2013-12-26 2015-07-06 ソフトバンクモバイル株式会社 Management system and program
WO2016162956A1 (en) * 2015-04-07 2016-10-13 三菱電機株式会社 Refrigerator

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003042626A (en) * 2001-07-26 2003-02-13 Toshiba Corp Refrigerator
JP6391943B2 (en) * 2013-03-12 2018-09-19 東芝ライフスタイル株式会社 Refrigerator, camera device, internal image display program
JP6411753B2 (en) * 2013-03-12 2018-10-24 東芝ライフスタイル株式会社 Refrigerator and camera device
JP6402353B2 (en) * 2013-03-29 2018-10-10 パナソニックIpマネジメント株式会社 Refrigerator and refrigerator system
JP6239902B2 (en) * 2013-08-28 2017-11-29 東芝ライフスタイル株式会社 Camera device for storage and storage with the same
JP6266374B2 (en) * 2014-02-14 2018-01-24 東芝ライフスタイル株式会社 Storage device, image processing device, image processing method, and program
JP6550696B2 (en) * 2014-07-18 2019-07-31 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America Judgment apparatus and judgment method
WO2016031246A1 (en) * 2014-08-26 2016-03-03 ハイアールアジア株式会社 Nutrient quantity calculating device and refrigerator provided with same
CN104482715B (en) * 2014-12-31 2016-08-24 合肥华凌股份有限公司 The management method of food and refrigerator in refrigerator
CN204806827U (en) * 2015-05-29 2015-11-25 青岛海尔股份有限公司 Refrigerator
CN106918180A (en) * 2015-12-24 2017-07-04 博西华电器(江苏)有限公司 Refrigerator
CN106210481B (en) * 2016-08-31 2022-01-25 海信(山东)冰箱有限公司 Camera module and refrigeration equipment
CN206100214U (en) * 2016-08-31 2017-04-12 海信(山东)冰箱有限公司 Camera device and refrigeration plant

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004183987A (en) * 2002-12-04 2004-07-02 Hitachi Home & Life Solutions Inc Refrigerator
JP2015081762A (en) * 2013-10-24 2015-04-27 三菱電機株式会社 Refrigerator
JP2015125535A (en) * 2013-12-26 2015-07-06 ソフトバンクモバイル株式会社 Management system and program
WO2016162956A1 (en) * 2015-04-07 2016-10-13 三菱電機株式会社 Refrigerator

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019219127A (en) * 2018-06-21 2019-12-26 東芝ライフスタイル株式会社 refrigerator
JP7137369B2 (en) 2018-06-21 2022-09-14 東芝ライフスタイル株式会社 refrigerator
CN113932553A (en) * 2020-07-14 2022-01-14 青岛海尔电冰箱有限公司 Refrigerator and control method thereof

Also Published As

Publication number Publication date
CN109631484A (en) 2019-04-16
JP7012262B2 (en) 2022-01-28
JP7386459B2 (en) 2023-11-27
JP2023181404A (en) 2023-12-21
JP2022033235A (en) 2022-02-28

Similar Documents

Publication Publication Date Title
JP7386459B2 (en) refrigerator
JP7012263B2 (en) refrigerator
JP7012261B2 (en) refrigerator
JP7281755B2 (en) refrigerator
JP6305122B2 (en) Refrigerator and network system equipped with refrigerator
JP7340766B2 (en) refrigerator
US11335010B2 (en) Methods for viewing and tracking stored items
WO2021212993A1 (en) Camera module in refrigeration appliance and method for preventing lens from fogging
WO2021057769A1 (en) Method for viewing and tracking stored items
JP2015072109A (en) Refrigerator
JP2017040425A (en) Cold storage and program
JP7289083B2 (en) refrigerator
JP7289084B2 (en) refrigerator
JP2023099664A (en) refrigerator
WO2023185834A1 (en) Refrigerator camera module, and method for resolving persistent issue on camera lens
CN116348727B (en) Refrigeration appliance and user identification method
US20230316755A1 (en) Refrigerator appliance and methods for tracking stored items in a freezer chamber
US11692767B2 (en) Refrigerator appliance and methods of user identification

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201001

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210907

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211227

R151 Written notification of patent or utility model registration

Ref document number: 7012262

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151