JP7407075B2 - 加熱調理システム、加熱調理方法、学習装置、学習方法 - Google Patents

加熱調理システム、加熱調理方法、学習装置、学習方法 Download PDF

Info

Publication number
JP7407075B2
JP7407075B2 JP2020101284A JP2020101284A JP7407075B2 JP 7407075 B2 JP7407075 B2 JP 7407075B2 JP 2020101284 A JP2020101284 A JP 2020101284A JP 2020101284 A JP2020101284 A JP 2020101284A JP 7407075 B2 JP7407075 B2 JP 7407075B2
Authority
JP
Japan
Prior art keywords
user
information
heating
approach
learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020101284A
Other languages
English (en)
Other versions
JP2021196088A (ja
Inventor
喜輝 杉本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Rinnai Corp
Original Assignee
Rinnai Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Rinnai Corp filed Critical Rinnai Corp
Priority to JP2020101284A priority Critical patent/JP7407075B2/ja
Publication of JP2021196088A publication Critical patent/JP2021196088A/ja
Application granted granted Critical
Publication of JP7407075B2 publication Critical patent/JP7407075B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Electric Stoves And Ranges (AREA)
  • Regulation And Control Of Combustion (AREA)

Description

本明細書が開示する技術は、加熱調理システム、加熱調理方法、学習装置、学習方法に関する。
特許文献1に、加熱部(例えば、ガスバーナ)で加熱対象物(例えば、調理器具)を加熱している画像を撮像し、撮像した画像に異物(例えば、ユーザの手)が含まれる場合に、加熱部の加熱量を抑制する加熱調理器が開示されている。
特開2019-74249号公報
特許文献1の加熱調理器では、調理中のユーザが不注意で加熱対象物に接近した場合に限らず、ユーザが意図して加熱対象物に接近した場合であっても、加熱部の加熱量が抑制される。このため、意図して加熱対象物に接近したユーザは、抑制された加熱量を再び増加させる必要がある。本明細書では、加熱対象物に接近するユーザの状態に対応して、加熱部の加熱量を制御することができる技術を提供する。
本明細書が開示する加熱調理システムは、加熱部と、画像取得部と、接近安全度推定部と、加熱量制御部と、を備えている。加熱部は、加熱対象物を加熱する。画像取得部は、前記加熱対象物に接近しているユーザの状態を含む画像であるユーザ接近画像を撮像可能に構成されている撮像装置から、前記ユーザ接近画像を取得する。接近安全度推定部は、前記ユーザが、前記加熱対象物に対して意図して接近しているか否かの度合いとして、前記加熱対象物に接近している前記ユーザの状態に対する接近安全度を、前記ユーザ接近画像に基づいて推定するための機械学習を行った学習済みの学習器に、前記画像取得部が取得した前記ユーザ接近画像を入力し、前記学習済みの学習器の演算処理を実行することで、前記接近安全度を前記学習器から取得する。加熱量制御部は、前記接近安全度推定部が推定した前記接近安全度に基づいて、前記加熱部の加熱量を制御する。
ユーザの加熱対象物への接近は、ユーザが意図している接近と、意図していない(不注意な)接近と、に分けられる。不注意な接近に対しては、加熱量を低減させることで、ユーザへの安全性が向上する。しかしながら、ユーザの利便性を考慮すると、ユーザが意図して加熱対象物に接近している場合には、加熱量を保持することが求められる。上記した加熱調理システムは、加熱対象物に対する意図している接近と不注意な接近を区別するために、加熱対象物に接近しているユーザの状態の画像に基づいて接近安全度を推定する。これにより、上記した加熱調理システムは、推定された接近安全度に基づいて、意図している接近に対しては加熱部の加熱量を保持し、不注意な接近に対しては加熱部の加熱量を低減させることができる。
上記一側面に係る加熱調理システムは、前記ユーザに関する情報であるユーザ情報を取得するユーザ情報取得部をさらに備えていてもよい。その場合、前記学習器は、前記ユーザ情報にも基づいて前記接近安全度を推定するための機械学習を行ってもよい。前記接近安全度推定部は、前記ユーザ情報取得部が取得した前記ユーザ情報も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで、前記接近安全度を前記学習器から取得してもよい。
上記の加熱調理システムによれば、ユーザ情報取得部が取得したユーザ情報にも基づいて接近安全度を推定することで、接近安全度の推定精度を向上させることができる。
上記一側面に係る加熱調理システムでは、前記ユーザ情報は、前記ユーザ接近画像に基づいて解析される、前記ユーザが所持している所持物に関する情報であるユーザ所持物情報と、前記ユーザの服装に関する情報であるユーザ服装情報と、前記ユーザの体勢に関する情報であるユーザ体勢情報と、前記ユーザの体型に関する情報であるユーザ体型情報と、のうちの少なくとも一つを含んでもよい。
ユーザが調理器具(例えば、菜箸、おたま等)を所持している場合には、ユーザは、意図して加熱対象物に接近していることが推定される。すなわち、その場合には、高い接近安全度が推定される。一方、ユーザが何も所持していない場合には、ユーザは不注意で加熱対象物に接近しているおそれがある。すなわち、その場合には、低い推定安全度が推定される。このように、上記の加熱調理システムによれば、接近安全度に影響があるユーザ所持物情報にも基づいて接近安全度を推定することで、接近安全度の推定精度を向上させることができる。
また、例えば加熱対象物に接近しているユーザが、エプロンを着用している場合には、そのユーザは、加熱対象物に対して意図して接近している可能性が高い。すなわち、ユーザがエプロンを着用している場合には、高い接近安全度が推定される。一方で、ユーザがエプロンを着用していない場合には、低い接近安全度が推定される。上記の加熱調理システムによれば、接近安全度に影響するユーザ服装情報にも基づいて接近安全度を推定することで、接近安全度の推定精度を向上させることができる。
さらに、例えばユーザの視線が加熱対象物に向けられている場合には、接近している加熱対象物を、ユーザが意識していると推定される。すなわち、その場合、高い接近安全度が推定される。一方、ユーザの視線が別の場所に向けられている場合には、接近している加熱対象物をユーザが意識していないおそれがある。すなわち、その場合には、低い接近安全度が推定される。上記の加熱調理システムによれば、接近安全度に影響するユーザ体勢情報にも基づいて接近安全度を推定することで、接近安全度の推定精度を向上させることができる。
また、例えばユーザの手が短い場合には、ユーザの手は加熱対象物に届きにくい。すなわち、そのような場合には、高い接近安全度が推定される。一方で、ユーザの手が長い場合には、ユーザの手は加熱対象物に届きやすい。すなわち、そのような場合には、低い接近安全度が推定される。上記の加熱調理システムによれば、接近安全度に影響するユーザ体型情報にも基づいて接近安全度を推定することで、接近安全度の推定精度を向上させることができる。
上記一側面に係る加熱調理システムは、前記ユーザの生体に関する情報であるユーザ生体情報を測定可能に構成されている測定装置から、前記ユーザ生体情報を取得するユーザ生体情報取得部をさらに備えていてもよい。その場合、前記ユーザ情報は、前記ユーザ生体情報取得部が取得した前記ユーザ生体情報を含んでもよい。
例えば、ユーザの体調が悪い場合には、めまい、立ち眩み等によって、ユーザが意図せず加熱対象物に接近してしまうことも起こりえる。すなわち、ユーザの体調が悪い場合には、低い接近安全度が推定される。例えばユーザの体温や脈拍等、ユーザの生体情報は、ユーザの体調を示す一つの指標となり得る。上記の加熱調理システムによれば、ユーザの体調を示すユーザ生体情報にも基づいて接近安全度を推定することで、接近安全度の推定精度を向上させることができる。
上記一側面に係る加熱調理システムでは、前記加熱部は、複数の加熱装置を備えていてもよい。その場合、前記ユーザ情報は、前記ユーザ接近画像に基づいて解析される、前記複数の加熱装置のうち、前記ユーザが意図して接近している前記加熱対象物を加熱している加熱装置を特定する情報であるユーザ接近加熱装置情報を含んでもよい。前記安全推定部は、前記複数の加熱装置のそれぞれに対する前記接近安全度を前記学習器から取得してもよい。前記加熱量制御部は、前記接近安全度推定部が推定した前記複数の加熱装置のそれぞれに対する前記接近安全度に基づいて、前記複数の加熱装置の加熱量を、それぞれに制御してもよい。
複数の加熱装置を備える場合、ユーザは、ユーザが意図して接近している加熱対象物を加熱している加熱装置に対して注意深くなる。すなわち、ユーザが意図して接近している加熱対象物を加熱している加熱装置に対しては、高い接近安全度が推定される。一方、ユーザは、ユーザが接近を意図していない加熱対象物を加熱している加熱装置に対しては不注意となるおそれがある。すなわち、ユーザが接近を意図していない加熱対象物を加熱している加熱装置に対しては、低い接近安全度が推定される。上記の加熱調理システムによれば、高い接近安全度が推定される、ユーザが意図して接近している加熱対象物を加熱している加熱装置の加熱量を保持することができ、低い接近安全度が推定される、その他の加熱装置の加熱量を、低減させることができる。
本明細書が開示する加熱調理方法では、コンピュータが、画像取得ステップと、接近安全度推定ステップと、加熱量制御ステップと、を実行してもよい。画像取得ステップでは、コンピュータが、加熱部により加熱されている加熱対象物に接近しているユーザの状態を含む画像であるユーザ接近画像を撮像可能に構成されている撮像装置から、前記ユーザ接近画像を取得する。接近安全度推定ステップでは、前記ユーザが、前記加熱対象物に対して意図して接近しているか否かの度合いとして、前記加熱対象物に接近している前記ユーザの状態に対する接近安全度を、前記ユーザ接近画像に基づいて推定するための機械学習を行った学習済みの学習器に、前記画像取得部が取得した前記ユーザ接近画像を入力し、前記学習済みの学習器の演算処理を実行することで、前記接近安全度を前記学習器から取得する。加熱量制御ステップでは、コンピュータが、前記接近安全度推定ステップにおいて推定した前記接近安全度に基づいて、前記加熱部の加熱量を制御する。
上記一側面に係る加熱調理方法では、前記コンピュータが、前記ユーザに関する情報であるユーザ情報を取得するユーザ情報取得ステップをさらに実行してもよい。その場合、前記学習器は、前記ユーザ情報にも基づいて前記接近安全度を推定するための機械学習を行ってもよい。前記コンピュータは、前記接近安全度推定ステップにおいて、前記ユーザ情報取得ステップで取得した前記ユーザ情報も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで、前記接近安全度を前記学習器から取得してもよい。
上記一側面に係る加熱調理方法では、前記ユーザ情報は、前記ユーザ接近画像に基づいて解析される、前記ユーザが所持している所持物に関する情報であるユーザ所持物情報と、前記ユーザの服装に関する情報であるユーザ服装情報と、前記ユーザの体勢に関する情報であるユーザ体勢情報と、前記ユーザの体型に関する情報であるユーザ体型情報と、のうちの少なくとも一つを含んでもよい。
上記一側面に係る加熱調理方法では、前記コンピュータが、前記ユーザの生体に関する情報であるユーザ生体情報を測定可能に構成されている測定装置から前記ユーザ生体情報を取得するユーザ生体情報取得ステップをさらに実行してもよい。その場合、前記ユーザ情報は、前記ユーザ生体情報取得ステップで取得される前記ユーザ生体情報を含んでもよい。
上記一側面に係る加熱調理方法では、前記加熱部は、複数の加熱装置を備えていてもよい。その場合、前記ユーザ情報は、前記ユーザ接近画像に基づいて解析される、前記複数の加熱装置のうち、前記ユーザが意図して接近している前記加熱対象物を加熱している加熱装置を特定する情報であるユーザ接近加熱装置情報を含んでもよい。前記コンピュータは、前記接近安全度推定ステップにおいて、前記複数の加熱装置のそれぞれに対する前記接近安全度を前記学習器から取得てもよい。コンピュータは、前記加熱量制御ステップにおいて、前記接近安全度推定ステップで推定した前記複数の加熱装置のそれぞれに対する前記接近安全度に基づいて、前記複数の加熱装置の加熱量を、それぞれに制御してもよい。
本明細書が開示する学習装置は、学習データ取得部と、学習処理部と、を備えてもよい。学習データ取得部は、加熱部により加熱されている加熱対象物に接近しているユーザの状態に対する接近安全度であって、前記ユーザが、前記加熱対象物に対して意図して接近しているか否かの度合いである前記接近安全度と、前記接近安全度に対応付けられており、前記ユーザの状態を含む画像であるユーザ接近画像を撮像可能に構成されている撮像装置から取得する前記ユーザ接近画像と、を含む学習データを取得する。学習処理部は、前記ユーザ接近画像を含む入力に対して、前記接近安全度に対応する出力値を含む出力を得るように学習器の機械学習を行う。
上記の学習装置によれば、ユーザ接近画像に基づいて接近安全度を推定するための学習済みの学習器を構築することができる。
上記一側面に係る学習装置では、前記学習データは、前記接近安全度に対応付けられており、前記ユーザに関する情報であるユーザ情報をさらに含んでもよい。その場合、前記学習器の前記機械学習における前記入力が、前記ユーザ情報も含んでもよい。
上記の学習装置によれば、ユーザ情報にも基づいて、接近安全度を推定するための学習済みの学習器を構築することができる。
上記一側面に係る学習装置では、前記ユーザ情報は、前記ユーザ接近画像に基づいて解析される、前記ユーザが所持している所持物に関する情報であるユーザ所持物情報と、前記ユーザの服装に関する情報であるユーザ服装情報と、前記ユーザの体勢に関する情報であるユーザ体勢情報と、前記ユーザの体型に関する情報であるユーザ体型情報と、のうちの少なくとも一つを含んでもよい。
上記の学習装置によれば、ユーザ所持物情報と、ユーザ服装情報と、ユーザ体勢情報と、ユーザ体型情報と、のうちの少なくとも一つを含むユーザ情報にも基づいて、接近安全度を推定するための学習済みの学習器を構築することができる。
上記一側面に係る学習装置では、前記ユーザ情報は、前記ユーザの生体に関する情報であるユーザ生体情報を測定可能に構成されている測定装置から取得する前記ユーザ生体情報を含んでもよい。
上記の学習装置によれば、ユーザ生体情報を含むユーザ情報にも基づいて、接近安全度を推定するための学習済みの学習器を構築することができる。
上記一側面に係る学習装置では、前記加熱部は、複数の加熱装置を備えていてもよい。その場合、前記ユーザ情報は、前記ユーザ接近画像に基づいて解析される、前記複数の加熱装置のうち、前記ユーザが意図して接近している前記加熱対象物を加熱している加熱装置を特定する情報であるユーザ接近加熱装置情報を含んでもよい。前記学習処理部は、前記複数の加熱装置のそれぞれに対する前記接近安全度に対応する出力値を含む出力を得るように学習器の機械学習を行ってもよい。
上記の学習装置によれば、複数の加熱装置を備える場合に、ユーザ接近加熱装置情報に基づいて、複数の加熱装置のそれぞれに対する接近安全度を推定するための学習済みの学習器を構築することができる。
本明細書が開示する学習方法では、コンピュータが、学習データ取得ステップと、学習処理ステップと、を実行してもよい。学習データ取得ステップでは、コンピュータが、加熱部により加熱されている加熱対象物に接近しているユーザの状態に対する接近安全度であって、前記ユーザが、前記加熱対象物に対して意図して接近しているか否かの度合いである前記接近安全度と、前記接近安全度に対応付けられており、前記ユーザの状態を含む画像であるユーザ接近画像を撮像可能に構成されている撮像装置から取得する前記ユーザ接近画像と、を含む学習データを取得する。学習処理ステップでは、コンピュータが、前記ユーザ接近画像を含む入力に対して、前記接近安全度に対応する出力値を含む出力を得るように学習器の機械学習を行う。
上記一側面に係る学習方法では、前記学習データは、前記接近安全度に対応付けられており、前記ユーザに関する情報であるユーザ情報をさらに含んでもよい。その場合、前記学習器の前記機械学習における前記入力が、前記ユーザ情報も含んでもよい。
上記一側面に係る学習方法では、前記ユーザ情報は、前記ユーザ接近画像に基づいて解析される、前記ユーザが所持している所持物に関する情報であるユーザ所持物情報と、前記ユーザの服装に関する情報であるユーザ服装情報と、前記ユーザの体勢に関する情報であるユーザ体勢情報と、前記ユーザの体型に関する情報であるユーザ体型情報と、のうちの少なくとも一つを含んでもよい。
上記一側面に係る学習方法では、前記ユーザ情報は、前記ユーザの生体に関する情報であるユーザ生体情報を測定可能に構成されている測定装置から取得する前記ユーザ生体情報を含んでもよい。
上記一側面に係る学習方法では、前記加熱部は、複数の加熱装置を備えていてもよい。その場合、前記ユーザ情報は、前記ユーザ接近画像に基づいて解析される、前記複数の加熱装置のうち、前記ユーザが意図して接近している前記加熱対象物を加熱している加熱装置を特定する情報であるユーザ接近加熱装置情報を含んでもよい。前記コンピュータは、前記学習処理ステップにおいて、前記複数の加熱装置のそれぞれに対する前記接近安全度に対応する出力値を含む出力を得るように学習器の機械学習を行ってもよい。
本明細書が開示する技術の詳細とさらなる改良は以下の「発明を実施するための形態」にて説明する。
一側面に係る実施形態の加熱調理システムの斜視図を示す。 レンジフードを下方から見た斜視図を示す。 加熱調理システムのハードウェアの構成を示す。 学習装置のハードウェアの構成を示す。 制御装置のソフトウェアの構成を示す。 学習装置のソフトウェアの構成を示す。 加熱調理器の平面図を示す。 ユーザの手の状態を撮像した画像の例を示す。 複数のコンロを使用している場合の加熱料理器の平面図を示す。 ユーザ情報の一例を示す。 制御装置が実行する処理のフロー図を示す。 学習装置が実行する処理のフロー図を示す。
(実施形態)
図1は、一側面に係る実施形態の加熱調理システム2を模式的に示した斜視図である。図1に示されるように、加熱調理システム2は、レンジフード4と、加熱調理器10を備えている。加熱調理器10は、システムキッチンに組み込んで使用されるガス燃焼式のビルトインコンロである。レンジフード4は、加熱調理器10の上方に配置された換気装置である。
加熱調理器10の天板10uには、第1コンロ11aと、第2コンロ11bと、第3コンロ11cと、グリル28に連通する排気口17が配置されている。また、加熱調理器10の前側(すなわち、図1の右側)の面である前面10fには、コンロ操作部20と、グリル28が設けられている。本明細書では、理解を助けるため、加熱調理器10の前面10fが設けられている側を単に「前側」と表現し、その反対側を単に「後側」と表現することがある。また、前側と後側を結ぶ方向を前後方向とする。前後方向と直交する水平方向の左右については、加熱調理器10の前側に位置し、前面10fと対向するユーザの右側および左側と同様とする。また、加熱調理器10の前面10fの左側には、グリル28内のグリルバーナ29a(図3参照)を操作するグリル操作部が設けられているが、本明細書では説明を省略する。
第1コンロ11aと、第2コンロ11bと、第3コンロ11cは、天板10uの上面に前後方向に2列に配置されている。第1コンロ11aは、第1コンロバーナ12aと、第1センサ14aと、五徳16aを備えている。第1コンロバーナ12aには、ガス供給路(図示省略)が接続されている。ガス供給路には、第1コンロバーナ12aへのガス供給量を調整するための流量調整弁(図示省略)が設けられている。第1コンロバーナ12aは、第1コンロバーナ12aにガスが供給されている状態でイグナイタ(図示省略)を動作させることによって点火する。第1コンロ11aは、点火した第1コンロバーナ12aによって、上方に載置される鍋やフライパン等の調理容器を加熱する。第1コンロバーナ12aへのガス供給量を調整することにより、第1コンロバーナ12aの加熱量を調整することができる。また、第1コンロバーナ12aへのガスの供給が停止されることにより、第1コンロバーナ12aは消火される。なお、第2コンロ11bが備えている第2コンロバーナ12bと、第3コンロ11cが備えている第3コンロバーナ12cも、第1コンロバーナ12aと同様の構造を有している。
第1センサ14aは、第1コンロ11aの調理容器の存在を検出するとともに、調理容器の温度を検出する。第1コンロ11aの上に調理容器が載置されると、第1センサ14aが調理容器によって押圧される。第1センサ14aは、調理容器によって押圧されると、第1コンロ11aの上に調理容器が載置されたことを検知する。第1コンロ11aの上に調理容器が載置されていない場合は、第1センサ14aが押圧されない。第1センサ14a内には熱電対が配置されており、第1センサ14aに接触している対象物の温度を検出することができる。なお、第2コンロ11bが備えている第2センサ14bと、第3コンロ11cが備えている第3センサ14cも、第1センサ14aと同様の構造を有する。また、五徳16a~16cは、それぞれのコンロの上方に載置される調理容器を、それぞれのコンロバーナから一定の距離離間させた状態で支持する。
コンロ操作部20は、加熱調理器10の電源スイッチ24と、第1加熱量操作部20aと、第2加熱量操作部20bと、第3加熱量操作部20cと、パネル操作部22を備えている。電源スイッチ24は、加熱調理器10を起動させるスイッチであり、電源スイッチ24をオンすることで各コンロバーナへの点火が可能になる。第1加熱量操作部20aは、第1コンロ11aに対応する。同様に、第2加熱量操作部20bは第2コンロ11bに対応し、第3加熱量操作部20cは第3コンロ11cに対応する。第1加熱量操作部20aは、第1コンロバーナ12aの点火および消火を行うとともに、第1コンロバーナ12aの加熱量の調整を行うためのオルタネイト型のスイッチである。第2加熱量操作部20bと第3加熱量操作部20cも、第1加熱量操作部20aと同様の構造を有している。
パネル操作部22には、各コンロバーナ(すなわち、第1コンロバーナ12a、第2コンロバーナ12b、第3コンロバーナ12c)、およびグリルバーナ29a(図3参照)の動作状態などが表示される。ユーザは、パネル操作部22によって、各コンロバーナおよびグリルバーナ29aを所定の時間経過後に消火する、消火タイマーの設定等をすることができる。
加熱調理器10は、制御装置40を内部に収容している。制御装置40は、第1コンロ11aと、第2コンロ11bと、第3コンロ11cと、グリル28内のグリルバーナ29a(図3参照)の火力(すなわち、加熱量)を自動制御するためのコンピュータである。制御装置40は、インターネットを介して、学習装置30に接続されている。制御装置40および学習装置30の詳細については後述する。
次に、レンジフード4について説明する。レンジフード4は、内部に不図示のファンを収容している。レンジフード4は、ファンを下方から覆うレンジカバー6と、カメラカバー8と、スピーカ9cと、体温計9dと、を備えている。
図2に示されるように、カメラカバー8は、レンジカバー6の後側中央部に配置されている。カメラカバー8の左右両側の端部には、下方に延びているフランジが設けられている。カメラカバー8の中央部には、加熱対象物カメラ9aと、ユーザカメラ9bと、が配置されている。加熱対象物カメラ9aとユーザカメラ9bは、ともに半球形状を有している。加熱対象物カメラ9aとユーザカメラ9bは、同様の構造を備えており、それぞれの撮像可能な範囲が異なるだけである。詳細は後述するが、加熱対象物カメラ9aは、図1を参照して説明した加熱調理器10の天板10uとその周辺の画像を、上方から撮像可能に構成されている。ユーザカメラ9bは、加熱調理器10の前方に位置するユーザの画像を、後方から(すなわち、ユーザの前方から)撮像可能に構成されている。加熱対象物カメラ9aとユーザカメラ9bが画像を撮像する技術については、既知であるためここでは説明を省略する。
また、レンジフード4の前面の左側端部には、スピーカ9cが配置されている。スピーカ9cは、加熱調理器10のユーザに音声を伝える。さらに、レンジフード4の前面の中央部には、体温計9dが配置されている。体温計9dは、加熱調理器10の前面に位置するユーザの体温を非接触で測定することができる。すなわち、体温計9dは、ユーザの体温(生体情報)を測定可能に構成されている。体温計9dがユーザの体温を非接触で測定する技術については、既知であるためここでは説明を省略する。また、体温計9dは、加熱調理器10に配置されていてもよい。

図3を参照して、加熱調理システム2が備えている制御構成について説明する。なお、図3では、第1コンロ11aの第1コンロバーナ12aのみを記載して、第2コンロバーナ12bと第3コンロバーナ12cの記載を省略している。同様に、図3では、第1コンロ11aの第1センサ14aのみを記載して、第2センサ14bと第3センサ14cの記載を省略している。電源スイッチ24がオンされると、コンロ操作部20、パネル操作部22、制御装置40等が起動する。
制御装置40は、ハードウェアプロセッサであるCPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)を備えている。コンロ操作部20が操作されると、その操作に基づいて、制御装置40は、第1コンロバーナ12aの火力を調整する。制御装置40は、例えば、ECU(Electronic Control Unit)により構成される。
制御装置40は、例えばRAM,ROM等で構成されている学習記憶部46と、加熱量記憶部48と、外部インターフェース(図3では外部I/Fと記載されている)42と、を備えている。学習記憶部46は、プログラム46pと、学習結果データ32rを記憶している。プログラム46pは、制御装置40に、各コンロ上の調理容器に接近しているユーザの状態に対する接近安全度を推定する処理を実行させるための命令を含んでいる。ここで、接近安全度とは、各コンロ上の調理容器に接近しているユーザが、各コンロに対して意図して接近しているか否かの度合いを示す値である。学習結果データ32rは、学習済みの学習器の設定を行うためのデータであり、図1に示す学習装置30で生成され、インターネットを介して制御装置40に送信される。
加熱量記憶部48は、接近安全度と、接近安全度のそれぞれに対応する加熱量のパターンによって構成された加熱量テーブル48tを記憶している。接近安全度は、4段階に分類される。接近安全度の数字が小さい場合は、ユーザがコンロに対して意図せず(すなわち、不注意で)接近している可能性が高い。接近安全度が「1」と推定された場合は、危険であるため、制御装置40は、コンロバーナの加熱量をゼロにする(すなわち、加熱を停止する)(パターンAの例)。一方、接近安全度が「4」と推定された場合は、安全であるため、制御装置40は、コンロバーナの加熱量を維持する(パターンDの例)。さらに、接近安全度が「2」と推定された場合は、制御装置40は、加熱量を所定の時間弱火に設定する(パターンBの例)。接近安全度が「3」と推定された場合は、制御装置40は、加熱量を所定の時間中火に設定する(パターンCの例)。また、制御装置40は、接近安全度が「3」と推定された場合であっても、加熱量が弱火である場合には、その加熱量を維持する。このような制御構成とすることで、接近安全度に対してコンロバーナの加熱量が大きい場合にのみ、加熱量を変更することができる。すなわち、このような制御構成とすることで、必要以上に加熱量が変更されることを抑制することができる。このような制御構成とすることで、加熱対象物に対して接近しているユーザが、その加熱対象物を加熱しているコンロバーナによって、意図せず加熱されるおそれがある場合にのみ、加熱量を変更することができる。なお、接近安全度は、上記の4段階に限定されず、少なくとも2段階(すなわち、危険か否か)に分類されていればよい。さらに、接近安全度は、加熱量を変化させる時間の長さや量によって、より多段階に分類されてもよい。また、加熱量テーブル48tは、加熱調理器10の製造時に加熱量記憶部48に予め記憶されていてもよいし、外部サーバとの通信が可能な外部インターフェース42を介して、外部サーバからダウンロードして加熱量記憶部48に記憶されていてもよい。
外部インターフェース42は、制御装置40と外部の装置を接続するインターフェースである。外部インターフェース42は、制御装置40と加熱対象物カメラ9a、ユーザカメラ9b、スピーカ9c、体温計9dを接続する。外部インターフェース42は、例えば、Wi-Fi(登録商標)方式によって、加熱対象物カメラ9a、ユーザカメラ9b、スピーカ9c、体温計9dに接続される。
図4を参照して、学習装置30について説明する。学習装置30は、記憶部32と、入力装置34iと、出力装置34оと、制御部36と、通信インターフェース(図4では、通信I/Fと記載している)38と、ドライブ39を備えている。学習装置30は、各デバイスが電気的に接続されているコンピュータである。
制御部36は、ハードウェアプロセッサであるCPU、RAM、ROM等を含み、プログラムおよびデータに基づいて各種情報処理を実行するように構成される。記憶部32は、例えば、ハードディスクドライブ、ソリッドステートドライブ等で構成される。記憶部32は、制御部36で実行される学習プログラム32p、学習器の機械学習に利用する学習データ32d、学習プログラム32pを実行して作成した学習結果データ32rを記憶する。
学習プログラム32pは、後述する機械学習の処理(図12)を学習装置30に実行させ、当該機械学習の結果として学習結果データ32rを生成させるためのプログラムである。学習データ32dは、入力された情報から接近安全度を推定するように学習器の機械学習を行うためのデータである。詳細は後述する。
通信インターフェース38は、例えば、有線LAN(Local Area Network)モジュール、無線LANモジュール等であり、ネットワークを介した有線又は無線通信を行うためのインターフェースである。学習装置30は、当該通信インターフェース38を介して、作成した学習結果データ32rを外部の装置に配信してもよい。
入力装置34iは、例えば、マウス、キーボード等の入力を行うための装置である。また、出力装置34оは、例えば、ディスプレイ、スピーカ等の出力を行うための装置である。学習装置30のオペレータは、入力装置34iおよび出力装置34оを介して、学習装置30を操作することができる。
ドライブ39は、例えば、CDドライブ、DVDドライブ等であり、記憶媒体30mに記憶されたプログラムを読み込むためのドライブ装置である。ドライブ39の種類は、記憶媒体30mの種類に応じて適宜選択されてよい。上記学習プログラム32pおよび学習結果データ32rは、この記憶媒体30mに記憶されていてもよい。
記憶媒体30mは、コンピュータその他の装置、機械等が記録されたプログラム等の情報を読み取り可能なように、当該プログラム等の情報を、電気的、磁気的、光学的、機械的又は化学的作用によって蓄積する媒体である。学習装置30は、この記憶媒体30mから、学習プログラム32p、学習データ32dを取得してもよい。
図4では、記憶媒体30mの一例として、CD、DVD等のディスク型の記憶媒体を例示している。しかしながら、記憶媒体30mは、ディスク型に限定されない。記憶媒体30mは、例えば、フラッシュメモリ等の半導体メモリであってもよい。
なお、学習装置30の具体的なハードウェア構成に関しては、実施形態に応じて、適宜、構成要素の省略、置換および追加が可能である。例えば、制御部36は、複数のハードウェアプロセッサを含んでもよい。ハードウェアプロセッサは、マイクロプロセッサ、FPGA(field-programmable gate array)等で構成されてよい。学習装置30は、複数台の情報処理装置で構成されてもよい。また、学習装置30は、提供されるサービス専用に設計された情報処理装置の他、汎用のサーバ装置、PC(Personal Computer)等であってもよい。
図5を参照して、制御装置40の制御構成について説明する。図5では、制御装置40の制御構成を模式的に示している。
制御装置40は、学習記憶部46に記憶されたプログラム46pをRAMに展開する。制御装置40は、RAMに展開されたプログラム46pをCPUにより解釈および実行して、各構成要素を制御する。これによって、図5に示されるとおり、制御装置40は、ソフトウェアモジュールとして、画像取得部51、画像解析部52、解像度変換部53、加熱量情報取得部54、生体情報取得部55、警報部56、加熱量制御部57、および接近安全度推定部59を備えるコンピュータとして構成される。
画像取得部51は、加熱対象物カメラ9a、ユーザカメラ9bから撮像画像9iを取得する。詳細は図7~図10を参照して説明するが、撮像画像9iには、加熱調理器10の各コンロの上方に載置されている調理容器に接近しているユーザの手や、加熱中のユーザ、被調理物、調理容器等の状態が含まれている。
画像解析部52は、画像取得部51が取得した撮像画像9iを解析して、撮像画像9iからユーザに関する情報である解析ユーザ情報52uを抽出する。また、加熱量情報取得部54は、加熱調理器10の各コンロバーナから、ユーザが設定した各コンロバーナの加熱量に関する情報である加熱量情報を取得する。さらに、生体情報取得部55は、体温計9d(図2参照)が測定したユーザの体温を取得する。取得された加熱量情報とユーザの体温は、取得ユーザ情報55uとしてユーザ情報60に入力される。加熱量情報をユーザ情報60に含めることで、各コンロバーナの加熱量を接近安全度の推定の条件に加えることができる。同様に、ユーザの体温をユーザ情報60に含めることで、ユーザの体調に関する情報を接近安全度の推定の条件に加えることができる。
解像度変換部53は、画像取得部51により取得した撮像画像9iの解像度を低下させる。これにより、解像度変換部53は、低解像度撮像画像62を生成する。
接近安全度推定部59は、接近安全度を推定するための機械学習を行った学習済みの学習器(ニューラルネットワーク70)に、撮像画像9iを低解像度化することで得られた低解像度撮像画像62を入力する。また、解析ユーザ情報52u、取得ユーザ情報55uも、ユーザ情報60として同様に入力される。これにより、接近安全度推定部59は、接近安全度情報64を学習器から取得する。低解像度化することで得られた低解像度撮像画像62をニューラルネットワーク70に入力することで、ニューラルネットワーク70の演算処理の計算量を低減することができ、プロセッサの負荷を低減することができる。なお、低解像度化の処理は省略されてもよい。この場合、接近安全度推定部59は、撮像画像9iを学習器(ニューラルネットワーク70)に入力してもよい。
接近安全度情報64は、図3の加熱量記憶部48が記憶している加熱量テーブル48tに対応する接近安全度(すなわち、「1」~「4」)を含んでいる。加熱量制御部57は、接近安全度推定部59が学習器から取得した接近安全度情報64に対応する加熱量パターンで、加熱調理器10の各コンロバーナおよびグリル28内のグリルバーナ29aの加熱量(すなわち、火力)を制御する。
また、警報部56は、接近安全度推定部59が接近安全度を「1」~「3」(図3の加熱量テーブル48t参照)と推定した場合に、スピーカ9c(図3参照)を介してユーザの接近により対象コンロバーナの加熱量が変更されたことをユーザに報知する。なお、警報部56は、接近安全度推定部59が接近安全度を「1」と推定した場合には、ユーザの接近が危険であるため、特に大きな音でスピーカ9cを介してユーザに報知してもよい。さらに、スピーカ9cは、加熱調理器10に配置されていてもよい。
制御装置40は、接近安全度情報64を推定するための機械学習を行った学習済みの学習器として、ニューラルネットワーク70を利用する。ニューラルネットワーク70は、複数種類のニューラルネットワークを組み合わせることで構成されている。
ニューラルネットワーク70は、全結合ニューラルネットワーク72、畳み込みニューラルネットワーク74、結合層76、およびLSTMネットワーク78の4つの部分に分かれている。全結合ニューラルネットワーク72および畳み込みニューラルネットワーク74は入力側に並列に配置されており、全結合ニューラルネットワーク72にはユーザ情報60が入力され、畳み込みニューラルネットワーク74には低解像度撮像画像62が入力される。結合層76は、全結合ニューラルネットワーク72および畳み込みニューラルネットワーク74の出力を結合する。LSTMネットワーク78は、結合層76からの出力を受けて、接近安全度情報64を出力する。
全結合ニューラルネットワーク72は、いわゆる多層構造のニューラルネットワークであり、入力側から順に、入力層72i、中間層(隠れ層)72m、および出力層72оを備えている。ただし、全結合ニューラルネットワーク72の層の数は、このような例に限定されなくてもよく、実施形態に応じて適宜選択されてよい。
全結合ニューラルネットワーク72の各層72i、72m、72оは、1又は複数のニューロン(ノード)を備えている。各層に含まれるニューロンの個数は、実施形態に応じて適宜設定されてよい。各層に含まれる各ニューロンが、隣接する層に含まれる全てのニューロンに結合されていることで、全結合ニューラルネットワーク72は構成される。各結合には、重み(結合荷重)が適宜設定されている。
畳み込みニューラルネットワーク74は、畳み込み層74aおよびプーリング層74bを交互に接続した構造を有する順伝播型ニューラルネットワークである。本実施形態に係る畳み込みニューラルネットワーク74では、複数の畳み込み層74aおよびプーリング層74bが入力側に交互に配置されている。そして、最も出力側に配置されたプーリング層74bの出力が全結合層74cに入力され、全結合層74cの出力が出力層74оに入力される。
畳み込み層74aは、画像の畳み込みの演算を行う層である。画像の畳み込みとは、画像と所定のフィルタとの相関を算出する処理に相当する。そのため、画像の畳み込みを行うことで、例えば、フィルタの濃淡パターンと類似する濃淡パターンを入力される画像から検出することができる。
プーリング層74bは、プーリング処理を行う層である。プーリング処理は、画像のフィルタに対する応答の強かった位置の情報を一部捨て、画像内に現れる特徴の微小な位置変化に対する応答の不変性を実現する。
全結合層74cは、隣接する層の間のニューロン全てを結合した層である。すなわち、全結合層74cに含まれる各ニューロンは、隣接する層に含まれる全てのニューロンに結合される。全結合層74cは、2層以上で構成されてもよい。また、全結合層74cに含まれるニューロンの個数は、実施形態に応じて適宜設定されてもよい。
出力層74оは、畳み込みニューラルネットワーク74の最も出力側に配置される層である。出力層74оに含まれるニューロンの個数は、実施形態に応じて適宜設定されてよい。なお、畳み込みニューラルネットワーク74の構成は、このような例に限定されなくてもよく、実施形態に応じて適宜設定されてもよい。
結合層76は、全結合ニューラルネットワーク72および畳み込みニューラルネットワーク74とLSTMネットワーク78との間に配置される。結合層76は、全結合ニューラルネットワーク72の出力層72оからの出力および畳み込みニューラルネットワーク74の出力層74оからの出力を結合する。結合層76の出力は、LSTMネットワーク78に入力される。結合層76に含まれるニューロンの個数は、全結合ニューラルネットワーク72および畳み込みニューラルネットワーク74の出力の数に応じて適宜設定されてもよい。
LSTMネットワーク78は、LSTMブロック78bを備える再帰型ニューラルネットワークである。再帰型ニューラルネットワークは、例えば、中間層から入力層への経路のように、内部にループを有するニューラルネットワークのことである。LSTMネットワーク78は、一般的な再帰型ニューラルネットワークの中間層をLSTMブロック78bに置き換えた構造を有する。
LSTMネットワーク78は、入力側から順に、入力層78i、LSTMブロック78b、および出力層78оを備えており、順伝播の経路の他、LSTMブロック78bから入力層78iに戻る経路を有している。入力層78iおよび出力層78оに含まれるニューロンの個数は、実施形態に応じて適宜設定されてもよい。
LSTMブロック78bは、入力ゲートおよび出力ゲートを備え、情報の記憶および出力のタイミングを学習可能に構成されたブロックである。また、LSTMブロック78bは、情報の忘却のタイミングを調節する忘却ゲートを備えてもよい。LSTMネットワーク78の構成は、実施形態に応じて適宜設定可能である。
各ニューロンには閾値が設定されており、基本的には、各入力と各重みとの積の和が閾値を超えているか否かによって各ニューロンの出力が決定される。制御装置40は、全結合ニューラルネットワーク72にユーザ情報60を入力し、畳み込みニューラルネットワーク74に低解像度撮像画像62を入力する。そして、制御装置40は、入力側から順に、各層に含まれる各ニューロンの発火判定を行う。このように、ニューラルネットワーク70は、入力に対する演算処理を実行する。制御装置40は、接近安全度情報64に対応する出力値をニューラルネットワーク70の出力層78оから取得する。
なお、このようなニューラルネットワーク70の構成(例えば、各ネットワークの層数、各層におけるニューロンの個数、ニューロン同士の結合関係、各ニューロンの伝達関数)、各ニューロン間の結合の重み、および各ニューロンの閾値を示す情報は、学習結果データ32rに含まれている。制御装置40は、学習結果データ32rを参照して、ユーザが加熱調理器10の各コンロバーナで加熱する接近安全度を推定する処理に用いる学習済みニューラルネットワーク70の設定を行う。
図6を用いて、学習装置30について説明する。学習装置30の制御部36(図4参照)は、記憶部32(図4参照)に記憶された学習プログラム32pをRAMに展開する。そして、制御部36は、RAMに展開された学習プログラム32pをCPUにより解釈および実行して、各構成要素を制御する。これによって、図6に示されるとおり、学習装置30は、ソフトウェアモジュールとして、学習データ取得部31および学習処理部33を備えるコンピュータとして構成される。
学習データ取得部31は、加熱対象物カメラ9aおよびユーザカメラ9bが撮像した撮像画像9iを低解像度化することで得られた低解像度撮像画像62tと、取得ユーザ情報55uと解析ユーザ情報52uからなるユーザ情報60tと、低解像度撮像画像62tおよびユーザ情報60tに対応する接近安全度情報64tの組を学習データ66として取得する。低解像度撮像画像62tおよびユーザ情報60tはそれぞれ、図5を参照して説明した低解像度撮像画像62およびユーザ情報60に対応し、入力データとして利用される。接近安全度情報64tは、図5の接近安全度情報64に対応し、教師データ(正解データ)として利用される。学習処理部33は、低解像度撮像画像62tおよびユーザ情報60tを入力すると、接近安全度情報64tに対応する出力値を出力するように学習器の機械学習を行う。
図6に示されるとおり、制御装置40(図5参照)と同様に、学習装置30は、ニューラルネットワーク70tを備えている。学習装置30のニューラルネットワーク70tは、全結合ニューラルネットワーク72t、畳み込みニューラルネットワーク74t、結合層76t、およびLSTMネットワーク78tを備えている。学習装置30のニューラルネットワーク70tは、制御装置40のニューラルネットワーク70と同様に構成される。そのため、学習装置30の全結合ニューラルネットワーク72t、畳み込みニューラルネットワーク74t、結合層76t、およびLSTMネットワーク78tはそれぞれ、制御装置40の全結合ニューラルネットワーク72、畳み込みニューラルネットワーク74、結合層76、およびLSTMネットワーク78と同様である。すなわち、学習装置30のニューラルネットワーク70tは、制御装置40のニューラルネットワーク70と同様に演算処理を実行する。
学習処理部33は、全結合ニューラルネットワーク72tにユーザ情報60tを入力し、畳み込みニューラルネットワーク74tに低解像度撮像画像62tを入力すると、接近安全度情報64tに対応する出力値をLSTMネットワーク78tから出力するニューラルネットワーク70tを構築する。そして、学習処理部33は、構築したニューラルネットワーク70の構成、各ニューロン間の結合の重みおよび各ニューロンの閾値を示す情報を、学習結果データ32rとして記憶部32に格納する。学習処理部33は、記憶部32に格納した学習結果データ32rを、インターネットを介して定期的に制御装置40に送信する。これにより、制御装置40の学習結果データ32rが定期的に更新される。
図7~図10を参照して、加熱調理システム2が、制御装置40に入力する撮像画像9iについて説明する。まず、図7~図9を参照して加熱対象物カメラ9aが撮像する撮像画像9iについて説明する。
加熱対象物カメラ9aは、加熱調理器10の上方からの図7に示される画像を撮像する。図7に示されるように、第1コンロ11aの上方(すなわち、図7の紙面手前側)には、鍋86aが載置されている。鍋86aの内部には、被調理物84aが収容されており、鍋86aと被調理物84aは、第1コンロ11aによって加熱されている。鍋86aには、加熱調理器10の前方(すなわち、図7の紙面下側)からユーザの手90が接近している。すなわち、加熱対象物カメラ9aは、鍋86aに接近しているユーザの手90の状態を含む画像である加熱対象物画像を撮像可能に構成されている。
図5を参照して説明したように、制御装置40は、加熱対象物画像とユーザ情報60をニューラルネットワーク70に入力することで、ユーザの状態に対する接近安全度を推定する。すなわち、制御装置40は、図7のユーザの手90に対する接近安全度を推定する。図示は省略したが、加熱対象物画像は、他にも、第1コンロ11aの第1コンロバーナ12aで鍋86aを加熱した状態で、鍋86aの上方を通過させて第2コンロ11bの上方に別の鍋を移動させるユーザの手90の画像も含む。さらに、加熱対象物画像は、第1コンロ11aの第1コンロバーナ12aで鍋86aを加熱した状態で、第2コンロ11bの近傍に載置された調味料を鍋86aの上方を通過させて移動させるユーザの手90の画像も含む。これらの画像に含まれる鍋86aの上方を通過して第2コンロ11bに向かって伸びている手90と、図7に示される手90では、鍋86aに対する向きが異なる。鍋86aの上方を通過して第2コンロ11bに向かって手90を伸ばしているユーザは、鍋86aに対して意図せずに接近している。一方、図7に示される手90のユーザは、意図して鍋86aに接近している。すなわち、図7に示される鍋86aに接近しているユーザの手90と、鍋86aの上方を通過して第2コンロ11bに向かって伸びている手90では、鍋86aに対して異なる接近安全度が推定される。鍋86aの上方を通過して第2コンロ11bに向かって伸びる手90に対して推定される鍋86aに対する接近安全度は、図7に示される手90に対して推定される鍋86aに対する接近安全度に比して低くなる。制御装置40は、このように推定された接近安全度に基づいて、加熱量制御部57によって、鍋86aを加熱する第1コンロ11aの第1コンロバーナ12aの加熱量を制御する。すなわち、制御装置40は、鍋86aに接近するユーザの手90の状態に対応して、第1コンロバーナ12aの加熱量を制御することができる。
加熱対象物画像には、図8(A)~(C)に示されるように、ユーザの手90の状態が含まれている。図8(A)のユーザの手90は、何も所持していない。図8(B)のユーザの手90は、ミトン92を装着している。図8(C)のユーザの手90は、菜箸94を所持している。すなわち、加熱対象物画像は、ユーザの手90が所持している所持物に関する情報であるユーザ所持物情報を含んでいる。例えば、図8(A)に示されるように、鍋86a(図7参照)に接近しているユーザの手90が何も所持しておらず、素手である場合には、ユーザの手90は、意図せず(すなわち、不注意)に、鍋86aを加熱する第1コンロバーナ12aに接近しているおそれがある。図8(B)に示されるように、ユーザの手90にミトン92が装着されている場合には、ユーザの手90は、第1コンロバーナ12aに意図して鍋86aに接近していると考えられる。同様に、図8(C)に示されるように、ユーザの手90が菜箸94を所持している場合、ユーザの手90は、意図して鍋86a(図7参照)に接近していると考えられる。このように、ユーザの所持物によって、接近安全度が異なるため、図5を参照して説明したように、制御装置40は、画像解析部52が加熱対象物画像を解析して、ユーザ所持物情報をユーザ情報60としてニューラルネットワーク70に入力する。これにより、接近安全度推定部59の推定精度を向上させることができる。
図9を参照して、複数の鍋86a、86bを同時に加熱している場合の接近安全度について説明する。図9に示す加熱調理器10は、第1コンロ11aの第1コンロバーナ12a(図1参照)で鍋86a内の被調理物84aを加熱し、同時に第2コンロ11bの第2コンロバーナ12b(図1参照)で鍋86bの被調理物84bを加熱している。ユーザの手90は、鍋86aと鍋86bの双方に接近している。先に述べたように、ユーザが鍋86aと鍋86bのどちらに対して意図して手90を接近させているかによって、手90の向き等は変化する。ユーザが、意図して奥側の鍋86bに手90を接近させている場合、手90は、手前側の鍋86aに意図せずに接近することとなる。このように、複数の鍋を同時に加熱している場合には、ユーザが接近を意図している鍋86bに対する接近安全度と、ユーザが接近を意図していない鍋86aに対する接近安全度には差異が生じる。すなわち、複数のコンロバーナのうち、ユーザが意図して接近している鍋86bを加熱している第2コンロバーナ12bと、他のコンロバーナとでは、接近安全度が異なる。図5を参照して説明したように、制御装置40は、画像解析部52が加熱対象物画像を解析して、ユーザ接近コンロバーナ情報をユーザ情報60としてニューラルネットワーク70に入力する。これにより、接近安全度推定部59の推定精度を向上させることができる。制御装置40は、第1コンロバーナ12aと第2コンロバーナ12bのそれぞれに対して推定された接近安全度によって、第1コンロバーナ12aと第2コンロバーナ12bの加熱量をそれぞれに制御する。
図10を参照して、ユーザカメラ9bが撮像する撮像画像9iについて説明する。図10では、ユーザカメラ9bの撮像範囲をb1で示している。ユーザカメラ9bは、加熱調理器10の前面に位置するユーザ100の画像であるユーザ画像を撮像する。すなわち、ユーザカメラ9bは、鍋86aに接近するユーザ100の状態を含む画像であるユーザ画像を撮像可能に構成されている。以下では、加熱対象物カメラ9aで撮像する加熱対象物画像と、ユーザカメラ9bで撮像するユーザ画像の双方をまとめて「ユーザ接近画像」と称することがある。なお、実施形態の加熱調理システム2では、加熱対象物カメラ9aとユーザカメラ9bの2個のカメラによってユーザ接近画像を撮像しているが、撮像範囲を変更可能に構成されている1個のカメラでユーザ接近画像を撮像してもよい。
ユーザ画像には、ユーザ100が所持するおたま96も含まれる。すなわち、制御装置40(図5参照)は、ユーザカメラ9bによって撮像したユーザ画像を解析して、図8(A)~(C)を参照して説明したユーザ所持物情報を取得してもよい。
ユーザ画像には、ユーザ100の服装に関する情報であるユーザ服装情報も含まれる。ユーザ服装情報には、例えば、ユーザの手90から袖97の下端までの距離も含まれる。ユーザの手90から袖97の下端までの距離が長い場合には、ユーザが意図せずとも、袖97の下端が各コンロによって加熱されるおそれがある。このような、調理に適さない衣類を着用しているユーザは、鍋86aに対して意図せず接近しているおそれがある。一方、ユーザの手90から袖97の下端までの距離が短い場合には、袖97の下端が加熱されにくい。さらに、例えばエプロンのような、調理に適した衣類をユーザが着用しているユーザは、鍋86aに対して意図して接近していると推定される。すなわち、ユーザ服装情報によって、接近安全度に差異が生じる。図5を参照して説明したように、制御装置40は、画像解析部52がユーザ画像を解析することでユーザ服装情報をユーザ情報60としてニューラルネットワーク70に入力する。これにより、接近安全度推定部59の推定精度を向上させることができる。なお、ユーザ100が、手90から袖97の下端までの距離が長い衣類を着用している場合であっても、例えば、鍋86aに接近している一方の袖97の下端が垂れ下がらないように他方の手を添えているユーザ100の状態が、接近安全度の推定に加味されてもよい。すなわち、ユーザ服装情報は、鍋86aに接近しているユーザの100が着用している衣類に関する情報に加えて、その衣類に対するユーザ100の状態を含んでもよい。
また、図10に示されるように、ユーザ画像には、ユーザ100の体勢に関する情報であるユーザ体勢情報も含まれる。ユーザ体勢情報には、例えば、ユーザ100と加熱調理器10の前後方向(すなわち、図10の左右方向)の距離、身体の向き、顔の向き、視線99が含まれる。ユーザ100と加熱調理器10の前後方向の距離が短い場合には、ユーザ100が意図して加熱調理器10で調理していると考えられる。一方、ユーザ100と加熱調理器10の前後方向の距離が長い場合には、ユーザ100が意図して加熱調理器10で調理しているとは考えにくい。すなわち、ユーザ100と加熱調理器10の前後方向の距離によって、接近安全度が変わる。また、身体の向き、顔の向き、視線99が第1コンロ11aで調理されている鍋86aに向いているか否かによっても、接近安全度は異なる。図5を参照して説明したように、制御装置40は、画像解析部52がユーザ画像を解析することでユーザ体勢情報をユーザ情報60としてニューラルネットワーク70に入力する。これにより、接近安全度推定部59の推定精度を向上させることができる。なお、例えばユーザカメラ9bが0.5秒ごとに連続して撮像可能な場合には、その画像から推定されるユーザ100の動きもユーザ体勢情報に含まれる。
さらに、図10に示されるように、ユーザ画像には、ユーザ100の体型に関する情報であるユーザ体型情報も含まれる。ユーザ体型情報には、例えば、ユーザ100の肩98と加熱調理器10の上下方向の距離H、肩98から手90までの長さ(すなわち、ユーザ100の腕の長さ)、身長等が含まれる。距離Hに対して肩98から手90までの長さが長ければ、第1コンロ11aにユーザ100の手90が到達する可能性が上がる。一方、距離Hに対して肩98から手90までの長さが短ければ、第1コンロ11aにユーザ100の手90が到達しにくい。すなわち、距離Hに対する肩98から手90までの長さによって、接近安全度が異なる。図5を参照して説明したように、制御装置40は、画像解析部52がユーザ画像を解析することでユーザ体型情報をユーザ情報60としてニューラルネットワーク70に入力する。これにより、接近安全度推定部59の推定精度を向上させることができる。
図11を参照して、制御装置40(図3参照)が実行する処理について説明する。なお、図11で説明する制御装置40が実行する処理が、「加熱調理方法」の一例である。
ユーザは、電源スイッチ24をオンにして加熱調理器10を起動させる。その後、ユーザは、任意のコンロバーナ(例えば、第1コンロバーナ12a)の加熱を開始する(ステップS2)。第1コンロバーナ12aの加熱が開始されると、制御装置40は、加熱対象物カメラ9aとユーザカメラ9bをオンする(ステップS4およびS6)。オンされた加熱対象物カメラ9aとユーザカメラ9bは、それぞれ、所定時間ごとに、上記したユーザ接近画像とユーザ画像を撮像する。また、その際、制御装置40は、体温計9dをオンする(ステップS8)。オンされた体温計9dは、加熱調理器10の前に位置するユーザの体温を測定する。
制御装置40は、加熱対象物カメラ9aから加熱対象物画像を、ユーザカメラ9bからユーザ画像を取得する。すなわち、制御装置40は、ユーザ接近画像を取得する(ステップS10)。また、制御装置40は、図5に示した画像解析部52によって、ユーザ接近画像を解析して解析ユーザ情報52uを取得する(ステップS10)。同様に、制御装置40は、図5に示した生体情報取得部55によって、体温計9dが検出したユーザの体温を取得ユーザ情報55uとして取得する(ステップS10)。なお、図示は省略したが、制御装置40は、図5に示した加熱量情報取得部54によって、ユーザが加熱を開始した第1コンロバーナ12aの加熱量(すなわち、火力)に関する情報である加熱量情報も取得する。次いで、制御装置40は、図5に示した解像度変換部53によって、ユーザ接近画像の解像度を低くする(ステップS12)。なお、先に述べたように、ユーザ接近画像の解像度を低くするステップS12は、省略可能である。
その後、制御装置40は、図5を参照して説明したように、接近安全度推定部59によって、低解像度撮像画像62とユーザ情報60をニューラルネットワーク70に入力して、ニューラルネットワーク70の演算処理を実行する(ステップS14)。先に述べたように、ニューラルネットワーク70は、学習装置30から学習結果データ32rを、インターネットを介して受信済みである。すなわち、ニューラルネットワーク70は、ユーザ接近画像に基づいて接近安全度を推定するための機械学習を行った学習済みの学習器である。低解像度撮像画像62を入力されたニューラルネットワーク70は、先に述べたように、接近安全度情報64(図5参照)に対応する出力値を出力する。これにより、制御装置40は、接近安全度推定部59によって、接近安全度情報64を取得する(ステップS16)。その後、制御装置40は、加熱量制御部57によって、取得した接近安全度に対応するように、火力のパターン制御を開始する(ステップS18)。
取得した接近安全度情報64に含まれる接近安全度が「1」~「3」であった場合には(ステップS20:YES)、図3を参照して説明したように、制御装置40は、第1コンロバーナ12aの加熱量を変更する。その場合、制御装置40は、警報部56(図5参照)によってスピーカ9c(図3参照)を介してユーザの接近により第1コンロバーナ12aの加熱量が変更されたことを報知する(ステップS22)。その後、制御装置40は、再びステップS10に戻り、新たなユーザ接近画像とユーザ情報を取得し、上記の処理を繰り返す。
ステップS16で取得した接近安全度が「4」である場合(ステップS20:NO)には、制御装置40は、第1コンロバーナ12aの加熱が継続されているかを確認する(ステップS24)。第1コンロバーナ12aの加熱が継続されている場合(ステップS24:YES)、制御装置40は、再びステップS10に戻り、新たなユーザ接近画像とユーザ情報を取得する。一方、第1コンロバーナ12aの加熱が終了している場合(ステップS24:NO)、制御装置40は、処理を終了する。すなわち、制御装置40は、第1コンロバーナ12aによる加熱が継続されている間、新たなユーザ接近画像とユーザ情報を取得し、接近安全度を推定し続ける。
図12を参照して、学習装置30(図6参照)が実行する処理について説明する。図12を参照して説明する学習装置30が実行する処理が「学習方法」の一例である。
学習装置30は、図6に示すように、学習データ取得部31によって、低解像度撮像画像62t、ユーザ情報60t、および接近安全度情報64tの組を学習データ66として取得する(ステップS30)。
学習データ66は、ニューラルネットワーク70tに対して、接近安全度を推定可能にするための機械学習に利用するデータである。このような学習データ66は、加熱中の加熱対象物(例えば、鍋、フライパン等)に接近している様々なユーザの状態が写された画像と、推定される接近安全度を紐づけることで作成することができる。その際、加熱対象物に接近している様々なユーザの状態の画像は、図5の低解像度撮像画像62と同等の解像度で保存される。加熱対象物に接近している様々なユーザの画像は、少なくともユーザの手の向きや、色、所持物、等を判別可能であればよい。
解析ユーザ情報52uに含まれるユーザ所持物情報は、ユーザ接近画像を解析して、ユーザが所持している物の色、大きさ、形に関する情報を抽出することで取得される。同様に、解析ユーザ情報52uに含まれるユーザ接近コンロバーナ情報も、ユーザ接近画像を解析して、ユーザの手の向き、ユーザの姿勢等、ユーザが接近しているコンロバーナを特定する情報を抽出することで取得される。
また、解析ユーザ情報52uに含まれるユーザ服装情報は、ユーザ接近画像を解析して、ユーザの外観の色や、形等、服装に関する情報を抽出することで取得される。さらに、解析ユーザ情報52uに含まれるユーザ体勢情報も、ユーザ接近画像を解析して、ユーザの目の向き、顔の向き等、ユーザの体勢に関する情報を抽出することで取得される。また、解析ユーザ情報52uに含まれるユーザ体型情報も、ユーザ接近画像を解析して、ユーザの大きさ等、ユーザの体型に関する情報を抽出することで取得される。学習データ66は、これらの取得された情報と接近安全度を紐づけることでも作成することができる。
取得ユーザ情報55uに含まれる加熱量情報は、加熱量情報取得部54によって取得される。取得ユーザ情報55uに含まれるユーザの体温は、生体情報取得部55によって取得される。学習データ66は、これらの取得された情報と接近安全度を紐づけることでも作成することができる。
この学習データ66の作成は、オペレータ等が入力装置34i(図4参照)を用いて手動で行ってもよいし、プログラムの処理により自動的に行われてもよい。この学習データ66は、制御装置40から随時収集されてもよい。また、学習データ66の作成は、学習装置30以外の他の情報処理装置により行われてもよい。学習装置30が学習データ66を作成する場合には、制御部36は、本ステップS30において、学習データ66の作成処理を実行することで、学習データ66を取得することができる。一方、学習装置30以外の他の情報処理装置が学習データ66を作成する場合には、学習装置30は、ネットワーク、記憶媒体30m(図4参照)等を介して、他の情報処理装置により作成された学習データ66を取得することができる。なお、本ステップS30で取得する学習データ66の件数は、ニューラルネットワーク70tの機械学習を行うことができるように、実施形態に応じて適宜決定されてよい。
次いで、学習装置30は、学習処理部33によって、ステップS30で取得した学習データ66を用いて、低解像度撮像画像62tおよびユーザ情報60tを入力すると接近安全度情報64tに対応する出力値を出力するようにニューラルネットワーク70tの機械学習処理を実行する(ステップS32)。
学習装置30の制御部36(図4参照)は、学習処理を行う対象となるニューラルネットワーク70tを用意する。用意するニューラルネットワーク70tの構成、各ニューロン間の結合の重みの初期値、および各ニューロンの閾値の初期値は、テンプレートにより与えられてもよいし、オペレータの入力により与えられてもよい。また、再学習を行う場合には、制御部36は、再学習を行う対象となる学習結果データ32rに基づいて、ニューラルネットワーク70tを用意してもよい。
次に、制御部36は、ステップS30で取得した学習データ66に含まれる低解像度撮像画像62tおよびユーザ情報60tを入力データとして用い、接近安全度情報64tを教師データ(正解データ)として用いて、ニューラルネットワーク70の学習処理を行う。このニューラルネットワーク70の学習処理には、確率的勾配降下法等が用いられてよい。
例えば、制御部36は、全結合ニューラルネットワーク72tの入力層にユーザ情報60tを入力し、畳み込みニューラルネットワーク74tの最も入力側に配置された畳み込み層に低解像度撮像画像62tを入力する。そして、制御部36は、入力側から順に、各層に含まれる各ニューロンの発火判定を行う。これにより、制御部36は、LSTMネットワーク78tの出力層から出力値を得る。次に、制御部36は、LSTMネットワーク78tの出力層から取得した出力値と接近安全度情報64tに対応する値との誤差を算出する。続いて、制御部36は、通時的誤差逆伝搬(Back propagation through time)法により、算出した出力値の誤差を用いて、各ニューロン間の結合の重みおよび各ニューロンの閾値それぞれの誤差を算出する。そして、制御部36は、算出した各誤差に基づいて、各ニューロン間の結合の重みおよび各ニューロンの閾値それぞれの値の更新を行う。
制御部36は、各件の学習データ66について、ニューラルネットワーク70tから出力される出力値が接近安全度情報64tに対応する値と一致するまでこの一連の処理を繰り返す。これにより、制御部36は、低解像度撮像画像62tおよびユーザ情報60tを入力すると接近安全度情報64tに対応する出力値を出力するニューラルネットワーク70tを構築することができる。
制御部36は、学習処理部33によって、構築したニューラルネットワーク70の構成、各ニューロン間の結合の重み、および各ニューロンの閾値を示す情報を学習データ66として記憶部32に記憶する(ステップS34)。これにより、制御部36は、本動作例に係るニューラルネットワーク70の学習処理を終了する。
なお、制御部36は、上記のステップS36の処理が完了した後に、作成した学習結果データ32rを制御装置40に転送してもよい。また、制御部36は、上記ステップS30~S36の学習処理を定期的に実行することで、学習結果データ32rを定期的に更新してもよい。そして、制御部36は、作成した学習結果データ32rを当該学習処理の実行毎に制御装置40に転送することで、制御装置40の保持する学習結果データ32rを定期的に更新してもよい。また、例えば、制御部36は、作成した学習結果データ32rを別のデータサーバに保管してもよい。この場合、制御装置40は、このデータサーバから学習結果データ32rを取得してもよい。
(対応関係)鍋86a、86bが、それぞれ、「加熱対象物」の一例である。加熱調理器10の各コンロバーナおよびグリルバーナ29aが「加熱部」の一例である。加熱対象物カメラ9aおよびユーザカメラ9bが「撮像装置」の一例である。加熱対象物画像、ユーザ画像が、それぞれ「ユーザ接近画像」の一例である。ミトン92、菜箸94、おたま96が、それぞれ、「所持物」の一例である。体温計9dが、「測定装置」の一例である。
以上、実施形態について詳細に説明したが、これらは例示に過ぎず、特許請求の範囲を限定するものではない。特許請求の範囲に記載の技術には、以上に例示した具体例を様々に変形、変更したものが含まれる。上記の実施形態の変形例を以下に列挙する。
(変形例1)上記の加熱調理システム2では、ユーザ接近画像から、画像解析部52によってユーザの所持物等に関する情報である解析ユーザ情報52uを抽出し、ユーザ情報60として学習済みの学習器(ニューラルネットワーク70)に入力している。これに代えて、変形例では、ユーザ情報60を入力しない構成としてもよい。その場合、制御装置40は、画像解析部52を備えなくてもよい。
(変形例2)上記の加熱調理システム2では、加熱対象物カメラ9aによって加熱対象物画像を撮像し、ユーザカメラ9bによってユーザ画像を撮像する。これに代えて、変形例では、どちらか一方のカメラによって画像を撮像してもよい。
(変形例3)上記の加熱調理システム2では、ユーザ接近画像から、画像解析部52によって、ユーザの所持物に関する情報であるユーザ所持物情報を解析ユーザ情報52uとして抽出し、学習済みの学習器(ニューラルネットワーク70)に入力している。これに代えて、変形例では、画像解析部52は、ユーザ所持物情報を抽出しなくてもよい。
(変形例4)上記の加熱調理システム2では、体温計9dによって、ユーザの体温を検出し、取得ユーザ情報55uとして学習済みの学習器(ニューラルネットワーク70)に入力している。これに代えて、変形例では、ユーザの体温を入力しなくてもよい。その場合、レンジフード4には体温計9dが配置されなくてもよい。さらに、別の変形例では、生体情報取得部55は、ユーザの別の生体情報(例えば、脈拍数、脳波等)を取得してもよい。その場合、生体情報取得部55は、例えばユーザが装着しているウェアラブル端末から、生体情報を取得してもよい。
(変形例5)上記の加熱調理システム2では、複数のコンロバーナで同時に加熱している場合に、ユーザ接近画像から、画像解析部52によって、ユーザが意図して接近している鍋86bを特定する情報であるユーザ接近コンロバーナ情報を解析ユーザ情報52uとして抽出し、学習済みの学習器(ニューラルネットワーク70)に入力している。これに代えて、変形例では、画像解析部52は、ユーザ接近コンロバーナ情報を抽出しなくてもよい。
(変形例6)上記の加熱調理システム2の加熱調理器10は、3個のコンロバーナを備えている。これに代えて、変形例では、1個のコンロバーナを備える加熱調理器を採用してもよいし、例えば、4個のコンロバーナを備えている加熱調理器を採用してもよい。
(変形例7)上記の加熱調理システム2では、ユーザ接近画像から、画像解析部52によって、ユーザの服装に関する情報であるユーザ服装情報を解析ユーザ情報52uとして抽出し、学習済みの学習器(ニューラルネットワーク70)に入力している。これに代えて、変形例では、画像解析部52は、ユーザ服装情報を抽出しなくてもよい。
(変形例8)上記の加熱調理システム2では、ユーザ接近画像から、画像解析部52によって、ユーザの体勢に関する情報であるユーザ体勢情報を解析ユーザ情報52uとして抽出し、学習済みの学習器(ニューラルネットワーク70)に入力している。これに代えて、変形例では、画像解析部52は、ユーザ体勢情報を抽出しなくてもよい。
(変形例9)上記の加熱調理システム2では、ユーザ接近画像から、画像解析部52によって、ユーザの体型に関する情報であるユーザ体型情報を解析ユーザ情報52uとして抽出し、学習済みの学習器(ニューラルネットワーク70)に入力している。これに代えて、変形例では、画像解析部52は、ユーザ体型情報を抽出しなくてもよい。
(変形例10)上記の加熱調理システム2では、ユーザ情報60として、ユーザ所持物情報、ユーザの体温(生体情報)、ユーザ接近コンロバーナ情報、ユーザ服装情報、ユーザ体勢情報、ユーザ体型情報、加熱量情報、を学習済みの学習器(ニューラルネットワーク70)に入力している。これに代えて、変形例では、ユーザが加熱前に選択した調理メニューに関する情報を、ユーザ情報として入力してもよい。
(変形例11)上記の加熱調理システム2は、システムキッチンに組み込んで使用されるガス燃焼式のビルトインコンロである。これに代えて、変形例では、電磁誘導加熱調理器(IH調理器)であってもよい。その場合、制御装置40の加熱量制御部57は、火力に代えて各調理器の電力を制御してもよい。
以上、本発明の具体例を詳細に説明したが、これらは例示に過ぎず、特許請求の範囲を限定するものではない。特許請求の範囲に記載の技術には、以上に例示した具体例を様々に変形、変更したものが含まれる。本明細書または図面に説明した技術要素は、単独であるいは各種の組合せによって技術的有用性を発揮するものであり、出願時請求項記載の組合せに限定されるものではない。また、本明細書または図面に例示した技術は複数目的を同時に達成し得るものであり、そのうちの一つの目的を達成すること自体で技術的有用性を持つものである。
2 :加熱調理システム
4 :レンジフード
6 :レンジカバー
8 :カメラカバー
9a :加熱対象物カメラ
9b :ユーザカメラ
9c :スピーカ
9d :体温計
10 :加熱調理器
11a :第1コンロ
12a :第1コンロバーナ
14a :第1センサ
16a :五徳
24 :電源スイッチ
28 :グリル
29a :グリルバーナ
30 :学習装置
30m :記憶媒体
31 :学習データ取得部
32 :記憶部
32r :学習結果データ
33 :学習処理部
34i :入力装置
34о :出力装置
36 :制御部
38 :通信インターフェース
39 :ドライブ
40 :制御装置
42 :外部インターフェース
46 :学習記憶部
48 :加熱量記憶部
51 :画像取得部
52 :画像解析部
54 :加熱量情報取得部
55 :生体情報取得部
57 :加熱量制御部
59 :接近安全度推定部
70、70t :ニューラルネットワーク
84a、84b :被調理物
86a、86b :鍋
90 :手
92 :ミトン
94 :菜箸
96 :おたま
97 :袖
98 :肩
99 :視線
100 :ユーザ

Claims (20)

  1. 加熱対象物を加熱する加熱部と、
    前記加熱対象物に接近しているユーザの状態を含む画像であるユーザ接近画像を撮像可能に構成されている撮像装置から、前記ユーザ接近画像を取得する画像取得部と、
    前記ユーザが、前記加熱対象物に対して意図して接近しているか否かの度合いとして、前記加熱対象物に接近している前記ユーザの状態に対する接近安全度を、前記ユーザ接近画像に基づいて推定するための機械学習を行った学習済みの学習器に、前記画像取得部が取得した前記ユーザ接近画像を入力し、前記学習済みの学習器の演算処理を実行することで、前記接近安全度を前記学習器から取得する接近安全度推定部と、
    前記接近安全度推定部が推定した前記接近安全度に基づいて、前記加熱部の加熱量を制御する加熱量制御部と、を備えている、加熱調理システム。
  2. 前記ユーザに関する情報であるユーザ情報を取得するユーザ情報取得部をさらに備えており、
    前記学習器は、前記ユーザ情報にも基づいて前記接近安全度を推定するための機械学習を行っており、
    前記接近安全度推定部は、前記ユーザ情報取得部が取得した前記ユーザ情報も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで、前記接近安全度を前記学習器から取得する、請求項1に記載の加熱調理システム。
  3. 前記ユーザ情報は、前記ユーザ接近画像に基づいて解析される、前記ユーザが所持している所持物に関する情報であるユーザ所持物情報と、前記ユーザの服装に関する情報であるユーザ服装情報と、前記ユーザの体勢に関する情報であるユーザ体勢情報と、前記ユーザの体型に関する情報であるユーザ体型情報と、のうちの少なくとも一つを含む、請求項2に記載の加熱調理システム。
  4. 前記ユーザの生体に関する情報であるユーザ生体情報を測定可能に構成されている測定装置から、前記ユーザ生体情報を取得するユーザ生体情報取得部をさらに備えており、
    前記ユーザ情報は、前記ユーザ生体情報取得部が取得した前記ユーザ生体情報を含む、請求項2または3に記載の加熱調理システム。
  5. 前記加熱部は、複数の加熱装置を備えており、
    前記ユーザ情報は、前記ユーザ接近画像に基づいて解析される、前記複数の加熱装置のうち、前記ユーザが意図して接近している前記加熱対象物を加熱している加熱装置を特定する情報であるユーザ接近加熱装置情報を含んでおり、
    前記接近安全度推定部は、前記複数の加熱装置のそれぞれに対する前記接近安全度を前記学習器から取得し、
    前記加熱量制御部は、前記接近安全度推定部が推定した前記複数の加熱装置のそれぞれに対する前記接近安全度に基づいて、前記複数の加熱装置の加熱量を、それぞれに制御する、請求項2から4のいずれか一項に記載の加熱調理システム。
  6. コンピュータが、
    加熱部により加熱されている加熱対象物に接近しているユーザの状態を含む画像であるユーザ接近画像を撮像可能に構成されている撮像装置から、前記ユーザ接近画像を取得する画像取得ステップと、
    前記ユーザが、前記加熱対象物に対して意図して接近しているか否かの度合いとして、前記加熱対象物に接近している前記ユーザの状態に対する接近安全度を、前記ユーザ接近画像に基づいて推定するための機械学習を行った学習済みの学習器に、前記画像取得ステップにおいて取得した前記ユーザ接近画像を入力し、前記学習済みの学習器の演算処理を実行することで、前記接近安全度を前記学習器から取得する接近安全度推定ステップと、
    前記接近安全度推定ステップにおいて推定した前記接近安全度に基づいて、前記加熱部の加熱量を制御する加熱量制御ステップと、を実行する、加熱調理方法。
  7. 前記コンピュータが、前記ユーザに関する情報であるユーザ情報を取得するユーザ情報取得ステップをさらに実行し、
    前記学習器は、前記ユーザ情報にも基づいて前記接近安全度を推定するための機械学習を行っており、
    前記コンピュータは、前記接近安全度推定ステップにおいて、前記ユーザ情報取得ステップで取得した前記ユーザ情報も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで、前記接近安全度を前記学習器から取得する、請求項6に記載の加熱調理方法。
  8. 前記ユーザ情報は、前記ユーザ接近画像に基づいて解析される、前記ユーザが所持している所持物に関する情報であるユーザ所持物情報と、前記ユーザの服装に関する情報であるユーザ服装情報と、前記ユーザの体勢に関する情報であるユーザ体勢情報と、前記ユーザの体型に関する情報であるユーザ体型情報と、のうちの少なくとも一つを含む、請求項7に記載の加熱調理方法。
  9. 前記コンピュータが、前記ユーザの生体に関する情報であるユーザ生体情報を測定可能に構成されている測定装置から前記ユーザ生体情報を取得するユーザ生体情報取得ステップをさらに実行し、
    前記ユーザ情報は、前記ユーザ生体情報取得ステップで取得される前記ユーザ生体情報を含む、請求項7または8に記載の加熱調理方法。
  10. 前記加熱部は、複数の加熱装置を備えており、
    前記ユーザ情報は、前記ユーザ接近画像に基づいて解析される、前記複数の加熱装置のうち、前記ユーザが意図して接近している前記加熱対象物を加熱している加熱装置を特定する情報であるユーザ接近加熱装置情報を含んでおり、
    前記コンピュータは、
    前記接近安全度推定ステップにおいて、前記複数の加熱装置のそれぞれに対する前記接近安全度を前記学習器から取得し、
    前記加熱量制御ステップにおいて、前記接近安全度推定ステップで推定した前記複数の加熱装置のそれぞれに対する前記接近安全度に基づいて、前記複数の加熱装置の加熱量を、それぞれに制御する、請求項7から9のいずれか一項に記載の加熱調理方法。
  11. 加熱部により加熱されている加熱対象物に接近しているユーザの状態に対する接近安全度であって、前記ユーザが、前記加熱対象物に対して意図して接近しているか否かの度合いである前記接近安全度と、前記接近安全度に対応付けられており、前記ユーザの状態を含む画像であるユーザ接近画像を撮像可能に構成されている撮像装置から取得する前記ユーザ接近画像と、を含む学習データを取得する学習データ取得部と、
    前記ユーザ接近画像を含む入力に対して、前記接近安全度に対応する出力値を含む出力を得るように学習器の機械学習を行う学習処理部と、を備えている、学習装置。
  12. 前記学習データは、前記接近安全度に対応付けられており、前記ユーザに関する情報であるユーザ情報をさらに含んでおり、
    前記学習器の前記機械学習における前記入力が、前記ユーザ情報も含む、請求項11に記載の学習装置。
  13. 前記ユーザ情報は、前記ユーザ接近画像に基づいて解析される、前記ユーザが所持している所持物に関する情報であるユーザ所持物情報と、前記ユーザの服装に関する情報であるユーザ服装情報と、前記ユーザの体勢に関する情報であるユーザ体勢情報と、前記ユーザの体型に関する情報であるユーザ体型情報と、のうちの少なくとも一つを含む、請求項12に記載の学習装置。
  14. 前記ユーザ情報は、前記ユーザの生体に関する情報であるユーザ生体情報を測定可能に構成されている測定装置から取得する前記ユーザ生体情報を含む、請求項12または13に記載の学習装置。
  15. 前記加熱部は、複数の加熱装置を備えており、
    前記ユーザ情報は、前記ユーザ接近画像に基づいて解析される、前記複数の加熱装置のうち、前記ユーザが意図して接近している前記加熱対象物を加熱している加熱装置を特定する情報であるユーザ接近加熱装置情報を含んでおり、
    前記学習処理部は、前記複数の加熱装置のそれぞれに対する前記接近安全度に対応する出力値を含む出力を得るように学習器の機械学習を行う、請求項12から14のいずれか一項に記載の学習装置。
  16. コンピュータが、
    加熱部により加熱されている加熱対象物に接近しているユーザの状態に対する接近安全度であって、前記ユーザが、前記加熱対象物に対して意図して接近しているか否かの度合いである前記接近安全度と、前記接近安全度に対応付けられており、前記ユーザの状態を含む画像であるユーザ接近画像を撮像可能に構成されている撮像装置から取得する前記ユーザ接近画像と、を含む学習データを取得する学習データ取得ステップと、
    前記ユーザ接近画像を含む入力に対して、前記接近安全度に対応する出力値を含む出力を得るように学習器の機械学習を行う学習処理ステップと、を実行する、学習方法。
  17. 前記学習データは、前記接近安全度に対応付けられており、前記ユーザに関する情報であるユーザ情報をさらに含んでおり、
    前記学習器の前記機械学習における前記入力が、前記ユーザ情報も含む、請求項16に記載の学習方法。
  18. 前記ユーザ情報は、前記ユーザ接近画像に基づいて解析される、前記ユーザが所持している所持物に関する情報であるユーザ所持物情報と、前記ユーザの服装に関する情報であるユーザ服装情報と、前記ユーザの体勢に関する情報であるユーザ体勢情報と、前記ユーザの体型に関する情報であるユーザ体型情報と、のうちの少なくとも一つを含む、請求項17に記載の学習方法。
  19. 前記ユーザ情報は、前記ユーザの生体に関する情報であるユーザ生体情報を測定可能に構成されている測定装置から取得する前記ユーザ生体情報を含む、請求項17または18に記載の学習方法。
  20. 前記加熱部は、複数の加熱装置を備えており、
    前記ユーザ情報は、前記ユーザ接近画像に基づいて解析される、前記複数の加熱装置のうち、前記ユーザが意図して接近している前記加熱対象物を加熱している加熱装置を特定する情報であるユーザ接近加熱装置情報を含んでおり、
    前記コンピュータは、前記学習処理ステップにおいて、前記複数の加熱装置のそれぞれに対する前記接近安全度に対応する出力値を含む出力を得るように学習器の機械学習を行う、請求項17から19のいずれか一項に記載の学習方法。
JP2020101284A 2020-06-10 2020-06-10 加熱調理システム、加熱調理方法、学習装置、学習方法 Active JP7407075B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020101284A JP7407075B2 (ja) 2020-06-10 2020-06-10 加熱調理システム、加熱調理方法、学習装置、学習方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020101284A JP7407075B2 (ja) 2020-06-10 2020-06-10 加熱調理システム、加熱調理方法、学習装置、学習方法

Publications (2)

Publication Number Publication Date
JP2021196088A JP2021196088A (ja) 2021-12-27
JP7407075B2 true JP7407075B2 (ja) 2023-12-28

Family

ID=79197739

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020101284A Active JP7407075B2 (ja) 2020-06-10 2020-06-10 加熱調理システム、加熱調理方法、学習装置、学習方法

Country Status (1)

Country Link
JP (1) JP7407075B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015230148A (ja) 2014-06-06 2015-12-21 東京瓦斯株式会社 加熱制御装置、加熱調理システム、及びプログラム
JP2017224171A (ja) 2016-06-15 2017-12-21 パナソニックIpマネジメント株式会社 調理支援方法および調理支援システム
JP2018204888A (ja) 2017-06-06 2018-12-27 リンナイ株式会社 加熱調理器

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015230148A (ja) 2014-06-06 2015-12-21 東京瓦斯株式会社 加熱制御装置、加熱調理システム、及びプログラム
JP2017224171A (ja) 2016-06-15 2017-12-21 パナソニックIpマネジメント株式会社 調理支援方法および調理支援システム
US20170367151A1 (en) 2016-06-15 2017-12-21 Panasonic Intellectual Property Management Co., Ltd. Cooking support method and cooking support system
JP2018204888A (ja) 2017-06-06 2018-12-27 リンナイ株式会社 加熱調理器

Also Published As

Publication number Publication date
JP2021196088A (ja) 2021-12-27

Similar Documents

Publication Publication Date Title
JP6704125B2 (ja) 加熱調理器
WO2020077501A1 (en) System and method for collecting and annotating cooking images for training smart cooking appliances, locating food items in smart cooking appliances, and determining cooking progress of food items in smart cooking appliances
CN103874976B (zh) 电子设备
US8530842B2 (en) Cooking hob device
JP2019070516A (ja) 高度調理器具による自動調理制御
CN207666471U (zh) 一种具有食物重量及厚度识别功能的煎烤器
WO2018217230A1 (en) Thermal imaging cooking system
JP6865536B2 (ja) 加熱調理システム
CN110488696B (zh) 一种智能防干烧方法及系统
CN106574783A (zh) 用于通过移动计算机设备与家用电器数据通信的方法、移动计算机设备和家用电器
CN107296507A (zh) 烹调辅助方法以及烹调辅助系统
JP2016018761A (ja) 火力制御装置、火力制御方法およびコンピュータプログラム
JP2017194449A (ja) 調理支援方法および調理支援システム
JP3036671U (ja) 加熱調理器
CN109812840B (zh) 烹饪温度检测方法、装置及灶具
JP2016148997A (ja) 調理支援装置、調理支援システムおよび調理支援方法
CN107831692B (zh) 厨具控制方法、装置和电子设备
JP2016143105A (ja) 監視装置
JP2016188722A (ja) 調理・換気連動システム及びこれに用いるガスコンロ
JP7407075B2 (ja) 加熱調理システム、加熱調理方法、学習装置、学習方法
JP7482690B2 (ja) 加熱調理システム、加熱調理方法、学習装置および学習方法
JP7300648B2 (ja) 加熱調理器
JP2021063608A (ja) 加熱調理システム
CN108348088A (zh) 烹饪装置及其控制方法
JP7482683B2 (ja) 加熱調理システムおよび加熱調理方法、学習装置および学習方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230525

TRDD Decision of grant or rejection written
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231124

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231218

R150 Certificate of patent or registration of utility model

Ref document number: 7407075

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150