JP2005284408A - キッチン作業支援システム - Google Patents
キッチン作業支援システム Download PDFInfo
- Publication number
- JP2005284408A JP2005284408A JP2004093608A JP2004093608A JP2005284408A JP 2005284408 A JP2005284408 A JP 2005284408A JP 2004093608 A JP2004093608 A JP 2004093608A JP 2004093608 A JP2004093608 A JP 2004093608A JP 2005284408 A JP2005284408 A JP 2005284408A
- Authority
- JP
- Japan
- Prior art keywords
- support
- work
- kitchen
- unit
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Abstract
【課題】ユーザごとのキッチン作業状況に応じて、調理設備機能に十分対応した作業支援を自動的に行うことができるキッチン作業支援システムを提供する。
【解決手段】カメラ12でキッチン付近の画像を撮影する。ユーザ認識部2で顔画像の特徴などからユーザ認識を行う。このデータは支援決定部4に送信される。カメラ12で撮影された画像から作業推測部3でユーザ作業行動を推測し、その結果を支援決定部4に送信する。支援決定部4はユーザ認識結果、作業推測結果、キッチン使用状況、センサ信号、時刻を基に、参照すべき支援DBを決定し、その支援内容を出力する。
【選択図】 図1
【解決手段】カメラ12でキッチン付近の画像を撮影する。ユーザ認識部2で顔画像の特徴などからユーザ認識を行う。このデータは支援決定部4に送信される。カメラ12で撮影された画像から作業推測部3でユーザ作業行動を推測し、その結果を支援決定部4に送信する。支援決定部4はユーザ認識結果、作業推測結果、キッチン使用状況、センサ信号、時刻を基に、参照すべき支援DBを決定し、その支援内容を出力する。
【選択図】 図1
Description
本発明は、キッチンで作業を行うユーザを認識し、個々のユーザの作業行動に応じて自動的に支援内容を変更することができるキッチン作業支援システムに関する。
キッチンでユーザが調理を行う場合、ユーザが望む料理の料理レシピを表示装置に提示したり、料理方法を音声出力するシステム等がある。また、各料理毎に調理対象物とその数量とをその処理方法および処理の程度とともに案内し、この際にユーザが現在置かれている状態を判断して次の処理を決定し実行する料理ナビゲーションシステム等も提案されている。
上記システムでは、ある料理が選択されて、料理ナビゲーションにしたがって調理をお行う場合、キッチンに設置されたセンサからの信号を検知し、現在の調理状況を把握して、次の調理アドバイスを行うような構成となっている。
しかし、上記従来の技術では、キッチン作業に対する支援が固定的であり、ユーザに合わせて動的に変更されるものではない。また、キッチン作業に必要な火力の調整等の調理設備に関する調整は、ユーザがナビゲーションにしたがって手動で行うものであり、自動的に調整が行われるものではないため、きめの細かい支援を行うことができない。
特に、最近では、システムキッチンを据え付ける家庭も多く、これらのシステムキッチンではガスコンロの火力調整、水道の水量調整などの他に作業台が調理時に引き出すようになっている機構のものがあり、従来技術では調理設備機能に十分対応した作業支援をすることができない。
本発明は、上述した課題を解決するために創案されたものであり、ユーザごとのキッチン作業状況に応じて、調理設備機能に十分対応した作業支援を自動的に行うことができるキッチン作業支援システムを提供することを目的としている。
上記目的を達成するために、請求項1記載の発明は、キッチンに配置された撮影装置と、前記撮影装置で撮影された画像からユーザを認識するユーザ認識部と、前記撮影装置で撮影された画像からキッチンでの作業行動を推測する作業推測部と、前記ユーザ認識部による認識結果と前記作業推測部による推測結果とに基づいてユーザに対する支援内容を決定する支援決定部と、前記支援決定部での決定内容を出力する音声出力装置とを備えたことを特徴とするキッチン作業支援システムである。
また、請求項2記載の発明は、前記ユーザ認識部で複数のユーザが認識された場合には、前記支援決定部でユーザの人数と構成に応じて支援内容を決定することを特徴とする請求項1記載のキッチン作業支援システムである。
また、請求項3記載の発明は、前記支援決定部ではキッチンの使用時間帯に応じて支援内容を決定することを特徴とする請求項1記載のキッチン作業支援システムである。
また、請求項4記載の発明は、前記撮影装置で撮影された画像からキッチンの使用状況を認識する使用状況認識部を備え、前記使用状況認識部での認識結果に応じて前記支援決定部で支援内容が決定することを特徴とする請求項1記載のキッチン作業支援システムである。
また、請求項5記載の発明は、キッチン周りの環境を計測するセンサ部を備え、前記センサ部の信号に基づきキッチンの周囲環境支援を前記支援決定部で決定することを特徴とする請求項1記載のキッチン作業支援システムである。
また、請求項6記載の発明は、キッチンの使用状況を検出するセンサ部を備え、前記センサ部の信号と前記作業推測部からの推測結果により複数の作業状況を認識し、この複数作業状況に応じて前記支援決定部で支援内容を決定する請求項1記載のキッチン作業支援システムである。
本発明によれば、ユーザ毎のキッチン作業行動を推測するとともに、作業環境をも把握し、これらの条件に最適な支援内容に自動的に変更することにより、ユーザ適応型のキッチンを提供することができる。また、個々のユーザやキッチンの調理設備機能に十分対応したきめの細かい作業支援を行うことができる。
以下、図面を参照して本発明の一実施形態を説明する。図1は本発明によるキッチン作業支援システムの基本構成を示す図である。
撮影装置としてカメラ12、音声出力装置としてスピーカ13がキッチンに設置されており、コンピュータシステム1と接続されている。コンピュータシステム1はユーザ認識部2、作業推測部3、支援決定部4、音声合成部5、基本支援DB(データベース)6、複数人数用支援DB7、時間帯別支援DB8、使用状況別支援DB9、環境別支援DB10、作業状況別支援DB11、使用状況認識部24で構成されている。
また、ユーザ認識部2は顔画像認識処理部21、ユーザ判断部22、顔画像DB23で構成されており、顔画像認識処理部21は顔画像DB23と接続されている。
作業推測部3は、現在位置認識部31、身体方向認識部32、視線方向認識部33キッチン作業位置推定部34、キッチン構造DB35、作業推定部36、作業類型DB37とで構成されている。
支援決定部4は、ユーザ認識部2、使用状況認識部24、作業推測部3、基本支援DB(データベース)6、複数人数用支援DB7、時間帯別支援DB8、使用状況別支援DB9、環境別支援DB10、作業状況別支援DB11に接続されているとともに、各センサ部20、スピーカ13に音声を出力するための音声信号を合成する音声合成部5に接続されている。各センサ部20は温湿度計、照度計、調理器具用温度計、水量計などからなっている。
また、キッチンの調理設備機能を制御するための制御部として、作業台駆動部14、コンロ安全機構部15、足元灯制御部16、作業用照明制御部17、電動ガス弁制御部18、電動バルブ制御部19がキッチンに設けられており、これらの制御部も支援決定部4と接続されている。
上記構成のシステムキッチンにおける配置例を示す外観図が、図2であり、その平面図が図3である。図2、図3に示すように、ユーザの左手にはシンクが、そのさらに左側にはコンロが設けられており、コンロには調理器具用温度計42などが設けられている。一方、ユーザの左側には作業場があり、そのさらに左側にコンピュータシステム1、スピーカ13、温湿度計43、照度計44が配備されている。また、ユーザの顔や作業行動を撮影するために2台のカメラ12がキッチン中央上部あたりに設置されている。
図1でも示されている作業台駆動部14は作業台49を制御・駆動するもので、図3に示すように作業台49は通常時コンロの下方足元の部分に収納されているが、必要時に作業台駆動部14によって作業台49が外側に押し出されるようになっている。また、作業台駆動部14によって作業台49はコンロ下方の収納位置まで引き戻されるようになっている。
コンロ安全機構部15はコンロの安全ロック45をオン、オフにでき、足元灯制御部16は足元灯48を点灯、消灯、輝度調節することができ、作業用照明制御部はキッチン用照明47を点灯、消灯、輝度調節することができ、電動ガス弁制御部18は電動ガス弁46を調節してコンロの火力を調整でき、電動バルブ制御部19は電動バルブ45を制御して温冷水の混合割合や水量を調節できるようになっている。
なお、図2、図3ではコンロの足元に作業台49が押し出される構造としているが、これは一例であり、作業台駆動部14及び作業台49を図3に示すシンクまたは作業場の下方足元に収納配備して、必要時に各々の足元に作業台が押し出されるようにすることもできる。
また、水量計41、調理器具用温度計42、温湿度計43、照度計44は各センサ部20に相当するものである。
本発明の動作を図5に示す。
まず、2台のカメラ12でキッチン付近の画像を撮影する。顔画像認識処理部21ではカメラ撮像画像中より顔状物体を抽出し(S1)、顔状物体の輪郭を抽出しその大きさが一定になったら、ユーザ認識を行う(S2)。また、顔状物体の輪郭が複数抽出された場合はその個数により人数を把握し(S3)、各輪郭についてユーザ認識を行う。
まず、2台のカメラ12でキッチン付近の画像を撮影する。顔画像認識処理部21ではカメラ撮像画像中より顔状物体を抽出し(S1)、顔状物体の輪郭を抽出しその大きさが一定になったら、ユーザ認識を行う(S2)。また、顔状物体の輪郭が複数抽出された場合はその個数により人数を把握し(S3)、各輪郭についてユーザ認識を行う。
顔画像認識処理部21は抽出した輪郭(特徴量)を顔画像DB23に照合してユーザの候補を抽出する。ユーザ判断部22は抽出されたユーザ候補を基にファジー理論などを用いてユーザ候補を組み合わせることによりユーザを決定する。この決定したユーザデータは支援決定部4に送信される。
顔画像認識処理部21では、上記顔状物体の輪郭が一定以上の大きさの間そのユーザとして追跡する(S4)。顔状物体の輪郭が一定の大きさ未満になれば、そのユーザはキッチンを離れたとして、当該ユーザに関する作業推測は行わない。
ユーザが認識されている間は、作業推測部3でユーザ作業行動を推測する(S5)。作業行動の推測は以下のように行われる。まず、撮影されたキッチン付近の画像から現在位置認識部31でユーザ及びキッチン周辺画像からユーザの現在位置を認識する。身体方向認識部32ではユーザの身体画像に基づいてユーザの両肩を結ぶ線の角度などからユーザの身体の向き方向を確認する。
視線方向認識部33でユーザの顔画像及び眼球画像からユーザの視線位置(方向)を認識する。図4にこの視線位置の検出についての概略を示す。
2台のカメラで眼球の左右の端位置P1、P3、P4、P6と黒目の中心位置P2、P5のxyz座標を求める。2台のカメラを用いていることにより3次元座標は求められる。次に、一方の眼球の中心位置座標Q1を上記P1、P2、P3の3点から算出し、他方の眼球の中心位置座標Q2を上記P4、P5、P6の3点の座標から各々算出する。眼球の中心Q1と黒目の中心P2とを結び、もう一方の眼球の中心Q2と黒目の中心P5とを結ぶ。この2直線(左右の視線)の交点が、認識位置(視線位置)となる。このようにして視線方向が認識される。
次に、現在位置認識部31からのユーザの現在位置情報、身体方向認識部32からの身体の向き情報、視線方向認識部33からの視線方向情報を基に、キッチン作業位置推定部34では、キッチンのどの位置にどのような機能部(コンロ、シンクなど)があるかを記憶しているキッチン構造DB35を参照しながら、ユーザはキッチンのどの場所を用いて作業を行おうとしているかを推定する。
例えば、図3に示すようなキッチン構造の平面図がキッチン構造DB35に記憶されており、この平面図上にユーザの現在位置、身体の向き、視線方向をマッピングし、図形的にユーザが使用しようとしているキッチン作業位置を推定する。
次に、作業推定部36で、キッチン作業位置推定部34からの作業位置推定結果を基に作業類型DB37を参照しながら、ユーザの作業行動を推定する。作業類型DB37には、例えば、推定作業位置が「シンク部」なら推定ユーザ作業として、「シンクを使おうとしている」という内容が、推定作業位置が「キッチン右端部」なら推定ユーザ作業として「作業場を使おうとしている」といった内容などが格納されている。推定されたユーザの作業行動は支援決定部4に送られる。
一方、カメラで撮影したキッチン風景画像から、火や水等の調理設備の使用状況を使用状況認識部24で認識し(S6)、認識結果を支援決定部4に送信する。また、支援決定部4は、各センサ部20からのセンサ信号を検出する(S7)。支援決定部4はユーザ認識結果、作業推測結果、キッチン使用状況、センサ信号、時刻を基に、基本支援DB(データベース)6、複数人数用支援DB7、時間帯別支援DB8、使用状況別支援DB9、環境別支援DB10、作業状況別支援DB11の各支援データベースから適切なデータベースを選んで参照し、支援内容を決定する(S8)。支援決定部4は支援内容に応じたデータを出力する(S9)。
以上のように動作していくが、具体的に各支援データベースによって、どのような支援が行われるのかを説明する。
図6は、基本支援DB6のデータ構造例を示す。基本支援DB6は、ユーザ認識部2で単人数と認識されて、時間帯別支援DB8に保存されている時間帯に含まれず、使用状況認識結果やセンサ部20からの信号も検出されていないときなどに用いられるもので、基本的な支援内容が記録されている。
例えば、日常使う人に対しては自動支援はオフとされているが、保護されるべき子供がユーザ認識部2で認識され、その作業行動がシンクを使おうとしていると作業推測部3で推測された場合には、図6に示すように「作業台をだします」といったアナウンスの後、作業台を出す制御を行う。
アナウンスは、基本支援DB6を参照して発話テキストを取得し、支援決定部4がそのデータを音声合成部5に送信し、音声合成部5で音声を合成してスピーカ13により出力することで行われる。作業台の駆動は、支援決定部4が作業台駆動部14に制御信号を送信し、作業台駆動部14が作業台を駆動することにより行われる。
図7は複数人数用支援DB8のデータ構造例を示す。複数人数用支援DB8は、ユーザ認識部2で複数のユーザが認識されたときに、支援決定部4がその認識結果を基に参照するデータベースを複数人数用支援DB8に切り替える。作業推測部3は、複数の各ユーザの作業を個々に推測する。この推測結果が支援決定部4に送信される。例えば、ユーザが2人認識され、いずれも子供であった場合で、作業推測の結果がコンロを使おうとしているということであれば、安全のために一次ロックをかけるという支援内容が決定する。支援決定部4は、コンロ安全機構15に制御信号を送信して、安全ロック45をオンにする。
図8は時間帯別支援DB8のデータ構造例を示す。コンピュータシステム1は時刻情報を有しているので、これを用いてユーザがキッチンを使用しようとしている時刻が、昼間の時間帯または深夜間であれば、支援決定部4は参照するデータベースを複数人数用支援DB8に切り替える。時刻が深夜間で、ユーザ認識部2でユーザが主婦と認識され、作業推測部3で作業場を使おうとしていると推測されれば、支援決定部4は作業場照明制御部17に制御信号を送信して、キッチン用照明47を点灯させる。
その他に、図8に示されるように、足元灯を点灯させる場合には、支援決定部4は足元灯制御部16に制御信号を送信して、足元灯48を点灯させる。 このように、深夜間では安全面を優先させた支援内容となっており、特に子供について安全に配慮した支援内容とすることができる。
図9は使用状況別支援DB9のデータ構造例を示す。使用状況認識部24からキッチンの使用状況が認識されて送信されてきた場合は、支援決定部4は参照するデータベースを使用状況別支援DB8に切り替える。
カメラ12で撮影された画像により、使用状況認識部24でコンロの火力が過剰であると判断され、ユーザ認識部2で子供であると認識された場合は、支援決定部4は「危ない」との注意をアナウンスし、火力を自動調整するように制御する。「危ない」とのアナウンスは上述したように使用状況別支援DB9から発話テキストを取得して音声合成部5で合成し、合成された音声をスピーカ13から出力する。一方、支援決定部4が電動ガス弁制御部18に制御信号を送信し、電動ガス弁46の開閉度を変化させることでコンロ火力の自動調整を行う。
また水量調節の場合は、支援決定部4が電動バルブ制御部19に制御信号を送信し、電動バルブ45の開閉度を変化させる。
図10は環境別支援DB10のデータ構造例を示す。各センサ部20の中のキッチン周囲環境を計測するセンサから検出信号が支援決定部4に送信され、その検出信号により周囲環境に問題があると判断した場合は、支援決定部4は参照するデータベースを環境別支援DB10に切り替える。
例えば、キッチン周囲環境を計測するセンサとして、温湿度計43と照度計44が取り付けられている。照度計44からの検出信号で周囲の照度が低いと判断され、作業推測部3で作業場を使おうとしていると推測され、ユーザが主婦と認識された場合は、作業場照明を点灯するために、支援決定部4は作業用照明制御部17に制御信号を送信し、キッチン用照明47を点灯させる。
また、温湿度計43により検出された信号により周囲の気温が低いと判断された場合で、作業推測部3で洗いものをしようとしていると推測され、ユーザが主婦と認識された場合は、お湯を出すために、支援決定部4は電動バルブ制御部19に制御信号を送信し、電動バルブ45を動作させ、水と湯の混合比率を変えるなどしてお湯を出す。
図11は作業状況別支援DB11のデータ構造例を示す。各センサ部20の中のキッチン使用状況を表すセンサからの検出信号や作業推測部3の推測結果などから、ユーザが複数の作業を同時に行おうとしている場合に、支援決定部4は参照するデータベースを作業状況別支援DB11に切り替える。
例えば、水量計41からの検出信号により水を出しっぱなしにしていることが判別され、作業推測部3の作業推測結果から作業場を使おうとしていると推測され、ユーザが主婦と認識された場合何も支援しないことになる。
また、調理器具用温度計42で検出した信号から鍋底の温度が上昇しているかどうか判断でき、水量計41の検出信号から水を勢い良く出しているかどうか判断することができる。このように、センサ部からの信号から複数の作業状態を判断しても良いし、使用状況認識部24により使用状況を推定するようにしても良い。
複数の作業を認識した場合には、作業状況別支援DB11を参照して支援内容を決定する。図11中の支援内容で、水圧の自動調整は電動バルブ45を用いて行われ、コンロオフは電動ガス弁46を用いて行われる。
Claims (6)
- キッチンに配置された撮影装置と、
前記撮影装置で撮影された画像からユーザを認識するユーザ認識部と、
前記撮影装置で撮影された画像からキッチンでの作業行動を推測する作業推測部と、
前記ユーザ認識部による認識結果と前記作業推測部による推測結果とに基づいてユーザに対する支援内容を決定する支援決定部と、
前記支援決定部での決定内容を出力する音声出力装置とを備えたことを特徴とするキッチン作業支援システム。 - 前記ユーザ認識部で複数のユーザが認識された場合には、前記支援決定部でユーザの人数と構成に応じて支援内容を決定することを特徴とする請求項1記載のキッチン作業支援システム。
- 前記支援決定部ではキッチンの使用時間帯に応じて支援内容を決定することを特徴とする請求項1記載のキッチン作業支援システム。
- 前記撮影装置で撮影された画像からキッチンの使用状況を認識する使用状況認識部を備え、前記使用状況認識部での認識結果に応じて前記支援決定部で支援内容が決定することを特徴とする請求項1記載のキッチン作業支援システム。
- キッチン周りの環境を計測するセンサ部を備え、前記センサ部の信号に基づきキッチンの周囲環境支援を前記支援決定部で決定することを特徴とする請求項1記載のキッチン作業支援システム。
- キッチンの使用状況を検出するセンサ部を備え、前記センサ部の信号と前記作業推測部からの推測結果により複数の作業状況を認識し、この複数作業状況に応じて前記支援決定部で支援内容を決定する請求項1記載のキッチン作業支援システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004093608A JP2005284408A (ja) | 2004-03-26 | 2004-03-26 | キッチン作業支援システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004093608A JP2005284408A (ja) | 2004-03-26 | 2004-03-26 | キッチン作業支援システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005284408A true JP2005284408A (ja) | 2005-10-13 |
Family
ID=35182755
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004093608A Withdrawn JP2005284408A (ja) | 2004-03-26 | 2004-03-26 | キッチン作業支援システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005284408A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130057670A1 (en) * | 2011-09-05 | 2013-03-07 | Toshiba Tec Kabushiki Kaisha | Information processing apparatus and method |
JP2019185185A (ja) * | 2018-04-03 | 2019-10-24 | 東京瓦斯株式会社 | 画像処理システム及びプログラム |
JP2019185184A (ja) * | 2018-04-03 | 2019-10-24 | 東京瓦斯株式会社 | 画像処理システム及びプログラム |
WO2020071225A1 (en) | 2018-10-04 | 2020-04-09 | Sony Corporation | Information processing apparatus, information processing method, and program |
-
2004
- 2004-03-26 JP JP2004093608A patent/JP2005284408A/ja not_active Withdrawn
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130057670A1 (en) * | 2011-09-05 | 2013-03-07 | Toshiba Tec Kabushiki Kaisha | Information processing apparatus and method |
JP2013054593A (ja) * | 2011-09-05 | 2013-03-21 | Toshiba Tec Corp | 情報処理装置及びプログラム |
JP2019185185A (ja) * | 2018-04-03 | 2019-10-24 | 東京瓦斯株式会社 | 画像処理システム及びプログラム |
JP2019185184A (ja) * | 2018-04-03 | 2019-10-24 | 東京瓦斯株式会社 | 画像処理システム及びプログラム |
JP7186009B2 (ja) | 2018-04-03 | 2022-12-08 | 東京瓦斯株式会社 | 画像処理システム及びプログラム |
WO2020071225A1 (en) | 2018-10-04 | 2020-04-09 | Sony Corporation | Information processing apparatus, information processing method, and program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7193180B2 (ja) | 家庭電器に制御用ユーザインタフェースを提供する方法及びシステム | |
ES2729174T3 (es) | Máquina de cocina | |
US20100231506A1 (en) | Control of appliances, kitchen and home | |
AU2015263408A1 (en) | Electrically operated domestic appliance having a voice recognition device | |
WO2013099407A1 (ja) | 表示装置及び投影装置 | |
JP2018029339A (ja) | 表示装置及び電子機器 | |
CN109416583B (zh) | 信息处理装置、信息处理方法及程序 | |
JP2008181874A (ja) | 照明システム | |
US11212882B2 (en) | Information processing apparatus and information processing method for presentation of a cooking situation based on emotion of a user | |
JP2013180046A (ja) | 手洗いモニタ、手洗いモニタ方法および手洗いモニタプログラム | |
JP2010102900A (ja) | 照明システム | |
CN107340718A (zh) | 智能灯参数的调整方法及装置 | |
JP2005284408A (ja) | キッチン作業支援システム | |
JP2021121878A (ja) | 情報処理装置、情報処理方法、および記録媒体 | |
EP3779076A1 (en) | Water discharge control device, water discharge control system, and water discharge control method | |
JP2010123373A (ja) | 照明システム | |
JP6597329B2 (ja) | 給湯システム | |
JP6157516B2 (ja) | 加熱調理器 | |
EP4066775A1 (en) | Indication system for a surgical lighting apparatus | |
US11195525B2 (en) | Operation terminal, voice inputting method, and computer-readable recording medium | |
JP4412602B2 (ja) | 料理インストラクションシステム | |
JP2010161783A (ja) | 情報処理装置 | |
JP2020177487A (ja) | 支援装置及び支援プログラム | |
JP7206057B2 (ja) | 吐水制御装置、及び吐水制御システム | |
JP6096160B2 (ja) | 加熱調理器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20070605 |