JP2018128979A - 厨房支援システム - Google Patents
厨房支援システム Download PDFInfo
- Publication number
- JP2018128979A JP2018128979A JP2017023325A JP2017023325A JP2018128979A JP 2018128979 A JP2018128979 A JP 2018128979A JP 2017023325 A JP2017023325 A JP 2017023325A JP 2017023325 A JP2017023325 A JP 2017023325A JP 2018128979 A JP2018128979 A JP 2018128979A
- Authority
- JP
- Japan
- Prior art keywords
- cooking
- video
- image
- person
- charge
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B19/00—Teaching not covered by other main groups of this subclass
- G09B19/0092—Nutrition
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B5/00—Electrically-operated educational appliances
- G09B5/02—Electrically-operated educational appliances with visual presentation of the material to be studied, e.g. using film strip
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3141—Constructional details thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
- G06Q30/0641—Shopping interfaces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/12—Hotels or restaurants
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L13/00—Speech synthesis; Text to speech systems
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/223—Execution procedure of a spoken command
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Educational Administration (AREA)
- Educational Technology (AREA)
- Tourism & Hospitality (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Nutrition Science (AREA)
- Entrepreneurship & Innovation (AREA)
- Acoustics & Sound (AREA)
- Signal Processing (AREA)
- Human Resources & Organizations (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- Primary Health Care (AREA)
- Marketing (AREA)
- Economics (AREA)
- Controls And Circuits For Display Device (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Image Processing (AREA)
Abstract
【課題】作業効率を向上させることができる厨房支援システムを提供する。
【解決手段】厨房支援システム1は、投影装置2と、音声認識モジュール312と、制御装置3とを備える。投影装置2は、調理を行う調理スペースに向かって映像を投影する。音声認識モジュール312は、入力された音声の内容を認識する。制御装置3は、料理の注文内容を表す注文表示映像を含む料理に関連する料理関連映像を投影装置2に投影させる。制御装置3は、音声認識モジュール312の認識結果に応じて投影装置2が投影する料理関連映像を変化させる。
【選択図】図1
【解決手段】厨房支援システム1は、投影装置2と、音声認識モジュール312と、制御装置3とを備える。投影装置2は、調理を行う調理スペースに向かって映像を投影する。音声認識モジュール312は、入力された音声の内容を認識する。制御装置3は、料理の注文内容を表す注文表示映像を含む料理に関連する料理関連映像を投影装置2に投影させる。制御装置3は、音声認識モジュール312の認識結果に応じて投影装置2が投影する料理関連映像を変化させる。
【選択図】図1
Description
本発明は、厨房支援システムに関し、特に、料理の注文内容の表示を行う厨房支援システムに関する。
特許文献1には、レストランなどで利用されているキッチンビデオシステムが開示されている。特許文献1のキッチンビデオシステムは、登録した対象を表示コントローラに送信する機能を備える電子式キャッシュレジスタと、電子式キャッシュレジスタから送信された対象を表示する機能を有する表示コントローラとを備える。表示コントローラは、複数のモニタに注文内容を表示させており、複数のモニタは、料理の調理を行う調理場所、調理済みの料理などの取りそろえを行う取りそろえ場所などに設置されている。
特許文献1のキッチンビデオシステムでは、調理担当者は、調理場所に設置されたモニタに表示される注文内容を確認して、調理を行っている。モニタは調理作業の邪魔にならないように壁面などに設置される。そのため、調理担当者は、調理作業中に注文内容を確認する場合、調理を行っている手元と壁面のモニタとの間で視線を移動させねばならず、作業効率が低下する可能性があった。
本発明の目的は、作業効率を向上させることができる厨房支援システムを提供することにある。
第1の態様の厨房支援システムは、投影装置と、音声認識装置と、制御装置とを備える。前記投影装置は、調理を行う調理スペースに向かって映像を投影する。前記音声認識装置音は、入力された音声の内容を認識する。前記制御装置は、料理の注文内容を表す注文表示映像を含む前記料理に関連する料理関連映像を前記投影装置に投影させ、前記音声認識装置の認識結果に応じて前記投影装置が投影する前記料理関連映像を変化させる。
第2の態様の厨房支援システムでは、第1の態様において、前記制御装置は、前記料理の調理が完了したことを表す音声が前記音声認識装置に入力されたとき、前記投影装置に投影させる前記料理関連映像から調理が完了した前記料理の注文内容を削除するように前記注文表示映像を変化させる。
第3の態様の厨房支援システムは、第1又は第2の態様において、前記料理の調理担当者の動作を検出する動作検出部を、更に備える。前記制御装置は、前記動作検出部によって前記料理の調理が完了したことを表す動作が検出されたとき、前記投影装置に投影させる前記料理関連映像から調理が完了した前記料理の注文内容を削除するように前記注文表示映像を変化させる。
第4の態様の厨房支援システムは、第1〜第3のいずれかの態様において、前記調理スペースにある物体を検出する物体検出部を、更に備える。
第5の態様の厨房支援システムでは、第4の態様において、前記制御装置は、前記調理スペースにおいて前記物体検出部によって検出された前記物体と重ならない領域に、前記注文表示映像を投影するように前記投影装置を制御する。
第6の態様の厨房支援システムでは、第4又は第5の態様において、前記制御装置は、前記物体検出部によって検出された物体が食材であるときに、前記食材の上に、前記料理の調理方法を指示する調理指示映像を投影するように前記投影装置を制御する。
第7の態様の厨房支援システムでは、第1〜第6のいずれかの態様において、撮像装置と、記憶装置と、を更に備える。前記撮像装置は前記調理スペースを撮像する。前記記憶装置は、前記撮像装置が撮像した記録映像を、前記記録映像の時間情報と前記料理の調理担当者の識別情報との少なくとも一方と対応付けて記憶する。
本発明によれば、作業効率を向上させることができる厨房支援システムを提供できる。
以下に説明する実施形態は、本発明の種々の実施形態の一つに過ぎない。本発明の実施形態は、下記実施形態に限定されることはなく、この実施形態以外も含み得る。また、下記の実施形態は、本発明に係る技術的思想を逸脱しない範囲であれば、設計等に応じて種々の変更が可能である。
(1)概要
本実施形態の厨房支援システム1は、例えば、ファーストフード店の調理場で用いられる。
本実施形態の厨房支援システム1は、例えば、ファーストフード店の調理場で用いられる。
厨房支援システム1は、図1に示すように、投影装置2と、音声認識モジュール(音声認識装置)312と、制御装置3とを備える。投影装置2は、調理を行う調理スペースに向かって映像を投影する。音声認識モジュール312は、入力された音声の内容を認識する。制御装置3は、料理の注文内容を表す注文表示映像を含む料理に関連する料理関連映像を投影装置2に投影させる。制御装置3は、音声認識モジュール312の認識結果に応じて投影装置2が投影する料理関連映像を変化させる。
厨房支援システム1では、投影装置2が、料理の注文内容を表す注文表示映像を含む料理関連映像を、調理担当者が調理を行う調理スペースに向かって投影している。調理担当者は、調理スペースに投影された料理関連映像を見ることで、料理の注文内容を把握できるので、調理中に注文内容を確認する場合の視線の移動量が少なくなり、作業効率を向上させることができる。また、制御装置3は、音声認識モジュール312の認識結果に応じて投影装置2が投影する料理関連映像を変化させるので、調理担当者は、音声で料理関連映像を変化させることができる。したがって、調理担当者は、料理関連映像を変化させるときも両手を使えるので、作業効率が向上する。
(2)詳細
以下、本実施形態の厨房支援システム1について図1〜図14を参照して詳しく説明する。
以下、本実施形態の厨房支援システム1について図1〜図14を参照して詳しく説明する。
(2.1)構成
厨房支援システム1は、図1に示すように、投影装置2と、音声対話部31と、制御装置3と、第1撮像装置4と、第2撮像装置5と、マイク6と、スピーカ7と、記憶装置8とを備えている。
厨房支援システム1は、図1に示すように、投影装置2と、音声対話部31と、制御装置3と、第1撮像装置4と、第2撮像装置5と、マイク6と、スピーカ7と、記憶装置8とを備えている。
この、厨房支援システム1は、図2及び図3に示すように、客から注文された料理の調理を調理担当者H1が行う調理台100に設けられている。以下では、図2などにおいて「上」、「下」、「左」、「右」、「前」、「後」の矢印で示す通りに各方向を規定する。つまり、調理を行う調理担当者H1が調理スペースS1(調理台100の上面101及びその上方の空間)を見たときの方向に基づいて、上下、左右、前後の各方向を定義するが、これらの方向は厨房支援システム1の使用時の方向を規定する趣旨ではない。図面中の各方向を示す矢印は説明のために表記しているに過ぎず、実体を伴わない。
投影装置2は、例えば調理台100の前側に配置される支柱10に支持されており、調理台100の上方に配置されている。投影装置2は、調理スペースS1に向かって、つまり調理台100の上面101に向かって映像を投影する。本実施形態では、投影装置2は、投影した映像をミラー21で反射させることで、調理台100の上面に映像を投影しているが、調理台100の上面に映像を直接投影してもよい。また、投影装置2は、調理台100と一体に設けられてもよい。
第1撮像装置4は、調理台100の上面101(調理スペースS1)を上方から撮像可能なように、支柱10の上側に取り付けられている。第1撮像装置4は、例えばCCD(Charge Coupled Device)イメージセンサ、CMOS(Complementary MOS)イメージセンサなどの撮像素子を備えている。第1撮像装置4は、調理台100の上面101のカラー映像を撮像するが、モノクロ映像を撮像するものでもよい。
第2撮像装置5は、調理台100の上面101の前端付近に、調理台100の上面101を撮像可能なように、配置されている。第2撮像装置5は、調理台100の上面10と、その上側の空間とを含む領域を撮像する。第2撮像装置5のケース50の前面には、赤外線照射部51と、赤外線カメラ52と、RGBカメラ53とが配置されている(図3参照)。
RGBカメラ53は、所定のフレームレート(例えば1秒間に10〜80フレーム)で、調理スペースS1の二次元のカラー画像を撮像する。赤外線照射部51と赤外線カメラ52とで、例えばTOF(Time of Flight)方式により距離計測を行う距離画像センサが構成される。赤外線照射部51は調理スペースS1に赤外線を照射する。赤外線カメラ52は、例えばCCDイメージセンサ、CMOSイメージセンサなどの受光素子を有しており、赤外光を受光する。赤外線カメラ52は、RGBカメラ53と同じ方向を向くように配置されている。赤外線カメラ52は、赤外線照射部51からの照射光を調理スペースS1にある物体(食材、調理器具、調理担当者H1の手など)が反射した反射光を受光する。赤外線照射部51から照射された赤外光が赤外線カメラ52で受光されるまでの時間をもとに物体までの距離を計測できる。したがって、RGBカメラ53で撮像された二次元のカラー画像と、赤外線照射部51と赤外線カメラ52とで求めた物体までの距離とを組み合わせることで、調理スペースS1にある物体と赤外線カメラ52との距離を求めることができる。第2撮像装置5は、調理スペースS1を映した二次元のカラー画像と、調理スペースS1にある物体までの距離の情報を含む奥行き画像(距離画像)とを制御装置3に出力する。ここにおいて、奥行き画像とは、物体までの距離を濃淡で表した濃淡画像である。
マイク6は、調理担当者H1が発する音声などの音を電気信号に変換して制御装置3に出力する。
スピーカ7は、制御装置3から入力される電気信号を音に変換して出力する。
マイク6及びスピーカ7は、投影装置2の本体、支柱10、第2撮像装置5のケース50、又は調理台100などに取り付けられていればよい。また、マイク6とスピーカ7とが設けられたヘッドセットを調理担当者H1が装着してもよく、この場合はマイク6及びスピーカ7と制御装置3とがBluetooth(登録商標)などの近距離無線方式で無縁通信を行えばよい。
記憶装置8はハードディスク、メモリカードなどの外部記憶装置である。記憶装置8は、複数の料理の各々で使用する使用食材、調理手順の情報を記憶する。また、記憶装置8は、投影装置2が投影する注文表示映像、調理指示映像などの料理関連映像、調理担当者H1が行う調理の過程を撮像した記録映像などを記憶する。例えば、料理の調理内容が変更されたり、新たな料理が追加された場合には、記憶装置8に記憶された料理の情報、後述する制御装置3のコンピュータシステムが実行するプログラムなどを更新すればよく、料理内容の変更や料理の追加に容易に対応できる。
制御装置3は、プロセッサ及びメモリを有するコンピュータシステムを備えている。コンピュータシステムのメモリに記録されたプログラムを、コンピュータシステムのプロセッサが実行することにより、音声対話部31、映像制御部32、物体検出部33、動作検出部34などの機能が実現される。プログラムは、メモリに予め記録されていてもよいし、インターネット等の電気通信回線を通して提供されてもよく、メモリカード等の記録媒体に記録されて提供されてもよい。また、制御装置3は通信部35を備えている。
音声対話部31は、音声合成モジュール311と音声認識モジュール312とを有している。音声合成モジュール311は、波形接続型音声合成、フォルマント合成などの合成方法を用いて音声を合成し、スピーカ7から出力する。音声認識モジュール312は、例えば隠れマルコフモデルを利用して、マイク6に入力された音声の内容を認識する。音声対話部31は、音声合成モジュール311と音声認識モジュール312とを用いて音声対話を行う。
映像制御部32は、投影装置2が調理スペースS1に向かって映像を投影する動作を制御する。映像制御部32は、料理に関連する料理関連映像を投影装置2に投影させる。
料理関連映像は、料理の注文内容を表す注文表示映像を含む。映像制御部32は、投影装置2を制御して、調理スペースS1において物体が置かれていない領域に注文表示映像を投影すればよい。映像制御部32は、複数の料理が注文されている場合、投影装置2を制御して、複数の料理の注文内容を表す注文表示映像を注文スペースS1に投影すればよい。また、注文表示映像には、注文された料理の詳細な内容を表示してもよい。例えば、客が注文する料理には、店側で料理内容を決めている料理(以下、基本メニューという)と、基本メニューの内容を客の個別注文に応じて一部変更した料理(以下、カスタムメニューという)とがある。カスタムメニューは、例えば基本メニューに追加の食材を入れた料理、又は、基本メニューに入っている食材(調味料を含む)の一部を減量又は増量したり、無くしたりした料理である。
また、料理関連映像は、料理の調理方法を指示する調理指示映像を含んでもよい。映像制御部32は、後述の物体検出部33が調理スペースS1に置かれた食材を検知しているときに、投影装置2を制御して、食材の上に調理指示映像を投影してもよい。
物体検出部33は、RGBカメラ53で撮像された映像と、赤外線カメラ52で撮像された映像とを用いて、調理スペースS1にある物体(食材、調理器具、調理担当者H1の手など)を検出する。物体検出部33は、例えば、RGBカメラ53で撮像された映像と背景画像との背景差分を行うことによって、背景画像には写っていない物体を検出する。また、物体検出部33は、赤外線カメラ52で撮像された距離画像をもとに、物体までの距離を求めることができる。したがって、物体検出部33は、RGBカメラ53で撮像された映像と、赤外線カメラ52で撮像された映像とを用いて、調理スペースS1にある物体と、この物体と赤外線カメラ52との間の距離とを求めることができる。
動作検出部34は、調理担当者H1の動作、例えば調理担当者H1が手を使って行う動作を検出する。動作検出部34は、物体検出部33が調理担当者H1の手を検出した場合に、調理担当者H1の手の動きをトレースすることで、調理担当者H1が行った動作(ジェスチャー)を検出する。
通信部35は、例えばファーストフード店のカウンタなどに設置されているキャッシュレジスタ90との間で通信を行う。通信部35は、例えばイーサネット(登録商標)の通信規格に準拠した通信モジュールを備える。キャッシュレジスタ90を操作する担当者が、客から料理の注文を受けて、キャッシュレジスタ90に料理の注文を入力すると、キャッシュレジスタ90は入力された料理の精算処理を行う。また、キャッシュレジスタ90は、店員が入力した、料理の注文内容を示す注文情報を厨房支援システム1に送信しており、この注文情報は通信部35によって受信される。
(2.2)動作
本実施形態の厨房支援システム1の動作について図面を参照しながら説明する。
本実施形態の厨房支援システム1の動作について図面を参照しながら説明する。
(2.2.1)注文内容の表示動作
本実施形態の厨房支援システム1が、料理の注文内容を調理スペースS1に投影する表示動作について、図4A〜図6Bを参照して説明を行う。
本実施形態の厨房支援システム1が、料理の注文内容を調理スペースS1に投影する表示動作について、図4A〜図6Bを参照して説明を行う。
調理担当者は、厨房支援システム1を利用して調理を行う場合、調理担当者の識別情報(例えば名前又はID(identity)番号など)を表す言葉をマイク6に向かって発する。調理担当者が発した言葉はマイク6によって電気信号に変換されて制御装置3に入力され、音声認識モジュール312で音声認識が行われる。制御装置3は、調理担当者が入力した識別情報をもとに、調理担当者ごとに累積の作業時間をカウントしており、累積の作業時間を、例えば調理作業の熟練度の推定に利用する。
また、制御装置3の通信部35がキャッシュレジスタ90から注文情報を受信すると、映像制御部32は、注文情報をもとに料理の注文内容を表す注文表示映像を作成し、投影装置2を制御して注文表示映像を調理スペースS1に向かって投影する。図4Aは、調理スペースS1である調理台100の上面101に投影された注文表示映像P11〜P14を示している。調理台100の上面101において、左側の領域A11には注文表示映像P11〜P14が表示され、左右方向の中央部において前側の領域A1には現在時刻が表示される。なお、領域A1には、調理を開始した時点からの経過時間が表示されてもよい。図4A〜図6Bでは、映像を投影する領域A1,A11,A12を点線で示しているが、領域を示す点線及び符号は投影されない。また、図4Aなどに示した注文表示映像P11〜P14は一例であり、注文表示映像P11〜P14の内容は、厨房支援システム1のユーザの要望などに応じて適宜変更が可能である。
注文表示映像P11〜P14はそれぞれ注文された料理を示し、長方形の枠内の前側には注文番号(#1,#2,#3,#4)が表示され、注文番号の後側(手前側)には料理の名称(例えばハンバーガー,チーズバーガー,Sバーガー)などが表示されている。映像制御部32は、領域A11の前側にいくほど注文番号が小さくなるような順番で複数の注文表示映像P11〜P14が並んだ映像を作成し、この映像を投影装置2に投影させている。注文された料理がカスタムメニューの場合には、料理名の下側に基本メニューからの変更内容(例えば、追加する食材、取り除く食材など)が表示されている。
このように、調理台100の上面101に、注文を受けて調理が終わっていない料理の注文内容を表す注文表示映像P11〜P14が表示されるので、調理担当者H1は、注文表示映像P11〜P14をもとに、調理が終わっていない料理を確認できる。しかも、調理台100の上面101に注文表示映像P11〜P14が表示されるので、調理を行っている手元と注文表示映像P11〜P14との間で視線を動かす量が少なくて済み、作業効率を向上させることができる。
ここで、制御装置3の物体検出部33は、調理スペースS1にある物体、例えば調理台100の上面101に置かれている物体や調理台100の上面101の上側に存在する物体(調理担当者の手H11など)を検出している。そして、映像制御部32は、物体検出部33の検出結果をもとに、投影装置2を制御して、調理台100の上面101において物体が存在しない領域(図4Aでは食材F1、調理担当者の手H11などが存在しない領域)に注文表示映像P11〜P14を投影する。図4Bに示すように、調理担当者が食材F1を調理台100の上面101において左側の領域に移動させると、映像制御部32は、物体検出部33の検出結果をもとに、投影装置2を制御して、上面101の右側の領域A12に注文表示映像P11〜P14を投影する。このように、注文表示映像P11〜P14が物体の上に投影されることがないので、注文表示映像P11〜P14の表示内容が見やすくなる。
調理担当者H1が、注文番号が1番の料理の調理を完了すると、例えば「1番完了」のように、1番の料理の調理が完了したことを表す言葉を発する。調理担当者H1が発した言葉はマイク6によって電気信号に変換されて制御装置3に入力され、音声認識モジュール312で音声認識が行われる。映像制御部32は、音声認識モジュール312の認識結果をもとに、1番の料理の調理が完了したと判断すると、図5Aに示すように、領域A11から1番の料理に対応した注文表示映像P11を消す。調理担当者H1は音声で指示を入力しているので、指示を入力するために釦などを手で操作する必要が無く、釦に触れなくて済むから衛生的である。また、調理担当者H1は音声で指示を入力できるので、その間も両手を使って作業を行うことができ、作業効率が向上する。なお、調理担当者H1が音声で指示するための言葉は一例であり、適宜変更が可能である。
そして、映像制御部32は、調理が終わっていない2番から5番の料理に対応した注文表示映像P12〜P15を投影装置2から領域A11に投影させる。なお、調理台100の上面101に表示可能な料理の数は限られており、図4Aでは、注文番号が5番の料理の注文表示映像は投影されていない。注文番号が1番の料理の調理が完了すると、図5Aに示すように、映像制御部32は、2番から5番の料理の注文表示映像P12〜P15を投影装置2から領域A11に投影させている。
調理担当者H1が、注文番号が3番の料理の調理を完了すると、例えば「3番完了」のように、3番の料理の調理が完了したことを表す言葉を発する。調理担当者H1が発した言葉はマイク6によって電気信号に変換されて制御装置3に入力され、音声認識モジュール312で音声認識が行われる。映像制御部32は、音声認識モジュール312の認識結果をもとに、3番の料理の調理が完了したと判断すると、図5Bに示すように、領域A11から3番の料理に対応した注文表示映像P13を消す。そして、映像制御部32は、調理が終わっていない2番と4番と5番の料理に対応した注文表示映像P12,P14,P15を投影装置2から領域A11に投影させる。
調理担当者H1が、注文番号が4番の料理の調理を完了すると、例えば「4番完了」のように、4番の料理の調理が完了したことを表す言葉を発する。調理担当者H1が発した言葉はマイク6によって電気信号に変換されて制御装置3に入力され、音声認識モジュール312で音声認識が行われる。映像制御部32は、音声認識モジュール312の認識結果をもとに、4番の料理の調理が完了したと判断すると、図6Aに示すように、領域A11から4番の料理に対応した注文表示映像P14を消す。そして、映像制御部32は、調理が終わっていない2番と5番の料理に対応した注文表示映像P12,P15を投影装置2から領域A11に投影させる。
ところで、調理担当者H1が、調理の完了を制御装置3に入力する方法は音声に限定されない。調理担当者H1は、予め決められた動作で調理の完了を制御装置3に入力してもよい。制御装置3の物体検出部33は、赤外線カメラ52及びRGBカメラ53で撮像された映像をもとに調理スペースS1における物体を検出している。動作検出部34は、物体検出部33で検出された物体が人(ここでは、調理担当者)の手H11である場合に、手H11の動きをトレースすることで調理担当者が行った動作を検出する。そして、制御装置3は、動作検出部34が検出した調理担当者の動作が予め設定された動作である場合、その動作に応じて投影装置2が投影する映像を変化させる。例えば制御装置3には、調理完了を入力する動作として、調理台100の上面101において注文表示映像の投影位置から横方向(調理スペースS1の外側に向かう方向)に手H11をスライドさせる動作が設定されている。図6Aに示すように、調理台100の上面101の左側に注文表示映像P12,P15が投影されている状態で、5番の料理の調理が完了した場合、調理担当者は、以下の動作を行って5番の料理の調理完了を入力する。調理担当者は、注文表示映像P15の投影位置に手H11を移動させた後、手H11を左側(注文表示映像P15の投影位置から上面101の左右の端のうち近い方に近付く方向であって、矢印D1の方向)にスライドさせる。調理担当者がこのような動作を行うと、制御装置3は、動作検出部34の検出結果をもとに、5番の料理の調理が完了したと判断し、図6Bに示すように、領域A11から5番の料理の注文表示映像P15を消す。そして、映像制御部32は、調理が終わっていない2番の料理に対応した注文表示映像P12を投影装置2から領域A11に投影させる。なお、調理の完了を入力するための動作は上記の動作に限定されず、調理台100の上面101において調理が完了した料理の注文表示映像の投影位置を、調理担当者が手で触れる動作でもよい。
その後、調理担当者H1が、注文番号が2番の料理の調理を完了すると、例えば「2番完了」のように、2番の料理の調理が完了したことを表す言葉を発する。調理担当者H1が発した言葉はマイク6によって電気信号に変換されて制御装置3に入力され、音声認識モジュール312で音声認識が行われる。映像制御部32は、音声認識モジュール312の認識結果をもとに、2番の料理の調理が完了したと判断すると、2番の料理に対応した注文表示映像P12を消す。ここで、注文を受けている料理を全て調理すれば、制御装置3の映像制御部32は、投影装置2に注文表示映像の投影を行わせず、調理台100の上面101には注文表示映像が表示されないから、調理担当者は調理待ちの料理がないことを確認できる。
(2.2.2)調理手順の表示動作
本実施形態の厨房支援システム1が、料理の調理手順を調理スペースS1に投影する表示動作について、図7A〜図11を参照して説明を行う。
本実施形態の厨房支援システム1が、料理の調理手順を調理スペースS1に投影する表示動作について、図7A〜図11を参照して説明を行う。
客から受ける料理の注文には基本メニュー及びカスタムメニューがあり、カスタムメニューの場合には料理内容が一品ごとに異なるので、調理担当者は、調理の手順に戸惑う場合がある。また、熟練していない調理担当者の場合には、基本メニューであっても、調理の手順に戸惑う場合がある。
そこで、本実施形態の厨房支援システム1では、料理(基本メニュー、カスタムメニューなど)の調理手順を投影装置2から調理スペースS1に投影することができる。
制御装置3の通信部35がキャッシュレジスタ90から料理の注文情報を受信すると、制御装置3は、注文情報をもとに、注文された料理の使用食材と調理手順を記憶装置8から読み込む。制御装置3は、注文された料理がカスタムメニューの場合、カスタムメニューの元になる基本メニューの使用食材と調理手順を記憶装置8から読み出し、これらに客の個別注文を反映させることによって、カスタムメニューの使用食材と調理手順を作成する。
制御装置3の映像制御部32は、図7Aに示すように、料理の注文内容を示す注文表示映像P16を、調理台100の上面101の左側の領域A13に投影する。注文表示映像P16では、長方形の枠内の前側には注文番号(#6)が表示され、注文番号の後側(手前側)には料理の名称(アラカルト)と、この料理の使用食材(調味料を含む)の一覧が表示されている。使用食材の一覧には、使用食材が使う順番に表示されている。図7Aの例では、料理に使用する食材として、上から順番に、バンズ、レタス、ビーフパテ、チェダーチーズ、トマト、マヨネーズ、バンズが記載されている。
調理担当者が、調理手順の表示を求める場合、例えば「アラカルトヘルプ」のように、料理の名称(アラカルト)に続けて「ヘルプ」と発話する。調理担当者が発した言葉はマイク6によって電気信号に変換されて制御装置3に入力され、音声認識モジュール312で音声認識が行われる。映像制御部32は、音声認識モジュール312の認識結果をもとに、調理手順の表示が要求されたと判断すると、表示手順を調理スペースS1(調理台100の上面101)に投影する動作を開始する。制御装置3は、調理担当者が言葉で発した指示を受け付けると、例えばビープ音などの音をスピーカ7から出力させ、調理担当者の指示を受け付けたことを調理担当者に報知してもよい。
映像制御部32は、調理台100の上面101において時刻表示の領域A1の手前側の領域A21に、調理手順を指示する調理指示映像P21(図7B参照)を投影装置2に投影させる。図7Bの例では、調理指示映像P21には、調理内容を文字で指示するメッセージ(例えば「最初にレタスをのせます」)と、この料理で使用する食材の映像とが表示されている。また、調理指示映像P21では、作業対象の食材を丸印で囲んで表示されており、後述する他の調理指示映像P22〜P25でも同様である。
調理担当者が、図7Bに示すように、調理台100の上面101にバンズF11を置くと、物体検出部33は、調理台100の上面101に置かれたバンズF11とその位置を検出する。物体検出部33がバンズF11を検出すると、映像制御部32は、投影装置2を制御して、次にのせるレタスの映像P31をバンズF11の上に投影する(図8A参照)。また、制御装置3では、音声合成モジュール311に「最初にレタスをのせます」との音声を合成させて、スピーカ7から出力させてもよい。投影装置2が、実際に置かれている食材の上に、次に置くべき食材の映像を投影しているので、調理担当者は次の作業を理解しやすく、作業効率が向上する。
なお、映像制御部32は、音声認識モジュール312の認識結果をもとに、調理手順の表示が要求されたと判断すると、調理担当者が最初におく食材、ここではバンズF11を置く前に、バンズの映像を調理台100の上面101の所定位置に投影させてもよい。この映像を見た調理担当者は、バンズの映像の上に、バンズF11を置くので、バンズF11の位置検出を行わなくてもよい、という利点がある。
図8A〜図11において、調理台100の上面101に実際に置かれている食材(F11〜F17)は実線で図示し、食材の上に投影された映像(P31〜P35)は点線で図示している。映像制御部32は、バンズF11と重ならないように、注文表示映像P16、調理指示映像P21、時刻映像の大きさや表示位置を変更するのが好ましい。映像制御部32は、食材などと重ならないように、注文表示映像P16、調理指示映像P21、時刻映像の表示位置を変更するので、注文表示映像P16、調理指示映像P21、時刻映像の大きさをできるだけ大きくでき、表示内容が見やすくなる。
調理担当者は、図8Bに示すように、バンズF11の上に投影されたレタスの映像P31の位置(つまりバンズF11の上)にレタスF12を置き、例えば「その次は」のように、次の手順の表示を求める言葉を発する。調理担当者が発した言葉はマイク6によって電気信号に変換されて制御装置3に入力され、音声認識モジュール312で音声認識が行われる。また、物体検出部33が、バンズF11の上に置かれたレタスF12とその位置を検出する。映像制御部32は、音声認識モジュール312の認識結果をもとに、次の調理手順の表示が要求されたと判断すると、投影装置2から領域A21に次の調理手順を指示する調理指示映像P22を投影させる。調理指示映像P22には、調理内容を文字で指示するメッセージ(例えば「次にビーフパテをのせます」)が表示される。制御装置3の映像制御部32は、投影装置2に、次にのせるビーフパテの映像P32をレタスF12の上に投影させる。また、制御装置3では、音声合成モジュール311に「次にビーフパテをのせます」との音声を合成させて、スピーカ7から出力させてもよい。
調理担当者が、図9Aに示すように、レタスF12の上に投影されたビーフパテの映像P32の位置(つまり、レタスF12の上)にビーフパテF13を置き、例えば「その次は」のように、次の手順の表示を求める言葉を発する。調理担当者が発した言葉はマイク6によって電気信号に変換されて制御装置3に入力され、音声認識モジュール312で音声認識が行われる。また、物体検出部33が、レタスF12の上に置かれたビーフパテF13とその位置を検出する。映像制御部32は、音声認識モジュール312の認識結果をもとに、次の調理手順の表示が要求されたと判断すると、投影装置2から領域A21に次の調理手順を指示する調理指示映像P23を投影させる。調理指示映像P23には、調理内容を文字で指示するメッセージ(例えば「チーズをのせます」)が表示される。制御装置3の映像制御部32は、投影装置2に、次にのせるチーズの映像P33をビーフパテF13の上に投影させる。また、制御装置3では、音声合成モジュール311に「チーズをのせます」との音声を合成させて、スピーカ7から出力させてもよい。
調理担当者が、図9Bに示すように、ビーフパテF13の上に投影されたチーズの映像P33の位置(つまり、ビーフパテF13の上)にチーズF14を置き、例えば「その次は」のように、次の手順の表示を求める言葉を発する。また、物体検出部33が、ビーフパテF13の上に置かれたチーズF14とその位置を検出する。調理担当者が発した言葉はマイク6によって電気信号に変換されて制御装置3に入力され、音声認識モジュール312で音声認識が行われる。映像制御部32は、音声認識モジュール312の認識結果をもとに、次の調理手順の表示が要求されたと判断すると、投影装置2から領域A21に次の調理手順を指示する調理指示映像P24を投影させる。調理指示映像P24には、調理内容を文字で指示するメッセージ(例えば「トマトを重ねます」)が表示される。制御装置3の映像制御部32は、投影装置2に、次にのせるトマトの映像P34をチーズF14の上に投影させる。また、制御装置3では、音声合成モジュール311に「トマトを重ねます」との音声を合成させて、スピーカ7から出力させてもよい。
調理担当者が、図10Aに示すように、チーズF14の上に投影されたトマトの映像P34の位置(つまり、チーズF14の上)に、トマトF15を置き、例えば「その次は」のように、次の手順の表示を求める言葉を発する。また、物体検出部33が、チーズF14の上に置かれたトマトF15とその位置を検出する。調理担当者が発した言葉はマイク6によって電気信号に変換されて制御装置3に入力され、音声認識モジュール312で音声認識が行われる。映像制御部32は、音声認識モジュール312の認識結果をもとに、次の調理手順の表示が要求されたと判断すると、投影装置2から領域A21に次の調理手順を指示する調理指示映像P25を投影させる。調理指示映像P25には、調理内容を文字で指示するメッセージ(例えば「マヨネーズをかけます」)が表示される。制御装置3の映像制御部32は、投影装置2に、トマトF15の上にかけられたマヨネーズの映像をトマトF15の上に投影させる。また、制御装置3では、音声合成モジュール311に「マヨネーズをかけます」との音声を合成させて、スピーカ7から出力させてもよい。
調理担当者は、図10Bに示すように、トマトF15の上に投影されたマヨネーズの映像P34をなぞるように、ボトルB1を動かして、トマトF15の上にマヨネーズF16をかける。このように、調理担当者は、マヨネーズがかけられた映像P34を見ながら、実際にマヨネーズF16をかけているので、マヨネーズF16の量がばらつきにくくなり、またトマトF15の上に全体的にマヨネーズF16をかけることができるので、品質のばらつきを低減できる。
調理担当者が、図11に示すように、最後にバンズF17をのせ、例えば「6番完了」のように、6番の料理の調理が完了したことを表す言葉を発する。調理担当者H1が発した言葉はマイク6によって電気信号に変換されて制御装置3に入力され、音声認識モジュール312で音声認識が行われる。映像制御部32は、音声認識モジュール312の認識結果をもとに、6番の料理の調理が完了したと判断すると、図11に示すように、6番の料理に対応した注文表示映像P16及び調理指示映像P25を消し、制御装置3は、調理手順の表示動作を終了する。
このように、厨房支援システム1は、調理手順を文字で表示する映像を、投影装置2から調理スペースS1に投影させているので、調理に熟練していない調理担当者でも容易に調理を行うことができ、調理担当者による品質のばらつきを低減できる。また、厨房支援システム1は、次の調理手順を示す調理指示映像(P21〜P25,P31〜P35)を調理スペースS1(調理台100の上面101又は食材の上)に投影しているので、調理担当者は、調理指示映像にしたがって調理を行えばよい。したがって、調理担当者は、次の調理作業を容易に理解でき、調理担当者の技量向上や作業効率の向上を図ることができる。
(2.2.3)調理手順の記録動作
本実施形態の厨房支援システム1は、調理スペースS1を上側から撮像する第1撮像装置4を備えており、第1撮像装置4が撮像した記録映像を、記憶装置8に記録しておくことができる。
本実施形態の厨房支援システム1は、調理スペースS1を上側から撮像する第1撮像装置4を備えており、第1撮像装置4が撮像した記録映像を、記憶装置8に記録しておくことができる。
本実施形態の厨房支援システム1は、音声対話部31を備えているが、少なくとも音声認識モジュール312を備えていればよい。音声合成モジュール311は厨房支援システム1に必須の構成ではなく、適宜省略が可能である。厨房支援システム1は、音声合成モジュール311が音声合成した音声メッセージをスピーカ7から出力させる代わりに、音声メッセージの内容を文字で表す映像を投影装置2に投影させればよい。また、厨房支援システム1は、調理担当者からの指示が音声又は動作などで入力されると、指示を受け付けたことを示すビープ音などの報知音をスピーカ7から出力させてもよい。
制御装置3は、1品の料理を調理する場合に、調理の始めから終わりまでの間の複数の段階で、第1撮像装置4に調理スペースS1を上側から撮像させている。例えば複数の食材を重ねて作られるハンバーガーの場合、新たな食材を重ねて置くたびに第1撮像装置4に調理スペースS1を撮像させればよい。制御装置3は、第1撮像装置4が撮像した記録映像を、記録映像の時間情報及び調理担当者の識別情報と対応付けて記憶装置8に記憶させる。ここで、記録映像の時間情報とは、この記録映像が撮像された撮影日(つまり調理日)、撮影時刻(つまり調理時刻)、及び調理を開始した時点からの経過時間のうちの少なくとも1つの情報を含んでいればよい。なお、記憶装置8は、調理担当者ごとに作成したフォルダに、この調理担当者が担当した調理の記録映像を記憶してもよい。
そして、厨房支援システム1の使用者(調理担当者など)が、調理担当者と表示対象の料理及び調理日時などを指定して記録映像の出力を音声などで指示すると、制御装置3は、記憶装置8から、指定された条件に対応する記録映像を抽出する。そして、制御装置3は、投影装置2に、記憶装置8から抽出した記録映像を調理台100の上面101へ投影させる。
図12は、11種類の食材F20〜F30を使って作られるハンバーガーの調理過程を記録した記録映像L1〜L11である。調理担当者が新たな食材を重ねて置くたびに、制御装置3は、第1撮像装置4に調理スペースを撮像させ、第1撮像装置4が撮像した記録映像を、時間情報及び調理担当者の識別情報と対応付けて記憶装置8に記憶させる。制御装置3は、このハンバーガーの調理過程を記録した記録映像L1〜L11の表示を要求されると、記憶装置8から記録映像L1〜L11を読み出し、投影装置2に記録映像L1〜L11を調理台100の上面101へ投影させる。
ここで、映像制御部32は、投影装置2を制御して、記録映像L1〜L11の撮像時刻(調理時刻)を、記録映像L1〜L11と重ねて投影しているので、記録映像L1〜L11が撮像された撮像時刻を容易に確認できる。なお、図12では、記録映像L1〜L11の撮像時刻(調理時刻)が、記録映像L1〜L11と重ねて投影されているが、調理開始からの経過時間が記録映像L1〜L11と重ねて投影されてもよい。また、調理日、調理時刻、調理開始からの経過時間のうちの2つ以上が記録映像L1〜L11と重ねて投影されてもよい。
これらの記録映像L1〜L11をもとに調理過程を把握できるから、トレーサビリティが向上する。これらの記録映像L1〜L11をもとに、例えば調理過程で異物が混入しているか否か、調理手順が間違っていないかを後から確認できる。また、これらの記録映像L1〜L11を、調理作業の品質の確認や作業内容の改善などにも利用できる。
なお、図12の例では記録映像L1〜L11の撮像時刻を、記録映像L1〜L11と重ねて投影しているが、記録映像L1〜L11の撮像日時を、記録映像L1〜L11と重ねて投影してもよい。
また、制御装置3は、制御装置3と通信可能なコンピュータ端末に、記憶装置8に記憶された記録映像を出力してもよく、コンピュータ端末を用いて記録映像を確認することができる。
(2.2.4)調理ガイドの表示動作
本実施形態の厨房支援システム1は、料理の下ごしらえ、例えば料理に使用する食材のカット作業の支援にも利用できる。
本実施形態の厨房支援システム1は、料理の下ごしらえ、例えば料理に使用する食材のカット作業の支援にも利用できる。
図13Aに示すように、調理台100の上面101にキュウリF31が置かれている場合に、制御装置3の映像制御部32は、投影装置2に、キュウリF31を輪切りにするときのカット位置を示す補助線P41をキュウリF41の上に投影させてもよい。
調理担当者が、キュウリF31のカット作業の調理ガイドを行うように指示する音声を発すると、調理担当者が発した言葉はマイク6によって電気信号に変換されて制御装置3に入力され、音声認識モジュール312で音声認識が行われる。制御装置3は、調理担当者が音声で入力した指示に従って調理ガイドの表示を開始する。制御装置3の物体検出部33が調理台100の上面101に置かれたキュウリF31の位置を検出すると、映像制御部32は、投影装置2を制御して、キュウリF31の上に補助線P41を一定の間隔(例えば5mm間隔)で投影する。調理担当者は、補助線P41に沿ってキュウリF31を包丁などでカットすればよいので、キュウリF31を一定の間隔で輪切りすることができる。また、制御装置3は、物体検出部33の検出結果に基づいてキュウリF31の大きさを認識できるので、キュウリF31の長さや太さに応じて、キュウリF1の上に投影する補助線P41の開始位置や間隔などを調整することができる。
また、本実施形態の厨房支援システム1は、料理に使用する食材の大きさの管理にも利用できる。例えば、料理の食材としてキャベツF32を使用する場合に、映像制御部32は、投影装置2を制御して、キャベツF32の大きさの最小限度を示す補助線P42と、最大限度を示す補助線P43とをキャベツF32の上に投影する。調理担当者は、調理に使用するキャベツF32が補助線P42よりも小さかったり、補助線P43よりも大きかったりする場合は、このキャベツF32を規格外と判断して取り替える。これにより、大きさが所定範囲に収まる食材を使用できるので、料理に使用する食材の大きさのばらつきを低減できる。
また、本実施形態の厨房支援システム1は、デザートの盛り付け作業や、ラテアートの作成作業の調理支援にも適用できる。
図14Aは、デザートの盛り付け作業を支援する場合に投影する映像を示している。制御装置3は、デザートの盛り付け作業を支援する指示を受け付けると、映像制御部32が、投影装置2を制御して、デザート皿D10に盛り付けられたケーキの映像P51と、デザート皿D10に描かれた模様の映像P52とをデザート皿D10に投影する。調理担当者は、デザート皿D10に投影された映像P51,P52にしたがって、ケーキを盛り付けたり、チョコレートなどのソースで模様を描いたりすればよく、作業に熟練していない調理担当者でもデザートの盛り付け作業を容易に行うことができる。
また、図14Bは、ラテアートの作成作業を支援する場合に投影する映像を示している。カップC1には、例えばエスプレッソの上にスチームしたミルクが入っている。制御装置3は、ラテアートの作成作業を支援する指示を受け付けると、映像制御部32が、投影装置2を制御して、カップC1に入ったミルクの上にラテアートで作成する模様の映像P53を投影する。調理担当者は、映像P53にしたがって、ピックなどの器具を使って模様を描けばよく、作業に熟練していない調理担当者でもラテアートの作成作業を容易に行うことができる。
(3)変形例
以下に、上記実施形態の変形例に係る厨房支援システムを列記する。なお、以下に説明する変形例の各構成は、上記実施形態で説明した各構成と適宜組み合わせて適用可能である。
以下に、上記実施形態の変形例に係る厨房支援システムを列記する。なお、以下に説明する変形例の各構成は、上記実施形態で説明した各構成と適宜組み合わせて適用可能である。
上記実施形態の厨房支援システム1では、調理担当者が、調理スペースS1において、1つの料理を調理しているが、複数の料理(同一種類の複数の料理、又は2以上の種類の複数の料理)の調理を並行して行ってもよい。この場合、映像制御部32は、投影装置2を制御して、複数の料理に対応する複数の調理指示映像を調理スペースS1に投影すればよい。
投影装置2が投影する映像中の言葉の言語は日本語に限定されず、英語、中国語、フランス語、ドイツ語、スペイン語、韓国語などの多種の言語から選択可能であり、調理担当者に応じて適宜変更が可能である。また、音声対話部31が音声対話を行う言語も日本語に限定されず、英語、中国語、フランス語、ドイツ語、スペイン語、韓国語などの多種の言語から選択可能である。
映像制御部32は、投影装置2を制御して、調理台100の上面101に、タイマー表示のための映像を投影してもよい。例えば、映像制御部32は、揚げ物、煮物などの時間をカウントダウンする映像を投影装置2から調理台100の上面101に投影させてもよく、上面101に表示されたカウントダウンの映像を見て、揚げ物、煮物などの調理を行うことができる。
映像制御部32は、調理指示映像などの料理関連情報は調理担当者ごとに変化させてもよい。映像制御部32は、例えば、調理担当者の熟練度に応じて調理指示映像などの料理関連情報を変化させてもよく、調理担当者の熟練度が低いほど詳細な内容の調理指示映像を投影すればよい。
第2撮像装置5の赤外線照射部51は測距領域の全体に赤外光を照射させ、赤外線カメラ52は物体による反射光を面で受光しているが、赤外線照射部51が赤外光を照射する方向を測距領域内でスイープさせ、赤外線カメラ52が物体による反射光を1点で受光してもよい。
第2撮像装置5の赤外線照射部51と赤外線カメラ52とはTOF方式で物体までの距離を計測しているが、パターン照射方式(Light Coding方式)で距離を計測してもよいし、ステレオカメラで距離を計測してもよい。
物体検出部33は、RGBカメラ53で撮像された映像と、赤外線カメラ52で撮像された映像とを用いて、調理スペースS1にある物体を検出しているが、第1撮像装置4で撮像された映像をもとに、調理スペースS1にある物体を検出してもよい。物体検出部33は、例えば、第1撮像装置4で撮像された映像と背景画像との背景差分を行うことで、調理スペースS1にある物体を検出することができる。また、物体検出部33は、第1撮像装置4で撮像された映像とRGBカメラ53で撮像された映像との両方に基づいて、調理スペースS1にある物体を検出してもよい。さらに、物体検出部33は、RGBカメラ53で撮像された映像と、赤外線カメラ52で撮像された映像と、第1撮像装置4で撮像された映像との少なくとも1つを用いて、調理スペースS1にある物体を検出してもよい。
上記実施形態の厨房支援システム1では、制御装置3が音声認識装置(音声認識モジュール312)の機能を備えているが、制御装置3と音声認識装置とが別々の筐体を有していてもよい。また、制御装置3と投影装置2とが別々の筐体を有しているが、制御装置3と、音声認識装置(音声認識モジュール312)と、投影装置2とが別々の筐体を有する構成でもよいし、一部の構成要素が分散して設けられていてもよい。つまり、厨房支援システム1の構成要素は、複数の筐体に分散して設けられていてもよい。さらに、例えば、第2撮像装置5などの個々の構成要素についても、1つの筐体内に集約されていることは厨房支援システム1に必須の構成ではなく、個々の構成要素が複数の筐体に分散して設けられていてもよい。
上記実施形態の厨房支援システム1は、ファーストフード店の調理場で用いられているが、レストラン、ホテルなどの調理場で用いられてもよい。また、実施形態の厨房支援システム1は、スーパーマーケットのバックヤードに設けられた総菜の調理場などで用いられてもよく、この場合はコンピュータ端末などの入力装置を用いて、料理の注文内容を制御装置3に入力すればよい。
また、上記実施形態の厨房支援システム1は、客などから料理の注文、発注を受けて調理を行う店などで利用されるものに限定されず、一般家庭において利用されてもよい。この場合、厨房支援システム1の利用者が、調理する料理の料理内容を決めて、制御装置3に入力すると、制御装置3が入力された料理内容にしたがって、調理支援を行うための映像を調理スペースに投影する。
また、上記実施形態の厨房支援システム1では、投影装置2が注文表示映像などの料理関連映像を調理スペースS1に投影しているが、料理関連映像の一部を別の表示装置に表示させてもよい。別の表示装置は、調理スペースS1の周囲に設置された液晶ディスプレイ装置、タブレット端末などである。映像制御部32が、注文表示映像や調理マニュアルなどを別の表示装置に表示させれば、食材、食材をのせる皿、食材を入れる容器などの上に投影する映像以外で、調理台100の上面101に投影される映像を少なくでき、調理台100の上面101を有効に利用できる。
(4)まとめ
以上説明したように、第1の態様の厨房支援システム(1)は、投影装置(2)と、音声認識装置(312)と、制御装置(3)とを備える。投影装置(2)は、調理を行う調理スペースに向かって映像を投影する。音声認識装置(312)は、入力された音声の内容を認識する。制御装置(3)は、料理の注文内容を表す注文表示映像を含む料理に関連する料理関連映像を投影装置(2)に投影させる。制御装置(3)は、音声認識装置(312)の認識結果に応じて投影装置(2)が投影する料理関連映像を変化させる。
以上説明したように、第1の態様の厨房支援システム(1)は、投影装置(2)と、音声認識装置(312)と、制御装置(3)とを備える。投影装置(2)は、調理を行う調理スペースに向かって映像を投影する。音声認識装置(312)は、入力された音声の内容を認識する。制御装置(3)は、料理の注文内容を表す注文表示映像を含む料理に関連する料理関連映像を投影装置(2)に投影させる。制御装置(3)は、音声認識装置(312)の認識結果に応じて投影装置(2)が投影する料理関連映像を変化させる。
第1の態様によれば、投影装置(2)が調理スペースに向かって料理関連映像を投影するので、調理担当者は、調理中に料理関連映像を見る際に、調理を行っている手元から視線を動かす量が少なくなり、作業効率を向上させることができる。調理担当者は、料理関連映像を変化させるために音声で指示すればよく、音声で指示を出す間も両手を使って調理を行えるので、作業効率を向上させることができる。
第2の態様の厨房支援システム(1)では、第1の態様において、制御装置(3)は、料理の調理が完了したことを表す音声が音声認識装置(312)に入力されたとき、投影装置(2)に投影させる料理関連映像から調理が完了した料理の注文内容を削除するように注文表示映像を変化させる。
第2の態様によれば、調理担当者は、調理が完了した料理の注文内容を削除することを音声で指示すればよく、音声で指示を出す間も両手を使って調理を行えるので、作業効率を向上させることができる。
第3の態様の厨房支援システム(1)は、第1又は第2の態様において、料理の調理担当者の動作を検出する動作検出部(34)を、更に備える。制御装置(3)は、動作検出部(34)によって料理の調理が完了したことを表す動作が検出されたとき、投影装置(2)に投影させる料理関連映像から調理が完了した料理の注文内容を削除するように注文表示映像を変化させる。
第3の態様によれば、調理担当者は、調理が完了した料理の注文内容を削除することを動作で指示すればよく、操作釦などを手で操作しなくてもよいので、衛生的である。
第4の態様の厨房支援システム(1)は、第1〜第3のいずれかの態様において、調理スペースにある物体を検出する物体検出部(33)を、更に備える。
第4の態様によれば、投影装置が投影する調理スペースにある物体を、物体検出部(33)で検出することができる。
第5の態様の厨房支援システム(1)では、第4の態様において、制御装置(3)は、調理スペースにおいて物体検出部(33)によって検出された物体と重ならない領域に、注文表示映像を投影するように投影装置(2)を制御する。
第5の態様によれば、物体と重ならない領域に注文表示映像が投影されるので、注文表示映像を見やすくなる。
第6の態様の厨房支援システム(1)では、第4又は第5の態様において、制御装置(3)は、物体検出部(33)によって検出された物体が食材であるときに、食材の上に、料理の調理方法を指示する調理指示映像を投影するように投影装置(2)を制御する。
第6の態様によれば、調理担当者は、食材の上に投影された調理指示映像にしたがって調理を行えるので、調理に熟練していない調理担当者でも容易に調理を行うことができる。
第7の態様の厨房支援システム(1)では、第1〜第6のいずれかの態様において、撮像装置(6)と、記憶装置(7)と、を更に備える。撮像装置(6)は調理スペースを撮像する。記憶装置(7)は、撮像装置(6)が撮像した記録映像を、記録映像の時間情報と料理の調理担当者の識別情報との少なくとも一方と対応付けて記憶する。
第7の態様によれば、記憶装置(7)に記憶された記録映像をもとに、調理担当者が行った調理作業についてトレーサビリティが向上する。
1 厨房支援システム
2 投影装置
3 制御装置
4 第1撮像装置(撮像装置)
5 第2撮像装置
8 記憶装置
312 音声認識モジュール(音声認識装置)
32 映像制御部
33 物体検出部
34 動作検出部
100 調理台
101 上面
S1 調理スペース
F1 食材(物体)
H1 調理担当者
2 投影装置
3 制御装置
4 第1撮像装置(撮像装置)
5 第2撮像装置
8 記憶装置
312 音声認識モジュール(音声認識装置)
32 映像制御部
33 物体検出部
34 動作検出部
100 調理台
101 上面
S1 調理スペース
F1 食材(物体)
H1 調理担当者
Claims (7)
- 調理を行う調理スペースに向かって映像を投影する投影装置と、
入力された音声の内容を認識する音声認識装置と、
料理の注文内容を表す注文表示映像を含む前記料理に関連する料理関連映像を前記投影装置に投影させ、前記音声認識装置の認識結果に応じて前記投影装置が投影する前記料理関連映像を変化させる制御装置と、を備える
厨房支援システム。 - 前記制御装置は、前記料理の調理が完了したことを表す音声が前記音声認識装置に入力されたとき、前記投影装置に投影させる前記料理関連映像から調理が完了した前記料理の注文内容を削除するように前記注文表示映像を変化させる
請求項1に記載の厨房支援システム。 - 前記料理の調理担当者の動作を検出する動作検出部を、更に備え、
前記制御装置は、前記動作検出部によって前記料理の調理が完了したことを表す動作が検出されたとき、前記投影装置に投影させる前記料理関連映像から調理が完了した前記料理の注文内容を削除するように前記注文表示映像を変化させる
請求項1又は2に記載の厨房支援システム。 - 前記調理スペースにある物体を検出する物体検出部を、更に備える、
請求項1〜3のいずれか1項に記載の厨房支援システム。 - 前記制御装置は、前記調理スペースにおいて前記物体検出部によって検出された前記物体と重ならない領域に、前記注文表示映像を投影するように前記投影装置を制御する
請求項4に記載の厨房支援システム。 - 前記制御装置は、前記物体検出部によって検出された物体が食材であるときに、前記食材の上に、前記料理の調理方法を指示する調理指示映像を投影するように前記投影装置を制御する
請求項4又は5に記載の厨房支援システム。 - 前記調理スペースを撮像する撮像装置と、
前記撮像装置が撮像した記録映像を、前記記録映像の時間情報と前記料理の調理担当者の識別情報との少なくとも一方と対応付けて記憶する記憶装置と、を更に備える
請求項1〜6のいずれか1項に記載の厨房支援システム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017023325A JP2018128979A (ja) | 2017-02-10 | 2017-02-10 | 厨房支援システム |
US15/881,832 US20180232202A1 (en) | 2017-02-10 | 2018-01-29 | Kitchen support system |
CN201810086610.6A CN108416703A (zh) | 2017-02-10 | 2018-01-29 | 厨房支援系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017023325A JP2018128979A (ja) | 2017-02-10 | 2017-02-10 | 厨房支援システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018128979A true JP2018128979A (ja) | 2018-08-16 |
Family
ID=63105193
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017023325A Pending JP2018128979A (ja) | 2017-02-10 | 2017-02-10 | 厨房支援システム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20180232202A1 (ja) |
JP (1) | JP2018128979A (ja) |
CN (1) | CN108416703A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020261028A1 (ja) * | 2019-06-25 | 2020-12-30 | 株式会社半導体エネルギー研究所 | 情報処理システム、および情報処理方法 |
JP2022503701A (ja) * | 2018-09-13 | 2022-01-12 | ベステル エレクトロニク サナイー ベ ティカレト エー.エス. | 画像を表面上に投影する方法および頭上支持構造 |
JP2022022554A (ja) * | 2020-06-26 | 2022-02-07 | 一般社団法人西日本ハンバーガー協会 | ハンバーガー提供システム |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11410638B1 (en) * | 2017-08-30 | 2022-08-09 | Amazon Technologies, Inc. | Voice user interface for nested content |
CN209374052U (zh) * | 2018-09-27 | 2019-09-10 | 中强光电股份有限公司 | 智能语音系统 |
US11100926B2 (en) | 2018-09-27 | 2021-08-24 | Coretronic Corporation | Intelligent voice system and method for controlling projector by using the intelligent voice system |
US11087754B2 (en) * | 2018-09-27 | 2021-08-10 | Coretronic Corporation | Intelligent voice system and method for controlling projector by using the intelligent voice system |
CN109597601A (zh) * | 2018-12-03 | 2019-04-09 | 苏州提点信息科技有限公司 | 一种支持语音操作的厨房显示系统 |
KR20200080389A (ko) | 2018-12-18 | 2020-07-07 | 삼성전자주식회사 | 전자 장치 및 그 제어 방법 |
CN110428829A (zh) * | 2019-07-12 | 2019-11-08 | 深圳技术大学 | 云语音控制炒菜机器人的方法及装置 |
JP7236644B2 (ja) * | 2019-10-01 | 2023-03-10 | パナソニックIpマネジメント株式会社 | 加熱調理器 |
CN112493522B (zh) * | 2020-12-15 | 2023-11-10 | 广州富港生活智能科技有限公司 | 食品制作互动方法、计算机可读存储介质及食品制作设备 |
US11544925B1 (en) * | 2021-09-01 | 2023-01-03 | GOPIZZA Inc. | Kitchen system with food preparation station |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006314531A (ja) * | 2005-05-12 | 2006-11-24 | Cleanup Corp | システムキッチン |
JP2010191745A (ja) * | 2009-02-19 | 2010-09-02 | Seiko Epson Corp | 調理支援装置、および調理支援方法 |
JP2011118684A (ja) * | 2009-12-03 | 2011-06-16 | Toshiba Tec Corp | 調理補助端末及びプログラム |
WO2014033979A1 (ja) * | 2012-08-27 | 2014-03-06 | 日本電気株式会社 | 情報提供装置、情報提供方法、及び、プログラム |
WO2016125359A1 (ja) * | 2015-02-03 | 2016-08-11 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
WO2016171213A1 (ja) * | 2015-04-22 | 2016-10-27 | 栄司 田中 | 生産管理装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100231506A1 (en) * | 2004-09-07 | 2010-09-16 | Timothy Pryor | Control of appliances, kitchen and home |
US10114609B2 (en) * | 2012-05-31 | 2018-10-30 | Opportunity Partners Inc. | Computing interface for users with disabilities |
US8977555B2 (en) * | 2012-12-20 | 2015-03-10 | Amazon Technologies, Inc. | Identification of utterance subjects |
WO2015098189A1 (ja) * | 2013-12-27 | 2015-07-02 | ソニー株式会社 | 表示制御装置、表示制御方法及びプログラム |
US20170249061A1 (en) * | 2016-02-29 | 2017-08-31 | Lampix | Method and Apparatus for Providing User Interfaces with Computerized Systems and Interacting with a Virtual Environment |
-
2017
- 2017-02-10 JP JP2017023325A patent/JP2018128979A/ja active Pending
-
2018
- 2018-01-29 US US15/881,832 patent/US20180232202A1/en not_active Abandoned
- 2018-01-29 CN CN201810086610.6A patent/CN108416703A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006314531A (ja) * | 2005-05-12 | 2006-11-24 | Cleanup Corp | システムキッチン |
JP2010191745A (ja) * | 2009-02-19 | 2010-09-02 | Seiko Epson Corp | 調理支援装置、および調理支援方法 |
JP2011118684A (ja) * | 2009-12-03 | 2011-06-16 | Toshiba Tec Corp | 調理補助端末及びプログラム |
WO2014033979A1 (ja) * | 2012-08-27 | 2014-03-06 | 日本電気株式会社 | 情報提供装置、情報提供方法、及び、プログラム |
WO2016125359A1 (ja) * | 2015-02-03 | 2016-08-11 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
WO2016171213A1 (ja) * | 2015-04-22 | 2016-10-27 | 栄司 田中 | 生産管理装置 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022503701A (ja) * | 2018-09-13 | 2022-01-12 | ベステル エレクトロニク サナイー ベ ティカレト エー.エス. | 画像を表面上に投影する方法および頭上支持構造 |
WO2020261028A1 (ja) * | 2019-06-25 | 2020-12-30 | 株式会社半導体エネルギー研究所 | 情報処理システム、および情報処理方法 |
US11922690B2 (en) | 2019-06-25 | 2024-03-05 | Semiconductor Energy Laboratory Co., Ltd. | Data processing system and data processing method |
JP2022022554A (ja) * | 2020-06-26 | 2022-02-07 | 一般社団法人西日本ハンバーガー協会 | ハンバーガー提供システム |
Also Published As
Publication number | Publication date |
---|---|
US20180232202A1 (en) | 2018-08-16 |
CN108416703A (zh) | 2018-08-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2018128979A (ja) | 厨房支援システム | |
JP2019075009A (ja) | 作業支援システム、厨房支援システム、作業支援方法、及びプログラム | |
TWI729289B (zh) | 就餐結算方法、智慧點餐設備以及智慧餐廳支付系統 | |
US9286727B2 (en) | System and method for presenting true product dimensions within an augmented real-world setting | |
JP4928592B2 (ja) | 画像処理装置及びプログラム | |
US10341642B2 (en) | Display device, control method, and control program for stereoscopically displaying objects | |
US20130171304A1 (en) | System and method for culinary interaction | |
JP2012527847A (ja) | 台所及び家庭用器具のコントロール | |
KR20180123217A (ko) | 컴퓨터화된 시스템을 구비한 사용자 인터페이스를 제공하고 가상 환경과 상호작용하기 위한 방법 및 장치 | |
JP7420077B2 (ja) | 情報処理装置、情報処理方法、および、プログラム | |
KR101550961B1 (ko) | 전자 주문 장치 및 그 운용 방법 | |
JP2019074699A (ja) | インタラクティブインタフェースシステム、作業支援システム、厨房支援システム、及びインタラクティブインタフェースシステムのキャリブレーション方法 | |
JP5103593B2 (ja) | 注文管理装置、注文管理システム及び制御プログラム | |
JP2011048440A (ja) | 調理補助端末及びプログラム | |
JP2018101312A (ja) | 3dプロジェクションマッピング出力システムおよび3dプロジェクションマッピング出力方法 | |
JP6416429B1 (ja) | 情報処理装置、情報処理方法、情報処理プログラム及びコンテンツ配信システム | |
JP2011048426A (ja) | 調理補助端末及びプログラム | |
JP2001319275A (ja) | セルフオーダーエントリシステム | |
JP6554257B2 (ja) | 注文料理の提供支援システム | |
WO2020120757A1 (en) | Food waste detection method and system | |
JP5709616B2 (ja) | 注文処理装置、注文処理方法、およびプログラム | |
JP6070795B2 (ja) | 情報処理装置、その制御方法、及びプログラム | |
JP7363163B2 (ja) | 監視装置、監視方法、および、プログラム、並びに、監視システム | |
JP2011158959A (ja) | 電子マニュアル表示装置 | |
JP2017080516A (ja) | 展示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180223 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190131 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190219 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20190820 |