JP7420077B2 - 情報処理装置、情報処理方法、および、プログラム - Google Patents

情報処理装置、情報処理方法、および、プログラム Download PDF

Info

Publication number
JP7420077B2
JP7420077B2 JP2020550549A JP2020550549A JP7420077B2 JP 7420077 B2 JP7420077 B2 JP 7420077B2 JP 2020550549 A JP2020550549 A JP 2020550549A JP 2020550549 A JP2020550549 A JP 2020550549A JP 7420077 B2 JP7420077 B2 JP 7420077B2
Authority
JP
Japan
Prior art keywords
user
food
image
dish
order
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020550549A
Other languages
English (en)
Other versions
JPWO2020075623A1 (ja
Inventor
将平 山本
洋貴 鈴木
芳奈子 渡部
浩明 小川
トビアス ツィンツァレク
和樹 落合
典子 戸塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2020075623A1 publication Critical patent/JPWO2020075623A1/ja
Application granted granted Critical
Publication of JP7420077B2 publication Critical patent/JP7420077B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0641Shopping interfaces
    • G06Q30/0643Graphical representation of items or shoppers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0631Item recommendations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04847Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/12Hotels or restaurants
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04808Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Finance (AREA)
  • General Engineering & Computer Science (AREA)
  • Accounting & Taxation (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Development Economics (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Primary Health Care (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Cash Registers Or Receiving Machines (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本開示は、情報処理装置、情報処理方法、および、プログラムに関する。
通常、レストラン等で料理を注文する際、客はメニュー表を見てオーダーを決定し、店員にオーダーを伝える。また、近年は、席にセットされている専用端末を客が自ら操作して注文を行うシステムも導入されている。
ここで、料理のオーダーに関しては、料理の種類(料理名)や数のみならず、大盛、並、小盛等の量の指定や、ステーキ等ではレア、ミディアム、ウェルダン等の焼き加減、また、甘辛、中辛、激辛等の味付け等といった、多様な指定を行うことがある。下記特許文献1では、レストラン等で客がオーダーする料理の量、焼き加減、味付け等の情報を無段階で入力できるグラフを用いて、多様な要求を忠実に入力可能な入力装置について開示されている。
特開2002-197553号公報
しかしながら、料理に関する細かい注文は、口頭での伝達と確認に時間がかかり、また、従来の専用端末の操作では数値の入力が困難で客への負担が大きかった。また、上記特許文献1に記載の入力装置では、無段階で入力できるグラフを用いて、より忠実に数値を指定することができるが、実際の料理のサイズ(量)などが分からず、客が所望するオーダーを客自身が数値だけで正確に指定することは困難であった。
本開示によれば、料理に関するユーザからの注文内容を受け付けるインタフェースを表示する制御と、前記ユーザの操作に基づく注文内容の変更を、前記インタフェースに含まれる料理画像にリアルタイムに反映させる制御と、決定された注文内容を外部装置に送信する制御と、を行う制御部を備える、情報処理装置を提案する。
本開示によれば、プロセッサが、料理に関するユーザからの注文内容を受け付けるインタフェースを表示することと、前記ユーザの操作に基づく注文内容の変更を、前記インタフェースに含まれる料理画像にリアルタイムに反映させることと、決定された注文内容を外部装置に送信することと、を含む、情報処理方法を提案する。
本開示によれば、コンピュータを、料理に関するユーザからの注文内容を受け付けるインタフェースを表示する制御と、前記ユーザの操作に基づく注文内容の変更を、前記インタフェースに含まれる料理画像にリアルタイムに反映させる制御と、決定された注文内容を外部装置に送信する制御と、を行う制御部として機能させるためのプログラムを提案する。
本開示の一実施形態による調理システムの概要について説明する図である。 本実施形態による調理システムの全体構成の一例を示すブロック図である。 本実施形態による調理システムにおけるオーダー時の動作処理の流れの一例を示すフローチャートである。 本実施形態によるメニュー選択表示の一例を示す図である。 本実施形態による料理画像に対する直感的な操作入力による料理のサイズ変更について説明する図である。 本実施形態による料理サイズの変更における皿の段階的な変化について説明する図である。 本実施形態による料理の個数変更における人数に応じたレコメンドについて説明する図である。 本実施形態による料理の味付け等の変更操作について説明する図である。 本実施形態による料理の詳細情報の表示について説明する図である。 本実施形態による取り分け指定操作の一例を示す図である。 本実施形態による取り分け指定操作の他の例を示す図である。 本実施形態による提供タイミングの指定操作を行うUIの一例を示す図である。 本実施形態による調理進捗情報をテーブルに表示する場合の一例について示す図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、説明は以下の順序で行うものとする。
1.本開示の一実施形態による調理システムの概要
2.構成例
3.動作処理
4.注文内容の変更操作例
4-1.サイズ(量)の変更操作
4-2.料理の提供順の指定操作
4-3.料理の配膳位置の指定操作
4-4.注文後の変更操作
5.変形例
5-1.音声入力
5-2.表示出力の変形例
5-3.その他
6.まとめ
<<1.本開示の一実施形態による調理システムの概要>>
本開示の一実施形態による調理システムは、レストランや空港ラウンジ等の施設や、調理用ロボット(自動調理装置40)がある家庭等での利用を想定する。また、レストランや空港ラウンジ等の施設に調理用ロボット(自動調理装置40)がある場合も想定する。
(背景)
上述したように、料理に関する細かい注文は、口頭での伝達と確認に時間がかかり、また、従来の専用端末の操作では数値の入力が困難で客への負担が大きかった。また、上記特許文献1に記載の入力装置では、無段階で入力できるグラフを用いて、より忠実に数値を指定することができるが、実際の料理のサイズ(量)などが分からず、客が所望するオーダーを客自身が数値だけで正確に指定することは困難であった。
そこで、本開示では、ユーザの要望を反映した料理画像を、付加情報(例えば、栄養価、カロリー、質量、提供にかかる時間、価格等)と共にテーブル上に表示し、料理画像に対するユーザの直感的な操作(例えば、タッチ操作によるピンチイン、ピンチアウト、スライドバーの操作、音声入力等)に応じて料理画像や付加情報をリアルタイムに更新することで、ユーザ(客)が料理の細かい注文を直感的に行うことを可能とし、ユーザの要望に忠実な注文内容を入力することができる。
また、本開示の一実施形態による調理システムでは、テーブル上に表示する料理画像を、実際に提供される状態(すなわち、実物大)で表示することで、ユーザが注文の際に想定する料理イメージと、実際に提供される料理とのズレを解消することができる。
図1は、本開示の一実施形態による調理システム1の概要について説明する図である。図1に示すように、本実施形態による調理システム1は、テーブル3に料理画像300(300a~300d)を表示し、料理画像に対するユーザの直感的な操作に応じて、料理画像300をリアルタイムに更新すると共に、ユーザによるオーダー入力を受け付ける。例えば、調理システム1は、ピンチイン、ピンチアウト操作に応じて実物大で表示している料理画像のサイズを変更すると共に、変更した料理画像のサイズに従って、ユーザが注文する料理のサイズを取得する。また、本実施形態では、実物大で表示された料理画像に対する直感的な操作により、料理名や料理のサイズ(量)の他、料理の数、味付け、取り分け等の提供状態、および、提供順等を指定することを可能とする。
テーブル3への料理画像300の表示は、出力装置30により行われる。出力装置30は、テーブルトップに映像を投影するプロジェクタ30a(例えばムービングプロジェクター)であってもよいし、テーブル3の天板に設けられたディスプレイであってもよい。出力装置30は、情報処理装置10の制御に従って、料理画像300をテーブル3に表示する。また、出力装置30は複数あってもよい。
また、料理画像300に対するユーザの操作は、入力装置20により検出される。入力装置20は、様々な情報をセンシングするセンサ装置であって、例えば、カメラおよびマイクロフォン等を含み、センシングした情報を情報処理装置10に出力する。また、入力装置20は複数あってもよい。
情報処理装置10は、入力装置20により検出したユーザ操作、および、出力装置30によるテーブル3の表示状態に基づいてオーダーを決定し、調理側へ出力する。オーダーの出力先は、調理ロボット等の自動調理装置40であってもよいし、人手により調理が行われる場合は、調理場に設置されたオーダー表示装置や、オーダーを印字して出力するプリンタであってもよい。
このように、本開示による調理システム1では、テーブル3に表示された料理画像を直接操作することで容易に、かつ、直感的に、料理のオーダーを行うことが可能となる。
オーダーされた料理は、人手や配膳ロボット等により、テーブル3に運ばれる。
以上、本開示の一実施形態による学習支援システムの概要について説明した。続いて、本実施形態による調理システム1を構成する各装置について具体的に説明する。
<<2.構成例>>
図2は、本実施形態による調理システム1の全体構成の一例を示すブロック図である。
<2-1.入力装置20>
入力装置20は、例えば、カメラ20a、デプスセンサ、および、マイクロフォン等を含む。
カメラ20aは、RGBカメラ等の、レンズ系、駆動系、及び撮像素子を有し、画像(静止画像又は動画像)を撮像する撮像装置である。デプスセンサは、赤外線測距装置、超音波測距装置、LiDAR(Laser Imaging Detection and Ranging)又はステレオカメラ等の深度情報を取得する装置である。マイクロフォンは、周囲の音を収音し、アンプおよびADC(Analog Digital Converter)を介してデジタル信号に変換した音声データを出力する装置である。
入力装置20は、情報処理装置10による制御に基づいて情報をセンシングする。例えば、情報処理装置10は、カメラ20aのズーム率及び撮像方向を制御することができる。
なお、入力装置20は、上述した構成要素以外の任意のセンシングが可能な構成要素を含んでいてもよい。例えば、入力装置20は、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、スイッチ及びレバー等、ユーザによって情報が入力される装置を含んでいてもよい。また、入力装置20は、加速度センサ、ジャイロセンサ、地磁気センサ、光センサ、照度センサ、及び力センサ等の各種のセンサを含み得る。
<2-2.出力装置30>
出力装置30は、プロジェクタ30aまたはテーブルトップディスプレイ等の表示装置、および、スピーカ(音声出力装置)を含む。なお、調理システム1は、出力装置30として、これらのうち一つ又は複数の組み合わせを含んでもよいし、同一種類の装置を複数含んでもよい。
プロジェクタ30aは、空間の任意の場所に画像を投影する投影装置である。プロジェクタ30aは、例えば固定型の広角プロジェクタであってもよいし、Pan/Tilt駆動型等の投影方向を変更可能な可動部を備えるいわゆるムービングプロジェクタであってもよい。プロジェクタ30aは、情報処理装置10の制御に基づいて、テーブル3や周辺の壁等に、画像を投影する。
テーブルトップディスプレイは、料理が提供されるテーブル3の天板に設けられたディスプレイであり、画像および音声等を出力可能である。また、テーブルトップディスプレイは、テーブル3の全域に設けられていてもよいし、一部の領域に設けられていてもよい。また、出力装置30は、テーブル3の周辺の壁等に設置された壁面ディスプレイを含んでいてもよい。
スピーカは、DAC(Digital Analog Converter)およびアンプを介して、音声データをアナログ信号に変換し、出力(再生)する。また、出力装置30は、単一の方向に指向性を形成可能な単一指向性スピーカを含んでもよい。
出力装置30は、情報処理装置10による制御に基づいて情報を出力する。情報処理装置10は、出力する情報の内容に加えて、出力方法も制御可能である。例えば、情報処理装置10は、プロジェクタ30aの投影方向を制御することができる。
なお、出力装置30は、上述した構成要素以外の任意の出力が可能な構成要素を含んでいてもよい。例えば、出力装置30は、HMD(Head Mounted Display)、AR(Augmented Reality)グラス、及び時計型デバイス等のウェアラブルデバイスを含んでいてもよい。
<2-3.情報処理装置10>
情報処理装置10は、制御部100、通信部110、および、記憶部120を有する。
(制御部100)
制御部100は、演算処理装置および制御装置として機能し、各種プログラムに従って情報処理装置10内の動作全般を制御する。制御部100は、例えばCPU(Central Processing Unit)、マイクロプロセッサ等の電子回路によって実現される。また、制御部100は、使用するプログラムや演算パラメータ等を記憶するROM(Read Only Memory)、及び適宜変化するパラメータ等を一時記憶するRAM(Random Access Memory)を含んでいてもよい。
また、本実施形態による制御部100は、表示制御部101、操作検出部102、およびオーダー処理部103としても機能する。
表示制御部101は、テーブル3に料理画像や付加情報等を表示するよう、出力装置30の制御を行う。また、表示制御部101は、操作検出部102により検出されたユーザ操作に応じて、リアルタイムに料理画像や付加情報等を更新する制御を行う。
また、表示制御部101は、表示する料理画像や付加情報を、記憶部120に予め登録されている画像情報や、自動調理装置40の調理情報DB42から取得した調理に関する情報(レシピ情報(使用する食材、調理時間、調理方法等に関する情報)、食材残量情報(食材のストック状況)、調理状況(調理場の混み具合等)、出来上がった料理の撮像画像等)に基づいて生成し得る。
操作検出部102は、入力装置20によりセンシングされた情報に基づいてユーザ操作情報を検出する機能を有する。ユーザ操作情報は、例えば入力装置20のデプスカメラ、サーモカメラ、RGBカメラ、または超音波センサや、マイクロフォン等により検出され得る。ユーザ操作情報は、例えばユーザのテーブル3に対するタッチ、タップ、ダブルタップ、またはスワイプ等のタッチ操作、若しくは音声等の情報である。
タッチ操作は、例えば、テーブル3に投影された料理画像300に対する操作入力が検出される。操作検出部102は、プロジェクタ30aによりテーブル3に料理画像300が投影されている際に、カメラ20aから取得された撮像画像や、デプス情報を解析し、表示面上に位置するユーザの手や指の位置や深度情報(換言すると、三次元情報)を取得し、高さ方向におけるテーブル3へのユーザの手の接触若しくは近接、及びテーブル3からの手の離脱を検出する。本明細書では、ユーザが表示画面に手や指等の操作体を接触又は近接させることを、まとめて単に「接触」とも称する。
オーダー処理部103は、操作検出部102により検出されたユーザ操作に基づいてオーダー(具体的には、例えば、料理名、料理のサイズ(量)、数、味付け、取り分け等の提供状態、および、提供順等)を決定し、自動調理装置40にオーダーを送信する機能を有する。
(通信部110)
通信部110は、有線/無線により他の装置との間でデータの送受信を行うための通信モジュールである。通信部110は、例えば有線LAN(Local Area Network)、無線LAN、Wi-Fi(Wireless Fidelity、登録商標)、赤外線通信、Bluetooth(登録商標)、近距離/非接触通信、携帯通信網(LTE(Long Term Evolution)、3G(第3世代の移動体通信方式))等の方式で、外部機器と直接またはネットワークアクセスポイントを介して無線通信する。
例えば通信部110は、入力装置20、出力装置30、および、自動調理装置40と、データの送受信を行い得る。
(記憶部120)
記憶部120は、上述した制御部100の処理に用いられるプログラムや演算パラメータ等を記憶するROM(Read Only Memory)、および適宜変化するパラメータ等を一時記憶するRAM(Random Access Memory)により実現される。
例えば記憶部120は、入力装置20により取得した各種センサ情報、操作検出部102により検出したユーザ操作情報、および、調理情報DB42から取得した調理情報や、予め登録された調理情報等を記憶していてもよい。
以上、本実施形態による情報処理装置10の構成について具体的に説明した。なお、図2を用いて説明した上記の構成はあくまで一例であり、本実施形態に係る情報処理装置10の機能構成は係る例に限定されない。
<2-4.自動調理装置40>
自動調理装置40は、調理ロボット等を制御し、情報処理装置10から送信されたオーダーに従って調理を行う機能を有する。本実施形態では、自動調理装置40の具体的な構成については特に限定しない。
なお本実施形態による自動調理装置40は、食材のストック情報等を蓄積する調理情報DB(データベース)42を有する。調理情報DB42には、調理に関する情報(調理情報)として、レシピ情報(調理に使用する食材、一人分の量(質量)、サイズ、カロリー、栄養価、調理にかかる時間、調理方法(手順を含む)等に関する情報)、価格情報、食材のストック情報、調理状況(調理場の混み具合、待機オーダー等)、提供状態(使用する食器の画像等)、出来上がった料理の撮像画像等が記憶されており、継続的/定期的に更新されている。また、調理情報DB42に蓄積される調理情報は、適宜、情報処理装置10に提供される。食材のストック情報は、例えば本システムが家庭で用いられる場合は、冷蔵庫の内部映像や、食材や調味料等が仕舞われている棚の内部映像等、または、ユーザによる入力情報等に基づいて取得される。食材のストック情報を提供することで、情報処理装置10は、注文可能なオーダーであるか否かを判断することができる。また、出来上がった料理の撮像画像とは、オーダーに基づいて調理した料理の撮像画像であり、オーダー内容と対応付けて保存され得る。情報処理装置10は、料理の撮像画像に基づいて、注文時にテーブル3に表示する料理画像300を適宜生成し得る。
また、調理情報DB42は、各ユーザのオーダー履歴(食事履歴)を蓄積してもよい。ユーザの食事履歴を提供することで、情報処理装置10側で、ユーザの健康面や直近の摂取カロリー、栄養バランス等に基づいて、ユーザが新たにオーダーを行う際に、適切な助言や警告等を行うことが可能である。
なお、人手により調理が行われる場合であっても、食材のストック情報やレシピ情報等を蓄積する調理情報DB42を有する調理側装置(PCやタブレット端末等)を導入し、リアルタイムに調理情報を情報処理装置10に提供するようにしてもよい。
<<3.動作処理>>
続いて、本実施形態による調理システム1におけるオーダー時の動作処理について、図3を用いて具体的に説明する。図3は、本実施形態による調理システム1におけるオーダー時の動作処理の流れの一例を示すフローチャートである。
図3に示すように、まず、情報処理装置10の制御部100は、メニュー表示(メニュー選択画面)をテーブル3に表示し、ユーザによる料理名の選択操作を検出する(ステップS103)。図4に、本実施形態によるメニュー選択表示の一例を示す。図4に示すように、本実施形態では、例えばプロジェクタ30aにより、選択可能な料理画像300a~300cを、テーブル3に投影する。料理画像300a~300cは、それぞれ実物大で表示するようにしてもよいし、メニュー表示の段階では縮小して表示するようにしてもよい。料理画像300a~300cの実物の大きさの情報は、例えば調理情報DB42から取得される。ユーザは、注文したい料理画像300cをタップする。
次に、情報処理装置10の制御部100は、選択された料理の調理情報を確認し(ステップS106)、表示内容を決定する(ステップS106)。具体的には、例えば制御部100は、調理情報DB42から取得した最新の調理情報に基づいて、ユーザに選択された料理の食材ストックを確認し、現在提供可能な状態であるか否かを判断する。また、制御部100は、レシピ情報を確認して、ユーザに選択された料理のカロリーや栄養価を取得(算出)したり、価格情報や提供時間(提供にかかる時間)を取得したりする。提供時間は、最新の調理情報に含まれる現在の調理場の込み具合(オーダーの待ち状態等)を考慮してより正確に算出するようにしてもよい。これらの確認に基づいて、制御部100は、表示内容の決定、すなわち、料理画像および付加情報を生成する。料理画像は、既に登録されている出来上がった料理の撮像画像を用いてもよいし、CG(Computer Graphics)で生成されたものであってもよい。制御部100は、料理画像を、料理情報に含まれるサイズ情報に基づいて、テーブル3に実物大で表示するよう制御する。また、制御部100は、調理情報に基づいて、ユーザが選択した料理の価格、提供時間、カロリー、および栄養価等の付加情報を生成する。
次いで、表示制御部101は、料理画像および付加情報をテーブル3に表示するよう、プロジェクタ30aを制御する(ステップS112)。
次に、ユーザによるオーダー入力が完了されるまで(ステップS115/No)、入力装置20により継続的に取得されるセンシング情報から、ユーザ操作情報の検出を行う(ステップS118)。オーダー入力の完了は、例えばテーブル3に表示された「注文」ボタンのタップや、所定のジェスチャー、または音声等により、ユーザにより明示的に指示される。ユーザは、オーダー入力を完了する前に、テーブル3に表示された料理画像300に対して直感的な操作入力を行い、オーダーする料理のサイズや味付け等の細かい注文内容を変更することが可能である。
注文内容を変更する操作入力が行われた場合、制御部100は、再度調理情報の確認を行い(ステップS106)、表示内容を決定し(ステップS109)、変更を反映した料理画像および付加情報をテーブル3に表示する(ステップS112)。料理画像300に対する直感的な操作入力による注文内容の変更については、図面を用いて後述する。
そして、オーダー入力が完了すると(ステップS115/Yes)、情報処理装置10のオーダー処理部103は、オーダーを自動調理装置40に送信する(ステップS121)。
以上、本実施形態による動作処理の一例を説明した。なお図3に示す動作処理は一例であって、本開示は図3に示す例に限定されない。例えば、本開示は、図3に示すステップの順序に限定されない。少なくともいずれかのステップが並列に処理されてもよいし、逆の順番で処理されてもよい。また、図3に示す全ての処理が必ずしも実行されてなくともよい。また、図3に示す全ての処理が必ずしも単一の装置で行われなくともよい。
<<4.注文内容の変更操作例>>
続いて、本実施形態による料理画像300に対する直感的な操作入力による注文内容の変更について、図面を用いて具体的に説明する。
<4-1.サイズ(量)の変更操作>
(ピンチイン/ピンチアウト操作)
ここで、図5を参照し、料理画像300に対する直感的な操作入力による料理のサイズ変更について説明する。図5上段に示すように、例えば実物大の料理画像300cと、その価格やカロリー等の付加情報330cをテーブル3に投影している際に、料理のサイズを大きくしたい(量を増やしたい)場合、ユーザは、料理画像300cに対してピンチアウト操作を行う。ユーザによるテーブル3上でのピンチアウト操作は、入力装置20のデプスセンサ、画像センサ、または、テーブル3に設けられたタッチセンサ等によりセンシングされる。
次に、図5下段に示すように、情報処理装置10は、ユーザによるピンチアウト操作を検出すると、ユーザのピンチアウト操作に応じて、サイズを大きくした(量を増やした)料理画像302cを表示する。また、情報処理装置10は、量の増加に応じて変化した価格やカロリー等も、付加情報332cに反映させる。
図5に示す例では、料理のサイズを大きくしたい(量を増やしたい)場合に料理画像300cに対してピンチアウト操作を行う例について説明したが、本実施形態はこれに限定されず、料理のサイズを小さくしたい(量を減らしたい)場合には、料理画像300cに対してピンチイン操作を行うことで、同様にサイズ変更することが可能である。
以上により、ユーザは、実際に提供される料理の大きさを把握し、オーダーするサイズ(量)を的確に、直感的に調整することができる。
なおピンチイン、ピンチアウト操作により料理のサイズを変更する際、麺類やスープ、肉の大きさ等、無段階に量を調整できるものであれば、ユーザ操作(2本の指の間の距離)に応じて、料理画像300の大きさを無段階に調整(増減)することが可能であるが、一方で、提供の際に用いられる皿の大きさは一定の制限があることが想定される。より実態に忠実な料理画像を表示するため、情報処理装置10は、実際に提供される際に用いられる皿の大きさも実物大表示するよう制御し得る。皿の大きさの情報は、調理情報DB42から取得し得る。
図6は、料理サイズの変更における皿の段階的な変化について説明する図である。図6上段には、並盛の料理画像300cを示す。料理画像300cに含まれる皿s1は、実際に料理が提供される際に用いられる皿の実物大表示である。次いで、ユーザが料理画像300cに対してピンチアウト操作を行うと、情報処理装置10は、ユーザの操作に応じて、皿s1に盛られている料理の量を徐々に(無段階に)増加させ、図6中段に示す中盛の料理画像301cまで増やすことが可能である。この際、皿s1のサイズは変化しないが、皿s1に盛られている料理の量が徐々に増加する映像が表示される。そして、量が一定の値を越えると、皿s1は、図6下段に示すような、皿s1よりも大きさが1段階大きくなった皿s2に変化し、量は引き続き徐々に増加する。
このように、実際に使用される皿など提供の状態を含めて、実態に忠実な料理画像を表示することで、オーダーの際にユーザが想定する料理と、実際に提供される料理とのズレを解消することができる。また、テーブル3に注文した料理が乗り切るか等を事前に把握し、注文しすぎてテーブルが狭くなってしまうことを回避することもできる。
また、料理によっては、量が無段階に増減するのではなく、個数が変化する場合もある。この場合、情報処理装置10は、料理画像300に対するユーザのピンチイン、ピンチアウト操作に応じて、表示する料理の個数をリアルタイムに増減する表示制御する。また、情報処理装置10は、客の人数を把握している場合、人数倍の増減をレコメンドすることが可能である。例えば3人グループの客が料理画像300をピンチアウトさせた場合、料理の個数を、6個、9個、12個・・・のように増加させるようにしてもよい。また、ユーザは、レコメンドされた後で、料理画像300の近くに表示されたポップアップ表示をタッチ操作して個数を修正することも可能である。例えば情報処理装置10は、図7に示すように、客が3人グループの場合に、並盛では6個入りの料理の料理画像300dを、ピンチアウト操作が行われて量を増やす場合、人数倍の9個入りの料理画像301dを表示する。このように、量の増減において、人数倍のレコメンドを行うことができる。ユーザは、注文個数を変更したい場合は、料理画像300dの付近に表示されている個数表示331dをタップし、所望の個数(例えば8個)に変更する。個数が変更された場合、情報処理装置10は、個数の変更をリアルタイムに料理画像302dに反映させる。また、情報処理装置10は、料理のデフォルトの個数が人数倍になっていない場合は、自動で人数倍に量を調整して表示することも可能である。例えば、情報処理装置10は、3人グループが串焼き5本セットを注文する場合、自動で6本に変更し、変更を反映した料理画像300を表示する。
以上、料理画像に対する直感的な操作として、ピンチイン、ピンチアウト操作により、料理のサイズ(量)を変更する方法について説明したが、本実施形態はこれに限定されず、他の操作(ジェスチャーを含む)であってもよい。また、例えばスライドバーをテーブル3に表示し、スライドバーの操作により料理のサイズ(量)を変更する方法であってもよい。
(味付け等の変更操作)
次に、料理の味付け等の変更操作について、図8を参照して説明する。図8に示すように、例えば料理の味付け(濃い、薄い等)、特定食材の使用有無、調理具合(焼き加減、茹で加減、麺の固さ等)の無段階または段階的調整を、スライドバーやラジオボタン等(調整表示340c)で調整することが可能である。情報処理装置10は、調整表示340cに対する直感的なユーザ操作(スライドバーやラジオボタンの操作)に応じて、料理画像302cや付加情報332cの表示内容を、リアルタイムに変化させる。具体的には、付加情報332cとして表示されているカロリーや価格、栄養価、提供時間等の情報を、調整表示340cの操作によるオーダー内容の変更に応じてリアルタイムに算出し(または予め算出された数値を用いて)、変更する。また、料理画像302cも、使用する食材の有無や、味付けにより見た目が変化する場合もあるため、リアルタイムで、実態に忠実に変化させる。料理画像302cの変化は、予め取得された出来上がりの料理の撮像画像を加工して生成してもよい。出来上がりの料理の撮像画像には、対応するオーダー情報が付加されており、情報処理装置10は、調整表示340cにより変更されたオーダー内容に基づいて、撮像画像を適切に加工して料理画像302cとして表示することが可能である。
(料理の詳細情報の表示)
情報処理装置10は、料理画像300に対するユーザの直感的な操作入力に応じて、料理画像300を拡大/縮小表示することも可能である。ユーザは、例えば料理画像300を拡大表示して、料理に含まれる食材を目視で確認することができる。また、目視で確認しても何の食材か分からない場合等、その食材をタップ操作することで、詳細情報をポップアップ表示させることが可能である。図9は、本実施形態による料理の詳細情報の表示について説明する図である。図9に示すように、拡大表示した料理画像305cの特定の食材をタップすると、その食材の詳細情報の表示360cが、ポップアップ表示される。食材の詳細情報は、例えば、名称、品質、産地、栄養価等を含む。また、料理画像305cの拡大操作は、上述したサイズ変更と区別するため、サイズ変更では1本指でのピンチアウト操作であったのに対し、例えば2本指でのピンチアウト操作としてもよい。また、拡大ボタンのタップ等により拡大表示してもよい。また、拡大表示した料理画像305cには、拡大画像であることを示すアイコン(図9に示す虫眼鏡マークなど)を表示するようにしてもよい。
(取り分け方法の指定)
複数人で注文する場合、取り分け方法を指定して注文することも可能である。量で分配する方法、個数で分配する方法、また、切り分ける方法等、多様に指定可能である。以下、図10および図11を参照して、具体例を説明する。
図10は、本実施形態による取り分け指定操作の一例を示す図である。図10に示すように、例えば取り分け指定が可能な料理の場合、情報処理装置10は、料理画像300の横に、「X等分」ボタン360を表示する。「X等分」ボタン360では、システムが把握しているユーザの人数が予め表示されるようにしてもよい。ユーザの人数は、カメラ20a等により把握することが可能である。また、ユーザは、「X等分」ボタン360の等分数を、例えばプルダウン式で任意に変更することも可能である。
「X等分」ボタン360がタップされると、情報処理装置10は、等分した料理画像305を表示する。等分した料理画像305は、実際に料理を等分して提供する際の状態の画像であり、実物大で表示される。情報処理装置10は、調理情報DB42から取得した、実際に等分した料理の撮像画像に基づいて生成してもよい。
図11は、本実施形態による取り分け指定操作の他の例を示す図である。ピザやケーキ等、切り分けて等分する料理の場合、図11上段に示すように、人数分で自動的に等分する方法を指定してもよいし、図11下段に示すように、ユーザが任意の切り方を指でなぞって指定することも可能である。
また、情報処理装置10は、等分した料理毎に、付加情報(カロリー、栄養価等)を表示するようにしてもよい。また、等分した料理毎に、量や味付け、トッピング等を変更できる場合は、変更用のスライドバー等の操作画面を表示したり、等分した料理画像に対するユーザ操作を受け付けるようにしてもよい。
また、取り分けは「等分」に限定されず、例えば大人と子供の場合は、分ける量の比率を自動または任意で変更するようにしてもよい。また、等分した料理に対し、一方の量を減らした場合は、自動的に他方の量を増やすようにしてもよい。
いずれも取り分け状態や変更内容を、実際に提供される状態を示す実物大の料理画像にリアルタイムで反映させることで、ユーザは、視覚的、直感的に、注文する料理を確認することが可能となる。
このように、取り分け方法を指定したり、取り分け後の状態を確認することで、ユーザが注文の際に想定する料理イメージと、実際に提供される料理とのズレを解消することができる。
<4-2.料理の提供順の指定操作>
本実施形態では、注文時に、各料理の提供タイミングを指定することも可能である。図12は、本実施形態による提供タイミングの指定操作を行うUI(ユーザインタフェース)の一例を示す図である。また、提供タイミングの指定操作を行うUIを表示するためのボタンは、常にテーブル3に表示するようにしてもよい。
図12に示すように、提供タイミングの指定操作を行うUIは、例えば、各料理画像300(ここでは実物大表示でなくてもよい)を、タイムライン上に沿って並べることで順番を指定するものであってもよい。同じタイミングでの提供を希望する場合は、タイムラインに対して直角方向に並べる。各料理画像300は、タッチ操作により移動させることが可能である。デフォルトでは、一定のルール(例えば、前菜料理を最初に、次にメイン料理、最後にデザートを提供する等)に基づいた提供タイミングが設定されるようにしてもよい。ユーザは、例えばデフォルトでは最初に提供される設定となっている料理画像300hを、次に提供される料理画像300i、300jと同じタイミングにしたい場合、図12に示すように、料理画像300hを、タッチ操作により料理画像300i、300jの下に移動させる。
情報処理装置10は、指定された料理の提供順の情報もオーダーに含めて、自動調理装置40に通知する。
<4-3.料理の配膳位置の指定操作>
本実施形態では、注文済みの料理画像300をテーブル3に常に表示し、配膳時には当該料理画像300の表示位置に配膳するようにしてもよい。ユーザは、料理画像300の表示位置をタッチ操作等により自由にスライドして動かすことができ、これにより、配膳位置を任意の位置に指定することができる。
情報処理装置10は、料理が配膳されたことを検知した場合、対応する料理画像300を非表示にしてもよい。
これにより、注文した料理の配膳位置を事前に把握したり、変更したりすることが可能となる。また、テーブル3に料理が乗り切るか、狭くなってしまう場合は、早めに取り皿に取り分けて大皿を片付けられるようにしたりして、食事のペースを調整することができる。
また、情報処理装置10は、設定された提供タイミングに応じて、テーブル3上に料理画像300を表示するようにしてもよい。すなわち、注文した料理の画像全てを一度に表示することに限定されず、次に提供される料理の料理画像300を予め表示するようにしてもよい。
また、テーブル3上に配膳スペースがない場合(すなわち次に提供される料理の料理画像300を表示するスペースがない場合)、情報処理装置10は、提供するタイミングを待つよう自動調理装置40に通知を行うことも可能である。
また、本システムでは、客が複数人グループの場合、情報処理装置10は、誰が何を注文したかを記憶しておき、配膳時には、注文したユーザの前に料理を配膳するよう、自動調理装置40に通知してもよい。人手により配膳する場合は、店員はテーブル3上の料理画像300の配置を目視して配膳することが可能となる。また、配膳ロボットにより料理を運搬する場合は、注文したユーザの席の近くに移動するよう制御され得る。
<4-4.注文後の変更操作>
本実施形態では、調理進捗情報をテーブル3に表示し、ユーザに、料理が提供されるまでの時間を通知することが可能である。また、味付けの変更等、注文後であっても調理中に変更できるオーダーがあれば、その内容をユーザに通知し、ユーザの要望が途中で変更した場合でも出来る限り対応することを可能とする。
図13は、本実施形態による調理進捗情報をテーブル3に表示する場合の一例について示す図である。
図13に示すように、料理の注文後、テーブル3には、注文した料理画像300と、調理進捗情報370が、表示される。調理進捗情報370は、情報処理装置10により、自動調理装置40から取得した最新の調理情報に基づいて、リアルタイムで更新される。
調理進捗情報370は、例えば、バーグラフや円グラフ等により調理の進捗を示す。また、かかるバーグラフや円グラフには、オーダー内容を変更可能なタイミングが示される。具体的には、例えば図13に示すように、進捗バー上に、「サイズ(量)変更可」、「味付け変更可」、「焼き加減変更可」や、「ここまでならキャンセル可」など、各料理の調理の工程によって決定される、オーダー内容を変更可能なタイムリミットが表示されている。ユーザは、注文後に要望が変化した場合でも、調理進捗情報370を参照してオーダーを変更することができる。情報処理装置10は、オーダー変更を検出した場合、変更内容を自動調理装置40に通知する。
このように、各料理の進捗状態をリアルタイムで表示することで、ユーザは、自分が注文した料理が提供されるまでの時間を知ることができ、また、進捗度合いによっては途中で注文内容を変更することができる。
以上説明したように、本実施形態では、実際に提供される状態の実物大の料理画像300と付加情報330を、注文時にテーブル3に表示し、ユーザによる直感的な操作入力を料理画像300および付加情報330リアルタイムに反映させ、オーダー内容を入力できるようにする。これにより、ユーザは、自分の要望に忠実な料理を注文できているかを確認しつつ、細かい注文であっても直感的に、容易に操作入力することが可能となる。また、提供される料理の状態を画像により予め表示することで、ユーザの想定と実際に提供される料理とのズレを解消することができる。
<<5.変形例>>
<5-1.音声入力>
以上説明した例では、オーダー入力の操作方法として、主にタッチ操作を用いる場合について説明したが、本実施形態はこれに限定されず、マイクロフォンを用いた音声入力により行うことも可能である。例えば、メニュー選択(「サラダ3つと、ピザ1つと、パスタ2つ」等)や量の調整(「もう少し多めに」等)、等分(「X等分して」等)を音声認識によって行うことも可能である。情報処理装置10は、マイクロフォン(入力装置20の一例)により収音したユーザ音声を認識し、注文内容を取得すると、タッチ操作を用いた場合と同様に、テーブル3に表示している料理画像や付加情報にリアルタイムに反映させる。
また、本システムでは、ユーザの様子に基づいて、音声入力への切り替えを自動的に行ってもよい。例えばユーザが子供を抱えていて両手がふさがっている場合等、タッチ操作が難しい状況と判断した場合、情報処理装置10は、音声入力が可能であることをユーザに通知し、音声入力を受け付けるようにしてもよい。
また、本システムが家庭で用いられる際、ユーザが注文後にテーブル3から離れたことを検知した場合、音声入力に切り替え、注文後の変更等、離れた場所からでも音声により ユーザの指示を受け付けることを可能とする。
また、テーブル3に表示された料理画像や付加情報に対するタッチ操作に限定されず、手によるジェスチャーや、頭、視線の動き等により、オーダー入力を行うことも可能である。いずれの場合も、情報処理装置10は、ユーザによる注文内容を認識すると、テーブル3に表示している料理画像や付加情報にリアルタイムに反映させる。
また、情報処理装置10は、音声入力に切り替えた際、味付けや焼き加減等の料理の付加情報の変更UI(図8等)を、適宜、音声入力用のUIに切り替えるようにしてもよい。
また、情報処理装置10は、タッチ操作と音声入力の両方を受け付けるようにしてもよい。これにより例えばタッチ操作で料理のサイズを変更しながら、味付け等を音声入力により指定したりすることもできる。
<5-2.表示出力の変形例>
上述した例では、主に料理が配膳されるテーブル3上に料理画像300等を表示(投影)する場合について説明したが、本実施形態はこれに限定されず、例えばテーブル3の表示領域が足りない場合や、遠い席から見えにくい場合等は、周辺の他の表示領域、例えば壁面ディスプレイ等も用いてもよい。
また、本システムは、テーブル3等に表示する料理画像等を、立体映像により提示する機能を有してもよい。
また、本システムの出力装置30は、上述したように、HMD(Head Mounted Display)、AR(Augmented Reality)グラス等のウェアラブルデバイスであってもよく、この場合、情報処理装置10または出力装置30は、HMDやARグラスの透過型または非透過型の表示部において、テーブル上に料理画像300等が位置して見えるよう表示制御する。
<5-3.その他>
(ユーザ情報等に基づいたレコメンド)
情報処理装置10は、オーダーを受け付ける際に、ユーザ情報(食事履歴、摂取カロリー、ダイエット中か否か、健康状態、生活習慣、運動有無、スケジュールなど)を取得し、栄養バランスや、塩分、摂取カロリー等を考慮した適切なメニュー(料理名)、あるいは、適切な味付けや量の提案を行ってもよい。若しくは、情報処理装置10は、ユーザ情報に基づいて、警告(「食べすぎですよ」等)を提示してもよい。
例えば、本システムが家庭で用いられる場合、ユーザのこの後のスケジュールを確認し、出掛ける予定がある場合は、すぐに調理できるメニューをオススメとして提示してもよい。また、家庭で用いられる場合、冷蔵庫内の食材の残量や、ユーザのその日の食事内容に基づいて、栄養バランス的に適した料理(量や味付け、使用する食材を変更する等)を、オススメとして提示してもよい。
また、本システムが、空港ラウンジやバスターミナル、列車の駅等の、客の滞在可能時間が限られる場面における飲食物の提供に用いられる場合、情報処理装置10は、客の予定や出発時間、搭乗時間等をスケジュールから取得し、時間制約の中で提供できる料理をレコメンドするようにしてもよい。また、食事が済んだ後もまだ時間に余裕があるようであれば、食後のコーヒー等をレコメンドしてもよい。
また、情報処理装置10は、カメラ20aにより撮像したユーザの外見から、年代、性別、人数等の属性情報を推定し、適切な量や味付けのメニューをオススメとして提示するようにしてもよい。
また、情報処理装置10は、カメラ20aによってテーブル3上に並べられた料理を認識し(または注文内容に基づいて)、相性の良い料理や飲み物をオススメとして提示してもよい。
以上説明したオススメの内容はいずれも実際に提供される状態を想定した実物大の料理画像により提示することで、視覚的にオススメ内容を認識させることができる。
(香りや味を再現する機構)
本システムでは、実際に提供される状態を想定した実物大の料理画像を提示するのみならず、香りや味を再現する機構を設けることで、注文時に、ユーザに対して提供される料理の香りや味を予め提示することで、ユーザの想定と実際に提供される料理とのズレを解消することができる。
(一括要望入力)
本システムでは、宗教や体質(アレルギーや病気)、好み等に起因するNG食材に関する要望を一括で反映させることも可能である。例えば、テーブル3に表示された「ベジタリアン」というボタンをタップすると、メニューが全てベジタリアン用に更新される。
(料理の温度表示)
情報処理装置10は、提供された料理の熱さを検知し、テーブル3上に表示(「熱いのでやけどに注意!」等の警告)してもよい。
(下膳機能)
片付けてほしい皿の周りをタップする等の操作によって、下膳の依頼を店側に伝えることができる。具体的には、皿の周りをタップする等の所定の操作(ジェスチャー)を入力装置20により検出した場合、情報処理装置10は、自動調理装置40に対して下膳の依頼を通知する。
<<6.まとめ>>
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本技術はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上述した情報処理装置10、入力装置20、出力装置30、または自動調理装置40に内蔵されるCPU、ROM、およびRAM等のハードウェアに、情報処理装置10、入力装置20、出力装置30、または自動調理装置40の機能を発揮させるためのコンピュータプログラムも作成可能である。また、当該コンピュータプログラムを記憶させたコンピュータ読み取り可能な記憶媒体も提供される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、本技術は以下のような構成も取ることができる。
(1)
料理に関するユーザからの注文内容を受け付けるインタフェースを表示する制御と、
前記ユーザの操作に基づく注文内容の変更を、前記インタフェースに含まれる料理画像にリアルタイムに反映させる制御と、
決定された注文内容を外部装置に送信する制御と、
を行う制御部を備える、情報処理装置。
(2)
前記制御部は、前記料理画像を、表示領域に実物大で表示する制御を行う、前記(1)に記載の情報処理装置。
(3)
前記制御部は、
前記料理画像で示す料理に関する情報を含む付加情報を、前記料理画像と共に表示する制御と、
前記ユーザの操作に基づく注文内容の変更を、前記付加情報にもリアルタイムに反映させる制御を行う、前記(1)または(2)に記載の情報処理装置。
(4)
前記付加情報の表示は、前記料理のカロリー、価格、栄養価、質量、または提供時間の表示を含む、前記(3)に記載の情報処理装置。
(5)
前記制御部は、調理に関する情報を外部装置から取得し、前記料理画像および前記付加情報を生成する、前記(3)または(4)に記載の情報処理装置。
(6)
前記制御部は、
センシングデータに基づいて、前記インタフェースに対する前記ユーザのタッチ操作入力を検出し、前記注文内容を取得する、前記(1)~(5)のいずれか1項に記載の情報処理装置。
(7)
前記制御部は、
前記料理画像に対するピンチイン操作またはピンチアウト操作に応じて、前記料理画像の大きさを変更すると共に、前記料理画像で示される料理のサイズに関する注文を受け付ける制御を行う、前記(6)に記載の情報処理装置。
(8)
前記制御部は、
前記料理画像で示される料理の味付け、量、焼き加減、茹で加減、固さ、または使用食材に関する注文内容を変更するための調整表示を表示する制御を行い、
前記調整表示に対する前記ユーザのタッチ操作の検出結果に基づいて、前記注文内容の変更を受け付ける制御を行う、前記(6)に記載の情報処理装置。
(9)
前記制御部は、
センシングデータに基づいて、前記インタフェースに対する前記ユーザの音声入力操作を検出し、前記注文内容を取得する、前記(1)~(5)のいずれか1項に記載の情報処理装置。
(10)
前記制御部は、
前記インタフェースに対する前記ユーザの操作に応じて、前記料理画像における1皿に盛られる料理の個数を増加させる際、前記ユーザの人数倍で前記個数を増加させた料理画像を生成する、前記(1)~(9)のいずれか1項に記載の情報処理装置。
(11)
前記制御部は、
前記インタフェースに対する前記ユーザの操作に応じて、前記料理画像における1皿に盛られる料理の取り分け注文を受け付けた際、前記ユーザの人数分に取り分けた状態の料理画像を生成する、前記(1)~(10)のいずれか1項に記載の情報処理装置。
(12)
前記制御部は、
前記料理画像に対して前記ユーザがタッチ操作によりなぞった線に基づいて、料理の切り分け箇所を認識し、当該切り分け箇所で切り分けた状態の料理画像を生成する、前記(1)~(11)のいずれか1項に記載の情報処理装置。
(13)
前記制御部は、
注文された料理の提供順を、各料理画像を時系列に並べることで提示する制御と、
前記各料理画像を時系列に並べた表示に対する前記ユーザの操作入力に応じて、提供順の変更を受け付ける制御を行う、前記(1)~(12)のいずれか1項に記載の情報処理装置。
(14)
前記制御部は、
注文された料理の料理画像を、料理が配膳されるテーブルに実物大で表示し、各料理の配膳位置の指定を受け付ける制御を行う、前記(1)~(13)のいずれか1項に記載の情報処理装置。
(15)
前記制御部は、
前記決定された注文内容に含まれる各料理の調理進捗情報を表示すると共に、各料理に対する変更可能な注文内容とタイムリミットを明示する制御を行う、前記(1)~(14)のいずれか1項に記載の情報処理装置。
(16)
前記制御部は、
前記ユーザの情報に基づいて、料理のレコメンド情報を出力する、前記(1)~(15)のいずれか1項に記載の情報処理装置。
(17)
前記ユーザの情報は、前記ユーザの食事履歴、摂取カロリー、ダイエット中か否か、健康状態、生活習慣、運動有無、スケジュール、または前記ユーザを撮像した撮像画像から推定される前記ユーザの属性情報を含む、前記(16)に記載の情報処理装置。
(18)
プロセッサが、
料理に関するユーザからの注文内容を受け付けるインタフェースを表示することと、
前記ユーザの操作に基づく注文内容の変更を、前記インタフェースに含まれる料理画像にリアルタイムに反映させることと、
決定された注文内容を外部装置に送信することと、
を含む、情報処理方法。
(19)
コンピュータを、
料理に関するユーザからの注文内容を受け付けるインタフェースを表示する制御と、
前記ユーザの操作に基づく注文内容の変更を、前記インタフェースに含まれる料理画像にリアルタイムに反映させる制御と、
決定された注文内容を外部装置に送信する制御と、
を行う制御部として機能させるための、プログラム。
1 調理システム
3 テーブル
10 情報処理装置
100 制御部
101 表示制御部
102 操作検出部
103 オーダー処理部
110 通信部
120 記憶部
20 入力装置
20a カメラ
30 出力装置
30a プロジェクタ
40 自動調理装置
42 調理情報DB
300 料理画像

Claims (15)

  1. 料理に関するユーザからの注文内容を受け付けるインタフェースを表示する制御と、
    前記ユーザの操作に基づく注文内容の変更を、前記インタフェースに含まれる料理画像にリアルタイムに反映させる制御と、
    決定された注文内容を外部装置に送信する制御と、
    を行う制御部を備え、
    前記制御部は、
    前記料理画像を、表示領域に実物大で表示する制御を行い、
    センシングデータに基づいて、前記インタフェースに対する前記ユーザのタッチ操作入力を検出し、前記注文内容を取得し、
    前記料理画像で示される料理の味付け、量、焼き加減、茹で加減、固さ、または使用食材に関する注文内容を変更するための調整表示を表示する制御を行い、
    前記調整表示に対する前記ユーザのタッチ操作の検出結果に基づいて、前記注文内容の変更を受け付ける制御を行い、
    前記料理画像に対して前記ユーザがタッチ操作によりなぞった線に基づいて、料理の切り分け箇所を認識し、当該切り分け箇所で切り分けた状態の料理画像を生成する、
    情報処理装置。
  2. 料理に関するユーザからの注文内容を受け付けるインタフェースを表示する制御と、
    前記ユーザの操作に基づく注文内容の変更を、前記インタフェースに含まれる料理画像にリアルタイムに反映させる制御と、
    決定された注文内容を外部装置に送信する制御と、
    を行う制御部を備え、
    前記制御部は、
    前記料理画像を、表示領域に実物大で表示する制御を行い、
    センシングデータに基づいて、前記インタフェースに対する前記ユーザのタッチ操作入力を検出し、前記注文内容を取得し、
    前記料理画像で示される料理の味付け、量、焼き加減、茹で加減、固さ、または使用食材に関する注文内容を変更するための調整表示を表示する制御を行い、
    前記調整表示に対する前記ユーザのタッチ操作の検出結果に基づいて、前記注文内容の変更を受け付ける制御を行い、
    注文された料理の提供順を、各料理画像を時系列に並べることで提示する制御と、
    前記各料理画像を時系列に並べた表示に対する前記ユーザの操作入力に応じて、提供順の変更を受け付ける制御を行う、
    情報処理装置。
  3. 料理に関するユーザからの注文内容を受け付けるインタフェースを表示する制御と、
    前記ユーザの操作に基づく注文内容の変更を、前記インタフェースに含まれる料理画像にリアルタイムに反映させる制御と、
    決定された注文内容を外部装置に送信する制御と、
    を行う制御部を備え、
    前記制御部は、
    前記料理画像を、表示領域に実物大で表示する制御を行い、
    センシングデータに基づいて、前記インタフェースに対する前記ユーザのタッチ操作入力を検出し、前記注文内容を取得し、
    前記料理画像で示される料理の味付け、量、焼き加減、茹で加減、固さ、または使用食材に関する注文内容を変更するための調整表示を表示する制御を行い、
    前記調整表示に対する前記ユーザのタッチ操作の検出結果に基づいて、前記注文内容の変更を受け付ける制御を行い、
    注文された料理の料理画像を、料理が配膳されるテーブルに実物大で表示し、各料理の配膳位置の指定を受け付ける制御を行う、
    情報処理装置。
  4. 料理に関するユーザからの注文内容を受け付けるインタフェースを表示する制御と、
    前記ユーザの操作に基づく注文内容の変更を、前記インタフェースに含まれる料理画像にリアルタイムに反映させる制御と、
    決定された注文内容を外部装置に送信する制御と、
    を行う制御部を備え、
    前記制御部は、
    前記料理画像を、表示領域に実物大で表示する制御を行い、
    センシングデータに基づいて、前記インタフェースに対する前記ユーザのタッチ操作入力を検出し、前記注文内容を取得し、
    前記料理画像で示される料理の味付け、量、焼き加減、茹で加減、固さ、または使用食材に関する注文内容を変更するための調整表示を表示する制御を行い、
    前記調整表示に対する前記ユーザのタッチ操作の検出結果に基づいて、前記注文内容の変更を受け付ける制御を行い、
    前記決定された注文内容に含まれる各料理の調理進捗情報を表示すると共に、各料理に対する変更可能な注文内容とタイムリミットを明示する制御を行う、
    情報処理装置。
  5. 前記制御部は、
    前記料理画像で示す料理に関する情報を含む付加情報を、前記料理画像と共に表示する制御と、
    前記ユーザの操作に基づく注文内容の変更を、前記付加情報にもリアルタイムに反映させる制御を行う、請求項1~4のいずれか1項に記載の情報処理装置。
  6. 前記付加情報の表示は、前記料理のカロリー、価格、栄養価、質量、または提供時間の表示を含む、請求項に記載の情報処理装置。
  7. 前記制御部は、調理に関する情報を外部装置から取得し、前記料理画像および前記付加情報を生成する、請求項に記載の情報処理装置。
  8. 前記制御部は、
    前記料理画像に対するピンチイン操作またはピンチアウト操作に応じて、前記料理画像の大きさを変更すると共に、前記料理画像で示される料理のサイズに関する注文を受け付ける制御を行う、請求項1~4のいずれか1項に記載の情報処理装置。
  9. 前記制御部は、
    センシングデータに基づいて、前記インタフェースに対する前記ユーザの音声入力操作を検出し、前記注文内容を取得する、請求項1~4のいずれか1項に記載の情報処理装置。
  10. 前記制御部は、
    前記インタフェースに対する前記ユーザの操作に応じて、前記料理画像における1皿に盛られる料理の個数を増加させる際、前記ユーザの人数倍で前記個数を増加させた料理画像を生成する、請求項1~4のいずれか1項に記載の情報処理装置。
  11. 前記制御部は、
    前記インタフェースに対する前記ユーザの操作に応じて、前記料理画像における1皿に盛られる料理の取り分け注文を受け付けた際、前記ユーザの人数分に取り分けた状態の料理画像を生成する、請求項1~4のいずれか1項に記載の情報処理装置。
  12. 前記制御部は、
    前記ユーザの情報に基づいて、料理のレコメンド情報を出力する、請求項1~4のいずれか1項に記載の情報処理装置。
  13. 前記ユーザの情報は、前記ユーザの食事履歴、摂取カロリー、ダイエット中か否か、健康状態、生活習慣、運動有無、スケジュール、または前記ユーザを撮像した撮像画像から推定される前記ユーザの属性情報を含む、請求項12に記載の情報処理装置。
  14. プロセッサが、
    料理に関するユーザからの注文内容を受け付けるインタフェースを表示することと、
    前記ユーザの操作に基づく注文内容の変更を、前記インタフェースに含まれる料理画像にリアルタイムに反映させることと、
    決定された注文内容を外部装置に送信することと、
    を含み、
    前記料理画像は、表示領域に実物大で表示され、
    前記プロセッサは、
    センシングデータに基づいて、前記インタフェースに対する前記ユーザのタッチ操作入力を検出し、前記注文内容を取得し、
    前記料理画像で示される料理の味付け、量、焼き加減、茹で加減、固さ、または使用食材に関する注文内容を変更するための調整表示を表示する制御を行い、
    前記調整表示に対する前記ユーザのタッチ操作の検出結果に基づいて、前記注文内容の変更を受け付ける制御を行い、
    前記料理画像に対して前記ユーザがタッチ操作によりなぞった線に基づいて、料理の切り分け箇所を認識し、当該切り分け箇所で切り分けた状態の料理画像を生成する、
    情報処理方法。
  15. コンピュータを、
    料理に関するユーザからの注文内容を受け付けるインタフェースを表示する制御と、
    前記ユーザの操作に基づく注文内容の変更を、前記インタフェースに含まれる料理画像にリアルタイムに反映させる制御と、
    決定された注文内容を外部装置に送信する制御と、
    を行う制御部として機能させるための、プログラムであって、
    前記制御部は、
    前記料理画像を、表示領域に実物大で表示する制御を行い、
    センシングデータに基づいて、前記インタフェースに対する前記ユーザのタッチ操作入力を検出し、前記注文内容を取得し、
    前記料理画像で示される料理の味付け、量、焼き加減、茹で加減、固さ、または使用食材に関する注文内容を変更するための調整表示を表示する制御を行い、
    前記調整表示に対する前記ユーザのタッチ操作の検出結果に基づいて、前記注文内容の変更を受け付ける制御を行い、
    前記料理画像に対して前記ユーザがタッチ操作によりなぞった線に基づいて、料理の切り分け箇所を認識し、当該切り分け箇所で切り分けた状態の料理画像を生成する、
    プログラム。
JP2020550549A 2018-10-12 2019-10-03 情報処理装置、情報処理方法、および、プログラム Active JP7420077B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018193099 2018-10-12
JP2018193099 2018-10-12
PCT/JP2019/039136 WO2020075623A1 (ja) 2018-10-12 2019-10-03 情報処理装置、情報処理方法、および、プログラム

Publications (2)

Publication Number Publication Date
JPWO2020075623A1 JPWO2020075623A1 (ja) 2021-09-16
JP7420077B2 true JP7420077B2 (ja) 2024-01-23

Family

ID=70165227

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020550549A Active JP7420077B2 (ja) 2018-10-12 2019-10-03 情報処理装置、情報処理方法、および、プログラム

Country Status (4)

Country Link
US (1) US20210366033A1 (ja)
JP (1) JP7420077B2 (ja)
CN (1) CN113039575A (ja)
WO (1) WO2020075623A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11455591B2 (en) * 2019-07-18 2022-09-27 International Business Machines Corporation Service management
US11544923B2 (en) 2021-03-12 2023-01-03 Agot Co. Image-based kitchen tracking system with order accuracy management
JP7188811B1 (ja) 2021-08-12 2022-12-13 Necプラットフォームズ株式会社 注文管理装置、注文管理方法、及びプログラム
JP7178517B1 (ja) 2022-01-25 2022-11-25 Kddi株式会社 情報処理装置及び情報処理方法
JP7170153B1 (ja) 2022-01-31 2022-11-11 Kddi株式会社 情報処理装置及び情報処理方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3558605B2 (ja) 2001-04-26 2004-08-25 Necインフロンティア株式会社 オーダリングシステム
JP2007219566A (ja) 2006-02-14 2007-08-30 Japan Crescent Co Ltd 飲食台ユニットおよび飲食システム
JP2012089025A (ja) 2010-10-21 2012-05-10 Sharp Corp 注文装置
JP2012221010A (ja) 2011-04-05 2012-11-12 Japan Research Institute Ltd 注文処理装置、注文処理方法、およびプログラム
JP2016053907A (ja) 2014-09-04 2016-04-14 株式会社ニコン プログラム及び電子機器
JP2016085500A (ja) 2014-10-23 2016-05-19 智広 梅田 メニュー提供システム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7603287B2 (en) * 2002-08-14 2009-10-13 Ipdev Co. Point of purchase display accessory
US20050065851A1 (en) * 2003-09-22 2005-03-24 Aronoff Jeffrey M. System, method and computer program product for supplying to and collecting information from individuals
JP4820893B2 (ja) * 2009-07-31 2011-11-24 東芝テック株式会社 注文受付装置及び注文受付プログラム
US20140149937A1 (en) * 2012-11-26 2014-05-29 University Of Birmingham Visual meal creator
KR101550961B1 (ko) * 2013-04-19 2015-09-07 임두원 전자 주문 장치 및 그 운용 방법
US10445819B2 (en) * 2013-05-23 2019-10-15 Gavon Augustus Renfroe System and method for integrating business operations
US10410188B2 (en) * 2015-03-11 2019-09-10 Ntn Buzztime, Inc. Electronic check splitting system, method and apparatus
US20160353235A1 (en) * 2015-06-01 2016-12-01 Accenture Global Services Limited Location-based order recommendations
US20210209523A1 (en) * 2020-01-01 2021-07-08 Rockspoon, Inc. System and method for end-to-end contactless dining experience and management

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3558605B2 (ja) 2001-04-26 2004-08-25 Necインフロンティア株式会社 オーダリングシステム
JP2007219566A (ja) 2006-02-14 2007-08-30 Japan Crescent Co Ltd 飲食台ユニットおよび飲食システム
JP2012089025A (ja) 2010-10-21 2012-05-10 Sharp Corp 注文装置
JP2012221010A (ja) 2011-04-05 2012-11-12 Japan Research Institute Ltd 注文処理装置、注文処理方法、およびプログラム
JP2016053907A (ja) 2014-09-04 2016-04-14 株式会社ニコン プログラム及び電子機器
JP2016085500A (ja) 2014-10-23 2016-05-19 智広 梅田 メニュー提供システム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
中臺一博, 奥乃博,情報処理学会デジタルプラクティス,ロボット聴覚用オープンソースソフトウェアHARKの展開,日本,一般社団法人情報処理学会,2011年04月15日,第2巻, 第2号,第133-140ページ,ISSN:1884-5541

Also Published As

Publication number Publication date
WO2020075623A1 (ja) 2020-04-16
US20210366033A1 (en) 2021-11-25
JPWO2020075623A1 (ja) 2021-09-16
CN113039575A (zh) 2021-06-25

Similar Documents

Publication Publication Date Title
JP7420077B2 (ja) 情報処理装置、情報処理方法、および、プログラム
JP2012527847A (ja) 台所及び家庭用器具のコントロール
KR101550961B1 (ko) 전자 주문 장치 및 그 운용 방법
US20100313768A1 (en) System for facilitating food preparation
WO2020194861A1 (ja) 食品提供システム、食品提供方法及びプログラム
US11183078B2 (en) Meal preparation orchestrator
KR102013775B1 (ko) 사용자 취향에 따라 맞춤형 반찬 주문이 가능한 음식 주문 시스템 및 그 운용 방법
JP2018128979A (ja) 厨房支援システム
US20150132725A1 (en) Dish information providing method and system
US10480990B1 (en) System and method for dynamic adjustment of recipe ingredients
JP2016031642A (ja) 情報提供システム、サーバ、端末装置、情報提供方法、および制御プログラム
JP5144905B2 (ja) タッチパネルを用いたオーダリングシステムにおける表示方法
JP2018101312A (ja) 3dプロジェクションマッピング出力システムおよび3dプロジェクションマッピング出力方法
JP2020091577A (ja) 健康増進支援システム及び健康増進支援方法
WO2020075418A1 (ja) 情報処理装置、情報処理方法、及びプログラム
US20210375155A1 (en) Automated cooking assistant
JP2018185791A (ja) 健康管理支援システム
CN112424731B (zh) 信息处理设备,信息处理方法和记录介质
JP6715501B1 (ja) お勧め提示装置、お勧め提示システム、お勧め提示方法、お勧め提示プログラム
JP2018112849A (ja) 座席状況表示システム
US20230063302A1 (en) Data processing apparatus and data processing method
JP2021022119A (ja) 監視装置、監視方法、および、プログラム、並びに、監視システム
KR20200075552A (ko) 사용자 단말기와 조리기기를 연동한 간편식품 조리 방법
JP7248346B2 (ja) 献立メニュー提案システム
JPH02212901A (ja) 自動制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220822

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230613

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230801

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230926

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231225

R151 Written notification of patent or utility model registration

Ref document number: 7420077

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151