JP2022063884A - データ処理装置、データ処理方法 - Google Patents

データ処理装置、データ処理方法 Download PDF

Info

Publication number
JP2022063884A
JP2022063884A JP2019038069A JP2019038069A JP2022063884A JP 2022063884 A JP2022063884 A JP 2022063884A JP 2019038069 A JP2019038069 A JP 2019038069A JP 2019038069 A JP2019038069 A JP 2019038069A JP 2022063884 A JP2022063884 A JP 2022063884A
Authority
JP
Japan
Prior art keywords
cooking
data
information
flavor
sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019038069A
Other languages
English (en)
Inventor
雅博 藤田
Masahiro Fujita
かおる 吉田
Kaoru Yoshida
ミカエル シェグフリード シュプランガー
Siegfried Spranger Michael
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Group Corp
Original Assignee
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Group Corp filed Critical Sony Group Corp
Priority to JP2019038069A priority Critical patent/JP2022063884A/ja
Priority to PCT/JP2020/005728 priority patent/WO2020179407A1/ja
Priority to US17/424,343 priority patent/US20220091586A1/en
Publication of JP2022063884A publication Critical patent/JP2022063884A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/4155Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by programme execution, i.e. part programme or machine function execution, e.g. selection of a programme
    • AHUMAN NECESSITIES
    • A23FOODS OR FOODSTUFFS; TREATMENT THEREOF, NOT COVERED BY OTHER CLASSES
    • A23LFOODS, FOODSTUFFS, OR NON-ALCOHOLIC BEVERAGES, NOT COVERED BY SUBCLASSES A21D OR A23B-A23J; THEIR PREPARATION OR TREATMENT, e.g. COOKING, MODIFICATION OF NUTRITIVE QUALITIES, PHYSICAL TREATMENT; PRESERVATION OF FOODS OR FOODSTUFFS, IN GENERAL
    • A23L5/00Preparation or treatment of foods or foodstuffs, in general; Food or foodstuffs obtained thereby; Materials therefor
    • A23L5/10General methods of cooking foods, e.g. by roasting or frying
    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47JKITCHEN EQUIPMENT; COFFEE MILLS; SPICE MILLS; APPARATUS FOR MAKING BEVERAGES
    • A47J44/00Multi-purpose machines for preparing food with several driving units
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1628Programme controls characterised by the control loop
    • B25J9/163Programme controls characterised by the control loop learning, adaptive, model based, rule based expert control
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/04Programme control other than numerical control, i.e. in sequence controllers or logic controllers
    • G05B19/042Programme control other than numerical control, i.e. in sequence controllers or logic controllers using digital processors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • AHUMAN NECESSITIES
    • A23FOODS OR FOODSTUFFS; TREATMENT THEREOF, NOT COVERED BY OTHER CLASSES
    • A23VINDEXING SCHEME RELATING TO FOODS, FOODSTUFFS OR NON-ALCOHOLIC BEVERAGES AND LACTIC OR PROPIONIC ACID BACTERIA USED IN FOODSTUFFS OR FOOD PREPARATION
    • A23V2002/00Food compositions, function of food ingredients or processes for food or foodstuffs
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/20Pc systems
    • G05B2219/26Pc applications
    • G05B2219/2643Oven, cooking
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40269Naturally compliant robot arm
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40307Two, dual arm robot, arm used synchronously, or each separately, asynchronously
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40391Human to robot skill transfer
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40411Robot assists human in non-industrial environment like home or office
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/004Artificial life, i.e. computing arrangements simulating life
    • G06N3/008Artificial life, i.e. computing arrangements simulating life based on physical entities controlled by simulated intelligence so as to replicate intelligent life forms, e.g. based on robots replicating pets or humans in their appearance or behaviour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Food Science & Technology (AREA)
  • Automation & Control Theory (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mechanical Engineering (AREA)
  • Robotics (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Human Computer Interaction (AREA)
  • Manufacturing & Machinery (AREA)
  • Nutrition Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Polymers & Plastics (AREA)
  • General Preparation And Processing Of Foods (AREA)
  • Manipulator (AREA)

Abstract

Figure 2022063884000001
【課題】調理人が作る料理と同じ料理を調理ロボットにおいて再現する場合の再現性を高めることができるようにする。
【解決手段】本技術の一側面のデータ処理装置は、料理の食材に関する情報および食材を用いた調理工程における調理人の動作に関する情報が記述された調理動作データと、調理工程の進捗に連動して計測された調理人の感覚を示す感覚データとをリンクさせた、調理ロボットが調理動作を行う際に用いるデータセットを含むレシピデータを生成する。本技術は、調理ロボットにおける調理を制御するコンピュータに適用することができる。
【選択図】図9

Description

本技術は、データ処理装置、データ処理方法に関し、特に、調理人が作る料理と同じ料理を調理ロボットにおいて再現する場合の再現性を高めることができるようにしたデータ処理装置、データ処理方法に関する。
調理中の調理人の動きをセンシングし、センシング結果のデータを保存・送信することによって、調理人が作った料理を調理ロボット側において再現する技術が検討されている。調理ロボットによる調理動作は、例えば、調理人の手の動きと同じ動きをセンシング結果に基づいて実現するようにして行われる。
特表2017-506169号公報 特表2017-536247号公報
従来の調理ロボットを用いた調理方法では、レシピ通りに調理工程を進めた場合でも、調理人が意図した通りの料理を再現することは現実的には難しい。
これは、調理人や料理を食べる人により、味覚・嗅覚等の感覚が異なることの他に、調理人側と再現側とで、食材の種類・大きさ・質感・産地等が異なる、調理器具の種類・能力等が異なる、温度・湿度等の調理環境が異なること等に起因する。
本技術はこのような状況に鑑みてなされたものであり、調理人が作る料理と同じ料理を調理ロボットにおいて再現する場合の再現性を高めることができるようにするものである。
本技術の一側面のデータ処理装置は、料理の食材に関する情報および前記食材を用いた調理工程における調理人の動作に関する情報が記述された調理動作データと、前記調理工程の進捗に連動して計測された前記調理人の感覚を示す感覚データとをリンクさせた、調理ロボットが調理動作を行う際に用いるデータセットを含むレシピデータを生成するレシピデータ生成部を備える。
本技術の一側面においては、料理の食材に関する情報および前記食材を用いた調理工程における調理人の動作に関する情報が記述された調理動作データと、前記調理工程の進捗に連動して計測された前記調理人の感覚を示す感覚データとをリンクさせた、調理ロボットが調理動作を行う際に用いるデータセットを含むレシピデータが生成される。
本技術の一実施形態に係る調理システムにおける全体の処理の例を示す図である。 シェフ側と再現側のそれぞれにおいて用いられる食材の違いについて説明する図である。 レシピデータの記述内容の例を示す図である。 調理工程データセットに含まれる情報の例を示す図である。 風味の構成要素の例を示す図である。 味覚主観情報の算出例を示す図である。 味覚主観情報のチャートの例を示す図である。 レシピデータの例を示す図である。 レシピデータの生成の流れの例を示す図である。 レシピデータに基づく料理の再現の流れの例を示す図である。 シェフ側の流れと再現側の流れをまとめて示す図である。 レシピデータの他の記述内容の例を示す図である。 本技術の一実施形態に係る調理システムの構成例を示す図である。 調理システムの他の構成例を示す図である。 制御装置の配置例を示す図である。 シェフが調理を行うキッチン周りの構成例を示す図である。 味覚センサの使用状態の例を示す図である。 シェフ側の構成例を示すブロック図である。 データ処理装置のハードウェアの構成例を示すブロック図である。 データ処理装置の機能構成例を示すブロック図である。 調理ロボットの外観を示す斜視図である。 調理アームの様子を拡大して示す図である。 調理アームの外観を示す図である。 調理アームの各部の可動域の例を示す図である。 調理アームとコントローラの接続の例を示す図である。 調理ロボットと周辺の構成の例を示すブロック図である。 制御装置の機能構成例を示すブロック図である。 風味情報処理部の構成例を示すブロック図である。 データ処理装置のレシピデータ生成処理について説明するフローチャートである。 図29のステップS5において行われる風味情報生成処理について説明するフローチャートである。 制御装置の料理再現処理について説明するフローチャートである。 図31のステップS36において行われる風味計測処理について説明するフローチャートである。 図31のステップS38において行われる風味調整処理について説明するフローチャートである。 図33のステップS61において行われる味調整処理について説明するフローチャートである。 プランニングの例を示す図である。 制御装置の風味調整処理について説明するフローチャートである。 風味の判定例を示す図である。 風味主観情報を用いた風味の判定例を示す図である。 センサデータ生成用のモデルの例を示す図である。 制御装置の風味センサ情報補正処理について説明するフローチャートである。 調理システムの他の構成例を示す図である。
<本技術の概要>
本技術は、調理人が料理を作るときの感覚と、調理人が作成したレシピに基づいて調理を行うときの感覚との違い(差分)に着目し、食材と調理工程とを記述したデータに対して、料理を作るときの調理人の感覚をデータ化した感覚データをリンクさせてレシピデータとして管理するようにしたものである。
また、本技術は、感覚データにより表される調理人の感覚に基づいて、調理ロボットの調理動作を調整することにより、調理人が意図した通りの風味の料理を、調理ロボット側において再現することができるようにしたものである。
さらに、本技術は、感覚データに加えて、再現時の調理動作の際にセンシングされたデータをも活用して食材や調理動作を調整することにより、料理を食べる人の特性(属性、状態など)に合わせた、柔軟な調理を実現するものである。
以下、本技術を実施するための形態について説明する。説明は以下の順序で行う。
1.調理システムにおけるレシピデータの生成と料理の再現
2.レシピデータについて
3.レシピデータの生成と料理の再現の流れの例
4.調理システムの構成例
5.調理システムの動作
6.変形例
<調理システムにおけるレシピデータの生成と料理の再現>
図1は、本技術の一実施形態に係る調理システムにおける全体の処理の例を示す図である。
図1に示すように、調理システムは、調理を行うシェフ側の構成と、シェフが作った料理を再現する再現側の構成とから構成される。
シェフ側の構成は、例えば、あるレストランに設けられる構成となり、再現側の構成は、例えば、一般の家庭に設けられる構成となる。再現側の構成として、調理ロボット1が用意される。
図1の調理システムは、シェフが作った料理と同じ料理を、再現側の構成としての調理ロボット1において再現するシステムである。調理ロボット1は、調理アームなどの駆動系の装置、および、各種のセンサを有し、調理を行う機能を搭載したロボットである。
シェフ側の構成から、調理ロボット1を含む再現側の構成に対しては、矢印で示すようにレシピデータが提供される。後に詳述するように、レシピデータには、料理の食材を含む、シェフが作った料理に関する情報が記述されている。
再現側の構成においては、調理ロボット1の調理動作をレシピデータに基づいて制御することによって、料理が再現されることになる。例えば、シェフの調理工程と同じ工程を実現するための調理動作を調理ロボット1に行わせることによって料理が再現される。
調理を行う調理人としてシェフが示されているが、板前、コックなどの呼び方、厨房における役割に関わらず、調理を行う人であれば、どのような人が調理を行う場合にも、図1の調理システムは適用可能である。
また、図1においては、1人のシェフ側の構成のみが示されているが、調理システムには、複数のレストランなどにそれぞれ設けられる複数のシェフ側の構成が含まれる。再現側の構成に対しては、例えば調理ロボット1により再現された料理を食べる人が選択した所定のシェフが作る、所定の料理のレシピデータが提供される。
なお、料理は、調理を経て出来上がる成果物のことを意味する。調理は、料理を作る過程や、料理を作る行為(作業)のことを意味する。
図2は、シェフ側と再現側のそれぞれにおいて用いられる食材の違いについて説明する図である。
シェフの調理に例えばにんじんが使われた場合、レシピデータには、食材としてにんじんを使うことを表す情報が記述される。また、にんじんを使った調理工程に関する情報が記述される。
再現側においても同様に、レシピデータに基づいて、にんじんを使った調理動作が行われる。
ここで、同じ「にんじん」として分類される食材であっても、シェフ側で用意されるにんじんと、再現側で用意されるにんじんとでは、種別の違い、産地の違い、収穫時期の違い、成育状況の違い、収穫後の環境の違いなどによって、味、香り、質感が異なる。自然物である食材には、完全に同じものは存在しない。
したがって、シェフの動作と完全に同じ調理動作を調理ロボット1に行わせたとしても、にんじんを使って出来上がった料理の風味は異なるものとなる。風味の詳細については後述する。
1つの料理が完成するまでには複数の調理工程を経ることになるが、にんじんを使った1つの調理工程を経ることによって出来上がった途中の料理を見ても、その風味は、シェフ側と再現側とでは異なるものとなる。
同様に、ある調理工程で使われる調味料の違い、調理に使う包丁、鍋などの調理ツールの違い、火力などの設備の違いなどによっても、出来上がった料理、途中の料理の風味は、シェフ側と再現側とでは異なるものとなる。
そこで、図1の調理システムにおいては、料理を作るときにシェフが感覚として得た風味が、例えば1つの調理工程が行われる毎に計測される。再現側に提供されるレシピデータには、シェフが得た風味をデータ化した感覚データが、例えば、1つの調理工程に関する、食材や動作の情報とリンクさせて記述される。
<レシピデータについて>
図3は、レシピデータの記述内容の例を示す図である。
図3に示すように、1つのレシピデータは、複数の調理工程データセットから構成される。図3の例においては、調理工程#1に関する調理工程データセット、調理工程#2に関する調理工程データセット、・・・、調理工程#Nに関する調理工程データセットが含まれる。
このように、レシピデータにおいては、1つの調理工程に関する情報が、1つの調理工程データセットとして記述される。
図4は、調理工程データセットに含まれる情報の例を示す図である。
図4の吹き出しに示すように、調理工程データセットは、調理工程を実現するための調理動作に関する情報である調理動作情報と、調理工程を経た食材の風味に関する情報である風味情報とから構成される。
1.調理動作情報
調理動作情報は、食材情報と動作情報から構成される。
1-1.食材情報
食材情報は、調理工程においてシェフが使った食材に関する情報である。食材に関する情報には、食材の種類、食材の量、食材の大きさなどを表す情報が含まれる。
例えば、ある調理工程においてにんじんを使った調理をシェフが行った場合、にんじんを使ったことを表す情報が食材情報に含まれる。水、調味料などの、料理の材料としてシェフが使った各種の食物を表す情報なども、食材情報に含まれる。食物は、人が食べることができる各種の物である。
なお、食材には、調理が全く施されていない食材だけでなく、ある調理が施されることによって得られた調理済み(下処理済み)の食材も含まれる。ある調理工程の調理動作情報に含まれる食材情報には、それより前の調理工程を経た食材の情報が含まれる。
シェフが使った食材は、例えば、調理を行っているシェフをカメラで撮影した画像を解析することによって認識される。食材情報は、食材の認識結果に基づいて生成される。カメラにより撮影される画像は、動画像であってもよいし、静止画像であってもよい。
レシピデータの生成時に、シェフにより、または、シェフをサポートするスタッフなどの他の人により食材情報が登録されるようにしてもよい。
1-2.動作情報
動作情報は、調理工程におけるシェフの動きに関する情報である。シェフの動きに関する情報には、シェフが使った調理ツールの種類、手の動きを含む、各時刻のシェフの体の動き、各時刻のシェフの立ち位置などを表す情報が含まれる。
例えば、ある食材を、シェフが包丁を使って切った場合、調理ツールとして包丁を使ったことを表す情報、切る位置、切る回数、切り方の力加減、角度、スピードなどを表す情報が動作情報に含まれる。
また、食材としての液体が入った鍋を、シェフがおたまを使ってかき混ぜた場合、調理ツールとしておたまを使ったことを表す情報、かき混ぜ方の力加減、角度、スピード、時間などを表す情報が動作情報に含まれる。
ある食材を、シェフがオーブンを使って焼いた場合、調理ツールとしてオーブンを使ったことを表す情報、オーブンの火力、焼き時間などを表す情報が動作情報に含まれる。
シェフが盛り付けを行った場合、盛り付けに使った食器、食材の配置の仕方、食材の色味などを表す盛り付け方の情報が動作情報に含まれる。
シェフの動きは、例えば、調理を行っているシェフをカメラで撮影した画像を解析することによって、または、シェフが身に付けているセンサにより計測されたセンサデータを解析することによって認識される。動作情報は、シェフの動きの認識結果に基づいて生成される。
2.風味情報
図4に示すように、風味情報は、風味センサ情報と風味主観情報から構成される。風味は感覚として得られるものである。調理工程データセットに含まれる風味情報が、シェフの感覚をデータ化した感覚データに相当する。
図5は、風味の構成要素の例を示す図である。
人が脳で感じるおいしさ、すなわち「風味」は、図5に示すように、主に、人の味覚によって得られる味、人の嗅覚によって得られる香り、人の触覚によって得られる質感を組み合わせて構成される。
体感温度や食材の色彩によってもおいしさの感じ方が変わってくるから、風味には、体感温度と色彩も含まれる。
風味(flavor)の各構成要素について説明する。
(1)味(taste)
味には、舌・口腔内の味覚受容体細胞で感じうる五種の味(塩味、酸味、苦味、甘味、旨味)が含まれる。塩味、酸味、苦味、甘味、旨味は、基本五味と呼ばれる。
また、味には、基本五味に加えて、口腔内だけでなく全身の痛覚であるTRP(Transient Receptor Potential)チャネルファミリーに属するバニロイド受容体などで感じる辛味が含まれる。濃度に応じて苦味と重なる味となるが、渋味も味の一種である。
それぞれの味について説明する。
・塩味
塩味を感じさせる物質には、イオン化結合で塩を生成するミネラル類(Na, K, Fe, Mg, Ca, Cu, Mn, Al, Zn等)がある。
・酸味
酸味を感じさせる物質には、クエン酸、酢酸などの酸がある。一般には、pHの低下依存(例えば、pH3程度)で酸味が感じられる。
・甘味
甘味を感じさせる物質には、ショ糖やブドウ糖などの糖類、脂質類、グリシンなどのアミノ酸、人工甘味料がある。
・旨味
旨味を感じさせる物質には、グルタミン酸やアスパラギン酸などのアミノ酸、イノシン酸、グアニル酸、キサンチル酸などの核酸派生物、コハク酸などの有機酸、および塩類がある。
・苦味
苦みを感じさせる物質には、カフェインなどのアルカロイド類、テオブロミン、ニコチン、カテキン、テルペノイドなどのフムロン類、リモニン、ククルビタシン、フラバノン配糖体のナリンジン、苦味アミノ酸、苦味ペプチド、胆汁酸、無機塩類のカルシウム塩、マグネシウム塩がある。
・渋味
渋味を感じさせる物質には、ポリフェノール類、タンニン、カテキン、多価イオン(Al, Zn, Cr)、エタノール、アセトンがある。渋味は、苦味の一部として認識、あるいは計測される。
・辛味
辛味を感じさせる物質には、カプサイシノイドがある。生体機能として、熱く感じる唐辛子や各種スパイスの成分であるカプサイシン、冷感を感じるペパーミントの成分であるメントールは、味覚ではなく、痛覚として、TRPチャネルファミリーの温感受容体により認識される。
(2)香り(aroma)
香りは、鼻腔および上咽頭内に発現する嗅覚受容体により認識(結合)される分子量300以下の、揮発性のある低分子有機化合物により知覚される。
(3)質感(texture)
質感は、いわゆる食感と呼ばれる指標であり、硬さ、ベタベタ感、粘性、凝集性、ポリマー含有量、水分含有量(moisture)、油分含有量(greasiness)などで表される。
(4)体感温度(apparent temperature)
体感温度は、人肌が感じる温度である。体感温度には、食物自体の温度だけでなく、ミントのように揮発性物質を含む食物によって清涼感を感じたり、唐辛子のように辛味成分を含む食物によって温感を感じたりするなど、肌の表層部が食物の成分に反応して感じられる温度感覚も含まれる。
(5)色彩(color)
食物の色彩は、食物に含まれる色素や、苦味・渋味の成分を反映する。例えば、植物由来の食物には、光合成によってできる色素や、ポリフェノール類の苦味・渋味に関わる成分が含まれる。光学的計測法により、食物の色彩から、食物に含まれる成分を推定することが可能となる。
2-1.風味センサ情報
風味情報を構成する風味センサ情報は、食材の風味をセンサにより計測して得られたセンサデータである。調理が全く施されていない食材の風味をセンサにより計測して得られたセンサデータが風味センサ情報として風味情報に含まれるようにしてもよい。
風味は、味、香り、質感、体感温度、色彩によって構成されるから、風味センサ情報には、味に関するセンサデータ、香りに関するセンサデータ、質感に関するセンサデータ、体感温度に関するセンサデータ、色彩に関するセンサデータが含まれる。全てのセンサデータが風味センサ情報に含まれるようにしてもよいし、いずれかのセンサデータが風味センサ情報に含まれないようにしてもよい。
風味センサ情報を構成するそれぞれのセンサデータを、味覚センサデータ、嗅覚センサデータ、質感センサデータ、体感温度センサデータ、色彩センサデータという。
味覚センサデータは、味覚センサにより計測されたセンサデータである。味覚センサデータは、塩味センサ値、酸味センサ値、苦味センサ値、甘味センサ値、旨味センサ値、辛味センサ値、渋味センサ値のうちの少なくともいずれかのパラメータにより構成される。
味覚センサには、例えば、センサ部に人工的な脂質膜を用いた人工脂質膜型味覚センサがある。人工脂質膜型味覚センサは、味を感じさせる原因となる物質である呈味物質に対する、脂質膜の静電相互作用や疎水性相互作用によって生じた膜電位の変化を検出し、センサ値として出力するセンサである。
人工脂質膜型味覚センサではなく、食物の味を構成する塩味、酸味、苦味、甘味、旨味、辛味、渋味のそれぞれの要素をデータ化して出力することができる装置であれば、高分子膜を用いた味覚センサなどの各種の装置を味覚センサとして用いることが可能である。
嗅覚センサデータは、嗅覚センサにより計測されたセンサデータである。嗅覚センサデータは、スパイシーな香り、フルーティーな香り、青臭い、かび臭い(チージー)、シトラスの香り、ローズの香りなどの、香りを表現する要素毎の値により構成される。
嗅覚センサには、例えば、水晶振動子などのセンサを無数に設けたセンサがある。人間の鼻の受容体の代わりに水晶振動子が用いられることになる。水晶振動子を用いた嗅覚センサは、香り成分が水晶振動子にぶつかったときの、水晶振動子の振動周波数の変化を検出し、振動周波数の変化のパターンに基づいて、上述した香りを表現する値を出力するものである。
水晶振動子を用いたセンサではなく、香りを表現する値を出力することができる装置であれば、カーボンなどの各種の素材からなるセンサを人間の鼻の受容体の代わりに用いた各種の装置を嗅覚センサとして用いることが可能である。
質感センサデータは、カメラにより撮影された画像や、各種のセンサにより計測されたセンサデータを解析することにより特定されるセンサデータである。質感センサデータは、硬さ(硬度)、ベタベタ感、粘性(応力)、凝集性、ポリマー含有量、水分含有量、油分含有量などを表す情報のうちの少なくともいずれかのパラメータにより構成される。
硬さ、ベタベタ感、粘性、凝集性は、例えば、シェフが調理を行っている食材をカメラで撮影した画像を解析することによって認識される。例えば、シェフがかき混ぜているスープの画像を解析することにより、硬さ、ベタベタ感、粘性、凝集性などの値を認識することが可能となる。これらの値が、シェフが包丁で食材を切ったときの応力を計測することにより認識されるようにしてもよい。
ポリマー含有量、水分含有量、油分含有量は、例えば、所定の波長の光を食材に照射し、その反射光を解析することによってそれらの値を計測するセンサにより計測される。
それぞれの食材と質感の各パラメータとを対応付けたデータベースが用意されており、データベースを参照して、それぞれの食材の質感センサデータが認識されるようにしてもよい。
体感温度センサデータは、食材の温度を温度センサにより計測することによって得られるセンサデータである。
色彩センサデータは、カメラにより撮影された画像から食材の色彩を解析することにより特定されるデータである。
2-2.風味主観情報
風味主観情報は、調理を行っているシェフなどの、人の主観的な風味の感じ方を表す情報である。風味主観情報は、風味センサ情報に基づいて算出される。
風味は、味、香り、質感、体感温度、色彩によって構成されるから、風味主観情報には、味に関する主観情報、香りに関する主観情報、質感に関する主観情報、体感温度に関する主観情報、色彩に関する主観情報が含まれる。味に関する主観情報、香りに関する主観情報、質感に関する主観情報、体感温度に関する主観情報、色彩に関する主観情報の全てが風味主観情報に含まれるようにしてもよいし、いずれかの主観情報が風味主観情報に含まれないようにしてもよい。
風味主観情報を構成するそれぞれの主観情報を、味覚主観情報、嗅覚主観情報、質感主観情報、体感温度主観情報、色彩主観情報という。
図6は、味覚主観情報の算出例を示す図である。
図6に示すように、味覚主観情報は、深層学習などにより生成されたニューラルネットワークのモデルである味覚主観情報生成用モデルを用いて算出される。味覚主観情報生成用モデルは、例えば、ある食材の味覚センサデータと、その食材を食べたシェフの味の感じ方を表す情報(数値)を用いた学習を行うことによって予め生成される。
例えば、図6に示すように、ある食材の味覚センサデータである塩味センサ値、酸味センサ値、苦味センサ値、甘味センサ値、旨味センサ値、辛味センサ値、渋味センサ値のそれぞれを入力した場合、味覚主観情報生成用モデルからは、塩味主観値、酸味主観値、苦味主観値、甘味主観値、旨味主観値、辛味主観値、渋味主観値のそれぞれが出力される。
塩味主観値は、シェフの塩味の感じ方を表す値である。酸味主観値は、シェフの酸味の感じ方を表す値である。苦味主観値、甘味主観値、旨味主観値、辛味主観値、渋味主観値も同様に、それぞれ、シェフの、苦味、甘味、旨味、辛味、渋味の感じ方を表す値である。
ある食材の味覚主観情報は、図7に示すように、塩味主観値、酸味主観値、苦味主観値、甘味主観値、旨味主観値、辛味主観値、渋味主観値のそれぞれの値によりチャートとして表される。味覚主観情報のチャートの形状が似ている食材は、風味のうちの味だけに注目した場合には、シェフにとって味が似ている食材ということになる。
風味主観情報を構成する他の主観情報も同様に、それぞれの主観情報生成用のモデルを用いて算出される。
すなわち、嗅覚主観情報は、嗅覚センサデータを嗅覚主観情報生成用モデルに入力することによって算出され、質感主観情報は、質感センサデータを質感主観情報生成用モデルに入力することによって算出される。体感温度主観情報は、体感温度主観センサデータを体感温度主観情報生成用モデルに入力することによって算出され、色彩主観情報は、色彩センサデータを色彩主観情報生成用モデルに入力することによって算出される。
ニューラルネットワークのモデルを用いるのではなく、ある食材の味覚センサデータと、その食材を食べたシェフの味の感じ方を表す情報とを対応付けたテーブル情報に基づいて味覚主観情報が算出されるようにしてもよい。風味センサ情報を用いた風味主観情報の算出の仕方については様々な方法を採用することができる。
以上のように、レシピデータは、調理工程を実現するための調理動作に関する情報である調理動作情報と、調理工程の進捗に連動して計測された、食材や料理の風味に関する情報である風味情報とをリンクさせる(紐付ける)ことによって構成される。
以上のような各情報を含むレシピデータが、図8に示すように料理毎に用意される。どのレシピデータに基づいて料理を再現するのかは、例えば、調理ロボット1が設置された場所にいる人により選択される。
<レシピデータの生成と料理の再現の流れの例>
図9は、レシピデータの生成の流れの例を示す図である。
図9に示すように、通常、シェフによる調理は、食材を用いた調理を行い、調理後の食材の味見をして、風味を調整することを、調理工程毎に繰り返すことによって行われる。
風味の調整は、例えば、味については、塩味が足りない場合には塩を足す、酸味が足りない場合にはレモン汁を搾るなどの作業を加えるようにして行われる。香りについては、例えば、ハーブを刻んで足す、食材に火を通すなどの作業を加えるようにして行われる。質感については、例えば、食材が硬い場合には叩いて柔らかくする、煮込む時間を増やすなどの作業を加えるようにして行われる。
調理工程データセットを構成する調理動作情報は、食材を用いた調理を行うシェフの動作と、風味を調整するシェフの動作とをセンシングし、センシング結果に基づいて生成される。
また、風味情報は、調理後の食材の風味をセンシングし、センシング結果に基づいて生成される。
図9の例においては、矢印A1,A2に示すように、調理工程#1としてシェフが行う調理の動作と、風味を調整するシェフの動作とのセンシング結果に基づいて、調理工程#1の調理工程データセットを構成する調理動作情報が生成されている。
また、矢印A3に示すように、調理工程#1による調理後の食材の風味のセンシング結果に基づいて、調理工程#1の調理工程データセットを構成する風味情報が生成されている。
調理工程#1が終了した後、次の調理工程である調理工程#2が行われる。
同様に、矢印A11,A12に示すように、調理工程#2としてシェフが行う調理の動作と、風味を調整するシェフの動作とのセンシング結果に基づいて、調理工程#2の調理工程データセットを構成する調理動作情報が生成されている。
また、矢印A13に示すように、調理工程#2による調理後の食材の風味のセンシング結果に基づいて、調理工程#2の調理工程データセットを構成する風味情報が生成されている。
このような複数の調理工程を経て1つの料理が完成する。また、料理が完成するとともに、各調理工程の調理工程データセットを記述したレシピデータが生成される。
以下、主に、1つの調理工程が調理、味見、調整の3つの調理動作から構成される場合について説明するが、1つの調理工程に含まれる調理動作の単位は任意に設定可能である。1つの調理工程が、味見や味見後の風味の調整を伴わない調理動作から構成されることもあるし、風味の調整だけから構成されることもある。この場合も同様に、調理工程毎に風味のセンシングが行われ、センシング結果に基づいて得られた風味情報が調理工程データセットに含まれる。
1つの調理工程が終わる毎に風味のセンシングが行われるのではなく、風味のセンシングのタイミングについても任意に設定可能である。例えば、1つの調理工程の間、風味のセンシングが繰り返し行われるようにしてもよい。この場合、調理工程データセットには、風味情報の時系列データが含まれることになる。
全ての調理工程データセットに風味情報が含まれるのではなく、風味の計測が任意のタイミングで行われる毎に、風味情報が、そのタイミングで行われていた調理動作の情報とともに調理工程データセットに含まれるようにしてもよい。
図10は、レシピデータに基づく料理の再現の流れの例を示す図である。
図10に示すように、調理ロボット1による料理の再現は、レシピデータに記述された調理工程データセットに含まれる調理動作情報に基づいて調理を行い、調理後の食材の風味を計測して、風味を調整することを、調理工程毎に繰り返すことによって行われる。
風味の調整は、例えば、調理ロボット1側に用意されたセンサにより計測された風味が、風味情報により表される風味に近づくように、作業を加えるようにして行われる。調理ロボット1による風味の調整の詳細については後述する。
風味の計測と調整は、例えば、1つの調理工程において複数回繰り返されることもある。すなわち、調整が行われる毎に、調整後の食材を対象として風味の計測が行われ、計測結果に基づいて風味の調整が行われる。
図10の例においては、矢印A21に示すように、調理工程#1の調理工程データセットを構成する調理動作情報に基づいて調理ロボット1の調理動作が制御され、シェフの調理工程#1の動作と同じ動作が調理ロボット1により行われる。
シェフの調理工程#1の動作と同じ動作が調理ロボット1により行われた後、調理後の食材の風味が計測され、矢印A22に示すように、調理工程#1の調理工程データセットを構成する風味情報に基づいて、調理ロボット1の風味の調整が制御される。
調理ロボット1側に用意されたセンサにより計測された風味が、風味情報により表される風味に一致した場合、風味の調整が終わり、調理工程#1も終了となる。例えば、完全に一致するだけでなく、調理ロボット1側に用意されたセンサにより計測された風味と、風味情報により表される風味が閾値以上類似する場合も、両者が一致するものとして判定される。
調理工程#1が終了した後、次の調理工程である調理工程#2が行われる。
同様に、矢印A31に示すように、調理工程#2の調理工程データセットを構成する調理動作情報に基づいて調理ロボット1の調理動作が制御され、シェフの調理工程#2の動作と同じ動作が調理ロボット1により行われる。
シェフの調理工程#2の動作と同じ動作が調理ロボット1により行われた後、調理後の食材の風味が計測され、矢印A32に示すように、調理工程#2の調理工程データセットを構成する風味情報に基づいて、調理ロボット1の風味の調整が制御される。
調理ロボット1側に用意されたセンサにより計測された風味が、風味情報により表される風味に一致した場合、風味の調整が終わり、調理工程#2も終了となる。
このような複数の調理工程を経て、シェフが作った料理が調理ロボット1により再現される。
図11は、シェフ側の流れと再現側の流れをまとめて示す図である。
図11の左側に示すように、調理工程#1~#Nの複数の調理工程を経て1つの料理が完成するとともに、各調理工程の調理工程データセットを記述したレシピデータが生成される。
一方、再現側においては、シェフの調理によって生成されたレシピデータに基づいて、シェフ側で行われた調理工程と同じ、調理工程#1~#Nの複数の調理工程を経て、1つの料理が再現される。
調理ロボット1による調理は、調理工程毎に風味を調整するようにして行われるから、最終的に出来上がる料理は、シェフが作った料理と同じか、あるいは、近い風味の料理となる。このように、シェフが作った料理と同じ風味の料理が、再現性の高い形で、レシピデータに基づいて再現される。
シェフは、例えば自分が経営するレストランに来店することができない人に対して、自分が作った料理と同じ風味の料理を提供することができる。また、シェフは、自分が作る料理を、レシピデータとして再現可能な形で残すことが可能となる。
一方、調理ロボット1によって再現された料理を食べる人は、シェフが作った料理と同じ風味の料理を食べることができる。
図12は、レシピデータの他の記述内容の例を示す図である。
図12に示すように、完成した料理の風味に関する風味情報がレシピデータに含まれるようにしてもよい。この場合、完成した料理の風味に関する風味情報は、全体の調理動作情報にリンクされる。
このように、調理動作情報と風味情報との紐付けの関係は、1対1である必要はない。
<調理システムの構成例>
(1)全体構成
図13は、本技術の一実施形態に係る調理システムの構成例を示す図である。
図13に示すように、調理システムは、シェフ側の構成として設けられるデータ処理装置11と、再現側の構成として設けられる制御装置12とが、インターネットなどのネットワーク13を介して接続されることによって構成される。上述したように、調理システムには、このようなシェフ側の構成と再現側の構成とが複数設けられる。
データ処理装置11は、上述したレシピデータを生成する装置である。データ処理装置11はコンピュータなどにより構成される。データ処理装置11は、例えば、再現された料理を食べる人が選択した料理のレシピデータを、ネットワーク13を介して制御装置12に送信する。
制御装置12は、調理ロボット1を制御する装置である。制御装置12もコンピュータなどにより構成される。制御装置12は、データ処理装置11から提供されたレシピデータを受信し、レシピデータの記述に基づいて命令コマンドを出力することによって、調理ロボット1の調理動作を制御する。
調理ロボット1は、制御装置12から供給された命令コマンドに従って調理アームなどの各部を駆動し、各調理工程の調理動作を行う。命令コマンドには、調理アームに設けられたモータのトルク、駆動方向、駆動量を制御する情報などが含まれる。
料理が完成するまでの間、制御装置12から調理ロボット1に対して命令コマンドが順次出力される。命令コマンドに応じた動作を調理ロボット1がとることにより、最終的に、料理が完成することになる。
図14は、調理システムの他の構成例を示す図である。
図14に示すように、シェフ側から再現側に対するレシピデータの提供が、ネットワーク上のサーバを介して行われるようにしてもよい。
図14に示すレシピデータ管理サーバ21は、それぞれのデータ処理装置11から送信されたレシピデータを受信し、データベースに記憶させるなどして管理する。レシピデータ管理サーバ21は、ネットワーク13を介して行われる制御装置12からの要求に応じて、所定のレシピデータを制御装置12に送信する。
レシピデータ管理サーバ21は、様々なレストランのシェフが作った料理のレシピデータを一元的に管理し、再現側からの要求に応じてレシピデータを配信する機能を有する。
図15は、制御装置12の配置例を示す図である。
図15のAに示すように、制御装置12は、例えば調理ロボット1の外部の装置として設けられる。図15のAの例においては、制御装置12と調理ロボット1は、ネットワーク13を介して接続されている。
制御装置12から送信された命令コマンドは、ネットワーク13を介して調理ロボット1により受信される。調理ロボット1から制御装置12に対しては、調理ロボット1のカメラにより撮影された画像、調理ロボット1に設けられたセンサにより計測されたセンサデータなどの各種のデータがネットワーク13を介して送信される。
1台の制御装置12に対して1台の調理ロボット1が接続されるのではなく、1台の制御装置12に対して複数台の調理ロボット1が接続されるようにしてもよい。
図15のBに示すように、制御装置12が調理ロボット1の筐体の内部に設けられるようにしてもよい。この場合、制御装置12が生成する命令コマンドに従って、調理ロボット1の各部の動作が制御される。
以下、主に、制御装置12が、調理ロボット1の外部の装置として設けられるものとして説明する。
(2)シェフ側の構成
(2-1)キッチン周りの構成
図16は、シェフが調理を行うキッチン周りの構成例を示す図である。
シェフが調理を行うキッチン31の周りには、シェフの動作の解析と食材の風味の解析に用いる情報を計測するための各種の機器が設けられる。それらの機器の中には、シェフの体に取り付けられるものもある。
キッチン31の周りに設けられた機器は、それぞれ、有線または無線の通信を介してデータ処理装置11に接続される。キッチン31の周りに設けられたそれぞれの機器が、ネットワークを介してデータ処理装置11に接続されるようにしてもよい。
図16に示すように、キッチン31の上方には、カメラ41-1,41-2が設けられる。カメラ41-1,41-2は、調理を行っているシェフの様子、キッチン31の天板上の様子を撮影し、撮影によって得られた画像をデータ処理装置11に送信する。
シェフの頭部には、小型のカメラ41-3が取り付けられる。カメラ41-3の撮影範囲は、シェフの視線の方向に応じて切り替えられる。カメラ41-3は、調理を行っているシェフの手元の様子、調理対象となっている食材の様子、キッチン31の天板上の様子を撮影し、撮影によって得られた画像をデータ処理装置11に送信する。
このように、キッチン31の周りには複数台のカメラが設けられる。カメラ41-1乃至41-3を区別する必要がない場合、適宜、まとめてカメラ41という。
シェフの上半身には、嗅覚センサ42が取り付けられる。嗅覚センサ42は、食材の香りを計測し、嗅覚センサデータをデータ処理装置11に送信する。
キッチン31の天板上には味覚センサ43が設けられる。味覚センサ43は、食材の味を計測し、味覚センサデータをデータ処理装置11に送信する。
味覚センサ43は、図17に示すように、ケーブルの先に設けられたセンサ部43Aを、調理対象となっている食材などに接触させることによって用いられる。味覚センサ43が上述した人工脂質膜型味覚センサである場合、脂質膜がセンサ部43Aに設けられる。
味覚センサデータだけでなく、風味センサ情報を構成するセンサデータのうちの、質感センサデータ、体感温度センサデータについても味覚センサ43により計測され、データ処理装置11に対して送信されるようにしてもよい。この場合、味覚センサ43には、質感センサ、体感温度センサとしての機能が設けられる。例えば、ポリマー含有量、水分含有量、油分含有量などの質感センサデータが味覚センサ43により計測される。
キッチン31の周りには、図16に示す機器以外の各種の機器が設けられる。
図18は、シェフ側の構成例を示すブロック図である。
図18に示す構成のうち、上述した構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
図18に示すように、データ処理装置11に対しては、カメラ41、嗅覚センサ42、味覚センサ43、赤外線センサ51、質感センサ52、および環境センサ53が接続される。上述した構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
赤外線センサ51は、IR光を出力し、IR画像を生成する。赤外線センサ51により生成されたIR画像はデータ処理装置11に出力される。カメラ41が撮影する画像(RGB画像)ではなく、赤外線センサ51が撮影するIR画像に基づいて、シェフの動作や食材などの各種の解析が行われるようにしてもよい。
質感センサ52は、硬度センサ、応力センサ、水分量センサ、温度センサなどの、質感の解析に用いられる各種のセンサデータを出力するセンサにより構成される。硬度センサ、応力センサ、水分量センサ、温度センサが、包丁、フライパン、オーブンなどの調理ツールに設けられるようにしてもよい。質感センサ52により計測されたセンサデータはデータ処理装置11に出力される。
環境センサ53は、シェフが調理を行う厨房などの空間の環境である調理環境を計測するセンサである。図18の例においては、環境センサ53は、カメラ61、温度・湿度センサ62、照度センサ63により構成される。
カメラ61は、調理空間を撮影した画像をデータ処理装置11に出力する。調理空間を撮影した画像を解析することにより、例えば、調理空間の色彩(明度、色相、彩度)が計測される。
温度・湿度センサ62は、シェフ側の空間の温度、湿度を計測し、計測結果を表す情報をデータ処理装置11に出力する。
照度センサ63は、シェフ側の空間の明るさを計測し、計測結果を表す情報をデータ処理装置11に出力する。
料理を食べる空間の色彩、気温、明るさは、人の風味の感じ方に影響を与える。例えば、同じ料理の味付けを考えた場合に、気温が高いほど薄味が好まれるし、気温が低いほど濃い味が好まれる。
このような人の風味の感じ方に影響を与える可能性のある調理環境については、調理時に計測され、環境情報としてレシピデータに含まれるようにしてもよい。
再現側においては、料理を食べる人がいる部屋の色彩、気温、明るさなどの環境が、レシピデータに含まれる環境情報により表される調理環境と同じ環境になるように調整される。
これにより、再現された料理を食べたときの風味の感じ方を、シェフの調理時の感じ方に近付けることが可能となる。
シェフ側の空間の気圧や騒音、調理時の季節、時間帯などの、風味の感じ方に影響を与える可能性のある各種の情報が環境センサ53により計測され、環境情報としてレシピデータに含められるようにしてもよい。
(2-2)データ処理装置11の構成
図19は、データ処理装置11のハードウェアの構成例を示すブロック図である。
図19に示すように、データ処理装置11はコンピュータにより構成される。CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203は、バス204により相互に接続される。
バス204には、さらに、入出力インタフェース205が接続される。入出力インタフェース205には、キーボード、マウスなどよりなる入力部206、ディスプレイ、スピーカなどよりなる出力部207が接続される。
また、入出力インタフェース205には、ハードディスクや不揮発性のメモリなどよりなる記憶部208、ネットワークインタフェースなどよりなる通信部209、リムーバブルメディア211を駆動するドライブ210が接続される。
以上のように構成されるコンピュータでは、CPU201が、例えば、記憶部208に記憶されているプログラムを入出力インタフェース205およびバス204を介してRAM203にロードして実行することにより、各種の処理が行われる。
図20は、データ処理装置11の機能構成例を示すブロック図である。
図20に示す機能部のうちの少なくとも一部は、図19のCPU201により所定のプロ
グラムが実行されることによって実現される。
図20に示すように、データ処理装置11においてはデータ処理部221が実現される。データ処理部221は、調理動作情報生成部231、風味情報生成部232、レシピデータ生成部233、環境情報生成部234、属性情報生成部235、およびレシピデータ出力部236により構成される。
調理動作情報生成部231は、食材認識部251、ツール認識部252、および動作認識部253により構成される。
食材認識部251は、カメラ41により撮影された画像を解析し、シェフが調理に使っている食材の種類を認識する。食材認識部251に対しては、特徴情報などの、各種の食材の種類の認識に用いるための認識用情報が与えられている。
ツール認識部252は、カメラ41により撮影された画像を解析し、シェフが調理に使っている調理ツールの種類を認識する。ツール認識部252に対しては、各種の調理ツールの種類の認識に用いるための認識用情報が与えられている。
動作認識部253は、カメラ41により撮影された画像、シェフの体に取り付けられたセンサの計測結果を表すセンサデータなどを解析し、調理を行うシェフの動作を認識する。
調理動作情報生成部231の各部による認識結果を表す情報はレシピデータ生成部233に供給される。
風味情報生成部232は、味計測部261、香り計測部262、質感計測部263、体感温度計測部264、色彩計測部265、および主観情報生成部266により構成される。
味計測部261は、味覚センサ43を制御することによって食材の味を計測し、味覚センサデータを取得する。計測の対象となる食材には、調理前の食材、調理後の食材、完成した料理などの、シェフが扱う全ての食品が含まれる。
香り計測部262は、嗅覚センサ42を制御することによって食材の香りを計測し、食材の嗅覚センサデータを取得する。
質感計測部263は、カメラ41により撮影された画像や質感センサ52による計測結果を解析するなどして食材の質感を計測し、食材の食感センサデータを取得する。
体感温度計測部264は、温度センサにより計測された食材の体感温度を表す体感温度センサデータを取得する。
色彩計測部265は、カメラ41により撮影された画像を解析するなどして食材の色彩を認識し、認識結果を表す色彩センサデータを取得する。色彩の認識対象が、食材を盛り付けて完成した料理である場合、料理全体における各部分の色彩が認識される。
主観情報生成部266は、味計測部261乃至色彩計測部265の各部により取得されたセンサデータに基づいて主観情報を生成する。センサデータにより表される風味に関する客観的なデータを、シェフの風味の感じ方を表す主観的なデータに変換する処理が主観情報生成部266において行われることになる。
主観情報生成部266に対しては、図6を参照して説明したニューラルネットワークなどのような、主観情報の生成に用いる情報が与えられている。
例えば、主観情報生成部266は、味計測部261により取得された味覚センサデータを味覚主観情報生成用モデルに入力し、食材の味覚主観情報を生成する。
同様に、主観情報生成部266は、香り計測部262により取得された嗅覚センサデータを嗅覚主観情報生成用モデルに入力し、食材の嗅覚主観情報を生成する。主観情報生成部266は、質感計測部263により取得された質感センサデータを質感主観情報生成用モデルに入力し、食材の質感主観情報を生成する。
主観情報生成部266は、体感温度計測部264により取得された体感温度センサデータを体感温度主観情報生成用モデルに入力し、食材の体感温度主観情報を生成する。主観情報生成部266は、色彩計測部265により取得された色彩センサデータを色彩主観情報生成用モデルに入力し、食材の色彩主観情報を生成する。
味計測部261乃至色彩計測部265の各部により取得されたセンサデータと、主観情報生成部266により生成されたそれぞれの主観情報は、レシピデータ生成部233に供給される。
レシピデータ生成部233は、調理動作情報生成部231の各部から供給された情報に基づいて調理動作情報を生成する。すなわち、レシピデータ生成部233は、食材認識部251による認識結果に基づいて食材情報を生成し、ツール認識部252と動作認識部253による認識結果に基づいて動作情報を生成する。レシピデータ生成部233は、食材情報と動作情報を含む調理動作情報を生成する。
また、レシピデータ生成部233は、風味情報生成部232の各部から供給された情報に基づいて風味情報を生成する。すなわち、レシピデータ生成部233は、味計測部261乃至色彩計測部265により取得されたセンサデータに基づいて風味センサ情報を生成し、主観情報生成部266により生成された主観情報に基づいて風味主観情報を生成する。レシピデータ生成部233は、風味センサ情報と風味主観情報を含む風味情報を生成する。
レシピデータ生成部233は、例えばシェフの調理工程毎に、調理動作情報と風味情報とを紐付けることによって調理工程データセットを生成する。レシピデータ生成部233は、ある料理の最初の調理工程から最後の調理工程までのそれぞれの調理工程に関する調理工程データセットをまとめることによって、複数の調理工程データセットを記述したレシピデータを生成する。
レシピデータ生成部233は、このようにして生成したレシピデータをレシピデータ出力部236に出力する。レシピデータ生成部233が出力するレシピデータには、適宜、環境情報生成部234により生成された環境情報と、属性情報生成部235により生成された属性情報が含められる。
環境情報生成部234は、環境センサ53による計測結果に基づいて調理環境を表す環境情報を生成する。環境情報生成部234により生成された環境情報はレシピデータ生成部233に出力される。
属性情報生成部235は、シェフの属性を表す属性情報を生成する。シェフの属性には、例えば、シェフの年齢、性別、国籍、生活地域が含まれる。シェフの体調などを表す情報が属性情報に含まれるようにしてもよい。
シェフの年齢、性別、国籍、生活地域は、風味の感じ方に影響を与える。すなわち、レシピデータに含まれる風味主観情報は、シェフの年齢、性別、国籍、生活地域などにより影響を受けているものと考えられる。
再現側においては、レシピデータに含まれる風味主観情報を用いて処理を行う場合、適宜、属性情報により表されるシェフの属性と、再現された料理を食べる人の属性との違いに応じて、風味主観情報の補正が行われ、補正後の風味主観情報を用いて処理が行われる。
例えば、シェフがフランス人であり、再現された料理を食べる人が日本人であるものとする。この場合、レシピデータに含まれる風味主観情報により表されるシェフの風味の感じ方はフランス人の感じ方であり、日本人の感じ方とは異なる。
レシピデータに含まれる風味主観情報は、日本人が食べた場合でも同じ風味の感じ方を得ることができるように、フランス人の感じ方に対応する日本人の感じ方を表す情報に基づいて補正される。風味主観情報の補正に用いられる情報は、それぞれの風味について、フランス人の感じ方と日本人の感じ方を対応付けた情報であり、例えば統計的に生成され、再現側に予め用意される。
フランス料理、日本料理、イタリア料理、スペイン料理などの、シェフが作った料理のカテゴリなどの属性が属性情報に含まれるようにしてもよい。
また、調理に用いられた食材や調味料の属性が属性情報に含まれるようにしてもよい。食材の属性には、産地、品種などがある。調味料の属性にも、産地、品種などがある。
このように、シェフの属性を表す属性情報である調理人属性情報、料理や食材の属性を表す属性情報である食品属性情報、食材の中でも調味料の属性を表す属性情報である調味料属性情報がレシピデータに含まれるようにしてもよい。
レシピデータ出力部236は、通信部209(図19)を制御し、レシピデータ生成部233により生成されたレシピデータを出力する。レシピデータ出力部236から出力されたレシピデータは、ネットワーク13を介して、制御装置12、またはレシピデータ管理サーバ21に供給される。
(3)再現側の構成
(3-1)調理ロボット1の構成
・調理ロボット1の外観
図21は、調理ロボット1の外観を示す斜視図である。
図21に示すように、調理ロボット1は、横長直方体状の筐体311を有するキッチン型のロボットである。調理ロボット1の本体となる筐体311の内部に各種の構成が設けられる。
筐体311の背面側には、筐体311の上面から立設する形で調理補助システム312が設けられる。薄板状の部材で区切ることによって調理補助システム312に形成された各スペースは、冷蔵庫、オーブンレンジ、収納などの、調理アーム321-1乃至321-4による調理を補助するための機能を有する。
天板311Aには長手方向にレールが設けられており、そのレールに調理アーム321-1乃至321-4が設けられる。調理アーム321-1乃至321-4は、移動機構としてのレールに沿って位置を変えることが可能とされる。
調理アーム321-1乃至321-4は、円筒状の部材を関節部で接続することによって構成されるロボットアームである。調理に関する各種の作業が調理アーム321-1乃至321-4により行われる。
天板311Aの上方の空間が、調理アーム321-1乃至321-4が調理を行う調理空間となる。
図21においては4本の調理アームが示されているが、調理アームの数は4本に限定されるものではない。以下、適宜、調理アーム321-1乃至321-4のそれぞれを区別する必要がない場合、まとめて調理アーム321という。
図22は、調理アーム321の様子を拡大して示す図である。
図22に示すように、調理アーム321の先端には、各種の調理機能を有するアタッチメントが取り付けられる。調理アーム321用のアタッチメントとして、食材や食器などを掴むマニピュレーター機能(ハンド機能)を有するアタッチメント、食材をカットするナイフ機能を有するアタッチメントなどの各種のアタッチメントが用意される。
図22の例においては、ナイフ機能を有するアタッチメントであるナイフアタッチメント331-1が調理アーム321-1に取り付けられている。ナイフアタッチメント331-1を用いて、天板311Aの上に置かれた肉の塊がカットされている。
調理アーム321-2には、食材を固定させたり、食材を回転させたりすることに用いられるアタッチメントであるスピンドルアタッチメント331-2が取り付けられている。
調理アーム321-3には、食材の皮をむくピーラーの機能を有するアタッチメントであるピーラーアタッチメント331-3が取り付けられている。
スピンドルアタッチメント331-2を用いて調理アーム321-2により持ち上げられているジャガイモの皮が、ピーラーアタッチメント331-3を用いて調理アーム321-3によりむかれている。このように、複数の調理アーム321が連携して1つの作業を行うことも可能とされる。
調理アーム321-4には、マニピュレーター機能を有するアタッチメントであるマニピュレーターアタッチメント331-4が取り付けられている。マニピュレーターアタッチメント331-4を用いて、チキンを載せたフライパンが、オーブン機能を有する調理補助システム312のスペースに運ばれている。
このような調理アーム321による調理は、作業の内容に応じてアタッチメントを適宜取り替えて進められる。アタッチメントの取り替えは、例えば調理ロボット1により自動的に行われる。
4本の調理アーム321のそれぞれにマニピュレーターアタッチメント331-4を取り付けるといったように、同じアタッチメントを複数の調理アーム321に取り付けることも可能とされる。
調理ロボット1による調理は、調理アーム用のツールとして用意された以上のようなアタッチメントを用いて行われるだけでなく、適宜、人が調理に使うツールと同じツールを用いて行われる。例えば、人が使うナイフをマニピュレーターアタッチメント331-4によって掴み、ナイフを用いて食材のカットなどの調理が行われる。
・調理アームの構成
図23は、調理アーム321の外観を示す図である。
図23に示すように、調理アーム321は、全体的に、細い円筒状の部材を、関節部となるヒンジ部で接続することによって構成される。各ヒンジ部には、各部材を駆動させるための力を生じさせるモータなどが設けられる。
円筒状の部材として、先端から順に、着脱部材351、中継部材353、およびベース部材355が設けられる。着脱部材351は、中継部材353の長さの略1/5程度の長さを有する部材である。着脱部材351の長さと中継部材353の長さを合わせた長さが、ベース部材355の長さとほぼ同じ長さとなる。
着脱部材351と中継部材353はヒンジ部352によって接続され、中継部材353とベース部材355はヒンジ部354によって接続される。中継部材353の両端にはヒンジ部352とヒンジ部354が設けられる。
この例においては、3本の円筒状の部材によって調理アーム321が構成されているが、4本以上の円筒状の部材によって構成されるようにしてもよい。この場合、中継部材353が複数設けられる。
着脱部材351の先端には、アタッチメントが着脱される着脱部351Aが設けられる。着脱部材351は、各種のアタッチメントが着脱される着脱部351Aを有し、アタッチメントを動作させることによって調理を行う調理機能アーム部として機能する。
ベース部材355の後端には、レールに取り付けられる着脱部356が設けられる。ベース部材355は、調理アーム321の移動を実現する移動機能アーム部として機能する。
図24は、調理アーム321の各部の可動域の例を示す図である。
楕円#1で囲んで示すように、着脱部材351は、円形断面の中心軸を中心として回転可能とされる。楕円#1の中心に示す扁平の小円は、一点鎖線の回転軸の方向を示す。
円#2で囲んで示すように、着脱部材351は、ヒンジ部352との嵌合部351Bを通る軸を中心として回転可能とされる。また、中継部材353は、ヒンジ部352との嵌合部353Aを通る軸を中心として回転可能とされる。
円#2の内側に示す2つの小円はそれぞれの回転軸の方向(紙面垂直方向)を示す。嵌合部351Bを通る軸を中心とした着脱部材351の可動範囲と、嵌合部353Aを通る軸を中心とした中継部材353の可動範囲は、それぞれ例えば90度の範囲である。
中継部材353は、先端側の部材353-1と、後端側の部材353-2により分離して構成される。楕円#3で囲んで示すように、中継部材353は、部材353-1と部材353-2との連結部353Bにおいて、円形断面の中心軸を中心として回転可能とされる。
他の可動部も、基本的に同様の可動域を有する。
すなわち、円#4で囲んで示すように、中継部材353は、ヒンジ部354との嵌合部353Cを通る軸を中心として回転可能とされる。また、ベース部材355は、ヒンジ部354との嵌合部355Aを通る軸を中心として回転可能とされる。
ベース部材355は、先端側の部材355-1と、後端側の部材355-2により分離して構成される。楕円#5で囲んで示すように、ベース部材355は、部材355-1と部材355-2との連結部355Bにおいて、円形断面の中心軸を中心として回転可能とされる。
円#6で囲んで示すように、ベース部材355は、着脱部356との嵌合部355Cを通る軸を中心として回転可能とされる。
楕円#7で囲んで示すように、着脱部356は、円形断面の中心軸を中心として回転可能となるようにレールに取り付けられる。
このように、先端に着脱部351Aを有する着脱部材351、着脱部材351とベース部材355を連結する中継部材353、後端に着脱部356が接続されるベース部材355は、それぞれ、ヒンジ部により回転可能に接続される。各可動部の動きが、調理ロボット1内のコントローラにより命令コマンドに従って制御される。
図25は、調理アームとコントローラの接続の例を示す図である。
図25に示すように、調理アーム321とコントローラ361は、筐体311の内部に形成された空間311B内において配線を介して接続される。図25の例においては、調理アーム321-1乃至321-4とコントローラ361は、それぞれ、配線362-1乃至362-4を介して接続されている。可撓性を有する配線362-1乃至362-4は、調理アーム321-1乃至321-4の位置に応じて適宜撓むことになる。
このように、調理ロボット1は、調理アーム321を駆動させることにより調理に関する各種の作業を行うことが可能なロボットである。
・調理ロボット1周りの構成
図26は、調理ロボット1と周辺の構成の例を示すブロック図である。
調理ロボット1は、コントローラ361に対して各部が接続されることによって構成される。図26に示す構成のうち、上述した構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。
コントローラ361に対しては、調理アーム321の他に、カメラ401、嗅覚センサ402、味覚センサ403、赤外線センサ404、質感センサ405、環境センサ406、および通信部407が接続される。
図21等においては図示を省略したが、調理ロボット1自体、または調理ロボット1の周囲の所定の位置には、シェフ側に設けられるセンサと同じセンサが設けられる。カメラ401、嗅覚センサ402、味覚センサ403、赤外線センサ404、質感センサ405、環境センサ406は、それぞれ、シェフ側のカメラ41、嗅覚センサ42、味覚センサ43、赤外線センサ51、質感センサ52、環境センサ53と同様の機能を有する。
コントローラ361は、CPU,ROM,RAM、フラッシュメモリなどを有するコンピュータにより構成される。コントローラ361は、CPUにより所定のプログラムを実行し、調理ロボット1の全体の動作を制御する。
コントローラ361においては、所定のプログラムが実行されることにより、命令コマンド取得部421、アーム制御部422が実現される。
命令コマンド取得部421は、制御装置12から送信され、通信部407において受信された命令コマンドを取得する。命令コマンド取得部421により取得された命令コマンドはアーム制御部422に供給される。
アーム制御部422は、命令コマンド取得部421により取得された命令コマンドに従って調理アーム321の動作を制御する。
カメラ401は、調理動作を行っている調理アーム321の様子、調理対象となっている食材の様子、調理ロボット1の天板311A上の様子を撮影し、撮影によって得られた画像をコントローラ361に出力する。カメラ401は、調理補助システム312の正面、調理アーム321の先端などの様々な位置に設けられる。
嗅覚センサ402は、食材の香りを計測し、嗅覚センサデータをコントローラ361に送信する。嗅覚センサ402は、調理補助システム312の正面、調理アーム321の先端などの様々な位置に設けられる。
味覚センサ403は、食材の味を計測し、味覚センサデータをコントローラ361に送信する。再現側においても、例えば人工脂質膜型味覚センサなどの味覚センサ403が設けられる。
嗅覚センサ402、味覚センサ403としての機能を有するアタッチメントが用意され、計測時に調理アーム321に取り付けて用いられるようにしてもよい。
赤外線センサ404は、IR光を出力し、IR画像を生成する。赤外線センサ404により生成されたIR画像はコントローラ361に出力される。カメラ401が撮影する画像(RGB画像)ではなく、赤外線センサ404が撮影するIR画像に基づいて、調理ロボット1の動作や食材などの各種の解析が行われるようにしてもよい。
質感センサ405は、硬度センサ、応力センサ、水分量センサ、温度センサなどの、質感の解析に用いられる各種のセンサデータを出力するセンサにより構成される。硬度センサ、応力センサ、水分量センサ、温度センサが、調理アーム321に装着されるアタッチメントや、包丁、フライパン、オーブンなどの調理ツールに設けられるようにしてもよい。質感センサ405により計測されたセンサデータはコントローラ361に出力される。
環境センサ406は、調理ロボット1により再現された料理の食事が行われるダイニングルームなどの空間の環境である食事環境を計測するセンサである。図26の例においては、環境センサ406は、カメラ441、温度・湿度センサ442、照度センサ443により構成される。調理ロボット1が調理を行う再現空間の環境が環境センサ406により計測されるようにしてもよい。
カメラ441は、食事空間を撮影した画像をコントローラ361に出力する。食事空間を撮影した画像を解析することにより、例えば、食事空間の色彩(明度、色相、彩度)が計測される。
温度・湿度センサ442は、食事空間の温度、湿度を計測し、計測結果を表す情報をコントローラ361に出力する。
照度センサ443は、食事空間の明るさを計測し、計測結果を表す情報をコントローラ361に出力する。
通信部407は、無線LANモジュール、LTE(Long Term Evolution)に対応した携帯通信モジュールなどの無線通信モジュールである。通信部407は、制御装置12や、インターネット上のレシピデータ管理サーバ21などの外部の装置との間で通信を行う。
また、通信部407は、ユーザが使うスマートフォンやタブレット端末などの携帯端末と通信を行う。ユーザは、調理ロボット1により再現された料理を食べる人である。料理の選択などの、調理ロボット1に対するユーザの操作が携帯端末上の操作によって入力されるようにしてもよい。
図26に示すように、調理アーム321にはモータ431とセンサ432が設けられる。
モータ431は、調理アーム321の各関節部に設けられる。モータ431は、アーム制御部422による制御に従って軸周りの回転動作を行う。モータ431の回転量を計測するエンコーダ、モータ431の回転をエンコーダによる計測結果に基づいて適応的に制御するドライバなども各関節部に設けられる。
センサ432は、例えばジャイロセンサ、加速度センサ、タッチセンサなどにより構成される。センサ432は、調理アーム321の動作中、各関節部の角速度、加速度などを計測し、計測結果を示す情報をコントローラ361に出力する。調理ロボット1から制御装置12に対しては、適宜、センサ432の計測結果を示すセンサデータも送信される。
調理アーム321の数などの、調理ロボット1の仕様に関する情報は、所定のタイミングで調理ロボット1から制御装置12に提供される。制御装置12においては、調理ロボット1の仕様に応じて、動作のプランニングが行われる。制御装置12において生成される命令コマンドは、調理ロボット1の仕様に応じたものとなる。
(3-2)制御装置12の構成
調理ロボット1の動作を制御する制御装置12は、データ処理装置11と同様に図19に示すようなコンピュータにより構成される。以下、適宜、図19に示すデータ処理装置11の構成を、制御装置12の構成として引用して説明する。
図27は、制御装置12の機能構成例を示すブロック図である。
図27に示す機能部のうちの少なくとも一部は、制御装置12のCPU201(図19)により所定のプログラムが実行されることによって実現される。
図27に示すように、制御装置12においてはコマンド生成部501が実現される。コマンド生成部501は、レシピデータ取得部511、レシピデータ解析部512、ロボット状態推定部513、風味情報処理部514、制御部515、およびコマンド出力部516から構成される。
レシピデータ取得部511は、通信部209を制御し、データ処理装置11から送信されてきたレシピデータを受信することによって、または、レシピデータ管理サーバ21と通信を行うなどして、レシピデータを取得する。レシピデータ取得部511が取得するレシピデータは、例えばユーザにより選択された料理のレシピデータである。
レシピデータのデータベースが記憶部208に設けられているようにしてもよい。この場合、記憶部208に設けられるデータベースからレシピデータが取得される。レシピデータ取得部511により取得されたレシピデータはレシピデータ解析部512に供給される。
レシピデータ解析部512は、レシピデータ取得部511により取得されたレシピデータを解析する。レシピデータ解析部512は、ある調理工程が行われるタイミングになった場合、その調理工程に関する調理工程データセットを解析し、調理動作情報と風味情報を抽出する。調理工程データセットから抽出された調理動作情報は制御部515に供給され、風味情報は風味情報処理部514に供給される。
レシピデータに属性情報と環境情報が含まれる場合、それらの情報もレシピデータ解析部512により抽出され、風味情報処理部514に供給される。
ロボット状態推定部513は、通信部209を制御し、調理ロボット1から送信されてきた画像とセンサデータを受信する。調理ロボット1からは、調理ロボット1のカメラにより撮影された画像と、調理ロボット1の所定の位置に設けられたセンサにより計測されたセンサデータが所定の周期で送信されてくる。調理ロボット1のカメラにより撮影された画像には、調理ロボット1の周囲の様子が写っている。
ロボット状態推定部513は、調理ロボット1から送信されてきた画像とセンサデータを解析することによって、調理アーム321の状態、食材の状態などの、調理ロボット1の周囲の状態を推定する。ロボット状態推定部513により推定された調理ロボット1の周囲の状態を示す情報は、制御部515に供給される。
風味情報処理部514は、制御部515と連携し、レシピデータ解析部512から供給された風味情報に基づいて、調理ロボット1の動作を制御する。風味情報処理部514が制御する調理ロボット1の動作は、例えば、食材の風味の調整に関する動作である。
例えば、風味情報処理部514は、調理ロボット1により調理が行われている食材の風味が、風味センサ情報により表される風味と同じ風味になるように、調理ロボット1の動作を制御する。風味情報処理部514による制御の詳細については図28を参照して説明する。
制御部515は、命令コマンドを生成し、コマンド出力部516から送信させることによって、調理ロボット1の動作を制御する。制御部515による調理ロボット1の動作の制御は、レシピデータ解析部512から供給された調理動作情報に基づいて、または、風味情報処理部514による要求に基づいて行われる。
例えば、制御部515は、調理動作情報に含まれる食材情報に基づいて、実行対象となっている調理工程において用いる食材を特定する。また、制御部515は、調理動作情報に含まれる動作情報に基づいて、調理工程において用いる調理ツールと、調理アーム321に実行させる動作を特定する。
制御部515は、食材の準備ができた状態をゴール状態として設定し、現在の調理ロボット1の状態である現在状態からゴール状態までの動作シーケンスを設定する。制御部515は、動作シーケンスを構成するそれぞれの動作を行わせるための命令コマンドを生成し、コマンド出力部516に出力する。
調理ロボット1においては、制御部515により生成された命令コマンドに従って調理アーム321が制御され、食材の準備が行われる。調理アーム321の状態を含む、各タイミングの調理ロボット1の状態を表す情報が、調理ロボット1から制御装置12に対して送信されてくる。
また、制御部515は、食材の準備ができた場合、準備した食材を用いた調理(実行対象となっている1つの調理工程の調理)が終わった状態をゴール状態として設定し、現在状態からゴール状態までの動作シーケンスを設定する。制御部515は、動作シーケンスを構成するそれぞれの動作を行わせるための命令コマンドを生成し、コマンド出力部516に出力する。
調理ロボット1においては、制御部515により生成された命令コマンドに従って調理アーム321が制御され、食材を用いた調理が行われる。
制御部515は、食材を用いた調理が終わった場合、風味の計測を行わせるための命令コマンドを生成し、コマンド出力部516に出力する。
調理ロボット1においては、制御部515により生成された命令コマンドに従って調理アーム321が制御され、適宜、カメラ401、嗅覚センサ402、味覚センサ403、赤外線センサ404、質感センサ405を用いて食材の風味の計測が行われる。風味の計測結果を表す情報は、調理ロボット1から制御装置12に対して送信されてくる。
風味情報処理部514においては、風味の調整の仕方などがプランニングされ、風味を調整するための動作を行うことが風味情報処理部514から制御部515に対して要求される。
風味を調整するための動作を行うことが要求された場合、制御部515は、その動作が終わった状態をゴール状態として設定し、現在状態からゴール状態までの動作シーケンスを設定する。制御部515は、動作シーケンスを構成するそれぞれの動作を行わせるための命令コマンドをコマンド出力部516に出力する。
調理ロボット1においては、制御部515により生成された命令コマンドに従って調理アーム321が制御され、風味を調整するための動作が実行される。
制御部515による調理ロボット1の動作の制御は、例えば以上のような命令コマンドを用いて行われる。制御部515は、命令コマンドを生成する生成部としての機能を有する。
なお、制御部515が生成する命令コマンドは、ある状態遷移を生じさせるためのアクション全体の実行を命令するコマンドであってもよいし、アクションの一部分の実行を命令するコマンドであってもよい。すなわち、1つのアクションが1つの命令コマンドに従って実行されるようにしてもよいし、複数の命令コマンドに従って実行されるようにしてもよい。
コマンド出力部516は、通信部209を制御し、制御部515により生成された命令コマンドを調理ロボット1に送信する。
図28は、風味情報処理部514の構成例を示すブロック図である。
図28に示すように、風味情報処理部514は、風味計測部521、風味調整部522、主観情報解析部523、属性情報解析部524、および環境情報解析部525により構成される。
風味計測部521は、味計測部541、香り計測部542、質感計測部543、体感温度計測部544、および色彩計測部545により構成される。
味計測部541は、風味の計測が行われることに応じて調理ロボット1から送信されてきた味覚センサデータを取得する。味計測部541が取得する味覚センサデータは、味覚センサ403(図26)により計測されたものである。調理ロボット1においては、ある調理工程の調理動作が終わったタイミングなどの所定のタイミングにおいて、食材の風味の計測が行われている。
香り計測部542は、風味の計測が行われることに応じて調理ロボット1から送信されてきた嗅覚センサデータを取得する。香り計測部542が取得する嗅覚センサデータは、嗅覚センサ402により計測されたものである。
質感計測部543は、風味の計測が行われることに応じて調理ロボット1から送信されてきた質感センサデータを取得する。質感計測部543が取得する質感センサデータは、質感センサ405により計測されたものである。
体感温度計測部544は、風味の計測が行われることに応じて調理ロボット1から送信されてきた体感温度センサデータを取得する。体感温度計測部544が取得する体感温度センサデータは、味覚センサ403内などの、調理ロボット1の所定の位置に設けられた温度センサにより計測されたものである。
色彩計測部545は、風味の計測が行われることに応じて調理ロボット1から送信されてきた色彩センサデータを取得する。色彩計測部545が取得する色彩センサデータは、調理ロボット1のカメラ401により撮影された画像を解析することによって認識されたものである。
風味計測部521の各部により取得されたセンサデータは風味調整部522に供給される。
風味調整部522は、味調整部551、香り調整部552、質感調整部553、体感温度調整部554、および色彩調整部555により構成される。風味調整部522に対しては、レシピデータ解析部512から供給された風味情報が入力される。
味調整部551は、レシピデータに含まれる風味センサ情報を構成する味覚センサデータと、味計測部541により取得された味覚センサデータを比較し、両者が一致するか否かを判定する。ここでは、シェフの調理動作と同じ動作が調理ロボット1により行われた場合において、調理ロボット1の調理動作により得られた食材の味が、シェフの調理動作により得られた食材の味と一致しているか否かが判定されることになる。
レシピデータに含まれる風味センサ情報を構成する味覚センサデータと、味計測部541により取得された味覚センサデータが一致すると判定した場合、味調整部551は、味については、調整が不要であると判断する。
一方、レシピデータに含まれる風味センサ情報を構成する味覚センサデータと、味計測部541により取得された味覚センサデータが一致しないと判定した場合、味調整部551は、味の調整の仕方のプランニングを行い、味の調整のための動作を行うことを制御部515に対して要求する。
塩味が足りない場合には塩を足す、酸味が足りない場合にはレモン汁を搾る、などの動作を行うことが制御部515に対して要求される。
風味調整部522の他の処理部においても、同様にして、調理ロボット1の調理動作により得られた食材の風味と、シェフの調理動作により得られた食材の風味が一致しているか否かの判定が行われ、適宜、風味の調整が行われる。
すなわち、香り調整部552は、レシピデータに含まれる風味センサ情報を構成する嗅覚センサデータと、香り計測部542により取得された嗅覚センサデータを比較し、両者が一致するか否かを判定する。ここでは、調理ロボット1の調理動作により得られた食材の香りが、シェフの調理動作により得られた食材の香りと一致しているか否かが判定されることになる。
レシピデータに含まれる風味センサ情報を構成する嗅覚センサデータと、香り計測部542により取得された嗅覚センサデータが一致すると判定した場合、香り調整部552は、香りについては、調整が不要であると判断する。
一方、レシピデータに含まれる風味センサ情報を構成する嗅覚センサデータと、香り計測部542により取得された嗅覚センサデータが一致しないと判定した場合、香り調整部552は、香りの調整の仕方のプランニングを行い、香りの調整のための動作を行うことを制御部515に対して要求する。
青臭い場合にはレモン汁を搾る、シトラスの香りが弱い場合にはハーブを刻んで足すなどの動作を行うことが制御部515に対して要求される。
質感調整部553は、レシピデータに含まれる風味センサ情報を構成する質感センサデータと、質感計測部543により取得された質感センサデータを比較し、両者が一致するか否かを判定する。ここでは、調理ロボット1の調理動作により得られた食材の質感が、シェフの調理動作により得られた食材の質感と一致しているか否かが判定されることになる。
レシピデータに含まれる風味センサ情報を構成する質感センサデータと、質感計測部543により取得された質感センサデータが一致すると判定した場合、質感調整部553は、質感については、調整が不要であると判断する。
一方、レシピデータに含まれる風味センサ情報を構成する質感センサデータと、質感計測部543により取得された質感センサデータが一致しないと判定した場合、質感調整部553は、質感の調整の仕方のプランニングを行い、質感の調整のための動作を行うことを制御部515に対して要求する。
食材が硬い場合には叩いて柔らかくする、煮込む時間を増やすなどの動作を行うことが制御部515に対して要求される。
体感温度調整部554は、レシピデータに含まれる風味センサ情報を構成する体感温度センサデータと、体感温度計測部544により取得された体感温度センサデータを比較し、両者が一致するか否かを判定する。ここでは、調理ロボット1の調理動作により得られた食材の体感温度が、シェフの調理動作により得られた食材の体感温度と一致しているか否かが判定されることになる。
レシピデータに含まれる風味センサ情報を構成する体感温度センサデータと、体感温度計測部544により取得された体感温度センサデータが一致すると判定した場合、体感温度調整部554は、体感温度については、調整が不要であると判断する。
一方、レシピデータに含まれる風味センサ情報を構成する体感温度センサデータと、体感温度計測部544により取得された体感温度センサデータが一致しないと判定した場合、体感温度調整部554は、体感温度の調整の仕方のプランニングを行い、体感温度の調整のための動作を行うことを制御部515に対して要求する。
食材の体感温度が低い場合にはオーブンを使って加熱する、食材の体感温度が高い場合には冷ますなどの動作を行うことが制御部515に対して要求される。
色彩調整部555は、レシピデータに含まれる風味センサ情報を構成する色彩センサデータと、色彩計測部545により取得された色彩センサデータを比較し、両者が一致するか否かを判定する。ここでは、調理ロボット1の調理動作により得られた食材の色彩が、シェフの調理動作により得られた食材の色彩と一致しているか否かが判定されることになる。
レシピデータに含まれる風味センサ情報を構成する色彩センサデータと、色彩計測部545により取得された色彩センサデータが一致すると判定した場合、色彩調整部555は、色彩については、調整が不要であると判断する。
一方、レシピデータに含まれる風味センサ情報を構成する色彩センサデータと、色彩計測部545により取得された色彩センサデータが一致しないと判定した場合、色彩調整部555は、色彩の調整の仕方のプランニングを行い、色彩の調整のための動作を行うことを制御部515に対して要求する。
調理済みの食材の盛り付けが行われた場合において、調理ロボット1の盛り付け方がシェフの盛り付け方と違う場合、シェフの盛り付け方に近付けるように食材の位置を動かすなどの動作を行うことが制御部515に対して要求される。
主観情報解析部523は、風味情報に含まれる風味主観情報を解析し、風味主観情報により表されるシェフの風味の感じ方を、風味調整部522により行われる風味の調整に反映させる。
属性情報解析部524は、レシピデータに含まれる属性情報を解析し、シェフの属性を、風味調整部522により行われる風味の調整に反映させる。
環境情報解析部525は、レシピデータに含まれる環境情報を解析し、調理環境と、環境センサ406により計測された食事環境との違いを、風味調整部522により行われる風味の調整に反映させる。
<調理システムの動作>
ここで、以上のような構成を有する調理システムの動作について説明する。
(1)シェフ側の動作
はじめに、図29のフローチャートを参照して、データ処理装置11のレシピデータ生成処理について説明する。
図29の処理は、食材や調理ツールの準備が終わり、シェフが調理を始めたときに開始される。カメラ41による撮影、赤外線センサ51によるIR画像の生成、シェフの体に取り付けられたセンサによるセンシングなども開始される。
ステップS1において、図20の食材認識部251は、カメラ41により撮影された画像を解析し、シェフが使う食材を認識する。
ステップS2において、動作認識部253は、カメラ41により撮影された画像、シェフの体に取り付けられたセンサの計測結果を表すセンサデータなどを解析し、シェフの調理動作を認識する。
ステップS3において、レシピデータ生成部233は、食材認識部251による認識結果に基づいて生成された食材情報と、動作認識部253による認識結果に基づいて生成された動作情報に基づいて調理動作情報を生成する。
ステップS4において、レシピデータ生成部233は、1つの調理工程が終了したか否かを判定し、1つの調理工程がまだ終了していないと判定した場合、ステップS1に戻り、上述した処理を繰り返す。
1つの調理工程が終了したとステップS4において判定した場合、処理はステップS5に進む。
ステップS5において風味情報生成処理が行われる。風味情報生成処理により、風味情報が生成される。風味情報生成処理の詳細については図30のフローチャートを参照して後述する。
ステップS6において、レシピデータ生成部233は、調理動作情報と風味情報を紐付けることによって調理工程データセットを生成する。
ステップS7において、レシピデータ生成部233は、全ての調理工程が終了したか否かを判定し、全ての調理工程がまだ終了していないと判定した場合、ステップS1に戻り、上述した処理を繰り返す。次の調理工程を対象として、同様の処理が繰り返される。
全ての調理工程が終了したとステップS7において判定した場合、処理はステップS8に進む。
ステップS8において、レシピデータ生成部233は、全ての調理工程データセットを含むレシピデータを生成する。
次に、図30のフローチャートを参照して、図29のステップS5において行われる風味情報生成処理について説明する。
ステップS11において、味計測部261は、味覚センサ43を制御することによって食材の味を計測する。
ステップS12において、香り計測部262は、嗅覚センサ42を制御することによって食材の香りを計測する。
ステップS13において、質感計測部263は、カメラ41により撮影された画像や質感センサ52による計測結果などに基づいて食材の質感を計測する。
ステップS14において、体感温度計測部264は、温度センサにより計測された食材の体感温度を計測する。
ステップS15において、色彩計測部265は、カメラ41により撮影された画像に基づいて食材の色彩を計測する。
ステップS16において、主観情報生成部266は、味計測部261乃至色彩計測部265の各部により取得されたセンサデータに基づいて風味主観情報を生成する。
ステップS17において、レシピデータ生成部233は、味計測部261乃至色彩計測部265により計測されたセンサデータからなる風味センサ情報と、主観情報生成部266により生成された風味主観情報に基づいて風味情報を生成する。
風味情報が生成された後、図29のステップS5に戻り、それ以降の処理が行われる。
(2)再現側の動作
図31のフローチャートを参照して、制御装置12の料理再現処理について説明する。
ステップS31において、図27のレシピデータ取得部511は、データ処理装置11から送信されてきたレシピデータを取得する。レシピデータ取得部511により取得されたレシピデータは、レシピデータ解析部512において解析され、調理動作情報と風味情報が抽出される。調理動作情報は制御部515に供給され、風味情報は風味情報処理部514に供給される。
ステップS32において、制御部515は、1つの調理工程を実行対象として選択する。先頭の調理工程に関する調理工程データセットから順に、実行対象として選択される。
ステップS33において、制御部515は、実行対象の調理工程が、調理済みの食材を盛り付ける調理工程であるか否かを判定する。調理済みの食材を盛り付ける調理工程ではないとステップS33において判定した場合、処理はステップS34に進む。
ステップS34において、制御部515は、調理動作情報に含まれる食材情報の記述に基づいて、実行対象となっている調理工程において用いる食材を準備する。
ステップS35において、制御部515は、調理動作情報に含まれる動作情報の記述に基づいて命令コマンドを生成し、調理ロボット1に送信することによって調理アーム321に調理動作を実行させる。
ステップS36において風味計測処理が行われる。風味計測処理により、調理ロボット1により調理された調理済みの食材の風味が計測される。風味計測処理の詳細については図32のフローチャートを参照して後述する。
ステップS37において、風味調整部522は、調理済みの食材の風味とレシピデータに含まれる風味センサ情報により表される風味が一致しているか否かを判定する。ここでは、風味の構成要素である味、香り、質感、体感温度、色彩の全てについて、調理済みの食材の風味と風味センサ情報により表される風味が一致する場合に、風味が一致するものとして判定される。
いずれかの構成要素が一致しないことから、風味が一致しないとステップS37において判定された場合、ステップS38において風味調整処理が行われる。風味調整処理により、調理済みの食材の風味の調整が行われる。風味調整処理の詳細については図33のフローチャートを参照して後述する。
風味調整処理がステップS38において行われた後、ステップS36に戻り、風味が一致すると判定されるまで上述した処理が繰り返し実行される。
一方、実行対象としている調理工程が、調理済みの食材を盛り付ける調理工程であるとステップS33において判定された場合、処理はステップS39に進む。
ステップS39において。制御部515は、調理動作情報の記述に基づいて命令コマンドを生成し、調理ロボット1に送信することによって調理アーム321に盛り付けを行わせる。
食材の盛り付けが終わった場合、または、調理済みの食材の風味とレシピデータに含まれる風味センサ情報により表される風味が一致するとステップS37において判定された場合、処理はステップS40に進む。
ステップS40において、制御部515は、全ての調理工程が終了したか否かを判定し、全ての調理工程がまだ終了していないと判定した場合、ステップS32に戻り、上述した処理を繰り返す。次の調理工程を対象として、同様の処理が繰り返される。
一方、全ての調理工程が終了したとステップS40において判定された場合、料理が完成となり、再現処理が終了される。
次に、図32のフローチャートを参照して、図31のステップS36において行われる風味計測処理について説明する。
ステップS51において、図28の味計測部541は、調理済みの食材の味の計測を調理ロボット1に行わせ、味覚センサデータを取得する。
ステップS52において、香り計測部542は、調理済みの食材の香りの計測を調理ロボット1に行わせ、嗅覚センサデータを取得する。
ステップS53において、質感計測部543は、調理済みの食材の質感の計測を調理ロボット1に行わせ、質感センサデータを取得する。
ステップS54において、体感温度計測部544は、調理済みの食材の体感温度の計測を調理ロボット1に行わせ、体感温度センサデータを取得する。
ステップS55において、色彩計測部545は、調理済みの食材の色彩の計測を調理ロボット1に行わせ、色彩センサデータを取得する。
以上の処理により、調理済みの食材の風味が計測され、後述する風味調整処理に用いることが可能となる。その後、図31のステップS36に戻り、それ以降の処理が行われる。
次に、図33のフローチャートを参照して、図31のステップS38において行われる風味調整処理について説明する。
ステップS61において、味調整部551は味調整処理を行う。味調整処理は、調理済みの食材の味と、風味センサ情報に含まれる味覚センサデータより表される味が一致しない場合に行われる。味調整処理の詳細については図34のフローチャートを参照して後述する。
ステップS62において、香り調整部552は香り調整処理を行う。香り調整処理は、調理済みの食材の香りと、風味センサ情報に含まれる嗅覚センサデータより表される香りが一致しない場合に行われる。
ステップS63において、質感調整部553は質感調整処理を行う。質感調整処理は、調理済みの食材の質感と、風味センサ情報に含まれる質感センサデータより表される質感が一致しない場合に行われる。
ステップS64において、体感温度調整部554は体感温度調整処理を行う。体感温度調整処理は、調理済みの食材の体感温度と、風味センサ情報に含まれる体感温度センサデータより表される体感温度が一致しない場合に行われる。
ステップS65において、色彩調整部555は色彩調整処理を行う。色彩調整処理は、調理済みの食材の色彩と、風味センサ情報に含まれる色彩センサデータより表される色彩が一致しない場合に行われる。
例えば、酸味を増やすためにレモン汁を食材にかける動作が味調整処理として行われた場合、これにより、食材の香りが変化し、香りについても調整が必要になることがある。この場合、味調整処理とともに、香り調整処理が行われる。
このように、風味のいずれかの要素の調整が他の要素に影響を与えることがあり、実際には、複数の要素の調整がまとめて行われる。
次に、図34のフローチャートを参照して、図33のステップS61において行われる味調整処理について説明する。
ステップS71において、味調整部551は、味計測部541により取得された味覚センサデータに基づいて、調理済みの食材の味の、味空間における現在値を特定する。
ステップS72において、味調整部551は、レシピデータに含まれる風味センサ情報の記述に基づいて、味の目標値を設定する。風味センサ情報に含まれる味覚センサデータにより表される、シェフにより行われた調理動作によって得られた食材の味が目標値として設定される。
ステップS73において、味調整部551は、食材の味を現在値から目標値に遷移させるための調整内容のプランニングを行う。
図35は、プランニングの例を示す図である。
図35に示す縦軸は、7種類の味のうちのいずれかの1つの味を表し、横軸は他の1つの味を表す。説明の便宜上、図35においては味空間が二次元空間として表されているが、味が上述したように塩味、酸味、苦味、甘味、旨味、辛味、渋味の7種類で構成される場合、味空間は七次元空間となる。
調理ロボット1において計測された味覚センサデータにより、調理済みの食材の味が現在値として表される。
また、風味センサ情報に含まれる味覚センサデータにより、目標値となる味が設定される。目標値となる味は、シェフにより調理された食材の味である。
塩味、酸味、苦味、甘味、旨味、辛味、渋味のうちの1種類の味だけを変化させる調味料や食材はないことから、食材の味を、現在値の味から目標値の味に直接変化させることができない場合がある。この場合、白抜き矢印で示すように、複数の味を経て目標値の味を実現するための調理動作のプランニングが行われる。
図34の説明に戻り、ステップS74において、味調整部551は、プランに従って、味を調整するための動作を制御部515に行わせる。
その後、図33のステップS61に戻り、それ以降の処理が行われる。
香り調整処理(ステップS62)、質感調整処理(ステップS63)、体感温度調整処理(ステップS64)、色彩調整処理(ステップS65)も、それぞれ、図34の味調整処理と同様にして行われる。すなわち、調理済みの食材の風味を現在値、レシピデータの風味センサ情報により表される風味を目標値として、食材の味を現在値から目標値まで遷移させるための調理動作が行われる。
以上の一連の処理により、シェフが作る料理と同じ風味の料理が、調理ロボット1により再現される。ユーザは、シェフが作った料理と同じ風味の料理を食べることができる。
また、シェフは、自分が作った料理と同じ風味の料理を、様々な人に提供することができる。また、シェフは、自分が作る料理を、レシピデータとして再現可能な形で残すことが可能となる。
<変形例>
・再現側での調理工程の更新の例
調理に用いるものとしてレシピデータ(食材情報)に記述されている食材と同じ食材を再現側で用意できない場合がある。この場合、レシピデータを一部更新する処理が制御部515(図27)により行われるようにしてもよい。
例えば、制御部515は、ある食材が足りない場合、代替食材データベースを参照し、再現側で用意できる食材の中から、代替食材を選択する。代替食材は、調理に用いるものとしてレシピデータに記述されている食材の代わりに用いられる食材である。再現側で用意できる食材は、例えば、調理ロボット1の周囲の状況を認識することによって特定される。
制御部515が参照する代替食材データベースには、例えば、フードペアリングの手法によって予め決められた代替食材に関する情報が記述されている。
例えば、制御部515は、レシピデータに記述されている食材である「ウニ」を用意できない場合、代替食材データベースを参照し、「プリン」と「醤油」を組み合わせた食材を代替食材として選択する。「プリン」と「醤油」を組み合わせることによって、「ウニ」の風味を再現することができることはよく知られている。
制御部515は、「ウニ」を用いた調理工程に関する情報が記述された調理動作情報を、「プリン」と「醤油」を組み合わせる動作に関する情報と、代替食材を用いた調理工程に関する情報とが記述された調理動作情報に更新する。制御部515は、更新後の調理動作情報に基づいて、調理ロボット1の調理動作を制御する。
このようにして用意された代替食材の風味を計測し、風味の計測が適宜行われるようにしてもよい。
図36は、代替食材の風味を調整する制御装置12の処理について説明するフローチャートである。
図36の処理は、代替食材が用意された後に行われる。
ステップS111において、風味情報処理部514の風味計測部521は、用意された代替食材の風味を計測し、代替食材の風味を表すセンサデータを取得する。
ステップS112において、風味調整部522は、代替食材の風味が、代替前の食材の風味と一致するか否かを判定する。上述した例の場合、「プリン」と「醤油」を組み合わせた代替食材の風味が、「ウニ」の風味と一致するか否かが判定される。「ウニ」の風味については、レシピデータに含まれる風味センサ情報により特定される。
代替食材の風味を表すセンサデータとレシピデータに含まれる風味センサ情報が一致しないことから、代替食材の風味が代替前の食材の風味と一致しないとステップS112において判定された場合、処理はステップS113に進む。
ステップS113において、風味調整部522は、代替食材の風味を調整する。代替食材の風味の調整は、上述した調理済みの食材の風味を調整する処理と同様にして行われる。
代替食材の風味の調整が行われた場合、または、代替食材の風味が代替前の食材の風味と一致するとステップS112において判定された場合、代替食材の風味を調整する処理は終了となる。その後、代替食材を用いて、更新後の調理工程に応じた処理が行われる。
これにより、シェフ側で用いた食材と同じ食材を再現側で用意できない場合でも、代替食材を用いて、調理を進めることが可能となる。代替食材の風味は代替前の食材と風味が同じであるから、最終的に出来上がる料理は、シェフが作った料理と同じか、あるいは、近い風味の料理となる。
代替食材データベースが制御装置12に用意されているようにしてもよいし、レシピデータ管理サーバ21などの所定のサーバに用意されているようにしてもよい。調理動作情報の更新が制御装置12において行われるようにしてもよいし、データ処理装置11において行われるようにしてもよい。
・風味主観情報の利用例
シェフ側に設けられているセンサの方が、再現側に設けられているセンサより計測精度が高いといったように、双方のセンサの仕様が異なる場合がある。双方の仕様が異なる場合、同じ食材の風味をそれぞれのセンサで計測した場合の計測結果は異なるものとなる。
シェフ側と再現側の双方に設けられたセンサの仕様が異なる場合においても調理ロボット1による調理済みの食材の風味とシェフにより調理された食材の風味を判定できるようにするために、風味主観情報が用いられる。
図37は、風味の判定例を示す図である。
上述した例においては、図37の左側に示すように、再現側の、ある調理工程の調理によって調理済みの食材が得られた場合、風味の計測が行われ、調理済みの食材の風味を表すセンサデータが得られる。
また、図37の右側に示すように、レシピデータから風味センサ情報が抽出され、矢印A101で示すように、調理済みの食材の風味を表すセンサデータと、風味センサ情報とを比較することによって、風味の判定(風味が一致するか否かの判定)が行われる。
図38は、風味主観情報を用いた風味の判定例を示す図である。
風味主観情報を用いて風味の判定を行う場合、再現側においては、図38の左側に示すように、調理済みの食材の風味を表すセンサデータに基づいて風味主観情報が算出される。風味主観情報の算出には、図6を参照して説明したような、シェフの味の感じ方に基づいて生成されたモデルが用いられる。
風味情報処理部514の主観情報解析部523(図28)は、シェフ側に用意された、味覚主観情報生成用のモデルと同じモデルを有している。
主観情報解析部523は、矢印A102で示すように、調理済みの食材の風味を表すセンサデータに基づいて算出した風味主観情報と、レシピデータから抽出した風味主観情報とを比較することによって、風味の判定を行うことになる。両者の風味主観情報が一致する場合、風味が一致するものとして判定され、次の調理工程の処理が行われる。
これにより、シェフ側と再現側の双方に設けられたセンサの仕様が異なる場合においても、シェフが感じる風味と同じ風味の食材や料理を再現することが可能となる。
このように、風味を判定するためのモードには、センサデータを基準としたモードと、風味主観情報を基準としたモードとが用意される。
図39は、センサデータ生成用のモデルの例を示す図である。
図39に示すように、レシピデータに含まれる風味主観情報に基づいて、再現側に設けられたセンサの仕様下でのセンサデータを算出することが可能なモデルが主観情報解析部523に用意されるようにしてもよい。
図39に示す味覚センサ情報生成用モデルは、再現側に用意されたセンサにより計測された味に関するセンサデータと、シェフの味の感じ方を表す主観値とに基づいて深層学習などが行われることによって生成されたニューラルネットワークなどのモデルである。例えば、レシピデータを管理する管理者により、様々なセンサの仕様に応じたモデルが用意され、再現側に提供される。
この場合、主観情報解析部523は、風味主観情報をモデルに入力することによって、対応するセンサデータを算出する。主観情報解析部523は、調理ロボット1による調理済みの食材の風味を計測して得られたセンサデータと、モデルを用いて算出したセンサデータとを比較することによって、風味の判定を行うことになる。
・属性情報の利用例
レシピデータには、シェフの属性などを表す属性情報が含まれる。年齢、性別、国籍、生活地域などは、風味の感じ方に影響を与えることから、シェフの属性と、調理ロボット1により再現された料理を食べる人の属性との違いに応じて、再現される食材の風味が調整されるようにしてもよい。
レシピデータから抽出された属性情報である調理人属性情報は、属性情報解析部524に供給され、風味調整部522が行う風味の調整の制御に用いられる。調理ロボット1により再現された料理を食べる人により入力された、食事人の属性を表す食事人属性情報も属性情報解析部524に供給される。
属性情報解析部524は、調理人属性情報に基づいてシェフの属性を特定するとともに、食事人属性情報に基づいて食事人の属性を特定する。
例えば、属性情報解析部524は、食事人の年齢がシェフの年齢を大きく上回っていて、食事人が年配の人であることを特定した場合、柔らかくするように食材の質感を調整する。
また、属性情報解析部524は、食事人とシェフの国籍が異なる場合、上述したように、予め用意されている情報に基づいて、風味調整部522が調整する食材の風味を国籍の違いに応じて制御する。性別、生活地域などの、食事人とシェフの他の属性が異なる場合も同様に、属性情報解析部524は、風味調整部522が調整する食材の風味を両者の属性の違いに応じて制御する。
これにより、基本的にはシェフの感じ方と同じ風味ではあるものの、食事人の好みに応じて風味の微調整が行われた料理が再現されることになる。
また、属性情報解析部524は、食品属性情報に基づいて食材の属性を特定するとともに、再現側で用意された食材の属性を特定する。
属性情報解析部524は、調理側で用いられた食材と再現側で用意された食材の属性が異なる場合、風味調整部522が調整する食材の風味を属性の違いに応じて制御する。
このように、シェフ側と再現側の各種の属性の違いに基づいて、食材の風味が再現側において調整されるようにしてもよい。
・環境情報の利用例
(1)食事環境の調整
レシピデータには、シェフが調理を行う空間の環境である調理環境を表す環境情報が含まれる。空間の色彩、気温、明るさなどは、風味の感じ方に影響を与えることから、調理ロボット1により再現された料理の食事が行われるダイニングルームなどの食事環境を、調理環境に近付けるための調整が行われるようにしてもよい。レシピデータから抽出された環境情報は、環境情報解析部525に供給され、食事環境の調整に用いられる。
例えば、環境情報解析部525は、カメラ441(図26)により撮影された画像を解析することによって計測された食事環境の色彩を、環境情報により表される調理環境の色彩に近付けるように、ダイニングルームの照明機器を制御する。環境情報解析部525は、外部の機器を制御することによって食事環境を調整する環境制御部としての機能を有している。
また、環境情報解析部525は、温度・湿度センサ442により計測された食事環境の気温と湿度を、環境情報により表される調理環境の気温と湿度に近付けるように、ダイニングルームの空調機器を制御する。
環境情報解析部525は、照度センサ443により計測された食事環境の明るさを、環境情報により表される調理環境の明るさに近付けるように、ダイニングルームの照明機器を制御する。
これにより、食事環境を調理環境に近付けることができ、調理ロボット1により再現された料理を食べる人の風味の感じ方を、シェフの風味の感じ方に近付けることが可能となる。
(2)風味センサ情報の補正
調理側に設けられたセンサの仕様に関する情報が環境情報に含められ、再現側に提供されるようにしてもよい。再現側においては、調理側に設けられたセンサと再現側に設けられたセンサとの違いに基づいて、レシピデータに含まれる風味センサ情報が補正される。
図40は、風味センサ情報を補正する制御装置12の処理について説明するフローチャートである。
ステップS121において、環境情報解析部525は、レシピデータに含まれる環境情報に基づいて、調理側に設けられたセンサの仕様を取得する。
ステップS122において、環境情報解析部525は、再現側である調理ロボット1の周囲に設けられたセンサの仕様を取得する。
ステップS123において、環境情報解析部525は、調理側に設けられたセンサの仕様と調理ロボット1の周囲に設けられたセンサの仕様との違いに基づいて、調理側で計測されたセンサデータである、レシピデータに含まれる風味センサ情報を補正する。環境情報解析部525に対しては、調理側に設けられたセンサの計測結果と、再現側に設けられたセンサの計測結果との対応関係を表す情報が補正用の情報として用意されている。
このようにして補正された風味センサ情報が、風味の判定に用いられる。これにより、環境の違いを吸収して、風味の判定が行われるようにすることが可能となる。
<その他>
・構成の変形例
レシピデータに基づいて料理を再現する調理ロボットが家庭内に設置された調理ロボット1であるものとしたが、様々な場所に設けられた調理ロボットにおいて料理が再現されるようにしてもよい。例えば、工場に設けられた調理ロボット、レストランに設けられた調理ロボットにおいて料理を再現させる場合にも、上述した技術は適用可能である。
また、レシピデータに基づいて料理を再現する調理ロボットが、調理アームを動作させて調理を行う調理ロボット1であるものとしたが、調理アーム以外の構成によって食材の調理を行うことが可能な、様々な調理ロボットにおいて料理が再現されるようにしてもよい。
以上においては、調理ロボット1の制御が制御装置12により行われるものとしたが、レシピデータを生成するデータ処理装置11により直接行われるようにしてもよい。この場合、データ処理装置11には、図27を参照して説明したコマンド生成部501の各構成が設けられる。
また、コマンド生成部501の各構成が、レシピデータ管理サーバ21に設けられるようにしてもよい。
レシピデータを管理して他の機器に提供するレシピデータ管理サーバ21のサーバ機能が、レシピデータを生成するデータ処理装置11に設けられるようにしてもよい。
図41は、調理システムの他の構成例を示す図である。
データ処理装置11が有するレシピデータ管理部11Aは、レシピデータを管理して他の機器に提供するサーバ機能を有する。レシピデータ管理部11Aが管理するレシピデータが、複数の調理ロボットや、調理ロボットを制御する制御装置に対して提供される。
・データの管理
上述したレシピデータ、調理工程データセット(調理動作情報、風味情報)などは、調理工程についての思想や感情を創作的に表現した成果物といえるものであるから、著作物と考えることもできる。
例えば、調理を行うシェフ(例えば有名店を経営するシェフなど)は、調理工程において、食材の選択や味見などの試行を繰り返しながら、創作性を有する美味しい料理を完成させる。この場合、レシピデータ、調理工程データセット(調理動作情報、風味情報)には、データとしての価値が存在することになり、他者が利用する場合にはその対価が必要となる状況も想定できる。
従って、レシピデータ、調理工程データセット(調理動作情報、風味情報)などを、音楽などと同様に、著作権管理する応用例も考えられる。
つまり、本開示では、個別のデータに対して保護機能を設ける、コピー防止、暗号化、などの著作権保護技術を用いて、個別のレシピデータ、調理工程データセットを保護することも可能である。
この場合、例えば、図14のレシピデータ管理サーバ21(図41のデータ処理装置11)は、シェフとレシピデータ(又は調理工程データセット)とを紐付ける形で、著作権管理した状態で管理する。
次に、ユーザが、レシピデータを利用して調理ロボット1に調理を行わせたい場合には、そのレシピデータに対する利用料をユーザが支払うことにより、例えば、制御装置12にダウンロードされたレシピデータを調理ロボット1における調理のために利用することが可能となる。なお、その利用料は、レシピデータの創作者であるシェフ、レシピデータを管理するデータ管理者などに還元される。
また、本開示では、データの取引履歴を台帳としてサーバで分散管理するブロックチェーン技術を用いて、個別のレシピデータ、調理工程データセットを保護することも可能である。
この場合、例えば、図14のレシピデータ管理サーバ21(図41のデータ処理装置11)は、データの取引履歴を台帳としてサーバ(クラウドサーバ、エッジサーバなど)で分散管理するブロックチェーン技術を用いて、シェフとレシピデータ(又は調理工程データセット)とを紐付ける形で管理する。
次に、ユーザが、レシピデータを利用して調理ロボット1に調理を行わせたい場合には、そのレシピデータに対する利用料をユーザが支払うことにより、例えば、制御装置12にダウンロードされたレシピデータを調理ロボット1における調理のために利用することが可能となる。なお、その利用料は、レシピデータの創作者であるシェフ、レシピデータを管理するデータ管理者などに還元される。
このように、レシピデータ(又は調理工程データセット)を、シェフ、ユーザ、利用料のそれぞれの関係を考慮して、創作的な形で表現された著作物として効率的に管理することが可能である。
・吸光スペクトルの温度変化を利用した食材の特徴化
食材の風味が、味、香り、質感などのセンサデータにより表されるものとしたが、他の指標により表されるようにしてもよい。食材の風味を表現する指標として、吸光スペクトルの温度変化を用いることが可能である。
原理
分光光度計を用いて、検体(食材)の吸光スペクトルが計測される。吸光スペクトルは、検体の温度に応じて変化する。温度上昇に伴って吸光スペクトルが変化する背景として、以下の反応が考えられる。
(1)会合からの解離
検体の含有成分の会合状態(分子間の弱い結合により、2個以上の分子が1つの分子のように動く状態)は、温度により変化する。温度が低くなると会合あるいは凝集しやすくなり、逆に、温度が高くなると分子振動が激しくなるため、分子が会合から乖離しやすくなる。したがって、会合由来の吸光波長のピーク値が下がり、乖離した単分子由来の吸光波長のピーク値が上がる事になる。
(2)熱エネルギーによる分子の分解
熱を吸収する事で結合力の弱い部分がはずれ、分子が分断される。
(3)酵素活性による分子の分解
分解酵素を介して、分子が分断される。
(4)酸化還元
温度上昇に伴い、水のpHが下がる(H+濃度が上がる)。油脂類の場合、酸化速度が上昇する。
ここで、食材などの天然物の味と香りの視点からは、天然物の含有成分のうち、味物質は液相の含有成分であり、香り物質は揮発性があって気相の含有成分である。
会合状態にある分子は気相になりにくく、会合状態から解離した単分子が気相に転移しやすい。
さらに、例えば、香りに深く関連するテルペン類は、植物内では糖の付いた配糖体の形で存在するが、熱分解あるいは酵素分解により、糖が外れたアグリコンの形となり、揮発しやすくなる。
したがって、温度が高くなると、揮発しやすい分子の数が増え、揮発寸前の香り物質の吸光波長のピーク値が上がり、その香り物質がそれまで会合していた分子群に関連する吸光波長のピーク値が下がる事になる。
この性質から、吸光スペクトルの温度変化は、「味」に関わる液相から「香り」に関わる気相への相転移を反映していると考える事ができる。
そこで、対象とする検体を、少なくとも2つ以上の異なる温度で保温し、それぞれの保温状態の検体の吸光スペクトルを計測し、そのデータセットを、その検体の味と香りを特徴づける情報として用いることが可能である。吸光スペクトルのデータセットの特徴(パターン)から、検体を同定することが可能となる。
このことは、分子の会合から解離、あるいは、熱分解・酵素分解による分子の分解の結果、液相から気相への相転移が生じる確率が高くなる事と、吸光スペクトルの温度変化とを考慮したものといえる。この手法は、波長と吸光度の二次元データとして表される吸光スペクトルに温度の次元を加えることによって、三次元データの吸光スペクトルによって検体を特徴化する手法であるといえる。
・プログラムについて
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、汎用のパーソナルコンピュータなどにインストールされる。
インストールされるプログラムは、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)等)や半導体メモリなどよりなる図19に示されるリムーバブルメディア211に記録して提供される。また、ローカルエリアネットワーク、インターネット、デジタル放送といった、有線または無線の伝送媒体を介して提供されるようにしてもよい。プログラムは、ROM202や記憶部208に、あらかじめインストールしておくことができる。
コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
なお、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、本技術は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
1 調理ロボット, 11 データ処理装置, 12 制御装置, 21 レシピデータ管理サーバ, 41 カメラ, 42 嗅覚センサ, 43 味覚センサ, 51 赤外線センサ, 52 質感センサ, 53 環境センサ, 221 データ処理部, 231 調理動作情報生成部, 232 風味情報生成部, 233 レシピデータ生成部, 234 環境情報生成部, 235 属性情報生成部, 236 レシピデータ出力部, 321 調理アーム, 361 コントローラ, 401 カメラ, 402 嗅覚センサ, 403 味覚センサ, 404 赤外線センサ, 405 質感センサ, 406 環境センサ, 407 通信部, 501 情報処理部, 511 レシピデータ取得部, 512 レシピデータ解析部, 513 ロボット状態推定部, 514 風味情報処理部, 515 制御部, 516 コマンド出力部

Claims (18)

  1. 料理の食材に関する情報および前記食材を用いた調理工程における調理人の動作に関する情報が記述された調理動作データと、前記調理工程の進捗に連動して計測された前記調理人の感覚を示す感覚データとをリンクさせた、調理ロボットが調理動作を行う際に用いるデータセットを含むレシピデータを生成するレシピデータ生成部を備える
    データ処理装置。
  2. 前記感覚データは、調理前の前記食材の風味、前記調理工程において調理された調理後の前記食材の風味、全ての前記調理工程を経て完成した料理の風味、のうちの少なくともいずれかを示すデータである
    請求項1に記載のデータ処理装置。
  3. 前記感覚データは、甘味、酸味、塩味、苦味、旨味、辛味、渋味、のうちの少なくともいずれかの味を示す味覚情報を含む
    請求項2に記載のデータ処理装置。
  4. 前記味覚情報は、味覚センサにより計測されたセンサ情報である
    請求項3に記載のデータ処理装置。
  5. 前記感覚データは、深層学習を行うことにより生成されたモデルに対する入力として前記味覚情報を用いることによって得られた、味覚に関する他の情報を含む
    請求項3に記載のデータ処理装置。
  6. 味覚に関する前記他の情報は、人の味の感じ方を表す主観的なデータである
    請求項5に記載のデータ処理装置。
  7. 前記感覚データは、前記食材の質感と前記料理の質感のうちの少なくともいずれかの質感を示す質感情報を含む
    請求項2に記載のデータ処理装置。
  8. 前記質感情報は、センサにより計測された、応力、硬度、水分量、のうちの少なくともいずれかを示す情報である
    請求項7に記載のデータ処理装置。
  9. 前記レシピデータは、前記調理工程の進捗に連動して計測された調理空間の環境を示す調理環境データを含む
    請求項2に記載のデータ処理装置。
  10. 前記調理環境データは、前記調理空間の温度、湿度、気圧、明度、色相、彩度、のうちの少なくともいずれかを示すデータである
    請求項9に記載のデータ処理装置。
  11. 前記レシピデータは、調理前の前記食材の属性、前記調理工程において調理された調理後の前記食材の属性、全ての前記調理工程を経て完成した料理の属性、のうちの少なくともいずれかを示す食品属性情報を含む
    請求項1に記載のデータ処理装置。
  12. 前記調理動作データには、前記調理工程において用いられた調味料の種類と量が記述され、
    前記レシピデータは、前記調味料の属性を示す調味料属性情報を含む
    請求項11に記載のデータ処理装置。
  13. 前記レシピデータは、前記調理人の属性を示す調理人属性情報を含む
    請求項1に記載のデータ処理装置。
  14. 前記レシピデータ生成部により生成された前記レシピデータに基づいて、前記調理ロボットが実行する前記調理動作を命令する命令コマンドを生成するコマンド生成部をさらに備える
    請求項1に記載のデータ処理装置。
  15. 前記調理ロボットは、アームを備える
    請求項14に記載のデータ処理装置。
  16. 前記調理ロボットは、複数の前記アームを前記命令コマンドに従って協同させることによって前記調理動作を行う
    請求項15に記載のデータ処理装置。
  17. 前記レシピデータを管理し、ネットワークを介して接続された前記調理ロボットに前記レシピデータを提供するサーバ機能を実現するレシピ管理部をさらに備える
    請求項1に記載のデータ処理装置。
  18. データ処理装置が、
    料理の食材に関する情報および前記食材を用いた調理工程における調理人の動作に関する情報が記述された調理動作データと、前記調理工程の進捗に連動して計測された前記調理人の感覚を示す感覚データとをリンクさせた、調理ロボットが調理動作を行う際に用いるデータセットを含むレシピデータを生成する
    データ処理方法。
JP2019038069A 2019-03-01 2019-03-01 データ処理装置、データ処理方法 Pending JP2022063884A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019038069A JP2022063884A (ja) 2019-03-01 2019-03-01 データ処理装置、データ処理方法
PCT/JP2020/005728 WO2020179407A1 (ja) 2019-03-01 2020-02-14 データ処理装置、データ処理方法
US17/424,343 US20220091586A1 (en) 2019-03-01 2020-02-14 Data processing device and data processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019038069A JP2022063884A (ja) 2019-03-01 2019-03-01 データ処理装置、データ処理方法

Publications (1)

Publication Number Publication Date
JP2022063884A true JP2022063884A (ja) 2022-04-25

Family

ID=72338377

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019038069A Pending JP2022063884A (ja) 2019-03-01 2019-03-01 データ処理装置、データ処理方法

Country Status (3)

Country Link
US (1) US20220091586A1 (ja)
JP (1) JP2022063884A (ja)
WO (1) WO2020179407A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023182197A1 (ja) * 2022-03-24 2023-09-28 ソニーグループ株式会社 情報処理装置、情報処理方法、およびプログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2578374B2 (ja) * 1989-11-22 1997-02-05 アンリツ株式会社 味覚検出システム
CN100445948C (zh) * 2001-09-29 2008-12-24 张晓林 自动烹调方法及系统
JP4728107B2 (ja) * 2005-11-30 2011-07-20 クリナップ株式会社 コンピュータ支援キッチンシステム及び該システムを用いた味つけの伝達方法、調理作業の伝達方法並びにプログラム
SE1200431A1 (sv) * 2012-07-09 2012-10-22 Electrolux Ab Anordning för köket
JP2017506169A (ja) * 2014-02-20 2017-03-02 マーク オレイニク ロボット調理キッチン内の食品調製のための方法及びシステム
US10518409B2 (en) * 2014-09-02 2019-12-31 Mark Oleynik Robotic manipulation methods and systems for executing a domain-specific application in an instrumented environment with electronic minimanipulation libraries
US20160350704A1 (en) * 2015-05-29 2016-12-01 Eugenio Minvielle Nutrition based food system and method
JP6644591B2 (ja) * 2016-03-17 2020-02-12 株式会社電通 食品味覚再現システム
US20180063900A1 (en) * 2016-08-24 2018-03-01 Iceberg Luxembourg S.A.R.L. Calibration Of Dynamic Conditioning Systems
US20180232689A1 (en) * 2017-02-13 2018-08-16 Iceberg Luxembourg S.A.R.L. Computer Vision Based Food System And Method
US20190111568A1 (en) * 2017-10-13 2019-04-18 International Business Machines Corporation Robotic Chef

Also Published As

Publication number Publication date
WO2020179407A1 (ja) 2020-09-10
US20220091586A1 (en) 2022-03-24

Similar Documents

Publication Publication Date Title
WO2020179401A1 (ja) 調理ロボット、調理ロボット制御装置、制御方法
CN112068526B (zh) 用于在机器人烹饪厨房中制备食物的方法和系统
CN107343382B (zh) 在具有电子微操纵库的仪器化环境中执行特定领域应用的机器人操纵方法和系统
US20130171304A1 (en) System and method for culinary interaction
WO2018039503A1 (en) Calibration of dynamic conditioning systems
WO2020179407A1 (ja) データ処理装置、データ処理方法
CN109509539A (zh) 一种饮食习惯健康风险评估方法
WO2020179408A1 (ja) データ処理装置、データ処理方法
WO2020179402A1 (ja) 調理ロボット、調理ロボット制御装置、制御方法
Childs et al. Sensory properties and consumer perception of wet and dry cheese sauces
WO2015195575A1 (en) Dynamic recipe control
US20220279975A1 (en) Cooking arm, measuring method, and attachment for cooking arm
WO2024084947A1 (ja) 制御システム、制御方法、制御プログラム、情報提供システム、情報提供方法、及び情報提供プログラム
WO2021024299A1 (ja) 食品生成システム
WO2021200306A1 (ja) 情報処理装置、情報処理端末、情報処理方法
KR20220039707A (ko) 정보 처리 장치, 정보 처리 방법, 조리 로봇, 조리 방법, 및 조리 기구
CN114282091A (zh) 食材管理方法、装置、设备和存储介质
KR20220119602A (ko) 정보 처리 장치, 정보 처리 방법