JP6306785B1 - 情報処理システム、情報処理方法及び情報処理プログラム - Google Patents
情報処理システム、情報処理方法及び情報処理プログラム Download PDFInfo
- Publication number
- JP6306785B1 JP6306785B1 JP2017142817A JP2017142817A JP6306785B1 JP 6306785 B1 JP6306785 B1 JP 6306785B1 JP 2017142817 A JP2017142817 A JP 2017142817A JP 2017142817 A JP2017142817 A JP 2017142817A JP 6306785 B1 JP6306785 B1 JP 6306785B1
- Authority
- JP
- Japan
- Prior art keywords
- image
- dish
- data
- tableware
- information processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 116
- 238000003672 processing method Methods 0.000 title abstract description 9
- 238000001514 detection method Methods 0.000 claims abstract description 44
- 238000000605 extraction Methods 0.000 claims abstract description 44
- 238000003860 storage Methods 0.000 claims abstract description 43
- 239000000284 extract Substances 0.000 claims abstract description 16
- 238000000034 method Methods 0.000 claims description 46
- 238000012545 processing Methods 0.000 claims description 20
- 238000010411 cooking Methods 0.000 abstract description 71
- 235000021186 dishes Nutrition 0.000 description 80
- 230000006870 function Effects 0.000 description 32
- 235000013305 food Nutrition 0.000 description 31
- 238000010801 machine learning Methods 0.000 description 16
- 238000004458 analytical method Methods 0.000 description 12
- XEEYBQQBJWHFJM-UHFFFAOYSA-N Iron Chemical compound [Fe] XEEYBQQBJWHFJM-UHFFFAOYSA-N 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 241000209094 Oryza Species 0.000 description 7
- 235000007164 Oryza sativa Nutrition 0.000 description 7
- 238000004891 communication Methods 0.000 description 7
- 235000009566 rice Nutrition 0.000 description 7
- 235000012054 meals Nutrition 0.000 description 6
- 238000009826 distribution Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 239000004615 ingredient Substances 0.000 description 5
- 229910052742 iron Inorganic materials 0.000 description 4
- 235000013372 meat Nutrition 0.000 description 4
- 240000002853 Nelumbo nucifera Species 0.000 description 3
- 235000006508 Nelumbo nucifera Nutrition 0.000 description 3
- 244000061456 Solanum tuberosum Species 0.000 description 3
- 235000002595 Solanum tuberosum Nutrition 0.000 description 3
- 235000014347 soups Nutrition 0.000 description 3
- 230000001965 increasing effect Effects 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 239000007788 liquid Substances 0.000 description 2
- 235000012015 potatoes Nutrition 0.000 description 2
- 150000003839 salts Chemical class 0.000 description 2
- 235000012046 side dish Nutrition 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 241000251468 Actinopterygii Species 0.000 description 1
- 244000153158 Ammi visnaga Species 0.000 description 1
- 235000010585 Ammi visnaga Nutrition 0.000 description 1
- 241000467686 Eschscholzia lobbii Species 0.000 description 1
- 240000008415 Lactuca sativa Species 0.000 description 1
- 235000006510 Nelumbo pentapetala Nutrition 0.000 description 1
- 244000046052 Phaseolus vulgaris Species 0.000 description 1
- 235000010627 Phaseolus vulgaris Nutrition 0.000 description 1
- 241000269821 Scombridae Species 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 235000021152 breakfast Nutrition 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 235000021403 cultural food Nutrition 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 238000005034 decoration Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 235000021185 dessert Nutrition 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 235000019688 fish Nutrition 0.000 description 1
- 235000011389 fruit/vegetable juice Nutrition 0.000 description 1
- 235000021189 garnishes Nutrition 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000012905 input function Methods 0.000 description 1
- 235000020640 mackerel Nutrition 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 229910052573 porcelain Inorganic materials 0.000 description 1
- 235000012045 salad Nutrition 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000010902 straw Substances 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 235000013616 tea Nutrition 0.000 description 1
- 235000013311 vegetables Nutrition 0.000 description 1
Images
Abstract
Description
図1は、実施形態における情報処理装置の機能構成の一例を示すブロック図である。
器具データは、料理を配する食器や調理器具、又はカトラリのデータである。食器や調理器具には料理が配され、カトラリで食事をする。従って、料理を撮影するときには撮影画像に料理とともに器具が含まれる可能性が高い。器具データにおける食器や調理器具には以下のような物を含む。
椀:飯椀、汁椀、ドンブリ
皿・プレート:洋食用皿、和食用皿、ガラス皿、洋食用プレート、和食用プレート
鉢・ボウル:大鉢、小鉢、サラダボウル、デザートボウル
カップ:マグカップ、ティーカップ
グラス・酒器:タンブラー、ワイングラス、猪口、ビアグラス
調理器具:フライパン、鍋、釜、ホットプレート、キッチン家電
上記のような食器や調理器具は、食事において固体又は液体の料理を配する目的で使用されるため、「容器」という場合がある。鍋やフライパンも調理後料理をそのまま配して食卓に置かれる可能性があるため、本実施形態においては、皿等と同じ器具データにおいてデータ化されている。なお、本実施形態において、料理が配される点において食器と調理器具は厳密に区別する必要はない。従って、以下の説明において「食器」という場合、調理器具を含んだものとする。
箸:箸、割り箸、鉄箸
カトラリ:スプーン、フォーク、ナイフ、レンゲ、カニスプーン、お玉、コテ
本実施形態では、箸、ストロー、楊枝、串等も「カトラリ」とする。
容器として使用される食器にはそれぞれ形状があり、食器のどの位置に料理が配されやすいかを予め対応させておくことができる。例えば、深い丸皿には、丸皿の中心部に料理が配される可能性が高い。一方、丸皿の外縁部のみに料理が配される可能性は低い。また、長方形の和食皿には、さんまの塩焼きのように皿の外側まではみ出て料理が配されたり、皿の長手方向に料理が分散されて配されたりする可能性が高い。一方、和食皿の一部のみに料理が配される可能性は低い。すなわち、それぞれの容器の形状に対応して、その容器のどの位置に料理が配されるかを予測することができる。料理配置データは、それぞれの容器について料理が配される位置を予測するデータであり、記憶部105に記憶しておくことにより、料理の画像領域を予測し、パターンマッチングにおける料理の画像領域の抽出負荷を低減させることができる。
食器と料理には関係の深い組み合わせが存在する。例えば、和食には和食器が使用され、洋食には洋食器が使用され、中華料理には中国食器が使用され、また韓国料理には韓国食器が使用されやすい。すなわち、料理に使用されている食器の種類によって、料理の種類をある程度予想できる場合がある。例えば、雷文の模様を有する容器に配された料理は中華料理である可能性が高い。また、鉄板に配された料理は、肉料理である可能性が高い。また、上述のように、長方形の和食器に配された料理は焼き魚や和食である可能性が高い。
料理データとは、料理の特徴量を示すデータ(特徴データ)である。料理の特徴量とは、料理を撮影した場合、撮影された料理部分(領域)における画像の特徴量である。料理の特徴量には、例えば料理の色の特徴を示す特徴量と、料理の形状の特徴を示す特徴量等複数の特徴量が含まれる。料理の特徴量は、例えば画像に含まれる料理部分の画像を上述したような機械学習によって数値化することができる。機械学習においては、複数の特徴量の中でどの特徴量によって料理と判定するかは、学習の深度によって異なる場合がある。例えば、ある料理においては料理の形状に基づく判定精度が高くなり、別の料理においては料理の色に基づく判定精度が高くなる場合がある。機械学習は、学習するサンプル数に応じて判定アルゴリズムを自ら修正することができる。
図2は、実施形態における情報処理装置10を含む情報処理システムのハードウェア構成の一例を示すブロック図である。
図3は、実施形態における情報処理装置10で利用される器具データ及び対応データの一例を示す図である。
図4は、実施形態における情報処理装置10で利用される料理データの一例を示す図である。料理データは、例えば図1で説明した記憶部105に記憶される。
図5は、実施形態における情報処理装置10の動作の一例を示すフローチャートである。また、図6は、実施形態における情報処理装置10の食器決定処理の一例を示すフローチャートである。
図7は、実施形態における情報処理装置で実行された料理の画像領域抽出の第1の例を示す図である。
画像を取得する画像取得部と、取得された画像から器具データが示す外観と同一或いは類似する器具を検出する検出部と、検出された器具の食器対応データに対応付けられた料理を決定し、決定した料理の画像領域を画像から抽出する画像抽出部とを備える。この構成によって、画像に含まれる料理部分を精度よく検出することができる。
Claims (8)
- 料理を配する器具の外観を示す器具データと、前記器具と前記料理との対応を示す食器対応データを記憶する記憶部と、
画像を取得する画像取得部と、
取得された前記画像から前記器具データが示す外観と同一或いは類似する器具を検出する検出部と、
検出された前記器具の前記食器対応データに対応付けられた前記料理を決定し、決定した前記料理の画像領域を前記画像から抽出する画像抽出部と
を備える、情報処理システム。 - 前記記憶部は、前記料理が前記器具に配されたときの前記器具の外観と前記料理の配置との対応を示す料理配置データをさらに記憶し、
前記画像抽出部は、検出された前記器具の前記料理配置データに対応付けられた前記料理の配置に基づき前記画像領域を抽出する、請求項1に記載の情報処理システム。 - 前記記憶部は、カトラリの外観を示すカトラリデータと、前記カトラリと前記料理との対応を示すカトラリ対応データをさらに記憶し、
前記検出部は、取得された前記画像から前記カトラリデータが示す外観と同一或いは類似するカトラリをさらに検出し、
前記画像抽出部は、検出された前記カトラリの前記カトラリ対応データに対応付けられた前記料理をさらに決定し、前記画像領域を抽出する、請求項1又は2に記載の情報処理システム。 - 前記記憶部は、前記器具データとして、前記器具の表面のテクスチャを示すテクスチャデータを記憶し、
前記検出部は、記憶された前記テクスチャデータに基づき前記器具を検出する、請求項1から3のいずれか一項に記載の情報処理システム。 - 前記記憶部は、前記料理の撮影画像の特徴量を示す特徴量データをさらに記憶し、
前記画像抽出部は、記憶された前記特徴量に基づき、前記画像領域を抽出する、請求項1から4のいずれか一項に記載の情報処理システム。 - 料理を配する器具の外観を示す器具データと、前記器具と前記料理との対応を示す食器対応データと、画像とを取得する取得部と、
取得された前記画像から前記器具データが示す外観と同一或いは類似する器具を検出する検出部と、
検出された前記器具の前記食器対応データに対応付けられた前記料理を決定し、決定した前記料理の画像領域を前記画像から抽出する画像抽出部と
を備える、情報処理システム。 - 料理を配する器具の外観を示す器具データと、前記器具と前記料理との対応を示す食器対応データを記憶する記憶ステップと、
画像を取得する画像取得ステップと、
取得された前記画像から前記器具データが示す外観と同一或いは類似する器具を検出する検出ステップと、
検出された前記器具の前記食器対応データに対応付けられた前記料理を決定し、決定した前記料理の画像領域を前記画像から抽出する画像抽出ステップと
を含む、情報処理方法。 - 料理を配する器具の外観を示す器具データと、前記器具と前記料理との対応を示す食器対応データを記憶する記憶処理と、
画像を取得する画像取得処理と、
取得された前記画像から前記器具データが示す外観と同一或いは類似する器具を検出する検出処理と、
検出された前記器具の前記食器対応データに対応付けられた前記料理を決定し、決定した前記料理の画像領域を前記画像から抽出する画像抽出処理と
をコンピュータに実行させる、情報処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017142817A JP6306785B1 (ja) | 2017-07-24 | 2017-07-24 | 情報処理システム、情報処理方法及び情報処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017142817A JP6306785B1 (ja) | 2017-07-24 | 2017-07-24 | 情報処理システム、情報処理方法及び情報処理プログラム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018041240A Division JP2019023850A (ja) | 2018-03-07 | 2018-03-07 | 情報処理システム、情報処理方法及び情報処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6306785B1 true JP6306785B1 (ja) | 2018-04-04 |
JP2019023809A JP2019023809A (ja) | 2019-02-14 |
Family
ID=61828599
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017142817A Active JP6306785B1 (ja) | 2017-07-24 | 2017-07-24 | 情報処理システム、情報処理方法及び情報処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6306785B1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2022092079A1 (ja) * | 2020-10-27 | 2022-05-05 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7299542B1 (ja) | 2022-05-18 | 2023-06-28 | キヤノンマーケティングジャパン株式会社 | 情報処理システム及びその制御方法、プログラム |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002092746A (ja) * | 2000-09-12 | 2002-03-29 | Matsushita Electric Ind Co Ltd | 食堂料金精算装置、認識マーク付き印刷物及び認識マークの読み取り方法 |
JP2010061383A (ja) * | 2008-09-03 | 2010-03-18 | Nikon Corp | 自動レシピ作成装置およびプログラム |
JP2013008116A (ja) * | 2011-06-23 | 2013-01-10 | Japan Research Institute Ltd | 課金装置、課金方法、およびプログラム |
JP2013025728A (ja) * | 2011-07-26 | 2013-02-04 | Sony Corp | 情報処理装置、情報処理方法、およびプログラム |
WO2014132521A1 (ja) * | 2013-02-28 | 2014-09-04 | ソニー株式会社 | 情報処理装置および記憶媒体 |
JP2015005172A (ja) * | 2013-06-21 | 2015-01-08 | ソニー株式会社 | 情報処理装置、情報処理システム、及びプログラムを記憶した記憶媒体 |
-
2017
- 2017-07-24 JP JP2017142817A patent/JP6306785B1/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002092746A (ja) * | 2000-09-12 | 2002-03-29 | Matsushita Electric Ind Co Ltd | 食堂料金精算装置、認識マーク付き印刷物及び認識マークの読み取り方法 |
JP2010061383A (ja) * | 2008-09-03 | 2010-03-18 | Nikon Corp | 自動レシピ作成装置およびプログラム |
JP2013008116A (ja) * | 2011-06-23 | 2013-01-10 | Japan Research Institute Ltd | 課金装置、課金方法、およびプログラム |
JP2013025728A (ja) * | 2011-07-26 | 2013-02-04 | Sony Corp | 情報処理装置、情報処理方法、およびプログラム |
WO2014132521A1 (ja) * | 2013-02-28 | 2014-09-04 | ソニー株式会社 | 情報処理装置および記憶媒体 |
JP2015005172A (ja) * | 2013-06-21 | 2015-01-08 | ソニー株式会社 | 情報処理装置、情報処理システム、及びプログラムを記憶した記憶媒体 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2022092079A1 (ja) * | 2020-10-27 | 2022-05-05 |
Also Published As
Publication number | Publication date |
---|---|
JP2019023809A (ja) | 2019-02-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102329592B1 (ko) | 재료 인식을 기반으로 하는 음식 준비 방법 및 시스템 | |
CN113194792B (zh) | 训练烹饪器具、定位食物以及确定烹饪进度的系统和方法 | |
US11117253B2 (en) | Methods and systems for food preparation in a robotic cooking kitchen | |
CN104730931B (zh) | 一种美食交互系统和美食食谱的生成方法 | |
US20130149679A1 (en) | System and methods for virtual cooking with recipe optimization | |
CN107122905B (zh) | 饮食工艺管理方法、系统及其饮食标识和计算机存储介质 | |
US20130149678A1 (en) | System and methods for virtual cooking with multi-course planning | |
US11823042B2 (en) | System for measuring food weight | |
CN110179319A (zh) | 一种智能烹饪的方法及装置 | |
JP6306785B1 (ja) | 情報処理システム、情報処理方法及び情報処理プログラム | |
Cappellini et al. | Constructing the culinary consumer: transformative and reflective processes in Italian cookbooks | |
JP2019023850A (ja) | 情報処理システム、情報処理方法及び情報処理プログラム | |
CN106504131A (zh) | 一种中餐标准化数据采集系统和方法 | |
CN112394149B (zh) | 食材成熟度检测提示的方法及装置、厨电设备 | |
JP2017167665A (ja) | 提供プログラム、提供方法及び提供装置 | |
JP6429344B1 (ja) | 情報処理システム、情報処理方法及び情報処理プログラム | |
Donnelly | Cooking, cooking pots, and cultural transformation in imperial and late antique Italy | |
JP2018147415A (ja) | 食事の識別システムとそのプログラム | |
Raisfeld et al. | The Other Mediterranean Diet: Hearty Albanian comfort food and celebrity sightings in the East Village. | |
CN112068526B (zh) | 用于在机器人烹饪厨房中制备食物的方法和系统 | |
Chan | Chinese Cookery Secrets | |
Muhammad et al. | Impact of Technology Advancement on the Malaysian Ethnics Festival Foods and its Foodways | |
Fabricant | A Meaty American Menu on the Upper West Side | |
Sheikh | Culinary Terms in Kashmiri: A Reflection of the Past and Present | |
Sanip | Authenticity is at heart of elusive recipe for success |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20171227 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20171227 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20180129 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180206 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180308 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6306785 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |