CN108198188A - 基于图片的食物营养分析方法、装置及计算设备 - Google Patents
基于图片的食物营养分析方法、装置及计算设备 Download PDFInfo
- Publication number
- CN108198188A CN108198188A CN201711464090.XA CN201711464090A CN108198188A CN 108198188 A CN108198188 A CN 108198188A CN 201711464090 A CN201711464090 A CN 201711464090A CN 108198188 A CN108198188 A CN 108198188A
- Authority
- CN
- China
- Prior art keywords
- food
- picture
- food materials
- nutritional ingredient
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Geometry (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Software Systems (AREA)
- Computer Graphics (AREA)
- Computational Linguistics (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Analytical Chemistry (AREA)
- Chemical & Material Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Biochemistry (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Medical Treatment And Welfare Office Work (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于图片的食物营养分析方法、装置及计算设备，其中，方法包括：获取至少一张食物图片；将所述至少一张食物图片输入至经训练得到的语义分割模块中，得到每张食物图片的语义分割结果；所述语义分割结果包含食物图片中每种食材的分割结果；根据至少一张食物图片的语义分割结果，进行三维建模处理，预估得到每种食材的体积信息；根据每种食材的分割结果和体积信息，分析每种食材的营养成分和/或卡路里信息；根据每种食材的营养成分和/或卡路里信息计算得到食物图片中食物的营养成分和/或卡路里信息。由此可见，利用本发明方案，可以快速得到食物图片中食物的营养成分和/或卡路里信息，进而为用户的饮食提供参考建议。
Description
技术领域
本发明涉及计算机技术领域，具体涉及一种基于图片的食物营养分析方法、装置及计算设备。
背景技术
目前，随着生活水平的提高，人们越来越关心自己的身体健康，从饮食层面来说，人们从以前关心吃的好不好逐渐改变为关心吃的健不健康，即关注食物中的营养成分以及卡路里等指标的含量。例如，针对想要保持匀称体型的年轻女性，则希望了解食物中的卡路里含量；针对心血管病人，则急需了解食物中的油脂含量；和/或，针对糖尿病人，则需要了解食物中的碳水化合物的含量。可见，一种可以快速预估餐盘中的食物营养成分及卡路里含量的技术正被迫切需求。
然而，现有技术中还没有一种可以基于食物图片快速分析食物营养成分和/或卡路里信息的方案。
发明内容
鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的基于图片的食物营养分析方法、装置及计算设备。
根据本发明的一个方面，提供了一种基于图片的食物营养分析方法，包括：
获取至少一张食物图片；
将所述至少一张食物图片输入至经训练得到的语义分割模块中，得到每张食物图片的语义分割结果；所述语义分割结果包含食物图片中每种食材的分割结果；
根据至少一张食物图片的语义分割结果，进行三维建模处理，预估得到每种食材的体积信息；
根据每种食材的分割结果和体积信息，分析每种食材的营养成分和/或卡路里信息；
根据每种食材的营养成分和/或卡路里信息计算得到食物图片中食物的营养成分和/或卡路里信息。
进一步的，所述根据每种食材的分割结果和体积信息，分析每种食材的营养成分和/或卡路里信息具体为：
根据每种食材的分割结果，查询食材营养成分库和/或卡路里映射表得到单位食材的营养成分和/或卡路里信息；
根据每种食材的体积信息，计算得到每种食材的营养成分和/或卡路里信息。
进一步的，所述方法还包括：
获取所述食物图片的描述信息；
根据所述食物图片的描述信息，生成矫正因子；
根据所述矫正因子对计算得到的食物图片中食物的营养成分和/或卡路里信息进行矫正处理。
进一步的，所述获取至少一张食物图片具体为：获取终端设备相册中的食物图片；
在所述根据每种食材的营养成分和/或卡路里信息计算得到食物图片中食物的营养成分和/或卡路里信息之后，所述方法还包括：
定期对终端设备相册中的食物图片中食物的营养成分和/或卡路里信息进行统计分析；
根据统计分析结果，向终端用户发出健康管理提示消息。
进一步的，所述语义分割模块通过以下训练方法得到：
采集多张食物样本图片，对每张食物样本图片进行食材标注，得到食材分割标注结果；
将每张食物样本图片输入至神经网络中，得到神经网络输出的食物样本图片的分割结果；
利用神经网络输出的食物样本图片的分割结果与食材分割标注结果之间的损失，对神经网络进行训练，得到所述语义分割模块。
根据本发明的另一方面，提供了一种基于图片的食物营养分析装置，包括：
获取模块，适于获取至少一张食物图片；
分割模块，适于将所述至少一张食物图片输入至经训练得到的语义分割模块中，得到每张食物图片的语义分割结果；所述语义分割结果包含食物图片中每种食材的分割结果；
预估模块，适于根据至少一张食物图片的语义分割结果，进行三维建模处理，预估得到每种食材的体积信息；
分析模块，适于根据每种食材的分割结果和体积信息，分析每种食材的营养成分和/或卡路里信息；
计算模块，适于根据每种食材的营养成分和/或卡路里信息计算得到食物图片中食物的营养成分和/或卡路里信息。
进一步的，所述分析模块进一步适于：
根据每种食材的分割结果，查询食材营养成分库和/或卡路里映射表得到单位食材的营养成分和/或卡路里信息；
根据每种食材的体积信息，计算得到每种食材的营养成分和/或卡路里信息。
进一步的，所述装置还包括：矫正模块，适于：
获取所述食物图片的描述信息；
根据所述食物图片的描述信息，生成矫正因子；
根据所述矫正因子对计算得到的食物图片中食物的营养成分和/或卡路里信息进行矫正处理。
进一步的，所述获取模块进一步适于：获取终端设备相册中的食物图片；
所述装置还包括：
统计模块，适于定期对终端设备相册中的食物图片中食物的营养成分和/或卡路里信息进行统计分析；
提示模块，适于根据统计分析结果，向终端用户发出健康管理提示消息。
进一步的，所述装置还包括：训练模块，适于：
采集多张食物样本图片，对每张食物样本图片进行食材标注，得到食材分割标注结果；
将每张食物样本图片输入至神经网络中，得到神经网络输出的食物样本图片的分割结果；
利用神经网络输出的食物样本图片的分割结果与食材分割标注结果之间的损失，对神经网络进行训练，得到所述语义分割模块。
根据本发明的又一方面，提供了一种计算设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；
所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行上述基于图片的食物营养分析方法对应的操作。
根据本发明的再一方面，提供了一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行如上述基于图片的食物营养分析方法对应的操作。
根据本发明的基于图片的食物营养分析方法、装置及计算设备，获取至少一张食物图片；将所述至少一张食物图片输入至经训练得到的语义分割模块中，得到每张食物图片的语义分割结果；所述语义分割结果包含食物图片中每种食材的分割结果；根据至少一张食物图片的语义分割结果，进行三维建模处理，预估得到每种食材的体积信息；根据每种食材的分割结果和体积信息，分析每种食材的营养成分和/或卡路里信息；根据每种食材的营养成分和/或卡路里信息计算得到食物图片中食物的营养成分和/或卡路里信息。由此可见，利用本发明方案，可以快速得到食物图片中食物的营养成分和/或卡路里信息，进而为用户的饮食提供参考建议。
上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：
图1示出了根据本发明一个实施例的基于图片的食物营养分析方法的流程图；
图2示出了根据本发明另一个实施例的基于图片的食物营养分析方法的流程图；
图3示出了根据本发明一个实施例的基于图片的食物营养分析装置的功能框图；
图4示出了根据本发明另一个实施例的基于图片的食物营养分析装置的功能框图；
图5示出了根据本发明实施例的一种计算设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。
本发明考虑到相当大数量的群体对食物的营养成分及卡路里的关注度极高，同时，注意到相机应用逐渐成为人们日常生活中不可或缺的部分，例如，Faceu、美颜相机、花椒相机等等，而且使用这些相机应用的用户通常女性居多，这部分用户还有一个共同喜好，就是减肥保持身材，因此，相较于男性，这部分用户则经常关注食物成分与所含热量。基于此，本发明提出了一种基于图片的食物营养分析方案，识别食物照片中的食材种类与体量，然后分析营养成分，进而为用户提供参考建议。
图1示出了根据本发明一个实施例的基于图片的食物营养分析方法的流程图。如图1所示，该方法包括以下步骤：
步骤101：获取至少一张食物图片。
其中，该食物图片是用户需要获知营养成分和/或卡路里信息的图片。并且，本实施例对食物图片的来源不做具体限定，其可以由相机应用，或相机终端实时拍摄得到，也可以来源于图库或网络。
步骤102：将至少一张食物图片输入至经训练得到的语义分割模块中，得到每张食物图片的语义分割结果。
将至少一张食物图片输入至语义分割模块，以对至少一张食物图片按食材进行分割，进而得到分割出各种食材的每张食物图片的语义分割结果。其中，语义分割结果包含食物图片中每种食材的分割结果。并且，分割结果与食材唯一对应。其中，语义分割模块可以将食物图片中的像素点按照该像素点代表的食材种类进行分割。
举例来说，对一种包括10种食材的食物图片进行分割，得到食物图片的语义分割结果为食物图片中对应每一种食材的像素区域，每一种食材的像素区域可包含多个不连续的像素子区域，在语义分割结果中以不同的像素值表示各种食材的像素区域。
步骤103：根据至少一张食物图片的语义分割结果，进行三维建模处理，预估得到每种食材的体积信息。
在得到食物图片的语义分割结果后，对食物图片进行三维建模处理，以得到食物图片的三维信息，进而可以预估对应语义分割结果中的每种食材的体积信息。
具体地，根据语义分割结果中每种食材的像素区域以及同一种食材所占的像素比例等信息进行三维建模处理；然后，在经三维建模处理得到的三维食物模型中，根据每种食材的三维信息预估得到每种食材的体积信息。
在本实施例中，不对三维建模处理的算法做具体限定，本领域技术人员应该理解的是，三维建模处理的算法可以为现有技术中任意能够根据图片进行三维建模的算法。
步骤104：根据每种食材的分割结果和体积信息，分析每种食材的营养成分和/或卡路里信息。
在得到每种食材的体积信息之后，需要根据体积信息进一步确定每种食材的营养成分和/或卡路里信息。具体地，首先确定每单位体积的食材所含的营养成分和/或卡路里信息；然后根据该食材的体积信息确定食物图片中该食材的营养成分和/或卡路里信息。
步骤105：根据每种食材的营养成分和/或卡路里信息计算得到食物图片中食物的营养成分和/或卡路里信息。
根据每种食材的营养成分和/或卡路里信息，对食物图片中所有食材的营养成分和/或卡路里信息进行求和计算，得到食物图片中食物的营养成分和/或卡路里信息。
根据本实施例提供的一种基于图片的食物营养分析方法，获取至少一张食物图片；将所述至少一张食物图片输入至经训练得到的语义分割模块中，得到每张食物图片的语义分割结果；所述语义分割结果包含食物图片中每种食材的分割结果；根据至少一张食物图片的语义分割结果，进行三维建模处理，预估得到每种食材的体积信息；根据每种食材的分割结果和体积信息，分析每种食材的营养成分和/或卡路里信息；根据每种食材的营养成分和/或卡路里信息计算得到食物图片中食物的营养成分和/或卡路里信息。由此可见，利用本实施例提供的方案，可以快速得到食物图片中食物的营养成分和/或卡路里信息，进而为用户的饮食提供参考建议。
图2示出了根据本发明另一个实施例的基于图片的食物营养分析方法的流程图。如图2所示，该方法包括以下步骤：
步骤S201：获取至少一张食物图片。
可选的，获取至少一张食物图片具体为：获取终端设备相册中的食物图片。
步骤S202：将至少一张食物图片输入至经训练得到的语义分割模块中，得到每张食物图片的语义分割结果。
将至少一张食物图片输入至语义分割模块，以对至少一张食物图片按食材进行分割，进而得到分割出各种食材的每张食物图片的语义分割结果。其中，语义分割结果包含食物图片中每种食材的分割结果。
为了可以精准分割出食物图片中的各种食材，首先需要通过训练得到语义分割模块，其中，语义分割模块通过以下步骤训练得到：采集多张食物样本图片，对每张食物样本图片进行食材标注，得到食材分割标注结果。具体地，对每张食物样本图片中的不同食材用不同的值进行标注，即将食物样本图片按照食材进行了分割，得到食材分割标注结果。然后，将每张食物样本图片输入至神经网络中，得到神经网络输出的食物样本图片的分割结果。具体地，初始化神经网络的模型参数，将每张食物样本图片作为神经网络的训练输入数据，输出得到食物样本图片的分割结果。再利用神经网络输出的食物样本图片的分割结果与食材分割标注结果之间的损失，对神经网络进行训练，得到语义分割模块。具体地，通过损失函数计算输出得到的食物样本图片的分割结果与食材分割标注结果之间的损失，并根据该损失进行自适应学习，直至损失减小到预设损失范围内，则停止训练，得到语义分割模块，语义分割模块的模块参数即训练得到的神经网络的模型参数。
步骤S203：根据至少一张食物图片的语义分割结果，进行三维建模处理，预估得到每种食材的体积信息。
根据食物图片的语义分割结果，进行三维建模处理，以得到食物图片的三维信息，进而可以预估对应语义分割结果中的每种食材的体积信息。
具体地，通过同一份食物的多个角度的多张食物图片的语义分割结果进行三维建模处理，以得到三维食物模型。其中，三维建模处理的算法可采用即时定位与地图构建(simultaneous localization and mapping，简称SLAM)算法，利用SLAM算法，可以建立三维食物模型，并且可以得到三维食物模型各个方向的尺寸信息。然后，利用该尺寸信息可以预估每种食材的体积信息。
步骤S204：根据每种食材的分割结果和体积信息，分析每种食材的营养成分和/或卡路里信息。
具体地，根据每种食材的分割结果，查询食材营养成分库和/或卡路里映射表得到单位食材的营养成分和/或卡路里信息；根据每种食材的体积信息，计算得到每种食材的营养成分和/或卡路里信息。
其中，食材营养成分库和/或卡路里库映射表中存储有食材标识及对应该食材标识的单位食材所含的营养成分信息和/或卡路里信息。并且，食材的分割结果与食材标识一一对应，以胡萝卜为例，假设胡萝卜的分割结果为灰度值为100，胡萝卜的食材标识为2，则可根据灰度值100，在食材营养成分库和/或卡路里映射表中查找食材标识为2的食材，得到单位胡萝卜的营养成分和/或卡路里信息。然后，根据食材营养成分库和/或卡路里库映射表中的单位对每种食材的体积信息进行换算，以及，根据换算后的单位计算食材的营养成分和/或卡路里信息。例如，食材营养成分库和/或卡路里库映射表中，胡萝卜中胡萝卜素的含量为：每100克胡萝卜中含有10毫克胡萝卜素，则将胡萝卜的体积信息换算成质量信息，再将质量信息与胡萝卜素的含量相乘，得到对应体积信息的胡萝卜中胡萝卜素的量。
步骤S205：根据每种食材的营养成分和/或卡路里信息计算得到食物图片中食物的营养成分和/或卡路里信息。
根据每种食材的营养成分和/或卡路里信息，对食物图片中所有食材的营养成分和/或卡路里信息进行求和计算，得到食物图片中食物的营养成分和/或卡路里信息。
步骤S206：对计算得到的食物图片中食物的营养成分和/或卡路里信息进行矫正处理。
在利用上述步骤分析食物的营养成分和/或卡路里信息的过程中，仅仅单独考虑食物中每种食材的营养成分和/或卡路里信息；然而，在实际中，食物的营养成分和/或卡路里信息还与多方面因素相关，这些因素包括但不限于食物的做法、食物所属的菜系和/或食材的组合。举例来说，通常情况下，川菜油脂含量高于江浙菜；同样的食材，清蒸做出来的热量少于红烧做出来的热量；或者，不同的食材的组合，代表不同的菜系或不同的做法，相应的，营养成分和/或卡路里信息也会不同。基于此，本步骤通过考虑上述影响食物的营养成分和/或卡路里信息的多方面的因素，对计算得到的食物图片中食物的营养成分和/或卡路里信息进行矫正处理，以使最后得到的食物图片中食物的营养成分和/或卡路里信息更为准确。
矫正处理的具体步骤如下：获取食物图片的描述信息；根据食物图片的描述信息，生成矫正因子；根据矫正因子对计算得到的食物图片中食物的营养成分和/或卡路里信息进行矫正处理。
其中，食物图片的描述信息包括食物的做法、食物所属的菜系和/或食材组合的信息，同时，不同的描述信息表征着不同的营养成分和/或卡路里信息的特征。这些描述信息可以由用户输入，可选的，用户可选择做法、菜系、菜名等信息作为食物图片的描述信息；或者，这些描述信息可以由系统自动确定，可选的，系统根据食物图片的语义分割结果确定食材组合，然后根据食材组合确定食物的做法、食物所属的菜系、食物的菜名等食物图片的描述信息；或者，这些描述信息可通过用户输入以及系统自动确定两种方式组合确定，进而可以提高描述信息的准确性。具体地，首先获取用户输入的，和/或，系统自动确定的食物图片的描述信息；根据不同的描述信息，确定食物的营养成分和/或卡路里信息的特征，然后生成对食物的营养成分和/或卡路里信息进行矫正处理的矫正因子，进而可以利用该矫正因子得到矫正后的食物的营养成分和/或卡路里信息，使得最后分析出的食物的营养成分和/或卡路里信息更准确，因此可以利用该结果为用户提供更具有参考性的建议。
为便于对本步骤的理解，以一具体示例进行说明：在计算得到食物的营养成分和/或卡路里信息后，系统将语义分割结果中每种食材的分割结果与食物成分组成库中各种食物或菜系的组成食材进行匹配，进而确定食物图片中的食物的菜名或所属的菜系；然后，根据确定的菜名或菜系生成相应营养成分或卡路里信息的矫正因子，其中，菜名或菜系与相应营养成分或卡路里信息的矫正因子的对应关系为预先设置的，例如，预先设置毛血旺的油脂含量的矫正因子为b，则在确定食物的菜名为毛血旺后，确定油脂含量的矫正因子为b；最后，根据矫正因子对计算得到的食物图片中食物的对应营养成分和/或卡路里信息进行矫正处理，假设计算得到的毛血旺的油脂含量为a，则经矫正处理后的毛血旺的油脂含量为a*(1+b)。
步骤S207：定期对终端设备相册中的食物图片中食物的营养成分和/或卡路里信息进行统计分析；根据统计分析结果，向终端用户发出健康管理提示消息。
为利用得到的食物的营养成分和/或卡路里信息指导用户的日常饮食，本步骤中，定期对终端设备相册中的食物图片中食物的营养成分和/或卡路里信息进行统计分析，得到该统计周期内，用户从饮食中摄入的各种营养成分和/或卡路里的大致情况，进而可以根据统计分析结果向终端用户发出健康管理提示消息。
具体地，对统计周期内的食物图片中食物的营养成分和/或卡路里信息进行统计分析，得到该统计周期内用户摄入的各种营养成分和/或卡路里信息的含量，和/或得到该统计周期内用户摄入的各种营养成分和/或卡路里信息所占比例的情况；然后，根据统计结果分析用户的饮食习惯是否健康，各种营养成分和/或卡路里信息的摄入是否合理等。
在本发明的一个具体实施例中，为了可以利用统计分析的结果有针对性的为用户发出健康管理提醒，可以预先建立用户的健康档案，例如，用户的健康情况，营养缺乏情况，体脂率，各种营养成分的限量摄入情况等，然后在统计分析的结果上，结合用户的健康档案，向用户终端发送更具针对性的健康管理提示消息。
根据本实施例提供的基于图片的食物营养分析方法，获取至少一张食物图片；将至少一张食物图片输入至经训练得到的语义分割模块中，得到每张食物图片的语义分割结果；根据至少一张食物图片的语义分割结果，进行三维建模处理，预估得到每种食材的体积信息；根据每种食材的分割结果和体积信息，分析每种食材的营养成分和/或卡路里信息；根据每种食材的营养成分和/或卡路里信息计算得到食物图片中食物的营养成分和/或卡路里信息；对计算得到的食物图片中食物的营养成分和/或卡路里信息进行矫正处理，以使最后得到的食物图片中食物的营养成分和/或卡路里信息更为准确；定期对终端设备相册中的食物图片中食物的营养成分和/或卡路里信息进行统计分析；根据统计分析结果，向终端用户发出健康管理提示消息。由此可见，本实施例提供的基于图片的食物营养分析方法，可以广泛应用于各种相机应用，或者相机产品中，以快速得到食物图片中食物的营养成分和/或卡路里信息；以及，利用矫正因子对食物营养成分和/或卡路里信息进行矫正处理，使得计算结果更为准确；并且，通过定期的统计分析，向终端用户发出健康管理提醒，进而可以指导用户的日常饮食，以及为用户的饮食提供参考建议。
图3示出了根据本发明一个实施例的基于图片的食物营养分析装置的功能框图。如图3所示，该装置包括：获取模块301、分割模块302、预估模块303、分析模块304以及计算模块305。
获取模块301，适于获取至少一张食物图片；
分割模块302，适于将所述至少一张食物图片输入至经训练得到的语义分割模块中，得到每张食物图片的语义分割结果；所述语义分割结果包含食物图片中每种食材的分割结果；
预估模块303，适于根据至少一张食物图片的语义分割结果，进行三维建模处理，预估得到每种食材的体积信息；
分析模块304，适于根据每种食材的分割结果和体积信息，分析每种食材的营养成分和/或卡路里信息；
计算模块305，适于根据每种食材的营养成分和/或卡路里信息计算得到食物图片中食物的营养成分和/或卡路里信息。
图4示出了根据本发明另一个实施例的基于图片的食物营养分析装置的功能框图。如图4所示，在图3的基础上，该装置还包括：矫正模块401、统计模块402、提示模块403以及训练模块404。
分析模块304进一步适于：
根据每种食材的分割结果，查询食材营养成分库和/或卡路里映射表得到单位食材的营养成分和/或卡路里信息；
根据每种食材的体积信息，计算得到每种食材的营养成分和/或卡路里信息。
矫正模块401，适于：获取所述食物图片的描述信息；
根据所述食物图片的描述信息，生成矫正因子；
根据所述矫正因子对计算得到的食物图片中食物的营养成分和/或卡路里信息进行矫正处理。
获取模块301进一步适于：获取终端设备相册中的食物图片；
所述装置还包括：统计模块402，适于定期对终端设备相册中的食物图片中食物的营养成分和/或卡路里信息进行统计分析；
提示模块403，适于根据统计分析结果，向终端用户发出健康管理提示消息。
所述装置还包括：训练模块404，适于：
采集多张食物样本图片，对每张食物样本图片进行食材标注，得到食材分割标注结果；
将每张食物样本图片输入至神经网络中，得到神经网络输出的食物样本图片的分割结果；
利用神经网络输出的食物样本图片的分割结果与食材分割标注结果之间的损失，对神经网络进行训练，得到所述语义分割模块。
关于上述各个模块的具体结构和工作原理可参照方法实施例中相应步骤的描述，此处不再赘述。
本申请实施例提供了一种非易失性计算机存储介质，所述计算机存储介质存储有至少一可执行指令，该计算机可执行指令可执行上述任意方法实施例中的基于图片的食物营养分析方法。
图5示出了根据本发明实施例的一种计算设备的结构示意图，本发明具体实施例并不对计算设备的具体实现做限定。
如图5所示，该计算设备可以包括：处理器(processor)502、通信接口(Communications Interface)504、存储器(memory)506、以及通信总线508。
其中：
处理器502、通信接口504、以及存储器506通过通信总线508完成相互间的通信。
通信接口504，用于与其它设备比如客户端或其它服务器等的网元通信。
处理器502，用于执行程序510，具体可以执行上述基于图片的食物营养分析方法实施例中的相关步骤。
具体地，程序510可以包括程序代码，该程序代码包括计算机操作指令。
处理器502可能是中央处理器CPU，或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit)，或者是被配置成实施本发明实施例的一个或多个集成电路。计算设备包括的一个或多个处理器，可以是同一类型的处理器，如一个或多个CPU；也可以是不同类型的处理器，如一个或多个CPU以及一个或多个ASIC。
存储器506，用于存放程序510。存储器506可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。
程序510具体可以用于使得处理器502执行以下操作：
获取至少一张食物图片；
将所述至少一张食物图片输入至经训练得到的语义分割模块中，得到每张食物图片的语义分割结果；所述语义分割结果包含食物图片中每种食材的分割结果；
根据至少一张食物图片的语义分割结果，进行三维建模处理，预估得到每种食材的体积信息；
根据每种食材的分割结果和体积信息，分析每种食材的营养成分和/或卡路里信息；
根据每种食材的营养成分和/或卡路里信息计算得到食物图片中食物的营养成分和/或卡路里信息。
在一种可选的实施方式中，程序510具体可以进一步用于使得处理器502执行以下操作：
根据每种食材的分割结果，查询食材营养成分库和/或卡路里映射表得到单位食材的营养成分和/或卡路里信息；
根据每种食材的体积信息，计算得到每种食材的营养成分和/或卡路里信息。
在一种可选的实施方式中，程序510具体可以进一步用于使得处理器502执行以下操作：获取所述食物图片的描述信息；
根据所述食物图片的描述信息，生成矫正因子；
根据所述矫正因子对计算得到的食物图片中食物的营养成分和/或卡路里信息进行矫正处理。
在一种可选的实施方式中，程序510具体可以进一步用于使得处理器502执行以下操作：获取终端设备相册中的食物图片；
在所述根据每种食材的营养成分和/或卡路里信息计算得到食物图片中食物的营养成分和/或卡路里信息之后，所述方法还包括：
定期对终端设备相册中的食物图片中食物的营养成分和/或卡路里信息进行统计分析；
根据统计分析结果，向终端用户发出健康管理提示消息。
在一种可选的实施方式中，程序510具体可以进一步用于使得处理器502执行以下操作：
采集多张食物样本图片，对每张食物样本图片进行食材标注，得到食材分割标注结果；
将每张食物样本图片输入至神经网络中，得到神经网络输出的食物样本图片的分割结果；
利用神经网络输出的食物样本图片的分割结果与食材分割标注结果之间的损失，对神经网络进行训练，得到所述语义分割模块。
在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。
类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的基于图片的食物营养分析装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
Claims (10)
1.一种基于图片的食物营养分析方法，包括：
获取至少一张食物图片；
将所述至少一张食物图片输入至经训练得到的语义分割模块中，得到每张食物图片的语义分割结果；所述语义分割结果包含食物图片中每种食材的分割结果；
根据至少一张食物图片的语义分割结果，进行三维建模处理，预估得到每种食材的体积信息；
根据每种食材的分割结果和体积信息，分析每种食材的营养成分和/或卡路里信息；
根据每种食材的营养成分和/或卡路里信息计算得到食物图片中食物的营养成分和/或卡路里信息。
2.根据权利要求1所述的方法，其中，所述根据每种食材的分割结果和体积信息，分析每种食材的营养成分和/或卡路里信息具体为：
根据每种食材的分割结果，查询食材营养成分库和/或卡路里映射表得到单位食材的营养成分和/或卡路里信息；
根据每种食材的体积信息，计算得到每种食材的营养成分和/或卡路里信息。
3.根据权利要求1或2所述的方法，其中，所述方法还包括：
获取所述食物图片的描述信息；
根据所述食物图片的描述信息，生成矫正因子；
根据所述矫正因子对计算得到的食物图片中食物的营养成分和/或卡路里信息进行矫正处理。
4.根据权利要求1-3中任一项所述的方法，其中，所述获取至少一张食物图片具体为：获取终端设备相册中的食物图片；
在所述根据每种食材的营养成分和/或卡路里信息计算得到食物图片中食物的营养成分和/或卡路里信息之后，所述方法还包括：
定期对终端设备相册中的食物图片中食物的营养成分和/或卡路里信息进行统计分析；
根据统计分析结果，向终端用户发出健康管理提示消息。
5.根据权利要求1-4中任一项所述的方法，其中，所述语义分割模块通过以下训练方法得到：
采集多张食物样本图片，对每张食物样本图片进行食材标注，得到食材分割标注结果；
将每张食物样本图片输入至神经网络中，得到神经网络输出的食物样本图片的分割结果；
利用神经网络输出的食物样本图片的分割结果与食材分割标注结果之间的损失，对神经网络进行训练，得到所述语义分割模块。
6.一种基于图片的食物营养分析装置，包括：
获取模块，适于获取至少一张食物图片；
分割模块，适于将所述至少一张食物图片输入至经训练得到的语义分割模块中，得到每张食物图片的语义分割结果；所述语义分割结果包含食物图片中每种食材的分割结果；
预估模块，适于根据至少一张食物图片的语义分割结果，进行三维建模处理，预估得到每种食材的体积信息；
分析模块，适于根据每种食材的分割结果和体积信息，分析每种食材的营养成分和/或卡路里信息；
计算模块，适于根据每种食材的营养成分和/或卡路里信息计算得到食物图片中食物的营养成分和/或卡路里信息。
7.根据权利要求6所述的装置，其中，所述分析模块进一步适于：
根据每种食材的分割结果，查询食材营养成分库和/或卡路里映射表得到单位食材的营养成分和/或卡路里信息；
根据每种食材的体积信息，计算得到每种食材的营养成分和/或卡路里信息。
8.根据权利要求6或7所述的装置，其中，所述装置还包括：矫正模块，适于：
获取所述食物图片的描述信息；
根据所述食物图片的描述信息，生成矫正因子；
根据所述矫正因子对计算得到的食物图片中食物的营养成分和/或卡路里信息进行矫正处理。
9.一种计算设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；
所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1-5中任一项所述的基于图片的食物营养分析方法对应的操作。
10.一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行如权利要求1-5中任一项所述的基于图片的食物营养分析方法对应的操作。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201711464090.XA CN108198188A (zh) | 2017-12-28 | 2017-12-28 | 基于图片的食物营养分析方法、装置及计算设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201711464090.XA CN108198188A (zh) | 2017-12-28 | 2017-12-28 | 基于图片的食物营养分析方法、装置及计算设备 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN108198188A true CN108198188A (zh) | 2018-06-22 |
Family
ID=62585572
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201711464090.XA Pending CN108198188A (zh) | 2017-12-28 | 2017-12-28 | 基于图片的食物营养分析方法、装置及计算设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN108198188A (zh) |
Cited By (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109431479A (zh) * | 2018-11-14 | 2019-03-08 | 中山市普仁康太健康管理有限公司 | 一种健康管理系统 |
| CN109829774A (zh) * | 2018-11-30 | 2019-05-31 | 广州富港万嘉智能科技有限公司 | 食材一键订购方法、系统、电子设备及存储介质 |
| CN110211666A (zh) * | 2019-05-28 | 2019-09-06 | 珠海格力电器股份有限公司 | 一种营养信息确定方法、装置、存储介质及烹饪器具 |
| CN110652221A (zh) * | 2018-06-29 | 2020-01-07 | 青岛海尔智能技术研发有限公司 | 一种烤箱烟雾监控方法及装置、存储介质 |
| CN111091053A (zh) * | 2019-11-12 | 2020-05-01 | 珠海格力电器股份有限公司 | 一种数据分析方法、装置、设备以及可读介质 |
| CN111222569A (zh) * | 2020-01-06 | 2020-06-02 | 宇龙计算机通信科技(深圳)有限公司 | 识别食物的方法、装置、电子设备及介质 |
| CN111259805A (zh) * | 2020-01-16 | 2020-06-09 | 武汉轻工大学 | 肉类检测方法、装置、设备和存储介质 |
| CN111696151A (zh) * | 2019-03-15 | 2020-09-22 | 青岛海尔智能技术研发有限公司 | 烤箱中食材体积识别的方法、装置及计算机可读存储介质 |
| CN113496488A (zh) * | 2021-07-16 | 2021-10-12 | 深圳市乐福衡器有限公司 | 一种获取营养信息的方法、系统、拍摄终端及存储介质 |
| CN114360690A (zh) * | 2022-03-18 | 2022-04-15 | 天津九安医疗电子股份有限公司 | 一种慢病患者的饮食营养管理方法和系统 |
| CN117078955A (zh) * | 2023-08-22 | 2023-11-17 | 海啸能量实业有限公司 | 一种基于图像识别的健康管理方法 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105891122A (zh) * | 2016-03-31 | 2016-08-24 | 广东小天才科技有限公司 | 一种移动终端的食物成份检测方法及系统 |
| CN106372198A (zh) * | 2016-08-31 | 2017-02-01 | 乐视控股（北京）有限公司 | 一种基于图像识别技术的数据提取方法及其移动终端 |
| CN106709525A (zh) * | 2017-01-05 | 2017-05-24 | 北京大学 | 一种相机测量食物营养成分方法 |
| CN106846484A (zh) * | 2017-02-20 | 2017-06-13 | 深圳市唯特视科技有限公司 | 一种基于双视图三维重建的食物体积估计方法 |
-
2017
- 2017-12-28 CN CN201711464090.XA patent/CN108198188A/zh active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105891122A (zh) * | 2016-03-31 | 2016-08-24 | 广东小天才科技有限公司 | 一种移动终端的食物成份检测方法及系统 |
| CN106372198A (zh) * | 2016-08-31 | 2017-02-01 | 乐视控股（北京）有限公司 | 一种基于图像识别技术的数据提取方法及其移动终端 |
| CN106709525A (zh) * | 2017-01-05 | 2017-05-24 | 北京大学 | 一种相机测量食物营养成分方法 |
| CN106846484A (zh) * | 2017-02-20 | 2017-06-13 | 深圳市唯特视科技有限公司 | 一种基于双视图三维重建的食物体积估计方法 |
Cited By (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110652221A (zh) * | 2018-06-29 | 2020-01-07 | 青岛海尔智能技术研发有限公司 | 一种烤箱烟雾监控方法及装置、存储介质 |
| CN109431479A (zh) * | 2018-11-14 | 2019-03-08 | 中山市普仁康太健康管理有限公司 | 一种健康管理系统 |
| CN109829774A (zh) * | 2018-11-30 | 2019-05-31 | 广州富港万嘉智能科技有限公司 | 食材一键订购方法、系统、电子设备及存储介质 |
| CN111696151A (zh) * | 2019-03-15 | 2020-09-22 | 青岛海尔智能技术研发有限公司 | 烤箱中食材体积识别的方法、装置及计算机可读存储介质 |
| CN110211666A (zh) * | 2019-05-28 | 2019-09-06 | 珠海格力电器股份有限公司 | 一种营养信息确定方法、装置、存储介质及烹饪器具 |
| CN111091053A (zh) * | 2019-11-12 | 2020-05-01 | 珠海格力电器股份有限公司 | 一种数据分析方法、装置、设备以及可读介质 |
| CN111222569A (zh) * | 2020-01-06 | 2020-06-02 | 宇龙计算机通信科技(深圳)有限公司 | 识别食物的方法、装置、电子设备及介质 |
| CN111259805A (zh) * | 2020-01-16 | 2020-06-09 | 武汉轻工大学 | 肉类检测方法、装置、设备和存储介质 |
| CN113496488A (zh) * | 2021-07-16 | 2021-10-12 | 深圳市乐福衡器有限公司 | 一种获取营养信息的方法、系统、拍摄终端及存储介质 |
| CN114360690A (zh) * | 2022-03-18 | 2022-04-15 | 天津九安医疗电子股份有限公司 | 一种慢病患者的饮食营养管理方法和系统 |
| CN117078955A (zh) * | 2023-08-22 | 2023-11-17 | 海啸能量实业有限公司 | 一种基于图像识别的健康管理方法 |
| CN117078955B (zh) * | 2023-08-22 | 2024-05-17 | 海口晓建科技有限公司 | 一种基于图像识别的健康管理方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108198188A (zh) | 基于图片的食物营养分析方法、装置及计算设备 | |
| CN108769159A (zh) | 一种电子菜谱智能推荐方法 | |
| CN110688482B (zh) | 多标签识别方法、训练方法及装置 | |
| CN108597582B (zh) | 一种用于执行Faster R-CNN神经网络运算的方法和装置 | |
| CN107093091B (zh) | 一种数据处理方法和装置 | |
| Bertrand et al. | Inference in a survival cure model with mismeasured covariates using a simulation-extrapolation approach | |
| CN109300059A (zh) | 菜品推荐方法及装置 | |
| Grosser et al. | Multivariate skeletal analyses support a taxonomic distinction between New Zealand and Australian Eudyptula penguins (Sphenisciformes: Spheniscidae) | |
| CN107851183A (zh) | 用于提供食谱的系统和方法 | |
| Chandra | Exploring spatial dependence in area-level random effect model for disaggregate-level crop yield estimation | |
| CN110706783A (zh) | 食谱推荐方法、装置、计算设备及计算机存储介质 | |
| CN104765980A (zh) | 一种基于云计算的智能膳食评估方法 | |
| CN109522858A (zh) | 植物疾病检测方法、装置及终端设备 | |
| CN112530076B (zh) | 健康管理的食堂餐饮系统和方法 | |
| Jooste et al. | Performance of three mathematical models for estimating age-at-death from multiple indicators of the adult skeleton | |
| CN109886310A (zh) | 图片排序方法、装置、电子设备及可读存储介质 | |
| CN116580815A (zh) | 一种慢病患者的饮食营养管理方法和系统 | |
| Louzada et al. | Skew-normal distribution for growth curve models in presence of a heteroscedasticity structure | |
| CN112902406A (zh) | 参数设置方法、设备及计算机可读存储介质 | |
| Özel et al. | Separate ratio estimators for the population variance in stratified random sampling | |
| CN109767468A (zh) | 脏器体积检测方法及装置 | |
| JP7380699B2 (ja) | 分析装置及びプログラム | |
| Singh | Price transmission among different Atlantic salmon products in the US import market | |
| WO2020233586A1 (zh) | 食物账单的推送方法、装置和计算机可读存储介质 | |
| JP2018049584A (ja) | 食事量推定プログラム、食事量推定方法及び食事量推定装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180622 |
|
| RJ01 | Rejection of invention patent application after publication |