CN110613314B - 一种烹饪提示方法及设备、存储介质 - Google Patents

一种烹饪提示方法及设备、存储介质 Download PDF

Info

Publication number
CN110613314B
CN110613314B CN201810657625.3A CN201810657625A CN110613314B CN 110613314 B CN110613314 B CN 110613314B CN 201810657625 A CN201810657625 A CN 201810657625A CN 110613314 B CN110613314 B CN 110613314B
Authority
CN
China
Prior art keywords
cooking
food material
cooking step
preset
material image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810657625.3A
Other languages
English (en)
Other versions
CN110613314A (zh
Inventor
王新元
程凡
龙永文
周宗旭
黄源甲
谭华
肖群虎
陈必东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Foshan Shunde Midea Electrical Heating Appliances Manufacturing Co Ltd
Original Assignee
Foshan Shunde Midea Electrical Heating Appliances Manufacturing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Foshan Shunde Midea Electrical Heating Appliances Manufacturing Co Ltd filed Critical Foshan Shunde Midea Electrical Heating Appliances Manufacturing Co Ltd
Priority to CN201810657625.3A priority Critical patent/CN110613314B/zh
Publication of CN110613314A publication Critical patent/CN110613314A/zh
Application granted granted Critical
Publication of CN110613314B publication Critical patent/CN110613314B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47JKITCHEN EQUIPMENT; COFFEE MILLS; SPICE MILLS; APPARATUS FOR MAKING BEVERAGES
    • A47J27/00Cooking-vessels
    • A47J27/002Construction of cooking-vessels; Methods or processes of manufacturing specially adapted for cooking-vessels
    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47JKITCHEN EQUIPMENT; COFFEE MILLS; SPICE MILLS; APPARATUS FOR MAKING BEVERAGES
    • A47J36/00Parts, details or accessories of cooking-vessels

Landscapes

  • Engineering & Computer Science (AREA)
  • Food Science & Technology (AREA)
  • Manufacturing & Machinery (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明实施例公开了一种烹饪提示方法,应用于增强现实AR设备,该方法包括:检测到处于当前烹饪步骤时,从食材可捕获区域获取食材图像,当前烹饪步骤属于至少一个烹饪步骤,至少一个烹饪步骤为烹饪前获取的;基于食材图像判断是否满足预设展示触发条件,预设展示触发条件为当前烹饪步骤对应的展示烹饪操作条件;当食材图像满足预设展示触发条件时,获取与当前烹饪步骤对应的预设操作动画和预设展示位置信息;基于预设展示位置信息,在食材图像上展示预设操作动画。

Description

一种烹饪提示方法及设备、存储介质
技术领域
本发明涉及家用电器技术领域的烹饪技术,尤其涉及一种烹饪提示方法及设备、存储介质。
背景技术
烹饪作为膳食的艺术,是一种复杂而有规律的将食材转化为食物的加工过程。通过烹饪,实现对原食材的合理选择调配,加工治净,加热调味,使之称为色、香、味之成为色、香、味、形、质、养兼美的安全无害的、利于吸收、益人健康、强人体质的饭食菜品。一般来说,不同的饭食菜品有着不同的食谱,不同的食谱又对应着不同的烹饪过程,然而,由于烹饪过程是一个复杂而讲究的过程,初试某一饭食菜品的人员若不能按照该饭食菜品对应的食谱进行烹饪操作,烹饪的结果就会差强人意。
目前,烹饪设备进行烹饪提示时,通常是通过语音对烹饪过程进行提示,智能性低,烹饪效果差。
发明内容
为解决上述技术问题,本发明实施例期望提供一种烹饪提示方法及设备、存储介质,能够提高烹饪效果和烹饪操作的智能性。
本发明的技术方案是这样实现的:
本发明实施例提供了一种烹饪提示方法,应用于增强现实AR设备,所述方法包括:
检测到处于当前烹饪步骤时,从食材可捕获区域获取食材图像,所述当前烹饪步骤属于所述至少一个烹饪步骤,所述至少一个烹饪步骤为烹饪前获取的;
基于所述食材图像判断是否满足预设展示触发条件,所述预设展示触发条件为所述当前烹饪步骤对应的展示烹饪操作条件;
当所述食材图像满足所述预设展示触发条件时,获取与所述当前烹饪步骤对应的预设操作动画和预设展示位置信息;
基于所述预设展示位置信息,在所述食材图像上展示所述预设操作动画。
在上述方案中,所述基于所述预设展示位置信息,在所述食材图像上展示所述预设操作动画,包括:
根据所述预设展示位置信息,确定所述食材图像的展示位置;
将所述预设操作动画在所述展示位置进行展示。
在上述方案中,所述检测到处于当前烹饪步骤时,所述方法还包括:
获取烹饪设备的传感数据。
在上述方案中,所述当所述食材图像满足所述预设展示触发条件时,获取与所述当前烹饪步骤对应的预设操作动画和预设展示位置信息之前,所述方法还包括:
基于所述传感数据判断是否满足所述预设展示触发条件;
相应地,所述当所述食材图像满足所述预设展示触发条件时,获取与所述当前烹饪步骤对应的预设操作动画和预设展示位置信息,包括:
当所述食材图像和所述传感数据任意一个满足所述预设展示触发条件时,获取与所述当前烹饪步骤对应的所述预设操作动画和所述预设展示位置信息。
在上述方案中,基于所述食材图像判断是否满足预设展示触发条件之前,所述方法还包括:
识别所述食材图像,得到食材图像识别信息;
相应地,所述基于所述食材图像判断是否满足预设展示触发条件,包括:
当所述食材图像识别信息表征了所述当前烹饪步骤对应的食材对象时,基于所述食材图像判断是否满足所述预设展示触发条件。
在上述方案中,所述从食材可捕获区域获取食材图像之前,所述方法还包括:
烹饪提示功能启动时,获取食谱信息;
根据所述食谱信息生成所述至少一个烹饪步骤。
在上述方案中,所述获取烹饪设备的传感数据之后,所述方法还包括:
当所述食材图像和/或所述传感数据满足预设操作触发条件时,根据所述食材图像和/或所述传感数据生成烹饪操作指令,所述预设操作触发条件为所述当前烹饪步骤中对应的烹饪操作条件;
将所述烹饪操作指令发送至对应的所述烹饪设备,供所述烹饪设备响应所述烹饪操作指令执行烹饪操作。
在上述方案中,所述基于所述预设展示位置信息,在所述食材图像上展示所述预设操作动画之后,所述方法还包括:
获取当前烹饪步骤数据;
基于所述当前烹饪步骤数据,检测到所述当前烹饪步骤完成,且所述当前烹饪步骤不为所述至少一个烹饪步骤中的最后一个烹饪步骤时,进入所述当前烹饪步骤的后一个烹饪步骤的烹饪提示方法,直至所述最后一个烹饪步骤完成。
本发明实施例提供了一种增强现实AR设备,所述AR设备包括:
获取单元,用于检测到处于当前烹饪步骤时,从食材可捕获区域获取食材图像,所述当前烹饪步骤属于所述至少一个烹饪步骤,所述至少一个烹饪步骤为烹饪前获取的;
判断单元,用于基于所述食材图像判断是否满足预设展示触发条件,所述预设展示触发条件为所述当前烹饪步骤对应的展示烹饪操作条件;
所述获取单元,还用于当所述食材图像满足所述预设展示触发条件时,获取与所述当前烹饪步骤对应的预设操作动画和预设展示位置信息;
展示单元,用于基于所述预设展示位置信息,在所述食材图像上展示所述预设操作动画。
在上述方案中,所述展示单元,具体用于根据所述预设展示位置信息,确定所述食材图像的展示位置;将所述预设操作动画在所述展示位置进行展示。
在上述方案中,所述获取单元,还用于获取烹饪设备的传感数据。
在上述方案中,所述判断单元,还用于基于所述传感数据判断是否满足所述预设展示触发条件;
相应地,所述获取单元,具体用于当所述食材图像和所述传感数据任意一个满足所述预设展示触发条件时,获取与所述当前烹饪步骤对应的所述预设操作动画和所述预设展示位置信息。
在上述方案中,所述AR设备还包括识别单元:
所述识别单元,用于识别所述食材图像,得到食材图像识别信息;
相应地,所述判断单元,具体用于当所述食材图像识别信息表征了所述当前烹饪步骤对应的食材对象时,基于所述食材图像判断是否满足所述预设展示触发条件。
在上述方案中,所述获取单元,还用于烹饪提示功能启动时,获取食谱信息;根据所述食谱信息生成所述至少一个烹饪步骤。
在上述方案中,所述AR设备还包括生成单元:
所述生成单元,用于所述食材图像和/或所述传感数据满足预设操作触发条件时,根据所述食材图像和/或所述传感数据生成烹饪操作指令,所述预设操作触发条件为所述当前烹饪步骤中对应的烹饪操作条件;将所述烹饪操作指令发送至对应的所述烹饪设备,供所述烹饪设备响应所述烹饪操作指令执行烹饪操作。
在上述方案中,所述AR设备还包括检测单元:
所述检测单元,用于获取当前烹饪步骤数据;基于所述当前烹饪步骤数据,检测到所述当前烹饪步骤完成,且所述当前烹饪步骤不为所述至少一个烹饪步骤中的最后一个烹饪步骤时,进入所述当前烹饪步骤的后一个烹饪步骤的烹饪提示方法,直至所述最后一个烹饪步骤完成。
本发明实施例还提供了一种增强现实AR设备,所述AR设备包括:处理器、接收器、发送器、显示器、存储器和通信总线,所述接收器、发送器、显示器和所述存储器通过所述通信总线与所述处理器进行通信,所述存储器存储所述处理器可执行的指令,当所述指令被执行时,通过所述处理器执行如上述所述的烹饪提示方法。
本发明实施例提供了一种计算机可读存储介质,其上存储有程序,所述程序被处理器执行时实现如上述所述的烹饪提示方法。
本发明实施例提供了一种烹饪提示方法及设备、存储介质,应用于增强现实AR设备,首先,检测到处于当前烹饪步骤时,从食材可捕获区域获取食材图像,当前烹饪步骤属于至少一个烹饪步骤,至少一个烹饪步骤为烹饪前获取的;然后,基于食材图像判断是否满足预设展示触发条件,预设展示触发条件为当前烹饪步骤对应的展示烹饪操作条件;并当食材图像满足预设展示触发条件时,获取与当前烹饪步骤对应的预设操作动画和预设展示位置信息;最后,基于预设展示位置信息,在食材图像上展示预设操作动画。由于采用上述技术实现方案,借用AR设备,通过获取的食材图像进行烹饪操作的动画展示,以使烹饪过程中根据该动画展示进行烹饪操作,提高了烹饪效果和烹饪操作的智能性。
附图说明
图1为本发明实施例提供的一种烹饪提示系统架构图;
图2为本发明实施例提供的一种烹饪提示方法实现流程图一;
图3为本发明实施例提供的一种AR设备的组成模块示意图;
图4为本发明实施例提供的一种烹饪提示方法实现流程图二;
图5为本发明实施例提供的一种烹饪提示方法交互图;
图6为本发明实施例提供的一种示例性的烹饪提示方法流程图;
图7为本发明实施例提供的一种AR设备的结构示意图一;
图8为本发明实施例提供的一种AR设备的结构示意图二。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述。
如图1所示为本发明实施例提供的一种烹饪提示系统架构图,本发明实施例提供的烹饪提示方法是基于该烹饪提示系统5的架构上实现的。本发明实施例中的烹饪提示系统5包括:AR(Augmented Reality,增强现实)设备1、用户2、烹饪设备3和服务器4。其中,AR设备1分别与烹饪设备3和服务器4建立了通信连接,AR设备1分别与烹饪设备3和服务器4进行数据交互,并且,AR设备1能够接收用户1发送的通信数据,以此来执行本发明实例提供的烹饪提示方法。
下面的实施例都是基于图1的系统架构实现的。
实施例一
本发明实施例提供了一种烹饪提示方法,应用于AR设备,图2为本发明实施例提供的一种烹饪提示方法实现流程图一,如图2所示,该烹饪提示方法包括:
S101、检测到处于当前烹饪步骤时,从食材可捕获区域获取食材图像,当前烹饪步骤属于至少一个烹饪步骤,至少一个烹饪步骤为烹饪前获取的;
在本发明实施例中,AR设备进行烹饪提示时是基于烹饪步骤进行的。首先,AR设备接收当前烹饪步骤启动指令,响应该当前烹饪步骤启动指令,进入当前烹饪步骤。AR设备在当前烹饪步骤中,即检测到处于当前烹饪步骤时,进行食材图像的获取。
这里,食材图像具体为烹饪过程中的操作对象,比如,腌鱼的烹饪步骤中,食材图像为鱼;食材可捕获区域为能够进行食材图像获取的区域,比如,获取食材图像鱼时,鱼的上方就属于食材可捕获区域。另外,当前烹饪步骤属于至少一个烹饪步骤,而至少一个烹饪步骤为烹饪前获取的,即从食材可捕获区域获取食材图像之前,AR设备进行至少一个烹饪步骤的获取。另外,食材图像可以通过AR设备的识别模块,具体可以为通过摄像头进行获取。
具体地,在本发明实施例中,AR设备获取至少一个烹饪步骤的过程为:烹饪提示功能启动时,获取食谱信息;以及根据食谱信息生成至少一个烹饪步骤。
需要说明的是,烹饪步骤对应于烹饪过程中的烹饪操作,而不同的食谱信息对应的烹饪操作不同,因此,AR设置确定在当前烹饪步骤中对烹饪操作进行烹饪提示时,首先应先获取食谱信息,然后根据该食谱信息对应的具体烹饪操作将整个烹饪过程划分为多个烹饪步骤。另外,本发明实施例还可以在获取了食谱信息并生成至少一个烹饪步骤后,再开启烹饪提示功能。
优选地,一个烹饪操作对应于一个烹饪步骤。比如,红烧鱼时的翻炒就是一个烹饪步骤。
这里,食谱信息为用户根据食材进行烹饪的目标,具体获取食谱信息可以是接收用户通过选择食谱产生的食谱信息,比如,用户选择红烧鱼,此时,红烧鱼即为一个食谱信息;还可以是通过移动设备获取食谱信息,本发明实施例对此不作具体限定。
在本发明实施例中,AR设备获取到食谱信息后,从自身存储模块或从服务器获取与该食谱信息对应的操作步骤,以生成至少一个烹饪步骤。
需要说明的是,AR技术,是一种实时地计算目标对象的位置及角度并加上相应图像、视频、三维模型的技术,这种技术的目的是在屏幕上把虚拟世界套在现实世界并进行互动,将真实世界信息和虚拟世界信息无缝集成。AR技术,不仅展现了真实世界的信息,而且将虚拟的信息同时显示出来,两种信息相互补充、叠加。这里的AR设备即是在烹饪技术领域利用了AR技术的设备,如图3所示,该AR设备包括控制模块、人机交互模块、识别模块和通信模块。其中,控制模块用于控制AR设备的正常运行和数据处理;人机交互模块,包括输入装置和显示装置,显示装置优选为透明或半透明的显示装置,使得用户可透过显示装置看的其后的物体;识别模块,用于在食材可捕获区域采集食材图像,优选为摄像头;通信模块,用于与其他烹饪设备以及服务器进行数据通信,比如,无线保真网络、蓝牙、第四代移动通信网络等。
优选地,AR设备可以为可穿戴设备,比如,AR眼睛;AR设备还可以为手持设备,本发明实施例对此不作具体限定。
S102、基于食材图像判断是否满足预设展示触发条件,预设展示触发条件为当前烹饪步骤对应的展示烹饪操作条件;
在本发明实施例中,AR设备获取了食材图像之后,基于该食材图像进行烹饪提示,此时,需基于食材图像判断该食材图像是否满足预设展示触发条件,这里,预设展示触发条件为当前烹饪步骤对应的展示烹饪操作条件。
具体地,预设展示触发条件包括第一子预设展示触发条件,该第一子预设展示触发条件用于根据食材图像进行判断是否进行动画展示的烹饪提示。比如,当当前烹饪步骤为对鱼进行翻炒,食材图像为鱼的图像,通过对鱼的图像进行识别,得到表征鱼当前的烹饪特征,基于该当前的烹饪特征在图像特征库中进行匹配来判断是否触发了预设展示触发条件。
需要说明的是,AR设备在基于食材图像判断是否满足第一子预设展示触发条件时,会得到两种判断结果,一个是满足了第一子预设展示触发条件,另一个是不满足预设展示触发条件。在不满足第一子预设展示触发条件时,重新获取食材图像进行判断,或者提示不满足触发条件,或者是不进行任何操作,本发明实施例对此不作具体限定。
S103、当食材图像满足预设展示触发条件时,获取与当前烹饪步骤对应的预设操作动画和预设展示位置信息;
在本发明实施例中,AR设备基于食材图像判断得出食材图像满足预设展示触发条件时,从当前烹饪步骤中获取对应的预设操作动画和预设展示位置信息。
需要说明的是,食材图像满足预设展示触发条件为获取的食材图像满足第一子预设展示触发条件,比如,在对鱼进行翻炒的烹饪步骤中,当食材图像为鱼的图像,而鱼的图像表征其图像特征为金黄色时,表明鱼达到触发翻炒提示的条件。
这里,当前烹饪步骤中预设存储有与烹饪操作有关的操作动画(即预设操作动画),以及该操作动画对应的展示位置(即预设展示位置)。
此外,在本发明实施例中,AR设备在检测到处于当前烹饪步骤时,还包括:获取烹饪设备的传感数据。即AR设备在当前烹饪步骤中,同时获取食材图像和传感数据。这里,传感数据是烹饪过程中所涉及到的烹饪设备通过传感器获得的烹饪数据,比如,温度、压力、加热功率等。
在本发明实施例中,AR设备获取了传感数据之后,对该传感数据进行分析,以判断是否满足预设展示触发条件。具体地,AR设备在当食材图像满足预设展示触发条件时,获取与当前烹饪步骤对应的预设操作动画和预设展示位置信息之前,还包括:基于传感数据判断是否满足预设展示触发条件。
需要说明的是,预设展示触发条件还包括第二子预设展示触发条件,该第二子预设展示触发条件用于根据传感数据进行判断是否进行动画展示的烹饪提示。比如,当当前烹饪步骤为对鱼进行翻炒,传感数据为烹饪设备内鱼的温度,将烹饪设备内鱼的温度与第二子预设展示触发条件-预设的翻炒温度进行比较来判断是否触发了预设展示触发条件。
还需要说明的是,AR设备在基于传感数据判断是否满足第二子预设展示触发条件时,会得到两种判断结果,一个是满足了第二子预设展示触发条件,另一个是不满足预设展示触发条件。在不满足第二子预设展示触发条件时,重新获取食材图像进行判断,或者提示不满足触发条件,或者是不进行任何操作,本发明实施例对此不作具体限定。
在本发明实施例中,AR设备通过获取传感数据判断是否满足预设展示触发条件后,相应地,当食材图像满足预设展示触发条件时,AR设备获取与当前烹饪步骤对应的预设操作动画和预设展示位置信息,包括:当食材图像和传感数据任意一个满足预设展示触发条件时,获取与当前烹饪步骤对应的预设操作动画和预设展示位置信息。
也就是说,在根据食材图像判断得出满足第一子预设展示触发条件,或者根据传感数据判断得出满足第二子预设展示触发条件,又或者根据食材图像判断得出满足第一子预设展示触发条件并且根据传感数据判断得出满足第二子预设展示触发条件时,AR设备就进行预设操作动画和预设展示位置信息的获取。
这里,AR设备进行食材图像和传感数据获取时,是根据当前烹饪步骤进行获取的,比如,对鱼进行撒盐的烹饪步骤,获取的食材图像为鱼;又比如在对鱼进行小火慢炖的时候,获取的是加热设备的加热功率。另外,为避免食材图像不是烹饪操作对象时,本发明实施例中AR设备在基于食材图像判断是否满足预设展示触发条件之前,还包括:识别食材图像,得到食材图像识别信息。相应地,基于食材图像判断是否满足预设展示触发条件,包括:当食材图像识别信息表征了当前烹饪步骤对应的食材对象时,基于食材图像判断是否满足预设展示触发条件。
也就是说,在本发明实施例中,当获取到的食材图像为烹饪对象时才进行后续的操作。
S104、基于预设展示位置信息,在食材图像上展示预设操作动画。
在本发明实施例中,AR设备获取到预设操作动画和预设展示位置信息之后,就能够根据预设展示位置信息在食材图像上进行预设操作动画的展示。
实际应用中,AR设备获取实际场景中的食材图像,当该食材图像在AR设备中的位置与预设展示位置匹配时,将预设操作动画在食材图像的位置进行展示。
具体地,在本发明实施例中,AR设备基于预设展示位置信息,在食材图像上展示预设操作动画,包括:根据预设展示位置信息,确定食材图像的展示位置;并将预设操作动画在展示位置进行展示。
另外,AR设备进行预设操作动画的展示的同时,还可以伴有当前烹饪步骤对应的语音提示。
示例性地,当预设操作动画为翻炒动画时,透过AR眼睛看鱼时,则能看的在鱼身上翻炒的动画,即最后的展示信息是当AR眼睛捕获的鱼的图像中包含的位置与预设展示位置匹配时,在将翻炒动画进行显示,使得用户看到的为实际场景和翻炒动画相结合的图像。
在本发明实施例中,烹饪过程中包含至少一个烹饪步骤,AR设备还具有判断当前烹饪步骤是否结束,在当前烹饪步骤结束时进入当前烹饪步骤的后一个烹饪步骤,以在后一个烹饪步骤中根据本发明实施例提供的烹饪提示方法进行预设操作动画的展示;并在执行完最后一个烹饪步骤时提示用户完成烹饪。
进一步地,在本发明实施例中,AR设备在基于预设展示位置信息,在食材图像上展示预设操作动画之后,还包括:获取当前烹饪步骤数据;基于当前烹饪步骤数据,检测到当前烹饪步骤完成,且当前烹饪步骤不为至少一个烹饪步骤中的最后一个烹饪步骤时,进入当前烹饪步骤的后一个烹饪步骤的烹饪提示方法,直至最后一个烹饪步骤完成。
需要说明的是,当前烹饪步骤数据为表征当前烹饪步骤是否完成的数据,优选地,当前烹饪步骤数据可以为AR设备接收到的烹饪设备发送的当前烹饪步骤结束进入下一个烹饪步骤的信息,也可以为AR设备获取的用户通过人机交互模块中的按键、手势检测装置和语音识别装置等发送的进入下一个烹饪步骤的通知,还可以是AR设备自动识别操作过程,当符合下一步操作条件时,触发下一步操作。
此外,在本发明实施例中,AR设备除了应用AR技术进行操作动画展示的烹饪提示外,还具有根据获取的食材图像和传感数据向烹饪过程中涉及的烹饪设备发送烹饪操作指令的功能。
具体地,AR设备获取烹饪设备的传感数据之后,此时,也同时获得了食材图像,还包括:当食材图像和/或传感数据满足预设操作触发条件时,根据食材图像和/或传感数据生成烹饪操作指令;并将烹饪操作指令发送至对应的烹饪设备,供烹饪设备响应烹饪操作指令执行烹饪操作。这里,预设操作触发条件为当前烹饪步骤中对应的烹饪操作条件。
需要说明的是,预设操作触发条件包括第一子预设操作触发条件和第二子预设操作触发条件。第一子预设操作触发条件用于根据食材图像进行判断是否生成烹饪操作指令,第二子预设操作触发条件用于根据传感数据进行判断是否生成烹饪操作指令,当在根据食材图像判断得出满足第一子预设操作触发条件,或者根据传感数据判断得出满足第二子预设操作触发条件,又或者根据食材图像判断得出满足第一子预设操作触发条件并且根据传感数据判断得出满足第二子预设操作触发条件时,AR设备就生成作用于烹饪设备上的烹饪操作指令。
也就是说,在本发明实施例中,AR设备通过识别模块获取食材图像以及通过通信模块获取传感数据,并进行分析,当食材图像和/或传感数据满足预设展示触发条件,即达到用户手动操作的触发条件时,将具体的预设操作动画显示在显示装置上,在显示装置进行显示时,可以在食材图像上进行显示,还可以在周边区域进行显示,以指导用户加工或烹饪食材;当食材图像和/或传感数据满足预设操作触发条件,即达到烹饪设备的操作的触发条件时,AR设备通过通信模块将烹饪操作指令发送给烹饪设备,使得烹饪设备根据该烹饪操作指令进行相应的操作,此时,显示装置也可以显示相应的预设操作动画。
图4为本发明实施例提供的一种烹饪提示方法实现流程图二,如图4所示,首先,AR设备开启烹饪提示功能,获取食谱信息,并根据食谱信息生成至少一个烹饪步骤;然后,AR设备获取食材图像和传感数据,根据食材图像和/或传感数据判断是否满足预设展示触发条件,同时根据食材图像和/或传感数据判断是否满足预设操作触发条件,当满足预设展示触发条件时,显示预设操作动画,当满足预设操作触发条件时,生成烹饪操作指令并发送至对应的烹饪设备;最后,判断最后一个烹饪步骤是否完成,当未完成最后一个烹饪步骤时,进入后一个烹饪步骤,当完成了最后一个烹饪步骤后,结束烹饪提示功能,而在未完成最后一个烹饪步骤时,AR设备继续获取食材图像和传感数据,以进行烹饪提示。
图5为本发明实施例提供的一种烹饪提示方法交互图,如图5所示,AR设备、用户、烹饪设备和服务器进行交互的步骤:
S201、烹饪提示功能启动时,AR设备获取食谱信息;
S202、AR设备根据食谱信息生成至少一个烹饪步骤;
S203、检测到处于当前烹饪步骤时,AR设备从食材可捕获区域获取食材图像,从烹饪设备获取传感数据;
S204、当食材图像和/或传感数据满足预设展示触发条件时,AR设备获取与当前烹饪步骤对应的预设操作动画和预设展示位置信息,基于预设展示位置信息,在食材图像上展示预设操作动画;并且当食材图像和/或传感数据满足预设操作触发条件时,根据食材图像和/或传感数据生成烹饪操作指令;
S205、AR设备将烹饪操作指令发送至对应的烹饪设备,供烹饪设备响应烹饪操作指令执行烹饪操作。
本发明实施例以一具体应用来详细说明上述烹饪提示方法,图6为本发明实施例提供的一种示例性的烹饪提示方法流程图,具体为烹饪红烧鱼的烹饪提示方法,AR设备为AR眼睛,如图6所示,该红烧鱼的烹饪提示方法包括:
S301、烹饪提示功能启动时,获取红烧鱼食谱信息;
用户打开AR眼睛,开启烹饪提示功能,并选择红烧鱼。
S302、根据红烧鱼食谱信息生成划痕、撒盐、烹饪、翻炒四个烹饪步骤;
AR眼睛根据红烧鱼食谱,从服务器获取对应的烹饪操作步骤,并根据该操作步骤进行烹饪步骤的划分。
S303、在划痕步骤中,获取鱼的图像,将划痕的线条显示在鱼的图像上,并进行语音提示;
用户根据显示的划痕以及语音提示对鱼进行划痕处理。
S304、接收进入下一步撒盐步骤;
用户在鱼身上划痕后,发出下一步的声音,此时AR眼睛即接收到了进入下一步撒盐步骤的指令,并进入下一步撒盐步骤。
S305、获取鱼的图像,将撒盐的操作动画显示在鱼的图像上,并进行语音提示;
AR眼睛将撒盐的指导动画通过镜片显示在鱼的图像上,以使用户根据该指导进行撒盐操作。
S306、接收进入下一步烹饪步骤;
接收进入下一步烹饪步骤,以从当前撒盐步骤进入烹饪步骤。
S307、向油烟机发送油烟机开启指令,并向加热设备发送加热指令,以及显示烹饪操作动画;
油烟机开启指令用于指示油烟机开启,加热指令用于加热设备进行加热。
S308、接收进入下一步翻炒步骤;
接收进入下一步翻炒步骤,以从当前烹饪步骤进入翻炒步骤。
S309、获取加热设备的加热功率和锅内温度,当锅内温度达到预设翻炒温度时,将翻炒动画显示在鱼的图像上,同时,向加热设备发送降低加热功率的指令。
AR眼睛通过显示装置将翻炒动画显示在鱼的图像上,指导用户翻炒;而向加热设备,比如电磁炉,发送降低加热功率的指令,以使电磁炉进行功率的调整。
S310、结束烹饪提示功能。
在用户完成最后的翻炒步骤后,AR眼睛提示用户完成烹饪,结束烹饪提示功能。
可以理解的是,借用AR设备,通过获取的食材图像进行烹饪操作的动画展示,以使烹饪过程中根据该动画展示进行烹饪操作,提高了烹饪效果和烹饪操作的智能性。
实施例二
基于与实施例一同一发明构思,本发明实施例提供了一种AR设备1,对应于一种烹饪提示方法,图7为本发明实施例提供的一种AR设备的结构示意图一,如图7所示,该AR设备1包括:
获取单元10,用于检测到处于当前烹饪步骤时,从食材可捕获区域获取食材图像,所述当前烹饪步骤属于所述至少一个烹饪步骤,所述至少一个烹饪步骤为烹饪前获取的;
判断单元11,用于基于所述食材图像判断是否满足预设展示触发条件,所述预设展示触发条件为所述当前烹饪步骤对应的展示烹饪操作条件;
所述获取单元10,还用于当所述食材图像满足所述预设展示触发条件时,获取与所述当前烹饪步骤对应的预设操作动画和预设展示位置信息;
展示单元12,用于基于所述预设展示位置信息,在所述食材图像上展示所述预设操作动画。
可选地,所述展示单元12,具体用于根据所述预设展示位置信息,确定所述食材图像的展示位置;将所述预设操作动画在所述展示位置进行展示。
可选地,所述获取单元10,还用于获取烹饪设备的传感数据。
可选地,所述判断单元11,还用于基于所述传感数据判断是否满足所述预设展示触发条件;
相应地,所述获取单元10,具体用于当所述食材图像和所述传感数据任意一个满足所述预设展示触发条件时,获取与所述当前烹饪步骤对应的所述预设操作动画和所述预设展示位置信息。
可选地,所述AR设备还包括识别单元13,所述识别单元13,用于识别所述食材图像,得到食材图像识别信息;
相应地,所述判断单元11,具体用于当所述食材图像识别信息表征了所述当前烹饪步骤对应的食材对象时,基于所述食材图像判断是否满足所述预设展示触发条件。
可选地,所述获取单元10,还用于烹饪提示功能启动时,获取食谱信息;根据所述食谱信息生成所述至少一个烹饪步骤。
可选地,所述AR设备还包括生成单元14,所述生成单元14,用于所述食材图像和/或所述传感数据满足预设操作触发条件时,根据所述食材图像和/或所述传感数据生成烹饪操作指令,所述预设操作触发条件为所述当前烹饪步骤中对应的烹饪操作条件;将所述烹饪操作指令发送至对应的所述烹饪设备,供所述烹饪设备响应所述烹饪操作指令执行烹饪操作。
可选地,所述AR设备还包括检测单元15,所述检测单元15,用于获取当前烹饪步骤数据;基于所述当前烹饪步骤数据,检测到所述当前烹饪步骤完成,且所述当前烹饪步骤不为所述至少一个烹饪步骤中的最后一个烹饪步骤时,进入所述当前烹饪步骤的后一个烹饪步骤的烹饪提示方法,直至所述最后一个烹饪步骤完成。
需要说明的是,在实际应用中,上述获取单元10、判断单元11、展示单元12、识别单元13、生成单元14和检测单元15可由位于AR设备1上的处理器16实现,具体为CPU(CentralProcessing Unit,中央处理器)、MPU(Microprocessor Unit,微处理器)、DSP(DigitalSignal Processing,数字信号处理器)或现场可编程门阵列(FPGA,Field ProgrammableGate Array)等实现。
本发明实施例还提供了一种AR设备1,如图8所示,所述AR设备1包括:处理器16、接收器17、发送器18、显示器19、存储器110和通信总线111,所述接收器17、发送器18、显示器19和所述存储器110通过所述通信总线111与所述处理器16进行通信,所述存储器110存储所述处理器16可执行的指令,当所述指令被执行时,通过所述处理器16执行如实施例一所述的烹饪提示方法。
本发明实施例提供了一种计算机可读存储介质,其上存储有程序,所述程序被处理器16执行时实现如实施例一所述的烹饪提示方法。
可以理解的是,借用AR设备,通过获取的食材图像进行烹饪操作的动画展示,以使烹饪过程中根据该动画展示进行烹饪操作,提高了烹饪效果和烹饪操作的智能性。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用硬件实施例、软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述,仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。

Claims (18)

1.一种烹饪提示方法,应用于增强现实AR设备,其特征在于,所述方法包括:
检测到处于当前烹饪步骤时,从食材可捕获区域获取食材图像,所述食材图像具体为烹饪过程中的操作对象,所述当前烹饪步骤属于至少一个烹饪步骤,所述至少一个烹饪步骤为烹饪前获取的;
基于所述食材图像判断是否满足预设展示触发条件,所述预设展示触发条件为所述当前烹饪步骤对应的展示烹饪操作条件;
当所述食材图像满足所述预设展示触发条件时,获取与所述当前烹饪步骤对应的预设操作动画和预设展示位置信息;
基于所述预设展示位置信息,在所述食材图像上展示所述预设操作动画。
2.根据权利要求1所述的方法,其特征在于,所述基于所述预设展示位置信息,在所述食材图像上展示所述预设操作动画,包括:
根据所述预设展示位置信息,确定所述食材图像的展示位置;
将所述预设操作动画在所述展示位置进行展示。
3.根据权利要求1所述的方法,其特征在于,所述检测到处于当前烹饪步骤时,所述方法还包括:
获取烹饪设备的传感数据。
4.根据权利要求3所述的方法,其特征在于,所述当所述食材图像满足所述预设展示触发条件时,获取与所述当前烹饪步骤对应的预设操作动画和预设展示位置信息之前,所述方法还包括:
基于所述传感数据判断是否满足所述预设展示触发条件;
相应地,所述当所述食材图像满足所述预设展示触发条件时,获取与所述当前烹饪步骤对应的预设操作动画和预设展示位置信息,包括:
当所述食材图像和所述传感数据任意一个满足所述预设展示触发条件时,获取与所述当前烹饪步骤对应的所述预设操作动画和所述预设展示位置信息。
5.根据权利要求1-4任一项所述的方法,其特征在于,基于所述食材图像判断是否满足预设展示触发条件之前,所述方法还包括:
识别所述食材图像,得到食材图像识别信息;
相应地,所述基于所述食材图像判断是否满足预设展示触发条件,包括:
当所述食材图像识别信息表征了所述当前烹饪步骤对应的食材对象时,基于所述食材图像判断是否满足所述预设展示触发条件。
6.根据权利要求1所述的方法,其特征在于,所述从食材可捕获区域获取食材图像之前,所述方法还包括:
烹饪提示功能启动时,获取食谱信息;
根据所述食谱信息生成所述至少一个烹饪步骤。
7.根据权利要求3所述的方法,其特征在于,所述获取烹饪设备的传感数据之后,所述方法还包括:
当所述食材图像和/或所述传感数据满足预设操作触发条件时,根据所述食材图像和/或所述传感数据生成烹饪操作指令,所述预设操作触发条件为所述当前烹饪步骤中对应的烹饪操作条件;
将所述烹饪操作指令发送至对应的所述烹饪设备,供所述烹饪设备响应所述烹饪操作指令执行烹饪操作。
8.根据权利要求1所述的方法,其特征在于,所述基于所述预设展示位置信息,在所述食材图像上展示所述预设操作动画之后,所述方法还包括:
获取当前烹饪步骤数据;
基于所述当前烹饪步骤数据,检测到所述当前烹饪步骤完成,且所述当前烹饪步骤不为所述至少一个烹饪步骤中的最后一个烹饪步骤时,进入所述当前烹饪步骤的后一个烹饪步骤的烹饪提示方法,直至所述最后一个烹饪步骤完成。
9.一种增强现实AR设备,其特征在于,所述AR设备包括:
获取单元,用于检测到处于当前烹饪步骤时,从食材可捕获区域获取食材图像,所述食材图像具体为烹饪过程中的操作对象,所述当前烹饪步骤属于至少一个烹饪步骤,所述至少一个烹饪步骤为烹饪前获取的;
判断单元,用于基于所述食材图像判断是否满足预设展示触发条件,所述预设展示触发条件为所述当前烹饪步骤对应的展示烹饪操作条件;
所述获取单元,还用于当所述食材图像满足所述预设展示触发条件时,获取与所述当前烹饪步骤对应的预设操作动画和预设展示位置信息;
展示单元,用于基于所述预设展示位置信息,在所述食材图像上展示所述预设操作动画。
10.根据权利要求9所述的AR设备,其特征在于,
所述展示单元,具体用于根据所述预设展示位置信息,确定所述食材图像的展示位置;将所述预设操作动画在所述展示位置进行展示。
11.根据权利要求9所述的AR设备,其特征在于,
所述获取单元,还用于获取烹饪设备的传感数据。
12.根据权利要求11所述的AR设备,其特征在于,
所述判断单元,还用于基于所述传感数据判断是否满足所述预设展示触发条件;
相应地,所述获取单元,具体用于当所述食材图像和所述传感数据任意一个满足所述预设展示触发条件时,获取与所述当前烹饪步骤对应的所述预设操作动画和所述预设展示位置信息。
13.根据权利要求9-12任一项所述的AR设备,其特征在于,所述AR设备还包括识别单元:
所述识别单元,用于识别所述食材图像,得到食材图像识别信息;
相应地,所述判断单元,具体用于当所述食材图像识别信息表征了所述当前烹饪步骤对应的食材对象时,基于所述食材图像判断是否满足所述预设展示触发条件。
14.根据权利要求9所述的AR设备,其特征在于,
所述获取单元,还用于烹饪提示功能启动时,获取食谱信息;根据所述食谱信息生成所述至少一个烹饪步骤。
15.根据权利要求11所述的AR设备,其特征在于,所述AR设备还包括生成单元:
所述生成单元,用于所述食材图像和/或所述传感数据满足预设操作触发条件时,根据所述食材图像和/或所述传感数据生成烹饪操作指令,所述预设操作触发条件为所述当前烹饪步骤中对应的烹饪操作条件;将所述烹饪操作指令发送至对应的所述烹饪设备,供所述烹饪设备响应所述烹饪操作指令执行烹饪操作。
16.根据权利要求9所述的AR设备,其特征在于,所述AR设备还包括检测单元:
所述检测单元,用于获取当前烹饪步骤数据;基于所述当前烹饪步骤数据,检测到所述当前烹饪步骤完成,且所述当前烹饪步骤不为所述至少一个烹饪步骤中的最后一个烹饪步骤时,进入所述当前烹饪步骤的后一个烹饪步骤的烹饪提示方法,直至所述最后一个烹饪步骤完成。
17.一种增强现实AR设备,其特征在于,所述AR设备包括:处理器、接收器、发送器、显示器、存储器和通信总线,所述接收器、发送器、显示器和所述存储器通过所述通信总线与所述处理器进行通信,所述存储器存储所述处理器可执行的指令,当所述指令被执行时,通过所述处理器执行如权利要求1-8任一项所述的方法。
18.一种计算机可读存储介质,其上存储有程序,其特征在于,所述程序被处理器执行时实现如权利要求1-8任一项所述的方法。
CN201810657625.3A 2018-06-20 2018-06-20 一种烹饪提示方法及设备、存储介质 Active CN110613314B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810657625.3A CN110613314B (zh) 2018-06-20 2018-06-20 一种烹饪提示方法及设备、存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810657625.3A CN110613314B (zh) 2018-06-20 2018-06-20 一种烹饪提示方法及设备、存储介质

Publications (2)

Publication Number Publication Date
CN110613314A CN110613314A (zh) 2019-12-27
CN110613314B true CN110613314B (zh) 2022-05-31

Family

ID=68920881

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810657625.3A Active CN110613314B (zh) 2018-06-20 2018-06-20 一种烹饪提示方法及设备、存储介质

Country Status (1)

Country Link
CN (1) CN110613314B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111248716B (zh) * 2020-01-16 2021-09-14 珠海格力电器股份有限公司 食材的烹饪控制方法、图像处理方法、装置及烹饪设备
CN113133670B (zh) * 2020-01-17 2023-03-21 佛山市顺德区美的电热电器制造有限公司 烹饪设备、烹饪控制方法和装置
CN112704380B (zh) * 2020-12-30 2021-10-15 珠海格力电器股份有限公司 烹饪监控方法、装置、电子设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106020748A (zh) * 2015-03-27 2016-10-12 松下电器(美国)知识产权公司 显示控制方法、显示控制装置以及显示装置
CN106020749A (zh) * 2015-03-27 2016-10-12 松下电器(美国)知识产权公司 显示控制方法、显示控制装置以及显示装置
CN106896732A (zh) * 2015-12-18 2017-06-27 美的集团股份有限公司 家用电器的展示方法和装置
CN107807554A (zh) * 2017-08-29 2018-03-16 深圳市赛亿科技开发有限公司 一种智能厨房烹饪辅助系统
CN108133432A (zh) * 2016-12-01 2018-06-08 松下知识产权经营株式会社 信息处理方法、信息处理系统以及终端

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006113254A (ja) * 2004-10-14 2006-04-27 Matsushita Electric Ind Co Ltd 情報提示装置、及び調理支援システム
CN102726782A (zh) * 2011-04-12 2012-10-17 珠海优特电力科技股份有限公司 一种方便菜肴的制作方法
US20130137076A1 (en) * 2011-11-30 2013-05-30 Kathryn Stone Perez Head-mounted display based education and instruction
CN103196164B (zh) * 2012-01-04 2015-10-28 珠海优特电力科技股份有限公司 智能炉具、智能烹饪设备及其自学烹饪工作方法
KR20140139696A (ko) * 2013-05-28 2014-12-08 주홍찬 증강현실을 이용한 레시피 콘텐츠 서비스 장치 및 방법
CN204440059U (zh) * 2015-03-13 2015-07-01 佛山市顺德区美的电热电器制造有限公司 烹饪器的控制系统
CN105159989A (zh) * 2015-08-31 2015-12-16 小米科技有限责任公司 信息推荐方法、服务器及智能终端
CN106294610A (zh) * 2016-07-29 2017-01-04 捷开通讯(深圳)有限公司 移动终端以及基于增强现实的做菜体验方法
CN106213970B (zh) * 2016-08-10 2018-07-27 九阳股份有限公司 一种在煮饭过程中切换煮饭功能的方法和烹饪设备
CN108133743A (zh) * 2016-12-01 2018-06-08 佛山市顺德区美的电热电器制造有限公司 一种信息推送的方法、装置和系统
CN106791777A (zh) * 2016-12-12 2017-05-31 大连文森特软件科技有限公司 基于ar增强现实技术和无线通信技术的烹饪辅助系统
CN107577176A (zh) * 2017-08-16 2018-01-12 珠海格力电器股份有限公司 烹饪器具的控制方法、装置和系统
CN107491016A (zh) * 2017-10-16 2017-12-19 杭州老板电器股份有限公司 烹饪控制方法及烹饪系统
CN207198613U (zh) * 2017-10-16 2018-04-06 杭州老板电器股份有限公司 烹饪系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106020748A (zh) * 2015-03-27 2016-10-12 松下电器(美国)知识产权公司 显示控制方法、显示控制装置以及显示装置
CN106020749A (zh) * 2015-03-27 2016-10-12 松下电器(美国)知识产权公司 显示控制方法、显示控制装置以及显示装置
CN106896732A (zh) * 2015-12-18 2017-06-27 美的集团股份有限公司 家用电器的展示方法和装置
CN108133432A (zh) * 2016-12-01 2018-06-08 松下知识产权经营株式会社 信息处理方法、信息处理系统以及终端
CN107807554A (zh) * 2017-08-29 2018-03-16 深圳市赛亿科技开发有限公司 一种智能厨房烹饪辅助系统

Also Published As

Publication number Publication date
CN110613314A (zh) 2019-12-27

Similar Documents

Publication Publication Date Title
US11651574B2 (en) Image processing device, image processing method, and program
CN110613314B (zh) 一种烹饪提示方法及设备、存储介质
US10109315B2 (en) Devices, systems and methods for auto-delay video presentation
AU2014304760B2 (en) Devices, systems and methods of virtualizing a mirror
US20130171304A1 (en) System and method for culinary interaction
CN111543934A (zh) 一种视力检测方法、装置、电子产品及存储介质
WO2016112346A1 (en) Devices, systems and methods for auto-delay video presentation
CN111199583B (zh) 一种虚拟内容显示方法、装置、终端设备及存储介质
CN108415301B (zh) 烹饪参数变更方法及装置
US11941763B2 (en) Viewing system, model creation apparatus, and control method
CN111723760B (zh) 一种适用于智慧厨房系统的数字菜谱生成方法及装置
CN113662446A (zh) 基于物联网的烹饪辅助方法、装置、智能终端及存储介质
CN109448132B (zh) 显示控制方法及装置、电子设备、计算机可读存储介质
CN108205664B (zh) 一种食物识别方法及装置、存储介质、计算机设备
CN116033282A (zh) 拍摄处理方法和电子设备
CN112704380B (zh) 烹饪监控方法、装置、电子设备及存储介质
AU2018341597A1 (en) Using augmented reality for secure transactions
CN110579985A (zh) 一种控制方法、装置及系统
CN111722543B (zh) 一种烘焙控制方法、装置及系统
CN115708021A (zh) 菜谱生成方法和烹饪方法
CN109696857B (zh) 一种烹饪的控制方法、装置及存储介质
EP4372683A1 (en) Domestic appliance having inner space capable of accommodating tray at various heights, and method for acquiring image of domestic appliance
US20230238033A1 (en) Method for providing customized cooking content and user terminal for implementing the same
CN116069162A (zh) 基于混合现实的远程烹饪方法、装置及终端设备
CN115936800A (zh) 商品展示方法及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant