CN114360020A - 口腔清洁区域识别方法、装置、电子设备及存储介质 - Google Patents
口腔清洁区域识别方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN114360020A CN114360020A CN202111683385.2A CN202111683385A CN114360020A CN 114360020 A CN114360020 A CN 114360020A CN 202111683385 A CN202111683385 A CN 202111683385A CN 114360020 A CN114360020 A CN 114360020A
- Authority
- CN
- China
- Prior art keywords
- camera
- oral
- cleaning area
- oral cleaning
- oral cavity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000004140 cleaning Methods 0.000 title claims abstract description 605
- 238000000034 method Methods 0.000 title claims abstract description 81
- 210000000214 mouth Anatomy 0.000 claims abstract description 223
- 230000001815 facial effect Effects 0.000 claims abstract description 134
- 230000009471 action Effects 0.000 claims description 122
- 238000004891 communication Methods 0.000 claims description 25
- 238000004590 computer program Methods 0.000 claims description 7
- 238000006243 chemical reaction Methods 0.000 claims description 5
- 210000000887 face Anatomy 0.000 claims description 4
- 239000002131 composite material Substances 0.000 claims description 3
- 230000004044 response Effects 0.000 claims description 2
- 230000006870 function Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 238000012545 processing Methods 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 5
- 238000001514 detection method Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 5
- 238000010295 mobile communication Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 238000011946 reduction process Methods 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 230000001960 triggered effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000019771 cognition Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 210000000697 sensory organ Anatomy 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
Abstract
本申请实施例公开了一种口腔清洁区域识别方法、装置、电子设备及存储介质,所述方法包括:分别通过口腔清洁设备的第一摄像头和第二摄像头采集第一口腔清洁图像;在检测到所述第一口腔清洁图像中包含人脸时,通过采集到包含所述人脸的第一口腔清洁图像的目标摄像头获取第一面部图像,并记录所述目标摄像头对应的第一摄像头信息;根据所述第一面部图像和所述第一摄像头信息确定当前口腔清洁区域。实施本申请实施例,通过使用双摄像头进行口腔清洁区域识别的方法,提高口腔清洁区域识别的精确度。
Description
技术领域
本申请涉及智能家居技术领域,尤其涉及一种口腔清洁区域识别方法、装置、电子设备及存储介质。
背景技术
随着科技进步,智能产品发展层出不穷,智能物联设备已经逐渐走入了人们的生活,除了智能手机、智能穿戴、智能家居等产品,智能电动牙刷也开始逐渐兴起,并走进千家万户。现有的电动牙刷,为了纠正用户口腔清洁不规范的问题,具备口腔清洁区域识别的功能,但是现有的口腔清洁区域识别的精确度比较低。
发明内容
本申请实施例公开了一种口腔清洁区域识别方法、装置、电子设备及存储介质,能够在口腔清洁设备进行口腔清洁时,提高对口腔内口腔清洁区域识别的精确度。
本申请实施例公开了一种口腔清洁区域识别方法,所述方法包括:
分别通过口腔清洁设备的第一摄像头和第二摄像头采集第一口腔清洁图像,所述口腔清洁设备在清洁口腔时,所述第一摄像头及所述第二摄像头相并的图像采集范围覆盖用户人脸区域;
在检测到所述第一口腔清洁图像中包含人脸时,通过采集到包含所述人脸的第一口腔清洁图像的目标摄像头获取第一面部图像,并记录所述目标摄像头对应的第一摄像头信息;其中,所述第一摄像头信息包括所述目标摄像头在所述口腔清洁设备上的设置位置;
根据所述第一面部图像和所述第一摄像头信息确定当前口腔清洁区域。
在一个实施例中,所述根据所述第一面部图像和所述第一摄像头信息确定当前口腔清洁区域,包括:
从所述第一面部图像中提取第一目标面部特征;
计算所述第一目标面部特征在所述目标摄像头对应的摄像机坐标系中的特征坐标;
根据所述特征坐标及所述第一摄像头信息确定当前口腔清洁区域。
在一个实施例中,所述计算所述第一目标面部特征在所述目标摄像头对应的摄像机坐标系中的特征坐标,包括:
计算所述第一目标面部特征在所述第一面部图像对应的像素坐标系中的像素坐标;
根据所述像素坐标系与所述目标摄像头对应的摄像机坐标系之间的坐标系转换参数,对所述像素坐标进行转换,以得到所述第一目标面部特征在所述摄像机坐标系中的特征坐标。
在一个实施例中,所述根据所述特征坐标及所述第一摄像头信息确定当前口腔清洁区域,包括:
根据所述特征坐标、所述第一摄像头信息及预先录入的各个口腔清洁区域的标准动作信息确定当前口腔清洁区域。
在一个实施例中,所述口腔清洁设备,包括所述第一摄像头及所述第二摄像头,所述第一摄像头及所述第二摄像头分别设置在所述口腔清洁设备的手柄中相互背离的两个面。
在一个实施例中,在所述分别通过所述第一摄像头和所述第二摄像头采集口腔清洁图像之前,所述方法还包括:
获取对第一口腔清洁区域的录入指令;
根据所述录入指令,分别通过所述第一摄像头和所述第二摄像头采集第二口腔清洁图像;
在检测到所述第二口腔清洁图像中包含人脸时,通过采集到包含所述人脸的第二口腔清洁图像的摄像头获取所述第一口腔清洁区域对应的第二面部图像,并记录采集到所述第二面部图像的摄像头对应的第二摄像头信息;
根据所述第二面部图像和所述第二摄像头信息确定所述第一口腔清洁区域对应的标准动作信息,并记录所述第一口腔清洁区域对应的标准动作信息。
在一个实施例中,在所述记录所述第一口腔清洁区域对应的标准动作信息之后,所述方法还包括:
若存在还未录入标准动作信息的口腔清洁区域,则输出针对未录入的第二口腔清洁区域的引导信息,或,通过与所述口腔清洁设备通信连接的终端设备输出针对未录入的第二口腔清洁区域的引导信息;
所述引导信息用于引导用户将所述口腔清洁设备放置于所述第二口腔清洁区域,并引导用户进行对所述第二口腔清洁区域的录入操作,从而使所述口腔清洁设备录入所述第二口腔清洁区域的标准动作信息。
在一个实施例中,在所述记录所述第一口腔清洁区域对应的标准动作信息之后,所述方法还包括:
若存在还未录入标准动作信息的口腔清洁区域,则输出针对未录入的第二口腔清洁区域的引导信息,或,通过与所述口腔清洁设备通信连接的终端设备输出针对未录入的第二口腔清洁区域的引导信息;
所述引导信息用于引导用户将所述口腔清洁设备放置于所述第二口腔清洁区域,并引导用户进行对所述第二口腔清洁区域的录入操作,从而使所述口腔清洁设备录入所述第二口腔清洁区域的标准动作信息。
在一个实施例中,所述获取对第一口腔清洁区域的录入指令,包括:
若检测到录入操作,则生成对所述第一口腔清洁区域的录入指令;或,
若检测到所述口腔清洁设备处于静止状态的持续时间大于时间阈值,则生成所述第一口腔清洁区域的录入指令。
在一个实施例中,所述根据所述第二面部图像和所述第二摄像头信息确定所述第一口腔清洁区域对应的标准动作信息,包括:
从所述第二面部图像中提取第二目标面部特征;
确定所述第二目标面部特征对应的标准特征坐标;
根据所述标准特征坐标和所述第二摄像头信息确定所述第一口腔清洁区域对应的标准动作信息;所述第一口腔清洁区域对应的标准动作信息包括所述标准特征坐标和所述第二摄像头信息。
在一个实施例中,所述方法还包括:
通过所述采集到包含所述人脸的第二口腔清洁图像的摄像头获取多帧与所述第一口腔清洁区域对应的第二面部图像,并分别从多帧第二面部图像中确定第二目标面部特征对应的多个标准特征坐标,计算所述第二目标面部特征对应的多个标准特征坐标的坐标平均值,并将所述坐标平均值作为所述第一口腔清洁区域对应的标准特征坐标进行保存。
在一个实施例中,所述记录所述第一口腔清洁区域对应的标准动作信息,包括:
将所述第一口腔清洁区域对应的标准动作信息保存在所述口腔清洁设备中;和/或,
将所述第一口腔清洁区域对应的标准动作信息上传到云端进行保存;和/或,
将所述第一口腔清洁区域对应的标准动作信息发送到与所述口腔清洁设备通信连接的终端设备进行保存。
在一个实施例中,在根据所述第一面部图像和所述第一摄像头信息确定当前口腔清洁区域之后,所述方法还包括:
根据所述第一面部图像和所述第一摄像头信息确定当前口腔清洁动作信息;
若所述当前口腔清洁动作信息与所述当前口腔清洁区域对应的标准动作信息的偏离值大于偏离阈值,则输出第一提示信息,所述第一提示信息用于提示口腔清洁动作不标准。
在一个实施例中,所述输出第一提示信息,包括:
通过所述口腔清洁设备输出所述第一提示信息;或,
若所述口腔清洁设备和终端设备通信连接,则向所述终端设备发送所述第一提示信息,以使所述终端设备输出所述第一提示信息。
在一个实施例中,所述第一提示信息包括语音提示信息、震动提示信息及灯光提示信息中的至少一种。
在一个实施例中,在根据所述第一面部图像和所述第一摄像头信息确定当前口腔清洁区域之后,所述方法还包括:
若所述当前口腔清洁区域的口腔清洁持续时间大于时间阈值,则输出第二提示信息,所述第二提示信息用于提示切换口腔清洁区域。
在一个实施例中,所述方法还包括:
响应于口腔清洁结束指令,根据每个口腔清洁区域的口腔清洁动作信息与每个口腔清洁区域对应的标准动作信息之间的偏离值,和/或每个口腔清洁区域的口腔清洁持续时间确定综合评分。
在一个实施例中,在所述通过采集到包含所述人脸的第一口腔清洁图像的目标摄像头采集第一面部图像,并记录所述目标摄像头对应的第一摄像头信息之后,所述方法还包括:
将所述第一面部图像和所述第一摄像头信息发送到与所述口腔清洁设备通信连接的终端设备,以使所述终端设备根据所述第一面部图像和所述第一摄像头信息确定当前口腔清洁区域。
本申请实施例公开了一种口腔清洁区域识别装置,
所述装置包括:
口腔清洁图像采集模块,用于分别通过口腔清洁设备的第一摄像头和第二摄像头采集第一口腔清洁图像,所述口腔清洁设备在清洁口腔时,所述第一摄像头及所述第二摄像头相并的图像采集范围覆盖用户人脸区域;
面部图像采集模块,用于在检测到所述第一口腔清洁图像中包含人脸时,通过采集到包含所述人脸的第一口腔清洁图像的目标摄像头获取第一面部图像,并记录所述目标摄像头对应的第一摄像头信息;其中,所述第一摄像头信息包括所述目标摄像头在所述口腔清洁设备上的设置位置;
确定模块,用于根据所述第一面部图像和所述第一摄像头信息确定当前口腔清洁区域。
本申请实施例公开了一种电子设备,包括:
存储有可执行程序代码的存储器;
与所述存储器耦合的处理器;
所述处理器调用所述存储器中存储的所述可执行程序代码,执行上述任一实施例所述的方法。
本申请实施例公开了一种计算机可读存储介质,所述计算机可读存储介质存储计算机程序,其中,所述计算机程序在被处理器执行时,使得所述处理器执行上述任一实施例所述的方法。
本申请实施例公开的口腔清洁区域识别方法、装置、电子设备及存储介质,口腔清洁设备通过第一摄像头和第二摄像头采集第一口腔清洁图像,并通过采集到包含人脸的第一口腔清洁图像的目标摄像头采集第一面部图像,同时记录目标摄像头对应的第一摄像头信息,再根据第一面部图像和第一摄像头信息确定当前口腔清洁区域。实施本申请实施例,口腔清洁设备可以在清洁口腔时,通过第一摄像头及第二摄像头相并的图像采集范围覆盖用户人脸区域,保证口腔清洁设备在清洁每个口腔清洁区域时,采集第一口腔清洁图像的两个摄像头中存在一个目标摄像头,能够采集到包含人脸的口腔清洁图像,再根据目标摄像头在手柄上的设置位置,以及结合目标摄像头采集到的面部图像能够准确识别出口腔清洁区域,从而提高口腔清洁区域识别的精确度。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例中所需要使用的附图进行简单的介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例公开的一个实施例中口腔清洁区域识别方法的应用场景示意图;
图2是本申请实施例公开的一个实施例中口腔清洁设备的手柄的模块化示意图;
图3是本申请实施例公开的一种口腔清洁区域识别方法的流程示意图;
图4是本申请实施例公开的一个实施例中录入各个口腔清洁区域对应的标准动作信息的流程示意图;
图5是本申请实施例公开的一个实施例中口腔内的各个口腔清洁区域的示意图;
图6是本申请实施例公开的另一种口腔清洁区域识别方法的流程示意图;
图7是申请实施例公开的一种口腔清洁区域装置的模块化示意图;
图8是本申请实施例公开的一种电子设备的结构框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整的描述,显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
需要说明的是,本申请实施例的术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
可以理解,本申请所使用的术语“第一”、“第二”等可在本文中用于描述各种元件,但这些元件不受这些术语限制。这些术语仅用于将第一个元件与另一个元件区分。举例来说,在不脱离本申请的范围的情况下,可以将第一召唤指令称为第二召唤指令,且类似地,可将第二召唤指令称为第一召唤指令。第一召唤指令和第二召唤指令两者都是召唤指令,但其不是同一召唤指令。
本申请实施例公开了一种口腔清洁区域识别方法、装置、电子设备及存储介质,能够提高口腔清洁区域识别的精确度。
以下将结合附图进行详细描述。
请参考图1,图1是本申请实施例公开的一种口腔清洁区域识别的应用场景示意图,该应用场景下可包括口腔清洁设备10、终端设备20,其中,终端设备20可包括但不限于手机、平板电脑、可穿戴设备、牙刷中控台、笔记本电脑、PC(Personal Computer,个人计算机)等。口腔清洁设备10与终端设备20之间可以进行通信连接以进行数据的交互,该通信连接方式可包括但不限于4G(the 4th generation mobile communication technology,第四代移动通信技术)或5G(the 5th generation mobile communication technology,第五代移动通信技术)等移动网络,也可以是Wi-Fi等无线网络,或是通过蓝牙、UWB、Zigbee等近距离的数据传输方式。
其中,口腔清洁设备10可以包括手柄110和刷头120,如图2所示,图2是本申请实施例公开的一种口腔清洁设备的手柄的结构框图,手柄110可以包括CPU210(centralprocessing unit,中央处理单元)、开关220、驱动模块230、摄像模块240、通信模块250、语音模块260、定时器270及电源模块280。
在一些实施例中,CPU210接收启动口腔清洁操作的指令,该口腔清洁操作的指令是由用户通过对开关220的触发操作生成的,根据该口腔清洁操作的指令向驱动模块230(如马达等)发送控制指令,驱动模块230可根据该控制指令驱动刷头120对刷头120所处的口腔清洁区域进行口腔清洁操作。在刷头120进行口腔清洁操作的过程中,CPU210可同时发送口腔清洁图像采集指令到摄像模块240,摄像模块240可包括双摄像头,摄像模块240根据口腔清洁图像采集指令采集口腔清洁图像。当口腔清洁设备10在清洁任一区域的牙齿时,CPU210通常都可以通过摄像模块240采集到包含人脸的口腔清洁图像。CPU210在确定能够采集到包含人脸的口腔清洁图像的目标摄像头后,可发送面部图像采集指令到摄像模块240,摄像模块240根据面部图像采集指令控制目标摄像头采集面部图像。
在口腔清洁设备10与终端设备20之间有数据传输的需求时,CPU210可以通过包含的通信模块250(如蓝牙、Wi-Fi等中的至少一种)将数据传输至终端设备20中,其中,传输方式可以是蓝牙传输或Wi-Fi传输,也可以是两种方式共同传输,此处不作限定。在口腔清洁设备10需要输出语音提示信息以提示用户注意口腔清洁事项时,该口腔清洁事项可包括但不限于口腔清洁持续时间超过时间阈值、已完成口腔清洁等,CPU210可以通过语音模块260(如蜂鸣器)输出语音提示信息提醒用户。在口腔清洁设备10需要计时的时候,可以通过定时器270进行计时,CPU210发送计时指令到定时器270,定时器270开始计时,并在计时结束时向CPU210发送计时结束信息。电源模块280可用于提供整个口腔清洁设备10运行所需求的电流和/或电压。
其中,双摄像头240可包括第一摄像头和第二摄像头,第一摄像头与第二摄像头可以共同采集图像。第一摄像头与第二摄像头可分别设置在手柄110中相互背离的两个面,也可以是在手柄中任意两个面,只需要满足口腔清洁设备在清洁口腔时,第一摄像头及第二摄像头相并的图像采集范围覆盖用户人脸区域,以使得口腔清洁设备10在清洁任一区域的牙齿时都可以通过其中一个摄像头采集到面部图像,面部图像包含用户的人脸特征。例如,第一摄像头可以设置在手柄110的正面,第二摄像头可以设置在手柄110的背面,其中,手柄的正面可指的是与刷头中刷毛所在的面为同一方向上的面;在用户清洁口腔上方牙齿时,第一摄像头的视野范围内存在用户人脸,在用户清洁口腔下方牙齿时,第二摄像头的视野范围内存在用户人脸。
在一个实施例中,如图3所示,提供一种口腔清洁区域识别方法。图3是本申请实施例公开的一种口腔清洁区域识别方法的流程示意图。该方法可包括以下步骤:
步骤310,分别通过口腔清洁设备的第一摄像头和第二摄像头采集第一口腔清洁图像,口腔清洁设备在清洁口腔时,第一摄像头及第二摄像头相并的图像采集范围覆盖用户人脸区域。
在一个实施例中,口腔清洁设备的手柄上可设置有开关,在用户需要利用口腔清洁设备进行口腔清洁时,可触发该开关,以让口腔清洁设备开始进行口腔清洁操作。口腔清洁设备在检测到针到该开关触发的口腔清洁启动操作时,可驱动刷头开始进行口腔清洁操作。
在口腔清洁设备进行口腔清洁操作的过程中,可分别通过第一摄像头和第二摄像头采集第一口腔清洁图像,第一摄像头及第二摄像头相并的图像可采集范围覆盖用户人脸区域,即第一摄像头与第二摄像头采集到的是不同视野范围的图像,并且第一摄像头及第二摄像头相并的图像采集范围覆盖用户人脸区域。进一步地,第一摄像头与第二摄像头可以是分别设置在手柄中相互背离的两个面,例如,若第一摄像头采集的口腔清洁图像为空间上方的图像,则第二摄像头采集的口腔清洁图像为空间下方的图像。因此,第一摄像头与第二摄像头的视野范围不同,在一些实施例中,第一摄像头及第二摄像头中会存在其中一个摄像头采集的第一口腔清洁图像包含人脸,而另一个摄像头采集的第一口腔清洁图像不包含人脸的情况,可以通过采集到包含人脸的第一口腔清洁图像对应的目标摄像头在手柄中的设置位置,确定口腔清洁设备当前清洁的区域是口腔中的上方牙齿还是下方牙齿。例如,第一摄像头可以设置在手柄的正面,第二摄像头可以设置在手柄的背面,其中,手柄的正面可指的是与刷头的刷毛所在的面为同一方向上的面;在口腔清洁设备清洁口腔中的牙齿时,若第一摄像头采集的第一口腔清洁图像包含人脸,而第二摄像头采集的第一口腔清洁图像不包含人脸,则口腔清洁设备正在清洁口腔中的上方牙齿。
作为一种可选的实施方式,口腔清洁设备可以持续采集第一口腔清洁图像直到检测到第一口腔清洁图像中包含人脸。口腔清洁设备可通过第一摄像头和第二摄像头以一定的频率进行第一口腔清洁图像的采集,在检测到第一口腔清洁图像中包含人脸后停止采集第一口腔清洁图像。可选地,口腔清洁设备可提取采集到的各帧第一口腔清洁图像中的图像特征,并根据该图像特征检测第一口腔清洁图像中是否包含人脸,提取图像特征的方式可以包括但不限于HOG(Histogram of Oriented Gradient,方向梯度直方图)特征提取、LBP(Local Binary Pattern,局部二值模式)等特征提取方式。可选地,也可通过人脸检测模型对各帧第一口腔清洁图像进行人脸检测,从而判断各帧第一口腔清洁图像中是否包含人脸,该人脸检测模型可以是通过大量的包含人脸的图像训练得到的。
若在一定时间内采集到的各帧第一口腔清洁图像中都没有检测到人脸,则发出检测人脸失败的提示信息。实施该实施方式,通过持续采集第一图像的方式,提高采集到的第一口腔清洁图像中检测到人脸的可能性,并在一定时间内都检测不到人脸时提醒用户,用户得知检测人脸失败时进行调整,通过用户的调整以确保在后续的口腔清洁过程中可以采集到包含人脸的第一口腔清洁图像,提高口腔清洁区域识别的成功率。
作为一种可选的实施方式,可以对采集到的第一口腔清洁图像进行降噪处理,降噪处理的方法可包括但不限于中值滤波、最大值与最小值滤波以及均值滤波等,并在降噪处理后识别第一口腔清洁图像中是否包含人脸。实施该实施方式,通过对第一口腔清洁图像进行降噪处理,可以提高图像识别的精确度,并加快识别人脸的速度。
步骤320,在检测到第一口腔清洁图像中包含人脸时,通过采集到包含人脸的第一口腔清洁图像的目标摄像头获取第一面部图像,并记录目标摄像头对应的第一摄像头信息;其中,第一摄像头信息包括目标摄像头在口腔清洁设备上的设置位置。
口腔清洁设备在检测到第一口腔清洁图像中包含人脸时,可将采集到包含人脸的第一口腔清洁图像的摄像头作为目标摄像头,通过该目标摄像头采集第一面部图像,并记录目标摄像头对应的第一摄像头信息,第一摄像头信息包括目标摄像头在手柄上设置的位置。例如,第一摄像头可以设置在手柄的正面,第二摄像头可以设置在手柄的背面,其中,手柄的正面可指的是与刷头中刷毛所在的面为同一方向上的面;采集到包含人脸的第一口腔清洁图像的目标摄像头为第二摄像头,则通过第二摄像头采集第一面部图像,并记录第一摄像头信息,第一摄像头信息包括采集第一面部图像的第二摄像头设置在手柄的背面。
步骤330,根据第一面部图像和第一摄像头信息确定当前口腔清洁区域。
在一些实施例中,可先根据第一摄像头信息初步确定当前口腔清洁区域所在的区域范围,例如,第一摄像头可以设置在手柄的正面,第二摄像头可以设置在手柄的背面,其中,手柄的正面可指的是与刷头中刷毛所在的面为同一方向上的面;采集到包含人脸的口腔清洁图像的目标摄像头为第一摄像头,则当前口腔清洁区域所在的范围为上半区牙齿。在初步确定当前口腔清洁区域所在的区域范围后,再根据第一面部图像,结合确定的当前口腔清洁区域所在的区域范围,共同确定当前口腔清洁区域。
作为一种可选的实施方式,可以根据第一摄像头信息确定每个口腔清洁区域对应的标准面部图像,再通过第一面部图像与每个口腔清洁区域对应的标准面部图像进行对比,得到第一面部图像与每个口腔清洁区域的标准面部图像的相似度,将与第一面部图像相似度最高的标准面部图像对应的口腔清洁区域作为当前口腔清洁区域。
在一个实施例中,步骤根据第一面部图像和第一摄像头信息确定当前口腔清洁区域可以包括:从第一面部图像中提取第一目标面部特征;计算第一目标面部特征在目标摄像头对应的摄像机坐标系中的特征坐标;根据特征坐标及第一摄像头信息确定当前口腔清洁区域。
其中,口腔清洁设备从第一面部图像中提取第一目标面部特征,提取第一面部特征的方法可包括但不限于HOG特征提取、LBP特征提取等,第一目标面部特征可包括但不限于五官特征点、脸型特征点等。在确定第一目标面部特征后,计算第一目标面部特征在目标摄像头对应的摄像机坐标系中的特征坐标。其中,对于不同的摄像头作为目标摄像头时,可以将拍摄第一面部图像时的目标摄像头的聚焦中心作为摄像机坐标系的原点,从而建立对应的摄像机坐标系,标定摄像机坐标系的方法可包括但不限于张正友标定法、Tsai两步标定法等。
作为一种可选的实施方式,可以计算第一目标面部特征在第一面部图像对应的像素坐标系中的像素坐标,根据像素坐标系与目标摄像头对应的摄像机坐标系之间的坐标系转换参数,对像素坐标进行转换,以得到第一目标面部特征在摄像机坐标系中的特征坐标。其中,确定第一面部图像对应的像素坐标系,可以将第一面部图像的左上角作为像素坐标系的原点,从而建立对应的像素坐标系。实施该实施方式,能够根据坐标系转换参数将第一目标面部特征的像素坐标转换计算得到第一目标面部特征的特征坐标,特征坐标对应的摄像机坐标系为三维坐标系,而像素坐标对应的像素坐标系为二维坐标系,可以降低确定特征坐标的难度。
作为一种可选的实施方式,可以根据特征坐标、第一摄像头信息及预先录入的各个口腔清洁区域的标准动作信息确定当前口腔清洁区域。每个口腔清洁区域的标准动作信息可包括标准特征坐标及摄像头信息,利用当前获取到的特征坐标和摄像头信息与每个口腔清洁区域对应的标准动作信息进行匹配,并将匹配到的标准动作信息对应的口腔清洁区域作为当前口腔清洁区域。该匹配到的标准动作信息可以是与当前获取到的特征坐标和第一摄像头信息的匹配度最高的标准动作信息,也可以是与当前获取到的特征坐标和第一摄像头信息的匹配度大于匹配度阈值的标准动作信息。
其中,标准动作信息需要用户预先设置录入,口腔清洁设备将给出引导信息引导用户进行录入。实施该实施方式,通过与预先录入的标准动作信息对比确定当前口腔清洁区域,可以消除不同用户的人体特征不同带来的误差,提高口腔清洁区域识别的精确度。
作为一种可选的实施方式,可以根据特征坐标、第一摄像头信息及各个口腔清洁区域的通用标准动作信息确定当前口腔清洁区域。每个口腔清洁区域的通用标准动作信息包括通用标准特征坐标及第一摄像头信息,其中,通用标准特征坐标为预先设置的,可以为根据多名用户的各个口腔清洁区域的通用标准特征坐标得到的平均值。在用户未录入标准动作信息时,可以使用通用标准动作信息进行口腔清洁区域的识别。实施该实施方式,通过与通用标准动作信息对比确定当前口腔清洁区域,可以在用户未录入标准动作信息时也使用识别口腔清洁区域的功能,增强了口腔清洁设备的适用性。
作为一种可选的实施方式,可以将第一面部图像和第一摄像头信息发送到与口腔清洁设备通信连接的终端设备以使终端设备根据第一面部图像和第一摄像头信息确定当前口腔清洁区域。口腔清洁设备将采集的第一面部图像和采集第一面部图像的目标摄像头的第一摄像头信息共同发送到与口腔清洁设备通信连接的终端设备,终端设备可根据接收的第一面部图像和第一摄像头信息确定当前口腔清洁区域,终端设备确定当前口腔清洁区域的方式可与口腔清洁设备确定当前口腔清洁区域的方式类似,此处不再赘述。实施该实施方式,可以通过与口腔清洁设备通信连接的终端设备进行复杂的计算,降低了口腔清洁设备的功耗与负载。
在本申请实施例中,口腔清洁设备通过第一摄像头和第二摄像头采集第一口腔清洁图像,并通过采集到包含人脸的第一口腔清洁图像的目标摄像头采集第一面部图像,同时记录目标摄像头对应的第一摄像头信息,再根据第一面部图像和第一摄像头信息确定当前口腔清洁区域。实施本申请实施例,口腔清洁设备可以在清洁口腔时,通过第一摄像头及第二摄像头相并的图像采集范围覆盖用户人脸区域,保证口腔清洁设备在清洁每个口腔清洁区域时,采集第一口腔清洁图像的两个摄像头中存在一个目标摄像头,能够采集到包含人脸的口腔清洁图像,再根据目标摄像头在手柄上的设置位置,以及结合目标摄像头采集到的面部图像能够准确识别出口腔清洁区域,从而提高口腔清洁区域识别的精确度。。
如图4所示,在一个实施例中,在步骤310分别通过第一摄像头和第二摄像头采集第一口腔清洁图像之前,还可包括以下步骤:
步骤410,获取对第一口腔清洁区域的录入指令。
第一口腔清洁区域可以是口腔内划分的多个口腔清洁区域的一个口腔清洁区域。用户触发对第一口腔清洁区域的录入操作,口腔清洁设备根据用户触发的录入操作生成对第一口腔清洁区域的录入指令。口腔清洁设备从而获取到对第一口腔清洁区域的录入指令,并根据该录入指令做出对应的操作。如图5所示,进行录入及识别的口腔清洁区域可以分为16区域位置,包括上颌骨前颊表面、上颌骨前舌表面、上颌骨左颊表面、上颌骨左舌表面、上颌骨左咬合表面、上颌骨右颊表面、上颌骨右舌表面、上颌骨右咬合表面、下颌骨前颊表面、下颌骨前舌表面、下颌骨左颊表面、下颌骨左舌表面、下颌骨左咬合表面、下颌骨右颊表面、下颌骨右舌表面以及下颌骨咬合表面。
可选的,第一口腔清洁区域可以是口腔清洁设备预设的口腔清洁区域。口腔清洁设备将所有的口腔清洁区域以一个固定的录入顺序排列,并在用户触发查看操作时,将该录入顺序以一种用户可以接收到的方式输出,用户在录入每个口腔清洁区域对应的标准动作时,需要根据该录入顺序依次进行口腔清洁区域的录入。例如口腔清洁设备预先设置每个口腔清洁区域的录入顺序,存在3个口腔清洁区域需要录入,录入顺序为上颌骨前颊表面、上颌骨前舌表面、上颌骨左颊表面,则用户需要先录入上颌骨前颊表面的标准动作信息,即第一口腔清洁区域为上颌骨前颊表面。
第一口腔清洁区域也可以是用户设定的口腔清洁区域,例如,存在3个口腔清洁区域需要录入,为上颌骨前颊表面、上颌骨前舌表面、上颌骨左颊表面,口腔清洁设备提供录入口腔清洁区域的选项信息,用户可以通过触发该选项信息设定先录入上颌骨左颊表面,则第一口腔清洁区域为上颌骨前颊表面。
作为一种可选的实施方式,口腔清洁设备可以在检测到录入操作时,生成对第一口腔清洁区域的录入指令,口腔清洁设备从而获取到对第一口腔清洁区域的录入指令。用户可以进行录入第一口腔清洁区域的标准动作信息的录入操作,在口腔清洁设备检测到该录入操作后,可响应该录入操作,生成对第一口腔清洁区域的录入指令,获取该录入指令后进行对第一口腔清洁区域的标准动作信息的录入。其中,该录入操作可包括但不限于触控操作、手势操作、语音操作等。
作为一种可选的实施方式,可以在检测到口腔清洁设备处于静止状态的持续时间大于时间阈值,则生成第一口腔清洁区域的录入指令。例如,时间阈值为3s(second,秒),当口腔清洁设备处于静止状态的持续时间大于3s时,则产生第一口腔清洁区域的录入指令以被检测。其中,检测口腔清洁设备处于静止状态的方式可包括但不限于检测摄像头拍摄的图像变化、检测口腔清洁设备的加速度变化等。实施该实施方式,可以避免用户因为进行录入操作而造成已放置在正确口腔清洁区域的口腔清洁设备的位置移动,提高录入的标准动作信息的准确性。
步骤420,根据录入指令,分别通过第一摄像头和第二摄像头采集第二口腔清洁图像。
口腔清洁设备根据录入指令,分别通过第一摄像头和第二摄像头采集第二口腔清洁图像,通过第一摄像头和第二摄像头采集第二口腔清洁图像的方法和上述实施例中通过第一摄像头和第二摄像头采集第一口腔清洁图像的方法类似,此处不再赘述。
步骤430,在检测到第二口腔清洁图像中包含人脸时,通过采集到包含人脸的第二口腔清洁图像的摄像头获取第一口腔清洁区域对应的第二面部图像,并记录采集到第二面部图像的摄像头对应的第二摄像头信息。
口腔清洁设备在检测到第二口腔清洁图像中包含人脸时,通过采集到包含人脸的第二口腔清洁图像的摄像头采集第一口腔清洁区域对应的第二面部图像,并记录采集到第二面部图像的摄像头对应的第二摄像头信息。采集第二面部图像和记录第二摄像头信息的方法与上述实施例中采集第一面部图像和记录第一摄像头信息的方法类似,此处不再赘述。
步骤440,根据第二面部图像和第二摄像头信息确定第一口腔清洁区域对应的标准动作信息,并记录第一口腔清洁区域对应的标准动作信息。
口腔清洁设备根据第一口腔清洁区域对应的第二面部图像和采集到第二面部图像的摄像头对应的第二摄像信息,可确定第一口腔清洁区域对应的标准动作信息,并记录第一口腔清洁区域对应的标准动作信息。
在一个实施例中,步骤根据第二面部图像和第二摄像头信息确定第一口腔清洁区域对应的标准动作信息,包括从第二面部图像中提取第二目标面部特征,确定第二目标面部特征的标准特征坐标,根据标准特征坐标和第二摄像头信息确定第一口腔清洁区域对应的标准动作信息,第一口腔清洁区域对应的标准动作信息包括标准特征坐标和第二摄像头信息。确定标准特征坐标的方法和上述实施例中确定特征坐标的方法类似,此处不再赘述。
作为一种可选的实施方式,可以获取采集到包含人脸的第二口腔清洁图像的摄像头采集的多帧与第一口腔清洁区域对应的第二面部图像,并分别从多帧第二面部图像中确定第二目标面部特征对应的多个标准特征坐标,计算第二目标面部特征对应的多个标准特征坐标的坐标平均值,并将坐标平均值作为第一口腔清洁区域对应的标准特征坐标进行保存。实施该实施方式,可以通过确定第一口腔清洁区域对应的多个标准特征坐标,并计算多个标准特征坐标的坐标平均值作为第一口腔清洁区域的标准特征坐标,从而提高标准动作信息的精确度,以提高口腔清洁区域识别的精确度。
在一个实施例中,步骤记录第一口腔清洁区域对应的标准动作信息,可包括,将第一口腔清洁区域对应的标准动作信息保存在口腔清洁设备中;和/或,将第一口腔清洁区域对应的标准动作信息上传到云端进行保存;和/或,将第一口腔清洁区域对应的标准动作信息发送到与口腔清洁设备通信连接的终端设备进行保存。
在口腔清洁设备的存储模块存在足够的存储空间时,将第一口腔清洁区域对应的标准动作信息保存在口腔清洁设备的存储模块中,可以在需要的时候快速调用。在口腔清洁设备的存储模块的存储空间不够存储第一口腔清洁区域对应的标准动作信息时,可以将第一口腔清洁区域对应的标准动作信息上传到云端进行保存,可以减少数据占用的存储空间。将第一口腔清洁区域对应的标准动作信息发送到与口腔清洁设备通信连接的终端设备进行保存,也可以减少数据占用的存储空间,并可以直接在终端设备中进行计算,降低口腔清洁设备的功耗与负载。
步骤450,若存在还未录入标准动作信息的口腔清洁区域,则输出针对未录入的第二口腔清洁区域的引导信息,引导信息用于引导用户将口腔清洁设备放置于第二口腔清洁区域,并引导用户进行对第二口腔清洁区域的录入操作,从而使口腔清洁设备录入第二口腔清洁区域的标准动作信息。
口腔清洁设备检测是否所有的口腔清洁区域都已录入标准动作信息,若存在还未录入标准动作信息的口腔清洁区域,则输出针对未录入的第二口腔清洁区域的引导信息,以引导用户将口腔清洁设备放置于第二口腔清洁区域,并引导用户进行对第二口腔清洁区域的录入操作,从而使口腔清洁设备录入第二口腔清洁区域的标准动作信息,直到所有的口腔清洁区域都已录入标准动作信息,则结束录入标准动作信息。其中,输出引导信息的方式可包括但不限于语音提示、震动提示、画面提示等。
作为一种可选的实施方式,可以通过与口腔清洁设备通信连接的终端设备输出针对未录入的第二口腔清洁区域的引导信息。口腔清洁设备在检测到存在还未录入标准动作信息的口腔清洁区域时,生成引导信息,将引导信息发送到与口腔清洁设备通信连接的终端设备,终端设备在接收到口腔清洁设备发送的引导信息后,输出引导信息,终端设备输出引导信息的方式与口腔清洁设备相比较,可以给予用户更为直观的提示。例如,终端设备通过屏幕播放口腔清洁设备放置于第二口腔清洁区域的示例视频。实施该实施方式,可以通过与口腔清洁设备通信连接的终端设备输出引导信息,以让用户接收到的引导信息更为直观,增强了用户对口腔清洁区域的位置的认知,减少了用户因错误操作而造成录入的标准动作信息的数据错误,提高了标准特征坐标的准确性。
在本申请实施例中,通过对各个口腔清洁区域的标准动作信息的提前录入,可以消除不同用户的不同口腔及面部特征带来的误差,使得口腔清洁区域识别的精确度更高,并在任意切换口腔清洁区域时,保证口腔清洁区域识别的准确性。
如图6所示,图6是本申请实施例公开的另一种口腔清洁区域识别方法的流程示意图,具体步骤如下:
步骤610,分别通过口腔清洁设备的第一摄像头和第二摄像头采集第一口腔清洁图像,口腔清洁设备在清洁口腔时,第一摄像头及第二摄像头相并的图像采集范围覆盖用户人脸区域。
步骤620,在检测到第一口腔清洁图像中包含人脸时,通过采集到包含人脸的第一口腔清洁图像的目标摄像头获取第一面部图像,并记录目标摄像头对应的第一摄像头信息;其中,第一摄像头信息包括目标摄像头在口腔清洁设备上的设置位置。
步骤630,根据第一面部图像和第一摄像头信息确定当前口腔清洁区域。
步骤610~630与步骤310~330中的方法相同,此处不再赘述。
步骤640,根据第一面部图像和第一摄像头信息确定当前口腔清洁动作信息。
口腔清洁设备从第一面部图像提取第一目标面部特征,并确定第一目标面部特征在目标摄像头对应的摄像机坐标系中的特征坐标,当前口腔清洁动作信息包括特征坐标和第一摄像头信息。当前口腔清洁动作信息所包括的数据类型与标准动作信息所包括的数据类型相同。
步骤650,若当前口腔清洁动作信息与当前口腔清洁区域对应的标准动作信息的偏离值大于偏离阈值,则输出第一提示信息,第一提示信息用于提示口腔清洁动作不标准。
口腔清洁设备判断当前口腔清洁动作信息与当前口腔清洁区域对应的标准动作信息的偏离值,可以是计算特征坐标与标准特征坐标之间的坐标偏离值,通过坐标偏离值是否大于偏离阈值来判断动作是否标准。若坐标偏离值大于偏离阈值,则说明用户使用口腔清洁设备口腔清洁的口腔清洁动作不标准,输出第一提示信息,第一提示信息用于提示口腔清洁动作不标准,若坐标偏离值小于等于偏离阈值,则说明用户使用口腔清洁设备口腔清洁的口腔清洁动作标准。其中,第一提示信息包括语音提示信息、震动提示信息及灯光提示信息中的至少一种。
在一个实施例中,输出第一提示信息的方法包括,通过口腔清洁设备输出第一提示信息,或,若口腔清洁设备和其它终端设备通信连接,则向其它终端设备发送第一提示信息,以使其它终端设备输出第一提示信息,终端设备输出第一提示信息的方式通常比口腔清洁设备的输出方式更直观且具有更多种类的输出方式。通过口腔清洁设备直接输出第一提示信息,可以更快地被用户所注意到;通过其它终端设备输出第一提示信息,可以使用户更直观的理解第一提示信息。
步骤660,若当前口腔清洁区域的口腔清洁持续时间大于时间阈值,则输出第二提示信息,第二提示信息用于提示切换口腔清洁区域。
口腔清洁设备判断当前口腔清洁区域的口腔清洁持续时间是否大于时间阈值,口腔清洁设备在用户开始对每个口腔清洁区域进行清洁时,都将通过定时器开始计时,得到每个口腔清洁区域的口腔清洁持续时间。若当前口腔清洁区域的口腔清洁持续时间大于时间阈值,则说明用户在当前口腔清洁区域口腔清洁的持续时间过长,输出第二提示信息,第二提示信息用于提示用户切换口腔清洁区域。其中,时间阈值可以是预先设置的,也可以是用户自定义设置。第二提示信息包括语音提示信息、震动提示信息及灯光提示信息中的至少一种。
可选的,输出第二提示信息的方法包括,通过口腔清洁设备输出第二提示信息,或,若口腔清洁设备和其它终端设备通信连接,则向其它终端设备发送第二提示信息,以使其它终端设备输出第二提示信息。
需要说明的是,步骤650与步骤660之间并没有先后顺序关系,步骤660可以在步骤650之后进行,也可以在步骤650之前进行。
步骤670,在口腔清洁结束后,根据每个口腔清洁区域对应的口腔清洁动作信息确定综合评分。
在用户使用口腔清洁设备完成口腔清洁之后,口腔清洁设备根据每个口腔清洁区域对应的口腔清洁动作信息与每个口腔清洁区域的标准动作信息之间的偏离值确定综合评分,以评价口腔清洁质量。
作为一种可选的实施方式,可以根据每个口腔清洁区域对应的口腔清洁动作信息与每个口腔清洁区域标准动作信息确定每个口腔清洁区域对应的偏离值,再根据每个口腔清洁区域对应的偏离值确定每个口腔清洁区域的评分,可以根据每个口腔清洁区域的评分得到平均评分,将平均评分作为所有口腔清洁区域的综合评分,也可以将所有口腔清洁区域的评分的中位数作为综合评分,此处不做限定。
在一个实施例中,还可以根据每个口腔清洁区域的口腔清洁持续时间确定综合评分。例如,存在8个口腔清洁区域的口腔清洁持续时间小于20s时,判定为不合格。
在本申请实施例中,通过将每个口腔清洁区域的口腔清洁动作信息和每个口腔清洁区域对应的标准动作信息进行对比,可以提高判断口腔清洁动作是否标准的准确性,可以为用户提供更专业的口腔清洁指导。
如图7所示,在一个实施例中,提供一种口腔清洁区域识别装置700,该口腔清洁区域识别装置700包括口腔清洁图像采集模块710、面部图像采集模块720及确定模块730,其中:
口腔清洁图像采集模块710,用于分别通过口腔清洁设备的第一摄像头和第二摄像头采集第一口腔清洁图像,口腔清洁设备在清洁口腔时,第一摄像头及第二摄像头相并的图像采集范围覆盖用户人脸区域。
面部图像采集模块720,用于在检测到第一口腔清洁图像中包含人脸时,通过采集到包含人脸的第一口腔清洁图像的目标摄像头获取第一面部图像,并记录目标摄像头对应的第一摄像头信息;其中,第一摄像头信息包括目标摄像头在手柄上设置的位置。
确定模块730,用于根据第一面部图像和第一摄像头信息确定当前口腔清洁区域。
在一个实施例中,确定模块730,还用于从第一面部图像中提取第一目标面部特征;计算第一目标面部特征在目标摄像头对应的摄像机坐标系中的特征坐标;根据特征坐标及第一摄像头信息确定当前口腔清洁区域。
在一个实施例中,确定模块730,还用于计算第一目标面部特征在第一面部图像对应的像素坐标系中的像素坐标;根据像素坐标系与目标摄像头对应的摄像机坐标系之间的坐标系转换参数,对像素坐标进行转换,以得到第一目标面部特征在摄像机坐标系中的特征坐标。
在一个实施例中,确定模块730,还用于根据特征坐标、摄像头信息及预先录入的各个口腔清洁区域的标准动作信息确定当前口腔清洁区域。
在一个实施例中,该口腔清洁区域识别装置700还包括录入模块,其中:
录入模块,用于获取对第一口腔清洁区域的录入指令;根据录入指令,分别通过第一摄像头和第二摄像头采集第二口腔清洁图像;在检测到第二口腔清洁图像中包含人脸时,通过采集到包含人脸的第二口腔清洁图像的摄像头采集第一口腔清洁区域对应的第二面部图像,并记录采集到第二面部图像的摄像头对应的第二摄像头信息;根据第二面部图像和第二摄像头信息确定第一口腔清洁区域对应的标准动作信息,并记录第一口腔清洁区域对应的标准动作信息。
在一个实施例中,录入模块,还用于若存在还未录入标准动作信息的口腔清洁区域,则输出针对未录入的第二口腔清洁区域的引导信息,或,通过与口腔清洁设备通信连接的终端设备输出针对未录入的第二口腔清洁区域的引导信息;引导信息用于引导用户将口腔清洁设备放置于第二口腔清洁区域,并引导用户进行对第二口腔清洁区域的录入操作,从而使口腔清洁设备录入第二口腔清洁区域的标准动作信息。
在一个实施例中,录入模块,还用于若检测到录入操作,则生成对第一口腔清洁区域的录入指令;或,若检测到口腔清洁设备处于静止状态的持续时间大于时间阈值,则生成第一口腔清洁区域的录入指令。
在一个实施例中,录入模块,还用于从第二面部图像中提取第二目标面部特征;确定第二目标面部特征对应的标准特征坐标;根据标准特征坐标和第二摄像头信息确定第一口腔清洁区域对应的标准动作信息;第一口腔清洁区域对应的标准动作信息包括标准特征坐标和第二摄像头信息。
在一个实施例中,录入模块,还用于通过采集到包含人脸的第二口腔清洁图像的摄像头获取多帧与第一口腔清洁区域对应的第二面部图像,并分别从多帧第二面部图像中确定第二目标面部特征对应的多个标准特征坐标,计算第二目标面部特征对应的多个标准特征坐标的坐标平均值,并将坐标平均值作为第一口腔清洁区域对应的标准特征坐标进行保存。
在一个实施例中,录入模块,还用于将第一口腔清洁区域对应的标准动作信息保存在口腔清洁设备中;和/或,将第一口腔清洁区域对应的标准动作信息上传到云端进行保存;和/或,将第一口腔清洁区域对应的标准动作信息发送到与口腔清洁设备通信连接的终端设备进行保存。
在一个实施例中,该口腔清洁区域识别装置700还包括口腔清洁动作模块,其中:
口腔清洁动作确定模块,用于根据第一面部图像和第一摄像头信息确定当前口腔清洁动作信息;若当前口腔清洁动作信息与当前口腔清洁区域对应的标准动作信息的偏离值大于偏离阈值,则输出第一提示信息,第一提示信息用于提示口腔清洁动作不标准。
在一个实施例中,口腔清洁动作确定模块,还用于通过口腔清洁设备输出第一提示信息;或,若口腔清洁设备和终端设备通信连接,则向终端设备发送第一提示信息,以使终端设备输出第一提示信息。
在一个实施例中,作为一种可选的实施方式,第一提示信息包括语音提示信息、震动提示信息及灯光提示信息中的至少一种。
在一个实施例中,该口腔清洁区域识别装置700还包括口腔清洁时间模块,其中:
口腔清洁时间模块,用于若当前口腔清洁区域的口腔清洁持续时间大于时间阈值,则输出第二提示信息,第二提示信息用于提示切换口腔清洁区域。
在一个实施例中,该口腔清洁区域识别装置700还包括评分模块,其中:
评分模块,用于响应口腔清洁结束指令根据每个口腔清洁区域的口腔清洁动作信息与每个口腔清洁区域对应的标准动作信息之间的偏离值和/或每个口腔清洁区域的口腔清洁持续时间确定综合评分。
在一个实施例中,确定模块730,还用于将第一面部图像和第一摄像头信息发送到与口腔清洁设备通信连接的终端设备,以使终端设备根据第一面部图像和第一摄像头信息确定当前口腔清洁区域。
在本申请实施例中,口腔清洁设备通过第一摄像头和第二摄像头采集第一口腔清洁图像,并通过采集到包含人脸的第一口腔清洁图像的目标摄像头采集第一面部图像,同时记录目标摄像头对应的第一摄像头信息,再根据第一面部图像和第一摄像头信息确定当前口腔清洁区域。实施本申请实施例,口腔清洁设备可以在清洁口腔时,通过第一摄像头及第二摄像头相并的图像采集范围覆盖用户人脸区域,保证口腔清洁设备在清洁每个口腔清洁区域时,采集第一口腔清洁图像的两个摄像头中存在一个目标摄像头,能够采集到包含人脸的口腔清洁图像,再根据目标摄像头在手柄上的设置位置,以及结合目标摄像头采集到的面部图像能够准确识别出口腔清洁区域,从而提高口腔清洁区域识别的精确度。
如图8所示,在一个实施例中,提供一种电子设备,该电子设备可以包括:
存储有可执行程序代码的存储器810;
与存储器810耦合的处理器820;
存储器810可以包括随机存储器(Random Access Memory,RAM),也可以包括只读存储器(Read-Only Memory,ROM)。存储器810可用于存储指令、程序、代码、代码集或指令集。存储器810可包括存储程序区和存储数据区,其中,存储程序区可存储用于实现操作系统的指令、用于实现至少一个功能的指令(比如触控功能、声音播放功能、图像播放功能等)、用于实现上述各个方法实施例的指令等。存储数据区还可以存储电子设备在使用中所创建的数据等。
处理器820可以包括一个或者多个处理核。处理器820利用各种接口和线路连接整个电子设备内的各个部分,通过运行或执行存储在存储器810内的指令、程序、代码集或指令集,以及调用存储在存储器810内的数据,执行电子设备的各种功能和处理数据。可选地,处理器820可以采用数字信号处理(Digital Signal Processing,DSP)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、可编程逻辑阵列(Programmable LogicArray,PLA)中的至少一种硬件形式来实现。处理器820可集成中央处理器(CentralProcessing Unit,CPU)、图像处理器(Graphics Processing Unit,GPU)和调制解调器等中的一种或几种的组合。其中,CPU主要处理操作系统、用户界面和应用程序等;GPU用于负责显示内容的渲染和绘制;调制解调器用于处理无线通信。可以理解的是,上述调制解调器也可以不集成到处理器820中,单独通过一块通信芯片进行实现。
可以理解地,电子设备可包括比上述结构框图中更多或更少的结构元件,例如,包括电源模块、物理按键、WiFi(Wireless Fidelity,无线保真)模块、扬声器、蓝牙模块、传感器等,还可在此不进行限定。
本申请实施例公开一种计算机可读存储介质,其存储计算机程序,其中,该计算机程序使得计算机执行上述各实施例中所描述的方法。
此外,本申请实施例进一步公开一种计算机程序产品,当该计算机程序产品在计算机上运行时,使得计算机可以执行上述实施例所描述的任意一种口腔清洁区域识别方法中的全部或部分步骤。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质包括只读存储器(Read-Only Memory,ROM)、随机存储器(Random Access Memory,RAM)、可编程只读存储器(Programmable Read-only Memory,PROM)、可擦除可编程只读存储器(Erasable Programmable Read Only Memory,EPROM)、一次可编程只读存储器(One-time Programmable Read-Only Memory,OTPROM)、电子抹除式可复写只读存储器(Electrically-Erasable Programmable Read-Only Memory,EEPROM)、只读光盘(CompactDisc Read-Only Memory,CD-ROM)或其他光盘存储器、磁盘存储器、磁带存储器、或者能够用于携带或存储数据的计算机可读的任何其他介质。
以上对本申请实施例公开的一种口腔清洁区域识别方法进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。
Claims (20)
1.一种口腔清洁区域识别方法,其特征在于,所述方法包括:
分别通过口腔清洁设备的第一摄像头和第二摄像头采集第一口腔清洁图像,所述口腔清洁设备在清洁口腔时,所述第一摄像头及所述第二摄像头相并的图像采集范围覆盖用户人脸区域;
在检测到所述第一口腔清洁图像中包含人脸时,通过采集到包含所述人脸的第一口腔清洁图像的目标摄像头获取第一面部图像,并记录所述目标摄像头对应的第一摄像头信息;其中,所述第一摄像头信息包括所述目标摄像头在所述口腔清洁设备上的设置位置;
根据所述第一面部图像和所述第一摄像头信息确定当前口腔清洁区域。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一面部图像和所述第一摄像头信息确定当前口腔清洁区域,包括:
从所述第一面部图像中提取第一目标面部特征;
计算所述第一目标面部特征在所述目标摄像头对应的摄像机坐标系中的特征坐标;
根据所述特征坐标及所述第一摄像头信息确定当前口腔清洁区域。
3.根据权利要求2所述的方法,其特征在于,所述计算所述第一目标面部特征在所述目标摄像头对应的摄像机坐标系中的特征坐标,包括:
计算所述第一目标面部特征在所述第一面部图像对应的像素坐标系中的像素坐标;
根据所述像素坐标系与所述目标摄像头对应的摄像机坐标系之间的坐标系转换参数,对所述像素坐标进行转换,以得到所述第一目标面部特征在所述摄像机坐标系中的特征坐标。
4.根据权利要求2所述的方法,其特征在于,所述根据所述特征坐标及所述第一摄像头信息确定当前口腔清洁区域,包括:
根据所述特征坐标、所述第一摄像头信息及预先录入的各个口腔清洁区域的标准动作信息确定当前口腔清洁区域。
5.根据权利要求1~4任一所述的方法,其特征在于,所述口腔清洁设备,包括所述第一摄像头及所述第二摄像头,所述第一摄像头及所述第二摄像头分别设置在所述口腔清洁设备的手柄中相互背离的两个面。
6.根据权利要求1~4任一所述的方法,其特征在于,在所述分别通过口腔清洁设备的第一摄像头和第二摄像头采集第一口腔清洁图像之前,所述方法还包括:
获取对第一口腔清洁区域的录入指令;
根据所述录入指令,分别通过所述第一摄像头和所述第二摄像头采集第二口腔清洁图像;
在检测到所述第二口腔清洁图像中包含人脸时,通过采集到包含所述人脸的第二口腔清洁图像的摄像头获取所述第一口腔清洁区域对应的第二面部图像,并记录采集到所述第二面部图像的摄像头对应的第二摄像头信息;
根据所述第二面部图像和所述第二摄像头信息确定所述第一口腔清洁区域对应的标准动作信息,并记录所述第一口腔清洁区域对应的标准动作信息。
7.根据权利要求6所述的方法,其特征在于,在所述记录所述第一口腔清洁区域对应的标准动作信息之后,所述方法还包括:
若存在还未录入标准动作信息的口腔清洁区域,则输出针对未录入的第二口腔清洁区域的引导信息,或,通过与所述口腔清洁设备通信连接的终端设备输出针对未录入的第二口腔清洁区域的引导信息;
所述引导信息用于引导用户将所述口腔清洁设备放置于所述第二口腔清洁区域,并引导用户进行对所述第二口腔清洁区域的录入操作,从而使所述口腔清洁设备录入所述第二口腔清洁区域的标准动作信息。
8.根据权利要求6所述的方法,其特征在于,所述获取对第一口腔清洁区域的录入指令,包括:
若检测到录入操作,则生成对所述第一口腔清洁区域的录入指令;或,
若检测到所述口腔清洁设备处于静止状态的持续时间大于时间阈值,则生成所述第一口腔清洁区域的录入指令。
9.根据权利要求6所述的方法,其特征在于,所述根据所述第二面部图像和所述第二摄像头信息确定所述第一口腔清洁区域对应的标准动作信息,包括:
从所述第二面部图像中提取第二目标面部特征;
确定所述第二目标面部特征对应的标准特征坐标;
根据所述标准特征坐标和所述第二摄像头信息确定所述第一口腔清洁区域对应的标准动作信息;所述第一口腔清洁区域对应的标准动作信息包括所述标准特征坐标和所述第二摄像头信息。
10.根据权利要求9所述的方法,其特征在于,所述方法还包括:
通过所述采集到包含所述人脸的第二口腔清洁图像的摄像头获取多帧与所述第一口腔清洁区域对应的第二面部图像,并分别从多帧第二面部图像中确定第二目标面部特征对应的多个标准特征坐标,计算所述第二目标面部特征对应的多个标准特征坐标的坐标平均值,并将所述坐标平均值作为所述第一口腔清洁区域对应的标准特征坐标进行保存。
11.根据权利要求6所述的方法,其特征在于,所述记录所述第一口腔清洁区域对应的标准动作信息,包括:
将所述第一口腔清洁区域对应的标准动作信息保存在所述口腔清洁设备中;和/或,
将所述第一口腔清洁区域对应的标准动作信息上传到云端进行保存;和/或,
将所述第一口腔清洁区域对应的标准动作信息发送到与所述口腔清洁设备通信连接的终端设备进行保存。
12.根据权利要求1所述的方法,其特征在于,在根据所述第一面部图像和所述第一摄像头信息确定当前口腔清洁区域之后,所述方法还包括:
根据所述第一面部图像和所述第一摄像头信息确定当前口腔清洁动作信息;
若所述当前口腔清洁动作信息与所述当前口腔清洁区域对应的标准动作信息的偏离值大于偏离阈值,则输出第一提示信息,所述第一提示信息用于提示口腔清洁动作不标准。
13.根据权利要求12所述的方法,其特征在于,所述输出第一提示信息,包括:
通过所述口腔清洁设备输出所述第一提示信息;或,
若所述口腔清洁设备和终端设备通信连接,则向所述终端设备发送所述第一提示信息,以使所述终端设备输出所述第一提示信息。
14.根据权利要求12所述的方法,其特征在于,所述第一提示信息包括语音提示信息、震动提示信息及灯光提示信息中的至少一种。
15.根据权利要求1~4任一所述的方法,其特征在于,在根据所述第一面部图像和所述第一摄像头信息确定当前口腔清洁区域之后,所述方法还包括:
若所述当前口腔清洁区域的口腔清洁持续时间大于时间阈值,则输出第二提示信息,所述第二提示信息用于提示切换口腔清洁区域。
16.根据权利要求12任一所述的方法,其特征在于,所述方法还包括:响应于口腔清洁结束指令,根据每个口腔清洁区域的口腔清洁动作信息与每个口腔清洁区域对应的标准动作信息之间的偏离值,和/或每个口腔清洁区域的口腔清洁持续时间确定综合评分。
17.根据权利要求1~4任一所述的方法,其特征在于,在所述通过采集到包含所述人脸的第一口腔清洁图像的目标摄像头获取第一面部图像,并记录所述目标摄像头对应的第一摄像头信息之后,所述方法还包括:
将所述第一面部图像和所述第一摄像头信息发送到与所述口腔清洁设备通信连接的终端设备,以使所述终端设备根据所述第一面部图像和所述第一摄像头信息确定当前口腔清洁区域。
18.一种口腔清洁区域识别装置,其特征在于,所述装置包括:
口腔清洁图像采集模块,用于分别通过口腔清洁设备的第一摄像头和第二摄像头采集第一口腔清洁图像,所述口腔清洁设备在清洁口腔时,所述第一摄像头及所述第二摄像头相并的图像采集范围覆盖用户人脸区域;
面部图像采集模块,用于在检测到所述第一口腔清洁图像中包含人脸时,通过采集到包含所述人脸的第一口腔清洁图像的目标摄像头获取第一面部图像,并记录所述目标摄像头对应的第一摄像头信息;其中,所述第一摄像头信息包括所述目标摄像头在所述口腔清洁设备上的设置位置;
确定模块,用于根据所述第一面部图像和所述第一摄像头信息确定当前口腔清洁区域。
19.一种电子设备,其特征在于,包括:
存储有可执行程序代码的存储器;
与所述存储器耦合的处理器;
所述处理器调用所述存储器中存储的所述可执行程序代码,执行权利要求1至17任一项所述的方法。
20.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储计算机程序,其中,所述计算机程序在被处理器执行时,使得所述处理器执行权利要求1至17任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111683385.2A CN114360020B (zh) | 2021-12-31 | 2021-12-31 | 口腔清洁区域识别方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111683385.2A CN114360020B (zh) | 2021-12-31 | 2021-12-31 | 口腔清洁区域识别方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114360020A true CN114360020A (zh) | 2022-04-15 |
CN114360020B CN114360020B (zh) | 2024-02-09 |
Family
ID=81105032
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111683385.2A Active CN114360020B (zh) | 2021-12-31 | 2021-12-31 | 口腔清洁区域识别方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114360020B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117598802A (zh) * | 2023-06-29 | 2024-02-27 | 广州星际悦动股份有限公司 | 口腔护理位置识别方法、装置、口腔护理设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20150113647A (ko) * | 2014-03-31 | 2015-10-08 | 주식회사 로보프린트 | 카메라 내장형 칫솔 및 이를 이용한 치아 검진 시스템 |
CN110087106A (zh) * | 2019-04-18 | 2019-08-02 | 杰哈思文化创意(杭州)有限公司 | 刷牙视频的播放方法、装置、存储介质和终端 |
CN110495962A (zh) * | 2019-08-26 | 2019-11-26 | 赫比(上海)家用电器产品有限公司 | 监测牙刷位置的方法及其牙刷和设备 |
CN111465333A (zh) * | 2017-12-28 | 2020-07-28 | 高露洁-棕榄公司 | 口腔卫生系统 |
CN113288487A (zh) * | 2021-01-19 | 2021-08-24 | 阿里巴巴集团控股有限公司 | 刷牙指导方法与刷牙方法、设备、系统及存储介质 |
-
2021
- 2021-12-31 CN CN202111683385.2A patent/CN114360020B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20150113647A (ko) * | 2014-03-31 | 2015-10-08 | 주식회사 로보프린트 | 카메라 내장형 칫솔 및 이를 이용한 치아 검진 시스템 |
CN111465333A (zh) * | 2017-12-28 | 2020-07-28 | 高露洁-棕榄公司 | 口腔卫生系统 |
CN110087106A (zh) * | 2019-04-18 | 2019-08-02 | 杰哈思文化创意(杭州)有限公司 | 刷牙视频的播放方法、装置、存储介质和终端 |
CN110495962A (zh) * | 2019-08-26 | 2019-11-26 | 赫比(上海)家用电器产品有限公司 | 监测牙刷位置的方法及其牙刷和设备 |
CN113288487A (zh) * | 2021-01-19 | 2021-08-24 | 阿里巴巴集团控股有限公司 | 刷牙指导方法与刷牙方法、设备、系统及存储介质 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117598802A (zh) * | 2023-06-29 | 2024-02-27 | 广州星际悦动股份有限公司 | 口腔护理位置识别方法、装置、口腔护理设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN114360020B (zh) | 2024-02-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
RU2719839C2 (ru) | Способы и системы для извлечения характеристик движения пользователя с использованием датчика холла для предоставления пользователю обратной связи | |
CN105528519B (zh) | 智能协助清洁牙齿的方法及装置 | |
CN108495575B (zh) | 用于基于位置和性能来提供引导和反馈的系统、方法和设备 | |
JP3837505B2 (ja) | ジェスチャ認識による制御装置のジェスチャの登録方法 | |
CN109316260A (zh) | 电动牙刷控制方法、装置、电动牙刷及存储介质 | |
CN105827979B (zh) | 一种拍摄提示的方法和移动终端 | |
CN109690690B (zh) | 用于辅助用户专注于执行个人护理活动的系统和方法 | |
CN107749309A (zh) | 电动牙刷的控制方法及装置 | |
CN105512482A (zh) | 推送处理信息的方法及装置 | |
CN105245683A (zh) | 一种终端应用的自适应显示方法及装置 | |
CN104144252A (zh) | 一种语音通信方法及移动终端 | |
CN114360020B (zh) | 口腔清洁区域识别方法、装置、电子设备及存储介质 | |
CN114329991A (zh) | 口腔清洁评分方法、装置、口腔清洁装置及存储介质 | |
CN114299576A (zh) | 口腔清洁区域识别方法、刷牙信息录入系统及相关装置 | |
WO2019080900A1 (zh) | 神经网络训练方法和装置、存储介质及电子装置 | |
JP5987473B2 (ja) | 非言語情報収集装置および非言語情報収集プログラム | |
CN113343788A (zh) | 图像采集方法及装置 | |
CN107862359A (zh) | 基于牙膏的处理方法、装置、设备和存储介质 | |
CN115543135A (zh) | 显示屏幕的控制方法、装置及设备 | |
CN114081464A (zh) | 心率检测方法、装置和电子设备 | |
US20220182533A1 (en) | Robot, control processing method, and non-transitory computer readable recording medium storing control processing program | |
CN117677337A (zh) | 用于调节三维扫描仪的扫描深度的方法和装置 | |
CN116777818B (zh) | 口腔清洁方案确定方法、装置、电子设备及存储介质 | |
CN117939227A (zh) | 口腔清洁视频展示方法、装置、电子设备及存储介质 | |
CN110405778B (zh) | 一种机器人 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |