CN112307807A - 图像识别方法、图像识别装置及冰箱 - Google Patents

图像识别方法、图像识别装置及冰箱 Download PDF

Info

Publication number
CN112307807A
CN112307807A CN201910677881.3A CN201910677881A CN112307807A CN 112307807 A CN112307807 A CN 112307807A CN 201910677881 A CN201910677881 A CN 201910677881A CN 112307807 A CN112307807 A CN 112307807A
Authority
CN
China
Prior art keywords
drawer
food
area
region
image recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910677881.3A
Other languages
English (en)
Other versions
CN112307807B (zh
Inventor
倪梁
张坤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qingdao Guochuang Intelligent Home Appliance Research Institute Co ltd
Qingdao Haier Smart Technology R&D Co Ltd
Haier Smart Home Co Ltd
Original Assignee
Qingdao Guochuang Intelligent Home Appliance Research Institute Co ltd
Qingdao Haier Smart Technology R&D Co Ltd
Haier Smart Home Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qingdao Guochuang Intelligent Home Appliance Research Institute Co ltd, Qingdao Haier Smart Technology R&D Co Ltd, Haier Smart Home Co Ltd filed Critical Qingdao Guochuang Intelligent Home Appliance Research Institute Co ltd
Priority to CN201910677881.3A priority Critical patent/CN112307807B/zh
Publication of CN112307807A publication Critical patent/CN112307807A/zh
Application granted granted Critical
Publication of CN112307807B publication Critical patent/CN112307807B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462Salient features, e.g. scale invariant feature transforms [SIFT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/68Food, e.g. fruit or vegetables

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Cold Air Circulating Systems And Constructional Details In Refrigerators (AREA)

Abstract

本申请涉及图像处理技术领域,公开一种图像识别方法。该方法应用于带有抽屉的冰箱,包括:确定抽屉的抽出距离和抽出距离对应的第一区域;对包括抽屉的多张图片中的第二区域进行图像识别,得到待放入食品的相关信息,其中,第二区域为第一区域之外的区域。该方法能够避免对待放入食品的识别造成干扰,因此,提高了识别结果的准确率,并降低了误报率。本申请还公开一种图像识别装置及冰箱。

Description

图像识别方法、图像识别装置及冰箱
技术领域
本申请涉及图像处理技术领域,例如涉及一种图像识别方法、图像识别装置及冰箱。
背景技术
随着计算机技术的发展和计算机视觉原理的广泛应用,利用图像识别技术对诸如冰箱等产品内部的食品进行准确识别具有广泛的应用价值。目前,冰箱内部食品的识别技术是基于安装在冰箱的储藏室顶部的摄像头拍摄的食品的图像进行的。
在实现本公开实施例的过程中,发现相关技术中至少存在如下问题:对于带有抽屉的冰箱,由于抽屉内已经存放有食品,当抽屉处于打开状态时,摄像头拍摄的图像中不仅包括待放入食品,还包括已存放食品,因此,对待放入食品的识别造成干扰,导致识别结果的准确率低,并导致误报率高。
发明内容
为了对披露的实施例的一些方面有基本的理解,下面给出了简单的概括。所述概括不是泛泛评述,也不是要确定关键/重要组成元素或描绘这些实施例的保护范围,而是作为后面的详细说明的序言。
本公开实施例提供了一种图像识别方法、图像识别装置及冰箱,以解决对待放入食品的识别造成干扰,导致识别结果的准确率低,并导致误报率高的技术问题。
在一些实施例中,图像识别方法,应用于带有抽屉的冰箱,包括:确定抽屉的抽出距离和抽出距离对应的第一区域;对包括抽屉的多张图片中的第二区域进行图像识别,得到待放入食品的相关信息,其中,第二区域为第一区域之外的区域。
在一些实施例中,图像识别装置,应用于带有抽屉的冰箱,包括:检测模块,被设置在抽屉的侧壁且靠近前挡板或冰箱的储藏室的后壁,并且被配置为检测抽屉的位移;确定模块,被配置为根据抽屉的位移确定抽屉的抽出距离和抽出距离对应的第一区域;摄像模块,被设置在储藏室内,并且被配置为对待放入食品进行拍摄,得到包括抽屉的多张图片;识别模块,被配置为对包括抽屉的多张图片中的第二区域进行图像识别,得到待放入食品的相关信息,其中,第二区域为第一区域之外的区域。
在一些实施例中,图像识别装置包括处理器和存储有程序指令的存储器,其中,处理器被配置为在执行程序指令时,执行如上所述的图像识别方法。
在一些实施例中,冰箱包括如上所述的图像识别装置。
本公开实施例提供的图像识别方法、图像识别装置及冰箱,可以实现以下技术效果:
通过确定抽屉的抽出距离和抽出距离对应的第一区域,并对包括抽屉的多张图片中的第一区域之外的第二区域进行图像识别,得到待放入食品的相关信息,能够避免对待放入食品的识别造成干扰,因此,提高了识别结果的准确率,并降低了误报率。
以上的总体描述和下文中的描述仅是示例性和解释性的,不用于限制本申请。
附图说明
一个或多个实施例通过与之对应的附图进行示例性说明,这些示例性说明和附图并不构成对实施例的限定,附图中具有相同参考数字标号的元件示为类似的元件,附图不构成比例限制,并且其中:
图1是相关技术中使用摄像头拍摄的冰箱的储藏室的场景示意图;
图2是本公开实施例的实施环境的环境示意图;
图3是本公开实施例提供的图像识别方法的流程示意图;
图4是本公开实施例的冰箱的抽屉处于抽出状态的场景示意图;
图5是本公开实施例提供的图像识别方法的流程示意图;
图6是本公开实施例提供的图像识别装置的结构示意图;
图7是本公开实施例提供的图像识别装置的结构示意图。
附图标记:
210:储藏设备;220:终端设备;230:服务器;240:网络设备;
610:检测模块;620:确定模块;630:摄像模块;640:识别模块;
650:截取模块;700:处理器;701:存储器;702:通信接口;
703:总线。
具体实施方式
为了能够更加详尽地了解本公开实施例的特点与技术内容,下面结合附图对本公开实施例的实现进行详细阐述,所附附图仅供参考说明之用,并非用来限定本公开实施例。在以下的技术描述中,为方便解释起见,通过多个细节以提供对所披露实施例的充分理解。然而,在没有这些细节的情况下,一个或多个实施例仍然可以实施。在其它情况下,为简化附图,熟知的结构和装置可以简化展示。
图1是相关技术中使用摄像头拍摄的冰箱的储藏室的场景示意图。如图1所示,冰箱一般包括箱体、收容在箱体内的储藏室、设置在储藏室外侧的门体、以及收容在储藏室内用于放置食品的抽屉和搁板。此外,冰箱还包括角度传感器和摄像头,其中,角度传感器可以设置在门体的铰链处,用于检测门体的打开和关闭状态,以便启动摄像头;摄像头可以设置在储藏室的顶部,用于对储藏室内部进行拍摄。
当角度传感器检测到冰箱的门体打开一定角度后,启动摄像头对储藏室内部进行连续拍摄,在抽屉处于抽出状态的情况下,通过摄像头拍摄得到如图1所示的四张图片。从上述图片可以看出,其记录了用户将柠檬放入冰箱的动作,通过对上述图片中的矩形区域进行图像识别,可以确定待放入抽屉内的食品为柠檬。
然而,相关技术中至少存在如下问题:第一,假设摄像头共拍摄了n张图片,且每张图片中的矩形区域的长度为L,宽度为W,则对于这n张图片,其图像识别的运算量为n×L×W,也就是说,对于n张图片需要进行n×L×W次图像识别,导致运算量大;第二,以图1中左下角的图片为例,当摄像头由上到下进行拍摄时,用户手中的柠檬可能会和抽屉内已经存放的食品(例如,牛奶等)混在一起,使柠檬很难被准确地识别,导致识别结果的准确率低,并导致误报率高。
图2是本公开实施例的实施环境的环境示意图。如图2所示,该实施环境包括储藏设备210、终端设备220、服务器230和网络设备240。
储藏设备210可以是用于冷藏、保鲜和/或冷冻食品的设备,例如冰箱、冰柜等;终端设备220可以称之为用户设备、终端设备、移动台或移动终端等,例如,终端设备220可以是移动电话或具有移动终端的计算机,也可以是便携式、手持式、计算机内置的或车载的移动装置,或者还可以是集成在储藏设备210上的具有显示功能的显示装置;服务器230可以是一台服务器,也可以是由若干台服务器组成的服务器集群,或者还可以是一个云计算服务中心,本公开实施例对此不作限制。
储藏设备210、终端设备220和服务器230通过网络设备240进行通信。网络设备240可以是有线网络设备,例如路由器、交换机等;也可以是无线网络设备,例如无线路由器、无线接入点(Access Point,AP)设备等,本公开实施例对此不作限制。服务器230存储有食品的相关信息,用于接收储藏设备210发送的识别请求,以及向终端设备220发送识别结果。
图3是本公开实施例提供的图像识别方法的流程示意图,图4是本公开实施例的冰箱的抽屉处于抽出状态的场景示意图。图3的图像识别方法可以由图2的储藏设备210、终端设备220和服务器230中的任一个执行,如图3所示,该图像识别方法,应用于带有抽屉的冰箱,包括:
S310,确定抽屉的抽出距离和抽出距离对应的第一区域;
S320,对包括抽屉的多张图片中的第二区域进行图像识别,得到待放入食品的相关信息,其中,第二区域为第一区域之外的区域。
具体地,通过检测抽屉的位移或通过图像识别可以确定抽屉的抽出距离,在确定抽屉的抽出距离之后,将该抽出距离对应的区域作为第一区域,如图4中的“R11”所示;而将第一区域之外的区域作为第二区域,如图4中的“R21”和“R22”所示。这里,位移是指在某一段时间内抽屉由初位置到末位置的有向线段;抽出距离是指在抽屉处于抽出状态的情况下抽屉的前挡板到搁板的直线距离,如图4中的“d”所示。
接着,使用图像识别算法对包括抽屉的多张图片中的第二区域进行图像识别,并根据图像识别结果获取待放入食品的相关信息。这里,图像识别是指利用计算机对图像进行处理、分析和理解,以识别各种不同模式的目标和对象的技术;图像识别算法可以包括基于快速区域的卷积神经网络(Fast Region-based Convolutional Neural Network,FastR-CNN)、残差网络(Residual Network,ResNet)、尺度不变特征变换(Scale-InvariantFeature Transform,SIFT)等,本公开实施例对此不作限制。此外,可以使用冰箱内集成的图像处理模块(未示出)对包括抽屉的多张图片中的第二区域进行图像识别,也可以将包括抽屉的多张图片传输至服务器进行图像识别,本公开实施例对此不作限制。
待放入食品的相关信息可以包括但不限于待放入食品的名称、种类、数量等。此外,待放入食品的相关信息可以直接在冰箱的显示模块(例如,显示屏)上显示,也可以通过冰箱本身自带的无线传输功能发送至终端设备(例如,手机、平板电脑等),以方便用户随时查看。
根据本公开实施例提供的技术方案,通过确定抽屉的抽出距离和抽出距离对应的第一区域,并对包括抽屉的多张图片中的第一区域之外的第二区域进行图像识别,得到待放入食品的相关信息,能够避免对待放入食品的识别造成干扰,因此,提高了识别结果的准确率,并降低了误报率。
在一些实施例中,在确定抽屉的抽出距离和抽出距离对应的第一区域之前,图3的图像识别方法还包括:在检测到冰箱的门体打开或者搜索到待放入食品时,对冰箱的储藏室进行拍摄,得到视频文件;对视频文件进行截取操作,得到包括抽屉的多张图片。
具体地,可以在检测到冰箱的门体打开时,或者可以在搜索到待放入食品时,启动摄像模块对冰箱的储藏室进行连续视频拍摄,得到视频文件,本公开实施例对此不作限制。这里,摄像模块可以是用于拍摄的摄像头,可选地,摄像模块可以是高速广角摄像头。摄像模块可以设置在储藏室的顶部的中间位置,也可以设置在储藏室的顶部的两端位置,或者还可以设置在储藏室的侧壁的偏上位置,本公开实施例对此不作限制。此外,摄像模块的数量可以是一个,也可以是两个,或者还可以是三个或三个以上,本公开实施例对此不作限制。应理解,多个摄像模块有利于同时获取储藏室内的多个不同角度的图像,从而可以更准确地确定储藏室内的食品的相关信息。
由于摄像模块拍摄得到的是视频文件,因此,对待放入食品进行图像识别时的图片素材是从视频文件中截取的,即按照时间顺序对视频文件的每一帧图像进行截取操作,得到多张图片;多张图片中的每张图片携带有时间戳,该时间戳可用于区分不同的图片,也就是说,每张图片都包含不同的时间戳。
根据本公开实施例提供的技术方案,通过使用摄像模块对冰箱的储藏室进行连续视频拍摄,能够对食品的整个放入过程进行记录,因此,确保了记录的完整性。
在一些实施例中,通过检测抽屉的位移确定抽屉的抽出距离,包括:对安装在抽屉的底部的滚轮的旋转圈数进行测量,并通过如下公式计算得到抽屉的抽出距离,d=c×n,其中,d为抽屉的抽出距离,c为滚轮的周长,n为滚轮的旋转圈数。
具体地,可以使用位移检测模块对安装在抽屉的底部的滚轮的旋转圈数进行测量,以获取滚轮的旋转圈数,用“n”表示;接着,通过公式d=c×n计算得到抽屉的抽出距离,其中,c为滚轮的周长,d为抽屉的抽出距离。这里,位移检测模块可以是设置在抽屉的侧壁且靠近前挡板的旋转圈数传感器。滚轮可以固定地安装在抽屉的底部,即滚轮不随抽屉一起滚动;或者可以随抽屉一起滚动,本公开实施例对此不作限制。
根据本公开实施例提供的技术方案,通过使用诸如旋转圈数传感器的位移检测模块,能够准确地测量抽屉的抽出距离,因此,提高了测量准确度。
可选地,通过检测抽屉的位移确定抽屉的抽出距离,包括:对红外线往返于安装在抽屉的后壁的反射板所需的时间进行测量,并通过如下公式计算得到抽屉的抽出距离,d=v×t/2,其中,d为抽屉的抽出距离,v为红外线的传播速度,t为红外线从被发射到被接收所需的时间。
具体地,可以使用位移检测模块对红外线往返于安装在抽屉的后壁的反射板所需的时间进行测量,以获取红外线从被发射到被接收所需的时间,用“t”表示;接着,通过公式d=v×t/2计算得到抽屉的抽出距离,其中,v为红外线的传播速度,d为抽屉的抽出距离。这里,位移检测模块可以是设置在所述储藏室的后壁的红外测距传感器。应理解,红外测距传感器应当与安装在抽屉的后壁的反射板对应,以更准确地测量红外线往返于反射板所需的时间。
根据本公开实施例提供的技术方案,通过使用诸如红外测距传感器的位移检测模块,能够快速地测量抽屉的抽出距离,因此,缩短了测量时间,节省了测量成本。
可选地,通过图像识别确定抽屉的抽出距离,包括:通过图像识别获取抽屉的位置坐标和搁板的位置坐标,抽屉的位置坐标用于表征抽屉在图片中的位置,搁板的位置坐标用于表征搁板在图片中的位置;根据抽屉的位置坐标和搁板的位置坐标确定抽屉的抽出距离。
具体地,可以通过图像识别获取每张图片中的抽屉的位置坐标和搁板的位置坐标,这里,抽屉的位置坐标可以是抽屉的前挡板的两个端点中的任一点(用“A”表示)的位置坐标(x1,y1),搁板的位置坐标可以是与抽屉的任一端点对应的点(用“B”表示)的位置坐标(x2,y2);通过两点间距离公式
Figure BDA0002143850310000071
计算得到抽屉的抽出距离。
在一些实施例中,通过如下公式计算得到第二区域的识别面积,S=(L-d)×W,其中,S为第二区域的识别面积,L为第一区域与第二区域的长度之和,d为抽屉的抽出距离,W为第二区域的宽度。
具体地,第二区域的识别面积即为第二区域的图像识别的运算量。仍然假设摄像模块共拍摄了n张图片,如图4所示,每张图片中的第二区域的长度为(L-d),宽度为W,则对于这n张图片,其图像识别的运算量为n×(L-d)×W,也就是说,对于n张图片需要进行n×(L-d)×W次图像识别,相比于相关技术中的n×L×W次图像识别,本公开实施例的图像识别的运算量减少了n×d×W次。
根据本公开实施例提供的技术方案,通过对除第一区域之外的第二区域进行图像识别,能够减少图像识别的运算量,因此,提高了图像识别效率。
在一些实施例中,对包括抽屉的多张图片中的第二区域进行图像识别,得到待放入食品的相关信息,包括:在抽屉的抽出距离保持一段时间不再变化时,根据抽屉的抽出距离确定第二区域,其中,第二区域包括固定区域和随抽屉的抽出距离变化的变化区域;根据固定区域和变化区域对多张图片进行特征识别,并根据识别结果获取待放入食品的相关信息。
具体地,在抽屉处于抽出状态的情况下,如果抽屉的抽出距离在预设时间内没变化,则将该抽出距离对应的区域作为第二区域,第二区域可以包括固定区域和变化区域,分别用“R21”和“R22”表示,如图4所示。这里,变化区域是指随抽屉的抽出距离变化的区域,应理解,变化区域与抽出距离成反比,即抽出距离越大,变化区域越小,反之亦然。预设时间可以是系统默认的时间,例如1分钟、3分钟等,或者可以是用户设定的时间,例如10秒、30秒等,本公开实施例对此不作限制。
根据固定区域和变化区域采用卷积神经网络、分类器、多级网络结构等特征提取算法对多张图片进行特征提取,生成特征图像,该特征图像的各个区域含有所提取的各种特征;对所提取的各种特征进行识别并与预设的食品信息进行比较,以确定待放入食品的相关信息。
在一些实施例中,根据识别结果获取待放入食品的相关信息,包括:如果识别出多张图片中的待放入食品,则发送待放入食品的相关信息;如果无法识别出多张图片中的待放入食品,则发出提示信息。
具体地,如果能够识别出多张图片中的待放入食品,则可以直接在冰箱的显示模块(例如,显示屏)上显示待放入食品的相关信息,或者可以通过冰箱本身自带的无线传输功能将待放入食品的相关信息发送至终端设备(例如,手机、平板电脑等),以方便用户随时查看;如果无法识别出多张图片中的待放入食品,则可以直接在显示屏上显示诸如“食品无法识别”的提示信息,也可以发出诸如蜂鸣声的提示音,或者还可以通过冰箱本身自带的无线传输功能将诸如“食品识别失败”的提示信息发送至终端设备,以提醒用户,本公开实施例对此不作限制。
上述所有可选技术方案,可以采用任意结合形成本申请的可选实施例,在此不再一一赘述。
图5是本公开实施例提供的图像识别方法的流程示意图。图5的图像识别方法可以由图2的储藏设备210、终端设备220和服务器230中的任一个执行,如图5所示,该图像识别方法,应用于带有抽屉的冰箱,包括:
S510,在检测到冰箱的门体打开或搜索到待放入食品时,对冰箱的储藏室进行拍摄,得到视频文件;
S520,对视频文件进行截取操作,得到包括抽屉的多张图片;
S530,确定抽屉的抽出距离和抽出距离对应的第一区域;
S540,对包括抽屉的多张图片中的第二区域进行图像识别,得到待放入食品的相关信息,其中,第二区域为第一区域之外的区域。
根据本公开实施例提供的技术方案,通过在检测到冰箱的门体打开或搜索到待放入食品时,对冰箱的储藏室进行拍摄,得到视频文件,对视频文件进行截取操作,得到包括抽屉的多张图片,确定抽屉的抽出距离和抽出距离对应的第一区域,以及对包括抽屉的多张图片中的第一区域之外的第二区域进行图像识别,得到待放入食品的相关信息,能够避免对待放入食品的识别造成干扰,因此,提高了识别结果的准确率,并降低了误报率。
下述为本申请装置实施例,可以用于执行本申请方法实施例。对于本申请装置实施例中未披露的细节,请参照本申请方法实施例。
图6是本公开实施例提供的图像识别装置的结构示意图。如图6所示,该图像识别装置,应用于带有抽屉的冰箱,包括:
检测模块610,被设置在抽屉的侧壁且靠近前挡板或冰箱的储藏室的后壁,并且被配置为检测抽屉的位移。
确定模块620,被配置为根据抽屉的位移确定抽屉的抽出距离和抽出距离对应的第一区域。
摄像模块630,被设置在储藏室内,并且被配置为对待放入食品进行拍摄,得到包括抽屉的多张图片。
识别模块640,被配置为对包括抽屉的多张图片中的第二区域进行图像识别,得到待放入食品的相关信息,其中,第二区域为第一区域之外的区域。
根据本公开实施例提供的技术方案,通过确定抽屉的抽出距离和抽出距离对应的第一区域,并对包括抽屉的多张图片中的第一区域之外的第二区域进行图像识别,得到待放入食品的相关信息,能够避免对待放入食品的识别造成干扰,因此,提高了识别结果的准确率,并降低了误报率。
在一些实施例中,通过检测抽屉的位移确定抽屉的抽出距离,或者,通过图像识别确定抽屉的抽出距离。
在一些实施例中,图6的检测模块610对安装在抽屉的底部的滚轮的旋转圈数进行测量,并通过如下公式计算得到抽屉的抽出距离,d=c×n,其中,d为抽屉的抽出距离,c为滚轮的周长,n为滚轮的旋转圈数。
可选地,图6的检测模块610对红外线往返于安装在抽屉的后壁的反射板所需的时间进行测量,并通过如下公式计算得到抽屉的抽出距离,d=v×t/2,其中,d为抽屉的抽出距离,v为红外线的传播速度,t为红外线从被发射到被接收所需的时间。
在一些实施例中,通过如下公式计算得到第二区域的识别面积,S=(L-d)×W,其中,S为第二区域的识别面积,L为第一区域与第二区域的长度之和,d为抽屉的抽出距离,W为第二区域的宽度。
在一些实施例中,图6的识别模块640被配置为在抽屉的抽出距离保持一段时间不再变化时,根据抽屉的抽出距离确定第二区域,其中,第二区域包括固定区域和随抽屉的抽出距离变化的变化区域,以及根据固定区域和变化区域对多张图片进行特征识别,并根据识别结果获取待放入食品的相关信息。
在一些实施例中,如果识别出多张图片中的待放入食品,则图6的识别模块640发送待放入食品的相关信息;如果无法识别出多张图片中的待放入食品,则图6的识别模块640发出提示信息。
在一些实施例中,图6的图像识别装置还包括:截取模块650,其中,摄像模块630被配置为在检测到冰箱的门体打开或搜索到待放入食品时,对冰箱的储藏室进行拍摄,得到视频文件;截取模块650被配置为对视频文件进行截取操作,得到包括抽屉的多张图片。
图7是本公开实施例提供的图像识别装置的结构示意图。如图7所示,该图像识别装置包括:处理器(processor)700和存储器(memory)701,还可以包括通信接口(Communication Interface)702和总线703。其中,处理器700、通信接口702、存储器701可以通过总线703完成相互间的通信。通信接口702可以用于信息传输。处理器700可以调用存储器701中的逻辑指令,以执行上述实施例的图像识别方法。
此外,上述的存储器701中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。
存储器701作为一种计算机可读存储介质,可用于存储软件程序、计算机可执行程序,如本公开实施例中的方法对应的程序指令/模块。处理器700通过运行存储在存储器701中的程序指令/模块,从而执行功能应用以及数据处理,即实现上述方法实施例中的图像识别方法。
存储器701可包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序;存储数据区可存储根据终端设备的使用所创建的数据等。此外,存储器701可以包括高速随机存取存储器,还可以包括非易失性存储器。
本公开实施例提供了一种冰箱,包含上述的图像识别装置。
本公开实施例提供了一种计算机可读存储介质,存储有计算机可执行指令,所述计算机可执行指令设置为执行上述图像识别方法。
本公开实施例提供了一种计算机程序产品,所述计算机程序产品包括存储在计算机可读存储介质上的计算机程序,所述计算机程序包括程序指令,当所述程序指令被计算机执行时,使所述计算机执行上述图像识别方法。
上述的计算机可读存储介质可以是暂态计算机可读存储介质,也可以是非暂态计算机可读存储介质。
本公开实施例的技术方案可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括一个或多个指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本公开实施例所述方法的全部或部分步骤。而前述的存储介质可以是非暂态存储介质,包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等多种可以存储程序代码的介质,也可以是暂态存储介质。
以上描述和附图充分地示出了本公开的实施例,以使本领域的技术人员能够实践它们。其他实施例可以包括结构的、逻辑的、电气的、过程的以及其他的改变。实施例仅代表可能的变化。除非明确要求,否则单独的部件和功能是可选的,并且操作的顺序可以变化。一些实施例的部分和特征可以被包括在或替换其他实施例的部分和特征。本公开实施例的范围包括权利要求书的整个范围,以及权利要求书的所有可获得的等同物。当用于本申请中时,虽然术语“第一”、“第二”等可能会在本申请中使用以描述各元件,但这些元件不应受到这些术语的限制。这些术语仅用于将一个元件与另一个元件区别开。比如,在不改变描述的含义的情况下,第一元件可以叫做第二元件,并且同样第,第二元件可以叫做第一元件,只要所有出现的“第一元件”一致重命名并且所有出现的“第二元件”一致重命名即可。第一元件和第二元件都是元件,但可以不是相同的元件。而且,本申请中使用的用词仅用于描述实施例并且不用于限制权利要求。如在实施例以及权利要求的描述中使用的,除非上下文清楚地表明,否则单数形式的“一个”(a)、“一个”(an)和“所述”(the)旨在同样包括复数形式。类似地,如在本申请中所使用的术语“和/或”是指包含一个或一个以上相关联的列出的任何以及所有可能的组合。另外,当用于本申请中时,术语“包括”(comprise)及其变型“包括”(comprises)和/或包括(comprising)等指陈述的特征、整体、步骤、操作、元素,和/或组件的存在,但不排除一个或一个以上其它特征、整体、步骤、操作、元素、组件和/或这些的分组的存在或添加。在没有更多限制的情况下,由语句“包括一个…”限定的要素,并不排除在包括所述要素的过程、方法或者设备中还存在另外的相同要素。本文中,每个实施例重点说明的可以是与其他实施例的不同之处,各个实施例之间相同相似部分可以互相参见。对于实施例公开的方法、产品等而言,如果其与实施例公开的方法部分相对应,那么相关之处可以参见方法部分的描述。
本领域技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,可以取决于技术方案的特定应用和设计约束条件。所述技术人员可以对每个特定的应用来使用不同方法以实现所描述的功能,但是这种实现不应认为超出本公开实施例的范围。所述技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
本文所披露的实施例中,所揭露的方法、产品(包括但不限于装置、设备等),可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,可以仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例。另外,在本公开实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
附图中的流程图和框图显示了根据本公开实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这可以依所涉及的功能而定。在附图中的流程图和框图所对应的描述中,不同的方框所对应的操作或步骤也可以以不同于描述中所披露的顺序发生,有时不同的操作或步骤之间不存在特定的顺序。例如,两个连续的操作或步骤实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这可以依所涉及的功能而定。框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。

Claims (10)

1.一种图像识别方法,应用于带有抽屉的冰箱,其特征在于,包括:
确定所述抽屉的抽出距离和所述抽出距离对应的第一区域;
对包括所述抽屉的多张图片中的第二区域进行图像识别,得到待放入食品的相关信息,
其中,所述第二区域为所述第一区域之外的区域。
2.根据权利要求1所述的方法,其特征在于,通过检测所述抽屉的位移确定所述抽屉的抽出距离,或者,通过图像识别确定所述抽屉的抽出距离。
3.根据权利要求2所述的方法,其特征在于,所述通过检测所述抽屉的位移确定所述抽屉的抽出距离,包括:
对安装在所述抽屉的底部的滚轮的旋转圈数进行测量,并通过如下公式计算得到所述抽屉的抽出距离,
d=c×n,
其中,d为所述抽屉的抽出距离,c为所述滚轮的周长,n为所述滚轮的旋转圈数,或者,
对红外线往返于安装在所述抽屉的后壁的反射板所需的时间进行测量,并通过如下公式计算得到所述抽屉的抽出距离,
d=v×t/2,
其中,d为所述抽屉的抽出距离,v为所述红外线的传播速度,t为所述红外线从被发射到被接收所需的时间。
4.根据权利要求3所述的方法,其特征在于,通过如下公式计算得到所述第二区域的识别面积,
S=(L-d)×W,
其中,S为所述第二区域的识别面积,L为所述第一区域与所述第二区域的长度之和,d为所述抽屉的抽出距离,W为所述第二区域的宽度。
5.根据权利要求1所述的方法,其特征在于,所述对包括所述抽屉的多张图片中的第二区域进行图像识别,得到待放入食品的相关信息,包括:
在所述抽屉的抽出距离保持一段时间不再变化时,根据所述抽屉的抽出距离确定所述第二区域,其中,所述第二区域包括固定区域和随所述抽屉的抽出距离变化的变化区域;
根据所述固定区域和所述变化区域对所述多张图片进行特征识别,并根据识别结果获取所述待放入食品的相关信息。
6.根据权利要求5所述的方法,其特征在于,所述根据识别结果获取所述待放入食品的相关信息,包括:
如果识别出所述多张图片中的所述待放入食品,则发送所述待放入食品的相关信息;
如果无法识别出所述多张图片中的所述待放入食品,则发出提示信息。
7.根据权利要求1至5中任一项所述的方法,其特征在于,还包括:
在检测到所述冰箱的门体打开或搜索到所述待放入食品时,对所述冰箱的储藏室进行拍摄,得到视频文件;
对所述视频文件进行截取操作,得到所述包括所述抽屉的多张图片。
8.一种图像识别装置,应用于带有抽屉的冰箱,其特征在于,包括:
检测模块,被设置在所述抽屉的侧壁且靠近前挡板或所述冰箱的储藏室的后壁,并且被配置为检测所述抽屉的位移;
确定模块,被配置为根据所述抽屉的位移确定所述抽屉的抽出距离和所述抽出距离对应的第一区域;
摄像模块,被设置在所述储藏室内,并且被配置为对待放入食品进行拍摄,得到包括所述抽屉的多张图片;
识别模块,被配置为对所述包括所述抽屉的多张图片中的第二区域进行图像识别,得到所述待放入食品的相关信息,
其中,所述第二区域为所述第一区域之外的区域。
9.一种图像识别装置,包括处理器和存储有程序指令的存储器,其特征在于,所述处理器被配置为在执行所述程序指令时,执行如权利要求1至7中任一项所述的方法。
10.一种冰箱,其特征在于,包括如权利要求8或9所述的装置。
CN201910677881.3A 2019-07-25 2019-07-25 图像识别方法、图像识别装置及冰箱 Active CN112307807B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910677881.3A CN112307807B (zh) 2019-07-25 2019-07-25 图像识别方法、图像识别装置及冰箱

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910677881.3A CN112307807B (zh) 2019-07-25 2019-07-25 图像识别方法、图像识别装置及冰箱

Publications (2)

Publication Number Publication Date
CN112307807A true CN112307807A (zh) 2021-02-02
CN112307807B CN112307807B (zh) 2023-03-24

Family

ID=74329196

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910677881.3A Active CN112307807B (zh) 2019-07-25 2019-07-25 图像识别方法、图像识别装置及冰箱

Country Status (1)

Country Link
CN (1) CN112307807B (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090102575A (ko) * 2008-03-26 2009-09-30 엘지전자 주식회사 냉장고의 드로어 구동 시스템 및 제어 방법
US20090243454A1 (en) * 2008-03-26 2009-10-01 Yoo Myung Keun Refrigerator, system and method for driving a drawer of the refrigerator
WO2015056856A1 (en) * 2013-10-18 2015-04-23 Lg Electronics Inc. Refrigerator and control method for the same
CN105222521A (zh) * 2013-04-23 2016-01-06 Lg电子株式会社 冰箱及其控制方法
CN106885447A (zh) * 2017-03-23 2017-06-23 辽宁科技学院 一种冰箱的食材管理方法
US20180038632A1 (en) * 2015-02-13 2018-02-08 Lg Electronics Inc. Refrigerator

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090102575A (ko) * 2008-03-26 2009-09-30 엘지전자 주식회사 냉장고의 드로어 구동 시스템 및 제어 방법
US20090243454A1 (en) * 2008-03-26 2009-10-01 Yoo Myung Keun Refrigerator, system and method for driving a drawer of the refrigerator
CN105222521A (zh) * 2013-04-23 2016-01-06 Lg电子株式会社 冰箱及其控制方法
WO2015056856A1 (en) * 2013-10-18 2015-04-23 Lg Electronics Inc. Refrigerator and control method for the same
US20180038632A1 (en) * 2015-02-13 2018-02-08 Lg Electronics Inc. Refrigerator
CN106885447A (zh) * 2017-03-23 2017-06-23 辽宁科技学院 一种冰箱的食材管理方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
WOO,SEONG-WOO: "Improving the reliability of the design of a freezer drawer in a french door refrigerator subjected to repetitive food loading", 《RECENT PATENTS ON MECHANICAL ENGINEERING》 *
高冬花,等: "RFID技术在智能冰箱上的应用及影响因素的分析", 《日用电器》 *

Also Published As

Publication number Publication date
CN112307807B (zh) 2023-03-24

Similar Documents

Publication Publication Date Title
CN108416902B (zh) 基于差异识别的实时物体识别方法和装置
Zhang et al. Ev-loc: integrating electronic and visual signals for accurate localization
CN108921098B (zh) 人体运动分析方法、装置、设备及存储介质
WO2009148702A1 (en) Detecting and tracking targets in images based on estimated target geometry
US20140270362A1 (en) Fast edge-based object relocalization and detection using contextual filtering
US9594958B2 (en) Detection of spoofing attacks for video-based authentication
EP2704056A2 (en) Image processing apparatus, image processing method
CN110929658A (zh) 图像识别方法、图像识别装置及冰箱
EP2561465A1 (en) Viewpoint detector based on skin color area and face area
US10909388B2 (en) Population density determination from multi-camera sourced imagery
CN105698482A (zh) 冰箱内储物信息的确定方法与冰箱
CN110443224A (zh) 翻页检测方法、装置、电子设备及存储介质
CN109977251A (zh) 一种构建基于rgb直方图特征识别商品的方法
JP7482410B2 (ja) 入出庫管理装置、入出庫管理システム、及び、入出庫管理方法
CN112990115B (zh) 一种用于冰柜陈列识别的拍摄方法及系统
CN111078751A (zh) 一种基于unreal4进行目标统计的方法及其系统
CN112307807B (zh) 图像识别方法、图像识别装置及冰箱
CN106406507B (zh) 图像处理方法以及电子设备
CN107292901A (zh) 边缘检测方法及装置
JP7475000B2 (ja) 入出庫管理装置、入出庫管理システム、及び、入出庫管理方法
CN109583296A (zh) 一种防止误检测方法、装置、系统及计算机存储介质
CN114527456A (zh) 基于uwb的运动轨迹识别方法和电子设备
CN111985331B (zh) 预防商业秘密被窃照的检测方法及装置
CN114025075A (zh) 陈列柜中物品检测方法、陈列柜以及存储介质
CN104980621B (zh) 一种帧率调整方法及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant