CN114727097A - 图像检测识别装置及其检测识别方法 - Google Patents

图像检测识别装置及其检测识别方法 Download PDF

Info

Publication number
CN114727097A
CN114727097A CN202210351911.3A CN202210351911A CN114727097A CN 114727097 A CN114727097 A CN 114727097A CN 202210351911 A CN202210351911 A CN 202210351911A CN 114727097 A CN114727097 A CN 114727097A
Authority
CN
China
Prior art keywords
coordinate
vertex
midpoint
image
display area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210351911.3A
Other languages
English (en)
Inventor
胡正东
徐靖熙
侯成龙
陈晶
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Tuya Information Technology Co Ltd
Original Assignee
Hangzhou Tuya Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Tuya Information Technology Co Ltd filed Critical Hangzhou Tuya Information Technology Co Ltd
Priority to CN202210351911.3A priority Critical patent/CN114727097A/zh
Publication of CN114727097A publication Critical patent/CN114727097A/zh
Priority to PCT/CN2022/105235 priority patent/WO2023184783A1/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/004Diagnosis, testing or measuring for television systems or their details for digital television systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

本申请实施例公开了图像检测识别装置及其检测识别方法,用于优化电视机屏幕显示区域的检测和识别,实现实时屏幕取色,从而控制灯带颜色变化,提高用户的使用感受。本申请实施例方法包括:先验信息保存模块、摄像模块、图像处理模块、通讯模块;其中:先验信息保存模块,用于保存所述图像检测识别装置在初次启用时所需的先验信息,且在所述图像检测识别装置初次启用时将所述先验信息传输至图像处理模块;摄像模块,用于获取矩形显示区域的图像数据,并将所述图像数据传输至所述图像处理模块;图像处理模块,用于通过帧间相对差算法获取所述矩形显示区域的位置信息;通讯模块,用于所述图像检测识别装置与主机或终端之间的信息交互。

Description

图像检测识别装置及其检测识别方法
技术领域
本申请实施例涉及物联网智能家居领域,尤其涉及图像检测识别装置及其检测识别方法。
背景技术
随着物联网家用智能设备的普及,涌现出越来越多的智能应用场景。沉浸式智能电视机灯带就是一种融合智能照明、智能摄像机的产品。它主要通过摄像机实时获取电视机屏幕颜色,再控制安装在电视机背面的灯带显示对应颜色,实现一种沉浸式观影体验。
此类产品中主要技术可以概括为三部分,即电视机屏幕区域识别、实时屏幕取色、实时灯带控制。电视屏幕区域识别,目前上市产品主要通过人工标定来实现,即通过可视画面,用户通过界面交互手动完成区域标记。
但是这种标定过程在人为交互过程中会导致产品操作复杂、步骤冗余,用户体验差且还有可能标定结果不准确。
发明内容
本申请实施例提供了图像检测识别装置及其检测识别方法,具有更高的准确度,从而实现优化电视机屏幕显示区域的检测和识别,实现实时屏幕取色,且操作简便,提高用户的使用感受。
本申请实施例提供的一种图像检测识别装置,应用于家居智能设备,包括:先验信息保存模块、摄像模块、图像处理模块、通讯模块;其中:
先验信息保存模块,用于保存所述图像检测识别装置在初次启用时所需的先验信息,且在所述图像检测识别装置初次启用时将所述先验信息传输至图像处理模块,以使得所述图像处理模块根据所述先验信息确定矩形显示区域的位置信息;
摄像模块,用于获取矩形显示区域的图像数据,并将所述图像数据传输至所述图像处理模块,以使得所述图像处理模块根据所述图像数据确定所述矩形显示区域的位置信息;
图像处理模块,用于通过帧间相对差算法获取所述矩形显示区域的位置信息;
通讯模块,用于所述图像检测识别装置与主机或终端之间的信息交互,以有线连接方式或无线连接方式连接于主机或终端,以使得各种主机或终端都能连接所述图像检测识别装置而具备图像检测识别功能。
可选的,所述摄像模块通过安装于靠近所述矩形显示区域的任一边的中点位置的鱼眼摄像头获取矩形显示区域的图像数据。
可选的,通过人工标定的方式获取先验信息,并将所述先验信息保存在所述先验信息保存模块中。
可选的,所述先验信息包括位于安装边的第一顶点坐标、第二顶点坐标、第一中点坐标以及相对边所在区域;其中,所述安装边为所述矩形显示区域靠近安装所述鱼眼摄像头的边,所述相对边为所述矩形显示区域中与所述安装边相对的边,第一中点为所述安装边的第一顶点与第二顶点之间的中点。
本申请实施例提供的一种图像检测识别方法,应用于上述任一项所述的图像检测识别装置,包括:
获取先验信息,所述先验信息包括位于安装边的第一顶点坐标、第二顶点坐标、第一中点坐标以及相对边所在区域;其中,所述安装边为所述矩形显示区域靠近安装所述鱼眼摄像头的边,所述相对边为所述矩形显示区域中与所述安装边相对的边,第一中点为所述安装边的第一顶点与第二顶点之间的中点;
获取矩形显示区域的第一图像数据和第二图像数据,所述第一图像数据和所述第二图像数据为所述矩形显示区域在不同亮度状态下的图像数据;
对所述第一图像数据和所述第二图像数据运用帧间相对差算法,确认所述矩形显示区域的相对边的第三顶点坐标、第四顶点坐标和第二中点坐标,其中第二中点为矩形显示区域位于相对边的中点;
结合所述先验数据,通过所述第一顶点坐标与所述第三顶点坐标确定第三中点坐标,通过所述第二顶点坐标与所述第四顶点坐标确定第四中点坐标;其中,所述第三中点坐标为第一顶点与第三顶点之间的中点的坐标,所述第四中点坐标为第二顶点与第四顶点之间的中点的坐标;
将所述第一顶点坐标、所述第二顶点坐标、所述第三顶点坐标、所述第四顶点坐标、所述第一中点坐标、所述第二中点坐标、所述第三中点坐标以及所述第四中点坐标确定为所述矩形显示区域的位置信息。
可选的,所述获取先验信息包括:
获取多份样本图像数据,所述样本图像数据由所述鱼眼摄像头对不同尺寸的矩形显示区域进行拍摄得到;
根据样本图像建立目标坐标系,以样本图像的左上角顶点为坐标原点,沿着图像左上角顶点水平向右为X轴正方向,沿着图像左上角顶点垂直向下为Y轴正方向;
通过人工标定的方法在所述目标坐标系上标注每一个样本图像中位于安装边的第一顶点坐标、第二顶点坐标、第一中点坐标以及相对边所在区域;
根据多份样本图像的标注结果确定第一顶点坐标、第二顶点坐标、第一中点坐标以及相对边所在区域,并作为先验信息。
可选的,所述获取矩形显示区域的第一图像数据和第二图像数据包括:
通过与用户终端交互的形式获取所述矩形显示区域在不同亮度状态下的第一图像数据和第二图像数据。
可选的,所述对所述第一图像数据和所述第二图像数据运用帧间相对差算法,确认所述矩形显示区域的相对边的第三顶点坐标、第四顶点坐标和第二中点坐标包括:
根据所述第一图像数据和所述第二图像数据在不同亮度状态下的相对像素变化,将像素变大的区域标记为白色像素区域,将像素变小的区域标记为黑色像素区域,得到差分图像;
根据所述先验信息在所述差分图像上标注相对边所在区域;其中,相对边所在区域以矩形框表示,且矩形框内包括部分白色像素区域和部分黑色像素区域;
以矩形框左上角顶点为起点,一个像素点作为基本单位,每次统计矩形框内水平方向一行像素点的数量,且计算白色像素点数量在一行像素点总数中所占的第一比例;
沿Y轴方向遍历矩形框,当所述第一比例达到预设的第一条件时,确认当前行的纵坐标为相对边的第三顶点和第四顶点的纵坐标,所述第三顶点和所述第四顶点的横坐标为矩形框垂直于X轴的两条边的横坐标,得到所述第三顶点坐标和所述第四顶点坐标;
继续沿Y轴方向遍历矩形框,当所述第一比例达到预设的第二条件时,确认当前行的纵坐标为位于相对边的第二中点的纵坐标,取第三顶点的横坐标与第四顶点的横坐标的中间值作为所述第二中点的横坐标,得到所述第二中点坐标。
本申请实施例提供的一种图像检测识别设备,其特征在于,包括:
中央处理器,存储器以及输入输出接口;
所述存储器为短暂存储存储器或持久存储存储器;
所述中央处理器配置为与所述存储器通信,并执行所述存储器中的指令操作以执行前述的图像检测识别方法。
本申请实施例提供的一种计算机可读存储介质,包括指令,当所述指令在计算机上运行时,使得计算机执行前述的图像检测识别方法。
从以上技术方案可以看出,本申请实施例具有以下优点:
通过摄像模块获取矩形显示区域的图像数据,采用图像处理模块通过帧间相对差算法并结合人工标定的先验信息获取矩形显示区域的位置信息,具有更高的准确度,从而实现优化电视机屏幕显示区域的检测和识别,实现实时屏幕取色,且操作简便,提高用户的使用感受。
附图说明
图1为本申请实施例提供的图像检测识别装置的组成架构图;
图2为本申请实施例提供的图像检测识别方法的一种实施方式的示意图;
图3为本申请实施例提供的图像检测识别装置的结构示意图;
图4为本申请实施例提供的用户终端的交互界面;
图5为本申请实施例提供的鱼眼摄像头的监控画面截图和对应的用户终端的交互界面截图;
图6为本申请实施例提供的电视机在打开状态下用户终端的交互界面;
图7为本申请实施例提供的电视机在关闭状态下用户终端的交互界面;
图8为本申请实施例提供的电视机在关闭状态下在用户终端显示的截图;
图9为本申请实施例提供的电视机在打开状态下在用户终端显示的截图;
图10为本申请实施例提供的差分图像。
具体实施方式
本申请实施例提供了图像检测识别装置及其检测识别方法,具有更高的准确度,从而实现优化电视机屏幕显示区域的检测和识别,实现实时屏幕取色,且操作简便,提高用户的使用感受。
随着物联网家用智能设备的普及,涌现出越来越多的智能应用场景。沉浸式智能电视机灯带就是一种融合智能照明、智能摄像机的产品。它主要通过摄像机实时获取电视机屏幕颜色,再控制安装在电视机背面的灯带显示对应颜色,实现一种沉浸式观影体验。
此类产品中主要技术可以概括为三部分,即电视机屏幕区域识别、实时屏幕取色、实时灯带控制。电视屏幕区域识别,目前上市产品主要通过人工标定来实现,即通过可视画面,用户通过界面交互手动完成区域标记。
但是这种标定过程在人为交互过程中会导致产品操作复杂、步骤冗余,用户体验差且还有可能标定结果不准确。
基于此,本申请实施例提供了一种图像检测识别装置,应用于家居智能设备,请参阅图1,本申请实施例提供的图像检测识别装置的一种实施方式包括:先验信息保存模块101、摄像模块102、图像处理模块103以及通讯模块104。其中:
先验信息保存模块101,用于保存图像检测识别装置在初次启用时所需的先验信息,且在图像检测识别装置初次启用时将先验信息传输至图像处理模块,以使得图像处理模块根据先验信息确定矩形显示区域的位置信息。
结合本装置的使用场景,当本装置用于检测电视机或者其他具有显示器功能的设备时,应该在安装后初次启用时进行显示区域的检测识别和校准,值得注意的是,本申请实施例中矩形显示区域用于指代电视机屏幕等其他具有显示器功能的设备的矩形显示区域,本申请实施例中的初次启用也不局限于本装置第一次开机使用,还应当包括本装置进行系统重置的情况。
先验信息是由本装置的技术开发人员在装置设计制造阶段通过多次实验得到的用于实现本装置执行其功能的一些信息或参数,在装置生产阶段将其预存于先验信息保存模块101中,以便实现本装置的技术效果。
具体地,为了实现检测识别到矩形显示区域的位置信息的技术效果,本装置通过在设计开发阶段预先对多个尺寸的电视机屏幕进行图像获取,具体到通过选取覆盖35-70寸大小的电视机屏幕作为样本,通过实验验证当本装置的摄像头安装于指定区域时(如电视机屏幕的顶边或者底边接近中点的位置),摄像头的安装边的两个顶点总是落在通过摄像头看到的监控画面图像中的一定范围内,所以这两个顶点,以及安装边的中点的具体坐标位置就通过这种方式获取并设定为固定的坐标值预存在先验信息保存模块101中。且在开发试验阶段,开发人员还发现电视机屏幕的底边在经过摄像头成像存在变形的情况后,仍然可以落在一个固定的范围内,且这个范围可用一个矩形框来表示,所以将这个矩形框的位置也作为先验信息保存在先验信息保存模块101中。
摄像模块102,用于获取矩形显示区域的图像数据,并将图像数据传输至图像处理模块,以使得图像处理模块根据图像数据确定矩形显示区域的位置信息。
图像处理模块103,用于通过帧间相对差算法获取矩形显示区域的位置信息。
通过摄像模块102拍摄不同亮度状态下的多帧图像,对这多帧图像采用帧间差算法去获取到不同帧之间的相对变化情况,由于本实施例中所获取的多帧图像中所包含的像素点既包括电视机屏幕部分,也包括放置电视机的环境部分,所以当调节电视机的屏幕亮度时,每一帧图像的相同位置的像素变化存在相对变化趋势,本实施例中通过这种相对变化趋势从而获得矩形显示区域的位置信息,所采用的方法相对于行业内所公知的帧间差算法进行了基于相对变化趋势的改进,所以在本申请中采用“帧间相对差算法”的描述方式来体现具体的实现过程。
通讯模块104,用于图像检测识别装置与主机或终端之间的信息交互:设有包括USB、串口SPI总线中的一个或多个接口,以有线连接方式或无线连接方式连接与主机或终端,以使得具备不同接口的各种主机或终端都能连接图像检测识别装置而具备图像检测识别功能。
本实施例中,通过摄像模块102获取矩形显示区域的图像数据,采用图像处理模块103通过帧间相对差算法并结合人工标定的先验信息获取矩形显示区域的位置信息,具有更高的准确度,从而实现优化电视机屏幕显示区域的检测和识别,实现实时屏幕取色,且操作简便,提高用户的使用感受。
本申请实施例提供的图像检测识别装置的另一种实施方式包括:先验信息保存模块101、摄像模块102、图像处理模块103以及通讯模块104。其中:
先验信息保存模块101,用于保存图像检测识别装置在初次启用时所需的先验信息,且在图像检测识别装置初次启用时将先验信息传输至图像处理模块,以使得图像处理模块根据先验信息确定矩形显示区域的位置信息。
结合本装置的使用场景,当本装置用于检测电视机或者其他具有显示器功能的设备时,应该在安装后初次启用时进行显示区域的检测识别和校准,值得注意的是,本申请实施例中矩形显示区域用于指代电视机屏幕等其他具有显示器功能的设备的矩形显示区域,本申请实施例中的初次启用也不局限于本装置第一次开机使用,还应当包括本装置进行系统重置的情况。
先验信息是由本装置的技术开发人员在装置设计制造阶段通过多次实验得到的用于实现本装置执行其功能的一些信息或参数,在装置生产阶段将其预存于先验信息保存模块101中,以便实现本装置的技术效果。
具体地,为了实现检测识别到矩形显示区域的位置信息的技术效果,本装置通过在设计开发阶段预先对多个尺寸的电视机屏幕进行图像获取,具体到通过选取覆盖35-70寸大小的电视机屏幕作为样本,通过实验验证当本装置的摄像头安装于指定区域时(如电视机屏幕的顶边或者底边接近中点的位置),摄像头的安装边的两个顶点总是落在通过摄像头看到的监控画面图像中的一定范围内,所以这两个顶点,以及安装边的中点的具体坐标位置就通过这种方式获取并设定为固定的坐标值预存在先验信息保存模块101中。且在开发试验阶段,开发人员还发现电视机屏幕的底边在经过摄像头成像存在变形的情况后,仍然可以落在一个固定的范围内,且这个范围可用一个矩形框来表示,所以将这个矩形框的位置也作为先验信息保存在先验信息保存模块101中。
摄像模块102,用于获取矩形显示区域的图像数据,并将图像数据传输至图像处理模块,以使得图像处理模块根据图像数据确定矩形显示区域的位置信息。
本装置中摄像模块102采用鱼眼摄像头以获取到180°广角的监控画面,使得当本装置安装于电视机屏幕的顶端或底边上时,仍能将电视机屏幕的画面较为完整地体现在监控画面中。摄像模块102也可以有其他能实现同样技术效果的广角摄像头,具体此处不做限定。
在摄像头安装时,用户可以通过用户终端进行交互,以使得本装置获取到具体的安装位置信息,以便于后续检测电视机显示区域的步骤实现。具体的用户终端的交互界面可以如下图4所示。
例如,当鱼眼摄像头安装在电视机屏幕上方时,摄像头所拍摄的监控画面截图和对应的安装方式在用户终端的界面截图如图5所示。
如上图5为将鱼眼摄像头安装于70寸电视机顶边接近中点的位置所获取到的监控画面截图。两种方式的区别在于获取的电视机顶点位置不同,具体计算中顶点位置通过旋转变换即可。在人工标定获取先验信息的过程中,首先通过以上截图画面建立坐标系,其中图像左上角顶点为计算机坐标系中的原点(0,0),沿着图像左上角顶点水平往右为计算机坐标系中的X轴正方向,即横坐标。沿着图像左上角垂直往下为计算机坐标系中的Y轴正方向即纵坐标。
具体步骤如下:
将摄像头按照产品使用规则,安装在不同尺寸电视机顶部后,获取监控画面截图;
首先确定鱼眼图像顶部中点坐标,如图5中标注的实际电视机顶部中点;
再获取电视机顶部左右两个顶点坐标,如图5中左上角和右上角标注;
第三步获取电视机底部左中右三个坐标点,如图5中左下角和右下角标注。图中黑色框可以确定电视机底边的上下范围和长度范围,经过标定测量可确认不同35-70寸的电视机底边都能落在黑色边框内部;
电视机左右边框的中点,由左右两边的上下顶点连线中点计算得到,如图5中标注的实际电视机左、右边中点;
经过以上标定步骤,可以初步确定电视机在摄像头画面中的位置,为后续算法检测更精确顶点坐标提供支持。
图像处理模块103,用于通过帧间相对差算法获取所述矩形显示区域的位置信息。
通过摄像模块102拍摄不同亮度状态下的多帧图像,对这多帧图像采用帧间差算法去获取到不同帧之间的相对变化情况,由于本实施例中所获取的多帧图像中所包含的像素点既包括电视机屏幕部分,也包括放置电视机的环境部分,所以当调节电视机的屏幕亮度时,每一帧图像的相同位置的像素变化存在相对变化趋势,本实施例中通过这种相对变化趋势从而获得矩形显示区域的位置信息,所采用的方法相对于行业内所公知的帧间差算法进行了基于相对变化趋势的改进,所以在本申请中采用“帧间相对差算法”的描述方式来体现具体的实现过程。
本实施例中,可以通过用户在用户终端交互的方式获取电视机在打开和关闭状态下的两帧图像,为后续算法提供图像数据,交互界面如下图6、图7所示。
获取到的电视机在关、开状态下的两帧图像在用户终端显示的截图如下图8、图9所示,将两幅图片做帧间差分,获取差分图像如下图10。
差分过程中,利用电视机从关到开的状态,电视机屏幕区域亮度必然增大而背景区域亮度必然减小这一相对变化趋势,将图像中像素变大的区域标记为白色区域,反之标记为黑色区域,最终差分图像如图10所示。其中图像的大块白色区域为电视机屏幕区域,其他黑色区域为电视机以外的背景区域。结合先验信息可以快速定位电视机大概区域,本实施例中的电视机顶部的左、右顶点和中点都使用人工标定数据,继而结合帧间相对差算法,定位电视机底部顶点。
通讯模块104,用于图像检测识别装置与主机或终端之间的信息交互,以有线连接方式或无线连接方式连接与主机或终端,以使得各种主机或终端都能连接图像检测识别装置而具备图像检测识别功能。
本实施例中,摄像模块102通过鱼眼摄像头获取矩形显示区域的图像数据,使得电视机屏幕能够完整地出现在监控画面中,采用图像处理模块103通过帧间相对差算法并结合人工标定的先验信息获取矩形显示区域的位置信息,具有更高的准确度,从而实现优化电视机屏幕显示区域的检测和识别,实现实时屏幕取色,并且具体体现了用户终端交互的实现过程,可看出其操作简便,能够实现提高用户的使用感受。
请参阅图2,本申请实施例提供的图像检测识别方法的一种实施方式包括步骤201至步骤205。
201、获取先验信息。
先验信息包括位于安装边的第一顶点坐标、第二顶点坐标、第一中点坐标以及相对边所在区域;其中,安装边为矩形显示区域靠近安装鱼眼摄像头的边,相对边为矩形显示区域中与安装边相对的边,第一中点为所述安装边的第一顶点与第二顶点之间的中点。
具体地,获取多份样本图像数据,样本图像数据为由鱼眼摄像头对不同尺寸的矩形显示区域进行拍摄得到的监控画面。根据样本图像建立目标坐标系,以样本图像的左上角顶点为坐标原点,沿着图像左上角顶点水平向右为X轴正方向,沿着图像左上角顶点垂直向下为Y轴正方向。
在人工标定过程中,首先将样本图像顶边的中点确定为第一中点,根据其在目标坐标系中的具体位置确定第一中点坐标。其次,对多份样本图像逐份进行放大,开发人员通过对放大后的样本图像进行肉眼观测并确定每一份样本图像中的安装边的第一顶点和第二顶点的具体位置并进行标注,结合目标坐标系确定多份样本图像中的第一顶点坐标和第二顶点坐标。将多份样本图像中的第一顶点坐标形成第一顶点坐标集合,将多份样本图像中的第二顶点坐标形成第二顶点坐标集合,对第一顶点坐标集合求平均值,得到的平均值坐标确定为先验信息中通过人工标定方式获取的第一顶点坐标,同理,也可用此方法获取先验信息中的第二顶点坐标。
开发人员在人工标定过程中还发现电视机屏幕的底边在经过摄像头成像存在变形的情况后,仍然可以落在一个固定的范围内,且这个范围可用一个矩形框来表示,所以将这个矩形框的位置也作为先验信息
202、获取矩形显示区域的第一图像数据和第二图像数据。
第一图像数据和第二图像数据为矩形显示区域在不同亮度状态下的图像数据。具体可通过与用户终端交互的形式控制鱼眼摄像头获取矩形显示区域在不同亮度状态下的第一图像数据和第二图像数据。
203、对第一图像数据和第二图像数据运用帧间相对差算法,确认矩形显示区域的相对边的第三顶点坐标、第四顶点坐标和第二中点坐标。
根据第一图像数据和第二图像数据在不同亮度状态下的相对像素变化,将像素变大的区域标记为白色像素区域,将像素变小的区域标记为黑色像素区域,得到差分图像。根据先验信息在差分图像上标注相对边所在区域;其中,相对边所在区域以矩形框表示,且矩形框内包括部分白色像素区域和部分黑色像素区域。以矩形框左上角顶点为起点,一个像素点作为基本单位,每次统计矩形框内水平方向一行像素点的数量,且计算白色像素点数量在一行像素点总数中所占的第一比例。沿Y轴方向遍历矩形框,当第一比例达到预设的第一条件时,确认当前行的纵坐标为相对边的第三顶点和第四顶点的纵坐标,第三顶点和第四顶点的横坐标为矩形框垂直于X轴的两条边的横坐标,得到第三顶点坐标和第四顶点坐标。继续沿Y轴方向遍历矩形框,当第一比例达到预设的第二条件时,确认当前行的纵坐标为位于相对边的第二中点的纵坐标,取第三顶点的横坐标与第四顶点的横坐标的中间值作为第二中点的横坐标,得到第二中点坐标。
具体地,预设的第一条件可以为:遍历过程中,当白色像素占比连续两次小于90%。预设的第二条件可以为:遍历过程中,当白色像素占比连续两次小于60%。以上数据通过开发人员在开发测试过程中试验得出的效果最优值,在实际应用过程中,可以通过调节阈值来增强本方案的容错性,得到相对较优的检测识别结果,具体此处不做限定。
204、结合先验数据,通过第一顶点坐标与第三顶点坐标确定第三中点坐标,通过第二顶点坐标与第四顶点坐标确定第四中点坐标。
第三中点坐标为第一顶点与第三顶点之间的中点的坐标,第四中点坐标为第二顶点与第四顶点之间的中点的坐标。
205、将第一顶点坐标、第二顶点坐标、第三顶点坐标、第四顶点坐标、第一中点坐标、第二中点坐标、第三中点坐标以及第四中点坐标确定为矩形显示区域的位置信息。
本实施例中,通过鱼眼摄像头获取矩形显示区域的图像数据,使得电视机屏幕能够完整地出现在监控画面中,通过帧间相对差算法并结合人工标定的先验信息获取矩形显示区域的位置信息,具有更高的准确度,从而实现优化电视机屏幕显示区域的检测和识别,实现实时屏幕取色,提高用户的使用感受。
图3是本申请实施例提供的图像检测识别装置结构示意图,该图像检测识别装置300可以包括一个或一个以上中央处理器(central processing units,CPU)301和存储器305,该存储器305中存储有一个或一个以上的应用程序或数据。
其中,存储器305可以是易失性存储或持久存储。存储在存储器305的程序可以包括一个或一个以上模块,每个模块可以包括对图像检测识别装置中的一系列指令操作。更进一步地,中央处理器301可以设置为与存储器305通信,在图像检测识别装置300上执行存储器305中的一系列指令操作。
图像检测识别装置300还可以包括一个或一个以上电源302,一个或一个以上有线或无线网络接口303,一个或一个以上输入输出接口304,和/或,一个或一个以上操作系统,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM等。
该中央处理器301可以执行前述图1至图2所示实施例中图像检测识别装置所执行的操作,具体此处不再赘述。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,read-onlymemory)、随机存取存储器(RAM,random access memory)、磁碟或者光盘等各种可以存储程序代码的介质。

Claims (10)

1.一种图像检测识别装置,应用于家居智能设备,其特征在于,包括:先验信息保存模块、摄像模块、图像处理模块、通讯模块;其中:
先验信息保存模块,用于保存所述图像检测识别装置在初次启用时所需的先验信息,且在所述图像检测识别装置初次启用时将所述先验信息传输至图像处理模块,以使得所述图像处理模块根据所述先验信息确定矩形显示区域的位置信息;
摄像模块,用于获取矩形显示区域的图像数据,并将所述图像数据传输至所述图像处理模块,以使得所述图像处理模块根据所述图像数据确定所述矩形显示区域的位置信息;
图像处理模块,用于通过帧间相对差算法获取所述矩形显示区域的位置信息;
通讯模块,用于所述图像检测识别装置与主机或终端之间的信息交互,以有线连接方式或无线连接方式连接于主机或终端,以使得各种主机或终端都能连接所述图像检测识别装置而具备图像检测识别功能。
2.根据权利要求1所述的图像检测识别装置,其特征在于,所述摄像模块通过安装于靠近所述矩形显示区域的任一边的中点位置的鱼眼摄像头获取矩形显示区域的图像数据。
3.根据权利要求2所述的图像检测识别装置,其特征在于,通过人工标定的方式获取先验信息,并将所述先验信息保存在所述先验信息保存模块中。
4.根据权利要求3所述的图像检测识别装置,其特征在于,所述先验信息包括位于安装边的第一顶点坐标、第二顶点坐标、第一中点坐标以及相对边所在区域;其中,所述安装边为所述矩形显示区域靠近安装所述鱼眼摄像头的边,所述相对边为所述矩形显示区域中与所述安装边相对的边,第一中点为所述安装边的第一顶点与第二顶点之间的中点。
5.一种图像检测识别方法,应用于权利要求2至4中任一项所述的图像检测识别装置,其特征在于,包括:
获取先验信息,所述先验信息包括位于安装边的第一顶点坐标、第二顶点坐标、第一中点坐标以及相对边所在区域;其中,所述安装边为所述矩形显示区域靠近安装所述鱼眼摄像头的边,所述相对边为所述矩形显示区域中与所述安装边相对的边,第一中点为所述安装边的第一顶点与第二顶点之间的中点;
获取矩形显示区域的第一图像数据和第二图像数据,所述第一图像数据和所述第二图像数据为所述矩形显示区域在不同亮度状态下的图像数据;
对所述第一图像数据和所述第二图像数据运用帧间相对差算法,确认所述矩形显示区域的相对边的第三顶点坐标、第四顶点坐标和第二中点坐标,其中第二中点为矩形显示区域位于相对边的中点;
结合所述先验数据,通过所述第一顶点坐标与所述第三顶点坐标确定第三中点坐标,通过所述第二顶点坐标与所述第四顶点坐标确定第四中点坐标;其中,所述第三中点坐标为第一顶点与第三顶点之间的中点的坐标,所述第四中点坐标为第二顶点与第四顶点之间的中点的坐标;
将所述第一顶点坐标、所述第二顶点坐标、所述第三顶点坐标、所述第四顶点坐标、所述第一中点坐标、所述第二中点坐标、所述第三中点坐标以及所述第四中点坐标确定为所述矩形显示区域的位置信息。
6.根据权利要求5所述的图像检测识别方法,其特征在于,所述获取先验信息包括:
获取多份样本图像数据,所述样本图像数据由所述鱼眼摄像头对不同尺寸的矩形显示区域进行拍摄得到;
根据样本图像建立目标坐标系,以样本图像的左上角顶点为坐标原点,沿着图像左上角顶点水平向右为X轴正方向,沿着图像左上角顶点垂直向下为Y轴正方向;
通过人工标定的方法在所述目标坐标系上标注每一个样本图像中位于安装边的第一顶点坐标、第二顶点坐标、第一中点坐标以及相对边所在区域;
根据多份样本图像的标注结果确定第一顶点坐标、第二顶点坐标、第一中点坐标以及相对边所在区域,并作为先验信息。
7.根据权利要求6所述的图像检测识别方法,其特征在于,所述获取矩形显示区域的第一图像数据和第二图像数据包括:
通过与用户终端交互的形式获取所述矩形显示区域在不同亮度状态下的第一图像数据和第二图像数据。
8.根据权利要求7所述的图像检测识别方法,其特征在于,所述对所述第一图像数据和所述第二图像数据运用帧间相对差算法,确认所述矩形显示区域的相对边的第三顶点坐标、第四顶点坐标和第二中点坐标包括:
根据所述第一图像数据和所述第二图像数据在不同亮度状态下的相对像素变化,将像素变大的区域标记为白色像素区域,将像素变小的区域标记为黑色像素区域,得到差分图像;
根据所述先验信息在所述差分图像上标注相对边所在区域;其中,相对边所在区域以矩形框表示,且矩形框内包括部分白色像素区域和部分黑色像素区域;
以矩形框左上角顶点为起点,一个像素点作为基本单位,每次统计矩形框内水平方向一行像素点的数量,且计算白色像素点数量在一行像素点总数中所占的第一比例;
沿Y轴方向遍历矩形框,当所述第一比例达到预设的第一条件时,确认当前行的纵坐标为相对边的第三顶点和第四顶点的纵坐标,所述第三顶点和所述第四顶点的横坐标为矩形框垂直于X轴的两条边的横坐标,得到所述第三顶点坐标和所述第四顶点坐标;
继续沿Y轴方向遍历矩形框,当所述第一比例达到预设的第二条件时,确认当前行的纵坐标为位于相对边的第二中点的纵坐标,取第三顶点的横坐标与第四顶点的横坐标的中间值作为所述第二中点的横坐标,得到所述第二中点坐标。
9.一种图像检测识别设备,其特征在于,包括:
中央处理器,存储器以及输入输出接口;
所述存储器为短暂存储存储器或持久存储存储器;
所述中央处理器配置为与所述存储器通信,并执行所述存储器中的指令操作以执行权利要求5至8中任意一项所述的方法。
10.一种计算机可读存储介质,包括指令,当所述指令在计算机上运行时,使得计算机执行如权利要求5至8中任意一项所述的方法。
CN202210351911.3A 2022-04-02 2022-04-02 图像检测识别装置及其检测识别方法 Pending CN114727097A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202210351911.3A CN114727097A (zh) 2022-04-02 2022-04-02 图像检测识别装置及其检测识别方法
PCT/CN2022/105235 WO2023184783A1 (zh) 2022-04-02 2022-07-12 图像检测识别装置及其检测识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210351911.3A CN114727097A (zh) 2022-04-02 2022-04-02 图像检测识别装置及其检测识别方法

Publications (1)

Publication Number Publication Date
CN114727097A true CN114727097A (zh) 2022-07-08

Family

ID=82241647

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210351911.3A Pending CN114727097A (zh) 2022-04-02 2022-04-02 图像检测识别装置及其检测识别方法

Country Status (2)

Country Link
CN (1) CN114727097A (zh)
WO (1) WO2023184783A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023184783A1 (zh) * 2022-04-02 2023-10-05 杭州涂鸦信息技术有限公司 图像检测识别装置及其检测识别方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102289328A (zh) * 2011-08-03 2011-12-21 王珂 一种基于手持摄像头的人机交互方法及装置
CN102984563A (zh) * 2011-09-05 2013-03-20 富士通半导体(上海)有限公司 一种智能遥控电视系统及其遥控方法
JP2013161247A (ja) * 2012-02-03 2013-08-19 Sharp Corp 操作装置、表示装置、遠隔操作システム、操作装置の制御方法、制御プログラム、および、記録媒体
CN107103865B (zh) * 2017-04-10 2020-12-15 海信视像科技股份有限公司 检测显示屏中显示区域的方法和装置
CN108414193B (zh) * 2018-03-28 2020-04-28 京东方科技集团股份有限公司 显示屏的检测区域定位方法和装置
CN114727097A (zh) * 2022-04-02 2022-07-08 杭州涂鸦信息技术有限公司 图像检测识别装置及其检测识别方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023184783A1 (zh) * 2022-04-02 2023-10-05 杭州涂鸦信息技术有限公司 图像检测识别装置及其检测识别方法

Also Published As

Publication number Publication date
WO2023184783A1 (zh) 2023-10-05

Similar Documents

Publication Publication Date Title
CN108470334B (zh) 一种采集屏幕亮度和色度的方法及装置
US20180218485A1 (en) Method and apparatus for fusing plurality of depth images
US10511776B2 (en) Image fusion method and apparatus, and terminal device
CN114339194B (zh) 投影显示方法、装置、投影设备及计算机可读存储介质
CN108234824B (zh) 阴影校正检测参数确定、校正检测方法及装置、存储介质、鱼眼相机
CN111062881A (zh) 图像处理方法及装置、存储介质、电子设备
CN112272292B (zh) 投影校正方法、装置和存储介质
CN109658427B (zh) 图像处理方法及装置
CN111083458B (zh) 一种亮度校正方法、系统、设备及计算机可读存储介质
CN107635099B (zh) 一种人体感应双光网络摄像机及安防监控系统
CN112950502B (zh) 图像处理方法及装置、电子设备、存储介质
CN113825281A (zh) 灯光控制方法、灯光控制器、设备及存储介质
CN114727097A (zh) 图像检测识别装置及其检测识别方法
CN114140521A (zh) 一种识别投影位置的方法、装置、系统和存储介质
US11398052B2 (en) Camera positioning method, device and medium
CN116337412A (zh) 屏幕检测方法、设备及存储介质
WO2022105277A1 (zh) 投影控制方法、装置、投影光机及可读存储介质
CN115345774A (zh) 一种红外图像与可见光图像的融合方法和系统
CN112433641A (zh) 一种多rgbd深度传感器的自动校准桌面道具互动系统的实现方法
WO2024055531A1 (zh) 照度计数值识别方法、电子设备及存储介质
CN111369513A (zh) 一种异常检测方法、装置、终端设备及存储介质
CN115278103A (zh) 一种基于环境感知的安防监控图像补偿处理方法及系统
CN116343652A (zh) Led显示屏拼接线补偿系统、方法、设备及存储介质
CN113395434B (zh) 一种预览图像虚化方法、存储介质及终端设备
CN111970501A (zh) 纯色场景ae色彩处理方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination