CN114565848B - 一种复杂场景的药液液位检测方法及系统 - Google Patents

一种复杂场景的药液液位检测方法及系统 Download PDF

Info

Publication number
CN114565848B
CN114565848B CN202210180545.XA CN202210180545A CN114565848B CN 114565848 B CN114565848 B CN 114565848B CN 202210180545 A CN202210180545 A CN 202210180545A CN 114565848 B CN114565848 B CN 114565848B
Authority
CN
China
Prior art keywords
liquid level
medicine
limit value
image
liquid
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210180545.XA
Other languages
English (en)
Other versions
CN114565848A (zh
Inventor
曾友伟
杨雪松
陈琳
谢振华
邓晓
陈思
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Foshan Map Reading Technology Co ltd
Original Assignee
Foshan Map Reading Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Foshan Map Reading Technology Co ltd filed Critical Foshan Map Reading Technology Co ltd
Priority to CN202210180545.XA priority Critical patent/CN114565848B/zh
Publication of CN114565848A publication Critical patent/CN114565848A/zh
Application granted granted Critical
Publication of CN114565848B publication Critical patent/CN114565848B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Measurement Of Levels Of Liquids Or Fluent Solid Materials (AREA)
  • Image Analysis (AREA)

Abstract

一种复杂场景的药液液位检测方法及系统,所述方法包括如下步骤:步骤A:设定光源、光源照明方向和照明方式;步骤B:设定相机、相机镜头和相机内参;步骤C:基于步骤A和B采集药瓶的图像;步骤D:通过图像标注工具对所采集的药瓶的图像中的药液液面进行标注,将标注后的数据作为数据集;步骤E:通过yolov5对数据集进行模型训练得到检测模型;步骤F:使用检测模型对待检测图像进行药液液面检测,得到药液液面的液面检测框,根据液面检测框和液面上下限值判断待检测图像中药瓶是否存在药液超量或缺量,以及药瓶是否缺支。本发明提出一种复杂场景的药液液位检测方法,以解决传统图像处理方法无法适应复杂场景药液液位检测的问题。

Description

一种复杂场景的药液液位检测方法及系统
技术领域
本发明涉及液位检测技术领域,尤其涉及一种复杂场景的药液液位检测方法及系统。
背景技术
在传统的药液灌装工序中,药液液位高度通常采用的是人工去目测液位高度。随着生产的规模的不断扩大,采用人工的方法效率低,因此药液液位全自动检测的需求越来越大。目前市面上已有光电传感器检测、超声波检测和机器视觉液位检测等液位检测方法,其中机器视觉液位检测是一种非接触式、无损的检测方法。它具有效率高、检测精度高、设备维护简单等优点,被广泛应用于液位检测项目中。
目前机器视觉检测药液液位通常使用模板匹配等传统图像处理方法,传统图像处理方法很难适应复杂场景药液液位检测
发明内容
本发明的目的在于针对背景技术中的缺陷,提出一种复杂场景的药液液位检测方法及系统,以解决传统图像处理方法无法适应复杂场景药液液位检测的问题。
为了解决上述问题,本发明提出一种复杂场景的药液液位检测方法,包括如下步骤:
步骤A:设定光源、光源照明方向和照明方式;
步骤B:设定相机、相机镜头和相机内参;
步骤C:基于步骤A和B采集药瓶的图像;
步骤D:通过图像标注工具对所采集的药瓶的图像中的药液液面进行标注,将标注后的数据作为数据集;
步骤E:通过yolov5对数据集进行模型训练得到检测模型;
步骤F:使用检测模型对待检测图像进行药液液面检测,得到药液液面的液面检测框,根据液面检测框和液面上下限值判断待检测图像中药瓶是否存在药液超量或缺量,以及药瓶是否缺支。
优选的,在所述步骤A中,包括选择背向照明的白光板型光源,以频闪的方式对药瓶进行打光。
优选的,在所述步骤D中,包括使用labelimg图像标注工具对药瓶的图像中的药液液面进行标注;
标注数据时,以液面凹面的顶点作为纵坐标的起点,以液面凹面的底部作为纵坐标的终点。
优选的,对标注后的图像,通过裁剪、镜像、增强噪声的图像增强方式扩充数据,并根据对应的图像增强方式对数据集进行同步修改。
优选的,在所述步骤F中,使用检测模型对待检测图像进行药液液面检测,得到药液液面的液面检测框,判断待检测图像中药瓶是否存在药液超量或缺量,以及药瓶是否缺支,包括:
步骤F1:通过形态学滤波对待检测图像进行去噪,并对去噪后的图像进行边缘点搜索;
步骤F2:通过最小二乘法对搜索到的边缘点进行直线拟合,得到拟合后的直线的斜率和截距,拟合后的直线即为药瓶的侧边,拟合后的直线的斜率即为药瓶的倾斜度;
步骤F3:通过拟合后的直线与药液液面的垂直关系,根据药瓶倾斜度动态调整药液液面的上下限值;
步骤F4:根据液面检测框的数量判定待检测图像中的药瓶是否缺支,根据药液液面的上下限值判定待检测图像中的药瓶的药量是否超量或缺量。
优选的,在所述步骤F1中,通过形态学滤波对待检测图像进行去噪,包括:
使用开闭滤波方式,对待检测图像执行腐蚀和膨胀操作;
将待检测图像的原始信号设置为x(n),其中n=1,2,……,N,n表示原始信号序号;
设置结构元素为g(m),其中m=1,2,……,M,且N≥M,m表示结构元素序号;
则x(n)关于g(m)的腐蚀和膨胀操作包括:
(xΘg)(n)=min[x(n+m)-g(m)]m∈0,1,……,M-1;
(x⊕g)(n)=max[x(n-m)+g(m)]m∈0,1, ……,M-1;
x(n)关于g(m)的开运算操作为:
(x◦g)(n)=(xΘg)⊕g;
x(n)关于g(m)的闭运算操作为:
(x●g)(n)=(x⊕g)Θg;
对去噪后的图像进行边缘点搜索,包括:
从去噪后的图像的y方向等距取20个点,往去噪后的图像的x方向搜索,当搜索到像素值小于设定阈值时,表示搜索到边缘点。
优选的,在步骤F2中,通过最小二乘法对搜索到的边缘点进行直线拟合,得到拟合后的直线的斜率和截距,包括:
根据公式一和公式二得到拟合后的直线的斜率和截距;
Figure 460751DEST_PATH_IMAGE002
--公式一;
Figure 846733DEST_PATH_IMAGE003
--公式二;
其中:
A表示拟合后的直线的斜率;
B表示拟合后的直线的截距;
x表示待观察的边缘点的横坐标;
y表示待观察边缘的纵坐标;
Figure 829732DEST_PATH_IMAGE004
表示待观察边缘点的横坐标的均值;
Figure 693783DEST_PATH_IMAGE005
表示待观察边缘点的纵坐标的均值。
优选的,在所述步骤F3:通过拟合后的直线与药液液面垂直的关系,根据药瓶倾斜度动态调整药液液面的上下限值,包括:
根据拟合后的直线的斜率,基于拟合后的直线与药液液面垂直的关系,获取药液液面上限值和下限值所在直线的斜率,以此获得上限值所在直线和下限值所在直线;
上限值所在直线表示为公式三;
Figure 773735DEST_PATH_IMAGE007
--公式三;
下限值所在直线表示为公式四;
Figure 799459DEST_PATH_IMAGE009
--公式四;
其中:
A表示拟合后的直线的斜率,
Figure 535334DEST_PATH_IMAGE010
表示上限值所在直线
Figure 999814DEST_PATH_IMAGE011
的斜率,
Figure 137534DEST_PATH_IMAGE012
表示下限 值所在直线
Figure 334160DEST_PATH_IMAGE013
的斜率;
B1表示上限值的纵坐标,B2表示下限值的纵坐标。
优选的,在所述步骤F4中,根据动态调整后的药液液面的上下限值判定待检测图像中的药瓶的药量是否超量或缺量,包括:
液面检测框的中心坐标为
Figure 354069DEST_PATH_IMAGE014
,动态调整后的液面的上限值的纵坐标为
Figure 559922DEST_PATH_IMAGE015
, 上限值的纵坐标为
Figure 286570DEST_PATH_IMAGE016
Figure 981993DEST_PATH_IMAGE017
时,判定药瓶的药量为超量;
Figure 426881DEST_PATH_IMAGE018
时,判定药瓶的药量为缺量。
一种复杂场景的药液液位检测系统,应用于所述一种复杂场景的药液液位检测方法,所述系统包括图像采集模块、液面检测模块、药瓶倾斜度计算模块和液面缺陷判定模块;
图像采集模块,用于通过设定后的相机在设定种类的光源、光源照明方向、光源照明方式下获取待检测药瓶图像;
液面检测模块,用于通过yolov5训练的检测模型,根据检测模型检测待检测图像,并提取药瓶的液面检测框。
药瓶倾斜度计算模块,用于通过形态学滤波进行所述待检测图像的去噪,并对去噪后的图像进行边缘点搜索,通过最小二乘法对上述搜索到的边缘点进行直线拟合,得到拟合后直线的斜率,拟合后直线的斜率就是药瓶倾斜度;
液面缺陷判定模块,用于配置液面上限和下限值,通过上述拟合后直线与药液液面垂直的关系,根据药瓶倾斜度,动态调整液位上下限的值;再通过液面检测模块提取的药瓶液面的液面检测框和动态调整液位上下限的值判定药量超量还是缺量;根据液面检测模块提取的液面检测框数量判定是否缺支。
本发明实施例具有以下有益效果:
1、本发明以白光板型光源作为采集图像的背景光源,以频闪方式进行打光,充分利用频闪发光强度大、色温稳定的特点,获得高对比度的图像;
2、本发明采集药品的图像,对采集图像中的药液液面进行标注,得到药液液面数据集;通过yolov5对数据集进行模型训练,使用训练后的模型对药液液面进行检测,得到液面检测框;本方法相比于传统的图像处理检测药液液面的方法,适应性、泛化性、鲁棒性更强能更好检测药瓶倾斜的液面、下方有气泡的液面、上方有泡沫的液面、倾斜的液面;
3、本发明在瓶身倾斜的情况下,搜索药瓶边缘点,再通过最小二乘法对搜索到的边缘点进行直线拟合,通过拟合后直线与药液液面垂直的关系,动态调整液位上下限的值;结合液位检测结果与调整后的液位上下限的值,从而判断药液是否超量、缺量、缺支的问题。
附图说明
图1是本发明的一种复杂场景的药液液面检测方法的流程示意图;
图2是本发明的一种实施例的前向照明示意图;
图3是本发明的一种实施例的背向照明示意图;
图4是本发明的一种实施例的边缘搜索示意图;
图5是本发明的一种实施例的直线拟合示意图;
图6是本发明的一种实施例的液面上下限调整后的效果图;
图7是本发明的一种实施例的药瓶倾斜状态液位检测和判定效果图;
图8是本发明的一种实施例的液面上方有液泡的液位检测和判定效果图;
图9是本发明的一种实施例的液面下方有气泡的液位检测和判定效果图;
图10是本发明的一种实施例的液面倾斜的液位检测和判定效果图;
图11时本发明的一种复杂场景的液面液位检测系统的框架图。
具体实施方式
下面结合附图并通过具体实施方式来进一步说明本发明的技术方案。
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的说明书和权利要求书的术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、装置、产品或端没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或端固有的其他步骤或单元。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本发明的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
本发明提出的一种复杂场景的药液液位检测方法,如图1所示,包括如下步骤:
步骤A:设定光源、光源照明方向和照明方式;
优选的,在所述步骤A中,包括选择背向照明的白光板型光源,以频闪的方式对药瓶进行打光。
白色光源适用性普遍且亮度高,而频闪发光强度大、色温稳定,如图2所示,前向照明适用于凸显物体表面细节,如图3所示,背向照明适合用于凸显物体的轮廓信息,本实施例中,采用背向照明的白光板型光源,以频闪的方式对药瓶进行打光。
步骤B:设定相机、相机镜头和相机内参;
在本实施例中,所设定的相机、镜头和相机内参分别为:海康200w像素相机;镜头为25mm焦距镜头;相机内参为曝光时间100us,伽马值0.7。
步骤C:基于步骤A和B采集药瓶的图像;
步骤D:通过图像标注工具对所采集的药瓶的图像中的药液液面进行标注,将标注后的数据作为数据集;
优选的,在所述步骤D中,包括使用labelimg图像标注工具对药瓶的图像中的药液液面进行标注,所标注的数据集中应包含形态丰富的药液液面,本实施例中形态丰富的药液液面可以如图7所示的整个瓶倾斜时的液面;如图8所示的液面上有泡沫;如图9所示的液面下有气泡;如图10所示液面倾斜;
只有数据集里包含各种形态的液面,训练后的模型才能准确检测到液面,不然会出现液面漏检而导致误判;
标注数据时,以液面凹面的顶点作为纵坐标的起点,以液面凹面的底部作为纵坐标的终点。
标注数据的目的在于标注清楚的数据集关系到检测模型的最终效果以及最后的判定;只有标注准确,训练后的检测模型才能在待检测图片上得到准确的液面检测框;只有得到准确的液面检测框,后续的超量/缺量判定才能准确。
优选的,对标注后的图像,通过裁剪、镜像、增强噪声的图像增强方式扩充数据,并根据对应的图像增强方式对数据集进行同步修改。
在本实施例中,图像增强方式具体可以为:
裁剪:将图像上下各裁掉10%,然后保存裁掉后的图像,同时相应修改其标注数据集xml文件里的图像宽高和标注框起止点坐标信息;
镜像:对图像左右镜像变换,然后保存变换后的图像,同时相应修改其标注数据xml文件里的图像标注框起止点坐标信息;
噪声:对图像加椒盐噪声或者高斯噪声,然后保存加噪后的图像,其标注数据xml文件不用修改。
步骤E:通过yolov5对数据集进行模型训练得到检测模型;
在本实施例中,使用yolov5作为检测器;训练时以yolov5m.pt作为预训练模型,所述训练过程如下所示:
对数据集按照4:1的比例,划分训练集和验证集;
以yolov5m.pt作为预训练模型;
将img_size设为640*640,学习率设为0.01,最大迭代次数epochs设为600,同时关闭垂直镜像的数据增强功能;
迭代600次后得到训练后的模型。
步骤F:使用检测模型对待检测图像进行药液液面检测,得到药液液面的液面检测框,根据液面检测框和液面上下限值判断待检测图像中药瓶是否存在药液超量或缺量,以及药瓶是否缺支。
优选的,具体包括:
步骤F1:通过形态学滤波对待检测图像进行去噪,并对去噪后的图像进行边缘点搜索;
由于光源板上易占有灰尘等异物,以及采集到的图像往往包含噪声,因此需要对图像去噪,以便给下一步边缘搜索提供高质量图像。
形态学开闭运算是一对对偶变换,形态开运算可以抑制信号中的正脉冲噪声,而形态闭运算可以抑制信号中的负脉冲噪声。由于形态开、闭运算存在统计偏倚现象,导致单独使用他们的滤波效果并不是很好,因此本发明采用开闭滤波方法。
优选的,在所述步骤F1中,通过形态学滤波对待检测图像进行去噪,包括:
使用开闭滤波方式,对待检测图像执行腐蚀和膨胀操作;
将待检测图像的原始信号设置为x(n),其中n=1,2,……,N,n表示原始信号序号;
设置结构元素为g(m),其中m=1,2,……,M,且N≥M,m表示结构元素序号;
则x(n)关于g(m)的腐蚀和膨胀操作包括:
(xΘg)(n)=min[x(n+m)-g(m)]m∈0,1,……,M-1;
(x⊕g)(n)=max[x(n-m)+g(m)]m∈0,1, ……,M-1;
x(n)关于g(m)的开运算操作为:
(x◦g)(n)=(xΘg)⊕g;
x(n)关于g(m)的闭运算操作为:
(x●g)(n)=(x⊕g)Θg;
背光源照明让药瓶的边缘和背景有明显的区分,因此为了提高计算速率,使用像素搜索的方式搜索边缘点;
具体的,如图4所示,对去噪后的图像进行边缘点搜索,包括:
从去噪后的图像的y方向等距取20个点,往去噪后的图像的x方向搜索,当搜索到像素值小于设定阈值时,表示搜索到边缘点。
步骤F2:通过最小二乘法对搜索到的边缘点进行直线拟合,得到拟合后的直线的斜率和截距,拟合后的直线即为药瓶的侧边,拟合后的直线的斜率即为药瓶的倾斜度;
如图5所示,步骤F1中搜索得到的边缘点为离散的点,为此本申请采用最小二乘法对上述边缘点进行直线拟合;
具体过程如下:
设置拟合直线y=a+bx;
y=a+bx为回归直线方程,待观察的离散点的x值为
Figure 967584DEST_PATH_IMAGE019
,待观察的离 散点的y值为
Figure 79896DEST_PATH_IMAGE020
误差:
Figure 618325DEST_PATH_IMAGE021
Figure 612826DEST_PATH_IMAGE022
表示离散点与回归直线方程的偏离距离;
最小二乘法:
Figure 151693DEST_PATH_IMAGE023
求偏导可得:
Figure 852932DEST_PATH_IMAGE024
=
Figure 890159DEST_PATH_IMAGE026
=0;
Figure 44059DEST_PATH_IMAGE028
=
Figure 395406DEST_PATH_IMAGE030
=0;
整理后可得到:
Figure 13469DEST_PATH_IMAGE031
--公式一;
Figure 159280DEST_PATH_IMAGE032
--公式二;
其中:
A表示拟合后的直线的斜率;
B表示拟合后的直线的截距;
x表示待观察的边缘点的横坐标;
y表示待观察边缘的纵坐标;
Figure 66056DEST_PATH_IMAGE033
表示待观察边缘点的横坐标的均值;
Figure 752252DEST_PATH_IMAGE034
表示待观察边缘点的纵坐标的均值。
步骤F3:通过拟合后的直线与药液液面的垂直关系,根据药瓶倾斜度动态调整药液液面的上下限值;
在本实施例中,拟合后的直线为药瓶的侧边,由于药瓶的侧边与瓶底垂直,而瓶底与液面平行,故此得出拟合后直线与药液液面垂直的关系;
优选的,如图6所示,首先设定液面的(Upper_limit)和下限(Lower_limit),通过拟合后的直线与液面上下限垂直的关系,动态调整液位上下限的值,具体效果如图6中的线所示,在所述步骤F3中,通过拟合后的直线与药液液面垂直的关系,动态调整药液液面的上下限值,包括:
根据拟合后的直线的斜率,基于拟合后的直线与药液液面垂直的关系,获取药液液面上限值和下限值所在直线的斜率,以此获得上限值所在直线和下限值所在直线;
上限值所在直线表示为公式三;
Figure 428084DEST_PATH_IMAGE035
--公式三;
下限值所在直线表示为公式四;
Figure 10375DEST_PATH_IMAGE036
--公式四;
其中:
A表示拟合后的直线的斜率,
Figure 201185DEST_PATH_IMAGE037
表示上限值所在直线
Figure 628756DEST_PATH_IMAGE038
的斜率,
Figure 955832DEST_PATH_IMAGE039
表示下限 值所在直线
Figure 443445DEST_PATH_IMAGE040
的斜率;
B1表示上限值的纵坐标,B2表示下限值的纵坐标。
步骤F4:根据液面检测框的数量判定待检测图像中的药瓶是否缺支,根据动态调整后的药液液面的上下限值判定待检测图像中的药瓶的药量是否超量或缺量。
在将待检测图像输入检测模型后,会得到液面检测框,液面检测框的数量可以判定待检测图像中的药瓶是否存在缺支现象,液面检测框如图6中的方框所示,药液液面的上下限值所在直线如图6中的直线所示;
优选的,在所述步骤F4中,根据药液液面的上下限值判定待检测图像中的药瓶的药量是否超量或缺量,包括:
液面检测框的中心坐标为
Figure 324813DEST_PATH_IMAGE041
,动态调整后的液面的上限值的纵坐标为
Figure 618391DEST_PATH_IMAGE042
, 上限值的纵坐标为
Figure 3236DEST_PATH_IMAGE043
Figure 661751DEST_PATH_IMAGE044
时,判定药瓶的药量为超量;
Figure 827153DEST_PATH_IMAGE045
时,判定药瓶的药量为缺量。
一种复杂场景的药液液位检测系统,应用于所述一种复杂场景的药液液位检测方法,如图11所示,所述系统包括图像采集模块、液面检测模块、药瓶倾斜度计算模块和液面缺陷判定模块;
图像采集模块,用于通过设定后的相机在设定种类的光源、光源照明方向、光源照明方式下获取待检测药瓶图像;
液面检测模块,用于通过yolov5训练的检测模型,根据检测模型检测待检测图像,并提取药瓶的液面检测框。
药瓶倾斜度计算模块,用于通过形态学滤波进行所述待检测图像的去噪,并对去噪后的图像进行边缘点搜索,通过最小二乘法对上述搜索到的边缘点进行直线拟合,得到拟合后直线的斜率,拟合后直线的斜率就是药瓶倾斜度;
液面缺陷判定模块,用于配置液面上限和下限值,通过上述拟合后直线与药液液面垂直的关系,根据药瓶倾斜度,动态调整液位上下限的值;再通过液面检测模块提取的药瓶液面的液面检测框和动态调整液位上下限的值判定药量超量还是缺量;根据液面检测模块提取的液面检测框数量判定是否缺支。
以上结合具体实施例描述了本发明的技术原理。这些描述只是为了解释本发明的原理,而不能以任何方式解释为对本发明保护范围的限制。基于此处的解释,本领域的技术人员不需要付出创造性的劳动即可联想到本发明的其它具体实施方式,这些方式都将落入本发明的保护范围之内。

Claims (9)

1.一种复杂场景的药液液位检测方法,其特征在于:
包括如下步骤:
步骤A:设定光源、光源照明方向和照明方式;
步骤B:设定相机、相机镜头和相机内参;
步骤C:基于步骤A和B采集药瓶的图像;
步骤D:通过图像标注工具对所采集的药瓶的图像中的药液液面进行标注,将标注后的数据作为数据集;
步骤E:通过yolov5对数据集进行模型训练得到检测模型;
步骤F:使用检测模型对待检测图像进行药液液面检测,得到药液液面的液面检测框,根据液面检测框和液面上下限值判断待检测图像中药瓶是否存在药液超量或缺量,以及药瓶是否缺支,包括:
步骤F1:通过形态学滤波对待检测图像进行去噪,并对去噪后的图像进行边缘点搜索;
其中,对去噪后的图像进行边缘点搜索,包括:
从去噪后的图像的y方向等距取20个点,往去噪后的图像的x方向搜索,当搜索到像素值小于设定阈值时,表示搜索到边缘点;
步骤F2:通过最小二乘法对搜索到的边缘点进行直线拟合,得到拟合后的直线的斜率和截距,拟合后的直线即为药瓶的侧边,拟合后的直线的斜率即为药瓶的倾斜度;
步骤F3:根据拟合后的直线的斜率,基于拟合后的直线与药液液面垂直的关系,获取动 态调整之后的药液液面上限值和下限值所在直线的斜率,以此获得动态调整之后的上限值 所在直线和下限值所在直线,并基于动态调整之后的上限值和下限值所在直线计算动态调 整之后的药液液面的上下限值的纵坐标,动态调整后的液面的上限值的纵坐标为
Figure 265005DEST_PATH_IMAGE001
,下限 值的纵坐标为
Figure 43605DEST_PATH_IMAGE002
步骤F4:根据液面检测框的数量判定待检测图像中的药瓶是否缺支,根据动态调整后的药液液面的上下限值的纵坐标和液面检测框的中心坐标的纵坐标判定待检测图像中的药瓶的药量是否超量或缺量。
2.根据权利要求1所述一种复杂场景的药液液位检测方法,其特征在于:
在所述步骤A中,包括选择背向照明的白光板型光源,以频闪的方式对药瓶进行打光。
3.根据权利要求1所述一种复杂场景的药液液位检测方法,其特征在于:
在所述步骤D中,包括使用labelimg图像标注工具对药瓶的图像中的药液液面进行标注;
标注数据时,以液面凹面的顶点作为纵坐标的起点,以液面凹面的底部作为纵坐标的终点。
4.根据权利要求3所述一种复杂场景的药液液位检测方法,其特征在于:
对标注后的图像,通过裁剪、镜像、增强噪声的图像增强方式扩充数据,并根据对应的图像增强方式对数据集进行同步修改。
5.根据权利要求1所述一种复杂场景的药液液位检测方法,其特征在于:
在所述步骤F1中,通过形态学滤波对待检测图像进行去噪,包括:
使用开闭滤波方式,对待检测图像执行腐蚀和膨胀操作;
将待检测图像的原始信号设置为x(n),其中n=1,2,……,N,n表示原始信号序号;
设置结构元素为g(m),其中m=1,2,……,M,且N≥M,m表示结构元素序号;
则x(n)关于g(m)的腐蚀和膨胀操作包括:
(xΘg)(n)=min[x(n+m)-g(m)]m∈0,1,……,M-1;
(x⊕g)(n)=max[x(n-m)+g(m)]m∈0,1, ……,M-1;
x(n)关于g(m)的开运算操作为:
(x◦g)(n)=(xΘg)⊕g;
x(n)关于g(m)的闭运算操作为:
(x●g)(n)=(x⊕g)Θg。
6.根据权利要求1所述一种复杂场景的药液液位检测方法,其特征在于:
在步骤F2中,通过最小二乘法对搜索到的边缘点进行直线拟合,得到拟合后的直线的斜率和截距,包括:
根据公式一和公式二得到拟合后的直线的斜率和截距;
Figure 176646DEST_PATH_IMAGE003
--公式一;
Figure 311611DEST_PATH_IMAGE004
--公式二;
其中:
A表示拟合后的直线的斜率;
B表示拟合后的直线的截距;
x表示待观察的边缘点的横坐标;
y表示待观察边缘的纵坐标;
Figure 744866DEST_PATH_IMAGE005
表示待观察边缘点的横坐标的均值;
Figure 772996DEST_PATH_IMAGE006
表示待观察边缘点的纵坐标的均值。
7.根据权利要求1所述一种复杂场景的药液液位检测方法,其特征在于:
在所述步骤F3:根据拟合后的直线的斜率,基于拟合后的直线与药液液面垂直的关系,获取药液液面上限值和下限值所在直线的斜率,以此获得上限值所在直线和下限值所在直线,包括:
上限值所在直线表示为公式三;
Figure 534279DEST_PATH_IMAGE007
--公式三;
下限值所在直线表示为公式四;
Figure 453693DEST_PATH_IMAGE008
--公式四;
其中:
A表示拟合后的直线的斜率,
Figure 757767DEST_PATH_IMAGE009
表示上限值所在直线和下限值所在直线的斜率;
B1表示上限值的纵坐标,B2表示下限值的纵坐标。
8.根据权利要求1所述一种复杂场景的药液液位检测方法,其特征在于:
在所述步骤F4中,根据动态调整后的药液液面的上下限值判定待检测图像中的药瓶的药量是否超量或缺量,包括:
液面检测框的中心坐标为
Figure 206066DEST_PATH_IMAGE010
,动态调整后的液面的上限值的纵坐标为
Figure 720224DEST_PATH_IMAGE001
,下限值 的纵坐标为
Figure 725220DEST_PATH_IMAGE002
Figure 742855DEST_PATH_IMAGE011
时,判定药瓶的药量为超量;
Figure 627634DEST_PATH_IMAGE012
时,判定药瓶的药量为缺量。
9.一种复杂场景的药液液位检测系统,其特征在于:应用于如权利要求1-8任一项所述一种复杂场景的药液液位检测方法,所述系统包括图像采集模块、液面检测模块、药瓶倾斜度计算模块和液面缺陷判定模块;
图像采集模块,用于通过设定后的相机在设定种类的光源、光源照明方向、光源照明方式下获取待检测药瓶图像;
液面检测模块,用于通过yolov5训练的检测模型,根据检测模型检测待检测图像,并提取药瓶的液面检测框;
药瓶倾斜度计算模块,用于通过形态学滤波进行所述待检测图像的去噪,并对去噪后的图像进行边缘点搜索,包括从去噪后的图像的y方向等距取20个点,往去噪后的图像的x方向搜索,当搜索到像素值小于设定阈值时,表示搜索到边缘点,通过最小二乘法对上述搜索到的边缘点进行直线拟合,得到拟合后直线的斜率,拟合后直线的斜率就是药瓶倾斜度;
液面缺陷判定模块,用于根据拟合后的直线的斜率,基于拟合后的直线与药液液面垂直的关系,获取动态调整之后的药液液面上限值和下限值所在直线的斜率,以此获得动态调整之后的上限值所在直线和下限值所在直线;
上限值所在直线表示为公式三;
Figure 235945DEST_PATH_IMAGE007
--公式三;
下限值所在直线表示为公式四;
Figure 169266DEST_PATH_IMAGE008
--公式四;
其中:
A表示拟合后的直线的斜率,
Figure 166041DEST_PATH_IMAGE009
表示上限值所在直线和下限值所在直线的斜率;
B1表示上限值的纵坐标,B2表示下限值的纵坐标;
并基于动态调整之后的上限值和下限值所在直线计算动态调整之后的药液液面的上下限值的纵坐标;
根据动态调整后的药液液面的上下限值的纵坐标和液面检测框的中心坐标的纵坐标判定待检测图像中的药瓶的药量是否超量或缺量;
液面检测框的中心坐标为
Figure 893826DEST_PATH_IMAGE010
,动态调整后的液面的上限值的纵坐标为
Figure 195625DEST_PATH_IMAGE001
,下限值 的纵坐标为
Figure 791692DEST_PATH_IMAGE002
Figure 783918DEST_PATH_IMAGE011
时,判定药瓶的药量为超量;
Figure 26812DEST_PATH_IMAGE012
时,判定药瓶的药量为缺量;
根据液面检测框数量判定是否缺支。
CN202210180545.XA 2022-02-25 2022-02-25 一种复杂场景的药液液位检测方法及系统 Active CN114565848B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210180545.XA CN114565848B (zh) 2022-02-25 2022-02-25 一种复杂场景的药液液位检测方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210180545.XA CN114565848B (zh) 2022-02-25 2022-02-25 一种复杂场景的药液液位检测方法及系统

Publications (2)

Publication Number Publication Date
CN114565848A CN114565848A (zh) 2022-05-31
CN114565848B true CN114565848B (zh) 2022-12-02

Family

ID=81716789

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210180545.XA Active CN114565848B (zh) 2022-02-25 2022-02-25 一种复杂场景的药液液位检测方法及系统

Country Status (1)

Country Link
CN (1) CN114565848B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115291765B (zh) * 2022-09-29 2022-12-20 成都普什制药有限公司 联排安瓿瓶识别系统及识别方法及储存介质
CN115457067B (zh) * 2022-11-09 2023-04-07 乐比(广州)健康产业有限公司 一种通鼻提神药物液位检测方法

Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010064689A1 (ja) * 2008-12-03 2010-06-10 東海旅客鉄道株式会社 車両台車油量検査システム
CN101923569A (zh) * 2010-07-09 2010-12-22 南京朗坤软件有限公司 一种实时数据库的结构类型数据的存储方法
CN104819754A (zh) * 2015-05-13 2015-08-05 山东大学 一种基于图像处理的药瓶液位检测方法
CN106546600A (zh) * 2016-10-26 2017-03-29 湖南大学 一种基于机器视觉的pet瓶多角度检测方法和装置
CN106799365A (zh) * 2017-01-12 2017-06-06 云南白药集团股份有限公司 液体瓶装盒自动检测、剔除装置及方法
WO2019147965A1 (en) * 2018-01-26 2019-08-01 LineVision, Inc. System and method for power transmission line monitoring
CN110428416A (zh) * 2019-08-06 2019-11-08 广东工业大学 一种液位视觉检测方法及装置
WO2020151023A1 (zh) * 2019-01-21 2020-07-30 东北大学 一种基于图像识别技术的关键块体动态搜索系统及方法
WO2020164282A1 (zh) * 2019-02-14 2020-08-20 平安科技(深圳)有限公司 基于yolo的图像目标识别方法、装置、电子设备和存储介质
CN211717571U (zh) * 2020-04-28 2020-10-20 黄喜 一种液位计自动计量检定装置
CN112989901A (zh) * 2020-03-25 2021-06-18 长扬科技(北京)有限公司 基于深度学习的液位仪读数的识别方法
CN113274584A (zh) * 2021-05-26 2021-08-20 北京大学第三医院(北京大学第三临床医学院) 一种基于图像处理注射速度管理方法
CN113298089A (zh) * 2021-05-17 2021-08-24 长江大学 基于图像处理的静脉输液液位检测方法
CN113516702A (zh) * 2021-07-16 2021-10-19 中国科学院自动化研究所 自动配液安瓿瓶液位检测方法、系统及药液占比检测方法
CN113947611A (zh) * 2021-10-21 2022-01-18 广东电网有限责任公司 一种液位检测方法、装置、存储介质及电子设备
CN114067102A (zh) * 2021-11-17 2022-02-18 中国矿业大学 基于目标检测的机械臂倒液任务中液位检测控制方法

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090154764A1 (en) * 2006-10-20 2009-06-18 Forhealth Technologies, Inc. Drug vial detection in an automated drug preparation system
JP5194295B2 (ja) * 2007-08-24 2013-05-08 Sumco Techxiv株式会社 Cz法による単結晶引き上げ装置内の液面レベル測定方法
JP5233631B2 (ja) * 2008-12-11 2013-07-10 ソニー株式会社 振れ補正装置と振れ補正方法および撮像装置
JP6052487B2 (ja) * 2012-07-06 2016-12-27 株式会社タカゾノテクノロジー 水剤供給装置
WO2016014429A1 (en) * 2014-07-21 2016-01-28 Beckman Coulter, Inc. Methods and systems for tube inspection and liquid level detection
WO2017176928A1 (en) * 2016-04-08 2017-10-12 Icu Medical, Inc. Control of a drug infusion device
WO2018123854A1 (ja) * 2016-12-27 2018-07-05 株式会社フジキン 液面計、それを備えた気化器、及び液面検知方法
CN111288966A (zh) * 2018-12-07 2020-06-16 江苏弘开传感科技有限公司 一种倾斜仪
US20210316060A1 (en) * 2018-12-29 2021-10-14 Tienan LIU Medical drainage monitoring method, apparatus, and system based on image recognition
CN111353984B (zh) * 2020-02-29 2023-04-07 杭州电子科技大学 一种自适应鲁棒的灰度图像中液位高精度检测方法
CN111652842B (zh) * 2020-04-26 2021-05-11 佛山读图科技有限公司 高速西林瓶轧盖生产线实时视觉检测方法及系统
CN111627025A (zh) * 2020-05-21 2020-09-04 江苏华阳智能装备股份有限公司 瓶装药液智能检测方法及系统
CN111659632A (zh) * 2020-05-29 2020-09-15 重庆施鲁逊智能科技有限公司 基于视觉识别的药粉漏装检测剔除系统
CN111826151A (zh) * 2020-08-04 2020-10-27 中国石油大学(华东) 一种双烷基脲型超分子稠化剂及其制备方法和应用
CN112116579B (zh) * 2020-09-21 2024-02-13 东南大学 一种透明药瓶的缺陷检测方法和装置
CN114705120B (zh) * 2020-10-15 2023-06-23 浙江大学台州研究院 一种基于掩膜信息的尺寸测量方法及评分系统
CN112642022B (zh) * 2020-12-31 2022-07-05 遵义师范学院 一种输液监控系统及监控方法
CN215491986U (zh) * 2021-08-03 2022-01-11 珠海谦信新材料有限公司 一种醋酸酯储罐的液位监测装置
CN113884242A (zh) * 2021-09-28 2022-01-04 四川英格瑞生物科技有限公司 一种兽药瓶检漏装置

Patent Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010064689A1 (ja) * 2008-12-03 2010-06-10 東海旅客鉄道株式会社 車両台車油量検査システム
CN101923569A (zh) * 2010-07-09 2010-12-22 南京朗坤软件有限公司 一种实时数据库的结构类型数据的存储方法
CN104819754A (zh) * 2015-05-13 2015-08-05 山东大学 一种基于图像处理的药瓶液位检测方法
CN106546600A (zh) * 2016-10-26 2017-03-29 湖南大学 一种基于机器视觉的pet瓶多角度检测方法和装置
CN106799365A (zh) * 2017-01-12 2017-06-06 云南白药集团股份有限公司 液体瓶装盒自动检测、剔除装置及方法
WO2019147965A1 (en) * 2018-01-26 2019-08-01 LineVision, Inc. System and method for power transmission line monitoring
WO2020151023A1 (zh) * 2019-01-21 2020-07-30 东北大学 一种基于图像识别技术的关键块体动态搜索系统及方法
WO2020164282A1 (zh) * 2019-02-14 2020-08-20 平安科技(深圳)有限公司 基于yolo的图像目标识别方法、装置、电子设备和存储介质
CN110428416A (zh) * 2019-08-06 2019-11-08 广东工业大学 一种液位视觉检测方法及装置
CN112989901A (zh) * 2020-03-25 2021-06-18 长扬科技(北京)有限公司 基于深度学习的液位仪读数的识别方法
CN211717571U (zh) * 2020-04-28 2020-10-20 黄喜 一种液位计自动计量检定装置
CN113298089A (zh) * 2021-05-17 2021-08-24 长江大学 基于图像处理的静脉输液液位检测方法
CN113274584A (zh) * 2021-05-26 2021-08-20 北京大学第三医院(北京大学第三临床医学院) 一种基于图像处理注射速度管理方法
CN113516702A (zh) * 2021-07-16 2021-10-19 中国科学院自动化研究所 自动配液安瓿瓶液位检测方法、系统及药液占比检测方法
CN113947611A (zh) * 2021-10-21 2022-01-18 广东电网有限责任公司 一种液位检测方法、装置、存储介质及电子设备
CN114067102A (zh) * 2021-11-17 2022-02-18 中国矿业大学 基于目标检测的机械臂倒液任务中液位检测控制方法

Non-Patent Citations (7)

* Cited by examiner, † Cited by third party
Title
"New algorithm of liquid level of fusion bottle based on image processing";Zhu H等;《Proceedings of IEEE International Conference on Information Engineering and Computer Science》;20091231;第1-4页 *
"Optical System for liquid level measurements";Melchionni D等;《The Review of Scientific Instruments》;20141231;第85卷(第7期);第113页 *
"Study of a modified capacitance-type level transducer for any type of liquid";Bera S C等;《IEEE Transactions on Instrumention and Measurement》;20141231;第63卷(第3期);第641-649页 *
"图像法水位检测研究进展";王剑平等;《电子测量技术》;20210731;第44卷(第13期);第104-113页 *
"基于深度学习的红外目标成像液位检测方法";李家炜等;《光学学报》;20211130;第41卷(第21期);第1-9页 *
"基于线振CCD的液位测量系统设计";陈成等;《电子测量技术》;20170731;第40卷(第7期);第6-10页 *
"机器视觉技术在药液灌装量检测中的应用";孙怀远等;《计算机应用与软件》;20090630;第26卷(第6期);第247-248页和第264页 *

Also Published As

Publication number Publication date
CN114565848A (zh) 2022-05-31

Similar Documents

Publication Publication Date Title
CN114565848B (zh) 一种复杂场景的药液液位检测方法及系统
US12094152B2 (en) Method for fully automatically detecting chessboard corner points
CN103196554B (zh) 光源光强均一性测调系统及测调方法
CN108896574B (zh) 一种基于机器视觉的瓶装白酒杂质检测方法及系统
CN109978839A (zh) 晶圆低纹理缺陷的检测方法
CN111696077A (zh) 一种基于WaferDet网络的晶圆缺陷检测方法
CN108960231B (zh) 一种基于机器视觉的细指针表盘识别读数方法
CN104616275A (zh) 一种缺陷检测方法和装置
CN102221556A (zh) 基于机器视觉的小型连接件外观缺陷在线检测装置与方法
CN103076345A (zh) 一种ito导电玻璃的检测方法及其全自动光学检测系统
CN113393464A (zh) 一种平板玻璃缺陷的三维检测方法
CN110976338A (zh) 一种基于机器视觉的试纸分拣系统及分拣方法
CN106546600A (zh) 一种基于机器视觉的pet瓶多角度检测方法和装置
CN116026843A (zh) 电池外观的缺陷检测方法、装置和检测系统
CN114577805A (zh) 一种MiniLED背光面板缺陷检测方法及装置
EP3974817A1 (en) Non-lambertian surface inspection system for line scan
CN108520260A (zh) 瓶装口服液中可见异物的识别方法
CN113552133B (zh) 一种电芯裙边开裂检测方法及视觉检测装置
CN109785290A (zh) 基于局部光照归一化的钢板缺陷检测方法
CN110503634A (zh) 基于图像自动识别的能见度测量方法
CN103091332B (zh) 一种基于机器视觉的u型粉管的检测方法及其检测系统
TW201617605A (zh) 瑕疵檢測方法及其裝置
CN115393358B (zh) 一种镜片检测方法及多工位检测装置
CN203101288U (zh) 一种ito导电玻璃的全自动光学检测系统
CN112289154A (zh) 一种用于牛顿环实验的机器视觉教学系统及方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant