CN111267106A - 一种基于视觉的智能体温检测机器人及检测方法 - Google Patents
一种基于视觉的智能体温检测机器人及检测方法 Download PDFInfo
- Publication number
- CN111267106A CN111267106A CN202010194397.8A CN202010194397A CN111267106A CN 111267106 A CN111267106 A CN 111267106A CN 202010194397 A CN202010194397 A CN 202010194397A CN 111267106 A CN111267106 A CN 111267106A
- Authority
- CN
- China
- Prior art keywords
- body temperature
- vision
- forehead
- bionic
- finger
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J11/00—Manipulators not otherwise provided for
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/01—Measuring temperature of body parts ; Diagnostic temperature sensing, e.g. for malignant or inflamed tissue
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J19/00—Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1628—Programme controls characterised by the control loop
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1679—Programme controls characterised by the tasks executed
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1694—Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
- B25J9/1697—Vision controlled systems
Abstract
本发明公开了一种基于视觉的智能体温检测机器人及检测方法,包括检测机构、视觉机构和控制系统;所述检测机构包括基体、旋转工作台、机械臂、体温测量仪、仿生指末端夹持部件和移动平台;所述视觉机构包括双目摄像机和仿生自动旋转相机架;所述控制系统通过数据传输线或无线网络与检测机构、视觉机构相连接。本发明采用仿生结构,可以通过旋转工作台、机械臂和仿生指末端夹持部件的联动,提高机器人的灵活性,结构轻巧,控制系统简单,检测数据可以传送于远程的医生,避免医生或工作人员直接检测或接触带病毒的人或动物,特别适用于新型病毒的瘟疫环境下人与动物体温检测。
Description
技术领域
本发明涉及智能机械领域,特别涉及一种基于视觉的智能体温检测机器人及检测方法。
背景技术
新型病毒传染是我国面临的重大风险性问题。传染性强的病毒一旦在人和动物中传播,会给人类造成巨大损失。而病毒传染的防控是人类医学上的一大难题,现在主流快速检测方式是通过人工进行体温检测,这种方法不仅时间和人力成本高昂,而且容易导致检测人员受感染。现有的智能体温检测设备有通过热成像来大面积测量人群体温,也有可穿戴式的体温测量设备。热成像式体温检测设备的学习成本高,可穿戴式体温测量设备只能针对家庭与个人。在新型病毒瘟疫环境下,急需一种适用于公共场所的个人和动物快速体温智能检测装置,有效隔离工作人员与待检测体。
发明内容
本发明的目的在于克服现有技术中存在的缺点,提供一种基于视觉的智能体温检测机器人及检测方法,适用于新型病毒瘟疫环境下人或动物的体温检测,操作简单、测量准确度高,且能有效避免医生或工作人员直接接触待检测体,以保证医务人员的防护安全。
本发明的目的通过下述技术方案实现:
一种基于视觉的智能体温检测机器人,包括检测机构、视觉机构和控制系统;所述检测机构包括基体1、旋转工作台3、机械臂、体温测量仪8、仿生指末端夹持部件9和移动平台10;所述机械臂为三自由度机械臂,包括第一机械臂4、关节电机5和第二机械臂6;所述基体1放置于移动平台10上,所述基体1上安装有旋转工作台3,旋转工作台3的上面安装有第一机械臂4,第一机械臂4通过关节电机5和第二机械臂6相连接,第二机械臂6的前端固定有仿长臂旋转消毒机构7和仿生指末端夹持部件9,所述仿生指末端夹持部件9夹持有体温测量仪8;所述视觉机构包括双目摄像机2和仿生自动旋转相机架11,所述仿生自动旋转相机架11通过支架安装于旋转工作台3的正后方,所述双目摄像机2固定在仿生自动旋转相机架11上;所述控制系统13通过数据传输线12或无线网络与检测机构、视觉机构相连接。
所述仿生指末端夹持部件9,包括三个夹指和底座;所述夹指为类似于人指的似人指,第一夹指14、第二夹指15和第三夹指16按照类似于人手的大拇指、食指和中指的位置分布在底座上;每个夹指有2个以上指节,每个指节上开有类似于人指指节纹路的三条以上环型槽18和一条以上竖槽19,用于增加夹持体温测量仪8时的摩擦力。
优选地,所述仿生指末端夹持部件9,第一夹指14和第二夹指15可以形成一个角度为40°~50°的柔性V型槽,第一夹指14和第二夹指15的下部通过柔性连接线20相连接,以形成柔性V型槽的下部,提高对各种体温测量仪的适应性,同时可利用柔性V型槽对圆柱形、类圆柱形等体温测量仪进行自动定心。第三夹指16采用三个指节的结构,与第二夹指15相互平行,可在夹持体温测量仪时,环绕夹持和固定体温测量仪,对体温测量仪的固定起主要作用。
优选地,三个夹指的尾端安装有月牙形的仿生鹰倒钩指甲17;仿生鹰倒钩指甲17向内部弯曲,弯曲角度为10°~15°,以提高对体温测量仪的夹持稳定性。
所述仿长臂旋转消毒机构7包括长臂21、关节电机22、转盘23、海绵夹持器24和半月形消毒海绵25;长臂21的一端固定于第二机械臂的末端上,另一端通过关节电机22与转盘23相连接;转盘23上设置有海绵夹持器24,海绵夹持器24上夹持有半月形消毒海绵25。所述仿长臂旋转消毒机构7中的小型电机控制长臂21左右摆动,使得半月形海绵接触测温口,末端的小型电机带动半月形海绵25转动,以实现对体温测量仪8的表面进行消毒擦拭,防止病毒传染。
所述视觉机构包括双目摄像机2和仿生自动旋转相机架11;双目摄像机2用于拍摄待测体(待测体包括人或动物)的头部图像;仿生自动旋转相机架11可以旋转,使得双目摄像机的视野更加广阔。
所述控制系统13包括运动模块和视觉模块;所述运动模块用于控制两个机械臂、移动平台、仿生自动旋转相机架、旋转工作台、仿长臂旋转消毒机构的移动与旋转;所述视觉模块和视觉机构一起构成视觉系统,双目摄像机2用于拍摄待测体的头部图像,将头部图像传输给视觉模块,视觉模块对头部图像进行识别并定位额头的位置,计算出额头的三维坐标和姿态信息。
所述基于视觉的智能体温检测机器人的控制过程为:
(1)首先,控制系统13的控制模块控制移动平台的运动从而带动整个机器人靠近被测体;
(2)控制系统中的运动模块控制仿生自动旋转相机架11的转动,使得双目摄像机2垂直正对待测体,然后双目摄像机2拍摄待测体的头部图像,并将头部图像传输给控制系统13的视觉模块,视觉模块对头部图像进行识别并定位额头的位置,计算出额头的三维坐标和姿态信息;
(3)控制系统13根据计算得到的额头的三维坐标和姿态信息,进行运动学逆解计算,计算出各关节旋转电机的转动量,然后控制系统13的运动模块控制旋转工作台3的转动,使得体温测量仪垂直正对待测体;进而控制第一机械臂4、关节电机5、第二机械臂6联合运动以调整仿生指末端夹持部件9的三维坐标,从而使体温测量仪准确到达被测体额头的测量点位置。
(4)完成体温检测之后,控制系统13的运动模块控制仿长臂旋转消毒机构的仿生长臂运动使得半月形海绵接触测温口,并进行消毒,完成消毒之后使仿长臂旋转消毒机构恢复原来的位置。
所述视觉系统的操作步骤如下:
(1)深度学习和训练:拍摄多张具有生物体面部的图像,按生物体门类制作数据标签将额头框起来,用于训练YOLOV3深度学习模型;训练好的模型可识别被测体的类别,用于将额头从面部图像中框出;
(2)摄像机标定:用双目摄像机拍摄多组标定板图像,采用张正友标定法进行标定,得到双目摄像机的内外参数矩阵、双目校正映射表、重投影矩阵;
(3)当待测体进入检测区域时,双目摄像机开始工作,拍摄一组包含待测体面部的图像;然后进行图像预处理,包括灰度化、滤波,再使用双目校正映射表将左右图像进行校正,得到校正后的左右图像;调用训练好的YOLOV3模型对校正后的左右图像进行分割,将校正后的左右图像中待测体的额头分割出来,得到左右图像各一个的矩形框区域;
(4)采用SGBM算法对校正后的左右图像各一个的矩形框区域进行立体匹配,得到视差图;然后利用视差图和重投影矩阵,联合校正后的左右图像进行三维重建,得到矩形区域点云,即额头点云;再进行直通滤波、统计滤波、半径滤波等点云降噪处理,得到一片噪声少且平整的额头点云;
(5)对于步骤3中左图像的矩形框区域的中心,以该中心为起点,划定一个25*25像素的正方形区域Q;所述正方形区域Q的像素点能与额头点云中的点相对应;因此,正方形区域Q中的每个像素点都在额头点云中具有一个深度值;取正方形区域Q的中点M,由于相机坐标系原点与左图像的中点重合,因此点M在左图像上的坐标(u,v)可以转换为相机坐标系上的坐标(X,Y),即构成额头的三维坐标(X,Y,Z)中的X,Y;将该正方形区域Q中的每个像素点的深度值取平均值,构成额头测量点在相机坐标系下的深度,即为额头的三维坐标(X,Y,Z)中的Z;
(6)在正方形区域Q的点云中,以左上角点为原点、取右上角点和左下角点分别与左上角点做差,得到代表正方形区域Q平面的两个向量,将这两个向量叉乘,得到的第三个向量代表正方形区域Q的法向量,为双目摄像机垂直于额头的方向即额头的姿态信息。
步骤4中,立体匹配和三维重建之前,在校正后的左右图像中分割出额头,可加快匹配速度与准确性,提高点云质量。
根据获得的额头在相机坐标系下的三维坐标、垂直于额头的方向即姿态信息,采用运动学逆解法转换得到机器人各关节旋转电机的转动量。
所述基于视觉的智能体温检测方法,是采用上述智能体温检测机器人,具体包括下述步骤:
(1)在采用智能体温检测机器人进行测温之前,先对其视觉机构进行深度学习和训练,使双目摄像机可以准确识别人和动物;
(2)驱动移动平台使机器人靠近待测体,转动仿生自动旋转相机架,使得双目摄像机垂直正对待测体;然后双目摄像机拍摄待测体的头部图像,传输给控制系统,视觉模块对待测体的头部图像进行识别以定位额头位置,计算出额头的三维坐标和姿态信息,进而进行运动学逆解计算出各关节旋转电机的转动量;
(3)转动旋转工作台,使得体温测量仪垂直正对待测体;通过调整关节旋转电机的转动量使三自由度机械臂移动,使得仿生指末端夹持部件夹持的体温测量仪对准待测体的额头位置;然后启动体温测量仪进行测温,并将测得的温度通过数据传输线或无线网络传送到控制系统;
(4)启动仿长臂旋转消毒机构,使得半月形消毒海绵对体温测量仪进行消毒与擦拭;然后重复第一步对下个被测体进行测温。
本发明与现有技术相比具有如下优点和效果:
(1)本发明采用仿生结构,可以通过旋转工作台、机械臂和仿生指末端夹持部件的联动,提高机器人的灵活性,结构轻巧,控制系统简单,检测数据可以传送于远程的医生,避免医生或工作人员直接检测或接触带病毒的人或动物,以保证医务人员的防护安全,特别适用于新型病毒的瘟疫环境下人与动物体温检测。
(2)本发明通过视觉机构提供精确的体温测量位置,提高体温检测的效率和准确度;采用机器视觉对额头进行识别与定位可以代替人眼进行长时间的高强度工作,而且经过训练之后的机器视觉拥有较高的识别与定位速度,相对于纯机械传动,利用机器视觉可以更好地适应工作环境,完成高度不同的个体的体温检测;而且机器视觉可以对额头位置进行精确定位,降低因测量位置不同所产生的误差,提高测温的准确性。
(3)本发明利用仿生指末端夹持部件对体温测量仪进行固定和夹持,夹持部件采用仿生人手指和仿生鹰倒钩指甲的结合,仿生人手指使得夹持部件更加的灵活,同时第一夹指和第二夹指构成柔性V形槽,可提高对于体温测量仪规格的适应性和使体温测量仪装夹的位置更为合适;同时指节上的环形槽和竖槽、仿生鹰倒钩指甲和第三夹指的三指节结构均可提高部件对体温测量仪的夹持稳定性,防止其掉落损坏。
附图说明
图1为本发明的主视结构示意图。
图2为仿生指末端夹持部件的结构示意图。
图3为仿长臂旋转消毒机构的结构示意图。
图4为本发明的工作流程图。
其中:1、基体;2、双目摄像机;3、旋转工作台;4、第一机械臂;5、关节电机;6、第二机械臂;7、仿长臂旋转消毒机构;8、体温测量仪;9、仿生指末端夹持部件;10、移动平台;11、仿生自动旋转相机架;12、数据传输线;13、控制系统;14、第一夹指;15、第二夹指;16、第三夹指;17、仿生鹰倒钩指甲;18、环形槽;19、竖槽;20、柔性连接线;21、长臂;22、关节电机;23、转盘;24、海绵夹持器;25、半月形消毒海绵
具体实施方式
下面结合实施例对本发明做进一步详细的描述,但本发明的实施方式不限于此。
实施例1
一种基于视觉的智能体温检测机器人,包括检测机构、视觉机构和控制系统;所述检测机构包括基体1、旋转工作台3、机械臂、体温测量仪8、仿生指末端夹持部件9和移动平台10;所述机械臂为三自由度机械臂,包括第一机械臂4、关节电机5和第二机械臂6;所述基体1放置于移动平台10上,所述基体1上安装有旋转工作台3,旋转工作台3的上面安装有第一机械臂4,第一机械臂4通过关节电机5和第二机械臂6相连接,第二机械臂6的前端固定有仿长臂旋转消毒机构7和仿生指末端夹持部件9,所述仿生指末端夹持部件9夹持有体温测量仪8;所述视觉机构包括双目摄像机2和仿生自动旋转相机架11,所述仿生自动旋转相机架11通过支架安装于旋转工作台3的正后方,所述双目摄像机2固定在仿生自动旋转相机架11上;所述控制系统通过数据传输线或无线网络与检测机构、视觉机构相连接。
所述仿生指末端夹持部件9,包括三个夹指和底座;所述夹指为类似于人指的似人指,第一夹指14、第二夹指15和第三夹指16按照类似于人手的大拇指、食指和中指的位置分布在底座上;每个夹指有2个以上指节,每个指节上开有类似于人指指节纹路的三条以上环型槽18和一条以上竖槽19,用于增加夹持体温测量仪8时的摩擦力。其中,所述仿生指末端夹持部件9,第一夹指14和第二夹指15可以形成一个角度为40°~50°的柔性V型槽,第一夹指14和第二夹指15的下部通过柔性连接线20相连接,以形成柔性V型槽的下部,提高对各种体温测量仪的适应性,同时可利用柔性V型槽对圆柱形、类圆柱形等体温测量仪进行自动定心。第三夹指16采用三个指节的结构,与第二夹指15相互平行,可在夹持体温测量仪时,环绕夹持和固定体温测量仪,对体温测量仪的固定起主要作用。而且,三个夹指的尾端安装有月牙形的仿生鹰倒钩指甲17;仿生鹰倒钩指甲17向内部弯曲,弯曲角度为10°~15°,以提高对体温测量仪的夹持稳定性。
所述仿长臂旋转消毒机构7对体温测量仪8进行消毒,包括长臂21、关节电机22、转盘23、海绵夹持器24和半月形消毒海绵25;长臂21的一端固定于第二机械臂的末端上,另一端通过关节电机22与转盘23相连接;转盘23上设置有海绵夹持器24,海绵夹持器24上夹持有半月形消毒海绵25。所述仿长臂旋转消毒机构7中的小型电机控制长臂21左右摆动,使得半月形海绵接触测温口,末端的小型电机带动半月形海绵25转动,以实现对体温测量仪8的表面进行消毒擦拭,防止病毒传染。所述体温测量仪8用于测量人体温度或动物体温度,可直接用市场上购买的体温检测仪器,如红外测温仪。
所述旋转工作台3的上面通过铰链安装有第一机械臂4,第一机械臂4通过关节电机5和第二机械臂6相连接,关节电机5控制第二机械臂6左右摆动。所述旋转工作台3的内部装有两个电机,其中一个电机使旋转工作台3和整个机械臂可绕z轴转动,另一个电机使整个机械臂左右摆动,同时关节电机5使第二机械臂左右摆动,从而使得整个机械臂具有三个自由度。三自由度机械臂控制体温测量仪的测温位置,为整个机械功能实施的关键机械机构。
所述视觉机构包括双目摄像机2和仿生自动旋转相机架11;双目摄像机2用于拍摄待测体(待测体包括人或动物)的头部图像;仿生自动旋转相机架11可以旋转,使得双目摄像机的视野更加广阔。
控制系统13包括运动模块和视觉模块;所述运动模块用于控制两个机械臂、移动平台、仿生自动旋转相机架、旋转工作台、仿长臂旋转消毒机构的移动与旋转;所述视觉模块和视觉机构一起构成视觉系统,双目摄像机2用于拍摄待测体的头部图像,将头部图像传输给视觉模块,视觉模块对头部图像进行识别并定位额头的位置,计算出额头的三维坐标和姿态信息。
所述仿生指末端夹持部件9存在所夹持体温测量仪8靠近人体或动物的距离精度,在距离机器基体中心(0.8-1.5)m的范围内,视觉系统和仿生指末端夹持装置的定位精度为±0.1mm。
实施例2
在医院环境中,采用基于视觉的智能体温检测机器人对患者的体温进行检测。
在适用生物体温检测视觉机器人进行测温之前,先用计算机对其视觉系统进行一次标定与训练,使其能识别人和动物并且从图片中准确框出额头的位置。
第一步:生物体体温检测视觉机器人完成视觉系统的学习与训练后,驱动机器人移动装置带动基体使机器人靠近患者。
第二步:旋转仿生自动旋转相机架,使双目摄像机能够垂直正对患者。
第三步:转动旋转工作台使得体温测量仪的测温口垂直正对患者。
第四步:通过视觉系统计算出体温测量仪器到额头的三维坐标系和姿态,进而计算出控制两个机械臂关节电机的转动量,并将相对应的数据存放在控制系统。
第五步:控制系统驱动关节电机使两个机械臂杆旋转相对应的角度,使机器人的末端的体温测量仪8到达额头的测量点,即体温测量仪器对准患者额头。
第六步:检测出患者的体温,并通过数据传输线或无线网络将所测体温数据传到控制系统,同时显示出体温数值。
第七步:控制系统控制仿长臂旋转消毒机构使半月形消毒海绵与体温测量仪器的测温口相接触,旋转海绵对测温口进行消毒,然后将该机构的长臂驱动到原始位置。
重复第一步到第七步对下一个患者进行测温。
实施例3
在小区门岗环境中,对小狗的体温进行检测。
在适用生物体温检测视觉机器人进行测温之前,先用计算机对其视觉系统进行一次标定与训练,使其能从图片中准确框出额头的位置。
第一步:视觉系统识别狗只。
第二步:等待狗蹲下时,体温检测视觉机器人通过机器人移动装置移动到狗的正面。
第三步:旋转仿生自动旋转相机架,使双目摄像机正对狗的额头。
第四步:转动旋转工作台,带动两个机械臂杆使体温测量仪朝着狗的方向。
第五步:利用双目摄像机向控制系统输入图像,控制系统转化出额头的三维坐标与姿态进而得出控制两个机械臂关节电机的转动量。
第六步:控制系统控制关节电机驱使机器人末端的体温测量仪8到达额头的测量点,使体温检测仪对准小狗的额头。
第七步:测得的体温数据通过数据传输线或无线网络传到计算机并显示出来。
第八步:控制系统控制仿长臂旋转消毒机构通过驱动长臂使半月形海绵对测温口进行消毒。
第九步:仿长臂旋转消毒机构返回原来的位置。
回到第一步测量下一个动物体温。
以上所述仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是在本发明的构思下,利用本发明说明书及附图内容所作的等效结构变换,或直接/间接运用在其他相关的技术领域均包括在本发明的专利保护范围内。
Claims (9)
1.一种基于视觉的智能体温检测机器人,其特征在于:包括检测机构、视觉机构和控制系统;所述检测机构包括基体、旋转工作台、机械臂、体温测量仪、仿生指末端夹持部件和移动平台;所述机械臂为三自由度机械臂,包括第一机械臂、关节电机和第二机械臂;所述基体放置于移动平台上,所述基体上安装有旋转工作台,旋转工作台的上面安装有第一机械臂,第一机械臂通过关节电机和第二机械臂相连接,第二机械臂的前端固定有仿长臂旋转消毒机构和仿生指末端夹持部件,所述仿生指末端夹持部件夹持有体温测量仪;所述视觉机构包括双目摄像机和仿生自动旋转相机架,所述仿生自动旋转相机架通过支架安装于旋转工作台的正后方,所述双目摄像机固定在仿生自动旋转相机架上;所述控制系统通过数据传输线或无线网络与检测机构、视觉机构相连接。
2.根据权利要求1所述的基于视觉的智能体温检测机器人,其特征在于:所述仿生指末端夹持部件包括三个夹指和底座;所述夹指为类似于人指的似人指,第一夹指、第二夹指和第三夹指按照类似于人手的大拇指、食指和中指的位置分布在底座上;每个夹指有2个以上指节,每个指节上开有类似于人指指节纹路的三条以上环型槽和一条以上竖槽。
3.根据权利要求2所述的基于视觉的智能体温检测机器人,其特征在于:第一夹指和第二夹指形成一个角度为40°~50°的柔性V型槽,第一夹指和第二夹指的下部通过柔性连接线相连接;第三夹指采用三个指节的结构,与第二夹指相互平行。
4.根据权利要求2或3所述的基于视觉的智能体温检测机器人,其特征在于:三个夹指的尾端安装有月牙形的仿生鹰倒钩指甲;仿生鹰倒钩指甲向内部弯曲,弯曲角度为10°~15°。
5.根据权利要求1所述的基于视觉的智能体温检测机器人,其特征在于:所述仿长臂旋转消毒机构包括长臂、关节电机、转盘、海绵夹持器和半月形消毒海绵;长臂的一端固定于第二机械臂的末端上,另一端通过关节电机与转盘相连接;转盘上设置有海绵夹持器,海绵夹持器上夹持有半月形消毒海绵。
6.根据权利要求1所述的基于视觉的智能体温检测机器人,其特征在于:所述控制系统包括运动模块和视觉模块;所述运动模块用于控制两个机械臂、移动平台、仿生自动旋转相机架、旋转工作台、仿长臂旋转消毒机构的移动与旋转;所述视觉模块和视觉机构一起构成视觉系统,双目摄像机用于拍摄待测体的头部图像,将头部图像传输给视觉模块,视觉模块对头部图像进行识别并定位额头的位置,计算出额头的三维坐标和姿态信息。
7.根据权利要求6所述的基于视觉的智能体温检测机器人,其特征在于:所述控制系统的控制过程为:
(1)首先,控制系统的控制模块控制移动平台的运动从而带动整个机器人靠近被测体;
(2)控制系统中的运动模块控制仿生自动旋转相机架的转动,使得双目摄像机垂直正对待测体,然后双目摄像机拍摄待测体的头部图像,并将头部图像传输给控制系统的视觉模块,视觉模块对头部图像进行识别并定位额头的位置,计算出额头的三维坐标和姿态信息;
(3)控制系统根据计算得到的额头的三维坐标和姿态信息,进行运动学逆解计算,计算出各关节旋转电机的转动量,然后控制系统的运动模块控制旋转工作台的转动,使得体温测量仪垂直正对待测体;进而控制第一机械臂、关节电机、第二机械臂联合运动以调整仿生指末端夹持部件的三维坐标,从而使体温测量仪准确到达被测体额头的测量点位置。
(4)完成体温检测之后,控制系统的运动模块控制仿长臂旋转消毒机构的仿生长臂运动使得半月形海绵接触测温口,并进行消毒,完成消毒之后使仿长臂旋转消毒机构恢复原来的位置。
8.根据权利要求6所述的基于视觉的智能体温检测机器人,其特征在于:所述视觉系统的操作步骤如下:
(1)深度学习和训练:拍摄多张具有生物体面部的图像,按生物体门类制作数据标签将额头框起来,用于训练YOLOV3深度学习模型;训练好的模型可识别被测体的类别,用于将额头从面部图像中框出;
(2)摄像机标定:用双目摄像机拍摄多组标定板图像,采用张正友标定法进行标定,得到双目摄像机的内外参数矩阵、双目校正映射表、重投影矩阵、参数矩阵;
(3)当待测体进入检测区域时,双目摄像机开始工作,拍摄一组包含待测体面部的图像;然后进行图像预处理,包括灰度化、滤波,再使用双目校正映射表将左右图像进行校正,得到校正后的左右图像;调用训练好的YOLOV3模型对校正后的左右图像进行分割,将校正后的左右图像中待测体的额头分割出来,得到左右图像各一个的矩形框区域;
(4)采用SGBM算法对校正后的左右图像各一个的矩形框区域进行立体匹配,得到视差图;然后利用视差图和重投影矩阵,联合校正后的左右图像进行三维重建,得到矩形区域点云,即额头点云;再进行直通滤波、统计滤波、半径滤波等点云降噪处理,得到一片噪声少且平整的额头点云;
(5)对于步骤3中左图像的矩形框区域的中心,以该中心为起点,划定一个25*25像素的正方形区域Q;所述正方形区域Q的像素点能与额头点云中的点相对应;因此,正方形区域Q中的每个像素点都在额头点云中具有一个深度值;取正方形区域Q的中点M,由于相机坐标系原点与左图像的中点重合,因此点M在左图像上的坐标(u,v)可以转换为相机坐标系上的坐标(X,Y),即构成额头的三维坐标(X,Y,Z)中的X,Y;将该正方形区域Q中的每个像素点的深度值取平均值,构成额头测量点在相机坐标系下的深度,即为额头的三维坐标(X,Y,Z)中的Z;
(6)在正方形区域Q的点云中,以左上角点为原点、取右上角点和左下角点分别与左上角点做差,得到代表正方形区域Q平面的两个向量,将这两个向量叉乘,得到的第三个向量代表正方形区域Q的法向量,为双目摄像机垂直于额头的方向即额头的姿态信息。
9.一种基于视觉的智能体温检测方法,其特征在于:采用权利要求1~8中任一项所述的智能体温检测机器人进行测量,包括下述步骤:
(1)先对智能体温检测机器人的视觉系统进行深度学习和训练,使双目摄像机可以准确识别人和动物;
(2)驱动移动平台使机器人靠近待测体,转动仿生自动旋转相机架,使得双目摄像机垂直正对待测体;然后双目摄像机拍摄待测体的头部图像,传输给控制系统,视觉模块对待测体的头部图像进行识别以定位额头位置,计算出额头的三维坐标和姿态信息,进而进行运动学逆解计算出各关节旋转电机的转动量;
(3)转动旋转工作台,使得体温测量仪垂直正对待测体;通过调整关节旋转电机的转动量使三自由度机械臂移动,使得仿生指末端夹持部件夹持的体温测量仪对准待测体的额头位置;然后启动体温测量仪进行测温,并将测得的温度通过数据传输线或无线网络传送到控制系统;
(4)启动仿长臂旋转消毒机构,使得半月形消毒海绵对体温测量仪进行消毒与擦拭;然后重复第一步对下个被测体进行测温。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010194397.8A CN111267106A (zh) | 2020-03-19 | 2020-03-19 | 一种基于视觉的智能体温检测机器人及检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010194397.8A CN111267106A (zh) | 2020-03-19 | 2020-03-19 | 一种基于视觉的智能体温检测机器人及检测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111267106A true CN111267106A (zh) | 2020-06-12 |
Family
ID=70992892
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010194397.8A Withdrawn CN111267106A (zh) | 2020-03-19 | 2020-03-19 | 一种基于视觉的智能体温检测机器人及检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111267106A (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111687855A (zh) * | 2020-06-19 | 2020-09-22 | 扬州大学 | 一种施工现场应急管理系统 |
CN111735541A (zh) * | 2020-06-19 | 2020-10-02 | 北京天骥空间科技有限公司 | 一种移动式体温监测机器人 |
CN111872953A (zh) * | 2020-07-20 | 2020-11-03 | 河南科技大学 | 一种基于红外测温和声音筛查的防疫机器人及检测方法 |
CN111912528A (zh) * | 2020-07-03 | 2020-11-10 | 北京字节跳动网络技术有限公司 | 体温测量系统、方法、装置、设备存储介质 |
CN111956405A (zh) * | 2020-08-17 | 2020-11-20 | 辛盛琛 | 一种咽拭子采集车 |
IT202000015220A1 (it) * | 2020-06-24 | 2021-12-24 | Techcab S R L | Apparecchiatura per la misura della temperatura corporea e sistema per il controllo degli accessi a luoghi soggetti a restrizioni sanitarie |
CN114654475A (zh) * | 2022-03-03 | 2022-06-24 | 华南理工大学 | 一种护理机器人体温测量装置 |
-
2020
- 2020-03-19 CN CN202010194397.8A patent/CN111267106A/zh not_active Withdrawn
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111687855A (zh) * | 2020-06-19 | 2020-09-22 | 扬州大学 | 一种施工现场应急管理系统 |
CN111735541A (zh) * | 2020-06-19 | 2020-10-02 | 北京天骥空间科技有限公司 | 一种移动式体温监测机器人 |
CN111687855B (zh) * | 2020-06-19 | 2022-05-13 | 扬州大学 | 一种施工现场应急管理系统 |
IT202000015220A1 (it) * | 2020-06-24 | 2021-12-24 | Techcab S R L | Apparecchiatura per la misura della temperatura corporea e sistema per il controllo degli accessi a luoghi soggetti a restrizioni sanitarie |
CN111912528A (zh) * | 2020-07-03 | 2020-11-10 | 北京字节跳动网络技术有限公司 | 体温测量系统、方法、装置、设备存储介质 |
CN111872953A (zh) * | 2020-07-20 | 2020-11-03 | 河南科技大学 | 一种基于红外测温和声音筛查的防疫机器人及检测方法 |
CN111872953B (zh) * | 2020-07-20 | 2021-12-14 | 河南科技大学 | 一种基于红外测温和声音筛查的防疫机器人及检测方法 |
CN111956405A (zh) * | 2020-08-17 | 2020-11-20 | 辛盛琛 | 一种咽拭子采集车 |
CN114654475A (zh) * | 2022-03-03 | 2022-06-24 | 华南理工大学 | 一种护理机器人体温测量装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111267106A (zh) | 一种基于视觉的智能体温检测机器人及检测方法 | |
CN110605714B (zh) | 一种基于人眼凝视点的手眼协调抓取方法 | |
CN110116411B (zh) | 一种基于球目标的机器人3d视觉手眼标定方法 | |
WO2018137445A1 (zh) | 一种基于ros系统的机械臂抓取方法及系统 | |
WO2019233227A1 (zh) | 一种基于视觉导航的牙科机器人路径规划系统及方法 | |
CN108527360B (zh) | 一种位置标定系统及方法 | |
CN104856720A (zh) | 一种基于rgb-d传感器的机器人辅助超声扫描系统 | |
JP2009269110A (ja) | 組立装置 | |
CN107981888B (zh) | 计算机乳腺扫描自动机械定位系统 | |
US20010053204A1 (en) | Method and apparatus for relative calibration of a mobile X-ray C-arm and an external pose tracking system | |
WO2016193781A1 (en) | Motion control system for a direct drive robot through visual servoing | |
CN113876426A (zh) | 一种与无影灯结合的术中定位跟踪系统及方法 | |
US10052767B2 (en) | Robot, control device, and control method | |
CN113100834B (zh) | 人体生理样本采集方法、装置、电子设备和存储介质 | |
CN111216109A (zh) | 一种用于临床治疗与检测的视觉跟随装置及其方法 | |
CN111452045B (zh) | 一种基于立体视觉的钢筋识别标记系统和方法 | |
TW202216076A (zh) | 用以基於影像匹配進行鼻咽採檢之方法與系統 | |
Zhou et al. | Design and test of a sorting device based on machine vision | |
CN114224489B (zh) | 用于手术机器人的轨迹跟踪系统及利用该系统的跟踪方法 | |
CN115670505A (zh) | 一种基于多模态融合的超声扫描控制系统 | |
CN115089344A (zh) | 一种基于视觉引导的自动植发设备及方法 | |
Zhang et al. | High-precision calibration of camera and IMU on manipulator for bio-inspired robotic system | |
CN114310957A (zh) | 用于医疗检测的机器人系统及检测方法 | |
Shi et al. | A “Global–Local” Visual Servo System for Picking Manipulators | |
Pedari et al. | Spatial shape estimation of a tendon-driven continuum robotic arm using a vision-based algorithm |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20200612 |