CN105468033B - 一种基于多摄像头机器视觉的医疗吊臂自动避障控制方法 - Google Patents

一种基于多摄像头机器视觉的医疗吊臂自动避障控制方法 Download PDF

Info

Publication number
CN105468033B
CN105468033B CN201511004221.7A CN201511004221A CN105468033B CN 105468033 B CN105468033 B CN 105468033B CN 201511004221 A CN201511004221 A CN 201511004221A CN 105468033 B CN105468033 B CN 105468033B
Authority
CN
China
Prior art keywords
image
obstacle
barrier
medical
control system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201511004221.7A
Other languages
English (en)
Other versions
CN105468033A (zh
Inventor
王海宽
周志境
张锐
费敏锐
尹志辉
姜闻名
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SHANGHAI ZHENGHUA MEDICAL EQUIPMENT CO Ltd
University of Shanghai for Science and Technology
Original Assignee
SHANGHAI ZHENGHUA MEDICAL EQUIPMENT CO Ltd
University of Shanghai for Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SHANGHAI ZHENGHUA MEDICAL EQUIPMENT CO Ltd, University of Shanghai for Science and Technology filed Critical SHANGHAI ZHENGHUA MEDICAL EQUIPMENT CO Ltd
Priority to CN201511004221.7A priority Critical patent/CN105468033B/zh
Publication of CN105468033A publication Critical patent/CN105468033A/zh
Application granted granted Critical
Publication of CN105468033B publication Critical patent/CN105468033B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D3/00Control of position or direction
    • G05D3/12Control of position or direction using feedback
    • G05D3/20Control of position or direction using feedback using a digital comparing device
    • G05D3/203Control of position or direction using feedback using a digital comparing device using fine or coarse devices

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Manipulator (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种基于多摄像头机器视觉的医疗吊臂自动避障控制方法。本发明包括以下步骤:1)实时采集图像数据;2)传输图像数据到PC机;3)图像预处理;4)图像检测是否有障碍物,并且判断障碍物位置信息;5)将障碍物信息传输给下位机电机控制系统;6)电机控制系统对障碍物位置进行分析、计算,实时规划更新到达目标位置的运动路径;7)电机控制系统运行,避开障碍物,运动到指定位置。本发明运用了机器视觉图像处理的相关理论和路径规划理论,以保障自动避障功能的实现,另外考虑到手术室复杂的现场环境对图像的噪声干扰,本发明还采用了一定的软件滤波处理以增强整体算法的鲁棒性和精确性,可以实现对障碍物的高精度识别以及对吊臂的精确避障控制。

Description

一种基于多摄像头机器视觉的医疗吊臂自动避障控制方法
技术领域
本发明属于自动化控制、人工智能技术和机器视觉领域,具体涉及电机控制、机械臂路径规划、机器视觉检测识别障碍物等方法。
技术背景
近年来,随着现代工业和智能制造技术的不断发展,各行各业都或多或少的在实际的生活、生产中使用了现代化智能自动化设备。其中,智能医疗项目的发展也十分地迅速。并且已经发展成为了一门系统的新兴边缘交叉综合工程学科。而由于计算机技术、传感技术、信号处理技术、人工智能技术和控制理论的不断进步,为设备状态监测与故障诊断技术提供了系统的理论工具和使用分析方法,使得其应用价值更加显著。
目前,国内的医疗吊臂设备都是使用手动的方式推动。这样,手术室的效率就会大大降低。而近年来,随着国家对医疗方面的重视。对医疗器械的要求也在不断提高,各大医院也纷纷引进了国外先进的电控医疗吊塔。然而国内医疗吊塔的发展并不理想,多数国产医疗吊塔还是只能靠手动推动,没有实现自动化,更不必说实时避障等这样的智能功能。
机械臂路径规划,基于得到的障碍物位置信息,实时计算、规划最优路径,使机械臂能够顺利绕开障碍物,并迅速到达目标终点位置。
运动图像障碍物识别,基于一般图像处理过程。包括图像采集,图像预处理,图像边缘检测,图像边缘提取,障碍物识别等步骤。
发明内容
针对现有技术存在的缺陷,本发明的目的是提供一种基于多摄像头机器视觉的医疗吊臂自动避障控制方法,以适应手术室现场环境,提高识别障碍物及其位置的准确性、精确性、快速性以及鲁棒性,优化机械臂路径规划算法。
为达到上述目的,本发明采用了以下技术方案:
基于多摄像头机器视觉的医疗吊臂自动避障控制方法,包括以下步骤:
(1.1),实时采集图像数据;
(1.2),将(1.1)采集到的图像数据传输到PC机上;
(1.3),将(1.2)中的图像进行预处理;
(1.4),图像检测是否有障碍物,并且判断障碍物位置信息;
(1.5),将(1.4)中得到的障碍物信息传输给下位机电机控制系统;
(1.6),电机控制系统对障碍物位置进行分析、计算,实时规划更新到达目标位置的运动路径;
(1.7),电机控制系统按照(1.6)中所规划的路径运行,避开障碍物,运动到指定位置。
所述步骤(1.1)实时采集图像数据,首先需要确定摄像头安装位置,为了更好地采集医疗吊臂末端周围的图像,根据医院手术室的特点,以及医疗吊臂的结构,设计了特殊的摄像头放置位置。将摄像头安装在医疗吊臂末端托盘四周的底部,分别放置在四个方向上,总共四个摄像头,可以采集医疗吊臂末端四个方向周围的图像。
所述步骤(1.4)所述图像检测是否有障碍物,并且判断障碍物位置信息包括以下步骤:
(2.1),对四个摄像头同时采集彩色图像,通过图像拼接算法,再进行灰度化处理,得到完整的灰度图像。由于有多个摄像头同时拍摄吊臂末端的各个方向上的图像,每个摄像头得到的图像都只是吊臂末端周围图像的一部分,通过采用SURF特征的图像拼接融合算法,将所得到的图像融合为一张完整的吊臂末端周围图像。再对彩色图像进行灰度化处理,得到灰度图像;
(2.2),对处理得到的灰度图像再进行二值化处理,先使用OTSU算法,计算出自适应最佳阈值,再将该阈值用于CANNY算子中,作为CANNY算法中的一个参数,对灰度图像进行处理,得到具有障碍物边缘信息的二值图像;
(2.3),识别每个图像中的边缘信息,确定障碍物边缘像素点坐标;
(2.4),通过各个摄像头与吊臂的相对位置,进行坐标转化,将各个图像中障碍物的局部位置坐标转化为全局位置坐标,即获得障碍物位置相对于吊臂的坐标。
所述步骤(1.6)所述的机械臂路径规划算法的实现,其步骤为:
(3.1),对障碍物位置信息进行坐标转换,确定其相对于吊臂末端的位置;
(3.2),判断障碍物是否处于现有规划的路径之上,若是,则重新规划最优路径,以绕过障碍物,否则,继续按照原规划路径前进。
本发明与现有技术相比较,具有以下突出的实质性特点和显著的进步:
(1)本发明使用了一种多摄像头机器视觉系统,对图像中障碍物的识别、定位更加准确、精确,使整体系统的适应性和鲁棒性得到加强。
(2)本发明引入了机械臂实时路径规划算法,可以在机械臂运动时,通过分析、计算实时更新的障碍物位置信息,实时地更细所规划的路径,达到动态规划的效果。
附图说明
图1是本发明基于多摄像头机器视觉的医疗吊臂自动避障控制方法的主程序框图。
具体实施方式
下面结合附图和优选实施例对本发明作进一步的描述。
实施例:
如图1所示,本基于多摄像头机器视觉的医疗吊臂自动避障控制方法,包括如下步骤:
(1.1),实时采集图像数据,即利用安装在吊臂上的多个摄像头,实时采集吊臂周围的图像数据。
(1.2),将采集到的图像数据传输到PC机上。摄像头采用USB接口,可以直接通过USB进行数据传输,传输速度较快。
(1.3),对图像进行预处理,图像预处理包括图像直方图均衡化、简单的图像滤波等,使图像相对于现场环境噪声的影响变小,更为清晰,便于之后的处理。
(1.4),图像检测是否有障碍物,并且判断障碍物位置信息,其步骤包括:对四个摄像头同时采集彩色图像,通过图像拼接算法,再进行灰度化处理,得到完整的灰度图像。对处理得到的灰度图像再进行二值化处理,得到具有障碍物边缘信息的二值图像。识别每个图像中的边缘信息,确定障碍物边缘像素点坐标。最终判断障碍物并最终得到障碍物位置信息。
(1.5),将得到的障碍物信息传输给电机控制系统。通过PC机的串口,将障碍物信息传输给下位机控制系统。
(1.6),电机控制系统对障碍物位置进行分析、计算,实时规划更新到达目标位置的运动路径。其步骤包括:对障碍物位置信息进行坐标转换,确定其相对于吊臂末端的位置;判断障碍物是否处于现有规划的路径之上,若是,则重新规划最优路径,以绕过障碍物,否则,继续按照原规划路径前进。
(1.7),电机控制系统按照(1.6)中所规划的路径运行,避开障碍物,运动到指定位置。

Claims (3)

1.基于多摄像头机器视觉的医疗吊臂自动避障控制方法,其特征在于,包括以下步骤:
(1.1),实时采集图像数据;
(1.2),将(1.1)采集到的图像数据传输到PC机上;
(1.3),将(1.2)中的图像进行预处理;
(1.4),图像检测是否有障碍物,并且判断障碍物位置信息,具体步骤:
(2.1),对四个摄像头同时采集彩色图像,通过图像拼接算法,再进行灰度化处理,得到完整的灰度图像,由于有多个摄像头同时拍摄吊臂末端的各个方向上的图像,每个摄像头得到的图像都只是吊臂末端周围图像的一部分,通过采用SURF特征的图像拼接融合算法,将所得到的图像融合为一张完整的吊臂末端周围图像,再对彩色图像进行灰度化处理,得到灰度图像;
(2.2),对处理得到的灰度图像再进行二值化处理,先使用OTSU算法,计算出自适应最佳阈值,再将该阈值用于CANNY算子中,作为CANNY算法中的一个参数,对灰度图像进行处理,得到具有障碍物边缘信息的二值图像;
(2.3),识别每个图像中的边缘信息,确定障碍物边缘像素点坐标;
(2.4),通过各个摄像头与吊臂的相对位置,进行坐标转化,将各个图像中障碍物的局部位置坐标转化为全局位置坐标,即获得障碍物位置相对于吊臂的坐标;
(1.5),将(1.4)中得到的障碍物信息传输给电机控制系统;
(1.6),电机控制系统对障碍物位置进行分析、计算,实时规划更新到达目标位置的运动路径;
(1.7),电机控制系统按照(1.6)中所规划的路径运行,避开障碍物,运动到指定位置。
2.根据权利要求1所述的基于多摄像头机器视觉的医疗吊臂自动避障控制方法,其特征在于:所述步骤(1.1)实时采集图像数据,首先需要确定摄像头安装位置,为了更好地采集医疗吊臂末端周围的图像,根据医院手术室的特点,以及医疗吊臂的结构,设计了特殊的摄像头放置位置,将摄像头安装在医疗吊臂末端托盘四周的底部,分别放置在四个方向上,总共四个摄像头,可以采集医疗吊臂末端四个方向周围的图像。
3.根据权利要求1所述的基于多摄像头机器视觉的医疗吊臂自动避障控制方法,其特征在于:所述步骤(1.6)中的电机控制系统对障碍物位置进行分析、计算,实时规划更新到达目标位置的运动路径包括以下步骤:
(3.1)对障碍物位置信息进行坐标转换,确定其相对于吊臂末端的位置;
(3.2)判断障碍物是否处于现有规划的路径之上,若是,则重新规划最优路径,以绕过障碍物,否则,继续按照原规划路径前进。
CN201511004221.7A 2015-12-29 2015-12-29 一种基于多摄像头机器视觉的医疗吊臂自动避障控制方法 Expired - Fee Related CN105468033B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201511004221.7A CN105468033B (zh) 2015-12-29 2015-12-29 一种基于多摄像头机器视觉的医疗吊臂自动避障控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201511004221.7A CN105468033B (zh) 2015-12-29 2015-12-29 一种基于多摄像头机器视觉的医疗吊臂自动避障控制方法

Publications (2)

Publication Number Publication Date
CN105468033A CN105468033A (zh) 2016-04-06
CN105468033B true CN105468033B (zh) 2018-07-10

Family

ID=55605838

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201511004221.7A Expired - Fee Related CN105468033B (zh) 2015-12-29 2015-12-29 一种基于多摄像头机器视觉的医疗吊臂自动避障控制方法

Country Status (1)

Country Link
CN (1) CN105468033B (zh)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105955279B (zh) * 2016-07-18 2019-04-09 中国矿业大学 一种基于图像视觉的移动机器人路径规划方法及装置
US20200184638A1 (en) * 2017-08-16 2020-06-11 Covidien Lp Systems and methods for enhancing surgical images and/or video
CN110051436B (zh) * 2018-01-18 2020-04-17 上海舍成医疗器械有限公司 自动化协同工作组件及其在手术器械中的应用
CN112733571B (zh) * 2019-10-14 2024-05-17 杭州萤石软件有限公司 机器人的控制方法、设备和存储介质
CN112673799A (zh) * 2019-10-18 2021-04-20 南京德朔实业有限公司 自行走割草系统和户外行走设备
CN113040922B (zh) * 2019-12-27 2022-06-14 重庆海扶医疗科技股份有限公司 聚焦超声手术执行机构的运动控制方法、介质、系统和设备
CN112775967A (zh) * 2020-12-30 2021-05-11 中南民族大学 基于机器视觉的机械臂抓取方法、装置及设备
CN112914727A (zh) * 2021-03-19 2021-06-08 联仁健康医疗大数据科技股份有限公司 非目标障碍物分离方法、系统、医疗机器人及存储介质
CN112907594A (zh) * 2021-04-19 2021-06-04 联仁健康医疗大数据科技股份有限公司 非目标对象辅助分离方法、系统、医疗机器人及存储介质
CN113569701B (zh) * 2021-07-23 2024-03-15 盐城中科高通量计算研究院有限公司 多传感器融合的障碍物感知智能车检测算法
CN113893037B (zh) * 2021-09-30 2023-03-14 重庆医科大学附属第一医院 一种支气管镜机器人及其引导方法和系统
CN113967912A (zh) * 2021-10-21 2022-01-25 深圳市亚博智能科技有限公司 一种机器人控制系统及其控制方法
CN113885513B (zh) * 2021-10-25 2024-01-26 北京歌锐科技有限公司 一种医疗设备的位置摆放方法、系统及装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101852609A (zh) * 2010-06-02 2010-10-06 北京理工大学 一种基于机器人双目立体视觉的地面障碍物检测方法
CN103413313A (zh) * 2013-08-19 2013-11-27 国家电网公司 基于电力机器人的双目视觉导航系统及方法
CN104476549A (zh) * 2014-11-20 2015-04-01 北京卫星环境工程研究所 基于视觉测量的机械臂运动路径补偿方法
CN104626206A (zh) * 2014-12-17 2015-05-20 西南科技大学 一种非结构环境下机器人作业的位姿信息测量方法
CN105116902A (zh) * 2015-09-09 2015-12-02 北京进化者机器人科技有限公司 一种移动机器人避障导航的方法和系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101852609A (zh) * 2010-06-02 2010-10-06 北京理工大学 一种基于机器人双目立体视觉的地面障碍物检测方法
CN103413313A (zh) * 2013-08-19 2013-11-27 国家电网公司 基于电力机器人的双目视觉导航系统及方法
CN104476549A (zh) * 2014-11-20 2015-04-01 北京卫星环境工程研究所 基于视觉测量的机械臂运动路径补偿方法
CN104626206A (zh) * 2014-12-17 2015-05-20 西南科技大学 一种非结构环境下机器人作业的位姿信息测量方法
CN105116902A (zh) * 2015-09-09 2015-12-02 北京进化者机器人科技有限公司 一种移动机器人避障导航的方法和系统

Also Published As

Publication number Publication date
CN105468033A (zh) 2016-04-06

Similar Documents

Publication Publication Date Title
CN105468033B (zh) 一种基于多摄像头机器视觉的医疗吊臂自动避障控制方法
Ling et al. Dual-arm cooperation and implementing for robotic harvesting tomato using binocular vision
SepúLveda et al. Robotic aubergine harvesting using dual-arm manipulation
CN107914272B (zh) 一种七自由度机械臂组件抓取目标物体的方法
Malima et al. A fast algorithm for vision-based hand gesture recognition for robot control
CN106737673A (zh) 一种基于深度学习的端到端的机械臂控制的方法
CN109693140B (zh) 一种智能化柔性生产线及其工作方法
CN111013857A (zh) 一种喷涂机器人控制系统及控制方法
CN111462154A (zh) 基于深度视觉传感器的目标定位方法、装置及自动抓取机器人
CN102509085A (zh) 基于轮廓不变矩特征的猪行走姿态识别系统和方法
CN108182423A (zh) 一种基于深度卷积神经网络的禽类动物行为识别方法
CN110640741A (zh) 一种规则形状工件匹配的抓取工业机器人
CN105500370A (zh) 一种基于体感技术的机器人离线示教编程系统及方法
CN112282787B (zh) 一种隧道自动化维护多臂机器人及其控制方法
CN210386980U (zh) 一种基于机器视觉的冷床智能控制系统
Mohammed et al. Integrated image processing and path planning for robotic sketching
CN109531570A (zh) 基于视觉传感器的机械臂抓取方法
Gao et al. An automatic assembling system for sealing rings based on machine vision
CN207752527U (zh) 一种机器人动态抓取系统
Liu et al. A new measurement method of real-time pose estimation for an automatic hydraulic excavator
CN116160452A (zh) 一种智能工厂机器人控制方法
CN114565852A (zh) 一种基于机器视觉工业机器人安全防护系统及安全防护方法
KR20230061612A (ko) 머신 러닝을 이용한 물체의 피킹 자동화 시스템 및 그 제어 방법
CN107356232A (zh) 一种视觉检测系统用图像处理方法
Fu et al. Vision based navigation for power transmission line inspection robot

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20180710

Termination date: 20211229

CF01 Termination of patent right due to non-payment of annual fee