CN107448822A - 一种基于目标跟踪与手势识别技术的手术无影灯及其控制方法 - Google Patents

一种基于目标跟踪与手势识别技术的手术无影灯及其控制方法 Download PDF

Info

Publication number
CN107448822A
CN107448822A CN201710666515.9A CN201710666515A CN107448822A CN 107448822 A CN107448822 A CN 107448822A CN 201710666515 A CN201710666515 A CN 201710666515A CN 107448822 A CN107448822 A CN 107448822A
Authority
CN
China
Prior art keywords
shadowless lamp
gesture
steering wheel
computer
cantilever
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710666515.9A
Other languages
English (en)
Inventor
许超
郭磊
钱琴芳
夏燕飞
王红梅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang University ZJU
Zhejiang Hospital
Original Assignee
Zhejiang University ZJU
Zhejiang Hospital
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang University ZJU, Zhejiang Hospital filed Critical Zhejiang University ZJU
Priority to CN201710666515.9A priority Critical patent/CN107448822A/zh
Publication of CN107448822A publication Critical patent/CN107448822A/zh
Pending legal-status Critical Current

Links

Classifications

    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F21LIGHTING
    • F21SNON-PORTABLE LIGHTING DEVICES; SYSTEMS THEREOF; VEHICLE LIGHTING DEVICES SPECIALLY ADAPTED FOR VEHICLE EXTERIORS
    • F21S8/00Lighting devices intended for fixed installation
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F21LIGHTING
    • F21VFUNCTIONAL FEATURES OR DETAILS OF LIGHTING DEVICES OR SYSTEMS THEREOF; STRUCTURAL COMBINATIONS OF LIGHTING DEVICES WITH OTHER ARTICLES, NOT OTHERWISE PROVIDED FOR
    • F21V23/00Arrangement of electric circuit elements in or on lighting devices
    • F21V23/003Arrangement of electric circuit elements in or on lighting devices the elements being electronics drivers or controllers for operating the light source, e.g. for a LED array
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/107Static hand or arm
    • G06V40/113Recognition of static hand signs
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F21LIGHTING
    • F21WINDEXING SCHEME ASSOCIATED WITH SUBCLASSES F21K, F21L, F21S and F21V, RELATING TO USES OR APPLICATIONS OF LIGHTING DEVICES OR SYSTEMS
    • F21W2131/00Use or application of lighting devices or systems not provided for in codes F21W2102/00-F21W2121/00
    • F21W2131/20Lighting for medical use
    • F21W2131/205Lighting for medical use for operating theatres

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于目标跟踪与手势识别技术的手术无影灯及其控制方法,它包括视觉识别单元、机械臂控制单元及计算机;所述机械臂控制单元包括无影灯悬臂和安装在无影灯悬臂端部的无影灯;所述无影灯悬臂为串联臂,由若干连杆串联而成,相连两个连杆之间安装舵机;所述视觉识别单元包括标签以及安装在无影灯上的摄像头;所述舵机和摄像头均与计算机相连。本发明将手势识别应用于无影灯的控制,医护人员在手术过程中,无需手动调整无影灯的角度及位置,只需做手势,无影灯即可根据手势做出相应的动作,从而避免了因直接触碰而带来的卫生问题及操作不灵活的问题。

Description

一种基于目标跟踪与手势识别技术的手术无影灯及其控制 方法
技术领域
本发明涉及医疗手术器材领域,尤其涉及一种基于目标跟踪与手势识别技术的手术无影灯及其控制方法。
背景技术
手术无影灯用来照明手术部位,以最佳地观察处于切口和体腔中不同深度的小的、对比度低的物体。由于施手术者的头、手和器械均可能对手术部位造成干扰阴影,因而手术无影灯能尽量消除阴影,并能将色彩失真降到最低程度。手术无影灯一般由单个或多个灯头组成,系定在悬臂上,能做垂直或循环移动,悬臂通常连接在固定的结合器上,并能围着它旋转。无影灯采用可消毒的手柄或设消毒的箍(曲轨)作灵活定位,并具有自动刹车和停止功能以操纵其定位,在手术部位的上面和周围,保持相宜的空间。无影灯的固定装置可安置在天花板或墙壁上的固定点上,也可安置在天花板的轨道上。
目前对于无影灯的使用主要以人工直接操作为主,需医护人员用手直接触碰无影灯或触碰控制按钮,存在因直接触碰而带来的卫生问题及操作不灵活的问题。
发明内容
本发明针对手术无影灯在实际操作时的卫生及灵活性问题,提供一种基于目标跟踪与手势识别技术的手术无影灯及其控制方法,满足无影灯在医疗手术等领域的卫生性及操作便捷性的较高要求。
本发明的目的是通过以下技术方案来实现的:一种基于目标跟踪与手势识别技术的手术无影灯,它包括视觉识别单元、机械臂控制单元及计算机;所述机械臂控制单元包括无影灯悬臂和安装在无影灯悬臂端部的无影灯;所述无影灯悬臂为串联臂,由若干连杆串联而成,相连两个连杆之间安装舵机;所述视觉识别单元包括标签以及安装在无影灯上的摄像头;所述舵机和摄像头均与计算机相连。
本发明的另一目的是提供一种基于目标跟踪与手势识别技术的手术无影灯的控制方法,其特征在于,具体包括如下步骤:
(1)手势识别模型的建立:在医护人员手上贴标签,摄像头采集医护人员做出的不同手势图像,对每种手势赋予一个相应的动作指令,计算机采用机器学习的原理训练得到手势识别模型;
(2)使用过程中,摄像头实时采集医护人员做出的手势,将图像信息传送到计算机;
(3)计算机根据步骤(1)中建立的手势识别模型对新获得的图像进行识别分类,识别成功后得出对应动作指令;
(4)根据动作指令得到出相应的无影灯悬臂的控制值,此控制值为各舵机的转动角度,舵机的转动角度通过以下方式获得:
各个无影灯悬臂运动指令需要一个或多个舵机来完成,每个舵机的实际转动角度均预先定义好,每个无影灯悬臂运动指令对应一种无影灯悬臂的运动状态;
当计算机识别成功后得出对应动作指令,则会直接将相关舵机的旋转角度输出到各个舵机上,若识别失败则不做出任何动作。
(5)当医护人员做出手势进入跟随模式后,计算机利用HSV阈值分割将对摄像头采集到的图像中的手上佩戴的标签进行识别,从而确认标签在图像中的位置;
(6)计算机根据图像中的标签位置进行运算,为使得标签能保持在图像的中心范围内,计算标签当前位置与图像中心位置的距离,得出无影灯需要运动的方向或角度,给出无影灯悬臂控制指令,继而得到对应的各个舵机为完成相应的移动所需的转动角度;
(7)计算机将指令所对应的各个舵机角度输出到无影灯悬臂各个关节的舵机,以完成跟随;
(8)手术结束后做出恢复原位的相应手势,无影灯恢复原位,最后即可关闭无影灯。
本发明的有益效果如下:本发明将手势识别应用于无影灯的控制,医护人员在手术过程中,无需手动调整无影灯的角度及位置,只需做手势,无影灯即根据手势做出相应的动作,从而避免了因直接触碰而带来的卫生问题及操作不灵活的问题。
附图说明
图1是本发明的结构示意图;
图2是本发明实施例中五种手势;
图中:无影灯悬臂1、无影灯2、连杆3、舵机4、标签5、摄像头6。
具体实施方式
下面结合附图对本发明做进一步的说明。
如图1所示,本发明提供一种基于目标跟踪与手势识别技术的手术无影灯,它包括视觉识别单元、机械臂控制单元及计算机;
所述机械臂控制单元包括无影灯悬臂1和安装在无影灯悬臂端部的无影灯2;所述无影灯悬臂1为串联臂,由若干连杆3串联而成,相连两个连杆3之间安装舵机4;
所述视觉识别单元包括医护人员手上所贴的标签5以及安装在无影灯2上的摄像头6;
所述计算机可以是无影灯内的微型计算机,采用型号为Intel NUC的产品,但不限于此;舵机4和摄像头6均与计算机相连。
控制方法具体工作过程如下:
(1)手势识别模型的建立:在医护人员手上贴标签,摄像头采集医护人员做出的不同手势图像,对每种手势赋予一个相应的动作指令,计算机采用现有的机器学习的原理训练得到手势识别模型;如图2所示,本实施例中提供以下几种手势,各手势表示的指令为:(a)表示无影灯上升;(b)表示无影灯下降;(c)表示无影灯停止调整,保持位置;(d)表示无影灯恢复跟随;(e)无影灯结束工作,恢复原位;当然手势指不限于以上手势及指令,可预先设置所有合适的手势及指令;医护人员可随时根据需要对无影灯再次初始化,重新采集手势图像并训练识别模型;
(2)使用过程中,摄像头6实时采集医护人员做出的手势,将图像信息传送到计算机;
(3)计算机根据步骤(1)中建立的手势识别模型对新获得的图像进行识别分类,识别成功后得出对应动作指令;
(4)根据动作指令得到出相应的无影灯悬臂1的控制值,此控制值为各舵机4的转动角度,舵机的转动角度通过以下方式获得:
各个无影灯悬臂1运动指令需要一个或多个舵机4来完成,每个舵机4的实际转动角度均预先定义好,每个无影灯悬臂1运动指令对应一种无影灯悬臂1的运动状态;
当计算机识别成功后得出对应动作指令,则会直接将相关舵机的旋转角度输出到各个舵机4上,若识别失败则不做出任何动作。
(5)当医护人员做出手势进入跟随模式后,计算机利用HSV阈值分割将对摄像头6采集到的图像中的手上佩戴的标签5进行识别,从而确认标签5在图像中的位置;
(6)计算机根据图像中的标签5位置进行运算,为使得标签5能保持在图像的中心范围内,计算标签5当前位置与图像中心位置的距离,得出无影灯2需要运动的方向或角度,给出无影灯悬臂1控制指令,继而得到对应的各个舵机4为完成相应的移动所需的转动角度;
(7)计算机将指令所对应的各个舵机4角度输出到无影灯悬臂1各个关节的舵机,以完成跟随;
(8)手术结束后做出恢复原位的相应手势,无影灯2恢复原位,最后即可关闭无影灯2。

Claims (2)

1.一种基于目标跟踪与手势识别技术的手术无影灯,其特征在于,它包括视觉识别单元、机械臂控制单元及计算机等;所述机械臂控制单元包括无影灯悬臂和安装在无影灯悬臂端部的无影灯;所述无影灯悬臂为串联臂,由若干连杆串联而成,相连两个连杆之间安装舵机;所述视觉识别单元包括标签以及安装在无影灯上的摄像头;所述舵机和摄像头均与计算机相连。
2.根据权利要求1所述的一种基于目标跟踪与手势识别技术的手术无影灯的控制方法,其特征在于,具体包括如下步骤:
(1)手势识别模型的建立:在医护人员手上贴标签,摄像头采集医护人员做出的不同手势图像,对每种手势赋予一个相应的动作指令,计算机采用机器学习的原理训练得到手势识别模型;
(2)使用过程中,摄像头实时采集医护人员做出的手势,将图像信息传送到计算机;
(3)计算机根据步骤(1)中建立的手势识别模型对新获得的图像进行识别分类,识别成功后得出对应动作指令;
(4)根据动作指令得到出相应的无影灯悬臂的控制值,此控制值为各舵机的转动角度,舵机的转动角度通过以下方式获得:
各个无影灯悬臂运动指令需要一个或多个舵机来完成,每个舵机的实际转动角度均预先定义好,每个无影灯悬臂运动指令对应一种无影灯悬臂的运动状态;
当计算机识别成功后得出对应动作指令,则会直接将相关舵机的旋转角度输出到各个舵机上,若识别失败则不做出任何动作。
(5)当医护人员做出手势进入跟随模式后,计算机利用HSV阈值分割将对摄像头采集到的图像中的手上佩戴的标签进行识别,从而确认标签在图像中的位置;
(6)计算机根据图像中的标签位置进行运算,为使得标签能保持在图像的中心范围内,计算标签当前位置与图像中心位置的距离,得出无影灯需要运动的方向或角度,给出无影灯悬臂控制指令,继而得到对应的各个舵机为完成相应的移动所需的转动角度;
(7)计算机将指令所对应的各个舵机角度输出到无影灯悬臂各个关节的舵机,以完成跟随;
(8)手术结束后做出恢复原位的相应手势,无影灯恢复原位,最后即可关闭无影灯。
CN201710666515.9A 2017-08-07 2017-08-07 一种基于目标跟踪与手势识别技术的手术无影灯及其控制方法 Pending CN107448822A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710666515.9A CN107448822A (zh) 2017-08-07 2017-08-07 一种基于目标跟踪与手势识别技术的手术无影灯及其控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710666515.9A CN107448822A (zh) 2017-08-07 2017-08-07 一种基于目标跟踪与手势识别技术的手术无影灯及其控制方法

Publications (1)

Publication Number Publication Date
CN107448822A true CN107448822A (zh) 2017-12-08

Family

ID=60490891

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710666515.9A Pending CN107448822A (zh) 2017-08-07 2017-08-07 一种基于目标跟踪与手势识别技术的手术无影灯及其控制方法

Country Status (1)

Country Link
CN (1) CN107448822A (zh)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109947251A (zh) * 2019-03-20 2019-06-28 成都泰盟软件有限公司 一种实现手术光照与摄像对应的手势控制方法
CN110288661A (zh) * 2019-06-19 2019-09-27 深圳市睿智龙电子科技有限公司 手术灯的位置调整方法、装置、计算机设备和存储介质
WO2019218153A1 (zh) * 2018-05-15 2019-11-21 南京迈瑞生物医疗电子有限公司 一种手术灯的控制方法和手术灯
CN111486419A (zh) * 2020-05-25 2020-08-04 上海理工大学 一种无影灯自动定位的方法和装置
CN111919514A (zh) * 2018-02-09 2020-11-10 金泰克斯公司 基于图像控制的自适应照明阵列
CN112386721A (zh) * 2020-11-13 2021-02-23 上海大学 一种智能消毒系统
CN112566337A (zh) * 2020-12-21 2021-03-26 联仁健康医疗大数据科技股份有限公司 照明设备控制方法、装置、电子设备以及存储介质
CN112596606A (zh) * 2020-12-15 2021-04-02 天津安怀信科技有限公司 无影灯控制系统、控制方法及基于雷达的手势控制无影灯
CN113784046A (zh) * 2021-08-31 2021-12-10 北京安博盛赢教育科技有限责任公司 一种随动拍摄方法、装置、介质和电子设备
CN114096045A (zh) * 2021-12-29 2022-02-25 海杰亚(北京)医疗器械有限公司 一种跟踪手术视野的智能无影灯及其使用方法
CN114245542A (zh) * 2021-12-17 2022-03-25 深圳市恒佳盛电子有限公司 一种雷达感应灯及其控制方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN201248169Y (zh) * 2008-07-25 2009-05-27 莫曾南 自动跟踪定位型手术用无影灯装置及光源追踪标识装置
CN201753902U (zh) * 2009-12-15 2011-03-02 上海品兴科技有限公司 手术无影灯的叉臂
CN104252225A (zh) * 2013-06-27 2014-12-31 南京迈瑞生物医疗电子有限公司 体感控制医疗设备及医疗设备体感控制方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN201248169Y (zh) * 2008-07-25 2009-05-27 莫曾南 自动跟踪定位型手术用无影灯装置及光源追踪标识装置
CN201753902U (zh) * 2009-12-15 2011-03-02 上海品兴科技有限公司 手术无影灯的叉臂
CN104252225A (zh) * 2013-06-27 2014-12-31 南京迈瑞生物医疗电子有限公司 体感控制医疗设备及医疗设备体感控制方法

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111919514B (zh) * 2018-02-09 2023-08-29 金泰克斯公司 基于图像控制的自适应照明阵列
CN111919514A (zh) * 2018-02-09 2020-11-10 金泰克斯公司 基于图像控制的自适应照明阵列
WO2019218153A1 (zh) * 2018-05-15 2019-11-21 南京迈瑞生物医疗电子有限公司 一种手术灯的控制方法和手术灯
CN109947251A (zh) * 2019-03-20 2019-06-28 成都泰盟软件有限公司 一种实现手术光照与摄像对应的手势控制方法
CN110288661A (zh) * 2019-06-19 2019-09-27 深圳市睿智龙电子科技有限公司 手术灯的位置调整方法、装置、计算机设备和存储介质
CN110288661B (zh) * 2019-06-19 2020-07-10 深圳市睿智龙电子科技有限公司 手术灯的位置调整方法、装置、计算机设备和存储介质
CN111486419A (zh) * 2020-05-25 2020-08-04 上海理工大学 一种无影灯自动定位的方法和装置
CN112386721A (zh) * 2020-11-13 2021-02-23 上海大学 一种智能消毒系统
CN112596606A (zh) * 2020-12-15 2021-04-02 天津安怀信科技有限公司 无影灯控制系统、控制方法及基于雷达的手势控制无影灯
CN112566337A (zh) * 2020-12-21 2021-03-26 联仁健康医疗大数据科技股份有限公司 照明设备控制方法、装置、电子设备以及存储介质
CN113784046A (zh) * 2021-08-31 2021-12-10 北京安博盛赢教育科技有限责任公司 一种随动拍摄方法、装置、介质和电子设备
CN114245542A (zh) * 2021-12-17 2022-03-25 深圳市恒佳盛电子有限公司 一种雷达感应灯及其控制方法
CN114245542B (zh) * 2021-12-17 2024-03-22 深圳市恒佳盛电子有限公司 一种雷达感应灯及其控制方法
CN114096045A (zh) * 2021-12-29 2022-02-25 海杰亚(北京)医疗器械有限公司 一种跟踪手术视野的智能无影灯及其使用方法
CN114096045B (zh) * 2021-12-29 2023-12-19 海杰亚(北京)医疗器械有限公司 一种跟踪手术视野的智能无影灯及其使用方法

Similar Documents

Publication Publication Date Title
CN107448822A (zh) 一种基于目标跟踪与手势识别技术的手术无影灯及其控制方法
CN107660039B (zh) 一种识别动态手势的灯具控制系统
Meng et al. Remote surgery case: robot-assisted teleneurosurgery
KR101762638B1 (ko) 최소 침습 수술 시스템에서 손 제스처 제어를 위한 방법 및 장치
KR101789064B1 (ko) 원격조종 최소 침습 종속 수술 기구의 손 제어를 위한 방법 및 시스템
KR101785360B1 (ko) 최소 침습 수술 시스템에서 손 존재 검출을 위한 방법 및 시스템
CN105411681B (zh) 分体式微创手术机器人的手眼协调控制系统及方法
US20070265495A1 (en) Method and apparatus for field of view tracking
CA2831618A1 (en) Gesture operated control for medical information systems
US20200030986A1 (en) Robotic camera control via motion capture
JP2020507436A (ja) 圧縮および/またはcmosウィンドウイングを用いた高速光学追跡
WO2023165074A1 (zh) 图像定位及动态图像生成方法、装置、系统及存储介质
CN110561430A (zh) 用于离线示例学习的机器人装配轨迹优化方法及装置
WO2017118284A1 (zh) 一种被动式光学动作捕捉设备及其应用
CN106737736A (zh) 一种智能画像机器人
Staub et al. Human-computer interfaces for interaction with surgical tools in robotic surgery
CN112109074A (zh) 一种机器人目标图像抓取方法
CN113208731A (zh) 基于双目视觉系统的手术穿刺机器人手眼标定方法
CN206426108U (zh) 一种智能画像机器人
CN102768541A (zh) 手术机器人的控制方法和系统
CN113647972A (zh) 一种辅助口腔医疗影像的双臂协作机器人控制方法及系统
CN108992022A (zh) 一种应用于智能内窥镜手术时的ai应用系统
CN215264708U (zh) 一种交互式可穿戴多媒体装置
CN104434157A (zh) 一种视觉测量自动跟踪定位摄影医用x射线机
CN206270984U (zh) 一种实时三维人体模型动作跟踪辅助装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20171208

RJ01 Rejection of invention patent application after publication