CN108765577B - 一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法 - Google Patents
一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法 Download PDFInfo
- Publication number
- CN108765577B CN108765577B CN201810312600.XA CN201810312600A CN108765577B CN 108765577 B CN108765577 B CN 108765577B CN 201810312600 A CN201810312600 A CN 201810312600A CN 108765577 B CN108765577 B CN 108765577B
- Authority
- CN
- China
- Prior art keywords
- animal
- limb
- real
- point cloud
- skeleton
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/10—Constructive solid geometry [CSG] using solid primitives, e.g. cylinders, cubes
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Graphics (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Geometry (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Processing Or Creating Images (AREA)
Abstract
本发明公开了一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法,该方法首先建立四肢畜牧动物标准三维模型和绑定的该动物标准关节骨架系统;再实时采集的四肢畜牧动物点云数据,利用上一时刻的四肢畜牧动物实时动态三维模型向当前时刻采集的动物点云数据进行拟合计算,生成当前时刻的四肢畜牧动物实时动态三维模型;根据上一时刻和当前时刻的四肢畜牧动物实时动态三维模型在几何外形上的差异,由上一时刻该动物的实时关节动态骨架系统,按照四肢畜牧动物的解剖学约束,生成当前时刻的实时关节动态骨架虚拟图形信息;将四肢畜牧动物运动过程中当前时刻的实时关节动态骨架虚拟图形信息叠加到四肢畜牧动物运动身体上,进行增强现实跟踪显示。
Description
技术领域
本发明属于计算机图形学、虚拟现实与增强现实技术、畜禽行为学领域,更具体地,涉及一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法。
背景技术
动物行为往往表现异常,监控畜牧动物行为变化是评估畜牧动物健康状况的常用技术手段,可为精准畜牧养殖提供依据。现有四肢畜牧动物行为监控方法包括:
(1)人工评估方法:通过饲养员观察进行评估,评估精度高度依赖于饲养员经验,费时费力,评估结论不稳定,无法实现连续监控,不能满足畜牧业精准、大规模的发展要求;
(2)基于传感器的接触方法:需要将传感器佩戴在动物身上,动物容易产生应激反应,需要消耗大量人力、物力进行传感器维护,不能满足畜牧养殖规模化发展要求;
(3)基于相机的非接触方法:可以避免方法(1)和(2)所面临的问题,代表了动物行为监控方法的技术方向。基于骨架的动物行为分析是其中的一类重要方法,相关方法的主要问题表现在:利用标准RGB图像,通过动物轮廓中轴线计算得到动物骨架,这种基于轮廓中轴线的骨架不具有解刨学意义,不利于动物行为的直观分析;利用RGB-D深度图像,采用结构支持向量机SSVM(Structural Support Vector Machine)等机器学习方法训练身体部位分类器,用于对头、躯干、尾和四肢等7个不同身体部位的识别与分类,依据不同身体部位之间的解刨学约束,生成包括颈部关节、臀部关节在内的两关节骨架系统,膝关节的缺乏导致无法实现四肢运动的精确行为分析,如:猪、牛的跛足分析;由于不同身体部位之间缺乏明确的边界区分,基于机器学习的不同身体部位的分类精度难以稳定提高,影响了四肢畜牧动物骨架的生成质量。
发明内容
为了解决上述现有技术中存在的不足之处,提供一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法。利用实时采集的动物点云数据驱动四肢畜牧动物标准三维模型动态变化,实现与四肢畜牧动物标准三维模型绑定的标准关节骨架的实时动态更新,将动态变化的关节骨架虚拟图形信息叠加到真实动物身体上进行显示,达到四肢畜牧动物骨架增强现实跟踪的目的。
本发明的目的通过下述技术方案来实现:
一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法,包括具体步骤如下:
S1.建立四肢畜牧动物标准三维模型和绑定的该动物标准关节骨架系统;
S2.实时采集的四肢畜牧动物点云数据,包括上一时刻采集的动物点云数据和当前时刻采集的动物点云数据;
S3.利用上一时刻的四肢畜牧动物实时动态三维模型向当前时刻采集的动物点云数据进行拟合计算,即将当前时刻采集的动物点云数据作为约束条件,利用迭代,查找确定约束点云与上一时刻动物实时动态三维模型之间的对应点对,使上一时刻动物实时动态三维模型拟合约束点云数据,迭代生成当前时刻的四肢畜牧动物实时动态三维模型;
S4.根据上一时刻和当前时刻的四肢畜牧动物实时动态三维模型在几何外形上的差异,由上一时刻该动物的实时关节动态骨架系统,按照四肢畜牧动物的解剖学约束,生成当前时刻的实时关节动态骨架虚拟图形信息;
S5.将四肢畜牧动物运动过程中当前时刻的实时关节动态骨架虚拟图形信息叠加到四肢畜牧动物运动身体上,进行增强现实跟踪显示。
优选地,步骤S1中所述四肢畜牧动物为猪、牛、羊、马、驴、骡、兔、骆驼、梅花鹿、鹿、貂、麝或水獭。
进一步地,步骤S1中还包括利用三维建模和动画软件制作四肢畜牧动物静止站立时的标准三维模型和绑定的该动物标准关节骨架系统。
优选地,所述动物标准关节骨架系统包括4个膝关节、1个颈部关节和1个臀部关节。
进一步地,步骤S3还包括以下方法:初始时刻的四肢畜牧动物实时动态三维模型的建立是利用步骤S1中的四肢畜牧动物标准三维模型向步骤S2中的当前时刻采集的动物点云数据进行拟合计算,即将步骤S2中当前时刻采集的动物点云数据作为约束条件,利用迭代查找约束点云与步骤S1中的动物标准三维模型之间的对应点对,使动物标准三维模型拟合约束点云数据,生成初始时刻的四肢畜牧动物实时动态三维模型。
进一步地,步骤S4还包括以下方法:初始时刻的四肢畜牧动物实时关节动态骨架虚拟图形信息是根据步骤S1中的四肢畜牧动物标准三维模型和步骤S3中的当前时刻的四肢畜牧动物实时动态三维模型在几何外形上的差异,由该动物标准关节骨架按照四肢畜牧动物的解剖学约束,生成初始时刻的实时关节动态骨架虚拟图形信息。
与现有技术相比,本发明具有以下有益效果:
1.本发明提供了一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法,利用实时采集的动物点云数据驱动四肢畜牧动物标准三维模型动态变化,实现与四肢畜牧动物标准三维模型绑定的标准关节骨架的实时动态更新,将动态变化的关节骨架虚拟图形信息叠加到真实动物身体上进行显示,达到四肢畜牧动物骨架增强现实跟踪的目的。
2.与基于机器学习的骨架生成方法相比,本发明避免了机器学习需准备大量手工标记数据集和训练身体不同部位分类器的负担,不会出现身体部位分类错误对骨架生成造成的影响;与基于轮廓中轴线的骨架生成方法相比,确保生成的骨架具有严格的解剖学意义。
3.与传统的骨架系统从无到有的生成过程相比,本发明采用预设四肢畜牧动物骨架的方法,有利于四肢畜牧动物骨架系统生成与跟踪效率的提高;采用增强现实技术,将动态变化的关节骨架图形信息叠加到真实动物个体上,更便于观察、分析动物运动过程中的骨架系统变化和异常行为之间的关系。
4.本发明以猪、牛等典型四肢畜牧动物为对象,从畜牧养殖规模化、精准化的发展需求出发,将数据驱动的三维物体变形方法与增强现实技术相结合,实现四肢畜牧动物骨架实时可视跟踪,可为四肢畜牧动物异常行为分析提供更加直观的技术手段,为四肢畜牧动物非接触实时自动健康监控诊断提供新方法。
附图说明
图1为本发明的一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法的流程图。
图2为四肢畜牧动物标准三维模型和绑定的标准关节骨架示意图。
图3为四肢畜牧动物标准三维模型示意图。
图4为四肢畜牧动物标准关节骨架示意图。
图5为四肢畜牧动物骨架增强现实显示示意图。
图6为四肢畜牧动物骨架跟踪增强现实显示示意图。
具体实施方式
下面结合具体实施例进一步说明本发明的内容,但不应理解为对本发明的限制。若未特别指明,实施例中所用的技术手段为本领域技术人员所熟知的常规手段。
畜牧养殖主要包括猪、牛、羊、马、驴、骡、兔、骆驼、梅花鹿等家畜家禽饲养,和鹿、貂、麝、水獭等野生经济动物驯养。
如图1所示,本发明的一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法,包括利用点云数据获取设备实时采集动物点云(点云是指多个点的集合,每个点有三个坐标值)数据的步骤。
首先,建立四肢畜牧动物标准三维模型和绑定的标准6关节骨架(图2)。所述四肢畜牧动物标准三维模型和绑定的标准6关节骨架是指猪、牛等四肢畜牧动物静止站立时的三维模型和6关节骨架,分别称为四肢畜牧动物标准三维模型(图3)和四肢畜牧动物标准骨架(图4)。其中,标准6关节骨架是一个具有解剖学约束的四肢畜牧动物骨架系统,由1个颈部关节、1个臀部关节和由4个膝关节构成,如图4所示。其中1为颈部关节,2为臀部关节,3、4、5、6为膝关节。
本发明实施例对三维建模和动画软件不做限定,优选地,可以是Maya、3DMax等三维建模和动画软件中的一种或几种。四肢畜牧动物标准三维模型还可以利用三维重建系统得到。
其次,生成四肢畜牧动物运动过程中的实时动态三维模型。在实时采集的四肢畜牧动物点云数据的驱动下,当上一时刻动物实时动态三维模型不存在时(即初始时刻的实时动态三维模型的建立),是利用动物标准三维模型向当前时刻的动物点云数据进行拟合计算,即将当前时刻动物点云数据作为约束条件,利用迭代,查找确定约束点云与动物标准三维模型之间的对应点对,使动物标准三维模型拟合约束点云数据,迭代生成初始时刻的四肢畜牧动物实时动态三维模型;当上一时刻动物实时动态三维模型存在时,利用上一时刻的动物实时动态三维模型向当前时刻的目标动物点云数据进行拟合计算,即将当前时刻目标动物点云数据作为约束条件,利用迭代,查找确定约束点云与上一时刻动物实时动态三维模型之间的对应点对,使上一时刻动物实时动态三维模型拟合约束点云数据,迭代生成当前时刻四肢畜牧动物实时动态三维模型。
接着,生成四肢畜牧动物运动过程中的实时动态骨架虚拟图形信息。当上一时刻动物实时动态三维模型不存在时(即初始时刻的实时关节动态骨架虚拟图形信息的获取),根据动物标准三维模型和当前时刻动物实时动态三维模型在几何外形上的差异,由四肢畜牧动物标准6关节骨架系统按照四肢畜牧动物的解剖学约束生成初始时刻的实时6关节动态骨架虚拟图形信息;当上一时刻动物实时动态三维模型存在时,根据上一时刻和当前时刻动物实时动态三维模型在几何外形上的差异,由上一时刻动物实时6关节动态骨架按照四肢畜牧动物的解剖学约束生成当前时刻实时6关节动态骨架虚拟图形信息。
本发明的骨架生成方法利用事先预制的一个四肢畜牧动物标准6关节骨架,根据动物实时点云提供的约束信息,实现骨架系统的动态更新,避免了骨架从无到有的生成过程,不但有利于提高骨架生成与跟踪效率,而且可以确保生成的骨架具有严格的解剖学意义。
最后,将四肢畜牧动物实时动态骨架图形叠加到真实动物运动影像上,进行增强现实显示。利用增强现实设备,将实时6关节动态骨架图形信息叠加到真实动物个体上,如图5和图6所示。图5为四肢畜牧动物骨架增强现实显示示意图;图6为四肢畜牧动物骨架跟踪增强现实显示示意图。由此可知该方法更便于观察、分析动物运动过程中的骨骼系统变化和异常行为之间的关系。
本发明对增强现实设备不做限定,优选地,可以是头戴式增强现实设备和基于智能手机的增强现实系统中的一种或几种。
本发明从畜牧养殖规模化、精准化的发展需求出发,将数据驱动的三维物体变形方法与增强现实技术相结合,实现四肢畜牧动物骨架实时可视跟踪,为四肢畜牧动物异常行为分析提供更加直观的技术手段,为四肢畜牧动物非接触实时自动健康监控诊断提供新方法。
上述实施例为本发明较佳的实施方式,但本发明的实施方式并不受上述实施例的限制,其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合和简化,均应为等效的置换方式,都包含在本发明的保护范围之内。
Claims (4)
1.一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法,其特征在于,包括具体步骤如下:
S1.建立四肢畜牧动物标准三维模型和绑定的该动物标准关节骨架系统;
S2.实时采集的四肢畜牧动物点云数据,包括上一时刻采集的动物点云数据和当前时刻采集的动物点云数据;
S3.将步骤S2中当前时刻采集的动物点云数据作为约束条件,利用迭代查找约束点云与步骤S1中的动物标准三维模型之间的对应点对,使动物标准三维模型拟合约束点云数据,生成初始时刻的四肢畜牧动物实时动态三维模型;
S4.利用上一时刻的四肢畜牧动物实时动态三维模型向当前时刻采集的动物点云数据进行拟合计算,即将当前时刻采集的动物点云数据作为约束条件,利用迭代,查找确定约束点云与上一时刻动物实时动态三维模型之间的对应点对,使上一时刻动物实时动态三维模型拟合约束点云数据,迭代生成当前时刻的四肢畜牧动物实时动态三维模型;
S5.根据步骤S1中的四肢畜牧动物标准三维模型和步骤S4中的当前时刻的四肢畜牧动物实时动态三维模型在几何外形上的差异,由该动物标准关节骨架按照四肢畜牧动物的解剖学约束,生成初始时刻的实时关节动态骨架虚拟图形信息;
S6.根据上一时刻和当前时刻的四肢畜牧动物实时动态三维模型在几何外形上的差异,由上一时刻该动物的实时关节动态骨架系统,按照四肢畜牧动物的解剖学约束,生成当前时刻的实时关节动态骨架虚拟图形信息;
S7.将四肢畜牧动物运动过程中当前时刻的实时关节动态骨架虚拟图形信息叠加到四肢畜牧动物运动身体上,进行增强现实跟踪显示。
2.根据权利要求1所述的实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法,其特征在于,步骤S1中所述四肢畜牧动物为猪、牛、羊、马、驴、骡、兔、骆驼、梅花鹿、鹿、貂、麝或水獭。
3.根据权利要求1所述的实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法,其特征在于,步骤S1中还包括利用三维建模和动画软件制作四肢畜牧动物静止站立时的标准三维模型和绑定的该动物标准关节骨架系统。
4.根据权利要求3所述的实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法,其特征在于,所述动物标准关节骨架系统包括4个膝关节、1个颈部关节和1个臀部关节。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810312600.XA CN108765577B (zh) | 2018-04-09 | 2018-04-09 | 一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810312600.XA CN108765577B (zh) | 2018-04-09 | 2018-04-09 | 一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108765577A CN108765577A (zh) | 2018-11-06 |
CN108765577B true CN108765577B (zh) | 2021-07-09 |
Family
ID=63981420
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810312600.XA Active CN108765577B (zh) | 2018-04-09 | 2018-04-09 | 一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108765577B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114303987A (zh) * | 2021-12-02 | 2022-04-12 | 东北农业大学 | 一种适用于感知家畜运动的rfid标签的布放方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101154289A (zh) * | 2007-07-26 | 2008-04-02 | 上海交通大学 | 基于多目相机的三维人体运动跟踪的方法 |
CN101789125A (zh) * | 2010-01-26 | 2010-07-28 | 北京航空航天大学 | 一种无标记单目视频人体骨架运动跟踪方法 |
CN103544700A (zh) * | 2013-10-11 | 2014-01-29 | 中国科学院深圳先进技术研究院 | 运动植物点云数据一致性骨架提取方法及系统 |
CN105069423A (zh) * | 2015-07-29 | 2015-11-18 | 北京格灵深瞳信息技术有限公司 | 一种人体姿态检测方法及装置 |
CN107357427A (zh) * | 2017-07-03 | 2017-11-17 | 南京江南博睿高新技术研究院有限公司 | 一种用于虚拟现实设备的手势识别控制方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8994718B2 (en) * | 2010-12-21 | 2015-03-31 | Microsoft Technology Licensing, Llc | Skeletal control of three-dimensional virtual world |
EP2674913B1 (en) * | 2012-06-14 | 2014-07-23 | Softkinetic Software | Three-dimensional object modelling fitting & tracking. |
-
2018
- 2018-04-09 CN CN201810312600.XA patent/CN108765577B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101154289A (zh) * | 2007-07-26 | 2008-04-02 | 上海交通大学 | 基于多目相机的三维人体运动跟踪的方法 |
CN101789125A (zh) * | 2010-01-26 | 2010-07-28 | 北京航空航天大学 | 一种无标记单目视频人体骨架运动跟踪方法 |
CN103544700A (zh) * | 2013-10-11 | 2014-01-29 | 中国科学院深圳先进技术研究院 | 运动植物点云数据一致性骨架提取方法及系统 |
CN105069423A (zh) * | 2015-07-29 | 2015-11-18 | 北京格灵深瞳信息技术有限公司 | 一种人体姿态检测方法及装置 |
CN107357427A (zh) * | 2017-07-03 | 2017-11-17 | 南京江南博睿高新技术研究院有限公司 | 一种用于虚拟现实设备的手势识别控制方法 |
Non-Patent Citations (2)
Title |
---|
Curve Skeleton Extraction from Incomplete Point Cloud;Andrea Tagliasacchi 等;《Publication_ACM Transactions on Graphics》;20090731;第1-9页 * |
动态骨架算法;车武军 等;《软件学报》;20031231;第14卷(第4期);第818-823页 * |
Also Published As
Publication number | Publication date |
---|---|
CN108765577A (zh) | 2018-11-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Kashiha et al. | Automatic weight estimation of individual pigs using image analysis | |
CN111294565A (zh) | 一种智能化养猪监测方法和管理端 | |
CN110547210B (zh) | 饲料供给方法及系统、计算机系统、存储介质 | |
Zhang et al. | Algorithm of sheep body dimension measurement and its applications based on image analysis | |
CN112101259A (zh) | 一种基于堆叠沙漏网络的单只猪体姿态识别系统及方法 | |
CN112288793B (zh) | 畜类个体背膘检测方法、装置、电子设备及存储介质 | |
Tscharke et al. | Review of methods to determine weight and size of livestock from images | |
CN111297367A (zh) | 一种动物状态监测方法、装置、电子设备及存储介质 | |
Wu et al. | Improved ResNet-50 deep learning algorithm for identifying chicken gender | |
CN108765577B (zh) | 一种实时点云数据驱动的四肢畜牧动物骨架增强现实跟踪方法 | |
Nye et al. | Estimating conformational traits in dairy cattle with DeepAPS: a two-step deep learning automated phenotyping and segmentation approach | |
Lu et al. | Extracting body surface dimensions from top-view images of pigs | |
Mu et al. | Robotic 3D Vision‐Guided System for Half‐Sheep Cutting Robot | |
He et al. | Enhanced LiteHRNet based sheep weight estimation using RGB-D images | |
Zin et al. | An automatic estimation of dairy cow body condition score using analytic geometric image features | |
CN114092699A (zh) | 基于迁移学习的群猪图像分割的方法及系统 | |
Zambelis et al. | Automation of video-based location tracking tool for dairy cows in their housing stalls using deep learning | |
CN109840592B (zh) | 一种机器学习中快速标记训练数据的方法 | |
Lima et al. | Artificial intelligence in support of welfare monitoring of dairy cattle: a systematic literature review | |
CN113643401B (zh) | 基于机器学习的生猪胴体分割方法及系统 | |
CN115226650A (zh) | 基于交互特征的母猪发情状态自动检测系统 | |
CN113221704A (zh) | 基于深度学习的动物姿态识别方法、系统及存储介质 | |
Okinda et al. | Swine live weight estimation by adaptive neuro-fuzzy inference system | |
Li et al. | The Poses for Equine Research Dataset (PFERD) | |
CN111626196B (zh) | 基于知识图谱的典型牛科动物身体结构智能分析方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |