CN111105486A - 一种多视角小白鼠动态三维重建方法 - Google Patents
一种多视角小白鼠动态三维重建方法 Download PDFInfo
- Publication number
- CN111105486A CN111105486A CN201911245439.XA CN201911245439A CN111105486A CN 111105486 A CN111105486 A CN 111105486A CN 201911245439 A CN201911245439 A CN 201911245439A CN 111105486 A CN111105486 A CN 111105486A
- Authority
- CN
- China
- Prior art keywords
- dimensional
- mouse
- view
- skeleton node
- dynamic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 38
- 241000699670 Mus sp. Species 0.000 title abstract description 18
- 238000012549 training Methods 0.000 claims abstract description 9
- 238000002372 labelling Methods 0.000 claims abstract description 8
- 230000001360 synchronised effect Effects 0.000 claims abstract description 8
- 238000013528 artificial neural network Methods 0.000 claims abstract description 6
- 230000000694 effects Effects 0.000 claims description 9
- 238000013527 convolutional neural network Methods 0.000 claims description 5
- 238000001514 detection method Methods 0.000 claims description 4
- 241000699666 Mus <mouse, genus> Species 0.000 abstract description 44
- 238000004458 analytical method Methods 0.000 abstract description 4
- 230000006872 improvement Effects 0.000 description 6
- 241001465754 Metazoa Species 0.000 description 5
- 230000006399 behavior Effects 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 238000011160 research Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000010171 animal model Methods 0.000 description 1
- 230000003542 behavioural effect Effects 0.000 description 1
- 238000009395 breeding Methods 0.000 description 1
- 230000001488 breeding effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 238000010172 mouse model Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 108090000623 proteins and genes Proteins 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Graphics (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及一种多视角小白鼠动态三维重建方法，其特征在于，所述方法包括以下步骤：步骤S101，多视角同步视频序列采集；步骤S102，二维小白鼠骨架节点数据集标注；步骤S103，二维小白鼠骨架节点检测神经网络训练；步骤S104，摄像头标定；步骤S105，三维小白鼠骨架节点估计；步骤S106，基于模板的线性混合蒙皮网格变形。本发明通过多视角三维视觉技术捕捉小白鼠三维动作，直观、全面地获取小白鼠的行为模式和体型变化，相较于以往基于二维图片的行为分析更具医学观察价值。
Description
技术领域
本发明涉及了一种多视角小白鼠动态三维重建方法，属于计算机视觉中的三维重建和动作捕捉技术领域。
背景技术
计算机视觉领域，三维重建研究广泛地吸引着研究者的兴趣。从使用的相机数量上区分，三维重建可分为一下三类：单目三维重建，双目三维重建和多目三维重建。早期的单目三维重建中，具有代表性的有阴影恢复形状法，其受光照和模型形状影响较大，不能解决绝大多数问题。近期的单目三维重建围绕基于深度学习方法恢复三维结构。双目三维重建利用对极几何原理，通过计算视察获取深度。但是双目视觉视角受限，应用于深度获取的场景较多，如自动驾驶领域。多目三维重建通过多个视角获取物体二维图片，通过预标定或者自标定方法获取相机内外参数，再匹配特征点，恢复物体三维深度信息。多目重建发挥多个视角的优势可以精细化重建物体的三维模型，是各种三维重建方案中实际应用较多的一种。但是设备开销和计算开销较大，很难实现实时重建。
实验小白鼠是生物医学中用量最大、用途最广、品种品系最多的实验动物。小白鼠由于其基因和人类较为接近，并且培育简单，数量庞大，目前它已被用于包括癌症研究在内的整个生物医学领域。获取小白鼠的临床行为和体态变化信息，在医学多个领域具有重要意义，尤其在动物行为学分析领域有直接应用。目前，针对动物行为学分析与监控有多种商业解决方案中，但是均采用单目摄像头监控方式，缺失动物活动的三维特征信息。单目二维图像分析，受到动物活动的自遮挡影响严重，不能有效获取准确的动物活动的动作和体型，结果粗略，有一定的错误率，因此，迫切的需要一种新的方案解决上述技术问题。
发明内容
本发明正是针对现有技术中存在的问题，提供一种多视角小白鼠动态三维重建方法，该技术方案通过多视角系统和神经网络，动态恢复小白鼠的三维模型，以获取带有丰富三维信息的小白鼠行为模式和体型特征，更有利于临床观察和行为学研究。
为了实现上述目的，本发明的技术方案如下，一种多视角小白鼠动态三维重建方法，其特征在于，所述方法包括以下步骤：
步骤S101，多视角同步视频序列采集；
步骤S102，二维小白鼠骨架节点数据集标注；
步骤S103，二维小白鼠骨架节点检测神经网络训练；
步骤S104，摄像头标定；
步骤S105，三维小白鼠骨架节点估计；
步骤S106，基于模板的线性混合蒙皮网格变形。
作为本发明的一种改进，所述步骤S101，多视角同步视频序列采集，具体如下，多路广角3.5mm焦距摄像头通过usb连接到计算机，同步采集小白鼠活动二维图像数据，并存储成多视角视频序列。3.5mm广角镜头采集的画面角度更广，短焦距带来的长景深，保证了小鼠在视野范围内活动时不会产生因为摄像头虚焦导致的模糊，保证三维重建的精度。
作为本发明的一种改进，所述步骤S102，二维小白鼠骨架节点数据集标注，具体如下：对小白鼠活动二维图像数据进行节点标注，构建二维小白鼠骨架节点标注图数据库，小白鼠骨架节点数为33，抽象表达头、躯干、四肢和尾巴。这样既很好地描述了小鼠的骨骼结构，又不失灵活性，可以表征小鼠的各种活动和体态特征。
作为本发明的一种改进，所述步骤S103，二维小白鼠骨架节点检测神经网络训练，具体如下：根据二维小白鼠骨架节点标注图数据库，对卷积神经网络进行训练，使用了编码-解码的网络结构作为网络的主干，易于训练且运行快速。
作为本发明的一种改进，所述步骤S104，摄像头标定，采用分步标定，先标定每个摄像头的内部参数，在估计外部参数，具体如下，先对每个摄像头进行单目标定确定摄像头内参，使用经典张正友标定法并使用其方法中k1、k2、p1、p2四个畸变参数；再同时估计所有摄像头外参，使用的是基于随机特征图案的多目标定法。这样可以精准建立每个摄像头的畸变模型，提升标定精度，消除广角镜头的图像畸变对重建带来的影响。
作为本发明的一种改进，所述步骤S105，三维小白鼠骨架节点估计，具体如下，读取多视角视频序列的同步帧，通过训练好的卷积神经网络获得多视角的二维小白鼠骨架节点，再据相机内参和外参，使用最小二乘法求解超定方程估计三维小白鼠骨架节点。多视角的图像解决了单视角的节点遮挡问题，更加精确地估计出小白鼠的三维骨架节点位置
作为本发明的一种改进，所述步骤S106，基于模板的线性混合蒙皮网格变形，具体如下，根据获取的三维小白鼠骨架节点和小白鼠模板三维网格模型，通过线性混合蒙皮对小白鼠模板三维模型进行网格变形，得到小白鼠的三维模型。得到的小白鼠的三维模型描述了小白鼠的三维体态特征。
相对于现有技术，本发明具有如下优点，该技术方案通过多视角系统，可以全方位采集小白鼠活动视频数据，并获取小白鼠的三维模型。该方案解决了单目摄像头方法存在的自遮挡问题。相较于传统二维视频记录方法，该方法获取三维小鼠的动态三维模型，丰富了行为分析研究的信息源，直观准确地反映了小鼠的行为和体态模式。
附图说明
图1是本发明实施例的多视角小白鼠动态三维重建方法的流程图；
图2是本发明实施例中使用的实验小白鼠模型的示意图，
其中：上：侧视图，中：俯视图，下：顶视图。
具体实施方式：
为了加深对本发明的理解，下面结合附图对本实施例做详细的说明。
实施例1：参见图1，一种多视角小白鼠动态三维重建方法，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。
图1为本发明实施例的多视角小白鼠动态三维重建方法的流程图，下面参照图1，详细说明各步骤。
如图1所示，该多视角小白鼠动态三维重建方法包括以下步骤：
在步骤S101中，进行多视角同步视频序列采集，将八个焦距为3.5mm的Webcam摄像头通过usb连接到计算机主机。该计算机主机的主板经过改进，拥有多达8个usb连接口。不同于USB集线器方案，其多摄像头共用一个原生口并分时读取，该主机可以同时打开8路摄像头和读取摄像头数据，且带宽足够同时采集8路视频。视频分辨率为640×480，帧率为30fps时，该硬件系统可保证持续有效采集。
进一步地，采集程序使用OpenCV开源计算机视觉处理库编写，底层摄像头驱动使用了微软流媒体开发包DirectShow。摄像头之间按操作系统内部设备号区分。在单次程序循环中，顺序访问所有摄像头，并将摄像头采集的数据读入内存并写入硬盘。多路视频序列实现了帧同步。由于实际运行误差，不同视频同步帧存在小于20ms的实际物理延迟。视频采用霍夫曼无损的编解码器（Huffman Lossless Codec）编码，存储格式为无损avi格式文件。
在步骤S102中，标注二维小白鼠骨架节点数据集。小白鼠骨架被抽象成经由33个节点连接的骨架模型。根据这个骨架模型，标注采集的二维小白鼠图像数据。对于二维小白鼠图像数据中每一张图，人工判断骨架模型在其图像平面的投影，标注二维小白鼠骨架节点位置，不可见点亦标注为不可见。拍摄环境背景单一，小白鼠目标单一，标注的数据集总量为3K。标注的二维小白鼠图像数据作为下一步的训练集。
在步骤S103中，对二维小白鼠骨架节点检测神经网络进行训练；使用的网络结构与全卷积网络相似并且易于训练。编码-解码的网络结构被用作网络的主干进行小鼠二维接节点检测。
在步骤S104中，标定摄像头，获取所有相机内参和外参：采用的3.5mm摄像头属于广角镜头，有较大的镜像畸变，也包含一定的切向畸变。先需要对所有摄像头进行单目相机标定，获取焦距、主点和畸变参数，为计算机视觉领域的相机内参。相机内参标定采用传统张正友标定法，设定畸变模型包含k1、k2、p1、p2四个畸变参数。实际标定采用9×12棋盘格标定，单次标定采集100张棋盘格标定图片进行标定。单目标定结果使用常见的重投影误差作为标定评价指标。单目相机标定的重投影误差为亚像素级别，约为0.2px。
进一步地，进行多目相机标定：使用基于随机特征图案的多目标定法标定相机的位置和旋转角度，为计算机视觉领域的相机外参。随机特征图案为随机灰度值图案，包含大量计算机视觉特征。相机外参标定使用三维视觉领域常用SFM（StructureFromMotion）算法。多目标定结果亦使用重投影误差作为标定评价指标。多目相机标定重投影误差为亚像素级别，约为0.3px。
在步骤S105中，通过训练得到的二维小白鼠骨架节点检测，估计三维小白鼠骨架节点：在多视角视频序列数据中的提取同步帧画面，使用训练好的卷积神经网络获得多视角的二维小白鼠骨架节点。再据相机内参和外参，建立三维小白鼠骨架节点坐标位置的超定矩阵方程，并使用最小二乘法求解估计三维小白鼠骨架节点。
在步骤S106中，基于模板的线性混合蒙皮网格变形：小白鼠模板三维网格模型被设计带有33个骨架节点。上一步骤求解出的三维小白鼠骨架节点估计，作为网格变形的目标骨架节点位置。通过线性混合蒙皮算法，得到最终网格变形后的小白鼠的三维模型。
需要说明的是上述实施例，并非用来限定本发明的保护范围，在上述技术方案的基础上所作出的等同变换或替代均落入本发明权利要求所保护的范围。
Claims (7)
1.一种多视角小白鼠动态三维重建方法，其特征在于，所述方法包括以下步骤：
步骤S101，多视角同步视频序列采集；
步骤S102，二维小白鼠骨架节点数据集标注；
步骤S103，二维小白鼠骨架节点检测神经网络训练；
步骤S104，摄像头标定；
步骤S105，三维小白鼠骨架节点估计；
步骤S106，基于模板的线性混合蒙皮网格变形。
2.根据权利要求1所述的多视角小白鼠动态三维重建方法，其特征在于，所述步骤S101，多视角同步视频序列采集，具体如下，多路广角3.5mm焦距摄像头通过usb连接到计算机，同步采集小白鼠活动二维图像数据，并存储成多视角视频序列。
3.根据权利要求1所述的多视角小白鼠动态三维重建方法，其特征在于，所述步骤S102，二维小白鼠骨架节点数据集标注，具体如下：对小白鼠活动二维图像数据进行节点标注，构建二维小白鼠骨架节点标注图数据库，小白鼠骨架节点数为33，抽象表达头、躯干、四肢和尾巴。
4.根据权利要求1所述的多视角小白鼠动态三维重建方法，其特征在于，所述步骤S103，二维小白鼠骨架节点检测神经网络训练，具体如下：根据二维小白鼠骨架节点标注图数据库，对卷积神经网络进行训练，使用了编码-解码的网络结构作为网络的主干。
5.根据权利要求1所述的多视角小白鼠动态三维重建方法，其特征在于，所述步骤S104，摄像头标定，具体如下，先对每个摄像头进行单目标定确定摄像头内参，使用经典张正友标定法并使用其方法中k1、k2、p1、p2四个畸变参数；再同时估计所有摄像头外参，使用的是基于随机特征图案的多目标定法。
6.根据权利要求1所述的多视角小白鼠动态三维重建方法，其特征在于，所述步骤S105，三维小白鼠骨架节点估计，具体如下，读取多视角视频序列的同步帧，通过训练好的卷积神经网络获得多视角的二维小白鼠骨架节点，再据相机内参和外参，使用最小二乘法求解超定方程估计三维小白鼠骨架节点。
7.根据权利要求1所述的多视角小白鼠动态三维重建方法，其特征在于，所述步骤S106，基于模板的线性混合蒙皮网格变形，具体如下，根据获取的三维小白鼠骨架节点和小白鼠模板三维网格模型，通过线性混合蒙皮对小白鼠模板三维模型进行网格变形，得到小白鼠的三维模型。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911245439.XA CN111105486A (zh) | 2019-12-07 | 2019-12-07 | 一种多视角小白鼠动态三维重建方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911245439.XA CN111105486A (zh) | 2019-12-07 | 2019-12-07 | 一种多视角小白鼠动态三维重建方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN111105486A true CN111105486A (zh) | 2020-05-05 |
Family
ID=70422119
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201911245439.XA Pending CN111105486A (zh) | 2019-12-07 | 2019-12-07 | 一种多视角小白鼠动态三维重建方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111105486A (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112101146A (zh) * | 2020-08-28 | 2020-12-18 | 中国科学院深圳先进技术研究院 | 一种动物行为学记录三维捕捉装置、方法、系统及应用 |
| CN113627255A (zh) * | 2021-07-07 | 2021-11-09 | 中国科学院自动化研究所 | 一种小鼠行为量化分析方法、装置、设备及可读存储介质 |
| WO2022041129A1 (zh) * | 2020-08-28 | 2022-03-03 | 中国科学院深圳先进技术研究院 | 一种动物行为学记录三维捕捉装置、方法、系统及应用 |
| WO2023221163A1 (zh) * | 2022-05-16 | 2023-11-23 | 中国科学院深圳先进技术研究院 | 动物行为重建系统、方法、装置及存储介质 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107945269A (zh) * | 2017-12-26 | 2018-04-20 | 清华大学 | 基于多视点视频的复杂动态人体对象三维重建方法及系统 |
| CN110544302A (zh) * | 2019-09-06 | 2019-12-06 | 广东工业大学 | 基于多目视觉的人体动作重建系统、方法和动作训练系统 |
| CN110544301A (zh) * | 2019-09-06 | 2019-12-06 | 广东工业大学 | 一种三维人体动作重建系统、方法和动作训练系统 |
-
2019
- 2019-12-07 CN CN201911245439.XA patent/CN111105486A/zh active Pending
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107945269A (zh) * | 2017-12-26 | 2018-04-20 | 清华大学 | 基于多视点视频的复杂动态人体对象三维重建方法及系统 |
| CN110544302A (zh) * | 2019-09-06 | 2019-12-06 | 广东工业大学 | 基于多目视觉的人体动作重建系统、方法和动作训练系统 |
| CN110544301A (zh) * | 2019-09-06 | 2019-12-06 | 广东工业大学 | 一种三维人体动作重建系统、方法和动作训练系统 |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112101146A (zh) * | 2020-08-28 | 2020-12-18 | 中国科学院深圳先进技术研究院 | 一种动物行为学记录三维捕捉装置、方法、系统及应用 |
| WO2022041129A1 (zh) * | 2020-08-28 | 2022-03-03 | 中国科学院深圳先进技术研究院 | 一种动物行为学记录三维捕捉装置、方法、系统及应用 |
| CN112101146B (zh) * | 2020-08-28 | 2022-12-06 | 中国科学院深圳先进技术研究院 | 一种动物行为学记录三维捕捉装置、方法、系统及应用 |
| CN113627255A (zh) * | 2021-07-07 | 2021-11-09 | 中国科学院自动化研究所 | 一种小鼠行为量化分析方法、装置、设备及可读存储介质 |
| WO2023221163A1 (zh) * | 2022-05-16 | 2023-11-23 | 中国科学院深圳先进技术研究院 | 动物行为重建系统、方法、装置及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111105486A (zh) | 一种多视角小白鼠动态三维重建方法 | |
| CN110637323B (zh) | 基于部分的跟踪的方法、设备和系统 | |
| Zhang et al. | Learning to restore hazy video: A new real-world dataset and a new method | |
| CN105809640B (zh) | 基于多传感器融合的低照度视频图像增强方法 | |
| CN108921062B (zh) | 一种联合多步态特征协同字典的步态识别方法 | |
| CN111080776B (zh) | 人体动作三维数据采集和复现的处理方法及系统 | |
| CN106155299B (zh) | 一种对智能设备进行手势控制的方法及装置 | |
| Zheng et al. | Deep learning for event-based vision: A comprehensive survey and benchmarks | |
| CN113450410B (zh) | 一种基于对极几何的单目深度和位姿联合估计方法 | |
| CN102572220A (zh) | 3-3-2空间信息转换新模式的仿生复眼运动目标检测 | |
| CN114119739A (zh) | 一种基于双目视觉的手部关键点空间坐标获取方法 | |
| Kim et al. | Simvodis: Simultaneous visual odometry, object detection, and instance segmentation | |
| CN113610887A (zh) | 胶囊内窥镜运动拍摄路径的确定方法、存储介质和设备 | |
| Wang et al. | Robust motion estimation and structure recovery from endoscopic image sequences with an adaptive scale kernel consensus estimator | |
| CN112365578A (zh) | 基于双摄像机的三维人体模型重构系统及方法 | |
| CN116958437A (zh) | 融合注意力机制的多视图重建方法及系统 | |
| CN111582036A (zh) | 可穿戴设备下基于形状和姿态的跨视角人物识别方法 | |
| WO2022155454A1 (en) | Methods and apparatuses for generating anatomical models using diagnostic images | |
| Miao et al. | Ds-depth: Dynamic and static depth estimation via a fusion cost volume | |
| CN111316323B (zh) | 一种三维轨迹数据的异常值处理方法及装置 | |
| CN109215061B (zh) | 一种人脸毛孔跟踪方法及系统 | |
| CN111344741A (zh) | 一种三维轨迹数据的数据缺失处理方法及装置 | |
| Golyanik et al. | NRSfM-Flow: Recovering Non-Rigid Scene Flow from Monocular Image Sequences. | |
| Zheng et al. | Structure from motion blur in low light | |
| CN115841602A (zh) | 基于多视角的三维姿态估计数据集的构建方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200505 |
|
| RJ01 | Rejection of invention patent application after publication |