CN112712548A - 一种水下鱼群运动模式分析方法 - Google Patents

一种水下鱼群运动模式分析方法 Download PDF

Info

Publication number
CN112712548A
CN112712548A CN202011629288.0A CN202011629288A CN112712548A CN 112712548 A CN112712548 A CN 112712548A CN 202011629288 A CN202011629288 A CN 202011629288A CN 112712548 A CN112712548 A CN 112712548A
Authority
CN
China
Prior art keywords
motion
particles
optical flow
state
particle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011629288.0A
Other languages
English (en)
Other versions
CN112712548B (zh
Inventor
刘洪波
李文祺
刘凯
张博
宋博琳
江同棒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dalian Maritime University
Original Assignee
Dalian Maritime University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dalian Maritime University filed Critical Dalian Maritime University
Priority to CN202011629288.0A priority Critical patent/CN112712548B/zh
Publication of CN112712548A publication Critical patent/CN112712548A/zh
Application granted granted Critical
Publication of CN112712548B publication Critical patent/CN112712548B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30241Trajectory
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A40/00Adaptation technologies in agriculture, forestry, livestock or agroalimentary production
    • Y02A40/80Adaptation technologies in agriculture, forestry, livestock or agroalimentary production in fisheries management
    • Y02A40/81Aquaculture, e.g. of fish

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

本发明公开了一种水下鱼群运动模式分析方法,包括以下步骤:构建光流场;确定特征区域;计算特征图;分析粒子运动模态;分析鱼群场景运动模式。本发明采用光流逼近鱼群运动策略。原始鱼群运动视频经过光流特征提取,像素粒子有效刻画场景运动场。无论视频的清晰度和鱼群的个体运动姿态,本发明都能够有效捕捉鱼群整体的运动模式,具有较高的精确度。本发明建立鱼群视频光流场分析模型,构建目标像素粒子的运动特征,以与邻域粒子的相对光流运动分析该粒子的运动模态,可分为五种运动模态:聚合态、扩散态、环绕态、并行态、混乱态,有效展现鱼群的活动状态。本发明更加快速、简便,计算成本较现有方案更低,从而提高经济效益。

Description

一种水下鱼群运动模式分析方法
技术领域
本发明涉及动物群体行为分析,特别是一种水下鱼群运动模式分析方法。
背景技术
在自然界中,动物集结成群进行迁徙或者觅食的行为非常普遍。同时动物群在运动的过程中具有聚集性强、运动方向一致、速度一致等明显特征。自然界中的单体动物的行为相对来说比较简单,但聚集为群体后就会表现出复杂的群体行为。因此,针对动物群体行为的研究要远比对动物单体的研究意义重大。
在海洋中,鱼类出于生存、觅食、繁衍等原因,往往采取群体行为聚集为鱼群进行群体活动。鱼类行为对于水体盐度变化、温度变化、溶氧量变化与光照等外部环境非常敏感。通过对鱼群运动模式的分析,不仅可以加深对鱼群体行为的研究,同时也可以及时发现当前鱼类生存环境中的异常。因此对鱼群运动模式进行分析,对研究鱼类行为的机理、提升人工养殖信息化水平具有很大的意义。
利用计算机视觉对鱼群的行为进行研究,需要精确的检测出运动目标的位置并进行跟踪。现有研究方案包括量化鱼群行为的计算机图像处理系统、基于计算机视觉的鱼群监控系统以及基于运动目标检测的鱼群追中算法等。然而,由于目前对群体运动目标的跟踪比较困难,尤其是在群体中个体较多、密度较大、运动行为比较复杂的情况下,会大大增加目标追踪的复杂性。因此现有的方案中,普遍存在着鱼群追踪精度较低、计算成本偏高的问题。
发明内容
为解决现有技术存在的上述问题,本发明要提出一种准确率高、计算成本低的水下鱼群运动模式分析方法。
为了实现上述目的,本发明的技术方案如下:一种水下鱼群运动模式分析方法,包括以下步骤:
A、构建光流场
A1、以固定机位对鱼群场景拍摄一段视频,并用相等时间间隔截取视频,将视频分解为连续帧图像。
A2、计算连续帧图像队列中每连续两张图像间的光流,构建视频光流场,记做M,M存储为一个m×n×T的三维矩阵,m、n和T分别表示图像的横向像素尺寸、纵向像素尺寸和队列长度。令M的每一元素为
Figure BDA0002878161890000021
表示第t时刻的图像中第i行第j列像素粒子经光流计算位移至第t+1时刻图像中像素粒子所产生的横向位移
Figure BDA0002878161890000022
和纵向位移
Figure BDA0002878161890000023
B、确定特征区域
B1、按下式计算光流场热力图:
H=∑tM(t)
通过对每一帧图像中的粒子光流的线性累加,热力图H中每一元素表示该像素位置在视频中的活跃程度,热力值越偏离零点的数值越大代表该位置的活跃程度越高。
B2、将初始图像的所有像素粒子设为路径源点,通过逐点的光流场时间积分,实现群体路径追踪,如下式:
P=∫tM(t)
其每一元素的计算如下:
Figure BDA0002878161890000031
由此,
Figure BDA0002878161890000032
表示的路径源点oij(i,j)在视频中的运动路径坐标序列。B3、定义降噪阈值δ,将满足下式:
Figure BDA0002878161890000033
的粒子路径更改为:
Pij=0
其中
Figure BDA0002878161890000034
表示粒子oij(i,j)在t到t+1帧的位移量。
将位移量小于δ的路径视为噪声路径并剔除,减少视频场景中的无效路径,实现群体路径的有效刻画。
B4、固定一个s×s的网格区域Γ遍历图像所有像素位置,其中s<min(m,n),若满足:
Figure BDA0002878161890000035
即:既在光流热力场中具有较高粒子活跃度|HΓ|,同时又有较多的像素粒子路径终点落在该区域内
Figure BDA0002878161890000036
则将该网格区域Γ定义为特征区域。
C、计算特征图
C1、计算平均光流场
将每一像素位置处的所有光流平均,计算整个视频的平均光流场:
F=H/T
C2、构建模态特征矩阵
对于平均光流场中的像素粒子oxy(x,y),x和y分别为像素粒子横向坐标和纵向坐标,假设其上、下、左、右像素粒子的平均光流值分别为:
F(x,y+1)={a,b}
F(x,y-1)={c,d}
F(x-1,y)={e,f}
F(x+1,y)={g,h}
则该粒子的模态特征矩阵C被定义为:
Figure BDA0002878161890000041
C3、构建特征值方程
由粒子的模态特征矩阵C,定义特征矩阵的特征值方程:
λ2+αλ+β=0
其中:
α=e+d-g-b
β=(e-g)×(d-b)-(c-a)×(f-h)
并记:
Δ=α2-4β
D、分析粒子运动模态
在视频的粒子运动光流场中,由α,β,Δ所满足的条件表示目标粒子oxy(x,y)的特征值值域分布,根据特征值状态将oxy(x,y)的运动模态分为以下五种运动模态:
Figure BDA0002878161890000051
聚合态、
Figure BDA0002878161890000052
扩散态、◎环绕态、≡并行态和※混乱态,五种运动模态的定义如下:
D1、
Figure BDA0002878161890000053
聚合态
α<0,β>∈,Δ>0
特征值均为负,周围粒子相对目标粒子呈聚合模态,向目标运动方向聚集,其中∈为容错阈值。
D2、
Figure BDA0002878161890000054
扩散态
α>0,β>∈,Δ>0
特征值均为正,周围粒子相对目标粒子呈扩散状态,远离目标运动。
D3、◎环绕态
β<-∈
特征值异号,周围粒子围绕目标粒子呈环绕状态,环绕目标运动。
D4、≡并行态
|β|<∈
特征值有零解,周围粒子相对目标粒子呈并行状态,与目标粒子保持相对静止。
D5、※混乱态
Δ<0
特征值非实数,周围粒子相对目标粒子呈混乱状态,无规则运动,既有粒子贴近目标运动,又有粒子远离目标运动。
E、分析鱼群场景运动模式
E1、以高粒子活跃度所涵盖的终点落在步骤B所确立的特征区域Γ中的粒子路径区域作为鱼群活动区Π。
E2、通过步骤D中粒子运动模态分析方法,计算Γ内所有粒子的运动模态。
E3、统计Γ内的粒子运动模态,以最多数量的运动模态作为该鱼群活动区Π的运动模式。
与现有技术相比,本发明具有以下有益效果:
1、本发明采用光流逼近鱼群运动策略。原始鱼群运动视频经过步骤A、B光流特征提取,像素粒子有效刻画场景运动场。无论视频的清晰度和鱼群的个体运动姿态,本发明都能够有效捕捉鱼群整体的运动模式,具有较高的精确度。
2、本发明建立鱼群视频光流场分析模型,采用步骤C、D构建目标像素粒子的运动特征,以与邻域粒子的相对光流运动分析该粒子的运动模态,经过统计特征区域内单粒子的运动模态导出群体运动模式,可分为五种运动模式:聚合模式、扩散模式、环绕模式、并行模式、混乱模式,有效展现鱼群的活动状态。
3、本发明提出便于鱼群视频场景运动模式分析方法,利用特征区域Γ内的粒子运动模态分析鱼群活动区Π内鱼群运动模式,比当前需要依靠场景分割、目标识别、目标跟踪等技术的群体行为分析方法更加快速、简便,计算成本较现有方案更低,从而提高经济效益。
附图说明
图1是本发明的流程图。
图2是鱼群视频的某一帧图像。
图3是鱼群活动区域图。
图4是鱼群活动特征图。
具体实施方式
下面结合附图对本发明进行进一步描述。按照图1所示流程对鱼群运动视频进行计算。首先获取鱼群运动的视频,并截取视频的连续两帧的图像,如图2所示,并将这两张图像作为本发明鱼群运动模式分析的原始图像。按照本发明的步骤A,对原始的图像构建光流场,并提取光流。然后按照本发明的B、C两个步骤计算热力图,并最终计算出鱼群活动区域,如图3所示。最后按照本发明的D、E两个步骤确定鱼群的运动模式,生成鱼群活动特征图,如图4所示。按照本发明的方法,最终可以确定鱼群的运动行为分别为扩散模式、环绕模式与并行模式。
本发明不局限于本实施例,任何在本发明披露的技术范围内的等同构思或者改变,均列为本发明的保护范围。

Claims (1)

1.一种水下鱼群运动模式分析方法,其特征在于:包括以下步骤:
A、构建光流场
A1、以固定机位对鱼群场景拍摄一段视频,并用相等时间间隔截取视频,将视频分解为连续帧图像;
A2、计算连续帧图像队列中每连续两张图像间的光流,构建视频光流场,记做M,M存储为一个m×n×T的三维矩阵,m、n和T分别表示图像的横向像素尺寸、纵向像素尺寸和队列长度;令M的每一元素为
Figure FDA0002878161880000011
表示第t时刻的图像中第i行第j列像素粒子经光流计算位移至第t+1时刻图像中像素粒子所产生的横向位移
Figure FDA0002878161880000012
和纵向位移
Figure FDA0002878161880000013
B、确定特征区域
B1、按下式计算光流场热力图:
H=∑tM(t)
通过对每一帧图像中的粒子光流的线性累加,热力图H中每一元素表示该像素位置在视频中的活跃程度,热力值越偏离零点的数值越大代表该位置的活跃程度越高;
B2、将初始图像的所有像素粒子设为路径源点,通过逐点的光流场时间积分,实现群体路径追踪,如下式:
P=∫tM(t)
其每一元素的计算如下:
Figure FDA0002878161880000014
Figure FDA0002878161880000021
由此,
Figure FDA0002878161880000022
表示的路径源点oij(i,j)在视频中的运动路径坐标序列;
B3、定义降噪阈值δ,将满足下式:
Figure FDA0002878161880000023
的粒子路径更改为:
Pij=0
其中
Figure FDA0002878161880000024
表示粒子oij(i,j)在t到t+1帧的位移量;
将位移量小于δ的路径视为噪声路径并剔除,减少视频场景中的无效路径,实现群体路径的有效刻画;
B4、固定一个s×s的网格区域Γ遍历图像所有像素位置,其中s<min(m,n),若满足:
Figure FDA0002878161880000025
即:既在光流热力场中具有较高粒子活跃度|HΓ|,同时又有较多的像素粒子路径终点落在该区域内
Figure FDA0002878161880000026
则将该网格区域Γ定义为特征区域;
C、计算特征图
C1、计算平均光流场
将每一像素位置处的所有光流平均,计算整个视频的平均光流场:
F=H/T
C2、构建模态特征矩阵
对于平均光流场中的像素粒子oxy(x,y),x和y分别为像素粒子横向坐标和纵向坐标,假设其上、下、左、右像素粒子的平均光流值分别为:
F(x,y+1)={a,b}
F(x,y-1)={c,d}
F(x-1,y)={e,f}
F(x+1,y)={g,h}
则该粒子的模态特征矩阵C被定义为:
Figure FDA0002878161880000031
C3、构建特征值方程
由粒子的模态特征矩阵C,定义特征矩阵的特征值方程:
λ2+αλ+β=0
其中:
α=e+d-g-b
β=(e-g)×(d-b)-(c-a)×(f-h)
并记:
Δ=α2-4β
D、分析粒子运动模态
在视频的粒子运动光流场中,由α,β,Δ所满足的条件表示目标粒子oxy(x,y)的特征值值域分布,根据特征值状态将oxy(x,y)的运动模态分为以下五种运动模态:
Figure FDA0002878161880000032
聚合态、
Figure FDA0002878161880000033
扩散态、
Figure FDA0002878161880000034
环绕态、
Figure FDA0002878161880000035
并行态和
Figure FDA0002878161880000036
混乱态,五种运动模态的定义如下:
D1、
Figure FDA0002878161880000041
聚合态
α<0,β>∈,Δ>0
特征值均为负,周围粒子相对目标粒子呈聚合模态,向目标运动方向聚集,其中∈为容错阈值;
D2、
Figure FDA0002878161880000042
扩散态
α>0,β>∈,Δ>0
特征值均为正,周围粒子相对目标粒子呈扩散状态,远离目标运动;
D3、
Figure FDA0002878161880000043
环绕态
β<-∈
特征值异号,周围粒子围绕目标粒子呈环绕状态,环绕目标运动;
D4、
Figure FDA0002878161880000044
并行态
|β|<∈
特征值有零解,周围粒子相对目标粒子呈并行状态,与目标粒子保持相对静止;
D5、
Figure FDA0002878161880000045
混乱态
Δ<0
特征值非实数,周围粒子相对目标粒子呈混乱状态,无规则运动,既有粒子贴近目标运动,又有粒子远离目标运动;
E、分析鱼群场景运动模式
E1、以高粒子活跃度所涵盖的终点落在步骤B所确立的特征区域Γ中的粒子路径区域作为鱼群活动区Π;
E2、通过步骤D中粒子运动模态分析方法,计算Γ内所有粒子的运动模态;
E3、统计Γ内的粒子运动模态,以最多数量的运动模态作为该鱼群活动区Π的运动模式。
CN202011629288.0A 2020-12-31 2020-12-31 一种水下鱼群运动模式分析方法 Active CN112712548B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011629288.0A CN112712548B (zh) 2020-12-31 2020-12-31 一种水下鱼群运动模式分析方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011629288.0A CN112712548B (zh) 2020-12-31 2020-12-31 一种水下鱼群运动模式分析方法

Publications (2)

Publication Number Publication Date
CN112712548A true CN112712548A (zh) 2021-04-27
CN112712548B CN112712548B (zh) 2023-07-07

Family

ID=75547730

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011629288.0A Active CN112712548B (zh) 2020-12-31 2020-12-31 一种水下鱼群运动模式分析方法

Country Status (1)

Country Link
CN (1) CN112712548B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113326743A (zh) * 2021-05-10 2021-08-31 大连海洋大学 一种养殖背景条件下鱼群运动行为参数提取和分析方法
CN116819540A (zh) * 2023-05-09 2023-09-29 南京俊禄科技有限公司 一种智能计算渔群类别与深度的方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103413321A (zh) * 2013-07-16 2013-11-27 南京师范大学 地理环境下的群体行为模式分析与异常行为检测方法
WO2018042651A1 (ja) * 2016-09-05 2018-03-08 謙 藤原 給餌システム及び給餌方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103413321A (zh) * 2013-07-16 2013-11-27 南京师范大学 地理环境下的群体行为模式分析与异常行为检测方法
WO2018042651A1 (ja) * 2016-09-05 2018-03-08 謙 藤原 給餌システム及び給餌方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
关辉;许璐蕾;: "基于机器视觉的鱼群异常行为监测技术研究", 信息技术与信息化, no. 05 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113326743A (zh) * 2021-05-10 2021-08-31 大连海洋大学 一种养殖背景条件下鱼群运动行为参数提取和分析方法
CN113326743B (zh) * 2021-05-10 2023-10-13 大连海洋大学 一种养殖背景条件下鱼群运动行为参数提取和分析方法
CN116819540A (zh) * 2023-05-09 2023-09-29 南京俊禄科技有限公司 一种智能计算渔群类别与深度的方法

Also Published As

Publication number Publication date
CN112712548B (zh) 2023-07-07

Similar Documents

Publication Publication Date Title
Huang et al. Faster R-CNN for marine organisms detection and recognition using data augmentation
Lauer et al. Multi-animal pose estimation, identification and tracking with DeepLabCut
Xia et al. Aquatic toxic analysis by monitoring fish behavior using computer vision: A recent progress
CN109635721B (zh) 基于轨迹加权深度卷积次序池化描述子的视频人体跌倒检测方法及系统
Mohamed et al. Msr-yolo: Method to enhance fish detection and tracking in fish farms
JP6045549B2 (ja) 感情および行動を認識するための方法およびシステム
Zhao et al. A lightweight dead fish detection method based on deformable convolution and YOLOV4
Han et al. Fish shoals behavior detection based on convolutional neural network and spatiotemporal information
Wageeh et al. YOLO fish detection with Euclidean tracking in fish farms
CN111627050B (zh) 一种目标跟踪模型的训练方法和装置
CN112712548A (zh) 一种水下鱼群运动模式分析方法
Qi Maximum entropy for image segmentation based on an adaptive particle swarm optimization
CN113592896B (zh) 基于图像处理的鱼类投喂方法、系统、设备及存储介质
Yang et al. Deformable convolution and coordinate attention for fast cattle detection
CN111209774A (zh) 目标行为识别及显示方法、装置、设备、可读介质
Palconit et al. Three-dimensional stereo vision tracking of multiple free-swimming fish for low frame rate video
Bakour et al. Soft-CSRNet: Real-time dilated convolutional neural networks for crowd counting with drones
Zhang et al. A novel framework for background subtraction and foreground detection
CN115661860A (zh) 一种狗行为动作识别技术的方法、装置、系统及存储介质
Zhou et al. Faster R-CNN for marine organism detection and recognition using data augmentation
CN117611636B (zh) 一种鱼类跟踪方法和系统
Liu et al. MonkeyTrail: a scalable video-based method for tracking macaque movement trajectory in daily living cages
Behera et al. Understanding crowd flow patterns using active-Langevin model
Rahul et al. Siamese network for underwater multiple object tracking
CN110163103A (zh) 一种基于视频图像的生猪行为识别方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant