CN114402363A - 鱼计数系统、鱼计数方法以及程序 - Google Patents
鱼计数系统、鱼计数方法以及程序 Download PDFInfo
- Publication number
- CN114402363A CN114402363A CN202080058242.XA CN202080058242A CN114402363A CN 114402363 A CN114402363 A CN 114402363A CN 202080058242 A CN202080058242 A CN 202080058242A CN 114402363 A CN114402363 A CN 114402363A
- Authority
- CN
- China
- Prior art keywords
- fish
- image
- counting
- tag
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 241000251468 Actinopterygii Species 0.000 title claims abstract description 375
- 238000000034 method Methods 0.000 title claims description 92
- 238000003384 imaging method Methods 0.000 claims abstract description 16
- 239000012530 fluid Substances 0.000 claims abstract description 9
- 238000000605 extraction Methods 0.000 claims abstract description 8
- 239000000284 extract Substances 0.000 claims abstract description 6
- 230000008569 process Effects 0.000 claims description 79
- 230000005856 abnormality Effects 0.000 claims description 8
- 230000002159 abnormal effect Effects 0.000 claims description 7
- 238000002372 labelling Methods 0.000 claims 1
- 238000011282 treatment Methods 0.000 description 14
- 238000010586 diagram Methods 0.000 description 12
- 238000012545 processing Methods 0.000 description 10
- 230000001617 migratory effect Effects 0.000 description 6
- 238000012937 correction Methods 0.000 description 4
- 230000007704 transition Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 2
- 239000013535 sea water Substances 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000009395 breeding Methods 0.000 description 1
- 230000001488 breeding effect Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 230000009182 swimming Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A01—AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
- A01K—ANIMAL HUSBANDRY; AVICULTURE; APICULTURE; PISCICULTURE; FISHING; REARING OR BREEDING ANIMALS, NOT OTHERWISE PROVIDED FOR; NEW BREEDS OF ANIMALS
- A01K61/00—Culture of aquatic animals
- A01K61/90—Sorting, grading, counting or marking live aquatic animals, e.g. sex determination
- A01K61/95—Sorting, grading, counting or marking live aquatic animals, e.g. sex determination specially adapted for fish
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06M—COUNTING MECHANISMS; COUNTING OF OBJECTS NOT OTHERWISE PROVIDED FOR
- G06M11/00—Counting of objects distributed at random, e.g. on a surface
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/0007—Image acquisition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/147—Details of sensors, e.g. sensor lenses
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/62—Extraction of image or video features relating to a temporal dimension, e.g. time-based feature extraction; Pattern tracking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/05—Underwater scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30242—Counting objects in image
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A40/00—Adaptation technologies in agriculture, forestry, livestock or agroalimentary production
- Y02A40/80—Adaptation technologies in agriculture, forestry, livestock or agroalimentary production in fisheries management
- Y02A40/81—Aquaculture, e.g. of fish
Landscapes
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Environmental Sciences (AREA)
- Zoology (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Marine Sciences & Fisheries (AREA)
- Animal Husbandry (AREA)
- Biodiversity & Conservation Biology (AREA)
- Vascular Medicine (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
- Farming Of Fish And Shellfish (AREA)
- Investigating Or Analysing Biological Materials (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Communication Control (AREA)
Abstract
鱼计数系统(3)具备:图像获取部(30),其获取随着时间的经过对包含鱼(1)在内的流体流动的拍摄区域进行拍摄而得到的多幅图像;提取部(31),其针对各图像而提取出鱼;以及计数部(34),其对鱼的数量进行计数。拍摄区域具有第1区域(Ar1)以及第2区域(Ar2)。在处于第1区域(Ar1)的鱼移动至第2区域(Ar2)的情况下,计数部(34)对鱼进行计数。
Description
技术领域
本发明涉及鱼计数系统、鱼计数方法以及程序。
背景技术
优选地,在金枪鱼等鱼的养殖中准确地掌握鱼数、削减饲养成本并进行有计划的生产。以往,使鱼从第1鱼池向第2鱼池移动并对移动的鱼进行拍摄,由此对鱼进行计数。一边对拍摄到的动画进行慢动作播放,一边通过目视观察而对鱼数进行计数,所以,工时增加且准确性有所欠缺。
专利文献1中公开了一种基于拍摄的多幅图像而对鱼进行计测的系统。该系统根据多幅过去图像中出现的鱼的位置而推测关注图像中的鱼的位置,在关注图像中的推测位置出现鱼的情况下,认为判断为鱼是正确的而对鱼数进行计数。
现有技术文献
专利文献
专利文献1:日本特开2016-165238号公报
发明内容
然而,关于如上述那样仅将符合基于多幅图像的鱼的移动量的推定的情况作为计数条件的方法,无法判断该鱼是否真正是应该计数的鱼,从而有可能导致误计数。特别地,无法判断出是从其他鱼池到来的应该计数的鱼、还是与计测完毕而向鱼池内回游的鱼,从而有可能对不应该计数的回游鱼进行计测。
本发明提供能够减少误计数的鱼计数系统、鱼计数方法以及程序。
本发明的鱼计数系统具备:图像获取部,其获取随着时间的经过对包含鱼在内的流体流动的拍摄区域进行拍摄而得到的多幅图像;提取部,其针对各图像而提取出鱼;以及计数部,其对鱼的数量进行计数,所述拍摄区域具有第1区域以及第2区域,在处于所述第1区域的鱼移动至所述第2区域的情况下,所述计数部对该鱼进行计数。
这样,由于在判断为处于第1区域的鱼移动至第2区域的情况下对鱼进行计数,所以,能够对从其他鱼池等到来的应该计数的鱼进行计数。从而,即便在图像内出现回游的鱼,回游鱼也不会从第1区域移动至第2区域,所以,能够减少或者防止回游鱼的误计数。
附图说明
图1是表示本实施方式的鱼计数系统的框图。
图2是表示拍摄到的图像的图。
图3是表示鱼计数系统执行的处理的流程图。
图4是表示鱼计数系统执行的标签赋予处理的流程图。
图5是与从提取出的鱼中除去处理对象的除去处理相关的说明图。
图6是与标签赋予的第1处理相关的说明图。
图7是与标签赋予的第2处理相关的说明图。
图8是与标签赋予的第3处理相关的说明图。
图9是与标签赋予的第5处理相关的说明图。
图10是与标签赋予的第7处理相关的说明图。
图11是与标签赋予的第8处理相关的说明图。
图12是表示状态设定部设定的状态的变迁图。
图13是加法运算对象的鱼与非加法运算对象的鱼交叉的情况下的说明图。
图14是表示通报部执行的处理的一例的流程图。
图15是表示通报部执行的处理的另一例的流程图。
具体实施方式
以下,参照附图对本发明的实施方式进行说明。
如图1所示,鱼计数系统3基于多幅图像而对鱼的数量进行计数。多幅图像是利用相机2随着时间的经过对包含鱼1在内的流体流动的拍摄区域进行拍摄而获得的。图1只是示例,将第1鱼池与第2鱼池直接连接,使得金枪鱼等鱼从第1鱼池向第2鱼池移动。通过将相机配置于第2鱼池的入口附近而对移动至第2鱼池的鱼进行计数,由此掌握鱼的总数量。
图2是表示拍摄到的图像的图。将相机2的朝向设置为规定朝向。如图2所示,关于规定朝向,将图像的边缘的一部分设为第1区域Ar1,将其他边缘设为第2区域Ar2,第1区域Ar1接近第1鱼池。通过以这样的规定朝向设置相机2,从第1鱼池向第2鱼池移动的鱼必然会在从第1区域Ar1通过之后到达第2区域Ar2。在图2中,将4条边中的1条边设定为第1区域Ar1,将剩余的3条边设定为第2区域Ar2,但是,并不限定于此。
另外,多数情况下鱼会从图像的中央部通过,所以,拍摄区域在第1区域Ar1与第2区域Ar2之间具有第3区域Ar3。第3区域Ar3配置于图像的中央部。通过进行这样的配置,离开第1区域Ar1的鱼1不会立即到达第2区域Ar2,鱼会在多幅图像中出现在第3区域Ar3中,所以,能够提高识别精度。此外,还可以省略第3区域Ar3。
如图1所示,鱼计数系统3具有图像获取部30、提取部31、标签赋予部32、状态设定部33以及计数部34。鱼计数系统3还可以根据需要而具有通报部35。上述各部30~35通过由计算机上的1个或者多个处理器执行规定程序而以硬件和软件协作的方式实现。
图1所示的图像获取部30获取:随着时间的经过对包含鱼1在内的流体流动的拍摄区域进行拍摄而得到的多幅图像。相机2例如以30fps(Flames Per Second)拍摄动画,并将动画保存于系统3。图像获取部30从动画中获取多幅图像。多幅图像按时间序列排列。在本说明书中,有时将1幅图像称为1帧(frame)。
图1所示的提取部31针对各图像而提取出鱼1。在此,由于通过图像处理而识别物体,所以,并非严格地识别为鱼,而是识别水中的物体。因此,不仅是鱼,浮游物有时也被识别为鱼。优选提取部31具有除去部31a。除去部31a将提取出的鱼1中的符合规定的除去条件的鱼从提取完毕的鱼中除去。规定的除去条件能够列举出:鱼的尺寸处于规定范围外、或者鱼的纵横比处于规定范围外等。例如,如图5所示,提取出的鱼1a、1b、1c中的鱼1b近似为正方形而使得纵横比处于规定范围外,鱼1c过大而使得尺寸处于规定范围外。因而,将鱼1b和鱼1c从提取完毕的鱼中除去。实际上,除去部31a使状态设定部33对除去的鱼设定err_no_target_no_track这样的状态。该状态表示不存在加法运算对象且不执行跟踪处理。
图1所示的标签赋予部32对由提取部31提取出的鱼1赋予用于识别个体的标签。在多幅图像中赋予了相同标签的鱼是同一个体,可以根据相同标签的鱼的位置变化而获知鱼的轨迹。在本实施方式中,将标签设为ID,并利用数字作为ID,但是,并不限定于此。在后面详细叙述。
图1所示的状态设定部33对由标签赋予部32赋予了标签的鱼设定状态。状态例如包括:表示是加法运算对象的状态、表示并非加法运算对象的状态、表示是跟踪对象的状态等。在后面详细叙述,只要至少能够设定表示是加法运算对象的状态即可。
图1所示的计数部34对鱼的数量进行计数。计数部34构成为:在处于第1区域Ar1的鱼1移动至第2区域Ar2的情况下,对该鱼1进行计数(加法运算)。用于实现该动作的具体结构如下。
<整体流程>
首先,对鱼计数系统3的整体动作进行说明。如图3所示,在步骤ST1中,图像获取部30获取:随着时间的经过对包含鱼在内的流体流动的拍摄区域进行拍摄而得到的多幅图像。针对各图像而执行步骤ST2~ST6。即,对1幅~M幅(M是获取的图像的数量)的所有图像执行步骤ST2~ST6的处理。在接下来的步骤ST2中,提取部31针对各图像而提取出鱼。接下来,在步骤ST3中,除去部31a将提取出的鱼中的符合规定的除去条件的鱼从提取完毕的鱼中除去。在接下来的步骤ST4中,标签赋予部32对提取出的鱼赋予用于识别个体的标签。在接下来的步骤ST5中,状态设定部33对赋予了标签的鱼设定状态。在接下来的步骤ST6中,计数部34对符合规定的计数条件的鱼进行计数。规定的计数条件表示处于第1区域Ar1的鱼移动至第2区域Ar2,但是,具体而言,以设定为表示是加法运算对象的状态为条件。由于步骤ST3可以通过其他方法实施,所以,可以省略。
<标签赋予;跟踪处理>
图1所示的标签赋予部32执行:对同一个体赋予同一标签的跟踪处理。关于跟踪处理,在关注图像中的第1鱼、以及相对于关注图像的过去的1幅或者多幅图像中的第2鱼满足第1跟踪成立条件的情况下,对第1鱼赋予与第2鱼相同的标签。这意味着:可以对1幅关注图像与1幅过去图像进行比较,还可以对1幅关注图像与2幅以上的过去图像进行比较。
具体而言,如图4所示,作为跟踪处理,标签赋予部32依次执行多个处理(第1~第8处理)。故此,第1跟踪成立条件包括多个条件(第1条件~第8条件),如果第1~8条件中的任一条件成立,则判定为第1跟踪成立条件成立而完成针对条件成立的鱼的跟踪处理。如图4所示,标签赋予处理具有:赋予与已有标签相同的标签的第1~8处理、以及赋予用于识别新个体的标签的第9处理。
[标签赋予:第1处理]
第1处理(target tracking)是针对加法运算对象的鱼的处理。第1处理是如下处理:如图6所示,在关注图像(赋予标签的图像)中的第1鱼1d、以及相对于关注图像的1~2幅的过去图像中的第2鱼1e、1f符合第1条件的情况下,对第1鱼1d赋予与第2鱼1e、1f相同的标签。具体而言,关于第1条件,基于相对于关注图像靠前1幅及2幅的过去图像中的第2鱼1e、1f的位置而推定关注图像中的鱼的位置(基于移动量的推定),在以推定出的鱼的位置为中心的规定尺寸的圆之中存在第1鱼1d。图6中,对第1鱼1d赋予与第2鱼1e、1f相同的标签(ID:1)。
[标签赋予:第2处理]
第2处理(no target tracking)是针对非加法运算对象的鱼的处理。第2处理是如下处理:如图7所示,在关注图像(赋予标签的图像)中的第1鱼1g、以及相对于关注图像的1~2幅的过去图像中的第2鱼1h、1i符合第2条件的情况下,对第1鱼1g赋予与第2鱼1h、1i相同的标签。具体而言,关于第2条件,基于相对于关注图像靠前1幅及2幅的过去图像中的第2鱼1h、1i的位置而对关注图像中的鱼的位置进行推定(基于移动量的推定),在以推定出的鱼的位置为中心的规定尺寸的圆之中存在第1鱼1d。在图7中,对第1鱼1d赋予与第2鱼1h、1i相同的标签(ID:102)。
[标签赋予:第3处理及第4处理]
第3处理(target tracking(1frame lost))是针对加法运算对象的鱼的处理。第4处理(no target tracking(1frame lost))是针对非加法运算对象的鱼的处理。第3处理及第4处理均是如下处理:即便变为在紧邻关注图像之前的过去图像(1幅之前)中无法识别鱼的丢失状态,也能够进行跟踪。
第3处理是如下处理:如图8所示,在关注图像中的第4鱼1j、以及相对于关注图像的2~3幅过去图像中的第3鱼1k、1L符合第3条件的情况下,对第4鱼1j赋予与第3鱼1k、1L相同的标签。具体而言,关于第3条件,基于相对于关注图像靠前2幅及3幅的过去图像中的第3鱼1k、1L的位置而推定关注图像中的鱼的位置(基于移动量的推定),在关注图像中的鱼之中存在满足推定出的鱼的位置和第2跟踪成立条件的第4鱼1j。第2跟踪成立条件是最接近推定出的鱼的位置,但是,也可以适当变更。关于第4处理,处理对象的鱼是非加法运算对象的鱼,处理的内容与第3处理相同,故此省略说明。
即,关于第3处理及第4处理,基于相对于关注图像靠前2幅及3幅的过去图像中的第3鱼1k、1L的位置而推定关注图像中的鱼的位置,对关注图像中的鱼之中的满足推定出的鱼的位置和第2跟踪成立条件的第4鱼1j赋予与第3鱼1k、1L相同的标签。
[标签赋予:第5处理及第6处理]
第5处理(target tracking(2frame lost))是针对加法运算对象的鱼的处理。第6处理(no target tracking(2frame lost))是针对非加法运算对象的鱼的处理。第5处理及第6处理均是如下处理:即便变为在紧邻关注图像之前的过去图像(1幅之前及2幅之前)中无法识别鱼的丢失状态,也能够进行跟踪。
第5处理是如下处理:如图9所示,在关注图像中的第4鱼1o、以及相对于关注图像的3~4幅过去图像中的第3鱼1p、1q符合第5条件的情况下,对第4鱼1o赋予与第3鱼1p、1q相同的标签。具体而言,关于第5条件,基于相对于关注图像靠前3幅及4幅的过去图像中的第3鱼1p、1q的位置而推定关注图像中的鱼的位置(基于移动量的推定),在关注图像中的鱼之中存在满足推定出的鱼的位置和第2跟踪成立条件的第4鱼1o。第2跟踪成立条件是最接近推定出的鱼的位置,但是,也可以适当变更。关于第6处理,处理对象的鱼是非加法运算对象的鱼,处理的内容与第5处理相同,故此省略说明。
即,关于第5处理及第6处理,基于相对于关注图像靠前3幅及4幅的过去图像中的第3鱼1p、1q的位置而推定关注图像中的鱼的位置,对关注图像中的鱼之中的满足推定出的鱼的位置和第2跟踪成立条件的第4鱼1o赋予与第3鱼1p、1q相同的标签。
[标签赋予:第3~第6处理的概括]
即,关于第3~6处理,基于相对于关注图像靠前N(N为2以上的自然数)幅及N+1幅的过去图像中的第3鱼1k、1L[1p、1q]的位置而对关注图像中的鱼的位置进行推定,对关注图像中的鱼之中的满足推定出的鱼的位置和第2跟踪成立条件的第4鱼1j[1o]赋予与第3鱼1k、1L[1p、1q]相同的标签。在本实施方式中,实施了N=2、3的处理,但是,也可以采用N≥4的处理。
[标签赋予:第7处理]
第1~6处理是使用多幅过去图像并基于移动量的推定而赋予标签的处理,但是,在鱼接近图像端部的情况下,推定有时不准确。当在图像端部停止时,有时无法通过第1~6处理进行补充。第7处理(no predict)是针对上述问题的处理,必须在第1~6处理之后执行。关于第7处理,对在关注图像中处于最接近第6鱼1s的第7鱼1r赋予与第6鱼1s相同的标签,第6鱼1s是相对于关注图像靠前1幅的过去图像中的作为加法运算对象的鱼。
通过执行第7处理,即便在无法通过使用多幅过去图像推定移动量而识别同一个体的情况下(例如在鱼突然停止的情况下等),也可以判定为同一个体而进行标签的赋予,从而能够进行鱼的跟踪。
[标签赋予:第8处理]
第8处理是适合如下情况的处理:如图11所示,在相对于关注图像靠前1幅的过去图像中因相互重叠而识别为1条鱼的多条鱼被分为二组。具体而言,如图11所示,在第8处理中,对执行跟踪处理(第1~6处理)之后的关注图像中的未被赋予标签的第5鱼1u赋予作为新个体的标签(ID=2)。然后,状态设定部33将与在相对于关注图像靠前1幅的过去图像中最接近第5鱼1u的鱼1t相同的状态设定为第5鱼1u的状态。由此,如果鱼1t是加法运算对象的状态,则第5鱼1u也成为加法运算对象。因此,即便对于加法运算对象的鱼1t发生分歧,第5鱼1u也会成为加法运算对象,所以,能够抑制或防止加法运算对象的鱼的漏计数。
[标签赋予:第9处理]
第9处理是如下处理:对未通过第1~8处理而赋予标签的新个体赋予新的标签。
[标签赋予:处理顺序]
第1~6处理的执行顺序可以任意变更。然而,如果第1~6处理的执行顺序任意,则有时会产生下面的不良情况。例如,如图13所示,在作为加法运算对象的鱼1d与非加法运算对象的鱼1g在当前帧(关注图像)中交叉的情况下,有时会产生标签(ID)的调换。在图13的例子中,对关注图像中的鱼1d赋予ID:1并对关注图像中的鱼1g赋予ID:102是正确的。然而,例如,存在如下情况:若在设定为加法运算对象的鱼1e之前先对未设定为加法运算对象的鱼1h进行跟踪处理,则会对关注图像中的鱼1d赋予ID:102,然后,在对作为加法运算对象的鱼1e所进行的跟踪处理中,会对关注图像中的鱼1g赋予ID:1,由此会产生标签的调换。特别地,若弄错了作为加法运算对象的鱼的标签,则会直接导致漏计数,可以说这并非为优选。
因此,在本实施方式中,构成为:在未设定为加法运算对象的鱼1h之前先对设定为加法运算对象的鱼1e执行跟踪处理。具体而言,标签赋予部32以作为加法运算对象的鱼的ID较小且并非加法运算对象的鱼的ID较大的方式赋予编号。而且,先执行ID较小的鱼的跟踪处理,后执行ID较大的鱼的跟踪处理。
[状态以及计数]
状态设定部33设定图12所示的状态。状态“even”是初始值。可以从状态“even”转变为状态“target”或“no_target_but_track”。状态“target”表示是加法运算对象,在鱼1的最外侧坐标处于第1区域Ar1内的情况下设定。可以从状态“target”转变为状态“target_and_track”。状态“target_and_track”在鱼1的最外侧坐标处于第3区域Ar3内的情况下设定。在状态“target_and_track”下,在可以使用第3区域Ar3内连续的规定数量的图像而进行跟踪的情况下(第1跟踪成立条件连续成立规定次),转变为状态“countable”。规定次数为2次以上。状态“countable”表示是加法运算对象且能够计数,若在该状态下向第2区域Ar2移动,则计数部34对鱼的数量进行计数(加1)。即,计数部34构成为:当设定为加法运算对象的鱼在多幅图像中的第3区域Ar3内连续地满足规定次数的第1跟踪成立条件之后移动至第2区域Ar2的情况下,对该鱼进行计数。当然,可以不设置状态“countable”而在状态“target_and_track”移动至第2区域Ar2时对鱼进行计数。
状态“no_target_but_track”表示:虽然不是加法运算对象但却是跟踪对象,在鱼的最外侧坐标未处于第1区域Ar1、第2区域Ar2以及第3区域Ar3的任一区域的情况下(鱼处于规定的最外缘区域的情况下)设定。能够从状态“no_target_but_track”转变为“track_subtraction”。状态“track_subtraction”表示是减法运算对象,在处于第3区域Ar3的情况下设定。能够从状态“track_subtraction”转变为“subtractable”。在状态“track_subtraction”下,在能够使用第3区域Ar3内连续的规定数量的图像而进行跟踪的情况下(第1跟踪成立条件连续成立规定次),转变为状态“subtractable”。状态“subtractable”表示是减法运算对象且能够进行减法运算,若在该状态下向第1区域Ar1移动,则计数部34对鱼的数量进行减法运算(减1)。当然,可以不设置状态“subtractable”而在状态“track_subtraction”移动至第1区域Ar1时对鱼进行计数。即,在本实施方式中,在经过第2区域Ar2而移动至第1区域Ar1的鱼设定为减法运算对象的情况下,通过减法运算而对该鱼进行计数。
此外,如上所述,在进行鱼的提取时基于规定的除去条件而设定状态“err_no_target_no_track”。
[通报部]
图1所示的通报部35基于至少1幅图像而判定拍摄条件是否异常,在判定为拍摄条件异常的情况下,向外部通报拍摄条件异常。作为通报的内容,能够列举出:判断相机的朝向是否正确的结果,用于改善相机的设置方向的建议、横摆方向校正多少度和纵摆方向校正多少度之类的消息、用户对相机的朝向进行变更的画面中正常还是异常的显示内容、向日志的输出、针对相机朝向自动校正部的校正指示等。
例如,通过图像处理对平整度进行计算,在平整度超出规定范围的情况下,通报为异常。关于平整度的异常能够列举出:太阳的映入、鱼网、构造物或者大型浮游物的映入等。另外,对海水的浊度进行计算,在浊度超出规定范围的情况下,通报为异常。海水的浊度可以使用鱼与背景之间的对比度而进行判断。另外,对亮度进行计算以判定其强度是否处于亮度饱和状态,在处于亮度饱和状态的情况下,通报为异常。直射阳光的转移会导致亮度饱和。另外,还可以通报亮度异常。这是因为:若背景中映入有网、构造物等,则会导致亮度降低。
作为一例,列举出图14所示的例子。如图14所示,在步骤ST101中,对图像数据的方差值进行计算。在接下来的步骤ST102中,判定方差值是否小于规定值。在步骤ST102中判定为方差值小于规定值的情况下(ST102:YES),在接下来的步骤ST103中,通报为正常。在步骤ST102中判定为方差值不小于规定值的情况下(ST102:NO),在接下来的步骤ST104中,通报为异常。
作为另一例,列举出图15所示的例子。如图15所示,在步骤ST201中,对图像数据的方差值进行计算。在接下来的步骤ST202中,判定方差值是否小于规定值。在步骤ST2202中判定为方差值小于规定值的情况下(ST202:YES),在接下来的步骤ST203中,通报为正常。在步骤ST202中判定为方差值不小于规定值的情况下(ST202:NO),在接下来的步骤ST204中,对图像数据的亮度峰值位置进行计算。在接下来的步骤ST205中,对用于使亮度均匀的相机方向进行计算。在接下来的步骤ST206中,对用于变更相机设置方向的变更信息进行通报。变更信息例如可以是相对于当前的相机朝向的校正角度。作为校正角度,可以列举出例如横摆+30度、纵摆-10度这样的信息。
如以上那样,本实施方式的鱼计数系统3具备:图像获取部30,其获取随着时间的经过对包含鱼1在内的流体流动的拍摄区域进行拍摄而得到的多幅图像;提取部31,其针对各图像而提取出鱼;以及计数部34,其对鱼的数量进行计数。拍摄区域具有第1区域Ar1以及第2区域Ar2。在处于第1区域Ar1的鱼移动至第2区域Ar2的情况下,计数部34对鱼进行计数。
本实施方式的鱼计数方法包括如下步骤:获取对包含鱼在内的流体流动的拍摄区域进行拍摄而得到的多幅图像;针对各图像而提取出鱼;以及对鱼的数量进行计数,所述拍摄区域具有第1区域Ar1以及第2区域Ar2,对所述鱼的数量进行计数是:在处于所述第1区域的鱼移动至所述第2区域的情况下对该鱼进行计数。
这样,由于在处于第1区域Ar1的鱼移动至第2区域Ar2的情况下对鱼进行计数,所以,如果将从其他鱼池等到来的方向设定为从第1区域Ar1朝向第2区域Ar2的方向,则能够对从其他鱼池等到来的应该计数的鱼进行计数。从而,即便在图像内出现回游的鱼,回游鱼也不会从第1区域Ar1移动至第2区域Ar2,所以,能够减少或者防止回游鱼的误计数。
如本实施方式那样,优选地,具备:标签赋予部32,其对提取出的鱼赋予用于识别个体的标签;以及状态设定部33,其对赋予了标签的鱼设定状态,状态设定部33对处于第1区域Ar1的鱼设定表示是加法运算对象的状态,在判断为设定成加法运算对象的处于第1区域Ar1的鱼移动至第2区域Ar2的情况下,计数部34对鱼进行计数。
这样,通过赋予标签而能够识别鱼的个体并跟踪鱼的举动,通过设定表示是加法运算对象的状态,能够判定为处于第1区域Ar1的鱼已移动至第2区域Ar2。这是用于判定处于第1区域Ar1的鱼移动至第2区域Ar2一种优选结构。
如本实施方式那样,优选地,在经过第2区域Ar2而移动至第1区域Ar1的鱼设定为减法运算对象的情况下,计数部34对鱼进行计数。
根据该结构,即便存在逆行的鱼,也能够将其设定为减法运算对象而进行减法运算,从而能够提高计数的精度。
如本实施方式那样,优选地,所述拍摄区域在所述第1区域与所述第2区域之间具有第3区域。
这样,由于在第1区域Ar1与第2区域Ar2之间具有第3区域Ar3,所以,从第1区域Ar1离开的加法运算对象的鱼不会立即进入第2区域Ar2,多数情况下从第1区域Ar1到第2区域Ar2必须通过第3区域Ar3。多数情况下鱼为了游动而以直线状前进,从而鱼容易从第1区域Ar1经过第3区域Ar3而到达第2区域Ar2,但是,被误认为鱼的浮游物难以经过第3区域Ar3而到达第2区域Ar2。因而,能够减少将被误认为鱼的浮游物误计数为鱼的情况。
如本实施方式那样,优选地,在关注图像中的第1鱼1d[1g]、以及相对于关注图像的1幅或者多幅过去图像中的第2鱼1e、1f[1h、1i]满足第1跟踪成立条件的情况下,标签赋予部32执行对第1鱼1d[1g]赋予与第2鱼1e、1f[1h、1i]相同的标签的跟踪处理,在设定为加法运算对象的鱼在多幅图像中的第3区域Ar3内连续地满足规定次数的第1跟踪成立条件之后移动至第2区域Ar2的情况下,计数部34对该鱼进行计数。
在满足第1跟踪成立条件的情况下,识别为并非浮游物的举动而是鱼的举动的情况居多。而且,如上所述那样,在第3区域Ar3内连续地满足规定次数的第1跟踪成立条件的情况下,不是浮游物而是鱼的可能性极高。因此,能够减少误计数。
如本实施方式那样,优选地,在关注图像中的第1鱼1d[1g]、以及相对于关注图像的1幅或者多幅过去图像中的第2鱼1e、1f[1h、1i]满足第1跟踪成立条件的情况下,标签赋予部32执行对第1鱼1d[1g]赋予与第2鱼1e、1f[1h、1i]相同的标签的跟踪处理,在对未设定为加法运算对象的鱼执行跟踪处理之前,先对设定为加法运算对象的鱼执行跟踪处理。
如果这样构成,即便在作为加法运算对象的鱼1d与非加法运算对象的鱼1g在当前帧(关注图像)中交叉的情况下也能够减少或者防止产生标签(ID)的调换的情况。
如本实施方式那样,优选地,标签赋予部32基于相对于关注图像靠前N幅(N是2以上的自然数)以及N+1幅的过去图像中的第3鱼1k、1L[1p、1q]的位置而对关注图像中的鱼的位置进行推定,对关注图像中的鱼中的满足推定出的鱼的位置和第2跟踪成立条件的第4鱼1j[1o]赋予与第3鱼1k、1L[1p、1q]相同的标签。
根据该结构,即便变为在紧邻关注图像之前的过去图像(1~(N-1)幅之前)中无法识别鱼的丢失状态,也能够进行跟踪,从而能够提高计数精度。
如本实施方式那样,优选地,在关注图像中的第1鱼1d[1g]、以及相对于关注图像的1幅或者多幅过去图像中的第2鱼1e、1f[1h、1i]满足第1跟踪成立条件的情况下,标签赋予部32执行对第1鱼1d[1g]赋予与第2鱼1e、1f[1h、1i]相同的标签的跟踪处理,对执行跟踪处理之后的关注图像中的未被赋予标签的第5鱼1u赋予作为新个体的标签,状态设定部33将与在相对于关注图像靠前1幅的过去图像中最接近第5鱼1u的鱼相同的状态设定为第5鱼1u的状态。
根据该结构,在过去图像中2条鱼重叠的情况下,会被识别为1条鱼。然后,即便鱼前进而分成两组,也会将与附近的鱼的状态相同的状态设定为新的第5鱼1u的状态。因而,即便对于加法运算对象的鱼1t发生分岐而出现了新的第5鱼1u,第5鱼1u也会成为加法运算对象,从而能够抑制或防止加法运算对象的鱼的漏计数。
如本实施方式那样,优选地,具备通报部35,该通报部35在基于至少1幅图像而判定为拍摄条件异常的情况下,向外部通报拍摄条件异常。
根据该结构,能够减少在拍摄条件异常的状态下进行拍摄并计数的情况,从而能够减少误计数。
本实施方式所涉及的程序是使1个或者多个处理器执行上述方法的程序。另外,在本实施方式所涉及的计算机可读取的临时存储介质中存储上述程序。
图1所示的各部30~35通过由1个或者处理器执行规定程序而实现,但是,也可以由专用存储器、专用电路构成各部。
上述实施方式的系统3利用计算机的处理器而实现各部30~35,但是也可以使各部30~35分散并由多个计算机、云网络而安装。即,可以由1个或者多个处理器执行上述方法。
以上基于附图对本申请的实施方式进行了说明,但是,应当认为具体结构并不限定于这些实施方式。本申请的范围不仅由上述实施方式的说明来表示,而且还由权利要求书来表示,还包括与权利要求书等同的含义以及范围内的各种变更。
工业上的利用可能性
本发明可以用于鱼计数系统。
附图标记说明
1 鱼
3 鱼计数系统
30 图像获取部
31 提取部
32 标签赋予部
33 状态设定部
34 计数部
35 通报部
Ar1 第1区域
Ar2 第2区域
Ar3 第3区域
Claims (11)
1.一种鱼计数系统,其特征在于,
所述鱼计数系统具备:
图像获取部,其获取随着时间的经过对包含鱼在内的流体流动的拍摄区域进行拍摄而得到的多幅图像;
提取部,其针对各图像而提取出鱼;以及
计数部,其对鱼的数量进行计数,
所述拍摄区域具有第1区域以及第2区域,
在处于所述第1区域的鱼移动至所述第2区域的情况下,所述计数部对该鱼进行计数。
2.根据权利要求1所述的鱼计数系统,其特征在于,
所述鱼计数系统具备:
标签赋予部,其对提取出的鱼赋予用于识别个体的标签;以及
状态设定部,其对赋予了所述标签的鱼设定状态,
所述状态设定部对处于所述第1区域的鱼设定表示是加法运算对象的状态,
在判断为设定成所述加法运算对象的处于所述第1区域的鱼移动至所述第2区域的情况下,所述计数部对该鱼进行计数。
3.根据权利要求2所述的鱼计数系统,其特征在于,
在经过所述第2区域而移动至所述第1区域的鱼设定为减法运算对象的情况下,所述计数部对该鱼进行计数。
4.根据权利要求2或3所述的鱼计数系统,其特征在于,
所述拍摄区域在所述第1区域与所述第2区域之间具有第3区域。
5.根据权利要求4所述的鱼计数系统,其特征在于,
在关注图像中的第1鱼、以及相对于所述关注图像的1幅或者多幅过去图像中的第2鱼满足第1跟踪成立条件的情况下,所述标签赋予部执行对所述第1鱼赋予与所述第2鱼相同的标签的跟踪处理,
在设定为所述加法运算对象的鱼在多幅图像中的所述第3区域内连续地满足规定次数的所述第1跟踪成立条件之后移动至所述第2区域的情况下,所述计数部对该鱼进行计数。
6.根据权利要求2~5中任一项所述的鱼计数系统,其特征在于,
在关注图像中的第1鱼、以及相对于所述关注图像的1幅或者多幅过去图像中的第2鱼满足所述第1跟踪成立条件的情况下,所述标签赋予部执行对所述第1鱼赋予与所述第2鱼相同的标签的跟踪处理,
在对未设定为所述加法运算对象的鱼执行所述跟踪处理之前,先对设定为所述加法运算对象的鱼执行所述跟踪处理。
7.根据权利要求2~6中任一项所述的鱼计数系统,其特征在于,
所述标签赋予部基于相对于关注图像靠前N幅以及N+1幅的过去图像中的第3鱼的位置而对所述关注图像中的鱼的位置进行推定,对所述关注图像中的鱼之中满足所述推定的鱼的位置和第2跟踪成立条件的第4鱼赋予与所述第3鱼相同的标签,其中,N是2以上的自然数。
8.根据权利要求2~7中任一项所述的鱼计数系统,其特征在于,
在关注图像中的第1鱼、以及相对于所述关注图像的1幅或者多幅过去图像中的第2鱼满足第1跟踪成立条件的情况下,所述标签赋予部执行对所述第1鱼赋予与所述第2鱼相同的标签的跟踪处理,
对执行所述跟踪处理之后的所述关注图像中的未被赋予标签的第5鱼赋予作为新个体的标签,
所述状态设定部将与在相对于所述关注图像靠前1幅的过去图像中最接近所述第5鱼的鱼相同的状态设定为所述第5鱼的状态。
9.根据权利要求1~8中任一项所述的鱼计数系统,其特征在于,
所述鱼计数系统具备通报部,该通报部在基于至少1幅所述图像而判定为拍摄条件异常的情况下向外部通报拍摄条件异常。
10.一种鱼计数方法,其特征在于,
所述方法包括如下步骤:
获取随着时间的经过对包含鱼在内的流体流动的拍摄区域进行拍摄而得到的多幅图像;
针对各图像而提取出鱼;以及
对鱼的数量进行计数,
所述拍摄区域具有第1区域以及第2区域,
对所述鱼的数量进行计数是:在处于所述第1区域的鱼移动至所述第2区域的情况下对该鱼进行计数。
11.一种程序,其特征在于,
所述程序使1个或者多个处理器执行权利要求10所述的鱼计数方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019-177654 | 2019-09-27 | ||
JP2019177654A JP7237789B2 (ja) | 2019-09-27 | 2019-09-27 | 魚計数システム、魚計数方法及びプログラム |
PCT/JP2020/034937 WO2021060078A1 (ja) | 2019-09-27 | 2020-09-15 | 魚計数システム、魚計数方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114402363A true CN114402363A (zh) | 2022-04-26 |
Family
ID=75166968
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080058242.XA Pending CN114402363A (zh) | 2019-09-27 | 2020-09-15 | 鱼计数系统、鱼计数方法以及程序 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20220354096A1 (zh) |
EP (1) | EP4049534A4 (zh) |
JP (1) | JP7237789B2 (zh) |
CN (1) | CN114402363A (zh) |
AU (1) | AU2020353503B2 (zh) |
WO (1) | WO2021060078A1 (zh) |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2589046B2 (ja) * | 1993-11-01 | 1997-03-12 | 財団法人ダム水源地環境整備センター | 魚数計測方法と装置および移動体計数方法 |
JP6624629B2 (ja) * | 2014-10-10 | 2019-12-25 | Necソリューションイノベータ株式会社 | 魚計数装置、魚計数方法、魚数の予測装置、魚数の予測方法、魚計数システムおよび魚数予測システム |
JP6702535B2 (ja) | 2015-03-09 | 2020-06-03 | Necソリューションイノベータ株式会社 | 同一魚判定装置、魚計数装置、魚計数用携帯端末、同一魚判定方法、魚計数方法、魚数予測装置、魚数予測方法、同一魚判定システム、魚計数システムおよび魚数予測システム |
CN106022459B (zh) * | 2016-05-23 | 2018-11-30 | 三峡大学 | 一种基于水下视频的鱼道过鱼量自动计数系统 |
PH12016000469A1 (en) * | 2016-12-15 | 2018-06-25 | Univ Of The Philippines Diliman | Estimating fish size, population density, species distribution and biomass |
ES2950682T3 (es) | 2017-08-16 | 2023-10-11 | Furuno Electric Co | Dispositivo de conteo de peces, sistema de conteo de peces y procedimiento para contar peces |
TWI637323B (zh) * | 2017-11-20 | 2018-10-01 | 緯創資通股份有限公司 | 基於影像的物件追蹤方法及其系統與電腦可讀取儲存媒體 |
JP7069840B2 (ja) | 2018-03-02 | 2022-05-18 | 日本電気株式会社 | 個体計数装置、個体計数方法、個体計数プログラム、及び個体計数システム |
US20200394402A1 (en) * | 2018-03-09 | 2020-12-17 | Nec Corporation | Object identification device, object identification system, object identification method, and program recording medium |
US20210233235A1 (en) * | 2018-05-04 | 2021-07-29 | Xpertsea Solutions Inc. | Scale for determining the weight of organisms |
KR102017814B1 (ko) | 2019-03-25 | 2019-09-03 | 주식회사 글로비트 | 어류 계수 시스템 |
-
2019
- 2019-09-27 JP JP2019177654A patent/JP7237789B2/ja active Active
-
2020
- 2020-09-15 CN CN202080058242.XA patent/CN114402363A/zh active Pending
- 2020-09-15 WO PCT/JP2020/034937 patent/WO2021060078A1/ja active Application Filing
- 2020-09-15 AU AU2020353503A patent/AU2020353503B2/en active Active
- 2020-09-15 US US17/764,097 patent/US20220354096A1/en active Pending
- 2020-09-15 EP EP20868392.0A patent/EP4049534A4/en active Pending
Also Published As
Publication number | Publication date |
---|---|
EP4049534A4 (en) | 2024-01-03 |
AU2020353503A1 (en) | 2022-04-07 |
WO2021060078A1 (ja) | 2021-04-01 |
JP2021052632A (ja) | 2021-04-08 |
AU2020353503B2 (en) | 2023-11-16 |
JP7237789B2 (ja) | 2023-03-13 |
US20220354096A1 (en) | 2022-11-10 |
EP4049534A1 (en) | 2022-08-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108647587B (zh) | 人数统计方法、装置、终端及存储介质 | |
CN109145771B (zh) | 一种人脸抓拍方法及装置 | |
CN111709421B (zh) | 鸟类识别方法、装置、计算机设备及存储介质 | |
CN108337505B (zh) | 信息获取方法和装置 | |
Fier et al. | Automatic fish counting system for noisy deep-sea videos | |
CN112150514A (zh) | 视频的行人轨迹追踪方法、装置、设备及存储介质 | |
JP7250155B2 (ja) | 魚計数システム、魚計数方法及びプログラム | |
CN113963321B (zh) | 图像处理方法、装置、电子设备和介质 | |
US20200394802A1 (en) | Real-time object detection method for multiple camera images using frame segmentation and intelligent detection pool | |
CN114402363A (zh) | 鱼计数系统、鱼计数方法以及程序 | |
Tsesmelis et al. | Tamper detection for active surveillance systems | |
CN116935189A (zh) | 一种基于神经网络的伪装目标检测方法、装置及存储介质 | |
CN111325731A (zh) | 遥控装置的安装检测方法及装置 | |
CN108782312B (zh) | 基于图像处理的污水处理系统 | |
JP6831396B2 (ja) | 映像監視装置 | |
CN110322391A (zh) | 基于多线程的视频告警事件分析方法 | |
KR20220151130A (ko) | 영상 처리 방법, 장치, 전자 기기, 저장 매체 및 컴퓨터 프로그램 | |
CN112347989A (zh) | 反光衣识别方法、装置、计算机设备和可读存储介质 | |
CN111191593A (zh) | 图像目标检测方法、装置、存储介质及污水管道检测装置 | |
Tan et al. | A tracking scheme for Norway lobster and burrow abundance estimation in underwater video sequences | |
CN111277729B (zh) | 视频图像的处理方法、装置及电子设备 | |
EP3819817A1 (en) | A method and system of evaluating the valid analysis region of a specific scene | |
Tsai et al. | Automatic truck processing time extraction at marine container terminal gates using low-frame-rate images | |
CN117768614A (zh) | 一种监控视频拼接方法、装置、设备及介质 | |
CN110738828A (zh) | 门状态监测方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |