JP6818283B1 - Counting system, counting device, counting method and program - Google Patents

Counting system, counting device, counting method and program Download PDF

Info

Publication number
JP6818283B1
JP6818283B1 JP2020047940A JP2020047940A JP6818283B1 JP 6818283 B1 JP6818283 B1 JP 6818283B1 JP 2020047940 A JP2020047940 A JP 2020047940A JP 2020047940 A JP2020047940 A JP 2020047940A JP 6818283 B1 JP6818283 B1 JP 6818283B1
Authority
JP
Japan
Prior art keywords
counting
unit
individual
individuals
flow path
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020047940A
Other languages
Japanese (ja)
Other versions
JP2021149430A (en
Inventor
牧 陽一
陽一 牧
中野 達也
達也 中野
栄治 山田
栄治 山田
浩司 齋藤
浩司 齋藤
義裕 浦西
義裕 浦西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Maruha Nichiro Corp
Original Assignee
Maruha Nichiro Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Maruha Nichiro Corp filed Critical Maruha Nichiro Corp
Priority to JP2020047940A priority Critical patent/JP6818283B1/en
Priority to JP2020171380A priority patent/JP6876310B1/en
Application granted granted Critical
Publication of JP6818283B1 publication Critical patent/JP6818283B1/en
Publication of JP2021149430A publication Critical patent/JP2021149430A/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

【課題】対象物の正確な数を計測する。【解決手段】流路を移動する個体を撮像可能な位置に設置された撮像部110と、撮像部110が撮像した画像から、学習モデル130を用いて、個体を検出する検出部120と、検出部120が検出した個体の数をカウントする計数部140と、計数部140がカウントした数を出力する出力部150とを有する。【選択図】図2PROBLEM TO BE SOLVED: To measure an accurate number of objects. SOLUTION: An image pickup unit 110 installed at a position where an individual moving in a flow path can be imaged, and a detection unit 120 for detecting an individual from an image captured by the image pickup unit 110 by using a learning model 130. It has a counting unit 140 that counts the number of individuals detected by the unit 120, and an output unit 150 that outputs the number counted by the counting unit 140. [Selection diagram] Fig. 2

Description

本発明は、計数システム、計数装置、計数方法およびプログラムに関する。 The present invention relates to counting systems, counting devices, counting methods and programs.

魚類の商取引においては、取引される魚類の数をカウントすることが必須となっていることは言うまでもない。例えば、傾斜流路に対象物と液体とを流動させ、所定の角度からその画像を撮影し、撮影した画像の解析により対象物の計測を行う装置が考えられている(例えば、特許文献1参照。)。 It goes without saying that it is essential to count the number of fish traded in fish commerce. For example, an apparatus is considered in which an object and a liquid are made to flow in an inclined flow path, an image thereof is taken from a predetermined angle, and the object is measured by analyzing the taken image (see, for example, Patent Document 1). .).

特許第5561838号公報Japanese Patent No. 5561838

特許文献1に記載された装置は、撮影した画像に対して2値化処理を行って対象物を検出している。そのため、対象物の正確な数の計測が困難であるという問題点がある。 The apparatus described in Patent Document 1 detects an object by performing a binarization process on a captured image. Therefore, there is a problem that it is difficult to measure an accurate number of objects.

本発明の目的は、対象物の正確な数の計測ができる計数システム、計数装置、計数方法およびプログラムを提供することにある。 An object of the present invention is to provide a counting system, a counting device, a counting method and a program capable of measuring an accurate number of objects.

本発明の計数システムは、
個体が移動する流路と、
前記流路を移動する前記個体を撮像可能な位置に設置された撮像部と、
前記撮像部が撮像した画像から、深層学習モデルを用いて、前記個体を検出する検出部と、
前記検出部が検出した前記個体の数をカウントする計数部と、
前記計数部がカウントした数を出力する出力部とを有する。
The counting system of the present invention
The flow path in which the individual moves and
An imaging unit installed at a position where the individual moving in the flow path can be imaged,
A detection unit that detects the individual from the image captured by the imaging unit using a deep learning model,
A counting unit that counts the number of the individuals detected by the detection unit,
It has an output unit that outputs the number counted by the counting unit.

また、本発明の計数装置は、
流路を移動する個体を撮像可能な位置に設置された撮像部と、
前記撮像部が撮像した画像から、深層学習モデルを用いて、前記個体を検出する検出部と、
前記検出部が検出した前記個体の数をカウントする計数部と、
前記計数部がカウントした数を出力する出力部とを有する。
Further, the counting device of the present invention is
An imaging unit installed at a position where an individual moving in the flow path can be imaged,
A detection unit that detects the individual from the image captured by the imaging unit using a deep learning model,
A counting unit that counts the number of the individuals detected by the detection unit,
It has an output unit that outputs the number counted by the counting unit.

また、本発明の計数方法は、
個体が移動する流路を撮像する処理と、
前記撮像した画像から、深層学習モデルを用いて、前記個体を検出する処理と、
前記検出した前記個体の数をカウントするカウント処理と、
前記カウントした数を出力する処理とを行う。
Moreover, the counting method of the present invention
The process of imaging the flow path in which an individual moves, and
A process of detecting the individual from the captured image using a deep learning model, and
The counting process for counting the number of the detected individuals and
The process of outputting the counted number is performed.

また、本発明のプログラムは、
コンピュータに実行させるためのプログラムであって、
個体が移動する流路を撮像する手順と、
前記撮像した画像から、深層学習モデルを用いて、前記個体を検出する検出手順と、
前記検出した前記個体の数をカウントするカウント手順と、
前記カウントした数を出力する出力手順とを実行させる。
In addition, the program of the present invention
A program that lets a computer run
The procedure for imaging the flow path in which an individual moves, and
A detection procedure for detecting the individual from the captured image using a deep learning model, and
A counting procedure for counting the number of the detected individuals, and
The output procedure for outputting the counted number is executed.

本発明においては、対象物の正確な数を計測できる。 In the present invention, an accurate number of objects can be measured.

本発明の計数システムの第1の実施の形態を示す図である。It is a figure which shows the 1st Embodiment of the counting system of this invention. 図1に示した計数装置の内部構成の一例を示す図である。It is a figure which shows an example of the internal structure of the counting apparatus shown in FIG. 図1に示した計数システムの外観の一例を示す図である。It is a figure which shows an example of the appearance of the counting system shown in FIG. 図1に示した計数システムにおける計数方法の一例を説明するためのフローチャートである。It is a flowchart for demonstrating an example of the counting method in the counting system shown in FIG. 本発明の計数システムの第2の実施の形態を示す図である。It is a figure which shows the 2nd Embodiment of the counting system of this invention. 図5に示した計数装置の内部構成の一例を示す図である。It is a figure which shows an example of the internal structure of the counting apparatus shown in FIG. 図5に示した流路の外観の一例を示す図である。It is a figure which shows an example of the appearance of the flow path shown in FIG. 図5に示した計数システムの外観の一例を示す図である。It is a figure which shows an example of the appearance of the counting system shown in FIG. 図6に示した検出部が検出した魚を囲む枠の一例を示す図である。It is a figure which shows an example of the frame which surrounds the fish detected by the detection part shown in FIG. 図6に示した計数部が行う計数処理を説明するための図である。It is a figure for demonstrating the counting process performed by the counting part shown in FIG. 図6に示した計数装置における計数方法の一例を説明するためのフローチャートである。It is a flowchart for demonstrating an example of the counting method in the counting apparatus shown in FIG.

以下に、本発明の実施の形態について図面を参照して説明する。
(第1の実施の形態)
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
(First Embodiment)

図1は、本発明の計数システムの第1の実施の形態を示す図である。本形態における計数システムは図1に示すように、計数装置100と、流路200とを有する。流路200は、対象となる個体が移動する流路である。計数装置100は、流路200を移動する個体の数をカウントする。 FIG. 1 is a diagram showing a first embodiment of the counting system of the present invention. As shown in FIG. 1, the counting system in the present embodiment has a counting device 100 and a flow path 200. The flow path 200 is a flow path through which the target individual moves. The counting device 100 counts the number of individuals moving in the flow path 200.

図2は、図1に示した計数装置100の内部構成の一例を示す図である。図1に示した計数装置100は図2に示すように、撮像部110と、検出部120と、学習モデル130と、計数部140と、出力部150とを有する。なお、図2には、図1に示した計数装置100が有する構成要素のうち、本形態に関わる主要な構成要素のみを示す。 FIG. 2 is a diagram showing an example of the internal configuration of the counting device 100 shown in FIG. As shown in FIG. 2, the counting device 100 shown in FIG. 1 includes an imaging unit 110, a detecting unit 120, a learning model 130, a counting unit 140, and an output unit 150. Note that FIG. 2 shows only the main components related to the present embodiment among the components included in the counting device 100 shown in FIG.

撮像部110は、流路200を撮像するカメラ等の撮像手段である。具体的には、撮像部110は、流路200上の対象となる個体が移動する面を撮像する。撮像部110は、流路200を移動する個体を十分な回数撮像可能なフレームレートで、例えば、個体が撮像範囲を通過する間にその個体を5回以上撮像できるフレームレートで撮像を行う。検出部120は、撮像部110が撮像した画像とあらかじめ多数の個体の特徴を深層学習した学習モデル130とを用いて、個体を検出する。つまり、検出部120は、撮像部110が撮像した画像と、多数の個体の特徴を学習した深層学習モデルを用いて、個体を認識する。計数部140は、検出部120が検出した個体の数をカウントする。出力部150は、計数部140がカウントした数を出力する。 The imaging unit 110 is an imaging means such as a camera that images the flow path 200. Specifically, the imaging unit 110 images the surface on the flow path 200 where the target individual moves. The imaging unit 110 images an individual moving in the flow path 200 at a frame rate capable of imaging a sufficient number of times, for example, at a frame rate capable of imaging the individual five times or more while the individual passes through the imaging range. The detection unit 120 detects an individual by using the image captured by the imaging unit 110 and the learning model 130 in which the characteristics of a large number of individuals are deep-learned in advance. That is, the detection unit 120 recognizes an individual by using the image captured by the imaging unit 110 and the deep learning model that has learned the characteristics of a large number of individuals. The counting unit 140 counts the number of individuals detected by the detection unit 120. The output unit 150 outputs the number counted by the counting unit 140.

図3は、図1に示した計数システムの外観の一例を示す図である。図1に示した計数システムは図3に示すように、流路200の一部を撮像できる位置に撮像部110が位置するように計数装置100が設置されている。なお、計数装置100の筐体の外側に出力部150が設けられ、計数部140と出力部150との間が無線または有線を用いて接続されているものであっても良い。また、撮像部110と他の構成要素とが互いに別個の筐体に収容されているものであっても良い。この場合、撮像部110と検出部120との間は、無線または有線で接続されている。筐体には、防塵・防水加工が施されている。また、計数装置100および流路200は、例えば、船上に設けられ、船上にて魚の計数を行うことができる態様となっている。この計数作業に用いられる船としては、船上で計数作業が行うことができる船であれば特に制限されないが、例えば、作業船を用いることが好ましい。 FIG. 3 is a diagram showing an example of the appearance of the counting system shown in FIG. In the counting system shown in FIG. 1, as shown in FIG. 3, the counting device 100 is installed so that the imaging unit 110 is located at a position where a part of the flow path 200 can be imaged. The output unit 150 may be provided on the outside of the housing of the counting device 100, and the counting unit 140 and the output unit 150 may be connected wirelessly or by wire. Further, the imaging unit 110 and other components may be housed in separate housings. In this case, the imaging unit 110 and the detection unit 120 are connected wirelessly or by wire. The housing is dustproof and waterproof. Further, the counting device 100 and the flow path 200 are provided on the ship, for example, so that the fish can be counted on the ship. The ship used for this counting work is not particularly limited as long as it can perform counting work on board, but for example, it is preferable to use a work ship.

以下に、図1に示した計数システムにおける計数方法について説明する。図4は、図1に示した計数システムにおける計数方法の一例を説明するためのフローチャートである。 The counting method in the counting system shown in FIG. 1 will be described below. FIG. 4 is a flowchart for explaining an example of a counting method in the counting system shown in FIG.

まず、計測を開始するために、計数装置100は、外部からの所定の操作に基づいて計測開始の入力を受け付けると、撮像部110が流路200の撮像を開始する(ステップS1)。続いて、検出部120が、撮像部110が撮像した画像とあらかじめ多数の個体の特徴を深層学習した学習モデル130とを用いて、個体の検出を行う(ステップS2)。検出部120が個体を検出すると、計数部140がカウンタ値をカウントアップする(ステップS3)。その後、計数装置100は、計測が終了するかどうかを判定する(ステップS4)。ここで、計数装置100は、外部からの所定の操作に基づいて計測終了の入力を受け付けたかどうかを判定することにより、ステップS4の判定が行われる。計数装置100が計測を終了すると判定した場合、出力部150は、計数部140が計測した個体の数を出力する(ステップS5)。一方、計数装置100が計測を終了しないと判定した場合は、ステップS2の処理が行われる。 First, in order to start measurement, when the counting device 100 receives an input for starting measurement based on a predetermined operation from the outside, the imaging unit 110 starts imaging the flow path 200 (step S1). Subsequently, the detection unit 120 detects an individual by using the image captured by the imaging unit 110 and the learning model 130 in which the characteristics of a large number of individuals are deep-learned in advance (step S2). When the detection unit 120 detects an individual, the counting unit 140 counts up the counter value (step S3). After that, the counting device 100 determines whether or not the measurement is completed (step S4). Here, the determination of step S4 is performed by determining whether or not the counting device 100 has received the input of the end of measurement based on a predetermined operation from the outside. When the counting device 100 determines that the measurement is completed, the output unit 150 outputs the number of individuals measured by the counting unit 140 (step S5). On the other hand, if the counting device 100 determines that the measurement is not completed, the process of step S2 is performed.

このように、計数装置100は、流路200の撮像画像から、深層学習モデルを用いて対象となる個体を検出し、検出した個体の数をカウントして出力する。そのため、対象物の正確な数を計測できる。
(第2の実施の形態)
In this way, the counting device 100 detects a target individual from the captured image of the flow path 200 using the deep learning model, counts the number of the detected individuals, and outputs the number. Therefore, the exact number of objects can be measured.
(Second Embodiment)

図5は、本発明の計数システムの第2の実施の形態を示す図である。本形態における計数システムは図5に示すように、計数装置101と、流路201とを有する。本形態においては、対象物となる個体が魚類(以下、魚と称する)である場合を例に挙げて説明する。また、魚は養殖魚や天然魚であって、その魚種は、例えばブリ属に属するものである。また、その魚のサイズは特に規定しない。 FIG. 5 is a diagram showing a second embodiment of the counting system of the present invention. As shown in FIG. 5, the counting system in the present embodiment has a counting device 101 and a flow path 201. In this embodiment, a case where the target individual is a fish (hereinafter referred to as a fish) will be described as an example. Further, the fish are farmed fish or natural fish, and the fish species belong to the genus Amberjack, for example. The size of the fish is not specified.

図6は、図5に示した計数装置101の内部構成の一例を示す図である。図5に示した計数装置101は図6に示すように、撮像部110と、検出部121と、学習モデル131と、計数部141と、出力部150と、追跡部161と、距離測定部171とを有する。なお、図6には、図5に示した計数装置101が有する構成要素のうち、本形態に関わる主要な構成要素のみを示す。計数装置101には、防塵・防水加工が施されている。なお、撮像部110および出力部150は、第1の実施の形態におけるものと同じものである。 FIG. 6 is a diagram showing an example of the internal configuration of the counting device 101 shown in FIG. As shown in FIG. 6, the counting device 101 shown in FIG. 5 includes an imaging unit 110, a detection unit 121, a learning model 131, a counting unit 141, an output unit 150, a tracking unit 161 and a distance measuring unit 171. And have. Note that FIG. 6 shows only the main components related to the present embodiment among the components included in the counting device 101 shown in FIG. The counting device 101 is dustproof and waterproof. The imaging unit 110 and the output unit 150 are the same as those in the first embodiment.

検出部121は、第1の実施の形態における検出部120が有する機能に以下の機能が追加されている。検出部121は、撮像部110が撮像した画像と、あらかじめ魚の尾鰭を除く多数の個体の特徴を深層学習した学習モデル131とを用いて、魚を検出する。このとき、検出部121は、深層学習の量子化・枝刈り等を適用した深層学習圧縮技術を用いても良い。なお、検出部121は、尾鰭以外の鰭部分(例えば、胸鰭等)を除く部位の画像を用いて魚を検出するものであっても良い。このように、変化の大きな鰭部分などをアノテーション対象から除外したものを教師データとして用いて深層学習モデルを作成することで、学習モデルの複雑化を回避し、より正確な検出を行うことができる。なお、変化の大きな鰭部分とは、可動域が大きな部分であって、撮像された形状が撮像のタイミングに応じて変化する部分のことである。また、検出部121は、魚を検出すると、検出した魚をBounding Boxと称する枠で囲み、囲んだ枠を検出結果として用いるものであっても良い。このように、枠を用いて検出結果を表示することで、魚を検知した結果を作業者が認識しやすくすることができる。 The detection unit 121 has the following functions added to the functions of the detection unit 120 in the first embodiment. The detection unit 121 detects a fish by using the image captured by the imaging unit 110 and the learning model 131 in which the characteristics of a large number of individuals excluding the caudal fin of the fish are deep-learned in advance. At this time, the detection unit 121 may use a deep learning compression technique to which quantization / pruning of deep learning is applied. The detection unit 121 may detect a fish by using an image of a portion excluding a fin portion (for example, a pectoral fin, etc.) other than the caudal fin. In this way, by creating a deep learning model using the fins with large changes excluded from the annotation targets as teacher data, it is possible to avoid complication of the learning model and perform more accurate detection. .. The fin portion having a large change is a portion having a large range of motion and the imaged shape changes according to the timing of imaging. Further, when the detection unit 121 detects a fish, the detected fish may be surrounded by a frame called a Bounding Box, and the surrounded frame may be used as a detection result. By displaying the detection result using the frame in this way, it is possible for the operator to easily recognize the result of detecting the fish.

追跡部161は、検出部121が検出した個体を追跡する。追跡部161は、いわゆるトラッキング処理を行うが、このトラッキング処理は、検出された個体を追跡できるものであればどのようなトラッキング処理であっても良く、特に限定しない。距離測定部171は、追跡部161が追跡した個体の移動距離を測定する。計数部141は、追跡部161が追跡した個体のうち、距離測定部171が測定した移動距離が所定の距離閾値を超え、かつその個体が撮像範囲に存在する時間が所定の時間を超えた個体の数を魚の数としてカウントする。例えば、計数部141は、追跡部161が追跡した個体のうち、撮像部110が撮像したフレームの一定数のフレーム以上に撮像されており、かつ撮像部110の撮像範囲(フレーム内)の3分の1以上の距離を移動した個体をカウントの対象とする。計数部141は、追跡部161が追跡した個体のうち、距離測定部171が測定した移動距離が所定の距離閾値を超えないものや、移動距離が所定の距離閾値を超えてもその個体が撮像範囲内に存在する時間が所定の時間以内であるものについては、その個体をカウント対象から外すものであっても良い。この移動距離と比較する距離閾値や所定の時間については、外部から設定可能である。また、計数部141は、計測ごとにカウント値をリセット可能なものであっても良い。 The tracking unit 161 tracks the individual detected by the detection unit 121. The tracking unit 161 performs a so-called tracking process, and the tracking process may be any tracking process as long as it can track the detected individual, and is not particularly limited. The distance measuring unit 171 measures the moving distance of the individual tracked by the tracking unit 161. Among the individuals tracked by the tracking unit 161, the counting unit 141 is an individual whose moving distance measured by the distance measuring unit 171 exceeds a predetermined distance threshold value and the time during which the individual is in the imaging range exceeds a predetermined time. Is counted as the number of fish. For example, the counting unit 141 is imaged in a certain number of frames or more of the frames imaged by the imaging unit 110 among the individuals tracked by the tracking unit 161 and is 3 minutes of the imaging range (inside the frame) of the imaging unit 110. Individuals that have moved a distance of 1 or more are counted. Among the individuals tracked by the tracking unit 161, the counting unit 141 captures images of individuals whose movement distance measured by the distance measurement unit 171 does not exceed a predetermined distance threshold value or even if the movement distance exceeds a predetermined distance threshold value. If the time existing within the range is within a predetermined time, the individual may be excluded from the counting target. The distance threshold value to be compared with this moving distance and a predetermined time can be set from the outside. Further, the counting unit 141 may be capable of resetting the count value for each measurement.

図7は、図5に示した流路201の外観の一例を示す図である。図5に示した流路201は図7に示すように、底面211と2つの側壁221,231とから構成される流路である。底面211の表面は、魚が移動しやすいように、例えば、エンボス加工が施されているものが好ましいが、これに限定しない。流路201の内側の素材は、錆びにくいステンレスや繊維強化プラスチック(FRP:Fiber−Reinforced Plastics)等が好ましい。流路201の幅、つまり、側壁221と側壁231との間の距離は、魚が底面211に触れながら移動できるサイズであって、1〜100cm程度が好ましい。側壁221と側壁231との間の距離は、例えば、対象となる魚の体幅または体高と同等かそれ以上が好ましい。また、側壁221および側壁231の高さは、1〜100cm程度が好ましい。側壁221および側壁231の高さは、例えば、対象となる魚の体幅と同等かそれ以上が好ましいが、流路201を移動する魚が流路201から外れない(外に飛び出さない)高さであれば良い。 FIG. 7 is a diagram showing an example of the appearance of the flow path 201 shown in FIG. As shown in FIG. 7, the flow path 201 shown in FIG. 5 is a flow path composed of a bottom surface 211 and two side walls 221,231. The surface of the bottom surface 211 is preferably, for example, embossed so that fish can easily move, but the surface thereof is not limited to this. The material inside the flow path 201 is preferably stainless steel or fiber reinforced plastic (FRP: Fiber-Reinforced Plastics) that does not easily rust. The width of the flow path 201, that is, the distance between the side wall 221 and the side wall 231 is a size that allows the fish to move while touching the bottom surface 211, and is preferably about 1 to 100 cm. The distance between the side wall 221 and the side wall 231 is preferably equal to or greater than, for example, the body width or height of the target fish. The height of the side wall 221 and the side wall 231 is preferably about 1 to 100 cm. The heights of the side wall 221 and the side wall 231 are preferably equal to or greater than the body width of the target fish, for example, but the height at which the fish moving in the flow path 201 does not deviate from the flow path 201 (does not jump out). If it is good.

図8は、図5に示した計数システムの外観の一例を示す図である。図5に示した計数システムは図8に示すように、流路201を移動する個体を撮像できる位置に撮像部110が位置するように計数装置101が設置されている。流路201は、船上に設けられ、水中に設けられるものではない。なお、計数装置101の筐体の外側に出力部150が設けられ、計数部141と出力部150との間が無線または有線を用いて接続されているものであっても良い。また、撮像部110と他の構成要素とが互いに別個の筐体に収容されているものであっても良い。この場合、撮像部110と検出部121との間は、無線または有線で接続されている。筐体には、防塵・防水加工が施されている。また、計数装置101および流路201は、例えば、船上に設けられ、船上にて魚の計数を行うことができる態様となっている。また、計数装置101は、内部にバッテリー(例えば、充放電可能な蓄電池等)を具備しており、計数装置101に設けられた各構成要素は、このバッテリーから電源が供給されて動作する。魚は、大型の網を用いて生簀から流路201の上流へ放たれる。なお、流路201は、複数の小流路に分かれているものであっても良い。その場合、複数の小流路それぞれを互いに異なるサイズ(幅)に形成し、流路201上に放たれた魚をそのサイズに応じてカウント対象であるか対象外であるかを選別できるようにしても良い。 FIG. 8 is a diagram showing an example of the appearance of the counting system shown in FIG. In the counting system shown in FIG. 5, as shown in FIG. 8, the counting device 101 is installed so that the imaging unit 110 is located at a position where an individual moving in the flow path 201 can be imaged. The flow path 201 is provided on the ship, not in water. The output unit 150 may be provided on the outside of the housing of the counting device 101, and the counting unit 141 and the output unit 150 may be connected wirelessly or by wire. Further, the imaging unit 110 and other components may be housed in separate housings. In this case, the imaging unit 110 and the detection unit 121 are connected wirelessly or by wire. The housing is dustproof and waterproof. Further, the counting device 101 and the flow path 201 are provided on the ship, for example, so that the fish can be counted on the ship. Further, the counting device 101 is provided with a battery (for example, a rechargeable storage battery or the like) inside, and each component provided in the counting device 101 is supplied with power from the battery to operate. The fish are released from the cage upstream of the flow path 201 using a large net. The flow path 201 may be divided into a plurality of small flow paths. In that case, each of the plurality of small channels is formed to have different sizes (widths) from each other so that the fish released on the channel 201 can be selected as being counted or not being counted according to the size. You may.

図8に示すように、流路201は、流路201の底面に沿って魚が上流から下流へ滑って移動するように水平面301に対して傾斜して配置されている。流路201を移動する魚が複数である場合、流路201の上流側では複数の魚が互いに重なり合っている場合も考えられる。複数の魚が互いに重なり合っていると、撮像部110が撮像した画像からは、その重なりの下側に存在する魚を検出部121が検出することが困難となってしまう。そのため、流路201を水平面に対して傾斜させ、重なりを防止する。なお、この傾斜角度は4〜6度が好ましいが、魚の量や、底面の素材・加工・構造、流路201上を魚が滑りやすくするために魚とともに上流から下流へ流す水の量等に応じて、適宜設定(例えば、1〜30度程度の範囲内で設定)されるものであっても良い。 As shown in FIG. 8, the flow path 201 is arranged at an angle with respect to the horizontal plane 301 so that the fish slide and move from the upstream to the downstream along the bottom surface of the flow path 201. When there are a plurality of fish moving in the flow path 201, it is possible that a plurality of fish overlap each other on the upstream side of the flow path 201. When a plurality of fish overlap each other, it becomes difficult for the detection unit 121 to detect the fish existing under the overlap from the image captured by the imaging unit 110. Therefore, the flow path 201 is inclined with respect to the horizontal plane to prevent overlap. The inclination angle is preferably 4 to 6 degrees, but the amount of fish, the material, processing, and structure of the bottom surface, the amount of water flowing from upstream to downstream together with the fish to make the fish slippery on the flow path 201, etc. Depending on the situation, it may be appropriately set (for example, set within the range of about 1 to 30 degrees).

また、上述したように流路201を水平面に対して傾斜させているため、魚が移動し始める流路201の上流よりも下流の方が複数の魚が互いに重なる可能性は低くなる。そのため、撮像部110は、できるだけ下流側の流路201を撮像するように設置されている。例えば、撮像部110は、流路201の上流と下流との中間点よりも下流側の流路201を撮像するように設置されている。 Further, since the flow path 201 is inclined with respect to the horizontal plane as described above, the possibility that a plurality of fish overlap each other is lower in the downstream side than in the upstream side of the flow path 201 where the fish start to move. Therefore, the imaging unit 110 is installed so as to image the flow path 201 on the downstream side as much as possible. For example, the imaging unit 110 is installed so as to image the flow path 201 on the downstream side of the midpoint between the upstream and downstream of the flow path 201.

また、撮像部110と流路201との間に、親水性シート(親水性被膜)401が設けられている。親水性シート401は、親水性処理が施された透明な板やシート等の部材(親水性部材)であって、撮像部110のレンズを覆うように張られているものであっても良い。親水性シート401を設けることで、水飛沫や水滴が画像撮像の妨げになることを防ぐことができる。さらに、撮像部110と親水性シート401との間に、偏光フィルタと減光フィルタとの少なくとも一方をフィルタ402として設けても良い。フィルタ402を設けることで、撮像部110において撮像した画像の強い光の影響による不鮮明化を回避することができる。 Further, a hydrophilic sheet (hydrophilic coating) 401 is provided between the imaging unit 110 and the flow path 201. The hydrophilic sheet 401 may be a member (hydrophilic member) such as a transparent plate or sheet that has been subjected to a hydrophilic treatment, and may be stretched so as to cover the lens of the imaging unit 110. By providing the hydrophilic sheet 401, it is possible to prevent water droplets and water droplets from interfering with image imaging. Further, at least one of a polarizing filter and a dimming filter may be provided as a filter 402 between the imaging unit 110 and the hydrophilic sheet 401. By providing the filter 402, it is possible to avoid blurring of the image captured by the imaging unit 110 due to the influence of strong light.

図9は、図6に示した検出部121が検出した魚を囲む枠の一例を示す図である。図9に示すように、検出部121は尾鰭511を除く魚501を検出枠521で囲む処理を行う。検出枠521は、上述したBounding Boxである。検出枠521は、撮像部110が撮像した魚501を出力部150が表示する際に表示される。検出枠521で魚501を囲むことで、撮像部110が撮像した画像を出力部150が表示するときに、出力部150が表示した画像を見た利用者がその画像の中から魚501を識別することが容易になる。 FIG. 9 is a diagram showing an example of a frame surrounding the fish detected by the detection unit 121 shown in FIG. As shown in FIG. 9, the detection unit 121 performs a process of surrounding the fish 501 excluding the caudal fin 511 with the detection frame 521. The detection frame 521 is the Bounding Box described above. The detection frame 521 is displayed when the output unit 150 displays the fish 501 imaged by the imaging unit 110. By surrounding the fish 501 with the detection frame 521, when the output unit 150 displays the image captured by the imaging unit 110, the user who sees the image displayed by the output unit 150 identifies the fish 501 from the image. It will be easier to do.

図10は、図6に示した計数部141が行う計数処理を説明するための図である。図10に示すように、計数部141は、流路201上、検出部121が魚であると検出した物体が所定の距離閾値を超えて移動した場合、その個体をカウント対象の魚であるとカウントする。一方、計数部141は、検出部121が魚であると検出した個体の移動が距離閾値以下である場合、その個体をカウント対象外としてカウントしない。 FIG. 10 is a diagram for explaining the counting process performed by the counting unit 141 shown in FIG. As shown in FIG. 10, when the object detected by the detection unit 121 as a fish moves on the flow path 201 on the flow path 201 beyond a predetermined distance threshold value, the counting unit 141 determines that the individual is a fish to be counted. Count. On the other hand, when the movement of the individual detected by the detection unit 121 as a fish is equal to or less than the distance threshold value, the counting unit 141 does not count the individual as a non-counting target.

以下に、図6に示した計数装置101における計数方法について説明する。図11は、図6に示した計数装置101における計数方法の一例を説明するためのフローチャートである。 The counting method in the counting device 101 shown in FIG. 6 will be described below. FIG. 11 is a flowchart for explaining an example of a counting method in the counting device 101 shown in FIG.

まず、計測を開始するために、計数装置101は、外部からの所定の操作に基づいて計測開始の入力を受け付けると、撮像部110が流路201の撮像を開始する(ステップS11)。続いて、検出部121が、撮像部110が撮像した画像と、あらかじめ多数の個体の特徴を深層学習した学習モデル131とを用いて、個体の検出を行う(ステップS12)。このとき検出部121は、上述したように、変化の大きな鰭の部分を除いて検出を行うものであっても良い。検出部121が個体を検出すると、追跡部161は、検出部121が検出した個体を追跡する(ステップS13)。続いて、距離測定部171は、追跡部161が追跡した個体の移動距離を測定する(ステップS14)。 First, in order to start the measurement, when the counting device 101 receives the input for starting the measurement based on a predetermined operation from the outside, the imaging unit 110 starts the imaging of the flow path 201 (step S11). Subsequently, the detection unit 121 detects an individual by using the image captured by the imaging unit 110 and the learning model 131 in which the characteristics of a large number of individuals are deep-learned in advance (step S12). At this time, as described above, the detection unit 121 may perform detection except for the fin portion having a large change. When the detection unit 121 detects an individual, the tracking unit 161 tracks the individual detected by the detection unit 121 (step S13). Subsequently, the distance measuring unit 171 measures the moving distance of the individual tracked by the tracking unit 161 (step S14).

すると、計数部141は、追跡部161が追跡した個体について、距離測定部171が測定した移動距離があらかじめ設定された距離閾値を超えたかどうかを判定する(ステップS15)。計数部141は、追跡部161が追跡した個体について、距離測定部171が測定した移動距離があらかじめ設定された距離閾値を超えた場合、その個体が撮像範囲内に存在する時間を測定する(ステップS16)。計数部141は、その個体が撮像範囲内に存在する時間があらかじめ設定された時間を超えているかどうかを判定する(ステップS17)。その個体が撮像範囲内に存在する時間があらかじめ設定された時間を超えている場合、計数部141はカウンタ値をカウントアップする(ステップS18)。一方、計数部141は、追跡部161が追跡した個体について、距離測定部171が測定した移動距離があらかじめ設定された距離閾値を超えない場合や、移動距離が所定の距離閾値を超えてもその個体が撮像範囲内に存在する時間が所定の時間以内での移動である場合は、カウンタ値をカウントアップしない。 Then, the counting unit 141 determines whether or not the movement distance measured by the distance measuring unit 171 exceeds the preset distance threshold value for the individual tracked by the tracking unit 161 (step S15). When the moving distance measured by the distance measuring unit 171 exceeds a preset distance threshold value for the individual tracked by the tracking unit 161, the counting unit 141 measures the time during which the individual is within the imaging range (step). S16). The counting unit 141 determines whether or not the time that the individual exists in the imaging range exceeds a preset time (step S17). When the time that the individual exists in the imaging range exceeds a preset time, the counting unit 141 counts up the counter value (step S18). On the other hand, the counting unit 141 determines that the movement distance measured by the distance measurement unit 171 does not exceed a preset distance threshold value or the movement distance exceeds a predetermined distance threshold value for the individual tracked by the tracking unit 161. If the time the individual is in the imaging range is within a predetermined time, the counter value is not counted up.

ここで、流路201内の単なる光の反射や流路201の汚れ、模様、作業者の一部等、対象となる個体ではないノイズを検出部121が個体(魚)であると誤検出した場合、それを魚として計数してしまうことを防止するために、計数部141は、検出部121が検出した個体の移動距離や個体が撮像範囲内に存在する時間を魚であるかどうかの判定(計数)に用いる。検出部121が検出した個体が流路201内の単なる光の反射である場合、その個体は移動しない。もしくは、そのような光の反射等を誤検出したとしてもその存在時間はわずかである場合が多い。一方、検出部121が検出した個体が魚である場合、その個体(魚)は流路201上をある程度の時間をかけて移動する。計数部141は、この移動の有無や個体が撮像範囲内に存在する時間を、個体が魚であるかどうかの判定に用いる。また、移動の判定に用いる距離閾値は、このような検出部121が検出した個体が、移動している魚であるのか、移動しない光の反射等なのかを判定できる距離であって、流路201の形状や傾斜角度、設置位置、魚が流路201へ投入される速度や数量、または計測を行う時間帯等に応じてあらかじめ設定される。また、あらかじめ設定された時間は、魚が流路201を移動したことを検出するための時間であって、流路201の形状や傾斜角度、設置位置、魚が流路201へ投入される速度や数量等に応じてあらかじめ設定される。 Here, the detection unit 121 erroneously detects that the noise that is not the target individual, such as the mere reflection of light in the flow path 201, the dirt on the flow path 201, the pattern, and a part of the worker, is an individual (fish). In this case, in order to prevent it from being counted as a fish, the counting unit 141 determines whether or not the moving distance of the individual detected by the detecting unit 121 and the time that the individual exists in the imaging range are fish. Used for (counting). If the individual detected by the detection unit 121 is merely a reflection of light in the flow path 201, the individual does not move. Alternatively, even if such light reflection or the like is erroneously detected, its existence time is often short. On the other hand, when the individual detected by the detection unit 121 is a fish, the individual (fish) moves on the flow path 201 over a certain period of time. The counting unit 141 uses the presence or absence of this movement and the time during which the individual is within the imaging range to determine whether or not the individual is a fish. Further, the distance threshold value used for determining the movement is a distance capable of determining whether the individual detected by the detection unit 121 is a moving fish or a reflection of light that does not move, and is a flow path. It is set in advance according to the shape and inclination angle of 201, the installation position, the speed and quantity of fish being put into the flow path 201, the time zone for measurement, and the like. Further, the preset time is a time for detecting that the fish has moved in the flow path 201, and is the shape and inclination angle of the flow path 201, the installation position, and the speed at which the fish is put into the flow path 201. It is set in advance according to the quantity and quantity.

その後、検出部121が検出した個体が複数であるかどうかを検出部121が判定する(ステップS19)。検出部121が検出した個体が複数ではない場合、計数装置101は、計測が終了するかどうかを判定する(ステップS20)。ここで、計数装置101は、外部からの所定の操作に基づいて計測終了の入力を受け付けたかどうかを判定することにより、ステップS20の判定が行われる。計数装置101が計測を終了すると判定した場合、出力部150は、計数部141が計測した個体の数を出力する(ステップS21)。出力部150は、計数部141が計測した個体の数をディスプレイに表示するものであっても良いし、計数部141が計測した個体の数を示す情報を他の装置へ送信するものであっても良い。個体の数を表示するディスプレイは、計数装置101に具備されたディスプレイであっても良いし、計数装置101と接続された専用のディスプレイや、通信端末に具備されたディスプレイであっても良い。一方、計数装置101が計測を終了しないと判定した場合は、ステップS12の処理が行われる。 After that, the detection unit 121 determines whether or not there are a plurality of individuals detected by the detection unit 121 (step S19). When the number of individuals detected by the detection unit 121 is not a plurality, the counting device 101 determines whether or not the measurement is completed (step S20). Here, the counting device 101 determines in step S20 by determining whether or not the input for the end of measurement has been received based on a predetermined operation from the outside. When the counting device 101 determines that the measurement is completed, the output unit 150 outputs the number of individuals measured by the counting unit 141 (step S21). The output unit 150 may display the number of individuals measured by the counting unit 141 on the display, or transmit information indicating the number of individuals measured by the counting unit 141 to another device. Is also good. The display for displaying the number of individuals may be a display provided in the counting device 101, a dedicated display connected to the counting device 101, or a display provided in the communication terminal. On the other hand, if the counting device 101 determines that the measurement is not completed, the process of step S12 is performed.

一方、ステップS19にて、検出部121が検出した個体が複数であると判定された場合、追跡部161は、未処理の個体があるかどうかを判定する(ステップS22)。追跡部161は、ステップS13〜S18までの処理を完了した個体と、ステップS13〜S18までの処理をまだ行っていない個体とを識別可能に分別しておく。例えば、追跡部161は、検出部121が検出した個体それぞれに互いに区別できるマーカーを付しておき、そのマーカーを処理済みかどうかが識別できるように変更していくものであっても良い。また、この追跡部161の処理を、距離測定部171が行っても良い。未処理の個体がある場合、未処理の個体についてステップS13〜S18の処理が行われる。また、未処理の個体がない場合は、ステップS20の処理が行われる。なお、ステップS12にて検出部121が複数の個体を検出した場合、検出された個体ごとにステップS13〜S178の処理がそれぞれに並行して行われるものであっても良い。 On the other hand, when it is determined in step S19 that there are a plurality of individuals detected by the detection unit 121, the tracking unit 161 determines whether or not there are unprocessed individuals (step S22). The tracking unit 161 distinguishes between individuals who have completed the processes of steps S13 to S18 and individuals who have not yet performed the processes of steps S13 to S18. For example, the tracking unit 161 may attach a marker that can be distinguished from each other to each individual detected by the detection unit 121, and change the marker so that it can be identified whether or not the marker has been processed. Further, the distance measuring unit 171 may perform the processing of the tracking unit 161. If there are untreated individuals, the treatments of steps S13 to S18 are performed on the untreated individuals. If there are no untreated individuals, the process of step S20 is performed. When the detection unit 121 detects a plurality of individuals in step S12, the processes of steps S13 to S178 may be performed in parallel for each of the detected individuals.

なお、出力部150は、計数部141が計測した個体の数をリアルタイムで出力するものであっても良いし、計数部141が個体の数を計測中の所定のタイミングで出力するものであっても良い。この場合の所定のタイミングとは、例えば、計数部141が個体をカウントする度、または所定の数(例えば、10)をカウントする度のタイミングや、計測開始からあらかじめ設定された単位時間(例えば、1分間)経過ごとのタイミングであっても良い。 The output unit 150 may output the number of individuals measured by the counting unit 141 in real time, or the counting unit 141 outputs the number of individuals at a predetermined timing during measurement. Is also good. The predetermined timing in this case is, for example, the timing of each time the counting unit 141 counts an individual, or the timing of counting a predetermined number (for example, 10), or a unit time preset from the start of measurement (for example, 10). It may be the timing for each passage (1 minute).

図6に示した学習モデル131は、メモリカード等の移設可能な記録媒体に記憶しておき、計数装置101に装着して用いられるものであっても良い。その場合、複数のメモリカードそれぞれに互いに異なる学習モデルを記憶おけば、装着するメモリカードの差し替えだけで、計測の対象となる個体に適した学習モデルを計数装置101にて即座に実行することができる。または、1つのメモリカードに互いに異なる複数の学習モデルを記憶させておき、計測対象に応じて使用する学習モデルを切り替えて実行するような形態であっても良い。 The learning model 131 shown in FIG. 6 may be stored in a transferable recording medium such as a memory card and mounted on the counting device 101 for use. In that case, if different learning models are stored in each of the plurality of memory cards, the counting device 101 can immediately execute the learning model suitable for the individual to be measured by simply replacing the memory card to be attached. it can. Alternatively, a plurality of learning models different from each other may be stored in one memory card, and the learning model to be used may be switched and executed according to the measurement target.

このように、計数装置101は、船上に設置された流路201の撮像画像から、深層学習モデルを用いて対象となる個体を検出し、検出した個体の移動距離が距離閾値を超えたものを魚としてカウントする。そのため、船上において対象物である魚の正確な数を計測できる。 In this way, the counting device 101 detects the target individual from the captured image of the flow path 201 installed on the ship by using the deep learning model, and the moving distance of the detected individual exceeds the distance threshold value. Count as a fish. Therefore, it is possible to measure the exact number of fish that are the objects on board.

以上、各構成要素に各機能(処理)それぞれを分担させて説明したが、この割り当ては上述したものに限定しない。また、構成要素の構成についても、上述した形態はあくまでも例であって、これに限定しない。 In the above, each component is assigned to each function (process), but this allocation is not limited to the above. Further, the above-described form is merely an example of the configuration of the component elements, and the present invention is not limited to this.

上述した各構成要素が行う処理は、目的に応じてそれぞれ作製された論理回路で行うようにしても良い。また、処理内容を手順として記述したコンピュータプログラム(以下、プログラムと称する)を各構成要素を具備した装置(例えば、計数装置100,101。以下、情報処理装置と称する)にて読取可能な記録媒体に記録し、この記録媒体に記録されたプログラムを情報処理装置に読み込ませ、実行するものであっても良い。情報処理装置にて読取可能な記録媒体とは、フロッピー(登録商標)ディスク、光磁気ディスク、DVD(Digital Versatile Disc)、CD(Compact Disc)、Blu−ray(登録商標) Disc、USB(Universal Serial Bus)メモリなどの移設可能な記録媒体の他、情報処理装置に内蔵されたROM(Read Only Memory)、RAM(Random Access Memory)等のメモリやHDD(Hard Disc Drive)等を指す。この記録媒体に記録されたプログラムは、情報処理装置に設けられたCPUにて読み込まれ、CPUの制御によって、上述したものと同様の処理が行われる。ここで、CPUは、プログラムが記録された記録媒体から読み込まれたプログラムを実行するコンピュータとして動作するものである。なお、FPGA(Field Programmable Gate Array)を用いて上述した論理回路を実現するものであっても良い。 The processing performed by each of the above-described components may be performed by logic circuits manufactured according to the purpose. Further, a recording medium in which a computer program (hereinafter, referred to as a program) in which the processing contents are described as a procedure can be read by a device (for example, counting devices 100, 101; hereinafter, referred to as an information processing device) including each component. The program recorded on the recording medium may be read by the information processing apparatus and executed. Recording media that can be read by an information processing device include floppy (registered trademark) disks, magneto-optical disks, DVDs (Digital Versailles Disc), CDs (Compact Discs), Blu-ray (registered trademarks) Discs, and USB (Universal Serials). Bus) In addition to a transferable recording medium such as a memory, it refers to a memory such as a ROM (Read Only Memory) and a RAM (Random Access Memory) built in an information processing device, an HDD (Hard Disk Drive), and the like. The program recorded on the recording medium is read by a CPU provided in the information processing device, and the same processing as described above is performed under the control of the CPU. Here, the CPU operates as a computer that executes a program read from a recording medium in which the program is recorded. It should be noted that FPGA (Field Programmable Gate Array) may be used to realize the above-mentioned logic circuit.

100,101 計数装置
110 撮像部
120,121 検出部
130,131 学習モデル
140,141 計数部
150 出力部
161 追跡部
171 距離測定部
200,201 流路
211 底面
221,231 側壁
301 水平面
401 親水性シート
402 フィルタ
501 魚
511 尾鰭
521 検出枠
100, 101 Counting device 110 Imaging unit 120, 121 Detection unit 130, 131 Learning model 140, 141 Counting unit 150 Output unit 161 Tracking unit 171 Distance measuring unit 200, 201 Flow path 211 Bottom surface 221,231 Side wall 301 Horizontal sheet 401 Hydrophilic sheet 402 Filter 501 Fish 511 Caudal fin 521 Detection frame

Claims (16)

個体が移動する流路と、
前記流路を移動する前記個体を撮像可能な位置に設置された撮像部と、
前記撮像部が撮像した画像から、深層学習モデルを用いて、前記個体を検出する検出部と、
前記検出部が検出した前記個体の数をカウントする計数部と、
前記計数部がカウントした数を出力する出力部と
前記検出部が検出した前記個体を追跡する追跡部と、
前記追跡部が追跡した前記個体の移動距離を測定する距離測定部とを有し、
前記計数部は、前記検出部が検出した個体のうち、前記距離測定部が測定した移動距離が所定の距離閾値を超えた前記個体の数をカウントする計数システム。
The flow path in which the individual moves and
An imaging unit installed at a position where the individual moving in the flow path can be imaged,
A detection unit that detects the individual from the image captured by the imaging unit using a deep learning model,
A counting unit that counts the number of the individuals detected by the detection unit,
An output unit for outputting the number of said counting unit has counted,
A tracking unit that tracks the individual detected by the detection unit,
It has a distance measuring unit that measures the moving distance of the individual tracked by the tracking unit.
The counting unit is a counting system that counts the number of individuals detected by the detection unit whose moving distance measured by the distance measuring unit exceeds a predetermined distance threshold value .
請求項に記載の計数システムにおいて、
前記計数部は、前記検出部が検出した前記個体のうち、前記距離測定部が測定した前記移動距離が前記距離閾値を超え、かつ、前記撮像部が撮像した画像範囲内に前記個体が存在する時間が所定の時間を超えた前記個体の数をカウントする計数システム。
In the counting system according to claim 1 ,
In the counting unit, among the individuals detected by the detection unit, the moving distance measured by the distance measuring unit exceeds the distance threshold value, and the individual exists within the image range captured by the imaging unit. A counting system that counts the number of individuals whose time exceeds a predetermined time.
請求項1または請求項2に記載の計数システムにおいて、
前記撮像部と前記流路との間に、親水性処理が施された透明な親水性部材が設けられている計数システム。
In the counting system according to claim 1 or 2 .
A counting system in which a transparent hydrophilic member subjected to hydrophilic treatment is provided between the imaging unit and the flow path.
請求項に記載の計数システムにおいて、
前記撮像部と前記親水性部材との間に、偏光フィルタと減光フィルタとの少なくとも一方が設けられている計数システム。
In the counting system according to claim 3 ,
A counting system in which at least one of a polarizing filter and a dimming filter is provided between the imaging unit and the hydrophilic member.
請求項1からのいずれか1項に記載の計数システムにおいて、
前記流路は、前記流路の底面に沿って前記個体が一方向へ移動するように水平面に対して傾斜して配置されている計数システム。
In the counting system according to any one of claims 1 to 4 ,
A counting system in which the flow path is arranged so as to be inclined with respect to a horizontal plane so that the individual moves in one direction along the bottom surface of the flow path.
請求項に記載の計数システムにおいて、
前記流路は、前記個体が前記底面に触れながら移動可能なサイズである計数システム。
In the counting system according to claim 5 ,
The flow path is a counting system having a size that allows the individual to move while touching the bottom surface.
請求項または請求項に記載の計数システムにおいて、
前記撮像部は、前記流路の上流と下流との中間点よりも下流側の流路を撮像可能な位置に設置された計数システム。
In the counting system according to claim 5 or 6 .
The imaging unit is a counting system installed at a position capable of imaging a flow path on the downstream side of an intermediate point between the upstream and downstream of the flow path.
請求項1からのいずれか1項に記載の計数システムにおいて、
前記個体は魚類である計数システム。
In the counting system according to any one of claims 1 to 7 .
A counting system in which the individual is a fish.
請求項に記載の計数システムにおいて、
前記検出部は、前記魚類の尾鰭を除く部位の画像について、前記深層学習モデルを用いて、前記魚類を検出する計数システム。
In the counting system according to claim 8 ,
The detection unit is a counting system that detects the fish by using the deep learning model for an image of a portion of the fish excluding the caudal fin.
請求項または請求項に記載の計数システムにおいて、
前記個体の対象魚種は、ブリ属に属するものである計数システム。
In the counting system according to claim 8 or 9 .
The target fish species of the individual is a counting system belonging to the genus Amberjack.
流路を移動する個体を撮像可能な位置に設置された撮像部と、
前記撮像部が撮像した画像から、深層学習モデルを用いて、前記個体を検出する検出部と、
前記検出部が検出した前記個体の数をカウントする計数部と、
前記計数部がカウントした数を出力する出力部と、
前記検出部が検出した前記個体を追跡する追跡部と
前記追跡部が追跡した前記個体の移動距離を測定する距離測定部とを有し、
前記計数部は、前記検出部が検出した前記個体のうち、前記距離測定部が測定した前記移動距離が所定の距離閾値を超えた前記個体の数をカウントする計数装置。
An imaging unit installed at a position where an individual moving in the flow path can be imaged,
A detection unit that detects the individual from the image captured by the imaging unit using a deep learning model,
A counting unit that counts the number of the individuals detected by the detection unit,
An output unit that outputs the number counted by the counting unit and
A tracking unit that tracks the individual detected by the detection unit ,
It has a distance measuring unit that measures the moving distance of the individual tracked by the tracking unit.
The counting unit is a counting device that counts the number of the individuals detected by the detecting unit whose moving distance measured by the distance measuring unit exceeds a predetermined distance threshold value .
請求項11に記載の計数装置において、
前記計数部は、前記検出部が検出した前記個体のうち、前記距離測定部が測定した前記移動距離が前記距離閾値を超え、かつ、前記個体が前記撮像部が撮像した画像範囲内に存在する時間が所定の時間を超えた前記個体の数をカウントする計数装置。
In the counting device according to claim 11 ,
Among the individuals detected by the detection unit, the counting unit is such that the moving distance measured by the distance measuring unit exceeds the distance threshold value and the individual is within the image range captured by the imaging unit. A counting device that counts the number of individuals whose time exceeds a predetermined time.
個体が移動する流路を撮像する処理と、
前記撮像した画像から、深層学習モデルを用いて、前記個体を検出する処理と、
前記検出した前記個体の数をカウントするカウント処理と、
前記カウントした数を出力する処理と
前記検出した前記個体を追跡する処理と、
前記追跡した前記個体の移動距離を測定する処理とを行い、
前記カウント処理は、前記検出した前記個体のうち、前記測定した前記移動距離が所定の距離閾値を超えた前記個体の数をカウントする計数方法。
The process of imaging the flow path in which an individual moves, and
A process of detecting the individual from the captured image using a deep learning model, and
The counting process for counting the number of the detected individuals and
And outputting the number obtained by the counting,
The process of tracking the detected individual and
The process of measuring the movement distance of the tracked individual is performed.
The counting process is a counting method for counting the number of the detected individuals whose travel distance exceeds a predetermined distance threshold value .
請求項13に記載の計数方法において、
前記カウント処理は、前記検出した前記個体のうち、前記測定した前記移動距離が前記距離閾値を超え、かつ、前記撮像した画像範囲内に前記個体が存在する時間が所定の時間を超えた前記個体の数をカウントする計数方法。
In the counting method according to claim 13 ,
In the counting process, among the detected individuals, the measured movement distance exceeds the distance threshold value, and the time during which the individual exists in the imaged image range exceeds a predetermined time. A counting method that counts the number of.
コンピュータに、
個体が移動する流路を撮像する手順と、
前記撮像した画像から、深層学習モデルを用いて、前記個体を検出する検出手順と、
前記検出した前記個体の数をカウントするカウント手順と、
前記カウントした数を出力する出力手順と
前記検出手順により検出した前記個体を追跡する追跡手順と、
前記追跡手順により追跡した前記個体の移動距離を測定する測定手順と、
前記カウント手順として、前記検出手順により検出した前記個体のうち、前記測定手順により測定した前記移動距離が所定の距離閾値を超えた前記個体の数をカウントする手順とを実行させるためのプログラム。
On the computer
The procedure for imaging the flow path in which an individual moves, and
A detection procedure for detecting the individual from the captured image using a deep learning model, and
A counting procedure for counting the number of the detected individuals, and
An output procedure for outputting the number obtained by the counting,
A tracking procedure for tracking the individual detected by the detection procedure, and
A measurement procedure for measuring the movement distance of the individual tracked by the tracking procedure, and a measurement procedure.
As the counting procedure, a program for counting the number of the individuals whose movement distance measured by the measurement procedure exceeds a predetermined distance threshold value among the individuals detected by the detection procedure .
請求項15に記載のプログラムにおいて、
前記カウント手順は、前記検出手順により検出した前記個体のうち、前記測定手順により測定した前記移動距離が前記距離閾値を超え、かつ、前記撮像した画像範囲内に前記個体が存在する時間が所定の時間を超えた前記個体の数をカウントするプログラム。
In the program of claim 15 .
In the counting procedure, among the individuals detected by the detection procedure, the time when the moving distance measured by the measuring procedure exceeds the distance threshold value and the individual exists within the captured image range is predetermined. A program that counts the number of individuals over time.
JP2020047940A 2020-03-18 2020-03-18 Counting system, counting device, counting method and program Active JP6818283B1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020047940A JP6818283B1 (en) 2020-03-18 2020-03-18 Counting system, counting device, counting method and program
JP2020171380A JP6876310B1 (en) 2020-03-18 2020-10-09 Counting system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020047940A JP6818283B1 (en) 2020-03-18 2020-03-18 Counting system, counting device, counting method and program

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020171380A Division JP6876310B1 (en) 2020-03-18 2020-10-09 Counting system

Publications (2)

Publication Number Publication Date
JP6818283B1 true JP6818283B1 (en) 2021-01-20
JP2021149430A JP2021149430A (en) 2021-09-27

Family

ID=74164699

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020047940A Active JP6818283B1 (en) 2020-03-18 2020-03-18 Counting system, counting device, counting method and program

Country Status (1)

Country Link
JP (1) JP6818283B1 (en)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10312022A (en) * 1997-05-12 1998-11-24 Nikon Corp Remote controllable camera
JP2002012080A (en) * 2000-06-30 2002-01-15 Auto Network Gijutsu Kenkyusho:Kk Image pickup device for vehicle
JP2004228847A (en) * 2003-01-22 2004-08-12 Hitachi Ltd On-vehicle camera device
JP2010140257A (en) * 2008-12-11 2010-06-24 Canon It Solutions Inc Information processor and information processing method
US20110114029A1 (en) * 2009-11-17 2011-05-19 Chu Chien-Hung Aquatic-animal counting system, aquatic-animal counting method, and recording medium
JP2019153077A (en) * 2018-03-02 2019-09-12 日本電気株式会社 Individual counting device, individual counting method, individual counting program, and individual counting system
JP2019153112A (en) * 2018-03-05 2019-09-12 日本電信電話株式会社 Object tracking device, object tracking method, and computer program
JP2020013206A (en) * 2018-07-13 2020-01-23 日本ユニシス株式会社 Device for detecting two-wheeled vehicle from moving image/camera, program, and system

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2009347318B2 (en) * 2009-06-05 2015-07-16 Osaka N.E.D. Machinery Corporation Individual counter using fluid

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10312022A (en) * 1997-05-12 1998-11-24 Nikon Corp Remote controllable camera
JP2002012080A (en) * 2000-06-30 2002-01-15 Auto Network Gijutsu Kenkyusho:Kk Image pickup device for vehicle
JP2004228847A (en) * 2003-01-22 2004-08-12 Hitachi Ltd On-vehicle camera device
JP2010140257A (en) * 2008-12-11 2010-06-24 Canon It Solutions Inc Information processor and information processing method
US20110114029A1 (en) * 2009-11-17 2011-05-19 Chu Chien-Hung Aquatic-animal counting system, aquatic-animal counting method, and recording medium
JP2019153077A (en) * 2018-03-02 2019-09-12 日本電気株式会社 Individual counting device, individual counting method, individual counting program, and individual counting system
JP2019153112A (en) * 2018-03-05 2019-09-12 日本電信電話株式会社 Object tracking device, object tracking method, and computer program
JP2020013206A (en) * 2018-07-13 2020-01-23 日本ユニシス株式会社 Device for detecting two-wheeled vehicle from moving image/camera, program, and system

Also Published As

Publication number Publication date
JP2021149430A (en) 2021-09-27

Similar Documents

Publication Publication Date Title
Pickup et al. Seeing the arrow of time
Raghavendra et al. Presentation attack detection for face recognition using light field camera
CN108229308A (en) Recongnition of objects method, apparatus, storage medium and electronic equipment
CN108810620A (en) Identify method, computer equipment and the storage medium of the material time point in video
TWI448977B (en) Method and apparatus for video analytics based object counting
US20160133025A1 (en) Method for detecting crowd density, and method and apparatus for detecting interest degree of crowd in target position
JP6148480B2 (en) Image processing apparatus and image processing method
KR101411058B1 (en) Video analytics test system
US20130243343A1 (en) Method and device for people group detection
CN104424466A (en) Object detection method, object detection device and image pickup device
US11189035B2 (en) Retrieval device, retrieval method, and computer program product
CN107491715A (en) A kind of subway carriage passenger flow statistical method, apparatus and system based on video analysis
CN109086734A (en) The method and device that pupil image is positioned in a kind of pair of eye image
TW201541407A (en) Method for generating three-dimensional information from identifying two-dimensional images
JP2011513876A (en) Method and system for characterizing the motion of an object
CN109508576A (en) A kind of abnormal driving behavioral value method, apparatus and electronic equipment
CN106127810B (en) A kind of the recording and broadcasting system image tracking method and device of the light stream of video macro block angle point
CN109460724B (en) Object detection-based separation method and system for ball-stopping event
JP6818283B1 (en) Counting system, counting device, counting method and program
JP6876310B1 (en) Counting system
CN117132768A (en) License plate and face detection and desensitization method and device, electronic equipment and storage medium
Zhou et al. Computational analysis of table tennis matches from real-time videos using deep learning
US11587325B2 (en) System, method and storage medium for detecting people entering and leaving a field
JP2006126508A5 (en)
Ren et al. Real-time 3D soccer ball tracking from multiple cameras

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200324

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200601

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200730

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200811

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201009

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201216

R150 Certificate of patent or registration of utility model

Ref document number: 6818283

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250