WO2021149816A1 - 推定プログラム、推定方法および情報処理装置 - Google Patents

推定プログラム、推定方法および情報処理装置 Download PDF

Info

Publication number
WO2021149816A1
WO2021149816A1 PCT/JP2021/002311 JP2021002311W WO2021149816A1 WO 2021149816 A1 WO2021149816 A1 WO 2021149816A1 JP 2021002311 W JP2021002311 W JP 2021002311W WO 2021149816 A1 WO2021149816 A1 WO 2021149816A1
Authority
WO
WIPO (PCT)
Prior art keywords
information
behavior
model
estimation
fish
Prior art date
Application number
PCT/JP2021/002311
Other languages
English (en)
French (fr)
Inventor
裕子 石若
Original Assignee
ソフトバンク株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソフトバンク株式会社 filed Critical ソフトバンク株式会社
Priority to US17/792,739 priority Critical patent/US20230048582A1/en
Priority to EP21745116.0A priority patent/EP4094576A4/en
Publication of WO2021149816A1 publication Critical patent/WO2021149816A1/ja

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01KANIMAL HUSBANDRY; AVICULTURE; APICULTURE; PISCICULTURE; FISHING; REARING OR BREEDING ANIMALS, NOT OTHERWISE PROVIDED FOR; NEW BREEDS OF ANIMALS
    • A01K61/00Culture of aquatic animals
    • A01K61/90Sorting, grading, counting or marking live aquatic animals, e.g. sex determination
    • A01K61/95Sorting, grading, counting or marking live aquatic animals, e.g. sex determination specially adapted for fish
    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01KANIMAL HUSBANDRY; AVICULTURE; APICULTURE; PISCICULTURE; FISHING; REARING OR BREEDING ANIMALS, NOT OTHERWISE PROVIDED FOR; NEW BREEDS OF ANIMALS
    • A01K61/00Culture of aquatic animals
    • A01K61/90Sorting, grading, counting or marking live aquatic animals, e.g. sex determination
    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01KANIMAL HUSBANDRY; AVICULTURE; APICULTURE; PISCICULTURE; FISHING; REARING OR BREEDING ANIMALS, NOT OTHERWISE PROVIDED FOR; NEW BREEDS OF ANIMALS
    • A01K61/00Culture of aquatic animals
    • A01K61/10Culture of aquatic animals of fish
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/04Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/02Agriculture; Fishing; Forestry; Mining
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A40/00Adaptation technologies in agriculture, forestry, livestock or agroalimentary production
    • Y02A40/80Adaptation technologies in agriculture, forestry, livestock or agroalimentary production in fisheries management
    • Y02A40/81Aquaculture, e.g. of fish

Definitions

  • the present invention relates to an estimation program, an estimation method, and an information processing device.
  • a technique related to image feature extraction by a neural network has been provided.
  • a convolutional neural network provides a technique for identifying an object included in an image.
  • the image information of the object image and the object information data registered in association with the keyword are referred to, and the image information of the object image indicated by the keyword is acquired from the keyword input by the user.
  • a composite image as a search request is automatically generated by estimating the layout using the information of the average size and position of the object image registered in the object information data, and this Perform an image search using a composite image.
  • the above-mentioned conventional technique is a technique specialized in image search in consideration of the content and layout of the object, it is possible to easily classify this specific fish species from the behavior indicated by the specific fish species. Not necessarily.
  • the present application has been made in view of the above, and an object of the present application is to easily classify this specific fish species from the behavior exhibited by the specific fish species.
  • the estimation program includes an acquisition procedure for acquiring behavioral information indicating the behavior of a specific fish species having a predetermined physical abnormality, behavioral information acquired by the acquisition procedure, and the specific fish species. Based on the state information indicating the state of the fish to be processed, the behavioral characteristics of the fish to be processed, which is an estimation procedure for estimating the behavioral characteristics caused by the predetermined physical abnormality of the fish to be processed. Let the computer do it.
  • this specific fish species can be easily classified from the behavior exhibited by the specific fish species.
  • FIG. 1 is a diagram showing an example of a 3D model according to an embodiment.
  • FIG. 2 is a diagram showing an example of collecting learning data based on a fluid simulation.
  • FIG. 3 is a diagram showing an extraction example of extracting a feature amount from a real moving image.
  • FIG. 4 is a diagram showing an overall example of the estimation process according to the embodiment.
  • FIG. 5 is a diagram showing an example of the estimation process according to the embodiment.
  • FIG. 6 is a diagram showing a configuration example of the information processing device according to the embodiment.
  • FIG. 7 is a diagram showing an example of the behavior information storage unit according to the embodiment.
  • FIG. 8 is a diagram showing an example of the classification result storage unit according to the embodiment.
  • FIG. 9 is a flowchart showing an information processing procedure according to the embodiment.
  • FIG. 10 is a hardware configuration diagram showing an example of a computer 1000 that realizes the functions of the information processing device 100.
  • the embodiment a mode for implementing the estimation program, the estimation method, and the information processing apparatus according to the present application (hereinafter referred to as “the embodiment”) will be described in detail with reference to the drawings. Note that this embodiment does not limit the estimation program, estimation method, and information processing apparatus according to the present application. Further, in each of the following embodiments, the same parts are designated by the same reference numerals, and duplicate description is omitted.
  • sturgeon takes 7 years to lay eggs, then lays eggs only once every 3 years, and fry are easily wiped out due to environmental changes such as overfeeding, rising water temperature, and stopping water supply for one day. It ends up.
  • sturgeon grows as long as it is alive, and among female sturgeons, especially those that lay eggs are 3 meters or more, and the food cost is high.
  • a butterfly shark having a physical abnormality behaves characteristically according to the physical abnormality as compared with the behavior of a butterfly shark having no physical abnormality.
  • a sturgeon with a physical abnormality is considered to swim according to the physical abnormality.
  • the estimation process according to the embodiment analyzes the behavior of sturgeon having a physical abnormality based on the above problems, and classifies the sturgeon whose behavioral characteristics and gender are unknown by behavior and gender. It is information processing made by focusing on the possibility of being able to do.
  • the estimation process according to the embodiment acquires behavioral information indicating the behavior of a specific fish species (chow shark) having a predetermined physical abnormality, and among the acquired behavioral information and the specific fish species, Based on the state information indicating the state of the fish to be processed, the behavioral characteristics of the fish to be processed, which are the behavioral characteristics caused by a predetermined physical abnormality of the fish to be processed, are estimated.
  • the estimation process according to the embodiment is a state in which behavior information indicating the behavior of a specific fish species (sturgeon) having a predetermined physical abnormality and a moving image of the behavior of the specific fish species are shown. Based on the information, the behavioral characteristics of the fish to be processed are estimated.
  • the estimation process identifies the predetermined physical abnormality and the predetermined physical abnormality based on the behavioral information corresponding to the specific fish species having the predetermined physical abnormality.
  • a model is generated in which the relationship with the behavior of the fish species is learned, and the behavioral characteristics caused by a predetermined physical abnormality are estimated based on the generated model and the state information.
  • the model since the model is a model for estimating behavioral characteristics, the model may be referred to as an "estimation model" below.
  • the estimation program according to the embodiment is a program for causing a computer to execute the estimation process according to the above-described embodiment.
  • the estimation program according to the embodiment includes an acquisition procedure for acquiring behavioral information indicating the behavior of a specific fish species having a predetermined physical abnormality, behavioral information acquired by the acquisition procedure, and a specific fish.
  • An estimation procedure for estimating behavioral characteristics of the fish to be processed which are behavioral characteristics caused by a predetermined physical abnormality of the fish to be processed, based on the state information indicating the condition of the fish to be processed among the species. Is a program to make a computer execute.
  • the information processing device 100 is taken as an example of such a computer. That is, the information processing apparatus 100 acquires behavioral information indicating the behavior of a specific fish species having a predetermined physical abnormality according to the control of the estimation program according to the embodiment, and among the acquired behavioral information and the specific fish species. Based on the state information indicating the state of the fish to be processed, the behavioral characteristics of the fish to be processed, which are caused by a predetermined physical abnormality of the fish to be processed, are estimated. In other words, the information processing apparatus 100 acquires the behavior information indicating the behavior of a specific fish species having a predetermined physical abnormality by executing the estimation program according to the embodiment, and the acquisition unit. Based on the behavioral information and the state information indicating the state of the fish to be processed among the specific fish species, the behavioral characteristics of the fish to be processed and the predetermined physical abnormality possessed by the fish to be processed It will have an estimation unit that estimates the resulting behavioral characteristics.
  • the information processing device 100 is realized by a server device, a cloud system, or the like.
  • the computer on which the estimation program is executed may be, for example, an information processing terminal used by a user (for example, a farmer) who wants to analyze the behavior of the fish species to be processed, and such information.
  • the processing terminal include a smartphone, a tablet terminal, a notebook PC (Personal Computer), a desktop PC, a mobile phone, a PDA (Personal Digital Assistant), and the like.
  • the specific fish species is sturgeon. Therefore, in the present embodiment, the fish to be treated among the specific fish species refers to one sturgeon that has been the subject of behavioral analysis among the sturgeons bred in the cage for aquaculture. do.
  • the specific fish species does not necessarily have to be limited to sturgeon.
  • a specific fish species may be any fish species (for example, salmon) that is desired to be behaviorally analyzed for effective aquaculture, or any fish species for which aquaculture methods have not been established. May be good.
  • the estimation process according to the embodiment generates and generates a model in which the relationship between the predetermined physical abnormality and the behavior indicated by the behavior information corresponding to the butterfly shark having the predetermined physical abnormality is learned.
  • the behavioral characteristics caused by a predetermined physical abnormality are estimated based on the model and the state information. For this reason, machine learning to generate a model with high estimation accuracy requires a combination (learning data set) with learning data such as physical abnormalities and behavioral information indicating the behavior of butterfly sharks having the physical abnormalities.
  • learning data set with learning data such as physical abnormalities and behavioral information indicating the behavior of butterfly sharks having the physical abnormalities.
  • FIG. 1 is a diagram showing an example of a 3D model according to an embodiment. It is assumed that the work of generating the 3D model is performed by the terminal device 10 (not shown) according to the operation of the user U who wants to analyze the behavior of the sturgeon.
  • the musculoskeletal MS1 shown in FIG. 1 is an actual musculoskeletal model obtained by dissecting a sturgeon and analyzing the skeleton and how muscles are attached to the skeleton.
  • the terminal device 10 generates a 3D model that reproduces the fish body of the sturgeon based on the information indicating the musculoskeletal MS1 (step S11).
  • FIG. 1 shows an example in which a 3D model MD1 is generated from the musculoskeletal MS1 as a 3D model that reproduces a sturgeon fish body.
  • the terminal device 10 further generates a 3D model of the sturgeon (that is, a mutant) having a predetermined state abnormality based on the 3D model MD1 (step S12). For example, the terminal device 10 generates a 3D model of each mutant individually reflecting each of the predetermined physical abnormalities based on the 3D model MD1.
  • the user U has chest fin abnormality (for example, the chest fin is bent), back fin abnormality (for example, the back fin is bent), and tail fin abnormality (for example, the tail fin abnormality) as physical abnormalities.
  • chest fin abnormality for example, the chest fin is bent
  • back fin abnormality for example, the back fin is bent
  • tail fin abnormality for example, the tail fin abnormality
  • contour variation for example, the contour of the head is mutated compared to normal individuals.
  • the terminal device 10 is a variant model MD11 which is a 3D model in which only the chest fin abnormality is reflected, and a variation which is a 3D model in which only the back fin abnormality is reflected according to the operation of the user U.
  • the body model MD12, the mutant model MD13 which is a 3D model reflecting only the tail fin abnormality, and the mutant model MD14 which is a 3D model reflecting only the contour variation are generated.
  • the physical abnormalities that sturgeon may have are not limited to these four physical abnormalities, so what kind of physical abnormalities are reflected and how many 3D models are generated. May be optional.
  • a 3D model of each mutant in which each physical abnormality is individually reflected is generated.
  • a plurality of physical abnormalities may occur.
  • One 3D model that is combined and reflected may be generated.
  • a 3D model of an individual with chest fin abnormalities and back fin abnormalities may be generated.
  • FIG. 2 is a diagram showing an example of collecting learning data based on a fluid simulation. It is assumed that the fluid simulation and the collection of learning data by the fluid simulation are continuously performed by the terminal device 10 (not shown) according to the operation of the user U. The terminal device 10 executes a fluid simulation for each variant model corresponding to each physical abnormality, and virtually analyzes the behavior performed by the butterfly shark having the physical abnormality based on the simulation result. Then, the terminal device 10 collects behavioral information indicating the behavior performed by the sturgeon based on the analysis result. For example, the terminal device 10 executes a fluid simulation for the mutant model in a moving image in which each mutant model is operated.
  • the moving image MDVD11 shown in FIG. 2 is a moving image in which the mutant model MD11 is operated. Therefore, the terminal device 10 executes a fluid simulation for the mutant model MD11 in the moving image MDVD11 in which the mutant model MD11 is operated. Then, the terminal device 10 collects swimming method data (an example of behavioral information) which is information on swimming of a butterfly shark having a chest fin abnormality based on the simulation result by this fluid simulation.
  • the swimming method data includes information indicating a normal swimming method, information indicating a swimming method when eating food, information indicating a movement locus of swimming and moving, and the like.
  • the moving image MDVD12 shown in FIG. 2 is a moving image in which the mutant model MD12 is operated. Therefore, the terminal device 10 executes a fluid simulation for the mutant model MD12 in the moving image MDVD12 in which the mutant model MD12 is operated. Then, the terminal device 10 collects swimming method data (an example of behavioral information) which is information on swimming of a sturgeon having a dorsal fin abnormality based on the simulation result by this fluid simulation.
  • the swimming method data includes information indicating a normal swimming method, information indicating a swimming method when eating food, information indicating a movement locus of swimming and moving, and the like.
  • the moving image MDVD13 shown in FIG. 2 is a moving image in which the mutant model MD13 is operated. Therefore, the terminal device 10 executes a fluid simulation for the mutant model MD13 in the moving image MDVD13 in which the mutant model MD13 is operated. Then, the terminal device 10 collects swimming method data (an example of behavioral information) which is information on swimming of a butterfly shark having a tail fin abnormality based on the simulation result by this fluid simulation.
  • the swimming method data includes information indicating a normal swimming method, information indicating a swimming method when eating food, information indicating a movement locus of swimming and moving, and the like.
  • the moving image MDVD14 shown in FIG. 2 is a moving image in which the mutant model MD14 is operated. Therefore, the terminal device 10 executes a fluid simulation for the mutant model MD14 in the moving image MDVD14 in which the mutant model MD14 is operated. Then, the terminal device 10 collects swimming method data (an example of behavioral information) which is information on swimming of a sturgeon having a contour variation based on the simulation result by this fluid simulation.
  • the swimming method data includes information indicating a normal swimming method, information indicating a swimming method when eating food, information indicating a movement locus of swimming and moving, and the like.
  • the terminal device 10 transmits the collected swimming method data to the information processing device 100 according to the embodiment according to the operation of the user U.
  • the information processing device 100 receives the swimming method data from the terminal device 10, the information processing device 100 stores the received swimming method data in the action information storage unit 121.
  • the information processing apparatus 100 stores swimming method data obtained from a fluid simulation for the variant model for each variant model corresponding to each physical abnormality.
  • FIG. 7 is used to show an example of the behavior information storage unit 121 according to the embodiment.
  • the behavior information storage unit 121 displays items such as "variant ID”, "physical information (physical abnormality)", “moving image”, “simulation result”, and “behavior information (swimming data)". Have.
  • “Mutant ID” indicates identification information that identifies the mutant model.
  • the mutant model identified by the mutant ID “MD11” corresponds to the mutant model MD11.
  • “Physical information (physical abnormality)” is information indicating a physical abnormality targeted by a mutant model identified by "variant ID”.
  • the mutant model MD11 is a 3D model that reflects abnormal chest fins. Therefore, the physical abnormality targeted by the mutant model identified by the mutant ID "MD11” is "chest fin abnormality”.
  • the "moving image” indicates a moving image when the mutant model identified by the "mutant ID” is operated.
  • the moving image MDVD11 is a moving image in which the mutant model MD11 is operated.
  • the "simulation result” shows the result of a fluid simulation for the mutant model in a moving image in which the mutant model identified by the "mutant ID” is operated.
  • the simulation result SMRE11 shows the result of the fluid simulation for the mutant model MD11 in the moving image MDVD11 in which the mutant model MD11 is operated.
  • Behavioral information indicates behavioral information indicating a virtual swim of a sturgeon having a physical abnormality targeted by a mutant model identified by a "variant ID”.
  • the behavior information "STDA11” is the behavior analyzed based on the simulation result SMRE11, and is information indicating the behavior of a butterfly shark having a physical abnormality "chest fin abnormality”.
  • the "behavioral information” includes information indicating a normal swimming method, information indicating a swimming method when eating food, information indicating a movement locus of swimming and moving, and the like as method data.
  • "physical information” and “behavioral information” are learning data used in machine learning for generating an estimation model, and each combination of “physical information” and “behavioral information” is a learning data set. ..
  • the terminal device 10 may collect swimming method data from an actual moving image of the sturgeon.
  • the terminal device 10 may collect swimming method data from a moving image in which a sturgeon behaves in water.
  • the terminal device 10 may collect swimming method data from a moving image of a sturgeon whose gender is known to behave.
  • the terminal device 10 collects swimming method data from a moving image in which a female sturgeon behaves.
  • the information processing apparatus 100 enhances the learning result (feature amount) by machine learning for the swimming method data obtained from the actual moving image of the butterfly shark in order to generate an estimation model for estimating the sex of the butterfly shark. It may be used for learning. Therefore, with reference to FIG. 3, an example will be described in which the information processing apparatus 100 extracts the feature amount of the sturgeon from the swimming method data collected from the moving image of the sturgeon's behavior.
  • FIG. 3 is a diagram showing an extraction example of extracting a feature amount from a real moving image.
  • the information processing device 100 extracts the feature amount of the sturgeon from the swimming method data collected from the moving image of the behavior of the female sturgeon. Therefore, first, the information processing apparatus 100 acquires a moving image in which a female sturgeon behaves (step S21). For example, the information processing device 100 has a moving image from a possession destination (for example, a terminal device 10 or a predetermined server device different from the information processing device 100) in which a moving image of a female sturgeon's behavior is captured. To get. In the example of FIG. 3, the information processing apparatus 100 acquires a moving image WVD as a moving image in which a female sturgeon behaves.
  • a possession destination for example, a terminal device 10 or a predetermined server device different from the information processing device 100
  • the information processing apparatus 100 has a feature amount (physical feature amount) indicating physical characteristics indicating what kind of physical abnormality the female butterfly shark has based on the moving image WVD, and a female.
  • a feature amount (behavioral feature amount) indicating what kind of swimming characteristics the butterfly shark has is extracted (step S22). For example, the information processing device 100 extracts these features by machine learning.
  • the information processing device 100 stores the extracted feature amount in the individual information storage unit 122 (step S23).
  • the individual information storage unit 122 stores the "feature type” and the “feature amount” in association with each other.
  • the "feature type” includes a "physical feature amount” and a "behavioral feature amount”.
  • an example in which "BFV1", “BFV2", and "BFV3" are extracted as physical feature quantities is shown.
  • the physical features are indicated by conceptual symbols, but the female butterfly shark has "the shape of the chest fin is XX" or "the back fin is bent to the left".
  • the “feature amount” indicating such a feature is stored in association with the feature type "physical feature amount”.
  • the behavioral features are indicated by conceptual symbols, but if the female sturgeon has a characteristic that "it tends to swim at a lower position than the male sturgeon", this is the case.
  • a “feature amount” indicating such a feature is stored in association with a feature type "behavioral feature amount”.
  • FIG. 4 is a diagram showing an overall example of the estimation process according to the embodiment.
  • the information processing device 100 acquires a combination of physical information indicating a physical abnormality and behavior information (swimming method data) indicating the behavior of a butterfly shark as a learning data set from the behavior information storage unit 121 (step S31).
  • the information processing apparatus 100 uses one learning data set (“learning”) as a set of physical information indicating “chest fin abnormality” as a physical abnormality and behavioral information indicating swimming such as “STDA11”.
  • Data set LS1 Data set LS1 ”).
  • the information processing apparatus 100 uses a learning data set (1 learning data set) as a set of physical information indicating "back fin abnormality” as a physical abnormality and behavioral information indicating swimming such as “STDA12". It is acquired as "learning data set LS2"). Further, in the example of FIG. 4, the information processing apparatus 100 uses one learning data set (“STDA13”, which is a set of physical information indicating “tail fin abnormality” as a physical abnormality and behavioral information indicating swimming such as “STDA13”. It is acquired as a training data set LS3 ”). Further, in the example of FIG.
  • the information processing apparatus 100 uses one learning data set (“STDA14”, which is a set of physical information indicating “contour abnormality” as a physical abnormality and behavioral information indicating swimming such as “STDA14”. It is acquired as a training data set LS4 ”).
  • STDA14 is a set of physical information indicating “contour abnormality” as a physical abnormality and behavioral information indicating swimming such as “STDA14”. It is acquired as a training data set LS4 ”).
  • the information processing apparatus 100 is based on the behavior information (behavior information included in the learning data) of a butterfly shark having a physical abnormality indicated by the physical information included in the learning data for each learning data set. , Generate a model in which the relationship between the physical abnormality and the swimming (behavior) of the butterfly shark having the physical abnormality is learned (step S32).
  • the information processing apparatus 100 generates an estimated model in which an individual having a chest fin abnormality is learned how to swim based on the learning data set LS1.
  • the information processing apparatus 100 generates an estimation model based on the calculated feature amount by calculating the feature amount indicating the swimming characteristics of an individual having a chest fin abnormality based on the learning data set LS1. do.
  • the information processing device 100 is state information showing the behavior of the sturgeon in a moving image taken, and the state information indicating the state of the sturgeon to be processed (for example, the state of contour and the state of swimming) is provided.
  • the estimation model is trained to output information about physical abnormalities targeting the sturgeon to be processed.
  • the information processing apparatus 100 learns an estimation model so as to output information indicating whether or not the sturgeon to be processed has a chest fin abnormality when state information indicating the state of the sturgeon to be processed is input. do.
  • the information processing apparatus 100 generates the estimation model MDL 11 as such an estimation model.
  • the feature amount (swimming tendency) targeted by the estimation model MDL11 is conceptually "FV11".
  • the information processing apparatus 100 generates an estimated model in which an individual having a dorsal fin abnormality is learned how to swim based on the learning data set LS2.
  • the information processing apparatus 100 generates an estimation model based on the calculated feature amount by calculating the feature amount indicating the swimming characteristics of an individual having a dorsal fin abnormality based on the learning data set LS2. do.
  • the information processing device 100 is state information showing the behavior of the sturgeon in a moving image taken, and the state information indicating the state of the sturgeon to be processed (for example, the state of contour and the state of swimming) is provided.
  • the estimation model is trained to output information about physical abnormalities targeting the sturgeon to be processed.
  • the information processing apparatus 100 learns an estimation model so as to output information indicating whether or not the sturgeon to be processed has a back fin abnormality when state information indicating the state of the sturgeon to be processed is input. do.
  • the information processing apparatus 100 has generated the estimation model MDL12 as such an estimation model.
  • the feature amount (swimming tendency) targeted by the estimation model MDL12 is conceptually "FV12".
  • the information processing apparatus 100 generates an estimated model learned how an individual having a tail fin abnormality tends to swim based on the learning data set LS3.
  • the information processing apparatus 100 generates an estimation model based on the calculated feature amount by calculating the feature amount indicating the swimming characteristic of the individual having the tail fin abnormality based on the learning data set LS3. ..
  • the information processing device 100 is state information showing the behavior of the sturgeon in a moving image taken, and the state information indicating the state of the sturgeon to be processed (for example, the state of contour and the state of swimming) is provided.
  • the estimation model is trained to output information about physical abnormalities targeting the sturgeon to be processed.
  • the information processing apparatus 100 learns an estimation model so as to output information indicating whether or not the sturgeon to be processed has a tail fin abnormality when state information indicating the state of the sturgeon to be processed is input. ..
  • the information processing apparatus 100 generates the estimation model MDL 13 as such an estimation model.
  • the feature amount (swimming tendency) targeted by the estimation model MDL13 is conceptually "FV13".
  • the information processing apparatus 100 generates an estimated model learned how an individual having a contour variation tends to swim based on the learning data set LS4.
  • the information processing apparatus 100 generates an estimation model based on the calculated feature amount by calculating the feature amount indicating the swimming characteristic of the individual having the contour variation based on the learning data set LS4. ..
  • the information processing device 100 is state information showing the behavior of the sturgeon in a moving image taken, and the state information indicating the state of the sturgeon to be processed (for example, the state of contour and the state of swimming) is provided.
  • the estimation model is trained to output information about physical abnormalities targeting the sturgeon to be processed.
  • the information processing apparatus 100 learns an estimation model so as to output information indicating whether or not the sturgeon to be processed has a contour variation when state information indicating the state of the sturgeon to be processed is input. ..
  • the information processing apparatus 100 generates the estimation model MDL 14 as such an estimation model.
  • the feature amount (swimming tendency) targeted by the estimation model MDL13 is conceptually "FV14".
  • the information processing apparatus 100 is behavior information collected by fluid simulation for a 3D model reflecting the physical abnormality, and models the behavior information indicating the behavior of the butterfly shark having the physical abnormality as learning data. To learn. As a result, the information processing apparatus 100 can learn from a large amount of behavioral information that cannot be obtained only by observing the actual movement of the sturgeon, so that a learning model with high estimation accuracy can be generated. Further, in FIG. 2, it was explained that behavioral information (swimming data) may be collected from an actual moving image of a sturgeon. Therefore, the information processing apparatus 100 may perform learning as learning data by multiplying the behavior information collected by the fluid simulation and the behavior information collected from the actual moving image of the butterfly shark.
  • the information processing device 100 stores the information regarding the generated estimated model in the model information storage unit 123 (step S33).
  • the model information storage unit 123 has items such as "variant ID”, "physical information (physical abnormality)", “model information”, and "feature amount”.
  • “Mutant ID” indicates identification information that identifies the mutant model.
  • “Physical information (physical abnormality)” is information indicating a physical abnormality targeted by a mutant model identified by “variant ID”.
  • “Model information” indicates an estimation model generated by the information processing apparatus 100.
  • the "feature amount” indicates the feature amount (swimming tendency) that is the target of the estimated model indicated by the “model information”. That is, the model information storage unit 123 shown in FIG. 4 uses the behavioral information collected by the fluid simulation for the mutant model MD11 reflecting the physical abnormality “chest fin abnormality” as learning data, and the swimming indicated by the behavioral information. , An example is shown in which an estimated model MDL11 whose relationship with chest fin abnormality was learned was generated. Further, the model information storage unit 123 shown in FIG. 4 shows an example in which the feature amount (swimming tendency) targeted by the estimation model MDL 11 is “FV11”.
  • the information processing apparatus 100 was extracted based on the similarity between the behavior of the butterfly shark, the behavior related to the predetermined physical abnormality, and the behavior of the butterfly shark (female butterfly shark) whose sex is known.
  • An estimation model is generated in which the relationship between the behavioral information indicating the behavior and the predetermined physical abnormality is learned.
  • the information processing apparatus 100 was obtained from the fluid simulation by mapping the feature amount corresponding to the female butterfly shark and the feature amount which is the learning result using the behavior information collected from the fluid simulation. From the behavior information, the behavior information corresponding to the female butterfly shark is extracted (step S34).
  • the feature amount corresponding to the female sturgeon is the feature amount stored in the individual information storage unit 122.
  • the feature amount which is a learning result using the behavior information collected from the fluid simulation is a feature amount stored in the model information storage unit 123. Therefore, in the example of FIG. 4, the information processing apparatus 100 uses mapping based on the similarity (commonality) between the feature amount stored in the individual information storage unit 122 and the feature amount stored in the model information storage unit 123. , From the behavioral information (behavioral information stored in the behavioral information) obtained from the fluid simulation, the behavioral information corresponding to the female butterfly shark is extracted.
  • the information processing device 100 has input state information indicating the state of the butterfly shark to be processed based on the relationship between the swimming indicated by the extracted behavior information and the physical abnormality corresponding to the extracted behavior information.
  • the model is trained so that more information about the sex of the butterfly shark to be processed is output (step S35).
  • the information processing device 100 refers to each model stored in the model information storage unit 123 based on the relationship between the swimming indicated by the extracted behavior information and the physical abnormality corresponding to the extracted behavior information. Enhanced learning is performed so that more information on the sex of the butterfly shark to be processed is output.
  • the estimation model MDL11 after reinforcement learning by such learning includes information indicating whether or not the sturgeon to be processed has a chest fin abnormality when the state information indicating the state of the sturgeon to be processed is input. , Information indicating whether or not the sturgeon to be processed is a female is output.
  • the estimation model MDL12 after reinforcement learning includes information indicating whether or not the sturgeon to be processed has a dorsal fin abnormality when state information indicating the state of the sturgeon to be processed is input, and the sturgeon to be processed. Will output information indicating whether or not is a female.
  • the sturgeon to be processed when the state information indicating the state of the sturgeon to be processed is input, the sturgeon to be processed is subjected to the information indicating whether or not the sturgeon to be processed has a tail fin abnormality. Information indicating whether or not it is a female will be output. Further, in the estimation model MDL11 after reinforcement learning, when the state information indicating the state of the sturgeon to be processed is input, the sturgeon to be processed is subjected to the information indicating whether or not the sturgeon to be processed has a contour mutation. Information indicating whether or not it is a female will be output.
  • FIG. 5 is a diagram showing an example of the estimation process according to the embodiment.
  • the information processing device 100 is a behavioral feature of the sturgeon to be processed based on the behavior information indicating the behavior of the sturgeon and the state information indicating the state of the sturgeon to be processed, and is a physical abnormality possessed by the sturgeon to be processed. Estimate the behavioral characteristics caused by. For example, the information processing apparatus 100 uses the estimation model in which the relationship between the physical abnormality and the behavior of the butterfly shark having the physical abnormality is learned, and the state information of the butterfly shark to be processed, based on the state information of the butterfly shark to be processed. Estimate the behavioral characteristics caused by the physical abnormalities of the child.
  • the information processing apparatus 100 estimates the behavioral characteristics of the sturgeon to be processed based on the estimation model and the state information shown in the moving image of the sturgeon to be processed. More specifically, the information processing apparatus 100 inputs state information shown by a moving image of the behavior of the sturgeon to be processed into each estimation model, and processes the sturgeon based on the information output from the estimation model. Estimate the behavioral characteristics of the target sturgeon and the sex of the target sturgeon.
  • the information processing apparatus 100 is given a moving image SVD which is a moving image of the behavior of the sturgeon FS1 as the sturgeon to be processed. And gender shall be estimated.
  • the information processing apparatus 100 extracts the state information of the sturgeon FS1 from the moving image SVD, and inputs the extracted state information into each estimation model (step S41).
  • the information processing apparatus 100 uses moving images for each of the estimation model MDL11 after reinforcement learning, the estimation model MDL12 after reinforcement learning, the estimation model MDL13 after reinforcement learning, and the estimation model MDL14 after reinforcement learning.
  • the state information of the butterfly shark FS1 extracted from the image SVD is input.
  • the estimation model MDL11 after reinforcement learning responds to the input in step S41, and the butterfly shark FS1 outputs "information on physical abnormality; no chest fin abnormality, information on gender; female".
  • Information # 11 is output.
  • the sturgeon FS1 outputs "information on physical abnormality; information on back fin abnormality, information on gender; female” in response to the input in step S41.
  • Information # 12 is output.
  • the sturgeon FS1 indicates "information on physical abnormality; no tail fin abnormality, information on gender; female” in response to the input in step S41.
  • Outputs # 13 Further, in the example of FIG. 5, in the estimation model MDL14 after reinforcement learning, the sturgeon FS1 indicates "information on physical abnormality; no contour variation, information on gender; female” in response to the input in step S41. Outputs # 14.
  • the information processing apparatus 100 estimates the behavioral characteristics of the sturgeon FS1 based on each output information and the behavioral characteristics caused by the physical abnormality of the sturgeon FS1 (step S42).
  • the information processing device 100 also estimates the gender of the sturgeon FS1 based on each output information. According to each output information (output information # 1, # 2, # 3, # 4) shown in FIG. 5, it can be seen that the sturgeon FS1 has a dorsal fin abnormality as a physical abnormality. Further, according to the model information storage unit 123, the estimation model corresponding to the physical abnormality "back fin abnormality" is the estimation model MDL12.
  • the estimated model MDL12 is a model in which the relationship between the physical abnormality "back fin abnormality” and the swimming (behavior) of a butterfly shark having the physical abnormality "back fin abnormality” is learned. Further, according to the model information storage unit 123, the feature amount (swimming tendency) targeted by the estimated model MDL12 is “FV12”.
  • the information processing apparatus 100 presumes that the sturgeon FS1 has "back fin abnormality” and therefore has swimming characteristics (an example of behavioral characteristics) as indicated by "FV12". .. Further, the information processing apparatus 100 estimates that the sex of the sturgeon FS1 is "female".
  • the information processing apparatus 100 classifies the sturgeon FS1 by behavior and gender based on the estimation result in step S42 (step S43). For example, the information processing apparatus 100 assigns the sturgeon FS1 to the action group corresponding to the "FV12" and the sturgeon FS1 to the group of the gender "female" in the classification result storage unit 124. Classify by behavior and gender.
  • FIG. 5 shows an example in which the information processing apparatus 100 estimates the gender of the sturgeon to be processed based on the output information output from the estimation model after reinforcement learning.
  • the information processing apparatus 100 may estimate the sex of the sturgeon based on the output information of the estimation model before reinforcement learning (the estimation model generated in step S32 of FIG. 4).
  • the information processing apparatus 100 Even when the estimation model before reinforcement learning is used, the information processing apparatus 100 has a swimming characteristic (an example of behavioral characteristic) as shown by "FV12" because the sturgeon FS1 has "back fin abnormality". ) Is presumed to exist. Therefore, in such an example, the information processing apparatus 100 estimates the gender of the sturgeon FS1 based on the swimming characteristics as indicated by "FV12". For example, “FV12" indicates "a tendency to swim low in water”. In addition, weight gain due to having eggs is considered to be the cause of "swimming low in water", and as a result, it can be estimated that the sturgeon "swimming low in water” is a female.
  • a swimming characteristic an example of behavioral characteristic
  • the information processing device 100 estimates the gender of the sturgeon FS1 based on the cause of the sturgeon FS1 behaving as indicated by "FV12". In such an example, the information processing apparatus 100 estimates that the sex of the sturgeon FS1 is "female".
  • the information processing device 100 takes the behavioral characteristics of the butterfly shark to be processed, and the behavioral characteristics of the butterfly shark to be processed take the behavior indicated by the behavioral characteristics based on the behavioral characteristics caused by the physical abnormality of the fish to be processed.
  • the cause may be further estimated.
  • FV12 indicates “swim while going around the water”.
  • oxygen deficiency is the cause of "swimming around the water”
  • the information processing device 100 causes the sturgeon FS1 to behave as indicated by "FV12". Estimate "oxygen deficiency”.
  • the information processing apparatus 100 acquires the behavior information indicating the behavior of the butterfly shark having a predetermined physical abnormality according to the estimation program according to the embodiment, and the acquired behavior information and the behavior information of the butterfly shark Among them, the behavioral characteristics of the fish to be treated, which are the behavioral characteristics caused by a predetermined physical abnormality of the fish to be treated, are estimated based on the state information indicating the state of the butterfly shark to be treated. In addition, the information processing device 100 estimates the sex of the sturgeon to be processed based on the acquired behavior information.
  • the information processing apparatus 100 uses behavioral information obtained from simulation results for a 3D model of a butterfly shark that reflects a predetermined physical abnormality according to an estimation program according to an embodiment, and a female butterfly shark. Based on the behavioral information of the above, an estimation model is generated in which the relationship between a predetermined physical abnormality and the behavior of a butterfly shark having the predetermined physical abnormality is learned. For example, when the state information of the sturgeon to be processed is input, the information processing apparatus 100 is an estimation model that outputs information on physical abnormalities in the sturgeon to be processed and information on the sex of the sturgeon to be processed. To learn.
  • the information processing device 100 can easily classify sturgeon by action group or gender. Further, as a result of such classification, the information processing apparatus 100 can give an index regarding the health condition of the sturgeon. Therefore, for example, the user should be made to take early measures to prevent the sturgeon from dying. Can be done. In addition, the information processing device 100 can contribute to reducing the labor (labor required for gender determination) when the user separates only the female sturgeon and the cost required for aquaculture (breeding).
  • FIG. 6 is a diagram showing a configuration example of the information processing device 100 according to the embodiment.
  • the information processing device 100 includes a communication unit 110, a storage unit 120, and a control unit 130.
  • the communication unit 110 is realized by, for example, a NIC (Network Interface Card) or the like. Then, the communication unit 110 is connected to the network N by wire or wirelessly, and transmits / receives information to / from, for example, the terminal device 10.
  • NIC Network Interface Card
  • the storage unit 120 is realized by, for example, a semiconductor memory element such as a RAM (Random Access Memory) or a flash memory, or a storage device such as a hard disk or an optical disk.
  • the storage unit 120 includes an action information storage unit 121, an individual information storage unit 122, a model information storage unit 123, and a classification result storage unit 124. Since the behavior information storage unit 121, the individual information storage unit 122, and the model information storage unit 123 have already been explained, detailed description thereof will be omitted below.
  • the classification result storage unit 124 stores the classification result in which the sturgeon to be processed is classified by behavior and gender.
  • FIG. 8 shows an example of the classification result storage unit 124 according to the embodiment.
  • the classification result storage unit 124 has items such as “gender” and “behavior group”.
  • “gender” includes items such as “male” and “female”.
  • the “behavior group” includes items indicating a feature amount (swimming tendency) such as “FV11”, “FV12”, and “FV13”.
  • control unit 130 uses a CPU (Central Processing Unit), an MPU (Micro Processing Unit), or the like to store various programs (for example, an estimation program according to an embodiment) stored in a storage device inside the information processing device 100. ) Is realized by executing RAM as a work area. Further, the control unit 130 is realized by, for example, an integrated circuit such as an ASIC (Application Specific Integrated Circuit) or an FPGA (Field Programmable Gate Array).
  • ASIC Application Specific Integrated Circuit
  • FPGA Field Programmable Gate Array
  • the control unit 130 includes a reception unit 131, an acquisition unit 132, a generation unit 133, an estimation unit 134, and a classification unit 135, and functions and operations of information processing described below. To realize or execute.
  • the internal configuration of the control unit 130 is not limited to the configuration shown in FIG. 6, and may be another configuration as long as it is a configuration for performing information processing described later.
  • the connection relationship of each processing unit included in the control unit 130 is not limited to the connection relationship shown in FIG. 6, and may be another connection relationship.
  • the reception unit 131 receives (acquires) various types of information.
  • the reception unit 131 receives behavior information based on a fluid simulation for a three-dimensional model, which virtually indicates the behavior performed by a specific fish species having a physical abnormality.
  • the reception unit 131 has swimming method data (an example of behavioral information) that is information on swimming of a butterfly shark having an abnormal chest fin, and swimming method data (an example of behavioral information) that is information on swimming of a butterfly shark having an abnormal back fin.
  • swimming method data an example of behavioral information
  • swimming method data an example of behavioral information that is information on swimming of a butterfly shark with tail fin abnormality
  • swimming method data an example of behavioral information
  • the acquisition unit 132 acquires behavioral information indicating the behavior of a specific fish species having a predetermined physical abnormality.
  • the acquisition unit 132 acquires behavioral information obtained from a moving image showing a behavioral mode of a specific fish species as behavioral information.
  • the acquisition unit 132 is a three-dimensional model in which the fish body of a specific fish species is reproduced as a moving image according to the actual musculoskeletal structure of the specific fish species, and a predetermined physical abnormality is reflected in 3
  • the behavior information obtained from the moving image showing the behavior mode when the dimensional model is operated is acquired.
  • the acquisition unit 132 acquires the behavior information obtained from each moving image showing the behavior mode when each three-dimensional model in which a predetermined physical abnormality is individually reflected is operated as the behavior information. More specifically, the acquisition unit 132 acquires the behavior information based on the fluid simulation for the three-dimensional model on the moving image in which the three-dimensional model is operated as the behavior information.
  • the acquisition unit 132 may acquire behavior information obtained from a moving image in which a specific fish species behaves in water as a moving image.
  • the acquisition unit 132 may acquire behavior information obtained from a moving image in which a fish of a specific sex is known to behave as a moving image.
  • the acquisition unit 132 determines that it is time for the model generation process to be performed by the generation unit 133, the acquisition unit 132 acquires the above-mentioned action information from the action information storage unit 121.
  • the generation unit 133 has a relationship between the predetermined physical abnormality and the behavior of the specific fish species having the predetermined physical abnormality based on the behavior information corresponding to the specific fish species having the predetermined physical abnormality. Generate a sex-learned model (estimated model). For example, the generation unit 133 generates a model by learning to output information on a predetermined physical abnormality in the fish to be processed when the state information is input.
  • the acquisition unit 132 acquires the behavior information obtained from the moving image showing the behavior mode of a specific fish species as the behavior information.
  • the generation unit 133 generates a model in which the relationship between a predetermined physical abnormality and the behavior is learned based on the behavior information obtained from the moving image. More specifically, as the action information, the acquisition unit 132 receives the action information obtained from each moving image showing the action mode when each three-dimensional model in which a predetermined physical abnormality is individually reflected is operated. Suppose you got it. Then, the generation unit 133 generates a plurality of models corresponding to each of the predetermined physical abnormalities based on this behavior information. This point will be described in more detail with reference to the examples of FIGS.
  • the acquisition unit 132 is based on the fluid simulation for the three-dimensional model on the moving image in which the three-dimensional model is operated as the action information. Get behavior information. Then, the generation unit 133 generates a model in which the relationship between a predetermined physical abnormality and the behavior is learned by using the information on swimming of a specific fish species indicated by the behavior information based on this fluid simulation as learning data.
  • the generation unit 133 is a moving image of the behavior of the specific fish species in water (for example, a moving image of the behavior of a fish of which the sex is known among the specific fish species).
  • the behavioral information obtained from the image) may be further used to generate a model.
  • the generation unit 133 generates a model in which the relationship between a predetermined physical abnormality and the behavior is learned by using the information on swimming of a specific fish species indicated by the behavior information as learning data.
  • the generation unit 133 shows the behavior extracted based on the similarity between the behavior having a relationship with a predetermined physical abnormality and the behavior of a fish whose sex is known, among the behaviors of a specific fish species.
  • a model may be generated in which the relationship between the behavioral information and the predetermined physical abnormality is learned.
  • the generation procedure generates a model by learning to output more information about the sex of the fish to be processed when state information is input.
  • the estimation unit 134 is a behavioral feature of the fish to be processed based on the behavior information acquired by the acquisition unit 132 and the state information indicating the state of the fish to be processed among the specific fish species, and is the behavioral feature of the fish to be processed. Estimate behavioral characteristics caused by certain physical abnormalities of fish. For example, the estimation unit 134 estimates the behavioral characteristics based on the behavioral information and the state information shown by the moving image of the behavior of the fish to be processed.
  • the estimation unit 134 estimates the behavioral characteristics caused by a predetermined physical abnormality based on the model generated by the generation unit and the state information. For example, the estimation unit 134 estimates the behavioral characteristics caused by a predetermined physical abnormality based on the information regarding the physical abnormality output from the model by inputting the state information. Further, for example, the estimation unit 134 estimates the gender of the fish to be processed based on the gender information output from the model by inputting the state information.
  • estimation unit 134 may further estimate the sex of the fish to be processed based on the behavioral characteristics estimated using the model.
  • the classification unit 135 classifies the fish to be processed based on the estimation result estimated using the model. For example, the classification unit 135 classifies the fish to be processed by behavior or gender based on the estimation result estimated using the model. For example, as described in FIG. 5, the classification unit 135 assigns the fish to be processed to the behavior group corresponding to the estimated behavioral feature (feature amount) in the classification result storage unit 124. In addition, the classification unit 135 assigns the fish to be processed to the gender group corresponding to the estimated gender.
  • FIG. 9 is a flowchart showing an information processing procedure according to the embodiment.
  • the specific fish species is sturgeon.
  • the generation unit 133 of the information processing apparatus 100 shows what kind of physical abnormality the female sturgeon has based on the moving image of the behavior of the female sturgeon. It is assumed that the physical feature amount and the behavioral feature amount indicating what kind of swimming characteristics the female sturgeon has are extracted, and the extracted feature amount is stored in the individual information storage unit 122.
  • the acquisition unit 132 acquires a learning data set corresponding to the simulation result of the fluid simulation performed on the 3D model (variant model) reflecting the physical abnormality (step S101). For example, the acquisition unit 132 acquires a learning data set that is a combination of behavioral information (swimming data) collected by fluid simulation for a 3D model reflecting a physical abnormality and physical information indicating the physical abnormality. .. For example, the acquisition unit 132 acquires the learning data set from the behavior information storage unit 121.
  • the generation unit 133 generates an estimation model for each training data set based on the learning data set acquired by the acquisition unit 132 (step S102). Specifically, the generation unit 133 is based on the behavior information of a butterfly shark having a physical abnormality (behavior information included in this learning data set) included in one learning data set to be processed, and the predetermined physical Generate an estimated model in which the relationship between the abnormality and the behavior of the butterfly shark with the physical abnormality is learned. For example, the generation unit 133 generates an estimation model that outputs information on physical abnormalities in the sturgeon to be processed when the state information of the sturgeon to be processed is input.
  • the generation unit 133 generates an estimation model that outputs information on physical abnormalities in the sturgeon to be processed when the state information of the sturgeon to be processed is input.
  • the acquisition unit 132 acquires the feature amounts (physical feature amount, behavioral feature amount) corresponding to the female sturgeon obtained from the moving image of the behavior of the female sturgeon (step S103). For example, the acquisition unit 132 acquires the feature amount from the individual information storage unit 122. Further, the acquisition unit 132 may acquire the feature amount at any timing.
  • the generation unit 133 performs a fluid simulation by mapping the feature amount corresponding to the female butterfly shark and the feature amount which is the learning result (learning result in step S102) using the behavior information obtained from the fluid simulation. From the behavioral information obtained from the above, the behavioral information corresponding to the female butterfly shark is extracted (step S104).
  • step S105 when the generation unit 133 inputs state information indicating the state of the butterfly shark to be processed based on the relationship between the behavior indicated by the extracted behavior information and the physical abnormality corresponding to the extracted behavior information.
  • the estimation model is strengthened and learned so that information on the sex of the butterfly shark to be processed is further output (step S105).
  • the estimation unit 134 determines whether or not it is time to perform estimation processing on the sturgeon to be processed in the state where the estimation model is generated in steps S101 to S105 (step S106). For example, the estimation unit 134 determines whether or not it is time to perform estimation processing on the sturgeon to be processed, based on the presence or absence of input of a moving image in which the sturgeon to be processed behaves. For example, the estimation unit 134 determines that it is not the timing to perform estimation processing on the processing target sturgeon while the input of the moving image in which the processing target sturgeon behaves is not accepted (step S106; No). , Wait until it is time to estimate the sturgeon to be processed.
  • the estimation unit 134 determines that it is time to perform estimation processing on the processing target sturgeon while the input of the moving image in which the processing target sturgeon behaves is not accepted (step S106; Yes). , The state information of the sturgeon to be processed is extracted from the moving image, and the extracted state information is input to each estimation model (step S107).
  • the estimation unit 134 estimates the behavioral characteristics of the sturgeon to be processed, which are the behavioral characteristics caused by the physical abnormality of the sturgeon to be processed, based on the output information output by inputting the state information. At the same time, the sex of the sturgeon to be processed is estimated (step S108).
  • FIG. 10 is a hardware configuration diagram showing an example of a computer 1000 that realizes the functions of the information processing device 100.
  • the computer 1000 has a CPU 1100, a RAM 1200, a ROM 1300, an HDD 1400, a communication interface (I / F) 1500, an input / output interface (I / F) 1600, and a media interface (I / F) 1700.
  • the CPU 1100 operates based on the program stored in the ROM 1300 or the HDD 1400, and controls each part.
  • the ROM 1300 stores a boot program executed by the CPU 1100 when the computer 1000 is started, a program depending on the hardware of the computer 1000, and the like.
  • the HDD 1400 stores a program executed by the CPU 1100, data used by the program, and the like.
  • the communication interface 1500 receives data from another device via the communication network 50 and sends it to the CPU 1100, and transmits the data generated by the CPU 1100 to the other device via the communication network 50.
  • the CPU 1100 controls an output device such as a display or a printer and an input device such as a keyboard or a mouse via the input / output interface 1600.
  • the CPU 1100 acquires data from the input device via the input / output interface 1600. Further, the CPU 1100 outputs the generated data to the output device via the input / output interface 1600.
  • the media interface 1700 reads a program or data stored in the recording medium 1800 and provides the program or data to the CPU 1100 via the RAM 1200.
  • the CPU 1100 loads the program from the recording medium 1800 onto the RAM 1200 via the media interface 1700, and executes the loaded program.
  • the recording medium 1800 is, for example, an optical recording medium such as a DVD (Digital Versatile Disc) or PD (Phase change rewritable Disk), a magneto-optical recording medium such as an MO (Magneto-Optical disk), a tape medium, a magnetic recording medium, or a semiconductor memory. And so on.
  • the CPU 1100 of the computer 1000 realizes the function of the control unit 130 by executing the program loaded on the RAM 1200. Further, the data in the storage unit 120 is stored in the HDD 1400. The CPU 1100 of the computer 1000 reads and executes these programs from the recording medium 1800, but as another example, these programs may be acquired from another device via the communication network 50.
  • each component of each of the illustrated devices is a functional concept, and does not necessarily have to be physically configured as shown in the figure. That is, the specific form of distribution / integration of each device is not limited to the one shown in the figure, and all or part of the device is functionally or physically distributed / physically in arbitrary units according to various loads and usage conditions. Can be integrated and configured.
  • section, module, unit can be read as “means” or “circuit”.
  • acquisition unit can be read as an acquisition means or an acquisition circuit.
  • Information processing device 120 Storage unit 121 Behavior information storage unit 122 Individual information storage unit 123 Model information storage unit 124 Classification result storage unit 130 Control unit 131 Reception unit 132 Acquisition unit 133 Generation unit 134 Estimating unit 135 Classification unit

Landscapes

  • Life Sciences & Earth Sciences (AREA)
  • Environmental Sciences (AREA)
  • Zoology (AREA)
  • Marine Sciences & Fisheries (AREA)
  • Animal Husbandry (AREA)
  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • Human Resources & Organizations (AREA)
  • Theoretical Computer Science (AREA)
  • Tourism & Hospitality (AREA)
  • General Physics & Mathematics (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • Mining & Mineral Resources (AREA)
  • General Health & Medical Sciences (AREA)
  • Primary Health Care (AREA)
  • Health & Medical Sciences (AREA)
  • Agronomy & Crop Science (AREA)
  • Development Economics (AREA)
  • Game Theory and Decision Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本願に係る推定プログラム(100)は、取得手順(132)と、推定手順(134)とをコンピュータに実行させる。取得手順(132)は、所定の身体的異常を有する特定の魚種の行動を示す行動情報を取得する。推定手順(134)は、取得手順(132)により取得された行動情報と、特定の魚種のうち、処理対象の魚の状態を示す状態情報とに基づいて、処理対象の魚の行動特徴であって、処理対象の魚が有する所定の身体的異常に起因する行動特徴を推定する。

Description

推定プログラム、推定方法および情報処理装置
 本発明は、推定プログラム、推定方法および情報処理装置に関する。
 従来、ニューラルネットワークによる画像の特徴抽出に関する技術が提供されている。例えば、畳み込みニューラルネットワーク(Convolutional Neural Network)により、画像に含まれる対象を識別する技術が提供されている。
特開2011-197892号公報
 しかしながら、上記の従来技術では、特定の魚種が示す行動からこの特定の魚種を容易に分類することができるとは限らない。例えば、上記の従来技術では、オブジェクト画像の画像情報とキーワードが対応づけられて登録されるオブジェクト情報データを参照し、ユーザが入力したキーワードから、キーワードが示すオブジェクト画像の画像情報を取得する。そして、上記の従来技術では、オブジェクト情報データに登録されているオブジェクト画像の平均的なサイズや位置の情報を用いてレイアウトを推定することで、検索要求となる合成画像を自動で生成し、この合成画像を用いて画像検索を行う。
 このように、上記の従来技術は、オブジェクトの内容やレイアウトを考慮した画像検索に特化した技術であるため、特定の魚種が示す行動からこの特定の魚種を容易に分類することができるとは限らない。
 本願は、上記に鑑みてなされたものであって、特定の魚種が示す行動からこの特定の魚種を容易に分類することを目的とする。
 本願に係る推定プログラムは、所定の身体的異常を有する特定の魚種の行動を示す行動情報を取得する取得手順と、前記取得手順により取得された行動情報と、前記特定の魚種のうち、処理対象の魚の状態を示す状態情報とに基づいて、前記処理対象の魚の行動特徴であって、前記処理対象の魚が有する前記所定の身体的異常に起因する行動特徴を推定する推定手順とをコンピュータに実行させる。
 実施形態の一態様によれば、特定の魚種が示す行動からこの特定の魚種を容易に分類することができる。
図1は、実施形態に係る3Dモデルの一例を示す図である。 図2は、流体シミュレーションに基づく学習データの収集例を示す図である。 図3は、リアル動画像から特徴量を抽出する抽出例を示す図である。 図4は、実施形態に係る推定処理の全体例を示す図である。 図5は、実施形態に係る推定処理の一例を示す図である。 図6は、実施形態に係る情報処理装置の構成例を示す図である。 図7は、実施形態に係る行動情報記憶部の一例を示す図である。 図8は、実施形態に係る分類結果記憶部の一例を示す図である。 図9は、実施形態に係る情報処理手順を示すフローチャートである。 図10は、情報処理装置100の機能を実現するコンピュータ1000の一例を示すハードウェア構成図である。
 以下に、本願に係る推定プログラム、推定方法および情報処理装置を実施するための形態(以下、「実施形態」と呼ぶ)について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る推定プログラム、推定方法および情報処理装置が限定されるものではない。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。
〔1.実施形態に係る推定処理の概要〕
 まず、本願の前提に沿って実施形態に係る推定処理の概要について説明する。ここでは、特定の魚種としてチョウザメの養殖に関する問題点を例に挙げて、実施形態に係る推定処理の概要について説明する。
 例えば、チョウザメは、卵を産むまで7年かかり、その後3年に1回しか産卵しないうえ、稚魚は餌のやり過ぎ、水温の上昇、給水が1日停止するなどといった環境変化によって簡単に全滅してしまう。また、チョウザメは、生きている限り大きくなり、雌のチョウザメのうち、特に卵を産む個体は3メートル以上になり餌代がかさむ。
 このようなことから、養殖業者は、雌のチョウザメだけをうまく養殖したいと考えるが、チョウザメの養殖方法は確立されていない。また、雌のチョウザメだけを養殖するには、まず、チョウザメの中から雌のチョウザメだけを分離する必要がある。このため、現在は、チョウザメの性別判定手法として、個体ごとに開腹し卵巣の有無を確認する手法が用いられているが、この手法は非常に手間がかかる。また、他の性別判定手法として、超音波センサにより卵巣の有無を確認する手法があるが、個体が大きいため測定には多くの労力を有する。このため、例えば、チョウザメが行動する様子が撮影された動画像からチョウザメの性別を容易に推定することが求められている。
 ここで、養殖により生まれたチョウザメのほとんどが、身体的異常(例えば、ヒレが曲がっている、ヒレの形状が変異している、内臓疾患を有するなど)があることが知られているため、身体的異常を有するチョウザメは、身体的異常を有しないチョウザメの行動と比較して、身体的異常に応じた特徴的な行動をとると考えられる。例えば、身体的異常を有するチョウザメは、身体的異常に応じた泳法で泳ぐと考えられる。
 したがって、実施形態に係る推定処理は、上記の問題点を踏まえて、身体的異常を有するチョウザメの行動を分析することで、行動の特徴や性別が未知のチョウザメを、行動や性別で分類することができる可能性があることに着眼することにより成された情報処理である。
 具体的には、実施形態に係る推定処理は、所定の身体的異常を有する特定の魚種(チョウザメ)の行動を示す行動情報を取得し、取得した行動情報と、特定の魚種のうち、処理対象の魚の状態を示す状態情報とに基づいて、処理対象の魚の行動特徴であって、処理対象の魚が有する所定の身体的異常に起因する行動特徴を推定するものである。例えば、実施形態に係る推定処理は、所定の身体的異常を有する特定の魚種(チョウザメ)の行動を示す行動情報と、特定の魚種が行動する様子が撮影された動画像で示される状態情報とに基づいて、処理対象の魚の行動特徴を推定するものである。
 さらに詳細には、実施形態に係る推定処理は、所定の身体的異常を有する特定の魚種に対応する行動情報に基づいて、当該所定の身体的異常と、当該所定の身体的異常がある特定の魚種の行動との関係性が学習されたモデルを生成し、生成したモデルと状態情報とに基づいて、所定の身体的異常に起因する行動特徴を推定するものである。また、係るモデルは、行動特徴を推定するためのモデルであることから、以下では係るモデルを「推定モデル」と表記する場合がある。
 そして、このような推定処理により、特定の魚種(チョウザメ)を行動グループや性別で容易に分類することができるようになる。また、このような分類ができるようになる結果、例えば、特定の行動は、チョウザメが弱っていることの指標となるため、特定の行動に対応する行動グループに属するチョウザメを対象に飼育方法を変えるなどにより、チョウザメが死滅してしまうことを効果的に防止することができるようになる。また、チョウザメが死滅してしまうことを防止することが出来れば、チョウザメの養殖にかかるコストを軽減することもできるようになる。さらに、養殖業者が雌のチョウザメだけを分離する際の労力(性別判定にかかる労力)も軽減することができるようになる。
〔2.推定プログラムおよび情報処理装置について〕
 実施形態に係る推定プログラムは、上述した実施形態に係る推定処理をコンピュータに実行させるためのプログラムである。具体的には、実施形態に係る推定プログラムは、所定の身体的異常を有する特定の魚種の行動を示す行動情報を取得する取得手順と、取得手順により取得された行動情報と、特定の魚種のうち、処理対象の魚の状態を示す状態情報とに基づいて、処理対象の魚の行動特徴であって、処理対象の魚が有する所定の身体的異常に起因する行動特徴を推定する推定手順とをコンピュータに実行させるためのプログラムである。
 また、本実施形態では、このようなコンピュータの一例として、情報処理装置100を例に挙げる。すなわち情報処理装置100は、実施形態に係る推定プログラムの制御に従って、所定の身体的異常を有する特定の魚種の行動を示す行動情報を取得し、取得した行動情報と、特定の魚種のうち、処理対象の魚の状態を示す状態情報とに基づいて、処理対象の魚の行動特徴であって、処理対象の魚が有する所定の身体的異常に起因する行動特徴を推定する。換言すると、情報処理装置100は、実施形態に係る推定プログラムが実行されることにより、所定の身体的異常を有する特定の魚種の行動を示す行動情報を取得する取得部と、取得部により取得された行動情報と、特定の魚種のうち、処理対象の魚の状態を示す状態情報とに基づいて、処理対象の魚の行動特徴であって、処理対象の魚が有する前記所定の身体的異常に起因する行動特徴を推定する推定部とを有することになる。
 また、本実施形態では、情報処理装置100は、サーバ装置やクラウドシステム等により実現されるものとする。一方で、推定プログラムが実行されるコンピュータは、例えば、処理対象の魚種について行動分析したいと考える利用者(例えば、養殖業者)によって利用される情報処理端末であってもよく、このような情報処理端末としては、スマートフォンや、タブレット型端末や、ノート型PC(Personal Computer)や、デスクトップPCや、携帯電話機や、PDA(Personal Digital Assistant)等が挙げられる。
〔3.特定の魚種について〕
 本実施形態では、特定の魚種はチョウザメであるものとする。したがって、本実施形態では、特定の魚種のうち、処理対象の魚というのは、養殖のため生簀で飼育されているチョウザメのうち行動分析の対象となったある1匹のチョウザメを指し示すものとする。一方で、特定の魚種は、必ずしもチョウザメに限定される必要はない。例えば、特定の魚種は、効果的な養殖のために行動分析したいと考えられる魚種や、養殖方法が確立されていない魚種であれば、いかなる魚種(例えば、サケなど)であってもよい。
〔4.3次元モデルについて〕
 上記の通り、実施形態に係る推定処理は、所定の身体的異常と、当該所定の身体的異常を有するチョウザメに対応する行動情報が示す行動との関係性が学習されたモデルを生成し、生成したモデルと状態情報とに基づいて、所定の身体的異常に起因する行動特徴を推定するものである。このため、推定精度の高いモデルを生成するための機械学習には、身体的異常、および、当該身体的異常を有するチョウザメの行動を示す行動情報といった学習データとの組み合わせ(学習データセット)が必要となるが、実際のチョウザメから機械学習に十分な学習データセットを収集することは非常に困難である。
 例えば、養殖のため生簀で飼育されているチョウザメの中から「胸ヒレ」に異常がある個体を取り出すことができたとしても、「胸ヒレ」に異常がある個体の数が少なければ、十分な行動情報を収集することはできず、結果として、推定精度の高いモデルを生成することはできない。
 このような問題点を解消するために、本実施形態では、チョウザメの実際の筋骨格からチョウザメの魚体を再現した3次元モデル(以下、「3Dモデル」と表記する場合がある)を生成し、生成した3Dモデルに対する流体シミュレーションを行うことで、身体的異常を有するチョウザメの行動を示す行動情報を収集することに着眼した。ここで、図1を用いて、実施形態に係る3Dモデルについて説明する。図1は、実施形態に係る3Dモデルの一例を示す図である。なお、3Dモデルを生成する作業は、チョウザメについて行動分析したいと考える利用者Uの操作に応じて、端末装置10(不図示)によって行われるものとする。
 まず、図1に示す筋骨格MS1は、チョウザメを解剖し、骨格、骨格に対する筋肉の付き方を分析することで得られた実際の筋骨格モデルである。このような状態において、端末装置10は、筋骨格MS1を示す情報に基づいて、チョウザメの魚体を再現した3Dモデルを生成する(ステップS11)。図1では、チョウザメの魚体を再現した3Dモデルとして、筋骨格MS1から3DモデルMD1が生成された例が示されている。
 そして、端末装置10は、3DモデルMD1に基づいて、所定の状態異常を有するチョウザメ(すなわち変異体)の3Dモデルをさらに生成する(ステップS12)。例えば、端末装置10は、3DモデルMD1に基づいて、所定の身体的異常それぞれが個別に反映された各変異体の3Dモデルを生成する。
 上記の通り、養殖により生まれたチョウザメのほとんどが、身体的異常(例えば、ヒレが曲がっている、ヒレの形状が変異している、内臓疾患を有する)を有することが知られている。したがって、本実施形態では、利用者Uは、身体的異常として、胸ヒレ異常(例えば、胸ヒレが曲がっている)・背ヒレ異常(例えば、背ヒレが曲がっている)・尾ヒレ異常(例えば、尾ヒレが曲がっている)・輪郭変異(例えば、通常個体と比較して頭部の輪郭が変異している)という4つの身体的異常に着目している。また、このようなことから、端末装置10は、利用者Uの操作に従って、胸ヒレ異常のみが反映された3Dモデルである変異体モデルMD11、背ヒレ異常のみが反映された3Dモデルである変異体モデルMD12、尾ヒレ異常のみが反映された3Dモデルである変異体モデルMD13、輪郭変異のみが反映された3Dモデルである変異体モデルMD14を生成している。
 もちろん、チョウザメが有する可能性のある身体的異常は、この4つの身体的異常に限定されるものではないため、どのような身体的異常が反映された3Dモデルがどれだけの数生成されるかは任意であってよい。また、本実施形態では、説明を簡単にするために、身体的異常それぞれが個別に反映された各変異体の3Dモデルが生成される例を示しているが、例えば、複数の身体的異常が組み合わされて反映された1つの3Dモデルが生成されてもよい。一例を示すと、胸ヒレ異常および背ヒレ異常を有する1個体の3Dモデルが生成されてもよい。
〔5.3次元モデルに対する流体シミュレーションによる学習データの収集〕
 次に、図1で生成された3Dモデルに対して流体シミュレーションを実行することで、流体シミュレーションによるシミュレーション結果から学習データを収集する点について、図2を用いて説明する。図2は、流体シミュレーションに基づく学習データの収集例を示す図である。なお、流体シミュレーションおよび流体シミュレーションによる学習データの収集は、利用者Uの操作に応じて、引き続き端末装置10(不図示)によって行われるものとする。端末装置10は、各身体的異常に対応する変異体モデルごとに流体シミュレーションを実行することで、シミュレーション結果に基づいて、当該身体的異常を有するチョウザメが行う行動を仮想的に分析する。そして、端末装置10は分析結果に基づいて、チョウザメが行う行動を示す行動情報を収集する。例えば、端末装置10は、各変異体モデルを動作させた動画像において、当該変異体モデルに対する流体シミュレーションを実行する。
 まず、変異体モデルMD11について説明する。図2に示す動画像MDVD11は、変異体モデルMD11を動作させた動画像である。したがって、端末装置10は、変異体モデルMD11を動作させた動画像MDVD11における、変異体モデルMD11に対する流体シミュレーションを実行する。そして、端末装置10は、この流体シミュレーションによるシミュレーション結果に基づいて、胸ヒレ異常を有するチョウザメの泳ぎに関する情報である泳法データ(行動情報の一例)を収集する。係る泳法データには、通常時の泳ぎ方を示す情報、餌を食べる際の泳ぎ方を示す情報、泳いで移動する移動軌跡を示す情報などが含まれる。
 次に、変異体モデルMD12について説明する。図2に示す動画像MDVD12は、変異体モデルMD12を動作させた動画像である。したがって、端末装置10は、変異体モデルMD12を動作させた動画像MDVD12における、変異体モデルMD12に対する流体シミュレーションを実行する。そして、端末装置10は、この流体シミュレーションによるシミュレーション結果に基づいて、背ヒレ異常を有するチョウザメの泳ぎに関する情報である泳法データ(行動情報の一例)を収集する。係る泳法データには、通常時の泳ぎ方を示す情報、餌を食べる際の泳ぎ方を示す情報、泳いで移動する移動軌跡を示す情報などが含まれる。
 次に、変異体モデルMD13について説明する。図2に示す動画像MDVD13は、変異体モデルMD13を動作させた動画像である。したがって、端末装置10は、変異体モデルMD13を動作させた動画像MDVD13における、変異体モデルMD13に対する流体シミュレーションを実行する。そして、端末装置10は、この流体シミュレーションによるシミュレーション結果に基づいて、尾ヒレ異常を有するチョウザメの泳ぎに関する情報である泳法データ(行動情報の一例)を収集する。係る泳法データには、通常時の泳ぎ方を示す情報、餌を食べる際の泳ぎ方を示す情報、泳いで移動する移動軌跡を示す情報などが含まれる。
 次に、変異体モデルMD14について説明する。図2に示す動画像MDVD14は、変異体モデルMD14を動作させた動画像である。したがって、端末装置10は、変異体モデルMD14を動作させた動画像MDVD14における、変異体モデルMD14に対する流体シミュレーションを実行する。そして、端末装置10は、この流体シミュレーションによるシミュレーション結果に基づいて、輪郭変異を有するチョウザメの泳ぎに関する情報である泳法データ(行動情報の一例)を収集する。係る泳法データには、通常時の泳ぎ方を示す情報、餌を食べる際の泳ぎ方を示す情報、泳いで移動する移動軌跡を示す情報などが含まれる。
 また、端末装置10は、利用者Uの操作に従って、収集した泳法データを実施形態に係る情報処理装置100に送信する。情報処理装置100は、端末装置10から泳法データを受け付けると、受け付けた泳法データを行動情報記憶部121に格納する。例えば、情報処理装置100は、各身体的異常に対応する変異体モデルごとに、当該変異体モデルに対する流体シミュレーションから得られた泳法データを格納する。
 ここで、図7を用いて、実施形態に係る行動情報記憶部121の一例を示す。図7の例では、行動情報記憶部121は、「変異体ID」、「身体情報(身体的異常)」、「動画像」、「シミュレーション結果」、「行動情報(泳法データ)」といった項目を有する。
 「変異体ID」は、変異体モデルを識別する識別情報を示す。例えば、変異体ID「MD11」で識別される変異体モデルは、変異体モデルMD11に対応する。「身体情報(身体的異常)」は、「変異体ID」で識別される変異体モデルで対象となっている身体的異常を示す情報である。例えば、図1で説明したように、変異体モデルMD11は、胸ヒレ異常が反映された3Dモデルである。したがって、変異体ID「MD11」で識別される変異体モデルで対象となっている身体的異常は「胸ヒレ異常」である。
 「動画像」は、「変異体ID」で識別される変異体モデルを動作させた際の動画像を示す。例えば、動画像MDVD11は、変異体モデルMD11を動作させた動画像である。「シミュレーション結果」は、「変異体ID」で識別される変異体モデルを動作させた動画像における、当該変異体モデル対する流体シミュレーションの結果を示す。例えば、シミュレーション結果SMRE11は、変異体モデルMD11を動作させた動画像MDVD11における、変異体モデルMD11に対する流体シミュレーションの結果を示す。
 「行動情報(泳法データ)」は、「変異体ID」で識別される変異体モデルで対象となっている身体的異常を有するチョウザメの仮想的な泳ぎを示す行動情報を示す。例えば、行動情報「STDA11」は、シミュレーション結果SMRE11に基づき分析された行動であって、身体的異常「胸ヒレ異常」を有するチョウザメの行動を示す情報である。また、「行動情報」には、通常時の泳ぎ方を示す情報、餌を食べる際の泳ぎ方を示す情報、泳いで移動する移動軌跡を示す情報などが方法データとして含まれる。
 また、「身体情報」および「行動情報」は、推定モデルを生成するための機械学習で用いられる学習データであり、「身体情報」と「行動情報」との各組み合わせは、学習データセットとなる。
 図2の説明に戻ると、端末装置10は、チョウザメに対する実際の動画像から泳法データを収集してもよい。例えば、端末装置10は、水中でチョウザメが行動する様子が撮影された動画像から、泳法データを収集してもよい。一例を示すと、端末装置10は、性別が判明しているチョウザメが行動する様子が撮影された動画像から、泳法データを収集してもよい。例えば、端末装置10は、雌のチョウザメが行動する様子が撮影された動画像から、泳法データを収集する。
〔6.リアル動画像から特徴量を抽出〕
 後述するが、情報処理装置100は、チョウザメの性別を推定するための推定モデルを生成するために、チョウザメに対する実際の動画像から得られた泳法データに対する機械学習による学習結果(特徴量)を強化学習に利用する場合がある。したがって、図3を用いて、情報処理装置100が、チョウザメが行動する様子が撮影された動画像から収集された泳法データからチョウザメの特徴量を抽出する例を説明する。図3は、リアル動画像から特徴量を抽出する抽出例を示す図である。
 図3の例によると、情報処理装置100は、雌のチョウザメが行動する様子が撮影された動画像から収集された泳法データからチョウザメの特徴量を抽出する。このため、まず、情報処理装置100は、雌のチョウザメが行動する様子が撮影された動画像を取得する(ステップS21)。例えば、情報処理装置100は、雌のチョウザメが行動する様子が撮影された動画像を所持する所持先(例えば、端末装置10、あるいは、情報処理装置100とは異なる所定のサーバ装置)から動画像を取得する。図3の例では、情報処理装置100は、雌のチョウザメが行動する様子が撮影された動画像として、動画像WVDを取得している。
 このような状態において、情報処理装置100は、動画像WVDに基づいて、雌のチョウザメがどのような身体的異常を有するかを示す身体的特徴を示す特徴量(身体的特徴量)と、雌のチョウザメがどのような泳ぎの特徴を有するかを示す特徴量(行動特徴量)とを抽出する(ステップS22)。例えば、情報処理装置100は、機械学習によりこれら特徴量を抽出する。
 また、情報処理装置100は、抽出した特徴量を個体情報記憶部122に格納する(ステップS23)。図3に示すように、個体情報記憶部122は、「特徴種別」と「特徴量」とを対応付けて記憶する。図3に示す個体情報記憶部122のように、「特徴種別」には、「身体的特徴量」と「行動特徴量」がある。そして、図3に示す個体情報記憶部122では、身体的特徴量として「BFV1」、「BFV2」、「BFV3」が抽出された例が示されている。
 なお、図3では、身体的特徴量が概念的な記号で示されているが、雌のチョウザメは「胸ヒレの形状が〇〇の形状である」、あるいは、「背ヒレが左に曲がっている傾向にある」といった特徴がある場合には、このような特徴を示す「特徴量」が特徴種別「身体的特徴量」に対応付けて記憶される。また、図3では、行動特徴量が概念的な記号で示されているが、雌のチョウザメは「雄のチョウザメと比較して低い位置を泳ぐ傾向にある」といった特徴がある場合には、このような特徴を示す「特徴量」が特徴種別「行動特徴量」に対応付けて記憶される。
〔7.モデル生成の一例〕
 ここからは、図4を用いて、情報処理装置100によって行われる実施形態に係る推定処理のうち、推定処理に用いられる推定モデルを生成するモデル生成処理の一例について説明する。図4は、実施形態に係る推定処理の全体例を示す図である。
 まず、情報処理装置100は、行動情報記憶部121から、身体的異常を示す身体情報と、チョウザメの行動を示す行動情報(泳法データ)との組み合わせを学習データセットとして取得する(ステップS31)。図4の例では、情報処理装置100は、身体的異常として「胸ヒレ異常」を示す身体情報と、「STDA11」のような泳ぎを示す行動情報との組を1つの学習データセット(「学習データセットLS1」とする)として取得している。
 また、図4の例では、情報処理装置100は、身体的異常として「背ヒレ異常」を示す身体情報と、「STDA12」のような泳ぎを示す行動情報との組を1つの学習データセット(「学習データセットLS2」とする)として取得している。また、図4の例では、情報処理装置100は、身体的異常として「尾ヒレ異常」を示す身体情報と、「STDA13」のような泳ぎを示す行動情報との組を1つの学習データセット(「学習データセットLS3」とする)として取得している。また、図4の例では、情報処理装置100は、身体的異常として「輪郭異常」を示す身体情報と、「STDA14」のような泳ぎを示す行動情報との組を1つの学習データセット(「学習データセットLS4」とする)として取得している。
 このような状態において、情報処理装置100は、学習データセットごとに、当該学習データに含まれる身体情報が示す身体的異常を有するチョウザメの行動情報(当該学習データに含まれる行動情報)に基づいて、当該身体的異常と、当該身体的異常があるチョウザメの泳ぎ(行動)との関係性が学習されたモデルを生成する(ステップS32)。
 例えば、情報処理装置100は、学習データセットLS1に基づいて、胸ヒレ異常を有する個体は、どのような泳ぎをする傾向にあるか学習された推定モデルを生成する。一例を示すと、情報処理装置100は、学習データセットLS1に基づいて、胸ヒレ異常を有する個体の泳ぎの特徴を示す特徴量を算出することにより、算出された特徴量に基づき推定モデルを生成する。また、情報処理装置100は、チョウザメが行動する様子が撮影された動画像で示される状態情報であって、処理対象のチョウザメの状態を示す状態情報(例えば、輪郭の状態や泳ぎの状態)が入力された場合に、処理対象のチョウザメを対象とする身体的異常に関する情報を出力するように推定モデルを学習する。例えば、情報処理装置100は、処理対象のチョウザメの状態を示す状態情報が入力された場合に、処理対象のチョウザメが胸ヒレ異常を有するか否かを示す情報を出力するように推定モデルを学習する。図4の例では、情報処理装置100は、このような推定モデルとして推定モデルMDL11を生成したものとする。また、推定モデルMDL11で対象とする特徴量(泳ぎの傾向)は、概念的に「FV11」であるものとする。
 また、例えば、情報処理装置100は、学習データセットLS2に基づいて、背ヒレ異常を有する個体は、どのような泳ぎをする傾向にあるか学習された推定モデルを生成する。一例を示すと、情報処理装置100は、学習データセットLS2に基づいて、背ヒレ異常を有する個体の泳ぎの特徴を示す特徴量を算出することにより、算出された特徴量に基づき推定モデルを生成する。また、情報処理装置100は、チョウザメが行動する様子が撮影された動画像で示される状態情報であって、処理対象のチョウザメの状態を示す状態情報(例えば、輪郭の状態や泳ぎの状態)が入力された場合に、処理対象のチョウザメを対象とする身体的異常に関する情報を出力するように推定モデルを学習する。例えば、情報処理装置100は、処理対象のチョウザメの状態を示す状態情報が入力された場合に、処理対象のチョウザメが背ヒレ異常を有するか否かを示す情報を出力するように推定モデルを学習する。図4の例では、情報処理装置100は、このような推定モデルとして推定モデルMDL12を生成したものとする。また、推定モデルMDL12で対象とする特徴量(泳ぎの傾向)は、概念的に「FV12」であるものとする。
 また、例えば、情報処理装置100は、学習データセットLS3に基づいて、尾ヒレ異常を有する個体は、どのような泳ぎをする傾向にあるか学習された推定モデルを生成する。一例を示すと、情報処理装置100は、学習データセットLS3に基づいて、尾ヒレ異常を有する個体の泳ぎの特徴を示す特徴量を算出することにより、算出された特徴量に基づき推定モデルを生成する。また、情報処理装置100は、チョウザメが行動する様子が撮影された動画像で示される状態情報であって、処理対象のチョウザメの状態を示す状態情報(例えば、輪郭の状態や泳ぎの状態)が入力された場合に、処理対象のチョウザメを対象とする身体的異常に関する情報を出力するように推定モデルを学習する。例えば、情報処理装置100は、処理対象のチョウザメの状態を示す状態情報が入力された場合に、処理対象のチョウザメが尾ヒレ異常を有するか否かを示す情報を出力するように推定モデルを学習する。図4の例では、情報処理装置100は、このような推定モデルとして推定モデルMDL13を生成したものとする。また、推定モデルMDL13で対象とする特徴量(泳ぎの傾向)は、概念的に「FV13」であるものとする。
 また、例えば、情報処理装置100は、学習データセットLS4に基づいて、輪郭変異を有する個体は、どのような泳ぎをする傾向にあるか学習された推定モデルを生成する。一例を示すと、情報処理装置100は、学習データセットLS4に基づいて、輪郭変異を有する個体の泳ぎの特徴を示す特徴量を算出することにより、算出された特徴量に基づき推定モデルを生成する。また、情報処理装置100は、チョウザメが行動する様子が撮影された動画像で示される状態情報であって、処理対象のチョウザメの状態を示す状態情報(例えば、輪郭の状態や泳ぎの状態)が入力された場合に、処理対象のチョウザメを対象とする身体的異常に関する情報を出力するように推定モデルを学習する。例えば、情報処理装置100は、処理対象のチョウザメの状態を示す状態情報が入力された場合に、処理対象のチョウザメが輪郭変異しているか否かを示す情報を出力するように推定モデルを学習する。図4の例では、情報処理装置100は、このような推定モデルとして推定モデルMDL14を生成したものとする。また、推定モデルMDL13で対象とする特徴量(泳ぎの傾向)は、概念的に「FV14」であるものとする。
 このように、情報処理装置100は、身体的異常が反映された3Dモデルに対する流体シミュレーションにより収集された行動情報であって、当該身体的異常を有するチョウザメの行動を示す行動情報を学習データとしてモデルを学習する。これにより、情報処理装置100は、実際のチョウザメの動きを観測するだけでは得られない程に多くの行動情報から学習を行うことができるため、推定精度の高い学習モデルを生成することができる。また、図2では、チョウザメに対する実際の動画像から行動情報(泳法データ)が収集されてもよい旨説明した。したがって、情報処理装置100は、流体シミュレーションにより収集された行動情報と、チョウザメに対する実際の動画像から収集された行動情報とを掛け合わせたものを学習データとして学習を行ってもよい。
 次に、情報処理装置100は、生成した推定モデルに関する情報をモデル情報記憶部123に格納する(ステップS33)。図4の例では、モデル情報記憶部123は、「変異体ID」、「身体情報(身体的異常)」、「モデル情報」、「特徴量」といった項目を有する。
 「変異体ID」は、変異体モデルを識別する識別情報を示す。「身体情報(身体的異常)」は、「変異体ID」で識別される変異体モデルで対象となっている身体的異常を示す情報である。「モデル情報」は、情報処理装置100が生成した推定モデルを示す。「特徴量」は、「モデル情報」が示す推定モデルで対象となっている特徴量(泳ぎの傾向)を示す。すなわち、図4に示すモデル情報記憶部123は、身体的異常「胸ヒレ異常」が反映された変異体モデルMD11に対する流体シミュレーションにより収集された行動情報を学習データとして、この行動情報が示す泳ぎと、胸ヒレ異常との関係性が学習された推定モデルMDL11が生成された例を示す。また、図4に示すモデル情報記憶部123は、推定モデルMDL11で対象となっている特徴量(泳ぎの傾向)は「FV11」である例を示す。
 次に、情報処理装置100は、チョウザメの行動のうち、所定の身体的異常と関係性を有する行動と性別が判明しているチョウザメ(雌のチョウザメ)の行動との類似性に基づき抽出された行動を示す行動情報と、当該所定の身体的異常との関係性が学習された推定モデルを生成する。図4の例では、情報処理装置100は、雌のチョウザメに対応する特徴量と、流体シミュレーションから収集された行動情報を用いた学習結果である特徴量とのマッピングにより、流体シミュレーションから得られた行動情報のうち、雌のチョウザメに対応する行動情報を抽出する(ステップS34)。
 ここで、雌のチョウザメに対応する特徴量とは、個体情報記憶部122に記憶される特徴量である。また、流体シミュレーションから収集された行動情報を用いた学習結果である特徴量とは、モデル情報記憶部123に記憶される特徴量である。したがって、図4の例では、情報処理装置100は、個体情報記憶部122に記憶される特徴量と、モデル情報記憶部123に記憶される特徴量との類似性(共通性)に基づくマッピングにより、流体シミュレーションから得られた行動情報(行動情報に記憶される行動情報)のうち、雌のチョウザメに対応する行動情報を抽出する。
 次に、情報処理装置100は、抽出した行動情報が示す泳ぎと、抽出した行動情報に対応する身体的異常との関係性に基づいて、処理対象のチョウザメの状態を示す状態情報が入力された場合に、処理対象のチョウザメの性別に関する情報がさらに出力されるようモデルを学習する(ステップS35)。例えば、情報処理装置100は、抽出した行動情報が示す泳ぎと、抽出した行動情報に対応する身体的異常との関係性に基づいて、モデル情報記憶部123に格納される各モデルに対して、処理対象のチョウザメの性別に関する情報がさらに出力されるよう強化学習する。
 そして、このような学習により強化学習後の推定モデルMDL11は、処理対象のチョウザメの状態を示す状態情報が入力された場合に、処理対象のチョウザメが胸ヒレ異常を有するか否かを示す情報とともに、処理対象のチョウザメが雌であるか否かを示す情報を出力するようになる。また、強化学習後の推定モデルMDL12は、処理対象のチョウザメの状態を示す状態情報が入力された場合に、処理対象のチョウザメが背ヒレ異常を有するか否かを示す情報とともに、処理対象のチョウザメが雌であるか否かを示す情報を出力するようになる。
 また、強化学習後の推定モデルMDL13は、処理対象のチョウザメの状態を示す状態情報が入力された場合に、処理対象のチョウザメが尾ヒレ異常を有するか否かを示す情報とともに、処理対象のチョウザメが雌であるか否かを示す情報を出力するようになる。また、強化学習後の推定モデルMDL11は、処理対象のチョウザメの状態を示す状態情報が入力された場合に、処理対象のチョウザメが輪郭変異しているか否かを示す情報とともに、処理対象のチョウザメが雌であるか否かを示す情報を出力するようになる。
〔8.推定処理の一例〕
 ここからは、図5を用いて、情報処理装置100によって行われる実施形態に係る推定処理のうち、推定モデルを用いた推定処理の一例について説明する。図5は、実施形態に係る推定処理の一例を示す図である。
 情報処理装置100は、チョウザメの行動を示す行動情報と、処理対象のチョウザメの状態を示す状態情報とに基づいて、処理対象のチョウザメの行動特徴であって、処理対象のチョウザメが有する身体的異常に起因する行動特徴を推定する。例えば、情報処理装置100は、身体的異常と、当該身体的異常を有するチョウザメの行動との関係性が学習された推定モデルと、処理対象のチョウザメの状態情報とに基づいて、処理対象のチョウザメが有する身体的異常に起因する行動特徴を推定する。一例として、情報処理装置100は、推定モデルと、処理対象のチョウザメが行動する様子が撮影された動画像で示される状態情報とに基づいて、処理対象のチョウザメの行動特徴を推定する。より詳細には、情報処理装置100は、処理対象のチョウザメが行動する様子が撮影された動画像で示される状態情報を各推定モデルに入力し、推定モデルから出力された情報に基づいて、処理対象のチョウザメの行動特徴と、処理対象のチョウザメの性別を推定する。
 図5では、情報処理装置100は、処理対象のチョウザメとしてチョウザメFS1が行動する様子が撮影された動画像である動画像SVDが与えられたことにより、推定モデルを用いて、チョウザメFS1の行動特徴および性別を推定するものとする。係る例では、まず、情報処理装置100は、動画像SVDからチョウザメFS1の状態情報を抽出し、抽出した状態情報を各推定モデルに入力する(ステップS41)。具体的には、情報処理装置100は、強化学習後の推定モデルMDL11、強化学習後の推定モデルMDL12、強化学習後の推定モデルMDL13、および、強化学習後の推定モデルMDL14それぞれに対して、動画像SVDから抽出したチョウザメFS1の状態情報を入力する。
 そして、図5の例では、強化学習後の推定モデルMDL11は、ステップS41での入力に応じて、チョウザメFS1は「身体的異常に関する情報;胸ヒレ異常なし、性別に関する情報;雌」を示す出力情報♯11を出力している。また、図5の例では、強化学習後の推定モデルMDL12は、ステップS41での入力に応じて、チョウザメFS1は「身体的異常に関する情報;背ヒレ異常あり、性別に関する情報;雌」を示す出力情報♯12を出力している。また、図5の例では、強化学習後の推定モデルMDL13は、ステップS41での入力に応じて、チョウザメFS1は「身体的異常に関する情報;尾ヒレ異常なし、性別に関する情報;雌」を示す出力情報♯13を出力している。また、図5の例では、強化学習後の推定モデルMDL14は、ステップS41での入力に応じて、チョウザメFS1は「身体的異常に関する情報;輪郭変異なし、性別に関する情報;雌」を示す出力情報♯14を出力している。
 また、情報処理装置100は、各出力情報に基づいて、チョウザメFS1の行動特徴であって、チョウザメFS1が有する身体的異常に起因する行動特徴を推定する(ステップS42)。また、情報処理装置100は、各出力情報に基づいて、チョウザメFS1の性別も推定する。図5に示す各出力情報(出力情報♯1、♯2、♯3、♯4)によると、チョウザメFS1は、身体的異常として背ヒレ異常を有していることがわかる。また、モデル情報記憶部123によると、身体的異常「背ヒレ異常」に対応する推定モデルは、推定モデルMDL12である。より詳細には、身体的異常「背ヒレ異常」を有するチョウザメの行動情報(身体的異常「背ヒレ異常」が反映された変異体モデルMD12に対する流体シミュレーションにより得られた行動情報)に基づいて、身体的異常「背ヒレ異常」と、身体的異常「背ヒレ異常」があるチョウザメの泳ぎ(行動)との関係性が学習されたモデルが推定モデルMDL12である。また、モデル情報記憶部123によると、推定モデルMDL12で対象とする特徴量(泳ぎの傾向)は「FV12」である。
 このようなことから、情報処理装置100は、チョウザメFS1は「背ヒレ異常」を有していることにより、「FV12」によって示されるような泳ぎの特徴(行動特徴の一例)があると推定する。また、情報処理装置100は、チョウザメFS1の性別は「雌」であると推定する。
 次に、情報処理装置100は、ステップS42での推定結果に基づいて、チョウザメFS1を行動と性別で分類する(ステップS43)。例えば、情報処理装置100は、分類結果記憶部124において、「FV12」に対応する行動グループにチョウザメFS1を所属させるとともに、性別「雌」のグループにチョウザメFS1を所属させるといった処理により、チョウザメFS1を行動と性別で分類する。
 なお、図5では、情報処理装置100が、強化学習後の推定モデルから出力された出力情報に基づき、処理対象のチョウザメの性別を推定する例を示した。しかし、情報処理装置100は、強化学習前の推定モデル(図4のステップS32で生成された推定モデル)による出力情報に基づいて、チョウザメの性別を推定してもよい。
 強化学習前の推定モデルを用いた場合も、情報処理装置100は、チョウザメFS1は「背ヒレ異常」を有していることにより、「FV12」によって示されるような泳ぎの特徴(行動特徴の一例)があると推定する。したがって、係る例では、情報処理装置100は、「FV12」によって示されるような泳ぎの特徴に基づいて、チョウザメFS1の性別を推定する。例えば、「FV12」は「水中の低めに泳ぐ傾向」を示していたとする。また、「水中の低めに泳ぐ」原因として卵を有することによる体重増加が考えられ、結果として、「水中の低めに泳ぐ」チョウザメは雌であると推定できる。したがって、情報処理装置100は、チョウザメFS1が「FV12」が示すような行動をとる原因に基づいて、チョウザメFS1の性別を推定する。係る例では、情報処理装置100は、チョウザメFS1の性別は「雌」であると推定する。
 また、情報処理装置100は、処理対象のチョウザメの行動特徴であって、処理対象の魚が有する身体的異常に起因する行動特徴に基づいて、処理対象のチョウザメが当該行動特徴が示す行動をとる原因をさらに推定してもよい。ここでは、説明の便宜上、「FV12」は「水中をまわりながら泳ぐ」を示していたとする。また、「水中をまわりながら泳ぐ」原因として「酸素不足」であることが予め判明している場合には、情報処理装置100は、チョウザメFS1が「FV12」が示すような行動をとる原因として「酸素不足」を推定する。
 さて、これまで説明してきたように、情報処理装置100は、実施形態に係る推定プログラムに従って、所定の身体的異常を有するチョウザメの行動を示す行動情報を取得し、取得した行動情報と、チョウザメのうち、処理対象のチョウザメの状態を示す状態情報とに基づいて、処理対象の魚の行動特徴であって、処理対象の魚が有する所定の身体的異常に起因する行動特徴を推定する。また、情報処理装置100は、取得した行動情報に基づいて、処理対象のチョウザメの性別を推定する。この点、より詳細には、情報処理装置100は、実施形態に係る推定プログラムに従って、所定の身体的異常が反映されたチョウザメの3Dモデルに対するシミュレーション結果から得られた行動情報、および、雌のチョウザメの行動情報に基づいて、所定の身体的異常と、当該所定の身体的異常があるチョウザメの行動との関係性が学習された推定モデルを生成する。例えば、情報処理装置100は、処理対象のチョウザメの状態情報が入力された場合に、処理対象のチョウザメにおける身体的異常に関する情報と、処理対象のチョウザメの性別に関する情報とを出力するように推定モデルを学習する。
 これにより、実施形態に係る情報処理装置100は、チョウザメを行動グループや性別で容易に分類することができるようになる。また、このような分類の結果、情報処理装置100は、チョウザメの健康状態に関する指標を与えることができるようになるため、例えば、チョウザメが死滅してしまわないよう早期対策を利用者に取らせることができる。また、情報処理装置100は、利用者が雌のチョウザメだけを分離する際の労力(性別判定にかかる労力)や、養殖(飼育)にかかるコストを軽減させることに貢献することができる。
〔9.情報処理装置の構成〕
 次に、図6を用いて、実施形態に係る情報処理装置100について説明する。図6は、実施形態に係る情報処理装置100の構成例を示す図である。図6に示すように、情報処理装置100は、通信部110と、記憶部120と、制御部130とを有する。
(通信部110について)
 通信部110は、例えば、NIC(Network Interface Card)等によって実現される。そして、通信部110は、ネットワークNと有線または無線で接続され、例えば、端末装置10との間で情報の送受信を行う。
(記憶部120について)
 記憶部120は、例えば、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子またはハードディスク、光ディスク等の記憶装置によって実現される。記憶部120は、行動情報記憶部121と、個体情報記憶部122と、モデル情報記憶部123と、分類結果記憶部124とを有する。行動情報記憶部121と、個体情報記憶部122と、モデル情報記憶部123については、説明済みのため以下での詳細な説明は省略する。
(分類結果記憶部124について)
 分類結果記憶部124は、処理対象のチョウザメが行動や性別で分類された分類結果を記憶する。ここで、図8を用いて、実施形態に係る分類結果記憶部124の一例を示す。図8の例では、分類結果記憶部124は、「性別」、「行動グループ」といった項目を有する。また、図5の例では、「性別」には、「雄」および「雌」といった項目が含まれる。また、図5の例では、「行動グループ」には、「FV11」、「FV12」、「FV13」等といった特徴量(泳ぎの傾向)を示す項目が含まれる。
 図6に戻り、制御部130は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等によって、情報処理装置100内部の記憶装置に記憶されている各種プログラム(例えば、実施形態に係る推定プログラム)がRAMを作業領域として実行されることにより実現される。また、制御部130は、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現される。
 図6に示すように、制御部130は、受付部131と、取得部132と、生成部133と、推定部134と、分類部135とを有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、制御部130の内部構成は、図6に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。また、制御部130が有する各処理部の接続関係は、図6に示した接続関係に限られず、他の接続関係であってもよい。
(受付部131について)
 受付部131は、各種情報を受け付ける(取得する)。例えば、受付部131は、3次元モデルに対する流体シミュレーションに基づく行動情報であって、身体的異常を有する特定の魚種が行う行動を仮想的に示す行動情報を受け付ける。図2の例では、受付部131は、胸ヒレ異常を有するチョウザメの泳ぎに関する情報である泳法データ(行動情報の一例)、背ヒレ異常を有するチョウザメの泳ぎに関する情報である泳法データ(行動情報の一例)、尾ヒレ異常を有するチョウザメの泳ぎに関する情報である泳法データ(行動情報の一例)、輪郭変異しているチョウザメの泳ぎに関する情報である泳法データ(行動情報の一例)を端末装置10から受け付けている。
 取得部132は、所定の身体的異常を有する特定の魚種の行動を示す行動情報を取得する。例えば、取得部132は、行動情報として、特定の魚種の行動態様を示す動画像から得られた行動情報を取得する。例えば、取得部132は、動画像として、特定の魚種の実際の筋骨格に応じて特定の魚種の魚体が再現された3次元モデルであって、所定の身体的異常が反映された3次元モデルを動作させた際の行動態様を示す動画像から得られた行動情報を取得する。例えば、取得部132は、行動情報として、所定の身体的異常が個別に反映された各3次元モデルを動作させた際の行動態様を示す各動画像から得られた行動情報をそれぞれ取得する。より詳細には、取得部132は、行動情報として、3次元モデルを動作させたこの動画像上における当該3次元モデルに対する流体シミュレーションに基づく行動情報を取得する。
 また、取得部132は、動画像として、水中で特定の魚種が行動する様子が撮影された動画像から得られた行動情報を取得してもよい。例えば、取得部132は、動画像として、特定の魚種のうち、性別が判明している魚が行動する様子が撮影された動画像から得られた行動情報を取得してもよい。
 例えば、取得部132は、生成部133によりモデル生成処理が行われるタイミングになったと判定した場合には、行動情報記憶部121から上記のような行動情報を取得する。
(生成部133について)
 生成部133は、所定の身体的異常を有する特定の魚種に対応する行動情報に基づいて、当該所定の身体的異常と、当該所定の身体的異常がある特定の魚種の行動との関係性が学習されたモデル(推定モデル)を生成する。例えば、生成部133は、状態情報が入力された場合に、処理対象の魚における所定の身体的異常に関する情報を出力するよう学習することでモデルを生成する。
 例えば、取得部132が、行動情報として、特定の魚種の行動態様を示す動画像から得られた行動情報を取得したとする。係る場合、生成部133は、この動画像から得られた行動情報に基づいて、所定の身体的異常と行動との関係性が学習されたモデルを生成する。より詳細には、取得部132が、行動情報として、所定の身体的異常が個別に反映された各3次元モデルを動作させた際の行動態様を示す各動画像から得られた行動情報をそれぞれ取得したとする。そうすると、生成部133は、この行動情報に基づいて、所定の身体的異常それぞれに対応する複数のモデルを生成する。この点について、図1~図4の例を用いて、より詳細に説明すると、取得部132は、行動情報として、3次元モデルを動作させた動画像上における当該3次元モデルに対する流体シミュレーションに基づく行動情報を取得する。そして、生成部133は、この流体シミュレーションに基づく行動情報が示す、特定の魚種の泳ぎに関する情報を学習データとして、所定の身体的異常と行動との関係性が学習されたモデルを生成する。
 また、生成部133は、水中で前記特定の魚種が行動する様子が撮影された動画像(例えば、特定の魚種のうち、性別が判明している魚が行動する様子が撮影された動画像)から得られた行動情報をさらに用いて、モデルを生成してもよい。係る場合、生成部133は、この行動情報が示す、特定の魚種の泳ぎに関する情報を学習データとして、所定の身体的異常と行動との関係性が学習されたモデルを生成する。
 また、例えば、生成部133は、特定の魚種の行動のうち、所定の身体的異常と関係性を有する行動と性別が判明している魚の行動との類似性に基づき抽出された行動を示す行動情報と、当該所定の身体的異常との関係性が学習されたモデルを生成してもよい。例えば、生成手順は、状態情報が入力された場合に、処理対象の魚の性別に関する情報をさらに出力するよう学習することでモデルを生成する。
(推定部134について)
 推定部134は、取得部132により取得された行動情報と、特定の魚種のうち、処理対象の魚の状態を示す状態情報とに基づいて、処理対象の魚の行動特徴であって、処理対象の魚が有する所定の身体的異常に起因する行動特徴を推定する。例えば、推定部134は、行動情報と、処理対象の魚が行動する様子が撮影された動画像で示される状態情報とに基づいて、行動特徴を推定する。
 例えば、推定部134は、生成部により生成されたモデルと状態情報とに基づいて、所定の身体的異常に起因する行動特徴を推定する。例えば、推定部134は、状態情報を入力としてモデルから出力された身体的異常に関する情報に基づいて、所定の身体的異常に起因する行動特徴を推定する。また、例えば、推定部134は、状態情報を入力としてモデルから出力された性別に関する情報に基づいて、処理対象の魚の性別を推定する。
 また、推定部134は、モデルを用いて推定した行動特徴に基づいて、処理対象の魚の性別をさらに推定してもよい。
(分類部135について)
 分類部135は、モデルを用いて推定した推定結果に基づいて、処理対象の魚を分類する。例えば、分類部135は、モデルを用いて推定した推定結果に基づいて、処理対象の魚を行動または性別で分類する。例えば、分類部135は、図5で説明したように、分類結果記憶部124において、推定した行動特徴(特徴量)に対応する行動グループに処理対象の魚を所属させる。また、分類部135は、推定した性別に対応する性別グループに処理対象の魚を所属させる。
〔10.処理手順〕
 次に、図9を用いて、実施形態に係る推定処理の手順について説明する。図9は、実施形態に係る情報処理手順を示すフローチャートである。なお、図9の例では、特定の魚種はチョウザメであるものとする。また、図9の例では、情報処理装置100の生成部133は、雌のチョウザメが行動する様子が撮影された動画像に基づいて、雌のチョウザメがどのような身体的異常を有するかを示す身体的特徴量と、雌のチョウザメがどのような泳ぎの特徴を有するかを示す行動特徴量とを抽出し、抽出した特徴量を個体情報記憶部122に格納済みであるものとする。
 まず、取得部132は、身体的異常が反映された3Dモデル(変異体モデル)に対して流体シミュレーションが行われたことによるシミュレーション結果に対応する学習データセットを取得する(ステップS101)。例えば、取得部132は、身体的異常が反映された3Dモデルに対する流体シミュレーションにより収集された行動情報(泳法データ)と、当該身体的異常を示す身体情報との組み合わせである学習データセットを取得する。例えば、取得部132は、行動情報記憶部121から学習データセットを取得する。
 次に、生成部133は、取得部132により取得された学習データセットに基づいて、学習データセットごとに推定モデルを生成する(ステップS102)。具体的には、生成部133は、処理対象の1つの学習データセットに含まれる身体的異常を有するチョウザメの行動情報(この学習データセットに含まれる行動情報)に基づいて、当該所定の身体的異常と、当該身体的異常を有するチョウザメの行動との関係性が学習された推定モデルを生成する。例えば、生成部133は、処理対象のチョウザメの状態情報が入力された場合に、処理対象のチョウザメにおける身体的異常に関する情報を出力する推定モデルを生成する。
 また、取得部132は、雌のチョウザメが行動する様子が撮影された動画像から得られた雌のチョウザメに対応する特徴量(身体的特徴量、行動特徴量)を取得する(ステップS103)。例えば、取得部132は、個体情報記憶部122から係る特徴量を取得する。また、取得部132は、どのようなタイミングで係る特徴量を取得してもよい。
 次に、生成部133は、雌のチョウザメに対応する特徴量と、流体シミュレーションから得られた行動情報を用いた学習結果(ステップS102での学習結果)である特徴量とのマッピングにより、流体シミュレーションから得られた行動情報のうち、雌のチョウザメに対応する行動情報を抽出する(ステップS104)。
 次に、生成部133は、抽出した行動情報が示す行動と、抽出した行動情報に対応する身体的異常との関係性に基づいて、処理対象のチョウザメの状態を示す状態情報が入力された場合に、処理対象のチョウザメの性別に関する情報がさらに出力されるよう推定モデルを強化学習する(ステップS105)。
 また、推定部134は、ステップS101~S105により推定モデルが生成された状態において、処理対象のチョウザメについて推定処理するタイミングとなったか否かを判定する(ステップS106)。例えば、推定部134は、処理対象のチョウザメ行動する様子が撮影された動画像の入力の有無に基づいて、処理対象のチョウザメについて推定処理するタイミングとなったか否かを判定する。例えば、推定部134は、処理対象のチョウザメが行動する様子が撮影された動画像の入力を受け付けていない間は(ステップS106;No)、処理対象のチョウザメについて推定処理するタイミングではないと判定し、処理対象のチョウザメについて推定処理するタイミングとなるまで待機する。
 一方、推定部134は、処理対象のチョウザメが行動する様子が撮影された動画像の入力を受け付けていない間は(ステップS106;Yes)、処理対象のチョウザメについて推定処理するタイミングになったと判定し、係る動画像から処理対象のチョウザメの状態情報を抽出し、抽出した状態情報を各推定モデルに入力する(ステップS107)。
 そして、推定部134は、状態情報を入力することにより出力された出力情報に基づいて、処理対象のチョウザメの行動特徴であって、処理対象のチョウザメが有する身体的異常に起因する行動特徴を推定するとともに、処理対象のチョウザメの性別を推定する(ステップS108)。
〔11.ハードウェア構成〕
 また、上記実施形態に係る情報処理装置100は、例えば図10に示すような構成のコンピュータ1000によって実現される。図10は、情報処理装置100の機能を実現するコンピュータ1000の一例を示すハードウェア構成図である。コンピュータ1000は、CPU1100、RAM1200、ROM1300、HDD1400、通信インターフェイス(I/F)1500、入出力インターフェイス(I/F)1600、及びメディアインターフェイス(I/F)1700を有する。
 CPU1100は、ROM1300又はHDD1400に格納されたプログラムに基づいて動作し、各部の制御を行う。ROM1300は、コンピュータ1000の起動時にCPU1100によって実行されるブートプログラムや、コンピュータ1000のハードウェアに依存するプログラム等を格納する。
 HDD1400は、CPU1100によって実行されるプログラム、および、係るプログラムによって使用されるデータ等を格納する。通信インターフェイス1500は、通信網50を介して他の機器からデータを受信してCPU1100へ送り、CPU1100が生成したデータを、通信網50を介して他の機器へ送信する。
 CPU1100は、入出力インターフェイス1600を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置を制御する。CPU1100は、入出力インターフェイス1600を介して、入力装置からデータを取得する。また、CPU1100は、生成したデータを、入出力インターフェイス1600を介して出力装置へ出力する。
 メディアインターフェイス1700は、記録媒体1800に格納されたプログラム又はデータを読み取り、RAM1200を介してCPU1100に提供する。CPU1100は、係るプログラムを、メディアインターフェイス1700を介して記録媒体1800からRAM1200上にロードし、ロードしたプログラムを実行する。記録媒体1800は、例えばDVD(Digital Versatile Disc)、PD(Phase change rewritable Disk)等の光学記録媒体、MO(Magneto-Optical disk)等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
 例えば、コンピュータ1000が実施形態に係る情報処理装置100として機能する場合、コンピュータ1000のCPU1100は、RAM1200上にロードされたプログラムを実行することにより、制御部130の機能を実現する。また、HDD1400には、記憶部120内のデータが格納される。コンピュータ1000のCPU1100は、これらのプログラムを、記録媒体1800から読み取って実行するが、他の例として、他の装置から、通信網50を介してこれらのプログラムを取得してもよい。
〔12.その他〕
 また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
 以上、本願の実施形態をいくつかの図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
 また、上述してきた「部(section、module、unit)」は、「手段」や「回路」などに読み替えることができる。例えば、取得部は、取得手段や取得回路に読み替えることができる。
 100 情報処理装置
 120 記憶部
 121 行動情報記憶部
 122 個体情報記憶部
 123 モデル情報記憶部
 124 分類結果記憶部
 130 制御部
 131 受付部
 132 取得部
 133 生成部
 134 推定部
 135 分類部

Claims (16)

  1.  所定の身体的異常を有する特定の魚種の行動を示す行動情報を取得する取得手順と、
     前記取得手順により取得された行動情報と、前記特定の魚種のうち、処理対象の魚の状態を示す状態情報とに基づいて、前記処理対象の魚の行動特徴であって、前記処理対象の魚が有する前記所定の身体的異常に起因する行動特徴を推定する推定手順と
     をコンピュータに実行させるための推定プログラム。
  2.  前記推定手順は、前記行動情報と、前記処理対象の魚が行動する様子が撮影された動画像で示される前記状態情報とに基づいて、前記所定の身体的異常に起因する行動特徴を推定する
     ことを特徴とする請求項1に記載の推定プログラム。
  3.  前記所定の身体的異常を有する前記特定の魚種に対応する前記行動情報に基づいて、当該所定の身体的異常と、当該所定の身体的異常がある前記特定の魚種の行動との関係性が学習されたモデルを生成する生成手順
     をコンピュータに実行させ、
     前記推定手順は、前記モデルと前記状態情報とに基づいて、前記所定の身体的異常に起因する行動特徴を推定する
     ことを特徴とする請求項1または2に記載の推定プログラム。
  4.  前記生成手順は、前記モデルとして、前記状態情報が入力された場合に、前記処理対象の魚における前記所定の身体的異常に関する情報を出力するモデルを生成し、
     前記推定手順は、前記モデルから出力された情報に基づいて、前記所定の身体的異常に起因する行動特徴を推定する
     ことを特徴とする請求項3に記載の推定プログラム。
  5.  前記取得手順は、前記行動情報として、前記特定の魚種の行動態様を示す動画像から得られた行動情報を取得し、
     前記生成手順は、前記動画像から得られた行動情報に基づいて、前記所定の身体的異常と前記行動との関係性が学習されたモデルを生成する
     ことを特徴とする請求項3または4に記載の推定プログラム。
  6.  前記取得手順は、前記動画像として、前記特定の魚種の実際の筋骨格に応じて前記特定の魚種の魚体が再現された3次元モデルであって、前記所定の身体的異常が反映された3次元モデルを動作させた際の前記行動態様を示す動画像から得られた前記行動情報を取得する
     ことを特徴とする請求項5に記載の推定プログラム。
  7.  前記取得手順は、前記行動情報として、前記所定の身体的異常が個別に反映された各3次元モデルを動作させた際の前記行動態様を示す各動画像から得られた行動情報をそれぞれ取得し、
     前記生成手順は、前記行動情報に基づいて、前記所定の身体的異常それぞれに対応する複数のモデルを生成する
     ことを特徴とする請求項6に記載の推定プログラム。
  8.  前記取得手順は、前記行動情報として、前記3次元モデルを動作させた前記動画像上における当該3次元モデルに対する流体シミュレーションに基づく行動情報を取得し、
     前記生成手順は、前記流体シミュレーションに基づく行動情報が示す、前記特定の魚種の泳ぎに関する情報を学習データとして、前記所定の身体的異常と前記行動との関係性が学習されたモデルを生成する
     ことを特徴とする請求項6または7に記載の推定プログラム。
  9.  前記取得手順は、前記動画像として、水中で前記特定の魚種が行動する様子が撮影された動画像から得られた前記行動情報を取得する
     ことを特徴とする請求項5~8のいずれか1つに記載の推定プログラム。
  10.  前記取得手順は、前記動画像として、前記特定の魚種のうち、性別が判明している魚が行動する様子が撮影された動画像から得られた前記行動情報を取得する
     ことを特徴とする請求項9に記載の推定プログラム。
  11.  前記生成手順は、前記行動情報が示す、前記特定の魚種の泳ぎに関する情報を学習データとして、前記所定の身体的異常と前記行動との関係性が学習されたモデルを生成する
     ことを特徴とする請求項9または10に記載の推定プログラム。
  12.  前記生成手順は、前記特定の魚種の行動のうち、前記所定の身体的異常と関係性を有する行動と性別が判明している魚の行動との類似性に基づき抽出された行動を示す行動情報と、当該所定の身体的異常との関係性が学習されたモデルを生成する
     ことを特徴とする請求項10または11に記載の推定プログラム。
  13.  前記生成手順は、前記モデルとして、前記状態情報が入力された場合に、前記処理対象の魚の性別に関する情報をさらに出力するモデルを生成し、
     前記推定手順は、前記モデルから出力された性別に関する情報に基づいて、前記処理対象の魚の性別を推定する
     ことを特徴とする請求項12に記載の推定プログラム。
  14.  前記推定手順は、推定した行動特徴に基づいて、前記処理対象の魚の性別をさらに推定する
     ことを特徴とする請求項1~13のいずれか1つに記載の推定プログラム。
  15.  情報処理装置が実行する推定方法であって、
     所定の身体的異常を有する特定の魚種の行動を示す行動情報を取得する取得工程と、
     前記取得工程により取得された行動情報と、前記特定の魚種のうち、処理対象の魚の状態を示す状態情報とに基づいて、前記処理対象の魚の行動特徴であって、前記処理対象の魚が有する前記所定の身体的異常に起因する行動特徴を推定する推定工程と
     を含むことを特徴とする推定方法。
  16.  所定の身体的異常を有する特定の魚種の行動を示す行動情報を取得する取得部と、
     前記取得部により取得された行動情報と、前記特定の魚種のうち、処理対象の魚の状態を示す状態情報とに基づいて、前記処理対象の魚の行動特徴であって、前記処理対象の魚が有する前記所定の身体的異常に起因する行動特徴を推定する推定部と
     を有することを特徴とする情報処理装置。
PCT/JP2021/002311 2020-01-23 2021-01-22 推定プログラム、推定方法および情報処理装置 WO2021149816A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US17/792,739 US20230048582A1 (en) 2020-01-23 2021-01-22 Non-transitory computer readable storage, estimation method, and information processing device
EP21745116.0A EP4094576A4 (en) 2020-01-23 2021-01-22 ESTIMATION PROGRAM, ESTIMATION METHOD AND INFORMATION PROCESSING DEVICE

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020-009213 2020-01-23
JP2020009213A JP6945663B2 (ja) 2020-01-23 2020-01-23 推定プログラム、推定方法および情報処理装置

Publications (1)

Publication Number Publication Date
WO2021149816A1 true WO2021149816A1 (ja) 2021-07-29

Family

ID=76992990

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/002311 WO2021149816A1 (ja) 2020-01-23 2021-01-22 推定プログラム、推定方法および情報処理装置

Country Status (4)

Country Link
US (1) US20230048582A1 (ja)
EP (1) EP4094576A4 (ja)
JP (1) JP6945663B2 (ja)
WO (1) WO2021149816A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024069898A1 (ja) * 2022-09-29 2024-04-04 三菱電機株式会社 行動判定装置、行動判定方法、及び行動判定プログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003250382A (ja) * 2002-02-25 2003-09-09 Matsushita Electric Works Ltd 水棲生物の成育状態監視方法及びその装置
JP2011197892A (ja) 2010-03-18 2011-10-06 Hitachi Ltd 画像検索システム
JP2019135986A (ja) * 2018-02-13 2019-08-22 株式会社Aiハヤブサ 人工知能による漁獲物識別システム、管理システム及び物流システム
WO2019198701A1 (ja) * 2018-04-13 2019-10-17 日本電気株式会社 分析装置および分析方法
WO2019198611A1 (ja) * 2018-04-13 2019-10-17 日本電気株式会社 特徴推定装置および特徴推定方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107077626B (zh) * 2014-05-20 2020-06-02 应用先进技术有限公司 动物用非侵入式多模态生物特征辨识系统
KR101598898B1 (ko) * 2015-06-30 2016-03-03 주식회사 글로비트 음향 및 영상분석을 통한 넙치 질병 예방 시스템

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003250382A (ja) * 2002-02-25 2003-09-09 Matsushita Electric Works Ltd 水棲生物の成育状態監視方法及びその装置
JP2011197892A (ja) 2010-03-18 2011-10-06 Hitachi Ltd 画像検索システム
JP2019135986A (ja) * 2018-02-13 2019-08-22 株式会社Aiハヤブサ 人工知能による漁獲物識別システム、管理システム及び物流システム
WO2019198701A1 (ja) * 2018-04-13 2019-10-17 日本電気株式会社 分析装置および分析方法
WO2019198611A1 (ja) * 2018-04-13 2019-10-17 日本電気株式会社 特徴推定装置および特徴推定方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP4094576A4

Also Published As

Publication number Publication date
EP4094576A1 (en) 2022-11-30
JP2021117590A (ja) 2021-08-10
US20230048582A1 (en) 2023-02-16
JP6945663B2 (ja) 2021-10-06
EP4094576A4 (en) 2024-01-24

Similar Documents

Publication Publication Date Title
Singh et al. [Retracted] Hybrid Feature‐Based Disease Detection in Plant Leaf Using Convolutional Neural Network, Bayesian Optimized SVM, and Random Forest Classifier
JP7470203B2 (ja) 水産養殖における分析及び選別
WO2019200735A1 (zh) 牲畜特征向量的提取方法、装置、计算机设备和存储介质
Nasiri et al. Pose estimation-based lameness recognition in broiler using CNN-LSTM network
Tarling et al. Deep learning with self-supervision and uncertainty regularization to count fish in underwater images
Bowler et al. Improving the community-temperature index as a climate change indicator
JP6942764B2 (ja) システム、クライアント端末、その制御方法
KR102470326B1 (ko) 사육 효과를 개선하기 위한 가축의 성장 상태 분석 및 모니터링 방법, 장치 및 시스템
Khojastehkey et al. Body size estimation of new born lambs using image processing and its effect on the genetic gain of a simulated population
Çakir et al. Accuracy assessment of RFerns, NB, SVM, and kNN machine learning classifiers in aquaculture
Na et al. Automatic weight prediction system for Korean cattle using Bayesian ridge algorithm on RGB-D image
WO2021149816A1 (ja) 推定プログラム、推定方法および情報処理装置
CN109558889B (zh) 生猪舒适度分析方法及装置
Wöber et al. Identifying geographically differentiated features of Ethopian Nile tilapia (Oreochromis niloticus) morphology with machine learning
Lee et al. Prediction of average daily gain of swine based on machine learning
Wang et al. Crop pest detection by three-scale convolutional neural network with attention
Burmeister et al. Less is more: A comparison of active learning strategies for 3d medical image segmentation
Foley et al. A Bayesian approach to social structure uncovers cryptic regulation of group dynamics in Drosophila melanogaster
Pistocchi et al. Kernelized Structural Classification for 3D dogs body parts detection
Xie et al. Behavior Recognition of a Broiler Chicken using Long Short-Term Memory with Convolution Neural Networks
Hall An Automated Approach to Bee Identi cation from Wing Venation
Danish Beef Cattle Instance Segmentation Using Mask R-Convolutional Neural Network
Chaudhary et al. An efficient approach for automated system to identify the rice crop disease using intensity level based multi-fractal dimension and twin support vector machine
Xue et al. An analytical framework to predict slaughter traits from images in fish
Shobana Nageswari et al. Tunicate swarm-based grey wolf algorithm for fetal heart chamber segmentation and classification: a heuristic-based optimal feature selection concept

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21745116

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2021745116

Country of ref document: EP

Effective date: 20220823