WO2021056705A1 - 基于语义分割网络的人体外表损伤检测方法及相关设备 - Google Patents

基于语义分割网络的人体外表损伤检测方法及相关设备 Download PDF

Info

Publication number
WO2021056705A1
WO2021056705A1 PCT/CN2019/116542 CN2019116542W WO2021056705A1 WO 2021056705 A1 WO2021056705 A1 WO 2021056705A1 CN 2019116542 W CN2019116542 W CN 2019116542W WO 2021056705 A1 WO2021056705 A1 WO 2021056705A1
Authority
WO
WIPO (PCT)
Prior art keywords
feature map
network
area
picture
mask
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/CN2019/116542
Other languages
English (en)
French (fr)
Inventor
赵霄鸿
刘莉红
刘玉宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Publication of WO2021056705A1 publication Critical patent/WO2021056705A1/zh
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/253—Fusion techniques of extracted features
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0012—Biomedical image inspection
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components

Definitions

  • This application relates to the technical field of image detection, and in particular to a method and related equipment for detecting human body surface damage based on a semantic segmentation network.
  • the first aspect of the present application provides a method for detecting human external surface damage based on a semantic segmentation network.
  • the method includes:
  • the human external surface damage detection result includes a damage area boundary box, a damage type, and a picture mask.
  • the method before the acquiring the image to be detected that needs to be tested for human body surface damage, the method further includes:
  • the original human injury picture, the formatted file, and the picture mask are input into a semantic segmentation network framework model for training, and a trained human injury detection model is obtained.
  • the generating a picture mask according to the pixel values of the polygonal area includes:
  • a picture mask is generated.
  • the inputting the original human injury picture, the formatted file, and the picture mask into a semantic segmentation network framework model for training, and obtaining a trained human injury detection model includes :
  • a human body injury detection model is determined.
  • the determining a human injury detection model according to the mask calculation result, the bounding box coordinate calculation result, and the classification calculation result includes:
  • the initial model after updating the parameters is a trained human injury detection model.
  • the activation function in the backbone network, the regional candidate network, and the output network of the initial model adopts the PRelu function
  • the backbone network adopts the Densenet121 model.
  • the feature fusion of the first feature map extracted by the region candidate network and the second feature map extracted by the output network to obtain the final feature map includes:
  • the first sub-feature map and the second sub-feature map of the same calculation type are merged to obtain a final feature map.
  • a second aspect of the present application provides a device for detecting human body surface damage based on a semantic segmentation network, the device comprising:
  • the acquisition module is used to acquire the pictures to be detected that need to be tested for human body surface damage
  • An input module for inputting the image to be detected into a human body damage detection model based on semantic segmentation
  • An extraction module configured to perform feature extraction through the region candidate network and the output network in the human injury detection model in turn;
  • a fusion module configured to perform feature fusion between the first feature map extracted by the region candidate network and the second feature map extracted by the output network to obtain a final feature map
  • the detection module is configured to perform feature detection on the final feature map to obtain a human external surface damage detection result of the image to be detected, wherein the human external surface damage detection result includes a damage area boundary box, a damage type, and a picture mask.
  • a third aspect of the present application provides an electronic device that includes a processor and a memory, and the processor is configured to execute the computer-readable instructions stored in the memory to implement the human body surface based on the semantic segmentation network Damage detection method.
  • a fourth aspect of the present application provides a non-volatile readable storage medium having computer readable instructions stored on the non-volatile readable storage medium, and when the computer readable instructions are executed by a processor, the A method for detecting human body surface damage based on semantic segmentation network.
  • the final feature map obtained can avoid information in the convolution operation process.
  • the detection accuracy of the model can be effectively improved, and the human external surface damage can be detected more accurately.
  • FIG. 1 is a flowchart of a preferred embodiment of a method for detecting human external surface damage based on a semantic segmentation network disclosed in the present application.
  • Fig. 2 is a functional block diagram of a preferred embodiment of a human body surface damage detection device based on a semantic segmentation network disclosed in the present application.
  • FIG. 3 is a schematic structural diagram of an electronic device implementing a preferred embodiment of a method for detecting human external surface damage based on a semantic segmentation network according to the present application.
  • the method for detecting human body surface damage based on the semantic segmentation network in the embodiments of the present application is applied to electronic equipment, and can also be applied to a hardware environment composed of electronic equipment and a server connected to the electronic equipment through a network.
  • the equipment is executed together.
  • Networks include but are not limited to: wide area network, metropolitan area network or local area network.
  • the server may refer to a computer system that can provide services to other devices (such as electronic devices) in the network.
  • the electronic device is a device that can automatically perform numerical calculation and/or information processing in accordance with pre-set or stored instructions.
  • Its hardware includes, but is not limited to, a microprocessor, an application specific integrated circuit (ASIC), and a field programmable gate. Array (FPGA), digital processor (DSP), embedded device, etc.
  • the electronic equipment may also include network equipment and/or user equipment.
  • the network device includes, but is not limited to, a single network server, a server group composed of multiple network servers, or a cloud composed of a large number of hosts or network servers based on cloud computing.
  • the user equipment includes, but is not limited to, any electronic product that can interact with the user through a keyboard, a mouse, a remote control, a touch panel, or a voice control device, for example, a personal computer, a tablet computer, a smart phone, and a personal digital device. Assistant PDA, etc.
  • FIG. 1 is a flowchart of a preferred embodiment of a method for detecting human external surface damage based on a semantic segmentation network disclosed in the present application. Among them, according to different needs, the order of the steps in the flowchart can be changed, and some steps can be omitted.
  • the electronic device obtains a picture to be detected that needs to be tested for human body surface damage.
  • the picture to be detected is a picture carrying a human body injury area, which may be all pictures of the human body, or may be a picture of a certain part of the human body including the injury area, which is not limited in the embodiment of the present application.
  • the electronic device inputs the image to be detected into the human body damage detection model based on semantic segmentation.
  • the human injury detection model may be a semantic segmentation network based on Mask RCNN (Mask Regions with Convolutional Neural Networks, mask area acquisition based on convolutional neural networks), and the human injury detection model can be able to detect the The foreground target and background of the picture are segmented at the pixel level, which can give a more accurate target area location.
  • Mask RCNN Mask Regions with Convolutional Neural Networks, mask area acquisition based on convolutional neural networks
  • the electronic device sequentially performs feature extraction through the area candidate network and the output network in the human injury detection model.
  • the human injury detection model includes three parts: a backbone network, a regional candidate network, and an output network. Among them, the working principle of each part can be referred to the training part described below, which will not be repeated here.
  • the electronic device needs to perform feature extraction from the backbone network, the regional candidate network, and the output network in the human injury detection model in sequence.
  • the output of the backbone network is used as the input of the regional candidate network
  • the output of the regional candidate network is used as the input of the output network.
  • the three networks work together to achieve feature extraction and damage detection of the human injury detection model.
  • the electronic device performs feature fusion on the first feature map extracted by the region candidate network and the second feature map extracted by the output network to obtain a final feature map.
  • a shortcut connection can be used on the basis of the original Mask-RCNN network to connect the candidate area
  • the first feature map extracted by the network and the second feature map extracted by the output network are feature-fused to obtain the final feature map.
  • the final feature map avoids the loss of information during the convolution operation and can effectively improve the model’s performance. Accuracy.
  • the feature fusion of the first feature map extracted by the region candidate network and the second feature map extracted by the output network to obtain the final feature map includes:
  • the first sub-feature map and the second sub-feature map of the same calculation type are merged to obtain a final feature map.
  • the output network includes three branches, namely a mask calculation branch, a bounding box coordinate calculation branch, and a classification calculation branch. Therefore, the second feature map extracted from the output network includes multiple second sub-feature maps, such as three second sub-feature maps, respectively corresponding to the results output by the above three branches, that is, different second sub-features.
  • the graph corresponds to different calculation types.
  • the damage often contains areas with a small area (pixel values less than 20*20)
  • the first feature map is extracted from the region candidate network
  • the loss of information during the convolution operation can be avoided, and the accuracy of the model can be effectively improved.
  • the electronic device performs feature detection on the final feature map to obtain a human external surface damage detection result of the picture to be detected, wherein the human external surface damage detection result includes a damage area boundary box, a damage type, and a picture mask.
  • the bounding box of the damaged area is the bounding box where the position coordinates of the circumscribed rectangle of the damaged area in the image to be detected are located, and the type of damage is the type of the human body surface damage in the image to be detected, such as soft tissue abrasion. , Soft tissue contusion, soft tissue laceration and subcutaneous hematoma, the picture mask is the boundary contour of the damaged area in the picture to be detected.
  • the method further includes:
  • the original human injury picture, the formatted file, and the picture mask are input into a semantic segmentation network framework model for training, and a trained human injury detection model is obtained.
  • multiple original human injury pictures need to be acquired, and the multiple original human injury pictures may have different injury areas, different injury sizes, and different injury types.
  • the types of injuries on the human body such as soft tissue abrasions, soft tissue contusions, soft tissue lacerations, and subcutaneous hematomas.
  • soft tissue abrasion refers to the direct or indirect violence of soft tissue or skeletal muscle, showing local oozing and edema
  • soft tissue contusion refers to skin damage caused by lateral scraping, and scratches on the skin surface
  • soft tissue laceration refers to multi-directional skin tear Skin and muscle damage caused by fissures, irregular wounds
  • subcutaneous hematoma refers to the blood in the capillaries leaking out of the blood vessels due to external force or other reasons, and accumulates in and under the skin, forming hematomas.
  • the user When labeling, the user needs to select the damage type first, and then use the continuous damaged area as a unit to mark the boundary along the boundary of the damaged area to generate a polygonal area. If there are multiple different types of injuries in the original human injury pictures, they will be marked according to their respective injury types. After the polygon area is determined, the software will automatically save the polygon area and damage type as a formatted file. In addition, different pixel values can be set for the inner and outer areas of the polygonal area, and then the picture mask can be automatically generated according to the pixel values. In the end, the original human injury picture, formatted file and picture mask will all be used as the input of the initial model for initial model training. Wherein, the picture mask is the area contour of the damaged area.
  • the generating a picture mask according to the pixel values of the polygonal area includes:
  • a picture mask is generated.
  • the inner area of the polygonal area may be determined as the target area according to the labeled polygonal area, and the outer area of the polygonal area may be determined as the background area, that is, semantic segmentation is realized.
  • the pixel value of the target area can be set as the first identifier according to the damage type, that is, the pixel value of the target area is the same as the damage type.
  • the pixel value of soft tissue abrasion is 1
  • the pixel value of soft tissue injury is 2
  • the pixel value of subcutaneous hematoma is 3
  • the pixel value of soft tissue laceration is 4, and further, the background area can be set
  • the pixel value is set to the second flag, for example, set to 0.
  • the picture mask can be automatically generated according to the first and second labels marked.
  • the inputting the original human injury picture, the formatted file, and the picture mask into a semantic segmentation network framework model for training, and obtaining a trained human injury detection model includes:
  • a human body injury detection model is determined.
  • the initial model is based on the semantic segmentation network of the Mask RCNN method, and the initial model is mainly divided into three parts: the backbone network, the regional candidate network, and the output network.
  • the backbone network is composed of a convolutional layer and a pooling layer.
  • the original human injury image and the convolutional layer undergo convolution operations to realize the feature extraction of the image
  • the original human injury image and the pooling layer undergo pooling operation to achieve the data dimensionality reduction of the image.
  • the final output of the backbone network is feature maps to be trained, that is, the high-latitude feature matrix. Since human injury pictures are generally large in size, high in resolution, and contain complex information, this solution uses the dense network-121 (Densenet121) model with strong feature extraction capabilities as the backbone network.
  • the network structure also includes residual operations, which can effectively transfer the feature vectors obtained from the shallow operations in the network to the deep layers for merging calculations, and improve the model's ability to fit data.
  • the candidate area network can easily extract the approximate target position.
  • this The scheme adopts the alternate training method as the model training method, that is, the regional candidate network is trained separately from the subsequent output network, and part of it is trained first, and then the rest is trained after the result is stable.
  • the regional candidate network is mainly composed of two branches: foreground background classification and target bounding box regression.
  • RPN takes the feature map to be trained extracted from the backbone network as input, and obtains a new feature map through the convolution operation through the 3*3 convolutional layer, and then connects two 1*1 convolutional layers to realize the above-mentioned branch.
  • the calculation result of the foreground and background classification branch is the probability value corresponding to the foreground or background
  • the result of the target bounding box regression branch is the coordinate value of the bounding box.
  • the network uses the candidate area (Proposal), and compare it with the artificially labeled ground truth, and keep the candidate area with the highest intersection ratio (IOU) and its corresponding feature map as the final output Pass to the output network.
  • the network introduces ROI Align (region of interest alignment), sampling at different points of the feature map, and applying bilinear interpolation to achieve the uniformity of the feature map size.
  • the output network contains three branches, namely the mask calculation branch, the bounding box coordinate calculation branch and the classification calculation branch.
  • a shortcut connection is used to network the candidate areas on the basis of the original Mask-RCNN network.
  • the output feature map is directly connected to the feature map of the output network (weighted sum), which avoids the loss of information during the convolution operation, effectively improves the accuracy of the model, and combines experience, the color and texture in the general image.
  • Information is the main basis for judging the type of damage, which also coincides with the relatively shallower feature information extracted by the candidate area network.
  • the determining the human body injury detection model according to the mask calculation result, the bounding box coordinate calculation result, and the classification calculation result includes:
  • the initial model after updating the parameters is a trained human injury detection model.
  • the loss function of the entire network is composed of the sum of the losses of the three branches in the output network.
  • the preset loss function is calculated to obtain the loss value, and the loss value is passed back to the network through the stochastic gradient descent method, and the parameters of the initial model are updated to achieve model training until the loss value of the loss function reaches the convergence state, that is It can be determined that the initial model after updating the parameters is a trained human injury detection model.
  • the activation function in the backbone network, the regional candidate network, and the output network of the initial model adopts the PRelu function
  • the backbone network adopts the Densenet121 model
  • the pictures to be detected that need to be detected on the external surface of the human body can be obtained first, the pictures to be detected are input into the human body damage detection model based on semantic segmentation, and the human body damage detection model is sequentially passed through Feature extraction is performed on the area candidate network and the output network in the area candidate network, the first feature map extracted by the area candidate network and the second feature map extracted by the output network are feature fused to obtain a final feature map, and the final feature map is Perform feature detection to obtain a detection result of human external surface damage of the picture to be detected, wherein the detection result of human external surface damage includes the boundary box of the damage area, the damage type, and the picture mask.
  • the final feature map obtained can avoid the loss of information during the convolution operation.
  • the feature detection is performed on the final feature map, and the detection result of the human external surface damage of the image to be detected is obtained, which can effectively improve the detection accuracy of the model and more accurately detect the external surface damage of the human body.
  • Fig. 2 is a functional block diagram of a preferred embodiment of a human body surface damage detection device based on a semantic segmentation network disclosed in the present application.
  • the human body surface damage detection device based on the semantic segmentation network runs in an electronic device.
  • the human body surface damage detection device based on the semantic segmentation network may include a plurality of functional modules composed of program code segments.
  • the program code of each program segment in the device for detecting human external surface damage based on the semantic segmentation network can be stored in a memory and executed by at least one processor to execute the human external surface damage based on the semantic segmentation network described in FIG. 1 Part or all of the steps in the detection method.
  • the human body surface damage detection device based on the semantic segmentation network can be divided into multiple functional modules according to the functions it performs.
  • the functional modules may include: an acquisition module 201, an input module 202, an extraction module 203, a fusion module 204, and a detection module 205.
  • the module referred to in this application refers to a series of computer-readable instruction segments that can be executed by at least one processor and can complete fixed functions, and are stored in a memory.
  • the obtaining module 201 is used to obtain a picture to be detected that needs to be tested for human body surface damage.
  • the picture to be detected is a picture carrying a human body injury area, which may be all pictures of the human body, or may be a picture of a certain part of the human body including the injury area, which is not limited in the embodiment of the present application.
  • the input module 202 is configured to input the image to be detected into a human body damage detection model based on semantic segmentation.
  • the human injury detection model may be a semantic segmentation network based on Mask RCNN (Mask Regions with Convolutional Neural Networks, mask area acquisition based on convolutional neural networks), and the human injury detection model can be able to detect the The foreground target and background of the picture are segmented at the pixel level, which can give a more accurate target area location.
  • Mask RCNN Mask Regions with Convolutional Neural Networks, mask area acquisition based on convolutional neural networks
  • the extraction module 203 is configured to perform feature extraction through the region candidate network and the output network in the human injury detection model in sequence.
  • the human injury detection model includes three parts: a backbone network, a regional candidate network, and an output network. Among them, the working principle of each part can be referred to the training part described below, which will not be repeated here.
  • the electronic device needs to perform feature extraction on the backbone network, the regional candidate network, and the output network in the human injury detection model in sequence.
  • the output of the backbone network is used as the input of the regional candidate network
  • the output of the regional candidate network is used as the input of the output network.
  • the three networks work together to achieve feature extraction and damage detection of the human injury detection model.
  • the fusion module 204 is configured to perform feature fusion between the first feature map extracted by the region candidate network and the second feature map extracted by the output network to obtain a final feature map.
  • a shortcut connection can be used on the basis of the original Mask-RCNN network to combine the candidate areas
  • the first feature map extracted by the network and the second feature map extracted by the output network are feature-fused to obtain the final feature map.
  • the final feature map avoids the loss of information during the convolution operation process and can effectively improve the model’s performance. Accuracy.
  • the detection module 205 is configured to perform feature detection on the final feature map to obtain a human surface damage detection result of the picture to be detected, wherein the human surface damage detection result includes the damage area boundary box, damage type, and picture mask .
  • the bounding box of the damaged area is the bounding box where the position coordinates of the circumscribed rectangle of the damaged area in the image to be detected are located, and the type of damage is the type of the human body surface damage in the image to be detected, such as soft tissue abrasion. , Soft tissue contusion, soft tissue laceration and subcutaneous hematoma, the picture mask is the boundary contour of the damaged area in the picture to be detected.
  • the acquiring module 201 is also used to acquire multiple original human injury pictures that require model training;
  • the device for detecting human body surface damage based on the semantic segmentation network may further include:
  • a receiving module configured to receive the polygonal area input by the user for boundary annotation of the damaged area of each original human body damage picture, and to receive the damage type input by the user for the original human body damaged area;
  • the saving module is used to save the polygon area and the damage type into a formatted file
  • a generating module configured to generate a picture mask according to the pixel value of the polygon area
  • the training module is used to input the original human injury picture, the formatted file, and the picture mask into the semantic segmentation network framework model for training to obtain a trained human injury detection model.
  • multiple original human injury pictures need to be acquired, and the multiple original human injury pictures may have different injury areas, different injury sizes, and different injury types.
  • the types of injuries on the human body such as soft tissue abrasions, soft tissue contusions, soft tissue lacerations, and subcutaneous hematomas.
  • soft tissue abrasion refers to the direct or indirect violence of soft tissue or skeletal muscle, showing local oozing and edema
  • soft tissue contusion refers to skin damage caused by lateral scraping, and scratches on the skin surface
  • soft tissue laceration refers to multi-directional skin tear Skin and muscle damage caused by fissures, irregular wounds
  • subcutaneous hematoma refers to the blood in the capillaries leaking out of the blood vessels due to external force or other reasons, and accumulates in and under the skin, forming hematomas.
  • the user When labeling, the user needs to select the damage type first, and then use the continuous damaged area as a unit to mark the boundary along the boundary of the damaged area to generate a polygonal area. If there are multiple different types of injuries in the original human injury pictures, they will be marked according to their respective injury types. After the polygon area is determined, the software will automatically save the polygon area and damage type as a formatted file. In addition, different pixel values can be set for the inner and outer areas of the polygonal area, and then the picture mask can be automatically generated according to the pixel values. In the end, the original human injury picture, formatted file and picture mask will all be used as the input of the initial model for initial model training. Wherein, the picture mask is the area contour of the damaged area.
  • the method for the generating module to generate the picture mask according to the pixel values of the polygonal area is specifically as follows:
  • a picture mask is generated.
  • the inner area of the polygonal area may be determined as the target area according to the labeled polygonal area, and the outer area of the polygonal area may be determined as the background area, that is, semantic segmentation is realized.
  • the pixel value of the target area can be set as the first identifier according to the damage type, that is, the pixel value of the target area is the same as the damage type.
  • the pixel value of soft tissue abrasion is 1
  • the pixel value of soft tissue injury is 2
  • the pixel value of subcutaneous hematoma is 3
  • the pixel value of soft tissue laceration is 4.
  • the pixel value is set to the second flag, for example, set to 0.
  • the picture mask can be automatically generated according to the first and second labels marked.
  • the training module includes:
  • An operation sub-module configured to perform convolution and pooling operations on the original human injury image through the backbone network in the initial model to obtain a feature map to be trained;
  • a training sub-module configured to use an alternate training method to sequentially input the feature map to be trained, the format file, and the picture mask into the region candidate network and the output network in the human injury detection model for training;
  • the determining sub-module is configured to determine a human body injury detection model according to the mask calculation result, the bounding box coordinate calculation result, and the classification calculation result.
  • the initial model is based on the semantic segmentation network of the Mask RCNN method, and the initial model is mainly divided into three parts: a backbone network, a regional candidate network, and an output network.
  • the backbone network is composed of a convolutional layer and a pooling layer.
  • the original human injury image and the convolutional layer undergo convolution operations to realize the feature extraction of the image
  • the original human injury image and the pooling layer undergo pooling operation to achieve the data dimensionality reduction of the image.
  • the final output of the backbone network is feature maps to be trained, that is, the high-latitude feature matrix. Since human injury pictures are generally large in size, high in resolution, and contain complex information, this solution uses the dense network-121 (Densenet121) model with strong feature extraction capabilities as the backbone network.
  • the network structure also includes residual operations, which can effectively transfer the feature vectors obtained from the shallow operations in the network to the deep layers for merging calculations, and improve the model's ability to fit data.
  • the candidate area network can easily extract the approximate target position.
  • this The scheme adopts the alternate training method as the model training method, that is, the regional candidate network is trained separately from the subsequent output network, and part of it is trained first, and then the rest is trained after the result is stable.
  • the regional candidate network is mainly composed of two branches: foreground background classification and target bounding box regression.
  • RPN takes the feature map to be trained extracted from the backbone network as input, and obtains a new feature map through the convolution operation through the 3*3 convolutional layer, and then connects two 1*1 convolutional layers to realize the above-mentioned branch.
  • the calculation result of the foreground and background classification branch is the probability value corresponding to the foreground or background
  • the result of the target bounding box regression branch is the coordinate value of the bounding box.
  • the network uses the candidate area (Proposal), and compare it with the artificially labeled ground truth, and keep the candidate area with the highest intersection ratio (IOU) and its corresponding feature map as the final output Pass to the output network.
  • the network introduces ROI Align (region of interest alignment), sampling at different points of the feature map, and applying bilinear interpolation to achieve the uniformity of the feature map size.
  • the output network contains three branches, namely the mask calculation branch, the bounding box coordinate calculation branch and the classification calculation branch.
  • a shortcut connection is used to network the candidate areas on the basis of the original Mask-RCNN network.
  • the output feature map is directly connected to the feature map of the output network (weighted sum), which avoids the loss of information during the convolution operation, effectively improves the accuracy of the model, and combines experience, the color and texture in the general image.
  • Information is the main basis for judging the type of damage, which also coincides with the relatively shallower feature information extracted by the candidate area network.
  • the method for the determining sub-module to determine the human injury detection model according to the mask calculation result, the bounding box coordinate calculation result, and the classification calculation result is specifically as follows:
  • the initial model after updating the parameters is a trained human injury detection model.
  • the loss function of the entire network is composed of the sum of the losses of the three branches in the output network.
  • the preset loss function is calculated to obtain the loss value, and the loss value is passed back to the network through the stochastic gradient descent method, and the parameters of the initial model are updated to achieve model training until the loss value of the loss function reaches the convergence state, that is It can be determined that the initial model after updating the parameters is a trained human injury detection model.
  • the activation function in the backbone network, the regional candidate network, and the output network of the initial model adopts the PRelu function
  • the backbone network adopts the Densenet121 model
  • the fusion module 204 performs feature fusion on the first feature map extracted by the region candidate network and the second feature map extracted by the output network, and the method for obtaining the final feature map is specifically as follows:
  • the first sub-feature map and the second sub-feature map of the same calculation type are merged to obtain a final feature map.
  • the output network includes three branches, namely a mask calculation branch, a bounding box coordinate calculation branch, and a classification calculation branch. Therefore, the second feature map extracted from the output network includes multiple second sub-feature maps, such as three second sub-feature maps, respectively corresponding to the results output by the above three branches, that is, different second sub-features.
  • the graph corresponds to different calculation types.
  • the damage often contains areas with a small area (pixel values less than 20*20)
  • the first feature map is extracted from the region candidate network
  • the loss of information during the convolution operation can be avoided, and the accuracy of the model can be effectively improved.
  • the image to be detected that needs to be detected on the external surface damage of the human body can be obtained first, and the image to be detected can be input into the human damage detection model based on semantic segmentation, Feature extraction is performed sequentially through the regional candidate network and the output network in the human injury detection model, and the first feature map extracted by the regional candidate network and the second feature map extracted by the output network are feature-fused to obtain the final feature Figure, performing feature detection on the final feature map to obtain a human external surface damage detection result of the picture to be detected, wherein the human external surface damage detection result includes the boundary box of the damage area, the damage type, and the picture mask.
  • the final feature map obtained can avoid the loss of information during the convolution operation.
  • the feature detection is performed on the final feature map, and the detection result of the human external surface damage of the image to be detected is obtained, which can effectively improve the detection accuracy of the model and more accurately detect the external surface damage of the human body.
  • FIG. 3 is a schematic structural diagram of an electronic device implementing a preferred embodiment of a method for detecting human external surface damage based on a semantic segmentation network according to the present application.
  • the electronic device 3 includes a memory 31, at least one processor 32, computer readable instructions 33 stored in the memory 31 and executable on the at least one processor 32, and at least one communication bus 34.
  • FIG. 3 is only an example of the electronic device 3, and does not constitute a limitation on the electronic device 3. It may include more or less components than those shown in the figure, or a combination. Certain components, or different components, for example, the electronic device 3 may also include input and output devices, network access devices, and so on.
  • the at least one processor 32 may be a central processing unit (Central Processing Unit, CPU), or other general-purpose processors, digital signal processors (Digital Signal Processors, DSPs), and application specific integrated circuits (ASICs). ), Field-Programmable Gate Array (FPGA) or other programmable logic devices, discrete gates or transistor logic devices, discrete hardware components, etc.
  • the processor 32 can be a microprocessor or the processor 32 can also be any conventional processor, etc.
  • the processor 32 is the control center of the electronic device 3, and connects the entire electronic device 3 through various interfaces and lines. The various parts.
  • the memory 31 may be used to store the computer-readable instructions 33 and/or modules/units, and the processor 32 runs or executes the computer-readable instructions and/or modules/units stored in the memory 31, and The data stored in the memory 31 is called to realize various functions of the electronic device 3.
  • the memory 31 may mainly include a storage program area and a storage data area.
  • the storage program area may store an operating system, an application program required by at least one function (such as a sound playback function, an image playback function, etc.), etc.; the storage data area may The data (such as audio data) created according to the use of the electronic device 3 and the like are stored.
  • the memory 31 may include non-volatile memory, such as a hard disk, a memory, a plug-in hard disk, a smart memory card (Smart Media Card, SMC), a Secure Digital (SD) card, a flash memory card (Flash Card), At least one magnetic disk storage device, flash memory device, or other non-volatile solid state storage device.
  • non-volatile memory such as a hard disk, a memory, a plug-in hard disk, a smart memory card (Smart Media Card, SMC), a Secure Digital (SD) card, a flash memory card (Flash Card), At least one magnetic disk storage device, flash memory device, or other non-volatile solid state storage device.
  • the memory 31 in the electronic device 3 stores multiple instructions to implement a method for detecting human body surface damage based on a semantic segmentation network, and the processor 32 can execute the multiple instructions to achieve:
  • the human external surface damage detection result includes a damage area boundary box, a damage type, and a picture mask.
  • the picture to be detected that needs to be detected on the external surface of the human body may be obtained first, and the picture to be detected may be input into the human body damage detection model based on semantic segmentation, and then pass the human body damage detection in turn.
  • the regional candidate network and the output network in the model perform feature extraction.
  • the first feature map extracted by the regional candidate network and the second feature map extracted by the output network are feature-fused to obtain a final feature map.
  • the image performs feature detection to obtain the human external surface damage detection result of the image to be detected, wherein the human external surface damage detection result includes the boundary box of the damage area, the damage type, and the picture mask.
  • the final feature map obtained can avoid the loss of information during the convolution operation.
  • the feature detection is performed on the final feature map, and the detection result of the human external surface damage of the image to be detected is obtained, which can effectively improve the detection accuracy of the model and more accurately detect the external surface damage of the human body.
  • the integrated module/unit of the electronic device 3 is implemented in the form of a software functional unit and sold or used as an independent product, it can be stored in a non-volatile readable storage medium.
  • this application implements all or part of the processes in the above-mentioned embodiments and methods, and can also be completed by instructing relevant hardware through computer-readable instructions.
  • the computer-readable instructions may be stored in a non-volatile memory.
  • the computer-readable instruction code may be in the form of source code, object code, executable file, or some intermediate forms, etc.
  • the non-volatile readable medium may include: any entity or device capable of carrying the computer readable instruction code, recording medium, U disk, mobile hard disk, magnetic disk, optical disk, computer memory, read-only memory (ROM, Read-Only Memory).
  • modules described as separate components may or may not be physically separated, and the components displayed as modules may or may not be physical units, that is, they may be located in one place, or they may be distributed on multiple network units. Some or all of the modules can be selected according to actual needs to achieve the objectives of the solutions of the embodiments.
  • the functional modules in the various embodiments of the present application may be integrated into one processing unit, or each unit may exist alone physically, or two or more units may be integrated into one unit.
  • the above-mentioned integrated unit may be implemented in the form of hardware, or may be implemented in the form of hardware plus software functional modules.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Biomedical Technology (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Biophysics (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

一种基于语义分割网络的人体外表损伤检测方法、装置、电子设备及存储介质，所述方法包括：获取需要进行人体外表损伤检测的待检测图片；将所述待检测图片输入至基于语义分割的人体损伤检测模型中；依次通过人体损伤检测模型中的区域候选网络以及输出网络进行特征提取；将区域候选网络提取的第一特征图与输出网络提取的第二特征图进行特征融合，获得最终特征图；对最终特征图进行特征检测，获得待检测图片的人体外表损伤检测结果，其中，人体外表损伤检测结果包括损伤区域边界框、损伤类型及图片掩膜。能更加精确地对人体外表损伤进行检测。

Description

基于语义分割网络的人体外表损伤检测方法及相关设备
本申请要求于2019年09月23日提交中国专利局，申请号为201910901600.8发明名称为“基于语义分割网络的人体外表损伤检测方法及相关设备”的中国专利申请的优先权，其全部内容通过引用结合在本申请。
技术领域
本申请涉及图片检测技术领域，尤其涉及一种基于语义分割网络的人体外表损伤检测方法及相关设备。
背景技术
近年来，计算机视觉作为人工智能的一个重要领域，在人们日常生活中起到越来越重要的作用。尤其在医疗领域，计算机视觉已经有了较为广泛的引用，例如：基于计算机视觉的肺尘病检测、乳腺癌检测等。
实践中发现，在对人体外表损伤进行鉴定时，通常采用计算机视觉中的目标检测方法，如Faster-RCNN、SSD、YOLO等，这种目标检测方法一般只能将目标物体限定在固定形状内(一般为矩形)，而人体外表损伤通常为尺寸不固定的不规则形状，基于上述目标检测方法的检测结果会包含较多的无关背景区域，在以面积作为鉴定标准的损伤鉴定中，这些误差将对结果产生较大影响。
因此，如何更加精确地对人体外表损伤进行检测是一个亟待解决的技术问题。
发明内容
鉴于以上内容，有必要提供一种基于语义分割网络的人体外表损伤检测方法及相关设备，能够更加精确地对人体外表损伤进行检测。
本申请的第一方面提供一种基于语义分割网络的人体外表损伤检测方法，所述方法包括：
获取需要进行人体外表损伤检测的待检测图片；
将所述待检测图片输入至基于语义分割的人体损伤检测模型中；
依次通过所述人体损伤检测模型中的区域候选网络以及输出网络进行特征提取；
将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图；
对所述最终特征图进行特征检测，获得所述待检测图片的人体外表损伤检测结果，其中，所述人体外表损伤检测结果包括损伤区域边界框、损伤类型及图片掩膜。
在一种可能的实现方式中，所述获取需要进行人体外表损伤检测的待检测图片之前，所述方法还包括：
获取多个需要进行模型训练的原始人体损伤图片；
接收用户对每个所述原始人体损伤图片的受损区域进行边界标注输入的多边形区域，以及接收用户针对所述原始人体受损区域输入的损伤类型；
将所述多边形区域以及所述损伤类型保存成格式化文件；
根据所述多边形区域的像素值，生成图片掩膜；
将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至语义分割网络框架模型中进行训练，获得训练好的人体损伤检测模型。
在一种可能的实现方式中，所述根据所述多边形区域的像素值，生成图片掩膜包括：
根据所述多边形区域，将所述多边形区域的内部区域确定为目标区域，以及将所述多边形区域的外部区域确定为背景区域；
按照所述损伤类型，将所述目标区域的像素值设置为第一标识，以及将所述背景区域的像素值设置为第二标识；
根据所述第一标识以及所述第二标识，生成图片掩膜。
在一种可能的实现方式中，所述将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至语义分割网络框架模型中进行训练，获得训练好的人体损伤检测模型包括：
将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至初始模型；
通过所述初始模型中的骨干网络对所述原始人体损伤图片进行卷积运算以及池化运算，获得待训练特征图；
采用交替训练方法，将所述待训练特征图、所述格式化文件以及所述图片掩膜依次输入至所述人体损伤检测模型中的区域候选网络以及输出网络进行训练；
获取所述输出网络输出的掩膜计算结果、边界框坐标计算结果以及分类计算结果；
根据所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果，确定人体损伤检测模型。
在一种可能的实现方式中，所述根据所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果，确定人体损伤检测模型包括：
将所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果输入至预设的损失函数进行计算，获得损失值；
根据所述损失值，使用随机梯度下降算法，更新所述初始模型的参数；
若所述损失函数的损失值达到收敛状态，确定更新参数后的初始模型为训练好的人体损伤检测模型。
在一种可能的实现方式中，所述初始模型的骨干网络、区域候选网络以及输出网络中的激活函数采用PRelu函数，所述骨干网络采用Densenet121模型。
在一种可能的实现方式中，所述将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图包括：
将所述区域候选网络提取的第一特征图拆分成多个第一子特征图；
确定每个所述第一子特征图的计算类型；
从所述输出网络提取的第二特征图中获取多个第二子特征图；
确定每个所述第二子特征图的计算类型；
将相同计算类型的所述第一子特征图以及所述第二子特征图进行融合，获得最终特征图。
本申请的第二方面提供一种基于语义分割网络的人体外表损伤检测装置，所述装置包括：
获取模块，用于获取需要进行人体外表损伤检测的待检测图片；
输入模块，用于将所述待检测图片输入至基于语义分割的人体损伤检测模型中；
提取模块，用于依次通过所述人体损伤检测模型中的区域候选网络以及输出网络进行特征提取；
融合模块，用于将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图；
检测模块，用于对所述最终特征图进行特征检测，获得所述待检测图片的人体外表损伤检测结果，其中，所述人体外表损伤检测结果包括损伤区域边界框、损伤类型及图片掩膜。
本申请的第三方面提供一种电子设备，所述电子设备包括处理器和存储器，所述处理器用于执行所述存储器中存储的计算机可读指令时实现所述的基于语义分割网络的人体外表损伤检测方法。
本申请的第四方面提供一种非易失性可读存储介质，所述非易失性可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现所述的基于语义分割网络的人 体外表损伤检测方法。
由以上技术方案，本申请中，通过将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得的最终特征图能够避免卷积运算过程中信息的丢失，通过对所述最终特征图进行特征检测，获得所述待检测图片的人体外表损伤检测结果，能够有效的提高了模型的检测精度，更加精确地对人体外表损伤进行检测。
附图说明
图1是本申请公开的一种基于语义分割网络的人体外表损伤检测方法的较佳实施例的流程图。
图2是本申请公开的一种基于语义分割网络的人体外表损伤检测装置的较佳实施例的功能模块图。
图3是本申请实现基于语义分割网络的人体外表损伤检测方法的较佳实施例的电子设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中在本申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请。
本申请实施例的基于语义分割网络的人体外表损伤检测方法应用在电子设备中，也可以应用在电子设备和通过网络与所述电子设备进行连接的服务器所构成的硬件环境中，由服务器和电子设备共同执行。网络包括但不限于：广域网、城域网或局域网。
其中，服务器可以是指能对网络中其它设备(如电子设备)提供服务的计算机系统。
所述电子设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、数字处理器(DSP)、嵌入式设备等。所述电子设备还可包括网络设备和/或用户设备。其中，所述网络设备包括但不限于单个网络服务器、多个网络服务器组成的服务器组或基于云计算(Cloud Computing)的由大量主机或网络服务器构成的云。所述用户设备包括但不限于任何一种可与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互的电子产品，例如，个人计算机、平板电脑、智能手机、个人数字助理PDA等。
图1是本申请公开的一种基于语义分割网络的人体外表损伤检测方法的较佳实施例的流程图。其中，根据不同的需求，该流程图中步骤的顺序可以改变，某些步骤可以省略。
S11、电子设备获取需要进行人体外表损伤检测的待检测图片。
其中，所述待检测图片为携带有人体损伤区域的图片，可以为人体的全部图片，也可以为包括损伤区域的人体中某个部位的图片，本申请实施例不做限定。
S12、电子设备将所述待检测图片输入至基于语义分割的人体损伤检测模型中。
其中，所述人体损伤检测模型可以是基于Mask RCNN(Mask Regions with Convolutional Neural Networks，基于卷积神经网络的掩膜区域获取)方法的语义分割网络，所述人体损伤检测模型能够将所述待检测图片的前景目标与背景从像素级别进行分割，进而可以给出更精准的目标区域定位。
S13、电子设备依次通过所述人体损伤检测模型中的区域候选网络以及输出网络进行特征提取。
其中，所述人体损伤检测模型包括三个部分：骨干网络、区域候选网络以及输出网络。其中，每个部分的工作原理可以参见下文所述的训练部分，在此不再赘述。
可选的，电子设备需要依次从所述人体损伤检测模型中的骨干网络、区域候选网络以及输出网络进行特征提取。
其中，骨干网络的输出作为区域候选网络的输入，区域候选网络的输出作为输出网络的输入，三个网络共同协作，实现对所述人体损伤检测模型的特征提取及损伤检测。
S14、电子设备将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图。
由于损伤中常包含面积较小的区域(像素值小于20*20)，为了增强模型对此类数据的拟合能力，可以在原始Mask-RCNN网络的基础上利用快捷连接(shortcut connection)将候选区域网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图，其中，所述最终特征图避免了卷积运算过程中信息的丢失，能够有效提高模型的精度。
具体的，所述将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图包括：
将所述区域候选网络提取的第一特征图拆分成多个第一子特征图；
确定每个所述第一子特征图的计算类型；
从所述输出网络提取的第二特征图中获取多个第二子特征图；
确定每个所述第二子特征图的计算类型；
将相同计算类型的所述第一子特征图以及所述第二子特征图进行融合，获得最终特征图。
其中，所述输出网络包括3个分支，分别为掩膜计算分支，边界框坐标计算分支和分类计算分支。因此，从所述输出网络提取的第二特征图中包括多个第二子特征图，比如三个第二子特征图，分别对应上述三个分支所输出的结果，即不同的第二子特征图对应不同的计算类型。此外，由于损伤中常包含面积较小的区域(像素值小于20*20)，为了增强模型对此类数据的拟合能力，在从所述区域候选网络提取的第一特征图后，需要根据所述输出网络的三个分支，将所述第一特征图拆分成多个第一子特征图(比如三个第一子特征图)，不同的第一子特征图对应不同的计算类型，比如掩膜计算类型、边界框坐标计算类型和分类计算类型，之后，可以将相同计算类型的所述第一子特征图以及所述第二子特征图进行融合，获得最终特征图。这样可以避免卷积运算过程中信息的丢失，有效的提高了模型的精度。
S15、电子设备对所述最终特征图进行特征检测，获得所述待检测图片的人体外表损伤检测结果，其中，所述人体外表损伤检测结果包括损伤区域边界框、损伤类型及图片掩膜。
其中，所述损伤区域边界框为所述待检测图片中受损区域外接矩形的位置坐标所在的边界框，所述损伤类型即所述待检测图片中的人体外表损伤的类型，比如软组织擦伤、软组织挫伤、软组织裂伤及皮下血肿，所述图片掩膜即所述待检测图片中受损区域的边界轮廓。
作为一种可选的实施方式，步骤S11之前，所述方法还包括：
获取多个需要进行模型训练的原始人体损伤图片；
接收用户对每个所述原始人体损伤图片的受损区域进行边界标注输入的多边形区域，以及接收用户针对所述原始人体受损区域输入的损伤类型；
将所述多边形区域以及所述损伤类型保存成格式化文件；
根据所述多边形区域的像素值，生成图片掩膜；
将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至语义分割网络框架模型中进行训练，获得训练好的人体损伤检测模型。
在该可选的实施方式中，在进行模型训练前，需要获取多个原始人体损伤图片，该多个原始人体损伤图片可以具有不同的损伤区域，不同的损伤大小，不同的损伤类型。其中，可以预先定义人体外表的损伤类型，比如：软组织擦伤、软组织挫伤、软组织裂伤及皮下血肿。其中，软组织擦伤指软组织或骨骼肌肉受到直接或间接暴力，呈局部渗血、水肿状；软组织挫伤指横向擦刮造成的皮肤损伤，皮肤表面出现划痕；软组织裂伤指皮肤多方位的撕裂造成的皮肤及肌肉损伤，伤口不规则；皮下血肿指毛细血管中的血液受外力或其他原因渗出血管外，积聚在皮肤内及皮肤下，形成血肿。
具体的，可以事先按照上述定义的损伤类型在开源标注工具SLOTH中添加相应的标注标签，同时，将软件中标签的读取方式从原始的硬编码(hard-code)改为从.json文件中动态获取，这样不但使得软件适用于损伤检测场景，同时标签的动态获取也使得软件具有可扩展性，方便以后损伤类别的增删和更改。
标注时，用户需要先选择损伤类型，然后以连续的受损区域为单位，沿受损区域边界进行边界标注，生成多边形区域。如果原始人体损伤图片中存在多种不同类型的损伤，将分别按各自损伤类型进行标注。多边形区域确定后，软件会自动将多边形区域和损伤类型保存成格式化文件。另外，还可以将所述多边形区域的内外区域设置不同的像素值，进而根据像素值来自动生成图片掩膜。最终，原始人体损伤图片、格式化文件及图片掩膜将全部作为初始模型的输入，供初始模型训练。其中，所述图片掩膜即受损区域的区域轮廓。
具体的，所述根据所述多边形区域的像素值，生成图片掩膜包括：
根据所述多边形区域，将所述多边形区域的内部区域确定为目标区域，以及将所述多边形区域的外部区域确定为背景区域；
按照所述损伤类型，将所述目标区域的像素值设置为第一标识，以及将所述背景区域的像素值设置为第二标识；
根据所述第一标识以及所述第二标识，生成图片掩膜。
在该可选的实施方式中，可以根据标注的所述多边形区域，将所述多边形区域的内部区域确定为目标区域，以及将所述多边形区域的外部区域确定为背景区域，即实现了语义分割方法中前景目标与背景之间的明确分界，进一步地，可以按照所述损伤类型，将所述目标区域的像素值设置为第一标识，即所述目标区域的像素值与所述损伤类型相对应，比如：软组织擦伤置像素值为1，软组织损伤置像素值为2，皮下血肿置像素值为3，软组织裂伤置像素值为4，更进一步地，即可将所述背景区域的像素值设置为第二标识，比如置为0。最后，可以根据标注的第一标识和第二标识，自动生成图片掩膜。
具体的，所述将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至语义分割网络框架模型中进行训练，获得训练好的人体损伤检测模型包括：
将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至初始模型；
通过所述初始模型中的骨干网络对所述原始人体损伤图片进行卷积运算以及池化运算，获得待训练特征图；
采用交替训练方法，将所述待训练特征图、所述格式化文件以及所述图片掩膜依次输入至所述人体损伤检测模型中的区域候选网络以及输出网络进行训练；
获取所述输出网络输出的掩膜计算结果、边界框坐标计算结果以及分类计算结果；
根据所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果，确定人体损伤检测模型。
其中，所述初始模型基于Mask RCNN方法的语义分割网络，所述初始模型主要分 为三个部分：骨干网络、区域候选网络以及输出网络。
其中，所述骨干网络由卷积层和池化层等组成。原始人体损伤图片与卷积层发生卷积运算，实现了对图片的特征提取，原始人体损伤图片与池化层发生池化运算，实现了对图片的数据降维。骨干网络的最终输出为待训练特征图(feature maps),即高纬度的特征矩阵。由于人体损伤图片一般尺寸较大，分辨率较高，包含信息复杂，因此本方案采用特征提取能力较强的密集型网络-121(Densenet121)模型作为骨干网络。该网络结构还包含残差运算，可以有效地将网络中浅层运算得到的特征向量传递至深层中进行合并计算，提高模型对数据的拟合能力。
其中，由于人体损伤检测场景中损伤部位一般与正常部位有明显的颜色、形状上的差异，因此一般情况下候选区域网络可以比较容易的提取大致目标位置，同时为了缩短初始模型的训练时间，本方案采用交替训练方法作为模型训练方法，即将区域候选网络与后面的输出网络分开训练，先训练其中的一部分，待结果稳定后再训练其余部分。
其中，区域候选网络(RPN)主要由前景背景分类和目标边界框回归两个分支组成。RPN以骨干网络提取的待训练特征图作为输入，经3*3的卷积层通过卷积运算得到新的特征图，之后分别连接两个1*1的卷积层来实现上述分支。其中前景背景分类分支的计算结果是前景或背景对应的概率值，而目标边界框回归分支的结果是边界框的坐标值。综合上述两个分支的计算结果，得到候选区域(Proposal),并与人工标注的真实值(ground truth)进行比对，保留交并比(IOU)最高的候选区域其对应特征图作为最终的输出传递至输出网络。其中，为了保证区域候选网络输出的特征图尺寸统一，网络引入了ROI Align(感兴趣区域对齐)，在特征图的不同点采样，并应用双线性插值运算实现特征图尺寸的统一化。
其中，为了得到精细的输出结果，还需要经过输出网络对RPN网络得到的尺寸统一的特征图进行进一步计算。输出网络共包含三个分支，分别为掩膜计算分支，边界框坐标计算分支和分类计算分支。其中，此外，由于损伤中常包含面积较小的区域(像素值小于20*20)，为了增强模型对此类数据的拟合能力，在原始Mask-RCNN网络的基础上利用shortcut connection将候选区域网络的输出特征图与输出网络的特征图直接连接(加权和)，这样避免了卷积运算过程中信息的丢失，有效的提高了模型的精度，而且结合经验，一般图像中的颜色、纹理等基础信息是判断损伤类型的主要依据，这也正好与候选区域网络提取的相对更浅层的特征信息相吻合。
具体的，所述根据所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果，确定人体损伤检测模型包括：
将所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果输入至预设的损失函数进行计算，获得损失值；
根据所述损失值，使用随机梯度下降算法，更新所述初始模型的参数；
若所述损失函数的损失值达到收敛状态，确定更新参数后的初始模型为训练好的人体损伤检测模型。
其中，整个网络的损失函数由输出网络中的三个分支各自的损失加和构成。在获取到所述输出网络输出的掩膜计算结果、边界框坐标计算结果以及分类计算结果之后，还需要将所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果输入至预设的损失函数进行计算，获得损失值，通过随机梯度下降方法将损失值反传给网络，更新所述初始模型的参数，实现模型训练，直至所述损失函数的损失值达到收敛状态，即可确定更新参数后的初始模型为训练好的人体损伤检测模型。
可选的，所述初始模型的骨干网络、区域候选网络以及输出网络中的激活函数采用PRelu函数，所述骨干网络采用Densenet121模型。
在图1所描述的方法流程中，可以先获取需要进行人体外表损伤检测的待检测图片， 将所述待检测图片输入至基于语义分割的人体损伤检测模型中，依次通过所述人体损伤检测模型中的区域候选网络以及输出网络进行特征提取，将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图，对所述最终特征图进行特征检测，获得所述待检测图片的人体外表损伤检测结果，其中，所述人体外表损伤检测结果包括损伤区域边界框、损伤类型及图片掩膜。可见，通过将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得的最终特征图能够避免卷积运算过程中信息的丢失，通过对所述最终特征图进行特征检测，获得所述待检测图片的人体外表损伤检测结果，能够有效的提高了模型的检测精度，更加精确地对人体外表损伤进行检测。
以上所述，仅是本申请的具体实施方式，但本申请的保护范围并不局限于此，对于本领域的普通技术人员来说，在不脱离本申请创造构思的前提下，还可以做出改进，但这些均属于本申请的保护范围。
图2是本申请公开的一种基于语义分割网络的人体外表损伤检测装置的较佳实施例的功能模块图。
在一些实施例中，所述基于语义分割网络的人体外表损伤检测装置运行于电子设备中。所述基于语义分割网络的人体外表损伤检测装置可以包括多个由程序代码段所组成的功能模块。所述基于语义分割网络的人体外表损伤检测装置中的各个程序段的程序代码可以存储于存储器中，并由至少一个处理器所执行，以执行图1所描述的基于语义分割网络的人体外表损伤检测方法中的部分或全部步骤。
本实施例中，所述基于语义分割网络的人体外表损伤检测装置根据其所执行的功能，可以被划分为多个功能模块。所述功能模块可以包括：获取模块201、输入模块202、提取模块203、融合模块204及检测模块205。本申请所称的模块是指一种能够被至少一个处理器所执行并且能够完成固定功能的一系列计算机可读指令段，其存储在存储器中。
获取模块201，用于获取需要进行人体外表损伤检测的待检测图片。
其中，所述待检测图片为携带有人体损伤区域的图片，可以为人体的全部图片，也可以为包括损伤区域的人体中某个部位的图片，本申请实施例不做限定。
输入模块202，用于将所述待检测图片输入至基于语义分割的人体损伤检测模型中。
其中，所述人体损伤检测模型可以是基于Mask RCNN(Mask Regions with Convolutional Neural Networks，基于卷积神经网络的掩膜区域获取)方法的语义分割网络，所述人体损伤检测模型能够将所述待检测图片的前景目标与背景从像素级别进行分割，进而可以给出更精准的目标区域定位。
提取模块203，用于依次通过所述人体损伤检测模型中的区域候选网络以及输出网络进行特征提取。
其中，所述人体损伤检测模型包括三个部分：骨干网络、区域候选网络以及输出网络。其中，每个部分的工作原理可以参见下文所述的训练部分，在此不再赘述。
可选的，电子设备需要依次所述人体损伤检测模型中的骨干网络、区域候选网络以及输出网络进行特征提取。
其中，骨干网络的输出作为区域候选网络的输入，区域候选网络的输出作为输出网络的输入，三个网络共同协作，实现对所述人体损伤检测模型的特征提取及损伤检测。
融合模块204，用于将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图。
由于损伤中常包含面积较小的区域(像素值小于20*20)，为了增强模型对此类数据的拟合能力，可以在原始Mask-RCNN网络的基础上利用快捷连接(shortcut connection)将候选区域网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获 得最终特征图，其中，所述最终特征图避免了卷积运算过程中信息的丢失，能够有效提高模型的精度。
检测模块205，用于对所述最终特征图进行特征检测，获得所述待检测图片的人体外表损伤检测结果，其中，所述人体外表损伤检测结果包括损伤区域边界框、损伤类型及图片掩膜。
其中，所述损伤区域边界框为所述待检测图片中受损区域外接矩形的位置坐标所在的边界框，所述损伤类型即所述待检测图片中的人体外表损伤的类型，比如软组织擦伤、软组织挫伤、软组织裂伤及皮下血肿，所述图片掩膜即所述待检测图片中受损区域的边界轮廓。
作为一种可选的实施方式，所述获取模块201，还用于获取多个需要进行模型训练的原始人体损伤图片；
所述基于语义分割网络的人体外表损伤检测装置还可以包括：
接收模块，用于接收用户对每个所述原始人体损伤图片的受损区域进行边界标注输入的多边形区域，以及接收用户针对所述原始人体受损区域输入的损伤类型；
保存模块，用于将所述多边形区域以及所述损伤类型保存成格式化文件；
生成模块，用于根据所述多边形区域的像素值，生成图片掩膜；
训练模块，用于将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至语义分割网络框架模型中进行训练，获得训练好的人体损伤检测模型。
在该可选的实施方式中，在进行模型训练前，需要获取多个原始人体损伤图片，该多个原始人体损伤图片可以具有不同的损伤区域，不同的损伤大小，不同的损伤类型。其中，可以预先定义人体外表的损伤类型，比如：软组织擦伤、软组织挫伤、软组织裂伤及皮下血肿。其中，软组织擦伤指软组织或骨骼肌肉受到直接或间接暴力，呈局部渗血、水肿状；软组织挫伤指横向擦刮造成的皮肤损伤，皮肤表面出现划痕；软组织裂伤指皮肤多方位的撕裂造成的皮肤及肌肉损伤，伤口不规则；皮下血肿指毛细血管中的血液受外力或其他原因渗出血管外，积聚在皮肤内及皮肤下，形成血肿。
具体的，可以事先按照上述定义的损伤类型在开源标注工具SLOTH中添加相应的标注标签，同时，将软件中标签的读取方式从原始的硬编码(hard-code)改为从.json文件中动态获取，这样不但使得软件适用于损伤检测场景，同时标签的动态获取也使得软件具有可扩展性，方便以后损伤类别的增删和更改。
标注时，用户需要先选择损伤类型，然后以连续的受损区域为单位，沿受损区域边界进行边界标注，生成多边形区域。如果原始人体损伤图片中存在多种不同类型的损伤，将分别按各自损伤类型进行标注。多边形区域确定后，软件会自动将多边形区域和损伤类型保存成格式化文件。另外，还可以将所述多边形区域的内外区域设置不同的像素值，进而根据像素值来自动生成图片掩膜。最终，原始人体损伤图片、格式化文件及图片掩膜将全部作为初始模型的输入，供初始模型训练。其中，所述图片掩膜即受损区域的区域轮廓。
作为一种可选的实施方式，所述生成模块根据所述多边形区域的像素值，生成图片掩膜的方式具体为：
根据所述多边形区域，将所述多边形区域的内部区域确定为目标区域，以及将所述多边形区域的外部区域确定为背景区域；
按照所述损伤类型，将所述目标区域的像素值设置为第一标识，以及将所述背景区域的像素值设置为第二标识；
根据所述第一标识以及所述第二标识，生成图片掩膜。
在该可选的实施方式中，可以根据标注的所述多边形区域，将所述多边形区域的内部区域确定为目标区域，以及将所述多边形区域的外部区域确定为背景区域，即实现了 语义分割方法中前景目标与背景之间的明确分界，进一步地，可以按照所述损伤类型，将所述目标区域的像素值设置为第一标识，即所述目标区域的像素值与所述损伤类型相对应，比如：软组织擦伤置像素值为1，软组织损伤置像素值为2，皮下血肿置像素值为3，软组织裂伤置像素值为4，更进一步地，即可将所述背景区域的像素值设置为第二标识，比如置为0。最后，可以根据标注的第一标识和第二标识，自动生成图片掩膜。
作为一种可选的实施方式，所述训练模块包括：
输入子模块，用于将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至初始模型；
运算子模块，用于通过所述初始模型中的骨干网络对所述原始人体损伤图片进行卷积运算以及池化运算，获得待训练特征图；
训练子模块，用于采用交替训练方法，将所述待训练特征图、所述格式化文件以及所述图片掩膜依次输入至所述人体损伤检测模型中的区域候选网络以及输出网络进行训练；
获取子模块，用于获取所述输出网络输出的掩膜计算结果、边界框坐标计算结果以及分类计算结果；
确定子模块，用于根据所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果，确定人体损伤检测模型。
其中，所述初始模型基于Mask RCNN方法的语义分割网络，所述初始模型主要分为三个部分：骨干网络、区域候选网络以及输出网络。
其中，所述骨干网络由卷积层和池化层等组成。原始人体损伤图片与卷积层发生卷积运算，实现了对图片的特征提取，原始人体损伤图片与池化层发生池化运算，实现了对图片的数据降维。骨干网络的最终输出为待训练特征图(feature maps),即高纬度的特征矩阵。由于人体损伤图片一般尺寸较大，分辨率较高，包含信息复杂，因此本方案采用特征提取能力较强的密集型网络-121(Densenet121)模型作为骨干网络。该网络结构还包含残差运算，可以有效地将网络中浅层运算得到的特征向量传递至深层中进行合并计算，提高模型对数据的拟合能力。
其中，由于人体损伤检测场景中损伤部位一般与正常部位有明显的颜色、形状上的差异，因此一般情况下候选区域网络可以比较容易的提取大致目标位置，同时为了缩短初始模型的训练时间，本方案采用交替训练方法作为模型训练方法，即将区域候选网络与后面的输出网络分开训练，先训练其中的一部分，待结果稳定后再训练其余部分。
其中，区域候选网络(RPN)主要由前景背景分类和目标边界框回归两个分支组成。RPN以骨干网络提取的待训练特征图作为输入，经3*3的卷积层通过卷积运算得到新的特征图，之后分别连接两个1*1的卷积层来实现上述分支。其中前景背景分类分支的计算结果是前景或背景对应的概率值，而目标边界框回归分支的结果是边界框的坐标值。综合上述两个分支的计算结果，得到候选区域(Proposal),并与人工标注的真实值(ground truth)进行比对，保留交并比(IOU)最高的候选区域其对应特征图作为最终的输出传递至输出网络。其中，为了保证区域候选网络输出的特征图尺寸统一，网络引入了ROI Align(感兴趣区域对齐)，在特征图的不同点采样，并应用双线性插值运算实现特征图尺寸的统一化。
其中，为了得到精细的输出结果，还需要经过输出网络对RPN网络得到的尺寸统一的特征图进行进一步计算。输出网络共包含三个分支，分别为掩膜计算分支，边界框坐标计算分支和分类计算分支。其中，此外，由于损伤中常包含面积较小的区域(像素值小于20*20)，为了增强模型对此类数据的拟合能力，在原始Mask-RCNN网络的基础上利用shortcut connection将候选区域网络的输出特征图与输出网络的特征图直接连接(加权和)，这样避免了卷积运算过程中信息的丢失，有效的提高了模型的精度，而且结合经 验，一般图像中的颜色、纹理等基础信息是判断损伤类型的主要依据，这也正好与候选区域网络提取的相对更浅层的特征信息相吻合。
作为一种可选的实施方式，所述确定子模块根据所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果，确定人体损伤检测模型的方式具体为：
将所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果输入至预设的损失函数进行计算，获得损失值；
根据所述损失值，使用随机梯度下降算法，更新所述初始模型的参数；
若所述损失函数的损失值达到收敛状态，确定更新参数后的初始模型为训练好的人体损伤检测模型。
其中，整个网络的损失函数由输出网络中的三个分支各自的损失加和构成。在获取到所述输出网络输出的掩膜计算结果、边界框坐标计算结果以及分类计算结果之后，还需要将所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果输入至预设的损失函数进行计算，获得损失值，通过随机梯度下降方法将损失值反传给网络，更新所述初始模型的参数，实现模型训练，直至所述损失函数的损失值达到收敛状态，即可确定更新参数后的初始模型为训练好的人体损伤检测模型。
作为一种可选的实施方式，所述初始模型的骨干网络、区域候选网络以及输出网络中的激活函数采用PRelu函数，所述骨干网络采用Densenet121模型。
作为一种可选的实施方式，所述融合模块204将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图的方式具体为：
将所述区域候选网络提取的第一特征图拆分成多个第一子特征图；
确定每个所述第一子特征图的计算类型；
从所述输出网络提取的第二特征图中获取多个第二子特征图；
确定每个所述第二子特征图的计算类型；
将相同计算类型的所述第一子特征图以及所述第二子特征图进行融合，获得最终特征图。
其中，所述输出网络包括3个分支，分别为掩膜计算分支，边界框坐标计算分支和分类计算分支。因此，从所述输出网络提取的第二特征图中包括多个第二子特征图，比如三个第二子特征图，分别对应上述三个分支所输出的结果，即不同的第二子特征图对应不同的计算类型。此外，由于损伤中常包含面积较小的区域(像素值小于20*20)，为了增强模型对此类数据的拟合能力，在从所述区域候选网络提取的第一特征图后，需要根据所述输出网络的三个分支，将所述第一特征图拆分成多个第一子特征图(比如三个第一子特征图)，不同的第一子特征图对应不同的计算类型，比如掩膜计算类型、边界框坐标计算类型和分类计算类型，之后，可以将相同计算类型的所述第一子特征图以及所述第二子特征图进行融合，获得最终特征图。这样可以避免卷积运算过程中信息的丢失，有效的提高了模型的精度。
在图2所描述的基于语义分割网络的人体外表损伤检测装置中，可以先获取需要进行人体外表损伤检测的待检测图片，将所述待检测图片输入至基于语义分割的人体损伤检测模型中，依次通过所述人体损伤检测模型中的区域候选网络以及输出网络进行特征提取，将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图，对所述最终特征图进行特征检测，获得所述待检测图片的人体外表损伤检测结果，其中，所述人体外表损伤检测结果包括损伤区域边界框、损伤类型及图片掩膜。可见，通过将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得的最终特征图能够避免卷积运算过程中信息的丢失，通过对所述最终特征图进行特征检测，获得所述待检测图片的人体外表损伤检测结果，能够有效的提高了模型的检测精度，更加精确地对人体外表损伤进行检测。
图3是本申请实现基于语义分割网络的人体外表损伤检测方法的较佳实施例的电子设备的结构示意图。所述电子设备3包括存储器31、至少一个处理器32、存储在所述存储器31中并可在所述至少一个处理器32上运行的计算机可读指令33及至少一条通讯总线34。
本领域技术人员可以理解，图3所示的示意图仅仅是所述电子设备3的示例，并不构成对所述电子设备3的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述电子设备3还可以包括输入输出设备、网络接入设备等。
所述至少一个处理器32可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。该处理器32可以是微处理器或者该处理器32也可以是任何常规的处理器等，所述处理器32是所述电子设备3的控制中心，利用各种接口和线路连接整个电子设备3的各个部分。
所述存储器31可用于存储所述计算机可读指令33和/或模块/单元，所述处理器32通过运行或执行存储在所述存储器31内的计算机可读指令和/或模块/单元，以及调用存储在存储器31内的数据，实现所述电子设备3的各种功能。所述存储器31可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据电子设备3的使用所创建的数据(比如音频数据)等。此外，存储器31可以包括非易失性存储器，例如硬盘、内存、插接式硬盘，智能存储卡(Smart Media Card，SMC)，安全数字(Secure Digital，SD)卡，闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。
结合图1，所述电子设备3中的所述存储器31存储多个指令以实现一种基于语义分割网络的人体外表损伤检测方法，所述处理器32可执行所述多个指令从而实现：
获取需要进行人体外表损伤检测的待检测图片；
将所述待检测图片输入至基于语义分割的人体损伤检测模型中；
依次通过所述人体损伤检测模型中的区域候选网络以及输出网络进行特征提取；
将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图；
对所述最终特征图进行特征检测，获得所述待检测图片的人体外表损伤检测结果，其中，所述人体外表损伤检测结果包括损伤区域边界框、损伤类型及图片掩膜。
具体地，所述处理器32对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述，在此不赘述。
在图3所描述的电子设备3中，可以先获取需要进行人体外表损伤检测的待检测图片，将所述待检测图片输入至基于语义分割的人体损伤检测模型中，依次通过所述人体损伤检测模型中的区域候选网络以及输出网络进行特征提取，将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图，对所述最终特征图进行特征检测，获得所述待检测图片的人体外表损伤检测结果，其中，所述人体外表损伤检测结果包括损伤区域边界框、损伤类型及图片掩膜。可见，通过将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得的最终特征图能够避免卷积运算过程中信息的丢失，通过对所述最终特征图进行特征检测，获得所述待检测图片的人体外表损伤检测结果，能够有效的提高了模型的检测精度，更加精确地对人体外表损伤进行检测。
所述电子设备3集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个非易失性可读取存储介质中。基于这样的理解，本申请实现上述 实施例方法中的全部或部分流程，也可以通过计算机可读指令来指令相关的硬件来完成，所述的计算机可读指令可存储于一非易失性可读存储介质中，该计算机可读指令在被处理器执行时，可实现上述各个方法实施例的步骤。其中，计算机可读指令代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述非易失性可读介质可以包括：能够携带所述计算机可读指令代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)。
在本申请所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言，显然本申请不限于上述示范性实施例的细节，而且在不背离本申请的精神或基本特征的情况下，能够以其他的具体形式实现本申请。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本申请的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本申请内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称，而并不表示任何特定的顺序。
最后应说明的是，以上实施例仅用以说明本申请的技术方案而非限制，尽管参照较佳实施例对本申请进行了详细说明，本领域的普通技术人员应当理解，可以对本申请的技术方案进行修改或等同替换，而不脱离本申请技术方案的精神和范围。

Claims (20)

  1. 一种基于语义分割网络的人体外表损伤检测方法，其特征在于，所述方法包括：
    获取需要进行人体外表损伤检测的待检测图片；
    将所述待检测图片输入至基于语义分割的人体损伤检测模型中；
    依次通过所述人体损伤检测模型中的区域候选网络以及输出网络进行特征提取；
    将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图；
    对所述最终特征图进行特征检测，获得所述待检测图片的人体外表损伤检测结果，其中，所述人体外表损伤检测结果包括损伤区域边界框、损伤类型及图片掩膜。
  2. 根据权利要求1所述的方法，其特征在于，所述获取需要进行人体外表损伤检测的待检测图片之前，所述方法还包括：
    获取多个需要进行模型训练的原始人体损伤图片；
    接收用户对每个所述原始人体损伤图片的受损区域进行边界标注输入的多边形区域，以及接收用户针对所述原始人体受损区域输入的损伤类型；
    将所述多边形区域以及所述损伤类型保存成格式化文件；
    根据所述多边形区域的像素值，生成图片掩膜；
    将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至语义分割网络框架模型中进行训练，获得训练好的人体损伤检测模型。
  3. 根据权利要求2所述的方法，其特征在于，所述根据所述多边形区域的像素值，生成图片掩膜包括：
    根据所述多边形区域，将所述多边形区域的内部区域确定为目标区域，以及将所述多边形区域的外部区域确定为背景区域；
    按照所述损伤类型，将所述目标区域的像素值设置为第一标识，以及将所述背景区域的像素值设置为第二标识；
    根据所述第一标识以及所述第二标识，生成图片掩膜。
  4. 根据权利要求2所述的方法，其特征在于，所述将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至语义分割网络框架模型中进行训练，获得训练好的人体损伤检测模型包括：
    将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至初始模型；
    通过所述初始模型中的骨干网络对所述原始人体损伤图片进行卷积运算以及池化运算，获得待训练特征图；
    采用交替训练方法，将所述待训练特征图、所述格式化文件以及所述图片掩膜依次输入至所述人体损伤检测模型中的区域候选网络以及输出网络进行训练；
    获取所述输出网络输出的掩膜计算结果、边界框坐标计算结果以及分类计算结果；
    根据所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果，确定人体损伤检测模型。
  5. 根据权利要求4所述的方法，其特征在于，所述根据所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果，确定人体损伤检测模型包括：
    将所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果输入至预设的损失函数进行计算，获得损失值；
    根据所述损失值，使用随机梯度下降算法，更新所述初始模型的参数；
    若所述损失函数的损失值达到收敛状态，确定更新参数后的初始模型为训练好的人体损伤检测模型。
  6. 根据权利要求5所述的方法，其特征在于，所述初始模型的骨干网络、区域候选网络以及输出网络中的激活函数采用PRelu函数，所述骨干网络采用Densenet121模型。
  7. 根据权利要求1至6中任一项所述的方法，其特征在于，所述将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图包括：
    将所述区域候选网络提取的第一特征图拆分成多个第一子特征图；
    确定每个所述第一子特征图的计算类型；
    从所述输出网络提取的第二特征图中获取多个第二子特征图；
    确定每个所述第二子特征图的计算类型；
    将相同计算类型的所述第一子特征图以及所述第二子特征图进行融合，获得最终特征图。
  8. 一种基于语义分割网络的人体外表损伤检测装置，其特征在于，所述基于语义分割网络的人体外表损伤检测装置包括：
    获取模块，用于获取需要进行人体外表损伤检测的待检测图片；
    输入模块，用于将所述待检测图片输入至基于语义分割的人体损伤检测模型中；
    提取模块，用于依次通过所述人体损伤检测模型中的区域候选网络以及输出网络进行特征提取；
    融合模块，用于将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图；
    检测模块，用于对所述最终特征图进行特征检测，获得所述待检测图片的人体外表损伤检测结果，其中，所述人体外表损伤检测结果包括损伤区域边界框、损伤类型及图片掩膜。
  9. 一种电子设备，其特征在于，所述电子设备包括处理器和存储器，所述处理器用于执行存储器中存储的至少一个计算机可读指令以实现以下步骤：
    获取需要进行人体外表损伤检测的待检测图片；
    将所述待检测图片输入至基于语义分割的人体损伤检测模型中；
    依次通过所述人体损伤检测模型中的区域候选网络以及输出网络进行特征提取；
    将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图；
    对所述最终特征图进行特征检测，获得所述待检测图片的人体外表损伤检测结果，其中，所述人体外表损伤检测结果包括损伤区域边界框、损伤类型及图片掩膜。
  10. 根据权利要求9所述的电子设备，其特征在于，所述获取需要进行人体外表损伤检测的待检测图片之前，所述处理器执行至少一个计算机可读指令还用以实现以下步骤：
    获取多个需要进行模型训练的原始人体损伤图片；
    接收用户对每个所述原始人体损伤图片的受损区域进行边界标注输入的多边形区域，以及接收用户针对所述原始人体受损区域输入的损伤类型；
    将所述多边形区域以及所述损伤类型保存成格式化文件；
    根据所述多边形区域的像素值，生成图片掩膜；
    将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至语义分割网络框架模型中进行训练，获得训练好的人体损伤检测模型。
  11. 根据权利要求10所述的电子设备，其特征在于，所述处理器执行至少一个计算机可读指令以实现所述根据所述多边形区域的像素值，生成图片掩膜时，具体包括：
    根据所述多边形区域，将所述多边形区域的内部区域确定为目标区域，以及将所述多边形区域的外部区域确定为背景区域；
    按照所述损伤类型，将所述目标区域的像素值设置为第一标识，以及将所述背景区域的像素值设置为第二标识；
    根据所述第一标识以及所述第二标识，生成图片掩膜。
  12. 根据权利要求10所述的电子设备，其特征在于，所述处理器执行至少一个计算机可 读指令以实现所述将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至语义分割网络框架模型中进行训练，获得训练好的人体损伤检测模型时，具体包括：
    将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至初始模型；
    通过所述初始模型中的骨干网络对所述原始人体损伤图片进行卷积运算以及池化运算，获得待训练特征图；
    采用交替训练方法，将所述待训练特征图、所述格式化文件以及所述图片掩膜依次输入至所述人体损伤检测模型中的区域候选网络以及输出网络进行训练；
    获取所述输出网络输出的掩膜计算结果、边界框坐标计算结果以及分类计算结果；
    根据所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果，确定人体损伤检测模型。
  13. 根据权利要求12所述的电子设备，其特征在于，所述处理器执行至少一个计算机可读指令以实现所述根据所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果，确定人体损伤检测模型时，具体包括：
    将所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果输入至预设的损失函数进行计算，获得损失值；
    根据所述损失值，使用随机梯度下降算法，更新所述初始模型的参数；
    若所述损失函数的损失值达到收敛状态，确定更新参数后的初始模型为训练好的人体损伤检测模型。
  14. 根据权利要求9至13中任一项所述的电子设备，其特征在于，所述处理器执行至少一个计算机可读指令以实现所述将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图时，具体包括：
    将所述区域候选网络提取的第一特征图拆分成多个第一子特征图；
    确定每个所述第一子特征图的计算类型；
    从所述输出网络提取的第二特征图中获取多个第二子特征图；
    确定每个所述第二子特征图的计算类型；
    将相同计算类型的所述第一子特征图以及所述第二子特征图进行融合，获得最终特征图。
  15. 一种非易失性可读存储介质，其特征在于，所述非易失性可读存储介质存储有至少一个计算机可读指令，所述至少一个计算机可读指令被处理器执行时实现以下步骤：
    获取需要进行人体外表损伤检测的待检测图片；
    将所述待检测图片输入至基于语义分割的人体损伤检测模型中；
    依次通过所述人体损伤检测模型中的区域候选网络以及输出网络进行特征提取；
    将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图；
    对所述最终特征图进行特征检测，获得所述待检测图片的人体外表损伤检测结果，其中，所述人体外表损伤检测结果包括损伤区域边界框、损伤类型及图片掩膜。
  16. 根据权利要求15所述的存储介质，其特征在于，所述获取需要进行人体外表损伤检测的待检测图片之前，所述至少一个计算机可读指令被处理器执行还用以实现以下步骤：
    获取多个需要进行模型训练的原始人体损伤图片；
    接收用户对每个所述原始人体损伤图片的受损区域进行边界标注输入的多边形区域，以及接收用户针对所述原始人体受损区域输入的损伤类型；
    将所述多边形区域以及所述损伤类型保存成格式化文件；
    根据所述多边形区域的像素值，生成图片掩膜；
    将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至语义分割网络框架模型中进行训练，获得训练好的人体损伤检测模型。
  17. 根据权利要求16所述的存储介质，其特征在于，所述至少一个计算机可读指令被处 理器执行以实现所述根据所述多边形区域的像素值，生成图片掩膜时，具体包括：
    根据所述多边形区域，将所述多边形区域的内部区域确定为目标区域，以及将所述多边形区域的外部区域确定为背景区域；
    按照所述损伤类型，将所述目标区域的像素值设置为第一标识，以及将所述背景区域的像素值设置为第二标识；
    根据所述第一标识以及所述第二标识，生成图片掩膜。
  18. 根据权利要求16所述的存储介质，其特征在于，所述至少一个计算机可读指令被处理器执行以实现所述将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至语义分割网络框架模型中进行训练，获得训练好的人体损伤检测模型时，具体包括：
    将所述原始人体损伤图片、所述格式化文件以及所述图片掩膜输入至初始模型；
    通过所述初始模型中的骨干网络对所述原始人体损伤图片进行卷积运算以及池化运算，获得待训练特征图；
    采用交替训练方法，将所述待训练特征图、所述格式化文件以及所述图片掩膜依次输入至所述人体损伤检测模型中的区域候选网络以及输出网络进行训练；
    获取所述输出网络输出的掩膜计算结果、边界框坐标计算结果以及分类计算结果；
    根据所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果，确定人体损伤检测模型。
  19. 根据权利要求18所述的存储介质，其特征在于，所述至少一个计算机可读指令被处理器执行以实现所述根据所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果，确定人体损伤检测模型时，具体包括：
    将所述掩膜计算结果、所述边界框坐标计算结果以及所述分类计算结果输入至预设的损失函数进行计算，获得损失值；
    根据所述损失值，使用随机梯度下降算法，更新所述初始模型的参数；
    若所述损失函数的损失值达到收敛状态，确定更新参数后的初始模型为训练好的人体损伤检测模型。
  20. 根据权利要求15至19中任一项所述的存储介质，其特征在于，所述至少一个计算机可读指令被处理器执行以实现所述将所述区域候选网络提取的第一特征图与所述输出网络提取的第二特征图进行特征融合，获得最终特征图，包括：
    将所述区域候选网络提取的第一特征图拆分成多个第一子特征图；
    确定每个所述第一子特征图的计算类型；
    从所述输出网络提取的第二特征图中获取多个第二子特征图；
    确定每个所述第二子特征图的计算类型；
    将相同计算类型的所述第一子特征图以及所述第二子特征图进行融合，获得最终特征图。
PCT/CN2019/116542 2019-09-23 2019-11-08 基于语义分割网络的人体外表损伤检测方法及相关设备 Ceased WO2021056705A1 (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201910901600.8 2019-09-23
CN201910901600.8A CN110874594B (zh) 2019-09-23 2019-09-23 基于语义分割网络的人体外表损伤检测方法及相关设备

Publications (1)

Publication Number Publication Date
WO2021056705A1 true WO2021056705A1 (zh) 2021-04-01

Family

ID=69718052

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2019/116542 Ceased WO2021056705A1 (zh) 2019-09-23 2019-11-08 基于语义分割网络的人体外表损伤检测方法及相关设备

Country Status (2)

Country Link
CN (1) CN110874594B (zh)
WO (1) WO2021056705A1 (zh)

Cited By (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113033557A (zh) * 2021-04-16 2021-06-25 北京百度网讯科技有限公司 用于训练图像处理模型和检测图像的方法、装置
CN113269197A (zh) * 2021-04-25 2021-08-17 南京三百云信息科技有限公司 基于语义分割的证件图像顶点坐标回归系统和识别方法
CN113327241A (zh) * 2021-06-16 2021-08-31 南昌航空大学 一种轴承端面的表面缺陷视觉检测方法及系统
CN113421231A (zh) * 2021-06-08 2021-09-21 杭州海康威视数字技术股份有限公司 一种出血点检测方法、装置及系统
CN113516668A (zh) * 2021-06-16 2021-10-19 郑州大学 物联网应用中图像语义分割方法
CN113592871A (zh) * 2021-07-09 2021-11-02 西北工业大学 一种基于分割监督的机器人物体抓取检测方法
CN113608805A (zh) * 2021-07-08 2021-11-05 阿里巴巴新加坡控股有限公司 掩膜预测方法、图像处理方法、显示方法及设备
CN113674220A (zh) * 2021-07-28 2021-11-19 浙江大华技术股份有限公司 一种图像差异检测方法、检测装置和存储介质
CN113763326A (zh) * 2021-08-04 2021-12-07 武汉工程大学 一种基于Mask Scoring R-CNN网络的受电弓检测方法
CN113989255A (zh) * 2021-11-05 2022-01-28 中国地质大学（北京） 基于Mask-RCNN的地铁隧道衬砌脱落识别模型训练方法和识别方法
CN114004963A (zh) * 2021-12-31 2022-02-01 深圳比特微电子科技有限公司 目标类别识别方法、装置及可读存储介质
CN114120055A (zh) * 2021-10-28 2022-03-01 广东能源集团科学技术研究院有限公司 实例分割模型的训练方法、实例分割方法、设备及介质
CN114332150A (zh) * 2021-12-28 2022-04-12 武汉天喻信息产业股份有限公司 手写笔迹擦除方法、装置、设备及可读存储介质
CN114511517A (zh) * 2022-01-19 2022-05-17 北京铁科英迈技术有限公司 一种钢轨损伤检测方法、装置、设备和介质
CN114529722A (zh) * 2022-02-09 2022-05-24 应急管理部国家自然灾害防治研究院 一种基于色彩分割和面向对象的地震地表破裂提取方法
CN114658445A (zh) * 2022-03-07 2022-06-24 中铁十九局集团有限公司 一种隧道衬砌台车
CN114663699A (zh) * 2022-03-08 2022-06-24 中南大学湘雅医院 一种高精度识别伤口损伤组织类型和预测伤口愈合时间的方法
CN114677565A (zh) * 2022-04-08 2022-06-28 北京百度网讯科技有限公司 特征提取网络的训练方法和图像处理方法、装置
CN114708172A (zh) * 2022-02-22 2022-07-05 北京旷视科技有限公司 图像融合方法、计算机程序产品、存储介质及电子设备
CN115239960A (zh) * 2022-07-28 2022-10-25 平安科技（深圳）有限公司 基于人工智能的车辆格栅部件损伤检测方法及相关设备
CN115272262A (zh) * 2022-08-05 2022-11-01 国网河北省电力有限公司电力科学研究院 室外绝缘子表面缺陷识别方法、装置及电子设备
CN115690639A (zh) * 2021-07-30 2023-02-03 海信集团控股股份有限公司 一种图像处理的方法及装置
CN115713690A (zh) * 2022-11-18 2023-02-24 松灵机器人(深圳)有限公司 草地边界识别方法、装置、割草机器人以及存储介质
CN115810166A (zh) * 2022-12-07 2023-03-17 广东省国土资源测绘院 结合深度网络和运动特征的矿车检测方法及系统
CN115937089A (zh) * 2022-10-18 2023-04-07 重庆生物智能制造研究院 一种基于改进yolov5病灶检测模型的训练检测方法
CN116503932A (zh) * 2023-05-24 2023-07-28 北京万里红科技有限公司 重点区域加权的眼周特征提取方法、系统及存储介质
CN117274588A (zh) * 2023-09-14 2023-12-22 潍柴动力股份有限公司 图像处理方法、装置、电子设备及存储介质
CN118155028A (zh) * 2024-05-13 2024-06-07 中车工业研究院(青岛)有限公司 缓解阀拉杆脱落故障检测方法、装置、电子设备及介质
CN119174592A (zh) * 2024-11-22 2024-12-24 中日友好医院(中日友好临床医学研究所) 压力性损伤伤口检测方法、计算机设备
CN120217142A (zh) * 2025-05-28 2025-06-27 国网江苏省电力有限公司电力科学研究院 一种杆塔的智能检测方法及卫星图像处理系统

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111583215B (zh) * 2020-04-30 2024-07-02 平安科技（深圳）有限公司 损伤图像智能定损方法、装置、电子设备及存储介质
CN111667011B (zh) * 2020-06-08 2023-07-14 平安科技（深圳）有限公司 损伤检测模型训练、车损检测方法、装置、设备及介质
CN111860522B (zh) * 2020-07-23 2024-02-02 中国平安人寿保险股份有限公司 身份证图片处理方法、装置、终端及存储介质
CN112966730A (zh) * 2021-03-01 2021-06-15 创新奇智(上海)科技有限公司 车辆伤损识别方法、装置、设备及存储介质
CN113160204B (zh) * 2021-04-30 2024-07-26 聚时科技(上海)有限公司 基于目标检测信息生成缺陷区域的语义分割网络训练方法
CN114202530A (zh) * 2021-12-14 2022-03-18 深圳壹账通智能科技有限公司 分析损伤程度的方法、装置、设备及存储介质
CN114491127A (zh) * 2022-01-12 2022-05-13 平安科技（深圳）有限公司 车险投保信息的检测方法、装置、计算机设备及存储介质
CN114581950B (zh) * 2022-03-08 2025-12-12 博微太赫兹信息科技有限公司 一种毫米波图像目标检测方法及系统
CN115063585B (zh) * 2022-05-30 2025-08-29 华为技术有限公司 一种无监督语义分割模型的训练方法及相关装置
CN116844063B (zh) * 2023-05-31 2026-02-10 兰州大学 基于多模态神经网络的沙尘识别方法、设备及存储设备
CN116503694B (zh) * 2023-06-28 2023-12-08 宁德时代新能源科技股份有限公司 模型训练方法、图像分割方法、装置和计算机设备
CN117593301B (zh) * 2024-01-18 2024-04-30 深圳市奥斯珂科技有限公司 基于机器视觉的内存条损伤快速检测方法及系统
CN119238547B (zh) * 2024-09-14 2025-06-24 湖南中医药大学 一种推拿机器人控制方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180204314A1 (en) * 2017-01-18 2018-07-19 Nvidia Corporation Filtering image data using a neural network
CN109584246A (zh) * 2018-11-16 2019-04-05 成都信息工程大学 基于多尺度特征金字塔的dcm心肌诊疗放射影像分割方法
CN109886179A (zh) * 2019-02-18 2019-06-14 深圳视见医疗科技有限公司 基于Mask-RCNN的子宫颈细胞涂片的图像分割方法和系统

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB201714000D0 (en) * 2017-08-31 2017-10-18 Mirriad Advertising Ltd Machine learning for identification of candidate video insertion object types
CN109447169B (zh) * 2018-11-02 2020-10-27 北京旷视科技有限公司 图像处理方法及其模型的训练方法、装置和电子系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180204314A1 (en) * 2017-01-18 2018-07-19 Nvidia Corporation Filtering image data using a neural network
CN109584246A (zh) * 2018-11-16 2019-04-05 成都信息工程大学 基于多尺度特征金字塔的dcm心肌诊疗放射影像分割方法
CN109886179A (zh) * 2019-02-18 2019-06-14 深圳视见医疗科技有限公司 基于Mask-RCNN的子宫颈细胞涂片的图像分割方法和系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CHEN, YUN: "A Study on Medical Image Detection Based on Deep Learning Algorithm", INFORMATION & TECHNOLOGY, CHINA MASTER’S THESES FULL-TEXT DATABASE, no. 09, 15 September 2019 (2019-09-15), pages 1 - 70, XP055794426 *
TIAN, XUAN ET AL.: "Review of Image Semantic Segmentation Based on Deep Learning", JOURNAL OF SOFTWARE, vol. 30, no. 02, 15 February 2019 (2019-02-15), pages 440 - 468, XP055794526 *

Cited By (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113033557A (zh) * 2021-04-16 2021-06-25 北京百度网讯科技有限公司 用于训练图像处理模型和检测图像的方法、装置
CN113269197A (zh) * 2021-04-25 2021-08-17 南京三百云信息科技有限公司 基于语义分割的证件图像顶点坐标回归系统和识别方法
CN113269197B (zh) * 2021-04-25 2024-03-08 南京三百云信息科技有限公司 基于语义分割的证件图像顶点坐标回归系统和识别方法
CN113421231A (zh) * 2021-06-08 2021-09-21 杭州海康威视数字技术股份有限公司 一种出血点检测方法、装置及系统
CN113327241A (zh) * 2021-06-16 2021-08-31 南昌航空大学 一种轴承端面的表面缺陷视觉检测方法及系统
CN113516668A (zh) * 2021-06-16 2021-10-19 郑州大学 物联网应用中图像语义分割方法
CN113516668B (zh) * 2021-06-16 2024-03-29 郑州大学 物联网应用中图像语义分割方法
CN113608805B (zh) * 2021-07-08 2024-04-12 阿里巴巴创新公司 掩膜预测方法、图像处理方法、显示方法及设备
CN113608805A (zh) * 2021-07-08 2021-11-05 阿里巴巴新加坡控股有限公司 掩膜预测方法、图像处理方法、显示方法及设备
CN113592871B (zh) * 2021-07-09 2024-05-28 西北工业大学 一种基于分割监督的机器人物体抓取检测方法
CN113592871A (zh) * 2021-07-09 2021-11-02 西北工业大学 一种基于分割监督的机器人物体抓取检测方法
CN113674220A (zh) * 2021-07-28 2021-11-19 浙江大华技术股份有限公司 一种图像差异检测方法、检测装置和存储介质
CN115690639A (zh) * 2021-07-30 2023-02-03 海信集团控股股份有限公司 一种图像处理的方法及装置
CN113763326A (zh) * 2021-08-04 2021-12-07 武汉工程大学 一种基于Mask Scoring R-CNN网络的受电弓检测方法
CN113763326B (zh) * 2021-08-04 2023-11-21 武汉工程大学 一种基于Mask Scoring R-CNN网络的受电弓检测方法
CN114120055A (zh) * 2021-10-28 2022-03-01 广东能源集团科学技术研究院有限公司 实例分割模型的训练方法、实例分割方法、设备及介质
CN113989255A (zh) * 2021-11-05 2022-01-28 中国地质大学（北京） 基于Mask-RCNN的地铁隧道衬砌脱落识别模型训练方法和识别方法
CN114332150A (zh) * 2021-12-28 2022-04-12 武汉天喻信息产业股份有限公司 手写笔迹擦除方法、装置、设备及可读存储介质
CN114004963A (zh) * 2021-12-31 2022-02-01 深圳比特微电子科技有限公司 目标类别识别方法、装置及可读存储介质
CN114004963B (zh) * 2021-12-31 2022-03-29 深圳比特微电子科技有限公司 目标类别识别方法、装置及可读存储介质
CN114511517A (zh) * 2022-01-19 2022-05-17 北京铁科英迈技术有限公司 一种钢轨损伤检测方法、装置、设备和介质
CN114529722A (zh) * 2022-02-09 2022-05-24 应急管理部国家自然灾害防治研究院 一种基于色彩分割和面向对象的地震地表破裂提取方法
CN114529722B (zh) * 2022-02-09 2026-02-06 应急管理部国家自然灾害防治研究院 一种基于色彩分割和面向对象的地震地表破裂提取方法
CN114708172A (zh) * 2022-02-22 2022-07-05 北京旷视科技有限公司 图像融合方法、计算机程序产品、存储介质及电子设备
CN114658445A (zh) * 2022-03-07 2022-06-24 中铁十九局集团有限公司 一种隧道衬砌台车
CN114663699A (zh) * 2022-03-08 2022-06-24 中南大学湘雅医院 一种高精度识别伤口损伤组织类型和预测伤口愈合时间的方法
CN114677565A (zh) * 2022-04-08 2022-06-28 北京百度网讯科技有限公司 特征提取网络的训练方法和图像处理方法、装置
CN115239960B (zh) * 2022-07-28 2025-06-20 平安科技（深圳）有限公司 基于人工智能的车辆格栅部件损伤检测方法及相关设备
CN115239960A (zh) * 2022-07-28 2022-10-25 平安科技（深圳）有限公司 基于人工智能的车辆格栅部件损伤检测方法及相关设备
CN115272262A (zh) * 2022-08-05 2022-11-01 国网河北省电力有限公司电力科学研究院 室外绝缘子表面缺陷识别方法、装置及电子设备
CN115937089A (zh) * 2022-10-18 2023-04-07 重庆生物智能制造研究院 一种基于改进yolov5病灶检测模型的训练检测方法
CN115713690A (zh) * 2022-11-18 2023-02-24 松灵机器人(深圳)有限公司 草地边界识别方法、装置、割草机器人以及存储介质
CN115810166A (zh) * 2022-12-07 2023-03-17 广东省国土资源测绘院 结合深度网络和运动特征的矿车检测方法及系统
CN116503932A (zh) * 2023-05-24 2023-07-28 北京万里红科技有限公司 重点区域加权的眼周特征提取方法、系统及存储介质
CN117274588A (zh) * 2023-09-14 2023-12-22 潍柴动力股份有限公司 图像处理方法、装置、电子设备及存储介质
CN118155028B (zh) * 2024-05-13 2024-07-23 中车工业研究院(青岛)有限公司 缓解阀拉杆脱落故障检测方法、装置、电子设备及介质
CN118155028A (zh) * 2024-05-13 2024-06-07 中车工业研究院(青岛)有限公司 缓解阀拉杆脱落故障检测方法、装置、电子设备及介质
CN119174592A (zh) * 2024-11-22 2024-12-24 中日友好医院(中日友好临床医学研究所) 压力性损伤伤口检测方法、计算机设备
CN120217142A (zh) * 2025-05-28 2025-06-27 国网江苏省电力有限公司电力科学研究院 一种杆塔的智能检测方法及卫星图像处理系统

Also Published As

Publication number Publication date
CN110874594A (zh) 2020-03-10
CN110874594B (zh) 2023-06-30

Similar Documents

Publication Publication Date Title
WO2021056705A1 (zh) 基于语义分割网络的人体外表损伤检测方法及相关设备
CN110705583B (zh) 细胞检测模型训练方法、装置、计算机设备及存储介质
CN110046600B (zh) 用于人体检测的方法和装置
WO2022001623A1 (zh) 基于人工智能的图像处理方法、装置、设备及存储介质
CN112785565A (zh) 目标检测方法及装置、电子设备和存储介质
WO2020244075A1 (zh) 手语识别方法、装置、计算机设备及存储介质
CN108921128B (zh) 脸颊敏感肌识别方法及装置
CN111242933B (zh) 视网膜图像动静脉的分类装置、设备及存储介质
CN112330624A (zh) 医学图像处理方法和装置
JP7379684B2 (ja) 画像生成方法及び装置並びにコンピュータプログラム
US11893773B2 (en) Finger vein comparison method, computer equipment, and storage medium
WO2020042902A1 (zh) 语音识别的方法、系统和存储介质
CN110276408A (zh) 3d图像的分类方法、装置、设备及存储介质
CN110991412A (zh) 人脸识别的方法、装置、存储介质及电子设备
CN110390327A (zh) 前景提取方法、装置、计算机设备及存储介质
WO2020119058A1 (zh) 微表情描述方法、装置、计算机装置及可读存储介质
CN115410173A (zh) 多模态融合的高精地图要素识别方法、装置、设备及介质
CN116703826A (zh) 一种管道缺陷检测与跟踪方法以及装置
CN112712005A (zh) 识别模型的训练方法、目标识别方法及终端设备
CN113610856B (zh) 训练图像分割模型和图像分割的方法和装置
CN115359490B (zh) 文本方向识别方法、装置、设备及存储介质
CN116563218A (zh) 基于深度学习的脊柱图像分割方法、装置及电子设备
CN110490065B (zh) 人脸识别方法及装置、存储介质、计算机设备
WO2019109410A1 (zh) 用于分割 mri 图像中异常信号区的全卷积网络模型训练方法
WO2020244076A1 (zh) 人脸识别方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19946947

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19946947

Country of ref document: EP

Kind code of ref document: A1