CN116796818B - 模型训练方法、装置、设备、存储介质及程序产品 - Google Patents
模型训练方法、装置、设备、存储介质及程序产品 Download PDFInfo
- Publication number
- CN116796818B CN116796818B CN202210254177.9A CN202210254177A CN116796818B CN 116796818 B CN116796818 B CN 116796818B CN 202210254177 A CN202210254177 A CN 202210254177A CN 116796818 B CN116796818 B CN 116796818B
- Authority
- CN
- China
- Prior art keywords
- channel
- layer
- bone
- residual
- radio frequency
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012549 training Methods 0.000 title claims abstract description 80
- 238000000034 method Methods 0.000 title claims abstract description 62
- 210000000988 bone and bone Anatomy 0.000 claims abstract description 209
- 238000003062 neural network model Methods 0.000 claims abstract description 80
- 208000010392 Bone Fractures Diseases 0.000 claims abstract description 56
- 206010017076 Fracture Diseases 0.000 claims abstract description 56
- 238000011156 evaluation Methods 0.000 claims abstract description 29
- 230000006870 function Effects 0.000 claims description 68
- 230000004913 activation Effects 0.000 claims description 57
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 claims description 51
- 238000011176 pooling Methods 0.000 claims description 47
- 210000002569 neuron Anatomy 0.000 claims description 24
- 238000012545 processing Methods 0.000 claims description 22
- 230000001537 neural effect Effects 0.000 claims description 21
- 238000010606 normalization Methods 0.000 claims description 20
- 230000009467 reduction Effects 0.000 claims description 5
- 238000004364 calculation method Methods 0.000 claims description 4
- 238000007781 pre-processing Methods 0.000 claims description 4
- 208000001164 Osteoporotic Fractures Diseases 0.000 abstract description 12
- 230000002829 reductive effect Effects 0.000 abstract description 8
- 230000003449 preventive effect Effects 0.000 abstract description 5
- 238000010586 diagram Methods 0.000 description 17
- 238000002604 ultrasonography Methods 0.000 description 9
- 238000004590 computer program Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 6
- 239000000523 sample Substances 0.000 description 6
- 208000001132 Osteoporosis Diseases 0.000 description 4
- 238000004891 communication Methods 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 239000013598 vector Substances 0.000 description 4
- 208000030136 Marchiafava-Bignami Disease Diseases 0.000 description 3
- 208000029725 Metabolic bone disease Diseases 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 3
- 230000037182 bone density Effects 0.000 description 3
- 230000006378 damage Effects 0.000 description 3
- 230000003247 decreasing effect Effects 0.000 description 3
- 238000001739 density measurement Methods 0.000 description 3
- 230000005865 ionizing radiation Effects 0.000 description 3
- 230000036961 partial effect Effects 0.000 description 3
- 208000011580 syndromic disease Diseases 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000037118 bone strength Effects 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000002779 inactivation Effects 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000012502 risk assessment Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/061—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using biological neurons, e.g. biological neurons connected to an integrated circuit
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Theoretical Computer Science (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Neurology (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Ultra Sonic Daignosis Equipment (AREA)
Abstract
本公开实施例公开了一种模型训练方法、装置、设备、存储介质及程序产品，所述模型训练方法包括：确定初始多通道残差神经网络模型；获取多通道残差神经网络模型训练数据集合，其中，所述多通道残差神经网络模型训练数据集合包括QUS设备多通道骨射频数据，以及与所述多通道骨射频数据对应的骨折评价值标签；以所述多通道骨射频数据作为输入，以所述骨折评价值标签作为输出，训练所述初始多通道残差神经网络模型，得到多通道残差神经网络模型。该技术方案能够全面、准确地提取超声射频信号特征，训练得到鲁棒性较强的多通道残差神经网络模型，该模型可应用于骨折风险预测领域，以及时采取有效预防措施，降低骨质疏松性骨折发生几率，减少患者的痛苦。
Description
技术领域
本公开涉及健康数据处理技术领域，具体涉及一种模型训练方法、装置、设备、存储介质及程序产品。
背景技术
骨质疏松症是一种以骨量下降和骨微结构破坏为特征的代谢性骨病综合征，可导致骨脆性增加，易于发生骨质疏松性骨折。定量超声(Quantitative ultrasound,QUS)是一种骨密度测量技术，其工作原理是利用超声在不同成分骨质中传播速度和衰减的不同来检测骨质量，作为一种非电离技术，QUS具有成本低、便携、快速、无电离辐射等优点，因此具有很好的推广性。基于QUS设备向骨发射并接收的超声射频(Radio-frequency,RF)信号，能够计算并输出声速值、宽频带超声衰减值、刚性指数、定量超声指数等参数，上述各项参数仅为超声射频信号中的部分特征值，若仅基于上述参数进行分析，将会导致超声射频信号中其他与骨质相关的信息大量丢失，但超声射频信号相对复杂，目前难以明确超声射频信号中可能与骨质疏松性骨折风险相关的潜在关键变量。因此，亟需一种能够更为全面、准确地提取超声射频信号特征的模型。
发明内容
本公开实施例提供一种模型训练方法、装置、设备、存储介质及程序产品。
第一方面，本公开实施例中提供了一种模型训练方法。
具体的，所述模型训练方法，包括：
确定初始多通道残差神经网络模型；
获取多通道残差神经网络模型训练数据集合，其中，所述多通道残差神经网络模型训练数据集合包括QUS设备多通道骨射频数据，以及与所述多通道骨射频数据对应的骨折评价值标签；
以所述多通道骨射频数据作为输入，以与其对应的骨折评价值标签作为输出，训练所述初始多通道残差神经网络模型，得到多通道残差神经网络模型。
在本公开一种实现方式中，所述多通道残差神经网络模型包括依次连接的多通道残差子网络、多通道全局平均池化层、级联层和决策神经子网络，其中：
所述多通道残差子网络用于提取多通道骨射频数据的多通道骨特征；
所述多通道全局平均池化层用于利用全局信息，对所述多通道骨特征进行降维处理；
所述级联层用于对于所述多通道全局平均池化层的输出进行级联处理，得到级联骨特征；
所述决策神经子网络用于基于级联骨特征进行决策。
在本公开一种实现方式中，所述多通道残差子网络由多个通道的残差模块组成；每通道的残差模块包括多个级联残差块；每个残差块包括卷积连接支路、短路连接支路、相加层、激活函数层以及最大池化层；所述卷积连接支路包括多组卷积层、激活函数层和批量归一化层；所述短路连接支路包括一组卷积层、激活函数层和批量归一化层；所述卷积连接支路与所述短路连接支路在相加层聚合，相加层后连接有激活函数层和最大池化层；
所述决策神经子网络包括两层全连接层和激活函数层，第一层全连接层的神经元数量位于预设神经元数量范围内，第二层全连接层的神经元数量与临床信息数据类别数量有关。
在本公开一种实现方式中，所述以所述多通道骨射频数据作为输入，以与其对应的骨折评价值标签作为输出，训练所述初始多通道残差神经网络模型，包括：
将所述多通道骨射频数据输入至所述多通道残差子网络中对应通道的残差模块的多个级联残差块中，末端残差块的输出即为与所述多通道骨射频数据对应的多通道骨特征；
将所述多通道骨特征输入至所述多通道全局平均池化层中；
将所述多通道全局平均池化层的输出输入至级联层中，得到级联骨特征；
将所述级联骨特征依次输入至所述决策神经子网络中的第一层全连接层和第二层全连接层，将所述第二层全连接层的输出输入至所述激活函数层中进行非线性计算，得到骨数据决策值。
在本公开一种实现方式中，所述将所述多通道骨射频数据输入至所述多通道残差子网络中对应通道的残差模块的多个级联残差块中，包括：
将所述多通道骨射频数据输入至所述多通道残差子网络中对应通道的残差模块的首个残差块的卷积连接支路和短路连接支路中；
所述卷积连接支路的输出和所述短路连接支路的输出输入至所述相加层，在所述相加层进行相加；
所述相加层的输出输入至所述激活函数层进行处理；
所述激活函数层的输出输入至所述最大池化层，所述最大池化层的输出作为下一残差块的输入，输入至下一残差块的卷积连接支路和短路连接支路中，直至到达末端残差块。
在本公开一种实现方式中，所述将所述多通道骨射频数据输入至所述多通道残差子网络中对应通道的残差模块的多个级联残差块中之前，还包括：
对于所述多通道骨射频数据进行预处理。
在本公开一种实现方式中，所述多通道残差神经网络模型采用小样本交叉熵作为损失函数进行模型训练。
在本公开一种实现方式中，还包括：
获取待决策多通道骨射频数据；
将所述待决策多通道骨射频数据输入至所述多通道残差神经网络模型中，得到与所述待决策多通道骨射频数据对应的骨数据决策值。
在本公开一种实现方式中，还包括：
根据所述骨数据决策值执行预设操作。
第二方面，本公开实施例中提供了一种模型训练装置。
具体的，所述模型训练装置，包括：
确定模块，被配置为确定初始多通道残差神经网络模型；
第一获取模块，被配置为获取多通道残差神经网络模型训练数据集合，其中，所述多通道残差神经网络模型训练数据集合包括QUS设备多通道骨射频数据，以及与所述多通道骨射频数据对应的骨折评价值标签；
训练模块，被配置为以所述多通道骨射频数据作为输入，以与其对应的骨折评价值标签作为输出，训练所述初始多通道残差神经网络模型，得到多通道残差神经网络模型。
第三方面，本公开实施例中提供了一种骨折风险预测装置。
具体的，所述骨折风险预测装置，包括：
第二获取模块，被配置为获取QUS设备多通道骨射频数据；
输入模块，被配置为将所述多通道骨射频数据输入至预先训练好的多通道残差神经网络模型中，得到骨折风险预测概率；
预测模块，被配置为基于所述骨折风险预测概率得到骨折风险预测结果。
第四方面，本公开实施例提供了一种电子设备，包括存储器和至少一个处理器，其中，所述存储器用于存储一条或多条计算机指令，其中，所述一条或多条计算机指令被所述至少一个处理器执行以实现上述模型训练方法的方法步骤。
第五方面，本公开实施例提供了一种计算机可读存储介质，用于存储模型训练装置所用的计算机指令，其包含用于执行上述模型训练方法为模型训练装置所涉及的计算机指令。
第六方面，本公开实施例提供了一种计算机程序产品，包括计算机程序/指令，其中，该计算机程序/指令被处理器执行时实现上述模型训练方法的方法步骤。
本公开实施例提供的技术方案可以包括以下有益效果：
上述技术方案提出的模型训练方法能够全面、准确地提取超声射频信号特征，训练得到鲁棒性较强的多通道残差神经网络模型，该模型可应用于骨折风险预测领域，以及时采取有效的预防措施，降低骨质疏松性骨折发生几率，减少患者的痛苦。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
结合附图，通过以下非限制性实施方式的详细描述，本公开的其它特征、目的和优点将变得更加明显。在附图中：
图1示出根据本公开一实施方式的模型训练方法的流程图；
图2A示出根据本公开一实施方式的多通道残差子网络的结构框图；
图2B示出根据本公开一实施方式的残差块的结构框图；
图2C示出根据本公开一实施方式的整体流程图；
图3示出根据本公开一实施方式的模型训练装置的结构框图；
图4示出根据本公开一实施方式的骨折风险预测装置的结构框图；
图5示出根据本公开一实施方式的电子设备的结构框图；
图6是适于用来实现根据本公开一实施方式的模型训练方法的计算机系统的结构示意图。
具体实施方式
下文中，将参考附图详细描述本公开的示例性实施方式，以使本领域技术人员可容易地实现它们。此外，为了清楚起见，在附图中省略了与描述示例性实施方式无关的部分。
在本公开中，应理解，诸如“包括”或“具有”等的术语旨在指示本说明书中所公开的特征、数字、步骤、行为、部件、部分或其组合的存在，并且不欲排除一个或多个其他特征、数字、步骤、行为、部件、部分或其组合存在或被添加的可能性。
另外还需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
本公开实施例提供的技术方案能够全面、准确地提取超声射频信号特征，训练得到鲁棒性较强的多通道残差神经网络模型，该模型可应用于骨折风险预测领域，以及时采取有效的预防措施，降低骨质疏松性骨折发生几率，减少患者的痛苦。
图1示出根据本公开一实施方式的模型训练方法的流程图，如图1所示，所述模型训练方法包括以下步骤S101-S103：
在步骤S101中，确定初始多通道残差神经网络模型；
在步骤S102中，获取多通道残差神经网络模型训练数据集合，其中，所述多通道残差神经网络模型训练数据集合包括QUS设备多通道骨射频数据，以及与所述多通道骨射频数据对应的骨折评价值标签；
在步骤S103中，以所述多通道骨射频数据作为输入，以与其对应的骨折评价值标签作为输出，训练所述初始多通道残差神经网络模型，得到多通道残差神经网络模型。
上文提及，骨质疏松症是一种以骨量下降和骨微结构破坏为特征的代谢性骨病综合征，可导致骨脆性增加，易于发生骨质疏松性骨折。定量超声(Quantitativeultrasound,QUS)是一种骨密度测量技术，其工作原理是利用超声在不同成分骨质中传播速度和衰减的不同来检测骨质量，作为一种非电离技术，QUS具有成本低、便携、快速、无电离辐射等优点，因此具有很好的推广性。基于QUS设备向骨发射并接收的超声射频(Radio-frequency,RF)信号，能够计算并输出声速值、宽频带超声衰减值、刚性指数、定量超声指数等参数，上述各项参数仅为超声射频信号中的部分特征值，若仅基于上述参数进行分析，将会导致超声射频信号中其他与骨质相关的信息大量丢失，但超声射频信号相对复杂，目前难以明确超声射频信号中可能与骨质疏松性骨折风险相关的潜在关键变量。因此，亟需一种能够更为全面、准确地提取超声射频信号特征的模型。
考虑到上述缺陷，在该实施方式中，提出一种模型训练方法，该方法能够全面、准确地提取超声射频信号特征，训练得到鲁棒性较强的多通道残差神经网络模型，该模型可应用于骨折风险预测领域，以及时采取有效的预防措施，降低骨质疏松性骨折发生几率，减少患者的痛苦。
在本公开一实施方式中，所述模型训练方法可适用于对于模型进行训练的计算机、计算设备、终端设备、电子设备、服务器、服务集群等模型训练方。
在本公开一实施方式中，所述初始多通道残差神经网络模型指的是具有初始参数的、用作模型训练原型的多通道残差神经网络模型。
在本公开一实施方式中，所述多通道残差神经网络模型训练数据集合指的是用于训练所述多通道残差神经网络模型的数据组成的集合。其中，所述多通道残差神经网络模型训练数据集合包括可用作模型训练输入的QUS设备多通道骨射频数据，以及用作模型训练输出的与所述多通道骨射频数据对应的骨折评价值标签。
其中，所述QUS设备多通道骨射频数据指的是QUS设备向骨发射并接收的超声射频信号数据，其通常包括借助多个通道收集得到的骨射频数据，所述通道数量可根据实际应用的需要进行设置，比如可设置为4。在本公开一实施方式中，所述多通道骨射频数据可以为多通道桡骨射频数据。
其中，所述与所述多通道骨射频数据对应的骨折评价值标签指的是，基于所述多通道骨射频数据得到的骨折评价值，比如，若具有所述多通道骨射频数据的骨头处于骨折状态，则所述多通道骨射频数据对应的骨折评价值标签就是1，若具有所述多通道骨射频数据的骨头未处于骨折状态，则所述多通道骨射频数据对应的骨折评价值标签就是0。
在上述实施方式中，在训练所述多通道残差神经网络模型时，首先确定初始多通道残差神经网络模型；然后获取QUS设备多通道骨射频数据，以及与所述多通道骨射频数据对应的骨折评价值标签；然后以所述多通道骨射频数据作为所述初始多通道残差神经网络模型的输入，以与其对应的骨折评价值标签作为所述初始多通道残差神经网络模型的输出，对于所述初始多通道残差神经网络模型进行训练，待到训练结果收敛时，即可得到所述多通道残差神经网络模型。
在本公开一实施方式中，所述多通道残差神经网络模型采用小样本交叉熵作为损失函数进行模型训练。其中，所述小样本交叉熵指的是能够关注数量较小的样本类别的、能够解决数据不平衡问题的交叉熵函数。所述小样本交叉熵可表示为：
其中，L表示所述多通道残差神经网络模型的损失函数，B表示多通道残差神经网络模型训练数据集合中数量较多的数据类别的数量，S表示多通道残差神经网络模型训练数据集合中数量较少的数据类别的数量，表示训练输入数据的真实类别值，p为训练输入数据确定为骨折的预测概率值，即骨折风险值。
在利用所述损失函数对于所述初始多通道残差神经网络模型进行训练时，使用随机梯度下降法(SGD)来最小化所述损失函数，以优化所述初始多通道残差神经网络模型的模型参数，从而使得所述初始多通道残差神经网络模型的性能表现最佳。
在本公开一实施方式中，所述多通道残差神经网络模型包括依次连接的多通道残差子网络、多通道全局平均池化层、级联层和决策神经子网络，其中，所述多通道残差子网络用于提取所述多通道骨射频数据的多通道骨特征；所述多通道全局平均池化层用于利用全局信息，对所述多通道骨特征进行降维处理；所述级联层用于对于所述多通道全局平均池化层的输出进行级联处理，得到级联骨特征；所述决策神经子网络用于基于级联骨特征进行决策，得到所述多通道骨射频数据对应的骨折评价值。
在本公开一实施方式中，所述多通道残差子网络指的是针对所述多通道骨射频数据设计得到的、用于提取骨射频数据特征的、具有多通道的残差网络。其中，所述多通道残差子网络的通道数量与所述多通道骨射频数据的通道数量相对应，比如，若所述多通道骨射频数据的通道数量为4，则所述多通道残差子网络的通道数量也是4，这样就可以对于所述多通道骨射频数据每个通道的骨射频数据分别进行特征提取了。
其中，所述多通道残差子网络由多个通道的残差模块组成，每通道的残差模块包括多个级联残差块。图2A示出根据本公开一实施方式的多通道残差子网络的结构框图，如图2A所示，所述多通道残差子网络由4个通道的残差模块组成，每个通道的残差模块包括3个级联残差块。
其中，每个残差块包括卷积连接支路、短路连接支路、相加层、激活函数层以及最大池化层；所述卷积连接支路包括多组卷积层、激活函数层和批量归一化层；所述短路连接支路包括一组卷积层、激活函数层和批量归一化层；所述卷积连接支路与所述短路连接支路在相加层聚合，相加层后连接有激活函数层和最大池化层。图2B示出根据本公开一实施方式的残差块的结构框图，如图2B所示，所述残差块包括卷积连接支路、短路连接支路、相加层、激活函数层以及最大池化层，其中，所述卷积连接支路包括顺次连接的3组1维卷积层、线性整流单元(Rectified Linear Unit,ReLU)激活函数层和批量归一化层(BatchNormalization，BN)，进一步地，每个卷积层均具有16个卷积核，卷积核的长度分别为8、5、3；所述短路连接支路包括1组卷积层、ReLU激活函数层和批量归一化层，进一步地，所述卷积层具有16个长度为1的卷积核；所述卷积连接支路与所述短路连接支路在相加层聚合，即所述卷积连接支路最后1个批量归一化层的输出与所述短路连接支路的批量归一化层的输出在所述相加层进行特征向量对应元素的相加，之后所述相加层的输出输入至ReLU激活函数层中进行处理后，输入至最大池化层，最终得到该残差块的输出。
其中，卷积层的卷积操作能够实现特征的提取，得到特征向量。激活函数层的激活函数可以判定每个神经元的输出是否达到阈值，即数据某一部分的特征强度是否达到一定标准，若没有达到，即置为0，说明该数据部分提取出的特征对于分类没有明显的作用，可以确定不输出这些特征。另外，ReLU激活函数具有一定的稀疏性，经过ReLU激活函数稀疏后的网络模型能够更好地挖掘相关特征，拟合训练数据，提高网络模型的表达能力。批量归一化层的数据批量归一化操作可以加快网络模型训练时的收敛速度，使得网络模型的训练过程更加稳定，避免出现梯度爆炸或者梯度消失的情况，并且能够起到一定的正则化作用。最大池化层一方面能够对于输入的特征向量进行压缩，提取得到主要特征，实现降采样，另一方面还能够缩减网络模型的大小，降低网络模型的计算复杂度，并且在一定程度上防止出现过拟合的情况。
在本公开一实施方式中，所述决策神经子网络指的是用于对于骨折评价值进行决策的、基于神经网络实现的模型。
其中，所述决策神经子网络包括两层全连接层和激活函数层，其中，所述激活函数层采用的激活函数可以为sigmoid激活函数。其中，第一层全连接层的神经元数量位于预设神经元数量范围内，所述预设神经元数量范围可根据实际应用的需要进行设置，比如可设置为32～64，第二层全连接层的神经元数量与临床信息数据类别数量有关，即所述第二层全连接层的神经元数量可根据是否纳入临床信息数据进行调整，其中，所述临床信息数据与所述多通道骨射频数据相对应，比如，所述临床信息数据与所述多通道骨射频数据属于同一个体。比如，若所述第二层全连接层的神经元数量预先设置为10个，当前不需要增加临床信息数据，则所述第二层全连接层的神经元数量仍然为10个；若所述第二层全连接层的神经元数量预先设置为10个，当前需要增加三类临床信息数据：体重、身高、年龄，则所述第二层全连接层的神经元数量可从10个增加到13个。进一步地，所述第一层全连接层的激活函数可以为ReLU激活函数，随机失活比例为0.5。
在本公开一实施方式中，所述步骤S103，即所述以所述多通道骨射频数据作为输入，以与其对应的骨折评价值标签作为输出，训练所述初始多通道残差神经网络模型的步骤，可包括以下步骤：
将所述多通道骨射频数据输入至所述多通道残差子网络中对应通道的残差模块的多个级联残差块中，末端残差块的输出即为与所述多通道骨射频数据对应的多通道骨特征；
将所述多通道骨特征输入至所述多通道全局平均池化层中；
将所述多通道全局平均池化层的输出输入至级联层中，得到级联骨特征；
将所述级联骨特征依次输入至所述决策神经子网络中的第一层全连接层和第二层全连接层，将所述第二层全连接层的输出输入至所述激活函数层中进行非线性计算，得到骨数据决策值。
在该实施方式中，在训练所述初始多通道残差神经网络模型时：
首先将所述多通道骨射频数据输入至所述多通道残差子网络中对应通道的残差模块的多个级联残差块中，提取得到与所述多通道骨射频数据对应的多通道骨特征。上文提及，所述多通道残差子网络由多个通道的残差模块组成，而每个通道的残差模块又包括多个级联残差块，因此，在该实施方式中，在利用所述多通道残差子网络提取所述多通道骨射频数据对应的多通道骨特征时，可将所述多通道骨射频数据分别输入至所述多通道残差子网络中对应通道的残差模块的多个级联残差块中，而每个通道最末端残差块的输出即为从所述多通道骨射频数据中提取得到的、与所述多通道骨射频数据对应的多通道骨特征。
然后将借助多通道残差子网络提取得到的多通道骨特征输入至多通道全局平均池化层中，以利用全局信息，对所述多通道骨特征分别进行降维处理。
然后将经过所述多通道全局平均池化层处理的多通道骨特征输入至级联层中，使得所述多通道骨特征沿通道轴进行轴向级联，级联得到的特征后续将作为所述多通道残差神经网络模型的输入。
最后将所述级联骨特征依次输入至所述决策神经子网络中的第一层全连接层和第二层全连接层，将所述第二层全连接层的输出输入至所述激活函数层中进行非线性计算，得到骨数据决策值。
具体地，在该实施方式中，假设通道数量K为4，在将所述级联层的输出输入至所述决策神经子网络中时，所述第一层全连接层的处理过程可表示为：
fn＝wnz+bn (3)
其中，fn表示第一层全连接层中第n个神经元的输出，wn和bn分别表示第一层全连接层的权重参数和偏差值，zk表示第k个通道残差模块经过全局平均池化层的输出，z表示所有通道的输出zk级联之后得到的输出。
在将所述第一层全连接层的输出输入至所述第二层全连接层进行处理的过程与上述第一层全连接层的处理过程类似，只是，所述第二层全连接层的输入除了所述第一层全连接层的输出之外，还有可能包括临床信息数据。当所述第二层全连接层的输入包括临床信息数据时，可将所述第一层全连接层的输出和临床信息数据共同输入至所述第二层全连接层进行处理。
其中，所述骨数据决策值指的是可用于对于骨数据进行决策的值，比如，表现为概率值的骨折评价值。
在本公开一实施方式中，所述将所述多通道骨射频数据输入至所述多通道残差子网络中对应通道的残差模块的多个级联残差块中的步骤，可包括以下步骤：
将所述多通道骨射频数据输入至所述多通道残差子网络中对应通道的残差模块的首个残差块的卷积连接支路和短路连接支路中；
所述卷积连接支路的输出和所述短路连接支路的输出输入至所述相加层，在所述相加层进行相加；
所述相加层的输出输入至所述激活函数层进行处理；
所述激活函数层的输出输入至所述最大池化层，所述最大池化层的输出作为下一残差块的输入，输入至下一残差块的卷积连接支路和短路连接支路中，直至到达末端残差块。
上文提及，每个残差块包括卷积连接支路、短路连接支路、相加层、激活函数层以及最大池化层；所述卷积连接支路包括多组卷积层、激活函数层和批量归一化层；所述短路连接支路包括一组卷积层、激活函数层和批量归一化层；所述卷积连接支路与所述短路连接支路在相加层聚合，相加层后连接有激活函数层和最大池化层，因此，在该实施方式中，在将所述多通道骨射频数据输入至所述多通道残差子网络中对应通道的残差模块的多个级联残差块中时，首先，将所述多通道骨射频数据分别输入至所述多通道残差子网络中对应通道的残差模块的首个残差块的卷积连接支路和短路连接支路中，分别进行卷积处理和映射处理；然后将所述卷积连接支路的输出和所述短路连接支路的输出输入至所述相加层，在所述相加层进行特征向量对应元素的相加；然后将所述相加层的输出输入至所述激活函数层进行处理；再将所述激活函数层的输出输入至所述最大池化层，而所述最大池化层的输出即可作为下一残差块的输入，输入至下一残差块的卷积连接支路和短路连接支路中，以此类推，直至到达末端残差块，末端残差块的输出即为与所述多通道骨射频数据对应的多通道骨特征。
假设多通道骨射频数据表示为：Rt＝(R1t,…,Rkt…,RKt)T，其中，T表示转置，K表示通道数量，Rkt表示第k个通道的骨射频时间序列，如下式所示：
Rkt＝{rk1,rk2,…,rkt,…,rkL} (5)
其中，rkt表示第k个通道在第t个时间点的数据值，L表示时间序列的总长度。
对于第k个通道的骨射频时间序列Rkt，经过所述残差块后的输出可以表示为：
yl+1,k＝f(vl+1,k) (7)
其中，vl,k表示第l个残差块的输入，和/>分别表示第l个残差块中的短路连接支路和卷积连接支路的权值，/>表示跳跃连接处理，f(…)表示ReLU激活函数与最大池化处理，yl+1,k表示vl+1,k经过第l个残差块中的ReLU激活函数以及最大池化后得到的输出，即第l个残差块的输出，也可认为是第l+1个残差块的输入。当l＝0时，vl,k为第k个通道的骨射频时间序列Rkt。
在本公开一实施方式中，所述将所述多通道骨射频数据输入至所述多通道残差子网络中对应通道的残差模块的多个级联残差块中之前，还可包括以下步骤：
对于所述多通道骨射频数据进行预处理。
为了便于所述多通道骨射频数据的特征提取，在该实施方式中，在将所述多通道骨射频数据输入至所述多通道残差子网络中对应通道的残差模块的多个级联残差块中之前，还对于所述多通道骨射频数据进行预处理，其中，所述预处理可包括以下处理中的一种或多种：有效数据的筛查、数据采样、数据归一化等等。比如，假设每通道原始骨射频数据具有1024个时间点，根据数据的有效性，可选取其中有效的725个时间点的数据，再通过数据采样，获取其中625个时间点的数据，最后，将得到的数据转换成幅值大小在0-255范围内的数值。
在本公开一实施方式中，所述方法还可包括以下步骤：
获取待决策多通道骨射频数据；
将所述待决策多通道骨射频数据输入至所述多通道残差神经网络模型中，得到与所述待决策多通道骨射频数据对应的骨数据决策值。
在该实施方式中，在利用所述多通道残差神经网络模型进行骨数据决策时，首先获取待决策多通道骨射频数据；然后将所述待决策多通道骨射频数据输入至所述多通道残差神经网络模型中，进行特征提取和骨数据决策，最终得到与所述待决策多通道骨射频数据对应的骨数据决策值。
在本公开一实施方式中，所述方法还可包括以下步骤：
根据所述骨数据决策值执行预设操作。
上文提及，所述骨数据决策值可表现为概率值，因此在该实施方式中，可利用所述骨数据决策值执行骨折风险评价等预设操作。比如，可将所述骨数据决策值与预设概率阈值进行比较，得到骨数据决策结果。其中，所述预设概率阈值可根据实际应用的需要，在所述多通道残差神经网络模型训练前进行设置，比如，所述预设概率阈值可设置为50％，此时，若所述所述骨数据决策值高于50％，则可评价为存在骨折风险，若所述骨数据决策值低于50％，则可评价为不存在骨折风险。
图2C示出根据本公开一实施方式的整体流程图，图2C中，假设获取得到的是QUS设备4通道骨射频数据，首先对于所述4通道骨射频数据进行预处理；预处理后的4通道骨射频数据分别输入至4通道残差子网络相应通道的残差模块中，提取得到与所述4通道骨射频数据对应的4通道骨特征；将4通道骨特征输入至4通道全局平均池化层进行降维处理；并将经过所述4通道全局平均池化层处理的4通道骨特征输入至级联层中，使得所述4通道骨特征沿通道轴进行轴向级联，得到级联骨特征；将所述级联骨特征作为包括两层全连接层和激活函数层的决策神经子网络的输入训练数据，将与所述4通道骨射频数据对应的骨折评价值作为所述决策神经子网络的输出训练数据进行训练，得到多通道残差神经网络模型。
本公开提出的上述模型训练方法训练得到的模型能够获取有效的骨数据决策值，相对于计算射频信号的SOS值、BUA值等定量参数构建的预测模型，本公开模型准确性更强。另外，本公开技术方案只需要对一个位点采集的共约60秒的射频数据进行分析，就可以得到更优的模型性能表现，这样就可以尽量减少操作人员、采集位点、骨骼和超声探头的相对位置等人为因素带来的影响，而且也可以应用到便携式可穿戴设备中，易于向群众推广，为骨强度下降、骨质疏松症人群预防骨质疏松性骨折提供更方便有效的评价方法，以助于其得到更及时的针对性预防与治疗。
下述为本公开装置实施例，可以用于执行本公开方法实施例。
图3示出根据本公开一实施方式的模型训练装置的结构框图，该装置可以通过软件、硬件或者两者的结合实现成为电子设备的部分或者全部。如图3所示，所述模型训练装置包括：
确定模块301，被配置为确定初始多通道残差神经网络模型；
第一获取模块302，被配置为获取多通道残差神经网络模型训练数据集合，其中，所述多通道残差神经网络模型训练数据集合包括QUS设备多通道骨射频数据，以及与所述多通道骨射频数据对应的骨折评价值标签；
训练模块303，被配置为以所述多通道骨射频数据作为输入，以与其对应的骨折评价值标签作为输出，训练所述初始多通道残差神经网络模型，得到多通道残差神经网络模型。
上文提及，骨质疏松症是一种以骨量下降和骨微结构破坏为特征的代谢性骨病综合征，可导致骨脆性增加，易于发生骨质疏松性骨折。定量超声(Quantitativeultrasound,QUS)是一种骨密度测量技术，其工作原理是利用超声在不同成分骨质中传播速度和衰减的不同来检测骨质量，作为一种非电离技术，QUS具有成本低、便携、快速、无电离辐射等优点，因此具有很好的推广性。基于QUS设备向骨发射并接收的超声射频(Radio-frequency,RF)信号，能够计算并输出声速值、宽频带超声衰减值、刚性指数、定量超声指数等参数，上述各项参数仅为超声射频信号中的部分特征值，若仅基于上述参数进行分析，将会导致超声射频信号中其他与骨质相关的信息大量丢失，但超声射频信号相对复杂，目前难以明确超声射频信号中可能与骨质疏松性骨折风险相关的潜在关键变量。因此，亟需一种能够更为全面、准确地提取超声射频信号特征的模型。
考虑到上述缺陷，在该实施方式中，提出一种模型训练装置，该装置能够全面、准确地提取超声射频信号特征，训练得到鲁棒性较强的多通道残差神经网络模型，该模型可应用于骨折风险预测领域，以及时采取有效的预防措施，降低骨质疏松性骨折发生几率，减少患者的痛苦。
在本公开一实施方式中，所述模型训练装置可实现为对于骨折风险进行预测的计算机、计算设备、终端设备、电子设备、服务器、服务集群等模型训练方。
图4示出根据本公开一实施方式的骨折风险预测装置的结构框图，该装置可以通过软件、硬件或者两者的结合实现成为电子设备的部分或者全部。如图4所示，所述骨折风险预测装置包括：
第二获取模块401，被配置为获取QUS设备多通道骨射频数据；
输入模块402，被配置为将所述多通道骨射频数据输入至预先训练好的多通道残差神经网络模型中，得到骨折风险预测概率；
预测模块403，被配置为基于所述骨折风险预测概率得到骨折风险预测结果。
上述装置相关实施方式中涉及的技术术语和技术特征与上述方法相关实施方式中提及的技术术语和技术特征相同或相似，对于上述装置相关实施方式中涉及的技术术语和技术特征的解释和说明可参考上述对于方法相关实施方式的解释的说明，此处不再赘述。
本公开还公开了一种电子设备，图5示出根据本公开一实施方式的电子设备的结构框图，如图5所示，所述电子设备500包括存储器501和处理器502；其中，
所述存储器501用于存储一条或多条计算机指令，其中，所述一条或多条计算机指令被所述处理器502执行以实现上述方法步骤。
图6是适于用来实现根据本公开一实施方式的模型训练方法的计算机系统的结构示意图。
如图6所示，计算机系统600包括处理单元601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行上述实施方式中的各种处理。在RAM603中，还存储有系统600操作所需的各种程序和数据。处理单元601、ROM602以及RAM603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装入存储部分608。其中，所述处理单元601可实现为CPU、GPU、TPU、FPGA、NPU等处理单元。
特别地，根据本公开的实施方式，上文描述的方法可以被实现为计算机软件程序。例如，本公开的实施方式包括一种计算机程序产品，其包括有形地包含在及其可读介质上的计算机程序，所述计算机程序包含用于执行所述畅通信息确定方法的程序代码。在这样的实施方式中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。
附图中的流程图和框图，图示了按照本公开各种实施方式的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，路程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施方式中所涉及到的单元或模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元或模块也可以设置在处理器中，这些单元或模块的名称在某种情况下并不构成对该单元或模块本身的限定。
作为另一方面，本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施方式中所述装置中所包含的计算机可读存储介质；也可以是单独存在，未装配入设备中的计算机可读存储介质。计算机可读存储介质存储有一个或者一个以上程序，所述程序被一个或者一个以上的处理器用来执行描述于本公开的方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离所述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (14)
1.一种模型训练方法，包括：
确定初始多通道残差神经网络模型；
获取多通道残差神经网络模型训练数据集合，其中，所述多通道残差神经网络模型训练数据集合包括QUS设备多通道骨射频数据，以及与所述多通道骨射频数据对应的骨折评价值标签；
以所述多通道骨射频数据作为输入，以与其对应的骨折评价值标签作为输出，训练所述初始多通道残差神经网络模型，得到多通道残差神经网络模型；
其中，所述多通道残差神经网络模型包括依次连接的多通道残差子网络、多通道全局平均池化层、级联层和决策神经子网络，所述多通道残差子网络由多个通道的残差模块组成；每通道的残差模块包括多个级联残差块；每个残差块包括卷积连接支路、短路连接支路、相加层、激活函数层以及最大池化层；所述卷积连接支路包括多组卷积层、激活函数层和批量归一化层；所述短路连接支路包括一组卷积层、激活函数层和批量归一化层；所述卷积连接支路与所述短路连接支路在相加层聚合，相加层后连接有激活函数层和最大池化层；所述决策神经子网络包括两层全连接层和激活函数层，第一层全连接层的神经元数量位于预设神经元数量范围内，第二层全连接层的神经元数量与临床信息数据类别数量有关。
2.根据权利要求1所述的方法，其中：
所述多通道残差子网络用于提取多通道骨射频数据的多通道骨特征；
所述多通道全局平均池化层用于利用全局信息，对所述多通道骨特征进行降维处理；
所述级联层用于对于所述多通道全局平均池化层的输出进行级联处理，得到级联骨特征；
所述决策神经子网络用于基于级联骨特征进行决策。
3.根据权利要求1所述的方法，所述以所述多通道骨射频数据作为输入，以与其对应的骨折评价值标签作为输出，训练所述初始多通道残差神经网络模型，包括：
将所述多通道骨射频数据输入至所述多通道残差子网络中对应通道的残差模块的多个级联残差块中，末端残差块的输出即为与所述多通道骨射频数据对应的多通道骨特征；
将所述多通道骨特征输入至所述多通道全局平均池化层中；
将所述多通道全局平均池化层的输出输入至级联层中，得到级联骨特征；
将所述级联骨特征依次输入至所述决策神经子网络中的第一层全连接层和第二层全连接层，将所述第二层全连接层的输出输入至所述激活函数层中进行非线性计算，得到骨数据决策值。
4.根据权利要求3所述的方法，所述将所述多通道骨射频数据输入至所述多通道残差子网络中对应通道的残差模块的多个级联残差块中，包括：
将所述多通道骨射频数据输入至所述多通道残差子网络中对应通道的残差模块的首个残差块的卷积连接支路和短路连接支路中；
所述卷积连接支路的输出和所述短路连接支路的输出输入至所述相加层，在所述相加层进行相加；
所述相加层的输出输入至所述激活函数层进行处理；
所述激活函数层的输出输入至所述最大池化层，所述最大池化层的输出作为下一残差块的输入，输入至下一残差块的卷积连接支路和短路连接支路中，直至到达末端残差块。
5.根据权利要求4所述的方法，所述将所述多通道骨射频数据输入至所述多通道残差子网络中对应通道的残差模块的多个级联残差块中之前，还包括：
对于所述多通道骨射频数据进行预处理。
6.根据权利要求1-5任一所述的方法，所述多通道残差神经网络模型采用小样本交叉熵作为损失函数进行模型训练。
7.根据权利要求1-5任一所述的方法，还包括：
获取待决策多通道骨射频数据；
将所述待决策多通道骨射频数据输入至所述多通道残差神经网络模型中，得到与所述待决策多通道骨射频数据对应的骨数据决策值。
8.根据权利要求7所述的方法，还包括：
根据所述骨数据决策值执行预设操作。
9.根据权利要求6所述的方法，还包括：
获取待决策多通道骨射频数据；
将所述待决策多通道骨射频数据输入至所述多通道残差神经网络模型中，得到与所述待决策多通道骨射频数据对应的骨数据决策值。
10.根据权利要求9所述的方法，还包括：
根据所述骨数据决策值执行预设操作。
11.一种模型训练装置，包括：
确定模块，被配置为确定初始多通道残差神经网络模型；
第一获取模块，被配置为获取多通道残差神经网络模型训练数据集合，其中，所述多通道残差神经网络模型训练数据集合包括QUS设备多通道骨射频数据，以及与所述多通道骨射频数据对应的骨折评价值标签；
训练模块，被配置为以所述多通道骨射频数据作为输入，以与其对应的骨折评价值标签作为输出，训练所述初始多通道残差神经网络模型，得到多通道残差神经网络模型；
其中，所述多通道残差神经网络模型包括依次连接的多通道残差子网络、多通道全局平均池化层、级联层和决策神经子网络，所述多通道残差子网络由多个通道的残差模块组成；每通道的残差模块包括多个级联残差块；每个残差块包括卷积连接支路、短路连接支路、相加层、激活函数层以及最大池化层；所述卷积连接支路包括多组卷积层、激活函数层和批量归一化层；所述短路连接支路包括一组卷积层、激活函数层和批量归一化层；所述卷积连接支路与所述短路连接支路在相加层聚合，相加层后连接有激活函数层和最大池化层；所述决策神经子网络包括两层全连接层和激活函数层，第一层全连接层的神经元数量位于预设神经元数量范围内，第二层全连接层的神经元数量与临床信息数据类别数量有关。
12.一种骨折风险预测装置，包括：
第二获取模块，被配置为获取QUS设备多通道骨射频数据；
输入模块，被配置为将所述多通道骨射频数据输入至预先训练好的多通道残差神经网络模型中，得到骨折风险预测概率；其中，所述多通道残差神经网络模型包括依次连接的多通道残差子网络、多通道全局平均池化层、级联层和决策神经子网络，所述多通道残差子网络由多个通道的残差模块组成；每通道的残差模块包括多个级联残差块；每个残差块包括卷积连接支路、短路连接支路、相加层、激活函数层以及最大池化层；所述卷积连接支路包括多组卷积层、激活函数层和批量归一化层；所述短路连接支路包括一组卷积层、激活函数层和批量归一化层；所述卷积连接支路与所述短路连接支路在相加层聚合，相加层后连接有激活函数层和最大池化层；所述决策神经子网络包括两层全连接层和激活函数层，第一层全连接层的神经元数量位于预设神经元数量范围内，第二层全连接层的神经元数量与临床信息数据类别数量有关；
预测模块，被配置为基于所述骨折风险预测概率得到骨折风险预测结果。
13.一种电子设备，其特征在于，包括存储器和至少一个处理器；其中，所述存储器用于存储一条或多条计算机指令，其中，所述一条或多条计算机指令被所述至少一个处理器执行以实现权利要求1-10任一项所述的方法步骤。
14.一种计算机可读存储介质，其上存储有计算机指令，其特征在于，该计算机指令被处理器执行时实现权利要求1-10任一项所述的方法步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210254177.9A CN116796818B (zh) | 2022-03-15 | 2022-03-15 | 模型训练方法、装置、设备、存储介质及程序产品 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210254177.9A CN116796818B (zh) | 2022-03-15 | 2022-03-15 | 模型训练方法、装置、设备、存储介质及程序产品 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116796818A CN116796818A (zh) | 2023-09-22 |
| CN116796818B true CN116796818B (zh) | 2024-05-10 |
Family
ID=88040402
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210254177.9A Active CN116796818B (zh) | 2022-03-15 | 2022-03-15 | 模型训练方法、装置、设备、存储介质及程序产品 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116796818B (zh) |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101796620B1 (ko) * | 2016-10-20 | 2017-11-13 | 중앙대학교 산학협력단 | 골절 위험 예측 장치 및 방법 |
| CN108399616A (zh) * | 2018-02-11 | 2018-08-14 | 西安理工大学 | 基于深度残差网络的骨科病病变分类分级方法 |
| CN108596069A (zh) * | 2018-04-18 | 2018-09-28 | 南京邮电大学 | 基于深度3d残差网络的新生儿疼痛表情识别方法及系统 |
| CN109376792A (zh) * | 2018-11-07 | 2019-02-22 | 河北工业大学 | 基于多通道残差神经网络的光伏电池外观缺陷分类方法 |
| CN110399789A (zh) * | 2019-06-14 | 2019-11-01 | 佳都新太科技股份有限公司 | 行人重识别方法、模型构建方法、装置、设备和存储介质 |
| CN110598714A (zh) * | 2019-08-19 | 2019-12-20 | 中国科学院深圳先进技术研究院 | 一种软骨图像分割方法、装置、可读存储介质及终端设备 |
| CN110991511A (zh) * | 2019-11-26 | 2020-04-10 | 中原工学院 | 一种基于深度卷积神经网络的向日葵作物种子分拣方法 |
| WO2021052261A1 (zh) * | 2019-09-17 | 2021-03-25 | 中国科学院空天信息创新研究院 | 一种锐化标签数据的图像超分辨率重建方法及装置 |
| CN113887662A (zh) * | 2021-10-26 | 2022-01-04 | 北京理工大学重庆创新中心 | 一种基于残差网络的图像分类方法、装置、设备及介质 |
-
2022
- 2022-03-15 CN CN202210254177.9A patent/CN116796818B/zh active Active
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101796620B1 (ko) * | 2016-10-20 | 2017-11-13 | 중앙대학교 산학협력단 | 골절 위험 예측 장치 및 방법 |
| CN108399616A (zh) * | 2018-02-11 | 2018-08-14 | 西安理工大学 | 基于深度残差网络的骨科病病变分类分级方法 |
| CN108596069A (zh) * | 2018-04-18 | 2018-09-28 | 南京邮电大学 | 基于深度3d残差网络的新生儿疼痛表情识别方法及系统 |
| CN109376792A (zh) * | 2018-11-07 | 2019-02-22 | 河北工业大学 | 基于多通道残差神经网络的光伏电池外观缺陷分类方法 |
| CN110399789A (zh) * | 2019-06-14 | 2019-11-01 | 佳都新太科技股份有限公司 | 行人重识别方法、模型构建方法、装置、设备和存储介质 |
| CN110598714A (zh) * | 2019-08-19 | 2019-12-20 | 中国科学院深圳先进技术研究院 | 一种软骨图像分割方法、装置、可读存储介质及终端设备 |
| WO2021052261A1 (zh) * | 2019-09-17 | 2021-03-25 | 中国科学院空天信息创新研究院 | 一种锐化标签数据的图像超分辨率重建方法及装置 |
| CN110991511A (zh) * | 2019-11-26 | 2020-04-10 | 中原工学院 | 一种基于深度卷积神经网络的向日葵作物种子分拣方法 |
| CN113887662A (zh) * | 2021-10-26 | 2022-01-04 | 北京理工大学重庆创新中心 | 一种基于残差网络的图像分类方法、装置、设备及介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116796818A (zh) | 2023-09-22 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Ay et al. | Automated depression detection using deep representation and sequence learning with EEG signals | |
| Sharanreddy et al. | EEG signal classification for epilepsy seizure detection using improved approximate entropy | |
| Sameer et al. | ROC Analysis for detection of Epileptical Seizures using Haralick features of Gamma band | |
| CN110516759B (zh) | 一种基于机器学习的软组织肉瘤转移风险预测系统 | |
| EP3038261B1 (fr) | Procédé de prétraitement de compression de données adapté à des données de mesures de signaux électro-corticographiques (ecog) et système d'acquisition et de transmission de données ecog | |
| Mohammedqasim et al. | Real-time data of COVID-19 detection with IoT sensor tracking using artificial neural network | |
| Purnama et al. | Disease classification based on dermoscopic skin images using convolutional neural network in teledermatology system | |
| CN108492886B (zh) | 微创手术相似病案推荐方法、装置、设备及介质 | |
| Shankar et al. | Epileptic seizure classification based on Gramian angular field transformation and deep learning | |
| Irmak | A novel implementation of deep-learning approach on malaria parasite detection from thin blood cell images | |
| CN116211320A (zh) | 基于集成学习的运动想象脑机接口的模式识别方法 | |
| CN116796818B (zh) | 模型训练方法、装置、设备、存储介质及程序产品 | |
| Rashid et al. | Template matching based early exit cnn for energy-efficient myocardial infarction detection on low-power wearable devices | |
| CN113317804B (zh) | 一种康复效率预测方法、及其训练装置和计算机设备 | |
| WO2023173294A1 (zh) | 模型训练方法、装置、设备、存储介质及程序产品 | |
| Zhu | Convolutional neural networks based study and application for multicategory skin cancer detection | |
| Weber et al. | Cardiac abnormality detection in 12-lead ECGs with deep convolutional neural networks using data augmentation | |
| Wang et al. | A novel model based on a 1D-ResCNN and transfer learning for processing EEG attenuation | |
| CN115712856A (zh) | 一种基于cnn-cbam-bda的跨接收机辐射源识别方法和系统 | |
| CN114795247A (zh) | 脑电信号分析方法、装置、电子设备和存储介质 | |
| CN111601539A (zh) | 一种自动诊断对象病症的方法及实施该方法的系统 | |
| CN114224354A (zh) | 心律失常分类方法、装置及可读存储介质 | |
| CN115700104B (zh) | 基于多尺度原型学习的本身可解释的脑电信号分类方法 | |
| Delimayanti et al. | Implementation of Convolutional Neural Network for COVID19 Screening using X-Rays Images | |
| CN116548980B (zh) | 基于脉冲神经网络的长时程心电分类方法及系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |