CN111428191A - 基于知识蒸馏的天线下倾角计算方法、装置和存储介质 - Google Patents

基于知识蒸馏的天线下倾角计算方法、装置和存储介质 Download PDF

Info

Publication number
CN111428191A
CN111428191A CN202010171280.8A CN202010171280A CN111428191A CN 111428191 A CN111428191 A CN 111428191A CN 202010171280 A CN202010171280 A CN 202010171280A CN 111428191 A CN111428191 A CN 111428191A
Authority
CN
China
Prior art keywords
network
knowledge
output
teacher
student
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010171280.8A
Other languages
English (en)
Other versions
CN111428191B (zh
Inventor
翟懿奎
周文略
柯琪锐
余翠琳
甘俊英
应自炉
王天雷
麦超云
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuyi University
Original Assignee
Wuyi University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuyi University filed Critical Wuyi University
Priority to CN202010171280.8A priority Critical patent/CN111428191B/zh
Publication of CN111428191A publication Critical patent/CN111428191A/zh
Application granted granted Critical
Publication of CN111428191B publication Critical patent/CN111428191B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00—Reducing energy consumption in communication networks
    • Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Pure & Applied Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Mathematical Optimization (AREA)
  • Mathematical Analysis (AREA)
  • Computational Mathematics (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Algebra (AREA)
  • Databases & Information Systems (AREA)
  • Image Analysis (AREA)
  • Variable-Direction Aerials And Aerial Arrays (AREA)

Abstract

本发明公开了一种基于知识蒸馏的天线下倾角计算方法、装置和存储介质。根据第一知识、第二知识和第三知识，通过对数量级较大的教师网络进行知识蒸馏以训练出轻量级的学生网络，通过学生网络进行天线下倾角的计算能够大大减少计算复杂度，使得该实例分割网络能够搭载至无人机，并通过无人机中的处理芯片完成天线下倾角的测量和计算，从而提高了利用无人机进行天线下倾角测量的工作效率。

Description

基于知识蒸馏的天线下倾角计算方法、装置和存储介质
技术领域
本发明涉及图像技术领域，特别是基于知识蒸馏的天线下倾角计算方法、装置和存储介质。
背景技术
通信基站的天线下倾角是决定基站信号覆盖范围的重要参数之一，在基站投入运行以后，随着业务的发展，用户数量的变化以及周围信号环境的变化，还需要对下倾角一定的调整。传统的测量方法需要专业塔工上塔检测，耗费大量的人工，而且登塔也存在安全隐患。为了解决这个问题，现有方案通常采用无人机拍摄天线的图像，再通过图像处理技术识别出天线下倾角。但是现有的图像识别需要借助参数量巨大的深度神经网络，其计算量对于无人机的处理芯片负担过大，需要耗费大量的时间执行计算，不利于工作效率的提高。
发明内容
为了克服现有技术的不足，本发明的目的在于提供一种基于知识蒸馏的天线下倾角计算方法及其装置，能够提供轻量级的网络模型，提高利用无人机进行天线下倾角检测的工作效率。
本发明解决其问题所采用的技术方案是：第一方面，本发明提供了一种基于知识蒸馏的天线下倾角计算方法，包括以下步骤：
获取预先训练好的教师网络，所述教师网络为实例分割网络；
获取第一知识和所述教师网络的特征提取网络，训练出学生网络的特征提取网络，所述第一知识为所述教师网络的卷积块与上取样块之间的对应关系；
获取第二知识和所述教师网络的区域建议网络，训练出学生网络的区域建议网络，所述第二知识为所述教师网络的区域选择网络的二分类输出分布；
获取第三知识和所述教师网络的输出网络，训练出学生网络的输出网络，所述第三知识为所述教师网络的输出部分的多分类分布输出分布；
获取天线图像，将所述天线图像输入至训练完成的学生网络中提取出掩膜，并计算出天线下倾角。
进一步，所述卷积块与上取样块之间的对应关系满足以下关系矩阵：
Figure BDA0002409273130000021
Figure BDA0002409273130000022
其中，Ci为第i个卷积块输出的特征图，Pi为第i个上取样块输出的特征图，其中Fj(Ci)为Ci的第j层特征图，Fk(Pi)为Pi的第k层特征图。
进一步，所述教师网络的矩阵和学生网络的矩阵还满足以下损失函数：
Figure BDA0002409273130000031
其中Gi T为教师网络的关系矩阵，Gi S为学生网络的关系矩阵。
进一步，所述训练出学生网络的区域建议网络之前，还包括：通过温度系数对所述教师网络的输出分布进行软化。
进一步，所述训练出学生网络的区域建议网络满足以下损失函数：
Figure BDA0002409273130000032
其中y表示学生模型的正常输出，
Figure BDA0002409273130000033
表示真实标签，qT为教师网络输出的软分布，qS为学生网络输出的软分布，λ为损失任务的权重，T为温度系数。
进一步，所述训练出学生网络的输出网络满足以下损失函数：Ltotoal＝Lmask+LGram+LRPN+LCls；其中Lmask为输出部分掩膜支路的损失函数，LGram为特征提取部分的知识蒸馏的损失函数，LRPN为区域选择网络的知识蒸馏的损失函数，LCls为输出部分掩膜支路的损失函数。
进一步，所述天线下倾角的计算具体包括以下步骤：
获取与所述掩膜相对应的矩阵，遍历得出最小x坐标；
以所述最小x坐标为起点，由下至上遍历所述掩膜，等距离获取10个对应的坐标点；
计算相邻的两个坐标点之间的夹角θi，所述θi满足以下公式：
Figure BDA0002409273130000034
去掉所计算出的θi中的最大值和最小值后，将计算出θi的平均值设置为天线下倾角。
第二方面，本发明提供了一种用于执行基于知识蒸馏的天线下倾角计算方法的装置，包括CPU单元，所述CPU单元用于执行以下步骤：
获取预先训练好的教师网络，所述教师网络为实例分割网络；
获取第一知识和所述教师网络的特征提取网络，训练出学生网络的特征提取网络，所述第一知识为所述教师网络的卷积块与上取样块之间的对应关系；
获取第二知识和所述教师网络的区域建议网络，训练出学生网络的区域建议网络，所述第二知识为所述教师网络的区域选择网络的二分类输出分布；
获取第三知识和所述教师网络的输出网络，训练出学生网络的输出网络，所述第三知识为所述教师网络的输出部分的多分类分布输出分布；
获取天线图像，将所述天线图像输入至训练完成的学生网络中提取出掩膜，并计算出天线下倾角。
第三方面，本发明提供了一种用于执行基于知识蒸馏的天线下倾角计算方法的设备，包括至少一个控制处理器和用于与至少一个控制处理器通信连接的存储器；存储器存储有可被至少一个控制处理器执行的指令，指令被至少一个控制处理器执行，以使至少一个控制处理器能够执行如上所述的基于知识蒸馏的天线下倾角计算方法。
第四方面，本发明提供了一种计算机可读存储介质，计算机可读存储介质存储有计算机可执行指令，计算机可执行指令用于使计算机执行如上所述的基于知识蒸馏的天线下倾角计算方法。
第五方面，本发明还提供了一种计算机程序产品，所述计算机程序产品包括存储在计算机可读存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，使计算机执行如上所述的基于知识蒸馏的天线下倾角计算方法。
本发明实施例中提供的一个或多个技术方案，至少具有如下有益效果：本发明根据第一知识、第二知识和第三知识，通过对数量级较大的教师网络进行知识蒸馏以训练出轻量级的学生网络，通过学生网络进行天线下倾角的计算能够大大减少计算复杂度，使得该实例分割网络能够搭载至无人机，并通过无人机中的处理芯片完成天线下倾角的测量和计算，从而提高了利用无人机进行天线下倾角测量的工作效率。
附图说明
下面结合附图和实例对本发明作进一步说明。
图1是本发明实施例提供的一种基于知识蒸馏的天线下倾角计算方法的流程图；
图2是本发明实施例提供的一种基于知识蒸馏的天线下倾角计算方法的网络模型图；
图3是本发明实施例提供的一种基于知识蒸馏的天线下倾角计算方法的区域建议网络的知识蒸馏原理图；
图4是本发明实施例提供的一种基于知识蒸馏的天线下倾角计算方法的输出网络的知识蒸馏原理图；
图5是本发明另一实施例提供的一种用于执行基于知识蒸馏的天线下倾角计算方法的装置示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。
需要说明的是，如果不冲突，本发明实施例中的各个特征可以相互结合，均在本发明的保护范围之内。另外，虽然在装置示意图中进行了功能模块划分，在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于装置中的模块划分，或流程图中的顺序执行所示出或描述的步骤。
参考图1和图4，本发明的第一实施例提供了一种基于知识蒸馏的天线下倾角计算方法，包括以下步骤：
步骤S100，获取预先训练好的教师网络，所述教师网络为实例分割网络；
步骤S200，获取第一知识和所述教师网络的特征提取网络，训练出学生网络的特征提取网络，所述第一知识为所述教师网络的卷积块与上取样块之间的对应关系；
步骤S300，获取第二知识和所述教师网络的区域建议网络，训练出学生网络的区域建议网络，所述第二知识为所述教师网络的区域选择网络的二分类输出分布；
步骤S400，获取第三知识和所述教师网络的输出网络，训练出学生网络的输出网络，所述第三知识为所述教师网络的输出部分的多分类分布输出分布；
步骤S500，获取天线图像，将所述天线图像输入至训练完成的学生网络中提取出掩膜，并计算出天线下倾角。
其中，需要说明的是，本实施例优选采用实例分割网络作为图像处理的网络，能够更好地对背景和图像进行分割，更好地确定天线的具体位置、形状和边框，也可以采用其他类似的算法，在此不再赘述。需要说明的是，如图2所示，实例分割网络包括特征提取网络、区域建议网络、感兴趣选择网络、感兴趣区域对齐网络和输出网络，本实施例并不涉及对网络结构的改进，本领域技术人员有动机根据实际的计算负责度调整网络的具体参数，在此不再赘述。
其中，需要说明的是，步骤S100至步骤S400为网络的训练过程，执行一次完成训练得出学生网络后，将学生网络搭载至无人机的处理芯片中运行即可，无需重复训练。
其中，需要说明的是，本实施例优选教室网络的特征提取网络采用ResNet101-FPN，该网络对于图像的特征提取能力较好，但是其庞大的参数量为神经网络在边缘化设备的部署带来了巨大压力，所以在本实施例优选ResNet50-FPN作为学生网络的特征提取网络。
其中，需要说明的是，由于教师网络的特征提取网络具有庞大参数，所以教师网络优良的特征提取能力使得其区域建议网络对于背景或物体具有良好的判断能力，因此本实施例优选第二知识为教师模型的区域选择网络的输出分布。可以理解的是，区域建议网络仅需要对背景或目标进行判断，因此本实施例优选第二知识为二分类输出分布，其原理图如图3所示。
其中，需要说明的是，由于输出网络需要对图像识别出的各种类型进行分类，因此本实施例优选第三知识为所述教师网络的输出部分的多分类分布输出分布，其原理图如图4所示。
进一步，在本发明的另一个实施例中，所述卷积块与上取样块之间的对应关系满足以下关系矩阵：
Figure BDA0002409273130000081
Figure BDA0002409273130000082
其中，Ci为第i个卷积块输出的特征图，Pi为第i个上取样块输出的特征图，其中Fj(Ci)为Ci的第j层特征图，Fk(Pi)为Pi的第k层特征图。
其中，需要说明的是，本实施例优选教师网络和学生网络的卷积块和上取样块均满足上述矩阵的关系，以确保知识蒸馏的准确性。本领域技术人员可以理解的是，i的具体数量可以根据实际网络的复杂度调整，在此不再赘述。
进一步，在本发明的另一个实施例中，所述教师网络的矩阵和学生网络的矩阵还满足以下损失函数：
Figure BDA0002409273130000091
其中Gi T为教师网络的关系矩阵，Gi S为学生网络的关系矩阵。
其中，需要说明的是，本实施例中优选其中λ表示多任务中的任务权重，N代表了Gram矩阵中元素的个数，‖‖代表L2范数，具体的数值根据实际网络的需求调整即可，在此不作限制。
进一步，在本发明的另一个实施例中，所述训练出学生网络的区域建议网络之前，还包括：通过温度系数对所述教师网络的输出分布进行软化。
其中，需要说明的是，在现有的神经网络中，通常使用softmax函数将最后一层网络层的输出转换为概率，对应的标签是独热码，再构建损失函数做参数优化，可以将教师网络的输出作为标签，构建损失函数让学生网络的输出尽可能逼近教师网络的输出，但是独热码的形式没有办法让学生网络学习到教师网络的概率分布，所以本实施例优选通过使用温度系数T使教师网络的输出软化，再通过损失函数让学生网络学习教师网络的输出概率分布，需要说明的是，本实施例优选将教师网络的输出转换为软标签的公式如下：
Figure BDA0002409273130000092
进一步，在本发明的另一个实施例中，所述训练出学生网络的区域建议网络满足以下损失函数：
Figure BDA0002409273130000095
Figure BDA0002409273130000093
其中y表示学生模型的正常输出，
Figure BDA0002409273130000094
表示真实标签，qT为教师网络输出的软分布，qs为学生网络输出的软分布，λ为损失任务的权重，T为温度系数。
其中，需要说明的是，损失任务的权重λ和温度系数T可以是任意值，本实施例优选λ的值为0.8，T的值为10。需要说明的是，本实施例损失函数的第一部分表示通过第一部分损失函数使学生模型的输出软分布逼近教师模型的输出软分布，第二部分表示通过第二部分的损失函数使学生模型的输出硬分布逼近真实标签。需要说明的是，本实施例中的CE为二元交叉熵函数，由以下公式计算得出：
Figure BDA0002409273130000101
进一步，在本发明的另一个实施例中，所述训练出学生网络的输出网络满足以下损失函数：Ltotoal＝Lmask+LGram+LRPN+LCls；其中Lmask为输出部分掩膜支路的损失函数，LGram为特征提取部分的知识蒸馏的损失函数，LRPN为区域选择网络的知识蒸馏的损失函数，LCls为输出部分掩膜支路的损失函数。
其中，需要说明的是，由于本实施例输出网络的训练与区域建议网络训练类似，因此优选对教师网络的软化与区域建议网络的软化相同，在此不再赘述。
进一步，在本发明的另一个实施例中，所述天线下倾角的计算具体包括以下步骤：
步骤S510，获取与所述掩膜相对应的矩阵，遍历得出最小x坐标；
步骤S520，以所述最小x坐标为起点，由下至上遍历所述掩膜，等距离获取10个对应的坐标点；
步骤S530，计算相邻的两个坐标点之间的夹角θi，所述θi满足以下公式：
Figure BDA0002409273130000111
步骤S540，去掉所计算出的θi中的最大值和最小值后，将计算出θi的平均值设置为天线下倾角。
其中，需要说明的是，由于天线与水平面呈一定的下倾角，因此本实施例优选遍历掩膜获取最小x坐标，则为夹角的顶点。可以理解的是，步骤S520中选取10个坐标点为本实施例的优选，由于天线图像为平滑图像，因此所取的坐标点能够构成一条线段，能够用于计算与地面之间的夹角，10个坐标点为本实施例的优选，能够在确保精度的同时将计算量控制在合理范围，也可以根据实际需求调整。可以理解的是，由于图像识别存在一定的误差，因此计算出来的若干个夹角θi并非相同，本实施例优选去掉θi的最大值和最小值后计算平均值，能够使得天线下倾角更加准确。
参照图5，本发明的另一实施例还提供了一种用于执行基于知识蒸馏的天线下倾角计算方法的装置，该装置为智能设备，例如智能手机、处理芯片、计算机和平板电脑等，本实施例以处理芯片为例加以说明。
在该用于执行基于知识蒸馏的天线下倾角计算方法的处理芯片5000中，包括CPU单元5100，所述CPU单元5100用于执行以下步骤：
获取预先训练好的教师网络，所述教师网络为实例分割网络；
获取第一知识和所述教师网络的特征提取网络，训练出学生网络的特征提取网络，所述第一知识为所述教师网络的卷积块与上取样块之间的对应关系；
获取第二知识和所述教师网络的区域建议网络，训练出学生网络的区域建议网络，所述第二知识为所述教师网络的区域选择网络的二分类输出分布；
获取第三知识和所述教师网络的输出网络，训练出学生网络的输出网络，所述第三知识为所述教师网络的输出部分的多分类分布输出分布；
获取天线图像，将所述天线图像输入至训练完成的学生网络中提取出掩膜，并计算出天线下倾角。
其中，在本实施例中，所述智能装置中安装有用于执行上述所述基于知识蒸馏的天线下倾角计算方法的客户端，所述基于知识蒸馏的天线下倾角计算方法在本实施例中不需要通过用户操作完成，而是在所述处理芯片5000启动时，通过CPU单元初始化时自动完成。
处理芯片5000和CPU单元5100之间可以通过总线或者其他方式连接，处理芯片5000中还包括存储器，所述存储器作为一种非暂态计算机可读存储介质，可用于存储非暂态软件程序、非暂态性计算机可执行程序以及模块，如本发明实施例中的用于执行基于知识蒸馏的天线下倾角计算方法的设备对应的程序指令/模块。处理芯片5000通过运行存储在存储器中的非暂态软件程序、指令以及模块，从而控制CPU单元5100执行用于执行基于知识蒸馏的天线下倾角计算方法的各种功能应用以及数据处理，即实现上述方法实施例的基于知识蒸馏的天线下倾角计算方法。
存储器可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据CPU单元5100的使用所创建的数据等。此外，存储器可以包括高速随机存取存储器，还可以包括非暂态存储器，例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中，存储器可选包括相对于CPU单元5100远程设置的存储器，这些远程存储器可以通过网络连接至该处理芯片5000。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
所述一个或者多个模块存储在所述存储器中，当被所述CPU单元5100执行时，执行上述方法实施例中的基于知识蒸馏的天线下倾角计算方法。
本发明实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可执行指令，该计算机可执行指令被CPU单元5100执行，实现上述所述的基于知识蒸馏的天线下倾角计算方法。
以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的装置可以是或者也可以不是物理上分开的，即可以位于一个地方，或者也可以分布到多个网络装置上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
需要说明的是，由于本实施例中的用于执行基于知识蒸馏的天线下倾角计算方法的装置与上述的基于知识蒸馏的天线下倾角计算方法基于相同的发明构思，因此，方法实施例中的相应内容同样适用于本装置实施例，此处不再详述。
通过以上的实施方式的描述，本领域技术人员可以清楚地了解到各实施方式可借助软件加通用硬件平台的方式来实现。本领域技术人员可以理解实现上述实施例方法中的全部或部分流程是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于计算机可读取存储介质中，该程序在执行时，可包括如上述方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(ReadOnly Memory,ROM)或随机存储记忆体(Random Access Memory,RAM)等。
以上是对本发明的较佳实施进行了具体说明，但本发明并不局限于上述实施方式，熟悉本领域的技术人员在不违背本发明精神的前提下还可作出种种的等同变形或替换，这些等同的变形或替换均包含在本申请权利要求所限定的范围内。

Claims (9)

1.一种基于知识蒸馏的天线下倾角计算方法，其特征在于，包括以下步骤：
获取预先训练好的教师网络，所述教师网络为实例分割网络；
获取第一知识和所述教师网络的特征提取网络，训练出学生网络的特征提取网络，所述第一知识为所述教师网络的卷积块与上取样块之间的对应关系；
获取第二知识和所述教师网络的区域建议网络，训练出学生网络的区域建议网络，所述第二知识为所述教师网络的区域选择网络的二分类输出分布；
获取第三知识和所述教师网络的输出网络，训练出学生网络的输出网络，所述第三知识为所述教师网络的输出部分的多分类分布输出分布；获取天线图像，将所述天线图像输入至训练完成的学生网络中提取出掩膜，并计算出天线下倾角。
2.根据权利要求1所述的一种基于知识蒸馏的天线下倾角计算方法，其特征在于，所述卷积块与上取样块之间的对应关系满足以下关系矩阵：
Figure FDA0002409273120000011
Figure FDA0002409273120000012
其中，Ci为第i个卷积块输出的特征图，Pi为第i个上取样块输出的特征图，其中Fj(Ci)为Ci的第j层特征图，Fk(Pi)为Pi的第k层特征图。
3.根据权利要求2所述的一种基于知识蒸馏的天线下倾角计算方法，其特征在于，所述教师网络的矩阵和学生网络的矩阵还满足以下损失函数：
Figure FDA0002409273120000021
其中Gi T为教师网络的关系矩阵，Gi s为学生网络的关系矩阵。
4.根据权利要求1所述的一种基于知识蒸馏的天线下倾角计算方法，其特征在于，所述训练出学生网络的区域建议网络之前，还包括：通过温度系数对所述教师网络的输出分布进行软化。
5.根据权利要求4所述的一种基于知识蒸馏的天线下倾角计算方法，其特征在于，所述训练出学生网络的区域建议网络满足以下损失函数：
Figure FDA0002409273120000022
其中y表示学生模型的正常输出，
Figure FDA0002409273120000023
表示真实标签，qT为教师网络输出的软分布，qS为学生网络输出的软分布，λ为损失任务的权重，T为温度系数。
6.根据权利要求1所述的一种基于知识蒸馏的天线下倾角计算方法，其特征在于：所述训练出学生网络的输出网络满足以下损失函数：Ltotoal＝Lmask+LGram+LRPN+LCls；其中Lmask为输出部分掩膜支路的损失函数，LGram为特征提取部分的知识蒸馏的损失函数，LRPN为区域选择网络的知识蒸馏的损失函数，LCls为输出部分掩膜支路的损失函数。
7.根据权利要求1所述的一种基于知识蒸馏的天线下倾角计算方法，其特征在于，所述天线下倾角的计算具体包括以下步骤：
获取与所述掩膜相对应的矩阵，遍历得出最小x坐标；
以所述最小x坐标为起点，由下至上遍历所述掩膜，等距离获取10个对应的坐标点；
计算相邻的两个坐标点之间的夹角θi，所述θi满足以下公式：
Figure FDA0002409273120000031
去掉所计算出的θi中的最大值和最小值后，将计算出θi的平均值设置为天线下倾角。
8.一种用于执行基于知识蒸馏的天线下倾角计算方法的装置，其特征在于，包括CPU单元，所述CPU单元用于执行以下步骤：
获取预先训练好的教师网络，所述教师网络为实例分割网络；
获取第一知识和所述教师网络的特征提取网络，训练出学生网络的特征提取网络，所述第一知识为所述教师网络的卷积块与上取样块之间的对应关系；
获取第二知识和所述教师网络的区域建议网络，训练出学生网络的区域建议网络，所述第二知识为所述教师网络的区域选择网络的二分类输出分布；
获取第三知识和所述教师网络的输出网络，训练出学生网络的输出网络，所述第三知识为所述教师网络的输出部分的多分类分布输出分布；获取天线图像，将所述天线图像输入至训练完成的学生网络中提取出掩膜，并计算出天线下倾角。
9.一种计算机可读存储介质，其特征在于：所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令用于使计算机执行如权利要求1-7任一项所述的一种基于知识蒸馏的天线下倾角计算方法。
CN202010171280.8A 2020-03-12 2020-03-12 基于知识蒸馏的天线下倾角计算方法、装置和存储介质 Active CN111428191B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010171280.8A CN111428191B (zh) 2020-03-12 2020-03-12 基于知识蒸馏的天线下倾角计算方法、装置和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010171280.8A CN111428191B (zh) 2020-03-12 2020-03-12 基于知识蒸馏的天线下倾角计算方法、装置和存储介质

Publications (2)

Publication Number Publication Date
CN111428191A true CN111428191A (zh) 2020-07-17
CN111428191B CN111428191B (zh) 2023-06-16

Family

ID=71547873

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010171280.8A Active CN111428191B (zh) 2020-03-12 2020-03-12 基于知识蒸馏的天线下倾角计算方法、装置和存储介质

Country Status (1)

Country Link
CN (1) CN111428191B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111932561A (zh) * 2020-09-21 2020-11-13 深圳大学 基于集成知识蒸馏的实时肠镜影像分割方法及装置
CN114527779A (zh) * 2022-01-25 2022-05-24 华南师范大学 货物配送无人机的控制方法、系统和存储介质
CN116486285A (zh) * 2023-03-15 2023-07-25 中国矿业大学 一种基于类别掩码蒸馏的航拍图像目标检测方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108764462A (zh) * 2018-05-29 2018-11-06 成都视观天下科技有限公司 一种基于知识蒸馏的卷积神经网络优化方法
CN108830813A (zh) * 2018-06-12 2018-11-16 福建帝视信息科技有限公司 一种基于知识蒸馏的图像超分辨率增强方法
CN110110751A (zh) * 2019-03-31 2019-08-09 华南理工大学 一种基于注意力机制的金字塔网络的中草药识别方法
CN110245754A (zh) * 2019-06-14 2019-09-17 西安邮电大学 一种基于位置敏感图的知识蒸馏方法
CN110781905A (zh) * 2019-10-25 2020-02-11 北京达佳互联信息技术有限公司 一种图像检测方法及装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108764462A (zh) * 2018-05-29 2018-11-06 成都视观天下科技有限公司 一种基于知识蒸馏的卷积神经网络优化方法
CN108830813A (zh) * 2018-06-12 2018-11-16 福建帝视信息科技有限公司 一种基于知识蒸馏的图像超分辨率增强方法
CN110110751A (zh) * 2019-03-31 2019-08-09 华南理工大学 一种基于注意力机制的金字塔网络的中草药识别方法
CN110245754A (zh) * 2019-06-14 2019-09-17 西安邮电大学 一种基于位置敏感图的知识蒸馏方法
CN110781905A (zh) * 2019-10-25 2020-02-11 北京达佳互联信息技术有限公司 一种图像检测方法及装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111932561A (zh) * 2020-09-21 2020-11-13 深圳大学 基于集成知识蒸馏的实时肠镜影像分割方法及装置
CN114527779A (zh) * 2022-01-25 2022-05-24 华南师范大学 货物配送无人机的控制方法、系统和存储介质
CN116486285A (zh) * 2023-03-15 2023-07-25 中国矿业大学 一种基于类别掩码蒸馏的航拍图像目标检测方法
CN116486285B (zh) * 2023-03-15 2024-03-19 中国矿业大学 一种基于类别掩码蒸馏的航拍图像目标检测方法

Also Published As

Publication number Publication date
CN111428191B (zh) 2023-06-16

Similar Documents

Publication Publication Date Title
CN111126258A (zh) 图像识别方法及相关装置
CN108304820B (zh) 一种人脸检测方法、装置及终端设备
CN111640125B (zh) 基于Mask R-CNN的航拍图建筑物检测和分割方法及装置
CN106295613A (zh) 一种无人机目标定位方法及系统
CN113378686B (zh) 一种基于目标中心点估计的两阶段遥感目标检测方法
CN111428191A (zh) 基于知识蒸馏的天线下倾角计算方法、装置和存储介质
CN111523414A (zh) 人脸识别方法、装置、计算机设备和存储介质
US20240193923A1 (en) Method of training target object detection model, method of detecting target object, electronic device and storage medium
CN112950780B (zh) 一种基于遥感影像的网络地图智能生成方法及系统
CN114283285A (zh) 交叉一致性自训练遥感图像语义分割网络训练方法及装置
CN114332473A (zh) 目标检测方法、装置、计算机设备、存储介质及程序产品
CN115359366A (zh) 基于参数优化的遥感图像目标检测方法
CN114241326A (zh) 一种渐进式遥感影像地物要素智能生产方法及系统
CN111898693A (zh) 能见度分类模型的训练方法、能见度估计方法、装置
CN114419430A (zh) 一种基于SE-U-Net++模型的耕地地块提取方法及装置
CN115019163A (zh) 基于多源大数据的城市要素识别方法
CN114385662A (zh) 路网更新方法、装置、存储介质及电子设备
CN116701734B (zh) 地址文本的处理方法、设备及计算机可读存储介质
CN113160117A (zh) 一种自动驾驶场景下的三维点云目标检测方法
Tao et al. An approach for identifying historic village using deep learning
CN112785083B (zh) 到达时间的预估方法、装置、电子设备以及存储介质
CN116188587A (zh) 定位方法、装置及车辆
CN113128492A (zh) 一种票据文本定位方法和装置
CN112036268A (zh) 构件识别方法及相关装置
CN113723464B (zh) 一种遥感影像分类方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant