CN114201869A - 模型量化方法、装置及存储介质 - Google Patents
模型量化方法、装置及存储介质 Download PDFInfo
- Publication number
- CN114201869A CN114201869A CN202111493718.5A CN202111493718A CN114201869A CN 114201869 A CN114201869 A CN 114201869A CN 202111493718 A CN202111493718 A CN 202111493718A CN 114201869 A CN114201869 A CN 114201869A
- Authority
- CN
- China
- Prior art keywords
- range
- determining
- search
- threshold
- values
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 76
- 238000013139 quantization Methods 0.000 title claims abstract description 71
- 238000003860 storage Methods 0.000 title claims abstract description 20
- 238000013507 mapping Methods 0.000 claims abstract description 30
- 238000004590 computer program Methods 0.000 claims description 20
- 238000011002 quantification Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 abstract description 15
- 238000004873 anchoring Methods 0.000 abstract description 5
- 238000010586 diagram Methods 0.000 description 13
- 238000009826 distribution Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 10
- 230000006870 function Effects 0.000 description 6
- 239000006185 dispersion Substances 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 238000007667 floating Methods 0.000 description 4
- 230000004913 activation Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000007795 chemical reaction product Substances 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000000047 product Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
本申请提供了一种模型量化方法、装置及存储介质，涉及计算机技术领域。该方法包括：从预设的阈值范围中确定搜索中心；根据搜索中心确定搜索范围；根据搜索范围内的各个阈值对应的第二KL散度值，从搜索范围内的阈值中确定出目标阈值，以作为模型量化后的映射范围的最大值；根据目标阈值进行模型量化。本申请实施例的方法中，先对搜索范围通过锚定法进行粗搜索，确定最优锚点，再对最优锚点的邻域范围进行精确搜索，得到领域最优点，以领域最优点作为全局最优点使用，可以大大降低计算耗时，提升模型量化速度。
Description
技术领域
本申请涉及计算机技术领域，具体而言，本申请涉及一种模型量化方法、装置及计算机可读存储介质。
背景技术
在模型量化过程中，一般不选用最大值映射数据，而是通过计算得出合适的映射最大值。要获得合适的映射最大值，可以通过计算原始数据与映射数据的分布相似性来判断映射最大值的取值是否合理，其中，数据的分布相似度就是Kullback-Leibler散度值(简称KL散度值)，KL散度值越小说明两个分布越相似。
现有技术中，在计算KL时通常会遍历从128到2048个阈值，这样计算耗时较多，严重影响模型量化速度。
发明内容
本申请实施例提供了一种模型量化方法、装置及计算机可读存储介质，旨在解决现有技术中的至少一个技术问题。
根据本申请实施例的一个方面，提供了一种模型量化方法，该方法包括：
从预设的阈值范围中确定搜索中心；
根据所述搜索中心确定搜索范围；
根据所述搜索范围内的各个阈值对应的第二KL散度值，从所述搜索范围内的阈值中确定出目标阈值，以作为模型量化后的映射范围的最大值；
根据所述目标阈值进行模型量化。
在一个可能的实现方式中，所述从预设的阈值范围中确定搜索中心，包括：
从预设的所述阈值范围内获取多个锚点；
根据各个所述锚点对应的第一KL散度值，从多个所述锚点中确定搜索中心。
在另一个可能的实现方式中，所述从预设的所述阈值范围内获取多个锚点，包括：
按照预设步长，从预设的所述阈值范围内获取多个锚点。
在另一个可能的实现方式中，所述根据多个所述锚点的KL散度值，从多个所述锚点中确定搜索中心，包括：
计算各个锚点对应的第一KL散度值；
将多个所述第一KL散度值中的最小值对应的锚点确定为所述搜索中心。
在又一个可能的实现方式中，根据所述搜索中心确定搜索范围，包括：
将与所述搜索中心相邻的锚点之间的阈值，确定为所述搜索范围。
在又一个可能的实现方式中，所述根据所述搜索范围内的各个阈值对应的第二KL散度值，从所述搜索范围内的阈值中确定出目标阈值，以作为模型量化后的映射范围的最大值，包括：
针对所述搜索范围内的阈值，逐个计算对应的第二KL散度值；
将多个第二KL散度值中的最小值对应的阈值，确定为所述目标阈值，以作为模型量化后的映射范围的最大值。
根据本申请实施例的另一个方面，提供了一种模型量化装置，该装置包括：
确定模块，用于从预设的阈值范围中确定搜索中心；还用于根据所述搜索中心确定搜索范围；还用于根据所述搜索范围内的各个阈值对应的第二KL散度值，从所述搜索范围内的阈值中确定出目标阈值，以作为模型量化后的映射范围的最大值；
量化模块，用于根据所述目标阈值进行模型量化。
在一个可能的实现方式中，所述确定模块在从预设的阈值范围中确定搜索中心时，具体用于：
从预设的所述阈值范围内获取多个锚点；
根据各个所述锚点对应的第一KL散度值，从多个所述锚点中确定搜索中心。
所述确定模块在从预设的所述阈值范围内获取多个锚点时，具体用于：按照预设步长，从预设的所述阈值范围内获取多个锚点。
在另一个可能的实现方式中，所述确定模块在根据各个所述锚点对应的第一KL散度值，从多个所述锚点中确定搜索中心时，具体用于：
计算各个锚点对应的第一KL散度值；
将多个所述第一KL散度值中的最小值对应的锚点确定为所述搜索中心。
在又一个可能的实现方式中，所述确定模块在根据所述搜索中心确定搜索范围时，具体用于：将与所述搜索中心相邻的锚点之间的阈值，确定为所述搜索范围。
在又一个可能的实现方式中，所述确定模块在根据所述搜索范围内的各个阈值对应的第二KL散度值，从所述搜索范围内的阈值中确定出目标阈值，以作为模型量化后的映射范围的最大值时，具体用于：
针对所述搜索范围内的阈值，逐个计算对应的第二KL散度值；
将多个第二KL散度值中的最小值对应的阈值，确定为所述目标阈值，以作为模型量化后的映射范围的最大值。
根据本申请实施例的另一个方面，提供了一种电子设备，包括存储器、处理器及存储在存储器上的计算机程序，所述处理器执行所述计算机程序以实现第一方面所示的模型量化方法的步骤。
根据本申请实施例的再一个方面，提供了一种计算机可读存储介质，所述计算机程序被处理器执行时实现第一方面所示的模型量化方法的步骤。
根据本申请实施例的又一个方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现第一方面所示的模型量化方法的步骤。
本申请实施例提供的技术方案带来的有益效果是：
通过先对搜索范围通过锚定法进行粗搜索，确定最优锚点，再对最优锚点的邻域范围进行精确搜索，得到领域最优点，以领域最优点作为全局最优点使用，可以大大降低计算耗时，提升模型量化速度。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对本申请实施例描述中所需要使用的附图作简单地介绍。
图1为本申请实施例提供的一种模型量化方法中KL散度值的搜索空间的示意图；
图2为本申请实施例提供的一种模型量化方法中的锚点的示意图；
图3为本申请实施例提供的一种模型量化方法中搜索范围的示意图；
图4为本申请实施例提供的一种模型量化方法的流程示意图；
图5为本申请实施例提供的一种模型量化方法中确定搜索中心的流程示意图；
图6为本申请另一实施例提供的一种模型量化方法中确定搜索中心的流程示意图；
图7为本申请实施例提供的一种模型量化方法中确定目标阈值的流程示意图；
图8为本申请实施例提供的一种模型量化装置的结构示意图；
图9为本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
下面结合本申请中的附图描述本申请的实施例。应理解，下面结合附图所阐述的实施方式，是用于解释本申请实施例的技术方案的示例性描述，对本申请实施例的技术方案不构成限制。
为使本申请的目的、技术方案和优点更加清楚，下面将结合附图对本申请实施方式作进一步地详细描述。
为了保证较高的精度，大部分的科学运算都是采用浮点型进行计算，常见的是32位浮点型和64位浮点型，即float32和double64。
对于深度学习模型来说，乘加计算量是非常大的，往往需要GPU等专用的计算平台才能实现实时运算，这对于端上产品来说是不可接受的，而模型量化是一个有效降低计算量的方法。
量化，即将网络的权值，激活值等从高精度转化成低精度的操作过程，例如：将32位浮点数转化成8位整型数int8，同时期望转换后的模型准确率与转化前相近。模型量化可以带来更小的模型尺寸、更低的功耗、更快的计算速度的优势。
在模型量化过程中，一般不选用最大值映射数据，而是通过计算得出合适的映射最大值。要获得合适的映射最大值，可以通过计算原始数据与映射数据的分布相似性来判断映射最大值的取值是否合理，其中，数据的分布相似度就是KL散度值，KL散度值越小说明两个分布越相似。
数据转换需要找到一个合理的阈值表示量化后的最大取值范围，为了找到这个最优阈值一般使用KL散度计算得到。KL散度，用于衡量两种概率分布之间的相似程度(也即：相对熵)来对量化前后的激活值分布进行评价，找出使得量化后int8分布相对于原来的FP32分布信息损失最小的那个阈值。
如图1所示，标号128到2048对应取值就是要搜索的空间，搜索方法是计算从128到2048的所有值分别对应的KL结果，获取所有KL中最小值对应的值就是要求的最优映射最大值。此流程中需要计算1921次KL散度值，会花费较多时间。显然，现有技术中采用遍历从128到2048个阈值的方法寻找最小KL散度值，这样计算耗时较多，严重影响模型量化速度。
为了解决现有技术中使用遍历法寻找最小KL散度值速度太慢的技术问题，本申请实施例提供了一种模型量化方法，采用锚钉法进行最优值搜索，先用较大的步长寻找初步最优点即最优锚点，再遍历最优锚点前后相邻锚钉之间的所有阈值，以寻找全局最优阈值点。此方法以较小精度损失为代价，快速得到搜寻范围内的次优点，相比现有方案可以达到10倍以上的提速，精度损失也能控制在1％以内。
下面通过对几个示例性实施方式的描述，对本申请实施例的技术方案以及本申请的技术方案产生的技术效果进行说明。需要指出的是，下述实施方式之间可以相互参考、借鉴或结合，对于不同实施方式中相同的术语、相似的特征以及相似的实施步骤等，不再重复描述。
图4为本申请实施例提供的一种模型量化方法，如图4所示，该方法包括：
S101、从预设的阈值范围中确定搜索中心。
S102、根据搜索中心确定搜索范围。
S103、根据搜索范围内的各个阈值对应的第二KL散度值，从该搜索范围内的阈值中确定出目标阈值，以作为模型量化后的映射范围的最大值。
S104、根据目标阈值进行模型量化。
在该实施例中，通过先对搜索范围通过锚定法进行粗搜索，确定最优锚点，再对最优锚点的邻域范围进行精确搜索，得到领域最优点，以领域最优点作为全局最优点使用，以作为模型量化后的映射范围的最大值，可以大大降低计算耗时，提升模型量化速度。
具体的，在该实施例中，预设的阈值范围可以为第一阈值与第二阈值之间的阈值范围，其中，第一阈值可以为128，第二阈值可以为2048。
图5为本申请实施例提供的一种模型量化方法中的确定搜索中心(步骤S101)的流程示意图。如图5所示，S101具体可以包括：
S1011、从预设的阈值范围内获取多个锚点。
S1012、根据各个锚点对应的第一KL散度值，从多个锚点中确定搜索中心。
在一些实施例中，S1011具体可以包括：按照预设步长，从预设(第一阈值与第二阈值之间)的阈值范围内获取多个锚点。
具体的，在该实施例中，如图2所示，锚点选择可以按照一定步长从序号128到2048进行抽取，比如：设置步长为20，那么获取的锚点就是128、148、168…，因此，可以得到96个锚点。
图6为本申请实施例提供的一种模型量化方法中的确定搜索中心(步骤S1012)的流程示意图。如图6所示，S1012具体可以包括：
S1012a、计算各个锚点对应的第一KL散度值。
S1012b、将多个第一KL散度值中的最小值对应的锚点确定为搜索中心。
具体的，在该实施例中，如图2所示，锚点选择可以按照一定步长从序号128到2048进行抽取，比如：设置步长为20，那么获取的锚点就是128、148、168…，因此，只需计算96个阈值对应的KL散度值即可得到各个锚点的KL散度值，此时可以从96个KL散度值中选择KL最小的锚点即最优锚点作为精细搜索的中心。
在一些实施例中，S102具体可以包括：将与搜索中心相邻的锚点之间的阈值，确定为搜索范围，优选的，将与搜索中心相邻的两个锚点之间的阈值，确定为搜索范围。
也就是说，在该实施例中，在精细搜索时，如图3所示，会选择步骤S103中选出的最优锚点为中心，以前后锚点之间的待选阈值为领域范围，即精细搜索的搜索范围，例如：最优锚点为248，则228与268之间的阈值为搜索范围内的阈值。
图7为本申请实施例提供的一种模型量化方法中的确定目标阈值(步骤S103)的流程示意图。如图7所示，S103具体可以包括：
S1031、针对搜索范围内的阈值，逐个计算对应的第二KL散度值。
S1032、将多个第二KL散度值中的最小值对应的阈值，确定为目标阈值，以作为模型量化后的映射范围的最大值。
也就是说，在该实施例中，在精细搜索时，如图3所示，步骤S103中选出的最优锚点248为中心的领域范围内进行逐点计算KL散度值，在求得的39个KL散度值中选择最小KL对应的待选阈值作为最终映射最大值使用。
由于通过锚定法进行粗搜索时计算量是96个KL散度值，精细搜索计算量是39个KL散度值，因此，总共计算量是135个KL散度值，由此可知，计算量从1921下降到135，在速度上提升了至少10倍。
综上，本申请实施例提供的一种模型量化方法，采用锚钉法进行最优值搜索，先用较大的步长寻找初步最优点即最优锚点，再遍历最优锚点前后相邻锚钉之间的所有阈值，以寻找全局最优阈值点，以作为模型量化后的映射范围的最大值。此方法以较小精度损失为代价，快速得到搜寻范围内的次优点，相比现有方案可以达到10倍以上的提速，精度损失也能控制在1％以内。
需要说明的是，在本申请的上述各实施例中，KL散度值可以采用现有相关技术中的方法计算得到，为了描述的简洁，在此不再赘述。
图8为本申请实施例提供了一种模型量化装置，如图8所示，该装置80可以包括：确定模块801和量化模块802。其中，
确定模块801用于从预设的阈值范围中确定搜索中心；还用于根据搜索中心确定搜索范围；还用于根据搜索范围内的各个阈值对应的第二KL散度值，从该搜索范围内的阈值中确定出目标阈值，以作为模型量化后的映射范围的最大值。
量化模块802用于根据目标阈值进行模型量化。
进一步地，上述确定模块801在从预设的阈值范围中确定搜索中心时，具体用于：从预设的阈值范围内获取多个锚点；根据各个锚点对应的第一KL散度值，从多个锚点中确定搜索中心。
进一步地，上述确定模块801在从预设的阈值范围内获取多个锚点时，具体用于：按照预设步长，从预设的阈值范围内获取多个锚点。
进一步地，上述确定模块801在根据各个锚点对应的第一KL散度值，从多个锚点中确定搜索中心时，具体用于：
计算各个锚点对应的第一KL散度值；将多个第一KL散度值中的最小值对应的锚点确定为搜索中心。
进一步地，上述确定模块801在根据搜索中心确定搜索范围时，具体用于：将与搜索中心相邻的锚点之间的阈值，确定为搜索范围。
进一步地，上述确定模块801在根据搜索范围内的各个阈值对应的第二KL散度值，从该搜索范围内的阈值中确定出目标阈值，以作为模型量化后的映射范围的最大值时，具体用于：
针对搜索范围内的阈值，逐个计算对应的第二KL散度值；将多个第二KL散度值中的最小值对应的阈值，确定为目标阈值，以作为模型量化后的映射范围的最大值。
本申请实施例的装置可执行本申请实施例提供的方法，其实现原理和能够达到的效果相类似，本申请各实施例的装置中的各模块所执行的动作是与本申请各实施例的方法中的步骤相对应的，对于装置的各模块的详细功能描述具体可以参见前文中所示的对应方法中的描述，此处不再赘述。
本申请实施例中提供了一种电子设备，包括存储器、处理器及存储在存储器上的计算机程序，该处理器执行上述计算机程序以实现本申请实施例提供的模型量化方法的步骤，与现有技术相比可实现：通过先对搜索范围通过锚定法进行粗搜索，确定最优锚点，再对最优锚点的邻域范围进行精确搜索，得到领域最优点，以领域最优点作为全局最优点使用，可以大大降低计算耗时，提升模型量化速度。
在一个可选实施例中提供了一种电子设备，如图9所示，图9所示的电子设备4000包括：处理器4001和存储器4003。其中，处理器4001和存储器4003相连，如通过总线4002相连。
处理器4001可以是CPU(Central Processing Unit，中央处理器)，通用处理器，DSP(Digital Signal Processor，数据信号处理器)，ASIC(Application SpecificIntegrated Circuit，专用集成电路)，FPGA(Field Programmable Gate Array，现场可编程门阵列)或者其他可编程逻辑器件、晶体管逻辑器件、硬件部件或者其任意组合。其可以实现或执行结合本申请公开内容所描述的各种示例性的逻辑方框，模块和电路。处理器4001也可以是实现计算功能的组合，例如包含一个或多个微处理器组合，DSP和微处理器的组合等。
总线4002可包括一通路，在上述组件之间传送信息。总线4002可以是PCI(Peripheral Component Interconnect，外设部件互连标准)总线或EISA(ExtendedIndustry Standard Architecture，扩展工业标准结构)总线等。总线4002可以分为地址总线、数据总线、控制总线等。为便于表示，图9中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
存储器4003可以是ROM(Read Only Memory，只读存储器)或可存储静态信息和指令的其他类型的静态存储设备，RAM(Random Access Memory，随机存取存储器)或者可存储信息和指令的其他类型的动态存储设备，也可以是EEPROM(Electrically ErasableProgrammable Read Only Memory，电可擦可编程只读存储器)、CD-ROM(Compact DiscRead Only Memory，只读光盘)或其他光盘存储、光碟存储(包括压缩光碟、激光碟、光碟、数字通用光碟、蓝光光碟等)、磁盘存储介质、其他磁存储设备、或者能够用于携带或存储计算机程序并能够由计算机读取的任何其他介质，在此不做限定。
存储器4003用于存储执行本申请实施例的计算机程序，并由处理器4001来控制执行。处理器4001用于执行存储器4003中存储的计算机程序，以实现前述方法实施例所示的步骤。
本申请实施例提供了一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，计算机程序被处理器执行时可实现前述方法实施例的步骤及相应内容。与现有技术相比可实现：本申请实施例提供的一种模型量化方法，采用锚钉法进行最优值搜索，先用较大的步长寻找初步最优点即最优锚点，再遍历最优锚点前后相邻锚钉之间的所有阈值，以寻找全局最优阈值点。此方法以较小精度损失为代价，快速得到搜寻范围内的次优点，相比现有方案可以达到10倍以上的提速，精度损失也能控制在1％以内。
需要说明的是，本申请实施例中对单元的划分是示意性的，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个处理器可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)或处理器(processor)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机可执行指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机可执行指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些处理器可执行指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的处理器可读存储器中，使得存储在该处理器可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些处理器可执行指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
应该理解的是，虽然本申请实施例的流程图中通过箭头指示各个操作步骤，但是这些步骤的实施顺序并不受限于箭头所指示的顺序。除非本文中有明确的说明，否则在本申请实施例的一些实施场景中，各流程图中的实施步骤可以按照需求以其他的顺序执行。此外，各流程图中的部分或全部步骤基于实际的实施场景，可以包括多个子步骤或者多个阶段。这些子步骤或者阶段中的部分或全部可以在同一时刻被执行，这些子步骤或者阶段中的每个子步骤或者阶段也可以分别在不同的时刻被执行。在执行时刻不同的场景下，这些子步骤或者阶段的执行顺序可以根据需求灵活配置，本申请实施例对此不限制。
以上所述仅是本申请部分实施场景的可选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本申请的方案技术构思的前提下，采用基于本申请技术思想的其他类似实施手段，同样属于本申请实施例的保护范畴。
Claims (10)
1.一种模型量化方法，其特征在于，包括：
从预设的阈值范围中确定搜索中心；
根据所述搜索中心确定搜索范围；
根据所述搜索范围内的各个阈值对应的第二KL散度值，从所述搜索范围内的阈值中确定出目标阈值，以作为模型量化后的映射范围的最大值；
根据所述目标阈值进行模型量化。
2.根据权利要求1所述的方法，其特征在于，所述从预设的阈值范围中确定搜索中心，包括：
从预设的所述阈值范围内获取多个锚点；
根据各个所述锚点对应的第一KL散度值，从多个所述锚点中确定搜索中心。
3.根据权利要求2所述的方法，其特征在于，所述从预设的所述阈值范围内获取多个锚点，包括：
按照预设步长，从预设的所述阈值范围内获取多个锚点。
4.根据权利要求2所述的方法，其特征在于，所述根据多个所述锚点的KL散度值，从多个所述锚点中确定搜索中心，包括：
计算各个锚点对应的第一KL散度值；
将多个所述第一KL散度值中的最小值对应的锚点确定为所述搜索中心。
5.根据权利要求1至4中任一项所述的方法，其特征在于，根据所述搜索中心确定搜索范围，包括：
将与所述搜索中心相邻的锚点之间的阈值，确定为所述搜索范围。
6.根据权利要求1至4中任一项所述的方法，其特征在于，所述根据所述搜索范围内的各个阈值对应的第二KL散度值，从所述搜索范围内的阈值中确定出目标阈值，以作为模型量化后的映射范围的最大值，包括：
针对所述搜索范围内的阈值，逐个计算对应的第二KL散度值；
将多个第二KL散度值中的最小值对应的阈值，确定为所述目标阈值，以作为模型量化后的映射范围的最大值。
7.一种模型量化装置，其特征在于，包括：
确定模块，用于从预设的阈值范围中确定搜索中心；还用于根据所述搜索中心确定搜索范围；还用于根据所述搜索范围内的各个阈值对应的第二KL散度值，从所述搜索范围内的阈值中确定出目标阈值，以作为模型量化后的映射范围的最大值；
量化模块，用于根据所述目标阈值进行模型量化。
8.一种电子设备，包括存储器、处理器及存储在存储器上的计算机程序，其特征在于，所述处理器执行所述计算机程序以实现权利要求1-6任一项所述的模型量化方法的步骤。
9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1-6任一项所述的模型量化方法的步骤。
10.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1-6任一项所述的模型量化方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111493718.5A CN114201869A (zh) | 2021-12-08 | 2021-12-08 | 模型量化方法、装置及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111493718.5A CN114201869A (zh) | 2021-12-08 | 2021-12-08 | 模型量化方法、装置及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN114201869A true CN114201869A (zh) | 2022-03-18 |
Family
ID=80651353
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111493718.5A Pending CN114201869A (zh) | 2021-12-08 | 2021-12-08 | 模型量化方法、装置及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114201869A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116108896A (zh) * | 2023-04-11 | 2023-05-12 | 上海登临科技有限公司 | 模型量化方法、装置、介质及电子设备 |
-
2021
- 2021-12-08 CN CN202111493718.5A patent/CN114201869A/zh active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116108896A (zh) * | 2023-04-11 | 2023-05-12 | 上海登临科技有限公司 | 模型量化方法、装置、介质及电子设备 |
| CN116108896B (zh) * | 2023-04-11 | 2023-07-07 | 上海登临科技有限公司 | 模型量化方法、装置、介质及电子设备 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11055360B2 (en) | Data write-in method and apparatus in a distributed file system | |
| US10402427B2 (en) | System and method for analyzing result of clustering massive data | |
| CN110569629A (zh) | 二进制代码文件溯源方法 | |
| CN111783867A (zh) | 机器学习算法选择方法及装置 | |
| TW201737115A (zh) | 一種機器學習系統的訓練方法和訓練系統 | |
| CN109829371B (zh) | 一种人脸检测方法及装置 | |
| CN111401518B (zh) | 一种神经网络量化方法、装置及计算机可读存储介质 | |
| CN114201869A (zh) | 模型量化方法、装置及存储介质 | |
| US9552284B2 (en) | Determining valid inputs for an unknown binary program | |
| CN109784207B (zh) | 一种人脸识别方法、装置及介质 | |
| CN116595918B (zh) | 快速逻辑等价性验证方法、装置、设备及存储介质 | |
| CN110580220A (zh) | 测量代码段执行时间的方法及终端设备 | |
| Markstein | The new IEEE-754 standard for floating point arithmetic | |
| CN106445960A (zh) | 一种数据聚类方法和装置 | |
| CN106569734A (zh) | 数据洗牌时内存溢出的修复方法及装置 | |
| CN113886491A (zh) | 分布式数据处理方法、装置、电子设备及存储介质 | |
| GB2573417A (en) | Scale calculation device and scale calculation program | |
| CN111325024B (zh) | 一种风险项目统计方法 | |
| JPWO2011083528A1 (ja) | データ処理装置、そのコンピュータプログラムおよびデータ処理方法 | |
| CN113391787B (zh) | 一种除法器及除法处理方法 | |
| CN111143744B (zh) | 一种web资产检测的方法、装置、设备及可读存储介质 | |
| CN113435058B (zh) | 配网自愈测试模型的数据降维方法、系统、终端及介质 | |
| CN111125165A (zh) | 集合的合并方法、装置、处理器及机器可读存储介质 | |
| KR102380437B1 (ko) | 정밀도 스케일링을 이용한 알고리즘 성능 최적화 방법 | |
| CN109144424B (zh) | 一种固态硬盘的读写方法、装置、设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| CB02 | Change of applicant information |
Address after: 100176 Room 101, 1f, building 3, yard 18, Kechuang 10th Street, Beijing Economic and Technological Development Zone, Beijing Applicant after: Beijing ESWIN Computing Technology Co.,Ltd. Address before: 100176 Room 101, 1f, building 3, yard 18, Kechuang 10th Street, Beijing Economic and Technological Development Zone, Beijing Applicant before: Beijing yisiwei Computing Technology Co.,Ltd. |
|
| CB02 | Change of applicant information |