CN109447277A - 一种通用的机器学习超参黑盒优化方法及系统 - Google Patents
一种通用的机器学习超参黑盒优化方法及系统 Download PDFInfo
- Publication number
- CN109447277A CN109447277A CN201811221830.1A CN201811221830A CN109447277A CN 109447277 A CN109447277 A CN 109447277A CN 201811221830 A CN201811221830 A CN 201811221830A CN 109447277 A CN109447277 A CN 109447277A
- Authority
- CN
- China
- Prior art keywords
- optimization
- super ginseng
- super
- ginseng
- machine learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000005457 optimization Methods 0.000 title claims abstract description 95
- 238000000034 method Methods 0.000 title claims abstract description 41
- 238000010801 machine learning Methods 0.000 title claims abstract description 37
- 241000208340 Araliaceae Species 0.000 claims abstract description 104
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 claims abstract description 104
- 235000003140 Panax quinquefolius Nutrition 0.000 claims abstract description 104
- 235000008434 ginseng Nutrition 0.000 claims abstract description 104
- 238000012549 training Methods 0.000 claims abstract description 36
- 238000011156 evaluation Methods 0.000 claims abstract description 11
- 230000007115 recruitment Effects 0.000 claims abstract description 11
- 238000004088 simulation Methods 0.000 claims abstract description 10
- 230000000694 effects Effects 0.000 claims abstract description 7
- 230000008569 process Effects 0.000 claims description 17
- 230000005540 biological transmission Effects 0.000 claims description 4
- 238000012800 visualization Methods 0.000 claims description 4
- 238000009826 distribution Methods 0.000 claims description 3
- 230000003631 expected effect Effects 0.000 claims description 3
- 230000006870 function Effects 0.000 claims description 3
- 238000012545 processing Methods 0.000 claims description 3
- 238000012795 verification Methods 0.000 claims description 3
- 230000009471 action Effects 0.000 claims description 2
- 238000002790 cross-validation Methods 0.000 claims description 2
- 238000007667 floating Methods 0.000 claims description 2
- 238000005194 fractionation Methods 0.000 claims description 2
- 238000007477 logistic regression Methods 0.000 claims description 2
- 238000012423 maintenance Methods 0.000 claims description 2
- 239000011159 matrix material Substances 0.000 claims description 2
- 238000005259 measurement Methods 0.000 claims description 2
- 230000000712 assembly Effects 0.000 claims 1
- 238000000429 assembly Methods 0.000 claims 1
- 230000001960 triggered effect Effects 0.000 claims 1
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 230000006978 adaptation Effects 0.000 abstract description 2
- 230000009467 reduction Effects 0.000 abstract description 2
- 238000012544 monitoring process Methods 0.000 abstract 1
- 238000005516 engineering process Methods 0.000 description 3
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Electrically Operated Instructional Devices (AREA)
Abstract
本发明提供了一种通用的机器学习超参黑盒优化方法及系统，涉及人工智能和自动机器学习领域。包括，超参优化客户端，用于提交优化请求；超参优化服务门户，用于接收客户端请求进行处理；学习引擎，用于对训练集进行模拟学习；超参推荐引擎，用于根据模拟学习结果进行超参推荐；效果评估组件，用于评估训练集各超参集合的效果及性能；优化算法配置组件，用于超参优化算法的配置；自动停止组件，用于停止无意义的训练集；超参优化控制面板，用于管理配置、调度监控等。本发明的有益效果为：实现黑盒优化，使用简单，降低机器学习调参的门槛；引入新算法时可以快速适配优化；高可用性和高扩展性；内置最先进的超参优化算法，适合大规模应用。
Description
技术领域
本发明属于人工智能和自动机器学习领域，具体涉及一种通用的机器学习超参黑盒优化方法及系统。
背景技术
随着这几年新一波人工智能浪潮的到来，机器学习相关技术被应用到诸多行业和领域。调参是机器学习中非常重要的一个环节，机器学习模型应用的成功离不开好的调参。对于调参，目前行业大多做法是用人工的方式就行不断调整尝试，直至找到满意的参数为止。这种方式有诸多弊端，第一是耗费大量的人工成本，而且带有很大的主观性，可解释性低；第二是针对不同的算法，需要用不同的调参方法，特别是面对新算法时需要做大量的工作。
为了解决这些弊端，行业出现了自动化机器学习（AutoML）的技术，其中包括Hyperopt等方案，在一定程度上实现了自动调参的目标。当然，这些方案也存在一些缺点，例如伸缩性和灵活性比较低，部分方案都是以第三方库的形式提供服务，需要大量的手工代码和工程实施来进行模拟验证，无法实现真正意义上的完全自动调参。
发明内容
为了解决这些问题，在自动化机器学习的领域往前更进一步，实现通用的自动调参方案，用户无需关心优化器的具体实现，达到用户和优化器耦合度最低、灵活性和伸缩性最高的目的。本发明提供了一种通用的机器学习超参黑盒优化方法及系统。
本发明采用以下技术方案：
一种通用的机器学习超参黑盒优化方法及系统，包括：超参优化客户端、超参优化服务器端、超参优化服务门户、学习引擎、超参推荐引擎、效果评估组件、优化算法配置组件、自动停止组件、超参优化控制面板，其中：
所述超参优化客户端用于封装用户机器学习过程的相关资源（包括数据、模型、算法、参数等），并提交到超参优化服务器进行处理；
所述超参优化服务器端用于接收客户端的请求，进行超参优化工作，同时提供一些超参优化需要的配置项管理和模拟验证等功能；
所述超参优化服务门户用于集中接收客户端请求，根据客户端请求的类型，使用合适的服务组件进行处理并响应请求；
所述学习引擎用于对用户提交的资源进行模拟学习；
所述超参推荐引擎用于根据模拟学习的结果进行超参推荐；
所述效果评估组件用于对推荐的超参进行验证训练，评估其应用效果以及性能；
所述优化算法配置组件用于进行超参优化算法的配置；
所述自动停止组件用于对正在训练的机器学习过程进行自动停止；
所述超参优化控制面板用于管理包括客户端请求情况、参数模拟评估对比可视化、模拟学习情况等信息。
优选地，所述超参优化客户端还包括：用户将需要进行处理的请求进行封装，以一个机器学习超参优化为例，用户需要封装两部分信息：第一是这个机器学习的元信息，包括唯一性ID、名称、描述、创建人、创建时间、权限等；第二是该机器学习涉及的资源，包括：训练数据集、训练管道模型（可选）、算法类型（逻辑回归、分类等）、评估器（可选）、参数集合、参数选项（缩放比例等）。除了机器学习超参优化外，客户端还支持发送状态更新、参数推荐、添加衡量指标、结束优化、获取评估结果等请求。
优选地，所述参数集合支持范围为{MIN,MAX}的多类型优化目标，参数类型包括但不仅限于：DOUBLE（双精度浮点型）、LONG（长整型）、INTEGER（整型）、DISCRETE（离散型）、CATEGORICAL（分类型）。
优选地，所述超参优化服务器端除了包括超参优化服务门户、学习引擎、超参推荐引擎、效果评估组件、优化算法配置组件、自动停止组件、超参优化控制面板外，还包括分布式集群管理、分布式模拟训练、任务调度、数据资源管理等。
优选地，所述超参优化服务门户支持客户端使用REST API和RPC两种协议进行访问，支持XML、JSON、ProtoBuf三种数据序列化协议，支持同步处理和异步处理两种方式，对于服务器端需要长时间处理的请求，门户会自动转为异步处理，用户可以通过状态更新或其他操作查询处理结果。
优选地，所述学习引擎还包括组合用户提供的资源，当用户没有明确指定训练管道时，自动生成对应的训练管道，将数据进行适当的拆分，使用系统配置的优化方法进行模拟训练，将各个训练结果数据进行对比，并获取最佳训练结果相关参数，存储到数据库中。
优选地，所述超参推荐引擎支持客户端发送机器学习唯一性ID来获取最佳超参数，同时支持增加TOP N参数来获取排名前N的最佳超参数列表以及它们的训练效果。
优选地，所述效果评估组件将训练结果进行对比分析，对比主要基于两大类型的指标：第一是算法指标，包括准确率、召回率、F1值、AUC、混淆矩阵等；第二是性能指标，包括总体耗费时间、迭代耗费时间、CPU使用率、GPU使用率、内存消耗、硬盘IO、网络IO等。这些指标的交叉对比结果都可以通过可视化界面进行展示。
优选地，所述优化算法配置组件还包括内置优化算法和用户自定义优化算法两种类型，其中内置算法包括贝叶斯优化、高斯过程、网格搜索、随机搜索等，用户自定义算法则支持以插件的方式进行维护。
优选地，所述自动停止组件用于停止预计效果比较差的训练集，将资源让给预计效果比较好的训练集，自动停止常用的算法是根据训练过程的性能曲线来预测。
优选地，所述超参优化控制面板还包括用户管理、权限管理、系统设置等基本功能。
优选地，黑盒优化中的“黑盒”表示用户无需关注超参服务器具体的算法实现和上下文，只需用户遵守一定约定，就可以进行通用的超参优化工作。
采用上述技术方案后，本发明与背景技术相比，具有如下优点：
跨机器学习平台优化，用户无需关注超参优化器的实现，具备更广的应用范围；第二，当用户引入新算法时也可以快速进行适配优化；第三，高可用性和高扩展性，在大规模应用时，只需扩展超参服务器端的训练节点即可，用户端无需任何调整；第四，使用简单，降低机器学习调参的门槛；第五，内置最先进的超参优化算法，可直接投入生产使用。
四、附图说明
图1为本发明的结构示意图。
五、具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
实施例
参考图1所示，本发明公开了一种通用的机器学习超参黑盒优化方法及系统，包括超参优化客户端、超参优化服务器端、超参优化服务门户、学习引擎、超参推荐引擎、效果评估组件、优化算法配置组件、自动停止组件、超参优化控制面板。超参黑盒优化实施方式如下所示：
步骤1、用户使用客户端封装超参优化相关资源，发送请求到服务器端服务门户，发送的请求数据格式例子如下：
{
"reqtype":"create-study",
"id":"090dda88-1b16-4476-8255-f0c075aaf30a",
"name":"mnist-keras-opt",
"owner":"dataexa",
"updatedate":"2017-05-12",
"goal": "MAXIMIZE",
"parameters": [
{
"name": "learning_rate",
"type": "DOUBLE",
"minValue": 0.01,
"maxValue": 0.5,
"scallingType": "LINEAR"
},
{
"name": "optimizer",
"type": "CATEGORICAL",
"values": "SGD,RMSprop,Adagrad,Adam,Nadam"
}
]
}
步骤2、服务器端服务门户接收对应的请求，启用异步处理机制，将请求转发给学习引擎进行调度处理，同时返回给客户端调度处理的流水号以及状态信息（是否启动成功）；
步骤3、学习引擎调用优化算法配置组件和效果评估组件，完成模拟训练过程；
步骤4、用户使用客户端发送超参推荐请求到服务器端服务门户，服务门户查询对应机器学习唯一性ID的状态，如果已经完成，则返回最佳超参数；如果还未完成，则返回训练情况。发送请求的数据格式例子如下：
{
"reqtype":"get-suggestion",
"id":"090dda88-1b16-4476-8255-f0c075aaf30a"
}
步骤5、用户使用客户端发送自动停止请求到服务器端服务门户，服务门户将请求转发给学习引擎，学习引擎根据停止规则停止对应的训练集，总体训练保持继续。发送请求的数据格式例子如下：
{
"reqtype":"stop-trial",
"id":"090dda88-1b16-4476-8255-f0c075aaf30a"
}
步骤6、用户可以通过超参优化控制面板查看步骤2-步骤5（包含步骤2和步骤5）所有过程产生的结果和中间信息；
步骤7、用户可以通过超参优化控制面板自定义一些优化器来满足一些特定的新算法优化需求，自定义完成后重复步骤1-步骤6即可。
以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应该以权利要求的保护范围为准。
Claims (13)
1.一种通用的机器学习超参黑盒优化方法及系统，其特征在于，包括：超参优化客户端、超参优化服务器端、超参优化服务门户、学习引擎、超参推荐引擎、效果评估组件、优化算法配置组件、自动停止组件、超参优化控制面板，其中：
所述超参优化客户端用于封装用户机器学习过程的相关资源（包括数据、模型、算法、参数等），并提交到超参优化服务器进行处理；
所述超参优化服务器端用于接收客户端的请求，进行超参优化工作，同时提供一些超参优化需要的配置项管理和模拟验证等功能；
所述超参优化服务门户用于集中接收客户端请求，根据客户端请求的类型，使用合适的服务组件进行处理并响应请求；
所述学习引擎用于对用户提交的资源进行模拟学习；
所述超参推荐引擎用于根据模拟学习的结果进行超参推荐；
所述效果评估组件用于对推荐的超参进行验证训练，评估其应用效果以及性能；
所述优化算法配置组件用于进行超参优化算法的配置；
所述自动停止组件用于对正在训练的机器学习过程进行自动停止；
所述超参优化控制面板用于管理包括客户端请求情况、参数模拟评估对比可视化、模拟学习情况等信息。
2.所述的一种通用的机器学习超参黑盒优化方法及系统，其特征在于：所述超参优化客户端还包括：用户将需要进行处理的请求进行封装，以一个机器学习超参优化为例，用户需要封装两部分信息：第一是这个机器学习的元信息，包括唯一性ID、名称、描述、创建人、创建时间、权限等；第二是该机器学习涉及的资源，包括：训练数据集、训练管道模型（可选）、算法类型（逻辑回归、分类等）、评估器（可选）、参数集合、参数选项（缩放比例等）；除了机器学习超参优化外，客户端还支持发送状态更新、参数推荐、添加衡量指标、结束优化、获取评估结果等请求。
3.所述的一种通用的机器学习超参黑盒优化方法及系统，参数集合支持范围为{MIN,MAX}的多类型优化目标，参数类型包括但不仅限于：DOUBLE（双精度浮点型）、LONG（长整型）、INTEGER（整型）、DISCRETE（离散型）、CATEGORICAL（分类型）。
4.所述的一种通用的机器学习超参黑盒优化方法及系统，其特征在于：所述超参优化服务器端除了包括超参优化服务门户、学习引擎、超参推荐引擎、效果评估组件、优化算法配置组件、自动停止组件、超参优化控制面板外，还包括分布式集群管理、分布式模拟训练、任务调度、数据资源管理等。
5.所述的一种通用的机器学习超参黑盒优化方法及系统，其特征在于：
所述超参优化服务门户支持客户端使用REST和RPC两种协议进行访问，支持XML、JSON、ProtoBuf三种数据序列化协议，支持同步处理和异步处理两种方式，对于服务器端需要长时间处理的请求，门户会自动转为异步处理，用户可以通过状态更新或其他操作查询处理结果。
6.所述的一种通用的机器学习超参黑盒优化方法及系统，其特征在于：所述学习引擎还包括组合用户提供的资源，当用户没有明确指定训练管道时，自动生成对应的训练管道，将数据进行适当的拆分，使用系统配置的优化方法进行模拟训练，将各个训练结果数据进行对比，并获取最佳训练结果相关参数，存储到数据库中。
7.所述的一种通用的机器学习超参黑盒优化方法及系统，其特征在于：所述超参推荐引擎支持客户端发送机器学习唯一性ID来获取最佳超参数，同时支持增加TOP N参数来获取排名前N的最佳超参数列表以及它们的训练效果。
8.所述的一种通用的机器学习超参黑盒优化方法及系统，其特征在于：所述效果评估组件将训练结果进行对比分析，对比主要基于两大类型的指标：第一是算法指标，包括准确率、召回率、F1值、AUC、混淆矩阵等；第二是性能指标，包括总体耗费时间、迭代耗费时间、CPU使用率、GPU使用率、内存消耗、硬盘IO、网络IO等，这些指标的交叉对比结果都可以通过可视化界面进行展示。
9.所述的一种通用的机器学习超参黑盒优化方法及系统，其特征在于：所述优化算法配置组件还包括内置优化算法和用户自定义优化算法两种类型，其中内置算法包括贝叶斯优化、高斯过程、网格搜索、随机搜索等，用户自定义算法则支持以插件的方式进行维护。
10.所述的一种通用的机器学习超参黑盒优化方法及系统，其特征在于：所述自动停止组件用于停止预计效果比较差的训练集，将资源让给预计效果比较好的训练集，自动停止常用的算法是根据训练过程的性能曲线来预测。
11.所述的一种通用的机器学习超参黑盒优化方法及系统，其特征在于：所述超参优化控制面板还包括用户管理、权限管理、系统设置等基本功能。
12.所述的一种通用的机器学习超参黑盒优化方法及系统，其特征在于：黑盒优化中的“黑盒”表示用户无需关注超参服务器具体的算法实现和上下文，只需用户遵守一定约定，就可以进行通用的超参优化工作。
13.所述的一种通用的机器学习超参黑盒优化方法及系统，其特征在于，一个基本的超参黑盒优化过程包含如下步骤；
步骤1、用户使用客户端封装超参优化相关资源，发送请求到服务器端服务门户；
步骤2、服务器端服务门户接收对应的请求，启用异步处理机制，将请求转发给学习引擎进行调度处理，同时返回给客户端调度处理的流水号以及状态信息（是否启动成功）；
步骤3、学习引擎调用优化算法配置组件和效果评估组件，完成模拟训练过程；
步骤4、用户使用客户端发送超参推荐请求到服务器端服务门户，服务门户查询对应机器学习唯一性ID的状态，如果已经完成，则返回最佳超参数；如果还未完成，则返回训练情况；
步骤5、用户使用客户端发送自动停止请求到服务器端服务门户，服务门户将请求转发给学习引擎，学习引擎根据停止规则停止对应的训练集，总体训练保持继续；
步骤6、用户可以通过超参优化控制面板查看步骤2-步骤5（包含步骤2和步骤5）所有过程产生的结果和中间信息；
步骤7、用户可以通过超参优化控制面板自定义一些优化器来满足一些特定的新算法优化需求，自定义完成后重复步骤1-步骤6即可。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811221830.1A CN109447277B (zh) | 2018-10-19 | 2018-10-19 | 一种通用的机器学习超参黑盒优化方法及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811221830.1A CN109447277B (zh) | 2018-10-19 | 2018-10-19 | 一种通用的机器学习超参黑盒优化方法及系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN109447277A true CN109447277A (zh) | 2019-03-08 |
| CN109447277B CN109447277B (zh) | 2023-11-10 |
Family
ID=65547429
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201811221830.1A Active CN109447277B (zh) | 2018-10-19 | 2018-10-19 | 一种通用的机器学习超参黑盒优化方法及系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109447277B (zh) |
Cited By (18)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109976911A (zh) * | 2019-03-25 | 2019-07-05 | 哈尔滨工程大学 | 一种自适应资源调度方法 |
| CN110287168A (zh) * | 2019-06-26 | 2019-09-27 | 南京冰鉴信息科技有限公司 | 一种可配置的模型计算分析自定义方法 |
| CN110378464A (zh) * | 2019-06-27 | 2019-10-25 | 苏州浪潮智能科技有限公司 | 人工智能平台的配置参数的管理方法和装置 |
| CN110647998A (zh) * | 2019-08-12 | 2020-01-03 | 北京百度网讯科技有限公司 | 自动机器学习实现方法、系统、设备及存储介质 |
| CN110659741A (zh) * | 2019-09-03 | 2020-01-07 | 浩鲸云计算科技股份有限公司 | 一种基于分片式自动学习的ai模型训练系统和方法 |
| CN111401567A (zh) * | 2020-03-20 | 2020-07-10 | 厦门渊亭信息科技有限公司 | 一种通用的深度学习超参优化方法及装置 |
| CN111723939A (zh) * | 2020-05-15 | 2020-09-29 | 第四范式（北京）技术有限公司 | 机器学习模型的调参方法、装置、设备及系统 |
| CN112149139A (zh) * | 2019-06-28 | 2020-12-29 | 杭州海康威视数字技术股份有限公司 | 权限管理方法及装置 |
| WO2021051920A1 (zh) * | 2019-09-17 | 2021-03-25 | 华为技术有限公司 | 模型优化方法、装置、存储介质及设备 |
| CN112651513A (zh) * | 2020-12-22 | 2021-04-13 | 厦门渊亭信息科技有限公司 | 一种基于零样本学习的信息抽取方法及系统 |
| CN112784418A (zh) * | 2021-01-25 | 2021-05-11 | 阿里巴巴集团控股有限公司 | 信息处理方法及装置、服务器及用户设备 |
| CN113296918A (zh) * | 2021-07-27 | 2021-08-24 | 北京大学 | 求解通用黑盒优化问题的计算机系统、方法及电子设备 |
| CN113490956A (zh) * | 2020-02-03 | 2021-10-08 | 洼田望 | 解析装置、解析方法以及解析程序 |
| CN113497785A (zh) * | 2020-03-20 | 2021-10-12 | 深信服科技股份有限公司 | 恶意加密流量检测方法、系统、存储介质和云端服务器 |
| CN114154406A (zh) * | 2021-11-22 | 2022-03-08 | 厦门深度赋智科技有限公司 | 基于黑盒优化器的ai模型自动建模系统 |
| WO2022160752A1 (zh) * | 2021-01-28 | 2022-08-04 | 华为云计算技术有限公司 | 一种运筹优化方法、装置和计算设备 |
| CN117236704A (zh) * | 2023-11-16 | 2023-12-15 | 中钢集团武汉安全环保研究院有限公司 | 一种钢铁生产线区域动态安全风险评估量化方法和装置 |
| CN118155752A (zh) * | 2024-03-29 | 2024-06-07 | 四川大学 | 基于机器学习的交互式固体推进剂性能预测平台及方法 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101976375A (zh) * | 2010-11-15 | 2011-02-16 | 南京大学 | 一种面向软件中间件的智能决策支撑框架及其工作方法 |
| CN106951611A (zh) * | 2017-03-07 | 2017-07-14 | 哈尔滨工业大学 | 一种基于使用者行为的严寒地区建筑节能设计优化方法 |
| CN107844837A (zh) * | 2017-10-31 | 2018-03-27 | 第四范式（北京）技术有限公司 | 针对机器学习算法进行算法参数调优的方法及系统 |
| CN108446741A (zh) * | 2018-03-29 | 2018-08-24 | 中国石油大学(华东) | 机器学习超参数重要性评估方法、系统及存储介质 |
-
2018
- 2018-10-19 CN CN201811221830.1A patent/CN109447277B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101976375A (zh) * | 2010-11-15 | 2011-02-16 | 南京大学 | 一种面向软件中间件的智能决策支撑框架及其工作方法 |
| CN106951611A (zh) * | 2017-03-07 | 2017-07-14 | 哈尔滨工业大学 | 一种基于使用者行为的严寒地区建筑节能设计优化方法 |
| CN107844837A (zh) * | 2017-10-31 | 2018-03-27 | 第四范式（北京）技术有限公司 | 针对机器学习算法进行算法参数调优的方法及系统 |
| CN108446741A (zh) * | 2018-03-29 | 2018-08-24 | 中国石油大学(华东) | 机器学习超参数重要性评估方法、系统及存储介质 |
Non-Patent Citations (1)
| Title |
|---|
| 姚诚伟 等: "一种深度生成模型的超参数自适应优化法", 《实验室研究与探索》 * |
Cited By (27)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109976911B (zh) * | 2019-03-25 | 2021-04-20 | 哈尔滨工程大学 | 一种自适应资源调度方法 |
| CN109976911A (zh) * | 2019-03-25 | 2019-07-05 | 哈尔滨工程大学 | 一种自适应资源调度方法 |
| CN110287168A (zh) * | 2019-06-26 | 2019-09-27 | 南京冰鉴信息科技有限公司 | 一种可配置的模型计算分析自定义方法 |
| CN110378464A (zh) * | 2019-06-27 | 2019-10-25 | 苏州浪潮智能科技有限公司 | 人工智能平台的配置参数的管理方法和装置 |
| CN110378464B (zh) * | 2019-06-27 | 2021-11-26 | 苏州浪潮智能科技有限公司 | 人工智能平台的配置参数的管理方法和装置 |
| CN112149139A (zh) * | 2019-06-28 | 2020-12-29 | 杭州海康威视数字技术股份有限公司 | 权限管理方法及装置 |
| CN110647998A (zh) * | 2019-08-12 | 2020-01-03 | 北京百度网讯科技有限公司 | 自动机器学习实现方法、系统、设备及存储介质 |
| CN110647998B (zh) * | 2019-08-12 | 2022-11-25 | 北京百度网讯科技有限公司 | 自动机器学习实现方法、系统、设备及存储介质 |
| CN110659741A (zh) * | 2019-09-03 | 2020-01-07 | 浩鲸云计算科技股份有限公司 | 一种基于分片式自动学习的ai模型训练系统和方法 |
| WO2021051920A1 (zh) * | 2019-09-17 | 2021-03-25 | 华为技术有限公司 | 模型优化方法、装置、存储介质及设备 |
| US12032571B2 (en) | 2019-09-17 | 2024-07-09 | Huawei Cloud Computing Technologies Co., Ltd. | AI model optimization method and apparatus |
| EP4012630A4 (en) * | 2019-09-17 | 2022-11-23 | Huawei Cloud Computing Technologies Co., Ltd. | MODEL OPTIMIZATION METHOD AND APPARATUS, STORAGE MEDIA AND DEVICE |
| CN113490956A (zh) * | 2020-02-03 | 2021-10-08 | 洼田望 | 解析装置、解析方法以及解析程序 |
| CN113490956B (zh) * | 2020-02-03 | 2022-05-31 | 洼田望 | 解析装置、解析方法以及解析程序 |
| CN113497785B (zh) * | 2020-03-20 | 2023-05-12 | 深信服科技股份有限公司 | 恶意加密流量检测方法、系统、存储介质和云端服务器 |
| CN113497785A (zh) * | 2020-03-20 | 2021-10-12 | 深信服科技股份有限公司 | 恶意加密流量检测方法、系统、存储介质和云端服务器 |
| CN111401567A (zh) * | 2020-03-20 | 2020-07-10 | 厦门渊亭信息科技有限公司 | 一种通用的深度学习超参优化方法及装置 |
| CN111723939A (zh) * | 2020-05-15 | 2020-09-29 | 第四范式（北京）技术有限公司 | 机器学习模型的调参方法、装置、设备及系统 |
| CN112651513A (zh) * | 2020-12-22 | 2021-04-13 | 厦门渊亭信息科技有限公司 | 一种基于零样本学习的信息抽取方法及系统 |
| WO2022156731A1 (zh) * | 2021-01-25 | 2022-07-28 | 阿里巴巴集团控股有限公司 | 信息处理方法及装置、服务器及用户设备 |
| CN112784418A (zh) * | 2021-01-25 | 2021-05-11 | 阿里巴巴集团控股有限公司 | 信息处理方法及装置、服务器及用户设备 |
| WO2022160752A1 (zh) * | 2021-01-28 | 2022-08-04 | 华为云计算技术有限公司 | 一种运筹优化方法、装置和计算设备 |
| CN113296918A (zh) * | 2021-07-27 | 2021-08-24 | 北京大学 | 求解通用黑盒优化问题的计算机系统、方法及电子设备 |
| CN114154406A (zh) * | 2021-11-22 | 2022-03-08 | 厦门深度赋智科技有限公司 | 基于黑盒优化器的ai模型自动建模系统 |
| CN117236704A (zh) * | 2023-11-16 | 2023-12-15 | 中钢集团武汉安全环保研究院有限公司 | 一种钢铁生产线区域动态安全风险评估量化方法和装置 |
| CN117236704B (zh) * | 2023-11-16 | 2024-02-06 | 中钢集团武汉安全环保研究院有限公司 | 一种钢铁生产线区域动态安全风险评估量化方法和装置 |
| CN118155752A (zh) * | 2024-03-29 | 2024-06-07 | 四川大学 | 基于机器学习的交互式固体推进剂性能预测平台及方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN109447277B (zh) | 2023-11-10 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109447277A (zh) | 一种通用的机器学习超参黑盒优化方法及系统 | |
| CN109840838B (zh) | 风控规则模型双引擎系统、控制方法及服务器 | |
| US20200027005A1 (en) | Systems and methods for accelerating execution of processes based on artificial intelligence (ai) prediction of blockchain consensus | |
| WO2020182989A1 (en) | Scheduling computation graphs using neural networks | |
| CN112685170B (zh) | 备份策略的动态优化 | |
| EP3726779A1 (en) | Device for testing blockchain network | |
| CN103336790A (zh) | 基于Hadoop的邻域粗糙集快速属性约简方法 | |
| WO2014110167A2 (en) | Integrated machine learning for a data management product | |
| US20210303532A1 (en) | Streamlined transaction and dimension data collection | |
| Sun et al. | Cost-fair task allocation in mobile crowd sensing with probabilistic users | |
| CN111401567A (zh) | 一种通用的深度学习超参优化方法及装置 | |
| CN106130960A (zh) | 盗号行为的判断系统、负载调度方法和装置 | |
| Plebani et al. | Fog computing and data as a service: A goal-based modeling approach to enable effective data movements | |
| CN117914701A (zh) | 一种基于区块链的建筑物联网性能优化系统及方法 | |
| US12066917B2 (en) | Auto insights into data changes | |
| CN111625352A (zh) | 调度方法、装置及存储介质 | |
| Bhowmik | Machine Learning in Production: From Experimented ML Model to System | |
| Jian et al. | Online-learning task scheduling with GNN-RL scheduler in collaborative edge computing | |
| Zeng et al. | Local epochs inefficiency caused by device heterogeneity in federated learning | |
| Antamoshkina et al. | Multi-agent automation system for monitoring, forecasting and managing emergency situations | |
| Prado et al. | On providing quality of service in grid computing through multi-objective swarm-based knowledge acquisition in fuzzy schedulers | |
| CN116305720A (zh) | 一种基于约束的多维管理数据挖掘方法 | |
| US20230195607A1 (en) | System For Automatic Identification and Selection of Optimization Metrics and Accompanying Models in Experiimentation Platforms | |
| CN107562943A (zh) | 一种数据计算的方法及系统 | |
| US11436371B2 (en) | Privacy protection systems and methods |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |