CN103617146B - 一种基于硬件资源消耗的机器学习方法及装置 - Google Patents

Abstract

本发明实施例提供一种基于硬件资源消耗的机器学习方法及装置，用以解决通过机器学习方法学习数学模型时，学习的数学模型不精确问题。该方法根据在学习该原数学模型的过程中的机器的硬件资源消耗量确定的硬件资源消耗量函数，硬件资源消耗量包括：机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量以及机器的磁盘消耗量中的一种或几种，确定目标数学模型，从而确定目标数学模型中的相应参数。本发明实施例考虑了在学习原数学模型的过程中的机器的硬件资源消耗量，将该硬件资源消耗量函数和原数学模型的参数作为一个整体来综合学习，提高学习到的数学模型的精确度，并且可在数学模型的学习过程中节省大量的硬件资源。

Description

一种基于硬件资源消耗的机器学习方法及装置

技术领域

本发明涉及计算机技术领域，尤其涉及一种基于硬件资源消耗的机器学习方法及装置。

背景技术

机器学习方法可以广泛的应用在网络资源的排序、推荐和对推荐的产品的预测上，机器学习得到的相应的数学模型可以应用在互联网中，用于向用户提供各种服务。

机器学习确定数学模型的过程中使用的数据量非常的大，基于这些数据在进行模拟拟合计算时，复杂度非常的高，对资源的消耗非常的大。而现有技术在通过机器学习确定数学模型时，只考虑数学模型带来的效果，例如线上的收益效果等，从来没有考虑过数学模型学习的过程中带来的资源消耗，很可能在通过机器学习数学模型的过程中浪费了大量的资源，但学习到的数学模型应用到具体的业务中后带来的效果非常的不理想。而且数学模型应用到具体场景的过程中实际上也会存在资源消耗，但现有技术在整个的数学模型的学习过程中并没有考虑这部分资源消耗的因素，因此很可能最后通过机器学习到的数学模型不够精确，影响最终上线后的效果。

发明内容

本发明实施例提供一种基于硬件资源消耗的机器学习方法及装置，用以解决现有技术在通过机器学习方法学习数学模型时，学习的数学模型不够精确的问题。

本发明实施例提供了一种基于硬件资源消耗的机器学习方法，所述方法包括：

根据机器学习方法，确定待学习的原数学模型；

根据学习该原数学模型的过程中机器的硬件资源消耗量，确定硬件资源消耗量函数，其中所述硬件资源消耗量包括：机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量以及机器的磁盘消耗量中的一种或几种；

根据确定的原数学模型及硬件资源消耗量函数，确定目标数学模型；

根据机器学习的方法，确定所述目标数学模型中的相应参数。

较佳地，为了更加精确的确定数学模型，当所述机器的硬件资源消耗量包括机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量以及机器的磁盘消耗量时，所述确定硬件资源消耗量函数包括：

根据学习该原数学模型的该机器CPU的核数，确定CPU的第一消耗量；

根据机器学习该原数学模型对CPU的占用率，确定CUP的第二消耗量；

根据机器学习该原数学模型对内存的占用，确定内存消耗量；

根据机器学习该原数学模型对网络IO占用，确定网络IO消耗量；

根据机器学习该原数学模型对磁盘的占用，确定磁盘消耗量；

根据确定的CPU的第一消耗量和CUP的第二消耗量的积，确定CPU消耗量；

根据学习该原数学模型的时间，及确定的CPU消耗量、内存消耗量、网络IO消耗量、磁盘消耗量和设置的每个消耗量对应的权值，确定学习原数学模型的过程中的硬件资源消耗量函数，其中每个消耗量对应的权值大于等于零。

较佳地，为了更加精确的确定数学模型，所述确定硬件资源消耗量函数包括：

按照设定的时间间隔，采集机器学习该原数学模型时对CPU的占用率，将采集到的当前CPU的占用率，确定为该时间间隔内CUP的第二消耗量；

按照设定的时间间隔，采集机器学习该原数学模型时对内存的占用，将采集到的当前对内存的占用，确定为该时间间隔内内存消耗量；

按照设定的时间间隔，采集机器学习该原数学模型时对网络IO的占用，将采集到的当前对网络IO的占用，确定为该时间间隔内网络IO消耗量；

按照设定的时间间隔，采集机器学习该原数学模型时对磁盘的占用，将采集到的当前对磁盘的占用，确定为该时间间隔内对的磁盘消耗量；

根据确定的每个时间间隔，及每个时间间隔内CPU消耗量内存消耗量、网络IO消耗量、磁盘消耗量和设置的每个消耗量对应的权值，确定学习原数学模型的过程中的硬件资源消耗量函数，其中每个消耗量对应的权值大于等于零。

较佳地，为了更加精确的确定数学模型，所述根据机器学习的方法，确定所述目标数学模型中的相应参数包括：

确定机器对该目标数学模型学习的过程中，该目标数学模型的最小值；

将该目标数学模型的最小值时，该目标数学模型的参数的值，确定学习到该目标数学模型的参数的值。

较佳地，为了更加精确的确定数学模型，所述基于保存的广告的历史展现点击信息，确定待学习的确定广告点击率的原数学模型包括：

基于保存的广告的历史展现点击信息，确定待学习的广告点击率的原数学模型其中，分别表示第i个广告样本的<展现-点击数>以及<展现-不点击数>，T表示时间，y＝{0,1}分别表示不点击与点击，特征向量x已知，w为模型参数，C||w||为惩罚项，C为大于等于零的权值；

根据确定的原数学模型及硬件资源消耗量函数，确定目标数学模型包括：根据硬件资源消耗函数，确定目标数学模型C1，C2为大于等用于零的权重值，X为CPU的第一消耗量，P为CPU的第二消耗量，M为机器学习该原数学模型时的内存消耗量，N为机器学习该原数学模型对网络IO消耗量，D为机器学习该原数学模型的磁盘消耗量，a1为CPU消耗量对应的权值，该权值大于等于零，a2存为内消耗量对应的权值，该权值大于等于零，a3为网络IO消耗量对应的权值，该权值大于等于零，a4为磁盘消耗量对应的权值，该权值大于等于零，T为当前学习该数学模型运行的时间。

本发明实施例提供一种基于硬件资源消耗的机器学习装置，所述装置包括：

第一模型建立模块，用于根据机器学习方法，确定待学习的原数学模型；

第二模型建立模块，用于根据学习该原数学模型的过程中机器的硬件资源消耗量，确定硬件资源消耗量函数，其中所述硬件资源消耗量包括：机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量以及机器的磁盘消耗量中的一种或几种；根据确定的原数学模型及硬件资源消耗量函数，确定目标数学模型；

学习确定模块，用于根据机器学习的方法，确定所述目标数学模型中的相应参数。

较佳地，为了更加精确的确定数学模型，所述第二模型建立模块，具体用于当所述硬件资源消耗量函数中包括CPU的消耗量、内存消耗量、网络IO消耗量以及磁盘消耗量时，根据学习该原数学模型的该机器CPU的核数，确定CPU的第一消耗量；根据机器学习该原数学模型对CPU的占用率，确定CUP的第二消耗量；根据机器学习该原数学模型对内存的占用，确定内存消耗量；根据机器学习该原数学模型对网络IO占用，确定网络IO消耗量；根据机器学习该原数学模型对磁盘的占用，确定磁盘消耗量；根据确定的CPU的第一消耗量和CUP的第二消耗量的积，确定CPU消耗量；根据学习该原数学模型的时间，及确定的CPU消耗量、内存消耗量、网络IO消耗量、磁盘消耗量和设置的每个消耗量对应的权值，确定学习原数学模型的过程中的硬件资源消耗量函数，其中每个消耗量对应的权值大于等于零。

较佳地，为了更加精确的确定数学模型，所述第二模型建立模块，具体用于按照设定的时间间隔，采集机器学习该原数学模型时对CPU的占用率，将采集到的当前CPU的占用率，确定为该时间间隔内CUP的第二消耗量；按照设定的时间间隔，采集机器学习该原数学模型时对内存的占用，将采集到的当前对内存的占用，确定为该时间间隔内内存消耗量；按照设定的时间间隔，采集机器学习该原数学模型时对网络IO的占用，将采集到的当前对网络IO的占用，确定为该时间间隔内网络IO消耗量；按照设定的时间间隔，采集机器学习该原数学模型时对磁盘的占用，将采集到的当前对磁盘的占用，确定为该时间间隔内对的磁盘消耗量；根据确定的每个时间间隔，及每个时间间隔内CPU消耗量内存消耗量、网络IO消耗量、磁盘消耗量和设置的每个消耗量对应的权值，确定学习原数学模型的过程中的硬件资源消耗量函数，其中每个消耗量对应的权值大于等于零。

较佳地，为了更加精确的确定数学模型，所述学习确定模块，具体用于确定机器对该目标数学模型学习的过程中，该目标数学模型的最小值；将该目标数学模型的最小值时，该目标数学模型的参数的值，确定学习到该目标数学模型的参数的值。

较佳地，为了更加精确的确定数学模型，所述第一模型建立模块，具体用于基于保存的广告的历史展现点击信息，确定待学习的广告点击率的原数学模型其中，分别表示第i个广告样本的<展现-点击数>以及<展现-不点击数>，T表示时间，y＝{0,1}分别表示不点击与点击，特征向量x已知，w为模型参数，C||w||为惩罚项，C为大于等于零的权值；

第二模型建立模块，具体用于根据硬件资源消耗函数，确定目标数学模型C1，C2为大于等用于零的权重值，X为CPU的第一消耗量，P为CPU的第二消耗量，M为机器学习该原数学模型时的内存消耗量，N为机器学习该原数学模型对网络IO消耗量，D为机器学习该原数学模型的磁盘消耗量，a1为CPU消耗量对应的权值，该权值大于等于零，a2存为内消耗量对应的权值，该权值大于等于零，a3为网络IO消耗量对应的权值，该权值大于等于零，a4为磁盘消耗量对应的权值，该权值大于等于零，T为当前学习该数学模型运行的时间。

本发明实施例提供一种基于硬件资源消耗的机器学习方法及装置，该方法包括在通过机器学习基于网络资源确定数学模型时，根据待学习的原数学模型，及在学习该原数学模型的过程中的机器的硬件资源消耗量确定的硬件资源消耗量函数，其中所述硬件资源消耗量包括：机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量以及机器的磁盘消耗量中的一种或几种，确定目标数学模型，根据该目标数学模型，采用机器学习的方法，确定目标数学模型中的相应参数。由于在本发明实施例的机器学习确定数学模型的过程中，考虑了在学习该原数学模型的过程中的机器的硬件资源消耗量，即机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量及机器的磁盘消耗量等，将该硬件资源消耗量函数和原数学模型的参数作为一个整体来综合学习，从而可以保证确定的目标数学模型中的相应参数能够较精确的反应数学模型上线后的状态，提高学习到的数学模型的精确度，并且可以在数学模型的学习过程中节省大量的硬件资源。

附图说明

图1为本发明实施例提供的一种基于硬件资源消耗的机器学习过程示意图；

图2为本发明实施例提供的一种基于硬件资源消耗的机器学习的详细实施过程示意图；

图3为本发明实施例提供的一种基于硬件资源消耗的机器学习装置的结构示意图。

具体实施方式

为了有效的提高通过机器学习方法学习到的数学模型的精确度，本发明实施例提供了一种基于硬件资源消耗的机器学习方法及装置。

下面结合说明书附图，对本发明实施例进行详细说明。

图1为本发明实施例提供的一种基于硬件资源消耗的机器学习过程示意图，该过程包括以下步骤：

S101：根据机器学习方法，基于网络资源确定待学习的原数学模型。

具体的，在进行机器学习的过程中，根据具体的业务确定待学习的原数学模型，在该原数学模型中自变量是通过机器学习确定的参数w。确定待学习的原数学模型的方法属于现有技术，在本发明实施例中就不对该原数学模型的确定过程进行赘述。

基于网络资源确定待学习的原数学模型包括：基于网页中包含的信息，确定待学习的确定每个网页权重的原数学模型；或基于数据库中记录的每个用户的操作行为，确定待学习的推荐系统的原数学模型；或基于搜索到的语音信息，确定待学习的语音识别方法的原数学模型；或基于搜索到的文本信息，确定待学习的文本分析方法的原数学模型；或基于保存的每个用户的朋友圈的信息，确定待学习的确定用户社交网络的原数学模型；或基于保存的广告的历史展现点击信息，确定待学习的确定广告点击率的原数学模型。

S102：根据学习该原数学模型的过程中机器的硬件资源消耗量，确定硬件资源消耗量函数，其中所述硬件资源消耗量包括：机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量以及机器的磁盘消耗量中的一种或几种。

在通过机器学习方法确定原数学模型中的相应参数的过程，机器会消耗大量的硬件资源，因此在本发明实施例中为了提高最终确定的数学模型的精确度，在通过机器学习的方法进行数学模型学习的过程中，需要考量学习该原数学模型的过程中机器的硬件资源消耗量。具体的在本发明实施例中可以根据确定的机器学习该原数学模型的过程中机器的硬件资源的消耗量，确定相应的硬件资源消耗量函数。

在本发明实施例中机器的硬件资源消耗量包括：机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量以及机器的磁盘消耗量中的其中一种或几种。因为确定的机器的硬件资源消耗量是在机器学习该原数学模型的过程中的，因此在确定硬件资源消耗量函数时，还需要包括学习该原数学模型的时间。

S103：根据确定的原数学模型及硬件资源消耗量函数，确定目标数学模型。

为了保证通过机器学习的数学模型的精确度，当确定了学习原数学模型的过程中机器的硬件资源消耗量对应的硬件资源消耗量函数后，根据确定的原数学模型及该硬件资源消耗量函数，确定目标数学模型。

具体在确定该目标数学模型时，可以是原数学模型及该硬件资源消耗量函数的和，或者也可是确定原数学模型及硬件资源消耗量函数的对应的权重，根据原数学模型及硬件资源消耗量函数与对应权重乘积后的和确定目标数学模型。

S104：根据机器学习的方法，确定所述目标数学模型中的相应参数，根据确定的所述相应参数，采用所述原数学模型应用在所述网络资源中。

具体的，当目标数学模型确定后，根据机器学习的方法，确定该目标数学模型中的相应参数w。确定机器对该目标数学模型学习的过程中，该目标数学模型的最小值；将该目标数学模型的最小值时，该目标数学模型的参数的值，确定学习到该目标数学模型的参数的值，并根据确定的所述相应参数，采用所述原数学模型应用在所述网络资源中。

由于在本发明实施例的机器学习确定数学模型的过程中，考虑了在学习该原数学模型的过程中的机器的硬件资源消耗量，将该硬件资源消耗量函数和原数学模型的参数作为一个整体来综合学习，从而可以保证确定的目标数学模型中的相应参数能够较精确的反应数学模型上线后的状态，提高学习到的数学模型的精确度，并且可以在数学模型的学习过程中节省大量的硬件资源。

具体的，在根据机器学习方法确定原数学模型中的相应参数w的过程中，会消耗很大的硬件资源消耗量，例如机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量以及机器的磁盘消耗量等等，该原数学模型学习时间内的机器的硬件资源消耗量也可以反映出该原数学模型对应的产品上线后，该产品提供的服务对应的硬件资源消耗量。

具体的，在本发明实施例中该原数学模型可以采用以下方式表示：

l(w)＝-log(Likelihood)+C||w||

原数学模型为l(w)，-log(Likelihood)为针对某一具体业务根据机器学习的方法确定的目标函数，该函数中的自变量为w，是需要进行学习的参数，因变量为后验概率，||w||为目标函数-log(Likelihood)中参数的范数，代表正则化项，该项可以增加数学模型的泛化能力。

具体的，该基于硬件资源消耗的机器学习方法可以应用在针对网络资源的学习中，例如基于网页中包含的信息，确定待学习的确定每个网页权重的原数学模型；或基于数据库中记录的每个用户的操作行为，确定待学习的推荐系统的原数学模型；或基于搜索到的语音信息，确定待学习的语音识别方法的原数学模型；或基于搜索到的文本信息，确定待学习的文本分析方法的原数学模型；或基于保存的每个用户的朋友圈的信息，确定待学习的确定用户社交网络的原数学模型；或基于保存的广告的历史展现点击信息，确定待学习的确定广告点击率的原数学模型。

机器在学习该原数学模型的过程中会带来一定的硬件资源消耗量，即学习该原数学模型会消耗一定的硬件资源。该硬件资源消耗量可以是机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量以及机器的磁盘消耗量中的其中一种或几种。根据学习该原数学模型的过程中带来的硬件资源消耗量，可以确定相应的硬件资源消耗量函数，在本发明实施例中可以用Hardware Consuming()来表示硬件资源消耗量函数。

根据原数学模型和学习该数学模型的过程中机器的硬件资源消耗量对应的硬件资源消耗量函数，可以确定目标数学模型，目标数学模型可以表示为：

L(w)＝-log(Likelihood)+C||w||+Hardware Consuming()

具体的在确定硬件资源消耗量函数时，当该硬件资源消耗量函数中包括机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量以及机器的磁盘消耗量时，可以保证确定的硬件资源消耗量函数的准确性。或者进一步为了方便确定硬件资源消耗量函数，在具体确定时可以包括：

根据学习该原数学模型的该机器CPU的核数，确定CPU的第一消耗量；

根据机器学习该原数学模型对CPU的占用率，确定CUP的第二消耗量；

根据机器学习该原数学模型对内存的占用，确定内存消耗量；

根据机器学习该原数学模型对网络IO占用，确定网络IO消耗量；

根据机器学习该原数学模型对磁盘的占用，确定磁盘消耗量；

根据确定的CPU的第一消耗量和CUP的第二消耗量的积，确定CPU消耗量；

根据学习该原数学模型的时间，及确定的CPU消耗量、内存消耗量、网络IO消耗量、磁盘消耗量和设置的每个消耗量对应的权值，确定学习原数学模型的过程中的硬件资源消耗量函数，其中每个消耗量对应的权值大于等于零。

具体的确定的硬件资源消耗量函数可以表示如下：

Hardware Consuming()＝(a1×X×P+a2×M+a3×N+a4×D)×T，其中，X为CPU的第一消耗量，P为CPU的第二消耗量，M为机器学习该原数学模型时的内存消耗量，N为机器学习该原数学模型对网络IO消耗量，D为机器学习该原数学模型的磁盘消耗量，a1为CPU消耗量对应的权值，该权值大于等于零，a2存为内消耗量对应的权值，该权值大于等于零，a3为网络IO消耗量对应的权值，该权值大于等于零，a4为磁盘消耗量对应的权值，该权值大于等于零，T为当前学习该数学模型运行的时间。

上述过程在确定硬件资源消耗量函数时，根据确定的CPU消耗量、内存消耗量、网络IO消耗量、磁盘消耗量和设置的每个消耗量对应的权值的积得和确定，当然也可以是各个消耗量及对应权值的积得积，例如可以是Hardware Consuming()＝(a1×X×P×a2×M×a3×N×a4×D)×T，或者也可以是根据消耗量对机器的影响，部分采用积的形式，部分采用和的形式，例如可以是Hardware Consuming()＝(a1×X×P×a2×M+a3×N+a4×D)×T等等。确定硬件资源消耗量函数的方式有多种，在具体确定时，可以根据需要灵活选择。

另外，也可以根据每个硬件资源消耗量对机器的影响，确定该消耗量对应的权值。例如CPU消耗量对机器的性能、寿命影响比较大，因此可以将CPU消耗量对应的权值设置的较高，例如可以为7.5，磁盘消耗量对机器的性能及寿命的影响较小，此时可以将磁盘消耗量对应的全职设置的较小，例如可以将其设置为1.7等等。具体使用时，可以根据机器的硬件资源消耗对机器的影响，确定相应消耗量对应的权值。

具体的，在确定进行原数学模型学习的过程中，该机器的硬件资源消耗量时，可以通过相应的方式确定。例如，在确定当前学习原数学模型的时间时，可通过C语言函数gettimeofdata()等，或者shell命令、date或time等多种方法得到。在确定学习该原数学模型的该机器CPU的核数及CPU的占用率时，可以通过shell命令sar、vmstate、mpstate等得到，或通过/proc/cpuinfo文件中记载的信息得到。在确定当前学习该原数学模型的内存消耗量时，可以通过sar，vmstate等命令，或通过/proc/meminfo文件中记载的信息得到。在确定当前学习该原数学模型的网络IO消耗量时，可通过ifstat、iftop、iostate等命令获得。在确定当前学习该原数学模型的磁盘消耗量时，可通过du、df、iostate等命令获得，或通过一定间隔采样获得当前磁盘占用来计算变化值。

在根据机器学习方法，学习原数学模型的过程中，获取上述硬件资源消耗量，因此原数学模型的整个过程的硬件资源消耗量，可以根据每个时间间隔确定的该时间间隔内的硬件资源消耗量，来具体的确定硬件资源消耗量函数的值，从而确定相应的参数。

图2为本发明实施例提供的一种基于硬件资源消耗的机器学习的详细实施过程示意图，该过程包括以下步骤：

S201：根据机器学习方法，，基于网络资源确定待学习的原数学模型。

S202：根据学习该原数学模型的该机器CPU的核数，确定CPU的第一消耗量，根据机器学习该原数学模型对CPU的占用率，确定CUP的第二消耗量，根据确定的CPU的第一消耗量和CUP的第二消耗量的积，确定CPU消耗量。

S203：根据机器学习该原数学模型对内存的占用，确定内存消耗量。

S204：根据机器学习该原数学模型对网络IO占用，确定网络IO消耗量。

S205：根据机器学习该原数学模型对磁盘的占用，确定磁盘消耗量。

S206：根据学习该原数学模型的时间，及确定的CPU消耗量、内存消耗量、网络IO消耗量、磁盘消耗量和设置的每个消耗量对应的权值，确定学习原数学模型的过程中的硬件资源消耗量函数，其中每个消耗量对应的权值大于等于零。

S207：根据确定的原数学模型及硬件资源消耗量函数，确定目标数学模型。

S208：根据机器学习的方法，确定所述目标数学模型中的相应参数，根据确定的所述相应参数，采用所述原数学模型应用在所述网络资源中。

较佳地，为了更加精确的确定数学模型，所述确定硬件资源消耗量函数包括：

按照设定的时间间隔，采集机器学习该原数学模型时对CPU的占用率，将采集到的当前CPU的占用率，确定为该时间间隔内CUP的第二消耗量；

按照设定的时间间隔，采集机器学习该原数学模型时对内存的占用，将采集到的当前对内存的占用，确定为该时间间隔内内存消耗量；

按照设定的时间间隔，采集机器学习该原数学模型时对网络IO的占用，将采集到的当前对网络IO的占用，确定为该时间间隔内网络IO消耗量；

按照设定的时间间隔，采集机器学习该原数学模型时对磁盘的占用，将采集到的当前对磁盘的占用，确定为该时间间隔内对的磁盘消耗量；

根据确定的每个时间间隔，及每个时间间隔内CPU消耗量内存消耗量、网络IO消耗量、磁盘消耗量和设置的每个消耗量对应的权值，确定学习原数学模型的过程中的硬件资源消耗量函数，其中每个消耗量对应的权值大于等于零。

可以理解为根据机器学习方法，在确定原数学模型中的相应参数时，由于原数学模型的学习过程耗费了硬件资源，而硬件资源消耗量函数已经确定，相应的目标数学模型也就确定了。可以在学习的过程中，针对学习到的每个参数，都可以确定机器运行到当前时间，根据硬件资源消耗量函数，都可以确定其运行到当前时间，带来的硬件资源消耗量，从而目标数学模型的值也可以确定，将该目标数学模型的最小值时，该目标数学模型的参数的值，确定学习到该目标数学模型的参数的值。

下面通过一个具体的实施例，对本发明实施例进行详细说明。

对于互联网搜索领域中的核心业务之一广告点击预估业务，在建立广告的点击数学模型时，采用机器学习的方法建立。其中该点击数学模型是解释广告如何被点击的数学模型，该数学模型的量化指标是点击率。

点击数学模型可以解释不同广告含有不同特征，点击数学模型相信广告中的不同特征是造成点击率差异的原因。这就需要通过机器学习的方法，从已有的数据中学习出数学模型中的相应参数来预估广告的点击率。

其中已有的数据是给定广告的历史展现点击以及广告特征，从而学习出相应的点击数学模型的相应参数。一般常用逻辑回归模型来描述0/1的概率问题，因此使用逻辑回归模型拟合点击率的公式如下：

其中，y＝{0,1}分别表示不点击与点击，T表示时间，上述公式中为已知特征向量x以及模型参数w的前提下，一次展现发生点击的概率为Pr(y＝1|x,w)，显然，一次展现发生未点击的概率为Pr(y＝0|x,w)＝1-Pr(y＝1|x,w)。

历史上每个广告的展现点击信息已知，使用最大近似估计，则原数学模型为：

其中，分别表示第i个广告样本的<展现-点击数>以及<展现-不点击数>，目标函数在该原数学模型中第一项表示展现并被点击的样本对目标函数的贡献，第二项表示展现却没有点击的样本对目标函数的贡献，第三项C||w||可以理解为惩罚项，这里采用模型参数的1范数，表明系统偏爱简单的模型。

根据学习该原数学模型的过程中机器的硬件资源消耗量，确定硬件资源消耗量函数Hardware Consuming()＝(a1×X×P+a2×M+a3×N+a4×D)×T，根据上述原数学模型和该硬件资源消耗量函数，确定目标数学模型如下：

C1，C2为大于等用于零的权重值，X为CPU的第一消耗量，P为CPU的第二消耗量，M为机器学习该原数学模型时的内存消耗量，N为机器学习该原数学模型对网络IO消耗量，D为机器学习该原数学模型的磁盘消耗量，a1为CPU消耗量对应的权值，该权值大于等于零，a2存为内消耗量对应的权值，该权值大于等于零，a3为网络IO消耗量对应的权值，该权值大于等于零，a4为磁盘消耗量对应的权值，该权值大于等于零，T为当前学习该数学模型运行的时间。因为每个硬件资源消耗量对应的全职为大于等于零的数值，因此，上述目标数学模型中的C1，C2可以为1。

确定了该目标数学模型后，在学习该数学模型的过程中，不断的统计每个相应的参数w以及当前机器的硬件资源消耗量，从而确定目标数学模型的值，当目标数学模型的值最小时，该目标数学模型的参数w的值，确定为学习到的该目标数学模型的参数的值。

由于在本发明实施例的基于硬件资源消耗的机器学习确定数学模型的过程中，考虑了在学习该原数学模型的过程中的机器的硬件资源消耗量，将该硬件资源消耗量的函数和原数学模型的参数作为一个整体来综合学习，从而可以保证确定的目标数学模型中的相应参数能够较精确的反应数学模型上线后的状态，提高学习到的数学模型的精确度。

图3为本发明实施例提供的一种基于硬件资源消耗的机器学习装置的结构示意图所述装置包括：

第一模型建立模块31，用于根据机器学习方法，基于网络资源确定待学习的原数学模型；

第二模型建立模块32，用于根据学习该原数学模型的过程中机器的硬件资源消耗量，确定硬件资源消耗量函数，其中所述硬件资源消耗量包括：机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量以及机器的磁盘消耗量中的一种或几种；根据确定的原数学模型及硬件资源消耗量函数，确定目标数学模型；

学习确定模块33，用于根据机器学习的方法，确定所述目标数学模型中的相应参数，根据确定的所述相应参数，采用所述原数学模型应用在所述网络资源中。

较佳地，为了更加精确的确定数学模型，所述第二模型建立模块32，具体用于根据学习该原数学模型时机器的CPU的消耗量、内存消耗量、网络IO消耗量以及磁盘消耗量中的其中一种或几种，确定学习该原数学模型的过程中的硬件资源消耗量函数。

较佳地，为了更加精确的确定数学模型，所述第二模型建立模块32，具体用于当所述硬件资源消耗量函数中包括CPU的消耗量、内存消耗量、网络IO消耗量以及磁盘消耗量时，根据学习该原数学模型的该机器CPU的核数，确定CPU的第一消耗量；根据机器学习该原数学模型对CPU的占用率，确定CUP的第二消耗量；根据机器学习该原数学模型对内存的占用，确定内存消耗量；根据机器学习该原数学模型对网络IO占用，确定网络IO消耗量；根据机器学习该原数学模型对磁盘的占用，确定磁盘消耗量；根据确定的CPU的第一消耗量和CUP的第二消耗量的积，确定CPU消耗量；根据学习该原数学模型的时间，及确定的CPU消耗量、内存消耗量、网络IO消耗量、磁盘消耗量和设置的每个消耗量对应的权值，确定学习原数学模型的过程中的硬件资源消耗量函数，其中每个消耗量对应的权值大于等于零。

较佳地，为了更加精确的确定数学模型，所述第二模型建立模块32，具体用于按照设定的时间间隔，采集机器学习该原数学模型时对CPU的占用率，将采集到的当前CPU的占用率，确定为该时间间隔内CUP的第二消耗量；按照设定的时间间隔，采集机器学习该原数学模型时对内存的占用，将采集到的当前对内存的占用，确定为该时间间隔内内存消耗量；按照设定的时间间隔，采集机器学习该原数学模型时对网络IO的占用，将采集到的当前对网络IO的占用，确定为该时间间隔内网络IO消耗量；按照设定的时间间隔，采集机器学习该原数学模型时对磁盘的占用，将采集到的当前对磁盘的占用，确定为该时间间隔内对的磁盘消耗量；根据确定的每个时间间隔，及每个时间间隔内CPU消耗量内存消耗量、网络IO消耗量、磁盘消耗量和设置的每个消耗量对应的权值，确定学习原数学模型的过程中的硬件资源消耗量函数，其中每个消耗量对应的权值大于等于零。

较佳地，为了更加精确的确定数学模型，所述学习确定模块33，具体用于确定机器对该目标数学模型学习的过程中，该目标数学模型的最小值；将该目标数学模型的最小值时，该目标数学模型的参数的值，确定学习到该目标数学模型的参数的值。

所述第一模型建立模块31，具体用于基于网页中包含的信息，确定待学习的确定每个网页权重的原数学模型；或基于数据库中记录的每个用户的操作行为，确定待学习的推荐系统的原数学模型；或基于搜索到的语音信息，确定待学习的语音识别方法的原数学模型；或基于搜索到的文本信息，确定待学习的文本分析方法的原数学模型；或基于保存的每个用户的朋友圈的信息，确定待学习的确定用户社交网络的原数学模型；或基于保存的广告的历史展现点击信息，确定待学习的确定广告点击率的原数学模型。

所述第一模型建立模块31，具体用于基于保存的广告的历史展现点击信息，确定待学习的广告点击率的原数学模型其中，分别表示第i个广告样本的<展现-点击数>以及<展现-不点击数>，T表示时间，y＝{0,1}分别表示不点击与点击，特征向量x已知，w为模型参数，C||w||为惩罚项，C为大于等于零的权值；

第二模型建立模块32，具体用于根据硬件资源消耗函数，确定目标数学模型C1，C2为大于等用于零的权重值，X为CPU的第一消耗量，P为CPU的第二消耗量，M为机器学习该原数学模型时的内存消耗量，N为机器学习该原数学模型对网络IO消耗量，D为机器学习该原数学模型的磁盘消耗量，a1为CPU消耗量对应的权值，该权值大于等于零，a2存为内消耗量对应的权值，该权值大于等于零，a3为网络IO消耗量对应的权值，该权值大于等于零，a4为磁盘消耗量对应的权值，该权值大于等于零，T为当前学习该数学模型运行的时间。

本发明实施例提供一种基于硬件资源消耗的机器学习方法及装置，该方法包括在通过机器学习基于网络资源确定数学模型时，根据待学习的原数学模型，及在学习该原数学模型的过程中的机器的硬件资源消耗量确定的硬件资源消耗量函数，其中所述硬件资源消耗量包括：机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量以及机器的磁盘消耗量中的一种或几种，确定目标数学模型，根据该目标数学模型，采用机器学习的方法，确定目标数学模型中的相应参数。由于在本发明实施例的机器学习确定数学模型的过程中，考虑了在学习该原数学模型的过程中的机器的硬件资源消耗量，即机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量及机器的磁盘消耗量等，将该硬件资源消耗量函数和原数学模型的参数作为一个整体来综合学习，从而可以保证确定的目标数学模型中的相应参数能够较精确的反应数学模型上线后的状态，提高学习到的数学模型的精确度，并且可以在数学模型的学习过程中节省大量的硬件资源。

在实施例中提供A11、一种装置，包括：所述第一模型建立模块，具体用于基于网页中包含的信息，确定待学习的确定每个网页权重的原数学模型；或基于数据库中记录的每个用户的操作行为，确定待学习的推荐系统的原数学模型；或基于搜索到的语音信息，确定待学习的语音识别方法的原数学模型；或基于搜索到的文本信息，确定待学习的文本分析方法的原数学模型；或

基于保存的每个用户的朋友圈的信息，确定待学习的确定用户社交网络的原数学模型；或基于保存的广告的历史展现点击信息，确定待学习的确定广告点击率的原数学模型。

A12、如A11所述的装置，其中，所述第一模型建立模块，具体用于基于保存的广告的历史展现点击信息，确定待学习的广告点击率的原数学模型其中，分别表示第i个广告样本的<展现-点击数>以及<展现-不点击数>，T表示时间，y＝{0,1}分别表示不点击与点击，特征向量x已知，w为模型参数，C||w||为惩罚项，C为大于等于零的权值；

第二模型建立模块，具体用于根据硬件资源消耗函数，确定目标数学模型C1，C2为大于等用于零的权重值，X为CPU的第一消耗量，P为CPU的第二消耗量，M为机器学习该原数学模型时的内存消耗量，N为机器学习该原数学模型对网络IO消耗量，D为机器学习该原数学模型的磁盘消耗量，a1为CPU消耗量对应的权值，该权值大于等于零，a2存为内消耗量对应的权值，该权值大于等于零，a3为网络IO消耗量对应的权值，该权值大于等于零，a4为磁盘消耗量对应的权值，该权值大于等于零，T为当前学习该数学模型运行的时间。

本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

尽管已描述了本申请的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例做出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本申请范围的所有变更和修改。

显然，本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样，倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内，则本申请也意图包含这些改动和变型在内。。

Claims (12)

1.一种基于硬件资源消耗的机器学习方法，其特征在于，所述方法包括：

根据机器学习方法，基于网络资源确定待学习的原数学模型；

根据学习该原数学模型的过程中机器的硬件资源消耗量以及学习该原数学模型的时间，确定硬件资源消耗量函数，其中所述硬件资源消耗量包括：机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量以及机器的磁盘消耗量中的一种或几种；

根据确定的原数学模型及硬件资源消耗量函数，确定目标数学模型；

当所述目标数学模型确定后，根据机器学习的方法，确定所述目标数学模型中的相应参数；

根据确定的所述相应参数，采用所述原数学模型应用在所述网络资源中。

2.如权利要求1所述的方法，其特征在于，当所述机器的硬件资源消耗量包括机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量以及机器的磁盘消耗量时，所述确定硬件资源消耗量函数包括：

根据学习该原数学模型的该机器CPU的核数，确定CPU的第一消耗量；

根据机器学习该原数学模型对CPU的占用率，确定CUP的第二消耗量；

根据机器学习该原数学模型对内存的占用，确定内存消耗量；

根据机器学习该原数学模型对网络IO占用，确定网络IO消耗量；

根据机器学习该原数学模型对磁盘的占用，确定磁盘消耗量；

根据确定的CPU的第一消耗量和CUP的第二消耗量的积，确定CPU消耗量；

根据学习该原数学模型的时间，及确定的CPU消耗量、内存消耗量、网络IO消耗量、磁盘消耗量和设置的每个消耗量对应的权值，确定学习原数学模型的过程中的硬件资源消耗量函数，其中每个消耗量对应的权值大于等于零。

3.如权利要求2所述的方法，其特征在于，所述确定硬件资源消耗量函数包括：

按照设定的时间间隔，采集机器学习该原数学模型时对CPU的占用率，将采集到的当前CPU的占用率，确定为该时间间隔内CUP的第二消耗量；

按照设定的时间间隔，采集机器学习该原数学模型时对内存的占用，将采集到的当前对内存的占用，确定为该时间间隔内内存消耗量；

按照设定的时间间隔，采集机器学习该原数学模型时对网络IO的占用，将采集到的当前对网络IO的占用，确定为该时间间隔内网络IO消耗量；

按照设定的时间间隔，采集机器学习该原数学模型时对磁盘的占用，将采集到的当前对磁盘的占用，确定为该时间间隔内对的磁盘消耗量；

根据确定的每个时间间隔，及每个时间间隔内CPU消耗量内存消耗量、网络IO消耗量、磁盘消耗量和设置的每个消耗量对应的权值，确定学习原数学模型的过程中的硬件资源消耗量函数，其中每个消耗量对应的权值大于等于零。

4.如权利要求1所述的方法，其特征在于，所述根据机器学习的方法，确定所述目标数学模型中的相应参数包括：

确定机器对该目标数学模型学习的过程中，该目标数学模型的最小值；

将该目标数学模型的最小值时，该目标数学模型的参数的值，确定学习到该目标数学模型的参数的值。

5.如权利要求1所述的方法，其特征在于，所述基于网络资源确定待学习的原数学模型包括：

基于网页中包含的信息，确定待学习的确定每个网页权重的原数学模型；或

基于数据库中记录的每个用户的操作行为，确定待学习的推荐系统的原数学模型；或

基于搜索到的语音信息，确定待学习的语音识别方法的原数学模型；或

基于搜索到的文本信息，确定待学习的文本分析方法的原数学模型；或

基于保存的每个用户的朋友圈的信息，确定待学习的确定用户社交网络的原数学模型；或

基于保存的广告的历史展现点击信息，确定待学习的确定广告点击率的原数学模型。

6.如权利要求5所述的方法，其特征在于，所述基于保存的广告的历史展现点击信息，确定待学习的确定广告点击率的原数学模型包括：

基于保存的广告的历史展现点击信息，确定待学习的广告点击率的原数学模型其中，分别表示第i个广告样本的<展现-点击数>以及<展现-不点击数>，T表示时间，y＝{0,1}分别表示不点击与点击，特征向量x已知，w为模型参数，C||w||为惩罚项，C为大于等于零的权值；

根据确定的原数学模型及硬件资源消耗量函数，确定目标数学模型包括：根据硬件资源消耗函数，确定目标数学模型C1，C2为大于等用于零的权重值，X为CPU的第一消耗量，P为CPU的第二消耗量，M为机器学习该原数学模型时的内存消耗量，N为机器学习该原数学模型对网络IO消耗量，D为机器学习该原数学模型的磁盘消耗量，a1为CPU消耗量对应的权值，该权值大于等于零，a2存为内消耗量对应的权值，该权值大于等于零，a3为网络IO消耗量对应的权值，该权值大于等于零，a4为磁盘消耗量对应的权值，该权值大于等于零，T为当前学习该数学模型运行的时间。

7.一种基于硬件资源消耗的机器学习装置，其特征在于，所述装置包括：

第一模型建立模块，用于根据机器学习方法，基于网络资源确定待学习的原数学模型；

第二模型建立模块，用于根据学习该原数学模型的过程中机器的硬件资源消耗量以及学习该原数学模型的时间，确定硬件资源消耗量函数，其中所述硬件资源消耗量包括：机器的CPU的消耗量、机器的内存消耗量、机器的网络IO消耗量以及机器的磁盘消耗量中的一种或几种；根据确定的原数学模型及硬件资源消耗量函数，确定目标数学模型；

学习确定模块，用于当所述目标数学模型确定后，根据机器学习的方法，确定所述目标数学模型中的相应参数，根据确定的所述相应参数，采用所述原数学模型应用在所述网络资源中。

8.如权利要求7所述的装置，其特征在于，所述第二模型建立模块，具体用于当所述硬件资源消耗量函数中包括CPU的消耗量、内存消耗量、网络IO消耗量以及磁盘消耗量时，根据学习该原数学模型的该机器CPU的核数，确定CPU的第一消耗量；根据机器学习该原数学模型对CPU的占用率，确定CUP的第二消耗量；根据机器学习该原数学模型对内存的占用，确定内存消耗量；根据机器学习该原数学模型对网络IO占用，确定网络IO消耗量；根据机器学习该原数学模型对磁盘的占用，确定磁盘消耗量；根据确定的CPU的第一消耗量和CUP的第二消耗量的积，确定CPU消耗量；根据学习该原数学模型的时间，及确定的CPU消耗量、内存消耗量、网络IO消耗量、磁盘消耗量和设置的每个消耗量对应的权值，确定学习原数学模型的过程中的硬件资源消耗量函数，其中每个消耗量对应的权值大于等于零。

9.如权利要求8所述的装置，其特征在于，所述第二模型建立模块，具体用于按照设定的时间间隔，采集机器学习该原数学模型时对CPU的占用率，将采集到的当前CPU的占用率，确定为该时间间隔内CUP的第二消耗量；按照设定的时间间隔，采集机器学习该原数学模型时对内存的占用，将采集到的当前对内存的占用，确定为该时间间隔内内存消耗量；按照设定的时间间隔，采集机器学习该原数学模型时对网络IO的占用，将采集到的当前对网络IO的占用，确定为该时间间隔内网络IO消耗量；按照设定的时间间隔，采集机器学习该原数学模型时对磁盘的占用，将采集到的当前对磁盘的占用，确定为该时间间隔内对的磁盘消耗量；根据确定的每个时间间隔，及每个时间间隔内CPU消耗量内存消耗量、网络IO消耗量、磁盘消耗量和设置的每个消耗量对应的权值，确定学习原数学模型的过程中的硬件资源消耗量函数，其中每个消耗量对应的权值大于等于零。

10.如权利要求7所述的装置，其特征在于，所述学习确定模块，具体用于确定机器对该目标数学模型学习的过程中，该目标数学模型的最小值；将该目标数学模型的最小值时，该目标数学模型的参数的值，确定学习到该目标数学模型的参数的值。

11.如权利要求7所述的装置，其特征在于，所述第一模型建立模块，具体用于基于网页中包含的信息，确定待学习的确定每个网页权重的原数学模型；或基于数据库中记录的每个用户的操作行为，确定待学习的推荐系统的原数学模型；或基于搜索到的语音信息，确定待学习的语音识别方法的原数学模型；或基于搜索到的文本信息，确定待学习的文本分析方法的原数学模型；或基于保存的每个用户的朋友圈的信息，确定待学习的确定用户社交网络的原数学模型；或基于保存的广告的历史展现点击信息，确定待学习的确定广告点击率的原数学模型。

12.如权利要求11所述的装置，其特征在于，所述第一模型建立模块，具体用于基于保存的广告的历史展现点击信息，确定待学习的广告点击率的原数学模型其中，分别表示第i个广告样本的<展现-点击数>以及<展现-不点击数>，T表示时间，y＝{0,1}分别表示不点击与点击，特征向量x已知，w为模型参数，C||w||为惩罚项，C为大于等于零的权值；

第二模型建立模块，具体用于根据硬件资源消耗函数，确定目标数学模型C1，C2为大于等用于零的权重值，X为CPU的第一消耗量，P为CPU的第二消耗量，M为机器学习该原数学模型时的内存消耗量，N为机器学习该原数学模型对网络IO消耗量，D为机器学习该原数学模型的磁盘消耗量，a1为CPU消耗量对应的权值，该权值大于等于零，a2存为内消耗量对应的权值，该权值大于等于零，a3为网络IO消耗量对应的权值，该权值大于等于零，a4为磁盘消耗量对应的权值，该权值大于等于零，T为当前学习该数学模型运行的时间。