CN108710947A - 一种基于lstm的智能家居机器学习系统设计方法 - Google Patents

Abstract

本发明公开了一种基于LSTM的智能家居机器学习系统设计方法，主要涉及机器学习和智能家居技术领域。包括以下步骤：S1：采集家庭环境数据，构建训练集、测试集和验证集；S2：设计并改进LSTM神经网络；S3：构建机器学习系统基准预测模型；S4：构建智能家居机器学习系统，以家庭单位作为预测节点，实现多节点预测和预测模型的自更新。本发明将机器学习技术运用到智能家居领域中，设计出一种通用、高效的智能家居机器学习系统，能够适应多个家庭节点以及新的家庭行为。

Description

一种基于LSTM的智能家居机器学习系统设计方法

技术领域:

本发明涉及机器学习、物联网技术领域，具体涉及一种基于LSTM的智能家居机器学习系统设计方法。

背景技术:

进入2017年，移动互联网浪潮趋于平静，人工智能逐步崛起，Google、Uber、Tesla的无人驾驶汽车正引领新一轮的科技浪潮，科技的迅速发展逐步渗透到人们的饮食，出行，社交，购物等领域。移动互联网经过几年的飞速发展，移动智能设备得到大范围普及，大数据技术也得到广泛的应用，为物联网行业的飞速发展奠定了良好的基础。在人工智能浪潮的带动下，智能家居正由“自动化”向“智能化”快速转变，正逐步成为当前研究和发展的热门领域。

智能家居研究的根本目标是为人们提供一个安全、舒适、高效的生活和居住环境，提高人们的生活质量。目前市场上智能家居产品常见的设计思想是赋予家庭内电气设备接入网络的功能，然后通过手机或PC端对其进行远程控制，这仅仅做到了设备的远程控制或设备状态的远程查看，智能化程度较低。人们理想中的智能家居产品应该是这样的：当人们工作了一天回到家里时，家里的灯会自动打开并调节到舒适的色彩和亮度，空调会自动开启并设置舒适的温度，电视自动打开播放人们感兴趣的节目；开启家庭影院时，窗帘会自动关闭，灯会变暗并自动调节成舒适的色彩；当人们离开家时，无关的电器设备自动关闭，减少能源的消耗，智能摄像机自动打开监控非法入侵行为。以上可见，目前智能家居行业对产品智能化程度重视不够，就目前主流的产品而言，只是简单地做到了如场景选择、条件触发等一些“人为触发”的功能，这些简单的功能难以满足人们对智能家居产品的高“智能化”需求。另外，一些已经实现的智能家居设计方案，针对的是高度定制化的家庭环境，通用性差，推广难度大，且无法对环境特征的变化进行适应。

机器学习的普及在很大程度上可以满足上述人们的需求，智能家居作为一个全天时运行的系统，每天都会产生大量数据，比如各个时刻的传感器数据、每个智能设备的状态数据、用户的操作数据等，而在传统的智能家居中这些数据只是被写入到数据库中，成为历史数据。目前，将机器学习技术运用到智能家居设计中是提高智能家居智能化程度的有效途径。数据挖掘技术，是机器学习的一个热门分支，计算机可以利用数据挖掘技术对上述历史数据进行搜索，分析出数据中隐含的信息。监督学习作为一种机器学习方法，它可以从历史数据中找到输入与输出之间的对应关系，然后根据这个对应关系对新的输入对应的输出进行预测。人工神经网络是监督学习的一种运算模型，是上世纪80年代以来在人工智能领域兴起的研究热点，通过模仿生物神经网络的结构，利用抽象出的神经元模型按照一定的连接方式构建出网络结构。利用神经网络从大量的历史数据中学习到环境数据与智能设备状态之间的对应关系，根据新的环境数据预测设备的状态，实现设备的智能调控，这是将机器学习技术与智能家居结合的一个新趋势。

本方法针对目前市场上主流的智能家居设计方案存在的缺陷和不足进行改进，提出了一种以基于LSTM改进的递归神经网络模型为核心的智能家居机器学习系统，该系统以家庭单位作为预测节点，以改进的LSTM网络作为基准预测模型，家庭节点的预测模型以基准预测模型为基础，利用新样本更新家庭预测模型，根据输入的环境数据预测出设备的状态。该系统既为每一个家庭节点建立一个预测模型，又可以根据用户在主动控制设备时生成的新样本数据更新预测模型，有助于匹配不同家庭用户的特点，实现对智能家居产品的智能化控制。

发明内容:

本发明的目的在于设计出一种基于LSTM的智能家居机器学习系统，实现基于环境数据更加准确地预测设备状态，以家庭作为预测节点，支持多节点预测以及家庭预测模型的自更新。

为了实现上述目的，本发明所采用的技术方案如下：

一种基于LSTM的智能家居机器学习系统设计方法，其特征在于包括如下步骤：

S10：传感器采集家庭环境数据，采集完成之后，进行归一化处理，其中环境数据作为输入，家庭内智能家居设备状态作为输出，生成训练集、测试集和验证集；

S20：在标准LSTM神经网络的基础上进行改进LSTM神经网络；

LSTM变体采用三个神经网络层，采用耦合的“遗忘门”和“输入门”，并为“输入门”和“输出门”层添加“窥视孔”，使上一时刻神经网络模块的输出单元和记忆单元的状态信息以及当前时刻的输入单元，共同决定当前时刻记忆单元状态信息的更新；

S30：构建机器学习系统基准预测模型；

基于上述LSTM变体构建LSTM神经网络，采用批梯度下降算法作为优化算法，训练集训练LSTM神经网络，将训练完成后的神经网络模型作为机器学习系统的基准预测模型；

S40：构建智能家居机器学习系统，以家庭单位作为预测节点，实现多节点预测和预测模型的自更新。

优选的，所述的步骤S10具体为：

A1.在智能家居样板房内部署红外传感器、光照传感器、室内室外温度传感器、室内室外湿度传感器、室外风速传感器、室外雨量传感器，利用传感器控制模块对部署的传感器进行30s时间间隔的定时采样，同时对样板房内各个智能家居设备的状态进行同步采样，以环境数据作为输入，设备状态数据作为输出，对一年内的采样数据进行保存；

A2.对上述采样数据按照采样时间戳进行归一化处理，归一化处理之后的数据集按照交叉验证法划分为训练集、测试集和验证集，交叉验证法是预先将数据集D划分为n个尺寸相同的子集，即D＝D₁∪D₂∪…∪D_n，利用分层抽样的方法保证每个子集样本分布的一致性，则训练集为n-1个子集的并集，测试集为余下的子集。

优选的，所述步骤S20具体为：

B1、LSTM变体只有3个神经网络层，包括1个tanh层和2个sigmoid层，并且采用耦合式的“遗忘门”层和“输入门”层，即由“遗忘门”和“输入门”共同决定“记忆细胞”的更新，在“输入门”和“输出门”层之间添加“窥视孔”，即由上一时刻神经网络模块的输出和当前时刻“记忆细胞”的状态共同决定当前时刻神经网络模块的输出；

B2、LSTM变体“遗忘门”层的输入由前一时刻神经网络模块的输出H_t-1、前一时刻“记忆细胞”的状态C_t-1以及当前“记忆细胞”的输入X_t组成，分别用b_f，f_t，W_f表示“遗忘门”神经网络层的偏移量，输出向量和权重，则“遗忘门”层的输出向量f_t为：

f_t＝σ(W_f·[C_t-1,H_t-1,X_t]+b_f)

设为tanh神经网络层的输出，代表将被注入“记忆细胞”的信息，用b_c，W_c分别表示tanh神经网络层的偏移量和权重，则本文LSTM变体中，tanh神经网络层输出的表示为：

神经网络模块中代表“记忆细胞”状态的向量用C_t表示，则C_t表示为：

用O_t表示“输出门”sigmoid神经网络层的输出向量，分别用b_o，W_o表示该神经网络层的偏移量和权重，则O_t的表示为：

O_t＝σ(W_o·[H_t-1,X_t]+b_o)

LSTM变体在“输出门”层添加了“窥视孔”，该“窥视孔”输入的向量是当前“记忆细胞”的状态向量C_t，添加“窥视孔”之后，“输出门”sigmoid神经网络层的输入由3个分量组成，这三个分量分别是当前时刻神经网络模块的输入X_t，前一时刻神经网络模块的输出H_t-1和当前时刻“记忆细胞”的状态C_t，则当前神经网络模块的输出向量H_t的表示为：

H_t＝σ(W_o·[C_t,H_t-1,X_t]+b_o)

根据以上LSTM变体的实现，构建LSTM神经网络。

优选的，所述步骤S30具体为：

C1、LSTM神经网络模型变体的损失函数采用交叉熵表示为：

其中y表示模型预测的输出，表示期望的输出；

C2、在优化算法的选择上，考虑到环境数据集规模相对较小，也为了最大程度上减小误差，优化算法采用批梯度下降算法，假设预测模型的输出y为：

y＝θ^TX

其中θ表示参数向量，X表示输入向量，批梯度算法原理为：

所述的基准预测模型基于改进的LSTM神经网络，采用交叉熵作为损失函数，利用批梯度下降算法作为优化算法。

优选的，所述步骤S40中的构建智能家居机器学习系统为：

分别构建智能家居机器学习系统的模型管理模块、预测模块和更新模块，模型管理模块负责基于基准预测模型创建、保存以及查找各个家庭对应的预测模型，每一个家庭节点对应一个预测模型，机器学习系统预测模块负责根据环境数据预测设备状态，利用模型管理模块获取到相应家庭的预测模型，然后调用预测模型预测出该家庭内各个智能设备的状态；更新模块负责根据新样本数据对相应家庭的预测模型进行更新，实现机器学习系统对新用户行为的适应。

本发明的智能家居机器学习系统产生以下几种良好的效果：

效果1：本发明采用基于改进的LSTM递归神经网络预测模型，利用LSTM神经网络模块特殊的结构，能充分学得环境数据多维特征之间的关系，相对于BPNN、RNN以及标准的LSTM神经网络，预测准确度更高。

效果2：本发明采用以家庭单位作为预测节点，基于基准预测模型为每一个接入系统的家庭构建家庭预测模型，所有的家庭预测模型由机器学习系统的模型管理模块统一管理，支持多个家庭节点预测，提高了设计的通用性。

效果3：本发明的机器学习系统设计了家庭预测模型更新模块，根据用户主动控制设备时采集的新样本数据，对相应的家庭预测模型进行更新，主动适应不同家庭内环境和用户行为变化。

附图说明

图1是本方案采用的改进LSTM神经网络模块结构图。

图2是四种模型在训练时损失值随迭代次数变化图。

图3是四种模型在训练时预测精度随迭代次数变化图。

图4是本方案的机器学习系统原理图。

图5是本方案的机器学习系统设备状态预测和模型更新流程图。

图6是本方案的家庭预测模型更新图。

图7是本方案的家庭预测模型更新前后预测准确度对比图。

具体实施方式

以下结合附图和具体实施对本发明进行详细描述，但不作为对本发明的限定。

本发明首先采集传感器和设备状态数据，划分训练集、测试集和验证集，然后基于改进的LSTM神经网络模块搭建神经网络并训练出机器学习系统的基准预测模型，分别设计机器学习系统的预测模型管理模块、预测模块和更新模块，最后在TensorFlow平台上部署机器学习系统。

本方案的具体实施步骤如下：

A采集家庭环境数据，构建训练集、测试集和验证集

步骤A包括以下过程：

1.首先在智能家居样板房内部署红外传感器、光照传感器、室内室外温度传感器、室内室外湿度传感器、室外风速传感器、室外雨量传感器，利用传感器控制模块对部署的传感器进行30s时间间隔的定时采样，同时对样板房内各个智能家居设备(空调、窗帘、智能灯、加湿器、智能插座)的状态进行同步采样，以环境数据作为输入，设备状态数据作为输出，将一年内的采样数据保存在MongoDB数据库中。

2.利用Python提取MongoDB中的采样数据，然后按照采样时间戳进行归一化处理，归一化处理之后的数据集按照交叉验证法划分为训练集、测试集和验证集，交叉验证法是预先将数据集D划分为n个尺寸相同的子集，即D＝D₁∪D₂∪…∪D_n，利用分层抽样的方法尽可能保证每个子集样本分布的一致性，则训练集为n-1个子集的并集，测试集为余下的子集。

B、设计并改进LSTM神经网络

1.如附图1所示，本方法采用的LSTM变体只有3个神经网络层，包括1个tanh层和2个sigmoid层，并且采用耦合式的“遗忘门”层和“输入门”层，即由“遗忘门”和“输入门”共同决定“记忆细胞”的更新，在“输入门”和“输出门”层之间添加“窥视孔”(Peephole)，即由上一时刻神经网络模块的输出和当前时刻“记忆细胞”的状态共同决定当前时刻神经网络模块的输出。

2.本方法采用的LSTM变体“遗忘门”层的输入由前一时刻神经网络模块的输出H_t-1、前一时刻“记忆细胞”的状态C_t-1以及当前“记忆细胞”的输入X_t组成，分别用b_f，f_t，W_f表示“遗忘门”神经网络层的偏移量，输出向量和权重，则“遗忘门”层的输出向量f_t为：

f_t＝σ(W_f·[C_t-1,H_t-1,X_t]+b_f) (1)

设为tanh神经网络层的输出，代表将被注入“记忆细胞”的信息，用b_c，W_c分别表示tanh神经网络层的偏移量和权重，则本文LSTM变体中，tanh神经网络层输出的表示为：

神经网络模块中代表“记忆细胞”状态的向量用C_t表示，则C_t表示为：

用O_t表示“输出门”sigmoid神经网络层的输出向量，分别用b_o，W_o表示该神经网络层的偏移量和权重，则O_t的表示为：

O_t＝σ(W_o·[H_t-1,X_t]+b_o) (4)

本方法的LSTM变体在“输出门”层添加了“窥视孔”，该“窥视孔”输入的向量是当前“记忆细胞”的状态向量C_t，添加“窥视孔”之后，“输出门”sigmoid神经网络层的输入由3个分量组成，这三个分量分别是当前时刻神经网络模块的输入X_t，前一时刻神经网络模块的输出H_t-1和当前时刻“记忆细胞”的状态C_t，则当前神经网络模块的输出向量H_t的表示为：

H_t＝σ(W_o·[C_t,H_t-1,X_t]+b_o) (5)

根据以上LSTM变体的实现，构建LSTM神经网络。

C、构建机器学习系统基准预测模型

步骤C包括以下过程：

1.本方法的LSTM神经网络模型的损失函数采用交叉熵表示为：

其中y表示模型预测的输出，表示期望的输出。交叉熵在这里表示预测模型输出的设备状态与设备真实状态的拟合度，交叉熵值越小表示预测模型性能越好。交叉熵可以克服均方差函数在处理神经网络的非线性建模特性时所遇到的参数更新过慢的问题，另外它还具备根据误差的来调整权重更新的特点。

2.本方法在优化算法的选择上，考虑到环境数据集规模相对较小，也为了最大程度上减小训练误差，因此，本文预测模型的优化算法采用批梯度下降算法，假设预测模型的输出y为：

y＝θ^TX (7)

其中θ表示参数向量，X表示输入向量。批梯度算法原理为：

本方法的基准预测模型基于改进的LSTM神经网络，采用交叉熵作为损失函数，利用批梯度下降算法作为优化算法。

3.基于上述LSTM神经网络、损失函数和优化算法，在TensorFlow平台上对神经网络进行训练，预测模型主要训练过程如下表所示：

表1预测模型主要训练过程

并在每次迭代之后计算神经网络在测试集上的预测准确度，另外在同样的条件下分别对BPNN、RNN以及标准的LSTM神经网络进行训练，对比四种模型的交叉熵和在测试集上的预测准确度，验证LSTM改进效果，对比结果如附图2-3所示。

D、构建智能家居机器学习系统，以家庭单位作为预测节点，实现多节点预测和预测模型的自更新

1.基于TensorFlow框架神经网络模型的存储和恢复功能，设计机器学习系统模型管理模块，实现对家庭预测模型的创建、保存和查找，作为预测模块和更新模块的辅助功能，机器学习系统原理图如附图4所示。

2.基于TensorFlow框架的Session机制，设计机器学习系统预测模块，首先利用模型管理模块根据输入的环境数据获取到对应家庭的预测模型，再利用预测模型根据环境数据预测设备状态，机器学习系统工作流程如附图5所示。

3.设计机器学习系统家庭预测模型更新模块，实现当家庭用户行为发生变化时，根据新样本数据更新相应的家庭预测模型，更新过程中预测准确度变化如附图6所示，更新前后预测准确度变化如图7所示。

Claims (5)

1.一种基于LSTM的智能家居机器学习系统设计方法，其特征在于包括如下步骤：

S10：传感器采集家庭环境数据，采集完成之后，进行归一化处理，其中环境数据作为输入，家庭内智能家居设备状态作为输出，生成训练集、测试集和验证集；

S20：在标准LSTM神经网络的基础上进行改进LSTM神经网络；

LSTM变体采用三个神经网络层，采用耦合的“遗忘门”和“输入门”，并为“输入门”和“输出门”层添加“窥视孔”，使上一时刻神经网络模块的输出单元和记忆单元的状态信息以及当前时刻的输入单元，共同决定当前时刻记忆单元状态信息的更新；

S30：构建机器学习系统基准预测模型；

基于上述LSTM变体构建LSTM神经网络，采用批梯度下降算法作为优化算法，训练集训练LSTM神经网络，将训练完成后的神经网络模型作为机器学习系统的基准预测模型；

S40：构建智能家居机器学习系统，以家庭单位作为预测节点，实现多节点预测和预测模型的自更新。

2.根据权利要求1所述的基于LSTM的智能家居机器学习系统设计方法，其特征在于：所述的步骤S10具体为：

A1.在智能家居样板房内部署红外传感器、光照传感器、室内室外温度传感器、室内室外湿度传感器、室外风速传感器、室外雨量传感器，利用传感器控制模块对部署的传感器进行30s时间间隔的定时采样，同时对样板房内各个智能家居设备的状态进行同步采样，以环境数据作为输入，设备状态数据作为输出，对一年内的采样数据进行保存；

A2.对上述采样数据按照采样时间戳进行归一化处理，归一化处理之后的数据集按照交叉验证法划分为训练集、测试集和验证集，交叉验证法是预先将数据集D划分为n个尺寸相同的子集，即D＝D₁∪D₂∪…∪D_n，利用分层抽样的方法保证每个子集样本分布的一致性，则训练集为n-1个子集的并集，测试集为余下的子集。

3.根据权利要求1所述的基于LSTM的智能家居机器学习系统设计方法，其特征在于：所述步骤S20具体为：

B1、LSTM变体只有3个神经网络层，包括1个tanh层和2个sigmoid层，并且采用耦合式的“遗忘门”层和“输入门”层，即由“遗忘门”和“输入门”共同决定“记忆细胞”的更新，在“输入门”和“输出门”层之间添加“窥视孔”，即由上一时刻神经网络模块的输出和当前时刻“记忆细胞”的状态共同决定当前时刻神经网络模块的输出；

B2、LSTM变体“遗忘门”层的输入由前一时刻神经网络模块的输出H_t-1、前一时刻“记忆细胞”的状态C_t-1以及当前“记忆细胞”的输入X_t组成，分别用b_f，f_t，W_f表示“遗忘门”神经网络层的偏移量，输出向量和权重，则“遗忘门”层的输出向量f_t为：

f_t＝σ(W_f·[C_t-1,H_t-1,X_t]+b_f)

设为tanh神经网络层的输出，代表将被注入“记忆细胞”的信息，用b_c，W_c分别表示tanh神经网络层的偏移量和权重，则本文LSTM变体中，tanh神经网络层输出的表示为：

神经网络模块中代表“记忆细胞”状态的向量用C_t表示，则C_t表示为：

用O_t表示“输出门”sigmoid神经网络层的输出向量，分别用b_o，W_o表示该神经网络层的偏移量和权重，则O_t的表示为：

O_t＝σ(W_o·[H_t-1,X_t]+b_o)

LSTM变体在“输出门”层添加了“窥视孔”，该“窥视孔”输入的向量是当前“记忆细胞”的状态向量C_t，添加“窥视孔”之后，“输出门”sigmoid神经网络层的输入由3个分量组成，这三个分量分别是当前时刻神经网络模块的输入X_t，前一时刻神经网络模块的输出H_t-1和当前时刻“记忆细胞”的状态C_t，则当前神经网络模块的输出向量H_t的表示为：

H_t＝σ(W_o·[C_t,H_t-1,X_t]+b_o)

根据以上LSTM变体的实现，构建LSTM神经网络。

4.根据权利要求1所述的基于LSTM的智能家居机器学习系统设计方法，其特征在于：所述步骤S30具体为：

C1、LSTM神经网络模型变体的损失函数采用交叉熵表示为：

其中y表示模型预测的输出，表示期望的输出；

C2、在优化算法的选择上，考虑到环境数据集规模相对较小，也为了最大程度上减小误差，优化算法采用批梯度下降算法，假设预测模型的输出y为：

y＝θ^TX

其中θ表示参数向量，X表示输入向量，批梯度算法原理为：

所述的基准预测模型基于改进的LSTM神经网络，采用交叉熵作为损失函数，利用批梯度下降算法作为优化算法。

5.根据权利要求1所述的基于LSTM的智能家居机器学习系统设计方法，其特征在于：所述步骤S40中的构建智能家居机器学习系统为：

分别构建智能家居机器学习系统的模型管理模块、预测模块和更新模块，模型管理模块负责基于基准预测模型创建、保存以及查找各个家庭对应的预测模型，每一个家庭节点对应一个预测模型，机器学习系统预测模块负责根据环境数据预测设备状态，利用模型管理模块获取到相应家庭的预测模型，然后调用预测模型预测出该家庭内各个智能设备的状态；更新模块负责根据新样本数据对相应家庭的预测模型进行更新，实现机器学习系统对新用户行为的适应。