发明内容
本发明实施例提供一种广告创意分类方法及系统,可有效提高分类的准确性。
为达上述目的,一方面,本发明实施例提供了一种广告创意分类方法,包括:
获取待分类广告创意的创意文案和创意图片;
采用卷积神经网络,对所述创意文案进行特征抽取,确定对应的文本特征;采用卷积神经网络,对所述创意图片进行特征抽取,确定对应的图片特征;
将所述文本特征和图片特征拼接组合在一起,得到高级特征;
根据所述高级特征,确定所述待分类广告创意的行业类别。
可选的,所述采用卷积神经网络,对所述创意文案进行特征抽取,确定对应的文本特征,具体包括:
对所述创意文案的文本内容进行预处理,确定所述文本内容的各个词组及对应的类别,各个词组形成词向量;
对所述词向量进行词嵌入,得到n×d维度的扩充词向量,n表示创意文案的预设长度,d表示词向量的维度;
采用卷积神经网络的卷积层,对所述扩充词向量进行特征抽取,得到m个一维数组,m表示卷积层内的卷积核个数;
采用卷积神经网络的池化层,对每个卷积核对应的一维数组进行处理,得到对应的m个数值,m个数值形成第一一维数值组;
采用卷积神经网络的全连接层,并通过Dropout策略,对第一一维数值组进行变换处理,得到第一变换数组;所述第一变换数组为元素个数为X的一维数组,用于表示抽取得到的文本特征,其中X小于m。
可选的,所述采用卷积神经网络,对所述创意图片进行特征抽取,确定对应的图片特征,具体包括:
确定所述创意图片分别在红、绿、蓝三个通道的颜色值组,得到k×c维度的扩充图向量,k表示扩充图向量的像素,c表示扩充图向量的维度,其中维度为扩充图向量的长度和宽度;
采用卷积神经网络的卷积层,根据红、绿、蓝三个通道的颜色值组对所述创意图片进行特征抽取,得到a个二维数组,a表示卷积层内的卷积核个数;
采用卷积神经网络的池化层,对每个卷积核对应的二维数组进行处理,得到对应的a个数值,a个数值形成第一二维数值组;
重复采用卷积神经网络的卷积层和池化层对第一二维数值组进行处理,得到第二二维数值组,所述第二二维数值组包含a个数值,所述第二二维数值组的图片的长度和宽度分别小于原始创意图片的长度和宽度;
采用卷积神经网络的全连接层,并通过Dropout策略,对第二二维数值组进行变换处理,得到第二变换数组;所述第二变换数组为元素个数为Y的一维数组,用于表示抽取得到的图片特征,其中Y小于2a。
可选的,所述根据所述高级特征,确定所述待分类广告创意的行业类别,具体包括:
采用卷积神经网络的全连接层,对高级特征进行变换处理,得到多维度数组,多维度数组的维度与类别的数目相同,每一维度数组对应一个类别;
采用回归函数,根据各维度数组,计算对应类别的分布概率;
比较各个类别的分布概率的大小,确定所述待分类广告创意类别。
另一方面,本发明实施例提供了一种广告创意分类系统,包括:
获取单元,用于获取待分类广告创意的创意文案和创意图片;
抽取单元,用于采用卷积神经网络,对所述创意文案进行特征抽取,确定对应的文本特征;采用卷积神经网络,对所述创意图片进行特征抽取,确定对应的图片特征;
拼接单元,用于将所述文本特征和图片特征拼接组合在一起,得到高级特征;
确定单元,用于根据所述高级特征,确定所述待分类广告创意的行业类别。
可选的,所述抽取单元用于采用卷积神经网络,对所述创意文案进行特征抽取,确定对应的文本特征,具体包括:
预处理模块,用于对所述创意文案的文本内容进行预处理,确定所述文本内容的各个词组及对应的类别,各个词组形成词向量;
嵌入模块,用于对所述词向量进行词嵌入,得到n×d维度的扩充词向量,n表示创意文案的预设长度,d表示词向量的维度;
抽取模块,用于采用卷积神经网络的卷积层,对所述扩充词向量进行特征抽取,得到m个一维数组,m表示卷积层内的卷积核个数;
处理模块,用于采用卷积神经网络的池化层,对每个卷积核对应的一维数组进行处理,得到对应的m个数值,m个数值形成第一一维数值组;
第一变换模块,用于采用卷积神经网络的全连接层,并通过Dropout策略,对第一一维数值组进行变换处理,得到第一变换数组;所述第一变换数组为元素个数为X的一维数组,用于表示抽取得到的文本特征,其中X小于m。
可选的,所述抽取单元用于采用卷积神经网络,对所述创意图片进行特征抽取,确定对应的图片特征,具体包括:
确定模块,用于确定所述创意图片分别在红、绿、蓝三个通道的颜色值组,得到k×c维度的扩充图向量,k表示扩充图向量的像素,c表示扩充图向量的维度,其中维度为扩充图向量的长度和宽度;
重复抽取处理模块,用于采用卷积神经网络的卷积层,根据红、绿、蓝三个通道的颜色值组对所述创意图片进行特征抽取,得到a个二维数组,a表示卷积层内的卷积核个数;采用卷积神经网络的池化层,对每个卷积核对应的二维数组进行处理,得到对应的a个数值,a个数值形成第一二维数值组;重复采用卷积神经网络的卷积层和池化层对第一二维数值组进行处理,得到第二二维数值组,所述第二二维数值组包含a个数值,所述第二二维数值组的图片的长度和宽度分别小于原始创意图片的长度和宽度;
第二变换模块,用于采用卷积神经网络的全连接层,并通过Dropout策略,对第二二维数值组进行变换处理,得到第二变换数组;所述第二变换数组为元素个数为Y的一维数组,用于表示抽取得到的图片特征,其中Y小于2a。
可选的,所述确定单元包括:
第三变换模块,用于采用卷积神经网络的全连接层,对高级特征进行变换处理,得到多维度数组,多维度数组的维度与类别的数目相同,每一维度数组对应一个类别;
计算模块,用于采用回归函数,根据各维度数组,计算对应类别的分布概率;
比较模块,用于比较各个类别的分布概率的大小,确定所述待分类广告创意类别。
另一方面,本发明实施例提供了一种广告创意分类系统,包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行以下操作:
获取待分类广告创意的创意文案和创意图片;
采用卷积神经网络,对所述创意文案进行特征抽取,确定对应的文本特征;采用卷积神经网络,对所述创意图片进行特征抽取,确定对应的图片特征;
将所述文本特征和图片特征拼接组合在一起,得到高级特征;
根据所述高级特征,确定所述待分类广告创意的行业类别。
另一方面,本发明实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被包括多个应用程序的电子设备执行时,使得所述电子设备执行以下操作:
获取待分类广告创意的创意文案和创意图片;
采用卷积神经网络,对所述创意文案进行特征抽取,确定对应的文本特征;采用卷积神经网络,对所述创意图片进行特征抽取,确定对应的图片特征;
将所述文本特征和图片特征拼接组合在一起,得到高级特征;
根据所述高级特征,确定所述待分类广告创意的行业类别。
上述技术方案具有如下有益效果:
本发明基于创意文案和创意图片,进行多模文档建模,以创意文案和创意图片为参考,采用卷积神经网络进行特征抽取,得到文本特征和图片特征,进行确定由文本特征和图片特征拼接组合在一起,得到高级特征,进而根据高级特征进行分类,可得到所述待分类广告创意的行业类别,提高分类的准确性。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的目的是提供一种广告创意分类方法,基于创意文案和创意图片,进行多模文档建模,以创意文案和创意图片为参考,采用卷积神经网络进行特征抽取,得到文本特征和图片特征,进行确定由文本特征和图片特征拼接组合在一起,得到高级特征,进而根据高级特征进行分类,可得到所述待分类广告创意的行业类别,提高分类的准确性。
为使本发明的上述目的、特征和优点能够更加明显易懂,如图1至图5所示,具体结合本发明的实施例对本发明作进一步详细的说明。
如图1和图3所示,本发明一种广告创意分类方法,其特征在于,包括:
步骤100:获取待分类广告创意的创意文案和创意图片;
步骤200:采用卷积神经网络(Convolutional Neural Network,简称CNN),对所述创意文案进行特征抽取,确定对应的文本特征;采用卷积神经网络,对所述创意图片进行特征抽取,确定对应的图片特征;
步骤300:将所述文本特征和图片特征拼接组合在一起,得到高级特征;
步骤400:根据所述高级特征,确定所述待分类广告创意的行业类别。
其中,创意文案一般比较短,大多不超过30个字;因为都是同一个广告位下的图片,创意图片尺寸大小都相同。
如图4所示,在步骤200中,所述采用卷积神经网络,对所述创意文案进行特征抽取,确定对应的文本特征,具体包括:
步骤201:对所述创意文案的文本内容进行预处理,确定所述文本内容的各个词组及对应的类别,各个词组形成词向量。
其中,对所述文本特征进行预处理,具体包括:
步骤201a:对中文进行分词,得到多个词组(term),和/或将英文字符统一处理成小写,形成多个词组(term);
步骤201b:确定各个词组对应的类别。
步骤201c:将创意文案处理成等长。
假定创意文案的预设长度设置为n,对长度小于n的创意文案进行填充(padding),对大于n的创意文案做截断处理。
步骤201d:对每个样本的term、类别进行编码。
步骤202:对所述词向量进行词嵌入,得到n×d维度的扩充词向量,n表示创意文案的预设长度,d表示词向量的维度。
在本发明通过使用word2vec预训练词向量,得到扩充词向量,将这些扩充词向量作为模型中词向量的训练初始值。相对于One-Hot Encoding,词嵌入(Word Embedding)可降低维度;拟合语义。
步骤203:采用卷积神经网络的卷积层,对所述扩充词向量进行特征抽取,得到m个一维数组,m表示卷积层内的卷积核个数。
其中,卷积核(Convoling Filter)的宽度与词向量的维度相同,长度可以同时有多种(例如3、4、5等)。卷积核的长度表示卷积核扫描的上下文空间的大小。由于卷积时会考虑term的上下文信息,卷积在效果上就有了类似于n-gram的效果。需要注意的点有:
a)同一种大小的卷积核可以有多个,比如长度为3、4、5的卷积核可以分别有128、256、512个。
b)每个卷积核卷积后得到的都是一个一维数组,维度与文本长度、卷积核的长度有关。同一长度卷积核的卷积结果的维度相同,不同长度卷积核的卷积结果的维度不同。
c)卷积层最终会输出m个一维数组。
步骤204:采用卷积神经网络的池化层,对每个卷积核对应的一维数组进行处理,得到对应的m个数值,m个数值形成第一一维数值组。
采用池化层(Pooling Layer)对卷积层的结果进行池化(Pooling)操作。在本实施例中,选择最大池化(Max-Pooling),即在池化的操作区间内选择最大的数。通过每个卷积核得到的一维数组,经过池化后,都变成了一个数。通过池化层得到的结果为一个元素个数为m个的一维数组,即第一一维数值组。
步骤205:采用卷积神经网络的全连接层,对第一一维数值组进行变换处理,得到第一变换数组;所述第一变换数组为元素个数为X的一维数组,用于表示抽取得到的文本特征,其中X小于m。
通过神经网络的一个全连接层(Fully Connected Layer)对第一一维数值组进行变换(在本实施例中,激活函数采用ReLU),并加上Dropout(丢失信息)策略,丢弃部分数值,得到一个元素个数为X的一维数组(即第一变换数组),所以元素的个数X会小于m。那么所述第一变换数组表示抽取得到的文本特征。
如图5所示,在步骤200中,所述采用卷积神经网络,对所述创意图片进行特征抽取,确定对应的图片特征,具体包括:
步骤211:确定所述创意图片分别在红、绿、蓝三个通道的颜色值组,得到k×c维度的扩充图向量,k表示扩充图向量的像素,c表示扩充图向量的维度,其中维度为扩充图向量的长度和宽度。
步骤212:采用卷积神经网络的卷积层,根据红、绿、蓝三个通道的颜色值组对所述创意图片进行特征抽取,得到a个二维数组,a表示卷积层内的卷积核个数;采用卷积神经网络的池化层,对每个卷积核对应的二维数组进行处理,得到对应的a个数值,a个数值形成第一二维数值组;重复采用卷积神经网络的卷积层和池化层对第一二维数值组进行处理,得到第二二维数值组,所述第二二维数值组包含a个数值,所述第二二维数值组的图片的长度和宽度分别小于原始创意图片的长度和宽度。
在本实施例中,首先对较浅层的卷积与池化操作,抽取第一图片特征,所述第一图片特征为比较原始、简单的图片特征(例如直线、曲线、角等);然后较深层的卷积与池化操作,抽取第二图片特征,所述第二图片特征为比较复杂的特征(例如人的皮肤、物品等);且上述过程重复两次,或者上述过程至少重复两次。
步骤213:采用卷积神经网络的全连接层,并通过Dropout策略,对第二二维数值组进行变换处理,得到第二变换数组;所述第二变换数组为元素个数为Y的一维数组,用于表示抽取得到的图片特征,其中Y小于2a。
通过神经网络的一个全连接层对第二二维数值组进行变换(在本实施例中,激活函数采用ReLU),并加上Dropout策略,丢弃部分数值,得到一个元素个数为Y的一维数组(即第二变换数组),所以Y小于2a。那么第二变换数组表示抽取得到的图片特征。
进一步地,在步骤400中,所述根据所述高级特征,确定所述待分类广告创意的行业类别,具体包括:
步骤401:采用卷积神经网络的全连接层,对高级特征进行变换处理,得到多维度数组,多维度数组的维度与类别的数目相同,每一维度数组对应一个类别。
步骤402:采用回归函数,根据各维度数组,计算对应类别的分布概率。
在本实施例中,所述回归函数可为softmax函数或者交叉熵(Cross-Entropy)损失函数(Loss Function)。
其中,交叉熵损失函数为:
其中,N是创意文本的数量,M是类别数量,yi,j是第i文本特征xi,j对应的标签,pi,j是第i文本特征xi,j属于第j类别的概率。
步骤403:比较各个类别的分布概率的大小,确定所述待分类广告创意类别。
本发明广告创意分类方法具有以下优势:
1)采用多模文档建模,分类方法同时基于文案和配图,从而可有效利用广告创意的全部信息。
2)把文案、配图都当作输入,只需训练一个模型,操作简单。
3)卷积神经网络可应用在短文本处理(广告创意的文案经常很短)、计算机视觉两个领域,应用范围广。
此外,本发明还提供一种广告创意分类系统,可有效提高分类的准确性。如图2所示,本发明广告创意分类系统包括获取单元1、抽取单元2、拼接单元3及确定单元4。
其中,所述获取单元1用于获取待分类广告创意的创意文案和创意图片。所述抽取单元2用于采用卷积神经网络,对所述创意文案进行特征抽取,确定对应的文本特征;采用卷积神经网络,对所述创意图片进行特征抽取,确定对应的图片特征。所述拼接单元3用于将所述文本特征和图片特征拼接组合在一起,得到高级特征。所述确定单元4用于根据所述高级特征,确定所述待分类广告创意的行业类别。
进一步地,所述抽取单元1用于采用卷积神经网络,对所述创意文案进行特征抽取,确定对应的文本特征,具体包括:预处理模块、嵌入模块、抽取模块、处理模块及第一变换模块。
所述预处理模块用于对所述创意文案的文本内容进行预处理,确定所述文本内容的各个词组及对应的类别,各个词组形成词向量。
所述嵌入模块用于对所述词向量进行词嵌入,得到n×d维度的扩充词向量,n表示创意文案的预设长度,d表示词向量的维度。
所述抽取模块用于采用卷积神经网络的卷积层,对所述扩充词向量进行特征抽取,得到m个一维数组,m表示卷积层内的卷积核个数。
所述处理模块用于采用卷积神经网络的池化层,对每个卷积核对应的一维数组进行处理,得到对应的m个数值,m个数值形成第一一维数值组。
所述第一变换模块用于采用卷积神经网络的全连接层,对第一一维数值组进行变换处理,得到第一变换数组;所述第一变换数组为元素个数为X的一维数组,用于表示抽取得到的文本特征,其中X小于m。
优选地,所述抽取单元用于采用卷积神经网络,对所述创意图片进行特征抽取,确定对应的图片特征,具体包括:确定模块、重复处理模块及第二变换模块。
其中,所述确定模块用于确定所述创意图片分别在红、绿、蓝三个通道的颜色值组,得到k×c维度的扩充图向量,k表示扩充图向量的像素,c表示扩充图向量的维度,其中维度为扩充图向量的长度和宽度;
重复抽取处理模块,采用卷积神经网络的卷积层,根据红、绿、蓝三个通道的颜色值组对所述创意图片进行特征抽取,得到a个二维数组,a表示卷积层内的卷积核个数;采用卷积神经网络的池化层,对每个卷积核对应的二维数组进行处理,得到对应的a个数值,a个数值形成第一二维数值组;重复采用卷积神经网络的卷积层和池化层对第一二维数值组进行处理,得到第二二维数值组,所述第二二维数值组包含a个数值,所述第二二维数值组的图片的长度和宽度分别小于原始创意图片的长度和宽度;
第二变换模块,用于采用卷积神经网络的全连接层,并通过Dropout策略,对第二二维数值组进行变换处理,得到第二变换数组;所述第二变换数组为元素个数为Y的一维数组,用于表示抽取得到的图片特征,其中Y小于2a。
进一步地,所述确定单元4包括第三变换模块、计算模块及比较模块。
其中,所述第三变换模块用于采用卷积神经网络的全连接层,对高级特征进行变换处理,得到多维度数组,多维度数组的维度与类别的数目相同,每一维度数组对应一个类别;
所述计算模块用于采用回归函数,根据各维度数组,计算对应类别的分布概率;
所述比较模块用于比较各个类别的分布概率的大小,确定所述待分类广告创意类别。
进一步地,本发明还提供一种广告创意分类方法,包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行以下操作:
获取待分类广告创意的创意文案和创意图片;
采用卷积神经网络,对所述创意文案进行特征抽取,确定对应的文本特征;采用卷积神经网络,对所述创意图片进行特征抽取,确定对应的图片特征;
将所述文本特征和图片特征拼接组合在一起,得到高级特征;
根据所述高级特征,确定所述待分类广告创意的行业类别。
此外,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被包括多个应用程序的电子设备执行时,使得所述电子设备执行以下操作:
获取待分类广告创意的创意文案和创意图片;
采用卷积神经网络,对所述创意文案进行特征抽取,确定对应的文本特征;采用卷积神经网络,对所述创意图片进行特征抽取,确定对应的图片特征;
将所述文本特征和图片特征拼接组合在一起,得到高级特征;
根据所述高级特征,确定所述待分类广告创意的行业类别。
相对于现有技术,本发明广告创意分类系统、计算机可读存储介质与上述广告创意分类方法的有益效果相同,在此不再赘述。
应该明白,公开的过程中的步骤的特定顺序或层次是示例性方法的实例。基于设计偏好,应该理解,过程中的步骤的特定顺序或层次可以在不脱离本公开的保护范围的情况下得到重新安排。所附的方法权利要求以示例性的顺序给出了各种步骤的要素,并且不是要限于所述的特定顺序或层次。
在上述的详细描述中,各种特征一起组合在单个的实施方案中,以简化本公开。不应该将这种公开方法解释为反映了这样的意图,即,所要求保护的主题的实施方案需要比清楚地在每个权利要求中所陈述的特征更多的特征。相反,如所附的权利要求书所反映的那样,本发明处于比所公开的单个实施方案的全部特征少的状态。因此,所附的权利要求书特此清楚地被并入详细描述中,其中每项权利要求独自作为本发明单独的优选实施方案。
为使本领域内的任何技术人员能够实现或者使用本发明,上面对所公开实施例进行了描述。对于本领域技术人员来说;这些实施例的各种修改方式都是显而易见的,并且本文定义的一般原理也可以在不脱离本公开的精神和保护范围的基础上适用于其它实施例。因此,本公开并不限于本文给出的实施例,而是与本申请公开的原理和新颖性特征的最广范围相一致。
上文的描述包括一个或多个实施例的举例。当然,为了描述上述实施例而描述部件或方法的所有可能的结合是不可能的,但是本领域普通技术人员应该认识到,各个实施例可以做进一步的组合和排列。因此,本文中描述的实施例旨在涵盖落入所附权利要求书的保护范围内的所有这样的改变、修改和变型。此外,就说明书或权利要求书中使用的术语“包含”,该词的涵盖方式类似于术语“包括”,就如同“包括,”在权利要求中用作衔接词所解释的那样。此外,使用在权利要求书的说明书中的任何一个术语“或者”是要表示“非排它性的或者”。
本领域技术人员还可以了解到本发明实施例列出的各种说明性逻辑块(illustrative logical block),单元,和步骤可以通过电子硬件、电脑软件,或两者的结合进行实现。为清楚展示硬件和软件的可替换性(interchangeability),上述的各种说明性部件(illustrative components),单元和步骤已经通用地描述了它们的功能。这样的功能是通过硬件还是软件来实现取决于特定的应用和整个系统的设计要求。本领域技术人员可以对于每种特定的应用,可以使用各种方法实现所述的功能,但这种实现不应被理解为超出本发明实施例保护的范围。
本发明实施例中所描述的各种说明性的逻辑块,或单元都可以通过通用处理器,数字信号处理器,专用集成电路(ASIC),现场可编程门阵列或其它可编程逻辑装置,离散门或晶体管逻辑,离散硬件部件,或上述任何组合的设计来实现或操作所描述的功能。通用处理器可以为微处理器,可选地,该通用处理器也可以为任何传统的处理器、控制器、微控制器或状态机。处理器也可以通过计算装置的组合来实现,例如数字信号处理器和微处理器,多个微处理器,一个或多个微处理器联合一个数字信号处理器核,或任何其它类似的配置来实现。
本发明实施例中所描述的方法或算法的步骤可以直接嵌入硬件、处理器执行的软件模块、或者这两者的结合。软件模块可以存储于RAM存储器、闪存、ROM存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可移动磁盘、CD-ROM或本领域中其它任意形式的存储媒介中。示例性地,存储媒介可以与处理器连接,以使得处理器可以从存储媒介中读取信息,并可以向存储媒介存写信息。可选地,存储媒介还可以集成到处理器中。处理器和存储媒介可以设置于ASIC中,ASIC可以设置于用户终端中。可选地,处理器和存储媒介也可以设置于用户终端中的不同的部件中。
在一个或多个示例性的设计中,本发明实施例所描述的上述功能可以在硬件、软件、固件或这三者的任意组合来实现。如果在软件中实现,这些功能可以存储与电脑可读的媒介上,或以一个或多个指令或代码形式传输于电脑可读的媒介上。电脑可读媒介包括电脑存储媒介和便于使得让电脑程序从一个地方转移到其它地方的通信媒介。存储媒介可以是任何通用或特殊电脑可以接入访问的可用媒体。例如,这样的电脑可读媒体可以包括但不限于RAM、ROM、EEPROM、CD-ROM或其它光盘存储、磁盘存储或其它磁性存储装置,或其它任何可以用于承载或存储以指令或数据结构和其它可被通用或特殊电脑、或通用或特殊处理器读取形式的程序代码的媒介。此外,任何连接都可以被适当地定义为电脑可读媒介,例如,如果软件是从一个网站站点、服务器或其它远程资源通过一个同轴电缆、光纤电缆、双绞线、数字用户线(DSL)或以例如红外、无线和微波等无线方式传输的也被包含在所定义的电脑可读媒介中。所述的碟片(disk)和磁盘(disc)包括压缩磁盘、镭射盘、光盘、DVD、软盘和蓝光光盘,磁盘通常以磁性复制数据,而碟片通常以激光进行光学复制数据。上述的组合也可以包含在电脑可读媒介中。
以上所述的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。