CN110852808A - 基于深度神经网络的电子产品异步自适应价值评估方法 - Google Patents
基于深度神经网络的电子产品异步自适应价值评估方法 Download PDFInfo
- Publication number
- CN110852808A CN110852808A CN201911117324.2A CN201911117324A CN110852808A CN 110852808 A CN110852808 A CN 110852808A CN 201911117324 A CN201911117324 A CN 201911117324A CN 110852808 A CN110852808 A CN 110852808A
- Authority
- CN
- China
- Prior art keywords
- price
- module
- layer
- network
- product
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000011156 evaluation Methods 0.000 title claims abstract description 22
- 230000003044 adaptive effect Effects 0.000 title claims abstract description 19
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 13
- 230000009471 action Effects 0.000 claims abstract description 41
- 230000006399 behavior Effects 0.000 claims abstract description 23
- 230000008859 change Effects 0.000 claims abstract description 14
- 238000000034 method Methods 0.000 claims description 33
- 239000013598 vector Substances 0.000 claims description 23
- 230000008569 process Effects 0.000 claims description 17
- 238000012549 training Methods 0.000 claims description 13
- 230000006870 function Effects 0.000 claims description 11
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 5
- 230000007246 mechanism Effects 0.000 claims description 3
- 239000000203 mixture Substances 0.000 claims description 3
- 230000008447 perception Effects 0.000 claims description 2
- 230000003542 behavioural effect Effects 0.000 claims 1
- 239000000126 substance Substances 0.000 claims 1
- 230000002787 reinforcement Effects 0.000 description 7
- 238000013135 deep learning Methods 0.000 description 5
- 239000011159 matrix material Substances 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 230000004913 activation Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 238000004064 recycling Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 230000032683 aging Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 238000011144 upstream manufacturing Methods 0.000 description 1
- 230000003442 weekly effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0201—Market modelling; Market analysis; Collecting market data
- G06Q30/0206—Price or cost determination based on market factors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Strategic Management (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Development Economics (AREA)
- Accounting & Taxation (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Evolutionary Computation (AREA)
- Finance (AREA)
- Entrepreneurship & Innovation (AREA)
- General Business, Economics & Management (AREA)
- Marketing (AREA)
- Economics (AREA)
- Game Theory and Decision Science (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Description
技术领域
本发明涉及再生资源回收利用领域,具体涉及一种基于深度神经网络的二手电子产品异步自适应价值评估方法。
背景技术
近年来,科技发展日新月异,电子产品品类层出不穷。同时伴随着互联网的发展,电子商务逐渐兴起,越来越多的用户选择网上购物。由于互联网信息获取的实时性和便利性,用户可通过互联网查看并对比各个平台的定价、优惠措施和销售情况之后,再决定是否购买。电子产品的价格会随着时间不断变化,对于电子产品销售商来说,需要在这种与竞争对手之间的博弈中获得一定的价格优势,因此迫切需要一种能高效的根据当前的产品价值、库存和销售能力等信息综合分析之后进行准确定价的方法,使得自己在激烈的竞争中占得先机,达到收益最大化。特别对于二手电子产品来说,影响产品价格的因素除了产品本身属性之外还有市场对于产品的需求量等,二手电子产品定价情况更复杂,参考因素更多,对具有高效智能学习调整能力的定价方法的需求更加迫切。
传统的二手电子产品定价方式主要依赖人工进行逐个型号的模型确定,比如二手手机需要参考手机初始购买的渠道、内存容量、手机使用老化程度等因素来计算手机价值,通过拥有行业经验的专业人员来制定模型,在得到手机各项属性之后通过模型计算手机的价值,最后参考市场因素的影响和销售端的销售能力来最终确定价格。在传统的二手手机定价过程中,复杂的模型制定和考虑市场因素最终定价的环节都依赖富有经验的专业人员。
常规的产品定价方法准确性和实时性都较差,需要人工干预定价过程。本发明为弥补以上不足,分别使用基于深度学习和强化学习的方法,包括依据产品本身属性进行产品价值预测的估价模块和依据市场信息进行价格调整的调价模块。利用深度学习技术自动学习产品属性特征组合得到价值预测模型,并采用定期进行参数更新的方法保证基础定价的时效性。利用强化学习可以在与环境交互的同时进行参数更新的特性进行调价动作选择的学习,最终形成异步更新的高效智能自适应的价值评估方法。
发明内容:
二手电子产品的定价浮动较大,且受到多种因素影响,传统电子产品定价的方式过程繁琐且对于价格调整通常滞后,容易由于定价跟不上市场变化而丧失订单,造成经济损失。为解决这个问题,通常采用的方式是人工定价,即销售商需要时刻关注行业内变化,需要安排专业人员每天甚至实时调整产品的定价。对于二手电子商务平台来说业务通常涉及多种类、多品牌、多型号的电子产品,进行定价管理就更加耗费人力物力。本发明将定价过程交由计算机自动完成,在高效定价的同时大幅度减少人工参与。
二手电子产品价格变化较快,本发明使用异步定价的机制,即将定价过程分为两个阶段,分为估计电子产品基础价值的估价模块和快速适应市场变化的自适应调价模块,其中电子产品估价模块利用深度学习模型对产品价值进行估计,自适应调价模块利用强化学习的方法对产品定价进行实时调整,所采用的方法能够适应快速变化的市场进行准确定价,采用基础价值估计加上自适应调整的方式保证定价的准确性。
特征工程是一项十分繁琐、耗费人力物力的工作,在机器学习方法中,特征需要通过行业专家确定,并进行特征编码。深度学习算法则会从数据中学习特征,大大减少了发现特征的成本。本发明专利使用深度学习方法对电子产品的各项属性进行建模,建立电子产品与其价值的映射,训练过程中融入历史订单信息,可以准确高效的实现价格预测。
由于二手电子产品的定价除了受到内部属性的影响,还常常受到外部环境变化的影响,如上游零件供应商和下游销售渠道的销售能力,这些变化对于产品定价的影响常常是难以量化的。为解决这个问题,本发明专利使用深度强化学习方法,模块可以综合考虑内外部因素对产品定价的影响,采用调整价格的方式得到准确、合理的定价。
考虑到实际应用场景下冷启动的问题,本发明专利利用历史交易数据模拟交易过程,对调价系统进行训练。在训练环境中对估价模型和调价模型进行训练和测试,直至模型可以满足进行实际应用的要求。
具体技术方案如下:
将产品定价过程分为估计产品本身价值的产品估价模块和为应对市场变化进行定价调整的自适应调价模块。
产品估价模块使用嵌入和多层感知机(Embedding&Multi-Layer Perception)模型进行价格预测,其模型结构具体由输入层、嵌入层、扁平化层、多层感知机和输出层组成,模型结构如图2所示。
输入数据为电子产品的内部属性,通常为离散的取值,如手机属性包括但不限于颜色、存储容量、内存大小。可以输入更多的电子产品内部属性,本模块可以进行学习并同时提升模块进行产品估价的效果。
使用独热编码器(One-Hot Encoder)将这些离散的取值映射到高维空间中,形成可用于计算的高维稀疏向量。
输入层(Input layer)将高维稀疏向量输入到模型中。
嵌入层(Embedding layer)将输入的高维稀疏向量转化为低维稠密向量。在这个过程中会将机器难以进行特征组合学习的高维稀疏向量表示作为输入,嵌入层会学习将输入转换为便于多层感知机模型进行特征组合学习的低维稠密特征向量组,即形成特征矩阵。
扁平化层将特征矩阵展开铺平为一维向量,处理为适合多层感知机处理的输入数据。
多层感知机由多个全连接层(Fully-connected layer)层层相连形成,用于学习输入的扁平化特征矩阵的特征组合。
输出层将多层感知机最后一层的输出作为产品估价模块的输出,输出层输出的价格作为产品估价模块的输出,即产品的基本估价。
产品定价除了参考产品价值之外,还需要跟随市场变化灵活变化,因此要在考虑市场变化对于产品定价的影响之后,进行调价过程的进一步处理。
调价模块使用双深度Q网络(Double Deep Q Network)进行调价动作的学习,其结构如图3所示。
将电子产品的内部属性与销量和上一阶段销售情况市场变化信息以及估价模块预测的基本估价作为输入。其中,取值为离散值的属性需要经过与估价模块输入相同的独热编码器的处理,将离散值映射为高维向量之后与其他数值型属性进行拼接,形成输入数据向量。
搭建多层全连接层相连的深度Q网络(Deep Q Network)作为双深度Q网络的共享结构,两个网络分别命名为行为网络(Behavior Network)和目标网络(Target Network)。两个深度Q网络共享同一个结构,但网络中的参数不同,两个网络在双深度Q网络中起到的作用也不同。其中深度Q学习网络由输入层、隐藏层和输出层构成。
输入层用于接收模块的输入数据。模块的输入数据由电子产品价格的内部属性、产品估价模块的预测价格、当前时间以及产品一周内的回收量和销量组成。模块的输入数据需要经过独热编码器编码成可用于计算的高维稀疏向量。
隐藏层为两层全连接层,用于学习输入数据与调价动作之间的对应关系。
输出层用于输出深度Q学习网络的结果。
调价模块中的调价动作分为上调3α%、上调2α%、上调α%、不调整、下调α%、下调2α%和下调3α%,共7个调价动作,其中α为控制调价幅度的常量。比如α设置为3时,调价动作为上调9%、上调6%、上调3%、不调整、下调3%、下调6%、下调9%。调价模块在接收到输入之后,经过行为网络的计算会对应每个调价动作计算出一个Q值。选择Q值最大的调价动作作为调价模块在当前输入情况下的决策。
通过估价模块估计的产品基本价格和调价模块做出的调价动作进一步计算出产品的最终定价。
在实际应用之前,估价模块和调价模块均需使用过去一定时间段内的历史数据进行训练。
自适应调价模块使用强化学习的思想进行训练。
模块会接收t时刻的输入st,根据输入的st以行为网络输出的Q值最优的动作作为实际行动at,即:
at=argmaxaQ(st,a;θt)
其中,argmaxa为求最优Q值Q(st,a;θt)中a的操作。
计算调价结果与成交值Yt的误差Errort。
执行调价动作之后会在t+1时刻得到反馈rt+1。
其中EBp和EBn为可进行设置的常量,EBp代表模块得到正反馈的误差边界,EBn代表模块得到负反馈的误差边界,即经过调整的价格与成交价格的误差小于EBp可得到正反馈,大于EBn会得到负反馈,处于两者之间时得到反馈为0。在t+1时刻会得到新的输入st+1,将{st,at,rt+1,st+1}存储在回放空间(Replay buffer)中。
从回放空间中采样一批样本(sj,aj,rj+1,sj+1),并通过以下公式计算损失函数L,使用Adam优化器优化行为网络的参数θ。
aj,t -=argmaxaQ(sj+1,a;θt)
yj=rj+1+γQ(sj+1,aj,t -;θ-)
L=(yj-Q(sj,aj;θt))2,
其中,γ是用来调节网络学习程度的常量。
优化后的参数即为第t+1时刻行为网络的参数θt+1
实际应用场景中,估价模块定期更新参数以保证定价的时效性,调价模块随决策过程更新参数以保证快速适应市场变化。
有益效果
本发明主要通过基本价值预测和自适应价格调整两个阶段对电子产品进行定价,分别通过基于深度学习的电子产品估价模块和基于强化学习技术的自适应调价模块对电子产品进行定价,充分利用市场交易的信息,自适应调整定价以适应快速变化的市场,保证价格的合理性,提高交易成交率。
附图说明
图1本发明方法流程图
图2产品估价模块结构图
图3自适应调价模块结构图
具体实施方式:
本发明包含如下具体步骤:
先进行产品估价模块的模型搭建。
步骤(1)将二手电子产品的历史订单记录进行整合,得到用于训练模型的数据集。如二手手机回收平台的交易记录,记录中包含完整的手机各项属性记录,如购买渠道、颜色、存储容量和型号等手机自身属性以及成交的时间和成交的价格。本发明中估价模块的训练需要一定量的电子产品订单数据的支持,所以需要将电子产品内部属性特征与最终成交价格进行存储和整理之后获得估价模块的训练数据。在电子产品进行定价时,需要从订单数据中获取电子产品内在属性并将其输入到估价模块中得到其估计的价值,将估价模块得到的估计价值与订单数据中得到的产品信息、市场变化信息与销售信息输入到调价模块中,调价模块通过将产品的估计价值进行小幅度调整后得到其定价,产品进入到市场中销售会得到市场反馈,调价模块会接收市场反馈并不断完善优化调价效果。
步骤(2)将数据集内交易记录按照成交时间进行排序,之后按照9:1的比例进行训练集和测试集的划分。
步骤(3)使用独热编码器将数据集中的非数值型数据进行编码。
步骤(4)将所有非数值型数据和数值型数据直接拼接为高维度稀疏向量,该向量表示本条交易记录的手机各项属性。
步骤(5)将数据集中所有的记录进行统一的编码,得到高维度稀疏向量矩阵并以此作为价值预测模块的输入,使用数据集内成交的价格作为模型学习的目标输出。
步骤(6)搭建估价模块中的神经网络。
步骤(6.1)创建输入层(Input layer)作为模型的底层结构,向网络中输入数据。
步骤(6.2)在输入层之上创建嵌入层,用于学习稀疏特征的稠密表示,将高维度稀疏向量转换成便于多层感知机模型进行特征组合学习的低维稠密向量。
步骤(6.3)在嵌入层之后创建扁平化层(Flatten layer),由于嵌入层的输出为二维矩阵,扁平化层用于将嵌入层输出的多维数据一维化。
步骤(6.4)创建三层全连接层形成多层感知机模型,多层感知机相对于原始的感知机,在逼近效果上改进的关键在于引入非线性函数作为激励函数,本发明使用ReLU作为激活函数。
ReLu(x)=max(0,x)
步骤(6.5)最后,连接单节点的输出层用于输出预测的产品价值。
神经网络从计算的角度看,数据是从底层输入,经过每一层,根据与该层之间的权重计算中间结果,再经过一个非线性激活函数作用,得到该层的输出结果,进一步把该层的输出结果传递给下一层,继续进行下一层的中间结果计算与非线性函数激活,直到最后一层,得到最终的输出结果。
步骤(7)设置模型输出的预测结果与目标值的误差函数为均方误差(MSE)。
步骤(8)选择Adam优化器作为模型参数的优化器对模型进行训练。
接下来进行自适应调价模块的搭建,模块使用双深度Q网络进行价格调整动作的学习。
在产品估价模块中,电子产品内部属性数据通过输入层输入到模型中,依次经过嵌入层、扁平化层和使用ReLU激活函数的分别有128、64和32个节点的三个全连接层组成的多层感知机,最后通过输出层将预测的产品价值输出。
步骤(9)搭建双深度Q网络模型。
步骤(9.1)搭建两个相同结构的具有双层隐藏层的深度Q网络,将其分别命名为行为网络(Behavior Network)和目标网络(Target Network)。
步骤(9.2)设置输出的行动空间为7,即分为将价格上调3α%、上调2α%、上调α%、不调整、下调α%、下调2α%和下调3α%这7个调价动作。设置Replay buffer的大小为N。初始化行为网络的参数θ,初始化目标网络的参数θ-。
步骤(9.3)接收t时刻的输入状态,即t时刻需调价的二手电子产品属性信息、估价模块对该产品的价值估计以及t时刻的销售量信息。将t时刻的输入经过向量化处理之后形成t时刻的输入st。
步骤(9.4)模型以行为网络输出的Q值最优的行动作为实际行动。
at=argmaxaQ(st,a;θt)
其中,argmaxa为求最优Q值Q(st,a;θ)中参数a的操作,at为Q值最大的行动,st为t时刻的输入,a为调价动作的动作空间,θ为行为网络中的参数。
步骤(9.7)执行动作at并在t+1时刻获得反馈rt+1。
其中EBp代表模块得到正反馈的误差边界,EBn代表模块得到负反馈的误差边界,即经过调整的价格与成交价格的误差小于EBp可得到正反馈,大于EBn会得到负反馈,处于两者之间时得到反馈为0。
步骤(9.8)模块接收t+1时刻的反馈rt+1,即市场环境在经过调价之后给调价模块的反馈。
步骤(9.9)接收t+1时刻的新输入st+1,即经过调价之后的新输入。
步骤(9.10)将{st,at,rt+1,st+1}存储在Replay buffer中。
步骤(9.11)从Replay buffer中采样一批样本(sj,aj,rj+1,sj+1),根据目标函数L使用Adam优化器优化行动网络的参数。
步骤(9.12)经过多轮更新后,将行为网络的参数θ赋给目标网络的参数。
调价模块搭建完成之后,使用历史交易订单数据对调价模块进行训练。
步骤(10)将历史交易订单记录进行处理后形成订单输入状态序列,输入到调价模块中。
步骤(11)基于估价模块得到的价格和调价模块做出的调价动作,计算得到定价结果。
使用强化学习思想将调价模块不断与训练环境进行交互,连续经过以上步骤的动作选择和参数更新,基于双深度Q网络的调价模块可以在做动作决策的同时,学习到能够获得更多正面反馈且避免负面反馈的调价模型。
实际使用过程中,估价模块采用定期更新模型参数的方式。可设置为每周更新模型参数,使用过去一个月的历史记录进行模型训练。调价模块由于使用强化学习思想,可以在进行调价行为选择的过程中进行自主的策略更新。
两个模块采用异步更新的方式可以充分发挥每个模块的作用,在保证模型能够学习历史数据并能够适应市场变化的同时保证了模型的稳定性,有效减少定价过程中的人工干预。
Claims (7)
1.基于深度神经网络的电子产品异步自适应价值评估方法,其特征在于:包括估计产品本身价值的估价模块和为应对市场变化进行定价调整的自适应调价模块,自适应调价模块使用双深度Q网络,其模型结构由两个结构相同、参数不同的深度Q学习网络构成,即行为网络和目标网络;估价模块根据影响电子产品价格的内部属性得到t时刻的产品基本估价由估价模块输出的估计价格经过自适应调价模块选择的调价动作at调整之后得到最终价格具体如下:
其中,调价动作at由行为网络得到,具体为:行为网络根据t时刻接收输入的数据st,得到每个调价动作的Q值,调价动作at即为最优的Q值对应的调价动作,即:
at=argmaxaQ(st,a;θt)
其中,
数据st包括根据影响电子产品价格的内部属性、产品估价模块的预测价格、当前时间以及产品一周内回收量和销量,
θt为行为网络t时刻的参数,且在每次进行调价动作之后都会进行更新,双深度Q网络使用了经验回溯机制并使用目标网络参与行为网络参数的更新,所述的经验回溯机制指利用t时刻之前的信息调整第t+1时刻的行为网络参数θt+1,进而调整第t+1时刻的产品基本估价
Q(st,a;θt)为行为网络输入数据st通过参数θt计算出来的各个调价行为a的Q值,argmaxa为求最优Q值Q(st,a;θt)对应的调价行为a的操作。
2.根据权利要求1所述的基于深度神经网络的电子产品异步自适应价值评估方法,其特征在于:
所述的行为网络中的参数θt的更新过程如下:
1)将t时刻的输入信息st,做出的调价动作at,执行动作后获得的反馈rt+1和t+1时刻获得的输入信息st+1组合成一个样本St={st,at,rt+1,st+1}存储在回放空间中,其中,
其中,EBp代表正反馈的误差边界,EBn代表负反馈的误差边界,
所述的回放空间由各时刻样本St构成,表示为{S1,...,St,...,SN};
2)从回放空间中随机选取j时刻的样本Sj=(sj,aj,rj+1,sj+1),将其中的sj+1输入行为网络并计算出调价动作aj,t -,具体表示如下:
aj,t -=argmaxaQ(sj+1,a;θt)
3)同时将sj+1输入目标网络并得到调价动作aj,t -对应的Q值,具体表示为Q(sj+1,aj,t -;θ-),其中θ-表示此时目标网络的参数;
4)计算yj,具体如下:
yj=rj+1+γQ(sj+1,aj,t -;θ-)
其中,γ是用来调节网络学习程度的常量,
5)从回放空间中随机选取多个时刻的样本Sj,j≤t,将这些样本中的sj输入行为网络,选择Adam优化器对行为网络进行优化,优化后的参数即为第t+1时刻行为网络的参数θt+1,其中损失函数L的计算公式如下:
L=(yj-Q(sj,aj;θt))2。
3.根据权利要求1所述的基于深度神经网络的电子产品异步自适应价值评估方法,其特征在于:所述目标网络参数的更新周期为预设值,且每次更新都被赋值为行为网络的当前参数。
4.根据权利要求1所述的基于深度神经网络的电子产品异步自适应价值评估方法,其特征在于:所述的产品估价模块使用嵌入和多层感知机(Embedding&Multi-LayerPerception)模型进行价格预测,其模型结构具体由输入层、嵌入层、扁平化层、多层感知机和输出层组成;
所述的输入层(Input layer)用于接收模块的输入数据;模块的输入数据为影响电子产品价格的内部属性,内部属性包括但不限于产品的型号、颜色、存储容量、内存大小以及使用年限,模块的输入数据需要经过独热编码器(One-hot Encoder)编码成可用于计算的高维稀疏向量;
所述的嵌入层(Embedding layer)将输入的高维稀疏向量转化为低维稠密向量组;
所述的扁平化层(Flatten layer)将低维稠密向量组展开铺平为一维向量,作为多层感知机的输入;
所述的多层感知机由多个全连接层(Fully-connected layer)层层相连组成,用于学习输入的特征向量的特征组合;
所述的输出层将多层感知机最后一层的输出作为产品估价模块的输出,其输出的结果作为产品的基本估价。
6.根据权利要求1所述的基于深度神经网络的电子产品异步自适应价值评估方法,其特征在于:所述的调价动作at的选择空间为7,分为将价格上调3α%、上调2α%、上调α%、不调整、下调α%、下调2α%和下调3α%这7个调价动作,其中α为控制调价幅度的常量。
7.根据权利要求1所述的基于深度神经网络的电子产品异步自适应价值评估方法,其特征在于二所述的行为网络由输入层、隐藏层和输出层构成,
所述的输入层用于接收模块的输入数据,模块的输入数据需要经过独热编码器编码成可用于计算的高维稀疏向量;
所述的隐藏层为两层全连接层,用于学习输入数据与调价动作之间的对应关系;所述的输出层用于输出网络的结果,即网络的输出为7个调价动作各自对应的Q值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911117324.2A CN110852808A (zh) | 2019-11-14 | 2019-11-14 | 基于深度神经网络的电子产品异步自适应价值评估方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911117324.2A CN110852808A (zh) | 2019-11-14 | 2019-11-14 | 基于深度神经网络的电子产品异步自适应价值评估方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110852808A true CN110852808A (zh) | 2020-02-28 |
Family
ID=69600741
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911117324.2A Pending CN110852808A (zh) | 2019-11-14 | 2019-11-14 | 基于深度神经网络的电子产品异步自适应价值评估方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110852808A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113837803A (zh) * | 2021-09-24 | 2021-12-24 | 深圳闪回科技有限公司 | 一种基于多模型融合的二手手机回收价格预测算法 |
CN114489144A (zh) * | 2022-04-08 | 2022-05-13 | 中国科学院自动化研究所 | 无人机自主机动决策方法、装置及无人机 |
CN116681428A (zh) * | 2023-08-03 | 2023-09-01 | 天津奇立软件技术有限公司 | 电子设备的智能回收管理系统及方法 |
-
2019
- 2019-11-14 CN CN201911117324.2A patent/CN110852808A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113837803A (zh) * | 2021-09-24 | 2021-12-24 | 深圳闪回科技有限公司 | 一种基于多模型融合的二手手机回收价格预测算法 |
CN114489144A (zh) * | 2022-04-08 | 2022-05-13 | 中国科学院自动化研究所 | 无人机自主机动决策方法、装置及无人机 |
CN116681428A (zh) * | 2023-08-03 | 2023-09-01 | 天津奇立软件技术有限公司 | 电子设备的智能回收管理系统及方法 |
CN116681428B (zh) * | 2023-08-03 | 2023-09-29 | 天津奇立软件技术有限公司 | 电子设备的智能回收管理系统及方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111222054B (zh) | 一种基于上下文邻居关系建模的会话社交推荐方法 | |
CN110852808A (zh) | 基于深度神经网络的电子产品异步自适应价值评估方法 | |
CN110751318B (zh) | 一种基于ipso-lstm的超短期电力负荷预测方法 | |
CN107066628A (zh) | 穿衣推荐方法及装置 | |
CN110059887B (zh) | 基于自适应遗传算法的bp神经网络风险识别方法及系统 | |
CN106444379A (zh) | 基于物联网推荐的智能烘干远程控制方法及系统 | |
CN107545301B (zh) | 页面展示方法及装置 | |
CN112000770A (zh) | 面向智能问答的基于语义特征图的句子对语义匹配方法 | |
CN111950195B (zh) | 一种基于画像系统与深度回归模型的工程进度预测方法 | |
CN116911962B (zh) | 一种基于数据模型的选品装置及方法 | |
CN112686693A (zh) | 电力现货市场边际电价预测方法、系统、设备及存储介质 | |
CN117575663A (zh) | 基于深度学习的装修成本估算方法及系统 | |
CN113344467A (zh) | 一种电力工程资金预测方法和装置 | |
CN115189416A (zh) | 基于日前电价分级预测模型的发电系统控制方法及系统 | |
CN114925270A (zh) | 一种会话推荐方法和模型 | |
CN115049102A (zh) | 一种电价预测方法、装置、移动终端及存储介质 | |
CN110322342B (zh) | 借贷风险预测模型的构建方法、系统及借贷风险预测方法 | |
CN114648178B (zh) | 一种基于ddpg算法的电能计量装置运维策略优化方法 | |
CN112163704B (zh) | 一种用于建材投招标平台的优质供应商预测方法 | |
CN116308482A (zh) | 一种基于神经网络模型和Xgboost的订单销量预测方法及装置 | |
CN112529350B (zh) | 一种针对冷启动任务的开发者推荐方法 | |
CN104076686A (zh) | 一种氧化铝生产过程动态成本控制方法 | |
CN114004530A (zh) | 基于排序支撑向量机的企业电力信用分建模方法及系统 | |
CN111177546A (zh) | 一种基于深度学习的工艺参数在线智能推荐方法及装置 | |
CN116957166B (zh) | 一种基于鸿蒙系统的隧道交通情况预测方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20200228 |
|
WD01 | Invention patent application deemed withdrawn after publication |