CN117485639A - 一种智能计量包装方法及装置 - Google Patents

一种智能计量包装方法及装置 Download PDF

Info

Publication number
CN117485639A
CN117485639A CN202410001900.1A CN202410001900A CN117485639A CN 117485639 A CN117485639 A CN 117485639A CN 202410001900 A CN202410001900 A CN 202410001900A CN 117485639 A CN117485639 A CN 117485639A
Authority
CN
China
Prior art keywords
packaging
metering
time
size
feeding port
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202410001900.1A
Other languages
English (en)
Other versions
CN117485639B (zh
Inventor
李文克
高军朋
李志娟
李文娟
董伟博
曲新新
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Henan Yunhan Industrial Co ltd
Original Assignee
Henan Yunhan Industrial Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Henan Yunhan Industrial Co ltd filed Critical Henan Yunhan Industrial Co ltd
Priority to CN202410001900.1A priority Critical patent/CN117485639B/zh
Publication of CN117485639A publication Critical patent/CN117485639A/zh
Application granted granted Critical
Publication of CN117485639B publication Critical patent/CN117485639B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65BMACHINES, APPARATUS OR DEVICES FOR, OR METHODS OF, PACKAGING ARTICLES OR MATERIALS; UNPACKING
    • B65B1/00Packaging fluent solid material, e.g. powders, granular or loose fibrous material, loose masses of small articles, in individual containers or receptacles, e.g. bags, sacks, boxes, cartons, cans, or jars
    • B65B1/30Devices or methods for controlling or determining the quantity or quality or the material fed or filled
    • B65B1/32Devices or methods for controlling or determining the quantity or quality or the material fed or filled by weighing
    • B65B1/34Adjusting weight by trickle feed
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/092Reinforcement learning
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Mechanical Engineering (AREA)
  • Quality & Reliability (AREA)
  • Basic Packing Technique (AREA)

Abstract

本申请涉及定量包装技术领域,尤其涉及一种智能计量包装方法及装置,计量包装方法包括:获取待包装重量、设定包装时长和待包装物料的物料种类;采集当前时刻的包装状态,所述包装状态包括给料口尺寸、包装差值重量和剩余包装时间;将所述包装状态输入所述物料种类对应的强化学习模型以获取未来给料口尺寸,并将所述给料口尺寸调节至所述未来给料口尺寸,所述未来给料口尺寸为所述当前时刻下一个相邻时刻的给料口尺寸;迭代地调节给料口尺寸,直至给料口尺寸为0时或所述设定包装时长结束时,停止进料,完成一次计量包装过程。通过本申请的技术方案,能够提高计量包装结果的准确性。

Description

一种智能计量包装方法及装置
技术领域
本申请一般地涉及定量包装技术领域,尤其涉及一种智能计量包装方法及装置。
背景技术
在企业销售和工厂生产加工过程中,物料的计量包装是不可缺少的一环,计量包装的目的是确保包装后每一包物料的重量均等于目标重量。在实际过程中,化学交联聚乙烯绝缘料、PVC绝缘料和聚烯烃护套料等均为颗粒状的物料,物料颗粒储存在储料仓中,并通过储料仓的给料口落入包装袋中,进而完成计量包装。
目前,公开号为CN110949706A的专利申请文件公开了一种自动定量包装秤的工作参数自动整定优化方法,首先进行一次全程慢速进料的进料试验,再进行一次先快速进料再慢速进料的进料试验,在两次进料试验中,根据获取到的目标重量以及慢进料稳定持续时长确定快进料结束重量和慢进料结束重量;对空包装先进行快速进料并在包装中的实时物料重量达到所述快进料结束重量时切换为慢速进料,在实时物料重量达到所述慢进料结束重量时停止进料,完成自动定量包装的过程。
然而,上述方法通过控制快速进料和慢速进料的切换时间来完成自动计量包装,但是忽略了物料尺寸对进料速度的影响,且只将进料速度划分为快速进料和慢速进料两种,无法精准控制进入包装袋的物料重量,使得计量包装的结果不准确。
发明内容
为了解决本申请的上述技术问题,本申请提供了一种智能计量包装方法及装置,以提高计量包装结果的准确性。
本申请第一方面,提供了一种智能计量包装方法,用于在计量包装过程中调节进料设备的给料口尺寸,所述计量包装方法包括:获取待包装重量、设定包装时长和待包装物料的物料种类,一种物料种类对应一种颗粒尺寸;采集当前时刻的包装状态,所述包装状态包括给料口尺寸、包装差值重量和剩余包装时间,所述包装差值重量为所述待包装重量与包装实时重量之间的差值,所述剩余包装时间为所述设定包装时长与已包装时长之间的差值;将所述包装状态输入所述物料种类对应的强化学习模型以获取未来给料口尺寸,并将所述给料口尺寸调节至所述未来给料口尺寸,所述未来给料口尺寸为所述当前时刻下一个相邻时刻的给料口尺寸;迭代地调节给料口尺寸,直至给料口尺寸为0时或所述设定包装时长结束时,停止进料,完成一次计量包装过程;其中,所述强化学习模型为DQN网络,所述DQN网络的输入为计量包装过程中任意时刻的包装状态,输出为所述任意时刻下一个相邻时刻多种给料口设定尺寸的预测奖励值,并将预测奖励值最大值对应的给料口设定尺寸作为未来给料口尺寸。
在一个实施例中,所述强化学习模型的更新方法包括:在一次计量包装过程中,对于任意一个未来给料口尺寸,响应于给料口尺寸调节至所述未来给料口尺寸时,得到所述未来给料口尺寸对应的调节时刻;采集未来包装状态、给料口尺寸曲线和包装实时重量曲线,其中所述给料口尺寸曲线包括所述调节时刻至设定包装时长之间每个时刻的给料口尺寸,所述包装实时重量曲线包括所述调节时刻至设定包装时长之间每个时刻的包装实时重量,所述未来包装状态为所述调节时刻的包装状态;基于所述给料口尺寸曲线计算尺寸变化平稳度,基于所述包装实时重量曲线计算计量准确度,依据预设权重对所述尺寸变化平稳度和所述计量准确度进行加权求和以获取实际奖励值;将所述未来包装状态输入所述强化学习模型,以获取所述未来包装状态的多个预测奖励值,并选取所述未来包装状态的多个预测奖励值中的最大值作为所述未来给料口尺寸的未来奖励值;基于所述实际奖励值、所述未来给料口尺寸的未来奖励值和预测奖励值计算损失函数值,依据所述损失函数值,利用反向传播算法更新所述强化学习模型;依据所述计量包装过程中的多个未来给料口尺寸对所述强化学习模型进行多次更新;所述损失函数值满足关系式:
其中,为所述未来给料口尺寸的预测奖励值,/>为所述实际奖励值,/>为所述未来给料口尺寸的未来奖励值,/>为预设增益系数,/>为损失函数值。
在一个实施例中,基于所述给料口尺寸曲线计算尺寸变化平稳度包括:对于所述给料口尺寸曲线中的一个时刻,将所述时刻的给料口尺寸减去所述时刻上一个相邻时刻的给料口尺寸,得到所述时刻的变化幅度;获取所述给料口尺寸曲线中所有时刻的变化幅度,计算所有时刻的变化幅度对应的变化幅度方差;依据变化幅度最大值以及所述变化幅度方差计算尺寸变化平稳度,所述尺寸变化平稳度满足关系式:
其中,为变化幅度最大值,/>为所述变化幅度方差,/>为变化幅度预设阈值,为所述尺寸变化平稳度。
在一个实施例中,基于所述包装实时重量曲线计算计量准确度包括:获取所述包装实时重量曲线中所述设定包装时长的结束时刻对应的包装实时重量;基于所述包装实时重量与所述待包装重量之间的差值绝对值计算计量准确度;所述计量准确度满足关系式:
其中,为所述包装实时重量,/>为所述待包装重量,/>为所述计量准确度。
在一个实施例中,所述实际奖励值满足关系式:
其中,为所述尺寸变化平稳度,/>为所述计量准确度,/>和/>分别为第一预设权重和第二预设权重,且满足关系式/>,/>为实际奖励值。
在一个实施例中,在迭代地调节给料口尺寸,直至给料口尺寸为0时停止进料,完成一次计量包装过程之后,所述计量包装方法还包括:依据所述计量包装过程中所有时刻的给料口尺寸和包装实时重量分别绘制给料口尺寸全程曲线和包装实时重量全程曲线;基于所述给料口尺寸全程曲线计算全程尺寸变化平稳度,基于所述包装实时重量全程曲线计算全程计量准确度,依据预设权重对所述全程尺寸变化平稳度和所述全程计量准确度进行加权求和以获取全程奖励值;响应于所述全程奖励值大于设定奖励阈值,不更新所述强化学习模型,响应于所述全程奖励值不大于所述设定奖励阈值,更新所述强化学习模型。
本申请第二方面,还提供了一种智能计量包装装置,包括处理器和存储器,所述存储器存储有计算机程序指令,当所述计算机程序指令被所述处理器执行时实现根据本申请第一方面所述的一种智能计量包装方法。
本申请的技术方案具有以下有益技术效果:
通过本申请提供的技术方案,采集计量包装过程中当前时刻的包装状态,包装状态包括当前时刻的给料口尺寸、包装差值重量和剩余包装时间;将当前时刻的包装状态输入强化学习模型中,输出当前时刻下一个相邻时刻的给料口尺寸,进而实现给料口尺寸的调节;在计量包装过程中,迭代地调节给料口尺寸,直至给料口尺寸为0时或设定包装时长结束时,停止进料,完成一次计量包装过程;通过强化学习模型对计量包装过程中每一时刻的进料口尺寸进行精准控制,提高了计量包装结果的准确性。
进一步地,在完成一次计量包装过程后,依据计量包装过程中实际采集的数据更新强化学习模型,使得强化学习模型能够准确输出未来给料口尺寸;在更新强化学习模型时,通过尺寸变化平稳度和计量准确度计算实际奖励值,并依据实际奖励值和未来奖励值对强化学习模型输出的预测奖励值进行约束;确保在设定包装时长内将空包装袋填充至待包装重量的同时,避免进料口尺寸变化不规则造成进料设备的损坏,影响进料设备的使用寿命。
附图说明
通过参考附图阅读下文的详细描述,本申请示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中,以示例性而非限制性的方式示出了本申请的若干实施方式,并且相同或对应的标号表示相同或对应的部分,其中:
图1是根据本申请实施例的一种智能计量包装方法的流程图;
图2是根据本申请实施例的强化学习模型的更新方法的流程图;
图3是根据本申请实施例的一种智能计量包装装置的框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
应当理解,当本申请的权利要求、说明书及附图使用术语“第一”、“第二”等时,其仅是用于区别不同对象,而不是用于描述特定顺序。本申请的说明书和权利要求书中使用的术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
根据本申请的第一方面,本申请提供了一种智能计量包装方法。图1是根据本申请实施例的智能计量包装方法的流程图。如图1所示,所述智能计量包装方法100包括步骤S101至S104,以下详细说明。
S101,获取待包装重量、设定包装时长和待包装物料的物料种类,一种物料种类对应一种颗粒尺寸。
在一个实施例中,获取待包装物料的物料种类,所述物料种类为聚乙烯绝缘料、聚烯烃护套料或PVC绝缘料等颗粒状物料,依据待包装物料的颗粒尺寸划分物料种类,一种物料种类对应一种颗粒尺寸。在计量包装过程中,物料颗粒储存在进料设备的储料仓中,物料颗粒通过给料口进入所述给料口下方的空包装袋中;通过控制储料仓的给料口尺寸可调节物料颗粒进入空包装袋的速度;因此,本申请实施例通过调节计量包装过程中进料设备的给料口尺寸,实现智能计量包装。
其中,待包装重量为一个空包装中需要包装的物料重量,实施者可依据具体包装需求进行设定;设定包装时长为将一个空包装袋填充至待包装重量所需的时间长度,设定包装时长越小,则包装效率越高,设定包装时长也可由实施者依据具体包装需求进行设定。
如此,确定一次计量包装过程中的物料种类、待包装重量和设定包装时长,所述物料种类能够反映物料颗粒的大小,所述待包装重量能够反映一个空包装袋中需要装填的物料重量,所述设定包装时长能够反映计量包装的效率。
S102,采集当前时刻的包装状态,所述包装状态包括给料口尺寸、包装差值重量和剩余包装时间,所述包装差值重量为所述待包装重量与包装实时重量之间的差值,所述剩余包装时间为所述设定包装时长与已包装时长之间的差值。
在一个实施例中,在计量包装过程中,采集当前时刻的包装状态,所述包装状态为3行1列的向量,所述包装状态包括给料口尺寸、包装差值重量和剩余包装时间。
其中,包装状态中的给料口尺寸用于反映待包装物料在当前时刻的给料速度;需要说明地,由于不同物料种类的颗粒尺寸不同,故相同给料口尺寸下,不同物料种类的给料速度不同。
其中,包装状态中的包装差值重量用于反映还需要往包装袋中填充的重量,所述包装差值重量为所述待包装重量与包装实时重量之间的差值,所述包装实时重量为当前时刻包装袋中物料的实时重量。
其中,包装状态中的剩余包装时间用于反映完成当前次计量包装过程的剩余时间,所述剩余包装时间为所述设定包装时长与已包装时长之间的差值,其中已包装时长为当前次计量包装过程的起始时刻与当前时刻之间的时间长度。
如此,得到当前时刻的包装状态,所述包装状态能够反映当前时刻的给料速度、还需要填充的物料重量以及当前次计量包装过程的剩余时间,后续可依据当前时刻的包装状态调节给料口尺寸,进而确保能够在设定包装时长内将空包装袋填充至待包装重量。
S103,将所述包装状态输入所述物料种类对应的强化学习模型以获取未来给料口尺寸,并将所述给料口尺寸调节至所述未来给料口尺寸,所述未来给料口尺寸为所述当前时刻下一个相邻时刻的给料口尺寸。
在一个实施例中,将当前时刻的包装状态输入所述物料种类对应的强化学习模型,强化学习模型输出未来给料口尺寸,所述未来给料口尺寸为当前时刻下一个相邻时刻的给料口尺寸;将当前时刻下一个相邻时刻的给料口尺寸调节至未来给料口尺寸,能够通过调节给料口尺寸控制给料速度,以确保能够在设定包装时长内将空包装袋填充至待包装重量。
由于不同物料对应的颗粒尺寸不同,使得未来给料口尺寸存在差异,为了提高计量包装结果的准确性,准确预测每次计量包装过程中的未来给料口尺寸,一个物料种类对应一个强化学习模型。
在一个实施例中,所述强化学习模型为DQN网络,所述DQN网络的输入为计量包装过程中任意时刻的包装状态,输出为所述任意时刻下一个相邻时刻多种给料口设定尺寸的奖励值,并将最大奖励值对应的给料口设定尺寸作为未来给料口尺寸。
其中,所述预测奖励值用于反映将所述任意时刻下一个相邻时刻的给料口尺寸调节至所述未来给料口尺寸后,计量包装过程的尺寸变化平稳度和计量准确度。
其中,DQN网络(Deep Q-Network)是一种深度强化学习网络。
其中,所述多种给料口设定尺寸为预先设定的给料口尺寸,且任意相邻两种给料口设定尺寸之间的尺寸偏差相等。
如此,依据强化学习模型能够依据当前时刻的包装状态准确预测下一个相邻时刻的给料口尺寸,进而实现计量包装过程中给料口尺寸的精准控制。
S104,迭代地调节给料口尺寸,直至给料口尺寸为0时或所述设定包装时长结束时,停止进料,完成一次计量包装过程。
在一个实施例中,按照步骤S103的方法在计量包装过程中不断调节给料口尺寸,当给料口尺寸为0时或所述设定包装时长结束时,停止进料,完成了一次计量包装过程,此时,能够在设定包装时长内将空包装袋填充至待包装重量。
在一个实施例中,计量包装过程中,强化学习模型输出结果的准确性直接影响计量包装结果的准确性。为了使得强化学习模型能够准确输出未来给料口尺寸,确保在设定包装时长内将空包装袋填充至待包装重量,需要在完成一次对应物料种类的计量包装过程后,更新强化学习模型,以在下一次计量包装过程中,利用更新后的强化学习模型调节给料口尺寸。
具体地,如图2所示,图2是根据本申请实施例的强化学习模型的更新方法的流程图。所述强化学习模型的更新方法200包括:S201,在一次计量包装过程中,对于任意一个未来给料口尺寸,响应于给料口尺寸调节至所述未来给料口尺寸时,得到所述未来给料口尺寸对应的调节时刻;S202,采集未来包装状态、给料口尺寸曲线和包装实时重量曲线,其中所述给料口尺寸曲线包括所述调节时刻至设定包装时长之间每个时刻的给料口尺寸,所述包装实时重量曲线包括所述调节时刻至设定包装时长之间每个时刻的包装实时重量,所述未来包装状态为所述调节时刻的包装状态;S203,基于所述给料口尺寸曲线计算尺寸变化平稳度,基于所述包装实时重量曲线计算计量准确度,依据预设权重对所述尺寸变化平稳度和所述计量准确度进行加权求和以获取实际奖励值;S204,将所述未来包装状态输入所述强化学习模型,以获取所述未来包装状态的多个预测奖励值,并选取所述未来包装状态的多个预测奖励值中的最大值作为所述未来给料口尺寸的未来奖励值;S205,基于所述实际奖励值、所述未来给料口尺寸的未来奖励值和预测奖励值计算损失函数值,依据所述损失函数值,利用反向传播算法更新所述强化学习模型;S206,依据所述计量包装过程中的多个未来给料口尺寸对所述强化学习模型进行多次更新。
其中,一个未来给料口尺寸对应一个预测奖励值,所述预测奖励值为在包装状态下强化学习模型输出的最大奖励值;所述实际奖励值为在包装状态下将给料口尺寸调节至未来给料口尺寸后真实采集到的实际奖励;所述未来奖励值为在未来包装状态下强化学习模型输出的最大奖励值;所述损失函数值满足关系式:
其中,为所述未来给料口尺寸的预测奖励值,/>为所述实际奖励值,/>为所述未来给料口尺寸的未来奖励值,/>为预设增益系数,/>为损失函数值。其中,所述预设增益系数的取值为0.3,损失函数值用于约束强化学习模型输出的预测奖励值/>等于实际奖励值和未来奖励值的加权(即/>)。
在一个实施例中,所述给料口尺寸曲线用于反映在一次计量包装过程中,将所述给料口尺寸调节至所述未来给料口尺寸后,给料口尺寸随时间的变化情况;所述给料口尺寸曲线用于反映在一次计量包装过程中,将所述给料口尺寸调节至所述未来给料口尺寸后,包装实时重量随时间的变化情况。
具体地,基于所述给料口尺寸曲线计算尺寸变化平稳度包括:对于所述给料口尺寸曲线中的一个时刻,将所述时刻的给料口尺寸减去所述时刻上一个相邻时刻的给料口尺寸,得到所述时刻的变化幅度;获取所述给料口尺寸曲线中所有时刻的变化幅度,计算所有时刻的变化幅度对应的变化幅度方差;依据变化幅度最大值以及所述变化幅度方差计算尺寸变化平稳度,所述尺寸变化平稳度满足关系式:
其中,为变化幅度最大值,/>为所述变化幅度方差,/>为变化幅度预设阈值,为所述尺寸变化平稳度。
其中,变化幅度预设阈值为任意相邻两种给料口设定尺寸之间的尺寸偏差。
可以理解地,尺寸变化平稳度能够反映一次计量包装过程中,将给料口尺寸调节至所述未来给料口尺寸后,给料口尺寸的最大变化幅度和变化幅度的稳定程度;所述变化幅度最大值与所述尺寸变化平稳度呈负相关,所述变化幅度方差与所述尺寸变化平稳度同样呈负相关。若给料口尺寸的最大变化幅度较大,表示进料设备的给料口尺寸出现了突变的情况;变化幅度方差越大,表示变化幅度越不稳定,会出现变化幅度忽高忽低的情况,上述两种情况均会导致进料设备的给料口尺寸出现不规则变化,容易造成进料设备的损坏,影响进料设备的使用寿命。
在一个实施例中,基于所述包装实时重量曲线计算计量准确度包括:获取所述包装实时重量曲线中所述设定包装时长的结束时刻对应的包装实时重量;基于所述包装实时重量与所述待包装重量之间的差值绝对值计算计量准确度;所述计量准确度满足关系式:
其中,为所述包装实时重量,/>为所述待包装重量,/>为所述计量准确度。
在一个实施例中,依据预设权重对所述尺寸变化平稳度和所述计量准确度进行加权求和以获取实际奖励值,所述实际奖励值满足关系式:
其中,为所述尺寸变化平稳度,/>为所述计量准确度,/>和/>分别为第一预设权重和第二预设权重,且满足关系式/>,/>为实际奖励值。
可以理解地,通过尺寸变化平稳度和计量准确度计算实际奖励值,并依据实际奖励值和未来奖励值/>对强化学习模型输出的预测奖励值/>进行约束;确保在设定包装时长内将空包装袋填充至待包装重量的同时,避免进料口尺寸变化不规则造成进料设备的损坏,影响进料设备的使用寿命。
在一个实施例中,完成一次计量包装过程后对强化学习模型进行更新,随着计量包装过程的次数越来越多,强化学习模型输出越来越准确,为了减少不必要的更新过程,在完成一次计量包装过程后,需要判断是否需要更新强化学习模型。具体地,在迭代地调节给料口尺寸,直至给料口尺寸为0时停止进料,完成一次计量包装过程之后,所述计量包装方法还包括:依据所述计量包装过程中所有时刻的给料口尺寸和包装实时重量分别绘制给料口尺寸全程曲线和包装实时重量全程曲线;基于所述给料口尺寸全程曲线计算全程尺寸变化平稳度,基于所述包装实时重量全程曲线计算全程计量准确度,依据预设权重对所述全程尺寸变化平稳度和所述全程计量准确度进行加权求和以获取全程奖励值;响应于所述全程奖励值大于设定奖励阈值,不更新所述强化学习模型,响应于所述全程奖励值不大于所述设定奖励阈值,更新所述强化学习模型。
其中,“基于所述给料口尺寸全程曲线计算全程尺寸变化平稳度,基于所述包装实时重量全程曲线计算全程计量准确度,依据预设权重对所述全程尺寸变化平稳度和所述全程计量准确度进行加权求和以获取全程奖励值”的实施过程与“基于所述给料口尺寸曲线计算尺寸变化平稳度,基于所述包装实时重量曲线计算计量准确度,依据预设权重对所述尺寸变化平稳度和所述计量准确度进行加权求和以获取实际奖励值”的实施过程相同,在此不再赘述。
其中,所述全程奖励值的最大值为1,所述设定奖励阈值的取值为0.85。响应于所述全程奖励值大于设定奖励阈值,表示该次计量包装过程满足标准要求,强化学习模型的输出能够准确控制计量包装过程,无需对强化学习模型进行更新。
以上通过具体实施例介绍了本申请的智能计量包装方法的技术原理和实施细节。通过本申请提供的技术方案,采集计量包装过程中当前时刻的包装状态,包装状态包括当前时刻的给料口尺寸、包装差值重量和剩余包装时间;将当前时刻的包装状态输入强化学习模型中,输出当前时刻下一个相邻时刻的给料口尺寸,进而实现给料口尺寸的调节;在计量包装过程中,迭代地调节给料口尺寸,直至给料口尺寸为0时或设定包装时长结束时,停止进料,完成一次计量包装过程;通过强化学习模型对计量包装过程中每一时刻的进料口尺寸进行调节,提高了计量包装结果的准确性。
根据本申请的第二方面,本申请还提供了一种智能计量包装装置。图3是根据本申请实施例的智能计量包装装置的框图。如图3所示,所述装置50包括处理器和存储器,所述存储器存储有计算机程序指令,当所述计算机程序指令被所述处理器执行时实现根据本申请第一方面所述的一种智能计量包装方法。所述装置还包括通信总线和通信接口等本领域技术人员熟知的其他组件,其设置和功能为本领域中已知,因此在此不再赘述。
在本申请中,前述的存储器可以是任何包含或存储程序的有形介质,该程序可以被指令执行装置、装置或者器件使用或者与其结合使用。例如,计算机可读存储介质可以是任何适当的磁存储介质或者磁光存储介质,比如,阻变式存储器RRAM(Resistive RandomAccess Memory)、动态随机存取存储器DRAM(Dynamic Random Access Memory)、静态随机存取存储器SRAM(Static Random-Access Memory)、增强动态随机存取存储器EDRAM(Enhanced Dynamic Random Access Memory)、高带宽内存HBM(High-Bandwidth Memory)、混合存储立方HMC(Hybrid Memory Cube)等等,或者可以用于存储所需信息并且可以由应用程序、模块或两者访问的任何其他介质。任何这样的计算机存储介质可以是设备的一部分或可访问或可连接到设备。本申请描述的任何应用或模块可以使用可以由这样的计算机可读介质存储或以其他方式保持的计算机可读/可执行指令来实现。
以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。

Claims (7)

1.一种智能计量包装方法,其特征在于,用于在计量包装过程中调节进料设备的给料口尺寸,所述计量包装方法包括:
获取待包装重量、设定包装时长和待包装物料的物料种类,一种物料种类对应一种颗粒尺寸;
采集当前时刻的包装状态,所述包装状态包括给料口尺寸、包装差值重量和剩余包装时间,所述包装差值重量为所述待包装重量与包装实时重量之间的差值,所述剩余包装时间为所述设定包装时长与已包装时长之间的差值;
将所述包装状态输入所述物料种类对应的强化学习模型以获取未来给料口尺寸,并将所述给料口尺寸调节至所述未来给料口尺寸,所述未来给料口尺寸为所述当前时刻下一个相邻时刻的给料口尺寸;
迭代地调节给料口尺寸,直至给料口尺寸为0时或所述设定包装时长结束时,停止进料,完成一次计量包装过程;
其中,所述强化学习模型为DQN网络,所述DQN网络的输入为计量包装过程中任意时刻的包装状态,输出为所述任意时刻下一个相邻时刻多种给料口设定尺寸的预测奖励值,并将预测奖励值最大值对应的给料口设定尺寸作为未来给料口尺寸。
2.根据权利要求1所述的一种智能计量包装方法,其特征在于,所述强化学习模型的更新方法包括:
在一次计量包装过程中,对于任意一个未来给料口尺寸,响应于给料口尺寸调节至所述未来给料口尺寸时,得到所述未来给料口尺寸对应的调节时刻;
采集未来包装状态、给料口尺寸曲线和包装实时重量曲线,其中所述给料口尺寸曲线包括所述调节时刻至设定包装时长之间每个时刻的给料口尺寸,所述包装实时重量曲线包括所述调节时刻至设定包装时长之间每个时刻的包装实时重量,所述未来包装状态为所述调节时刻的包装状态;
基于所述给料口尺寸曲线计算尺寸变化平稳度,基于所述包装实时重量曲线计算计量准确度,依据预设权重对所述尺寸变化平稳度和所述计量准确度进行加权求和以获取实际奖励值;
将所述未来包装状态输入所述强化学习模型,以获取所述未来包装状态的多个预测奖励值,并选取所述未来包装状态的多个预测奖励值中的最大值作为所述未来给料口尺寸的未来奖励值;
基于所述实际奖励值、所述未来给料口尺寸的未来奖励值和预测奖励值计算损失函数值,依据所述损失函数值,利用反向传播算法更新所述强化学习模型;
依据所述计量包装过程中的多个未来给料口尺寸对所述强化学习模型进行多次更新;
所述损失函数值满足关系式:
其中,为所述未来给料口尺寸的预测奖励值,/>为所述实际奖励值,/>为所述未来给料口尺寸的未来奖励值,/>为预设增益系数,/>为损失函数值。
3.根据权利要求2所述的一种智能计量包装方法,其特征在于,基于所述给料口尺寸曲线计算尺寸变化平稳度包括:
对于所述给料口尺寸曲线中的一个时刻,将所述时刻的给料口尺寸减去所述时刻上一个相邻时刻的给料口尺寸,得到所述时刻的变化幅度;
获取所述给料口尺寸曲线中所有时刻的变化幅度,计算所有时刻的变化幅度对应的变化幅度方差;
依据变化幅度最大值以及所述变化幅度方差计算尺寸变化平稳度,所述尺寸变化平稳度满足关系式:
其中,为变化幅度最大值,/>为所述变化幅度方差,/>为变化幅度预设阈值,/>为所述尺寸变化平稳度。
4.根据权利要求3所述的一种智能计量包装方法,其特征在于,基于所述包装实时重量曲线计算计量准确度包括:
获取所述包装实时重量曲线中所述设定包装时长的结束时刻对应的包装实时重量;
基于所述包装实时重量与所述待包装重量之间的差值绝对值计算计量准确度;
所述计量准确度满足关系式:
其中,为所述包装实时重量,/>为所述待包装重量,/>为所述计量准确度。
5.根据权利要求4所述的一种智能计量包装方法,其特征在于,所述实际奖励值满足关系式:
其中,为所述尺寸变化平稳度,/>为所述计量准确度,/>和/>分别为第一预设权重和第二预设权重,且满足关系式/>,/>为实际奖励值。
6.根据权利要求1至5任意一项所述的一种智能计量包装方法,其特征在于,在迭代地调节给料口尺寸,直至给料口尺寸为0时停止进料,完成一次计量包装过程之后,所述计量包装方法还包括:
依据所述计量包装过程中所有时刻的给料口尺寸和包装实时重量分别绘制给料口尺寸全程曲线和包装实时重量全程曲线;
基于所述给料口尺寸全程曲线计算全程尺寸变化平稳度,基于所述包装实时重量全程曲线计算全程计量准确度,依据预设权重对所述全程尺寸变化平稳度和所述全程计量准确度进行加权求和以获取全程奖励值;
响应于所述全程奖励值大于设定奖励阈值,不更新所述强化学习模型,响应于所述全程奖励值不大于所述设定奖励阈值,更新所述强化学习模型。
7.一种智能计量包装装置,其特征在于,包括处理器和存储器,所述存储器存储有计算机程序指令,当所述计算机程序指令被所述处理器执行时实现根据权利要求1至6中任一项所述的一种智能计量包装方法。
CN202410001900.1A 2024-01-02 2024-01-02 一种智能计量包装方法及装置 Active CN117485639B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202410001900.1A CN117485639B (zh) 2024-01-02 2024-01-02 一种智能计量包装方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202410001900.1A CN117485639B (zh) 2024-01-02 2024-01-02 一种智能计量包装方法及装置

Publications (2)

Publication Number Publication Date
CN117485639A true CN117485639A (zh) 2024-02-02
CN117485639B CN117485639B (zh) 2024-04-12

Family

ID=89671271

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202410001900.1A Active CN117485639B (zh) 2024-01-02 2024-01-02 一种智能计量包装方法及装置

Country Status (1)

Country Link
CN (1) CN117485639B (zh)

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4840240A (en) * 1987-01-26 1989-06-20 Yamato Scale Company, Limited Weighing and packing device
US6285918B1 (en) * 1998-08-04 2001-09-04 Ishida Co., Ltd. Weighing and packaging system
JP2007084100A (ja) * 2005-09-21 2007-04-05 Ishida Co Ltd 計量包装装置及び計量包装システム
JP2008175718A (ja) * 2007-01-19 2008-07-31 Katsuzo Kawanishi 計量包装システムとそれに用いられる計量機及び包装機
CN101261147A (zh) * 2008-04-15 2008-09-10 中国计量学院 基于模型化测量和动态重量变化率预测的动态称重方法
JP2011002353A (ja) * 2009-06-19 2011-01-06 Yamato Scale Co Ltd 計量包装システム
CN206327592U (zh) * 2016-12-06 2017-07-14 新疆汇谱农业发展有限责任公司 一种包装机械中自动定量计量系统
CN107673083A (zh) * 2017-09-19 2018-02-09 中国计量大学 基于变速率学习的螺杆式物料下料装置及其控制器
CN110949706A (zh) * 2019-11-26 2020-04-03 无锡市瑞利技术开发有限公司 自动定量包装秤的工作参数自动整定优化方法
CN112849578A (zh) * 2019-11-28 2021-05-28 无锡市瑞利技术开发有限公司 具有堵料排除功能的自动定量包装秤及其给料控制方法
CN116424807A (zh) * 2023-05-06 2023-07-14 滁州市伟博电气有限公司 定量给料控制系统及其方法
CN117208334A (zh) * 2023-10-23 2023-12-12 厦门京联闽科技有限公司 混凝土智能灌装控制系统及方法

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4840240A (en) * 1987-01-26 1989-06-20 Yamato Scale Company, Limited Weighing and packing device
US6285918B1 (en) * 1998-08-04 2001-09-04 Ishida Co., Ltd. Weighing and packaging system
JP2007084100A (ja) * 2005-09-21 2007-04-05 Ishida Co Ltd 計量包装装置及び計量包装システム
JP2008175718A (ja) * 2007-01-19 2008-07-31 Katsuzo Kawanishi 計量包装システムとそれに用いられる計量機及び包装機
CN101261147A (zh) * 2008-04-15 2008-09-10 中国计量学院 基于模型化测量和动态重量变化率预测的动态称重方法
JP2011002353A (ja) * 2009-06-19 2011-01-06 Yamato Scale Co Ltd 計量包装システム
CN206327592U (zh) * 2016-12-06 2017-07-14 新疆汇谱农业发展有限责任公司 一种包装机械中自动定量计量系统
CN107673083A (zh) * 2017-09-19 2018-02-09 中国计量大学 基于变速率学习的螺杆式物料下料装置及其控制器
CN110949706A (zh) * 2019-11-26 2020-04-03 无锡市瑞利技术开发有限公司 自动定量包装秤的工作参数自动整定优化方法
CN112849578A (zh) * 2019-11-28 2021-05-28 无锡市瑞利技术开发有限公司 具有堵料排除功能的自动定量包装秤及其给料控制方法
CN116424807A (zh) * 2023-05-06 2023-07-14 滁州市伟博电气有限公司 定量给料控制系统及其方法
CN117208334A (zh) * 2023-10-23 2023-12-12 厦门京联闽科技有限公司 混凝土智能灌装控制系统及方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
白瑞林, 严新忠, 李军: "基于模糊神经网络技术的定量秤研究", 计量学报, no. 02, 22 April 2004 (2004-04-22) *
蔡艳;吕金华;: "装料速度对定量包装秤准确度的影响", 中国计量, no. 05, 10 May 2020 (2020-05-10) *

Also Published As

Publication number Publication date
CN117485639B (zh) 2024-04-12

Similar Documents

Publication Publication Date Title
KR102476166B1 (ko) 배터리의 하전 상태 보정 방법, 장치, 시스템 및 저장 매체
CN106708621A (zh) 一种获得应用集群容量的方法和装置
CN108335715A (zh) 非易失性存储器件及其操作方法
US10990295B2 (en) Write level optimization for non-volatile memory
CN117485639B (zh) 一种智能计量包装方法及装置
CN112749810A (zh) 模型训练方法、控制参数确定方法及装置
CN113189529A (zh) 电流传感器的校准方法和装置
CN110336535A (zh) 一种晶体振荡器校准方法、装置、终端设备及存储介质
CN103425437B (zh) 初始写入地址选择方法和装置
TWI778789B (zh) 配方建構系統、配方建構方法、內儲程式之電腦可讀取記錄媒體與非暫時性電腦程式產品
CN108648782B (zh) 相变存储器最优脉冲操作条件的筛选方法
CN114066255A (zh) 针对危废液的存储监控方法及相关产品
CN108958658A (zh) 一种目标数据的获取方法及装置
CN113937783A (zh) 基于模型预测控制的风电场无功电压协调控制方法和装置
CN118011074B (zh) 台区电压波动的监测方法、装置、系统和存储介质
CN113470762B (zh) 一种混凝土配方生成方法
CN117786464B (zh) 一种电热恒温培养箱的异常预警方法及系统
CN116469445B (zh) 基于智能体的闪存可靠性动态侦测方法、系统及电子设备
CN110634525B (zh) 一种非易失存储器处理方法及装置
CN114285098B (zh) 功率控制方法、功率控制系统和可读存储介质
CN110634521B (zh) 一种非易失存储器处理方法及装置
US20230194594A1 (en) Method of generating device model and computing device performing the same
CN118011074A (zh) 台区电压波动的监测方法、装置、系统和存储介质
CN116470517B (zh) 一种配变电压优化方法、计算设备及存储介质
CN110634527B (zh) 一种非易失存储器处理方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant