CN114072811A - 学习装置、学习装置的动作方法、学习装置的动作程序及运用装置 - Google Patents

学习装置、学习装置的动作方法、学习装置的动作程序及运用装置 Download PDF

Info

Publication number
CN114072811A
CN114072811A CN202080045879.5A CN202080045879A CN114072811A CN 114072811 A CN114072811 A CN 114072811A CN 202080045879 A CN202080045879 A CN 202080045879A CN 114072811 A CN114072811 A CN 114072811A
Authority
CN
China
Prior art keywords
data
learning
physical property
unit
product
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080045879.5A
Other languages
English (en)
Inventor
长谷川昌孝
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of CN114072811A publication Critical patent/CN114072811A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00—Programme-control systems
    • G05B19/02—Programme-control systems electric
    • G05B19/418—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
    • G05B19/4183—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM] characterised by data acquisition, e.g. workpiece identification
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B17/00—Systems involving the use of models or simulators of said systems
    • G05B17/02—Systems involving the use of models or simulators of said systems electric
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B01—PHYSICAL OR CHEMICAL PROCESSES OR APPARATUS IN GENERAL
    • B01J—CHEMICAL OR PHYSICAL PROCESSES, e.g. CATALYSIS OR COLLOID CHEMISTRY; THEIR RELEVANT APPARATUS
    • B01J19/00—Chemical, physical or physico-chemical processes in general; Their relevant apparatus
    • B01J19/0006—Controlling or regulating processes
    • B01J19/0013—Controlling the temperature of the process
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00—Programme-control systems
    • G05B19/02—Programme-control systems electric
    • G05B19/418—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
    • G05B19/41885—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM] characterised by modeling, simulation of the manufacturing system
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G06N20/20—Ensemble learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/01—Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B01—PHYSICAL OR CHEMICAL PROCESSES OR APPARATUS IN GENERAL
    • B01J—CHEMICAL OR PHYSICAL PROCESSES, e.g. CATALYSIS OR COLLOID CHEMISTRY; THEIR RELEVANT APPARATUS
    • B01J2219/00—Chemical, physical or physico-chemical processes in general; Their relevant apparatus
    • B01J2219/00049—Controlling or regulating processes
    • B01J2219/00051—Controlling the temperature
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B01—PHYSICAL OR CHEMICAL PROCESSES OR APPARATUS IN GENERAL
    • B01J—CHEMICAL OR PHYSICAL PROCESSES, e.g. CATALYSIS OR COLLOID CHEMISTRY; THEIR RELEVANT APPARATUS
    • B01J2219/00—Chemical, physical or physico-chemical processes in general; Their relevant apparatus
    • B01J2219/00049—Controlling or regulating processes
    • B01J2219/00191—Control algorithm
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B01—PHYSICAL OR CHEMICAL PROCESSES OR APPARATUS IN GENERAL
    • B01J—CHEMICAL OR PHYSICAL PROCESSES, e.g. CATALYSIS OR COLLOID CHEMISTRY; THEIR RELEVANT APPARATUS
    • B01J2219/00—Chemical, physical or physico-chemical processes in general; Their relevant apparatus
    • B01J2219/00049—Controlling or regulating processes
    • B01J2219/00191—Control algorithm
    • B01J2219/00222—Control algorithm taking actions
    • B01J2219/00227—Control algorithm taking actions modifying the operating conditions
    • B01J2219/00229—Control algorithm taking actions modifying the operating conditions of the reaction system
    • B01J2219/00231—Control algorithm taking actions modifying the operating conditions of the reaction system at the reactor inlet
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • G01N2021/258—Surface plasmon spectroscopy, e.g. micro- or nanoparticles in suspension
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Manufacturing & Machinery (AREA)
  • Automation & Control Theory (AREA)
  • Chemical & Material Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Quality & Reliability (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Organic Chemistry (AREA)
  • Chemical Kinetics & Catalysis (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Feedback Control In General (AREA)

Abstract

本发明提供一种在将从产品的多维物性数据导出的多维物性相关数据作为学习用输入数据而提供给机器学习模型进行学习的情况下，能够进一步提高通过机器学习模型进行的产品质量的预测精度的学习装置、学习装置的动作方法、学习装置的动作程序及运用装置。学习装置的第1导出部将自动编码器应用于多维物性数据，导出与多维物性数据相关的多维物性相关数据作为学习用输入数据。学习部将包含多维物性相关数据的学习用输入数据提供给机器学习模型进行学习，并将机器学习模型作为供实际运用的学习完毕模型进行输出。

Description

学习装置、学习装置的动作方法、学习装置的动作程序及运用 装置
技术领域
本公开的技术涉及学习装置、学习装置的动作方法、学习装置的动作程序及运用装置。
背景技术
已进行利用机器学习模型预测产品的质量。在专利文献1中提出了为了提高预测的精度，将从表示产品的物性的物性数据导出的物性相关数据作为学习用输入数据进行学习的机器学习模型。
在专利文献1中，作为产品例示了咖啡豆等饮食品。并且，在专利文献1中，作为物性数据例示了近红外(NIR；Near Infrared)光谱分析数据、傅里叶变换红外(FT-IR；Fourier Transform Infrared)光谱分析数据、核磁共振(NMR；Nuclear MagneticResonance)光谱分析数据等光谱数据、或者用照相机等拍摄产品而得到的图像数据。并且，作为物性相关数据，可以举出从光谱数据得到的数值，例如光谱的波形斜率、周期性、振幅、峰高、峰宽等。并且，作为物性相关数据，可以举出用照相机等拍摄产品而得到的图像数据本身。
以往技术文献
专利文献
专利文献1：日本特开2018-018354号公报
发明内容
发明要解决的技术课题
物性数据中，既有像产品的重量等那样用1个参数表示产品的一种物性的数据，也有像上述光谱数据、图像数据那样用多个参数表示产品的一种物性的数据。更详细而言，如果是光谱数据，则光谱是产品的物性，例如波数和强度相当于多个参数。如果是图像数据，则颜色是产品的物性，红色、绿色、蓝色的各像素值相当于多个参数。在将参数作为维度进行捕捉时，这样的物性数据可以说是多维的物性数据。与此相对，用1个参数表示产品的一种物性的物性数据可以说是一维的物性数据。以下，将用多个参数表示产品的一种物性的物性数据称为多维物性数据。并且，将从多维物性数据导出的物性相关数据称为多维物性相关数据。
如上所述，在专利文献1中，作为从多维物性数据即光谱数据导出的多维物性相关数据，例示了光谱的波形斜率、周期性、周期性、振幅、峰高、峰宽等。但是，专利文献1中例示的数值都没有全面地覆盖多维物性数据的整体特征，因此很难说是准确地表示了产品物性的数值。因此，即使将这样的数值作为学习用输入数据提供给机器学习模型进行学习，预测的精度也可能在比较低的等级上达到顶点。
本公开的技术的目的在于提供一种在将从产品的多维物性数据导出的多维物性相关数据作为学习用输入数据而提供给机器学习模型进行学习的情况下，能够进一步提高通过机器学习模型进行的产品质量的预测精度的学习装置、学习装置的动作方法、学习装置的动作程序及运用装置。
用于解决技术课题的手段
为了实现上述目的，本公开的学习装置具备：第1获取部，获取表示产品的物性的多维物性数据；导出部，从多维物性数据导出提供给预测产品的质量的机器学习模型的学习用输入数据，并且将自动编码器的至少一部分应用于多维物性数据，导出与多维物性数据相关的多维物性相关数据作为学习用输入数据；及学习部，将包含多维物性相关数据的学习用输入数据提供给机器学习模型进行学习，并将机器学习模型作为供实际的运用的学习完毕模型进行输出。
优选学习用输入数据还包含在产品的生产工序中设定的生产条件数据。
优选自动编码器被提供质量比预先设定的等级更良好的产品的多维物性数据而进行学习，导出部向自动编码器提供多维物性数据并输出输出数据，基于提供给自动编码器的多维物性数据与输出数据的差分数据导出多维物性相关数据。
优选导出部向自动编码器提供多维物性数据，从自动编码器的编码器网络输出特征数据，基于特征数据导出多维物性相关数据。
优选多维物性数据包含由对产品进行光谱分析而检测出的光谱数据表示的光谱的图像数据。
优选导出部针对划分了光谱数据的多个区间中的每一个区间，导出多维物性相关数据。
优选多维物性数据包含拍摄产品而得到的图像数据。
优选产品利用流动合成法生产。
本公开的运用装置具备：第2获取部，获取从学习装置的学习部输出的学习完毕模型；第3获取部，获取质量未知的产品的预测用多维物性相关数据；处理部，向在第2获取部获取的学习完毕模型提供在第3获取部获取的、质量未知的产品的预测用多维物性相关数据，来预测质量；及输出控制部，进行将通过学习完毕模型进行的质量的预测结果输出的控制。
本公开的学习装置的动作方法具备：第1获取步骤，获取表示产品的物性的多维物性数据；导出步骤，从多维物性数据导出提供给预测产品的质量的机器学习模型的学习用输入数据，并且将自动编码器的至少一部分应用于多维物性数据，导出与多维物性数据相关的多维物性相关数据作为学习用输入数据；及学习步骤，将包含多维物性相关数据的学习用输入数据提供给机器学习模型进行学习，并将机器学习模型作为供实际的运用的学习完毕模型进行输出。
本公开的学习装置的动作程序，其使计算机作为第1获取部、导出部及学习部发挥作用，其中，第1获取部，获取表示产品的物性的多维物性数据；导出部，从多维物性数据导出提供给预测产品的质量的机器学习模型的学习用输入数据，并且将自动编码器的至少一部分应用于多维物性数据，导出与多维物性数据相关的多维物性相关数据作为学习用输入数据；学习部，将包含多维物性相关数据的学习用输入数据提供给机器学习模型进行学习，并将机器学习模型作为供实际的运用的学习完毕模型进行输出。
发明效果
根据本公开的技术，能够提供一种在将从产品的多维物性数据导出的多维物性相关数据作为学习用输入数据而提供给机器学习模型进行学习的情况下，能够进一步提高通过机器学习模型进行的产品质量的预测精度的学习装置、学习装置的动作方法、学习装置的动作程序及运用装置。
附图说明
图1是表示机器学习系统、流动反应装置、物性分析装置、质量评价装置的图。
图2是表示流动反应装置、物性分析装置和质量评价装置中的处理的概要的图。
图3是表示学习装置和运用装置中的处理的概要的图。
图4是表示生产条件数据、物性数据、相关数据及质量数据以共同ID相关联的图。
图5是表示具有包含T字形状合流部的反应区段的流动反应装置的图。
图6是表示具有包含十字形状合流部的反应区段的流动反应装置的图。
图7是表示生产条件数据的图。
图8是表示光谱数据和光谱的图。
图9是表示质量数据的图。
图10是表示构成学习装置和运用装置的计算机的框图。
图11是表示学习装置的CPU的处理部的框图。
图12是表示自动编码器的图。
图13是卷积处理的说明图。
图14是表示图像特征图的图。
图15是表示针对光谱数据的多个区间中的每一个区间准备自动编码器的图。
图16是表示将质量比预先设定的等级更良好的产品的光谱图像数据提供给自动编码器作为学习用输入图像数据进行学习的情形的图。
图17是表示计算自动编码器的输入图像数据与输出图像数据之间的差分数据的情形的图。
图18是表示通过第1导出部针对划分了光谱数据的多个区间中的每一个区间导出差分数据的平均值和总和作为相关数据的情形的图。
图19是表示学习部的详细情况的图。
图20是表示第1处理部的处理的图。
图21是表示运用装置的CPU的处理部的框图。
图22是表示第2处理部的处理的图。
图23是表示质量预测显示画面的图。
图24是表示学习装置的处理顺序的流程图。
图25是表示学习装置的处理顺序的流程图。
图26是表示运用装置的处理顺序的流程图。
图27是表示比较例和实施例的分子量分散度的决定系数及分子量的决定系数的表。
图28是表示比较例2的相关数据的图。
图29是表示图像数据的图。
图30是表示划分了图像数据的多个区域的图。
图31是表示通过第1导出部针对划分了图像数据的多个区域中的每一个区域导出相关数据的情形的图。
图32是表示根据图像特征图导出相关数据的情形的图。
图33是表示第4实施方式的学习装置的CPU的处理部的框图。
图34是表示临时学习中的第1处理部的处理的图。
图35是表示提取部的详细情况的图。
图36是表示第3处理部的处理的图。
图37是表示第4处理部的处理的图。
图38是表示计算部的处理的图。
图39是表示计算部的处理的具体例的图。
图40是表示贡献度信息的图。
图41是表示判定部的处理的图。
图42是表示正式学习中的第1处理部的处理的图。
图43是表示第4实施方式的学习装置的处理顺序的流程图。
图44是表示第4实施方式的运用装置的CPU的处理部的框图。
图45是表示第2处理部的处理的图。
具体实施方式
[第1实施方式]
图1中，机器学习系统2具备学习装置10及运用装置11。学习装置10及运用装置11例如是桌面型个人计算机。学习装置10及运用装置11经由网络12相互可通信地连接。网络12例如是LAN(局域网：Local Area Network)或互联网、公共通信网等WAN(广域网：WideArea Network)。网络12还连接有流动反应装置13、物性分析装置14及质量评价装置15。
图2中，流动反应装置13通过流动合成法，按照生产工序中的生产条件数据PCD，由原料RM生产产品PR。物性分析装置14分析产品PR的物性，并输出其分析结果即物性数据PD。质量评价装置15评价产品PR的质量，并输出其评价结果即质量数据QD。分别从流动反应装置13向学习装置10发送生产条件数据PCD，从物性分析装置14向学习装置10发送物性数据PD，从质量评价装置15向学习装置10发送质量数据QD。
图3中，学习装置10获取来自流动反应装置13的生产条件数据PCD、来自物性分析装置14的物性数据PD及来自质量评价装置15的质量数据QD。学习装置10从物性数据PD导出物性相关数据(以下，简称为相关数据)PRD。由该相关数据PRD和生产条件数据PCD构成学习用输入数据IDL。如图4所示，生产条件数据PCD、物性数据PD、从物性数据PD导出的相关数据PRD及质量数据QD与赋有1个产品PR的共同的ID(识别数据：Identification Data)相关联。
学习装置10具有机器学习模型M。机器学习模型M是用于预测产品PR的质量的模型。为了提高该机器学习模型M的预测精度，学习装置10将由赋有相同ID的生产条件数据PCD和相关数据PRD构成的学习用输入数据IDL提供给机器学习模型M(参考图20)。机器学习模型M输出与学习用输入数据IDL相应的学习用输出数据ODL。
质量数据QD是用于与学习用输出数据ODL进行答复的数据。机器学习模型M的预测精度越高，质量数据QD与学习用输出数据OD之间的差异越小。因此，学习装置10将学习用输出数据ODL与赋有和学习用输入数据IDL相同ID的质量数据QD进行比较，来评价机器学习模型M的预测精度。然后，根据该评价结果，更新机器学习模型M。学习装置10一边变更学习用输入数据IDL和质量数据QD，一边进行学习用输入数据IDL向机器学习模型M的输入和学习用输出数据ODL从机器学习模型M的输出、机器学习模型M的预测精度的评价、及机器学习模型M的更新。然后，重复这一系列处理，直至机器学习模型M的预测精度达到预先设定的等级。学习装置10将预测精度达到预先设定的等级的机器学习模型M作为供实际运用的学习完毕模型TM发送到运用装置11。
运用装置11接收来自学习装置10的学习完毕模型TM。运用装置11将质量未知的产品PR的生产条件数据即预测用生产条件数据PCDF、及质量未知的产品PR的相关数据即预测用物性相关数据(以下，简称为预测用相关数据)PRDF提供给学习完毕模型TM。与相关数据PRD同样地，预测用相关数据PRDF是从质量未知的产品PR的物性数据PD即预测用物性数据PDF(参考图21)导出的数据。学习完毕模型TM输出与这些预测用生产条件数据PCDF和预测用相关数据PRDF相应的质量预测数据QFD。
在流动反应装置13中进行的流动反应是合成单体的合成反应、或者通过使单体彼此反应而生成聚合物的聚合反应等。因此，产品PR也可以是例如成为聚合反应对象的生长阶段的化合物。在本例中，流动反应装置13通过流动反应进行作为产品PR的聚苯乙烯的阴离子聚合反应。
图5中，流动反应装置13具备第1原料供给部20、第2原料供给部21、反应区段22、温度调节部23、回收废弃段24、设定部25、系统控制器26等。
第1原料供给部20通过未图示的配管与反应区段22的上游侧端部连接。第1原料供给部20将第1原料RM1供给到反应区段22。第1原料供给部20具有用于将第1原料RM1输送到反应区段22的泵。通过控制该泵的转速，调节从第1原料供给部20输送到反应区段22的第1原料RM1的流量。
本例中，第1原料RM1是溶剂中溶解有聚苯乙烯锂的溶液。聚苯乙烯锂作为产品PR即聚苯乙烯的阴离子聚合反应的引发剂发挥作用。溶剂使用四氢呋喃。并且，溶液中混合有少量甲苯和己烷。另外，流动反应的原料可以是如第1原料RM1那样的聚苯乙烯锂等反应物与其他物质的混合物，也可以仅由反应物构成。
第2原料供给部21与第1原料供给部20相同，通过未图示的配管与反应区段22的上游侧端部连接。第2原料供给部21将第2原料RM2供给到反应区段22。第2原料供给部21也与第1原料供给部20相同，具有用于将第2原料RM2输送到反应区段22的泵。通过控制该泵的转速，调节从第2原料供给部21输送到反应区段22的第2原料RM2的流量。
本例中，第2原料RM2是甲醇水溶液。甲醇被用作阴离子聚合反应的停止剂。
反应区段22是用于进行流动反应(本例中为阴离子聚合反应)的区段。反应区段22具有合流部30和反应部31。合流部30由第1管部32、第2管部33及第3管部34构成。第1管部32与第2管部33直线状连接，第3管部34分别与第1管部32、第2管部33垂直相交。即，合流部30呈T字形状。
第1管部32与第1原料供给部20连接，第2管部33与第2原料供给部21连接。并且，第3管部34与反应部31连接。分别从第1原料供给部20向第1管部32供给第1原料RM1，从第2原料供给部21向第2管部33供给第2原料RM2。并且，第1原料RM1与第2原料RM2在第3管部34中合流，并以混合的状态输送到反应部31。
第1管部32设置有第1流速传感器35，其检测通过第1管部32的第1原料RM1的流速。并且，第2管部33设置有第2流速传感器36，其检测通过第2管部33的第2原料RM2的流速。而且，第3管部34设置有第3流速传感器37，其检测通过第3管部34的第1原料RM1与第2原料RM2的混合物的流速。
反应部31是将多根相同内径的直管直线状连接而成的细长管。反应部31能够通过改变所连接直管的根数和/或直管的长度来改变长度L。并且，反应部31能够通过改变所连接直管的内径来改变内径Φ。
反应部31的内部是第1原料RM1与第2原料RM2的混合物流动的流路，是进行流动反应的场所。混合物通过反应部31，从而进行流动反应，成为聚苯乙烯溶液。在合流部30的第3管部34也进行一些流动反应，但相对于反应部31的长度L，第3管部34的长度非常短。因此，忽略第3管部34，将反应部31的长度L视为进行流动反应时的长度即反应路长。同样地，将反应部31的内径Φ视为进行流动反应时的直径即反应路径。
温度调节部23包含加热器和/或冷却器，调节反应部31的内部的温度(以下，称为反应温度)。反应部31的下游侧端部设置有检测反应温度的温度传感器38。
回收废弃段24是回收产品PR即聚苯乙烯，且将反应失败的废弃物进行废弃的区段。回收废弃段24具有回收部40和废弃部41。回收部40和废弃部41通过三通阀42与反应部31的下游侧端部连接。通过该三通阀42，能够切换连接反应部31与回收部40的回收线路、及连接反应部31与废弃部41的废弃线路。
回收部40从聚苯乙烯溶液析出聚苯乙烯。回收部40从溶液中过滤所析出的聚苯乙烯来提取。然后，将所提取的聚苯乙烯干燥。更详细而言，回收部40具有具备搅拌机的容器，在该容器中收容甲醇，并在搅拌的甲醇中混入聚苯乙烯溶液，从而析出聚苯乙烯。并且，回收部40具有带减压功能的恒温槽，将恒温槽内部设为减压状态进行加热，从而干燥甲醇。
废弃部41是储存废弃物的罐。在此，废弃物是指在第1原料RM1的流速、第2原料RM2的流速、混合物的流速、反应温度等因某种原因紊乱，无法按照当初预定的生产条件生产的情况下，从反应部31输送的废弃物。
设定部25接受通过流动反应装置13的操作者进行的产品PR的生产工序中的生产条件的设定。由该设定部25接受的生产条件作为在产品PR的生产工序中设定的生产条件数据PCD登记到系统控制器26。
系统控制器26集中控制流动反应装置13的整体动作。系统控制器26分别与第1原料供给部20、第2原料供给部21、温度调节部23、第1流速传感器35、第2流速传感器36、第3流速传感器37、温度传感器38及三通阀42连接。
系统控制器26根据第1流速传感器35检测出的第1原料RM1的流速，控制第1原料供给部20的泵的转速，并调节第1原料RM1的流量。同样地，系统控制器26根据第2流速传感器36检测出的第2原料RM2的流速，控制第2原料供给部21的泵的转速，并调节第2原料RM2的流量。并且，系统控制器26根据温度传感器38检测出的反应温度来驱动温度调节部23。而且，系统控制器26控制三通阀42，切换上述回收线路与废弃线路。
也可以使用图6所示的反应区段45来代替反应区段22。另外，图6中，对与图5相同的构成标注相同符号，并省略说明。
图6所示的反应区段45的合流部46由第1管部47、第2管部48、第3管部49及第4管部50构成。第1管部47与第2管部48直线状连接。同样地，第3管部49与第4管部50直线状连接。并且，第1管部47与第3管部49、及第2管部48与第4管部50分别垂直相交。即，合流部46呈十字形状。
第1管部47和第2管部48与第1原料供给部20连接，第3管部49与第2原料供给部21连接。并且，第4管部50与反应部31连接。分别从第1原料供给部20向第1管部47和第2管部48供给第1原料RM1，从第2原料供给部21向第3管部49供给第2原料RM2。并且，第1原料RM1与第2原料RM2在第4管部50中合流，并以混合的状态输送到反应部31。
第1管部47设置有第1流速传感器51，其检测通过第1管部47的第1原料RM1的流速，并且第2管部48设置有第2流速传感器52，其检测通过第2管部48的第1原料RM1的流速。并且，第3管部49设置有第3流速传感器53，其检测通过第3管部49的第2原料RM2的流速。并且，第4管部50设置有第4流速传感器54，其检测通过第4管部50的第1原料RM1与第2原料RM2的混合物的流速。
在这种情况下，系统控制器26根据第1流速传感器51检测出的第1原料RM1的流速与第2流速传感器52检测出的第1原料RM1的流速的平均值，控制第1原料供给部20的泵的转速，并调节第1原料RM1的流量。并且，系统控制器26根据第3流速传感器53检测出的第2原料RM2的流速，控制第2原料供给部21的泵的转速，并调节第2原料RM2的流量。
图7中，生产条件数据PCD具有第1原料RM1的浓度(单位：mol/l)和流速(单位：ml/min)、第2原料RM2的浓度(单位：mol/l)和流速(单位：ml/min)、合流部的形状、反应路径Φ(单位：mm)、反应路长L(单位：m)及反应温度(单位：℃)等各项目。合流部的形状的项目中，分别在使用了图5中示出的反应区段22的情况下登记图示的“T字状”，在使用了图6中示出的反应区段45的情况下登记“十字状”(参考图36等)。另外，也可以将混合物的流速添加为生产条件数据PCD的项目。
在使用了反应区段22的情况下，系统控制器26控制第1原料供给部20的泵的转速并调节第1原料RM1的流量，以使第1流速传感器35检测出的第1原料RM1的流速与登记在生产条件数据PCD的第1原料RM1的流速一致。同样地，系统控制器26控制第2原料供给部21的泵的转速并调节第2原料RM2的流量，以使第2流速传感器36检测出的第2原料RM2的流速与登记在生产条件数据PCD的第2原料RM2的流速一致。
在使用了反应区段45的情况下，系统控制器26控制第1原料供给部20的泵的转速并调节第1原料RM1的流量，以使第1流速传感器51检测出的第1原料RM1的流速与第2流速传感器52检测出的第1原料RM1的流速的平均值、与登记在生产条件数据PCD的第1原料RM1的流速一致。同样地，系统控制器26控制第2原料供给部21的泵的转速并调节第2原料RM2的流量，以使第3流速传感器53检测出的第2原料RM2的流速与登记在生产条件数据PCD的第2原料RM2的流速一致。
并且，系统控制器26驱动温度调节部23，以使温度传感器38检测出的反应温度与登记在生产条件数据PCD的反应温度一致。
在由各传感器35、36、38、51、52、53检测出的各值与登记在生产条件数据PCD的各值之间的背离超过预先设定的范围的情况下，系统控制器26控制三通阀42切换至废弃线路，并将废弃物引导至废弃部41。另外，当反应失败而产生废弃物时，当然不输出物性数据PD和质量数据QD。因此，产生废弃物时的生产条件数据PCD不发送到学习装置10而被废弃。
图8中，物性分析装置14对产品PR进行光谱分析，检测光谱数据SPD。作为光谱分析，物性分析装置14例如进行近红外光谱分析、傅里叶变换红外光谱分析、拉曼光谱分析、核磁共振光谱分析。图8中例示的光谱数据SPD通过拉曼光谱分析得到，由波数和强度的组构成。将该光谱数据SPD的强度按波数绘图并用线连接而得到的是光谱SP。本例中，该光谱SP的图像数据SPIMD成为物性数据PD。光谱SP的图像数据SPIMD是本公开的技术所涉及的“多维物性数据”的一例。另外，也可以由波长和强度的组来代替波数和强度的组而构成光谱数据SPD。
图9中，质量评价装置15输出产品PR的分子量分散度和分子量作为质量数据QD。分子量在这里是数均分子量。并且，分子量分散度是将重均分子量除以数均分子量而得的值。质量评价装置15使用例如将产品PR即聚苯乙烯溶解在四氢呋喃中而得的聚苯乙烯溶液，通过凝胶渗透色谱(以下，简称为GPC(Gel Permeation Chromatography))求出分子量分散度和分子量。
GPC在下述条件下进行。
装置：HLC-8220GPC(由Tosoh Corporation制造)
检测器：差示折射计(RI(Refractive Index)检测器)
前置柱(pre-column)：TSKGUARDCOLUMN HXL-L 6mm×40mm(由Tosoh Corporation制造)
样品侧柱：依次直接连接以下(1)～(3)这3根(全部由Tosoh Corporation制造)
(1)TSK-GEL GMHXL 7.8mm×300mm
(2)TSK-GEL G4000HXL 7.8mm×300mm
(3)TSK-GEL G2000HXL 7.8mm×300mm
参考侧柱：TSK-GEL G1000HXL 7.8mm×300mm
恒温槽温度：40℃
移动层：四氢呋喃
样品侧移动层流量：1.0ml/min
参考侧移动层流量：1.0ml/min
试样浓度：0.1质量％
试样注入量：100μl
数据提取时间：试样注入后5分钟～45分钟
采样间距：300msec
另外，也可以代替GPC，使用红外光谱分析、核磁共振光谱分析、高效液相色谱(HPLC；High Performance Liquid Chromatography)或气相色谱(GC；GasChromatography)等各种方法。并且，质量数据QD不限于产品PR的分子量分散度和分子量。当在溶液状态下得到产品PR时，也可以将溶液中的产品PR的浓度即摩尔浓度作为质量数据QD。或者，也可以将产品PR的量除以原料RM的量而得的产品PR的收率作为质量数据QD。而且，在生产了副产品的情况下，也可以将副产品的收率等作为质量数据QD。
图10中，构成学习装置10和运用装置11的计算机的基本结构相同，具备储存设备60、存储器61、CPU(中央处理器，Central Processing Unit)62、通信部63、显示器64及输入设备65。它们通过总线66相互连接。
储存设备60是内置在构成学习装置10等的计算机中，或者通过线缆、网络连接的硬盘驱动器。或者，储存设备60是联装有多台硬盘驱动器的磁盘阵列。储存设备60中存储有操作系统等控制程序、各种应用程序、及这些程序所附带的各种数据等。另外，也可以代替硬盘驱动器或者在此基础上使用固态驱动器。
存储器61是用于CPU62执行处理的工作存储器。CPU62将存储在储存设备60中的程序加载到存储器61，根据程序执行处理，从而集中控制计算机的各部。
通信部63是控制通过网络12传输各种信息的网络接口。显示器64显示各种画面。构成学习装置10等的计算机通过各种画面接受来自输入设备65的操作指示的输入。输入设备65是键盘、鼠标、触控面板等。
另外，以下说明中，将下标“A”附加在学习装置10的各部，将下标“B”附加在运用装置11的各部来进行区分。
图11中，学习装置10的储存设备60A中存储有第1动作程序70。第1动作程序70是用于使计算机作为学习装置10发挥作用的应用程序。即，第1动作程序70是本公开的技术所涉及的“学习装置的动作程序”的一例。
储存设备60A中还存储有来自流动反应装置13的产品PR的生产工序中的生产条件数据PCD、来自物性分析装置14的物性数据PD及来自质量评价装置15的质量数据QD。并且，储存设备60A中还存储有自动编码器AE。而且，储存设备60A中还存储有利用自动编码器AE从物性数据PD导出的相关数据PRD及机器学习模型M。生产条件数据PCD、物性数据PD、相关数据PRD及质量数据QD的组存储有多个。
如果第1动作程序70被启动，则构成学习装置10的计算机的CPU62A与存储器61等协作，作为第1读写(以下，简称为RW(Read Write))控制部75、第1导出部76、学习部77及发送控制部78发挥作用。
第1RW控制部75控制储存设备60A中的各种数据的读取、及储存设备60A中的各种数据的存储。第1RW控制部75从储存设备60A读取物性数据PD和自动编码器AE，并将物性数据PD和自动编码器AE输出到第1导出部76。并且，第1RW控制部75将来自第1导出部76的相关数据PRD存储到储存设备60A中。另外，第1RW控制部75通过从储存设备60A读取物性数据PD，获取物性数据PD。即，第1RW控制部75是本公开的技术所涉及的“第1获取部”的一例。
第1RW控制部75从储存设备60A读取相关数据PRD、生产条件数据PCD及质量数据QD，并将它们输出到学习部77。并且，第1RW控制部75从储存设备60A读取机器学习模型M，并将机器学习模型M输出到学习部77和发送控制部78中的任一个。并且，第1RW控制部75将来自学习部77的机器学习模型M存储到储存设备60A中。
第1导出部76接收来自第1RW控制部75的物性数据PD。第1导出部76将自动编码器AE应用于物性数据PD，导出相关数据PRD。即，第1导出部76是本公开的技术所涉及的“导出部”的一例。第1导出部76对所导出的相关数据PRD赋予与物性数据PD相同的ID，并将相关数据PRD输出到第1RW控制部75。每次从物性分析装置14发送新的物性数据PD时，第1导出部76进行相关数据PRD的导出。
学习部77接收来自第1RW控制部75的学习用输入数据IDL、质量数据QD及机器学习模型M。学习部77将学习用输入数据IDL提供给机器学习模型M进行学习，并输出学习完毕模型TM。
发送控制部78接收来自第1RW控制部75的机器学习模型M。发送控制部78从第1RW控制部75接收的机器学习模型M是学习完毕模型TM。发送控制部78进行将学习完毕模型TM发送到运用装置11的控制。
自动编码器AE具有对输入图像数据IIMD(参考图12)进行分析的多个分层，按每个分层，由提取输入图像数据IIMD中包含的空间频率的频带不同的特征的卷积神经网络构成的分层型的机器学习模型。卷积神经网络例如是U-Net(U形神经网络，U-Shaped NeuralNetwork)、SegNet等。在本例中，输入图像数据IIMD是光谱SP的图像数据SPIMD。
如图12所示，自动编码器AE由编码器网络80和解码器网络81构成。编码器网络80对每一分层使用滤波器F(参考图13)进行卷积运算，并进行提取图像特征图CMP的卷积处理。解码器网络81逐渐放大从编码器网络80的最下位分层输出的最小图像特征图CMP的图像尺寸。然后，将逐渐放大的图像特征图CMP与在编码器网络80的各分层输出的图像特征图CMP组合，生成与输入图像数据IIMD相同图像尺寸的输出图像数据OIMD。另外，输出图像数据OIMD是本公开的技术所涉及的“输出数据”的一例。
具有二维排列的多个像素值的输入数据DI(参考图13)被输入到编码器网络80的各分层中。编码器网络80在各分层中对输入数据DI进行卷积处理以提取图像特征图CMP。输入图像数据IIMD作为输入数据DI被输入到编码器网络80的最上位的第1分层中。第1分层对输入图像数据IIMD进行卷积处理，例如输出与输入图像数据IIMD相同图像尺寸的图像特征图CMP。在第2分层以下，输入在上位的各分层中输出的图像特征图CMP作为输入数据DI。在第2分层以下，对图像特征图CMP进行卷积处理，例如输出与所输入的图像特征图CMP相同图像尺寸的图像特征图CMP。
图13中，卷积处理是如下处理：对输入数据DI应用例如3×3的滤波器F，将输入数据DI内的关注像素Ip的像素值e、和与关注像素Ip相邻的8个像素Is的像素值a、b、c、d、f、g、h、i进行卷积，从而与输入数据DI同样地得到像素值被二维排列的输出数据DIc。在将滤波器F的系数设为r、s、t、u、v、w、x、y、z的情况下，对关注像素Ip进行卷积运算的结果即输出数据DIc的像素Icp的像素值k例如通过计算下述(式1)来获得。
k＝az+by+cx+dw+ev+fu+gt+hs+ir……(式1)
在卷积处理中，对输入数据DI的各像素进行如上述那样的卷积运算，从而输出像素值k。这样，输出具有二维排列的像素值k的输出数据DIc。向1个滤波器F输出1个输出数据DIc。在使用种类不同的多个滤波器F的情况下，对每个滤波器F输出输出数据DIc。
如图14所示，输出数据DIc是像素值k被二维排列的数据，具有宽度和高度。并且，在应用种类不同的多个滤波器F输出多个输出数据DIc的情况下，图像特征图CMP成为多个输出数据DIc的集合。在图像特征图CMP中，滤波器F的数量被称为通道数。图14所示的图像特征图CMP是具有应用4个滤波器F输出的4个输出数据DIc的4通道的图像特征图CMP的一例。
如图15所示，针对光谱数据SPD的多个区间中的每一个区间准备了自动编码器AE。图15中，作为划分了光谱数据SPD的多个区间，例示了将光谱数据SPD分成20等分的20个区间INT1、INT2、INT3、……、INT20。并且，例示了对每个区间INT1～INT20准备自动编码器AE_INT1～AE_INT20的情况。各自动编码器AE_INT1～AE_INT20专门用于各区间INT1～INT20的光谱SP的图像数据SPIMD_INT1～SPIMD_INT20。另外，在以下说明中，有时将自动编码器AE_INT1～AE_INT20统一记为自动编码器AE。
如图16所示，质量比预先设定的等级更良好的产品PR的光谱SP的图像数据SPIMD被提供给自动编码器AE作为学习用输入图像数据IIMDL。然后，自动编码器AE进行学习，使得学习用输入图像数据IIMDL与学习用输出图像数据OIMDL一致。即，在作为输入图像数据IIMD输入了质量比预先设定的等级更良好的产品PR的光谱SP的图像数据SPIMD的情况下，自动编码器AE理想地是输出具有与输入图像数据IIMD的光谱SP相同形状的光谱SP的输出图像数据OIMD。另外，预先设定的等级例如是分子量分散度为1.5以上、分子量为25000以上等。
图16中例示了各自动编码器AE_INT1～AE_INT20中的自动编码器AE_INT1。因此，学习用输入图像数据IIMDL是区间INT1的光谱SP的图像数据SPIMD_INT1。
如图17所示，第1导出部76将光谱SP的图像数据SPIMD作为输入图像数据IIMD提供给自动编码器AE，并输出输出图像数据OIMD。接着，第1导出部76计算输入图像数据IIMD与输出图像数据OIMD之间的差分数据DD。具体而言，第1导出部76针对各区间INT1～INT20中的每一个区间，计算输入图像数据IIMD和输出图像数据OIMD的各波数的强度的差分作为差分数据DD。
与图17同样地，图16中仅图示了自动编码器AE_INT1。区间INT1的光谱SP的图像数据SPIMD_INT1被提供给自动编码器AE_INT1作为输入图像数据IIMD。然后，根据输入图像数据IIMD和自动编码器AE_INT1的输出图像数据OIMD，计算区间INT1的差分数据DD_INT1。
在此，如图16所示，自动编码器AE将质量比预先设定的等级更良好的产品PR的光谱SP的图像数据SPIMD作为学习用输入图像数据IIMDL而被提供并进行学习。因此，如果输入图像数据IIMD的来源即产品PR的质量比预先设定的等级更好，则从自动编码器AE输出与输入图像数据IIMD大致相同的输出图像数据OIMD。因此，强度的差分变得比较小。相反，如果产品PR的质量为预先设定的等级以下，则从自动编码器AE输出与输入图像数据IIMD不同的输出图像数据OIMD。因此，强度的差分变得比较大。即，根据差分数据DD，可知产品PR的质量是否比预先设定的等级更好。
如图18所示，第1导出部76针对各区间INT1～INT20的差分数据DD_INT1、DD_INT2、……、DD_INT20中的每一个数据，导出相关数据PRD_INT1、PRD_INT2、……、PRD_INT20。具体而言，第1导出部76导出各区间INT1～INT20的强度差分的平均值和总和作为相关数据PRD_INT1～PRD_INT20。相关数据PRD_INT1～PRD_INT20是本公开的技术所涉及的“多维物性相关数据”的一例。在该例子的情况下，由于代表值为强度差分的平均值及总和这2种，区间为20个区间，因此综合了相关数据PRD_INT1～PRD_INT20的相关数据PRD的总项目数为2×20＝40个。另外，也可以代替强度差分的平均值和总和或者在此基础上，导出强度差分的最大值、最小值、中央值、方差等其他代表值作为相关数据PRD。
如图19所示，学习部77具有第1处理部85、评价部86及更新部87。第1处理部85将学习用输入数据IDL提供给机器学习模型M，并从机器学习模型M输出学习用输出数据ODL。与质量数据QD同样地，学习用输出数据ODL由分子量分散度和分子量构成(参考图20)。第1处理部85将学习用输出数据ODL输出到评价部86。
评价部86接收来自第1处理部85的学习用输出数据ODL。评价部86将学习用输出数据ODL与质量数据QD进行比较，来评价机器学习模型M的预测精度。评价部86将评价结果输出到更新部87。
评价部86例如利用损失函数对机器学习模型M的预测精度进行评价。损失函数是表示学习用输出数据ODL与质量数据QD之间的差异程度的函数。损失函数的计算值越接近0，表示机器学习模型M的预测精度越高。
更新部87根据来自评价部86的评价结果，更新机器学习模型M。例如，更新部87通过伴随学习系数的随机梯度下降法等，改变机器学习模型M的各种参数的值。学习系数表示机器学习模型M的各种参数值的变化幅度。即，学习系数越是比较大的值，各种参数值的变化幅度越大，机器学习模型M的更新程序也越大。
持续重复进行这些通过第1处理部85进行的对机器学习模型M的学习用输入数据IDL的输入和对评价部86的学习用输出数据ODL的输出、通过评价部86进行的预测精度的评价、及通过更新部87进行的机器学习模型M的更新，直到预测精度达到预先设定的等级。
如图20所示，第1处理部85将由生产条件数据PCD和相关数据PRD构成的学习用输入数据IDL提供给机器学习模型M。然后，通过评价部86进行的机器学习模型M的预测精度的评价、及通过更新部87进行的机器学习模型M的更新。通过一边改变学习用输入数据IDL一边持续重复进行这样的处理，机器学习模型M的预测精度达到预先设定的等级。预测精度达到预先设定的等级的机器学习模型M作为学习完毕模型TM，通过第1RW控制部75被存储到储存设备60A中。
图21中，运用装置11的储存设备60B中存储有第2动作程序110。第2动作程序110是用于使计算机作为运用装置11发挥作用的应用程序。
储存设备60B中还存储有来自学习装置10的学习完毕模型TM、与学习装置10相同的自动编码器AE、及来自物性分析装置14的预测用物性数据PDF。并且，储存设备60B中还存储有预测用生产条件数据PCDF。预测用生产条件数据PCDF由操作者通过输入设备65B输入。更详细而言，准备了预测用生产条件数据PCDF的各项目的输入框的输入画面显示在显示器64B中，通过输入画面输入预测用生产条件数据PCDF。预测用生产条件数据PCDF和预测用物性数据PDF是质量未知，且在接下来利用学习完毕模型TM预测质量的产品PR的生产条件数据PCD和物性数据PD。
并且，储存设备60B中还存储从预测用物性数据PDF导出的预测用物性相关数据(以下，简称为预测用相关数据)PRDF。
如果第2动作程序110被启动，则构成运用装置11的计算机的CPU62B与存储器61等协作，作为第2RW控制部115、第2导出部116、第2处理部117及显示控制部118发挥作用。
与学习装置10的第1RW控制部75同样地，第2RW控制部115控制储存设备60B中的各种数据的读取、及储存设备60B中的各种数据的存储。第2RW控制部115从储存设备60B读取预测用物性数据PDF和自动编码器AE，并将预测用物性数据PDF和自动编码器AE输出到第2导出部116。并且，第2RW控制部115将来自第2导出部116的预测用相关数据PRDF存储到储存设备60B中。
第2RW控制部115从储存设备60B读取学习完毕模型TM，并将学习完毕模型TM输出到第2处理部117。第2RW控制部115通过从储存设备60B读取学习完毕模型TM来获取学习完毕模型TM。即，第2RW控制部115是本公开的技术所涉及的“第2获取部”的一例。
第2RW控制部115从储存设备60B读取预测用相关数据PRDF和预测用生产条件数据PCDF，并将它们输出到第2处理部117。第2RW控制部115通过从储存设备60B读取预测用相关数据PRDF来获取预测用相关数据PRDF。即，第2RW控制部115是本公开的技术所涉及的“第3获取部”的一例。
第2导出部116接收来自第2RW控制部115的预测用物性数据PDF和自动编码器AE。第2导出部116从预测用物性数据PDF导出预测用相关数据PRDF。更详细而言，与学习装置10的第1导出部76相同地，第2导出部116针对划分了光谱数据SPD的多个区间INT1～INT20中的每一个区间导出强度差分的平均值及总和。
第2处理部117接收来自第2RW控制部115的预测用生产条件数据PCDF、预测用相关数据PRDF及学习完毕模型TM。第2处理部117将预测用生产条件数据PCDF和预测用相关数据PRDF提供给学习完毕模型TM来预测质量。即，第2处理部117是本公开的技术所涉及的“处理部”的一例。第2处理部117将通过学习完毕模型TM进行的质量的预测结果即质量预测数据QFD输出到显示控制部118。与质量数据QD同样地，质量预测数据QFD由分子量分散度和分子量构成(参考图22等)。
显示控制部118进行在显示器64B上显示各种画面的控制。各种画面中，除了上述预测用生产条件数据PCDF的输入画面之外，还有显示质量预测数据QFD的质量预测显示画面120(参考图23)。即，显示控制部118是本公开的技术所涉及的“输出控制部”的一例。
图22表示用学习完毕模型TM预测ID为PR0500的、质量未知的产品PR的质量的情形。在第2处理部117中，预测用生产条件数据PCDF和预测用相关数据PRDF被提供给学习完毕模型TM。
图23中，在显示控制部118的控制下显示在显示器64B上的质量预测显示画面120中显示有从学习完毕模型TM输出的质量预测数据QFD。通过选择OK按钮121，质量预测显示画面120的显示消失。
接着，参考图24～图26的流程图，对上述结构带来的作用进行说明。首先，如果在学习装置10中启动第1动作程序70，则如图11所示，学习装置10的CPU62A作为第1RW控制部75、第1导出部76、学习部77及发送控制部78发挥作用。如图19所示，学习部77作为第1处理部85、评价部86及更新部87发挥作用。
图24中，当在学习装置10中接收来自物性分析装置14的新的物性数据PD(在本例子中为光谱SP的图像数据SPIMD)并存储到储存设备60A时(步骤ST1001中的“是”)，通过第1RW控制部75从储存设备60A读取光谱SP的图像数据SPIMD(步骤ST1002)。光谱SP的图像数据SPIMD从第1RW控制部75输出到第1导出部76。另外，步骤ST1002是本公开的技术所涉及的“第1获取步骤”的一例。
如图17所示，首先，通过第1导出部76将光谱SP的图像数据SPIMD提供给自动编码器AE。然后，由此计算从自动编码器AE输出的输出图像数据OIMD与提供给自动编码器AE的光谱SP的图像数据SPIMD之间的差分数据DD。接着，如图18所示，通过第1导出部76，根据差分数据DD，针对划分了光谱数据SPD的多个区间INT1～INT20中的每一个区间，导出强度差分的平均值及总和作为相关数据PRD(步骤ST1003)。相关数据PRD从第1导出部76输出到第1RW控制部75(步骤ST1004)。相关数据PRD通过第1RW控制部75存储到储存设备60A。另外，步骤ST1003是本公开的技术所涉及的“导出步骤”的一例。
并且，如图25所示，在学习装置10中，通过第1RW控制部75从储存设备60A读取由在产品PR的生产工序中设定的生产条件数据PCD和相关数据PRD的组构成的学习用输入数据IDL(步骤ST2001)。学习用输入数据IDL从第1RW控制部75输出到学习部77。
在学习部77中，如图20所示，在第1处理部85中将由生产条件数据PCD和相关数据PRD构成的学习用输入数据IDL被提供给机器学习模型M，并从机器学习模型M输出学习用输出数据ODL(步骤ST2002)。然后，在评价部86中，对学习用输出数据ODL与质量数据QD进行比较，评价通过机器学习模型M进行的产品PR质量的预测精度(步骤ST2003)。
在通过评价部86进行的机器学习模型M的预测精度的评价结果是机器学习模型M的预测精度小于预先设定的等级这一内容的情况下(步骤ST2004中的“否”)，通过更新部87更新机器学习模型M(步骤ST2005)。然后，使用更新后的机器学习模型M，重复进行步骤ST2001、步骤ST2002及步骤ST2003的处理。在通过评价部86进行的机器学习模型M的预测精度的评价结果是机器学习模型M的预测精度达到预先设定的等级这一内容的情况下(步骤ST2004中的“是”)，这些步骤ST2001～步骤ST2003的各处理结束。预测精度达到预先没定的等级的机器学习模型M作为学习完毕模型TM从学习部77输出到第1RW控制部75(步骤ST2006)。学习完毕模型TM通过第1RW控制部75存储到储存设备60A中。然后，学习完毕模型TM通过发送控制部78发送到运用装置11。另外，这一系列步骤ST2001～步骤ST2006是本公开的技术所涉及的“学习步骤”的一例。
如果在运用装置11中启动第2动作程序110，则如图21所示，运用装置11的CPU62B作为第2RW控制部115、第2导出部116、第2处理部117及显示控制部118发挥作用。
在运用装置11中，通过第2RW控制部115从储存设备60B读取预测用物性数据PDF和自动编码器AE，并输出到第2导出部116。然后，通过第2导出部116，针对划分了预测用物性数据PDF的光谱数据SPD的多个区间INT1～INT20中的每一个区间，导出强度差分的平均值及总和。这样，在第2导出部116中导出预测用相关数据PRDF。预测用相关数据PRDF通过第2RW控制部115存储到储存设备60B。
如图26所示，在运用装置11中，通过第2RW控制部115从储存设备60B读取学习完毕模型TM(步骤ST500)。并且，通过第2RW控制部115从储存设备60B读取在产品PR的生产工序中的设定的预测用生产条件数据PCDF和预测用相关数据PRDF(步骤ST600)。学习完毕模型TM、预测用生产条件数据PCDF及预测用相关数据PRDF从第2RW控制部115输出到第2处理部117。
如图22所示，在第2处理部117中将预测用生产条件数据PCDF和预测用相关数据PRDF被提供给学习完毕模型TM，并从学习完毕模型TM输出质量预测数据QFD(步骤ST700)。质量预测数据QFD从第2处理部117输出到显示控制部118。
通过显示控制部118在显示器64B上显示图23中示出的质量预测显示画面120(步骤ST800)。通过该质量预测显示画面120，可供操作者查看质量预测数据QFD。
如上所述，学习装置10通过第1RW控制部75获取物性数据PD，在第1导出部76中将自动编码器AE应用于物性数据PD，导出相关数据PRD作为学习用输入数据IDL。然后，在学习部77中，将包含相关数据PRD的学习用输入数据IDL提供给机器学习模型M进行学习，并输出学习完毕模型TM。因此，能够将准确地表示产品PR的物性的数值(在此为强度差分的平均值及总和)作为相关数据PRD而导出，能够进一步提高通过学习完毕模型TM进行的产品PR质量的预测精度。
更具体而言，如图27的表125所示，得到了以下结果：将生产条件数据PCD和利用自动编码器AE导出的相关数据PRD作为学习用输入数据IDL而提供的实施例与比较例1、比较例2相比，分子量分散度的决定系数和分子量的决定系数更高。另外，比较例1是仅将生产条件数据PCD作为学习用输入数据IDL而提供的情况，比较例2是将生产条件数据PCD和由强度的代表值构成的相关数据PRD作为学习用输入数据IDL而提供并进行学习的情况。这样，可以确认，通过将利用自动编码器AE导出的相关数据PRD作为学习用输入数据IDL而提供并进行学习，能够进一步提高通过学习完毕模型TM进行的产品PR质量的预测精度。
另外，例如如图28所示，比较例2的相关数据PRD由各区间INT1～INT20的光谱数据SPD_INT1～SPD_INT20的强度的代表值即平均值、最大值、最小值、中央值、方差、偏度及峰度构成。在这种情况下，光谱数据SPD本身成为物性数据PD。
学习用输入数据IDL不仅包含相关数据PRD，还包含生产条件数据PCD。因此，能够从机器学习模型M输出还考虑到生产条件数据PCD的影响的质量预测数据QFD。
物性数据PD包含由对产品PR进行分光分析而检测出的光谱数据SPD表示的光谱SP的图像数据SPIMD。并且，相关数据PRD是针对划分了光谱数据SPD的多个区间INT1～INT20中的每一个区间导出的强度差分的平均值及总和。与将光谱数据SPD的各波数的强度全部作为相关数据PRD的情况相比，能够减少相关数据PRD的数据量。
运用装置11通过第2RW控制部115获取学习完毕模型TM和预测用相关数据PRDF。接着，在第2处理部117中，对学习完毕模型TM提供预测用相关数据PRDF来预测质量。然后，在显示控制部118的控制下，使显示器64B中显示包含通过学习完毕模型TM进行的质量的预测结果即质量预测数据QFD的质量预测显示画面120。因此，操作者不用特意将产品PR应用到质量评价装置15上实际评价质量，就能够简单地把握产品PR的质量是何种程度。
在此，在质量评价装置15中实际评价产品PR的质量时，产品PR的预处理和质量的评价处理需要例如1周～2周左右的较长时间。相对于此，如果使用学习完毕模型TM，能够在极短时间内预测产品PR的质量。而且，如图27中作为实施例所示，由于学习完毕模型TM的预测精度比较高，因此操作者能够充分参考质量预测数据QFD而制定今后的产品PR的生产计划。
[第2实施方式]
在图29～图31所示的第2实施方式中，将拍摄产品PR而得到的图像数据IMD作为物性数据PD。
图29中，第2实施方式的物性分析装置130例如是数字光学显微镜，拍摄产品PR并将图像数据IMD作为物性数据PD输出。另外，图像数据IMD是本公开的技术所涉及的“多维物性数据”的一例。
如图30和图31所示，第2实施方式的第1导出部135针对将图像数据IMD等分后的多个区域AR1-1、AR1-2、……、AR10-10中的每一个区域，导出相关数据PRD_AR1-1、PRD_AR1-2、……、PRD_AR10-10。具体而言，第1导出部135导出各区域AR1-1～AR10-10的图像数据IMD_AR1-1～IMD_AR10-10的像素值与将这些图像数据IMD_AR1-1～IMD_AR10-10提供给自动编码器AE并输出的输出图像数据OIMD的像素值之间的差分的平均值及总和作为相关数据PRD_AR1-1～PRD_AR10-10。并且，虽然省略了图示和详细说明，但在运用装置的第2导出部中，也与第1导出部135同样地，将质量未知的产品PR的图像数据IMD的像素值的差分的平均值及总和作为预测用相关数据PRDF而导出。另外，针对图像数据IMD的区域AR中的每一个区域准备自动编码器AE。
这样，在第2实施方式中，将拍摄产品PR而得到的图像数据IMD作为物性数据PD。因此，能够更加容易地捕捉产品PR的物性。
另外，图像数据IMD可以代替上述第1实施方式的光谱SP的图像数据SPIMD作为物性数据PD，也可以与光谱SP的图像数据SPIMD一起作为物性数据PD。并且，物性分析装置130不限于例示的数字光学显微镜，也可以是扫描电子显微镜(SEM；Scanning ElectronMicroscope)等。
多维物性数据不限于上述第1实施方式的光谱数据SPD和上述第2实施方式的图像数据IMD。与人的五感即视觉、听觉、嗅觉、触觉、味觉中的任一种相关的多维物性数据。例如，可以举出产品PR的触觉数据、产品PR生产时的臭气数据、产品PR生产时的音频数据等。
在触觉数据的情况下，将产品PR的多处触感传感器的输出作为触觉数据，将多处各触觉传感器的输出的平均值等作为相关数据PRD而导出。在音频数据的情况下，用麦克风录制从生产开始到结束作为音频数据，将该音频数据分为多个区间，并将多个区间中的每一个区间的频率的平均值、振幅的平均值等作为相关数据PRD而导出。
[第3实施方式]
在图32所示的第4实施方式中，根据从自动编码器AE的一部分即编码器网络140输出的图像特征图CMP导出相关数据PRD。
图32中，第4实施方式的第1导出部145将物性数据PD即光谱SP的图像数据SPIMD提供给自动编码器AE作为输入图像数据IIMD。并且，从自动编码器AE的编码器网络140输出图像特征图CMP。图像特征图CMP例如是从编码器网络140的最低分层输出的最小的图像特征图CMP。另外，与上述第1实施方式的自动编码器AE同样地，针对光谱数据SPD的多个区间INT1～INT20中的每一个区间准备第3实施方式的自动编码器AE。但是，与上述第1实施方式的自动编码器AE不同，第3实施方式的自动编码器AE与质量的等级无关地将各种产品PR的光谱SP的图像数据SPIMD作为学习用输入图像数据IIMDL而被提供并进行学习。
第1导出部145根据图像特征图CMP导出相关数据PRD。即，图像特征图CMP是本公开的技术所涉及的“特征数据”的一例。
图32中例示了图像特征图CMP由通道1(Ch1)的输出数据DIc、通道2(Ch2)的输出数据DIc、通道3(Ch3)的输出数据DIc、通道4(Ch4)的输出数据DIc构成的情况。并且，示出了通过第1导出部145，针对通道1～通道4的输出数据DIc中的每一个数据，导出像素值的平均值作为相关数据PRD的例子。另外，也可以代替平均值或者在此基础上，导出最大值、最小值、中央值、分散等作为相关数据PRD。并且，虽然省略了图示和详细说明，但在运用装置的第2导出部中也与第1导出部145同样地，将质量未知的产品PR的光谱SP的图像数据SPIMD的各区间INT1～INT20的图像特征图CMP的输出数据DIc的像素值的平均值作为预测用相关数据PRDF而导出。
图32中仅图示了自动编码器AE_INT1。区间INT1的光谱SP的图像数据SPIMD_INT1被提供给自动编码器AE_INT1作为输入图像数据IIMD。第1导出部145从自动编码器AE_INT1的编码器网络140的图像特征图CMP导出区间INT1的相关数据PRD_INT1。另外，虽然省略了图示和说明，但关于其他区间INT2～INT20，也从自动编码器AE_INT2～AE_INT20的编码器网络140的图像特征图CMP导出相关数据PRD_INT2～PRD_INT20。
这样，在第3实施方式中，根据从自动编码器AE的编码器网络140输出的图像特征图CMP导出相关数据PRD。因此，与上述第1实施方式同样地，能够将准确地表示产品PR的物性的数值(在此为输出数据DIc的像素值的平均值)作为相关数据PRD而导出，能够进一步提高学习完毕模型TM的预测精度。
图像特征图CMP可以从编码器网络140的最低分层以外的分层输出。
另外，基于图像特征图CMP的相关数据PRD可以代替基于上述第1实施方式的差分数据DD的相关数据PRD使用，也可以在此基础上使用。
在第3实施方式中，输入图像数据IIMD不限于例示的光谱SP的图像数据SPIMD。也可以代替光谱SP的图像数据SPIMD或者在此基础上，将上述第2实施方式的拍摄产品PR而得到的图像数据IMD作为输入图像数据IIMD。
[第4实施方式]
在图33～图45所示的第4实施方式中，从相关数据PRD的多个项目中提取有助于提高通过机器学习模型M进行的产品PR质量的预测精度的程度满足预先设定的条件的高贡献项目，并选择性地将高贡献项目的相关数据PRD提供给机器学习模型M进行学习。另外，以下对与上述第1实施方式相同的结构标注相同的符号并省略说明。
图33中，第4实施方式的学习装置150的储存设备60A中存储有第1动作程序151。第1动作程序151与上述第1实施方式的第1动作程序70相同地，是本公开的技术所涉及的“学习装置的动作程序”的一例。
如果第1动作程序151被启动，则构成学习装置150的计算机的CPU62A与存储器61等协作，除了上述第1实施方式的第1RW控制部75、第1导出部76、学习部77、及发送控制部78以外，还作为提取部155发挥作用。
在这种情况下，学习部77将学习用输入数据IDL提供给机器学习模型M进行学习，并输出临时机器学习模型PM(参考图35)。学习部77将临时机器学习模型PM输出到第1RW控制部75。第1RW控制部75将临时机器学习模型PM存储到储存设备60A中。以下，将该学习部77输出临时机器学习模型PM的期间称为临时学习。并且，将在临时学习中使用的机器学习模型M表示为第1机器学习模型M1(参考图34)。
第1RW控制部75从储存设备60A读取临时机器学习模型PM，并将临时机器学习模型PM输出到提取部155。提取部155利用临时机器学习模型PM，从相关数据PRD的多个项目中提取高贡献项目。高贡献项目是有助于提高产品PR的质量预测精度的程度满足预先设定条件的项目。提取部155将高贡献项目的提取结果即高贡献项目信息HCII输出到学习部77。并且，虽然省略了图示，但提取部155将高贡献项目信息HCII输出到第1RW控制部75，第1RW控制部75将高贡献项目信息HCII存储到储存设备60A中。
学习部77接收来自提取部155的高贡献项目信息HCII。学习部77根据高贡献项目信息HCII，选择性地将高贡献项目的相关数据PRD提供给机器学习模型M进行学习，并将机器学习模型M作为学习完毕模型TM输出。以下，将该学习部77输出学习完毕模型TM的期间称为正式学习。并且，将在正式学习中使用的机器学习模型M表示为第2机器学习模型M2(参考图42)。
发送控制部78进行如下控制：与学习完毕模型TM一起从第1RW控制部75接收高贡献项目信息HCII，也将高贡献项目信息HCII发送到运用装置运用装置175(参考图44)。
如图34所示，在临时学习中，第1处理部85将生产条件数据PCD和相关数据PRD的多个项目完全作为学习用输入数据IDL提供给第1机器学习模型M1。然后，通过评价部86进行的第1机器学习模型M1的预测精度的评价、及通过更新部87进行的第1机器学习模型M1的更新。通过一边改变学习用输入数据IDL一边持续重复进行这样的处理，第1机器学习模型M1的预测精度达到预先设定的等级。预测精度达到预先设定的等级的第1机器学习模型M1作为临时机器学习模型PM，通过第1RW控制部75被存储到储存设备60A中。
如图35所示，提取部155具有第3处理部160、第4处理部161、计算部162及判定部163。第3处理部160将学习用输入数据IDL提供给临时机器学习模型PM，并从临时机器学习模型PM输出临时输出数据POD。与学习用输出数据ODL同样地，临时输出数据POD由分子量分散度和分子量构成(参考图36等)。第3处理部160将临时输出数据POD输出到计算部162。
第4处理部161将与在第3处理部160中提供给临时机器学习模型PM的数据相同的生产条件数据PCD和提取用物性相关数据(以下，简称为提取用相关数据)PRDE提供给临时机器学习模型PM，并从临时机器学习模型PM输出提取用临时输出数据PODE。与学习用输出数据ODL同样地，提取用临时输出数据PODE由分子量分散度和分子量构成(参考图37等)。第4处理部161将提取用临时输出数据PODE输出到计算部162。
计算部162接收来自第3处理部160的临时输出数据POD及来自第4处理部161的提取用临时输出数据PODE。计算部162根据临时输出数据POD和提取用临时输出数据PODE，计算相关数据PRD的项目有助于提高第1机器学习模型M1的质量预测精度的程度即相关数据PRD的项目的贡献度。计算部162将贡献度的计算结果即贡献度信息CI输出到判定部163。
判定部163接收来自计算部162的贡献度信息CI。判定部163根据贡献度信息CI和设定条件SC，判定相关数据PRD的多个项目中的每一个项目是否为高贡献项目。判定部163将高贡献项目信息HCII输出到学习部77作为判定结果。
如图36所示，在第3处理部160中，与图34中示出的第1处理部85的情况同样地，相关数据PRD的多个项目完全被提供给临时机器学习模型PM。相对于此，如图37所示，在第4处理部161中，排除了相关数据PRD的多个项目中的1个项目的提取用相关数据PRDE被提供给临时机器学习模型PM。另外，图37中示出了排除了第1区间INT1的相关数据PRD_INT1的强度差分的平均值的项目的例子。
如图38和图39所示，计算部162首先根据临时输出数据POD和提取用临时输出数据PODE计算变化率。变化率由以下(式2)求出。
变化率＝|临时输出数据与提取用临时输出数据的差分|/临时输出数据……(式2)
变化率是表示在提取用相关数据PRDE中排除的项目的影响下，临时机器学习模型PM的输出数据发生何种程度变化的值。
接着，计算部162利用将变化率转换为贡献度的转换表170，将变化率转换为贡献度。在转换表170中，分别在变化率为0以上且小于0.05时登记贡献度为0，在变化率为0.05以上且小于0.1时登记贡献度为1、……、在变化率为0.45以上且小于0.5时登记贡献度为9、在变化率为0.5以上时登记贡献度为10。
图39例示了图36中示出的临时输出数据POD的分子量分散度＝1.5865、分子量＝22000，图37中示出的提取用临时输出数据PODE的分子量分散度＝1.6043、分子量＝26000的情况。在这种情况下，分子量分散度的变化率＝|1.5865-1.6043|/1.5865≈0.01。根据转换表170，在变化率为0.01的情况下，贡献度为0，因此转换了分子量分散度的变化率的贡献度计算为0。同样地，分子量的变化率＝|22000-26000|/22000≈0.18，因此转换了分子量的变化率的贡献度计算为3。这样计算出的贡献度是在提取用相关数据PRDE中排除的项目(在图39中为相关数据PRD_INT1的强度差分的平均值的项目)的贡献度。
第4处理部161一边逐一改变排除的项目，一边依次将提取用相关数据PRDE提供给临时机器学习模型PM。在本例中，由于相关数据PRD的项目数为40个，因此第4处理部161将40个提取用相关数据PRDE提供给临时机器学习模型PM。并且，计算部162针对各提取用相关数据PRDE计算贡献度。另外，为了提高变化率值的可靠性，不仅可以针对1组生产条件数据PCD和相关数据PRD计算变化率，还可以针对不同的多组生产条件数据PCD和相关数据PRD计算变化率，并将其平均值转换为贡献度。
如图40所示，贡献度信息CI中登记有相关数据PRD的多个项目各自的贡献度。各项目旁边的2个数值为贡献度，左侧为转换了分子量分散度的变化率的贡献度，右侧为转换了分子量的变化率的贡献度。例如，转换了第1区间INT1的总和的分子量分散度的变化率的贡献度为4，转换了分子量的变化率的贡献度为6。
图41表示设定条件SC为“转换了分子量分散度的变化率的贡献度及转换了分子量的变化率的贡献度均为6以上”，贡献度信息CI如图40所例示的情况。在这种情况下，判定部163将转换了分子量分散度的变化率的贡献度及转换了分子量变化率的贡献度均为6以上的、第2区间INT1的强度差分的平均值及总和、……、第20区间INT20的强度差分的平均值及总和的阴影线所示的各项目判定为高贡献项目。
另外，这样从多个数据(在本例中为相关数据PRD的多个项目)中提取本质部分(在本例中为高贡献项目)的方法被称为稀疏建模。这样的稀疏建模可以使用例如能够在R语言上工作的glmnet包来进行。稀疏建模的详细算法例如记载于“统计软件杂志，第33-1卷(2010年)“通过坐标下降的广义线性模型的正则化路径”(Journal of statisticalsoftware，vol.33-1(2010)“Regularization Paths for Generalized Linear Modelsvia Coordinate Descent””)。
如图42所示，在正式学习中，在第1处理部85中，高贡献项目的相关数据PRD被选择性地提供给第2机器学习模型M2。换言之，高贡献项目以外的项目被选择性地排除并提供给第2机器学习模型M2。然后，通过评价部86进行的第2机器学习模型M2的预测精度的评价、及通过更新部87进行的第2机器学习模型M2的更新。通过一边改变学习用输入数据IDL一边持续重复进行这样的处理，第2机器学习模型M2的预测精度达到预先设定的等级。预测精度达到预先设定的等级的第2机器学习模型M2作为学习完毕模型TM，通过第1RW控制部75被存储到储存设备60A中。另外，在正式学习中使用的第2机器学习模型M2与在临时学习中使用的第1机器学习模型M1的种类、性能等特性相同。
综上所述，如图43所示，在第4实施方式的学习装置150中，主要进行临时学习(步骤ST5000)、高贡献项目的提取(步骤ST6000)及正式学习(步骤ST7000)。在临时学习中，学习第1机器学习模型M1作为临时机器学习模型PM。在高贡献项目的提取中使用了临时机器学习模型PM。在正式学习中，学习第2机器学习模型M2作为学习完毕模型TM。
图44中，第4实施方式的运用装置175的储存设备60B中存储有第2动作程序176。并且，储存设备60B中存储有来自学习装置150的高贡献项目信息HCII。
运用装置175的第2RW控制部115从储存设备60B读取高贡献项目信息HCII，并将高贡献项目信息HCII输出到第2导出部180。与上述第1实施方式的运用装置11的第2导出部116相同地，第2导出部180针对划分了光谱数据SPD的多个区间INT1～INT20中的每一个区间，导出强度差分的平均值及总和作为预测用相关数据PRDF。但是，第2导出部180根据高贡献项目信息HCII选择性地导出高贡献项目，并且不导出高贡献项目以外的项目。因此，与图42的相关数据PRD同样地，预测用相关数据PRDF成为选择性地排除了高贡献项目以外的项目的数据(参考图45)。
图45表示用学习完毕模型TM预测ID为PR1000的、质量未知的产品PR的质量的情形。与图42中示出的情况同样地，在第2处理部117中，多个项目中的高贡献项目的预测用相关数据PRDF被选择性地提供给学习完毕模型TM。换言之，高贡献项目以外的项目被选择性地排除并提供给学习完毕模型TM。
这样，学习装置150在学习部77中将学习用输入数据IDL提供给第1机器学习模型M1进行学习，并输出临时机器学习模型PM。接着，通过提取部155，利用临时机器学习模型PM，从相关数据PRD的多个项目中提取高贡献项目。然后，在学习部77中，选择性地将高贡献项目的相关数据PRD提供给第2机器学习模型M2进行学习，并作为学习完毕模型TM输出。因此，与提供了除高贡献项目以外的相关数据PRD而进行学习的情况相比，能够提高通过学习完毕模型TM进行的产品PR质量的预测精度。并且，由于可以防止学习劳力被分配到对提高预测精度贡献度低的项目上，因此能够提高学习效率。
学习用输入数据IDL不仅包含相关数据PRD，还包含生产条件数据PCD。因此，能够还考虑到生产条件数据PCD的影响而提取高贡献项目，并且能够进一步提高高贡献项目的妥善性。
划分光谱数据SPD的区间INT也可以相互重叠。同样地，划分图像数据IMD的区域AR也可以相互重叠。
产品PR不限于利用流动合成法生产的产品。例如，也可以是利用分批合成法生产的产品。
另外，在上述各实施方式中，将由流动反应装置13的设定部25接受的生产条件作为生产条件数据PCD，但并不限于此。也可以将由第1流速传感器35、第2流速传感器36、第3流速传感器37、温度传感器38、第1流速传感器51、第2流速传感器52、第3流速传感器53及第4流速传感器54检测出的实测值作为生产条件数据PCD。
在上述各实施方式中，作为质量预测数据QFD的输出方式，例示了质量预测显示画面120，但并不限于此。也可以代替质量预测显示画面120或者在此基础上，采用将质量预测数据QFD打印输出到纸介质上的方式、及将质量预测数据QFD作为数据文件输出的方式。
另外，作为机器学习模型M，存在使用了线性回归、高斯过程回归、支持向量回归、决策树、集成法、装袋(Bagging)法、提升(Boosting)法、梯度提升法等的机器学习模型。并且，存在使用了简单感知器、多层感知器、深度神经网络、卷积神经网络、深度信念网络、循环神经网络、随机神经网络等的机器学习模型。使用上述例示中的任一机器学习模型M没有特别限制，可以选择任意方法的机器学习模型M。
作为集成法，可以举出随机森林(Random Forest)。众所周知，随机森林通过使用随机采样的学习数据和随机选择的说明变量，制作多个相关性低的决策树组，并通过将这些预测结果集成和平均来提高预测精度。作为这种情况下的机器学习模型M的控制参数，存在选择的说明变量的数量和决策树的分支数。
由于深度神经网络的控制参数的数量比较多，也可以进行灵活组合，因此能够对多种数据结构发挥较高的预测性能。作为控制参数，存在网络的层数和节点数、激活函数的种类、Dropout比例、Mini-batch大小、Epoch数、学习率等。
这样的机器学习模型M存在多个执行框架，并可以从其中适当选择。例如，可以选自Tensorflow、CNTK(Cognitive Toolkit)、Theano、Caffe、mxnet、Keras、PyTorch、Chainer、Scikit-learn、Caret、MATLAB(注册商标)等。
构成机器学习系统2的计算机的硬件结构可以进行各种变形。例如，也可以将学习装置10和运用装置11进行集成，由1台计算机构成。并且，为了提高处理能力和可靠性，也可以由作为硬件分离的多台计算机构成学习装置10和运用装置11中的至少任一个。例如，将学习装置10的第1导出部76的功能、学习部77的功能分散到2台计算机中来承担。在这种情况下，由2台计算机构成学习装置10。
这样，机器学习系统2的计算机的硬件结构可以根据处理能力、安全性、可靠性等所需性能进行适当改变。而且，并不限于硬件，对于第1动作程序70、第1动作程序151、第2动作程序110、第2动作程序176等应用程序，为了确保安全性和可靠性的目的，当然也可以双重化或分散存储在多个储存设备中。
在上述各实施方式中，例如，作为执行第1RW控制部75、第1导出部76、第1导出部135、第1导出部145、学习部77(第1处理部85、评价部86、更新部87)、发送控制部78、第2RW控制部115、第2导出部116、第2导出部180、第2处理部117、显示控制部118、提取部155(第3处理部160、第4处理部161、计算部162、判定部163)等各种处理的处理部(Processing Unit)的硬件结构，可以使用以下所示的各种处理器(Processor)。在各种处理器中，除了如上述那样包含执行软件(第1动作程序70、第1动作程序151、第2动作程序110、第2动作程序176)并作为各种处理部发挥作用的通用处理器即CPU62A、CPU62B以外，还包含可编程逻辑器件(Programmable Logic Device：PLD)及专用电路等，该可编程逻辑器件是在制造FPGA(现场可编程门阵列，Field Programmable Gate Array)等之后能够改变电路结构的处理器；该专用电路是具有为了执行ASIC(专用集成电路，Application Specific IntegratedCircuit)等特定处理而专门设计的电路结构的处理器。
1个处理部可以由这些各种处理器中的1个构成，也可以由同种或异种的2个以上的处理器组合(例如，多个FPGA的组合、和/或CPU与FPGA的组合)构成。并且，也可以由1个处理器构成多个处理部。
作为由1个处理器构成多个处理部的例子，首先，如客户端和服务器等计算机为代表的那样，有由1个以上的CPU和软件的组合构成1个处理器，并且该处理器作为多个处理部发挥作用的方式。其次，如片上系统(System On Chip：SOC)等为代表的那样，有使用由一个IC(集成电路，Integrated Circuit)芯片实现包含多个处理部的系统整体功能的处理器的方式。这样，各种处理部作为硬件结构，使用上述各种处理器中的1个以上构成。
而且，作为这些各种处理器的硬件结构，更具体而言，能够使用半导体元件等电路元件组合而成的电路(circuitry)。
根据以上记载，可以把握以下附录项1、附录项2中记载的发明。
[附录项1]
一种学习装置，其具备：
第1获取处理器，获取表示产品物性的多维物性数据；
导出处理器，从所述多维物性数据导出提供给预测所述产品质量的机器学习模型的学习用输入数据，并且将自动编码器的至少一部分应用于所述多维物性数据，导出与所述多维物性数据相关的多维物性相关数据作为所述学习用输入数据；及
学习处理器，将包含所述多维物性相关数据的所述学习用输入数据提供给机器学习模型进行学习，并将所述机器学习模型作为供实际运用的学习完毕模型进行输出。
[附录项2]
一种运用装置，其具备：
第2获取处理器，获取从附录项1所述的学习装置的所述学习处理器输出的所述学习完毕模型；
第3获取处理器，获取质量未知产品的预测用多维物性相关数据；
处理处理器，向在所述第2获取处理器获取的所述学习完毕模型提供在所述第3获取处理器获取的、所述质量未知产品的所述预测用多维物性相关数据，来预测所述质量；及
输出控制处理器，进行将通过所述学习完毕模型进行的所述质量的预测结果输出的控制。
本公开的技术也可以将上述各种实施方式和各种变形例适当组合。并且，并不限于上述各实施方式，只要不脱离主旨，当然可以采用各种结构。而且，本公开的技术除了涉及程序以外，还涉及非临时存储程序的存储介质。
以上所示的记载内容和图示内容是关于本公开的技术所涉及的部分的详细说明，并且仅是本公开的技术的一例。例如，关于上述结构、功能、作用及效果的说明是关于本公开的技术所涉及的部分的结构、功能、作用及效果的一例的说明。因此，当然可以在不脱离本公开的技术的主旨的范围内，对以上所示的记载内容和图示内容，删除不需要的部分，追加或置换新的要素。并且，为了避免错综复杂，便于理解本公开的技术所涉及的部分，在以上所示的记载内容和图示内容中，在能够实施本公开的技术的基础上省略了与不需要特别说明的技术常识等相关的说明。
在本说明书中，“A和/或B”与“A和B中的至少一个”同义。也就是说，“A和/或B”意味着可以仅为A，可以仅为B，也可以为A和B的组合。并且，在本说明书中，将3个以上的情况以“和/或”联系起来表现时也应用与“A和/或B”相同的观点。
本说明书中所记载的所有文献、专利申请及技术标准，以与具体且个别记载了通过参考纳入个别文献、专利申请及技术标准的情况相同程度地，通过参考纳入本说明书中。
符号说明
2-机器学习系统，10、150-学习装置，11、175-运用装置，12-网络，13-流动反应装置，14、130-物性分析装置，15-质量评价装置，20-第1原料供给部，21-第2原料供给部，22、45-反应区段，23-温度调节部，24-回收废弃段，25-设定部，26-系统控制器，30、46-合流部，31-反应部，32～34-第1管部～第3管部，35～37-第1流速传感器～第3流速传感器，38-温度传感器，40-回收部，41-废弃部，42-三通阀，47～50-第1管部～第4管部，51～54-第1流速传感器～第4流速传感器，60、60A、60B-储存设备，61-存储器，62、62A、62B-CPU，63-通信部，64、64B-显示器，65、65B-输入设备，66-总线，70、151-第1动作程序(学习装置的动作程序)，75-第1读写控制部(第1RW控制部、第1获取部)，76、135、145-第1导出部(导出部)，77-学习部，78-发送控制部，80、140-编码器网络，81-解码器网络，85-第1处理部，86-评价部，87-更新部，110、176-第2动作程序，115-第2读写控制部(第2RW控制部、第2获取部、第3获取部)，116、180-第2导出部，117-第2处理部(处理部)，118-显示控制部(输出控制部)，120-质量预测显示画面，121-OK按钮，125-表，155-提取部，160-第3处理部，161-第4处理部，162-计算部，163-判定部，170-转换表，AE-自动编码器，AR-区域，CI-贡献度信息，CMP-图像特征图(特征数据)，DD-差分数据，DI-自动编码器的输入数据，DIc-自动编码器的输出数据，F-滤波器，HCII-高贡献项目信息，Icp-输出数据的像素，IDL-学习用输入数据，IIMD-输入图像数据，IIMDL-学习用输入图像数据，IMD-图像数据，INT-区间，Ip-关注像素，Is-相邻像素，L-反应路长，M-机器学习模型，M1、M2-第1机器学习模型、第2机器学习模型，ODL-学习用输出数据，OIMD-输出图像数据，OIMDL-学习用输出图像数据，PCD-生产条件数据，PCDF-预测用生产条件数据，PD-物性数据，PDF-预测用物性数据，PM-临时机器学习模型，POD-临时输出数据，PODE-提取用临时输出数据，PR-产品，PRD-物性相关数据(相关数据)，PRDE-提取用物性相关数据(提取用相关数据)，PRDF-预测用物性相关数据(预测用相关数据)，QD-质量数据，QFD-质量预测数据，RM-原料，RM1、RM2-第1原料、第2原料，SC-设定条件，SP-光谱，SPD-光谱数据，SPIMD-光谱的图像数据，ST500、ST600、ST700、ST800、ST1001、ST1004、ST5000、ST6000、ST7000-步骤，ST1002-步骤(第1获取步骤)，ST1003-步骤(导出步骤)，ST2001～ST2006-步骤(学习步骤)，TM-学习完毕模型，Φ-反应路径。

Claims (11)

1.一种学习装置，其具备：
第1获取部，获取表示产品的物性的多维物性数据；
导出部，从所述多维物性数据导出提供给预测所述产品的质量的机器学习模型的学习用输入数据，并且将自动编码器的至少一部分应用于所述多维物性数据，导出与所述多维物性数据相关的多维物性相关数据作为所述学习用输入数据；及
学习部，将包含所述多维物性相关数据的所述学习用输入数据提供给机器学习模型进行学习，并将所述机器学习模型作为供实际的运用的学习完毕模型进行输出。
2.根据权利要求1所述的学习装置，其中，
所述学习用输入数据还包含在所述产品的生产工序中设定的生产条件数据。
3.根据权利要求1或2所述的学习装置，其中，
所述自动编码器被提供所述质量比预先设定的等级更良好的所述产品的所述多维物性数据而进行学习，
所述导出部向所述自动编码器提供所述多维物性数据并输出输出数据，基于提供给所述自动编码器的所述多维物性数据与所述输出数据的差分数据导出所述多维物性相关数据。
4.根据权利要求1至3中任一项所述的学习装置，其中，
所述导出部向所述自动编码器提供所述多维物性数据，从所述自动编码器的编码器网络输出特征数据，基于所述特征数据导出所述多维物性相关数据。
5.根据权利要求1至4中任一项所述的学习装置，其中，
所述多维物性数据包含由对所述产品进行光谱分析而检测出的光谱数据表示的光谱的图像数据。
6.根据权利要求5所述的学习装置，其中，
所述导出部针对划分了所述光谱数据的多个区间中的每一个区间，导出所述多维物性相关数据。
7.根据权利要求1至6中任一项所述的学习装置，其中，
所述多维物性数据包含拍摄所述产品而得到的图像数据。
8.根据权利要求1至7中任一项所述的学习装置，其中，
所述产品利用流动合成法生产。
9.一种运用装置，其具备：
第2获取部，获取从权利要求1至8中任一项所述的学习装置的所述学习部输出的所述学习完毕模型；
第3获取部，获取质量未知的产品的预测用多维物性相关数据；
处理部，向在所述第2获取部获取的所述学习完毕模型提供在所述第3获取部获取的、所述质量未知的产品的所述预测用多维物性相关数据，来预测所述质量；及
输出控制部，进行将通过所述学习完毕模型进行的所述质量的预测结果输出的控制。
10.一种学习装置的动作方法，其具备如下步骤：
第1获取步骤，获取表示产品的物性的多维物性数据；
导出步骤，从所述多维物性数据导出提供给预测所述产品的质量的机器学习模型的学习用输入数据，并且将自动编码器的至少一部分应用于所述多维物性数据，导出与所述多维物性数据相关的多维物性相关数据作为所述学习用输入数据；及
学习步骤，将包含所述多维物性相关数据的所述学习用输入数据提供给机器学习模型进行学习，并将所述机器学习模型作为供实际的运用的学习完毕模型进行输出。
11.一种学习装置的动作程序，其使计算机作为第1获取部、导出部及学习部发挥作用，其中，
第1获取部，获取表示产品的物性的多维物性数据；
导出部，从所述多维物性数据导出提供给预测所述产品的质量的机器学习模型的学习用输入数据，并且将自动编码器的至少一部分应用于所述多维物性数据，导出与所述多维物性数据相关的多维物性相关数据作为所述学习用输入数据；
学习部，将包含所述多维物性相关数据的所述学习用输入数据提供给机器学习模型进行学习，并将所述机器学习模型作为供实际的运用的学习完毕模型进行输出。
CN202080045879.5A 2019-07-03 2020-05-20 学习装置、学习装置的动作方法、学习装置的动作程序及运用装置 Pending CN114072811A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019-124420 2019-07-03
JP2019124420 2019-07-03
PCT/JP2020/019936 WO2021002110A1 (ja) 2019-07-03 2020-05-20 学習装置、学習装置の作動方法、学習装置の作動プログラム、並びに運用装置

Publications (1)

Publication Number Publication Date
CN114072811A true CN114072811A (zh) 2022-02-18

Family

ID=74100678

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080045879.5A Pending CN114072811A (zh) 2019-07-03 2020-05-20 学习装置、学习装置的动作方法、学习装置的动作程序及运用装置

Country Status (5)

Country Link
US (1) US20220091589A1 (zh)
EP (1) EP3995997A4 (zh)
JP (1) JP7321263B2 (zh)
CN (1) CN114072811A (zh)
WO (1) WO2021002110A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20230297060A1 (en) * 2022-03-18 2023-09-21 Rockwell Automation Technologies, Inc. Machine learning optimization of control code in an industrial automation environments

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06304724A (ja) * 1993-04-20 1994-11-01 Nippon Steel Corp 品質制御装置および制御方法
JP2016091359A (ja) * 2014-11-06 2016-05-23 株式会社リコー 情報処理システム、情報処理装置、情報処理方法、及びプログラム
CN108416439A (zh) * 2018-02-09 2018-08-17 中南大学 基于变量加权深度学习的炼油过程产品预测方法和系统
CN108629365A (zh) * 2017-03-15 2018-10-09 株式会社岛津制作所 分析数据解析装置以及分析数据解析方法
WO2019073666A1 (ja) * 2017-10-11 2019-04-18 株式会社ニコン 判定装置、判定方法、および判定プログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018005773A (ja) * 2016-07-07 2018-01-11 株式会社リコー 異常判定装置及び異常判定方法
JP2018018354A (ja) 2016-07-28 2018-02-01 高砂香料工業株式会社 ディープラーニングを用いた飲食品の品質予測方法及び飲食品
JP7061784B2 (ja) * 2017-01-19 2022-05-02 国立大学法人 香川大学 触覚センサ、触覚測定装置、学習済みモデル、および識別装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06304724A (ja) * 1993-04-20 1994-11-01 Nippon Steel Corp 品質制御装置および制御方法
JP2016091359A (ja) * 2014-11-06 2016-05-23 株式会社リコー 情報処理システム、情報処理装置、情報処理方法、及びプログラム
CN108629365A (zh) * 2017-03-15 2018-10-09 株式会社岛津制作所 分析数据解析装置以及分析数据解析方法
WO2019073666A1 (ja) * 2017-10-11 2019-04-18 株式会社ニコン 判定装置、判定方法、および判定プログラム
CN108416439A (zh) * 2018-02-09 2018-08-17 中南大学 基于变量加权深度学习的炼油过程产品预测方法和系统

Also Published As

Publication number Publication date
EP3995997A1 (en) 2022-05-11
WO2021002110A1 (ja) 2021-01-07
JP7321263B2 (ja) 2023-08-04
US20220091589A1 (en) 2022-03-24
JPWO2021002110A1 (zh) 2021-01-07
EP3995997A4 (en) 2022-11-16

Similar Documents

Publication Publication Date Title
CN114008631A (zh) 学习装置、学习装置的动作方法、学习装置的动作程序及运用装置
Chen et al. A fuzzy optimization strategy for the implementation of RBF LSSVR model in vis–NIR analysis of pomelo maturity
Xiaobo et al. Variables selection methods in near-infrared spectroscopy
Pomerantsev et al. Process analytical technology: a critical view of the chemometricians
Koljonen et al. A review of genetic algorithms in near infrared spectroscopy and chemometrics: past and future
Calvini et al. Developmentof a classification algorithm for efficient handling of multiple classes in sorting systems based on hyperspectral imaging
JP7028075B2 (ja) 画像処理装置、画像処理方法、画像センサ
TW542909B (en) The method for controlling production process
Khodabakhshian et al. Adulteration detection of Sudan Red and metanil yellow in turmeric powder by NIR spectroscopy and chemometrics: The role of preprocessing methods in analysis
Islam Chemometrics in nondestructive quality evaluation
CN114072811A (zh) 学习装置、学习装置的动作方法、学习装置的动作程序及运用装置
Pranoto et al. Employing artificial neural networks and fluorescence spectrum for food vegetable oils identification
Soh et al. A sparse fused group lasso regression model for fourier-transform infrared spectroscopic data with application to purity prediction in olive oil blends
Vigni et al. Near infrared spectroscopy and multivariate analysis to evaluate wheat flour doughs leavening and bread properties
Reda et al. Optimized variable selection and machine learning models for olive oil quality assessment using portable near infrared spectroscopy
Shi et al. Nondestructive discrimination of analogous density foreign matter inside soy protein meat semi-finished products based on transmission hyperspectral imaging
Reis et al. Prediction of profiles in the process industries
WO2024042088A1 (en) Process monitoring
Ghasemzadeh-Barvarz et al. Multivariate image regression for quality control of natural fiber composites
Hiroaki et al. Classification of pesticide residues in the agricultural products based on diffuse reflectance IR spectroscopy
Makmuang et al. Discrimination of Thai melon seeds using near-infrared spectroscopy and adaptive self-organizing maps
CN114364971A (zh) 用于确定样品中存在的组分的光谱装置和方法
Yip et al. Classification of structurally related commercial contrast media by near infrared spectroscopy
Munir et al. Comparison of data summarization and feature selection techniques for in-process spectral data
US9645086B2 (en) Componential analysis method, componential analysis apparatus and non-transitory computer-readable recording medium

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination