CN109891339B - 产品的制造系统、恶意软件检测系统、产品的制造方法以及恶意软件检测方法 - Google Patents

Abstract

产品的制造系统(10)具备：制造控制装置(20)，保持产品的制造数据：虚拟制造装置(30)，根据制造控制装置(20)的产品的制造数据，通过模拟的方式虚拟进行产品的制造；实际制造装置(40)，根据制造控制装置(20)的制造数据，实际进行产品的制造；以及异常判断部(33)，判断虚拟制造装置(30)虚拟进行的产品的制造中是否有异常。而且，在从虚拟进行的产品的制造中没有判断出异常的情况下，实际制造装置(40)实际进行产品的制造。

Description

产品的制造系统、恶意软件检测系统、产品的制造方法以及恶 意软件检测方法

技术领域

本公开涉及，产品的制造系统、恶意软件检测系统、产品的制造方法以及恶意软件检测方法。

背景技术

近几年，经由互联网等的通信网络与工厂内外的物品以及服务协调，从而以生产性的提高、新的价值的产生、或新的商业模式的构筑为目标的工作活跃。

另一方面，在互联网空间中，由黑客以及恶意软件等的网络攻击活跃。由网络攻击的非法侵入以及信息泄漏等的事例逐年增加，也报告了在工厂内制造数据因不正当的操作等而被窜改时的、不良品的制造、实际的生产设备的生产停止、设备破坏等的事例。因此，需要提高工厂的安全级别。

检测网络内的异常的专利文献有，例如，专利文献1。专利文献1的异常检测系统具备，控制系统(制造系统的一个例子)、监视部、以及管理部。

控制系统，与网络连接，分别在个别的保护区内运转。监视部，按每个控制系统而被设置，检查在该控制系统、与监视的对方的控制系统之间交换的数据，在怀疑对方的控制系统中有异常的情况下发出异常通知。管理部，统计从多个控制系统各自的监视部发出的异常通知，评价怀疑有异常的控制系统的信誉，在根据评价结果与基准对照判断为有异常的情况下，针对怀疑有异常的控制系统运转的保护区域，至少限制从保护区域内部流出的通信量。

在该异常检测系统中，有效地检测怀疑有异常的控制系统，隔离确认到异常的控制系统。

(现有技术文献)

(专利文献)

专利文献1：日本专利第5689333号公报

专利文献2：日本专利第5898024号公报

专利文献3：WO2016/092962号公报

然而，为了导入以往的异常检测系统，而需要大幅度地变更现有的制造系统。于是，为了制造数据不被窜改，而可以考虑改变制造系统的现有的构成要素。但是，在一般的工厂的制造系统，进行长期间的使用，因此，在其期间会发生确保安全性的加密技术的陈腐化以及加密比特长度的不足等。

发明内容

于是，为了解决这样的问题，本公开的目的在于，提供即使不大幅度改变现有的制造系统也能够检测制造数据的异常的产品的制造系统、恶意软件检测系统、产品的制造方法以及恶意软件检测方法。

为了实现所述目的，本公开涉及的产品的制造系统的实施方案之一，进行产品的制造，所述产品的制造系统具备：制造控制装置，保持所述产品的制造数据：虚拟制造装置，根据所述制造控制装置的所述产品的所述制造数据，通过模拟的方式虚拟进行所述产品的制造；实际制造装置，根据所述制造控制装置的所述制造数据，实际进行所述产品的制造；以及异常判断部，判断所述虚拟制造装置虚拟进行的所述产品的制造中是否有异常，在从虚拟进行的所述产品的制造中没有判断出异常的情况下，所述实际制造装置实际进行所述产品的制造。

并且，为了实现所述目的，本公开涉及的恶意软件检测系统的实施方案之一，检测使产品的实际制造装置产生不良状况的恶意软件，所述恶意软件检测系统具备：产品的制造系统；以及恶意软件判断装置，在使所述制造控制装置以及所述虚拟制造装置的至少一方被恶意软件候选感染的状态下，并且，在根据所述制造数据，从所述虚拟制造装置所执行的虚拟的所述产品的制造中检测出异常的情况下，判断所述恶意软件候选是恶意软件。

并且，为了实现所述目的，本公开涉及的产品的制造方法的实施方案之一，进行产品的制造，所述产品的制造方法包括：虚拟制造步骤，根据所述产品的制造数据，通过模拟的方式虚拟进行所述产品的制造；异常判断步骤，判断所述虚拟制造步骤中虚拟进行的所述产品的制造中是否有异常；以及实际制造步骤，在从所述异常判断步骤中虚拟进行的所述产品的制造中没有判断出异常的情况下，根据所述制造数据实际进行所述产品的制造。

并且，为了实现所述目的，本公开涉及的恶意软件检测方法的实施方案之一，检测使产品的实际制造装置产生不良状况的恶意软件，所述恶意软件检测方法包括：虚拟制造步骤，虚拟制造装置根据所述产品的制造数据，通过模拟的方式虚拟进行所述产品的制造；以及在使所述虚拟制造装置以及向所述虚拟制造装置发送所述制造数据的制造控制装置的至少一方被恶意软件候选感染的状态下，所述虚拟制造步骤中从虚拟的所述产品的制造中检测出异常的情况下，判断所述恶意软件候选是恶意软件。

根据本公开，即使不大幅度改变现有的制造系统也能够检测制造数据的异常。

附图说明

图1是实施方式1涉及的具备产品的制造系统的工业系统的示意图。

图2是实施方式1涉及的产品的制造系统的框图。

图3是示出实施方式1涉及的产品的制造系统的制造控制装置的流程图。

图4是示出实施方式1涉及的产品的制造系统的虚拟制造装置的流程图。

图5是示出实施方式1涉及的产品的制造系统的实际制造装置的流程图。

图6是实施方式1涉及的产品的制造系统的制造数据为正常时的序列图。

图7是实施方式1涉及的产品的制造系统的制造数据异常时的序列图。

图8是实施方式1的变形例涉及的产品的制造系统的框图。

图9是实施方式2涉及的具备恶意软件检测系统的工业系统的示意图。

图10是实施方式2涉及的恶意软件检测系统以及实际制造装置的框图。

图11是示出实施方式2涉及的恶意软件检测系统的制造控制装置的流程图。

图12是示出实施方式2涉及的恶意软件检测系统的虚拟制造装置的流程图。

图13是示出实施方式2涉及的恶意软件检测系统的恶意软件判断装置的流程图。

图14是实施方式2涉及的恶意软件检测系统的恶意软件候选不是恶意软件时的序列图。

图15是实施方式2涉及的恶意软件检测系统的恶意软件候选是恶意软件时的序列图。

图16是实施方式2的变形例涉及的恶意软件检测系统的框图。

图17是变形例涉及的产品的制造系统的框图。

图18是变形例涉及的恶意软件检测系统的框图。

具体实施方式

以下，对于本公开的实施方式，参照附图进行说明。以下说明的实施方式，都示出本公开的优选的一个具体例子。因此，以下的实施方式所示的数值、形状、材料、构成要素、构成要素的配置位置以及连接形态等是一个例子，而不是限定本公开的主旨。因此，对于以下的实施方式的构成要素中的、示出本公开的最上位概念的实施方案中没有记载的构成要素，作为任意的构成要素而被说明。

并且，对于“大致＊＊”这记载，若以“大致相同”为例子说明，则意味着不仅包括完全相同，还包括视为实质上相同的情况。

而且，各个图是示意图，并不是严密示出的图。并且，在各个图中，对实质上相同的结构附上相同的符号，省略或简化重复的说明。

以下，说明本公开的实施方式涉及的产品的制造系统、恶意软件检测系统、产品的制造方法以及恶意软件检测方法。

(实施方式1)

[结构]

首先，对于本实施方式涉及的产品的制造系统10的结构，利用图1以及图2进行说明。

图1是实施方式1涉及的具备产品的制造系统10的工业系统1的示意图。图2是实施方式1涉及的产品的制造系统10的框图。以下，将产品的制造系统10简单地称为制造系统10。

如图1示出，工业系统1，与外部的网络2连接，具备防火墙3、多台终端机4、以及控制系统5。工业系统1是，例如，与电子机器的制造等有关的工业系统。在本实施方式中，工厂A以及工厂B具有防火墙3、以及多台终端机4等。

防火墙3，设置在外部的网络2与终端机4之间，防止来自外部的网络2的非法访问、病毒(恶意软件)的侵入。而且，也可以在外部的网络2与终端机4之间设置，从外部的终端机4接收终端证书，认证后将网络对应应用以及加密方式表等向外部的终端机4发送的网关服务器。在此，恶意软件是，进行非法且有害的工作的软件以及代码的总称，除了恶意制作的软件以及代码以外，还包括不意图的软件以及代码。

终端机4是，例如，设置在工厂、办公室等的服务器等，经由网络与控制系统5通信，从控制系统5收集数据。该数据也可以包括，控制数据、工作结果参数等。

控制系统5，具有与工业系统1的用途对应的功能，进行生产线的监视、过程控制等，或者，向终端机4发送制造数据等的信息。控制系统5具有，根据制造数据进行虚拟的产品的制造，若制造数据为正常，则根据该制造数据进行实际的产品的制造的制造系统10。制造数据是，成为进行产品的制造的基础的数据，例如，是与部件的配置有关的数据、与基板上的部件的位置有关的数据以及与图像识别有关的数据等，是进行加工时的机械的工具的轨道数据等、用于制造的广义的含义的数据。

制造系统10具备，多个制造控制装置20、多个虚拟制造装置30、以及多个实际制造装置40。制造控制装置20、虚拟制造装置30以及实际制造装置40各自，分别经由网络连接成能够相互通信。

[制造控制装置]

制造控制装置20是，例如，控制制造线的制造线控制器等的装置，保持制造数据。制造控制装置20，能够与虚拟制造装置30以及实际制造装置40通信，将新输入的产品的制造数据发送给虚拟制造装置30以及实际制造装置40。例如，制造控制装置20，将制造开始以及制造停止的控制信息发送给虚拟制造装置30以及实际制造装置40，或者，将虚拟制造装置30以及实际制造装置40的工作结果参数等从虚拟制造装置30以及实际制造装置40接收。工作结果参数是，制造过程的信息，例如，在虚拟制造装置30是虚拟的部件安装机的情况下，是部件安装机将部件安装在基板的坐标、部件安装机安装在基板的部件的朝向、部件安装机安装在基板的部件以及基板的种类、部件安装的旋转数、部件安装机的速度、部件安装机的电压、部件安装机的电流以及部件安装机的温度的至少一个。并且，工作结果参数，不仅这样的制造过程的信息，还包括与虚拟制造装置30虚拟地制造的产品有关的信息，例如，是示出该产品的大小、形状、花样、重量、部件的配置位置等的信息。实际制造装置40的工作结果参数也是同样。而且，制造控制装置20也可以，例如，将从虚拟制造装置30以及实际制造装置40接收的工作结果参数等，发送给工厂A的终端机4。

制造控制装置20具备，控制部21、存储部24、通信部25、以及输入输出部26。

控制部21，管理存储部24、通信部25、以及输入输出部26等。控制部21，将制造开始以及制造停止等的控制信息、制造数据等，经由通信部25发送给虚拟制造装置30以及实际制造装置40。控制部21，将制造数据、从虚拟制造装置30以及实际制造装置40接收的工作结果参数等存放在存储部24。控制部21，由处理器、或微型计算机等、或专用电路实现这些工作。

控制部21，不仅经由通信部25将制造开始以及制造停止的控制信息发送给虚拟制造装置30以及实际制造装置40，例如，还将控制将部件安装在基板的工作的控制信号逐次发送给虚拟制造装置30以及实际制造装置40。并且，虚拟制造装置30，将安装的部件的位置等的信息逐次发送给制造控制装置20。

存储部24是，存放正常的制造数据、新输入的产品的制造数据、工作结果参数等的存储装置。正常的制造数据是，在向实际制造装置40输入的情况下，能够以规定的工作制造所希望的产品的数据，是不使实际制造装置40产生不良品的制造、实际的生产设备的制造的停止、设备破坏等的数据。正常的制造数据也包括，相当于工作结果参数的数据。在存储部24也可以，预先存放正常的制造数据。存储部24，例如，由半导体存储器实现。

通信部25是，能够与虚拟制造装置30以及实际制造装置40通信的通信接口。在本实施方式中，例如，通信部25能够，从虚拟制造装置30等接收工作结果参数等。

输入输出部26是，能够进行制造数据等的输入输出的装置。输入输出部26也可以，例如，从计算机可读取的记录介质输入输出数据。记录介质是，例如，软盘、硬盘、CD-ROM、MO、DVD、DVD-ROM、DVD-RAM、BD(Blu-ray(注册商标)Disc)、半导体存储器等。并且，输入输出部26也可以，经由网络与其他的接口连接。

[虚拟制造装置]

虚拟制造装置30是，根据从制造控制装置20接收的制造数据，通过模拟的方式虚拟进行产品的制造的装置。此时，虚拟制造装置30，将制造开始以及制造停止的控制信息从制造控制装置20接收，或者，将虚拟制造装置30的工作结果参数等发送给制造控制装置20。虚拟制造装置30，例如，在个人电脑上工作，由部件安装机、回流机、检查机、印刷机、或其组合等的模拟器(后述的虚拟制造装置30)实现。而且，虚拟制造装置30，仅虚拟进行制造，因此，即使在虚拟地制造时进行异常的工作，也不至于实际的生产设备的制造的停止、不良品的生产、设备破坏等。

虚拟制造装置30的模拟器也可以，在虚拟化软件(VMWare(注册商标)，VirtualBox(注册商标))上工作。由虚拟化软件上的模拟器实现，据此，即使模拟器进行异常的工作，虚拟制造装置30，也防止虚拟化软件工作的个人电脑的故障等。

虚拟制造装置30具备，虚拟侧控制部31、虚拟制造部32、异常判断部33、存储部34、以及通信部35。

虚拟侧控制部31，管理虚拟制造部32、异常判断部33、存储部34、以及通信部35等。虚拟侧控制部31进行控制，以使虚拟制造部32制造基于制造数据的产品。虚拟侧控制部31，将与虚拟制造部32生成的工作结果参数、异常判断部33判断的判断结果有关的信息等，经由通信部35发送给制造控制装置20。虚拟侧控制部31，将从制造控制装置20接收的制造数据、虚拟制造部32生成的工作结果参数等存放到存储部34。

虚拟制造部32是，根据制造数据，虚拟地制造产品的模拟器，例如，是制造产品的虚拟的部件安装机。虚拟制造部32，根据制造数据，生成与虚拟进行的产品的制造有关的工作结果参数。具体而言，例如，在实际制造装置40是部件安装线的情况下，虚拟制造部32，生成模拟的部件安装机的工作结果参数。更具体而言，虚拟制造部32，根据制造数据，模拟如下一连串的工作，即，部件安装机从特定的地点获得特定的部件，在基板上的特定的位置，以特定的方向，将特定的部件配置或插入。

在此，制造数据包括，与部件的配置有关的数据、与基板上的部件的位置有关的数据以及与图像识别有关的数据等。

与部件的配置有关的数据包括，在部件安装机的何处配置什么部件的信息。与基板上的部件的位置有关的数据包括，在基板的何处搭载什么部件的信息。与图像识别有关的数据包括，部件的尺寸以及引线的条数以及间距等的信息。

此时，例如，若与制造数据的部件的配置有关的数据有异常，则发生不能从部件安装机的特定的地点获得特定的部件的异常。并且，例如，若与制造数据的基板上的部件的位置有关的数据有异常，则发生不能在基板上的特定的位置，以特定的方向，将特定的部件配置或插入的异常。如此，在制造数据有异常的情况下，模拟的部件安装机的工作结果参数示出异常值。换而言之，根据制造数据的异常，在部件安装机，将部件安装在基板的坐标、部件安装机安装在基板的部件的朝向、部件安装机安装在基板的部件以及基板的种类、驱动将部件安装在基板的头的驱动部等的旋转数、头移动的速度、部件安装机的电压、部件安装机的电流、回流时的温度等的参数示出异常值，或者，虚拟侧控制部31的输出示出与规定不同的异常值。作为一个例子，在具备头的手臂的移动范围过度超过部件安装机的容许等，超过决定部件安装机的能力值的配置信息的情况下，可以说部件安装机的参数是异常。

并且，对于虚拟地制造的产品，相对于正常的产品，也发生特定的部件的配置或插入、特定的部件的朝向、配置不同部件等的异常。

若与制造数据的部件的配置有关的数据、与基板上的部件的位置有关的数据以及与图像识别有关的数据等为正常，则虚拟制造部32虚拟地制造的产品(虚拟制造部32生成的工作结果参数)，获得与实际制造装置40制造的产品大致相同的结果。

虚拟制造部32，生成工作结果参数等，将工作结果参数等发送给异常判断部33。

并且，虚拟制造部32也可以，在根据制造数据虚拟地制造产品时，将作为工作结果参数的一部分的与制造过程有关的信息逐次发送给制造控制装置20。

异常判断部33是，进行从虚拟制造部32接收的工作结果参数的异常或正常的判断的装置。换而言之，异常判断部33是，基于虚拟侧控制部31与虚拟制造部32之间的通信信息，根据工作结果参数判断虚拟进行的产品的制造中是否有异常的装置。具体而言，异常判断部33，对工作结果参数与存储部34所存放的正常的制造数据进行对照，判断是否有异常。作为一个例子，异常判断部33，若在部件安装机，将部件安装在基板的坐标、部件的材料、部件安装机安装在基板的部件的朝向、部件安装机安装的部件以及基板的种类、驱动将部件安装在基板的头的驱动部等的旋转数、头移动的速度、部件安装机的电压、部件安装机的电流、回流时的温度等的参数是异常值，则判断为有异常，生成判断结果为异常的异常信息(与判断结果有关的信息)。也就是说，异常判断部33，将基于制造数据生成的工作结果参数与异常信息建立对应。

另一方面，异常判断部33，若工作结果参数、与存储部34所存放的正常的制造数据大致相同，则生成判断结果为正常的正常信息(与判断结果有关的信息)。异常判断部33，将基于制造数据生成的工作结果参数与正常信息建立对应。

异常判断部33，将这样的与判断结果有关的信息发送给虚拟侧控制部31。而且，正常的制造数据是，所述部件安装机的参数在误差的范围内的数据。异常判断部33，若在该误差的范围内，则判断为工作结果参数与正常的制造数据大致相同。异常判断部33，将生成的异常信息以及正常信息，与符合的工作结果参数相关联并存放到存储部34。而且，也可以将异常判断部33设置在制造控制装置20。

存储部34是，存放正常的制造数据、工作结果参数、与判断结果有关的信息等的存储装置。存储部34，例如，由半导体存储器实现。

通信部35是，能够与制造控制装置20以及实际制造装置40进行通信的通信接口。在本实施方式中，例如，通信部35能够，发送与异常判断部33判断的判断结果有关的信息，接收制造数据等的数据。

[实际制造装置]

实际制造装置40是，根据从制造控制装置20接收的制造数据，实际进行产品的制造的装置，例如，是工厂等的制造线设备。此时，实际制造装置40，将制造开始以及制造停止的控制信息从制造控制装置20接收，或者，将工作结果参数发送给制造控制装置20。

实际制造装置40具备，制造侧控制部41、制造部42、存储部44、以及通信部45。

制造侧控制部41，管理制造部42、存储部44、以及通信部45。制造侧控制部41，从制造控制装置20接收制造数据，并存放到存储部44。制造侧控制部41，将制造开始以及制造停止的控制信息从信息制造控制装置20接收，使制造部42根据制造数据制造产品、或停止产品的制造。制造侧控制部41，将实际的工作结果参数，经由通信部45发送给制造控制装置20。

制造部42是，根据制造数据，实际制造产品的工业设备。具体而言，例如，在制造部42是部件安装线的情况下，例如，执行部件安装机的工作。在部件安装的情况下，进行如下工作，即，根据制造数据，从部件安装机的特定的地点获得特定的部件，在基板上的特定的位置，以特定的方向，将特定的部件配置或插入。

并且，制造部42，在根据制造数据实际制造产品时，将作为工作结果参数的一部分的与制造过程有关的信息逐次发送给制造控制装置20。在此情况下，制造控制装置20的控制部21也可以，判断与制造过程有关的信息是否基于正常的制造数据。若与制造过程有关的信息有异常，制造控制装置20也可以，通知制造数据有异常。因此，也可以将判断与制造过程有关的信息的异常判断部33设置在制造控制装置20。而且，若制造数据为异常，则也可以新生成制造数据。

存储部44是，存放制造数据、工作结果参数等的存储装置。存储部44，例如，由半导体存储器实现。

通信部45是，能够与制造控制装置20以及虚拟制造装置30进行通信的通信接口。在本实施方式中，例如，通信部45能够，发送工作结果参数，接收制造数据等的数据。

[制造系统的工作]

以下，对于所述制造系统10的工作，利用图3至图5进行说明。

图3是示出实施方式1涉及的产品的制造系统的制造控制装置20的流程图。图4是示出实施方式1涉及的产品的制造系统的虚拟制造装置30的流程图。图5是示出实施方式1涉及的产品的制造系统的实际制造装置40的流程图。

如图3示出，首先，在制造系统10中，制造数据输入到制造控制装置20的输入输出部26(步骤S1)。输入到制造控制装置20的制造数据，由制造控制装置20的存储部24存放。

接着，制造控制装置20的控制部21，经由制造控制装置20的通信部25将制造数据发送给虚拟制造装置30(步骤S2)。

接着，如图4示出，虚拟制造装置30，经由虚拟制造装置30的通信部35从制造控制装置20接收制造数据(步骤S11)。虚拟侧控制部31，将接收的制造数据存放到存储部34。

接着，虚拟侧控制部31，根据制造数据，使虚拟制造部32通过模拟的方式虚拟地制造产品。也就是说，虚拟侧控制部31，使虚拟制造部32生成工作结果参数(步骤S12：虚拟制造步骤的一个例子)。也就是说，虚拟制造步骤，产品的制造数据，通过模拟的方式虚拟进行产品的制造。虚拟侧控制部31，将生成的工作结果参数存放到存储部34。

接着，虚拟制造部32，将工作结果参数发送给虚拟制造装置30的异常判断部33。而且，异常判断部33，判断该工作结果参数是否是异常的信息(步骤S13：异常判断步骤的一个例子)。也就是说，异常判断步骤，判断在虚拟制造步骤中虚拟进行的产品的制造中是否有异常。异常判断部33，在判断工作结果参数为异常的情况下(步骤S13的“是”)，生成关于与工作结果参数相关联的判断结果的信息(异常信息)。虚拟制造部32，经由通信部35将工作结果参数为异常的异常信息发送给制造控制装置20(步骤S14)。而且，结束该虚拟制造装置30的流程，进入图3的步骤S3。

另一方面，在异常判断部33判断工作结果参数为正常的情况下(步骤S13的“否”)，生成关于与工作结果参数相关联的判断结果的信息(正常信息)。虚拟制造部32，经由通信部35将工作结果参数为正常的正常信息发送给制造控制装置20(步骤S15)。而且，结束该虚拟制造装置30的流程，进入图3的步骤S3。而且，在步骤S14以及步骤S15中，也可以将虚拟制造部32生成的工作结果参数发送给制造控制装置20。并且，制造控制装置20，也可以将接收的工作结果参数存放到存储部24。

接着，如图3示出，制造控制装置20的控制部21，判断从虚拟制造装置30接收的信息是异常信息、以及正常信息的哪一方(步骤S3)。若从虚拟制造装置30接收的信息是正常信息(步骤S3的“是”)，制造控制装置20的控制部21，经由制造控制装置20的通信部25向实际制造装置40发送制造数据(步骤S4)。

另一方面，若从虚拟制造装置30接收的信息是异常信息(步骤S3的“否”)，制造控制装置20的控制部21，通知制造数据是异常信息(步骤S5)。而且，结束该制造控制装置20的流程，进入图5的实际制造装置40的流程。

接着，如图5示出，实际制造装置40，接收来自图3的步骤S4的制造控制装置20的制造数据(步骤S21)。而且，实际制造装置40的制造侧控制部41，将制造数据存放到存储部44。

接着，制造侧控制部41，将制造基于制造数据的实际的产品的指示给予制造部42(步骤S22：实际制造步骤的一个例子)。也就是说，实际制造步骤，在从异常判断步骤中虚拟进行的产品的制造中没有判断出异常的情况下，根据制造数据实际进行产品的制造。

接着，制造部42，进行基于制造数据的产品的制造、以及基于制造数据的工作结果参数的生成。制造侧控制部41，将制造部42生成的工作结果参数存放到存储部44。制造侧控制部41，经由通信部45向制造控制装置20发送工作结果参数(步骤S23)。而且，结束该实际制造装置40的流程，进入图3的步骤S3。

接着，制造控制装置20，从实际制造装置40接收工作结果参数(步骤S6)，将工作结果参数存放到制造控制装置20的存储部24。据此，制造系统10中的一连串的工作结束。而且，图3至图5的流程，并不执行一次，也可以在第一次的流程结束后，进行新的流程。

如此，在实际进行产品的制造之前，虚拟制造装置30通过模拟的方式虚拟进行产品的制造。若虚拟制造装置30的工作结果参数为异常，则不使实际制造装置40进行制造，若虚拟制造装置30的工作结果参数为正常，则使实际制造装置40进行制造。而且，若虚拟制造装置30的工作结果参数为异常，则向外部通知异常信息。例如，也可以由警报器等发出警告，或者，根据制造过程以及制造结果，在显示画面显示何处有异常。若虚拟制造装置30的工作结果参数为正常，则根据制造数据由实际制造装置40制造产品，因此，能够获得所希望的产品。

接着，对于制造数据为正常时的制造系统10的工作例，利用图6进行说明。

图6是实施方式1涉及的产品的制造系统10的制造数据为正常时的序列图。

首先，如图6示出，在制造控制装置20中，制造数据从输入输出部26输入(步骤S101)。输入到制造控制装置20的制造数据，存放到制造控制装置20的存储部24。

接着，制造控制装置20的控制部21，经由制造控制装置20的通信部25将制造数据发送给虚拟制造装置30(步骤S102)。

接着，虚拟制造装置30，从制造控制装置20接收制造数据(步骤S111)。制造控制装置20的虚拟侧控制部31，将接收的制造数据存放到存储部34。

接着，虚拟侧控制部31，根据制造数据，使虚拟制造部32虚拟地制造产品。也就是说，虚拟侧控制部31，使虚拟制造部32生成工作结果参数(步骤S112)。

接着，虚拟制造部32，将工作结果参数发送给虚拟制造装置30的异常判断部33。异常判断部33，判断该工作结果参数是否是异常的信息。在图6中，是制造数据为正常的情况，因此，异常判断部33，判断工作结果参数为正常(步骤S113)，生成与基于制造数据生成的工作结果参数所对应的判断结果有关的信息(正常信息)。虚拟侧控制部31，经由通信部35将该正常信息发送给制造控制装置20(步骤S114)。而且，在步骤S14以及步骤S22中也可以，将虚拟制造部32生成的工作结果参数发送给制造控制装置20。并且，制造控制装置20也可以，将接收的工作结果参数存放到存储部24。

接着，制造控制装置20的控制部21，经由通信部25从虚拟制造装置30接收正常信息(步骤S103)。控制部21，将虚拟制造装置30模拟的制造数据与正常信息建立对应存放到存储部24。

制造控制装置20的控制部21，经由制造控制装置20的通信部25将判断为正常信息的制造数据发送给实际制造装置40(步骤S104)。

接着，实际制造装置40，从制造控制装置20接收该制造数据(步骤S121)。而且，实际制造装置40的制造侧控制部41，将该制造数据存放到存储部44。

接着，制造侧控制部41，根据该制造数据，使制造部42制造实际的产品(步骤S122)。而且，虚拟制造装置30，向制造控制装置20发送与制造过程有关的信息，从制造控制装置20接收控制信息。

接着，制造部42，生成实际制造的产品的工作结果参数，将该工作结果参数发送给制造控制装置20(步骤S123)。制造控制装置20的控制部21，经由通信部25接收该工作结果参数，存放到制造控制装置20的存储部24。据此，制造系统10，进行基于正常的制造数据的制造，因此，能够制造所希望的产品。

接着，对于制造数据为异常时的制造系统10的工作例，利用图7进行说明。

图7是实施方式1涉及的产品的制造系统10的制造数据异常时的序列图。

如图7示出，在制造系统10中，进行与图6的步骤S101、步骤S102、步骤S111、以及步骤S112同样的工作。在图7中，是制造数据为异常的情况，因此，异常判断部33，判断工作结果参数为异常(步骤S213)，生成与基于制造数据生成的工作结果参数所对应的判断结果有关的信息(异常信息)。虚拟侧控制部31，经由通信部35将该异常信息发送给制造控制装置20(步骤S214)。而且，在步骤S214中也可以，将虚拟制造部32生成的工作结果参数发送给制造控制装置20。并且，制造控制装置20也可以，将接收的工作结果参数存放到存储部24。

接着，制造控制装置20的控制部21，经由制造控制装置20的通信部25，从虚拟制造装置30接收异常信息(步骤S203)。制造控制装置20的控制部21，将虚拟制造装置30模拟的制造数据与异常信息建立对应存放到存储部24。

接着，制造控制装置20的控制部21，通知制造数据是异常信息。在此情况下，制造控制装置20，不将异常的制造数据发送给实际制造装置40。

[作用效果]

接着，说明本实施方式的产品的制造系统10的作用效果。

如上所述，在本实施方式涉及的产品的制造系统10中，进行产品的制造。并且，产品制造系统10，具备：制造控制装置20，保持产品的制造数据；虚拟制造装置30，根据制造控制装置20的产品的制造数据，通过模拟的方式虚拟进行产品的制造；实际制造装置40，根据制造控制装置20的制造数据，实际进行产品的制造；以及异常判断部33判断虚拟制造装置30虚拟进行的产品的制造中是否有异常。而且，在虚拟进行的产品的制造中没有判断出异常的情况下，实际制造装置40，实际进行产品的制造。

制造系统10会有，制造数据在制造控制装置20内已经被窜改而异常的情况，以及，制造数据经由网络被窜改而异常的情况等。据此，根据产品的制造数据虚拟制造装置30以模拟的方式虚拟进行产品的制造，因此，即使制造数据有异常，也能够判断虚拟制造装置30虚拟进行的产品的制造中是否有异常。

因此，在该制造系统10中，即使不大幅度改变现有的制造系统也能够检测制造数据的异常。如此，在制造系统10中，若在实际进行产品的制造之前能够检测制造数据的异常，则能够防止基于异常的制造数据的不良品的制造、实际的生产设备的制造的停止、设备破坏等的实际制造装置40的不良状况。

并且，在本实施方式的涉及的产品的制造方法中，进行产品的制造。并且，包括：虚拟制造步骤，根据产品的制造数据，通过模拟的方式虚拟进行产品的制造；异常判断步骤，判断虚拟制造步骤中虚拟进行的产品的制造中是否有异常；以及实际制造步骤，在从异常判断步骤中虚拟进行的产品的制造中没有判断出异常的情况下，根据制造数据实际进行产品的制造。

在该制造方法中，也获得与产品的制造系统10同样的作用效果。

并且，在本实施方式涉及的产品制造系统10中，虚拟制造装置30，具有：虚拟制造部32，根据制造数据，虚拟进行产品的制造；以及虚拟侧控制部31，根据制造数据，对虚拟制造部32的工作进行控制。而且，异常判断部33，被设置在虚拟制造装置30。

据此，虚拟制造部32虚拟进行产品的制造之后，异常判断部33判断虚拟制造部32虚拟进行的产品的制造中是否有异常。因此，该制造系统10也同样，能够防止基于异常的制造数据的不良品的制造、实际的生产设备的制造的停止、设备破坏等的实际制造装置40的不良状况。

并且，在本实施方式涉及的产品的制造系统10中，虚拟制造部32，生成与虚拟进行的产品的制造有关的工作结果参数。异常判断部33，根据工作结果参数判断虚拟进行的产品的制造中是否有异常。

据此，根据从虚拟制造部32接收的工作结果参数，异常判断部33判断是否有异常，因此，若分析工作结果参数，则能够根据虚拟制造部32虚拟进行的产品的制造的制造数据容易确定异常的部分。

并且，在本实施方式涉及的产品制造系统10中，虚拟制造部32是，制造产品的虚拟的部件安装机。而且，工作结果参数是，部件安装机将部件安装在基板的坐标、部件安装机安装在基板的部件的朝向、部件安装机安装的部件以及基板的种类、部件安装机的旋转数、部件安装机的速度、部件安装机的电压、部件安装机的电流以及部件安装机的温度中的至少一个。

据此，根据具体的工作结果参数，异常判断部33判断是否有异常，因此，若分析工作结果参数，则能够根据虚拟制造部32虚拟进行的产品的制造的制造数据容易确定异常的部分。

并且，在本实施方式涉及的产品制造系统10中，异常判断部33，根据虚拟侧控制部31与虚拟制造部32之间的通信信息，判断产品的制造中是否有异常。

据此，异常判断部33，根据虚拟制造装置30内的虚拟侧控制部31与虚拟制造部32之间的通信信息，读入虚拟侧控制部31向虚拟制造部32发送的工作的控制，因此，能够早期判断基于工作结果参数的异常的有无。

(实施方式1的变形例)

以下，对于本变形例涉及的制造系统100，利用图8进行说明。

图8是实施方式1的变形例涉及的产品的制造系统100的框图。

在实施方式1中，制造控制装置20、虚拟制造装置30以及实际制造装置40各自连接成能够相互通信，但是，在本变形例中，不同之处是，制造控制装置20、虚拟制造装置30以及实际制造装置40按照其排列顺序串联连接。

本变形方式的其他的结构，在没有特别明确记载的情况下，与实施方式1同样，对于相同的结构附上相同的符号，省略详细说明。

制造控制装置20、虚拟制造装置30以及实际制造装置40，按照排列顺序串联连接。虚拟制造装置30与制造控制装置20连接成能够通信，实际制造装置40与虚拟制造装置30连接成能够通信。也就是说，制造控制装置20与实际制造装置40不能直接进行通信，制造控制装置20以及实际制造装置40被设置为，经由虚拟制造装置30能够通信。

并且，在本变形例涉及的产品制造系统100中，制造控制装置20、虚拟制造装置30以及实际制造装置40，按照其排列顺序串联连接。

在制造控制装置20、虚拟制造装置30以及实际制造装置40连接成能够相互通信的情况下，例如，制造控制装置20的控制部21需要设定发送目的地。因此，在控制部21将制造数据发送给虚拟制造装置30时，会有因某种不良状况而向实际制造装置40直接发送异常的制造数据的情况。

但是，据此，制造控制装置20，经由虚拟制造装置30向实际制造装置40发送制造数据。也就是说，虚拟制造装置30物理分断制造控制装置20与实际制造装置40的通信。据此，难以因不良状况而向实际制造装置40直接发送异常的制造数据。

对于本变形例的其他的作用效果，也得到与实施方式1同样的作用效果。

(实施方式2)

[结构]

首先，说明本实施方式涉及的恶意软件检测系统300的结构。

图9是实施方式2涉及的具备恶意软件检测系统300的工业系统的示意图。图10是实施方式2涉及的恶意软件检测系统300的框图。

在实施方式2中，与实施方式1不同之处是，实施方式1的制造系统100还具备恶意软件判断装置50的恶意软件检测系统300。

本实施方式的其他的结构，在没有特别明确记载的情况下，与实施方式1同样，对于相同的结构附上相同的符号，省略详细说明。

如图9以及图10示出，控制系统5，具有与工业系统1的用途对应的功能，进行生产线的监视、过程控制等，或者，向终端机4发送制造数据等的信息。控制系统5具备，根据制造数据进行虚拟的产品的制造，若制造数据为正常，则根据该制造数据进行实际的产品的制造的恶意软件检测系统300。

恶意软件检测系统300，检测使产品的实际制造装置40产生不良状况的恶意软件。恶意软件检测系统300具备，制造控制装置20、虚拟制造装置30、实际制造装置40、以及恶意软件判断装置50。制造控制装置20、虚拟制造装置30以及恶意软件判断装置50，分别经由网络连接成能够相互通信。制造控制装置20、虚拟制造装置30、以及实际制造装置40，相当于制造系统。

[制造控制装置]

制造控制装置20，能够与虚拟制造装置30以及恶意软件判断装置50通信，将新输入的产品的制造数据发送给虚拟制造装置30以及实际制造装置40。

存储部24是，存放正常的制造数据、新输入的产品的制造数据、工作结果参数、与恶意软件候选结果有关的信息等的存储装置。

通信部25是，能够与虚拟制造装置30、实际制造装置40以及恶意软件判断装置50通信的通信接口。

[虚拟制造装置]

对于异常判断部33，作为一个例子，若在部件安装机，将部件安装在基板的坐标、部件的材料、部件安装机安装在基板的部件的朝向、部件安装机安装的部件以及基板的种类、驱动部件安装机的驱动部、驱动将部件安装在基板的头的驱动部等的旋转数、头移动的速度、部件安装机的电压、部件安装机的电流、回流时的温度等的参数是异常值，则判断为有异常，生成判断结果为异常的异常信息(与判断结果有关的信息)。

通信部35是，能够与制造控制装置20、实际制造装置40以及恶意软件判断装置50通信的通信接口。

[实际制造装置]

实际制造装置40是，根据从制造控制装置20接收的制造数据，实际进行制造的工业设备，例如，是工厂等的制造线设备。具体而言，例如，在实际制造装置是部件安装线的情况下，例如，执行部件安装机的工作。在部件安装的情况下，进行如下工作，即，根据制造数据，从部件安装机的特定的地点获得特定的部件，在基板上的特定的位置，以特定的方向，将特定的部件配置或插入。实际制造装置40，将制造开始以及制造停止的控制信息从制造控制装置20接收，或者，将工作结果参数发送给制造控制装置20。

实际制造装置40，从制造控制装置20接收制造数据，并存放到实际制造装置40的存储部44。实际制造装置40，将制造开始以及制造停止的控制信息从制造控制装置20接收，使制造部制造基于制造数据的产品，或者，停止产品的制造。实际制造装置40也可以，将实际的工作结果参数，发送给制造控制装置20。

[恶意软件判断装置]

恶意软件判断装置50，在使制造控制装置20以及虚拟制造装置30的至少一方被恶意软件候选感染的状态下，根据制造数据从虚拟制造装置30所执行的虚拟的产品的制造中检测出异常的情况下，判断恶意软件候选是恶意软件。并且，恶意软件判断装置50也可以，根据工作结果参数、工作状况等判断是否是恶意软件。

在恶意软件检测系统300中，对于制造数据是否是恶意软件的判断，例如，在恶意软件判断装置50使制造控制装置20以及虚拟制造装置30被恶意软件候选感染之前，根据正常的制造数据，虚拟制造装置30以及实际制造装置40进行产品的制造。具体而言，恶意软件判断装置50，对虚拟制造装置30根据正常的制造数据生成的工作结果参数、与在使恶意软件候选感染虚拟制造装置30之后虚拟制造装置30生成的工作结果参数进行比较，进行制造数据是否是恶意软件的判断。

恶意软件判断装置50，在制造控制装置20中，也判断构成制造控制装置20的控制部21、存储部24、通信部25以及输入输出部26的工作信息中是否检测出异常。并且，恶意软件判断装置50，例如，判断制造控制装置20是否能够对虚拟制造装置30以及实际制造装置40进行正常的指示。在制造控制装置20使实际制造装置40进行制造的情况下，对实际制造装置40根据正常的制造数据生成的工作结果参数、与在使恶意软件候选感染制造控制装置20感染之后以感染的制造控制装置20的指示由实际制造装置40生成的工作结果参数进行比较，进行制造数据是否是恶意软件的判断。

[恶意软件检测系统的工作]

以下，对于所述恶意软件检测系统300的工作(恶意软件检测方法)，利用图11至图13进行说明。恶意软件检测方法，检测使产品的实际制造装置40产生不良状况的恶意软件。

图11是示出实施方式2涉及的恶意软件检测系统300的制造控制装置20的流程图。图12是示出实施方式2涉及的恶意软件检测系统300的虚拟制造装置30的流程图。图13是示出实施方式2涉及的恶意软件检测系统300的恶意软件判断装置20的流程图。

首先，如图11示出，在恶意软件检测系统300中，在制造控制装置20以及虚拟制造装置30没有被恶意软件感染的正常的状态下，制造控制装置20向虚拟制造装置30发送制造数据(步骤S301)。输入到制造控制装置20的制造数据，存放到制造控制装置20的存储部24。而且，在步骤S301中设想为，制造数据是，不明确是否有异常的制造数据。

接着，如图12示出，正常的状态的虚拟制造装置30，经由虚拟制造装置30的通信部35从正常的制造控制装置20接收制造数据(步骤S311)。

接着，该虚拟制造装置30，根据该制造数据，使虚拟制造部32虚拟地制造产品。也就是说，虚拟侧控制部31，使虚拟制造部32生成工作结果参数(步骤S312)。步骤S312，为了在后述的步骤S316，执行恶意软件候选之前，判断制造数据是否是正常而进行。虚拟侧控制部31，将生成的工作结果参数存放到存储部34。

接着，虚拟制造部32，将工作结果参数发送给虚拟制造装置30的异常判断部33。而且，异常判断部33，判断该工作结果参数是否是正常的信息(步骤S313)。异常判断部33，在判断工作结果参数为正常的情况下(步骤S313的“是”)，生成关于与工作结果参数相关联的第一判断结果的信息(正常信息)。虚拟制造部32，经由通信部35将与第一判断结果有关的信息(工作结果参数)为正常的正常信息发送给制造控制装置20(步骤S314)。与第一判断结果有关的信息，包括在与判断结果有关的信息中。

另一方面，异常判断部33，在判断工作结果参数为异常的情况下(步骤S313的“否”)，生成关于与工作结果参数相关联的第一判断结果的信息(异常信息)。虚拟制造部32，经由通信部35将与第一判断结果有关的信息(工作结果参数)为异常的异常信息发送给制造控制装置20(步骤S321)。而且，结束该虚拟制造装置30的流程，进入图11的制造控制装置20的流程。而且，在步骤S314以及步骤S321中也可以，将虚拟制造部32生成的工作结果参数发送给制造控制装置20。并且，制造控制装置20也可以，将接收的工作结果参数存放到存储部24。

接着，如图11示出，制造控制装置20，从虚拟制造装置30接收与第一判断结果有关的信息(步骤S302)。

接着，制造控制装置20，判断从虚拟制造装置30接收的与第一判断结果有关的信息是否是正常(步骤S303)。在制造控制装置20从虚拟制造装置30接收正常信息的情况下(步骤S303的“是”)，进入步骤S304。

另一方面，在制造控制装置20从虚拟制造装置30接收异常信息的情况下(步骤S303的“否”)，制造控制装置20的控制部21，通知制造数据为异常信息(步骤S309)。在此情况下，也可以再次生成制造数据，或者，也可以判断为被恶意软件感染。而且，结束该制造控制装置20的流程。

接着，恶意软件候选从输入输出部26输入到制造控制装置20(步骤S304)。而且，对于恶意软件候选的输入，不仅限于来自输入输出部26的输入，也可以经由网络输入。

接着，制造控制装置20的控制部21，经由制造控制装置20的通信部25将恶意软件候选发送给虚拟制造装置30(步骤S305)。

接着，如图12示出，虚拟制造装置30，从制造控制装置20接收恶意软件候选(步骤S315)。

接着，虚拟侧控制部31，执行恶意软件候选(步骤S316)。恶意软件候选的形式是，例如，exe文件等。恶意软件候选的执行是指，例如，对初始程序适用补丁。而且，在本实施方式中，使虚拟制造装置30感染，但是，使制造控制装置20或虚拟制造装置30的至少一方感染即可。

并且，如图11示出，在制造控制装置20中，制造数据从输入输出部26输入(步骤S306)。

接着，制造控制装置20，向虚拟制造装置30发送制造数据(步骤S307)。

接着，如图12示出，虚拟制造装置30，接收制造数据(步骤S317)。虚拟制造装置30的虚拟侧控制部31，根据制造数据，虚拟制造部32虚拟地制造产品。也就是说，虚拟侧控制部31，使虚拟制造部32生成工作结果参数(步骤S318：虚拟制造步骤的一个例子)。也就是说，虚拟制造步骤，虚拟制造装置30根据产品的制造数据，通过模拟的方式虚拟进行产品的制造。虚拟侧控制部31，将生成的工作结果参数存放到存储部34。而且，也可以逐次发送与作为工作结果参数的一部分的制造过程有关的信息。

接着，虚拟制造部32，将工作结果参数发送给虚拟制造装置30的异常判断部33。而且，异常判断部33，判断该工作结果参数是否是正常的信息(步骤S319)。异常判断部33，在判断工作结果参数为正常的情况下(步骤S319的“是”)，生成关于与工作结果参数相关联的第二判断结果的信息(正常信息)。虚拟制造部32，经由通信部35将与第二判断结果有关的信息为正常的正常信息发送给恶意软件判断装置50(步骤S320)。而且，结束该虚拟制造装置30的流程，进入图13的恶意软件判断装置50的流程。与第二判断结果有关的信息，包括在与判断结果有关的信息中，不同于与第一判断结果有关的信息。

另一方面，在异常判断部33判断为工作结果参数中产生异常的情况下(步骤S319的“否”)，生成关于与工作结果参数相关联的第二判断结果的信息(异常信息)。虚拟制造部32，经由通信部35将与第二判断结果有关的信息为异常的异常信息发送给恶意软件判断装置50(步骤S322)。而且，结束该虚拟制造装置30的流程，进入图13的恶意软件判断装置50的流程。

接着，如图13示出，恶意软件判断装置50，判断是否从虚拟制造装置30接收与第二判断结果有关的信息(正常信息或异常信息)(步骤S331)。

恶意软件判断装置50，在从虚拟制造装置30没有接收与第二判断结果有关的信息(正常信息或异常信息)的情况下，在基于制造数据的虚拟地制造产品的过程中，暂停，能够判断为产生不能生成工作结果参数等的不良状况。因此，恶意软件判断装置50，在从虚拟制造装置30没有接收与第二判断结果有关的信息(正常信息或异常信息)的情况下(步骤S331的“否”)，将判断恶意软件候选为恶意软件的、与恶意软件候选的结果有关的信息发送给制造控制装置20(步骤S334)。而且，结束该恶意软件判断装置50的流程。

另一方面，恶意软件判断装置50，在从虚拟制造装置30接收与第二判断结果有关的信息(正常信息或异常信息)的情况下(步骤S331的“是”)，判断为生成工作结果参数。

接着，恶意软件判断装置50，判断是否从虚拟制造装置30接收异常信息(步骤S332：恶意软件判断步骤的一个例子)。在恶意软件判断装置50从虚拟制造装置30接收异常信息的情况下(步骤S332的“否”)，进入步骤S334。而且，恶意软件判断步骤，在使虚拟制造装置30以及向虚拟制造装置30发送制造数据的制造控制装置20的至少一方被恶意软件候选感染的状态下，虚拟制造步骤中从虚拟的产品的制造中检测出异常的情况下，判断恶意软件候选是恶意软件。

另一方面，在恶意软件判断装置50从虚拟制造装置30接收异常信息的情况下(步骤S332的“是”)，将判断恶意软件候选不是恶意软件的、与恶意软件候选有关的结果的信息发送给制造控制装置20(步骤S333)。而且，结束该恶意软件判断装置50的流程。

而且，制造控制装置20，从恶意软件判断装置50接收与恶意软件候选的结果有关的信息(步骤S308)。据此，结束制造控制装置20的流程。

而且，在恶意软件候选不是恶意软件的情况下，制造控制装置20的控制部21，也可以将制造数据发送给实际制造装置40。而且，实际制造装置40的制造部，也可以进行基于制造数据的产品的制造、以及基于制造数据的工作结果参数的生成。据此，恶意软件检测系统300的一连串的工作结束。

如此，在恶意软件检测系统300中，恶意软件判断装置50判断恶意软件候选是否是恶意软件，从而能够检测恶意软件。图11至图13的流程，并不执行一次，也可以在第一次的流程结束后，进行新的流程。

接着，对于制造数据为正常时的恶意软件检测系统300的工作例，利用图14进行说明。

图14是实施方式2涉及的恶意软件检测系统300的恶意软件候选不是恶意软件时的序列图。

首先，如图14示出，在恶意软件检测系统300中，在制造控制装置20以及虚拟制造装置30没有被恶意软件感染的正常的状态下，制造控制装置20向虚拟制造装置30发送制造数据(步骤S401)。

接着，正常的状态的虚拟制造装置30，经由虚拟制造装置30的通信部35从正常的制造控制装置20接收制造数据(步骤S411)。而且，在步骤S411中设想为，制造数据为正常的情况。

接着，该虚拟制造装置30，根据正常的制造数据，使虚拟制造部32生成工作结果参数(步骤S412)。

接着，异常判断部33，由于基于正常的制造数据，因此，判断工作结果参数为正常，生成关于与工作结果参数相关联的第一判断结果的信息(正常信息)(步骤S413)。虚拟侧控制部31，将生成的正常的工作结果参数以及正常信息存放到存储部34。而且，虚拟制造部32，经由通信部35将工作结果参数为正常的正常信息发送给制造控制装置20(步骤S413)。而且，在步骤S413中也可以，将虚拟制造部32生成的工作结果参数发送给制造控制装置20。并且，制造控制装置20也可以，将接收的工作结果参数存放到存储部24。

接着，制造控制装置20，从虚拟制造装置30接收与第一判断结果有关的信息(正常信息)(步骤S402)。

接着，恶意软件候选从输入输出部26输入到制造控制装置20(步骤S403)。

接着，制造控制装置20的控制部21，经由制造控制装置20的通信部25将恶意软件候选发送给虚拟制造装置30(步骤S404)。

接着，虚拟制造装置30，从制造控制装置20接收恶意软件候选(步骤S414)。

接着，虚拟侧控制部31，执行恶意软件候选(步骤S415)。

并且，在制造控制装置20中，制造数据从输入输出部26输入(步骤S405)。

接着，制造控制装置20，向虚拟制造装置30发送制造数据(步骤S406)。

接着，虚拟制造装置30，从制造数据接收恶意软件候选(步骤S416)。

接着，虚拟制造装置30的虚拟侧控制部31，根据制造数据，使虚拟制造部32生成工作结果参数(步骤S417：虚拟制造步骤的一个例子)。而且，虚拟制造装置30，向制造控制装置20发送与制造过程有关的信息，从制造控制装置20接收控制信息。虚拟侧控制部31，将生成的工作结果参数存放到存储部34。

接着，异常判断部33，判断该工作结果参数是正常的信息(步骤S418)。异常判断部33，生成与工作结果参数相关联的正常信息。虚拟制造部32，经由通信部35将工作结果参数为正常的正常信息发送给恶意软件判断装置50(步骤S419)。

接着，恶意软件判断装置50，从虚拟制造装置30接收与第二判断结果有关的信息(正常信息)(步骤S421)。

接着，恶意软件判断装置50，由于来自虚拟制造装置30的与第二判断结果有关的信息是正常信息，因此，判断为工作结果参数没有异常(步骤S422)。

接着，恶意软件判断装置50，将判断恶意软件候选不是恶意软件的、与恶意软件候选的结果有关的信息发送给制造控制装置20(步骤S423)。

而且，制造控制装置20，将与恶意软件候选的结果有关的信息从恶意软件判断装置50接收(步骤S407)。而且，结束制造控制装置20的流程。据此，在恶意软件检测系统300中，能够检测恶意软件。

接着，对于制造数据为异常时的恶意软件检测系统300的工作例，利用图15进行说明。

图15是实施方式涉及的恶意软件检测系统300的恶意软件候选是恶意软件时的序列图。

如图15示出，在恶意软件检测系统300中，进行与图14的步骤S401至步骤S406、步骤S411至步骤S417同样的工作。在图15中，恶意软件候选是恶意软件，因此，异常判断部33，判断该工作结果参数是异常的信息(步骤S518)。异常判断部33，生成与工作结果参数相关联的异常信息。虚拟制造部32，经由通信部35将工作结果参数为异常的异常信息发送给恶意软件判断装置50(步骤S519)。

接着，进行与图14的步骤S421同样的工作，恶意软件判断装置50，由于来自虚拟制造装置30的与第二判断结果有关的信息为异常信息，因此，判断为工作结果参数有异常(步骤S522)。

进行与图14的步骤S423、步骤S407同样的工作。而且，结束流程。在此情况下，例如，制造控制装置20的控制部21也可以，通知恶意软件候选是恶意软件。

[作用效果]

接着，说明本实施方式的恶意软件检测系统300以及恶意软件检测方法的作用效果。

如上所述，在本实施方式涉及的恶意软件检测系统300中，检测使产品的实际制造装置40产生不良状况的恶意软件。并且，恶意软件检测系统300，具备：产品的制造系统；以及恶意软件判断装置50，在使制造控制装置30以及虚拟制造装置20的至少一方被恶意软件候选感染的状态下，并且，在根据制造数据，从虚拟制造装置30所执行的虚拟的产品的制造中检测出异常的情况下，判断恶意软件候选是恶意软件。

据此，在使制造控制装置30以及虚拟制造装置20的至少一方被恶意软件候选感染的状态下，根据制造数据使制造虚拟制造装置30进行虚拟的产品的制造(虚拟制造步骤)，因此，若恶意软件候选是恶意软件，恶意软件判断装置50则能够，根据虚拟制造装置30虚拟制造的产品(工作结果参数)检测异常。

因此，在该恶意软件检测系统300中，能够高精度地检测给产品的制造带来影响的恶意软件。

并且，根据本实施方式涉及的恶意软件检测方法，检测使产品的实际制造装置40产生不良状况的恶意软件。并且，恶意软件检测方法，包括：虚拟制造步骤，虚拟制造装置30根据产品的制造数据，通过模拟的方式虚拟进行产品的制造；以及恶意软件判断步骤，在使虚拟制造装置30以及向虚拟制造装置30发送制造数据的制造控制装置20的至少一方被恶意软件候选感染的状态下，虚拟制造步骤中从虚拟的产品的制造中检测出异常的情况下，判断恶意软件候选是恶意软件。

在该恶意软件检测方法中，也能够获得与恶意软件检测系统300同样的作用效果。

并且，在本实施方式涉及的恶意软件检测系统300中，虚拟制造装置30，具备：虚拟制造部32，根据制造数据，虚拟进行产品的制造；以及虚拟侧控制部31，根据制造数据，对虚拟制造部32的工作进行控制。而且，异常判断部33，被设置在虚拟制造装置30。

据此，虚拟制造部32虚拟进行产品的制造之后，异常判断部33判断虚拟制造部32虚拟进行的产品的制造中是否有异常。因此，该恶意软件检测系统300也同样，则能够防止基于异常的制造数据的不良品的制造、实际的生产设备的制造的停止、设备破坏等的实际制造装置40的不良状况。

并且，在本实施方式涉及的恶意软件检测系统300中，虚拟制造部32，生成与虚拟进行的产品的制造有关的工作结果参数。异常判断部33，根据工作结果参数判断虚拟进行的产品的制造中是否有异常。

据此，根据从虚拟制造部32接收的工作结果参数，异常判断部33判断是否有异常，因此，若分析工作结果参数，则能够根据虚拟制造部32虚拟进行的产品的制造的制造数据容易确定异常的部分。

并且，在本实施方式涉及的恶意软件检测系统300中，虚拟制造部32是，制造产品的虚拟的部件安装机。而且，工作结果参数是，部件安装机将部件安装在基板的坐标、部件安装机安装在基板的部件的朝向、部件安装机安装的部件以及基板的种类、部件安装机的旋转数、部件安装机的速度、部件安装机的电压、部件安装机的电流以及部件安装机的温度中的至少一个。

据此，根据具体的工作结果参数，异常判断部33判断是否有异常，因此，若分析工作结果参数，则能够根据虚拟制造部32虚拟进行的产品的制造的制造数据容易确定异常的部分。

并且，在本实施方式涉及的恶意软件检测系统300中，异常判断部33，根据虚拟侧控制部31与虚拟制造部32之间的通信信息，判断产品的制造中是否有异常。

据此，异常判断部33，根据虚拟制造装置30内的虚拟侧控制部31与虚拟制造部32之间的通信信息，读入虚拟侧控制部31向虚拟制造部32发送的工作的控制，因此，能够早期判断基于工作结果参数的异常的有无。

(实施方式2的变形例)

以下，对于本变形例涉及的恶意软件检测系统300a，利用图16进行说明。

图16是实施方式2的变形例涉及的恶意软件检测系统300a的框图。

在实施方式2中，制造控制装置20、虚拟制造装置30、实际制造装置40以及恶意软件判断装置50各自连接成能够相互通信，但是，在本变形例中，不同之处是，制造控制装置20、恶意软件判断装置50、虚拟制造装置30以及实际制造装置40按照排列顺序串联连接。

本变形例的其他的结构，在没有特别明确记载的情况下，与实施方式同样，对于相同的结构附上相同的符号，省略详细说明。

制造控制装置20、恶意软件判断装置50、虚拟制造装置30以及实际制造装置40按照排列顺序串联连接。制造控制装置20与实际制造装置40不能直接进行通信，制造控制装置20以及实际制造装置40被设置为，经由恶意软件判断装置50以及虚拟制造装置30能够通信。

并且，在本变形例涉及的恶意软件检测系统300a中，制造控制装置20、恶意软件判断装置50、虚拟制造装置30以及实际制造装置40，按照其排列顺序串联连接。

在制造控制装置20、恶意软件判断装置50、虚拟制造装置30以及实际制造装置40连接成能够相互通信的情况下，例如，制造控制装置20的控制部21需要设定发送目的地。因此，在控制部21将制造数据发送给虚拟制造装置30时，会有因某种不良状况而向实际制造装置40直接发送异常的制造数据的情况。

据此，制造控制装置20，经由恶意软件判断装置50以及虚拟制造装置30向实际制造装置40发送制造数据。也就是说，恶意软件判断装置50以及虚拟制造装置30物理分断制造控制装置20与实际制造装置40的通信。因此，难以因不良状况而向实际制造装置40直接发送异常的制造数据。

对于本变形例的其他的作用效果，也得到与实施方式2同样的作用效果。

(其他变形例等)

以上，对于本公开涉及的产品的制造系统、恶意软件检测系统、产品的制造方法以及恶意软件检测方法，根据实施方式1、2以及实施方式1、2的变形例进行了说明，但是，本公开，不仅限于所述实施方式1、2以及实施方式1、2的变形例。

例如，在所述实施方式1、2以及实施方式1、2的变形例中，如图17以及图18示出，也可以将异常判断部233设置在制造控制装置20。并且，

图17是变形例涉及的产品的制造系统200的框图。图18是变形例涉及的恶意软件检测系统300b的框图。也就是说，异常判断部233，被设置在制造控制装置20。而且，异常判断部233，根据制造控制装置20与虚拟制造装置30之间的通信信息，判断是否有异常。在此情况下，异常判断部233，从制造控制装置20与虚拟制造装置30之间的通信信息，判断是否有异常。并且，在制造系统200或恶意软件检测系统300b被恶意软件感染的情况下，可以认为恶意软件使制造数据产生异常。在这样的情况下，能够检测哪个装置是否被恶意软件感染。并且，也能够判断两者的通信信息是否有异常。若能够检测这些异常，则能够根据异常的制造数据，防止不良品的制造、实际的生产设备的制造的停止、设备破坏等的不良状况。

并且，在所述实施方式1、2以及实施方式1、2的变形例中，异常判断部中利用的工作结果参数是虚拟制造装置以及实际制造装置输出的，但是，在控制信号包括与工作结果参数同等的信息的情况下，也可以并不是从虚拟制造装置以及实际制造装置输出的工作结果参数，而在异常判断部利用虚拟侧控制部的输出中包括的工作结果参数。

并且，在所述实施方式1、2以及实施方式1、2的变形例中，也可以将异常判断部设置为，与制造控制装置以及虚拟制造装置独立的其他的装置。

并且，在所述实施方式1、2以及实施方式1、2的变形例中，也可以是将虚拟制造装置与实际制造装置形成为一体的装置。在此情况下，虚拟制造装置也可以根据制造数据虚拟进行制造，在制造数据为正常的情况下，将该制造数据直接发送给实际制造装置。

并且，在所述实施方式1、2以及实施方式1、2的变形例中，也可以是与制造控制装置或虚拟制造装置形成为一体的装置。

并且，在所述实施方式2以及实施方式2的变形例中，恶意软件检测系统，具备实际制造装置，但是，也可以不具备实际制造装置。

并且，在所述实施方式1、2以及实施方式1、2的变形例中，设置在制造控制装置、虚拟制造装置、实际制造装置以及恶意软件判断装置的每一个的结构，具体而言，由微处理机、以及RAM、ROM、硬盘等构成。RAM、ROM、以及硬盘存储有计算机程序，微处理机根据程序进行工作，据此，制造控制装置、虚拟制造装置、实际制造装置以及恶意软件判断装置实现这些功能。装置在制造控制装置、虚拟制造装置、实际制造装置以及恶意软件判断装置的各个结构，典型而言，作为集成电路的LSI(根据集积度的不同也会有称为IC、系统LSI、超级LSI、特大LSI的情况)实现。它们，可以分别以单片化，也可以以包含一个以上的单元、或各个单元的一部分的方式单片化。并且，集成电路化的方法，不仅限于LSI，也可以作为专用电路或通用处理器来实现。也可以利用在制造LSI后能够编程的FPGA(Field Programmable GateArray)、或能够重构LSI内部的电路单元的连接以及设定的可重构处理器。并且，若因半导体技术的进步或派生的其他的技术而出现代替LSI的集成电路化的技术，则当然可以利用该技术进行功能块的集成化。会有生物技术的适用等的可能性。进而，各个功能框，也可以由软件实现，也可以由LSI和软件的组合实现。并且，也可以将软件防篡改化。

以上，对于本公开的一个或多个形态，根据实施方式1、2以及实施方式1、2的变形例进行了说明，但是，本公开，不仅限于该实施方式1、2以及实施方式1、2的变形例。只要不脱离本公开的宗旨，对本实施方式1、2以及实施方式1，2的变形例实施本领域技术人员想到的各种变形而得到的形态，以及组合不同实施例的构成要素来构筑的形态，也可以包含在本公开的一个或多个形态的范围内。

本公开，能够利用于与电子机器的制造等有关的工业系统。

符号说明

10、100、200 制造系统

20 制造控制装置

30 虚拟制造装置

31 虚拟侧控制部

32 虚拟制造部

33、233 异常判断部

40 实际制造装置

50 恶意软件判断装置

300、300a、300b 恶意软件检测系统

S312 虚拟制造步骤

S313 异常判断步骤

S322 实际制造步骤

Claims (6)

1.一种恶意软件检测系统，检测使产品的实际制造装置产生不良状况的恶意软件，

所述恶意软件检测系统具备：

产品的制造系统，用于进行产品的制造；以及

恶意软件判断装置，

其中，所述产品的制造系统具备：

制造控制装置，保持所述产品的制造数据：

虚拟制造装置，根据所述制造控制装置的所述产品的所述制造数据，通过模拟的方式虚拟进行所述产品的制造；

实际制造装置，根据所述制造控制装置的所述制造数据，实际进行所述产品的制造；以及

异常判断部，判断所述虚拟制造装置虚拟进行的所述产品的制造中是否有异常，

在从虚拟进行的所述产品的制造中没有判断出异常的情况下，所述实际制造装置实际进行所述产品的制造，

所述虚拟制造装置，具有：

虚拟制造部，根据所述制造数据，虚拟进行所述产品的制造；以及

虚拟侧控制部，根据所述制造数据，对所述虚拟制造部的工作进行控制，

所述异常判断部，被设置在所述虚拟制造装置，

所述恶意软件判断装置，在使所述制造控制装置以及所述虚拟制造装置的至少一方被恶意软件候选感染的状态下，并且，在根据所述制造数据，从所述虚拟制造装置所执行的虚拟的所述产品的制造中检测出异常的情况下，判断所述恶意软件候选是恶意软件，以及

所述制造控制装置、所述恶意软件判断装置、所述虚拟制造装置以及所述实际制造装置，按照其排列顺序串联连接。

2.如权利要求1所述的恶意软件检测系统，

所述虚拟制造部，生成与虚拟进行的所述产品的制造有关的工作结果参数，

所述异常判断部，根据所述工作结果参数，判断虚拟进行的所述产品的制造中是否有异常。

3.如权利要求2所述的恶意软件检测系统，

所述虚拟制造部是，制造所述产品的虚拟的部件安装机，

所述工作结果参数是，所述部件安装机将部件安装在基板的坐标、所述部件安装机安装在所述基板的部件的朝向、所述部件安装机安装的部件以及所述基板的种类、所述部件安装机的旋转数、所述部件安装机的速度、所述部件安装机的电压、所述部件安装机的电流以及所述部件安装机的温度中的至少一个。

4.如权利要求1所述的恶意软件检测系统，

所述异常判断部，根据所述虚拟侧控制部与所述虚拟制造部之间的通信信息，判断所述产品的制造中是否有异常。

5.如权利要求1所述的恶意软件检测系统，

所述异常判断部，被设置在所述制造控制装置，

所述异常判断部，根据所述制造控制装置与所述虚拟制造装置之间的通信信息，判断是否有所述异常。

6.一种恶意软件检测方法，用于检测使产品的实际制造装置产生不良状况的恶意软件，

所述恶意软件检测方法包括：

产品的制造方法，进行产品的制造；以及

恶意软件判断方法，

其中，所述产品的制造方法包括：

虚拟制造步骤，根据所述产品的制造数据，通过模拟的方式虚拟进行所述产品的制造；

异常判断步骤，判断所述虚拟制造步骤中虚拟进行的所述产品的制造中是否有异常；以及

实际制造步骤，在从所述异常判断步骤中虚拟进行的所述产品的制造中没有判断出异常的情况下，根据所述制造数据实际进行所述产品的制造，

在保持所述产品的制造数据的装置以及执行所述虚拟制造步骤的装置的至少一方被恶意软件候选感染的状态下，在根据所述制造数据、在所述虚拟制造步骤中虚拟进行的所述产品的制造中检测出异常的情况下，所述恶意软件判断方法判断所述恶意软件候选是恶意软件，

保持所述产品的制造数据的装置、执行所述恶意软件判断方法的装置、执行所述虚拟制造步骤的装置以及执行所述实际制造步骤的装置，按照其排列顺序串联连接。

Images