DE102017000955A1 - Produktionssteuersystem und integriertes Produktionssteuersystem - Google Patents

Produktionssteuersystem und integriertes Produktionssteuersystem Download PDF

Info

Publication number
DE102017000955A1
DE102017000955A1 DE102017000955.4A DE102017000955A DE102017000955A1 DE 102017000955 A1 DE102017000955 A1 DE 102017000955A1 DE 102017000955 A DE102017000955 A DE 102017000955A DE 102017000955 A1 DE102017000955 A1 DE 102017000955A1
Authority
DE
Germany
Prior art keywords
production
factory
learning
production control
machines
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
DE102017000955.4A
Other languages
English (en)
Other versions
DE102017000955B4 (de
Inventor
Jiro Kinoshita
Yasushi Nomoto
Tomoki OYA
Teruki NAKASATO
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fanuc Corp
Original Assignee
Fanuc Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fanuc Corp filed Critical Fanuc Corp
Publication of DE102017000955A1 publication Critical patent/DE102017000955A1/de
Application granted granted Critical
Publication of DE102017000955B4 publication Critical patent/DE102017000955B4/de
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/418Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
    • G05B19/41885Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM] characterised by modeling, simulation of the manufacturing system
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/418Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
    • G05B19/41865Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM] characterised by job scheduling, process planning, material flow
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/0265Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0631Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311Scheduling, planning or task assignment for a person or group
    • G06Q10/063118Staff planning in a project environment
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/31From computer integrated manufacturing till monitoring
    • G05B2219/31263Imbedded learning for planner, executor, monitor, controller and evaluator
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/32Operator till task planning
    • G05B2219/32283Machine scheduling, several machines, several jobs
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/32Operator till task planning
    • G05B2219/32339Object oriented modeling, design, analysis, implementation, simulation language
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/34Director, elements to supervisory
    • G05B2219/34306Power down, energy saving
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P70/00Climate change mitigation technologies in the production process for final industrial or consumer products
    • Y02P70/10Greenhouse gas [GHG] capture, material saving, heat recovery or other energy efficient measures, e.g. motor control, characterised by manufacturing processes, e.g. for rolling metal or metal working
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/80Management or planning
    • Y02P90/82Energy audits or management systems therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Strategic Management (AREA)
  • Economics (AREA)
  • Automation & Control Theory (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Manufacturing & Machinery (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Tourism & Hospitality (AREA)
  • Game Theory and Decision Science (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Educational Administration (AREA)
  • General Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Development Economics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • General Factory Administration (AREA)
  • Air Conditioning Control Device (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Feedback Control In General (AREA)

Abstract

Es wird ein Produktionssteuersystem einer Fabrik bereitgestellt, das umfasst: eine Mehrzahl Maschinen 11A–11N, eine Klimaanlage 13, eine Stromberechnungseinheit 15 zum Überwachen des Stromverbrauchs einer gesamten Fabrik, eine Temperaturinformationserzeugungseinheit 17 zum Erzeugen von Informationen bezüglich der Temperatur in der Fabrik, wobei der Betriebszustand und die Bearbeitungsbedingungen der Maschinen und der Betriebszustand der Klimaanlage gesteuert werden, um die durch den Produktionsplan vorgeschriebenen Produkte bis zu einer Lieferfrist herzustellen, und eine Maschinenlerneinheit 23, die eine Beziehung des Funktionszustands, der den Betriebszustand und die Bearbeitungsbedingungen der Maschinen sowie den Betriebszustand der Klimaanlage umfasst, zum Umgebungszustand lernt, der eine Produktionsabschlussdauer gemäß dem Funktionszustand, die Temperatur in der Fabrik und den Stromverbrauch der Fabrik umfasst, und einen Funktionszustand ausgibt, der den Umgebungszustand gemäß dem Produktionsplan in einen gewünschten Zustand bringt.

Description

  • Hintergrund der Erfindung
  • 1. Gebiet der Erfindung
  • Die vorliegende Erfindung betrifft Produktionssteuersysteme und integrierte Produktionssteuersysteme und im Besonderen ein Produktionssteuersystem und ein integriertes Produktionssteuersystem, die lernen, den Stromverbrauch für die Produktion in einer Fabrik mit einer Mehrzahl Maschinen und einer Klimaanlage zu minimieren und dabei die Temperaturanforderungen in der Fabrik sowie Produktlieferfristen einzuhalten.
  • 2. Beschreibung des zugehörigen Standes der Technik
  • Fabriken sind üblicherweise mit einer Mehrzahl Maschinen (z. B. Werkzeugmaschinen) ausgestattet, wobei im Falle einer Präzisionsbearbeitung eine Klimatisierung (eine Klimaanlage) bereitgestellt wird, um die Umgebungsbedingungen in der Fabrik zu steuern, da die Temperatur in der Fabrik die Bearbeitungsgenauigkeit beeinflusst. Die Produktion in einer Fabrik wird durch einen Produktionsplan vorgeschrieben, wobei zum Herstellen der durch den Produktionsplan vorgeschriebenen Produkte innerhalb einer vorgeschriebenen Lieferfrist der Betriebszustand und die Bearbeitungsbedingungen einer Mehrzahl Maschinen und auch der Betriebszustand der Klimaanlage gesteuert werden, um in der Fabrik für die Bearbeitung erforderliche Temperaturbedingungen (Temperatur und Gleichmäßigkeit) zu erreichen.
  • Die Zeitspanne zum Fortschreiten von einem Bearbeitungsschritt zum nächsten in einem Herstellungsverfahren eines Produkts wird als Taktzeit bezeichnet, die eine Kennzahl darstellt, die in der Produktionswirtschaft häufig verwendet wird. Es wird darauf hingewiesen, dass Taktzeit manchmal mit einer anderen Bedeutung verwendet wird, hierin wird sie jedoch gemäß der Bedeutung der vorstehend beschriebenen Zeitspanne verwendet. Wenn beispielsweise NX Stück eines Produkts mit einer Taktzeit von tXMAX hergestellt werden, approximiert die Produktionsdauer für die NX Stück des Produkts, die für die Lieferfrist relevant ist, NX × tXMAX, wenn NX ausreichend groß ist.
  • Bei einer herkömmlichen Betriebsleitung trifft der Betriebsleiter, wenn ein Produktionsplan vorgelegt wird, Entscheidungen bezüglich des Betriebszustands (Start und Stopp des Betriebs) und der Bearbeitungsbedingungen einer Mehrzahl Maschinen, um die durch den Produktionsplan vorgeschriebenen Produkte bis zur vorgeschriebenen Lieferfrist herzustellen, und trifft außerdem Entscheidungen bezüglich des Betriebszustands der Klimaanlage, um in der Fabrik die erforderliche Temperatur zu erreichen, wobei die Außentemperatur und Temperaturänderungen infolge des Betriebs der Maschinen berücksichtigt werden. Ein Arbeitsplan für Fabrikarbeiter wird ebenfalls berücksichtigt, wenn die Personalsituation den Umfang betreibbarer Maschinen beeinflusst.
  • Verträge zwischen einer Fabrik und einem Energieversorgungsunternehmen enthalten eine Klausel bezüglich eines Maximalwerts einer Spitzenlaststromversorgung mit einer Zwangsbeschränkung der Stromversorgung, falls der Bedarf den Maximalwert übersteigt, was zu einer Stromunterbrechung führen kann. In den letzten Jahren enthielten Verträge mit Energieversorgungsunternehmen außerdem eine Klausel, dass die Fabriken während Zeiten erhöhten Stromverbrauchs, z. B. im Sommer, ihren Spitzenlaststrombedarf sogar unter dem Maximalwert halten sollen, wobei eine Verletzung der Klausel eine Strafe, wie etwa erhöhte Strompreise, nach sich ziehen kann. Die Schwierigkeit besteht in diesem Fall darin, dass Betriebsleiter nicht nur den Stromverbrauch in Fertigungsanlagen berücksichtigen müssen, sondern auch den Stromverbrauch von verschiedenen Fabrikgerätschaften (z. B. Stromverbrauch von Bürogeräten, Stromverbrauch von Klimaanlagen in Fabrikbüros). Die Betriebsleiter sind dafür verantwortlich, eine solche Situation zu vermeiden und gleichzeitig die Lieferfristen einzuhalten und die Produktqualität sicherzustellen. Aus diesem Grund werden Betriebsleiter herkömmlicherweise unter Facharbeitern ausgewählt.
  • Sich bei der Betriebsleitung auf eine begrenzte Zahl Facharbeiter zu verlassen, geht jedoch mit einem großen Risiko einher. Um dies in Angriff zu nehmen, wurden Steuerungsvorrichtungen entworfen, die gemäß einem gegebenen Produktionsplan durch Ausführen eines basierend auf gegebenen Betriebsleitungserfahrungen entwickelten Betriebsleitprogramms automatisch eine Betriebsproduktionsleitung durchführen.
  • Die ungeprüfte japanische Patentveröffentlichung (Kokai) Nr. 2011-156598 offenbart ein Stromverbrauchssteuersystem, das eine Stromüberwachungseinrichtung für zu steuernde Werkzeugmaschinen umfasst und Drehbeschleunigungs-/-verzögerungsraten der Haupt- und Vorschubspindeln steuert, so dass der Stromverbrauch der Werkzeugmaschine höchstens auf einem vorgegebenen Zielwert gehalten werden kann, der sich von Zeit zu Zeit ändert.
  • Die japanische Patentveröffentlichung Nr. 5818865 offenbart ein System zum Erreichen einer Nivellierung des Stromverbrauchs in Bezug auf eine Fertigungsanlage einschließlich einer Mehrzahl durch eine Mehrzahl Anlagengeräte durchzuführender Verfahren durch Treffen einer Auswahl von Verfahrensanordnungskombinationen basierend auf durch PERT-Analyse erhaltenen Pufferperioden für Verfahren und dem auf Informationen bezüglich jedes Verfahrens basierenden Stromverbrauch pro Zeiteinheit, wodurch der Ablauf der Verfahren sowie das Abschalten nicht genutzter Anlagengeräte gesteuert wird. Das vorstehende Dokument offenbart außerdem, dass das System den Stromverbrauch in Echtzeit misst, wobei die Drehzahl oder Drehbeschleunigungs-/-verzögerungsrate eines Motors reduziert wird, wenn der Stromverbrauch einen vorgegebenen Zielwert übersteigt.
  • Es besteht jedoch das Problem, dass mit der Entwicklung eines Betriebsleitprogramms, das in eine Vorrichtung zu installieren ist, die eine automatische Betriebsproduktionsleitung durchführt, komplizierte Arbeitsgänge und hohe Kosten verbunden sind.
  • Zusammenfassung der Erfindung
  • Ein Ziel der Erfindung besteht darin, ein kostengünstiges Produktionssteuersystem zum Steuern der Produktion in einer Fabrik bereitzustellen, die mit einer Mehrzahl Maschinen und einer Klimaanlage ausgestattet ist, um den Stromverbrauch zu senken und gleichzeitig Temperaturbeschränkungen in der Fabrik und Lieferfristen der Produkte einzuhalten.
  • Ein Produktionssteuersystem ist ein Produktionssteuersystem einer Fabrik, wobei das System umfasst: eine Mehrzahl Maschinen, eine Klimaanlage, eine Stromberechnungseinheit zum Überwachen des Stromverbrauchs einer gesamten Fabrik einschließlich des Stromverbrauchs der Mehrzahl Maschinen und der Klimaanlage und eine Temperaturinformationserzeugungseinheit zum Erzeugen von Informationen bezüglich der Temperatur in der Fabrik, wobei der Betriebszustand und die Bearbeitungsbedingungen der Mehrzahl Maschinen und der Betriebszustand der Klimaanlage gesteuert werden, um ein durch den Produktionsplan vorgeschriebenes Produkt bis zu einer vorgeschriebenen Lieferfrist herzustellen, sowie eine Maschinenlerneinheit, die eine Beziehung des Funktionszustands, der den Betriebszustand und die Bearbeitungsbedingungen der Mehrzahl Maschinen sowie den Betriebszustand der Klimaanlage umfasst, und des Umgebungszustands lernt, der eine Produktionsabschlussdauer des Produkts gemäß dem Funktionszustand, die Temperatur in der Fabrik und den Stromverbrauch der gesamten Fabrik umfasst, und den Funktionszustand ausgibt, der den Umgebungszustand gemäß einem Produktionsplan in einen gewünschten Zustand bringt.
  • Ein integriertes Produktionssteuersystem umfasst eine Mehrzahl der vorstehend beschriebenen Produktionssteuersysteme, die jeweils für eine Mehrzahl Fabriken bereitgestellt ist, und ein Kommunikationsnetzwerk, das die Mehrzahl Produktionssteuersysteme miteinander verbindet, wobei jedes der Produktionssteuersysteme ein Lernergebnis seiner Maschinenlerneinheit über das Kommunikationsnetzwerk an ein anderes Produktionssteuersystem sendet, und wobei die Mehrzahl Maschinenlerneinheiten der Mehrzahl Produktionssteuersysteme die Lernergebnisse gemeinsam nutzt.
  • Kurzbeschreibung der Zeichnungen
  • Die vorliegende Erfindung geht durch Bezugnahme auf die folgenden zugehörigen Zeichnungen genauer hervor. Es zeigt/zeigen:
  • 1 eine Anordnung einer Fabrik, die mit einem Produktionsleitsystem gemäß einer ersten Ausführungsform ausgestattet ist;
  • 2 ein Flussdiagramm, das einen grundlegenden Verarbeitungsbetrieb des Produktionsleitsystems der ersten Ausführungsform darstellt;
  • 3 eine schematische Darstellung, die ein Modell eines Neurons veranschaulicht;
  • 4 eine schematische Darstellung, die ein neuronales Netzwerk mit den Gewichten von drei Schichten D1 bis D3 veranschaulicht;
  • 5 eine Anordnung einer Fabrik, die mit einem Produktionssteuersystem gemäß einer zweiten Ausführungsform ausgestattet ist;
  • 6A und 6B jeweils eine beispielhafte Darstellung eines Produktionsplans und eines Arbeitsplans gemäß der zweiten Ausführungsform;
  • 7 eine Anordnung einer Fabrik, die mit einem Produktionssteuersystem gemäß einer dritten Ausführungsform ausgestattet ist;
  • 8A und 8B jeweils eine beispielhafte Darstellung eines Produktionsplans und eines Arbeitsplans gemäß der dritten Ausführungsform; und
  • 9 eine Anordnung einer Mehrzahl Fabriken, auf die ein integriertes Produktionssteuersystem gemäß einer vierten Ausführungsform angewandt wird.
  • Genaue Beschreibung
  • Ein Produktionssteuersystem und ein integriertes Produktionssteuersystem sind nachstehend unter Bezugnahme auf die Zeichnungen beschrieben. Es versteht sich jedoch, dass die vorliegende Erfindung nicht auf die nachstehend beschriebenen Zeichnungen oder Ausführungsformen beschränkt ist.
  • 1 zeigt eine Anordnung einer Fabrik, die mit einem Produktionsleitsystem gemäß einer ersten Ausführungsform ausgestattet ist.
  • Eine Fabrik umfasst eine Mehrzahl Maschinen 11A bis 11N, eine Klimaanlage 13, eine Stromberechnungseinheit 15, die den Gesamtstromverbrauch der Fabrik einschließlich des Stromverbrauchs der Mehrzahl Maschinen 11A bis 11N und der Klimaanlage 13 überwacht, und eine Temperaturinformationserzeugungseinheit 17, die Informationen bezüglich der Temperatur in der Fabrik erzeugt, wobei eine Steuereinheit 20 die Fabrik steuert. Die Steuereinheit 20 wird durch einen Computer realisiert, in dem Software installiert ist.
  • Eine Klimaanlage 13 ist nicht unbedingt eine einzelne Klimaanlage, sondern kann eine Mehrzahl Klimaanlagen umfassen. Die Steuereinheit 20 kann vor Ort für die Fabrik oder entfernt von der Fabrik bereitgestellt werden, wobei sie über ein Kommunikationsnetzwerk mit jeder Sektion der Fabrik in Verbindung steht. Es wird darauf hingewiesen, dass der Einfachheit halber hierin eine Fabrik beschrieben wird, die die vorstehend genannten Einrichtungen umfasst, die durch die Steuereinheit 20 gesteuert werden. Die Fabrik kann jedoch beispielsweise ein Büro und eine Klimaanlage für das Büro umfassen, wobei die Stromberechnungseinheit 15 den Stromverbrauch einschließlich des Stromverbrauchs der Klimaanlage des Büros berechnen kann, die Temperaturinformationserzeugungseinheit 17 Temperaturinformationen einschließlich Temperaturinformationen des Büros ausgeben kann und die Steuereinheit 20 auch die Klimaanlage des Büros steuern kann. Des Weiteren können Maschinen Maschinen umfassen, die nicht direkt an Bearbeitungsverfahren beteiligt sind, wie etwa Beleuchtungs- und Fördereinrichtungen. In diesem Fall enthalten die nicht direkt an den Bearbeitungsverfahren beteiligten Maschinen keine Steuerelemente bezüglich der Bearbeitungsbedingungen, wie etwa der Bearbeitungsgeschwindigkeit.
  • Die Steuereinheit 20 steuert den Betriebszustand und die Bearbeitungsbedingungen der Mehrzahl Maschinen 11A bis 11N und den Betriebszustand (z. B. Betriebsdauer und Leistung) der Klimaanlage 13, so dass die durch einen von außen zugeführten Produktionsplan vorgeschrieben Produkte bis zu den vorgeschriebenen Lieferfristen hergestellt werden. Der Produktionsplan enthält beispielsweise jeden Tag herzustellende Artikel, den Umfang, die Lieferfristen (Produktionsabschlussdauer) und dergleichen.
  • Die Steuereinheit 20 umfasst eine Basissteuereinheit 21 und eine Maschinenlerneinheit 23. Die Basissteuereinheit 21 umfasst eine Eingabeeinrichtung zum Eingeben von Daten betreffend den Betriebszustand und die Bearbeitungsbedingungen der Mehrzahl Maschinen 11A bis 11N und den Betriebszustand (z. B. Betriebsdauer und Leistung) der Klimaanlage 13, die Facharbeiter unter Berücksichtigung verschiedener Faktoren gemäß dem Produktionsplan erstellt haben. Die Eingabeeinrichtung wird beispielsweise durch einen Dateneingabeanschluss, der mit einer Steuerdateneingabeeinheit der Mehrzahl Maschinen 11A bis 11N und der Klimaanlage 13 verbunden ist, oder einen Computer oder dergleichen realisiert, der eine Dateneingabefunktion mit Anzeige aufweist. Den Betriebszustand und die Bearbeitungsbedingungen der Mehrzahl Maschinen 11A bis 11N betreffende Daten werden als chronologische Darstellung der durch jede Maschine zu bearbeitenden Produkte und der Bearbeitungsgeschwindigkeiten der Produkte wiedergegeben. Die Daten werden beispielsweise als sequenzielle Anzeige von Produktarten, Start- und Endzeitpunkten der Bearbeitung und Bearbeitungsbedingungen wiedergegeben. Durch Teilen eines Tages durch eine Zeiteinheit, beispielsweise durch Teilen der acht Stunden von acht Uhr bis zwölf Uhr und von dreizehn Uhr bis siebzehn Uhr durch 10 Minuten in 48 Einheiten, können Daten auch durch Angeben von zu bearbeitenden Produktarten und Bearbeitungsbedingungen für jede Zeiteinheit wiedergegeben werden. Wenn die Bearbeitungsdauer 30 Minuten beträgt, dauert die Bearbeitung 3 Einheiten lang. Es wird darauf hingewiesen, dass die Bearbeitungsdauer hierin die Zeit zum Einsetzen eines in der Maschine zu bearbeitenden Materials und zum Entfernen des fertigen Produkts umfasst. Die Bearbeitungsbedingungen umfassen beispielsweise die Bearbeitungsgeschwindigkeit und geben die Geschwindigkeitsbereiche, die eine Bearbeitung mit der gewünschten Genauigkeit ermöglichen, in Stufen an. Die Bearbeitungsdauer ist umgekehrt proportional zur Bearbeitungsgeschwindigkeit. Den Betriebszustand (z. B. Betriebsdauer und Leistung) der Klimaanlage 13 betreffende Daten werden in ähnlicher Weise wiedergegeben.
  • Solange die Maschinenlerneinheit 23 das Lernen noch nicht in ausreichendem Umfang durchgeführt hat, werden der Mehrzahl Maschinen 11A bis 11N und der Klimaanlage 13 in die Basissteuereinheit 21 eingegebene Steuerdaten zugeführt, die die Mehrzahl Maschinen 11A bis 11N und die Klimaanlage 13 betreffen. Die Mehrzahl Maschinen 11A bis 11N und die Klimaanlage 13 arbeiten gemäß der Steuerdaten. Eine Maschine A bearbeitet beispielsweise ein Produkt X über eine Bearbeitungsdauer S (mit einer Bearbeitungsgeschwindigkeit R), wiederholt den Vorgang 10 Mal (um 10 Stück des Produkts X herzustellen), unterbricht dann den Betrieb für 20 Minuten und wiederholt danach denselben Betrieb dreimal. Dadurch werden insgesamt 30 Stück des Produkts X hergestellt.
  • Der Betrieb der Mehrzahl Maschinen 11A bis 11N und der Klimaanlage 13 gemäß den Steuerdaten verbraucht Strom, erzeugt Wärme und ändert die Temperatur in der Fabrik. Die Stromberechnungseinheit 15 berechnet den Gesamtstromverbrauch der Mehrzahl Maschinen 11A bis 11N und der Klimaanlage 13 beispielsweise durch Lesen der Ausgaben von Strommessern, die jeweils für die Mehrzahl Maschinen 11A bis 11N und die Klimaanlage 13 bereitgestellt sind. Alternativ kann die Stromberechnungseinheit 15 den Gesamtstromverbrauch durch Lesen der Bearbeitungsbedingungen der Mehrzahl Maschinen 11A bis 11N und der Steuerdaten der Klimaanlage 13 berechnen, da die Bearbeitungsbedingungen der Maschinen 11A bis 11N in einer festen Beziehung zum Stromverbrauch dieser Maschinen stehen und die Leistung der Klimaanlage 13 in einer festen Beziehung zum Stromverbrauch der Klimaanlage steht.
  • Die Temperaturinformationserzeugungseinheit 17 erzeugt Temperaturinformationen durch Messen der Temperatur in der Fabrik. Die Anzahl der Stellen, an denen die Temperatur gemessen wird, ist nicht auf eine beschränkt, sondern kann mehr als eine umfassen, hierin wird jedoch davon ausgegangen, dass die Temperaturinformationen eine Temperatur umfassen. Beispielsweise in dem Fall, in dem die Temperatur während der Bearbeitung bevorzugt nicht niedriger als T°C und nicht höher als U°C sein soll, wird die niedrigste der an einer Mehrzahl Stellen gemessenen Temperaturen zur Aufnahme in die Temperaturinformationen ausgewählt, wenn die Temperaturen niedrig sind, und die höchste der an einer Mehrzahl Stellen gemessenen Temperaturen zur Aufnahme in die Temperaturinformationen ausgewählt, wenn die Temperaturen hoch sind. Die Auswahl einer Temperatur ist jedoch nicht darauf beschränkt und es kann ein Mittelwert an einer Mehrzahl Stellen gemessener Temperaturen zur Aufnahme in die Temperaturinformationen ausgewählt werden. Des Weiteren können Temperaturinformationen, abhängig von der Konfiguration der Maschinenlerneinheit 23, eine Mehrzahl Temperaturen umfassen. Die Temperaturmessung ist ferner nicht auf die Stellen in der Fabrik beschränkt, es können auch Außentemperaturen gemessen werden. Darüber hinaus können Außentemperaturänderungen betreffende Vorhersagedaten von einer externen Quelle erfasst werden.
  • Die Maschinenlerneinheit 23 umfasst eine Zustandsüberwachungseinheit 31, eine Lerneinrichtung 33 und eine Lernsteuereinheit 35. Die Zustandsüberwachungseinheit 31 erhält in jeder Zeiteinheit Daten bezüglich des Produktionsplans, jeweils für die Mehrzahl Maschinen 11A bis 11N und die Klimaanlage 13 bereitgestellte Steuerdaten, den von der Stromberechnungseinheit 15 empfangenen Gesamtstromverbrauch zu vorgegebenen Zeiten des Tages (Spitzenlaststrom) und von der Temperaturinformationserzeugungseinheit 17 empfangene Temperaturinformationen als Zustandsgrößen.
  • Die Lerneinrichtung 33 führt basierend auf den durch die Zustandsüberwachungseinheit 31 erhaltenen Zustandsgrößen ein Lernen durch und gibt, nachdem ein Lernen in ausreichendem Umfang durchgeführt worden ist, für jede der Mehrzahl Maschinen 11A bis 11N und die Klimaanlage 13 gemäß den Daten bezüglich des Produktionsplans vorgesehene Steuerdaten aus. Zu diesem Zeitpunkt kann die Lerneinrichtung 33 eine gemäß den ausgegebenen Steuerdaten erstellte Spitzenlaststromvorhersage zusammen mit Temperaturinformationen nach außen ausgeben und ferner die Taktzeit, die Produktionsabschlussdauer (Lieferzeit) und dergleichen, die sie gemäß den Steuerdaten berechnen kann, separat berechnen und nach außen ausgeben.
  • Die Lernsteuereinheit 35 umfasst eine Belohnungsberechnungseinheit, die Belohnungen berechnet, welche Erwünschtheitsgrade von Produktionsvorgängen angeben, die gemäß den Steuerdaten in der Fabrik ausgeführt werden, eine Speichereinheit, die durch die Zustandsüberwachungseinheit 31 erhaltene Zustandsgrößen und Belohnungssätze speichert, und die Lernsteuereinheit 35, die das durch die Lerneinrichtung 33 basierend auf den Zustandsgrößen und den Belohnungssätzen durchgeführte Lernen steuert.
  • Eine Beschreibung von Lernalgorithmen für die Maschinenlerneinheit 23 folgt später, zunächst wird das Lernverarbeitungsverfahren beschrieben.
  • 2 ist ein Flussdiagramm, das einen grundlegenden Verarbeitungsbetrieb des Produktionsleitsystems der ersten Ausführungsform darstellt.
  • Das Produktionsleitsystem der ersten Ausführungsform steuert den Betriebszustand und die Bearbeitungsbedingungen der Mehrzahl Maschinen 11A bis 11N und den Betriebszustand (z. B. Betriebsdauer und Leistung) der Klimaanlage 13 in der Fabrik und ist nicht dazu geeignet, die Fabrik allein zu dem Zweck zu leiten, es der Maschinenlerneinheit 23 zu ermöglichen, zu lernen. Daher bestimmt, wie zuvor, ein Facharbeiter die Steuerdaten und die Fabrik wird in Schritt S101 basierend auf den Steuerdaten geleitet. Dies wird hierin als herkömmlicher Steuerbetrieb bezeichnet. Durch Durchführen eines herkömmlichen Steuerbetriebs wird für jeden Arbeitstag ein Datensatz erhalten, der Steuerdaten, die Produktionsabschlussdauer (Zeitspanne ab dem Start bis zum Abschluss einer Produktion), Änderungen des Spitzenlaststroms betreffende Daten und Änderungen der Temperaturinformationen betreffende Daten umfasst. Bei der ersten Ausführungsform sind die Belohnungen solchermaßen definiert, dass unter der Voraussetzung, dass die Lieferfrist eingehalten wird und die Temperaturbedingungen für die Bearbeitung erfüllt werden, für einen kleineren Maximalwert des Spitzenlaststromverbrauchs am Betriebstag eine höhere Belohnung vergeben wird, wobei solche Belohnungen in Verbindung mit jeweiligen Datensätzen gespeichert werden.
  • Lerndaten können durch eine Computersimulation erhalten werden, wenn die Simulation, die Datensätze als Größen verwendet, welche den Produktionsplan, den Betriebszustand und die Bearbeitungsbedingungen der Mehrzahl Maschinen 11A bis 11N und den Betriebszustand (z. B. Betriebsdauer und Leistung) der Klimaanlage 13 umfassen, hochgenaue Ergebnisse für die Produktionsabschlussdauer (Zeitspanne vom Start bis zum Abschluss der Produktion), Änderungen des Spitzenlaststroms betreffende Daten und Änderungen der Temperaturinformationen betreffende Daten bereitstellen kann, die den Steuerdatengrößen entsprechen. In diesem Fall können anhand von Simulationen zahlreiche Lerndaten erhalten werden, indem Elemente von als Größen verwendeten Datensätzen geeignet (z. B. zufällig) geändert werden.
  • In Schritt S101 wird ein herkömmlicher Steuerbetrieb für ausreichend viele Tage wiederholt, um die Datenmenge zu sammeln, die zum Lernen durch die Maschinenlerneinheit 23 erforderlich ist. Die Anzahl der Wiederholungen (Arbeitstage) wird basierend auf früheren Erfahrungen geeignet bestimmt. Da dieser Betrieb ein Betrieb der Maschinenlerneinheit 23 ist, bei dem Daten zum Durchführen des Lernens gesammelt werden, wird der Betrieb hierin auch als anfänglicher Lernbetrieb bezeichnet.
  • In der Endphase des herkömmlichen Steuerbetriebs (anfänglicher Lernbetrieb) verfügt die Lernsteuereinheit 35 über eine ausreichende Menge von Daten zum Durchführen des Lernens und die Lerneinrichtung 33 führt das Lernen basierend auf den gesammelten Daten durch. Nach einem erfolgreichen Lernen kann die Lerneinrichtung 33 einen Satz vorhergesagter Steuerdaten ausgeben, um unter Berücksichtigung des Produktionsplans gute Belohnungen zu erhalten. Ein Verfahren zum Überprüfen der Eignung der Ausgabe der Lerneinrichtung 33 kann bei Bedarf hinzugefügt werden.
  • In Schritt S103 schaltet die Steuereinheit 20 beim Bereitstellen des Betriebszustands und der Bearbeitungsbedingungen für die Mehrzahl Maschinen 11A bis 11N und des Betriebszustands (z. B. Betriebsdauer und Leistung) für die Klimaanlage 13 Steuerdatenausgaben von der Ausgabe der Basissteuereinheit 21 auf die Ausgabe der Maschinenlerneinheit 23 um.
  • In Schritt S105 werden der/die an die Mehrzahl Maschinen 11A bis 11N ausgegebene(n) Betriebszustand und Bearbeitungsbedingungen sowie der an die Klimaanlage 13 ausgegebene Betriebszustand mit den durch die Maschinenlerneinheit 23 ausgegebenen Steuerdaten gesteuert. Diese Steuerung wird hierin als Lerneinheitssteuerbetrieb bezeichnet. Danach wird der Lerneinheitssteuerbetrieb in Schritt S103 wiederholt.
  • In Schritt S103 werden beim Wiederholen des Lerneinheitssteuerbetriebs neue zum Lernen verwendbare Daten erhalten. Somit führt die Lerneinrichtung 33 bei der ersten Ausführungsform von Zeit zu Zeit ein Lernen durch, das auf dem in Schritt S103 erneut durchgeführten Lerneinheitssteuerbetrieb und dessen Ergebnissen (Produktionsabschlussdauer, Spitzenlaststromänderungen betreffende Daten und Änderungen der Temperaturinformationen betreffende Daten) basiert, um eine noch bessere Steuerung auszuführen. Dieser Lernbetrieb wird hierin als kontinuierlicher Lernbetrieb bezeichnet. Ein kontinuierlicher Lernbetrieb kann immer dann durchgeführt werden, wenn ein neuer Lerneinheitssteuerbetrieb durchgeführt wird oder wenn eine vorgegebene Anzahl Lerneinheitssteuerbetriebsvorgänge durchgeführt worden ist.
  • Die Maschinenlerneinheit 23 kann einen beliebigen Lernalgorithmus verwenden. Die Maschinelerneinheit 23 weist Funktionen zum analytischen Extrahieren, aus einem Satz in die Vorrichtung eingegebener Daten, einer nützlichen Regel, einer Wissensdarstellung, eines Entscheidungskriteriums oder dergleichen, die in dem Datensatz enthalten sind, zum Ausgeben eines Entscheidungsergebnisses und zum Erlernen von Wissen auf. Es gibt verschiedene Techniken dafür, hierin werden jedoch ”bestärkendes Lernen” und ”überwachtes Lernen” verwendet. Beispielsweise wird ”überwachtes Lernen” für den herkömmlichen Steuerbetrieb (anfänglicher Lernbetrieb) in Schritt S101 und ”bestärkendes Lernen” beim Lerneinheitssteuerbetrieb (kontinuierlicher Lernbetrieb) in Schritt S103 verwendet. Zu Beginn von Schritt S103 befindet sich die Lerneinrichtung 33 in einem Zustand, in dem das ”überwachte Lernen” abgeschlossen ist, welcher der Anfangszustand des ”bestärkenden Lernens” ist.
  • Beim Umsetzen der vorstehenden Techniken gibt es eine als ”tiefes Lernen” bezeichnete Technik, bei der eine Extraktion eines Merkmalswerts gelernt wird. Diese maschinellen Lerntechniken (die Lerneinrichtung 33) werden beispielsweise unter Verwendung von z. B. GPGPUs (General-Purpose computing on Graphics Processing Units/Universalberechnung in Grafikverarbeitungseinheiten) oder großen PC-Clustern (Rechnerverbunden) umgesetzt.
  • Als Nächstes wird die Lerneinrichtung 33 genauer beschrieben. Die Lerneinrichtung 33 weist Funktionen zum analytischen Extrahieren, aus einem Satz eingegebener Daten, einer nützlichen Regel, einer Wissensdarstellung, eines Entscheidungskriteriums oder dergleichen, die in dem Datensatz enthalten sind, zum Ausgeben eines Entscheidungsergebnisses und zum Erlernen von Wissen auf. Wie vorstehend beschrieben, umfassen Algorithmen für die Lerneinrichtung 33 ”überwachtes Lernen” und ”bestärkendes Lernen”.
  • ”Bestärkendes Lernen” weist die folgenden Elemente auf.
    • – Die Maschinenlerneinheit 23 der Steuervorrichtung 20 überwacht den Funktionszustand und den Umgebungszustand.
    • – Die Umgebung ändert sich abhängig vom Betrieb.
    • – Tatsächliche Spitzenlaststromänderungen betreffende Daten werden in Bezug auf die überwachte Umgebung (Zustandsgröße) überwacht und es wird ein Label (Belohnung) erhalten.
    • – Das neuronale Netzwerk (die Funktion) wird aktualisiert, so dass in Bezug auf den Produktionsplan ein Label mit höherer Bewertung erhalten werden kann.
    • – Das Lernen beginnt in einem Zustand, in dem die Maschinenlerneinheit 23 keine oder eine unvollständige Kenntnis der Folgen (Spitzenlaststrom) hat, die durch die Umgebung (Zustandsgröße) verursacht werden. Mit anderen Worten, Belohnungen können nur dann als Daten erhalten werden, wenn die Mehrzahl Maschinen (Steuervorrichtungen) 11A bis 11N und die Klimaanlage 13 tatsächlich in Betrieb gesetzt wurden. Folglich werden eine optimale Funktion und Steuerdaten zum Maximieren von Belohnungen durch Versuch und Irrtum erhalten.
    • – Das Lernen kann durch Bereitstellen eines Anfangszustands, in dem das Imitieren menschlicher Tätigkeiten durch vorheriges Lernen gelernt wird, an einem guten Ausgangspunkt gestartet werden.
  • Hierin ist ”bestärkendes Lernen” ein Verfahren zum Lernen einer geeigneten Aktion im Hinblick auf die Wechselbeziehungen zwischen Aktionen und der durch die Aktionen beeinflussten Umgebung durch Lernen nicht nur einer Bestimmung und Klassifizierung, sondern auch von Aktionen, z. B. ein Lernverfahren zum Maximieren von zukünftig zu erhaltenden Belohnungen. Dies zeigt, dass Aktionen gelernt werden können, die Auswirkungen auf die Zukunft haben, beispielsweise eine genaue Berechnung eines Maximalwerts des Spitzenlaststroms bei der vorliegenden Ausführungsform. Die weitere Beschreibung verwendet Q-Lernen als Beispiel, die vorliegende Ausführungsform ist aber nicht darauf beschränkt.
  • Q-Lernen ist ein Verfahren zum Lernen eines Werts Q(s, a), der eine Aktion a in einem Umgebungszustand s auswählt. Mit anderen Worten, eine Aktion a, die einen höchsten Wert von Q(s, a) ergibt, wird als optimale Aktion ausgewählt. Zu Anfang ist der korrekte Wert von Q(s, a) für eine beliebige Kombination eines Zustands s und einer Aktion a jedoch völlig unbekannt. Dementsprechend wählt ein Agent (das Subjekt von Aktionen) verschiedene Aktionen a im Zustand s aus und erhält für jede durchgeführte Aktion a eine Belohnung. Dadurch lernt der Agent, eine bessere Aktion, d. h. einen korrekten Wert von Q(s, a), auszuwählen.
  • Des Weiteren ist es erwünscht, die Gesamtsumme der zukünftig zu erhaltenden Belohnungen zu maximieren und somit Q(s, a) = E[Σγtrt] zu erhalten. Hier repräsentiert E[] einen erwarteten Wert, t ist die Zeit, γ ist ein als Diskontierungsrate bezeichneter Parameter, der später beschrieben ist, rt ist die Belohnung zum Zeitpunkt t, Σ ist die Summierung über die Zeit t. Der erwartete Wert in dieser Gleichung wird für den Fall verwendet, dass sich der Zustand gemäß der optimalen Aktion geändert hat, und da die optimale Aktion nicht bekannt ist, wird ein Lernen durchgeführt, während nach einer optimalen Aktion gesucht wird. Eine Formel zum Aktualisieren eines solchen Werts Q(s, a) kann beispielsweise durch den Ausdruck (1) angegeben werden.
  • Figure DE102017000955A1_0002
  • Im Ausdruck (1) ist st ein Umgebungszustand zum Zeitpunkt t und at eine zum Zeitpunkt t ausgeführte Aktion. Die Aktion at ändert den Zustand in st+1. rt+1 repräsentiert die für die Änderung des Zustands vergebene Belohnung. De Term, dem max angehängt ist, ist der Q-Wert, der mit γ multipliziert wird, wenn eine zu dem Zeitpunkt bekannte Aktion a ausgewählt wird, um den höchsten Q-Wert im Zustand st+1 zu zu ergeben. γ ist ein Parameter, der als Diskontierungsrate bezeichnet wird und 0 < γ ≤ 1 erfüllt. α ist ein Lernfaktor, der 0 < α ≤ 1 erfüllt.
  • Der Ausdruck (1) repräsentiert ein Verfahren zum Aktualisieren des Bewertungswerts Q(st, at) einer Aktion at in einem Zustand st basierend auf der als Ergebnis des Versuchs at zurückgeführten Belohnung rt+1. Q(st, at) wird erhöht, wenn die Summe der Belohnung rt+1 und des Bewertungswerts Q(st+1, max at+1) der besten Aktion max a in dem Zustand, der auf den Zustand s folgt und aus der Aktion a resultiert, größer ist als der Bewertungswert Q(st, at) der Aktion a im Zustand s; Q(st, at) wird verringert, wenn die vorstehend genannte Summe kleiner ist als Q(st, at). Mit anderen Worten, der Wert einer bestimmten Aktion in einem bestimmten Zustand wird nahe an die unmittelbar als Ergebnis zurückgeführte Belohnung und den Wert der besten Aktion im darauffolgenden aus der bestimmten Aktion resultierenden Zustand gebracht.
  • Verfahren zum Darstellen von Q(s, a) auf einem Computer umfassen ein Verfahren, bei dem für alle Zustands-/Aktionspaare (s, a) Werte in Form einer Tabelle (Aktionswerttabelle) bereitgestellt werden und ein Verfahren, bei dem eine Funktion zum Approximieren von Q(s, a) bereitgestellt wird. Durch letzteres Verfahren kann der vorstehend genannte Aktualisierungsausdruck (1) durch Anpassen des Parameters der Näherungsfunktion unter Verwendung einer Technik implementiert werden, wie etwa dem stochastischen Gradientenabstiegsverfahren. Ein neuronales Netzwerk, das später beschrieben ist, kann als Näherungsfunktion verwendet werden.
  • Ein neuronales Netzwerk kann auch als Näherungsalgorithmus für eine Wertfunktion beim überwachten Lernen, nichtüberwachten Lernen oder bestärkenden Lernen verwendet werden. Ein neuronales Netzwerk wird durch eine Recheneinrichtung, einen Speicher und andere Einrichtungen zum Implementieren eines neuronalen Netzwerks in Nachahmung eines Modells eines Neurons gebildet, wie beispielsweise in 3 gezeigt. 3 ist eine schematische Darstellung, die ein Modell eines Neurons veranschaulicht.
  • Wie in 3 gezeigt, dient ein Neuron dazu, eine Ausgabe y für eine Mehrzahl Eingänge x zu erzeugen (3 zeigt die Eingänge x1 bis x3 als Beispiel). Jede Eingabe x1 bis x3 wird mit einem der Eingabe x entsprechenden Gewicht w (w1 bis w3) multipliziert. Die Neuronen erzeugen dadurch die Ausgabe y, die durch die Gleichung (2) ausgedrückt wird. Es wird darauf hingewiesen, dass die Eingabe x, das Ergebnis y und das Gewicht w sämtlich Vektoren sind. In der untenstehenden Gleichung (2) ist θ eine systematische Messabweichung und fk eine Aktivierungsfunktion.
  • Figure DE102017000955A1_0003
  • Ein durch Kombinieren der vorstehend beschriebenen Neuronen gebildetes dreischichtiges neuronales Netzwerk ist nachstehend unter Bezugnahme auf 4 beschrieben. 4 ist eine schematische Darstellung, die ein neuronales Netzwerk mit den Gewichten von drei Schichten D1 bis D3 veranschaulicht.
  • Wie in 4 gezeigt, wird eine Mehrzahl Eingaben x (die Eingaben x1 bis x3 werden hierin als Beispiel verwendet) auf der linken Seite des neuronalen Netzwerks eingegeben und die Ergebnisse y (die Ergebnisse y1 bis y3 werden hierin als Beispiel verwendet) werden auf der rechten Seite des Netzwerks ausgegeben.
  • Spezifischer werden die Eingaben x1 bis x3 mit einem entsprechenden Gewicht multipliziert, bevor sie in jedes von drei Neuronen N11 bis N13 eingegeben werden. Die zum Multiplizieren dieser Eingaben verwendeten Gewichte sind kollektiv mit W1 bezeichnet.
  • Die Neuronen N11 bis N13 geben jeweils z11 bis z13 aus. In 4 sind z11 bis z13 kollektiv als Merkmalsvektoren Z1 bezeichnet und können als Vektoren angesehen werden, die durch Extrahieren von Merkmalen von Eingabevektoren erhalten werden. Die Merkmalsvektoren Z1 sind Merkmalsvektoren zwischen den Gewichten W1 und W2. Z11 bis z13 werden mit einem entsprechend Gewicht multipliziert, bevor sie in jedes von zwei Neuronen N21 und N22 eingegeben werden. Die zum Multiplizieren dieser Merkmalsvektoren verwendeten Gewichte sind kollektiv mit W2 bezeichnet.
  • Die Neuronen N21 und N22 geben jeweils z21 und z22 aus. In 4 sind z21 und z22 kollektiv als Merkmalsvektoren Z2 bezeichnet. Die Merkmalsvektoren Z2 sind Merkmalsvektoren zwischen den Gewichten W2 und W3. Z21 und z22 werden mit einem entsprechenden Gewicht multipliziert, bevor sie in jedes von drei Neuronen N31 bis N33 eingegeben werden. Die zum Multiplizieren dieser Merkmalsvektoren verwendeten Gewichte sind kollektiv mit W3 bezeichnet.
  • Schließlich geben die Neuronen N31 bis N33 jeweils die Ergebnisse y1 bis y3 aus.
  • Der Betrieb des neuronalen Netzwerks umfasst einen Lernmodus und einen Wertvorhersagemodus. Beispielsweise werden die Gewichte w im Lernmodus unter Verwendung eines Lerndatensatzes gelernt und der Parameter wird im Vorhersagemodus zum Bestimmen von Aktionen verwendet, die die Steuerung der Mehrzahl Maschinen und der Klimaanlage betreffen. Hier wird nur einfachheitshalber auf ”Vorhersage” Bezug genommen, selbstverständlich kann aber eine Vielzahl von Aufgaben, wie etwa Erfassung, Klassifizierung und Inferenz, durchgeführt werden.
  • Daten, die durch einen tatsächlichen Betrieb der Mehrzahl Maschinen und der Klimaanlage im Vorhersagemodus erhalten werden, können sofort gelernt und in der darauffolgenden Aktion reflektiert werden (Online-Lernen), oder es kann eine Gruppe vorab gesammelter Daten dazu verwendet werden, ein einmaliges Lernen durchzuführen und anschließend in einem Erfassungsmodus unter Verwendung derselben Parameter ein Lernen (Batch-Lernen) durchzuführen. Der Lernmodus kann als zwischenzeitliche Vorgehensweise immer dann zwischengeschaltet werden, wenn eine bestimmte Datenmenge angesammelt worden ist.
  • Die Gewichte W1 bis W3 können durch das Error-Backpropagation-(Fehlerrückführungs-)Verfahren gelernt werden. Fehlerinformationen werden von rechts eingegeben und fließen nach links. Das Error-Backpropagation-Verfahren ist eine Technik zum Anpassen (Lernen) von Gewichten für jedes Neuron, um die Differenz zwischen der der Eingabe x entsprechenden Ausgabe y und der tatsächlichen Ausgabe y (Lehrer) zu verringern.
  • Ein solches vorstehend beschriebenes neuronales Netzwerk kann mehr als drei Schichten haben (zum tiefen Lernen). Es ist möglich, nur anhand von Lehrerdaten automatisch eine Recheneinrichtung zu erhalten, die Merkmale der Eingabe schrittweise extrahiert und ein Ergebnis zurückführt.
  • Ebenso wie beim ”bestärkenden Lernen”, kann ”überwachtes Lernen” unter Verwendung eines Algorithmus eines neuronalen Netzwerks implementiert werden, wobei das neuronale Netzwerk (eine Funktion) immer dann gemäß Lehrerdaten aktualisiert wird, wenn eine Zustandsüberwachung durchgeführt wird. Die vorstehend beschriebenen Label (Belohnungen) können als Lehrerdaten verwendet werden.
  • Bislang wurde das Produktionssteuersystem gemäß der ersten Ausführungsform beschrieben, als Nächstes wird eine zweite Ausführungsform mit konkreten Beispielen für die Steuerdaten beschrieben.
  • 5 zeigt eine Anordnung einer Fabrik, die mit einem Produktionssteuersystem gemäß der zweiten Ausführungsform ausgestattet ist.
  • Ebenso wie bei der Fabrik gemäß der ersten Ausführungsform umfasst die Fabrik gemäß der zweiten Ausführungsform eine Mehrzahl Maschinen 11A bis 11N, eine Klimaanlage 13, eine Stromberechnungseinheit 15 und eine Temperaturinformationserzeugungseinheit 17, wobei eine Steuereinheit 20 die Fabrik steuert. Die Steuereinheit 20 umfasst eine Basissteuereinheit 21 und eine Maschinenlerneinheit 23 sowie einen Schalter 25 und führt basierend auf einem Produktionsplan und einem Arbeitsplan, die von außen zugeführt werden, eine Steuerung durch. Der Schalter ist eine Einrichtung zum Umschalten der Steuerung in Schritt S103 von 2 und wird wie vorstehend beschrieben durch Software implementiert.
  • Die 6A und 6B zeigen jeweils eine beispielhafte Darstellung eines Produktionsplans und eines Arbeitsplans gemäß der zweiten Ausführungsform. Der Arbeitsplan stellt Informationen bezüglich der Arbeiter bereit, die zur Arbeit in die Fabrik kommen und sich mit der Produktion beschäftigen, und beeinflusst den Umfang betreibbarer Maschinen. Wenn beispielsweise gemäß dem Arbeitsplan eine ausreichende Anzahl Arbeiter vorhanden ist, können alle Maschine 11A bis 11N jederzeit betrieben werden, wenn gemäß dem Arbeitsplan jedoch nur eine begrenzte Anzahl Arbeiter vorhanden ist, ist der Betriebszustand der Maschinen eingeschränkt, beispielsweise kann eine der Maschinen den ganzen Tag lang nicht betrieben werden oder zwei der Maschinen können nicht zur gleichen Zeit betrieben werden. Einer einfacheren Beschreibung halber wird hierin die Betreibbarkeit der Maschinen durch eine Angabe dargestellt, ob jede Maschine betreibbar oder nicht betreibbar ist. Die Informationen können jedoch nicht nur durch eine Angabe, ob jede Maschine betreibbar oder nicht betreibbar ist, sondern auch durch eine Angabe von Änderungen von Kombinationen gleichzeitig betreibbarer Maschinen dargestellt werden.
  • Ebenso wie bei der ersten Ausführungsform umfasst die Maschinenlerneinheit 23 eine Zustandsüberwachungseinheit 31, ein Lerneinrichtung 33 und eine Lernsteuereinheit 35. Die Lernsteuereinheit 35 umfasst, wie dargestellt, eine Belohnungsberechnungseinheit 41, eine Speichereinheit 43 und eine Aktualisierungseinheit 45. Die Lerneinrichtung 33 kann einen beliebigen der vorstehend beschriebenen Algorithmen verwenden. Die zweite Ausführungsform wird anhand von Beispielen für Daten, die für jede Einheit bereitgestellt werden, genauer beschrieben.
  • Wie in 6A gezeigt, umfasst der Produktionsplan Einträge für die Produktart, Produktzahl, Verfahren zum Herstellen eines Produkts und Lieferfristen und repräsentiert hier die Herstellung von nX Stück einer Produktart X mit einer Lieferfrist tx, wobei jedes Stück des Produkts X durch eine Maschine A tAX(PA(t)) Stunde(n) lang, durch eine Maschine B tBX(PB(t)) Stunde(n) lang, ... und mit einer Maschine N tNX(PN(t)) Stunde(n) lang zu bearbeiten ist. PA(t), PB(t), ..., PN(t) sind Parameter der Bearbeitungsgeschwindigkeit der Maschinen A, B, ..., N und PKMIN(t) < PK(t) < PKMAX(t), wobei K = A, B, ..., N.
  • Wie in 6B gezeigt, wird der Arbeitsplan in Form von Daten bereitgestellt, die die Betreibbarkeit jeder Maschine angeben.
  • Die folgenden Eingabedaten werden für die Basissteuereinheit 21 bereitgestellt:
    • – Produktionsplan: 6A,
    • – Arbeitsplan: 6B,
    • – Funktion zum Erhalten der Zyklusdauer: tAX0(PA(t)), tBX0(PB(t)), ..., tNX0(PN(t)) und
    • – Funktion zum Erhalten des Stromverbrauchs: pA0(PA(t)), pB0(PB(t)), ..., pN0(PN(t)), pAIR0(PAIR(t)),
    wobei tAX0(PA(t)) eine Funktion zum Erhalten der Zyklusdauer der Maschine A und ebenso für die anderen ähnlichen Terme ist, pA0(PA(t)) eine Funktion zum Erhalten des Stromverbrauchs der Maschine A ist, pAIR0(PAIR(t)) eine Funktion zum Erhalten des Stromverbrauchs der Klimaanlage und ebenso für die anderen ähnlichen Terme ist.
  • Die folgenden Eingabedaten werden für die Zustandsüberwachungseinheit 31 der Maschinenlerneinheit 23 bereitgestellt:
    • – Produktionsplan: 6A,
    • – Arbeitsplan: 6B,
    • – Stromverbrauch in der Fabrik (von der Stromberechnungseinheit 15): pTOTAL(t) und
    • – Informationen bezüglich der Temperatur in der Fabrik (von der Temperaturinformationserzeugungseinheit 17): TAIR(t).
  • Zusätzlich zu dem Vorstehenden wird die Ausgabe von der Basissteuereinheit 21 an die Maschinen A bis N und die Klimaanlage oder die Ausgabe von der Lerneinrichtung 33 eingegeben.
  • Der Maschinenlerneinheit 31 werden vorab die folgenden Eingaben zugeführt:
    • – Funktion zum Erhalten der Zyklusdauer: tAX0(PA(t)), tBX0(PB(t)), ..., tNX0(PN(t)),
    • – Daten zum Definieren des Temperaturbereichs: TMIN, TMAX,
    • – Bearbeitungsgeschwindigkeitsparameterbereiche (Ober- und Untergrenzen): PAMIN, PAMAX, PBMIN, PBMAX, ..., PNMIN, PNMAX, und
    • – Klimaanlagensteuerbefehlsbereich (Ober- und Untergrenze): PAIRMIN, PAIRMAX. Die Lerneinrichtung 33 gibt Folgendes aus:
    • – Bearbeitungsgeschwindigkeitsparameter: PA(t), PB(t), ..., PN(t), wobei PKMIN < PK(t) < PKMAX und K = A, B, ..., N und
    • – Klimaanlagensteuerbefehl: PAIR(t), wobei PAIRMIN < PAIR(t) < PAIRMAX.
  • Die Produktionsabschlussdauer des Produkts X wird durch TXEND repräsentiert.
  • Die Lerneinrichtung führt eine Suche durch, wobei der Erfüllung der nachstehenden Bedingungen (1) und (2) Priorität gegeben wird: tXEND < tX (1) und TMIN < TAIR(t) < TMAX (2).
  • Des Weiteren führt die Lerneinrichtung ein Lernen durch, so dass der tägliche Maximalwert von pTOTAL(t) reduziert und gleichzeitig die Bedingungen (1) und (2) erfüllt werden können.
  • Ein Beispiel für ein Verfahren, bei dem ein Facharbeiter die Ausgaben bestimmt, wird nun beschrieben.
  • Zunächst approximiert, durch Annehmen einer ausreichend großen Zahl NX, die Produktionsabschlussdauer des Produkts X tXEND die Taktzeit tXMAX, weshalb die Bereiche von PA(t), PB(t), ..., PN(t) durch die folgende Gleichung bestimmt werden: tXEND = tXMAXNX = max(tAX0(PA(t)), tBX0(PB(t)), ..., tNX0(PN(t))·NX.
  • Ferner gilt die folgende Gleichung und PAIR(t) für TAIR(t) kann durch Vorhersagen von fAIR(PAIR) bestimmt werden, wobei fAIR(PAIR) die aus der Klimatisierung resultierende Temperaturänderung repräsentiert und TO(t) die Temperaturänderung ist, die aus anderen Faktoren als der Klimatisierung resultiert, wie etwa externe Luft- und Wärmequellen. TAIR(t) = TAIR(t – Δt) + fAIR(PAIR(t – Δt)) + TO(t – Δt)
  • Der Stromverbrauch in der Fabrik pTOTAL(t) wird durch die folgende Gleichung vorhergesagt und PA(t), PB(t), ..., PN(t), die den täglichen Maximalwert von pTOTAL(t) minimieren sollen, können bestimmt werden, wobei pO(t) der Stromverbrauch in der Fabrik ausschließlich des Verbrauchs der Maschinen A, B, ..., N und der Klimaanlage ist. In diesem Fall wird angenommen, dass pO(t) eine Konstante ist oder durch Überwachung vorhergesagt wird.
  • Figure DE102017000955A1_0004
  • Wenn Parameter durch einen Menschen bestimmt werden, kann die Genauigkeit von Vorhersagen für Näherungsfehler von tXEND und Funktionen wie etwa pO(t), fAIR(PAIR) und TO(t) durch Wiederholen des Produktionsverfahrens und überwachen tatsächlicher Werte verbessert werden.
  • Es wird nun das Verfahren zum Bestimmen einer Ausgabe bei der zweiten Ausführungsform beschrieben. Die anfängliche Steuerung wird durch die Basissteuereinheit 21 durchgeführt. Die Eingabe in die Maschinenlerneinheit 23 ist beim ”überwachten Lernen” der Lehrer.
  • Die Belohnungsberechnungseinheit 41 berechnet Belohnungen anhand der folgenden Regeln:
    • – Wenn die Bedingung (1) und/oder die Bedingung (2) nicht erfüllt werden, wird ein negativer Wert als Belohnung vergeben, und
    • – wenn sowohl die Bedingung (1) als auch die Bedingung (2) erfüllt werden, wird ein positiver Wert als Belohnung für eine Änderung zu einer Verringerung des täglichen Maximalwerts von pTOTAL(t) und ein negativer Wert als Belohnung für eine Änderung zu einer Erhöhung des täglichen Maximalwerts von pTOTAL(t) vergeben.
  • Die Speichereinheit 43 speichert Sätze einer Eingabe, einer Belohnung und einer Ausgabe.
  • Die Aktualisierungseinheit 45 aktualisiert eine Modellformel der Lerneinrichtung 33, die zum Bestimmen einer Ausgabe basierend auf einem Satz einer Eingabe, einer Belohnung und einer Ausgabe verwendet wird.
  • Nachdem beim ”überwachten Lernen” Merkmale gelernt wurden, wird die Betriebssteuerung von der Steuerung durch die Basissteuereinheit 21 auf die Steuerung durch die Maschinenlerneinheit 23 umgeschaltet. Der Zustand der Lerneinrichtung 33 zu diesem Zeitpunkt wird als Anfangszustand des ”bestärkenden Lernens” definiert. Die Lerneinrichtung 33 kann die Modellformel durch ”bestärkendes Lernen” aktualisieren. Die Aktualisierungseinheit 45 aktualisiert die Modellformel basierend auf den Daten in der Speichereinheit 43.
  • 7 zeigt eine Anordnung einer Fabrik, die mit einem Produktionssteuersystem gemäß einer dritten Ausführungsform ausgestattet ist.
  • Die Fabrik gemäß der dritten Ausführungsform hat eine vergleichbare Anordnung wie die Fabrik gemäß der zweiten Ausführungsform, unterscheidet sich jedoch dadurch, dass jede der Mehrzahl Maschinen 11A bis 11N ein Thermometer und einen Strommesser und die Klimaanlage 13 einen Strommesser umfasst. Die Steuereinheit 20 der dritten Ausführungsform hat eine vergleichbare Konfiguration wie die Steuereinheit 20 der zweiten Ausführungsform.
  • Die 8A und 8B zeigen jeweils eine beispielhafte Darstellung eines Produktionsplans und eines Arbeitsplans gemäß der dritten Ausführungsform.
  • Bei der dritten Ausführungsform lernt die Maschinenlerneinheit 23, Steuerdaten zu erzeugen, die für jede Maschine eine konstante Temperatur aufrechterhalten und den Stromverbrauch der Fabrik bei der Herstellung von drei Produktarten X, Y und Z unter Verwendung der Maschinen A, B, ..., N gemäß dem Produktionsplan von 8A und dem Arbeitsplan von 8B senken. Hier K = A, B, ..., N und L = X, Y, Z.
  • Wie in 8A gezeigt, unterscheidet sich der Produktionsplan (der Produktionsablaufplan) dahingehend, dass drei Arten von Produkten hergestellt werden, die Eintragselemente für jedes Produkt sind jedoch dieselben wie bei der zweiten Ausführungsform. Wie in 8B gezeigt, ist der Arbeitsplan derselbe wie bei der zweiten Ausführungsform. Die folgenden Eingaben werden für die Basissteuereinheit 21 bereitgestellt:
    • – Produktionsplan: 8A,
    • – Arbeitsplan: 8B,
    • – Funktion zum Erhalten der Zyklusdauer: tKL0(PK(t)) und
    • – Funktion zum Erhalten des Stromverbrauchs: pK0(PK(t)), pAIR0(PAIR(t)).
  • Die folgenden Eingaben werden für die Zustandsüberwachungseinheit 31 der Maschinenlerneinheit 23 bereitgestellt:
    • – Produktionsplan: 8A,
    • – Arbeitsplan: 8B,
    • – Stromverbrauch jeder Vorrichtung: pK(t), pAIR(t),
    • – Stromverbrauch in der Fabrik: pTOTAL(t),
    • – Temperaturinformationen jeder Vorrichtung: TK(t), TAIR(t) und
    • – Informationen bezüglich der Temperatur in der Fabrik: TAIR(t).
  • Der Maschinenlerneinheit 23 werden vorab die folgenden Eingaben zugeführt:
    • – Definition des Temperaturbereichs: TMIN, TMAX,
    • – Bearbeitungsgeschwindigkeitsparameterbereich (Ober- und Untergrenze): PKLMIN, PKLMAX, und
    • – Klimaanlagensteuerbefehlsbereich: PAIRMIN, PAIRMAX.
  • Die Lerneinrichtung gibt Folgendes aus:
    • – Betriebsstart-/-stoppbefehl: EKL(t), wobei EKL(t) = 0, 1,
    • – Beschleunigungsparameter: PK(t), wobei PKMIN < PK(t) < PKMAX und
    • – Klimaanlagensteuerbefehl: PAIR(t), wobei PAIRMIN < PAIR(t) < PAIRMAX.
  • Wenn EKL(t) = 1, wird das Produkt L durch die Maschine K zum Zeitpunkt t bearbeitet.
  • Die Produktionsabschlussdauer des Produkts L wird durch TLEND repräsentiert.
  • Die Maschinenlerneinheit 23 führt in Bezug auf alle Einheiten von K und L eine Suche durch, wobei der Erfüllung der nachstehenden Bedingungen (3) und (4) Priorität gegeben wird: tLEND < tL (3), TMIN < TK(t) < TMAX (4).
  • Des Weiteren führt die Maschinenlerneinheit 23 ein Lernen durch, so dass der tägliche Maximalwert von pTOTAL(t) reduziert und gleichzeitig die Bedingungen (3) und (4) erfüllt werden können.
  • Ein Beispiel für ein Verfahren, bei dem ein Facharbeiter die Ausgaben bestimmt, wird nun beschrieben.
  • Als Strategie für die Suche muss die erste Priorität den Produktionsplan erfüllen. Die Suche wird über die Bereiche des Betriebsstart-/-stoppbefehls und des Bearbeitungsgeschwindigkeitsparameters durchgeführt, die tLEND < tL erfüllen. Dabei wird, wenn jede Maschine nicht mehr als ein Produkt bearbeiten kann, die folgende Gleichung in Bezug auf alle Maschinen erfüllt.
  • Figure DE102017000955A1_0005
  • Ein Klimaanlagensteuerbefehl, der die Temperaturbedingung für jeden Punkt innerhalb der Bereiche erfüllt, wird berechnet. Zunächst sei die aus der Klimatisierung resultierende Temperaturänderung fAIR(PAIR) und die aus dem Bearbeitungsgeschwindigkeitsparameter resultierende Temperaturänderung gK(PK(t)). Des Weiteren sei die aus anderen Faktoren als der Klimatisierung, wie etwa externe Luft- und Wärmequellen, resultierende Temperaturänderung TO(t) und durch Annehmen der Konstanten kK und IK kann davon ausgegangen werden, dass die folgenden Gleichungen gelten.
  • Figure DE102017000955A1_0006
  • Alternativ wird durch Überwachen der Beziehung zwischen TAIR(t) und TK(t) der Bereich von TAIR(t) vorhergesagt und verwendet.
  • Durch Berechnen des Stromverbrauchs an jedem Punkt, an dem der Produktionsplan und die Temperaturbedingung erfüllt werden, kann die Ausgabe bestimmt werden, die den täglichen Maximalwert von pTOTAL(t) minimieren soll. Die folgende Gleichung kann erforderlichenfalls verwendet werden, wobei pO(t) den Stromverbrauch in der Fabrik ausschließlich des Stromverbrauchs der Maschinen A, B, ..., N und der Klimaanlage repräsentiert.
  • Figure DE102017000955A1_0007
  • Wenn jedoch zwischen dem berechneten Wert und der tatsächlichen Produktionsabschlussdauer, den tatsächlichen Temperaturänderungen oder dem tatsächlichen Stromverbrauch ein Fehler vorhanden ist, ist es erforderlich, das Berechnungsverfahren zu korrigieren oder unter Berücksichtigung einer Toleranz eine erneute Berechnung durchzuführen.
  • Die anfängliche Steuerung wird durch die Basissteuereinheit 21 durchgeführt. Die Eingabe in die Maschinenlerneinheit 23 ist beim ”überwachten Lernen” der Lehrer.
  • Die Belohnungsberechnungseinheit 41 berechnet Belohnungen anhand der folgenden Regeln:
    • – Wenn die Bedingung (3) und/oder die Bedingung (4) nicht für jede Einheit von K und L erfüllt werden, wird ein negativer Wert als Belohnung vergeben, und
    • – wenn sowohl die Bedingung (3) als auch die Bedingung (4) für alle Einheiten von K und L erfüllt werden, wird ein positiver Wert als Belohnung für eine Änderung zu einer Verringerung des täglichen Maximalwerts von pTOTAL(t) und ein negativer Wert als Belohnung für eine Änderung zu einer Erhöhung des täglichen Maximalwerts von pTOTAL(t) vergeben.
  • Nachdem beim ”überwachten Lernen” Merkmale gelernt wurden, wird die Betriebssteuerung von der Steuerung durch die Basissteuereinheit 21 auf die Steuerung durch die Maschinenlerneinheit 23 umgeschaltet. Der Zustand der Lerneinrichtung zu diesem Zeitpunkt wird als Anfangszustand des ”bestärkenden Lernens” definiert. Die Lerneinrichtung kann, wenn sie sich in einem fortgeschrittenen Lernzustand befindet, die Modellformel durch ”bestärkendes Lernen” aktualisieren.
  • 9 zeigt eine Anordnung einer Mehrzahl Fabriken, auf die ein integriertes Produktionssteuersystem gemäß einer vierten Ausführungsform angewandt wird.
  • Mehrere Fabriken 100P, 100Q, ..., 100S sind jeweils mit Steuereinheiten 20P, 20Q, ..., 20S gemäß der ersten, zweiten oder dritten Ausführungsform ausgestattet. Die Steuereinheiten 20P, 20Q, ..., 20S sind über ein Kommunikationsnetzwerk 120 kommunikationsfähig miteinander verbunden.
  • Des Weiteren ist, wie in 9 gezeigt, eine integrierte Produktionsleiteinheit 110 bereitgestellt, die über das Kommunikationsnetzwerk 120 mit den Steuereinheiten 20P, 20Q, ..., 20S wechselseitig kommunikationsfähig ist. Die integrierte Produktionsleiteinheit 110 integriert und leitet die Mehrzahl Fabriken 100P, 100Q, ..., 100S. Die integrierte Produktionsleiteinheit 110 erzeugt Produktionspläne für die Mehrzahl Fabriken 100P, 100Q, ..., 100S und sendet die derart erzeugten Produktionspläne an die jeweiligen Fabriken.
  • Bei einem integrierten Produktionssteuersystem gemäß der vierten Ausführungsform werden die Ergebnisse des durch die Steuereinheit 20I (I = P, Q, ..., S) einer Fabrik durchgeführten Lernens an die Steuereinheit 203 einer anderen Fabrik gesendet (3 = P, Q, ..., S und J = I). Mit anderen Worten, die Steuereinheiten 20P, 20Q, ..., 20S tauschen über das Kommunikationsnetzwerk 120 Lernergebnisse miteinander aus und nutzen sie gemeinsam. Wenn die Steuereinheit 20J vor dem Start ihres eigenen Lernens von der Steuereinheit 20I Lernergebnisse empfängt, verwendet sie die empfangenen Lernergebnisse als Referenz zum Definieren des Anfangszustands, und wenn sie die Ergebnisse nach dem Durchführen ihres eigenen Lernens empfängt, vergleicht sie ihre eigenen Lernergebnisse mit den Ergebnissen, die sie als Referenz für weiteres Lernen empfangen hat.
  • Das Produktionssteuersystem der vorliegenden Erfindung realisiert ein Produktionssteuersystem, ohne ein Betriebsleitprogramm zu erzeugen und ermöglicht dadurch eine Kostensenkung.
  • ZITATE ENTHALTEN IN DER BESCHREIBUNG
  • Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
  • Zitierte Patentliteratur
    • JP 2011-156598 [0007]
    • JP 5818865 [0008]

Claims (8)

  1. Produktionssteuersystem einer Fabrik, wobei das System umfasst: – eine Mehrzahl Maschinen (11A bis 11N), – eine Klimaanlage (13), – eine Stromberechnungseinheit (15) zum Überwachen des Stromverbrauchs einer gesamten Fabrik einschließlich des Stromverbrauchs der Mehrzahl Maschinen (11A bis 11N) und der Klimaanlage (13), – eine Temperaturinformationserzeugungseinheit (17) zum Erzeugen von Informationen bezüglich der Temperatur in der Fabrik, – wobei der Betriebszustand und die Bearbeitungsbedingungen der Mehrzahl Maschinen (11A bis 11N) und der Betriebszustand der Klimaanlage (13) gesteuert werden, um ein durch einen Produktionsplan vorgeschriebenes Produkt bis zu einer vorgeschriebenen Lieferfrist herzustellen, und – eine Maschinenlerneinheit (23), die eine Beziehung des Funktionszustands, der den Betriebszustand und die Bearbeitungsbedingungen der Mehrzahl Maschinen (11A bis 11N) sowie den Betriebszustand der Klimaanlage (13) umfasst, und des Umgebungszustands lernt, der eine Produktionsabschlussdauer des Produkts gemäß dem Funktionszustand, die Temperatur in der Fabrik und den Stromverbrauch der gesamten Fabrik umfasst, und den Funktionszustand ausgibt, der den Umgebungszustand gemäß einem Produktionsplan in einen gewünschten Zustand bringt.
  2. Produktionssteuersystem nach Anspruch 1, wobei der Produktionsplan einen Arbeitsplan für Arbeiter umfasst und der Betrieb der Mehrzahl Maschinen (11A bis 11N) durch einen Arbeitsplan eingeschränkt wird.
  3. Produktionssteuersystem nach Anspruch 1 oder 2, das den Betriebszustand und die Bearbeitungsbedingungen der Mehrzahl Maschinen (11A bis 11N) sowie den Betriebszustand der Klimaanlage (13) gemäß dem Produktionsplan und gemäß einem vorgegebenen Ablauf steuert, bis die Maschinenlerneinheit (23) einen Zustand zum Ausgeben des Funktionszustands erreicht, der den Umgebungszustand gemäß dem Produktionsplan in einen gewünschten Zustand bringt.
  4. Produktionssteuersystem nach Anspruch 3, wobei die Maschinenlerneinheit (23) ein Lernen der Beziehung des Funktionszustands durchführt, bis eine erste vorgegebene Anzahl Steuerungen gemäß dem vorgegebenen Ablauf durchgeführt worden ist.
  5. Produktionssteuersystem nach Anspruch 4, wobei die Maschinenlerneinheit (23) Daten bezüglich des Funktionszustands und des Umgebungszustands sammelt und basierend auf den gesammelten Daten ein Lernen durchführt, bis die erste vorgegebene Anzahl Steuerungen gemäß dem vorgegebenen Ablauf durchgeführt worden ist.
  6. Produktionssteuersystem nach einem der Ansprüche 1 bis 5, wobei die Steuerung des Betriebszustands und der Bearbeitungsbedingungen der Mehrzahl Maschinen (11A bis 11N) sowie des Betriebszustands der Klimaanlage (13) auf eine Steuerung durch eine Ausgabe der Maschinenlerneinheit (23) umgeschaltet wird, nachdem die Maschinenlerneinheit (23) das Lernen durchgeführt hat.
  7. Produktionssteuersystem nach einem der Ansprüche 1 bis 6, wobei der gewünschte Zustand des Umgebungszustands als erstrebenswerter betrachtet wird, wenn die Produktionsabschlussdauer und die Temperatur in der Fabrik innerhalb von jeweiligen vorgegebenen Bereichen liegen und der Stromverbrauch der gesamten Fabrik geringer ist.
  8. Integriertes Produktionssteuersystem, das umfasst: – eine Mehrzahl Produktionssteuersysteme nach einem der Ansprüche 1 bis 7, die jeweils für eine Mehrzahl Fabriken bereitgestellt ist, und – ein Kommunikationsnetzwerk (120), das die Mehrzahl Produktionssteuersysteme miteinander verbindet, – wobei jedes der Mehrzahl Produktionssteuersysteme ein Lernergebnis einer Maschinenlerneinheit (23) des jeweiligen Produktionssteuersystems über das Kommunikationsnetzwerk (120) an ein anderes Produktionssteuersystem sendet, und wobei eine Mehrzahl der Maschinenlerneinheiten (23) der Mehrzahl Produktionssteuersysteme die Lernergebnisse gemeinsam nutzt.
DE102017000955.4A 2016-02-09 2017-02-02 Produktionssteuersystem und integriertes Produktionssteuersystem Active DE102017000955B4 (de)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016-022598 2016-02-09
JP2016022598A JP6059375B1 (ja) 2016-02-09 2016-02-09 生産制御システムおよび統合生産制御システム

Publications (2)

Publication Number Publication Date
DE102017000955A1 true DE102017000955A1 (de) 2017-08-10
DE102017000955B4 DE102017000955B4 (de) 2022-11-17

Family

ID=57756236

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102017000955.4A Active DE102017000955B4 (de) 2016-02-09 2017-02-02 Produktionssteuersystem und integriertes Produktionssteuersystem

Country Status (4)

Country Link
US (1) US9958861B2 (de)
JP (1) JP6059375B1 (de)
CN (1) CN107045330B (de)
DE (1) DE102017000955B4 (de)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020216452A1 (de) * 2019-04-26 2020-10-29 Siemens Aktiengesellschaft Zustandsanalyse einer anlage
DE102021117244A1 (de) 2021-07-05 2023-01-05 Schaeffler Technologies AG & Co. KG Produktionsanlage und Verfahren zum Betrieb einer Produktionsmaschine
DE112020007149B4 (de) 2020-07-03 2023-09-21 Mitsubishi Electric Corporation Zuordnungsunterstützungsprogramm, Zuordnungsunterstützungsvorrichtung, Zuordnungslernprogramm, Zuordnungslernvorrichtung und computerlesbares Speichermedium
DE102022122903A1 (de) 2022-09-09 2024-03-14 Krones Aktiengesellschaft Verfahren zur Überwachung von Medienverbräuchen in einer Abfülllinie und Vorrichtung zum Ausführen des Verfahrens
DE102018212589B4 (de) 2017-08-24 2024-07-11 Fanuc Corporation Verwaltungsvorrichtung und Verwaltungsverfahren

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6059375B1 (ja) * 2016-02-09 2017-01-11 ファナック株式会社 生産制御システムおよび統合生産制御システム
WO2019022066A1 (ja) * 2017-07-26 2019-01-31 ダイキン工業株式会社 環境設備制御装置
JP2019067238A (ja) * 2017-10-03 2019-04-25 エヌ・ティ・ティ・コミュニケーションズ株式会社 制御装置、制御方法および制御プログラム
JP6659652B2 (ja) * 2017-10-31 2020-03-04 ファナック株式会社 加工条件調整装置及び機械学習装置
US20190138880A1 (en) * 2017-11-03 2019-05-09 Drishti Technologies, Inc. Workspace actor selection systems and methods
JP6591509B2 (ja) * 2017-11-06 2019-10-16 株式会社東芝 金型温度異常予兆検知装置及びプログラム
JP7105556B2 (ja) * 2017-11-14 2022-07-25 千代田化工建設株式会社 プラント管理システム及び管理装置
US10845768B2 (en) 2017-12-12 2020-11-24 Distech Controls Inc. Environment controller and method for inferring via a neural network one or more commands for controlling an appliance
US10895853B2 (en) 2017-12-12 2021-01-19 Distech Controls Inc. Inference server and environment controller for inferring one or more commands for controlling an appliance taking into account room characteristics
US10838375B2 (en) 2017-12-12 2020-11-17 Distech Controls Inc. Inference server and environment controller for inferring via a neural network one or more commands for controlling an appliance
US10908561B2 (en) 2017-12-12 2021-02-02 Distech Controls Inc. Environment controller and method for inferring one or more commands for controlling an appliance taking into account room characteristics
TWI650714B (zh) 2018-01-19 2019-02-11 財團法人工業技術研究院 動態智能排程方法及裝置
JP6635274B2 (ja) * 2018-02-23 2020-01-22 株式会社安川電機 製品品質管理システム
US20190278242A1 (en) * 2018-03-07 2019-09-12 Distech Controls Inc. Training server and method for generating a predictive model for controlling an appliance
JP7090243B2 (ja) 2018-05-08 2022-06-24 千代田化工建設株式会社 プラント運転条件設定支援システム、学習装置、及び運転条件設定支援装置
SG11202012657RA (en) * 2018-07-26 2021-02-25 Mitsubishi Electric Corp Water treatment plant and method for operating water treatment plant
CN109344168A (zh) * 2018-10-29 2019-02-15 上海新增鼎数据科技有限公司 监管工厂生产运营状态的方法、平台、设备及存储介质
DE102018221002A1 (de) * 2018-12-05 2020-06-10 Robert Bosch Gmbh Steuereinrichtung zur Steuerung einer Fertigungsanlage sowie Fertigungsanlage und Verfahren
JP7015261B2 (ja) 2019-02-13 2022-02-02 ファナック株式会社 管理装置及び管理システム
US11592812B2 (en) * 2019-02-19 2023-02-28 Applied Materials, Inc. Sensor metrology data integration
JP7173907B2 (ja) 2019-03-18 2022-11-16 ダイキン工業株式会社 空調機の予冷運転又は予暖運転の運転条件を決定する機械学習装置
JP7239106B2 (ja) * 2019-04-22 2023-03-14 株式会社ジェイテクト サイバーフィジカルプロダクションシステム型生産システム
JP6819807B2 (ja) * 2019-04-26 2021-01-27 ダイキン工業株式会社 空調システム、機械学習装置及び機械学習方法
EP3961114B1 (de) 2019-04-26 2024-01-03 Daikin Industries, Ltd. Klimatisierungssystem und maschinenlernverfahren
WO2020230239A1 (ja) * 2019-05-13 2020-11-19 日揮グローバル株式会社 運転指針探索方法、及び運転指針探索システム
TWI699637B (zh) * 2019-07-10 2020-07-21 中華電信股份有限公司 利用深度強化學習控制環境舒適度之系統及其方法
CN112766530B (zh) * 2019-11-06 2024-07-02 三菱电机自动化(中国)有限公司 生产准备及生产启动作业辅助装置、系统及方法
CN114729762A (zh) * 2019-11-26 2022-07-08 大金工业株式会社 机器学习装置、需求控制系统以及空调控制系统
JP7424807B2 (ja) * 2019-11-28 2024-01-30 ファナック株式会社 機械学習装置、消費電力予測装置、及び制御装置
CN115280077B (zh) * 2020-03-27 2024-03-08 三菱电机株式会社 空调控制的学习装置以及推理装置
JPWO2021192279A1 (de) * 2020-03-27 2021-09-30
CN111538233A (zh) * 2020-05-06 2020-08-14 上海雁文智能科技有限公司 一种基于能耗奖励的中央空调人工智能控制方法
JP7275233B1 (ja) 2021-11-18 2023-05-17 エヌ・ティ・ティ・コミュニケーションズ株式会社 学習装置、学習方法及び学習プログラム
JP2023077651A (ja) * 2021-11-25 2023-06-06 国立大学法人京都大学 コントローラ、制御方法、および制御プログラム
JP2023161707A (ja) * 2022-04-26 2023-11-08 横河電機株式会社 制御装置、制御方法、および、制御プログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5818865B2 (ja) 1974-03-18 1983-04-15 株式会社東芝 コウリユウデンゲン ノ ドウキキリカエホウシキ
JP2011156598A (ja) 2010-01-29 2011-08-18 Mitsubishi Heavy Ind Ltd 消費電力制御システム

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2682312B2 (ja) * 1991-12-13 1997-11-26 三菱電機株式会社 スケジューリングシステム及び条件調整ニューラルネットワーク
US6353814B1 (en) * 1997-10-08 2002-03-05 Michigan State University Developmental learning machine and method
AU4733601A (en) * 2000-03-10 2001-09-24 Cyrano Sciences Inc Control for an industrial process using one or more multidimensional variables
JP2004094900A (ja) * 2002-07-09 2004-03-25 National Institute Of Advanced Industrial & Technology 生産計画作成システム及び方法、並びにプログラム
JP2004151830A (ja) * 2002-10-29 2004-05-27 Daikin Ind Ltd エネルギー需要最適化システム及び生産計画作成支援システム
JP4573783B2 (ja) 2006-03-08 2010-11-04 株式会社日立製作所 プラントの制御装置と制御方法及び火力発電プラントとその制御方法
US8447423B2 (en) 2009-11-30 2013-05-21 Exxonmobil Research And Engineering Company Method and apparatus for optimizing a performance index of a bulk product blending and packaging plant
CN101881944A (zh) 2010-06-18 2010-11-10 北京斯普信电子技术有限公司 能耗综合控制系统和方法
US8195313B1 (en) * 2010-11-19 2012-06-05 Nest Labs, Inc. Thermostat user interface
US9851728B2 (en) * 2010-12-31 2017-12-26 Google Inc. Inhibiting deleterious control coupling in an enclosure having multiple HVAC regions
DE102011075337A1 (de) 2011-05-05 2012-11-08 Siemens Ag Verfahren und Vorrichtung zur Ansteuerung einer Anlage
CN102226563B (zh) 2011-06-03 2013-09-25 深圳和而泰智能控制股份有限公司 一种低成本自学习温控器及其方法
DE102011081547A1 (de) 2011-08-25 2013-02-28 Siemens Aktiengesellschaft Einstellung einer industriellen Anlage
CN103890667B (zh) * 2011-10-21 2017-02-15 谷歌公司 用户友好、网络连接的学习型恒温器及相关系统和方法
JP2013210728A (ja) * 2012-03-30 2013-10-10 Dainippon Printing Co Ltd 電力監視システム
DE102012206083A1 (de) 2012-04-13 2013-10-17 Krones Ag Verfahren und Vorrichtung zur Optimierung eines Produktionsprozesses
JP5904000B2 (ja) * 2012-04-26 2016-04-13 株式会社ジェイテクト 物の生産に関わる設備の制御装置
JP6114532B2 (ja) * 2012-10-26 2017-04-12 株式会社日立製作所 エネルギー管理システム
WO2014154375A1 (de) * 2013-03-26 2014-10-02 Siemens Aktiengesellschaft Verfahren zur rechnergestützten steuerung und/oder regelung eines technischen systems
JP6214922B2 (ja) * 2013-05-20 2017-10-18 日本電信電話株式会社 情報処理装置、情報処理システム、情報処理方法、および学習プログラム
JP5818865B2 (ja) 2013-11-27 2015-11-18 三菱重工業株式会社 消費電力制御システム及び方法
EP2881822A1 (de) 2013-12-05 2015-06-10 Bayer Technology Services GmbH Computer-implementiertes Verfahren und System zur automatischen Überwachung und Statusermittlung ganzer Prozessabschnitte in einer Process Unit
JP6457369B2 (ja) * 2015-09-30 2019-01-23 ファナック株式会社 パラメータを自動調整する機能を有する機械学習装置及び電動機制御装置
US9849364B2 (en) * 2016-02-02 2017-12-26 Bao Tran Smart device
JP6059375B1 (ja) * 2016-02-09 2017-01-11 ファナック株式会社 生産制御システムおよび統合生産制御システム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5818865B2 (ja) 1974-03-18 1983-04-15 株式会社東芝 コウリユウデンゲン ノ ドウキキリカエホウシキ
JP2011156598A (ja) 2010-01-29 2011-08-18 Mitsubishi Heavy Ind Ltd 消費電力制御システム

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102018212589B4 (de) 2017-08-24 2024-07-11 Fanuc Corporation Verwaltungsvorrichtung und Verwaltungsverfahren
WO2020216452A1 (de) * 2019-04-26 2020-10-29 Siemens Aktiengesellschaft Zustandsanalyse einer anlage
DE112020007149B4 (de) 2020-07-03 2023-09-21 Mitsubishi Electric Corporation Zuordnungsunterstützungsprogramm, Zuordnungsunterstützungsvorrichtung, Zuordnungslernprogramm, Zuordnungslernvorrichtung und computerlesbares Speichermedium
DE102021117244A1 (de) 2021-07-05 2023-01-05 Schaeffler Technologies AG & Co. KG Produktionsanlage und Verfahren zum Betrieb einer Produktionsmaschine
WO2023280336A1 (de) * 2021-07-05 2023-01-12 Schaeffler Technologies AG & Co. KG Produktionsanlage und verfahren zum betrieb einer produktionsmaschine
DE102022122903A1 (de) 2022-09-09 2024-03-14 Krones Aktiengesellschaft Verfahren zur Überwachung von Medienverbräuchen in einer Abfülllinie und Vorrichtung zum Ausführen des Verfahrens

Also Published As

Publication number Publication date
CN107045330B (zh) 2018-03-30
US20170227950A1 (en) 2017-08-10
JP6059375B1 (ja) 2017-01-11
US9958861B2 (en) 2018-05-01
CN107045330A (zh) 2017-08-15
DE102017000955B4 (de) 2022-11-17
JP2017142595A (ja) 2017-08-17

Similar Documents

Publication Publication Date Title
DE102017000955B4 (de) Produktionssteuersystem und integriertes Produktionssteuersystem
DE102017108169B4 (de) Produktionssystem, das einen Bestimmungswert einer Variablen in Bezug auf eine Produktabweichung festlegt
DE102016011532B4 (de) Maschinenlernvorrichtung und Maschinenlernverfahren zum Optimieren der Häufigkeit einer Werkzeugkorrektur einer Werkzeugmaschine und Werkzeugmaschine mit der Maschinenlernvorrichtung
DE102016015017B4 (de) Steuervorrichtung mit Lernfunktion zum Erfassen einer Rauschursache
DE102017011754B4 (de) Maschinenlerneinrichtung zum Lernen eines Montagevorgangs und Komponentenmontagesystem
DE102017006054A1 (de) Maschinelle Lernvorrichtung, die eine geschätzte Lebensdauer eines Lagers lernt, Lebensdauer-Schätzvorrichtung und maschinelles Lernverfahren
DE102017011350A1 (de) Maschinenlernvorrichtung, lebensdauerprognosevorrichtung, numerische steuereinrichtung, produktionssystem und maschinenlernverfahren zum prognostizieren einer lebensdauer eines nand-flash-speichers
DE102016011402A1 (de) Maschinelles Lernverfahren und maschinelle Lernvorrichtung zum Einlernen von Betriebsbefehlen für einen Elektromotor und Werkzeugmaschine mit maschineller Lernvorrichtung
DE102017000770A1 (de) Maschinelle lernvorrichtung, numerische steuerung, werkzeugmaschinensystem, herstellungssystem und maschinelles lernverfahren zum erlernen der anzeige eines bedienungsmenüs
DE102017011544A1 (de) Steuerung und maschinelle Lernvorrichtung
DE112019001512T5 (de) EINSPRITZGIEßMASCHINENSYSTEM
DE102016011520B4 (de) Produktionsausrüstung mit Maschinenlernsystem und Montage-und Prüfeinheit
DE102017005349A1 (de) Maschinenlernvorrichtung, numerische steuervorrichtung und maschinenlernverfahren zum lernen eines schwellenwerts zum erkennen einer anomalen last
DE102017130429A1 (de) Numerische Steuerung und maschinelle Lernvorrichtung
DE102016117560B4 (de) Werkzeugmaschine zum erzeugen einer geschwindigkeitsverteilung
DE102018108778B4 (de) Beschleunigungs- und verzögerungssteuereinheit, maschinenlernvorrichtung und maschinenlernverfahren
DE102019000457A1 (de) Maschinelle lernvorrichtung zum lernen eines fehlerauftrittsprinzips einer laservorrichtung
DE102019003601A1 (de) Vorrichtung zur Lebensdauervorhersage und Vorrichtung für maschinelles Lernen
DE102016008910A1 (de) Zellsteuersystem, Fertigungssystem und Steuerverfahren, wobei die Steuerfertigungszelle eine Mehrzahl von Fertigungsmaschinen umfasst.
DE102018126429A1 (de) Bearbeitungsbedingungsanpassungsvorrichtung und Maschinenlernvorrichtung
EP3479178B1 (de) Simulations-basierte regelung eines fertigungssystems unter beruecksichtigung eines vorab berechneten verarbeitungsfensters
DE102019112211A1 (de) Simulationsvorrichtung
DE102019000749A1 (de) Steuervorrichtung und maschinelle Lernvorrichtung
EP1530770B1 (de) Verfahren und vorrichtung zur prozessoptimierung
DE102018126434A1 (de) Testvorrichtung und Maschinenlernvorrichtung

Legal Events

Date Code Title Description
R012 Request for examination validly filed
R016 Response to examination communication
R016 Response to examination communication
R018 Grant decision by examination section/examining division
R020 Patent grant now final