DE102020208473A1 - Verfahren und Vorrichtung für ein Industriesystem - Google Patents

Verfahren und Vorrichtung für ein Industriesystem Download PDF

Info

Publication number
DE102020208473A1
DE102020208473A1 DE102020208473.4A DE102020208473A DE102020208473A1 DE 102020208473 A1 DE102020208473 A1 DE 102020208473A1 DE 102020208473 A DE102020208473 A DE 102020208473A DE 102020208473 A1 DE102020208473 A1 DE 102020208473A1
Authority
DE
Germany
Prior art keywords
state
representation
industrial system
processing
depending
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
DE102020208473.4A
Other languages
English (en)
Inventor
Maksym Lefarov
Felix Milo Richter
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Priority to DE102020208473.4A priority Critical patent/DE102020208473A1/de
Priority to US17/365,851 priority patent/US20220011748A1/en
Priority to CN202110761689.XA priority patent/CN113919616A/zh
Publication of DE102020208473A1 publication Critical patent/DE102020208473A1/de
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/4155Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by programme execution, i.e. part programme or machine function execution, e.g. selection of a programme
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0631Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06316Sequencing of tasks or work
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/04Manufacturing
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/32Operator till task planning
    • G05B2219/32304Minimize flow time, tact, shortest processing, machining time
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Economics (AREA)
  • Theoretical Computer Science (AREA)
  • Strategic Management (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Manufacturing & Machinery (AREA)
  • Marketing (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Automation & Control Theory (AREA)
  • Human Computer Interaction (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Educational Administration (AREA)
  • Game Theory and Decision Science (AREA)
  • Development Economics (AREA)
  • Primary Health Care (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • Evolutionary Computation (AREA)
  • Geometry (AREA)
  • General Engineering & Computer Science (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • General Factory Administration (AREA)

Abstract

Ein Verfahren für ein Industriesystem wird bereitgestellt, welches umfasst: Ermitteln (100) einer Repräsentation (T) des Industriesystems, wobei das Ermitteln der Repräsentation (T) umfasst: Selektieren (104) eines ersten Zustands (s4#1) der Repräsentation (T), Auswählen (106), ausgehend von dem ersten Zustand (s4#1), wenigstens eines Bearbeitungsauftrags (a45) aus einer Mehrzahl von Bearbeitungsaufträgen in Abhängigkeit von dem ersten Zustand (s4#1) der Repräsentation (T) und in Abhängigkeit von wenigstens einer vorab ermittelten Empfehlung (E), und Ermitteln (108) eines zweiten Zustands (s5#1) als Folgezustand des ersten Zustands (s4#1) durch eine Simulation des zweiten Zustands (s5#1) in Abhängigkeit von dem wenigstens einen ausgewählten Bearbeitungsauftrag (a45) und in Abhängigkeit von dem ersten Zustand (s4#1); und Ermitteln (200) eines Fertigungsplans (P) für das Industriesystem in Abhängigkeit von der ermittelten Repräsentation (T).

Description

  • Stand der Technik
  • Die Erfindung betrifft ein Verfahren und eine Vorrichtung für ein Industriesystem.
  • Die Zuweisung und Anordnung von Bearbeitungsaufträgen an industrielle ausführende Bearbeitungsressourcen wird als Scheduling bezeichnet. Die Ausgabe eines Planungsalgorithmus wird als „Zeitplan“ oder „Richtlinie“ oder als Fertigungsplan bezeichnet. Die Optimierung des Durchsatzes oder der Nutzung von Bearbeitungsressourcen ist eine Herausforderung und birgt das Potential für große Kosteneinsparungen.
  • Gegenwärtig erfolgt die Planung häufig unter Verwendung von handgefertigten Planungsregeln, die von Fachleuten aus der Industrie entworfen wurden, z.B. durch Zuweisung von Aufträgen in aufsteigender Reihenfolge ihrer Bearbeitungsdauer oder durch Bevorzugung von Aufträgen, deren Fälligkeitsdatum am nächsten liegt.
  • Offenbarung der Erfindung
  • Das der Erfindung zugrundeliegende Problem wird durch ein Verfahren gemäß dem Anspruch 1, durch eine Vorrichtung gemäß einem nebengeordneten Anspruch und durch eine Verwendung gemäß einem weiteren nebengeordneten Anspruch gelöst. Vorteilhafte Weiterbildungen finden sich in den Unteransprüchen, in der nachfolgenden Beschreibung von Beispielen und in der Zeichnung.
  • Ein erster Aspekt dieser Beschreibung betrifft ein Verfahren für ein Industriesystem, welches umfasst: Ermitteln einer Repräsentation des Industriesystems, wobei das Ermitteln der Repräsentation umfasst: Selektieren eines ersten Zustands der Repräsentation, Auswählen, ausgehend von dem ersten Zustand, wenigstens eines Bearbeitungsauftrags aus einer Mehrzahl von Bearbeitungsaufträgen in Abhängigkeit von dem ersten Zustand der Repräsentation und in Abhängigkeit von wenigstens einer vorab ermittelten Empfehlung, Ermitteln eines zweiten Zustands als Folgezustand des ersten Zustands durch eine Simulation des zweiten Zustands in Abhängigkeit von dem wenigstens einen ausgewählten Bearbeitungsauftrag und in Abhängigkeit von dem ersten Zustand; und Ermitteln eines Fertigungsplans für das Industriesystem in Abhängigkeit von der ermittelten Repräsentation.
  • Vorteilhaft wird durch die vorab ermittelte Empfehlung zum einen eine adaptive Ermittlung der Zustände ermöglicht. Zum anderen verbessert sich die Interpretierbarkeit des Ergebnisses in Form der Zustände unter Kenntnis der vorab ermittelten Empfehlung eines Experten. Das bedeutet, dass Domänenwissen von Experten bei der Ermittlung des Fertigungsplans miteinbezogen wird. Gleichzeitig wird ein optimiertes Ergebnis durch die Anwendung der Repräsentation im Sinne eines Suchbaums ermöglicht. Folglich wird durch die Anwendung des Expertenwissens die Akzeptanz der Methode gesteigert und gleichzeitig eine automatisierte optimierte Ermittlung des Fertigungsplans bereitgestellt.
  • Ein vorteilhaftes Beispiel zeichnet sich dadurch aus, dass das Verfahren umfasst: Betreiben des Industriesystems in Abhängigkeit von dem ermittelten Fertigungsplan.
  • Vorteilhaft wird durch den ermittelten Fertigungsplan ermöglicht, ein verbessertes Ergebnis bei der Abarbeitung der Bearbeitungsaufträge zu erreichen.
  • Ein vorteilhaftes Beispiel zeichnet sich dadurch aus, dass das Verfahren umfasst: Ermitteln, dass ein Abbruchkriterium zum Betreiben des Industriesystems erreicht ist; Ermitteln einer zweiten Repräsentation mit dem Zustand des Industriesystems bei Erreichen des Abbruchkriteriums als Startzustand der zweiten Repräsentation; Ermitteln eines zweiten Fertigungsplans für das Industriesystem in Abhängigkeit von der ermittelten zweiten Repräsentation; und Betreiben des Industriesystems in Abhängigkeit von dem zweiten Fertigungsplan.
  • So kann vorteilhaft eine schrittweise Optimierung und Nachjustierung der Fertigung im laufenden Betrieb erfolgen.
  • Ein vorteilhaftes Beispiel zeichnet sich dadurch aus, dass die Ermittlung der Repräsentation des Industriesystems umfasst: Zuweisen des ausgewählten wenigstens einen Bearbeitungsauftrags zu einer Verarbeitungsressource der Repräsentation des Industriesystems in Abhängigkeit von dem Zustand der Verarbeitungsressource der Repräsentation in dem ersten Zustand.
  • Vorteilhaft wird die Zuweisung in Abhängigkeit von dem Zustand der Verarbeitungsressource durchgeführt, womit eine Berücksichtigung des jeweiligen Zustands der Verarbeitungsressourcen wie beispielsweise belegt oder frei, berücksichtigt wird.
  • Ein vorteilhaftes Beispiel zeichnet sich dadurch aus, dass die Ermittlung der Repräsentation des Industriesystems umfasst: Rückführen des Ergebnisses der Simulation entlang der ausgewählten Zustände.
  • Vorteilhaft findet die Rückführung nur dann statt, wenn die Arbeitsschritte, d.h. die Mehrzahl von Bearbeitungsaufträgen, abgearbeitet ist. Damit wird ein möglicher Pfad für die Ermittlung des Fertigungsplans bereitgestellt, für den eine vollständige Abarbeitung der Mehrzahl der Bearbeitungsaufträge sichergestellt ist.
  • Ein vorteilhaftes Beispiel zeichnet sich dadurch aus, dass die Ermittlung der Repräsentation des Industriesystems umfasst: Verringern der Gewichtung der vorab ermittelten Empfehlung bei der Auswahl des wenigstens einen Bearbeitungsauftrags mit steigender Anzahl der Simulationen des jeweiligen Zustands der Repräsentation.
  • Die Zuweisungsvorschrift wird beispielsweise manuell mittels Expertenwissen festgelegt. So hilft diese Expertenregel zu Beginn der Suche, schlechte Aktionen im Sinne der Auswahl und der Zuweisung von Bearbeitungsaufträgen zu vermeiden. Durch die Verringerung der Gewichtung bekommt die Monte-Carlo-Methode mehr Gewicht, womit die Konvergenz sichergestellt ist. Dank der Zuweisungsvorschrift am Beginn der Suche kommt man schneller zu einem guten Ergebnis, ohne die attraktiven Eigenschaften der Monte-Carlo-Methode zu verlieren.
  • Ein vorteilhaftes Beispiel zeichnet sich dadurch aus, dass das Auswählen des Bearbeitungsauftrags umfasst: Auswählen desjenigen Bearbeitungsauftrags aus der Mehrzahl von Bearbeitungsaufträgen in Abhängigkeit von der vorab ermittelten Empfehlung und in Abhängigkeit von einem Kriterium, wobei das Kriterium wenigstens umfasst: eine erhöhte Anzahl an durchgeführten Simulationen; ein erhöhter mittlerer Gesamt-Reward.
  • Vorteilhaft wird mittels des Kriteriums ein Entscheidungskriterium zur Auswahl der Aktion bzw. des Bearbeitungsauftrags bereitgestellt.
  • Ein vorteilhaftes Beispiel zeichnet sich dadurch aus, dass die ermittelten Zustände der Repräsentation Teil eines Monte-Carlo-Suchbaums sind.
  • Vorteilhaft wird mittels des Aufbaus eines Monte-Carlo-Suchbaums erreicht, dass die Lösungen konvergieren und ein optimierter Fertigungsplan ermittelt wird.
  • Ein zweiter Aspekt der Beschreibung betrifft eine Vorrichtung für ein Industriesystem, welche dazu eingerichtet ist, eine Repräsentation des Industriesystems zu ermitteln, wobei das Ermitteln der Repräsentation umfasst: Selektieren eines ersten Zustands der Repräsentation, Auswählen, ausgehend von dem ersten Zustand, wenigstens eines Bearbeitungsauftrags aus einer Mehrzahl von Bearbeitungsaufträgen in Abhängigkeit von dem ersten Zustand der Repräsentation und in Abhängigkeit von wenigstens einer vorab ermittelten Empfehlung, und Ermitteln eines zweiten Zustands als Folgezustand des ersten Zustands durch eine Simulation des zweiten Zustands in Abhängigkeit von dem wenigstens einen ausgewählten Bearbeitungsauftrag und in Abhängigkeit von dem ersten Zustand; und einen Fertigungsplan für das Industriesystem in Abhängigkeit von der ermittelten Repräsentation zu ermitteln. Die Vorrichtung gemäß dem Anspruch 9, welche dazu eingerichtet ist, das Verfahren gemäß einem der Ansprüche 2 bis 8 durchzuführen.
  • Ein weiterer Aspekt der Beschreibung betrifft eine Verwendung des Verfahrens gemäß dem ersten Aspekt oder eine Verwendung der Vorrichtung gemäß dem zweiten Aspekt.
  • In der Zeichnung zeigen:
    • 1 ein schematisches Ablaufdiagram zur Ermittlung eines Fertigungsplans; und
    • 2 ein schematisches Blockdiagramm umfassend eine Vorrichtung und ein Industriesystem.
  • 1 zeigt ein schematisches Ablaufdiagramm zur Ermittlung eines Fertigungsplans P für ein Industriesystem. In einem Schritt 100 wird eine Repräsentation T, insbesondere ein Monte-Carlo-Suchbaum, des Industriesystems ermittelt, wobei das Ermitteln der Repräsentation T eine mehrfache Ausführung nachfolgender Schritte 104 bis 114 ausgehend von einem Startzustand s1#1 in einer Schleife umfasst. Der Schritt 104 umfasst ein Selektieren des ersten Zustands s4#1 der Repräsentation T. Die ermittelten Zustände der Repräsentation T sind beispielsweise Teil eines Monte-Carlo-Suchbaums.
  • Der Schritt 106 umfasst ein Auswählen, ausgehend von dem ersten Zustand s4#1, wenigstens eines Bearbeitungsauftrags a45, der auch als Job bezeichenbar ist, aus einer Mehrzahl von Bearbeitungsaufträgen, welche jeweils einen Beginn einer Bearbeitung eines Bearbeitungsauftrags auf einem Subsystem des Industriesystems, d.h. einer Verarbeitungsressource des Industriesystems, in einem Folgezustand implizieren, in Abhängigkeit von dem ersten Zustand s4#1 der Repräsentation T und in Abhängigkeit von wenigstens einer vorab ermittelten Empfehlung E, die beispielsweise durch Expertenwissen generiert wurde. Die vorab ermittelte Empfehlung E ist auch als Dispatching Rule bezeichenbar. Die vorab ermittelte Empfehlung E umfasst beispielweise ein Ranking d.h. eine Gewichtung auf Basis der vorliegenden möglichen Bearbeitungsaufträge. Es werden also für die vorliegenden möglichen Bearbeitungsaufträge Gewichtungen ermittelt, und anschließend derjenige Bearbeitungsauftrag ausgewählt, der die höchste bzw. niedrigste Gewichtung hat. Die Empfehlung E umfasst beispielsweise die Anweisung, immer den Job/Bearbeitungsauftrag mit der kürzesten Bearbeitungsdauer auszuwählen.,
  • Das Auswählen im Schritt 106 des Bearbeitungsauftrags a45 umfasst ein Auswählen desjenigen Bearbeitungsauftrags a45 aus der Mehrzahl von Bearbeitungsaufträgen in Abhängigkeit von der vorab ermittelten Empfehlung E und in Abhängigkeit von einem Kriterium, wobei das Kriterium wenigstens umfasst: eine erhöhte Anzahl an durchgeführten Simulationen in Blattrichtung, wobei die Anzahl in dem ersten Zustand s4#1 abgespeichert ist; ein erhöhter mittlerer Gesamt-Reward.
  • Ein hoher mittlerer Gesamt-Reward wird durch Q(s,a) der Gleichung 1 repräsentiert. Die Gleichung 1 ermittelt den Gesamt-Score, wobei a einen Bearbeitungsauftrag bzw. eine Aktion darstellt, wobei Q(s,a) den Exploitations-Term und den mittleren Gesamt-Reward darstellt, den der Algorithmus bis zu diesem Punkt durch Ausführung des Bearbeitungsauftrags a in dem Zustand s erhalten hat. Die Wurzel stellt den Explorations-Term dar. n(s) bezeichnet, wie oft der Algorithmus den Zustand s bereits besucht hat. n(s,a) bezeichnet, wir oft der Algorithmus den Bearbeitungsauftrag a im Zustand s ausgewählt hat. 1/duration(a) entspricht der Empfehlung E, also der Expertenregel und bezeichnet beispielsweise, wie lange die Verarbeitung des Bearbeitungsauftrags a dauert, wobei die Empfehlung E zeitlich kürzere Bearbeitungsdauern und damit die entsprechenden Bearbeitungsaufträge a bevorzugt. a s e l e c t e d = arg m a x a Q ( s , a ) + α log ( n ( s ) n ( s , a ) ) + β 1 d u r a t i o n ( a )
    Figure DE102020208473A1_0001
  • Es wird entweder der Bearbeitungsauftrag a mit der höchsten Anzahl an Simulationen ausgewählt, also n(s, a) in obiger Gleichung. Oder alternativ wird der Bearbeitungsauftrag a mit dem maximalen Q(s, a)-Wert, also die mit dem höchsten mittleren Gesamt-Reward ausgewählt.
  • In Zuständen s, in denen noch nicht alle möglichen Aktionen wenigstens einmal ausprobiert wurden ist die Gleichung 1 nicht ohne weiteres anwendbar: Für jede noch nicht probierte Aktion a ist n(s4#1, a) = 0 und damit würde in der Wurzel durch 0 geteilt. Stattdessen wird bei erreichten Zuständen, in denen nicht alle Aktionen ausprobiert wurden, eine der noch nicht probierten Aktionen a ausgewählt. Welche der nicht probierten Aktionen a selektiert wird, wird zum Beispiel durch die Expertenregel E bestimmt: Selektieren die gemäß der Expertenregel E beste Aktion a unter den noch nicht probierten Aktionen a.
  • Um den Einfluss des Empfehlungsterms, d.h. der Expertenregel, nach und nach zu verringern, wird n(s) in den Nenner gemäß Gleichung 2 aufgenommen. a s e l e c t e d = arg m a x a Q ( s , a ) + α log ( n ( s ) n ( s , a ) ) + β 1 d u r a t i o n ( a ) n ( s )
    Figure DE102020208473A1_0002
  • Die Ermittlung 100 der Repräsentation T des Industriesystems umfasst in dem Schritt 106 ein Zuweisen des ausgewählten wenigstens einen Bearbeitungsauftrags a45 zu einer Verarbeitungsressource R1; R2 der Repräsentation T des Industriesystems in Abhängigkeit von dem Zustand der Verarbeitungsressource R1; R2 der Repräsentation T in dem ersten Zustand s4#1. Beispielsweise wird im ersten Zustand s4#1 angezeigt, dass eine der Maschinen bzw. eine der Verarbeitungsressourcen frei ist, womit eine Zuordnung des Bearbeitungsauftrags im Folgezustand, also dem zweiten Zustand s5#1, und damit die Zuweisung erfolgen kann.
  • Der Schritt 108 umfasst ein Ermitteln eines zweiten Zustands s5#1 als Folgezustand des ersten Zustands s4#1 durch eine Simulation des zweiten Zustands s5#1, während einer Simulationsphase, in Abhängigkeit von einer simulierten Ausführung des bzw. von dem wenigstens einen ausgewählten und zugeordneten Bearbeitungsauftrag a45 und in Abhängigkeit von dem ersten Zustand s4#1. Der erreichte Zustand s5#1 wird in den Baum aufgenommen, falls er dort noch nicht repräsentiert ist. Das heißt, dass für den Zustand s5#1 die Zähler n(s5#1) und n(s5#1, a) initialisiert werden. Die Zähler n(s5#1) und n(s5#1, a) (für alle a) werden jeweils auf 0 initialisiert. In Schritt 112 werden die Zähler n(s5#1) und n(s5#1, a*) dann jeweils um 1 erhöht, wobei a* die in s5#1 gewählte Aktion ist. Eine Zuweisung des wenigstens einen Bearbeitungsauftrags a45 umfasst beispielsweise ein Einstellen des wenigstens einen Bearbeitungsauftrags a45 in eine Prioritätswarteschlange einer Verarbeitungsressource in dem zweiten Zustand S5#1 der Repräsentation T. Die Ermittlung des zweiten Folgezustands s5#1 erfolgt beispielsweise durch eine Simulation des Industriesystems unter Berücksichtigung des ersten Zustands s4#1 und des eingestellten ausgewählten Bearbeitungsauftrags a45. Die Simulation umfasst die Abarbeitung der in der jeweiligen Prioritätswarteschlange der jeweiligen Verarbeitungsressource wartenden Bearbeitungsaufträge.
  • Ein jeweiliger Bearbeitungsauftrag umfasst eine Indikation des zu bearbeitenden Gegenstands bzw. Werkstücks, einen Bearbeitungszustand wie beispielsweise ‚auf Bearbeitung wartend‘, ‚in Bearbeitung‘ oder ‚bearbeitet‘ bzw. ‚erledigt‘ und eine Priorität zur Aufnahme der Bearbeitung, welche allgemein und/oder bezogen auf einen Typ der Verarbeitungsressource bezogen ist.
  • Ein Schritt 112 umfasst ein Rückführen des Ergebnisses der Simulation, welches beispielsweise eine erfolgreiche Abarbeitung der vorgegebenen Mehrzahl von Bearbeitungsaufträgen umfasst, entlang der ausgewählten Zustände s5#1 s4#1, s#3#3, s2#1, s1#1, also, wenn in einem Schritt 110 festgestellt wird, dass die Mehrzahl der Bearbeitungsaufträge in dem ermittelten zweiten Zustand s5#1 abgearbeitet sind. Diese Phase der Suche aktualisiert den Suchbaum gemäß der Repräsentation T mit den gewonnenen Informationen. Dabei werden in umgekehrter Reihenfolge, also mit dem Blatt im Sinne des zweiten Zustands s5#1 beginnend, die ausgewählten Zustände in Richtung des Startzustands s1#1 besucht, wobei der Explorations-Term und der Exploitation-Term aktualisiert werden.
  • Die Monte-Carlo-Suchmethode umfasst eine Analyse der vielversprechendsten Aktionen, wobei der Monte-Carlo-Suchbaums auf der Grundlage von Zufallsstichproben im Suchraum erweitert wird. Die Anwendung der Monte-Carlo-Baumsuche in Partien basiert auf vielen Ausspielungen, die auch als Roll-Outs bezeichnet werden. In jedem Roll-Out wird die Partie bis zum Ende gespielt, indem Züge nach dem Zufallsprinzip und auf Basis der vorab ermittelten Empfehlung ausgewählt werden. Das Endergebnis jeder Ausspielung wird dann dazu verwendet, die Knoten im Monte-Carlo-Suchbaum zu gewichten, so dass bei zukünftigen Ausspielungen mit größerer Wahrscheinlichkeit bessere Knoten / Zustände ausgewählt werden.
  • Die Methode zur Verwendung von Ausspielungen besteht darin, nach jedem zulässigen Zug die Ausspielungen anzuwenden und dann den Zug zu wählen, der zu der besten Bewertung geführt hat. Die beste Bewertung umfasst beispielweise die meiste Anzahl von Simulationen. Jede Suchrunde der Monte-Carlo-Baumsuche besteht aus vier Schritten: Selektion, Expansion, Simulation und Backpropagation / Rückführung.
  • In der Backpropagation-Phase / Rückführphase gemäß dem Schritt 112 wird das Ergebnis der Ausspieglung verwendet, um die Informationen in den Knoten auf dem Weg vom zweiten Zustand bis zum Startzustand zu aktualisieren.
  • Die Ermittlung der Repräsentation T des Industriesystems umfasst ein Verringern der Gewichtung der vorab ermittelten Empfehlung E über die Anzahl der Simulationen des jeweiligen mit der Empfehlung assoziierten Zustands. Die Verringerung der Gewichtung der Empfehlung E wird also für jeden Zustand separat betrachtet, da jeder Zustand s einen eigenen Zähler n(s) hat. Beispielsweise ist die Gewichtung der vorab ermittelten Empfehlung bei der Auswahl des jeweiligen Bearbeitungsauftrags zu Beginn groß, was bedeutet, dass die Expertenempfehlung zunächst eine größere Rolle bei der Ermittlung des Suchbaums spielt. Mit erhöhter Anzahl der Simulationen wird die Gewichtung der Empfehlung verringert, um so zu einer schnellen Konvergenz, d.h. einem Abschluss der Bearbeitungsaufträge mit verringerter Anzahl der Zustände zu kommen. Die Gewichtung von der Empfehlung E wird kleiner je größer n(s) ist.
  • Wenn die Empfehlung E schwächer gewichtet wird, also Beta kleiner wird, werden dadurch die Exploration- und Exploitation-Terme stärker gewichtet, siehe Gleichung 1. Die Auswahl der Aktionen wird dann nicht mehr durch die Expertenregel beeinflusst. Aktionen werden bei hoher Qualität (Exploitation-Term) und/oder geringer Sample-Zahl (Exploitation-Term) ausgewählt.
  • In einem Schritt 114 wird ein Abbruchkriterium zum Abbruch der Ermittlung der Repräsentation T überprüft. Ein solches Abbruchkriterium umfasst beispielsweise den Ablauf einer Zeitdauer zur Ermittlung oder das Erreichen einer Anzahl durchgeführter Simulationen. Die Suchrunden werden gemäß dem Schritt 114 so lange wiederholt, wie Bearbeitungsaufträge vorhanden sind. Dann wird gemäß dem Schritt 200 der Zug mit den meisten durchgeführten Simulationen als endgültige Antwort im Sinne des Fertigungsplans P gewählt. Ein Schritt 200 umfasst entsprechend ein Ermitteln des Fertigungsplans P für das Industriesystem in Abhängigkeit von der ermittelten Repräsentation T. Der Fertigungsplan P umfasst eine zeitliche Reihenfolge der Zuweisungen von Bearbeitungsaufträgen zu Maschinen, also physisch vorhandenen Verarbeitungsressourcen des Industriesystems.
  • Die vorgeschlagene Methode verwendet die Monte-Carlo-Baumsuche mit bereits existierenden Dispatching-Regeln im Sinne der Empfehlung E als Suchheuristik. Im Vergleich zu reinen Dispatching-Regeln führt sie zu adaptiveren Lösungen, da die zurückgegebene Lösung gemäß dem Fertigungsplan P von den Dispatching-Regeln abweichen darf.
  • Das Industriesystem ist beispielsweise ein Fertigungssystem. Beispielsweise kann die vorgeschlagene Methode einen Fertigungsplan P für den Betrieb von Teilen oder einer gesamten Halbleiterfabrik ermitteln. Beispielsweise wird bestimmt, in welcher Bearbeitungsreihenfolge Siliziumwafern den verschiedenen Bearbeitungsstufen zugeführt werden. Ein anderes Beispiel für das Industriesystem umfasst ein Verpackungssystem.
  • Die vorgeschlagene Methode kann durch den Empfang von Sensorsignalen von eingebauten Überwachungssensoren der Verarbeitungsmaschinen der Fabrik (z.B. Strombelastung, Wartungsbedarf) und Sensoren, die die Position und den Zustand von Aufträgen innerhalb der Fabrik (z.B. Siliziumwafer) überwachen, genutzt werden, um ein Steuersignal zur Steuerung eines physikalischen Systems, z.B. eines computergesteuerten Roboters, zu berechnen, der Aufträge in verfügbare Maschinen lädt. Dies geschieht durch die Analyse des aktuellen Zustands der Fabrik sowie durch die Simulation und Optimierung möglicher Bearbeitungsaufträge.
  • 2 zeigt ein schematisches Blockdiagramm mit einer Vorrichtung 600, die zum Betreiben des Industriesystems 500 eingerichtet ist. Das Industriesystem 500 umfasst Verarbeitungsressourcen r1 und r2, wobei der Aufbau der Verarbeitungsressourcen anhand der Verarbeitungsressourcen R1 dargestellt ist.
  • Die Verarbeitungsressourcen R1 umfasst eine Prioritätswarteschlange Qin, in die Bearbeitungsaufträge eingestellt werden können, und eine Ausgangswarteschlange Qout. Zwischen den beiden Warteschlangen Qin und Qout befindet sich ein Verarbeitungsblock W, der Bearbeitungsaufträge aus der Warteschlange Qin entsprechend ihrer Priorität entnimmt, anschließend verarbeitet und nach der Verarbeitung in die Warteschlange Qout einstellt. Selbstverständlich können die Verarbeitungsressourcen R1, R2 auch hintereinander, parallel zueinander, also beliebig komplex miteinander verbunden sein. Selbstverständlich können weitere Verarbeitungsressourcen vorhanden sein.
  • Ein Block 602 ermittelt einen Ist-Zustand S der einzelnen Verarbeitungsressourcen R1, R2, wobei die Zustände der einzelnen Komponenten, d.h. der Warteschlangen Qin, Qout sowie des Verarbeitungsblocks W sowie die Zustände der einzelnen Bearbeitungsaufträge berücksichtigt werden. Dieser Ist-Zustand S wird als Anfangszustand s1#1 der Repräsentation T dem Block 100 zugeführt.
  • In einem Schritt 300 betreibt die Vorrichtung 600 das Industriesystems 500 in Abhängigkeit von dem in den Schritten 100 und 200 ermittelten Fertigungsplan P.
  • Ein Schritt 302 umfasst ein Ermitteln, dass ein Abbruchkriterium zum Betreiben 300 des Industriesystems 500 erreicht ist. Das Abbruchkriterium umfasst beispielsweise das Erreichen einer Anzahl von mittels des Industriesystems 500 durchgeführten Bearbeitungsaufträgen und/oder einen Ablauf einer Zeitdauer seit der Aufnahme der Bearbeitung des Fertigungsplans.
  • Der Schritt 100 umfasst ein Ermitteln einer zweiten Repräsentation T mit dem Zustand s1#1 des Industriesystems 500 bei Erreichen des Abbruchkriteriums als Startzustand der zweiten Repräsentation T. Der Schritt 200 umfasst ein Ermitteln eines zweiten Fertigungsplans P für das Industriesystem 500 in Abhängigkeit von der ermittelten zweiten Repräsentation T. Der Schritt 300 umfasst ein Betreiben des Industriesystems 500 in Abhängigkeit von dem zweiten Fertigungsplan P.

Claims (11)

  1. Ein Verfahren für ein Industriesystem (500), welches umfasst: Ermitteln (100) einer Repräsentation (T) des Industriesystems (500), wobei das Ermitteln der Repräsentation (T) umfasst: Selektieren (104) eines ersten Zustands (s4#1) der Repräsentation (T), Auswählen (106), ausgehend von dem ersten Zustand (s4#1), wenigstens eines Bearbeitungsauftrags (a45) aus einer Mehrzahl von Bearbeitungsaufträgen in Abhängigkeit von dem ersten Zustand (s4#1) der Repräsentation (T) und in Abhängigkeit von wenigstens einer vorab ermittelten Empfehlung (E), Ermitteln (108) eines zweiten Zustands (s5#1) als Folgezustand des ersten Zustands (s4#1) durch eine Simulation des zweiten Zustands (s5#1) in Abhängigkeit von dem wenigstens einen ausgewählten Bearbeitungsauftrag (a45) und in Abhängigkeit von dem ersten Zustand (s4#1); und Ermitteln (200) eines Fertigungsplans (P) für das Industriesystem (500) in Abhängigkeit von der ermittelten Repräsentation (T).
  2. Das Verfahren gemäß dem Anspruch 1, wobei das Verfahren umfasst: Betreiben (300) des Industriesystems (500) in Abhängigkeit von dem ermittelten Fertigungsplan (P).
  3. Das Verfahren gemäß dem Anspruch 2, wobei das Verfahren umfasst: Ermitteln (302), dass ein Abbruchkriterium zum Betreiben (300) des Industriesystems (500) erreicht ist; Ermitteln (100) einer zweiten Repräsentation (T) mit dem Zustand (s1#1) des Industriesystems (500) bei Erreichen des Abbruchkriteriums als Startzustand der zweiten Repräsentation (T); Ermitteln (200) eines zweiten Fertigungsplans (P) für das Industriesystem (500) in Abhängigkeit von der ermittelten zweiten Repräsentation (T); und Betreiben (300) des Industriesystems (500) in Abhängigkeit von dem zweiten Fertigungsplan (P).
  4. Das Verfahren gemäß einem der vorigen Ansprüche, wobei die Ermittlung (100) der Repräsentation (T) des Industriesystems (500) umfasst: Zuweisen des ausgewählten wenigstens einen Bearbeitungsauftrags (a45) zu einer Verarbeitungsressource (R1; R2) der Repräsentation (T) des Industriesystems (500) in Abhängigkeit von dem Zustand der Verarbeitungsressource (R1; R2) der Repräsentation (T) in dem ersten Zustand (s4#1).
  5. Das Verfahren gemäß einem der vorigen Ansprüche, wobei die Ermittlung der Repräsentation (T) des Industriesystems (500) umfasst: Rückführen (112) des Ergebnisses der Simulation entlang der ausgewählten Zustände (s5#1 s4#1, s#3#3, s2#1, s1#1).
  6. Das Verfahren gemäß einem der vorigen Ansprüche, wobei die Ermittlung der Repräsentation (T) des Industriesystems (500) umfasst: Verringern der Gewichtung der vorab ermittelten Empfehlung (E) bei der Auswahl des wenigstens einen Bearbeitungsauftrags (a45) mit steigender Anzahl Simulationen des jeweiligen Zustands (s1#1 ... s5#1) der Repräsentation (T).
  7. Das Verfahren gemäß einem der vorigen Ansprüche, wobei das Auswählen (106) des Bearbeitungsauftrags (a45) umfasst: Auswählen desjenigen Bearbeitungsauftrags (a45) aus der Mehrzahl von Bearbeitungsaufträgen in Abhängigkeit von der vorab ermittelten Empfehlung (E) und in Abhängigkeit von einem Kriterium, wobei das Kriterium wenigstens eines der folgenden Kriterien umfasst: eine erhöhte Anzahl an durchgeführten Simulationen; ein erhöhter mittlerer Gesamt-Reward.
  8. Das Verfahren gemäß einem der vorigen Ansprüche, wobei die ermittelten Zustände der Repräsentation (T) Teil eines Monte-Carlo-Suchbaums sind.
  9. Eine Vorrichtung (600) für ein Industriesystem (500), welche dazu eingerichtet ist, eine Repräsentation (T) des Industriesystems (500) zu ermitteln, wobei das Ermitteln der Repräsentation (T) umfasst: Selektieren (104) eines ersten Zustands (s4#1) der Repräsentation (T), Auswählen (106), ausgehend von dem ersten Zustand (s4#1), wenigstens eines Bearbeitungsauftrags (a45) aus einer Mehrzahl von Bearbeitungsaufträgen in Abhängigkeit von dem ersten Zustand (s4#1) der Repräsentation (T) und in Abhängigkeit von wenigstens einer vorab ermittelten Empfehlung (E), Ermitteln (108) eines zweiten Zustands (s5#1) als Folgezustand des ersten Zustands (s4#1) durch eine Simulation des zweiten Zustands (s5#1) in Abhängigkeit von dem wenigstens einen ausgewählten Bearbeitungsauftrag (a45) und in Abhängigkeit von dem ersten Zustand (s4#1); und einen Fertigungsplan (P) für das Industriesystem (500) in Abhängigkeit von der ermittelten Repräsentation (T) zu ermitteln.
  10. Die Vorrichtung (600) gemäß dem Anspruch 9, welche dazu eingerichtet ist, das Verfahren gemäß einem der Ansprüche 2 bis 8 durchzuführen.
  11. Eine Verwendung des Verfahrens gemäß einem der Ansprüche 1 bis 8 oder der Vorrichtung (600) gemäß einem der Ansprüche 9 bis 10.
DE102020208473.4A 2020-07-07 2020-07-07 Verfahren und Vorrichtung für ein Industriesystem Pending DE102020208473A1 (de)

Priority Applications (3)

Application Number Priority Date Filing Date Title
DE102020208473.4A DE102020208473A1 (de) 2020-07-07 2020-07-07 Verfahren und Vorrichtung für ein Industriesystem
US17/365,851 US20220011748A1 (en) 2020-07-07 2021-07-01 Method and device for an industrial system
CN202110761689.XA CN113919616A (zh) 2020-07-07 2021-07-06 用于工业系统的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102020208473.4A DE102020208473A1 (de) 2020-07-07 2020-07-07 Verfahren und Vorrichtung für ein Industriesystem

Publications (1)

Publication Number Publication Date
DE102020208473A1 true DE102020208473A1 (de) 2022-01-13

Family

ID=79019985

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102020208473.4A Pending DE102020208473A1 (de) 2020-07-07 2020-07-07 Verfahren und Vorrichtung für ein Industriesystem

Country Status (3)

Country Link
US (1) US20220011748A1 (de)
CN (1) CN113919616A (de)
DE (1) DE102020208473A1 (de)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8606386B2 (en) * 2010-03-12 2013-12-10 Ana Maria Dias Medureira Pereira Multi-agent system for distributed manufacturing scheduling with Genetic Algorithms and Tabu Search
US9141581B2 (en) * 2012-07-25 2015-09-22 Sap Se Production scheduling management
US10585994B2 (en) * 2018-03-07 2020-03-10 Paperless Parts, Inc. Systems and methods for secure, oblivious-client optimization of manufacturing processes
US20210278825A1 (en) * 2018-08-23 2021-09-09 Siemens Aktiengesellschaft Real-Time Production Scheduling with Deep Reinforcement Learning and Monte Carlo Tree Research
SG11202104066UA (en) * 2018-10-26 2021-05-28 Dow Global Technologies Llc Deep reinforcement learning for production scheduling
US20200285936A1 (en) * 2019-03-05 2020-09-10 STATGRAF Research LLP. Cognitive system
SG11202103113XA (en) * 2020-04-02 2021-04-29 Alipay Hangzhou Inf Tech Co Ltd Determining action selection policies of an execution device

Also Published As

Publication number Publication date
US20220011748A1 (en) 2022-01-13
CN113919616A (zh) 2022-01-11

Similar Documents

Publication Publication Date Title
DE102016014264B4 (de) Maschinelle Lernvorrichtung, Blechpaketherstellungsvorrichtung, Blechpaketherstellungssystem und maschinelles Lernverfahren zum Erlernen des Stapelns von Paketblechen
DE102016013731B4 (de) Robotersystem mit Funktionen zum Vereinfachen von Lehrvorgängen und Verbessern der Betriebsleistung durch Lernen
DE102015004932B4 (de) Simulationsvorrichtung für mehrere Roboter
EP2829166B1 (de) Bildung von rüstfamilien auf bestückungslinien
EP3256919B1 (de) Bildung von rüstfamilien für ein bearbeitungssystem mit einer werkzeugmaschine
DE102018005199B4 (de) Bauteilzuführvorrichtung und maschinelle lernvorrichtung
DE102018126429A1 (de) Bearbeitungsbedingungsanpassungsvorrichtung und Maschinenlernvorrichtung
DE102020204351A1 (de) Vorrichtung und verfahren zum planen einer mehrzahl von aufträgen für eine vielzahl von maschinen
EP3616482B1 (de) Verfahren und steuerungseinrichtung zur durchlaufzeitoptimierten produktion von leiterplatten auf einer bestückungslinie
DE102017010759A1 (de) Numerische steuerung
DE102020208473A1 (de) Verfahren und Vorrichtung für ein Industriesystem
WO2021190919A1 (de) Computerimplementiertes verfahren für eine produktionsplanung und/oder -steuerung eines produktionssystems und produktionsplanung und/oder -steuerungssystem
EP3474650B1 (de) Verfahren zur erstellung eines rüstsatzes für eine bestückungsmaschine
DE202019103862U1 (de) Vorrichtung zum Erstellen einer Strategie für einen Roboter
DE102019006984A1 (de) Vorrichtung zur Gruppierung von Werkzeugmaschinen und Gruppierungsverfahren
EP3485455A1 (de) Verfahren und vorrichtung zum bestimmen von optimalen losgrössen
DE102019108328A1 (de) Verfahren, Vorrichtung, Computerprogramm und Computerprogrammprodukt zur Verarbeitung von Messdatensätzen
DE102019000749A1 (de) Steuervorrichtung und maschinelle Lernvorrichtung
DE102019210372A1 (de) Verfahren, Vorrichtung und Computerprogramm zum Erstellen einer Strategie für einen Roboter
DE10044516A1 (de) Prozeßausrüstungsauswahlsystem und Auswahlverfahren für Prozeßausrüstung
EP3992733A1 (de) Maschinenbelegungsplanung für eine komplexe fertigungsanlage
DE102019217427A1 (de) Steuern und/oder Überwachen einer Maschinenanordnung
DE102015212327B4 (de) Verfahren, Vorrichtung und Computerprogrammprodukt für eine Bestückungslinie
DE102022200160A1 (de) Verfahren zum Optimieren eines Prozesses
DE102020205964B3 (de) Vorrichtung und Verfahren zum Betreiben eines Prüfstands

Legal Events

Date Code Title Description
R163 Identified publications notified