DE112017003703T5

DE112017003703T5 - Technologien zum Verwalten der Zuweisung von Beschleunigerressourcen

Info

Publication number: DE112017003703T5
Application number: DE112017003703.4T
Authority: DE
Inventors: Susanne M. Balle; Rahul Khanna
Original assignee: Intel Corp
Current assignee: Intel Corp
Priority date: 2016-07-22
Filing date: 2017-06-21
Publication date: 2019-04-18
Also published as: US20180024838A1; WO2018017247A1; WO2018014515A1; US20240113954A1; US10735835B2; CN109416677B; EP3488351A4; DE112017003705T5; US10034407B2; US10411729B2; US10542333B2; US20200053438A1; CN109328351A; WO2018017268A1; WO2018017230A1; DE112017003684T5; US10616668B2; US10616669B2; US20180024947A1; US10917321B2

Abstract

Technologien zum dynamischen Verwalten der Zuweisung von Beschleunigerressourcen enthalten einen Orchestrator-Server. Der Orchestrator-Server hat die Aufgabe, einem verwalteten Knoten eine Arbeitslast zur Ausführung zuweisen, einen vorhergesagten Bedarf für eine oder mehrere Beschleunigerressourcen zu bestimmen, um die Ausführung eines oder mehrerer Jobs innerhalb der Arbeitslast zu beschleunigen, vor dem vorhergesagten Bedarf eine oder mehrere Beschleunigerressourcen bereitzustellen, um den einen oder die mehreren Jobs zu beschleunigen, und dem verwalteten Knoten die eine oder die mehreren bereitgestellten Beschleunigerressourcen zuzuweisen, um die Ausführung des einen oder der mehreren Jobs zu beschleunigen. Andere Ausführungsformen werden ebenfalls beschrieben und beansprucht.

Description

QUERVERWEIS AUF VERWANDTE ANMELDUNGEN
Die vorliegende Anmeldung beansprucht die Priorität der US-Gebrauchsmusteranmeldung mit der Seriennummer 15/407,329 mit dem Titel „TECHNOLOGIES FOR MANAGING ALLOCATION OF ACCELERATOR RESOURCES“, die am 17. Januar 2017 eingereicht wurde und die Priorität der vorläufigen US-Patentanmeldung Nr. 62/365,969 , eingereicht am 22. Juli 2016; der vorläufigen US-Patentanmeldung Nr. 62/376,859 , eingereicht am 18. August 2016; und der vorläufigen US-Patentanmeldung Nr. 62/427,268 , eingereicht am 29. November 2016, beansprucht.
HINTERGRUND
In einer typischen Cloud-basierten Computerumgebung (zum Beispiel einem Daten-Center) können mehrere Computerknoten Arbeitslasten (zum Beispiel Prozesse, Anwendungen, Dienste usw.) im Auftrag von Kunden ausführen. Eine oder mehrere der Arbeitslasten können Sätze von Funktionen (zum Beispiel Jobs) enthalten, die unter Verwendung von Beschleunigerressourcen beschleunigt werden könnten, wie zum Beispiel feldprogrammierbare Gate-Arrays (FPGAs), dedizierte Grafikprozessoren oder andere spezialisierte Vorrichtungen zum Beschleunigen bestimmter Arten von Jobs. In typischen Daten-Centern können alle oder einige der Computerknoten physisch mit einer oder mehreren Beschleunigerressourcen ausgestattet sein (zum Beispiel auf derselben Platine wie die zentrale Verarbeitungseinheit). Jedoch kann es sein, dass in solchen Daten-Centern die Beschleunigerressourcen ungenutzt bleiben oder nur einen Teil der Zeit, in der die Arbeitslasten ausgeführt werden, genutzt werden, da viele Jobs, die den Computerknoten zugewiesen werden, möglicherweise keine Jobs enthalten, die sich für eine Beschleunigung anbieten. Darüber hinaus kann es sein, dass selbst in Daten-Centern, in denen jeder Computerknoten aus Ressourcen zusammengesetzt wird, die über das gesamte Daten-Center verteilt sind, wenn einem Computerknoten eine Arbeitslast zugewiesen wird, Informationen darüber, ob die zugewiesene Arbeitslast von einer Beschleunigung profitieren kann, nicht verfügbar sind. Darum kann es sein, dass der Computerknoten ohne die Beschleunigerressourcen zusammengesetzt wird, die für die Ausführung der Arbeitslast von Nutzen sein könnten, oder mit einer oder mehreren Beschleunigerressourcen zusammengesetzt wird, die unausgelastet sind (zum Beispiel länger als eine Schwellenzeitdauer leer laufen), während die Arbeitslast ausgeführt wird. Darum ist die Zuweisung von Beschleunigerressourcen in typischen Daten-Centern problematisch und kann oft zu einer ineffizienten Nutzung von Ressourcen führen, und damit zu unnötigen Kosten für den Betreiber des Daten-Centers.
Figurenliste
Die im vorliegenden Text beschriebenen Konzepte sind in den beiliegenden Figuren beispielhaft und nicht zum Zweck der Einschränkung veranschaulicht. Im Interesse der Einfachheit und Klarheit der Veranschaulichung sind die in den Figuren veranschaulichten Elemente nicht unbedingt maßstabsgetreu gezeichnet. Wenn es als zweckmäßig angesehen wurde, wurden Bezugszeichen in den Figuren wiederholt, um entsprechende oder analoge Elemente zu bezeichnen.

1 ist ein Schaubild einer konzeptionellen Übersicht eines Daten-Centers, in dem eine oder mehrere der im vorliegenden Text beschriebenen Techniken implementiert werden können, gemäß verschiedenen Ausführungsformen;
2 ist ein Schaubild einer beispielhaften Ausführungsform einer logischen Konfiguration eines Racks des Daten-Centers von 1;
3 ist ein Schaubild einer beispielhaften Ausführungsform eines anderen Daten-Centers, in dem eine oder mehrere der im vorliegenden Text beschriebenen Techniken implementiert werden können, gemäß verschiedenen Ausführungsformen;
4 ist ein Schaubild einer anderen beispielhaften Ausführungsform eines Daten-Centers, in dem eine oder mehrere der im vorliegenden Text beschriebenen Techniken implementiert werden können, gemäß verschiedenen Ausführungsformen;
5 ist ein Schaubild eines Konnektivitätsregimes, das für eine Link-Layer-Konnektivität repräsentativ ist, die zwischen verschiedenen Sleds der Daten-Centern der 1, 3 und 4 hergestellt werden kann;
6 ist ein Schaubild einer Rack-Architektur, die für eine Architektur eines bestimmten der in den 1-4 gezeigten Racks repräsentativ sein kann, gemäß einigen Ausführungsformen;
7 ist ein Schaubild einer beispielhaften Ausführungsform eines Sleds, der mit der Rack-Architektur von 6 verwendet werden kann;
8 ist ein Schaubild einer beispielhaften Ausführungsform einer Rack-Architektur, um Unterstützung für Sleds bereitzustellen, die Erweiterungsfähigkeiten besitzen;
9 ist ein Schaubild einer beispielhaften Ausführungsform eines Racks, das gemäß der Rack-Architektur von 8 implementiert wird;
10 ist ein Schaubild einer beispielhaften Ausführungsform eines Sleds, der zur Verwendung in Verbindung mit dem Rack von 9 ausgelegt ist;
11 ist ein Schaubild einer beispielhaften Ausführungsform eines Daten-Centers, in dem eine oder mehrere der im vorliegenden Text beschriebenen Techniken implementiert werden können, gemäß verschiedenen Ausführungsformen;
12 ist ein vereinfachtes Blockschaubild mindestens einer Ausführungsform eines Systems zum Verwalten der Zuweisung von Beschleunigerressourcen zu verwalteten Knoten;
13 ist ein vereinfachtes Blockschaubild mindestens einer Ausführungsform eines Orchestrator-Servers des Systems von 12;
14 ist ein vereinfachtes Blockschaubild mindestens einer Ausführungsform einer Umgebung, die durch den Orchestrator-Server der 12 und 13 hergestellt werden kann; und
15-17 sind ein vereinfachtes Flussdiagramm mindestens einer Ausführungsform eines Verfahrens zum Verwalten der Zuweisung von Beschleunigerressourcen zwischen verwalteten Knoten, während die verwalteten Knoten Arbeitslasten ausführen, die durch den Orchestrator-Server der 12-14 ausgeführt werden können.

DETAILLIERTE BESCHREIBUNG DER ZEICHNUNGEN
Obgleich sich die Konzepte der vorliegenden Offenbarung für verschiedene Modifizierungen und alternative Formen anbieten, wurden konkrete Ausführungsformen davon beispielhaft in den Zeichnungen gezeigt und werden im vorliegenden Text im Detail beschrieben. Es versteht sich jedoch, dass es nicht beabsichtigt ist, die Konzepte der vorliegenden Offenbarung auf die konkret offenbarten Formen zu beschränken, sondern es besteht im Gegenteil die Absicht, alle Modifizierungen, Äquivalente und Alternativen, die unter die Prinzipien der vorliegenden Offenbarung und der beiliegenden Ansprüche fallen, darunter zusammenzufassen.
Verweise in der Spezifikation auf „eine bestimmte Ausführungsform“ „eine Ausführungsform“ „eine veranschaulichende Ausführungsform“ usw. zeigen an, dass die beschriebene Ausführungsform ein bestimmtes Merkmal, eine bestimmte Struktur oder eine bestimmte Eigenschaft enthalten kann, aber es braucht nicht unbedingt jede Ausführungsform diese bestimmten Merkmale, Strukturen oder Eigenschaften zu enthalten, obwohl sie sie enthalten kann. Darüber hinaus beziehen sich solche Phrasen nicht unbedingt auf dieselbe Ausführungsform. Wenn des Weiteren ein bestimmtes Merkmal, eine bestimmte Struktur oder eine bestimmte Eigenschaft in Verbindung mit einer Ausführungsform beschrieben wird, so liegt es im Rahmen der Möglichkeiten des Fachmanns, ein solches Merkmal, eine solche Struktur oder eine solche Eigenschaft auch in Verbindung mit anderen Ausführungsformen zu realisieren, seien sie nun ausdrücklich beschrieben oder nicht. Darüber hinaus versteht es sich, dass Elemente, die in einer Liste in Form von „mindestens eines von A, B und C“ enthalten sind, bedeuten können: (A); (B); (C); (A und B); (B und C); (A und C); oder (A, B und C). In ähnlicher Weise können Elemente, die in einer Liste in Form von „mindestens eines von A, B oder C“ enthalten sind, bedeuten können: (A); (B); (C); (A und B); (B und C); (A und C); oder (A, B und C).
Die offenbarten Ausführungsformen können in einigen Fällen in Hardware, Firmware, Software oder jeder beliebigen Kombination davon implementiert werden. Die offenbarten Ausführungsformen können ebenfalls als Instruktionen implementiert werden, die transportiert werden durch, oder gespeichert werden auf, einem oder mehreren transitorischen oder nicht-transitorischen maschinenlesbaren (zum Beispiel computerlesbaren) Speichermedien, die durch einen oder mehrere Prozessoren gelesen und ausgeführt werden können. Ein maschinenlesbares Speichermedium kann als eine beliebige Speichervorrichtung, ein beliebiger Mechanismus oder eine sonstige physische Struktur verkörpert sein, die Informationen in einer Form speichert oder überträgt, die durch eine Maschine (zum Beispiel einen flüchtigen oder nicht-flüchtigen Speicher, eine Medien-Disk oder sonstige Medienvorrichtung) gelesen werden kann.
In den Zeichnungen können einige strukturelle oder Verfahrensmerkmale in speziellen Anordnungen und/oder Reihenfolgen gezeigt sein. Es versteht sich jedoch, dass solche speziellen Anordnungen und/oder Reihenfolgen nicht erforderlich sein müssen. Vielmehr können in einigen Ausführungsformen solche Merkmale in einer anderen Weise und/oder Reihenfolge angeordnet werden, als in den veranschaulichenden Figuren gezeigt ist. Des Weiteren soll die Aufnahme eines strukturellen oder Verfahrensmerkmals in eine bestimmte Figur nicht implizieren, dass das Merkmal in allen Ausführungsformen vorhanden sein muss; in einigen Ausführungsformen braucht es nicht enthalten zu sein oder kann mit anderen Merkmalen kombiniert werden.
1 veranschaulicht eine konzeptionelle Übersicht eines Daten-Centers 100, das allgemein für ein Daten-Center oder eine andere Art von Computernetzwerk repräsentativ sein kann, in dem oder für das eine oder mehrere im vorliegenden Text beschriebene Techniken implementiert werden können, gemäß verschiedenen Ausführungsformen. Wie in 1 gezeigt, kann das Daten-Center 100 allgemein mehrere Racks enthalten, von denen jedes Computerausrüstung aufnehmen kann, die einen jeweiligen Satz physischer Ressourcen umfasst. In dem in 1 gezeigten konkreten, nicht-einschränkenden Beispiel enthält das Daten-Center 100 vier Racks 102A bis 102D, die Computerausrüstung aufnehmen, die jeweilige Sätze physischer Ressourcen (PCRs) 105A bis 105D umfasst. Gemäß diesem Beispiel enthält ein kollektiver Satz physischer Ressourcen 106 des Daten-Centers 100 die verschiedenen Sätze physischer Ressourcen 105A bis 105D, die zwischen den Racks 102A bis 102D verteilt sind. Die physischen Ressourcen 106 können Ressourcen mehrerer Arten enthalten, wie zum Beispiel Prozessoren, Koprozessoren, Beschleuniger, feldprogrammierbare Gate-Arrays (FPGAs), Speicher und Massenspeicher. Die Ausführungsformen sind nicht auf diese Beispiele beschränkt.
Das veranschaulichende Daten-Center 100 unterscheidet sich in vielerlei Hinsicht von typischen Daten-Centern. Zum Beispiel sind in der veranschaulichenden Ausführungsform die Leiterplatten („Sleds“), auf denen Komponenten wie zum Beispiel CPUs, Speicher und andere Komponenten angeordnet sind, für eine höhere thermische Performance ausgelegt. Insbesondere sind die Sleds in der veranschaulichenden Ausführungsform flacher als typische Platinen. Oder anders ausgedrückt: Die Sleds sind von vorn nach hinten, wo Kühlgebläse angeordnet sind, kürzer. Dies verkürzt die Länge des Pfades, den Luft über die Komponenten auf der Platine zurücklegen muss. Des Weiteren sind die Komponenten auf dem Sled weiter voneinander beabstandet als in typischen Leiterplatten, und die Komponenten sind so angeordnet, dass sie sich gegenseitig nicht oder weniger abschatten (d. h. wenn eine Komponente den Luftströmungspfad zu einer anderen Komponente verdeckt). In der veranschaulichenden Ausführungsform befinden sich Verarbeitungskomponenten, wie zum Beispiel die Prozessoren, auf einer Oberseite eines Sleds, während sich naher Speicher, wie zum Beispiel DIMMs, auf einer Unterseite des Sleds befindet. Infolge des verstärkten Luftstroms, der durch dieses Design bereitgestellt wird, können die Komponenten mit höheren Frequenzen und Leistungspegeln arbeiten als in typischen Systemen, wodurch die Leistung gesteigert wird. Darüber hinaus sind die Sleds so konfiguriert, dass sie blind mit Strom- und Datenkommunikationskabeln in jedem Rack 102A, 102B, 102C, 102D zusammenpassen, wodurch sie schneller entfernt, aufgerüstet, neu installiert und/oder ausgetauscht werden können. In ähnlicher Weise sind individuelle Komponenten, die sich auf den Sleds befinden, wie zum Beispiel Prozessoren, Beschleuniger, Speicher und Massenspeicherlaufwerke, dafür konfiguriert, sich aufgrund ihrer größeren Abstände voneinander auf einfache Weise aufrüsten zu lassen. In der veranschaulichenden Ausführungsform enthalten die Komponenten zusätzlich Hardware-Attestierungsmerkmale, um ihre Authentizität nachzuweisen.
Darüber hinaus nutzt das Daten-Center 100 in der veranschaulichenden Ausführungsform eine einzige Netzwerkarchitektur („Fabric“), die mehrere andere Netzwerkarchitekturen unterstützt, einschließlich Ethernet und Omni-Path. Die Sleds sind in der veranschaulichenden Ausführungsform mit Schaltern über optische Fasern gekoppelt, die eine höhere Bandbreite und geringere Latenz ermöglichen als typische verdrillte Doppelleitungen (zum Beispiel Kategorie 5, Kategorie 5e, Kategorie 6 usw.). Aufgrund der bandbreitenstarken, latenzminimierten Interconnect-Verbindungen und Netzwerkarchitektur kann das Daten-Center 100 während des Gebrauchs Ressourcen, wie zum Beispiel Speicher, Beschleuniger (zum Beispiel Grafikbeschleuniger, FPGAs, ASICs usw.) und Massenspeicherlaufwerke, die räumlich voneinander getrennt sind, bündeln und sie nach Bedarf an Computerressourcen (zum Beispiel Prozessoren) bereitstellen, wodurch die Computerressourcen auf die gebündelten Ressourcen zugreifen können, als wenn sie lokal wären. Das veranschaulichende Daten-Center 100 empfängt zusätzlich Auslastungsinformationen für die verschiedenen Ressourcen, prognostiziert die Ressourcenauslastung für verschiedene Arten von Arbeitslasten auf der Grundlage einer früheren Ressourcenauslastung, und weist die Ressourcen dynamisch auf der Grundlage dieser Informationen zu.
Die Racks 102A, 102B, 102C, 102D des Daten-Centers 100 können physische Designmerkmale enthalten, die die Automatisierung einer Vielzahl verschiedener Arten von Wartungsaufgaben ermöglichen. Zum Beispiel kann das Daten-Center 100 unter Verwendung von Racks implementiert werden, die dafür ausgelegt sind, dass robotisch auf sie zugegriffen wird, und robotisch gehandhabte Ressourcen-Sleds entgegenzunehmen und unterzubringen. Darüber hinaus enthalten die Racks 102A, 102B, 102C, 102D in der veranschaulichenden Ausführungsform integrierte Stromquellen, die eine größere Spannung empfangen, als für Stromquellen typisch ist. Die höhere Spannung erlaubt es den Stromquellen, zusätzliche Leistung für die Komponenten auf jedem Sled bereitzustellen, wodurch die Komponenten mit höheren als typischen Frequenzen arbeiten können.
2 veranschaulicht eine beispielhafte logische Konfiguration eines Racks 202 des Daten-Centers 100. Wie in 2 gezeigt, kann das Rack 202 allgemein mehrere Sleds aufnehmen, von denen jedes einen jeweiligen Satz physischer Ressourcen umfassen kann. In dem in 2 gezeigten konkreten, nicht-einschränkenden Beispiel sind in dem Rack 202 Sleds 204-1 bis 204-4 untergebracht, die jeweilige Sätze physischer Ressourcen 205-1 bis 205-4 umfassen, von denen jeder einen Abschnitt des kollektiven Satzes physischer Ressourcen 206 verkörpert, die sich in dem Rack 202 befinden. Mit Bezug auf 1 können, falls das Rack 202 beispielsweise für das Rack 102A repräsentativ ist, physische Ressourcen 206 den physischen Ressourcen 105A entsprechen, die sich in dem Rack 102A befinden. Im Kontext dieses Beispiels können die physischen Ressourcen 105A somit aus den jeweiligen Sätzen physischer Ressourcen bestehen, einschließlich der physischen Massenspeicherressourcen 205-1, physischen Beschleunigerressourcen 205-2, physischen Speicherressourcen 205-3 und physischen Computerressourcen 205-5, die sich in den Sleds 204-1 bis 204-4 des Racks 202 befinden. Die Ausführungsformen sind nicht auf dieses Beispiel beschränkt. Jeder Sled kann einen Pool einer jeden der verschiedenen Arten physischer Ressourcen enthalten (zum Beispiel Berechnen, Speicher, Beschleuniger, Massenspeicher). Indem robotisch zugängliche und robotisch handhabbare Sleds verfügbar sind, die räumlich voneinander getrennte Ressourcen umfassen, kann jede Art von Ressource unabhängig voneinander und mit ihrer eigenen optimierten Auffrischungsrate aufgerüstet werden.
3 veranschaulicht ein Beispiel eines Daten-Centers 300, das allgemein für eines repräsentativ sein kann, in dem oder für das eine oder mehrere im vorliegenden Text beschriebene Techniken implementiert werden können, gemäß verschiedenen Ausführungsformen. In dem in 3 gezeigten konkreten, nicht-einschränkenden Beispiel umfasst das Daten-Center 300 Racks 302-1 bis 302-32. In verschiedenen Ausführungsformen können die Racks des Daten-Centers 300 in einer solchen Weise angeordnet sein, dass verschiedene Zugriffspfade definiert und/oder untergebracht werden. Zum Beispiel, wie in 3 gezeigt, können die Racks des Daten-Centers 300 in einer solchen Weise angeordnet sein, dass Zugriffspfade 311A, 311B, 311C und 311D definiert und/oder untergebracht werden. In einigen Ausführungsformen kann das Vorhandensein solcher Zugriffspfade allgemein automatisierte Wartungsausrüstung ermöglichen, wie zum Beispiel robotische Wartungsausrüstung, um physisch auf die Computerausrüstung zuzugreifen, die in den verschiedenen Racks des Daten-Centers 300 aufgenommen ist, und automatisierte Wartungsaufgaben auszuführen (zum Beispiel einen ausgefallenen Sled zu ersetzen oder einen Sled aufzurüsten). In verschiedenen Ausführungsformen können die Abmessungen der Zugriffspfade 311A, 311B, 311C und 311D, die Abmessungen der Racks 302-1 bis 302-32 und/oder ein oder mehrere andere Aspekte des physischen Layouts des Daten-Centers 300 so ausgewählt werden, dass solche automatisierten Operationen ermöglicht werden. Die Ausführungsformen sind in diesem Zusammenhang nicht beschränkt.
4 veranschaulicht ein Beispiel eines Daten-Centers 400, das allgemein für eines repräsentativ sein kann, in dem oder für das eine oder mehrere im vorliegenden Text beschriebene Techniken implementiert werden können, gemäß verschiedenen Ausführungsformen. Wie in 4 gezeigt, kann das Daten-Center 400 ein optisches Fabric 412 bereitstellen. Das optische Fabric 412 kann allgemein eine Kombination von optischen Zeichengabemedien (wie zum Beispiel optischen Kabeln) und optischer Vermittlungsinfrastruktur umfassen, über die jeder jeweilige Sled in dem Daten-Center 400 Signale zu jedem der anderen Sleds in das Daten-Center 400 senden kann (und Signale von ihm empfangen kann). Die Zeichengabekonnektivität, die das optische Fabric 412 für jeden gegebenen Sled bereitstellt, kann Konnektivität sowohl zu anderen Sleds im selben Rack als auch zu Sleds in anderen Racks enthalten. In dem in 4 gezeigten konkreten, nicht-einschränkenden Beispiel enthält das Daten-Center 400 vier Racks 402A bis 402D. Die Racks 402A bis 402D nehmen jeweilige Paare von Sleds 404A-1 und 404A-2, 404B-1 und 404B-2, 404C-1 und 404C-2 und 404D-1 und 404D-2 auf. Dadurch umfasst in diesem Beispiel das Daten-Center 400 insgesamt acht Sleds. Über das optische Fabric 412 kann jeder solche Sled Zeichengabekonnektivität mit jedem der sieben anderen Sleds in dem Daten-Center 400 besitzen. Zum Beispiel kann Sled 404A-1 in Rack 402A über das optische Fabric 412 Zeichengabekonnektivität mit Sled 404A-2 in Rack 402A sowie mit den sechs anderen Sleds 404B-1, 404B-2, 404C-1, 404C-2, 404D-1 und 404D-2, die zwischen den anderen Racks 402B, 402C und 402D des Daten-Centers 400 verteilt sind, besitzen. Die Ausführungsformen sind nicht auf dieses Beispiel beschränkt.
5 veranschaulicht eine Übersicht eines Konnektivitätsregimes 500, das allgemein für eine Link-Layer-Konnektivität repräsentativ sein kann, die in einigen Ausführungsformen zwischen den verschiedenen Sleds eines Daten-Centers, wie zum Beispiel der beispielhaften Daten-Centern 100, 300 und 400 der 1, 3 und 4, hergestellt werden kann. Das Konnektivitätsregime 500 kann unter Verwendung eines optischen Fabrics implementiert werden, das eine optische Dualmodus-Vermittlungsinfrastruktur 514 aufweist. Die optische Dualmodus-Vermittlungsinfrastruktur 514 kann allgemein eine Vermittlungsinfrastruktur umfassen, die in der Lage ist, Kommunikation gemäß mehreren Link-Layer-Protokollen über denselben vereinheitlichten Satz optischer Zeichengabemedien zu empfangen und eine solche Kommunikation ordnungsgemäß zu vermitteln. In verschiedenen Ausführungsformen kann die optische Dualmodus-Vermittlungsinfrastruktur 514 unter Verwendung eines oder mehrerer optischer Dualmodus-Switches 515 implementiert werden. In verschiedenen Ausführungsformen können die optischen Dualmodus-Switches 515 allgemein Hoch-Radix-Switches umfassen. In einigen Ausführungsformen können die optischen Dualmodus-Switches 515 Mehrschicht-Switches umfassen, wie zum Beispiel Vier-Schicht-Switches. In verschiedenen Ausführungsformen können die optischen Dualmodus-Switches 515 integrierte Silizium-Photonics bereitstellen, die es ihnen ermöglichen, Kommunikation mit deutlich reduzierter Latenz im Vergleich zu herkömmlichen Vermittlungsvorrichtungen zu vermitteln. In einigen Ausführungsformen können die optischen Dualmodus-Switches 515 Leaf-Switches 530 in einer Leaf-Spine-Architektur bilden, die zusätzlich einen oder mehrere optische Dualmodus-Spine-Switches 520 enthält.
In verschiedenen Ausführungsformen können die optischen Dualmodus-Switches in der Lage sein, sowohl Ethernet-Protokoll-Kommunikation, die Internet-Protokoll (IP-Pakete) transportiert, als auch Kommunikation gemäß einem zweiten, Hochleistungsberechnungs (HPC)-Link-Layer-Protokoll (zum Beispiel Intels Omni-Path-Architektur, Infiniband) über optische Zeichengabemedien eines optischen Fabrics zu empfangen. Wie in 5 dargestellt, kann das Konnektivitätsregime 500 mit Bezug auf ein bestimmtes Paar Sleds 504A und 504B, die optische Zeichengabekonnektivität zu dem optischen Fabric besitzen, somit Unterstützung für Link-Layer-Konnektivität sowohl über Ethernet-Links als auch über HPC-Links bereitstellen. Dadurch können sowohl Ethernet- als auch HPC-Kommunikation durch ein einzelnes bandbreitenstarkes, latenzminimiertes Switch-Fabric unterstützt werden. Die Ausführungsformen sind nicht auf dieses Beispiel beschränkt.
6 veranschaulicht eine allgemeine Übersicht einer Rack-Architektur 600, die für eine Architektur eines bestimmten der in den 1 bis 4 gezeigten Racks repräsentativ sein kann, gemäß einigen Ausführungsformen. Wie in 6 dargestellt, kann die Rack-Architektur 600 allgemein mehrere Sled-Räume bereitstellen, in die Sleds eingeschoben werden können, von denen jeder über eine Rackzugangsregion 601 robotisch zugänglich sein kann. In dem in 6 gezeigten konkreten, nicht-einschränkenden Beispiel besitzt die Rack-Architektur 600 fünf Sled-Räume 603-1 bis 603-5. Die Sled-Räume 603-1 bis 603-5 stellen jeweilige Mehrzweckverbindermodule (MPCMs) 616-1 bis 616-5 bereit.
7 veranschaulicht ein Beispiel eines Sleds 704, der für einen Sled eines solchen Typs repräsentativ sein kann. Wie in 7 gezeigt, kann Sled 704 einen Satz physischer Ressourcen 705 sowie ein MPCM 716 umfassen, das dafür ausgelegt ist, mit einem Gegen-MPCM gekoppelt mit werden, wenn Sled 704 in einen Sled-Raum eingefügt wird, wie zum Beispiel einen der Sled-Räume 603-1 bis 603-5 von 6. Der Sled 704 kann außerdem einen Erweiterungsverbinder 717 aufweisen. Der Erweiterungsverbinder 717 kann allgemein einen Sockel, Schlitz oder eine andere Art von Verbindungselement umfassen, das in der Lage ist, eine oder mehrere Arten von Erweiterungsmodulen aufzunehmen, wie zum Beispiel einen Erweiterungs-Sled 718. Durch Koppeln mit einem Gegenverbinder am Erweiterungs-Sled 718 kann der Erweiterungsverbinder 717 physische Ressourcen 705 mit Zugang zu ergänzenden Computerressourcen 705B versehen, die sich auf dem Erweiterungs-Sled 718 befinden. Die Ausführungsformen sind in diesem Zusammenhang nicht beschränkt.
8 veranschaulicht ein Beispiel einer Rack-Architektur 800, die für eine Rack-Architektur repräsentativ sein kann, die implementiert werden kann, um Unterstützung für Sleds bereitzustellen, die Erweiterungsfähigkeiten aufweisen, wie zum Beispiel Sled 704 von 7. In dem in 8 gezeigten konkreten, nicht-einschränkenden Beispiel enthält die Rack-Architektur 800 sieben Sled-Räume 803-1 bis 803-7, die jeweilige MPCMs 816-1 bis 816-7 bereitstellen. Die Sled-Räume 803-1 bis 803-7 enthalten jeweilige Primärregionen 803-1A bis 803-7A und jeweilige Erweiterungsregionen 803-1B bis 803-7B. Mit Bezug auf jeden solchen Sled-Raum kann, wenn das entsprechende MPCM mit einem Gegen-MPCM eines eingefügten Sleds gekoppelt wird, die Primärregion allgemein eine Region des Sled-Raumes bilden, der den eingefügten Sled physisch aufnimmt. Die Erweiterungsregion kann allgemein eine Region des Sled-Raumes bilden, der ein Erweiterungsmodul physisch aufnehmen kann, wie zum Beispiel den Erweiterungs-Sled 718 von 7, falls der eingefügte Sled mit einem solchen Modul konfiguriert ist.
9 veranschaulicht ein Beispiel eines Racks 902, das für ein Rack repräsentativ sein kann, das gemäß der Rack-Architektur 800 von 8 implementiert ist, gemäß einigen Ausführungsformen. In dem in 9 gezeigten konkreten, nicht-einschränkenden Beispiel besitzt das Rack 902 sieben Sled-Räume 903-1 bis 903-7, die jeweilige Primärregionen 903-1A bis 903-7A und jeweilige Erweiterungsregionen 903-1B bis 903-7B enthalten. In verschiedenen Ausführungsformen kann eine Temperatursteuerung in dem Rack 902 unter Verwendung eines Luftkühlsystems implementiert werden. Zum Beispiel, wie in 9 dargestellt, kann das Rack 902 mehrere Gebläse 919 haben, die allgemein dafür ausgelegt sind, eine Luftkühlung innerhalb der verschiedenen Sled-Räume 903-1 bis 903-7 bereitzustellen. In einigen Ausführungsformen ist die Höhe des Sled-Raumes größer als die herkömmliche „1U“-Server-Höhe. In solchen Ausführungsformen kann das Gebläse 919 allgemein relativ langsame Kühlgebläse mit großem Durchmesser im Vergleich zu den Gebläsen umfassen, die in herkömmlichen Rack-Konfigurationen verwendet werden. Lässt man Kühlgebläse mit größerem Durchmesser bei langsameren Drehzahlen arbeiten, so kann dies die Gebläselebensdauer relativ zu Kühlgebläsen mit kleinerem Durchmesser verlängern, die mit höheren Drehzahlen arbeiten, während nach wie vor die gleiche Kühlleistung erhalten wird. Die Sleds sind physisch flacher als herkömmliche Rack-Abmessungen. Des Weiteren sind die Komponenten auf jedem Sled so angeordnet, dass thermische Abschattung reduziert wird (d. h. sie sind nicht hintereinander in der Richtung des Luftstromes angeordnet). Infolge dessen erlauben die breiteren, flacheren Sleds eine höhere Bauelement-Performance, weil die Vorrichtungen aufgrund einer verbesserten Kühlung mit einer größeren thermischen Bandbreite (zum Beispiel 250 W) betrieben werden können (d. h. keine thermische Abschattung, mehr Platz zwischen den Bauelementen, mehr Platz für größere Wärmesenken usw.).
Die MPCMs 916-1 bis 916-7 können dafür konfiguriert sein, eingefügten Sleds den Zugang zu Strom zu gewähren, der durch jeweilige Strommodule 920-1 bis 920-7 bereitgestellt wird, von denen jedes Leistung von einer externen Stromquelle 921 beziehen kann. In verschiedenen Ausführungsformen kann die externe Stromquelle 921 Wechselstrom zu dem Rack 902 liefern, und die Strommodule 920-1 bis 920-7 können dafür konfiguriert sein, diesen Wechselstrom in Gleichstrom umzuwandeln, der den eingefügten Sleds zugeführt wird. In einigen Ausführungsformen können zum Beispiel die Strommodule 920-1 bis 920-7 dafür konfiguriert sein, 277 Volt Wechselstrom in 12 Volt Gleichstrom umzuwandeln, der den eingefügten Sleds über jeweiligen MPCMs 916-1 bis 916-7 zugeführt wird. Die Ausführungsformen sind nicht auf dieses Beispiel beschränkt.
Die MPCMs 916-1 bis 916-7 können auch dafür ausgelegt sein, die eingefügten Sleds mit optischer Zeichengabekonnektivität zu einer optischen Dualmodus-Vermittlungsinfrastruktur 914 auszustatten, die die gleiche sein kann wie die optische Dualmodus-Vermittlungsinfrastruktur 514 von 5 oder ihr ähnlich sein kann. In verschiedenen Ausführungsformen können optische Verbinder, die in MPCMs 916-1 bis 916-7 enthalten sind, dafür ausgelegt sein, mit optischen Gegenverbindern gekoppelt mit werden, die in MPCMs von eingefügten Sleds enthalten sind, um solche Sleds mit optischer Zeichengabekonnektivität zu der optischen Dualmodus-Vermittlungsinfrastruktur 914 über jeweilige Längen von optischen Kabeln 922-1 bis 922-7 auszustatten. In einigen Ausführungsformen kann sich jede solche Länge von optischen Kabeln von der entsprechenden MPCM zu einem optischen Interconnect-Loom 923 erstrecken, der sich außerhalb der Sled-Räume des Racks 902 befindet. In verschiedenen Ausführungsformen kann der optische Interconnect-Loom 923 dafür ausgelegt sein, durch einen Stützpfeiler oder eine andere Art von lasttragendem Element des Racks 902 hindurch zu verlaufen. Die Ausführungsformen sind in diesem Zusammenhang nicht beschränkt. Weil eingefügte Sleds über MPCMs mit einer optischen Vermittlungsinfrastruktur verbunden sind, können die Ressourcen eingespart werden, die man in der Regel für die manuelle Konfiguration der Rackverkabelung aufwenden muss, um einen neu eingefügten Sled aufzunehmen.
10 veranschaulicht ein Beispiel eines Sleds 1004, der für einen Sled repräsentativ sein kann, der zur Verwendung in Verbindung mit dem Rack 902 von 9 ausgelegt ist, gemäß einigen Ausführungsformen. Der Sled 1004 kann ein MPCM 1016 haben, das einen optischen Verbinder 1016A und einen Stromverbinder 1016B umfasst und das dafür ausgelegt ist, mit einem Gegen-MPCM eines Sled-Raumes in Verbindung mit dem Einführen des MPCM 1016 in diesen Sled-Raum gekoppelt zu werden. Das Koppeln des MPCM 1016 mit einem solchen Gegen-MPCM kann bewirken, dass der Stromverbinder 1016 mit einem Stromverbinder gekoppelt wird, der sich in dem Gegen-MPCM befindet. Dadurch werden die physischen Ressourcen 1005 von Sled 1004 allgemein in die Lage versetzt, Strom von einer externen Quelle über den Stromverbinder 1016 und ein Stromübertragungsmedium 1024, das den Stromverbinder 1016 leitend mit den physischen Ressourcen 1005 koppelt, zu beziehen.
Der Sled 1004 kann außerdem eine optische Dualmodus-Netzwerkschnittstellenschaltung 1026 enthalten. Die optische Dualmodus-Netzwerkschnittstellenschaltung 1026 kann allgemein Schaltungen umfassen, die in der Lage sind, über optische Zeichengabemedien gemäß jedem von mehreren Link-Layer-Protokollen zu kommunizieren, die durch die optische Dualmodus-Vermittlungsinfrastruktur 914 von 9 unterstützt werden. In einigen Ausführungsformen kann die optische Dualmodus-Netzwerkschnittstellenschaltung 1026 sowohl zur Ethernet-Protokoll-Kommunikation als auch zur Kommunikation gemäß einem zweiten, leistungsstärkeren Protokoll befähigt sein. In verschiedenen Ausführungsformen kann die optische Dualmodus-Netzwerkschnittstellenschaltung 1026 ein oder mehrere optische Transceivermodule 1027 enthalten, von denen jedes in der Lage sein kann, optische Signale über jeden von einem oder mehreren optischen Kanälen zu senden und zu empfangen. Die Ausführungsformen sind in diesem Zusammenhang nicht beschränkt.
Das Koppeln des MPCM 1016 mit einem Gegen-MPCM eines Sled-Raumes in einem gegebenen Rack kann bewirken, dass der optische Verbinder 1016A mit einem optischen Verbinder gekoppelt wird, der sich in dem Gegen-MPCM befindet. Dies kann allgemein eine optische Konnektivität zwischen optischen Kabeln des Sleds und der optischen Dualmodus-Netzwerkschnittstellenschaltung 1026 über jeden eines Satzes optischer Kanäle 1025 herstellen. Die optische Dualmodus-Netzwerkschnittstellenschaltung 1026 kann mit den physischen Ressourcen 1005 von Sled 1004 über das elektrische Zeichengabemedium 1028 kommunizieren. Zusätzlich zu den Abmessungen der Sleds und der Anordnung von Komponenten auf den Sleds zum Bereitstellen einer verbesserten Kühlung und zum Ermöglichen eines Betriebes mit einer relativ größeren thermischen Bandbreite (zum Beispiel 250 W), wie oben mit Bezug auf 9 beschrieben, kann ein Sled in einigen Ausführungsformen ein oder mehrere zusätzliche Merkmale zum Optimieren der Luftkühlung enthalten, wie zum Beispiel ein Wärmerohr und/oder Wärmesenken, die so angeordnet sind, dass Wärme dissipiert wird, die durch die physischen Ressourcen 1005 erzeugt wurde. Es soll nicht unerwähnt bleiben, dass der in 10 gezeigte beispielhafte Sled 1004 zwar keinen Erweiterungsverbinder aufweist, dass aber - gemäß einigen Ausführungsformen - jeder gegebene Sled, der die Designelemente von Sled 1004 aufweist, auch einen Erweiterungsverbinder haben kann. Die Ausführungsformen sind in diesem Zusammenhang nicht beschränkt.
11 veranschaulicht ein Beispiel eines Daten-Centers 1100, das allgemein für eines repräsentativ sein kann, in dem oder für das eine oder mehrere im vorliegenden Text beschriebene Techniken implementiert werden können, gemäß verschiedenen Ausführungsformen. Wie in 11 dargestellt, kann ein Physisches-Infrastruktur-Management-Framework 1150A implementiert werden, um die Verwaltung einer physischen Infrastruktur 1100A des Daten-Centers 1100 zu vereinfachen. In verschiedenen Ausführungsformen kann eine Funktion des Physischen-Infrastruktur-Management-Frameworks 1150A sein, automatisierte Wartungsfunktionen innerhalb des Daten-Centers 1100 zu verwalten, wie zum Beispiel die Verwendung robotischer Wartungsausrüstung für die Wartung von Computerausrüstung innerhalb der physischen Infrastruktur 1100A. In einigen Ausführungsformen kann die physische Infrastruktur 1100A ein hochentwickeltes Telemetriesystem aufweisen, das Telemetrieberichte erstellt und hinreichend robust ist, um eine automatisierte Fernverwaltung der physischen Infrastruktur 1100A zu unterstützen. In verschiedenen Ausführungsformen können Telemetrie-Informationen, die durch ein solches hochentwickeltes Telemetriesystem geliefert werden, Merkmale wie zum Beispiel Ausfallvorhersage- und -präventionsfähigkeiten und Kapazitätenplanungsfähigkeiten unterstützen. In einigen Ausführungsformen kann das Physische-Infrastruktur-Management-Framework 1150A auch dafür konfiguriert sein, die Authentifizierung physischer Infrastrukturkomponenten unter Verwendung von Hardware-Attestierungstechniken zu verwalten. Zum Beispiel können Roboter die Authentizität von Komponenten schon vor der Installation durch Analysieren von Informationen verifizieren, die von einem Radio Frequency Identification (RFID)-Transponder kommend erfasst werden, der jeder zu installierenden Komponente zugeordnet ist. Die Ausführungsformen sind in diesem Zusammenhang nicht beschränkt.
Wie in 11 gezeigt, kann die physische Infrastruktur 1100A des Daten-Centers 1100 ein optisches Fabric 1112 umfassen, das eine optische Dualmodus-Vermittlungsinfrastruktur 1114 enthalten kann. Das optische Fabric 1112 und die optische Dualmodus-Vermittlungsinfrastruktur 1114 können die gleichen oder ähnlich sein wie das optische Fabric 412 von 4 bzw. die optische Dualmodus-Vermittlungsinfrastruktur 514 von 5 und können eine bandbreitenstarke, latenzschwache Mehrprotokoll-Konnektivität zwischen den Sleds des Daten-Centers 1100 bereitstellen. Wie oben mit Bezug auf 1 besprochen, kann die Verfügbarkeit einer solchen Konnektivität es in verschiedenen Ausführungsformen möglich machen, Ressourcen, wie zum Beispiel Beschleuniger, Speicher und Massenspeicher, räumlich zu trennen und dynamisch zu bündeln. In einigen Ausführungsformen können zum Beispiel ein oder mehrere gebündelte Beschleuniger-Sleds 1130 in der physischen Infrastruktur 1100A des Daten-Centers 1100 enthalten sein, wovon jeder einen Pool von Beschleunigerressourcen umfassen kann, wie zum Beispiel Koprozessoren und/oder FPGAs, der global für andere Sleds über das optische Fabric 1112 und die optische Dualmodus-Vermittlungsinfrastruktur 1114 zugänglich ist.
In einem weiteren Beispiel können in verschiedenen Ausführungsformen ein oder mehrere gebündelte Massenspeicher-Sleds 1132 in der physischen Infrastruktur 1100A des Daten-Centers 1100 enthalten sein, wovon jeder einen Pool von Massenspeicherressourcen umfassen kann, der global für andere Sleds über das optische Fabric 1112 und die optische Dualmodus-Vermittlungsinfrastruktur 1114 zugänglich ist. In einigen Ausführungsformen können solche gebündelten Massenspeicher-Sleds 1132 Pools von Festkörper-Massenspeichervorrichtungen, wie zum Beispiel Festkörperlaufwerke (SSDs), umfassen. In verschiedenen Ausführungsformen können eine oder mehrere Hochleistungsverarbeitungs-Sleds 1134 in der physischen Infrastruktur 1100A des Daten-Centers 1100 enthalten sein. In einigen Ausführungsformen können die Hochleistungsverarbeitungs-Sleds 1134 Pools von Hochleistungsprozessoren sowie Kühlungsmerkmale umfassen, die die Luftkühlung verbessern, um eine größere thermische Bandbreite von bis zu 250 W oder mehr zu erreichen. In verschiedenen Ausführungsformen kann jeder gegebene Hochleistungsverarbeitungs-Sled 1134 einen Erweiterungsverbinder 1117 haben, der einen fernen Speichererweiterungs-Sled aufnehmen kann, dergestalt, dass der ferne Speicher, der diesem Hochleistungsverarbeitungs-Sled 1134 zur Verfügung steht, räumlich von den Prozessoren und dem nahen Speicher, die sich auf diesem Sled befinden, getrennt ist. In einigen Ausführungsformen kann ein solcher Hochleistungsverarbeitungs-Sled 1134 mit fernem Speicher unter Verwendung eines Erweiterungs-Sleds konfiguriert sein, der einen latenzminimierten SSD-Massenspeicher umfasst. Die optische Infrastruktur erlaubt es Computerressourcen auf einem einzelnen Sled, räumlich abgesetzte Beschleuniger/FPGA-, Speicher- und/oder SSD-Ressourcen zu nutzen, die auf einem Sled, der sich auf demselben Rack oder einem anderen Rack in dem Daten-Center befindet, räumlich getrennt sind. Die räumlich abgesetzten Ressourcen können in der oben mit Bezug auf 5 beschriebenen Spine-Leaf-Netzwerkarchitektur einen Switch-Jump oder zwei Switch-Jumps entfernt angeordnet sein. Die Ausführungsformen sind in diesem Zusammenhang nicht beschränkt.
In verschiedenen Ausführungsformen können eine oder mehrere Abstraktionsschichten auf die physischen Ressourcen der physischen Infrastruktur 1100A angewendet werden, um eine virtuelle Infrastruktur zu definieren, wie zum Beispiel eine Software-definierte Infrastruktur 1100B. In einigen Ausführungsformen können virtuelle Computerressourcen 1136 der Software-definierten Infrastruktur 1100B zugewiesen werden, um die Bereitstellung von Cloud-Diensten 1140 zu unterstützen. In verschiedenen Ausführungsformen können bestimmte Sätze virtueller Computerressourcen 1136 gruppiert werden, um den Cloud-Diensten 1140 in Form von SDI-Diensten 1138 bereitgestellt zu werden. Zu Beispielen von Cloud-Diensten 1140 können Software as a Service (SaaS)-Dienste 1142, Platform as a Service (PaaS)-Dienste 1144 und Infrastructure as a Service (IaaS)-Dienste 1146 gehören.
In einigen Ausführungsformen kann die Verwaltung der Software-definierten Infrastruktur 1100B unter Verwendung eines Virtuellen-Infrastruktur-Management-Framework 1150B ausgeführt werden. In verschiedenen Ausführungsformen kann das Virtuelle-Infrastruktur-Management-Framework 1150B dafür ausgelegt sein, Workload-Fingerprinting-Techniken und/oder Maschinenlern-Techniken in Verbindung mit der Verwaltung der Zuweisung virtueller Computerressourcen 1136 und/oder SDI-Dienste 1138 zu Cloud-Diensten 1140 zu implementieren. In einigen Ausführungsformen kann das Virtuelle-Infrastruktur-Management-Framework 1150B Telemetrie-Daten in Verbindung mit dem Ausführen einer solchen Ressourcenzuweisung verwenden/konsultieren. In verschiedenen Ausführungsformen kann ein Anwendungs/Dienstverwaltungs-Framework 1150C implementiert werden, um QoS-Verwaltungsfähigkeiten für Cloud-Dienste 1140 bereitzustellen. Die Ausführungsformen sind in diesem Zusammenhang nicht beschränkt.
Wie in 12 gezeigt, enthält ein veranschaulichendes System 1210 zum Verwalten der Zuweisung von Beschleunigerressourcen (zum Beispiel physischen Beschleunigerressourcen 205-2) zwischen einem Satz von verwalteten Knoten 1260 einen Orchestrator-Server 1240 in Kommunikation mit dem Satz von verwalteten Knoten 1260. Jeder verwaltete Knoten 1260 kann als eine Zusammenstellung von Ressourcen (zum Beispiel physischen Ressourcen 206) verkörpert sein, wie zum Beispiel Computerressourcen (zum Beispiel physische Computerressourcen 205-4), Speicherressourcen (zum Beispiel physische Speicherressourcen 205-1), Beschleunigerressourcen (zum Beispiel physische Beschleunigerressourcen 205-2) oder andere Ressourcen (zum Beispiel physische Speicherressourcen 205-3) desselben oder verschiedener Sleds (zum Beispiel der Sleds 204-1, 204-2, 204-3, 204-4 usw.) oder Racks (zum Beispiel eines oder mehrerer der Racks 302-1 bis 302-32). Jeder verwaltete Knoten 1260 kann durch den Orchestrator-Server 1240 zu der Zeit, wo dem verwalteten Knoten 1260 eine Arbeitslast zugewiesen werden soll, oder zu einer anderen Zeit festgelegt, definiert oder „hochgefahren“ werden und kann ungeachtet davon existieren, ob dem verwalteten Knoten 1260 gerade Arbeitslasten zugewiesen sind. Das System 1210 kann gemäß den Daten-Centern 100, 300, 400, 1100 implementiert werden, die oben mit Bezug auf die 1, 3, 4 und 11 beschrieben wurden. In der veranschaulichenden Ausführungsform enthält der Satz von verwalteten Knoten 1260 die verwalteten Knoten 1250, 1252 und 1254. Obgleich drei verwaltete Knoten 1260 in dem Satz gezeigt sind, versteht es sich, dass der Satz in anderen Ausführungsformen eine andere Anzahl von verwalteten Knoten 1260 (zum Beispiel Zehntausende) enthalten kann. Das System 1210 kann sich in einem Daten-Center befinden und kann Speicher- und Rechendienste (zum Beispiel Cloud-Dienste) für eine Client-Vorrichtung 1220 bereitstellen, die mit dem Systems 1210 durch ein Netzwerk 1230 kommuniziert. Der Orchestrator-Server 1240 kann eine Cloud-Betriebsumgebung unterstützen, wie zum Beispiel OpenStack, und die verwalteten Knoten 1250 können eine oder mehrere Anwendungen oder Prozesse (d. h. Arbeitslasten), wie zum Beispiel in virtuellen Maschinen oder Containern, im Auftrag eines Nutzers der Client-Vorrichtung 1220 ausführen.
Wie im vorliegenden Text ausführlicher besprochen, ist der Orchestrator-Server 1240 dafür konfiguriert, während des Betriebes verwalteten Knoten 1260 Arbeitslasten zuzuweisen, Telemetriedaten, die Leistung und Bedingungen anzeigen, von den verwalteten Knoten 1260 zu empfangen, während die Arbeitslasten ausgeführt werden, Jobs innerhalb der Arbeitslasten zu identifizieren, die mit einer oder mehreren Beschleunigerressourcen 205-2 beschleunigt werden sollen, die Beschleunigerressourcen 205-2 zum Beschleunigen der identifizierten Jobs bereitzustellen (zum Beispiel zu konfigurieren), und den verwalteten Knoten 1260 die bereitgestellten Beschleunigerressourcen 205-2 zum Beschleunigen der identifizierten Jobs zuzuweisen. In der veranschaulichenden Ausführungsform enthalten die Beschleunigerressourcen 205-2 feldprogrammierbare Gate-Arrays (FPGAs), und der Orchestrator-Server stellt die FPGAs durch Senden von Bit-Streams bereit, die gewünschte Konfigurationen der FPGAs anzeigen, um bestimmte Jobs zu beschleunigen. Der Orchestrator-Server 1240, in der veranschaulichenden Ausführungsform, bestimmt, wann der Bedarf an einer Beschleunigung für einen bestimmten Job wahrscheinlich eintreten wird, auf der Basis einer Auswertung der Telemetriedaten und einer Identifizierung von Mustern bei der Ausführung der Jobs und sendet die Bit-Streams vor der Zeit an die FPGAs, um die FPGAs rechtzeitig bereitzustellen, um die Jobs zu beschleunigen, wenn der Beschleunigungsbedarf eintritt. Darüber hinaus kann der Orchestrator-Server Ressourcenzuweisungs-Zielsetzungsdaten empfangen, die eine oder mehrere Zielsetzungen anzeigen, die während der Ausführung der Arbeitslasten erreicht werden sollen. In der veranschaulichenden Ausführungsform betreffen die Zielsetzungen Energieverbrauch, Lebenserwartung, Wärmeerzeugung und/oder Leistung der Ressourcen, die den verwalteten Knoten 1260 zugewiesen werden. Während die Arbeitslasten ausgeführt werden, kann der Orchestrator-Server 1240 die Beschleunigerressourcen 205-2 selektiv zuzuweisen oder ablösen, um die Ressourcenzuweisungs-Zielsetzungen zu erreichen. In der veranschaulichenden Ausführungsform die Erreichung kann eine Zielsetzung als der Grad gemessen, gleich gesetzt oder auf sonstige Weise definiert werden, in dem ein gemessener Wert von einem oder mehreren verwalteten Knoten 1260 einen Zielwert erfüllt, der mit der Zielsetzung verknüpft ist. Zum Beispiel kann, in der veranschaulichenden Ausführungsform, eine Steigerung der Erreichung ausgeführt werden, indem der Fehler (zum Beispiel die Differenz) zwischen dem gemessenen Wert (zum Beispiel einer Zeit, die es dauert, bis eine Arbeitslast oder eine Operation in einer Arbeitslast vollendet ist) und dem Zielwert (zum Beispiel eine Zielzeit zum Vollenden der Arbeitslast oder der Operation in der Arbeitslast) verringert wird. Umgekehrt kann eine Verringerung der Erreichung ausgeführt werden, indem der Fehler (zum Beispiel die Differenz) zwischen dem gemessenen Wert und dem Zielwert vergrößert wird.
Wir wenden uns nun 13 zu. Der Orchestrator-Server 1240 kann als jede Art von Computervorrichtung verkörpert sein, die in der Lage ist, die im vorliegenden Text beschriebenen Funktionen auszuführen, einschließlich der Ausgabe einer Anforderung, Cloud-Dienste ausführen zu lassen, des Empfangs von Ergebnissen der Cloud-Dienste, des Zuweisens von Arbeitslasten zu Computervorrichtungen, des Analysierens von Telemetriedaten, die Leistung und Bedingungen anzeigen (zum Beispiel Ressourcenauslastung, eine oder mehrere Temperaturen, Lüfterdrehzahlen usw.), während die Arbeitslasten ausgeführt werden, und des Verwaltens der Zuweisung von Ressourcen, einschließlich der Beschleunigerressourcen 205-2, über die verwalteten Knoten 1260 hinweg, während die Arbeitslasten ausgeführt werden. Zum Beispiel kann der Orchestrator-Server 1240 verkörpert sein als: ein Computer, ein verteiltes Rechnersystem, ein oder mehrere Sleds (zum Beispiel die Sleds 204-1,204-2, 204-3,204-4 usw.), ein Server (zum Beispiel eigenständig, Rack-montiert, Blade usw.), ein Mehrprozessorsystem, ein Netzwerkgerät (zum Beispiel physisch oder virtuell), ein Desktop-Computer, einen Workstation, ein Laptop-Computer, ein Notebook-Computer, ein prozessorgestützes System oder ein Netzwerkgerät. Wie in 13 gezeigt, enthält der veranschaulichende Orchestrator-Server 1240 eine zentrale Verarbeitungseinheit (CPU) 1302, einen Hauptspeicher 1304, ein Eingabe/Ausgabe (E/A)-Teilsystem 1306, eine Kommunikationsschaltung 1308 und eine oder mehrere Datenspeichervorrichtungen 1312. Natürlich kann der Orchestrator-Server 1240 in anderen Ausführungsformen andere oder zusätzliche Komponenten enthalten, wie zum Beispiel die, die man üblicherweise auf einem Computer findet (zum Beispiel Display, Peripheriegeräte usw.). Darüber hinaus können in einigen Ausführungsformen eine oder mehrere der veranschaulichenden Komponenten in einer anderen Komponente enthalten sein oder auf sonstige Weise einen Teil davon bilden. Zum Beispiel können in einigen Ausführungsformen der Hauptspeicher 1304 oder Teile davon in der CPU 1302 enthalten sein.
Die CPU 1302 kann als jede Art von Prozessor verkörpert sein, der in der Lage ist, die im vorliegenden Text beschriebenen Funktionen auszuführen. Die CPU 1302 kann als ein oder mehrere Ein- oder Mehrkernprozessoren, ein Mikrocontroller oder sonstiger Prozessor oder Verarbeitungs-/Steuerungsschaltkreis verkörpert sein. In einigen Ausführungsformen kann die CPU 1302 als ein feldprogrammierbares Gate-Array (FPGA), ein anwendungsspezifischer integrierter Schaltkreis (ASIC), eine rekonfigurierbare Hardware oder Hardwareschaltung oder sonstige spezialisierte Hardware verkörpert sein oder kann solche enthalten oder auf sonstige Weise damit gekoppelt sein, um das Ausführen der im vorliegenden Text beschriebenen Funktionen zu ermöglichen. Gleichermaßen kann der Hauptspeicher 1304 als jede Art von flüchtiger (zum Beispiel dynamischer Direktzugriffsspeicher (DRAM) usw.) oder nichtflüchtiger Speicher oder Datenspeicher verkörpert sein, der in der Lage ist, die im vorliegenden Text beschriebenen Funktionen auszuführen. In einigen Ausführungsformen kann der Hauptspeicher 1304 vollständig oder teilweise in die CPU 1302 integriert sein. Während des Betriebes kann der Hauptspeicher 1304 verschiedene Software und Daten speichern, die während des Betriebes verwendet werden, wie zum Beispiel Telemetriedaten, Ressourcenzuweisungs-Zielsetzungsdaten, Arbeitslastbezeichner, Arbeitslastklassifizierungen, Job-Daten, Ressourcenzuweisungsdaten, Betriebssysteme, Anwendungen, Programme, Bibliotheken und Treiber.
Das E/A-Teilsystem 1306 kann als eine Schaltung und/oder als Komponenten verkörpert sein, um Eingang/Ausgabe-Operationen mit der CPU 1302, dem Hauptspeicher 1304 und anderen Komponenten des Orchestrator-Servers 1240 zu ermöglichen. Zum Beispiel kann das E/A-Teilsystem 1306 als Speichercontroller-Hubs, Eingabe/Ausgabe-Steuerungs-Hubs, integrierte Sensor-Hubs, Firmware-Vorrichtungen, Kommunikationslinks (zum Beispiel Punkt-zu-Punkt-Links, Bus-Links, Drähte, Kabel, Lichtleiter, gedruckte Leiterplattenbahnen usw.) und/oder sonstige Komponenten und Teilsysteme verkörpert sein oder diese auf sonstige Weise enthalten, um die Eingabe/Ausgabe-Operationen zu ermöglichen. In einigen Ausführungsformen kann das E/A-Teilsystem 1306 einen Teil eines System-on-Chip (SoC) bilden und, zusammen mit einem oder mehreren der CPU 1302, des Hauptspeichers 1304 und anderer Komponenten des Orchestrator-Servers 1240, auf einem einzelnen integrierten Schaltkreis-Chip enthalten sein.
Die Kommunikationsschaltung 1308 kann als jede Kommunikationsschaltung, -vorrichtung oder Zusammenstellung davon verkörpert sein, die in der Lage ist, eine Kommunikation über das Netzwerk 1230 zwischen dem Orchestrator-Server 1240 und einer anderen Computervorrichtung (zum Beispiel der Client-Vorrichtung 1220 und/oder den verwalteten Knoten 1260) zu ermöglichen. Die Kommunikationsschaltung 1308 kann dafür konfiguriert sein, eine oder mehrere Kommunikationstechnologien (zum Beispiel leitungsgebundene oder drahtlose Kommunikation) und zugehörige Protokolle (zum Beispiel Ethernet, Bluetooth^®, Wi-Fi^®, WiMAX usw.) zu verwenden, um eine solche Kommunikation zu bewirken.
Die veranschaulichende Kommunikationsschaltung 1308 enthält einen Netzwerkschnittstellen-Controller (NIC) 1310, der auch als eine Host-Fabric-Schnittstelle (HFI) bezeichnet werden kann. Der NIC 1310 kann als eine oder mehrere Add-in-Platinen, Tochterkarten, Netzwerkschnittstellenkarten, Controller-Chips, Chipsätze oder andere Vorrichtungen verkörpert sein, die durch den Orchestrator-Server 1240 verwendet werden können, um sich mit einer anderen Computervorrichtung (zum Beispiel der Client-Vorrichtung 1220 und/oder den verwalteten Knoten 1260) zu verbinden. In einigen Ausführungsformen kann der NIC 1310 als Teil eines System-on-Chip (SoC) verkörpert sein, der einen oder mehrere Prozessoren enthält oder der auf einem Mehrchip-Package enthalten ist, das ebenfalls einen oder mehrere Prozessoren enthält. In einigen Ausführungsformen kann der NIC 1310 einen lokalen Prozessor (nicht gezeigt) und/oder einen lokalen Speicher (nicht gezeigt) enthalten, die sich auf dem NIC 1310 befinden. In solchen Ausführungsformen kann der lokale Prozessor des NIC 1310 befähigt sein, eine oder mehrere der im vorliegenden Text beschriebenen Funktionen der CPU 1302 auszuführen. Zusätzlich oder alternativ kann in solchen Ausführungsformen der lokale Speicher des NIC 1310 in einer oder mehreren Komponenten des Orchestrator-Servers 1240 auf Platinenebene, Socket-Ebene, Chip-Ebene und/oder anderen Ebenen integriert sein.
Die eine oder die mehreren veranschaulichenden Datenspeichervorrichtungen 1312 können als jede Art von Vorrichtungen verkörpert sein, die für die kurzzeitliche oder langzeitliche Speicherung von Daten konfiguriert sind, wie zum Beispiel Speichervorrichtungen und Schaltkreise, Speicherkarten, Festplattenlaufwerke, Festkörperlaufwerke oder andere Massenspeichervorrichtungen. Jede Datenspeichervorrichtung 1312 kann eine Systempartition enthalten, die Daten und Firmware-Code für die Datenspeichervorrichtung 1312 speichert. Zusätzlich kann jede Datenspeichervorrichtung 1312 eine Betriebssystempartition enthalten, die Dateien und ausführbare Programme für ein Betriebssystem speichert.
Zusätzlich oder alternativ kann der Orchestrator-Server 1240 ein oder mehrere Peripheriegeräte 1314 enthalten. Solche Peripheriegeräte 1314 können jede Art von Peripheriegerät enthalten, die man gewöhnlich in einer Computervorrichtung findet, wie zum Beispiel ein Display, Lautsprecher, eine Maus, eine Tastatur und/oder andere Eingang/Ausgabe-Vorrichtungen, Schnittstellenvorrichtungen und/oder andere Peripheriegeräte.
Die Client-Vorrichtung 1220 und die verwalteten Knoten 1260 können Komponenten ähnlich denen haben, die in 13 beschrieben sind. Die Beschreibung jener Komponenten des Orchestrator-Servers 1240 gilt gleichermaßen für die Beschreibung von Komponenten der Client-Vorrichtung 1220 und der verwalteten Knoten 1260 und wird im vorliegenden Text im Interesse der Klarheit der Beschreibung nicht wiederholt. Des Weiteren versteht es sich, dass sowohl die Client-Vorrichtung 1220 als auch die verwalteten Knoten 1260 andere Komponenten, Subkomponenten und Vorrichtungen enthalten können, die man gewöhnlich in einer Computervorrichtung findet und die oben in Bezug auf den Orchestrator-Server 1240 nicht besprochen wurden und die im vorliegenden Text im Interesse der Klarheit der Beschreibung nicht besprochen werden. Wie oben besprochen, kann jeder verwaltete Knoten 1260 Ressourcen enthalten, die über mehrere Sleds verteilt sind, und in solchen Ausführungsformen können die CPU 1302, der Speicher 1304 und/oder die Kommunikationsschaltung 1308 Abschnitte davon enthalten, die sich auf demselben Sled oder auf einem anderen Sled befinden können.
Wie oben beschrieben, befinden sich die Client-Vorrichtung 1220, der Orchestrator-Server 1240 und die verwalteten Knoten 1260 zur Veranschaulichung in Kommunikation über das Netzwerk 1230, das als jede Art von leitungsgebundenem oder Drahtloskommunikationsnetz verkörpert sein kann, einschließlich globaler Netzwerke (zum Beispiel das Internet), Local Area Networks (LANs) oder Wide Area Networks (WANs), Mobilfunknetze (zum Beispiel Global System for Mobile Communications (GSM), 3G, Long Term Evolution (LTE), Worldwide Interoperability for Microwave Access (WiMAX) usw.), Digital Subscriber Line (DSL)-Netze, Kabelnetze (zum Beispiel Koaxialnetze, Fasernetze usw.) oder jede Kombination davon.
Wir wenden uns nun 14 zu. In der veranschaulichenden Ausführungsform kann der Orchestrator-Server 1240 während des Betriebes eine Umgebung 1400 herstellen. Die veranschaulichende Umgebung 1400 enthält einen Netzwerkkommunikator 1420, einen Telemetriemonitor 1430 und einen Ressourcenmanager 1440. Jede der Komponenten der Umgebung 1400 kann als Hardware, Firmware, Software oder eine Kombination davon verkörpert sein. Darum können in einigen Ausführungsformen eine oder mehrere der Komponenten der Umgebung 1400 als Schaltungen oder eine Zusammenstellung elektrischer Vorrichtungen verkörpert sein (zum Beispiel Netzwerkkommunikatorschaltungen 1420, Telemetriemonitorschaltungen 1430, Ressourcenmanagerschaltungen 1440, usw.). Es versteht sich, dass in solchen Ausführungsformen eine oder mehrere der Netzwerkkommunikatorschaltungen 1420, Telemetriemonitorschaltungen 1430 oder Ressourcenmanagerschaltungen 1440 einen Teil von einem oder mehreren der CPU 1302, des Hauptspeichers 1304, des E/A-Teilsystems 1306 und/oder anderen Komponenten des Orchestrator-Servers 1240 bilden können. In der veranschaulichenden Ausführungsform enthält die Umgebung 1400 Telemetriedaten 1402, die als Daten verkörpert sein können, die Leistung und Bedingungen (zum Beispiel Ressourcenauslastung, Betriebsfrequenzen, Leistungsaufnahme, eine oder mehrere Temperaturen, Lüfterdrehzahlen usw.) von Ressourcen anzeigen, die jedem verwalteten Knoten 1260 und einzelnen Jobs (zum Beispiel Funktionssätzen) der Arbeitslasten zugewiesen sind, die ausgeführt werden, während die verwalteten Knoten 1260 die ihnen zugewiesenen Arbeitslasten ausführen. Darüber hinaus enthält die veranschaulichende Umgebung 1400 Ressourcenzuweisungs-Zielsetzungsdaten 1404, die Nutzer-definierte Schwellen oder Ziele („Zielsetzungen“) anzeigen, die während der Ausführung der Arbeitslasten zu erfüllen sind. In der veranschaulichenden Ausführungsform betreffen die Zielsetzungen Energieverbrauch, Lebenserwartung, Wärmeerzeugung und Leistung der Ressourcen, die den verwalteten Knoten 1260 zugewiesen wurden. Des Weiteren enthält die veranschaulichende Umgebung 1400 Arbeitslastbezeichner 1406, die als jegliche Identifikatoren verkörpert sein können (zum Beispiel Prozessnummern, Namen ausführbarer Dateien, alphanumerische Tags usw.), die eindeutig jede Arbeitslast identifizieren, die durch die verwalteten Knoten 1260 ausgeführt werden.
Darüber hinaus enthält die veranschaulichende Umgebung 1400 Arbeitslastklassifizierungen 1408, die als jegliche Daten verkörpert sein können, die die allgemeinen Ressourcenauslastungstendenzen jeder Arbeitslast anzeigen (zum Beispiel prozessorintensiv, speicherintensiv, netzwerkbandbreitenintensiv usw.). Des Weiteren enthält die veranschaulichende Umgebung 1400 Job-Daten 1410, die Jobs (zum Beispiel Sätze von Funktionen) innerhalb jeder Arbeitslast anzeigen, die beschleunigt werden können. In der veranschaulichenden Ausführungsform sind die Job-Daten 1410 verkörpert als: eine Warteschlange von Jobs, die verarbeitet werden sollen, ein Hinweis auf die Arten von Funktionen innerhalb des Jobs (zum Beispiel Komprimierung, Verschlüsselung, Matrixoperationen usw.), Informationen über das Format und die Größe eingegebener Daten, die durch den Job verwendet werden (zum Beispiel die Anzahl von Bytes, ob die eingegebenen Daten als eine Matrix oder auf sonstige Weise formatiert sind, ein Codierregime für die eingegebenen Daten usw.), ein global eindeutiger Identifikator (GUID), der jedem Job zugeordnet ist, Zähler, die anzeigen, wie viele Male ein bestimmter Job innerhalb eines vorgegebenen Zeitrahmens für jede Arbeitslast und über alle Arbeitslasten hinweg, die in dem Daten-Center 1100 ausgeführt werden, in der Warteschlange war, die durchschnittliche Zeitdauer, die jeder Job in der Warteschlange zubringt, und/oder andere Eigenschaften der Jobs. Darüber hinaus enthält die veranschaulichende Ausführungsform 1400 Ressourcenzuweisungsdaten 1412, die die Ressourcen, einschließlich der Beschleunigerressourcen 205-2, innerhalb des Daten-Centers 1100 anzeigen, die jedem verwalteten Knoten 1260 zu jedem gegebenen Zeitpunkt zugewiesen wurden.
In der veranschaulichenden Umgebung 1400 ist der Netzwerkkommunikator 1420, der als Hardware, Firmware, Software, virtualisierte Hardware, emulierte Architektur und/oder eine Kombination davon verkörpert sein kann, wie oben besprochen, dafür konfiguriert, ankommende und abgehende Netzwerkkommunikation (zum Beispiel Netzwerkverkehr, Netzwerkpakete, Netzwerkflüsse usw.) zu bzw. von dem Orchestrator-Server 1240 zu ermöglichen. Zu diesem Zweck ist der Netzwerkkommunikator 1420 dafür konfiguriert, Datenpakete von einem System oder einer Computervorrichtung (zum Beispiel der Client-Vorrichtung 1220) zu empfangen und zu verarbeiten und Datenpakete vorzubereiten und an eine andere Computervorrichtung oder ein anderes System (zum Beispiel die verwalteten Knoten 1260) zu senden. Dementsprechend kann in einigen Ausführungsformen mindestens ein Teil der Funktionalität des Netzwerkkommunikators 1420 durch die Kommunikationsschaltung 1308 und in der veranschaulichenden Ausführungsform durch den NIC 1310 ausgeführt werden.
Der Telemetriemonitor 1430, der als Hardware, Firmware, Software, virtualisierte Hardware, emulierte Architektur und/oder eine Kombination davon verkörpert sein kann, wie oben besprochen, ist dafür konfiguriert, die Telemetriedaten 1402 von den verwalteten Knoten 1260 zu erfassen, während die verwalteten Knoten 1260 die ihnen zugewiesenen Arbeitslasten ausführen. Der Telemetriemonitor 1430 kann jeden der verwalteten Knoten 1260 fortlaufend nach zu aktualisierenden Telemetriedaten 1402 aktiv abfragen oder kann Telemetriedaten 1402 von den verwalteten Knoten 1260 passiv empfangen, wie zum Beispiel durch Abhören eines bestimmten Netzwerk-Ports auf zu aktualisierende Telemetriedaten 1402. Der Telemetriemonitor 1430 kann des Weiteren die Telemetriedaten 1402 parsen und kategorisieren, wie zum Beispiel durch Trennen der Telemetriedaten 1402 in eine einzelne Datei oder einen einzelnen Datensatz für jeden verwalteten Knoten 1260.
Der Ressourcenmanager 1440, der als Hardware, Firmware, Software, virtualisierte Hardware, emulierte Architektur und/oder eine Kombination davon verkörpert sein kann, ist dafür konfiguriert, verwalteten Knoten Arbeitslasten zuzuweisen, Jobs innerhalb der zu beschleunigenden Arbeitslasten zu identifizieren, vorherzusagen, wann Beschleunigungsbedarf innerhalb der Arbeitslasten besteht, Beschleunigerressourcen 205-2 bereitzustellen (zum Beispiel zu konfigurieren), bevor der vorhergesagte Beschleunigungsbedarf eintritt, und die Zuweisung von Beschleunigerressourcen 205-2 zu und von den verwalteten Knoten 1260 fortlaufend zu justieren, um die Effizienz der Arbeitslastausführung zu verbessern und/oder andere Ressourcenzuweisungs-Zielsetzungen (zum Beispiel die Ressourcenzuweisungs-Zielsetzungsdaten 1404) zu erfüllen.
Zu diesem Zweck enthält der Ressourcenmanager 1440 eine Arbeitslastbezeichnungseinheit 1442, einen Arbeitslastklassifizierer 1444, einen Arbeitslastverhaltensprädiktor 1446, einen Beschleunigungsmanager 1448 und einen Multi-Zielsetzungsanalysator 1450. Die Arbeitslastbezeichnungseinheit 1442 ist in der veranschaulichenden Ausführungsform dafür konfiguriert, jeder Arbeitslast, die durch die verwalteten Knoten 1260 momentan ausgeführt oder zur Ausführung disponiert wird, einen Arbeitslastbezeichner 1406 zuzuweisen. Die Arbeitslastbezeichnungseinheit 1442 kann den Arbeitslastbezeichner 1406 in Abhängigkeit von einem ausführbaren Namen der Arbeitslast, einem Hash des gesamten oder eines Teils des Codes der Arbeitslast oder auf der Basis jedes anderen Verfahrens zum eindeutigen Identifizieren jeder Arbeitslast generieren. Der Arbeitslastklassifizierer 1444 ist in der veranschaulichenden Ausführungsform dafür konfiguriert, jede bezeichnete Arbeitslast auf der Basis der durchschnittlichen Ressourcenauslastung jeder Arbeitslast zu kategorisieren (zum Beispiel „verwendet allgemein 65 % der Prozessorkapazität“, „verwendet allgemein 40 % der Speicherkapazität“, usw.).
Der Arbeitslastverhaltensprädiktor 1446 ist in der veranschaulichenden Ausführungsform dafür konfiguriert, die Telemetriedaten 1402 zu analysieren, um verschiedene Phasen der Ressourcenauslastung innerhalb der Telemetriedaten 1402 für jede Arbeitslast zu identifizieren. Jede Ressourcenauslastungsphase kann als ein Zeitraum verkörpert sein, in dem die Ressourcenauslastung einer oder mehrerer einem verwalteten Knoten 1260 zugewiesenen Ressourcen eine vorgegebene Schwelle erfüllt. Zum Beispiel kann eine Auslastung von mindestens 85 % der zugewiesenen Prozessorkapazität eine Prozessor-Hochauslastungsphase anzeigen, und eine Auslastung von mindestens 85 % der zugewiesenen Speicherkapazität kann eine Speicher-Hochauslastungsphase anzeigen. In der veranschaulichenden Ausführungsform dient der Arbeitslastverhaltensprädiktor 1446 des Weiteren zum Identifizieren von Mustern in den Ressourcenauslastungsphasen der Arbeitslasten (zum Beispiel eine Prozessor-Hochauslastungsphase, gefolgt von einer Speicher-Hochauslastungsphase, gefolgt von einer Phase mit niedriger Ressourcenauslastung, auf die dann wieder die Prozessor-Hochauslastungsphase folgt). Der Arbeitslastverhaltensprädiktor 1446 kann dafür konfiguriert sein, die Identifizierungen der Ressourcenauslastungsphasenmuster zu verwenden, eine momentane Ressourcenauslastungsphase einer gegebenen Arbeitslast zu bestimmen, die nächste Ressourcenauslastungsphase auf der Basis der Muster vorherzusagen und eine Restzeit zu bestimmen, bis die Arbeitslast zu der nächsten Ressourcenauslastungsphase übergeht.
Der Beschleunigungsmanager 1448 ist in der veranschaulichenden Ausführungsform dafür konfiguriert zu identifizieren, anhand der Telemetriedaten 1402 die Job-Daten 1410 zu generieren, Jobs innerhalb der zu beschleunigenden Arbeitslasten auf der Basis ihrer Arten, ihrer Verweildauer in der Job-Warteschlange, wie oft die Jobs ausgeführt werden, und anderer Faktoren zu identifizieren, die Auswahl und Bereitstellung der Beschleunigerressourcen 205-2, wie zum Beispiel FPGAs, die innerhalb des Daten-Centers 1100 verfügbar sind, zu koordinieren, und den Zeitpunkt der Zuweisung und/oder Ablösung der Beschleunigerressourcen 205-2 zu verwalten, so dass er mit den Vorhersagzeiten übereinstimmt, wenn es wahrscheinlich ist, dass die zu beschleunigenden Jobs durch die Arbeitslasten initiiert (zum Beispiel aufgerufen) werden.
Der Multi-Zielsetzungsanalysator 1450 ist in der veranschaulichenden Ausführungsform dafür konfiguriert zu, ob eine Effizienzzielsetzung und/oder andere Ressourcenzuweisungs-Zielsetzungsdaten 1404 während der Ausführung von Arbeitslasten erfüllt werden, und Justierungen der Zuweisung von Ressourcen zwischen den verwalteten Knoten 1260 zu bestimmen, damit die eine oder die mehreren Zielsetzungen erfüllt werden können. Darum koordiniert sich der Multi-Zielsetzungsanalysator bezüglich der Zuweisung von Beschleunigerressourcen 205-2 1450 mit dem Beschleunigungsmanager 1448, um zu bestimmen, welche Beschleunigerressourcen 205-2 den verwalteten Knoten 1260 zu welcher Zeit zuzuweisen sind. In der veranschaulichenden Ausführungsform kann der Multi-Zielsetzungsanalysator 1450 ein Modell des Daten-Centers 1100 enthalten, das die erwartete Wirkung, einschließlich Energieverbrauch, Wärmeerzeugung, Änderung der Rechenkapazität und andere Faktoren, in Reaktion auf verschiedene Justierungen der Zuweisungen von Ressourcen zwischen den verwalteten Knoten 1260 und/oder den Einstellungen von Komponenten (zum Beispiel Erhöhen oder Verringern von Taktgeschwindigkeiten, Aktivieren oder Deaktivieren der Unterstützung für erweiterte Instruktionssätze usw.) innerhalb der Ressourcen simuliert. Zu diesem Zweck enthält der Multi-Zielsetzungsanalysator 1450 in der veranschaulichenden Ausführungsform einen Ressourcenzuweiser 1452 und einen Ressourceneinstellungsjustierer 1454. Der Ressourcenzuweiser 1452 ist in der veranschaulichenden Ausführungsform dafür konfiguriert, Instruktionen an die verwalteten Knoten 1260 auszugeben, um Ressourcen gemäß Bestimmung durch den Multi-Zielsetzungsanalysator 1450 und den Beschleunigungsmanager 1448 zuzuweisen oder abzulösen, und die Ressourcenzuweisungsdaten 1412 zu aktualisieren, um den momentanen Zustand der Zuweisung der Ressourcen zwischen den verwalteten Knoten 1260 anzugeben. Gleichermaßen ist der Ressourceneinstellungsjustierer 1454 in der veranschaulichenden Ausführungsform dafür konfiguriert, Instruktionen an einen oder mehrere der verwalteten Knoten 1260 auszugeben, um die Einstellungen von Ressourcen, die den verwalteten Knoten 1260 zugewiesen wurden, zu justieren, wie zum Beispiel durch Justieren einer Firmware-Einstellung, um eine Taktgeschwindigkeit eines Prozessors zu erhöhen oder zu verringern, die Leistungsaufnahme-Einstellungen zu erhöhen oder zu verringern, und/oder andere Einstellungen zu justieren, die den Betrieb der Ressourcen beeinflussen.
Es versteht sich, dass die Arbeitslastbezeichnungseinheit 1442, der Arbeitslastklassifizierer 1444, der Arbeitslastverhaltensprädiktor 1446, der Beschleunigungsmanager 1448, der Multi-Zielsetzungsanalysator 1450, der Ressourcenzuweiser 1452 und der Ressourceneinstellungsjustierer 1454 jeweils separat als Hardware, Firmware, Software, virtualisierte Hardware, emulierte Architektur und/oder eine Kombination davon verkörpert sein können. Zum Beispiel kann die Arbeitslastbezeichnungseinheit 1442 als eine Hardware-Komponente verkörpert sein, während der Arbeitslastklassifizierer 1444, der Arbeitslastverhaltensprädiktor 1446, der Beschleunigungsmanager 1448, der Multi-Zielsetzungsanalysator 1450, der Ressourcenzuweiser 1452 und der Ressourceneinstellungsjustierer 1454 als virtualisierte Hardware-Komponenten oder als irgend eine andere Kombination von Hardware, Firmware, Software, virtualisierter Hardware, emulierter Architektur und/oder einer Kombination davon verkörpert sind.
Wir wenden uns nun 15 zu. Der Orchestrator-Server 1240 kann ein Verfahren 1500 zum Verwalten der Zuweisung von Beschleunigerressourcen 205-2 zwischen den verwalteten Knoten 1260, während die verwalteten Knoten 1260 Arbeitslasten ausführen, ausführen. Das Verfahren 1500 beginnt mit Block 1502, wo der Orchestrator-Server 1240 bestimmt, ob die Zuweisung von Ressourcen zwischen den verwalteten Knoten 1260 verwaltet werden soll. In der veranschaulichenden Ausführungsform bestimmt der Orchestrator-Server 1240, die Zuweisung von Ressourcen zu verwalten, wenn der Orchestrator-Server 1240 eingeschaltet ist, in Kommunikation mit den verwalteten Knoten 1260 steht und mindestens eine Anforderung von der Client-Vorrichtung 1220 empfangen hat, Cloud-Dienste bereitzustellen (d. h. eine oder mehrere Arbeitslasten auszuführen). In anderen Ausführungsformen kann der Orchestrator-Server 1240 auf der Basis anderer Faktoren bestimmen, ob die Zuweisung von Ressourcen verwaltet werden soll. Ungeachtet dessen schreitet das Verfahren 1500 in Reaktion auf eine Bestimmung, die Zuweisung von Ressourcen zu verwalten, in der veranschaulichenden Ausführungsform zu Block 1504 voran, wo der Orchestrator-Server 1240 Ressourcenzuweisungs-Zielsetzungsdaten (zum Beispiel die Ressourcenzuweisungs-Zielsetzungsdaten 1404) erhalten kann. Dabei kann der Orchestrator-Server 1240 die Ressourcenzuweisungs-Zielsetzungsdaten 1404 von einem Nutzer (zum Beispiel einem Administrator) durch eine grafische Benutzerschnittstelle (nicht gezeigt), eine Konfigurationsdatei oder eine andere Quelle erhalten. Der Orchestrator-Server 1240 kann in der veranschaulichenden Ausführungsform Leistungs-Zielsetzungsdaten erhalten, die eine Zielgeschwindigkeit anzeigen, mit der Arbeitslasten ausgeführt werden sollen (zum Beispiel ein Zielzeitraum, in dem die Ausführung einer Arbeitslast zu vollenden ist, eine Ziel-Anzahl von Operationen pro Sekunde usw.), wie in Block 1506 angegeben. Beim Empfangen der Ressourcenzuweisungs-Zielsetzungsdaten 1404 kann der Orchestrator-Server 1240 Energieverbrauchs-Zielsetzungsdaten empfangen, die eine Ziel-Leistungsaufnahme oder einen Schwellenbetrag der Leistungsaufnahme der Ressource anzeigen, die jedem verwalteten Knoten 1260 zugewiesen ist, während sie die Arbeitslasten ausführen, wie in Block 1508 angegeben. Zusätzlich oder alternativ kann der Orchestrator-Server 1240 Zuverlässigkeits-Zielsetzungsdaten empfangen, die einen Ziel-Lebenszyklus einer oder mehrerer Ressourcen anzeigen (zum Beispiel einen Ziel-Lebenszyklus einer Datenspeichervorrichtung, einen Ziel-Lebenszyklus eines Kühlgebläses usw.), wie in Block 1510 angegeben. Wie in Block 1512 angegeben, kann der Orchestrator-Server 1240 außerdem thermische Zielsetzungsdaten empfangen, die eine oder mehrere Ziel-Temperaturen einer oder mehrerer Ressourcen (zum Beispiel einer oder mehrerer CPUs 1302 usw.) anzeigen.
In Block 1514 weist der Orchestrator-Server 1240 in der veranschaulichenden Ausführungsform den verwalteten Knoten 1260 Ressourcen zu. Zunächst hat der Orchestrator-Server 1240 keinerlei Telemetriedaten 1402 empfangen, um eine Entscheidung zu informieren, welche Ressourcen den verschiedenen verwalteten Knoten 1260 zuzuweisen sind. Darum kann, wie in Block 1516 angegeben, der Orchestrator-Server 1240 zunächst keine Beschleunigerressourcen 205-2 an einen der verwalteten Knoten 1260 zuzuweisen. Alternativ kann, wie in Block 1518 angegeben, der Orchestrator-Server 1240 Beschleunigerressourcen 205-2 zwischen den verwalteten Knoten 1260 gemäß einem Standardregime zuweisen (zum Beispiel gleichmäßiges Aufteilen der Beschleunigerressourcen 205-2 zwischen den verwalteten Knoten 1260, Zuweisen einer vorgegebenen Anzahl von Beschleunigerressourcen 205-2 zu jedem verwalteten Knoten 1260. während die verwalteten Knoten 1260 definiert werden, bis keine verfügbaren Beschleunigerressourcen 205-2 mehr verfügbar sind, usw.). Dabei kann der Orchestrator-Server 1240 die Zuweisung von FPGAs zu den verwalteten Knoten 1260 aufschieben, die Arbeitslasten zugewiesen wurden und die FPGAs bereitgestellt (zum Beispiel konfiguriert) wurden, um einen oder mehrere zu beschleunigende Jobs auszuführen, wie im vorliegenden Text ausführlicher beschrieben. In Block 1520 weist der Orchestrator-Server 1240 den verwalteten Knoten 1260 Arbeitslasten zur Ausführung zu und beginnt, wie in Block 1522 angegeben, den Empfang der Telemetriedaten 1402, während die Arbeitslasten durch die verwalteten Knoten 1260 ausgeführt werden. Anschließend schreitet das Verfahren 1500 zu Block 1524 von 16 voran, wo der Orchestrator-Server 1240 anhand der Telemetriedaten 1402 den vorhergesagten Beschleunigungsbedarf bestimmt (zum Beispiel, welche Beschleunigerressourcen 205-2 zugewiesen werden sollen), wie im vorliegenden Text ausführlicher erläutert.
Wir wenden uns nun 16 zu. Beim Bestimmen, anhand der Telemetriedaten 1402, des vorhergesagten Beschleunigungsbedarfs kann der Orchestrator-Server 1240 Jobs innerhalb der zugewiesenen Arbeitslasten zur Beschleunigung identifizieren, wie in Block 1526 angegeben. Wie in Block 1528 angegeben, kann der Orchestrator-Server 1240 in der veranschaulichenden Ausführungsform eine Job-Warteschlange (zum Beispiel die Job-Daten 1410) analysieren, um die Jobs innerhalb der zugewiesenen Arbeitslasten zur Beschleunigung zu identifizieren. Dabei kann der Orchestrator-Server 1240 eine durchschnittliche Zeitdauer bestimmen, die jeder Job in der Warteschlange zubringt (zum Beispiel bevor er vollendet ist), wie in Block 1530 angegeben. Wie in Block 1532 angegeben, kann der Orchestrator-Server 1240 einen Glättungsalgorithmus, wie zum Beispiel einen exponentiellen Glättungsalgorithmus, eine oder mehrere Male anwenden, wie durch die Job-Warteschlange angegeben, um die durchschnittliche Zeitdauer zu bestimmen, die jeder Job in der Job-Warteschlange zubringt. Wie in Block 1534 angegeben, kann der Orchestrator-Server 1240 lokale Zählungen und globale Zählungen von Jobs bestimmen, die ausgeführt werden, und die lokalen und globalen Zählungen mit einem oder mehreren Schwellenzählwerten vergleichen. Zum Beispiel kann der Orchestrator-Server 1240 eine Zählung darüber führen, wie viele Male jeder Job für jede Arbeitslast ausgeführt wurde (zum Beispiel eine lokale Zählung), sowie eine Zählung darüber, wie viele Male jeder Job, ungeachtet der bestimmten Arbeitslast oder der ihr zugeordneten verwalteten Knoten 1260, ausgeführt wurde. Wenn eine der Zählungen einen vorgegebenen Schwellenwert erfüllt (zum Beispiel gleich dem Schwellenwert ist oder ihn übersteigt), so kann der Orchestrator-Server 1240 den entsprechenden Job als einen identifizieren, der beschleunigt werden sollte (zum Beispiel mit einer oder mehreren Beschleunigerressourcen 205-2 ausgeführt werden sollte).
Wir bleiben bei 16. Bei der Bestimmung des vorhergesagten Beschleunigungsbedarfs kann der Orchestrator-Server 1240 zusätzlich Eigenschaften der ausgeführten Jobs identifizieren, wie in Block 1536 angegeben. Dabei kann der Orchestrator-Server 1240 bestimmen, ob sich jeder Job für eine Beschleunigung anbietet (zum Beispiel, ob eine Beschleunigerressource den Job schneller oder effizienter ausführen könnte als ein Allzweckprozessor 1302). Dabei, wie in Block 1540 angegeben, kann der Orchestrator-Server 1240 die Art jedes Jobs bestimmen, wie zum Beispiel durch Analysieren und Klassifizieren der Arten von Funktionen, die bestimmte Arten von Operationen anzeigen (zum Beispiel Komprimierungsoperationen, Verschlüsselungsoperationen usw.). Wie in Block 1542 angegeben, kann der Orchestrator-Server 1240 Eigenschaften der eingegebenen Daten, die durch die Jobs verwendet werden, bestimmen, wie zum Beispiel, ob die eingegebenen Daten als eine Matrix von Werten oder in einem anderen Format formatiert sind, die Größe (zum Beispiel in Bytes) der eingegebenen Daten, und/oder Eigenschaften der eingegebenen Daten. Wie oben beschrieben, kann die Analyse an den Job-Daten 1410 ausgeführt werden, die in der veranschaulichenden Ausführungsform anhand der Telemetriedaten 1402 generiert werden, welche durch die verwalteten Knoten 1260 berichtet wurden. Darum können in der veranschaulichenden Ausführungsform die verwalteten Knoten 1260 dafür konfiguriert sein, Informationen bereitzustellen, die die Arten von Funktionen innerhalb jedes Jobs und die Eingabedateneigenschaften für jeden Job anzeigen. Wie in Block 1544 angegeben, kann der Orchestrator-Server 1240 in dem Prozess des Identifizierens der Eigenschaften der Jobs jedem Job einen global eindeutigen Identifikator (zum Beispiel eine Zahl, einen Tag, eine alphanumerische Sequenz oder einen anderen Identifikator, der eindeutig ist) zuweisen. Der global eindeutige Identifikator kann anhand eines Identifikators für jeden Job erzeugt werden, der von jedem verwalteten Knoten 1260 in den entsprechenden Telemetriedaten 1402 des verwalteten Knotens 1260 berichtet wird, wie zum Beispiel durch Anhängen eines Hashs des Arbeitslastbezeichners und eines eindeutigen Identifikators des verwalteten Knotens 1260 an den Identifikator des entsprechenden Jobs, der in den Telemetriedaten 1402 von dem verwalteten Knoten 1260 angegeben ist. In Block 1546 kann der Orchestrator-Server 1240 eine vorhergesagte Zeit des Beschleunigungsbedarfs bestimmen (zum Beispiel, wann der Bedarf wahrscheinlich eintreten wird). Wie in Block 1548 angegeben, kann der Orchestrator-Server 1240 die vorhergesagte Zeit des Bedarfs durch Analysieren eines Musters der Jobausführungen für jede Arbeitslast bestimmen (zum Beispiel verweilt Job A 10 Sekunden in der Job-Warteschlange, gefolgt von Job B, der 15 Sekunden in der Job-Warteschlange verweilt, erneut gefolgt von Job A). Anschließend schreitet das Verfahren 1500 zu Block 1550 von 17 voran, wo der Orchestrator-Server 1240, vor dem vorhergesagten Beschleunigungsbedarf, eine oder mehrere Beschleunigerressourcen 205-2 zum Beschleunigen der Jobs innerhalb der Arbeitslasten bereitstellt.
Wir wenden uns nun 17 zu. Beim Bereitstellen der Beschleunigerressourcen 205-2 wählt der Orchestrator-Server 1240 in der veranschaulichenden Ausführungsform eine oder mehrere bereitzustellende feldprogrammierbare Gate-Arrays aus, wie in Block 1552 angegeben. Wie in Block 1554 angegeben, bevorzugt der Orchestrator-Server 1240 in der veranschaulichenden Ausführungsform FPGAs, die bereits dafür konfiguriert (zum Beispiel bereitgestellt) sind, einen gegebenen Job auszuführen, der in der Zukunft beschleunigt werden soll. Durch die Bevorzugung von FPGAs (zum Beispiel die Auswahl anstelle anderer FPGAs), die bereits dafür bereitgestellt sind, den zu beschleunigenden Job auszuführen, kann der Orchestrator-Server 1240 Zeit sparen, die anderenfalls dafür verbraucht werden würde, einen Bitstream, der die gewünschte Konfiguration anzeigt, an den FPGA zu übermitteln und zu warten, bis der FPGA seine feldprogrammierbaren Gates gemäß der gewünschten Konfiguration konfiguriert hat. Der Orchestrator-Server 1240 kann in den Ressourcenzuweisungsdaten 1412 Informationen speichern, die anzeigen, welche FPGAs bereitgestellt wurden, um die Jobs auszuführen. In Block 1556 bestimmt der Orchestrator-Server 1240 in der veranschaulichenden Ausführungsform die Anzahl der bereitzustellenden FPGAs, wie zum Beispiel durch Zählen der Anzahl von Jobs, die für eine Beschleunigung identifiziert wurden, Bestimmen der Anzahl verfügbarer FPGAs, und Bestimmen, einen einzelnen verfügbaren FPGA für jeden Job zu verwenden oder sie bis zur Höhe ihrer maximal verfügbaren Anzahl zu verwenden, wenn die Anzahl verfügbarer FPGAs kleiner ist als die Anzahl zu beschleunigender Jobs. In Block 1558 kann der Orchestrator-Server 1240 FPGAs auf Sleds (zum Beispiel Beschleuniger-Sled 1130) auswählen, die von den Sleds verschieden sind, auf denen die Arbeitslasten durch Allzweckprozessoren ausgeführt werden (zum Beispiel Rechen-Sled 204-4). Wie in Block 1560 angegeben, kann der Orchestrator-Server 1240 FPGAs in Abhängigkeit von einer Ziel-Wärmeerzeugung, einem Ziel-Energieverbrauch und/oder von Ziel-Wirtschaftskosten auswählen. Zum Beispiel können einige FPGAs im Hinblick auf Wärmeerzeugung und/oder Energieverbrauch effizienter sein als andere FPGAs, weil sie aus kleineren oder auf sonstige Weise effizienteren Komponenten bestehen. Darum können die Kosten für Kühlung und Stromversorgung weniger effizienter FPGAs größer sein als für die Kühlung und Stromversorgung anderer FPGAs. In Block 1562 kann der Orchestrator-Server 1240 eine Konfigurationszeit für jedes FPGA bestimmen (zum Beispiel die Zeit, die vergeht, um das FPGA für die Ausführung eines Jobs zu konfigurieren). Zunächst kann es sein, dass der Orchestrator-Server 1240 keinen Zugriff auf Daten hat, die die Zeitdauer anzeigen, die erforderlich ist, um einen bestimmten FPGA bereitzustellen, und kann statt dessen eine als Standard festgelegte Schätzzeit verwenden (zum Beispiel zwei Minuten). Falls und sobald der Orchestrator-Server 1240 den FPGA bereitstellt, kann der Orchestrator-Server 1240 die tatsächliche Zeitdauer messen, die verstreicht, um das FPGA bereitzustellen, und kann für spätere Bestimmungen auf diese gemessene Zeit zurückgreifen.
In Block 1564 übermittelt (zum Beispiel sendet) der Orchestrator-Server 1240 einen Bitstream, der eine gewünschte Konfiguration jedes FPGA anzeigt, an jedes bereitzustellende FPGA. Der Bitstream kann einen Abschnitt enthalten, der für die Architektur des bestimmten FPGA spezifisch ist (um zum Beispiel das FPGA zur Konfiguration zu initialisieren), und kann einen anderen Abschnitt enthalten, der die gewünschte Konfiguration der Gates innerhalb des FPGA anzeigt, um den entsprechenden zu beschleunigenden Job auszuführen. Beim Bereitstellen der Bit-Streams stellt der Orchestrator-Server 1240 - in der veranschaulichenden Ausführungsform, und wie in Block 1566 angegeben - die Bit-Streams um die bestimmte Konfigurationszeit für das entsprechende FPGA vor der vorhergesagten Zeit (zum Beispiel der in Block 1546 von 16 vorhergesagten Zeit), zu der der zu beschleunigende Job zur Ausführung vorgesehen ist (zum Beispiel vor der Zeit des vorhergesagten Bedarfs), bereit. Wenn zum Beispiel die Konfigurationszeit für das FPGA zwei Minuten ist, so sendet der Orchestrator-Server 1240 in der veranschaulichenden Ausführungsform den Bitstream mindestens zwei Minuten, bevor der entsprechende Job ausgeführt werden soll, an das FPGA (zum Beispiel zwei Minuten, bevor der Job in die Job-Warteschlange eintritt).
Anschließend schreitet das Verfahren 1500 zu Block 1568 voran, wo der Orchestrator-Server 1240 den verwalteten Knoten 1260 die Beschleunigerressourcen 205-2 zuweist, um die Ausführung der Arbeitslasten zu beschleunigen (zum Beispiel die Arbeitslast-Jobs, die in Block 1526 von 16 zur Beschleunigung identifiziert wurden). In Block 1570 weist der Orchestrator-Server 1240 in der veranschaulichenden Ausführungsform die bereitgestellten FPGAs von Block 1550 den verwalteten Knoten 1260 zu, die mit den zur Beschleunigung identifizierten Jobs verknüpft sind. Der Orchestrator-Server 1240 kann das tun, indem er an jeden verwalteten Knoten 1260 Adressinformationen für die entsprechenden FPGAs übermittelt, um die verwalteten Knoten 1260 in die Lage zu versetzen, mit den FPGAs zu kommunizieren. Wie in Block 1572 angegeben, kann der Orchestrator-Server 1240 den verwalteten Knoten 1260 auch andere Beschleunigerressourcen 205-2 zuweisen (zum Beispiel GrafikBeschleuniger usw.), wie zum Beispiel, wenn ein oder mehrerer Jobs nicht zur Beschleunigung durch einen FPGA geeignet sind, wie in den Blöcken 1538 bis 1542 von 16 bestimmt, oder wenn der Satz verfügbarer FPGAs in dem Daten-Center 1100 erschöpft ist. In Block 1574 kann der Orchestrator-Server 1240 eine oder mehrere Beschleunigerressourcen 205-2 von einem oder mehreren verwalteten Knoten 1260 ablösen (wenn zum Beispiel der entsprechende Jobs vollendet wurde), wodurch der Satz verfügbarer Beschleunigerressourcen 205-2 wieder aufgefüllt wird. Wie in Block 1576 angegeben, tut der Orchestrator-Server 1240 in der veranschaulichenden Ausführungsform - beim Zuweisen und/oder Ablösen der Beschleunigerressourcen 205-2 - dies zu dem Zweck, die eine oder die mehreren Ressourcenzuweisungs-Zielsetzungen zu erfüllen (zum Beispiel Zielsetzungen in den Ressourcenzuweisungs-Zielsetzungsdaten 1404). Wenn zum Beispiel das Beschleunigen eines bestimmten Jobs die Leistung über eine Ziel-Ressourcenzuweisungszielsetzung (zum Beispiel eine Anzahl von Operationen pro Sekunde) hinaus erhöhen würde und dazu führen würde, dass die Wärmeerzeugung eine Zieltemperatur in einem oder mehreren Bereichen des Daten-Centers 1100 übersteigt, so kann der Orchestrator-Server 1240 bestimmen, diesem Job eine Beschleunigerressource 205-2 nicht zuzuweisen. In einer Ausführungsform kann der Orchestrator-Server 1240 vor den Bereitstellungsoperationen in Block 1550 bestimmen, ob er eine Beschleunigerressource 205-2 zum Beschleunigen eines bestimmten Jobs unter Berücksichtigung der Ressourcenzuweisungs-Zielsetzungen abschließend zuzuweisen soll. Anschließend kehrt das Verfahren 1500 zu Block 1522 von 15 zurück, wo der der Orchestrator-Server 1240 das Erfassen von Telemetriedaten 1402 fortsetzt, während die Arbeitslasten ausgeführt werden.
BEISPIELE
Im Folgenden werden veranschaulichende Beispiele der im vorliegenden Text offenbarten Technologien dargelegt. Eine Ausführungsform der Technologien kann eines oder mehrere, und jede Kombination, der unten beschriebenen Beispiele enthalten.
Beispiel 1 enthält einen Orchestrator-Server zum dynamischen Verwalten der Zuweisung von Beschleunigerressourcen, wobei der Orchestrator-Server Folgendes umfasst: einen oder mehrere Prozessoren; eine oder mehrere Speichervorrichtungen, in denen mehrere Instruktionen gespeichert sind, die, wenn sie durch den einen oder die mehreren Prozessoren ausgeführt werden, den Orchestrator-Server veranlassen, einem verwalteten Knoten eine Arbeitslast zur Ausführung zuzuweisen; einen vorhergesagten Bedarf für eine oder mehrere Beschleunigerressourcen zu bestimmen, um die Ausführung eines oder mehrerer Jobs innerhalb der Arbeitslast zu beschleunigen; vor dem vorhergesagten Bedarf eine oder mehrere Beschleunigerressourcen bereitzustellen, um den einen oder die mehreren Jobs zu beschleunigen; und dem verwalteten Knoten die eine oder die mehreren bereitgestellten Beschleunigerressourcen zuzuweisen, um die Ausführung des einen oder der mehreren Jobs zu beschleunigen.
Beispiel 2 enthält den Gegenstand von Beispiel 1, und wobei das Bestimmen des vorhergesagten Bedarfs umfasst, einen Bedarf für ein oder mehrere feldprogrammierbare Gate-Arrays (FPGAs) zu bestimmen.
Beispiel 3 enthält den Gegenstand von einem der Beispiele 1 und 2, und wobei das Bereitstellen der einen oder der mehreren Beschleunigerressourcen umfasst, an den einen oder die mehreren FPGAs einen Bit-Stream zu übermitteln, der eine Konfiguration jedes FPGA anzeigt, um die Ausführung des einen oder der mehreren Jobs zu beschleunigen.
Beispiel 4 enthält den Gegenstand von einem der Beispiele 1-3, und wobei das Bestimmen des vorhergesagten Bedarfs umfasst, die Anzahl von Beschleunigerressourcen zu bestimmen, die zugewiesen werden sollen, um den vorhergesagten Bedarf zu erfüllen.
Beispiel 5 enthält den Gegenstand von einem der Beispiele 1-4, und wobei das Bereitstellen der einen oder der mehreren Beschleunigerressourcen umfasst, eine oder mehrere Beschleunigerressourcen bereitzustellen, die sich auf einem oder mehreren Sleds befinden, die von einem Sled verschieden sind, auf dem momentan die Arbeitslast ausgeführt wird.
Beispiel 6 enthält den Gegenstand von einem der Beispiele 1-5, und wobei die mehreren Instruktionen, wenn sie ausgeführt werden, den Orchestrator-Server außerdem veranlassen, einen Konfigurationszeitraum zu bestimmen, um jede der einen oder der mehreren Beschleunigerressourcen bereitzustellen; und eine vorhergesagte Zeit des vorhergesagten Bedarfs zu bestimmen; und wobei das Bereitstellen der einen oder der mehreren Beschleunigerressourcen umfasst, die Konfiguration der einen oder der mehreren Beschleunigerressourcen für eine beschleunigte Ausführung des einen oder der mehreren Jobs zu einer Zeit zu beginnen, die um mindestens den Konfigurationszeitraum vor der vorhergesagten Zeit liegt.
Beispiel 7 enthält den Gegenstand von einem der Beispiele 1-6, und wobei die mehreren Instruktionen, wenn sie ausgeführt werden, den Orchestrator-Server außerdem veranlassen, den einen oder die mehreren Jobs innerhalb der Arbeitslast zu identifizieren, die mit einem oder mehreren feldprogrammierbaren Gate-Arrays (FPGAs) beschleunigt werden sollen; und jeden identifizierten Job mit einem global eindeutigen Identifikator zu verknüpfen, der eine spezielle Schnittstelle des Jobs und/oder eine Definition des Jobs angibt.
Beispiel 8 enthält den Gegenstand von einem der Beispiele 1-7, und wobei das Verknüpfen jedes identifizierten Jobs mit einem global eindeutigen Identifikator umfasst, jeden identifizierten Job mit einem global eindeutigen Identifikator zu verknüpfen, der eine Größe einer Eingabe und/oder ein Format einer Eingabe in den Job angibt.
Beispiel 9 enthält den Gegenstand von einem der Beispiele 1-8, und wobei der verwaltete Knoten einer von mehreren verwalteten Knoten ist und die Arbeitslast eine von mehreren Arbeitslasten, die durch den verwalteten Knoten ausgeführt werden, ist, und die mehreren Instruktionen, wenn sie ausgeführt werden, den Orchestrator-Server außerdem veranlassen, für jede Arbeitslast eine lokale Zählung zu bestimmen, die eine Anzahl von Malen anzeigt, die ein Job in jeder Arbeitslast ausgeführt wird; eine globale Zählung zu bestimmen, die eine Anzahl von Malen anzeigt, die ein Job durch alle verwalteten Knoten ausgeführt wird; zu bestimmen, ob die lokale Zählung und/oder die globale Zählung einen Schwellenzählwert erfüllen; und in Reaktion auf eine Bestimmung, dass die lokale Zählung und/oder die globale Zählung den Schwellenzählwert erfüllen, den zugehörigen Job als einen zu beschleunigenden Job zu identifizieren.
Beispiel 10 enthält den Gegenstand von einem der Beispiele 1-9, und wobei die mehreren Instruktionen, wenn sie ausgeführt werden, den Orchestrator-Server außerdem veranlassen, unter mehreren Beschleunigerressourcen die eine oder die mehreren Beschleunigerressourcen zu identifizieren, um den einen oder die mehreren Jobs zu beschleunigen.
Beispiel 11 enthält den Gegenstand von einem der Beispiele 1-10, und wobei das Identifizieren der einen oder der mehreren Beschleunigerressourcen umfasst zu bestimmen, ob eine oder mehrere der Beschleunigerressourcen bereits dafür konfiguriert sind, einen oder mehrere der Jobs auszuführen; und in Reaktion auf eine Bestimmung, dass eine oder mehrere der Beschleunigerressourcen bereits dafür konfiguriert sind, einen oder mehrere der Jobs auszuführen, die eine oder die mehreren bereits konfigurierten Beschleunigerressourcen zur Beschleunigung des einen oder der mehreren Jobs auszuwählen.
Beispiel 12 enthält den Gegenstand von einem der Beispiele 1-11, und wobei das Identifizieren des einen oder der mehreren Beschleunigerressourcen umfasst, die eine oder die mehreren Beschleunigerressourcen in Abhängigkeit von einem oder mehreren einer Ziel-Wärmeerzeugung, einer Ziel-Leistungsaufnahme oder von Ziel-Wirtschaftskosten der Auslastung der einen oder der mehreren Beschleunigerressourcen auszuwählen.
Beispiel 13 enthält den Gegenstand von einem der Beispiele 1-12, und wobei der verwaltete Knoten einer von mehreren verwalteten Knoten ist und die Arbeitslast eine von mehreren Arbeitslasten, die durch den verwalteten Knoten ausgeführt werden, ist, und wobei das Bestimmen des Bedarfs umfasst, eine Job-Warteschlange zu erstellen, die alle Jobs für alle auszuführenden Arbeitslasten angibt; einen durchschnittlichen Zeitraum zu bestimmen, den jeder Job in der Job-Warteschlange verweilt; und den Bedarf für jeden Job in Abhängigkeit von dem durchschnittlichen Zeitraum für jeden Job zu bestimmen.
Beispiel 14 enthält den Gegenstand von einem der Beispiele 1-13, und wobei das Bestimmen des Bedarfs für jeden Job des Weiteren umfasst, einen exponentiellen Mittelungsalgorithmus auf den Zeitraum anzuwenden, den jeder Job in der Job-Warteschlange verweilt.
Beispiel 15 enthält ein Verfahren zum dynamischen Verwalten der Zuweisung von Beschleunigerressourcen, wobei das Verfahren Folgendes umfasst: Zuweisen, durch einen Orchestrator-Server, einer Arbeitslast an einen verwalteten Knoten zur Ausführung; Bestimmen, durch den Orchestrator-Server, eines vorhergesagten Bedarfs für eine oder mehrere Beschleunigerressourcen, um die Ausführung eines oder mehrerer Jobs innerhalb der Arbeitslast zu beschleunigen; Bereitstellen, durch den Orchestrator-Server und vor dem vorhergesagten Bedarf, einer oder mehrerer Beschleunigerressourcen, um den einen oder die mehreren Jobs zu beschleunigen; und Zuweisen, durch den Orchestrator-Server, der einen oder der mehreren bereitgestellten Beschleunigerressourcen zu den verwalteten Knoten, um die Ausführung des einen oder der mehreren Jobs zu beschleunigen.
Beispiel 16 enthält den Gegenstand von Beispiel 15, und wobei das Bestimmen des vorhergesagten Bedarfs umfasst, einen Bedarf für ein oder mehrere feldprogrammierbare Gate-Arrays (FPGAs) zu bestimmen.
Beispiel 17 enthält den Gegenstand von einem der Beispiele 15 und 16, und wobei das Bereitstellen der einen oder der mehreren Beschleunigerressourcen umfasst, an den einen oder die mehreren FPGAs einen Bit-Stream zu übermitteln, der eine Konfiguration jedes FPGA anzeigt, um die Ausführung des einen oder der mehreren Jobs zu beschleunigen.
Beispiel 18 enthält den Gegenstand von einem der Beispiele 15-17, und wobei das Bestimmen des vorhergesagten Bedarfs umfasst, die Anzahl der Beschleunigerressourcen zu bestimmen, die zugewiesen werden sollen, um den vorhergesagten Bedarf zu erfüllen.
Beispiel 19 enthält den Gegenstand von einem der Beispiele 15-18, und wobei das Bereitstellen der einen oder der mehreren Beschleunigerressourcen das Bereitstellen einer oder mehrerer Beschleunigerressourcen umfasst, die sich auf einem oder mehreren Sleds befinden, die von einem Sled verschieden sind, auf dem momentan die Arbeitslast ausgeführt wird.
Beispiel 20 enthält den Gegenstand von einem der Beispiele 15-19, und enthält außerdem das Bestimmen, durch den Orchestrator-Server, eines Konfigurationszeitraums, um jede der einen oder der mehreren Beschleunigerressourcen bereitzustellen; und Bestimmen, durch den Orchestrator-Server, einer vorhergesagten Zeit des vorhergesagten Bedarfs; und wobei das Bereitstellen der einen oder der mehreren Beschleunigerressourcen umfasst, die Konfiguration der einen oder der mehreren Beschleunigerressourcen für eine beschleunigte Ausführung des einen oder der mehreren Jobs zu einer Zeit zu beginnen, die um mindestens den Konfigurationszeitraum vor der vorhergesagten Zeit liegt.
Beispiel 21 enthält den Gegenstand von einem der Beispiele 15-20, und enthält des Weiteren das Identifizieren, durch den Orchestrator-Server, eines oder mehrerer Jobs innerhalb der Arbeitslast, die mit einem oder mehreren feldprogrammierbaren Gate-Arrays (FPGAs) beschleunigt werden sollen; und das Verknüpfen, durch den Orchestrator-Server, jedes identifizierten Jobs mit einem global eindeutigen Identifikator, der eine spezielle Schnittstelle des Jobs und/oder eine Definition des Jobs angibt.
Beispiel 22 enthält den Gegenstand von einem der Beispiele 15-21, und wobei das Verknüpfen jedes identifizierten Jobs mit einem global eindeutigen Identifikator das Verknüpfen jedes identifizierten Jobs mit einem global eindeutigen Identifikator umfasst, der eine Größe einer Eingabe und/oder ein Format einer Eingabe in den Job angibt.
Beispiel 23 enthält den Gegenstand von einem der Beispiele 15-22, und wobei der verwaltete Knoten einer von mehreren verwalteten Knoten ist und die Arbeitslast eine von mehreren Arbeitslasten, die durch den verwalteten Knoten ausgeführt werden, ist, wobei das Verfahren des Weiteren umfasst; Bestimmen, durch den Orchestrator-Server und für jede Arbeitslast, einer lokale Zählung, die eine Anzahl von Malen anzeigt, die ein Job in jeder Arbeitslast ausgeführt wird; Bestimmen, durch den Orchestrator-Server, einer globalen Zählung, die eine Anzahl von Malen anzeigt, die ein Job durch alle verwalteten Knoten ausgeführt wird; Bestimmen, durch den Orchestrator-Server, ob die lokale Zählung und/oder die globale Zählung einen Schwellenzählwert erfüllen; und Identifizieren, durch den Orchestrator-Server und in Reaktion auf eine Bestimmung, dass die lokale Zählung und/oder die globale Zählung den Schwellenzählwert erfüllt, des zugehörigen Jobs als einen zu beschleunigenden Job.
Beispiel 24 enthält den Gegenstand von einem der Beispiele 15-23, und enthält des Weiteren das Identifizieren, durch den Orchestrator-Server und unter mehreren Beschleunigerressourcen, der einen oder der mehreren Beschleunigerressourcen, um den einen oder die mehreren Jobs zu beschleunigen.
Beispiel 25 enthält den Gegenstand von einem der Beispiele 15-24, und wobei das Identifizieren des einen oder der mehreren Beschleunigerressourcen das Bestimmen umfasst, ob eine oder mehrere der Beschleunigerressourcen bereits dafür konfiguriert sind, einen oder mehrere der Jobs auszuführen, wobei das Verfahren des Weiteren umfasst, durch den Orchestrator-Server in Reaktion auf eine Bestimmung, dass eine oder mehrere der Beschleunigerressourcen bereits dafür konfiguriert sind, einen oder mehrere der Jobs auszuführen, die eine oder die mehreren bereits konfigurierten Beschleunigerressourcen zur Beschleunigung des einen oder der mehreren Jobs auszuwählen.
Beispiel 26 enthält den Gegenstand von einem der Beispiele 15-25, und wobei das Identifizieren des einen oder der mehreren Beschleunigerressourcen umfasst, die eine oder die mehreren Beschleunigerressourcen in Abhängigkeit von einem oder mehreren einer Ziel-Wärmeerzeugung, einer Ziel-Leistungsaufnahme oder von Ziel-Wirtschaftskosten der Auslastung der einen oder der mehreren Beschleunigerressourcen auszuwählen.
Beispiel 27 enthält den Gegenstand von einem der Beispiele 15-26, und wobei der verwaltete Knoten einer von mehreren verwalteten Knoten ist und die Arbeitslast eine von mehreren Arbeitslasten, die durch den verwalteten Knoten ausgeführt werden, ist, und wobei das Bestimmen des Bedarfs umfasst, eine Job-Warteschlange zu erstellen, die alle Jobs für alle auszuführenden Arbeitslasten angibt; einen durchschnittlicher Zeitraum zu bestimmen, den jeder Job in der Job-Warteschlange verweilt; und den Bedarf für jeden Job in Abhängigkeit von dem durchschnittlichen Zeitraum für jeden Job zu bestimmen.
Beispiel 28 enthält den Gegenstand von einem der Beispiele 15-27, und wobei das Bestimmen des Bedarfs für jeden Job des Weiteren umfasst, einen exponentiellen Mittelungsalgorithmus auf den Zeitraum anzuwenden, den jeder Job in der Job-Warteschlange verweilt.
Beispiel 29 enthält einen Orchestrator-Server, der ein Mittel zum Ausführen des Verfahrens nach einem der Beispiele 15-28 umfasst.
Beispiel 30 enthält einen Orchestrator-Server zum dynamischen Verwalten der Zuweisung von Beschleunigerressourcen, wobei der Orchestrator-Server Folgendes umfasst: einen oder mehrere Prozessoren; eine oder mehrere Speichervorrichtungen, in denen mehrere Instruktionen gespeichert sind, die, wenn sie durch den einen oder die mehreren Prozessoren ausgeführt werden, den Orchestrator-Server veranlassen, das Verfahren nach einem der Beispiele 15-28 auszuführen.
Beispiel 31 enthält eine oder mehrere maschinenlesbaren Speichermedien, auf denen mehrere Instruktionen gespeichert sind, die in Reaktion auf ihre Ausführung einen Orchestrator-Server veranlassen, das Verfahren nach einem der Beispiele 15-28 auszuführen.
Beispiel 32 enthält einen Orchestrator-Server zum dynamischen Verwalten der Zuweisung von Beschleunigerressourcen, wobei der Orchestrator-Server Ressourcenmanagerschaltungen umfasst, um: einem verwalteten Knoten eine Arbeitslast zur Ausführung zuzuweisen, einen vorhergesagten Bedarf für eine oder mehrere Beschleunigerressourcen zu bestimmen, um die Ausführung eines oder mehrerer Jobs innerhalb der Arbeitslast zu beschleunigen, vor dem vorhergesagten Bedarf eine oder mehrere Beschleunigerressourcen bereitzustellen, um den einen oder die mehreren Jobs zu beschleunigen, und dem verwalteten Knoten die eine oder die mehreren bereitgestellten Beschleunigerressourcen zuzuweisen, um die Ausführung des einen oder der mehreren Jobs zu beschleunigen.
Beispiel 33 enthält den Gegenstand von Beispiel 32, und wobei das Bestimmen des vorhergesagten Bedarfs umfasst, einen Bedarf für ein oder mehrere feldprogrammierbare Gate-Arrays (FPGAs) zu bestimmen.
Beispiel 34 enthält den Gegenstand von einem der Beispiele 32 und 33, und wobei das Bereitstellen der einen oder der mehreren Beschleunigerressourcen umfasst, an den einen oder die mehreren FPGAs einen Bit-Stream zu übermitteln, der eine Konfiguration jedes FPGA anzeigt, um die Ausführung des einen oder der mehreren Jobs zu beschleunigen.
Beispiel 35 enthält den Gegenstand von einem der Beispiele 32-34, und wobei das Bestimmen des vorhergesagten Bedarfs umfasst, die Anzahl von Beschleunigerressourcen zu bestimmen, die zugewiesen werden sollen, um den vorhergesagten Bedarf zu erfüllen.
Beispiel 36 enthält den Gegenstand von einem der Beispiele 32-35, und wobei das Bereitstellen der einen oder der mehreren Beschleunigerressourcen umfasst, eine oder mehrere Beschleunigerressourcen bereitzustellen, die sich auf einem oder mehreren Sleds befinden, die von einem Sled verschieden sind, auf dem momentan die Arbeitslast ausgeführt wird.
Beispiel 37 enthält den Gegenstand von einem der Beispiele 32-36, und wobei die Ressourcenmanagerschaltungen des Weiteren dazu dienen, einen Konfigurationszeitraum zu bestimmen, um jede der einen oder der mehreren Beschleunigerressourcen bereitzustellen; und eine vorhergesagte Zeit des vorhergesagten Bedarfs zu bestimmen; und wobei das Bereitstellen der einen oder der mehreren Beschleunigerressourcen umfasst, die Konfiguration der einen oder der mehreren Beschleunigerressourcen für eine beschleunigte Ausführung des einen oder der mehreren Jobs zu einer Zeit zu beginnen, die um mindestens den Konfigurationszeitraum vor der vorhergesagten Zeit liegt.
Beispiel 38 enthält den Gegenstand von einem der Beispiele 32-37, und wobei die Ressourcenmanagerschaltungen des Weiteren dazu dienen, den einen oder die mehreren Jobs innerhalb der Arbeitslast zu identifizieren, die mit einem oder mehreren feldprogrammierbaren Gate-Arrays (FPGAs) beschleunigt werden sollen; und jeden identifizierten Job mit einem global eindeutigen Identifikator zu verknüpfen, der eine spezielle Schnittstelle des Jobs und/oder eine Definition des Jobs angibt.
Beispiel 39 enthält den Gegenstand von einem der Beispiele 32-38, und wobei das Verknüpfen jedes identifizierten Jobs mit einem global eindeutigen Identifikator umfasst, jeden identifizierten Job mit einem global eindeutigen Identifikator zu verknüpfen, der eine Größe einer Eingabe und/oder ein Format einer Eingabe in den Job angibt.
Beispiel 40 enthält den Gegenstand von einem der Beispiele 32-39, und wobei der verwaltete Knoten einer von mehreren verwalteten Knoten ist und die Arbeitslast eine von mehreren Arbeitslasten, die durch den verwalteten Knoten ausgeführt werden, ist, und die Ressourcenmanagerschaltungen des Weiteren dazu dienen, für jede Arbeitslast eine lokale Zählung zu bestimmen, die eine Anzahl von Malen anzeigt, die ein Job in jeder Arbeitslast ausgeführt wird; eine globale Zählung zu bestimmen, die eine Anzahl von Malen anzeigt, die ein Job durch alle verwalteten Knoten ausgeführt wird; zu bestimmen, ob die lokale Zählung und/oder die globale Zählung einen Schwellenzählwert erfüllen; und in Reaktion auf eine Bestimmung, dass die lokale Zählung und/oder die globale Zählung den Schwellenzählwert erfüllen, den zugehörigen Job als einen zu beschleunigenden Job zu identifizieren.
Beispiel 41 enthält den Gegenstand von einem der Beispiele 32-40, und wobei die Ressourcenmanagerschaltungen des Weiteren dazu dienen, unter mehreren Beschleunigerressourcen die eine oder die mehreren Beschleunigerressourcen zu identifizieren, um den einen oder die mehreren Jobs zu beschleunigen.
Beispiel 42 enthält den Gegenstand von einem der Beispiele 32-41, und wobei das Identifizieren der einen oder der mehreren Beschleunigerressourcen umfasst zu bestimmen, ob eine oder mehrere der Beschleunigerressourcen bereits dafür konfiguriert sind, einen oder mehrere der Jobs auszuführen; und in Reaktion auf eine Bestimmung, dass eine oder mehrere der Beschleunigerressourcen bereits dafür konfiguriert sind, einen oder mehrere der Jobs auszuführen, die eine oder die mehreren bereits konfigurierten Beschleunigerressourcen zur Beschleunigung des einen oder der mehreren Jobs auszuwählen.
Beispiel 43 enthält den Gegenstand von einem der Beispiele 32-42, und wobei das Identifizieren des einen oder der mehreren Beschleunigerressourcen umfasst, die eine oder die mehreren Beschleunigerressourcen in Abhängigkeit von einem oder mehreren einer Ziel-Wärmeerzeugung, einer Ziel-Leistungsaufnahme oder von Ziel-Wirtschaftskosten der Auslastung der einen oder der mehreren Beschleunigerressourcen auszuwählen.
Beispiel 44 enthält den Gegenstand von einem der Beispiele 32-43, und wobei der verwaltete Knoten einer von mehreren verwalteten Knoten ist und die Arbeitslast eine von mehreren Arbeitslasten, die durch den verwalteten Knoten ausgeführt werden, ist, und wobei das Bestimmen des Bedarfs umfasst, eine Job-Warteschlange zu erstellen, die alle Jobs für alle auszuführenden Arbeitslasten angibt; einen durchschnittlichen Zeitraum zu bestimmen, den jeder Job in der Job-Warteschlange verweilt; und den Bedarf für jeden Job in Abhängigkeit von dem durchschnittlichen Zeitraum für jeden Job zu bestimmen.
Beispiel 45 enthält den Gegenstand von einem der Beispiele 32-44, und wobei das Bestimmen des Bedarfs für jeden Job des Weiteren umfasst, einen exponentiellen Mittelungsalgorithmus auf den Zeitraum anzuwenden, den jeder Job in der Job-Warteschlange verweilt.
Beispiel 46 enthält einen Orchestrator-Server zum dynamischen Verwalten der Zuweisung von Beschleunigerressourcen, wobei der Orchestrator-Server Folgendes umfasst: Schaltungen, um einem verwalteten Knoten eine Arbeitslast zur Ausführung zuzuweisen; ein Mittel, um einen vorhergesagten Bedarf für eine oder mehrere Beschleunigerressourcen zu bestimmen, um die Ausführung eines oder mehrerer Jobs innerhalb der Arbeitslast zu beschleunigen; Schaltungen zum Bereitstellen, durch den Orchestrator-Server und vor dem vorhergesagten Bedarf, einer oder mehrerer Beschleunigerressourcen, um den einen oder die mehreren Jobs zu beschleunigen; und Schaltungen zum Zuweisen der einen oder der mehreren bereitgestellten Beschleunigerressourcen zu den verwalteten Knoten, um die Ausführung des einen oder der mehreren Jobs zu beschleunigen.
Beispiel 47 enthält den Gegenstand von Beispiel 46, und wobei das Mittel zum Bestimmen des vorhergesagten Bedarfs ein Mittel umfasst, um einen Bedarf für ein oder mehrere feldprogrammierbare Gate-Arrays (FPGAs) zu bestimmen.
Beispiel 48 enthält den Gegenstand von einem der Beispiele 46 und 47, und wobei die Schaltungen zum Bereitstellen der einen oder der mehreren Beschleunigerressourcen Schaltungen umfassen, um an den einen oder die mehreren FPGAs einen Bit-Stream zu übermitteln, der eine Konfiguration jedes FPGA anzeigt, um die Ausführung des einen oder der mehreren Jobs zu beschleunigen.
Beispiel 49 enthält den Gegenstand von einem der Beispiele 46-48, und wobei das Mittel zum Bestimmen des vorhergesagten Bedarfs ein Mittel umfasst, um die Anzahl der Beschleunigerressourcen zu bestimmen, die zugewiesen werden sollen, um den vorhergesagten Bedarf zu erfüllen.
Beispiel 50 enthält den Gegenstand von einem der Beispiele 46-49, und wobei die Schaltungen zum Bereitstellen der einen oder der mehreren Beschleunigerressourcen Schaltungen umfassen, um eine oder mehrere Beschleunigerressourcen bereitzustellen, die sich auf einem oder mehreren Sleds befinden, die von einem Sled verschieden sind, auf dem momentan die Arbeitslast ausgeführt wird.
Beispiel 51 enthält den Gegenstand von einem der Beispiele 46-50, und enthält des Weiteren Schaltungen, um einen Konfigurationszeitraum zu bestimmen, um jede der einen oder der mehreren Beschleunigerressourcen bereitzustellen; und ein Mittel zum Bestimmen einer vorhergesagten Zeit des vorhergesagten Bedarfs; und wobei die Schaltungen zum Bereitstellen der einen oder der mehreren Beschleunigerressourcen Schaltungen umfassen, um die Konfiguration der einen oder der mehreren Beschleunigerressourcen für eine beschleunigte Ausführung des einen oder der mehreren Jobs zu einer Zeit zu beginnen, die um mindestens den Konfigurationszeitraum vor der vorhergesagten Zeit liegt.
Beispiel 52 enthält den Gegenstand von einem der Beispiele 46-51, und enthält des Weiteren ein Mittel, um den einen oder die mehreren Jobs innerhalb der Arbeitslast zu identifizieren, die mit einem oder mehreren feldprogrammierbaren Gate-Arrays (FPGAs) beschleunigt werden sollen; und Schaltungen zum Verknüpfen jedes identifizierten Jobs mit einem global eindeutigen Identifikator, der eine spezielle Schnittstelle des Jobs und/oder eine Definition des Jobs angibt.
Beispiel 53 enthält den Gegenstand von einem der Beispiele 46-52, und wobei die Schaltungen zum Verknüpfen jedes identifizierten Jobs mit einem global eindeutigen Identifikator Schaltungen zum Verknüpfen jedes identifizierten Jobs mit einem global eindeutigen Identifikator umfassen, der eine Größe einer Eingabe und/oder ein Format einer Eingabe in den Job angibt.
Beispiel 54 enthält den Gegenstand von einem der Beispiele 46-53, und wobei der verwaltete Knoten einer von mehreren verwalteten Knoten ist und die Arbeitslast eine von mehreren Arbeitslasten, die durch den verwalteten Knoten ausgeführt werden, ist, wobei der Orchestrator-Server des Weiteren Folgendes umfasst: Schaltungen, um für jede Arbeitslast eine lokale Zählung zu bestimmen, die eine Anzahl von Malen anzeigt, die ein Job in jeder Arbeitslast ausgeführt wird; Schaltungen, um eine globale Zählung zu bestimmen, die eine Anzahl von Malen anzeigt, die ein Job durch alle verwalteten Knoten ausgeführt wird; Schaltungen zum Bestimmen, ob die lokale Zählung und/oder die globale Zählung einen Schwellenzählwert erfüllen; und Schaltungen zum Identifizieren, in Reaktion auf eine Bestimmung, dass die lokale Zählung und/oder die globale Zählung den Schwellenzählwert erfüllt, des zugehörigen Jobs als einen zu beschleunigenden Job.
Beispiel 55 enthält den Gegenstand von einem der Beispiele 46-54, und enthält des Weiteren Schaltungen, um unter mehreren Beschleunigerressourcen die eine oder die mehreren Beschleunigerressourcen zu identifizieren, um den einen oder die mehreren Jobs zu beschleunigen.
Beispiel 56 enthält den Gegenstand von einem der Beispiele 46-55, und wobei die Schaltungen zum Identifizieren der einen oder der mehreren Beschleunigerressourcen Schaltungen umfassen, um zu bestimmen, ob eine oder mehrere der Beschleunigerressourcen bereits dafür konfiguriert sind, einen oder mehrere der Jobs auszuführen, wobei der Orchestrator-Server des Weiteren Folgendes umfasst: Schaltungen zum Auswählen, in Reaktion auf eine Bestimmung, dass eine oder mehrere der Beschleunigerressourcen bereits dafür konfiguriert sind, einen oder mehrere der Jobs auszuführen, der einen oder der mehreren bereits konfigurierten Beschleunigerressourcen zur Beschleunigung des einen oder der mehreren Jobs.
Beispiel 57 enthält den Gegenstand von einem der Beispiele 46-56, und wobei die Schaltungen zum Identifizieren der einen oder der mehreren Beschleunigerressourcen Schaltungen umfassen, um die eine oder die mehreren Beschleunigerressourcen in Abhängigkeit von einem oder mehreren einer Ziel-Wärmeerzeugung, einer Ziel-Leistungsaufnahme oder von Ziel-Wirtschaftskosten der Auslastung der einen oder der mehreren Beschleunigerressourcen auszuwählen.
Beispiel 58 enthält den Gegenstand von einem der Beispiele 46-57, und wobei der verwaltete Knoten einer von mehreren verwalteten Knoten ist und die Arbeitslast eine von mehreren Arbeitslasten, die durch den verwalteten Knoten ausgeführt werden, ist, und wobei das Mittel zum Bestimmen des Bedarfs Folgendes umfasst: Schaltungen, um eine Job-Warteschlange zu erstellen, die alle Jobs für alle auszuführenden Arbeitslasten angibt; Schaltungen, um einen durchschnittlichen Zeitraum zu bestimmen, den jeder Job in der Job-Warteschlange verweilt; und Schaltungen zum Bestimmen des Bedarfs für jeden Job in Abhängigkeit von dem durchschnittlichen Zeitraum für jeden Job.
Beispiel 59 enthält den Gegenstand von einem der Beispiele 46-58, und wobei das Mittel zum Bestimmen des Bedarfs für jeden Job des Weiteren Schaltungen umfasst, um einen exponentiellen Mittelungsalgorithmus auf den Zeitraum anzuwenden, den jeder Job in der Job-Warteschlange verweilt.
ZITATE ENTHALTEN IN DER BESCHREIBUNG
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
Zitierte Patentliteratur

US 62365969 [0001]
US 62376859 [0001]
US 62/427268 [0001]

Claims

Orchestrator-Server zum dynamischen Verwalten der Zuweisung von Beschleunigerressourcen, wobei der Orchestrator-Server Folgendes umfasst: einen oder mehrere Prozessoren; eine oder mehrere Speichervorrichtungen, in denen mehrere Instruktionen gespeichert sind, die, wenn sie durch den einen oder die mehreren Prozessoren ausgeführt werden, den Orchestrator-Server veranlassen: einem verwalteten Knoten eine Arbeitslast zur Ausführung zuzuweisen; einen vorhergesagten Bedarf für eine oder mehrere Beschleunigerressourcen zu bestimmen, um die Ausführung eines oder mehrerer Jobs innerhalb der Arbeitslast zu beschleunigen; vor dem vorhergesagten Bedarf eine oder mehrere Beschleunigerressourcen bereitzustellen, um den einen oder die mehreren Jobs zu beschleunigen; und dem verwalteten Knoten die eine oder die mehreren bereitgestellten Beschleunigerressourcen zuzuweisen, um die Ausführung des einen oder der mehreren Jobs zu beschleunigen.
Orchestrator-Server nach Anspruch 1, wobei das Bestimmen des vorhergesagten Bedarfs umfasst, einen Bedarf für ein oder mehrere feldprogrammierbare Gate-Arrays (FPGAs) zu bestimmen.
Orchestrator-Server nach Anspruch 2, wobei das Bereitstellen der einen oder der mehreren Beschleunigerressourcen umfasst, an den einen oder die mehreren FPGAs einen Bit-Stream zu übermitteln, der eine Konfiguration jedes FPGA anzeigt, um die Ausführung des einen oder der mehreren Jobs zu beschleunigen.
Orchestrator-Server nach Anspruch 1, wobei das Bestimmen des vorhergesagten Bedarfs umfasst, die Anzahl von Beschleunigerressourcen zu bestimmen, die zugewiesen werden sollen, um den vorhergesagten Bedarf zu erfüllen.
Orchestrator-Server nach Anspruch 1, wobei das Bereitstellen der einen oder der mehreren Beschleunigerressourcen umfasst, eine oder mehrere Beschleunigerressourcen bereitzustellen, die sich auf einem oder mehreren Sleds befinden, die von einem Sled verschieden sind, auf dem momentan die Arbeitslast ausgeführt wird.
Orchestrator-Server nach Anspruch 1, wobei die mehreren Instruktionen, wenn sie ausgeführt werden, den Orchestrator-Server außerdem veranlassen: einen Konfigurationszeitraum zu bestimmen, um jede der einen oder der mehreren Beschleunigerressourcen bereitzustellen; und eine vorhergesagte Zeit des vorhergesagten Bedarfs zu bestimmen; und wobei das Bereitstellen der einen oder der mehreren Beschleunigerressourcen umfasst, die Konfiguration der einen oder der mehreren Beschleunigerressourcen für eine beschleunigte Ausführung des einen oder der mehreren Jobs zu einer Zeit zu beginnen, die um mindestens den Konfigurationszeitraum vor der vorhergesagten Zeit liegt.
Orchestrator-Server nach Anspruch 1, wobei die mehreren Instruktionen, wenn sie ausgeführt werden, den Orchestrator-Server außerdem veranlassen: einen oder mehrere Jobs innerhalb der Arbeitslast zu identifizieren, die mit einem oder mehreren feldprogrammierbaren Gate-Arrays (FPGAs) beschleunigt werden sollen; und jeden identifizierten Job mit einem global eindeutigen Identifikator zu verknüpfen, der eine spezielle Schnittstelle des Jobs und/oder eine Definition des Jobs angibt.
Orchestrator-Server nach Anspruch 7, wobei das Verknüpfen jedes identifizierten Jobs mit einem global eindeutigen Identifikator umfasst, jeden identifizierten Job mit einem global eindeutigen Identifikator zu verknüpfen, der eine Größe einer Eingabe und/oder ein Format einer Eingabe in den Job angibt.
Orchestrator-Server nach Anspruch 1, wobei der verwaltete Knoten einer von mehreren verwalteten Knoten ist und die Arbeitslast eine von mehreren Arbeitslasten, die durch den verwalteten Knoten ausgeführt werden, ist, und die mehreren Instruktionen, wenn sie ausgeführt werden, den Orchestrator-Server außerdem veranlassen: für jede Arbeitslast eine lokale Zählung zu bestimmen, die eine Anzahl von Malen anzeigt, die ein Job in jeder Arbeitslast ausgeführt wird; eine globale Zählung zu bestimmen, die eine Anzahl von Malen anzeigt, die ein Job durch alle verwalteten Knoten ausgeführt wird; zu bestimmen, ob die lokale Zählung und/oder die globale Zählung einen Schwellenzählwert erfüllen; und in Reaktion auf eine Bestimmung, dass die lokale Zählung und/oder die globale Zählung den Schwellenzählwert erfüllt, den zugehörigen Job als einen zu beschleunigenden Job zu identifizieren.
Orchestrator-Server nach Anspruch 9, wobei die mehreren Instruktionen, wenn sie ausgeführt werden, den Orchestrator-Server außerdem veranlassen, unter mehreren Beschleunigerressourcen die eine oder die mehreren Beschleunigerressourcen zu identifizieren, um den einen oder die mehreren Jobs zu beschleunigen.
Orchestrator-Server nach Anspruch 10, wobei das Identifizieren der einen oder der mehreren Beschleunigerressourcen umfasst zu bestimmen, ob eine oder mehrere der Beschleunigerressourcen bereits dafür konfiguriert sind, einen oder mehrere der Jobs auszuführen; und in Reaktion auf eine Bestimmung, dass eine oder mehrere der Beschleunigerressourcen bereits dafür konfiguriert sind, einen oder mehrere der Jobs auszuführen, die eine oder die mehreren bereits konfigurierten Beschleunigerressourcen zur Beschleunigung des einen oder der mehreren Jobs auszuwählen.
Orchestrator-Server nach Anspruch 10, wobei das Identifizieren der einen oder der mehreren Beschleunigerressourcen umfasst, die eine oder die mehreren Beschleunigerressourcen in Abhängigkeit von einem oder mehreren einer Ziel-Wärmeerzeugung, einer Ziel-Leistungsaufnahme oder von Ziel-Wirtschaftskosten der Auslastung der einen oder der mehreren Beschleunigerressourcen auszuwählen.
Verfahren zum dynamischen Verwalten der Zuweisung von Beschleunigerressourcen, wobei das Verfahren Folgendes umfasst: Zuweisen, durch einen Orchestrator-Server, einer Arbeitslast an einen verwalteten Knoten zur Ausführung; Bestimmen, durch den Orchestrator-Server, eines vorhergesagten Bedarfs für eine oder mehrere Beschleunigerressourcen, um die Ausführung eines oder mehrerer Jobs innerhalb der Arbeitslast zu beschleunigen; Bereitstellen, durch den Orchestrator-Server und vor dem vorhergesagten Bedarf, einer oder mehrerer Beschleunigerressourcen, um den einen oder die mehreren Jobs zu beschleunigen; und Zuweisen, durch den Orchestrator-Server, der einen oder der mehreren bereitgestellten Beschleunigerressourcen zu den verwalteten Knoten, um die Ausführung des einen oder der mehreren Jobs zu beschleunigen.
Verfahren nach Anspruch 13, wobei das Bestimmen des vorhergesagten Bedarfs umfasst, einen Bedarf für ein oder mehrere feldprogrammierbare Gate-Arrays (FPGAs) zu bestimmen.
Verfahren nach Anspruch 14, wobei das Bereitstellen der einen oder der mehreren Beschleunigerressourcen umfasst, an den einen oder die mehreren FPGAs einen Bit-Stream zu übermitteln, der eine Konfiguration jedes FPGA anzeigt, um die Ausführung des einen oder der mehreren Jobs zu beschleunigen.
Verfahren nach Anspruch 13, wobei das Bestimmen des vorhergesagten Bedarfs umfasst, die Anzahl von Beschleunigerressourcen zu bestimmen, die zugewiesen werden sollen, um den vorhergesagten Bedarf zu erfüllen.
Verfahren nach Anspruch 13, wobei das Bereitstellen der einen oder der mehreren Beschleunigerressourcen das Bereitstellen einer oder mehrerer Beschleunigerressourcen umfasst, die sich auf einem oder mehreren Sleds befinden, die von einem Sled verschieden sind, auf dem momentan die Arbeitslast ausgeführt wird.
Verfahren nach Anspruch 13, das des Weiteren Folgendes umfasst: Bestimmen, durch den Orchestrator-Server, eines Konfigurationszeitraums, um jede der einen oder der mehreren Beschleunigerressourcen bereitzustellen; und Bestimmen, durch den Orchestrator-Server, einer vorhergesagten Zeit des vorhergesagten Bedarfs; und wobei das Bereitstellen der einen oder der mehreren Beschleunigerressourcen umfasst, die Konfiguration der einen oder der mehreren Beschleunigerressourcen für eine beschleunigte Ausführung des einen oder der mehreren Jobs zu einer Zeit zu beginnen, die um mindestens den Konfigurationszeitraum vor der vorhergesagten Zeit liegt.
Verfahren nach Anspruch 13, das des Weiteren Folgendes umfasst: Identifizieren, durch den Orchestrator-Server, eines oder mehrerer Jobs innerhalb der Arbeitslast, die mit einem oder mehreren feldprogrammierbaren Gate-Arrays (FPGAs) beschleunigt werden sollen; und Verknüpfen, durch den Orchestrator-Server, jedes identifizierten Jobs mit einem global eindeutigen Identifikator, der eine spezielle Schnittstelle des Jobs und/oder eine Definition des Jobs angibt.
Verfahren nach Anspruch 19, wobei das Verknüpfen jedes identifizierten Jobs mit einem global eindeutigen Identifikator das Verknüpfen jedes identifizierten Jobs mit einem global eindeutigen Identifikator umfasst, der eine Größe einer Eingabe und/oder ein Format einer Eingabe in den Job angibt.
Verfahren nach Anspruch 13, wobei der verwaltete Knoten einer von mehreren verwalteten Knoten ist und die Arbeitslast eine von mehreren Arbeitslasten, die durch den verwalteten Knoten ausgeführt werden, ist, wobei das Verfahren des Weiteren Folgendes umfasst: Bestimmen, durch den Orchestrator-Server und für jede Arbeitslast, einer lokalen Zählung, die eine Anzahl von Malen anzeigt, die ein Job in jeder Arbeitslast ausgeführt wird; Bestimmen, durch den Orchestrator-Server, einer globalen Zählung, die eine Anzahl von Malen anzeigt, die ein Job durch alle verwalteten Knoten ausgeführt wird; Bestimmen, durch den Orchestrator-Server, ob die lokale Zählung und/oder die globale Zählung einen Schwellenzählwert erfüllen; und Identifizieren, durch den Orchestrator-Server und in Reaktion auf eine Bestimmung, dass die lokale Zählung und/oder die globale Zählung den Schwellenzählwert erfüllen, des zugehörigen Jobs als einen zu beschleunigenden Job.
Verfahren nach Anspruch 21, das des Weiteren umfasst, durch den Orchestrator-Server und unter mehreren Beschleunigerressourcen, die eine oder die mehreren Beschleunigerressourcen zu identifizieren, um den einen oder die mehreren Jobs zu beschleunigen.
Verfahren nach Anspruch 22, wobei das Identifizieren der einen oder der mehreren Beschleunigerressourcen das Bestimmen umfasst, ob eine oder mehrere der Beschleunigerressourcen bereits dafür konfiguriert sind, einen oder mehrere der Jobs auszuführen, wobei das Verfahren des Weiteren Folgendes umfasst: Auswählen, durch den Orchestrator-Server in Reaktion auf eine Bestimmung, dass eine oder mehrere der Beschleunigerressourcen bereits dafür konfiguriert sind, einen oder mehrere der Jobs auszuführen, der einen oder der mehreren bereits konfigurierten Beschleunigerressourcen zur Beschleunigung des einen oder der mehreren Jobs.
Maschinenlesbares Speichermedium oder mehrere maschinenlesbare Speichermedien, auf denen mehrere Instruktionen gespeichert sind, die in Reaktion auf ihre Ausführung einen Orchestrator-Server veranlassen, das Verfahren nach einem der Ansprüche 13-23 auszuführen.
Orchestrator-Server zum dynamischen Verwalten der Zuweisung von Beschleunigerressourcen, wobei der Orchestrator-Server Folgendes umfasst: einen oder mehrere Prozessoren; eine oder mehrere Speichervorrichtungen, in denen mehrere Instruktionen gespeichert sind, die, wenn sie durch den einen oder die mehreren Prozessoren ausgeführt werden, den Orchestrator-Server veranlassen, das Verfahren nach einem der Ansprüche 13-23 auszuführen.