-
GEBIET
-
Mindestens eine Ausführungsform betrifft Systeme zum Leistungsausgleich in Rechenzentren. Mindestens eine Ausführungsform bezieht sich beispielsweise auf Konfigurationen von Rechenzentren mit Leistungsausgleich auf der Grundlage von verschmolzenen Parametern.
-
ALLGEMEINER STAND DER TECHNIK
-
In Computing-Umgebungen wie Datenzentren können Racks aus unterschiedlichen Subsystemen gebildet werden. Racks können einer Vielzahl von Beschränkungen unterliegen, wie z. B. Temperaturbeschränkungen, Leistungsbeschränkungen und anderen. Diese Beschränkungen können von Rack zu Rack unterschiedlich sein, da die Subsysteme, die die Racks bilden, unterschiedliche Betriebsbedingungen aufweisen. Wenn Verarbeitungsaufträge einem Rechenzentrum zugewiesen werden, kann es wünschenswert sein, verschiedene Teilmenge von Racks oder Subsystemen auszuwählen, um Aufträge effizient zu verarbeiten oder innerhalb der durch Aufträge auferlegten Einschränkungen zu bleiben, was aufgrund variabler Konfigurationen innerhalb von Racks eine Herausforderung darstellt.
-
Figurenliste
-
- 1A veranschaulicht ein Rechenzentrum gemäß mindestens einer Ausführungsform;
- 1B veranschaulicht ein Rack in einem Rechenzentrum gemäß mindestens einer Ausführungsform;
- 1C veranschaulicht eine Rechenzentrumstopologie gemäß mindestens einer Ausführungsform;
- 2 veranschaulicht eine Rechenzentrumsumgebung gemäß mindestens einer Ausführungsform;
- 3A veranschaulicht einen Prozess zur Auswahl von Recheneinheiten gemäß mindestens einer Ausführungsform;
- 3B veranschaulicht einen Prozess zur Auswahl von Recheneinheiten gemäß mindestens einer Ausführungsform;
- 4 veranschaulicht einen Prozess zum Zuweisen von Recheneinheiten für die Ausführung einer Aufgabe, gemäß mindestens einer Ausführungsform;
- 5 veranschaulicht einen Prozess zur Auswahl von Betriebsparametern für Recheneinheiten gemäß mindestens einer Ausführungsform;
- 6 veranschaulicht ein verteiltes System gemäß mindestens einer Ausführungsform;
- 7 veranschaulicht ein beispielhaftes Rechenzentrum gemäß mindestens einer Ausführungsform;
- 8 veranschaulicht ein Client-Server-Netzwerk gemäß mindestens einer Ausführungsform;
- 9 veranschaulicht ein Computernetzwerk gemäß mindestens einer Ausführungsform;
- 10A veranschaulicht ein vernetztes Computersystem gemäß mindestens einer Ausführungsform;
- 10B veranschaulicht ein vernetztes Computersystem gemäß mindestens einer Ausführungsform;
- 10C veranschaulicht ein vernetztes Computersystem gemäß mindestens einer Ausführungsform;
- 11 veranschaulicht eine oder mehrere Komponenten einer Systemumgebung, in der Dienste als Drittanbieter-Netzwerkdienste angeboten werden können, gemäß mindestens einer Ausführungsform;
- 12 veranschaulicht eine Cloud-Computing-Umgebung gemäß mindestens einer Ausführungsform;
- 13 veranschaulicht einen Satz funktionaler Abstraktionsschichten, der durch eine Cloud-Computing-Umgebung bereitgestellt wird, gemäß mindestens einer Ausführungsform;
- 14 veranschaulicht einen Supercomputer auf Chipebene gemäß mindestens einer Ausführungsform;
- 15 veranschaulicht einen Supercomputer auf Rack-Modulebene gemäß mindestens einer Ausführungsform;
- 16 veranschaulicht einen Supercomputer auf Rack-Ebene gemäß mindestens einer Ausführungsform.
- 17 veranschaulicht einen Supercomputer auf Gesamtsystemebene gemäß mindestens einer Ausführungsform.
- 18A veranschaulicht Inferenz- und/oder Trainingslogik gemäß mindestens einer Ausführungsform;
- 18B veranschaulicht Inferenz- und/oder Trainingslogik gemäß mindestens einer Ausführungsform;
- 19 veranschaulicht das Training und den Einsatz eines neuronalen Netzes gemäß mindestens einer Ausführungsform;
- 20 veranschaulicht eine Architektur eines Systems eines Netzwerks gemäß mindestens einer Ausführungsform;
- 21 veranschaulicht eine Architektur eines Systems eines Netzwerks gemäß mindestens einer Ausführungsform;
- 22 veranschaulicht einen Protokollstapel auf Steuerebene gemäß mindestens einer Ausführungsform;
- 23 veranschaulicht einen Protokollstapel auf Benutzerebene gemäß mindestens einer Ausführungsform;
- 24 veranschaulicht Komponenten eines Kernnetzwerks gemäß mindestens einer Ausführungsform;
- 25 veranschaulicht Komponenten eines Systems zum Unterstützen von Netzwerkfunktionsvirtualisierung (NFV) gemäß mindestens einer Ausführungsform;
- 26 veranschaulicht ein Verarbeitungssystem gemäß mindestens einer Ausführungsform;
- 27 veranschaulicht ein Computersystem gemäß mindestens einer Ausführungsform;
- 28 veranschaulicht ein System gemäß mindestens einer Ausführungsform;
- 29 veranschaulicht eine beispielhafte integrierte Schaltung gemäß mindestens einer Ausführungsform;
- 30 veranschaulicht ein Rechensystem gemäß mindestens einer Ausführungsform;
- 31 veranschaulicht eine APU gemäß mindestens einer Ausführungsform;
- 32 veranschaulicht eine CPU gemäß mindestens einer Ausführungsform;
- 33 veranschaulicht ein beispielhaftes Beschleunigerintegrations-Slice gemäß mindestens einer Ausführungsform;
- Die 34A-34B veranschaulichen beispielhafte Grafikprozessoren gemäß mindestens einer Ausführungsform;
- 35A veranschaulicht einen Grafikkern gemäß mindestens einer Ausführungsform;
- 35B veranschaulicht eine GPGPU gemäß mindestens einer Ausführungsform,
- 36A veranschaulicht einen Parallelprozessor gemäß mindestens einer Ausführungsform;
- 36B veranschaulicht einen Verarbeitungs-Cluster gemäß mindestens einer Ausführungsform;
- 36C veranschaulicht einen Grafikmultiprozessor gemäß mindestens einer Ausführungsform;
- 37 veranschaulicht einen Softwarestapel einer Programmierplattform gemäß mindestens einer Ausführungsform.
- 38 veranschaulicht eine CUDA-Implementierung eines Softwarestapel der 37 gemäß mindestens einer Ausführungsform;
- 39 veranschaulicht eine ROCm-Implementierung eines Softwarestapels der 37 gemäß mindestens einer Ausführungsform;
- 40 veranschaulicht eine OpenCL-Implementierung eines Softwarestapels der 37 gemäß mindestens einer Ausführungsform;
- 41 veranschaulicht Software, die durch eine Programmierplattform unterstützt wird, gemäß mindestens einer Ausführungsform;
- 42 veranschaulicht das Kompilieren von Code zum Ausführen auf Programmierplattformen der 37-40 gemäß mindestens einer Ausführungsform.
-
DETAILLIERTE BESCHREIBUNG
-
In mindestens einer Ausführungsform kann eine Computing-Umgebung eine Vielzahl von Rechenvorrichtungen und Steuersystemen einschließen, wie in dem in 1A Rechenzentrum 100 veranschaulicht. In mindestens einer Ausführungsform kann es sich bei dem Rechenzentrum 100 um einen oder mehrere Räume 102 mit Racks 104 und Zusatzausrüstung handeln, die verwendet werden, um einen oder mehrere Server auf einem oder mehreren Serverfächern unterzubringen. In mindestens einer Ausführungsform wird das Rechenzentrum 100 von verschiedenen Kühlsystemen unterstützt, wie etwa Kühltürmen, Kühlschleifen, Pumpen und anderen Unterstützungssystemen. In mindestens einer Ausführungsform können Kühlsysteme Sensoren und Steuerungen einschließen, um die Kühleigenschaften für die Racks 104 zu überwachen und zu verwalten. In mindestens einer Ausführungsform erhalten die Basisplatinen 104 in den Racks 104 Betriebsstrom von einer oder mehreren Energieverteilungseinheiten (PDUs) 108. In mindestens einer Ausführungsform können die PDUs 108 in den Racks 104 angeordnet sein, zum Beispiel zwischen den Racks 104 einschließlich der Basisplatinen 106 oder innerhalb der Racks 104, die auch die Basisplatinen 106 beherbergen.
-
In mindestens einer Ausführungsform schließen die Racks 104 und die Basisplatinen 106 Subsysteme, Module, Zusatzkarten und andere Halbleiterkomponenten ein. In mindestens einer Ausführungsform schließen die Basisplatinen 106 einen festgelegten Satz von Recheneinheiten ein. In mindestens einer Ausführungsform schließen die zugehörigen Recheneinheiten Grafikverarbeitungseinheiten (graphics processing unit - GPU), Switches, Dual-Inline-Speichermodulen (dual inline memory module - DIMM) oder zentralen Verarbeitungseinheiten (central processing unit - CPU) ein. In mindestens einer Ausführungsform kann eine zugehörige Rechen- oder Rechenzentrumsvorrichtung eine Verarbeitungskarte mit einer oder mehreren GPU, Switches oder CPUs einschließen.In mindestens einer Ausführungsform kann jede dieser GPUs, Schalter und CPUs ein Wärme erzeugendes oder Strom verbrauchendes Merkmal sein. In mindestens einer Ausführungsform kann diese GPU, CPU oder dieser Switch einen oder mehrere Kerne haben. In mindestens einer Ausführungsform haben einzelne Recheneinheiten, die Basisplatinen 106 bilden, aufgrund von Herstellungsvorgängen unterschiedliche Eigenschaften. In mindestens einer Ausführungsform arbeiten die Basisplatinen 106 und anschließend die Racks 104 auf der Grundlage von Leistungseigenschaften einzelner Recheneinheiten.
-
In mindestens einer Ausführungsform kann das Rack 104 wie in 1B veranschaulicht verwendet werden. In mindestens einer Ausführungsform schließt das Rack 104 ein Gehäuse 110 ein, das einzelne Basisplatinen 112 aufnimmt und stützt. In mindestens einer Ausführungsform schließt das Rack 104 ungefähr 34 Basisplatinen 112 ein, aber es können mehr oder weniger eingeschlossen sein. In mindestens einer Ausführungsform können Betriebsaspekte des Racks 104 unter anderen Optionen auf einer Rack-Ebene entsprechend einer Summe von Basisplatten 112 oder auf einer Basisplattenebene entsprechend einzelnen Basisplatten 112 reguliert werden. In mindestens einer Ausführungsform haben das Rack 104 oder die Basisplatinen 112 besonders ausgewählte maximale Betriebsparameter, wie z. B. Stromverbrauch, Betriebsfrequenzen und andere. In mindestens einer Ausführungsform wird der Energieverbrauch der Basisplatine durch Summieren des Energieverbrauchs für einzelne Recheneinheiten 114 bestimmt, die die Basisplatinen 112 bilden.
-
In mindestens einer Ausführungsform variiert der Energieverbrauch der Basisplatine basierend auf einer oder mehreren Recheneinheiten 114. In mindestens einer Ausführungsform schließen die Basisplatinen 112 vier Recheneinheiten 114 ein, können aber mehr oder weniger Recheneinheiten 114 beinhalten. In mindestens einer Ausführungsform können unterschiedliche Recheneinheiten 114 unterschiedliche Energieverbrauchsqualitäten basierend auf ihren Herstellungstoleranzen aufweisen. In mindestens einer Ausführungsform stellt eine Stromversorgung 116 dem Rack 104 Betriebsleistung bereit, die an die Basisplatinen 112 und die Recheneinheiten 114 übertragen wird.
-
In mindestens einer Ausführungsform wird der Energieverbrauch zumindest teilweise durch eine Betriebsfrequenz der Recheneinheiten 114 beeinflusst. In mindestens einer Ausführungsform wird der Energieverbrauch zumindest teilweise durch andere Betriebsparameter beeinflusst, wie etwa unter anderem Temperatur und Arbeitslast. In mindestens einer Ausführungsform kann die Betriebsfrequenz für einzelne Recheneinheiten 114 angepasst werden, die die Basisplatinen 112 bilden, wobei jede Recheneinheit 114, die die Basisplatine 112 bildet, mit einer gemeinsamen Betriebsfrequenz arbeitet. In mindestens einer Ausführungsform kann ein Leistungskoeffizient für jede Recheneinheit 114 mit jeder Recheneinheit 114 verschmolzen werden und eine Steuerung kann Leistungskoeffizienten lesen und dann eine Betriebsfrequenz für eine Grundplatine oder ein Rack berechnen. In mindestens einer Ausführungsform ermöglicht ein verschmolzener Leistungskoeffizient, dass jede Recheneinheit 114 durch eine einzelne Leistungszahl oder ein einzelnes Leistungsmodell dargestellt wird, das für Vorgänge über mehrere Anwendungen oder Leistungsknoten hinweg repräsentativ ist, wo einzelne Recheneinheiten 114 angepasst werden können. In mindestens einer Ausführungsform liest eine Steuerung der Basisplatine 118 jeweilige Leistungskoeffizienten und berechnet unter Verwendung einer Frequenzfunktion die Gesamtleistung der Basisplatine 112. Wenn die Gesamtleistung der Basisplatine kleiner als ein Leistungsbudget der Basisplatine ist, bewirkt die Steuerung 118 in mindestens einer Ausführungsform, dass die Frequenz hochskaliert wird, oder stellt Informationen bezüglich aktueller Betriebsparameter im Vergleich zu geschätzten Betriebsparametern bereit. In mindestens einer Ausführungsform ermöglichen verschmolzene Leistungskoeffizienten einen Leistungsausgleich über die Basisplatinen 112. In mindestens einer Ausführungsform kann eine Racksteuerung 120 den Betrieb des Racks 104 verwalten, wie etwa das Steuern der Stromverteilung oder das Anpassen der Betriebsparameter des Racks 104. In mindestens einer Ausführungsform kann eine berechnete Betriebsfrequenz bestimmt werden, ohne Betriebsleistung an die Basisplatine 112 anzulegen. In mindestens einer Ausführungsform kann eine berechnete Betriebsfrequenz bestimmt werden, indem eine Schwellenmenge an Betriebsleistung angewendet wird, um es einer oder mehreren Steuerungen zu ermöglichen, verschmolzene Leistungskoeffizienten der Recheneinheiten 114 zu lesen. In mindestens einer Ausführungsform ist das Bestimmen einer Betriebsfrequenz ein iterativer Prozess, bei dem die Steuerung 118 einen ersten Energieverbrauch der Basisplatine bei einer ersten Frequenz berechnet und dann einen zweiten Energieverbrauch der Basisplatine bei einer zweiten Frequenz berechnet, wenn ein erster Energieverbrauch der Basisplatine unter einem Schwellenwert liegt. In mindestens einer Ausführungsform werden auch zusätzliche Betriebsparameter berücksichtigt, wie beispielsweise eine Recheneinheitstemperatur, eine Recheneinheitsauslastung, unter anderem. In mindestens einer Ausführungsform kann die Steuerung 118 verschiedene Frequenzen als eine Funktion verschiedener anderer Parameter durchschleifen, um eine Betriebsfrequenz zu bestimmen. In mindestens einer Ausführungsform wird die Frequenz für unterschiedliche Arbeitslasten bei unterschiedlichen Temperaturen bewertet. In mindestens einer Ausführungsform kann die Steuerung 118 kontinuierlich einen Basisplatinen-Energieverbrauch berechnen, bis der Energieverbrauch innerhalb eines Schwellenbetrags eines Strombudgets der Basisplatine liegt. In mindestens einer Ausführungsform berechnet die Steuerung 118 den Stromverbrauch für einzelne Basisplatinen 112 und passt einen oder mehrere Betriebsparameter für einzelne Basisplatinen 112 an. In mindestens einer Ausführungsform berechnet die Steuereinheit 120 den Energieverbrauch für das Rack 104 und passt einen oder mehrere Betriebsparameter für das Rack 104 an.
-
In mindestens einer Ausführungsform variiert der Energieverbrauch des Racks basierend auf den Basisplatinen 112, die verwendet werden, um das Rack 104 zu bilden, wobei verschiedene Basisplatinen 112 unterschiedliche Basisplatinen-Leistungsaufnahmen haben können. In mindestens einer Ausführungsform kann der Energieverbrauch des Racks berechnet werden, indem verschiedene Energieverbraucher der Basisplatine summiert werden, um zu bestimmen, ob ein Energieverbrauch des Racks unter einem Schwellenwert liegt. In mindestens einer Ausführungsform kann der Energieverbrauch der Basisplatine angepasst werden, wie beispielsweise durch Anpassen einer Betriebsfrequenz für die Recheneinheiten 114, die die Basisplatine 112 bilden, als Reaktion auf das Bestimmen eines Rack-Energieverbrauchs in Bezug auf einen Schwellenwert. In mindestens einer Ausführungsform können einzelne Betriebsfrequenzen der Basisplatine angepasst werden, um einen Rack-Energieverbrauch zu erhöhen oder zu verringern. In mindestens einer Ausführungsform können die Basisplatinen 112 zwischen den Racks 104 bewegt werden, um den Rack-Energieverbrauch zu ändern. In mindestens einer Ausführungsform können mehrere Basisplatinen 112 verwendet werden, um einen Knoten zu bilden, wobei mehrere Knoten Teil des Racks 104 sein können oder über mehrere Racks 104 verteilt sein können. In mindestens einer Ausführungsform können mehrere Racks 104 oder Knoten verwendet werden, um einen Cluster oder Pod zu bilden, und mehrere Cluster oder Pods können verwendet werden, um einen Super-Pod zu bilden. In mindestens einer Ausführungsform können einzelne oder Gruppen von Komponenten einem einzelnen Job zugewiesen werden, der dem Rechenzentrum 100 bereitgestellt wird.
-
In mindestens einer Ausführungsform können verschmolzene Leistungskoeffizienten, die den Recheneinheiten 114 auf der Basisplatine 112 entsprechen, verwendet werden, um präventiv eine Betriebsfrequenz für die Basisplatine 112 zu berechnen und anschließend einen Basisplatinen-Energieverbrauch zu bestimmen. In mindestens einer Ausführungsform können die Racks 104 so ausgelegt sein, um die Basisplatinen 112 mit vorbestimmten Leistungsaufnahmen der Basisplatinen zu beinhalten. In mindestens einer Ausführungsform können thermische oder Packungsdesigns für Basisplatinen 112 oder Rack 104 zumindest teilweise auf einer erwarteten Betriebsfrequenz basieren, die unter Verwendung von verschmolzenen Leistungskoeffizienten bestimmt wird. In mindestens einer Ausführungsform wird eine Basisplatinen-Betriebsfrequenz basierend auf verschmolzenen Leistungskoeffizienten von Recheneinheiten 114 bestimmt, die eine Basisplatine bilden, und eine thermische Verpackung für diese Basisplatine wird basierend auf einer Basisplatinen-Betriebsfrequenz entworfen.
-
In mindestens einer Ausführungsform können die Basisplatinen 112 vorkonfiguriert und einem Verbraucher bereitgestellt werden, einschließlich abgesicherter Leistungskoeffizienten für Recheneinheiten 114, die die Basisplatine 112 bilden. In mindestens einer Ausführungsform kann die Steuerung 118 oder die Steuerung 120 abgesicherte Leistungskoeffizienten lesen und eine Betriebsfrequenz der Basisplatinen für ein verbraucherspezifiziertes Leistungsbudget der Basisplatine bestimmen. In mindestens einer Ausführungsform können Herstellungstests verwendet werden, um verschiedene Recheneinheiten 114 oder Basisplatinen 112 zu kategorisieren. In mindestens einer Ausführungsform können Basisplatinen 112 getestet werden, die mit einer berechneten Frequenz arbeiten. In mindestens einer Ausführungsform können Anpassungen an einer berechneten Häufigkeit vorgenommen werden, während ein Wert von defekten Teilen pro Million einen Schwellenwert überschreitet.
-
In mindestens einer Ausführungsform weist das Rack 104 ein Rack-Leistungsbudget auf, das sich auf einen zulässigen Energieverbrauch für das Rack 104 bezieht. In mindestens einer Ausführungsform ist das Rack-Leistungsbudget eine Funktion des Komponenten-Leistungsverbrauchs für Komponenten, die das Rack 104 bilden. In mindestens einer Ausführungsform kann ein Energieverbrauch der Basisplatine für jede Basisplatine 112 berechnet werden, um den Rack-Energieverbrauch zu bestimmen. In mindestens einer Ausführungsform ist es wünschenswert, das Rack 104 bei oder unter einem Rack-Leistungsbudget zu betreiben, um die mit der Verwendung des Racks 104 verbundenen Kosten zu reduzieren. In mindestens einer Ausführungsform ist es wünschenswert, das Rack 104 innerhalb eines Schwellenwerts eines Rack-Leistungsbudgets zu betreiben, um die Leistung des Racks 104 zu maximieren. In wenigstens einer Ausführungsform weist das Rack 104 ein spezifiziertes Rack-Leistungsniveau auf, das sich auf Betriebsparameter von Komponenten bezieht, die das Rack 104 bilden. In mindestens einer Ausführungsform ist das Rack-Leistungsniveau eine Funktion des Energieverbrauchs der Komponenten und der hergestellten Eigenschaften der Basisplatinen 112. In mindestens einer Ausführungsform ist es wünschenswert, die Racks 104 so zu betreiben und zu konfigurieren, dass sie Hochleistungs-Racks sind, die bestimmte Aufgaben oder Jobs ausführen können, deren Parameter einen Schwellenwert überschreiten. In mindestens einer Ausführungsform ist es wünschenswert, Hochleistungs-Racks 104 zu identifizieren, um Hochleistungs-Racks 104 für bestimmte Aufgaben oder Jobs mit Parametern zu reservieren oder zu priorisieren, die einen Schwellenwert überschreiten.
-
In mindestens einer Ausführungsform weisen die Basisplatinen112 ein Leistungsbudget der Basisplatinen auf, das sich auf einen zulässigen Energieverbrauch für die Basisplatinen 112 bezieht. In mindestens einer Ausführungsform hat jede Basisplatine 112, die das Rack 104 bildet oder innerhalb eines Teils des Datenzentrums 100 ist, ein gemeinsames Leistungsbudget der Basisplatinen. In mindestens einer Ausführungsform haben eine oder mehrere Basisplatinen 112 ein unterschiedliches Leistungsbudget der Basisplatine. In mindestens einer Ausführungsform wird der Energieverbrauch der Basisplatine durch Bestimmung des Energieverbrauchs für einzelne Recheneinheiten 114 der Basisplatinen 112 berechnet. In mindestens einer Ausführungsform ist es wünschenswert, bei oder unter einem Leistungsbudget der Basisplatine zu arbeiten. In mindestens einer Ausführungsform ist es wünschenswert, innerhalb eines Schwellenwerts eines Energiebudgets der Basisplatine zu arbeiten, um die Leistung der Recheneinheiten 114 zu maximieren. In mindestens einer Ausführungsform verbrauchen unterschiedliche Recheneinheiten 114 unterschiedliche Leistungsmengen bei einer Betriebsfrequenz. In mindestens einer Ausführungsform arbeitet jede Recheneinheit 114 auf einer einzelnen Basisplatine 114 auf einer gemeinsamen Frequenz, und infolgedessen steuert eine Worst-Case(WC)-Recheneinheit 114 die Leistung der Basisplatine 112. In mindestens einer Ausführungsform ist eine WC-Recheneinheit 114 eine Recheneinheit 114, die bei einer gegebenen Frequenz im Vergleich zu anderen Recheneinheiten 114 der Basisplatine 112 mehr Leistung verbraucht. In mindestens einer Ausführungsform variieren die Betriebsfrequenzen zwischen verschiedenen Basisplatinen 112, die auf verschiedene Recheneinheiten 114 ansprechen können.
-
In mindestens einer Ausführungsform ist eine Rechenzentrumstopologie 150 in 1C dargestellt. In mindestens einer Ausführungsform wird das Datenzentrum 100 aus Gruppen von Komponenten gebildet, die zu unterschiedlichen Teilsystemen zusammengruppiert sind. In mindestens einer Ausführungsform ist die Gruppierung von Komponenten eine logische Gruppierung im Gegensatz zu einer physischen Gruppierung, bei der gruppierte Komponenten unabhängig von ihrer physischen Position zueinander einem gemeinsamen Job zugewiesen oder anderweitig damit beauftragt werden. In mindestens einer Ausführungsform wird ein Modul oder eine Recheneinheit 152 verwendet, um eine Basisplatine 154 zu bilden. In mindestens einer Ausführungsform können Gruppen von Basisplatinen 154 als Knoten oder Blades 156 bezeichnet werden, die Racks 158 bilden. In mindestens einer Ausführungsform werden Gruppen von Racks 158 oder Teile von Gruppen von Racks 158 verwendet, um Cluster oder Pods 160 zu erzeugen, die auch gruppiert werden können, um Super-Pods 162 zu bilden. In mindestens einer Ausführungsform können Teile verschiedener Komponenten innerhalb der Rechenzentren 100 logisch gruppiert werden, um verschiedene Cluster/Pods/Superpods basierend auf Leistungsparametern zu bilden.
-
In mindestens einer Ausführungsform können unterschiedliche Gruppierungen von Komponenten für bestimmte Aufgaben- oder Jobparameter bestimmt werden. In mindestens einer Ausführungsform können Gruppierungen als hocheffiziente Einheiten bezeichnet werden, wie beispielsweise diejenigen, die auf einem niedrigeren Leistungsniveau als andere Einheiten arbeiten. In mindestens einer Ausführungsform können Gruppierungen als Hochleistungseinheiten bezeichnet werden, z. B. solche, die mit höheren Frequenzen oder Leistungsstufen arbeiten als andere Einheiten. In mindestens einer Ausführungsform können diese Gruppen schwierig zu ermitteln sein, und infolgedessen werden Jobs möglicherweise nicht an Einheiten oder Gruppierungen geleitet, die am besten dafür ausgestattet sind, bestimmte Parameter zu handhaben, sondern vielmehr an zur Anforderungszeit verfügbare Einheiten. In mindestens einer Ausführungsform können verschmolzene Parameter, die auf Recheneinheiten gespeichert sind, verwendet werden, um Eigenschaften zu bestimmen und verschiedene Komponenten basierend auf Aufgaben- oder Jobeigenschaften zu gruppieren.
-
In mindestens einer Ausführungsform ist eine Rechenzentrumsumgebung 200, die zum Auswählen von Recheneinheiten zum Ausführen einer Aufgabe oder eines Jobs verwendet werden kann, in 2 veranschaulicht. In mindestens einer Ausführungsform basiert die Auswahl von Recheneinheiten zumindest teilweise auf einem oder mehreren Aufgaben- oder Jobparametern und einem oder mehreren verschmolzenen Leistungskoeffizienten für Recheneinheiten. In mindestens einer Ausführungsform schließt eine Abstimmungsumgebung 202 eine Schnittstelle 204 zum Empfangen von Informationen von und zum Übertragen von Informationen an ein oder mehrere der Racks 104A - 104N ein. In mindestens einer Ausführungsform empfängt die Schnittstelle 204 auch Informationen von oder überträgt Informationen an eine Benutzervorrichtung 224 über ein Netzwerk 226. In mindestens einer Ausführungsform kann die Benutzervorrichtung 224 Informationen an Rechenzentren übertragen, wie z. B. eine Anforderung zum Ausführen von Jobs oder Aufgaben. In mindestens einer Ausführungsform schließt jedes Rack 104A - 104N Basisplatinen 112A - 112N, die mit Recheneinheiten 114A - 114N ausgebildet sind, ein. In mindestens einer Ausführungsform schließen die Racks 104A-104N auch Basisplatinensteuerungen 118A-118N und Rack-Steuerungen 120, die Informationen über die Schnittstelle 204 an die Abstimmungsumgebung 202 übertragen können, ein. In mindestens einer Ausführungsform empfängt die Abstimmungsumgebung 202 Informationen von den Racks 104A - 104N, wie z. B. abgestimmte Parameter für einzelne Recheneinheiten 114A - 114N, die mit den Recheneinheiten 114A - 114N verschmolzen wurden. In mindestens einer Ausführungsform schließen abgestimmte Parameter Betriebsfrequenzen in Bezug auf den Energieverbrauch neben anderen möglichen Informationen über die Recheneinheit ein. In mindestens einer Ausführungsform werden verschmolzene Parameter für den Leistungsausgleich auf einer Basisplatinenebene, einer Rackebene oder irgendeiner anderen Ebene der Rechenzentrumstopologie verwendet.
-
In mindestens einer Ausführungsform berechnet ein GPU-Leistungsmodul 206 Leistungsgrenzen für die Recheneinheiten 114A - 114N . In mindestens einer Ausführungsform berechnet das GPU-Leistungsmodul 206 eine hohe Leistungsgrenze und eine niedrige Leistungsgrenze. In mindestens einer Ausführungsform kann das GPU-Leistungsmodul 206 verwendet werden, um einen Befehl an die Racks 104A - 104N zu senden, um einen oder mehrere Betriebsparameter für die Basisplatinen 112A - 112N oder die Recheneinheiten 114A - 114N anzupassen. In mindestens einer Ausführungsform kann das GPU-Leistungsmodul 206 Informationen empfangen, die auf die Recheneinheiten 114A - 114N verschmolzen sind, einen erwarteten Betriebsparameter für die Recheneinheiten 114A - 114N bestimmen, erwartete Betriebsparameter mit tatsächlichen Betriebsparametern vergleichen und eine oder mehrere Anpassungen zur Abstimmung senden oder anderweitig Betriebsparameter für die Recheneinheiten 114A - 114N ändern. In mindestens einer Ausführungsform kann das Anpassen eines Energieverbrauchs für die Recheneinheiten 114A - 114N auch eine Betriebsfrequenz anpassen, Kühlparameter ändern, den Verbrauch der Basisplatine ändern oder verschiedene andere Anpassungen vornehmen. In mindestens einer Ausführungsform kann der Leistungsausgleich durch das GPU-Leistungsmodul 206 durchgeführt werden, um den Stromverbrauch verschiedener Komponenten innerhalb von Rechenzentren anzupassen.
-
In mindestens einer Ausführungsform berechnet ein Rack-Leistungsmodul 208 Leistungsgrenzen für die Recheneinheiten 114A - 114N und demzufolge die Racks 104A-104N. In mindestens einer Ausführungsform berechnet das Rack-Leistungsmodul 208 einen Grenzwert für die hohe Leistung und einen Grenzwert für die niedrige Leistung. In mindestens einer Ausführungsform kann das Rack-Leistungsmodul 208 verwendet werden, um einen Befehl an die Racks 104A - 104N zu senden, um einen oder mehrere Betriebsparameter für die Basisplatinen 112A - 112N oder die Recheneinheiten 114A - 114N anzupassen. In mindestens einer Ausführungsform kann das Rack-Leistungsmodul 208 Informationen empfangen, die auf die Recheneinheiten 114A - 114N verschmolzen sind, einen erwarteten Betriebsparameter für die Recheneinheiten 114A - 114N bestimmen, erwartete Betriebsparameter mit tatsächlichen Betriebsparametern vergleichen und eine oder mehrere Anpassungen zur Abstimmung senden oder anderweitig Betriebsparameter für die Recheneinheiten 114A - 114N ändern. In mindestens einer Ausführungsform kann das Anpassen eines Energieverbrauchs für die Recheneinheiten 114A - 114N auch eine Betriebsfrequenz anpassen, Kühlparameter ändern, den Verbrauch der Basisplatine ändern oder verschiedene andere Anpassungen vornehmen. In mindestens einer Ausführungsform kann das Rack-Leistungsmodul 208 auch eine Konfiguration oder Gruppierung für Racks bestimmen, die zumindest teilweise auf Betriebsparametern für die Racks 104A - 104N basieren kann.
-
In mindestens einer Ausführungsform bestimmt ein Kühlungseigenschaftsmodul 210 Kühleigenschaften für einzelne Racks 104A - 104N oder Gruppierungen von Racks 104A - 104N, um zu bestimmen, ob zusätzliche Betriebskapazität zu den Racks 104A - 104N hinzugefügt werden kann. In mindestens einer Ausführungsform empfängt das Kühlungseigenschaftsmodul 210 Informationen, die von Sensoren übertragen werden, wie etwa Temperatursensoren, Durchflusssensoren oder verschiedenen anderen Sensoren, die Kühlparameter in Rechenzentren überwachen. In mindestens einer Ausführungsform vergleicht das Kühleigenschaftsmodul 210 aktuelle Kühlparameter mit erwarteten Kühlparametern, um zu bestimmen, ob aktuelle Betriebsbedingungen einen Betrieb innerhalb eines erwarteten Schwellenbereichs ermöglichen. In mindestens einer Ausführungsform können Rechenzentren mit einem ersten Satz von Annahmen, einschließlich Kühlparametern, entworfen werden, und solche Annahmen können während des Betriebs verifiziert werden. In mindestens einer Ausführungsform können abweichende Kühlparameter erfasst und verwendet werden, um Betriebsparameter für die Racks 104A - 104N neu zu berechnen oder anderweitig anzupassen. In mindestens einer Ausführungsform kann das Kühleigenschaftsmodul 210 Signale an ein Kühlsystem übertragen, um einen oder mehrere Kühlparameter einzustellen, um den Betrieb innerhalb eines gewünschten Bereichs aufrechtzuerhalten. In mindestens einer Ausführungsform können Kühlparameter verwendet werden, um Racks 104A - 104N oder Komponenten der Racks 104A - 104N, wie beispielsweise Racks 104A - 104N mit zusätzlicher Kühlkapazität, eine Gruppierung zuzuweisen.
-
In mindestens einer Ausführungsform bestimmt ein Betriebsparametermodul 212 aktuelle Betriebsbedingungen für die Racks 104A - 104N oder Komponenten der Racks 104A - 104N und vergleicht aktuelle Betriebsbedingungen mit erwarteten oder vorberechneten Betriebsbedingungen. In mindestens einer Ausführungsform übertragen verschiedene Sensoren Informationen an das Betriebsparametermodul 212, wie z. B. Energieverbrauch für die Racks 104A - 104N oder Komponenten der Racks 104A - 104N. In mindestens einer Ausführungsform werden die Betriebsparameter mit den erwarteten Betriebsbedingungen verglichen, um festzustellen, ob die Komponenten innerhalb eines erwarteten Schwellenbereichs arbeiten. In mindestens einer Ausführungsform wird bestimmt, dass bestimmte Racks 104A - 104N oder Komponenten der Racks 104A - 104N zusätzliche Betriebskapazität haben oder unter der erwarteten Betriebskapazität laufen, was sich darauf auswirken kann, wie die Racks 104A - 104N oder Komponenten der Racks 104A - 104N, für bestimmte Aufgaben oder Jobs gruppiert oder ausgewählt werden.
-
In mindestens einer Ausführungsform wählt ein Modusauswahlmodul 214 einen Betriebsmodus, wie etwa einen in einem Modusdatenspeicher 216 gespeicherten Modus, basierend auf Parametern für eine Aufgabe oder einen Job aus. In mindestens einer Ausführungsform können sich Module auf bestimmte Eigenschaften oder Parameter für eine Aufgabe beziehen. In mindestens einer Ausführungsform kann sich ein Modus auf einen Hochleistungsmodus beziehen, in dem der Energieverbrauch weniger wichtig sein kann als ein hoher Betriebsdurchsatz. In mindestens einer Ausführungsform kann sich ein Modus auf einen hocheffizienten Modus beziehen, wobei Leistung/Watt optimiert ist. In mindestens einer Ausführungsform können Module zumindest teilweise auf vorberechneten oder vorbestimmten Konfigurationen ausgewählt werden, die zumindest teilweise auf zusammengeführten Parametern für einzelne Recheneinheiten 114A - 114N basieren können. In mindestens einer Ausführungsform können Module verwendet werden, um Gruppen von Recheneinheiten 114A - 114N, Basisplatinen 112A - 112N oder Racks 104A - 104N auszuwählen, die optimiert sind oder anderweitig wünschenswerte Betriebsbedingungen für verschiedene Module aufweisen. In mindestens einer Ausführungsform kann der Modusdatenspeicher 216 unterschiedliche Gruppierungen aufrechterhalten, die für unterschiedliche Betriebsbedingungen optimiert oder anderweitig wünschenswert sind.
-
In mindestens einer Ausführungsform basiert die Modusauswahl zumindest teilweise auf Parametern für eine Aufgabe. In mindestens einer Ausführungsform können zu den Parametern u. a. Leistung/Watt, Anwendungsarten und die gewünschte Anzahl von Knoten gehören. In mindestens einer Ausführungsform stellt ein Benutzer Aufgabenparameter als eine Eingabe für die Abstimmungsumgebung 202 bereit. In mindestens einer Ausführungsform empfängt die Tuning-Umgebung 202 Eingaben und bestimmt, wie Ressourcen für Aufgaben zuzuweisen sind, bevor Aufgaben gestartet werden. In mindestens einer Ausführungsform speichert der Modusdatenspeicher 216 verschiedene Betriebsmodi und frühere Konfigurationen für solche Module. In mindestens einer Ausführungsform speichert ein Konfigurationsdatenspeicher 218 Konfigurationen basierend auf Eigenschaften der Racks 104A - 104N . In mindestens einer Ausführungsform können die Racks 104A - 104N speziell für bestimmte Modi formuliert sein.
-
In mindestens einer Ausführungsform kann das Modulauswahlmodul 214 auch verwendet werden, um eine oder mehrere Recheneinheiten 114A - 114N einzustellen oder anderweitig zu konfigurieren. In mindestens einer Ausführungsform kann der Modusdatenspeicher 216 verschiedene Leistungsmodi zur Ausführung durch das Modusauswahlmodul 214 speichern. In mindestens einer Ausführungsform kann ein erster Modus den Energieverbrauch für verschiedene Recheneinheiten 114A - 114N so anpassen, dass eine maximale Frequenz innerhalb einer Nennleistungsgrenze erreicht wird. In mindestens einer Ausführungsform kann ein zweiter Modus den Energieverbrauch für verschiedene Recheneinheiten 114A - 114N auf einen vorbestimmten Teil einer Leistungsgrenze anpassen und auch die Frequenzen der Recheneinheiten in Bezug auf eine solche Leistungsgrenze erhöhen. Bei mindestens einer Ausführungsform kann ein dritter Modus die Recheneinheiten 114A - 114N für eine oder mehrere Basisplatinen 112A - 112N mit einer vorbestimmten Leistungsgrenze synchronisieren. In mindestens einer Ausführungsform kann ein vierter Modus den Energieverbrauch der Recheneinheiten 114A-114N in Bezug auf eine Rack-Leistungsgrenze so anpassen, dass die Recheneinheiten 114A-114N die jeweiligen Betriebsfrequenzen bis zu dieser Rack-Leistungsgrenze erhöhen. In mindestens einer Ausführungsform kann ein fünfter Modus Racks außerhalb der Spezifikation identifizieren, wie beispielsweise Racks, die innerhalb eines Schwellenwerts einer Rackgrenze arbeiten, oder Racks, die Recheneinheiten 114A - 114N enthalten, die außerhalb eines spezifizierten Bereichs laufen.
-
In mindestens einer Ausführungsform stellt ein Empfehlungsmodul 220 eine empfohlene Konfiguration von Ressourcen zum Ausführen einer Aufgabe bereit. In mindestens einer Ausführungsform kann das Empfehlungsmodul 220 bestimmte Racks 104A - 104N, Basisplatinen 112A - 112N, Recheneinheiten 114A - 114N oder eine beliebige Kombination von Komponenten zum Ausführen von Aufgaben identifizieren. In mindestens einer Ausführungsform basieren Empfehlungen zumindest teilweise auf einem Vergleich zwischen tatsächlichen Betriebsbedingungen für verschiedene Komponenten und berechneten Betriebsbedingungen auf der Grundlage von verschmolzenen Parametern. In mindestens einer Ausführungsform können auch Empfehlungen für Rechenzentrumskonfigurationen bereitgestellt werden, wobei das Empfehlungsmodul 220 das Wechseln von Basisplatinen zwischen Racks empfehlen kann, um Racks für bestimmte Module zu optimieren oder anderweitig zu konfigurieren.
-
In mindestens einer Ausführungsform empfängt die Abstimmungsumgebung 202 Informationen bezüglich Rechenzentren, wie zum Beispiel die Topologie des Rechenzentrums, elektrische und thermische Beschränkungen des Rechenzentrums, Umgebungsinformationen des Rechenzentrums und aktuelle Betriebsparameter. In mindestens einer Ausführungsform enthält die Abstimmungsumgebung 202 erwartete Daten, wie beispielsweise Daten von zusammengeführten Parametern, und aktuelle Betriebsbedingungen, um unterschiedliche Teile von Rechenzentren für den Betrieb mit bestimmten Aufgaben zu gruppieren oder anderweitig zu identifizieren. In mindestens einer Ausführungsform kann die Abstimmungsumgebung 202 Ausgaben mit Anweisungen zum Anpassen von Betriebsparametern basierend auf bestimmten Aufgaben und Zuweisen von Ressourcen bereitstellen. In mindestens einer Ausführungsform gibt die Abstimmungsumgebung 202 Energieverwaltungseinstellungen aus, identifiziert bestimmte Komponenten für verschiedene Module, bestimmt Konfigurationen für verschiedene Aufgaben, stellt Energiesparoptionen bereit und identifiziert Hochleistungskonfigurationen neben anderen Ausgaben. In mindestens einer Ausführungsform werden Konfigurationen oder Gruppierungen in einem Konfigurationsdatenspeicher 222 für späteren Zugriff und Verwendung gespeichert, beispielsweise wenn spätere Aufgaben ähnliche Parameter haben.
-
In mindestens einer Ausführungsform empfängt die Abstimmungsumgebung 202 Eingaben von mehreren Aufgaben zur Ausführung in Rechenzentren und stellt Anweisungen zur Zuweisung von Ressourcen zur Ausführung mehrerer Aufgaben bereit. In mindestens einer Ausführungsform kann die Abstimmungsumgebung 202 spezifische Parameter für jede Aufgabe extrahieren, Parameter basierend mindestens teilweise auf Rack-Konfigurationen und gegenwärtigen Betriebsbedingungen auswerten und dann verschiedene Module oder Komponenten gruppieren und verschiedenen Aufgaben zuweisen. In mindestens einer Ausführungsform kann die Abstimmungsumgebung 202 spezifische Parameter für jede Aufgabe extrahieren, Leistungsausgleich für eine oder mehrere Recheneinheiten 114A - 114N vornehmen und dann Recheneinheiten 114A - 114N zuweisen, um Aufgaben auszuführen.
-
In mindestens einer Ausführungsform kann die Abstimmungsumgebung 202 ein bestehendes Rechenzentrum neu konfigurieren, nachdem ein Basissatz von Betriebsparametern bestimmt wurde. In mindestens einer Ausführungsform können Rechenzentren mit einem Satz von Annahmen entworfen werden, die bei der Ausführung nicht genau sind. In mindestens einer Ausführungsform kann die Abstimmungsumgebung 202 Parameter für verschiedene Komponenten auswerten, wie zum Beispiel verschmolzene Parameter für die Recheneinheiten 114A - 114N zusammen mit Basisbetriebsparametern. In mindestens einer Ausführungsform stellt das Empfehlungsmodul 220 Empfehlungen bereit, um Rechenzentrumsoperationen neu zu konfigurieren, wie beispielsweise das Wechseln von Basisplatinen zwischen Racks. In mindestens einer Ausführungsform kann das Empfehlungsmodul 220 Betriebsparameter für unterschiedliche Racks 104A - 104N anpassen, wie z. B. das Abstimmen der Thermik oder das Anpassen von Leistungsausgleichen.
-
In mindestens einer Ausführungsform kann ein Prozess 300 zum Auswählen eines oder mehrerer Racks in einem Rechenzentrum für eine Aufgabe wie in 3A dargestellt durchgeführt werden. In mindestens einer Ausführungsform werden ein oder mehrere Racks innerhalb eines Rechenzentrums ausgewählt 302. In mindestens einer Ausführungsform kann die Auswahl mindestens teilweise auf verfügbarer Kapazität oder erwarteter Installation in einem zu errichtenden Rechenzentrum basieren. In mindestens einer Ausführungsform werden verschmolzene Parameter für Recheneinheiten, die ein oder mehrere Racks bilden, bestimmt 304. In mindestens einer Ausführungsform sind die verschmolzenen Parameter mit Recheneinheiten verbunden, die in einem oder mehreren Racks installiert sind. In mindestens einer Ausführungsform werden Betriebsbedingungen für ein oder mehrere Racks zumindest teilweise basierend auf solchen verschmolzenen Parametern 306 bestimmt. In mindestens einer Ausführungsform können verschmolzene Parameter Betriebsinformationen bereitstellen, die verwendet werden können, um den Leistungsausgleich und den Ressourcenverbrauch für ein oder mehrere Racks zu bestimmen. In mindestens einer Ausführungsform werden Aufgabenparameter für eine innerhalb von Rechenzentren auszuführende Aufgabe empfangen 308. In mindestens einer Ausführungsform wird eine Teilmenge von einer oder mehreren Racks ausgewählt, die zumindest teilweise auf den Betriebsbedingungen und den Aufgabenparametern 310 basieren. In mindestens einer Ausführungsform können ein oder mehrere Racks mit vorteilhaften Betriebsbedingungen ausgewählt werden, um Aufgaben effizient auszuführen.
-
In mindestens einer Ausführungsform kann ein Prozess 350 zur Auswahl einer oder mehrerer Recheneinheiten in einem Rechenzentrum für eine Aufgabe durchgeführt werden, wie in 3B veranschaulicht. In mindestens einer Ausführungsform werden Aufgabenparameter für eine innerhalb von Rechenzentren auszuführende Aufgabe empfangen 352. In mindestens einer Ausführungsform werden verschmolzene Parameter für Recheneinheiten bestimmt 354. In mindestens einer Ausführungsform sind die verschmolzenen Parameter mit Recheneinheiten verbunden, die in einem oder mehreren Racks installiert sind. In mindestens einer Ausführungsform werden die Betriebsbedingungen für eine oder mehrere Recheneinheiten zumindest teilweise auf der Grundlage dieser verschmolzenen Parameter 356 bestimmt. In mindestens einer Ausführungsform können verschmolzene Parameter Betriebsinformationen bereitstellen, die verwendet werden können, um den Leistungsausgleich und den Ressourcenverbrauch für eine oder mehrere Recheneinheiten zu bestimmen. In mindestens einer Ausführungsform wird eine Teilmenge von einer oder mehreren Recheneinheiten ausgewählt, die zumindest teilweise auf den Betriebsbedingungen und den Aufgabenparametern 358 basieren. In mindestens einer Ausführungsform können ein oder mehrere Racks mit vorteilhaften Betriebsbedingungen ausgewählt werden, um Aufgaben effizient auszuführen.
-
In mindestens einer Ausführungsform kann ein Prozess 400 zum Zuweisen von Recheneinheiten zum Ausführen einer Aufgabe wie in 4 dargestellt durchgeführt werden. In mindestens einer Ausführungsform werden Jobparameter für eine Aufgabe empfangen 402. In mindestens einer Ausführungsform können Jobparameter einen Modus beinhalten, der Aufgaben zugeordnet ist. In mindestens einer Ausführungsform werden verfügbare Parameter für Recheneinheiten 404 bestimmt. In mindestens einer Ausführungsform werden verschmolzene Parameter von verfügbaren Recheneinheiten empfangen 406 und können verwendet werden, um Betriebsparameter für solche verfügbaren Recheneinheiten zu berechnen. In mindestens einer Ausführungsform wird eine Teilmenge der verfügbaren Recheneinheiten ausgewählt 408. In mindestens einer Ausführungsform wird bestimmt, ob eine Schwellenanzahl von Jobparametern von dieser Teilmenge 410 erfüllt wird. In mindestens einer Ausführungsform wird bestimmt, dass ein solcher Schwellenwert erfüllt ist, und eine solche Teilmenge wird zugewiesen, um Aufgaben 412 auszuführen. In mindestens einer Ausführungsform wird bestimmt, dass ein solcher Schwellenwert nicht erfüllt ist, und es wird eine Wartezeit für zusätzliche verfügbare Recheneinheiten 414 gestartet.
-
In mindestens einer Ausführungsform kann ein Prozess 500 zur Auswahl von Betriebsparametern für ein Rechenzentrum durchgeführt werden, wie in 5 dargestellt. In mindestens einer Ausführungsform werden ein oder mehrere Jobparameter für eine Aufgabe empfangen 502. In mindestens einer Ausführungsform wird eine Gruppierung von Recheneinheiten zum Ausführen einer solchen Aufgabe bestimmt 504. In mindestens einer Ausführungsform wird eine solche Gruppierung aus einem gespeicherten Satz von Gruppen bestimmt. Bei mindestens einer Ausführungsform wird diese Gruppierung mindestens teilweise basierend auf einem oder mehreren Jobparametern festgelegt. In mindestens einer Ausführungsform werden Betriebsparameter für eine solche ausgewählte Gruppierung bestimmt 506. In mindestens einer Ausführungsform werden diese Betriebsparameter zumindest teilweise auf der Grundlage von verschmolzenen Parametern bestimmt, die den Recheneinheiten zugeordnet sind, die eine solche Gruppierung bilden.
-
SERVER UND RECHENZENTREN
-
Die folgenden Figuren legen ohne Einschränkung beispielhafte Netzwerkserver und rechenzentrumbasierte Systeme dar, die verwendet werden können, um mindestens eine Ausführungsform zu implementieren.
-
6 veranschaulicht ein verteiltes System 600 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform beinhaltet das verteilte System 600 eine oder mehrere Client-Rechenvorrichtungen 602, 604, 606 und 608, die konfiguriert sind, um eine Client-Anwendung, wie etwa einen Webbrowser, einen proprietären Client und/oder Variationen davon, über ein oder mehrere Netzwerke 610 auszuführen und zu betreiben. In mindestens einer Ausführungsform kann der Server 612 über das Netzwerk 610 kommunikativ mit den entfernten Client-Rechenvorrichtungen 602, 604, 606 und 608 gekoppelt sein.
-
In mindestens einer Ausführungsform kann der Server 612 ausgelegt sein, um einen oder mehrere Dienste oder eine oder mehrere Softwareanwendungen auszuführen, wie etwa Dienste und Anwendungen, die Sitzungsaktivitäten des Zugriffs mit einmaliger Anmeldung (single signon - SSO) über mehrere Rechenzentren hinweg verwalten können. In mindestens einer Ausführungsform kann der Server 612 auch andere Dienste bereitstellen oder können Softwareanwendungen nicht virtuelle und virtuelle Umgebungen beinhalten. In mindestens einer Ausführungsform können diese Dienste Benutzern von Client-Rechenvorrichtungen 602, 604, 606 als webbasierte oder Cloud-Dienste oder unter einem SaaS-Modell (Software as a Service) angeboten werden, und/oder 608. In mindestens einer Ausführungsform können Benutzer, die Client-Rechenvorrichtungen 602, 604, 606 und/oder 608 betreiben, wiederum eine oder mehrere Client-Anwendungen nutzen, um mit dem Server 612 zu interagieren, um durch diese Komponenten bereitgestellte Dienste zu nutzen.
-
In mindestens einer Ausführungsform sind die Softwarekomponenten 618, 620 und 622 des Systems 600 auf dem Server 612 implementiert. In mindestens einer Ausführungsform können eine oder mehrere Komponenten des Systems 600 und/oder durch diese Komponenten bereitgestellte Dienste auch durch eine oder mehrere der Client-Rechenvorrichtungen 602, 604, 606 und/oder 608 implementiert sein. In mindestens einer Ausführungsform können Benutzer, die Client-Rechenvorrichtungen betreiben, dann eine oder mehrere Client-Anwendungen nutzen, um durch diese Komponenten bereitgestellte Dienste zu verwenden. In mindestens einer Ausführungsform können diese Komponenten in Hardware, Software, Firmware oder Kombinationen davon implementiert sein. Es versteht sich, dass verschiedene unterschiedliche Systemkonfigurationen möglich sind, die sich von dem verteilten System 600 unterscheiden können. Die in 6 gezeigte Ausführungsform ist somit mindestens eine Ausführungsform eines verteilten Systems zum Implementieren einer Ausführungsform eines Systems und soll nicht einschränkend sein.
-
In mindestens einer Ausführungsform können die Client-Rechenvorrichtungen 602, 604, 606 und/oder 608 verschiedene Arten von Rechensystemen beinhalten. In mindestens einer Ausführungsform kann eine Client-Rechenvorrichtung transportable Vorrichtungen (z. B. ein iPhone®, Mobiltelefon, ein iPad®, ein Computertablet, einen persönlichen digitalen Assistenten (personal digital assistant - PDA)) oder tragbare Vorrichtungen (z. B. ein Google Glass® mit am Kopf montierter Anzeige) beinhalten, auf denen Software wie Microsoft Windows Mobiler und/oder eine Vielzahl von mobilen Betriebssystemen wie iOS, Windows Phone, Android, BlackBerry 10, Palm OS und/oder Variationen davon ausgeführt wird. In mindestens einer Ausführungsform können Vorrichtungen verschiedene Anwendungen unterstützen, wie etwa verschiedene Internet-bezogene Apps, E-Mail, Short Message Service (SMS)-Anwendungen, und können verschiedene andere Kommunikationsprotokolle verwenden. In mindestens einer Ausführungsform können Client-Rechenvorrichtungen auch Mehrzweck-Personalcomputer beinhalten, einschließlich, mittels mindestens einer Ausführungsform, Personal Computer und/oder Laptops mit verschiedenen Versionen von Microsoft Windows®, Apple Macintosh®, und/oder Linux-Betriebssysteme.
-
In mindestens einer Ausführungsform können Client-Rechenvorrichtungen Arbeitsstationscomputer sein, auf denen eine Vielzahl von kommerziell erhältlichen UNIX®- oder UNIX-ähnlichen Betriebssystemen läuft, einschließlich, aber nicht beschränkt auf eine Vielzahl von GNU/Linux Betriebssysteme wie Google Chrome OS. In mindestens einer Ausführungsform können Client-Rechenvorrichtungen auch elektronische Vorrichtungen beinhalten, wie etwa einen Thin-Client-Computer, ein internetfähiges Spielsystem (z. B. eine Microsoft Xbox-Spielekonsole mit oder ohne Kinect®-Gesteneingabevorrichtung) und/oder eine persönliche Nachrichtenvorrichtung, die in der Lage ist, über Netzwerk(e) 610 zu kommunizieren. Auch wenn das verteilte System 600 in 6 mit vier Client-Rechenvorrichtungen gezeigt ist, kann eine beliebige Anzahl von Client-Rechenvorrichtungen unterstützt werden. Andere Vorrichtungen, wie etwa Vorrichtungen mit Sensoren usw., können mit dem Server 612 interagieren.
-
In mindestens einer Ausführungsform kann/können das/die Netzwerk(e) 610 im verteilten System 600 jede Art von Netzwerk sein, das Datenkommunikationen unter Verwendung eines beliebigen einer Vielzahl von verfügbaren Protokollen unterstützen kann, einschließlich, aber nicht beschränkt auf TCP/IP (Getriebesteuerung protocol/Internet Protokoll), SNA (Systemnetzwerkarchitektur), IPX (Internet Packet Exchange), AppleTalk, und/oder Variationen davon. In mindestens einer Ausführungsform kann/können das/die Netzwerk(e) 610 ein lokales Netzwerk (LAN), Netzwerke basierend auf Ethernet, Token-Ring, ein Weitverkehrsnetzwerk, Internet, ein virtuelles Netzwerk, ein virtuelles privates Netzwerk (VPN), ein Intranet, ein Extranet, ein öffentliches Fernsprechnetz (PSTN), ein Infrarotnetz, ein drahtloses Netz (z. B. ein Netz, das unter einer der Protokollfolgen 802.11 des Institute of Electrical and Electronics (IEEE) betrieben wird, Bluetooth®, und/oder jedes andere drahtlose Protokoll), und/oder jede Kombination davon und/oder andere Netzwerke.
-
In mindestens einer Ausführungsform kann der Server 612 aus einem oder mehreren Mehrzweckcomputern, spezialisierten Servercomputern (einschließlich, mittels mindestens einer Ausführungsform, PC (Personal Computer)-Servern, UNIX®-Servern, Midrange-Servern, Großrechnern, bestehen Computer, Rack-Server usw.), Serverfarmen, Servercluster oder andere geeignete Anordnungen und/oder Kombination. In mindestens einer Ausführungsform kann der Server 612 eine oder mehrere virtuelle Maschinen, auf denen virtuelle Betriebssysteme laufen, oder andere Rechenarchitekturen mit Virtualisierung beinhalten. In mindestens einer Ausführungsform können ein oder mehrere flexible Pools logischer Speichervorrichtungen virtualisiert werden, um virtuelle Speichervorrichtungen für einen Server zu verwalten. In mindestens einer Ausführungsform können virtuelle Netzwerke durch den Server 612 unter Verwendung von softwaredefinierten Netzwerken gesteuert werden. In mindestens einer Ausführungsform kann der Server 612 ausgelegt sein, um einen oder mehrere Dienste oder eine oder mehrere Softwareanwendungen auszuführen.
-
In mindestens einer Ausführungsform kann der Server 612 ein beliebiges Betriebssystem sowie ein beliebiges im Handel erhältliches Server-Betriebssystem ausführen. In mindestens einer Ausführungsform kann der Server 612 auch irgendeine einer Vielzahl von zusätzlichen Serveranwendungen ausführen und/oder Mid-Tier-Anwendungen, einschließlich HTTP (Hypertext Transport Protocol)-Server, FTP (File Transfer Protocol)-Server, CGI (Common Gateway Interface)-Server, JAVA®-Server, Datenbankserver, und/oder Variationen davon. In mindestens einer Ausführungsform beinhalten beispielhafte Datenbankserver ohne Einschränkung diejenigen, die im Handel von Oracle, Microsoft, Sybase, IBM (International Business Machines) erhältlich sind, und/oder Variationen davon.
-
In mindestens einer Ausführungsform kann der Server 612 eine oder mehrere Anwendungen beinhalten, um Datenfeeds und/oder Ereignisaktualisierungen zu analysieren und zu konsolidieren, die von Benutzern der Client-Rechenvorrichtungen 602, 604, 606 und 608 empfangen werden. In mindestens einer Ausführungsform Datenfeeds und/oder Ereignisaktualisierungen können unter anderem Twitter®-Feeds, Facebook®-Aktualisierungen oder Echtzeit-Aktualisierungen beinhalten, die von einer oder mehreren Informationsquellen Dritter und kontinuierlichen Datenströmen empfangen werden, die Echtzeit-Ereignisse im Zusammenhang mit Sensordatenanwendungen beinhalten können, Finanzticker, Tools zur Messung der Netzwerkleistung (z. B. Anwendungen zur Netzwerküberwachung und Verkehrsverwaltung), Clickstream-Analysetools, Überwachung des Autoverkehrs, und/oder Variationen davon. In mindestens einer Ausführungsform kann der Server 612 auch eine oder mehrere Anwendungen beinhalten, um Datenfeeds und/oder Ereignisaktualisierungen über eine oder mehrere Anzeigevorrichtungen der Client-Rechenvorrichtungen 602, 604, 606 und 608 anzuzeigen.
-
In mindestens einer Ausführungsform kann das verteilte System 600 auch eine oder mehrere Datenbanken 614 und 616 beinhalten. In mindestens einer Ausführungsform können Datenbanken einen Mechanismus zum Speichern von Informationen bereitstellen, wie etwa Benutzerinteraktionsinformationen, Nutzungsmusterinformationen, Anpassungsregelinformationen und andere Informationen. In mindestens einer Ausführungsform können sich die Datenbanken 614 und 616 an verschiedenen Orten befinden. In mindestens einer Ausführungsform können sich eine oder mehrere der Datenbanken 614 und 616 auf einem nichttransitorischen Speichermedium befinden, das lokal dazu ist (und/oder resident in) Server 612. In mindestens einer Ausführungsform können die Datenbanken 614 und 616 vom Server 612 entfernt sein und mit dem Server 612 über eine netzwerkbasierte oder dedizierte Verbindung kommunizieren. In mindestens einer Ausführungsform können sich die Datenbanken 614 und 616 in einem Speicherbereichsnetzwerk (storage-area network - SAN) befinden. In mindestens einer Ausführungsform können alle erforderlichen Dateien zum Durchführen von Funktionen, die dem Server 612 zugeschrieben werden, je nach Bedarf lokal auf dem Server 612 und/oder entfernt gespeichert sein. In mindestens einer Ausführungsform können die Datenbanken 614 und 616 relationale Datenbanken beinhalten, wie etwa Datenbanken, die ausgelegt sind, um Daten als Reaktion auf SQL-formatierte Befehle zu speichern, zu aktualisieren und abzurufen.
-
7 veranschaulicht ein beispielhaftes Rechenzentrum 700 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform beinhaltet das Rechenzentrum 700 ohne Einschränkung eine Rechenzentrumsinfrastrukturschicht 710, eine Framework-Schicht 720, eine Softwareschicht 730 und eine Anwendungsschicht 740.
-
In mindestens einer Ausführungsform kann, wie in 7 gezeigt, die Rechenzentrumsinfrastrukturschicht 710 einen Ressourcen-Orchestrator 712, gruppierte Berechnungsressourcen 714 und Knotenberechnungsressourcen („Knoten-CRs“) 716(1)-716(N) beinhalten, wobei „N“ eine beliebige ganze positive Zahl darstellt. In mindestens einer Ausführungsform können die Knoten-CR 716(1)-716(N) eine beliebige Anzahl von Zentraleinheiten („CPU“) oder andere Prozessoren (die Beschleuniger, feldprogrammierbare Gate-Arrays („FPGA“), Grafikprozessoren usw.), Arbeitsspeichervorrichtungen (z. B. dynamischer Nur-Lese-Speicher), Datenspeichervorrichtungen (z. B. Festkörper- oder Festplattenlaufwerke), Netzwerk-Ein-/Ausgabevorrichtungen („NW E/A“), Netzwerk-Switches, virtuellen Maschinen („VM“), Leistungsmodule und Kühlmodule usw. beinhalten, ohne darauf beschränkt zu sein. In mindestens einer Ausführungsform können ein oder mehrere Knoten-CR von den Knoten-CR 716(1)-716(N) ein Server sein, der eine oder mehrere der vorstehend erwähnten Rechenressourcen aufweist.
-
In mindestens einer Ausführungsform können gruppierte Berechnungsressourcen 714 getrennte Gruppierungen von Knoten-CRs beinhalten, die in einem oder mehreren Racks (nicht gezeigt) untergebracht sind, oder vielen Racks, die in Rechenzentren an verschiedenen geografischen Standorten (ebenfalls nicht gezeigt) untergebracht sind. Getrennte Gruppierungen von Knoten-CRs innerhalb gruppierter Berechnungsressourcen 714 können gruppierte Rechen-, Netzwerk-, Arbeitsspeicher- oder Datenspeicherressourcen beinhalten, die konfiguriert oder zugewiesen sein können, um eine oder mehrere Arbeitslasten zu unterstützen. In mindestens einer Ausführungsform können mehrere Knoten-C.Rs, die CPUs oder Prozessoren beinhalten, innerhalb eines oder mehrerer Racks gruppiert sein, um Rechenressourcen zum Unterstützen einer oder mehrerer Arbeitslasten bereitzustellen. In mindestens einer Ausführungsform können ein oder mehrere Racks auch eine beliebige Anzahl von Leistungsmodulen, Kühlmodulen und Netzwerk-Switches in beliebiger Kombination beinhalten.
-
In mindestens einer Ausführungsform kann der Ressourcenorchestrierer 712 einen oder mehrere Knoten-CRs 716(1)-716(N) und/oder gruppierte Berechnungsressourcen 714 konfigurieren oder anderweitig steuern. In mindestens einer Ausführungsform kann der Ressourcenorchestrierer 712 eine Softwaredesigninfrastruktur-(„SDI“-)Verwaltungsinstanz für das Rechenzentrum 700 beinhalten. In mindestens einer Ausführungsform kann der Ressourcen-Orchestrator 712 Hardware, Software oder eine Kombination davon beinhalten.
-
In mindestens einer Ausführungsform beinhaltet die Framework-Schicht 720, wie in 7 gezeigt, ohne Einschränkung einen Aufgaben-Scheduler 732, einen Konfigurationsmanager 734, einen Ressourcenmanager 736 und ein verteiltes Dateisystem 738. In mindestens einer Ausführungsform kann die Framework-Schicht 720 ein Framework beinhalten, um Software 752 der Softwareschicht 730 und/oder eine oder mehrere Anwendung(en) 742 der Anwendungsschicht 740 zu unterstützen. In mindestens einer Ausführungsform kann/können die Software 752 oder die Anwendung(en) 742 jeweils webbasierte Dienstsoftware oder -anwendungen beinhalten, wie etwa diejenigen, die von Amazon Web Services, Google Cloud und Microsoft Azure bereitgestellt sind. In mindestens einer Ausführungsform kann die Frameworkschicht 720 eine Art von freiem und Open-Source-Software-Webanwendungs-Framework sein, ohne darauf beschränkt zu sein, wie etwa Apache SparkTM (im Folgenden „Spark“), welches das verteilte Dateisystem 738 für umfangreiche Datenverarbeitungen (z.B. „Big Data“) nutzen kann. In mindestens einer Ausführungsform kann der Aufgabenplaner 732 einen Spark-Treiber beinhalten, um die Planung von Arbeitslasten zu erleichtern, die von verschiedenen Schichten des Rechenzentrums 700 unterstützt werden. In mindestens einer Ausführungsform kann der Konfigurationsverwalter 734 in der Lage sein, unterschiedliche Schichten zu konfigurieren, wie etwa die Softwareschicht 730 und die Frameworkschicht 720, was Spark und das verteilte Dateisystem 738 zum Unterstützen einer umfangreicher Datenverarbeitung beinhaltet. In mindestens einer Ausführungsform kann der Ressourcenverwalter 736 in der Lage sein, geclusterte oder gruppierte Berechnungsressourcen zu verwalten, die dem verteilten Dateisystem 738 und dem Aufgabenplaner 732 zur Unterstützung zugeordnet oder zugewiesen sind. In mindestens einer Ausführungsform können geclusterte oder gruppierte Berechnungsressourcen eine gruppierte Berechnungsressource 714 auf der Rechenzentrumsinfrastrukturschicht 710 beinhalten. In mindestens einer Ausführungsform kann sich der Ressourcenverwalter 736 mit dem Ressourcenorchestrierer 712 koordinieren, um diese zugeordneten oder zugewiesenen Berechnungsressourcen zu verwalten.
-
In mindestens einer Ausführungsform kann die in der Software-Schicht 730 enthaltene Software 752 Software beinhalten, die mindestens durch Abschnitte der Knoten-C.R.s 716(1)-716(N), der gruppierten Rechenressourcen 714 und/oder des verteilten Dateisystems 738 der Framework-Schicht 720 verwendet wird. Zu einem oder mehreren Typen von Software können Software zum Durchsuchen von Internet-Webseiten, Software zum Scannen von E-Mails auf Viren, Datenbank-Software und Software für Streaming-Videoinhalte gehören, ohne darauf beschränkt zu sein.
-
In mindestens einer Ausführungsform kann/können die Anwendung(en) 742, die in der Anwendungsschicht 740 beinhalten ist/sind, eine oder mehrere Arten von Anwendungen beinhalten, die von mindestens Teilen der Knoten-CRs 716(1)-716(N), gruppierten Berechnungsressourcen 714 und/oder dem verteilten Dateisystem 738 der Frameworkschicht 720 verwendet werden. In mindestens einer oder mehreren Anwendungsarten können unter anderem CUDA-Anwendungen, 5G-Netzwerkanwendungen, Anwendungen für künstliche Intelligenz, Rechenzentrumsanwendungen, und/oder Variationen davon.
-
In mindestens einer Ausführungsform können Konfigurationsverwalter 734, Ressourcenverwalter 736 und Ressourcenorchestrierer 712 eine beliebige Anzahl und Art von selbstmodifizierenden Handlungen auf Grundlage einer beliebigen Menge und Art von Daten umsetzen, die auf jede technisch machbare Weise erfasst werden. In mindestens einer Ausführungsform können selbstmodifizierende Handlungen einen Rechenzentrumsbetreiber des Rechenzentrums 700 davon befreien, möglicherweise schlechte Konfigurationsentscheidungen zu treffen, und möglicherweise vermeiden, dass Teile eines Rechenzentrums nicht ausgelastet und/oder leistungsschwach sind.
-
8 veranschaulicht ein Client-Server-Netzwerk 804, das durch eine Vielzahl von Netzwerk-Server-Computern 802 gebildet wird, die miteinander verbunden sind, gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform speichert jeder Netzwerk-Server-Computer 802 Daten, auf die andere Netzwerk-Server-Computer 802 und Client-Computer 806 und Netzwerke 808 zugreifen können, die mit einem Weitverkehrsnetzwerk 804 verbunden sind. In mindestens einer Ausführungsform kann sich die Konfiguration eines Client-Server-Netzwerks 804 im Laufe der Zeit ändern, wenn sich Client-Computer 806 und ein oder mehrere Netzwerke 808 mit einem Netzwerk 804 verbinden und davon trennen und wenn ein oder mehrere Fernleitungs-Server-Computer 802 hinzugefügt oder entfernt werden von einem Netzwerk 804. In mindestens einer Ausführungsform, wenn ein Client-Computer 806 und ein Netzwerk 808 mit Netzwerk-Server-Computern 802 verbunden sind, beinhaltet das Client-Server-Netzwerk einen solchen Client-Computer 806 und ein Netzwerk 808. In mindestens einer Ausführungsform beinhaltet der Begriff Computer jede Vorrichtung oder jede Maschine, die in der Lage ist, Daten zu akzeptieren, vorgeschriebene Prozesse auf Daten anzuwenden und Ergebnisse von Prozessen bereitzustellen.
-
In mindestens einer Ausführungsform speichert das Client-Server-Netzwerk 804 Informationen, auf die Netzwerk-Server-Computer 802, entfernte Netzwerke 808 und Client-Computer 806 zugreifen können. In mindestens einer Ausführungsform werden die Netzwerk-Server-Computer 802 durch Mainframe-Computer, Minicomputer und/oder Mikrocomputer mit jeweils einem oder mehreren Prozessoren gebildet. In mindestens einer Ausführungsform sind die Server-Computer 802 durch drahtgebundene und/oder drahtlose Übertragungsmedien miteinander verbunden, wie etwa leitfähige Drähte, Glasfaserkabel und/oder Mikrowellenübertragungsmedien, Satellitenübertragungsmedien oder andere leitfähige, optische oder elektromagnetische Wellenübertragungsmedien. In mindestens einer Ausführungsform greifen Client-Computer 806 auf einen Netzwerk-Server-Computer 802 durch ein ähnliches drahtgebundenes oder ein drahtloses Übertragungsmedium zu. In mindestens einer Ausführungsform kann sich ein Client-Computer 806 mit einem Client-Server-Netzwerk 804 unter Verwendung eines Modems und eines standardmäßigen Telefonkommunikationsnetzwerks verbinden. In mindestens einer Ausführungsform können auch alternative Trägersysteme wie Kabel- und Satellitenkommunikationssysteme verwendet werden, um sich mit dem Client-Server-Netzwerk 804 zu verbinden. In mindestens einer Ausführungsform können andere private oder zeitgeteilte Trägersysteme verwendet werden. In mindestens einer Ausführungsform ist das Netzwerk 804 ein globales Informationsnetzwerk, wie etwa das Internet. In mindestens einer Ausführungsform ist das Netzwerk ein privates Intranet, das ähnliche Protokolle wie das Internet verwendet, aber mit zusätzlichen Sicherheitsmaßnahmen und eingeschränkten Zugriffskontrollen. In mindestens einer Ausführungsform ist das Netzwerk 804 ein privates oder halbprivates Netzwerk, das proprietäre Kommunikationsprotokolle verwendet.
-
In mindestens einer Ausführungsform ist der Client-Computer 806 ein beliebiger Endbenutzer-Computer und kann auch ein Mainframe-Computer, ein Minicomputer oder ein Mikrocomputer mit einem oder mehreren Mikroprozessoren sein. In mindestens einer Ausführungsform kann der Server-Computer 802 manchmal als ein Client-Computer fungieren, der auf einen anderen Server-Computer 802 zugreift. In mindestens einer Ausführungsform kann das entfernte Netzwerk 808 ein lokales Netzwerk sein, ein Netzwerk, das durch einen unabhängigen Dienstanbieter (ISP) für das Internet zu einem Weitverkehrsnetzwerk hinzugefügt wird, oder eine andere Gruppe von Computern, die durch drahtgebundene oder drahtlose Übertragungsmedien verbunden sind, mit a Konfiguration, die entweder fest ist oder sich im Laufe der Zeit ändert. In mindestens einer Ausführungsform können sich Client-Computer 806 unabhängig oder über ein entferntes Netzwerk 808 mit einem Netzwerk 804 verbinden und darauf zugreifen.
-
9 veranschaulicht ein Computernetzwerk 908, das eine oder mehrere Rechenmaschinen verbindet, gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform kann das Netzwerk 908 eine beliebige Art einer elektronisch verbundenen Gruppe von Computern sein, einschließlich beispielsweise der folgenden Netzwerke: Internet, Intranet, lokale Netzwerke (LAN), Weitverkehrsnetzwerke (WAN) oder eine miteinander verbundene Kombination dieser Netzwerkarten. In mindestens einer Ausführungsform kann die Konnektivität innerhalb eines Netzwerks 908 ein entferntes Modem, Ethernet (IEEE 802.3), Token Ring (IEEE 802.5), Fiber Distributed Datalink Interface (FDDI), Asynchronous Transfer Mode (ATM) oder ein beliebiges anderes Kommunikationsprotokoll sein. In mindestens einer Ausführungsform können Rechenvorrichtungen, die mit einem Netzwerk verbunden sind, Desktop-, Server-, tragbare, Handheld-, Set-Top-Boxen, persönliche digitale Assistenten (PDA), ein Terminal oder jede andere gewünschte Art oder Konfiguration sein. In mindestens einer Ausführungsform können netzwerkverbundene Vorrichtungen abhängig von ihrer Funktionalität in der Verarbeitungsleistung, dem internen Speicher und anderen Leistungsaspekten stark variieren.
-
In mindestens einer Ausführungsform kann die Kommunikation innerhalb eines Netzwerks und zu oder von Rechenvorrichtungen, die mit einem Netzwerk verbunden sind, entweder drahtgebunden oder drahtlos sein. In mindestens einer Ausführungsform kann das Netzwerk 908 mindestens teilweise das weltweite öffentliche Internet beinhalten, das im Allgemeinen eine Vielzahl von Benutzern gemäß einem Client-Server-Modell gemäß einer Übertragungssteuerung verbindet protocol/internet Protokoll (TCP/IP) Spezifikation. In mindestens einer Ausführungsform ist das Client-Server-Netzwerk ein vorherrschendes Modell für die Kommunikation zwischen zwei Computern. In mindestens einer Ausführungsform gibt ein Client-Computer („Client“) einen oder mehrere Befehle an einen Server-Computer („Server“) aus. In mindestens einer Ausführungsform führt der Server Client-Befehle aus, indem er auf verfügbare Netzwerkressourcen zugreift und Informationen gemäß den Client-Befehlen an einen Client zurückgibt. In mindestens einer Ausführungsform wird Client-Computersystemen und Netzwerkressourcen, die auf Netzwerkservern resident sind, eine Netzwerkadresse zur Identifizierung während der Kommunikation zwischen Elementen eines Netzwerks zugewiesen. In mindestens einer Ausführungsform beinhalten Kommunikationen von anderen netzwerkverbundenen Systemen zu Servern eine Netzwerkadresse eines relevanten Servers/einer relevanten Netzwerkressource als Teil der Kommunikation, sodass ein geeignetes Ziel von Daten bzw. einer Anfrage als ein Empfänger identifiziert wird. In mindestens einer Ausführungsform, wenn ein Netzwerk 908 das globale Internet beinhaltet, ist eine Netzwerkadresse eine IP-Adresse in a TCP/IP Format, das Daten zumindest teilweise an ein E-Mail-Konto, eine Website oder ein anderes auf einem Server befindliches Internet-Tool weiterleiten kann. In mindestens einer Ausführungsform können Informationen und Dienste, die sich auf Netzwerkservern befinden, für einen Webbrowser eines Client-Computers über einen Domänennamen (z. B. www.site.com) verfügbar sein, der einer IP-Adresse von a zugeordnet ist Netzwerkserver.
-
In mindestens einer Ausführungsform ist eine Vielzahl von Clients 902, 904 und 906 über jeweilige Kommunikationsverbindungen mit einem Netzwerk 908 verbunden. In mindestens einer Ausführungsform kann jeder dieser Clients über jede gewünschte Kommunikationsform auf ein Netzwerk 908 zugreifen, wie etwa über eine Wählmodemverbindung, eine Kabelverbindung, eine digitale Teilnehmerleitung (DSL), eine drahtlose oder Satellitenverbindung oder irgendeine andere Form der Kommunikation. In mindestens einer Ausführungsform kann jeder Client unter Verwendung einer beliebigen Maschine kommunizieren, die mit einem Netzwerk 908 kompatibel ist, wie z. B. einem Personal Computer (PC), einer Workstation, einem dedizierten Terminal, einem persönlichen digitalen Assistenten (PDA) oder einer anderen ähnlichen Ausrüstung. In mindestens einer Ausführungsform können sich die Clients 902, 904 und 906 in einem gleichen geografischen Gebiet befinden oder nicht.
-
In mindestens einer Ausführungsform ist eine Vielzahl von Servern 910, 912 und 914 mit einem Netzwerk 918 verbunden, um Clients zu bedienen, die mit einem Netzwerk 918 kommunizieren. In mindestens einer Ausführungsform ist jeder Server typischerweise ein leistungsstarker Computer oder eine leistungsstarke Vorrichtung, die Netzwerkressourcen verwaltet und auf Client-Befehle reagiert. In mindestens einer Ausführungsform beinhalten Server computerlesbare Datenspeichermedien wie Festplattenlaufwerke und RAM-Speicher, die Programmanweisungen und Daten speichern. In mindestens einer Ausführungsform führen die Server 910, 912, 914 Anwendungsprogramme aus, die auf Client-Befehle reagieren. In mindestens einer Ausführungsform kann der Server 910 eine Webserver-Anwendung zum Reagieren auf Client-Anfragen nach HTML-Seiten ausführen und kann auch eine Mail-Server-Anwendung zum Empfangen und Weiterleiten von elektronischer Post ausführen. In mindestens einer Ausführungsform können auch andere Anwendungsprogramme, wie etwa ein FTP-Server oder ein Medienserver zum Streamen von Audio-/Videodaten an Clients, auf einem Server 910 ausgeführt werden. In mindestens einer Ausführungsform können unterschiedliche Server dazu bestimmt sein, unterschiedliche Tasks auszuführen. In mindestens einer Ausführungsform kann der Server 910 ein dedizierter Webserver sein, der Ressourcen in Bezug auf Websites für verschiedene Benutzer verwaltet, während ein Server 912 dazu bestimmt sein kann, eine Verwaltung von elektronischer Post (E-Mail) bereitzustellen. In mindestens einer Ausführungsform können andere Server für Medien (Audio, Video usw.), ein Dateiübertragungsprotokoll (file transfer protocol - FTP) oder eine Kombination von beliebigen zwei oder mehr Diensten, die typischerweise verfügbar sind oder über ein Netzwerk bereitgestellt werden, bestimmt sein. In mindestens einer Ausführungsform kann sich jeder Server an einem Ort befinden, der derselbe wie der anderer Server ist oder sich von diesem unterscheidet. In mindestens einer Ausführungsform kann es mehrere Server geben, die gespiegelte Tasks für Benutzer ausführen, wodurch Datenstaus verringert werden oder Datenverkehr, der zu und von einem einzelnen Server geleitet wird, minimiert wird. In mindestens einer Ausführungsform stehen die Server 910, 912, 914 unter der Kontrolle eines Webhosting-Anbieters in einem Geschäft zur Pflege und Bereitstellung von Inhalten Dritter über ein Netzwerk 918.
-
In mindestens einer Ausführungsform liefern Webhosting-Anbieter Dienste an zwei unterschiedliche Arten von Clients. In mindestens einer Ausführungsform fordert ein Typ, der als Browser bezeichnet werden kann, Inhalte von den Servern 910, 912, 914 wie etwa Webseiten, E-Mail-Nachrichten, Videoclips usw. an. In mindestens einer Ausführungsform ein zweiter Typ, der als Benutzer bezeichnet werden kann, beauftragt einen Webhosting-Anbieter damit, eine Netzwerkressource wie eine Website zu verwalten und sie Browsern zur Verfügung zu stellen. In mindestens einer Ausführungsform schließen Benutzer einen Vertrag mit einem Webhosting-Anbieter ab, um Speicherplatz, Prozessorkapazität und Kommunikationsbandbreite für ihre gewünschte Netzwerkressource gemäß einer Menge von Serverressourcen verfügbar zu machen, die ein Benutzer nutzen möchte.
-
Damit ein Webhosting-Anbieter Dienste für diese beiden Clients bereitstellen kann, müssen in mindestens einer Ausführungsform Anwendungsprogramme, die durch Server gehostete Netzwerkressourcen verwalten, richtig konfiguriert sein. In mindestens einer Ausführungsform beinhaltet der Programmkonfigurationsprozess das Definieren eines Satzes von Parametern, die mindestens teilweise die Antwort eines Anwendungsprogramms auf Browseranforderungen steuern und die auch mindestens teilweise Serverressourcen definieren, die einem bestimmten Benutzer zur Verfügung stehen.
-
In einer Ausführungsform steht ein Intranet-Server 916 mit einem Netzwerk 908 über eine Kommunikationsverbindung in Kommunikation. In mindestens einer Ausführungsform steht der Intranet-Server 916 mit einem Servermanager 918 in Kommunikation. In mindestens einer Ausführungsform umfasst der Servermanager 918 eine Datenbank mit Konfigurationsparametern eines Anwendungsprogramms, die in den Servern 910, 912, 914 genutzt werden. In mindestens einer Ausführungsform modifizieren Benutzer eine Datenbank 920 über ein Intranet 916 und interagiert ein Servermanager 918 mit Servern 910, 912, 914, um Anwendungsprogrammparameter so zu modifizieren, dass sie mit einem Inhalt einer Datenbank übereinstimmen. In mindestens einer Ausführungsform meldet sich ein Benutzer bei einem Intranet-Server 916 an, indem er sich über den Computer 902 mit einem Intranet 916 verbindet und Authentifizierungsinformationen wie etwa einen Benutzernamen und ein Passwort eingibt.
-
In mindestens einer Ausführungsform authentifiziert ein Intranet-Server 916 einen Benutzer, wenn sich ein Benutzer für einen neuen Dienst anmelden oder einen bestehenden Dienst modifizieren möchte, und stellt einem Benutzer eine interaktive Bildschirmanzeige/ein Bedienfeld bereit, die bzw. das einem Benutzer den Zugriff auf Konfigurationsparameter für ein konkretes Anwendungsprogramm erlaubt. In mindestens einer Ausführungsform wird einem Benutzer eine Reihe von modifizierbaren Textfeldern präsentiert, die Aspekte einer Konfiguration einer Benutzerwebsite oder einer anderen Netzwerkressource beschreiben. Wenn ein Benutzer in mindestens einer Ausführungsform den auf einem Server für seine Website reservierten Speicherplatz vergrößern möchte, wird einem Benutzer ein Feld bereitgestellt, in dem ein Benutzer einen gewünschten Speicherplatz festlegt. In mindestens einer Ausführungsform aktualisiert ein Intranet-Server 916 als Reaktion auf den Empfang dieser Informationen eine Datenbank 920. In mindestens einer Ausführungsform leitet der Servermanager 918 diese Informationen an einen geeigneten Server weiter, und ein neuer Parameter wird während des Anwendungsprogrammbetriebs verwendet. In mindestens einer Ausführungsform ist ein Intranet-Server 916 konfiguriert, um Benutzern Zugriff auf Konfigurationsparameter von gehosteten Netzwerkressourcen (z. B. Webseiten, E-Mail, FTP-Sites, Mediensites usw.) bereitzustellen, für die ein Benutzer einen Vertrag mit einem Webhosting-Dienstanbieter abgeschlossen hat.
-
10A veranschaulicht ein vernetztes Computersystem 1000A gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform umfasst das vernetzte Computersystem 1000A eine Vielzahl von Knoten oder Personalcomputern („PCs“) 1002, 1018, 1020. In mindestens einer Ausführungsform umfasst der Personalcomputer oder Knoten 1002 einen Prozessor 1014, einen Speicher 1016, eine Videokamera 1004, ein Mikrofon 1006, eine Maus 1008, Lautsprecher 1010 und einen Monitor 1012. In mindestens einer Ausführungsform können die PCs 1002, 1018, 1020 beispielsweise jeweils einen oder mehrere Desktop-Server eines internen Netzwerks innerhalb einer gegebenen Firma ausführen oder können Server eines allgemeinen Netzwerks sein, das nicht auf eine spezifische Umgebung beschränkt ist. In mindestens einer Ausführungsform gibt es einen Server pro PC-Knoten eines Netzwerks, sodass jeder PC-Knoten eines Netzwerks einen konkreten Netzwerkserver mit einer konkreten Netzwerk-URL-Adresse darstellt. In mindestens einer Ausführungsform wird auf jedem Server eine Standard-Webseite für den Benutzer dieses Servers angezeigt, die ihrerseits eingebettete Links beinhalten kann, die auf weitere Unterseiten dieses Benutzers auf diesem Server oder auf andere Server oder Seiten auf anderen Servern in einem Netzwerk verweisen.
-
In mindestens einer Ausführungsform sind die Knoten 1002, 1018, 1020 und andere Knoten eines Netzwerks über ein Medium 1022 miteinander verbunden. In mindestens einer Ausführungsform kann das Medium 1022 ein Kommunikationskanal sein, wie etwa ein Integrated Services Digital Network („ISDN“). In mindestens einer Ausführungsform können verschiedene Knoten eines vernetzten Computersystems durch eine Vielzahl von Kommunikationsmedien verbunden sein, einschließlich lokaler Netze („LANs“), einfacher Telefonleitungen („POTS“), die manchmal als öffentlich geschaltet bezeichnet werden Telefonnetze („PSTN“), und/oder Variationen davon. Bei mindestens einer Ausführungsform können verschiedene Knoten eines Netzwerks auch Computersystembenutzer bilden, die über ein Netzwerk wie das Internet miteinander verbunden sind. In mindestens einer Ausführungsform hat jeder Server in einem Netzwerk (der von einem bestimmten Knoten eines Netzwerks zu einer gegebenen Instanz läuft) eine eindeutige Adresse oder Identifikation innerhalb eines Netzwerks, die in Form einer URL spezifizierbar sein kann.
-
In mindestens einer Ausführungsform kann somit eine Vielzahl von Mehrpunkt-Konferenzeinheiten (multi-point conferencing units - „MCU“) verwendet werden, um Daten zu und von verschiedenen Knoten oder „Endpunkten“ eines Konferenzsystems zu übertragen. In mindestens einer Ausführungsform Knoten und/oder MCUs können über eine ISDN-Verbindung oder über ein lokales Netzwerk („LAN“) zusätzlich zu verschiedenen anderen Kommunikationsmedien, wie z. B. Knoten, die über das Internet verbunden sind, miteinander verbunden sein. In mindestens einer Ausführungsform können Knoten eines Konferenzsystems im Allgemeinen direkt mit einem Kommunikationsmedium wie etwa einem LAN oder über eine MCU verbunden sein, und dass ein Konferenzsystem andere Knoten oder Elemente wie etwa Router, Server, und/oder Variationen davon.
-
In mindestens einer Ausführungsform ist der Prozessor 1014 ein programmierbarer Allzweckprozessor. In mindestens einer Ausführungsform können Prozessoren von Knoten des vernetzten Computersystems 1000A auch Spezial-Videoprozessoren sein. Bei mindestens einer Ausführungsform können sich verschiedene Peripheriegeräte und Komponenten eines Knotens, wie beispielsweise diejenigen des Knotens 1002, von denen anderer Knoten unterscheiden. In mindestens einer Ausführungsform können der Knoten 1018 und der Knoten 1020 identisch oder anders als der Knoten 1002 konfiguriert sein. In mindestens einer Ausführungsform kann ein Knoten zusätzlich zu PC-Systemen auf jedem geeigneten Computersystem implementiert sein.
-
10B veranschaulicht ein vernetztes Computersystem 1000B gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform veranschaulicht das System 1000B ein Netzwerk wie ein LAN 1024, das verwendet werden kann, um eine Vielzahl von Knoten zu verbinden, die miteinander kommunizieren kann. In mindestens einer Ausführungsform ist eine Vielzahl von Knoten an das LAN 1024 angeschlossen, wie etwa PC-Knoten 1026, 1028, 1030. In mindestens einer Ausführungsform kann ein Knoten auch über einen Netzwerkserver oder andere Mittel mit dem LAN verbunden sein. In mindestens einer Ausführungsform umfasst das System 1000B andere Arten von Knoten oder Elementen, wobei mindestens eine Ausführungsform Router, Server und Knoten beinhaltet.
-
10C veranschaulicht ein vernetztes Computersystem 1000C gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform veranschaulicht das System 1000C ein WWW-System, das Kommunikationen über ein Backbone-Kommunikationsnetzwerk wie etwa das Internet 1032 aufweist, das verwendet werden kann, um eine Vielzahl von Knoten eines Netzes miteinander zu verbinden. In mindestens einer Ausführungsform ist WWW ein Satz von Protokollen, die auf dem Internet arbeiten und es einem grafischen Schnittstellensystem ermöglichen, darauf zu arbeiten, um über das Internet auf Informationen zuzugreifen. In mindestens einer Ausführungsform ist an das Internet 1032 im WWW eine Vielzahl von Knotenpunkten wie PCs 1040, 1042, 1044 angeschlossen. In mindestens einer Ausführungsform bildet ein Knoten über einen WWW-HTTP-Server, wie etwa die Server 1034, 1036, eine Schnittstelle mit anderen Knoten des WWW. In mindestens einer Ausführungsform kann der PC 1044 ein PC sein, der einen Knoten des Netzwerks 1032 bildet und selbst seinen Server 1036 betreibt, obwohl der PC 1044 und der Server 1036 in 10C zur Veranschaulichung getrennt veranschaulicht sind.
-
In mindestens einer Ausführungsform ist WWW ein verteilter Anwendungstyp, gekennzeichnet durch WWW HTTP, das WWW-Protokoll, das auf dem Übertragungssteuerungsprotokoll/Internetprotokoll („TCP/IP“) des Internets läuft. In mindestens einer Ausführungsform kann das WWW somit durch einen Satz von Protokollen (d. h. HTTP) gekennzeichnet sein, die im Internet als sein „Backbone“ laufen.
-
In mindestens einer Ausführungsform ist ein Webbrowser eine Anwendung, die auf einem Knoten eines Netzwerks läuft, die es Benutzern eines bestimmten Servers oder Knotens in Netzwerksystemen vom WWW-kompatiblen Typ ermöglicht, solche Informationen anzuzeigen, und es einem Benutzer somit ermöglicht, grafisch zu suchen und textbasierte Dateien, die über Hypertext-Links miteinander verknüpft sind, die in Dokumente oder Dateien eingebettet sind, die von Servern in einem Netzwerk verfügbar sind, die HTTP verstehen. In mindestens einer Ausführungsform kann ein abgerufenes Dokument verschiedene darin eingebettete Hypertext-Links und eine lokale Kopie einer Seite aufweisen, die lokal für einen abrufenden Benutzer erstellt wird, wenn eine gegebene Webseite eines ersten Servers, der einem ersten Knoten zugeordnet ist, durch einen Benutzer unter Verwendung eines anderen Servers in einem Netzwerk wie dem Internet abgerufen wird. Wenn ein Benutzer auf einen Hypertext-Link klickt, reichen bei mindestens einer Ausführungsform typischerweise lokal gespeicherte Informationen in Bezug auf einen ausgewählten Hypertext-Link aus, um der Maschine eines Benutzers zu ermöglichen, eine Verbindung über das Internet zu einem durch einen Hypertext-Link angezeigten Server herzustellen.
-
In mindestens einer Ausführungsform kann mehr als ein Benutzer mit jedem HTTP-Server über ein LAN wie das LAN 1038 gekoppelt sein, wie in Bezug auf den WWW-HTTP-Server 1034 dargestellt. In mindestens einer Ausführungsform kann das System 1000C auch andere Arten von Knoten oder Elementen umfassen. In mindestens einer Ausführungsform ist ein WWW-HTTP-Server eine Anwendung, die auf einer Maschine, wie etwa einem PC, läuft. In mindestens einer Ausführungsform kann davon ausgegangen werden, dass jeder Benutzer einen eindeutigen „Server“ hat, wie in Bezug auf den PC 1044 dargestellt. In mindestens einer Ausführungsform kann ein Server als ein Server betrachtet werden, wie etwa der WWW-HTTP-Server 1034, der Zugriff auf ein Netzwerk für ein LAN oder eine Vielzahl von Knoten oder eine Vielzahl von LAN bereitstellt. In mindestens einer Ausführungsform gibt es eine Vielzahl von Benutzern, von der jeder einen Desktop-PC oder Knoten eines Netzwerks aufweist, wobei jeder Desktop-PC potentiell einen Server für einen Benutzer davon herstellt. In mindestens einer Ausführungsform ist jeder Server einer konkreten Netzwerkadresse oder URL zugeordnet, die, wenn darauf zugegriffen wird, eine Standardwebseite für diesen Benutzer bereitstellt. In mindestens einer Ausführungsform kann eine Webseite weitere Links (eingebettete URL) beinhalten, die auf weitere Unterseiten dieses Benutzers auf diesem Server oder auf andere Server in einem Netzwerk oder Seiten auf anderen Servern in einem Netzwerk zeigen.
-
CLOUD-COMPUTING UND -DIENSTE
-
Die folgenden Figuren legen ohne Einschränkung beispielhafte cloud-basierte Systeme dar, die verwendet werden können, um mindestens eine Ausführungsform zu implementieren.
-
In mindestens einer Ausführungsform ist Cloud-Computing eine Machart eines Rechensystems, bei dem dynamisch skalierbare und oft virtualisierte Ressourcen als Dienst über das Internet bereitgestellt werden. In mindestens einer Ausführungsform müssen Benutzer keine Kenntnisse, Fachkenntnisse oder Kontrolle über die Technologieinfrastruktur haben, die als „in der Cloud“ bezeichnet werden kann, die sie unterstützt. In mindestens einer Ausführungsform umfasst Cloud-Computing Infrastruktur-als-Dienst, Plattform-als-Dienst, Software-als-Dienst und andere Variationen, die ein gemeinsames Leitmotiv der Abhängigkeit vom Internet zum Erfüllen von Rechenbedürfnissen von Benutzern aufweisen. In mindestens einer Ausführungsform kann eine typische Cloud-Bereitstellung, wie etwa in einer privaten Cloud (z. B. Unternehmensnetzwerk) oder einem Rechenzentrum (DC) in einer öffentlichen Cloud (z. B. Internet) aus Tausenden von Servern bestehen (oder alternativ, VMs), Hunderte von Ethernet-, Fibre Channel- oder Fibre Channel over Ethernet (FCoE)-Ports, Switching- und Speicherinfrastruktur usw. In mindestens einer Ausführungsform kann die Cloud auch aus einer Netzwerkdienstinfrastruktur wie IPsec-VPN-Hubs, Firewalls, Load Balancer, Wide Area Network (WAN)-Optimierer usw. In mindestens einer Ausführungsform können entfernte Teilnehmer sicher auf Cloud-Anwendungen und -Dienste zugreifen, indem sie sich über einen VPN-Tunnel, wie z. B. einen IPsec-VPN-Tunnel, verbinden.
-
In mindestens einer Ausführungsform ist Cloud-Computing ein Modell zum Ermöglichen eines bequemen On-Demand-Netzwerkzugriffs auf einen gemeinsam genutzten Pool konfigurierbarer Rechenressourcen (z. B. Netzwerke, Server, Speicher, Anwendungen und Dienste), die schnell mit minimalem Verwaltungsaufwand oder Dienstanbieterinteraktion bereitgestellt und freigegeben werden können.
-
In mindestens einer Ausführungsform ist Cloud-Computing durch On-Demand-Selbstbedienung gekennzeichnet, bei der ein Verbraucher einseitig Rechenfähigkeiten, wie etwa Serverzeit und Netzwerkspeicher, nach Bedarf automatisch bereitstellen kann, ohne dass eine menschliche Interaktion mit dem jeweiligen Dienstanbieter erforderlich ist. In mindestens einer Ausführungsform ist Cloud Computing durch einen breiten Netzwerkzugriff gekennzeichnet, bei dem Fähigkeiten über ein Netzwerk verfügbar sind und auf die über Standardmechanismen zugegriffen wird, die die Verwendung durch heterogene Thin- oder Thick-Client-Plattformen (z. B. Mobiltelefone, Laptops und PDAs) fördern. In mindestens einer Ausführungsform ist Cloud-Computing gekennzeichnet durch Ressourcen-Pooling, bei dem die Rechenressourcen eines Anbieters gepoolt werden, um mehrere Verbraucher unter Verwendung eines mehrmandantenfähigen Modells zu bedienen, wobei verschiedene physische und virtuelle Ressourcen gemäß Verbrauchernachfrage dynamisch zugewiesen und neu zugewiesen werden. In mindestens einer Ausführungsform besteht ein Gefühl der Standortunabhängigkeit darin, dass ein Kunde im Allgemeinen keine Kontrolle oder Kenntnis über einen genauen Standort der bereitgestellten Ressourcen hat, aber in der Lage sein kann, den Standort auf einer höheren Abstraktionsebene (z. B. Land, Staat oder Rechenzentrum) festzulegen.
-
In mindestens einer Ausführungsform beinhalten Ressourcen Speicherung, Verarbeitung, Arbeitsspeicher, Netzwerkbandbreite und virtuelle Maschinen. In mindestens einer Ausführungsform ist Cloud-Computing durch eine schnelle Elastizität gekennzeichnet, bei der Fähigkeiten schnell und elastisch, in einigen Fällen automatisch, für ein schnelles Scale-Out bereitgestellt werden können und für ein schnelles Scale-In schnell freigegeben werden. In mindestens einer Ausführungsform erscheinen einem Verbraucher die zur Bereitstellung verfügbaren Fähigkeiten oft als unbegrenzt und können jederzeit in beliebiger Menge erworben werden. In mindestens einer Ausführungsform ist Cloud-Computing durch einen gemessenen Dienst gekennzeichnet, bei dem Cloud-Systeme die Ressourcennutzung automatisch steuern und optimieren, indem sie eine Messfähigkeit auf einer bestimmten Abstraktionsebene nutzen, die für eine Art von Dienst (z. B. Speicherung, Verarbeitung, Bandbreite und aktive Benutzerkonten) geeignet ist. In mindestens einer Ausführungsform kann die Ressourcennutzung überwacht, gesteuert und gemeldet werden, um Transparenz sowohl für einen Anbieter als auch für einen Verbraucher eines genutzten Dienstes bereitzustellen.
-
In mindestens einer Ausführungsform kann das Cloud-Computing mit verschiedenen Diensten verbunden sein. In mindestens einer Ausführungsform kann sich Cloud Software as a Service (SaaS) auf einen Dienst beziehen, bei dem eine einem Verbraucher bereitgestellte Fähigkeit darin besteht, die Anwendungen eines Anbieters zu nutzen, die auf einer Cloud-Infrastruktur laufen. In mindestens einer Ausführungsform sind Anwendungen von verschiedenen Client-Vorrichtungen über eine Thin-Client-Schnittstelle wie etwa einen Webbrowser (z. B. webbasierte E-Mail) zugänglich. In mindestens einer Ausführungsform verwaltet oder kontrolliert der Verbraucher keine zugrunde liegende Cloud-Infrastruktur, einschließlich Netzwerk, Server, Betriebssysteme, Speicher oder sogar einzelne Anwendungsfunktionen, mit einer möglichen Ausnahme von begrenzten benutzerspezifischen Anwendungskonfigurationseinstellungen.
-
In mindestens einer Ausführungsform kann sich Cloud Platform as a Service (PaaS) auf einen Dienst beziehen, bei dem eine einem Verbraucher bereitgestellte Fähigkeit darin besteht, von Verbrauchern erstellte oder erworbene Anwendungen auf einer Cloud-Infrastruktur bereitzustellen, die unter Verwendung von Programmiersprachen und Tools erstellt wurden, die von einem Anbieter unterstützt werden. In mindestens einer Ausführungsform verwaltet oder kontrolliert der Verbraucher nicht die zugrunde liegende Cloud-Infrastruktur, einschließlich Netzwerken, Servern, Betriebssystemen oder Speicherplatz, sondern hat die Kontrolle über die bereitgestellten Anwendungen und möglicherweise die Konfigurationen der Anwendungshosting-Umgebung.
-
In mindestens einer Ausführungsform kann sich Cloud Infrastructure as a Service (IaaS) auf einen Dienst beziehen, bei dem eine einem Verbraucher bereitgestellte Fähigkeit darin besteht, Verarbeitungs-, Speicher-, Netzwerk- und andere grundlegende Rechenressourcen bereitzustellen, die ein Verbraucher bereitstellen und ausführen kann beliebige Software, die Betriebssysteme und Anwendungen beinhalten kann. In mindestens einer Ausführungsform verwaltet oder kontrolliert der Verbraucher die zugrunde liegende Cloud-Infrastruktur nicht, hat aber die Kontrolle über Betriebssysteme, Speicher, eingesetzte Anwendungen und möglicherweise begrenzte Kontrolle über ausgewählte Netzwerkkomponenten (z. B. Host-Firewalls).
-
In mindestens einer Ausführungsform kann Cloud-Computing auf verschiedene Art und Weise eingesetzt werden. In mindestens einer Ausführungsform kann sich eine private Cloud auf eine Cloud-Infrastruktur beziehen, die ausschließlich für eine Organisation betrieben wird. In mindestens einer Ausführungsform kann eine private Cloud von einer Organisation oder einem Dritten verwaltet werden und kann lokal oder extern bestehen. In mindestens einer Ausführungsform kann sich eine gemeinschaftliche Cloud auf eine Cloud-Infrastruktur beziehen, die von mehreren Organisationen gemeinsam genutzt wird und eine bestimmte Gemeinschaft unterstützt, die gemeinsame Anliegen hat (z. B. Zielsetzung, Sicherheitsanforderungen, Richtlinien und Compliance-Überlegungen). In mindestens einer Ausführungsform kann eine Community-Cloud kann von Unternehmen oder einem Dritten verwaltet werden und sowohl lokal als auch extern bestehen. In mindestens einer Ausführungsform kann sich eine öffentliche Cloud auf eine Cloud-Infrastruktur beziehen, die einer breiten Öffentlichkeit oder einer großen Industriegruppe zur Verfügung gestellt wird und sich im Besitz einer Organisation befindet, die Cloud-Dienste bereitstellt. In mindestens einer Ausführungsform kann sich eine hybride Cloud auf eine Cloud-Infrastruktur beziehen, die eine Zusammensetzung aus zwei oder mehr Clouds (privat, gemeinschaftlich oder öffentlich) ist, die einzigartige Einheiten bleiben, aber durch standardisierte oder proprietäre Technologie, die Daten und Anwendungen ermöglicht, miteinander verbunden sind Portabilität (z. B. Cloud-Bursting zum Lastenausgleich zwischen Clouds). In mindestens einer Ausführungsform ist eine Cloud-Computing-Umgebung dienstorientiert mit einem Fokus auf Staatenlosigkeit, geringe Kopplung, Modularität und semantische Interoperabilität.
-
11 veranschaulicht eine oder mehrere Komponenten einer Systemumgebung 1100, in der Dienste als Drittanbieter-Netzwerkdienste angeboten werden können, gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform kann ein Drittanbieter-Netzwerk als Cloud, Cloud-Netzwerk, Cloud-Computing-Netzwerk und/oder Variationen davon bezeichnet werden. In mindestens einer Ausführungsform beinhaltet die Systemumgebung 1100 eine oder mehrere Client-Rechenvorrichtungen 1104, 1106 und 1108, die durch Benutzer verwendet werden können, um mit einem Drittanbieter-Netzwerkinfrastruktursystem 1102 zu interagieren, das Drittanbieter-Netzwerkdienste bereitstellt, die als Cloud-Computing-Dienste bezeichnet werden können. In mindestens einer Ausführungsform kann das Drittanbieter-Netzwerkinfrastruktursystem 1102 einen oder mehrere Computer und/oder Server umfassen.
-
Es versteht sich, dass das in 11 dargestellte Drittanbieter-Netzwerkinfrastruktursystem 1102 andere Komponenten als die dargestellten aufweisen kann. Ferner zeigt 11 eine Ausführungsform eines Drittanbieter-Netzwerkinfrastruktursystems. In mindestens einer Ausführungsform kann das Drittanbieter-Netzwerkinfrastruktursystem 1102 mehr oder weniger Komponenten aufweisen als in 11 dargestellt, kann zwei oder mehr Komponenten kombinieren oder kann eine andere Konfiguration oder Anordnung von Komponenten aufweisen.
-
In mindestens einer Ausführungsform können die Client-Rechenvorrichtungen 1104, 1106 und 1108 konfiguriert sein, um eine Client-Anwendung, wie etwa einen Webbrowser, eine proprietäre Client-Anwendung oder eine andere Anwendung, zu betreiben, die durch einen Benutzer einer Client-Rechenvorrichtung verwendet werden kann, um mit dem Drittanbieter-Netzwerkinfrastruktursystem 1102 zu interagieren, um Dienste zu nutzen, die durch das Drittanbieter-Netzwerkinfrastruktursystem 1102 bereitgestellt werden. Auch wenn die beispielhafte Systemumgebung 1100 mit drei Client-Rechenvorrichtungen gezeigt ist, kann eine beliebige Anzahl von Client-Rechenvorrichtungen unterstützt werden. In mindestens einer Ausführungsform können andere Vorrichtungen wie etwa Vorrichtungen mit Sensoren usw. mit dem Netzwerkinfrastruktursystem 1102 eines Drittanbieters interagieren. In mindestens einer Ausführungsform können das/die Netzwerk(e) 1110 die Kommunikation und den Austausch von Daten zwischen den Client-Rechenvorrichtungen 1104, 1106 und 1108 und dem Drittanbieter-Netzwerkinfrastruktursystem 1102 ermöglichen.
-
In mindestens einer Ausführungsform können die vom Netzwerkinfrastruktursystem 1102 eines Drittanbieters bereitgestellten Dienste eine Vielzahl von Diensten beinhalten, die Benutzern eines Netzwerkinfrastruktursystems eines Drittanbieters auf Anfrage zur Verfügung gestellt werden. In mindestens einer Ausführungsform können auch verschiedene Dienste angeboten werden, einschließlich ohne Einschränkung Online-Datenspeicher- und Sicherungslösungen, webbasierte E-Mail-Dienste, gehostete Office-Suiten und Dienste für die Zusammenarbeit von Dokumenten, Datenbankverwaltung und -verarbeitung, verwaltete technische Supportdienste und/oder Variationen davon. In mindestens einer Ausführungsform können Dienste, die durch ein Drittanbieter-Netzwerkinfrastruktursystem bereitgestellt werden, dynamisch skalieren, um die Bedürfnisse ihrer Benutzer zu erfüllen.
-
In mindestens einer Ausführungsform kann eine spezifische Instanziierung eines Dienstes, der durch das Drittanbieter-Netzwerkinfrastruktursystem 1102 bereitgestellt wird, als eine „Dienstinstanz“ bezeichnet werden. In mindestens einer Ausführungsform wird im Allgemeinen jeder Dienst, der einem Benutzer über ein Kommunikationsnetzwerk, wie beispielsweise das Internet, von einem System eines Drittnetzwerkdienstanbieters zur Verfügung gestellt wird, als ein „Drittparteinetzwerkdienst“ bezeichnet. In mindestens einer Ausführungsform unterscheiden sich in einer öffentlichen Drittanbieter-Netzwerkumgebung Server und Systeme, die das System eines Drittanbieter-Netzwerkdienstanbieters bilden, von den eigenen lokalen Servern und Systemen eines Kunden. In mindestens einer Ausführungsform kann das System eines Drittanbieter-Netzwerkdienstanbieters eine Anwendung hosten, und ein Benutzer kann über ein Kommunikationsnetzwerk wie das Internet auf Anfrage eine Anwendung bestellen und verwenden.
-
In mindestens einer Ausführungsform kann ein Dienst in einer Computernetzwerk-Netzwerkinfrastruktur eines Drittanbieters einen geschützten Computernetzwerkzugriff auf Speicher, eine gehostete Datenbank, einen gehosteten Webserver, eine Softwareanwendung oder einen anderen Dienst beinhalten, die einem Benutzer durch einen Drittanbieter-Netzwerkhersteller bereitgestellt werden. In mindestens einer Ausführungsform kann ein Dienst einen passwortgeschützten Zugriff auf einen entfernten Speicher in einem Drittanbieter-Netzwerk über das Internet beinhalten. In mindestens einer Ausführungsform kann ein Dienst eine auf einem Webdienst basierende gehostete relationale Datenbank und eine Middleware-Engine in Skriptsprache zur privaten Verwendung durch einen vernetzten Entwickler beinhalten. In mindestens einer Ausführungsform kann ein Dienst Zugriff auf eine E-Mail-Softwareanwendung beinhalten, die auf der Website eines Drittanbieter-Netzwerkherstellers gehostet wird.
-
In mindestens einer Ausführungsform kann das Drittanbieter-Netzwerkinfrastruktursystem 1102 eine Suite von Anwendungen, Middleware und Datenbankdienstangeboten beinhalten, die einem Kunden in Selbstbedienung, abonnementbasiert, elastisch skalierbar, zuverlässig, hochverfügbar und sicher geliefert werden. In mindestens einer Ausführungsform kann das Drittanbieter-Netzwerkinfrastruktursystem 1102 auch „Big Data“-bezogene Berechnungs- und Analysedienste bereitstellen. In mindestens einer Ausführungsform wird der Begriff „Big Data“ allgemein verwendet, um sich auf extrem große Datensätze zu beziehen, die von Analysten und Forschern gespeichert und manipuliert werden können, um große Datenmengen zu visualisieren, Trends zu erkennen und/oder anderweitig mit Daten zu interagieren. In mindestens einer Ausführungsform können Big Data und zugehörige Anwendungen durch ein Infrastruktursystem auf vielen Ebenen und in unterschiedlichen Maßstäben gehostet und/oder manipuliert werden. In mindestens einer Ausführungsform können Dutzende, Hunderte oder Tausende parallel verbundener Prozessoren auf solche Daten einwirken, um sie darzustellen oder externe Kräfte auf Daten oder das, was sie darstellen, zu simulieren. In mindestens einer Ausführungsform können diese Datensätze strukturierte Daten beinhalten, wie etwa solche, die in einer Datenbank oder anderweitig gemäß einem strukturierten Modell organisiert sind und/oder unstrukturierte Daten (z. B. E-Mails, Bilder, Daten-Blobs (Binary Large Objects), Webseiten, komplexe Ereignisverarbeitung). In mindestens einer Ausführungsform kann durch Nutzung der Fähigkeit einer Ausführungsform, relativ schnell mehr (oder weniger) Rechenressourcen auf ein Ziel zu konzentrieren, ein Drittanbieter-Netzwerkinfrastruktursystem besser verfügbar sein, um Tasks an großen Datensätzen basierend auf der Nachfrage von einem Unternehmen, einer Regierungsbehörde, einer Forschungseinrichtung, einer Privatperson, einer Gruppe gleichgesinnter Personen oder Organisationen oder einer anderen Einheit auszuführen.
-
In mindestens einer Ausführungsform kann das Drittanbieter-Netzwerkinfrastruktursystem 1102 angepasst sein, um das Abonnement eines Kunden für Dienste, die durch das Drittanbieter-Netzwerkinfrastruktursystem 1102 angeboten werden, automatisch bereitzustellen, zu verwalten und zu verfolgen. In mindestens einer Ausführungsform kann das Drittanbieter-Netzwerkinfrastruktursystem 1102 über verschiedene Einsatzmodelle Drittanbieter-Netzwerkdienste bereitstellen. In mindestens einer Ausführungsform können Dienste im Rahmen eines öffentlichen Drittanbieter-Netzwerkmodells bereitgestellt werden, bei dem das Drittanbieter-Netzwerkinfrastruktursystem 1102 im Besitz einer Organisation ist, die Drittanbieter-Netzwerkdienste verkauft und Dienste einer breiten Öffentlichkeit oder unterschiedlichen Industrieunternehmen zur Verfügung stellt. In mindestens einer Ausführungsform können Dienste unter einem privaten Netzwerkmodell eines Drittanbieters bereitgestellt werden, in dem das Netzwerkinfrastruktursystem 1102 eines Drittanbieters ausschließlich für eine einzelne Organisation betrieben wird und Dienste für eine oder mehrere Einheiten innerhalb einer Organisation bereitstellen kann. In mindestens einer Ausführungsform können Drittanbieter-Netzwerkdienste auch im Rahmen eines gemeinschaftlichen Drittanbieter-Netzwerkmodells bereitgestellt werden, bei dem das Drittanbieter-Netzwerkinfrastruktursystem 1102 und Dienste, die durch das Drittanbieter-Netzwerkinfrastruktursystem 1102 bereitgestellt werden, von mehreren Organisationen in einer zusammenhängenden Gemeinschaft gemeinsam genutzt werden. In mindestens einer Ausführungsform können Drittanbieter-Netzwerkdienste auch unter einem hybriden Drittanbieter-Netzwerkmodell bereitgestellt werden, das eine Kombination aus zwei oder mehr unterschiedlichen Modellen ist.
-
In mindestens einer Ausführungsform können die vom Netzwerkinfrastruktursystem 1102 eines Drittanbieters bereitgestellten Dienste einen oder mehrere Dienste beinhalten, die unter der Kategorie „Software as a Service“ (SaaS), der Kategorie „Platform as a Service“ (PaaS), der Kategorie „Infrastructure as a Service“ (IaaS) bereitgestellt werden oder andere Kategorien von Diensten, einschließlich hybrider Dienste. In mindestens einer Ausführungsform kann ein Kunde über eine Abonnementbestellung einen oder mehrere Dienste bestellen, die vom Netzinfrastruktursystem 1102 eines Dritten bereitgestellt werden. In mindestens einer Ausführungsform führt das Drittanbieter-Netzwerkinfrastruktursystem 1102 dann die Verarbeitung durch, um Dienste in einem Abonnementauftrag des Kunden bereitzustellen.
-
In mindestens einer Ausführungsform können Dienste, die durch das Drittanbieter-Netzwerkinfrastruktursystem 1102 bereitgestellt werden, ohne Einschränkung Anwendungsdienste, Plattformdienste und Infrastrukturdienste beinhalten. In mindestens einer Ausführungsform können Anwendungsdienste durch ein Drittanbieter-Netzwerkinfrastruktursystem über eine SaaS-Plattform bereitgestellt werden. In mindestens einer Ausführungsform kann die SaaS-Plattform konfiguriert sein, um Drittanbieter-Netzwerkdienste bereitzustellen, die in eine SaaS-Kategorie fallen. In mindestens einer Ausführungsform kann die SaaS-Plattform Fähigkeiten zum Erstellen und Liefern einer Suite von On-Demand-Anwendungen auf einer integrierten Entwicklungs- und Einsatzplattform bereitstellen. In mindestens einer Ausführungsform kann die SaaS-Plattform die zugrundeliegende Software und Infrastruktur zum Bereitstellen von SaaS-Diensten verwalten und steuern. In mindestens einer Ausführungsform können Kunden durch Nutzung von durch eine SaaS-Plattform bereitgestellten Diensten Anwendungen nutzen, die in einem Drittanbieter-Netzwerkinfrastruktursystem ausgeführt werden. In mindestens einer Ausführungsform können Kunden Anwendungsdienste erwerben, ohne dass Kunden separate Lizenzen und Support erwerben müssen. In mindestens einer Ausführungsform können verschiedene unterschiedliche SaaS-Dienste bereitgestellt werden. In mindestens einer Ausführungsform kann dies ohne Einschränkung Dienste beinhalten, die Lösungen für das Vertriebsleistungsmanagement, die Unternehmensintegration und die Geschäftsflexibilität für große Organisationen bereitstellen.
-
In mindestens einer Ausführungsform können Plattformdienste durch das Drittanbieter-Netzwerkinfrastruktursystem 1102 über eine Paas-Plattform bereitgestellt werden. In mindestens einer Ausführungsform kann die PaaS-Plattform konfiguriert sein, um Drittanbieter-Netzwerkdienste bereitzustellen, die in eine PaaS-Kategorie fallen. In mindestens einer Ausführungsform können Plattformdienste ohne Einschränkung Dienste beinhalten, die es Organisationen ermöglichen, vorhandene Anwendungen auf einer geteilten, gemeinsamen Architektur zu konsolidieren, sowie die Fähigkeit, neue Anwendungen zu erstellen, die durch eine Plattform bereitgestellte geteilte Dienste einsetzen. In mindestens einer Ausführungsform kann die PaaS-Plattform die zugrundeliegende Software und Infrastruktur zum Bereitstellen von PaaS-Diensten verwalten und steuern. In mindestens einer Ausführungsform können Kunden PaaS-Dienste, die durch das Drittanbieter-Netzwerkinfrastruktursystem 1102 bereitgestellt werden, erwerben, ohne dass Kunden separate Lizenzen und Support erwerben müssen.
-
In mindestens einer Ausführungsform können Kunden durch die Nutzung von Diensten, die durch eine PaaS-Plattform bereitgestellt werden, Programmiersprachen und Tools einsetzen, die durch ein Drittanbieter-Netzwerkinfrastruktursystem unterstützt werden, und auch eingesetzte Dienste steuern. In mindestens einer Ausführungsform können Plattformdienste, die durch ein Drittanbieter-Netzwerkinfrastruktursystem bereitgestellt werden, Datenbank-Drittanbieter-Netzwerkdienste, Middleware-Drittanbieter-Netzwerkdienste und Drittanbieter-Netzwerkdienste beinhalten. In mindestens einer Ausführungsform können Datenbank-Drittanbieter-Netzwerkdienste Shared-Service-Bereitstellungsmodelle unterstützen, die es Organisationen ermöglichen, Datenbankressourcen zu bündeln und Kunden eine Datenbank als Dienst in Form eines Datenbank-Drittanbieter-Netzwerks anzubieten. In mindestens einer Ausführungsform können Middleware-Drittanbieter-Netzwerkdienste eine Plattform für Kunden bereitstellen, um verschiedene Geschäftsanwendungen zu entwickeln und bereitzustellen, und die Drittanbieter-Netzwerkdienste können eine Plattform für Kunden bereitstellen, um Anwendungen in einem Drittanbieter-Netzwerkinfrastruktursystem einzusetzen.
-
In mindestens einer Ausführungsform können verschiedene unterschiedliche Infrastrukturdienste durch eine IaaS-Plattform in einem Drittanbieter-Netzwerkinfrastruktursystem bereitgestellt werden. In mindestens einer Ausführungsform erleichtern Infrastrukturdienste die Verwaltung und Steuerung von zugrunde liegenden Computerressourcen, wie z. B. Speicher, Netzwerken und anderen grundlegenden Computerressourcen für Kunden, die Dienste nutzen, die von einer SaaS-Plattform und einer PaaS-Plattform bereitgestellt werden.
-
In mindestens einer Ausführungsform kann das Drittanbieter-Netzwerkinfrastruktursystem 1102 auch Infrastrukturressourcen 1130 zum Bereitstellen von Ressourcen beinhalten, die verwendet werden, um Kunden eines Drittanbieter-Netzwerkinfrastruktursystems verschiedene Dienste bereitzustellen. In mindestens einer Ausführungsform können die Infrastrukturressourcen 1130 vorintegrierte und optimierte Kombinationen von Hardware wie etwa Server, Speicher und Netzwerkressourcen zum Ausführen von Diensten umfassen, die von einer PaaS-Plattform und einer SaaS-Plattform bereitgestellt werden, und andere Ressourcen.
-
In mindestens einer Ausführungsform können Ressourcen im Drittanbieter-Netzwerkinfrastruktursystem 1102 von mehreren Benutzern gemeinsam genutzt und je nach Bedarf dynamisch neu zugewiesen werden. In mindestens einer Ausführungsform können Benutzern in unterschiedlichen Zeitzonen Ressourcen zugewiesen werden. In mindestens einer Ausführungsform kann das Drittanbieter-Netzwerkinfrastruktursystem 1102 einer ersten Gruppe von Benutzern in einer ersten Zeitzone ermöglichen, Ressourcen eines Drittanbieter-Netzwerkinfrastruktursystems für eine festgelegte Anzahl von Stunden zu nutzen, und dann eine Neuzuweisung derselben Ressourcen für eine andere Gruppe von Benutzern, die sich in einer anderen Zeitzone befinden, ermöglichen, wodurch die Nutzung der Ressourcen maximiert wird.
-
In mindestens einer Ausführungsform kann eine Reihe interner gemeinsam genutzter Dienste 1132 bereitgestellt werden, die von verschiedenen Komponenten oder Modulen des Drittanbieter-Netzwerkinfrastruktursystems 1102 gemeinsam genutzt werden, um die Bereitstellung von Diensten durch das Drittanbieter-Netzwerkinfrastruktursystem 1102 zu ermöglichen. In mindestens einer Ausführungsform können diese internen gemeinsam genutzten Dienste ohne Einschränkung einen Sicherheits- und Identitätsdienst, einen Integrationsdienst, einen Unternehmens-Repository-Dienst, einen Unternehmensmanagerdienst, einen Virenscan- und Whitelist-Dienst, einen Hochverfügbarkeits-, Sicherungs- und Wiederherstellungsdienst, Dienst zum Ermöglichen von Drittanbieter-Netzwerkunterstützung, einen E-Mail-Dienst, einen Benachrichtigungsdienst, einen Dateiübertragungsdienst und/oder Variationen davon beinhalten.
-
In mindestens einer Ausführungsform kann das Netzwerkinfrastruktursystem eines Drittanbieters 1102 eine umfassende Verwaltung von Netzwerkdiensten eines Drittanbieters (z. B. SaaS-, PaaS- und IaaS-Dienste) in einem Netzwerkinfrastruktursystem eines Drittanbieters bereitstellen. In mindestens einer Ausführungsform kann die Drittanbieter-Netzwerkverwaltungsfunktionalität Fähigkeiten zum Bereitstellen, Verwalten und Verfolgen eines durch das Drittanbieter-Netzwerkinfrastruktursystem 1102 empfangenen Abonnements eines Kunden und/oder Variationen davon beinhalten.
-
In mindestens einer Ausführungsform kann, wie in 11 dargestellt, die Drittanbieter-Netzwerkverwaltungsfunktionalität durch ein oder mehrere Module bereitgestellt werden, wie etwa ein Auftragsverwaltungsmodul 1120, ein Auftragsorchestrierungsmodul 1122, ein Auftragsbereitstellungsmodul 1124, ein Auftragsverwaltungs- und -überwachungsmodul 1126 und ein Identitätsverwaltungsmodul 1128. In mindestens einer Ausführungsform können diese Module einen oder mehrere Computer und/oder Server beinhalten oder unter Verwendung derselben bereitgestellt werden, die Allzweckcomputer, spezialisierte Server-Computer, Serverfarmen, Servercluster oder jede andere geeignete Anordnung und/oder Kombination sein können.
-
In mindestens einer Ausführungsform kann ein Kunde, der eine Client-Vorrichtung, wie etwa die Client-Rechenvorrichtungen 1104, 1106 oder 1108, verwendet, in Schritt 1134 mit dem Drittanbieter-Netzwerkinfrastruktursystem 1102 interagieren, indem er einen oder mehrere Dienste anfordert, die durch das Drittanbieter-Netzwerkinfrastruktursystem 1102 bereitgestellt werden, und einen Auftrag für ein Abonnement für einen oder mehrere Dienste erteilt, die durch das Drittanbieter-Netzwerkinfrastruktursystem 1102 angeboten werden. In mindestens einer Ausführungsform kann ein Kunde auf eine Benutzerschnittstelle (user interface - UI) eines Drittanbieter-Netzwerks zugreifen, wie etwa eine Drittanbieter-Netzwerk-UI 1112, eine Drittanbieter-Netzwerk-UI 1114 und/oder eine Drittanbieter-Netzwerk-UI 1116, und einen Abonnementauftrag über diese UI erteilen. In mindestens einer Ausführungsform können Auftragsinformationen, die durch das Drittanbieter-Netzwerkinfrastruktursystem 1102 als Reaktion darauf, dass ein Kunde einen Auftrag erteilt, empfangen werden, Informationen beinhalten, die einen Kunden und einen oder mehrere Dienste identifizieren, die durch ein Drittanbieter-Netzwerkinfrastruktursystem 1102 angeboten werden, die ein Kunde abonnieren möchte.
-
In mindestens einer Ausführungsform können bei Schritt 1136 von einem Kunden empfangene Auftragsinformationen in einer Auftragsdatenbank 1118 gespeichert werden. In mindestens einer Ausführungsform kann, wenn es sich um einen neuen Auftrag handelt, ein neuer Datensatz für einen Auftrag erstellt werden. In mindestens einer Ausführungsform kann die Bestelldatenbank 1118 eine von mehreren Datenbanken sein, die von dem Netzwerkinfrastruktursystem 1118 eines Drittanbieters betrieben und in Verbindung mit anderen Systemelementen betrieben werden.
-
In mindestens einer Ausführungsform können bei Schritt 1138 Bestellinformationen an ein Bestellverwaltungsmodul 1120 weitergeleitet werden, das konfiguriert sein kann, Abrechnungs- und Buchhaltungsfunktionen in Bezug auf eine Bestellung durchzuführen, wie z. B. das Verifizieren einer Bestellung und nach der Verifizierung das Buchen einer Bestellung .
-
In mindestens einer Ausführungsform können bei Schritt 1140 Informationen bezüglich einer Bestellung an ein Auftragsorchestrierungsmodul 1122 kommuniziert werden, das dafür konfiguriert ist, die Bereitstellung von Diensten und Ressourcen für einen von einem Kunden aufgegebenen Auftrag zu orchestrieren. In mindestens einer Ausführungsform kann das Auftragsorchestrierungsmodul 1122 Dienste des Auftragsbereitstellungsmoduls 1124 für die Bereitstellung verwenden. In mindestens einer Ausführungsform ermöglicht das Auftragsorchestrierungsmodul 1122 die Verwaltung von Geschäftsprozessen, die jedem Auftrag zugeordnet sind, und wendet eine Geschäftslogik an, um zu bestimmen, ob ein Auftrag mit der Bereitstellung fortfahren sollte.
-
In mindestens einer Ausführungsform sendet das Auftragsorchestrierungsmodul 1122 nach Erhalt eines Auftrags für ein neues Abonnement bei Schritt 1142 eine Anfrage an das Bestellbereitstellungsmodul 1124, um Ressourcen zuzuweisen und Ressourcen zu konfigurieren, die zum Erfüllen einer Abonnementbestellung benötigt werden. In mindestens einer Ausführungsform ermöglicht das Auftragsbereitstellungsmodul 1124 eine Zuweisung von Ressourcen für durch einen Kunden beauftragte Dienste. In mindestens einer Ausführungsform stellt das Auftragsbereitstellungsmodul 1124 eine Abstraktionsebene zwischen Netzwerkdiensten Dritter, die durch das Netzwerkinfrastruktursystem 1100 Dritter bereitgestellt werden, und einer physischen Implementierungsschicht bereit, die verwendet wird, um Ressourcen zum Bereitstellen angeforderter Dienste bereitzustellen. In mindestens einer Ausführungsform ermöglicht dies, dass das Auftragsorchestrierungsmodul 1122 von Implementierungsdetails isoliert wird, wie z. B. ob Dienste und Ressourcen tatsächlich in Echtzeit oder nur vorab bereitgestellt werden oder nicht allocated/assigned auf Anfrage.
-
In mindestens einer Ausführungsform kann bei Schritt 1144, sobald Dienste und Ressourcen bereitgestellt sind, eine Benachrichtigung an Abonnementkunden gesendet werden, die angibt, dass ein angeforderter Dienst jetzt einsatzbereit ist. In mindestens einer Ausführungsform können Informationen (z. B. ein Link) an einen Kunden gesendet werden, die es einem Kunden ermöglichen, mit der Nutzung angeforderter Dienste zu beginnen.
-
In mindestens einer Ausführungsform kann bei Schritt 1146 ein Abonnementauftrag eines Kunden durch ein Auftragsverwaltungs- und -überwachungsmodul 1126 verwaltet und verfolgt werden. In mindestens einer Ausführungsform kann das Auftragsverwaltungs- und - überwachungsmodul 1126 konfiguriert sein, um Nutzungsstatistiken bezüglich einer Kundennutzung von abonnierten Diensten zu sammeln. In mindestens einer Ausführungsform können Statistiken für eine verwendete Speichermenge, eine übertragene Datenmenge, eine Anzahl von Benutzern und eine Systembetriebszeit und Systemausfallzeit gesammelt werden. und/oder Variationen davon.
-
In mindestens einer Ausführungsform kann das Netzwerkinfrastruktursystem 1100 eines Drittanbieters ein Identitätsverwaltungsmodul 1128 beinhalten, das dafür konfiguriert ist, Identitätsdienste bereitzustellen, wie etwa Zugriffsverwaltungs- und Autorisierungsdienste im Netzwerkinfrastruktursystem 1100 eines Drittanbieters. In mindestens einer Ausführungsform kann das Identitätsverwaltungsmodul 1128 Informationen über Kunden steuern, die Dienste nutzen möchten, die durch das Drittanbieter-Netzwerkinfrastruktursystem 1102 bereitgestellt werden. In mindestens einer Ausführungsform können solche Informationen beinhalten, die Identitäten solcher Kunden authentifizieren, und Informationen, die beschreiben, zu welchen Aktionen diese Kunden in Bezug auf verschiedene Systemressourcen (z. B. Dateien, Verzeichnisse, Anwendungen, Kommunikationsports, Speichersegmente usw.) autorisiert sind. In mindestens einer Ausführungsform kann das Identitätsverwaltungsmodul 1128 auch die Verwaltung von beschreibenden Informationen über jeden Kunden und darüber, wie und von wem auf diese beschreibenden Informationen zugegriffen und diese modifiziert werden können, beinhalten.
-
12 veranschaulicht eine Cloud-Computing-Umgebung 1202 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform umfasst die Cloud-Computing-Umgebung 1202 ein oder mehrere Computersysteme/Server 1204, mit denen Rechenvorrichtungen wie ein persönlicher digitaler Assistent (PDA) oder ein Mobiltelefon 1206A, ein Desktop-Computer 1206B, ein Laptop-Computer 1206C und/oder ein Autocomputersystem 1206N kommunizieren. In mindestens einer Ausführungsform ermöglicht dies, dass Infrastruktur, Plattformen und/oder Software als Dienste von der Cloud-Computing-Umgebung 1202 angeboten werden, sodass nicht jeder Client diese Ressourcen separat pflegen muss. Es versteht sich, dass die in 12 gezeigten Arten von Rechenvorrichtungen 1206A-N nur veranschaulichend sein sollen und dass die Cloud-Computing-Umgebung 1202 mit jeder Art von computergestützter Vorrichtung über jede Art von Netzwerk und/oder Netzwerk-/adressierbare Verbindung (z. B. über einen Webbrowser) kommunizieren kann.
-
In mindestens einer Ausführungsform ist ein Rechensystem/Server 1204, das bzw. der als ein Cloud-Computing-Knoten bezeichnet werden kann, mit zahlreichen anderen Allzweck- oder Spezialzweck-Rechensystemumgebungen oder -konfigurationen betriebsfähig. In mindestens einer Ausführungsform können Computing-Systeme, Umgebungen, und/oder Konfigurationen, die für die Verwendung mit Computern geeignet sein können system/server 1204 beinhalten, sind aber nicht beschränkt auf Personal Computing-Systeme, Server-Rechensysteme, Thin Clients, Thick Clients, Handheld- oder Laptop-Vorrichtungen, Multiprozessorsysteme, mikroprozessorbasierte Systeme, Set-Top-Boxen, programmierbare Unterhaltungselektronik, Netzwerk-PCs, Minicomputer Systeme, Mainframe-Rechensysteme und verteilte Cloud-Computing-Umgebungen, die eines der oben genannten Systeme oder Vorrichtungen beinhalten, und/oder Variationen davon.
-
In mindestens einer Ausführungsform kann das Computersystem/der Server 1204 in einem allgemeinen Kontext von durch ein Computersystem ausführbaren Anweisungen, wie etwa Programmmodulen, die durch ein Computersystem ausgeführt werden, beschrieben werden. In mindestens einer Ausführungsform beinhalten die Programmmodule Routinen, Programme, Objekte, Komponenten, Logik, Datenstrukturen usw., die bestimmte Aufgaben ausführen oder bestimmte abstrakte Datentypen implementieren. In mindestens einer Ausführungsform kann das beispielhafte Computersystem/der beispielhafte Server 1204 in verteilten Cloud-Computing-Umgebungen in die Praxis umgesetzt sein, in denen Tasks durch entfernte Verarbeitungsvorrichtungen durchgeführt werden, die über ein Kommunikationsnetzwerk miteinander verbunden sind. In mindestens einer Ausführungsform können sich in einer verteilten Cloud-Computing-Umgebung Programmmodule sowohl auf lokalen als auch entfernten Computersystemspeichermedien, einschließlich Speichervorrichtungen, befinden.
-
13 veranschaulicht einen Satz funktionaler Abstraktionsschichten, der durch die Cloud-Computing-Umgebung 1202 (12) bereitgestellt wird, gemäß mindestens einer Ausführungsform. Es sollte im Voraus verstanden werden, dass die in 13 gezeigten Komponenten, Schichten und Funktionen nur zur Veranschaulichung gedacht sind und Komponenten, Schichten und Funktionen variieren können.
-
In mindestens einer Ausführungsform beinhaltet die Hardware- und Softwareschicht 1302 Hardware- und Softwarekomponenten. In mindestens einer Ausführungsform beinhalten die Hardwarekomponenten Mainframes, verschiedene Server, die auf einer RISC-Architektur (Reduced Instruction Set Computer) basieren, verschiedene Rechensysteme, Superrechensysteme, Speichervorrichtungen, Netzwerke, Netzwerkkomponenten und/oder Variationen davon. In mindestens einer Ausführungsform beinhalten die Softwarekomponenten Netzwerkanwendungsserversoftware, verschiedene Anwendungsserversoftware, verschiedene Datenbanksoftware und/oder Variationen davon.
-
In mindestens einer Ausführungsform stellt die Virtualisierungsschicht 1304 eine Abstraktionsschicht bereit, von der die folgenden beispielhaften virtuellen Einheiten bereitgestellt werden können: virtuelle Server, virtueller Speicher, virtuelle Netzwerke, einschließlich virtueller privater Netzwerke, virtuelle Anwendungen, virtuelle Clients und/oder Variationen davon.
-
In mindestens einer Ausführungsform stellt die Verwaltungsschicht 1306 verschiedene Funktionen bereit. In mindestens einer Ausführungsform stellt Ressourcenbereitstellung eine dynamische Beschaffung von Rechenressourcen und anderen Ressourcen bereit, die genutzt werden, um Tasks innerhalb einer Cloud-Computing-Umgebung durchzuführen. In mindestens einer Ausführungsform stellt eine Verbrauchserfassung eine Nutzungsverfolgung, wenn Ressourcen innerhalb einer Cloud-Computing-Umgebung genutzt werden, und eine Abrechnung oder Fakturierung für den Verbrauch dieser Ressourcen bereit. In mindestens einer Ausführungsform können Ressourcen Anwendungssoftwarelizenzen umfassen. In mindestens einer Ausführungsform stellt eine Sicherheit eine Identitätsprüfung für Benutzer und Tasks sowie Schutz für Daten und andere Ressourcen bereit. In mindestens einer Ausführungsform stellt die Benutzerschnittstelle sowohl Benutzern als auch Systemadministratoren Zugriff auf eine Cloud-Computing-Umgebung bereit. In mindestens einer Ausführungsform stellt die Dienstebenenverwaltung die Zuweisung und Verwaltung von Cloud-Computing-Ressourcen bereit, sodass die erforderlichen Dienstebenen erfüllt werden. In mindestens einer Ausführungsform stellt die Verwaltung der Dienstleistungsvereinbarung (Service Level Agreement - SLA) eine Vorab-Anordnung für und Beschaffung von Cloud-Computing-Ressourcen bereit, für die gemäß einem SLA eine zukünftige Anforderung erwartet wird.
-
In mindestens einer Ausführungsform stellt die Arbeitslastschicht 1308 eine Funktionalität bereit, für die eine Cloud-Computing-Umgebung verwendet wird. In mindestens einer Ausführungsform beinhalten Arbeitslasten und Funktionen, die von dieser Schicht bereitgestellt werden können: Kartierung und Navigation, Softwareentwicklung und -verwaltung, Bildungsdienste, Datenanalyse und -verarbeitung, Transaktionsverarbeitung und Dienstbereitstellung.
-
SUPERCOMPUTER
-
Die folgenden Figuren legen ohne Einschränkung beispielhafte supercomputerbasierte Systeme dar, die verwendet werden können, um mindestens eine Ausführungsform zu implementieren.
-
In mindestens einer Ausführungsform kann sich ein Supercomputer auf ein Hardwaresystem beziehen, das im Wesentlichen Parallelität aufweist und mindestens einen Chip umfasst, wobei Chips in einem System durch ein Netzwerk miteinander verbunden und in hierarchisch organisierten Gehäusen platziert sind. In mindestens einer Ausführungsform ist ein großes Hardwaresystem, das einen Maschinenraum mit mehreren Racks füllt, von denen jedes mehrere Platinen/Rack-Module enthält, von denen jedes mehrere Chips enthält, die alle durch ein skalierbares Netzwerk miteinander verbunden sind, mindestens eine Ausführungsform eines Supercomputers. In mindestens einer Ausführungsform ist ein einzelnes Rack eines solchen großen Hardwaresystems mindestens eine andere Ausführungsform eines Supercomputers. In mindestens einer Ausführungsform kann ein einzelner Chip, der eine beträchtliche Parallelität aufweist und mehrere Hardwarekomponenten enthält, gleichermaßen als Supercomputer angesehen werden, da mit abnehmenden Merkmalsgrößen auch eine Menge an Hardware, die in einen einzelnen Chip integriert werden kann, zunehmen kann.
-
14 veranschaulicht einen Supercomputer auf Chipebene gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform wird innerhalb eines FPGA- oder ASIC-Chips der Hauptrechenaufwand in endlichen Zustandsmaschinen (1404) durchgeführt, die als Thread-Einheiten bezeichnet werden. In mindestens einer Ausführungsform verbinden Task- und Synchronisationsnetzwerke (1402) endliche Zustandsmaschinen und werden verwendet, um Threads abzuschicken und Vorgänge in der richtigen Reihenfolge auszuführen. In mindestens einer Ausführungsform wird unter Verwendung von Speichernetzwerken (1406, 1410) auf eine partitionierte Mehrebenen-Cache-Hierarchie (1408, 1412) auf einem Chip zugegriffen. In mindestens einer Ausführungsform wird auf den Off-Chip-Speicher unter Verwendung von Speichersteuerungen (1416) und einem Off-Chip-Speichernetzwerk (1414) zugegriffen. In mindestens einer Ausführungsform wird eine E/A-Steuerung (1418) für die chipübergreifende Kommunikation verwendet, wenn eine Ausgestaltung nicht in einen einzelnen Logikchip passt.
-
15 veranschaulicht einen Supercomputer auf Rack-Modulebene gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform gibt es innerhalb eines Rack-Moduls mehrere FPGA- oder ASIC-Chips (1502), die mit einer oder mehreren DRAM-Einheiten (1504) verbunden sind, die einen Hauptbeschleunigerspeicher bilden. In mindestens einer Ausführungsform ist jeder FPGA/ASIC-Chip mit seinem benachbarten FPGA/ASIC-Chip unter Verwendung von breiten Bussen auf einer Platine mit differentieller Hochgeschwindigkeitssignalisierung (1506) verbunden. In mindestens einer Ausführungsform ist jeder FPGA/ASIC-Chip auch mit mindestens einem seriellen Hochgeschwindigkeitskommunikationskabel verbunden.
-
16 veranschaulicht einen Supercomputer auf Rack-Ebene gemäß mindestens einer Ausführungsform. 17 veranschaulicht einen Supercomputer auf Gesamtsystemebene gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform werden unter Bezugnahme auf 16 und 17 zwischen Rack-Modulen in einem Rack und über Racks hinweg durch ein gesamtes System serielle optische Hochgeschwindigkeits- oder Kupferkabel (1602, 1702) verwendet, um ein skalierbares, möglicherweise unvollständiges Hypercube-Netzwerk zu realisieren. In mindestens einer Ausführungsform ist einer der FPGA/ASIC-Chips eines Beschleunigers über eine PCI-Express-Verbindung (1704) mit einem Host-System verbunden. In mindestens einer Ausführungsform umfasst das Hostsystem einen Hostmikroprozessor (1708), auf dem ein Softwareteil einer Anwendung läuft, und einen Speicher, der aus einer oder mehreren Hostspeicher-DRAM-Einheiten (1706) besteht, die mit dem Speicher auf einem Beschleuniger kohärent gehalten werden. In mindestens einer Ausführungsform kann das Host-System ein separates Modul auf einem der Racks sein oder kann in eines der Module eines Supercomputers integriert sein. In mindestens einer Ausführungsform stellt eine Cubeverbundene Zyklen-Topologie Kommunikationsverbindungen bereit, um ein Hypercube-Netzwerk für einen großen Supercomputer zu schaffen. In mindestens einer Ausführungsform kann eine kleine Gruppe von FPGA/ASIC-Chips auf einem Rack-Modul als ein einzelner Hypercube-Knoten fungieren, sodass eine Gesamtzahl von externen Verbindungen jeder Gruppe im Vergleich zu einem einzelnen Chip erhöht ist. In mindestens einer Ausführungsform enthält eine Gruppe die Chips A, B, C und D auf einem Rack-Modul mit internen breiten differentiellen Bussen, die A, B, C und D in einer Torus-Organisation verbinden. In mindestens einer Ausführungsform gibt es 12 serielle Kommunikationskabel, die ein Rack-Modul mit der Außenwelt verbinden. In mindestens einer Ausführungsform ist Chip A auf einem Rack-Modul mit den seriellen Kommunikationskabeln 0, 1, 2 verbunden. In mindestens einer Ausführungsform ist Chip B mit den Kabeln 3, 4, 5 verbunden. In mindestens einem Ausführungsbeispiel ist Chip C mit 6, 7, 8 verbunden. In mindestens einem Ausführungsbeispiel ist Chip D mit 9, 10, 11 verbunden. In mindestens einer Ausführungsform kann eine gesamte Gruppe {A, B, C, D}, die ein Rack-Modul bildet, einen Hypercube-Knoten innerhalb eines Supercomputersystems mit bis zu 212=4096 Rackmodulen (16384 FPGA/ASIC-Chips) bilden. Bei mindestens einer Ausführungsform sendet Chip A eine Nachricht auf Link 4 der Gruppe {A, B, C, D}, eine Nachricht muss zuerst zu Chip B mit einer On-Board-Differential-Wide-Bus-Verbindung geleitet werden. In mindestens einer Ausführungsform muss eine Nachricht, die in einer Gruppe {A, B, C, D} auf Verbindung 4 ankommt (d. h. bei B ankommt), die für Chip A bestimmt ist, auch zuerst an einen korrekten Zielchip (A) innerhalb einer Gruppe {A, B, C, D} intern geroutet werden. In mindestens einer Ausführungsform können auch parallele Supercomputersysteme anderer Größen implementiert sein.
-
KÜNSTLICHE INTELLIGENZ
-
Die folgenden Figuren legen ohne Einschränkung beispielhafte Systeme auf Basis künstlicher Intelligenz dar, die verwendet werden können, um mindestens eine Ausführungsform zu implementieren.
-
18A veranschaulicht Inferenz- und/oder Trainingslogik 1815, die verwendet wird, um Inferenz- und/oder Trainingsvorgänge in Verbindung mit einer oder mehreren Ausführungsformen durchzuführen. Details bezüglich der Inferenz- und/oder Trainingslogik 1815 werden nachfolgend in Verbindung mit den 18A und/oder 18B bereitgestellt
-
In mindestens einer Ausführungsform kann die Inferenz- und/oder Trainingslogik 1815 ohne Einschränkung einen Code- und/oder Datenspeicher 1801 beinhalten, um Vorwärts- und/oder Ausgabegewichtungs- und/oder Eingabe-/Ausgabedaten und/oder andere Parameter zu speichern, um Neuronen oder Schichten eines neuronalen Netzes zu konfigurieren, das in Aspekten einer oder mehrerer Ausführungsformen trainiert und/oder zum Inferenzieren verwendet wird. In mindestens einer Ausführungsform kann die Trainingslogik 1815 einen Code- und/oder Datenspeicher 1801 beinhalten oder mit diesem gekoppelt sein, um Graphencode oder andere Software zu speichern, um die Zeitsteuerung und/oder die Reihenfolge zu steuern, in der Gewichtungs- und/oder andere Parameterinformationen geladen werden sollen, um Logik zu konfigurieren, die Ganzzahl- und/oder Gleitkommaeinheiten (zusammen arithmetisch-logische Einheiten (arithmetic logic units - ALU)) beinhalten. In mindestens einer Ausführungsform lädt Code, wie etwa Graphencode, Gewichtungs- oder andere Parameterinformationen in Prozessor-ALUs auf Grundlage einer Architektur eines neuronalen Netzes, dem derartiger Code entspricht. In mindestens einer Ausführungsform speichert der Code- und/oder Datenspeicher 1801 Gewichtungsparameter und/oder Eingabe-/Ausgabedaten jeder Schicht eines neuronalen Netzes, die in Verbindung mit einer oder mehreren Ausführungsformen trainiert oder verwendet wird, während der Vorwärtspropagierung von Eingabe-/Ausgabedaten und/oder Gewichtungsparametern während des Trainierens und/oder Inferenzierens unter Verwendung von Aspekten einer oder mehrerer Ausführungsformen. In mindestens einer Ausführungsform kann ein beliebiger Abschnitt des Code- und/oder Datenspeichers 1801 in einem anderen chipinternen oder chipexternen Datenspeicher, einschließlich des L1-, L2- oder L3-Caches oder Systemspeichers eines Prozessors, beinhaltet sein.
-
In mindestens einer Ausführungsform kann ein beliebiger Abschnitt des Code- und/oder Datenspeichers 1801 zu einem oder mehreren Prozessoren oder anderen Hardware-Logikvorrichtungen oder -Schaltungen intern oder extern sein. In mindestens einer Ausführungsform kann der Code und/oder Code- und/oder Datenspeicher 1801 Cache-Speicher, dynamischer zufällig adressierbarer Speicher (dynamic randomly addressable memory - „DRAM“), statischer zufällig adressierbarer Speicher (static randomly addressable memory - „SRAM“), nichtflüchtiger Speicher (z. B. Flash-Speicher) oder anderer Speicher sein. In mindestens einer Ausführungsform kann eine Wahl, ob der Code und/oder Code- und/oder Datenspeicher 1801, in mindestens einer Ausführungsform, zu einem Prozessor intern oder extern ist oder DRAM, SRAM, Flash oder einen anderen Speichertyp beinhaltet, von dem verfügbaren chipinternen oder chipexternen Speicher, den Latenzanforderungen der Trainings- und/oder Inferenzfunktionen, die durchgeführt werden, der Batch-Größe der Daten, die beim Inferenzieren und/oder Trainieren eines neuronalen Netzes verwendet werden, oder einer Kombination dieser Faktoren abhängen.
-
In mindestens einer Ausführungsform kann die Inferenz- und/oder Trainingslogik 1815 ohne Einschränkung einen Code- und/oder Datenspeicher 1805 beinhalten, um Rückwärts- und/oder Ausgabegewichtungs- und/oder Eingabe-/Ausgabedaten zu speichern, die Neuronen oder Schichten eines neuronalen Netzes entsprechen, das in Aspekten einer oder mehrerer Ausführungsformen trainiert und/oder zum Inferenzieren verwendet wird. In mindestens einer Ausführungsform speichert der Code- und/oder Datenspeicher 1805 Gewichtungsparameter und/oder Eingabe-/Ausgabedaten jeder Schicht eines neuronalen Netzes, die in Verbindung mit einer oder mehreren Ausführungsformen trainiert oder verwendet wird, während der Rückwärtspropagierung von Eingabe-/Ausgabedaten und/oder Gewichtungsparametern während des Trainierens und/oder Inferenzierens unter Verwendung von Aspekten einer oder mehrerer Ausführungsformen. In mindestens einer Ausführungsform kann die Trainingslogik 1815 einen Code- und/oder Datenspeicher 1805 beinhalten oder an diesen gekoppelt sein, um Graphencode oder andere Software zu speichern, um die Zeitsteuerung und/oder die Reihenfolge zu steuern, in der Gewichtungs- und/oder andere Parameterinformationen geladen werden sollen, um Logik zu konfigurieren, die Ganzzahl- und/oder Gleitkommaeinheiten (zusammen arithmetisch-logische Einheiten (arithmetic logic units - ALU)) beinhalten.
-
In mindestens einer Ausführungsform bewirkt den Code, wie etwa Graphencode, das Laden von Gewichtungs- oder anderen Parameterinformationen in Prozessor-ALUs auf Grundlage einer Architektur eines neuronalen Netzes, dem derartiger Code entspricht. In mindestens einer Ausführungsform kann ein beliebiger Abschnitt des Code- und/oder Datenspeichers 1805 in einem anderen chipinternen oder chipexternen Datenspeicher, einschließlich des L1-, L2- oder L3-Caches oder Systemspeichers eines Prozessors, beinhalten sein. In mindestens einer Ausführungsform kann ein beliebiger Abschnitt des Code- und/oder Datenspeichers 1805 zu einem oder mehreren Prozessoren oder anderen Hardware-Logikvorrichtungen oder -Schaltungen intern oder extern sein. In mindestens einer Ausführungsform kann der Code- und/oder Datenspeicher 1805 Cache-Speicher, DRAM, SRAM, nichtflüchtiger Speicher (z. B. Flash-Speicher) oder anderer Speicher sein. In mindestens einer Ausführungsform kann die Wahl, ob der Aktivierungsspeicher 1805 in mindestens einer Ausführungsform intern oder extern von einem Prozessor ist oder DRAM, SRAM, Flash-Speicher oder eine andere Speicherart umfasst, von verfügbarem chipinternen im Vergleich zu chipexternen Speicher, Latenzanforderungen von ausgeführten Trainings- und/oder Inferenzfunktionen, Batchgröße von Daten, die beim Inferenzen und/oder Trainieren eines neuronalen Netzwerkes verwendet werden, oder einer Kombination dieser Faktoren abhängen.
-
In mindestens einer Ausführungsform können der Code- und/oder Datenspeicher 1801 und der Code- und/oder Datenspeicher 1805 separate Speicherstrukturen sein. In mindestens einer Ausführungsform können der Code- und/oder Datenspeicher 1801 und der Code- und/oder Datenspeicher 1805 eine kombinierte Speicherstruktur sein. In mindestens einer Ausführungsform können der Code- und/oder Datenspeicher 1801 und der Code- und/oder Datenspeicher 1805 teilweise kombiniert und teilweise separat sein. In mindestens einer Ausführungsform kann ein beliebiger Abschnitt des Code- und/oder Datenspeichers 1801 und des Code- und/oder Datenspeichers 1805 in einem anderen chipinternen oder chipexternen Datenspeicher, einschließlich des L1-, L2- oder L3-Caches oder Systemspeichers eines Prozessors, beinhalten sein.
-
In mindestens einer Ausführungsform kann die Inferenz- und/oder Trainingslogik 1815 ohne Einschränkung eine oder mehrere arithmetisch-logische Einheit(en) („ALU(s)“) 1810 beinhalten, einschließlich Integer- und/oder Gleitkommaeinheiten, um logische und/oder mathematische Operationen durchzuführen, die mindestens zum Teil auf Trainings- und/oder Inferenzcode (z. B. Graphencode) basieren oder dadurch angegeben werden, wobei ein Ergebnis davon Aktivierungen (z. B. Ausgabewerte von Schichten oder Neuronen innerhalb eines neuronalen Netzes) produzieren kann, die in einem Aktivierungsspeicher 1820 gespeichert sind und die Funktionen von Eingabe/Ausgabe- und/oder Gewichtungsparameterdaten sind, die in dem Code- und/oder Datenspeicher 1801 und/oder dem Code- und/oder Datenspeicher 1805 gespeichert sind. In mindestens einer Ausführungsform werden in dem Aktivierungsspeicher 1820 gespeicherte Aktivierungen gemäß linearer algebraischer und/oder matrixbasierter Mathematik erzeugt, die durch die ALU(s) 1810 als Reaktion auf das Durchführen von Anweisungen oder anderem Code durchgeführt wird, wobei in dem Code- und/oder Datenspeicher 1805 und/oder dem Datenspeicher 1801 gespeicherte Gewichtungswerte als Operanden zusammen mit anderen Werten, wie etwa Verzerrungswerten, Gradienteninformationen, Momentwerten oder anderen Parametern oder Hyperparametern, verwendet werden, von denen beliebige oder alle in dem Code- und/oder Datenspeicher 1805 oder dem Code- und/oder Datenspeicher 1801 oder einem anderen chipinternen oder -externen Speicher gespeichert sein können.
-
In mindestens einer Ausführungsform sind die ALU(s) 1810 innerhalb eines oder mehrerer Prozessoren oder anderer Hardware-Logikvorrichtungen oder -Schaltungen beinhalten, während in einer anderen Ausführungsform die ALU(s) 1810 zu einem Prozessor oder einer anderen Hardware-Logikvorrichtung oder -Schaltung extern sein können, der/die sie verwendet (z. B. ein Koprozessor). In mindestens einer Ausführungsform können die ALUs 1810 innerhalb der Ausführungseinheiten eines Prozessors oder anderweitig innerhalb einer Bank von ALUs beinhalten sein, worauf die Ausführungseinheiten eines Prozessors zugreifen können, entweder innerhalb des gleichen Prozessors oder verteilt auf unterschiedliche Prozessoren unterschiedlichen Typs (z. B. zentrale Verarbeitungseinheiten, Grafikverarbeitungseinheiten, Festfunktionseinheiten usw.). In mindestens einer Ausführungsform können sich der Code- und/oder Datenspeicher 1801, der Code- und/oder Datenspeicher 1805 und der Aktivierungsspeicher 1820 einen Prozessor oder eine andere Hardware-Logikvorrichtung oder -schaltung teilen, während sie sich in einer anderen Ausführungsform in unterschiedlichen Prozessoren oder anderen Hardware-Logikvorrichtungen oder -Schaltungen oder in einer Kombination aus gleichen und unterschiedlichen Prozessoren oder anderen Hardware-Logikvorrichtungen oder -Schaltungen befinden können. In mindestens einer Ausführungsform kann ein beliebiger Abschnitt des Aktivierungsspeichers 1820 in einem anderen chipinternen oder chipexternen Datenspeicher, einschließlich des L1-, L2- oder L3-Caches oder Systemspeichers eines Prozessors, beinhalten sein. Darüber hinaus kann Ableitungs- und/oder Trainingscode mit anderem Code gespeichert werden, auf den ein Prozessor oder eine andere Hardwarelogik oder -schaltung zugreifen kann, und unter Verwendung der Abruf-, Dekodier-, Planungs-, Ausführungs-, Stilllegungs- und/oder anderen logischen Schaltungen eines Prozessors abgerufen und/oder verarbeitet werden.
-
In mindestens einer Ausführungsform kann der Aktivierungsspeicher 1820 Cache-Speicher, DRAM, SRAM, nichtflüchtiger Speicher (z. B. Flash-Speicher) oder anderer Speicher sein. In mindestens einer Ausführungsform kann sich der Aktivierungsspeicher 1820 ganz oder teilweise innerhalb oder außerhalb eines oder mehrerer Prozessoren oder anderer logischer Schaltungen befinden. In mindestens einer Ausführungsform kann die Wahl, ob der Aktivierungsspeicher 1820 in mindestens einer Ausführungsform intern oder extern von einem Prozessor ist oder DRAM, SRAM, Flash oder eine andere Speicherart umfasst, von verfügbarem chipinternen im Vergleich zu chipexternen Speicher, Latenzanforderungen von ausgeführten Trainings- und/oder Inferenzfunktionen, Batchgröße von Daten, die beim Inferenzen und/oder Trainieren eines neuronalen Netzwerkes verwendet werden, oder einer Kombination dieser Faktoren abhängen.
-
In mindestens einer Ausführungsform kann die Inferenz- und/oder Trainingslogik 1815, die in 18A veranschaulicht ist, in Verbindung mit einer anwendungsspezifischen integrierten Schaltung („ASIC“) verwendet werden, wie etwa einer Tensorflow® Verarbeitungseinheit von Google, einer Inferenzverarbeitungseinheit (inference processing unit - IPU) von Graphcore™ oder einem Nervana® (z. B. „Lake Crest“)-Prozessor von Intel Corp. In mindestens einer Ausführungsform kann die Inferenz-und/oder Trainingslogik 1815, die in 18A veranschaulicht ist, in Verbindung mit Hardware einer Zentraleinheit („CPU“), Hardware einer Grafikverarbeitungseinheit („GPU“) oder anderer Hardware, wie etwa feldprogrammierbaren Gatearrays („FPGA“) verwendet werden.
-
18B veranschaulicht die Inferenz- und/oder Trainingslogik 1815 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform kann die Inferenz- und/oder Trainingslogik 1815 ohne Einschränkung Folgendes beinhalten: Hardwarelogik, bei der Berechnungsressourcen dediziert oder anderweitig ausschließlich in Verbindung mit Gewichtungswerten oder anderen Informationen verwendet werden, die einer oder mehreren Schichten von Neuronen innerhalb eines neuronalen Netzes entsprechen. In mindestens einer Ausführungsform kann die Inferenz- und/oder Trainingslogik 1815, die in 18B veranschaulicht ist, in Verbindung mit einer anwendungsspezifischen integrierten Schaltung (ASIC) verwendet werden, wie etwa einer Tensorflow® Verarbeitungseinheit von Google, einer Inferenzverarbeitungseinheit (IPU) von Graphcore™ oder einem Nervana® (z. B. „Lake Crest“)-Prozessor von Intel Corp. In mindestens einer Ausführungsform kann die Inferenz-und/oder Trainingslogik 1815, die in 18B veranschaulicht ist, in Verbindung mit Hardware einer Zentraleinheit (CPU), Hardware einer Grafikverarbeitungseinheit (GPU) oder anderer Hardware, wie etwa feldprogrammierbaren Gatearrays (FPGA) verwendet werden. In mindestens einer Ausführungsform beinhaltet die Inferenz- und/oder Trainingslogik 1815 ohne Einschränkung den Code- und/oder Datenspeicher 1801 und den Code- und/oder Datenspeicher 1805, die zum Speichern von Code (z. B. Graphencode), Gewichtungswerten und/oder anderen Informationen, einschließlich Vorspannungswerten, Gradienteninformationen, Momentwerten und/oder anderer Parameter- oder Hyperparameterinformationen, verwendet werden können. In mindestens einer Ausführungsform, die in 18B veranschaulicht ist, ist jeder von dem Code- und/oder Datenspeicher 1801 und dem Code- und/oder Datenspeicher 1805 einer dedizierten Berechnungsressource, wie etwa der Berechnungshardware 1802 bzw. der Berechnungshardware 1806, zugeordnet. In mindestens einer Ausführungsform umfasst jede von der Berechnungshardware 1802 und der Berechnungshardware 1806 eine oder mehrere ALU, die mathematische Funktionen, wie etwa lineare algebraische Funktionen, nur an Informationen durchführen, die im Code- und/oder Datenspeicher 1801 und Code- und/oder Datenspeicher 1805 gespeichert sind, deren Ergebnis im Aktivierungsspeicher 1820 gespeichert ist.
-
In mindestens einer Ausführungsform entspricht jedes der Code- und/oder Datenspeicher 1801 und 1805 und der entsprechenden Rechen-Hardware 1802 bzw. 1806 unterschiedlichen Schichten eines neuronalen Netzes, sodass die resultierende Aktivierung von einem Speicher-/Rechenpaar 1801/1802 des Code- und/oder Datenspeichers 1801 und der Rechen-Hardware 1802 als Eingabe einem nächsten Speicher-/Rechenpaar 1805/1806 des Code- und/oder Datenspeichers 1805 und der Rechen-Hardware 1806 bereitgestellt wird, um eine konzeptionelle Organisation eines neuronalen Netzes widerzuspiegeln. In mindestens einer Ausführungsform kann jedes der Speicher-/Rechenpaare 1801/1802 und 1805/1806 mehr als einer Schicht eines neuronalen Netzes entsprechen. In mindestens einer Ausführungsform können zusätzliche Speicher/Berechnungspaare (nicht gezeigt) nach oder parallel zu den Speicher/Berechnungspaaren 1801/1802 und 1805/1806 in der Inferenz- und/oder Trainingslogik 1815 beinhaltet sein.
-
19 veranschaulicht das Training und den Einsatz eines tiefen neuronalen Netzes gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform wird das untrainierte neuronale Netz 1906 unter Verwendung eines Trainingsdatensatzes 1902 trainiert. In mindestens einer Ausführungsform ist das Trainings-Framework 1904 ein PyTorch-Rahmen, wohingegen das Trainings-Framework 1904 in anderen Ausführungsformen ein TensorFlow-, Boost-, Caffe-, Microsoft-Cognitive-Toolkit/CNTK-, MXNet-, Chainer-, Keras-, Deeplearning4j- oder ein anderes Trainings-Framework ist. In mindestens einer Ausführungsform trainiert das Trainings-Framework 1904 ein untrainiertes neuronales Netz 1906 und ermöglicht, dass es unter Verwendung der hierin beschriebenen Verarbeitungsressourcen trainiert wird, um ein trainiertes neuronales Netz 1908 zu erzeugen. In mindestens einer Ausführungsform können die Gewichtungen zufällig oder durch Vorabtraining unter Verwendung eines Deep-Belief-Netzes gewählt werden. In mindestens einer Ausführungsform kann das Training entweder auf überwachte, teilweise überwachte oder nicht überwachte Weise durchgeführt werden.
-
In mindestens einer Ausführungsform wird das untrainierte neuronale Netz 1906 unter Verwendung von überwachtem Lernen trainiert, wobei der Trainingsdatensatz 1902 eine Eingabe beinhaltet, die mit einer gewünschten Ausgabe für eine Eingabe gepaart ist, oder wobei der Trainingsdatensatz 1902 eine Eingabe beinhaltet, die eine bekannte Ausgabe aufweist, und eine Ausgabe des neuronalen Netzes 1906 manuell bewertet wird. In mindestens einer Ausführungsform wird das untrainierte neuronale Netz 1906 auf überwachte Weise trainiert und es verarbeitet Eingaben aus dem Trainingsdatensatz 1902 und vergleicht die resultierenden Ausgaben mit einem Satz von erwarteten oder gewünschten Ausgaben. In mindestens einer Ausführungsform werden Fehler dann durch das untrainierte neuronale Netz 1906 rückpropagiert. In mindestens einer Ausführungsform stellt das Trainings-Framework 1904 Gewichtungen ein, die das untrainierte neuronale Netz 1906 steuern. In mindestens einer Ausführungsform beinhaltet das Trainings-Framework 1904 Werkzeuge, um zu überwachen, wie gut das untrainierte neuronale Netz 1906 zu einem Modell konvergiert, wie etwa dem trainierten neuronalen Netz 1908, das dazu geeignet ist, korrekte Antworten zu erzeugen, wie etwa in dem Ergebnis 1914, die auf Eingabedaten wie etwa einem neuen Datensatz 1912 basieren. In mindestens einer Ausführungsform trainiert das Trainings-Framework 1904 das untrainierte neuronale Netz 1906 wiederholt, während Gewichtungen eingestellt werden, um eine Ausgabe des untrainierten neuronalen Netzes 1906 unter Verwendung einer Verlustfunktion und eines Einstellungsalgorithmus, wie etwa des stochastischen Gradientenabstiegs, zu verfeinern. In mindestens einer Ausführungsform trainiert das Trainings-Framework 1904 das untrainierte neuronale Netz 1906, bis das untrainierte neuronale Netz 1906 eine gewünschte Genauigkeit erreicht. In mindestens einer Ausführungsform kann das trainierte neuronale Netz 1908 dann zum Implementieren einer beliebigen Anzahl von Operationen des maschinellen Lernens eingesetzt werden.
-
In mindestens einer Ausführungsform wird das untrainierte neuronale Netz 1906 unter Verwendung von nicht überwachtem Lernen trainiert, wobei das untrainierte neuronale Netz 1906 versucht, sich selbst unter Verwendung von unbeschrifteten Daten zu trainieren. In mindestens einer Ausführungsform beinhaltet der Trainingsdatensatz 1902 für nicht überwachtes Lernen Eingabedaten ohne assoziierte Ausgabedaten oder „Ground-Truth“-Daten. In mindestens einer Ausführungsform kann das untrainierte neuronale Netz 1906 Gruppierungen innerhalb des Trainingsdatensatzes 1902 lernen und bestimmen, wie einzelne Eingaben mit dem untrainierten Datensatz 1902 in Bezug stehen. In mindestens einer Ausführungsform kann nicht überwachtes Training verwendet werden, um eine selbstorganisierende Karte in dem trainierten neuronalen Netz 1908 zu erzeugen, die dazu in der Lage ist, Operationen durchzuführen, die beim Reduzieren der Dimensionalität des neuen Datensatzes 1912 nützlich sind. In mindestens einer Ausführungsform kann nicht überwachtes Training auch verwendet werden, um Anomaliedetektion durchzuführen, was die Identifizierung von Datenpunkten in dem neuen Datensatz 1912 ermöglicht, die von normalen Mustern des neuen Datensatzes 1912 abweichen.
-
In mindestens einer Ausführungsform kann halbüberwachtes Lernen verwendet werden, wobei es sich um eine Technik handelt, bei der der Trainingsdatensatz 1902 eine Mischung aus beschrifteten und unbeschrifteten Daten beinhaltet. In mindestens einer Ausführungsform kann das Trainings-Framework 1904 verwendet werden, um inkrementelles Lernen durchzuführen, wie etwa durch Transferlerntechniken. In mindestens einer Ausführungsform ermöglicht das inkrementelle Lernen es dem trainierten neuronalen Netz 1908, sich an den neuen Datensatz 1912 anzupassen, ohne das Wissen zu vergessen, das dem trainierten neuronalen Netz 1408 während des anfänglichen Trainings beigebracht wurde.
-
5G-NETZE
-
Die folgenden Figuren legen ohne Einschränkung beispielhafte 5G-Netz-basierte Systeme dar, die verwendet werden können, um mindestens eine Ausführungsform zu implementieren.
-
20 veranschaulicht eine Architektur eines Systems 2000 eines Netzwerks gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform ist gezeigt, dass das System 2000 eine Benutzerausrüstung (UE) 2002 und eine UE 2004 beinhaltet. In mindestens einer Ausführungsform sind die UEs 2002 und 2004 als Smartphones dargestellt (z. B. tragbare Touchscreen-Rechenvorrichtungen, die mit einem oder mehreren Mobilfunknetzen verbindbar sind), können aber auch eine beliebige mobile oder nicht mobile Rechenvorrichtungbeinhalten, wie z. B. Personal Data Assistants (PDAs), Pager, Laptop-Computer, Desktop-Computer, drahtlose Handapparate oder beliebige Rechenvorrichtungen mit einer drahtlosen Kommunikationsschnittstelle.
-
In mindestens einer Ausführungsform kann jedes der UEs 2002 und 2004 ein Internet of Things (IoT) UE umfassen, das eine Netzwerkzugriffsschicht umfassen kann, die für stromsparende IoT-Anwendungen ausgelegt ist, die kurzlebige UE-Verbindungen nutzen. In mindestens einer Ausführungsform kann ein IoT-UE Technologien wie Machine-to-Machine (M2M) oder Machine-Type Communications (MTC) zum Austauschen von Daten mit einem MTC-Server oder -Gerät über ein öffentliches Landmobilnetz (PLMN), Proximity, nutzen -Based Service (ProSe) oder Device-to-Device (D2D)-Kommunikation, Sensornetzwerke oder IoT-Netzwerke. In mindestens einer Ausführungsform kann ein M2M- oder MTC-Datenaustausch ein maschineninitiierter Datenaustausch sein. In mindestens einer Ausführungsform beschreibt ein IoT-Netzwerk das Verbinden von IoT-UEs, die eindeutig identifizierbare eingebettete Rechenvorrichtungen (innerhalb der Internet-Infrastruktur) beinhalten können, mit kurzlebigen Verbindungen. In mindestens einer Ausführungsform kann ein IoT-UE Hintergrundanwendungen ausführen (z. B. Keep-Alive-Nachrichten, Statusaktualisierungen usw.), um Verbindungen eines IoT-Netzwerks zu ermöglichen.
-
In mindestens einer Ausführungsform können die UEs 2002 und 2004 dazu konfiguriert sein, sich mit einem Funkzugangsnetz (RAN) 2016 zu verbinden, z. B. kommunikativ zu koppeln. In mindestens einer Ausführungsform kann das RAN 2016 in mindestens einer Ausführungsform ein Evolved Universal Mobile Telecommunications System (UMTS) Terrestrial Radio Access Network (E-UTRAN), ein NextGen RAN (NG RAN) oder eine andere Art von RAN sein. In mindestens einer Ausführungsform verwenden die UEs 2002 und 2004 die Verbindungen 2012 bzw. 2014, von denen jede eine physikalische Kommunikationsschnittstelle oder -schicht umfasst. In mindestens einer Ausführungsform sind die Verbindungen 2012 und 2014 als eine Luftschnittstelle dargestellt, um eine kommunikative Kopplung zu ermöglichen, und können mit zellularen Kommunikationsprotokollen konsistent sein, wie z. B. ein GSM-Protokoll (Global System for Mobile Communications), ein CDMA-Netzprotokoll (Code-Division Multiple Access), ein Push-to-Talk (PTT)-Protokoll, ein PTT over Cellular (POC)-Protokoll, ein Universal Mobile Telecommunications System (UMTS)-Protokoll, ein 3GPP Long Term Evolution (LTE)-Protokoll, ein Protokoll der fünften Generation (5G)-Protokoll, ein New Radio (NR)-Protokoll und Variationen davon.
-
In mindestens einer Ausführungsform können die UEs 2002 und 2004 ferner direkt Kommunikationsdaten über eine ProSe-Schnittstelle 2006 austauschen. In mindestens einer Ausführungsform kann die ProSe-Schnittstelle 2006 alternativ als eine Sidelink-Schnittstelle bezeichnet werden, die einen oder mehrere logische Kanäle beinhaltet, einschließlich, aber nicht beschränkt auf, einen Physical Sidelink Control Channel (PSCCH), einen Physical Sidelink Shared Channel (PSSCH), einen Physical Sidelink Discovery Channel (PSDCH) und einen Physical Sidelink Broadcast Channel (PSBCH).
-
In mindestens einer Ausführungsform ist das UE 2004 so konfiguriert, dass es über die Verbindung 2008 auf einen Zugangspunkt (AP) 2010 zugreift. In mindestens einer Ausführungsform kann die Verbindung 2008 eine lokale drahtlose Verbindung umfassen, wie etwa eine Verbindung, die mit einem beliebigen IEEE 802.11 -Protokoll konsistent ist, wobei der AP 2010 einen Wireless Fidelity (WiFi®)-Router umfassen würde. In mindestens einer Ausführungsform ist gezeigt, dass der AP 2010 mit einem Internet verbunden ist, ohne sich mit einem Kernnetzwerk eines drahtlosen Systems zu verbinden.
-
In mindestens einer Ausführungsform kann das RAN 2016 einen oder mehrere Zugangsknoten beinhalten, die Verbindungen 2012 und 2014 ermöglichen. In mindestens einer Ausführungsform können diese Zugangsknoten (ANs) als Basisstationen (BSs), NodeBs, entwickelte NodeBs (eNBs), NodeBs der nächsten Generation (gNB), RAN-Knoten usw. bezeichnet werden und können Bodenstationen umfassen (z. B. terrestrische Zugangspunkte) oder Satellitenstationen, die eine Abdeckung innerhalb eines geografischen Bereichs (z. B. einer Zelle) bereitstellen. In mindestens einer Ausführungsform kann das RAN 2016 einen oder mehrere RAN-Knoten zum Bereitstellen von Makrozellen, z. B. den Makro-RAN-Knoten 2018, und einen oder mehrere RAN-Knoten zum Bereitstellen von Femtozellen oder Picozellen (z. B. Zellen mit kleineren Abdeckungsbereichen, geringerer Benutzerkapazität, oder höhere Bandbreite im Vergleich zu Makrozellen), z. B. Low Power (LP) RAN-Knoten 2020.
-
In mindestens einer Ausführungsform kann jeder der RAN-Knoten 2018 und 2020 ein Luftschnittstellenprotokoll terminieren und kann ein erster Kontaktpunkt für die UEs 2002 und 2004 sein. In mindestens einer Ausführungsform kann jeder der RAN-Knoten 2018 und 2020 verschiedene logische Funktionen für das RAN 2016 erfüllen, einschließlich, aber nicht beschränkt auf Funknetzwerk-Controller(RNC)-Funktionen wie Funkträgerverwaltung, dynamisches Uplink- und Downlink-Funkressourcenmanagement und Daten Paketplanung und Mobilitätsmanagement.
-
In mindestens einer Ausführungsform können die UEs 2002 und 2004 konfiguriert sein, um unter Verwendung von OFDM-Kommunikationssignalen (Orthogonal Frequency-Division Multiplexing) miteinander oder mit einem beliebigen der RAN-Knoten 2018 und 2020 über einen Mehrträger-Kommunikationskanal gemäß verschiedenen Kommunikationstechniken zu kommunizieren B., aber nicht beschränkt auf, eine Kommunikationstechnik mit Orthogonal Frequency Division Multiple Access (OFDMA) (z. B. für Downlink-Kommunikationen) oder eine Kommunikationstechnik mit Single Carrier Frequency Division Multiple Access (SC-FDMA) (z. B. für Uplink und ProSe oder Sidelink-Kommunikation), und/oder Variationen davon. Bei mindestens einer Ausführungsform können OFDM-Signale mehrere orthogonale Unterträger umfassen.
-
In mindestens einer Ausführungsform kann ein Downlink-Ressourcenraster für Downlink-Übertragungen von jedem der RAN-Knoten 2018 und 2020 zu den UEs 2002 und 2004 verwendet werden, während Uplink-Übertragungen ähnliche Techniken verwenden können. In mindestens einer Ausführungsform kann ein Raster ein Zeit-Frequenz-Raster sein, das als Ressourcenraster oder Zeit-Frequenz-Ressourcenraster bezeichnet wird, das eine physikalische Ressource in einem Downlink in jedem Zeitfenster ist. In mindestens einer Ausführungsform ist eine solche Zeit-Frequenz-Ebenen-Darstellung eine gängige Praxis für OFDM-Systeme, was sie für die Funkressourcenzuweisung intuitiv macht. In mindestens einer Ausführungsform entspricht jede Spalte und jede Reihe eines Ressourcenrasters jeweils einem OFDM-Symbol und einem OFDM-Unterträger. In mindestens einer Ausführungsform entspricht eine Dauer eines Ressourcenrasters in einem Zeitbereich einem Slot in einem Funkrahmen. In mindestens einer Ausführungsform wird eine kleinste Zeit-Frequenz-Einheit in einem Ressourcenraster als Ressourcenelement bezeichnet. In mindestens einer Ausführungsform umfasst jedes Ressourcenraster eine Reihe von Ressourcenblöcken, die eine Zuordnung bestimmter physikalischer Kanäle zu Ressourcenelementen beschreiben. In mindestens einer Ausführungsform umfasst jeder Ressourcenblock eine Sammlung von Ressourcenelementen. In mindestens einer Ausführungsform kann dies in einem Frequenzbereich eine kleinste Menge an Ressourcen darstellen, die derzeit zugeteilt werden kann. In mindestens einer Ausführungsform gibt es mehrere unterschiedliche physikalische Downlink-Kanäle, die unter Verwendung solcher Ressourcenblöcke übermittelt werden.
-
In mindestens einer Ausführungsform kann ein physikalischer gemeinsam genutzter Downlink-Kanal (PDSCH) Benutzerdaten und Signalisierung höherer Schichten zu den UEs 2002 und 2004 transportieren. In mindestens einer Ausführungsform kann ein physischer Downlink-Steuerkanal (PDCCH) unter anderem Informationen über ein Transportformat und Ressourcenzuweisungen in Bezug auf den PDSCH-Kanal transportieren. In mindestens einer Ausführungsform kann es die UEs 2002 und 2004 auch über ein Transportformat, eine Ressourcenzuweisung und HARQ-(Hybrid Automatic Repeat Request)-Informationen informieren, die sich auf einen gemeinsam genutzten Uplink-Kanal beziehen. In mindestens einer Ausführungsform kann typischerweise Downlink-Scheduling (Zuweisen von Steuer- und Shared-Channel-Ressourcenblöcken zu UE 2002 innerhalb einer Zelle) an jedem der RAN-Knoten 2018 und 2020 basierend auf Kanalqualitätsinformationen durchgeführt werden, die von irgendeinem der UEs 2002 und 2004 zurückgemeldet werden. In mindestens einer Ausführungsform können Downlink-Ressourcenzuweisungsinformationen auf einem PDCCH gesendet werden, der für jedes der UEs 2002 und 2004 verwendet (z. B. zugewiesen) wird.
-
In mindestens einer Ausführungsform kann ein PDCCH Steuerkanalelemente (CCEs) verwenden, um Steuerinformationen zu übermitteln. In mindestens einer Ausführungsform können komplexwertige PDCCH-Symbole, bevor sie auf Ressourcenelemente abgebildet werden, zuerst in Quadruplets organisiert werden, die dann unter Verwendung eines Teilblock-Interleavers zur Ratenanpassung permutiert werden können. In mindestens einer Ausführungsform kann jeder PDCCH unter Verwendung eines oder mehrerer dieser CCEs übertragen werden, wobei jedes CCE neun Sätzen von vier physikalischen Ressourcenelementen entsprechen kann, die als Ressourcenelementgruppen (REGs) bekannt sind. In mindestens einer Ausführungsform können jedem REG vier Quadratur-Phasenumtastungs(QPSK)-Symbole zugeordnet werden. In mindestens einer Ausführungsform kann PDCCH unter Verwendung eines oder mehrerer CCEs übertragen werden, abhängig von einer Größe einer Downlink-Steuerinformation (DCI) und einer Kanalbedingung. In mindestens einer Ausführungsform können vier oder mehr unterschiedliche PDCCH-Formate in LTE mit unterschiedlichen Anzahlen von CCEs (z. B. Aggregationsebene, L=1, 2, 4 oder 8).
-
In mindestens einer Ausführungsform kann ein erweiterter physikalischer Downlink-Steuerkanal (EPDCCH), der PDSCH-Ressourcen verwendet, für die Übertragung von Steuerinformationen verwendet werden. In mindestens einer Ausführungsform kann der EPDCCH unter Verwendung eines oder mehrerer erweiterter Steuerkanalelemente (ECCEs) übertragen werden. In mindestens einer Ausführungsform kann jedes ECCE neun Gruppen von vier physischen Ressourcenelementen entsprechen, die als erweiterte Ressourcenelementgruppen (EREGs) bekannt sind. In mindestens einer Ausführungsform kann ein ECCE in einigen Situationen eine andere Anzahl von EREGs haben.
-
In mindestens einer Ausführungsform ist das RAN 2016 als kommunikativ mit einem Kernnetzwerk (CN) 2038 über eine S1-Schnittstelle 2022 gekoppelt. In mindestens einer Ausführungsform kann das CN 2038 ein EPC-Netzwerk (Evolved Packet Core), ein NPC-Netzwerk (NextGen Packet Core) oder eine andere Art von CN sein. In mindestens einer Ausführungsform ist die S1-Schnittstelle 2022 in zwei Teile geteilt: die S1-U-Schnittstelle 2026, die Verkehrsdaten zwischen den RAN-Knoten 2018 und 2020 und dem bedienenden Gateway (S-GW) 2030 trägt, und eine S1-Mobilitätsverwaltungseinheit (MME)-Schnittstelle 2024, die eine Signalisierungsschnittstelle zwischen den RAN-Knoten 2018 und 2020 und den MMEs 2028 ist.
-
In mindestens einer Ausführungsform beinhaltet das CN 2038 MMEs 2028, S-GW 2030, Paketdatennetz(PDN)-Gateway (P-GW) 2034 und einen Home Subscriber Server (HSS) 2032. In mindestens einer Ausführungsform können die MMEs 2028 eine ähnliche Funktion haben wie die Steuerebene von älteren Serving General Packet Radio Service (GPRS) Support Nodes (SGSN). In mindestens einer Ausführungsform können die MMEs 2028 Mobilitätsaspekte beim Zugriff verwalten, wie z. B. die Gateway-Auswahl und die Verwaltung der Verfolgungsbereichsliste. In mindestens einer Ausführungsform kann der HSS 2032 eine Datenbank für Netzwerkbenutzer umfassen, einschließlich abonnementbezogener Informationen, um die Handhabung von Kommunikationssitzungen durch eine Netzwerkeinheit zu unterstützen. In mindestens einer Ausführungsform kann das CN 2038 ein oder mehrere HSSs 2032 umfassen, abhängig von einer Anzahl mobiler Teilnehmer, einer Kapazität einer Ausrüstung, einer Organisation eines Netzwerks usw. In mindestens einer Ausführungsform HSS 2032 kann Unterstützung bieten für routing/roaming, Authentifizierung, Autorisierung, naming/addressing Auflösung, Standortabhängigkeiten usw.
-
In mindestens einer Ausführungsform kann das S-GW 2030 eine S1-Schnittstelle 2022 in Richtung des RAN 2016 beenden und Datenpakete zwischen RAN 2016 und CN 2038 routen. In mindestens einer Ausführungsform kann das S-GW 2030 ein lokaler Mobilitätsankerpunkt für Inter-RAN-Knotenübergaben sein und kann auch einen Anker für Inter-3GPP-Mobilität bereitstellen. In mindestens einer Ausführungsform können andere Verantwortlichkeiten legales Abfangen, Gebühren und eine Durchsetzung gewisser Richtlinien beinhalten.
-
In mindestens einer Ausführungsform kann das P-GW 2034 eine SGi-Schnittstelle in Richtung eines PDN beenden. In mindestens einer Ausführungsform kann das P-GW 2034 Datenpakete zwischen einem EPC-Netzwerk 2038 und externen Netzwerken wie etwa einem Netzwerk mit Anwendungsserver 2040 (alternativ als Anwendungsfunktion (AF) bezeichnet) über eine Internet Protocol (IP)-Schnittstelle 2042 leiten . In mindestens einer Ausführungsform kann der Anwendungsserver 2040 ein Element sein, das Anwendungen anbietet, die IP-Trägerressourcen mit einem Kernnetz verwenden (z. B. Domäne der UMTS-Paketdienste (PS), LTE-PS-Datendienste usw.). In mindestens einer Ausführungsform ist der P-GW 2034 über eine IP-Kommunikationsschnittstelle 2042 mit einem Anwendungsserver 2040 kommunikativ gekoppelt. In mindestens einer Ausführungsform kann der Anwendungsserver 2040 auch so konfiguriert sein, um einen oder mehrere Kommunikationsdienste (z. B. VoIP-Sitzungen (Voiceover-Internet Protocol), PTT-Sitzungen, Gruppenkommunikationssitzungen, soziale Netzwerkdienste usw.) für UEs 2002 und 2004 über CN 2038 zu unterstützen.
-
In mindestens einer Ausführungsform kann das P-GW 2034 ferner ein Knoten zur Richtliniendurchsetzung und zur Erhebung von Gebührendaten sein. In mindestens einer Ausführungsform ist die Richtlinien- und Gebührendurchsetzungsfunktion (policy and charging enforcement function - PCRF) 2036 ein Richtlinien- und Gebührensteuerelement des CN 2038. In mindestens einer Ausführungsform kann es in einem Nicht-Roaming-Szenario einen einzigen PCRF in einem Home Public Land Mobile Network (HPLMN) geben, der mit einer IP-CAN-Sitzung (Internet Protocol Connectivity Access Network) eines UE assoziiert ist. In mindestens einer Ausführungsform kann es in einem Roaming-Szenario mit lokaler Verkehrsaufteilung zwei PCRFs geben, die mit der IP-CAN-Sitzung eines UE verbunden sind: ein Home PCRF (H-PCRF) innerhalb eines HPLMN und ein Visited PCRF (V-PCRF) innerhalb eines Visited Public Land Mobile Network (VPLMN). In mindestens einer Ausführungsform kann die PCRF 2036 über das P-GW 2034 kommunikativ an einen Anwendungsserver 2040 gekoppelt sein. In mindestens einer Ausführungsform kann der Anwendungsserver 2040 der PCRF 2036 signalisieren, einen neuen Dienstfluss anzugeben und eine geeignete Dienstgüte (Quality of Service - QoS) und Gebührenparameter auszuwählen. In mindestens einer Ausführungsform kann die PCRF 2036 diese Regel in einer Richtlinien- und Gebührendurchsetzungsfunktion (Policy and Charging Enforcement Function - PCEF) (nicht gezeigt) mit einer geeigneten Datenverkehrsschablone (Traffic Flow Template - TFT) und QoS-Kennungsklasse (QoS class of identifier - QCI) bereitstellen, die eine QoS und eine Abrechnung, wie durch Anwendungsserver 2040 festgelegt, beginnt.
-
21 veranschaulicht eine Architektur eines Systems 2100 eines Netzwerks gemäß einigen Ausführungsformen. In mindestens einer Ausführungsform ist gezeigt, dass das System 2100 eine UE 2102, einen 5G-Zugangsknoten oder RAN-Knoten (gezeigt als (R)AN-Knoten 2108), eine Benutzerebenenfunktion (gezeigt als UPF 2104), ein Datennetzwerk (DN 2106), das in mindestens einer Ausführungsform Betreiberdienste, Internetzugang oder Dienste von Drittanbietern sein können, und ein 5G-Kernnetzwerk (5GC) (als CN 2110 gezeigt) beinhaltet.
-
In mindestens einer Ausführungsform enthält der CN 2110 eine Authentifizierungsserverfunktion (AUSF 2114); eine zentrale Zugangs- und Mobilitätsverwaltungsfunktion (AMF 2112); eine Sitzungsverwaltungsfunktion (SMF 2118); eine Netzwerk-Exposure-Funktion (NEF 2116); eine Richtlinienkontrollfunktion (PCF 2122); eine Netzwerkfunktions(NF)-Repository-Funktion (NRF 2120); ein einheitliches Datenmanagement (UDM 2124); und eine Anwendungsfunktion (AF 2126). In mindestens einer Ausführungsform kann das CN 2110 auch andere Elemente beinhalten, die nicht gezeigt sind, wie etwa eine strukturierte Datenspeicherungsnetzwerkfunktion (Structured Data Storage network function - SDSF), eine unstrukturierte Datenspeicherungsnetzwerkfunktion (Unstructured Data Storage network function - UDSF) und Variationen davon.
-
In mindestens einer Ausführungsform kann UPF 2104 als Ankerpunkt für Intra-RAT- und Inter-RAT-Mobilität, als externer PDU-Sitzungspunkt zur Verbindung mit DN 2106 und als Verzweigungspunkt zur Unterstützung von Multihomed-PDU-Sitzungen fungieren. In mindestens einer Ausführungsform kann der UPF 2104 auch Paket-Routing und -Weiterleitung, Paket-Inspektion durchführen, einen Teil der Richtlinienregeln auf Benutzerebene erzwingen, Pakete rechtmäßig abfangen (UP-Sammlung); Berichterstattung über die Verkehrsnutzung, QoS-Handhabung für die Benutzerebene (z. B. Paketfilterung, Gating, UL/DL Rate Enforcement), Durchführung einer Uplink-Verkehrsverifizierung (z. B. SDF-zu-QoS-Flow-Mapping), Paketmarkierung auf Transportebene in Uplink und Downlink und Downlink-Paketpufferung und Downlink-Datenbenachrichtigungstriggerung. In mindestens einer Ausführungsform kann die UPF 2104 einen Uplink-Klassifizierer beinhalten, um das Routing von Datenverkehrsflüssen zu einem Datennetzwerk zu unterstützen. In mindestens einer Ausführungsform kann DN 2106 verschiedene Netzbetreiberdienste, Internetzugang oder Dienste Dritter darstellen.
-
In mindestens einer Ausführungsform kann die AUSF 2114 Daten zur Authentifizierung der UE 2102 speichern und authentifizierungsbezogene Funktionalität handhaben. In mindestens einer Ausführungsform kann die AUSF 2114 ein gemeinsames Authentifizierungsframework für verschiedene Zugriffsarten ermöglichen.
-
In mindestens einer Ausführungsform kann die AMF 2112 für die Registrierungsverwaltung (z. B. für die Registrierung der UE 2102 usw.), die Verbindungsverwaltung, die Erreichbarkeitsverwaltung, die Mobilitätsverwaltung und das legale Abfangen von AMF-bezogenen Ereignissen und die Zugriffsauthentifizierung und -autorisierung verantwortlich sein. In mindestens einer Ausführungsform kann die AMF 2112 den Transport von SM-Nachrichten für die SMF 2118 bereitstellen und als transparenter Proxy zum Routen von SM-Nachrichten fungieren. In mindestens einer Ausführungsform kann die AMF 2112 auch den Transport von Kurznachrichtendienst (SMS)-Nachrichten zwischen dem UE 2102 und einer SMS-Funktion (SMSF) (in 21 nicht gezeigt) bereitstellen. In mindestens einer Ausführungsform kann die AMF 2112 als Sicherheitsankerfunktion (Security Anchor Function - SEA) fungieren, die eine Interaktion mit der AUSF 2114 und der UE 2102 und den Empfang eines Zwischenschlüssels beinhalten kann, der als Ergebnis des UE 2102-Authentifizierungsprozesses erstellt wurde. In mindestens einer Ausführungsform, bei der eine USIM-basierte Authentifizierung verwendet wird, kann die AMF 2112 Sicherheitsmaterial von der AUSF 2114 abrufen. In mindestens einer Ausführungsform kann die AMF 2112 auch eine Sicherheitskontextverwaltungs-(SCM-)Funktion beinhalten, die einen Schlüssel von SEA empfängt, den sie verwendet, um zugangsnetzspezifische Schlüssel abzuleiten. In mindestens einer Ausführungsform kann die AMF 2112 ferner ein Endpunkt der RAN-CP-Schnittstelle (N2-Referenzpunkt), ein Endpunkt der NAS-(NI-)Signalisierung sein und eine NAS-Verschlüsselung und einen Integritätsschutz durchführen.
-
In mindestens einer Ausführungsform kann die AMF 2112 auch NAS-Signalisierung mit einer UE 2102 über eine N3-Interworking-Function-(IWF)-Schnittstelle unterstützen. In mindestens einer Ausführungsform kann die N3IWF verwendet werden, um Zugriff auf nicht vertrauenswürdige Einheiten bereitzustellen. In mindestens einer Ausführungsform kann die N3IWF ein Abschlusspunkt für N2- und N3-Schnittstellen für die Steuerebene bzw. die Benutzerebene sein und kann somit N2-Signalisierung von der SMF und der AMF für PDU-Sitzungen und QoS handhaben, Datenpakete für IPSec- und N3-Tunneling einkapseln/entkapseln, N3-Benutzerebenen-Pakete im Uplink markieren und QoS entsprechend der N3-Paketmarkierung unter Berücksichtigung der QoS-Anforderungen durchsetzen, die einer solchen über N2 empfangenen Markierung zugeordnet sind. In mindestens einer Ausführungsform kann die N3IWF auch Uplink- und Downlink-Steuerebenen-NAS(NI)-Signalisierung zwischen der UE 2102 und der AMF 2112 weiterleiten und Uplink- und Downlink-Benutzerebenenpakete zwischen der UE 2102 und der UPF 2104 weiterleiten. In mindestens einer Ausführungsform stellt die N3IWF auch Mechanismen für den IPsec-Tunnelaufbau mit der UE 2102 bereit.
-
In mindestens einer Ausführungsform kann die SMF 2118 für die Sitzungsverwaltung (z. B. Sitzungsaufbau, -änderung und -freigabe, einschließlich Tunnelerhaltung zwischen UPF- und AN-Knoten) verantwortlich sein; UE-IP-Adresszuweisung & Verwaltung (einschließlich optionaler Autorisierung); Auswahl und Steuerung der AUF-Funktion; Konfiguriert die Verkehrssteuerung bei UPF, um den Verkehr an das richtige Ziel zu leiten; Beendigung von Schnittstellen zu Richtlinienkontrollfunktionen; einen Teil der Richtliniendurchsetzung und QoS kontrollieren; rechtmäßiges Abfangen (für SM-Ereignisse und Schnittstelle zum LI-System); Beendigung von SM-Teilen von NAS-Nachrichten; Downlink-Datenbenachrichtigung; Initiator von AN-spezifischen SM-Informationen, die über AMF über N2 an AN gesendet werden; Bestimmen Sie den SSC-Modus einer Sitzung. In mindestens einer Ausführungsform kann die SMF 2118 die folgende Roaming-Funktionalität beinhalten: Handhaben der lokalen Durchsetzung, um QoS SLAB (VPLMN) anzuwenden; Gebührendatensammlung und Gebührenschnittstelle (VPLMN); legales Abfangen (im VPLMN für SM-Ereignisse und Schnittstelle zum LI-System); Unterstützung für die Interaktion mit dem externen DN für den Transport von Signalisierung für die PDU-Sitzungsautorisierung/-authentifizierung durch das externe DN.
-
In mindestens einer Ausführungsform kann NEF 2116 Mittel zur sicheren Freigabe von Diensten und Fähigkeiten bereitstellen, die von 3GPP-Netzfunktionen für Dritte, interne Freigabe/Wiederfreigabe, Anwendungsfunktionen (z. B. AF 2126), Edge-Computing- oder Fog-Computing-Systeme usw. bereitgestellt werden. In mindestens einer Ausführungsform kann die NEF 2116 AFs authentifizieren, autorisieren und/oder drosseln. In mindestens einer Ausführungsform kann die NEF 2116 auch mit der AF 2126 ausgetauschte Informationen und mit internen Netzwerkfunktionen ausgetauschte Informationen übersetzen. In mindestens einer Ausführungsform kann NEF 2116 zwischen einer AF-Dienstkennung und einer internen 5GC-Information übersetzen. In mindestens einer Ausführungsform kann die NEF 2116 auch Informationen von anderen Netzwerkfunktionen (NF) basierend auf offengelegten Fähigkeiten anderer Netzwerkfunktionen empfangen. In mindestens einer Ausführungsform können diese Informationen als strukturierte Daten in der NEF 2116 oder in einer Datenspeicher-NF unter Verwendung standardisierter Schnittstellen gespeichert werden. In mindestens einer Ausführungsform können die gespeicherten Informationen dann vom NEF 2116 an andere NFs und AFs weitergegeben und/oder für andere Zwecke, wie z. B. Analysen, verwendet werden.
-
In mindestens einer Ausführungsform kann die NRF 2120 Diensterkennungsfunktionen unterstützen, NF-Erkennungsanforderungen von NF-Instanzen empfangen und Informationen über erkannte NF-Instanzen an NF-Instanzen bereitstellen. In mindestens einer Ausführungsform pflegt die NRF 2120 auch Informationen über verfügbare NF-Instanzen und deren unterstützte Dienste.
-
In mindestens einer Ausführungsform kann die PCF 2122 Richtlinienregeln für die Funktion(en) auf Steuerebene bereitstellen, um diese durchzusetzen, und kann auch ein einheitliches Richtlinienframework unterstützen, um das Netzwerkverhalten zu regulieren. In mindestens einer Ausführungsform kann die PCF 2122 auch ein Frontend (FE) implementieren, um auf Abonnementinformationen zuzugreifen, die für Richtlinienentscheidungen in einem UDR der UDM 2124 relevant sind.
-
In mindestens einer Ausführungsform kann die UDM 2124 abonnementbezogene Informationen verarbeiten, um die Handhabung von Kommunikationssitzungen von Netzwerkeinheiten zu unterstützen, und kann Abonnementdaten der UE 2102 speichern. In mindestens einer Ausführungsform kann die UDM 2124 zwei Teile beinhalten, ein Anwendungs-FE und ein Benutzerdaten-Repository (User Data Repository - UDR). In mindestens einer Ausführungsform kann UDM ein UDM FE beinhalten, das für die Verarbeitung von Berechtigungsnachweisen, Standortverwaltung, Abonnementverwaltung und so weiter zuständig ist. In mindestens einer Ausführungsform können mehrere unterschiedliche Frontends einen gleichen Benutzer in unterschiedlichen Transaktionen bedienen. In mindestens einer Ausführungsform greift das UDM-FE auf Abonnementinformationen zu, die in einem UDR gespeichert sind, und führt Authentifizierungszugangsdatenverarbeitung; Handhabung der Benutzeridentifikation; Zugriffsberechtigung; Registrierung/Mobilitätsverwaltung; und Abonnementverwaltung durch. In mindestens einer Ausführungsform kann das UDR mit der PCF 2122 interagieren. In mindestens einer Ausführungsform kann die UDM 2124 auch SMS-Verwaltung unterstützen, wobei ein SMS-FE eine ähnliche Anwendungslogik wie zuvor erörtert implementiert.
-
In mindestens einer Ausführungsform kann die AF 2126 Anwendungseinfluss auf Datenverkehrsrouting, Zugriff auf eine Netzwerkleistungsfähigkeitsoffenlegung (Network Capability Exposure - NCE) bereitstellen und mit einem Richtlinienframework zur Richtliniensteuerung interagieren. In mindestens einer Ausführungsform kann die NCE ein Mechanismus sein, der es einem 5GC und einer AF 2126 erlaubt, einander über NEF 2116 Informationen bereitzustellen, die für Edge-Computing-Implementierungen verwendet werden können. In mindestens einer Ausführungsform können Netzbetreiber- und Drittanbieter-Dienste in der Nähe des UE 2102 -Zugriffsanschlusspunkts gehostet werden, um eine effiziente Dienstbereitstellung durch eine reduzierte Ende-zu-Ende-Latenz und Last auf einem Transportnetz zu erreichen. In mindestens einer Ausführungsform kann das 5GC für Edge-Computing-Implementierungen eine UPF 2104 in der Nähe der UE 2102 auswählen und die Datenverkehrssteuerung von der UPF 2104 zu dem DN 2106 über die N6-Schnittstelle ausführen. In mindestens einer Ausführungsform kann dies auf UE-Abonnementdaten, dem UE-Standort und durch die AF 2126 bereitgestellten Informationen basieren. In mindestens einer Ausführungsform kann die AF 2126 die UPF-(Neu-)Auswahl und das Datenverkehrsrouting beeinflussen. In mindestens einer Ausführungsform kann ein Netzbetreiber, basierend auf der Bereitstellung durch den Betreiber, wenn AF 2126 als vertrauenswürdige Entität betrachtet wird, AF 2126 erlauben, direkt mit relevanten NFs zu interagieren.
-
In mindestens einer Ausführungsform kann das CN 2110 eine SMSF beinhalten, die für die SMS-Abonnementprüfung und -verifizierung und das Weiterleiten von SM-Nachrichten an/von der UE 2102 an/von anderen Einheiten, wie etwa einem SMS-GMSC/IWMSC/SMS-Router verantwortlich sein kann. In mindestens einer Ausführungsform kann SMS auch mit AMF 2112 und UDM 2124 für eine Benachrichtigungsprozedur interagieren, dass die UE 2102 für die SMS-Übertragung verfügbar ist (z. B. ein UE-Nichterreichbar-Flag setzen und die UDM 2124 benachrichtigen, wenn die UE 2102 für SMS verfügbar ist).
-
In mindestens einer Ausführungsform kann das System 2100 die folgenden dienstbasierten Schnittstellen beinhalten: Namf: durch die AMF gezeigte dienstbasierte Schnittstelle; Nsmf: durch die SMF gezeigte dienstbasierte Schnittstelle; Nnef: durch die NEF gezeigte dienstbasierte Schnittstelle; Npcf: durch die PCF gezeigte dienstbasierte Schnittstelle; Nudm: durch die UDM gezeigte dienstbasierte Schnittstelle; Naf: durch die AF gezeigte dienstbasierte Schnittstelle; Nnrf: durch die NRF gezeigte dienstbasierte Schnittstelle; und Nausf: durch die AUSF gezeigte dienstbasierte Schnittstelle.
-
In mindestens einer Ausführungsform kann das System 2100 die folgenden Referenzpunkte beinhalten: N1: Referenzpunkt zwischen UE und AMF; N2: Referenzpunkt zwischen (R)AN und AMF; N3: Referenzpunkt zwischen (R)AN und UPF; N4: Referenzpunkt zwischen SMF und UPF; und N6: Referenzpunkt zwischen UPF und einem Datennetzwerk. In mindestens einer Ausführungsform kann es viele weitere Referenzspunkte und/oder dienstbasierte Schnittstellen zwischen den Diensten einer NF in den NFs geben; diese Schnittstellen und Referenzpunkte wurden jedoch aus Gründen der Übersichtlichkeit weggelassen. In mindestens einer Ausführungsform kann ein NS-Referenzpunkt zwischen einer PCF und einer AF liegen; ein N7-Referenzpunkt kann zwischen PCF und SMF liegen; ein N11-Referenzpunkt zwischen AMF und SMF; usw. In mindestens einer Ausführungsform kann der CN 2110 eine Nx-Schnittstelle beinhalten, die eine Inter-CN-Schnittstelle zwischen MME und AMF 2112 ist, um eine Zusammenarbeit zwischen CN 2110 und CN 7221 zu ermöglichen.
-
In mindestens einer Ausführungsform kann das System 2100 mehrere RAN-Knoten (wie z. B. (R)AN-Knoten 2108) beinhalten, wobei eine Xn-Schnittstelle zwischen zwei oder mehr (R)AN-Knoten 2108 (z. B. gNBs) definiert ist, die mit 5GC 410 verbunden sind. zwischen einem (R)AN-Knoten 2108 (z. B. gNB), der mit dem CN 2110 verbunden ist, und einem eNB (z. B. einem Makro-RAN-Knoten), und/oder zwischen zwei eNBs, die mit CN 2110 verbunden sind.
-
In mindestens einer Ausführungsform kann die Xn-Schnittstelle eine Xn-Schnittstelle der Benutzerebene (Xn-U) und eine Schnittstelle der Xn-Steuerungsebene (Xn-C) umfassen. In mindestens einer Ausführungsform kann Xn-U eine nicht garantierte Zustellung von PDUs der Nutzerebene bereitstellen und Datenweiterleitungs- und Flusskontrollfunktionen unterstützen/bereitstellen. In mindestens einer Ausführungsform kann Xn-C Verwaltungs- und Fehlerbehandlungsfunktionalität, Funktionalität zum Verwalten einer Xn-C-Schnittstelle; Mobilitätsunterstützung für UE 2102 in einem verbundenen Modus (z. B. CM-CONNECTED) einschließlich Funktionalität zum Verwalten von UE-Mobilität für verbundenen Modus zwischen einem oder mehreren (R)AN-Knoten 2108 . In mindestens einer Ausführungsform kann die Mobilitätsunterstützung einen Kontexttransfer von einem alten bedienenden (R)AN-Knoten 2108 (Quelle) zu einem neuen bedienenden (R)AN-Knoten 2108 (Ziel); und Steuerung von Benutzerebenen-Tunneln zwischen dem alten bedienenden (R)AN-Knoten 2108 (Quelle) zu dem neuen bedienenden (R)AN-Knoten 2108 (Ziel) beinhalten.
-
In mindestens einer Ausführungsform kann ein Protokollstapel eines Xn-U eine Transportnetzwerkschicht beinhalten, die auf einer Internetprotokoll(IP)-Transportschicht aufgebaut ist, und eine GTP-U-Schicht auf einem UDP und/oder IP-Schicht(en) zum Tragen von Benutzerebenen-PDUs. In mindestens einer Ausführungsform kann der Xn-C-Protokollstapel ein Signalisierungsprotokoll der Anwendungsschicht (als Xn-Anwendungsprotokoll (Xn-AP) bezeichnet) und eine Transportnetzwerkschicht, die auf einer SCTP-Schicht aufgebaut ist, beinhalten. In mindestens einer Ausführungsform kann sich die SCTP-Schicht auf einer IP-Schicht befinden. In mindestens einer Ausführungsform stellt die SCTP-Schicht eine garantierte Zustellung von Nachrichten der Anwendungsschicht bereit. In mindestens einer Ausführungsform wird in einer Transport-IP-Schicht eine Punkt-zu-Punkt-Übertragung verwendet, um Signalisierungs-PDUs zu liefern. In mindestens einer Ausführungsform können der Xn-U-Protokollstapel und/oder ein Xn-C-Protokollstapel gleich oder ähnlich einem Benutzerebenen- und/oder Steuerebenen-Protokollstapel sein, die hierin gezeigt und beschrieben sind.
-
22 ist eine Veranschaulichung eines Protokollstapels auf Steuerebene gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform wird eine Steuerebene 2200 als Kommunikationsprotokollstapel zwischen der UE 2002 (oder alternativ der UE 2004), dem RAN 2016 und den MME 2028 gezeigt.
-
In mindestens einer Ausführungsform kann die PHY-Schicht 2202 Informationen, die durch die MAC-Schicht 2204 verwendet werden, über eine oder mehrere Luftschnittstellen senden oder empfangen. In mindestens einer Ausführungsform kann die PHY-Schicht 2202 ferner eine Verbindungsanpassung oder adaptive Modulation und Codierung (AMC), Leistungssteuerung, Zellensuche (z. B. für anfängliche Synchronisations- und Übergabezwecke) und andere Messungen durchführen, die durch höhere Schichten verwendet werden, wie etwa eine RRC-Schicht 2210. In mindestens einer Ausführungsform kann die PHY-Schicht 2202 weiterhin Fehlererkennung auf Transportkanälen, Vorwärtsfehlerkorrektur (FEC), Codierung/Decodierung von Transportkanälen, Modulation/Demodulation von physischen Kanälen, Verschachtelung, Ratenanpassung, Zuordnung zu physischen Kanälen und MIMO-Antennenverarbeitung (Multiple Input Multiple Output) durchführen.
-
In mindestens einer Ausführungsform kann die MAC-Schicht 2204 eine Zuordnung zwischen logischen Kanälen und Transportkanälen, ein Multiplexen von MAC-Dienstdateneinheiten (service data unit - SDU) von einem oder mehreren logischen Kanälen auf Transportblöcke (TB), die über Transportkanäle an PHY zugestellt werden sollen, De-Multiplexen von MAC-SDU zu einem oder mehreren logischen Kanälen von Transportblöcken (TB), die von PHY über Transportkanäle zugestellt werden, Multiplexen von MAC-SDU auf TB, Planen von Informationsberichten, Fehlerkorrektur durch hybride automatische Wiederholungsanforderung (hybrid automatic repeat request - HARD) und logische Kanalpriorisierung durchführen.
-
In mindestens einer Ausführungsform kann die RLC-Schicht 2206 in einer Vielzahl von Betriebsmodi arbeiten, einschließlich: Transparenter Modus (TM), Unbestätigter Modus (UM) und Bestätigter Modus (Acknowledged Mode - AM). In mindestens einer Ausführungsform kann die RLC-Schicht 2206 einen Transfer von Protokolldateneinheiten (PDU) der oberen Schicht, eine Fehlerkorrektur durch automatische Wiederholungsanforderung (automatic repeat request - ARQ) für AM-Datenübertragungen und eine Verkettung, Segmentierung und Wiederzusammensetzung von RLC-SDU für UM- und AM-Datentransfers ausführen. In mindestens einer Ausführungsform kann die RLC-Schicht 2206 auch eine Neusegmentierung von RLC-Daten-PDUs für AM-Datenübertragungen ausführen, RLC-Daten-PDUs für UM- und AM-Datenübertragungen neu ordnen, doppelte Daten für UM- und AM-Datenübertragungen erkennen, RLC-SDUs für UM verwerfen und AM-Datenübertragungen, Protokollfehler für AM-Datenübertragungen erkennen und RLC-Wiederherstellung durchführen.
-
In mindestens einer Ausführungsform kann die PDCP-Schicht 2208 eine Header-Komprimierung und -Dekomprimierung von IP-Daten ausführen, PDCP-Sequenznummern (SNs) verwalten, eine sequentielle Lieferung von PDUs der oberen Schicht bei der Wiederherstellung von unteren Schichten durchführen, Duplikate von SDUs der unteren Schicht eliminieren bei der Wiederherstellung niedrigerer Schichten für Funkträger, die auf RLC AM abgebildet sind, Ver- und Entschlüsselung von Steuerebenendaten, Durchführen von Integritätsschutz und Integritätsprüfung von Steuerebenendaten, Steuern von zeitgesteuertem Verwerfen von Daten und Durchführen von Sicherheitsoperationen (z. B. Verschlüsselung, Entschlüsselung, Integritätsschutz, Integritätsprüfung usw.).
-
In mindestens einer Ausführungsform können die Hauptdienste und -funktionen einer RRC-Schicht 2210 die Übertragung von Systeminformationen (z. B. in Master Information Blocks (MIBs) oder System Information Blocks (SIBs), die sich auf eine Nicht-Zugangsschicht (NAS) beziehen), die Übertragung von Systeminformationen, die sich auf eine Zugangsschicht (AS) beziehen, Paging, Aufbau, Aufrechterhaltung und Abbau einer RRC-Verbindung zwischen einem UE und E-UTRAN (z. B., RRC-Verbindungsruf, RRC-Verbindungsaufbau, RRC-Verbindungsänderung und RRC-Verbindungsfreigabe), Aufbau, Konfiguration, Aufrechterhaltung und Freigabe von Punkt-zu-Punkt-Funkträgern, Sicherheitsfunktionen einschließlich Schlüsselverwaltung, Mobilität zwischen Funkzugangstechnologien (RAT) und Messkonfiguration für UE-Messberichte. In mindestens einer Ausführungsform können die MIBs und SIBs ein oder mehrere Informationselemente (IEs) umfassen, die jeweils einzelne Datenfelder oder Datenstrukturen umfassen können.
-
In mindestens einer Ausführungsform können die UE 2002 und das RAN 2016 eine Uu-Schnittstelle (z. B. eine LTE-Uu-Schnittstelle) nutzen, um Steuerebenendaten über einen Protokollstapel auszutauschen, der die PHY-Schicht 2202, die MAC-Schicht 2204, die RLC-Schicht 2206, die PDCP-Schicht 2208 und die RRC-Schicht 2210 umfasst.
-
In mindestens einer Ausführungsform bilden Non-Access-Stratum(NAS)-Protokolle (NAS-Protokolle 2212) eine höchste Schicht einer Steuerebene zwischen UE 2002 und MME(s) 2028. In mindestens einer Ausführungsform unterstützen die NAS-Protokolle 2212 die Mobilität der UE 2002 und Sitzungsverwaltungsprozeduren, um eine IP-Konnektivität zwischen der UE 2002 und dem P-GW 2034 einzurichten und aufrechtzuerhalten.
-
In mindestens einer Ausführungsform kann die Si-Anwendungsprotokoll(S1-AP)-Schicht (Si-AP-Schicht 2222) Funktionen einer Si-Schnittstelle unterstützen und Elementarprozeduren (EPs) umfassen. In mindestens einer Ausführungsform ist eine EP eine Interaktionseinheit zwischen dem RAN 2016 und dem CN 2028. In mindestens einer Ausführungsform können Dienste der S1-AP-Schicht zwei Gruppen umfassen: UE-assoziierte Dienste und nicht UE-assoziierte Dienste. In mindestens einer Ausführungsform führen diese Dienste Funktionen aus, einschließlich, aber nicht beschränkt auf: E-UTRAN Radio Access Bearer (E-RAB)-Verwaltung, UE-Fähigkeitsanzeige, Mobilität, NAS-Signalisierungstransport, RAN-Informationsverwaltung (RIM) und Konfigurationsübertragung .
-
In mindestens einer Ausführungsform wird die SCTP-Schicht (Stream Control Transmission Protocol) (alternativ als Stream-Control-Übertragung bezeichnet verwendet protocol/internet Protokoll (SCTP/IP) Schicht) (SCTP-Schicht 2220) kann eine zuverlässige Zustellung von Signalisierungsnachrichten zwischen RAN 2016 und MME(s) 2028 teilweise basierend auf einem IP-Protokoll sicherstellen, das von einer IP-Schicht 2218 unterstützt wird. In mindestens einer Ausführungsform können sich die L2-Schicht 2216 und eine L1-Schicht 2214 auf Kommunikationsverbindungen (z. B. drahtgebunden oder drahtlos) beziehen, die durch einen RAN-Knoten und eine MME verwendet werden, um Informationen auszutauschen.
-
In mindestens einer Ausführungsform können das RAN 2016 und die MME 2028 eine S1-MME-Schnittstelle nutzen, um Steuerebenendaten über einen Protokollstapel auszutauschen, der eine L1-Schicht 2214, eine L2-Schicht 2216, eine IP-Schicht 2218, eine SCTP-Schicht 2220 und eine Si-AP-Schicht 2222 umfasst.
-
23 ist eine Veranschaulichung eines Protokollstapels auf Benutzerebene gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform wird eine Benutzerebene 2300 als Kommunikationsprotokollstapel zwischen einer UE 2002, dem RAN 2016, dem S-GW 2030 und dem P-GW 2034 gezeigt. In mindestens einer Ausführungsform kann die Benutzerebene 2300 dieselben Protokollschichten wie die Steuerebene 2200 nutzen. In mindestens einer Ausführungsform können die UE 2002 und das RAN 2016 eine Uu-Schnittstelle (z. B. eine LTE-Uu-Schnittstelle) nutzen, um Benutzerebenendaten über einen Protokollstapel auszutauschen, der die PHY-Schicht 2202, die MAC-Schicht 2204, die RLC-Schicht 2206 und die PDCP-Schicht 2208 umfasst.
-
In mindestens einer Ausführungsform kann das Tunneling-Protokoll des General Packet Radio Service (GPRS) für eine Schicht der Benutzerebene (GTP-U) (GTP-U-Schicht 2304) verwendet werden, um Benutzerdaten innerhalb eines GPRS-Kernnetzwerks und zwischen einem Funkzugangsnetzwerk und einem Kernnetzwerk zu übertragen. In mindestens einer Ausführungsform können transportierte Benutzerdaten Pakete in einem der Formate IPv4, IPv6 oder PPP sein. In mindestens einer Ausführungsform kann die UDP- und IP-Sicherheits-(UDP/IP-)Schicht (UDP/IP-Schicht 2302) Prüfsummen für die Datenintegrität, Portnummern zum Adressieren unterschiedlicher Funktionen an einer Quelle und einem Ziel und Verschlüsselung und Authentifizierung für ausgewählte Datenflüsse bereitstellen. In mindestens einer Ausführungsform können das RAN 2016 und das S-GW 2030 eine S1-U-Schnittstelle nutzen, um Benutzerebenendaten über einen Protokollstapel auszutauschen, der die L1-Schicht 2214, die L2-Schicht 2216, die UDP/IP-Schicht 2302 und die GTP-U-Schicht 2304 umfasst. In mindestens einer Ausführungsform können das S-GW 2030 und das P-GW 2034 eine S5/S8a-Schnittstelle nutzen, um Benutzerebenendaten über einen Protokollstapel auszutauschen, der die L1-Schicht 2214, die L2-Schicht 2216, die UDP/IP-Schicht 2302 und die GTP-U-Schicht 2304 umfasst. In mindestens einer Ausführungsform, wie vorstehend unter Bezugnahme auf die 22 erörtert, unterstützen die NAS-Protokolle eine Mobilität der UE 2002 und Sitzungsverwaltungsprozeduren, um eine IP-Konnektivität zwischen der UE 2002 und dem P-GW 2034 einzurichten und aufrechtzuerhalten.
-
24 veranschaulicht Komponenten 2400 eines Kernnetzwerks gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform können die Komponenten des CN 2038 in einem physikalischen Knoten oder separaten physikalischen Knoten implementiert sein, einschließlich Komponenten zum Lesen und Ausführen von Anweisungen von einem maschinenlesbaren oder computerlesbaren Medium (z. B. einem nichttransitorischen maschinenlesbaren Speichermedium). In mindestens einer Ausführungsform wird eine Netzwerkfunktionsvirtualisierung (Network Functions Virtualization - NFV) genutzt, um eine oder alle der vorstehend beschriebenen Netzwerkknotenfunktionen über ausführbare Anweisungen, die in einem oder mehreren computerlesbaren Speichermedien gespeichert sind (nachstehend ausführlicher beschrieben), zu virtualisieren. In mindestens einer Ausführungsform kann eine logische Instanziierung des CN 2038 als ein Netzwerk-Slice 2402 bezeichnet werden (z. B. wird gezeigt, dass der Netzwerk-Slice 2402 HSS 2032, MME(s) 2028 und S-GW 2030 enthält). In mindestens einer Ausführungsform kann eine logische Instanziierung eines Teils des CN 2038 als Netzwerk-Teilscheibe 2404 bezeichnet werden (z. B. ist die Netzwerk-Teilscheibe 2404 so dargestellt, dass sie P-GW 2034 und PCRF 2036 beinhaltet).
-
In mindestens einer Ausführungsform können NFV-Architekturen und -Infrastrukturen verwendet werden, um eine oder mehrere Netzwerkfunktionen, die alternativ durch proprietäre Hardware ausgeführt werden, auf physischen Ressourcen zu virtualisieren, die eine Kombination aus branchenüblicher Serverhardware, Speicherhardware oder Switches umfassen. In mindestens einer Ausführungsform können NFV-Systeme verwendet werden, um virtuelle oder rekonfigurierbare Implementierungen einer oder mehrerer EPC-Komponenten/Funktionen auszuführen.
-
25 ist ein Blockdiagramm, das Komponenten eines Systems 2500 zum Unterstützen von Netzwerkfunktionsvirtualisierung (NFV) gemäß mindestens einer Ausführungsform veranschaulicht. In mindestens einer Ausführungsform ist das System 2500 so veranschaulicht, dass es einen virtualisierten Infrastrukturmanager (als VIM 2502 gezeigt), eine Netzwerkfunktionsvirtualisierungsinfrastruktur (als NFVI 2504 gezeigt), einen VNF-Manager (als VNFM 2506 gezeigt), virtualisierte Netzwerkfunktionen (als VNF 2508), einen Elementmanager (als EM 2510 gezeigt), einen NFV-Orchestrator (als NFVO 2512 gezeigt) und einen Netzwerkmanager (als NM 2514 gezeigt) beinhaltet.
-
In mindestens einer Ausführungsform verwaltet der VIM 2502 Ressourcen der NFVI 2504. In mindestens einer Ausführungsform kann die NFVI 2504 physische oder virtuelle Ressourcen und Anwendungen (einschließlich Hypervisoren) beinhalten, die verwendet werden, um das System 2500 auszuführen. In mindestens einer Ausführungsform kann VIM 2502 einen Lebenszyklus virtueller Ressourcen mit NFVI 2504 verwalten (z. B. Erstellung, Wartung und Abbau von virtuellen Maschinen (VMs), die einer oder mehreren physischen Ressourcen zugeordnet sind), VM-Instanzen verfolgen, Leistung verfolgen, Fehler und Sicherheit von VM-Instanzen und zugehörigen physischen Ressourcen und Offenlegung von VM-Instanzen und zugehörigen physischen Ressourcen für andere Verwaltungssysteme.
-
In mindestens einer Ausführungsform kann der VNFM 2506 die VNF 2508 verwalten. In mindestens einer Ausführungsform kann die VNF 2508 verwendet werden, um EPC-Komponenten/-Funktionen auszuführen. In mindestens einer Ausführungsform kann der VNFM 2506 einen Lebenszyklus der VNF 2508 verwalten und Leistungsfähigkeit, Fehler und Sicherheit von virtuellen Aspekten der VNF 2508 verfolgen. In mindestens einer Ausführungsform kann der EM 2510 Leistungsfähigkeit, Fehler und Sicherheit von funktionalen Aspekten der VNF 2508 verfolgen. In mindestens einer Ausführungsform können Verfolgungsdaten des VNFM 2506 und des EM 2510 in mindestens einer Ausführungsform Daten einer Leistungsfähigkeitsmessung (performance measurement - PM) umfassen, die durch den VIM 2502 oder die NFVI 2504 verwendet werden. In mindestens einer Ausführungsform können sowohl der VNFM 2506 als auch der EM 2510 eine Menge der VNF des Systems 2500 nach oben/unten skalieren.
-
In mindestens einer Ausführungsform kann der NFVO 2512 Ressourcen der NFVI 2504 koordinieren, autorisieren, freigeben und einsetzen, um einen angeforderten Dienst bereitzustellen (z. B. um eine EPC-Funktion, -Komponente oder ein EPC-Slice auszuführen). In mindestens einer Ausführungsform kann der NM 2514 ein Paket von Endbenutzerfunktionen mit Verantwortung für die Verwaltung eines Netzwerks bereitstellen, das Netzwerkelemente mit VNF, nicht virtualisierte Netzwerkfunktionen oder beides beinhalten kann (die Verwaltung der VNF kann über den EM 2510 erfolgen).
-
COMPUTERBASIERTE SYSTEME
-
Die folgenden Figuren legen ohne Einschränkung beispielhafte computerbasierte Systeme dar, die verwendet werden können, um mindestens eine Ausführungsform zu implementieren.
-
26 veranschaulicht ein Verarbeitungssystem 2600 gemäß einer Ausführungsform. In mindestens einer Ausführungsform beinhaltet das Verarbeitungssystem 2600 einen oder mehrere Prozessoren 2602 und einen oder mehrere Grafikprozessoren 2608 und kann ein Einzelprozessor-Desktop-System, ein Mehrprozessor-Workstation-System oder ein ServerSystem sein, dass eine große Anzahl von Prozessoren 2602 oder Prozessorkernen 2607 aufweist. In mindestens einer Ausführungsform ist das System 2600 eine Verarbeitungsplattform, die in eine integrierte Schaltung als System auf einem Chip („SoC“) zur Verwendung in mobilen, tragbaren oder eingebetteten Vorrichtungen integriert ist.
-
In mindestens einer Ausführungsform kann das Verarbeitungssystem 2600 eine serverbasierte Spielplattform, eine Spielkonsole, eine Medienkonsole, eine mobile Spielkonsole, eine Handheld-Spielekonsole oder eine Online-Spielekonsole beinhalten oder darin integriert sein. In mindestens einer Ausführungsform ist das Verarbeitungssystem 2600 ein Mobiltelefon, ein Smartphone, eine Tablet-Rechenvorrichtung oder eine mobile Internetvorrichtung. In mindestens einer Ausführungsform kann das Verarbeitungssystem 2600 auch eine tragbare Vorrichtung, wie etwa eine tragbare Smartwatch-Vorrichtung, eine intelligente Brillenvorrichtung, eine Augmented-Reality-Vorrichtung oder eine Virtual-Reality-Vorrichtung beinhalten, mit dieser gekoppelt oder darin integriert sein. In mindestens einer Ausführungsform ist das Verarbeitungssystem 2600 eine Fernseh- oder Set-Top-Box-Vorrichtung, die einen oder mehrere Prozessoren 2602 und eine grafische Schnittstelle aufweist, die durch einen oder mehrere Grafikprozessoren 2608 erzeugt wird.
-
In mindestens einer Ausführungsform beinhalten ein oder mehrere Prozessoren 2602 jeweils einen oder mehrere Prozessorkerne 2607 zum Verarbeiten von Anweisungen, die bei ihrer Ausführung Operationen für System- und Benutzer-Software durchführen. In mindestens einer Ausführungsform ist jeder von einem oder mehreren Prozessorkernen 2607 so konfiguriert, um einen spezifischen Anweisungssatz 2609 zu verarbeiten. In mindestens einer Ausführungsform kann der Anweisungssatz 2609 das Berechnen mit komplexem Anweisungssatz (Complex Instruction Set Computing - „CISC“), das Berechnen mit verringertem Anweisungssatz (Reduced Instruction Set Computing - „RISC“) oder das Berechnen über ein sehr langes Anweisungswort (Very Long Instruction Word - „VLIW“) erleichtern. In mindestens einer Ausführungsform können die Prozessorkerne 2607 jeweils einen anderen Anweisungsssatz 2609 verarbeiten, der Anweisungen beinhalten kann, um die Emulation anderer Anweisungssätze zu erleichtern. In mindestens einer Ausführungsform kann der Prozessorkern 2607 auch andere Verarbeitungsvorrichtungen beinhalten, wie etwa einen digitalen Signalprozessor („DSP“).
-
In mindestens einer Ausführungsform beinhaltet der Prozessor 2602 einen Cache-Speicher („Cache“) 2604. In mindestens einer Ausführungsform kann der Prozessor 2602 einen einzelnen internen Cache oder mehrere Levels von internem Cache aufweisen. In mindestens einer Ausführungsform wird der Cache-Speicher von verschiedenen Komponenten des Prozessors 2602 gemeinsam genutzt. In mindestens einer Ausführungsform verwendet der Prozessor 2602 auch einen externen Cache (z. B. einen Level-3-(„L3“-)Cache oder Last-Level-Cache („LLC“)) (nicht gezeigt), der unter Verwendung bekannter Cache-Kohärenztechniken von den Prozessorkernen 2607 gemeinsam genutzt werden kann. In mindestens einer Ausführungsform ist in dem Prozessor 2602 zusätzlich eine Registerbank 2606 beinhalten, die unterschiedliche Typen von Registern zum Speichern unterschiedlicher Datentypen beinhalten kann (z. B. Integerregister, Gleitkommaregister, Statusregister und ein Anweisungszeigerregister). In mindestens einer Ausführungsform kann die Registerbank 2606 Allzweckregister oder andere Register beinhalten.
-
In mindestens einer Ausführungsform sind ein oder mehrere Prozessor(en) 2602 mit einem oder mehreren Schnittstellenbus(sen) 2610 gekoppelt, um Kommunikationssignale, wie etwa Adress-, Daten- oder Steuersignale, zwischen dem Prozessor 2602 und anderen Komponenten in dem Verarbeitungssystem 2600 zu übertragen. In mindestens einer Ausführungsform kann der Schnittstellenbus 2610 ein Prozessorbus sein, wie etwa eine Version eines Direct-Media-Interface-(„DMI“-)Busses. In mindestens einer Ausführungsform ist der Schnittstellenbus 2610 nicht auf einen DMI-Bus beschränkt, sondern kann einen oder mehrere Peripheral-Component-Interconnect-Busse (z. B. PCI, PCI Express („PCIe“)), Speicherbusse oder andere Typen von Schnittstellenbussen beinhalten. In mindestens einer Ausführungsform beinhalten die Prozessor(en) 2602 eine integrierte Speichersteuerung 2616 und einen Plattformsteuerungs-Hub 2630. In mindestens einer Ausführungsform ermöglicht die Speichersteuerung 2616 die Kommunikation zwischen einer Speichervorrichtung und anderen Komponenten des Verarbeitungssystem 2600, während der Plattformsteuerungs-Hub (platform controller hub - PCH) 2630 Verbindungen mit E/A-Vorrichtungen über einen lokalen E/A-Bus („E/A“) bereitstellt.
-
In mindestens einer Ausführungsform kann eine Speichervorrichtung 2620 eine Vorrichtung mit dynamischem Direktzugriffsspeicher („DRAM“), eine Vorrichtung mit statischem Direktzugriffsspeicher („SRAM“), eine Flash-Speichervorrichtung, eine Phasenwechsel-Speichervorrichtung oder eine andere Speichervorrichtung sein, die eine geeignete Rechenleistung aufweist, um als Prozessspeicher zu dienen. In mindestens einer Ausführungsform kann die Speichervorrichtung 2620 als Systemspeicher für das Verarbeitungssystem 2600 arbeiten, um Daten 2622 und Anweisungen 2621 zur Verwendung zu speichern, wenn ein oder mehrere Prozessoren 2602 eine Anwendung oder einen Prozess ausführen. In mindestens einer Ausführungsform ist die Speichersteuerung 2616 zudem an einen optionalen externen Grafikprozessor 2612 gekoppelt, der mit einem oder mehreren Grafikprozessoren 2608 in den Prozessoren 2602 kommunizieren kann, um Grafik- und Medienoperationen durchzuführen. In mindestens einer Ausführungsform kann eine Anzeigevorrichtung 2611 mit den Prozessor(en) 2602 verbunden sein. In mindestens einer Ausführungsform kann die Anzeigevorrichtung 2611 eine oder mehrere von einer internen Anzeigevorrichtung, wie in einer mobilen elektronischen Vorrichtung oder einer Laptopvorrichtung, oder einer externen Anzeigevorrichtung beinhalten, die über eine Anzeigeschnittstelle (z.B. DisplayPort usw.) angeschlossen ist. In mindestens einer Ausführungsform kann die Anzeigevorrichtung 2611 eine am Kopf befestigte Anzeige (head mounted display - „HMD“) beinhalten, wie etwa eine stereoskopische Anzeigevorrichtung zur Verwendung bei Virtual-Reality-(„VR“-)Anwendungen oder Augmented-Reality-(„AR“-)Anwendungen.
-
In mindestens einer Ausführungsform ermöglicht der Plattformsteuerungs-Hub 2630, dass Peripheriegeräte mit der Speichervorrichtung 2620 und dem Prozessor 2602 über einen Hochgeschwindigkeits-E/A-Bus verbunden werden. In mindestens einer Ausführungsform beinhalten die E/A-Peripherievorrichtungen eine Audiosteuerung 2646, eine Netzsteuerung 2634, eine Firmware-Schnittstelle 2628, einen drahtlosen Sendeempfänger 2626, Berührungssensoren 2625 und eine Datenspeichervorrichtung 2624 (z. B. Festplattenlaufwerk, Flash-Speicher usw.). In mindestens einer Ausführungsform kann die Datenspeichervorrichtung 2624 über eine Speicherschnittstelle (z. B. SATA) oder über einen Peripheriebus, wie etwa PCI oder PCIe verbunden sein. In mindestens einer Ausführungsform können die Berührungssensoren 2625 Touchscreen-Sensoren, Drucksensoren oder Fingerabdrucksensoren beinhalten. In mindestens einer Ausführungsform kann der drahtlose Sendeempfänger 2626 ein Wi-Fi-Sendeempfänger, ein Bluetooth-Sendeempfänger oder ein Sendeempfänger für ein mobiles Netz, wie etwa ein 3G-, 4G- oder Long-Term-Evolution-(„LTE“-)Sendeempfänger sein. In mindestens einer Ausführungsform ermöglicht die Firmware-Schnittstelle 2628 die Kommunikation mit der System-Firmware und kann in mindestens einer Ausführungsform eine vereinheitlichte erweiterbare Firmware-Schnittstelle (unified extensible firmware interface - „UEFI“) sein. In mindestens einer Ausführungsform kann die Netzwerksteuerung 2634 eine Netzwerkverbindung zu einem drahtgebundenen Netzwerk ermöglichen. In mindestens einer Ausführungsform ist eine Hochleistungsnetzwerksteuerung (nicht gezeigt) mit dem Schnittstellenbus 2610 gekoppelt. In mindestens einer Ausführungsform ist die Audiosteuerung 2646 eine Mehrkanal-High-Definition-Audiosteuerung. In mindestens einer Ausführungsform beinhaltet das Verarbeiterungssystem 2600 eine optionale ältere E/A-Steuerung 2640 zum Koppeln von älteren Vorrichtungen (z. B. Personal System 2 („PS/2“)) an das Verarbeiterungssystem 2600. In mindestens einer Ausführungsform kann der Plattformsteuerungs-Hub 2630 auch mit einer oder mehreren Universal-Serial-Bus-(„USB“-)Steuerungen 2642 verbunden sein, die mit Eingabevorrichtungen, wie etwa Kombinationen aus Tastatur und Maus 2643, einer Kamera 2644 oder anderen USB-Eingabevorrichtungen, verbunden sind.
-
In mindestens einer Ausführungsform kann eine Instanz der Speichersteuerung 2616 und des Plattformsteuerungs-Hubs 2630 in einen diskreten externen Grafikprozessor, wie etwa den externen Grafikprozessor 2612, integriert sein. In mindestens einer Ausführungsform können der Plattformsteuerungs-Hub 2630 und/oder die Speichersteuerung 2616 extern zu einem oder mehreren Prozessor(en) 2602 sein. Zum Beispiel kann das Verarbeitungssystem 2600 in mindestens einer Ausführungsform eine externe Speichersteuerung 2616 und einen Plattformsteuerungs-Hub 2630 beinhalten, die als Speichersteuerungs-Hub und Peripheriegerätssteuerungs-Hub innerhalb eines Systemchipsatzes konfiguriert sein können, der mit Prozessor(en) 2602 kommuniziert.
-
27 veranschaulicht ein Computersystem 2700 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform kann das Computersystem 2700 ein System mit verbundenen Vorrichtungen und Komponenten, ein SOC oder eine Kombination davon sein. In mindestens einer Ausführungsform ist das Computersystem 2700 mit einem Prozessor 2702 gebildet, der Ausführungseinheiten beinhalten kann, um eine Anweisung auszuführen. In mindestens einer Ausführungsform kann das Computersystem 2700 ohne Einschränkung eine Komponente beinhalten, wie etwa einen Prozessor 2702, um Ausführungseinheiten einzusetzen, die eine Logik beinhalten, um Algorithmen zum Verarbeiten von Daten durchzuführen. In mindestens einer Ausführungsform kann das Computersystem 2700 Prozessoren beinhalten, wie etwa PENTIUM®-Prozessorfamilie, Mikroprozessoren von XeonTM, Itanium®, XScaleTM und/oder StrongARMTM, Intel® Core™ oder Intel® Nervana™, die von Intel Corporation of Santa Clara, Kalifornien, erhältlich sind, obwohl auch andere Systeme (die PCs mit anderen Mikroprozessoren, Engineering-Workstations, Set-Top-Boxen und dergleichen beinhalten) verwendet werden können. In mindestens einer Ausführungsform kann das Computersystem 2700 eine Version des WINDOWS-Betriebssystems ausführen, das von der Microsoft Corporation in Redmond, Washington, erhältlich ist, obwohl auch andere Betriebssysteme (in mindestens einer Ausführungsform UNIX und Linux), eingebettete Software und/oder grafische Benutzeroberflächen verwendet werden können.
-
In mindestens einer Ausführungsform kann das Computersystem 2700 in anderen Vorrichtungen verwendet werden, wie etwa Handheld-Vorrichtungen und eingebetteten Anwendungen. Einige der mindestens einen Ausführungsformen für tragbare Vorrichtungen sind Mobiltelefone, Internetprotokoll-Vorrichtungen, Digitalkameras, persönliche digitale Assistenten („PDAs“) und tragbare PCs. In mindestens einer Ausführungsform können eingebettete Anwendungen einen Mikrocontroller, einen digitalen Signalprozessor (DSP), SoC, Netzwerkcomputer („NetPCs“), Set-Top-Boxen, Netzwerk-Hubs, Weitverkehrsnetzwerk(wide area network - „WAN“)-Switches oder ein beliebiges anderes System beinhalten, das eine oder mehrere Anweisungen durchführen kann.
-
In mindestens einer Ausführungsform kann das Computersystem 2700 ohne Einschränkung einen Prozessor 2702 beinhalten, der ohne Einschränkung eine oder mehrere Ausführungseinheiten 2708 beinhalten kann, die konfiguriert sein können, um eine Compute Unified Device Architecture („CUDA“) (CUDA® is entwickelt von der NVIDIA Corporation aus Santa Clara, CA) Programm. In mindestens einer Ausführungsform ist ein CUDA-Programm mindestens ein Abschnitt einer Softwareanwendung, der in einer CUDA-Programmiersprache geschrieben ist. In mindestens einer Ausführungsform ist das Computersystem 2700 ein Desktop- oder Serversystem mit einem einzelnen Prozessor. In mindestens einer Ausführungsform kann das Computersystem 2700 ein Mehrprozessorsystem sein. In mindestens einer Ausführungsform kann der Prozessor 2702 ohne Einschränkung einen CISC-Mikroprozessor, einen RISC-Mikroprozessor, einen VLIW-Mikroprozessor, einen Prozessor, der eine Kombination von Anweisungssätzen implementiert, oder eine beliebige andere Prozessorvorrichtung, wie etwa ein digitaler Signalprozessor, in mindestens einer Ausführungsform beinhalten. In mindestens einer Ausführungsform kann der Prozessor 2702 an einen Prozessorbus 2710 gekoppelt sein, der Datensignale zwischen dem Prozessor 2702 und anderen Komponenten im Computersystem 2700 übertragen kann.
-
In mindestens einer Ausführungsform kann der Prozessor 2702 ohne Einschränkung einen internen Cachespeicher („Cache“) 2704 der Ebene 1 („L1“) beinhalten. In mindestens einer Ausführungsform kann der Prozessor 2702 einen einzelnen internen Cache oder mehrere Levels von internem Cache aufweisen. In mindestens einer Ausführungsform kann sich der Cache-Speicher extern zu dem Prozessor 2702 befinden. In mindestens einer Ausführungsform kann der Prozessor 2702 auch eine Kombination von sowohl internen als auch externen Caches beinhalten. In mindestens einer Ausführungsform kann eine Registerbank 2706 unterschiedliche Typen von Daten in verschiedenen Registern speichern, einschließlich ohne Einschränkung Integerregistern, Gleitkommaregistern, Statusregistern und eines Anweisungszeigerregisters.
-
In mindestens einer Ausführungsform befindet sich die Ausführungseinheit 2708, einschließlich ohne Einschränkung der Logik zum Durchführen von Integer- und Gleitkommaoperationen, ebenfalls in dem Prozessor 2702. Der Prozessor 2702 kann auch Festwertspeicher (read only memory - „ROM“) für Mikrocode („µcode“) beinhalten, der Mikrocode für bestimmte Makroanweisungen speichert. In mindestens einer Ausführungsform kann die Ausführungseinheit 2708 Logik beinhalten, um einen gepackten Anweisungssatz 2709 zu handhaben. In mindestens einer Ausführungsform können Operationen, die von vielen Multimediaanwendungen verwendet werden, unter Verwendung von gepackten Daten in einem Allzweckprozessor 2709 durch das Beinhalten des gepackten Anweisungssatzes 2702 in einen Anweisungssatz eines Allzweckprozessors 2702 durchgeführt werden, zusammen mit einer zugehörigen Schaltung, um Befehle auszuführen. In mindestens einer Ausführungsform können viele Multimediaanwendungen beschleunigt und effizienter durch das Verwenden der vollen Breite des Datenbusses eines Prozessors zum Durchführen von Operationen an gepackten Daten ausgeführt werden, wodurch die Notwendigkeit beseitigt werden kann, kleinere Dateneinheiten über den Datenbus des Prozessors zu übertragen, um eine oder mehrere Operationen an einem Datenelement nach dem anderen durchzuführen.
-
In mindestens einer Ausführungsform kann die Ausführungseinheit 2708 auch in Mikrocontrollern, eingebetteten Prozessoren, Grafikvorrichtungen, DSPs und anderen Typen von Logikschaltungen verwendet werden. In mindestens einer Ausführungsform kann das Computersystem 2700 ohne Einschränkung einen Speicher 2720 beinhalten. In mindestens einer Ausführungsform kann der Speicher 2720 als eine DRAM-Vorrichtung, eine SRAM-Vorrichtung, Flash-Speichervorrichtung oder andere Speichervorrichtung implementiert sein. Der Speicher 2720 kann Anweisung(en) 2719 und/oder Daten 2721 speichern, die durch Datensignale dargestellt sind, die durch den Prozessor 2702 ausgeführt werden können.
-
In mindestens einer Ausführungsform kann ein Systemlogikchip an den Prozessorbus 2710 und den Speicher 2720 gekoppelt sein. In mindestens einer Ausführungsform kann ein Systemlogikchip ohne Einschränkung einen Speichersteuerungs-Hub (memory controller hub - „MCH“) 2716 beinhalten und der Prozessor 2702 mit dem MCH 2716 über den Prozessorbus 2710 kommunizieren. In mindestens einer Ausführungsform kann der MCH 2716 einen Speicherpfad mit hoher Bandbreite 2718 zum Speicher 2720 zur Anweisungs- und Datenspeicherung und zur Speicherung von Grafikbefehlen, Daten und Texturen bereitstellen. In mindestens einer Ausführungsform kann der MCH 2716 Datensignale zwischen dem Prozessor 2702, dem Speicher 2720 und anderen Komponenten im Computersystem 2700 leiten und Datensignale zwischen dem Prozessorbus 2710, dem Speicher 2720 und einer System-E/A 2722 überbrücken. In mindestens einer Ausführungsform kann der Systemlogikchip einen Grafikport zum Koppeln an eine Grafiksteuerung bereitstellen. In mindestens einer Ausführungsform kann der MCH 2716 über einen Speicherpfad mit hoher Bandbreite 2718 an den Speicher 2720 gekoppelt sein und die Grafik-/Videokarte 2712 kann an den MCH 2716 über eine Verbindung eines beschleunigten Grafikports (Accelerated Graphics Port - „AGP“) 2714 gekoppelt sein.
-
In mindestens einer Ausführungsform kann das Computersystem 2700 die System-E/A 2722 verwenden, die ein proprietärer Hubschnittstellenbus ist, um den MCH 2716 an den E/A-Steuerungshub (I/O controller hub - „ICH“) 2730 zu koppeln. In mindestens einer Ausführungsform kann der ICH 2730 direkte Verbindungen zu einigen E/A-Vorrichtungen über einen lokalen E/A-Bus bereitstellen. In mindestens einer Ausführungsform kann ein lokaler E/A-Bus ohne Einschränkung einen Hochgeschwindigkeits-E/A-Bus zum Verbinden von Peripheriegeräten mit dem Speicher 2720, einem Chipsatz und dem Prozessor 2702 beinhalten. Beispiele können ohne Einschränkung eine Audiosteuerung 2729, einen Firmware-Hub („Flash-BIOS“) 2728, einen drahtlosen Sendeempfänger 2726, einen Datenspeicher 2724, eine ältere E/A-Steuerung 2723, die Benutzereingabe- und Tastaturschnittstelle 2725 enthält, einen seriellen Erweiterungsport 2777, wie etwa einen Universal-Serial-Bus-(„USB“-)Port, und eine Netzsteuerung 2734 beinhalten. Der Datenspeicher 2724 kann ein Festplattenlaufwerk, ein Diskettenlaufwerk, eine CD-ROM-Vorrichtung, eine Flash-Speichervorrichtung oder eine andere Massenspeichervorrichtung umfassen.
-
In mindestens einer Ausführungsform veranschaulicht 27 ein System, das miteinander verbundene Hardware-Vorrichtungen oder „Chips“ beinhaltet. In mindestens einer Ausführungsform kann 27 ein beispielhaftes SoC veranschaulichen. In mindestens einer Ausführungsform können die in 27 veranschaulichten Vorrichtungen mit proprietären Zwischenverbindungen, standardisierten Zwischenverbindungen (z. B. PCIe) oder einer Kombination davon miteinander verbunden sein. In mindestens einer Ausführungsform sind eine oder mehrere Komponenten des Systems 2700 unter Verwendung von Compute-Express-Link („CXL“)-Verbindungen miteinander verbunden.
-
28 veranschaulicht ein System 2800 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform ist das System 2800 eine elektronische Vorrichtung, die einen Prozessor 2810 nutzt. In mindestens einer Ausführungsform kann das System 2800 in mindestens einer Ausführungsform und ohne Einschränkung ein Notebook, ein Tower-Server, ein Rack-Server, ein Blade-Server, ein Laptop, ein Desktop, ein Tablet, eine Mobilvorrichtung, ein Telefon, ein eingebetteter Computer oder eine beliebige andere geeignete elektronische Vorrichtung sein.
-
In mindestens einer Ausführungsform kann das System 2800 ohne Einschränkung einen Prozessor 2810 beinhalten, der kommunikativ an eine beliebige geeignete Anzahl oder Art von Komponenten, Peripheriegeräten, Modulen oder Vorrichtungen gekoppelt ist. In mindestens einer Ausführungsform ist der Prozessor 2810 unter Verwendung eines Busses oder einer Schnittstelle gekoppelt, wie etwa eines I2C-Busses, eines Systemverwaltungsbusses (System Management Bus - „SMBus“), eines Busses mit geringer Pin-Anzahl (Low Pin Count - „LPC“), einer seriellen Peripherieschnittstelle (Serial Peripheral Interface - „SPI“), eines High-Definition-Audio („HDA“)-Busses, eines Serial-Advance-Technology-Attachment („SATA“)-Busses, eines USB (Versionen 1, 2 oder 3) oder eines Busses eines universellen asynchronen Empfänger/Senders (Universal Asynchronous Receiver/Transmitter - „UART“). In mindestens einer Ausführungsform veranschaulicht 28 ein System, das miteinander verbundene Hardware-Vorrichtungen oder „Chips“ beinhaltet. In mindestens einer Ausführungsform kann 28 ein beispielhaftes SoC veranschaulichen. In mindestens einer Ausführungsform können die in 28 veranschaulichten Vorrichtungen mit proprietären Zusammenschaltungen, standardisierten Zusammenschaltungen (z. B. PCIe) oder einer Kombination davon zusammengeschaltet sein. In mindestens einer Ausführungsform sind eine oder mehrere Komponenten der 28 unter Verwendung von CXL-Zwischenverbindungen miteinander verbunden.
-
In mindestens einer Ausführungsform kann 28 Folgendes beinhalten: eine Anzeige 2824, einen Berührungsbildschirm 2825, ein Touchpad 2830, eine Nahfeldkommunikationseinheit („NFC“) 2845, einen Sensor-Hub 2840, einen Wärmesensor 2846, einen Express-Chipsatz („EC“) 2835, ein Trusted-Platform-Modul („TPM“) 2838, BIOS-/Firmware-/Flash-Speicher („BIOS, FW Flash“) 2822, einen DSP 2860, ein Festkörperlaufwerk (Solid State Disk - „SSD“) oder ein Festplattenlaufwerk (Hard Disk Drive - „HDD“) 2820, eine drahtlose lokale Netzwerkeinheit (Wireless Local Area Network - „WLAN“) 2850, eine Bluetooth-Einheit 2852, eine drahtlose Weitbereichsnetzwerkeinheit (Wireless Wide Area Network - „WWAN“) 2856, ein globales Positionsbestimmungssystem („GPS“) 2855, eine Kamera („USB 3.0-Kamera“) 2854, wie etwa eine USB 3.0-Kamera, und/oder eine Speichereinheit mit doppelter Datenrate bei niedriger Leistung (Low Power Double Data Rate - „LPDDR“) („LPDDR3“) 2815, die in mindestens einer Ausführungsform im LPDDR3-Standard implementiert ist. Diese Komponenten können jeweils auf eine beliebige geeignete Weise implementiert sein.
-
In mindestens einer Ausführungsform können andere Komponenten kommunikativ an den Prozessor 2810 durch die vorstehend erörterten Komponenten gekoppelt sein. In mindestens einer Ausführungsform können ein Beschleunigungsmesser 2841, ein Umgebungslichtsensor (ambient light sensor - „ALS“) 2842, ein Kompass 2843 und ein Gyroskop 2844 kommunikativ an den Sensor-Hub 2840 gekoppelt sein. In mindestens einer Ausführungsform können der Wärmesensor 2839, ein Lüfter 2837, eine Tastatur 2846 und ein Touchpad 2830 kommunikativ an den EC 2835 gekoppelt sein. In mindestens einer Ausführungsform können der Lautsprecher 2863, die Kopfhörer 2864 und das Mikrofon („mic“) 2865 kommunikativ an eine Audioeinheit („Audiocodec und Klasse-D-Verstärker“) 2864 gekoppelt sein, die wiederum kommunikativ an den DSP 2860 gekoppelt sein kann. In mindestens einer Ausführungsform kann die Audioeinheit 2864 ohne Einschränkung einen Audiokodierer/-dekodierer („Codec“) und einen Klasse-D-Verstärker beinhalten. In mindestens einer Ausführungsform kann eine SIM-Karte („SIM“) 2857 kommunikativ an die WWAN-Einheit 2856 gekoppelt sein. In mindestens einer Ausführungsform können Komponenten wie die WLAN-Einheit 2850 und die Bluetooth-Einheit 2852 sowie die WWAN-Einheit 2856 in einem Formfaktor der nächsten Generation (Next Generation Form Factor - „NGFF“) implementiert sein.
-
29 veranschaulicht eine beispielhafte integrierte Schaltung 2900 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform ist die beispielhafte integrierte Schaltung 2900 ein SoC, das unter Verwendung eines oder mehrerer IP-Kerne hergestellt werden kann In mindestens einer Ausführungsform beinhaltet die integrierte Schaltung 2900 einen oder mehrere Anwendungsprozessor(en) 2905 (z. B. CPUs), mindestens einen Grafikprozessor 2910 und sie kann zusätzlich einen Bildprozessor 2915 und/oder einen Videoprozessor 2920 beinhalten, von denen jeder beliebige ein modularer IP-Kern sein kann. In mindestens einer Ausführungsform beinhaltet die integrierte Schaltung 2900 Peripherie- oder Buslogik, die eine USB-Steuerung 2925, eine UART-Steuerung 2930, eine SPI/SDIO-Steuerung 2935 und eine I2S/I2C-Steuerung 2940 beinhaltet. In mindestens einer Ausführungsform kann die integrierte Schaltung 2900 eine Anzeigevorrichtung 2945 beinhalten, die an eine oder mehrere von einer High-Definition-Multimedia-Interface-(HDMI-)Steuerung 2950 und einer Mobile-Industry-Processor-Interface-(MIPI-)Anzeigeschnittstelle 2955 gekoppelt ist. In mindestens einer Ausführungsform kann die Speicherung durch ein Flash-Speicherteilsystem 2960 bereitgestellt sein, das Flash-Speicher und eine Flash-Speichersteuerung beinhaltet. In mindestens einer Ausführungsform kann eine Speicherschnittstelle über eine Speichersteuerung 2965 für den Zugriff auf SDRAM- oder SRAM-Speichervorrichtungen bereitgestellt sein. In mindestens einer Ausführungsform beinhalten einige integrierte Schaltungen zusätzlich eine eingebettete Sicherheits-Engine 2970.
-
30 veranschaulicht ein Rechensystem 3000 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform beinhaltet das Rechensystem 3000 ein Verarbeitungsteilsystem 3001 mit einem oder mehreren Prozessoren 3002 und einem Systemspeicher 3004, der über einen Zwischenverbindungspfad kommuniziert, der einen Speicher-Hub 3005 beinhalten kann. In mindestens einer Ausführungsform kann der Speicher-Hub 3005 eine getrennte Komponente innerhalb einer Chipsatzkomponente sein oder kann in einen oder mehrere Prozessoren 3002 integriert sein. In mindestens einer Ausführungsform ist der Speicher-Hub 3005 über eine Kommunikationsverbindung 3006 mit einem E/A-Teilsystem 3011 gekoppelt. In mindestens einer Ausführungsform beinhaltet das E/A-Teilsystem 3011 einen E/A-Hub 3007, der es dem Rechensystem 3000 ermöglichen kann, Eingaben von einer oder mehreren Eingabevorrichtung(en) 3008 zu empfangen. In mindestens einer Ausführungsform kann der E/A-Hub 3007 es einer Anzeigevorrichtung, die in einem oder mehreren Prozessor(en) 3002 beinhalten sein kann, ermöglichen, einer oder mehreren Anzeigevorrichtung(en) 3010A Ausgaben bereitzustellen. In mindestens einer Ausführungsform können eine oder mehrere mit dem E/A-Hub 3007 gekoppelte Anzeigevorrichtung(en) 3010A eine lokale, interne oder eingebettete Anzeigevorrichtung beinhalten.
-
In mindestens einer Ausführungsform beinhaltet das Verarbeitungsteilsystem 3001 einen oder mehrere Parallelprozessor(en) 3012, die über einen Bus oder eine andere Kommunikationsverknüpfung 3013 an den Speicher-Hub 3005 gekoppelt sind. In mindestens einer Ausführungsform kann die Kommunikationsverbindung 3013 eine von einer beliebigen Anzahl von auf Standards basierenden Kommunikationsverbindungstechnologien oder - protokollen sein, wie etwa, aber nicht beschränkt auf PCIe, oder kann eine herstellerspezifische Kommunikationsschnittstelle oder Kommunikationsstruktur sein. In mindestens einer Ausführungsform bilden ein oder mehrere Parallelprozessor(en) 3012 ein rechnerisch fokussiertes Parallel- oder Vektorverarbeitungssystem, das eine große Anzahl von Verarbeitungskernen und/oder Verarbeitungsclustern beinhalten kann, wie etwa einen Prozessor mit vielen integrierten Kernen. In mindestens einer Ausführungsform bilden ein oder mehrere Parallelprozessoren 3012 ein Grafikverarbeitungsteilsystem, das Pixel an eine oder mehrere Anzeigevorrichtungen 3010A ausgeben kann, die über den E/A-Hub 3007 gekoppelt sind. In mindestens einer Ausführungsform können ein oder mehrere Parallelprozessoren 3012 auch eine Anzeigevorrichtung und eine Anzeigeschnittstelle (nicht gezeigt) beinhalten, um eine direkte Verbindung zu einer oder mehreren Anzeigevorrichtungen 3010B zu ermöglichen.
-
In mindestens einer Ausführungsform kann eine Systemspeichereinheit 3014 mit dem E/A-Hub 3007 verbunden sein, um einen Speichermechanismus für das Rechensystem 3000 bereitzustellen. In mindestens einer Ausführungsform kann ein E/A-Switch 3016 verwendet werden, um einen Schnittstellenmechanismus bereitzustellen, der Verbindungen zwischen dem E/A-Hub 3007 und anderen Komponenten ermöglicht, wie etwa einem Netzadapter 3018 und/oder einem drahtlosen Netzadapter 3019, die in eine Plattform integriert werden können, sowie verschiedenen anderen Vorrichtungen, die über eine oder mehrere Erweiterungsvorrichtung(en) 3020 hinzugefügt werden können. In mindestens einer Ausführungsform kann der Netzwerkadapter 3018 ein Ethernet-Adapter oder ein anderer drahtgebundener Netzwerkadapter sein. In mindestens einer Ausführungsform kann der drahtlose Netzwerkadapter 3019 eine oder mehrere von einer Wi-Fi-, Bluetooth-, NFC- oder anderen Netzwerkvorrichtung beinhalten, die ein oder mehrere drahtlose Funkvorrichtungen beinhaltet.
-
In mindestens einer Ausführungsform kann das Rechensystem 3000 andere Komponenten beinhalten, die nicht ausdrücklich gezeigt sind, die USB oder andere Port-Verbindungen, optische Speicherlaufwerke, Videoaufnahmevorrichtungen und/oder Variationen davon beinhalten und auch mit dem E/A-Hub 3007 verbunden sein können. In mindestens einer Ausführungsform können Kommunikationswege, die verschiedene Komponenten in 30 verbinden, unter Verwendung beliebiger geeigneter Protokolle implementiert sein, wie etwa auf PCI basierte Protokolle (z. B. PCIe) oder andere Bus- oder Punkt-zu-Punkt-Kommunikationsschnittstellen und/oder -protokolle, wie etwa NVLink-Hochgeschwindigkeitszwischenverbindung oder Zwischenverbindungsprotokolle.
-
In mindestens einer Ausführungsform schließen ein oder mehrere Parallelprozessoren 3012 eine Schaltung ein, die für die Grafik- und Videoverarbeitung optimiert ist, was in mindestens einer Ausführungsform eine Videoausgabeschaltung beinhaltet, und eine Grafikverarbeitungseinheit („GPU“) bildet. In mindestens einer Ausführungsform schließen ein oder mehrere Parallelprozessoren 3012 eine Schaltung ein, die für eine universelle Verarbeitung optimiert ist. In mindestens einer Ausführungsform können die Komponenten des Rechensystems 3000 in ein oder mehrere andere Systemelemente auf einer einzelnen integrierten Schaltung integriert sein. Zum Beispiel können in mindestens einer Ausführungsform ein oder mehrere Parallelprozessoren3012, Speicher-Hub 3005, Prozessoren 3002 und E/A-Hub 3007 in eine integrierte System-on-Chip-(SoC)-Schaltung integriert sein. In mindestens einer Ausführungsform können die Komponenten des Rechensystems 3000 in ein einzelnes Gehäuse integriert sein, um eine Konfiguration mit einem System in einem Gehäuse (system in package - „SIP“) zu bilden. In mindestens einer Ausführungsform kann mindestens ein Abschnitt der Komponenten des Rechensystems 3000 in ein Multi-Chip-Modul (multi-chip module - MCM) integriert sein, das mit anderen Multi-Chip-Modulen zu einem modularen Rechensystem zusammengeschaltet sein kann. In mindestens einer Ausführungsform werden das E/A-Teilsystem 3011 und die Anzeigevorrichtungen 3010B aus dem Rechensystem 3000 weggelassen.
-
VERARBEITUNGSSYSTEME
-
Die folgenden Figuren legen ohne Einschränkung beispielhafte Verarbeitungssysteme dar, die verwendet werden können, um mindestens eine Ausführungsform zu implementieren.
-
31 veranschaulicht eine beschleunigte Verarbeitungseinheit (accelerated processing unit - „APU“) 3100 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform wird die APU 3100 von der AMD Corporation, Santa Clara, Kalifornien, entwickelt. In mindestens einer Ausführungsform kann die APU 3100 so konfiguriert werden, um ein Anwendungsprogramm, z. B. ein CUDA-Programm auszuführen. In mindestens einer Ausführungsform beinhaltet die APU 3100 ohne Einschränkung einen Kernkomplex 3110, einen Grafikkomplex 3140, eine Struktur 3160, E/A-Schnittstellen 3170, Speichersteuerungen 3180, eine Anzeigesteuerung 3192 und eine Multimedia-Engine 3194. In mindestens einer Ausführungsform kann die APU 3100 ohne Einschränkung eine beliebige Anzahl von Kernkomplexen 3110, eine beliebige Anzahl von Grafikkomplexen 3150, eine beliebige Anzahl von Anzeigesteuerungen 3192 und eine beliebige Anzahl von Multimedia-Engines 3194 in einer beliebigen Kombination beinhalten. Zu Erläuterungszwecken werden hierin mehrere Instanzen von gleichen Objekten mit Bezugszeichen bezeichnet, die ein Objekt identifizieren, und in Klammern gesetzte Nummern identifizieren eine Instanz, wo dies erforderlich ist.
-
In mindestens einer Ausführungsform ist der Kernkomplex 3110 eine CPU, ist der Grafikkomplex 3140 eine GPU und ist die APU 3100 eine Verarbeitungseinheit, die ohne Einschränkung 3110 und 3140 auf einem einzelnen Chip integriert. In mindestens einer Ausführungsform können dem Kernkomplex 3110 einige Tasks zugewiesen werden und können dem Grafikkomplex 3140 andere Tasks zugewiesen werden. In mindestens einer Ausführungsform ist der Kernkomplex 3110 so konfiguriert, um Hauptsteuersoftware auszuführen, die der APU 3100 zugeordnet ist, wie beispielsweise ein Betriebssystem. In mindestens einer Ausführungsform ist der Kernkomplex 3110 ein Masterprozessor der APU 3100, der Operationen anderer Prozessoren steuert und koordiniert. In mindestens einer Ausführungsform gibt der Kernkomplex 3110 Befehle aus, die einen Betrieb des Grafikkomplexes 3140 steuern. In mindestens einer Ausführungsform kann der Kernkomplex 3110 so konfiguriert sein, um vom Host ausführbaren Code auszuführen, der vom CUDA-Quellcode abgeleitet ist, und der Grafikkomplex 3140 kann so konfiguriert sein, um von der Vorrichtung ausführbaren Code auszuführen, der vom CUDA-Quellcode abgeleitet ist.
-
In mindestens einer Ausführungsform enthält der Kernkomplex 3110 ohne Einschränkung die Kerne 3120(1)-3120(4) und einen L3-Cache 3130 . In mindestens einer Ausführungsform kann der Kernkomplex 3110 ohne Einschränkung eine beliebige Anzahl von Kernen 3120 und eine beliebige Anzahl und Art von Caches in beliebiger Kombination beinhalten. In mindestens einer Ausführungsform sind die Kerne 3120 konfiguriert, um Anweisungen einer konkreten Anweisungssatzarchitektur (instruction set architecture - „ISA“) auszuführen. In mindestens einer Ausführungsform ist jeder Kern 3120 ein CPU-Kern.
-
In mindestens einer Ausführungsform beinhaltet jeder Kern 3120 ohne Einschränkung eine Abruf-/Decodiereinheit 3122, eine Ganzzahl-Ausführungs-Engine 3124, eine Gleitkomma-Ausführungs-Engine 3126 und einen L2-Cache 3128. In mindestens einer Ausführungsform ruft die Abruf-/Decodiereinheit 3122 Anweisungen ab, decodiert solche Anweisungen, erzeugt Mikrooperationen und sendet separate Mikroanweisungen an die Ganzzahl-Ausführungs-Engine 3124 und die Gleitkomma-Ausführungs-Engine 3126 ab. In mindestens einer Ausführungsform kann die Abruf-/Decodiereinheit 3122 gleichzeitig eine Mikroanweisung an die Ganzzahl-Ausführungs-Engine 3124 und eine weitere Mikroanweisung an die Gleitkomma-Ausführungs-Engine 3126 absenden. In mindestens einer Ausführungsform führt die Ganzzahl-Ausführungs-Engine 3124 ohne Einschränkung Ganzzahl- und Speicheroperationen aus. In mindestens einer Ausführungsform führt die Gleitkomma-Engine 3126 ohne Einschränkung Gleitkomma- und Vektoroperationen aus. In mindestens einer Ausführungsform sendet die Abruf-/Decodiereinheit 3122 Mikroanweisungen an eine einzelne Ausführungs-Engine aus, die sowohl die Ganzzahl-Ausführungs-Engine 3124 als auch die Gleitkomma-Ausführungs-Engine 3126 ersetzt.
-
In mindestens einer Ausführungsform kann jeder Kern 3120(i), wobei i eine ganze Zahl ist, die eine konkrete Instanz des Kerns 3120 darstellt, auf den im Kern 3120(i) beinhalteten L2-Cache 3128(i) zugreifen. In mindestens einer Ausführungsform istjeder im Kernkomplex 3120(j) beinhaltete Kern 3110, wobei j eine ganze Zahl ist, die eine konkrete Instanz des Kernkomplexes 3110 darstellt, mit anderen Kernen 3120 im Kernkomplex 3110(j) über den L3-Cache 3130(j), der im Kernkomplex 3110(j) beinhaltet ist, verbunden. In mindestens einer Ausführungsform können die im Kernkomplex 3120(j) beinhalteten Kerne 3110, wobei j eine ganze Zahl ist, die eine konkrete Instanz des Kernkomplexes 3110 darstellt, auf den gesamten L3-Cache 3130(j), der im Kernkomplex 3110(j) beinhaltet ist, zugreifen. In mindestens einer Ausführungsform kann der L3-Cache 3130 ohne Einschränkung eine beliebige Anzahl von Slices beinhalten.
-
In mindestens einer Ausführungsform kann der Grafikkomplex 3140 konfiguriert sein, um Rechenoperationen auf hochparallele Weise durchzuführen. In mindestens einer Ausführungsform ist der Grafikkomplex 3140 so konfiguriert, um Grafik-Pipeline-Operationen wie beispielsweise Zeichenbefehle, Pixeloperationen, geometrische Berechnungen und andere Operationen im Zusammenhang mit dem Rendern eines Bildes auf einer Anzeige auszuführen. In mindestens einer Ausführungsform ist der Grafikkomplex 3140 konfiguriert, um Operationen auszuführen, die sich nicht auf Grafiken beziehen. In mindestens einer Ausführungsform ist der Grafikkomplex 3140 konfiguriert, um sowohl Operationen, die sich auf Grafiken beziehen, als auch Operationen, die sich nicht auf Grafiken beziehen, auszuführen.
-
In mindestens einer Ausführungsform beinhaltet der Grafikkomplex 3140 ohne Einschränkung eine beliebige Anzahl von Recheneinheiten 3150 und einen L2-Cache 3142. In mindestens einer Ausführungsform nutzen die Recheneinheiten 3150 den L2-Cache 3142 gemeinsam. In mindestens einer Ausführungsform ist der L2-Cache 3142 partitioniert. In mindestens einer Ausführungsform beinhaltet der Grafikkomplex 3140 ohne Einschränkung eine beliebige Anzahl von Recheneinheiten 3150 und eine beliebige Anzahl (einschließlich null) und Art von Caches. In mindestens einer Ausführungsform beinhaltet der Grafikkomplex 3140 ohne Einschränkung eine beliebige Menge an dedizierter Grafikhardware.
-
In mindestens einer Ausführungsform beinhaltet jede Recheneinheit 3150 ohne Einschränkung eine beliebige Anzahl von SIMD-Einheiten 3152 und einen gemeinsam genutzten Speicher 3154. In mindestens einer Ausführungsform implementiert jede SIMD-Einheit 3152 eine SIMD-Architektur und ist konfiguriert, um Operationen parallel durchzuführen. In mindestens einer Ausführungsform kann jede Recheneinheit 3150 eine beliebige Anzahl von Thread-Blöcken ausführen, aber jeder Thread-Block wird auf einer einzelnen Recheneinheit 3150 ausgeführt. In mindestens einer Ausführungsform beinhaltet ein Thread-Block ohne Einschränkung eine beliebige Anzahl von Ausführungs-Threads. In mindestens einer Ausführungsform ist eine Arbeitsgruppe ein Thread-Block. In mindestens einer Ausführungsform führt jede SIMD-Einheit 3152 einen anderen Warp aus. In mindestens einer Ausführungsform ist ein Warp eine Gruppe von Threads (z. B. 16 Threads), wobei jeder Thread in einem Warp zu einem einzelnen Thread-Block gehört und konfiguriert ist, um einen anderen Datensatz basierend auf einem einzelnen Satz von Anweisungen zu verarbeiten. In mindestens einer Ausführungsform kann Prädikation verwendet werden, um einen oder mehrere Threads in einem Warp zu deaktivieren. In mindestens einer Ausführungsform ist ein Pfad ein Thread. In mindestens einer Ausführungsform ist ein Arbeitselement ein Thread. In mindestens einer Ausführungsform ist eine Wellenfront ein Warp. In mindestens einer Ausführungsform können sich verschiedene Wellenfronten in einem Thread-Block miteinander synchronisieren und über den gemeinsam genutzten Speicher 3154 kommunizieren.
-
In mindestens einer Ausführungsform ist die Struktur 3160 eine Systemverbindung, die Daten- und Steuerübertragungen zwischen dem Kernkomplex 3110, dem Grafikkomplex 3140, den E/A-Schnittstellen 3170, den Speichersteuerungen 3180, der Anzeigesteuerung 3192 und der Multimedia-Engine 3194 ermöglicht. In mindestens einer Ausführungsform kann die APU 3100, ohne Einschränkung, eine beliebige Menge und Art von Systemverbindung zusätzlich zu oder anstelle der Struktur 3160 beinhalten, die Daten- und Steuerübertragungen über eine beliebige Anzahl und Art von direkt oder indirekt verbundenen Komponenten erleichtert, die intern oder extern zur APU 3100 sein können. In mindestens einer Ausführungsform repräsentieren die E/A-Schnittstellen 3170 eine beliebige Anzahl und Art von E/A-Schnittstellen (z. B. PCI, PCI-Extended („PCI-X“), PCIe, Gigabit-Ethernet („GBE“), USB usw.). In mindestens einer Ausführungsform sind verschiedene Arten von Peripheriegeräten mit E/A-Schnittstellen 3170 gekoppelt. In mindestens einer Ausführungsform können Peripheriegeräte, die mit den E/A-Schnittstellen 3170 gekoppelt sind, ohne Einschränkung Tastaturen, Mäuse, Drucker, Scanner, Joysticks oder andere Arten von Spielesteuerungen, Medienaufzeichnungsvorrichtungen, externe Speichervorrichtungen, Netzwerkkarten usw. beinhalten.
-
In mindestens einer Ausführungsform zeigt die Anzeigevorrichtung AMD92 Bilder auf einem oder mehreren Anzeigevorrichtung(en) an, wie z. B. einem Flüssigkristallanzeige-(„LCD“)-Gerät. In mindestens einer Ausführungsform enthält die Multimedia-Engine 240 ohne Einschränkung jede Menge und Art von Schaltungen, die sich auf Multimedia beziehen, wie z. B. einen Videodecodierer, einen Videocodierer, einen Bildsignalprozessor usw. In einer mindestens Ausführungsform erleichtern die Speichersteuerung 3180 Datenübertragungen zwischen der APU 3100 und einem einheitlichen Systemspeicher 3190. In mindestens einer Ausführungsform nutzen der Kernkomplex 3110 und der Grafikkomplex 3140 den vereinheitlichten Systemspeicher 3190 gemeinsam.
-
In mindestens einer Ausführungsform implementiert die APU 3100 ein Speicherteilsystem, das ohne Einschränkung eine beliebige Menge und Art von Speichersteuerungen 3180 und Speichervorrichtungen (z.B. gemeinsam genutzten Speicher 3154) beinhaltet, die einer Komponente zugeordnet oder von mehreren Komponenten gemeinsam genutzt werden können. In mindestens einer Ausführungsform implementiert die APU 3100 ein Cache-Teilsystem, das ohne Einschränkung einen oder mehrere Cache-Speicher (z. B. L2-Caches 2728, L3-Cache 3130 und L2-Cache 3142) beinhaltet, die jeweils für eine beliebige Anzahl von Komponenten reserviert sein können oder von diesen gemeinsam genutzt werden können (z. B. Kerne 3120, Kernkomplex 3110, SIMD-Einheiten 3152, Recheneinheiten 3150 und Grafikkomplex 3140).
-
32 veranschaulicht eine CPU 3200 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform wird die CPU 3200 von der AMD Corporation, Santa Clara, Kalifornien, entwickelt. In mindestens einer Ausführungsform kann die CPU 3200 so konfiguriert sein, um ein Anwendungsprogramm auszuführen. In mindestens einer Ausführungsform ist CPU 3200 so konfiguriert, um Hauptsteuersoftware wie beispielsweise ein Betriebssystem auszuführen. In mindestens einer Ausführungsform gibt die CPU 3200 Befehle aus, die einen Betrieb einer externen GPU (nicht gezeigt) steuern. In mindestens einer Ausführungsform kann CPU 3200 so konfiguriert sein, um vom Host ausführbaren Code auszuführen, der vom CUDA-Quellcode abgeleitet ist, und eine externe GPU kann so konfiguriert sein, um von der Vorrichtung ausführbaren Code auszuführen, der von diesem CUDA-Quellcode abgeleitet ist. In mindestens einer Ausführungsform beinhaltet die CPU 3200 ohne Einschränkung eine beliebige Anzahl von Kernkomplexen 3210, eine Struktur 3260, E/A-Schnittstellen 3270 und Speichersteuerungen 3280.
-
In mindestens einer Ausführungsform enthält der Kernkomplex 3210 ohne Einschränkung die Kerne 3220(1)-3220(4) und einen L3-Cache 3230 . In mindestens einer Ausführungsform kann der Kernkomplex 3210 ohne Einschränkung eine beliebige Anzahl von Kernen 3220 und eine beliebige Anzahl und Art von Caches in beliebiger Kombination beinhalten. In mindestens einer Ausführungsform sind die Kerne 3220 konfiguriert, um Anweisungen einer konkreten ISA auszuführen. In mindestens einer Ausführungsform ist jeder Kern 3220 ein CPU-Kern.
-
In mindestens einer Ausführungsform beinhaltet jeder Kern 3220 ohne Einschränkung eine Abruf-/Decodiereinheit 3222, eine Ganzzahl-Ausführungs-Engine 3224, eine Gleitkomma-Ausführungs-Engine 3226 und einen L2-Cache 3228. In mindestens einer Ausführungsform ruft die Abruf-/Decodiereinheit 3222 Anweisungen ab, decodiert solche Anweisungen, erzeugt Mikrooperationen und sendet separate Mikroanweisungen an die Ganzzahl-Ausführungs-Engine 3224 und die Gleitkomma-Ausführungs-Engine 3226 ab. In mindestens einer Ausführungsform kann die Abruf-/Decodiereinheit 3222 gleichzeitig eine Mikroanweisung an die Ganzzahl-Ausführungs-Engine 3224 und eine weitere Mikroanweisung die Gleitkomma-Ausführungs-Engine 3226 absenden. In mindestens einer Ausführungsform führt die Ganzzahl-Ausführungs-Engine 3224 ohne Einschränkung Ganzzahl- und Speicheroperationen aus. In mindestens einer Ausführungsform führt die Gleitkomma-Engine 3226 ohne Einschränkung Gleitkomma- und Vektoroperationen aus. In mindestens einer Ausführungsform sendet die Abruf-/Decodiereinheit 3222 Mikroanweisungen an eine einzelne Ausführungs-Engine aus, die sowohl die Ganzzahl-Ausführungs-Engine 3224 als auch die Gleitkomma-Ausführungs-Engine 3226 ersetzt.
-
In mindestens einer Ausführungsform kann jeder Kern 3220(i), wobei i eine ganze Zahl ist, die eine konkrete Instanz des Kerns 3220 darstellt, auf den im Kern 3220(i) beinhalteten L2-Cache 3228(i) zugreifen. In mindestens einer Ausführungsform istjeder im Kernkomplex 3210(j) beinhaltete Kern 3220, wobei j eine ganze Zahl ist, die eine konkrete Instanz des Kernkomplexes 3210 darstellt, mit anderen Kernen 3220 im Kernkomplex 3210(j) über den L3-Cache 3230(j), der im Kernkomplex 3210(j) beinhaltet ist, verbunden. In mindestens einer Ausführungsform können die im Kernkomplex 3210(j) beinhalteten Kerne 3220, wobei j eine ganze Zahl ist, die eine konkrete Instanz des Kernkomplexes 3210 darstellt, auf den gesamten L3-Cache 3230(j), der im Kernkomplex 3210(j) beinhaltet ist, zugreifen. In mindestens einer Ausführungsform kann der L3-Cache 3230 ohne Einschränkung eine beliebige Anzahl von Slices beinhalten.
-
In mindestens einer Ausführungsform ist die Struktur 3260 eine Systemverbindung, die Daten- und Steuerübertragungen über die Kernkomplexe 3210(1) - 3210(N) (wobei N eine ganze Zahl größer als Null ist), I/O Schnittstellen 3270 und Speichersteuerungen 3280 ermöglicht. In mindestens einer Ausführungsform kann die CPU 3200, ohne Einschränkung, eine beliebige Menge und Art von Systemverbindung zusätzlich zu oder anstelle der Struktur 3260 beinhalten, die Daten- und Steuerübertragungen über eine beliebige Anzahl und Art von direkt oder indirekt verbundenen Komponenten erleichtert, die intern oder extern zur CPU 3200 sein können. In mindestens einer Ausführungsform repräsentieren die E/A-Schnittstellen 3270 eine beliebige Anzahl und Art von E/A-Schnittstellen (z. B. PCI, PCI-X, PCIe, GBE, USB usw.). In mindestens einer Ausführungsform sind verschiedene Arten von Peripheriegeräten mit E/A-Schnittstellen 3270 gekoppelt. In mindestens einer Ausführungsform können Peripheriegeräte, die mit den E/A-Schnittstellen 3270 gekoppelt sind, ohne Einschränkung Anzeigen, Tastaturen, Mäuse, Drucker, Scanner, Joysticks oder andere Arten von Spielesteuerungen, Medienaufzeichnungsvorrichtungen, externe Speichervorrichtungen, Netzwerkkarten usw. beinhalten.
-
In mindestens einer Ausführungsform ermöglichen die Speichersteuerungen 3280 Datenübertragungen zwischen der CPU 3200 und einem Systemspeicher 3290. In mindestens einer Ausführungsform nutzen der Kernkomplex 3210 und der Grafikkomplex 3240 den Systemspeicher 3290 gemeinsam. In mindestens einer Ausführungsform implementiert die CPU 3200 ein Speicherteilsystem, das ohne Einschränkung eine beliebige Menge und Art von Speichersteuerungen 3280 und Speichervorrichtungen beinhaltet, die einer Komponente zugeordnet oder von mehreren Komponenten gemeinsam genutzt werden können. In mindestens einer Ausführungsform implementiert die CPU 3200 ein Cache-Teilsystem, das ohne Einschränkung einen oder mehrere Cache-Speicher (z. B. L2-Caches 3228 und L3-Cachex 3230) beinhaltet, die jeweils für eine beliebige Anzahl von Komponenten reserviert sein können oder von diesen gemeinsam genutzt werden können (z. B. Kerne 3220 und Kernkomplexe 3210).
-
33 veranschaulicht ein beispielhaftes Beschleunigerintegrations-Slice 3390 gemäß mindestens einer Ausführungsform. Im hierin verwendeten Sinne umfasst ein „Slice“ einen spezifizierten Teil von Verarbeitungsressourcen der Beschleunigerintegrationsschaltung. In mindestens einer Ausführungsform stellt eine Beschleunigerintegrationsschaltung Cache-Verwaltungs-, Speicherzugriffs-, Kontextverwaltungs- und Unterbrechungsverwaltungsdienste im Namen einer Vielzahl von Grafikverarbeitungs-Engines, die in einem Grafikbeschleunigungsmodul beinhaltet ist, bereit. Die Grafikverarbeitungs-Engines können jeweils eine separate GPU umfassen. Alternativ können die Grafikverarbeitungsengines verschiedene Arten von Grafikverarbeitungsengines innerhalb einer GPU umfassen, wie etwa Grafikausführungseinheiten, Medienverarbeitungsengines (z. B. Videokodierer/-dekodierer), Abtaster und Blitengines. In mindestens einer Ausführungsform kann ein Grafikbeschleunigungsmodul eine GPU mit mehreren Grafikverarbeitungs-Engines sein. In mindestens einer Ausführungsform können Grafikverarbeitungsmaschinen einzelne GPUs sein, die auf einem gemeinsamen Gehäuse, einer gemeinsamen Leitungskarte oder einem gemeinsamen Chip integriert sind.
-
Ein effektiver Adressbereich 3382 der Anwendung innerhalb eines Systemspeichers 3314 speichert Prozesselemente 3383. In einer Ausführungsform werden die Prozesselemente 3383 als Reaktion auf GPU-Aufrufe 3381 von Anwendungen 3380 gespeichert, die auf dem Prozessor 3307 ausgeführt werden. Ein Prozesselement 3383 enthält einen Prozesszustand für die entsprechende Anwendung 3380. Ein im Prozesselement 3383 enthaltener Arbeitsdeskriptor (work descriptor - „WD“) 3384 kann eine einzelne Aufgabe sein, die von einer Anwendung angefordert wird, oder kann einen Verweis auf eine Warteschlange von Aufgaben beinhalten. In mindestens einer Ausführungsform ist der WD 3384 ein Zeiger auf eine Aufgabenanforderungswarteschlange im effektiven Adressbereich 3382 der Anwendung.
-
Das Grafikbeschleunigungsmodul 3346 und/oder einzelne Grafikverarbeitungs-Engines können von allen oder einer Teilmenge von Prozessen in einem System gemeinsam genutzt werden. In mindestens einer Ausführungsform kann eine Infrastruktur zum Einrichten des Prozesszustands und zum Senden eines WD 3384 an ein Grafikbeschleunigungsmodul 3346 zum Starten einer Aufgabe in einer virtualisierten Umgebung beinhaltet sein.
-
In mindestens einer Ausführungsform ist ein Programmiermodell mit dediziertem Prozess implementationsspezifisch. In diesem Modell besitzt ein einzelner Prozess das Grafikbeschleunigungsmodul 3346 oder eine einzelne Grafikverarbeitungs-Engine. Da das Grafikbeschleunigungsmodul 3346 einem einzelnen Prozess gehört, initialisiert ein Hypervisor die Beschleunigerintegrationsschaltung für eine besitzende Partition und ein Betriebssystem initialisiert die Beschleunigerintegrationsschaltung für einen besitzenden Prozess, wenn das Grafikbeschleunigungsmodul 3346 zugewiesen ist.
-
Im Betrieb ruft eine WD-Abrufeinheit 3391 in einem Beschleunigerintegrations-Slice 3390 den nächsten WD 3384 ab, der eine Angabe der Arbeit beinhaltet, die durch eine oder mehrere Grafikverarbeitungs-Engines des Grafikbeschleunigungsmoduls 3346 zu erledigen ist. Daten von dem WD 3384 können in den Registern 3345 gespeichert und von Speicherverwaltungseinheit („MMLJ“) 3339 genutzt, der Unterbrechungsverwaltungsschaltung 3347 und/oder der Kontextverwaltungsschaltung 3348 wie veranschaulicht verwendet werden. In mindestens einer Ausführungsform der MMU 3339 beinhaltet zum Beispiel eine Segment-/Seitenlaufschaltung zum Zugreifen auf Segment-/Seitentabellen 3386 innerhalb des virtuellen Adressraums 3385 eines OS. Die Unterbrechungsverwaltungsschaltung 3347 kann Unterbrechungsereignisse („INT“) 3392 verarbeiten, die von dem Grafikbeschleunigungsmodul 3346 empfangen wurden. Beim Durchführen von Grafikoperationen wird eine effektive Adresse 3393, die durch eine Grafikverarbeitungs-Engine erzeugt wird, durch die MMU 3339 in eine reale Adresse übersetzt.
-
In einer Ausführungsform wird ein selber Satz von Registern 3345 für jede Grafikverarbeitungsengine und/oder Grafikbeschleunigungsmodul 3346 dupliziert und kann durch einen Hypervisor oder ein Betriebssystem initialisiert werden. Jedes dieser duplizierten Register kann in dem Beschleunigerintegrations-Slice 3390 beinhaltet sein. Beispielhafte Register, die durch einen Hypervisor initialisiert werden können, sind in Tabelle 1 gezeigt. Tabelle 1 - durch Hypervisor initialisierte Register
1 | Slice-Steuerregister |
2 | Real Address (RA) Bereichszeiger für geplante Prozesse |
3 | Autoritätsmasken-Überschreibungsregister |
4 | Unterbrechungsvektor-Tabelleneintragsversatz |
5 | Unterbrechungsvektor-Tabelleneintragsbegrenzung |
6 | Zustandsregister |
7 | Logische Partitions-ID |
8 | Real Address (RA) Hypervisor Accelerator Utilization Record Pointer |
9 | Speicherbeschreibungsregister |
-
Beispielhafte Register, die durch ein Betriebssystem initialisiert werden können, sind in Tabelle 2 gezeigt. Tabelle 2 - durch Betriebssystem initialisierte Register
1 | Prozess- und Thread-Identifikation |
2 | Effektive Adresse (EA) Kontext Speichern/Wiederherstellen Zeiger |
3 | Virtuelle Adresse (VA) Accelerator Utilization Record Zeiger |
4 | Virtuelle Adresse (VA) Zeiger auf die Speichersegmenttabelle |
5 | Autoritätsmaske |
6 | Arbeitsdeskriptor |
-
In einer Ausführungsform ist jeder WD 3384 spezifisch für ein konkretes Grafikbeschleunigungsmodul 3346 und/oder eine konkrete Grafikverarbeitungs-Engine. Er enthält alle Informationen, die von einer Grafikverarbeitungs-Engine benötigt werden, um Arbeit zu erledigen, oder er kann ein Zeiger auf einen Speicherort sein, an dem eine Anwendung eine Befehlswarteschlange mit zu erledigender Arbeit eingerichtet hat.
-
Die 34A-34B veranschaulichen beispielhafte Grafikprozessoren gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform kann ein beliebiger der beispielhaften Grafikprozessoren unter Verwendung eines oder mehrerer IP-Kerne hergestellt sein. Zusätzlich zu dem, was veranschaulicht ist, können andere Logik und Schaltungen in mindestens einer Ausführungsform beinhalten sein, einschließlich zusätzlicher Grafikprozessoren/-kerne, Peripherieschnittstellensteuerungen oder Universalprozessorkerne. In mindestens einer Ausführungsform dienen die beispielhaften Grafikprozessoren zur Verwendung in einem SoC.
-
34A veranschaulicht einen beispielhaften Grafikprozessor 3410 einer integrierten Schaltung eines SoC, die unter Verwendung eines oder mehrerer IP-Kerne gemäß mindestens einer Ausführungsform hergestellt sein kann 34B veranschaulicht einen zusätzlichen beispielhaften Grafikprozessor 3440 einer integrierten Schaltung eines SoC, die unter Verwendung eines oder mehrerer IP-Kerne gemäß mindestens einer Ausführungsform hergestellt sein kann. In mindestens einer Ausführungsform ist der Grafikprozessor 3410 aus 34A ein Grafikprozessorkern mit niedriger Leistung. In mindestens einer Ausführungsform ist der Grafikprozessor 3440 aus 34B ein Grafikprozessorkern mit höherer Leistung. In mindestens einer Ausführungsform kann jeder der Grafikprozessoren 3410, 3440 eine Variante des Grafikprozessors 510 aus 5 sein.
-
In mindestens einer Ausführungsform beinhaltet der Grafikprozessor 3410 einen Vertex-Prozessor 3405 und einen oder mehrere Fragmentprozessoren 3415A-3415N (z.B. 3415A, 3415B, 3415C, 3415D bis 3415N-1 und 3415N). In mindestens einer Ausführungsform kann der Grafikprozessor 3410 derartig unterschiedliche Shader-Programme über getrennte Logik ausführen, dass der Scheitelpunktprozessor 3405 optimiert ist, um Operationen für Scheitelpunkt-Shader-Programme auszuführen, während ein oder mehrere Fragmentprozessoren 3415A-3415N Shading-Operationen für Fragmente (z. B. Pixel) für Fragment- oder Pixel-Shader-Programme ausführen. In mindestens einer Ausführungsform führt der Scheitelpunktprozessor 3405 eine Scheitelpunktverarbeitungsstufe einer 3D-Grafikpipeline durch und erzeugt Primitive und Scheitelpunkt-Daten. In mindestens einer Ausführungsform verwenden ein oder mehrere Fragmentprozessoren 3415A-3415N Primitiv- und Scheitelpunkt-Daten, die vom Scheitelpunktprozessor 3405 erzeugt werden, um einen Bildspeicher zu erzeugen, der auf einer Anzeigevorrichtung angezeigt wird. In mindestens einer Ausführungsform sind ein oder mehrere Fragmentprozessoren 3415A-3415N optimiert, um Fragment-Shader-Programme auszuführen, wie in einer OpenGL-API bereitgestellt, die verwendet werden können, um ähnliche Operationen wie ein Pixel-Shader-Programm durchzuführen, wie es in einer Direct 3D-API vorgesehen ist.
-
In mindestens einer Ausführungsform beinhaltet zusätzlich der Grafikprozessor 3410 eine oder mehrere MMU 3420A-3420B, Caches 3425A-3425B und Schaltungszwischenverbindungen 3430A-3430B. In mindestens einer Ausführungsform stellen eine oder mehrere MMU 3420A-3420B eine virtuell-physische Adresszuordnung für den Grafikprozessor 3410 bereit, was für den Vertex-Prozessor 3405 und/oder Fragmentprozessor(en) 3415A-3415N beinhaltet, die sich auf Vertex- oder im Speicher gespeicherte Bild-/Texturdaten zusätzlich zu in einem oder mehreren Cache 3425A-3425B gespeicherten Vertex- oder Bild-/Texturdaten beziehen. In mindestens einer Ausführungsform können eine oder mehrere MMU 3420A-3420B mit anderen MMU innerhalb des Systems synchronisiert werden, was beinhaltet, dass eine oder mehrere MMU einem oder mehreren Anwendungsprozessoren 505, Bildprozessoren 515 und/oder Videoprozessoren 520 aus 5 zugeordnet sind, sodass jeder Prozessor 505-520 an einem gemeinsam genutzten oder vereinheitlichten virtuellen Speichersystem teilnehmen kann. In mindestens einer Ausführungsform ermöglichen eine oder mehrere Schaltungszwischenverbindungen 3430A-3430B dem Grafikprozessor 3410, mit anderen IP-Kernen innerhalb eines SoC Schnittstellen zu bilden, entweder über einen internen Bus eines SoC oder über eine direkte Verbindung.
-
In mindestens einer Ausführungsform beinhaltet der Grafikprozessor 3440 eine oder mehrere MMU 3420A-3420B, Cache 3425A-3425B und Schaltungszwischenverbindungen 3430A-3430B des Grafikprozessors 3410 aus 34A. In mindestens einer Ausführungsform beinhaltet der Grafikprozessor 3440 einen oder mehrere Shader-Kerne 3455A-3455N (z. B. 3455A, 3455B, 3455C, 3455D, 3455E, 3455F bis 3455N-1 und 3455N), was eine vereinheitlichte Shader-Kernarchitektur bereitstellt, in der ein(e) einzelne(r) Kern oder Art oder Kern alle Arten von programmierbarem Shader-Code ausführen kann, was Shader-Programmcode beinhaltet, um Vertex-Shader, Fragment-Shader und/oder Compute-Shader zu implementieren. In mindestens einer Ausführungsform kann eine Anzahl der Shader-Kerne variieren. In mindestens einer Ausführungsform beinhaltet der Grafikprozessor 3440 einen Interkern-Taskmanager 3445, der als Thread-Dispatcher fungiert, um Ausführungs-Threads an einen oder mehrere Shader-Kerne 3455A-3455N abzusenden, und eine Kachelungseinheit 3458, um Kachelungsoperationen für kachelbasiertes Rendering zu beschleunigen, bei dem Rendering-Operationen für eine Szene im Bildraum unterteilt werden, um in mindestens einer Ausführungsform lokale räumliche Kohärenz innerhalb einer Szene auszunutzen oder um die Nutzung interner Caches zu optimieren.
-
35A veranschaulicht einen Grafikkern 3500 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform kann der Grafikkern 3500 in dem Grafikprozessor 2410 aus 24 beinhaltet sein. In mindestens einer Ausführungsform kann der Grafikkern 3500 ein vereinheitlichter Shader-Kern 3455A-3455N wie in 34B sein. In mindestens einer Ausführungsform beinhaltet der Grafikkern 3500 einen gemeinsam genutzten Anweisungscache 3502, eine Textureinheit 3518 und einen Cache/gemeinsam genutzten Speicher 3520, die Ausführungsressourcen innerhalb des Grafikkerns 3500 gemein sind. In mindestens einer Ausführungsform kann der Grafikkern 3500 mehrere Slices 3501A-3501N oder eine Partition für jeden Kern beinhalten, und ein Grafikprozessor kann mehrere Instanzen des Grafikkerns 3500 beinhalten. Die Slices 3501A-3501N können eine Unterstützungslogik beinhalten, die einen lokalen Anweisungscache 3504A-3504N, einen Thread-Scheduler 3506A-3506N, einen Thread-Dispatcher 3508A-3508N und einen Satz von Registern 3510A-3510N beinhaltet. In mindestens einer Ausführungsform können die Slices 3501A-3501N einen Satz zusätzlicher Funktionseinheiten (additional function unit - „AFU“) 3512A-3512N, Gleitkommaeinheiten (floating-point units - „FPU“) 3514A-3514N, ganzzahlige arithmetisch-logische Einheiten („ALU“) 3516-3516N, Adressberechnungseinheiten (address computational unit - „ACU“) 3513A-3513N, Gleitkommaeinheiten mit doppelter Genauigkeit (double-precision floating-point unit - „DPFPU“) 3515A-3515N und Matrixverarbeitungseinheiten (matrix processing unit - „MPU“) 3517A-3517N beinhalten.
-
In mindestens einer Ausführungsform können die FPUs 3514A-3514N Gleitkommaoperationen mit einfacher Genauigkeit (32 Bit) und mit halber Genauigkeit (16 Bit) ausführen, während die DPFPUs 3515A-3515N Gleitkommaoperationen mit doppelter Genauigkeit (64 Bit) ausführen. In mindestens einer Ausführungsform können die ALUs 3516A-3516N ganzzahlige Operationen mit variabler Präzision mit einer Genauigkeit von 8-Bit, 16-Bit und 32-Bit ausführen und können für Operationen mit gemischter Präzision konfiguriert sein. In mindestens einer Ausführungsform können die MPUs 3517A-3517N auch für Matrixoperationen mit gemischter Genauigkeit konfiguriert sein, die Gleitkomma- und 8-Bit-Ganzzahloperationen mit halber Genauigkeit beinhalten. In mindestens einer Ausführungsform können die MPUs 3517A-3517N eine Reihe von Matrixoperationen ausführen, um CUDA-Programm zu beschleunigen, welche die Ermöglichung der Unterstützung für beschleunigte allgemeine Matrixzu-Matrix-Multiplikation (general matrix to matrix multiplication - GEMM) beinhalten. In mindestens einer Ausführungsform können die AFU 3512A-3512N zusätzliche logische Operationen ausführen, die nicht durch Gleitkomma- oder Ganzzahleinheiten unterstützt werden, einschließlich trigonometrischer Operationen (z. B. Sinus, Cosinus usw.).
-
35B veranschaulicht eine Allzweck-Grafikverarbeitungseinheit (general-purpose graphics processing unit - „GPGPU“) 3530 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform ist die GPGPU 3530 hochparallel und für den Einsatz auf einem Multi-Chip-Modul geeignet. In mindestens einer Ausführungsform kann die GPGPU 3530 konfiguriert sein, um die Durchführung hochparalleler Rechenoperationen durch ein Array von GPU zu ermöglichen. In mindestens einer Ausführungsform kann die GPGPU 3530 direkt mit anderen Instanzen der GPGPU 3530 verbunden werden, um einen Multi-GPU-Cluster zu bilden und die Ausführungszeit für CUDA-Programme zu verbessern. In mindestens einer Ausführungsform beinhaltet die GPGPU 3530 eine Host-Schnittstelle 3532, um eine Verbindung mit einem Host-Prozessor zu ermöglichen. In mindestens einer Ausführungsform ist die Host-Schnittstelle 3532 eine PCIe-Schnittstelle. In mindestens einer Ausführungsform kann die Host-Schnittstelle 3532 eine herstellerspezifische Kommunikationsschnittstelle oder Kommunikationsstruktur sein. In mindestens einer Ausführungsform empfängt die GPGPU 3530 Befehle von einem Hostprozessor und verwendet einen globalen Planer 3534, um Ausführungsthreads, die diesen Befehlen zugeordnet sind, an einen Satz von Rechenclustern 3536A-3536H zu verteilen. In mindestens einer Ausführungsform teilen sich die Rechencluster 3536A-3536H einen schnellen Pufferspeicher 3538. In mindestens einer Ausführungsform kann der Cache-Speicher 3538 als ein Cache höherer Ebene für Cache-Speicher innerhalb der Rechencluster 3536A-3536H dienen.
-
In mindestens einer Ausführungsform beinhaltet die GPGPU 3530 Speicher 3544A-3544B, der über einen Satz von Speichersteuerungen 3542A-3542B mit den Rechenclustern 3536A-3536H gekoppelt ist. In mindestens einer Ausführungsform kann der Speicher 3544A-3544B verschiedene Arten von Speichervorrichtungen beinhalten, die DRAM oder Grafik-Direktzugriffsspeicher, wie etwa synchronen Grafik-Direktzugriffsspeicher („SGRAM“) beinhalten, der Speicher mit Grafik-Doppeldatenraten („GDDR“) beinhaltet.
-
In mindestens einer Ausführungsform beinhalten die Rechencluster 3536A-3536H jeweils einen Satz von Grafikkernen, wie etwa den Grafikkern 3500 aus 35A, der mehrere Arten von Ganzzahl- und Gleitkomma-Logikeinheiten beinhalten kann, die Berechnungsoperationen mit einer Reihe von Genauigkeiten durchführen können, die für Berechnungen in Verbindung mit CUDA-Programmen geeignete beinhalten. Zum Beispiel kann in mindestens einer Ausführungsform mindestens eine Teilmenge von Gleitkommaeinheiten in jedem der Rechencluster 3536A-3536H konfiguriert sein, um 16-Bit- oder 32-Bit-Gleitkommaoperationen durchzuführen, während eine andere Teilmenge von Gleitkommaeinheiten konfiguriert sein kann, um 64-Bit-Gleitkommaoperationen durchzuführen.
-
In mindestens einer Ausführungsform können mehrere Instanzen der GPGPU 3530 so konfiguriert sein, dass sie als Rechencluster arbeiten. In mindestens einer Ausführungsform können die Rechencluster 3536A - 3536H beliebige technisch machbare Kommunikationstechniken für Synchronisation und Datenaustausch implementieren. In mindestens einer Ausführungsform kommunizieren mehrere Instanzen der GPGPU 3530 über die Host-Schnittstelle 3532. In mindestens einer Ausführungsform beinhaltet die GPGPU 3530 einen E/A-Hub 3539, der die GPGPU 3530 mit einer GPU-Link 3540 koppelt, der eine direkte Verbindung zu anderen Instanzen der GPGPU 3530 ermöglicht. In mindestens einer Ausführungsform ist der GPU-Link 3540 an eine dedizierte GPU-zu-GPU-Brücke gekoppelt, welche die Kommunikation und Synchronisation zwischen mehreren Instanzen der GPGPU 3530 ermöglicht. In mindestens einer Ausführungsform ist der GPU-Link 3540 mit einer Hochgeschwindigkeitsverbindung gekoppelt, um Daten an andere GPGPUs 3530 oder Parallelprozessoren zu übermitteln und zu empfangen. In mindestens einer Ausführungsform befinden sich mehrere Instanzen der GPGPU 3530 in getrennten Datenverarbeitungssystemen und kommunizieren über eine Netzwerkvorrichtung, auf die über die Hostschnittstelle 3532 zugegriffen werden kann. In mindestens einer Ausführungsform kann die GPU-Verknüpfung 3540 so konfiguriert sein, dass eine Verbindung zu einem Host-Prozessor zusätzlich zu oder alternativ zu der Host-Schnittstelle 3532 ermöglicht wird. In mindestens einer Ausführungsform kann die GPGPU 3530 konfiguriert sein, um ein CUDA-Programm auszuführen.
-
36A veranschaulicht einen Parallelprozessor 3600 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform können verschiedene Komponenten des Parallelprozessors 3600 unter Verwendung einer oder mehrerer integrierten Schaltungsvorrichtungen implementiert sein, wie etwa programmierbare Prozessoren, anwendungsspezifische integrierte Schaltungen („ASIC“) oder feldprogrammierbare Gatearrays (FPGA).
-
In mindestens einer Ausführungsform beinhaltet der Parallelprozessor 3600 eine Parallelverarbeitungseinheit 3602. In mindestens einer Ausführungsform beinhaltet die Parallelverarbeitungseinheit 3602 eine E/A-Einheit 3604, die Kommunikation mit anderen Vorrichtungen ermöglicht, einschließlich anderer Instanzen der Parallelverarbeitungseinheit 3602. In mindestens einer Ausführungsform kann die E/A-Einheit 3604 direkt mit anderen Vorrichtungen verbunden sein. In mindestens einer Ausführungsform verbindet sich die E/A-Einheit 3604 mit anderen Vorrichtungen über die Verwendung einer Hub- oder Switch-Schnittstelle, wie etwa dem Speicher-Hub 605. In mindestens einer Ausführungsform bilden Verbindungen zwischen dem Speicher-Hub 605 und der E/A-Einheit 3604 eine Kommunikationsverbindung. In mindestens einer Ausführungsform ist die E/A-Einheit 3604 mit einer Host-Schnittstelle 3606 und einer Speicherkreuzschiene 3616 verbunden, wobei die Host-Schnittstelle 3606 Befehle empfängt, die auf das Durchführen von Verarbeitungsoperationen gerichtet sind, und die Speicherkreuzschiene3616 Befehle empfängt, die auf das Durchführen von Speicheroperationen gerichtet sind.
-
In mindestens einer Ausführungsform kann, wenn die Host-Schnittstelle 3606 einen Befehlspuffer über die E/A-Einheit 3604 empfängt, die Host-Schnittstelle 3606 Arbeitsoperationen zum Durchführen dieser Befehle an ein Frontend 3608 richten. In mindestens einer Ausführungsform ist das Frontend 3608 mit einem Scheduler 3610 gekoppelt, der so konfiguriert ist, dass er Befehle oder andere Arbeitselemente an ein Verarbeitungsclusterarray 3612 verteilt. In mindestens einer Ausführungsform stellt der Planer 3610 sicher, dass das Verarbeitungsarray 3612 richtig konfiguriert ist und sich in einem gültigen Zustand befindet, bevor Aufgaben an das Verarbeitungsarray 3612 verteilt werden. In mindestens einer Ausführungsform ist der Scheduler 3610 über Firmware-Logik implementiert, die auf einem Mikrocontroller ausgeführt wird. In mindestens einer Ausführungsform ist der durch eine Mikrosteuerung implementierte Scheduler 3610 konfigurierbar, um komplexe Planungs- und Arbeitsverteilungsoperationen mit grober und feiner Granularität durchzuführen, was eine schnelle Vorwegnahme und Kontextumschaltung von Threads ermöglicht, die auf dem Verarbeitungsarray 3612 ausgeführt werden. In mindestens einer Ausführungsform kann die Host-Software Arbeitslasten zum Planen auf dem Verarbeitungsarray 3612 über eine von mehreren Doorbells für die Grafikverarbeitung nachweisen. In mindestens einer Ausführungsform können Arbeitslasten dann durch die Logik des Schedulers 3610 innerhalb einer Mikrosteuerung, die den Scheduler 3610 beinhaltet, automatisch über das Verarbeitungsarray 3612 verteilt werden.
-
In mindestens einer Ausführungsform kann das Verarbeitungsarray 3612 bis zu „N“ Cluster beinhalten (z. B. Cluster 3614A, Cluster 3614B bis Cluster 3614N). In mindestens einer Ausführungsform kann jeder Cluster 3614A-3614N des Verarbeitungsarrays 3612 eine große Anzahl gleichzeitiger Threads ausführen. In mindestens einer Ausführungsform kann der Scheduler 3610 den Clustern 3614A-3614N des Verarbeitungsarrays 3612 unter Verwendung verschiedener Planungs- und/oder Arbeitsverteilungsalgorithmen Arbeit zuweisen, die abhängig von der für jede Art von Programm oder Berechnung entstehenden Arbeitslasten variieren können. In mindestens einer Ausführungsform kann die Planung dynamisch durch den Scheduler 3610 gehandhabt werden oder kann teilweise durch die Compilerlogik während der Kompilierung der Programmlogik unterstützt werden, die für die Ausführung durch das Verarbeitungsarray 3612 konfiguriert ist. In mindestens einer Ausführungsform können unterschiedliche Cluster 3614A-3614N des Verarbeitungsarrays 3612 zum Verarbeiten unterschiedlicher Arten von Programmen oder zum Durchführen unterschiedlicher Arten von Berechnungen zugewiesen werden.
-
In mindestens einer Ausführungsform kann das Verarbeitungsarray 3612 konfiguriert sein, um verschiedene Arten von Parallelverarbeitungsoperationen durchzuführen. In mindestens einer Ausführungsform ist das Verarbeitungsarray 3612 konfiguriert, um Allzweck-Parallelrechenoperationen durchzuführen. In mindestens einer Ausführungsform kann das Verarbeitungsarray 3612 Logik zum Ausführen von Verarbeitungstasks beinhalten, was das Filtern von Video- und/oder Audiodaten, das Durchführen von Modellierungsoperationen, einschließlich Physikoperationen, und das Durchführen von Datentransformationen beinhaltet.
-
In mindestens einer Ausführungsform ist das Verarbeitungsarray 3612 konfiguriert, um parallele Grafikverarbeitungsoperationen durchzuführen. In mindestens einer Ausführungsform kann das Verarbeitungsarray 3612 zusätzliche Logik beinhalten, um die Ausführung derartiger Grafikverarbeitungsoperationen zu unterstützen, einschließlich, aber nicht beschränkt auf, Texturabtastlogik, um Texturoperationen durchzuführen, sowie Tesselierungslogik und andere Vertexverarbeitungslogik. In mindestens einer Ausführungsform kann das Verarbeitungsarray 3612 konfiguriert sein, um grafikverarbeitungsbezogene Shader-Programme auszuführen, wie etwa Vertex-Shader, Tessellation-Shader, Geometrie-Shader und Pixel-Shader, ohne darauf beschränkt zu sein. In mindestens einer Ausführungsform kann die Parallelverarbeitungseinheit 3602 Daten aus dem Systemspeicher über die E/A-Einheit 3604 zur Verarbeitung übermitteln. In mindestens einer Ausführungsform können während der Verarbeitung die übermittelten Daten in einem chipinternen Speicher (z. B. dem Parallelprozessorspeicher 3622) während der Verarbeitung gespeichert und dann wieder in den Systemspeicher geschrieben werden.
-
In mindestens einer Ausführungsform kann, wenn die Parallelverarbeitungseinheit 3602 verwendet wird, um eine Grafikverarbeitung durchzuführen, der Scheduler 3610 konfiguriert sein, um eine Verarbeitungsarbeitslast in ungefähr gleich große Tasks aufzuteilen, um eine bessere Verteilung von Grafikverarbeitungsoperationen auf mehrere Cluster 3614A-3614N des Verarbeitungsarrays 3612 zu ermöglichen. In mindestens einer Ausführungsform können Teile des Verarbeitungsarrays 3612 konfiguriert sein, um unterschiedliche Verarbeitungsarten durchzuführen. In mindestens einer Ausführungsform kann ein erster Abschnitt so konfiguriert sein, um Vertex-Shading und Topologieerzeugung durchzuführen, kann ein zweiter Abschnitt so konfiguriert sein, um Tesselations- und Geometrie-Shading durchzuführen, und kann ein dritter Abschnitt so konfiguriert sein, um Pixel-Shading oder andere Bildschirmraumvorgänge durchzuführen, um ein gerendertes Bild zur Anzeige zu produzieren. In mindestens einer Ausführungsform können Zwischendaten, die durch einen oder mehrere der Cluster 3614A-3614N erzeugt werden, in Puffern gespeichert werden, um zu ermöglichen, dass Zwischendaten zwischen den Clustern 3614A-3614N zur weiteren Verarbeitung übertragen werden.
-
In mindestens einer Ausführungsform kann das Verarbeitungsarray 3612 auszuführende Verarbeitungstasks über den Scheduler 3610 empfangen, der Verarbeitungstasks definierende Befehle vom Frontend 3608 empfängt. In mindestens einer Ausführungsform können die Verarbeitungs-Tasks Indizes der zu verarbeitenden Daten beinhalten, z. B. Oberflächen-(Patch-)Daten, Primitivdaten, Vertexdaten und/oder Pixeldaten, sowie Zustandsparameter und Befehle, die definieren, wie die Daten verarbeitet werden sollen (z. B. welches Programm ausgeführt werden soll). In mindestens einer Ausführungsform kann der Scheduler 3610 konfiguriert sein, um Indizes abzurufen, die Tasks entsprechen, oder kann Indizes von dem Frontend 3608 empfangen. In mindestens einer Ausführungsform kann das Frontend 3608 konfiguriert sein, um sicherzustellen, dass das Verarbeitungsarray 3612 in einen gültigen Zustand konfiguriert ist, bevor eine durch eingehende Befehlspuffer (z. B. Stapelpuffer, Push-Puffer usw.) spezifizierte Arbeitslast initiiert wird.
-
In mindestens einer Ausführungsform kann jede von einer oder mehreren Instanzen der Parallelverarbeitungseinheit 3602 mit dem Parallelprozessorspeicher 3622 gekoppelt sein. In mindestens einer Ausführungsform kann auf den Parallelprozessorspeicher 3622 über die Speicherkreuzschiene 3616 zugegriffen werden, die Speicheranforderungen von dem Verarbeitungsarray 3612 sowie von der E/A-Einheit 3604 empfangen kann. In mindestens einer Ausführungsform kann die Speicherkreuzschiene 3616 über eine Speicherschnittstelle 3618 auf den Parallelprozessorspeicher 3622 zugreifen. In mindestens einer Ausführungsform kann die Speicherschnittstelle 3618 mehrere Partitionseinheiten (z. B. Partitionseinheit 3620A, Partitionseinheit 3620B bis Partitionseinheit 3620N) beinhalten, die jeweils an einen Abschnitt (z. B. Speichereinheit) des Parallelprozessorspeichers 3622 gekoppelt werden können. In mindestens einer Ausführungsform ist eine Anzahl von Partitionseinheiten 3620A-3620N dazu konfiguriert, derartig gleich einer Anzahl von Speichereinheiten zu sein, dass eine erste Partitionseinheit 3620A eine entsprechende erste Speichereinheit 3624A aufweist, eine zweite Partitionseinheit 3620B eine entsprechende Speichereinheit 3624B aufweist und eine N-te Partitionseinheit 3620N eine entsprechende N-te Speichereinheit 3624N aufweist. In mindestens einer Ausführungsform ist eine Anzahl von Partitionseinheiten 3620A-3620N möglicherweise nicht gleich einer Anzahl von Speichervorrichtungen.
-
In mindestens einer Ausführungsform können die Speichereinheiten 3624A-3624N verschiedene Arten von Speichervorrichtungen beinhalten, die DRAM oder Grafik-Direktzugriffsspeicher, wie etwa SGRAM beinhalten, der GDDR-Speicher beinhaltet. In mindestens einer Ausführungsform können die Speichereinheiten 3624A-3624N auch 3D-Stapelspeicher beinhalten, einschließlich, aber nicht beschränkt auf, Speicher mit hoher Bandbreite (HBM). In mindestens einer Ausführungsform können Rendering-Ziele, wie etwa Bildspeicher oder Texturkarten, über die Speichereinheiten 3624A-3624N hinweg gespeichert werden, was es den Partitionseinheiten 3620A-3620N ermöglicht, Abschnitte jedes Rendering-Ziels parallel zu schreiben, um die verfügbare Bandbreite des Parallelprozessorspeichers 3622 effizient zu nutzen. In mindestens einer Ausführungsform kann eine lokale Instanz des Parallelprozessorspeichers 3622 zugunsten einer einheitlichen Speicherausgestaltung ausgeschlossen werden, die Systemspeicher in Verbindung mit lokalem Cache-Speicher nutzt.
-
In mindestens einer Ausführungsform kann ein beliebiger der Cluster 3614A-3614N des Verarbeitungsarrays 3612 Daten verarbeiten, die in beliebige der Speichereinheiten 3624A-3624N innerhalb des Parallelprozessorspeichers 3622 geschrieben werden. In mindestens einer Ausführungsform kann die Speicherkreuzschiene 3616 so konfiguriert sein, dass sie eine Ausgabe jedes Clusters 3614A-3614N an eine beliebige Partitionseinheit 3620A-3620N oder an einen anderen Cluster 3614A-3614N übermittelt, der zusätzliche Verarbeitungsoperationen an einer Ausgabe ausführen kann. In mindestens einer Ausführungsform kann jeder Cluster 3614A-3614N durch die Speicherkreuzschiene 3616 mit der Speicherschnittstelle 3618 kommunizieren, um aus verschiedenen externen Speichervorrichtungen zu lesen oder in diese zu schreiben. In mindestens einer Ausführungsform weist die Speicherkreuzschiene 3616 eine Verbindung mit der Speicherschnittstelle 3618 auf, um mit der E/A-Einheit 3604 zu kommunizieren, sowie eine Verbindung mit einer lokalen Instanz des Parallelprozessorspeichers 3622, was es den Verarbeitungseinheiten innerhalb der unterschiedlichen Verarbeitungscluster 3614A-3614N ermöglicht, mit Systemspeicher oder anderem Speicher zu kommunizieren, der nicht lokal zu der Parallelverarbeitungseinheit 3602 ist. In mindestens einer Ausführungsform kann die Speicherkreuzschiene 3616 virtuelle Kanäle verwenden, um Verkehrsströme zwischen Clustern 3614A-3614N und Partitionseinheiten 3620A-3620N zu trennen.
-
In mindestens einer Ausführungsform können mehrere Instanzen der Parallelverarbeitungseinheit 3602 auf einer einzelnen Erweiterungskarte bereitgestellt sein oder mehrere Erweiterungskarten zusammengeschaltet sein. In mindestens einer Ausführungsform können unterschiedliche Instanzen der Parallelverarbeitungseinheit 3602 dazu konfiguriert sein, zusammenzuarbeiten, selbst wenn unterschiedliche Instanzen unterschiedliche Anzahlen von Verarbeitungskernen, unterschiedliche Mengen an lokalem Parallelprozessorspeicher und/oder andere Konfigurationsunterschiede aufweisen. In mindestens einer Ausführungsform können einige Instanzen der Parallelverarbeitungseinheit 3602 Gleitkommaeinheiten mit höherer Genauigkeit in Bezug auf andere Instanzen beinhalten. In mindestens einer Ausführungsform können Systeme, die eine oder mehrere Instanzen der Parallelverarbeitungseinheit 3602 oder des Parallelprozessors 3600 einschließen, in einer Reihe von Konfigurationen und Formfaktoren implementiert sein, was Desktop-, Laptop- oder Handheld-Personalcomputer, Server, Workstations, Spielekonsolen und/oder eingebettete Systeme beinhaltet, ohne darauf beschränkt zu sein.
-
36B veranschaulicht einen Verarbeitungs-Cluster 3694 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform ist der Verarbeitungs-Cluster 3694 in einer Parallelverarbeitungseinheit beinhaltet. In mindestens einer Ausführungsform ist der Verarbeitungs-Cluster 3694 einer der Verarbeitungs-Cluster 3614A-3614N aus 36A. In mindestens einer Ausführungsform kann der Verarbeitungs-Cluster 3694 konfiguriert sein, um viele Threads parallel auszuführen, wobei sich „Thread“ auf eine Instanz eines konkreten Programms bezieht, das mit einem konkreten Satz von Eingabedaten ausgeführt wird. In mindestens einer Ausführungsform werden „SIMD“ (Single-Instruction, Multiple-Data)-Anweisungsausgabetechniken verwendet, um die parallele Ausführung einer großen Anzahl von Threads zu unterstützen, ohne mehrere unabhängige Anweisungseinheiten bereitzustellen. In mindestens einer Ausführungsform werden „SIMT“ (Single-Instruction, Multiple-Thread)-Techniken verwendet, um die parallele Ausführung einer großen Anzahl von im Allgemeinen synchronisierten Threads zu unterstützen, wobei eine gemeinsame Anweisungseinheit verwendet wird, die so konfiguriert ist, dass sie Anweisungen an einen Satz von Verarbeitungs-Engines in jedem der Verarbeitungscluster 3694 ausgibt.
-
In mindestens einer Ausführungsform kann der Betrieb des Verarbeitungs-Clusters 3694 über einen Pipeline-Manager 3632 gesteuert werden, der Verarbeitungstasks an SIMT-Parallelprozessoren verteilt. In mindestens einer Ausführungsform empfängt der Pipeline-Manager 3632 Anweisungen von dem Scheduler 3610 aus 36A und verwaltet die Ausführung dieser Anweisungen über einen Grafikmultiprozessor 3634 und/oder eine Textureinheit 3636. In mindestens einer Ausführungsform ist der Grafikmultiprozessor 3634 eine beispielhafte Instanz eines SIMT-Parallelprozessors. In mindestens einer Ausführungsform können jedoch verschiedene Typen von SIMT-Parallelprozessoren mit unterschiedlichen Architekturen innerhalb des Verarbeitungsclusters 3694 beinhalten sein. In mindestens einer Ausführungsform können eine oder mehrere Instanzen des Grafik-Multiprozessors 3634 innerhalb eines Verarbeitungsclusters 3694 beinhalten sein. In mindestens einer Ausführungsform kann der Grafik-Multiprozessor 3634 Daten verarbeiten und eine Datenkreuzschiene 3640 kann verwendet werden, um verarbeitete Daten an eines von mehreren möglichen Zielen, einschließlich anderer Shader-Einheiten, zu verteilen. In mindestens einer Ausführungsform kann der Pipelineverwalter 3632 die Verteilung von verarbeiteten Daten erleichtern, indem er Ziele für zu verteilende verarbeitete Daten über die Datenkreuzschiene 3640 vorgibt.
-
In mindestens einer Ausführungsform kann jeder Grafik-Multiprozessor 3634 innerhalb des Verarbeitungsclusters 3694 einen identischen Satz von funktioneller Ausführungslogik (z. B. arithmetisch-logische Einheiten, Lade/Speicher-Einheiten („LSUs“) usw.) beinhalten. In mindestens einer Ausführungsform kann funktionelle Ausführungslogik pipelineartig konfiguriert sein, wobei neue Anweisungen ausgegeben werden können, bevor vorherige Anweisungen abgeschlossen sind. In mindestens einer Ausführungsform unterstützt die funktionelle Ausführungslogik eine Vielfalt von Vorgängen, darunter Integer- und Fließkommaarithmetik, Vergleichsvorgänge, boolesche Vorgänge, Bitverschiebung und Berechnung verschiedener algebraischer Funktionen. In mindestens einer Ausführungsform kann dieselbe Hardware einer funktionellen Einheit ausgenutzt werden, um unterschiedliche Operationen auszuführen, und eine beliebige Kombination von funktionellen Einheiten kann vorhanden sein.
-
In mindestens einer Ausführungsform stellen die an den Verarbeitungscluster 3694 übertragenen Anweisungen einen Thread dar. In mindestens einer Ausführungsform ist ein Satz von Threads, der über einen Satz von Parallelverarbeitungs-Engines ausgeführt wird, eine Thread-Gruppe. In mindestens einer Ausführungsform führt eine Thread-Gruppe ein Programm mit unterschiedlichen Eingabedaten aus. In mindestens einer Ausführungsform kann jeder Thread innerhalb einer Thread-Gruppe einer anderen Verarbeitungs-Engine innerhalb des Grafik-Multiprozessors 3634 zugeordnet sein. In mindestens einer Ausführungsform kann eine Thread-Gruppe weniger Threads beinhalten als eine Anzahl von Verarbeitungs-Engines innerhalb des Grafik-Multiprozessors 3634. Wenn eine Thread-Gruppe weniger Threads beinhaltet als eine Anzahl von Verarbeitungs-Engines, können in mindestens einer Ausführungsform eine oder mehrere der Verarbeitungs-Engines während der Zyklen, in denen diese Thread-Gruppe verarbeitet wird, inaktiv sein. In mindestens einer Ausführungsform kann eine Thread-Gruppe auch mehr Threads beinhalten als eine Anzahl von Verarbeitungs-Engines innerhalb des Grafik-Multiprozessors 3634. Wenn eine Thread-Gruppe mehr Threads als eine Anzahl von Verarbeitungs-Engines innerhalb des Grafik-Multiprozessors 3634 beinhaltet, kann das Verarbeiten in mindestens einer Ausführungsform über aufeinanderfolgende Taktzyklen durchgeführt werden. In mindestens einer Ausführungsform können mehrere Thread-Gruppen nebenläufig auf dem Grafik-Multiprozessor 3634 ausgeführt werden.
-
In mindestens einer Ausführungsform beinhaltet der Grafik-Multiprozessor 3634 einen internen Cache-Speicher zum Durchführen von Lade- und Speicheroperationen. In mindestens einer Ausführungsform kann der Grafikmultiprozessor 3634 auf einen internen Cache verzichten und einen Cache-Speicher (z. B. LI-Cache 3648) innerhalb des Verarbeitungs-Clusters 3694 verwenden. In mindestens einer Ausführungsform hat jeder Grafikmultiprozessor 3634 auch Zugriff auf Ebene-2-Caches („L2“) innerhalb von Partitionseinheiten (z. B. die Partitionseinheiten 3620A-3620N aus 36A), die von allen Verarbeitungs-Clustern 3694 gemeinsam genutzt werden, und kann verwendet werden, um Daten zwischen Threads zu übertragen. In mindestens einer Ausführungsform kann der Grafikmultiprozessor 3634 auch auf den chipexternen globalen Speicher zugreifen, der einen oder mehrere von dem lokalen Parallelprozessorspeicher und/oder dem Systemspeicher beinhalten kann. In mindestens einer Ausführungsform kann ein beliebiger Speicher, der zu der Parallelverarbeitungseinheit 3602 extern ist, als globaler Speicher verwendet werden. In mindestens einer Ausführungsform beinhaltet der Verarbeitungscluster 3694 mehrere Instanzen des Grafikmultiprozessors 3634, der gemeinsame Anweisungen und Daten gemeinsam nutzen kann, die im L1-Zwischenspeicher 3648 gespeichert sein können.
-
In mindestens einer Ausführungsform kann jeder Verarbeitungs-Cluster 3694 eine MMU 3645 beinhalten, die dazu konfiguriert ist, virtuelle Adressen physischen Adressen zuzuordnen. In mindestens einer Ausführungsform können sich eine oder mehrere Instanzen der MMU 3645 innerhalb der Speicherschnittstelle 3618 aus 36A befinden. In mindestens einer Ausführungsform beinhaltet die MMU 3645 einen Satz von Seitentabelleneinträgen (page table entries - PTE), die verwendet werden, um eine virtuelle Adresse einer physischen Adresse einer Kachel und optional einem Cachezeilenindex zuzuordnen. In mindestens einer Ausführungsform kann die MMU 3645 Adressübersetzungspuffer („TLBs“) oder Zwischenspeicher beinhalten, die sich innerhalb des Grafikmultiprozessors 3634 oder des L1-Zwischenspeichers 3648 oder des Verarbeitungsclusters 3694 befinden können. In mindestens einer Ausführungsform wird eine physische Adresse verarbeitet, um den Oberflächendatenzugriffsstandort zu verteilen, um eine effiziente Anforderungsverschachtelung zwischen Partitionseinheiten zu ermöglichen. In mindestens einer Ausführungsform kann ein Cache-Zeilenindex verwendet werden, um zu bestimmen, ob eine Anforderung für eine Cache-Zeile ein Treffer oder ein Fehler ist.
-
In mindestens einer Ausführungsform kann ein Verarbeitungscluster 3694 derart konfiguriert sein, dass jeder Grafik-Multiprozessor 3634 an eine Textureinheit 3636 zum Durchführen von Texturabbildungsoperationen gekoppelt ist, z. B. zum Bestimmen von Texturabtastpositionen, Lesen von Texturdaten und Filtern von Texturdaten. In mindestens einer Ausführungsform werden die Texturdaten aus einem internen Textur-L1-Cache (nicht gezeigt) oder aus einem LI-Cache innerhalb des Grafik-Multiprozessors 3634 gelesen und je nach Bedarf aus einem L2-Cache, dem lokalen Parallelprozessorspeicher oder dem Systemspeicher abgerufen. In mindestens einer Ausführungsform gibt jeder Grafikmultiprozessor 3634 verarbeitete Tasks an die Daten-Crossbar 3640 aus, um verarbeitete Aufgaben einem anderen Verarbeitungs-Cluster 3694 zur weiteren Verarbeitung bereitzustellen oder eine verarbeitete Task über die Speicher-Crossbar 3616 in einem L2-Cache, einem lokalen Parallelprozessorspeicher oder einem Systemspeicher zu speichern. In mindestens einer Ausführungsform ist eine Vorrasteroperationseinheit (pre-raster operations unit - „preROP“) 3642 konfiguriert, um Daten von dem Grafikmultiprozessor 3634 zu empfangen, um Daten an ROP-Einheiten zu leiten, die sich bei Partitionseinheiten befinden können, wie hierin beschrieben (z. B. die Partitionseinheiten 3620A-3620N aus 36A). In mindestens einer Ausführungsform kann die PreROP 3642 Optimierungen für die Farbmischung durchführen, Pixelfarbdaten organisieren und Adressübersetzungen durchführen.
-
36C veranschaulicht einen Grafikmultiprozessor 3696 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform ist der Grafikmultiprozessor 3696 der Grafikmultiprozessor 3634 aus 36B. In mindestens einer Ausführungsform ist der Grafikmultiprozessor 3696 mit dem Pipeline-Manager 3632 des Verarbeitungs-Clusters 3694 gekoppelt. In mindestens einer Ausführungsform weist der Grafik-Multiprozessor 3696 eine Ausführungspipeline auf, die einen Anweisungs-Cache 3652, eine Anweisungseinheit 3654, eine Adressabbildungseinheit 3656, eine Registerbank 3658, einen oder mehrere GPGPU-Kerne 3662 und eine oder mehrere LSUs 3666 beinhaltet, ohne darauf beschränkt zu sein. Ein oder mehrere GPGPU-Kerne 3662 und LSUs 3666 sind mit dem schnellen Pufferspeicher 3672 und dem gemeinsam genutzten Speicher 3670 über eine Speicher- und Zwischenspeicher-Verbindung 3668 gekoppelt.
-
In mindestens einer Ausführungsform empfängt der Anweisungs-Cache 3652 einen Stream von auszuführenden Anweisungen von dem Pipelineverwalter 3632. In mindestens einer Ausführungsform werden Anweisungen im Anweisungszwischenspeicher 3652 zwischengespeichert und zur Ausführung durch die Anweisungseinheit 3654 gesendet. In mindestens einer Ausführungsform kann die Anweisungseinheit 3654 Anweisungen als Thread-Gruppen (z. B. Warps) zuteilen, wobei jeder Thread der Thread-Gruppe einer anderen Ausführungseinheit innerhalb der GPGPU-Kerne 3662 zugeordnet wird. In mindestens einer Ausführungsform kann eine Anweisung auf einen beliebigen von einem lokalen, gemeinsam genutzten oder globalen Adressraum zugreifen, indem sie eine Adresse innerhalb eines einheitlichen Adressraums vorgibt. In mindestens einer Ausführungsform kann die Adressabbildungseinheit 3656 verwendet werden, um Adressen in einem einheitlichen Adressraum in eine eindeutige Speicheradresse zu übersetzen, auf die durch die LSUs 3666 zugegriffen werden kann.
-
In mindestens einer Ausführungsform stellt die Registerbank 3658 einen Satz von Registern für funktionelle Einheiten des Grafik-Multiprozessors 3696 bereit. In mindestens einer Ausführungsform stellt die Registerbank 3658 einen temporären Datenspeicher für Operanden bereit, die mit Datenpfaden von funktionellen Einheiten (z. B. GPGPU-Kernen 3662, LSUs 3666) des Grafik-Multiprozessors 3696 verbunden sind. In mindestens einer Ausführungsform ist die Registerbank 3658 derart zwischen den einzelnen funktionellen Einheiten aufgeteilt, dass jeder funktionellen Einheit ein dedizierter Abschnitt der Registerbank 3658 zugewiesen ist. In mindestens einer Ausführungsform ist die Registerbank 3658 auf unterschiedliche Gruppe von Threads aufgeteilt, die durch den Grafik-Multiprozessor 3696 ausgeführt werden.
-
In mindestens einer Ausführungsform können die GPGPU-Kerne 3662 jeweils FPUs und/oder ALUs für Integer beinhalten, die zum Ausführen von Anweisungen des Grafik-Multiprozessors 3696 verwendet werden. GPGPU-Kerne 3662 können eine ähnliche Architektur aufweisen oder sich in der Architektur unterscheiden. In mindestens einer Ausführungsform beinhaltet ein erster Abschnitt der GPGPU-Kerne 3662 eine FPU mit einfacher Genauigkeit und eine Integer-ALU, während ein zweiter Abschnitt der GPGPU-Kerne 3662 eine FPU mit doppelter Genauigkeit beinhaltet. In mindestens einer Ausführungsform können FPUs den Standard IEEE 754-2008 für Gleitkommaarithmetik umsetzen oder Gleitkommaarithmetik mit variabler Genauigkeit ermöglichen. In mindestens einer Ausführungsform kann der Grafik-Multiprozessor 3696 zusätzlich eine oder mehrere Festfunktions- oder Spezialfunktionseinheiten beinhalten, um spezifische Funktionen, wie etwa Operationen zum Kopieren von Rechtecken oder Pixel-Blending, durchzuführen. In mindestens einer Ausführungsform können einer oder mehrere der GPGPU-Kerne 3662 auch feste oder Spezialfunktionslogik beinhalten.
-
In mindestens einer Ausführungsform beinhalten die GPGPU-Kerne 3662 SIMD-Logik, die dazu in der Lage ist, eine einzelne Anweisung an mehreren Datensätzen durchzuführen. In mindestens einer Ausführungsform können die GPGPU-Kerne 3662 SIMD4-, SIMD8- und SIMD16-Anweisungen physisch ausführen und SIMD1-, SIMD2- und SIMD32-Anweisungen logisch ausführen. In mindestens einer Ausführungsform können SIMD-Anweisungen für GPGPU-Kerne 3662 zur Kompilierzeit von einem Shader-Compiler erzeugt werden oder automatisch erzeugt werden, wenn Programme ausgeführt werden, die für Single-Program-Multiple-Data („SPMD“)- oder SIMT-Architekturen geschrieben und kompiliert wurden. In mindestens einer Ausführungsform können mehrere Threads eines für ein SIMT-Ausführungsmodell konfigurierten Programms über eine einzelne SIMD-Anweisung ausgeführt werden. In mindestens einer Ausführungsform können acht SIMT-Threads, die gleiche oder ähnliche Vorgänge durchführen, parallel über eine einzelne SIMD8-Logikeinheit ausgeführt werden.
-
In mindestens einer Ausführungsform ist die Speicher- und Cache-Zusammenschaltung 3668 ein Zusammenschaltungsnetz, das jede funktionelle Einheit des Grafik-Multiprozessors 3696 mit der Registerbank 3658 und dem gemeinsam genutzten Speicher 3670 verbindet. In mindestens einer Ausführungsform ist die Speicher- und Cache-Zusammenschaltung 3668 eine Kreuzschienen-Zusammenschaltung, die es der LSU 3666 ermöglicht, Lade- und Speicheroperationen zwischen dem gemeinsam genutzten Speicher 3670 und der Registerbank 3658 zu implementieren. In mindestens einer Ausführungsform kann die Registerdatei 3658 mit derselben Frequenz wie die GPGPU-Kerne 3662 arbeiten, wodurch die Datenübertragung zwischen den GPGPU-Kernen 3662 und der Registerdatei 3658 eine sehr geringe Latenzzeit hat. In mindestens einer Ausführungsform kann der gemeinsam genutzte Speicher 3670 verwendet werden, um die Kommunikation zwischen Threads zu ermöglichen, die auf funktionellen Einheiten innerhalb des Grafik-Multiprozessors 3696 ausgeführt werden. In mindestens einer Ausführungsform kann der Cache-Speicher 3672 zum Beispiel als Daten-Cache verwendet werden, um Texturdaten zwischenzuspeichern, die zwischen funktionellen Einheiten und der Textureinheit 3636 kommuniziert werden. In mindestens einer Ausführungsform kann der gemeinsam genutzte Speicher 3670 auch als programmverwalteter Cache verwendet werden. In mindestens einer Ausführungsform können Threads, die auf den GPGPU-Kernen 3662 ausgeführt werden, zusätzlich zu den automatisch zwischengespeicherten Daten, die innerhalb des Cache-Speichers 3672 gespeichert sind, programmatisch Daten innerhalb des gemeinsam genutzten Speichers speichern.
-
In mindestens einer Ausführungsform ist ein Parallelprozessor oder eine GPGPU, wie hierin beschrieben, kommunikativ an Host-/Prozessorkerne gekoppelt, um Grafikoperationen, Operationen des maschinellen Lernens, Musteranalyseoperationen und verschiedene Funktionen einer Universal-GPU (GPGPU) zu beschleunigen. In mindestens einer Ausführungsform kann eine GPU über einen Bus oder eine andere Zusammenschaltung (z. B. eine Hochgeschwindigkeitszusammenschaltung wie etwa PCIe oder NVLink) kommunikativ an den Host-Prozessor/die Kerne gekoppelt sein. In mindestens einer Ausführungsform kann eine GPU in dem gleichen Gehäuse oder Chip als Kerne integriert sein und kommunikativ über einen internen Prozessorbus/eine Zusammenschaltung, die intern zu einem Gehäuse oder Chip ist, an Kerne gekoppelt sein. In mindestens einer Ausführungsform können die Prozessorkerne unabhängig von einer Weise, auf welche eine GPU verbunden ist, einer derartigen GPU Arbeit in Form von Sequenzen von Befehlen/Anweisungen zuweisen, die in einem WD beinhalten sind. In mindestens einer Ausführungsform verwendet eine GPU dann eine dedizierte Schaltung/Logik zum effizienten Verarbeiten dieser Befehle/Anweisungen.
-
ALLGEMEINE DATENVERARBEITUNG
-
Die folgenden Figuren legen ohne Einschränkung beispielhafte Softwarekonstrukte dar, die verwendet werden können, um mindestens eine Ausführungsform zu implementieren.
-
37 veranschaulicht einen Softwarestapel einer Programmierplattform gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform ist eine Programmierplattform eine Plattform zum Einsetzen von Hardware auf einem Rechensystem, um Berechnungstasks zu beschleunigen. In mindestens einer Ausführungsform kann eine Programmierplattform für Softwareentwickler durch Bibliotheken, Compilerdirektiven und/oder Erweiterungen von Programmiersprachen zugänglich sein. In mindestens einer Ausführungsform kann eine Programmierplattform CUDA, Radeon Open Compute Platform („ROCm“), OpenCL (OpenCL™ wird von der Khronos-Gruppe entwickelt), SYCL oder Intel One API sein, ohne darauf beschränkt zu sein.
-
In mindestens einer Ausführungsform stellt ein Softwarestapel 3700 einer Programmierplattform eine Ausführungsumgebung für eine Anwendung 3701 bereit. In mindestens einer Ausführungsform kann die Anwendung 3701 eine beliebige Computersoftware beinhalten, die auf dem Softwarestapel 3700 gestartet werden kann. In mindestens einer Ausführungsform kann die Anwendung 3701 eine Anwendung der künstlichen Intelligenz („KI“)/des maschinellen Lernens („ML“), eine Anwendung des Hochleistungsrechnens („HPC“), eine virtuelle Desktop-Infrastruktur („VDI“) oder eine Rechenzentrumsauslastung beinhalten, ist aber nicht darauf beschränkt.
-
In mindestens einer Ausführungsform laufen die Anwendung 3701 und der Softwarestapel 3700 auf Hardware 3707. Die Hardware 3707 kann in mindestens einer Ausführungsform einen oder mehrere GPUs, CPUs, FPGAs, KI-Engines und/oder andere Arten von Rechenvorrichtungen beinhalten, die eine Programmierplattform unterstützen. In mindestens einer Ausführungsform, wie beispielsweise bei CUDA, kann der Softwarestapel 3700 anbieterspezifisch und nur mit Vorrichtungen von bestimmten Anbietern kompatibel sein. In mindestens einer Ausführungsform, wie etwa bei OpenCL, kann der Softwarestapel 3700 mit Vorrichtungen von verschiedenen Herstellern verwendet werden. In mindestens einer Ausführungsform beinhaltet die Hardware 3707 einen Host, der mit einem oder mehreren Vorrichtungen verbunden ist, auf die zugegriffen werden kann, um Berechnungstasks über Aufrufe einer Anwendungsprogrammierschnittstelle (application programming interface - „API“) auszuführen. Ein Gerät innerhalb der Hardware 3707 kann eine GPU, ein FPGA, eine KI-Engine oder ein anderes Rechengerät (kann aber auch eine CPU beinhalten) und seinen Speicher umfassen, ist aber nicht darauf beschränkt, im Gegensatz zu einem Host innerhalb der Hardware 3707, der Folgendes beinhalten kann: ist aber nicht darauf beschränkt, eine CPU (kann aber auch eine Rechenvorrichtung beinhalten) und ihren Speicher, in mindestens einer Ausführungsform.
-
In mindestens einer Ausführungsform beinhaltet der Softwarestapel 3700 einer Programmierplattform ohne Einschränkung eine Reihe von Bibliotheken 3703, eine Laufzeit 3705 und einen Vorrichtungskerneltreiber 3706. Jede der Bibliotheken 3703 kann in mindestens einer Ausführungsform Daten und Programmiercode beinhalten, die durch Computerprogramme verwendet und während der Softwareentwicklung eingesetzt werden können. In mindestens einer Ausführungsform können die Bibliotheken 3703 vorgeschriebenen Code und Subroutinen, Klassen, Werte, Typspezifikationen, Konfigurationsdaten, Dokumentation, Hilfedaten, und/oder Nachrichtenvorlagen. In mindestens einer Ausführungsform beinhalten die Bibliotheken 3703 Funktionen, die für die Ausführung auf einer oder mehreren Arten von Vorrichtungen optimiert sind. In mindestens einer Ausführungsform können die Bibliotheken 3703 Funktionen zum Durchführen von mathematischen Operationen, tiefem Lernen und/oder anderen Arten von Operationen auf Vorrichtungen beinhalten, ohne darauf beschränkt zu sein. In mindestens einer Ausführungsform sind Bibliotheken 3803 entsprechenden API 3802 zugeordnet, die eine oder mehrere API beinhalten können, die in Bibliotheken 3803 implementierte Funktionen offenlegen.
-
In mindestens einer Ausführungsform ist die Anwendung 3701 als Quellcode geschrieben, der in ausführbaren Code kompiliert wird, wie nachstehend in Verbindung mit 42 ausführlicher erörtert wird. Ausführbarer Code der Anwendung 3701 kann in mindestens einer Ausführungsform zumindest teilweise auf einer Ausführungsumgebung laufen, die durch den Softwarestapel 3700 bereitgestellt wird. In mindestens einer Ausführungsform kann während der Ausführung der Anwendung 3701 Code erreicht werden, der auf einer Vorrichtung im Gegensatz zu einem Host laufen muss. In einem solchen Fall kann die Laufzeit 3705 in mindestens einer Ausführungsform aufgerufen werden, um erforderlichen Code auf eine Vorrichtung zu laden und zu starten. In mindestens einer Ausführungsform kann die Laufzeit 3705 ein beliebiges technisch machbares Laufzeitsystem beinhalten, das die Ausführung der Anwendung S01 unterstützen kann.
-
In mindestens einer Ausführungsform ist die Laufzeit 3705 als eine oder mehrere Laufzeitbibliotheken implementiert, die entsprechenden APIs zugeordnet sind, die als API(s) 3704 gezeigt sind. Eine oder mehrere solcher Laufzeitbibliotheken können ohne Einschränkung Funktionen zur Speicherverwaltung, Ausführungssteuerung, Geräteverwaltung, Fehlerbehandlung, und/oder Synchronisierung unter anderem in mindestens einer Ausführungsform. In mindestens einer Ausführungsform können die Speicherverwaltungsfunktionen Funktionen zum Zuweisen, Freigeben und Kopieren von Vorrichtungsspeicher sowie zum Übertragen von Daten zwischen Host-Speicher und Vorrichtungsspeicher beinhalten, ohne darauf beschränkt zu sein. In mindestens einer Ausführungsform können die Ausführungssteuerfunktionen Funktionen zum Starten einer Funktion (manchmal als „Kernel“ bezeichnet, wenn eine Funktion eine von einem Host aufrufbare globale Funktion ist) auf einer Vorrichtung beinhalten und Attributwerte in einem Puffer setzen, der durch eine Laufzeitbibliothek für eine bestimmte Funktion gepflegt wird, die auf einer Vorrichtung ausgeführt werden soll, ohne darauf beschränkt zu sein.
-
Laufzeitbibliotheken und entsprechende API(s) 3704 können in mindestens einer Ausführungsform auf jede technisch machbare Weise implementiert werden. In mindestens einer Ausführungsform kann eine (oder eine beliebige Anzahl von) API einen Satz von Funktionen einer niedrigen Ebene für eine feingranulare Steuerung einer Vorrichtung bereitstellen, während eine andere (oder eine beliebige Anzahl von) API einen Satz solcher Funktionen einer höheren Ebene offenlegen kann. In mindestens einer Ausführungsform kann eine Laufzeit-API einer hohen Ebene auf einer API einer niedrigen Ebene aufgebaut sein. In mindestens einer Ausführungsform können eine oder mehrere Laufzeit-APIs sprachspezifische APIs sein, die auf einer sprachunabhängigen Laufzeit-API geschichtet sind.
-
In mindestens einer Ausführungsform ist der Vorrichtungskerneltreiber 3706 konfiguriert, um die Kommunikation mit einer zugrunde liegenden Vorrichtung zu erleichtern. In mindestens einer Ausführungsform kann der Vorrichtungskerneltreiber 3706 Low-Level-Funktionalitäten bereitstellen, auf denen APIs, wie z. B. API(s) 3704, und/oder andere Software setzt. Bei mindestens einer Ausführungsform kann der Vorrichtungskerneltreiber 3706 so konfiguriert sein, um zur Laufzeit Code der Zwischendarstellung („IR“) in Binärcode zu kompilieren. Für CUDA kann der Vorrichtungskerneltreiber 3706 Parallel Thread Execution („PTX“)-IR-Code, der nicht hardwarespezifisch ist, zur Laufzeit in Binärcode für ein bestimmtes Zielgerät kompilieren (mit Zwischenspeicherung des kompilierten Binärcodes), was manchmal auch als bezeichnet wird „Finalisierungs“-Code in mindestens einer Ausführungsform. Dies kann in mindestens einer Ausführungsform zulassen, dass finalisierter Code auf einer Zielvorrichtung läuft, der möglicherweise nicht existiert hat, als der Quellcode ursprünglich in PTX-Code kompiliert wurde. Alternativ kann in mindestens einer Ausführungsform der Vorrichtungsquellcode offline in Binärcode kompiliert werden, ohne dass es erforderlich ist, dass der Vorrichtungskerneltreiber 3706 den IR-Code während der Laufzeit kompiliert.
-
38 veranschaulicht eine CUDA-Implementierung des Softwarestapel 3700 der 37 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform beinhaltet ein CUDA-Softwarestapel 3800, auf dem eine Anwendung 3801 gestartet werden kann, CUDA-Bibliotheken 3803, eine CUDA-Laufzeit 3805, einen CUDA-Treiber 3807 und einen Vorrichtungskerneltreiber 3808. In mindestens einer Ausführungsform wird der CUDA-Softwarestapel 3800 auf Hardware 3809 ausgeführt, die eine GPU beinhalten kann, die CUDA unterstützt und von NVIDIA Corporation, Santa Clara, Kalifornien entwickelt wird.
-
In mindestens einer Ausführungsform können die Anwendung 3801, die CUDA-Laufzeit 3805 und der Vorrichtungskerneltreiber 3808 ähnliche Funktionalitäten wie die Anwendung 3701, die Laufzeit 3705 bzw. der Vorrichtungskerneltreiber 3706 durchführen, die vorstehend in Verbindung mit 37 beschrieben wurden. In mindestens einer Ausführungsform beinhaltet der CUDA-Treiber 3807 eine Bibliothek (libcuda.so), die eine CUDA-Treiber-API 3806 implementiert. Ähnlich einer CUDA-Laufzeit-API 3804, die durch eine CUDA-Laufzeitbibliothek (cudart) implementiert wird, kann die CUDA-Treiber-API 3806 in mindestens einer Ausführungsform ohne Einschränkung unter anderem Funktionen für Speicherverwaltung, Ausführungssteuerung, Vorrichtungsverwaltung, Fehlerbehandlung, Synchronisation und/oder Grafikinteroperabilität offenlegen. In mindestens einer Ausführungsform unterscheidet sich die CUDA-Treiber-API 3806 von der CUDA-Laufzeit-API 3804 darin, dass die CUDA-Laufzeit-API 3804 die Vorrichtungscodeverwaltung vereinfacht, indem sie implizite Initialisierung, Kontextverwaltung (analog zu einem Prozess) und Modulverwaltung (analog zu dynamisch geladenen Bibliotheken) bereitstellt. Im Gegensatz zur CUDA-Laufzeit-API 3804 auf hoher Ebene ist die CUDA-Treiber-API 3806 eine API auf niedriger Ebene, die in mindestens einer Ausführungsform eine feinkörnigere Steuerung einer Vorrichtung bereitstellt, insbesondere in Bezug auf Kontexte und Modulladen. In mindestens einer Ausführungsform kann die CUDA-Treiber-API 3806 Funktionen für die Kontextverwaltung offenlegen, die nicht durch die CUDA-Laufzeit-API 3804 offengelegt werden. In mindestens einer Ausführungsform ist die CUDA-Treiber-API 3806 auch sprachunabhängig und unterstützt z. B. OpenCL zusätzlich zur CUDA-Laufzeit-API 3804. Ferner können in mindestens einer Ausführungsform Entwicklungsbibliotheken einschließlich der CUDA-Laufzeit 3805 als getrennt von Treiberkomponenten betrachtet werden, einschließlich des Benutzermodus-CUDA-Treibers 3807 und des Kernelmodus-Gerätetreibers 3808 (manchmal auch als „Anzeige“-Treiber bezeichnet).).
-
In mindestens einer Ausführungsform können die CUDA-Bibliotheken 3803 mathematische Bibliotheken, Deep-Learning-Bibliotheken, parallele Algorithmusbibliotheken und/oder Signal-/Bild-/Videoverarbeitungsbibliotheken beinhalten, die parallele Rechenanwendungen wie die Anwendung 3801 nutzen können, ohne darauf beschränkt zu sein. In mindestens einer Ausführungsform können die CUDA-Bibliotheken 3803 mathematische Bibliotheken wie etwa eine cuBLAS-Bibliothek, die eine Implementierung von Basic Linear Algebra Subprograms („BLAS“) zum Ausführen linearer Algebra-Operationen ist, eine cuFFT-Bibliothek zum Berechnen von schnellen Fourier-Transformationen („FFTs“) beinhalten und eine cuRAND-Bibliothek zum Generieren von Zufallszahlen, unter anderem. In mindestens einer Ausführungsform können die CUDA-Bibliotheken 3803 Deep-Learning-Bibliotheken beinhalten, wie etwa unter anderem eine cuDNN-Bibliothek von Primitiven für tiefe neuronale Netze und eine TensorRT-Plattform für Hochleistungs-Deep-Learning-Inferenz.
-
39 veranschaulicht eine ROCm-Implementierung des Softwarestapels 3700 der 37 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform beinhaltet ein ROCm-Softwarestapel 3900, auf dem eine Anwendung 3901 gestartet werden kann, eine Sprachlaufzeit 3903, eine Systemlaufzeit 3905, einen Thunk 3907, einen ROCm-Kerneltreiber 3908 und einen Vorrichtungskerneltreiber 3909. In mindestens einer Ausführungsform wird der ROCm-Softwarestapel 3900 auf Hardware 3910 ausgeführt, die eine GPU beinhalten kann, die ROCm unterstützt und von AMD Corporation, Santa Clara, Kalifornien entwickelt wird.
-
In mindestens einer Ausführungsform kann die Anwendung 3901 ähnliche Funktionalitäten wie die Anwendung 3701 durchführen, die vorstehend in Verbindung mit 37 erörtert wurde. Außerdem können die Sprachlaufzeit 3903 und die Systemlaufzeit 3905 in mindestens einer Ausführungsform ähnliche Funktionalitäten wie die vorstehend in Verbindung mit 37 erörterte Laufzeit 3705 durchführen. In mindestens einer Ausführungsform unterscheiden sich die Sprachlaufzeit 3903 und die Systemlaufzeit 3905 darin, dass die Systemlaufzeit 3905 eine sprachunabhängige Laufzeit ist, die eine ROCr-Systemlaufzeit-API 3904 implementiert und eine Laufzeit-API mit heterogener Systemarchitektur (Heterogeneous System Architecture - „HAS“) verwendet. Die HAS-Laufzeit-API ist in mindestens einer Ausführungsform eine schlanke Benutzermodus-API, die Schnittstellen für den Zugriff auf und die Interaktion mit einer AMD-GPU offenlegt, die unter anderem Funktionen für die Speicherverwaltung, die Ausführungssteuerung über den architekturdefinierten Versand von Kerneln, die Fehlerbehandlung, System- und Agenteninformationen sowie die Initialisierung und das Herunterfahren der Laufzeit beinhaltet. Im Gegensatz zur Systemlaufzeit 3905 ist die Sprachlaufzeit 3903 in mindestens einer Ausführungsform eine Implementierung einer sprachspezifischen Laufzeit-API 3902, die auf der ROCr-Systemlaufzeit-API 3904 geschichtet ist. In mindestens einer Ausführungsform kann die Sprachlaufzeit-API unter anderem eine Sprachlaufzeit-API für Heterogeneous Compute Interface for Portability („HIP“), eine Sprachlaufzeit-API für Heterogeneous Compute Compiler („HCC“) oder eine OpenCL-API beinhalten, ohne darauf beschränkt zu sein. Die HIP-Sprache ist insbesondere eine Erweiterung der Programmiersprache C++ mit funktional ähnlichen Versionen von CUDA-Mechanismen, und in mindestens einer Ausführungsform beinhaltet eine HIP-Sprachen-Laufzeit-API Funktionen, die denen der CUDA-Laufzeit-API 3804 ähneln, die vorstehend in Verbindung mit 38 erörtert wurde, wie etwa unter anderem Funktionen zur Speicherverwaltung, Ausführungssteuerung, Vorrichtungsverwaltung, Fehlerbehandlung und Synchronisation.
-
In mindestens einer Ausführungsform ist der Thunk (ROCt) 3907 eine Schnittstelle, die verwendet werden kann, um mit dem darunterliegenden ROCm-Treiber 3908 zu interagieren. In mindestens einer Ausführungsform ist der ROCm-Treiber 3908 ein ROCk-Treiber, der eine Kombination aus einem AMDGPU-Treiber und einem HAS-Kernel-Treiber (amdkfd) ist. In mindestens einer Ausführungsform ist der AMDGPU-Treiber ein von AMD entwickelter Vorrichtungskerneltreiber für GPU, der ähnliche Funktionen wie der Vorrichtungskerneltreiber 3706 durchführt, der vorstehend in Verbindung mit 37 erörtert wurde. In mindestens einer Ausführungsform ist der HAS-Kernel-Treiber ein Treiber, der es unterschiedlichen Arten von Prozessoren erlaubt, Systemressourcen effektiver über Hardware-Merkmale gemeinsam zu nutzen.
-
In mindestens einer Ausführungsform können verschiedene Bibliotheken (nicht gezeigt) im ROCm-Softwarestapel 3900 oberhalb der Sprachlaufzeit 3903 beinhaltet sein und eine Ähnlichkeit der Funktionalität zu den CUDA-Bibliotheken 3803 bereitstellen, die vorstehend in Verbindung mit 38 erörtert wurden. In mindestens einer Ausführungsform können verschiedene Bibliotheken mathematische, Deep-Learning- und/oder andere Bibliotheken beinhalten, wie etwa unter anderem eine hipBLAS-Bibliothek, die Funktionen ähnlich denen von CUDA cuBLAS implementiert, eine rocFFT-Bibliothek zum Berechnen von FFT, die ähnlich CUDA cuFFT ist.
-
40 veranschaulicht eine OpenCL-Implementierung des Softwarestapels 3700 der 37 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform beinhaltet ein OpenCL-Softwarestapel 4000, auf dem eine Anwendung 4001 gestartet werden kann, ein OpenCL-Framework 4005, eine OpenCL-Laufzeit 4006 und einen Treiber 4007. In mindestens einer Ausführungsform wird der OpenCL-Softwarestapel 4000 auf Hardware 3809 ausgeführt, die nicht herstellerspezifisch ist. Da OpenCL durch Vorrichtungen unterstützt wird, die von verschiedenen Herstellern entwickelt wurden, können in mindestens einer Ausführungsform spezifische OpenCL-Treiber erforderlich sein, um mit Hardware von solchen Herstellern zusammenzuwirken.
-
In mindestens einer Ausführungsform können die Anwendung 4001, die OpenCL-Laufzeit 4006, der Vorrichtungskerneltreiber 4007 und die Hardware 4008 ähnliche Funktionalitäten wie die Anwendung 3701, die Laufzeit 3705, der Vorrichtungskerneltreiber 3706 bzw. die Hardware 3707 durchführen, die vorstehend in Verbindung mit 37 beschrieben wurden. In mindestens einer Ausführungsform beinhaltet die Anwendung 4001 ferner einen OpenCL-Kernel 4002 mit Code, der auf einer Vorrichtung ausgeführt werden soll.
-
In mindestens einer Ausführungsform definiert OpenCL eine „Plattform“, die es einem Host erlaubt, mit einem Host verbundene Vorrichtungen zu steuern. In mindestens einer Ausführungsform stellt ein OpenCL-Framework eine Plattformschicht-API und eine Laufzeit-API bereit, die als Plattform-API 4003 und Laufzeit-API 4005 gezeigt sind. In mindestens einer Ausführungsform verwendet die Laufzeit-API 4005 Kontexte, um die Ausführung von Kerneln auf Vorrichtungen zu verwalten. In mindestens einer Ausführungsform kann jede identifizierte Vorrichtung einem jeweiligen Kontext zugeordnet sein, den die Laufzeit-API 4005 verwenden kann, für diese Vorrichtung um unter anderem Befehlswarteschlangen, Programmobjekte und Kernelobjekte zu verwalten und Speicherobjekte gemeinsam zu nutzen. In mindestens einer Ausführungsform legt die Plattform-API 4003 Funktionen offen, die unter anderem die Verwendung von Vorrichtungskontexten zum Auswählen und Initialisieren von Vorrichtungen, zum Übermitteln von Arbeit an Vorrichtungen über Befehlswarteschlangen und zum Ermöglichen der Datenübertragung zu und von Vorrichtungen zulassen. Darüber hinaus stellt das OpenCL-Framework in mindestens einer Ausführungsform verschiedene integrierte Funktionen (nicht gezeigt) bereit, einschließlich unter anderem mathematischer Funktionen, relationaler Funktionen und Bildverarbeitungsfunktionen.
-
In mindestens einer Ausführungsform ist auch ein Compiler 4004 im OpenCL-Framework 4005 beinhaltet. Quellcode kann in mindestens einer Ausführungsform offline vor der Ausführung einer Anwendung oder online während der Ausführung einer Anwendung kompiliert werden. Im Gegensatz zu CUDA und ROCm können OpenCL-Anwendungen in mindestens einer Ausführungsform online durch den Compiler 4004 kompiliert werden, der beinhaltet ist, um repräsentativ für eine beliebige Anzahl von Compilern zu sein, die verwendet werden kann, um Quellcode und/oder IR-Code, wie etwa Portable Intermediate Representation („SPIR-V“)-Code, in Binärcode zu kompilieren. Alternativ können in mindestens einer Ausführungsform OpenCL-Anwendungen offline kompiliert werden, bevor solche Anwendungen ausgeführt werden.
-
41 veranschaulicht Software, die durch eine Programmierplattform unterstützt wird, gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform ist eine Programmierplattform 4104 konfiguriert, um verschiedene Programmiermodelle 4103, Middlewares und/oder Bibliotheken 4102 und Frameworks 4101 zu unterstützen, auf die eine Anwendung 4100 zurückgreifen kann. In mindestens einer Ausführungsform kann die Anwendung 4100 eine KI/ML-Anwendung sein, die in mindestens einer Ausführungsform unter Verwendung eines Deep-Learning-Frameworks wie etwa MXNet, PyTorch oder TensorFlow implementiert ist, das auf Bibliotheken wie cuDNN, NVIDIA Collective Communications Library („NCCL“) und/oder NVIDA Developer Data Loading Library („DALI“) CUDA-Bibliotheken zurückgreifen kann, um beschleunigte Datenverarbeitung auf der zugrunde liegenden Hardware bereitzustellen.
-
In mindestens einer Ausführungsform kann die Programmierplattform 4104 eine der vorstehend in Verbindung mit 33, 34 bzw. 40 beschriebenen CUDA-, ROCm- oder OpenCL-Plattformen sein. In mindestens einer Ausführungsform unterstützt die Programmierplattform 4104 mehrere Programmiermodelle 4103, die Abstraktionen eines zugrunde liegenden Rechensystems sind, das Ausdrücke von Algorithmen und Datenstrukturen zulässt. Die Programmiermodelle 4103 können in mindestens einer Ausführungsform Merkmale der zugrunde liegenden Hardware offenlegen, um die Leistungsfähigkeit zu verbessern. In mindestens einer Ausführungsform können die Programmiermodelle 4103 CUDA, HIP, OpenCL, C++ Accelerated Massive Parallelism („C++AMP“), Open Multi-Processing („OpenMP“), Open Accelerators („OpenACC“) und/oder Vulcan Compute beinhalten, ohne darauf beschränkt zu sein.
-
In mindestens einer Ausführungsform stellen Bibliotheken und/oder Middlewares 4102 Implementierungen von Abstraktionen von Programmiermodellen 4104 bereit. In mindestens einer Ausführungsform können derartige Bibliotheken Daten und Programmiercode beinhalten, die durch Computerprogramme verwendet und während der Softwareentwicklung eingesetzt werden können. In mindestens einer Ausführungsform beinhalten solche Middlewares Software, die Dienste für Anwendungen bereitstellt, die über diejenigen hinausgehen, die von der Programmierplattform 4104 verfügbar sind. In mindestens einer Ausführungsform können die Bibliotheken und/oder Middlewares 4102 cuBLAS-, cuFFT-, cuRAND- und andere CUDA-Bibliotheken oder rocBLAS-, rocFFT-, rocRAND- und andere ROCm-Bibliotheken beinhalten, ohne darauf beschränkt zu sein. Außerdem in mindestens einer Ausführungsform Bibliotheken und/oder Middlewares 4102 können NCCL- und ROCm-Bibliotheken der Communication Collectives Library („RCCL“) beinhalten, die Kommunikationsroutinen für GPUs bereitstellen, eine MIOpen-Bibliothek für Deep-Learning-Beschleunigung, und/oder eine Eigenbibliothek für lineare Algebra, Matrix- und Vektoroperationen, geometrische Transformationen, numerische Löser und verwandte Algorithmen.
-
In mindestens einer Ausführungsform hängen die Anwendungs-Frameworks 4101 von den Bibliotheken und/oder Middlewares 4102 ab. In mindestens einer Ausführungsform ist jedes der Anwendungs-Frameworks 4101 ein Software-Framework, das verwendet wird, um eine Standardstruktur von Anwendungssoftware zu implementieren. Eine KI/ML-Anwendung kann in mindestens einer Ausführungsform unter Verwendung eines Frameworks, wie etwa ein Caffe-, Caffe2-, TensorFlow-, Keras-, PyTorch- oder MxNet-Deep-Learning-Framework implementiert sein.
-
42 veranschaulicht das Kompilieren von Code zum Ausführen auf einer der Programmierplattformen der 37-40 gemäß mindestens einer Ausführungsform. In mindestens einer Ausführungsform empfängt ein Compiler 4201 Quellcode 4200, der sowohl Host-Code als auch Vorrichtungscode beinhaltet. In mindestens einer Ausführungsform ist der Compiler 4201 konfiguriert, um den Quellcode 4200 in einen vom Host ausführbaren Code 4202 zur Ausführung auf einem Host und in einen von der Vorrichtung ausführbaren Code 4203 zur Ausführung auf einer Vorrichtung umzuwandeln. Der Quellcode 4200 kann in mindestens einer Ausführungsform entweder offline vor der Ausführung einer Anwendung oder online während der Ausführung einer Anwendung kompiliert werden.
-
In mindestens einer Ausführungsform kann der Quellcode 4200 Code in einer beliebigen Programmiersprache beinhalten, die durch den Compiler 4201 unterstützt wird, wie etwa C++, C, Fortran usw. In mindestens einer Ausführungsform kann der Quellcode 4200 in einer Einzelquelldatei mit einer Mischung aus Host-Code und Vorrichtungscode beinhaltet sein, wobei darin Stellen des Vorrichtungscodes angegeben sind. In mindestens einer Ausführungsform kann eine Einzelquelldatei eine cu-Datei, die CUDA-Code beinhaltet, oder eine .hip.cpp-Datei, die HIP-Code beinhaltet, sein. Alternativ kann der Quellcode 4200 in mindestens einer Ausführungsform Mehrfachquellen-Codedateien anstelle einer Einzelquelldatei beinhalten, in die Host-Code und Vorrichtungscode getrennt sind.
-
In mindestens einer Ausführungsform ist der Compiler 4201 konfiguriert, um den Quellcode 4200 in den vom Host ausführbaren Code 4202 zur Ausführung auf einem Host und in den von der Vorrichtung ausführbaren Code 4203 zur Ausführung auf einer Vorrichtung zu kompilieren. In mindestens einer Ausführungsform führt der Compiler 4201 Operationen durch, die das Parsen des Quellcodes 4200 in einen abstrakten Systembaum (abstract system tree - AST), das Durchführen von Optimierungen und das Generieren von ausführbarem Code beinhalten. In mindestens einer Ausführungsform, in der der Quellcode 4200 eine Einzelquelldatei beinhaltet, kann der Compiler 4201 den Vorrichtungscode von dem Host-Code in einer solchen Einzelquelldatei trennen, den Vorrichtungscode und den Host-Code in einen von der Vorrichtung ausführbaren Code 4203 bzw. einen vom Host ausführbaren Code 4202 kompilieren und den von der Vorrichtung ausführbaren Code 4203 und den vom Host ausführbaren Code 4202 miteinander in einer Einzeldatei verlinken, wie nachstehend in Bezug auf 26 ausführlicher erörtert wird.
-
In mindestens einer Ausführungsform können der vom Host ausführbare Code 4202 und der von der Vorrichtung ausführbare Code 4203 in einem beliebigen geeigneten Format vorliegen, wie etwa als Binärcode und/oder IR-Code. Im Falle von CUDA kann in mindestens einer Ausführungsform der vom Host ausführbare Code 4202 nativen Objektcode beinhalten und kann der von der Vorrichtung ausführbare Code 4203 Code in einer PTX-Zwischendarstellung beinhalten. Im Falle von ROCm kann sowohl der vom Host ausführbare Code 4202 als auch der von der Vorrichtung ausführbare Code 4203 in mindestens einer Ausführungsform Ziel-Binärcode beinhalten.
-
Andere Variationen liegen innerhalb des Geistes der vorliegenden Offenbarung. Somit können zwar bezüglich der offenbarten Techniken diverse Modifikationen und alternative Konstruktionen vorgenommen werden, bestimmte veranschaulichte Ausführungsformen davon werden jedoch in den Zeichnungen gezeigt und wurden vorangehend ausführlich beschrieben. Allerdings versteht es sich, dass nicht die Absicht verfolgt wird, die Offenbarung auf die spezifische(n) offenbarte(n) Form oder Formen einzuschränken, sondern die Absicht ganz im Gegenteil darin besteht, sämtliche Modifikationen, alternativen Konstruktionen und Äquivalente abzudecken, die in den Geist und Umfang der wie in den beigefügten Ansprüchen definierten Offenbarung fallen.
-
Die Verwendung der Ausdrücke „ein“ und „eine“ und „der/die/das“ und ähnlicher Referenten im Kontext des Beschreibens offenbarter Ausführungsformen (insbesondere im Kontext der folgenden Ansprüche) ist so auszulegen, dass sie sowohl den Singular als auch den Plural abdeckt, sofern hierin nichts anderes angegeben ist oder der Kontext dem eindeutig widerspricht, und nicht als Definition eines Ausdrucks. Die Begriffe „umfassend“, „aufweisend“, „einschließlich“ und „beinhaltend“ sind, sofern nicht anders angegeben, als offene Begriffe zu verstehen (d.h. „beinhaltend, aber nicht beschränkt auf“). Der Begriff „verbunden“ ist, wenn er unverändert bleibt und sich auf physische Verbindungen bezieht, als teilweise oder ganz in ihm beinhalten, an ihm angebracht oder mit ihm verbunden zu verstehen, auch wenn etwas dazwischen liegt. Die Nennung von Wertebereichen hierin soll lediglich als kurzes Verfahren zur einzelnen Bezugnahme auf jeden separaten Wert dienen, der in den Bereich fällt, es sei denn, hierin ist etwas anderes angegeben, und jeder separate Wert ist in die Beschreibung eingeschlossen, als ob er einzeln hierin wiedergegeben wäre. In mindestens einer Ausführungsform ist die Verwendung des Ausdrucks „Satz“ (z. B. „ein Satz von Gegenständen“) oder „Teilmenge“ als eine nicht leere Sammlung auszulegen, die ein oder mehrere Elemente umfasst, es sei denn, es ist etwas anderes angemerkt oder der Kontext widerspricht dem. Sofern nichts anderes angegeben ist oder der Kontext dem widerspricht, bezeichnet ferner der Ausdruck „Teilmenge“ eines entsprechenden Satzes nicht notwendigerweise eine richtige Teilmenge des entsprechenden Satzes, sondern die Teilmenge und der entsprechende Satz können gleich sein.
-
Verbindende Sprache, wie etwa Ausdrücke der Form „wenigstens eines von A, Bund C“ oder „mindestens eines von A, B und C“, sind andernfalls in dem Kontext zu verstehen, in dem sie allgemein verwendet werden, um darzustellen, dass ein Objekt, ein Begriff usw. entweder A oder B oder C oder eine beliebige nicht leere Teilmenge des Satzes aus A und B und C sein kann, es sei denn, es ist etwas anderes angegeben oder etwas anderes geht eindeutig aus dem Kontext hervor. In mindestens einer Ausführungsform beziehen sich die verbindenden Ausdrücke „wenigstens eines von A, B und C“ und „mindestens eines von A, B und C“ in dem veranschaulichenden Beispiel eines Satzes, der drei Elemente aufweist, auf einen der folgenden Sätze: {A}, {B}, {C}, {A, B}, {A, C}, {B, C}, {A, B, C}. Somit soll derartige verbindende Sprache im Allgemeinen nicht implizieren, dass bestimmte Ausführungen es erforderlich machen, dass mindestens eines von A, mindestens eines von B und mindestens eines von C vorhanden ist. Sofern nichts anderes angemerkt ist oder der Kontext dem widerspricht, gibt der Ausdruck „Vielzahl“ einen Zustand der Pluralität an (z. B. gibt „eine Vielzahl von Gegenständen“ mehrere Gegenstände an). In mindestens einer Ausführungsform beträgt die Anzahl der Gegenstände in einer Vielzahl mindestens zwei, es können aber auch mehr sein, wenn dies entweder explizit oder durch den Kontext angegeben ist. Sofern nichts anderes genannt ist oder es anderweitig aus dem Kontext ersichtlich ist, bedeutet die Formulierung „auf Grundlage von“ „mindestens zum Teil auf Grundlage von“ und nicht „ausschließlich auf Grundlage von“.
-
Hierin beschriebene Operationen von Prozessen können in einer beliebigen geeigneten Reihenfolge durchgeführt werden, sofern hierin nichts anderes angegeben ist oder der Kontext dem eindeutig widerspricht. In mindestens einer Ausführungsform wird ein Prozess, wie etwa die hierin beschriebenen Prozesse (oder Variationen und/oder Kombinationen davon), unter der Steuerung von einem oder mehreren Computersystemen durchgeführt, die mit ausführbaren Anweisungen konfiguriert sind, und er ist als Code (z. B. ausführbare Anweisungen, ein oder mehrere Computerprogramme oder eine oder mehrere Anwendungen), der zusammen auf einem oder mehreren Prozessoren ausgeführt wird, durch Hardware oder Kombinationen davon implementiert. In mindestens einer Ausführungsform wird Code auf einem computerlesbaren Speichermedium gespeichert. In einer Ausführungsform in der Form eines Computerprogramms, das eine Vielzahl von Anweisungen umfasst, die durch einen oder mehrere Prozessoren ausgeführt werden können. In mindestens einer Ausführungsform ist ein computerlesbares Speichermedium ein nichttransitorisches computerlesbares Speichermedium, das transitorische Signale (z. B. eine sich ausbreitende transiente elektrische oder elektromagnetische Übertragung) ausschließt, aber nichttransitorische Datenspeicherschaltungen (z. B. Puffer, Cache und Warteschlangen) innerhalb von Sendeempfängern von transitorischen Signalen einschließt. In mindestens einer Ausführungsform ist der Code (z. B. ausführbarer Code oder Quellcode) auf einem Satz von einem oder mehreren nichttransitorischen computerlesbaren Speichermedien gespeichert, auf denen ausführbare Anweisungen gespeichert sind (oder einem anderen Speicher zum Speichern ausführbarer Anweisungen), die bei Ausführung (d. h. als Ergebnis der Ausführung) durch einen oder mehrere Prozessoren eines Computersystems das Computersystem dazu veranlassen, hierin beschriebene Operationen durchzuführen. Ein Satz von nichtflüchtigen computerlesbaren Speichermedien kann in mindestens einer Ausführungsform mehrere nichtflüchtige computerlesbare Speichermedien umfassen und eines oder mehrere von einzelnen nichtflüchtigen Speichermedien der mehreren nichtflüchtigen computerlesbaren Speichermedien verfügen möglicherweise nicht über den gesamten Code, während mehrere nichtflüchtige computerlesbares Speichermedien gemeinschaftlich den gesamten Code speichern. In mindestens einer Ausführungsform werden die ausführbaren Anweisungen so ausgeführt, dass unterschiedliche Anweisungen durch unterschiedliche Prozessoren ausgeführt werden - in mindestens einer Ausführungsform speichert ein nichttransitorisches computerlesbares Speichermedium Anweisungen und eine hauptsächliche zentrale Verarbeitungseinheit („CPU“) führt einige der Anweisungen aus, während eine Grafikverarbeitungseinheit („GPU“) andere Anweisungen ausführt. In mindestens einer Ausführungsform weisen unterschiedliche Komponenten eines Computersystems separate Prozessoren auf und unterschiedliche Prozessoren führen unterschiedliche Teilmengen von Anweisungen aus.
-
Dementsprechend sind in mindestens einer Ausführungsform Computersysteme so konfiguriert, dass sie einen oder mehrere Dienste implementieren, die einzeln oder zusammen Operationen der hierin beschriebenen Prozesse durchführen, und derartige Computersysteme sind mit geeigneter Hardware und/oder Software konfiguriert, die eine Durchführung der Operationen ermöglichen. Ferner ist ein Computersystem, das mindestens eine Ausführungsform der vorliegenden Offenbarung implementiert, eine einzelne Vorrichtung und in einer anderen Ausführungsform ein verteiltes Computersystem, das mehrere Vorrichtungen umfasst, die unterschiedlich arbeiten, sodass das verteilte Computersystem die hierin beschriebenen Operationen durchführt und sodass eine einzelne Vorrichtung nicht alle Operationen durchführt.
-
Die Verwendung jeglicher und aller der mindestens einen Ausführungsformen oder beispielhafter Wortwahl (z. B. „wie etwa“), die hierin bereitgestellt ist, soll lediglich die Ausführungsformen der Offenbarung besser verdeutlichen und stellt keine Einschränkung des Umfangs der Offenbarung dar, es sei denn, es ist etwas anderes beansprucht. Keinerlei Wortwahl in der Beschreibung sollte so ausgelegt werden, dass sie ein beliebiges nicht beanspruchtes Element als für die Umsetzung der Offenbarung wesentlich angibt.
-
Jegliche Bezugnahmen, einschließlich Veröffentlichungen, Patentanmeldungen und Patenten, die hierin genannt werden, sind hiermit durch Bezugnahme in demselben Maße aufgenommen, als wäre jede Bezugnahme einzeln und spezifisch als durch Bezugnahme eingeschlossen angegeben und in ihrer Gesamtheit hierin dargelegt.
-
In der Beschreibung und den Ansprüchen können die Begriffe „gekoppelt“ und „verbunden“ zusammen mit ihren Ableitungen verwendet werden. Es versteht sich, dass diese Ausdrücke nicht als Synonyme füreinander beabsichtigt sein können. Vielmehr kann in mindestens einer der folgenden Ausführungsformen „verbunden“ oder „gekoppelt“ verwendet werden, um anzugeben, dass zwei oder mehr Elemente in direktem oder indirektem physischem oder elektrischem Kontakt miteinander stehen. Mit „gekoppelt“ kann auch gemeint sein, dass zwei oder mehr Elemente nicht in direktem Kontakt miteinander stehen, jedoch trotzdem miteinander zusammenwirken oder interagieren.
-
Sofern nicht ausdrücklich anders angegeben, versteht es sich, dass sich Begriffe wie „Verarbeitung“, „Berechnung“, „Berechnen“, „Bestimmen“ oder dergleichen in der gesamten Beschreibung auf Handlungen und/oder Prozesse eines Computers oder Rechensystems oder einer ähnlichen elektronischen Rechenvorrichtung, die Daten, die als physische, z. B. elektronische, Größen in den Registern und/oder Speichern des Rechensystems dargestellt sind, manipulieren und/oder in andere Daten umwandeln, die auf ähnliche Weise als physische Größen in den Speichern, Registern oder anderen derartigen Informationsspeicher-, -übertragungs- oder - anzeigevorrichtungen des Rechensystems dargestellt sind.
-
Auf ähnliche Weise kann sich der Begriff „Prozessor“ auf eine beliebige Vorrichtung oder einen Abschnitt einer Vorrichtung beziehen, die/der elektronische Daten aus Registern und/oder dem Speicher verarbeitet und diese elektronischen Daten in andere elektronische Daten umwandelt, die in Registern und/oder im Speicher gespeichert werden können. Als nicht einschränkende der mindestens einen Ausführungsform kann der „Prozessor“ eine CPU oder eine GPU sein. Eine „Rechenplattform“ kann einen oder mehrere Prozessoren umfassen. Im hierin verwendeten Sinne können „Software“-Prozesse zum Beispiel Software- und/oder Hardware-Entitäten beinhalten, die im Verlauf der Zeit Arbeit Durchführen, wie etwa Tasks, Threads und intelligente Agenten. Außerdem kann sich jeder Prozess auf mehrere Prozesse beziehen, um Anweisungen nacheinander oder parallel, kontinuierlich oder intermittierend auszuführen. Die Begriffe „System“ und „Verfahren“ werden hierin insofern austauschbar verwendet, dass ein System ein oder mehrere Verfahren verkörpern kann und die Verfahren als System betrachtet werden können.
-
Im vorliegenden Dokument kann auf das Erlangen, Erfassen, Empfangen oder Eingeben von analogen oder digitalen Daten in ein Teilsystem, ein Computersystem oder eine computerimplementierte Maschine Bezug genommen werden. In mindestens einer Ausführungsform kann der Prozess des Erlangens, Erfassens, Empfangens oder Eingebens von analogen und digitalen Daten auf eine Vielfalt von Weisen erzielt werden, wie etwa durch das Empfangen von Daten als Parameter eines Funktionsaufrufs oder eines Aufrufs einer Anwendungsprogrammierschnittstelle. In einigen Implementationen kann der Prozess des Erlangens, Erfassens, Empfangens oder Eingebens von analogen oder digitalen Daten durch das Übermitteln von Daten über eine serielle oder parallele Schnittstelle erfolgen. In einer anderen Implementation kann der Prozess des Erlangens, Erfassens, Empfangens oder Eingebens von analogen oder digitalen Daten durch das Übermitteln von Daten über ein Computernetz von der bereitstellenden Entität zu der erfassenden Entität erfolgen. Es kann auch auf das Bereitstellen, Ausgeben, Übertragen, Senden oder Darstellen von analogen oder digitalen Daten Bezug genommen werden. In verschiedenen der mindestens einen Ausführungsform kann der Prozess des Bereitstellens, Ausgebens, Übertragens, Sendens oder Darstellens von analogen oder digitalen Daten durch die Übertragung von Daten als Eingabe- oder Ausgabeparameter eines Funktionsaufrufs, Parameter einer Anwendungsprogrammierschnittstelle oder eines Interprozess-Kommunikationsmechanismus erfolgen.
-
Auch wenn die vorstehende Erörterung einige der mindestens einen Ausführungsform mit Implementationen der beschriebenen Techniken darlegt, können auch andere Architekturen verwendet werden, um die beschriebene Funktionalität zu implementieren, und sie sollen im Umfang dieser Offenbarung liegen. Darüber hinaus könnten, obwohl spezifische Verteilungen von Zuständigkeiten vorstehend zum Zwecke der Erörterung definiert sind, verschiedene Funktionen und Zuständigkeiten in Abhängigkeit von den Umständen anders verteilt und aufgeteilt werden.
-
Obwohl der Gegenstand ferner in für Strukturmerkmale und/oder Verfahrenshandlungen spezifischer Sprache beschrieben wurde, versteht sich, dass der in den beigefügten Ansprüchen beanspruchte Gegenstand nicht unbedingt auf die beschriebenen spezifischen Merkmale oder Handlungen beschränkt ist. Vielmehr werden spezifische Merkmale und Handlungen als beispielhafte Formen zum Implementieren der Ansprüche offenbart.