DE102021121918A1 - Optoelectronic computing unit and matrix processor - Google Patents
Optoelectronic computing unit and matrix processor Download PDFInfo
- Publication number
- DE102021121918A1 DE102021121918A1 DE102021121918.3A DE102021121918A DE102021121918A1 DE 102021121918 A1 DE102021121918 A1 DE 102021121918A1 DE 102021121918 A DE102021121918 A DE 102021121918A DE 102021121918 A1 DE102021121918 A1 DE 102021121918A1
- Authority
- DE
- Germany
- Prior art keywords
- matrix
- signal
- chip
- optoelectronic
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/067—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means
- G06N3/0675—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means using electro-optical, acousto-optical or opto-electronic means
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Neurology (AREA)
- Optical Communication System (AREA)
Abstract
Die Erfindung betrifft eine optoelektronische Recheneinheit (18) umfassend einen Matrixchip (54), einen Treiberchip (28) und einen Steuerungsschaltkreis (34), wobei der Treiberchip (28) dazu ausgestaltet ist, ein analoges elektrisches Eingangssignal (26) zu empfangen, auf Basis des analogen elektrischen Eingangssignals (26) und unter Berücksichtigung eines ersten Steuersignals (30) des Steuerungsschaltkreises (34) amplitudenmodulierte optische Signale zu erzeugen und diese an Eingangswellenleiter (56) des Matrixchips (54) zu übertragen, wobei der Matrixchip (54) dazu ausgestaltet ist, auf Basis der übertragenen amplitudenmodulierten optischen Signale und unter Berücksichtigung eines weiteren Steuersignals (32) des Steuerungsschaltkreises (34) ein analoges elektrisches Ausgangssignal (38) zu erzeugen, wobei der Matrixchip (54) eine Mehrzahl an Matrixmultiplikationseinheiten (68) mit jeweils
- N Eingangswellenleitern (56),
- M Ausgangswellenleitern (70) und
- einer Mehrzahl von Matrixmultiplikations-Einheitszellen (72) zur Signalverarbeitung der optischen Signale von je einem der N Eingangswellenleiter (56) und zur Übertragung des jeweils verarbeiteten Signals in einen der M Ausgangswellenleiter (70) umfasst, wobei jede der Matrixmultiplikations-Einheitszellen (72) zur Signalverarbeitung und Signalübertragung einen zwischen den zugeordneten Eingangswellenleiter (56) und den zugeordneten Ausgangswellenleiter (70) zwischengeschalteten Direktionalkoppler (74) mit elektrooptischem Modulator (76) umfasst, und wobei der elektrooptische Modulator (76) derart ausgestaltet ist, dass unter Berücksichtigung des weiteren Steuersignals (32) eine Transmission des Direktionalkopplers (74) regelbar ist.
Weiterhin betrifft die Erfindung einen Matrixprozessor (10) umfassend wenigstens eine obige optoelektronische Recheneinheit (18), einen Eingangsdatenbus (20), und einen Steuerungsdatenbus (22).
The invention relates to an optoelectronic computing unit (18) comprising a matrix chip (54), a driver chip (28) and a control circuit (34), the driver chip (28) being designed to receive an analog electrical input signal (26), based on of the analog electrical input signal (26) and taking into account a first control signal (30) of the control circuit (34) to generate amplitude-modulated optical signals and to transmit them to the input waveguide (56) of the matrix chip (54), the matrix chip (54) being designed for this purpose to generate an analog electrical output signal (38) on the basis of the transmitted amplitude-modulated optical signals and taking into account a further control signal (32) of the control circuit (34), the matrix chip (54) having a plurality of matrix multiplication units (68) each with
- N input waveguides (56),
- M output waveguides (70) and
- a plurality of matrix multiplication unit cells (72) for signal processing the optical signals from each one of the N input waveguides (56) and for transmitting the respectively processed signal into one of the M output waveguides (70), each of the matrix multiplication unit cells (72) comprising for signal processing and signal transmission, comprises a directional coupler (74) with an electro-optical modulator (76) connected between the associated input waveguide (56) and the associated output waveguide (70), and wherein the electro-optical modulator (76) is designed in such a way that, taking into account the further control signal (32) a transmission of the directional coupler (74) can be regulated.
The invention also relates to a matrix processor (10) comprising at least one of the above optoelectronic computing units (18), an input data bus (20) and a control data bus (22).
Description
Die Erfindung betrifft eine optoelektronische Recheneinheit umfassend einen Matrixchip, einen Treiberchip und einen Steuerungsschaltkreis.The invention relates to an optoelectronic computing unit comprising a matrix chip, a driver chip and a control circuit.
Weiterhin betrifft die Erfindung einen Matrixprozessor umfassend wenigstens eine obige optoelektronische Recheneinheit.Furthermore, the invention relates to a matrix processor comprising at least one of the above optoelectronic computing units.
Um die Digitalisierung und die damit verbundene Analyse der zunehmenden Datenmengen, die insbesondere bei der Sprach- und Mustererkennung und/oder beim autonomen Fahren anfallen, zu verarbeiten, bedarf es leistungsfähiger Technologien. Während die Miniaturisierung elektronischer Schaltungsanordnungen an ihre Grenzen stößt und der Energiebedarf weiter ansteigt, sind schnellere und effizientere Methoden der Datenverarbeitung gefragt. Insbesondre im Bereich künstlicher Intelligenz und dem maschinellen Lernen birgt die herkömmliche von-Neumann-Rechnerarchitektur allerdings viel Probleme.High-performance technologies are required to process digitization and the associated analysis of the increasing amounts of data that are generated, in particular, in speech and pattern recognition and/or in autonomous driving. While the miniaturization of electronic circuit configurations is reaching its limits and the energy requirement continues to rise, faster and more efficient methods of data processing are required. However, the conventional von Neumann computer architecture has many problems, especially in the area of artificial intelligence and machine learning.
Wichtigster und rechenintensivster Bestandteil bei der Bewältigung kognitiver Aufgaben, die beispielsweise mittels neuronaler Netzte durchgeführt werden, sind Matrix-Vektor-Multiplikationen, für die die herkömmliche Rechnerarchitektur aufgrund der Trennung von Speicher und Prozessor und der seriellen Datenverarbeitung nicht optimiert ist. Zudem sind bekannte elektronische Schaltungsanordnungen zur Realisierung künstlicher neuronaler Netze aufgrund ihrer großen Anzahl an erforderlichen MOS-Feldeffekttransistoren kompliziert, aufwendig und weisen einen erheblichen Platzbedarf auf einem Computerchip auf.The most important and computationally intensive component when dealing with cognitive tasks, which are carried out, for example, by means of neural networks, are matrix-vector multiplications, for which the conventional computer architecture is not optimized due to the separation of memory and processor and the serial data processing. In addition, known electronic circuit arrangements for realizing artificial neural networks are complicated and expensive due to the large number of MOS field effect transistors required and require a considerable amount of space on a computer chip.
Entsprechend ist man bei der Realisierung künstlicher neuronaler Netze mittlerweile dazu übergegangen, rechenintensive Schritte dieser neuronalen Netze von einer elektronischen Realisierung zu einer photonischen Realisierung zu übertragen. Dies umfasst die Implementierung von Matrix-Vektor-Multiplikationen - vorliegend auch kurz als Matrixmultiplikationen bezeichnet - mit Matrizen, die nicht in der Größe limitiert sind. Auf diese Weise werden extrem mächtige Matrixmultiplikationen möglich, die weit über die Leistung aktueller Rechensysteme hinaus gehen.Accordingly, in the realization of artificial neural networks, there has now been a transition to transferring computationally intensive steps of these neural networks from an electronic realization to a photonic realization. This includes the implementation of matrix-vector multiplication - also referred to herein as matrix multiplication for short - with matrices that are not limited in size. In this way, extremely powerful matrix multiplications are possible that go far beyond the performance of current computing systems.
Zudem lassen sich mit photonischen Ansätzen künstliche neuronale Netze implementieren, die bei optischen Taktfrequenzen arbeiten, wodurch deutlich höhere Datenraten als bei elektronischen Systemen erreicht werden können.In addition, photonic approaches can be used to implement artificial neural networks that work at optical clock frequencies, which means that significantly higher data rates can be achieved than with electronic systems.
Bisherige photonische Implementierungen von Matrixmultiplikationen setzten auf kohärentes Licht und wellenlängenabhängige Bauelemente wie Resonatoren oder Interferometer, die die Skalierbarkeit und Parallelisierung erschweren. Entsprechend sind diese Implementierungen in der Rechendichte -sprich der Operationen pro Chipfläche - limitiert. Weiterhin müssen alle Lichtquellen phasenstabilisiert werden, da Interferenzen für die Matrixmultiplikationen notwendig sind, so dass nur ein geringer Wellenlängenbereich durch die Lichtquellen abgedeckt wird. Dies mach allerdings einen der Hauptvorteile der Photonik - nämlich die Parallelität - obsolet. Entsprechend ist die maximale Verarbeitungsgeschwindigkeit photonischer Systeme begrenzt.Previous photonic implementations of matrix multiplication rely on coherent light and wavelength-dependent components such as resonators or interferometers, which make scalability and parallelization difficult. Correspondingly, these implementations are limited in terms of computing density, i.e. operations per chip area. Furthermore, all light sources must be phase-stabilized, since interference is necessary for the matrix multiplications, so that only a small wavelength range is covered by the light sources. However, this renders one of the main advantages of photonics - namely parallelism - obsolete. Accordingly, the maximum processing speed of photonic systems is limited.
Ausgehend davon ist es Aufgabe der Erfindung Maßnahmen anzugeben, den Parallelisierungsgrad von photonischen Implementierungen von Matrixmultiplikationen und/oder die Rechendichte photonischer Implementierungen von Matrixmultiplikationen zu erhöhen. Weiterhin ist es Aufgabe der Erfindung Mittel bereitzustellen, um Matrixmultiplikationen mit einem sehr geringen Energieverbrauch und einer sehr hohen Geschwindigkeit durchführen zu können.Proceeding from this, it is the object of the invention to specify measures to increase the degree of parallelization of photonic implementations of matrix multiplications and/or the computing density of photonic implementations of matrix multiplications. Furthermore, it is the object of the invention to provide means to be able to carry out matrix multiplications with a very low energy consumption and at a very high speed.
Die Lösung der Aufgabe erfolgt erfindungsgemäß durch die Merkmale der unabhängigen Ansprüche. Vorteilhafte Ausgestaltungen der Erfindung sind in den Unteransprüchen angegeben.The object is achieved according to the invention by the features of the independent claims. Advantageous refinements of the invention are specified in the dependent claims.
Erfindungsgemäß wird eine optoelektronische Recheneinheit umfassend einen Matrixchip, einen Treiberchip und einen Steuerungsschaltkreis bereitgestellt, wobei der Treiberchip dazu ausgestaltet ist, ein analoges elektrisches Eingangssignal zu empfangen, auf Basis des analogen elektrischen Eingangssignals und unter Berücksichtigung eines ersten Steuersignals des Steuerungsschaltkreises amplitudenmodulierte optische Signale zu erzeugen und diese an Eingangswellenleiter des Matrixchips zu übertragen, wobei der Matrixchip dazu ausgestaltet ist, auf Basis der übertragenen amplitudenmodulierten optischen Signale und unter Berücksichtigung eines weiteren Steuersignals des Steuerungsschaltkreises ein analoges elektrisches Ausgangssignal zu erzeugen, wobei der Matrixchip eine Mehrzahl an Matrixmultiplikationseinheiten mit jeweils
- - N Eingangswellenleitern,
- - M Ausgangswellenleitern und
- - einer Mehrzahl von Matrixmultiplikations-Einheitszellen zur Signalverarbeitung der optischen Signale von je einem der N Eingangswellenleiter und zur Übertragung des jeweils verarbeiteten Signals in einen der M Ausgangswellenleiter umfasst,
- - N input waveguides,
- - M output waveguides and
- - a plurality of matrix multiplication unit cells for signal processing of the optical signals from one of the N input waveguides and for transmission of the respectively processed signal into one of the M output waveguides,
Weiterhin wird erfindungsgemäß ein Matrixprozessor umfassend wenigstens eine obige optoelektronische Recheneinheit, einen Eingangsdatenbus, und einen Steuerungsdatenbus bereitgestellt, wobei der Eingangsdatenbus dazu ausgestaltet ist ein digitales elektrisches Signal zu empfangen, das empfangene digitale elektrische Signal über einen Digital-Analog-Umsetzer in ein analoges elektrisches Eingangssignal umzuwandeln und das analoge elektrische Eingangssignal an den Treiberchip der wenigstens einen optoelektronischen Recheneinheit zu übertragen, und wobei der Steuerungsdatenbus dazu ausgestaltet ist auf Basis eines empfangenen digitalen elektrischen Steuersignals, wenigstens das erste Steuersignal und das weitere Steuersignal an den elektrischen Steuerungsschaltkreis der wenigstens einen optoelektronischen Recheneinheit zu übertragen.Furthermore, according to the invention, a matrix processor is provided comprising at least one of the above optoelectronic computing units, an input data bus, and a control data bus, the input data bus being designed to receive a digital electrical signal, the received digital electrical signal via a digital-to-analog converter into an analog electrical input signal and to transmit the analog electrical input signal to the driver chip of the at least one optoelectronic arithmetic unit, and wherein the control data bus is designed for this purpose on the basis of a received digital electrical control signal, at least the first control signal and the further control signal to the electrical control circuit of the at least one optoelectronic arithmetic unit transfer.
Kernidee der Erfindung ist die Kombination der photonischen Implementierung der Matrixmultiplikation mit konventioneller Elektronik. Dadurch ist die Architektur des Matrixprozessors kompatibel mit digitaler elektrischer Datenverarbeitung und beschleunigt die Verarbeitung von Matrixmultiplikationen durch Parallelisierung und hohe Taktraten. Durch einen Matrixprozessor wird eine Schicht eines neuronalen Netzwerkes mithilfe photonischer Matrixmultiplikationen implementiert. Entsprechend kann durch Zusammenschluss mehrerer Matrixprozessoren flexibel ein neuronales Netz mit mehreren Schichten bereitgestellt werden. The core idea of the invention is the combination of the photonic implementation of matrix multiplication with conventional electronics. As a result, the architecture of the matrix processor is compatible with digital electrical data processing and accelerates the processing of matrix multiplications through parallelization and high clock rates. A matrix processor implements a layer of a neural network using photonic matrix multiplication. Accordingly, a multi-layer neural network can be flexibly provided by combining a plurality of matrix processors.
In anderen Worten handelt es sich also beim Matrixprozessor um einen Matrixprozessor zur Bildung eines künstlichen neuronalen Netzes mit mehreren Schichten. Der Matrixprozessor weist eine skalierbare Systemarchitektur auf.In other words, the matrix processor is a matrix processor for forming an artificial neural network with multiple layers. The matrix processor has a scalable system architecture.
Die Grundeinheit des Matrixprozessors bildet die optoelektronische Recheneinheit. Bevorzugt weist der Matrixprozessor nicht nur eine optoelektronische Recheneinheit auf, sondern eine Mehrzahl an optoelektronischen Recheneinheiten. Die Eingangsdaten für den Matrixprozessor - nämlich das digitale elektrische Signal - sind digitale Eingangsdaten, wodurch die Kompatibilität sichergestellt ist. Über den Eingangsdatenbus des Matrixprozessor können die digitalen elektrischen Signale empfangen werden. An den Eingangsdatenbus schließt sich eine Wandlung der digitalen elektrischen Signale in analoge elektrische Signale an, die als analoge elektrische Eingangssignale an die optoelektronische Recheneinheit weitergegeben werden. Das digitale elektrische Signal wird also mit Hilfen des Digital-Analog-Umsetzer in das analoge elektrische Eingangssignal umgewandelt und an die optoelektronische Recheneinheit, bevorzugt an die Mehrzahl der optoelektronischen Recheneinheiten weitergeleitet. Zudem weist der Matrixprozessor den Steuerungsdatenbus auf. Dieser ist dazu ausgestaltet auf Basis des empfangenen digitalen elektrischen Steuersignals, das erste Steuersignal und das weitere Steuersignal an die optoelektronische Recheneinheit und besonders bevorzugt an den Steuerungsschaltkreis der optoelektronischen Recheneinheit zu übertragen.The basic unit of the matrix processor is the optoelectronic computing unit. The matrix processor preferably has not only one optoelectronic arithmetic unit, but a plurality of optoelectronic arithmetic units. The input data for the matrix processor - namely the digital electrical signal - is digital input data, which ensures compatibility. The digital electrical signals can be received via the input data bus of the matrix processor. The input data bus is followed by a conversion of the digital electrical signals into analog electrical signals, which are forwarded to the optoelectronic processing unit as analog electrical input signals. The digital electrical signal is thus converted into the analog electrical input signal with the aid of the digital-to-analog converter and forwarded to the optoelectronic arithmetic unit, preferably to the majority of the optoelectronic arithmetic units. In addition, the matrix processor has the control data bus. On the basis of the digital electrical control signal received, this is designed to transmit the first control signal and the further control signal to the optoelectronic arithmetic unit and particularly preferably to the control circuit of the optoelectronic arithmetic unit.
Die optoelektronische Recheneinheit umfasst den Treiberchip, den Matrixchip und den Steuerungsschaltkreis. Der Treiberchip ist dazu ausgestaltet, das analoge elektrische Eingangssignal, das ihm vom Digital-Analog-Umsetzer des Matrixprozessors zur Verfügung gestellt wird, zu empfangen. Bevorzugt weist der Treiberchip dafür einen Eingangsbus auf. Zudem ist der Treiberchip dazu ausgestaltet auf Basis des analogen elektrischen Eingangssignals und unter Berücksichtigung des ersten Steuersignals des Steuerungsschaltkreises die amplitudenmodulierten optischen Signale zu erzeugen und diese an die Eingangswellenleiter des Matrixchips zu übertragen.The optoelectronic computing unit includes the driver chip, the matrix chip and the control circuit. The driver chip is designed to receive the analog electrical input signal provided to it by the matrix processor's digital-to-analog converter. The driver chip preferably has an input bus for this. In addition, the driver chip is designed to generate the amplitude-modulated optical signals on the basis of the analog electrical input signal and taking into account the first control signal of the control circuit and to transmit them to the input waveguides of the matrix chip.
Die amplitudenmodulierten optischen Signale repräsentieren die Eingangsvektoren für die Matrixmultiplikation, die im Matrixchip stattfindet. Besonders bevorzugt ist der Treiberchip derart ausgestaltet, dass die Einträge der Eingangsvektoren auf die Amplituden von inkohärentem Licht moduliert werden können. Für die Matrixmultiplikation weist der Matrixchip die Mehrzahl der Matrixmultiplikationseinheiten auf. Die Matrixmultiplikationseinheiten weisen ihrerseits jeweils die
- - N Eingangswellenleitern,
- - M Ausgangswellenleitern und
- - die Mehrzahl der Matrixmultiplikations-Einheitszellen zur Signalverarbeitung der optischen Signale von je einem der N Eingangswellenleiter und zur Übertragung des jeweils verarbeiteten Signals in einen der M Ausgangswellenleiter. In anderen Worten weist die Matrixmultiplikationseinheit also mehrere Wellenleiterkreuzungen auf. Die Eingangswellenleiter empfangen die amplitudenmodulierten optischen Signale des Treiberchips. Das von N Eingangswellenleiter einer Matrixmultiplikationseinheit empfangene amplitudenmodulierte optische Signal wird mittels der zwischengeschalteten Direktionalkoppler auf die M Ausgangswellenleiter der einen Matrixmultiplikationseinheit verteilt. Derart trägt im Grundzustand jedes verarbeitete Signal am Ausgang der N Ausgangswellenleiter in gleichem Maße zur Gesamtleistung bei.
- - N input waveguides,
- - M output waveguides and
- - the plurality of matrix multiplication unit cells for signal processing the optical signals from each of the N input waveguides and for transmitting the processed signal into one of the M output waveguides. In other words, the matrix multiplication unit has a number of waveguide crossings. The input waveguides receive the amplitude modulated optical signals from the driver chip. The amplitude-modulated optical signal received from N input waveguides of a matrix multiplication unit is transmitted by means of the interposed directional coupler ler distributed to the M output waveguides of a matrix multiplication unit. Thus, in the ground state, each processed signal at the output of the N output waveguides contributes equally to the total power.
Wie bereits erwähnt weist jede der Matrixmultiplikations-Einheitszellen einen zwischengeschalteten Direktionalkoppler mit elektrooptischem Modulator auf. Der elektrooptische Modulator ist dabei derart ausgestaltet, dass unter Berücksichtigung des weiteren Steuersignals des Steuerungsschaltkreises die Transmission des Direktionalkopplers regelbar ist. Bevorzugt werden mithilfe des weiteren Steuersignals die für die Matrixmultiplikation verwendeten Elemente der Matrix in den Status der elektrooptischen Modulatoren einprogrammiert. In anderen Worten enthält also jeder elektrooptische Modulator und derart jede Matrixmultiplikations-Einheitszelle ein Matrixelement. Somit ergibt sich in der Matrixmultiplikations-Einheitszelle durch Wechselwirkung des amplitudenmodulierten optischen Signals mit dem elektrooptischen Modulator jeweils die Multiplikation des Vektoreintrags und des jeweiligen Matrixelementes. Bevorzugt sind die elektrooptischen Modulatoren mit Taktraten von bis zu 100 GHz betreibbar. Da die elektrooptischen Modulatoren mit Taktraten betreibbar sind, die elektrischen Bauteilen weite überlegen sind, ergibt sich im Vergleich zu elektrisch implementierten Matrixmultiplikationen ein großer Geschwindigkeitsvorteil. Die für die Matrixmultiplikation ebenfalls notwendige Summation der einzelnen Vektoreintrag-Matrixelement-Produkte wird durch inkohärente Überlagerung des optischen Signals in die Ausgangswellenleiter mit Hilfe des Direktionalkopplers erreicht.As already mentioned, each of the matrix multiplication unit cells has an interposed directional electro-optic modulator coupler. The electro-optical modulator is designed in such a way that the transmission of the directional coupler can be regulated taking into account the further control signal of the control circuit. The elements of the matrix used for the matrix multiplication are preferably programmed into the status of the electro-optical modulators with the aid of the additional control signal. In other words, each electro-optical modulator and thus each matrix multiplication unit cell contains a matrix element. Thus, in the matrix multiplication unit cell, the interaction of the amplitude-modulated optical signal with the electro-optical modulator results in the respective multiplication of the vector entry and the respective matrix element. The electro-optical modulators can preferably be operated with clock rates of up to 100 GHz. Since the electro-optical modulators can be operated with clock rates that are far superior to electrical components, there is a great speed advantage compared to electrically implemented matrix multiplications. The summation of the individual vector entry matrix element products, which is also necessary for the matrix multiplication, is achieved by incoherent superimposition of the optical signal in the output waveguides with the aid of the directional coupler.
In anderen Worten erfolgt die Multiplikation also über die Amplitude eines entsprechenden amplitudenmodulierten optischen Signals und nicht über dessen Phase bzw. eine Phasenbeziehung. Dem Multiplikator der einzelnen von einer der Matrixmultiplikations-Einheitszellen durchgeführten Multiplikation entspricht das von den Modulatoreinstellungen des elektrooptischen Modulators dieser Matrixmultiplikations-Einheitszelle bestimmte Amplitudenverhältnis des optischen Signals zwischen dem entsprechenden Eingangs- und Ausgangswellenleiter. Bei einer solchen auf einer Amplitudenänderung basierenden Multiplikation ergibt sich eine höhere Bandbreite, was den Matrixchip und somit die optoelektronische Recheneinheit und den Matrixprozessor leistungsfähiger macht. Da die optischen Signale zudem mit Lichtgeschwindigkeit durch die Eingangs- und Ausgangswellenleiter propagieren, stellen große optische Weglängen nur eine sehr geringe Verzögerung dar.In other words, the multiplication thus takes place via the amplitude of a corresponding amplitude-modulated optical signal and not via its phase or a phase relationship. The multiplier of the individual multiplication performed by one of the matrix multiplication unit cells corresponds to the amplitude ratio of the optical signal between the corresponding input and output waveguide determined by the modulator settings of the electro-optic modulator of this matrix multiplication unit cell. Such a multiplication based on an amplitude change results in a higher bandwidth, which makes the matrix chip and thus the optoelectronic computing unit and the matrix processor more powerful. Also, since the optical signals propagate through the input and output waveguides at the speed of light, long optical path lengths present very little delay.
Da bei der Implementierung der Matrixmultiplikation auf dem Matrixchips auf resonante photonische Bauelemente - wie wellenlängenabhängige optische Resonatoren und Interferometer - verzichtet wird, kann ein großer Teil des optischen Spektrums für die Erzeugung der amplitudenmodulierten optischen Signale genutzt werden, wobei die amplitudenmodulierten optischen Signale parallel in derselben Matrixmultiplikationseinheit bearbeitet werden können. Zudem ist keine aufwändige und verlustreiche thermische Stabilisierung der im Matrixchip geführten optischen Signale notwendig. Da für die Matrixmultiplikation kein kohärentes Licht notwendig ist, kann die hohe optische Bandbreite der photonischen Implementation voll ausgenutzt werden. Entsprechend können multiplyaccumulate (MAC) Rechenoperationen, wie sie bei Matrixmultiplikationen durchgeführt werden, mit sehr hoher Geschwindigkeit ausgeführt werden. Durch den hohen Parallelisierungsgrad und die hohe Taktrate, die mittels des Matrixprozessors und der optoelektronischen Recheneinheit ermöglicht werden, können sehr hohe Rechendichten erreicht werden, die zudem die Energie und somit die Kosten pro Rechenschritt stark reduzieren. Zudem wir eine komplette Matrix-Vektor-Multiplikation in einem einzigen Zeitschritt erreicht, unabhängig von der Größe der Matrix.Since the implementation of matrix multiplication on the matrix chip does not use resonant photonic components - such as wavelength-dependent optical resonators and interferometers - a large part of the optical spectrum can be used to generate the amplitude-modulated optical signals, with the amplitude-modulated optical signals being processed in parallel in the same matrix multiplication unit can be edited. In addition, no complex and lossy thermal stabilization of the optical signals routed in the matrix chip is necessary. Since no coherent light is required for matrix multiplication, the high optical bandwidth of the photonic implementation can be fully utilized. Correspondingly, multiplyaccumulate (MAC) arithmetic operations, as are carried out in matrix multiplications, can be carried out at very high speed. Due to the high degree of parallelization and the high clock rate, which are made possible by means of the matrix processor and the optoelectronic processing unit, very high computing densities can be achieved, which also greatly reduce the energy and thus the costs per computing step. In addition, a complete matrix-vector multiplication is achieved in a single time step, regardless of the size of the matrix.
In Zusammenhang mit dem Matrixchip und der Ausgestaltung der Matrixmultiplikationseinheiten ist gemäß einer bevorzugten Weiterbildung der Erfindung vorgesehen, dass der elektrooptische Modulator der jeweiligen Matrixmultiplikations-Einheitszelle ein Phasen-Modulator ist. Der elektrooptische Modulator (EOM) basiert auf der Veränderung des Brechungsindexes. Bei diesem Verfahren ändert sich der Brechungsindex durch Anlegen eines elektrischen Feldes an das dotierte Material. Dies hat zur Folge, dass sich die Phasenlage des Lichts verändert, was bedeutet, dass sich die Lichtwellen verschieben. Beispiele für einen solchen Phasen-Modulator sind Kerr-Zelle und Pockels-Zelle.In connection with the matrix chip and the design of the matrix multiplication units, a preferred development of the invention provides that the electro-optical modulator of the respective matrix multiplication unit cell is a phase modulator. The electro-optic modulator (EOM) is based on changing the refractive index. With this method, the refractive index changes by applying an electric field to the doped material. As a result, the phase position of the light changes, which means that the light waves shift. Examples of such a phase modulator are Kerr cell and Pockels cell.
Dabei ist besonders bevorzugt vorgesehen, dass der jeweilige Direktionalkoppler ein Mach-Zehnder-Interferometer aufweist, in das der Phasen-Modulator integriert ist. Das Mach-Zehnder-Interferometer weist zwei bevorzugt Signalpfad-Arme auf, in dessen einem Arm der Phasen-Modulator angeordnet ist.It is particularly preferably provided that the respective directional coupler has a Mach-Zehnder interferometer, in which the phase modulator is integrated. The Mach-Zehnder interferometer preferably has two signal path arms, in one arm of which the phase modulator is arranged.
Besonders bevorzugt ist dabei vorgesehen, dass der jeweilige Direktionalkoppler weiterhin Multimodeninterferenz-Koppler zur Wellenaufteilung am Eingang und Ausgang des Mach-Zehnder-Interferometers aufweist.It is particularly preferably provided that the respective directional coupler also has multimode interference couplers for wave splitting at the input and output of the Mach-Zehnder interferometer.
Alternativ zu der Nutzung eines Phasenmodulators ist bevorzugt vorgesehen, dass der elektrooptische Modulator der jeweiligen Matrixmultiplikations-Einheitszelle ein Absorptionsmodulator ist. Dieser wird auch als Elektroabsorptionsmodulator (EAM) bezeichnet. Bei einem solchen Absorptionsmodulator wird in der Regel die Opakheit des verwendeten optischen Materials in Abhängigkeit einer angelegten Spannung verändert.As an alternative to using a phase modulator, it is preferably provided that the electro-optical modulator of the respective matrix multiplication unit cell is an absorption modulator. This is also called an electroabsorption modulator (EAM) referred to. In such an absorption modulator, the opacity of the optical material used is usually changed as a function of an applied voltage.
Wie bereits erwähnt umfasst die optoelektronische Recheneinheit den Treiberchip, den Matrixchip und den Steuerungsschaltkreis. Bevorzugt sind der Treiberchip und der Matrixchip mit dem gemeinsamen Steuerungsschaltkreis integriert. In diesem Zusammenhang ist gemäß einer bevorzugten Weiterbildung der Erfindung vorgesehen, dass der Matrixchip auf Silizium implementier ist und/oder als SOI-implementierter Matrixchip ausgestaltet ist, und/oder wobei der Treiberchip als auf mindestens einem optisch aktiven Material basierender Treiberchip und/oder als hybrider SOI-implementierter Treiberchip ausgestaltet ist, und/oder wobei der Steuerungsschaltkreis auf Silizium implementiert ist und/oder als integrierte Schaltung, bevorzugt als ASIC und/oder CMOS Steuerungsschaltkreis, ausgestaltet ist.As already mentioned, the optoelectronic processing unit includes the driver chip, the matrix chip and the control circuit. Preferably, the driver chip and the matrix chip are integrated with the common control circuit. In this context, according to a preferred development of the invention, it is provided that the matrix chip is implemented on silicon and/or is designed as an SOI-implemented matrix chip, and/or wherein the driver chip is a driver chip based on at least one optically active material and/or as a hybrid SOI-implemented driver chip is designed, and / or wherein the control circuit is implemented on silicon and / or as an integrated circuit, preferably as an ASIC and / or CMOS control circuit is designed.
In anderen Worten ist der Matrixchip bevorzugt als halbleiterbasierter Matrixchip ausgestaltet, bevorzugt auf Silizium und/oder der Matrixchip ist auf der SOI-Plattform (silicon on insulator) realisiert. In diesem Zusammenhang ist bevorzugt vorgesehen, dass die Eingangswellenleiter und/oder die Ausgangswellenleiter aus Silizium, Siliziumnitrid und/oder Diamant gefertigt sind. Bevorzugt ist also vorgesehen, dass die Matrixmultiplikationseinheit als halbleiterbasierte Matrixmultiplikationseinheit ausgestaltet ist.In other words, the matrix chip is preferably designed as a semiconductor-based matrix chip, preferably on silicon and/or the matrix chip is implemented on the SOI platform (silicon on insulator). In this context, it is preferably provided that the input waveguides and/or the output waveguides are made of silicon, silicon nitride and/or diamond. Provision is therefore preferably made for the matrix multiplication unit to be in the form of a semiconductor-based matrix multiplication unit.
Für den Treiberchip ist bevorzugt vorgesehen, dass der Treiberchip als ein auf mindestens einem optisch aktiven Material basierender Treiberchip ausgestaltet ist. Mögliche Materialien sind beispielsweise Indiumphosphid, Lithium-Niobat, Aluminium-Nitrid oder Gallium-Nitrid.It is preferably provided for the driver chip that the driver chip is designed as a driver chip based on at least one optically active material. Possible materials are, for example, indium phosphide, lithium niobate, aluminum nitride or gallium nitride.
Hinsichtlich des Steuerungsschaltkreis ist bevorzugt vorgesehen, dass der Steuerungsschaltkreis mittels ASICs (application specific integrated circuits) realisiert ist und/oder als CMOS (complementary metal-oxide-semiconductor) Steuerungsschaltkreis ausgestaltet ist.With regard to the control circuit, it is preferably provided that the control circuit is implemented using ASICs (application-specific integrated circuits) and/or is designed as a CMOS (complementary metal-oxide-semiconductor) control circuit.
Es werden also bevorzugt etablierte Halbleiterfertigungstechniken zur Herstellung des Matrixprozessors und/oder der optoelektronische Recheneinheit verwendet. Dies macht die Herstellung des Matrixprozessors und/oder der optoelektronischen Recheneinheit sehr kostengünstig und effizient. Die optoelektronische Recheneinheit und der Matrixprozessor ermöglichen somit Matrixmultiplikationen mit sehr hoher Geschwindigkeit photonisch durchzuführen, integriert mit elektronischer Ansteuerung auf durch herkömmliche Verfahren herstellbaren Siliziumchips.Established semiconductor manufacturing techniques are therefore preferably used to manufacture the matrix processor and/or the optoelectronic computing unit. This makes the production of the matrix processor and/or the optoelectronic arithmetic unit very economical and efficient. The optoelectronic computing unit and the matrix processor thus enable matrix multiplications to be carried out photonically at very high speed, integrated with electronic control on silicon chips which can be produced using conventional methods.
Hinsichtlich des Treiberchips ist gemäß einer weiteren bevorzugten Weiterbildung der Erfindung vorgehen, dass der Treiberchip zum Erzeugen der amplitudenmodulierten optischen Signale eine Mehrzahl an Laser und eine Mehrzahl an optischen Modulatoren umfasst. Bevorzugt handelt es sich um Standardlaser und/oder Mode-locked-Laser. Weiter bevorzugt ist vorgesehen, dass die Laser dazu ausgestaltet sind, optische Signale mit unterschiedlichen Wellenlängen zu erzeugen. Die Implementierung der Matrixmultiplikation mit inkohärentem Licht ermöglich viele Wellenlängen gleichzeig zu nutzen, wodurch dieselbe Matrixmultiplikationseinheit für parallele Multiplikationen eingesetzt werden kann. Bevorzugt ist ein Regelsignal für die Laser das analoge elektrische Eingangssignal. Weiterhin ist bevorzugt vorgesehen, dass die amplitudenmodulierten optischen Signale unter Berücksichtigung des ersten Steuersignals des Steuerungsschaltkreises und des analogen elektrischen Eingangssignals von den Lasern und den optischen Modulatoren erzeugbar ist. Weiter bevorzugt lassen sich mit den optischen Modulatoren Modulationsfrequenzen von bis zu 100 GHz erzielen.With regard to the driver chip, according to a further preferred development of the invention, the driver chip comprises a plurality of lasers and a plurality of optical modulators for generating the amplitude-modulated optical signals. Standard lasers and/or mode-locked lasers are preferred. Provision is also preferably made for the lasers to be designed to generate optical signals with different wavelengths. The implementation of matrix multiplication with incoherent light makes it possible to use many wavelengths simultaneously, which means that the same matrix multiplication unit can be used for parallel multiplications. A control signal for the lasers is preferably the analog electrical input signal. Furthermore, it is preferably provided that the amplitude-modulated optical signals can be generated by the lasers and the optical modulators, taking into account the first control signal of the control circuit and the analog electrical input signal. More preferably, modulation frequencies of up to 100 GHz can be achieved with the optical modulators.
In Zusammenhang mit der Nutzung mehrerer Wellenlängen und der Verteilung und Übertragung der amplitudenmodulierten optischen Signale auf den Matrixchip, ist gemäß einer weiteren bevorzugten Weiterbildung der Erfindung vorgesehen, dass der Treiberchip zum Übertragen der amplitudenmodulierten optischen Signale an die Eingangswellenleiter des Matrixchips eine Mehrzahl an Multiplexer umfasst. Mittels Multiplexverfahren werden die amplitudenmodulierten optischen Signale des Treiberchips auf gemeinsame Wellenleiter geführt und zum Matrixchip geleitet. Wie bereits erwähnt werden die Einträge der Eingangsvektoren auf die Amplituden von inkohärentem Licht moduliert. Bevorzugt ist in diesem Zusammenhang vorgesehen, dass die Vektoreinträge von mehreren Vektoren - beispielsweise 40 Vektoren - durch jeweils einen Multiplexer zusammengefasst werden und als zusammengefasstes Signal an den Matrixchip übertragen werden. Jede Matrixmultiplikationseinheit bearbeitet somit eine Mehrzahl an Vektoren - im vorliegenden Beispiel 40 Vektoren - parallel.In connection with the use of multiple wavelengths and the distribution and transmission of the amplitude-modulated optical signals on the matrix chip, it is provided according to a further preferred development of the invention that the driver chip for transmitting the amplitude-modulated optical signals to the input waveguide of the matrix chip includes a plurality of multiplexers. The amplitude-modulated optical signals of the driver chip are routed to common waveguides and routed to the matrix chip by means of multiplexing. As already mentioned, the entries of the input vectors are modulated onto the amplitudes of incoherent light. In this context, it is preferably provided that the vector entries from a plurality of vectors—for example 40 vectors—are combined by a multiplexer in each case and are transmitted to the matrix chip as a combined signal. Each matrix multiplication unit thus processes a plurality of vectors—40 vectors in the present example—in parallel.
Im Hinblick auf die Signalverarbeitung im Matrixchip ist gemäß einer weiteren bevorzugten Weiterbildung der Erfindung vorgesehen, dass der Matrixchip zur Trennung der in den Ausgangswellenleitern der Matrixmultiplikationseinheiten geführten verarbeiteten optischen Signale eine Mehrzahl an Demultiplexer umfasst. Am Ausgang der Ausgangswellenleiter der jeweiligen Matrixmultiplikationseinheit werden die durch das verarbeitete optische Signal repräsentierten Ausgabevektoren erneut mittels Multiplexverfahren getrennt, so dass pro Zeitschritt also eine Mehrzahl - im vorliegenden Beispiel 40 - Matrix-Vektor-Multiplikationen vollständige durchgeführt werden.With regard to the signal processing in the matrix chip, according to a further preferred development of the invention, the matrix chip comprises a plurality of demultiplexers for separating the processed optical signals carried in the output waveguides of the matrix multiplication units. At the output of the output waveguides of the respective matrix multiplication unit, the processed optical signals are nal represented output vectors separated again by means of multiplexing methods, so that per time step a plurality - in the present example 40 - complete matrix-vector multiplications are carried out.
Hinsichtlich der Umwandlung des im Ausgangswellenleiter geführten bearbeiteten optischen Signals in das elektrische analoge Ausgangsignal ist gemäß einer weiteren bevorzugten Weiterbildung der Erfindung vorgesehen, dass der Matrixchip und besonders bevorzugt die Matrixmultiplikationseinheit zum Erzeugen des analogen elektrischen Ausgangssignals auf Basis der verarbeiteten optischen Signale eine Mehrzahl an Detektionsvorrichtungen zur Transmissionsmessung umfasst. Bevorzugt sind die Detektionsvorrichtungen als symmetrische Photodetektoren (balanced detectors) ausgestaltet, die empfindlich auf Unterschiede in der Strahlungsleistung (entspricht dem Strahlungsfluss, also der differentiellen Energiemenge die pro Zeitspanne von der elektromagnetischen Strahlung transportiert wird) des verarbeiteten optischen Signals sind, aber bevorzugt nicht empfindlich auf durch Gleichtaktsignale erzeugte Störsignale sind. In diesem Zusammenhang ist weiter bevorzugt vorgesehen, dass einige Ausgangswellenleiter der Matrixmultiplikationseinheit zur Übertragung von optischen Referenzsignale ausgestaltet sind. Weiter bevorzugt wird das optischen Referenzsignal bei der Transmissionsmessung abgezogen, um derart das analoge elektrische Ausgangssignal zu erzeugen. Bevorzugt weist der Matrixchip zur Ausgabe des analogen elektrischen Ausgangssignal einen Ausgangsbus auf. Aufgrund der passiven Transmissionsmessung ist die Geschwindigkeit der Matrixmultiplikation lediglich durch die Bandbreite der optischen Modulatoren und der Detektionsvorrichtungen limitiert. Zudem skaliert die Datenrate der optoelektronischen Recheneinheit und/oder des Matrixprozessors gut mit der Matrixgröße.With regard to the conversion of the processed optical signal carried in the output waveguide into the electrical analog output signal, according to a further preferred development of the invention, it is provided that the matrix chip and particularly preferably the matrix multiplication unit for generating the analog electrical output signal on the basis of the processed optical signals has a plurality of detection devices for Transmission measurement includes. The detection devices are preferably designed as symmetrical photodetectors (balanced detectors), which are sensitive to differences in the radiant power (corresponds to the radiant flux, i.e. the differential amount of energy transported by the electromagnetic radiation per period of time) of the processed optical signal, but are preferably not sensitive to are interference signals generated by common-mode signals. In this context, it is further preferably provided that some output waveguides of the matrix multiplication unit are configured for the transmission of optical reference signals. More preferably, the optical reference signal is subtracted during the transmission measurement in order to generate the analog electrical output signal in this way. The matrix chip preferably has an output bus for outputting the analog electrical output signal. Because of the passive transmission measurement, the speed of the matrix multiplication is only limited by the bandwidth of the optical modulators and the detection devices. In addition, the data rate of the optoelectronic computing unit and/or the matrix processor scales well with the matrix size.
Bezüglich der Mehrzahl an Matrixmultiplikationseinheiten, die auf einem Matrixchip vorgesehen sind, ist gemäß einer bevorzugten Weiterbildung der Erfindung vorgesehen, dass jeweils ein Subset der Mehrzahl an Matrixmultiplikationseinheiten des Matrixchips derart miteinander verknüpft sind, dass analoge elektrische Ausgangssignale des Subsets addierbar sind. Hinsichtlich der Anzahl an Matrixmultiplikationseinheiten, die auf einem Matrixchip vorgesehen sind, ist bevorzugt vorgesehen, dass ein Matrixchip 4 × 4 Matrixmultiplikationseinheiten umfasst, die bevorzugt auf einem Siliziumchip kombiniert werden. Jede Matrixmultiplikationseinheit weist bevorzugt ihrerseits 25 × 25 Matrixmultiplikations-Einheitszellen auf. Durch elektrisches Verknüpfen des Subsets von jeweils 4 Matrixmultiplikationseinheiten der Größe 25 × 25 lassen sich somit bevorzugt Matrizen mit 100 × 100 Matrixeinträge auf einem Matrixchip repräsentieren.With regard to the plurality of matrix multiplication units provided on a matrix chip, a preferred development of the invention provides that a subset of the plurality of matrix multiplication units of the matrix chip is linked to one another in such a way that analog electrical output signals of the subset can be added. With regard to the number of matrix multiplication units provided on a matrix chip, it is preferably provided that a matrix chip comprises 4×4 matrix multiplication units, which are preferably combined on one silicon chip. Each matrix multiplication unit in turn preferably has 25×25 matrix multiplication unit cells. By electrically linking the subset of 4 matrix multiplication units of
Der Matrixchip wird bevorzugt auf SOI implementiert, wobei eine Matrixmultiplikations-Einheitszelle bevorzugt eine Größe im Bereich von 30 × 30 µm2 aufweist, die 25 × 25 Matrixmultiplikations-Einheitszellen umfassende Matrixmultiplikationseinheit bevorzugt eine Größe im Bereich 0,75 × 1,5 mm2 und der 4 × 4 Matrixmultiplikationseinheiten umfassende Matrixchip bevorzugt eine Größe von weniger als 3 × 3 cm2, besonders bevorzugt eine Größe im Bereich von 24 × 17 mm2 auf. Somit ist der Platzbedarf des Matrixchips und entsprechend auch der optoelektronischen Recheneinheit sehr gering.The matrix chip is preferably implemented on SOI, with a matrix multiplication unit cell preferably having a size in the range of 30 × 30 µm 2 , the matrix multiplication unit comprising 25 × 25 matrix multiplication unit cells preferably having a size in the range 0.75 × 1.5 mm 2 and the matrix chip comprising 4×4 matrix multiplication units preferably has a size of less than 3×3 cm 2 , particularly preferably a size in the range of 24×17 mm 2 . The space requirement of the matrix chip and correspondingly also of the optoelectronic processing unit is therefore very small.
Wie bereits erwähnt betrifft die Erfindung auch den Matrixprozessor umfassend die obige beschriebene optoelektronische Recheneinheit, den Eingangsdatenbus, und den Steuerungsdatenbus. Hinsichtlich des Matrixprozessors ist gemäß einer weiteren bevorzugten Weiterbildung der Erfindung vorgesehen, dass der Matrixprozessor einen konfigurierbaren Block zum Speichern und/oder Verarbeiten des analogen elektrischen Ausgangssignals der optoelektronischen Recheneinheit umfasst, wobei der konfigurierbare Block dazu ausgestaltet ist, das von der optoelektronischen Recheneinheit erzeugte analoge elektrische Ausgangssignal zu empfangen, und wobei der Steuerungsdatenbus dazu ausgestaltet ist, auf Basis von Steuerungssignalen, den konfigurierbaren Block zu steuern. Um typische Funktionen wie Pooling-, Speicher- und/oder Aktivierungsfunktionen eines neuronalen Netzes bereitzustellen, können je nach Art des zu implementierenden neuronalen Netztes Funktionen des konfigurierbaren Blocks hinzugeschaltet werden, um das analoge elektrische Ausgangssignals der optoelektronischen Recheneinheit weiterzuverarbeiten. Beispielsweise ermöglicht ein Speicher, das analoge elektrische Ausgangssignal vor der Weiterverarbeitung zum Beispiel in faltenden neuronalen Netzen zwischenzulagern.As already mentioned, the invention also relates to the matrix processor comprising the optoelectronic processing unit described above, the input data bus and the control data bus. With regard to the matrix processor, according to a further preferred development of the invention, it is provided that the matrix processor comprises a configurable block for storing and/or processing the analog electrical output signal of the optoelectronic processing unit, the configurable block being designed to process the analog electrical output signal generated by the optoelectronic processing unit Receiving an output signal, and wherein the control data bus is configured to control the configurable block on the basis of control signals. In order to provide typical functions such as pooling, storage and/or activation functions of a neural network, depending on the type of neural network to be implemented, functions of the configurable block can be added in order to further process the analog electrical output signal of the optoelectronic processing unit. For example, a memory enables the analog electrical output signal to be temporarily stored before further processing, for example in convolutional neural networks.
Gemäß einer weiteren bevorzugten Weiterbildung der Erfindung ist zudem bevorzugt vorgesehen, dass der Matrixprozessor einen Ausgangsdatenbus umfasst, wobei der Ausgangsdatenbus dazu ausgestaltet ist, das analoge elektrische Ausgangssignal der optoelektronischen Recheneinheit und/oder ein unter Berücksichtigung der Steuerungssignale vom konfigurierbaren Block erzeugtes analoges elektrisches Ausgangssignal mittels eines Analog-Digital-Umsetzers in ein digitales elektrisches Ausgangssignal umzuwandeln und das digitale elektrisches Ausgangssignal auszugeben. Um auch beim Ausgang des Matrixprozessors eine Kompatibilität mit digitaler elektrischer Datenverarbeitung sicherzustellen weist der Matrixprozessors bevorzugt den Analog-Digital-Umsetzer auf, der dazu ausgestaltet ist, das analoge elektrische Ausgangssignal in das digitale elektrisches Ausgangssignal umzuwandeln und über den Ausgangsdatenbus auszugeben.According to a further preferred development of the invention, it is also preferably provided that the matrix processor comprises an output data bus, the output data bus being designed to transmit the analog electrical output signal of the optoelectronic processing unit and/or an analog electrical output signal generated by the configurable block taking into account the control signals by means of a To convert analog-to-digital converter into a digital electrical output signal and output the digital electrical output signal. In order to also ensure compatibility with digital electrical data processing at the output of the matrix processor, the matrix processor preferably has the analog/digital converter, which is designed for this purpose is designed to convert the analog electrical output signal into the digital electrical output signal and to output it via the output data bus.
Wie bereits erwähnt ist bevorzugt vorgesehen, dass der Matrixprozessor nicht lediglich eine optoelektronische Recheneinheit umfasst, sondern eine Mehrzahl an optoelektronischen Recheneinheiten. In diesem Zusammenhang ist gemäß einer weiteren bevorzugten Weiterbildung der Erfindung vorgesehen, dass der Matrixprozessor eine Mehrzahl der optoelektronischen Recheneinheiten umfasst, und wobei ein Subset der Mehrzahl der optoelektronischen Recheneinheiten derart miteinander verknüpft sind, dass analoge elektrisches Ausgangssignale des Subsets der Mehrzahl der optoelektronischen Recheneinheiten addierbar sind. Wie bereits bei der Mehrzahl der Matrixmultiplikationseinheiten des Matrixchips vorgesehen, ist auch bei der Mehrzahl der optoelektronischen Recheneinheiten vorgesehen, dass mehrere optoelektronische Recheneinheiten miteinander elektrisch verknüpft sind. Derart lassen sich mit einem Matrixprozessor Matrizen mit beispielsweise bis zu 1000 × 1000 Matrizeneinträgen repräsentieren. Da wie schon erwähnt jeder Matrixprozessor eine Schicht eines bevorzugt vollverknüpften neuronalen Netz repräsentiert, lassen sich somit neuronale Netzte mit vielen Neuronen implementieren. Durch Zusammenschluss mehrerer Matrixprozessoren lassen sich entsprechend flexibel mehrschichtige neuronale Netzwerke implementieren.As already mentioned, it is preferably provided that the matrix processor not only includes an optoelectronic arithmetic unit, but rather a plurality of optoelectronic arithmetic units. In this context, according to a further preferred development of the invention, it is provided that the matrix processor comprises a plurality of optoelectronic arithmetic units, and wherein a subset of the plurality of optoelectronic arithmetic units are linked to one another in such a way that analog electrical output signals of the subset of the plurality of optoelectronic arithmetic units can be added . As already provided for the majority of the matrix multiplication units of the matrix chip, it is also provided for the majority of the optoelectronic arithmetic units that a plurality of optoelectronic arithmetic units are electrically linked to one another. In this way, matrices with, for example, up to 1000×1000 matrix entries can be represented with a matrix processor. Since, as already mentioned, each matrix processor represents a layer of a preferably fully connected neural network, it is thus possible to implement neural networks with many neurons. By combining several matrix processors, correspondingly flexible multi-layer neural networks can be implemented.
Weitere technische Effekte und Vorteile des Matrixprozessors erschließen sich für den Fachmann aus der Beschreibung der optoelektronischen Recheneinheit sowie aus der Beschreibung zu den Ausführungsbeispielen und den Figuren.Further technical effects and advantages of the matrix processor will become apparent to the person skilled in the art from the description of the optoelectronic processing unit and from the description of the exemplary embodiments and the figures.
Nachfolgend wird die Erfindung anhand eines bevorzugten Ausführungsbeispiels der Erfindung unter Bezugnahme auf die Zeichnungen weiter im Detail beschreiben.The invention is described in more detail below using a preferred exemplary embodiment of the invention with reference to the drawings.
In den Zeichnungen zeigt
-
1 eine schematische Darstellung eines durch mehrere Matrixprozessoren gebildetes mehrschichtiges neuronales Netz, gemäß einer bevorzugten Ausführungsform der Erfindung, -
2 eine schematische Darstellung einer Schicht des neuronalen Netzes aus1 , die durch den Matrixprozessor gebildet wird, -
3 eine schematische Darstellung einer optoelektronischen Recheneinheit, gemäß einer bevorzugten Ausführungsform der Erfindung, die Teil des Matrixprozessors aus2 ist, -
4 eine schematische Darstellung eines Treiberchips, gemäß einer bevorzugten Ausführungsform der Erfindung, -
5 eine schematische Darstellung eines Treiberchips, gemäß einer weiteren bevorzugten Ausführungsform der Erfindung, -
6 eine schematische Darstellung eines Matrixchips, gemäß einer bevorzugten Ausführungsform der Erfindung, der Teil der optoelektronischen Recheneinheit aus3 ist, und -
7 eine schematische Darstellung einer Matrixmultiplikationseinheit, gemäß einer bevorzugten Ausführungsform der Erfindung, die Teil des Matrixchips aus6 ist.
-
1 a schematic representation of a multi-layer neural network formed by several matrix processors, according to a preferred embodiment of the invention, -
2 a schematic representation of a layer of theneural network 1 , which is formed by the matrix processor, -
3 a schematic representation of an optoelectronic computing unit, according to a preferred embodiment of the invention, which is part of thematrix processor 2 is, -
4 a schematic representation of a driver chip, according to a preferred embodiment of the invention, -
5 a schematic representation of a driver chip according to a further preferred embodiment of the invention, -
6 a schematic representation of a matrix chip, according to a preferred embodiment of the invention, the part of the optoelectronic processing unit3 is and -
7 a schematic representation of a matrix multiplication unit, according to a preferred embodiment of the invention, which is part of the matrix chip6 is.
Die
Der Eingangsdatenbus 20 des Matrixprozessors 10 ist dazu ausgestaltet das digitale elektrische Signal 14 zu empfangen, das empfangene digitale elektrische Signal 14 über einen Digital-Analog-Umsetzer 24 in ein analoges elektrisches Signal 26 umzuwandeln und das analoge elektrische Signal 26 an einen Treiberchip 28 der optoelektronischen Recheneinheit 18 zu übertragen. Vorliegend verteilt der Eingangsdatenbus 20 das analoge elektrische Signal 26 an mehrere optoelektronische Recheneinheiten 18. Jede optoelektronische Recheneinheit 18 bearbeitet dabei analoge elektrische Signale 26, die jeweils 40 Eingangsvektoren für eine nachfolgend durchzuführende Matrix-Vektor-Multiplikationen repräsentieren, parallel. Wie in
Zudem weist der Matrixprozessor 10 einen konfigurierbaren Block 40 zum Speichern und/oder Verarbeiten des von der optoelektronischen Recheneinheit 18 erzeugten analogen elektrischen Ausgangssignals 38 auf, so dass die Ergebnisse der durchgeführten Matrix-Vektor-Multiplikationen zwischengespeichert und/oder nachbearbeitet werden können. Vorliegend stellt der konfigurierbare Block 40 eine Poolingfunktion 42, eine Aktivierungsfunktion 44, und eine Speicherfunktion 46 bereit.In addition, the
Der Steuerungsdatenbus 22 des Matrixprozessors 10 ist dazu ausgestaltet, auf Basis eines empfangenen digitalen elektrischen Steuersignals, das vorliegend Teil des in
Weiterhin ist in
Wie bereits erwähnt, stellt
Der Treiberchip 28 ist dazu ausgestaltet das analoge elektrische Eingangssignal 26 zu empfangen, auf Basis des analogen elektrischen Eingangssignals 26 und unter Berücksichtigung des ersten Steuersignals 30 des Steuerungsschaltkreises 34 amplitudenmodulierte optische Signale zu erzeugen und diese an Eingangswellenleiter 56 des Matrixchips 54 zu übertragen. Zwei Ausführungsformen des Treiberchips 28 sind im Detail in den
Der Matrixchip 54, der in
Wie in
Jede Matrixmultiplikations einheit 68 weist vorliegend 25 Eingangswellenleiter 56, sowie 50 Ausgangswellenleiter 70 und eine Mehrzahl von Matrixmultiplikations-Einheitszellen 72 zur Signalverarbeitung der optischen Signale von je einem der N Eingangswellenleiter 56 und zur Übertragung des jeweils verarbeiteten Signals in einen der M Ausgangswellenleiter 70 auf, wobei jede der Matrixmultiplikations-Einheitszellen 72 einem der Eingangswellenleiter 56 und einem der Ausgangswellenleiter 70 zugeordnet ist und eine eineindeutige Zuordnung zwischen diesen beiden zugeordneten Wellenleitern 56, 70 vornimmt. Weiterhin weist jede der Matrixmultiplikations-Einheitszellen 72 zur Signalverarbeitung und Signalübertragung einen zwischen den zugeordneten Eingangswellenleiter 56 und den zugeordneten Ausgangswellenleiter 70 zwischengeschalteten Direktionalkoppler 74 mit elektrooptischem Modulator 76 auf. In anderen Worten empfangen die Eingangswellenleiter 56 das amplitudenmodulierte optische Signal des Treiberchips 28 und verteilen das amplitudenmodulierte optische Signal mittels den Direktionalkopplern 74 gleichmäßig auf alle Ausgangswellenleiter 70 einer Matrixmultiplikationseinheit 68, so dass im Grundzustand jedes optische Signal am Ausgang eines Ausgangswellenleiters 70 in gleichem Maße zur Gesamtleistung beiträgt.In the present case, each
Jede Matrixmultiplikations-Einheitszellen 72 weist den elektrooptischen Modulator 76 auf, der dazu ausgestaltet ist, unter Berücksichtigung des weiteren Steuersignals 32 eine Transmission des Direktionalkopplers 74 zu regeln. Der elektrooptischen Modulator 76 basiert vorliegend auf einem nicht flüchtigen Phasenwechselmaterial. Die elektrooptischen Modulatoren 76 können mit Hilfe des weiteren Steuersignals 32 programmiert werden. Der Direktionalkoppler 74 selbst ist primär für eine Signalübertragung/Signalumleitung vom Eingangswellenleiter 56 in den Ausgangswellenleiter 70 zuständig. Sein elektrooptischer Modulator 76 ist für die die Multiplikation ausmachende Signalverarbeitung zuständig. Die Transmissionswerte der Direktionalkoppler 74 kodieren die Matrixelemente für die Multiplikation, also die Matrixmultiplikations-Einheitszellen 10. Bei voller Transmission wird maximale optische Leistung in die Spalte übertragen und der größte Wert für das Matrixelement abgebildet, bei minimaler Transmission wird das kleinste Matrixelement realisiert. Beliebige Werte dazwischen werden über die Regelung der Transmission eingestellt. Die Regelung der Transmission erfolgt durch die elektrooptischen Modulatoren 76.Each matrix
Am Ausgang der Ausgangswellenleiter 70 werden die verarbeiteten optischen Signale erneut mittels Wellenlängenmultiplexverfahren voneinander getrennt, so dass pro Zeitschritt im vorliegenden Beispiel 40 Matrix-Vektor-Multiplikationen berechnet werden. Zum Erzeugen des analogen elektrischen Ausgangssignals 38 auf Basis der verarbeiteten optischen Signale weist die Matrixmultiplikationseinheit 68 zudem eine Mehrzahl an Detektionsvorrichtungen 78 zur Transmissionsmessung auf. Vorliegend handelt es sich bei den Detektionsvorrichtungen 78 um symmetrische Photodetektoren. Zudem wird jeder zweite Ausgangswellenleiter 70 zur Übertragung eines optischen Referenzsignals verwendet, das bei der Transmissionsmessung mittels der Detektionsvorrichtungen 78 direkt vom optischen Signal abgezogen wird. Somit repräsentiert die 25 Eingangswellenleiter 56 und 50 Ausgangswellenleiter 70 umfassende Matrixmultiplikationseinheit 68 in
BezugszeichenlisteReference List
- 1010
- Matrixprozessormatrix processor
- 1212
- mehrschichtiges neuronales Netzmulti-layer neural network
- 1414
- digitales elektrisches Signaldigital electrical signal
- 1616
- digitales elektrisches Ausgangssignaldigital electrical output signal
- 1818
- optoelektronische Recheneinheitoptoelectronic computing unit
- 2020
- Eingangsdatenbusinput data bus
- 2222
- Steuerungsdatenbuscontrol data bus
- 2424
- Digital-Analog-UmsetzerDigital to analog converter
- 2626
- analoges elektrisches Eingangssignalanalog electrical input signal
- 2828
- Treiberchipdriver chip
- 3030
- erstes Steuersignalfirst control signal
- 3232
- weiteres Steuersignalanother control signal
- 3434
- elektrischer Steuerungsschaltkreiselectrical control circuit
- 3636
- Subset an optoelektronischen RecheneinheitenSubset of optoelectronic computing units
- 3838
- analoges elektrisches Ausgangssignalanalogue electrical output signal
- 4040
- konfigurierbarer Blockconfigurable block
- 4242
- Poolingfuktionpooling function
- 4444
- Aktivierungsfunktionactivation function
- 4646
- Speicherfunktionmemory function
- 4848
- Steuerungssignalecontrol signals
- 5050
- Ausgangsdatenbusoutput data bus
- 5252
- Analog-Digital-UmsetzerAnalog to digital converter
- 5454
- Matrixchipmatrix chip
- 5656
- Eingangswellenleiterinput waveguide
- 5858
- Mode-Locked LaserMode locked laser
- 6060
- optischer Modulatoroptical modulator
- 6262
- Standardlaserstandard laser
- 6464
- optischer Verstärkeroptical amplifier
- 6666
- Multiplexermultiplexer
- 6868
- Matrixmultiplikationseinheitmatrix multiplication unit
- 7070
- Ausgangswellenleiteroutput waveguide
- 7272
- Matrixmultiplikations-EinheitszelleMatrix multiplication unit cell
- 7474
- Direktionalkopplerdirectional coupler
- 7676
- elektrooptischer Modulatorelectro-optic modulator
- 7878
- Detektionsvorrichtungdetection device
Claims (11)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102021121918.3A DE102021121918A1 (en) | 2021-08-24 | 2021-08-24 | Optoelectronic computing unit and matrix processor |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102021121918.3A DE102021121918A1 (en) | 2021-08-24 | 2021-08-24 | Optoelectronic computing unit and matrix processor |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102021121918A1 true DE102021121918A1 (en) | 2023-03-02 |
Family
ID=85174843
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102021121918.3A Pending DE102021121918A1 (en) | 2021-08-24 | 2021-08-24 | Optoelectronic computing unit and matrix processor |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102021121918A1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116484931A (en) * | 2023-06-14 | 2023-07-25 | 之江实验室 | Photon matrix multiplication operation device and operation method for neural network |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200110992A1 (en) | 2018-06-05 | 2020-04-09 | Lightelligence, Inc. | Optoelectronic Computing Systems |
-
2021
- 2021-08-24 DE DE102021121918.3A patent/DE102021121918A1/en active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200110992A1 (en) | 2018-06-05 | 2020-04-09 | Lightelligence, Inc. | Optoelectronic Computing Systems |
Non-Patent Citations (2)
Title |
---|
FELDMANN, Johannes [et al.]: Parallel convolutional processing using an integrated photonic tensor core. Nature, 2021, 589. Jg., Nr. 7840, S. 52-58 |
FELDMANN, Johannes [et al.]: Supplementary information - Parallel convolutional processing using an integrated photonic tensor core. Nature, 2021, 589. Jg., Nr. 7840, S. 52-58 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116484931A (en) * | 2023-06-14 | 2023-07-25 | 之江实验室 | Photon matrix multiplication operation device and operation method for neural network |
CN116484931B (en) * | 2023-06-14 | 2023-09-01 | 之江实验室 | Photon matrix multiplication operation device and operation method for neural network |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE68923846T2 (en) | Photonic switch architecture with code and wavelength division multiplexing. | |
DE3922129C2 (en) | Neurocomputer | |
CN111882052B (en) | Photon convolution neural network system | |
EP0344739B1 (en) | Optoelectronic a/d converter using a plurality of parallel optical waveguide interferometers | |
CN112001487A (en) | Photon neural network | |
DE102014203925B4 (en) | Electro-optical modulator and method for manufacturing an electro-optical modulator | |
DE69314107T2 (en) | Optical device for information processing | |
DE112011101187B4 (en) | Inductively loaded transmission line for integrated photonic applications and method for implementing such | |
DE69318769T2 (en) | Automatic online monitoring and optimization of switching nodes of an optical network | |
DE102021108773A1 (en) | WAVELENGTH MULTIPLEX (WDM) BASED AND REUSABLE INTERFEROMETRIC OPTICAL TERNARY CONTENT ADDRESSABLE MEMORY (TCAM) | |
DE69233276T2 (en) | Optical filter device operated in a wavelength synchronization mode | |
DE112018000641T5 (en) | WAVE-GUIDE ARCHITECTURE FOR A PHOTONIC NEURONAL COMPONENT WITH OPTICAL MULTIPLEX SIGNALS ON INTERMEDIATE WAVE-GUIDE | |
DE102021121918A1 (en) | Optoelectronic computing unit and matrix processor | |
DE19754148A1 (en) | Optical wavelength filter and optical demultiplexer | |
DE3877527T2 (en) | OPTICAL ELECTION NETWORK. | |
DE112019000242T5 (en) | Segmented digital-optical phase shift converter | |
DE102021115855A1 (en) | OPTICAL COHERENT RECEIVER ON A CHIP | |
EP4214641A1 (en) | Optical matrix multiplication unit for an optoelectronic system for forming an artificial neural network | |
DE2220148C2 (en) | Optical control device with a thin film waveguide and an acoustic wave | |
Prucnal et al. | Multiwavelength neuromorphic photonics | |
DE102021108822A1 (en) | TIME MULTIPLEXING (TDM) BASED OPTICAL TERNARY CONTENT ADDRESSABLE MEMORY (TCAM) | |
DE3907851C2 (en) | Device for transmitting a coherent frequency-modulated optical signal | |
CN104155721B (en) | Optical Sampling system based on quantum dot mode-locked laser | |
DE60202558T2 (en) | Low-latency optical reconfigurable multi-user transmission network | |
CN113325917A (en) | Light computing device, system and computing method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R163 | Identified publications notified |