FR2681710A1 - Neural computer - Google Patents
Neural computer Download PDFInfo
- Publication number
- FR2681710A1 FR2681710A1 FR9111607A FR9111607A FR2681710A1 FR 2681710 A1 FR2681710 A1 FR 2681710A1 FR 9111607 A FR9111607 A FR 9111607A FR 9111607 A FR9111607 A FR 9111607A FR 2681710 A1 FR2681710 A1 FR 2681710A1
- Authority
- FR
- France
- Prior art keywords
- weighting
- neural
- photosensors
- optical
- transistors
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/067—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means
- G06N3/0675—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means using electro-optical, acousto-optical or opto-electronic means
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Neurology (AREA)
- Image Analysis (AREA)
Abstract
Description
CALCULATEUR NEURONAL
La présente invention se rapporte à un calculateur neuronal.NEURONAL CALCULATOR
The present invention relates to a neural calculator.
Les calculateurs à structure neuromimétique, plus communément connus sous la dénomination de calculateurs neuronaux, sont généralement réalisé en couches (ou plans). Computers with a neuromimetic structure, more commonly known under the name of neural computers, are generally made in layers (or planes).
Chaque "neurone" est relié à tous les neurones (ou à une partie seulement) des plans adjacents amont et aval, mais pas à ceux du même plan. Cette structure est à rapprocher de celle du cerveau, où la notion de plan n'existe cependant pas. Une telle structure est actuellement choisie pour des raisons de technologie, et surtout pour réduire les difficultés de programmation des calculateurs (difficultés de mise en oeuvre des algorithmes utilisés).Each "neuron" is connected to all the neurons (or to a part only) of the adjacent planes upstream and downstream, but not to those of the same plane. This structure is to be compared to that of the brain, where the concept of plan does not exist however. Such a structure is currently chosen for technological reasons, and above all to reduce the difficulties of programming the computers (difficulties in implementing the algorithms used).
Les réalisations actuelles de calculateurs neuronaux se heurtent à deux grandes difficultés:
1) difficultés technologiques dues à des problèmes de connectique. L'appellation de "machines connexionnistes" également utilisée pour désigner ces calculateurs met bien en évidence cette contrainte qui limite la puissance de calcul
2) difficultés mathématiques liées à la détermination d'algorithmes de convergence. Pour réduire ces difficultés, on peut mettre en oeuvre l'apprentissage par rétropropagation des corrections, qui procure dans certains cas de bons résultats, mais soulève des problèmes de connectique et augmente le temps de calcul.The current achievements of neural calculators face two major difficulties:
1) technological difficulties due to connection problems. The designation "connectionist machines" also used to designate these computers clearly highlights this constraint which limits the computing power.
2) mathematical difficulties related to the determination of convergence algorithms. To reduce these difficulties, it is possible to implement learning by backpropagation of the corrections, which in some cases gives good results, but raises connection problems and increases the computation time.
La présente invention a pour objet un calculateur neuromimétique comportant simultanément toutes les connexions nécessaires pour effectuer les calculs, avec une puissance de calcul supérieure à celle des calculateurs actuels, en un temps le plus court possible, tout en utilisant des éléments de technologies courantes. The present invention relates to a neuromimetic calculator comprising simultaneously all the connections necessary to perform the calculations, with a computing power greater than that of current computers, in the shortest possible time, while using elements of current technologies.
Le calculateur neuronal à plusieurs couches de l'invention est caractérisé par des liaisons inter-couches effectuées par diffusion ("technique broadcast"), des moyens analogiques de pondération de chacun des neurones de chaque couche, et des moyens numériques de gestion des couches d'entrée-sortie et de gestion des pondérations. Selon un mode de réalisation, les moyens de pondération sont principalement optiques. The multi-layer neural calculator of the invention is characterized by inter-layer links carried out by diffusion ("broadcast technique"), analog means for weighting each of the neurons of each layer, and digital means for managing the layers d input-output and weight management. According to one embodiment, the weighting means are mainly optical.
Selon un autre mode de réalisation, les moyens de pondération sont des moyens électroniques numériques. According to another embodiment, the weighting means are digital electronic means.
L'invention sera mieux comprise à la lecture de la description détaillée de plusieurs modes de réalisation, pris à titre d'exemples non limitatifs et illustrés par le dessin annexé, sur lequel: - la figure 1 est une vue partielle simplifiée en perspective d'un calculateur neuronal conforme à l'invention; - la figure 2 est une vue partielle et schématique d'un dispositif de pondération optique pouvant être utilisé dans le calculateur de la figure 1, - la figure 3 est une vue partielle et simplifiée d'un dispositif de pondération électronique pouvant être utilisé dans le calculateur de la figure 1 - la figure 4 est un schéma simplifié d'un circuit de pondération séquentielle pouvant être utilisé dans le calculateur de la figure 1 - la figure 5 est un schéma simplifié d'un circuit d'émission de lumière pouvant être utilisé dans le calculateur de la figure 1 - la figure 6 est un schéma simplifié d'un circuit de filtrage optique anti-"speckle" pouvant être utilisé dans le calculateur de la figure 1 - la figure 7 est un schéma simplifié d'un circuit de pondération optique pouvant être utilisé dans le calculateur de la figure i ; - la figure 8 est un schéma simplifié d'un circuit de pondération électronique pouvant être utilisé dans le calculateur de la figure 1. The invention will be better understood on reading the detailed description of several embodiments, taken by way of nonlimiting examples and illustrated by the appended drawing, in which: - Figure 1 is a simplified partial perspective view of a neural calculator according to the invention; - Figure 2 is a partial and schematic view of an optical weighting device that can be used in the computer of Figure 1, - Figure 3 is a partial and simplified view of an electronic weighting device that can be used in the computer of figure 1 - figure 4 is a simplified diagram of a sequential weighting circuit which can be used in the computer of figure 1 - figure 5 is a simplified diagram of a light-emitting circuit which can be used in the computer of figure 1 - figure 6 is a simplified diagram of an anti-speckle optical filtering circuit which can be used in the computer of figure 1 - figure 7 is a simplified diagram of a circuit of optical weighting which can be used in the computer of FIG. i; FIG. 8 is a simplified diagram of an electronic weighting circuit which can be used in the computer of FIG. 1.
L'invention est décrite ci-dessous en référence à une liaison inter-étages d'un calculateur neuronal, mais il est bien entendu qu'elle peut s'appliquer à toutes les liaisons inter-étages. Le fonctionnement en rétropropagation pour l'apprentissage s'effectue d'une façon implicite, par bouclage extérieur, les cellules étant unidirectionnelles. The invention is described below with reference to an inter-stage link of a neural computer, but it is understood that it can be applied to all inter-stage links. The backpropagation operation for learning takes place implicitly, by external looping, the cells being unidirectional.
On a représenté en figure 1, de façon partielle, deux plans (ou "couches") l, 2, parmi plusieurs plans constituant un calculateur neuronal, ces deux plans formant un étage de calcul 3. Le plan 1 est le plan d'entrée de l'étage 3 (et il est en même temps le plan de sortie de l'étage précédent, non représenté). Le plan 2 est le plan de sortie de l'étage 3 (et en même temps le plan d'entrée de l'étage suivant, non représenté non plus). Les pondérations nécessaires sont réalisées au niveau de chaque plan, de façon expliquée plus en détail ci-dessous. There is shown in FIG. 1, partially, two planes (or "layers") 1, 2, among several planes constituting a neural calculator, these two planes forming a computation stage 3. The plane 1 is the input plane of floor 3 (and it is at the same time the exit plan of the previous floor, not shown). The plane 2 is the exit plane of the stage 3 (and at the same time the entry plane of the following stage, not shown either). The necessary weightings are carried out at the level of each plan, as explained in more detail below.
Le plan d'entrée 1 est constitué d'une matrice d'éléments émetteurs de lumière 4 (diodes laser ou électroluminescentes) disposés par exemple selon une configuration cartésienne. Chacun des éléments 4 constitue un "pixel" du plan 1, et chacun d'eux est précédé d'un modulateur 5 qui module le signal incident relatif à ce "pixel" et provenant de l'étage précédent. The entry plane 1 consists of a matrix of light emitting elements 4 (laser or light-emitting diodes) arranged for example in a Cartesian configuration. Each of the elements 4 constitutes a "pixel" of the plane 1, and each of them is preceded by a modulator 5 which modulates the incident signal relating to this "pixel" and coming from the preceding stage.
Le plan 2 est constitué d'une matrice de cellules 6 de calcul (similaires aux "neurones" des calculateurs classiques, avec des synapses de pondération et des moyens de sommation). Plan 2 consists of a matrix of calculation cells 6 (similar to the "neurons" of conventional computers, with weighting synapses and summation means).
Chaque cellule 6 est elle-même constituée d'une matrice de photocapteurs 7 (photodiodes par exemple), dont le nombre est avantageusement égal au nombre d'éléments 4 du plan 1. Devant chaque cellule 6, on place un dispositif optique 8 qui fait l'image de la matrice d'entrée (éléments 4) sur cette cellule 6.Each cell 6 is itself made up of a matrix of photosensors 7 (photodiodes for example), the number of which is advantageously equal to the number of elements 4 of the plane 1. In front of each cell 6, an optical device 8 is placed which makes the image of the input matrix (elements 4) on this cell 6.
Chacun des photocapteurs 7 est suivi d'un circuit électronique de pondération 9, équivalent d'un synapse. Tous les circuits de pondération 9 relatifs à une cellule 6 sont reliés à un circuit 10 d'addition. On obtient ainsi à la sortie de chaque circuit 10 un signal S de la forme
avec n = nombre de photocapteurs de chaque cellule 6 et pi pondération de chaque photocapteur. Ce signal S est le même que celui qui serait produit par un neurone classique.Each of the photosensors 7 is followed by an electronic weighting circuit 9, equivalent to a synapse. All the weighting circuits 9 relating to a cell 6 are connected to an addition circuit 10. A signal S of the form is thus obtained at the output of each circuit 10
with n = number of photosensors in each cell 6 and pi weighting of each photosensor. This signal S is the same as that which would be produced by a conventional neuron.
Les différentes cellules 6 sont commandées de façon à sélectionner sur la matrice du plan 1 une forme classifiable ou configuration ("pattern" en anglais) spécifique à chacune de ces cellules. Le choix de cette configuration peut être fait une fois pour toutes ou peut être reprogrammé, de façon connue en soi, en agissant sur les circuits 9 de pondération. Ainsi, à un instant donné, il y a au maximum autant de formes classifiables que de cellules 6. The different cells 6 are controlled so as to select from the matrix of the plan 1 a classifiable form or configuration ("pattern" in English) specific to each of these cells. The choice of this configuration can be made once and for all or can be reprogrammed, in a manner known per se, by acting on the weighting circuits 9. Thus, at any given time, there are at most as many classifiable forms as there are cells 6.
On a représenté en figure 2 un dispositif de pondération optique, plus particulièrement approprié au cas où la fonction de calcul à réaliser est immuable, par exemple une analyse de spectre. Selon la figure 2, on place devant chaque cellule 6 un filtre optique 1i dont le motif et/ou la transparence sont choisis, différemment pour chaque filtre, en fonction du genre de calcul à effectuer. FIG. 2 shows an optical weighting device, more particularly suitable for the case where the calculation function to be performed is immutable, for example a spectrum analysis. According to FIG. 2, an optical filter 1i is placed in front of each cell 6, the pattern and / or transparency of which are chosen differently for each filter, depending on the kind of calculation to be performed.
Bien entendu, si l'on dispose de filtres optiques, dont on peut faire varier suffisamment rapidement les propriétés optiques, il est possible d'adapter les cellules du calculateur à différentes formes classifiables. Of course, if there are optical filters, the optical properties of which can be varied sufficiently quickly, it is possible to adapt the cells of the computer to different classifiable shapes.
Le mode de réalisation de la figure 3 est particulièrement intéressant lorsque la fonction des pondérations mises en oeuvre doit être modifiée rapidement, pour obtenir une adaptativité fidèle du calculateur, ou pour pouvoir le reconfigurer rapidement et selon un grand nombre de configurations. Selon cette figure 3, les photodétecteurs de chaque cellule 6 sont reliés à un circuit de pondération 12, chaque circuit 12 étant commun à tous les photodétecteurs d'une cellule 6 correspondante. Les différents circuits de pondération 12 sont reliés à un additionneur 10. Dans le détail, chaque circuit de pondération 12 comporte un amplificateur 13 de lecture de charge relié à un élément photodétecteur, suivi d'un
amplificateur 14 faible bruit pour transformer le signal de
sortie de l'amplificateur 13 et l'adapter en tension et en
impédance au pondérateur numérique 15 qui lui fait suite. Le
pondérateur 15 est suivi d'une mémoire numérique 16.The embodiment of FIG. 3 is particularly interesting when the function of the weights used must be modified quickly, in order to obtain faithful adaptivity of the computer, or in order to be able to reconfigure it quickly and according to a large number of configurations. According to this FIG. 3, the photodetectors of each cell 6 are connected to a weighting circuit 12, each circuit 12 being common to all the photodetectors of a corresponding cell 6. The different weighting circuits 12 are connected to an adder 10. In detail, each weighting circuit 12 includes a charge reading amplifier 13 connected to a photodetector element, followed by a
low noise amplifier 14 to transform signal from
output of amplifier 13 and adapt it in voltage and
impedance to the digital weighter 15 which follows it. The
weight 15 is followed by a digital memory 16.
On a représenté en figure 4 le schéma simplifié d'un
circuit de pondération séquentielle nécessitant dans le cas
présent mille fois moins de composants analogiques et pouvant
être avantageusement utilisé dans le calculateur de l'invention,
à la place des éléments 13 à 16 et permettant ainsi une intégration totale avec les technologies actuellement
disponibles.FIG. 4 shows the simplified diagram of a
sequential weighting circuit requiring in the case
has a thousand times fewer analog components and can
be advantageously used in the computer of the invention,
instead of elements 13 to 16 and thus allowing full integration with current technologies
available.
Chaque élément photodétecteur 171 est suivi d'un transistor 18i, par exemple du type à effet de champ. La grille
de chaque transistor 18i est reliée à une mémoire 191 de pondération (avec i valant de 1 à n, n étant le nombre
d'éléments photodétecteurs d'une cellule 6). Chaque mémoire individuelle 191 comporte la configuration de coefficients de k pondération (définis sur k+1 bits, de 20 à 2k) nécessaire pour effectuer le calcul de la fonction de pondération choisie.Each photodetector element 171 is followed by a transistor 18i, for example of the field effect type. Grid
of each transistor 18i is connected to a weighting memory 191 (with i being from 1 to n, n being the number
photodetector elements of a cell 6). Each individual memory 191 comprises the configuration of weighting coefficients (defined on k + 1 bits, from 20 to 2k) necessary to perform the calculation of the chosen weighting function.
Toutes les électrodes de sortie des transistors 18i sont reliées en commun à un circuit 20 comprenant un amplificateur de lecture de charge et un amplificateur à faible bruit d'adaptation de niveau et d'impédance, et effectuant la sommation des charges. La sortie du circuit 20 est reliée à l'entrée série d'un circuit 21 de multiplication séquentielle de signaux analogiques (reçus du circuit 20) par des coefficients de pondération numériques 20 à 2k et accumulant les résultats partiels (accumulation analogique).All the output electrodes of the transistors 18i are connected in common to a circuit 20 comprising a charge reading amplifier and a low noise amplifier for level and impedance matching, and summing the charges. The output of circuit 20 is connected to the serial input of a circuit 21 for sequential multiplication of analog signals (received from circuit 20) by digital weighting coefficients 20 to 2k and accumulating partial results (analog accumulation).
Un dispositif séquenceur (non représenté) interroge
(active) successivement les entrées d'adressage de même poids
(20, puis 21, ... jusqu'à 2k) des mémoires 191 et du registre 21. A chaque interrogation toutes les cellules 6 sont illuminées par les photoémetteurs du plan 1, et tous les éléments photorécepteurs dont la mémoire 191 contient le bit de poids correspondant transmettent leur charge à l'amplificateur 20 (puisque le transistor correspondant 181 est rendu passant par la mémoire 19i correspondante). Le circuit 21 assure la k multiplication finale par le coefficient 2k correspondant et l'accumulation des résultats partiels. On notera qu'après chaque illumination des cellules 6, tous leurs éléments sont remis à zéro afin d'être tous dans le même état pour l'illumination suivante, qu'ils aient été lus (transistor 18i rendu passant) ou non.A sequencing device (not shown) interrogates
(activates) successively the address inputs of the same weight
(20, then 21, ... up to 2k) of the memories 191 and of the register 21. At each interrogation all the cells 6 are illuminated by the photoemitters of the plane 1, and all the photoreceptor elements whose memory 191 contains the bit of corresponding weight transmit their charge to the amplifier 20 (since the corresponding transistor 181 is made passing through the corresponding memory 19i). Circuit 21 ensures the final k multiplication by the corresponding coefficient 2k and the accumulation of partial results. It will be noted that after each illumination of the cells 6, all of their elements are reset to zero so as to be all in the same state for the following illumination, whether they have been read (transistor 18i turned on) or not.
Du côté du plan 1 d'émission, la quantité de lumière émise par chaque source (éléments émetteurs 4) représente l'information à traiter. Etant donné que les photocapteurs (7) fournissent un courant proportionnel au nombre de photons reçus, il est indispensable de contrôler le nombre de photons émis par les sources pour pouvoir respecter cette proportionnalité. On the side of the emission plane 1, the quantity of light emitted by each source (emitting elements 4) represents the information to be processed. Since the photosensors (7) supply a current proportional to the number of photons received, it is essential to control the number of photons emitted by the sources in order to be able to respect this proportionality.
Il est d'autre part nécessaire de répartir uniformément, ou tout au moins équitablement (selon une loi de répartition connue), la lumière entre toutes les cellules du plan 2. I1 est possible de modifier les pondérations (au niveau des mémoires 19i) pour corriger une non-uniformité, telle que la loi en cosinus de répartition lumineuse sur les cellules, mais il est impensable de tolérer le phénomène dit de "speckle" (se traduisant généralement par des scintillations) se manifestant en particulier avec des émetteurs de lumière à laser, et modifiant fortement la répartition d'énergie lumineuse sur les différents photocapteurs, à une fréquence spatiale élevée et d'une façon peu stable car elle dépend de la cohérence de la source. On the other hand, it is necessary to distribute uniformly, or at least equitably (according to a known distribution law), the light between all of the cells of plane 2. It is possible to modify the weights (at the level of memories 19i) to to correct a non-uniformity, such as the cosine law of light distribution on the cells, but it is unthinkable to tolerate the phenomenon known as of "speckle" (generally resulting in scintillations) manifesting in particular with light emitters with laser, and strongly modifying the distribution of light energy on the various photosensors, at a high spatial frequency and in an unstable way because it depends on the coherence of the source.
On a représenté en figure 5 le détafl d'un circuit de régulation d'émission d'une source à diode électro luminescente. Les diodes utilisées ont, de préférence, un spectre d'émission suffisamment large pour que le nombre important de raies "lisse" l'illumination. Le signal d'émission
S est envoyé à une entrée d'un comparateur 22 dont la sortie est reliée au modulateur 23 d'une diode électroluminescente 4A. Une optique 24 d'élargissement de faisceau est placée devant la diode 4A. On dispose un miroir semi-transparent 25 entre la diode 4A et l'optique 24. Le miroir 25 renvoie une partie du faisceau émis par le diode 4A via une optique de focalisation 26 sur une diode photo-réceptive 27 (semblable aux diodes des cellules 6). La diode 27 est suivie d'un amplificateur d'intégration 28 dont la sortie est reliée à la deuxième entrée du comparateur 22. La diode 27, qui capte une partie de la lumière émise par la diode 4A, fournit un courant sensiblement proportionnel au nombre de photons émis par la diode 4A.There is shown in Figure 5 the detafl of a transmission control circuit of a light emitting diode source. The diodes used preferably have a sufficiently broad emission spectrum for the large number of lines to "smooth" the illumination. The transmission signal
S is sent to an input of a comparator 22, the output of which is connected to the modulator 23 of a light-emitting diode 4A. A beam widening optic 24 is placed in front of the diode 4A. There is a semi-transparent mirror 25 between the diode 4A and the optic 24. The mirror 25 returns part of the beam emitted by the diode 4A via a focusing optic 26 on a photo-receptive diode 27 (similar to the cell diodes 6). The diode 27 is followed by an integration amplifier 28, the output of which is connected to the second input of the comparator 22. The diode 27, which captures part of the light emitted by the diode 4A, supplies a current substantially proportional to the number of photons emitted by diode 4A.
Lorsque ce nombre de photons est égal (à un facteur de proportionnalité constant près) au signal S, le comparateur 22 commande au modulateur 23 d'arrêter l'émission de la diode 4A.When this number of photons is equal (to a constant proportionality factor) to the signal S, the comparator 22 commands the modulator 23 to stop the emission of the diode 4A.
Ainsi, on a l'assurance que le nombre de photons émis par la diode 4A est pratiquement proportionnel au signal S.Thus, we have the assurance that the number of photons emitted by the diode 4A is practically proportional to the signal S.
Cette solution à diode électroluminescente est plus économique que la solution à laser décrite ci-dessous en référence à la figure 6. Pour réduire la fréquence maximum de modulation (qui est fonction de la raideur du front d'arrêt de l'émission de la diode 4A), on peut commencer à diminuer la puissance émise lorsqu'on approche de I'instant d'arrêt de cette émission. This light-emitting diode solution is more economical than the laser solution described below with reference to FIG. 6. To reduce the maximum modulation frequency (which is a function of the stiffness of the stop edge of the diode emission 4A), it is possible to begin to decrease the power emitted when approaching the instant of stopping of this emission.
Le mode de réalisation schématiquement représenté en figure 6 fait appel à un emetteur laser 4B, suivi d'un filtre optique monomode 29 assurant la pureté de l'onde émise, et d'une optique 30 d'élargissement de faisceau. Comme dans le cas du mode de réalisation de la figure 5, le signal S est envoyé sur une entrée d'un comparateur 31 suivi du modulateur 32 de l'émetteur 4fil. Un miroir semi-transparent 33 est interposé entre le filtre 29 et l'optique 30. Ce miroir 33 dévie une partie du faisceau sortant du filtre 29 vers une diode réceptrice 34 suivie d'un amplificateur d'intégration 35 dont la sortie est reliée à la deuxième entrée du comparateur 31. Le fonctionnement de ce circuit est similaire à celui du circuit de la figure 5. The embodiment schematically represented in FIG. 6 uses a laser transmitter 4B, followed by a single-mode optical filter 29 ensuring the purity of the emitted wave, and an optic 30 for beam widening. As in the case of the embodiment of FIG. 5, the signal S is sent to an input of a comparator 31 followed by the modulator 32 of the transmitter 4fil. A semi-transparent mirror 33 is interposed between the filter 29 and the optics 30. This mirror 33 deflects part of the beam exiting the filter 29 towards a receiving diode 34 followed by an integration amplifier 35 whose output is connected to the second input of comparator 31. The operation of this circuit is similar to that of the circuit of FIG. 5.
I1 est particulièrement approprié au filtrage optique anti-"speckle". It is particularly suitable for anti-speckle optical filtering.
Bien entendu, les signaux d'entrée des plans (ou couches) du calculateur, de même que les coefficients de pondération, peuvent être positifs ou négatifs. I1 serait, en principe, possible d'introduire des biais pour en tenir compte. Of course, the input signals from the planes (or layers) of the computer, as well as the weighting coefficients, can be positive or negative. In principle, it would be possible to introduce biases to take this into account.
Cependant, une telle solution outre la perte de dynamique de 1 ou 2 bits (1 seul ou 2 biais), entraînerait des difficultés de réalisation, en particulier dans le cas de la pondération électronique : impossibilité de sommation des courants des photodiodes sans compensation de courant, non symétrie des transferts, risques d'instabilité ...However, such a solution in addition to the loss of dynamics of 1 or 2 bits (1 only or 2 bias), would lead to implementation difficulties, in particular in the case of electronic weighting: impossibility of summation of photodiodes currents without current compensation , non-symmetry of transfers, risks of instability ...
Selon la présente invention, la pondération peut être effectuée optiquement (figure 7) ou électroniquement (figure 8), pour tenir compte du signe. According to the present invention, the weighting can be carried out optically (FIG. 7) or electronically (FIG. 8), to take account of the sign.
Le mode de réalisation de la figure 7 représente, de façon simplifiée, deux sources de lumière 36, 37. Ces sources sont, en fait, doublées : chacun des modulateurs 38, 39 est relié à deux éléments émetteurs : 40, 41 pour la source 36 et 42, 43 pour la source 37. Selon que le signal est positif ou négatif, c'est l'un ou l'autre des éléments qui est modulé, l'autre restant au repos. The embodiment of FIG. 7 represents, in a simplified manner, two light sources 36, 37. These sources are, in fact, doubled: each of the modulators 38, 39 is connected to two emitting elements: 40, 41 for the source 36 and 42, 43 for the source 37. Depending on whether the signal is positive or negative, it is one or the other of the elements which is modulated, the other remaining at rest.
Du côté réception, chaque pixel est constitué de quatre photocapteurs. Ainsi, les pixels 44 et 45 comportent respectivement les photocapteurs 46 à 49 et 50 à 53. Des dispositifs optiques (non représentés sur la figure 7, et similaires aux dispositifs optiques 8 de la figure 1), font l'image, pour chaque pixel (44, 45), d'une des deux sources (40 ou 41) sur une paire de photocapteurs (46, 47 par exemple), et de l'autre source sur la deuxième paire de photocapteurs (48, 49). Les photocourants fournis par les quatre photocapteurs de chaque pixel sont collectés par deux électrodes de sommation S+ et S-. La différence des courants recueillis sur S+ et Sconstitue le signal de sortie du plan de photocapteurs considéré. Devant chaque photocapteur, on dispose un filtre optique de pondération (filtres 54 à 61 pour les photocapteurs 46 à 53 respectivement). Les pondérations optiques positives sont réalisées par atténuation des faisceaux lumineux reçus par les photocapteurs reliés à S+ (tels que 46, 49 et 50, 53) et extinction totale des faisceaux sur les photocapteurs reliés à
S- (tels que 47, 48 et 51, 52), et inversement pour les pondérations négatives.On the reception side, each pixel is made up of four photosensors. Thus, the pixels 44 and 45 respectively comprise the photosensors 46 to 49 and 50 to 53. Optical devices (not shown in FIG. 7, and similar to the optical devices 8 in FIG. 1), make the image, for each pixel (44, 45), from one of the two sources (40 or 41) on a pair of photosensors (46, 47 for example), and from the other source on the second pair of photosensors (48, 49). The photocurrents provided by the four photosensors of each pixel are collected by two summation electrodes S + and S-. The difference of the currents collected on S + and Sconstitutes the output signal of the considered photosensor plane. In front of each photosensor, there is an optical weighting filter (filters 54 to 61 for photosensors 46 to 53 respectively). Positive optical weightings are carried out by attenuation of the light beams received by the photosensors connected to S + (such as 46, 49 and 50, 53) and total extinction of the beams on the photosensors connected to
S- (such as 47, 48 and 51, 52), and vice versa for negative weights.
La figure 8 se rapporte au cas de la pondération électronique. Comme pour le mode de réalisation de la figure 7, chaque source de lumière (62, 63) est doublée (éléments émetteurs 64 à 67), et alimentée par un modulateur (68, 69). FIG. 8 relates to the case of electronic weighting. As for the embodiment of FIG. 7, each light source (62, 63) is doubled (emitting elements 64 to 67), and supplied by a modulator (68, 69).
Chaque pixel (70, 71) comporte quatre photocapteurs (72 à 75 et 76 à 79). Chacun des photocapteurs est relié à la source d'un transistor à effet de champ (respectivement 80 à 87) des dispositifs optiques semblables à ceux mentionnés en référence à la figure 7, sont disposés devant chaque cellule de photocapteurs. Pour chaque pixel, les drains de deux des transistors (80, 82 et 84, 86) sont reliés à une électrode de sommation S+, et les drains des deux autres transistors (81, 83 et 85, 87) sont reliés à une autre électrode de sommation S-.Each pixel (70, 71) has four photosensors (72 to 75 and 76 to 79). Each of the photosensors is connected to the source of a field effect transistor (respectively 80 to 87) optical devices similar to those mentioned with reference to FIG. 7, are arranged in front of each photosensor cell. For each pixel, the drains of two of the transistors (80, 82 and 84, 86) are connected to a summation electrode S +, and the drains of the other two transistors (81, 83 and 85, 87) are connected to another electrode of summation S-.
Pour chaque pixel, une mémoire de pondération (88, 89) est reliée via un commutateur de signe (90, 91) aux grilles des transistors relatifs à ce pixel de la façon suivante. Chaque commutateur comporte deux sorties pour la pondération positive et deux sorties pour la pondération négative. Les sorties de pondération d'un même signe sont reliées à la grille d'un transistor relié à Sc et à la grille d'un transistor relié à S-.For each pixel, a weighting memory (88, 89) is connected via a sign switch (90, 91) to the gates of the transistors relating to this pixel in the following manner. Each switch has two outputs for positive weighting and two outputs for negative weighting. The weighting outputs of the same sign are connected to the gate of a transistor connected to Sc and to the gate of a transistor connected to S-.
Ainsi, si l'on appelle i et i les courants de photocapteurs pondérés positivement et négativement, on recueille pour chaque pixel sur S+ : (+ i+) + (- i ) = 2i et sur S- : (+ i ) + (- i+) = -2i
Les opérations subséquentes sont les mêmes que pour les modes de réalisation décrits ci-dessus. Thus, if we call i and i the positively and negatively weighted photosensor currents, we collect for each pixel on S +: (+ i +) + (- i) = 2i and on S-: (+ i) + (- i +) = -2i
The subsequent operations are the same as for the embodiments described above.
Ainsi, le calculateur de structure neuronale de l'invention utilise au mieux les possibilités offertes par les moyens optiques pour assurer les liaisons entre tous les points d'entrée et tous les points de sortie d'une couche de calcul. Il fait appel aux techniques analogiques pour la pondération simultanée de tous les points de sortie, et aux techniques numériques pour gérer ces pondérations, ainsi que le fonctionnement général des entrées et des sorties. Thus, the neural structure calculator of the invention makes the best use of the possibilities offered by the optical means for ensuring the connections between all the entry points and all the exit points of a computation layer. It uses analog techniques for the simultaneous weighting of all the output points, and digital techniques to manage these weights, as well as the general operation of the inputs and outputs.
Claims (10)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
FR9111607A FR2681710A1 (en) | 1991-09-20 | 1991-09-20 | Neural computer |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
FR9111607A FR2681710A1 (en) | 1991-09-20 | 1991-09-20 | Neural computer |
Publications (1)
Publication Number | Publication Date |
---|---|
FR2681710A1 true FR2681710A1 (en) | 1993-03-26 |
Family
ID=9417136
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
FR9111607A Withdrawn FR2681710A1 (en) | 1991-09-20 | 1991-09-20 | Neural computer |
Country Status (1)
Country | Link |
---|---|
FR (1) | FR2681710A1 (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012037027A1 (en) * | 2010-09-13 | 2012-03-22 | Agc Flat Glass North America, Inc. | Monolithic image perception device and method |
WO2015028504A1 (en) * | 2013-09-02 | 2015-03-05 | Koninklijke Philips N.V. | Artificial neuron |
US10142034B2 (en) | 2013-09-02 | 2018-11-27 | Philips Lighting Holding B.V. | Optically transmissive electronic device having an optically transmissive light emitting device to transmit optical signal to a second optically transmissive light receiving device through a first optically transmissive light receiving device |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4931674A (en) * | 1988-11-16 | 1990-06-05 | United States Of America As Represented By The Secretary Of The Navy | Programmable analog voltage multiplier circuit means |
US4985618A (en) * | 1988-06-16 | 1991-01-15 | Nicoh Company, Ltd. | Parallel image processing system |
-
1991
- 1991-09-20 FR FR9111607A patent/FR2681710A1/en not_active Withdrawn
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4985618A (en) * | 1988-06-16 | 1991-01-15 | Nicoh Company, Ltd. | Parallel image processing system |
US4931674A (en) * | 1988-11-16 | 1990-06-05 | United States Of America As Represented By The Secretary Of The Navy | Programmable analog voltage multiplier circuit means |
Non-Patent Citations (1)
Title |
---|
OPTICS LETTERS. vol. 15, no. 23, 1 Décembre 1990, NEW YORK US pages 1362 - 1364; OHTA ET AL.: 'Optical neurochip based on a three-layered feed-forward model' * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012037027A1 (en) * | 2010-09-13 | 2012-03-22 | Agc Flat Glass North America, Inc. | Monolithic image perception device and method |
RU2585985C2 (en) * | 2010-09-13 | 2016-06-10 | Эй-Джи-Си Флет Гласс Норт Эмерике, Инк. | Integral image pickup apparatus and method |
WO2015028504A1 (en) * | 2013-09-02 | 2015-03-05 | Koninklijke Philips N.V. | Artificial neuron |
CN105531723A (en) * | 2013-09-02 | 2016-04-27 | 飞利浦照明控股有限公司 | Artificial neuron |
US10142034B2 (en) | 2013-09-02 | 2018-11-27 | Philips Lighting Holding B.V. | Optically transmissive electronic device having an optically transmissive light emitting device to transmit optical signal to a second optically transmissive light receiving device through a first optically transmissive light receiving device |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP0624847B1 (en) | Device and method to generate an approximating function | |
US4988891A (en) | Semiconductor neural network including photosensitive coupling elements | |
EP0546624B1 (en) | Data processing system operating with non-linear function divided into pieces | |
FR3072564B1 (en) | OPTICAL SENSOR | |
FR2613567A1 (en) | PHOTOSENSITIVE DETECTOR DEVICE FOR ELECTRONIC COLOR PICTURE SYSTEMS | |
WO2019217836A1 (en) | Systems and methods for activation functions for photonic neural networks | |
EP0387146A1 (en) | Analog programmable neural network | |
EP3386186B1 (en) | Image sensor | |
Dang et al. | BPLight-CNN: A photonics-based backpropagation accelerator for deep learning | |
US5255362A (en) | Photo stimulated and controlled imaging neural network | |
FR2681710A1 (en) | Neural computer | |
US20240013041A1 (en) | Single ended eam with electrical combining | |
Shi et al. | Image classification with a 3-layer soa-based photonic integrated neural network | |
Jacobson et al. | Image classification using delay-based optoelectronic reservoir computing | |
EP0792063B1 (en) | Photosensitive array | |
EP1535463B1 (en) | Method and sensor for determining the local contrast of an observed scene by detection of the luminance from said scene | |
Zhang et al. | Time-stretch optical neural network with time-division multiplexing | |
JPH0490015A (en) | Optical neurocomputer | |
EP0617359B1 (en) | Fuzzy logic controller | |
US20240185051A1 (en) | Methods and systems to optically realize neural networks | |
Tsirigotis et al. | Integrated Photonic Accelerator Based on Optical Spectrum Slicing for Convolutional Neural Networks | |
FR2723277A1 (en) | ANALOG-TO-DIGITAL CONVERTER AND ANALOG-TO-DIGITAL CONVERSION SYSTEM USING THE SAME | |
US11422027B1 (en) | Optical switchable system and device | |
FR3141543A1 (en) | INTEGRATED CIRCUIT CONFIGURED TO RUN AN ARTIFICIAL NEURAL NETWORK | |
Dang | P-ReTiNA: Photonic Tensor Core Based Real-Time AI |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
ST | Notification of lapse |