FR2984001A1 - Tactile interface system for cockpit of aircraft, has detection unit for detecting position of object located above display device and/or interface zone by analysis of shades produced by object and representative of device and/or zone - Google Patents

Tactile interface system for cockpit of aircraft, has detection unit for detecting position of object located above display device and/or interface zone by analysis of shades produced by object and representative of device and/or zone Download PDF

Info

Publication number
FR2984001A1
FR2984001A1 FR1103776A FR1103776A FR2984001A1 FR 2984001 A1 FR2984001 A1 FR 2984001A1 FR 1103776 A FR1103776 A FR 1103776A FR 1103776 A FR1103776 A FR 1103776A FR 2984001 A1 FR2984001 A1 FR 2984001A1
Authority
FR
France
Prior art keywords
cameras
interface
zone
cockpit
interface system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
FR1103776A
Other languages
French (fr)
Other versions
FR2984001B1 (en
Inventor
Arnaud Petitdemange
Laurent Mozer
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thales SA
Original Assignee
Thales SA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thales SA filed Critical Thales SA
Priority to FR1103776A priority Critical patent/FR2984001B1/en
Publication of FR2984001A1 publication Critical patent/FR2984001A1/en
Application granted granted Critical
Publication of FR2984001B1 publication Critical patent/FR2984001B1/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0425Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64DEQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
    • B64D43/00Arrangements or adaptations of instruments

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Position Input By Displaying (AREA)
  • Image Analysis (AREA)

Abstract

The system has a set of cameras sensitive in a spectral band of emission of lighting units. A field of the cameras covers entire surface of flat screen display devices i.e. rectangular display screens (LCD) and interface zone, where each display device and the interface zone are covered by the cameras. A stereoscopic image analysis device includes a detection unit to detect a position of an object located above the device and/or the zone by analysis of shades produced by the object in images from the cameras and representative of the display device and/or the interface zone.

Description

Système infrarouge d'interface tactile de cockpit d'aéronef Le domaine de l'invention est celui des interfaces homme-système utilisés dans les cockpits d'aéronef. Actuellement, les interactions entre les membres d'équipage et le système avionique encore appelé « Cockpit Display System » se font au 5 moyen : - De panneaux de contrôles comportant des boutons-poussoirs et/ou des rotacteurs ; - Des écrans tactiles transparents disposés sur les écrans de visualisation de la planche de bord ; 10 - Des dispositifs de contrôle de pointeurs informatiques comprenant des surfaces tactiles ou « touch-pad » ou des boules de commande ou « trackball » qui sont les équivalents des souris informatiques de bureau ; - Des dispositifs de reconnaissance et de commande vocale. 15 Ces interactions sont, par exemple, des entrées ou des modifications d'information, des demandes d'informations ou des validations. A titre d'exemple, un tel système est représenté de façon schématique en figure 1. Il comporte six grands écrans de visualisation LCD rectangulaires, des panneaux de commande CP et des boutons de 20 commande PB. Ces différents moyens de contrôle mettent en oeuvre de multiples technologies très différentes les unes des autres et dont la gestion globale est complexe à la fois pour les utilisateurs et pour le système de gestion du cockpit. 25 Le système selon l'invention ne présente pas ces inconvénients. Il substitue aux différents moyens d'interaction possibles dans un cockpit un seul et unique moyen optique global, facilitant ainsi la gestion du système, sans entraîner de modifications lourdes des systèmes d'interface du cockpit. 30 La solution technique consiste à créer une zone d'émission infrarouge derrière toute zone d'interaction. Des caméras disposées dans le cockpit permettent l'acquisition de ces zones et un appui est détecté dès qu'une ombre d'un désignateur est créée et reconnue sur une des zones. Le désignateur peut être le doigt ou la main de l'utilisateur ou encore un stylet tenu par l'utilisateur. D'autres solutions techniques permettant de créer des surfaces 5 tactiles à partir de technologies optiques existent. On citera, à titre d'exemple, les solutions basées sur la création de nappes lumineuses soit en propagation aérienne, soit en propagation guidée au-dessus de la surface de détection. La détermination de la position d'un désignateur est effectuée par la détection des ombres perçues par des détecteurs linéaires ou surfaciques 10 disposés en bordure de ladite surface de détection. Ces solutions ne sont pas applicables facilement à toutes les interfaces de commande existantes et d'autre part, la détection multiple de désignateurs pose souvent des problèmes de fausse détection difficiles à résoudre. 15 Plus précisément, l'invention a pour objet un système d'interface tactile de cockpit d'aéronef, ledit système d'interface comprenant des dispositifs de visualisation à écran plat comportant un rétro-éclairage et des zones d'interface comportant des interfaces homme-machine, caractérisé en ce que : 20 chaque rétro-éclairage des dispositifs à écran plat comporte des premiers moyens d'éclairage émettant dans le proche-infrarouge, chaque zone d'interface comporte des seconds moyens d'éclairage émettant dans le proche-infrarouge ; le système comporte : 25 un ensemble de caméras sensibles dans la bande spectrale d'émission des premiers moyens d'éclairage et des seconds moyens d'éclairage, le champ de l'ensemble des caméras couvrant la totalité de la surface des dispositifs de visualisation et des zones d'interface, chaque dispositif de visualisation et chaque zone d'interface étant 30 couvert par deux caméras ; un dispositif d'analyse stéréoscopique d'images comprenant des moyens de détecter la position d'un objet situé au-dessus d'un dispositif de visualisation et/ou d'une zone d'interface par l'analyse des ombres produites par cet objet dans les images issues desdites caméras et représentatives dudit dispositif de visualisation et/ou de ladite zone d'interface. Avantageusement, l'émission dans le proche-infrarouge des premiers moyens d'éclairage et des seconds moyens d'éclairage est 5 synchronisée avec les dispositifs d'acquisition des caméras. Avantageusement, le dispositif d'analyse stéréoscopique comporte des premiers moyens de traitement d'images permettant de réaliser la soustraction d'une image de référence ne comportant pas d'objet à une image comportant un objet. 10 Avantageusement, le dispositif d'analyse stéréoscopique comporte des seconds moyens de traitement d'images permettant de ne prendre en compte que des objets de forme prédéterminée. Avantageusement, les dispositifs de visualisation à écran plat sont des écrans à cristaux liquides et le rétro-éclairage comporte des diodes 15 électroluminescentes infrarouges. L'invention sera mieux comprise et d'autres avantages apparaîtront à la lecture de la description qui va suivre donnée à titre non limitatif et grâce aux figures annexées parmi lesquelles : 20 La figure 1 déjà commentée représente un cockpit d'aéronef selon l'art antérieur ; La figure 2 représente l'image dans le proche infrarouge d'un système d'interface tactile selon l'invention ; Les figures 3 et 4 représentent deux dispositions de deux caméras 25 du système d'interface selon l'invention par rapport à un dispositif de visualisation ; La figure 5 représente l'image dans le proche infrarouge d'un système d'interface tactile selon l'invention en présence de désignateurs, en l'occurrence les mains de l'équipage ; 30 La figure 6 représente la position des désignateurs précédents dans le cockpit après analyse par le dispositif d'analyse stéréoscopique. Le système d'interface tactile de cockpit d'aéronef selon l'invention comporte essentiellement trois parties : La première partie comprend toutes les interfaces permettant d'interagir avec le système avionique, c'est-à-dire l'ensemble des dispositifs de visualisation à écran plat et l'ensemble des zones d'interface comportant des interfaces homme-machine. Dans le système selon l'invention, tous ces dispositifs comportent des moyens d'éclairage émettant dans le proche-infrarouge. La seconde partie comprend un ensemble de caméras sensibles dans la bande spectrale d'émission des moyens d'éclairage. Le champ de l'ensemble des caméras couvre la totalité de la surface des dispositifs de visualisation et des zones d'interface, chaque dispositif de visualisation et chaque zone d'interface étant couvert par au moins deux caméras ; La troisième partie est un dispositif d'analyse stéréoscopique d'images comprenant des moyens de détecter la position d'un objet situé au-dessus d'un dispositif de visualisation et/ou d'une zone d'interface par l'analyse des ombres produites par cet objet dans les images issues desdites caméras et représentatives dudit dispositif de visualisation et/ou de ladite zone d'interface. Les écrans de visualisations sont pour la grande majorité d'entre eux constitués de matrices actives à cristaux liquides dites LCD éclairées en transmission par des éclairages à diodes électroluminescentes. Ces écrans possèdent une bonne transmission naturelle dans le proche infrarouge, quelle que soit l'image affichée. En disposant des sources infrarouges de la même manière que celles utilisées pour le rétro éclairage dans le spectre visible de l'écran, on génère une surface infrarouge uniforme indépendante de l'image affichée sur l'écran. Vue d'une caméra filtrée à la même longueur d'onde infrarouge que celle des sources d'éclairage, l'écran apparaît alors comme un quadrilatère uniformément lumineux. Les zones actives d'interface du cockpit sont également rétro- éclairée en infrarouge dans le même domaine spectral que celui des écrans précédents. Ce sont essentiellement des claviers, des boutons poussoirs ou rotatifs mais aussi toute zone des panneaux de commande déjà éclairée ou non du cockpit et comportant du texte ou des symboles graphiques. L'éclairage de ces différents claviers, boutons, marquages et dessins est obtenu en utilisant des matériaux et/ou des sérigraphies semi-transparents éclairés par des sources infrarouges. Toute zone du cockpit peut ainsi être rendue détectable et « activable » virtuellement. Le spectre d'émission des sources d'éclairage est situé dans l'infrarouge proche, usuellement entre 700 nm et 980 nm. Il est intéressant, lorsque le cockpit doit être utilisé avec des jumelles de vision de nuit, de choisir des sources d'éclairage émettant au-delà de la bande spectrale d'amplification des jumelles tout en restant dans la bande de sensibilité des caméras. Typiquement, la bande spectrale d'émission des sources se situe alors entre 930 nm et 950 nm. The field of the invention is that of the human-system interfaces used in aircraft cockpits. Currently, the interactions between the crew members and the avionics system also called "Cockpit Display System" are done by means of: - control panels comprising pushbuttons and / or rotators; - Transparent touch screens arranged on the display screens of the dashboard; 10 - computer pointers control devices comprising tactile surfaces or "touch-pad" or control balls or "trackball" which are the equivalent of desktop computer mice; - Recognition and voice control devices. These interactions are, for example, entries or changes of information, requests for information or validations. By way of example, such a system is shown schematically in FIG. 1. It comprises six large rectangular LCD display screens, CP control panels and PB control buttons. These different control means implement multiple technologies very different from each other and whose overall management is complex for both the users and the cockpit management system. The system according to the invention does not have these disadvantages. It substitutes for the different possible means of interaction in a cockpit a single global optical means, thus facilitating the management of the system, without leading to major modifications of the cockpit interface systems. The technical solution is to create an infrared emission zone behind any interaction zone. Cameras arranged in the cockpit allow the acquisition of these zones and a support is detected as soon as a shadow of a designator is created and recognized on one of the zones. The designator may be the finger or the hand of the user or a stylus held by the user. Other technical solutions for creating tactile surfaces from optical technologies exist. By way of example, mention may be made of solutions based on the creation of light sheets either in aerial propagation or in guided propagation over the detection surface. The determination of the position of a designator is performed by detecting the shadows perceived by linear or surface detectors 10 disposed at the edge of said detection surface. These solutions are not readily applicable to all existing control interfaces and, on the other hand, the multiple designator detection often raises false detection problems that are difficult to solve. More specifically, the subject of the invention is an aircraft cockpit tactile interface system, said interface system comprising flat-panel display devices having backlighting and interface areas including man-interface interfaces. characterized in that: each backlight of the flat panel devices comprises first illumination means emitting in the near-infrared, each interface zone comprises second illumination means emitting in the near-infrared ; the system comprises: a set of sensitive cameras in the emission spectral band of the first illumination means and the second illumination means, the field of the set of cameras covering the entire surface of the display devices and interface areas, each viewing device and each interface area being covered by two cameras; a stereoscopic image analysis device comprising means for detecting the position of an object situated above a display device and / or an interface zone by analyzing the shadows produced by this object in the images from said cameras and representative of said display device and / or said interface area. Advantageously, the emission in the near infrared of the first lighting means and the second lighting means is synchronized with the cameras acquisition devices. Advantageously, the stereoscopic analysis device comprises first image processing means making it possible to subtract a non-object reference image from an image comprising an object. Advantageously, the stereoscopic analysis device comprises second image processing means making it possible to take into account only objects of predetermined shape. Advantageously, the flat panel display devices are liquid crystal displays and the backlight comprises infrared light emitting diodes. The invention will be better understood and other advantages will become apparent on reading the following description, which is given in a nonlimiting manner and by virtue of the appended figures in which: FIG. 1 already commented shows an aircraft cockpit according to the art previous; FIG. 2 represents the near infrared image of a touch interface system according to the invention; Figures 3 and 4 show two arrangements of two cameras 25 of the interface system according to the invention with respect to a display device; FIG. 5 represents the near-infrared image of a tactile interface system according to the invention in the presence of designators, in this case the hands of the crew; Figure 6 shows the position of the preceding designators in the cockpit after analysis by the stereoscopic analysis device. The aircraft cockpit tactile interface system according to the invention essentially comprises three parts: The first part comprises all the interfaces making it possible to interact with the avionic system, that is to say the set of visualization devices flat screen and all the interface areas comprising man-machine interfaces. In the system according to the invention, all these devices comprise illumination means emitting in the near-infrared. The second part comprises a set of sensitive cameras in the spectral band of emission of the lighting means. The field of all the cameras covers the entire surface of the display devices and the interface areas, each display device and each interface area being covered by at least two cameras; The third part is a stereoscopic image analysis device comprising means for detecting the position of an object situated above a display device and / or an interface zone by analyzing the shadows produced by this object in the images from said cameras and representative of said display device and / or said interface area. The visualization screens are for the vast majority of them made up of active LCD liquid crystal matrices illuminated in transmission by light-emitting diode lighting. These screens have good natural transmission in the near infrared, regardless of the image displayed. By placing infrared sources in the same manner as those used for backlighting in the visible spectrum of the screen, a uniform infrared surface is generated independent of the image displayed on the screen. From a camera filtered at the same infrared wavelength as that of the light sources, the screen appears as a uniformly luminous quadrilateral. The active areas of the cockpit interface are also backlit in infrared in the same spectral range as the previous screens. These are essentially keyboards, pushbuttons or rotary but also any area of control panels already lit or not the cockpit and having text or graphic symbols. The lighting of these various keyboards, buttons, markings and drawings is obtained by using semi-transparent materials and / or screen printing illuminated by infrared sources. Any area of the cockpit can thus be made detectable and "activatable" virtually. The emission spectrum of the light sources is in the near infrared, usually between 700 nm and 980 nm. It is interesting, when the cockpit is to be used with night vision binoculars, to choose sources of light emitting beyond the spectral band of amplification of the binoculars while remaining in the sensitivity band of the cameras. Typically, the spectral emission band of the sources is then between 930 nm and 950 nm.

Ainsi, comme on le voit sur la figure 2, l'ensemble des caméras voient, sur fond noir, des zones uniformes et brillantes rectangulaires, ponctuelles ou de tout autre profil. Ces caméras sont des caméras grand champ disposées en nombre limité et de manière fixe dans le cockpit. Chaque caméra comporte un filtre optique à bande étroite dont le pic de transmission est centré autour de la longueur d'onde d'émission infrarouge. On évite ainsi que les caméras soient perturbées par les émissions naturelles d'autres éléments du cockpit comprenant un éclairage dans le visible ou illuminés par le soleil. Ces caméras peuvent être de technologie très usuelle à capteurs CCD ou CMOS et à bas coût tout en conservant une résolution suffisante. Il est essentiel que chaque zone interactive soit vue par au moins deux caméras sous deux angles différents de façon à repérer les objets dans l'espace et à déterminer leur distance à une zone d'interface. On place soit des caméras couvrant chacune des zones interactives avec un recouvrement deux à deux comme illustré en figure 3, soit des couples de caméras couvrant toutes les zones interactives comme illustré en figure 4. Le positionnement des caméras est également important. Pour optimiser leur nombre et leur position, on prend en compte les paramètres suivants : - L'absence de masquage des zones interactives par différentes parties du corps ou de la tête des pilotes ; - La protection d'une illumination solaire directe ; - Les possibilités de redondance de chaque zone : toute zone doit être couverte par au moins deux caméras ; - Les possibilités de minimiser les effets d'ombres non désirés ; - Les positions permettant de couvrir la totalité des zones d'interaction avec un minimum de caméras. Un positionnement possible des caméras dans le cockpit peut être : - Un premier couple de caméras installé dans le panneau plafond capturant toutes les zones par-dessus l'équipage ; - un second couple de caméras installé dans l'auvent supérieur qui couvre la planche de bord, auvent connu sous le nom de « glareshield ». Ce couple capture le piédestal de la planche de bord par le dessus. On évite ainsi les effets d'ombres des bras des pilotes sur les zones un peu basses du cockpit. On peut éventuellement doubler chaque couple de caméras si les champs des caméras ne sont pas suffisants ou si l'on souhaite assurer une redondance importante. Thus, as seen in Figure 2, all cameras see, on a black background, uniform and shiny rectangular, punctual or any other profile. These cameras are large field cameras arranged in limited numbers and fixedly in the cockpit. Each camera has a narrow band optical filter whose peak of transmission is centered around the infrared emission wavelength. This avoids the cameras being disturbed by the natural emissions of other elements of the cockpit including a lighting in the visible or illuminated by the sun. These cameras can be very conventional technology CCD or CMOS sensors and low cost while maintaining sufficient resolution. It is essential that each interactive area be viewed by at least two cameras from two different angles in order to locate the objects in the space and determine their distance to an interface area. There are either cameras covering each of the interactive areas with a two-by-two overlap as illustrated in FIG. 3, or pairs of cameras covering all the interactive zones as illustrated in FIG. 4. The positioning of the cameras is also important. To optimize their number and their position, we take into account the following parameters: - The absence of masking of the interactive zones by different parts of the body or the pilots' heads; - The protection of a direct solar illumination; - The redundancy possibilities of each zone: every zone must be covered by at least two cameras; - the possibilities of minimizing the effects of unwanted shadows; - The positions to cover all the interaction areas with a minimum of cameras. A possible positioning of the cameras in the cockpit can be: - A first couple of cameras installed in the ceiling panel capturing all the zones over the crew; - a second pair of cameras installed in the upper awning that covers the dashboard, awning known as "glareshield". This couple captures the pedestal of the dashboard from above. This avoids the effects of shadows of the arms of the drivers on the low areas of the cockpit. We can possibly double each pair of cameras if the fields of the cameras are not sufficient or if one wishes to ensure a significant redundancy.

Il est clair que l'installation des caméras dans l'environnement particulier d'un cockpit d'aéronef présente des avantages importants dans la mesure où l'environnement est parfaitement connu, fixe et maîtrisé. Ainsi, les caméras peuvent être positionnées de manière fixe face aux écrans ou aux panneaux de contrôle. It is clear that the installation of cameras in the particular environment of an aircraft cockpit has significant advantages insofar as the environment is perfectly known, fixed and controlled. Thus, the cameras can be fixedly positioned in front of screens or control panels.

Comme il a été dit, l'ensemble des caméras voient, sur fond noir, des zones uniformes et brillantes rectangulaires, ponctuelles ou de tout autre profil. Dès qu'un objet s'approche d'une zone éclairée en infrarouge, il apparaît en sombre sur le fond lumineux de la zone éclairée comme on le voit sur la figure 5, dans la mesure où lui-même n'est pas éclairé en infrarouge ou de façon très faible. Dans le cas de la figure 5, on distingue la main gauche HI et la main droite H2 du pilote et la main gauche H3 du copilote. Pour la compréhension de la figure, les mains représentées ont un détourage blanc. As has been said, all the cameras see, on a black background, uniform and shiny rectangular, punctual or any other profile. As soon as an object approaches an infrared illuminated area, it appears in dark on the bright background of the illuminated area as seen in Figure 5, insofar as it itself is not illuminated by infrared or very weakly. In the case of Figure 5, we distinguish the left hand HI and the right hand H2 of the pilot and the left hand H3 of the co-pilot. For the understanding of the figure, the hands represented have a white clipping.

La fonction du dispositif d'analyse stéréoscopique est de détecter la position d'un objet ou d'un désignateur situé au-dessus d'un dispositif de visualisation et/ou d'une zone d'interface par l'analyse des ombres produites par cet objet dans les images issues des caméras et représentatives du dispositif de visualisation et/ou de la zone d'interface. The function of the stereoscopic analysis device is to detect the position of an object or designator situated above a display device and / or an interface zone by analyzing the shadows produced by this object in the images from the cameras and representative of the display device and / or the interface area.

La détection des ombres ne suffit pas à donner l'information de profondeur permettant de vérifier qu'il y a contact avec la surface des zones interactives, le traitement effectue donc une mesure de parallaxe par la fusion de donnée et le traitement d'image d'au moins deux caméras. La présence d'une main, d'un doigt ou d'un stylo est évaluée en trois dimensions de façon que le contact avec la zone ciblée soit détecté. La détection se fait par corrélation. L'ombre générée sur les zones interactives est la même quand le désignateur créé une ombre au même endroit de l'écran sur les deux caméras. Shadow detection is not enough to provide the depth information to verify that there is contact with the surface of the interactive areas, so the processing performs a parallax measurement by data fusion and image processing. at least two cameras. The presence of a hand, a finger or a pen is evaluated in three dimensions so that contact with the targeted area is detected. The detection is done by correlation. The shadow generated on the interactive areas is the same when the designator creates a shadow in the same area of the screen on both cameras.

Pour éviter que des zones parasites ne soient perçues par les caméras, les émetteurs des zones interactives sont synchronisés avec les acquisitions des caméras et une soustraction de fond peut être effectuée. Par ailleurs un filtrage optique sélectif par l'ajout d'un filtre passe bande devant les capteurs des caméras permet de limiter la quantité de flux 15 lumineux parasite potentiellement perturbateur. Le système peut éventuellement sécuriser les détections d'appuis en évaluant la forme des désignateurs et en supprimant toute forme d'objet ne correspondant pas à un désignateur prédéterminé. On évite ainsi un appui non volontaire généré par un objet parasite comme une feuille de 20 papier, un liquide renversé ou un insecte. On peut également désactiver certaines zones d'acquisition lorsqu'elles sont perturbées par un objet. Ainsi, la tablette graphique ou le clavier disposé devant le pilote peuvent s'inactiver automatiquement lorsque le pilote y pose son plateau repas pour redevenir opérationnel ensuite.To prevent noise from being seen by the cameras, the transmitters in the interactive areas are synchronized with camera acquisitions and background subtraction can be performed. Moreover, selective optical filtering by adding a bandpass filter in front of the cameras' sensors makes it possible to limit the amount of potentially disturbing parasitic light flux. The system can optionally secure the detections of supports by evaluating the shape of the designators and removing any form of object not corresponding to a predetermined designator. This avoids unwanted support generated by a parasitic object such as a sheet of paper, a spilled liquid or an insect. Some acquisition zones can also be deactivated when they are disturbed by an object. Thus, the graphics tablet or the keyboard arranged in front of the driver can be automatically disabled when the driver puts his meal tray to become operational next.

25 Au final, le dispositif d'analyse stéréoscopique donne les coordonnées des désignateurs trouvés dans les différentes images. Ainsi, dans le cas de la figure 5, le dispositif d'analyse d'image identifie trois objets H1, H2 et H3 dont les positions sont respectivement PH1, PH2 et PH3 dans le repère du cockpit. Il est alors facile de déterminer au-dessus de quelle 30 interface se situent ces trois objets et d'en déduire le type d'action à effectuer. Pour certaines fonctions, il est bien entendu possible d'analyser le mouvement du désignateur dans le temps pour en déduire l'action à effectuer.Finally, the stereoscopic analysis device gives the coordinates of the designators found in the different images. Thus, in the case of FIG. 5, the image analysis device identifies three objects H1, H2 and H3 whose positions are respectively PH1, PH2 and PH3 in the cockpit mark. It is then easy to determine above which interface these three objects are located and to deduce the type of action to be performed. For certain functions, it is of course possible to analyze the movement of the designator in time to deduce the action to be performed.

35 Les avantages du système selon l'invention sont les suivants: - le système permet de rendre tactile un grande partie du cockpit dans sa globalité que ce soit les écrans, leur pourtour ou les panneaux de contrôle ; - Le système d'interaction est indépendant des écrans ou d'autres instruments, il peut être réparé et remplacé séparément, il peut aussi être optionnel ; - Le système permet l'utilisation en appuis multiples dit « multitouch » ; - Le système est compatible « tout désignateur » ; - Le système peut minimiser la distance d'activation à une valeur prédéterminée pour éviter les fausses manipulations ; - Le système permet la détection de formes complexes et donc d'isoler le doigt ou le stylo de la main pour une acquisition d'écriture ; - Le système permet de paramétrer l'activation d'une zone spécifique, un bouton peut être rendu opérant ou inopérant par logiciel ; - Le système permet de se passer des systèmes de reconnaissance de position du matériel disposé dans le cockpit par « pin prog ». Dans les solutions selon l'art antérieur, lorsqu'un matériel est déplacé dans le cockpit pour effectuer, par exemple, le remplacement d'un écran par un autre, il faut mettre en place un tel système de reconnaissance ; - Le système est adaptable facilement à toutes les tailles d'écran, y compris au cas extrême d'écran unique couvrant tout le cockpit. The advantages of the system according to the invention are the following: the system makes it possible to make touch a large part of the cockpit as a whole, be it the screens, their periphery or the control panels; - The interaction system is independent of screens or other instruments, it can be repaired and replaced separately, it can also be optional; - The system allows the use in multiple supports said "multitouch"; - The system is "all-design" compatible; - The system can minimize the activation distance to a predetermined value to avoid false manipulations; - The system allows the detection of complex shapes and thus to isolate the finger or the pen of the hand for a writing acquisition; - The system allows to set the activation of a specific zone, a button can be made operative or inoperative by software; - The system makes it possible to dispense with the position recognition systems of the equipment arranged in the cockpit by "pin prog". In solutions according to the prior art, when a material is moved in the cockpit to perform, for example, the replacement of one screen by another, it is necessary to set up such a recognition system; - The system is easily adaptable to all screen sizes, including the extreme single-screen case covering the entire cockpit.

Claims (5)

REVENDICATIONS1. Système d'interface tactile de cockpit d'aéronef, ledit système d'interface comprenant des dispositifs de visualisation à écran plat (LCD) comportant un rétro-éclairage et des zones d'interface comportant des interfaces homme-machine (PB, CP), caractérisé en ce que : chaque rétro-éclairage des dispositifs à écran plat comporte des premiers moyens d'éclairage émettant dans le proche-infrarouge, chaque zone d'interface comporte des seconds moyens d'éclairage émettant dans le proche-infrarouge ; le système comporte : un ensemble de caméras (C1, C2) sensibles dans la bande spectrale d'émission des premiers moyens d'éclairage et des seconds moyens d'éclairage, le champ de l'ensemble des caméras couvrant la totalité de la surface des dispositifs de visualisation et des zones d'interface, chaque dispositif de visualisation et chaque zone d'interface étant couvert par deux caméras ; un dispositif d'analyse stéréoscopique d'images comprenant des moyens de détecter la position d'un objet situé au-dessus d'un dispositif de visualisation et/ou d'une zone d'interface par l'analyse des ombres produites par cet objet dans les images issues desdites caméras et représentatives dudit dispositif de visualisation et/ou de ladite zone d'interface. REVENDICATIONS1. Aircraft Cockpit Touch Interface System, said interface system comprising flat panel display (LCD) displays having backlighting and interface areas including man-machine interfaces (PB, CP), characterized in that: each backlighting of the flat panel devices comprises first illumination means emitting in the near-infrared, each interface zone comprises second illumination means emitting in the near-infrared; the system comprises: a set of cameras (C1, C2) sensitive in the emission spectral band of the first lighting means and the second lighting means, the field of the set of cameras covering the entire surface of the viewing devices and interface areas, each viewing device and each interface area being covered by two cameras; a stereoscopic image analysis device comprising means for detecting the position of an object situated above a display device and / or an interface zone by analyzing the shadows produced by this object in the images from said cameras and representative of said display device and / or said interface area. 2. Système d'interface tactile de cockpit d'aéronef selon la revendication 1, caractérisé en ce que l'émission dans le proche-infrarouge 25 des premiers moyens d'éclairage et des seconds moyens d'éclairage est synchronisée avec les dispositifs d'acquisition des caméras. Aircraft cockpit tactile interface system according to claim 1, characterized in that the emission in the near-infrared of the first lighting means and the second lighting means is synchronized with the devices of FIG. acquisition of the cameras. 3. Système d'interface tactile de cockpit d'aéronef selon la revendication 1, caractérisé en ce que le dispositif d'analyse stéréoscopique 30 comporte des premiers moyens de traitement d'images permettant de réaliser la soustraction d'une image de référence ne comportant pas d'objet à une image comportant un objet. 3. Aircraft cockpit tactile interface system according to claim 1, characterized in that the stereoscopic analysis device 30 comprises first image processing means making it possible to subtract a reference image comprising no no object to an image with an object. 4. Système d'interface tactile de cockpit d'aéronef selon la revendication 1, caractérisé en ce que le dispositif d'analyse stéréoscopique comporte des seconds moyens de traitement d'images permettant de ne 5 prendre en compte que des objets de forme prédéterminée. 4. Aircraft cockpit tactile interface system according to claim 1, characterized in that the stereoscopic analysis device comprises second image processing means making it possible to take into account only objects of predetermined shape. 5. Système d'interface tactile de cockpit d'aéronef selon l'une des revendications précédentes, caractérisé en ce que les dispositifs de visualisation à écran plat sont des écrans à cristaux liquides et que le rétro-10 éclairage comporte des diodes électroluminescentes infrarouges. Aircraft cockpit tactile interface system according to one of the preceding claims, characterized in that the flat panel display devices are liquid crystal displays and the backlight comprises infrared light emitting diodes.
FR1103776A 2011-12-09 2011-12-09 INFRARED AIRCOCKE COCKPIT TOUCH INTERFACE SYSTEM Expired - Fee Related FR2984001B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
FR1103776A FR2984001B1 (en) 2011-12-09 2011-12-09 INFRARED AIRCOCKE COCKPIT TOUCH INTERFACE SYSTEM

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
FR1103776A FR2984001B1 (en) 2011-12-09 2011-12-09 INFRARED AIRCOCKE COCKPIT TOUCH INTERFACE SYSTEM

Publications (2)

Publication Number Publication Date
FR2984001A1 true FR2984001A1 (en) 2013-06-14
FR2984001B1 FR2984001B1 (en) 2013-11-22

Family

ID=46062321

Family Applications (1)

Application Number Title Priority Date Filing Date
FR1103776A Expired - Fee Related FR2984001B1 (en) 2011-12-09 2011-12-09 INFRARED AIRCOCKE COCKPIT TOUCH INTERFACE SYSTEM

Country Status (1)

Country Link
FR (1) FR2984001B1 (en)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6766036B1 (en) * 1999-07-08 2004-07-20 Timothy R. Pryor Camera based man machine interfaces
US20070171623A1 (en) * 2006-01-24 2007-07-26 Astronautics Corporation Of America Night vision compatible display backlight
US20070198141A1 (en) * 2006-02-21 2007-08-23 Cmc Electronics Inc. Cockpit display system
EP2009541A1 (en) * 2007-06-29 2008-12-31 Barco N.V. Night vision touchscreen
US20090103780A1 (en) * 2006-07-13 2009-04-23 Nishihara H Keith Hand-Gesture Recognition Method
EP2213501A2 (en) * 2003-03-31 2010-08-04 Timothy R. Pryor Reconfigurable vehicle instrument panels

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6766036B1 (en) * 1999-07-08 2004-07-20 Timothy R. Pryor Camera based man machine interfaces
EP2213501A2 (en) * 2003-03-31 2010-08-04 Timothy R. Pryor Reconfigurable vehicle instrument panels
US20070171623A1 (en) * 2006-01-24 2007-07-26 Astronautics Corporation Of America Night vision compatible display backlight
US20070198141A1 (en) * 2006-02-21 2007-08-23 Cmc Electronics Inc. Cockpit display system
US20090103780A1 (en) * 2006-07-13 2009-04-23 Nishihara H Keith Hand-Gesture Recognition Method
EP2009541A1 (en) * 2007-06-29 2008-12-31 Barco N.V. Night vision touchscreen

Also Published As

Publication number Publication date
FR2984001B1 (en) 2013-11-22

Similar Documents

Publication Publication Date Title
CN105678255B (en) A kind of optical fingerprint identification display screen and display device
US10303921B1 (en) On-LCD screen optical fingerprint sensing based on optical imaging with lens-pinhole module and other optical designs
CN107241467B (en) Electronic device
JP5693972B2 (en) Interactive surface computer with switchable diffuser
EP3079047B1 (en) Method for interacting with an apparatus implementing a capacitive control surface and apparatus implementing this method
EP2793070B1 (en) Hybrid viewing system for displaying information superimposed on the outside
US9348463B2 (en) Retroreflection based multitouch sensor, method and program
US20080284925A1 (en) Multi-touch sensing through frustrated total internal reflection
EP2530564A2 (en) Touch system with optical transmitters and receivers
EP2335141B1 (en) Interactive display device with infrared capture unit
US9928630B2 (en) Hiding sensitive content visible through a transparent display
KR20110096041A (en) Integrated touch-sensing display apparatus and method of operating the same
EP2981879B1 (en) Device for contactless interaction with an electronic and/or computer apparatus, and apparatus equipped with such a device
CN102037396A (en) Area sensor and display device provided with area sensor
US20150286306A1 (en) Display device including a display screen with integrated imaging and a method of using same
FR2756077A1 (en) Tactile screen and viewing system
FR2984001A1 (en) Tactile interface system for cockpit of aircraft, has detection unit for detecting position of object located above display device and/or interface zone by analysis of shades produced by object and representative of device and/or zone
WO2014083103A1 (en) Display device comprising a display screen with controlled transparency
US20130265245A1 (en) Touch device and touch projection system using the same
FR2999312A1 (en) VISUALIZATION SYSTEM COMPRISING A SEMI-TRANSPARENT VISUALIZATION DEVICE DISPLAYING CONTRAST CONTOUR SYMBOLS
EP3074842B1 (en) Drone control station
Suh et al. Mobile LCD device with transparent infrared image sensor panel for touch and hover sensing
FR2906378A1 (en) SECURE MAN-MACHINE INTERFACE FOR MANAGING GRAPHIC OBJECTS ON A DISPLAY SCREEN
BE1023596B1 (en) INTERACTIVE SYSTEM BASED ON MULTIMODAL GESTURES AND METHOD USING SINGLE DETECTION SYSTEM
FR2998686A1 (en) Communication system for reproducing and multiplying physical interactivity between two actors in meeting, has detection device for detection of position of set of objects so as to emit uniform signal by measuring physical size

Legal Events

Date Code Title Description
ST Notification of lapse

Effective date: 20160831