WO2018091663A1 - Procede de collecte de donnees operationnelles d'aeronef - Google Patents

Procede de collecte de donnees operationnelles d'aeronef Download PDF

Info

Publication number
WO2018091663A1
WO2018091663A1 PCT/EP2017/079620 EP2017079620W WO2018091663A1 WO 2018091663 A1 WO2018091663 A1 WO 2018091663A1 EP 2017079620 W EP2017079620 W EP 2017079620W WO 2018091663 A1 WO2018091663 A1 WO 2018091663A1
Authority
WO
WIPO (PCT)
Prior art keywords
aircraft
report
data
operational data
mobile terminal
Prior art date
Application number
PCT/EP2017/079620
Other languages
English (en)
Inventor
Emmanuel Couturier
Nicolas FANTON
Nicolas LIPARI
Fabien Lamazere
François THERMY
Emmanuel GASCHIGNARD
Original Assignee
Safran Electronics & Defense
Safran Helicopter Engines
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Safran Electronics & Defense, Safran Helicopter Engines filed Critical Safran Electronics & Defense
Priority to US16/462,169 priority Critical patent/US10504308B2/en
Priority to EP17804841.9A priority patent/EP3542305B1/fr
Priority to BR112019009850A priority patent/BR112019009850A8/pt
Priority to CA3043977A priority patent/CA3043977C/fr
Priority to CN201780071349.6A priority patent/CN109964232B/zh
Priority to RU2019116703A priority patent/RU2704745C1/ru
Publication of WO2018091663A1 publication Critical patent/WO2018091663A1/fr
Priority to ZA2019/03834A priority patent/ZA201903834B/en

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/412Layout analysis of documents structured with printed lines or input boxes, e.g. business forms or tables
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images
    • G06V20/635Overlay text, e.g. embedded captions in a TV program
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/142Image acquisition using hand-held instruments; Constructional details of the instruments
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00Registering or indicating the working of vehicles
    • G07C5/08Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
    • G07C5/0816Indicating performance data, e.g. occurrence of a malfunction
    • G07C5/0825Indicating performance data, e.g. occurrence of a malfunction using optical means
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00Registering or indicating the working of vehicles
    • G07C5/08Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
    • G07C5/0841Registering performance data
    • G07C5/085Registering performance data using electronic data carriers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/02Recognising information on displays, dials, clocks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition

Definitions

  • the present invention relates to the field of aircraft operational data collection.
  • aircraft identification data for example flight information, flight information, the aircraft's flight activity such as the time of use of aircraft equipment, or the results of measurements performed by the instrumentation of the aircraft (eg temperature, power, temperature threshold exceedances).
  • flight information for example flight information, flight information, the aircraft's flight activity such as the time of use of aircraft equipment, or the results of measurements performed by the instrumentation of the aircraft (eg temperature, power, temperature threshold exceedances).
  • the aircraft's flight activity such as the time of use of aircraft equipment, or the results of measurements performed by the instrumentation of the aircraft (eg temperature, power, temperature threshold exceedances).
  • VEMD vehicle and engine multifunction display
  • the data collected in these flight reports may vary from one responder to another.
  • An object of the present invention is to provide a data collection method for solving all or some of the aforementioned drawbacks.
  • a method for collecting operational data of an aircraft comprising at least one screen for displaying operational data of the aircraft, the method being characterized in that:
  • images are acquired from said display screen so that at least some of the acquired images represent operational data displayed on the screen.
  • 'display screen ;
  • OCR optical character recognition
  • an electronic report is generated containing at least some of said operational data of the aircraft.
  • the invention facilitates the task of data collection by the speaker.
  • OCR associated with said mobile terminal makes it possible to dispense with manual data entry during the generation of the flight report on board the aircraft. This avoids certain errors in the collection related to a manual entry.
  • the method according to the invention allows a saving of time.
  • the method according to the invention does not require adaptation. the electronics of the aircraft.
  • the method according to the invention is thus without impact in terms of certification of the aircraft since it does not involve modifying it.
  • the data / information collected by the method according to the invention can be of many types.
  • the operational data of the aircraft are, for example, flight hours, data relating to the engine cycle (s), or engine health check results, or configuration data of the aircraft. aircraft collected. These operational data are acquired via the acquisition of image (s) of the screen and via a character recognition applied to this / these image (s).
  • the mobile terminal also comprises a device for acquiring at least one identification information of the aircraft which is / are carried by the aircraft.
  • the mobile terminal is arranged:
  • identification information carried by the aircraft typically information stored on labels and / or optical cryptograms fixed on the aircraft or displayed on a screen (s) of the aircraft.
  • Operational data are usually variables that change during the use of the aircraft (eg flight time) while identifying information acquired using the device of acquisition of the terminal are generally frozen data which represent for example the identity of the aircraft or a technical configuration of the aircraft (for example the identifier of a piece of equipment of the aircraft, a particular combination of aircraft equipment or an equipment version).
  • the method enables the acquisition of operational data, aircraft identification information and / or information / data relating to the operator who collects the operational data. All these operational data, identification information and information / data relating to the speaker are preferably recorded in the same electronic report.
  • the time required for the generation of a complete electronic report is particularly reduced (ideally less than 5 minutes).
  • the acquisition of operational data delivered via said screen and at least one piece of identification information of the aircraft acquired using a device of the invention is carried out successively.
  • acquisition, as well as one or more configuration information of the aircraft for example configuration information of the engine (s) of the aircraft, configuration information of a functional unit of the aircraft (LRU )) and stores these operational data and identification information acquired successively in the same electronic report.
  • the acquisition of an image of a speaker using the mobile terminal is carried out and this image is memorized. involved in the electronic report.
  • This embodiment improves the traceability of data collection since it is known to recognize, by its image recorded in the report, the speaker who proceeded to the acquisition of the data included in the report. All these qualities promote better traceability and completeness of the data. By improving this traceability and validating the completeness, the invention makes it possible to improve the quality of the aircraft maintenance information and ultimately the safety of the aircraft.
  • the collection method according to the invention may comprise a step of checking the image obtained with the aid of said optical sensor. This verification step may consist in ensuring that this image obtained represents the whole of a given display screen. If this is the case, this image obtained is considered to be an acquired image to be taken into account by the optical character recognition module. If not, if a portion only of the screen is represented in the given acquired image or if the image is cloudy (hardly recognizable characters), then it can be asked to the speaker to generate a new image of this screen of display and that until an image of the whole of this screen is obtained. In this embodiment, only a resulting image having the whole of a given display screen is considered to be an acquired image of the screen to be processed by the optical recognition module.
  • the method ensures that the list of screens that have been optically recognized is complete.
  • FIG. 1 illustrates a cockpit of an aircraft comprising several screens for displaying operational data of the aircraft
  • FIG. 2 illustrates a first step of the method according to the invention in which the speaker uses a mobile terminal to start acquiring identification information of the aircraft and / or configuration information of the aircraft and images. screens of the aircraft via an optical sensor integrated in the mobile terminal;
  • FIG. 3 illustrates a second step of the method according to the invention in which the speaker realizes the acquisition of an image of a screen, this image being displayed on a display screen of the mobile terminal;
  • FIG. 4a illustrates a first alternative where the user collects at least one identification information of the aircraft (for example an identity information of the aircraft or an aircraft configuration information) by carrying out the optical acquisition of information written on a cryptogram (QRcode or QRcode or any other suitable optical marker) fixed in the cockpit, close to the display screens;
  • a cryptogram QRcode or QRcode or any other suitable optical marker
  • FIG. 4b illustrates a second alternative where the user collects at least one identification information of the aircraft (for example an aircraft identity information or an aircraft configuration information item) by performing an acquisition.
  • information stored on an electronic medium such as an electronic tag attached to the dashboard and provided with means of communication in the near field;
  • FIG. 5 illustrates the identification in the acquired image of character strings representative of the operational data displayed on the screen of the aircraft
  • FIG. 6 illustrates an example of one of the pages of a report generated by the reporting module integrated in the mobile terminal
  • FIG. 7 illustrates the step of signing the report in which, after having manually validated the data entered using the mobile terminal, a photograph of the speaker is acquired by the mobile terminal and a biometric recognition (e.g. Facial, fingerprints, etc.) of the worker is implemented to validate the signature of the report by the worker.
  • a biometric recognition e.g. Facial, fingerprints, etc.
  • the invention relates to a method of collecting operational data from an aircraft 1.
  • the cockpit of the aircraft is illustrated in FIGS. 1, 2, 3, 4a, 4b, 5 and 7.
  • This aircraft comprises at least one display screen 2 of operational data 3 of the aircraft.
  • the aircraft 1 shown is a helicopter with several display screens arranged on the dashboard.
  • Each of these screens 2 is controlled by selection means (not detailed), preferably manually operable by the operator OP, in order to select for each screen 2, the page PI, P2 of operational data to be displayed.
  • the operational data relating to the aircraft may comprise:
  • identification data of the aircraft for example, the type of aircraft (helicopter), the aircraft model (eg H225), its serial number or other identifier of the aircraft;
  • -B configuration data of the aircraft, for example the type / serial numbers of the engine or rotor equipping the aircraft, the type / serial number of the man-machine interface, identifiers of parts or systems of the aircraft aircraft (these configuration data can also be written on a cryptogram or electronic support carried by the aircraft and readable via the acquisition device integrated in the mobile terminal);
  • -C data relating to the use of the aircraft, for example:
  • flight number relating to one or more flights given as, the nature of the flight (VIP flight, test 8), the flight number (flight number), the time / date of flight departure (Departure time, flight start time), flight end time (flight end time), flight time (Operating time / Flight time), departure flight (Flight start place), flight arrival place;
  • information relating to the aerial activity during the flight such as: the time of use of aircraft equipment, the particular operating conditions detected by the instrumentation of the aircraft, for example overruns; temperature thresholds or overheating, overload, and any operational information useful for carrying out a curative, predictive, preventive or conditional maintenance operation (flight hours, data relating to engine cycles) , or engine health check results, time of use of a gas generator, an operating efficiency of one or more equipment, wear rate of a part, etc.).
  • VEMD vehicle and engine multifunction display
  • a screen may be dedicated to the display of operating error information of aircraft elements reported by the FADEC (Full Authority Digital Electronic Control).
  • the operational data 3 collected using the method according to the invention can include many other data.
  • the acquisition of images 5 of said display screen 2 is carried out so that at least some of the acquired images represent operational data 3 displayed on the display screen 2; by means of an OCR optical character recognition module associated with / integrated with the mobile terminal 4, identified in the acquired images 5 chains of characters C1, C2 each representative of one of said operational data 3 displayed on the display screen 2; and
  • an electronic report 6 is generated containing at least some of said operational data 3 of the aircraft 1.
  • the method according to the invention is essentially implemented when the aircraft is stationary, engines / turbines stopped. and immobile rotors.
  • Said mobile terminal 4 comprises a device for acquiring identification information ID of the aircraft carried by the aircraft.
  • This acquisition device (not shown in the figures is, in this example, integrated in the mobile terminal) to acquire an identification ID of the aircraft and / or configuration of the aircraft carried by the aircraft.
  • This acquisition device is for example an optical sensor of the terminal 4 adapted to capture an image of an identification mark or a visual cryptogram 7 specific to the aircraft (potentially specific to the aircraft in a given hardware configuration at time t, that is to say equipped with some subsets material, optional or not) and worn by the latter.
  • Such visual cryptogram 7 is schematically illustrated in Figure 4a.
  • This acquisition device may comprise a set of Near Field Communication (NFC) near field communication means such as Radio Frequency Identification (RFID) means, or the like, arranged to read the identification information ID and / or configuration of the aircraft registered on an electronic tag 8 carried by the aircraft.
  • NFC Near Field Communication
  • RFID Radio Frequency Identification
  • FIG. 4b Such an electronic tag 8 is illustrated schematically in FIG. 4b.
  • the report generating module is arranged so that the electronic report 6 that it generates associates this identification information ID of the aircraft with the operational data 3 of the aircraft contained in the report.
  • a dual source of identifying information ID can be used to verify that the identifier ID displayed on the screen 2 is the same as that obtained using the information medium (label or cryptogram).
  • this information medium is chosen from an identification mark or a visual cryptogram 7 or a tag 8 provided with means of communication in the near-field or by the display of an optical cryptogram on a screen.
  • the step of recovering data by an NFC protocol or an optical cryptogram guarantees the proximity of the mobile terminal to the vehicle when the acquisition of the ID information by the terminal 4. This limits the risk of external agent interaction during this acquisition.
  • the mobile terminal 4 may be for example a smartphone, or a touch pad or a computer or any other mobile computing device.
  • the terminal 4 furthermore comprises at least one processor and at least one memory which are connected to a display screen 9 and to the optical sensor.
  • the mobile terminal is thus adapted to the implementation of the method.
  • the display screen 9 of the terminal is arranged to:
  • the mobile terminal 4 also includes signature means to allow the speaker OP viewing the electronic report 6, possibly to modify it, then to sign it, if it suits him.
  • These signature means may be associated with a biometric authentication device of the speaker, the signature of the electronic report by the speaker being then authorized only if this OP member has been previously identified by the biometric authentication device.
  • the authentication device is a facial recognition device coupled to a camera integrated in the mobile terminal.
  • This camera is a front camera implanted on a first face of the mobile terminal which is opposite to a second face of the mobile terminal where the optical sensor is located allowing the acquisition of the screen images 2.
  • the identification of the OP worker and the ID / configuration of the aircraft is associated with a certain number of rights authorizing or not the speaker to generate certain portions of the report 6.
  • this dual identification can also open access rights to other CRM type services (Customer relationship management ), digital community or other.
  • the terminal 4 can adapt the procedure for generating the report according to the function of the worker.
  • the mobile terminal can be operatively connected to a database BD1 containing a plurality of predetermined electronic report templates.
  • Each given report model corresponds to a given type of aircraft / configuration itself identifiable via the identification information ID of this aircraft.
  • the report generating module is arranged so that, upon receiving the identification information ID of the aircraft whose data is to be collected, it obtains from the database BD1 a given electronic report template corresponding to this aircraft. in its given configuration.
  • the electronic report generated by the report generating module is generated from the report template obtained from the database BD1.
  • this report contains data fields 3 to be completed which are in the order in which they are displayed on the different pages PI, P2 displayed on the screens 2.
  • the tasks optical recognition and visualization of acquired data are facilitated.
  • the fields to fill in this template can be displayed or not according to the profile of the speaker.
  • the aircraft has means for selecting the page to be displayed on said display screen 2 from among a predetermined set of displayable pages PI, P2. As illustrated in FIG. 1, each displayed page PI, P2 contains an operational data set 3 of the aircraft.
  • the mobile terminal 4 can also be connected to a database BD2 of data collection scenarios 3. Each given collection scenario of this database BD2 corresponding to a given aircraft type itself identifiable via the identification information. ID of this aircraft.
  • the reporting module is arranged so that upon receipt of the identification information ID of the aircraft, it obtains from the database BD2 a data collection scenario corresponding to this aircraft.
  • the reporting module issues instructions to the OP worker for the worker to select the page to be displayed on said at least one display screen 2.
  • the terminal acquires images of each of the pages P1, P2 successively displayed on the screen 2. These images are subsequently used to generate the report 6.
  • the speaker follows a predetermined scenario specific to the aircraft 1 and its configuration.
  • This scenario guides it to display a predetermined sequence of pages PI, P2 on the screen 2 and to acquire the images to obtain a predetermined set of operational data.
  • the module of report generation can announce it to the speaker and possibly include it in the report to get his attention.
  • the data collection scenario corresponding to this aircraft is intended so that, when it is executed, it induces the issuance of instructions for acquiring images of the aircraft. each of these screens one after the other.
  • the instructions given to the speaker via the terminal can be visual via the screen 9 and / or sound via a loudspeaker of the terminal 4.
  • Each of these databases BD1, BD2 report templates or data collection scenarios can be located on the mobile terminal ⁇ in a memory of this terminal) or be accessible remotely from the mobile terminal via a network 10 connecting the base of data to the mobile terminal.
  • These bases BD1, BD2 can be combined into a single base connected to the report generation module.
  • OCR optical character recognition module can be arranged to detect in the acquired image, the current page displayed on said at least one display screen of the aircraft and to control the issuance of an instruction to the aircraft. the intervener's attention once an image of a page expected according to the scenario has been acquired. We thus have a contextual guidance of the speaker to guide him in the selection and acquisition of images.
  • the report generation module is such that the signed electronic report 6 that it generates contains an electronic signature specific to the OP operator.
  • This signed report can be in PDF format or any other format that can be transmitted without degradation of the report and biocable in writing to make it unfalsifiable.
  • the electronic signature includes identification information of the speaker such as his picture taken at the time of signing and / or a manual signature and / or voice and / or electronic password given by the speaker. This information can be inserted into the signed report to authenticate the link between the stakeholder and the finalized report.
  • the generation of the report may comprise, in addition to the signature of the report, a preliminary step of viewing the data contained in the report ready to sign and one or more validation steps of these data, the signature being performed after the validation steps.
  • the report is regularly recorded on the terminal and / or on a remote server at different stages of its development.
  • the signature of the report may include the use of a private key from which the signature is generated, this signature being preferentially conditioned by a prior biometric authentication of the speaker;
  • the private key can be stored in the terminal or in a key holder separate from the terminal and readable by the latter.
  • the terminal can be used by several stakeholders without having to store the private key of each stakeholder in the terminal. This facilitates the use and portability of the mobile terminal.
  • the report may optionally contain information about its development such as the start time of the report, the time of signing the finalized report.
  • the electronic report 6 generated according to the method of the invention combines, in one and the same report, validated by the speaker:
  • an identification information of the OP worker having generated the report 6 this information being associated with the signature specific to the speaker (the signature can be done by validation of the report via a validation key after verification of the identity the speaker for example via a biometric analysis of a facial image of the speaker acquired at the time of signing).
  • Figure 1 corresponds to a moment at the end of flight, where the helicopter is placed and where the pilot turned off the engines.
  • the VEMD then automatically displays the end of flight data on its screen 2. Examples of displayed pages PI, P2 are illustrated on the right of FIG. 1. These pages each present operational data 3 of the aircraft.
  • FIG. 2 illustrates the moment in which the OP operator, in this case the driver, starts the data acquisition application (also called the report generation module) on his smartphone or on his touch pad (commercial equipment standard) and starts the data collection function according to the method of the invention. It will now be able to recover flight data.
  • the data acquisition application also called the report generation module
  • the touch pad commercial equipment standard
  • FIG. 3 illustrates the moment when the application of the terminal displays, in real time, via a display screen 9 of the terminal 4 what the image acquisition sensor (the rear camera of the terminal) captures.
  • a touch button allows the speaker to order the acquisition of the images that interest him.
  • the driver uses the application to take a picture of the different screens 2 of the VEDS to acquire the displayed data 3.
  • the OCR can recognize in the acquired image of the screen 2 the identification information ID of the aircraft and / or the configuration information of the aircraft.
  • FIGS. 4a and 4b illustrate two alternative embodiments that correspond to the moment when the pilot uses the application to identify identification information ID of the aircraft and possibly some fixed operational data such as the hardware configuration of the aircraft.
  • the speaker gets this information via a photo of labels glued to this attention on the dashboard (QRCode for example), ie, as in Figure 4b, the speaker gets this information by non - contactless electronic tag (s) reading (eg NFC) passive (s).
  • s non - contactless electronic tag
  • passive passive
  • the terminal via its reporting module can search a database BD1 for a report template corresponding to that aircraft (i.e. a report template corresponding to the aircraft identifier and / or its configuration) and search in a database BD2, a data collection scenario specific to this aircraft.
  • the speaker in accordance with the collection scenario, operates the selection means to scroll through pages PI, P2 on the screens of the aircraft and acquires images therefrom.
  • Figure 5 illustrates the moment when, for each page thus acquired, in accordance with the predetermined report model, the application uses character recognition (OCR having benefited from learning the specific characters of the VEDS and the specific content of the pages "Report of VEMD Flight ”) to extract chains of C1, C2 characters representative of the data of the photos thus produced.
  • OCR character recognition
  • the application automatically populates the Electronic Flight Report.
  • the pilot must control what is recognized by the OCR on the display of the tablet 4, however, the source photo of the OCR is kept as evidence and inserted into the report.
  • Figure 6 illustrates an example of an electronic report page 6 thus generated.
  • the driver checks the pages of this report and then starts the report signing function.
  • Figure 7 illustrates when the application displays a camera-like interface (real-time display of what the front camera captures and a user interface touch buttons) with instructions specific to biometric authentication.
  • the report 6 is digitally signed and then stored and possibly transmitted via a network 10.
  • the photo that has been the subject of the facial authentication process is kept and displayed in an insert for proof on the digitally signed pdf flight report 6.
  • the data collection method 3 facilitates generation by the OP worker.
  • an electronic report 6 whose information is entered securely at the location of the aircraft 1, while the OP operator has the screens 2 of the aircraft in front of the eyes.
  • the generation of the electronic report in a validated state can be authorized only if this report has been issued in a predetermined lapse of time, for example according to the identification information of the aircraft. It is thus possible to allocate a predetermined time to the speaker to carry out the report, this time depending on the particularities of the aircraft.
  • the report is completed and signed within this lapse of time, it is known that the chances that the speaker falsified the report are particularly small. The report is then set to the validated state.
  • the report may not be allowed to go into a validated state because there is a chance that this report will contain scattered data / information. / not consistent with each other. This report status information can be used to attract attention when the length of time it takes to complete the electronic report seems unusually long.
  • the identification data of the worker can include his manual or biometric signature (for example recognition of fingerprint, palmar, facial, iris, vocal, ...) completed a manual validation (by pressing a validation contextual button) or vocal validation (by pronunciation of a report validation voice command).
  • This chain of data acquisition / information is thus particularly secure.

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Human Computer Interaction (AREA)
  • Character Discrimination (AREA)
  • Mobile Radio Communication Systems (AREA)
  • Image Input (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

Procédé de collecte de données opérationnelles d'un aéronef (1), cet aéronef comportant un écran d'affichage (2) de données opérationnelles (3). Le procédé étant caractérisé en ce que : - à l'aide d'un terminal mobile (4) doté d'au moins un capteur optique, on réalise l'acquisition d'images (5) dudit écran d'affichage (2) de manière à ce que certaines au moins des images acquises représentent des données opérationnelles affichées sur l'écran d'affichage; à l'aide d'un module de reconnaissance optique de caractères (OCR) associé audit terminal mobile (4), on identifie dans les images acquises (5) des chaînes de caractères (C1, C2 ) chacune représentative d'une desdites données opérationnelles (3) affichées sur l'écran d'affichage (2); - à l'aide d'un module de génération de rapport et desdites chaînes de caractères identifiées (C1, C2 ), on génère un rapport électronique (6) contenant certaines au moins desdites données opérationnelles (3) de l'aéronef (1).

Description

PROCEDE DE COLLECTE DE DONNEES OPERATIONNELLES
D'AERONEF
La présente invention concerne le domaine de la collecte de données opérationnelles d'aéronef.
ARRIERE PLAN DE L'INVENTION
Il est nécessaire de collecter des données opérationnelles des aéronefs pour permettre une traçabilité des aéronefs sous différents aspects.
Parmi les données opérationnelles collectées se trouvent, des données d'identification de l'aéronef, des données de configuration de l'aéronef, des données relatives à l'utilisation de l'aéronef, par exemple des informations de vols, des informations relatives à l'activité aérienne de l'aéronef comme le temps d'utilisation d'équipements de l'aéronef, ou des résultats de mesures réalisées par l'instrumentation de l'aéronef (par ex. dépassements de seuils de température, de puissance, température de l'air, vitesse air, vitesse de rotation, niveau de carburant, de couple...) .
Toutes ces données opérationnelles sont indiquées à l'arrêt de l'aéronef par le ou les écrans de l'avionique de l'aéronef, par exemple le ou les écrans de « l'afficheur de contrôle de l'aéronef et de ses moteurs » connu sous l'acronyme VEMD pour « véhicule and engine multifunction display ».
Ces données sont généralement inscrites manuellement par l'intervenant ce qui peut entraîner des erreurs de collecte qui induisent des problèmes de traçabilité.
Les données collectées dans ces rapports de vol peuvent varier d'un intervenant à un autre.
Ainsi 1' exhaustivité et la fiabilité des données collectée n'est en rien garantie. Le partage de données fiables entre les intervenants s'en trouve compromis.
OBJET DE L'INVENTION
Un objet de la présente invention est de fournir un procédé de collecte de données permettant de résoudre tout ou partie des inconvénients précités.
RESUME DE L'INVENTION
A cette fin, il est proposé selon l'invention, un procédé de collecte de données opérationnelles d'un aéronef, cet aéronef comportant au moins un écran d'affichage de données opérationnelles de l'aéronef, le procédé étant caractérisé en ce que :
- à l'aide d'un terminal mobile doté d'au moins un capteur optique, on réalise l'acquisition d'images dudit écran d'affichage de manière à ce que certaines au moins des images acquises représentent des données opérationnelles affichées sur l'écran d'affichage ;
- à l'aide d'un module de reconnaissance optique de caractères (OCR) associé audit terminal mobile, on identifie dans les images acquises des chaînes de caractères chacune représentative d'une desdites données opérationnelles affichées sur l'écran d'affichage ;
- à l'aide d'un module de génération de rapport et desdites chaînes de caractères identifiées, on génère un rapport électronique contenant certaines au moins desdites données opérationnelles de l'aéronef.
L'invention facilite la tâche de collecte de données par l'intervenant.
Le module de reconnaissance optique de caractères
OCR associé audit terminal mobile, permet de se passer de saisie manuelle de données lors de la génération du rapport de vol à bord de l'aéronef. On évite ainsi, certaines erreurs dans la collecte liées à une saisie manuelle. Le procédé selon l'invention permet un gain de temps .
Contrairement à un dispositif de collecte de données qui s' interfacerait avec l'électronique de l'aéronef pour collecter ces données via un flux électronique, le procédé selon l'invention ne nécessite pas d'adapter l'électronique de l'aéronef. Le procédé selon l'invention est ainsi sans impact en termes de certification de l'aéronef puisqu'il n'implique pas de le modifier.
En outre, 1' adaptabilité du procédé à différents types d'aéronefs est particulièrement avantageuse et économique.
Comme on le verra ci-après dans la description détaillée, les données / informations collectées grâce au procédé selon l'invention peuvent être de nombreux types.
Ainsi, les données opérationnelles de l'aéronef sont par exemple des heures de vol, des données relatives aux cycle (s) moteur (s), ou des résultats de contrôle santé de moteur (s), ou des données de configuration de l'aéronef collectées. Ces données opérationnelles sont acquises via l'acquisition d'image (s) de l'écran et via une reconnaissance de caractères appliquée à cette / ces image (s) .
Dans un mode de réalisation particulier, le terminal mobile comporte aussi un dispositif d'acquisition d'au moins une information d'identification de l'aéronef qui est/sont portée (s) par l'aéronef.
Dans ce mode, le terminal mobile est agencé :
- pour d'une part acquérir des données opérationnelles via l'acquisition d'image (s) de l'écran et l'application d'une reconnaissance de caractères sur cette/ces images ; et
pour d'autre part acquérir des informations d'identification portées par l'aéronef (typiquement des informations stockées sur des étiquettes et/ou cryptogrammes optiques fixées sur l'aéronef ou affichés sur un / des écran(s) de l'aéronef).
Les données opérationnelles sont généralement des variables qui évoluent au cours de l'utilisation de l'aéronef (par exemple le temps de vol) alors que les informations d'identification acquises à l'aide du dispositif d'acquisition du terminal sont généralement des données figées qui représentent par exemple l'identité de l'aéronef ou une configuration technique de l'aéronef (par exemple l'identifiant d'un équipement de l'aéronef, une combinaison particulière d'équipements de l'aéronef ou une version d'équipement).
Le procédé permet d'acquérir des données opérationnelles, des informations d'identification de l'aéronef et/ou des informations/données relatives à l'intervenant qui collecte les données opérationnelles. Toutes ces données opérationnelles, informations d'identification et informations / données relatives à l'intervenant sont préférentiellement consignées dans un même rapport électronique.
Grâce au procédé selon l'invention le temps nécessaire à la génération d'un rapport électronique complet est particulièrement réduit (idéalement inférieur à 5 minutes) ·
Selon un mode de réalisation préférentiel du procédé selon l'invention, on réalise successivement l'acquisition de données opérationnelles délivrées via ledit écran et d'au moins une information d'identification de l'aéronef acquise à l'aide d'un dispositif d'acquisition, ainsi qu'une ou plusieurs informations de configuration de l'aéronef (par exemple une information de configuration du ou des moteur (s) de l'aéronef, une information de configuration d'une unité fonctionnelle de l'aéronef (LRU) ) et on mémorise ces données opérationnelles et informations d' identification acquise successivement dans le même rapport électronique.
Le fait d'acquérir dans un unique processus non interruptible (Rapport de vol) d'une part une image de l'écran où sont affichées des données opérationnelles et d'autre part des informations d'identification de l'aéronef qui décrivent l'identité de l'aéronef et/ou la configuration de tout ou partie de l'aéronef est avantageux car cela permet de fiabiliser les données et informations collectées et enregistrées au niveau du rapport. On réduit ainsi le risque que le rapport électronique contienne des données et informations collectées à des instants distincts et provenant de sources éparses non cohérentes entre elles. La fiabilité du rapport est ainsi améliorée.
Préférentiellement et selon ce dernier mode de réalisation, successivement à ladite acquisition desdites données opérationnelles et de ladite information d'identification de l'aéronef, on réalise l'acquisition d'une image d'intervenant utilisant le terminal mobile et on mémorise cette image d'intervenant dans le rapport électronique.
Ce mode de réalisation améliore la traçabilité de collecte de données puisque l'on sait reconnaître, par son image enregistrée dans le rapport, l'intervenant qui a procédé à l'acquisition des données inscrites dans le rapport. Toutes ces qualités favorisent une meilleure traçabilité et 1' exhaustivité des données. En améliorant cette traçabilité et en validant 1' exhaustivité, l'invention permet d'améliorer la qualité de l'information de maintenance de l'aéronef et au final la sûreté de l'aéronef.
Pour favoriser cette exhaustivité de collecte de données, le procédé de collecte selon l'invention peut comprendre une étape de vérification de l'image obtenue à l'aide dudit capteur optique. Cette étape de vérification peut consister à s'assurer que cette image obtenue représente bien l'intégralité d'un écran d'affichage donné. Si tel est le cas cette image obtenue est considérée comme étant une image acquise à prendre en compte par le module de reconnaissance optique de caractères. Dans le cas contraire, si une portion seulement de l'écran est représentée dans l'image acquise donnée ou si l'image est trouble (caractères difficilement reconnaissables ) , alors il peut être demandé à l'intervenant de générer une nouvelle image de cet écran d'affichage et cela jusqu'à ce qu'une image de la totalité de cet écran soit obtenue. Dans ce mode de réalisation, seule une image obtenue présentant la totalité d'un écran d'affichage donné est considérée comme étant une image acquise de l'écran devant être traitée par le module de reconnaissance optique.
Par ailleurs, toujours pour favoriser l' exhaustivité de la collecte des données, le procédé s'assure que la liste des écrans ayant fait l'objet d'une reconnaissance optique est complète.
BREVE DESCRIPTION DES DESSINS
D'autres caractéristiques et avantages de l'invention ressortiront clairement de la description qui en est faite ci-après, à titre indicatif et nullement limitatif, en référence aux dessins annexés, dans lesquels:
- la figure 1 illustre un poste de pilotage d'un aéronef comportant plusieurs écrans d'affichage de données opérationnelles de l'aéronef ;
- la figure 2 illustre une première étape du procédé selon l'invention dans laquelle l'intervenant utilise un terminal mobile pour commencer à acquérir des informations d'identification de l'aéronef et/ou des informations de configuration de l'aéronef et des images d'écrans de l'aéronef via un capteur optique intégré au terminal mobile ;
la figure 3 illustre une seconde étape du procédé selon l'invention où l'intervenant réalise l'acquisition d'une image d'un écran, cette image étant affichée sur un écran de visualisation du terminal mobile ; - la figure 4a illustre une première alternative où l'utilisateur collecte au moins une information d'identification de l'aéronef (par exemple une information d'identité de l'aéronef ou une information de configuration de l'aéronef) en réalisant l'acquisition optique d'une information inscrite sur un cryptogramme (code image matriciel de type QRcode ou flashcode ou tout autres marqueurs optiques adaptés) fixé, dans le poste de pilotage, à proximité des écrans d'affichage ;
- la figure 4b illustre une seconde alternative où l'utilisateur collecte au moins une information d'identification de l'aéronef (par exemple une information d'identité de l'aéronef ou une information de configuration de l'aéronef) en réalisant une acquisition d'une information inscrite sur un support électronique, tel une étiquette électronique fixée sur le tableau de bord et dotée de moyens de communication en champ- proche ;
la figure 5 illustre l'identification dans 1' image acquise de chaînes de caractères représentatives des données opérationnelles affichées sur l'écran de l'aéronef ;
- la figure 6 illustre un exemple d'une des pages d' un rapport générée par le module de génération de rapport intégré au terminal mobile ;
- la figure 7 illustre l'étape de signature du rapport lors de laquelle, après avoir validé manuellement les données saisies à l'aide du terminal mobile, une photographie de l'intervenant est acquise par le terminal mobile et une reconnaissance biométrique (Par ex. faciale, empreintes digitales,...) de l'intervenant est mise en œuvre pour valider la signature du rapport par 1' intervenant .
DESCRIPTION DETAILLEE DE L'INVENTION Comme indiqué précédemment, l'invention porte sur un procédé de collecte de données opérationnelles d'un aéronef 1. Le poste de pilotage de l'aéronef est illustré sur les figures 1, 2, 3, 4a, 4b, 5 et 7.
Cet aéronef comporte au moins un écran d'affichage 2 de données opérationnelles 3 de l'aéronef. En l'occurrence, l'aéronef 1 représenté est un hélicoptère doté de plusieurs écrans d'affichage disposés sur le tableau de bord. Chacun de ces écrans 2 est commandé par des moyens de sélection (non détaillés) , préférentiellement actionnables manuellement par l'intervenant OP, afin de sélectionner pour chaque écran 2, la page PI, P2 de données opérationnelles à afficher.
Comme illustré sur les différentes figures, les données opérationnelles relatives à l'aéronef peuvent comporter :
-A) des données d'identification de l'aéronef, par exemple, le type d'aéronef (hélicoptère), le modèle d'aéronef (par ex. H225), son numéro de série ou autre identifiant de l'aéronef ;
-B) des données de configuration de l'aéronef, par exemple le type / numéros de série de moteur ou rotor équipant l'aéronef, le type / numéro de série d'interface homme machine, des identifiants de pièces ou systèmes de l'aéronef (ces données de configuration peuvent aussi être inscrites sur un support de type cryptogramme ou électronique porté par l'aéronef et lisible via le dispositif d'acquisition intégré au terminal mobile) ; -C) données relatives à l'utilisation de l'aéronef, par exemple :
- des informations relatives à un ou plusieurs vols donnés comme, la nature du vol (Vol VIP, d'essai...), le numéro de vol (flight number) l'heure / date de commencement de vol (Departure time, flight start time) , l'heure / date de fin du vol (flight end time), le temps de vol (Operating time / Flight time) , lieu de départ du vol (Flight start place), lieu d'arrivée du vol (Flight end place) ;
des informations relatives à l'activité aérienne (Aerial activity) pendant le vol comme : le temps d'utilisation d'équipements de l'aéronef, des conditions de fonctionnement particulières détectées par l'instrumentation de l'aéronef, par exemple des dépassements de seuils de température ou surchauffes, des dépassements de charge mécanique (over load) , et toute information de fonctionnement utile pour réaliser une opération de maintenance curative, prédictive, préventive ou conditionnelle (les heures de vol, des données relatives aux cycles moteur (s), ou des résultats de contrôle santé de moteur (s), temps d'usage d'un générateur de gaz, un rendement de fonctionnement constaté d'un ou plusieurs équipements, taux d'usure d' une pièce...) .
Toutes ces données opérationnelles sont affichées à l'arrêt de l'aéronef par le ou les écrans de l'avionique de l'aéronef tels des écrans de « l'afficheur de contrôle de l'aéronef et de ses moteurs » connu sous l'acronyme VEMD pour « véhicule and engine multifunction display ». On peut avoir un écran par catégorie d'information. Par exemple un écran peut être dédié à l'affichage d'informations d'écarts de fonctionnement d'éléments de l'aéronef remontées par le FADEC (Full Authority Digital Electronic Control) .
Bien entendu les données opérationnelles 3 collectées à l'aide du procédé selon l'invention peuvent comprendre bien d'autres données.
Le procédé de collecte de données opérationnelles selon l'invention est essentiellement caractérisé en ce que :
- à l'aide d'un terminal mobile 4 doté d'au moins un capteur optique (typiquement une caméra arrière du terminal mobile), on réalise l'acquisition d'images 5 dudit écran d'affichage 2 de manière à ce que certaines au moins des images acquises représentent des données opérationnelles 3 affichées sur l'écran d'affichage 2; - à l'aide d'un module de reconnaissance optique de caractères OCR associé / intégré au terminal mobile 4, on identifie dans les images acquises 5 des chaînes de caractères Cl, C2 chacune représentative d'une desdites données opérationnelles 3 affichées sur l'écran d'affichage 2 ; et
- à l'aide d'un module de génération de rapport et desdites chaînes de caractères identifiées Cl, C2, on génère un rapport électronique 6 contenant certaines au moins desdites données opérationnelles 3 de l'aéronef 1.
Comme les données opérationnelles 3 sont généralement affichées en fin de vol via des écrans de l'avionique tels des écrans du VEMD, le procédé selon l'invention est essentiellement mis en œuvre lorsque l'aéronef est à l'arrêt, moteurs /turbines stoppés et rotors immobiles.
Ledit terminal mobile 4 comporte un dispositif d'acquisition d'une information d'identification ID de l'aéronef portée par l'aéronef.
Ce dispositif d'acquisition (non représenté sur les figures est, dans cet exemple, intégré dans le terminal mobile) permet d'acquérir une identification ID de l'aéronef et/ou de configuration de l'aéronef portée par l'aéronef. Ce dispositif d'acquisition est par exemple un capteur optique du terminal 4 adapté à capter une image d'une marque d'identification ou d'un cryptogramme visuel 7 propre à l'aéronef (potentiellement propre à l'aéronef dans une configuration matérielle donnée à l'instant t, c'est-à-dire équipé de certains sous ensemble matériels, optionnels ou non) et porté par ce dernier. Un tel cryptogramme visuel 7 est illustré de manière schématique sur la figure 4a.
Ce dispositif d'acquisition peut comporter un ensemble de moyens de communication en champ-proche NFC (Near Field Communication) tels que des moyens RFID (Radio Frequency Identification) , ou autre, agencés pour lire l'information d'identification ID et /ou de configuration de l'aéronef inscrite sur une étiquette électronique 8 portée par l'aéronef. Une telle étiquette électronique 8 est illustrée de manière schématique sur la figure 4b.
Le module de génération de rapport est agencé pour que le rapport électronique 6 qu'il génère, associe cette information d'identification ID de l'aéronef avec les données opérationnelles 3 de l'aéronef contenues dans le rapport.
Pour améliorer la fiabilité de la collecte via le procédé selon l'invention, il est avantageux de collecter l'information d'identification en utilisant un support de cette information ID particulier et par exemple distinct de l'écran d'affichage 2.
Ceci permet de bien vérifier l'identification de l'aéronef via une source d'information autre que les seuls caractères affichés sur l'écran d'affichage. Une double source d'information d'identification ID peut être utilisée pour vérifier que l'identifiant ID affiché sur l'écran 2 est bien le même que celui obtenu à l'aide du support d'information (étiquette ou cryptogramme).
On note que ce support d'information est choisi parmi une marque d'identification ou un cryptogramme visuel 7 ou une étiquette 8 dotée de moyens de communication en champ-proche ou par l'affichage d'un cryptogramme optique sur un écran.
L'étape de récupération de données par un protocole NFC ou un cryptogramme optique garantit la proximité du terminal mobile vis-à-vis du véhicule lors de l'acquisition de l'information ID par le terminal 4. Ceci limite le risque d'interaction d'agent extérieur lors de cette acquisition.
Le terminal mobile 4 peut être par exemple un smartphone, ou une tablette tactile ou un ordinateur ou tout autre dispositif informatique mobile. Le terminal 4 comprend en outre au moins un processeur et au moins une mémoire qui sont reliés à un écran de visualisation 9 et au capteur optique. Le terminal mobile est ainsi adapté à la mise en œuvre du procédé.
L'écran de visualisation 9 du terminal est agencé pour :
- d'une part visualiser les images acquises 5 par le capteur optique pendant cette acquisition; et pour
- d'autre part afficher le rapport électronique 6 à l'attention d'un intervenant OP.
Le terminal mobile 4 comporte aussi des moyens de signature pour permettre à l'intervenant OP visualisant le rapport électronique 6, éventuellement de le modifier, puis de le signer, si il lui convient.
Ces moyens de signature peuvent être associés à un dispositif d' authentification biométrique de l'intervenant, la signature du rapport électronique par l'intervenant étant alors autorisée uniquement si cet intervenant OP a été préalablement identifié par le dispositif d' authentification biométrique.
Dans l'exemple illustré en particulier par la figure 6, le dispositif d' authentification est un dispositif de reconnaissance faciale couplé à une caméra intégrée au terminal mobile. Cette caméra est une caméra frontale implantée sur une première face du terminal mobile qui est opposée à une seconde face du terminal mobile où se trouve le capteur optique permettant l'acquisition des images d'écran 2.
L'identification de l'intervenant OP et l'ID / la configuration de l'aéronef est associée à un certain nombre de droits autorisant ou non 1' intervenant à générer certaines portions du rapport 6. Avantageusement cette double identification peut ouvrir également des droits d'accès à d'autres services type CRM (Customer relation management), communauté digitale ou autre.
Selon gue l'intervenant est un pilote, un mécanicien ou un intervenant de maintenance ou un contrôleur, le terminal 4 peut adapter la procédure de génération du rapport selon la fonction de l'intervenant.
Comme on le voit en particulier sur la figure 6, le terminal mobile peut être relié fonctionnellement à une base de données BD1 contenant plusieurs modèles de rapports électroniques prédéterminés. Chaque modèle donné de rapport correspond à un type d'aéronef / configuration donné lui-même identifiable via l'information d'identification ID de cet aéronef.
Le module de génération de rapport est agencé pour qu'à réception de l'information d'identification ID de l'aéronef dont on veut collecter des données, il obtient de la base de données BD1 un modèle donné de rapport électronique correspondant à cet aéronef dans sa configuration donnée.
Le rapport électronique généré 6 par le module de génération de rapport est généré à partir du modèle de rapport obtenu de la base de données BD1.
Comme le modèle de rapport est spécifiquement adapté à l'aéronef identifié, ce rapport contient des champs de données 3 à remplir qui se présentent dans l'ordre où ils sont affichés sur les différentes pages PI, P2 affichée sur les écrans 2. Les tâches de reconnaissance optique et de visualisation des données acquises en sont facilitées.
Les champs à remplir dans ce modèle peuvent être affichés ou non en fonction du profil de l'intervenant.
Comme indiqué précédemment, l'aéronef comporte des moyens de sélection de la page à afficher sur ledit écran d'affichage 2, parmi un ensemble prédéterminé de pages affichables PI, P2. Comme illustré sur la figure 1, chaque page donnée affichée PI, P2 contient un jeu de données opérationnelles 3 de l'aéronef.
Le terminal mobile 4 peut aussi être relié à une base de données BD2 de scénarios de collecte de données 3. Chaque scénario de collecte donné de cette base BD2 correspondant à un type d'aéronef donné lui-même identifiable via l'information d'identification ID de cet aéronef .
Le module de génération de rapports est agencé pour qu'à réception de l'information d'identification ID de l'aéronef, il obtienne de la base de données BD2 un scénario de collecte de données correspondant à cet aéronef .
Puis, en réponse à ce scénario de collecte, le module de génération de rapport émet des instructions à l'attention de l'intervenant OP pour que l'intervenant sélectionne la page à afficher sur ledit au moins un écran d'affichage 2.
Le terminal acquiert des images 5 de chacune des pages PI, P2 successivement affichées sur l'écran 2. Ces images sont par la suite utilisées pour générer le rapport 6.
Par cette fonctionnalité, l'intervenant suit un scénario prédéterminé propre à l'aéronef 1 et à sa configuration. Ce scénario le guide pour afficher une séquence prédéterminée de pages PI, P2 sur l'écran 2 et pour en acquérir les images permettant d'obtenir un jeu prédéterminé de données opérationnelles.
Le risque d'oubli de pages ou de données à collecter est ainsi limité. Si l'acquisition d'une page n'est pas réalisée suivant le scénario, le module de génération de rapport peut le signaler à l'intervenant et éventuellement l'inscrire dans le rapport pour attirer son attention.
Dans le cas où l'aéronef comporte plusieurs écrans d'affichage, le scénario de collecte de données correspondant à cet aéronef est prévu pour que, lorsqu'il est exécuté, il induise l'émission d'instructions d'acquisition d'images de chacun de ces écrans l'un après l'autre. Les instructions données à l'intervenant via le terminal peuvent être visuelles via l'écran 9 et/ou sonores via un haut-parleur du terminal 4.
Chacune de ces bases BD1, BD2 de modèles de rapports ou de scénarios de collecte de données peut être implantée sur le terminal mobile {dans une mémoire de ce terminal) ou être accessible à distance depuis le terminal mobile via un réseau 10 reliant la base de données au terminal mobile. Ces bases BD1, BD2 peuvent être combinées en une seule et même base reliée au module de génération de rapport.
Idéalement, le module de reconnaissance optique de caractères OCR peut être agencé pour détecter dans l'image acquise, la page courante affichée sur ledit au moins un écran d'affichage de l'aéronef et pour commander l'émission d'une instruction à l'attention de l'intervenant une fois qu'une image d'une page attendue suivant le scénario a bien été acquise. On a ainsi un guidage contextuel de l'intervenant pour le guider dans la sélection et l'acquisition des images.
Le module de génération de rapport est tel que le rapport électronique 6 signé qu' il génère contient une signature électronique propre à l'intervenant OP. Ce rapport signé peut être sous format PDF ou tout autre format transmissible sans dégradation du rapport et biocable en écriture pour le rendre infalsifiable .
Préférentiellement la signature électronique comporte une information d' identification de l'intervenant telle que sa photo prise au moment de la signature et/ou une signature manuelle et/ou vocale et/ou électronique via mot de passe donné par l'intervenant. Cette information peut être insérée dans le rapport signé pour authentifier le lien entre l'intervenant et le rapport finalisé.
La génération du rapport peut comprendre, en plus de la signature du rapport, une étape préalable de visualisation des données contenues dans le rapport prêt à signer et une ou plusieurs étapes de validation de ces données, la signature étant réalisée après les étapes de validation. On note que le rapport est régulièrement enregistré sur le terminal et/ou sur un serveur distant à différents stades de son élaboration.
La signature du rapport peut comprendre l'usage d'une clé privée à partir de laquelle est générée la signature, cette signature étant préférentiellement conditionnée par une authentification biométrique préalable de l'intervenant ; La clef privée peut être stockée dans le terminal ou dans un support de clef distinct du terminal et lisible par ce dernier. Ainsi le terminal peut être utilisé par plusieurs intervenants sans avoir à stocker la clef privée de chaque intervenant dans le terminal. Ceci facilite l'usage et la portabilité du terminal mobile.
Le rapport peut éventuellement contenir des informations relatives à son élaboration comme l'heure de commencement du rapport, l'heure de signature du rapport finalisé .
Le rapport électronique 6 généré selon le procédé de l'invention combine, en un même rapport, validé par 1' intervenant :
- des données opérationnelles 3 propres à un aéronef 1 (il s'agit des données obtenues par lecture de l'écran 2); - une information d'identification ID / de configuration de l'aéronef obtenue grâce au dispositif d'acquisition d'information ; et
- une information d'identification de l'intervenant OP ayant généré le rapport 6, cette information étant associée à la signature propre à l'intervenant (la signature peut se faire par validation du rapport via une touche de validation après vérification de l'identité de l'intervenant par exemple via une analyse biométrique d'une image du visage de l'intervenant acquise au moment de la signature) .
Nous allons maintenant expliquer la chronologie de mise en œuvre du procédé selon l'invention.
La figure 1 correspond à un moment en fin de vol, où l'hélicoptère est posé et où le pilote a éteint les moteurs. Le VEMD affiche alors automatiquement les données de fin du vol sur son écran 2. Des exemples de pages PI, P2 affichées sont illustrées à droite de la figure 1. Ces pages présentent chacune des données opérationnelles 3 de l'aéronef.
La figure 2 illustre le moment ou l'intervenant OP, en l'occurrence le pilote, lance l'application d'acquisition de données (aussi appelé module de génération de rapport) sur son smartphone ou bien sur sa tablette tactile (matériel du commerce standard) et démarre la fonction de collecte de données conforme au procédé de l'invention. Il va maintenant pouvoir récupérer des données 3 de vol.
La figure 3 illustre le moment ou l'application du terminal affiche, en temps réel, via un écran d'affichage 9 du terminal 4 ce que capte le capteur d'acquisition d'image (la caméra arrière du terminal). Un bouton tactile permet à l'intervenant de commander l'acquisition des images qui l'intéressent.
En l'occurrence, le pilote utilise l'application pour prendre en photo les différents écrans 2 du VEMD pour faire l'acquisition des données affichées 3.
Dans un mode de réalisation particulier, lors de cette première acquisition d'image de la figure 3, l'OCR peut reconnaître dans l'image acquise de l'écran 2 l'information d'identification ID de l'aéronef et/ou l'information de configuration de l'aéronef.
Les figures 4a et 4b illustrent deux modes de réalisation alternatifs qui correspondent au moment où le pilote utilise l'application pour identifier une information d'identification ID de l'aéronef et éventuellement certaines données opérationnelles figées comme la configuration matérielle de l'aéronef. Soit, comme sur la figure 4a, l'intervenant obtient cette information via une photo d'étiquettes collées à cette attention sur le Tableau de Bord (QRCode par exemple) , soit, comme sur la figure 4b, l'intervenant obtient cette information par lecture d' étiquette (s) électronique sans contact (par exemple NFC) passive (s).
Les deux technologies employées sont passives et n' impactent pas la navigabilité de l'aéronef. Elles sont aussi issues du grand public et ne nécessitent d'évolution matérielle spécifique de l'aéronef.
Une fois cette information d'identification ID et/ou de configuration d'aéronef acquise et éventuellement après vérification de cet identifiant de l'aéronef et/ou de cette configuration et/ou d'une correspondance entre cet identification ID et la configuration, le terminal via son module de génération de rapport peut rechercher dans une base de données BD1 un modèle de rapport correspondant à cet aéronef (c'est-à-dire un modèle de rapport correspondant à l'identifiant de l'aéronef et/ou à sa configuration) et rechercher dans une base de données BD2, un scénario de collecte de données propre à cet aéronef. L'intervenant, conformément au scénario de collecte actionne les moyens de sélection pour faire défiler des pages PI, P2 sur les écrans de l'aéronef et il en acquiert des images.
La figure 5 illustre le moment où, pour chaque page ainsi acquise, conformément au modèle de rapport prédéterminé, l'application utilise la reconnaissance de caractères (OCR ayant bénéficié d'un apprentissage des caractères spécifiques du VEMD et du contenu spécifique des pages « Rapport de Vol du VEMD ») pour extraire des chaînes de caractères Cl, C2 représentatives des données des photos ainsi réalisées. L'application renseigne automatiquement le Rapport de Vol Electronique. Le pilote doit contrôler ce qui est reconnu par l'OCR sur l'affichage de la tablette 4, néanmoins, la photo source de l'OCR est conservée comme preuve et insérée dans le rapport .
La figure 6 illustre un exemple de page de rapport électronique 6 ainsi générée. Le pilote vérifie les pages de ce rapport puis démarre la fonction de signature du rapport .
La figure 7 illustre le moment où l'application affiche une interface de type appareil photo (affichage en temps réel de ce que capte la caméra avant et un boutons tactiles d'interface utilisateur) avec des instructions propres à 1' authentification biométrique.
Une fois l' authentification confirmée, le rapport 6 est signé numériquement puis stocké et éventuellement transmis via un réseau 10.
La photo ayant fait l'objet du traitement d' authentification faciale est conservée et affichée en encart pour preuve sur le rapport de vol pdf numériquement signé 6.
En résumé, le procédé de collecte de données 3 selon l'invention facilite la génération par l'intervenant OP d'un rapport électronique 6 dont les informations sont entrées de manière sécurisée sur le lieu même de l'aéronef 1, alors que l'intervenant OP a les écrans 2 de l'aéronef sous les yeux.
Selon un mode particulier, la génération du rapport électronique dans un état validé peut être autorisée uniquement si ce rapport a été émis dans un lapse de temps prédéterminé, par exemple en fonction de l'information d'identification de l'aéronef. On peut ainsi allouer un temps prédéterminé à 1' intervenant pour réaliser le rapport, ce temps dépendant des particularités de l'aéronef.
Si le rapport est terminé et signé dans ce lapse de temps, on sait que les chances que l'intervenant ait falsifié le rapport sont particulièrement réduites. Le rapport est alors mis à l'état validé.
Dans le cas contraire, si le temps de génération du rapport s'avère supérieur au lapse de temps prédéterminé alors on peut ne pas autoriser le passage du rapport dans un état validé car il y a des chances que ce rapport contienne des données / informations éparses / non cohérentes entre elles. Cette information d'état du rapport permet d'attirer l'attention lorsque la durée d'élaboration du rapport électronique semble anormalement longue.
On a ainsi une acquisition automatique des données 3 / informations ID par le terminal mobile 4, une vérification humaine réalisée par l'intervenant sur le lieu de l'aéronef 1 et enfin une signature par 1' intervenant OP permettant de générer le rapport définitif 6 intégrant les données d'identification de l'intervenant OP. Les données d'identification de l'intervenant peuvent comprendre sa signature manuelle ou biométrique (par exemple reconnaissance d'empreinte tactiles, palmaire, faciale, iris, vocale, ...) complété d'une validation manuelle (par appui sur un bouton contextuel de validation) ou vocale (par prononciation d'un ordre vocal de validation de rapport).
Cette chaîne d'acquisition de données / informations est ainsi particulièrement sécurisée.

Claims

REVENDICATIONS
1. Procédé de collecte de données opérationnelles d'un aéronef (1), cet aéronef comportant au moins un écran d'affichage (2) de données opérationnelles (3) de l'aéronef, le procédé étant caractérisé en ce que :
- à l'aide d'un terminal mobile (4) doté d'au moins un capteur optique, on réalise l'acquisition d'images (5) dudit au moins un écran d'affichage (2) de manière à ce que certaines au moins des images acquises représentent des données opérationnelles affichées sur l'écran d'affichage ;
- à l'aide d'un module de reconnaissance optique de caractères (OCR) associé audit terminal mobile (4), on identifie dans les images acquises (5) des chaînes de caractères (Cl, C2) chacune représentative d'une desdites données opérationnelles (3) affichées sur l'écran d'affichage (2) ;
à l'aide d'un module de génération de rapport et desdites chaînes de caractères identifiées (Cl, C2) , on génère un rapport électronique (6) contenant certaines au moins desdites données opérationnelles (3) de l'aéronef
(1) ;
le terminal mobile étant relié fonctionnellement à une base de données (BD1) contenant plusieurs modèles de rapports électroniques prédéterminés, chaque modèle donné de rapport prédéterminé correspondant à un type d'aéronef donné lui-même identifiable via l'information d'identification de cet aéronef, le module de génération de rapport étant agencé pour qu'à réception de l'information d'identification (ID) de l'aéronef dont on veut collecter des données, il obtient de la base de données (BD1) un modèle donné de rapport électronique correspondant à cet aéronef, le rapport électronique généré (6) par le module de génération de rapport étant généré à partir du modèle de rapport obtenu de la base de données (BD1) .
2. Procédé de collecte de données selon la revendication
1, dans lequel ledit terminal mobile (1) comporte un dispositif d'acquisition d'au moins une information d'identification <ID) de l'aéronef portée par l'aéronef, le module de génération de rapport étant agencé pour que le rapport électronique (6) qu'il génère, associe au moins une information d'identification (ID) de l'aéronef avec les données opérationnelles (3) de l'aéronef contenues dans le rapport.
3. Procédé de collecte de données selon la revendication
2, dans lequel on réalise successivement l'acquisition de données opérationnelles délivrées via ledit écran et d'au moins une information d'identification de l'aéronef acquise à l'aide dudit dispositif d'acquisition, cette information d'identification étant une information d'identité de l'aéronef, ainsi qu'une ou plusieurs informations de configuration de l'aéronef et on mémorise ces données opérationnelles et informations d' identification acquise successivement dans le même rapport électronique.
4. Procédé de collecte selon la revendication 3, dans lequel successivement à ladite acquisition desdites données opérationnelles et de ladite au moins une information d'identification de l'aéronef, on réalise l'acquisition d'une image d'intervenant utilisant le terminal mobile (4) et on mémorise cette image d'intervenant dans ledit rapport électronique.
5. Procédé de collecte de données selon l'une quelconque des revendication 2 à 4, dans lequel l'information d'identification (ID) de l'aéronef est inscrite sur un support d'informations porté par l'aéronef, ce support étant choisi parmi une marque d'identification ou un cryptogramme visuel (7) ou une étiquette (8) dotée de moyens de communication en champ-proche ou un cryptogramme optique affiché sur un écran.
6. Procédé de collecte de données selon l'une des revendications 1 à 5, dans lequel ledit terminal mobile (4) comporte un écran de visualisation (9) agencé pour d'une part visualiser les images acquises (5) par le capteur optique pendant cette acquisition et pour d'autre part afficher le rapport électronique (6) à l'attention d'un intervenant (OP) , le terminal mobile (4) comportant également des moyens de signature pour permettre à l'intervenant visualisant le rapport électronique de le signer si ce rapport lui convient, ce rapport électronique (6) signé contenant une signature électronique propre à l'intervenant (OP) .
7. Procédé de collecte de données selon la revendication 6, dans lequel les moyens de signature sont associés à un dispositif d' authentification biométrique de l'intervenant, la signature du rapport électronique par l'intervenant étant autorisée uniquement si cet intervenant a été préalablement identifié par le dispositif d' authentification biométrique.
8. Procédé de collecte de données selon l'une quelconque des revendications 1 à 7, dans lequel l'aéronef comporte des moyens de sélection, parmi un ensemble prédéterminé de pages affichables (PI, P2), de la page à afficher sur ledit au moins un écran d'affichage (2) de l'aéronef (1), chaque page donnée affichée (PI, P2) contenant un jeu de données opérationnelles (3) de l'aéronef, le terminal mobile (4) étant relié à une base de données (BD2) de scénarios de collecte de données (3), chaque scénario de collecte donné de cette base correspondant à un type d'aéronef donné lui-même identifiable via l'information d'identification (ID) de cet aéronef, le module de génération de rapport étant agencé pour qu'à réception de l'information d'identification (ID) de l'aéronef dont on veut collecter des données (3), il obtient de la base de données un scénario de collecte de données correspondant à cet aéronef et, en réponse à ce scénario de collecte, il émet des instructions à l'attention de l'intervenant (OP) pour que cet intervenant sélectionne la page à afficher sur ledit au moins un écran d'affichage (2) de l'aéronef et qu'il réalise l'acquisition d'une image de cette page (PI, P2) affichée sur l'écran.
9. Procédé de collecte de données selon la revendication 8, dans lequel l'aéronef comporte plusieurs écrans d'affichage pour afficher lesdites données opérationnelles de l'aéronef, le scénario de collecte de données correspondant à cet aéronef lorsqu' exécuté par le module de génération de rapport émettant des instructions d'acquisition d'images de chacun de ces écrans l'un après 1' autre .
10. Procédé de collecte de données selon l'une quelconque des revendications 8 ou 9, dans lequel le module de reconnaissance optique de caractères (OCR) est agencé pour détecter dans l'image acquise la page courante affichée sur ledit au moins un écran d'affichage de l'aéronef et pour commander l'émission d'une instruction à l'attention de l'intervenant une fois qu'une image d'une page attendue suivant le scénario a bien été acquise .
PCT/EP2017/079620 2016-11-17 2017-11-17 Procede de collecte de donnees operationnelles d'aeronef WO2018091663A1 (fr)

Priority Applications (7)

Application Number Priority Date Filing Date Title
US16/462,169 US10504308B2 (en) 2016-11-17 2017-11-17 Method for collecting operational data of an aircraft
EP17804841.9A EP3542305B1 (fr) 2016-11-17 2017-11-17 Procede de collecte de donnees operationnelles d'aeronef
BR112019009850A BR112019009850A8 (pt) 2016-11-17 2017-11-17 Método para coleta de dados operacionais de aeronaves
CA3043977A CA3043977C (fr) 2016-11-17 2017-11-17 Procede de collecte de donnees operationnelles d'aeronef
CN201780071349.6A CN109964232B (zh) 2016-11-17 2017-11-17 用于收集飞行器工作数据的方法
RU2019116703A RU2704745C1 (ru) 2016-11-17 2017-11-17 Способ сбора оперативных данных летательного аппарата
ZA2019/03834A ZA201903834B (en) 2016-11-17 2019-06-13 Method for collecting operational data of an aircraft

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR1661163 2016-11-17
FR1661163A FR3058815B1 (fr) 2016-11-17 2016-11-17 Procede de collecte de donnees operationnelles d'aeronef

Publications (1)

Publication Number Publication Date
WO2018091663A1 true WO2018091663A1 (fr) 2018-05-24

Family

ID=57861089

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/EP2017/079620 WO2018091663A1 (fr) 2016-11-17 2017-11-17 Procede de collecte de donnees operationnelles d'aeronef

Country Status (9)

Country Link
US (1) US10504308B2 (fr)
EP (1) EP3542305B1 (fr)
CN (1) CN109964232B (fr)
BR (1) BR112019009850A8 (fr)
CA (1) CA3043977C (fr)
FR (1) FR3058815B1 (fr)
RU (1) RU2704745C1 (fr)
WO (1) WO2018091663A1 (fr)
ZA (1) ZA201903834B (fr)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR3080941B1 (fr) * 2018-05-04 2020-04-17 Thales Systeme et procede de reconnaissance vocale pour aeronef
CN110414524B (zh) * 2019-07-29 2021-09-17 北京航空航天大学 一种航空线缆编码的字符识别结果推理纠错方法
CN111080049B (zh) * 2019-08-31 2023-09-01 青岛民航凯亚系统集成有限公司 机场地面保障电子签单管理方法
FR3115130B1 (fr) * 2020-10-09 2023-04-14 Safran Electronics & Defense Procédé et système de gestion de compatibilité entre deux équipements

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030138146A1 (en) * 2002-01-23 2003-07-24 Honeywell Inc. Methods, functional data, and systems for image feature translation
WO2006011141A2 (fr) * 2004-07-25 2006-02-02 Israel Aerospace Industries Ltd. Procede et systeme d'acquisition et d'affichage de donnees
FR2952257A1 (fr) * 2009-11-05 2011-05-06 Airbus Operations Sas Procede et dispositif de configuration d'un systeme d'information de maintenance embarque dans un aeronef
US20130204487A1 (en) * 2012-02-07 2013-08-08 Ge Aviation Systems Llc System and methods for maintaining and operating an aircraft
US8892273B1 (en) * 2012-01-27 2014-11-18 Rockwell Collins, Inc. Transfer of aviation information using a machine-readable optical representation
FR3022418A1 (fr) * 2014-06-12 2015-12-18 Airbus Procede de communication d'informations d'un systeme avionique

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2463647C2 (ru) * 2007-11-29 2012-10-10 Эйрбас Оперейшнс Гмбх Система и способ регистрации технических вопросов по летательному аппарату
US8319665B2 (en) * 2009-02-20 2012-11-27 Appareo Systems, Llc Adaptive instrument and operator control recognition
US9612131B2 (en) * 2012-04-09 2017-04-04 The Boeing Company Identifying and configuring controls on a control panel
CN104679873A (zh) * 2015-03-09 2015-06-03 深圳市道通智能航空技术有限公司 一种飞行器追踪方法和系统
US10252815B2 (en) * 2017-04-28 2019-04-09 General Electric Company System and method for monitoring a cockpit of an aircraft

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030138146A1 (en) * 2002-01-23 2003-07-24 Honeywell Inc. Methods, functional data, and systems for image feature translation
WO2006011141A2 (fr) * 2004-07-25 2006-02-02 Israel Aerospace Industries Ltd. Procede et systeme d'acquisition et d'affichage de donnees
FR2952257A1 (fr) * 2009-11-05 2011-05-06 Airbus Operations Sas Procede et dispositif de configuration d'un systeme d'information de maintenance embarque dans un aeronef
US8892273B1 (en) * 2012-01-27 2014-11-18 Rockwell Collins, Inc. Transfer of aviation information using a machine-readable optical representation
US20130204487A1 (en) * 2012-02-07 2013-08-08 Ge Aviation Systems Llc System and methods for maintaining and operating an aircraft
FR3022418A1 (fr) * 2014-06-12 2015-12-18 Airbus Procede de communication d'informations d'un systeme avionique

Also Published As

Publication number Publication date
US10504308B2 (en) 2019-12-10
FR3058815B1 (fr) 2018-11-02
ZA201903834B (en) 2020-12-23
US20190333298A1 (en) 2019-10-31
FR3058815A1 (fr) 2018-05-18
CN109964232A (zh) 2019-07-02
CA3043977A1 (fr) 2018-05-24
BR112019009850A2 (pt) 2019-08-20
EP3542305A1 (fr) 2019-09-25
RU2704745C1 (ru) 2019-10-30
CA3043977C (fr) 2020-04-07
CN109964232B (zh) 2020-07-07
BR112019009850A8 (pt) 2023-04-11
EP3542305B1 (fr) 2020-12-30

Similar Documents

Publication Publication Date Title
CA3043977C (fr) Procede de collecte de donnees operationnelles d&#39;aeronef
US11212416B2 (en) Secure digital media capture and analysis
EP3547270B1 (fr) Procédé de vérification d&#39;une authentification biométrique
US20050206501A1 (en) Labor management system and method using a biometric sensing device
US11838475B2 (en) Secure document certification and execution system
US20170103397A1 (en) Video identification method and computer program product thereof
CA2754369C (fr) Methode de creation d&#39;un ensemble de donnees securisees et methode d&#39;evaluation de ces donnees
US20220060591A1 (en) Automated diagnoses of issues at printing devices based on visual data
CN113722397B (zh) 一种面向大数据审计的电子证据采集系统及其采集方法
KR102594649B1 (ko) 스마트 체크리스트를 이용한 건축물 사전점검 시스템 및 그 방법
US20200027297A1 (en) Voting techniques using virtual or augmented reality
EP2958297B1 (fr) Dispositif d&#39;identification biométrique
JP2009042986A (ja) 金融商品勧誘販売経歴管理システム、金融商品勧誘販売経歴管理方法及び金融商品勧誘販売経歴管理プログラム
US11418502B2 (en) Input entry based on user identity validation
EP3529099B1 (fr) Procede et systeme de controle d&#39;une utilisation d&#39;un vehicule par un conducteur
US8886952B1 (en) Method of controlling a transaction
CN114553684B (zh) 网点运维方法、装置、计算机设备、存储介质
US20240187539A1 (en) Secure Document Certification and Execution System
KR20220169797A (ko) Ai 지식경영서비스 관리서버
CA3205344A1 (fr) Procede de controle d&#39;individus a authentification simplifiee
WO2023001845A1 (fr) Procédé d&#39;enrôlement d&#39;un utilisateur par un organisme sur une chaîne de blocs
FR3028991A1 (fr) Procede de traitement de donnees securise d&#39;un vehicule pour la gestion de maintenance
EP3816839A1 (fr) Procédé mis en oeuvre par ordinateur d&#39;établissement sécurisé d&#39;un document de transfert de responsabilité d&#39;un bien
OA20698A (fr) Procédé mis en œuvre par ordinateur d&#39;établissement sécurisé d&#39;un document de transfert de responsabilité d&#39;un bien.
EP4120104A1 (fr) Procede pour generer un document numerique d&#39;identite d&#39;un individu a partir d&#39;un document physique d&#39;identite officiel

Legal Events

Date Code Title Description
DPE1 Request for preliminary examination filed after expiration of 19th month from priority date (pct application filed from 20040101)
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17804841

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 3043977

Country of ref document: CA

NENP Non-entry into the national phase

Ref country code: DE

REG Reference to national code

Ref country code: BR

Ref legal event code: B01A

Ref document number: 112019009850

Country of ref document: BR

ENP Entry into the national phase

Ref document number: 2017804841

Country of ref document: EP

Effective date: 20190617

ENP Entry into the national phase

Ref document number: 112019009850

Country of ref document: BR

Kind code of ref document: A2

Effective date: 20190514