DE10359125A1 - Motor vehicle driver`s reflex action recognizing method, involves measuring brightness of ambient light and reflex time taken by pupil of driver against light, and generating threshold value for automatic tiredness estimate of driver - Google Patents
Motor vehicle driver`s reflex action recognizing method, involves measuring brightness of ambient light and reflex time taken by pupil of driver against light, and generating threshold value for automatic tiredness estimate of driver Download PDFInfo
- Publication number
- DE10359125A1 DE10359125A1 DE10359125A DE10359125A DE10359125A1 DE 10359125 A1 DE10359125 A1 DE 10359125A1 DE 10359125 A DE10359125 A DE 10359125A DE 10359125 A DE10359125 A DE 10359125A DE 10359125 A1 DE10359125 A1 DE 10359125A1
- Authority
- DE
- Germany
- Prior art keywords
- driver
- pupil
- changes
- reflex
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/18—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
- A61B3/113—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/163—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state by tracking eye movement, gaze, or pupil change
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Veterinary Medicine (AREA)
- Physics & Mathematics (AREA)
- Biophysics (AREA)
- Public Health (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Educational Technology (AREA)
- Child & Adolescent Psychology (AREA)
- Developmental Disabilities (AREA)
- Hospice & Palliative Care (AREA)
- Psychiatry (AREA)
- Psychology (AREA)
- Social Psychology (AREA)
- Pathology (AREA)
- Ophthalmology & Optometry (AREA)
- Human Computer Interaction (AREA)
- Eye Examination Apparatus (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
Abstract
Description
Die Erfindung betrifft ein Verfahren zur Erkennung und zur Abschätzung der Reaktionsbereitschaft eines Fahrers eines Kraftfahrzeugs. Insbesondere bezieht sich die Erfindung auf die Erkennung evtl. Müdigkeit des Fahrers.The The invention relates to a method for detecting and estimating the Responsiveness of a driver of a motor vehicle. Especially The invention relates to the detection of possible tiredness the driver.
Der Pupillenreflex, also die Kontraktion der Pupille bei Lichteinfall, ist ein anerkanntes Maß für den Müdigkeitsgrad und damit die Reaktionsbereitschaft eines Fahrers. Nachteilig ist allerdings, dass für eine Auslösung des Pupillenreflexes eine Blendung des Auges mit Hilfe von einfallendem Licht, also z.B. Lichtblitzen, erforderlich ist, was den Fahrer bei der Fahraufgabe stören könnte. Daher wurden bisherige Untersuchungen mit dieser Methodik häufig vor und nach der Fahrt unter definierten Beleuchtungsbedingungen vorgenommen. Eine Beobachtung des Pupillenreflexes sowie dessen Auswertung während der Fahrt ist nach bestem Wissen der Anmelderin und der Erfinder bisher nicht bekannt geworden.Of the Pupil reflex, ie the contraction of the pupil in the event of light, is a recognized measure of tiredness and thus the responsiveness of a driver. The disadvantage is however, that for a trigger of the pupil reflex a glare of the eye with the help of incident Light, e.g. Flashes of light, what is necessary to the driver interfere with the driving task could. Therefore, previous studies using this methodology have often been and still are made after driving under defined lighting conditions. An observation of the pupillary reflex as well as its evaluation during the Ride is to the best of the applicant and the inventor to date not known.
Aus
der
Der Erfindung liegt daher die Aufgabe zugrunde, ein Verfahren zur Auswertung des Pupillenreflexes eines Fahrers eines Kraftfahrzeugs anzugeben, das auch während der Fahrt einsetzbar ist und damit insbesondere zur kontinuierlichen Überwachung der Reaktionsbereitschaft des Fahrers auch während der Fahrt sinnvoll eingesetzt werden kann.Of the The invention is therefore based on the object, a method for evaluation of the pupil reflex of a driver of a motor vehicle, that too during the ride is used and thus in particular for continuous monitoring the responsiveness of the driver used well while driving can be.
Diese Aufgabe wird erfindungsgemäß mit den Merkmalen des Anspruchs 1 gelöst. Dazu ist bei einem Verfahren zur Erkennung der Reaktionsbereitschaft eines Fahrers eines Kraftfahrzeugs vorgesehen, dass eine Umgebungshelligkeit und Reaktionszeiten der Pupille des Fahrers auf Lichteinfall gemessen werden und dass Veränderungen der Umgebungshelligkeit zu Veränderungen der Reaktionszeit der Pupille des Fahrers auf die Veränderungen der Umgebungshelligkeit in Relation gesetzt werden.These Task is according to the invention with the Characteristics of claim 1 solved. This is in a process for detecting the readiness to react a driver of a motor vehicle provided that an ambient brightness and reaction times of the pupil of the driver measured by light and that changes the ambient brightness changes reaction time of a pupil of the driver on changes the ambient brightness are related.
Die Erfindung geht von der Erkenntnis aus, dass der Pupillenreflex, also die Kontraktion der Pupille bei Lichteinfall, etwa durch Steigerung der Leuchtdichte oder Blendung, ein anerkanntes Maß für den Müdigkeitsgrad des Fahrers eines Fahrzeugs ist.The Invention is based on the recognition that the pupil reflex, that is, the contraction of the pupil in the event of light, for example by an increase Luminance or glare, a recognized measure of fatigue the driver of a vehicle.
Aus einer Veränderung der Reaktionszeit der Pupille (Adaptation) auf Lichteinfall lassen sich Schlussfolgerungen über die Reaktionsbereitschaft des Organismus ziehen. Dabei scheinen Akkomodationsvorgänge des Auges im Fahrzeug bei Dunkelfahrten vermutlich eine untergeordnete Rolle zu spielen, da die Augen annähernd konstant auf den ausgeleuchteten Bereich vor dem Fahrzeug akkomodiert sein sollten.Out a change the reaction time of the pupil (adaptation) to light conclusions about pull the responsiveness of the organism. It seems Akkomodationsvorgänge the eye in the vehicle in dark driving probably a subordinate To play a role, since the eyes are approximately constant on the illuminated Area in front of the vehicle should be accommodated.
Werden nun die zufällig im Fahrtverlauf auftretenden Leuchtdichteveränderungen, die eine Pupillenreaktion nach sich ziehen, gemessen, können Erwartungswerte zu den anhand einer Baseline-Messung geschätzten Reaktionsparametern der Pupille in Relation zu diesen Leuchtdichteveränderungen gebildet werden. Bei einer Abweichung der Pupillenreaktion vom Erwartungswert kann eine verminderte organische Reaktionsbereitschaft unterstellt werden und dies in die automatische Müdigkeitseinschätzung als Schwellwert eingehen.Become now the random ones in the course of the course occurring luminance changes, the pupil reaction can entail, measured, expected values to the reaction parameters estimated from a baseline measurement Pupil in relation to these luminance changes. In a deviation of the pupil reaction from the expected value can a reduced organic responsiveness to be assumed and this in the automatic fatigue assessment as Threshold.
Um die Leuchtdichte in der Umgebung zu ermitteln, kann dieselbe Kamera verwendet werden, die als Lidschlusssensor zur Müdigkeitsdetektion eingesetzt wird. Die Leuchtdichteänderungen durch Gegenverkehr oder Straßenbeleuchtung können durch die Bildhelligkeitsunterschiede im Umgebungsbereich der Augen aus dem Kamerabild ermittelt werden und ebenso – bei einer entsprechend hochauflösenden Kamera – die Pupillenreaktion bzw. daraus abgeleitete Parameter wie Reaktionsgeschwindigkeit oder Dilationsgeschwindigkeit.Around To determine the luminance in the environment, the same camera used as eyelid sensor for fatigue detection becomes. The luminance changes by oncoming traffic or street lighting can by the image brightness differences in the surrounding area of the eyes be determined from the camera image and also - in a correspondingly high-resolution camera - the pupil reaction or derived parameters such as reaction rate or Dilationsgeschwindigkeit.
Der Vorteil der Erfindung besteht darin, dass die Ermittlung der Reaktionsbereitschaft des Fahrers anhand des Pupillenreflexes erstmals während der Fahrt ermittelbar ist. Im Falle einer durch Ermüdung oder Übermüdung drohenden verminderten Fahrtüchtigkeit oder einer Fahruntüchtigkeit des Fahrers kann direkt ein diesbezüglicher Hinweis für den Fahrer oder ein Alarm ausgegeben werden. Des Weiteren ist die Überwachung des Pupillenreflexes kontinuierlich möglich, so dass auch eine während längerer Fahrtstrecken ggf. nachlassende Reaktionsbereitschaft jederzeit erkennbar ist.Of the Advantage of the invention is that the determination of the reaction readiness the driver's first use of the pupillary reflex while driving can be determined. In case of fatigue or fatigue threatening diminished roadworthiness or a driving inactivity the driver can directly a relevant note for the driver or an alarm is issued. Furthermore, the monitoring the pupil reflex continuously possible, so that even during long journeys if necessary decreasing responsiveness is recognizable at any time.
Vorteilhafte Ausgestaltungen der Erfindung sind Gegenstand der Unteransprüche.advantageous Embodiments of the invention are the subject of the dependent claims.
Nachfolgend wird ein Ausführungsbeispiel der Erfindung anhand der Zeichnung näher erläutert.following is an embodiment of Invention with reference to the drawing explained.
Darin zeigt die einzige Figur ein schematisch vereinfachtes Fahrzeug mit einem Fahrer, dessen Gesicht im Bereich der Augen mittels einer Kamera erfasst wird.In this the sole figure shows a schematically simplified vehicle with a driver whose face in the area of the eyes by means of a Camera is detected.
Die
Bildverarbeitungseinheit
Veränderungen der Helligkeit in den aufgenommenen Bildern über der Zeit können im Falle ortsfester oder im wesentlichen ortsfester Bildelemente, die in schwarz-weiss aufgenommen sind, in einfachster Form durch Subtraktion zweier zeitlich aufeinanderfolgender Bilder, also durch Subtraktion der Grauwerte jedes Pixels eines ersten Bildes vom Grauwert des entsprechenden Pixel eines zeitlich vorhergehenden oder zeitlich nachfolgenden Pixels, ermittelt werden. Bereiche, die auf beiden Bildern von ortsfesten Bildelementen eingenommen werden und die in beiden Bildern in gleicher Helligkeit erscheinen, löschen sich bei dieser Operation aus, d.h. es ergibt sich nach der Subtraktion ein resultierender Grauwert von "Null" oder in der Nähe von Null. Bei Bereichen mit unterschiedlicher Helligkeit ergibt sich diese Auslöschung nicht. Ist für das gesamte Bild oder für grossflächige Abschnitte des resultierenden Bild keine Auslöschung bemerkbar, ist der mittlere Zahlenwert der resultierenden Grauwerte ein gutes Maß für die Zunahme der Helligkeit.changes The brightness in the recorded images over time can be in Case of fixed or substantially stationary pixels, the are recorded in black and white, in the simplest form by subtraction two temporally successive images, ie by subtraction of Gray values of each pixel of a first image from the gray value of the corresponding one Pixels of a temporally preceding or temporally succeeding one Pixels, to be determined. Areas that are stationary in both pictures Picture elements are taken and in both pictures in the same Brightness appear, delete during this operation, i. it results after the subtraction a resulting gray value of "zero" or near zero. For areas with different brightness, this cancellation does not occur. Is for the entire picture or for large sections the resulting image no extinction noticeable, is the middle one Numerical value of the resulting gray values a good measure of the increase the brightness.
Die
in der oben beschriebenen oder einer ähnlichen Art und Weise ermittelte
Veränderung
der auf den Fahrer
Zum
Erkennen und Ermitteln der Reaktionszeiten der Pupille des Fahrers
Die
Verarbeitungseinheit
Bildverarbeitungseinheit
Insgesamt
lässt sich
die Erfindung kurz wie folgt darstellen: Es wird ein Verfahren zur
Erkennung der Reaktionsbereitschaft eines Fahrers
- 1010
- Fahrzeugvehicle
- 1111
- Fahrerdriver
- 1212
- Lenkradsteering wheel
- 1313
- Kameracamera
- 1414
- BildverarbeitungseinheitImage processing unit
- 1515
- Verarbeitungseinheitprocessing unit
Claims (6)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE10359125A DE10359125A1 (en) | 2003-12-17 | 2003-12-17 | Motor vehicle driver`s reflex action recognizing method, involves measuring brightness of ambient light and reflex time taken by pupil of driver against light, and generating threshold value for automatic tiredness estimate of driver |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE10359125A DE10359125A1 (en) | 2003-12-17 | 2003-12-17 | Motor vehicle driver`s reflex action recognizing method, involves measuring brightness of ambient light and reflex time taken by pupil of driver against light, and generating threshold value for automatic tiredness estimate of driver |
Publications (1)
Publication Number | Publication Date |
---|---|
DE10359125A1 true DE10359125A1 (en) | 2005-07-14 |
Family
ID=34672835
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE10359125A Withdrawn DE10359125A1 (en) | 2003-12-17 | 2003-12-17 | Motor vehicle driver`s reflex action recognizing method, involves measuring brightness of ambient light and reflex time taken by pupil of driver against light, and generating threshold value for automatic tiredness estimate of driver |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE10359125A1 (en) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102008037267A1 (en) | 2008-08-11 | 2010-02-18 | GM Global Technology Operations, Inc., Detroit | Motor vehicle, has image detection system for monitoring of pupil of drivers and for determining glare of drivers, and data transmission device transmitting signal to other vehicles, where warning information is optically displayed |
DE102010044341A1 (en) * | 2010-09-03 | 2012-03-08 | Deutsches Zentrum für Luft- und Raumfahrt e.V. | Method for detecting hypoglycemia for diabetic person sitting on e.g. seat in airplane, involves outputting alarm signal if detected parameters fall above or below fixed threshold value or to pattern course |
US20130166217A1 (en) * | 2011-12-22 | 2013-06-27 | Nico Bogner | Method and Device for Fatigue Detection |
DE102012208822A1 (en) * | 2012-05-25 | 2013-11-28 | Robert Bosch Gmbh | Method and device for driver status detection |
DE102012214617A1 (en) * | 2012-08-17 | 2014-02-20 | Robert Bosch Gmbh | Method for determining pupillary response ability, involves causing pupillary response by light event |
DE102013212877A1 (en) * | 2013-07-02 | 2015-01-08 | Volkswagen Aktiengesellschaft | Method and device for determining the condition of a motor vehicle driver |
DE102013221188A1 (en) | 2013-10-18 | 2015-04-23 | Robert Bosch Gmbh | A method for detecting the fatigue of the driver in a vehicle |
CN106274675A (en) * | 2016-08-24 | 2017-01-04 | 东风汽车公司 | Fatigue driving method for early warning based on intelligence wearable device and system |
DE102017202659A1 (en) | 2017-02-20 | 2018-08-23 | Bayerische Motoren Werke Aktiengesellschaft | System and method for detecting the fatigue of a driver |
US11046327B2 (en) | 2019-04-09 | 2021-06-29 | Fotonation Limited | System for performing eye detection and/or tracking |
CN115965857A (en) * | 2023-01-09 | 2023-04-14 | 钧捷智能(深圳)有限公司 | Ambient light processing method and DMS system |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE19803158C1 (en) * | 1998-01-28 | 1999-05-06 | Daimler Chrysler Ag | Arrangement for determining the state of vigilance, esp. for machinery operator or vehicle driver |
-
2003
- 2003-12-17 DE DE10359125A patent/DE10359125A1/en not_active Withdrawn
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE19803158C1 (en) * | 1998-01-28 | 1999-05-06 | Daimler Chrysler Ag | Arrangement for determining the state of vigilance, esp. for machinery operator or vehicle driver |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102008037267A1 (en) | 2008-08-11 | 2010-02-18 | GM Global Technology Operations, Inc., Detroit | Motor vehicle, has image detection system for monitoring of pupil of drivers and for determining glare of drivers, and data transmission device transmitting signal to other vehicles, where warning information is optically displayed |
DE102010044341A1 (en) * | 2010-09-03 | 2012-03-08 | Deutsches Zentrum für Luft- und Raumfahrt e.V. | Method for detecting hypoglycemia for diabetic person sitting on e.g. seat in airplane, involves outputting alarm signal if detected parameters fall above or below fixed threshold value or to pattern course |
DE102010044341B4 (en) * | 2010-09-03 | 2019-01-17 | Deutsches Zentrum für Luft- und Raumfahrt e.V. | Method for detecting hypoglycemia |
US20130166217A1 (en) * | 2011-12-22 | 2013-06-27 | Nico Bogner | Method and Device for Fatigue Detection |
US10086697B2 (en) * | 2011-12-22 | 2018-10-02 | Volkswagen Ag | Method and device for fatigue detection |
CN104380359B (en) * | 2012-05-25 | 2017-12-26 | 罗伯特·博世有限公司 | Method and apparatus for identifying driver status |
DE102012208822A1 (en) * | 2012-05-25 | 2013-11-28 | Robert Bosch Gmbh | Method and device for driver status detection |
WO2013174838A1 (en) * | 2012-05-25 | 2013-11-28 | Robert Bosch Gmbh | Method and device for recognising the condition of a driver |
CN104380359A (en) * | 2012-05-25 | 2015-02-25 | 罗伯特·博世有限公司 | Method and device for recognizing the condition of driver |
US9277881B2 (en) | 2012-05-25 | 2016-03-08 | Robert Bosch Gmbh | Method and device for detecting the condition of a driver |
DE102012214617A1 (en) * | 2012-08-17 | 2014-02-20 | Robert Bosch Gmbh | Method for determining pupillary response ability, involves causing pupillary response by light event |
DE102013212877A1 (en) * | 2013-07-02 | 2015-01-08 | Volkswagen Aktiengesellschaft | Method and device for determining the condition of a motor vehicle driver |
US9384421B2 (en) | 2013-10-18 | 2016-07-05 | Robert Bosch Gmbh | Method for detecting the drowsiness of the driver in a vehicle |
DE102013221188A1 (en) | 2013-10-18 | 2015-04-23 | Robert Bosch Gmbh | A method for detecting the fatigue of the driver in a vehicle |
CN106274675A (en) * | 2016-08-24 | 2017-01-04 | 东风汽车公司 | Fatigue driving method for early warning based on intelligence wearable device and system |
DE102017202659A1 (en) | 2017-02-20 | 2018-08-23 | Bayerische Motoren Werke Aktiengesellschaft | System and method for detecting the fatigue of a driver |
US10832068B2 (en) | 2017-02-20 | 2020-11-10 | Bayerische Motoren Werke Aktiengesellschaft | System and method for detecting the fatigue of a vehicle driver |
US11046327B2 (en) | 2019-04-09 | 2021-06-29 | Fotonation Limited | System for performing eye detection and/or tracking |
CN115965857A (en) * | 2023-01-09 | 2023-04-14 | 钧捷智能(深圳)有限公司 | Ambient light processing method and DMS system |
CN115965857B (en) * | 2023-01-09 | 2024-05-10 | 钧捷智能(深圳)有限公司 | Ambient light processing method and DMS system |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE102014220759B4 (en) | Monitoring a degree of attention of a driver of a vehicle | |
DE4410406C2 (en) | Optoelectronic device for monitoring the surroundings of a vehicle | |
DE102007039377B4 (en) | Method for automatic longitudinal guidance of a motor vehicle by means of a longitudinal driver assistance system with Stop & Go function | |
EP2517177B1 (en) | Method for determining relative motion by means of an hdr camera | |
DE102020002994B4 (en) | Method for measuring a distance between an object and an optical sensor, control device for carrying out such a method, distance measuring device with such a control device and motor vehicle with such a distance measuring device | |
WO2003060826A1 (en) | Method and device for recognizing obstructions of view in image sensor systems | |
DE19842827B4 (en) | Precrashsensierungssystem | |
DE102008043200A1 (en) | Warning device for warning a driver of the presence of objects | |
DE112013003276T5 (en) | Object recognition device | |
DE19826283B4 (en) | Method for displaying an object located in front of a motor vehicle, in particular a motor vehicle driving in front | |
DE112014005160T5 (en) | A method for detecting a hidden state of a camera, camera system and motor vehicle | |
DE10359125A1 (en) | Motor vehicle driver`s reflex action recognizing method, involves measuring brightness of ambient light and reflex time taken by pupil of driver against light, and generating threshold value for automatic tiredness estimate of driver | |
DE102016108475A1 (en) | Einschlaferfassungsvorrichtung | |
DE102015218306A1 (en) | A method and apparatus for determining a drowsiness condition of a driver | |
DE102018127756A1 (en) | DRIVER MONITORING DEVICE, METHOD AND PROGRAM | |
DE112017004596T5 (en) | Line of sight measurement device | |
DE102009011866A1 (en) | Method and apparatus for determining a range of visibility for a vehicle | |
DE102010054626A1 (en) | Method for monitoring danger area i.e. entrance area, of door of transportation medium i.e. bus, for transporting persons, involves providing warning notice to driver based on position or movement of detected person in one of partial areas | |
EP1495919A1 (en) | Method and Apparatus for estimating the severity of accidents | |
DE102013020947A1 (en) | Method for tracking a target object with brightness change, camera system and motor vehicle | |
EP1933255B1 (en) | Method and system for recognising someone taking part in traffic and for generating an alarm | |
EP2163429B1 (en) | Method for image-supported monitoring of a vehicle environment, especially the environment of a goods vehicle | |
DE102011079005B4 (en) | Method for self-diagnosis of cameras and image recording system with at least one camera for carrying out the method | |
DE102012200762A1 (en) | Method for signaling traffic condition in environment of vehicle, involves recording surrounding area of vehicle using sensor, and indicating recognized sensitive object on display arranged in rear view mirror housing of vehicle | |
DE102018206237A1 (en) | Method and device for detecting fatigue of a person |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
OM8 | Search report available as to paragraph 43 lit. 1 sentence 1 patent law | ||
8110 | Request for examination paragraph 44 | ||
R016 | Response to examination communication | ||
R119 | Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee |