DE102013014967A1 - Driver assistance system for a motor vehicle - Google Patents

Driver assistance system for a motor vehicle Download PDF

Info

Publication number
DE102013014967A1
DE102013014967A1 DE201310014967 DE102013014967A DE102013014967A1 DE 102013014967 A1 DE102013014967 A1 DE 102013014967A1 DE 201310014967 DE201310014967 DE 201310014967 DE 102013014967 A DE102013014967 A DE 102013014967A DE 102013014967 A1 DE102013014967 A1 DE 102013014967A1
Authority
DE
Germany
Prior art keywords
sector
image
vehicle
driver assistance
assistance system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
DE201310014967
Other languages
German (de)
Inventor
Johannes Huth
Markus ARMBRUST
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
GM Global Technology Operations LLC
Original Assignee
GM Global Technology Operations LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by GM Global Technology Operations LLC filed Critical GM Global Technology Operations LLC
Priority to DE201310014967 priority Critical patent/DE102013014967A1/en
Publication of DE102013014967A1 publication Critical patent/DE102013014967A1/en
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/602Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

Bei einem Fahrerassistenzsystem mit einem Kamerasystem (2), das einen Raumwinkel (4) überwacht und wenigstens eine Kamera umfasst, einem Anzeigeschirm (3), einer Bildtransformationseinheit (5) zum Transformieren von Rohbildern des Kamerasystems (2) in Anzeigebilder (12) und Ausgeben der Anzeigebilder (12) an den Anzeigeschirm (3) ist die Bildtransformationseinheit (5) eingerichtet, für einen Sektor (16) des Raumwinkels (4) zu entscheiden, ob dieser ein fahrzeugnahes Objekt (15) enthält oder nicht, und die Ausdehnung eines diesem Sektor (16) entsprechenden Bildbereichs in einem Anzeigebild (12) anhand des Ergebnisses der Entscheidung festzulegen.In a driver assistance system comprising a camera system (2) monitoring a solid angle (4) and comprising at least one camera, a display screen (3), an image transformation unit (5) for transforming raw images of the camera system (2) into display images (12) and outputting of the display images (12) on the display screen (3), the image transformation unit (5) is arranged to decide for a sector (16) of the solid angle (4) whether or not it contains a vehicle-related object (15) and the extent of this Sector (16) corresponding image area in a display image (12) on the basis of the result of the decision.

Description

Die vorliegende Erfindung betrifft ein-Fahrerassistenzsystem mit einem Kamerasystem, das einen Raumwinkel überwacht, für ein Kraftfahrzeug.The present invention relates to a driver assistance system having a camera system that monitors a solid angle for a motor vehicle.

Künftig werden nach dem ECE Standard in Kraftfahrzeugen zur Erfassung des rückliegenden Verkehrs Kamerasysteme mit einem Anzeigeschirm zur Bilddarstellung zugelassen sein. Diese Kamerasysteme können in Zukunft Außenspiegel und Rückspiegel ersetzen.In future, according to the ECE standard in motor vehicles for detecting the past traffic, camera systems with a display screen for image display will be permitted. These camera systems can replace the exterior mirrors and rear view mirrors in the future.

Bei der Verwendung von herkömmlichen Außenspiegeln und Rückspiegeln ist das Phänomen des Totwinkels bekannt. Das heißt, ein Bereich neben dem Kraftfahrzeug ist weder auf dem Außenspiegel noch auf dem Rückspiegel sichtbar. Dieser Bereich kann vom Fahrer höchstens durch ein starkes Verdrehen des Kopfes und des Körpers eingesehen werden. Wird als Ersatz für den Außenspiegel eine Kamera mit einem einfachen Objektiv zur Erfassung der Umgebung neben und hinter dem Fahrzeug eingesetzt und ein Display zur Bildanzeige verwendet, so kommt es zum gleichen Effekt.When using conventional exterior mirrors and rear-view mirrors, the phenomenon of blind spot is known. That is, an area adjacent to the motor vehicle is neither visible on the exterior mirror nor on the rearview mirror. This area can be viewed by the driver at most by a strong twisting of the head and the body. Replacing the exterior mirror with a camera that uses a simple lens to capture the surroundings next to and behind the vehicle, and a display for image display uses the same effect.

Außenspiegel für Kraftfahrzeuge werden daher oft zweiteilig oder mit gekrümmten Oberflächen ausgeführt, um den Totwinkel zu verkleinern. Spiegelbilder auf der gekrümmten Spiegeloberfläche erscheinen verkleinert und of auch verzerrt; dies macht es schwierig, Gegenstände schnell zu erkennen und deren Entfernung vom Fahrzeug korrekt einzuschätzen.Motor vehicle exterior mirrors are therefore often made in two parts or with curved surfaces in order to reduce the blind spot. Mirror images on the curved mirror surface appear reduced and distorted; this makes it difficult to quickly detect items and correctly estimate their distance from the vehicle.

DE 600 29 335 T2 beschreibt ein Kamerasystem zur Erfassung eines 180°-Raumwinkels hinter einem Kraftfahrzeug. Dieses ist mit zwei Kameras ausgestattet und einem Bildverarbeitungssystem, welches die Rohbilder der beiden Kameras zu einem übersichtlichen möglichst verzerrungsfreien Anzeigebild zusammensetzt. Bei Einsatz als Außenspiegel erfordert die maßstabsgetreue, übersichtliche Darstellung des erfassten Raumwinkels von etwa 180° jedoch ein zu großes Display. Der für den Fahrer wichtige Bereich hinter dem Fahrzeug nimmt nur einen kleinen Teil dieses Displays ein, so dass wichtige Details übersehen werden können. Während Objekte hinter dem Fahrzeug auch in großer Entfernung für Entscheidungen des Fahrers relevant sein können, sind Objekte die sich seitlich vom Fahrzeug in einer Entfernung von mehr als einer Fahrspurbreite befinden, in der Regel nicht. In einem verzerrungsfreien Anzeigebild nehmen diese letzteren Objekte einen im Verhältnis zu ihrer Bedeutung überproportional großen Platz ein und können dadurch den Fahrer irritieren. DE 600 29 335 T2 describes a camera system for detecting a 180 ° room angle behind a motor vehicle. This is equipped with two cameras and an image processing system, which composes the raw images of the two cameras to a clear as possible distortion-free display image. When used as an exterior mirror, the true-to-scale, clear representation of the recorded solid angle of about 180 °, however, requires an oversized display. The driver's important area behind the vehicle occupies only a small portion of this display, so important details can be overlooked. While objects behind the vehicle may also be relevant for driver decisions at a great distance, objects located laterally from the vehicle at a distance of more than one lane width are typically not. In a distortion-free display image, these latter objects occupy a disproportionately large space in relation to their meaning and can thereby irritate the driver.

Aufgabe einer Ausführungsform der Erfindung ist, ein Fahrerassistenzsystem mit einem Kamerasystem so zu gestalten, dass es als Außen- oder Rückspiegel eingesetzt werden kann und dem Fahrer eine schnelle und zuverlässige Beurteilung des Verkehrsgeschehens hinter seinem Fahrzeug und seitlich von diesem ermöglicht.Object of an embodiment of the invention is to make a driver assistance system with a camera system so that it can be used as an exterior or rear view mirror and the driver allows a quick and reliable assessment of the traffic behind his vehicle and laterally from this.

Die Aufgabe wird gelöst durch ein Fahrerassistenzsystem mit einem Kamerasystem, das einen Raumwinkel überwacht und wenigstens eine Kamera umfasst, einem Anzeigeschirm, einer Bildtransformationseinheit zum Transformieren von Rohbildern des Kamerasystems in Anzeigebilder und Ausgeben der Anzeigebilder an den Anzeigeschirm, die eingerichtet ist, für einen Sektor des Raumwinkels zu entscheiden, ob dieser ein fahrzeugnahes Objekt enthält oder nicht, und die Ausdehnung eines diesem Raumwinkel entsprechenden Bildbereichs in einem Anzeigebild anhand des Ergebnisses der Entscheidung festzulegen.The object is achieved by a driver assistance system having a camera system which monitors a solid angle and comprises at least one camera, a display screen, an image transformation unit for transforming raw images of the camera system into display images and outputting the display images to the display screen arranged for a sector of the Solid angle to decide whether this contains a vehicle-related object or not, and to determine the extent of this solid angle image area in a display image based on the result of the decision.

Die Bildtransformationseinheit kann eingerichtet sein, um anhand der Rohbilder der Kamera zu entscheiden, ob der Sektor des Raumwinkels ein fahrzeugnahes Objekt enthältThe image transformation unit can be set up to decide, based on the raw images of the camera, whether the sector of the solid angle contains a vehicle-related object

Ein Abstandssensor kann zum Messen des Abstands zu einem in dem Sektor befindlichen Objekt mit der Bildtransformationseinheit verbunden sein.A distance sensor may be connected to the image transformation unit for measuring the distance to an object in the sector.

Der überwachte Raumwinkel sollte mindestens so groß sein wie der eines bekannten Außenspiegels oder Rückspiegels. Insbesondere bildet das Kamerasystem einen horizontalen Bildwinkel von größer 90° ab.The monitored solid angle should be at least as large as that of a known exterior mirror or rearview mirror. In particular, the camera system forms a horizontal image angle of greater than 90 °.

Der Raumwinkel kann eine zur Fahrtrichtung entgegengesetzte Richtung einschließen. Damit wird eine Erfassung des von hinten kommenden Verkehrs erreicht.The solid angle may include a direction opposite to the direction of travel. This achieves a detection of traffic coming from behind.

Der Raumwinkel kann auch eine zur Fahrtrichtung orthogonale Richtung einschließen. Damit wird auch eine Erfassung von Objekten im Totwinkelbereich erreicht.The solid angle may also include a direction orthogonal to the direction of travel. Thus, a detection of objects in the blind spot area is achieved.

Die Ausdehnung des einem ersten Sektor des Raumwinkels entsprechenden ersten Bildbereichs ist bei Vorhandensein eines fahrzeugnahen Objekts in dem ersten Sektor vorzugsweise größer als bei Nichtvorhandensein. Damit wird für den Fahrer ein fahrzeugnahes Objekt besser erkennbar.The extent of the first image area corresponding to a first sector of the solid angle is preferably greater in the presence of a vehicle-related object in the first sector than in the absence of it. This makes it easier for the driver to recognize a vehicle-related object.

Die Ausdehnung eines zweiten Bildbereichs, der einem an den ersten Sektor angrenzenden zweiten Sektor des Raumwinkels entspricht, sollte bei Vorhandensein eines fahrzeugnahen Objekts in dem ersten Sektor kleiner sein als bei Nichtvorhandensein. Indem der zweite Bildbereich gleichsam gestaucht wird, kann vermieden werden, dass Bildbereiche, die weit von dem ersten Sektor entfernten Sektoren entsprechen, verschoben werden müssen, um die vergrößerte Darstellung des ersten Sektors unterzubringen. Insbesondere kann dadurch ein Bildbereich, der den hinter dem Fahrzeug liegenden Verkehrsraum wiedergibt, von der Erfassung eines fahrzeugnahen Objekts in einem seitlich vom Fahrzeug liegenden ersten Sektor unbeeinflusst bleiben.The extension of a second image area corresponding to a second sector of the solid angle adjacent to the first sector should be smaller in the presence of a vehicle-related object in the first sector than in the absence of a vehicle. By upsetting the second image area as it is, it is possible to avoid image areas that are far away from the first sector Sectors must be moved to accommodate the enlarged representation of the first sector. In particular, an image area which reproduces the traffic space behind the vehicle can thus remain unaffected by the detection of a vehicle-related object in a first sector located laterally of the vehicle.

Gegenstände in diesem zweiten Sektor erscheinen somit zwar verkleinert, wenn ein fahrzeugnahes Objekts in dem ersten Sektor erfasst wird; sie werden aber nicht von dem vergrößert dargestellten ersten Sektor überdeckt.Thus, objects in this second sector appear reduced in size when a vehicle-related object is detected in the first sector; however, they are not covered by the enlarged first sector.

Auch die Position eines zweiten Bildbereichs, der einem an den ersten Sektor angrenzenden zweiten Sektor des Raumwinkels entspricht, auf dem Anzeigeschirm kann vom Vorhandensein eines fahrzeugnahen Objekts in dem ersten Sektor abhängen. So kann die Stauchung von Bildbereichen, die nötig ist, um eine vergrößerte Darstellung des ersten Sektors unterzubringen, unauffällig auf mehrere benachbarte Sektoren verteilt werden.Also, the position of a second image area corresponding to a second sector of the solid angle adjacent to the first sector on the display screen may depend on the presence of a vehicle-related object in the first sector. Thus, the compression of image areas, which is necessary to accommodate an enlarged representation of the first sector, inconspicuously distributed to several adjacent sectors.

In Abwesenheit eines fahrzeugnahen Objekts kann die Ausdehnung des Bildbereichs im Anzeigebild von der relativen Lage des dem Bildbereich entsprechenden Raumwinkelsektors zum Fahrzeug abhängig sein. Ein sich hinter dem Fahrzeug erstreckender Raumwinkelsektor sollte im Anzeigebild größer dargestellt werden als ein sich seitlich vom Fahrzeug erstreckender Sektor gleicher Ausdehnung, da Objekte in ersterem auch in großer Entfernung für den Fahrer bedeutsam sein können.In the absence of a vehicle-related object, the extent of the image area in the display image may depend on the relative position of the solid angle sector corresponding to the image area relative to the vehicle. A solid angle sector extending behind the vehicle should be made larger in the display image than a sector of equal extension extending laterally from the vehicle, since objects in the former may be significant to the driver even at a great distance.

Der Raumwinkel kann von mindestens zwei Kameras überwacht werden.The solid angle can be monitored by at least two cameras.

Die Aufgabe wird ferner gelöst durch ein Verfahren zur Unterstützung des Fahrers eines Fahrzeugs, mit den Schritten:
Erfassen eines Rohbildes eines Raumwinkels durch ein Kamerasystem;
Entscheiden, ob ein Sektor des Raumwinkels ein fahrzeugnahes Objekt enthält;
Transformieren des Rohbildes in ein Anzeigebild und Ausgeben des Anzeigebildes an einen Anzeigeschirm; wobei das Transformieren das Festlegen der Ausdehnung eines dem Raumwinkel entsprechenden Bildbereichs in dem Anzeigebild anhand des Ergebnisses der Entscheidung umfasst.
The object is further achieved by a method for assisting the driver of a vehicle, with the steps:
Capturing a raw image of a solid angle through a camera system;
Deciding whether a sector of the solid angle contains a vehicle-proximate object;
Transforming the raw image into a display image and outputting the display image to a display screen; wherein the transforming comprises determining the extent of an image area corresponding to the solid angle in the display image based on the result of the decision.

Weitere Gegenstande der Erfindung sind:

  • – ein Computerprogrammprodukt, welches Instruktionen umfasst, die bei Ausführung auf einem Computer diesen befähigen, in einem Fahrerassistenzsystem wie oben beschrieben zu arbeiten oder das oben beschriebene Verfahren auszuführen,
  • – ein computerlesbarer Datenträger, auf dem Programmanweisungen aufgezeichnet sind, die einen Computer befähigen, in der oben angegebenen Weise zu arbeiten, sowie
  • – eine Vorrichtung zur Unterstützung des Fahrers eines Fahrzeugs mit Mitteln zum Erfassen eines Rohbildes eines Raumwinkels durch ein Kamerasystem; Mitteln zum Entscheiden, ob ein Sektor des Raumwinkels ein fahrzeugnahes Objekt enthält; Mitteln zum Transformieren des Rohbildes in ein Anzeigebild und Ausgeben des Anzeigebildes an einen Anzeigeschirm; wobei das Transformieren das Festlegen der Ausdehnung eines dem Raumwinkel entsprechenden Bildbereichs in dem Anzeigebild anhand des Ergebnisses der Entscheidung umfasst.
Further objects of the invention are:
  • A computer program product comprising instructions which, when executed on a computer, enable it to operate in a driver assistance system as described above or to carry out the method described above,
  • A computer-readable medium recorded with program instructions enabling a computer to operate in the manner indicated above; and
  • A device for assisting the driver of a vehicle with means for acquiring a raw image of a solid angle through a camera system; Means for deciding whether a sector of the solid angle contains a vehicle-proximate object; Means for transforming the raw image into a display image and outputting the display image to a display screen; wherein the transforming comprises determining the extent of an image area corresponding to the solid angle in the display image based on the result of the decision.

Weitere Merkmale und Vorteile der Erfindung ergeben sich aus der nachfolgenden Beschreibung von Ausführungsbeispielen unter Bezugnahme auf die beigefügten Figuren. Es zeigen:Further features and advantages of the invention will become apparent from the following description of embodiments with reference to the accompanying figures. Show it:

1 eine schematische Ansicht eines mit dem Fahrerassistenzsystem ausgestatteten Kraftfahrzeugs; 1 a schematic view of a vehicle equipped with the driver assistance system motor vehicle;

2 den von dem Fahrerassistenzsystem überwachten Raumwinkel, ein daraus abgeleitetes Rohbild und ein Anzeigebild in Abwesenheit von fahrzeugnahen Objekten; und 2 the space angle monitored by the driver assistance system, a raw image derived therefrom and a display image in the absence of vehicle-related objects; and

3 den von dem Fahrerassistenzsystem überwachten Raumwinkel, ein daraus abgeleitetes Rohbild und ein Anzeigebild in Anwesenheit eines fahrzeugnahen Objekts. 3 the space angle monitored by the driver assistance system, a raw image derived therefrom, and a display image in the presence of a vehicle-related object.

1 zeigt in einer schematischen Ansicht von oben ein Kraftfahrzeug 1 mit einem Kamerasystem 2, das wenigstens eine digitale Videokamera auf der Fahrerseite des Fahrzeugs aufweist, zur Erfassung von Rohbildern, eine daran angeschlossene Bildtransformationseinheit 5 und einen damit verbundenen Anzeigeschirm 3 zur Ausgabe von Anzeigebildern. 1 shows in a schematic view from above a motor vehicle 1 with a camera system 2 comprising at least one digital video camera on the driver side of the vehicle for detecting raw images, an image transformation unit connected thereto 5 and a related display screen 3 for outputting display images.

Ein von dem Kamerasystem 2 überwachter Raumwinkel 4 schließt eine zur Fahrtrichtung entgegengesetzte Richtung 6 sowie eine dazu orthogonale Richtung 7 ein, um sowohl sich von hinten nähernde Fahrzeuge als auch Verkehrsteilnehmer seitlich vom Fahrzeug 1 zu erfassen. Sinnvollerweise wird der Raumwinkel 4 so gewählt, dass er sich auch noch jenseits dieser beiden Richtungen 6 und 7 erstreckt.One from the camera system 2 monitored solid angle 4 closes a direction opposite to the direction of travel 6 as well as an orthogonal direction 7 to both rear approaching vehicles and road users sideways from the vehicle 1 capture. It makes sense to use the solid angle 4 so chosen that he is also beyond these two directions 6 and 7 extends.

Um den Raumwinkel 4 aus einer dem Fahrer vertrauten Perspektive zu überwachen, kann die Kamera an dem herkömmlicherweise von einem Außenspiegel belegten Ort an einer Tür des Fahrzeugs montiert sein; es kommt aber auch, insbesondere im Hinblick auf eine ungehinderte Sicht nach hinten, eine Anbringung an einer C-Säule oder, bei einem Kombi-Fahrzeug, einer D-Säule in Betracht.Around the solid angle 4 From a driver-familiar perspective, the camera may be mounted on the door conventionally occupied by an exterior mirror on a door of the vehicle; but it also comes, especially in the With regard to an unobstructed view to the rear, an attachment to a C-pillar or, in a combi vehicle, a D-pillar into consideration.

Das Kamerasystem 2 kann eine einzelne Kamera mit einem Objektiv, insbesondere einem Superweitwinkel- oder Fischaugenobjektiv, umfassen, dessen Gesichtsfeld den gesamten Raumwinkel 4 abdeckt. Die von einer solchen Kamera gelieferten Rohbilder weisen im Allgemeinen starke perspektivische Verzeichnungen auf, die das Erkennen der dargestellten Gegenstände erschweren können und von der Bildtransformationseinheit 5 wenigstens teilweise korrigiert werden sollten.The camera system 2 may comprise a single camera with a lens, in particular a super wide-angle or fisheye lens whose field of view covers the entire solid angle 4 covers. The raw images provided by such a camera generally have strong perspective distortions that may make it difficult to recognize the displayed objects and the image transformation unit 5 at least partially corrected.

Das Kamerasystem 2 kann aber auch zwei Kameras umfassen, von denen eine einen die Richtung 6 einschließenden Winkelbereich 9 und die andere einen die Richtung 7 einschließenden Winkelbereich 10 überblickt, und wobei die Vereinigung beider Winkelbereiche 9, 10 den Raumwinkel 4 bildet. In diesem Fall ist die Objektivbrennweite der den Winkelbereich 9 überwachenden Kamera deutlich größer als die der dem Winkelbereich 10 zugeordneten Kamera, um den hinter dem Fahrzeug liegenden Verkehrsraum mit hoher Auflösung und geringer Verzeichnung zu erfassen.The camera system 2 but can also include two cameras, one of which is the one direction 6 enclosing angle range 9 and the other one the direction 7 enclosing angle range 10 surveyed, and where the union of both angular ranges 9 . 10 the solid angle 4 forms. In this case, the lens focal length is the angular range 9 surveillance camera significantly larger than that of the angle range 10 associated camera to capture the traffic behind the vehicle with high resolution and low distortion.

Die beiden Kameras sollten eng benachbart angeordnet sein, um Parallaxenfehler beim Kombinieren der Rohbilder der beiden Kameras zu einem einzigen Anzeigebild in der Bildtransformationseinheit 5 zu minimieren.The two cameras should be placed close together to avoid parallax errors in combining the raw images of the two cameras into a single display image in the image transformation unit 5 to minimize.

Seitlich am Kraftfahrzeug 1 ist – sinnvollerweise in unmittelbarer Nähe des Kamerasystems 2 – ein Abstandssensor 14 angebracht, der mit der Bildtransformationseinheit 5 verbunden ist. Er kann als Radar-, Infrarot- oder optischer Sensor ausgeführt sein. Sein Erfassungsbereich deckt zumindest den seitlich vom Fahrzeug 1 liegenden Winkelbereich 10 ab. Im einfachsten Fall liefert der Abstandssensor 14 lediglich ein skalares, für den Abstand zum nächstgelegenen erfassten Objekt repräsentatives Ausgangssignal; in dem Fall ist es Aufgabe der Bildtransformationseinheit 5, das Objekt und seine Position relativ zum Fahrzeug allein anhand der Information des Rohbilds zu bestimmen. Vorzugsweise liefert der Abstandssensor 14 auch eine Angabe, die die Position eines erfassten Objekts relativ zum Fahrzeug beschreibt und aus der Bildtransformationseinheit 5 die Position des Abbilds dieses Objekts im Rohbild berechnet. Der Abstandssensor 14 kann Bestandteil eines an sich bekannten Totwinkelwarngeräts sein.Laterally on the vehicle 1 is - meaningfully in the immediate vicinity of the camera system 2 - a distance sensor 14 attached to the image transformation unit 5 connected is. It can be designed as a radar, infrared or optical sensor. Its detection range covers at least the side of the vehicle 1 lying angle range 10 from. In the simplest case, the distance sensor provides 14 only a scalar output representative of the distance to the nearest detected object; in that case it is the task of the image transformation unit 5 to determine the object and its position relative to the vehicle based solely on the information of the raw image. Preferably, the distance sensor provides 14 also an indication that describes the position of a detected object relative to the vehicle and from the image transformation unit 5 calculates the position of the image of this object in the raw image. The distance sensor 14 may be part of a known Totwinkelwarngeräts.

Der seitliche Winkelbereich 10 ist deutlich größer als der rückwärtige Winkelbereich 9 und belegt deswegen, wenn das Kamerasystem 2 eine einzelne Kamera umfasst, in deren in 2 gezeigtem Rohbild 11 eine entsprechend größere Fläche 10'. Sich von hinten nähernde Fahrzeuge im Winkelbereich 9 erscheinen daher im Rohbild 11 zu klein im Vergleich zu einem auf einer Nachbarspur überholenden Fahrzeug im Winkelbereich 10. Um diesem Problem abzuhelfen, bildet die Bildtransformationseinheit 5 in einem Normalbetriebszustand das Verhalten eines herkömmlichen Außenspiegels nach, der einen ebenen Teil zur Überwachung des rückwärtigen Winkelbereichs 9 und einen zylindrisch gekrümmten Bereich zur Überwachung des seitlichen Winkelbereichs 10 aufweist: die Bildtransformationseinheit 5 liefert an den Anzeigeschirm 3 ein Anzeigebild 12 mit einer Teilfläche 9'', in der der rückwärtige Winkelbereich 9 detailliert in großem Maßstab zu sehen ist, und einer Teilfläche 10'', in der der seitliche Winkelbereich 10 zumindest in horizontaler Richtung gestaucht wiedergegeben ist. Die Stauchung kann, wie in 2 anhand einer im Rohbild 11 und Anzeigebild 12 eingezeichneten Skala 13 verdeutlicht, an einer scharfen Grenze zwischen den Teilflächen 9'', 10'' abrupt einsetzen; denkbar ist auch eine allmählich einsetzende und sich mit zunehmender Entfernung von der Teilfläche 9'' verstärkende Stauchung.The lateral angle range 10 is significantly larger than the rear angle range 9 and therefore, if the camera system 2 includes a single camera in whose in 2 shown raw picture 11 a correspondingly larger area 10 ' , Rear approaching vehicles in the angle range 9 therefore appear in the raw picture 11 too small compared to a vehicle overtaking on a neighboring lane in the angular range 10 , To remedy this problem forms the image transformation unit 5 in a normal operating state, the behavior of a conventional outside mirror after, the a flat part for monitoring the rear angle range 9 and a cylindrically curved area for monitoring the lateral angle range 10 comprising: the image transformation unit 5 delivers to the display screen 3 a display image 12 with a partial surface 9 '' in which the rear angle range 9 can be seen in detail on a large scale, and a partial surface 10 '' in which the lateral angle range 10 is reproduced compressed at least in the horizontal direction. The compression can, as in 2 on the basis of a raw picture 11 and display image 12 drawn scale 13 clarified, at a sharp boundary between the faces 9 '' . 10 '' use abruptly; It is also conceivable a gradually occurring and with increasing distance from the partial surface 9 '' reinforcing compression.

Diese Darstellungsweise ist angemessen, solange der Winkelbereich 10 kein fahrzeugnahes Objekt enthält, das der Fahrer berücksichtigen sollte.This representation is appropriate as long as the angular range 10 contains no vehicle-related object that the driver should consider.

3 betrachtet den Fall, dass der Abstandssensor 14 ein fahrzeugnahes Objekt, z. B. eine Person 15, in einem Sektor 16 des seitlichen Winkelbereichs 10 erfasst. In 3 ist der Sektor der Einfachheit halber so dargestellt, dass er die Person 15 vollständig aufnimmt und diese den Sektor im wesentlichen ausfüllt; der Sektor könnte aber auch nur einen Teil der Person aufnehmen oder neben der Person 15 noch mehr Umgebung enthalten. Würde das Rohbild 16' dieses Sektors 16 in der Bildtransformationseinheit 5 genauso gestaucht wie etwa das eines Sektors 17 ohne fahrzeugnahes Objekt, dann wäre die Abbildung der Person 15 im Anzeigebild 12 stark verzerrt und die Person schwierig zu erkennen. Deswegen gibt die Bildtransformationseinheit 5 im Abschnitt 16'' des Anzeigebilds 12 den Sektor 16 unverzerrt oder allenfalls schwach gestaucht wieder, während für den Rest des Winkelbereichs 10 die Stauchung so angepasst wird, dass die übrigen Sektoren, wie etwa der Sektor 17, weiterhin im Anzeigebild Platz finden. 3 considers the case that the distance sensor 14 a vehicle-related object, z. A person 15 in a sector 16 the lateral angle range 10 detected. In 3 For reasons of simplicity, the sector is shown as representing the person 15 fully absorbs and essentially fills the sector; but the sector could also only take in part of the person or next to the person 15 contain even more environment. Would the raw picture 16 ' this sector 16 in the image transformation unit 5 just as compressed as that of a sector 17 without vehicle-related object, then the image of the person would be 15 in the display image 12 heavily distorted and the person difficult to recognize. That's why the image transformation unit gives 5 in the section 16 '' of the display image 12 the sector 16 undistorted or at most weakly compressed again, while for the rest of the angular range 10 the compression is adjusted so that the other sectors, such as the sector 17 , continue to find space in the display image.

Die Stauchung der übrigen Sektoren kann für den gesamten seitlichen Winkelbereich 10 einheitlich sein; allerdings hat dies zur Folge, dass wenn ein fahrzeugnahes Objekt erfasst wird, die gesamte in den übrigen Sektoren dargestellte das Fahrzeug umgebende Szenerie im Anzeigebild verschoben werden muss. Um dies zu vermeiden, könnte der erhöhte Platzbedarf des Abschnitts 16'' auch dadurch ausgeglichen werden, dass unmittelbar zu ihm benachbarte Abschnitte wie etwa 17'' stärker gestaucht werden als weiter entfernte.The compression of the remaining sectors can be for the entire lateral angle range 10 be uniform; however, this has the consequence that when a vehicle-proximate object is detected, the entire scenery surrounding the vehicle shown in the remaining sectors must be shifted in the display image. To avoid this, the increased footprint of the section could be 16 '' be compensated by directly adjacent to him sections such as 17 '' be more compressed than more distant ones.

In Betracht käme auch, die Stauchung von Sektoren, die frei von fahrzeugnahen Objekten sind, bei Erfassung eines Objekts im Sektor 16 gar nicht zu ändern und den dem Sektor 16 entsprechenden Bildabschnitt 16'' den benachbarten Sektor 17 im Anzeigebild verdecken zu lassen. Also contemplated would be the compression of sectors that are free of near-vehicle objects when detecting an object in the sector 16 not to change and the sector 16 corresponding image section 16 '' the neighboring sector 17 in the display image.

Es versteht sich, dass die obige detaillierte Beschreibung und die Zeichnungen zwar bestimmte exemplarische Ausgestaltungen der Erfindung darstellen, dass sie aber nur zur Veranschaulichung gedacht sind und nicht als den Umfang der Erfindung einschränkend ausgelegt werden sollen. Diverse Abwandlungen der beschriebenen Ausgestaltungen sind möglich, ohne den Rahmen der nachfolgenden Ansprüche und deren Äquivalenzbereich zu verlassen. Insbesondere gehen aus dieser Beschreibung und den Figuren auch Merkmale der Ausführungsbeispiele hervor, die nicht in den Ansprüchen erwähnt sind. Solche Merkmale können auch in anderen als den hier spezifisch offenbarten Kombinationen auftreten. Die Tatsache, dass mehrere solche Merkmale in einem gleichen Satz oder in einer anderen Art von Textzusammenhang miteinander erwähnt sind, rechtfertigt daher nicht den Schluss, dass sie nur in der spezifisch offenbarten Kombination auftreten können; stattdessen ist grundsätzlich davon auszugehen, dass von mehreren solchen Merkmalen auch einzelne weggelassen oder abgewandelt werden können, sofern dies die Funktionsfähigkeit der Erfindung nicht in Frage stellt.It should be understood that the foregoing detailed description and drawings, while indicating certain exemplary embodiments of the invention, are intended for purposes of illustration only and are not to be construed as limiting the scope of the invention. Various modifications of the described embodiments are possible without departing from the scope of the following claims and their equivalence range. In particular, this description and the figures also show features of the embodiments which are not mentioned in the claims. Such features may also occur in combinations other than those specifically disclosed herein. Therefore, the fact that several such features are mentioned in the same sentence or in a different type of textual context does not justify the conclusion that they can occur only in the specific combination disclosed; instead, it is generally to be assumed that it is also possible to omit or modify individual ones of several such features, provided this does not call into question the functionality of the invention.

BezugszeichenlisteLIST OF REFERENCE NUMBERS

11
Kraftfahrzeugmotor vehicle
22
Videokameravideo camera
33
Anzeigeschirmdisplay screen
44
Raumwinkelsolid angle
55
BildtransformationseinheitImage transformation unit
66
Richtungdirection
77
Richtungdirection
99
Winkelbereichangle range
1010
Winkelbereichangle range
1111
Rohbildraw image
1212
Sektor des RaumwinkelsSector of solid angle
1414
Abstandssensordistance sensor
1616
Bereich des RohbildesArea of the raw picture
1717
Feldfield
1818
Bildbereichimage area
1919
Bildbereichimage area
2020
Bildbereichimage area
2121
Bildbereichimage area
2222
Anzeigebilddisplay image
2323
Fahrzeugnahes ObjektVehicle-related object

ZITATE ENTHALTEN IN DER BESCHREIBUNG QUOTES INCLUDE IN THE DESCRIPTION

Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant has been generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.

Zitierte PatentliteraturCited patent literature

  • DE 60029335 T2 [0005] DE 60029335 T2 [0005]

Claims (14)

Fahrerassistenzsystem mit einem Kamerasystem (2), das einen Raumwinkel (4) überwacht und wenigstens eine Kamera umfasst, einem Anzeigeschirm (3), einer Bildtransformationseinheit (5) zum Transformieren von Rohbildern des Kamerasystems (2) in Anzeigebilder (12) und Ausgeben der Anzeigebilder (12) an den Anzeigeschirm (3), die eingerichtet ist, für einen Sektor (16) des Raumwinkels (4) zu entscheiden, ob dieser ein fahrzeugnahes Objekt (15) enthält oder nicht, und die Ausdehnung eines diesem Sektor (16) entsprechenden Bildbereichs in einem Anzeigebild (12) anhand des Ergebnisses der Entscheidung festzulegen.Driver assistance system with a camera system ( 2 ), which has a solid angle ( 4 ) and at least one camera, a display screen ( 3 ), an image transformation unit ( 5 ) for transforming raw images of the camera system ( 2 ) in display images ( 12 ) and output the display images ( 12 ) to the display screen ( 3 ), which is set up for a sector ( 16 ) of the solid angle ( 4 ) to decide whether it is a vehicle-related object ( 15 ) or the extension of a sector ( 16 ) corresponding image area in a display image ( 12 ) on the basis of the result of the decision. Fahrerassistenzsystem nach Anspruch 1, bei dem die Bildtransformationseinheit (5) eingerichtet ist, aus den Rohbildern des Kamerasystems (2) zu entscheiden, ob der Sektor (16) des Raumwinkels ein fahrzeugnahes Objekt (15) enthält.Driver assistance system according to claim 1, wherein the image transformation unit ( 5 ), from the raw images of the camera system ( 2 ) to decide whether the sector ( 16 ) of the solid angle, a vehicle-related object ( 15 ) contains. Fahrerassistenzsystem nach einem der vorherigen Ansprüche, bei dem ein Abstandssensor (14) zum Messen des Abstands zu einem in dem Sektor (16) befindlichen Objekt (15) mit der Bildtransformationseinheit (5) verbunden ist.Driver assistance system according to one of the preceding claims, in which a distance sensor ( 14 ) for measuring the distance to one in the sector ( 16 ) ( 15 ) with the image transformation unit ( 5 ) connected is. Fahrerassistenzsystem nach einem der vorherigen Ansprüche, bei der das Kamerasystem (2) einen horizontalen Bildwinkel von größer 90° abbildet.Driver assistance system according to one of the preceding claims, in which the camera system ( 2 ) images a horizontal image angle of greater than 90 °. Fahrerassistenzsystem nach einem der vorherigen Ansprüche, bei dem der Raumwinkel (4) eine zur Fahrtrichtung entgegengesetzte Richtung (6) einschließt.Driver assistance system according to one of the preceding claims, in which the solid angle ( 4 ) a direction opposite to the direction of travel ( 6 ). Fahrerassistenzsystem nach einem der vorherigen Ansprüche, bei dem der Raumwinkel (4) eine zur Fahrtrichtung orthogonale Richtung (7) einschließt.Driver assistance system according to one of the preceding claims, in which the solid angle ( 4 ) a direction orthogonal to the direction of travel ( 7 ). Fahrerassistenzsystem nach einem der vorherigen Ansprüche, bei dem die Ausdehnung des einem ersten Sektor (16) des Raumwinkels (4) entsprechenden ersten Bildbereichs bei Vorhandensein eines fahrzeugnahen Objekts (15) in dem ersten Sektor (16) größer ist als bei Nichtvorhandensein.Driver assistance system according to one of the preceding claims, in which the extent of the first sector ( 16 ) of the solid angle ( 4 ) in the presence of a vehicle-related object ( 15 ) in the first sector ( 16 ) is greater than in the absence. Fahrerassistenzsystem nach Anspruch 7, bei dem die Ausdehnung eines zweiten Bildbereichs, der einem an den ersten Sektor (16) angrenzenden zweiten Sektor (17) des Raumwinkels (4) entspricht, bei Vorhandensein eines fahrzeugnahen Objekts in dem ersten Sektor kleiner ist als bei Nichtvorhandensein.Driver assistance system according to claim 7, in which the extension of a second image area, one to the first sector ( 16 ) adjacent second sector ( 17 ) of the solid angle ( 4 ) is smaller in the presence of a vehicle-related object in the first sector than in the absence. Fahrerassistenzsystem nach Anspruch 7, bei dem die Position eines zweiten Bildbereichs, der einem an den ersten Sektor (16) angrenzenden zweiten Sektor (17) des Raumwinkels (4) entspricht, auf dem Anzeigeschirm vom Vorhandensein eines fahrzeugnahen Objekts (15) in dem ersten Sektor (16) abhängt.Driver assistance system according to claim 7, in which the position of a second image area adjacent to the first sector ( 16 ) adjacent second sector ( 17 ) of the solid angle ( 4 ) corresponds, on the display screen, to the presence of a vehicle-related object ( 15 ) in the first sector ( 16 ) depends. Fahrerassistenzsystem nach einem der vorherigen Ansprüche, bei dem das Kamerasystem (2) mindestens zwei Kameras umfasst.Driver assistance system according to one of the preceding claims, in which the camera system ( 2 ) comprises at least two cameras. Fahrerassistenzsystem nach Anspruch 10, bei dem die zwei Kameras unterschiedliche Brennweiten haben.Driver assistance system according to claim 10, wherein the two cameras have different focal lengths. Verfahren zur Unterstützung des Fahrers eines Fahrzeugs, mit den Schritten: Erfassen eines Rohbildes (11) eines Raumwinkels (4) durch ein Kamerasystem; Entscheiden, ob ein Sektor (16) des Raumwinkels (4) ein fahrzeugnahes Objekt (15) enthält; Transformieren des Rohbildes (11) in ein Anzeigebild (12) und Ausgeben des Anzeigebildes (12) an einen Anzeigeschirm (3); wobei das Transformieren das Festlegen der Ausdehnung eines dem Sektor (16) entsprechenden Bildbereichs in dem Anzeigebild (12) anhand des Ergebnisses der Entscheidung umfasst.Method for assisting the driver of a vehicle, comprising the steps of: acquiring a raw image ( 11 ) of a solid angle ( 4 ) by a camera system; Decide if a sector ( 16 ) of the solid angle ( 4 ) a vehicle-related object ( 15 ) contains; Transform the raw image ( 11 ) into a display image ( 12 ) and outputting the display image ( 12 ) to a display screen ( 3 ); wherein the transforming is determining the extent of a sector ( 16 ) corresponding image area in the display image ( 12 ) based on the result of the decision. Computerprogrammprodukt, welches Instruktionen umfasst, die bei Ausführung auf einem Computer diesen befähigen, als Bildtransformationseinheit in einem Fahrerassistenzsystem nach einem der Ansprüche 1 bis 11 zu arbeiten oder das Verfahren nach Anspruch 12 auszuführen.A computer program product comprising instructions which, when executed on a computer, enable it to operate as an image transformation unit in a driver assistance system according to any one of claims 1 to 11 or to carry out the method of claim 12. Computerlesbarer Datenträger, auf dem Programmanweisungen aufgezeichnet sind, die einen Computer befähigen, als Bildtransformationseinheit in einem Fahrerassistenzsystem nach einem der Ansprüche 1 bis 11 zu arbeiten oder das Verfahren nach Anspruch 12 auszuführen.A computer-readable medium having program instructions recorded thereon enabling a computer to operate as an image transformation unit in a driver assistance system according to any one of claims 1 to 11 or to carry out the method of claim 12.
DE201310014967 2013-09-09 2013-09-09 Driver assistance system for a motor vehicle Withdrawn DE102013014967A1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE201310014967 DE102013014967A1 (en) 2013-09-09 2013-09-09 Driver assistance system for a motor vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE201310014967 DE102013014967A1 (en) 2013-09-09 2013-09-09 Driver assistance system for a motor vehicle

Publications (1)

Publication Number Publication Date
DE102013014967A1 true DE102013014967A1 (en) 2015-03-12

Family

ID=52478240

Family Applications (1)

Application Number Title Priority Date Filing Date
DE201310014967 Withdrawn DE102013014967A1 (en) 2013-09-09 2013-09-09 Driver assistance system for a motor vehicle

Country Status (1)

Country Link
DE (1) DE102013014967A1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200139799A1 (en) * 2017-04-25 2020-05-07 Hutchinson Sealing module for a motor vehicle and mounting thereof

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10221513B4 (en) * 2002-05-14 2004-03-11 Ce-Sys Gmbh Ilmenau Process for displaying images with a changed width-height ratio
DE60029335T2 (en) 1999-10-12 2006-11-16 Matsushita Electric Industrial Co., Ltd., Kadoma MONITORING CAMERA, METHOD FOR ADJUSTING A CAMERA AND VEHICLE MONITORING SYSTEM
DE102009035422A1 (en) * 2009-07-31 2011-02-03 Bayerische Motoren Werke Aktiengesellschaft Method for geometric transformation of image of image sequence generated by infrared camera of motor vehicle, involves transforming source image into virtual, apparent result image, which is received from acquisition perspectives

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE60029335T2 (en) 1999-10-12 2006-11-16 Matsushita Electric Industrial Co., Ltd., Kadoma MONITORING CAMERA, METHOD FOR ADJUSTING A CAMERA AND VEHICLE MONITORING SYSTEM
DE10221513B4 (en) * 2002-05-14 2004-03-11 Ce-Sys Gmbh Ilmenau Process for displaying images with a changed width-height ratio
DE102009035422A1 (en) * 2009-07-31 2011-02-03 Bayerische Motoren Werke Aktiengesellschaft Method for geometric transformation of image of image sequence generated by infrared camera of motor vehicle, involves transforming source image into virtual, apparent result image, which is received from acquisition perspectives

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200139799A1 (en) * 2017-04-25 2020-05-07 Hutchinson Sealing module for a motor vehicle and mounting thereof

Similar Documents

Publication Publication Date Title
DE102012025322B4 (en) Motor vehicle with camera monitor system
EP2484558B1 (en) Display device for fields of vision of a commercial vehicle
EP1211132B1 (en) Device and method for monitoring the environment of a vehicle
EP3512739B1 (en) Method for providing a rear-view-mirror view of the surroundings of a vehicle
DE102018100406A1 (en) Image display device
EP2431226A1 (en) Rear view device for a motor vehicle
DE10132982B4 (en) Device for acquiring optical information
DE102013002111A1 (en) Visual system for vehicles, in particular commercial vehicles
DE102012001554A1 (en) Method for operating a driver assistance device of a motor vehicle, driver assistance device and motor vehicle
WO2016005232A1 (en) Merging of partial images to form an image of surroundings of a mode of transport
DE102010005638A1 (en) Method for indicating image of vehicle surrounding on display unit in vehicle, involves arranging camera at or in outer mirror of vehicle for receiving pictures of vehicle surrounding
DE102009045233A1 (en) Method and device for the combined visual display of video and distance data of a traffic situation
DE102012012501A1 (en) Camera system for a motor vehicle
DE102014224795A1 (en) Method and system for representing a vehicle environment of a motor vehicle on a display device arranged in the motor vehicle
DE102011014368A1 (en) Method and device for an imaging driver assistance system
DE102013214369B4 (en) Method and device for reproducing an area around a vehicle
EP3162635B1 (en) Camera-based display system
EP3268928B1 (en) Method for combining two images of vehicle surroundings of a vehicle, and corresponding device
DE102010033786A1 (en) Method for detecting and displaying areas laterally and laterally behind a vehicle and vehicle with several image acquisition units for detecting areas located laterally next to and laterally behind the vehicle
DE102013014967A1 (en) Driver assistance system for a motor vehicle
EP3833576B1 (en) Surveillance camera system
DE102005003786A1 (en) Surrounding area identification system for motor vehicle has sensor arranged at outer surface of motor vehicle such that side mirror of vehicle lies in field of view of sensor
WO2016096195A1 (en) Camera system and method for visualizing at least one vehicle surroundings region of vehicle surroundings of a vehicle
EP2312525A2 (en) Method and camera system for generating images for transfer to an external control unit
EP2804785B1 (en) Display system for a vehicle

Legal Events

Date Code Title Description
R163 Identified publications notified
R082 Change of representative

Representative=s name: LKGLOBAL ] LORENZ & KOPF PARTG MBB PATENTANWAE, DE

R119 Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee