DE102019216405A1 - Method for preventing personal injury when operating a mobile work machine - Google Patents

Method for preventing personal injury when operating a mobile work machine Download PDF

Info

Publication number
DE102019216405A1
DE102019216405A1 DE102019216405.6A DE102019216405A DE102019216405A1 DE 102019216405 A1 DE102019216405 A1 DE 102019216405A1 DE 102019216405 A DE102019216405 A DE 102019216405A DE 102019216405 A1 DE102019216405 A1 DE 102019216405A1
Authority
DE
Germany
Prior art keywords
work machine
unit
person
image data
control unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
DE102019216405.6A
Other languages
German (de)
Inventor
Matthias Ulrich
Camille Marbach
Carina Engelhart
Ron Xu
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Priority to DE102019216405.6A priority Critical patent/DE102019216405A1/en
Priority to PCT/EP2020/078062 priority patent/WO2021078514A1/en
Publication of DE102019216405A1 publication Critical patent/DE102019216405A1/en
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Forklifts And Lifting Vehicles (AREA)

Abstract

Die Erfindung betrifft ein Verfahren zur Verhinderung von Personenschäden bei einem Betrieb einer mobilen Arbeitsmaschine (10), mit folgenden Schritten:
- Erfassen einer sich an einem äußeren Bereich der Arbeitsmaschine (10) befindenden Person (60) mittels einer Kameraeinheit (12) der Arbeitsmaschine (10), um einer Steuereinheit der Arbeitsmaschine (10) Bilddaten bezüglich der Person (60) bereitzustellen;
- Ermitteln einer Betriebsinformation bezüglich einer Zulässigkeit des Betriebs der Arbeitsmaschine (10) unter Verwendung der bereitgestellten Bilddaten mittels der Steuereinheit; und
- Ausgeben eines Steuersignals an eine Einheit der Arbeitsmaschine (10) in Abhängigkeit von der ermittelten Betriebsinformation mittels der Steuereinheit, um Personenschäden beim Betrieb der mobilen Arbeitsmaschine (10) zu verhindern.

Figure DE102019216405A1_0000
The invention relates to a method for preventing personal injury when operating a mobile work machine (10), comprising the following steps:
- Detecting a person (60) located in an outer region of the work machine (10) by means of a camera unit (12) of the work machine (10) in order to provide a control unit of the work machine (10) with image data relating to the person (60);
- Determination of operating information relating to the admissibility of the operation of the work machine (10) using the image data provided by means of the control unit; and
- Output of a control signal to a unit of the work machine (10) as a function of the ascertained operating information by means of the control unit, in order to prevent personal injury during the operation of the mobile work machine (10).
Figure DE102019216405A1_0000

Description

Die Erfindung betrifft ein Verfahren zur Verhinderung von Personenschäden bei einem Betrieb einer mobilen Arbeitsmaschine, eine Steuereinheit zum Ausführen und/oder Steuern des Verfahrens, ein System mit einer Kameraeinheit und der Steuereinheit, ein Warnsystem mit einer Kameraeinheit, der Steuereinheit und einer Warneinheit sowie eine mobile Arbeitsmaschine nach Gattung der unabhängigen Ansprüche. Gegenstand der vorliegenden Erfindung sind auch ein Computerprogramm und ein maschinenlesbares Speichermedium.The invention relates to a method for preventing personal injury when operating a mobile work machine, a control unit for executing and / or controlling the method, a system with a camera unit and the control unit, a warning system with a camera unit, the control unit and a warning unit and a mobile one Working machine according to the category of the independent claims. The present invention also relates to a computer program and a machine-readable storage medium.

Stand der TechnikState of the art

Die DE 10 2014 218 059 A1 offenbart ein Surround-View-System mit einer Anbaugeräteerkennungsvorrichtung für Fahrzeuge mit Anbaugeräten. Die Anbaugeräteerkennungsvorrichtung kann das Anbaugerät und dessen Abmaße bspw. anhand der Kameradaten des Surround-View-Systems erkennen.The DE 10 2014 218 059 A1 discloses a surround view system with an attachment recognition device for vehicles with attachments. The attachment recognition device can recognize the attachment and its dimensions, for example on the basis of the camera data of the surround view system.

Offenbarung der ErfindungDisclosure of the invention

Gegenstand der vorliegenden Erfindung ist ein Verfahren zur Verhinderung von Personenschäden bei einem Betrieb einer mobilen Arbeitsmaschine.The present invention relates to a method for preventing personal injury when operating a mobile work machine.

Das Verfahren umfasst einen Schritt des Erfassens einer sich an einem äußeren Bereich der Arbeitsmaschine befindenden, insbesondere stehenden, sitzenden oder liegenden, Person mittels einer Kameraeinheit der Arbeitsmaschine, um einer Steuereinheit der Arbeitsmaschine Bilddaten bezüglich der Person bereitzustellen. Bevorzugt umfasst das Verfahren einen Schritt des Übertragens der Bilddaten bezüglich der Person von der Kameraeinheit an die Steuereinheit.The method comprises a step of capturing a person located in an outer area of the work machine, in particular standing, sitting or lying down, by means of a camera unit of the work machine in order to provide a control unit of the work machine with image data relating to the person. The method preferably comprises a step of transmitting the image data relating to the person from the camera unit to the control unit.

Das Verfahren umfasst weiter einen Schritt des Ermittelns einer Betriebsinformation bezüglich einer Zulässigkeit des Betriebs der Arbeitsmaschine unter Verwendung der bereitgestellten Bilddaten mittels der Steuereinheit.The method further comprises a step of determining operating information relating to the admissibility of operating the work machine using the image data provided by means of the control unit.

Das Verfahren umfasst des Weiteren einen Schritt des Ausgebens eines Steuersignals an eine Einheit der Arbeitsmaschine in Abhängigkeit von der ermittelten Betriebsinformation mittels der Steuereinheit, um Personenschäden beim Betrieb der mobilen Arbeitsmaschine bzw. eine Gefährdung der Person an dem äußeren Bereich zu verhindern.The method further comprises a step of outputting a control signal to a unit of the work machine as a function of the ascertained operating information by means of the control unit, in order to prevent personal injury during operation of the mobile work machine or a hazard to the person in the outer area.

Gegenstand der vorliegenden Erfindung ist außerdem eine Steuereinheit zur Verhinderung von Personenschäden bei einem Betrieb einer mobilen Arbeitsmaschine.The present invention also relates to a control unit for preventing personal injury when operating a mobile work machine.

Die Steuereinheit ist eingerichtet, von einer Kameraeinheit der Arbeitsmaschine bereitgestellte Bilddaten bezüglich einer sich an einem äußeren Bereich der Arbeitsmaschine befindenden Person zu empfangen.The control unit is set up to receive image data provided by a camera unit of the work machine relating to a person located in an outer area of the work machine.

Die Steuereinheit ist weiter eingerichtet, eine Betriebsinformation bezüglich einer Zulässigkeit des Betriebs der Arbeitsmaschine unter Verwendung der bereitgestellten Bilddaten zu ermitteln.The control unit is further set up to determine operational information relating to the admissibility of the operation of the work machine using the image data provided.

Die Steuereinheit ist des Weiteren eingerichtet, ein Steuersignal an eine Einheit der Arbeitsmaschine in Abhängigkeit von der ermittelten Betriebsinformation auszugeben, um Personenschäden beim Betrieb der mobilen Arbeitsmaschine zu verhindern.The control unit is also set up to output a control signal to a unit of the work machine as a function of the ascertained operating information, in order to prevent personal injury during the operation of the mobile work machine.

Weiter ist Gegenstand der vorliegenden Erfindung ein Computerprogramm, das dazu eingerichtet ist, alle Schritte des vorangehend beschriebenen Verfahrens zu steuern, sowie ein maschinenlesbares Speichermedium mit dem darauf gespeicherten Computerprogramm.The present invention also relates to a computer program which is set up to control all steps of the method described above, as well as a machine-readable storage medium with the computer program stored thereon.

Gegenstand der vorliegenden Erfindung ist darüber hinaus ein System zur Verhinderung von Personenschäden bei einem Betrieb einer mobilen Arbeitsmaschine. Das System umfasst eine Kameraeinheit, die ausgebildet ist, eine sich an einem äußeren Bereich der Arbeitsmaschine befindenden Person zu erfassen, um einer Steuereinheit der Arbeitsmaschine Bilddaten bezüglich der Person bereitzustellen. Weiter umfasst das System die vorangehend beschriebene Steuereinheit.The present invention also relates to a system for preventing personal injury when a mobile work machine is in operation. The system comprises a camera unit which is designed to detect a person located in an outer region of the work machine in order to provide image data relating to the person to a control unit of the work machine. The system further comprises the control unit described above.

Gegenstand der vorliegenden Erfindung ist außerdem ein Warnsystem zur Verhinderung von Personenschäden bei einem Betrieb einer mobilen Arbeitsmaschine. Das Warnsystem umfasst eine Kameraeinheit, die ausgebildet ist, eine sich an einem äußeren Bereich der Arbeitsmaschine befindende Person zu erfassen, um einer Steuereinheit der Arbeitsmaschine Bilddaten bezüglich der Person bereitzustellen. Weiter umfasst das System eine Warneinheit und die vorangehend beschriebene Steuereinheit zum Ausgeben eines Steuersignals an die Warneinheit.The present invention also relates to a warning system for preventing personal injury when operating a mobile work machine. The warning system comprises a camera unit which is designed to detect a person located in an outer region of the work machine in order to provide a control unit of the work machine with image data relating to the person. The system further comprises a warning unit and the control unit described above for outputting a control signal to the warning unit.

Gegenstand der vorliegenden Erfindung ist darüber hinaus eine mobile Arbeitsmaschine mit dem vorangehend beschriebenen System und/oder dem vorangehend beschriebenen Warnsystem.The present invention also relates to a mobile work machine with the system described above and / or the warning system described above.

Die mobile Arbeitsmaschine kann eine Arbeitsmaschine für landwirtschaftliche, bauwirtschaftliche oder logistische Zwecke sein. Zum Beispiel kann die Arbeitsmaschine ein Flurförderzeug, insbesondere ein Gabelstapler, ein Traktor oder ein Bagger sein.The mobile work machine can be a work machine for agricultural, construction or logistical purposes. For example, the work machine can be an industrial truck, in particular a forklift, a tractor or an excavator.

Die Arbeitsmaschine weist zumindest eine Kameraeinheit auf. Denkbar ist auch, dass die Arbeitsmaschine mehrere, insbesondere zwei, vier, sechs oder mehr als sechs, Kameraeinheiten aufweist. Die mehreren Kameraeinheiten können Teil eines Multi-Kamera-Systems bzw. Surround View Systems der Arbeitsmaschine sein.The work machine has at least one camera unit. It is also conceivable that the work machine has several, in particular two, four, six or more than six camera units. The multiple camera units can be part of a multi-camera system or surround view system of the work machine.

Die Kameraeinheit ist ausgebildet, eine Person an dem äußeren Bereich der Arbeitsmaschine optisch zu erfassen. Dadurch ist die Kameraeinheit ausgebildet, Bilddaten bezüglich der Person an dem äußeren Bereich der Arbeitsmaschine zu erzeugen bzw. bereitzustellen. Das heißt, mit anderen Worten, die mittels der Kameraeinheit erzeugten Bilddaten umfassen zumindest einen Teil der Person. Denkbar ist, dass die Bilddaten die Person vollständig umfassen. Alternativ oder zusätzlich können die Bilddaten zumindest einen Teil des äußeren Bereichs der Arbeitsmaschine umfassen, an dem sich die Person befindet, insbesondere steht, sitzt oder liegt.The camera unit is designed to optically capture a person in the outer area of the work machine. As a result, the camera unit is designed to generate or provide image data relating to the person in the outer area of the work machine. In other words, the image data generated by means of the camera unit include at least part of the person. It is conceivable that the image data completely encompass the person. Alternatively or additionally, the image data can include at least a part of the outer area of the work machine on which the person is located, in particular standing, sitting or lying down.

Die Kameraeinheit kann an einer Karosserie, einem Fahrgestell bzw. einem Aufbau, einem Anbaugerät, einem Arbeitsarm oder einer Hubeinheit der Arbeitsmaschine angeordnet sein. Bevorzugt ist die Kameraeinheit an einer Kontur der Arbeitsmaschine, beispielsweise an einem Dach bzw. Dachholm, an einem Gegengewicht oder beispielsweise an einem oberen Endbereich eines Hubmasts angeordnet.The camera unit can be arranged on a body, a chassis or a structure, an attachment, a working arm or a lifting unit of the working machine. The camera unit is preferably arranged on a contour of the working machine, for example on a roof or roof spar, on a counterweight or, for example, on an upper end region of a lifting mast.

Die Kameraeinheit kann in einer ersten Alternative eine Frontkamera, d.h. eine entlang einer bevorzugt vorgesehenen Fahrtrichtung bzw. vorwärts ausgerichtete Kameraeinheit sein. In einer zweiten Alternative kann die Kameraeinheit eine Rückkamera, d.h. eine entgegen einer bevorzugt vorgesehenen Fahrtrichtung bzw. eine rückwärts ausgerichtete Kameraeinheit sein. In einer dritten Alternative kann die Kameraeinheit eine Seitenkamera sein, d.h. eine quer, insbesondere orthogonal, zu einer bevorzugt vorgesehenen Fahrtrichtung bzw. seitlich ausgerichtete Kameraeinheit. Weist die Arbeitsmaschine mehrere Kameraeinheiten auf, ist eine erste Kameraeinheit bevorzugt eine Frontkamera, eine zweite Kameraeinheit bevorzugt eine Rückkamera. Zusätzlich können weitere Kameraeinheiten bevorzugt an gegenüberliegenden Seiten angeordnete Seitenkameras sein.In a first alternative, the camera unit can be a front camera, i.e. a camera unit oriented along a preferred direction of travel or forwards. In a second alternative, the camera unit can be a rear camera, i.e. a camera unit directed against a preferred intended direction of travel or a rear-facing camera unit. In a third alternative, the camera unit can be a side camera, i.e. a camera unit oriented transversely, in particular orthogonally, to a preferred direction of travel or laterally. If the work machine has several camera units, a first camera unit is preferably a front camera, and a second camera unit is preferably a rear camera. In addition, further camera units can preferably be side cameras arranged on opposite sides.

Die Kameraeinheit kann eine Monokamera oder Stereokamera sein. Die Kameraeinheit kann eine Kamera mit einem Fischaugenobjektiv sein, um einen möglichst großen Winkelbereich einer Arbeitsmaschinenumgebung, insbesondere des äußeren Bereichs der Arbeitsmaschine, zu erfassen. Der mittels der Kameraeinheit erfassbare Winkelbereich kann in horizontaler Richtung beispielsweise eine Größe von 180° aufweisen, um den äußeren Bereich der Arbeitsmaschine möglichst vollständig zu erfassen.The camera unit can be a mono camera or a stereo camera. The camera unit can be a camera with a fisheye lens in order to capture the largest possible angular range of a work machine environment, in particular the outer region of the work machine. The angular range that can be captured by means of the camera unit can have a size of 180 ° in the horizontal direction, for example, in order to capture the outer area of the work machine as completely as possible.

Der äußere Bereich der Arbeitsmaschine kann ein äußerer Bereich an, insbesondere auf, der Arbeitsmaschine sein. Der äußere Bereich kann ein von einem Bedienerbereich der Arbeitsmaschine verschiedener Bereich der Arbeitsmaschine sein. Der äußere Bereich kann ein Bereich der Arbeitsmaschine außerhalb bzw. abseits einer Fahrerkabine bzw. eines Fahrerstands bzw. eines Führerhauses der Arbeitsmaschine sein. Der äußere Bereich kann ein Bereich der Arbeitsmaschine sein, an dem bei bestimmungsgemäßen bzw. ordnungsgemäßem Betrieb der Arbeitsmaschine ein Aufenthalt bzw. Transport einer Person nicht zulässig ist.The outer area of the work machine can be an outer area on, in particular on, the work machine. The outer area can be an area of the work machine that is different from an operator area of the work machine. The outer area can be an area of the work machine outside or apart from a driver's cab or a driver's cab or a driver's cab of the work machine. The outer area can be an area of the work machine in which a person is not permitted to stay or transport when the work machine is operated as intended or properly.

Vorteilhaft ist es, wenn der äußere Bereich der Arbeitsmaschine Teil der Arbeitsmaschine, insbesondere ein Bereich eines Anbaugeräts und/oder einer Motoreinheit und/oder einer Gegengewichtseinheit der Arbeitsmaschine, ist. Der äußere Bereich der Arbeitsmaschine kann ein Heckbereich und/oder ein Frontbereich und/oder ein Seitenbereich der Arbeitsmaschine sein. Zum Beispiel kann der äußere Bereich ein Bereich eines Hubgerüsts und/oder eines Gegengewichts eines Flurförderzeugs sein. Das heißt, mit anderen Worten, der äußere Bereich der Arbeitsmaschine ist ein Bereich an bzw. auf der Arbeitsmaschine. Also befindet sich die Person am äußeren Bereich der Arbeitsmaschine in berührendem Kontakt mit, insbesondere einem Anbaugerät, der Arbeitsmaschine. Insbesondere steht, sitzt, kniet oder liegt die Person auf, insbesondere einem Anbaugerät, der Arbeitsmaschine. Die Person am äußeren Bereich der Arbeitsmaschine bewegt sich bei einer Bewegung der Arbeitsmaschine mit der Arbeitsmaschine entlang derselben Bewegungsrichtung mit. Das heißt, mit anderen Worten, die Relativbewegung zwischen der Person am äußeren Bereich der Arbeitsmaschine und der Arbeitsmaschine kann relativ zu einer Relativbewegung der Arbeitsmaschine und einem weiteren Objekt in einer Arbeitsmaschinenumgebung, bspw. einem Fußgänger, einer weiteren Arbeitsmaschine etc., vernachlässigbar klein bzw. gering sein.It is advantageous if the outer area of the work machine is part of the work machine, in particular an area of an attachment and / or a motor unit and / or a counterweight unit of the work machine. The outer area of the work machine can be a rear area and / or a front area and / or a side area of the work machine. For example, the outer area can be an area of a lifting frame and / or a counterweight of an industrial truck. In other words, the outer area of the work machine is an area on or on the work machine. The person is therefore in touching contact with, in particular an attachment, the work machine on the outer area of the work machine. In particular, the person stands, sits, kneels or lies on, in particular an attachment, of the work machine. When the work machine moves, the person at the outer area of the work machine moves with the work machine along the same direction of movement. In other words, the relative movement between the person at the outer area of the work machine and the work machine can be negligibly small or negligible relative to a relative movement of the work machine and another object in a work machine environment, for example a pedestrian, another work machine, etc. be low.

Der Bereich des Anbaugeräts kann das Anbaugerät und/oder eine mittels des Anbaugeräts transportierte Vorrichtung umfassen. Denkbar ist, dass der Bereich des Anbaugeräts eine mittels eines Gabelstaplers transportierte Palette oder eine mittels eines Gabelstaplers transportierte Arbeitsbühne umfasst. Der Bereich der Motoreinheit kann einen Bereich auf einer Abdeckung der Motoreinheit umfassen, bspw. eine Motorhaube bzw. Kühlerhaube eines Traktors. Der Bereich der Gegengewichtseinheit kann einen Bereich auf einer Abdeckung der Gegengewichtseinheit, bspw. eines Gabelstaplers oder eines Baggers, umfassen.The area of the attachment can comprise the attachment and / or a device transported by means of the attachment. It is conceivable that the area of the attachment comprises a pallet transported by means of a forklift truck or a work platform transported by means of a forklift truck. The area of the engine unit can comprise an area on a cover of the engine unit, for example an engine hood or radiator hood of a tractor. The area of the counterweight unit can comprise an area on a cover of the counterweight unit, for example a forklift or an excavator.

Durch diese Ausgestaltung können Bereiche der Arbeitsmaschine, an denen sich häufig Personen unzulässigerweise aufhalten bzw. an denen häufig Personen mittels der Arbeitsmaschine unzulässigerweise transportiert werden, gezielt überprüft und Gefährdungen dieser Personen reduziert werden.With this configuration, areas of the work machine in which people are frequently inadmissible or in which people are frequently inadmissibly transported by means of the work machine can be specifically checked and risks to these people can be reduced.

Unter einem Betrieb bzw. einer Betriebsweise bzw. einem Betreiben der mobilen Arbeitsmaschine kann eine mittels der Arbeitsmaschine selbst erzeugte Bewegung der Arbeitsmaschine und/oder eines Teils der Arbeitsmaschine verstanden werden. Der Betrieb der Arbeitsmaschine kann auch ein Ausführen eines Arbeitsschrittes oder eines Arbeitsprozesses mittels der Arbeitsmaschine und/oder eines Teils der Arbeitsmaschine sein. Der Betrieb der Arbeitsmaschine kann weiter das Aktivieren bzw. Starten bzw. Anlassen einer Motoreinheit umfassen. Denkbar ist auch, dass der Betrieb der Arbeitsmaschine lediglich eine räumliche Bewegung eines Fahrgestells bzw. eines Unterwagens der Arbeitsmaschine umfasst. Der Teil der Arbeitsmaschine kann ein Anbaugerät und/oder eine Hubeinheit und/oder ein Arbeitsarm der Arbeitsmaschine sein.An operation or mode of operation or operation of the mobile work machine can be understood to mean a movement of the work machine and / or a part of the work machine generated by the work machine itself. The operation of the work machine can also be the execution of a work step or a work process by means of the work machine and / or a part of the work machine. The operation of the work machine can further include the activation or starting or starting of a motor unit. It is also conceivable that the operation of the work machine comprises only a spatial movement of a chassis or an undercarriage of the work machine. The part of the working machine can be an attachment and / or a lifting unit and / or a working arm of the working machine.

Die Betriebsinformation bezüglich der Zulässigkeit des Betriebs der Arbeitsmaschine umfasst eine Information, ob der Betrieb der Arbeitsmaschine zulässig, eingeschränkt zulässig oder unzulässig ist. Das heißt, mit anderen Worten, die Betriebsinformation umfasst eine Information, ob ein Betreiben der Arbeitsmaschine in Anwesenheit der Person in dem äußeren Bereich der Arbeitsmaschine zulässig, eingeschränkt zulässig oder unzulässig ist.The operating information relating to the permissibility of the operation of the working machine includes information as to whether the operation of the working machine is permissible, permissible to a limited extent, or not permissible. That is to say, in other words, the operating information includes information as to whether an operation of the work machine in the presence of the person in the outer region of the work machine is permitted, restrictedly permitted, or not permitted.

Unter einem zulässigen Betrieb der Arbeitsmaschine kann ein ordnungsgemäßer bzw. bestimmungsgemäßer bzw. durch Gesetze und/oder Vorschriften erlaubter Betrieb der Arbeitsmaschine verstanden werden. Ein eingeschränkt zulässiger Betrieb der Arbeitsmaschine kann ein zulässiger Betrieb der Arbeitsmaschine sein, der auf eine oder mehrere vorgegebene Betriebsarten oder Betriebsmodi eingeschränkt ist. Hierbei ist denkbar, dass der Betrieb der Arbeitsmaschine bezüglich zumindest einer der folgenden vorgegebenen und/oder vorgebbaren Arbeitsmaschinenparameter eingeschränkt ist: Geschwindigkeit, Beschleunigung, räumliche Position etc. Zum Beispiel kann der Betrieb insofern eingeschränkt zulässig sein, als dass der Betrieb nur für Geschwindigkeiten und/oder Beschleunigungen kleiner oder gleich einem jeweiligen Grenzwert zulässig ist. Ein unzulässiger Betrieb der Arbeitsmaschine kann ein ordnungswidriger bzw. nicht-bestimmungsgemäßer bzw. durch Gesetze und/oder Vorschriften untersagter bzw. verbotener Betrieb der Arbeitsmaschine sein.Permissible operation of the work machine can be understood to mean proper or intended operation of the work machine or operation of the work machine permitted by laws and / or regulations. A restricted permissible operation of the work machine can be a permissible operation of the work machine that is restricted to one or more predefined operating modes or operating modes. It is conceivable that the operation of the machine is restricted with regard to at least one of the following specified and / or specifiable machine parameters: speed, acceleration, spatial position, etc. For example, the operation can be restricted to the extent that the operation is only permitted for speeds and / or or accelerations less than or equal to a respective limit value is permissible. Inadmissible operation of the machine can be an improper or improper operation or operation of the machine that is prohibited or prohibited by laws and / or regulations.

Denkbar ist, dass ein Betrieb der Arbeitsmaschine unzulässig ist, wenn sich eine Person an bzw. in dem äußeren Bereich der Arbeitsmaschine befindet. Zum Beispiel kann ein Betrieb eines Gabelstaplers unzulässig sein, wenn sich eine Person auf einer mittels des Gabelstaplers transportierten Palette oder auf einem Gegengewicht des Gabelstaplers befindet. Ein Betrieb eines Traktors kann beispielsweise unzulässig sein, wenn sich eine Person an bzw. auf einer Ladefläche bzw. einer Pritsche des Traktors befindet.It is conceivable that operation of the work machine is inadmissible if a person is on or in the outer area of the work machine. For example, a forklift truck may not be operated if a person is on a pallet transported by the forklift truck or on a counterweight of the forklift truck. Operation of a tractor may, for example, be inadmissible if a person is at or on a loading area or a flatbed of the tractor.

Denkbar ist weiter, dass ein Betrieb der Arbeitsmaschine zulässig ist, wenn sich eine Person an bzw. in dem äußeren Bereich der Arbeitsmaschine befindet. Zum Beispiel kann ein Betrieb eines Gabelstaplers zulässig sein, wenn sich eine Person an bzw. auf einer mittels des Gabelstaplers transportierten Arbeitsbühne bzw. einem mittels des Gabelstaplers transportierten Sicherheitskorb befindet. Ein Betrieb eines Traktors kann beispielsweise zulässig sein, wenn sich eine Person auf einer tragflächenartigen Plattform eines als Gurkenflieger ausgebildeten Traktors befindet.It is also conceivable that operation of the work machine is permissible when a person is at or in the outer area of the work machine. For example, a forklift truck can be operated if a person is at or on a work platform transported by the forklift truck or a safety basket transported by the forklift truck. A tractor can be operated, for example, if a person is on a wing-like platform of a tractor designed as a cucumber flier.

Das Ermitteln der Betriebsinformation kann einen Schritt des Prüfens umfassen, ob der Betrieb der Arbeitsmaschine in Anwesenheit der Person an dem äußeren Bereich der Arbeitsmaschine zulässig, eingeschränkt zulässig oder unzulässig ist. Hierbei kann in einer an der Steuereinheit, abseits der Steuereinheit an der Arbeitsmaschine oder abseits der Arbeitsmaschine, bspw. einer Servereinheit oder einem Cloud-Computing-System, angeordneten Speichereinheit eine Information bezüglich des Betriebs der Arbeitsmaschine in Anwesenheit einer Person an dem äußeren Bereich gespeichert sein. Diese gespeicherte Information kann im Schritt des Ermittelns der Betriebsinformation und/oder im Schritt des Prüfens mittels der Steuereinheit ausgelesen bzw. empfangen werden. Das heißt, mit anderen Worten, zum Ermitteln der Betriebsinformation kann eine anhand der Kamerabilder der Kameraeinheit erfasste Gefährdungssituation der Person mit vorgegebenen und/oder vorgebbaren, insbesondere gespeicherten, Betriebsdaten der Arbeitsmaschine verglichen werden, um die Zulässigkeit des Betriebs zu ermitteln bzw. zu prüfen.The determination of the operating information can include a step of checking whether the operation of the work machine in the presence of the person at the outer area of the work machine is permitted, restrictedly permitted or not permitted. In this case, information relating to the operation of the working machine in the presence of a person can be stored in a storage unit arranged on the control unit, away from the control unit on the work machine or away from the work machine, e.g. a server unit or a cloud computing system . This stored information can be read out or received in the step of determining the operating information and / or in the step of checking by means of the control unit. In other words, in order to determine the operating information, a hazardous situation of the person detected using the camera images of the camera unit can be compared with predefined and / or predefinable, in particular stored, operating data of the work machine in order to determine or check the permissibility of the operation.

Unter der Verwendung der bereitgestellten Bilddaten zum Ermitteln der Betriebsinformation kann eine Verwendung von Rohbilddaten und/oder von bearbeiteten Bilddaten der Kameraeinheit verstanden werden. Denkbar ist auch, dass zum Ermitteln der Betriebsinformation die zuvor ausgewerteten bzw. analysierten Bilddaten der Kameraeinheit verwendet werden. Bevorzugt werden die Bilddaten der Kameraeinheit zum Ermitteln der Betriebsinformation in Form eines Analyseergebnisses eines auf die Bilddaten angewandten Algorithmus zur Personenerkennung verwendet.The use of the image data provided to determine the operating information can be understood to mean the use of raw image data and / or processed image data of the camera unit. It is also conceivable that the previously evaluated or analyzed image data of the camera unit are used to determine the operating information. The image data of the camera unit are preferably used to determine the operating information in the form of an analysis result of an algorithm for person recognition applied to the image data.

Das ausgegebene Steuersignal kann ein drahtlos oder drahtgebundenes, insbesondere elektronisches, Signal sein. Das Steuersignal kann die ermittelte Betriebsinformation umfassen.The output control signal can be a wireless or wired, in particular electronic, signal. The control signal can include the ascertained operating information.

Die Abhängigkeit des Ausgebens des Steuersignals von der ermittelten Betriebsinformation kann eine Abhängigkeit bezüglich der Ausgebens oder Nichtausgebens des Steuersignals und/oder bezüglich der das Steuersignal empfangenden Einheit und/oder bezüglich einer von dem Steuersignal umfassten Information sein.The dependency of the outputting of the control signal on the ascertained operating information can be a dependency with regard to outputting or non-outputting of the control signal and / or with regard to the unit receiving the control signal and / or with regard to information comprised by the control signal.

Denkbar ist, dass bei Zulässigkeit des Betriebs der Arbeitsmaschine kein Steuersignal oder ein als Freigabesignal ausgebildetes Steuersignal an die Einheit ausgegeben wird, um bspw. eine Motoreinheit der Arbeitsmaschine zu starten und/oder eine räumliche Bewegung der Arbeitsmaschine als Ganzes zuzulassen und/oder eine Bremseinheit der Arbeitsmaschine zu deaktivieren bzw. zu lösen. Denkbar ist weiter, dass bei Unzulässigkeit des Betriebs der Arbeitsmaschine ein als Warnsignal ausgebildetes Steuersignal und/oder ein als Stoppsignal ausgebildetes Steuersignal und/oder ein als Sperrsignal ausgebildetes Steuersignal an die Einheit ausgegeben wird, um bspw. eine Warneinheit und/oder eine Bremseinheit der Arbeitsmaschine zu aktivieren und/oder eine Motoreinheit der Arbeitsmaschine zu drosseln und/oder zu deaktivieren und/oder ein Starten der Motoreinheit zu verhindern. Denkbar ist ferner, dass bei eingeschränkter Zulässigkeit des Betriebs der Arbeitsmaschine ein als Beschränkungssignal ausgebildetes Steuersignal an die Einheit ausgegeben wird, um bspw. mittels Steuern der Motoreinheit und/oder der Bremseinheit eine Geschwindigkeit und/oder eine Beschleunigung der Arbeitsmaschine zu beschränken.It is conceivable that if the operation of the work machine is permitted, no control signal or a control signal designed as a release signal is output to the unit, for example in order to start a motor unit of the work machine and / or to allow spatial movement of the work machine as a whole and / or a braking unit of the To deactivate or to solve the working machine. It is also conceivable that if the operation of the working machine is inadmissible, a control signal in the form of a warning signal and / or a control signal in the form of a stop signal and / or a control signal in the form of a blocking signal is output to the unit, for example, to a warning unit and / or a braking unit of the working machine to activate and / or throttle and / or deactivate a motor unit of the working machine and / or prevent the motor unit from starting. It is also conceivable that if the operation of the work machine is restricted, a control signal designed as a restriction signal is output to the unit in order, for example, to limit a speed and / or an acceleration of the work machine by controlling the motor unit and / or the brake unit.

Vorteilhaft ist es hierbei, wenn das Verfahren einen Schritt des Steuerns der Einheit der Arbeitsmaschine unter Verwendung des ausgegebenen Steuersignals aufweist, wobei die Einheit insbesondere zumindest eine aus der Gruppe von Antriebseinheit, Bremseinheit, Warneinheit ist. Das heißt, die Arbeitsmaschine umfasst eine Einheit, die mittels des ausgegebenen Steuersignals ansteuerbar ist. Mittels des ausgegebenen Steuersignals kann eine Antriebsleistung und/oder eine Geschwindigkeit und/oder eine Beschleunigung der Arbeitsmaschine nach oben hin begrenzt bzw. beschränkt. Mittels des ausgegebenen Steuersignals kann eine akustische und/oder optische und/oder haptische Warneinheit der Arbeitsmaschine aktiviert werden. Durch diese Ausgestaltung können Personenschäden beim Betrieb der Arbeitsmaschine besonders effektiv verhindert werden.It is advantageous here if the method has a step of controlling the unit of the work machine using the output control signal, the unit being in particular at least one from the group of drive unit, brake unit, warning unit. That is to say, the work machine comprises a unit which can be controlled by means of the output control signal. By means of the output control signal, a drive power and / or a speed and / or an acceleration of the work machine can be limited or restricted at the top. An acoustic and / or optical and / or haptic warning unit of the work machine can be activated by means of the output control signal. With this configuration, personal injuries can be prevented particularly effectively during the operation of the machine.

Die Steuereinheit kann ein oder mehrere Recheneinheiten aufweisen. Weiter kann die Recheneinheit eine Ausgabeeinheit umfassen. Die Steuereinheit ist an der Arbeitsmaschine angeordnet. Die mehreren Recheneinheiten können räumlich verteilt an der Arbeitsmaschine angeordnet sein. Denkbar ist, dass die Steuereinheit eine an der Kameraeinheit der Arbeitsmaschine angeordnete Recheneinheit und eine abseits der Kameraeinheit angeordnete weitere Recheneinheit umfasst. Die weitere Recheneinheit kann im Bereich einer Bedienerkabine der Arbeitsmaschine angeordnet sein. Hierbei kann die Ausgabeeinheit ebenfalls im Bereich der Bedienerkabine angeordnet sein. Denkbar ist auch, dass die weitere Recheneinheit Teil der Ausgabeeinheit ist.The control unit can have one or more computing units. The computing unit can furthermore comprise an output unit. The control unit is arranged on the work machine. The multiple computing units can be arranged spatially distributed on the work machine. It is conceivable that the control unit comprises a processing unit arranged on the camera unit of the work machine and a further processing unit arranged away from the camera unit. The further computing unit can be arranged in the area of an operator's cabin of the work machine. The output unit can also be arranged in the area of the operator's cabin. It is also conceivable that the further computing unit is part of the output unit.

Unter einem Personenschaden kann eine Verletzung oder der Tod einer Person infolge eines Unfalls bzw. bei einem Unfall verstanden werden.Personal injury can be understood to mean an injury or death of a person as a result of an accident or an accident.

Durch das erfindungsgemäße Verfahren und die erfindungsgemäße Steuereinheit ist es nunmehr möglich, einen nicht ordnungsgemäßen Transport von Personen an bzw. auf einer mobilen Arbeitsmaschine zu verhindern. Durch die gezielte Überwachung von äußeren Bereichen der Arbeitsmaschine können durch ein Herunterfallen von der Arbeitsmaschine gefährdete Personen frühzeitig erkannt und der Betrieb der Arbeitsmaschine entsprechend eingeschränkt oder unterbunden werden. Somit wird eine bestimmungsgemäße und sichere Betriebsweise der Arbeitsmaschine gewährleistet.With the method according to the invention and the control unit according to the invention, it is now possible to prevent improper transport of people to or on a mobile work machine. Through the targeted monitoring of outer areas of the work machine, people at risk of falling from the work machine can be recognized early and the operation of the work machine can be restricted or prevented accordingly. This ensures that the machine is operated safely and in accordance with its intended purpose.

Vorteilhaft ist es weiter, wenn das Verfahren einen Schritt des Ermittelns einer Personeninformation bezüglich einer Relativbewegung der erfassten Person relativ zu der mobilen Arbeitsmaschine und/oder einer Position und/oder einer Körperhaltung der erfassten Person unter Verwendung der bereitgestellten Bilddaten mittels der Steuereinheit und/oder einer weiteren Recheneinheit der Arbeitsmaschine umfasst, wobei die Betriebsinformation unter Berücksichtigung der ermittelten Personeninformation ermittelt wird. Denkbar ist, dass die Personeninformation eine Information umfasst, ob die erfasste Person an der Arbeitsmaschine angeordnet ist.It is also advantageous if the method includes a step of determining personal information relating to a relative movement of the recorded person relative to the mobile work machine and / or a position and / or a posture of the recorded person using the image data provided by means of the control unit and / or a further computing unit of the work machine, wherein the operating information is determined taking into account the personal information determined. It is conceivable that the personal information includes information as to whether the recorded person is located on the work machine.

Die Relativbewegung der erfassten Person relativ zu der Arbeitsmaschine kann eine Bewegung zwischen der erfassten Person und der Arbeitsmaschine sein, die einen räumlichen Abstand zwischen der Person und der Arbeitsmaschine vergrößert oder verkleinert. Die Personeninformation bezüglich der Relativbewegung kann also die Information umfassen, dass sich die Person relativ zu der Arbeitsmaschine bewegt oder nicht bewegt. Eine fehlende bzw. vernachlässigbar geringe Relativbewegung zwischen Person und Arbeitsmaschine kann beispielsweise mittels Auswertung von zeitlich aufeinanderfolgenden Bilddaten hinsichtlich eines optischen Flusses der Person in den Bilddaten ermittelt werden. Ist der optische Fluss null oder hinreichend klein, bewegt sich die Person relativ zu der Arbeitsmaschine nicht.The relative movement of the detected person relative to the work machine can be a movement between the detected person and the work machine, which increases or decreases a spatial distance between the person and the work machine. The personal information relating to the relative movement can thus include the information that the person is moving or not moving relative to the work machine. A missing or negligibly small relative movement between the person and the work machine can be determined, for example, by evaluating temporally successive image data with regard to an optical flow of the person in the image data. If the optical flow is zero or sufficiently small, the person does not move relative to the work machine.

Also kann das Ermitteln der Personeninformation ein Ermitteln einer Relativbewegung zwischen der Person und der Arbeitsmaschine bzw. ein Ermitteln, ob eine Relativbewegung zwischen der Person und der Arbeitsmaschine vorliegt, umfassen. Bevorzugt umfasst das Verfahren einen Schritt des Auswertens von zeitlich aufeinanderfolgenden Bilddaten der Kameraeinheit hinsichtlich eines optischen Flusses der Person in den Bilddaten, um die Relativbewegung der Person relativ zu der Kameraeinheit und damit zu der Arbeitsmaschine zu ermitteln. Anhand eines Vorzeichens des optischen Flusses der Person kann eine Bewegungsrichtung der Person relativ zu der Arbeitsmaschine ermittelt werden.Thus, determining the personal information can include determining a relative movement between the person and the work machine or determining whether there is a relative movement between the person and the work machine. The method preferably comprises a step of evaluating temporally successive image data from the camera unit with regard to an optical flow of the person in the image data in order to determine the relative movement of the person relative to the camera unit and thus to the work machine. A direction of movement of the person relative to the work machine can be determined on the basis of a sign of the person's optical flow.

Die Position der erfassten Person kann einen Abstand und/oder eine Relativposition der erfassten Person zu der Kameraeinheit und/oder der Arbeitsmaschine sein. Die Relativposition der Person kann eine Relativposition innerhalb eines vorgegebenen und/oder vorgebbaren Detektions- bzw. Erfassungsbereich und/oder einer Region of Interest bzw. eines zu überprüfenden bzw. zu überwachenden Bereichs relativ zu der Arbeitsmaschine sein. Der Abstand und/oder die Relativposition kann unter Verwendung der Bilddaten der Kameraeinheit ermittelt oder zumindest abgeschätzt werden, wenn die Kameraeinheit bzw. ein Multi-Kamera-System mit der Kameraeinheit vor einem, insbesondere erstmaligem Betrieb und/oder während eines Betriebs der Arbeitsmaschine kalibriert wird, d.h. wenn eine Zuordnung zwischen Kamerapixel und Entfernung relativ zur Arbeitsmaschine ermittelt und festgelegt wird. Hierbei ist die Anordnung bzw. Position der Kameraeinheit an der Arbeitsmaschine kalibriert und damit bspw. in einem Koordinatensystem der Arbeitsmaschine bekannt.The position of the captured person can be a distance and / or a relative position of the captured person to the camera unit and / or the work machine. The relative position of the person can be a relative position within a predefined and / or predefinable detection or acquisition area and / or a region of interest or an area to be checked or monitored relative to the work machine. The distance and / or the relative position can be determined or at least estimated using the image data of the camera unit if the camera unit or a multi-camera system is calibrated with the camera unit before, in particular for the first time, and / or during operation of the work machine , ie when an association between camera pixels and distance is determined and established relative to the work machine. Here, the arrangement or position of the camera unit on the work machine is calibrated and thus known, for example, in a coordinate system of the work machine.

Die Körperhaltung der erfassten Person kann ein Stehen, ein Liegen, ein Knien oder ein Sitzen der erfassten Person sein.The posture of the recorded person can be standing, lying, kneeling or sitting of the recorded person.

Zum Ermitteln der Personeninformation kann ein Algorithmus zur Objekterkennung, bspw. basierend auf einem „Convolutional Neural Network“, auf einem „Change Detection“-Algorithmus oder einem „Optical Flow“-Algorithmus, verwendet werden.To determine the personal information, an algorithm for object recognition, for example based on a “convolutional neural network”, on a “change detection” algorithm or an “optical flow” algorithm, can be used.

Unter einem „Convolutional Neural Network“-Algorithmus kann ein computerimplementierter Algorithmus basierend auf einem neuronalen Netz verstanden werden, der mittels Referenzbilddaten trainiert wird. Hierbei können einzelne oder mehrere Bilder analysiert bzw. ausgewertet werden.A “convolutional neural network” algorithm can be understood as a computer-implemented algorithm based on a neural network that is trained using reference image data. Here, single or multiple images can be analyzed or evaluated.

Unter einem „Change Detection“-Algorithmus kann ein computerimplementierter Algorithmus verstanden werden, der auf einer Auswertung bzw. Analyse einer Veränderung von zeitlich aufeinanderfolgenden Bilddaten basiert. Hierbei wird bevorzugt eine Merkmalstransformation auf die Bilddaten angewendet und ein pixelweiser Vergleich zwischen den zeitlich aufeinanderfolgenden Bilddaten durchgeführt. Der „Change Detection“-Algorithmus ist besonders zur Personenerkennung in Bilddaten geeignet, wenn die Kameraeinheit sich in Ruhe bzw. im Stillstand befindet.A “change detection” algorithm can be understood as a computer-implemented algorithm that is based on an evaluation or analysis of a change in temporally successive image data. In this case, a feature transformation is preferably applied to the image data and a pixel-by-pixel comparison is carried out between the temporally successive image data. The "Change Detection" algorithm is particularly suitable for recognizing people in image data when the camera unit is at rest or at a standstill.

Unter einem „Optical Flow“-Algorithmus kann ein computerimplementierter Algorithmus verstanden werden, der bevorzugt auf einer Auswertung eines optischen Flusses in aufeinanderfolgenden Bilddaten basiert. Der „Optical Flow“-Algorithmus ist besonders zur Personenerkennung in Bilddaten geeignet, wenn die Kameraeinheit sich in Bewegung befindet.An “optical flow” algorithm can be understood as a computer-implemented algorithm which is preferably based on an evaluation of an optical flow in successive image data. The “Optical Flow” algorithm is particularly suitable for recognizing people in image data when the camera unit is in motion.

Denkbar ist, dass die Personeninformation unter Verwendung eines vorgegebenen und/oder vorgebbaren Teilbildbereichs der Bilddaten erfolgt. Hierbei kann der Teilbildbereich der Bilddaten demjenigen Bereich der Bilddaten entsprechen, der einer sich an dem äußeren Bereich der Arbeitsmaschine befindenden Person zugänglich ist. Das heißt, mit anderen Worten, beim Ermitteln der Personeninformation können Teilbildbereich der Bilddaten unberücksichtigt bleiben, die einen Teilbereich der Arbeitsmaschinenumgebung repräsentieren, der einer sich an dem äußeren Bereich der Arbeitsmaschine befindenden Person nicht zugänglich ist bzw. von ihr nicht ohne Verlassen des äußeren Bereichs eingenommen werden kann. Dadurch benötigt das Verfahren zur Ausführung weniger Rechenleistung, wodurch eine Person im äußeren Bereich schneller und zuverlässiger erkannt werden kann.It is conceivable that the personal information is provided using a predefined and / or predeterminable partial image area of the image data. Here, the partial image area of the image data can correspond to that area of the image data that is accessible to a person located in the outer area of the work machine. In other words, when determining the personal information, partial image areas of the image data can be disregarded, which represent a partial area of the work machine environment that is not accessible to a person located on the outer area of the work machine or that is not occupied by a person without leaving the outer area can be. As a result, the method requires less computing power for execution, as a result of which a person in the outer area can be recognized more quickly and more reliably.

Von Vorteil ist es, wenn die Personeninformation unter Berücksichtigung der Geschwindigkeitsinformation bezüglich der Geschwindigkeit der Arbeitsmaschine ermittelt wird. Denkbar ist, dass der zum Ermitteln der Personeninformation verwendete Algorithmus abhängig von der Geschwindigkeitsinformation ausgewählt wird. Bevorzugt erfolgt das Ermitteln der Personeninformation basierend auf einem „Change Detection“-Algorithmus, wenn die Arbeitsmaschine steht bzw. sich nicht fortbewegt. Weiter bevorzugt erfolgt das Ermitteln der Personeninformation basierend auf dem „Optical-Flow“-Algorithmus, wenn die Arbeitsmaschine sich fortbewegt.It is advantageous if the personal information is determined taking into account the speed information relating to the speed of the work machine. It is conceivable that the algorithm used to determine the personal information is selected as a function of the speed information. The personal information is preferably ascertained based on a “change detection” algorithm when the work machine is stationary or is not moving. The personal information is also preferably determined based on the “optical flow” algorithm when the work machine is moving.

Die Geschwindigkeitsinformation kann beispielsweise von einem Motorsteuergerät der Arbeitsmaschine oder einem Geschwindigkeitssensor der Arbeitsmaschine an die Steuereinheit übertragen werden. Alternativ oder zusätzlich kann die Geschwindigkeitsinformation unter Verwendung von Bilddaten der Kameraeinheit und basierend auf einer Auswertung eines optischen Flusses in den Bilddaten ermittelt werden.The speed information can be transmitted to the control unit, for example, from an engine control device of the work machine or a speed sensor of the work machine. Alternatively or additionally, the speed information can be determined using image data from the camera unit and based on an evaluation of an optical flow in the image data.

Durch diese Ausgestaltung kann besonders gut zwischen einer erfassten Person am äußeren Bereich der Arbeitsmaschine und einer erfassten Person abseits bzw. außerhalb des äußeren Bereichs der Arbeitsmaschine unterschieden werden, wodurch das Verfahren eine besonders hohe Zuverlässigkeit aufweist.This refinement makes it possible to distinguish particularly well between a detected person on the outer area of the work machine and a detected person away from or outside the outer area of the work machine, as a result of which the method is particularly reliable.

Vorteilhaft ist es darüber hinaus, wenn die Personeninformation ferner unter Auswertung der bereitgestellten Bilddaten hinsichtlich einer Größe zumindest eines Körperteils der Person ermittelt wird. Das Körperteil der Person kann ein Oberkörper, ein Unterkörper, ein Kopf, ein Arm oder ein Bein der Person sein. Denkbar ist auch, dass die Personeninformation unter Auswertung der bereitgestellten Bilddaten hinsichtlich einer Größe des Körpers der Person ermittelt wird. Durch Vergleich der ermittelten Größe mit einer typischen Größe eines Erwachsenen, die beispielsweise in einer Speichereinheit der Steuereinheit gespeichert ist, kann ein Abstand der Person relativ zur Arbeitsmaschine ermittelt werden. Zusätzlich kann anhand einer Größenveränderung zumindest des Körperteils der Person eine Bewegung der Person relativ zu der Arbeitsmaschine ermittelt werden. Wird die Person in aufeinanderfolgenden Bildern der Kameraeinheit größer, bewegt sie sich auf die Kameraeinheit zu. Wird die Person in aufeinanderfolgenden Bildern der Kameraeinheit kleiner, entfernt sie sich von der Kameraeinheit. Durch diese Ausgestaltung kann die Unterscheidbarkeit zwischen einer erfassten Person am äußeren Bereich der Arbeitsmaschine und einer erfassten Person abseits bzw. außerhalb des äußeren Bereichs der Arbeitsmaschine ebenfalls verbessert werden.It is also advantageous if the personal information is also determined by evaluating the image data provided with regard to a size of at least one body part of the person. The body part of the person can be an upper body, a lower body, a head, an arm or a leg of the person. It is also conceivable that the personal information is determined by evaluating the image data provided with regard to a size of the person's body. By comparing the determined size with a typical size of an adult, which is stored, for example, in a memory unit of the control unit, a distance of the person relative to the work machine can be determined. In addition, a change in size of at least the body part of the person can be used to determine a movement of the person relative to the work machine. If the person becomes larger in successive images of the camera unit, they will move towards the camera unit. If the person becomes smaller in successive images of the camera unit, they move away from the camera unit. This refinement can also improve the ability to distinguish between a detected person on the outer area of the work machine and a detected person away from or outside the outer area of the work machine.

Vorteilhaft ist es des Weiteren, wenn die Betriebsinformation unter Berücksichtigung eines Arbeitsmaschinenparameters, insbesondere eines Anbaugeräteparameters, ermittelt wird. Der Arbeitsmaschinenparameter kann eine Geschwindigkeit und/oder eine Fahrtrichtung und/oder ein Last- bzw. Ladezustand der Arbeitsmaschine sein. Der Arbeitsmaschineparameter kann auch räumliche Abmessungen der Arbeitsmaschine umfassen. Der Anbaugeräteparameter kann ein Typ und/oder eine Anbauposition und/oder einer Ausrichtung und/oder einer Arbeitsposition und/oder ein räumliches Abmaß eines an der Arbeitsmaschine angebauten Anbaugeräts umfassen.It is also advantageous if the operating information is determined taking into account a work machine parameter, in particular an attachment parameter. The work machine parameter can be a speed and / or a direction of travel and / or a load or charge state of the work machine. The work machine parameter can also include spatial dimensions of the work machine. The attachment parameter can include a type and / or an attachment position and / or an orientation and / or a working position and / or a spatial dimension of an attachment attached to the work machine.

Der Typ des Anbaugeräts kann beispielsweise der Typ „Zum Personentransport zugelassenes Anbaugerät“ oder der Typ „Zum Personentransport nicht zugelassenes Anbaugerät“ sein. Der Typ des Anbaugeräts kann bspw. auch „Arbeitskorb“ sein. Der Typ des Anbaugeräts kann auch einen Typ der mittels des Anbaugeräts transportieren Ladung, bspw. Palette, sein. Die Anbauposition kann eine Position des Anbaugeräts an der Arbeitsmaschine, bspw. an einer in Fahrtrichtung vorderen und/oder seitlichen und/oder hinteren Seite der Arbeitsmaschine sein. Die Ausrichtung des Anbaugeräts kann eine Ausrichtung des Anbaugeräts entlang und/oder entgegen und/oder quer zu einer Fahrtrichtung der Arbeitsmaschine sein. Die Arbeitsposition des Anbaugeräts kann einen Abstand und/oder eine Höhe des Anbaugeräts relativ zu der Arbeitsmaschine umfassen, bspw. die Höhe eines Gabelträgers am Gabelstapler.The type of attachment can be, for example, the type "Attachment approved for passenger transport" or the type "Attachment not approved for passenger transport". The type of attachment can also be, for example, "work basket". The type of attachment can also be a type of load transported by means of the attachment, for example a pallet. The attachment position can be a position of the attachment on the work machine, for example on a front and / or side and / or rear side of the work machine in the direction of travel. The alignment of the attachment can be an alignment of the attachment along and / or opposite and / or transversely to a direction of travel of the work machine. The working position of the attachment can include a distance and / or a height of the attachment relative to the work machine, for example the height of a fork carrier on the forklift.

Denkbar ist, dass zum Ermitteln der Betriebsinformation zumindest ein Wert des Arbeitsmaschinenparameters mittels der Steuereinheit ausgelesen und/oder empfangen wird. Bevorzugt wird ein Wert des Arbeitsmaschinenparameters beim Ermitteln der Betriebsinformation berücksichtigt, wenn der Betrieb der Arbeitsmaschine in Anwesenheit der Person an dem äußeren Bereich eingeschränkt zulässig ist, d.h. für erste vorgegebene und/oder vorgebbare Werte des Arbeitsmaschinenparameters zulässig und/oder für zweite vorgegebene und/oder vorgebbare Werte des Arbeitsmaschinenparameters unzulässig ist. Die Betriebsinformation kann also davon abhängen, in welchem von zumindest zwei vorgegebenen und/oder vorgebbaren Wertebereichen ein empfangener, bspw. aktueller, Wert des Arbeitsmaschinenparameters liegt.It is conceivable that at least one value of the work machine parameter is read out and / or received by means of the control unit in order to determine the operating information. A value of the work machine parameter is preferably taken into account when determining the operating information if the operation of the work machine in the presence of the person in the outer area is permitted to a limited extent, ie permissible for first specified and / or specifiable values of the work machine parameter and / or for second specified and / or specifiable values of the machine parameter is not allowed. The operating information can therefore depend on which of at least two predefined and / or predefinable value ranges a received, for example current, value of the work machine parameter lies.

Denkbar ist auch, dass die Betriebsinformation unter Berücksichtigung von mehreren Werte eines Arbeitsparameters und/oder je eines Wertes von mehreren Arbeitsparametern und/oder von mehreren Werten mehrere Arbeitsparameter abhängt. Zum Beispiel kann die Betriebsinformation von einer aktuellen Geschwindigkeit und einem Typ des Anbaugeräts abhängen. Zusätzlich kann die Betriebsinformation bspw. von einer Fahrtrichtung der Arbeitsmaschine und/oder einer Arbeitsposition eines Anbaugeräts abhängen.It is also conceivable that the operating information, taking into account several values of a working parameter and / or one value in each case, depends on several working parameters and / or on several values of several working parameters. For example, the operating information can depend on a current speed and a type of implement. In addition, the operating information can depend, for example, on a direction of travel of the work machine and / or a working position of an attachment.

Der Arbeitsmaschinenparameter kann in einer Speichereinheit der Steuereinheit gespeichert sein. Alternativ oder zusätzlich kann der Arbeitsmaschinenparameter über eine genormte Schnittstelle wie ISOBUS (CAN) an die Steuereinheit übertragen werden. Durch diese Ausgestaltung kann das Verfahren eine aktuelle oder vorgesehene Betriebsweise der Arbeitsmaschine berücksichtigen, sodass das Verfahren für besonders viele Arbeitsmaschine einsetzbar ist.The work machine parameter can be stored in a storage unit of the control unit. Alternatively or additionally, the machine parameters can be transmitted to the control unit via a standardized interface such as ISOBUS (CAN). With this configuration, the method can take into account a current or intended mode of operation of the work machine, so that the method can be used for a particularly large number of work machines.

Von Vorteil ist auch ein Computerprogrammprodukt oder Computerprogramm mit Programmcode, der auf einem maschinenlesbaren Träger oder Speichermedium wie einem Halbleiterspeicher, einem Festplattenspeicher oder einem optischen Speicher gespeichert sein kann und zur Durchführung, Umsetzung und/oder Ansteuerung der Schritte des Verfahrens nach einer der vorstehend beschriebenen Ausführungsformen verwendet wird, insbesondere wenn das Programmprodukt oder Programm auf einem Computer oder einer Vorrichtung ausgeführt wird.A computer program product or computer program with program code, which can be stored on a machine-readable carrier or storage medium such as a semiconductor memory, a hard disk or an optical memory, and for carrying out, converting and / or controlling the steps of the method according to one of the above, is also advantageous Embodiments described is used, in particular when the program product or program is executed on a computer or a device.

Im Folgenden soll die Erfindung anhand der Zeichnung näher erläutert werden.The invention is to be explained in more detail below with reference to the drawing.

Dazu zeigen

  • 1 eine schematische Darstellung eines Gabelstaplers;
  • 2 den Gabelstapler gemäß 1;
  • 3 eine weitere schematische Darstellung eines Gabelstaplers; und
  • 4 ein Ablaufdiagramm eines Verfahrens zur Verhinderung von Personenschäden bei einem Betrieb einer mobilen Arbeitsmaschine.
To show
  • 1 a schematic representation of a forklift;
  • 2 the forklift according to 1 ;
  • 3 a further schematic representation of a forklift truck; and
  • 4th a flowchart of a method for preventing personal injury when operating a mobile work machine.

In der nachfolgenden Beschreibung bevorzugter Ausführungsbeispiele der vorliegenden Erfindung werden für die in den verschiedenen Figuren dargestellten und ähnlich wirkenden Elemente gleiche oder ähnliche Bezugszeichen verwendet, wobei auf eine wiederholte Beschreibung der Elemente verzichtet wird.In the following description of preferred exemplary embodiments of the present invention, the same or similar reference numerals are used for the elements shown in the various figures and having a similar effect, a repeated description of the elements being dispensed with.

1 zeigt eine Darstellung einer als Gabelstapler 10 ausgebildeten Arbeitsmaschine 10. Der Gabelstapler 10 weist eine erste Kameraeinheit 12, eine zweite Kameraeinheit 14, eine dritte Kameraeinheit 16 und eine vierte Kameraeinheit 18 auf, um mittels der Kameraeinheiten 12, 14, 16, 18 eine Umgebung des Gabelstaplers 10 zu erfassen. Weiter umfasst der Gabelstapler 10 eine Steuereinheit 20 und eine nicht dargestellte Anzeigeeinheit. 1 shows an illustration of a forklift truck 10 trained work machine 10 . The forklift 10 has a first camera unit 12th , a second camera unit 14th , a third camera unit 16 and a fourth camera unit 18th to by means of the camera units 12th , 14th , 16 , 18th an environment of the forklift 10 capture. The forklift also includes 10 a control unit 20th and an unillustrated display unit.

Die Kameraeinheiten 12, 14, 16, 18 sind jeweils als CMOS-Kameras 12, 14, 16, 18 mit einem Erfassungsbereich bzw. Field of View von größer 180° in horizontaler und von größer als 90° in vertikaler Richtung ausgebildet.The camera units 12th , 14th , 16 , 18th are each called CMOS cameras 12th , 14th , 16 , 18th formed with a detection area or field of view of greater than 180 ° in the horizontal and greater than 90 ° in the vertical direction.

Die erste Kamera 12 ist an einem vorderen Dachholm 22 des Gabelstaplers 10 angeordnet und auf einen vorderen Teilbereich der Arbeitsmaschinenumgebung ausgerichtet. Alternativ kann die erste Kamera 12 auch an, insbesondere einem vorderen, Bereich des Hubmasts des Gabelstaplers 10 angeordnet sein. Somit ist die erste Kamera 12 als Frontkamera 12 ausgebildet. Die zweite Kamera 14 und die vierte Kamera 18 sind an gegenüberliegenden seitlichen Dachholmen 24, 28 des Gabelstaplers 10 angeordnet und jeweils auf einen seitlichen Teilbereich der Arbeitsmaschinenumgebung ausgerichtet. Somit sind die zweite und die vierte Kamera 14, 18 als Seitenkameras 14, 18 ausgebildet. Die dritte Kamera 16 ist an einem hinteren Dachholm 26 des Gabelstaplers 10 angeordnet und auf einen hinteren Teilbereich der Arbeitsmaschinenumgebung ausgerichtet. Aufgrund ihrer Anordnung ermöglichen die Kameras 12, 14, 16, 18 eine 360°-Umfelderfassung des Gabelstaplers 10.The first camera 12th is on a front roof spar 22nd of the forklift 10 arranged and aligned with a front portion of the work machine environment. Alternatively, the first camera 12th also on, in particular a front, area of the lift mast of the forklift truck 10 be arranged. So is the first camera 12th as a front camera 12th educated. The second camera 14th and the fourth camera 18th are on opposite side roof pillars 24 , 28 of the forklift 10 arranged and each aligned on a lateral sub-area of the work machine environment. So there are the second and fourth cameras 14th , 18th as side cameras 14th , 18th educated. The third camera 16 is on a rear roof spar 26th of the forklift 10 arranged and aligned to a rear portion of the work machine environment. Because of their arrangement, the cameras allow 12th , 14th , 16 , 18th 360 ° coverage of the forklift's surroundings 10 .

Die Steuereinheit 20 ist im Bereich einer Fahrerkabine des Gabelstaplers 10 angeordnet. Die Steuereinheit 20 ist mit jeder der vier Kameras 12, 14, 16, 18 mittels je einer drahtgebundenen elektronischen Verbindung 32, 34, 36, 38 verbunden. Mittels der Verbindungen 32, 34, 36, 38 werden Bilddaten der Kameras 12, 14, 16, 18 an die Steuereinheit 20 übertragen. Weiter ist die Steuereinheit 20 mittels einer weiteren nicht dargestellten drahtgebundenen elektronischen Verbindung mit der Anzeigeeinheit verbunden. Weiter ist die Steuereinheit 20 optional auch mit einer Arbeitsmaschinenschnittstelle und/oder einer Anbaugeräteschnittstelle drahtgebunden elektronisch verbunden.The control unit 20th is in the area of a driver's cab of the forklift 10 arranged. The control unit 20th is with each of the four cameras 12th , 14th , 16 , 18th by means of a wired electronic connection each 32 , 34 , 36 , 38 connected. By means of the connections 32 , 34 , 36 , 38 are image data from the cameras 12th , 14th , 16 , 18th to the control unit 20th transfer. Next is the control unit 20th connected to the display unit by means of a further wired electronic connection, not shown. Next is the control unit 20th optionally also electronically connected by wire to a work machine interface and / or an attachment interface.

2 zeigt eine Darstellung des Gabelstapler 10 gemäß 1. Hierbei sind zusätzlich die Erfassungsbereiche 42, 44, 46, 48 der Kameras 12, 14, 16, 18 dargestellt. Die Erfassungsbereiche 42, 44, 46, 48 von benachbart an dem Gabelstapler 10 angeordneten Kameras 12, 14, 16, 18 überlappen teilweise und bilden einen Überlappungsbereich 43, 45, 49 aus. Beispielsweise wird ein Objekt in dem Überlappungsbereich 43 sowohl von der Frontkamera 12 als auch von der Seitenkamera 14 erfasst. 2 shows an illustration of the forklift 10 according to 1 . The detection areas are also included here 42 , 44 , 46 , 48 the cameras 12th , 14th , 16 , 18th shown. The detection areas 42 , 44 , 46 , 48 from adjacent to the forklift 10 arranged cameras 12th , 14th , 16 , 18th partially overlap and form an overlap area 43 , 45 , 49 out. For example, an object is in the overlap area 43 both from the front camera 12th as well as from the side camera 14th detected.

3 zeigt eine weitere Darstellung einer als Gabelstapler 10 ausgebildeten Arbeitsmaschine 10. Der Gabelstapler 10 gemäß 3 weist einen Hubmast 50 mit einem Gabelträger 52 und Gabelzinken 54 auf. Der Gabelstapler 10 transportiert mittels der Gabelzinken 54 eine Palette 56. 3 shows another representation of a forklift truck 10 trained work machine 10 . The forklift 10 according to 3 has a mast 50 with a fork carriage 52 and forks 54 on. The forklift 10 transported by means of the forks 54 a pallet 56 .

An dem Hubmast 12 ist eine Kamera 12 angeordnet. Die Kamera 12 ist an einem oberen Bereich des Hubmastes 50 angeordnet und entlang einer bevorzugten Fahrtrichtung des Gabelstaplers 10 ausgerichtet. Dadurch ist die Kamera 12 ausgebildet und angeordnet, eine sich an einem äußeren Bereich des Gabelstaplers 10 befindende, nämlich auf der Palette 56 stehende, Person 60 zu erfassen.At the mast 12th is a camera 12th arranged. The camera 12th is at the top of the mast 50 arranged and along a preferred direction of travel of the forklift 10 aligned. This is the camera 12th formed and arranged, one on an outer region of the forklift 10 located, namely on the pallet 56 standing, person 60 capture.

In diesem Ausführungsbeispiel erfasst die Kamera sowohl die Person 60 als auch die Palette 56. Das heißt, mit anderen Worten, ein Kamerabild der Kamera umfasst bzw. zeigt sowohl die Person 60 als auch die Palette 56. Dadurch kann anhand des Kamerabilds die Personeninformation ermittelt werden, dass sich die Person 60 an dem äußeren Bereich des Gabelstaplers 10 befindet, nämlich auf der Palette 56 steht.In this exemplary embodiment, the camera captures both the person 60 as well as the palette 56 . In other words, a camera image of the camera includes or shows both the person 60 as well as the palette 56 . In this way, the personal information can be determined on the basis of the camera image that the person is 60 on the exterior of the forklift 10 located, namely on the pallet 56 stands.

Denkbar ist, dass in einem alternativen Ausführungsbeispiel die Kamera 12 derart an der Arbeitsmaschine angeordnet, dass zwar die Person 60 auf der Palette 56, die Palette 56 selbst zumindest in manchen Transportpositionen des Gabelträgers 52 jedoch nicht mittels der Kamera 12 erfassbar ist. In diesem Fall kann beispielsweise anhand einer fehlenden Relativbewegung zwischen Person 60 und Gabelstapler 10 und/oder anhand einer Größe eines Körpers oder Kopfes der Person 60 darauf geschlossen werden, dass sich die Person 60 auf der Palette 56 befindet. Eine fehlende Relativbewegung zwischen Person 60 und Gabelstapler 10 kann mittels Auswertung der Kamerabilder hinsichtlich eines optischen Flusses von Person 60 und Gabelstapler 10 in zeitlich aufeinanderfolgenden Kamerabildern ermittelt werden.It is conceivable that in an alternative embodiment, the camera 12th so arranged on the work machine that although the person 60 on the pallet 56 , the palette 56 even at least in some transport positions of the fork carriage 52 but not by means of the camera 12th is detectable. In this case, for example, on the basis of a lack of relative movement between people 60 and forklifts 10 and / or based on a size of a body or head of the person 60 it can be concluded that the person 60 on the pallet 56 is located. A lack of relative movement between people 60 and forklifts 10 can by evaluating the camera images with regard to an optical flow of people 60 and forklifts 10 can be determined in chronologically successive camera images.

Der Gabelstapler 10 gemäß 3 weist in Analogie zum Gabelstapler 10 gemäß 1 eine nicht dargestellte Steuereinheit auf, um Personenschäden beim Betrieb des Gabelstaplers 10 zu verhindern. Diese Steuereinheit ist ebenfalls im Bereich einer Bedienerkabine des Gabelstaplers 10 angeordnet.The forklift 10 according to 3 points in analogy to the forklift 10 according to 1 a control unit, not shown, to avoid personal injury when operating the forklift 10 to prevent. This control unit is also in the area of an operator's cabin of the forklift truck 10 arranged.

Die Steuereinheit ist eingerichtet, von der Kamera 12 des Gabelstaplers 10 bereitgestellte Bilddaten umfassend die Person 60 zu empfangen. Die Bilddaten können einzelne Bilder oder Videodaten sein. Die Bilddaten können mittels eines Algorithmus zur Objekterkennung analysiert werden, um die Person 60 in den Bilddaten als Person zu erkennen bzw. zu klassifizieren.The control unit is set up by the camera 12th of the forklift 10 provided image data comprising the person 60 to recieve. The image data can be individual images or video data. The image data can be analyzed by means of an algorithm for object recognition in order to identify the person 60 to recognize or classify as a person in the image data.

Die Steuereinheit ist weiter eingerichtet, eine Betriebsinformation bezüglich einer Zulässigkeit des Betriebs des Gabelstaplers 10 unter Verwendung der bereitgestellten Bilddaten zu ermitteln. Hierzu ist die Steuereinheit eingerichtet, auf in einer Speichereinheit der Steuereinheit gespeicherte Betriebsinformationen hinsichtlich einer Zulässigkeit des Betriebs des Gabelstaplers 10 in Anwesenheit einer Person 60 an bzw. auf dem Anbaugerät, insbesondere den Gabelzinken 54 und/oder der Palette 56, auszulesen.The control unit is also set up to provide operational information relating to the admissibility of the operation of the forklift truck 10 using the image data provided. For this purpose, the control unit is set up to access operating information stored in a memory unit of the control unit with regard to the admissibility of the operation of the forklift truck 10 in the presence of a person 60 on or on the attachment, especially the fork arms 54 and / or the pallet 56 to read out.

Die Steuereinheit ist des Weiteren eingerichtet, ein Steuersignal an eine optische Warneinheit des Gabelstaplers 10 und/oder an eine Feststellbremse des Gabelstaplers 10 auszugeben, wenn der Betrieb des Gabelstaplers 10 in Anwesenheit der Person 60 auf der Palette 56 unzulässig ist, um einen Fahrer des Gabelstaplers 10 an einer Fortbewegung mit dem Gabelstapler 10 zu hindern. Denkbar ist auch, dass die Steuereinheit eingerichtet ist, das Steuersignal an die Hubeinheit des Gabelstaplers 10 auszugeben, um eine Bewegung des Gabelträgers 52 mit der Palette 56 relativ zum Gabelstapler 10 zu verhindern.The control unit is also set up to send a control signal to an optical warning unit of the forklift 10 and / or to a parking brake of the forklift 10 output when operating the forklift 10 in the presence of the person 60 on the pallet 56 is not allowed to be a driver of the forklift 10 getting around with a forklift 10 to prevent. It is also conceivable that the control unit is set up to send the control signal to the lifting unit of the forklift 10 output to a movement of the fork carriage 52 with the pallet 56 relative to the forklift 10 to prevent.

4 zeigt ein Ablaufdiagramm eines Verfahrens zur Verhinderung von Personenschäden bei einem Betrieb einer mobilen Arbeitsmaschine. Das Verfahren ist in seiner Gesamtheit mit dem Bezugszeichen 100 versehen. 4th shows a flow chart of a method for preventing personal injury when operating a mobile work machine. The procedure is in its entirety with the reference number 100 Mistake.

Das Verfahren 100 kann ausgeführt werden, während sich die Arbeitsmaschine sich in Bewegung befindet bzw. bei einer Fahrt der Arbeitsmaschine. Alternativ oder zusätzlich kann das Verfahren 100 auch ausgeführt werden, wenn die Arbeitsmaschine steht und sich nicht fortbewegt. Das Verfahren 100 kann auch bei einem oder bevorzugt jedem Start der Arbeitsmaschine ausgeführt werden.The procedure 100 can be performed while the work machine is in motion or while the work machine is moving. Alternatively or additionally, the method 100 can also be carried out when the work machine is stationary and not moving. The procedure 100 can also be carried out on one or, preferably, every start of the work machine.

Die Arbeitsmaschine kann bspw. der Gabelstapler 10 gemäß 1 sein.The working machine can, for example, be the forklift 10 according to 1 be.

In Schritt 110 wird eine sich an einem äußeren Bereich der Arbeitsmaschine befindenden Person mittels einer Kameraeinheit der Arbeitsmaschine erfasst. Der äußere Bereich ist ein Bereich eines Anbaugeräts der Arbeitsmaschine. Hierbei werden mittels der Kameraeinheit Bilddaten erzeugt, welche zumindest einen Teil der Person abbilden bzw. repräsentieren. Bevorzugt umfassen die Bilddaten das Anbaugerät oder zumindest Teile des Anbaugeräts. Denkbar ist, dass das Anbaugerät relativ zur Arbeitsmaschine bewegbar ist und das Anbaugerät nur für bestimmte Relativpositionen zwischen Anbaugerät und Arbeitsmaschine mittels der Kameraeinheit erfasst werden kann.In step 110 a person located in an outer area of the work machine is detected by means of a camera unit of the work machine. The outer area is an area of an attachment of the work machine. In this case, image data are generated by means of the camera unit, which image or represent at least part of the person. The image data preferably include the attachment or at least parts of the attachment. It is conceivable that the attachment can be moved relative to the work machine and the attachment can only be detected by means of the camera unit for certain relative positions between the attachment and the work machine.

In Schritt 120 werden die Bilddaten einer Recheneinheit der Arbeitsmaschine bereitgestellt. Hierbei ist die Recheneinheit im Bereich der Kameraeinheit angeordnet und Teil einer Steuereinheit der Arbeitsmaschine. Die Recheneinheit kann beispielsweise eine in die Kameraeinheit integrierte Recheneinheit sein.In step 120 the image data are provided to a computing unit of the work machine. Here, the computing unit is arranged in the area of the camera unit and is part of a control unit of the work machine. The computing unit can be, for example, a computing unit integrated into the camera unit.

In Schritt 130 wird eine Personeninformation bezüglich einer Relativbewegung und einer Position der erfassten Person unter Verwendung der bereitgestellten Bilddaten mittels der Recheneinheit der Steuereinheit ermittelt. Hierzu wird die Person mittels eines Algorithmus zur Objekterkennung in den Bilddaten anhand der Personenkontur erkannt bzw. als Person klassifiziert. Weiterhin wird der optische Fluss der Person in aufeinanderfolgenden Bilddaten ermittelt, um festzustellen, ob sich die Person relativ zu der Arbeitsmaschine bewegt. Hierzu wird bei Stillstand der Arbeitsmaschine ein „Change Detection“-Algorithmus und bei Bewegung der Arbeitsmaschine ein „Optical Flow“-Algorithmus verwendet. Ferner wird die Position der erfassten Person anhand der der Person entsprechenden Pixel in den Kameradaten ermittelt bzw. abgeschätzt, basierend auf einer vor Ausführung des Verfahrens 100 durchgeführten Kalibrierung der Kameraeinheit.In step 130 personal information relating to a relative movement and a position of the recorded person is determined using the image data provided by means of the computing unit of the control unit. For this purpose, the person is recognized or classified as a person by means of an algorithm for object recognition in the image data on the basis of the person's contour. Furthermore, the optical flow of the person is determined in successive image data in order to determine whether the person is moving relative to the work machine. For this purpose, a “change detection” algorithm is used when the machine is at a standstill and an “optical flow” algorithm is used when the machine is in motion. Furthermore, the position of the recorded person is determined or estimated using the pixels corresponding to the person in the camera data, based on a prior execution of the method 100 performed calibration of the camera unit.

In Schritt 140 wird die ermittelte Personeninformation von der Recheneinheit der Steuereinheit an eine weitere Recheneinheit übertragen. Hierbei ist die weitere Recheneinheit im Bereich einer Bedienerkabine der Arbeitsmaschine angeordnet und Teil der Steuereinheit der Arbeitsmaschine.In step 140 the personal information determined by the computing unit of the control unit transferred to another processing unit. Here, the further computing unit is arranged in the area of an operator's cabin of the work machine and is part of the control unit of the work machine.

In Schritt 150 wird eine Betriebsinformation bezüglich einer Zulässigkeit des Betriebs der Arbeitsmaschine unter Verwendung der bereitgestellten Bilddaten mittels der weiteren Recheneinheit ermittelt. Hierbei werden die bereitgestellten Bilddaten in Form der ermittelten Personeninformation von der weiteren Recheneinheit verwendet. Beim Ermitteln der Betriebsinformation wird ein Arbeitsmaschinenparameter berücksichtigt, der eine aktuelle Geschwindigkeit der Arbeitsmaschine, eine aktuelle Fahrtrichtung der Arbeitsmaschine und eine Relativposition des Anbaugeräts zur Arbeitsmaschine umfasst.In step 150 operating information relating to the admissibility of operating the work machine is determined using the image data provided by means of the further computing unit. The image data provided are used by the further processing unit in the form of the personal information determined. When determining the operating information, a work machine parameter is taken into account, which includes a current speed of the work machine, a current direction of travel of the work machine and a relative position of the attachment to the work machine.

In Schritt 160 wird die ermittelte Betriebsinformation von der weiteren Recheneinheit an eine Ausgabeeinheit der Steuereinheit übertragen.In step 160 the determined operating information is transmitted from the further processing unit to an output unit of the control unit.

In Schritt 170 wird mittels der Ausgabeeinheit ein Steuersignal an eine Einheit der Arbeitsmaschine in Abhängigkeit von der ermittelten Betriebsinformation ausgegeben. Die Einheit ist ein als optische Warneinheit ausgebildetes und an der Bedienerkabine angeordnetes Display. Alternativ oder zusätzlich kann die Einheit eine Motoreinheit und/oder eine Bremseinheit der Arbeitsmaschine sein. In step 170 a control signal is output by means of the output unit to a unit of the work machine as a function of the ascertained operating information. The unit is a display designed as an optical warning unit and arranged on the operator's cabin. Alternatively or additionally, the unit can be a motor unit and / or a brake unit of the work machine.

In Schritt 180 wird unter Verwendung des ausgegebenen Steuersignals die Einheit der Arbeitsmaschine gesteuert, um Personenschäden beim Betrieb der mobilen Arbeitsmaschine zu verhindern. In diesem Ausführungsbeispiel wird eine optische Warnung an den Fahrer der Arbeitsmaschine mittels des Displays ausgegeben, wenn der Betrieb der Arbeitsmaschine bei Aufenthalt der Person an dem äußeren Bereich unzulässig ist. Bevorzugt erfolgt in diesem Fall zusätzlich ein Eingriff in die Feststellbremse der Arbeitsmaschine, um ein Anfahren der Arbeitsmaschine automatisiert zu verhindern.In step 180 the unit of the work machine is controlled using the output control signal in order to prevent personal injury during the operation of the mobile work machine. In this exemplary embodiment, a visual warning is output to the driver of the work machine by means of the display if the operation of the work machine is inadmissible when the person is in the outer area. In this case, the parking brake of the work machine is preferably also intervened in order to automatically prevent the work machine from starting up.

Umfasst ein Ausführungsbeispiel eine „und/oder“-Verknüpfung zwischen einem ersten Merkmal und einem zweiten Merkmal, so ist dies so zu lesen, dass das Ausführungsbeispiel gemäß einer Ausführungsform sowohl das erste Merkmal als auch das zweite Merkmal und gemäß einer weiteren Ausführungsform entweder nur das erste Merkmal oder nur das zweite Merkmal aufweist.If an exemplary embodiment comprises an “and / or” link between a first feature and a second feature, this is to be read in such a way that the exemplary embodiment according to one embodiment includes both the first feature and the second feature and, according to a further embodiment, either only the has the first feature or only the second feature.

ZITATE ENTHALTEN IN DER BESCHREIBUNGQUOTES INCLUDED IN THE DESCRIPTION

Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant was generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.

Zitierte PatentliteraturPatent literature cited

  • DE 102014218059 A1 [0002]DE 102014218059 A1 [0002]

Claims (12)

Verfahren (100) zur Verhinderung von Personenschäden bei einem Betrieb einer mobilen Arbeitsmaschine (10), mit folgenden Schritten: - Erfassen (110) einer sich an einem äußeren Bereich der Arbeitsmaschine (10) befindenden Person (60) mittels einer Kameraeinheit (12, 14, 16, 18) der Arbeitsmaschine (10), um einer Steuereinheit (20) der Arbeitsmaschine (10) Bilddaten bezüglich der Person (60) bereitzustellen; - Ermitteln (150) einer Betriebsinformation bezüglich einer Zulässigkeit des Betriebs der Arbeitsmaschine (10) unter Verwendung der bereitgestellten Bilddaten mittels der Steuereinheit (20); und - Ausgeben (170) eines Steuersignals an eine Einheit der Arbeitsmaschine (10) in Abhängigkeit von der ermittelten Betriebsinformation mittels der Steuereinheit (20), um Personenschäden beim Betrieb der mobilen Arbeitsmaschine (10) zu verhindern.Method (100) for preventing personal injury when operating a mobile work machine (10), comprising the following steps: - Detection (110) of a person (60) located in an outer area of the work machine (10) by means of a camera unit (12, 14, 16, 18) of the work machine (10) to a control unit (20) of the work machine (10) Provide image data relating to the person (60); - Determination (150) of operating information relating to the admissibility of the operation of the work machine (10) using the provided image data by means of the control unit (20); and - Outputting (170) a control signal to a unit of the work machine (10) as a function of the ascertained operating information by means of the control unit (20) in order to prevent personal injury during the operation of the mobile work machine (10). Verfahren (100) nach Anspruch 1, dadurch gekennzeichnet, dass der äußere Bereich der Arbeitsmaschine (10) Teil der Arbeitsmaschine (10), insbesondere ein Bereich eines Anbaugeräts (52, 54) und/oder einer Motoreinheit und/oder einer Gegengewichtseinheit der Arbeitsmaschine (10), ist.Method (100) according to Claim 1 , characterized in that the outer area of the work machine (10) is part of the work machine (10), in particular an area of an attachment (52, 54) and / or a motor unit and / or a counterweight unit of the work machine (10). Verfahren (100) nach Anspruch 1 oder 2, gekennzeichnet durch einen Schritt des Ermittelns (130) einer Personeninformation bezüglich einer Relativbewegung der erfassten Person (60) relativ zu der Arbeitsmaschine (10) und/oder einer Position und/oder einer Körperhaltung der erfassten Person (60) unter Verwendung der bereitgestellten Bilddaten mittels der Steuereinheit (20) und/oder einer weiteren Recheneinheit der Arbeitsmaschine (10), wobei die Betriebsinformation unter Berücksichtigung der ermittelten Personeninformation ermittelt wird.Method (100) according to Claim 1 or 2 , characterized by a step of determining (130) personal information relating to a relative movement of the captured person (60) relative to the work machine (10) and / or a position and / or a posture of the captured person (60) using the provided image data by means of the control unit (20) and / or a further computing unit of the work machine (10), the operating information being determined taking into account the personal information determined. Verfahren (100) nach Anspruch 3, dadurch gekennzeichnet, dass die Personeninformation ferner unter Auswertung der bereitgestellten Bilddaten hinsichtlich einer Größe zumindest eines Körperteils der Person (60) ermittelt wird.Method (100) according to Claim 3 , characterized in that the personal information is further determined by evaluating the image data provided with regard to a size of at least one body part of the person (60). Verfahren (100) nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die Betriebsinformation unter Berücksichtigung eines Arbeitsmaschinenparameters, insbesondere eines Anbaugeräteparameters, ermittelt wird.Method (100) according to one of the preceding claims, characterized in that the operating information is determined taking into account a work machine parameter, in particular an attachment parameter. Verfahren (100) nach einem der vorherigen Ansprüche, gekennzeichnet durch einen Schritt des Steuerns (180) der Einheit der Arbeitsmaschine (10) unter Verwendung des ausgegebenen Steuersignals, wobei die Einheit insbesondere zumindest eine aus der Gruppe von Antriebseinheit, Bremseinheit, Warneinheit ist.The method (100) according to any one of the preceding claims, characterized by a step of controlling (180) the unit of the work machine (10) using the output control signal, wherein the unit is in particular at least one from the group of drive unit, brake unit, warning unit. Computerprogramm, das eingerichtet ist, das Verfahren (100) nach einem der Ansprüche 1 bis 6 zu steuern.Computer program which is set up, the method (100) according to one of the Claims 1 to 6th to control. Maschinenlesbares Speichermedium, auf dem das Computerprogramm nach Anspruch 7 gespeichert ist.Machine-readable storage medium on which the computer program is based Claim 7 is stored. Steuereinheit (20) zur Verhinderung von Personenschäden bei einem Betrieb einer mobilen Arbeitsmaschine (10), wobei die Steuereinheit (20) eingerichtet ist, - von einer Kameraeinheit (12, 14, 16, 18) der Arbeitsmaschine (10) bereitgestellte Bilddaten bezüglich einer sich an einem äußeren Bereich der Arbeitsmaschine (10) befindenden Person (60) zu empfangen, - eine Betriebsinformation bezüglich einer Zulässigkeit des Betriebs der Arbeitsmaschine (10) unter Verwendung der bereitgestellten Bilddaten zu ermitteln, und - ein Steuersignal an eine Einheit der Arbeitsmaschine (10) in Abhängigkeit von der ermittelten Betriebsinformation auszugeben, um Personenschäden beim Betrieb der mobilen Arbeitsmaschine (10) zu verhindern.Control unit (20) for preventing personal injury when operating a mobile work machine (10), the control unit (20) being set up - to receive image data provided by a camera unit (12, 14, 16, 18) of the work machine (10) relating to a person (60) located in an outer area of the work machine (10), - to determine operational information relating to the admissibility of the operation of the work machine (10) using the image data provided, and - To output a control signal to a unit of the work machine (10) as a function of the operating information ascertained in order to prevent personal injury during the operation of the mobile work machine (10). System zur Verhinderung von Personenschäden bei einem Betrieb einer mobilen Arbeitsmaschine (10) umfassend - eine Kameraeinheit (12, 14, 16, 18), die ausgebildet ist, eine sich an einem äußeren Bereich der Arbeitsmaschine (10) befindende Person (60) zu erfassen, um einer Steuereinheit (20) der Arbeitsmaschine (10) Bilddaten bezüglich der Person (60) bereitzustellen, und - die Steuereinheit (20) gemäß Anspruch 9.A system for preventing personal injury during operation of a mobile work machine (10) comprising a camera unit (12, 14, 16, 18) which is designed to detect a person (60) located in an outer region of the work machine (10) in order to provide image data relating to the person (60) to a control unit (20) of the work machine (10), and - the control unit (20) according to FIG Claim 9 . Warnsystem zur Verhinderung von Personenschäden bei einem Betrieb einer mobilen Arbeitsmaschine (10) umfassend - eine Kameraeinheit (12, 14, 16, 18), die ausgebildet ist, eine sich an einem äußeren Bereich der Arbeitsmaschine (10) befindende Person (60) zu erfassen, um einer Steuereinheit (20) der Arbeitsmaschine (10) Bilddaten bezüglich der Person (60) bereitzustellen, - eine Warneinheit und - die Steuereinheit (20) zum Ausgeben eines Steuersignals an die Warneinheit gemäß Anspruch 9.Warning system for preventing personal injury when operating a mobile work machine (10) comprising - a camera unit (12, 14, 16, 18) which is designed to detect a person (60) located in an outer area of the work machine (10) in order to provide image data relating to the person (60) to a control unit (20) of the work machine (10), - a warning unit and - the control unit (20) for outputting a control signal to the warning unit according to FIG Claim 9 . Mobile Arbeitsmaschine (10) mit einem System gemäß Anspruch 10 und/oder einem Warnsystem gemäß Anspruch 11.Mobile work machine (10) with a system according to Claim 10 and / or a warning system according to Claim 11 .
DE102019216405.6A 2019-10-24 2019-10-24 Method for preventing personal injury when operating a mobile work machine Pending DE102019216405A1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
DE102019216405.6A DE102019216405A1 (en) 2019-10-24 2019-10-24 Method for preventing personal injury when operating a mobile work machine
PCT/EP2020/078062 WO2021078514A1 (en) 2019-10-24 2020-10-07 Method for preventing personal injury during operation of a mobile work machine

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102019216405.6A DE102019216405A1 (en) 2019-10-24 2019-10-24 Method for preventing personal injury when operating a mobile work machine

Publications (1)

Publication Number Publication Date
DE102019216405A1 true DE102019216405A1 (en) 2021-04-29

Family

ID=72801477

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102019216405.6A Pending DE102019216405A1 (en) 2019-10-24 2019-10-24 Method for preventing personal injury when operating a mobile work machine

Country Status (2)

Country Link
DE (1) DE102019216405A1 (en)
WO (1) WO2021078514A1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102021208982A1 (en) 2021-08-17 2023-02-23 Zf Friedrichshafen Ag Method and control device for monitoring construction work

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0179252A2 (en) * 1984-09-14 1986-04-30 Siemens Aktiengesellschaft Method and apparatus for protecting people in the operating range of a movable part of a traversing or swiveling machine, particularly of an industrial robot
DE19613386A1 (en) * 1996-04-03 1997-10-09 Fiat Om Carrelli Elevatori Industrial truck, which can be operated either manually or automatically
DE102006048166A1 (en) * 2006-08-02 2008-02-07 Daimler Ag Method for observing a person in an industrial environment
DE102006048163A1 (en) * 2006-07-31 2008-02-07 Daimler Ag Camera-based monitoring of moving machines and / or moving machine elements for collision prevention
DE102014209337A1 (en) * 2013-05-17 2014-11-20 Ifm Electronic Gmbh System and method for detecting a hazardous area
DE102014218059A1 (en) * 2014-09-10 2016-04-21 Continental Automotive Gmbh Surround view system for vehicles with attachments
DE102015221973A1 (en) * 2015-11-09 2017-05-11 Robert Bosch Gmbh Method for detecting living beings and objects inside a vehicle

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017094626A1 (en) * 2015-11-30 2017-06-08 住友重機械工業株式会社 Periphery monitoring system for work machine

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0179252A2 (en) * 1984-09-14 1986-04-30 Siemens Aktiengesellschaft Method and apparatus for protecting people in the operating range of a movable part of a traversing or swiveling machine, particularly of an industrial robot
DE19613386A1 (en) * 1996-04-03 1997-10-09 Fiat Om Carrelli Elevatori Industrial truck, which can be operated either manually or automatically
DE102006048163A1 (en) * 2006-07-31 2008-02-07 Daimler Ag Camera-based monitoring of moving machines and / or moving machine elements for collision prevention
DE102006048166A1 (en) * 2006-08-02 2008-02-07 Daimler Ag Method for observing a person in an industrial environment
DE102014209337A1 (en) * 2013-05-17 2014-11-20 Ifm Electronic Gmbh System and method for detecting a hazardous area
DE102014218059A1 (en) * 2014-09-10 2016-04-21 Continental Automotive Gmbh Surround view system for vehicles with attachments
DE102015221973A1 (en) * 2015-11-09 2017-05-11 Robert Bosch Gmbh Method for detecting living beings and objects inside a vehicle

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102021208982A1 (en) 2021-08-17 2023-02-23 Zf Friedrichshafen Ag Method and control device for monitoring construction work

Also Published As

Publication number Publication date
WO2021078514A1 (en) 2021-04-29

Similar Documents

Publication Publication Date Title
DE102012108034A1 (en) Control method for industrial trucks and industrial trucks
DE102012022336A1 (en) Method for carrying out an at least semi-autonomous parking operation of a motor vehicle in a garage, parking assistance system and motor vehicle
DE102015208782A1 (en) Object detection device, driving support device, object detection method, and object detection program
DE102017223160B4 (en) Method for detecting at least one object lying on a motor vehicle and control device and motor vehicle
DE102012108028A1 (en) Control method for load reduction of a truck and industrial truck
DE102009014437A1 (en) Object e.g. pedestrian, recognition system i.e. stereoscopic system, for motor vehicle, has validation device checking whether object and/or preset character e.g. contour, of object is detected in image region in image
WO2021078514A1 (en) Method for preventing personal injury during operation of a mobile work machine
DE102019202269B4 (en) Method for calibrating a mobile camera unit of a camera system for a motor vehicle
EP3118153B1 (en) Method for detecting an obstruction for an industrial truck
DE102014117399B4 (en) SENSOR SYSTEM
WO2021078711A1 (en) Method for outputting a control signal to a unit of a vehicle
DE102012003650A1 (en) Method for controlled vertical lifting of standard container with container base, involves generating signal, in case of correspondence of termination criterion, so that further lifting of container is directly or indirectly closed
DE202014105727U1 (en) sensor system
DE202020000762U1 (en) Device for the automatic determination of the range of motion and independent optimization of the driving behavior of an automated guided vehicle in action with loading in dynamic production and logistics environments
DE102008041761A1 (en) Method for determining relative yaw angle between two vehicles i.e. cars, involves calculating orientation angle of wall surface relative to picture recording direction based on relative inclination between determined edges
DE102016118538A1 (en) Method for classifying a traffic sign in a surrounding area of a motor vehicle, computing device, driver assistance system and motor vehicle
DE102020215149A1 (en) Method for operating a vehicle in a rack aisle depending on route information
DE102021203671B4 (en) Method for monitoring the condition of a lift truck of a forklift vehicle
DE102017116565A1 (en) DETECTION OF VEHICLE LIMITS
DE112017005670T5 (en) Parking spaces detection device
DE102020216135A1 (en) Method for outputting a signal to a unit of a device, in particular a mobile work machine
EP3947246A1 (en) Method for warehousing assistance for an industrial truck, and industrial truck
DE102008060768A1 (en) Articulated object part e.g. pedestrian's hand forearm region, classifying method for use in driver assistance process of vehicle, involves transforming image recording such that internal degree of freedom is considered in standard views
DE102019109881A1 (en) Method for determining at least one correction value for correcting an orientation error of a camera for a motor vehicle, electronic computing device and driver assistance system
DE102019003907A1 (en) Method for operating a driver assistance system with a multi-axis movable swivel arm and driver assistance system

Legal Events

Date Code Title Description
R163 Identified publications notified