EP4730997A1 - Erkennen von funktionsbeeinträchtigungen bei einer vorrichtung - Google Patents
Erkennen von funktionsbeeinträchtigungen bei einer vorrichtungInfo
- Publication number
- EP4730997A1 EP4730997A1 EP24733619.1A EP24733619A EP4730997A1 EP 4730997 A1 EP4730997 A1 EP 4730997A1 EP 24733619 A EP24733619 A EP 24733619A EP 4730997 A1 EP4730997 A1 EP 4730997A1
- Authority
- EP
- European Patent Office
- Prior art keywords
- image
- machine learning
- plants
- learning model
- functional impairment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B23/00—Testing or monitoring of control systems or parts thereof
- G05B23/02—Electric testing or monitoring
- G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
- G05B23/0218—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
- G05B23/0224—Process history based detection method, e.g. whereby history implies the availability of large amounts of data
- G05B23/024—Quantitative history assessment, e.g. mathematical relationships between available data; Functions therefor; Principal component analysis [PCA]; Partial least square [PLS]; Statistical classifiers, e.g. Bayesian networks, linear regression or correlation analysis; Neural networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/02—Agriculture; Fishing; Forestry; Mining
-
- A—HUMAN NECESSITIES
- A01—AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
- A01M—CATCHING, TRAPPING OR SCARING OF ANIMALS; APPARATUS FOR THE DESTRUCTION OF NOXIOUS ANIMALS OR NOXIOUS PLANTS
- A01M7/00—Special adaptations or arrangements of liquid-spraying apparatus for purposes covered by this subclass
- A01M7/0089—Regulating or controlling systems
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Business, Economics & Management (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Life Sciences & Earth Sciences (AREA)
- Economics (AREA)
- General Engineering & Computer Science (AREA)
- Medical Informatics (AREA)
- Data Mining & Analysis (AREA)
- Agronomy & Crop Science (AREA)
- Animal Husbandry (AREA)
- Marine Sciences & Fisheries (AREA)
- Mining & Mineral Resources (AREA)
- Automation & Control Theory (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Primary Health Care (AREA)
- Strategic Management (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
Abstract
Die hierin offenbarten Vorrichtungen, Verfahren und Computerprogramme beziehen sich auf die automatisierte Erkennung von Funktionsbeeinträchtigungen bei einer Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen mittels Methoden des maschinellen Lernens. Bei der Vorrichtung handelt es sich insbesondere um eine Sprühvorrichtung.
Description
Erkennen von Funktionsbeeinträchtigungen bei einer Vorrichtung
TECHNISCHES GEBIET
Die hierin offenbarten Vorrichtungen, Verfahren und Computerprogramme beziehen sich auf die automatisierte Erkennung von Funktionsbeeinträchtigungen bei einer Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen mittels Methoden des maschinellen Lernens. Bei der Vorrichtung handelt es sich insbesondere um eine Sprühvorrichtung.
EINLEITUNG
Es besteht allgemein der Bedarf, Flüssigkeiten in einem Feld für Kulturpflanzen mit zunehmender Genauigkeit zu applizieren, um Ressourcen zu schonen, die Effizienz der ausgebrachten Mittel zu steigern und eine Applikation in unerwünschten Bereichen zu verhindern. Bei der Bekämpfung von Begleitpflanzen, die sich in einem Feld neben den Kulturpflanzen entwickeln, besteht beispielsweise der Bedarf, nur die Begleitpflanzen mit einem Herbizid zu behandeln und kein Herbizid auf Kulturpflanzen oder auf den Ackerboden zwischen den Pflanzen zu applizieren.
WO2019/166497A1 offenbart eine Vorrichtung zur Sprühbehandlung, bei der einer Verarbeitungseinheit mindestens ein Bild eines Feldes bereitgestellt wird. Der Verarbeitungseinheit werden auch historische Details bezüglich der Sprühanwendung einer Unkrautbekämpfungsflüssigkeit und/oder einer Schädlingsbekämpfungsflüssigkeit bereitgestellt. Die Verarbeitungseinheit analysiert das mindestens eine Bild, um mindestens einen Ort innerhalb des Feldes für die Aktivierung mindestens einer Sprühpistole zur Unkrautbekämpfung und/oder für die Aktivierung mindestens einer Sprühpistole zur Schädlingsbekämpfung zu bestimmen.
W02019007894A1 offenbart eine Vorrichtung zur Unkrautbekämpfung. Der Verarbeitungseinheit der Vorrichtung wird mindestens ein Bild einer Umgebung bereitgestellt. Die Verarbeitungseinheit analysiert das mindestens eine Bild, um aus einer Vielzahl von Vegetationskontrolltechnologien mindestens eine Vegetationskontrolltechnologie zu bestimmen, die zur Unkrautbekämpfung für mindestens einen ersten Teil der Umgebung verwendet werden soll. Eine Ausgabeeinheit gibt Informationen aus, die zur Aktivierung der mindestens einen Vegetationskontrolltechnologie verwendbar sind.
Es ist möglich, dass es im Laufe der Zeit bei einer Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen zu einer Beeinträchtigung einer Funktion kommt. Es ist beispielsweise möglich, dass das optische System der Kamera, während dem Betrieb der Vorrichtung verschmutzt wird. Eine weitere mögliche Funktionsbeeinträchtigung ist beispielsweise, dass sich Pflanzenteile in der Vorrichtung verfangen oder - falls die Vorrichtung eine Sprühvorrichtung ist - die Sprühdüsen verstopfen. Weitere mögliche Funktionsbeeinträchtigungen sind weiter hinten in der Beschreibung aufgeführt.
Eine Funktionsbeeinträchtigung führt dazu, dass die von der Vorrichtung zu erfüllende Funktion nicht mehr oder nicht mehr ausreichend erfüllt werden kann.
ZUSAMMENFASSUNG
Dieses Problem wird durch die Gegenstände der unabhängigen Ansprüche der vorliegenden Offenbarung gelöst. Bevorzugte Ausführungsformen finden sich in den abhängigen Ansprüchen, der Beschreibung und den Zeichnunuen.
Die vorliegende Offenbarung beschreibt Mittel, mit denen eine Funktionsbeeinträchtigung einer Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen frühzeitig erkannt werden kann.
Ein erster Gegenstand der vorliegenden Offenbarung ist ein computerimplementiertes Verfahren für eine Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen umfassend:
Empfangen einer Bildaufhahme, wobei die empfangene Bildaufhahme zumindest einen Teil eines Feldes zeigt (und optional zumindest einen Teil der Vorrichtung zeigt) und durch die Bilderfassungseinheit der Vorrichtung aufgenommen wurde,
Bereitstellen eines trainierten Modells des maschinellen Lernens, wobei das Modell des maschinellen Lernens konfiguriert ist und auf Basis von Trainingsdaten trainiert wurde, Bildaufnahmen von zumindest einem Teil eines Feldes (und optional zumindest einem Teil der Vorrichtung) mit einer Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen von Bildaufhahmen von einem Teil eines Feldes (und optional zumindest einem Teil der Vorrichtung) ohne Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen zu unterscheiden,
Zuführen der empfangenen Bildaufnahme dem trainierten Modell des maschinellen Lernens,
Empfangen einer Information von dem Modell des maschinellen Lernens, wobei die Information angibt, ob die Bildaufnahme von zumindest einem Teil eines Feldes (und optional zumindest einem Teil der Vorrichtung) auf eine Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen hinweist, für den Fall, dass die empfangen Bildaufnahme von zumindest einem Teil eines Feldes (und optional zumindest einem Teil der Vorrichtung) auf eine Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit von Pflanzen hinweist: Ausgeben einer Mitteilung, dass die empfangene Bildaufnahme auf eine
Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und einer
Bilderkennungseinheit hinweist.
Ein weiterer Gegenstand der vorliegenden Offenbarung ist ein Computersystem umfassend: eine Eingabeeinheit, eine Steuer- und Recheneinheit und eine Ausgabeeinheit, wobei die Steuer- und Recheneinheit konfiguriert ist, die Eingabeeinheit zu veranlassen, eine Bildaufnahme zu empfangen, wobei die empfangene Bildaufnahme zumindest einen Teil eines Feldes und optional auch zumindest einen Teil einer Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen zeigt und durch eine Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen aufgenommen wurde, die empfangene Bildaufnahme einem Modell des maschinellen Lernens zuzuführen, wobei das Modell des maschinellen Lernens konfiguriert ist und auf Basis von Trainingsdaten trainiert wurde, Bildaufnahmen von zumindest einem Teil eines Feldes und optional zumindest einem Teil einer Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen mit einer Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen von Bildaufnahmen von zumindest einem Teil eines Feldes und optional zumindest einem Teil einer Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen
ohne Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen zu unterscheiden, von dem Modell des maschinellen Lernens eine Information zu empfangen, wobei die Information angibt, ob die empfangene Bildaufnahme eine Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen mit einer Funktionsbeeinträchtigung repräsentiert, die Ausgabeeinheit zu veranlassen, eine Mitteilung auszugeben, wobei die Mitteilung angibt, dass die empfangene Bildaufnahme auf eine Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen hinweist, wenn die von dem Modell des maschinellen Lernens ausgegebene Information angibt, dass die empfangene Bildaufnahme eine Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen mit einer Funktionsbeeinträchtigung repräsentiert.
Ein weiterer Gegenstand der vorliegenden Offenbarung ist ein nicht-flüchtiges computerlesbares Speichermedium, auf dem Softwarebefehle gespeichert sind, die, wenn sie von einem Prozessor eines Computersystems ausgeführt werden, das Computersystem veranlassen, folgende Schritte auszuführen:
Empfangen einer Bildaufhahme, wobei die empfangene Bildaufhahme zumindest einen Teil eines Feldes (und optional zumindest einen Teil der Vorrichtung) zeigt und durch die Bilderfassungseinheit der Vorrichtung aufgenommen wurde,
Bereitstellen eines trainierten Modells des maschinellen Lernens, wobei das Modell des maschinellen Lernens konfiguriert ist und auf Basis von Trainingsdaten trainiert wurde, Bildaufnahmen von zumindest einem Teil eines Feldes (und optional zumindest einem Teil der Vorrichtung) mit einer Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen von Bildaufhahmen von einem Teil eines Feldes (und optional zumindest einem Teil der Vorrichtung) ohne Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen zu unterscheiden,
Zuführen der empfangenen Bildaufnahme dem trainierten Modell des maschinellen Lernens,
Empfangen einer Information von dem Modell des maschinellen Lernens, wobei die Information angibt, ob die Bildaufnahme von zumindest einem Teil eines Feldes (und optional zumindest einem Teil der Vorrichtung) auf eine Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen hinweist, für den Fall, dass die empfangen Bildaufnahme von zumindest einem Teil eines Feldes (und optional zumindest einem Teil der Vorrichtung) auf eine Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit von Pflanzen hinweist: Ausgeben einer Mitteilung, dass die empfangene Bildaufnahme auf eine
Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und einer
Bilderkennungseinheit hinweist.
Ein weiterer Gegenstand der vorliegenden Offenbarung ist eine Sprühvorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen umfassend:
• eine Steuereinheit,
• eine Analyseneinheit,
• eine Ausgabeeinheit
• mindestens eine Bilderfassungseinheit,
wobei die Steuereinheit konfiguriert ist, die mindestens eine Bilderfassungseinheit zu veranlassen, eine oder mehrere Bildaufnahmen von zumindest einem Teil eines Feldes und optional von zumindest einem Teil der Sprühvorrichtung zu erzeugen, wobei die Analyseneinheit konfiguriert ist, die eine oder die mehreren erzeugten Bildaufnahmen von zumindest einem Teil des Feldes und optional von zumindest einem Teil der Sprühvorrichtung mit einer Funktionsbeeinträchtigung der Sprühvorrichtung von Bildaufnahmen von zumindest einem Teil eines Feldes und optional von zumindest einem Teil der Sprühvorrichtung ohne Funktionsbeeinträchtigung der Sprühvorrichtung zu unterscheiden, wobei die Analyseneinheit konfiguriert ist, eine Information von dem Modell des maschinellen Lernens zu empfangen, wobei die Information angibt, ob die eine oder die mehreren Bildaufnahmen die Sprühvorrichtung mit einer Funktionsbeeinträchtigung repräsentieren, wobei die Ausgabeeinheit konfiguriert ist, die Information auszugeben.
KURZE BESCHREIBUNG DER ZEICHNUNGEN
Fig. 1 zeigt schematisch und beispielhaft das Training eines Modells des maschinellen Lernens.
Fig. 2 zeigt schematisch die Verwendung eines trainierten Modells des maschinellen Lernens zur Erkennung einer Funktionsbeeinträchtigung bei einer Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen.
Fig. 3 zeigt schematisch ein weiteres Beispiel für das Trainieren eines Modells des maschinellen Lernens.
Fig. 4 zeigt schematisch ein weiteres Beispiel einer Verwendung eines trainierten Modells des maschinellen Lernens zur Erkennung einer Funktionsbeeinträchtigung bei einer Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen.
Fig. 5 zeigt beispielhaft und schematisch ein computerimplementiertes Verfahren zum Trainieren eines Modells des maschinellen Lernens in Form eines Ablaufschemas.
Fig. 6 zeigt beispielhaft und schematisch ein computerimplementiertes Verfahren zum Erkennen einer Funktionsbeeinträchtigung bei einer Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen in Form eines Ablaufschemas.
Fig. 7 zeigt beispielhaft und schematisch eine Ausführungsform eines Computersystems der vorliegenden Offenbarung.
Fig. 8 zeigt beispielhaft und schematisch eine weitere Ausführungsform eines Computersystems der vorliegenden Offenbarung.
AUSFÜHRLICHE BESCHREIBUNG
Die Erfindung wird im Folgenden näher erläutert, ohne zwischen den Gegenständen der vorliegenden Offenbarung (Verfahren, Computersystem, computerlesbares Speichermedium, Vorrichtung) zu unterscheiden. Vielmehr sollen die nachfolgenden Ausführungen sinngemäß für alle Gegenstände der Erfindung gelten, unabhängig davon, in welchem Zusammenhang (Verfahren, Computersystem, computerlesbares Speichermedium, Vorrichtung) sie beschrieben werden.
Wenn in der vorliegenden Beschreibung oder in den Ansprüchen Schritte in einer Reihenfolge angegeben sind, bedeutet dies nicht unbedingt, dass die Erfindung auf die angegebene Reihenfolge beschränkt ist. Vielmehr ist es denkbar, dass die Schritte auch in einer anderen Reihenfolge oder auch parallel zueinander ausgeführt werden können, es sei denn, ein Schritt baut auf einem anderen auf, was
zwingend erfordert, dass der aufbauende Schritt anschließend ausgeführt wird (dies wird aber im Einzelfall klar). Die genannten Reihenfolgen sind somit bevorzugte Ausführungsformen der vorliegenden Offenbarung.
Die Erfindung wird an einigen Stellen in Bezug auf Zeichnungen näher erläutert. Dabei sind in den Zeichnungen konkrete Ausführungsformen mit konkreten Merkmalen und Merkmalskombinationen dargestellt, die in erster Linie der Veranschaulichung dienen; die Erfindung soll nicht so verstanden werden, dass sie auf die in den Zeichnungen dargestellten Merkmale und Merkmalskombinationen beschränkt ist. Ferner sollen Aussagen, die bei der Beschreibung der Zeichnungen in Bezug auf Merkmale und Merkmalskombinationen getroffen werden, allgemein gelten, das heißt auch auf andere Ausführungsformen übertragbar und nicht auf die gezeigten Ausführungsformen beschränkt sein.
Die vorliegende Offenbarung beschreibt Mittel, mit denen eine Funktionsbeeinträchtigung bei einer Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen frühzeitig und automatisch erkannt wird.
Unter einer Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen wird eine Vorrichtung verstanden, bei dem Pflanzen auf einem Feld beispielsweise mit einer Kamera erfasst werden und durch ein Bilderkennungsalgorithmus detektiert und/oder identifiziert werden. Die Vorrichtung ist vorzugsweise eine Sprühvorrichtung und beispielsweise dafür ausgelegt eine Begleitpflanze mit einem Mittel zur Bekämpfung der Begleitpflanze zu besprühen. Die Entscheidung dazu basiert wenigstens teilweise auf dem Ergebnis der Bildanalyse der Pflanzen auf dem Feld. Es ist auch möglich, dass der Bilderkennungsalgorithmus Schadorganismen oder einen Pilzbefall auf der Kulturpflanze detektiert und/oder identifiziert und das Besprühen der befallenen Kulturpflanze mit einem entsprechenden Pflanzenschutzmittel auf Grundlage der Ergebnisse der Bildanalyse erfolgt. Eine weitere Ausführungsform ist die punktgenaue Zufuhr von Nährstoffen mit der Sprühvorrichtung auf der Basis der Ergebnisse der Bilderkennung der Pflanzen (z.B. bei niedrigem Wuchs bestimmter identifizierter Kulturpflanzen im Vergleich zu anderen Kulturpflanzen auf dem gleichen Feld, bzw. Identifikation von einem „sichtbaren“ Nährstoffmangel von Kulturpflanzen) auf dem Feld.
Unter dem Begriff „Feld“ wird ein räumlich abgrenzbarer Bereich der Erdoberfläche verstanden, der landwirtschaftlich genutzt wird, indem auf einem solchen Feld Kulturpflanzen angepflanzt, gegebenenfalls mit Nährstoffen versorgt und geerntet werden. Zum Zeitpunkt der Applikation Muß dabei nicht zwingend bereits eine Kulturpflanzengesellschaft etabliert sein.
Unter dem Begriff „Kulturpflanze“ wird eine Pflanze verstanden, die durch das Eingreifen der Menschen zielgerichtet als Nutz- oder Zierpflanze angebaut wird.
Unter dem Begriff „Begleitpflanzen“ (oftmals auch als Unkraut/Unkräuter bezeichnet) werden Pflanzen der spontanen Begleitvegetation (Segetalflora) in Kulturpflanzenbeständen, Grünland oder Gartenanlagen verstanden, die dort nicht gezielt angebaut werden und z.B. aus dem Samenpotential des Bodens oder über Zuflug zur Entwicklung kommen.
Die Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen umfasst beispielsweise eine Steuereinheit, eine Analyseneinheit, eine Ausgabeeinheit und mindestens eine Bilderfassungseinheit. Die Bilderfassungseinheit umfasst vorzugsweise mindestens eine Kamera.
Ist die Vorrichtung eine Sprühvorrichtung umfasst die Vorrichtung weiter mindestens einen Vorratsbehälter zur Aufnahme eines flüssigen Mittels, mindestens eine Sprühdüse und Mittel zur Förderung des flüssigen Mittels in Richtung der mindestens einen Sprühdüse. Die Sprühvorrichtung ist beispielsweise verbindbar mit einer Landmaschine (z.B. als Bestandteil eines fahrbaren Anhängers) kann aber auch direkt Bestandteil eines Fahrzeuges z.B. eines Roboters oder eines Luftfahrzeuges (z.B. einer Drohne) sein. Eine solche Sprühvorrichtung kann sich autonom in bzw. über einem Feld bewegen oder durch einen Menschen gesteuert werden.
In einer Ausführungsform dieser Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen ist die Steuereinheit konfiguriert, die mindestens eine Bilderfassungseinheit zu veranlassen, eine oder mehrere Bildaufnahmen von zumindest einem Teil eines Feldes und optional von der Vorrichtung zu erzeugen. Die Analyseneinheit ist konfiguriert, Pflanzen auf Basis der von der Kamera empfangenen Bildaufnahmen auf dem Feld zu delektieren und/oder zu identifizieren (d.h. Ausfuhren des Bilderkennungsalgorithmus). Die Ausgabeeinheit ist konfiguriert, die Information über die detektierten und/oder identifizierten Pflanzen auf dem Feld auszugeben. Falls es sich bei der Vorrichtung um eine Sprühvorrichtung handelt, ist die Ausgabeeinheit konfiguriert, die mindestens eine Sprühdüse, auf Basis der detektierten und/oder identifizierten Pflanzen, zu aktivieren. Die Sprühdüse besprüht die detektierte und/oder identifizierte Pflanze mit dem flüssigen Mittel.
Bei dem flüssigen Mittel kann es sich um Wasser oder eine wäßrige Lösung oder Suspension handeln. Die wäßrige Lösung oder Suspension kann einen oder mehrere Nährstoffe und/oder ein oder mehrere Pflanzenschutzmittel und/oder ein oder mehrere Mittel zur Behandlung von Saatgut enthalten.
Unter dem Begriff „Nährstoffe“ werden diejenigen anorganischen und organischen Verbindungen verstanden, denen Pflanzen die Elemente entnehmen können, aus denen ihre Körper aufgebaut sind. Als Nährstoffe werden oft auch diese Elemente selbst bezeichnet. Dabei handelt es sich meistens um einfache anorganische Verbindungen wie Nitrat (NO3-), Phosphat (PO ) und Kalium (K+). Lebensnotwendig sind neben den Kemelementen der organischen Substanz (C, O, H, N und P) noch K, S, Ca, Mg, Mo, Cu, Zn, Fe, B, Mn, CI bei höheren Pflanzen, Co, Ni. Für die einzelnen Nährstoffe können verschiedene Verbindungen vorliegen, so kann beispielsweise Stickstoff als Nitrat, Ammonium oder Aminosäure zugeführt werden.
Unter dem Begriff „Pflanzenschutzmittel“ wird ein Mittel verstanden, das dazu dient, Pflanzen oder Pflanzenerzeugnisse vor Schadorganismen zu schützen oder deren Einwirkung vorzubeugen, unerwünschte Pflanzen oder Pflanzenteile zu vernichten, ein unerwünschtes Wachstum von Pflanzen zu hemmen oder einem solchen Wachstum vorzubeugen, und/oder in einer anderen Weise als Nährstoffe die Lebensvorgänge von Pflanzen zu beeinflussen (z.B. Wachstumsregler). Beispiele für Pflanzenschutzmittel sind Herbizide, Fungizide und andere Pestizide (z.B. Insektizide). Wachstumsregler dienen zum Beispiel der Erhöhung der Standfestigkeit bei Getreide durch Verkürzung der Halmlänge (Internodienverkürzer), Verbesserung der Bewurzelung von Stecklingen, Verringerung der Pflanzenhöhe durch Stauchung im Gartenbau oder der Verhinderung der Keimung von Kartoffeln. Wachstumsregler können beispielsweise Phytohormone oder deren synthetischen Analoge sein.
Bei der Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen ist mindestens eine Kamera so angeordnet und ausgerichtet, dass sie Bildaufnahmen von zumindest einem Teil des Feldes und optional von zumindest einem Teil der Vorrichtung erzeugen kann. In einer Ausführungsform ist die Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen eine Sprühvorrichtung und die mindestens eine Kamera ist idealerweise oberhalb mindestens einer Sprühdüse angeordnet und auf die Sprühdüse und den darunterliegenden Feldboden gerichtet damit eine Bildaufnahme erzeugt werden kann, die zumindest einen Teil der Sprühvorrichtung (vorzugsweise einen Teil der Sprühdüse) und zumindest einen Teil eines Feldes zeigt. In einer alternativen Ausführungsform ist die mindestens eine Kamera schwenkbar und kann entweder einen Teil des Feldes oder einen Teil der Sprühvorrichtung erfassen. Es ist auch denkbar, dass für die beiden genannten Bereiche zwei oder mehr Kameras zur Erhebung der Bilddaten verwendet werden.
Unter einer Kamera wird eine Vorrichtung verstanden, die Bildaufnahmen in digitaler Form erzeugen und diese speichern und/oder über eine Schnittstelle bereitstellen kann. Eine Kamera umfasst üblicherweise einen Bildsensor und optische Elemente. Der Bildsensor ist eine Vorrichtung zur Aufnahme von zweidimensionalen Abbildern aus Licht auf elektrischem Weg. Üblicherweise handelt es sich um halbleiterbasierte Bildsensoren wie beispielsweise CCD- (CCD = charge-coupled device) oder CMOS-Sensoren (CMOS = complementary metal-oxide-semiconductor). Die optischen Elemente
(Linsen, Blenden und dergleichen) dienen einer möglichst scharfen Abbildung des Objektes, von dem eine digitale Bildaufnahme erzeugt werden soll, auf dem Bildsensor.
Die Kamera wird dazu verwendet, digitale Bildaufnahmen von zumindest einem Teil des Feldes und optional zusätzlich von zumindest einem Teil der Vorrichtung zu erzeugen. Die erzeugten Bildaufnahmen können verwendet werden, (i) um zu erkennen, ob sich ein oder mehrere Pflanzen auf dem Feld befinden (Detektieren von Pflanzen), (ii) Pflanzen zu identifizieren, d.h. festzustellen, um welche Pflanze (Unterklasse, Überordnung, Ordnung, Unterordnung, Familie, Gattung, Art, Wachstumsstadium etc.) es sich handelt. Auch der genaue Standort der Pflanze kann beispielweise mit RTK-GPS (als einen weiteren Sensor der Vorrichtung) und dem Wissen des Abstandes der Kamera zum Aufnahmebereich ermittelt werden.
Zur Abbildung des Bildaufnahmebereichs auf einem oder mehreren Bildsensoren wird eine Lichtquelle benutzt, mit der der Bildaufnahmebereich beleuchtet wird, so dass Licht (elektromagnetische Strahlung im infraroten, sichtbaren und/oder ultravioletten Bereich des Spektrums) vom beleuchteten Bildaufnahmebereich in Richtung Kamera gestreut/reflektiert wird. Hierzu kann das Tageslicht verwendet werden. Es ist aber auch denkbar, eine Beleuchtungseinheit zu verwenden, die für eine definierte, vom Tageslicht unabhängige Beleuchtung sorgt. Diese ist vorzugsweise seitlich neben der Kamera angebracht, so dass es zu keinem Schattenwurf der Kamera auf den Bildaufnahmebereich kommt. Die Bilderfassungseinheit umfasst vorzugsweise zumindest eine Beleuchtungseinheit.
Der Begriff „Bildaufnahmebereich“ bezeichnet den Bereich, auf den die Kamera ausgerichtet ist und mit der zumindest einen Teil des Feldes und optional zumindest einen Teil der Vorrichtung erfasst werden kann.
Es ist auch denkbar, eine Beleuchtungsquelle zu verwenden die an der Vorrichtung befestigt ist und den Bildaufnahmebereich von der Seite beleuchtet, während eine Kamera eine oder mehrere Bildaufnahmen "von oben" erzeugt.
Es denkbar, dass mehrere Beleuchtungsquellen den Bildaufnahmebereich aus unterschiedlichen Richtungen beleuchten.
Der Begriff "Licht" und "Beleuchtung" soll im übrigen nicht bedeuten, dass der Spektralbereich auf sichtbares Licht (etwa 380 nm bis etwa 780 nm) beschränkt ist. Es ist ebenso denkbar, dass zur Beleuchtung elektromagnetische Strahlung mit einer Wellenlänge unterhalb von 380 nm (ultraviolettes Licht: 100 nm bis 380 nm) oder oberhalb von 780 nm (infrarotes Licht: 780 nm bis 1000 pm) verwendet wird. Der Bildsensor und die optischen Elemente sind üblicherweise an die verwendete elektromagnetische Strahlung angepaßt.
Die Vorrichtung umfasst eine Steuereinheit. Die Steuereinheit kann ein Bestandteil der Bilderfassungseinheit z.B. der Kamera sein oder eine separate Vorrichtung sein, die mit der Bilderfassungseinheit über eine kabelgebundene oder kabellose Verbindung (z.B. Bluetooth) kommunizieren kann. Die Steuereinheit ist konfiguriert, die Bilderfassungseinheit zu veranlassen, eine oder mehrere Bildaufnahmen von und zumindest einen Teil des Feldes und optional zumindest einen Teil der Vorrichtung zu erfassen. Die Steuereinheit kann ein Computersystem sein, wie es weiter hinten in der Beschreibung beschrieben ist.
Bei der einen oder mehreren Bildaufnahme kann es sich um einzelne Bildaufnahmen oder um Sequenzen von Bildaufnahmen (z.B. Videoaufnahmen) handeln.
In einer weiteren Ausführungsform kann die Vorrichtung einen oder mehrere (neben der Kamera weitere) Sensoren umfassen. Ein "Sensor" ist ein technisches Bauteil, das bestimmte physikalische und/oder chemische Eigenschaften und/oder die stoffliche Beschaffenheit seiner Umgebung qualitativ oder als Meßgröße quantitativ erfassen kann. Diese Größen werden mittels physikalischer oder chemischer Effekte erfasst und in ein weiter verarbeitbares, meist elektrisches oder optisches Signal umgeformt. Eine Sensoreinheit mit zumindest einen Sensor kann weitere Mittel zum Übermitteln
und/oder Weiterleiten von Signalen und/oder Informationen (z.B. an die Steuereinheit) umfassen. Der mindestens eine Sensor kann beispielsweise einen Empfänger eines Satellitennavigationssystems umfassen, umgangssprachlich auch als GPS-Empfänger bezeichnet. Das Global Positioning System (Abk.: GPS), offiziell NAVSTAR GPS, ist ein Beispiel eines globalen Satellitennavigationssystems zur Positionsbestimmung; andere Beispiele sind GLONASS, Galileo und Beidou. Die Satelliten eines solchen Satellitennavigationssystems teilen über Funkcodes ihre genaue Position und Uhrzeit mit. Zur Positionsbestimmung muß ein Empfänger (der „GPS-Empfänger“) die Signale von mindestens vier Satelliten gleichzeitig empfangen. Im Empfänger werden die Pseudo-Signallaufzeiten gemessen und daraus die aktuelle Position ermittelt. Eine genaue Positionsbestimmung ist möglich durch ein Echtzeitkinematikverfahren (RTK GPS).
In einer weiteren Ausführungsform kann die Vorrichtung eine Sendeeinheit umfassen. Über die Sendeeinheit können Bildaufnahmen und/oder Informationen an ein separates Computersystem übermittelt werden. Die Übermittlung erfolgt vorzugsweise über ein Funknetz, beispielsweise über ein Mobilfunknetz. Die Sendeeinheit kann ein Bestandteil der Steuereinheit sein oder eine von der Steuereinheit unabhängige Einheit sein.
Die Vorrichtung kann eine Empfangseinheit umfassen, um Befehle von einem separaten Computersystem zu empfangen.
Die Sendeeinheit und/oder die Empfangseinheit können Bestandteile eines Computersystems sein, wie es weiter hinten in der Beschreibung beschrieben ist.
Die von der Kamera erzeugten Bildaufnahmen werden üblicherweise automatisiert analysiert, um die in Pflanzen auf dem Feld zu detektieren und/oder zu identifizieren. Diese Analyse kann durch eine Analyseneinheit erfolgen, die Bestandteil der Vorrichtung sein kann; diese Analyse kann aber auch durch eine Analyseneinheit erfolgen, die Bestandteil eines separaten Computersystems sein kann, an das die Bildaufnahmen mittels der Sendeeinheit der Vorrichtung übermittelt werden. Die Analyseneinheit kann ein Bestandteil eines Computersystems sein, wie es weiter hinten in der Beschreibung beschrieben ist. Die Analyseneinheit kann ein trainiertes Modell des maschinellen Lernens umfassen, das konfiguriert und trainiert ist, in Bildaufnahmen abgebildete Pflanzen zu detektieren und/oder zu identifizieren. Details zum automatisierten Detektieren und/oder Identifizieren von Pflanzen (und beispielsweise die Unterscheidung von Kultur- und Begleitpflanzen) in Bildaufnahmen sind in Veröffentlichungen zu diesem Thema beschrieben (siehe z.B.: K.K. Thyagharajan et al., A Review of Visual Descriptors and Classification Techniques used in Leaf Species Identification, Archives of Computational Methods in Engineering, 26, 933-60, 2019). In einerweiteren Ausführungsform kann die Analyseneinheit auch ein trainiertes Modell des maschinellen Lernens umfassen, das konfiguriert und trainiert ist, Krankheiten und Schadbefall von in Bildaufnahmen abgebildeten Pflanzen zu detektieren und/oder zu identifizieren. Details dazu sind in Veröffentlichungen zu diesem Thema beschrieben (siehe z.B.: Ju Liu et al., Plant Disease and Pests Detection based on Deep Learning: a Review, Plant Methods, 17, 22, 2021)
Die von der Bilderfassungseinheit erzeugten Bildaufnahmen können ferner verwendet werden, um eine Funktionsbeeinträchtigung bei der Vorrichtung zu erkennen.
Eine Funktionsbeeinträchtigung kennzeichnet einen Zustand der Vorrichtung, der eine oder mehrere Bestandteile der Vorrichtung oder die Vorrichtung als Ganzes so beeinflusst, dass eine oder mehrere Funktionen nicht mehr oder nicht mehr ausreichend oder nicht mehr optimal ausgeführt werden. Eine Funktion kann beispielsweise dann nicht mehr ausreichend oder nicht mehr optimal ausgeführt werden, wenn die Beeinträchtigung die Funktion verlangsamt oder erschwert oder das Ergebnis minderwertig ist oder das Ergebnis fehlerhaft ist.
Dabei kann eine Funktionsbeeinträchtigung eine Beeinträchtigung sein, die aktuell zu einer Beeinflussung der Funktion führt oder in naher Zukunft zu einer Beeinflussung der Funktion führen wird, wenn keine Maßnahmen zur Aufrechterhaltung der Funktionen getroffen werden.
Nachfolgend sind Beispiele für Funktionsbeeinträchtigungen aufgeführt:
Einschränkungen des Sichtfeldes: Es ist möglich, dass Spinnenweben in der Vorrichtung bewirken, dass die Bilderfassungseinheit keine freie Sicht mehr auf den Bildaufnahmebereich hat. Neben den Spinnenweben können auch Spinnen, die sich z.B. vor einer Linse der Kamera aufhalten, ein Problem darstellen. Ferner können auch Konstrukte von Insekten (z.B. Puppen von Larven) und/oder Pflanzenteile (z.B. Pollen, Blüten, Zweige, Blätter, Wurzeln) in der Vorrichtung den Bildaufnahmebereich aus Sicht der Bilderfassungseinheit ganz oder teilweise verdecken.
Bilderfassungseinheit und/oder deren optische Elemente sind verschmutzt: Ablagerungen auf einer Linse der Kamera können zu einer Beeinträchtigung führen. Es ist möglich, dass infolge einer Ablagerung das Sichtfeld der Kamera eingeschränkt ist und nicht mehr der komplette Bildaufnahmebereich abgebildet wird. Es ist denkbar, dass Ablagerungen zu unscharfen oder teilweise unscharfen Bildaufnahmen führen. Es ist möglich, dass Wasser (z.B. Regenwasser) und/oder eine andere Flüssigkeit auf eine Linse gelangt und das Sichtfeld einschränkt und/oder zu Unschärfen in der Bildaufnahme führt.
Bilderfassungseinheit und insbesondere die Kamera ist defekt: Es ist möglich, dass die Kamera einen Defekt aufweist und die erzeugten Bildaufnahmen für ein automatisiertes Detektieren und/oder Identifizieren von Pflanzen auf einem Feld nicht geeignet sind. Es ist zum Beispiel möglich, dass die erzeugten Bildaufnahmen verrauscht sind und/oder einen Farbstich aufweisen und/oder einen geringen Kontrastumfang aufweisen und/oder komplett schwarz oder weiß sind.
Bilderfassungseinheit erzeugt keine Aufnahmen von zumindest einem Teil eines Feldes: Es ist möglich, dass die Bilderfassungseinheit Bildaufnahmen während einer Wartung der Vorrichtung z.B. in einer Werkstatt erzeugt. Solche Aufnahmen können für ein automatisiertes Detektieren und/oder Identifizieren von Pflanzen ungeeignet sein. Auch solche Bildaufnahmen können mit den in dieser Beschreibung beschriebenen Mitteln identifiziert und beispielsweise aussortiert werden. Aussortieren kann bedeuten, dass eine aussortierte Bildaufnahme nicht automatisiert analysiert wird, um Pflanzen auf einem Feld zu detektieren und/oder zu identifizieren.
Beleuchtungsquelle(n) defekt und/oder verschmutzt: Ist die Vorrichtung mit einer oder mehreren Beleuchtungsquellen (als Bestandteil der Bilderfassungseinheit) ausgestattet, kann es sein, dass eine oder mehrere dieser Beleuchtungsquellen keine oder weniger elektromagnetische Strahlung aussendet und/oder, dass infolge einer Verunreinigung der einen oder der mehreren Beleuchtungsquellen nicht mehr genügend elektromagnetische Strahlung in den Bildaufnahmebereich gelangt und diesen ausleuchtet. Die fehlende oder verringerte Beleuchtung kann zu einem Kontrastverlust und/oder erhöhtem Rauschen in den Bildaufnahmen führen, was wiederum das automatisierte Detektieren und/oder Identifizieren von Pflanzen erschweren kann.
Unerwünschte Reflexe: Es ist möglich, dass zu bestimmten Zeiten Reflexe in den Bildaufnahmen zu beobachten sind, die z.B. von Sonnenlicht stammen können, das unter einem definierten Winkelbereich in den Bildaufnahmebereich gelangt. Es ist möglich, dass Sonnenlicht zu bestimmten Tages- und/oder Jahreszeiten in den Bildaufnahmebereich gelangt und dort unerwünschte Reflexionen verursacht.
Nachfolgend sind Beispiele von weiteren Funktionsbeeinträchtigungen genannt, wenn die Vorrichtung eine Sprühvorrichtung ist.
Positions-/ und/oder Lageänderung von Bestandteilen der Sprühvorrichtung: Es ist denkbar, dass es im Laufe der Zeit und beispielsweise auf Grund des häufigen Gebrauchs der Sprühvorrichtung zu einer Änderung der Position und/oder Lage und/oder Ausrichtung von Bestandteilen der Sprühvorrichtung (z.B. der Sprühdüsen, Ausrichtung der Kamera und/oder optische Elemente der Kamera bzw. der Beleuchtungsquelle relativ zum Feldboden etc.) kommt. Solche Änderungen können z.B. die Folge von Abnutzung oder Materialermüdung sein und bewirken, dass der
ursprünglich vorgesehene Bildaufnahmebereich nicht mehr oder nicht mehr vollständig abgebildet wird und/oder ganz oder teilweise unscharf abgebildet wird.
Bilderfassungseinheit erzeugt keine Aufnahmen von zumindest einem Teil der Sprühvorrichtung: Es ist möglich, dass die Kamera Bildaufnahmen während einer Wartung der Sprühvorrichtung erzeugt: z.B., wenn die Sprühdüsen in einer Werkstatt abmontiert sind. Solche Aufnahmen können wie oben beschrieben aussortiert werden.
Pflanzenteile haben sich in der Sprühvorrichtung: es ist möglich, dass sich während der Benutzung der Sprühvorrichtung auf dem Feld Pflanzenteile an bzw. in der Vorrichtung verfangen. Beispielsweise können sich Pflanzenbestandteile um eine Sprühdüse wickeln und dadurch die Sprühfunktion der Düse beeinträchtigen. Es ist auch denkbar, dass sich während des Gebrauchs der Sprühvorrichtung Pflanzenteile zwischen der Bilderfassungseinheit und der Sprühdüse ablagern, die zu einer Funktionsbeeinträchtigung führen können.
Der Spritzkegel der Sprühdüsen der Sprühvorrichtung entspricht nicht den Vorgaben bzw. die Sprühdüsen sind defekt: Die Bilderfassungseinheit kann u.a. eine Aufnahme von zumindest einem Teil einer Sprühvorrichtung erzeugen. Vorzugsweise werden von der Bilderfassungseinheit Bilddaten von der Düse und/oder dem Spritzkegel, der die Düse erzeugt, aufgenommen. Anhand der Bildinformationen von der Düse und/oder der Änderung der Form des Spritzkegels kann beispielsweise ermittelt werden, ob die Düse verstopft ist.
Die Funktionsbeeinträchtigungen und/oder ihre Auswirkungen werden in Bildaufnahmen, die von der Bilderfassungseinheit in der Vorrichtung erzeugt werden, bildhaft festgehalten. Die Bildaufnahmen werden verwendet, um ein Modell des maschinellen Lernens zu trainieren, solche Funktionsbeeinträchtigungen automatisch zu erkennen. Der Begriff „automatisch“ bedeutet ohne Zutun eines Menschen.
Ein solches „Modell des maschinellen Lernens“ kann als eine computerimplementierte Datenverarbeitungsarchitektur verstanden werden. Das Modell kann Eingabedaten empfangen und Ausgabedaten auf der Grundlage dieser Eingabedaten und Modellparametern liefern. Das Modell kann durch Training eine Beziehung zwischen den Eingabedaten und den Ausgabedaten erlernen. Beim Training können Modellparameter angepasst werden, um eine gewünschte Ausgabe für eine bestimmte Eingabe zu liefern.
Beim Trainieren eines solchen Modells werden dem Modell Trainingsdaten präsentiert, aus denen es lernen kann. Das trainierte Modell des maschinellen Lernens ist das Ergebnis des Trainingsprozesses. Die Trainingsdaten umfassen neben Eingabedaten die korrekten Ausgabedaten (Zieldaten), die das Modell auf Basis der Eingabedaten erzeugen soll. Beim Trainieren werden Muster erkannt, die die Eingabedaten auf die Zieldaten abbilden.
Im Trainingsprozess werden die Eingabedaten der Trainingsdaten in das Modell eingegeben, und das Modell erzeugt Ausgabedaten. Die Ausgabedaten werden mit den Zieldaten verglichen. Modellparameter werden so verändert, dass die Abweichungen zwischen den Ausgabedaten und den Zieldaten auf ein (definiertes) Minimum reduziert werden. Zur Modifizierung der Modellparameter im Hinblick auf eine Reduzierung der Abweichungen kann ein Optimierungsverfahren wie beispielsweise ein Gradientenverfahren verwendet werden.
Die Abweichungen können mit Hilfe einer Fehlerfunktion (engl.: loss function) quantifiziert werden. Eine solche Fehlerfunktion kann verwendet werden, um einen Fehler (engl. : loss) für ein gegebenes Paar von Ausgabedaten und Zieldaten zu berechnen. Das Ziel des Trainingsprozesses kann darin bestehen, die Parameter des Modells des maschinellen Lernens so zu verändern (anzupassen), dass der Fehler für alle Paare des Trainingsdatensatzes auf ein (definiertes) Minimum reduziert wird.
Handelt es sich bei den Ausgabedaten und den Zieldaten beispielsweise um Zahlen, kann die Fehlerfunktion die absolute Differenz zwischen diesen Zahlen sein. In diesem Fall kann ein hoher absoluter Fehler bedeuten, dass ein oder mehrere Modellparameter in hohem Maße geändert werden müssen.
Bei Ausgabedaten in Form von Vektoren können beispielsweise Differenzmetriken zwischen Vektoren wie der mittlere quadratische Fehler, ein Kosinusabstand, eine Norm des Differenzvektors wie ein euklidischer Abstand, ein Tschebyscheff-Abstand, eine Lp-Norm eines Differenzvektors, eine gewichtete Norm oder eine andere Art von Differenzmetrik zweier Vektoren als Fehlerfunktion gewählt werden.
Bei höherdimensionalen Ausgaben, wie z.B. zweidimensionalen, dreidimensionalen oder höherdimensionalen Ausgaben, kann z.B. eine elementweise Differenzmetrik verwendet werden. Alternativ oder zusätzlich können die Ausgabedaten vor der Berechnung eines Fehlerwertes transformiert werden, z.B. in einen eindimensionalen Vektor.
Im vorliegenden Fall erhält das Modell des maschinellen Lernens eine oder mehrere Bildaufnahmen als Eingabedaten. Das Modell kann trainiert werden, für die eine oder die mehreren Bildaufnahmen eine Information auszugeben, ob es sich bei der einen oder den mehreren Bildaufnahmen um eine oder mehrere Bildaufnahmen einer Vorrichtung mit einer Funktionsstörung oder um eine oder mehrere Bildaufnahmen einer Vorrichtung ohne eine Funktionsstörung handelt. Mit anderen Worten, das Modell des maschinellen Lernens kann trainiert werden, Bildaufnahmen von einer Vorrichtung mit Funktionsstörung/Funktionsstörungen von Bildaufnahmen von einer Vorrichtung ohne Funktionsstörung/ Funktionsstörungen zu unterscheiden.
Das Modell des maschinellen Lernens kann trainiert werden, die eine oder die mehreren Bildaufnahmen einer von mindestens zwei Klassen zuzuordnen, wobei mindestens eine erste Klasse Bildaufnahmen von Vorrichtungen repräsentiert, die keine Funktionsbeeinträchtigungen aufweisen und mindestens eine zweite Klasse Bildaufnahmen von Vorrichtungen repräsentiert, die eine Funktionsbeeinträchtigung aufweisen.
Das Trainieren des Modells des maschinellen Lernens erfolgt auf Basis von Trainingsdaten. Die Trainingsdaten umfassen eine Vielzahl von Bildaufnahmen einer oder mehrerer Vorrichtungen (Bildaufnahmen, die zumindest einen Teil eines Feldes und optional zumindest einen Teil einer Vorrichtung zeigen). Der Begriff „Vielzahl“ bedeutet mehr als 10, vorzugsweise mehr als 100. Die Bildaufnahmen fungieren als Eingabedaten. Ein Teil der Bildaufnahmen kann die eine oder die mehreren Vorrichtungen ohne Funktionsbeeinträchtigungen zeigen, d.h. in einem Zustand, in dem sie einwandfrei funktionieren. Ein anderer Teil der Bildaufnahmen kann die eine oder die mehreren Vorrichtung/en mit einer Funktionsbeeinträchtigung zeigen. Die Trainingsdaten können neben den Eingabedaten auch Zieldaten umfassen. Die Zieldaten können für jede Bildaufnahme angeben, ob die Vorrichtung, die in der Bildaufnahme abgebildet ist, eine Funktionsbeeinträchtigung aufweist, oder ob sie keine Funktionsbeeinträchtigung aufweist. Die Zieldaten können auch Informationen darüber umfassen, welche Funktionsbeeinträchtigung im Einzelfall vorliegt und/oder wie schwerwiegend sie ist und/oder welchen Schweregrad sie aufweist.
Das Modell des maschinellen Lernens kann trainiert werden, jede Bildaufnahme genau einer von zwei Klassen zuzuordnen, wobei genau eine Klasse Bildaufnahmen von Vorrichtungen repräsentiert, die keine Funktionsbeeinträchtigungen aufweisen und die andere Klasse Bildaufnahmen von Vorrichtungen repräsentiert, die eine Funktionsbeeinträchtigung oder mehrere Funktionsbeeinträchtigungen aufweisen. Mit anderen Worten, das Modell des maschinellen Lernens kann trainiert werden eine binäre Klassierung vorzunehmen. Für solch einen Fall ist es ausreichend, dass für jede der einzelnen Bildaufnahmen der Trainingsdaten eine Information vorliegt, ob die Bildaufnahme eine Vorrichtung mit einer Funktionsbeeinträchtigung repräsentiert oder ob die Bildaufhahme eine Vorrichtung ohne Funktionsbeeinträchtigung repräsentiert. In einem solchen Fall kann das Modell des maschinellen
Lernens trainiert werden, Vorrichtungen mit einer (oder mehreren) Funktionsbeeinträchtigungen zu erkennen, unabhängig davon, um welche Funktionsbeeinträchtigung(en) es sich jeweils handelt. Es ist auch möglich, ein Modell des maschinellen Lernens zu trainieren, für jede Bildaufnahme, die in das Modell des maschinellen Lernens eingegeben wird, eine Merkmalsextraktion vorzunehmen und eine komprimierte Repräsentation der Bildaufnahme zu erzeugen. Dabei kann das Modell des maschinellen Lernens trainiert werden, für Bildaufnahmen, die keine Vorrichtung mit einer Funktionsbeeinträchtigung zeigen, ähnliche komprimierte Repräsentationen zu erzeugen. Wird dem trainierten Modell des maschinellen Lernens eine Bildaufnahme einer Vorrichtung mit einer Funktionsbeeinträchtigung zugeführt, so erzeugt das trainierte Modell des maschinellen Lernens eine komprimierte Repräsentation der Bildaufnahme der Vorrichtung mit der Funktionsbeeinträchtigung, die von den komprimierten Repräsentationen der Bildaufnahmen von Vorrichtungen ohne Funktionsbeeinträchtigung unterschieden werden kann. Ein solches Training, bei dem das Modell des maschinellen Lernens lediglich trainiert wird zu erkennen, ob eine Funktionsbeeinträchtigung oder keine Funktionsbeeinträchtigung vorliegt, kann sinnvoll sein, wenn ein Nutzer lediglich daran interessiert ist zu erfahren, ob die Vorrichtung einwandfrei funktioniert oder ob ein Eingreifen erforderlich ist, um eine Funktionsbeeinträchtigung (welche es auch immer ist) zu beseitigen.
Das Modell des maschinellen Lernens kann auch trainiert werden, eine spezifische Funktionsbeeinträchtigung zu erkennen. Bei der spezifischen Funktionsbeeinträchtigung kann es sich um eine der Funktionsbeeinträchtigungen handeln, die weiter vorne in dieser Beschreibung beschrieben wurden. Es ist möglich, dass ein Nutzer nur daran interessiert ist zu erfahren, ob die spezifische Funktionsbeeinträchtigung vorliegt. Das Modell des maschinellen Lernens kann trainiert werden, jede Bildaufnahme einer von zwei Klassen zuzuordnen, wobei eine Klasse Bildaufnahmen von Vorrichtungen repräsentiert, die die spezifische Funktionsbeeinträchtigung aufweisen und die andere Klasse Bildaufnahmen von Vorrichtungen repräsentiert, die die spezifische Funktionsbeeinträchtigung nicht aufweisen, bei denen also entweder gar keine Funktionsbeeinträchtigung vorliegt oder eine andere als die spezifische Funktionsbeeinträchtigung vorliegt. In einem solchen Fall umfassen die Trainingsdaten für jede Bildaufnahme eine Information darüber, ob die spezifische Funktionsbeeinträchtigung bei der Vorrichtung vorliegt oder nicht vorliegt.
Das Modell des maschinellen Lernens kann aber auch trainiert werden, jede Bildaufnahme einer von mehr als zwei Klassen zuzuordnen, wobei die Klassen beispielsweise die Schwere der spezifischen Funktionsbeeinträchtigung repräsentieren. Eine erste Klasse kann beispielsweise Bildaufnahmen von Vorrichtungen repräsentieren, bei denen die spezifische Funktionsbeeinträchtigung nicht auftritt (z.B. keine Verschmutzung); eine zweite Klasse kann Bildaufnahmen von Vorrichtungen repräsentieren, bei denen die spezifische Funktionsbeeinträchtigung leicht auftritt (z.B. eine leichte Verschmutzung); eine dritte Klasse kann Bildaufnahmen von Vorrichtungen repräsentieren, bei denen die spezifische Funktionsbeeinträchtigung deutlich auftritt (z.B. eine deutliche Verschmutzung). Eine leichte Funktionsbeeinträchtigung kann bedeuten, dass die Vorrichtung noch ausreichend funktionsfähig ist, dass aber in der Zukunft eine Wartung nötig ist, um eine weitere Funktionsbeeinträchtigung zu vermeiden. Eine deutliche oder schwerwiegende Funktionsbeeinträchtigung kann bedeuten, dass eine umgehende Wartung erforderlich ist. Es sind auch mehr als die genannten drei Abstufungen denkbar, z.B. vier (z.B. keine Beeinträchtigung, leicht Beeinträchtigung, mittlere Beeinträchtigung, schwere Beeinträchtigung) oder mehr und/oder andere Abstufungen. In einem solchen Fall umfassen die Trainingsdaten für jede Bildaufnahme eine Information darüber, ob die Funktionsbeeinträchtigung bei der Vorrichtung vorliegt, und wenn sie vorliegt, wie schwerwiegend sie ist und/oder mit welcher Schwere sie auftritt.
Das Modell des maschinellen Lernens kann aber auch trainiert werden, mehr als eine spezifische Funktionsbeeinträchtigung zu erkennen, d.h. verschiedene Funktionsbeeinträchtigungen voneinander zu unterscheiden. Das Modell des maschinellen Lernens kann beispielsweise trainiert werden, eine Anzahl n von spezifischen Funktionsbeeinträchtigungen zu lernen, wobei n eine ganze Zahl größer als 1 ist. Das Modell des maschinellen Lernens kann trainiert werden, jede Bildaufnahme einer von mindestens n+1
Klassen zuzuordnen, wobei eine erste Klasse Bildaufnahmen von Vorrichtungen repräsentiert, die keine Funktionsbeeinträchtigung aufweisen, und jede der mindesten n verbleibenden Klassen Bildaufnahmen von Vorrichtungen repräsentieren, die eine der n spezifischen Funktionsbeeinträchtigungen zeigen. Es ist auch möglich, dass das Modell des maschinellen Lernens zusätzlich trainiert wird, zwei oder mehr Schweregrade von einer oder mehreren der n spezifischen Funktionsbeeinträchtigungen zu erkennen. Mit anderen Worten, das Modell des maschinellen Lernens kann trainiert werden, für eine oder mehrere der n spezifischen Funktionsbeeinträchtigungen zu erkennen, wie schwerwiegend sie ist und/oder mit welchem Schweregrad sie auftritt. In einem solchen Fall umfassen die Trainingsdaten für jede Bildaufnahme eine Information darüber, ob eine Funktionsbeeinträchtigung vorliegt, wenn eine Funktionsbeeinträchtigung vorliegt, welche spezifische Funktionsbeeinträchtigung vorliegt, und für ein oder mehrere der spezifischen Funktionsbeeinträchtigungen, wie schwerwiegend sie ist und/oder mit welcher Schwere sie auftritt.
Für die Erzeugung der in dieser Beschreibung beschriebenen Trainingsdaten können bestehende Vorrichtungen mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen verwendet werden. Es können solche Vorrichtungen für einen Zeitraum betrieben werden, um Bilddaten zu generieren und die erzeugten Bildaufnahmen können von einem oder mehreren Experten analysiert werden. Der eine oder die mehrere Experten können jede Bildaufnahme mit einem der für das Training erforderlichen Informationen (Annotationen) versehen, die dann als Zieldaten verwendet werden. Der eine oder die mehreren Experten können die Bildaufnahmen sichten und jede Bildaufnahme mit einer Information versehen, ob die jeweilige Bildaufnahme eine Vorrichtung ohne Funktionsbeeinträchtigung oder mit einer Funktionsbeeinträchtigung zeigt. Wenn es für das Training des Modells des maschinellen Lernens erforderlich ist, kann jede Bildaufnahme, die eine Vorrichtung mit einer Funktionsbeeinträchtigung repräsentiert, mit einer Information versehen werden, wie schwerwiegend die Funktionsbeeinträchtigung ist und/oder mit welcher Schwere sie auftritt. Wenn es für das Training des Modells des maschinellen Lernens erforderlich ist, kann jede Bildaufnahme, die eine Vorrichtung mit einer Funktionsbeeinträchtigung repräsentiert, mit einer Information versehen werden, welche spezifische Funktionsbeeinträchtigung jeweils vorliegt.
Beim Trainieren des Modells des maschinellen Lernens werden die Bildaufnahmen (nacheinander) dem Modell des maschinellen Lernens zugeführt. Das Modell des maschinellen Lernens kann konfiguriert sein, jede Bildaufnahme einer von mindestens zwei Klassen zuzuordnen. Die Klassenzuordnung kann von dem Modell des maschinellen Lernens z.B. in Form einer Zahl ausgegeben werden. So kann beispielsweise die Zahl 0 Bildaufnahmen von Vorrichtungen repräsentieren, die keine Funktionsbeeinträchtigung zeigen; die Zahl 1 kann Bildaufnahmen von Vorrichtungen repräsentieren, die eine erste spezifische Funktionsbeeinträchtigung aufweisen; die Zahl 2 kann Bildaufnahmen von Vorrichtungen repräsentieren, die eine zweite spezifische Funktionsbeeinträchtigung aufweisen, usw.
Es ist auch möglich, dass das Modell des maschinellen Lernens konfiguriert ist, für jede Bildaufnahme einen Vektor auszugeben, wobei der Vektor für jede Funktionsbeeinträchtigung an einer Koordinate des Vektors eine Zahl umfasst, die angibt, ob die jeweilige Funktionsbeeinträchtigung in der Bildaufnahme repräsentiert ist (also bei der Vorrichtung vorhanden ist) oder nicht repräsentiert ist (d.h. bei der Vorrichtung nicht vorhanden ist). Ein solches Vorgehen hat den Vorteil, dass verschiedene Funktionsbeeinträchtigungen, die bei einer Vorrichtung gleichzeitig vorliegen, auch nebeneinander erkannt werden. In einem solchen Vektor kann die Zahl 0 angeben, dass eine spezifische Funktionsbeeinträchtigung nicht vorliegt und die Zahl 1 angeben, dass die spezifische Funktionsbeeinträchtigung vorliegt. Die Stelle in dem Vektor (Koordinate), an der die jeweilige Zahl auftritt, kann Auskunft darüber ergeben, um welche spezifische Funktionsbeeinträchtigung es sich jeweils handelt.
Es ist auch möglich, dass das Modell des maschinellen Lernens konfiguriert ist, für eine oder mehrere (spezifische) Funktionsbeeinträchtigungen eine Wahrscheinlichkeit anzugeben, mit der die (spezifische) Funktionsbeeinträchtigung bei der jeweils Vorrichtung auftritt. Die Wahrscheinlichkeit kann
beispielsweise als ein Wert im Bereich von 0 bis 1 angegeben werden, wobei die Wahrscheinlichkeit um so größer ist, je größer der Wert ist.
Es ist auch möglich, dass das Modell des maschinellen Lernens konfiguriert ist, für eine oder mehrere (spezifische) Funktionsbeeinträchtigungen einen Schweregrad auszugeben, mit der die (spezifische) Funktionsbeeinträchtigung bei der jeweils Vorrichtung auftritt.
Die von dem Modell des maschinellen Lernens auf Basis einer eingegebenen Bildaufnahme ausgegebene Ausgabe (Ausgabedaten) kann mit den Zieldaten verglichen werden. Mit Hilfe einer Fehlerfunktion können Abweichungen zwischen den Ausgabedaten und den Zieldaten quantifiziert werden. In einem Optimierungsverfahren (z.B. einem Gradientenverfahren) können die Abweichungen durch Modifizieren von Modellparametern reduziert werden. Erreichen die Abweichungen ein (vordefiniertes) Minimum oder erreichen sie ein Plateau, kann das Training beendet werden. Das trainierte Modell des maschinellen Lernens kann zur Erkennung einer oder mehrerer Funktionsbeeinträchtigungen und optional ihrer Schwere bei der Vorrichtung verwendet werden.
Hierzu kann eine neue Bildaufnahme von einem Bildaufnahmebereich dem Modell des maschinellen Lernens zugeführt werden. Dabei bedeutet der Begriff „neu“, dass die entsprechende Bildaufnahme nicht bereits zum Trainieren des Modells des maschinellen Lernens verwendet wurde. Das trainierte Modell des maschinellen Lernens ordnet die neue Bildaufnahme einer der mindestens zwei Klassen zu, die beim Trainieren des Modells des maschinellen Lernens verwendet wurden. Das trainierte Modell des maschinellen Lernens gibt eine Information aus, welcher Klasse das Modell des maschinellen Lernens die Bildaufnahme zugeordnet hat. Es ist möglich, dass das trainierte Modell des maschinellen Lernens eine Information ausgibt, mit welcher Wahrscheinlichkeit eine oder mehrere Funktionsbeeinträchtigungen vorliegen und/oder wie schwerwiegend sie sind und/oder mit welchem Schweregrad sie auftreten.
Die Ausgabe des Modells des maschinellen Lernens kann auf einem Bildschirm angezeigt, auf einem Drucker ausgedruckt, in einem Datenspeicher gespeichert und/oder an ein separates Computersystem übermittelt werden (z.B. über ein Netzwerk).
Die Ausgabe des Modells des maschinellen Lernens kann dazu verwendet werden, Bildaufnahmen, die Vorrichtungen mit einer Funktionsbeeinträchtigung (oder mit mehreren Funktionsbeeinträchtigungen) repräsentierten, automatisch auszusortieren. In einem solchen Fall wird eine Bildaufnahme einer Vorrichtung in einem ersten Schritt gemäß der vorliegenden Offenbarung auf das Vorliegen einer Funktionsbeeinträchtigung (oder mehrerer Funktionsbeeinträchtigungen) analysiert, bevor es in einem nachfolgenden zweiten Schritt analysiert wird, um Pflanzen auf dem Feld zu detektieren und/oder zu identifizieren. Es ist möglich, dass nur diejenigen Bildaufnahmen, bei denen die Analyse im ersten Schritt ergeben hat, dass sie keine Funktionsbeeinträchtigung aufweisen, dem zweiten Schritt zum Detektieren und/oder Identifizieren von Pflanzen auf dem Feld zugeführt werden. Es ist auch möglich, dass nur diejenigen Bildaufnahmen, bei denen die Analyse im ersten Schritt ergeben hat, dass sie keine Funktionsbeeinträchtigung oder lediglich eine Funktionsbeeinträchtigung mit einem geringen Schweregrad der zweiten Analyse zum Detektieren und/oder Identifizieren von Pflanzen auf dem Feld zugeführt werden. Ebenso ist es möglich, dass nur Bildaufnahmen mit spezifischen Funktionsbeeinträchtigungen oder mit spezifischen Funktionsbeeinträchtigungen eines vordefinierten Schweregrades oder einer Mindestanzahl an vorliegenden verschiedenen Funktionsbeeinträchtigungen aussortiert werden. Es ist möglich, dass ein Nutzer vorab spezifizieren kann, welche Bildaufnahmen aussortiert werden sollen. Als dritter Schritt erfolgt optional dann das Sprühen eines Pflanzenschutzmittels auf die detektierten und/oder identifizierten Pflanzen.
Führt das trainierte Modell des maschinellen Lernens eine Zuordnung einer Bildaufnahme zu einer Klasse durch, die Bildaufnahmen mit Vorrichtungen mit einer Funktionsbeeinträchtigung repräsentieren, kann gegenüber einem Nutzer eine Mitteilung ausgegeben werden. Eine solche Mitteilung kann den Nutzer darüber informieren, dass eine Funktionsbeeinträchtigung bei einer
Vorrichtung vorliegt. Die Mitteilung kann den Nutzer darüber informieren, dass eine Bildaufnahme nicht analysiert wird, um Pflanzen auf dem Feld zu detektieren und/oder zu identifizieren, weil die Vorrichtung eine Funktionsbeeinträchtigung aufweist. Eine Mitteilung an einen Nutzer kann folgende Informationen umfassen: welche Vorrichtung ist betroffen (falls mehrere Vorrichtungen im Einsatz sind kann z.B. ein Standort der betroffenen Vorrichtung angegeben werden); Standort der Bilderfassungseinheit (mit welcher die empfangene Bildaufnahme einer Vorrichtung mit einer Funktionsbeeinträchtigung getätigt wurde); welche Funktionsbeeinträchtigung liegt vor; wie schwer ist die Funktionsbeeinträchtigung; welche Maßnahmen können ergriffen werden, um die volle Funktionalität der Vorrichtung wiederherzustellen; wann sollten die Maßnahmen ergriffen werden, um eine weitere Funktionsbeeinträchtigung zu vermeiden. Es ist auch möglich, dass die Bildaufnahme, bei der das trainierte Modell des maschinellen Lernens eine Funktionsbeeinträchtigung erkannt hat, ebenfalls gegenüber dem Nutzer ausgegeben wird, damit sich der Nutzer selbst ein Bild von der Funktionsbeeinträchtigung machen kann.
Ist die Ausgabe des trainierten Modells des maschinellen Lernens ein Wahrscheinlichkeitswert für das Vorliegen einer Funktionsbeeinträchtigung, kann dieser Wahrscheinlichkeitswert mit einem vordefmierten Schwellenwert verglichen werden. Ist der Wahrscheinlichkeitswert größer als der Schwellenwert oder gleich dem Schwellenwert, kann eine Mitteilung über das Vorliegen einer Funktionsbeeinträchtigung bei der Vorrichtung gegenüber einem Nutzer ausgegeben werden. Ist der Wahrscheinlichkeitswert kleiner als der Schwellenwert, so kann die Bildaufnahme einer Analyse zum Detektieren und/oder Identifizieren von Pflanzen auf dem Feld zugeführt werden.
Es ist denkbar, dass es mehr als einen Schwellenwert gibt, mit dem der Wahrscheinlichkeitswert verglichen wird. Es ist beispielsweise möglich, dass es einen oberen Schwellenwert und einen unteren Schwellenwert gibt. Bei einem Wahrscheinlichkeitswert, der unterhalb des unteren Schwellenwerts liegt, ist die Wahrscheinlichkeit für das Vorliegen einer Funktionsbeeinträchtigung so gering, dass der Nutzer nicht informiert werden muss. Die Bildaufnahme kann einer Analyse zum Detektieren und/oder Identifizieren von Pflanzen auf dem Feld zugeführt werden. Liegt der Wahrscheinlichkeitswert oberhalb des oberen Schwellenwerts, ist die Wahrscheinlichkeit für das Vorliegen einer Funktionsbeeinträchtigung so groß, dass gegenüber dem Nutzer eine Mitteilung über das Vorliegen einer Funktionsbeeinträchtigung ausgegeben wird. Es ist möglich, dass die Bildaufnahme keiner Analyse zum Detektieren und/oder Identifizieren von Pflanzen auf dem Feld zugeführt wird. Liegt der Wahrscheinlichkeitswert in dem Bereich von dem unteren Schwellenwert bis zum oberen Schwellenwert, herrscht eine gewisse Unklarheit darüber, ob eine Funktionsbeeinträchtigung vorliegt oder nicht. Diese Unsicherheit kann daraus resultieren, dass die Bildaufnahme eine vergleichsweise geringe Qualität aufweist. Es ist möglich, dass ein Befehl an die Steuereinheit der Vorrichtung übermittelt wird, eine weitere Bildaufnahme zu erzeugen, um diese weitere Bildaufnahme ebenfalls dem trainierten Modell des maschinellen Lernens zum Erkennen einer Funktionsbeeinträchtigung zuzuführen. Es ist möglich, dass bei der Erzeugung der weiteren Bildaufnahme Parameter verändert werden, um die Qualität der Bildaufnahme zu erhöhen. Zum Beispiel kann die Belichtungszeit vergrößert werden und/oder die Beleuchtung des Bildaufnahmebereichs durch eine oder mehrere Beleuchtungseinheiten verstärkt werden und/oder es können Filter (Farbfdter, Polarisationsfilter und/oder dergleichen) eingesetzt werden. Die weitere Bildaufnahme kann dann Klarheit darüber geben, ob eine Funktionsbeeinträchtigung vorliegt oder nicht. Es ist aber auch möglich, dass die Unsicherheit über das Vorliegen einer Funktionsbeeinträchtigung daraus resultiert, dass sich eine Funktionsbeeinträchtigung gerade erst abzeichnet, d.h., dass nur eine vergleichsweise geringe Funktionsbeeinträchtigung vorliegt (z.B. eine leichte Verschmutzung). Es ist beispielsweise möglich, dass die Steuereinheit der Vorrichtung durch einen Befehl veranlasst wird, das Zeitintervall zwischen zwei aufeinanderfolgenden Bildaufnahmen zu verkleinern. Bildaufnahmen werden dann in geringeren zeitlichen Abstand zueinander aufgenommen, um eine weitere Funktionsbeeinträchtigung und/oder ein Erhöhen des Schweregrads der Funktionsbeeinträchtigung frühzeitig zu erkennen.
Schwellenwerte können von einem Experten aufgrund seiner Erfahrung festgelegt werden. Sie können aber auch von einem Nutzer festgelegt werden. Es ist möglich, dass der Nutzer selbst entscheiden kann, ob er bereits bei einer geringeren Wahrscheinlichkeit für das Vorliegen einer Funktionsbeeinträchtigung informiert werden möchte, oder ob der Nutzer eher dann informiert werden möchte, wenn die Wahrscheinlichkeit für das Vorliegen einer Funktionsbeeinträchtigung vergleichsweise hoch ist.
Das Modell des maschinellen Lernens der vorliegenden Offenbarung kann ein künstliches neuronales Netz sein oder ein solches umfassen. Ein „künstliches neuronales Netzwerk“ umfasst mindestens drei Schichten von Verarbeitungselementen: eine erste Schicht mit Eingangsneuronen (Knoten), eine k-te Schicht mit mindestens einem Ausgangsneuron (Knoten) und k-2 innere Schichten, wobei k eine natürliche Zahl und größer als 2 ist.
Die Eingangsneuronen dienen zum Empfangen der Eingabe -Repräsentationen. Üblicherweise gibt es ein Eingangsneuron für jedes Pixel einer Bildaufnahme, die in das künstliche neuronale Netz eingegeben wird. Es können zusätzliche Eingangsneuronen für zusätzliche Eingangswerte (z.B. Informationen zur Bildaufnahme, der Vorrichtung, Parameter der Kamera, Witterungsbedingungen bei der Erzeugung der Bildaufnahme und/oder dergleichen) vorhanden sein.
Die Ausgangsneuronen können dazu dienen, eine Information auszugeben, welcher Klasse die eingegebene Bildaufnahme zugeordnet wurde und/oder mit welcher Wahrscheinlichkeit sie der Klasse zugeordnet wurde.
Die Verarbeitungselemente der Schichten zwischen den Eingangsneuronen und den Ausgangsneuronen sind in einem vorbestimmten Muster mit vorbestimmten Verbindungsgewichten miteinander verbunden.
Das Trainieren des neuronalen Netzwerks kann beispielsweise mittels eines Backpropagation- Verfahrens durchgeführt werden. Dabei wird für das Netzwerk eine möglichst zuverlässige Abbildung der Eingabedaten auf die Zieldaten angestrebt. Die Qualität der Vorhersage wird durch eine Fehlerfunktion beschrieben. Das Ziel ist die Minimierung der Fehlerfunktion. Das Einlemen eines künstlichen neuronalen Netzwerks erfolgt bei dem Backpropagation-Verfahren durch die Änderung der Verbindungsgewichte.
Im trainierten Zustand enthalten die Verbindungsgewichte zwischen den Verarbeitungselementen Informationen bezüglich des Zusammenhangs zwischen Bildaufnahmen und Funktionsbeeinträchtigungen der Vorrichtungen, die verwendet werden können, um auf Basis einer neuen Bildaufnahme eine Funktionsbeeinträchtigung einer Vorrichtung frühzeitig zu erkennen. Dabei bedeutet der Begriff „neu“, dass die neue Bildaufnahme nicht bereits beim Trainieren des künstlichen neuronalen Netzwerks verwendet wurde.
Eine Kreuzvalidierungsmethode kann verwendet werden, um die Daten in Trainings- und Validierungsdatensätze aufzuteilen. Der Trainingsdatensatz wird beim Backpropagation-Training der Netzwerkgewichte verwendet. Der Validierungsdatensatz wird verwendet, um zu überprüfen, mit welcher Vorhersagegenauigkeit sich das trainierte Netzwerk auf unbekannte (neue) Daten anwenden lässt.
Bei dem künstlichen neuronalen Netzwerk kann es sich um ein so genanntes Convolutional Neural Network (kurz: CNN) handeln oder es kann ein solches umfassen.
Ein Convolutional Neural Network („CNN“) ist in der Lage, Eingabedaten in Form einer Matrix zu verarbeiten. Dies ermöglicht es, als Matrix dargestellte Bildaufnahmen (z.B. Breite x Höhe x Farbkanäle) als Eingabedaten zu verwenden. Ein neuronales Netzwerk z.B. in Form eines Multi-Lay er- Perceptrons (MLP) benötigt dagegen einen Vektor als Eingabe, d.h. um eine Bildaufnahme als Eingabe zu verwenden, müssten die Bildelemente (Pixel) der Bildaufnahme in einer langen Kette hintereinander ausgerollt werden. Dadurch sind Multi-Layer-Perceptrons z.B. nicht in der Lage, Objekte in einer
Bildaufnahme unabhängig von der Position des Objekts in der Bildaufnahme zu erkennen. Das gleiche Objekt an einer anderen Position in der Bildaufnahme hätte einen anderen Eingabevektor.
Ein CNN besteht üblicherweise im Wesentlichen aus Filtern (Convolutional Layer) und Aggregations- Schichten (Pooling Layer), die sich abwechselnd wiederholen, und am Ende aus einer Schicht oder mehreren Schichten von vollständig verbundenen Neuronen (Dense / Fully Connected Layer).
In der wissenschaftlichen Literatur sind zahlreiche Architekturen von künstlichen neuronalen Netzwerken beschrieben, die zur Zuordnung eines Bildes zu einer Klasse (engl.: image classification) verwendet werden. Beispiele sind Xception (siehe z.B.: F. Chollet: Xception: Deep Learning with Depthwise Separable Convolutions, 2017, 1800-1807, 10. 1109/CVPR.2017.195), ResNet (siehe z.B.: J. Liang: Image classification based on RESNET, Journal of Physics: Conference Series, 2020, 1634, 012110), EfficientNet (siehe z.B.: T. Mingxing Tan et al. '. EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks, arXiv:1905.11946v5), DenseNet (siehe z.B.: G. Wang et al.'. Study on Image Classification Algorithm Based on Improved DenseNet , Journal of Physics: Conference Series, 2021, 1952, 022011), Inception (siehe z.B. J. Bankar et al. '. Convolutional Neural Network based Inception v3 Model for Animal Classification, International Journal of Advanced Research in Computer and Communication Engineering, 2018, Vol. 7, Issue 5) und andere (siehe z.B.: M. Tripathi: Analysis of Convolutional Neural Network based Image Classification Techniques. Journal of Innovative Image Processing, 2021, 3, 100-117; K. He et al. '. Deep Residual Learning for Image Recognition, arXiv:1512.03385vl; M. Aamir et al.'. An Optimized Architecture of Image Classification Using Convolutional Neural Network, International Journal of Image, Graphics and Signal Processing, 2019, 11, 30-39).
Das Modell des maschinellen Lernens der vorliegenden Offenbarung kann eine solche oder eine vergleichbare Architektur aufweisen.
Das Modell des maschinellen Lernens der vorliegenden Offenbarung kann ein Transformer sein oder einen solchen umfassen. Ein Transformer ist ein Modell, das eine Folge von Zeichen in eine andere Folge von Zeichen übersetzen kann und dabei Abhängigkeiten zwischen weit entfernten Zeichen berücksichtigen kann. Ein solches Modell kann z.B. benutzt werden, um Text von einer Sprache in eine andere zu übersetzen. Ein Transformer umfasst in Serie geschaltete Kodierer (Encoder) und in Serie geschaltete Dekodierer (Decoder). Transformer wurden bereits erfolgreich zur Klassierung von Bildern eingesetzt (siehe z.B.: A. Dosovitskiy et al.: An image is worth 16 x 16 Words: Transformers for image recognition at scale, arXiv:2010.11929v2; A. Khan et al.'. Transformers in Vision: A Survey, arXiv:2101.01169v5).
Das Modell des maschinellen Lernens der vorliegenden Offenbarung kann eine hybride Architektur aufweisen, in der beispielsweise Elemente eines CNN mit Elementen eines Transformers kombiniert sind.
Das Modell des maschinellen Lernens der vorliegenden Offenbarung kann nach Standardverfahren (Zufallsinitialisierung, He-Initialisierung, Xavier-Initialisierung etc.) initialisiert werden. Es kann aber auch auf Basis von öffentlich zugänglichen, bereits annotierten Bildern (siehe z.B. https://www.image- net.org) vortrainiert sein. Das Training des Modells des maschinellen Lernens kann also entsprechend auf Initialisierung oder Vortraining aufsetzen und kann auch Transfer-Learning einschließen, so dass nur Teile der Gewichte / Parameter des Modells des maschinellen Lernens neu trainiert werden.
Das Modell des maschinellen Lernens kann eine Autoencoder- Architektur aufweisen. Ein "Autoencoder" ist ein künstliches neuronales Netzwerk, das zum Erlernen effizienter Datenkodierungen in einem unüberwachten Lemverfahren verwendet werden kann. Im Allgemeinen besteht die Aufgabe eines Autoencoders darin, eine komprimierte Repräsentation für einen Datensatz zu erlernen und somit wesentliche Merkmale zu extrahieren. Dadurch kann er zur Dimensionsreduktion verwendet werden, indem das Netz darauf trainiert wird, "Rauschen" zu ignorieren. Ein Autoencoder umfasst einen Encoder, einen Decoder und eine Schicht zwischen dem Encoder und dem Decoder, die eine geringere
Dimension aufweist als die Eingabeschicht des Encoders und die Ausgabeschicht des Decoders. Diese Schicht (im Englischen oft als bottleneck, encoding oder embedding bezeichnet) zwingt den Encoder, eine komprimierte Repräsentation der Eingabedaten zu erzeugen, bei der Rauschen minimiert ist, und die für den Decoder ausreichend ist, um die Eingabedaten zu rekonstruieren. Der Autoencoder kann also trainiert werden, für eine eingegebene Bildaufnahme eine komprimierte Repräsentation der Bildaufnahme zu erzeugen. Der Autoencoder kann beispielsweise ausschließlich auf Basis von Bildaufnahmen trainiert werden, die keine Funktionsbeeinträchtigung der Vorrichtung repräsentieren. Der Autoencoder kann aber auch auf Basis von Bildaufhahmen trainiert werden, die Vorrichtungen mit und ohne Funktionsbeeinträchtigung repräsentieren. Ist der Autoencoder trainiert, kann der Decoder verworfen werden und der Encoder kann verwendet werden, für jede eingegebene Bildaufnahme eine komprimierte Repräsentation zu erzeugen. Wird eine neue Vorrichtung verwendet, kann beim ersten Gebrauch eine erste Bildaufnahme von Vorrichtung erzeugt werden. Diese erste Bildaufnahme, die die Vorrichtung ohne eine Funktionsbeeinträchtigung repräsentiert, kann als eine Referenz verwendet werden. Von der ersten Bildaufnahme kann eine komprimierte Repräsentation mit Hilfe des Encoders des trainierten Autoencoders erzeugt werden. Diese komprimierte Repräsentation ist die Referenz- Repräsentation. Im Betrieb der Vorrichtung können von Bildaufnahmen, die von der Bilderfassungseinheit der Vorrichtung erzeugt werden, komprimierte Repräsentationen mit Hilfe des Encoders erzeugt werden. Je ähnlicher eine komprimierte Repräsentation der Referenz-Bildaufnahme ist, desto unwahrscheinlicher ist es, dass eine Funktionsbeeinträchtigung vorliegt. Je mehr sich eine komprimierte Repräsentation von der Referenz-Bildaufnahme unterscheidet, desto wahrscheinlicher ist es, dass eine Funktionsbeeinträchtigung vorliegt. Die Ähnlichkeit von Repräsentationen kann mittels eines Ähnlichkeits- oder Distanzmaßes quantifiziert werden. Beispiele für solche Ähnlichkeits- oder Distanzmaße sind Co sinus -Ähnlichkeit, Manhattan-Distanz, Euklidischer Abstand, Minkowski- Distanz, Lp-Norm, Tschebyscheff-Abstand. Überschreitet ein Distanzmaß oder unterschreitet ein Ähnlichkeitsmaß einen vordefinierten Schwellenwert, der von einem Experten festgelegt oder von einem Nutzer spezifiziert werden kann, kann eine Mitteilung ausgegeben werden, dass eine Funktionsbeeinträchtigung vorliegt, und/oder kann Bildaufnahme aussortiert werden.
Ein Beispiel für eine Architektur eines Autoencoders ist das U-Net (siehe z.B. O. Ronneberger et al.-. U-net: Convolutional networks for biomedical image segmentation, International Conference on Medical image computing and computer-assisted intervention, Seiten 234-241, Springer, 2015, https://doi.org/10.1007/978-3-319-24574-4_28).
Es ist auch möglich, für das Modell des maschinellen Lernens der vorliegenden Erfindung eine Architektur zu verwenden, wie sie beispielsweise in der folgenden Publikation beschrieben ist: J. Dippel, S. Vogler, S. Höhne: Towards Fine-grained Visual Representations by Combining Contrastive Learning with Image Reconstruction and Attention-weighted Pooling, arXiv:2104.04323v2. Der dort beschriebene Autoencoder weist neben einem Encoder und einem Decoder noch einen Strang (projection head) auf, der auf Basis der komprimierten Repräsentation, die der Encoder erzeugt, eine Ausgabe erzeugt, die angibt, ob die Bildaufnahme eine Vorrichtung mit einer Funktionsbeeinträchtigung oder ohne Funktionsbeeinträchtigung repräsentiert. Mit anderen Worten, der Autoencoder wird nicht nur trainiert, eine komprimierte Repräsentation der Eingabedaten zu erzeugen und die Eingabedaten auf Basis der komprimierten Repräsentation zu rekonstruieren, sondern der Autoencoder wird gleichzeitig trainiert, Bildaufnahmen von Vorrichtungen mit Funktionsbeeinträchtigung von Bildaufnahmen von Vorrichtungen ohne Funktionsbeeinträchtigung zu unterscheiden (kontrastive Rekonstruktion). Ist der Autoencoder trainiert, kann der Encoder beispielsweise verwendet werden, für eine erste Bildaufnahme einer erstmalig verwendeten neuen Vorrichtung eine komprimierte Referenz-Repräsentation zu erzeugen. Diese komprimierte Referenz-Repräsentation wird im Betrieb der Vorrichtung mit komprimierten Repräsentationen von Bildaufnahmen, die während des Betriebs erzeugt werden, verglichen, und im Fall einer definierten Abweichung wird eine Mitteilung ausgegeben, dass eine Funktionsbeeinträchtigung vorliegt. Ebenso ist es möglich, den Encoder zusammen mit dem Projektionsoperator (projection head) direkt für eine Klassierung zu verwenden.
Weitere Techniken zur Klassierung von Bildern sind beispielsweise beschrieben in S.V.S. Prasad et al. : Techniques in Image Classification - A Survey, Global Journal of Researches in Engineering (F), 2015, Volume XV, Issue, VI, Version I, 17-32; K. Sanghvi et al.'. A Survey on Image Classification Techniques, 2020, http://dx.doi.org/10.2139/ssrn.3754116 und können ebenfalls zur Ausführung der vorliegenden Erfindung verwendet werden.
Die Erfindung wird nachfolgend anhand von Zeichnungen näher erläutert, ohne die Erfindung auf die in den Zeichnungen dargestellten Merkmale und Merkmalskombinationen beschränken zu wollen.
Fig. 1 zeigt schematisch und beispielhaft das Training eines Modells des maschinellen Lernens. Das Modell des maschinellen Lernens wird mit Hilfe von Trainingsdaten TD trainiert. Die Trainingsdaten TD umfassen eine Vielzahl von Bildaufnahmen. Jede Bildaufnahme I zeigt zumindest einen Teil eines Feldes und optional zumindest einen Teil der Vorrichtung (in Fig. 1 nicht dargestellt). Die Trainingsdaten TD umfassen ferner für jede Bildaufnahme I eine Information A, ob die in der Bildaufnahme I abgebildete Vorrichtung eine Funktionsbeeinträchtigung aufweist oder ob sie keine Funktionsbeeinträchtigung aufweist. Es ist möglich, dass die Information A Informationen darüber umfasst, welche spezifische Funktionsbeeinträchtigung im Einzelfall vorliegt und/oder wie schwerwiegend die Funktionsbeeinträchtigung ist und/oder welchen Schweregrad die Funktionsbeeinträchtigung aufweist. In Fig. 1 ist der Übersicht halber nur ein Trainingsdatensatz umfassend eine Bildaufnahme I mit einer Information A gezeigt; die Trainingsdaten umfassen aber eine Vielzahl solcher Trainingsdatensätze. Die Bildaufnahme I stellt Eingabedaten für das Modell MLM des maschinellen Lernens dar. Die Information A stellt Zieldaten für das Modell MLM des maschinellen Lernens dar. Die Bildaufnahme I wird dem Modell MLM des maschinellen Lernens zugeführt. Das Modell MLM des maschinellen Lernens ordnet die Bildaufnahme einer von mindestens zwei Klassen zu. Die Zuordnung erfolgt auf Basis der Bildaufnahme I und auf Basis von Modellparametern MP. Das Modell MLM des maschinellen Lernens gibt eine Information O aus, die angibt, welcher Klasse die Bildaufnahme zugeordnet wurde und/oder mit welcher Wahrscheinlichkeit die Bildaufnahme einer oder mehreren der mindestens zwei Klassen zugeordnet wurde. Die ausgegebene Information O wird mit der Information A verglichen. Eine Fehlerfunktion LF wird verwendet, um die Abweichungen zwischen der Information O (Ausgabe) und der Information A (Zieldaten) zu quantifizieren. Für jedes Paar aus Information A und Information O kann ein Fehlerwert LV berechnet werden. Der Fehlerwert LV kann in einem Optimierungsverfahren (z.B. einem Gradientenverfahren) durch Modifizieren von Modellparametern MP reduziert werden. Das Ziel des Trainings kann es sein, den Fehlerwert für alle Bildaufnahmen auf ein vordefiniertes Minimum zu reduzieren. Ist das vordefinierte Minimum erreicht, kann das Training beendet werden.
Fig. 2 zeigt schematisch die Verwendung eines trainierten Modells des maschinellen Lernens zur Erkennung einer Funktionsbeeinträchtigung bei einer Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen. Das trainierte Modell MLM1 des maschinellen Lernens kann in einem Trainingsverfahren, wie es in Bezug zu Fig. 1 beschrieben wurde, trainiert worden sein. Dem trainierten Modell MLM1 des maschinellen Lernen wird eine neue Bildaufnahme I* zugeführt. Die neue Bildaufnahme I* zeigt zumindest einen Teil eines Feldes und optional zumindest einen Teil der Vorrichtung. Das Modell ordnet die neue Bildaufnahme I* einer der mindestens zwei Klassen zu, für die das trainierte Modell MLM1 des maschinellen Lernens trainiert worden ist. Das trainierte Modell MLM1 des maschinellen Lernens gibt eine Information O aus, die angibt, welcher Klasse die Bildaufnahme zugeordnet wurde und/oder mit welcher Wahrscheinlichkeit die Bildaufnahme einer oder mehreren der mindestens zwei Klassen zugeordnet wurde. Die Information O kann einem Nutzer gegenüber ausgegeben werden.
Fig. 3 zeigt schematisch ein weiteres Beispiel für das Trainieren eines Modells des maschinellen Lernens. Das Modell des maschinellen Lernens weist ein Autoencoder-Architektur auf. Der Autoencoder AE umfasst einen Encoder E und einen Decoder D. Der Encoder ist konfiguriert, auf Basis von Modellparametem MP für eine Bildaufnahme I eine komprimierte Repräsentation CR zu erzeugen. Der Decoder ist konfiguriert, auf Basis der komprimierten Repräsentation CR und auf Basis von
Modellparametern MP eine rekonstruierte Bildaufnahme RI zu erzeugen, die der Bildaufnahme I möglichst nahe kommt. Eine Fehlerfunktion LF kann verwendet werden, um Abweichungen zwischen der Bildaufnahme I und der rekonstruierten Bildaufnahme RI zu quantifizieren. Die Abweichungen können in einem Optimierungsverfahren (z.B. in einem Gradientenverfahren) durch Modifizieren von Modellparametern MP minimiert werden. Der Autoencoder AE wird üblicherweise auf Basis einer Vielzahl von Bildaufnahmen in einem unüberwachten Lernverfahren trainiert. In Fig. 3 ist nur eine Bildaufnahme I der Vielzahl von Bildaufnahmen gezeigt. lede Bildaufnahme der Vielzahl von Bildaufnahmen zeigt zumindest einen Teil eines Feldes und optional zumindest einen Teil der Vorrichtung. Die Bestandteile der Vorrichtung(en) können eine oder mehrere Funktionsbeeinträchtigungen aufweisen oder frei von Funktionsbeeinträchtigungen sein.
Fig. 4 zeigt schematisch ein weiteres Beispiel einer Verwendung eines trainierten Modells des maschinellen Lernens zur Erkennung einer Funktionsbeeinträchtigung bei einer Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen. Das trainierte Modell des maschinellen Lernens kann in einem Trainingsverfahren, wie es in Bezug zu Fig. 3 beschrieben wurde, trainiert worden sein. Bei dem trainierten Modell des maschinellen Lernens kann es sich um einen Encoder E eines Autoencoders handeln. Der Encoder E ist in Fig. 4 zweimal dargestellt; es handelt sich aber in beiden Fällen um denselben Encoder; er ist lediglich zur bildhaften Darstellung des Erkennungsverfahrens zweimal dargestellt. In einem ersten Schritt wird dem Encoder E eine erste Bildaufnahme Ii* eines Bildaufnahmebereichs zugeführt. Das Sternchen * zeigt an, dass die Bildaufnahme L* nicht zum Trainieren des Modells des maschinellen Lernens verwendet wurde. Bei der Bildaufnahme L * handelt es sich vorzugsweise um eine Bildaufnahme, die eine Vorrichtung ohne Funktionsbeeinträchtigung repräsentiert, die beispielsweise nach der erstem Gebrauch einer neuen Vorrichtung erzeugt worden sein kann. Der Encoder ist konfiguriert, für die erste Bildaufnahme L * eine erste komprimierte Repräsentation CRi zu erzeugen. Die erste komprimierte Repräsentation CRi kann als eine Referenz-Repräsentation verwendet werden. Sie kann in einem Datenspeicher gespeichert werden. Während des Betriebs der Vorrichtung werden weitere Bildaufnahmen des Bildaufnahmebereichs erzeugt. Fig. 4 zeigt mit der Bildaufnahme L* eine dieser weiteren Bildaufnahmen. Auch die Bildaufnahme I2* wird dem Encoder E zugeführt. Der Encoder E erzeugt für die Bildaufnahme I2* eine zweite komprimierte Repräsentation CR2. Die erste Repräsentation CRi und die zweite Repräsentation CR2 werden in einem nächsten Schritt miteinander verglichen. Bei diesem Vergleich wird ein Distanzmaß D berechnet, dass die Unterschiede zwischen der ersten Repräsentation CRi und der zweiten Repräsentation CR2 quantifiziert. In einem nächsten Schritt wird das Distanzmaß mit einem vordefmierten Schwellenwert T verglichen. Ist das Distanzmaß größer als der vordefmierte Schwellenwert T (, >“), wird eine Mitteilung M ausgegeben. Die Mitteilung M umfasst eine Information, dass die Vorrichtung, die in der Bildaufnahme I2* gezeigt ist, eine Funktionsbeeinträchtigung aufweist. Ist das Distanzmaß nicht größer als der vordefmierte Schwellenwert T („n“), wird die Bildaufnahme I2* einer Analyse DCI(l2*) zugeführt, um Pflanzen auf dem Feld in dem Bildaufnahmebereich der Vorrichtung zu detektieren und/oder die in dem Bildaufnahmebereich befindlichen Pflanzen zu identifizieren.
Fig. 5 zeigt beispielhaft und schematisch ein computerimplementiertes Verfahren zum Trainieren eines Modells des maschinellen Lernens in Form eines Ablaufschemas.
Das Trainingsverfahren (100) umfasst die folgenden Schritte:
(HO) Empfangen und/oder Bereitstellen von Trainingsdaten, wobei die Trainingsdaten Eingabedaten und Zieldaten umfassen, o wobei die Eingabedaten eine Vielzahl von Bildaufnahmen von zumindest einem Teil eines Feldes zeigen und optional zumindest einen Teil der Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen zeigen, o wobei die Zieldaten für jede Bildaufnahme eine Klassenzuordnung umfassen, wobei die Klassenzuordnung angibt, welcher Klasse von mindestens zwei Klassen die
Bildaufnahme zugeordnet ist, wobei mindestens eine erste Klasse Bildaufnahmen von Vorrichtungen repräsentiert, die keine Funktionsbeeinträchtigung aufweisen, und mindestens eine zweite Klasse Bildaufnahmen von Vorrichtungen repräsentiert, die eine Funktionsbeeinträchtigung aufweisen,
(120) Bereitstellen eines Modells des maschinellen Lernens, wobei das Modell des maschinellen Lernens konfiguriert ist, auf Basis einer Bildaufnahme und auf Basis von Modellparametern die Bildaufnahme einer der mindestens zwei Klassen zuzuordnen,
(130) Trainieren des Modells des maschinellen Lernens mit den Trainingsdaten, wobei das Trainieren für jede Bildaufnahme umfasst:
(131) Zuführen der Bildaufnahme dem Modell des maschinellen Lernens,
(132) Empfangen einer Ausgabe von dem Modell des maschinellen Lernens, wobei die Ausgabe angibt, welcher Klasse das Modell des maschinellen Lernens die Bildaufnahme zugeordnet hat und/oder mit welcher Wahrscheinlichkeit das Modell des maschinellen Lernens die Bildaufnahme einer oder mehreren der mindestens zwei Klassen zugeordnet hat,
(133) Ermitteln einer Abweichung zwischen der Ausgabe und der Klassenzuordnung,
(134) Minimieren der Abweichung durch Modifizieren der Modellparameter,
(140) Speichern und/oder Ausgeben des trainierten Modells des maschinellen Lernens und/oder Verwenden des trainierten Modells des maschinellen Lernens zur Erkennung einer Funktionsbeeinträchtigung bei einer Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen.
Fig. 6 zeigt beispielhaft und schematisch ein computerimplementiertes Verfahren zum Erkennen einer Funktionsbeeinträchtigung bei einer Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen.
Das Erkennungsverfahren (200) umfasst die folgenden Schritte:
(210) Empfangen einer Bildaufnahme, wobei die empfangene Bildaufnahme zumindest einen Teil eines Feldes zeigt und optional auch zumindest einen Teil der Vorrichtung zeigt und durch die Bilderfassungseinheit der Vorrichtung aufgenommen wurde,
(220) Bereitstellen eines trainierten Modells des maschinellen Lernens, wobei das Modell des maschinellen Lernens konfiguriert ist und auf Basis von Trainingsdaten trainiert wurde, Bildaufnahmen einer von mindestens zwei Klassen zuzuordnen, wobei die Trainingsdaten Eingabedaten und Zieldaten umfassen,
• wobei die Eingabedaten eine Vielzahl von Bildaufnahmen umfassen, die jeweils zumindest einen Teil eines Feldes zeigen und optional zumindest einen Teil der Vorrichtung zeigen,
• wobei die Zieldaten für jede Bildaufnahme eine Klassenzuordnung umfassen, wobei die Klassenzuordnung angibt, welcher Klasse von mindestens zwei Klassen die Bildaufnahme zugeordnet ist, wobei mindestens eine erste Klasse Bildaufnahmen von der Vorrichtungen mit einer Bilderfassungs- und einer Bildererkennungseinheit von Pflanzen repräsentiert, die keine Funktionsbeeinträchtigung aufweisen, und mindestens eine zweite Klasse Bildaufnahmen von Vorrichtungen mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen repräsentiert, die eine Funktionsbeeinträchtigung aufweisen,
(230) Zuführen der Bildaufnahme einem trainierten Modell des maschinellen Lernens,
(240) Empfangen einer Information von dem Modell des maschinellen Lernens, welcher Klasse die Bildaufnahme zugeführt wurde,
(250) wobei die Mitteilung, dass die Vorrichtung mit einer Bilderfassungs- und einer Bildererkennungseinheit von Pflanzen eine Funktionsbeeinträchtigung aufweist, ausgegeben wird, wenn die empfangene Bildaufnahme einer der mindestens einen zweiten Klasse zugeordnet wurde.
Die in dieser Offenbarung beschriebenen Schritte, Verfahren und/oder Funktionen können ganz oder teilweise von einem Computersystem ausgeführt werden.
Ein "Computersystem" ist ein System zur elektronischen Datenverarbeitung, das mittels programmierbarer Rechenvorschriften Daten verarbeitet. Ein solches System umfasst üblicherweise einen "Computer", diejenige Einheit, die einen Prozessor zur Durchführung logischer Operationen umfasst, sowie eine Peripherie.
Als "Peripherie" bezeichnet man in der Computertechnik alle Geräte, die an den Computer angeschlossen sind, und zur Steuerung des Computers und/oder als Ein- und Ausgabegeräte dienen. Beispiele hierfür sind Monitor (Bildschirm), Drucker, Scanner, Maus, Tastatur, Laufwerke, Kamera, Mikrofon, Lautsprecher etc. Auch interne Anschlüsse und Erweiterungskarten gelten in der Computertechnik als Peripherie.
Heutige Computersysteme werden häufig in Desktop-PCs, tragbare PCs, Laptops, Notebooks, Netbooks und Tablet-PCs sowie sogenannte Handhelds (z. B. Smartphone) unterteilt; alle diese Systeme können für die Durchführung der Erfindung verwendet werden.
Der Begriff "Computer" sollte weit ausgelegt werden und jede Art von elektronischem Gerät mit Datenverarbeitungsfähigkeiten umfassen, einschließlich, als nicht einschränkende Beispiele, Personalcomputer, Server, eingebettete Kerne, Kommunikationsgeräte, Prozessoren (z.B. digitale Signalprozessoren (DSP), Mikrocontroller, feldprogrammierbare Gate-Arrays (FPGA), anwendungsspezifische integrierte Schaltkreise (ASIC) usw.) und andere elektronische Rechengeräte.
Der Begriff "verarbeiten", wie er oben verwendet wird, soll jede Art von Berechnung oder Manipulation oder Umwandlung von Daten umfassen, die als physikalische, z.B. elektronische, Phänomene dargestellt werden und z.B. in Registern und/oder Speichern mindestens eines Computers oder Prozessors auftreten oder gespeichert werden können. Der Begriff "Prozessor" umfasst eine einzelne Verarbeitungseinheit oder eine Vielzahl verteilter oder entfernter solcher Einheiten.
Fig. 7 zeigt beispielhaft und schematisch eine Ausführungsform eines Computersystems der vorliegenden Offenbarung. Das Computersystem (1) umfasst eine Eingabeeinheit (10) eine Steuer- und Recheneinheit (20) und eine Ausgabeeinheit (30).
Die Steuer- und Recheneinheit (20) ist konfiguriert, die Eingabeeinheit zu veranlassen, eine Bildaufnahme zu empfangen, wobei die empfangene Bildaufnahme zumindest einen Teil eines Feldes und optional auch zumindest einen Teil einer Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen zeigt und durch eine Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen aufgenommen wurde,
die empfangene Bildaufnahme einem trainierten Modell des maschinellen Lernens zuzuführen, wobei das Modell des maschinellen Lernens konfiguriert ist und auf Basis von Trainingsdaten trainiert wurde, Bildaufnahmen einer von mindestens zwei Klassen zuzuordnen, wobei die Trainingsdaten Eingabedaten und Zieldaten umfassen, o wobei die Eingabedaten eine Vielzahl von Bildaufnahmen umfassen, die jeweils zumindest einen Teil eines Feldes zeigen und optional zumindest einen Teil der Vorrichtung zeigen, o wobei die Zieldaten für jede Bildaufnahme eine Klassenzuordnung umfassen, wobei die Klassenzuordnung angibt, welcher Klasse von mindestens zwei Klassen die Bildaufnahme zugeordnet ist, wobei mindestens eine erste Klasse Bildaufnahmen von Vorrichtungen repräsentiert, die keine Funktionsbeeinträchtigung aufweisen und mindestens eine zweite Klasse Bildaufnahmen von Vorrichtungen repräsentiert, die eine Funktionsbeeinträchtigung aufweisen, von dem Modell des maschinellen Lernens eine Information zu empfangen, welcher Klasse der mindestens zwei Klassen die Bildaufnahme zugeführt wurde und/oder mit welcher Wahrscheinlichkeit die Bildaufnahme einer oder mehreren der mindestens zwei Klassen zugeordnet wurde, die Ausgabeeinheit zu veranlassen, eine Mitteilung auszugeben, dass die Vorrichtung eine Funktionsbeeinträchtigung aufweist, falls die Bildaufnahme einer der mindestens einen zweiten Klasse zugeordnet wurde.
Fig. 8 zeigt beispielhaft und schematisch eine weitere Ausführungsform eines Computersystems der vorliegenden Offenbarung.
Das Computersystem (1) umfassteine Verarbeitungseinheit (20), die mit einem Speicher (50) verbunden ist.
Die Verarbeitungseinheit (20) (engl.: processing unit) kann einen oder mehrere Prozessoren allein oder in Kombination mit einem oder mehreren Speichern umfassen. Bei der Verarbeitungseinheit (20) kann es sich um gewöhnliche Computerhardware handeln, die in der Lage ist, Informationen wie z.B. digitale Bildaufnahmen, Computerprogramme und/oder andere digitale Informationen zu verarbeiten. Die Verarbeitungseinheit (20) besteht üblicherweise aus einer Anordnung elektronischer Schaltungen, von denen einige als integrierter Schaltkreis oder als mehrere miteinander verbundene integrierte Schaltkreise (ein integrierter Schaltkreis wird manchmal auch als "Chip" bezeichnet) ausgeführt sein können. Die Verarbeitungseinheit (20) kann konfiguriert sein, Computerprogramme auszuführen, die in einem Arbeitsspeicher der Verarbeitungseinheit (20) oder im Speicher (50) desselben oder eines anderen Computersystems gespeichert sein können.
Der Speicher (50) kann eine gewöhnliche Computerhardware sein, die in der Lage ist, Informationen wie z.B. digitale Bildaufnahmen (z.B. Repräsentationen des Untersuchungsbereichs), Daten, Computerprogramme und/oder andere digitale Informationen entweder vorübergehend und/oder dauerhaft zu speichern. Der Speicher (50) kann einen flüchtigen und/oder nichtflüchtigen Speicher umfassen und kann fest eingebaut oder entfembar sein. Beispiele für geeignete Speicher sind RAM (Random Access Memory), ROM (Read-Only Memory), eine Festplatte, ein Flash-Speicher, eine austauschbare Computerdiskette, eine optische Disc, ein Magnetband oder eine Kombination der oben genannten. Zu den optischen Discs können Compact Discs mit Nur-Lese-Speicher (CD-ROM), Compact Discs mit Lese-/Schreibfunktion (CD-R/W), DVDs, Blu-ray-Discs und ähnliche gehören.
Zusätzlich zum Speicher (50) kann die Verarbeitungseinheit (20) auch mit einer oder mehreren Schnittstellen (11, 12, 30, 41, 42) verbunden sein, um Informationen anzuzeigen, zu übertragen und/oder zu empfangen. Die Schnittstellen können eine oder mehrere Kommunikationsschnittstellen (41, 42) und/oder eine oder mehrere Benutzerschnittstellen (11, 12, 30) umfassen. Die eine oder mehrere Kommunikationsschnittstellen (41, 42) können so konfiguriert sein, dass sie Informationen senden
und/oder empfangen, z.B. zu und/oder von anderen Computersystemen, Netzwerken, Datenspeichern oder dergleichen. Die eine oder mehrere Kommunikationsschnittstellen (41, 42) können so konfiguriert sein, dass sie Informationen über physische (verdrahtete) und/oder drahtlose Kommunikationsverbindungen übertragen und/oder empfangen. Die eine oder die mehreren Kommunikationsschnittstellen (41, 42) können eine oder mehrere Schnittstellen für die Verbindung mit einem Netzwerk enthalten, z.B. unter Verwendung von Technologien wie Mobiltelefon, Wi-Fi, Satellit, Kabel, DSL, Glasfaser und/oder dergleichen. In einigen Beispielen können die eine oder die mehreren Kommunikationsschnittstellen (41, 42) eine oder mehrere Nahbereichskommunikationsschnittstellen umfassen, die so konfiguriert sind, dass sie Geräte mit Nahbereichskommunikationstechnologien wie NFC, RFID, Bluetooth, Bluetooth LE, ZigBee, Infrarot (z. B. IrDA) oder Ähnlichem verbinden.
Die Benutzerschnittstellen (11, 12, 30) können eine Anzeige (30) umfassen. Eine Anzeige (30) kann so konfiguriert sein, dass sie einem Benutzer Informationen anzeigt. Geeignete Beispiele hierfür sind eine Flüssigkristallanzeige (LCD), eine Leuchtdiodenanzeige (LED), ein Plasmabildschirm (PDP) oder Ähnliches. Die Benutzereingabeschnittstelle(n) (11, 12) kann/können verdrahtet oder drahtlos sein und kann/können so konfiguriert sein, dass sie Informationen von einem Benutzer in das Computersystem (1) empfängt/empfangen, z.B. zur Verarbeitung, Speicherung und/oder Anzeige. Geeignete Beispiele für Benutzereingabeschnittstellen (11, 12) sind ein Mikrofon, ein Bild- oder Videoaufnahmegerät (z.B. eine Kamera), eine Tastatur oder ein Tastenfeld, ein Joystick, eine berührungsempfmdliche Oberfläche (getrennt von einem Touchscreen oder darin integriert) oder ähnliches. In einigen Beispielen können die Benutzerschnittstellen eine automatische Identifikations- und Datenerfassungstechnologie (AIDC) für maschinenlesbare Informationen enthalten. Dazu können Barcodes, Radiofrequenz-Identifikation (RFID), Magnetstreifen, optische Zeichenerkennung (OCR), Karten mit integrierten Schaltkreisen (ICC) und ähnliches gehören. Die Benutzerschnittstellen können ferner eine oder mehrere Schnittstellen für die Kommunikation mit Peripherie geräten wie Druckern und dergleichen umfassen.
Ein oder mehrere Computerprogramme (60) können im Speicher (50) gespeichert sein und von der Verarbeitungseinheit (20) ausgeführt werden, die dadurch programmiert wird, die in dieser Beschreibung beschriebenen Funktionen zu erfüllen. Das Abrufen, Laden und Ausführen von Anweisungen des Computerprogramms (60) kann sequentiell erfolgen, so dass jeweils ein Befehl abgerufen, geladen und ausgeführt wird. Das Abrufen, Laden und/oder Ausführen kann aber auch parallel erfolgen.
Claims
1. Computerimplementiertes Verfahren für eine Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen umfassend:
Empfangen einer Bildaufhahme, wobei die empfangene Bildaufhahme zumindest einen Teil eines Feldes zeigt und durch die Bilderfassungseinheit der Vorrichtung aufgenommen wurde,
Bereitstellen eines trainierten Modells des maschinellen Lernens, wobei das Modell des maschinellen Lernens konfiguriert ist und auf Basis von Trainingsdaten trainiert wurde, Bildaufnahmen von zumindest einem Teil eines Feldes mit einer Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen von Bildaufnahmen von einem Teil eines Feldes ohne Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen zu unterscheiden,
Zuführen der empfangenen Bildaufnahme dem trainierten Modell des maschinellen Lernens,
Empfangen einer Information von dem Modell des maschinellen Lernens, wobei die Information angibt, ob die Bildaufnahme von zumindest einem Teil eines Feldes auf eine Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen hinweist, für den Fall, dass die empfangen Bildaufnahme von zumindest einem Teil eines Feldes auf eine Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit von Pflanzen hinweist: Ausgeben einer Mitteilung, dass die empfangene Bildaufnahme auf eine Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit hinweist.
2. Ein Verfahren gemäß Anspruch 1, wobei die Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen eine Sprühvorrichtung ist.
3. Ein Verfahren gemäß Anspruch 2, umfassend:
Empfangen einer Bildaufnahme, wobei die empfangene Bildaufhahme zumindest einen Teil der Sprühvorrichtung und zumindest einen Teil eines Feldes zeigt und durch die Bilderfassungseinheit der Vorrichtung aufgenommen wurde,
Bereitstellen eines trainierten Modells des maschinellen Lernens, wobei das Modell des maschinellen Lernens konfiguriert ist und auf Basis von Trainingsdaten trainiert wurde, Bildaufnahmen von zumindest einem Teil der Sprühvorrichtung und zumindest einem Teil des Feldes mit einer Funktionsbeeinträchtigung der Sprühvorrichtung von Bildaufnahmen von zumindest einem Teil der Sprühvorrichtung und zumindest einem Teil des Feldes ohne Funktionsbeeinträchtigung der Sprühvorrichtung zu unterscheiden,
Zuführen der empfangenen Bildaufnahme dem trainierten Modell des maschinellen Lernens,
Empfangen einer Information von dem Modell des maschinellen Lernens, wobei die Information angibt, ob die Bildaufnahme von zumindest einem Teil der Sprühvorrichtung und zumindest einem Teil des Feldes auf eine Funktionsbeeinträchtigung der Sprühvorrichtung hinweist, für den Fall, dass die empfangen Bildaufnahme von zumindest einem Teil der Sprühvorrichtung und zumindest einem Teil des Feldes auf eine Funktionsbeeinträchtigung der Sprühvorrichtung hinweist: Ausgeben einer Mitteilung, dass die zumindest anteilig in der empfangenen Bildaufnahme gezeigte Sprühvorrichtung eine Funktionsbeeinträchtigung aufweist.
4. Verfahren gemäß Anspruch 1 bis 3, wobei das Modell des maschinellen Lernens konfiguriert ist und auf Basis von Trainingsdaten trainiert wurde, Bildaufnahmen einer von mindestens zwei Klassen zuzuordnen, wobei die Trainingsdaten Eingabedaten und Zieldaten umfassen, o wobei die Eingabedaten eine Vielzahl von Bildaufnahmen umfassen, die jeweils zumindest einen Teil eines Feldes zeigen und optional zumindest einen Teil der Vorrichtung mit einer Bilderfassungs- und einer Bildererkennungseinheit von Pflanzen zeigen, o wobei die Zieldaten für jede Bildaufnahme eine Klassenzuordnung umfassen, wobei die Klassenzuordnung angibt, welcher Klasse von mindestens zwei Klassen die Bildaufnahme zugeordnet ist, wobei mindestens eine erste Klasse Bildaufnahmen von der Vorrichtungen mit einer Bilderfassungs- und einer Bildererkennungseinheit von Pflanzen repräsentiert, die keine Funktionsbeeinträchtigung aufweisen, und mindestens eine zweite Klasse Bildaufnahmen von Vorrichtungen mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen repräsentiert, die eine Funktionsbeeinträchtigung aufweisen, wobei das Empfangen einer Information von dem Modell des maschinellen Lernens umfasst: o Empfangen einer Information von dem Modell des maschinellen Lernens, welcher Klasse die Bildaufnahme zugeführt wurde, wobei die Mitteilung, dass die Vorrichtung mit einer Bilderfassungs- und einer Bildererkennungseinheit von Pflanzen eine Funktionsbeeinträchtigung aufweist, ausgegeben wird, wenn die empfangene Bildaufnahme einer der mindestens einen zweiten Klasse zugeordnet wurde.
5. Verfahren gemäß Anspruch 4, wobei das Trainieren des Modells des maschinellen Lernens für jede Bildaufnahme der Vielzahl an Bildaufnahmen umfasst:
Eingeben der Bildaufnahme in das Modell des maschinellen Lernens, wobei das Modell des maschinellen Lernens konfiguriert ist, auf Basis der eingegebenen Bildaufnahme und auf Basis von Modellparametem die Bildaufnahme einer von mindestens zwei Klassen zuzuordnen,
Empfangen einer Ausgabe von dem Modell des maschinellen Lernens, wobei die Ausgabe angibt, welcher der mindestens zwei Klassen die eingegebene Bildaufnahme von dem Modell des maschinellen Lernens zugeordnet wurde,
Quantifizieren einer Abweichung zwischen der Ausgabe und der Klassenzuordnung der Trainingsdaten,
Minimieren der Abweichung durch Modifizieren von Modellparametern.
6. Verfahren gemäß einem der Ansprüche 1 bis 5, wobei das Modell des maschinellen Lernens konfiguriert und trainiert ist, die empfangene Bildaufnahme einer von mehreren Klassen zuzuordnen, wobei jede Klasse einer Mehrzahl von Klassen eine spezifische Funktionsbeeinträchtigung aufweist, wobei das Ausgeben der Mitteilung umfasst: Ausgeben einer Mitteilung, welche spezifische Funktionsbeeinträchtigung bei der Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen vorliegt.
7. Verfahren gemäß einem der Ansprüche 1 bis 6,
wobei das Modell des maschinellen Lernens konfiguriert und trainiert ist, auf Basis der empfangenen Bildaufnahme für eine oder mehrere spezifische Funktionsbeeinträchtigungen eine Wahrscheinlichkeit auszugeben, mit der die spezifische Funktionsbeeinträchtigung auftritt, wobei das Ausgeben der Mitteilung umfasst: Ausgeben einer Mitteilung, mit welcher Wahrscheinlichkeit, die eine oder die mehreren spezifischen Funktionsbeeinträchtigungen bei der Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen vorliegt.
8. Verfahren gemäß einem der Ansprüche 1 bis 7, wobei das Modell des maschinellen Lernens konfiguriert und trainiert ist, auf Basis der empfangenen Bildaufnahme für eine oder mehrere spezifische Funktionsbeeinträchtigungen einen Schweregrad auszugeben, wobei das Ausgeben der Mitteilung umfasst: Ausgeben einer Mitteilung, mit welchem Schweregrad die eine oder die mehreren spezifischen Funktionsbeeinträchtigungen bei der Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen vorliegt.
9. Verfahren gemäß einem der Ansprüche 1 bis 8, wobei die Funktionsbeeinträchtigung und/oder die eine oder die mehreren spezifischen Funktionsbeeinträchtigungen der Vorrichtung ausgewählt sind aus der folgenden Liste:
Sichtfeld der Bilderfassungseinheit ist eingeschränkt,
Bilderfassungseinheit und/oder deren optische Elemente sind verschmutzt,
Bilderfassungseinheit ist defekt,
Bilderfassungseinheit erzeugt keine Aufnahmen von zumindest einem Teil eines Feldes,
Beleuchtungsquelle(n) defekt und/oder verschmutzt, es treten unerwünschte Reflexe auf.
10. Verfahren gemäß einem der Ansprüche 2 bis 9, wobei die Funktionsbeeinträchtigung und/oder die eine oder die mehreren spezifischen Funktionsbeeinträchtigungen der Vorrichtung ausgewählt sind aus der folgenden Liste:
Bilderfassungseinheit erzeugt keine Aufnahmen von zumindest einem Teil der Sprühvorrichtung,
Position und/oder Lage von Bestandteilen der Sprühvorrichtung sind verändert,
Pflanzenteile haben sich in der Sprühvorrichtung verfangen,
Der Spritzkegel der Sprühdüsen der Sprühvorrichtung entspricht nicht den Vorgaben bzw. die Sprühdüsen sind defekt.
11. Verfahren gemäß einem der Ansprüche 1 bis 10, wobei das Modell des maschinellen Lernens konfiguriert und trainiert ist, für die empfangene Bildaufnahme eine komprimierte Repräsentation zu erzeugen, wobei das Verfahren ferner umfasst:
o Quantifizieren einer Ähnlichkeit und/oder eines Unterschieds zwischen der komprimierten Repräsentation und einer Referenz-Repräsentation durch Berechnen eines Ähnlichkeitsmaßes und/oder eines Distanzmaßes, wobei das Ausgeben der Mitteilung umfasst: Ausgeben der Mitteilung, dass die Vorrichtung mit einer Bilderfassungs- und einer Bilderkennungseinheit von Pflanzen eine Funktionsbeeinträchtigung aufweist, wenn das Ähnlichkeitsmaß unterhalb eines vordefinierten Schwellenwerts liegt und/oder das Distanzmaß oberhalb eines vordefmierten Schwellenwerts liegt.
12. Verfahren gemäß einem der Ansprüche 2 bis 11, wobei das Verfahren ferner umfasst: ausschließlich für den Fall, dass die empfangene Bildaufnahme eine Sprühvorrichtung ohne Funktionsbeeinträchtigung zeigt: Detektieren und/oder Identifizieren von Pflanzen auf dem Feld auf Basis der empfangenen Bildaufnahme mit der Bilderkennungseinheit für Pflanzen, Sprühen eines Pflanzenschutzmittels auf die detektierten und/oder identifizierten Pflanzen mit der Sprühvorrichtung.
13. Verfahren gemäß einem der Ansprüche 1 bis 12, wobei die Mitteilung ferner eine oder mehrere der folgenden Informationen umfasst:
Standort der Bilderfassungseinheit, mit welcher die empfangene Bildaufnahme der Vorrichtung mit einer Funktionsbeeinträchtigung getätigt wurde,
Informationen darüber, welche Funktionsbeeinträchtigung vorliegt,
Informationen darüber, wie schwerwiegend die Funktionsbeeinträchtigung ist,
Informationen darüber, welche Maßnahmen ergriffen werden können, um eine vollständige Funktionalität der Vorrichtung wiederherzustellen,
Informationen darüber, wann die Maßnahmen ergriffen werden sollten, um eine weitere Funktionsbeeinträchtigung zu verhindern, die empfangene Bildaufnahme.
14. Computersystem umfassend: eine Eingabeeinheit, eine Steuer- und Recheneinheit und eine Ausgabeeinheit, wobei die Steuer- und Recheneinheit konfiguriert ist, die Eingabeeinheit zu veranlassen, eine Bildaufnahme zu empfangen, wobei die empfangene Bildaufnahme zumindest einen Teil eines Feldes und optional auch zumindest einen Teil einer Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen zeigt und durch eine Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen aufgenommen wurde, die empfangene Bildaufnahme einem Modell des maschinellen Lernens zuzuführen, wobei das Modell des maschinellen Lernens konfiguriert ist und auf Basis von Trainingsdaten trainiert wurde, Bildaufnahmen von zumindest einem Teil eines Feldes und optional zumindest einem Teil einer Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen mit einer
Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen von Bildaufnahmen von zumindest einem Teil eines Feldes und optional zumindest einem Teil einer Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen ohne Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen zu unterscheiden, von dem Modell des maschinellen Lernens eine Information zu empfangen, wobei die Information angibt, ob die empfangene Bildaufnahme eine Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen mit einer Funktionsbeeinträchtigung repräsentiert, die Ausgabeeinheit zu veranlassen, eine Mitteilung auszugeben, wobei die Mitteilung angibt, dass die empfangene Bildaufnahme auf eine Funktionsbeeinträchtigung der Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen hinweist, wenn die von dem Modell des maschinellen Lernens ausgegebene Information angibt, dass die empfangene Bildaufnahme eine Vorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen mit einer Funktionsbeeinträchtigung repräsentiert.
15. Nicht-flüchtiges computerlesbares Speichermedium, auf dem Softwarebefehle gespeichert sind, die, wenn sie von einem Prozessor eines Computersystems ausgeführt werden, das Computersystem veranlassen, das Verfahren gemäß einem der Ansprüche 1 bis 13 auszuführen.
16. Eine Sprühvorrichtung mit einer Bilderfassungs- und Bilderkennungseinheit für Pflanzen umfassend:
• eine Steuereinheit,
• eine Analyseneinheit,
• eine Ausgabeeinheit
• mindestens eine Bilderfassungseinheit, wobei die Steuereinheit konfiguriert ist, die mindestens eine Bilderfassungseinheit zu veranlassen, eine oder mehrere Bildaufnahmen von zumindest einem Teil eines Feldes und optional von zumindest einem Teil der Sprühvorrichtung zu erzeugen, wobei die Analyseneinheit konfiguriert ist, die eine oder die mehreren erzeugten Bildaufnahmen von zumindest einem Teil des Feldes und optional von zumindest einem Teil der Sprühvorrichtung mit einer Funktionsbeeinträchtigung der Sprühvorrichtung von Bildaufnahmen von zumindest einem Teil eines Feldes und optional von zumindest einem Teil der Sprühvorrichtung ohne Funktionsbeeinträchtigung der Sprühvorrichtung zu unterscheiden, wobei die Analyseneinheit konfiguriert ist, eine Information von dem Modell des maschinellen Lernens zu empfangen, wobei die Information angibt, ob die eine oder die mehreren Bildaufnahmen die Sprühvorrichtung mit einer Funktionsbeeinträchtigung repräsentieren, wobei die Ausgabeeinheit konfiguriert ist, die Information auszugeben.
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| EP23181029 | 2023-06-22 | ||
| PCT/EP2024/066886 WO2024260949A1 (de) | 2023-06-22 | 2024-06-18 | Erkennen von funktionsbeeinträchtigungen bei einer vorrichtung |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| EP4730997A1 true EP4730997A1 (de) | 2026-04-29 |
Family
ID=86942864
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| EP24733619.1A Pending EP4730997A1 (de) | 2023-06-22 | 2024-06-18 | Erkennen von funktionsbeeinträchtigungen bei einer vorrichtung |
Country Status (2)
| Country | Link |
|---|---|
| EP (1) | EP4730997A1 (de) |
| WO (1) | WO2024260949A1 (de) |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2016144795A1 (en) * | 2015-03-06 | 2016-09-15 | Blue River Technology Inc. | Modular precision agriculture system |
| JP7166300B2 (ja) | 2017-07-06 | 2022-11-07 | バイエル、アクチエンゲゼルシャフト | 雑草防除装置 |
| RU2020131382A (ru) | 2018-03-02 | 2022-04-04 | Басф Агро Трейдмаркс Гмбх | Устройство для управления опрыскиванием |
| CN114144061A (zh) * | 2019-05-20 | 2022-03-04 | 巴斯夫农化商标有限公司 | 用于基于图像识别的种植物处理的方法 |
-
2024
- 2024-06-18 WO PCT/EP2024/066886 patent/WO2024260949A1/de not_active Ceased
- 2024-06-18 EP EP24733619.1A patent/EP4730997A1/de active Pending
Also Published As
| Publication number | Publication date |
|---|---|
| WO2024260949A1 (de) | 2024-12-26 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP3644724B1 (de) | Verfahren zum ausbringen eines spritzmittels auf ein feld | |
| EP3782467B1 (de) | Verfahren zum identifizieren von beikräutern innerhalb einer definierten pflanzenreihe einer landwirtschaftlichen fläche | |
| EP4661663A1 (de) | Erkennen von funktionsbeeinträchtigungen bei kameraüberwachten insektenfallen | |
| EP4064818B1 (de) | Verfahren zum bearbeiten von pflanzen auf einem feld | |
| EP3488378B1 (de) | System zur automatischen erkennung von pflanzen | |
| WO2024180056A1 (de) | Vorhersage eines wartungsbedarfs für eine insektenfalle | |
| WO2021105017A1 (de) | Verfahren zum bearbeiten von pflanzen auf einem feld | |
| WO2023094111A1 (de) | Verfahren zum identifizieren von beikräutern in einer pflanzenreihe einer landwirtschaftlichen fläche | |
| DE102023122228A1 (de) | Verfahren, auswertesystem, auswerteeinrichtung und system oder vorrichtung zum auswerten von spektraldaten | |
| EP4064819A1 (de) | Verfahren zum bearbeiten von pflanzen auf einem feld, zum generieren von trainingsdaten und zum trainieren eines neuronalen netzes | |
| DE102018120756A1 (de) | Mobile Analyse- und Bearbeitungsvorrichtung, Verfahren und Trägersystem | |
| EP3840559B1 (de) | Mobile analyse- und bearbeitungsvorrichtung | |
| WO2023208619A1 (de) | Vorhersage von ablagerungsstrukturen von pflanzenschutzmitteln und/oder nährstoffen auf pflanzenteilen | |
| EP4492972A1 (de) | Durchführen und dokumentieren einer applikation von pflanzenschutzmittel | |
| WO2021105019A1 (de) | Verfahren zum generieren einer vielzahl von annotierten bildern | |
| WO2024260949A1 (de) | Erkennen von funktionsbeeinträchtigungen bei einer vorrichtung | |
| EP3841444A1 (de) | Trägersystem mit einem träger und einer mobilen vorrichtung zur bearbeitung des bodens und/oder zur manipulation der flora und fauna und verfahren hierzu | |
| DE102022207830A1 (de) | Unkrauterkennung mit Polarmasken | |
| DE102020215877A1 (de) | Verfahren zum Klassifizieren von Pflanzen für landwirtschaftliche Zwecke | |
| DE102023211134A1 (de) | Verfahren zum Ansteuern einer Spritzvorrichtung einer Feldspritze | |
| DE102024113553A1 (de) | Kontrolle der lichtintensität innerhalb einer region von interesse | |
| DE102022212161A1 (de) | Verfahren zum Ermitteln einer Breitenkennzahl von Pflanzen einer Pflanzenreihe einer landwirtschaftlichen Fläche | |
| DE102022212162A1 (de) | Verfahren zum Ermitteln einer Pflanzenkennzahl von Pflanzen einer Pflanzenreihe einer landwirtschaftlichen Fläche | |
| DE102022212169A1 (de) | Verfahren zum Klassifizieren von Pflanzen in und/oder zwischen Pflanzenreihen einer landwirtschaftlichen Fläche | |
| WO2025103715A1 (de) | Optimierte segmentierung und/oder klassifizierung von pflanzenobjekten |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: UNKNOWN |
|
| STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: THE INTERNATIONAL PUBLICATION HAS BEEN MADE |
|
| PUAI | Public reference made under article 153(3) epc to a published international application that has entered the european phase |
Free format text: ORIGINAL CODE: 0009012 |
|
| STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: REQUEST FOR EXAMINATION WAS MADE |
|
| 17P | Request for examination filed |
Effective date: 20260122 |
|
| AK | Designated contracting states |
Kind code of ref document: A1 Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC ME MK MT NL NO PL PT RO RS SE SI SK SM TR |