ES2795499B2 - Improved method and system for the determination of fruit characteristics using hyperspectral imaging - Google Patents

Improved method and system for the determination of fruit characteristics using hyperspectral imaging Download PDF

Info

Publication number
ES2795499B2
ES2795499B2 ES201930443A ES201930443A ES2795499B2 ES 2795499 B2 ES2795499 B2 ES 2795499B2 ES 201930443 A ES201930443 A ES 201930443A ES 201930443 A ES201930443 A ES 201930443A ES 2795499 B2 ES2795499 B2 ES 2795499B2
Authority
ES
Spain
Prior art keywords
fruit
image
camera
pixels
group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
ES201930443A
Other languages
Spanish (es)
Other versions
ES2795499A1 (en
Inventor
Pulido Francisco José Rodríguez
Muñoz Cristina Gutiérrez
Martín Daniel Talaván
Caballero Raúl Felipe Guzmán
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ambling Ingenieria Y Servicios S L
Original Assignee
Ambling Ingenieria Y Servicios S L
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ambling Ingenieria Y Servicios S L filed Critical Ambling Ingenieria Y Servicios S L
Priority to ES201930443A priority Critical patent/ES2795499B2/en
Publication of ES2795499A1 publication Critical patent/ES2795499A1/en
Application granted granted Critical
Publication of ES2795499B2 publication Critical patent/ES2795499B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications

Description

DESCRIPCIÓNDESCRIPTION

Método y sistema mejorados para la determinación de características de frutos mediante imágenes hiperespectralesImproved method and system for the determination of fruit characteristics by means of hyperspectral images

CAMPO TÉCNICO DE LA INVENCIÓNTECHNICAL FIELD OF THE INVENTION

La presente invención se refiere al campo de la monitorización de productos agrícolas y más concretamente, a un método y sistema mejorados para la obtención de ciertas características de frutos antes de su cosecha (que permiten determinar, por ejemplo, tanto la evolución del estado de la maduración de los frutos como su calidad) mediante captura, procesado y análisis de imágenes hiperespectrales.The present invention relates to the field of monitoring agricultural products and more specifically, to an improved method and system for obtaining certain characteristics of fruits before harvest (which allow determining, for example, both the evolution of the state of the fruit ripening and quality) by capturing, processing and analyzing hyperspectral images.

ANTECEDENTES DE LA INVENCIÓNBACKGROUND OF THE INVENTION

En el campo de la agricultura, es a menudo deseable analizar los productos agrícolas y en especial los frutos para determinar una o más características de interés. Por ejemplo, los agricultores que cosechan frutos, suelen usar algunas características físicas y/o químicas del fruto para estimar su calidad, madurez, aspecto o necesidades de abonos o productos químicos, entre otros.In the field of agriculture, it is often desirable to analyze agricultural products and especially fruits to determine one or more characteristics of interest. For example, farmers who harvest fruit usually use some physical and/or chemical characteristics of the fruit to estimate its quality, maturity, appearance or needs for fertilizers or chemical products, among others.

Por ello, el conocimiento del estado fisicoquímico de los productos de la industria agroalimentaria ha sido siempre un aspecto fundamental en la agricultura aunque lo es aún más en los últimos tiempos. En primer lugar, es necesario para realizar un seguimiento de la maduración del fruto que ayude a decidir el momento óptimo para su recolección. Históricamente, este proceso se ha llevado a cabo de manera sensorial por los agricultores que, basados en su experiencia, estiman el punto en el que un fruto debe ser recogido. Sin embargo, la agricultura intensiva y la globalización han hecho que esta tarea sea prácticamente inabordable, por lo que se requieren métodos rápidos, precisos e independientes de la experiencia del agricultor que realicen estas medidas sobre frutos.For this reason, knowledge of the physicochemical state of the products of the agri-food industry has always been a fundamental aspect in agriculture, although it has become even more so in recent times. First of all, it is necessary to monitor the ripening of the fruit to help decide the optimal time for harvesting. Historically, this process has been carried out in a sensory way by farmers who, based on their experience, estimate the point at which a fruit should be picked. However, intensive agriculture and globalization have made this task practically unapproachable, which is why fast, precise and independent methods of the farmer's experience are required to carry out these measurements on fruits.

En la industria agrícola actual la importancia de la planificación es clave, siendo imprescindible una adecuada toma de decisiones durante el cultivo y la recolección, para conseguir un producto de máxima calidad con el mayor rendimiento y una óptima gestión logística y organizativa entre productor, cooperativa e industria de transformación. Esto es especialmente importante en algunos frutos como por ejemplo el tomate; ya que la planta de tomate no presenta maduración de los frutos de manera uniforme, sino que generalmente es escalonada a lo largo de un periodo de tiempo, de modo que una recolección temprana conllevará un alto % de frutos verdes o inmaduros, que serán desechados en la máquina cosechadora. Además, en la entrada en fábrica se muestrearán los tomates entregados por el agricultor, penalizando los frutos verdes. Si por el contrario, se retrasa la recolección, habrá un % mayor de frutos sobremaduros, los cuales o bien se quedan en la tierra y no los recoge la cosechadora, y si pasan a fábrica serán igualmente penalizados. Teniendo en cuenta que tanto los frutos verdes como los sobremaduros son penalizados, es decir, que el agricultor verá mermados sus beneficios, el momento óptimo de recolección se convierte en un proceso crítico a optimizar. Además, las producciones están cada vez más orientadas a satisfacer la demanda de productos de calidad, estando cada vez más los precios ligados a este factor. Por otro lado, y debido al aumento de los requisitos legales en cuestiones de seguridad alimentaria, la concienciación sobre la alimentación saludable y la alta competencia, son necesarios análisis rápidos y automatizables de análisis, no solo de la madurez sino también de la calidad en general, que permitan evaluar una alta proporción de la producción total y lo que es más importante, que este análisis sea no destructivo.In today's agricultural industry, the importance of planning is key, with adequate decision-making during cultivation and harvesting being essential, in order to achieve a product of the highest quality with the highest yield and optimal logistical and organizational management between producer, cooperative and transformation industry. This is especially important in some fruits such as tomato; since the tomato plant does not present ripening of the fruits in a uniform way, but it is generally staggered over a period of time, so that an early harvest will lead to a high % of green or immature fruits, which will be discarded in the harvesting machine. In addition, at the entrance to the factory, the tomatoes delivered by the farmer will be sampled, penalizing green fruit. If, on the other hand, the harvest is delayed, there will be a higher % of overripe fruits, which either remain on the ground and are not picked up by the harvester, and if they go to the factory they will be equally penalized. Bearing in mind that both green and overripe fruits are penalized, that is, the farmer will see their profits reduced, the optimal harvesting time becomes a critical process to optimize. In addition, the productions are increasingly oriented to satisfy the demand for quality products, with prices increasingly linked to this factor. On the other hand, and due to the increase in legal requirements in matters of food safety, awareness of healthy eating and high competition, rapid and automatable analyzes of analysis are necessary, not only of maturity but also of quality in general. , that allow evaluating a high proportion of the total production and what is more important, that this analysis is non-destructive.

Los métodos que se han utilizado tradicionalmente para evaluar la calidad de los frutos incluyen tanto análisis sensorial (por ejemplo, inspección visual o cata) como técnicas analíticas de laboratorio. Los métodos sensoriales tienden a consumir mucho tiempo y son potencialmente subjetivos. Las técnicas analíticas de laboratorio tienen grandes desventajas como ser procedimientos largos y tediosos, destrucción de la muestra o necesidad de personal especializado. Las muestras deben recogerse, embolsarse, etiquetarse, secarse y, finalmente, enviarse al laboratorio, molerse y analizarse para el análisis de los componentes. Este manejo excesivo de la muestra agrega tanto tiempo como costo al análisis. Los agricultores preferirían tomar decisiones informadas con respecto a los frutos antes de la cosecha y este tipo de métodos no se prestan para una evaluación en el campo, por eso están interesados en acceder a técnicas analíticas que pueden evaluar rápida y eficientemente las cualidades del fruto.Methods that have traditionally been used to assess fruit quality include both sensory analysis (eg visual inspection or tasting) and laboratory analytical techniques. Sensory methods tend to be time consuming and potentially subjective. Laboratory analytical techniques have major disadvantages such as long and tedious procedures, sample destruction or the need for specialized personnel. Samples must be collected, bagged, labeled, dried, and finally shipped to the laboratory, ground, and analyzed for component analysis. This excessive handling of the sample adds both time and cost to the analysis. Farmers would prefer to make informed decisions regarding fruit before harvest and these types of methods do not lend themselves to field evaluation, so they are interested in accessing analytical techniques that can quickly and efficiently assess fruit qualities.

Las técnicas ópticas también se han usado para el análisis del estado fisicoquímico de los frutos. Gracias a los avances en la electrónica y en concreto, al perfeccionamiento de los sensores radiométricos, es posible medir la interacción entre la radiación electromagnética y la materia de una manera rápida y precisa. Una vez que se mide esa interacción, no es necesaria una computación muy potente para procesar la información espectral y obtener el resultado de un análisis. Dentro de las técnicas ópticas, las técnicas de imágenes hiperespectrales (HSI, del inglés "Hyperspectral imaging”) han revolucionado la manera de evaluar la calidad en el sector agroalimentario, entre otras razones porque suponen procedimientos rápidos, no-destructivos y libres de reactivos químicos. Una imagen hiperespectral o hipercubo es una batería de imágenes de una misma escena donde cada una representa la reflectancia a una única longitud de onda, por lo que podemos conocer el perfil espectral de cualquiera de los puntos que componen dicha imagen.Optical techniques have also been used for the analysis of the physicochemical state of the fruits. Thanks to advances in electronics and, specifically, to the improvement of radiometric sensors, it is possible to measure the interaction between electromagnetic radiation and matter quickly and accurately. Once that interaction is measured, it is not A very powerful computation is necessary to process the spectral information and obtain the result of an analysis. Within optical techniques, hyperspectral imaging techniques (HSI, from the English "Hyperspectral imaging") have revolutionized the way of evaluating quality in the agri-food sector, among other reasons because they involve fast, non-destructive procedures and free of chemical reagents. A hyperspectral or hypercube image is a battery of images of the same scene where each one represents the reflectance at a single wavelength, so we can know the spectral profile of any of the points that make up said image.

Existen en la actualidad algunos equipos comerciales portátiles que realizan medidas espectroscópicas como Viavi MicroNIR Pro®, Konica Minolta CM-700d®, Felix Instruments F-750® o WiSci: Wireless Spectrometer® que difieren principalmente en el intervalo espectral útil. Entre ellos destaca el equipo Konica Minolta CM-700d® (que, al ser específicamente un espectrocolorímetro de mano, provee información colorimétrica en términos del espacio de color CIELAB) o el Viavi MicroNIR Pro® (que, además de adquirir espectros de reflectancia en el intervalo infrarrojo cercano, es capaz de realizar transformaciones espectroscópicas como conversión a unidades de absorbancia, realizar transformaciones como standard normal varíate o derivación de espectros). No obstante, ninguno de estos equipos es capaz de medir varios frutos a la vez, ya que miden por contacto directo con la muestra; además las medidas se hacen en el intervalo visible del espectro y a partir de cámaras RGB (del inglés, "Red, Green, Blue”, rojo, verde, azul), por lo que, aunque existen muchas soluciones basadas en visión artificial, si la característica a determinar no puede ser identificada en el espectro visible, estas técnicas no tienen validez.There are currently some portable commercial equipment that perform spectroscopic measurements such as Viavi MicroNIR Pro®, Konica Minolta CM-700d®, Felix Instruments F-750® or WiSci: Wireless Spectrometer® that differ mainly in the useful spectral range. Among them, the Konica Minolta CM-700d® equipment stands out (which, being specifically a handheld spectrocolorimeter, provides colorimetric information in terms of the CIELAB color space) or the Viavi MicroNIR Pro® (which, in addition to acquiring reflectance spectra in the near infrared range, is capable of performing spectroscopic transformations such as conversion to absorbance units, performing transformations such as standard normal variate or derivation of spectra). However, none of this equipment is capable of measuring several fruits at the same time, since they measure by direct contact with the sample; In addition, the measurements are made in the visible range of the spectrum and from RGB cameras (from English, "Red, Green, Blue", red, green, blue), so that, although there are many solutions based on artificial vision, if the characteristic to be determined cannot be identified in the visible spectrum, these techniques are invalid.

El uso de cámaras hiperespectrales no está todavía tan normalizado y, aunque existen cada vez más cámaras que permiten el uso en entornos reales, no existen soluciones integrales óptimas para el análisis en el sector agroalimentario.The use of hyperspectral cameras is not yet so standardized and, although there are more and more cameras that allow use in real environments, there are no optimal comprehensive solutions for analysis in the agri-food sector.

Existen algunas soluciones técnicas de análisis hiperespectral para obtener características de frutos pero se realizan en laboratorio (es decir, hay que recolectar un fruto o una muestra del fruto del árbol, trasladarlo al laboratorio y analizar sus características mediante el uso de técnicas hiperespectrales). Por lo que presentan las desventajas que hemos indicado anteriormente para las técnicas analíticas de laboratorio (consumen tiempo, no se hacen en tiempo real de manera automática, suponen una manipulación de los frutos, se hacen sobre una muestra recogida y no sobre el total de los frutos a cosechar...). También existen soluciones que capturan imágenes hiperespectrales del campo mediante el uso de drones, pero por la distancia entre las muestras y la cámara, no sirven para discriminar y obtener características de los frutos individuales, sino que trabaja sobre todo el cultivo para obtener propiedades macroscópicas del cultivo, como es riego, fertilización, número de plantas o árboles...There are some hyperspectral analysis technical solutions to obtain fruit characteristics, but they are carried out in the laboratory (that is, a fruit or a sample of the fruit must be collected from the tree, transferred to the laboratory and its characteristics analyzed using hyperspectral techniques). Therefore, they present the disadvantages that we have previously indicated for laboratory analytical techniques (they consume time, they are not done in real time automatically, they involve manipulation of the fruits, they are done on a collected sample and not on the total of the fruits to harvest...). Also exist solutions that capture hyperspectral images of the field through the use of drones, but due to the distance between the samples and the camera, they do not serve to discriminate and obtain characteristics of individual fruits, but instead work on the entire crop to obtain macroscopic properties of the crop, such as irrigation, fertilization, number of plants or trees...

A la vista de los problemas de las soluciones existentes, existe la necesidad de un procedimiento que permita monitorizar la calidad y maduración del fruto durante el ciclo de cultivo, de manera que puedan conocerse de manera rápida, fiable, no-destructiva, objetiva, limpia, versátil, sin manipulación del fruto y a tiempo real de los parámetros de calidad del fruto, así como el momento óptimo para la cosecha, permitiendo una mejor y más rápida planificación y gestión de la plantación evitando además pérdidas de rendimiento.In view of the problems of existing solutions, there is a need for a procedure that allows monitoring the quality and ripening of the fruit during the crop cycle, so that they can be known quickly, reliably, non-destructively, objectively, cleanly. , versatile, without manipulation of the fruit and in real time of the quality parameters of the fruit, as well as the optimal time for harvesting, allowing better and faster planning and management of the plantation, also avoiding yield losses.

SUMARIO DE LA INVENCIÓNSUMMARY OF THE INVENTION

La presente invención propone un método y sistema mejorados para la determinación (medida) de características y/o propiedades en productos de la industria agroalimentaria y más específicamente en frutos (especialmente tomate y uva pero también se puede aplicar a cualquier otro frutos) a partir de tecnología de imágenes hiperespectrales. Este procedimiento incluye la metodología para la captura óptima de las imágenes de la planta (árbol, arbusto, v id . ) donde el fruto crece, el procesado de las imágenes hiperespectrales y la obtención de resultados analíticos; también permite la creación de imágenes donde se muestran los resultados de análisis cuantitativos en mapas de color.The present invention proposes an improved method and system for the determination (measurement) of characteristics and/or properties in products of the agri-food industry and more specifically in fruits (especially tomato and grape, but it can also be applied to any other fruit) from hyperspectral imaging technology. This procedure includes the methodology for the optimal capture of the images of the plant (tree, shrub, vine) where the fruit grows, the processing of the hyperspectral images and the obtaining of analytical results; it also allows the creation of images where the results of quantitative analyzes are displayed in color maps.

La obtención de las características (parámetros físicos o químicos) se realizará a partir de la generación de firmas espectrales que permitan detectar cambios en la composición espectral y detección de sustancias de interés incluyendo longitudes de onda fuera del intervalo visible del espectro, extrayendo y definiendo aquellas firmas (patrones) espectrales que estén relacionadas con los diferentes parámetros. A partir de un proceso de entrenamiento mediante aprendizaje automático, se establecerán las relaciones que existen entre el perfil espectral y distintas propiedades fisicoquímicas del fruto. Estas propiedades podrán ser cualitativas, como detección de cierto parámetro o presencia de compuestos indeseables (pesticidas, p la g a s .) o cuantitativas, como la concentración o grado de intensidad de un compuesto o parámetro (grado de maduración, concentración de azúcares, acidez, firm eza .).Obtaining the characteristics (physical or chemical parameters) will be carried out from the generation of spectral signatures that allow detecting changes in the spectral composition and detection of substances of interest including wavelengths outside the visible range of the spectrum, extracting and defining those spectral signatures (patterns) that are related to the different parameters. From a training process using machine learning, the relationships that exist between the spectral profile and different physicochemical properties of the fruit will be established. These properties may be qualitative, such as the detection of a certain parameter or the presence of undesirable compounds (pesticides, p la gas) or quantitative, such as the concentration or degree of intensity of a compound or parameter (degree of maturation, concentration of sugars, acidity, firmness.).

A partir de las firmas (patrones) espectrales definidas para cada parámetro, se estimarán las distintas características de un fruto mediante la captura, procesado y análisis de imágenes espectrales de dicho fruto antes de cosecharlo (es decir, en el árbol o planta). La monitorización (determinación/estimación de características) mediante el empleo de imágenes hiperespectrales permite la cuantificación y caracterización de los parámetros de manera objetiva, con precisión y de manera rápida sin necesidad de manipulación del material vegetal.From the spectral signatures (patterns) defined for each parameter, the different characteristics of a fruit by capturing, processing and analyzing spectral images of said fruit before harvesting it (that is, on the tree or plant). Monitoring (determination/estimation of characteristics) through the use of hyperspectral images allows the quantification and characterization of parameters objectively, accurately and quickly without the need for manipulation of plant material.

En una realización de la presente invención se utiliza el intervalo espectral más común en este tipo de instrumentación. Éste comprende el intervalo visible desde 400 nanómetros y alcanza el infrarrojo cercano hasta los 1000 nm. Este intervalo es muy útil, ya que es capaz de detectar los cambios en compuestos que afectan a la región visible, pero al mismo tiempo es capaz de considerar otros cambios que no tienen por qué repercutir en la apariencia de los frutos. Esto es solo un ejemplo y en general se puede usar cualquier intervalo de longitudes de onda, preferiblemente abarcando parte del espectro no visible.In one embodiment of the present invention, the most common spectral range in this type of instrumentation is used. This comprises the visible range from 400 nanometers and reaches the near infrared up to 1000 nm. This interval is very useful, since it is capable of detecting changes in compounds that affect the visible region, but at the same time it is capable of considering other changes that do not necessarily affect the appearance of the fruits. This is just one example and in general any range of wavelengths can be used, preferably covering part of the non-visible spectrum.

Hay que destacar que la captura de las imágenes del fruto se realizará sin recoger el fruto, es decir, se realizará en el árbol, vid, arbusto (en general, planta) donde crece el fruto. Además la medida se realizará únicamente sobre los frutos, discriminándolos del resto de vegetación y elementos de la imagen (mediante un proceso de identificación de objetos llamado segmentación en análisis de imagen). Gracias a la segmentación, hay posibilidad de identificar y caracterizar de manera independiente, tanto fruto, como otros elementos (hojas, ramas, suelo...).It should be noted that the capture of the images of the fruit will be done without picking the fruit, that is, it will be done on the tree, vine, bush (in general, plant) where the fruit grows. In addition, the measurement will be carried out only on the fruits, discriminating them from the rest of the vegetation and elements of the image (by means of an object identification process called segmentation in image analysis). Thanks to segmentation, there is the possibility of independently identifying and characterizing both fruit and other elements (leaves, branches, soil...).

El sistema también puede permitir la presentación de los resultados obtenidos en un dispositivo electrónico del usuario (teléfono móvil, PC, tableta, portátil o cualquier otro tipo de dispositivo electrónico) y puede permitir el almacenamiento histórico de los parámetros para cada fruto de una parcela para conocer el estado y la evolución de la cosecha (por ejemplo, cuantificando la producción y calidad en diferentes zonas de una misma parcela).The system can also allow the presentation of the results obtained in an electronic device of the user (mobile phone, PC, tablet, laptop or any other type of electronic device) and can allow the historical storage of the parameters for each fruit of a plot for know the status and evolution of the harvest (for example, quantifying production and quality in different areas of the same plot).

Además, el procedimiento se realizará de manera automática. Es decir, el sistema propuesto capturará las imágenes del fruto, las procesará, determinará a partir de ellas los distintos parámetros de interés en el fruto y almacenará los resultados y/o los presentará al usuario (por ejemplo, el agricultor) en su dispositivo electrónico. Por lo que todo el procedimiento se realiza, sin requerir formación específica del usuario ni conocimiento de la tecnología que se aplica. In addition, the procedure will be carried out automatically. In other words, the proposed system will capture the images of the fruit, process them, determine from them the different parameters of interest in the fruit and store the results and/or present them to the user (for example, the farmer) on their electronic device. . Therefore, the entire procedure is carried out without requiring specific user training or knowledge of the technology applied.

Así, la técnica propuesta permitirá realizar el control (de calidad, madurez, seguridad...) del fruto de manera no destructiva durante el ciclo de cultivo (antes de la cosecha), de manera automática, sencilla, en tiempo real y mejorando la exactitud, calidad, rapidez, seguridad, fiabilidad y costes en los procesos, permitiendo una mejor planificación del cultivo y cosecha.Thus, the proposed technique will allow non-destructive control (of quality, maturity, safety...) of the fruit during the crop cycle (before harvest), automatically, easily, in real time and improving the accuracy, quality, speed, safety, reliability and costs in the processes, allowing better planning of cultivation and harvest.

En un primer aspecto, la presente invención propone un método para la determinación de un grupo de características de frutos, donde el método comprende los siguientes pasos:In a first aspect, the present invention proposes a method for determining a group of fruit characteristics, where the method comprises the following steps:

- Capturar, con luz natural, al menos una imagen hiperespectral de al menos una parte de una planta con frutos con una cámara (hiperespectral) en el terreno donde está plantada la planta (en campo), es decir, la cámara estará situada en el terreno donde está plantada la planta; y donde en dicha imagen hiperespectral, se obtienen datos de reflectancia de los píxeles de la imagen a distintas longitudes de onda de un rango del espectro (de frecuencia);- Capture, with natural light, at least one hyperspectral image of at least one part of a fruit-bearing plant with a (hyperspectral) camera on the ground where the plant is planted (in the field), that is, the camera will be located in the land where the plant is planted; and where in said hyperspectral image, reflectance data of the pixels of the image at different wavelengths of a range of the spectrum (of frequency) are obtained;

donde el método comprende además los siguientes pasos realizados por un equipo electrónico de procesamiento:where the method further comprises the following steps performed by electronic processing equipment:

- Recibir los datos de la imagen hiperespectral y a partir de ellos, seleccionar automáticamente aquellos píxeles pertenecientes a la imagen de al menos un fruto, aplicando un algoritmo de clasificación;- Receive the hyperspectral image data and from them, automatically select those pixels belonging to the image of at least one fruit, applying a classification algorithm;

- Para cada una de las características que se desea determinar, comparar los datos obtenidos de la imagen hiperespectral para cada uno de los píxeles seleccionados para cada longitud de onda del rango, con una firma espectral preestablecida (obtenida en un proceso previo de entrenamiento) que corresponde a dicha característica del al menos un fruto;- For each of the characteristics to be determined, compare the data obtained from the hyperspectral image for each of the pixels selected for each wavelength of the range, with a pre-established spectral signature (obtained in a previous training process) that corresponds to said characteristic of the at least one fruit;

- A partir de dicha comparación del paso anterior, determinar la cantidad de cada una de las características del grupo del al menos un fruto en cada uno de los pixeles seleccionados, a partir de la comparación del paso anterior.- From said comparison of the previous step, determine the quantity of each one of the characteristics of the group of at least one fruit in each of the selected pixels, from the comparison of the previous step.

En una realización, las características del grupo son características internas del al menos un fruto. En una realización, el grupo de características puede comprender una o más de las siguientes: sólidos solubles, pH, firmeza, contenido en licopeno, grados BRIX, polifenoles, el aspecto exterior del al menos un fruto o cualquier otra característica del mismo (En general, se puede decir que se puede obtener mediante este procedimiento cualquier parámetro físico o químico del fruto y en especial aquellos que determinan su calidad o grado de madurez).In one embodiment, the characteristics of the group are internal characteristics of the at least one fruit. In one embodiment, the group of characteristics may comprise one or more of the following: soluble solids, pH, firmness, lycopene content, BRIX degrees, polyphenols, the external appearance of at least one fruit or any other characteristic thereof (In general , it can be said that any physical parameter can be obtained through this procedure or chemical of the fruit and especially those that determine its quality or degree of maturity).

En una realización el método además comprende: presentar el equipo electrónico de procesamiento a un usuario (mediante una interfaz de usuario), la cantidad determinada para cada pixel de cada una de las características y/o el equipo electrónico enviar, mediante una red de comunicación, a un dispositivo electrónico del usuario la cantidad determinada para cada pixel de cada una de las características.In one embodiment, the method further comprises: presenting the processing electronic equipment to a user (through a user interface), the amount determined for each pixel of each of the characteristics and/or sending the electronic equipment, through a communication network , to an electronic device of the user the amount determined for each pixel of each of the characteristics.

En una realización el método además comprende hacer un mapa de color a partir de los resultados obtenidos y, para ello, se pueden realizar los siguiente pasos: - realizar una reconstrucción en el espectro visible, de la imagen del al menos un fruto; - para cada característica, representar cada pixel de la imagen en un color dependiendo de la cantidad de dicha característica determinada para cada pixel.In one embodiment, the method also comprises making a color map from the results obtained and, for this, the following steps can be carried out: - carry out a reconstruction in the visible spectrum of the image of the at least one fruit; - for each feature, representing each pixel of the image in a color depending on the amount of said feature determined for each pixel.

En una realización, la distancia a la que se coloca la cámara de la planta depende al menos de uno o más de los siguientes parámetros: el tamaño de al menos un fruto, la resolución espacial de la cámara, la tecnología óptica de la cámara y la iluminación (en general, preferentemente la distancia se calcula de acuerdo a uno o más de estos parámetros, para que el fruto a analizar tenga un tamaño mínimo deseado en la imagen).In one embodiment, the distance at which the camera is placed from the plant depends on at least one or more of the following parameters: the size of at least one fruit, the spatial resolution of the camera, the optical technology of the camera and lighting (in general, distance is preferably calculated according to one or more of these parameters, so that the fruit to be analyzed has a minimum desired size in the image).

En una realización, la imagen se captura cuando la luz natural incide aproximadamente a 45° respecto a la vertical.In one embodiment, the image is captured when natural light is incident at approximately 45° from vertical.

Preferentemente, el rango del espectro en el que la cámara recoge datos de la imagen hiperespectral es un rango de longitudes de onda entre 400 y 1000 nm.Preferably, the spectral range in which the camera collects hyperspectral image data is a wavelength range between 400 and 1000 nm.

En una realización, antes de la captura de la imagen se realiza una calibración de la cámara usando un elemento válido para la calibración (por ejemplo un marco de calibración) colocado junto al objeto a capturar (al menos una parte de la planta).In one embodiment, before capturing the image, a calibration of the camera is performed using a valid element for calibration (for example a calibration frame) placed next to the object to be captured (at least a part of the plant).

En una realización, la selección de los pixeles se realiza mediante métodos de aprendizaje automáticos (máquina de vectores de soporte).In one embodiment, the selection of the pixels is performed by automatic learning methods (support vector machine).

El equipo electrónico y la cámara pueden formar parte del mismo dispositivo o estar separados y comunicados a través de una red de comunicación y en este segundo caso, el equipo electrónico recibe la imagen hiperespectral capturada a través de la red de comunicación (o se la descarga en el equipo electrónico después de la captura de la misma).The electronic equipment and the camera can be part of the same device or be separated and communicated through a communication network and in this second case, the electronic equipment receives the hyperspectral image captured through the communication network (or it is downloaded to the electronic equipment after capturing it).

En una realización, la cámara está instalada en un vehículo que se mueve por el terreno donde está plantada la planta.In one embodiment, the camera is installed on a vehicle that moves across the land where the plant is planted.

En una realización, la firma espectral de cada característica comprende un vector con el valor de reflectancia, para cada longitud de onda del rango, obtenido durante un proceso de entrenamiento previo, que corresponde a la presencia de una cantidad (por ejemplo, una unidad) de dicha característica en un fruto.In one embodiment, the spectral signature of each feature comprises a vector with the reflectance value, for each wavelength of the range, obtained during a previous training process, which corresponds to the presence of a quantity (for example, a unit) of said characteristic in a fruit.

En un segundo aspecto, la presente invención propone un sistema para la determinación de un grupo de características de frutos, donde el sistema comprende los siguientes pasos:In a second aspect, the present invention proposes a system for determining a group of fruit characteristics, where the system comprises the following steps:

- Una cámara para capturar, con luz natural, al menos una imagen hiperespectral de al menos una parte de una planta con frutos, donde la cámara para capturar la imagen se sitúa en el terreno donde está plantada la planta y donde dicha imagen hiperespectral comprende datos de reflectancia de los píxeles de la imagen a distintas longitudes de onda de un rango del espectro;- A camera to capture, with natural light, at least one hyperspectral image of at least one part of a plant with fruits, where the camera to capture the image is located on the land where the plant is planted and where said hyperspectral image comprises data of reflectance of the pixels of the image at different wavelengths of a range of the spectrum;

- Al menos un equipo electrónico de procesamiento configurado para:- At least one electronic processing equipment configured to:

- Recibir los datos de la imagen hiperespectral y a partir de los mismos, seleccionar automáticamente aquellos píxeles pertenecientes a la imagen de al menos un fruto, aplicando un algoritmo de clasificación;- Receive the data of the hyperspectral image and from them, automatically select those pixels belonging to the image of at least one fruit, applying a classification algorithm;

- Para cada una de las características del grupo, comparar los datos obtenidos de la imagen hiperespectral para cada uno de los píxeles seleccionados para cada longitud de onda del rango, con una firma espectral preestablecida que define dicha característica del fruto;- For each of the characteristics of the group, compare the data obtained from the hyperspectral image for each of the pixels selected for each wavelength of the range, with a pre-established spectral signature that defines said characteristic of the fruit;

- Determinar la cantidad de cada una de las características del grupo del al menos un fruto en cada uno de los pixeles seleccionados, a partir de dicha comparación.- Determining the amount of each of the characteristics of the group of at least one fruit in each of the selected pixels, based on said comparison.

Finalmente, se presenta un programa de ordenador que comprende instrucciones ejecutables por ordenador para implementar el método descrito, al ejecutarse en un ordenador, un procesador digital de la señal, un circuito integrado específico de la aplicación, un microprocesador, un microcontrolador o cualquier otra forma de hardware programable. Finally, a computer program is presented comprising computer-executable instructions for implementing the method described, when executed on a computer, a digital signal processor, an application-specific integrated circuit, a microprocessor, a microcontroller, or any other form. hardware programmable.

Dichas instrucciones pueden estar almacenadas en un medio de almacenamiento de datos digitales.Said instructions may be stored on a digital data storage medium.

Para un entendimiento más completo de estos y otros aspectos de la invención, sus objetos y ventajas, puede tenerse referencia a la siguiente memoria descriptiva y a las figuras adjuntas.For a more complete understanding of these and other aspects of the invention, its objects and advantages, reference may be had to the following specification and accompanying figures.

DESCRIPCIÓN DE LAS FIGURASDESCRIPTION OF THE FIGURES

Para complementar la descripción que se está realizando y con objeto de ayudar a una mejor comprensión de las características de la invención, de acuerdo con unos ejemplos preferentes de realizaciones prácticas de la misma, se acompaña como parte integrante de esta descripción un juego de dibujos en donde, con carácter ilustrativo y no limitativo, se ha representado lo siguiente:To complement the description that is being made and in order to help a better understanding of the characteristics of the invention, according to some preferred examples of practical embodiments of the same, a set of drawings is attached as an integral part of this description. where, by way of illustration and not limitation, the following has been represented:

La Figura 1 muestra de manera esquemática el sistema en funcionamiento de acuerdo a una realización de la invención.Figure 1 schematically shows the system in operation according to one embodiment of the invention.

DESCRIPCIÓN DETALLADA DE LA INVENCIÓNDETAILED DESCRIPTION OF THE INVENTION

La presente invención propone un método y sistema mejorado e integral de obtención de diversas características de frutos a partir de imágenes hiperespectrales.The present invention proposes an improved and comprehensive method and system for obtaining various fruit characteristics from hyperspectral images.

El método y sistema propuesto permite, entre otras cosas, adquirir y procesar las imágenes en campo (en condiciones ambiente) sin recolectar el fruto (o frutos) ni manipularlo ni trasladarlo a un laboratorio para su análisis; identificar (discriminar) automáticamente el fruto dentro de la imagen; obtener varios parámetros del fruto (caracterización multiparamétrica); estimar la cantidad de distintos parámetros físico-químicos de interés en fruto; representar los resultados en mapas de color a partir de los frutos identificados y de los parámetros obtenidos para cada fruto; presentar la información al usuario en su dispositivo electrónico (con posibilidad de creación de informes automáticos de resultados).The proposed method and system allows, among other things, to acquire and process the images in the field (in ambient conditions) without collecting the fruit (or fruits) or manipulating it or transferring it to a laboratory for analysis; automatically identify (discriminate) the fruit within the image; obtain several parameters of the fruit (multiparametric characterization); estimate the amount of different physical-chemical parameters of interest in fruit; represent the results in color maps from the identified fruits and the parameters obtained for each fruit; present the information to the user on their electronic device (with the possibility of creating automatic results reports).

Estas características obtenidas serán características internas del fruto como por ejemplo (esta es una lista no limitativa) sólidos solubles, pH, firmeza, contenido en licopeno, grados BRIX, polifenoles; opcionalmente también se pueden obtener alguna característica externa del fruto (relacionados con el aspecto exterior) como color, manchas, rugosidad.... En general, se puede decir que se puede obtener mediante este procedimiento cualquier parámetro físico o químico del fruto (y en especial aquellos que determinan su calidad o grado de madurez).These characteristics obtained will be internal characteristics of the fruit such as (this is a non-limiting list) soluble solids, pH, firmness, lycopene content, BRIX degrees, polyphenols; Optionally, some external characteristic of the fruit can also be obtained. (related to the external appearance) such as color, spots, roughness... In general, it can be said that any physical or chemical parameter of the fruit can be obtained through this procedure (and especially those that determine its quality or degree of maturity ).

En una realización, las imágenes hiperespectrales adquiridas, independientemente de sus dimensiones espaciales, tendrán preferentemente un intervalo espectral comprendido entre 400 a 1000 nm. Por otro lado, aunque en algunos ejemplos se menciona como fruto el tomate, la invención es propuesta es ampliable a cualquier otro tipo de fruto.In one embodiment, the acquired hyperspectral images, regardless of their spatial dimensions, will preferably have a spectral range from 400 to 1000 nm. On the other hand, although in some examples the tomato is mentioned as a fruit, the proposed invention can be extended to any other type of fruit.

En una realización preferente, los frutos monitorizados serán tomates aunque la presente invención también se puede aplicar a uvas, aceitunas o a cualquier otro tipo de fruto.In a preferred embodiment, the monitored fruits will be tomatoes, although the present invention can also be applied to grapes, olives or any other type of fruit.

En la figura 1 se puede ver de manera esquemática las distintas partes del sistema. Primeramente tenemos la cámara (1) para capturar las imágenes hiperespectrales de los frutos (2) en el árbol. Dicha cámara (llamada cámara hiperespectral o sensor hiperespectral) puede ser de cualquier tipo conocido. En una realización dicha cámara obtendrá imágenes de axb píxeles (también llamada resolución espacial de la cámara, donde a es el número de filas de pixeles y b el número de columnas de pixeles, por ejemplo, 512x512 pixeles aunque cualquier otro número de píxeles es posible) en el intervalo de 400 a 1000 nm con una resolución espectral aproximada de 3 nm (por lo que, en este ejemplo, en la cámara se obtendrán medidas de reflectancia para 204 longitudes de onda distintas, o en otra palabras, para 204 bandas de longitudes de onda).Figure 1 shows schematically the different parts of the system. First we have the camera (1) to capture the hyperspectral images of the fruits (2) on the tree. Said camera (called hyperspectral camera or hyperspectral sensor) can be of any known type. In one embodiment, said camera will obtain images of axb pixels (also called the spatial resolution of the camera, where a is the number of rows of pixels and b the number of columns of pixels, for example, 512x512 pixels, although any other number of pixels is possible). in the interval from 400 to 1000 nm with an approximate spectral resolution of 3 nm (so, in this example, the camera will obtain reflectance measurements for 204 different wavelengths, or in other words, for 204 wavelength bands). cool).

Después habrá un equipo electrónico de procesamiento (4) (también llamado simplemente unidad, equipo, módulo o dispositivo de procesamiento o más simplemente procesador) que recibe las imágenes capturadas y las procesa para obtener los parámetros deseados (aunque por simplicidad, hablamos de un equipo de procesamiento puede haber una sola unidad que realiza todo el procesado o haber varias unidades, cada una de las cuales realizar alguna de las acciones del procesado). El equipo de procesamiento puede mostrar los resultados al usuario (mediante un interfaz de usuario como por ejemplo una pantalla) y/o puede enviar los resultados obtenidos a un dispositivo electrónico del usuario (por ejemplo, un teléfono móvil, un ordenador, etc.) a través de una red de comunicación sin hilo, de telefonía móvil, red cableada o de cualquier tipo. El dispositivo electrónico del usuario y/o el equipo de procesamiento pueden almacenar los resultados numéricos (valores de los parámetros obtenidos) e incluso los posibles mapas de color generados, en archivos que podrán ser procesados en masa posteriormente.Then there will be an electronic processing equipment (4) (also called simply a processing unit, equipment, module or device or more simply a processor) that receives the captured images and processes them to obtain the desired parameters (although for simplicity, we speak of a of processing there may be a single unit that performs all the processing or there may be several units, each of which performs some of the processing actions). The processing equipment may display the results to the user (via a user interface such as a screen) and/or may send the results obtained to the user's electronic device (eg a mobile phone, a computer, etc.) through a wireless communication network, mobile telephony, wired network or any other type. The user's electronic device and/or the processing equipment can store the numerical results (values of the parameters obtained) and even the possible color maps generated, in files that can be later mass processed.

En la figura 1 dicho equipo de procesamiento es un ordenador portátil pero esto es solo un ejemplo no limitativo, pudiendo usarse cualquier tipo de equipo electrónico de procesamiento de datos.In Figure 1, said processing equipment is a portable computer, but this is only a non-limiting example, and any type of electronic data processing equipment can be used.

El equipo electrónico de procesamiento puede estar conectado a la cámara mediante cualquier tipo de red de comunicación (cableada o sin hilo, red de telefonía móvil, etc) usando cualquier tipo de tecnología, como Bluetooth, telefonía móvil o cualquier otra. Asimismo, en una realización, no es necesaria una conexión permanente entre la cámara y el equipo informático. La cámara podrá disponer de una unidad de almacenamiento de las imágenes, que permitirá su procesado posterior al transferir (descargar) la información al equipo electrónico de procesamiento correspondiente (como se muestra en la figura de la derecha en la figura 1).The electronic processing equipment can be connected to the camera through any type of communication network (wired or wireless, mobile phone network, etc.) using any type of technology, such as Bluetooth, mobile phone or any other. Also, in one embodiment, a permanent connection between the camera and the computer equipment is not necessary. The camera may have an image storage unit, which will allow subsequent processing by transferring (downloading) the information to the corresponding electronic processing equipment (as shown in the figure on the right in figure 1).

Por otro lado, la cámara y el equipo electrónico de procesamiento pueden estar separados como en la figura 1, pero también pueden estar dentro de la misma carcasa formando parte del mismo equipo (es decir, un mismo equipo captura las imágenes y las procesa para obtener los resultados). O haber varios equipos de procesamiento algunos de las cuales están incorporados en la cámara y otras separados de ella (o en otras palabras, la cámara puede realizar además de la captura, algunas de las acciones para el procesado de imágenes).On the other hand, the camera and the electronic processing equipment can be separated as in figure 1, but they can also be inside the same housing as part of the same equipment (that is, the same equipment captures the images and processes them to obtain the results). Or there may be various processing equipment, some of which are built into the camera and some of which are separate from it (or in other words, the camera can perform, in addition to capturing, some of the actions for image processing).

En el procedimiento propuesto se distinguen dos etapas principales, adquisición (captura) de la imagen (realizada en la cámara) y procesado de la imagen y obtención de resultados (realizada en el uno o varios equipos de procesamiento). Después los resultados obtenidos se pueden procesar de distintas maneras para presentarlos al usuario. Cada una de estas etapas tendrá a su vez distintos pasos o acciones.Two main stages are distinguished in the proposed procedure, acquisition (capture) of the image (performed in the camera) and image processing and obtaining of results (performed in one or more processing equipment). Then the results obtained can be processed in different ways to present them to the user. Each of these stages will in turn have different steps or actions.

Adquisición de la imagen (esto es solo un ejemplo de los pasos a realizar y no todos los pasos son esenciales y, por lo tanto, necesarios para el procedimiento propuesto):Image acquisition (this is just an example of the steps to perform and not all steps are essential and therefore necessary for the proposed procedure):

- Colocar la cámara (1) para la captura de la imagen. Preferentemente, la cámara apuntará de manera perpendicular al objeto (2) cuya imagen se quiere capturar (parte del árbol o en general, de la planta en la que están el fruto o los frutos que se quieren monitorizar) aunque en otras realizaciones la orientación puede ser distinta. En una realización, para mayor estabilidad de la foto capturada, la cámara se dispondrá en un soporte o trípode (3).- Place the camera (1) to capture the image. Preferably, the camera will point perpendicularly to the object (2) whose image is to be captured (part of the tree or, in general, of the plant on which the fruit or fruits to be monitored are located) although in other embodiments the orientation may be different. In one embodiment, for greater stability of the captured photo, the camera will be placed on a support or tripod (3).

Aunque en la figura 1, la cámara aparece de manera aislada y hay que transportarla de un árbol a otro para ir realizando las fotos, en una realización alternativa la cámara puede estar instalada en algún dispositivo con capacidad de desplazamiento (por ejemplo, un tractor, cosechadora o cualquier tipo de máquina movible o vehículo) que se va desplazando por el campo de cultivo, parándose y tomando las distintas fotos de cada árbol cuyos frutos se quieren analizar.Although in figure 1, the camera appears in isolation and it has to be transported from one tree to another to take the photos, in an alternative embodiment the camera can be installed on some device with displacement capacity (for example, a tractor, harvester or any type of mobile machine or vehicle) that moves through the crop field, stopping and taking different photos of each tree whose fruits are to be analyzed.

Esté la cámara aislada o montada en algún tipo de máquina (por ejemplo, un vehículo), para la adquisición de la imagen debe colocarse de manera que se permita una visión directa y cercana del fruto (o frutos) que posibilite la captura de una imagen. Además debe colocarse a una distancia compatible con la distancia de trabajo de la óptica empleada por la cámara. La resolución espacial del sensor de la cámara junto con las características específicas de la óptica, conlleva el uso de distancias de trabajo concretas para la obtención de una definición suficiente, que se ajustará a las características de la muestra a analizar (fruto). Por ejemplo, la relación entre la distancia a la que se coloca la cámara del fruto a analizar, puede venir dada según la relación L(m) = 1,024 , donde R(px/mm)Whether the camera is isolated or mounted on some type of machine (for example, a vehicle), for the acquisition of the image it must be placed in a way that allows a direct and close view of the fruit (or fruits) that makes it possible to capture an image . It must also be placed at a distance compatible with the working distance of the lens used by the camera. The spatial resolution of the camera sensor, together with the specific characteristics of the optics, entails the use of specific working distances to obtain a sufficient definition, which will be adjusted to the characteristics of the sample to be analyzed (fruit). For example, the relationship between the distance at which the camera is placed from the fruit to be analyzed can be given according to the relationship L ( m) = 1.024 , where R(px/mm)

R ( px / ) R ( px / )

es la resolución en píxeles por milímetro y L es la distancia medida entre el fruto y la óptica de la cámara (esto es solo un ejemplo, y se pueden emplear otras fórmulas para obtener la relación entre la resolución y la distancia); esta distancia ha de encontrarse dentro del rango de distancias en que la óptica es capaz de enfocar correctamente. La proporción 1,024 está calculada específicamente para la cámara empleada en el presente ejemplo (donde la resolución espacial es de 512 x 512 píxeles).is the resolution in pixels per millimeter and L is the measured distance between the fruit and the camera optics (this is just an example, and other formulas can be used to obtain the relationship between resolution and distance); this distance must be within the range of distances in which the lens is capable of focusing correctly. The ratio 1.024 is calculated specifically for the camera used in this example (where the spatial resolution is 512 x 512 pixels).

En general, se puede decir que la distancia entre la cámara y los frutos dependerá de factores como el tamaño del fruto, la resolución espacial del sensor de la cámara, la óptica empleada y la iluminación. La identificación de los frutos está basada en una discriminación espectral respecto al resto de elementos de la imagen, pero es conveniente que el fruto abarque un área de píxeles que permita, por un lado, reconocer la morfología del fruto y, por otro lado, realizar una estadística a partir de un número determinado de píxeles a partir de su espectro medio. Por ejemplo, en una realización preferente, se ha usado una distancia que hace que el fruto o frutos tengan un tamaño mínimo de 500 píxeles en la imagen.In general, it can be said that the distance between the camera and the fruit will depend on factors such as the size of the fruit, the spatial resolution of the camera sensor, the optics used and the lighting. The identification of the fruits is based on a spectral discrimination with respect to the rest of the elements of the image, but it is convenient that the fruit covers an area of pixels that allows, on the one hand, to recognize the morphology of the fruit and, on the other hand, to perform a statistic from a given number of pixels from their average spectrum. For example, in a preferred embodiment, a distance that makes the fruit or fruits have a minimum size of 500 pixels in the image.

En la captura de imágenes hiperespectrales el control de la iluminación es crítico ya que el espectro de reflectancia obtenido es una medida relativa que depende de la radiación incidente en la muestra; por ello, la inmensa mayoría de los trabajos con este tipo de imágenes se adquieren en laboratorio, donde es fácil controlar la luz. Así, en las soluciones propuestas del estado de la técnica las imágenes se capturan en un laboratorio sobre muestras ya cosechadas (y se usan por lo tanto, equipos de laboratorio con iluminación controlada). En la presente invención, sin embargo, las imágenes se capturan en el campo donde está plantada la planta que da el fruto y, donde por lo tanto se usa luz natural (que puede variar de manera no controlada). Teniendo en cuenta estos aspectos, la metodología propuesta preferentemente incluye un sistema que calibra la iluminación para cada una de las capturas, lo que lo hace robusto a cambios en las condiciones ambientales. Esta calibración se puede realizar midiendo el espectro de reflectancia de un material de referencia; el espectro de este material es estable en el tiempo, por lo que el perfil espectral de las muestras se mide de manera relativa a este material, eliminando la dependencia con las condiciones ambientales. Además, en la parte computacional (en el equipo de procesamiento o en la propia cámara) se cuentan con herramientas de preprocesado espectral que minimizan las posibles incongruencias espectrales ocasionadas por una iluminación irregular. Así, la extrapolación de modelos de procesado de imágenes de laboratorio (con iluminación controlada) a imágenes capturadas con luz natural no es trivial.In the capture of hyperspectral images, lighting control is critical since the reflectance spectrum obtained is a relative measure that depends on the incident radiation on the sample; For this reason, the vast majority of works with this type of images are acquired in the laboratory, where it is easy to control the light. Thus, in the proposed state-of-the-art solutions, images are captured in a laboratory on samples already harvested (and therefore laboratory equipment with controlled lighting is used). In the present invention, however, the images are captured in the field where the fruit-bearing plant is planted, and where therefore natural light (which may vary in an uncontrolled manner) is used. Taking these aspects into account, the proposed methodology preferably includes a system that calibrates the lighting for each of the captures, which makes it robust to changes in environmental conditions. This calibration can be done by measuring the reflectance spectrum of a reference material; the spectrum of this material is stable over time, so the spectral profile of the samples is measured relative to this material, eliminating dependence on environmental conditions. In addition, in the computational part (in the processing equipment or in the camera itself) there are spectral preprocessing tools that minimize possible spectral inconsistencies caused by irregular lighting. Thus, the extrapolation of laboratory image processing models (with controlled lighting) to images captured with natural light is not trivial.

En la presente invención, la iluminación es directa del sol. En este caso, en una realización preferente, la imagen se tomará si es posible cuando la luz (del sol) incida a 45° de inclinación respecto a la vertical, aproximadamente. En cualquier caso, si no se puede tomar la imagen a 45° respecto a la vertical, debe evitarse tomarla a las horas donde la luz es más cenital ya que la calidad de la fotografía empeora. Esta geometría es la más utilizada ya que es la que mejores resultados ofrece en medidas espectrales por reflectancia.In the present invention, the lighting is direct from the sun. In this case, in a preferred embodiment, the image will be taken if possible when the light (from the sun) strikes at an angle of approximately 45° from the vertical. In any case, if the image cannot be taken at 45° with respect to the vertical, it should be avoided at times when the light is more zenithal, since the quality of the photograph worsens. This geometry is the most used since it is the one that offers the best results in spectral measurements by reflectance.

- Una vez se ha colocado la cámara (a la orientación, distancia y condiciones de iluminación adecuadas) preferentemente se produce la calibración de la imagen. Para ello, por ejemplo, se coloca un elemento válido para la calibración (como por ejemplo, un marco de calibración) orientado hacia la cámara y junto al objeto cuya imagen se quiere capturar y se realiza la calibración de la cámara (mediante la opción correspondiente en la cámara o posteriormente durante el procesado de la imagen). El marco de calibración consiste en una figura geométrica (por ejemplo, en forma de marco cuadrado), de un área suficientemente amplia como para quedar representada en la imagen por un conjunto de píxeles suficiente para la ejecución de la normalización, que sirve de referencia de blancos al estar compuesto por un material que consta de una reflectancia máxima en todo el rango espectral, por lo que estará fabricado preferentemente de PTFE (politetrafluoroetileno).- Once the camera has been placed (at the appropriate orientation, distance and lighting conditions) the image calibration is preferably performed. To do this, for example, an element valid for calibration (such as a calibration frame) is placed facing the camera and next to the object whose image is to be captured and camera calibration is performed (via the corresponding option in the camera or later during image processing). The calibration frame consists of a geometric figure (for example, in the form of a square frame), with an area large enough to be represented in the image by a set of pixels sufficient for the execution of the normalization, which serves as a reference for white as it is composed of a material that has a maximum reflectance throughout the spectral range, so it will preferably be made of PTFE (polytetrafluoroethylene).

- Por último se captura la imagen o imágenes deseadas.- Finally, the desired image or images are captured.

Procesado de la imagen y obtención de resultados (esto es solo un ejemplo de los pasos a realizar y no todos los pasos son esenciales y, por lo tanto, necesarios para el procedimiento propuesto):Image processing and obtaining results (this is just an example of the steps to perform and not all steps are essential and therefore necessary for the proposed procedure):

- Como hemos indicado, aunque se habla de "imagen” hiperespectral, en verdad, lo que se obtiene es una batería de imágenes de una misma escena (de un mismo objeto) donde cada una representa la reflectancia a una longitud de onda del espectro. Por lo que al final, lo que se obtiene de la cámara hiperespectral es una matriz de tres dimensiones (llamada hipercubo) con la reflectancia de cada punto de la imagen (pixel) a cada longitud de onda.- As we have indicated, although we speak of a hyperspectral "image", in truth, what is obtained is a battery of images of the same scene (of the same object) where each one represents the reflectance at a wavelength of the spectrum. So in the end, what is obtained from the hyperspectral camera is a three-dimensional matrix (called a hypercube) with the reflectance of each point of the image (pixel) at each wavelength.

Para su procesado, lo primero que se hace es la conversión de dicha matriz de tres dimensiones o hipercubo a una matriz plana (bidimensional) este proceso se llama desplegamiento o más conocido por su término en inglés, “unfolding”. En el ejemplo citado anteriormente donde las imágenes son de axb pixeles y se capturan datos en 204 longitudes de onda distintas, las dimensiones de la matriz pasan de ser de axbx204 (tridimensional) a a bx204 (bidimensional).For its processing, the first thing that is done is the conversion of said three-dimensional matrix or hypercube to a flat matrix (two-dimensional). This process is called unfolding or better known by its term in English, "unfolding". In the example cited above where the images are axb pixels and data is captured at 204 different wavelengths, the dimensions of the matrix change from axbx204 (three-dimensional) to bx204 (two-dimensional).

- Ahora se realiza la identificación de los píxeles que corresponden a la región de interés (fruto o frutos cuyas características se desean obtener). Para ello en cada uno de los espectros individuales (de cada pixel) se evalúa mediante un clasificador si pertenecen o no a fruto. Esta clasificación es multivariante e influyen en diferente medida las 204 longitudes de onda disponibles para cada uno de los puntos de la imagen. Este clasificador puede utilizar cualquier herramienta conocida (por ejemplo, en máquina de vectores de soporte, del inglés "Support Vector Machine, en inteligencia artificial), normalmente basadas en un entrenamiento (previo) donde se definen las características de los pixeles que pertenecen a fruto (que variarán para cada tipo de fruto). El resultado es un vector de longitud igual al número de espectros (que es coincidente con el número de píxeles), donde para cada pixel se indica con 0 y 1 la pertenencia a la región de interés. La suma de este vector son el número de pixeles (F) píxeles donde hay muestra (fruto) en la imagen. En una realización, el clasificador usado para identificar los pixeles que pertenecen a la región de interés se basa en la búsqueda de hiperplanos que separan las muestras dentro de las 204 dimensiones disponibles. La clasificación se realiza a partir de unas imágenes utilizadas para el entrenamiento del algoritmo de clasificación que, una vez puesto a punto, es verificado al comprobar su idoneidad con muestras externas. Durante la puesta a punto de la solución propuesta, los modelos de clasificación usados preferentemente son verificados con decenas de imágenes disponibles, para asegurarse de que son lo más exactos posibles.- Now the identification of the pixels that correspond to the region of interest (fruit or fruits whose characteristics are desired to be obtained) is carried out. For this, in each of the individual spectra (of each pixel) it is evaluated by means of a classifier if they belong to the fruit or not. This classification is multivariate and the 204 wavelengths available for each of the points in the image have a different influence. This classifier can use any known tool (for example, in support vector machine, from English "Support Vector Machine, in artificial intelligence), usually based on a (previous) training where the characteristics of the pixels belonging to the fruit are defined (which will vary for each type of fruit). The result is a vector of length equal to the number of spectra (which coincides with the number of pixels), where for each pixel the belonging to the region of interest is indicated with 0 and 1. The sum of this vector is the number of pixels (F) pixels where there is a sample (fruit) in the image. In one embodiment, the classifier used to identify the pixels that belong to the region of interest is based on the search for hyperplanes that separate the samples within the 204 available dimensions. The classification is made from some images used for training the classification algorithm which, once fine-tuned, is verified by checking its suitability with external samples. During the development of the proposed solution, the classification models used are preferably verified with dozens of available images, to ensure that they are as accurate as possible.

- Después se repliega el vector a las dimensiones espaciales del hipercubo. El resultado es una matriz plana (axb) donde se muestran estas regiones en el hipercubo.- Then the vector is folded to the spatial dimensions of the hypercube. The result is a planar matrix (axb) showing these regions on the hypercube.

- A continuación, se recopilan los espectros de los píxeles seleccionados, es decir, los pixeles que pertenecen a la región de interés (a un fruto) a los que se le ha asignado un 1 en la clasificación realizada anteriormente. También se recopilan las coordenadas (x, y) de estos puntos (pixeles) en la imagen. El resultado es una matriz (Fxnúmero de bandas de longitud de onda, 204 en el ejemplo usado anteriormente) con los espectros de interés y otra matriz (Fx2) con las coordenadas, donde F es el número de pixeles de la imagen que se ha considerado que pertenecen a un fruto- Next, the spectra of the selected pixels are compiled, that is, the pixels that belong to the region of interest (a fruit) to which a 1 has been assigned in the classification carried out previously. The (x,y) coordinates of these points (pixels) in the image are also collected. The result is a matrix (Fxnumber of wavelength bands, 204 in the example used above) with the spectra of interest and another matrix (Fx2) with the coordinates, where F is the number of pixels of the image that has been considered. that belong to a fruit

En este paso, a partir de los espectros obtenidos en el paso anterior y de la firma espectral obtenida previamente para cada parámetro y cada tipo de fruto, se determina (estima) la medida de uno o más parámetros de interés en el fruto que se está monitorizando. Para ello, en un proceso de entrenamiento previo (usando por ejemplo técnicas de inteligencia artificial como “machine leaming”) se ha obtenido la firma espectral (también llamada patrón espectral) que caracteriza cada uno de los parámetros que se quiere medir en cada tipo de fruto. Es decir, se han capturado imágenes espectrales de prueba de distintos frutos en los que sí se conocía la medida de los parámetros de interés, se ha correlacionado los datos de estas imágenes hiperespectrales con la cantidad de cada parámetro presente en cada fruto y, a partir de ahí, se ha obtenido el valor en cada una de las longitudes de onda que cuantifica la presencia de cada uno de los parámetros. Es decir, la firma espectral de cada parámetro comprende un vector con el valor de reflectancia, para cada longitud de onda que corresponde a la presencia de una cantidad de dicho parámetro en un fruto de un determinado tipo (uva, tomate...).In this step, based on the spectra obtained in the previous step and the spectral signature previously obtained for each parameter and each type of fruit, the measurement of one or more parameters of interest in the fruit being studied is determined (estimated). monitoring. To do this, in a previous training process (using, for example, artificial intelligence techniques such as "machine learning") , the spectral signature (also called spectral pattern) has been obtained that characterizes each of the parameters to be measured in each type of fruit. That is, test spectral images of different fruits were captured in which the measurement of the parameters of interest was known, the data from these hyperspectral images was correlated with the amount of each parameter present in each fruit and, from there, the value in each of the wavelengths that quantifies the presence of each of the parameters has been obtained. That is, the spectral signature of each parameter comprises a vector with the reflectance value, for each wavelength that corresponds to the presence of an amount of said parameter in a fruit of a certain type (grape, tomato...).

Para asegurar la precisión del modelo, se ha construido un diseño experimental para el entrenamiento previo, que en primer lugar separa las muestras en sets de calibración y de validación. Con las muestras de calibración se han entrenado los modelos y con las de validación se ha verificado la idoneidad de los mismos. Existen en quimiometría herramientas estadísticas y parámetros de calidad que aseguran el correcto funcionamiento de los mismos, la falta de fenómenos no deseados de sobreajuste y que al mismo tiempo asegura que el modelo seguirá funcionando con nuevas muestras en un futuro.To ensure the accuracy of the model, an experimental design has been built for the previous training, which firstly separates the samples into calibration and validation sets. The models have been trained with the calibration samples and their suitability has been verified with the validation samples. In chemometrics, there are statistical tools and quality parameters that ensure their correct operation, the lack of undesirable overfitting phenomena, and at the same time ensure that the model will continue to function with new samples in the future.

En una realización, en el caso de que el análisis sea cuantitativo lo que se obtiene es un modelo de regresión multivariante como son, por ejemplo, la regresión por mínimos cuadrados parciales (PLSR) o la regresión múltiple lineal (MLR). El resultado final de estos modelos de entrenamiento es un vector con un coeficiente por cada longitud de onda más un término independiente que, aplicado a un espectro problema, arroja un valor numérico que corresponde con la magnitud a analizar. Dichos coeficientes dependen del analito (es decir, del parámetro físico o químico que se quiere medir) y del fruto en concreto (tomate, uva, aceituna, m anzana.).In one embodiment, in the event that the analysis is quantitative, what is obtained is a multivariate regression model such as, for example, partial least squares regression (PLSR) or multiple linear regression (MLR). The final result of these training models is a vector with a coefficient for each wavelength plus an independent term that, applied to a problem spectrum, yields a numerical value that corresponds to the magnitude to be analyzed. These coefficients depend on the analyte (that is, the physical or chemical parameter to be measured) and the specific fruit (tomato, grape, olive, apple...).

Así, en el proceso de entrenamiento, se obtendrá un vector (patrón o firma espectral) para cada analito y cada tipo de fruto que se quiera monitorizar. En el caso en concreto que se citó anteriormente, estos vectores tendrá 204 coeficientes (uno por cada una de las 204 longitudes de onda de la imagen hiperespectral) más un término independiente. A continuación, se compara el espectro de la imagen capturada con estos coeficientes de la firma espectral para estimar la presencia de dicho analito (caracterizado por la firma espectral) en el fruto o frutos cuya imagen se ha capturado. Para ello, en una realización, para cada uno de los F pixeles de fruto de la imagen hiperespectral capturada, se multiplica cada valor del espectro del píxel (para cada longitud de onda) obtenido de la(s) imagen(es) hiperespectral(es) capturada(s) (paso anterior) por su coeficiente correspondiente, se suman los valores obtenidos y se añade el término independiente. El dato obtenido es resultado de dicho analito en ese punto (pixel). Se aplica este procedimiento a cada uno de los F espectros y se obtiene la matriz de resultados con la medida estimada del parámetro en estudio (analito) en cada pixel del fruto (esto es solo un ejemplo y la comparación para obtener los resultados se puede realizar de cualquier otro modo conocido).Thus, in the training process, a vector (pattern or spectral signature) will be obtained for each analyte and each type of fruit to be monitored. In the specific case mentioned above, these vectors will have 204 coefficients (one for each of the 204 wavelengths of the hyperspectral image) plus an independent term. Next, the spectrum of the captured image is compared with these coefficients of the spectral signature to estimate the presence of said analyte (characterized by the spectral signature) in the fruit or fruits whose image has been captured. To do this, in one embodiment, for each of the F pixels of the captured hyperspectral image, each value of the pixel spectrum (for each wavelength) obtained from the hyperspectral image(s) is multiplied. ) captured (previous step) by its corresponding coefficient, it is add the obtained values and add the independent term. The data obtained is the result of said analyte at that point (pixel). This procedure is applied to each of the F spectra and the results matrix is obtained with the estimated measurement of the parameter under study (analyte) in each pixel of the fruit (this is just an example and the comparison to obtain the results can be done in any other known way).

Procesado y presentación de resultadosProcessing and presentation of results

- Los resultados obtenidos en el paso anterior se pueden procesar de distintas maneras para presentarlos al usuario. Los datos obtenidos se pueden exportar a un archivo (por ejemplo, un archivo xlsx) mostrando los datos en bruto o con algún tipo de análisis estadístico (valor medio de cada uno de los analitos en la imagen, dispersión de los resultados, etc). Este archivo se puede almacenar en el equipo electrónico de procesamiento y/o enviar a un dispositivo electrónico del usuario para que él acceda al mismo (y lo almacene en su dispositivo si así lo desea).- The results obtained in the previous step can be processed in different ways to present them to the user. The data obtained can be exported to a file (for example, an xlsx file) showing the raw data or with some type of statistical analysis (mean value of each of the analytes in the image, dispersion of the results, etc). This file may be stored on electronic processing equipment and/or sent to a user's electronic device for the user to access (and store on their device if desired).

- También para que los resultados sean más fácilmente entendibles y visualizados por el usuario, se pueden presentar en forma de un mapa de color de los frutos identificados. En estos mapas, a través de una gradación de color para cada pixel, se representa visualmente una escala numérica de modo que, de un simple vistazo, es posible ver la magnitud de un parámetro dentro de una imagen. Así, los resultados se pueden acompañar del mapa de color resultante para la mejora de la comprensión de los resultados.- Also so that the results are more easily understood and visualized by the user, they can be presented in the form of a color map of the identified fruits. In these maps, through a color gradation for each pixel, a numerical scale is visually represented so that, at a glance, it is possible to see the magnitude of a parameter within an image. Thus, the results can be accompanied by the resulting color map to improve the understanding of the results.

Aunque muchas realizaciones de la presente invención se han referido a tomate y uva y a la medición (estimación) de ciertos parámetros, la presente invención es aplicable a cualquier otro tipo de frutos y parámetros.Although many embodiments of the present invention have referred to tomatoes and grapes and to the measurement (estimation) of certain parameters, the present invention is applicable to any other type of fruit and parameters.

En este texto, el término "comprende" y sus derivaciones (como "comprendiendo", etc.) no deben entenderse en un sentido excluyente, es decir, estos términos no deben interpretarse como excluyentes de la posibilidad de que lo que se describe y define pueda incluir más elementos, etapas, etc. In this text, the term "includes" and its derivations (such as "comprising", etc.) should not be understood in an exclusive sense, that is, these terms should not be interpreted as excluding the possibility that what is described and defined may include more elements, stages, etc.

Algunas realizaciones preferidas de la invención se describen en las reivindicaciones dependientes que se incluyen seguidamente.Some preferred embodiments of the invention are described in the dependent claims that follow.

Descrita suficientemente la naturaleza de la invención, así como la manera de realizarse en la práctica, hay que hacer constar la posibilidad de que sus diferentes partes podrán fabricarse en variedad de materiales, tamaños y formas, pudiendo igualmente introducirse en su constitución o procedimiento, aquellas variaciones que la práctica aconseje, siempre y cuando las mismas, no alteren el principio fundamental de la presente invención.Having sufficiently described the nature of the invention, as well as the manner in which it is carried out in practice, it must be stated that its different parts may be manufactured in a variety of materials, sizes and shapes, and those parts may also be included in its constitution or procedure. variations that practice advises, as long as they do not alter the fundamental principle of the present invention.

La descripción y los dibujos simplemente ilustran los principios de la invención. Por lo tanto, debe apreciarse que los expertos en la técnica podrán concebir varias disposiciones que, aunque no se hayan descrito o mostrado explícitamente en este documento, representan los principios de la invención y están incluidas dentro de su alcance. Además, todos los ejemplos descritos en este documento se proporcionan principalmente por motivos pedagógicos para ayudar al lector a entender los principios de la invención y los conceptos aportados por el (los) inventor(es) para mejorar la técnica, y deben considerarse como no limitativos con respecto a tales ejemplos y condiciones descritos de manera específica. Además, todo lo expuesto en este documento relacionado con los principios, aspectos y realizaciones de la invención, así como los ejemplos específicos de los mismos, abarcan equivalencias de los mismos.The description and drawings merely illustrate the principles of the invention. Therefore, it should be appreciated that various arrangements will be conceivable by those skilled in the art which, while not explicitly described or shown herein, represent the principles of the invention and are included within its scope. Furthermore, all the examples described in this document are provided primarily for educational purposes to help the reader understand the principles of the invention and the concepts provided by the inventor(s) to improve the art, and should be considered as non-limiting. with respect to such specifically described examples and conditions. In addition, everything set forth in this document related to the principles, aspects and embodiments of the invention, as well as the specific examples thereof, cover equivalents thereof.

Aunque la presente invención se ha descrito con referencia a realizaciones específicas, los expertos en la técnica deben entender que los anteriores y diversos otros cambios, omisiones y adiciones en la forma y el detalle de las mismas pueden realizarse sin apartarse del alcance de la invención tal como se definen mediante las reivindicaciones siguientes.Although the present invention has been described with reference to specific embodiments, it should be understood by those skilled in the art that the foregoing and various other changes, omissions, and additions in form and detail thereof may be made without departing from the scope of the invention as as defined by the following claims.

Definición de términos.Definition of terms.

Se definen aquí algunos términos usados, para mayor claridad de la descripción:Some terms used are defined here, for clarity of description:

Resolución espacial del sensor de la cámara: es el número de píxeles de que consta el sensor de la cámara, generalmente expresado por el producto de los píxeles de la línea horizontal por los de la línea vertical en un sensor rectangular.Spatial resolution of the camera sensor: it is the number of pixels that the camera sensor consists of, generally expressed by the product of the pixels of the horizontal line by those of the vertical line in a rectangular sensor.

Resolución espectral del sensor de la cámara: Es el número de longitudes de onda a que es sensible el sensor de la cámara dentro de un rango determinado. Spectral resolution of the camera sensor: It is the number of wavelengths to which the camera sensor is sensitive within a given range.

Distancia de trabajo: Rango de distancias en que la óptica de la cámara es capaz de enfocar correctamente la muestra. Working distance: Range of distances in which the camera optics is capable of correctly focusing the sample.

Claims (13)

REIVINDICACIONES 1. Método para la determinación de un grupo de características de frutos, donde el método comprende los siguientes pasos:1. Method for determining a group of fruit characteristics, where the method comprises the following steps: - Capturar, con luz natural, al menos una imagen hiperespectral de al menos una parte de una planta con frutos con una cámara en el terreno donde está plantada la planta; y donde en dicha imagen hiperespectral, se obtienen datos de reflectancia de los píxeles de la imagen a distintas longitudes de onda de un rango del espectro;- Capture, with natural light, at least one hyperspectral image of at least a part of a fruit-bearing plant with a camera on the ground where the plant is planted; and where in said hyperspectral image, reflectance data of the pixels of the image at different wavelengths of a range of the spectrum are obtained; donde el método comprende además los siguientes pasos realizados por un equipo electrónico de procesamiento:where the method further comprises the following steps performed by electronic processing equipment: - Recibir los datos de la imagen hiperespectral y a partir de ellos, seleccionar automáticamente aquellos píxeles pertenecientes a la imagen de al menos un fruto, aplicando un algoritmo de clasificación;- Receive the hyperspectral image data and from them, automatically select those pixels belonging to the image of at least one fruit, applying a classification algorithm; - Para cada una de las características del grupo, comparar los datos obtenidos de la imagen hiperespectral para cada uno de los píxeles seleccionados para cada longitud de onda del rango, con una firma espectral preestablecida que corresponde a dicha característica del al menos un fruto, donde la firma espectral de cada característica comprende un vector con el valor de reflectancia, para cada longitud de onda del rango, obtenido durante un proceso de entrenamiento previo, que corresponde a la presencia de una unidad de dicha característica en un fruto;- For each of the characteristics of the group, compare the data obtained from the hyperspectral image for each of the pixels selected for each wavelength of the range, with a pre-established spectral signature that corresponds to said characteristic of at least one fruit, where the spectral signature of each characteristic comprises a vector with the reflectance value, for each wavelength of the range, obtained during a previous training process, which corresponds to the presence of a unit of said characteristic in a fruit; - A partir de dicha comparación del paso anterior, determinar la cantidad de cada una de las características del grupo del al menos un fruto en cada uno de los pixeles seleccionados, a partir de la comparación del paso anterior;- From said comparison of the previous step, determining the amount of each one of the characteristics of the group of at least one fruit in each of the selected pixels, from the comparison of the previous step; donde para cada captura, con luz natural, se realiza una calibración midiendo el espectro de reflectancia de un material que se usa de referencia para las medidas de reflectancia; donde las características del grupo comprenden parámetros físico-químicos del al menos un fruto; ywhere for each capture, with natural light, a calibration is performed by measuring the reflectance spectrum of a material that is used as a reference for reflectance measurements; where the characteristics of the group comprise physical-chemical parameters of at least one fruit; Y donde la distancia a la que se coloca la cámara de la planta depende del tamaño del al menos un fruto y de la resolución espacial de la cámara. where the distance at which the camera is placed from the plant depends on the size of at least one fruit and the spatial resolution of the camera. 2. Método de acuerdo a la reivindicación 1 donde las características del grupo son características internas del al menos un fruto.2. Method according to claim 1, where the characteristics of the group are internal characteristics of at least one fruit. 3. Método de acuerdo a la reivindicación 1 donde el grupo de características comprende una o más de las siguientes: sólidos solubles, pH, firmeza, contenido en licopeno, grados BRIX, polifenoles o características externas relacionadas con el aspecto exterior del al menos un fruto.3. Method according to claim 1, where the group of characteristics comprises one or more of the following: soluble solids, pH, firmness, lycopene content, BRIX degrees, polyphenols or external characteristics related to the external appearance of at least one fruit . 4. Método de acuerdo a cualquiera de las reivindicaciones anteriores que además comprende:4. Method according to any of the preceding claims, further comprising: - presentar el equipo electrónico de procesamiento a un usuario, la cantidad determinada para cada pixel de cada una de las características y/o- present the electronic processing equipment to a user, the amount determined for each pixel of each of the characteristics and/or - el equipo electrónico enviar, mediante una red de comunicación, a un dispositivo electrónico del usuario la cantidad determinada para cada pixel de cada una de las características.- the electronic equipment send, through a communication network, to a user's electronic device the amount determined for each pixel of each of the characteristics. 5. Método de acuerdo a cualquiera de las reivindicaciones anteriores que, además comprende:5. Method according to any of the preceding claims, which also comprises: - realizar una reconstrucción en el espectro visible, de la imagen del al menos un fruto;- carry out a reconstruction in the visible spectrum of the image of the at least one fruit; - para cada característica, representar cada pixel de la imagen en un color dependiendo de la cantidad de dicha característica determinada para cada pixel.- for each feature, representing each pixel of the image in a color depending on the amount of said feature determined for each pixel. 6. Método de acuerdo a cualquiera de las reivindicaciones anteriores donde la distancia a la que se coloca la cámara de la planta depende además de al menos de uno o más de los siguientes parámetros: la tecnología óptica de la cámara y la iluminación.6. Method according to any of the preceding claims, where the distance at which the camera is placed from the plant also depends on at least one or more of the following parameters: the optical technology of the camera and the lighting. 7. Método de acuerdo a cualquiera de las reivindicaciones anteriores donde la imagen se captura cuando la luz natural incide aproximadamente a 45° respecto a la vertical.7. Method according to any of the preceding claims, where the image is captured when natural light strikes approximately 45° with respect to the vertical. 8. Método de acuerdo a cualquiera de las reivindicaciones anteriores donde el rango del espectro en el que se recogen datos de la imagen hiperespectral es un rango de longitudes de onda entre 400 y 1000 nm. 8. Method according to any of the preceding claims, where the spectrum range in which hyperspectral image data is collected is a range of wavelengths between 400 and 1000 nm. 9. Método de acuerdo a cualquiera de las reivindicaciones anteriores donde antes de la captura de la imagen se realiza una calibración de la cámara usando un elemento válido para la calibración colocado junto al objeto a capturar.9. Method according to any of the preceding claims, where before capturing the image, a calibration of the camera is performed using a valid element for calibration placed next to the object to be captured. 10. Método de acuerdo a cualquiera de las reivindicaciones anteriores donde la selección de los pixeles se realiza mediante métodos de aprendizaje automáticos.10. Method according to any of the preceding claims, where the selection of the pixels is carried out by means of automatic learning methods. 11. Método de acuerdo a cualquiera de las reivindicaciones anteriores donde el equipo electrónico y la cámara forman parte del mismo dispositivo o están separados y comunicados a través de una red de comunicación y en este segundo caso, el equipo electrónico recibe la imagen hiperespectral capturada a través de la red de comunicación.11. Method according to any of the preceding claims where the electronic equipment and the camera are part of the same device or are separated and communicated through a communication network and in this second case, the electronic equipment receives the hyperspectral image captured through through the communication network. 12. Sistema para la determinación de un grupo de características de frutos, donde el sistema comprende:12. System for determining a group of fruit characteristics, where the system comprises: - Una cámara configurada para capturar, con luz natural, al menos una imagen hiperespectral de al menos una parte de una planta con frutos, donde la cámara para capturar la imagen se sitúa en el terreno donde está plantada la planta y donde dicha imagen hiperespectral comprende datos de reflectancia de los píxeles de la imagen a distintas longitudes de onda de un rango del espectro;- A camera configured to capture, with natural light, at least one hyperspectral image of at least one part of a plant with fruits, where the camera to capture the image is located on the land where the plant is planted and where said hyperspectral image comprises reflectance data of the pixels of the image at different wavelengths of a range of the spectrum; - Al menos un equipo electrónico de procesamiento configurado para:- At least one electronic processing equipment configured to: - Recibir los datos de la imagen hiperespectral y a partir de los mismos, seleccionar automáticamente aquellos píxeles pertenecientes a la imagen de al menos un fruto, aplicando un algoritmo de clasificación;- Receive the data of the hyperspectral image and from them, automatically select those pixels belonging to the image of at least one fruit, applying a classification algorithm; - Para cada una de las características del grupo, comparar los datos obtenidos de la imagen hiperespectral para cada uno de los píxeles seleccionados para cada longitud de onda del rango, con una firma espectral preestablecida que define dicha característica del fruto, donde la firma espectral de cada característica comprende un vector con el valor de reflectancia, para cada longitud de onda del rango, obtenido durante un proceso de entrenamiento previo, que corresponde a la presencia de una unidad de dicha característica en un fruto;- For each of the characteristics of the group, compare the data obtained from the hyperspectral image for each of the pixels selected for each wavelength of the range, with a pre-established spectral signature that defines said characteristic of the fruit, where the spectral signature of each characteristic comprises a vector with the reflectance value, for each wavelength of the range, obtained during a previous training process, which corresponds to the presence of a unit of said characteristic in a fruit; - Determinar la cantidad de cada una de las características del grupo del al menos un fruto en cada uno de los pixeles seleccionados, a partir de dicha comparación;- Determine the amount of each of the characteristics of the group of at least one fruit in each of the selected pixels, from said comparison; donde para cada captura, con luz natural, se realiza una calibración midiendo el espectro de reflectancia de un material que se usa de referencia para las medidas de reflectancia; donde las características del grupo comprenden parámetros físico-químicos del al menos un fruto; ywhere for each capture, with natural light, a calibration is performed by measuring the reflectance spectrum of a material that is used as a reference for reflectance measurements; where the characteristics of the group comprise physical-chemical parameters of at least one fruit; Y donde la distancia a la que se coloca la cámara de la planta depende del tamaño del al menos un fruto y de la resolución espacial de la cámara.where the distance at which the camera is placed from the plant depends on the size of at least one fruit and the spatial resolution of the camera. 13. Programa de ordenador que comprende instrucciones ejecutables por ordenador para implementar el método según cualquiera de las reivindicaciones 1-11, al ejecutarse en un ordenador, un procesador digital de la señal, un circuito integrado específico de la aplicación, un microprocesador, un microcontrolador o cualquier otra forma de hardware programable. 13. Computer program comprising computer-executable instructions to implement the method according to any of claims 1-11, when executed in a computer, a digital signal processor, an application-specific integrated circuit, a microprocessor, a microcontroller or any other form of programmable hardware.
ES201930443A 2019-05-21 2019-05-21 Improved method and system for the determination of fruit characteristics using hyperspectral imaging Active ES2795499B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
ES201930443A ES2795499B2 (en) 2019-05-21 2019-05-21 Improved method and system for the determination of fruit characteristics using hyperspectral imaging

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
ES201930443A ES2795499B2 (en) 2019-05-21 2019-05-21 Improved method and system for the determination of fruit characteristics using hyperspectral imaging

Publications (2)

Publication Number Publication Date
ES2795499A1 ES2795499A1 (en) 2020-11-23
ES2795499B2 true ES2795499B2 (en) 2021-12-17

Family

ID=73451180

Family Applications (1)

Application Number Title Priority Date Filing Date
ES201930443A Active ES2795499B2 (en) 2019-05-21 2019-05-21 Improved method and system for the determination of fruit characteristics using hyperspectral imaging

Country Status (1)

Country Link
ES (1) ES2795499B2 (en)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10520482B2 (en) * 2012-06-01 2019-12-31 Agerpoint, Inc. Systems and methods for monitoring agricultural products
US10390497B2 (en) * 2013-03-07 2019-08-27 Blue River Technology, Inc. System and method for plant treatment
US10139279B2 (en) * 2015-05-12 2018-11-27 BioSensing Systems, LLC Apparatuses and methods for bio-sensing using unmanned aerial vehicles
EP3467702A1 (en) * 2017-10-04 2019-04-10 Kws Saat Se Method and system for performing data analysis for plant phenotyping

Also Published As

Publication number Publication date
ES2795499A1 (en) 2020-11-23

Similar Documents

Publication Publication Date Title
Zhou et al. Assessment for crop water stress with infrared thermal imagery in precision agriculture: A review and future prospects for deep learning applications
Virlet et al. Field Scanalyzer: An automated robotic field phenotyping platform for detailed crop monitoring
Tardaguila et al. Smart applications and digital technologies in viticulture: A review
Saberioon et al. Assessment of rice leaf chlorophyll content using visible bands at different growth stages at both the leaf and canopy scale
Lee et al. Estimation of rice growth and nitrogen nutrition status using color digital camera image analysis
McCarthy et al. Applied machine vision of plants: a review with implications for field deployment in automated farming operations
Usha et al. Potential applications of remote sensing in horticulture—A review
Narváez et al. LiDAR and thermal images fusion for ground-based 3D characterisation of fruit trees
Widjaja Putra et al. Enhanced broadband greenness in assessing Chlorophyll a and b, Carotenoid, and Nitrogen in Robusta coffee plantations using a digital camera
Gutiérrez et al. On‐the‐go hyperspectral imaging for the in‐field estimation of grape berry soluble solids and anthocyanin concentration
Whetton et al. Hyperspectral measurements of yellow rust and fusarium head blight in cereal crops: Part 1: Laboratory study
Borhan et al. Evaluation of computer imaging technique for predicting the SPAD readings in potato leaves
US20140168412A1 (en) Methods and systems for automated micro farming
Lee et al. Sensing systems for precision agriculture in Florida
KR102125780B1 (en) Applaratus for Monitoring Crop Growth through Multispectral Image Histogram Pattern Analysis of Plot Unit
JP2006250827A (en) Analytical method for growth condition of crop
US20180373937A1 (en) Methods and systems for automated micro farming
US20220307971A1 (en) Systems and methods for phenotyping
Moriya et al. Detection and mapping of trees infected with citrus gummosis using UAV hyperspectral data
Ali et al. Remotely sensed real-time quantification of biophysical and biochemical traits of Citrus (Citrus sinensis L.) fruit orchards–A review
Gowen et al. Hyperspectral imaging for the investigation of quality deterioration in sliced mushrooms (Agaricus bisporus) during storage
Ruett et al. Hyperspectral imaging for high-throughput vitality monitoring in ornamental plant production
Bourgeon et al. Field radiometric calibration of a multispectral on-the-go sensor dedicated to the characterization of vineyard foliage
Onoyama et al. Potential of hyperspectral imaging for constructing a year-invariant model to estimate the nitrogen content of rice plants at the panicle initiation stage
Yol et al. Traits for phenotyping

Legal Events

Date Code Title Description
BA2A Patent application published

Ref document number: 2795499

Country of ref document: ES

Kind code of ref document: A1

Effective date: 20201123

FG2A Definitive protection

Ref document number: 2795499

Country of ref document: ES

Kind code of ref document: B2

Effective date: 20211217