DE102019210405A1 - Method for the investigation of substances, computer program product for use in this method, and mobile electronic device - Google Patents
Method for the investigation of substances, computer program product for use in this method, and mobile electronic device Download PDFInfo
- Publication number
- DE102019210405A1 DE102019210405A1 DE102019210405.3A DE102019210405A DE102019210405A1 DE 102019210405 A1 DE102019210405 A1 DE 102019210405A1 DE 102019210405 A DE102019210405 A DE 102019210405A DE 102019210405 A1 DE102019210405 A1 DE 102019210405A1
- Authority
- DE
- Germany
- Prior art keywords
- substance
- test pattern
- image
- examined
- features
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 239000000126 substance Substances 0.000 title claims abstract description 174
- 238000000034 method Methods 0.000 title claims abstract description 82
- 238000004590 computer program Methods 0.000 title claims description 12
- 238000011835 investigation Methods 0.000 title claims description 6
- 238000012360 testing method Methods 0.000 claims abstract description 117
- 239000000203 mixture Substances 0.000 claims abstract description 47
- 230000001681 protective effect Effects 0.000 claims abstract description 36
- 238000001454 recorded image Methods 0.000 claims abstract description 13
- 238000011156 evaluation Methods 0.000 claims description 34
- 230000008859 change Effects 0.000 claims description 20
- 238000005457 optimization Methods 0.000 claims description 15
- 239000007788 liquid Substances 0.000 claims description 13
- 230000005670 electromagnetic radiation Effects 0.000 claims description 10
- 230000005855 radiation Effects 0.000 claims description 8
- 239000002904 solvent Substances 0.000 claims description 8
- 230000006870 function Effects 0.000 claims description 5
- 239000000499 gel Substances 0.000 claims description 5
- 239000000080 wetting agent Substances 0.000 claims description 4
- 238000000149 argon plasma sintering Methods 0.000 claims description 3
- 239000000975 dye Substances 0.000 claims description 3
- 239000003995 emulsifying agent Substances 0.000 claims description 3
- 239000007850 fluorescent dye Substances 0.000 claims description 3
- 230000004907 flux Effects 0.000 claims description 3
- 239000002529 flux (metallurgy) Substances 0.000 claims description 3
- 238000012804 iterative process Methods 0.000 claims description 3
- 239000000049 pigment Substances 0.000 claims description 3
- 239000000839 emulsion Substances 0.000 claims description 2
- 239000008258 liquid foam Substances 0.000 claims description 2
- 230000028327 secretion Effects 0.000 claims description 2
- 239000000243 solution Substances 0.000 claims description 2
- 239000000725 suspension Substances 0.000 claims description 2
- 230000007480 spreading Effects 0.000 claims 1
- 241000219739 Lens Species 0.000 description 50
- 238000005259 measurement Methods 0.000 description 36
- 238000000605 extraction Methods 0.000 description 13
- 239000010705 motor oil Substances 0.000 description 13
- 230000000694 effects Effects 0.000 description 12
- 239000003921 oil Substances 0.000 description 10
- 235000019198 oils Nutrition 0.000 description 10
- 230000003287 optical effect Effects 0.000 description 7
- 239000000523 sample Substances 0.000 description 7
- 210000002374 sebum Anatomy 0.000 description 7
- 230000008901 benefit Effects 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 6
- 239000013598 vector Substances 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000013178 mathematical model Methods 0.000 description 4
- 238000012706 support-vector machine Methods 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 210000004243 sweat Anatomy 0.000 description 3
- 230000009897 systematic effect Effects 0.000 description 3
- 230000007704 transition Effects 0.000 description 3
- 240000004322 Lens culinaris Species 0.000 description 2
- 239000008280 blood Substances 0.000 description 2
- 210000004369 blood Anatomy 0.000 description 2
- 239000008278 cosmetic cream Substances 0.000 description 2
- 230000004069 differentiation Effects 0.000 description 2
- 235000013305 food Nutrition 0.000 description 2
- 235000015203 fruit juice Nutrition 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 235000015122 lemonade Nutrition 0.000 description 2
- 235000013336 milk Nutrition 0.000 description 2
- 210000004080 milk Anatomy 0.000 description 2
- 239000008267 milk Substances 0.000 description 2
- 239000005445 natural material Substances 0.000 description 2
- 230000000737 periodic effect Effects 0.000 description 2
- 239000000047 product Substances 0.000 description 2
- 239000011347 resin Substances 0.000 description 2
- 229920005989 resin Polymers 0.000 description 2
- 230000003595 spectral effect Effects 0.000 description 2
- 238000004611 spectroscopical analysis Methods 0.000 description 2
- 235000015112 vegetable and seed oil Nutrition 0.000 description 2
- 239000008158 vegetable oil Substances 0.000 description 2
- BUHVIAUBTBOHAG-FOYDDCNASA-N (2r,3r,4s,5r)-2-[6-[[2-(3,5-dimethoxyphenyl)-2-(2-methylphenyl)ethyl]amino]purin-9-yl]-5-(hydroxymethyl)oxolane-3,4-diol Chemical compound COC1=CC(OC)=CC(C(CNC=2C=3N=CN(C=3N=CN=2)[C@H]2[C@@H]([C@H](O)[C@@H](CO)O2)O)C=2C(=CC=CC=2)C)=C1 BUHVIAUBTBOHAG-FOYDDCNASA-N 0.000 description 1
- 229920001817 Agar Polymers 0.000 description 1
- 241001295925 Gegenes Species 0.000 description 1
- 240000002853 Nelumbo nucifera Species 0.000 description 1
- 235000006508 Nelumbo nucifera Nutrition 0.000 description 1
- 235000006510 Nelumbo pentapetala Nutrition 0.000 description 1
- 238000005299 abrasion Methods 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000032683 aging Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 235000013361 beverage Nutrition 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000001010 compromised effect Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 239000002537 cosmetic Substances 0.000 description 1
- 238000002425 crystallisation Methods 0.000 description 1
- 230000008025 crystallization Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- ZINJLDJMHCUBIP-UHFFFAOYSA-N ethametsulfuron-methyl Chemical compound CCOC1=NC(NC)=NC(NC(=O)NS(=O)(=O)C=2C(=CC=CC=2)C(=O)OC)=N1 ZINJLDJMHCUBIP-UHFFFAOYSA-N 0.000 description 1
- 239000004744 fabric Substances 0.000 description 1
- 108010025899 gelatin film Proteins 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 239000004519 grease Substances 0.000 description 1
- 239000004615 ingredient Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 230000035699 permeability Effects 0.000 description 1
- 238000000053 physical method Methods 0.000 description 1
- 238000001303 quality assessment method Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 210000003296 saliva Anatomy 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 210000002023 somite Anatomy 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
- 238000005406 washing Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/59—Transmissivity
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/41—Refractivity; Phase-affecting properties, e.g. optical path length
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/47—Scattering, i.e. diffuse reflection
- G01N21/4788—Diffraction
Landscapes
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Investigating Or Analysing Materials By Optical Means (AREA)
Abstract
Die vorliegende Erfindung betrifft ein Verfahren zur Untersuchung von Substanzen. Im Verfahren werden ein mobiles elektronisches Gerät, welches eine Kamera mit einer Kameralinse aufweist, sowie ein Testmuster bereitgestellt. Die zu untersuchende Substanz (oder eine Mischung der zu untersuchenden Substanz mit mindestens einem Hilfsstoff) wird mit der Kameralinse oder mit einem auf oder vor der Kameralinse angeordneten Schutzelement in Kontakt gebracht, so dass sich ein Film der zu untersuchenden Substanz bzw. der Mischung auf der Kameralinse bzw. dem Schutzelement bildet. Mithilfe der Kamera wird ein Bild des Testmusters aufgenommen, während sich der Film der zu untersuchenden Substanz bzw. der Mischung auf der Kameralinse bzw. dem Schutzelement befindet, wobei das aufgenommene Bild des Testmusters eine zumindest teilweise verzerrte Darstellung des Testmusters zeigt, wobei sich zumindest ein Teil von Texturmerkmalen und/oder Bildmerkmalen der zumindest teilweise verzerrten Darstellung des Testmusters von den entsprechenden Texturmerkmalen und/oder Bildmerkmalen des ursprünglichen Testmusters unterscheidet. Nachdem zumindest ein Teil der sich unterscheidenden Texturmerkmale und/oder Bildmerkmale aus dem aufgenommenen Bild des Testmusters extrahiert wurde, erfolgt eine Auswertung der extrahierten Texturmerkmale und/oder Bildmerkmale.The present invention relates to a method for examining substances. In the method, a mobile electronic device, which has a camera with a camera lens, and a test pattern are provided. The substance to be examined (or a mixture of the substance to be examined with at least one auxiliary substance) is brought into contact with the camera lens or with a protective element arranged on or in front of the camera lens, so that a film of the substance to be examined or the mixture forms on the Forms camera lens or the protective element. With the help of the camera, an image of the test pattern is recorded while the film of the substance to be examined or the mixture is on the camera lens or the protective element, the recorded image of the test pattern showing an at least partially distorted representation of the test pattern, with at least one Part of texture features and / or image features of the at least partially distorted representation of the test pattern differs from the corresponding texture features and / or image features of the original test pattern. After at least some of the differing texture features and / or image features have been extracted from the recorded image of the test pattern, the extracted texture features and / or image features are evaluated.
Description
Die vorliegende Erfindung betrifft ein Verfahren zur Untersuchung von Substanzen. Im Verfahren werden ein mobiles elektronisches Gerät, welches eine Kamera mit einer Kameralinse aufweist, sowie ein Testmuster bereitgestellt. Die zu untersuchende Substanz (oder eine Mischung der zu untersuchenden Substanz mit mindestens einem Hilfsstoff) wird mit der Kameralinse oder mit einem auf oder vor der Kameralinse angeordneten Schutzelement in Kontakt gebracht, so dass sich ein Film der zu untersuchenden Substanz bzw. der Mischung auf der Kameralinse bzw. dem Schutzelement bildet. Mithilfe der Kamera wird ein Bild des Testmusters aufgenommen, während sich der Film der zu untersuchenden Substanz bzw. der Mischung auf der Kameralinse bzw. dem Schutzelement befindet, wobei das aufgenommene Bild des Testmusters eine zumindest teilweise verzerrte Darstellung des Testmusters zeigt, wobei sich zumindest ein Teil von Texturmerkmalen und/oder Bildmerkmalen der zumindest teilweise verzerrten Darstellung des Testmusters von den entsprechenden Texturmerkmalen und/oder Bildmerkmalen des ursprünglichen Testmusters unterscheidet. Nachdem zumindest ein Teil der sich unterscheidenden Texturmerkmale und/oder Bildmerkmale aus dem aufgenommenen Bild des Testmusters extrahiert wurde, erfolgt eine Auswertung der extrahierten Texturmerkmale und/oder Bildmerkmale.The present invention relates to a method for examining substances. In the method, a mobile electronic device, which has a camera with a camera lens, and a test pattern are provided. The substance to be examined (or a mixture of the substance to be examined with at least one auxiliary substance) is brought into contact with the camera lens or with a protective element arranged on or in front of the camera lens, so that a film of the substance to be examined or the mixture forms on the Forms camera lens or the protective element. With the help of the camera, an image of the test pattern is recorded while the film of the substance to be examined or the mixture is on the camera lens or the protective element, the recorded image of the test pattern showing an at least partially distorted representation of the test pattern, with at least one Part of texture features and / or image features of the at least partially distorted representation of the test pattern differs from the corresponding texture features and / or image features of the original test pattern. After at least some of the differing texture features and / or image features have been extracted from the recorded image of the test pattern, the extracted texture features and / or image features are evaluated.
Typischerweise werden qualitative und quantitative Analysen unbekannter chemischer Substanzen mit geeigneten nasschemischen Verfahren durchgeführt. Diese sind in der Regel nicht echtzeitfähig, mit hohen Investitions- und Betriebskosten verbunden und einem Konsumenten nicht leicht zugänglich. Häufig wird ein Teil oder die gesamte verfügbare Probe dabei verbraucht.Typically, qualitative and quantitative analyzes of unknown chemical substances are carried out using suitable wet chemical methods. These are usually not real-time capable, associated with high investment and operating costs and not easily accessible to a consumer. Often part or all of the available sample is used up.
Darüber hinaus gibt es spektraloptische Verfahren, die auf Basis von Spektroskopie derartige Analysen in Echtzeit und nicht-invasiv (ohne Verbrauchen der Probe) ermöglichen. Allerdings sind auch hier spezielle Geräte erforderlich, die ebenfalls mit hohen Investitions- und Betriebskosten verbunden und ebenfalls einem Konsumenten nicht leicht zugänglich sind.In addition, there are spectro-optical methods which, on the basis of spectroscopy, enable such analyzes in real time and non-invasively (without consuming the sample). However, special devices are also required here, which are also associated with high investment and operating costs and are likewise not easily accessible to a consumer.
Die Verwendung von Smartphones über reine Kommunikationsanwendungen hinaus zur Verwendung als Messgerät/Tester lässt die Bestimmung von Inhaltsstoffen preiswerter und generell konsumententauglich werden. In diesem Kontext gibt es bereits spektraloptische Verfahren, die jedoch durch das Erfordernis externer optischer, mechanischer oder elektronischer Komponenten eine breite Nutzung durch den Konsumenten stark einschränken. In der
Ausgehend hiervon war es die Aufgabe der vorliegenden Erfindung ein Verfahren zur Untersuchung von Substanzen anzugeben, mit welchem insbesondere flüssige oder gelartige Substanzen auf möglichst einfache und kostengünstige Weise untersucht werden können.On the basis of this, the object of the present invention was to provide a method for examining substances with which in particular liquid or gel-like substances can be examined in the simplest and most cost-effective way possible.
Diese Aufgabe wird bezüglich eines Verfahrens mit den Merkmalen des Patentanspruchs 1, bezüglich eines Computerprogrammprodukts mit den Merkmalen des Patentanspruchs 16 und bezüglich eines mobilen elektronischen Geräts mit den Merkmalen des Patentanspruchs 17 gelöst.This object is achieved with regard to a method with the features of patent claim 1, with regard to a computer program product with the features of patent claim 16 and with regard to a mobile electronic device with the features of patent claim 17.
Erfindungsgemäß wird somit ein Verfahren zur Untersuchung von Substanzen angegeben, bei welchem
- i) ein mobiles elektronisches Gerät bereitgestellt wird, welches eine Kamera mit einer Kameralinse aufweist,
- ii) ein Testmuster bereitgestellt wird,
- iii) eine zu untersuchende Substanz oder eine Mischung einer zu untersuchenden Substanz und mindestens eines Hilfsstoffs mit der Kameralinse oder mit einem auf oder vor der Kameralinse angeordneten Schutzelement in Kontakt gebracht wird, so dass sich ein Film der zu untersuchenden Substanz bzw. der Mischung auf der Kameralinse bzw. dem Schutzelement bildet,
- iv) mindestens ein Bild des Testmusters mithilfe der Kamera aufgenommen wird, während sich der Film der zu untersuchenden Substanz bzw. der Mischung auf der Kameralinse bzw. dem Schutzelement befindet, wobei das aufgenommene Bild des Testmusters eine zumindest teilweise verzerrte Darstellung des Testmusters zeigt, wobei sich zumindest ein Teil von Texturmerkmalen und/oder Bildmerkmalen der zumindest teilweise verzerrten Darstellung des Testmusters von den entsprechenden Texturmerkmalen und/oder Bildmerkmalen des ursprünglichen Testmusters unterscheidet,
- v) zumindest ein Teil der sich unterscheidenden Texturmerkmale und/oder Bildmerkmale aus dem aufgenommenen Bild des Testmusters extrahiert wird, und
- vi) eine Auswertung der extrahierten Texturmerkmale und/oder Bildmerkmale erfolgt.
- i) a mobile electronic device is provided which has a camera with a camera lens,
- ii) a test pattern is provided,
- iii) a substance to be investigated or a mixture of a substance to be investigated and at least one auxiliary substance is brought into contact with the camera lens or with a protective element arranged on or in front of the camera lens, so that a film of the substance to be investigated or the mixture is on the Camera lens or protective element,
- iv) at least one image of the test pattern is recorded with the aid of the camera while the film of the substance to be examined or the mixture is on the camera lens or the protective element, the recorded image of the test pattern showing an at least partially distorted representation of the test pattern, with at least some of the texture features and / or image features of the at least partially distorted representation of the test pattern differ from the corresponding texture features and / or image features of the original test pattern,
- v) at least some of the differing texture features and / or image features are extracted from the recorded image of the test pattern, and
- vi) the extracted texture features and / or image features are evaluated.
Mit dem erfindungsgemäßen Verfahren können insbesondere (zumindest teilweise) flüssige und/oder (zumindest teilweise) gelartige Substanzen untersucht werden. Es können sowohl künstlich hergestellte Substanzen (z.B. Motoröl, kosmetische Cremes, Limonade) als auch natürliche Substanzen (z.B. Blut, Hauttalg, Schweiß, Pflanzenöl, Baumharz, Fruchtsaft) untersucht werden. Das Verfahren eignet sich jedoch prinzipiell auch zur Untersuchung fester Substanzen. Diese können beispielsweise vor Schritt ii) mit einem Lösungsmittel als Hilfsstoff vermischt werden, so dass sich eine Mischung bildet, die als Film auf die Kameralinse bzw. das Schutzelement aufgebracht werden kann.With the method according to the invention, in particular (at least partially) liquid and / or (at least partially) gel-like substances can be examined. Both artificially produced substances (e.g. motor oil, cosmetic creams, lemonade) and natural substances (e.g. blood, sebum, sweat, vegetable oil, tree resin, fruit juice) can be examined. In principle, however, the method is also suitable for examining solid substances. These can for example be mixed with a solvent as an auxiliary substance before step ii) so that a mixture is formed which can be applied as a film to the camera lens or the protective element.
In Schritt i) wird zunächst ein mobiles elektronisches Gerät bereitgestellt, welches eine Kamera mit einer Kameralinse aufweist. Die Kamera des mobilen elektronischen Geräts ist zur Aufnahme von Bildern geeignet. Die Kamera des mobilen elektronischen Geräts ist vorzugsweise in ein Gehäuse des mobilen elektronischen Geräts integriert. Das mobile elektronische Gerät weist vorzugsweise einen Bildschirm zum Anzeigen von Bildern auf. Der Bildschirm kann in das Gehäuse des mobilen elektronischen Geräts integriert sein. Bei dem mobilen elektronischen Gerät kann es sich beispielsweise um ein Smartphone oder einen Tablet-Computer handeln. Auch die Verwendung eines mobilen elektronischen Kameraapparates, z.B. einer Digitalkamera, als mobiles elektronisches Gerät ist möglich.In step i), a mobile electronic device is first provided which has a camera with a camera lens. The camera of the mobile electronic device is suitable for taking pictures. The camera of the mobile electronic device is preferably integrated into a housing of the mobile electronic device. The mobile electronic device preferably has a screen for displaying images. The screen can be integrated into the housing of the mobile electronic device. The mobile electronic device can be, for example, a smartphone or a tablet computer. It is also possible to use a mobile electronic camera device, e.g. a digital camera, as a mobile electronic device.
In Schritt ii) wird ein Testmuster bereitgestellt. Das Testmuster wird hierbei so bereitgestellt, dass mithilfe der Kamera des mobilen elektronischen Geräts ein Bild bzw. Foto des Testmusters aufgenommen werden kann. Prinzipiell kann das Testmuster in jeglicher Form bereitgestellt werden, z.B. als Darstellung auf einem Bildschirm oder als Darstellung oder Aufdruck auf einem Untergrund, wie z.B. einem Blatt Papier.In step ii) a test pattern is provided. The test pattern is provided in such a way that an image or photo of the test pattern can be recorded with the aid of the camera of the mobile electronic device. In principle, the test pattern can be provided in any form, e.g. as a representation on a screen or as a representation or imprint on a surface, such as a sheet of paper.
Vorzugsweise ist das Testmuster auf die Untersuchung der zu untersuchenden Substanz abgestimmt. Das Testmuster kann beispielsweise dadurch auf die Untersuchung der zu untersuchenden Substanz abgestimmt sein, dass das Testmuster auf die zu untersuchende Substanz selbst oder auf mindestens eine (z.B. bekannte und/oder zuvor bestimmte) Eigenschaft der zu untersuchenden Substanz abgestimmt ist. Zusätzlich oder alternativ kann das Testmuster aber auch auf das in Schritt v) durchgeführte Extrahieren, die Methode des Extrahierens oder einen Teilschritt dieses Extrahierens, und/oder auf die in Schritt vi) durchgeführte Auswertung, die Methode dieser Auswertung, oder einen Teilschritt dieser Auswertung abgestimmt sein.The test pattern is preferably matched to the examination of the substance to be examined. The test pattern can, for example, be matched to the examination of the substance to be examined in that the test pattern is adapted to the substance to be examined itself or to at least one (e.g. known and / or previously determined) property of the substance to be examined. Additionally or alternatively, the test pattern can also be matched to the extraction performed in step v), the extraction method or a partial step of this extraction, and / or to the evaluation performed in step vi), the method of this evaluation, or a partial step of this evaluation be.
In Schritt iii) wird eine zu untersuchende Substanz (oder eine Mischung einer zu untersuchenden Substanz mit einem Hilfsstoff, z.B. mit einem Lösungsmittel) mit der Kameralinse oder mit einem auf oder vor der Kameralinse angeordneten Schutzelement in Kontakt gebracht wird. Hierdurch kann eine gewisse Menge der zu untersuchenden Substanz (bzw. der Mischung) in Form eines Films auf der Kameralinse bzw. dem Schutzelement verbleiben. Die Kameralinse bzw. das Schutzelement kann somit zumindest teilweise (oder auch vollständig) mit dem Film der zu untersuchenden Substanz (bzw. der Mischung) bedeckt sein. In der Folge passieren die bei Aufnahme eines Bildes bzw. Fotos mit der Kamera in die Kameralinse einfallenden Lichtstrahlen zunächst den Film der zu untersuchende Substanz (bzw. der Mischung), bevor sie in die Kameralinse gelangen. Hierbei werden die in die Kameralinse einfallenden Lichtstrahlen durch die zu untersuchende Substanz beeinflusst. Die zu untersuchende Substanz wirkt somit als eine Art optischer Filter.In step iii) a substance to be examined (or a mixture of a substance to be examined with an auxiliary substance, e.g. with a solvent) is brought into contact with the camera lens or with a protective element arranged on or in front of the camera lens. As a result, a certain amount of the substance (or the mixture) to be examined can remain in the form of a film on the camera lens or the protective element. The camera lens or the protective element can thus be covered at least partially (or also completely) with the film of the substance to be examined (or the mixture). As a result, the light rays that enter the camera lens when a picture or photo is taken with the camera first pass through the film of the substance to be examined (or the mixture) before they reach the camera lens. Here, the light rays falling into the camera lens are influenced by the substance to be examined. The substance to be examined thus acts as a kind of optical filter.
Der sich in Schritt iii) bildende Film der zu untersuchenden Substanz (bzw. der Mischung) weist vorzugsweise eine Transparenz von mindestens 10 %, bevorzugt mindestens 30 %, besonders bevorzugt mindestens 50 %, ganz besonders bevorzugt mindestens 70 %, für elektromagnetische Strahlung einer oder mehrere Wellenlängen im Wellenlängenbereich von 1 nm bis 100000 nm, bevorzugt elektromagnetische Strahlung einer oder mehrere Wellenlängen im Wellenlängenbereich von 10 nm bis 10000 nm, besonders bevorzugt für elektromagnetische Strahlung einer oder mehrere Wellenlängen im sichtbaren Wellenlängenbereich, im nahen UV-Bereich und im IR-Bereich, auf.The film of the substance to be examined (or the mixture) formed in step iii) preferably has a transparency of at least 10%, preferably at least 30%, particularly preferably at least 50%, very particularly preferably at least 70%, for electromagnetic radiation of one or more several wavelengths in the wavelength range from 1 nm to 100,000 nm, preferably electromagnetic radiation in one or more wavelengths in the wavelength range from 10 nm to 10,000 nm, particularly preferably for electromagnetic radiation in one or more wavelengths in the visible wavelength range, in the near UV range and in the IR range , on.
Unter dem Schutzelement wird ein Element verstanden, welches auf der Kameralinse bzw. vor der Kameralinse angebracht ist, um die Kameralinse vor äußeren Einflüssen zu schützen. Hierbei kann es sich beispielsweise um ein Schutzglas, eine Schutzscheibe oder eine Schutzfolie handeln. Das Schutzelement ist vorzugsweise zumindest teilweise durchlässig bzw. transparent für elektromagnetische Strahlung einer oder mehrere Wellenlängen im Wellenlängenbereich von 1 nm bis 100000 nm, vorzugsweise elektromagnetische Strahlung einer oder mehrere Wellenlängen im Wellenlängenbereich von 10 nm bis 10000 nm, besonders bevorzugt für elektromagnetische Strahlung einer oder mehrere Wellenlängen im sichtbaren Wellenlängenbereich, im nahen UV-Bereich und im IR-Bereich. Die genannte Durchlässigkeit bzw. Transparenz kann beispielsweise mindestens 50 %, vorzugsweise mindestens 70 %, besonders bevorzugt mindestens 90 %, betragen.The protective element is understood to mean an element which is attached to the camera lens or in front of the camera lens in order to protect the camera lens from external influences. This can be, for example, a protective glass, a protective pane or a protective film. The protective element is preferably at least partially permeable or transparent to electromagnetic radiation of one or more wavelengths in the wavelength range from 1 nm to 100,000 nm, preferably electromagnetic radiation of one or more wavelengths in the wavelength range from 10 nm to 10,000 nm, particularly preferably for electromagnetic radiation one or more Wavelengths in the visible wavelength range, in the near UV range and in the IR range. Said permeability or transparency can be, for example, at least 50%, preferably at least 70%, particularly preferably at least 90%.
Vorzugsweise kann die zu untersuchende Substanz (bzw. die Mischung mit dem mindestens einen Hilfsstoff) dadurch mit der Kameralinse oder dem Schutzelement in Kontakt gebracht werden, dass die Kameralinse bzw. das Schutzelement auf die zu untersuchende Substanz (bzw. die Mischung) aufgelegt wird oder dass die zu untersuchende Substanz (bzw. die Mischung) mit einem Tuch auf die Kameralinse bzw. das Schutzelement übertragen wird.The substance to be examined (or the mixture with the at least one auxiliary substance) can preferably be brought into contact with the camera lens or the protective element in that the camera lens or the protective element approaches the substance to be examined (or the mixture) is applied or the substance to be examined (or the mixture) is transferred to the camera lens or the protective element with a cloth.
In Schritt iv) wird dann mithilfe der Kamera des mobilen elektronischen Geräts mindestens ein Bild bzw. Foto des Testmusters aufgenommen, während sich der Film der zu untersuchenden Substanz (bzw. der Mischung) auf der Kameralinse bzw. dem Schutzelement befindet. Hierbei passieren die bei Aufnahme des Bildes bzw. Fotos mit der Kamera in die Kameralinse einfallenden Lichtstrahlen zunächst den (auf der Kameralinse bzw. dem Schutzelement befindlichen) Film der untersuchenden Substanz (bzw. der Mischung), bevor sie in die Kameralinse gelangen und werden dabei durch die zu untersuchende Substanz beeinflusst, z.B. zumindest teilweise abgelenkt, beispielsweise durch Brechung und/oder Beugung (Diffraktion) an der zu untersuchenden Substanz. Die zu untersuchende Substanz wirkt hierbei letztlich als eine Art optischer Filter. Durch diese Beeinflussung zeigt das aufgenommen Bild bzw. Foto des Testmusters eine zumindest teilweise verzerrte Darstellung des ursprünglichen (d.h. ursprünglich in Schritt ii) bereitgestellten) Testmusters. Hierbei unterscheidet sich zumindest ein Teil von Texturmerkmalen und/oder Bildmerkmalen der zumindest teilweise verzerrten Darstellung des Testmusters von den entsprechenden Texturmerkmalen und/oder Bildmerkmalen des ursprünglichen (d.h. ursprünglich in Schritt ii) bereitgestellten) Testmusters. Dies bedeutet, dass die Texturmerkmale und/oder Bildmerkmale der auf dem aufgenommenen Bild gezeigten Darstellung des Musters teilweise verschoben sind und/oder anders aussehen und/oder anders zueinander angeordnet sind als die entsprechenden Texturmerkmale und/oder Bildmerkmale des originalen/ursprünglichen Testmusters.In step iv), at least one image or photo of the test pattern is then recorded with the aid of the camera of the mobile electronic device while the film of the substance to be examined (or the mixture) is on the camera lens or the protective element. The light rays entering the camera lens when the image or photo is taken first pass the film of the substance to be examined (or the mixture) (located on the camera lens or the protective element) before they reach the camera lens and are thereby influenced by the substance to be examined, for example at least partially deflected, for example by refraction and / or diffraction (diffraction) on the substance to be examined. The substance to be examined ultimately acts as a type of optical filter. As a result of this influencing, the recorded image or photo of the test pattern shows an at least partially distorted representation of the original (i.e. originally provided in step ii)) test pattern. Here, at least some of the texture features and / or image features of the at least partially distorted representation of the test pattern differ from the corresponding texture features and / or image features of the original (i.e. originally provided in step ii)) test pattern. This means that the texture features and / or image features of the representation of the pattern shown on the recorded image are partially shifted and / or look different and / or are arranged differently to one another than the corresponding texture features and / or image features of the original test pattern.
Bei Texturmerkmalen und/oder Bildmerkmalen kann es dabei beispielsweise um bestimmte Elemente des Musters handeln, wie z.B. Verlauf und/oder Länge bestimmter Linien des Musters; Verlauf und/oder Länge bestimmter Grenzen oder Kanten bestimmter Flächen oder Abschnitte des Musters; Abstand und/oder Position bestimmter Punkte des Musters zueinander oder zu bestimmten Linien oder Flächen des Musters; Form bestimmter Flächen des Musters; Schnittpunkte bestimmter Linien des Musters; Symmetrie des Musters oder bestimmter Abschnitte des Musters; Verlauf und/oder Position von Symmetrieachsen des Musters; Position von Symmetriepunkten des Musters.Texture features and / or image features can, for example, be certain elements of the pattern, such as the course and / or length of certain lines of the pattern; Course and / or length of certain borders or edges of certain areas or sections of the pattern; Distance and / or position of certain points of the pattern to one another or to certain lines or areas of the pattern; Shape of certain areas of the pattern; Intersections of certain lines of the pattern; Symmetry of the pattern or certain sections of the pattern; Course and / or position of axes of symmetry of the pattern; Position of symmetry points of the pattern.
In Schritt v) wird dann zumindest ein Teil der sich unterscheidenden Texturmerkmale und/oder Bildmerkmale - d.h. der Texturmerkmale und/oder Bildmerkmale der zumindest teilweise verzerrten Darstellung des Testmusters, die sich von den entsprechenden Texturmerkmalen und/oder Bildmerkmalen des ursprünglichen Testmusters unterscheiden - aus dem aufgenommenen Bild des Testmusters extrahiert. Dieses Extrahieren kann beispielsweise mithilfe einer Software erfolgen, z.B. einem auf dem mobilen elektronischen Gerät installierten Computerprogrammprodukt. Vor dem Extrahieren können die sich unterscheidenden Texturmerkmale und/oder Bildmerkmale zunächst bestimmt bzw. identifiziert werden, beispielsweise durch einen Vergleich des aufgenommenen Bildes mit dem ursprünglichen Testmuster (oder mit einem zusätzlich aufgenommenen Referenzbild). Auch dieses Bestimmen bzw. Identifizieren kann z.B. mithilfe der genannten Software erfolgen. Vorzugsweise werden solche Merkmale extrahiert, die sich deutlich in Abhängigkeit der durch die zu untersuchende Substanz verursachten Beeinflussung ändern. Als Nachweis erfolgt vorzugsweise die Berechnung der Änderung der Distanz von Merkmalshistogrammen (zwischen Messung einer Referenz - d.h. ohne Substanz - und Messung mit Substanz) oder im Falle einer punktförmigen Beleuchtung der Punktspreizfunktion (Point-Spread-Function). Eine deutliche Änderung ist beispielsweise dann gegeben, wenn in bestimmten Frequenzanteilen des aufgenommenen Bildes Artefakte (z.B. Verschiebungen von Punkten) auftreten, die genau durch die optischen Eigenschaften der als optischer Filter zu messenden Substanz hervorgerufen werden. Wenn bei der Messung ausschließlich Umgebungslicht verwendet wird, welches typischerweise recht homogen ist, existieren sehr viele Bildpunkte, die über ein Histogramm aggregiert werden können. Hiervon kann der Fall der punktförmigen Beleuchtung (z.B. durch Blitzlicht) unterschieden werden, bei welchem eine Punktspreizfunktion verwendet werden kann.In step v) at least some of the differing texture features and / or image features - ie the texture features and / or image features of the at least partially distorted representation of the test pattern that differ from the corresponding texture features and / or image features of the original test pattern - are removed from the extracted image of the test pattern. This extraction can take place, for example, with the aid of software, for example a computer program product installed on the mobile electronic device. Before the extraction, the differing texture features and / or image features can first be determined or identified, for example by comparing the recorded image with the original test pattern (or with an additionally recorded reference image). This determination or identification can also take place, for example, using the software mentioned. Such features are preferably extracted which change significantly as a function of the influence caused by the substance to be examined. As evidence, the change in the distance of feature histograms is preferably calculated (between measurement of a reference - i.e. without substance - and measurement with substance) or, in the case of point illumination, the point spread function. A significant change occurs, for example, when artifacts (e.g. displacements of points) occur in certain frequency components of the recorded image, which are caused precisely by the optical properties of the substance to be measured as an optical filter. If only ambient light is used for the measurement, which is typically quite homogeneous, there are a large number of pixels that can be aggregated via a histogram. This can be distinguished from the case of point lighting (e.g. by flash light), in which a point spread function can be used.
Besonders bevorzugte Bildfilter/Merkmale sind die Klasse der Texturmerkmale. Bei der bevorzugten Verwendung mehrerer Texturmerkmale können diese als aggregierter Merkmalsvektor zusammengestellt und vom nachfolgenden Algorithmus bewertet werden. Als Ergänzung können z.B. weitere Merkmalsfilter und Farbhistogramme explizit bzw. durch im Rahmen von maschinellem Lernen, insbesondere Deep Learning, implizit erlangte Filtermasken, z.B. als Schichten in Convolutional Neural Networks verwendet werden.Particularly preferred image filters / features are the class of texture features. If several texture features are preferably used, these can be compiled as an aggregated feature vector and evaluated by the following algorithm. As a supplement, e.g. further feature filters and color histograms can be used explicitly or through filter masks that are implicitly obtained in the context of machine learning, especially deep learning, e.g. as layers in convolutional neural networks.
Vorzugsweise ist das in Schritt v) erfolgende Extrahieren der Texturmerkmale und/oder Bildmerkmale auf die Untersuchung der zu untersuchenden Substanz abgestimmt. Beispielsweise werden hierbei solche Texturmerkmale und/oder Bildmerkmale extrahiert, die in der anschließenden Auswertung einen (besonders genauen) Rückschluss auf die zu untersuchende Substanz bezüglich einer speziellen Anwendung zulassen. Es ist somit bevorzugt, dass die in Schritt v) extrahierten Texturmerkmale und/oder Bildmerkmale auf die Untersuchung der zu untersuchenden Substanz abgestimmt sind.The extraction of the texture features taking place in step v) is preferably and / or Image features matched to the investigation of the substance to be investigated. For example, texture features and / or image features are extracted that allow a (particularly precise) conclusion about the substance to be examined with regard to a specific application in the subsequent evaluation. It is therefore preferred that the texture features and / or image features extracted in step v) are matched to the examination of the substance to be examined.
In Schritt vi) erfolgt schließlich eine Auswertung der in Schritt v) extrahierten Texturmerkmale und/oder Bildmerkmale. Hierbei können anhand der extrahierten Texturmerkmale und/oder Bildmerkmale Rückschlüsse auf die zu untersuchende Substanz (z.B. auf ihre Qualität, auf eine oder mehrere ihrer Eigenschaften, auf ihre Zugehörigkeit zu einer bestimmten Substanzart bzw. Substanzklasse, auf ihre Echtheit und/oder auf ihre chemische Zusammensetzung) getroffen werden. In der Auswertung kann beispielsweise die Änderung bestimmter Texturmerkmale und/oder Bildmerkmale vom ursprünglichen Testmuster (oder einem Referenzbild) zum auf dem bei Anwesenheit der Substanz bzw. der Mischung aufgenommenen Bild bestimmt werden. Zum Beispiel könnte die Änderung eine Länge oder eines Verlaufs einer bestimmten Linie oder die Änderung der Position eines bestimmten Punktes oder zweier bestimmter Punkte zueinander bestimmt werden. Hierbei können z.B. auch Merkmalsvektoren bestimmt werden. Aus der bestimmten Änderung der Texturmerkmale und/oder Bildmerkmale können dann die genannten Rückschlüsse auf die zu untersuchende Substanz getroffen werden, z.B. durch Abgleich mit spezifischen Werten aus einer Datenbank oder durch Abgleich mit in vorherigen Messungen ermittelten Werten. Anstelle von Relativwerten können auch (z.B. ohne Verwendung einer Referenz) Absolutwerte bestimmt werden, welche dann mit spezifischen Werten aus einer Datenbank oder durch Abgleich mit in vorherigen Messungen ermittelten Werten verglichen werden. Die Auswertung in Schritt vi) kann beispielsweise mithilfe einer Software erfolgen, z.B. einem auf dem mobilen elektronischen Gerät installierten Com puterprogra m m produ kt.Finally, in step vi) the texture features and / or image features extracted in step v) are evaluated. Here, based on the extracted texture features and / or image features, conclusions can be drawn about the substance to be examined (e.g. its quality, one or more of its properties, its belonging to a certain type of substance or substance class, its authenticity and / or its chemical composition ) to be hit. In the evaluation, for example, the change in certain texture features and / or image features from the original test pattern (or a reference image) to the image recorded in the presence of the substance or the mixture can be determined. For example, the change in a length or a course of a specific line or the change in the position of a specific point or two specific points relative to one another could be determined. For example, feature vectors can also be determined here. From the specific change in the texture features and / or image features, the above-mentioned conclusions can then be made about the substance to be examined, e.g. by comparison with specific values from a database or by comparison with values determined in previous measurements. Instead of relative values, absolute values can also be determined (e.g. without using a reference), which are then compared with specific values from a database or by comparison with values determined in previous measurements. The evaluation in step vi) can take place, for example, with the aid of software, e.g. a computer program m product installed on the mobile electronic device.
Vorzugsweise ist die in Schritt vi) durchgeführte Auswertung auf die Untersuchung der zu untersuchenden Substanz abgestimmt.The evaluation carried out in step vi) is preferably matched to the examination of the substance to be examined.
In einer ganz besonders bevorzugten Variante des erfindungsgemäßen Verfahrens sind
- - das in Schritt ii) bereitgestellte Testmuster, und/oder
- - die in Schritt v) extrahierten Texturmerkmale und/oder Bildmerkmale, und/oder
- - die in Schritt vi) durchgeführte Auswertung
- - the test pattern provided in step ii), and / or
- the texture features and / or image features extracted in step v), and / or
- - The evaluation carried out in step vi)
Die Abstimmung bzw. Optimierung der genannten Merkmale - d.h. des bereitgestellten Testmusters und/oder der in Schritt v) extrahierten Texturmerkmale/Bildmerkmale und/oder der Auswertung in Schritt vi) - auf die Untersuchung der zu untersuchenden Substanz kann durch eine mathematische Modellierung erfolgen, bei der vorzugsweise mehrere Schritte iterativ durchlaufen werden. Besonders bevorzugt werden hierbei zunächst eine oder mehrere Messungen mit einer Substanz hinsichtlich einer gewünschten Anwendung an einem oder mehreren Testmustern durchgeführt, anschließend ein mehrere für die Anwendung geeignete Testmuster ausgewählt, daraufhin mehrere Texturmerkmale und/oder Bildmerkmale des/der Testmuster hinsichtlich ihrer Eignung bei der Verwendung in der gewünschten Anwendung untersucht und geeignete davon ausgewählt, anschließend Kombinationen bestimmter (zuvor ausgewählter) Testmuster und Texturmerkmale/Bildmerkmale ermittelt, deren Verwendung bei einer Messung der Substanz und anschließender Auswertung eine signifikante Aussage hinsichtlich der gewünschten Anwendung ermöglichen, wobei die verwendeten Auswertungsschritte hier an die spezifische Kombination von Testmuster und Texturmerkmalen/Bildmerkmalen angepasst bzw. optimiert werden können, um ein möglichst aussagekräftiges Ergebnis zu erhalten, und schließlich eine Festlegung auf eine für die gewünschte Anwendung besonders geeignete spezifische Kombination aus Testmuster, extrahierten Texturmerkmalen/Bildmerkmalen und Auswertung bzw. Auswertungsschritten durchgeführt.The coordination or optimization of the features mentioned - ie the test pattern provided and / or the texture features / image features extracted in step v) and / or the evaluation in step vi) - to the examination of the substance to be examined can take place by means of mathematical modeling which preferably several steps are run through iteratively. Particularly preferably, one or more measurements are first carried out with a substance with regard to a desired application on one or more test patterns, then a plurality of test patterns suitable for the application are selected, then several texture features and / or image features of the test pattern (s) with regard to their suitability for use investigated in the desired application and selected suitable ones, then combinations of certain (previously selected) test patterns and texture features / image features are determined, their use in a measurement of the substance and subsequent evaluation enable a significant statement regarding the desired application, the evaluation steps used here to the specific combination of test pattern and texture features / image features can be adapted or optimized in order to obtain a result that is as meaningful as possible, and finally a determination of one for the desired one Application particularly suitable specific combination of test pattern, extracted texture features / image features and evaluation or evaluation steps carried out.
Beispielsweise können bei der Abstimmung bzw. Optimierung der genannten Merkmale - d.h. des bereitgestellten Testmuster und/oder der in Schritt v) extrahierten Texturmerkmale/Bildmerkmale und/oder der Auswertung in Schritt vi) - die folgenden Schritte durchgeführt werden:
- 1. Erfassung von Messdaten in einer Problemdomain per systematischem Experiment oder systematischen Experimenten,
- 2. Festlegung möglicher Testmuster (z.B. Unterscheidung, ob Druck oder leuchtendes Muster, je nachdem was in der Applikation realisiert werden kann),
- 3. Systematische Anwendung von Bildfiltern (d.h. Texturmerkmalen und/oder Bildmerkmalen) sowie Vergleich mit Referenzbild oder (z.B. intern auf dem Gerät abgespeicherter) ursprünglicher Darstellung des Musters,
- 4. Anlernen eines Detektionssystems auf vorhandenen Kombinationen von Testmuster und Bildfiltern (d.h. Texturmerkmalen und/oder Bildmerkmalen),
- 5. Ermittlung einer entscheidungsrelevanten Kombination aus Bildfilter (d.h. Texturmerkmalen und/oder Bildmerkmalen) und Testmuster,
- 6. Festlegung des Testmusters und der Bildfilter (d.h. Texturmerkmale und/oder Bildmerkmale) für die konkrete Realisierung der Technologie für die Problemdomaine,
- 7. optional: Optimierung und weitere Validierung an erweiterter Datenmenge
- 1. Acquisition of measurement data in a problem domain by means of systematic experiment or systematic experiments,
- 2. Definition of possible test patterns (e.g. differentiation, whether print or luminous pattern, depending on what can be implemented in the application),
- 3. Systematic application of image filters (i.e. texture features and / or image features) as well as comparison with reference image or (e.g. internally stored on the device) original representation of the pattern,
- 4. Learning of a detection system on existing combinations of test patterns and image filters (i.e. texture features and / or image features),
- 5. Determination of a decision-relevant combination of image filter (i.e. texture features and / or image features) and test pattern,
- 6. Determination of the test pattern and the image filters (i.e. texture features and / or image features) for the concrete implementation of the technology for the problem domain,
- 7. optional: Optimization and further validation on an extended amount of data
Die Punkte 3, 4 und 5 können iterativ mehrfach durchlaufen werden und stellen die eigentliche Optimierung der Testmuster und Bildfilter (d.h. Texturmerkmale und/oder Bildmerkmale) vor dem Hintergrund der konkreten Anwendung dar. Eine solche Optimierung kann auch innerhalb der Auswertung in Schritt vi) des erfindungsgemäßen Verfahrens erfolgen. Hierbei können z.B. die extrahierten Strukturmerkmale und/oder Bildmerkmale auf das Testmuster und/oder die zu untersuchende Substanz optimiert werden.Points 3, 4 and 5 can be iteratively run through several times and represent the actual optimization of the test pattern and image filter (ie texture features and / or image features) against the background of the specific application. Such an optimization can also be performed within the evaluation in step vi) of the method according to the invention take place. For example, the extracted structural features and / or image features can be optimized for the test pattern and / or the substance to be examined.
Zu Merkmalserfassung können beispielsweise eine oder mehrere der folgenden Bildfilteroperationen verwendet werden:
- 1) Bildoperation zur Bewertung der globalen Bildentropie,
- 2) Bildoperation zur Bewertung der globalen Weichzeichnung (eng. Bluriness) im Bild,
- 3) Bildoperation zur Bewertung des Mittelwertes, der Standardabweichung und des Kontrastes eines lokalen Bildausschnittes,
- 4) Bildoperation zur Bewertung der Orientierung und Stärke von Bildkanten (schwarz-weiß Übergänge) mittels, z.B. Gaborfilter,
- 5) Bildoperation zur Errechnung einer 2D Fourier Transformation zur Bewertung von periodischen Mustern im Bild.
- 1) image operation to evaluate the global image entropy,
- 2) image operation to evaluate the global bluriness in the image,
- 3) Image operation to evaluate the mean value, standard deviation and contrast of a local image section,
- 4) Image operation to evaluate the orientation and strength of image edges (black-white transitions) by means of, e.g. Gabor filters,
- 5) Image operation to calculate a 2D Fourier transformation for evaluating periodic patterns in the image.
Jedes Bild der problemspezifischen Datenbasis kann mit allen oder einem Teil der genannten Bildoperatoren gefiltert werden. Zur letztendlichen Merkmalsextraktion können die erlangten Bildmerkmale als Absolutwerte, als Relativwerte zu einer vor-Ort Aufnahme des Testmusters mit sauberer Linse, als Relativwerte zu einer intern hinterlegten Aufnahme des Testmusters bei sauberer Linse Verwendung finden. Möglichkeiten eines relativen Vergleiches sind z.B. die Berechnung der pixelweisen Abweichung von Mess- zu Referenzbild mittels mittleren quadratischen Fehlers (MSER) oder der Berechnung der Distanz der Histogramme, gebildet auf dem Mess- sowie dem Referenzbild (beispielsweise Kullback-Leibler Divergenz, Chi-Squared Divergenz).Each image in the problem-specific database can be filtered with all or some of the image operators mentioned. For the ultimate feature extraction, the image features obtained can be used as absolute values, as relative values for an on-site recording of the test pattern with a clean lens, as relative values for an internally stored recording of the test pattern with a clean lens. Possibilities for a relative comparison are, for example, the calculation of the pixel-by-pixel deviation from the measurement image to the reference image using the mean square error (MSER) or the calculation of the distance of the histograms, formed on the measurement image and the reference image (e.g. Kullback-Leibler divergence, Chi-Squared divergence ).
Beispielsweise können die Parameter eines mathematischen Models mittels eines Lernalgorithmus in der Art adaptiert werden, das der Fehler bei der Vorhersage der Klasse basierend auf dem Merkmalsvektor minimal wird. Hierbei können mehrere Verfahren, z.B. Künstliche Neuronale Netze (KNN), Support Vector Machines (SVM) oder Partial Least Squares (PLS) Modelle auf ihre Tauglichkeit getestet und anhand eines Performanz-Kriteriums ausgewählt werden. Zur Auffindung der optimalen Kombination von Testmuster und Merkmalsextraktion kann anhand der internen Wichtung der Merkmale im mathematischen Modell eine problemspezifische Ordnung der Wichtigkeit der Merkmale vorgenommen werden. Anschließend kann die Modellerstellung systematisch wiederholt werden, wobei sukzessive Merkmale in Reihenfolge ihrer Wichtigkeit zum Eingang des Modells hinzugefügt werden. Dieser Vorgang kann so lange durchgeführt werden, bis eine äquivalente Performanz verglichen mit dem System basierend auf allen Merkmalen erreicht ist. Aus dieser Betrachtung ergibt sich dann eine applikationsspezifische Kombination von Merkmal und Testmuster für die jeweilige Aufgabe.For example, the parameters of a mathematical model can be adapted by means of a learning algorithm in such a way that the error in the prediction of the class based on the feature vector becomes minimal. Several methods, e.g. Artificial Neural Networks (ANN), Support Vector Machines (SVM) or Partial Least Squares (PLS) models can be tested for their suitability and selected based on a performance criterion. In order to find the optimal combination of test pattern and feature extraction, a problem-specific ordering of the importance of the features can be carried out using the internal weighting of the features in the mathematical model. The model creation can then be repeated systematically, with successive features being added to the input of the model in order of their importance. This process can be carried out until an equivalent performance compared to the system based on all features is achieved. This consideration then results in an application-specific combination of feature and test pattern for the respective task.
Mit dem erfindungsgemäßen Verfahren können somit einerseits Substanzen untersucht werden, andererseits kann aber auch die Untersuchung von Substanzen, d.h. das Verfahren an sich, hinsichtlich einer bestimmten Anwendung optimiert werden. Beispielsweise kann das Verfahren zunächst mit einer bekannten Substanz oder mehreren bekannten Substanzen durchgeführt werden. Hierbei kann innerhalb der Auswertung eine Optimierung des Verfahrens auf die bekannte(n) Substanz(en) (oder z.B. auf die Bestimmung einer bestimmten Eigenschaft der Substanzen oder die Qualität der Substanz) vorgenommen werden. Bei dieser Optimierung kann beispielsweise ein bestimmtes Testmuster ermittelt werden, welches besonders für die gewünschte Untersuchung dieser Substanz(en) eignet, und/oder es können bestimmte Texturmerkmale und/oder Bildmerkmale bestimmt werden, die sich besonders für die gewünschte Untersuchung dieser Substanz(en) eignen. Zudem können bei dieser Optimierung auch bestimmte Änderungen von Texturmerkmalen und/oder Bildmerkmalen ermittelt werden, die auf bestimmte Eigenschaften der Substanz hinweisen oder andere Rückschlüsse auf die Substanz ermöglichen. Das auf diese Weise optimierte Verfahren kann dann zur Detektion der Substanz(en) bzw. zur Untersuchung der Substanz(en), z.B. hinsichtlich ihrer Qualität oder bestimmter Eigenschaften, eingesetzt werden.With the method according to the invention, on the one hand, substances can be examined, on the other hand, the examination of substances, ie the method itself, can also be optimized with regard to a specific application. For example, the method can first be carried out with one known substance or several known substances. Here, within the evaluation, the method can be optimized for the known substance (s) (or, for example, for determining a certain property of the substances or the quality of the substance). With this optimization, for example, a certain test pattern can be determined which is particularly suitable for the desired examination of this substance (s), and / or certain texture features and / or image features can be determined which are particularly suitable for the desired examination of this substance (s). suitable. In addition, certain changes in texture features and / or image features can also be determined in this optimization, which indicate certain properties of the substance or allow other conclusions to be drawn about the substance. The method optimized in this way can then be used to detect the substance (s) or to examine the substance (s), for example with regard to their quality or certain properties.
Im erfindungsgemäßen Verfahren wird die zu untersuchende Substanz nicht spektral analysiert, sondern anhand ihrer Wirkung als optischer Filter, d.h. anhand der durch die zu untersuchende Substanz verursachten Brechung/Beugung (Diffraktion), die als Transmission gemessen werden kann, analysiert. Das physikalische Messprinzip ist damit geometrisch und nicht spektral, und somit weitestgehend unabhängig von schwer steuerbaren Eigenschaften der Beleuchtung und des Umgebungslichtes. Das Messprinzip beruht auf grundlegenden physikalischen Entdeckungen, u.a. der von Christiaan Huygens um 1650 formulierten Wellenoptik, dem Huygens-Fresnelschen Prinzip, dem Kirchhoffschen Beugungsintegral mit dessen zwei Grenzfällen der Fresnel-Beugung (divergierende Punktstrahlungsquelle) und der Fraunhofer-Beugung (parallele Lichtstrahlen als Strahlungsquelle).In the method according to the invention, the substance to be examined is not analyzed spectrally, but based on its effect as an optical filter, i.e. based on the refraction / diffraction (diffraction) caused by the substance to be examined, which can be measured as transmission. The physical measuring principle is thus geometrical and not spectral, and therefore largely independent of difficult-to-control properties of the lighting and the ambient light. The measuring principle is based on fundamental physical discoveries, including the wave optics formulated by Christiaan Huygens around 1650, the Huygens-Fresnel principle, the Kirchhoff diffraction integral with its two borderline cases of Fresnel diffraction (diverging point radiation source) and Fraunhofer diffraction (parallel light rays as radiation source) .
Mit dem erfindungsgemäßen Verfahren wird jedoch ein anwendungstaugliches Messverfahren bereitgestellt, welches über die reine Demonstration eines physikalischen Messeffekts hinausgeht. So wird nicht lediglich ein einfacher Bildvergleich zwischen der originalen Darstellung eines beliebigen Musters und einer verzerrten Darstellung des Musters, welche durch Abfotografieren des Musters durch eine mit der zu untersuchenden Substanz versehenen Linse entstanden ist, vorgenommen. Stattdessen wird ein vorzugsweise auf die Untersuchung der zu untersuchenden Substanz abgestimmtes Testmuster verwendet und es erfolgt ein Extrahieren bestimmter Texturmerkmale und deren Auswertung. Auf diese Weise ist es möglich bestimmte Rückschlüsse auf die zu untersuchende Substanz zu treffen.With the method according to the invention, however, an application-suitable measurement method is provided which goes beyond the pure demonstration of a physical measurement effect. Thus, not only is a simple image comparison made between the original representation of any pattern and a distorted representation of the pattern, which was created by photographing the pattern through a lens provided with the substance to be examined. Instead, a test pattern that is preferably matched to the examination of the substance to be examined is used, and certain texture features are extracted and evaluated. In this way it is possible to draw certain conclusions about the substance to be examined.
Da als mobiles elektronisches Gerät beispielsweise ein Smartphone oder ein Tablet-Computer verwendet werden kann, ist zur Durchführung des erfindungsgemäßen Verfahrens keine spezielle Hardware, wie z.B. ein externer Sensor, nötig. Zudem ist das erfindungsgemäße Verfahren weitestgehend unabhängig von der Beleuchtung und bestehendem Umgebungslicht im Hinblick auf den Messeffekt und hat somit deutliche Vorteile gegenüber mobilen spektroskopischen Verfahren. Besonders vorteilhaft ist, dass durch das erfindungsgemäße Verfahren auch die Untersuchung flüssiger, cremeartiger oder gelartiger Substanzen auf einfache Weise ermöglicht wird.Since a smartphone or a tablet computer, for example, can be used as the mobile electronic device, no special hardware, such as an external sensor, is required to carry out the method according to the invention. In addition, the method according to the invention is largely independent of the lighting and existing ambient light with regard to the measurement effect and thus has clear advantages over mobile spectroscopic methods. It is particularly advantageous that the method according to the invention also enables liquid, cream-like or gel-like substances to be examined in a simple manner.
Mit dem erfindungsgemäßen Verfahren wird somit ein Verfahren zur Untersuchung von Substanzen erhalten, mit welchem insbesondere flüssige oder gelartige Substanzen auf möglichst einfache und kostengünstige Weise untersucht werden können.With the method according to the invention, a method for examining substances is thus obtained, with which in particular liquid or gel-like substances can be examined in the simplest and most economical way possible.
Das erfindungsgemäße Verfahren kann in zwei verschiedenen Varianten ausgeführt werden.The method according to the invention can be carried out in two different variants.
Die bevorzugte Variante ist eine relative Messung, bei der zusätzlich zu dem in Schritt iv) aufgenommenen Bild, bei dessen Aufnahme sich die zu untersuchende Substanz bzw. die Mischung auf der Kameralinse bzw. dem Schutzelement befindet, ein Referenzbild aufgenommen wird, bei dessen Aufnahme sich die zu untersuchende Substanz bzw. die Mischung nicht auf der Kameralinse bzw. dem Schutzelement befindet (d.h. bei dessen Aufnahme die Linse sauber ist). Beim Extrahieren in Schritt v) oder bei der Auswertung in Schritt vi) können dann die (vorzugsweise berechneten und anwendungsspezifisch optimierten) Strukturmerkmale und/oder Bildmerkmale des bei Vorhandensein der Substanz bzw. der Mischung aufgenommenen Bildes mit den entsprechenden Strukturmerkmalen und/oder Bildmerkmalen des Referenzbildes verglichen werden. Dieses Vorgehen hat grundsätzlich den Vorteil, dass es relativ unabhängig von den Parametern des verwendeten Kamerasystems ist, da diese in beiden Bildern (d.h. dem beim Vorhandensein der Substanz bzw. der Mischung aufgenommenen Bild und dem Referenzbild) enthalten sind, und nur der wirkliche durch die Substanz bzw. die Mischung verursachte Unterschied betrachtet wird. Mit anderen Worten können so durch das Kamerasystem (z.B. Fehler in der Linse) verursachte Unterschiede rausgefiltert werden. Zudem ist diese Variante auch bei vorher unbekannten Testmustern anwendbar.The preferred variant is a relative measurement in which, in addition to the image recorded in step iv), during which the substance to be examined or the mixture is on the camera lens or the protective element, a reference image is recorded which is recorded the substance to be examined or the mixture is not on the camera lens or the protective element (ie the lens is clean when it is picked up). During the extraction in step v) or during the evaluation in step vi), the (preferably calculated and application-specifically optimized) structural features and / or image features of the image recorded when the substance or mixture is present can be combined with the corresponding structural features and / or image features of the reference image be compared. This procedure basically has the advantage that it is relatively independent of the parameters of the camera system used, since these are contained in both images (ie the image recorded when the substance or mixture is present and the reference image), and only the real one through the Substance or the mixture caused difference is considered. In other words, differences caused by the camera system (e.g. faults in the lens) can be filtered out. In addition, this variant can also be used with previously unknown test patterns.
Die hierzu alternative Variante ist eine absolute Messung, bei der kein Referenzbild aufgenommen wird. Beim Extrahieren in Schritt v) oder bei der Auswertung in Schritt vi) können dann die (vorzugsweise berechneten und anwendungsspezifisch optimierten) Strukturmerkmale und/oder Bildmerkmale des bei Vorhandensein der Substanz bzw. der Mischung aufgenommenen Bildes mit den entsprechenden Strukturmerkmalen und/oder Bildmerkmalen des ursprünglichen Musters verglichen werden, welches z.B. in einem Speicher des mobilen elektronischen Geräts abgespeichert ist. So kann man z.B. eine absolute Unschärfe oder Verzeichnung bestimmen und unter Annahme eines idealen Kamerasystems als Messeffekt verwenden. Mit zunehmend schlechterer Kameraqualität wird dieser Messeffekt zunehmend kompromittiert. Diese Variante hat jedoch den Vorteil, dass nur eine Messung durchgeführt werden muss, und somit ein einfacheres und komfortableres Verfahren resultiert.The alternative variant to this is an absolute measurement in which no reference image is recorded. When extracting in step v) or during the evaluation in step vi), the (preferably calculated and application-specifically optimized) structural features and / or image features of the image recorded when the substance or mixture is present can be combined with the corresponding structural features and / or image features of the original Pattern are compared, which is stored for example in a memory of the mobile electronic device. For example, you can determine absolute blurring or distortion and, assuming an ideal camera system, use it as a measuring effect. As the camera quality deteriorates, this measuring effect is increasingly compromised. However, this variant has the advantage that only one measurement has to be carried out, which results in a simpler and more convenient method.
Möglichkeiten eines relativen Vergleiches sind z.B. die Berechnung der pixelweisen Abweichung von Mess- zu Referenzbild mittels mittleren quadratischen Fehlers (MSER) oder der Berechnung der Distanz der Histogramme, gebildet auf dem Mess- sowie dem Referenzbild (beispielsweise Kullback-Leibler Divergenz, Chi-Squared Divergenz). Dieser Vorgang erzeugt pro Bild einen mehrelementigen Merkmalsvektor.Possibilities for a relative comparison are, for example, the calculation of the pixel-by-pixel deviation from the measurement image to the reference image using the mean square error (MSER) or the calculation of the distance of the histograms, formed on the measurement image and the reference image (e.g. Kullback-Leibler divergence, Chi-Squared divergence ). This process generates a multi-element feature vector for each image.
Dieses Vorgehen kann systematisch für alle verfügbaren Testmuster durchgeführt werden.This procedure can be carried out systematically for all available test patterns.
Eine bevorzugte Variante des erfindungsgemäßen Verfahrens zeichnet sich dadurch aus, dass die zu untersuchende Substanz ausgewählt ist aus der Gruppe bestehend aus
- a) Flüssigkeiten,
- b) eine oder mehrere Flüssigkeiten enthaltenden Gemischen, insbesondere Lösungen, Emulsionen, Suspensionen, flüssige Schäume,
- c) Gelen und gelartigen Substanzen,
- d) (flüssigen) Sekreten, beispielsweise Talg (z.B. Hauttalg, Haarfett), Schweiß, Speichel, Milch,
- e) sowie Mischungen hiervon.
- a) liquids,
- b) mixtures containing one or more liquids, in particular solutions, emulsions, suspensions, liquid foams,
- c) gels and gel-like substances,
- d) (liquid) secretions, e.g. sebum (e.g. sebum, hair fat), sweat, saliva, milk,
- e) and mixtures thereof.
Die genannten Substanzen haben den Vorteil, dass sie sich auf leichte Weise ohne vorherige Vorbehandlung so mit der Kameralinse oder dem Schutzelement in Kontakt bringen lassen, dass ein Teil der Substanz als Film (z.B. Flüssigkeitsfilm, Fettfilm, Gelfilm) auf der Kameralinse bzw. dem Schutzelement verbleibt. Bei den verwendeten Substanzen kann es sich beispielsweise um künstlich hergestellte Substanzen (z.B. Motoröl, kosmetische Cremes, Limonade) oder um natürliche Substanzen (z.B. Blut, Hauttalg, Schweiß, Pflanzenöl, Baumharz, Milch, Fruchtsaft) handeln.The mentioned substances have the advantage that they can easily be brought into contact with the camera lens or protective element without prior pretreatment so that part of the substance forms a film (e.g. liquid film, grease film, gel film) on the camera lens or protective element remains. The substances used can be, for example, artificially produced substances (e.g. motor oil, cosmetic creams, lemonade) or natural substances (e.g. blood, sebum, sweat, vegetable oil, tree resin, milk, fruit juice).
Gemäß einer weiteren bevorzugten Variante des erfindungsgemäßen Verfahrens ist die zu untersuchende Substanz eine Substanz einer bestimmten Substanzart und/oder bestimmten Substanzklasse, wobei
- - das in Schritt ii) bereitgestellte Testmuster, und/oder
- - die in Schritt v) extrahierten Texturmerkmale und/oder Bildmerkmale, und/oder
- - die in Schritt vi) durchgeführte Auswertung
- - the test pattern provided in step ii), and / or
- the texture features and / or image features extracted in step v), and / or
- - The evaluation carried out in step vi)
Eine weitere bevorzugte Variante des erfindungsgemäßen Verfahrens ist dadurch gekennzeichnet, dass
- - das in Schritt ii) bereitgestellte Testmuster, und/oder
- - die in Schritt v) extrahierten Texturmerkmale und/oder Bildmerkmale, und/oder
- - die in Schritt vi) durchgeführte Auswertung
- - the test pattern provided in step ii), and / or
- the texture features and / or image features extracted in step v), and / or
- - The evaluation carried out in step vi)
Eine weitere bevorzugte Variante des erfindungsgemäßen Verfahrens zeichnet sich dadurch aus, dass zusätzlich mindestens ein Referenzbild des Testmusters mithilfe der Kamera aufgenommen wird, während sich die zu untersuchenden Substanz oder Mischung nicht auf der Kameralinse oder dem Schutzelement befindet. Hierbei sollte sich vorzugsweise auch keine andere Substanz auf der Kameralinse oder dem Schutzelement befinden, d.h. die Kameralinse und/oder das Schutzelement sollten sauber sein. Durch diese bevorzugte Variante kann eine relative Messung durchgeführt werden. Somit können beim Auswählen der zu extrahierenden Strukturmerkmale/Bildmerkmale und/oder beim Extrahieren in Schritt v) und/oder bei der Auswertung in Schritt vi) die Strukturmerkmale und/oder Bildmerkmale des bei Vorhandensein der Substanz bzw. der Mischung aufgenommenen Bildes mit den entsprechenden Strukturmerkmalen und/oder Bildmerkmalen des Referenzbildes verglichen werden. Dieses Vorgehen hat grundsätzlich den Vorteil, dass es relativ unabhängig von den Parametern des verwendeten Kamerasystems ist, da diese in beiden Bildern (d.h. dem beim Vorhandensein der Substanz bzw. der Mischung aufgenommenen Bild und dem Referenzbild) enthalten sind, und nur der wirkliche durch die Substanz bzw. die Mischung verursachte Unterschied betrachtet wird. Mit anderen Worten können so durch das Kamerasystem (z.B. Fehler in der Linse) verursachte Unterschiede rausgefiltert werden. Zudem ist diese Variante auch bei vorher unbekannten Testmustern anwendbar.Another preferred variant of the method according to the invention is characterized in that at least one reference image of the test pattern is additionally recorded with the aid of the camera while the substance or mixture to be examined is not on the camera lens or the protective element. There should preferably be no other substance on the camera lens or the protective element, i.e. the camera lens and / or the protective element should be clean. With this preferred variant, a relative measurement can be carried out. Thus, when selecting the structural features / image features to be extracted and / or when extracting in step v) and / or during the evaluation in step vi), the structural features and / or image features of the image recorded in the presence of the substance or the mixture with the corresponding structural features and / or image features of the reference image are compared. This procedure basically has the advantage that it is relatively independent of the parameters of the camera system used, since these are contained in both images (ie the image recorded when the substance or mixture is present and the reference image), and only the real one through the Substance or the mixture caused difference is considered. In other words, differences caused by the camera system (e.g. faults in the lens) can be filtered out. In addition, this variant can also be used with previously unknown test patterns.
Gemäß einer weiteren bevorzugten Variante des erfindungsgemäßen Verfahrens ist das (in Schritt ii) bereitgestellte) Testmuster ein skaleninvariantes Muster, vorzugsweise ein Fraktal, und/oder ein rotationsymmetrisches Muster. Die Verwendung eines skaleninvarianten Musters ist vorteilhaft, da der Abstand zwischen Kamera und Testmuster in realen Smartphone-basierten Anwendungen nicht immer gleich sein wird. Die Durchführung des Verfahrens wird somit noch einfacher, da nicht speziell auf den Abstand zwischen Kamera und Testmuster geachtet werden muss. Bei der Verwendung von Fraktalen hätte man ein zyklisches Grundmuster in variabler Skale. Die Eigenschaften des Musters sowie dessen Skale plus die Eigenschaften der verwendeten Merkmale sind vorzugsweise auf die (stofflichen) Eigenschaften der zu untersuchenden Substanz optimiert. Die Verwendung eines rotationssymmetrischen Musters hat den Vorteil, dass bei der Aufnahme des Bildes vom Testmuster nicht auf den Winkel (Rotation) der Kamera zum Testmuster geachtet werden muss. Auch hierdurch wird das erfindungsgemäße Verfahren vereinfacht.According to a further preferred variant of the method according to the invention, the test pattern (provided in step ii) is a scale-invariant pattern, preferably a fractal, and / or a rotationally symmetrical pattern. The use of a scale invariant pattern is advantageous because the distance between the camera and the test pattern will not always be the same in real smartphone-based applications. The implementation of the method is thus even easier, since it is not specifically based on the distance between the camera and the test pattern must be observed. When using fractals one would have a cyclical basic pattern on a variable scale. The properties of the pattern and its scale plus the properties of the features used are preferably optimized for the (material) properties of the substance to be examined. The use of a rotationally symmetrical pattern has the advantage that when recording the image of the test pattern, one does not have to pay attention to the angle (rotation) of the camera to the test pattern. This also simplifies the method according to the invention.
Beispielsweise kann als Testmuster ein Siemensstern oder ein Strichcode oder ein QR-Code verwendet werden.For example, a Siemens star or a barcode or a QR code can be used as a test pattern.
Eine weitere bevorzugte Variante des erfindungsgemäßen Verfahrens zeichnet sich dadurch aus, dass
- - das mobile elektronische Gerät eine Vorrichtung zur Erzeugung von Blitzlicht umfasst und das Testmuster beim Aufnehmen des Bildes in Schritt iv) mithilfe der Vorrichtung zur Erzeugung von Blitzlicht beleuchtet wird, und/oder
- - das Testmuster beim Aufnehmen des Bildes in Schritt iv) durch Umgebungslicht, beispielsweise Tageslicht und/oder Licht aus einer externen Lichtquelle, beleuchtet wird.
- the mobile electronic device comprises a device for generating flash light and the test pattern is illuminated with the aid of the device for generating flash light when the image is recorded in step iv), and / or
- the test pattern is illuminated by ambient light, for example daylight and / or light from an external light source, when the image is recorded in step iv).
Durch die Verwendung einer Vorrichtung zur Erzeugung von Blitzlicht ist das erfindungsgemäße Verfahren komplett unabhängig von den äußeren Beleuchtungsverhältnissen. Da Smartphones in der Regel eine Blitzlichtvorrichtung aufweisen, sind diese besonders als mobiles elektronisches Gerät im erfindungsgemäßen Verfahren geeignet.By using a device for generating flash light, the method according to the invention is completely independent of the external lighting conditions. Since smartphones generally have a flashlight device, these are particularly suitable as mobile electronic devices in the method according to the invention.
Eine weitere bevorzugte Variante des erfindungsgemäßen Verfahrens ist dadurch gekennzeichnet, dass das Testmuster zumindest bereichsweise elektromagnetische Strahlung im Wellenlängenbereich von 1 nm bis 100000 nm, vorzugsweise von 10 nm bis 10000 nm, abgibt, wobei die elektromagnetische Strahlung vorzugsweise ausgewählt ist aus der Gruppe bestehend aus Strahlung aus dem sichtbaren Wellenlängenbereich, Strahlung aus dem nahen UV-Bereich, Strahlung aus dem IR-Bereich und Kombinationen sowie Mischungen hiervon.Another preferred variant of the method according to the invention is characterized in that the test pattern emits at least some areas of electromagnetic radiation in the wavelength range from 1 nm to 100,000 nm, preferably from 10 nm to 10,000 nm, the electromagnetic radiation preferably being selected from the group consisting of radiation from the visible wavelength range, radiation from the near UV range, radiation from the IR range and combinations and mixtures thereof.
Vorzugsweise ist das Testmuster ein zumindest bereichsweise fluoreszierendes Testmuster.The test pattern is preferably a test pattern that fluoresces at least in certain areas.
Die Testmuster können auch aus (anwendungsspezifisch angeordneten und spektral ausgewählten) Lichtquellen (Punkt oder Flächenlicht) bestehen, also nicht extern (Blitzlicht des Smartphones oder Umgebungslicht oder Kombination beider Beleuchtungen) beleuchtet, sondern aktiv (selbst-)leuchtende oder fluoreszierende Muster oder Teile des gesamten Musters (Kombination aus aktiven und passiven Mustern/Musterteilen). Dabei können sowohl die externe als auch die aktive Beleuchtung im für den Menschen sichtbaren Wellenlängenbereich oder im nahen ultraviolett (UV) bzw. infrarot (IR) Bereich liegen. Bereits jetzt sind moderne Smartphones teilweise mit Beleuchtung und Kameras außerhalb des für den Menschen sichtbaren Wellenlängenbereiches (z.B. IR) ausgestattet. Hierbei wird nochmals darauf hingewiesen, dass auch bei Verwendung nicht sichtbaren Lichtes oder Lichtanteilen (extern oder aktiv) mit dem erfindungsgemäßen Verfahren keine spektrale Messung durchgeführt, sondern eine Messung/Bewertung geometrischer Eigenschaften, die jedoch in anderen Wellenlängenbereichen einen besseren Messeffekt aufweisen können.The test patterns can also consist of (application-specific arranged and spectrally selected) light sources (point or surface light), i.e. not illuminated externally (flash light of the smartphone or ambient light or a combination of both lights), but actively (self-) luminous or fluorescent patterns or parts of the whole Pattern (combination of active and passive patterns / pattern parts). Both the external and the active lighting can be in the wavelength range visible to humans or in the near ultraviolet (UV) or infrared (IR) range. Modern smartphones are already partially equipped with lighting and cameras outside the wavelength range that is visible to humans (e.g. IR). It is pointed out once again that even when non-visible light or light components (external or active) are used, the method according to the invention does not carry out a spectral measurement, but a measurement / evaluation of geometric properties, which, however, can have a better measuring effect in other wavelength ranges.
Eine weitere bevorzugte Variante des erfindungsgemäßen Verfahrens zeichnet sich dadurch aus, dass bei der Auswertung in Schritt vi) die extrahierten Texturmerkmale und/oder Bildmerkmale auf das Testmuster optimiert werden, wobei hierbei vorzugsweise eine Änderung der Distanz von Merkmalshistogrammen (zwischen Messung einer Referenz - d.h. ohne Substanz - und Messung mit Substanz) oder (z.B. im Falle einer punktförmigen Beleuchtung) eine Punktspreizfunktion (Point-Spread-Function) berechnet wird.Another preferred variant of the method according to the invention is characterized in that during the evaluation in step vi) the extracted texture features and / or image features are optimized for the test pattern, with a change in the distance of feature histograms (between measurement of a reference - ie without Substance - and measurement with substance) or (for example in the case of point-like illumination) a point spread function is calculated.
Weiterhin ist es bevorzugt, dass die Optimierung durch einen iterativen Prozess erfolgt, bei welchem das Testmuster und die Texturmerkmale und/oder Bildmerkmale getestet werden, wobei deren Kombination durch Selektion auf ihre anwendungsspezifische Eignung hin algorithmisch und numerisch überprüft wird.Furthermore, it is preferred that the optimization takes place through an iterative process in which the test pattern and the texture features and / or image features are tested, their combination being checked algorithmically and numerically by selection for their application-specific suitability.
Die Optimierung der Kombination von geeigneten Testmustereigenschaften und errechneten Texturmerkmalen und/oder Bildmerkmalen wird vorzugsweise durch einen iterativen Prozess des Tests von Grundmustern und einer breiten Palette von Texturmerkmalen durchgeführt, deren Kombination durch Selektion auf ihre anwendungsspezifische Eignung hin algorithmisch und numerisch überprüft wird. Konkret bedeutet das, (1) Test an (nicht-optimierten, allgemeinen) Grundmustern, die nur eine Eigenschaft erfüllen, (2) Bewertung einer breiten Palette an Merkmalen auf Differenzierbarkeit im Kontext der spezifischen Messaufgabe, (3) Test von Kombinationsmustern, die mehr als eine Eigenschaft beinhalten, (4) erneute Bewertung der Palette an sukzessive spezifischen Merkmalen auf Differenzierbarkeit im Kontext der spezifischen Messaufgabe. Die Iteration aus (1) bis (4) wird vorzugsweise mindestens einmal, besonders bevorzugt mehrfach durchlaufen.The optimization of the combination of suitable test pattern properties and calculated texture features and / or image features is preferably carried out by an iterative process of testing basic patterns and a wide range of texture features, the combination of which is algorithmically and numerically checked by selection for their application-specific suitability. In concrete terms, this means (1) testing on (non-optimized, general) basic patterns that only meet one property, (2) evaluating a wide range of characteristics for differentiability in the context of the specific measurement task, (3) testing combination patterns that are more as a property, (4) reassessment of the range of successive specific features for differentiability in the context of the specific measurement task. The iteration from (1) to (4) is preferably run through at least once, particularly preferably several times.
Gemäß einer weiteren bevorzugten Variante des erfindungsgemäßen Verfahrens ist der mindestens eine Hilfsstoff ausgewählt aus der Gruppe bestehend aus Lösungsmitteln, Lösungsvermittlern, Konsistenzreglern, Gelbildnern, Emulgatoren, Benetzungsmitteln, Flussmitteln, Farbstoffen, Farbpigmenten, Fluoreszenzmitteln, sowie Mischungen hiervon. Durch die Verwendung von Hilfsstoffen wie Lösungsmitteln, Lösungsvermittlern, Konsistenzreglern, Gelbildnern, Emulgatoren, Benetzungsmitteln, Flussmitteln kann beispielsweise das in-Kontakt-Bringen der zu untersuchenden Substanz mit der Kameralinse bzw. dem Schutzelement erleichtert werden. Durch Benetzungsmittel und/oder Flussmittel kann insbesondere auch eine gleichmäßigere örtliche Verteilung der zu untersuchenden Substanz oder die Reduzierung der Oberflächenspannung erreicht werden, wodurch die Messung jeweils deutlich verbessert werden kann. Auch kann durch die genannten Hilfsstoffe die Transparenz oder der Brechungsindex so verändert werden, dass die Aufnahme des Bildes besser erfolgen kann. Durch Farbstoffe, Farbpigmente und Fluoreszenzmittel kann die Transparenz, der Kontrast bzw. die Lichtstreuung gezielt verändert werden, so dass die Aufnahme des Bildes besser erfolgen kann.According to a further preferred variant of the method according to the invention, the at least one auxiliary is selected from the group consisting of solvents, solubilizers, consistency regulators, gel formers, emulsifiers, wetting agents, fluxes, dyes, color pigments, fluorescent agents, and mixtures thereof. The use of auxiliaries such as solvents, solubilizers, consistency regulators, gel formers, emulsifiers, wetting agents and fluxes can, for example, make it easier to bring the substance to be examined into contact with the camera lens or the protective element. By means of wetting agents and / or fluxing agents, a more uniform local distribution of the substance to be examined or the reduction of the surface tension can be achieved, whereby the measurement can be significantly improved in each case. The mentioned auxiliaries can also change the transparency or the refractive index in such a way that the image can be recorded better. Dyes, color pigments and fluorescent agents can be used to change the transparency, the contrast or the light scattering in a targeted manner so that the image can be recorded better.
Als eine weitere bevorzugte Variante besteht die Möglichkeit innerhalb der vorgeschlagenen Erfindung, die Kombination aus Muster und Merkmalsverarbeitung sowohl auf annähernd homogen auftretenden Eigenschaften der zu untersuchenden Substanz zu verwenden (z.B. Öl/ Fett), als auch auf wegen hoher Oberflächenspannung sehr punktuell auftretender Substanzen (z.B. Wassertropfen). So kann beispielsweise die geometrische Form (insb. Größe) eines einzelnen Tropfens oder die geometrische Anordnung vieler kleiner Tropfen auf der Kameralinse bzw. dem Schutzelement sich in Abhängigkeit von der Oberflächenspannung und diese wiederum in Abhängigkeit von den chemischen Eigenschaften der zu untersuchenden Substanz ändern. Illustrativ, jedoch nicht einschränkend, seien hier Lotuseffekt und Kristallisation (nicht zwangsweise bei Temperaturen unter 0 °C) genannt. Es kann in diesem Fall eine Optimierung von Muster und Merkmalen zusätzlich oder ausschließlich auf diese Eigenschaften erfolgen.As a further preferred variant, there is the possibility within the proposed invention of using the combination of pattern and feature processing both on approximately homogeneous properties of the substance to be examined (e.g. oil / fat) and on substances that occur very selectively due to high surface tension (e.g. Waterdrop). For example, the geometric shape (especially size) of a single drop or the geometric arrangement of many small drops on the camera lens or the protective element can change depending on the surface tension and this in turn can change depending on the chemical properties of the substance to be examined. Illustrative, but not restrictive, the lotus effect and crystallization (not necessarily at temperatures below 0 ° C) are mentioned here. In this case, patterns and features can be optimized additionally or exclusively to these properties.
Eine weitere bevorzugte Variante des erfindungsgemäßen Verfahrens zeichnet sich dadurch aus, dass bei oder durch die Auswertung in Schritt vi)
- - die Qualität der zu untersuchenden Substanz bestimmt wird, und/oder
- - mindestens eine Eigenschaft der zu untersuchenden Substanz bestimmt wird, und/oder
- - die Zugehörigkeit der zu untersuchenden Substanz zu einer bestimmten Substanzart und/oder Substanzklasse bestimmt wird, und/oder
- - die Echtheit der zu untersuchenden Substanz bestimmt wird, und/oder
- - die chemische Zusammensetzung der zu untersuchenden Substanz bestimmt wird.
- - the quality of the substance to be examined is determined, and / or
- - At least one property of the substance to be examined is determined, and / or
- - the affiliation of the substance to be examined to a certain substance type and / or substance class is determined, and / or
- - The authenticity of the substance to be examined is determined, and / or
- - the chemical composition of the substance to be examined is determined.
Vorzugsweise ist das mobile elektronische Gerät ein Smartphone oder ein Tablet-Computer. Auf diese Weise wird eine besonders einfache Durchführung des erfindungsgemäßen Verfahrens ermöglicht, da es sich bei diesen um sehr einfach zu bedienende, den meisten Anwendern sehr vertraute und leicht zugängliche Geräte handelt.The mobile electronic device is preferably a smartphone or a tablet computer. In this way, a particularly simple implementation of the method according to the invention is made possible, since these are very easy to operate, very familiar and easily accessible devices for most users.
Für das erfindungsgemäße Verfahren ergibt sich eine ganze Reihe von Anwendungen, die hier genannt werden, aber nicht einschränkend wirken sollen.There are a number of applications for the process according to the invention, which are mentioned here but are not intended to have a restrictive effect.
So z.B. eine Anwendung, in der man den Ölmessstab aus dem PKW-Motor herauszieht und mit der Smartphonekamera antippt (ggf. über einen Lappen) und sieht, ob der Motor einen Ölwechsel benötigt oder nicht. Die Eigenschaften des Öls ändern sich mit dessen Laufleistung, ggf. hat man sogar Abrieb-Partikel enthalten. Dies sollte alles zu Diffraktion führen.For example, an application in which you pull the oil dipstick out of the car engine and tap it with the smartphone camera (possibly with a rag) and see whether the engine needs an oil change or not. The properties of the oil change with its mileage, and it may even have contained abrasion particles. This should all lead to diffraction.
Eine weitere Anwendung ist die Bewertung wesentlicher chemischer Komponenten auf der Oberfläche von Haut und Haaren (z.B. Talg, insb. Fett, Feuchtigkeit) und die darauf basierende Ableitung von personalisierten Empfehlungen kosmetischer Pflegeprodukte und/oder Handlungsempfehlungen zum Umgang mit Haut und Haaren (z.B. Häufigkeit des Waschens).Another application is the evaluation of essential chemical components on the surface of skin and hair (e.g. sebum, especially fat, moisture) and the derivation of personalized recommendations for cosmetic care products and / or recommendations for action for handling skin and hair (e.g. frequency of the Washing).
Im Bereich der Lebensmittel lassen sich damit potentiell wesentliche Eigenschaften (z.B. Zucker) bestimmen.In the food sector, this can be used to determine potentially essential properties (e.g. sugar).
Auf einer höheren Abstraktionsebene formuliert können Kategorien von Anwendungen genannt werden:
- - Anwendungen, die primär auf eine Qualitätsbewertung der zu untersuchenden Substanz abzielen, entweder quantitativ (kontinuierliche Maßzahl) oder qualitativ (Einteilung in Klassen/Gruppen);
- - Anwendungen, die primär der Unterscheidung von Substanzen bzw. Objekten anhand ihrer chemischen Eigenschaften abzielen, unabhängig davon, ob diese Unterscheidung ein Qualitätsmerkmal darstellt;
- - Anwendungen, die primär auf das Erkennen der Echtheit bzw. von Fälschungen abzielen, entweder anhand der natürlich auftretenden chemischen Zusammensetzung der Probe oder durch gezieltes Einbringen zusätzlicher Substanzen, die als eine Art künstliche Signatur den o.g. Messeffekt unterstützen. Während in den vorgenannten zwei Anwendungen davon auszugehen ist, dass die Definition/Beschreibung der Klassen a-priori bekannt ist (Binär- oder Multiklassifikation), besteht hier die Aufgabe einer Abgrenzung einer bekannten Klasse gegen einen unbekannten Rest (unbekannte Fälschungen, 1-vs.-Rest-Klassifikation).
- - Applications that primarily aim at a quality assessment of the substance to be examined, either quantitatively (continuous measure) or qualitatively (division into classes / groups);
- - Applications that primarily aim to differentiate between substances or objects on the basis of their chemical properties, regardless of whether this differentiation represents a quality feature;
- - Applications that are primarily aimed at recognizing authenticity or forgeries, either on the basis of the naturally occurring chemical composition of the sample or through the targeted introduction of additional ones Substances that support the above-mentioned measuring effect as a kind of artificial signature. While in the above two applications it can be assumed that the definition / description of the classes is known a priori (binary or multiclassification), the task here is to delimit a known class from an unknown remainder (unknown forgeries, 1-vs. -Rest classification).
Die vorliegende Erfindung betrifft auch ein Computerprogrammprodukt zur Verwendung im erfindungsgemäßen Verfahren, wobei das Computerprogrammprodukt direkt in einen internen Datenspeicher des in Schritt i) bereitgestellten mobilen elektronischen Geräts geladen werden kann und Softwareabschnitte umfasst, mit denen zumindest die Schritte v) und vi) (des erfindungsgemäßen Verfahrens), vorzugsweise die Schritte iv), v) und vi) (des erfindungsgemäßen Verfahrens), ausgeführt werden, wenn das Computerprogramm auf dem mobilen elektronischen Gerät läuft.The present invention also relates to a computer program product for use in the method according to the invention, wherein the computer program product can be loaded directly into an internal data memory of the mobile electronic device provided in step i) and comprises software sections with which at least steps v) and vi) (of the invention Method), preferably steps iv), v) and vi) (of the method according to the invention), are carried out when the computer program is running on the mobile electronic device.
Weiterhin betrifft die vorliegende Erfindung ein mobiles elektronisches Gerät, auf welchem ein erfindungsgemäßes Computerprogrammprodukt installiert ist, wobei das mobile elektronische Gerät vorzugsweise ein Smartphone oder ein Tablet-Computer ist. Bei diesem mobilen elektronischen Gerät handelt es sich dann um das im Verfahren verwendetet mobile elektronische Gerät.The present invention further relates to a mobile electronic device on which a computer program product according to the invention is installed, the mobile electronic device preferably being a smartphone or a tablet computer. This mobile electronic device is then the mobile electronic device used in the method.
Die vorliegende Erfindung wird anhand der nachfolgenden Figuren und Beispiele näher erläutert, ohne die Erfindung auf die speziell dargestellten Parameter zu beschränken.The present invention is explained in more detail with reference to the following figures and examples, without restricting the invention to the parameters specifically shown.
Beispiele für TestmusterExamples of test patterns
Grundsätzlich sind die Gruppe der Fraktale sehr geeignete Testmuster. Ein besonders geeignetes und anschauliches Ausführungsbeispiel für ein Testmuster ist der sogenannte Siemensstern, welcher beispielhaft in
- 1) im Hinblick auf gerade, in unterschiedlichen Winkeln verlaufende scharfe (kontrastreiche) Kanten, die durch den Messeffekt verändert werden;
- 2) im Hinblick auf Rotationsinvarianz, die eine bestimmte Ausrichtung zwischen Messmuster und Kamerasystem in weiten Grenzen überflüssig macht;
- 3) im Hinblick auf unterschiedliche Skalen, an denen man den Messeffekt besonders gut erkennen kann, z.B. durch Verschwimmen / Verschmieren der schwarzen und weißen Sektoren abhängig von deren Abstand zueinander entlang deren Verlaufes vom Mittelpunkt zum Rand;
- 4) im Hinblick auf unterschiedliche Skalen, die eine Größeninvarianz herbeiführen und somit einen festen Abstand zwischen Messmuster und Kamerasystem in weiten Grenzen überflüssig macht.
- 1) with regard to straight, sharp (high-contrast) edges running at different angles, which are changed by the measuring effect;
- 2) with regard to rotational invariance, which makes a specific alignment between the measurement pattern and the camera system superfluous to a large extent;
- 3) with regard to different scales, on which the measuring effect can be seen particularly well, for example by blurring / smearing the black and white sectors depending on their distance from one another along their course from the center to the edge;
- 4) with regard to different scales, which cause size invariance and thus make a fixed distance between the measurement pattern and the camera system superfluous within wide limits.
Ein weiteres geeignetes Ausführungsbeispiel für ein mögliches Testmuster sind Strichcodes oder noch besser QR-Codes. Diese liefern häufig, insbesondere im Falle von QR-Codes, zumindest eingeschränkt die Eigenschaft der Skalen- und Größeninvarianz (durch unterschiedlich große Kästchen) und bei feiner Struktur und Auflösung eine gewisse Rotationsinvarianz. Im Hinblick auf die Anwendung der beschriebenen Erfindung im Konsumentenbereich ist als besonders vorteilhaft hervorzuheben, dass derartige Codes in der Regel bereits auf Verpackungen oder Beiblättern / Beschreibungen vorhanden sind, und eine Änderung dieser bei der Verwendung der beschriebenen Erfindung nicht erforderlich ist. Somit ist eine explizite Bereitstellung eines dedizierten Messmusters nicht erforderlich. In diesem Ausführungsbeispiel beschränkt sich die beschriebene Optimierung auf anwendungsspezifische Bildfilter / Texturmerkmale. Als Erweiterung kann man derartige Codes jedoch so gestalten, dass sie einerseits ihren ursprünglichen Zweck der Bereitstellung leicht maschinenlesbarer Information erfüllen, und andererseits z.B. durch redundante Codierung und daraus resultierender höherer filigraner Auflösung deren Nutzung als Messmuster im Rahmen der vorgeschlagenen Erfindung unterstützen.Another suitable exemplary embodiment for a possible test pattern are bar codes or, even better, QR codes. These often, especially in the case of QR codes, provide at least a limited feature of scale and size invariance (due to boxes of different sizes) and a certain rotational invariance with a fine structure and resolution. With regard to the application of the described invention in the consumer sector, it should be emphasized as particularly advantageous that such codes are usually already present on packaging or supplementary sheets / descriptions, and it is not necessary to change these when using the described invention. An explicit provision of a dedicated measurement pattern is therefore not required. In this exemplary embodiment, the optimization described is limited to application-specific image filters / texture features. As an extension, however, such codes can be designed in such a way that, on the one hand, they fulfill their original purpose of providing easily machine-readable information, and, on the other hand, support their use as measurement patterns within the scope of the proposed invention, e.g. through redundant coding and the resulting higher filigree resolution.
Ein weiteres geeignetes Ausführungsbeispiel ist die Verwendung von Text, bevorzugt in unterschiedlichen Schriftgrößen. Durch die Erkennung und gezielte Bewertung bestimmter Zeichen (Buchstaben und Zahlen) und deren gestörte Abbildung, hervorgerufen durch den Messeffekt, kann eine anwendungsspezifische Optimierung erreicht werden. Auch hier gilt grundsätzlich das im Zusammenhang mit QR- und Strichcodes Genannte, insbesondere die leichte Verfügbarkeit bei Anwendungen im Konsumentenbereich.Another suitable embodiment is the use of text, preferably in different font sizes. An application-specific optimization can be achieved through the recognition and targeted evaluation of certain characters (letters and numbers) and their disturbed mapping, caused by the measurement effect. The same applies here in connection with QR codes and barcodes, in particular the easy availability for applications in the consumer sector.
Auch wenn bei einigen der Ausführungsbeispiele, insbesondere dem letztgenannten, die optimierte Gestaltung des eigentlichen Messmusters auf die Anwendung nicht gegeben ist, ist die Bewertung der grundsätzlichen Verwendbarkeit im Rahmen einer bestimmten Anwendung letztlich auch ein Teil der Optimierung des Messmusters und somit Bestandteil der vorgeschlagenen Erfindung.Even if in some of the exemplary embodiments, in particular the last-mentioned, the optimized design of the actual measurement pattern for the application is not given, the assessment of the basic usability in the context of a specific application is ultimately also part of the optimization of the measurement pattern and thus part of the proposed invention.
Ausführungsbeispiel: Szenario MotorölmessungExemplary embodiment: engine oil measurement scenario
In diesem Ausführungsbeispiel wird das erfindungsgemäße Verfahren zur Untersuchung von (in einem Motor eines Kraftfahrzeugs befindlichen und dort bereits gebrauchtem) Motoröl eingesetzt, um einen Rückschluss über die Qualität des Motoröls zu treffen und entscheiden zu können, ob ein Wechsel des Motoröls bereits notwendig ist oder noch nicht.In this exemplary embodiment, the method according to the invention for examining (in engine oil located in an engine of a motor vehicle and already used there) in order to draw a conclusion about the quality of the engine oil and to be able to decide whether a change of the engine oil is already necessary or not.
Hierfür wird vom Nutzer zunächst ein Smartphone oder ein Tablet-Computer bereitgestellt, welches eine Kamera mit einer Kameralinse aufweist. Der Nutzer zieht den Ölmessstab aus dem Motor heraus und reibt dann mit einem Papiertaschentuch oder anderen Wischelement Öl vom Ölmessstab ab und dann auf die Kameralinse des Smartphones oder Tablet-Computers auf. Hierdurch bildet sich Film des Motoröls auf der Kameralinse des Smartphones oder Tablet-Computers, ohne dass das Smartphone bzw. der Tablet-Computer in Mitleidenschaft gezogen wird.For this purpose, the user initially provides a smartphone or a tablet computer which has a camera with a camera lens. The user pulls the dipstick out of the engine and then rubs oil off the dipstick with a paper tissue or other wiping element and then on the camera lens of the smartphone or tablet computer. This creates a film of engine oil on the camera lens of the smartphone or tablet computer without affecting the smartphone or tablet computer.
Nachfolgend (d.h. während sich der Film des Motoröls auf der Kameralinse befindet) fotografiert der Nutzer das Testmuster, welches z.B. als Druck auf der Ölflasche oder auf dem Papieranhänger, der typischerweise beim Ölwechsel am Messstab befestigt wird, bereitgestellt wird oder selbst aus dem Internet ausgedruckt wurde. Mit einer im Smartphone oder Tablet Computer hinterlegten numerischen Verarbeitungspipeline, bestehend aus einer Extraktion von Texturmerkmalen aus dem aufgenommenen Bild, die sich von den entsprechenden Texturmerkmalen des ursprünglichen Testmusters unterscheiden, und einer Auswertung in Form eines mathematischen Detektionsmodells, wird der Ölfilm mittels Dreiklassensystem nach einem Ampelsystem bewertet, grün = Öl im Normalzustand, gelb = Wechsel empfohlen, rot = Wechsel notwendig.Subsequently (i.e. while the film of the engine oil is on the camera lens) the user photographs the test pattern, which is provided, for example, as a print on the oil bottle or on the paper tag that is typically attached to the dipstick when changing the oil, or it was printed out from the Internet . With a numerical processing pipeline stored in the smartphone or tablet computer, consisting of an extraction of texture features from the recorded image, which differ from the corresponding texture features of the original test pattern, and an evaluation in the form of a mathematical detection model, the oil film is generated using a three-class system according to a traffic light system rated, green = oil in normal condition, yellow = change recommended, red = change necessary.
Zur Erreichung der numerischen Verarbeitungspipeline kann im Vorfeld (z.B. durch den Entwickler des Detektionssystems) eine repräsentative Stichprobe von verschiedenen marktüblichen Motorölen in verschiedenen Alterungsstufen innerhalb einer Messkampagne erhoben werden. Zusätzlich können von einem Experten für Motortechnik die erfassten Referenzproben mittels Labortechnik bewertet werden, um die „Grundwahrheit“ für das Detektionssytem zu erstellen, auf Basis dessen jede Probe mit in das oben genannte Klassensystem eingeteilt werden kann.In order to reach the numerical processing pipeline, a representative sample of various motor oils available on the market in various aging stages can be collected in advance (e.g. by the developer of the detection system) within a measurement campaign. In addition, an expert in engine technology can evaluate the recorded reference samples using laboratory technology in order to create the "basic truth" for the detection system, on the basis of which each sample can be classified into the above-mentioned class system.
Dem Entwickler stehen zur Merkmalserfassung eine Reihe von Bildfilteroperationen zur Verfügung, z.B.
- 1) Bildoperation zur Bewertung der globalen Bildentropie,
- 2) Bildoperation zur Bewertung der globalen Weichzeichnung (eng. Bluriness) im Bild,
- 3) Bildoperation zur Bewertung des Mittelwertes, der Standardabweichung und des Kontrastes eines lokalen Bildausschnittes,
- 4) Bildoperation zur Bewertung der Orientierung und Stärke von Bildkanten (schwarz-weiß Übergänge) mittels, z.B. Gaborfilter,
- 5) Bildoperation zur Errechnung einer 2D Fourier Transformation zur Bewertung von periodischen Mustern im Bild.
- 1) image operation to evaluate the global image entropy,
- 2) image operation to evaluate the global bluriness in the image,
- 3) Image operation to evaluate the mean value, standard deviation and contrast of a local image section,
- 4) Image operation to evaluate the orientation and strength of image edges (black-white transitions) by means of, e.g. Gabor filters,
- 5) Image operation to calculate a 2D Fourier transformation for evaluating periodic patterns in the image.
Jedes Bild der problemspezifischen Datenbasis wird mit allen oder einem Teil der genannten Bildoperatoren gefiltert. Zur letztendlichen Merkmalsextraktion können die erlangten Bildmerkmale
- 1) als Absolutwerte,
- 2) als Relativwerte zu einer vor-Ort Aufnahme des Testmusters mit sauberer Linse,
- 3) als Relativwerte zu einer intern hinterlegten Aufnahme des Testmusters bei sauberer Linse
- 1) as absolute values,
- 2) as relative values to an on-site recording of the test sample with a clean lens,
- 3) as relative values to an internally stored recording of the test pattern with a clean lens
Verwendung finden. Möglichkeiten eines relativen Vergleiches sind z.B. die Berechnung der pixelweisen Abweichung von Mess- zu Referenzbild mittels mittleren quadratischen Fehlers (MSER) oder der Berechnung der Distanz der Histogramme, gebildet auf dem Mess- sowie dem Referenzbild (beispielsweise Kullback-Leibler Divergenz, Chi-Squared Divergenz).Find use. Possibilities for a relative comparison are, for example, the calculation of the pixel-by-pixel deviation from the measurement image to the reference image using the mean square error (MSER) or the calculation of the distance of the histograms, formed on the measurement image and the reference image (e.g. Kullback-Leibler divergence, Chi-Squared divergence ).
Dieser Vorgang erzeugt pro Bild einen mehrelementigen Merkmalsvektor. Mittels eines Lernalgorithmus werden dann die Parameter eines mathematischen Models in der Art adaptiert, das der Fehler bei der Vorhersage der Klasse basierend auf dem Merkmalsvektor minimal wird. Hier werden mehrere Verfahren, z.B. Künstliche Neuronale Netze (KNN), Support Vector Machines (SVM) oder Partial Least Squares (PLS) Modelle auf ihre Tauglichkeit getestet und anhand eines Performanz-Kriteriums ausgewählt.This process generates a multi-element feature vector for each image. Using a learning algorithm, the parameters of a mathematical model are then adapted in such a way that the error in the prediction of the class based on the feature vector is minimal. Several methods, e.g. Artificial Neural Networks (ANN), Support Vector Machines (SVM) or Partial Least Squares (PLS) models are tested for their suitability and selected based on a performance criterion.
Dieses Vorgehen kann systematisch für alle verfügbaren Testmuster durchgeführt werden.This procedure can be carried out systematically for all available test patterns.
Zur Auffindung der optimalen Kombination von Testmuster und Merkmalsextraktion wird anhand der internen Wichtung der Merkmale im mathematischen Modell eine problemspezifische Ordnung der Wichtigkeit der Merkmale vorgenommen. Anschließend wird die Modellerstellung systematisch wiederholt, bei der sukzessive Merkmale in Reihenfolge ihrer Wichtigkeit zum Eingang des Modells hinzugefügt werden. Dieser Vorgang wird so lange durchgeführt, bis eine äquivalente Performanz verglichen mit dem System basierend auf allen Merkmalen erreicht ist.To find the optimal combination of test pattern and feature extraction, a problem-specific ordering of the importance of the features is carried out on the basis of the internal weighting of the features in the mathematical model. The model creation is then systematically repeated, in which successive features are added to the input of the model in order of their importance. This process is carried out until an equivalent performance compared to the system based on all features is achieved.
Aus dieser Betrachtung ergibt sich die applikationsspezifische Kombination von Merkmal und Testmuster für die Aufgabe, z.B. der Klassifikation auf Ölwechselnotwendigkeit.The application-specific combination of feature and results from this consideration Test pattern for the task, e.g. the classification of the need for an oil change.
ZITATE ENTHALTEN IN DER BESCHREIBUNGQUOTES INCLUDED IN THE DESCRIPTION
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant was generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.
Zitierte PatentliteraturPatent literature cited
- WO 2018/115346 [0004]WO 2018/115346 [0004]
Claims (17)
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102019210405.3A DE102019210405A1 (en) | 2019-07-15 | 2019-07-15 | Method for the investigation of substances, computer program product for use in this method, and mobile electronic device |
EP20742178.5A EP3999838B1 (en) | 2019-07-15 | 2020-07-07 | Method for examining substances, computer program product for use in said method, and mobile electronic device |
PCT/EP2020/069053 WO2021008927A1 (en) | 2019-07-15 | 2020-07-07 | Method for examining substances, computer program product for use in said method, and mobile electronic device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102019210405.3A DE102019210405A1 (en) | 2019-07-15 | 2019-07-15 | Method for the investigation of substances, computer program product for use in this method, and mobile electronic device |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102019210405A1 true DE102019210405A1 (en) | 2021-01-21 |
Family
ID=71661814
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102019210405.3A Withdrawn DE102019210405A1 (en) | 2019-07-15 | 2019-07-15 | Method for the investigation of substances, computer program product for use in this method, and mobile electronic device |
Country Status (3)
Country | Link |
---|---|
EP (1) | EP3999838B1 (en) |
DE (1) | DE102019210405A1 (en) |
WO (1) | WO2021008927A1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102022130665A1 (en) | 2022-11-21 | 2024-05-23 | Endress+Hauser Conducta Gmbh+Co. Kg | Method and sensor for optical measurement of measured variables of transparent media |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017056002A1 (en) * | 2015-09-29 | 2017-04-06 | Ascensia Diabetes Care Holdings Ag | Method and system of using a mobile device for analyte detection |
US20180348114A1 (en) * | 2016-05-11 | 2018-12-06 | Bonraybio Co., Ltd. | Analysis accuracy improvement in automated testing apparatus |
EP3545853A1 (en) * | 2016-11-22 | 2019-10-02 | Intin Co., LDT. | Body fluid testing device having improved illumination |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5756885A (en) * | 1996-04-04 | 1998-05-26 | Motorola, Inc. | Method for determining the cleanliness of a surface |
US7160479B2 (en) * | 2004-01-20 | 2007-01-09 | Ppg Industries Ohio, Inc. | Method and apparatus for evaluating panel drip tests |
JP2006001056A (en) * | 2004-06-15 | 2006-01-05 | Asahi Glass Co Ltd | Sheet body for anti-fogging window for transport hardware material |
CN104382842A (en) * | 2014-10-28 | 2015-03-04 | 中国人民解放军第二军医大学 | Endoscopic anesthesia gel preparation and application thereof |
US20190136070A1 (en) * | 2016-04-27 | 2019-05-09 | President And Fellows Of Harvard College | Anti-fouling endoscopes and uses thereof |
US10809176B2 (en) * | 2016-10-24 | 2020-10-20 | The Trustees Of The University Of Pennsylvania | Ultra-high throughput detection of fluorescent droplets using time domain encoded optofluidics |
DE102016226206A1 (en) | 2016-12-23 | 2018-06-28 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | System and method for acquiring measurement images of a measurement object |
-
2019
- 2019-07-15 DE DE102019210405.3A patent/DE102019210405A1/en not_active Withdrawn
-
2020
- 2020-07-07 WO PCT/EP2020/069053 patent/WO2021008927A1/en unknown
- 2020-07-07 EP EP20742178.5A patent/EP3999838B1/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017056002A1 (en) * | 2015-09-29 | 2017-04-06 | Ascensia Diabetes Care Holdings Ag | Method and system of using a mobile device for analyte detection |
US20180348114A1 (en) * | 2016-05-11 | 2018-12-06 | Bonraybio Co., Ltd. | Analysis accuracy improvement in automated testing apparatus |
EP3545853A1 (en) * | 2016-11-22 | 2019-10-02 | Intin Co., LDT. | Body fluid testing device having improved illumination |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102022130665A1 (en) | 2022-11-21 | 2024-05-23 | Endress+Hauser Conducta Gmbh+Co. Kg | Method and sensor for optical measurement of measured variables of transparent media |
Also Published As
Publication number | Publication date |
---|---|
EP3999838B1 (en) | 2024-04-03 |
EP3999838A1 (en) | 2022-05-25 |
WO2021008927A1 (en) | 2021-01-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE102011106050B4 (en) | Shadow removal in an image captured by a vehicle-based camera for detection of a clear path | |
WO2019238518A2 (en) | Material testing of optical test pieces | |
DE102012206078A1 (en) | Determining a number of objects in an IR image | |
EP3598195A1 (en) | Method for microscopic assessment | |
DE112019005143T5 (en) | SYSTEM FOR CO-REGISTRATION OF MEDICAL IMAGES USING A CLASSIFICATOR | |
WO2018114459A1 (en) | Method and arrangement for determining a degree of damage to hair | |
DE69228537T2 (en) | METHOD AND DEVICE FOR SURFACE ANALYSIS | |
EP3999838B1 (en) | Method for examining substances, computer program product for use in said method, and mobile electronic device | |
EP3707496B1 (en) | Identification of one or more spectral features in a spectrum of a sample for a constituent analysis | |
EP3928079B1 (en) | Method and device for identifying interference pigments in a coating | |
DE102016105102A1 (en) | Method for examining distributed objects | |
US20230162354A1 (en) | Artificial intelligence-based hyperspectrally resolved detection of anomalous cells | |
EP2394250B1 (en) | Method and device for verifying document using a wavelet transformation | |
DE102019204602A1 (en) | Method and device for masking objects contained in an image | |
DE112015002845T5 (en) | Optical composition analysis of mixtures | |
DE102007014475A1 (en) | Method for determining surface properties, involves evaluating locally resolved sketch of surface to be examined with multiple measured values, where sketch represents certain physical properties that are characterized by measured values | |
DE102020129997A1 (en) | BAR CODE READER WITH CALIBRATION OF THE SCANNER IMAGE BRIGHTNESS WITH MULTIPLE FIELDS OF VIEW FROM A SINGLE SENSOR | |
DE102008052248B4 (en) | Method and device for checking lens structures | |
DE102008011283A1 (en) | Marker-free chromosome screening | |
DE112017001026T5 (en) | A method and system for identifying and measuring a defect that reduces transparency in a substrate for a security document | |
DE10065783B4 (en) | Method, arrangement and system for determining process variables | |
EP2917897B1 (en) | Testing the quality of a flip image of a lens structure | |
Kogou | Investigation of the complementary use of non-invasive techniques for the holistic analysis of paintings and automatic analysis of large scale spectral imaging data | |
AT507266B1 (en) | METHOD FOR AUTOMATICALLY DETECTING A DEFECT IN AN ELECTRONIC REPRESENTATION | |
DE102022133276A1 (en) | Multispectral imaging device, system and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R012 | Request for examination validly filed | ||
R016 | Response to examination communication | ||
R081 | Change of applicant/patentee |
Owner name: COMPOLYTICS GMBH, DE Free format text: FORMER OWNER: FRAUNHOFER-GESELLSCHAFT ZUR FOERDERUNG DER ANGEWANDTEN FORSCHUNG E.V., 80686 MUENCHEN, DE |
|
R120 | Application withdrawn or ip right abandoned |