DE102020111584A1 - Verfahren zum Gewinnen von Daten mithilfe von Operationsmikroskopiesystemen - Google Patents

Verfahren zum Gewinnen von Daten mithilfe von Operationsmikroskopiesystemen Download PDF

Info

Publication number
DE102020111584A1
DE102020111584A1 DE102020111584.9A DE102020111584A DE102020111584A1 DE 102020111584 A1 DE102020111584 A1 DE 102020111584A1 DE 102020111584 A DE102020111584 A DE 102020111584A DE 102020111584 A1 DE102020111584 A1 DE 102020111584A1
Authority
DE
Germany
Prior art keywords
data
new
stored
classifier
database
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
DE102020111584.9A
Other languages
English (en)
Inventor
Stefan Saur
Alexander Urich
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Carl Zeiss Meditec AG
Original Assignee
Carl Zeiss Meditec AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Carl Zeiss Meditec AG filed Critical Carl Zeiss Meditec AG
Priority to DE102020111584.9A priority Critical patent/DE102020111584A1/de
Priority to US17/241,844 priority patent/US20210330183A1/en
Publication of DE102020111584A1 publication Critical patent/DE102020111584A1/de
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/102Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for optical coherence tomography [OCT]
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/13Ophthalmic microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/0012Surgical microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0056Optical details of the image generation based on optical coherence, e.g. phase-contrast arrangements, interference arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/01Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound

Abstract

Ein Verfahren zum Gewinnen von Daten mithilfe eines Operationsmikroskopiesystems umfasst ein Aufzeichnen eines Datensatzes mit einer Vielzahl von Bildern und ein Entscheiden, ob der neue Datensatz in einem Datenspeicher einer Datenbank gespeichert werden soll oder nicht. Die Entscheidung wird von einem bestehenden Klassifikator getroffen. Ein neuer Klassifikator wird basierend auf Trainingsdaten bestimmt, welche die in dem Datenspeicher der Datenbank gespeicherten Datensätzen und/oder aus den in dem Datenspeicher der Datenbank gespeicherten Datensätzen erhaltene Daten umfassen. Der neue Klassifikator wird dann anstatt des bestehenden Klassifikators beim Entscheiden verwendet, ob ein nachfolgend aufgezeichneter neuer Datensatz gespeichert werden soll.

Description

  • Die vorliegende Erfindung betrifft Verfahren zum Gewinnen insbesondere annotierter Daten mithilfe von Operationsmikroskopiesystemen.
  • Die vorliegende Anmeldung steht im Zusammenhang mit der am gleichen Tag eingereichten weiteren Patentanmeldung der Anmelderin, die den Titel „Verfahren zum Gewinnen annotierter Daten mithilfe von Operationsmikroskopiesystemen“ trägt und durch Inbezugnahme vollumfänglich in die vorliegende Anmeldung aufgenommen wird.
  • Im Bereich der Medizin sind vielfältige Entscheidungen zu treffen, die auf der Analyse von Daten basieren. Beispielsweise können diese Entscheidungen Diagnosen über das Vorliegen oder Nicht-Vorliegen eines Zustands basierend auf beispielsweise chemischen oder physikalischen Analysen, Entscheidungen über durchzuführende Behandlungen oder Verwendung von Hilfsmitteln basierend auf Diagnosen und anderen Informationen umfassen. Zunehmend werden Techniken des maschinellen Lernens zur Unterstützung solcher Entscheidungen eingesetzt. Techniken des maschinellen Lernens umfassen die Verwendung von Instrumenten wie beispielsweise die eines Klassifikators, der basierend auf eingegebenen Merkmalen eine Zuordnung der eingegebenen Merkmale zu Klassen eines Merkmalsraumes treffen kann. Solche Klassifikatoren werden unter Verwendung realistischer Daten trainiert, so dass die Qualität der von dem Klassifikator getroffenen Klassifizierungen sich mit Zunahme der Menge der vorhandenen realistischen Daten und der Qualität der vorhandenen realistischen Daten verbessert. Entsprechend ist es wünschenswert, Daten zum Trainieren von Instrumenten des maschinellen Lernens in großer Menge und guter Qualität zu erhalten.
  • Allerdings ist es nicht einfach, große Mengen an Daten hoher Qualität zu erhalten, da die bestehenden Prozesse im medizinischen Bereich vorrangig auf die optimale Behandlung von Patienten und die Reduzierung von Kosten ausgelegt sind. Die Gewinnung von Daten, welche die Grundlage zur Entwicklung von Instrumenten des maschinellen Lernens bilden, kann parallel zum Ablauf der bestehenden medizinischen Prozesse nur mit zusätzlichem Aufwand erfolgen und kann diese Prozesse sogar stören. Das Gewinnen von Daten, die für das Trainieren von Instrumenten des maschinellen Lernens geeignet sind, stellt somit für sich genommen ein technisches Problem dar.
  • Entsprechend ist es eine Aufgabe der vorliegenden Erfindung, ein Verfahren zum Gewinnen von Daten im medizinischen Bereich vorzuschlagen, die zum Trainieren eines Instruments des maschinellen Lernens, wie etwa eines Klassifikators, geeignet sind.
  • Erfindungsgemäß wird deshalb ein Verfahren zum Gewinnen annotierter Daten mithilfe von Operationsmikroskopiesystemen vorgeschlagen. Operationsmikroskopiesysteme sind in großer Zahl in Krankenhäusern und Arztpraxen installiert und werden zur Behandlung von Patienten eingesetzt. Hierbei können die Operationsmikroskopiesysteme bei ihrer Verwendung am Patienten kontinuierlich Bilder der Bereiche der Patienten aufnehmen, welche behandlungsbedürftig sind. Ferner dokumentieren Abfolgen von mit den Operationsmikroskopiesystemen aufgenommenen Bildern auch tatsächlich an den behandelten Patienten vorgenommene Maßnahmen. Die mit einem Operationsmikroskopiesystem aufgezeichneten Bilder sind somit Daten, welche eine hohe Relevanz für ein Training eines Instruments des maschinellen Lernens aufweisen.
  • Es ist somit denkbar, sämtliche während des Betriebs des Operationsmikroskopiesystems anfallenden Daten aufzuzeichnen, in einer Datenbank zu speichern und nachfolgend als Daten zu verwenden, mit denen Instrumente des maschinellen Lernens trainiert werden. Es hat sich allerdings gezeigt, dass diese Möglichkeit einigen technischen Einschränkungen unterworfen ist. So werden von einem Operationsmikroskop enorm viele Daten erzeugt. Die Daten sind beispielsweise Videos, die aus einer Mehrzahl von Einzelbildern bestehen, die eine sehr hohe Auflösung haben. Die Daten können ferner beispielsweise Volumenbilder sein, die eine Vielzahl von Schichtbildern aufweisen, die wiederum eine hohe Auflösung haben. Ferner können die Daten beispielsweise eine Vielzahl von OCT-Scans repräsentieren, die wiederum eine hohe Auflösung haben. Wenn die mit vielen Operationsmikroskopiesystemen gewonnenen Daten in einer Datenbank gespeichert werden sollen, um basierend auf den in der Datenbank gespeicherten Daten Instrumente des maschinellen Lernens zu trainieren, so müssen diese Daten von den einzelnen Operationsmikroskopiesysteme an einen Datenspeicher der Datenbank übertragen werden, welcher naturgemäß räumlich entfernt von vielen der Operationsmikroskopiesysteme angeordnet ist. Bei der heute üblichen Bandbreite von Internetanschlüssen für das Hochladen von Daten ist es schwierig, die während des Betriebs des Operationsmikroskopiesystems anfallenden Daten alle an eine zentrale Datenbank zu übertragen. Selbst bei einer in der Zukunft zunehmenden Bandbreite der Datenverbindungen wird dieses Problem wohl bestehen bleiben, da auch die Menge der Daten, die ein Operationsmikroskopiesystem während des Betriebs erzeugt, zunehmen wird.
  • Ferner wird ein Operationsmikroskopiesystem für verschiedene Zwecke und verschiedene Arten von medizinischen Eingriffen eingesetzt, welche mit verschiedener Häufigkeit ausgeführt werden. In Bezug auf das Trainieren von Instrumenten des maschinellen Lernens sind die Daten zu häufig ausgeführten medizinischen Eingriffen ebenso wertvoll wie Daten zu seltener ausgeführten medizinischen Eingriffen. Allerdings ist es möglich, dass Daten, die in dominierendem Umfang ähnliche Inhalte zu häufig durchgeführten medizinischen Eingriffen enthalten, zum Trainieren von Instrumenten des maschinellen Lernens weniger geeignet sind als Daten, die Inhalte zu häufig ausgeführten medizinischen Eingriffen und Inhalte zu seltener ausgeführten medizinischen Eingriffen in einem ausgewogenen Verhältnis enthalten.
  • Gemäß beispielhaften Ausführungsformen werden deshalb nicht sämtliche mit dem Operationsmikroskopiesystem gewonnenen Daten in einem Datenspeicher einer Datenbank, der entfernt von dem Operationsmikroskop angeordnet ist, gespeichert, sondern lediglich solche, von denen erwartet wird, dass sie zur Gesamtheit der in dem Datenspeicher gespeicherten Daten einen signifikanten Beitrag im Hinblick auf das Trainieren von Instrumenten des maschinellen Lernens mit diesen Daten liefern können.
  • Gemäß beispielhaften Ausführungsformen umfasst das Verfahren zum Gewinnen von Daten mithilfe eines Operationsmikroskopiesystems ein Aufzeichnen eines neuen Datensatzes, der eine Vielzahl von Bildern umfasst, mit dem Operationsmikroskopiesystem. Dieser neue Datensatz wird analysiert, und es wird eine Entscheidung dahingehend getroffen, ob der neue Datensatz in dem Datenspeicher der Datenbank gespeichert werden soll oder nicht. Für diese Analyse und zum Treffen der Entscheidung kann ein bestehender Klassifikator verwendet werden, der die Entscheidung auf der Grundlage des neuen Datensatzes trifft.
  • Gemäß beispielhaften Ausführungsformen kann der Klassifikator die Entscheidung ferner auf der Grundlage weiterer Informationen treffen, welche beispielsweise von einem Benutzer erhalten werden, der diese Informationen über eine Benutzerschnittstelle in das Operationsmikroskopiesystem eingibt.
  • Der Klassifikator kann die Entscheidung ferner auf der Grundlage weiterer Informationen treffen, welche beispielsweise bereits in dem Operationsmikroskopiesystem gespeichert sein, oder sie können in einem Informationsverwaltungssystem eines Krankenhauses, in dem sich das Operationsmikroskopiesystem befindet, und/oder eines Unternehmens, das das Operationsmikroskopiesystem hergestellt hat, gespeichert sein. Ein derartiges Informationsverwaltungssystem kann eine zentrale Datenbank mit lokalisierten Datenspeichern sein, die bei der das Informationsverwaltungssystem betreibenden Institution, wie etwa Krankenhaus oder Hersteller, angeordnet ist. Ein derartiges Informationsverwaltungssystem kann aber auch ein verteiltes Datenbanksystem sein, welches zusammengehörige Daten an verschiedenen Orten speichert, wobei bestimmte Daten an bestimmten Orten in nur geringerem Umfang gespeichert werden können, um eventuellen Datenschutzregeln zu genügen.
  • Derartige weitere Informationen können beispielsweise einen Typ eines medizinischen Eingriffs, ein Alter, ein Geschlecht und/oder einen Gesundheitszustand eines Patienten, an dem der medizinische Eingriff vorgenommen wird, eine Qualität eines Gewebes, welches in den Bildern abgebildet wird, eine Eigenschaft des Benutzers, wie etwa dessen Berufserfahrung, einen Ort, an dem sich das Operationsmikroskopiesystem befindet, und/oder eine Eigenschaft der Benutzungshistorie des Operationsmikroskopiesystems, wie beispielsweise die Information, dass ein betreffendes Operationsmikroskopiesystem hauptsächlich für Fluoreszenzuntersuchungen eingesetzt wird, bezeichnen.
  • Gemäß beispielhaften Ausführungsformen wird basierend auf der Entscheidung des Klassifikators der wenigstens eine neue Datensatz in dem Datenspeicher der Datenbank gespeichert, falls entschieden wurde, dass der wenigstens eine Datensatz gespeichert werden soll, und es wird der wenigstens eine neue Datensatz in dem Datenspeicher nicht gespeichert, falls entschieden wurde, dass der wenigstens eine Datensatz nicht gespeichert werden soll.
  • Gemäß beispielhaften Ausführungsformen umfasst das Verfahren ein Bestimmen eines neuen Klassifikators basierend auf Trainingsdaten, welche die in dem Datenspeicher der Datenbank gespeicherten Datensätzen umfassen und/oder aus den in dem Datenspeicher der Datenbank gespeicherten Datensätzen erhaltene Daten umfassen, und ein Verwenden des neuen Klassifikators anstatt des bestehenden Klassifikators beim Entscheiden, ob ein nachfolgend aufgezeichneter neuer Datensatz in dem Datenspeicher gespeichert werden soll oder nicht.
  • Das Bestimmen des neuen Klassifikators kann beispielsweise in regelmäßigen Zeitintervallen oder immer dann erfolgen, wenn eine vorbestimmte Anzahl neuer Datensätze in dem Datenspeicher der Datenbank gespeichert wurde.
  • Durch das Verwenden des neuen Klassifikators beim Entscheiden, ob der nachfolgend aufgezeichnete neue Datensatz in dem Datenspeicher gespeichert werden soll oder nicht, wird diese Entscheidung auch von den bereits in dem Datenspeicher gespeicherten Datensäten abhängig. Somit ist es möglich, auf die Speicherung eines neuen Datensatzes, welcher ähnlich zu bereits gespeicherten Datensätzen ist und im Vergleich zu diesem nurmehr geringe zusätzliche Information liefern würde, zu verzichten. Dieser nicht gespeicherte neue Datensatz wird die hinsichtlich ihrer Übertragungskapazität begrenzten Netzwerkverbindungen nicht belasten. Ferner kann hierdurch bei den in dem Datenspeicher gespeicherten Datensätzen ein ausgewogenes Verhältnis von Datensätzen, die häufig wiederkehrende medizinische Eingriffe betreffen, und Datensätzen, die seltener durchgeführte Eingriffe betreffen, beibehalten werden.
  • Durch die Verwendung des neuen Klassifikators beim Entscheiden, ob ein neuer Datensatz gespeichert werden soll oder nicht, werden, da der neue Klassifikator basierend auf den bereits gespeicherten Datensätzen bestimmt wird, auch die Entscheidungen über das Speichern der neuen Datensätze von den bereits gespeicherten Datensätzen abhängig. Dies wird allerdings erreicht, ohne dass in dem hierfür notwendigen Entscheidungsprozess auf die gespeicherten Datensätze zugegriffen werden muss, was aufgrund des großen Datenvolumens der Datensätze sehr aufwändig wäre. Allerdings ist es möglich, die Analysen der Datensätze, welche zur Bestimmung des Klassifikators direkt oder zur Erzeugung von Trainingsdaten zur Bestimmung des Klassifikators notwendig sind, am Ort des Datenspeichers der Datensätze vorzunehmen, so dass für diese Zwecke eine aufwändige Fernübertragung der Datensätze nicht notwendig ist. Es ist dann lediglich der neu bestimmte Klassifikator an den Ort des Operationsmikroskopiesystems zu übertagen. Dies kann beispielsweise dadurch erfolgen, dass numerische Parameter, die den neuen Klassifikator repräsentieren, an das Operationsmikroskopiesystem übertagen werden. Falls der den neuen Datensatz analysierende und die Entscheidung über das Speichern und Nicht-Speichern des neuen Datensatzes treffende Klassifikator ein ein neuronales Netz einer gegebenen Topologie verwendender Klassifikator ist, können diese Parameter beispielsweise Gewichte dieses neuronalen Netzes sein.
  • Gemäß beispielhaften Ausführungsformen wird jedem der in dem Datenspeicher gespeicherten Datensätze eine Annotation zugeordnet. Die dem gespeicherten Datensätzen zugeordneten Annotationen können auf vielfältige Weise erhalten werden. Beispielsweise können die Annotationen basierend auf einer Analyse der Datensätze automatisch mithilfe eines Instruments des maschinellen Lernens, welches zuvor erstellt wurde, wie beispielsweise eines Klassifikators, ermittelt werden. Ferner können die Annotationen auch von menschlichen Experten erhalten werden, die die Datensätze, das heißt die in den Datensätzen enthaltenen Bilder, betrachten und verschiedene weitere Informationen, wie etwa bereits zu den Datensätzen vorhandene Annotationen, die beispielsweise neuen Datensätzen vor dem Übertragen in den Datenspeicher zugeordnet wurden, berücksichtigen.
  • Gemäß beispielhaften Ausführungsformen hierin wird der neue Klassifikator auch basierend auf den den gespeicherten Datensätzen zugeordneten Annotationen bestimmt, indem beispielsweise die Trainingsdaten die Annotationen umfassen.
  • Gemäß beispielhaften Ausführungsformen wird jedem der in dem Datenspeicher gespeicherten Datensätze eine Signifikanz zugeordnet.
  • Gemäß beispielhaften Ausführungsformen hierin wird der neue Klassifikator auch basierend auf den den gespeicherten Datensätzen zugeordneten Signifikanzen bestimmt, indem beispielsweise die Trainingsdaten die Signifikanzen umfassen.
  • Hierdurch ist es möglich, bei der Entscheidung, ob ein neuer Datensatz gespeichert werden soll oder nicht, diejenigen Datensätzen zu bevorzugen, welche im Hinblick auf das Trainieren des Instruments des maschinellen Lernens den höheren erwartbaren Informationsgehalt aufweisen. Beispielsweise werden dann Datensätze zu häufiger durchgeführten medizinischen Eingriffen vergleichsweise seltener gespeichert als Datensätze zu weniger häufig durchgeführten medizinischen Eingriffen.
  • Gemäß beispielhaften Ausführungsformen wird das Zuordnen von Annotationen und/oder Signifikanzen zu den in dem Datenspeicher gespeicherten Datensätzen wiederholt, nachdem eine Mehrzahl von neuen Datensätzen in dem Datenspeicher gespeichert wurde. Hierdurch wird ein System geschaffen, welches sich an die Einsatzpraxis der Operationsmikroskopiesysteme anpasst und Datensätze, die keinen oder einen nur geringen zusätzlichen Informationsgehalt erwarten lassen, hinsichtlich der Speicherung in dem Datenspeicher benachteiligt, während Datensätze, die einen hohen Informationsgehalt erwarten lassen oder sich durch eine Kombination von zugeordneten Annotationen auszeichnen, welche keinem oder nur wenigen in dem Datenspeicher gespeicherten Datensätzen zugeordnet sind, hinsichtlich der Speicherung bevorzugt werden.
  • Gemäß beispielhaften Ausführungsformen erfolgt das Bestimmen des neuen Klassifikators mit dem Ziel, dass beim erneuten Zuordnen von Signifikanzen zu den Datensätzen die einem jeweiligen Datensatz neu zugeordnete Signifikanz niedriger ist als die diesem Datensatz zuvor zugeordnete Signifikanz.
  • Gemäß beispielhaften Ausführungsformen wird ein Instrument des maschinellen Lernens basierend auf den in der Datenbank gespeicherten Daten trainiert. Das Instrument des maschinellen Lernens kann beispielsweise ein Klassifikator sein dessen Algorithmus beispielsweise ein neuronales Netz und einen Entscheidungsbaum oder dergleichen umfasst. Mit dem Instrument des maschinellen Lernens kann beispielsweise eine klinische Hypothese validiert werden. Ferner kann das trainierte Instrument des maschinellen Lernens auch der Klassifikator sein, der dazu eingesetzt wird, die Entscheidung zu treffen, ob ein neuer Datensatz in dem Datenspeicher gespeichert werden soll oder nicht.
  • Ausführungsformen der Erfindung werden nachfolgend anhand von Figuren näher erläutert. Hierbei zeigt:
    • 1 ein Diagramm zur Erläuterung eines Verfahrens zum Gewinnen annotierter Daten gemäß einer Ausführungsform; und
    • 2 ein weiteres detailliertes Diagramm zur Erläuterung des Verfahrens der 1.
  • 1 ist ein Diagramm zur Erläuterung eines Verfahrens zum Gewinnen von Daten für maschinelles Lernen mithilfe von Operationsmikroskopiesystemen. Ein System 1 zum Gewinnen von Daten für maschinelles Lernen umfasst eine Datenbank 3 für annotierte Daten und eine Mehrzahl von Operationsmikroskopiesystemen 5, welche Datensätze aufzeichnen, die in der Datenbank 3 gespeichert werden können. Die in der Datenbank 3 gespeicherten Daten werden in einem Analysemodul 7 analysiert, um basierend auf der Analyse ein Instrument des maschinellen Lernens zu erzeugen, welches in dem in 1 gezeigten Beispiel ein Klassifikator 9 ist. Die Analyse der Daten zur Erzeugung des Instruments des maschinellen Lernens kann auch Prozesse umfassen, welche als ein „Trainieren“ des Instruments des maschinellen Lernens, wie beispielsweise des Klassifikators 9, bezeichnet werden können.
  • Die Operationsmikroskopiesysteme 5 umfassen typischerweise ein Operationsmikroskop mit der Mikroskopieoptik und mit Sensoren, wie etwa Kameras oder OCT-Scannern, ein Stativ zum Haltern des Operationsmikroskops und ein Steuerungssystem zur Steuerung des Operationsmikroskops und zur Bereitstellung von Funktionalitäten. Das Steuerungssystem kann unter anderem Benutzerschnittstellen, Datenbanken und Datenfernverbindungen bereitstellen. Nicht alle Komponenten des Operationsmikroskopiesystems 5 müssen zusammen mit dessen Operationsmikroskop zum Beispiel in einem Raum angeordnet sein.
  • Die von den Operationsmikroskopiesystemen 5 erzeugten Datensätze umfassen typischerweise eine Vielzahl von Bildern. Die Datensätze können somit beispielsweise Videos mit einer Mehrzahl von Einzelbildern, Volumenbilder mit einer Mehrzahl von Schichtbildern und Sätze von OCT-Scans sein.
  • Diese Datensätze können in der Datenbank 3 gespeichert werden. Die Datenbank 3 kann ein Datenbanksystem sein, welches mehrere Hardware- und Softwaremodule aufweist, die verteilt angeordnet sein können. Beispielsweise kann jedes Operationsmikroskopiesystem 5 ein Softwaremodul des Datenbanksystems aufweisen, welches auf der Hardware des Operationsmikroskopiesystems läuft und die Interaktion des Operationsmikroskopiesystems 5 mit dem Datenbanksystem 3 ermöglicht. Die Speicherung der Datensätze kann in Datenspeichern des Datenbanksystems erfolgen, welche an Orten angeordnet sind, die von den Orten verschieden sind, an denen die Operationsmikroskope der Operationsmikroskopiesysteme 5 angeordnet sind. Da nicht alle Operationsmikroskope der Operationsmikroskopiesysteme 5 an einem gleichen Ort angeordnet sind, müssen zwangsläufig Datensätze von Operationsmikroskopen zu Datenspeichern über Datenfernübertragungswege übertragen werden. Wie vorangehend erläutert, weisen die Datenfernübertragungswege eine begrenzte Bandbreite auf, und es ist nicht unbedingt sinnvoll, alle mit den Operationsmikroskopiesystemen gewonnenen Daten in einem Datenspeicher der Datenbank 3 zu speichern. Unter Bezugnahme auf 2 wird nachfolgend ein Verfahren erläutert, um lediglich solche mit den Operationsmikroskopiesystemen 5 gewonnene Datensätze in der Datenbank 3 zu speichern, welche eine hohe Signifikanz im Hinblick auf das Trainieren des Instruments 9 des maschinellen Lernens erwarten lassen.
  • 2 zeigt Elemente und Module eines Operationsmikroskopiesystems 5, welche räumlich getrennt von einem System 11 angeordnet sind, welches die Datenbank 3 und das Analysemodul 7 zur Bestimmung des Instruments des maschinellen Lernens 9 umfasst. Im Rahmen eines medizinischen Eingriffs wird mit dem Operationsmikroskop des Operationsmikroskopiesystems 5 beispielsweise ein neues Video 13 aufgezeichnet. Neben dem neuen Video 13 stehen zu dem durchgeführten medizinischen Eingriff weitere Informationen, wie etwa Metadaten 15 zur Verfügung. Diese Daten 15 können beispielsweise einen Typ eines medizinischen Eingriffs, ein Alter, ein Geschlecht und/oder einen Gesundheitszustand eines Patienten, an dem der medizinische Eingriff vorgenommen wird, eine Qualität eines Gewebes, welches in den Bildern abgebildet wird, eine Eigenschaft des Benutzers, einen Ort, an dem sich das Operationsmikroskopiesystem befindet, und/oder eine Eigenschaft der Benutzungshistorie des Operationsmikroskopiesystems bezeichnen.
  • Basierend auf dem neuen Video 13 und den zusätzlichen Informationen 15 wird mit einem Klassifikator 17 das neue Video 13 einer von zwei Klassen zugeordnet, welche beschreiben, ob das neue Video gespeichert werden soll oder nicht gespeichert werden soll. Das Ergebnis der Klassifizierung durch den Klassifikator 17 wird in einem Schritt 25 ausgewertet, und dann, wenn gemäß der Klassifizierung ein Speichern des neuen Videos 13 in dem Datenspeicher 23 verlangt ist, einen Schritt 27 zur Übertragung des neuen Videos an den Datenspeicher 23 ausführt, während in dem Fall, dass das neue Video 13 nicht in dem Datenspeicher 23 gespeichert werden soll, ein Schritt 29 ausgeführt wird, in welchem das neue Video 13 möglicherweise zu Archivierungszwecken beispielsweise lokal bei dem Operationsmikroskop des Operationsmikroskopiesystems 5 gespeichert wird, aber nicht an den Datenspeicher 23 der Datenbank 3 übertragen wird, welcher die Daten speichert, mit denen das Instrument 9 des maschinellen Lernens trainiert wird. Der Schritt 27 des Übertragens des neuen Videos 13 an den Datenspeicher 23 der Datenbank 3 beinhaltet die Übermittlung des neuen Videos über einen Weg der Datenfernübertragung, der in 2 mit einem Pfeil 31 gekennzeichnet ist.
  • Beispielsweise in regelmäßigen Zeitintervallen oder immer dann, wenn eine vorbestimmte Anzahl neuer Videos 13 in dem Datenspeicher 23 der Datenbank 3 gespeichert wurde, führt ein Modul 33 eine Auswertung der Inhalte der Datenbank 3 durch. Diese Auswertung beinhaltet beispielsweise eine Analyse der in dem Datenspeicher 23 gespeicherten Videos, um Annotationen 34 zu bestimmen, welche den gespeicherten Videos zugeordnet werden können. Ferner können bereits bestehende Annotationen zu einem gegebenen gespeicherten Video beibehalten, geändert oder gelöscht werden. Ferner können neue Annotationen 34 zu einem bereits gespeicherten Video erzeugt werden. Neben der automatischen Erzeugung von Annotationen in dem Modul 33 ist es auch möglich, dass die Annotationen 34 zu gespeicherten Videos aus anderen Quellen stammen, wie beispielsweise menschlichen Experten.
  • In dem Modul 33 werden ferner den einzelnen gespeicherten Videos 23 Signifikanzen 37 zugeordnet. Die in dem Modul 33 neu bestimmten Annotationen und Signifikanzen können dann die in der Datenbank 3 gespeicherten Annotationen 34 und Signifikanzen 37 ersetzen, wie dies in 2 durch Pfeile 39 dargestellt ist.
  • Basierend auf den gespeicherten Videos 23, Annotationen 34 und Signifikanzen 37 wird in dem Modul 33 ferner ein neuer Klassifikator 35 bestimmt. Der neue Klassifikator 35 kann dann an das Mikroskopiesystem 5 übertragen werden, wie dies in 2 durch einen Pfeil 41 dargestellt ist. Der neue Klassifikator 35 kann dann den bestehenden Klassifikator 17 ersetzen, so dass zukünftige Entscheidungen, ob ein neues Video gespeichert werden soll oder nicht, mit dem neuen Klassifikator getroffen werden.
  • Unter Kenntnis des Entscheidungsprozesses durch den Klassifikator 17, kann das Modul 33 die Signifikanzen der einzelnen Videos 23 mit dem Ziel bestimmen, dass beim erneuten Zuordnen von Signifikanzen zu den Videos 23, nach dem weitere neue Videos in dem Datenspeicher gespeichert wurden, die einem jeweiligen Video 23 neu zugeordnete Signifikanz kleiner ist als die diesem Video zuvor zugeordnete Signifikanz. Hierfür sind Strategien verwendbar, die in anderen Bereichen der Datenverarbeitung als „uncerainty sampling“, „Least Confidence (LC)“, „Margin Sampling“ oder „Entropy Sampling“ bekannt sind.
  • Im Ergebnis ist das Verfahren damit so gestaltet, dass eine signifikante Anzahl an neuen Videos 13 nicht über den Übertragungsweg 31 an den Speicher 23 der Datenbank 3 übertragen wird. Dafür ist der neue Klassifikator 35 an das Operationsmikroskopiesystem 5 übertragen. Die bei dieser Übertragung 41 übermittelte Datenmenge ist aber wesentlich geringer als die mehreren neuen Videos entsprechende Datenmenge.
  • Der Klassifikator 17 kann weitere Funktionalitäten bieten. Beispielsweise kann der Klassifikator 17 dazu konfiguriert sein, neben der Entscheidung, ob ein Datensatz gespeichert werden soll oder nicht, weiter Prädiktionen vornehmen. Beispielsweise kann der Klassifikator feststellen, ob in den Bildern des analysierten Datensatzes ein bestimmtes Werkzeug oder ein bestimmter Gewebetyp sichtbar ist. Ist das so festgestellte Werkzeug ein dem Klassifikator nicht bekanntes Werkzeug oder ein nicht mit einer ausreichenden Signifikanz bekanntes Werkzeug, so kann beispielsweise immer entschieden werden, den zugehörigen Datensatz zu speichern. Ähnlich kann auch immer dann entschieden werden, den zugehörigen Datensatz zu speichern, wenn das so festgestellte Gewebe ein dem Klassifikator nicht bekanntes Gewebe oder ein nicht mit einer ausreichenden Signifikanz bekanntes Gewebe ist. Das Mikroskopiesystem 5 kann ferner auch dazu konfiguriert sein, mittels seiner Benutzerschnittstelle den Benutzer zu bitten, die neuen Datensätze zu annotieren. Der Benutzer kann diese Bitte ablehnen oder annehmen. Falls er sie annimmt, kann er seine Annotationen zu den Datensätzen über die Benutzerschnittstelle eingeben. Vorzugsweise wird der Benutzer nur dann um Annotationen gebeten, wenn die Entscheidung in dem Schritt 25 positiv, also „Ja“ war. Die vom Benutzer erhaltenen Annotationen können zusammen mit dem neuen Datensatz 13 an die Datenbank 3 übertragen werden und dort als die Annotation 34 gespeichert werden, die dem dann gespeicherten Datensatz 23 zugeordnet ist.

Claims (9)

  1. Verfahren zum Gewinnen von Daten mithilfe eines Operationsmikroskopiesystems (5), umfassend: - Aufzeichnen von einem eine Vielzahl von Bildern umfassenden neuen Datensatz (13) mit dem Operationsmikroskopiesystem (5); - Analysieren des neuen Datensatzes (13) und Entscheiden, ob der neue Datensatz (13) in einem Datenspeicher (23) einer Datenbank (3), der entfernt von einem Operationsmikroskop des Operationsmikroskopiesystems (5) angeordnet ist, gespeichert werden soll oder nicht, und zwar unter Verwendung eines bestehenden Klassifikators (17) basierend auf der Analyse des neuen Datensatzes (13); - Speichern des neuen Datensatzes (13) in dem Datenspeicher (23) der Datenbank (3), falls entschieden wurde, dass der wenigstens eine Datensatz (13) gespeichert werden soll, und Nicht-Speichern des neuen Datensatzes (13) in dem Datenspeicher (23), falls entschieden wurde, dass der neue Datensatz (13) nicht gespeichert werden soll; - Bestimmen eines neuen Klassifikators (35) basierend auf Trainingsdaten, welche die in dem Datenspeicher (23) der Datenbank (3) gespeicherten Datensätze umfassen und/oder aus den in dem Datenspeicher (23) der Datenbank (3) gespeicherten Datensätzen erhaltene Daten umfassen; und - Verwenden des neuen Klassifikators (35) anstatt des bestehenden Klassifikators (17) beim Entscheiden, ob ein nachfolgend aufgezeichneter neuer Datensatz (13) in dem Datenspeicher (23) gespeichert werden soll oder nicht.
  2. Verfahren nach Anspruch 1, ferner umfassend Zuordnen wenigstens einer Annotation (34) zu einem jeden der in dem Datenspeicher (23) gespeicherten Datensätze.
  3. Verfahren nach Anspruch 2, wobei die Trainingsdaten die Annotationen (34) umfassen.
  4. Verfahren nach Anspruch 2 oder 3, ferner umfassend Zuordnen einer Signifikanz (37) zu einem jeden der in dem Datenspeicher (23) gespeicherten Datensätzen, und wobei die Trainingsdaten die Signifikanzen (37) umfassen.
  5. Verfahren nach Anspruch 4, wobei das Bestimmen des neuen Klassifikators (35) erfolgt, nachdem eine Mehrzahl von neuen Datensätzen (13) in dem Datenspeicher (23) gespeichert wurde.
  6. Verfahren nach Anspruch 4 oder 5, wobei der neue Klassifikator (35) derart bestimmt wird, dass die neuen Datensätze (13), welche in dem Datenspeicher (23) gespeichert werden, dazu führen, dass bei einem nachfolgenden Zuordnen von Signifikanzen (37) zu den Datensätzen (23) die einem jeweiligen Datensatz (23) neu zugeordnete Signifikanz (37) niedriger ist als die diesem Datensatz (23) zuvor zugeordnete Signifikanz (37).
  7. Verfahren nach einem der Ansprüche 1 bis 6, wobei das Entscheiden, ob der neue Datensatz (13) in dem Datenspeicher (23) gespeichert werden soll oder nicht, unter Verwendung des bestehenden Klassifikators (17) ferner auf weiteren Informationen (15) basiert, welche einen Typ eines medizinischen Eingriffs, ein Alter, ein Geschlecht und/oder einen Gesundheitszustand eines Patienten, an dem der medizinische Eingriff vorgenommen wird, eine Qualität eines Gewebes, welches in den Bildern abgebildet wird, eine Eigenschaft des Benutzers des Operationsmikroskopiesystems, einen Ort, an dem sich das Operationsmikroskopiesystem befindet, und/oder eine Benutzungshistorie des Operationsmikroskopiesystems angeben.
  8. Verfahren nach einem der Ansprüche 1 bis 7, wobei die Vielzahl von Bildern ein Video mit einer Mehrzahl von Einzelbildern, ein Volumenbild mit einer Mehrzahl von Schichtbildern und eine Vielzahl von OCT-Scans umfasst.
  9. Verfahren nach einem der Ansprüche 1 bis 8, ferner umfassend Trainieren eines Instruments des maschinellen Lernens (9) mit den in der Datenbank (3) gespeicherten Daten.
DE102020111584.9A 2020-04-28 2020-04-28 Verfahren zum Gewinnen von Daten mithilfe von Operationsmikroskopiesystemen Pending DE102020111584A1 (de)

Priority Applications (2)

Application Number Priority Date Filing Date Title
DE102020111584.9A DE102020111584A1 (de) 2020-04-28 2020-04-28 Verfahren zum Gewinnen von Daten mithilfe von Operationsmikroskopiesystemen
US17/241,844 US20210330183A1 (en) 2020-04-28 2021-04-27 Method for Acquiring Data with the Aid of Surgical Microscopy Systems

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102020111584.9A DE102020111584A1 (de) 2020-04-28 2020-04-28 Verfahren zum Gewinnen von Daten mithilfe von Operationsmikroskopiesystemen

Publications (1)

Publication Number Publication Date
DE102020111584A1 true DE102020111584A1 (de) 2021-10-28

Family

ID=78221037

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102020111584.9A Pending DE102020111584A1 (de) 2020-04-28 2020-04-28 Verfahren zum Gewinnen von Daten mithilfe von Operationsmikroskopiesystemen

Country Status (2)

Country Link
US (1) US20210330183A1 (de)
DE (1) DE102020111584A1 (de)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102021121635A1 (de) 2021-08-20 2023-02-23 Carl Zeiss Microscopy Gmbh Automatisiertes trainieren eines maschinengelernten algorithmus basierend auf der überwachung einer mikroskopiemessung

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170103512A1 (en) 2015-10-13 2017-04-13 Siemens Healthcare Gmbh Learning-based framework for personalized image quality evaluation and optimization
CN108042090A (zh) 2017-12-08 2018-05-18 合肥工业大学 配置人工智能芯片的医用内窥镜系统及图像处理方法
US20180144466A1 (en) 2016-11-23 2018-05-24 General Electric Company Deep learning medical systems and methods for image acquisition
WO2018152248A1 (en) 2017-02-14 2018-08-23 Dignity Health Systems, methods, and media for selectively presenting images captured by confocal laser endomicroscopy
DE102019113493A1 (de) 2018-05-21 2019-11-21 Siemens Medical Solutions Usa, Inc. Abgestimmte medizinische ultraschallbildgebung
DE102018128806A1 (de) 2018-07-12 2020-01-16 National Taiwan University Of Science And Technology Medizinisches bildanalyseverfahren unter anwendung von maschinellem lernen und system dafür
US20200051239A1 (en) 2018-08-13 2020-02-13 Siemens Healthcare Gmbh Magnetic resonance imaging quality classification based on deep machine-learning to account for less training data

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5832523B2 (ja) * 2010-04-29 2015-12-16 マサチューセッツ インスティテュート オブ テクノロジー 光コヒーレンストモグラフィのための動き補正および画像改善の方法および装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170103512A1 (en) 2015-10-13 2017-04-13 Siemens Healthcare Gmbh Learning-based framework for personalized image quality evaluation and optimization
US20180144466A1 (en) 2016-11-23 2018-05-24 General Electric Company Deep learning medical systems and methods for image acquisition
WO2018152248A1 (en) 2017-02-14 2018-08-23 Dignity Health Systems, methods, and media for selectively presenting images captured by confocal laser endomicroscopy
CN108042090A (zh) 2017-12-08 2018-05-18 合肥工业大学 配置人工智能芯片的医用内窥镜系统及图像处理方法
DE102019113493A1 (de) 2018-05-21 2019-11-21 Siemens Medical Solutions Usa, Inc. Abgestimmte medizinische ultraschallbildgebung
DE102018128806A1 (de) 2018-07-12 2020-01-16 National Taiwan University Of Science And Technology Medizinisches bildanalyseverfahren unter anwendung von maschinellem lernen und system dafür
US20200051239A1 (en) 2018-08-13 2020-02-13 Siemens Healthcare Gmbh Magnetic resonance imaging quality classification based on deep machine-learning to account for less training data

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102021121635A1 (de) 2021-08-20 2023-02-23 Carl Zeiss Microscopy Gmbh Automatisiertes trainieren eines maschinengelernten algorithmus basierend auf der überwachung einer mikroskopiemessung

Also Published As

Publication number Publication date
US20210330183A1 (en) 2021-10-28

Similar Documents

Publication Publication Date Title
DE102016209032B3 (de) Bildbegebendes Verfahren zum Durchführen einer medizinischen Untersuchung nebst zugehörigem Bildgebenden System und zugehörigem Computerprogrammprodukt
DE69432089T2 (de) System zur Verarbeitung von medizinischen Daten zur Unterstützung der Diagnose
EP2648122B1 (de) Verfahren zum Laden von medizinischen Bilddaten sowie Vorrichtung zur Durchführung des Verfahrens
DE102007050184B4 (de) Integrierte Lösung für diagnostische Lese- und Berichterstellung
DE102008002882A1 (de) System und Verfahren zu von einer elektronischen Krankenakte beeinflusster Datenerfassung, -verarbeitung und -anzeige
DE102015212953A1 (de) Künstliche neuronale Netze zur Klassifizierung von medizinischen Bilddatensätzen
DE10156215A1 (de) Verfahren zur Verarbeitung medizinisch relevanter Daten
DE102006046319B4 (de) Verfahren zum Auffinden und zur Anzeige von Informationen in einem Informationssystem einer medizinischen Einrichtung
DE102016202335A1 (de) Medizinisches Untersuchungssystem
DE102016213515A1 (de) Verfahren zur Unterstützung eines Befunders bei der Auswertung eines Bilddatensatzes, Bildaufnahmeeinrichtung, Computerprogramm und elektronisch lesbarer Datenträger
DE102005034160A1 (de) Verfahren zur Optimierung der Durchführung von Messungen
EP3309792A1 (de) Bestimmen eines aufnahmeparameters für ein bildgebendes verfahren
DE102005055657A1 (de) Verfahren zum Betreiben einer medizinischen Diagnoseeinrichtung sowie medizinische Diagnoseeinrichtung
DE102020206059A1 (de) Computerimplementiertes Verfahren und System zum Trainieren eines Auswertungsalgorithmus, Computerprogramm und elektronisch lesbarer Datenträger
DE10240216A1 (de) Verfahren und Datenbank zum Auffinden von medizinischen Studien
DE102007012048A1 (de) Verfahren zur Unterstützung bei der Erstellung einer medizinischen Diagnose sowie Datenbearbeitungsanlage
DE102020111584A1 (de) Verfahren zum Gewinnen von Daten mithilfe von Operationsmikroskopiesystemen
DE102021124256A1 (de) Mobile ki
EP3739592A1 (de) Dezentralisiert gesteuerte bildgebungsbasierte patientendatengewinnung
EP3637362A1 (de) Verfahren zur anpassung eines bildeindrucks
EP4205041A1 (de) System zur automatisierten harmonisierung strukturierter daten aus verschiedenen erfassungseinrichtungen
DE102020210709A1 (de) Computersystem und verfahren zur gleichzeitigen verbesserung und codierung von klinischen dokumenten
DE102007056620A1 (de) Verfahren zur Situationsadaptiven Dokumentation strukturierter Daten
DE102020111563A1 (de) Verfahren zum Gewinnen annotierter Daten mithilfe von Operationsmikroskopiesystemen
DE10254941B4 (de) Vorrichtung zum Aufbau einer medizinischen Datenbank

Legal Events

Date Code Title Description
R012 Request for examination validly filed
R016 Response to examination communication