LU601246B1 - Verfahren und System zur Interpretation von Modellalgorithmen der künstlichen Intelligenz - Google Patents

Verfahren und System zur Interpretation von Modellalgorithmen der künstlichen Intelligenz

Info

Publication number
LU601246B1
LU601246B1 LU601246A LU601246A LU601246B1 LU 601246 B1 LU601246 B1 LU 601246B1 LU 601246 A LU601246 A LU 601246A LU 601246 A LU601246 A LU 601246A LU 601246 B1 LU601246 B1 LU 601246B1
Authority
LU
Luxembourg
Prior art keywords
causal
features
interpretation
subset
multimodal
Prior art date
Application number
LU601246A
Other languages
English (en)
Inventor
Hui Li
Qiang Suo
Yan Pan
Qiwen Cao
Luyao Liu
Yongfeng Ni
Roujia TAO
Zhipeng Wang
Tianyu Yu
Zhou Ren
Original Assignee
Shanghai Prothentic Tech Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Prothentic Tech Co Ltd filed Critical Shanghai Prothentic Tech Co Ltd
Priority to LU601246A priority Critical patent/LU601246B1/de
Application granted granted Critical
Publication of LU601246B1 publication Critical patent/LU601246B1/de

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/094—Adversarial learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/02—Knowledge representation; Symbolic representation
    • G06N5/022—Knowledge engineering; Knowledge acquisition
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/04—Inference or reasoning models
    • G06N5/045—Explanation of inference; Explainable artificial intelligence [XAI]; Interpretable artificial intelligence

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Medical Informatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

Die vorliegende Erfindung stellt ein Verfahren und System zur Interpretation von Modellalgorithmen der künstlichen Intelligenz zur Verfügung und bezieht sich auf das Gebiet der interpretierbaren Technologie der künstlichen Intelligenz. Das Verfahren und System zur Interpretation des Modellalgorithmus der künstlichen Intelligenz umfasst S1: Modellierung intermodaler Merkmalsassoziationen auf den Eingabedaten auf der Grundlage multimodaler Eingabedaten unter Verwendung eines Algorithmus zum Abgleich der crossmodalen Aufmerksamkeit, Quantifizierung des Beitrags jedes modalen Merkmals zur Ausgabe des Modells mittels einer Gradientenklassen-Aktivierungskarte mit einer lokal interpretierbaren modellunabhängigen Interpretation und Erzeugung von Ergebnissen der Analyse der Bedeutung der multimodalen Merkmale. Durch die Konstruktion der Korrelationsmatrix zwischen lokalen Bildregionen und Texteinbettungen, die Kombination von gradientenähnlichen Aktivierungskarten mit der Berechnung des Beitrags von Textmerkmalen, die Quantifizierung der crossmodalen Interaktionsgewichte, um eine genaue Positionierung der multimodalen Merkmalsbedeutungsanalyse zu erreichen, das Screening der Teilmenge von Merkmalen, die kausal mit dem Modelloutput verbunden sind, basierend auf dem Kausalentdeckungsalgorithmus, und die Verwendung eines kontrafaktischen Stichprobengenerators, um die nicht-kausalen Merkmale zu stören, um die Robustheit der Merkmale zu validieren und Pseudokorrelationsstörungen auszuschließen.

Description

Verfahren und System zur Interpretation von Modellalgorithmen der künstlichen LU601246
Intelligenz
Technischer Bereich
Die vorliegende Erfindung bezieht sich auf das technische Gebiet der interpretierbaren künstlichen Intelligenz, insbesondere auf das Verfahren und System zur Interpretation von
Modellalgorithmen der künstlichen Intelligenz.
Technologie im Hintergrund
Interpretierbare KI ist ein wichtiger Zweig der KI, dessen Hauptziel darin besteht, die
Entscheidungslogik komplexer Modelle für den Menschen transparent und verständlich zu machen. In diesem Bereich werden die internen Arbeitsmechanismen von Modellen durch
Algorithmenentwurf, Visualisierungstools und interaktive Interpretationssysteme offengelegt und die Glaubwürdigkeits- und Compliance-Probleme von Black-Box-Modellen in Szenarien mit hohem Zuverlässigkeitsbedarf gelöst, z. B. bei der medizinischen Diagnose, der Kontrolle von Finanzrisiken und dem automatischen Fahren. Die Interpretationsmethode und das System für KI-Modellalgorithmen bezieht sich auf die Lösung, die die Entscheidungslogik des Modells dynamisch offenlegt und seine Konsistenz durch die Techniken der multimodalen
Merkmalskorrelationsanalyse, der kausalen Modifikation, der semantisierten
Inferenzkettenextraktion und der hierarchischen Interpretationserzeugung überwacht. Ziel ist es, eine transparente Entscheidungshilfe für die medizinische Bildanalyse, die Bewertung finanzieller Risiken und andere Szenarien zu bieten, den MNutzern zu helfen, die
Schlüsselmerkmale und Argumentationspfade zu verstehen, auf die sich die Modelle stützen, die Fairness und Robustheit der Algorithmen zu überprüfen und die langfristige Zuverlässigkeit der Interpretationsergebnisse während des Modell-Iterationsprozesses sicherzustellen.
Bestehende Verfahren konzentrieren sich auf die Berechnung des Beitrags von unimodalen
Merkmalen bei der multimodalen Merkmalsanalyse, und es fehlt eine quantitative Modellierung der Gewichte der intermodalen Interaktion, was zu einer unzureichenden Genauigkeit bei der
Identifizierung der Relevanz von Schlüsselmerkmalen in Szenarien mit Datenfusion aus mehreren Quellen führt. Bei der Merkmalsauswahl wird nicht streng zwischen statistischer
Korrelation und Kausalität unterschieden, wodurch pseudokorrelierte Merkmale erhalten bleiben und die Glaubwürdigkeit der Entscheidungslogik beeinträchtigt wird. Die Generierung der Interpretation beruht auf der direkten Abbildung der versteckten Schicht des Modells und wird nicht mit der Abbildung des Domänenwissens kombiniert, was zu einem geringen Grad an
Semantisierung der Interpretationsergebnisse führt, was es schwierig macht, die Anforderungen an die Argumentation und Validierung in professionellen Szenarien zu erfüllen. Die einheitliche
Ausgabegranularitit der Erklärungsinhalte kann sich nicht an die kognitiven Unterschiede von
Nutzern mit unterschiedlichem Fachwissen anpassen, was den praktischen Anwendungswert der Erklärungsinformationen verringert.
Inhalt der Erfindung
Mit Blick auf die Unzulänglichkeiten des Standes der Technik stellt die vorliegende
Erfindung ein Verfahren und ein System zur Interpretation von Modellalgorithmen der künstlichen Intelligenz bereit, das das Problem löst, dass der Stand der Technik sich auf die
Berechnung des unimodalen Merkmalsbeitrags in der multimodalen Merkmalsanalyse konzentriert und die quantitative Modellierung der crossmodalen Interaktionsgewichte vermissen lässt, was zu einer unzureichenden Genauigkeit bei der Identifizierung der Relevanz von Schlüsselmerkmalen im Szenario der Datenfusion aus mehreren Quellen führt.
Um den oben genannten Zweck zu erreichen, wird die vorliegende Erfindung durch di&-U601246 folgende technische Losung erreicht: ein Verfahren zur Interpretation von Modellalgorithmen der künstlichen Intelligenz, das die folgenden Schritte umfasst:
S1: Auf der Grundlage der multimodalen Eingabedaten wird die Korrelationsmatrix zwischen den lokalen Regionen des Bildes und der Textworteinbettung konstruiert, die
Schlüsselregionen des Bildes werden lokalisiert, der Beitrag der Textmerkmale wird berechnet, die multimodale Merkmalswichtigkeit wird gewichtet und die Ergebnisse der multimodalen
Merkmalswichtigkeitsanalyse werden erstellt;
S2: Auf der Grundlage der Ergebnisse der multimodalen Merkmalsgewichtsanalyse wird die Teilmenge der Merkmale herausgefiltert, die eine kausale Beziehung zur Modellausgabe haben, die nicht-kausalen Merkmale werden gestort, um Vergleichsproben zu erzeugen, die
Robustheit der Merkmale wird überprüft, die pseudo-relevanten Stôrelemente werden herausgefiltert, und die Teilmenge der kausalen Korrekturmerkmale wird erzeugt;
S3: Auf der Grundlage der Teilmenge der Kausalkorrekturmerkmale wird die Darstellung der verborgenen Schicht des Modells mit dem Einbettungsraum des Domänenwissensgraphen abgeglichen, die Assoziationspfade zwischen den Schlüsselneuronen, die im
Entscheidungsprozess des Modells aktiviert werden, und den Knoten des Wissensgraphen extrahiert und die semantisierte Entscheidungspfad-Zuordnungstabelle erstellt;
S4: Auf der Grundlage der semantisierten Entscheidungspfad-Zuordnungstabelle trainieren
Sie das Kompetenzbewertungsmodell, passen die Ausgabegranularität entsprechend der primären, mittleren und Expertenebene an und erzeugen adaptive hierarchische
Interpretationsinhalte;
SS: Auf der Grundlage des adaptiven hierarchischen Interpretationsinhalts die
JS-Dispersion derselben Stichprobe vor und nach der Modelliteration berechnen, die neue
Teilmenge von Daten ausfindig machen, die dazu führt, dass die Differenz den Schwellenwert überschreitet, ihre kausale Beziehung mit der Parameteraktualisierung korrelieren und den
Bericht zur Uberwachung der Interpretationskonsistenz erstellen.
Vorzugsweise umfasst die Erzeugung der Ergebnisse der multimodalen
Merkmalsgewichtsanalyse auf der Grundlage der Ergebnisse der multimodalen
Merkmalsgewichtsanalyse in S1 die folgenden Schritte:
S101: Basierend auf den multimodalen FEingabedaten, Konstruieren einer
Assoziationsmatrix von lokalen Bildregionen und Textworteinbettungen, Quantifizieren von intermodalen Interaktionsgewichten und Erzeugen einer crossmodalen Assoziationsmatrix;
S102: basierend auf der cross-modalen Korrelationsmatrix, Lokalisieren der
Bild-Schlüsselregion, Fusionieren der Textmerkmal-Beitragsberechnung, Gewichtung des ausgegebenen multimodalen Merkmals-Bedeutungs-Scores, und Erzeugen des multimodalen
Merkmals-Bedeutungs-Analyse-Ergebnisfeldes.
Vorzugsweise umfasst das Erzeugen einer Teilmenge von kausalen Korrekturmerkmalen auf der Grundlage von S2 die folgenden Schritte:
S201: Basierend auf den Ergebnissen der multimodalen Merkmalsbedeutungsanalyse wird eine Teilmenge von kausalen Merkmalen durch einen bedingten Unabhängigkeitstest und kausales Graphenstrukturlernen gescreent, und eine Teilmenge von kausalen
Merkmalskandidaten wird erzeugt;
S202: Basierend auf der Untergruppe der kausalen Merkmalskandidaten werden
Vergleichsproben erzeugt, um die Robustheit der Merkmale zu verifizieren, pseudorelevante
Interferenzterme herausgefiltert und eine Untergruppe kausaler Korrekturmerkmale erzeugt. LU601246
Vorzugsweise umfasst die Erzeugung einer semantisierten
Entscheidungspfad-Abbildungstabelle auf der Grundlage der semantisierten
Entscheidungspfad-Abbildungstabelle in S3 die folgenden Schritte:
S301: Basierend auf einer Teilmenge von Kausalkorrekturmerkmalen, Ausrichten der
Darstellung der verborgenen Schicht des Modells mit dem Einbettungsraum der
Wissensgraphenentität, Minimieren des semantischen Abstands und Erzeugen der
Abbildungstabelle der verborgenen Schicht und der Wissensentität;
S302: auf der Grundlage des Abgleichs der Abbildungstabelle Extrahieren der
Assoziationspfade zwischen Schlüsselneuronen und Wissensgraphknoten, Erzeugen der semantisierten Entscheidungspfad-Abbildungstabelle.
Vorzugsweise umfasst die Erzeugung des adaptiven hierarchischen Interpretationsinhalts auf der Grundlage des Inhalts in S4 die folgenden Schritte:
S401: basierend auf der semantisierten Entscheidungspfad-Mapping-Tabelle, Trainieren des Professionalitäts-Scoring-Modells durch die historischen Interaktionsdaten des Benutzers, um das Benutzer-Professionalitäts-Portrait zu erzeugen;
S402: auf der Grundlage des Porträts der Benutzerprofessionalität, Anpassen der
Ausgabegranularität nach Primär-, Zwischen- und Expertenebene, um den adaptiven hierarchischen Interpretationsinhalt zu erzeugen.
Vorzugsweise umfasst das Erzeugen eines Berichts zur Überwachung der
Erklärungskonsistenz auf der Grundlage von S5 die folgenden Schritte:
S501: auf der Grundlage des adaptiven hierarchischen Interpretationsinhalts, Berechnen der Differenz in der Interpretationsverteilung derselben Probe vor und nach der
Modellaktualisierung und Erzeugen einer Interpretationsdiskrepanzskala;
S502: basierend auf der Erklärungsdiskrepanz-Scoring-Tabelle, Lokalisieren des hinzugefügten Datenteilsatzes, Assoziieren seiner kausalen Beziehung mit der
Parameteraktualisierung und Erzeugen des Erklärungskonsistenz-Überwachungsberichts.
Das System zur Interpretation von Modellalgorithmen der künstlichen Intelligenz, wobei das Interpretationssystem für den Algorithmus des künstlichen Intelligenzmodells die folgenden
Module umfasst: ein multimodales Kausalanalysemodul, ein semantisches hierarchisches
Interpretationsmodul und ein Modul zur Überwachung der Konsistenz der Interpretation;
Das multimodale Kausalanalysemodul konstruiert eine Assoziationsmatrix von Bildern und Text, quantifiziert Merkmalsbeiträge, filtert eine Teilmenge von kausalen Merkmalen, filtert pseudorelevantes Rauschen und erzeugt eine Teilmenge von kausalen
Korrekturmerkmalen;
Das multimodale Kausalanalysemodul, das ein Untermodul für den crossmodalen
Abgleich und ein Untermodul für die kausale Korrektur enthält;
Das semantische hierarchische Interpretationsmodul, das die verborgene Schicht des
Modells mit der Entität des Wissensgraphen abgleicht, die Entscheidungsinferenzkette extrahiert, den Grad des Fachwissens des Benutzers identifiziert, die Interpretation nach Ebene ausgibt und adaptive hierarchische Interpretationsinhalte erzeugt;
Das semantische hierarchisches Interpretationsmodul, das ein semantisches
Mapping-Untermodul und ein hierarchisches Generierungs-Untermodul enthält;
Das Modul zur Überwachung der Interpretationskonsistenz, um die Unterschiede in der
Verteilung der Interpretation zu quantifizieren, die neuen Datenteilmengen zu lokalisieren,
Parameter zuzuordnen, um die Kausalität zu aktualisieren, und den Bericht zur Überwachung 601246 der Interpretationskonsistenz zu erzeugen; das Modul zur Überwachung der
Interpretationskonsistenz umfasst das Untermodul für die Diskrepanzmetrik und das
Untermodul für die Rückverfolgbarkeit der Drift.
Vorzugsweise konstruiert ein Untermodul für den cross-modalen Abgleich eine
Assoziationsmatrix aus lokalen Regionen des Bildes und Text-Worteinbettungen und erzeugt eine cross-modale Assoziationsmatrix;
Das Untermodul für kausale Korrekturen, das die Schlüsselregionen des Bildes lokalisiert, den Beitrag der Textmerkmale berechnet, die Teilmenge der kausalen Merkmale filtert, das pseudorelevante Rauschen filtert und die Teilmenge der kausalen Korrekturmerkmale erzeugt.
Vorzugsweise das semantische Mapping-Submodul, das die Repräsentation der verborgenen Schicht des Modells mit dem Einbettungsraum des Wissensgraphen abgleicht, die verborgene Schicht und die Wissensentitäts-Mapping- Tabelle erzeugt;
Das Untermodul für die hierarchische Erzeugung, das semantisierte Inferenzketten extrahiert, das Fachwissen des Benutzers identifiziert, dynamisch hierarchische
Erklärungsinhalte erzeugt und adaptive hierarchische Erklärungsinhalte erzeugt.
Vorzugsweise ein Untermodul für die Diskrepanzmetrik, das den Unterschied in der
Verteilung der Erklärungen vor und nach der Modellaktualisierung berechnet und ein
Bewertungsblatt für die Erklärungsdiskrepanz erstellt;
Das Untermodul für die Rückverfolgbarkeit der Drift, das die hinzugefügte Teilmenge von
Daten lokalisiert, Parameter korreliert, um die Kausalität zu aktualisieren, und einen Bericht zur
Überwachung der Erklärungskonsistenz erstellt.
Die vorliegende Erfindung stellt das Verfahren und System zur Interpretation von
Modellalgorithmen der künstlichen Intelligenz bereit.
Sie hat die folgenden vorteilhaften Auswirkungen:
Die vorliegende Erfindung quantifiziert cross-modale Interaktionsgewichte durch die
Konstruktion einer Assoziationsmatrix von lokalen Bildregionen und Textworteinbettungen, die
Kombination von Gradientenklassen-Aktivierungskarten mit der Berechnung des Beitrags von
Textmerkmalen und die Realisierung einer genauen Positionierung für die Analyse der
Bedeutung multimodaler Merkmale. Basierend auf dem Kausalerkennungsalgorithmus überprüfen wir die Teilmenge der Merkmale, die eine kausale Beziehung zur Modellausgabe haben, und verwenden den Generator für kontrafaktische Stichproben, um die nicht kausalen
Merkmale zu stören, um die Robustheit der Merkmale zu überprüfen und die
Pseudokorrelationsstörung zu beseitigen, um so die Zuverlässigkeit der Merkmalsauswahl und die Glaubwürdigkeit der Entscheidungslogik zu verbessern. Anpassung der Darstellung der verborgenen Schicht des Modells an den Einbettungsraum des Domänenwissensgraphen,
Extraktion der Assoziationspfade zwischen Schlüsselneuronen und Wissensknoten und
Konstruktion der semantisierten Inferenzkette, um die Verständlichkeit und die
Anpassungsfähigkeit der Interpretationsergebnisse zu verbessern. Durch das Training des
Modells zur Bewertung der Benutzerexpertise wird die Granularität des Erklärungsinhalts dynamisch angepasst, um den Bedürfnissen von Benutzern mit unterschiedlichem beruflichem
Hintergrund gerecht zu werden und den praktischen Nutzen der Erklärungsinformationen zu verbessern. Wir berechnen die Verteilungsdifferenz der Interpretationsergebnisse vor und nach der Modelliteration, ermitteln die kausale Beziehung zwischen der neuen Datenuntermenge und der Parameteraktualisierung und überwachen kontinuierlich die Konsistenz der Interpretation,
um die Stabilität der Interpretationslogik während des langfristigen Iterationsprozesse4 V601 246 sicherzustellen. Die Verarbeitungslogik lôst systematisch die Probleme der Verzerrung der
Merkmalsinterpretation, der Pseudokorrelationsinterferenz, der semantischen Trennung und der dynamischen Anpassungsfähigkeit in multimodalen Szenarien durch cross-modale Fusion, 5 kausale Modifikation, Einbettung von Wissensgraphen, hierarchische Generierung und inkrementelle Überwachung.
Beschreibung der beigefügten Zeichnungen
Bild 1 zeigt ein Blockdiagramm des Systems der vorliegenden Erfindung;
Bild 2 zeigt ein schematisches Diagramm der wichtigsten Schritte der vorliegenden
Erfindung;
Bild 3 zeigt ein schematisches Diagramm der S1-Veredelung der vorliegenden Erfindung;
Bild 4 zeigt ein schematisches Diagramm der S2-Veredelung der vorliegenden Erfindung;
Bild 5 zeigt ein schematisches Diagramm der S3-Veredelung der vorliegenden Erfindung;
Bild 6 zeigt ein schematisches Diagramm der S4-Verfeinerung der vorliegenden
Erfindung;
Bild 7 zeigt ein schematisches Diagramm der S5-Verfeinerung der vorliegenden
Erfindung.
Detaillierte Beschreibung
Die technischen Lösungen in den Ausführungsformen der vorliegenden Erfindung werden im Folgenden in Verbindung mit den beigefügten Zeichnungen in den Ausführungsformen der vorliegenden Erfindung klar und vollständig beschrieben, und es ist offensichtlich, dass die beschriebenen Ausführungsformen nur einen Teil der Ausführungsformen der vorliegenden
Erfindung und nicht alle Ausführungsformen darstellen. Ausgehend von den
Ausführungsformen der vorliegenden Erfindung fallen alle anderen Ausführungsformen, die von einem Fachmann ohne schôpferische Arbeit erreicht werden, in den Schutzbereich der vorliegenden Erfindung.
Ausführungsform
Wie in Bilder 1-7 gezeigt, stellt eine Ausführungsform der vorliegenden Erfindung ein
Interpretationsverfahren eines Algorithmus für ein künstliches Intelligenzmodell bereit, das die folgenden Schritte umfasst:
S1: Auf der Grundlage der multimodalen Eingabedaten wird eine Assoziationsmatrix von lokalen Bildregionen und Textworteinbettungen konstruiert, die Bildschlüsselregionen werden lokalisiert, der Textmerkmalsbeitragsgrad wird berechnet, die = multimodale
Merkmalswichtigkeitspunkte werden gewichtet und die multimodalen
Merkmalswichtigkeitsanalyseergebnisse werden erzeugt;
Auf der Grundlage der multimodalen Eingabedaten wird der Mechanismus der cross-modalen Aufmerksamkeit verwendet, um die Assoziationsmatrix zwischen lokalen
Bildregionen und Textworteinbettungen zu konstruieren, die Schlüsselregionen des Bildes durch gradientengewichtete Klassenaktivierungszuordnung zu lokalisieren, den
Textmerkmalsbeitrag auf der Grundlage des Shapley-Wertes zu berechnen und die Ausgabe der multimodalen Merkmalswichtigkeitspunkte zu gewichten, um die Ergebnisse der multimodalen
Merkmalswichtigkeitsanalyse zu erzeugen.
S2: Auf der Grundlage der Ergebnisse der multimodalen Merkmalsbedeutungsanalyse wird die Teilmenge der Merkmale herausgefiltert, die eine kausale Beziehung zur Modellausgabe haben, die nicht kausalen Merkmale werden gestört, um Vergleichsproben zu erzeugen, die
Robustheit der Merkmale wird überprüft, die pseudorelevanten Interferenzterme werdet+-V601 246 gefiltert und eine Teilmenge der kausalen Korrekturmerkmale wird erzeugt;
Basierend auf den Ergebnissen von SI, verwenden Sie den kausalen
Strukturlernalgorithmus, um die kausale Merkmalsuntermenge zu filtern, erzeugen Sie kontrafaktische Proben durch ein generatives adverses Netzwerk, um die Merkmalsrobustheit zu verifizieren, filtern Sie die pseudorelevanten Interferenzterme, und erzeugen Sie die kausale
Korrekturmerkmalsuntermenge.
S3: Auf der Grundlage der kausal modifizierten Merkmalsuntermenge wird die
Darstellung der verborgenen Schicht des Modells mit dem Einbettungsraum des
Domänenwissensgraphen abgeglichen, die Assoziationspfade zwischen den im
Entscheidungsprozess des Modells aktivierten Schlüsselneuronen und den Knoten des
Wissensgraphen extrahiert und die semantisierte Entscheidungspfad-Zuordnungstabelle erstellt;
Auf der Grundlage der Teilmenge S2 wird der Algorithmus zur Einbettung des
Wissensgraphen verwendet, um die Darstellung der verborgenen Schicht des Modells mit der
Entität des Wissensgraphen abzugleichen, und die Assoziationspfade zwischen den
Schlüsselneuronen und den Wissensknoten werden durch die Pfadsuche des neuronalen Netzes des Graphen extrahiert, um die semantisierte Tabelle der Entscheidungspfadabbildung zu erzeugen.
S4: Auf der Grundlage der semantisierten Entscheidungspfad-Zuordnungstabelle trainieren
Sie das Professionalitätsbewertungsmodell, passen die Ausgabegranularität entsprechend der
Primär-, Zwischen- und Expertenebene an und erzeugen adaptive hierarchische
Interpretationsinhalte;
Auf der Grundlage der S3-Zuordnungstabelle das
Support-Vector-Machine-Expertise-Bewertungsmodell trainieren, mit dem
Multigranularitätsmodul zur Erzeugung natürlicher Sprache kombinieren, um die Granularität des Interpretationsinhalts dynamisch anzupassen, und den adaptiven hierarchischen
Interpretationsinhalt erzeugen.
SS: Auf der Grundlage des adaptiven hierarchischen Interpretationsinhalts wird die
JS-Dispersion derselben Probe vor und nach der Modelliteration berechnet, die neue Teilmenge von Daten lokalisiert, die dazu führt, dass die Differenz den Schwellenwert überschreitet, ihre kausale Beziehung mit der Parameteraktualisierung korreliert und der Bericht zur Überwachung der Interpretationskonsistenz erstellt.
Basierend auf dem Inhalt von S4 wird der inkrementelle JS-Streuungsalgorithmus verwendet, um den Unterschied in der Interpretationsverteilung vor und nach der
Modelliteration zu berechnen, die Teilmenge von Daten zu finden, die die Quelle des
Unterschieds durch die Analyse der Merkmalsbedeutung ist, sie mit der kausalen Beziehung zur
Parameteraktualisierung zu korrelieren und den Bericht zur Überwachung der
Interpretationskonsistenz zu erstellen.
Die Erzeugung von Ergebnissen der multimodalen Merkmalsbedeutungsanalyse auf der
Grundlage von S1 umfasst die folgenden Schritte:
S101: Auf der Grundlage der multimodalen Fingabedaten eine Assoziationsmatrix von lokalen Bildregionen und Texteinbettungen konstruieren, die intermodalen Interaktionsgewichte quantifizieren und eine crossmodale Assoziationsmatrix erzeugen;
Konstruieren einer Bild-Text-Assoziationsmatrix unter Verwendung eines intermodalen
Aufmerksamkeitsausrichtungsalgorithmus, um die Interaktionsgewichte zu quantifizieren.
S102: Basierend auf der cross-modalen Korrelationsmatrix wird die Schlüsselregion des-V601246
Bildes lokalisiert, die Berechnung des Textmerkmalsbeitrags fusioniert, die multimodale
Merkmalswichtigkeit gewichtet und das Ergebnisfeld der multimodalen
Merkmalswichtigkeitsanalyse erzeugt.
Basierend auf Grad-CAM, lokalisieren Sie die Schlüsselregionen des Bildes, fusionieren
Sie LIME, um den Textbeitrag zu berechnen, und geben Sie die multimodale
Wichtigkeitsbewertung aus.
Das Erzeugen einer Teilmenge von kausalen Modifikationsmerkmalen auf der Grundlage von S2 umfasst die folgenden Schritte:
S201: Erzeugen einer Teilmenge kausaler Merkmalskandidaten durch Screening der
Teilmenge kausaler Merkmale durch bedingten Unabhängigkeitstest mit kausalem
Graphstrukturlernen auf der Grundlage der Ergebnisse der multimodalen
Merkmalsbedeutungsanalyse;
Screening der Teilmenge der kausalen Merkmalskandidaten durch einen bedingten
Unabhéngigkeitstest mit dem FCI-Algorithmus.
S202: Auf der Grundlage der Teilmenge der kausalen Merkmalskandidaten werden
Vergleichsproben erzeugt, um die Robustheit der Merkmale zu überprüfen, pseudorelevante
Interferenzbegriffe herauszufiltern und eine Teilmenge kausaler Korrekturmerkmale zu erzeugen.
Nicht-kausale ~GAN-Storungsmerkmale werden verwendet, um kontrafaktische
Stichproben zu erzeugen und die Interferenzterme zu filtern.
Die Erzeugung einer semantisierten Entscheidungspfad-Mapping-Tabelle auf der
Grundlage von S3 umfasst die folgenden Schritte:
S301: Auf der Grundlage der Teilmenge der kausalen Korrekturmerkmale wird die
Darstellung der verborgenen Schicht des Modells an den Einbettungsraum der
Wissensgraphenentität angepasst, die semantische Distanz minimiert und die Zuordnungstabelle zwischen verborgener Schicht und Wissensentität erstellt;
Ausrichten der Hidden-Layer-Darstellungen mit den Wissensabbildungsentitäten durch den TransE-Algorithmus, Minimieren des semantischen Abstands.
S302: Auf der Grundlage der Ausrichtungsabbildungstabelle werden die Assoziationspfade zwischen Schlüsselneuronen und Wissensgraphenknoten extrahiert und die semantisierte
Entscheidungspfadabbildungstabelle erzeugt.
Extrahieren kritischer assoziierter Pfade auf der Grundlage der GNN-Pfadsuche und
Erzeugen semantisierter Zuordnungstabellen.
Die Generierung adaptiver hierarchischer Interpretationsinhalte auf der Grundlage von S4 umfasst die folgenden Schritte:
S401: Basierend auf der semantisierten Entscheidungspfad-Abbildungstabelle, Trainieren des Professionalitätsbewertungsmodells mit Benutzerhistorie-Interaktionsdaten, um ein
Benutzerprofessionalitätsporträt zu erzeugen;
Trainieren eines SVM-Expertise-Bewertungsmodells unter Verwendung von
Benutzerverlaufsdaten, um ein Benutzerporträt zu erzeugen.
S402: Auf der Grundlage des Porträts der Benutzerprofessionalität wird die
Ausgabegranularität entsprechend der primären, mittleren und Expertenebene angepasst, um adaptive hierarchische Interpretationsinhalte zu erzeugen.
Dynamische Erzeugung von multigranularen Erklärungsinhalten auf der Grundlage des
NLG-Moduls. LU601246
Das Erzeugen eines Berichts zur Überwachung der Interpretationskonsistenz auf der
Grundlage von S5 umfasst die folgenden Schritte:
S501: Auf der Grundlage des adaptiven hierarchischen Interpretationsinhalts Berechnung des Unterschieds in der Interpretationsverteilung derselben Probe vor und nach der
Modellaktualisierung und Erzeugung einer Interpretationsdiskrepanz-Scoretabelle;
Berechnen der JS-Dispersion vor und nach der Modelliteration, Erzeugen einer
Erklärungsdiskrepanz-Scoretabelle.
S502: Auf der Grundlage der Tabelle für Erklärungsdiskrepanzen wird die neue
Datenuntergruppe lokalisiert, ihre kausale Beziehung mit der Parameteraktualisierung korreliert und ein Bericht zur Überwachung der Erklärungskonsistenz erstellt.
Lokalisieren Sie die Quelldaten der Diskrepanz durch Backtracking-Analyse und korrelieren Sie die Kausalkette der Parameteraktualisierungen.
Das System zur Interpretation von Modellalgorithmen der künstlichen Intelligenz, wobei das Interpretationssystem für den Algorithmus des künstlichen Intelligenzmodells die folgenden
Module umfasst: ein multimodales Kausalanalysemodul, ein semantisches hierarchisches
Interpretationsmodul und ein Modul zur Überwachung der Konsistenz der Interpretation;
Das multimodale Kausalanalysemodul konstruiert eine Assoziationsmatrix von Bildern und Text, quantifiziert Merkmalsbeiträge, filtert eine Teilmenge von kausalen Merkmalen, filtert pseudorelevantes Rauschen und erzeugt eine Teilmenge von kausalen
Korrekturmerkmalen;
Das multimodale Kausalanalysemodul, das ein Untermodul für den crossmodalen
Abgleich und ein Untermodul für die kausale Korrektur enthält;
Das semantische hierarchische Interpretationsmodul, das die verborgene Schicht des
Modells mit der Entität des Wissensgraphen abgleicht, die Entscheidungsinferenzkette extrahiert, den Grad des Fachwissens des Benutzers identifiziert, die Interpretation nach Ebene ausgibt und adaptive hierarchische Interpretationsinhalte erzeugt;
Das semantische hierarchische Interpretationsmodul umfasst ein semantisches
Mapping-Untermodul und ein hierarchisches Generierungs-Untermodul;
Das Modul zur Überwachung der Interpretationskonsistenz, um die Unterschiede in der
Interpretationsverteilung zu quantifizieren, die hinzugefügten Datenteilmengen zu lokalisieren, die Parameter zu korrelieren, um die Kausalität zu aktualisieren, und den Bericht zur
Überwachung der Interpretationskonsistenz zu erstellen;
Das Modul zur Überwachung der Interpretationskonsistenz umfasst ein Untermodul für die
Diskrepanzmetrik und ein Untermodul für die Rückverfolgbarkeit der Drift.
Vorzugsweise konstruiert das Untermodul für den cross-modalen Abgleich eine
Assoziationsmatrix aus lokalen Bildregionen und Textworteinbettungen und erzeugt eine cross-modale Assoziationsmatrix;
Ein cross-modaler Aufmerksamkeitsmechanismus wird verwendet, um eine
Assoziationsmatrix von lokalen Bildregionen und Textworteinbettungen zu konstruieren, inter-modale Interaktionsgewichte zu quantifizieren und eine cross-modale Assoziationsmatrix zu erzeugen.
Das Untermodul für kausale Korrekturen, Lokalisierung von Bild-Schlüsselregionen,
Berechnung des Beitrags von Textmerkmalen, Filterung der Teilmenge kausaler Merkmale,
Filterung von Pseudokorrelationsrauschen, Erzeugung einer Teilmenge kausaler
Korrekturmerkmale. LU601246
Basierend auf der cross-modalen Korrelationsmatrix, Lokalisierung der Schlüsselregion des Bildes durch gradientengewichtete Klassenaktivierungszuordnung, Fusion von lokal interpretierbaren, modellirrelevanten Interpretationen zur Berechnung des
Textmerkmalsbeitrags, kombiniert mit dem Kausalerkennungsalgorithmus zur Filterung der kausalen Merkmalsuntermenge, Verwendung eines generativen adversen Netzwerks zur
Störung der nicht-kausalen Merkmale zur Erzeugung kontrafaktischer Proben, Filterung des pseudorelevanten Rauschens und Erzeugung der kausalen Korrekturmerkmalsuntermenge.
Das semantische Mapping-Submodul, um die Darstellung der verborgenen Schicht des
Modells mit dem Raum der Wissensgrapheneinbettung abzugleichen, um die verborgene
Schicht und die Wissensentitätstabelle zu erzeugen;
Anwendung des Algorithmus zur Einbettung von Wissensgraphen, um die Darstellung der verborgenen Schicht des Modells mit dem Raum der Einbettung von Wissensgraphen abzugleichen, die semantische Distanz zu minimieren und die verborgene Schicht und die
Wissensentitätsabbildungstabelle zu erzeugen.
Das Untermodul für die hierarchische Generierung, das semantisierte Inferenzketten extrahiert, das Fachwissen der Benutzer identifiziert, dynamisch hierarchische
Interpretationsinhalte generiert und adaptive hierarchische Interpretationsinhalte generiert.
Auf der Grundlage der Mapping-Tabelle wird die semantisierte Inferenzkette durch die
Pfadsuche des graphischen neuronalen Netzes extrahiert und mit dem durch den
Support-Vector-Machine-Klassifikator identifizierten Nutzer-Know-how-Porträt kombiniert.
Das Modul zur Erzeugung natürlicher Sprache mit mehreren Granularitäten wird zur dynamischen Erzeugung von Interpretationsinhalten auf Primär-, Zwischen- und Expertenebene sowie zur Erzeugung adaptiver hierarchischer Interpretationsinhalte verwendet.
Das Untermodul für die Diskrepanzmessung berechnet den Unterschied in der Verteilung der Erklärungen vor und nach der Modellaktualisierung und erstellt eine Tabelle für die
Erklärungsdiskrepanz;
Auf der Grundlage des adaptiven hierarchischen Interpretationsinhalts berechnet der inkrementelle JS-Dispersionsalgorithmus den Unterschied in der Interpretationsverteilung der gleichen Probe vor und nach der Modelliteration und erzeugt die
Interpretationsdiskrepanzskala.
Das Drift-Traceability-Submodul lokalisiert neue Teilmengen von Daten, korreliert
Parameter, um die Kausalität zu aktualisieren, und erstellt Berichte zur Überwachung der
Interpretationskonsistenz.
Verwenden Sie den Algorithmus fiir die Analyse der Merkmalsbedeutung (Feature
Importance Backtracking), um die neue Datenuntergruppe zu finden, bei der die Differenz den
Schwellenwert überschreitet, kombinieren Sie die Methode zur Schätzung des kausalen Effekts, um die kausale Beziehung mit der Aktualisierung der Parameter zu verknüpfen, und erstellen
Sie den Bericht zur Überwachung der Erklärungskonsistenz.
Obwohl Ausführungsformen der vorliegenden Erfindung gezeigt und beschrieben wurden, wird der Fachmann erkennen, dass eine Vielzahl von Änderungen, Modifikationen, Ersetzungen und Variationen an diesen Ausführungsformen vorgenommen werden können, ohne vom
Prinzip und Geist der vorliegenden Erfindung abzuweichen, deren Umfang durch die beigefügten Ansprüche und deren Äquivalente begrenzt ist.

Claims (10)

Ansprüche LU601246
1. Das Verfahren zur Interpretation von Modellalgorithmen der künstlichen Intelligenz, dadurch gekennzeichnet, dass es die folgenden Schritte umfasst: S1: Auf der Grundlage der multimodalen Eingabedaten Konstruieren einer Assoziationsmatrix von lokalen Bildregionen und Textworteinbettungen, Lokalisieren von Bild-Schlüsselregionen, Berechnen des Beitrags von Textmerkmalen, Gewichten der ausgegebenen multimodalen Merkmalswichtigkeitsbewertung und Erzeugen von Ergebnissen der multimodalen Merkmalswichtigkeitsanalyse; S2: Auf der Grundlage der Ergebnisse der Analyse der Wichtigkeit multimodaler Merkmale wird die Teilmenge der Merkmale gefiltert, die eine kausale Beziehung mit der Modellausgabe haben, die nicht-kausalen Merkmale werden gestört, um Vergleichsproben zu erzeugen, die Robustheit der Merkmale wird überprüft, die pseudo-relevanten Störelemente werden gefiltert, und die Teilmenge der kausalen Korrekturmerkmale wird erzeugt; S3: Auf der Grundlage der Teilmenge der Kausalkorrekturmerkmale wird die Darstellung der verborgenen Schicht des Modells mit dem Einbettungsraum des Domänenwissensgraphen abgeglichen, die Assoziationspfade zwischen den Schlüsselneuronen, die im Entscheidungsprozess des Modells aktiviert werden, und den Knoten des Wissensgraphen extrahiert und die semantisierte Entscheidungspfad-Zuordnungstabelle erstellt; S4: Auf der Grundlage der semantisierten Entscheidungspfad-Zuordnungstabelle trainieren Sie das Kompetenzbewertungsmodell, passen die Ausgabegranularität entsprechend der primären, mittleren und Expertenebene an und erzeugen adaptive hierarchische Interpretationsinhalte; SS: Auf der Grundlage des adaptiven hierarchischen Interpretationsinhalts die JS-Dispersion derselben Stichprobe vor und nach der Modelliteration berechnen, die neue Teilmenge von Daten ausfindig machen, die dazu führt, dass die Differenz den Schwellenwert überschreitet, ihre kausale Beziehung mit der Parameteraktualisierung korrelieren und den Bericht zur Uberwachung der Interpretationskonsistenz erstellen.
2. Das Verfahren zur Interpretation von Modellalgorithmen der künstlichen Intelligenz nach Anspruch 1, dadurch gekennzeichnet, dass: die Erzeugung eines Ergebnisses der Wichtigkeitsanalyse der multimodalen Merkmale auf der Grundlage der multimodalen Merkmale in S1 die folgenden Schritte umfasst: S101: Auf der Grundlage der multimodalen Eingabedaten eine Assoziationsmatrix von lokalen Bildregionen und Textworteinbettungen konstruieren, die intermodalen Interaktionsgewichte quantifizieren und eine crossmodale Assoziationsmatrix erzeugen; S102: Basierend auf der cross-modalen Korrelationsmatrix wird die Schlüsselregion des Bildes lokalisiert, die Textmerkmalsbeitragsberechnung fusioniert, die multimodale Merkmalsbedeutungsausgangsbewertung gewichtet und das multimodale Merkmalsbedeutungsanalyseergebnisfeld erzeugt.
3. Das Verfahren zur Interpretation von Modellalgorithmen der künstlichen Intelligenz nach Anspruch 1, dadurch gekennzeichnet, dass: das Erzeugen einer Teilmenge von kausalen Modifikationsmerkmalen auf der Grundlage der kausalen Modifikationsmerkmale in S2 die folgenden Schritte umfasst: S201: Basierend auf den Ergebnissen der multimodalen Merkmalsbedeutungsanalyse, Screening der Teilmenge von kausalen Merkmalen durch bedingten Unabhängigkeitstest und kausales Graphenstrukturlernen, und Erzeugen der Teilmenge von kausaler-V601246 Merkmalskandidaten; S202: Erzeugen einer Teilmenge kausaler Merkmalskandidaten auf der Grundlage der Teilmenge kausaler Merkmale, Erzeugen von Vergleichsproben zum Verifizieren der Merkmalsrobustheit, Filtern pseudorelevanter Interferenzterme und Erzeugen einer Teilmenge kausaler Korrekturmerkmale.
4. Das Verfahren zur Interpretation von Modellalgorithmen der künstlichen Intelligenz nach Anspruch 1, dadurch gekennzeichnet, dass: das Erzeugen einer semantisierten Entscheidungspfad-Abbildungstabelle auf der Grundlage der semantisierten Entscheidungspfad-Abbildungstabelle in S3 die folgenden Schritte umfasst: S301: Basierend auf der Teilmenge von Kausalkorrekturmerkmalen, Ausrichten der verborgenen Schichtdarstellung des Modells mit dem Wissensgraphenentitätseinbettungsraum, Minimieren der semantischen Distanz und Erzeugen der verborgenen Schicht, Wissensentitätsabbildungstabelle; S302: Auf der Grundlage des Abgleichs der Abbildungstabelle, Extrahieren der Assoziationspfade zwischen Schlüsselneuronen und Wissensgraphknoten, Erzeugen der semantisierten Entscheidungspfad-Abbildungstabelle.
5. Das Verfahren zur Interpretation von Modellalgorithmen der künstlichen Intelligenz nach Anspruch 1, dadurch gekennzeichnet, dass: das Erzeugen adaptiver hierarchischer Interpretationsinhalte auf der Grundlage von S4 die folgenden Schritte umfasst: S401: Trainieren des Professionalitätsbewertungsmodells auf der Grundlage der semantisierten Entscheidungspfad-Abbildungstabelle durch die historischen Interaktionsdaten des Benutzers, um das Professionalitätsporträt des Benutzers zu erzeugen; S402: Anpassen der Ausgabegranularität nach Primär-, Zwischen- und Expertenebene auf der Grundlage des Benutzerprofessionalitätsportraits, um den adaptiven hierarchischen Interpretationsinhalt zu erzeugen.
6. Das Verfahren zur Interpretation von Modellalgorithmen der künstlichen Intelligenz nach Anspruch 1, dadurch gekennzeichnet, dass basierend auf: Erzeugen eines Berichts zur Überwachung der Konsistenz der Interpretation basierend auf in S5 die folgenden Schritte umfasst: S501: Berechnen der Differenz in der Interpretationsverteilung derselben Probe vor und nach der Modellaktualisierung auf der Grundlage des adaptiven hierarchischen Interpretationsinhalts und Erzeugen einer Interpretationsdiskrepanzskala; S502: Lokalisieren einer Teilmenge der hinzugefügten Daten, Zuordnen ihrer kausalen Beziehung zu der Parameteraktualisierung und Erzeugen eines Erklärungskonsistenz-Überwachungsberichts auf der Grundlage der Erklarungsdiskrepanz-Scoring-Tabelle.
7. Das System zur Interpretation von Modellalgorithmen der künstlichen Intelligenz, dadurch gekennzeichnet, dass das Interpretationssystem für den Algorithmus des künstlichen Intelligenzmodells die folgenden Module umfasst: ein multimodales Kausalanalysemodul, ein semantisches hierarchisches Interpretationsmodul und ein Modul zur Überwachung der Konsistenz der Interpretation; Das multimodale Kausalanalysemodul konstruiert eine Assoziationsmatrix von Bildern und Text, quantifiziert den Merkmalsbeitrag, filtert eine Teilmenge von kausalen Merkmalen, filtert Pseudokorrelationsrauschen und erzeugt eine Teilmenge von kausalen
Korrekturmerkmalen; LU601246 Das multimodale Kausalanalysemodul, einschließlich eines Untermoduls für den cross-modalen Abgleich und eines Untermoduls für die Kausalkorrektur; Das semantische hierarchische Interpretationsmodul, das die verborgene Schicht des Modells mit der Entität des Wissensgraphen abgleicht, die Entscheidungsinferenzkette extrahiert, den Grad des Fachwissens des Benutzers identifiziert, die Interpretation nach Ebene ausgibt und einen adaptiven hierarchischen Interpretationsinhalt erzeugt; Das semantische hierarchische Interpretationsmodul, das ein semantisches Mapping-Untermodul und ein hierarchisches Generierungs-Untermodul enthält; Das Modul zur Uberwachung der Interpretationskonsistenz, um die Unterschiede in der Verteilung der Interpretation zu quantifizieren, die neuen Datenteilmengen zu lokalisieren, Parameter zuzuordnen, um die Kausalitit zu aktualisieren, und den Bericht zur Uberwachung der Interpretationskonsistenz zu erzeugen; das Modul zur Überwachung der Interpretationskonsistenz umfasst das Untermodul für die Diskrepanzmetrik und das Untermodul für die Rückverfolgbarkeit der Drift.
8. Das System zur Interpretation von Modellalgorithmen der künstlichen Intelligenz nach Anspruch 7, dadurch gekennzeichnet, dass: ein Untermodul für den cross-modalen Abgleich eine Assoziationsmatrix von lokalen Regionen des Bildes und Textworteinbettungen konstruiert und eine cross-modale Assoziationsmatrix erzeugt; Das Untermodul zur kausalen Korrektur, das Schlüsselregionen des Bildes lokalisiert, Beiträge von Textmerkmalen berechnet, eine Teilmenge von kausalen Merkmalen filtert, pseudokorreliertes Rauschen filtert und eine Teilmenge von kausalen Korrekturmerkmalen erzeugt.
9. Das System zur Interpretation von Modellalgorithmen der künstlichen Intelligenz nach Anspruch 7, dadurch gekennzeichnet, dass: ein semantisches Abbildungsuntermodul, das die verborgene Schichtdarstellung des Modells mit dem Wissensgraphenentitätseinbettungsraum abgleicht, eine verborgene Schicht, Wissensentitätsabbildungstabelle erzeugt; Das Untermodul für die hierarchische Erzeugung, das eine semantisierte Inferenzkette extrahiert, das Fachwissen des Benutzers identifiziert, dynamisch einen hierarchischen Interpretationsinhalt erzeugt und einen adaptiven hierarchischen Interpretationsinhalt erzeugt.
10. Das System zur Interpretation von Modellalgorithmen der künstlichen Intelligenz nach Anspruch 7, dadurch gekennzeichnet, dass: ein Untermodul für eine Diskrepanzmetrik, das den Unterschied in der Verteilung von Erklärungen vor und nach der Modellaktualisierung berechnet und eine Tabelle zur Bewertung der Erklärungsdiskrepanz erzeugt; Das Untermodul für die Rückverfolgbarkeit von Driften, das eine Teilmenge der hinzugefügten Daten lokalisiert, Parameter korreliert, um kausale Beziehungen zu aktualisieren, und einen Bericht zur Überwachung der Erklärungskonsistenz erzeugt.
LU601246A 2025-04-22 2025-04-22 Verfahren und System zur Interpretation von Modellalgorithmen der künstlichen Intelligenz LU601246B1 (de)

Priority Applications (1)

Application Number Priority Date Filing Date Title
LU601246A LU601246B1 (de) 2025-04-22 2025-04-22 Verfahren und System zur Interpretation von Modellalgorithmen der künstlichen Intelligenz

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
LU601246A LU601246B1 (de) 2025-04-22 2025-04-22 Verfahren und System zur Interpretation von Modellalgorithmen der künstlichen Intelligenz

Publications (1)

Publication Number Publication Date
LU601246B1 true LU601246B1 (de) 2025-10-22

Family

ID=97406089

Family Applications (1)

Application Number Title Priority Date Filing Date
LU601246A LU601246B1 (de) 2025-04-22 2025-04-22 Verfahren und System zur Interpretation von Modellalgorithmen der künstlichen Intelligenz

Country Status (1)

Country Link
LU (1) LU601246B1 (de)

Similar Documents

Publication Publication Date Title
CN103095494B (zh) 一种电力通信网风险评估方法
US20020165841A1 (en) Evidential reasoning system and method
CN119903909A (zh) 基于题库知识图谱的学习辅助方法、装置及电子设备
Hayek et al. Machine learning and external auditor perception: An analysis for UAE external auditors using technology acceptance model
Orobinskaya et al. Problems of interpretability and transparency of decisions made by AI
CN116957361B (zh) 一种基于虚实结合的船舶任务系统健康状态检测方法
US20020184140A1 (en) Computerized method for determining a credit line
Wang et al. Research on the training and management of industrializing workers in prefabricated building with machine vision and human behaviour modelling based on industry 4.0 era
LU601246B1 (de) Verfahren und System zur Interpretation von Modellalgorithmen der künstlichen Intelligenz
CN109858550B (zh) 潜在工艺失效模式机器识别方法
DE112021001565B4 (de) Sortieren von datenelementen eines bestimmten satzes von datenelementen
CN114153952A (zh) 一种面试考官管理系统及评分质量监测分析方法
Yang A study on the impact of corporate financial accounting management system on corporate innovation under sustainable development strategy
CN118967299A (zh) 基于XGBoost模型局部可解释规则集构建的银行数据分析方法
CN113962530B (zh) 一种基于数据挖掘的指标预警方法及系统
CN116366325A (zh) 一种基于终端安全态势数据的异常检测模型构建方法
LU600534B1 (de) Verfahren und System zur Erkennung von Algorithmen der künstlichen Intelligenz
LU601419B1 (de) Verfahren und System zur Bewertung der Programmierfähigkeit von Algorithmen der künstlichen Intelligenz
LU601247B1 (de) Ein industrielles Big-Data-Verarbeitungsverfahren und -system auf der Grundlage von Algorithmen der künstlichen Intelligenz
Gilroy et al. The development and application of a rail human reliability assessment tool
Nasrollahi et al. Simultaneous interpretive structural modelling and weighting (SISMW)
Srimani et al. Regression model for Edu-data in technical education system: A linear approach
CN117994663B (zh) 一种基于Yolo算法的桥梁病害检测养护方法及系统
Daneshvartarigh et al. Study on factors affecting bim implementation in european renovation projects
Nurasiah et al. Development of a deep learning model for mental health classification and early screening through Draw A Person (DAP) test images

Legal Events

Date Code Title Description
FG Patent granted

Effective date: 20251022