CA3181663C - Procedes de detection et de surveillance d'un biais dans une application logicielle utilisant l'intelligence artificielle, et dispositifs correspondants - Google Patents

Procedes de detection et de surveillance d'un biais dans une application logicielle utilisant l'intelligence artificielle, et dispositifs correspondants

Info

Publication number
CA3181663C
CA3181663C CA3181663A CA3181663A CA3181663C CA 3181663 C CA3181663 C CA 3181663C CA 3181663 A CA3181663 A CA 3181663A CA 3181663 A CA3181663 A CA 3181663A CA 3181663 C CA3181663 C CA 3181663C
Authority
CA
Canada
Prior art keywords
calculated
value
features
computing system
bias
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CA3181663A
Other languages
English (en)
Other versions
CA3181663A1 (fr
Inventor
Kazuki Sekiguchi
Fumihiko Terui
Pinaki Chandra Dey
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US16/927,501 external-priority patent/US11861513B2/en
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of CA3181663A1 publication Critical patent/CA3181663A1/fr
Application granted granted Critical
Publication of CA3181663C publication Critical patent/CA3181663C/fr
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

Un procédé mis en ?uvre par ordinateur pour détecter et surveiller un biais dans une application comprend l'indexation de données d'entraînement et l'obtention d'une pluralité de valeurs de corrélation d'une ou de plusieurs caractéristiques dans les données d'entraînement indexées avec une variable cible. Pour chacune de la ou des caractéristiques, une première valeur associée à un résultat favorable et une seconde valeur associée à un résultat défavorable sont calculées. Une valeur absolue d'une différence entre la première valeur calculée et la seconde valeur calculée est calculée. Une somme totale des valeurs absolues calculées pour la pluralité de valeurs de corrélation de la ou des caractéristiques est calculée.
CA3181663A 2020-07-13 2021-06-23 Procedes de detection et de surveillance d'un biais dans une application logicielle utilisant l'intelligence artificielle, et dispositifs correspondants Active CA3181663C (fr)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US16/927,501 US11861513B2 (en) 2020-07-13 2020-07-13 Methods for detecting and monitoring bias in a software application using artificial intelligence and devices thereof
US16/927,501 2020-07-13
PCT/IB2021/055538 WO2022013648A1 (fr) 2020-07-13 2021-06-23 Procédés de détection et de surveillance d'un biais dans une application logicielle utilisant l'intelligence artificielle, et dispositifs correspondants

Publications (2)

Publication Number Publication Date
CA3181663A1 CA3181663A1 (fr) 2022-01-20
CA3181663C true CA3181663C (fr) 2025-12-02

Family

ID=

Similar Documents

Publication Publication Date Title
US11544621B2 (en) Cognitive model tuning with rich deep learning knowledge
US11269901B2 (en) Cognitive test advisor facility for identifying test repair actions
US20220101186A1 (en) Machine-learning model retraining detection
US20200097845A1 (en) Recommending machine learning models and source codes for input datasets
US11386984B2 (en) Notation assistant system for providing feedback on a clinical narrative note
US11531656B1 (en) Duplicate determination in a graph
US11200215B2 (en) Data quality evaluation
US9929909B2 (en) Identifying marginal-influence maximizing nodes in networks
US11348680B2 (en) System for assignment of assessment tasks based on task criteria and reviewer credentials
US12596941B2 (en) Realistic counterfactual explanation of machine learning predictions
WO2022012536A1 (fr) Auto-détection de champs correspondants dans des systèmes de résolution d'entités
US11347822B2 (en) Query processing to retrieve credible search results
US11556845B2 (en) System for identifying duplicate parties using entity resolution
AU2021308328B2 (en) Methods for detecting and monitoring bias in software application using artificial intelligence and devices thereof
US20240144114A1 (en) Methods and systems for automated identification of optimizable factors in multivariate processes
US20170185907A1 (en) Method of probabilistic inference using open statistics
US11544477B2 (en) System for identifying duplicate parties using entity resolution
US11334816B2 (en) Finding optimal surface for hierarchical classification task on an ontology
Alhazzaa et al. Change Request Prediction in an Evolving Legacy System: A Comparison
US20230066663A1 (en) Determining record importance
US20230368253A1 (en) Methods for Locaton Based Targeted Recommendation
US9501274B1 (en) Qualitative feedback correlator