CA3181663C - Procedes de detection et de surveillance d'un biais dans une application logicielle utilisant l'intelligence artificielle, et dispositifs correspondants - Google Patents

Procedes de detection et de surveillance d'un biais dans une application logicielle utilisant l'intelligence artificielle, et dispositifs correspondants

Info

Publication number
CA3181663C
CA3181663C CA3181663A CA3181663A CA3181663C CA 3181663 C CA3181663 C CA 3181663C CA 3181663 A CA3181663 A CA 3181663A CA 3181663 A CA3181663 A CA 3181663A CA 3181663 C CA3181663 C CA 3181663C
Authority
CA
Canada
Prior art keywords
calculated
value
features
computing system
bias
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CA3181663A
Other languages
English (en)
Other versions
CA3181663A1 (fr
Inventor
Kazuki Sekiguchi
Fumihiko Terui
Pinaki Chandra Dey
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US16/927,501 external-priority patent/US11861513B2/en
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of CA3181663A1 publication Critical patent/CA3181663A1/fr
Application granted granted Critical
Publication of CA3181663C publication Critical patent/CA3181663C/fr
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

Un procédé mis en ?uvre par ordinateur pour détecter et surveiller un biais dans une application comprend l'indexation de données d'entraînement et l'obtention d'une pluralité de valeurs de corrélation d'une ou de plusieurs caractéristiques dans les données d'entraînement indexées avec une variable cible. Pour chacune de la ou des caractéristiques, une première valeur associée à un résultat favorable et une seconde valeur associée à un résultat défavorable sont calculées. Une valeur absolue d'une différence entre la première valeur calculée et la seconde valeur calculée est calculée. Une somme totale des valeurs absolues calculées pour la pluralité de valeurs de corrélation de la ou des caractéristiques est calculée.
CA3181663A 2020-07-13 2021-06-23 Procedes de detection et de surveillance d'un biais dans une application logicielle utilisant l'intelligence artificielle, et dispositifs correspondants Active CA3181663C (fr)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US16/927,501 2020-07-13
US16/927,501 US11861513B2 (en) 2020-07-13 2020-07-13 Methods for detecting and monitoring bias in a software application using artificial intelligence and devices thereof
PCT/IB2021/055538 WO2022013648A1 (fr) 2020-07-13 2021-06-23 Procédés de détection et de surveillance d'un biais dans une application logicielle utilisant l'intelligence artificielle, et dispositifs correspondants

Publications (2)

Publication Number Publication Date
CA3181663A1 CA3181663A1 (fr) 2022-01-20
CA3181663C true CA3181663C (fr) 2025-12-02

Family

ID=

Similar Documents

Publication Publication Date Title
US11544621B2 (en) Cognitive model tuning with rich deep learning knowledge
US11269901B2 (en) Cognitive test advisor facility for identifying test repair actions
US20220101186A1 (en) Machine-learning model retraining detection
US11216739B2 (en) System and method for automated analysis of ground truth using confidence model to prioritize correction options
US11386984B2 (en) Notation assistant system for providing feedback on a clinical narrative note
US12111881B2 (en) Item recommendation with application to automated artificial intelligence
US11531656B1 (en) Duplicate determination in a graph
WO2022012536A1 (fr) Auto-détection de champs correspondants dans des systèmes de résolution d'entités
US11200215B2 (en) Data quality evaluation
US11347822B2 (en) Query processing to retrieve credible search results
US11556845B2 (en) System for identifying duplicate parties using entity resolution
US11348680B2 (en) System for assignment of assessment tasks based on task criteria and reviewer credentials
AU2021308328B2 (en) Methods for detecting and monitoring bias in software application using artificial intelligence and devices thereof
CA3181663C (fr) Procedes de detection et de surveillance d'un biais dans une application logicielle utilisant l'intelligence artificielle, et dispositifs correspondants
US20230025731A1 (en) Realistic counterfactual explanation of machine learning predictions
US20240144114A1 (en) Methods and systems for automated identification of optimizable factors in multivariate processes
KR102924756B1 (ko) 인공 지능을 이용하여 소프트웨어 애플리케이션에서 편향을 검출하고 모니터링하기 위한 방법 및 디바이스
CN112445837B (zh) 使用实体分辨识别重复方的系统
US20170185907A1 (en) Method of probabilistic inference using open statistics
Alhazzaa et al. Change Request Prediction in an Evolving Legacy System: A Comparison
US11334816B2 (en) Finding optimal surface for hierarchical classification task on an ontology
US20230066663A1 (en) Determining record importance
US9501274B1 (en) Qualitative feedback correlator
WO2022056470A1 (fr) Procédés de recommandation ciblée en fonction de l'emplacement