WO2022035344A1 - Способ обратимой коррекции систем искусственного интеллекта - Google Patents

Способ обратимой коррекции систем искусственного интеллекта Download PDF

Info

Publication number
WO2022035344A1
WO2022035344A1 PCT/RU2020/000482 RU2020000482W WO2022035344A1 WO 2022035344 A1 WO2022035344 A1 WO 2022035344A1 RU 2020000482 W RU2020000482 W RU 2020000482W WO 2022035344 A1 WO2022035344 A1 WO 2022035344A1
Authority
WO
WIPO (PCT)
Prior art keywords
elementary
situations
correctors
corrector
artificial intelligence
Prior art date
Application number
PCT/RU2020/000482
Other languages
English (en)
French (fr)
Inventor
Александр Николаевич ГОРБАНЬ
Иван Юрьевич ТЮКИН
Евгений Моисеевич МИРКЕС
Сергей Викторович СТАСЕНКО
Original Assignee
Федеральное государственное автономное образовательное учреждение высшего образования "Национальный исследовательский Нижегородский государственный университет им. Н.И. Лобачевского"
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Федеральное государственное автономное образовательное учреждение высшего образования "Национальный исследовательский Нижегородский государственный университет им. Н.И. Лобачевского" filed Critical Федеральное государственное автономное образовательное учреждение высшего образования "Национальный исследовательский Нижегородский государственный университет им. Н.И. Лобачевского"
Publication of WO2022035344A1 publication Critical patent/WO2022035344A1/ru

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning

Definitions

  • the invention relates to the field of cybernetics and can be used to correct errors in artificial intelligence (AI) systems.
  • AI artificial intelligence
  • a technical solution including, in principle, a tree-like analysis system and the possibility of iterative learning (RU2598300C2).
  • the methods and systems disclosed in this patent are designed to solve a single task - character recognition in an image of a document containing text, and cannot be used to quickly and efficiently correct the operation of an arbitrary AI system.
  • a single decision tree controls the process of recognizing each character. It is advisable to enable the modification of previously formed clusters only when adjusting for the correction of a newly discovered error, using the streaming configuration of clusters.
  • the flow modification consists in determining the cluster with the center closest to the test point and then slightly shifting this center towards the test point.
  • the proposed method for reversible correction of artificial intelligence systems is distinguished by the fact that it eliminates a number of shortcomings of known solutions.
  • the technical problem solved by the present invention is the error correction of artificial intelligence systems that satisfies the following requirements.
  • the corrector should be simple, not damage the existing skills of the system, allow fast non-iterative learning, allow correction of new errors without destroying previous corrections. These requirements must be met with a sufficiently high probability, which determines the level of reliability of the device.
  • the technical result of the proposed solution is to increase the reliability of artificial intelligence systems.
  • the correction system is organized as a set of elementary correctors controlled by the dispatcher;
  • the dispatcher selects which elementary corrector will process this signal;
  • the structure of the elementary corrector includes a cascade of discriminants and a correction rule
  • - input signals of the discriminant can be input, internal and output signals of the corrected artificial intelligence system, any other available attributes of the situation, as well as output signals of the discriminants preceding this one in the cascade;
  • each discriminant is formed non-iteratively based on error handling
  • the output signal of the corrected AI system changes in accordance with the correction rule associated with this elementary corrector
  • the controller receives signals from the corrected AI system (input signals of the AI system, internal signals generated during the decision-making process, and output signals), and selects from the correctors the one that best suits the situation and will process this situation to decide on the correction ;
  • the decision rule on the basis of which the dispatcher distributes situations between elementary correctors, is formed as a result of a cluster analysis of situations with diagnosed errors;
  • the dispatcher modifies the definition of clusters and the decision rule, on the basis of which situations are distributed between elementary correctors.
  • Figure 1 represents a hierarchy of figures 2-8 showing the operation of various systems and subsystems.
  • the scheme of operation of the modified system (according to the proposed method) is shown in figure 2.
  • the input signals (11) are fed to the input of the AI system (12), which produces a complete vector of signals (13) at the output, which can be used for correction.
  • the complete signal vector (13) is fed to the input of the correction system (14).
  • System (14) calculates the correction of the output signals (15).
  • the corrected output signals (15) replace the output signals of the main AI system (12) and are transmitted for further use.
  • the operation of the main AI system (12) is shown in figure 3.
  • the input signals (11) are fed to the input of the AI system (121).
  • the AI system generates vectors of internal signals (123) and output signals (122).
  • Input signals (11), internal signals (123) and output signals (122) form a complete signal vector (13).
  • the complete signal vector (13) is used in the operation of the correction system (14).
  • the operation of the correction system (14) is shown in Figure 4.
  • the correction system includes a cluster model, a dispatcher, and a set of correctors associated with clusters.
  • the full vector of signals (13) is fed to the input of the dispatcher (141).
  • the dispatcher (141) selects from the correctors the one that is most corresponds to situation (142).
  • the selected equalizer (142) and the full signal vector (13) are used to correct the signals (143).
  • the calculated corrected output signals (15) are returned for further use.
  • Each corrector includes a binary tree to determine the need for correction.
  • Each terminal node of the tree (leaf) contains a sign of the need for correction.
  • Each non-terminal tree node contains a logical function (condition) and two descendant nodes - right and left.
  • Each logical function of a tree node is formed according to an explicit non-iterative algorithm.
  • the complete signal vector (13) is used to determine if a binary tree correction (1431) is needed. If correction is necessary, then correction (1435) is performed and the resulting vector of output signals (15) is transferred to the output. If there is no need for correction, then the output signal vector is extracted (1434) from the complete signal vector (13), and the resulting output signal vector (15) is passed to the output for further use.
  • the processing of determining the need for correction by a binary tree is shown in figure 6.
  • For the current node check if it is a leaf (14312). If it is a leaf, then the indication that the current node needs to be corrected is the response (1432) and is returned for further use.
  • For a non-terminal node based on the complete signal vector (13), we calculate the value of the function - conditions (14313). If the condition is true, then we assume that the current node is equal to the left child node (14315) and proceed to the procedure for processing this node (14312). If the condition is false, then we assume that the current node is equal to the right child node (14316) and proceed to the procedure for processing this node (14312).
  • the operation of the dispatcher (141) is shown in figure 7.
  • the indication of an error is set from outside the system, for example, by an expert. If the error flag (1412) is set (1414), then based on the current cluster model (1411) and the complete signal vector (13), the cluster model is streamed (1415). The modified cluster model becomes current (1411). If the error flag (1412) is not set (1414), then the current cluster model (1411) is selected (1413) for use (1411). Based on the cluster model (1411) and the full signal vector (13), the most suitable cluster (1416). Then, the corrector (142) corresponding to this cluster is selected (1417). This corrector is returned for future use.
  • the streaming modification of the cluster model (1415) is shown in Figure 8. Based on the current cluster model (1411) and the full signal vector (13), the most suitable cluster (142) is selected (1416). A stream modification of the rule for determining the most suitable cluster is being made (14151). After setting up a new cluster model (1411), an explicit modification of the tree for determining the need for correction of the selected corrector (14152) is performed. The generated modified corrector (142) together with the new cluster model (1411) forms an updated version of the correction system (14).
  • Training of cluster models occurs according to one of the streaming (online) algorithms.
  • the simplest example of such an algorithm is the flow method to averages (k-means), clusters are represented by centroids or sets of characteristic points.
  • k-means the flow method to averages
  • the signal vector representing the error situation is sent to the clustering algorithm for processing.
  • New positions of centroids are stored and used to determine which cluster the situations belong to.
  • Streaming clustering algorithms process data as it arrives. It is assumed that in reality there are much fewer situations with errors than situations with the correct functioning of the AI system. Otherwise, it should be sent for a complete retraining.
  • Each error cluster is associated with an elementary corrector, which should separate this cluster from situations with correct functioning.
  • the dispatcher decides which corrector best suits the situation based on the proximity of the situation to centroids or feature points.
  • the discriminants are trained using explicit online algorithms of supervised learning.
  • the simplest of these is the streaming version of Fisher's linear discriminant.
  • a simple example of the implementation of a dispatcher-controlled correction system can be obtained by choosing Fisher's linear discriminants as elementary correctors, and the k-means method as the clustering method.
  • Figure 9 presents the ROC curves for the training set a) and test set (>) tests for a face detection system based on a Haar detector.
  • a video filmed on the streets of Montreal was analyzed.
  • An MTCNN face detector (more powerful) was used to automatically analyze the correctness or falsity of the detection.
  • the number of correctly recognized (true positive) was 21896, the number of false detections (false positive) was 9372.
  • the corrector algorithm was applied for a different number of elementary correctors (1, 5, 10, 100 - indicated in Figure 9). Training of the corrective system took 180 seconds. on a Core i7 laptop. The test results are shown in Figure 9.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Image Analysis (AREA)
  • Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)

Abstract

Изобретение относится к области кибернетики и может быть использовано для коррекции ошибок систем искусственного интеллекта. Техническим результатом является повышение надежности систем искусственного интеллекта. Достижение результата основано на построении семейства внешних корректоров систем искусственного интеллекта. Каждый элементарный корректор, входящий в семейство, использует дерево неитеративных дискриминантов для выделения ситуаций с высоким риском ошибки. Эти дискриминанты формируются на основании обнаруженных ошибок. При накоплении ошибок формируется семейство (лес) корректоров. Каждый элементарный корректор отделяет свою область ситуаций с высоким риском ошибки и содержит решающее правило для принятия решений в ситуациях из этой области. Входными сигналами корректоров служат входные, внутренние и выходные сигналы корректируемой систем искусственного интеллекта, а также любые другие доступные атрибуты ситуации. Система корректоров управляется диспетчером, который формируется на основании кластерного анализа ошибок и распределяет ситуации, задаваемые векторами сигналов, между элементарными корректорами для оценки и, если необходимо, коррекции.

Description

НАЗВАНИЕ ИЗОБРЕТЕНИЯ: СПОСОБ ОБРАТИМОЙ КОРРЕКЦИИ СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
ОБЛАСТЬ ТЕХНИКИ
Изобретение относится к области кибернетики и может быть использовано для коррекции ошибок систем искусственного интеллекта (ИИ).
ПРЕДШЕСТВУЮЩИЙ УРОВЕНЬ ТЕХНИКИ
Для коррекции ошибок искусственного интеллекта ранее предлагалось:
- переобучение систем с расширенным множеством задач, включающим ситуации с высоким риском ошибки как непосредственно наблюдаемые на практике, так и полученные с помощью их модификации;
- корректоры на основе дискриминантов Фишера и их одиночных каскадов.
Полное переучивание систем требует большого ресурса и, в частности, использования больших обучающих множеств, что является нежелательным при обработке редких ошибок, и может привести к повреждению имеющихся навыков.
Известно техническое решение, включающее, принципиально, древовидную систему анализа и возможность итеративного обучения (RU2598300C2). Способы и системы, раскрытые в указанном патенте, предназначены для решения единственной задачи - распознавания символов в изображении документа, содержащего текст, и не могут быть использованы для быстрой и эффективной коррекции работы произвольной системы ИИ.
При этом в указанном техническом решении единственное дерево принятия решений управляет процессом распознавания каждого символа. Целесообразно включать модификацию ранее сформированных кластеров только при настройке на коррекцию вновь обнаруженной ошибки, используя при этом потоковую настройку кластеров. В случае использования k-средних, потоковая модификация состоит в определении кластера с ближайшим к тестовой точке центром и последующего небольшого сдвига этого центра в сторону тестовой точки.
Известна работа, в которой раскрыто использование кластерного анализа ошибок и линейных дискриминантов для отделения этих кластеров ошибок от ситуаций нормального функционирования (I.Y. Tyukin, A.N. Gorban, S. Green, D. Prokhorov, Fast Construction of Correcting Ensembles for Legacy Artificial Intelligence Systems: Algorithms and a Case Study. Information Sciences, Volume 485, June 2019, Pages 230-247). Решения линейных дискриминантов комбинируются с помощью логической операции «ИЛИ»: ситуация определяется как имеющая высокий риск ошибки, если хотя бы один из построенных линейных дискриминантов распознает ее как ситуацию с высоким риском.
Однако ограничение только линейными дискриминантами и неопределенность модификации решающего правила в тех ситуациях, когда несколько линейных дискриминантов одновременно распознают высокий риск ошибки, накладывает существенные ограничения на количество обрабатываемых ошибок.
Известны также работы, в которых раскрыты технические решения, использующие одиночные линейные дискриминанты и их каскады для отделения ситуаций с высоким риском ошибки от ситуаций нормального функционирования (A.N. Gorban, A. Golubkov, В. Grechuk, Е.М. Mirkes, I.Y. Tyukin, Correction of Al systems by linear discriminants: Probabilistic foundations, Information Sciences 466 (2018), 303-322 и A.N. Gorban, R. Burton, I. Romanenko, I.Y. Tyukin, One-trial correction of legacy Al systems and stochastic separation theorems, Information Sciences 484 (2019) 237-254).
Этот подход позволяет исправлять редкие ошибки в обработке многомерных данных без искажения имеющихся навыков системы искусственного интеллекта. Однако его способности к обобщению недостаточны при накоплении ошибок, так как он не использует естественную группировку ошибок (кластерный анализ).
Идеи, сформулированные в последней из указанных работ, нашли отражение в патенте US010489634B2.
РАСКРЫТИЕ ИЗОБРЕТЕНИЯ
Предлагаемый способ обратимой коррекции систем искусственного интеллекта отличается тем, что устраняет ряд недостатков известных решений.
Технической проблемой, решаемой данным изобретением, является коррекция ошибок систем искусственного интеллекта, удовлетворяющая следующим требованиям. Корректор должен быть простым, не повреждать имеющихся навыков системы, допускать быстрое неитеративное обучение, допускать коррекцию новых ошибок без разрушения предшествующих исправлений. Эти требования должны выполняться с достаточно высокой вероятностью, определяющей уровень надежности устройства.
Техническим результатом предлагаемого решения является повышение надежности систем искусственного интеллекта.
Данный результат достигается способом обратимой коррекции, в котором:
- система коррекции организована как совокупность элементарных корректоров, управляемая диспетчером;
- для каждой ситуации, представленной вектором входных, внутренних и выходных сигналов корректируемой системы искусственного интеллекта, (а также, при наличии, любыми другими доступными атрибутами ситуации), диспетчер выбирает, какой элементарный корректор будет обрабатывать данный сигнал;
- в структуру элементарного корректора входят каскад дискриминантов и правило коррекции;
- входными сигналами дискриминанта могут служить входные, внутренние и выходные сигналы корректируемой системы искусственного интеллекта, любые другие доступные атрибуты ситуации, а также выходные сигналы дискриминантов, предшествующих данному в каскаде;
- каждый дискриминант формируется неитеративно на основе обработки ошибок;
- каскад дискриминантов принимает решение о наличии высокого риска ошибки;
- если решение о наличии высокого риска ошибки принято, то выходной сигнал корректируемой системы ИИ изменяется в соответствии с правилом коррекции, ассоциированным с данным элементарным корректором;
- диспетчер получает сигналы от корректируемой системы ИИ (входные сигналы системы ИИ, внутренние сигналы, сгенерированные в процессе принятия решения, и выходные сигналы), и выбирает из корректоров тот, который в наибольшей степени соответствует ситуации и будет обрабатывать данную ситуацию для решения вопроса о коррекции; - решающее правило, на основании которого диспетчер распределяет ситуации между элементарными корректорами, формируется в результате кластерного анализа ситуаций с диагностированными ошибками;
- каждый элементарный корректор обрабатывает ситуации из одного кластера;
- при обнаружении новых ошибок диспетчер модифицирует определение кластеров и решающее правило, на основании которого распределяются ситуации между элементарными корректорами.
Дополнительные признаки и преимущества способа станут очевидными из последующего описания вариантов осуществления, приведенных в качестве примера, со ссылкой на сопроводительные чертежи.
Фигура 1 представляет иерархию фигур 2-8, отображающих работу различных систем и подсистем.
ОСУЩЕСТВЛЕНИЕ ИЗОБРЕТЕНИЯ
Схема функционирования модифицированной системы (по предлагаемому способу) представлена на фигуре 2. Входные сигналы (11) поступают на вход системы ИИ (12), которая производит на выходе полный вектор сигналов (13), который может быть использован для коррекции. Полный вектор сигналов (13) поступает на вход системы коррекции (14). Система (14) вычисляет коррекцию выходных сигналов (15). Корректированные выходные сигналы (15) заменяют выходные сигналы основной системы ИИ (12) и передаются для дальнейшего использования.
Работа основной системы ИИ (12) представлена на фигуре 3. Входные сигналы (11) подаются на вход системы ИИ (121). Система ИИ формирует векторы внутренних сигналов (123) и выходных сигналов (122). Входные сигналы (11), внутренние сигналы (123) и выходные сигналы (122) формируют полный вектор сигналов (13). Полный вектор сигналов (13) используется в работе системы коррекции (14).
Работа системы коррекции (14) представлена на фигуре 4. Система коррекции включает кластерную модель, диспетчер и набор корректоров, ассоциированных с кластерами. Полный вектор сигналов (13) поступает на вход диспетчера (141). Диспетчер (141) выбирает из корректоров тот, который в наибольшей степени соответствует ситуации (142). Выбранный корректор (142) и полный вектор сигналов (13) используются для корректировки сигналов (143). Вычисленные корректированные выходные сигналы (15) возвращаются для дальнейшего использования.
Работа одиночного корректора (143) представлена на фигуре 5. Каждый корректор включает бинарное дерево для определения необходимости коррекции. Каждый терминальный узел дерева (лист) содержит признак необходимости коррекции. Каждый нетерминальный узел дерева содержит логическую функцию (условие) и два узла-потомка - правого и левого. Каждая логическая функция узла дерева формируется по явному неитеративному алгоритму. Полный вектор сигналов (13) используется для определения необходимости коррекции по бинарному дереву (1431). Если коррекция необходима, то выполняется коррекция (1435) и полученный вектор выходных сигналов (15) передается на выход. Если нет необходимости в коррекции, то вектор выходных сигналов извлекается (1434) из полного вектора сигналов (13), и полученный вектор выходных сигналов (15) передается на выход для дальнейшего использования.
Обработка определения необходимости коррекции по бинарному дереву (1431) представлена на фигуре 6. Начинаем просмотр дерева с корня (14311). Для текущего узла проверяем, является ли он листом (14312). Если это лист, то признак необходимости коррекции текущего узла является ответом (1432) и возвращается для дальнейшего использования. Для нетерминального узла на основе полного вектора сигналов (13) вычисляем значение функции - условия (14313). Если условие верно, то полагаем текущий узел равным левому узлу-потомку (14315) и переходим к процедуре обработки данного узла (14312). Если условие неверно, то полагаем текущий узел равным правому узлу-потомку (14316) и переходим к процедуре обработки данного узла (14312).
Функционирование диспетчера (141) представлено на фигуре 7. Признак наличия ошибки устанавливается извне системы, например, экспертом. Если признак ошибки (1412) установлен (1414), то на основе текущей кластерной модели (1411) и полного вектора сигналов (13) производится потоковое изменение кластерной модели (1415). Модифицированная кластерная модель становится текущей (1411). Если признак ошибки (1412) не установлен (1414), то текущая кластерная модель (1411) выбирается (1413) для использования (1411). На основе кластерной модели (1411) и полного вектора сигналов (13) выбирается наиболее подходящий кластер (1416). Затем, выбирается (1417) соответствующий этому кластеру корректор (142). Этот корректор возвращается для дальнейшего использования.
Потоковая модификация кластерной модели (1415) представлена на Фигуре 8. На основе текущей кластерной модели (1411) и полного вектора сигналов (13) выбирается (1416) наиболее подходящий кластер (142). Производится потоковая модификация правила определения наиболее подходящего кластера (14151). После настройки новой кластерной модели (1411) производится явная модификация дерева определения необходимости коррекции выбранного корректора (14152). Сформированный измененный корректор (142) совместно с новой кластерной моделью (1411) образует обновленную версию системы коррекции (14).
Обучение кластерных моделей (1415) происходит по одному из потоковых (онлайн) алгоритмов. Простейшим примером такого алгоритма является потоковый метод к средних (k-means), кластеры представляются центроидами или наборами характерных точек. При получении новых сообщений об ошибках, вектор сигналов, представляющий ситуацию с ошибками, поступает на обработку алгоритму кластеризации. Новые позиции центроидов (характерных точек) сохраняются и используются для определения, какому кластеру принадлежат ситуации.
Потоковые алгоритмы кластеризации обрабатывают данные по мере поступления. Предполагается, что ситуаций с ошибками в реальности встречается намного меньше, чем ситуаций с правильным функционированием системы ИИ. В противном случае, ее следует направлять на полное переобучение.
Каждый кластер ошибок ассоциирован с элементарным корректором, который должен отделять этот кластер от ситуаций с корректным функционированием. Диспетчер принимает решение о том, какой корректор в наибольшей степени соответствует ситуации, на основании близости ситуации к центроидам или характерным точкам.
Обучение дискриминантов производится по явным потоковым алгоритмам обучения с учителем (online algorithms of supervised learning). Простейшим из них является потоковая версия линейного дискриминанта Фишера.
ПРОМЫШЛЕННАЯ ПРИМЕНИМОСТЬ
Предполагается три возможных способа реализации систем корректоров: программный, аппаратный и программно-аппаратный. Тестирование подхода и отработка процедур производилось на программно-аппаратном уровне с использованием универсальных ЭВМ и языков программирования высокого уровня.
Простой пример реализации системы коррекции, управляемой диспетчером, может быть получен, если в качестве элементарных корректоров выбрать линейные дискриминанты Фишера, а в качестве метода кластеризации - метод к средних.
Фигура 9 представляет ROC-кривые для тестов обучающего множества а) и тестового множества ( >) для системы обнаружения лиц, основанной на детекторе Хаара. Анализировалось видео, снятое на улицах Монреаля. Для автоматического анализа правильности или ложности детектирования использовался MTCNN детектор лиц (более мощный). Для данного набора данных и детектора Хаара число правильно распознанных (true positive) было 21896, число ложных обнаружений (false positive) было 9372. Алгоритм корректора применялся для различного количества элементарных корректоров (1, 5, 10, 100 - указаны на Фигуре 9). Обучение корректирующей системы заняло 180 сек. на Core i7 ноутбуке. Результаты тестирования показаны на Фигуре 9.

Claims

Формула изобретения.
Способ обратимой коррекции систем искусственного интеллекта, при котором: система коррекции организована как совокупность элементарных корректоров, управляемая диспетчером; каждый элементарный корректор включает бинарный классификатор, отделяющий ситуации в высоким риском ошибки; для каждого элементарного корректора задают модифицированное правило решения корректируемой системы искусственного интеллекта в ситуации с высоким риском ошибки, диагностируемой классификатором данного корректора; бинарные классификаторы в составе элементарных корректоров организуют как деревья простых классификаторов допускающих неитеративное обучение; на вход корректору подают полный вектор сигналов, составленный из входных, внутренних и выходных сигналов корректируемой системы искусственного интеллекта, а также, при наличии, любых других доступных атрибутов ситуации, при этом, диспетчер распределяет ситуации между элементарными корректорами, а решающее правило, на основании которого диспетчер распределяет ситуации между элементарными корректорами, формируют в результате кластерного анализа ситуаций с диагностированными ошибками; кластерный анализ ситуаций с диагностированными ошибками производят с использованием потокового алгоритма, при этом каждый элементарный корректор обрабатывает ситуации из одного кластера; при получении сигнала об обнаружении новых ошибок диспетчер модифицирует определение кластеров согласно выбранному потоковому алгоритму и соответственно модифицирует решающее правило, на основании которого распределяются ситуации между элементарными корректорами; после получения сигнала об обнаружении новых ошибок диспетчер выбирает элементарный корректор, который должен обрабатывать ситуацию и классификатор этого корректора доучивается по неитеративному явному правилу.
PCT/RU2020/000482 2020-08-13 2020-09-14 Способ обратимой коррекции систем искусственного интеллекта WO2022035344A1 (ru)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
RU2020127200A RU2020127200A (ru) 2020-08-13 2020-08-13 Способ обратимой коррекции систем искусственного интеллекта
RU2020127200 2020-08-13

Publications (1)

Publication Number Publication Date
WO2022035344A1 true WO2022035344A1 (ru) 2022-02-17

Family

ID=80248086

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/RU2020/000482 WO2022035344A1 (ru) 2020-08-13 2020-09-14 Способ обратимой коррекции систем искусственного интеллекта

Country Status (2)

Country Link
RU (1) RU2020127200A (ru)
WO (1) WO2022035344A1 (ru)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2462752C1 (ru) * 2011-07-18 2012-09-27 Открытое акционерное общество "Лётно-исследовательский институт имени М.М. Громова" Динамическая экспертная система
CN103489009B (zh) * 2013-09-17 2016-08-17 北方信息控制集团有限公司 基于自适应修正神经网络的模式识别方法
US10254760B1 (en) * 2017-12-29 2019-04-09 Apex Artificial Intelligence Industries, Inc. Self-correcting controller systems and methods of limiting the operation of neural networks to be within one or more conditions
WO2019136449A2 (en) * 2018-01-08 2019-07-11 Darya Frolova Error correction in convolutional neural networks
CN110741553A (zh) * 2017-06-22 2020-01-31 瑞典爱立信有限公司 用于前向纠错解码的神经网络

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2462752C1 (ru) * 2011-07-18 2012-09-27 Открытое акционерное общество "Лётно-исследовательский институт имени М.М. Громова" Динамическая экспертная система
CN103489009B (zh) * 2013-09-17 2016-08-17 北方信息控制集团有限公司 基于自适应修正神经网络的模式识别方法
CN110741553A (zh) * 2017-06-22 2020-01-31 瑞典爱立信有限公司 用于前向纠错解码的神经网络
US10254760B1 (en) * 2017-12-29 2019-04-09 Apex Artificial Intelligence Industries, Inc. Self-correcting controller systems and methods of limiting the operation of neural networks to be within one or more conditions
WO2019136449A2 (en) * 2018-01-08 2019-07-11 Darya Frolova Error correction in convolutional neural networks

Also Published As

Publication number Publication date
RU2020127200A (ru) 2022-02-14
RU2020127200A3 (ru) 2022-02-14

Similar Documents

Publication Publication Date Title
US5870729A (en) Self-organizing neural network for pattern classification
CN106415594B (zh) 用于面部验证的方法和系统
WO2021026805A1 (zh) 对抗样本检测方法、装置、计算设备及计算机存储介质
Escalera et al. On the decoding process in ternary error-correcting output codes
US11444876B2 (en) Method and apparatus for detecting abnormal traffic pattern
US20190392606A1 (en) Object detection device, object detection method, and object detection program
KR20190054702A (ko) 영상에서 객체의 행동을 인식하는 방법 및 그 장치
CN111783505A (zh) 伪造人脸的识别方法、装置和计算机可读存储介质
CN111626367A (zh) 对抗样本检测方法、装置、设备及计算机可读存储介质
CN112614187A (zh) 回环检测方法、装置、终端设备和可读存储介质
US20230306107A1 (en) A Method of Training a Submodule and Preventing Capture of an AI Module
US11762998B2 (en) System and method for protection and detection of adversarial attacks against a classifier
KR102181762B1 (ko) 적대적 오토 인코더 기반 이상 데이터 검출 장치
KR20190051621A (ko) 시맨틱 분할 맵을 이용한 영상 데이터 처리 장치 및 제어 방법
WO2022035344A1 (ru) Способ обратимой коррекции систем искусственного интеллекта
Al-Yaseen et al. Intrusion detection system based on modified k-means and multi-level support vector machines
Fleyeh et al. Multiclass AdaBoost based on an ensemble of binary AdaBoosts
CN112149121A (zh) 一种恶意文件识别方法、装置、设备及存储介质
JP2020052935A (ja) 学習済みモデルを生成する方法、データを分類する方法、コンピュータおよびプログラム
US20230289436A1 (en) A Method of Training a Submodule and Preventing Capture of an AI Module
CN111814909B (zh) 基于网络直播和在线电商带货的信息处理方法及云服务器
CN110889436B (zh) 一种基于可信度估计的水下多类目标分类方法
CN111901282A (zh) 一种生成恶意代码流量行为检测结构的方法
JPH09231079A (ja) ファジィ推論システムおよびファジィルール構築システム
KR102491451B1 (ko) 심층 신경망 기반의 악성코드 탐지 분류체계의 유사도를 반영하는 시그니처 생성 장치, 이를 위한 방법 및 이 방법을 수행하기 위한 프로그램이 기록된 컴퓨터 판독 가능한 기록매체

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20949636

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 20949636

Country of ref document: EP

Kind code of ref document: A1