WO2021111562A1 - 機械学習装置の異常検出装置、人検出システム、および機械学習装置の異常検出方法 - Google Patents

機械学習装置の異常検出装置、人検出システム、および機械学習装置の異常検出方法 Download PDF

Info

Publication number
WO2021111562A1
WO2021111562A1 PCT/JP2019/047502 JP2019047502W WO2021111562A1 WO 2021111562 A1 WO2021111562 A1 WO 2021111562A1 JP 2019047502 W JP2019047502 W JP 2019047502W WO 2021111562 A1 WO2021111562 A1 WO 2021111562A1
Authority
WO
WIPO (PCT)
Prior art keywords
machine learning
learning device
input data
abnormality detection
detection range
Prior art date
Application number
PCT/JP2019/047502
Other languages
English (en)
French (fr)
Inventor
匠 星
Original Assignee
三菱電機株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 三菱電機株式会社 filed Critical 三菱電機株式会社
Priority to JP2021562265A priority Critical patent/JP7301157B2/ja
Priority to PCT/JP2019/047502 priority patent/WO2021111562A1/ja
Publication of WO2021111562A1 publication Critical patent/WO2021111562A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning

Definitions

  • the present invention relates to an abnormality detection device of a machine learning device, a human detection system, and an abnormality detection method of a machine learning device.
  • the arithmetic units inside the neural network are multiplexed, and the abnormal value is corrected by a majority decision of the multiplexed arithmetic units.
  • Non-Patent Document 1 injects a failure into a neural network simulating an actual failure at the time of learning, and utilizes the teacher data at the time of failure so that normal calculation can be performed even at the time of failure. To train a neural network.
  • Patent Document 1 requires multiplexing of arithmetic units, which increases the circuit scale.
  • Non-Patent Document 1 In the case of the method of Non-Patent Document 1, it is necessary to add learning data for injection of failure. It is practically difficult to prepare training data for fault injection.
  • an object of the present invention is an abnormality detection device of a machine learning device capable of detecting an abnormality of a machine learning device on a small circuit scale without requiring special learning such as learning for injecting a failure.
  • the purpose of the present invention is to provide a method for detecting an abnormality in a human detection system and a machine learning device.
  • the present invention is an abnormality detection device of a machine learning device that determines whether N-dimensional input data belongs to the first classification or the second classification, and is a machine learning device after the learning of the machine learning device is completed.
  • the input data is input to the machine learning device to acquire the judgment result of the machine learning device, and among the plurality of input data input to the machine learning device, a plurality of input data determined to belong to the first category by the machine learning device are selected.
  • Anomaly detection range setting unit that specifies the minimum and maximum values for each dimension of the selected plurality of input data, and sets the N-dimensional area defined by the minimum and maximum values of each dimension as the anomaly detection range.
  • the machine learning device When it is determined that the input data input to the machine learning device belongs to the abnormality detection range and the input data input to the machine learning device belongs to the second category during the operation of the machine learning device, the machine learning device Is provided with an abnormality determination unit for determining that is abnormal.
  • the person detection system of the present invention includes a machine learning device and an abnormality detection device of the machine learning device.
  • the machine learning device determines that the input data belongs to the first category when the input data is a feature amount extracted from the image including the person, and the input data is extracted from the image not including the person. If it is a feature quantity, it is determined by input that the data belongs to the second category.
  • the present invention is a method for detecting an abnormality of a machine learning device that determines whether N-dimensional input data belongs to the first classification or the second classification, and is a machine learning device after the learning of the machine learning device is completed.
  • the plurality of input data determined that the machine learning device belongs to the first category.
  • the present invention selects a plurality of input data determined by the machine learning device to belong to the first category from a plurality of input data input to the machine learning device, and for each dimension of the selected plurality of input data.
  • the minimum and maximum values of are specified, and the N-dimensional area defined by the minimum and maximum values of each dimension is set as the abnormality detection range.
  • the present invention further determines that the input data input to the machine learning device belongs to the abnormality detection range and the input data input to the machine learning device belongs to the second category during the operation of the machine learning device. , Determines that the machine learning device is abnormal. As a result, it is possible to detect an abnormality in the machine learning device on a small circuit scale without requiring special learning such as learning for injecting a failure.
  • FIG. 1000 It is a figure which shows the structure of the person detection system 1000. It is a flowchart which shows the extraction procedure of HoG feature amount. It is a figure which shows the extraction example of the HoG feature amount. It is a flowchart which shows the whole operation procedure of a person detection system. It is a flowchart which shows the procedure of setting the abnormality detection range in Embodiment 1.
  • FIG. It is a flowchart which shows the detailed procedure of step S1003 of FIG. It is a figure which shows the example of the information stored in the abnormality detection range storage part 540. It is a flowchart which shows the procedure of the detection of a person and the abnormality determination by a machine learning apparatus 100.
  • FIG. 1 is a diagram showing the configuration of the human detection system 1000.
  • the person detection system 1000 includes a feature extraction unit 200, a machine learning device 100, a notification unit 300, a product system 400, and an abnormality detection device 500 of the machine learning device.
  • the abnormality detection device 500 of the machine learning device includes an abnormality detection range setting unit 530, an abnormality detection range storage unit 540, and an abnormality determination unit 520.
  • the feature extraction unit 200 sets a person detection window in the image data, and extracts the HoG (Histograms of Oriented Gradients) feature amount from the partial image in the person detection window.
  • the feature extraction unit 200 divides the partial image in the person detection window into a plurality of cells, and extracts the feature amount of each cell based on the gradient direction of the brightness of each pixel constituting each cell.
  • FIG. 2 is a flowchart showing the procedure for extracting the HoG feature amount.
  • FIG. 3 is a diagram showing an example of extraction of HoG feature amount.
  • step S101 the feature extraction unit 200 extracts a 64 ⁇ 128 partial image from the 576 ⁇ 576 image data output from the camera by the person detection window.
  • step S102 the feature extraction unit 200 divides the 64 ⁇ 128 partial image into 105 16 ⁇ 16 blocks by setting the stride width in the vertical direction and the horizontal direction to 8 pixels.
  • step S103 the feature extraction unit 200 generates four luminance gradient histograms from each of the 105 blocks.
  • the number of bins on the horizontal axis of the luminance gradient histogram is nine.
  • the machine learning device 100 determines whether or not a person is present in the partial image extracted by the person detection window.
  • the machine learning device 100 is composed of, for example, a linear support vector machine.
  • Z (n) when the input 3780-dimensional feature amount belongs to the first classification, Z (n) ⁇ 0, and when the input 3780-dimensional feature amount belongs to the second classification, Z (n). Learn so that ⁇ 0.
  • the machine learning device 100 outputs Z ⁇ 0 when the input 3780-dimensional feature amount belongs to the first classification at the time of operation after the learning is completed, and the input 3780-dimensional feature amount belongs to the second classification. Occasionally, Z ⁇ 0 is output.
  • the feature amount which is the 3780-dimensional input data is the feature amount extracted from the image including a person
  • the feature amount which is the 3780-dimensional input data is the first. Judged as belonging to the classification.
  • the machine learning device 100 determines that the feature amount which is the 3780-dimensional input data belongs to the second classification when the feature amount which is the 3780-dimensional input data is the feature amount extracted from the image which does not include a person. To do.
  • the notification unit 300 notifies the product system 400 such as the brake control device of the automobile when the output Z of the machine learning device 100 is positive or 0 during the operation of the machine learning device 100.
  • the product system 400 can control the automatic braking based on the notification.
  • the abnormality detection range setting unit 530 inputs the input data (feature amount R) to the machine learning device 100 and acquires the determination result (Z) of the machine learning device 100.
  • the abnormality detection range setting unit 530 determines that the machine learning device 100 belongs to the first category (Z ⁇ 0). Select data.
  • the abnormality detection range setting unit 530 specifies the minimum value and the maximum value for each dimension of the selected plurality of input data (feature amount R), and determines the 3780-dimensional region defined by the minimum value and the maximum value of each dimension. Set as an abnormality detection range.
  • the abnormality detection range setting unit 530 sets the abnormality detection range as a plurality of input data to be input to the machine learning device 100 during operation of the machine learning device 100 (for example, during trial operation or during trial operation). Use the input data (at the start of operation, etc.).
  • the abnormality detection range storage unit 540 stores information indicating the abnormality detection range.
  • the abnormality determination unit 520 when the machine learning device 100 is in operation, the 3780-dimensional input data (feature amount R) input to the machine learning device 100 belongs to the abnormality detection range, and the 3780-dimensional input data to which the machine learning device 100 is input.
  • the machine learning device 100 is determined to be abnormal.
  • FIG. 4 is a flowchart showing the overall operating procedure of the human detection system.
  • the machine learning device 100 executes learning.
  • step S902 after the learning of the machine learning device 100 is completed, the abnormality detection range setting unit 530 sets the abnormality detection range.
  • step S903 the machine learning device 100 is actually operated.
  • the abnormality detection device 500 of the machine learning device 100 detects the presence or absence of an abnormality in the machine learning device 100.
  • step S904 If an abnormality is detected in the machine learning device 100 in step S904, the process proceeds to step S905.
  • step S905 the notification unit 300 notifies the product system 400 that the machine learning device 100 is abnormal.
  • FIG. 5 is a flowchart showing the procedure for setting the abnormality detection range in the first embodiment.
  • step S1001 after the learning of the machine learning device 100 is completed, the input data at the time of operation is input to the machine learning device 100 to acquire the determination result of the machine learning device 100.
  • the input data at the time of operation for example, the input data at the time of trial run of the machine learning device 100 or for a certain period after the start of operation can be used. This is because the machine learning device 100 is expected to operate normally during this period.
  • step S1002 among the plurality of input data input to the machine learning device 100, M (Z ⁇ 0) input data determined that the machine learning device 100 belongs to the first category are selected.
  • step S1003 the minimum value and the maximum value for each dimension of the plurality of selected input data are specified, and the 3780-dimensional region defined by the minimum value and the maximum value of each dimension is set as the abnormality detection range.
  • FIG. 6 is a flowchart showing the detailed procedure of step S1003 of FIG.
  • the abnormality detection range setting unit 530 sets the axis number i of the feature amount, which is the input data, to 0.
  • step S202 the abnormality detection range setting unit 530 sets the maximum value MaxX (i) of the i-axis of the M features to 0 and the minimum value MinX (i) of the i-axis of the features to H. To do. H is a sufficiently large constant value.
  • step S203 the abnormality detection range setting unit 530 sets the feature amount number n to 1.
  • step S204 the machine learning device 100 receives the feature amount S (n) and outputs Z (n).
  • the machine learning device 100 executes learning based on the output Z (n) and the teacher data.
  • step S205 when the output Z (n) of the machine learning device 100 is positive or 0, the process proceeds to step S206.
  • the output Z (n) of the machine learning device 100 is negative, the process proceeds to step S210.
  • step S206 when the value X (n, i) on the i-axis of the nth feature amount S (n) is smaller than the minimum value MinX (i), the process proceeds to step S207.
  • step S207 the abnormality detection range setting unit 530 sets X (n, i) to the minimum value MinX (i).
  • step S208 when the value X (n, i) on the i-axis of the nth feature amount S (n) is larger than the maximum value MaxX (i), the process proceeds to step S207.
  • step S209 the abnormality detection range setting unit 530 sets X (n, i) to the maximum value MaxX (i).
  • step S210 when n is not equal to M, the process proceeds to step S211.
  • step S212 when n is equal to M, the process proceeds to step S212.
  • step S211 the abnormality detection range setting unit 530 increases the feature amount number n by one. After that, the process returns to step S206.
  • the abnormality detection range setting unit 530 sets the range of the minimum value MinX (i) or more and the maximum value MaxX (i) or less as the i-axis component of the abnormality detection range.
  • the abnormality detection range setting unit 530 stores the minimum value MinX (i) and the maximum value MaxX (i) in the abnormality detection range storage unit 540.
  • step S213 when the feature axis number i is not equal to the feature dimension 3780, the process proceeds to step S214, and when the feature axis number i is equal to the feature dimension 3780, the process proceeds. finish.
  • step S214 the abnormality detection range setting unit 530 increases the axis number i of the feature amount by 1. After that, the process returns to step S202.
  • FIG. 7 is a diagram showing an example of information stored in the abnormality detection range storage unit 540.
  • FIG. 8 is a flowchart showing the procedure of detecting a person and determining an abnormality by the machine learning device 100.
  • step S300 the abnormality determination unit 520 sets the axis number i of the feature amount R to 0.
  • step S301 the abnormality determination unit 520 reads the minimum value MinX (i) and the maximum value MaxX (i) of the i-axis component of the abnormality detection range from the abnormality detection range storage unit 540.
  • step S302 when the value R (i) on the i-axis of the feature amount R is equal to or greater than the minimum value MinX (i) and equal to or less than the maximum value MaxX (i), the process proceeds to step S304.
  • step S304 When the value R (i) on the i-axis of the feature amount is less than the minimum value MinX (i) or exceeds the maximum value MaxX (i), the process proceeds to step S303.
  • step S303 the abnormality determination unit 520 determines that the feature amount R is data outside the abnormality detection range, and ends.
  • step S304 when the feature axis number i is not equal to the feature dimension 3780, the process proceeds to step S305, and when the feature axis number i is equal to the feature dimension 3780, the process proceeds. The process proceeds to step S306.
  • step S305 the abnormality determination unit 520 increases the axis number i of the feature amount by 1. After that, the process returns to step S302.
  • step S306 the abnormality determination unit 520 determines that the feature amount R is data within the abnormality detection range.
  • step S307 the machine learning device 100 receives the feature amount R and outputs Z.
  • step S308 when the output Z of the machine learning device 100 is negative, that is, when the machine learning device 100 detects a person other than "person”, the process proceeds to step S309.
  • the process ends when the output Z of the machine learning device 100 is 0 or positive, that is, when the machine learning device 100 detects a “person”.
  • step S308 the abnormality determination unit 520 notifies the product system 400 that an abnormality has been detected.
  • the user of the product system 400 can achieve the fail-safe of the human detection system by diagnosing the failure of the machine learning device 100 in detail after receiving the notification of the abnormality detection.
  • FIG. 9 is a diagram showing an example of processing when the machine learning device 100 is normal.
  • FIG. 9 shows the space of the feature amount extracted by the feature extraction unit 200.
  • the first axis and the 3780th axis of the feature amount are shown.
  • the space of the feature quantity is separated into two by the linear discriminant function.
  • One space is a region where the output Z of the machine learning device 100 is positive, and represents that a "person” has been detected.
  • the other space is a region where the output Z of the machine learning device 100 is negative, and represents that a person other than "human” has been detected.
  • the abnormality detection range is set using the feature quantities S (1) to S (11).
  • FIG. 9 shows the first axis component and the 3780th axis component of the abnormality detection range.
  • the output Z of the linear discriminant function is positive in most of the abnormality detection range. Therefore, in the operation of the machine learning device 100, when the machine learning device 100 is normal, when the feature amount R is included in the abnormality detection range, the probability that the output of the machine learning device 100 becomes positive is quite high, and the machine The probability that the output of the learning device 100 will be negative is quite small. Therefore, when the feature amount R is included in the abnormality detection range and the output of the machine learning device 100 becomes positive, it can be determined that the machine learning device 100 is normal.
  • FIG. 10 is a diagram showing an example of processing when the machine learning device 100 is abnormal.
  • the linear discriminant function obtained by learning has changed because an abnormality has occurred in the machine learning device 100.
  • the output Z of the linear discriminant function is not positive in most of the abnormality detection range. Therefore, when the machine learning device 100 is in operation and the machine learning device 100 is abnormal, the probability that the output of the machine learning device 100 becomes negative increases when the feature amount R is included in the abnormality detection range. Expected. Therefore, when the feature amount R is included in the abnormality detection range and the output of the machine learning device 100 becomes negative, it can be determined that the machine learning device 100 is abnormal.
  • an abnormality detection range is set using a plurality of input data determined by the machine learning device to belong to the first category, and machine learning is performed.
  • the input data of the machine learning device belongs to the abnormality detection range and the machine learning device determines that the input data belongs to the second category during the operation of the device, the machine learning device is determined to be abnormal.
  • the machine learning device When the machine learning device is implemented by FPGA, the logic blocks in the FPGA are exhausted due to the parallelization of the arithmetic units.
  • the machine learning device by mounting the abnormality detection range storage unit by the memory block in the FPGA or the external DDR memory or the hard disk, the machine learning device can be used without affecting the parallelization of the arithmetic units using the FPGA. Abnormality can be detected.
  • the abnormality detection range setting unit 530 uses the input data at the time of learning of the machine learning device 100 as a plurality of input data to be input to the machine learning device 100 for setting the abnormality detection range.
  • FIG. 11 is a flowchart showing the procedure for setting the abnormality detection range in the second embodiment.
  • the flowchart of FIG. 11 differs from the flowchart of the first embodiment of FIG. 5 in that the flowchart of FIG. 11 includes step S2001 instead of step S1001.
  • step S2001 after the learning of the machine learning device 100 is completed, the input data (X (n, 1) to X (n, 3780)) at the time of learning is input to the machine learning device 100, and the determination result of the machine learning device 100 is obtained. get.
  • the abnormality detection range setting unit 530 uses the machine learning device 100 after learning of the machine learning device 100 as a plurality of input data to be input to the machine learning device 100 for setting the abnormality detection range.
  • the input data used when verifying generalization performance is used.
  • FIG. 12 is a flowchart showing the procedure for setting the abnormality detection range in the third embodiment.
  • the flowchart of FIG. 12 differs from the flowchart of the first embodiment of FIG. 5 in that the flowchart of FIG. 12 includes step S3001 instead of step S1001.
  • step S3001 after the learning of the machine learning device 100 is completed, the input data at the time of verification is input to the machine learning device 100 to acquire the determination result of the machine learning device 100.
  • FIG. 13 is a diagram showing an example of the hardware configuration of the abnormality determination unit 520.
  • the abnormality determination unit 520 includes a single-dimensional determination device 521, a full-dimensional determination device 522, and an output value abnormality determination device 523.
  • the i-th dimension determiner 550 (i) outputs a high-level signal when the value R (i) on the i-axis of the feature quantity R is equal to or greater than the minimum value MinX (i) and equal to or less than the maximum value MaxX (i). Output.
  • the full-dimensional judgment device 522 outputs a high level when the outputs of the first-dimensional judgment device 550 (1) to the 3780th-dimensional judgment device 550 (3780) are all high levels.
  • the output value abnormality determination device 523 outputs an abnormality detection notification signal when the output of the all-dimensional determination device 522 is at a high level and the output Z of the machine learning device 100 is negative.
  • the corresponding operation can be configured by the hardware or software of the digital circuit.
  • the human detection system 1000 includes, for example, a processor 5001 and a memory 5002 connected by a bus 5003 and is stored in the memory 5002, as shown in FIG.
  • the processed program can be executed by the processor 5001.
  • the machine learning device may use the k-nearest neighbor method, the naive Bayes classification method, the decision tree, the neural network, the bagging method, the boosting method, or the random forest method.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Abstract

異常検出範囲設定部（５３０）は、機械学習装置（１００）の学習終了後に、機械学習装置（１００）へ入力データを入力して機械学習装置（１００）の判定結果を取得し、複数個の入力データのうち、機械学習装置（１００）が第１分類に属すると判定した複数個の入力データを選択し、選択した複数個の入力データの各次元についての最小値および最大値を特定し、各次元の最小値および最大値で定められるＮ次元の領域を異常検出範囲として設定する。異常判定部（５２０）は、機械学習装置（１００）の運用時に、機械学習装置（１００）への入力データが異常検出範囲に属し、かつ機械学習装置（１００）への入力データが第２分類に属すると判定したときに、機械学習装置（１００）が異常であると判定する。

Description

機械学習装置の異常検出装置、人検出システム、および機械学習装置の異常検出方法
　本発明は、機械学習装置の異常検出装置、人検出システム、および機械学習装置の異常検出方法に関する。
　自動車の電動化および自動化が進むのに伴い、車載製品への機械学習の導入が急速に普及しつつある。しかし、車載製品の異常は、人命に係るため、運転中に発生する車載製品の異常を即座に検出することが求められている。
　たとえば、特許文献１に記載の方法では、ニューラルネットワーク内部の演算ユニットを多重化し、多重化した演算ユニットの多数決によって、異常値を訂正する。
　非特許文献１に記載されている方法は、学習時において、実際の故障を模擬したニューラルネットワークへ故障を注入し、故障時の教師データを活用することによって、故障時でも正常な演算ができるようにニューラルネットワークを学習させる。
国際公開２０１７／２０３９７５号
西垣、他２名、「ニューラルネットワークの耐最悪故障化学習」、電子情報通信学会論文誌　D-I,　Vol.　J83-D-I,　No.1,　pp.203-214,　2000年1月
　しかしながら、特許文献１に記載された方法では、演算ユニットの多重化が必要となるため、回路規模が増加する。
　非特許文献１の方法の場合、故障の注入用の学習データを追加する必要がある。故障の注入用の学習データを用意することは現実的に困難である。
　それゆえに、本発明の目的は、故障を注入する学習のような特別な学習を必要とせずに、かつ小さな回路規模で機械学習装置の異常を検出することができる機械学習装置の異常検出装置、人検出システム、および機械学習装置の異常検出方法を提供することである。
　本発明は、Ｎ次元の入力データが第１分類に属するか、あるい第２分類に属するかを判定する機械学習装置の異常検出装置であって、機械学習装置の学習終了後に、機械学習装置へ入力データを入力して機械学習装置の判定結果を取得し、機械学習装置へ入力した複数個の入力データのうち、機械学習装置が第１分類に属すると判定した複数個の入力データを選択し、選択した複数個の入力データの各次元についての最小値および最大値を特定し、各次元の最小値および最大値で定められるＮ次元の領域を異常検出範囲として設定する異常検出範囲設定部と、機械学習装置の運用時に、機械学習装置へ入力される入力データが異常検出範囲に属し、かつ機械学習装置が入力される入力データが第２分類に属すると判定したときに、機械学習装置が異常であると判定する異常判定部とを備える。
　本発明の人検出システムは、機械学習装置と、上記機械学習装置の異常検出装置とを備える。機械学習装置は、入力データが、人が含まれる画像から抽出された特徴量である場合に、入力データが第１分類に属すると判定し、入力データが、人が含まれない画像から抽出された特徴量である場合に、入力でデータが第２分類に属すると判定する。
　本発明は、Ｎ次元の入力データが第１分類に属するか、あるい第２分類に属するかを判定する機械学習装置の異常検出方法であって、機械学習装置の学習終了後に、機械学習装置へ入力データを入力して機械学習装置の判定結果を取得するステップと、機械学習装置へ入力した複数個の入力データのうち、機械学習装置が第１分類に属すると判定した複数個の入力データを選択するステップと、選択した複数個の入力データの各次元についての最小値および最大値を特定し、各次元の最小値および最大値で定められるＮ次元の領域を異常検出範囲として設定するステップと、機械学習装置の運用時に、機械学習装置へ入力される入力データが異常検出範囲に属し、かつ機械学習装置が入力される入力データが第２分類に属すると判定したときに、機械学習装置が異常であると判定するステップとを備える。
　本発明は、機械学習装置へ入力した複数個の入力データのうち、機械学習装置が第１分類に属すると判定した複数個の入力データを選択し、選択した複数個の入力データの各次元についての最小値および最大値を特定し、各次元の最小値および最大値で定められるＮ次元の領域を異常検出範囲として設定する。本発明は、さらに、機械学習装置の運用時に、機械学習装置へ入力される入力データが異常検出範囲に属し、かつ機械学習装置が入力される入力データが第２分類に属すると判定したときに、機械学習装置が異常であると判定する。これによって、故障を注入する学習のような特別な学習を必要とせずに、かつ小さな回路規模で機械学習装置の異常を検出することができる。
人検出システム１０００の構成を表わす図である。 ＨｏＧ特徴量の抽出手順を表わすフローチャートである。 ＨｏＧ特徴量の抽出例を表わす図である。 人検出システムの全体的な動作手順を表わすフローチャートである。 実施の形態１における異常検出範囲の設定の手順を表わすフローチャートである。 図５のステップＳ１００３の詳細な手順を表わすフローチャートである。 異常検出範囲記憶部５４０に記憶されている情報の例を表わす図である。 機械学習装置１００による人の検出および異常判定の手順を表わすフローチャートである。 機械学習装置１００が正常のときの処理の例を表わす図である。 機械学習装置１００が異常であるときの処理の例を表わす図である。 実施の形態２における異常検出範囲の設定の手順を表わすフローチャートである。 実施の形態３における異常検出範囲の設定の手順を表わすフローチャートである。 異常判定部５２０のハードウェア構成の一例を表わす図である。 人検出システムのハードウェア構成図である。
　以下、実施の形態について、図面を参照して説明する。
　実施の形態１．
　図１は、人検出システム１０００の構成を表わす図である。
　人検出システム１０００は、特徴抽出部２００と、機械学習装置１００と、通知部３００と、製品システム４００と、機械学習装置の異常検出装置５００とを備える。
　機械学習装置の異常検出装置５００は、異常検出範囲設定部５３０と、異常検出範囲記憶部５４０と、異常判定部５２０とを備える。
　特徴抽出部２００は、画像データに人検出ウインドウを設定し、人検出ウインドウ内のの部分画像からＨｏＧ（Histograms　of　Oriented　Gradients）特徴量を抽出する。特徴抽出部２００は、人検出ウインドウ内の部分画像を複数のセルに分割して、各セルを構成する各画素の輝度の勾配方向に基づいた各セルの特徴量を抽出する。
　図２は、ＨｏＧ特徴量の抽出手順を表わすフローチャートである。図３は、ＨｏＧ特徴量の抽出例を表わす図である。
　図２および図３を参照して、ステップＳ１０１において、特徴抽出部２００は、カメラから出力される５７６×５７６の画像データから人検出ウインドウによって、６４×１２８の部分画像を抽出する。
　ステップＳ１０２において、特徴抽出部２００は、縦方向および横方向のストライド幅を８画素に設定することによって、６４×１２８の部分画像を１０５個の１６×１６のブロックに分割する。
　ステップＳ１０３において、特徴抽出部２００は、１０５個のブロックの各々から４個の輝度勾配ヒストグラムを生成する。輝度勾配ヒストグラムの横軸のビンの数は、９個である。
　ステップＳ１０４において、特徴抽出部２００は、１０５×４個の輝度勾配ヒストグラムをブロックごとに正規化する。これによって、３７８０（＝１０５×４×９）次元の特徴量Ｘ（１）～Ｘ（３７８０）が得られる。
　再び、図１を参照して、機械学習装置１００は、人検出ウインドウによって抽出された部分画像中に人が存在するか否を判定する。機械学習装置１００は、たとえば、線形サポートベクトルマシンによって構成されている。
　機械学習装置１００は、学習時には、特徴抽出部２００から出力される３７８０次元の特徴量サンプルＳ（ｎ）（＝Ｘ（ｎ，１），Ｘ（ｎ，２），・・・Ｘ（ｎ，３７８０））を入力データとし、Ｚ（ｎ）を出力する。ｎは１～Ｎであり、特徴量サンプルＳ（ｎ）の個数は、Ｍ個である。機械学習装置１００は、入力される３７８０次元の特徴量が第１分類に属するときには、Ｚ（ｎ）≧０となり、入力される３７８０次元の特徴量が第２分類に属するときには、Ｚ（ｎ）≧０となるように学習する。
　機械学習装置１００は、学習終了後の運用時には、特徴抽出部２００から出力される３７８０次元の特徴量Ｒ（＝Ｒ（１），Ｒ（２），・・・Ｒ（３７８０））を入力データとし、Ｚを出力する。機械学習装置１００は、学習終了後の運用時には、入力される３７８０次元の特徴量が第１分類に属するときには、Ｚ≧０を出力し、入力される３７８０次元の特徴量が第２分類に属するときには、Ｚ＜０を出力する。
　より具体的には、機械学習装置１００は、３７８０次元の入力データである特徴量が人が含まれる画像から抽出された特徴量である場合に、３７８０次元の入力データである特徴量が第１分類に属すると判定する。機械学習装置１００は、３７８０次元の入力データである特徴量が人が含まれない画像から抽出された特徴量である場合に、３７８０次元の入力データである特徴量が第２分類に属すると判定する。
　通知部３００は、機械学習装置１００の運用時に機械学習装置１００の出力Ｚが正または０のときに、自動車のブレーキ制御装置などの製品システム４００へ通知する。製品システム４００は、通知に基づいて、自動ブレーキを制御することができる。
　異常検出範囲設定部５３０は、機械学習装置１００の学習終了後に、機械学習装置１００へ入力データ（特徴量Ｒ）を入力して機械学習装置１００の判定結果（Ｚ）を取得する。異常検出範囲設定部５３０は、機械学習装置１００へ入力した複数個の入力データ（特徴量Ｒ）のうち、機械学習装置１００が第１分類に属すると判定した（Ｚ≧０）複数個の入力データを選択する。異常検出範囲設定部５３０は、選択した複数個の入力データ（特徴量Ｒ）の各次元についての最小値および最大値を特定し、各次元の最小値および最大値で定められる３７８０次元の領域を異常検出範囲として設定する。
　実施の形態１では、異常検出範囲設定部５３０は、異常検出範囲の設定のために機械学習装置１００へ入力する複数個の入力データとして、機械学習装置１００の運用時（たとえば、試運転時、または稼働開始時など）の入力データを用いる。
　異常検出範囲記憶部５４０は、異常検出範囲を表わす情報を記憶する。
　異常判定部５２０は、機械学習装置１００の運用時、機械学習装置１００へ入力される３７８０次元の入力データ（特徴量Ｒ）が異常検出範囲に属し、かつ機械学習装置１００が入力される３７８０次元の入力データ（特徴量Ｒ）が第２分類に属すると判定した（Ｚ＜０）ときに、機械学習装置１００が異常であると判定する。
　図４は、人検出システムの全体的な動作手順を表わすフローチャートである。
　ステップＳ９０１において、機械学習装置１００が、学習を実行する。
　ステップＳ９０２において、機械学習装置１００の学習終了後において、異常検出範囲設定部５３０は、異常検出範囲を設定する。
　ステップＳ９０３において、機械学習装置１００が実運用される。運用時において、機械学習装置１００の異常検出装置５００が、機械学習装置１００の異常の有無を検出する。
　ステップＳ９０４において、機械学習装置１００に異常が検出された場合に、処理がステップＳ９０５に進む。
　ステップＳ９０５において、通知部３００は、製品システム４００に機械学習装置１００が異常であることを通知する。
　図５は、実施の形態１における異常検出範囲の設定の手順を表わすフローチャートである。
　ステップＳ１００１において、機械学習装置１００の学習終了後に、機械学習装置１００へ運用時の入力データを入力して機械学習装置１００の判定結果を取得する。運用時の入力データとして、たとえば、機械学習装置１００の試運転時、または稼働開始後の一定期間の入力データを用いることができる。この期間において、機械学習装置１００が正常に動作すると見込まれるからである。
　ステップＳ１００２において、機械学習装置１００へ入力した複数個の入力データのうち、機械学習装置１００が第１分類に属すると判定した（Ｚ≧０）Ｍ個の入力データを選択する。
　ステップＳ１００３において、選択した複数個の入力データの各次元についての最小値および最大値を特定し、各次元の最小値および最大値で定められる３７８０次元の領域を異常検出範囲として設定する。
　図６は、図５のステップＳ１００３の詳細な手順を表わすフローチャートである。
　ステップＳ２０１において、異常検出範囲設定部５３０は、入力データである特徴量の軸番号ｉを０に設定する。
　ステップＳ２０２において、異常検出範囲設定部５３０は、Ｍ個の特徴量の第ｉ軸の最大値ＭａｘＸ（ｉ）を０、個の特徴量の第ｉ軸の最小値ＭｉｎＸ（ｉ）をＨに設定する。Ｈは、十分に大きな一定値である。
　ステップＳ２０３において、異常検出範囲設定部５３０は、特徴量の番号ｎを１に設定する。
　ステップＳ２０４において、機械学習装置１００は、特徴量Ｓ（ｎ）を受けて、Ｚ（ｎ）を出力する。機械学習装置１００は、出力Ｚ（ｎ）と教師データとに基づいて、学習を実行する。
　ステップＳ２０５において、機械学習装置１００の出力Ｚ（ｎ）が正または０の場合に、処理がステップＳ２０６に進む。機械学習装置１００の出力Ｚ（ｎ）が負の場合に、処理がステップＳ２１０に進む。
　ステップＳ２０６において、ｎ番目の特徴量Ｓ（ｎ）の第ｉ軸の値Ｘ（ｎ，ｉ）が最小値ＭｉｎＸ（ｉ）よりも小さいときには、処理がステップＳ２０７に進む。
　ステップＳ２０７において、異常検出範囲設定部５３０は、Ｘ（ｎ，ｉ）を最小値ＭｉｎＸ（ｉ）に設定する。
　ステップＳ２０８において、ｎ番目の特徴量Ｓ（ｎ）の第ｉ軸の値Ｘ（ｎ，ｉ）が最大値ＭａｘＸ（ｉ）よりも大きいときには、処理がステップＳ２０７に進む。
　ステップＳ２０９において、異常検出範囲設定部５３０は、Ｘ（ｎ，ｉ）を最大値ＭａｘＸ（ｉ）に設定する。
　ステップＳ２１０において、ｎがＭと等しくないときには、処理がステップＳ２１１に進む。ｎがＭと等しいときには、処理がステップＳ２１２に進む。
　ステップＳ２１１において、異常検出範囲設定部５３０は、特徴量の番号ｎを１だけ増加させる。その後、処理がステップＳ２０６に戻る。
　ステップＳ２１２において、異常検出範囲設定部５３０は、最小値ＭｉｎＸ（ｉ）以上、かつ最大値ＭａｘＸ（ｉ）以下の範囲を異常検出範囲の第ｉ軸成分に設定する。異常検出範囲設定部５３０は、最小値ＭｉｎＸ（ｉ）および最大値ＭａｘＸ（ｉ）を異常検出範囲記憶部５４０に記憶させる。
　ステップＳ２１３において、特徴量の軸番号ｉが特徴量の次元である３７８０と等しくないときには、処理がステップＳ２１４に進み、特徴量の軸番号ｉが特徴量の次元である３７８０と等しいときには、処理が終了する。
　ステップＳ２１４において、異常検出範囲設定部５３０は、特徴量の軸番号ｉを１だけ増加させる。その後、処理がステップＳ２０２に戻る。
　図７は、異常検出範囲記憶部５４０に記憶されている情報の例を表わす図である。
　異常検出範囲記憶部５４０は、異常検出範囲の第ｉ軸成分の最小値ＭｉｎＸ（ｉ）の値および最大値ＭａｘＸ（ｉ）の値を記憶する。ｉ＝１～３７８０である。図７に示すように、異常検出範囲の第１軸成分～第３７８０軸成分が設定されている。
　図８は、機械学習装置１００による人の検出および異常判定の手順を表わすフローチャートである。
　ステップＳ３００において、異常判定部５２０は、特徴量Ｒの軸番号ｉを０に設定する。
　ステップＳ３０１において、異常判定部５２０は、異常検出範囲記憶部５４０から異常検出範囲の第ｉ軸成分の最小値ＭｉｎＸ（ｉ）、および最大値ＭａｘＸ（ｉ）を読出す。
　ステップＳ３０２において、特徴量Ｒの第ｉ軸の値Ｒ（ｉ）が最小値ＭｉｎＸ（ｉ）以上、かつ最大値ＭａｘＸ（ｉ）以下の場合に、処理がステップＳ３０４に進む。特徴量の第ｉ軸の値Ｒ（ｉ）が最小値ＭｉｎＸ（ｉ）未満、または最大値ＭａｘＸ（ｉ）を超える場合に、処理がステップＳ３０３に進む。
　ステップＳ３０３において、異常判定部５２０は、特徴量Ｒが異常検出範囲外のデータであると判断し、終了する。
　ステップＳ３０４において、特徴量の軸番号ｉが特徴量の次元である３７８０と等しくないときには、処理がステップＳ３０５に進み、特徴量の軸番号ｉが特徴量の次元である３７８０と等しいときには、処理がステップＳ３０６に進む。
　ステップＳ３０５において、異常判定部５２０は、特徴量の軸番号ｉを１だけ増加させる。その後、処理がステップＳ３０２に戻る。
　ステップＳ３０６において、異常判定部５２０は、特徴量Ｒが異常検出範囲内のデータであると判断する。
　ステップＳ３０７において、機械学習装置１００は、特徴量Ｒを受けて、Ｚを出力する。
　ステップＳ３０８において、機械学習装置１００の出力Ｚが負の場合、すなわち、機械学習装置１００が「人」以外を検出した場合に、処理がステップＳ３０９に進む。機械学習装置１００の出力Ｚが０または正の場合、すなわち、機械学習装置１００が「人」を検出した場合に、処理が終了する。
　ステップＳ３０８において、異常判定部５２０は、異常が検出されたことを製品システム４００に通知する。製品システム４００のユーザは、異常検知の通知を受けた後、機械学習装置１００の故障を詳細に診断することによって、人検出システムのフェイルセーフを達成することができる。
　図９は、機械学習装置１００が正常のときの処理の例を表わす図である。
　図９には、特徴抽出部２００によって抽出される特徴量の空間が示されている。図９では、説明の便宜のため、特徴量の第１軸と、第３７８０軸とが示されている。機械学習装置１００による学習の結果、特徴量の空間は、線形判別関数によって２つに分離される。一方の空間は、機械学習装置１００の出力Ｚが正となる領域であり、「人」が検出されたことを表わす。他方の空間は、機械学習装置１００の出力Ｚが負となる領域であり、「人」以外が検出されたことを表わす。
　特徴量Ｓ（１）～Ｓ（１１）を用いて、異常検出範囲が設定される。図９には、異常検出範囲の第１軸成分と第３７８０軸成分とが示されている。
　図９では、異常検出範囲の大部分において、線形判別関数の出力Ｚが正となる。したがって、機械学習装置１００の運用時において、機械学習装置１００が正常の場合には、特徴量Ｒが異常検出範囲に含まれるときには、機械学習装置１００の出力が正となる確率がかなり高く、機械学習装置１００の出力が負となる確率がかなり小さい。よって、特徴量Ｒが異常検出範囲に含まれ、かつ機械学習装置１００の出力が正となるときには、機械学習装置１００が正常であると判定することができる。
　図１０は、機械学習装置１００が異常であるときの処理の例を表わす図である。
　学習によって求めた線形判別関数が、機械学習装置１００に異常が発生したため、変化している。図１０では、異常検出範囲の大部分において、線形判別関数の出力Ｚが正とならない。したがって、機械学習装置１００の運用時において、機械学習装置１００が異常の場合には、特徴量Ｒが異常検出範囲に含まれるときには、機械学習装置１００の出力が負となる確率が大きくなることが見込まれる。よって、特徴量Ｒが異常検出範囲に含まれ、かつ機械学習装置１００の出力が負となるときには、機械学習装置１００が異常であると判定することができる。
　本実施の形態によれば、機械学習装置が正常に動作しているときに、機械学習装置が第１分類に属すると判定した複数個の入力データを用いて異常検出範囲を設定し、機械学習装置の運用時に、機械学習装置の入力データが異常検出範囲に属し、かつ機械学習装置が入力データが第２分類に属すると判定したときに、機械学習装置が異常であると判定する。これによって、故障を注入する学習のような特別な学習を必要とせずに、かつ小さな回路規模で機械学習装置の異常を検出することができる。これによって、故障を注入する学習のような特別な学習を必要とせずに、かつ小さな回路規模で機械学習装置の異常を検出することができる。
　機械学習装置をＦＰＧＡによって実装する場合には、演算ユニットの並列化のため、ＦＰＧＡ内のロジックブロックが枯渇する。本実施の形態で、異常検出範囲記憶部をＦＰＧＡ内のメモリブロックまたは外部のＤＤＲメモリまたはハードディスクによって実装することによって、ＦＰＧＡを用いた演算ユニットの並列化へ影響を与えずに、機械学習装置の異常を検出することができる。
　実施の形態２．
　実施の形態２では、異常検出範囲設定部５３０は、異常検出範囲の設定のために機械学習装置１００へ入力する複数個の入力データとして、機械学習装置１００の学習時の入力データを用いる。
　図１１は、実施の形態２における異常検出範囲の設定の手順を表わすフローチャートである。図１１のフローチャートが、図５の実施形態１のフローチャートと相違する点は、図１１のフローチャートがステップＳ１００１の代わりに、ステップＳ２００１を備える点である。
　ステップＳ２００１において、機械学習装置１００の学習終了後に、機械学習装置１００へ学習時の入力データ（Ｘ（ｎ，１）～Ｘ（ｎ，３７８０））を入力して機械学習装置１００の判定結果を取得する。
　実施の形態３．
　実施の形態３では、異常検出範囲設定部５３０は、異常検出範囲の設定のために機械学習装置１００へ入力する複数個の入力データとして、機械学習装置１００の学習終了後の機械学習装置１００の汎化性能を検証するときの入力データを用いる。
　図１２は、実施の形態３における異常検出範囲の設定の手順を表わすフローチャートである。図１２のフローチャートが、図５の実施形態１のフローチャートと相違する点は、図１２のフローチャートがステップＳ１００１の代わりに、ステップＳ３００１を備える点である。
　ステップＳ３００１において、機械学習装置１００の学習終了後に、機械学習装置１００へ検証時の入力データを入力して機械学習装置１００の判定結果を取得する。
　実施の形態４．
　図１３は、異常判定部５２０のハードウェア構成の一例を表わす図である。
　異常判定部５２０は、単一次元判定器５２１と、全次元判定器５２２と、出力値異常判定器５２３とを備える。単一次元判定器５２１は、３７８０個の第ｉ次元判定器５５０（ｉ）を備える。ただし、ｉ＝１～３７８０である。
　第ｉ次元判定器５５０（ｉ）は、特徴量Ｒの第ｉ軸の値Ｒ（ｉ）が最小値ＭｉｎＸ（ｉ）以上、かつ最大値ＭａｘＸ（ｉ）以下の場合に、ハイレベルの信号を出力する。
　全次元判定器５２２は、第１次元判定器５５０（１）～第３７８０次元判定器５５０（３７８０）の出力がすべてハイレベルのときに、ハイレベルを出力する。
　出力値異常判定器５２３は、全次元判定器５２２の出力がハイレベルであり、かつ機械学習装置１００の出力Ｚが負のときに、異常検出通知信号を出力する。
　変形例．
　本発明は、上記の実施形態に限定されるものではなく、たとえば、以下のような変形例も含む。
　（１）実施の形態１～４で説明した人検出システムは、相当する動作をデジタル回路のハードウェアまたはソフトウェアで構成することができる。人検出システムの機能をソフトウェアを用いて実現する場合には、人検出システム１０００は、例えば、図１４に示すように、バス５００３で接続されたプロセッサ５００１とメモリ５００２とを備え、メモリ５００２に記憶されたプログラムをプロセッサ５００１が実行するようにすることができる。
　（２）機械学習装置は、線形サポートベクトルマシンに限定されるものではない。入力データを２カテゴリのうちのいずれかに分類する機械学習装置であって、学習により演算の精度を高められる特徴があり、かつ出力データに誤差幅があるため、完全一致比較以外の方法(＝Min/Max範囲判定)で異常が検出できるようなものであればよい。たとえば、機械学習装置は、ｋ近傍法、ナイーブベイズ分類法、決定木、ニューラルネットワーク、バギング法、ブースティング法、又はランダムフォレスト法を用いたものでもよい。
　今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて請求の範囲によって示され、請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
　１００　機械学習装置、２００　特徴抽出部、３００　通知部、４００　製品システム、５００　異常検出装置、５２０　異常判定部、５２１　単一次元判定器、５２２　全次元判定器、５２３　出力値異常判定器、５３０　異常検出範囲設定部、５４０　異常検出範囲記憶部、５５０（１）～５５０（３７８０）　第１次元判定器～第３７８０次元判別器、１０００　人検出システム、５００１　プロセッサ、５００２　メモリ、５００３　バス。

Claims (8)

  1. 　Ｎ次元の入力データが第１分類に属するか、あるい第２分類に属するかを判定する機械学習装置の異常検出装置であって、
    　前記機械学習装置の学習終了後に、前記機械学習装置へ入力データを入力して前記機械学習装置の判定結果を取得し、前記機械学習装置へ入力した複数個の入力データのうち、前記機械学習装置が前記第１分類に属すると判定した複数個の入力データを選択し、選択した前記複数個の入力データの各次元についての最小値および最大値を特定し、各次元の最小値および最大値で定められるＮ次元の領域を異常検出範囲として設定する異常検出範囲設定部と、
    　前記機械学習装置の運用時に、前記機械学習装置へ入力される入力データが前記異常検出範囲に属し、かつ前記機械学習装置が前記入力される入力データが前記第２分類に属すると判定したときに、前記機械学習装置が異常であると判定する異常判定部とを備えた、機械学習装置の異常検出装置。
  2. 　前記異常検出範囲設定部は、前記異常検出範囲の設定のために前記機械学習装置へ入力する複数個の入力データとして、前記機械学習装置の運用時の入力データを用いる、請求項１記載の機械学習装置の異常検出装置。
  3. 　前記異常検出範囲設定部は、前記異常検出範囲の設定のために前記機械学習装置へ入力する複数個の入力データとして、前記機械学習装置の学習に用いた入力データを用いる、請求項１記載の機械学習装置の異常検出装置。
  4. 　前記異常検出範囲設定部は、前記異常検出範囲の設定のために前記機械学習装置へ入力する複数個の入力データとして、前記機械学習装置の学習後の検証に用いた入力データを用いる、請求項１記載の機械学習装置の異常検出装置。
  5. 　前記機械学習装置と、
    　請求項１～４のいずれか１項に記載の機械学習装置の異常検出装置とを備え、
    　前記機械学習装置は、前記入力データが、人が含まれる画像から抽出された特徴量である場合に、前記入力データが前記第１分類に属すると判定し、
    　前記入力データが、人が含まれない画像から抽出された特徴量である場合に、前記入力でデータが前記第２分類に属すると判定する、人検出システム。
  6. 　前記機械学習装置は、線形サポートベクトルマシンである、請求項５記載の人検出システム。
  7. 　画像を複数のセルに分割して、各セルを構成する各画素の輝度の勾配方向に基づいた各セルの特徴量を抽出する特徴抽出部を備え、
    　前記機械学習装置は、前記特徴量を前記入力データとする、請求項５または６記載の人検出システム。
  8. 　Ｎ次元の入力データが第１分類に属するか、あるい第２分類に属するかを判定する機械学習装置の異常検出方法であって、
    　前記機械学習装置の学習終了後に、前記機械学習装置へ入力データを入力して前記機械学習装置の判定結果を取得するステップと、
    　前記機械学習装置へ入力した複数個の入力データのうち、前記機械学習装置が前記第１分類に属すると判定した複数個の入力データを選択するステップと、
    　前記選択した前記複数個の入力データの各次元についての最小値および最大値を特定し、各次元の最小値および最大値で定められるＮ次元の領域を異常検出範囲として設定するステップと、
    　前記機械学習装置の運用時に、前記機械学習装置へ入力される入力データが前記異常検出範囲に属し、かつ前記機械学習装置が前記入力される入力データが前記第２分類に属すると判定したときに、前記機械学習装置が異常であると判定するステップとを備えた、機械学習装置の異常検出方法。
PCT/JP2019/047502 2019-12-04 2019-12-04 機械学習装置の異常検出装置、人検出システム、および機械学習装置の異常検出方法 WO2021111562A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021562265A JP7301157B2 (ja) 2019-12-04 2019-12-04 機械学習装置の異常検出装置、人検出システム、および機械学習装置の異常検出方法
PCT/JP2019/047502 WO2021111562A1 (ja) 2019-12-04 2019-12-04 機械学習装置の異常検出装置、人検出システム、および機械学習装置の異常検出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/047502 WO2021111562A1 (ja) 2019-12-04 2019-12-04 機械学習装置の異常検出装置、人検出システム、および機械学習装置の異常検出方法

Publications (1)

Publication Number Publication Date
WO2021111562A1 true WO2021111562A1 (ja) 2021-06-10

Family

ID=76221167

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/047502 WO2021111562A1 (ja) 2019-12-04 2019-12-04 機械学習装置の異常検出装置、人検出システム、および機械学習装置の異常検出方法

Country Status (2)

Country Link
JP (1) JP7301157B2 (ja)
WO (1) WO2021111562A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005182375A (ja) * 2003-12-18 2005-07-07 Nissan Motor Co Ltd 運転者表情認識装置
WO2017094626A1 (ja) * 2015-11-30 2017-06-08 住友重機械工業株式会社 作業機械用周辺監視システム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005182375A (ja) * 2003-12-18 2005-07-07 Nissan Motor Co Ltd 運転者表情認識装置
WO2017094626A1 (ja) * 2015-11-30 2017-06-08 住友重機械工業株式会社 作業機械用周辺監視システム

Also Published As

Publication number Publication date
JPWO2021111562A1 (ja) 2021-06-10
JP7301157B2 (ja) 2023-06-30

Similar Documents

Publication Publication Date Title
US20190042743A1 (en) Malware detection and classification using artificial neural network
US11501163B2 (en) Abnormality detection device, abnormality detection method, and storage medium
CN109491914B (zh) 基于不平衡学习策略高影响缺陷报告预测方法
WO2019199675A1 (en) Device behavior anomaly detection
CN111931179B (zh) 基于深度学习的云端恶意程序检测系统及方法
CN112529210A (zh) 模型训练方法、装置以及计算机可读存储介质
CN111444346B (zh) 一种用于文本分类的词向量对抗样本生成方法及装置
CN114244603A (zh) 异常检测及对比嵌入模型训练、检测方法、装置及介质
CN111753290A (zh) 软件类型的检测方法及相关设备
CN114239725A (zh) 一种面向数据投毒攻击的窃电检测方法
CN114821825B (zh) 一种多粒度人脸伪造检测方法、系统、设备和介质
Zhang et al. The classification and detection of malware using soft relevance evaluation
CN116743555A (zh) 一种鲁棒多模态网络运维故障检测方法、系统及产品
CN116361788A (zh) 一种基于机器学习的二进制软件漏洞预测方法
CN116451139A (zh) 一种基于人工智能的直播数据快速分析方法
Su et al. Boosting image steganalysis under universal deep learning architecture incorporating ensemble classification strategy
WO2021111562A1 (ja) 機械学習装置の異常検出装置、人検出システム、および機械学習装置の異常検出方法
CN116204726B (zh) 一种基于多模态模型的数据处理方法、装置及设备
US20230196195A1 (en) Identifying, or checking integrity of, a machine-learning classification model
KR102491451B1 (ko) 심층 신경망 기반의 악성코드 탐지 분류체계의 유사도를 반영하는 시그니처 생성 장치, 이를 위한 방법 및 이 방법을 수행하기 위한 프로그램이 기록된 컴퓨터 판독 가능한 기록매체
CN114049319A (zh) 文本安全类型检测方法及其装置、设备、介质、产品
KR102255600B1 (ko) Gan을 이용한 문서형 악성코드 탐지 장치 및 방법
JP7206892B2 (ja) 画像検査装置、画像検査のための学習方法および画像検査プログラム
CN114510715B (zh) 模型的功能安全测试方法、装置、存储介质及设备
US11797893B2 (en) Machine learning for generating an integrated format data record

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19955136

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2021562265

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19955136

Country of ref document: EP

Kind code of ref document: A1