WO2022269885A1 - Learning data collection device, learning data collection method, and learning data collection program - Google Patents

Learning data collection device, learning data collection method, and learning data collection program Download PDF

Info

Publication number
WO2022269885A1
WO2022269885A1 PCT/JP2021/024066 JP2021024066W WO2022269885A1 WO 2022269885 A1 WO2022269885 A1 WO 2022269885A1 JP 2021024066 W JP2021024066 W JP 2021024066W WO 2022269885 A1 WO2022269885 A1 WO 2022269885A1
Authority
WO
WIPO (PCT)
Prior art keywords
data
new data
new
existing
learning
Prior art date
Application number
PCT/JP2021/024066
Other languages
French (fr)
Japanese (ja)
Inventor
堅也 杉原
Original Assignee
三菱電機株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 三菱電機株式会社 filed Critical 三菱電機株式会社
Priority to JP2023529390A priority Critical patent/JP7415082B2/en
Priority to PCT/JP2021/024066 priority patent/WO2022269885A1/en
Publication of WO2022269885A1 publication Critical patent/WO2022269885A1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning

Definitions

  • This disclosure relates to learning data collection technology.
  • Patent Literature 1 discloses a learning data collection system for collecting learning data used for image recognition. The system of Patent Document 1 determines whether it is appropriate to use newly captured image data as learning data based on various determination criteria, and if the captured image is not appropriate as learning data, it is determined that it is not appropriate. The determination result is reported to the photographer.
  • Patent Document 1 there is a problem that a large amount of new data similar to existing data can be collected as learning data.
  • the present disclosure was made to solve such problems, and aims to provide a learning data collection technique that does not collect new data similar to existing data as learning data.
  • a learning data collection device acquires new data newly acquired through a sensor and two existing data already stored in a data storage device, and stores the new data or the new data
  • a data storage determination unit that determines whether or not to store related data as learning data using the two existing data.
  • the learning data collection device According to the learning data collection device according to the embodiment of the present disclosure, it is possible not to collect new data similar to existing data as learning data.
  • FIG. 1 is a diagram showing a configuration example of a learning data collection device according to Embodiments 1 and 2;
  • FIG. FIG. 4 is a diagram illustrating a hardware configuration example of a data storage determination unit of the learning data collection device;
  • FIG. 4 is a diagram illustrating a hardware configuration example of a data storage determination unit of the learning data collection device;
  • 4 is a flow chart showing the operation of the learning data collection device according to Embodiment 1;
  • 4 is a diagram for explaining the operation of the learning data collection device according to Embodiment 1;
  • FIG. 9 is a flow chart showing the operation of the learning data collection device according to Embodiment 2;
  • FIG. 12 is a diagram for explaining the operation of the learning data collection device according to Embodiment 2;
  • FIG. 12 is a diagram for explaining the operation of the learning data collection device according to Embodiment 2;
  • FIG. 13 is a diagram showing a configuration example of a learning data collection device according to Embodiment 3;
  • new data similar to existing data means that when new data is represented by linear interpolation of two existing data, new data is represented by linear interpolation of two existing data. is within a predetermined distance from or when the hidden layer output obtained by inputting new data to the neural network is within a predetermined distance from the linear interpolation of the hidden layer output obtained by inputting two existing data to the neural network.
  • similar includes not only cases where new data has a fixed relationship with two existing data, but also cases where the new data's hidden layer output has a fixed relationship with two existing data's hidden layer outputs. included in some cases.
  • Embodiment 1 A configuration of a learning data collection device according to Embodiment 1 of the present disclosure will be described with reference to FIGS. 1 to 4.
  • FIG. 1 the learning data collection device 10 is electrically connected to the sensor 1 and the data storage device 4, and the learning data collection device 10, the sensor 1 and the data storage device 4 are used for learning data collection. configure the system;
  • the learning data collection device 10 includes a data temporary storage section 2 and a data storage determination section 3 .
  • the data temporary storage unit 2 may be provided outside the learning data collection device 10 .
  • the learning data collection device 10 receives data acquired by the sensor 1 from the sensor 1 and exchanges data with the data storage device 4 .
  • the sensor 1 is a device that can acquire some data, such as a sensor that acquires data related to physical quantities such as vibration, voltage, current, temperature, or humidity, a camera that acquires images, and a microphone that acquires sound.
  • the sensor 1 may be any device as long as the acquired data can be used for AI or machine learning.
  • Data acquired by the sensor 1 is converted into digital data by the sensor 1 or an AD converter (not shown) and supplied to the data temporary storage unit 2 .
  • the data temporary storage unit 2 is a device for temporarily holding data, and temporarily holds data supplied from the sensor 1 .
  • the data temporary storage unit 2 is implemented by a storage device such as a memory, HDD (Hard Disk Drive), or SSD (Solid State Drive).
  • the data storage determination unit 3 is a functional unit that determines whether or not to store the data acquired from the data temporary storage unit 2 in the data storage device 4 .
  • the hardware configuration of the data save determination unit 3 will be described with reference to FIGS. 2A and 2B.
  • the data storage determination unit 3 is implemented by a processing circuit 100a.
  • the processing circuit 100a is, for example, a single circuit, a composite circuit, a programmed processor, a parallel programmed processor, an ASIC (Application Specific Integrated Circuit), an FPGA (Field-Programmable Gate Array), or a combination thereof.
  • the data storage determination unit 3 is realized by a CPU (Central Processing Unit) 100b and a memory 100c.
  • the function of the data storage determination unit 3 (data storage determination function) is realized by reading out and executing the program stored in the memory 100c by the CPU 100b.
  • Programs may be implemented as software, firmware, or a combination of software and firmware.
  • Examples of the memory 100c include non-volatile or volatile semiconductors such as RAM (Random Access Memory), ROM (Read Only Memory), flash memory, EPROM (Erasable Programmable Read Only Memory), and EEPROM (Electrically-EPROM). Memory, magnetic disk, flexible disk, optical disk, compact disk, mini disk, DVD are included.
  • the data storage storage device 4 is a storage device that stores data.
  • the data storage storage device 4 stores the data determined to be stored by the data storage determination unit 3 .
  • the data saving memory device 4 supplies data to be used for deciding whether to save data to the data saving determination unit 3 .
  • Examples of the data storage device 4 include storage media such as HDDs (Hard Disk Drives), SSDs (Solid State Drives), memories, or memory cards.
  • the data storage determination unit 3 uses the new data d held in the data temporary storage unit 2 and the two existing data e1 and e2 stored in the data storage storage device 4 to generate the new data d should be saved.
  • data handled by AI or machine learning can be represented by a vector, and in the present disclosure, data is assumed to be an n-dimensional vector represented by two or more dimensions.
  • the new data d can be linearly interpolated with the two existing data e1 and e2, it is determined that the new data d is not important and should not be saved. Details of the determination method will be described with reference to FIGS. 3 and 4. FIG. It is assumed that some existing data are stored in the data storage device 4 at the start of the operation of this system.
  • step ST1 the data storage determination unit 3 acquires from the data temporary storage unit 2 new data d acquired by the sensor 1 and held in the data temporary storage unit 2 as digital data.
  • the data storage determination unit 3 repeats the selection loop of step ST2.
  • the selection loop of step ST2 two pairs of data e1 and e2 are selected from the set of existing data stored in the data storage device 4.
  • FIG. The end condition of the loop is whether the loop has been repeated a preset number of times, or whether the loop has been repeated until all the existing data pairs e1 and e2 have been selected.
  • the loop may be terminated immediately after it is determined that linear interpolation is possible. In this case, the calculation time can be reduced by the part that the loop is terminated halfway.
  • step ST3 the data storage determination unit 3 selects a pair of existing data e1 and e2. In step ST3, different pairs of e1 and e2 are selected each time, and once selected pairs are not selected repeatedly.
  • step ST4 the data storage determination unit 3 calculates whether the new data d can be linearly interpolated with the existing data e1 and e2.
  • the new data d When the new data d is linearly interpolable with the existing data e1 and e2, the new data d exists as a point on the line l, while when it is not linearly interpolable, the new data d does not exist on the line l.
  • This equation is an n-dimensional linear equation, and it can be easily calculated whether a solution ⁇ exists. For example, it is sufficient to solve each of n linear equations and determine whether or not all of the obtained n solutions ⁇ agree with each other.
  • step ST5 the data storage determination unit 3 determines whether it is determined that at least one line-type interpolation is possible for the new data d based on the calculation result in step ST4. If it is not determined even once that the new data d can be linearly interpolated in step ST4 (No in step ST5), the data storage determining unit 3 determines to store the new data d, and stores the new data d as data. It is saved in the save storage device 4 (step ST6).
  • step ST4 when it is determined at least once in step ST4 that the new data d can be linearly interpolated (Yes in step ST5), the new data d is considered to be similar to the existing data e1 or e2.
  • the data storage determination unit 3 determines not to store the new data d (step ST7).
  • the data storage determination unit 3 does not simply determine that the new data d is not to be stored. It may be determined to save the information specifying e2 and the parameters for restoring the new data d as learning data. Both the information specifying the existing data e1 and e2 and the parameters for restoring the new data d are data related to the new data d. Examples of information identifying the existing data e1 and e2 include numbers or codes identifying the existing data e1 and e2. Examples of parameters for reconstructing the new data d include the value of ⁇ used when determining that the new data d can be linearly interpolated with the existing data e1 and e2. The data storage determination unit 3 stores the information and parameters in the data storage device 4 (step ST7).
  • new data d similar to existing data e1 or e2 is not acquired as learning data.
  • the learning data collection device 10 collects information specifying the existing data e1 and e2 used when it was determined that the new data d can be linearly interpolated, a parameter ⁇ for restoring the new data d, and to save.
  • the capacity of a storage device for holding learning data can be reduced.
  • AI or machine learning trained on the saved data can acquire its recognition or regression with high accuracy because it selects valid data for learning.
  • the smaller the amount of learning data the smaller the calculation time or amount of calculation required for learning AI or machine learning. can do. By reducing the amount of calculation, it is possible to reduce the cost of the equipment that performs learning.
  • mixup which is a data augmentation method proposed in the following reference, may be used.
  • Mixup is a data augmentation method that uses linear interpolation of arbitrary pairs in learning data as learning data, and can learn to interpolate new data d that is rejected without being saved in this embodiment, and AI Or it can improve the accuracy of machine learning.
  • Reference 1 H. Zhang, M. Cisse, Y. N. Dauphin, and D. Lopez-Paz, “mixup: beyond empirical risk minimization,” arXiv:1710.09412, 2017.
  • Embodiment 2 the data storage determination unit 3 uses linear interpolation of existing data to determine whether or not to store new data d. Therefore, the effect of reducing the amount of learning data to be saved may be limited. In the present embodiment, less data is stored by relaxing the conditions for determination by the data storage determination unit 3 compared to linear interpolation, thereby further reducing the amount of learning data to be stored.
  • the configuration of the learning data collection device 10A according to the second embodiment is the same as that of the learning data collection device 10 of the first embodiment.
  • the processing content (determination method) by the data storage determination unit 3 is different from that of the first embodiment.
  • the processing contents of the data storage determination unit 3 in the case of the second embodiment will be described with reference to FIG. In FIG. 5, steps ST1, ST2, ST3, ST6 and ST7 are the same as in the first embodiment.
  • Embodiment 2 differs from Embodiment 1 in that the processing contents in steps ST4A and ST5A differ from steps ST4 and ST5 in embodiment 1, respectively. These differences are described below.
  • step ST4A the data storage determination unit 3 calculates whether or not the new data d exists within a distance T from the straight line l indicating linear interpolation of the existing data e1 and e2.
  • T is a threshold, which is appropriately set for the data for judging whether or not to save using the learning data collection device 10A. If T is increased, the amount of training data can be reduced more, but if it is increased more than necessary, there is a possibility that important data will be discarded without being saved.
  • Determination of whether the straight line l and the sphere C intersect can be realized as follows.
  • An n-dimensional sphere C with radius T ( distance T) centered at point d can be expressed as
  • the following two-dimensional simultaneous equation x ⁇ e1+(1- ⁇ )e2 with x and ⁇ as variables (1)
  • 2 T 2 (2) has a real solution if the sphere C and the line l intersect, and does not have a real solution if they do not intersect.
  • Equation (3) becomes an equation for ⁇ that does not include x.
  • the following formula (4) is obtained.
  • 2 T 2 (4)
  • Equation (5) represents the inner product of vectors. Equation (5) is a quadratic equation of ⁇ , and all coefficients are scalar values.
  • Whether or not a quadratic equation has a real number solution can be determined by calculating the sign of the discriminant of the quadratic equation. If the discriminant is positive or zero, there is a real solution, and if it is negative, there is no real solution.
  • a
  • b 2(e1-e2) ⁇ (e2-d) (7)
  • c
  • the conditions for saving data can be relaxed compared to the first embodiment, and the amount of data to be saved can be reduced.
  • mixup which is a data augmentation method proposed in Reference 1, may be used when performing learning later.
  • Mixup is a data augmentation method that uses linear interpolation of any pair in the learning data as learning data, and can learn to interpolate the new data d that is rejected without saving in the present embodiment, AI or It can improve the accuracy of machine learning.
  • Embodiment 3. ⁇ Configuration>
  • the data storage determination unit 3 performed determination using the data d, e1, and e2. It is thought that there are few things that can be represented by linear interpolation of existing data. Moreover, when the conditions are relaxed as in the second embodiment, it is necessary to increase the distance T as the threshold value in order to reduce the amount of stored data, and the possibility of discarding important data increases. end up
  • Embodiment 3 instead of using the data d, e1 and e2, the data storage determination unit 3 inputs the data d, e1 and e2 to the trained neural network, and outputs these data to the intermediate layer. A similar determination is made using the value.
  • the configuration of a system including the learning data collection device 20 according to Embodiment 3 is shown in FIG.
  • the system shown in FIG. 8 is the same as the system shown in FIG. It differs from the system shown in FIG. 1 in that the model 5 is provided.
  • the data storage determination unit 3 of the learning data collection device 20 is configured to exchange data with the trained machine learning model 5 .
  • the trained machine learning model 5 is a storage device that holds a neural network trained and prepared in advance. This neural network is trained in advance with learning data collected by the learning data collecting device 20 or another means. This neural network is held in a state in which inference operations are possible, and the trained machine learning model 5 supplies the neural network for the data storage determination unit 3 .
  • the data storage determination unit 3 inputs the new data d and the existing data e1 and e2 to the neural network provided from the trained machine learning model 5, and learns the respective intermediate layer outputs d', e'1 and e'2. obtained from the machine learning model 5.
  • the data storage determination unit 3 uses the intermediate layer outputs d′, e′1 and e′2 instead of the data d, e1 and e2 to obtain the data shown in FIG. 3 of the first embodiment or FIG. 5 of the second embodiment. It is determined whether to save the new data d or data related to the new data d according to the determination method of .
  • the data storage determination unit 3 determines that the intermediate layer output d′ is represented by linear interpolation of the intermediate layer outputs e′1 and e′2. Calculate if If the intermediate layer output d' is not represented by linear interpolation of the intermediate layer outputs e'1 and e'2, the data storage determination unit 3, in the step corresponding to step ST6 in FIG. may be determined to be stored, or instead of determining to store the new data d, it may be determined to store the intermediate layer output d', which is data related to the new data d.
  • the data storage determination unit 3 determines that the new data d should be stored in the step corresponding to step ST7 in FIG. You can judge. Further, in a step corresponding to step ST7 in FIG. may be determined to be stored.
  • the data storage determination unit 3 determines that the intermediate layer output d' is linearly interpolated between the intermediate layer outputs e'1 and e'2. Calculate if it exists within the distance T. If the intermediate layer output d' does not exist within the distance T from the linear interpolation of the intermediate layer outputs e'1 and e'2, the data storage determination unit 3 performs the same operation as in step ST6 in the step corresponding to step ST6 in FIG. Alternatively, it may be determined to store the intermediate layer output d', which is data related to the new data d, instead of storing the new data d.
  • the data storage determination unit 3 stores the new data d in the step corresponding to step ST7 in FIG. It may be determined not to save.
  • the data storage determination unit 3 stores information specifying the existing data e1 and e2, which are data related to the new data d, and parameters for restoring the new data d. may be determined to be stored.
  • the number of dimensions of d', e'1 and e'2 obtained in the hidden layer output can be made smaller than the number of dimensions of data d, e1 and e2, and the new data can be
  • the possibility that existing data can be represented by linear interpolation or the possibility that new data exists within the distance T increases, and the amount of learning data to be stored can be reduced compared to the first and second embodiments.
  • the intermediate layer output d' which is data related to the new data
  • the number of dimensions of the data to be saved can be suppressed, and the amount of data to be saved can be reduced. be able to.
  • the intermediate layer output of the neural network is a value in which the feature amount of the input data is appropriately extracted, and it is possible to determine whether the data should be saved more appropriately.
  • the accuracy of AI or machine learning learned with the learning data obtained in the present embodiment can be improved.
  • mixup which is a data augmentation method proposed in Reference 1, may be used when performing learning later.
  • Mixup is a data augmentation method that uses linear interpolation of any pair in the learning data as learning data, and can learn to interpolate the new data d that is rejected without saving in the present embodiment, AI or It can improve the accuracy of machine learning.
  • the learning data collection technology of the present disclosure can be used as a device for collecting learning data for use in AI or machine learning.
  • 1 sensor 1 sensor, 2 data temporary storage unit, 3 data storage determination unit, 4 data storage storage device, 5 learned machine learning model, 10 learning data collection device, 10A learning data collection device, 20 learning data collection device, 100a processing circuit, 100b CPU, 100c memory.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Testing Or Calibration Of Command Recording Devices (AREA)
  • Complex Calculations (AREA)

Abstract

This learning data collection device is provided with a data retention determination unit (3) that acquires new data newly acquired via a sensor and two existing data items already retained in a data retention storage device and that determines whether or not to retain, as learning data, the new data or data concerning the new data, by using the two existing data items.

Description

学習データ収集装置、学習データ収集方法、および学習データ収集プログラムLEARNING DATA COLLECTOR, LEARNING DATA COLLECTION METHOD, AND LEARNING DATA COLLECTION PROGRAM
　本開示は、学習データ収集技術に関する。 This disclosure relates to learning data collection technology.
　従来、ＡＩまたは機械学習で用いるための学習データの収集を効果的に行うための研究開発がなされている。一例として、特許文献１には、画像認識に利用される学習データを収集するための学習データ収集システムが開示されている。特許文献１のシステムは、新規に撮影した画像データを様々な判定基準に基づいて学習データとして用いるのが適切か否かを判定し、撮影画像が学習データとして適切でない場合には適切でない旨の判定結果を撮影者に対して報知する。 Conventionally, research and development has been conducted to effectively collect learning data for use in AI or machine learning. As an example, Patent Literature 1 discloses a learning data collection system for collecting learning data used for image recognition. The system of Patent Document 1 determines whether it is appropriate to use newly captured image data as learning data based on various determination criteria, and if the captured image is not appropriate as learning data, it is determined that it is not appropriate. The determination result is reported to the photographer.
特開２０２０－８９０４号公報Japanese Patent Application Laid-Open No. 2020-8904
　特許文献１を含む従来技術によれば、既存データと類似するような新規データが学習データとして大量に収集されうるという課題がある。 According to the conventional technology including Patent Document 1, there is a problem that a large amount of new data similar to existing data can be collected as learning data.
　本開示は、このような課題を解決するためになされたものであり、既存データと類似する新規データを学習データとして収集しない学習データ収集技術を提供することを目的とする。 The present disclosure was made to solve such problems, and aims to provide a learning data collection technique that does not collect new data similar to existing data as learning data.
　本開示の実施形態による学習データ収集装置は、センサを介して新たに取得された新規データおよびデータ保存記憶装置に既に保存されている２つの既存データを取得し、前記新規データまたは前記新規データに関連するデータを学習データとして保存するか否かを前記２つの既存データを用いて判定するデータ保存判定部を備える。 A learning data collection device according to an embodiment of the present disclosure acquires new data newly acquired through a sensor and two existing data already stored in a data storage device, and stores the new data or the new data A data storage determination unit that determines whether or not to store related data as learning data using the two existing data.
　本開示の実施形態による学習データ収集装置によれば、既存データと類似する新規データを学習データとして収集しないようにすることができる。 According to the learning data collection device according to the embodiment of the present disclosure, it is possible not to collect new data similar to existing data as learning data.
実施の形態１および実施の形態２による学習データ収集装置の構成例を示す図である。1 is a diagram showing a configuration example of a learning data collection device according to Embodiments 1 and 2; FIG. 学習データ収集装置のデータ保存判定部のハードウェアの構成例を示す図である。FIG. 4 is a diagram illustrating a hardware configuration example of a data storage determination unit of the learning data collection device; 学習データ収集装置のデータ保存判定部のハードウェアの構成例を示す図である。FIG. 4 is a diagram illustrating a hardware configuration example of a data storage determination unit of the learning data collection device; 実施の形態１による学習データ収集装置の動作を示すフローチャートである。4 is a flow chart showing the operation of the learning data collection device according to Embodiment 1; 実施の形態１による学習データ収集装置の動作を説明するための図である。4 is a diagram for explaining the operation of the learning data collection device according to Embodiment 1; FIG. 実施の形態２による学習データ収集装置の動作を示すフローチャートである。9 is a flow chart showing the operation of the learning data collection device according to Embodiment 2; 実施の形態２による学習データ収集装置の動作を説明するための図である。FIG. 12 is a diagram for explaining the operation of the learning data collection device according to Embodiment 2; 実施の形態２による学習データ収集装置の動作を説明するための図である。FIG. 12 is a diagram for explaining the operation of the learning data collection device according to Embodiment 2; 実施の形態３による学習データ収集装置の構成例を示す図である。FIG. 13 is a diagram showing a configuration example of a learning data collection device according to Embodiment 3;
　以下、添付の図面を参照して、本開示における種々の実施形態について詳細に説明する。なお、図面において同一または類似の符号を付された構成要素は、同一または類似の構成または機能を有するものであり、そのような構成要素についての重複する説明は省略する。また、上述の「既存データと類似する新規データ」という文言における「類似」との用語は、新規データが２つの既存データの線形補間で表される場合、新規データが２つの既存データの線形補間から所定の距離以内に存在する場合、新規データをニューラルネットワークへ入力して得られた中間層出力が２つの既存データをニューラルネットワークへ入力して得られた中間層出力の線形補間で表される場合、または新規データをニューラルネットワークへ入力して得られた中間層出力が２つの既存データをニューラルネットワークへ入力して得られた中間層出力の線形補間から所定の距離以内に存在する場合を含む用語である。すなわち、その「類似」との用語には、新規データが２つの既存データと一定の関係にある場合だけでなく、新規データの中間層出力が２つの既存データの中間層出力と一定の関係にある場合も含まれる。 Various embodiments of the present disclosure will be described in detail below with reference to the accompanying drawings. Components denoted by the same or similar reference numerals in the drawings have the same or similar configurations or functions, and duplicate descriptions of such components will be omitted. In addition, the term "similar" in the above-mentioned phrase "new data similar to existing data" means that when new data is represented by linear interpolation of two existing data, new data is represented by linear interpolation of two existing data. is within a predetermined distance from or when the hidden layer output obtained by inputting new data to the neural network is within a predetermined distance from the linear interpolation of the hidden layer output obtained by inputting two existing data to the neural network. terminology. That is, the term "similar" includes not only cases where new data has a fixed relationship with two existing data, but also cases where the new data's hidden layer output has a fixed relationship with two existing data's hidden layer outputs. included in some cases.
実施の形態１．
＜構成＞
　図１から図４を参照して、本開示の実施の形態１に係る学習データ収集装置の構成について説明する。図１に示されているように、学習データ収集装置１０は、センサ１およびデータ保存記憶装置４に電気的に接続され、学習データ収集装置１０、センサ１およびデータ保存記憶装置４は学習データ収集システムを構成する。一例として、学習データ収集装置１０は、データ一時記憶部２およびデータ保存判定部３を備える。別の例として、データ一時記憶部２は、学習データ収集装置１０の外部に設けられていてもよい。学習データ収集装置１０は、センサ１が取得したデータをセンサ１から受け付け、データ保存記憶装置４との間でデータを授受する。 Embodiment 1.
<Configuration>
A configuration of a learning data collection device according to Embodiment 1 of the present disclosure will be described with reference to FIGS. 1 to 4. FIG. As shown in FIG. 1, the learning data collection device 10 is electrically connected to the sensor 1 and the data storage device 4, and the learning data collection device 10, the sensor 1 and the data storage device 4 are used for learning data collection. configure the system; As an example, the learning data collection device 10 includes a data temporary storage section 2 and a data storage determination section 3 . As another example, the data temporary storage unit 2 may be provided outside the learning data collection device 10 . The learning data collection device 10 receives data acquired by the sensor 1 from the sensor 1 and exchanges data with the data storage device 4 .
（センサ）
　センサ１は、振動、電圧、電流、温度、または湿度などの物理量に係るデータを取得するセンサ、画像を取得するカメラ、音声を取得するマイクロフォンなど、何らかのデータを取得できるデバイスである。取得されるデータをＡＩまたは機械学習の学習に使用可能であれば、センサ１はどのようなデバイスであってもよい。センサ１により取得されたデータは、センサ１または不図示のＡＤ変換器によりデジタルデータに変換されてデータ一時記憶部２へ供給される。 (sensor)
The sensor 1 is a device that can acquire some data, such as a sensor that acquires data related to physical quantities such as vibration, voltage, current, temperature, or humidity, a camera that acquires images, and a microphone that acquires sound. The sensor 1 may be any device as long as the acquired data can be used for AI or machine learning. Data acquired by the sensor 1 is converted into digital data by the sensor 1 or an AD converter (not shown) and supplied to the data temporary storage unit 2 .
（データ一時記憶部）
　データ一時記憶部２は一時的にデータを保持するためのデバイスであり、センサ１から供給されたデータを一時的に保持する。データ一時記憶部２は、例えば、メモリ、ＨＤＤ（Ｈａｒｄ　Ｄｉｓｋ　Ｄｒｉｖｅ）、またはＳＳＤ（Ｓｏｌｉｄ　Ｓｔａｔｅ　Ｄｒｉｖｅ）などの記憶デバイスにより実現される。 (Temporary data storage unit)
The data temporary storage unit 2 is a device for temporarily holding data, and temporarily holds data supplied from the sensor 1 . The data temporary storage unit 2 is implemented by a storage device such as a memory, HDD (Hard Disk Drive), or SSD (Solid State Drive).
（データ保存判定部）
　データ保存判定部３は、データ一時記憶部２から取得したデータを、データ保存記憶装置４に記憶するか否かを判定する機能部である。ここで、図２Ａおよび図２Ｂを参照して、データ保存判定部３のハードウェア構成について説明する。一例として、図２Ａに示されているように、データ保存判定部３は処理回路１００ａにより実現される。処理回路１００ａは、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ＡＳＩＣ（Ａｐｐｌｉｃａｔｉｏｎ　Ｓｐｅｃｉｆｉｃ　Ｉｎｔｅｇｒａｔｅｄ　Ｃｉｒｃｕｉｔ）、ＦＰＧＡ（Ｆｉｅｌｄ－Ｐｒｏｇｒａｍｍａｂｌｅ　Ｇａｔｅ　Ａｒｒａｙ）、又は、これらの組合せである。 (Data storage judgment part)
The data storage determination unit 3 is a functional unit that determines whether or not to store the data acquired from the data temporary storage unit 2 in the data storage device 4 . Here, the hardware configuration of the data save determination unit 3 will be described with reference to FIGS. 2A and 2B. As an example, as shown in FIG. 2A, the data storage determination unit 3 is implemented by a processing circuit 100a. The processing circuit 100a is, for example, a single circuit, a composite circuit, a programmed processor, a parallel programmed processor, an ASIC (Application Specific Integrated Circuit), an FPGA (Field-Programmable Gate Array), or a combination thereof.
　別の例として、図２Ｂに示されているように、データ保存判定部３は、ＣＰＵ（Ｃｅｎｔｒａｌ　Ｐｒｏｃｅｓｓｉｎｇ　Ｕｎｉｔ）１００ｂと、メモリ１００ｃとにより実現される。メモリ１００ｃに格納されたプログラムがＣＰＵ１００ｂに読み出されて実行されることにより、データ保存判定部３の機能（データ保存判定機能）が実現される。プログラムは、ソフトウェア、ファームウェア又はソフトウェアとファームウェアとの組合せとして実現される。メモリ１００ｃの例には、例えば、ＲＡＭ（Ｒａｎｄｏｍ　Ａｃｃｅｓｓ　Ｍｅｍｏｒｙ）、ＲＯＭ（Ｒｅａｄ　Ｏｎｌｙ　Ｍｅｍｏｒｙ）、フラッシュメモリ、ＥＰＲＯＭ（Ｅｒａｓａｂｌｅ　Ｐｒｏｇｒａｍｍａｂｌｅ　Ｒｅａｄ　Ｏｎｌｙ　Ｍｅｍｏｒｙ）、ＥＥＰＲＯＭ（Ｅｌｅｃｔｒｉｃａｌｌｙ－ＥＰＲＯＭ）などの不揮発性又は揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、ＤＶＤが含まれる。 As another example, as shown in FIG. 2B, the data storage determination unit 3 is realized by a CPU (Central Processing Unit) 100b and a memory 100c. The function of the data storage determination unit 3 (data storage determination function) is realized by reading out and executing the program stored in the memory 100c by the CPU 100b. Programs may be implemented as software, firmware, or a combination of software and firmware. Examples of the memory 100c include non-volatile or volatile semiconductors such as RAM (Random Access Memory), ROM (Read Only Memory), flash memory, EPROM (Erasable Programmable Read Only Memory), and EEPROM (Electrically-EPROM). Memory, magnetic disk, flexible disk, optical disk, compact disk, mini disk, DVD are included.
（データ保存記憶装置）
　データ保存記憶装置４は、データを記憶するストレージデバイスである。データ保存記憶装置４は、データ保存判定部３により保存すると判定されたデータを保存する。また、データ保存記憶装置４は、データの保存の判定に使用するためのデータをデータ保存判定部３に供給する。データ保存記憶装置４の例には、ＨＤＤ（Ｈａｒｄ　Ｄｉｓｋ　Ｄｒｉｖｅ）、ＳＳＤ（Ｓｏｌｉｄ　Ｓｔａｔｅ　Ｄｒｉｖｅ）、メモリ、またはメモリカードなどの保存媒体が含まれる。 (data storage storage device)
The data storage storage device 4 is a storage device that stores data. The data storage storage device 4 stores the data determined to be stored by the data storage determination unit 3 . In addition, the data saving memory device 4 supplies data to be used for deciding whether to save data to the data saving determination unit 3 . Examples of the data storage device 4 include storage media such as HDDs (Hard Disk Drives), SSDs (Solid State Drives), memories, or memory cards.
＜動作＞
　次に、学習データ収集装置１０のデータ保存判定部３の動作について説明する。端的には、データ保存判定部３は、データ一時記憶部２に保持された新規データｄと、データ保存記憶装置４に保存されている２つの既存のデータｅ１およびｅ２を用いて、新規データｄを保存すべきか否か判定する。一般的にＡＩまたは機械学習で扱うデータはベクトルで表すことができ、本開示ではデータを２以上の複数次元で表されたｎ次元ベクトルとする。本実施の形態では、新規データｄが２つの既存のデータｅ１およびｅ２で線形補間可能であれば、新規データｄは重要でないものとして、保存しないと判定する。判定方法の詳細について、図３および図４を参照して説明する。なお、本システムの動作の開始時点において、いくつかの既存データがデータ保存記憶装置４に保存されているものとする。 <Action>
Next, the operation of the data storage determination unit 3 of the learning data collection device 10 will be described. Briefly, the data storage determination unit 3 uses the new data d held in the data temporary storage unit 2 and the two existing data e1 and e2 stored in the data storage storage device 4 to generate the new data d should be saved. Generally, data handled by AI or machine learning can be represented by a vector, and in the present disclosure, data is assumed to be an n-dimensional vector represented by two or more dimensions. In this embodiment, if the new data d can be linearly interpolated with the two existing data e1 and e2, it is determined that the new data d is not important and should not be saved. Details of the determination method will be described with reference to FIGS. 3 and 4. FIG. It is assumed that some existing data are stored in the data storage device 4 at the start of the operation of this system.
　まず、ステップＳＴ１において、データ保存判定部３は、センサ１により取得されてデータ一時記憶部２にデジタルデータとして保持されている新規データｄをデータ一時記憶部２から取得する。 First, in step ST1, the data storage determination unit 3 acquires from the data temporary storage unit 2 new data d acquired by the sensor 1 and held in the data temporary storage unit 2 as digital data.
　引き続き、データ保存判定部３は、ステップＳＴ２の選択ループを繰り返す。ステップＳＴ２の選択ループにおいて、データ保存記憶装置４に保存されている既存のデータの集合から、２つのデータｅ１およびｅ２のペアが選択される。ループの終了条件は、予め設定した回数繰り返しを実行したか、既存データのペアｅ１およびｅ２を全て選択するまで繰り返したかなどとする。または、以下で説明するステップＳＴ４で線形補間可能であるかを計算した結果、線形補間可能であると判定された後にただちにループを終了してもよい。この場合、ループを途中で終了した分だけ計算時間を削減できる。 Subsequently, the data storage determination unit 3 repeats the selection loop of step ST2. In the selection loop of step ST2, two pairs of data e1 and e2 are selected from the set of existing data stored in the data storage device 4. FIG. The end condition of the loop is whether the loop has been repeated a preset number of times, or whether the loop has been repeated until all the existing data pairs e1 and e2 have been selected. Alternatively, as a result of calculating whether or not linear interpolation is possible in step ST4 described below, the loop may be terminated immediately after it is determined that linear interpolation is possible. In this case, the calculation time can be reduced by the part that the loop is terminated halfway.
　ステップＳＴ３において、データ保存判定部３は、既存のデータｅ１およびｅ２のペアを選択する。ステップＳＴ３では、毎回異なるｅ１およびｅ２のペアを選択し、一度選択されたペアは繰り返して選択されない。 In step ST3, the data storage determination unit 3 selects a pair of existing data e1 and e2. In step ST3, different pairs of e1 and e2 are selected each time, and once selected pairs are not selected repeatedly.
　ステップＳＴ４において、データ保存判定部３は、新規データｄが既存データｅ１およびｅ２で線形補間可能であるか計算する。データｅ１とｅ２の線形補間ｘはスカラー値のパラメータλを用いてｘ＝λｅ１＋（１－λ）ｅ２と表すことができる。図４に示すように、線形補間ｘ＝λｅ１＋（１－λ）ｅ２は、ｎ次元空間内の点ｘが取りうる直線ｌを表した式とみることができる。新規データｄが既存データｅ１およびｅ２で線形補間可能であるとき、新規データｄは直線ｌ上の点として存在し、一方で線形補間可能でないときには、新規データｄは直線ｌ上に存在しない。 In step ST4, the data storage determination unit 3 calculates whether the new data d can be linearly interpolated with the existing data e1 and e2. A linear interpolation x of data e1 and e2 can be expressed as x=λe1+(1−λ)e2 using a scalar value parameter λ. As shown in FIG. 4, linear interpolation x=λe1+(1−λ)e2 can be regarded as an equation representing a straight line 1 that can be taken by a point x in an n-dimensional space. When the new data d is linearly interpolable with the existing data e1 and e2, the new data d exists as a point on the line l, while when it is not linearly interpolable, the new data d does not exist on the line l.
　直線ｌ上に新規データｄが存在するかを計算するには、λの方程式ｄ＝λｅ１＋（１－λ）ｅ２に解があるかを判定すればよい。この方程式はｎ元１次方程式であり、解λが存在するかは簡単に計算することができる。例えば、ｎ個の１次方程式をそれぞれ解き、得られたｎ個の解λが全て一致するかを判定すればよい。 To calculate whether new data d exists on straight line l, it is sufficient to determine whether the equation d=λe1+(1−λ)e2 of λ has a solution. This equation is an n-dimensional linear equation, and it can be easily calculated whether a solution λ exists. For example, it is sufficient to solve each of n linear equations and determine whether or not all of the obtained n solutions λ agree with each other.
　なお、機械学習において教師有り学習を行う場合、データだけでなくデータに対応するラベルを学習に用いる。本実施の形態では、ラベルも含めて線形補間可能であるかを計算してもよい。上述した新規データｄ、既存のデータｅ１およびｅ２の各ラベルをｍ次元ベクトルｙｄ、ｙ１、ｙ２とし、ｎ＋ｍ次元のベクトルｄ’＝（ｄ，ｙｄ）、ｅ’１＝（ｅ１，ｙ１）およびｅ’２＝（ｅ２，ｙ２）を上述のｄ、ｅ１およびｅ２の代わりに用いて、ベクトルｄ’がベクトルｅ’１およびｅ’２により線形補間可能であるかを計算すればよい。ただし、例えばベクトルｄ’＝（ｄ，ｙｄ）は、ベクトルｄのｎ個の要素とベクトルｙｄのｍ個の要素から構成されるｎ＋ｍ個の要素のｎ＋ｍ次元を表すこととする。 In addition, when performing supervised learning in machine learning, not only the data but also the labels corresponding to the data are used for learning. In this embodiment, it may be calculated whether or not linear interpolation is possible, including labels. Let m-dimensional vectors yd, y1, and y2 be the respective labels of the new data d and the existing data e1 and e2 described above, and n+m-dimensional vectors d′=(d, yd), e′1=(e1, y1) and e '2=(e2, y2) can be used in place of d, e1 and e2 above to calculate if vector d' is linearly interpolable by vectors e'1 and e'2. However, for example, vector d'=(d, yd) represents n+m dimension of n+m elements composed of n elements of vector d and m elements of vector yd.
　ステップＳＴ５において、データ保存判定部３は、ステップＳＴ４での計算結果に基づいて、新規データｄが少なくとも１回線形補間可能であると判定されたかを判定する。ステップＳＴ４で新規データｄが線形補間可能であると１回も判定されなかった場合（ステップＳＴ５においてＮｏ）、データ保存判定部３は、新規データｄを保存すると判定して、新規データｄをデータ保存記憶装置４に保存する（ステップＳＴ６）。 In step ST5, the data storage determination unit 3 determines whether it is determined that at least one line-type interpolation is possible for the new data d based on the calculation result in step ST4. If it is not determined even once that the new data d can be linearly interpolated in step ST4 (No in step ST5), the data storage determining unit 3 determines to store the new data d, and stores the new data d as data. It is saved in the save storage device 4 (step ST6).
　一方、少なくとも１回、ステップＳＴ４で新規データｄが線形補間可能であると判定された場合（ステップＳＴ５においてＹｅｓ）、新規データｄは既存データｅ１またはｅ２に類似するデータであると考えられるので、データ保存判定部３は、新規データｄを保存しないと判定する（ステップＳＴ７）。 On the other hand, when it is determined at least once in step ST4 that the new data d can be linearly interpolated (Yes in step ST5), the new data d is considered to be similar to the existing data e1 or e2. The data storage determination unit 3 determines not to store the new data d (step ST7).
　ステップＳＴ７において、データ保存判定部３は、単純に新規データｄを保存しないと判定するのでなく、ステップＳＴ４で新規データｄが線形補間可能であると判定された際に用いられた既存データｅ１およびｅ２を特定する情報と、新規データｄを復元するためのパラメータとを学習データとして保存すると判定してもよい。なお、既存データｅ１およびｅ２を特定する情報と、新規データｄを復元するためのパラメータは、いずれも新規データｄに関連するデータである。既存データｅ１およびｅ２を特定する情報の例には、既存データｅ１およびｅ２を特定する番号または符号が含まれる。新規データｄを復元するためのパラメータの例には、新規データｄを既存データｅ１およびｅ２で線形補間可能であると判定した際に用いられたλの値が含まれる。データ保存判定部３は、これらの情報とパラメータとをデータ保存記憶装置４に保存する（ステップＳＴ７）。 In step ST7, the data storage determination unit 3 does not simply determine that the new data d is not to be stored. It may be determined to save the information specifying e2 and the parameters for restoring the new data d as learning data. Both the information specifying the existing data e1 and e2 and the parameters for restoring the new data d are data related to the new data d. Examples of information identifying the existing data e1 and e2 include numbers or codes identifying the existing data e1 and e2. Examples of parameters for reconstructing the new data d include the value of λ used when determining that the new data d can be linearly interpolated with the existing data e1 and e2. The data storage determination unit 3 stores the information and parameters in the data storage device 4 (step ST7).
　このように既存データｅ１およびｅ２を特定する情報と新規データｄを復元するためのパラメータとを保存することにより、後に学習する際において、既存データを特定する情報から既存データｅ１およびｅ２とを抽出し、抽出された既存データｅ１およびｅ２と保存されたパラメータとを用いて、保存されずに棄却された新規データｄをｄ＝λｅ１＋（１－λ）ｅ２として完全に復元することができる。したがって、既存データｅ１およびｅ２を特定する情報と新規データｄを復元するためのパラメータλとを保存する場合、単純に新規データｄを保存しないとする場合に比べて、学習データ全体の情報量の欠損を回避できるため、ＡＩまたは機械学習の精度を高くすることができる。 By storing the information specifying the existing data e1 and e2 and the parameters for restoring the new data d in this way, the existing data e1 and e2 can be extracted from the information specifying the existing data in subsequent learning. Then, using the extracted existing data e1 and e2 and the saved parameters, the discarded new data d can be completely restored as d=λe1+(1−λ)e2. Therefore, when storing the information specifying the existing data e1 and e2 and the parameter λ for restoring the new data d, the amount of information of the entire learning data is reduced compared to the case of simply not storing the new data d. Since loss can be avoided, the accuracy of AI or machine learning can be improved.
　一般に、学習するデータは量だけでなく質も重要であり、同じようなデータが大量にあって似たようなデータを学習したとしても、必ずしもＡＩまたは機械学習が高精度になるとは限らない。例えば、画像認識であれば、認識させたい対象を様々な角度から撮影した画像を取得することが効果的である。しかしながら、従来技術によれば、類似のデータが大量に収集されるという問題があった。 In general, not only the quantity but also the quality of the data to be learned is important, and even if there is a large amount of similar data and learning similar data, AI or machine learning will not necessarily be highly accurate. For example, in the case of image recognition, it is effective to obtain images of an object to be recognized which are photographed from various angles. However, according to the prior art, there is a problem that a large amount of similar data is collected.
　これに対し、以上で説明した本開示の学習データ収集装置１０によれば、既存のデータｅ１またはｅ２と類似する新規データｄは学習データとして取得されない。選択的に、学習データ収集装置１０は、新規データｄが線形補間可能であると判定された際に用いられた既存データｅ１およびｅ２を特定する情報と新規データｄを復元するためのパラメータλとを保存する。センサ１で取得したデータの中からＡＩまたは機械学習の学習に有効なデータを選択して保存することで、学習データを保持するための記憶装置の容量を削減することができる。学習に有効なデータを選択しているので、保存されたデータを学習したＡＩまたは機械学習は、その認識または回帰を高い精度で獲得することができる。さらに、ＡＩまたは機械学習の学習に必要な計算時間または演算量は学習データ量が少ないほど小さくできるため、学習データ収集装置１０により保存された学習データを学習する際の計算時間または演算量を削減することができる。演算量を削減することで、学習を行う機器の低コスト化も実現できる。 On the other hand, according to the learning data collection device 10 of the present disclosure described above, new data d similar to existing data e1 or e2 is not acquired as learning data. Optionally, the learning data collection device 10 collects information specifying the existing data e1 and e2 used when it was determined that the new data d can be linearly interpolated, a parameter λ for restoring the new data d, and to save. By selecting and storing data effective for learning AI or machine learning from the data acquired by the sensor 1, the capacity of a storage device for holding learning data can be reduced. AI or machine learning trained on the saved data can acquire its recognition or regression with high accuracy because it selects valid data for learning. Furthermore, the smaller the amount of learning data, the smaller the calculation time or amount of calculation required for learning AI or machine learning. can do. By reducing the amount of calculation, it is possible to reduce the cost of the equipment that performs learning.
　また、後に学習を行う際において、次の参考文献で提案されているデータ拡張手法であるｍｉｘｕｐを用いてもよい。Ｍｉｘｕｐは学習データ内の任意のペアの線形補間を学習データとして用いるデータ拡張手法であり、本実施の形態で保存されずに棄却された新規データｄを補間するように学習することができ、ＡＩまたは機械学習の精度を向上することができる。
　（参考文献１）H.　Zhang,　M.　Cisse,　Y.　N.　Dauphin,　and　D.　Lopez-Paz,　“mixup:　beyond　empirical　risk　minimization,”　arXiv:1710.09412,　2017. Also, when performing learning later, mixup, which is a data augmentation method proposed in the following reference, may be used. Mixup is a data augmentation method that uses linear interpolation of arbitrary pairs in learning data as learning data, and can learn to interpolate new data d that is rejected without being saved in this embodiment, and AI Or it can improve the accuracy of machine learning.
(Reference 1) H. Zhang, M. Cisse, Y. N. Dauphin, and D. Lopez-Paz, “mixup: beyond empirical risk minimization,” arXiv:1710.09412, 2017.
実施の形態２．
　実施の形態１では、データ保存判定部３による新規データｄを保存するか否かの判定において既存データによる線形補間を用いたが、新規データｄが既存データの線形補間となる可能性は必ずしも大きいとは限らないので、保存する学習データ量の削減効果が限定的になる可能性がある。本実施の形態では、データ保存判定部３による判定において線形補間よりも条件を緩和することにより、より少ないデータが保存されるようにし、これにより保存する学習データ量をより削減できるようにする。 Embodiment 2.
In Embodiment 1, the data storage determination unit 3 uses linear interpolation of existing data to determine whether or not to store new data d. Therefore, the effect of reducing the amount of learning data to be saved may be limited. In the present embodiment, less data is stored by relaxing the conditions for determination by the data storage determination unit 3 compared to linear interpolation, thereby further reducing the amount of learning data to be stored.
　実施の形態２による学習データ収集装置１０Ａの構成は実施の形態１の学習データ収集装置１０と同様である。実施の形態２による学習データ収集装置１０Ａによれば、データ保存判定部３による処理内容（判定方法）が実施の形態１のそれと異なる。実施の形態２の場合のデータ保存判定部３の処理内容について、図５を参照して説明する。図５において、ステップＳＴ１、ＳＴ２、ＳＴ３、ＳＴ６およびＳＴ７は、実施の形態１の場合と同様である。実施の形態２では、ステップＳＴ４ＡおよびＳＴ５Ａにおける処理内容が、実施の形態１におけるステップＳＴ４およびＳＴ５とそれぞれ異なる点で、実施の形態２は実施の形態１と異なる。これらの相違点について、以下にて説明する。 The configuration of the learning data collection device 10A according to the second embodiment is the same as that of the learning data collection device 10 of the first embodiment. According to the learning data collection device 10A according to the second embodiment, the processing content (determination method) by the data storage determination unit 3 is different from that of the first embodiment. The processing contents of the data storage determination unit 3 in the case of the second embodiment will be described with reference to FIG. In FIG. 5, steps ST1, ST2, ST3, ST6 and ST7 are the same as in the first embodiment. Embodiment 2 differs from Embodiment 1 in that the processing contents in steps ST4A and ST5A differ from steps ST4 and ST5 in embodiment 1, respectively. These differences are described below.
　ステップＳＴ４Ａにおいて、データ保存判定部３は、新規データｄが既存データｅ１およびｅ２の線形補間を示す直線ｌと距離Ｔ以内に存在するかを計算する。Ｔはしきい値であり、学習データ収集装置１０Ａを用いて保存の肯否を判定するデータに対して適切に設定する。Ｔを大きくすると、より多くの学習データ量を削減できるが、必要以上に大きくしすぎると保存されないで棄却されるデータの中に重要なものが含まれる可能性がある。 In step ST4A, the data storage determination unit 3 calculates whether or not the new data d exists within a distance T from the straight line l indicating linear interpolation of the existing data e1 and e2. T is a threshold, which is appropriately set for the data for judging whether or not to save using the learning data collection device 10A. If T is increased, the amount of training data can be reduced more, but if it is increased more than necessary, there is a possibility that important data will be discarded without being saved.
　実施の形態１で説明したように、既存データｅ１およびｅ２の線形補間はｎ次元空間内の直線ｌ：ｘ＝λｅ１＋（１－λ）ｅ２で表すことができる。実施の形態２では、新規データを表す点ｄを中心とした距離Ｔの半径のｎ次元球Ｃが直線ｌと交差するか否かを判定する。図６のように直線ｌと球Ｃが交差すれば、新規データｄが既存データｅ１およびｅ２の線形補間と距離Ｔ以内に存在し、図７のように交差しなければ新規データｄは既存データｅ１およびｅ２の線形補間と距離Ｔよりも離れて存在することとなる。 As described in Embodiment 1, linear interpolation of existing data e1 and e2 can be represented by a straight line l: x=λe1+(1−λ)e2 in n-dimensional space. In the second embodiment, it is determined whether or not an n-dimensional sphere C with a radius of a distance T centered at a point d representing new data intersects the straight line l. If the straight line l and the sphere C intersect as shown in FIG. 6, the new data d exists within the distance T from the linear interpolation of the existing data e1 and e2. It exists farther than the linear interpolation of e1 and e2 and the distance T.
　直線ｌと球Ｃが交差するかの判定は次のように実現できる。点ｄを中心とした半径Ｔ（距離Ｔ）のｎ次元球Ｃは｜ｘ－ｄ｜２＝Ｔ２と表すことができ、直線ｌは上述のようにｘ＝λｅ１＋（１－λ）ｅ２で表される。ｘとλを変数とした次の２元連立方程式
　　　　　　　　　　　　　　　x=λe1+(1-λ)e2　　　　　　　　（１）
　　　　　　　　　　　　　　　|x-d|2=T2　　　　　　　　　　　　（２）
は、球Ｃと直線ｌが交差する場合は実数解をもち、交差しない場合は実数解をもたない。 Determination of whether the straight line l and the sphere C intersect can be realized as follows. An n-dimensional sphere C with radius T ( distance T) centered at point d can be expressed as |x − d| expressed. The following two-dimensional simultaneous equation x=λe1+(1-λ)e2 with x and λ as variables (1)
|xd| 2 =T 2 (2)
has a real solution if the sphere C and the line l intersect, and does not have a real solution if they do not intersect.
　式（１）を式（２）に代入すると、次の式（３）が得られる。
　　　　　　　　　　　　　|λe1+(1-λ)e2-d|2=T2　　　　　　　　（３） Substituting equation (1) into equation (2) yields the following equation (3).
|λe1+(1-λ)e2-d| 2 =T 2 (3)
　式（３）は、ｘを含まない、λの方程式となる。この式（３）を整理すると、次の式（４）が得られる。
　　　　　　　　　　　　　|(e1-e2)λ+(e2-d)|2=T2　　　　　　　　（４） Equation (3) becomes an equation for λ that does not include x. By rearranging this formula (3), the following formula (4) is obtained.
|(e1-e2)λ+(e2-d)| 2 =T 2 (4)
　式（４）を更に整理すると、次の式（５）が得られる。
　　　　　　　|(e1-e2)|2λ2+2(e1-e2)・(e2-d)λ+(|(e2-d)|2-T2)=0　　（５） Further arranging the equation (4) yields the following equation (5).
|(e1-e2)| 2 λ 2 +2(e1-e2)・(e2-d)λ+(|(e2-d)| 2 -T 2 )=0 (5)
　式（５）の第２項目における記号“・”はベクトルの内積を表す。式（５）はλの２次方程式であり、係数は全てスカラー値になっている。 The symbol "·" in the second item of Equation (5) represents the inner product of vectors. Equation (5) is a quadratic equation of λ, and all coefficients are scalar values.
　２次方程式が実数解を持つか否かは、２次方程式の判別式の符号を計算して判定すればよい。判別式が正または０であれば実数解が存在し、負であれば実数解は存在しない。判別式Ｄは２次方程式の係数ａ、ｂ、およびｃを用いてＤ＝ｂ２－４ａｃと表すことができ、式（５）の場合の係数ａ、ｂ、およびｃは具体的には次の式（６）～（８）のとおりである。
　　　　　　　　　　　　　　　　a=|(e1-e2)|2　　　　　　　　　　（６）
　　　　　　　　　　　　　　　　b=2(e1-e2)・(e2-d)　　　　　　　（７）
　　　　　　　　　　　　　　　　c=|(e2-d)|2-T2　　　　　　　　　（８）
Ｄ≧０であれば、球Ｃと直線ｌは交差し、Ｄ＜０なら球Ｃと直線ｌは交差しない。 Whether or not a quadratic equation has a real number solution can be determined by calculating the sign of the discriminant of the quadratic equation. If the discriminant is positive or zero, there is a real solution, and if it is negative, there is no real solution. The discriminant D can be expressed as D=b 2 −4ac using the coefficients a, b, and c of the quadratic equation, and the coefficients a, b, and c in the case of equation (5) are specifically (6) to (8).
a=|(e1-e2)| 2 (6)
b=2(e1-e2)・(e2-d) (7)
c=|(e2 - d)| 2 -T2 (8)
If D≧0, the sphere C and the line l intersect, and if D<0, the sphere C and the line l do not intersect.
　なお、実施の形態１で説明したように、ラベルを含めたｎ＋ｍ次元のベクトルｄ’＝（ｄ，ｙｄ）、ｅ’１＝（ｅ１，ｙ１）およびｅ’２＝（ｅ２，ｙ２）を、上述のｄ、ｅ１およびｅ２の代わりにそれぞれ用いてもよい。 As described in Embodiment 1, n+m-dimensional vectors d'=(d, yd), e'1=(e1, y1) and e'2=(e2, y2) including labels are may be used in place of d, e1 and e2 above, respectively.
　以上のようにすれば、実施の形態１と比べてデータを保存する条件を緩和することができ、保存するデータ量を削減することができる。 By doing so, the conditions for saving data can be relaxed compared to the first embodiment, and the amount of data to be saved can be reduced.
　以上のように、センサ１で取得したデータの中からＡＩまたは機械学習の学習に有効なデータを選択して保存することで、学習データを保持するための記憶装置の容量を削減することができる。学習に有効なデータを選択しているので、保存されたデータを学習したＡＩまたは機械学習は、その認識または回帰を高い精度で獲得することができる。さらに、ＡＩまたは機械学習の学習に必要な計算時間や演算量は学習データ量が少ないほど小さくできるため、学習データ収集装置１０Ａにより保存された学習データを学習する際の計算時間や演算量を削減することができる。演算量を削減することで、学習を行う機器の低コスト化も実現できる。 As described above, by selecting and saving data effective for learning AI or machine learning from the data acquired by the sensor 1, it is possible to reduce the capacity of the storage device for holding the learning data. . AI or machine learning trained on the saved data can acquire its recognition or regression with high accuracy because it selects valid data for learning. Furthermore, the smaller the amount of learning data, the smaller the calculation time and amount of calculation required for learning AI or machine learning. can do. By reducing the amount of calculation, it is possible to reduce the cost of the equipment that performs learning.
　また、後に学習を行う際において、参考文献１で提案されているデータ拡張手法であるｍｉｘｕｐを用いてもよい。Ｍｉｘｕｐは学習データ内の任意のペアの線形補間を学習データとして用いるデータ拡張手法であり、本実施の形態で保存せず棄却された新規データｄを補間するように学習することができ、ＡＩまたは機械学習の精度を向上することができる。 In addition, mixup, which is a data augmentation method proposed in Reference 1, may be used when performing learning later. Mixup is a data augmentation method that uses linear interpolation of any pair in the learning data as learning data, and can learn to interpolate the new data d that is rejected without saving in the present embodiment, AI or It can improve the accuracy of machine learning.
実施の形態３．
＜構成＞
　実施の形態１と実施の形態２では、データ保存判定部３はデータｄ、ｅ１およびｅ２を用いて判定を行ったが、収集するデータが画像のように次元が大きい場合には、新規データが既存データの線形補間で表せることが少ないと考えられる。また、実施の形態２のように条件を緩和した場合、保存データ量を削減するためにはしきい値としての距離Ｔを大きくする必要があり、重要なデータを棄却してしまう可能性が高まってしまう。 Embodiment 3.
<Configuration>
In Embodiments 1 and 2, the data storage determination unit 3 performed determination using the data d, e1, and e2. It is thought that there are few things that can be represented by linear interpolation of existing data. Moreover, when the conditions are relaxed as in the second embodiment, it is necessary to increase the distance T as the threshold value in order to reduce the amount of stored data, and the possibility of discarding important data increases. end up
　そこで実施の形態３では、データ保存判定部３は、データｄ、ｅ１およびｅ２を用いることに代えて、データｄ、ｅ１およびｅ２を学習済みニューラルネットワークに入力し、これらのデータの中間層出力の値を用いて同様の判定を行う。 Therefore, in Embodiment 3, instead of using the data d, e1 and e2, the data storage determination unit 3 inputs the data d, e1 and e2 to the trained neural network, and outputs these data to the intermediate layer. A similar determination is made using the value.
　実施の形態３による学習データ収集装置２０を含むシステムの構成を図８に示す。図８に示されたシステムは、センサ１、データ一時記憶部２、データ保存判定部３、データ保存記憶装置４を備える点で図１に示されたシステムと同様であるが、学習済み機械学習モデル５を備える点で図１に示されたシステムと異なる。学習データ収集装置２０のデータ保存判定部３は、学習済み機械学習モデル５との間でデータの授受を行うように構成されている。学習済み機械学習モデル５は、予め学習し用意されたニューラルネットワークが保持された記憶装置である。このニューラルネットワークは、学習データ収集装置２０または別の手段で収集した学習データで予め学習されているものとする。このニューラルネットワークは推論動作が可能な状態で保持されており、学習済み機械学習モデル５はデータ保存判定部３のためにニューラルネットワークを供給する。 The configuration of a system including the learning data collection device 20 according to Embodiment 3 is shown in FIG. The system shown in FIG. 8 is the same as the system shown in FIG. It differs from the system shown in FIG. 1 in that the model 5 is provided. The data storage determination unit 3 of the learning data collection device 20 is configured to exchange data with the trained machine learning model 5 . The trained machine learning model 5 is a storage device that holds a neural network trained and prepared in advance. This neural network is trained in advance with learning data collected by the learning data collecting device 20 or another means. This neural network is held in a state in which inference operations are possible, and the trained machine learning model 5 supplies the neural network for the data storage determination unit 3 .
　データ保存判定部３は、学習済み機械学習モデル５から提供されたニューラルネットワークに新規データｄ、既存データｅ１およびｅ２を入力し、それぞれの中間層出力ｄ’、ｅ’１およびｅ’２を学習済み機械学習モデル５から取得する。 The data storage determination unit 3 inputs the new data d and the existing data e1 and e2 to the neural network provided from the trained machine learning model 5, and learns the respective intermediate layer outputs d', e'1 and e'2. obtained from the machine learning model 5.
　その後、データ保存判定部３は、データｄ、ｅ１およびｅ２の代わりに中間層出力ｄ’、ｅ’１およびｅ’２を用いて、実施の形態１の図３または実施の形態２の図５の判定方法に準じて新規データｄまたは新規データｄに関連するデータを保存するか判定する。 After that, the data storage determination unit 3 uses the intermediate layer outputs d′, e′1 and e′2 instead of the data d, e1 and e2 to obtain the data shown in FIG. 3 of the first embodiment or FIG. 5 of the second embodiment. It is determined whether to save the new data d or data related to the new data d according to the determination method of .
　実施の形態１の図３の判定方法に準じる場合、ステップＳＴ４に対応するステップでは、データ保存判定部３は、中間層出力ｄ’が中間層出力ｅ’１およびｅ’２の線形補間で表されるかを計算する。中間層出力ｄ’が中間層出力ｅ’１およびｅ’２の線形補間で表されない場合、データ保存判定部３は、図３のステップＳＴ６に対応するステップにおいて、ステップＳＴ６と同様に新規データｄを保存すると判定してもよいし、新規データｄを保存するとの判定に代えて新規データｄに関連するデータである中間層出力ｄ’を保存すると判定してもよい。中間層出力ｄ’が中間層出力ｅ’１およびｅ’２の線形補間で表される場合、データ保存判定部３は、図３のステップＳＴ７に対応するステップにおいて、新規データｄを保存しないと判定してもよい。また、データ保存判定部３は、図３のステップＳＴ７に対応するステップにおいて、新規データｄに関連するデータである、既存データｅ１およびｅ２を特定する情報と新規データｄを復元するためのパラメータとを保存すると判定してもよい。 In the case of conforming to the determination method of FIG. 3 of Embodiment 1, in the step corresponding to step ST4, the data storage determination unit 3 determines that the intermediate layer output d′ is represented by linear interpolation of the intermediate layer outputs e′1 and e′2. Calculate if If the intermediate layer output d' is not represented by linear interpolation of the intermediate layer outputs e'1 and e'2, the data storage determination unit 3, in the step corresponding to step ST6 in FIG. may be determined to be stored, or instead of determining to store the new data d, it may be determined to store the intermediate layer output d', which is data related to the new data d. When the intermediate layer output d' is represented by linear interpolation of the intermediate layer outputs e'1 and e'2, the data storage determination unit 3 determines that the new data d should be stored in the step corresponding to step ST7 in FIG. You can judge. Further, in a step corresponding to step ST7 in FIG. may be determined to be stored.
　実施の形態２に係る図５の判定方法に準じる場合、ステップＳＴ４Ａに相当するステップでは、データ保存判定部３は、中間層出力ｄ’が中間層出力ｅ’１およびｅ’２の線形補間と距離Ｔ以内に存在するかを計算する。中間層出力ｄ’が中間層出力ｅ’１およびｅ’２の線形補間と距離Ｔ以内に存在しない場合、データ保存判定部３は、図５のステップＳＴ６に対応するステップにおいて、ステップＳＴ６と同様に新規データｄを保存すると判定してもよいし、新規データｄを保存するとの判定に代えて新規データｄに関連するデータである中間層出力ｄ’を保存すると判定してもよい。中間層出力ｄ’が中間層出力ｅ’１およびｅ’２の線形補間と距離Ｔ以内に存在する場合、データ保存判定部３は、図５のステップＳＴ７に対応するステップにおいて、新規データｄを保存しないと判定してもよい。また、データ保存判定部３は、図５のステップＳＴ７に対応するステップにおいて、新規データｄに関連するデータである、既存データｅ１およびｅ２を特定する情報と新規データｄを復元するためのパラメータとを保存すると判定してもよい。 5 according to the second embodiment, in a step corresponding to step ST4A, the data storage determination unit 3 determines that the intermediate layer output d' is linearly interpolated between the intermediate layer outputs e'1 and e'2. Calculate if it exists within the distance T. If the intermediate layer output d' does not exist within the distance T from the linear interpolation of the intermediate layer outputs e'1 and e'2, the data storage determination unit 3 performs the same operation as in step ST6 in the step corresponding to step ST6 in FIG. Alternatively, it may be determined to store the intermediate layer output d', which is data related to the new data d, instead of storing the new data d. If the intermediate layer output d' exists within the distance T from the linear interpolation of the intermediate layer outputs e'1 and e'2, the data storage determination unit 3 stores the new data d in the step corresponding to step ST7 in FIG. It may be determined not to save. In a step corresponding to step ST7 in FIG. 5, the data storage determination unit 3 stores information specifying the existing data e1 and e2, which are data related to the new data d, and parameters for restoring the new data d. may be determined to be stored.
　ニューラルネットワークを適切に設計することにより、データｄ、ｅ１およびｅ２の次元数よりも中間層出力で得られるｄ’、ｅ’１およびｅ’２の次元数を小さくすることができ、新規データを既存データの線形補間で表せる可能性または新規データが距離Ｔ以内に存在する可能性が高まり、保存する学習データ量を実施の形態１や実施の形態２よりも削減することができる。 By appropriately designing the neural network, the number of dimensions of d', e'1 and e'2 obtained in the hidden layer output can be made smaller than the number of dimensions of data d, e1 and e2, and the new data can be The possibility that existing data can be represented by linear interpolation or the possibility that new data exists within the distance T increases, and the amount of learning data to be stored can be reduced compared to the first and second embodiments.
　さらには、新規データｄに代えて新規データに関連するデータである中間層出力ｄ’を学習データとして保存すれば、保存するデータの次元数を抑制することができ、保存するデータ量を削減することができる。 Furthermore, if the intermediate layer output d', which is data related to the new data, is saved as learning data instead of the new data d, the number of dimensions of the data to be saved can be suppressed, and the amount of data to be saved can be reduced. be able to.
　また、ニューラルネットワークの中間層出力は、入力データの特徴量が適切に抽出された値である可能性が高く、より適切にデータ保存すべきか否かの判定ができる。その結果、本実施の形態で得られた学習データで学習したＡＩまたは機械学習の精度を高めることができる。 In addition, there is a high possibility that the intermediate layer output of the neural network is a value in which the feature amount of the input data is appropriately extracted, and it is possible to determine whether the data should be saved more appropriately. As a result, the accuracy of AI or machine learning learned with the learning data obtained in the present embodiment can be improved.
　以上のように、センサ１で取得したデータの中からＡＩまたは機械学習の学習に有効なデータを選択して保存することで、学習データを保持するための記憶装置の容量を削減することができる。学習に有効なデータを選択しているので、保存されたデータを学習したＡＩまたは機械学習は、その認識または回帰を高い精度で獲得することができる。さらに、ＡＩまたは機械学習の学習に必要な計算時間や演算量は学習データ量が少ないほど小さくできるため、学習データ収集装置２０により保存された学習データを学習する際の計算時間や演算量を削減することができる。演算量を削減することで、学習を行う機器の低コスト化も実現できる。 As described above, by selecting and saving data effective for learning AI or machine learning from the data acquired by the sensor 1, it is possible to reduce the capacity of the storage device for holding the learning data. . AI or machine learning trained on the saved data can acquire its recognition or regression with high accuracy because it selects valid data for learning. Furthermore, the smaller the amount of learning data, the smaller the calculation time and amount of calculation required for learning AI or machine learning. can do. By reducing the amount of calculation, it is possible to reduce the cost of the equipment that performs learning.
　また、後に学習を行う際において、参考文献１で提案されているデータ拡張手法であるｍｉｘｕｐを用いてもよい。Ｍｉｘｕｐは学習データ内の任意のペアの線形補間を学習データとして用いるデータ拡張手法であり、本実施の形態で保存せず棄却された新規データｄを補間するように学習することができ、ＡＩまたは機械学習の精度を向上することができる。 In addition, mixup, which is a data augmentation method proposed in Reference 1, may be used when performing learning later. Mixup is a data augmentation method that uses linear interpolation of any pair in the learning data as learning data, and can learn to interpolate the new data d that is rejected without saving in the present embodiment, AI or It can improve the accuracy of machine learning.
　なお、実施形態を組み合わせたり、各実施形態を適宜、変形、省略したりすることが可能である。 It should be noted that the embodiments can be combined, and each embodiment can be modified or omitted as appropriate.
　本開示の学習データ収集技術は、ＡＩまたは機械学習で用いるための学習データを収集するための装置として用いることができる。 The learning data collection technology of the present disclosure can be used as a device for collecting learning data for use in AI or machine learning.
　１　センサ、２　データ一時記憶部、３　データ保存判定部、４　データ保存記憶装置、５　学習済み機械学習モデル、１０　学習データ収集装置、１０Ａ　学習データ収集装置、２０　学習データ収集装置、１００ａ　処理回路、１００ｂ　ＣＰＵ、１００ｃ　メモリ。 1 sensor, 2 data temporary storage unit, 3 data storage determination unit, 4 data storage storage device, 5 learned machine learning model, 10 learning data collection device, 10A learning data collection device, 20 learning data collection device, 100a processing circuit, 100b CPU, 100c memory.

Claims (13)

  1. 　センサを介して新たに取得された新規データおよびデータ保存記憶装置に既に保存されている２つの既存データを取得し、前記新規データまたは前記新規データに関連するデータを学習データとして保存するか否かを前記２つの既存データを用いて判定するデータ保存判定部、
    を備える、学習データ収集装置。     Whether to acquire new data newly acquired through a sensor and two existing data already stored in a data storage device, and store the new data or data related to the new data as learning data A data storage determination unit that determines using the two existing data,
    A learning data collection device.
  2. 　前記データ保存判定部は、前記新規データを前記２つの既存データの線形補間で表せるかを計算し、前記新規データを前記２つの既存データの線形補間で表せる場合、前記新規データを保存しないと判定する、
    請求項１に記載の学習データ収集装置。     The data storage determination unit calculates whether the new data can be represented by linear interpolation of the two existing data, and determines not to store the new data if the new data can be represented by linear interpolation of the two existing data. do,
    The learning data collection device according to claim 1.
  3. 　前記データ保存判定部は、前記新規データを前記２つの既存データの線形補間で表せるかを計算し、前記新規データを前記２つの既存データの線形補間で表せる場合、前記新規データを復元するためのパラメータと前記２つの既存データを特定する情報とを前記新規データに関連するデータとして保存すると判定する、
    請求項１または２に記載の学習データ収集装置。     The data storage determination unit calculates whether the new data can be expressed by linear interpolation of the two existing data, and if the new data can be expressed by linear interpolation of the two existing data, a method for restoring the new data. determining to store parameters and information identifying the two existing data as data associated with the new data;
    The learning data collection device according to claim 1 or 2.
  4. 　前記データ保存判定部は、前記新規データが前記２つの既存データの線形補間からある距離以内に存在するかを計算し、前記新規データが前記距離以内に存在する場合、前記新規データを保存しないと判定する、
    請求項１に記載の学習データ収集装置。     The data storage determination unit calculates whether the new data exists within a certain distance from the linear interpolation of the two existing data, and if the new data exists within the distance, the new data is not stored. judge,
    The learning data collection device according to claim 1.
  5. 　前記データ保存判定部は、前記新規データが前記２つの既存データの線形補間からある距離以内に存在するかを計算し、前記新規データが前記距離以内に存在する場合、前記新規データを復元するためのパラメータと前記２つの既存データを特定する情報とを前記新規データに関連するデータとして保存すると判定する、
    請求項１または４に記載の学習データ収集装置。     The data storage determination unit calculates whether the new data exists within a certain distance from the linear interpolation of the two existing data, and restores the new data if the new data exists within the distance. and information identifying the two existing data are stored as data associated with the new data;
    The learning data collection device according to claim 1 or 4.
  6. 　前記データ保存判定部は、ニューラルネットワークで構成された学習済み機械学習モデルを参照して前記新規データおよび前記２つの既存データを前記ニューラルネットワークに入力して中間層出力を取得し、前記新規データの中間層出力が前記２つの既存データの中間層出力の線形補間で表せるかを計算し、前記新規データの中間層出力が前記２つの既存データの中間層出力の線形補間で表せる場合、前記新規データを保存しないと判定する、
    請求項１に記載の学習データ収集装置。     The data storage determination unit refers to a trained machine learning model configured by a neural network, inputs the new data and the two existing data to the neural network, acquires an intermediate layer output, and stores the new data. calculating whether the hidden layer output can be represented by a linear interpolation of the hidden layer outputs of the two existing data, and if the hidden layer output of the new data can be represented by a linear interpolation of the hidden layer outputs of the two existing data, the new data; determine not to save the
    The learning data collection device according to claim 1.
  7. 　前記データ保存判定部は、ニューラルネットワークで構成された学習済み機械学習モデルを参照して前記新規データおよび前記２つの既存データを前記ニューラルネットワークに入力して中間層出力を取得し、前記新規データの中間層出力が前記２つの既存データの中間層出力の線形補間で表せるかを計算し、前記新規データの中間層出力が前記２つの既存データの中間層出力の線形補間で表せる場合、前記新規データを復元するためのパラメータと前記２つの既存データを特定する情報とを前記新規データに関連するデータとして保存すると判定する、
    請求項１または６に記載の学習データ収集装置。     The data storage determination unit refers to a trained machine learning model configured by a neural network, inputs the new data and the two existing data to the neural network, acquires an intermediate layer output, and stores the new data. calculating whether the hidden layer output can be represented by a linear interpolation of the hidden layer outputs of the two existing data, and if the hidden layer output of the new data can be represented by a linear interpolation of the hidden layer outputs of the two existing data, the new data; and information identifying the two existing data are stored as data associated with the new data;
    The learning data collection device according to claim 1 or 6.
  8. 　前記データ保存判定部は、ニューラルネットワークで構成された学習済み機械学習モデルを参照して前記新規データおよび前記２つの既存データを前記ニューラルネットワークに入力して中間層出力を取得し、前記新規データの中間層出力が前記２つの既存データの中間層出力の線形補間からある距離以内に存在するかを計算し、前記新規データの中間層出力が前記距離以内に存在する場合、前記新規データを保存しないと判定する、
    請求項１に記載の学習データ収集装置。     The data storage determination unit refers to a trained machine learning model configured by a neural network, inputs the new data and the two existing data to the neural network, acquires an intermediate layer output, and stores the new data. calculating if the hidden layer output is within a distance from a linear interpolation of the two existing data hidden layer outputs, and if the new data hidden layer output is within the distance, do not store the new data. determine that
    The learning data collection device according to claim 1.
  9. 　前記データ保存判定部は、ニューラルネットワークで構成された学習済み機械学習モデルを参照して前記新規データおよび前記２つの既存データを前記ニューラルネットワークに入力して中間層出力を取得し、前記新規データの中間層出力が前記２つの既存データの中間層出力の線形補間からある距離以内に存在するかを計算し、前記新規データの中間層出力が前記距離以内に存在する場合、前記新規データを復元するためのパラメータと前記２つの既存データを特定する情報とを前記新規データに関連するデータとして保存すると判定する、
    請求項１または８に記載の学習データ収集装置。     The data storage determination unit refers to a trained machine learning model configured by a neural network, inputs the new data and the two existing data to the neural network, acquires an intermediate layer output, and stores the new data. calculating if the hidden layer output is within a distance from a linear interpolation of the two existing data hidden layer outputs, and if the new data hidden layer output is within the distance, reconstructing the new data. determining to store parameters for and information identifying the two existing data as data associated with the new data;
    The learning data collection device according to claim 1 or 8.
  10. 　前記データ保存判定部は、ニューラルネットワークで構成された学習済み機械学習モデルを参照して前記新規データおよび前記２つの既存データを前記ニューラルネットワークに入力して中間層出力を取得し、前記新規データの中間層出力が前記２つの既存データの中間層出力の線形補間で表せるかを計算し、前記新規データの中間層出力が前記２つの既存データの中間層出力の線形補間で表せない場合、前記新規データの中間層出力を前記新規データに関連するデータとして保存すると判定する、
    請求項１に記載の学習データ収集装置。     The data storage determination unit refers to a trained machine learning model configured by a neural network, inputs the new data and the two existing data to the neural network, acquires an intermediate layer output, and stores the new data. calculating whether the hidden layer output can be represented by a linear interpolation of the hidden layer outputs of the two existing data, and if the hidden layer output of the new data cannot be represented by a linear interpolation of the hidden layer outputs of the two existing data, the new determining to store a hidden layer output of data as data associated with the new data;
    The learning data collection device according to claim 1.
  11. 　前記データ保存判定部は、ニューラルネットワークで構成された学習済み機械学習モデルを参照して前記新規データおよび前記２つの既存データを前記ニューラルネットワークに入力して中間層出力を取得し、前記新規データの中間層出力が前記２つの既存データの中間層出力の線形補間からある距離以内に存在するかを計算し、前記新規データの中間層出力が前記距離以内に存在しない場合、前記新規データの中間層出力を前記新規データに関連するデータとして保存すると判定する、
    請求項１に記載の学習データ収集装置。     The data storage determination unit refers to a trained machine learning model configured by a neural network, inputs the new data and the two existing data to the neural network, acquires an intermediate layer output, and stores the new data. calculating if the hidden layer output is within a distance from a linear interpolation of the two existing data hidden layer outputs, and if the new data hidden layer output is not within the distance, then the new data hidden layer output determining to store output as data associated with the new data;
    The learning data collection device according to claim 1.
  12. 　データ保存判定部を備える学習データ収集装置による学習データ収集方法であって、
    　前記データ保存判定部が、センサを介して新たに取得された新規データおよびデータ保存記憶装置に既に保存されている２つの既存データを取得し、前記新規データまたは前記新規データに関連するデータを学習データとして保存するか否かを前記２つの既存データを用いて判定するステップ、
    を備える、学習データ収集方法。     A learning data collection method using a learning data collection device comprising a data storage determination unit,
    The data storage determination unit acquires new data newly acquired through a sensor and two existing data already stored in a data storage device, and learns the new data or data related to the new data. Determining whether to save as data using the two existing data;
    A learning data collection method comprising:
  13. 　センサを介して新たに取得された新規データおよびデータ保存記憶装置に既に保存されている２つの既存データを取得し、前記新規データまたは前記新規データに関連するデータを学習データとして保存するか否かを前記２つの既存データを用いて判定するデータ保存判定機能、
    をコンピュータに実行させる学習データ収集プログラム。     Whether to acquire new data newly acquired through a sensor and two existing data already stored in a data storage device, and store the new data or data related to the new data as learning data A data storage determination function that determines using the two existing data,
    A learning data collection program that causes a computer to execute
PCT/JP2021/024066 2021-06-25 2021-06-25 Learning data collection device, learning data collection method, and learning data collection program WO2022269885A1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2023529390A JP7415082B2 (en) 2021-06-25 2021-06-25 Learning data collection device, learning data collection method, and learning data collection program
PCT/JP2021/024066 WO2022269885A1 (en) 2021-06-25 2021-06-25 Learning data collection device, learning data collection method, and learning data collection program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/024066 WO2022269885A1 (en) 2021-06-25 2021-06-25 Learning data collection device, learning data collection method, and learning data collection program

Publications (1)

Publication Number Publication Date
WO2022269885A1 true WO2022269885A1 (en) 2022-12-29

Family

ID=84544440

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/024066 WO2022269885A1 (en) 2021-06-25 2021-06-25 Learning data collection device, learning data collection method, and learning data collection program

Country Status (2)

Country Link
JP (1) JP7415082B2 (en)
WO (1) WO2022269885A1 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0738745A (en) * 1993-06-25 1995-02-07 Sharp Corp Image forming device setting picture quality by neural network
JPH08329196A (en) * 1995-05-31 1996-12-13 Sanyo Electric Co Ltd Character recognition device and learning method therefor
JP2020166397A (en) * 2019-03-28 2020-10-08 パナソニックＩｐマネジメント株式会社 Image processing device, image processing method, and program
JP2021096511A (en) * 2019-12-13 2021-06-24 富士通株式会社 Learning data generation method, learning data generation program, and information processing device

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0738745A (en) * 1993-06-25 1995-02-07 Sharp Corp Image forming device setting picture quality by neural network
JPH08329196A (en) * 1995-05-31 1996-12-13 Sanyo Electric Co Ltd Character recognition device and learning method therefor
JP2020166397A (en) * 2019-03-28 2020-10-08 パナソニックＩｐマネジメント株式会社 Image processing device, image processing method, and program
JP2021096511A (en) * 2019-12-13 2021-06-24 富士通株式会社 Learning data generation method, learning data generation program, and information processing device

Also Published As

Publication number Publication date
JP7415082B2 (en) 2024-01-16
JPWO2022269885A1 (en) 2022-12-29

Similar Documents

Publication Publication Date Title
Ma et al. Bayesian loss for crowd count estimation with point supervision
JP6806412B2 (en) Methods and devices for optimizing models applicable to pattern recognition and terminal devices
CN110210513B (en) Data classification method and device and terminal equipment
JP6943291B2 (en) Learning device, learning method, and program
US20210201159A1 (en) System and Method for Unsupervised Domain Adaptation with Mixup Training
JP2012530925A (en) Detecting defects in electrochemical devices
CN111476719A (en) Image processing method, image processing device, computer equipment and storage medium
JP2019192009A (en) Information processing apparatus, information processing method, and program
US20220108153A1 (en) Bayesian context aggregation for neural processes
Spera et al. Egocentric shopping cart localization
WO2024198583A1 (en) Facial expression capture method and apparatus based on multi-scale feature fusion, and medium
JP2020052520A (en) Determination device, determination method, and program
CN114926479A (en) Image processing method and device
US20200342287A1 (en) Selective performance of deterministic computations for neural networks
WO2022269885A1 (en) Learning data collection device, learning data collection method, and learning data collection program
JP2022075329A (en) Recognition system, recognition method, program, learning method, learned model, distillation model, and method for generating dataset for learning
CN114187465A (en) Method and device for training classification model, electronic equipment and storage medium
CN114550288B (en) Action recognition method and device based on event data
CN116362301A (en) Model quantization method and related equipment
Hwang et al. Simex: Express prediction of inter-dataset similarity by a fleet of autoencoders
Qin et al. Evolving Domain Generalization via Latent Structure-Aware Sequential Autoencoder
JP6831307B2 (en) Solution calculation device, solution calculation method and solution calculation program
EP4446944A1 (en) Efficient active learning
US12045153B1 (en) Apparatus and method of hot-swapping a component of a component unit in a cluster
Jodogne et al. Approximate policy iteration for closed-loop learning of visual tasks

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21947170

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2023529390

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21947170

Country of ref document: EP

Kind code of ref document: A1