WO2018159558A1 - データ生成方法、データ生成装置及びデータ生成プログラム - Google Patents

データ生成方法、データ生成装置及びデータ生成プログラム Download PDF

Info

Publication number
WO2018159558A1
WO2018159558A1 PCT/JP2018/007041 JP2018007041W WO2018159558A1 WO 2018159558 A1 WO2018159558 A1 WO 2018159558A1 JP 2018007041 W JP2018007041 W JP 2018007041W WO 2018159558 A1 WO2018159558 A1 WO 2018159558A1
Authority
WO
WIPO (PCT)
Prior art keywords
data
time
series data
machine learning
generated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2018/007041
Other languages
English (en)
French (fr)
Inventor
裕平 梅田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Publication of WO2018159558A1 publication Critical patent/WO2018159558A1/ja
Priority to US16/554,886 priority Critical patent/US11120302B2/en
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G06N20/10—Machine learning using kernel methods, e.g. support vector machines [SVM]
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08—Feature extraction
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12—Classification; Matching

Definitions

  • the present invention relates to a technique for processing time series data.
  • Machine learning is performed on time series data. For example, let the computer execute machine learning for a learning model using time series data acquired by a wearable sensor attached to a person as learning data, and using the human state at the time when the time series data is acquired as teacher data. . Then, using a machine-learned learning model, the computer estimates a person's state at the time when new time-series data is acquired.
  • time-series data is graphed based on the graphing method, and topological data analysis (Topological Data Analysis), one of the data analysis methods based on topology, is executed on the graphing result. Is done. Then, machine learning using DNN (Deep Neural Network) is executed on the result of topological data analysis.
  • topological data analysis Topicological Data Analysis
  • DNN Deep Neural Network
  • the technique described in the above document is a machine learning technique for a single time series data, it is not a technique suitable for machine learning for a plurality of time series data.
  • An object of the present invention is, in one aspect, to generate feature information suitable for machine learning for a plurality of time series data.
  • the data generation method corresponds to a contribution rate by a persistent homology process for a set of points represented by coordinates generated by a plurality of time series data and a contribution rate of each of the plurality of time series data.
  • Machine that generates a characteristic number and a classification corresponding to a plurality of time-series data. Includes processing to generate learning data.
  • feature information suitable for machine learning for a plurality of time series data can be generated.
  • FIG. 1 is a functional block diagram of the information processing apparatus according to the first embodiment.
  • FIG. 2 is a diagram illustrating a main processing flow according to the first embodiment.
  • FIG. 3 is a diagram for explaining normalization of time series data.
  • FIG. 4 is a diagram for explaining generation of an extended attractor.
  • FIG. 5 is a diagram illustrating an example of the value of ⁇ .
  • FIG. 6 is a diagram illustrating a processing flow of the extension vector generation processing.
  • FIG. 7 is a diagram illustrating an example of a barcode diagram.
  • FIG. 8 is a diagram illustrating an example of barcode data.
  • FIG. 9 is a diagram for explaining the relationship between the barcode data and the Vetch series.
  • FIG. 10 is a diagram illustrating an example of a persistent section.
  • FIG. 11 is a diagram for explaining the feature image.
  • FIG. 12 is a diagram illustrating a main processing flow according to the first embodiment.
  • FIG. 13 is a schematic diagram illustrating an example of a CNN according to the first embodiment.
  • FIG. 14 is a diagram for explaining the relationship between labels and weight matrices.
  • FIG. 15 is a diagram for explaining the calculation of statistics.
  • FIG. 16 is a diagram for explaining the generation of the relevance vector.
  • FIG. 17 is a diagram illustrating a main processing flow according to the first embodiment.
  • FIG. 18 is a diagram showing a pattern for the first relation data.
  • FIG. 19 is a diagram showing a pattern for the second relation data.
  • FIG. 20 is a diagram illustrating a pattern for the third relational data and a pattern for the fourth relational data.
  • FIG. 20 is a diagram illustrating a pattern for the third relational data and a pattern for the fourth relational data.
  • FIG. 21 is a diagram illustrating a specific example of time-series data.
  • FIG. 22 is a diagram illustrating a specific example of time-series data.
  • FIG. 23 is a diagram illustrating a specific example of time-series data.
  • FIG. 24 is a diagram illustrating a specific example of time-series data.
  • FIG. 25 is a diagram illustrating a specific example of time-series data.
  • FIG. 26 is a diagram illustrating a specific example of time-series data.
  • FIG. 27 is a diagram illustrating a specific example of time-series data.
  • FIG. 28 is a diagram illustrating a specific example of time-series data.
  • FIG. 29 is a diagram illustrating the relationship between the degree of association and the contribution parameter.
  • FIG. 29 is a diagram illustrating the relationship between the degree of association and the contribution parameter.
  • FIG. 30 is a diagram illustrating a main processing flow according to the second embodiment.
  • FIG. 31 is a diagram illustrating an example of a learning model according to the second embodiment.
  • FIG. 32 is a functional block diagram of the information processing apparatus according to the third embodiment.
  • FIG. 33 is a diagram illustrating a main process flow according to the third embodiment.
  • FIG. 34 is a diagram illustrating an example of an input vector.
  • FIG. 35 is a diagram illustrating a main processing flow according to the third embodiment.
  • FIG. 36 is a diagram illustrating a main processing flow according to the third embodiment.
  • FIG. 37 is a functional block diagram of the information processing apparatus according to the fourth embodiment.
  • FIG. 38 is a diagram illustrating a main processing flow according to the fourth embodiment.
  • FIG. 39 is a diagram for explaining calculation of the degree of association in the fourth embodiment.
  • FIG. 40 is a functional block diagram of a computer.
  • FIG. 1 is a functional block diagram of the information processing apparatus 1 according to the first embodiment.
  • the information processing apparatus 1 includes a time-series data storage unit 101, a first generation unit 103, an image data storage unit 105, a machine learning unit 107, a learning data storage unit 109, a second generation unit 111, and a degree of association.
  • a storage unit 113, a determination unit 115, and a determination result storage unit 117 are included.
  • the first generation unit 103, the machine learning unit 107, the second generation unit 111, and the determination unit 115 are configured so that, for example, a program loaded in the memory 2501 illustrated in FIG. 40 is executed by a CPU (Central Processing Unit) 2503 illustrated in FIG. Realized by being executed.
  • the time series data storage unit 101, the image data storage unit 105, the learning data storage unit 109, the relevance level storage unit 113, and the determination result storage unit 117 are stored in, for example, an HDD (Hard Disk Drive) 2505 or a memory 2501 shown in FIG. Provided.
  • HDD Hard Disk Drive
  • the first generation unit 103 executes processing based on the data stored in the time series data storage unit 101 and stores the processing result in the image data storage unit 105.
  • the machine learning unit 107 executes processing based on the data stored in the image data storage unit 105 and stores the processing result in the learning data storage unit 109.
  • the second generation unit 111 executes processing based on the data stored in the learning data storage unit 109 and stores the processing result in the relevance degree storage unit 113.
  • the determination unit 115 executes processing based on the data stored in the association degree storage unit 113 and stores the processing result in the determination result storage unit 117.
  • Data stored in the time-series data storage unit 101 includes, for example, biological data (time-series data such as heart rate, brain wave, pulse or body temperature), wearable sensor data (gyro sensor, acceleration sensor, geomagnetic sensor, etc.) Series data), financial data (time series data such as interest rates, prices, balance of payments or stock prices), natural environment data (time series data such as temperature, humidity or carbon dioxide concentration), or social data (labor statistics or population statistics) Etc.).
  • biological data time-series data such as heart rate, brain wave, pulse or body temperature
  • wearable sensor data gyro sensor, acceleration sensor, geomagnetic sensor, etc.
  • financial data time series data such as interest rates, prices, balance of payments or stock prices
  • natural environment data time series data such as temperature, humidity or carbon dioxide concentration
  • social data labor statistics or population statistics
  • time series data storage unit 101 stores a plurality of data sets including a plurality of time series data.
  • FIG. 2 is a diagram illustrating a processing flow of processing executed by the information processing apparatus 1 according to the first embodiment.
  • the first generation unit 103 identifies one data set among a plurality of data sets stored in the time-series data storage unit 101. Then, the first generation unit 103 translates each of the plurality of time-series data included in the identified data set so that the average of the values becomes 0 (FIG. 2: step S1).
  • the first generation unit 103 performs normalization so that the amplitude widths of all time-series data for which the process of step S1 is executed are the same (step S3).
  • the first generation unit 103 generates an extended attractor from a plurality of normalized time series data for each value of ⁇ (step S7).
  • the first generation unit 103 stores the generated extended attractor in the memory 2501.
  • ⁇ is a contribution parameter.
  • x i (1 ⁇ i ⁇ (k + 2)) is a value of the first time series data
  • y j (1 ⁇ j ⁇ (k + 2)) is a value of the second time series data.
  • FIG. 4 is a diagram for explaining generation of an extended attractor.
  • the generation of extended attractors is based on the Turkens embedding theorem.
  • ⁇ 3 in the example of equation (2)
  • the value of N and the value of ⁇ are not limited to the example of Expression (2).
  • the contribution parameter ⁇ is, for example, a real number that satisfies 0 ⁇ ⁇ ⁇ 1, and is a parameter that adjusts the size of the time-series data value.
  • the range of ⁇ may not be such a range.
  • a plurality of values set at regular intervals are used.
  • step S9 the 1st production
  • the extended vector generation process will be described with reference to FIGS.
  • the first generation unit 103 identifies one unprocessed value among the values of the contribution parameter ⁇ (FIG. 6: step S41).
  • the first generation unit 103 reads the extended attractor for the value specified in step S41 from the memory 2501 (step S43).
  • the first generation unit 103 generates barcode data from the extended attractor for each hole dimension (hereinafter referred to as hole dimension) by persistent homology processing (step S45).
  • “Homology” is a technique for expressing the characteristics of an object by the number of holes of m (m ⁇ 0) dimensions.
  • the “hole” referred to here is an element of a homology group.
  • a zero-dimensional hole is a connected component, a one-dimensional hole is a hole (tunnel), and a two-dimensional hole is a cavity.
  • the number of holes in each dimension is called the Betch number.
  • the “persistent homology” is a technique for characterizing the transition of the m-dimensional hole in the target (here, the extended attractor), and the characteristics regarding the arrangement of the points can be examined by the persistent homology.
  • each point in the object is gradually inflated into a spherical shape, and the time when each hole occurs (represented by the radius of the sphere at the time of occurrence) and the time of disappearance (by the radius of the sphere at the time of disappearance) Specified).
  • a bar code diagram as shown in FIG. 7 can be generated by using the generation radius and the extinction radius of the hole.
  • the horizontal axis represents the radius, and each line segment corresponds to one hole.
  • the radius corresponding to the left end of the line segment is the generation radius of the hole, and the radius corresponding to the right end of the line segment is the disappearance radius of the hole.
  • the line segment is called a persistent section. From such a bar code diagram, for example, it can be seen that there are two holes when the radius is 0.18.
  • FIG. 8 shows an example of data for generating a barcode diagram (hereinafter referred to as barcode data).
  • the barcode data includes a numerical value representing the hole dimension, the generation radius of the hole, and the disappearance radius of the hole.
  • step S45 barcode data is generated for each hole dimension.
  • the similar relationship between barcode data generated from a certain extended attractor and barcode data generated from another extended attractor is equivalent to the similar relationship between extended attractors. Therefore, the relationship between the extended attractor and the barcode data is a one-to-one relationship.
  • the extended attractor is the same, the generated barcode data is the same. Conversely, if the barcode data is the same, the extended attractor is also the same. Further, when the extended attractors are similar, the barcode data is also similar, so that the conditions necessary for machine learning are satisfied. When the extended attractor is different, the bar code data is also different.
  • the first generation unit 103 deletes the data of the persistent section whose length is less than the predetermined length from the barcode data generated in step S45 (step S47).
  • the length of the persistent section is calculated by (annihilation radius ⁇ generation radius).
  • the predetermined length is, for example, the length of time (hereinafter referred to as a block) obtained by dividing the time from when a zero-dimensional hole is generated until it disappears into K.
  • the length is not limited to one block, and a plurality of blocks may have a predetermined length.
  • the origin of the short time from occurrence to disappearance is mostly caused by noise. If the data of the persistent section whose length is less than the predetermined length is deleted, the influence of noise can be mitigated, so that the classification performance can be improved. However, it is assumed that the object of deletion is persistent section data having a dimension of 1 or more.
  • step S47 If there is noise, a one-dimensional or more hole may occur for a short time. If the process of step S47 is executed, the data generated in both cases will be substantially the same, so the influence of noise can be removed.
  • the similarity relationship between the barcode data after deletion is not strictly equivalent to the similarity relationship between the original barcode data. If the deletion is not performed, the similarity relationship is equivalent.
  • the first generation unit 103 integrates the barcode data, and generates an extension vector from the integrated barcode data (step S48).
  • An extension vector is a series of Betch numbers.
  • the first generation unit 103 since the barcode data is generated for each hole dimension, the first generation unit 103 generates a single piece of barcode data by integrating a plurality of hole dimension barcode data.
  • the series of the number of vetches is data indicating the relationship between the radius (that is, time) of the sphere and the number of the vetches in the persistent homology. With reference to FIG. 9, the relationship between the barcode data and the generated sequence of the number of vetches will be described.
  • the upper graph is a graph generated from the barcode data, and the horizontal axis represents the radius.
  • the lower graph is a graph generated from a series of the number of vetches, the vertical axis represents the number of vetches, and the horizontal axis represents time.
  • the number of holes represents the number of holes.
  • the number of holes existing at the radius corresponding to the broken line is 10, so in the lower graph, the number of holes is broken.
  • the corresponding number of vetches is also ten.
  • the number of vetches is counted for each block. Since the lower graph is a pseudo time-series data graph, the value on the horizontal axis itself is not meaningful.
  • the same series can be obtained from the same barcode data. That is, the same sequence is obtained if the original set of points is the same. However, there are very rare cases where the same sequence can be obtained from different barcodes.
  • this barcode data is data relating to holes of one or more dimensions.
  • the persistent section p1 starts at time t1 and ends at time t2, and the persistent section p2 starts at time t2 and ends at time t3.
  • the persistent section p4 starts at time t1 and ends at time t3. It is assumed that the persistent section p3 in both cases is exactly the same.
  • the similarity between a series of vetch numbers generated from one barcode data and a series of vetch numbers generated from another barcode data is the same as the above-mentioned rare case. It is equivalent to the similarity between code data. From the above, although the definition of the distance between the data changes, the similarity relationship between the series of Betch numbers generated from the barcode data is almost equivalent to the similarity relationship between the original extended attractors.
  • the first generation unit 103 determines whether there is an unprocessed value among the values of ⁇ (step S49). When there is an unprocessed value (step S49: Yes route), the process returns to step S41. If there is no unprocessed value (step S49: No route), the process returns to the caller.
  • the barcode data generated by persistent homology processing is difficult to use as input for machine learning because the number of barcodes is not constant. Therefore, in the present embodiment, the barcode data is converted into a series of Betch numbers so that it can be used as an input for machine learning.
  • the influence of noise can be removed.
  • the first generation unit 103 generates a feature image by combining the plurality of extension vectors generated in step S9 in the column direction in the order of the value of ⁇ (step S11).
  • the generated feature image is stored in the image data storage unit 105. Then, the process proceeds to step S13 in FIG.
  • FIG. 11 is a diagram illustrating an example of a feature image.
  • a square figure represents a cell, and each cell stores the number of vetches that are elements of an expansion vector.
  • One row corresponds to one extension vector. Therefore, in the example of FIG. 11, 11 extension vectors are combined, and the feature image corresponds to a matrix having 11 rows.
  • the number of elements of the extension vector is 15, but the number is not limited.
  • the machine learning unit 107 executes machine learning using CNN (Convolutional Neural Network) on the feature image generated in step S11 (step S13).
  • CNN Convolutional Neural Network
  • the machine learning unit 107 executes machine learning based on the feature image and its label.
  • the machine learning unit 107 stores a result of machine learning (for example, an updated weight matrix) in the learning data storage unit 109.
  • step S17 the processing after step S17 is executed.
  • the second generation unit 111 identifies one unprocessed label among the plurality of labels related to the classification (step S17).
  • FIG. 13 is a schematic diagram illustrating an example of the CNN according to the first embodiment.
  • an operation such as convolution is executed with the feature image generated in step S11 as an input.
  • the number of labels is 2, but the number of labels may be 3 or more.
  • the second generation unit 111 reads, from the learning data storage unit 109, the elements of the weight matrix between the final feature layer and the identification layer for the label specified in step S17. Then, the second generation unit 111 calculates the absolute value of the read element (step S19).
  • FIG. 14 is a diagram for explaining the relationship between labels and weight matrices.
  • the CNN since the value of each cell of each unit in the final feature layer is multiplied by the weight in the weight matrix W n, the weight for each cell is read in step S19.
  • the absolute value of the weight is also called activity.
  • the second generation unit 111 calculates an absolute value statistic (for example, an average value or a maximum value) calculated in step S19 for each row of each weight matrix between the final feature layer and the identification layer (step S21). .
  • an absolute value statistic for example, an average value or a maximum value
  • FIG. 15 is a diagram for explaining the calculation of the statistics of activity. Since the image data of each unit of the final feature layer corresponds to the image data obtained by compressing the feature image generated in step S11, the vertical axis corresponds to the contribution parameter ⁇ . As will be described later, in the present embodiment, the correlation between a plurality of time-series data is specified based on the relationship between the contribution parameter ⁇ and the degree of relevance. Therefore, as shown in FIG. Is calculated. Therefore, for example, if the number of units of the final feature layer is 2, the absolute value statistic calculated in step S19 is calculated for each row of the two weight matrices. That is, a vector is generated for each unit of the final feature layer.
  • the second generation unit 111 calculates, for each row, a statistic (for example, average, sum, or maximum value) of element values between units for the final feature layer vector. Then, the second generation unit 111 generates a vector having the calculated statistic as an element (step S23).
  • a statistic for example, average, sum, or maximum value
  • the second generation unit 111 generates a vector having the calculated statistic as an element (step S23).
  • the value of each element of the vector generated in step S23 is handled as the degree of relevance.
  • the degree of association is a value that represents the degree of influence of the cell on the target classification.
  • FIG. 16 is a diagram for explaining generation of a relevance vector.
  • the number of elements (that is, the number of rows) of the vector generated as a result of the processing in step S21 is the same between units. Therefore, in step S23, the value statistic is calculated as the relevance for each row, and one relevance vector is generated.
  • the second generation unit 111 specifies the maximum value and minimum value of the relevance vector elements generated in step S23, and the positions (for example, element numbers) of the maximum and minimum values (step S25).
  • the second generation unit 111 stores the relevance degree vector, the specified maximum value, minimum value, and positions of the maximum value and the minimum value in the relevance degree storage unit 113. The process proceeds to step S27 in FIG.
  • the determination unit 115 reads information stored in the association degree storage unit 113. Then, the determination unit 115 determines whether the ratio of the maximum value to the minimum value is equal to or less than a predetermined value (FIG. 17: Step S27).
  • the predetermined value is, for example, 1.2. That the ratio of the maximum value to the minimum value is equal to or less than the predetermined value means that the difference between the maximum value and the minimum value is relatively small.
  • step S27 Yes route
  • the determination unit 115 executes the following process. Specifically, the determination unit 115 generates first relational data indicating that both time series data independently affect the classification for the label specified in step S17 (step S28). Are stored in the determination result storage unit 117. Then, the process proceeds to step S37.
  • FIG. 18 is a diagram showing a pattern for the first relational data.
  • the vertical axis represents the degree of association
  • the horizontal axis represents the contribution parameter ⁇ .
  • the degree of relevance when the value of ⁇ is medium (if ⁇ is in the range of 0 ⁇ ⁇ ⁇ 1, when ⁇ is about 0.5) is also the same as the degree of relevance at both ends. Therefore, it is considered that there is no time correlation between the time series data.
  • the determination unit 115 executes the following process. Specifically, the determination unit 115 determines whether the maximum value and the minimum value are located at the end of the relevance vector (step S29).
  • the determination unit 115 executes the following processing. Specifically, the determination unit 115 generates second relational data indicating that the time-series data on the maximum value side affects the classification for the label specified in step S17 (step S30), The related data is stored in the determination result storage unit 117. Then, the process proceeds to step S37.
  • FIG. 19A and FIG. 19B are diagrams showing patterns for the second relational data.
  • the vertical axis represents the degree of association
  • the horizontal axis represents the contribution parameter ⁇ .
  • the determination unit 115 executes the following processing. Specifically, the determination unit 115 determines whether the maximum value is located at the center of the relevance vector (step S31).
  • step S31 Yes route
  • the determination unit 115 executes the following process. Specifically, the determination unit 115 determines the third relationship data indicating that both time series data affects the classification of the label specified in step S17 and that there is a correlation between the time series data. Generate (step S32), and store the third relation data in the determination result storage unit 117. Then, the process proceeds to step S37.
  • FIG. 20 (a) is a diagram showing a pattern for the third relational data.
  • the vertical axis represents the degree of association
  • the horizontal axis represents the contribution parameter ⁇ . If the maximum value is located at the center of the relevance vector, the relevance values at both ends are considered to be relatively small. In that case, single time-series data may affect the classification of the target label. There is no. Since the maximum value is located at the center of the relevance vector, it is considered that there is a time correlation between the time series data.
  • the determination unit 115 executes the following processing. Specifically, the determination unit 115 determines whether the minimum value is located at the center of the relevance vector (step S33).
  • step S33: Yes route the determination unit 115 executes the following processing. Specifically, the determination unit 115 obtains fourth relation data indicating that both time series data influences the classification of the label specified in step S17 and that there is no correlation between the time series data. Generate (step S35), and store the fourth relation data in the determination result storage unit 117. On the other hand, when the minimum value is not located at the center of the relevance vector (step S33: No route), the process proceeds to step S37.
  • FIG. 20B is a diagram showing a pattern for the fourth relational data.
  • the vertical axis represents the degree of association
  • the horizontal axis represents the contribution parameter ⁇ .
  • the second generation unit 111 determines whether there is an unprocessed label (step S37). If there is an unprocessed label (step S37: Yes route), the process returns to step S17 in FIG. On the other hand, when there is no unprocessed label (step S37: No route), the process ends.
  • the related data stored in the determination result storage unit 117 is displayed on the display device or transmitted to another terminal or the like, and is confirmed by the user.
  • a feature image reflecting the features of each of a plurality of time-series data is generated.
  • the feature image generated by the method of the present embodiment is suitable for machine learning.
  • noise is removed in the feature image generation process, the accuracy of machine learning can be improved.
  • FIGS. 21 to 28 show the first time-series data (the “first axis” time-series data in FIGS. 21 to 28), and the lower parts of FIGS. Eye time-series data (time-series data of “second axis” in FIGS. 21 to 28) is shown.
  • Time series data having the same line type is included in the same data set.
  • the time-series data of the thick line on the first axis in FIG. 21 is included in the same data set as the time-series data of the thick line on the second axis in FIG.
  • label 1 is assigned when the combination of the time-series data of the first axis and the time-series data of the second axis is the combination shown in FIG. 21, and the time-series data of the first axis Label 2 is given when the combination with the time-series data of the second axis is the combination shown in FIG.
  • the amplitude of the entire time series data on the first axis is about 1, and the amplitude of the time series data on the second axis is given randomly.
  • the phase of the time series data on the first axis and the phase of the time series data on the second axis are randomly given.
  • the amplitude of the entire time series data on the first axis is about 0.5, and the amplitude of the time series data on the second axis is randomly given.
  • the phase of the time series data on the first axis and the phase of the time series data on the second axis are randomly given.
  • FIG. 29A shows the relevance vector calculated by executing the processing of the present embodiment for the plurality of data sets shown in FIG. 21 and FIG.
  • the ratio of the maximum value (0.138) to the minimum value (0.075) is larger than a predetermined value (1.2 here) and the value of ⁇ is the smallest.
  • the maximum value of relevance appears and the value of ⁇ is the largest, the minimum value of relevance appears. Since this pattern corresponds to the pattern shown in FIG. 19A, only the time-series data on the first axis, which is the time-series data on the maximum value side, affects the classification (that is, the time-series data on the second axis). Is irrelevant to the classification). *
  • label 1 is assigned when the combination of the time-series data of the first axis and the time-series data of the second axis is the combination shown in FIG.
  • Label 2 is given when the combination with the time-series data of the second axis is the combination shown in FIG.
  • the amplitude of the time-series data on the first axis is about 1
  • the amplitude of the time-series data on the second axis is about 0.5. is there.
  • the phase of the time series data on the first axis and the phase of the time series data on the second axis are randomly given.
  • the amplitude of the time-series data on the first axis is about 0.5
  • the amplitude of the time-series data on the second axis is about 1.
  • the phase of the time series data on the first axis and the phase of the time series data on the second axis are randomly given.
  • FIG. 29B shows a relevance vector calculated by executing the processing of the present embodiment for the plurality of data sets shown in FIGS.
  • the maximum value of the degree of association is 0.105
  • the minimum value of the degree of association is 0.091. Since the ratio of the maximum value to the minimum value is a predetermined value (1.2 here) or less, this pattern corresponds to the pattern shown in FIG. That is, it can be seen that both time-series data on the first axis and time-series data on the second axis affect the classification. In this case, it is possible to classify by at least one of the time series data.
  • label 1 is assigned when the combination of the time-series data of the first axis and the time-series data of the second axis is the combination shown in FIG.
  • Label 2 is given when the combination with the time-series data of the second axis is the combination shown in FIG.
  • both the amplitude of the time-series data on the first axis and the amplitude of the time-series data on the second axis are about 1, or Both the amplitude of the time-series data on one axis and the amplitude of the time-series data on the second axis are about 0.5.
  • the phase of the time series data on the first axis and the phase of the time series data on the second axis are randomly given.
  • the amplitude of the time-series data on the first axis is about 1 and the amplitude of the time-series data on the second axis is about 0.5, or
  • the amplitude of the time-series data on the first axis is about 0.5, and the amplitude of the time-series data on the second axis is about 1.
  • the phase of the time series data on the first axis and the phase of the time series data on the second axis are randomly given.
  • FIG. 29C shows a relevance vector calculated by executing the processing of the present embodiment for the plurality of data sets shown in FIG. 25 and FIG.
  • the maximum value of the degree of association is 0.074
  • the minimum value of the degree of association is 0.055. Since the ratio of the maximum value to the minimum value is larger than a predetermined value (here, 1.2) and the minimum value is located in a cell close to the center cell, this pattern corresponds to the pattern shown in FIG. there's a possibility that. That is, both the time-series data on the first axis and the time-series data on the second axis affect the classification (that is, both time-series data are necessary), but it is considered that they do not have time correlation.
  • a predetermined value here, 1.2
  • label 1 is assigned when the combination of the time-series data of the first axis and the time-series data of the second axis is the combination shown in FIG. 27, and the time-series data of the first axis Label 2 is given when the combination with the time-series data of the second axis is the combination shown in FIG.
  • both the amplitude of the time-series data on the first axis and the amplitude of the time-series data on the second axis are about 1, and
  • the phase of the time series data and the phase of the second axis time series data are the same.
  • both the amplitude of the time-series data on the first axis and the amplitude of the time-series data on the second axis are about 1, and the time-series data of the second axis
  • the phase is shifted by a half phase from the phase of the time-series data on the first axis.
  • FIG. 29 (d) shows vectors of relevance calculated by executing the processing of the present embodiment for the plurality of data sets shown in FIG. 27 and FIG.
  • the maximum value of the relevance level is 0.320
  • the minimum value of the relevance level is 0.118. Since the ratio of the maximum value to the minimum value is larger than a predetermined value (1.2 in this case) and the maximum value is located in the center cell, this pattern corresponds to the pattern shown in FIG. That is, it can be seen that both the time-series data on the first axis and the time-series data on the second axis affect the classification (that is, both time-series data are necessary), and both have time correlation. .
  • the present embodiment it is possible to specify the correlation between a plurality of time-series data for a target label. For example, if only one of the two time series data is found to affect the classification, the other time series data can be excluded from the acquisition and analysis of values, so that adverse effects on the classification can be avoided.
  • the time and cost required for data acquisition and analysis can be reduced.
  • the time series data can be selected from the viewpoint of the ease of data acquisition, etc. Acquisition time and cost can be reduced.
  • the time and cost required for analysis can be reduced.
  • machine learning using CNN is used and the relationship between cells in the feature image is taken into consideration, so that the accuracy of learning is increased compared to other embodiments described below. Will be able to.
  • Emodiment 2 In the first embodiment, machine learning using CNN is executed on a feature image, but the machine learning method is not limited to CNN. Hereinafter, a method for directly learning feature images will be described with reference to FIGS. 30 and 31.
  • the part different from the process of the first embodiment is the process after the terminal A, so only the process after the terminal A will be described below.
  • Machine learning in the second embodiment is called machine learning using a single-layer learning model.
  • the machine learning unit 107 performs machine learning using a single-layer learning model on the feature image generated in step S11 (FIG. 30: step S51).
  • the machine learning unit 107 stores a result of machine learning (for example, an updated weight matrix) in the learning data storage unit 109.
  • FIG. 31 is a diagram illustrating an example of a learning model according to the second embodiment.
  • machine learning is performed on the value of each cell in the feature image.
  • the value of each cell is multiplied by the weight for the identification layer.
  • step S53 is executed after the processing of step S51 is executed for each of the plurality of data sets and it is confirmed that the machine learning has sufficiently progressed.
  • the second generation unit 111 identifies one unprocessed label among the plurality of labels related to the classification (step S53).
  • the second generation unit 111 extracts the weight for each cell in the feature image from the learning data storage unit 109 for the label specified in step S53 (step S55).
  • the second generation unit 111 calculates the variance for each cell in the feature image (step S57). If the process up to step S11 is executed for a plurality of data sets, a plurality of feature images are generated, and therefore, for each cell, a variance is calculated from a plurality of values.
  • the second generation unit 111 calculates the degree of association for each cell in the feature image based on the calculated variance and the absolute value of the extracted weight (step S59). For example, if the variance of the cell (x, y) is v x, y and the absolute value of the weight is w x, y , the second generation unit 111 sets the relevance of the cell (x, y) to v x , y * w Calculated as x, y .
  • the second generation unit 111 generates a relevance vector by calculating a relevance statistic (for example, an average or maximum value) for each row (step S61), and stores the generated vector in the relevance storage unit 113. To do. Then, the process proceeds to step S27 in FIG.
  • FIG. 32 is a functional block diagram of the information processing apparatus 1 according to the third embodiment.
  • the information processing apparatus 1 includes a time-series data storage unit 101, a first generation unit 103, a vector data storage unit 119, a machine learning unit 107, a learning data storage unit 109, a second generation unit 111, and a degree of association.
  • a storage unit 113, a determination unit 115, and a determination result storage unit 117 are included.
  • the first generation unit 103, the machine learning unit 107, the second generation unit 111, and the determination unit 115 are realized, for example, by executing a program loaded in the memory 2501 illustrated in FIG. 40 by the CPU 2503 illustrated in FIG. Is done.
  • the time series data storage unit 101, the vector data storage unit 119, the learning data storage unit 109, the relevance degree storage unit 113, and the determination result storage unit 117 are provided in, for example, the HDD 2505 or the memory 2501 illustrated in FIG.
  • the first generation unit 103 executes processing based on the data stored in the time-series data storage unit 101, and stores the processing result in the vector data storage unit 119.
  • the machine learning unit 107 executes processing based on the data stored in the vector data storage unit 119 and stores the processing result in the learning data storage unit 109.
  • the second generation unit 111 executes processing based on the data stored in the learning data storage unit 109 and stores the processing result in the relevance degree storage unit 113.
  • the determination unit 115 executes processing based on the data stored in the association degree storage unit 113 and stores the processing result in the determination result storage unit 117.
  • FIG. 33 is a diagram illustrating a processing flow of processing executed by the information processing apparatus 1 according to the third embodiment.
  • the first generation unit 103 identifies one data set among a plurality of data sets stored in the time-series data storage unit 101. Then, the first generation unit 103 translates each of the plurality of time-series data included in the identified data set so that the average value becomes 0 (FIG. 33: step S71).
  • the first generation unit 103 performs normalization so that the amplitude widths of all time-series data for which the process of step S71 is performed are the same (step S73).
  • the first generation unit 103 generates an extended attractor from a plurality of normalized time series data for each value of ⁇ (step S77).
  • the first generation unit 103 stores the generated extended attractor in the memory 2501.
  • the generation of the extended attractor is the same as that in the first embodiment.
  • the first generation unit 103 executes extended vector generation processing using the extended attractor generated in step S77 (step S79).
  • the extended vector generation process is the same as that described with reference to FIGS. 6 to 10, and the description thereof is omitted here.
  • the first generation unit 103 generates an input vector by combining the plurality of extension vectors generated in step S79 in the row direction in the order of the value of ⁇ (step S81), and generates the input vector as a vector. Store in the data storage unit 119. Then, the process proceeds to step S83 in FIG.
  • FIG. 34 is a diagram illustrating an example of an input vector.
  • a square figure represents a vector element, and the number of vetches is stored in each element.
  • a vector having seven elements corresponds to one extension vector. By concatenating such extension vectors, one input vector is generated.
  • the machine learning unit 107 performs machine learning using the SVM on the input vector generated in step S81 (step S83).
  • the machine learning unit 107 stores the machine learning result in the learning data storage unit 109.
  • step S85 the processing of steps S71 to S83 is executed for one data set of the plurality of data sets has been shown, but actually, the processing is executed for each of the plurality of data sets. Then, after confirming that the machine learning has sufficiently progressed, the processes in and after step S85 are executed.
  • the second generation unit 111 calculates an average value and a variance for each element of the input vector (step S85). If the process up to step S83 is executed for a plurality of data sets, a plurality of input vectors are generated, and thus the average and variance of values are calculated for each element.
  • the second generation unit 111 generates a vector having the average value calculated in step S85 as the value of each element. Then, the second generation unit 111 calculates the generated vector classification score as a reference classification score using the result of machine learning using SVM (step S87). *
  • the second generation unit 111 For each element of the vector generated in step S87, the second generation unit 111 changes the classification score when the value of only the element is changed to (average + variance) or (average ⁇ variance), and performs machine learning using SVM. Calculation is performed using the result (step S89).
  • the second generation unit 111 calculates the relevance of each element as the difference between the classification score calculated in step S89 and the reference classification score (step S91), and stores the relevance in the relevance storage 113. Then, the process proceeds to step S93 in FIG.
  • the determination unit 115 reads the information stored in the relevance degree storage unit 113. Then, the determination unit 115 determines whether the ratio of the maximum value to the minimum value is equal to or less than a predetermined value (FIG. 36: Step S93).
  • the predetermined value is, for example, 1.2. That the ratio of the maximum value to the minimum value is equal to or less than the predetermined value means that the difference between the maximum value and the minimum value is relatively small.
  • the determination unit 115 executes the following process. Specifically, the determination unit 115 generates first relationship data indicating that both time series data influences the classification independently (step S95), and the first relationship data is determined as the determination result storage unit 117. To store. Then, the process ends.
  • the determination unit 115 executes the following processing. Specifically, the determination unit 115 determines whether the maximum value and the minimum value are located at the end of the relevance vector (step S97).
  • the determination unit 115 executes the following processing. Specifically, the determination unit 115 generates second relationship data indicating that the time-series data on the maximum value side affects the classification (step S99), and the second relationship data is stored in the determination result storage unit 117. Store. Then, the process ends. *
  • the determination unit 115 executes the following process. Specifically, the determination unit 115 determines whether the maximum value is located at the center of the relevance vector (step S101).
  • the determination unit 115 executes the following processing. Specifically, the determination unit 115 generates third relationship data indicating that both time-series data have an influence on the classification and that there is a correlation between the time-series data (step S103). Are stored in the determination result storage unit 117. Then, the process ends.
  • the determination unit 115 executes the following processing. Specifically, the determination unit 115 determines whether the minimum value is located at the center of the relevance vector (step S105).
  • the determination unit 115 executes the following processing. Specifically, the determination unit 115 generates fourth relationship data indicating that both time-series data affect the classification and that there is no correlation between the time-series data (step S107). Are stored in the determination result storage unit 117. Then, the process ends. If the minimum value is not located at the center of the relevance vector (step S105: No route), the process ends. The related data stored in the determination result storage unit 117 is displayed on the display device or transmitted to another terminal or the like, and is confirmed by the user.
  • machine learning using SVM can specify the correlation between a plurality of time-series data while improving the generalization performance.
  • the relationship with the label is not described, but the processing may be executed for each label also in the third embodiment.
  • the degree of association is calculated based on the result of machine learning.
  • the degree of association is calculated by a method other than machine learning.
  • FIG. 37 is a functional block diagram of the information processing apparatus 1 according to the fourth embodiment.
  • the information processing apparatus 1 includes a time-series data storage unit 101, a first generation unit 103, a first data storage unit 121, a data processing unit 123, a second data storage unit 125, a second generation unit 111, The association degree storage unit 113, the determination unit 115, and the determination result storage unit 117 are included.
  • the first generation unit 103, the data processing unit 123, the second generation unit 111, and the determination unit 115 are realized by a program loaded in the memory 2501 illustrated in FIG. 40 being executed by the CPU 2503 illustrated in FIG. Is done.
  • the time-series data storage unit 101, the first data storage unit 121, the second data storage unit 125, the relevance degree storage unit 113, and the determination result storage unit 117 are provided, for example, in the HDD 2505 or the memory 2501 illustrated in FIG.
  • the first generation unit 103 executes processing based on the data stored in the time-series data storage unit 101, and stores the processing result in the first data storage unit 121.
  • the data processing unit 123 executes processing based on the data stored in the first data storage unit 121 and stores the processing result in the second data storage unit 125.
  • the second generation unit 111 executes processing based on the data stored in the second data storage unit 125 and stores the processing result in the relevance degree storage unit 113.
  • the determination unit 115 executes processing based on the data stored in the association degree storage unit 113 and stores the processing result in the determination result storage unit 117.
  • FIG. 38 is a diagram illustrating a processing flow of processing executed by the information processing apparatus 1 according to the fourth embodiment. Here, the process will be described on the assumption that there are two labels.
  • the first generation unit 103 identifies one data set among a plurality of data sets stored in the time-series data storage unit 101. Then, the first generation unit 103 translates each of the plurality of time-series data included in the identified data set so that the average value becomes 0 (FIG. 38: step S111).
  • the first generation unit 103 performs normalization so that the amplitude widths of all time-series data for which the process of step S111 is performed are the same (step S113).
  • the first generation unit 103 generates an extended attractor from a plurality of normalized time series data for each value of ⁇ (step S117).
  • the first generation unit 103 stores the generated extended attractor in the memory 2501.
  • the generation of the extended attractor is the same as that in the first embodiment.
  • the first generation unit 103 executes extended vector generation processing using the extended attractor generated in step S117 (step S119).
  • the extended vector generation process is the same as that described with reference to FIGS. 6 to 10, and the description thereof is omitted here.
  • the data processing unit 123 calculates the average and variance of each element of the extension vector belonging to the label 1 classification among the plurality of extension vectors stored in the first data storage unit 121 by the process of step S119 (step S121). ).
  • the data processing unit 123 calculates the average and variance of each element of the extension vector belonging to the classification of the label 2 among the plurality of extension vectors stored in the first data storage unit 121 by the process of step S119 (step S123).
  • the data processing unit 123 calculates, for each element, the area S of the portion where the two normal distributions overlap, assuming that the distribution for the label 1 and the distribution for the label 2 are normal distributions (step S125).
  • the data processing unit 123 stores the area S for each element in the second data storage unit 125.
  • step S125 for example, for two normal distributions as shown in FIG. 39, an area S that is an overlapping portion (hatched portion) is calculated for each element.
  • the horizontal axis represents a random variable
  • the vertical axis represents a probability density.
  • the second generation unit 111 calculates the relevance level for the label 1 as (1-S) (step S127), and stores the relevance level for the label 1 in the relevance level storage unit 113.
  • the relevance level for label 2 is similarly calculated as (1-S) and stored in the relevance level storage unit 113.
  • the relevance level for label 1 is calculated as an average value of relevance levels for other labels. For example, when the number of labels is 3, the relevance level for label 1 is calculated as an average value of the relevance level for label 2 and the relevance level for label 3.
  • the relevance vector is generated for label 1 and label 2 by the processing in step S127. Thereafter, the processing after the terminal E shown in FIG. 36 is executed for each label.
  • the present invention is not limited to this.
  • the functional block configuration of the information processing apparatus 1 described above may not match the actual program module configuration.
  • the data configuration described above is an example, and it does not have to be the above configuration. Further, in the processing flow, the processing order can be changed if the processing result does not change. Further, it may be executed in parallel.
  • the information processing apparatus 1 described above is a computer apparatus, and as shown in FIG. 40, a display controller 2507 connected to a memory 2501, a CPU 2503, an HDD 2505, a display device 2509, and a removable disk 2511.
  • a drive device 2513, an input device 2515, and a communication control unit 2517 for connecting to a network are connected by a bus 2519.
  • An operating system (OS: Operating System) and an application program for performing processing in this embodiment are stored in the HDD 2505, and are read from the HDD 2505 to the memory 2501 when executed by the CPU 2503.
  • the CPU 2503 controls the display control unit 2507, the communication control unit 2517, and the drive device 2513 according to the processing content of the application program, and performs a predetermined operation.
  • data in the middle of processing is mainly stored in the memory 2501, but may be stored in the HDD 2505.
  • an application program for performing the above-described processing is stored in a computer-readable removable disk 2511 and distributed, and installed in the HDD 2505 from the drive device 2513.
  • the HDD 2505 may be installed via a network such as the Internet and the communication control unit 2517.
  • Such a computer apparatus realizes various functions as described above by organically cooperating hardware such as the CPU 2503 and the memory 2501 described above and programs such as the OS and application programs. .
  • the data generation method includes (A) a persistence for a set of points represented by coordinates generated by a plurality of time-series data and the contribution rates of the plurality of time-series data. By the stent homology processing, a Betch number sequence corresponding to the contribution rate is generated. (B) A feature image is generated from a plurality of Betch number sequences generated for each of the plurality of contribution rates. (C) And a process of generating machine learning data in which classifications corresponding to a plurality of time-series data are associated.
  • ⁇ Feature information suitable for machine learning for multiple time series data can be generated.
  • the processing may further include generating (E) second data on the correlation between the plurality of time-series data regarding the specific classification based on the first data.
  • Correlation of multiple time series data can be specified for a specific classification.
  • the machine learning data may be machine learning data based on a convolutional neural network.
  • (d1) based on the absolute value of the element of the weight matrix between the final feature layer and the identification layer included in the machine learning data, a plurality of degrees of association with a specific classification It may be calculated for each value of the contribution rate.
  • the machine learning based on the convolutional neural network considers the positional relationship between the pixels included in the feature image as compared with other machine learning, so that the classification performance of the machine learning can be improved.
  • the weight matrix between the final feature layer and the discrimination layer directly affects each classification in the discrimination layer, the degree of relevance for a specific classification in the discrimination layer can be calculated appropriately by executing the processing described above. It becomes like this.
  • machine learning data may be machine learning data based on a single layer learning model.
  • ⁇ Learning can be performed directly on the first data.
  • each of the plurality of time-series data is based on the maximum value and minimum value of the relevance included in the first data, and the positions of the maximum value and the minimum value.
  • Each of first relational data indicating that it influences a specific classification independently, second relational data indicating that any one of a plurality of time series data affects a specific classification, and each of a plurality of time series data Affects the specific classification, and the third relation data indicating that the plurality of time-series data have time correlation, or each of the plurality of time-series data affects the specific classification, and the plurality of times Fourth relational data indicating that the series data does not have time correlation may be generated.
  • the first relation data is generated, and (e12) the maximum value and the minimum value are the first value.
  • the second relationship data is generated, and (e13) the maximum value is located at the center of the relevance level column included in the first data
  • the third relationship data may be generated, and (e14) the fourth relationship data may be generated when the minimum value is located at the center of the relevance column included in the first data.
  • the plurality of time series data may be a plurality of normalized time series data.
  • the data generation apparatus provides a persistence for a set of points represented by coordinates generated by (F) a plurality of time-series data and the contribution rates of the plurality of time-series data.
  • a first generation unit (a first generation unit in the embodiment) that generates a vetch number sequence corresponding to a contribution rate by a stent homology process and generates a feature image from a plurality of vetch number sequences respectively generated for a plurality of contribution rates.
  • the 1 generation unit 103 is an example of the first generation unit), (G) a second generation unit that generates machine learning data that associates feature images with classifications corresponding to a plurality of time-series data (
  • the machine learning unit 107 according to the embodiment is an example of a second generation unit.
  • a program for causing the processor to perform the processing according to the above method can be created.
  • the program is, for example, a computer-readable storage medium such as a flexible disk, CD-ROM, magneto-optical disk, semiconductor memory, or hard disk. It is stored in a storage device.
  • the intermediate processing result is temporarily stored in a storage device such as a main memory.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Abstract

本データ生成方法は、複数の時系列データと、複数の時系列データそれぞれの寄与率とにより生成される座標で表された点の集合に対するパーシステントホモロジ処理により、寄与率に対応したベッチ数系列を生成し、複数の寄与率に対してそれぞれ生成された複数のベッチ数系列から特徴画像を生成し、特徴画像と、複数の時系列データに対応した分類とを対応付けた機械学習データを生成する処理を含む。

Description

データ生成方法、データ生成装置及びデータ生成プログラム
　本発明は、時系列データの処理技術に関する。
　時系列データに対する機械学習が行われている。例えば、人に装着されたウエアラブルセンサにより取得された時系列データを学習データとし、かつ、時系列データが取得された時点における人の状態を教師データとして、学習モデルに対する機械学習をコンピュータに実行させる。そして、機械学習された学習モデルを利用し、新たな時系列データが取得された時点における人の状態をコンピュータに推定させる。
　時系列データに対する機械学習に関して、或る文献は以下のような技術を開示する。具体的には、図形化手法に基づき時系列データが図形化され、図形化の結果に対して、位相幾何学に基づくデータ分析手法の一つである位相的データ解析（Topological　Data　Analysis）が実行される。そして、位相的データ解析の結果に対して、ＤＮＮ（Deep　Neural　Network）を用いた機械学習が実行される。
　但し、上記文献に記載の技術は、単一の時系列データに対する機械学習の技術であるので、複数の時系列データに対する機械学習に適した技術ではない。
富士通株式会社、"人々の安心安全な暮らしを支える新しいAI「時系列ディープラーニング」"、［online］、平成２８年３月１０日、［平成２８年１２月１日検索］、インターネット＜URL：http://journal.jp.fujitsu.com/2016/03/10/01/＞
　本発明の目的は、１つの側面では、複数の時系列データに対する機械学習に適した特徴情報を生成することである。
　一態様に係るデータ生成方法は、複数の時系列データと、複数の時系列データそれぞれの寄与率とにより生成される座標で表された点の集合に対するパーシステントホモロジ処理により、寄与率に対応したベッチ数系列を生成し、複数の寄与率に対してそれぞれ生成された複数のベッチ数系列から特徴画像を生成し、特徴画像と、複数の時系列データに対応した分類とを対応付けた機械学習データを生成する処理を含む。
　１つの側面では、複数の時系列データに対する機械学習に適した特徴情報を生成できる。
図１は、第１の実施の形態の情報処理装置の機能ブロック図である。 図２は、第１の実施の形態のメイン処理フローを示す図である。 図３は、時系列データの正規化について説明するための図である。 図４は、拡張アトラクタの生成について説明するための図である。 図５は、αの値の一例を示す図である。 図６は、拡張ベクトル生成処理の処理フローを示す図である。 図７は、バーコード図の一例を示す図である。 図８は、バーコードデータの一例を示す図である。 図９は、バーコードデータとベッチシリーズとの関係について説明するための図である。 図１０は、パーシステント区間の一例を示す図である。 図１１は、特徴画像について説明するための図である。 図１２は、第１の実施の形態のメイン処理フローを示す図である。 図１３は、第１の実施の形態におけるＣＮＮの一例を示す模式図である。 図１４は、ラベルと重み行列との関係を説明するための図である。 図１５は、統計量の算出について説明するための図である。 図１６は、関連度のベクトルの生成について説明するための図である。 図１７は、第１の実施の形態のメイン処理フローを示す図である。 図１８は、第１の関係データについてのパターンを示す図である。 図１９は、第２の関係データについてのパターンを示す図である。 図２０は、第３の関係データについてのパターン及び第４の関係データについてのパターンを示す図である。 図２１は、時系列データの具体例を示す図である。 図２２は、時系列データの具体例を示す図である。 図２３は、時系列データの具体例を示す図である。 図２４は、時系列データの具体例を示す図である。 図２５は、時系列データの具体例を示す図である。 図２６は、時系列データの具体例を示す図である。 図２７は、時系列データの具体例を示す図である。 図２８は、時系列データの具体例を示す図である。 図２９は、関連度と寄与パラメータとの関係を示す図である。 図３０は、第２の実施の形態におけるメイン処理フローを示す図である。 図３１は、第２の実施の形態における学習モデルの一例を示す図である。 図３２は、第３の実施の形態の情報処理装置の機能ブロック図である。 図３３は、第３の実施の形態におけるメイン処理フローを示す図である。 図３４は、入力ベクトルの一例を示す図である。 図３５は、第３の実施の形態におけるメイン処理フローを示す図である。 図３６は、第３の実施の形態におけるメイン処理フローを示す図である。 図３７は、第４の実施の形態の情報処理装置の機能ブロック図である。 図３８は、第４の実施の形態におけるメイン処理フローを示す図である。 図３９は、第４の実施の形態における関連度の算出について説明するための図である。 図４０は、コンピュータの機能ブロック図である。
［実施の形態１］
　図１は、第１の実施の形態の情報処理装置１の機能ブロック図である。情報処理装置１は、時系列データ格納部１０１と、第１生成部１０３と、画像データ格納部１０５と、機械学習部１０７と、学習データ格納部１０９と、第２生成部１１１と、関連度格納部１１３と、判定部１１５と、判定結果格納部１１７とを含む。
　第１生成部１０３、機械学習部１０７、第２生成部１１１および判定部１１５は、例えば、図４０に示したメモリ２５０１にロードされたプログラムが図４０に示したＣＰＵ（Central　Processing　Unit）２５０３により実行されることで実現される。時系列データ格納部１０１、画像データ格納部１０５、学習データ格納部１０９、関連度格納部１１３および判定結果格納部１１７は、例えば、図４０に示したＨＤＤ（Hard　Disk　Drive）２５０５又はメモリ２５０１に設けられる。
　第１生成部１０３は、時系列データ格納部１０１に格納されているデータに基づき処理を実行し、処理結果を画像データ格納部１０５に格納する。機械学習部１０７は、画像データ格納部１０５に格納されているデータに基づき処理を実行し、処理結果を学習データ格納部１０９に格納する。第２生成部１１１は、学習データ格納部１０９に格納されているデータに基づき処理を実行し、処理結果を関連度格納部１１３に格納する。判定部１１５は、関連度格納部１１３に格納されているデータに基づき処理を実行し、処理結果を判定結果格納部１１７に格納する。
　時系列データ格納部１０１に格納されているデータは、例えば、生体データ（心拍数、脳波、脈拍或いは体温などの時系列データ）、ウエアラブルセンサのデータ（ジャイロセンサ、加速度センサ或いは地磁気センサなどの時系列データ）、金融データ（金利、物価、国際収支或いは株価などの時系列データ）、自然環境のデータ（気温、湿度或いは二酸化炭素濃度などの時系列データ）、又は社会データ（労働統計或いは人口統計などのデータ）等である。但し、時系列データは、少なくとも以下のルールに従って変化するデータであるとする。
Figure JPOXMLDOC01-appb-M000001
　例えば、不規則な時系列データ又は手書き文字の軌跡などの人為的な動きに関するデータは、本実施の形態の対象外であるとする。また、時系列データ格納部１０１には、複数の時系列データを含むデータセットが複数格納されているとする。
　図２は、第１の実施の形態の情報処理装置１が実行する処理の処理フローを示す図である。
　第１生成部１０３は、時系列データ格納部１０１に格納されている複数のデータセットのうち１つのデータセットを特定する。そして、第１生成部１０３は、特定したデータセットに含まれる複数の時系列データの各々を、値の平均が０になるように平行移動する（図２：ステップＳ１）。
　第１生成部１０３は、ステップＳ１の処理が実行された全時系列データの振幅の幅が同じになるように正規化を実行する（ステップＳ３）。
　複数の時系列データが異なる種類の時系列データである場合には軸のスケールが異なるので、時系列データの生の値をそのまま利用することは問題である。例えば図３に示すように、時系列データｔ１の値の変動が時系列データｔ２の値の変動より大きい場合であっても、分類に与える影響に関しても時系列データｔ１の方が大きいとは限らないので、軸のスケールが異なっていると誤った学習が行われる可能性がある。そこで、ステップＳ３の処理により軸のスケールを一致させることで、この問題を解消することができる。
　第１生成部１０３は、αの各値について、正規化された複数の時系列データから拡張アトラクタを生成する（ステップＳ７）。第１生成部１０３は、生成した拡張アトラクタをメモリ２５０１に格納する。
　例えば、時系列データの数が２つである場合には以下のような拡張アトラクタが生成される。
Figure JPOXMLDOC01-appb-M000002
　αは寄与パラメータである。ｘi（１≦ｉ≦（ｋ＋２））は第１の時系列データの値であり、ｙj（１≦ｊ≦（ｋ＋２））は第２の時系列データの値である。
　図４は、拡張アトラクタの生成について説明するための図である。拡張アトラクタの生成はターケンスの埋め込み定理に基づく。第１の時系列データから取り出されたＮ個（Ｎは埋め込み次元である。式（２）の例ではＮ＝３）の値に（１－α）が乗じられ、第２の時系列データから取り出されたＮ個の値にαが乗じられ、それらの値は１つの点の座標の成分になる。式（２）の例ではτ＝１であるため１つおきに要素が取り出されている。但し、Ｎの値およびτの値は式（２）の例には限られない。
　寄与パラメータαは、例えば、０≦α≦１を満たす実数であり、時系列データの値の大きさを調整するパラメータである。但し、αの範囲はこのような範囲でなくてもよい。本実施の形態においては、例えば図５に示すように、一定の間隔で設定された複数の値が使用される。
　そして、第１生成部１０３は、ステップＳ７において生成された拡張アトラクタを用いて、拡張ベクトル生成処理を実行する（ステップＳ９）。拡張ベクトル生成処理については、図６乃至図１０を用いて説明する。
　第１生成部１０３は、寄与パラメータαの値のうち未処理の値を１つ特定する（図６：ステップＳ４１）。
　第１生成部１０３は、ステップＳ４１において特定した値についての拡張アトラクタを、メモリ２５０１から読み出す（ステップＳ４３）。
　第１生成部１０３は、パーシステントホモロジ処理によって、拡張アトラクタからバーコードデータを穴の次元（以下、穴次元と呼ぶ）毎に生成する（ステップＳ４５）。
　「ホモロジ」とは、対象の特徴をｍ（ｍ≧０）次元の穴の数によって表現する手法である。ここで言う「穴」とはホモロジ群の元のことであり、０次元の穴は連結成分であり、１次元の穴は穴（トンネル）であり、２次元の穴は空洞である。各次元の穴の数はベッチ数と呼ばれる。
　「パーシステントホモロジ」とは、対象（ここでは、拡張アトラクタ）におけるｍ次元の穴の遷移を特徴付けるための手法であり、パーシステントホモロジによって点の配置に関する特徴を調べることができる。この手法においては、対象における各点が球状に徐々に膨らまされ、その過程において各穴が発生した時刻（発生時の球の半径で表される）と消滅した時刻（消滅時の球の半径で表される）とが特定される。
　穴の発生半径と消滅半径とを使用することで、例えば図７に示すようなバーコード図を生成することができる。図７において、横軸は半径を表し、各線分は１つの穴に対応する。線分の左端に対応する半径は穴の発生半径であり、線分の右端に対応する半径は穴の消滅半径である。線分はパーシステント区間と呼ばれる。このようなバーコード図から、例えば半径が０．１８である時には２つの穴が存在するということがわかる。
　図８に、バーコード図を生成するためのデータ（以下、バーコードデータと呼ぶ）の一例を示す。図８の例では、穴次元を表す数値と、穴の発生半径と、穴の消滅半径とがバーコードデータに含まれる。ステップＳ４５において、バーコードデータは穴次元毎に生成される。
　以上のような処理を実行すれば、或る拡張アトラクタから生成されるバーコードデータと他の拡張アトラクタから生成されるバーコードデータとの類似関係は、拡張アトラクタ間の類似関係と等価である。よって、拡張アトラクタとバーコードデータとの関係は１対１の関係である。
　すなわち、拡張アトラクタが同じであれば、生成されるバーコードデータは同じである。逆に、バーコードデータが同じであれば、拡張アトラクタも同じである。また、拡張アトラクタが類似している場合にはバーコードデータも類似するため、機械学習に必要な条件が満たされる。拡張アトラクタが異なる場合には、バーコードデータも異なる。
　なお、パーシステントホモロジの詳細については、例えば「平岡裕章、『タンパク質構造とトポロジー　パーシステントホモロジー群入門』、共立出版」を参照されたい。
　図６の説明に戻り、第１生成部１０３は、長さが所定長未満であるパーシステント区間のデータを、ステップＳ４５において生成されたバーコードデータから削除する（ステップＳ４７）。なお、パーシステント区間の長さは、（消滅半径－発生半径）によって算出される。所定長は、例えば、０次元の穴が発生してから消滅するまでの時間をＫ等分した時間（以下、ブロックと呼ぶ）の長さである。但し、１ブロックの長さに限られるわけではなく、複数ブロックの長さを所定長としてもよい。
　発生から消滅までの時間が短い元は、ノイズによって発生するものがほとんどである。長さが所定長未満であるパーシステント区間のデータを削除すれば、ノイズの影響を緩和することができるので、分類性能を向上させることができるようになる。但し、削除の対象は次元が１以上であるパーシステント区間のデータであるとする。
　ノイズが発生した場合においては、僅かな時間だけ１次元以上の穴が発生することがある。ステップＳ４７の処理を実行すれば、両ケースにおいて生成されるデータはほぼ同じになるので、ノイズの影響を取り除くことができるようになる。
　なお、長さが所定長未満であるパーシステント区間のデータが削除されるので、削除後のバーコードデータ間の類似関係は、元のバーコードデータ間の類似関係と厳密には等価ではない。削除が行われない場合には、類似関係は等価である。
　図６の説明に戻り、第１生成部１０３は、バーコードデータを統合し、統合されたバーコードデータから拡張ベクトルを生成する（ステップＳ４８）。拡張ベクトルはベッチ数の系列である。
　上で述べたように、バーコードデータは穴次元毎に生成されるので、第１生成部１０３は、複数の穴次元のバーコードデータを統合することで１塊のバーコードデータを生成する。ベッチ数の系列は、パーシステントホモロジにおける球の半径（すなわち時間）とベッチ数との関係を示すデータである。図９を用いて、バーコードデータと生成されるベッチ数の系列との関係について説明する。上段のグラフはバーコードデータから生成されるグラフであり、横軸が半径を表す。下段のグラフはベッチ数の系列から生成されるグラフであり、縦軸はベッチ数を表し、横軸は時間を表す。上で述べたように、ベッチ数は穴の数を表しており、例えば上段のグラフにおいて破線に対応する半径の時には存在している穴の数が１０であるので、下段のグラフにおいては破線に対応するベッチ数も１０である。ベッチ数は、ブロック毎に計数される。なお、下段のグラフは疑似的な時系列データのグラフであるので、横軸の値自体が意味を持つわけではない。
　基本的には、同じバーコードデータからは同じ系列が得られる。すなわち、元の点の集合が同じであれば同じ系列が得られる。但し、異なるバーコードから同じ系列が得られるケースが極めて稀に発生する。
　例えば図１０に示すようなバーコードデータを考える。このバーコードデータは１以上の次元の穴に関するデータであるとする。図１０（ａ）のケースにおいては、パーシステント区間ｐ１が時刻ｔ１で開始し、かつ、時刻ｔ２で終了し、パーシステント区間ｐ２が時刻ｔ２で開始し、かつ、時刻ｔ３で終了する。一方、図１０（ｂ）のケースにおいては、パーシステント区間ｐ４が時刻ｔ１で開始し、かつ、時刻ｔ３で終了する。両ケースにおけるパーシステント区間ｐ３は全く同じであるとする。
　このような場合、両ケースにおけるバーコードデータからは全く同じ系列が得られるので、両ケースを区別することができない。しかし、このような現象が発生する可能性は極めて低い。また、両ケースの点の集合は元々似ており、機械学習による分類に与える影響が極めて小さいので、上記のような現象が発生しても問題は無い。
　従って、或るバーコードデータから生成されるベッチ数の系列と、別のバーコードデータから生成されるベッチ数の系列との類似関係は、上で述べた稀なケースが発生しなければ、バーコードデータ間の類似関係と等価である。以上から、データ間の距離の定義は変わるものの、バーコードデータから生成されるベッチ数の系列間の類似関係は、元の拡張アトラクタ間の類似関係とほぼ等価である。
　図６の説明に戻り、第１生成部１０３は、αの値のうち未処理の値が有るか判定する（ステップＳ４９）。未処理の値が有る場合（ステップＳ４９：Ｙｅｓルート）、ステップＳ４１の処理に戻る。未処理の値が無い場合（ステップＳ４９：Ｎｏルート）、処理は呼び出し元に戻る。
　以上のように、パーシステントホモロジ処理を実行すれば、拡張アトラクタにおける点の位置関係を、バーコードデータに反映することができる。パーシステントホモロジ処理によって生成されたバーコードデータは、バーコードの本数が一定ではないため、そのままでは機械学習の入力とすることが難しい。そこで本実施の形態においては、バーコードデータをベッチ数の系列に変換することで、機械学習の入力とすることを可能にしている。
　また、上で述べたように、本実施の形態によればノイズの影響を取り除くことができる。
　図２の説明に戻り、第１生成部１０３は、ステップＳ９において生成された複数の拡張ベクトルを、αの値の大きさの順に列方向に結合することで特徴画像を生成し（ステップＳ１１）、生成した特徴画像を画像データ格納部１０５に格納する。そして処理は端子Ａを介して図１２のステップＳ１３に移行する。
　図１１は、特徴画像の一例を示す図である。正方形の図形はセルを表し、各セルには拡張ベクトルの要素であるベッチ数が格納される。１つの行が１つの拡張ベクトルに対応する。従って、図１１の例においては、１１個の拡張ベクトルが結合されており、特徴画像は１１の行を有する行列に相当する。図１１においては拡張ベクトルの要素の数が１５であるが、数に限定は無い。
　図１２の説明に移行し、機械学習部１０７は、ステップＳ１１において生成された特徴画像に対して、ＣＮＮ（Convolutional　Neural　Network）を用いた機械学習を実行する（ステップＳ１３）。ここでは、機械学習部１０７は、特徴画像とそのラベルとに基づく機械学習を実行する。機械学習部１０７は、機械学習の結果（例えば更新後の重み行列等）を学習データ格納部１０９に格納する。
　なお、説明を簡単にするため複数のデータセットのうち１つのデータセットについてステップＳ１乃至Ｓ１３の処理が実行される例を示したが、実際には、複数のデータセットの各々について処理が実行される。そして、機械学習が十分に進んだことが確認されたうえで、ステップＳ１７以降の処理が実行される。
　第２生成部１１１は、分類に関する複数のラベルのうち未処理のラベルを１つ特定する（ステップＳ１７）。
　図１３は、第１の実施の形態におけるＣＮＮの一例を示す模式図である。第１の実施の形態の機械学習においては、ステップＳ１１において生成された特徴画像を入力として、畳み込み等の演算が実行される。最終特徴層と識別層との間は全結合である。図１３の例においてはラベルの数は２であるが、ラベルの数が３以上であってもよい。
　第２生成部１１１は、ステップＳ１７において特定したラベルについて、最終特徴層と識別層との間の重み行列の要素を、学習データ格納部１０９から読み出す。そして、第２生成部１１１は、読み出した要素の絶対値を算出する（ステップＳ１９）。
　図１４は、ラベルと重み行列との関係を説明するための図である。ＣＮＮにおいては、最終特徴層における各ユニットの各セルの値に重み行列Ｗnにおける重みが乗じられるので、ステップＳ１９においては各セルについての重みが読み出される。なお、重みの絶対値は活性度とも呼ばれる。
　第２生成部１１１は、最終特徴層と識別層との間の各重み行列の各行について、ステップＳ１９において算出した絶対値の統計量（例えば、平均値又は最大値）を算出する（ステップＳ２１）。
　図１５は、活性度の統計量の算出について説明するための図である。最終特徴層の各ユニットの画像データは、ステップＳ１１において生成された特徴画像を圧縮した画像データに相当するので、縦軸は寄与パラメータαに対応している。後述のように、本実施の形態においては寄与パラメータαと関連度との関係に基づき複数の時系列データの相関関係が特定されるので、図１５に示すように、αの各値について統計量が算出される。従って、例えば最終特徴層のユニット数が２であれば、２つの重み行列それぞれの各行について、ステップＳ１９において算出された絶対値の統計量が算出される。すなわち、最終特徴層の各ユニットについてベクトルが生成される。
　第２生成部１１１は、最終特徴層のベクトルについて、ユニット間で要素の値の統計量（例えば、平均、総和又は最大値）を行毎に算出する。そして、第２生成部１１１は、算出した統計量を要素とするベクトルを生成する（ステップＳ２３）。第１の実施の形態においては、ステップＳ２３において生成されたベクトルの各要素の値を関連度として取り扱う。関連度とは、対象の分類に対してセルが及ぼす影響の度合いを表す値である。
　図１６は、関連度のベクトルの生成について説明するための図である。ステップＳ２１の処理の結果として生成されたベクトルの要素数（すなわち行数）はユニット間で同一である。従って、ステップＳ２３においては、値の統計量が行毎に関連度として算出され、関連度のベクトルが１つ生成される。
　第２生成部１１１は、ステップＳ２３において生成した関連度のベクトルの要素の最大値、最小値、並びに最大値および最小値の位置（例えば要素番号）を特定する（ステップＳ２５）。第２生成部１１１は、関連度のベクトルと、特定した最大値、最小値、並びに最大値および最小値の位置とを関連度格納部１１３に格納する。処理は端子Ｂを介して図１７のステップＳ２７に移行する。
　図１７の説明に移行し、判定部１１５は、関連度格納部１１３に格納されている情報を読み出す。そして、判定部１１５は、最小値に対する最大値の割合が所定値以下であるか判定する（図１７：ステップＳ２７）。所定値とは、例えば１．２である。最小値に対する最大値の割合が所定値以下であることは、最大値と最小値との差が比較的小さいことを意味する。
　最小値に対する最大値の割合が所定値以下である場合（ステップＳ２７：Ｙｅｓルート）、判定部１１５は、以下の処理を実行する。具体的には、判定部１１５は、ステップＳ１７において特定されたラベルについての分類に両方の時系列データが独立して影響することを示す第１の関係データを生成し（ステップＳ２８）、第１の関係データを判定結果格納部１１７に格納する。そして処理はステップＳ３７に移行する。
　図１８は、第１の関係データについてのパターンを示す図である。図１８において、縦軸は関連度を表し、横軸は寄与パラメータαを表す。最小値に対する最大値の割合が所定値以下である場合には、αの値が比較的小さいとき（すなわち、一方の時系列データの値に乗じられる寄与パラメータの値が比較的大きい場合）と、αの値が比較的大きいとき（すなわち、他方の時系列データの値に乗じられる寄与パラメータの値が比較的大きい場合）とで、関連度が同程度になる。このような場合には、対象のラベルについての分類に両方の時系列データが影響を及ぼしていると考えられる。そして、αの値の大きさが中程度であるとき（仮にαの範囲が０≦α≦１であれば、αが約０．５であるとき）の関連度も両端の関連度と同程度であるので、時系列データの間に時間相関が無いと考えられる。
　一方、最小値に対する最大値の割合が所定値以下ではない場合（ステップＳ２７：Ｎｏルート）、判定部１１５は、以下の処理を実行する。具体的には、判定部１１５は、最大値および最小値が関連度のベクトルの端に位置するか判定する（ステップＳ２９）。
　最大値および最小値が関連度のベクトルの端に位置する場合（ステップＳ２９：Ｙｅｓルート）、判定部１１５は、以下の処理を実行する。具体的には、判定部１１５は、ステップＳ１７において特定されたラベルについての分類に最大値側の時系列データが影響することを示す第２の関係データを生成し（ステップＳ３０）、第２の関係データを判定結果格納部１１７に格納する。そして処理はステップＳ３７に移行する。
　図１９（ａ）及び図１９（ｂ）は、第２の関係データについてのパターンを示す図である。図１９（ａ）及び図１９（ｂ）において、縦軸は関連度を表し、横軸は寄与パラメータαを表す。最大値および最小値が関連度のベクトルの端に位置する場合、関連度と寄与パラメータαとの関係はおおよそ図１９（ａ）又は図１９（ｂ）に示すような関係である。このような場合には、対象のラベルについての分類には、関連度の最大値側の時系列データが影響すると考えられる。そして、時系列データ間の時間相関は無いと考えられる。　　　
　一方、最大値および最小値の少なくともいずれかが関連度のベクトルの端に位置しない場合（ステップＳ２９：Ｎｏルート）、判定部１１５は、以下の処理を実行する。具体的には、判定部１１５は、最大値が関連度のベクトルの中央に位置するか判定する（ステップＳ３１）。
　最大値が関連度のベクトルの中央に位置する場合（ステップＳ３１：Ｙｅｓルート）、判定部１１５は、以下の処理を実行する。具体的には、判定部１１５は、ステップＳ１７において特定されたラベルについての分類に両方の時系列データが影響し、かつ、時系列データ間に相関関係があることを示す第３の関係データを生成し（ステップＳ３２）、第３の関係データを判定結果格納部１１７に格納する。そして処理はステップＳ３７に移行する。
　図２０（ａ）は、第３の関係データについてのパターンを示す図である。図２０（ａ）において、縦軸は関連度を表し、横軸は寄与パラメータαを表す。最大値が関連度のベクトルの中央に位置する場合、両端の関連度の値が比較的小さくなると考えられ、その場合には対象のラベルについての分類に対して単独の時系列データが影響することはない。そして、最大値が関連度のベクトルの中央に位置することから、時系列データ間に時間相関が有ると考えられる。
　一方、最大値が関連度のベクトルの中央に位置しない場合（ステップＳ３１：Ｎｏルート）、判定部１１５は、以下の処理を実行する。具体的には、判定部１１５は、最小値が関連度のベクトルの中央に位置するか判定する（ステップＳ３３）。
　最小値が関連度のベクトルの中央に位置する場合（ステップＳ３３：Ｙｅｓルート）、判定部１１５は、以下の処理を実行する。具体的には、判定部１１５は、ステップＳ１７において特定されたラベルについての分類に両方の時系列データが影響し、かつ、時系列データ間に相関関係が無いことを示す第４の関係データを生成し（ステップＳ３５）、第４の関係データを判定結果格納部１１７に格納する。一方、最小値が関連度のベクトルの中央に位置しない場合（ステップＳ３３：Ｎｏルート）、処理はステップＳ３７に移行する。
　図２０（ｂ）は、第４の関係データについてのパターンを示す図である。図２０（ｂ）において、縦軸は関連度を表し、横軸は寄与パラメータαを表す。最小値が関連度のベクトルの中央に位置する場合、両端の関連度の値が比較的大きくなると考えられ、その場合には対象のラベルについての分類に対して時系列データ単独で影響する。そして、最小値が関連度のベクトルの中央に位置することから、時系列データ間に時間相関が無いと考えられる。
　第２生成部１１１は、未処理のラベルが有るか判定する（ステップＳ３７）。未処理のラベルが有る場合（ステップＳ３７：Ｙｅｓルート）、処理は端子Ｃを介して図１２のステップＳ１７に戻る。一方、未処理のラベルが無い場合（ステップＳ３７：Ｎｏルート）、処理は終了する。なお、判定結果格納部１１７に格納された関係データは表示装置に表示され又は他の端末等に送信され、ユーザにより確認される。
　以上のように、本実施の形態によれば、複数の時系列データそれぞれの特徴が反映された特徴画像が生成されるようになる。複数の時系列データそのものを機械学習の入力とすることは難しいが、本実施の形態の方法により生成された特徴画像は機械学習に適している。また、特徴画像の生成過程においてノイズが取り除かれるため、機械学習の精度を高めることが可能である。
　以下では、時系列データ間の相関関係の特定について、図２１乃至図２９に示した具体例を用いて説明を追加する。
　図２１乃至図２８の上段には１つ目の時系列データ（図２１乃至図２８における「第１軸」の時系列データ）が示されており、図２１乃至図２８の下段には２つ目の時系列データ（図２１乃至図２８における「第２軸」の時系列データ）が示されている。線種が同じである時系列データは同じデータセットに含まれる。例えば、図２１の第１軸の太線の時系列データは、図２１の第２軸の太線の時系列データと同じデータセットに含まれる。
　まず、図２１、図２２及び図２９（ａ）を用いて、第１の例について説明する。第１の例においては、第１軸の時系列データと第２軸の時系列データとの組合せが図２１に示した組み合わせである場合にラベル１が付与され、第１軸の時系列データと第２軸の時系列データとの組合せが図２２に示した組み合わせである場合にラベル２が付与される。
　より具体的には、図２１に示すように、第１軸の全時系列データの振幅は約１であり、第２軸の時系列データの振幅はランダムに与えられている。第１軸の時系列データの位相及び第２軸の時系列データの位相はランダムに与えられている。
　また、図２２に示すように、第１軸の全時系列データの振幅は約０．５であり、第２軸の時系列データの振幅はランダムに与えられている。第１軸の時系列データの位相及び第２軸の時系列データの位相はランダムに与えられている。
　図２１及び図２２に示した複数のデータセットについて本実施の形態の処理を実行することで算出された関連度のベクトルを図２９（ａ）に示す。図２９（ａ）に示した例においては、最小値（０．０７５）に対する最大値（０．１３８）の割合が所定値（ここでは１．２）より大きく、αの値が最も小さい場合に関連度の最大値が出現し、かつ、αの値が最も大きい場合に関連度の最小値が出現している。このパターンは図１９（ａ）に示したパターンに相当するので、最大値側の時系列データである第１軸の時系列データのみが分類に影響を及ぼす（すなわち、第２軸の時系列データは分類に無関係）ことがわかる。　　　
　図２３、図２４及び図２９（ｂ）を用いて、第２の例について説明する。第２の例においては、第１軸の時系列データと第２軸の時系列データとの組合せが図２３に示した組み合わせである場合にラベル１が付与され、第１軸の時系列データと第２軸の時系列データとの組合せが図２４に示した組み合わせである場合にラベル２が付与される。
　より具体的には、図２３に示すように、各データセットについて、第１軸の時系列データの振幅は約１であり、かつ、第２軸の時系列データの振幅は約０．５である。第１軸の時系列データの位相及び第２軸の時系列データの位相はランダムに与えられている。
　また、図２４に示すように、各データセットにおいて、第１軸の時系列データの振幅は約０．５であり、かつ、第２軸の時系列データの振幅は約１である。第１軸の時系列データの位相及び第２軸の時系列データの位相はランダムに与えられている。
　図２３及び図２４に示した複数のデータセットについて本実施の形態の処理を実行することで算出された関連度のベクトルを図２９（ｂ）に示す。図２９（ｂ）に示した例においては、関連度の最大値は０．１０５であり、関連度の最小値は０．０９１である。最小値に対する最大値の割合が所定値（ここでは１．２）以下であるので、このパターンは図１８に示したパターンに相当する。つまり、第１軸の時系列データおよび第２軸の時系列データの両方が分類に影響を及ぼすことがわかる。この場合、少なくともいずれかの時系列データによって分類をすることが可能である。
　図２５、図２６及び図２９（ｃ）を用いて、第３の例について説明する。第３の例においては、第１軸の時系列データと第２軸の時系列データとの組合せが図２５に示した組み合わせである場合にラベル１が付与され、第１軸の時系列データと第２軸の時系列データとの組合せが図２６に示した組み合わせである場合にラベル２が付与される。
　より具体的には、図２５に示すように、各データセットについて、第１軸の時系列データの振幅と第２軸の時系列データの振幅との両方が約１であるか、又は、第１軸の時系列データの振幅と第２軸の時系列データの振幅との両方が約０．５である。第１軸の時系列データの位相及び第２軸の時系列データの位相はランダムに与えられている。
　また、図２６に示すように、各データセットについて、第１軸の時系列データの振幅が約１であり、かつ、第２軸の時系列データの振幅が約０．５であるか、又は、第１軸の時系列データの振幅が約０．５であり、かつ、第２軸の時系列データの振幅が約１である。第１軸の時系列データの位相及び第２軸の時系列データの位相はランダムに与えられている。
　図２５及び図２６に示した複数のデータセットについて本実施の形態の処理を実行することで算出された関連度のベクトルを図２９（ｃ）に示す。図２９（ｃ）に示した例においては、関連度の最大値は０．０７４であり、関連度の最小値は０．０５５である。最小値に対する最大値の割合が所定値（ここでは１．２）より大きく、かつ、最小値が中央のセルに近いセルに位置するので、このパターンは図２０（ｂ）に示したパターンに相当する可能性がある。つまり、第１軸の時系列データおよび第２軸の時系列データの両方が分類に影響を及ぼす（すなわち、両方の時系列データが必要である）が両者は時間相関を有しないと考えられる。
　図２７、図２８及び図２９（ｄ）を用いて、第４の例について説明する。第４の例においては、第１軸の時系列データと第２軸の時系列データとの組合せが図２７に示した組み合わせである場合にラベル１が付与され、第１軸の時系列データと第２軸の時系列データとの組合せが図２８に示した組み合わせである場合にラベル２が付与される。
　より具体的には、図２７に示すように、各データセットについて、第１軸の時系列データの振幅と第２軸の時系列データの振幅との両方が約１であり、第１軸の時系列データの位相と第２軸の時系列データの位相とが同じである。
　また、図２８に示すように、各データセットについて、第１軸の時系列データの振幅と第２軸の時系列データの振幅との両方が約１であり、第２軸の時系列データの位相は第１軸の時系列データの位相と半位相分ずれている。
　図２７及び図２８に示した複数のデータセットについて本実施の形態の処理を実行することで算出した関連度のベクトルを図２９（ｄ）に示す。図２９（ｄ）に示した例においては、関連度の最大値は０．３２０であり、関連度の最小値は０．１１８である。最小値に対する最大値の割合が所定値（ここでは１．２）より大きく、かつ、最大値が中央のセ　ルに位置するので、このパターンは図２０（ａ）に示したパターンに相当する。つまり、第１軸の時系列データおよび第２軸の時系列データの両方が分類に影響を及ぼし（すなわち、両方の時系列データが必要であり）、かつ、両者は時間相関を有することがわかる。
　以上のように、本実施の形態によれば、対象のラベルについて複数の時系列データの相関関係を特定することができるようになる。例えば、２つの時系列データのうち一方のみが分類に影響することが判明した場合、他方の時系列データを値の取得および解析の対象から外すことができるので、分類への悪影響を回避できるとともに、データの取得および解析に要する時間およびコストを短縮することができる。また、例えば、２つの時系列データのうちいずれか一方の時系列データのみで分類が可能である場合、データの取得の容易さ等の観点から時系列データを選択することができるので、データの取得にかかる時間及びコストを減らすことができるようになる。また、解析に要する時間およびコストも削減することができるようになる。また、例えば、２つの時系列データの両方が必要であることが判明した場合、時間軸を揃えて２つの時系列データを取得するべきであるか否かを事前に把握できるので、センサ等の設定を誤ってしまうことを防ぐことができる。
　また、第１の実施の形態においてはＣＮＮを用いた機械学習が利用され、特徴画像におけるセル間の関係が考慮されるため、以下で説明する他の実施形態と比較して学習の精度を高めることができるようになる。
［実施の形態２］
　第１の実施の形態においては特徴画像に対してＣＮＮを用いた機械学習が実行されるが、機械学習の方法はＣＮＮには限られない。以下では、図３０及び図３１を用いて、特徴画像を直接学習させる方法について説明する。なお、第２の実施の形態の処理において第１の実施の形態の処理と異なる部分は端子Ａ以降の処理であるので、端子Ａ以降の処理のみ以下で説明する。第２の実施の形態における機械学習を、単層の学習モデルを用いた機械学習と呼ぶ。
　まず、機械学習部１０７は、ステップＳ１１において生成された特徴画像に対して、単層の学習モデルを用いた機械学習を実行する（図３０：ステップＳ５１）。機械学習部１０７は、機械学習の結果（例えば更新後の重み行列等）を学習データ格納部１０９に格納する。
　図３１は、第２の実施の形態における学習モデルの一例を示す図である。第２の実施の形態においては、特徴画像における各セルの値そのものに対する機械学習が実行される。各セルの値には識別層への重みが乗じられる。
　ステップＳ５３以降の処理は、複数のデータセットの各々についてステップＳ５１の処理が実行され、かつ、機械学習が十分に進んだことが確認された後に実行される。
　第２生成部１１１は、分類に関する複数のラベルのうち未処理のラベルを１つ特定する（ステップＳ５３）。
　第２生成部１１１は、ステップＳ５３において特定したラベルについて、特徴画像における各セルについての重みを学習データ格納部１０９から抽出する（ステップＳ５５）。　　　
　第２生成部１１１は、特徴画像における各セルについて、分散を算出する（ステップＳ５７）。複数のデータセットについてステップＳ１１までの処理が実行されれば複数の特徴画像が生成されるので、各セルについて、複数の値から分散が算出される。
　第２生成部１１１は、特徴画像における各セルについて、算出した分散と抽出した重みの絶対値とに基づき関連度を算出する（ステップＳ５９）。例えば、セル（ｘ，ｙ）の分散をｖx,yとし、かつ、重みの絶対値をｗx,yとすると、第２生成部１１１は、セル（ｘ，ｙ）の関連度をｖx,y＊ｗx,yとして算出する。
　第２生成部１１１は、各行について関連度の統計量（例えば、平均又は最大値）を算出することで関連度のベクトルを生成し（ステップＳ６１）、生成したベクトルを関連度格納部１１３に格納する。そして処理は端子Ｂを介して図１７のステップＳ２７に移行する。
　以上のような処理を実行すれば、例えばＣＮＮを実行することが適切ではない場合においても、複数の時系列データの相関を特定することができるようになる。
［実施の形態３］
　第３の実施の形態においては拡張ベクトルから生成されたデータに対してＳＶＭ（Support　Vector　Machine）を用いた機械学習が実行される。
　図３２は、第３の実施の形態の情報処理装置１の機能ブロック図である。情報処理装置１は、時系列データ格納部１０１と、第１生成部１０３と、ベクトルデータ格納部１１９と、機械学習部１０７と、学習データ格納部１０９と、第２生成部１１１と、関連度格納部１１３と、判定部１１５と、判定結果格納部１１７とを含む。
　第１生成部１０３、機械学習部１０７、第２生成部１１１および判定部１１５は、例えば、図４０に示したメモリ２５０１にロードされたプログラムが図４０に示したＣＰＵ２５０３により実行されることで実現される。時系列データ格納部１０１、ベクトルデータ格納部１１９、学習データ格納部１０９、関連度格納部１１３および判定結果格納部１１７は、例えば、図４０に示したＨＤＤ２５０５又はメモリ２５０１に設けられる。
　第１生成部１０３は、時系列データ格納部１０１に格納されているデータに基づき処理を実行し、処理結果をベクトルデータ格納部１１９に格納する。機械学習部１０７は、ベクトルデータ格納部１１９に格納されているデータに基づき処理を実行し、処理結果を学習データ格納部１０９に格納する。第２生成部１１１は、学習データ格納部１０９に格納されているデータに基づき処理を実行し、処理結果を関連度格納部１１３に格納する。判定部１１５は、関連度格納部１１３に格納されているデータに基づき処理を実行し、処理結果を判定結果格納部１１７に格納する。
　図３３は、第３の実施の形態の情報処理装置１が実行する処理の処理フローを示す図である。
　第１生成部１０３は、時系列データ格納部１０１に格納されている複数のデータセットのうち１つのデータセットを特定する。そして、第１生成部１０３は、特定したデータセットに含まれる複数の時系列データの各々を、値の平均が０になるように平行移動する（図３３：ステップＳ７１）。
　第１生成部１０３は、ステップＳ７１の処理が実行された全時系列データの振幅の幅が同じになるように正規化を実行する（ステップＳ７３）。
　第１生成部１０３は、αの各値について、正規化された複数の時系列データから拡張アトラクタを生成する（ステップＳ７７）。第１生成部１０３は、生成した拡張アトラクタをメモリ２５０１に格納する。拡張アトラクタの生成は、第１の実施の形態と同様である。
　第１生成部１０３は、ステップＳ７７において生成された拡張アトラクタを用いて、拡張ベクトル生成処理を実行する（ステップＳ７９）。拡張ベクトル生成処理については、図６乃至図１０を用いて説明したとおりであるので、ここでは説明を省略する。
　第１生成部１０３は、ステップＳ７９において生成された複数の拡張ベクトルを、αの値の大きさの順に行方向に結合することで入力ベクトルを生成し（ステップＳ８１）、生成した入力ベクトルをベクトルデータ格納部１１９に格納する。そして処理は端子Ｄを介して図３５のステップＳ８３に移行する。
　図３４は、入力ベクトルの一例を示す図である。正方形の図形はベクトルの要素を表し、各要素にはベッチ数が格納される。図３４の例では７つの要素を有するベクトルが１つの拡張ベクトルに対応する。このような拡張ベクトルが連結されることで、１つの入力ベクトルが生成される。
　図３５の説明に移行し、機械学習部１０７は、ステップＳ８１において生成された入力ベクトルに対して、ＳＶＭを用いた機械学習を実行する（ステップＳ８３）。機械学習部１０７は、機械学習の結果を学習データ格納部１０９に格納する。
　なお、説明を簡単にするため複数のデータセットのうち１つのデータセットについてステップＳ７１乃至Ｓ８３の処理が実行される例を示したが、実際には、複数のデータセットの各々について処理が実行される。そして、機械学習が十分に進んだことが確認されたうえで、ステップＳ８５以降の処理が実行される。
　第２生成部１１１は、入力ベクトルの各要素について、値の平均値および分散を算出する（ステップＳ８５）。複数のデータセットについてステップＳ８３までの処理が実行されれば複数の入力ベクトルが生成されるので、各要素について、値の平均および分散が算出される。
　第２生成部１１１は、ステップＳ８５において算出した平均値を各要素の値とするベクトルを生成する。そして、第２生成部１１１は、ＳＶＭを用いた機械学習の結果を用いて、生成したベクトルの分類スコアを基準分類スコアとして算出する（ステップＳ８７）。　　　
　第２生成部１１１は、ステップＳ８７において生成したベクトルの各要素について、当該要素のみ値を（平均＋分散）又は（平均－分散）に変更した場合の分類スコアを、ＳＶＭを用いた機械学習の結果を用いて算出する（ステップＳ８９）。
　第２生成部１１１は、各要素の関連度を、ステップＳ８９において算出した分類スコアと基準分類スコアとの差として算出し（ステップＳ９１）、関連度格納部１１３に格納する。そして処理は端子Ｅを介して図３６のステップＳ９３に移行する。
　図３６の説明に移行し、判定部１１５は、関連度格納部１１３に格納されている情報を読み出す。そして、判定部１１５は、最小値に対する最大値の割合が所定値以下であるか判定する（図３６：ステップＳ９３）。所定値とは、例えば１．２である。最小値に対する最大値の割合が所定値以下であることは、最大値と最小値との差が比較的小さいことを意味する。
　最小値に対する最大値の割合が所定値以下である場合（ステップＳ９３：Ｙｅｓルート）、判定部１１５は、以下の処理を実行する。具体的には、判定部１１５は、両方の時系列データが分類に独立して影響することを示す第１の関係データを生成し（ステップＳ９５）、第１の関係データを判定結果格納部１１７に格納する。そして処理は終了する。
　一方、最小値に対する最大値の割合が所定値以下ではない場合（ステップＳ９３：Ｎｏルート）、判定部１１５は、以下の処理を実行する。具体的には、判定部１１５は、最大値および最小値が関連度のベクトルの端に位置するか判定する（ステップＳ９７）。
　最大値および最小値が関連度のベクトルの端に位置する場合（ステップＳ９７：Ｙｅｓルート）、判定部１１５は、以下の処理を実行する。具体的には、判定部１１５は、最大値側の時系列データが分類に影響することを示す第２の関係データを生成し（ステップＳ９９）、第２の関係データを判定結果格納部１１７に格納する。そして処理は終了する。　　　
　一方、最大値および最小値の少なくともいずれかが関連度のベクトルの端に位置しない場合（ステップＳ９７：Ｎｏルート）、判定部１１５は、以下の処理を実行する。具体的には、判定部１１５は、最大値が関連度のベクトルの中央に位置するか判定する（ステップＳ１０１）。
　最大値が関連度のベクトルの中央に位置する場合（ステップＳ１０１：Ｙｅｓルート）、判定部１１５は、以下の処理を実行する。具体的には、判定部１１５は、分類に両方の時系列データが影響し、かつ、時系列データ間に相関関係があることを示す第３の関係データを生成し（ステップＳ１０３）、第３の関係データを判定結果格納部１１７に格納する。そして処理は終了する。
　一方、最大値が関連度のベクトルの中央に位置しない場合（ステップＳ１０１：Ｎｏルート）、判定部１１５は、以下の処理を実行する。具体的には、判定部１１５は、最小値が関連度のベクトルの中央に位置するか判定する（ステップＳ１０５）。
　最小値が関連度のベクトルの中央に位置する場合（ステップＳ１０５：Ｙｅｓルート）、判定部１１５は、以下の処理を実行する。具体的には、判定部１１５は、分類に両方の時系列データが影響し、かつ、時系列データ間に相関関係が無いことを示す第４の関係データを生成し（ステップＳ１０７）、第４の関係データを判定結果格納部１１７に格納する。そして処理は終了する。また、最小値が関連度のベクトルの中央に位置しない場合（ステップＳ１０５：Ｎｏルート）、処理は終了する。なお、判定結果格納部１１７に格納された関係データは表示装置に表示され又は他の端末等に送信され、ユーザにより確認される。
　以上のように、ＳＶＭを用いた機械学習により、汎化性能を高めつつ、複数の時系列データの相関関係を特定することができるようになる。なお、説明を簡単にするためラベルとの関係が述べられていないが、第３の実施の形態においても、各ラベルについて処理が実行されてもよい。
［実施の形態４］
　第１乃至第３の実施の形態においては機械学習の結果に基づき関連度が算出されるが、第４の実施の形態においては、機械学習以外の方法で関連度が算出される。
　図３７は、第４の実施の形態の情報処理装置１の機能ブロック図である。情報処理装置１は、時系列データ格納部１０１と、第１生成部１０３と、第１データ格納部１２１と、データ処理部１２３と、第２データ格納部１２５と、第２生成部１１１と、関連度格納部１１３と、判定部１１５と、判定結果格納部１１７とを含む。
　第１生成部１０３、データ処理部１２３、第２生成部１１１および判定部１１５は、例えば、図４０に示したメモリ２５０１にロードされたプログラムが図４０に示したＣＰＵ２５０３により実行されることで実現される。時系列データ格納部１０１、第１データ格納部１２１、第２データ格納部１２５、関連度格納部１１３および判定結果格納部１１７は、例えば、図４０に示したＨＤＤ２５０５又はメモリ２５０１に設けられる。
　第１生成部１０３は、時系列データ格納部１０１に格納されているデータに基づき処理を実行し、処理結果を第１データ格納部１２１に格納する。データ処理部１２３は、第１データ格納部１２１に格納されているデータに基づき処理を実行し、処理結果を第２データ格納部１２５に格納する。第２生成部１１１は、第２データ格納部１２５に格納されているデータに基づき処理を実行し、処理結果を関連度格納部１１３に格納する。判定部１１５は、関連度格納部１１３に格納されているデータに基づき処理を実行し、処理結果を判定結果格納部１１７に格納する。
　図３８は、第４の実施の形態の情報処理装置１が実行する処理の処理フローを示す図である。ここでは、ラベルが２つであることを前提として処理を説明する。
　第１生成部１０３は、時系列データ格納部１０１に格納されている複数のデータセットのうち１つのデータセットを特定する。そして、第１生成部１０３は、特定したデータセットに含まれる複数の時系列データの各々を、値の平均が０になるように平行移動する（図３８：ステップＳ１１１）。
　第１生成部１０３は、ステップＳ１１１の処理が実行された全時系列データの振幅の幅が同じになるように正規化を実行する（ステップＳ１１３）。
　第１生成部１０３は、αの各値について、正規化された複数の時系列データから拡張アトラクタを生成する（ステップＳ１１７）。第１生成部１０３は、生成した拡張アトラクタをメモリ２５０１に格納する。拡張アトラクタの生成は、第１の実施の形態と同様である。
　第１生成部１０３は、ステップＳ１１７において生成された拡張アトラクタを用いて、拡張ベクトル生成処理を実行する（ステップＳ１１９）。拡張ベクトル生成処理については、図６乃至図１０を用いて説明したとおりであるので、ここでは説明を省略する。
　なお、説明を簡単にするため複数のデータセットのうち１つのデータセットについてステップＳ１１１乃至Ｓ１１９の処理が実行される例を示したが、実際には、複数のデータセットの各々について処理が実行されて複数の拡張ベクトルが生成される。
　そして、データ処理部１２３は、ステップＳ１１９の処理によって第１データ格納部１２１に格納された複数の拡張ベクトルのうちラベル１の分類に属する拡張ベクトルの各要素の平均および分散を算出する（ステップＳ１２１）。
　データ処理部１２３は、ステップＳ１１９の処理によって第１データ格納部１２１に格納された複数の拡張ベクトルのうちラベル２の分類に属する拡張ベクトルの各要素の平均および分散を算出する（ステップＳ１２３）。
　データ処理部１２３は、各要素について、ラベル１についての分布とラベル２についての分布とを正規分布と仮定して２つの正規分布が重なる部分の面積Ｓを算出する（ステップＳ１２５）。データ処理部１２３は、各要素についての面積Ｓを第２データ格納部１２５に格納する。ステップＳ１２５においては、例えば図３９に示すような２つの正規分布について、重なっている部分（ハッチされた部分）である面積Ｓが各要素について算出される。なお、図３９において横軸は確率変数を表し、縦軸は確率密度を表す。
　第２生成部１１１は、ラベル１に関する関連度を（１－Ｓ）として算出し（ステップＳ１２７）、ラベル１に関する関連度を関連度格納部１１３に格納する。なお、ラベル２に関する関連度も、同様に（１－Ｓ）として算出され、関連度格納部１１３に格納される。ラベルの数が３以上である場合には、ラベル１に関する関連度は、他のラベルに対する関連度の平均値として算出される。例えばラベルの数が３である場合、ラベル１に関する関連度は、ラベル２に対する関連度とラベル３に対する関連度との平均値として算出される。
　ステップＳ１２７の処理により、ラベル１及びラベル２について関連度のベクトルが生成される。以降、各ラベルについて図３６に示した端子Ｅ以降の処理が実行される。
　以上のような処理を実行すれば、機械学習を実行しない場合においても、複数の時系列データの相関関係を特定することができるようになる。
　以上本発明の一実施の形態を説明したが、本発明はこれに限定されるものではない。例えば、上で説明した情報処理装置１の機能ブロック構成は実際のプログラムモジュール構成に一致しない場合もある。
　また、上で説明したデータ構成は一例であって、上記のような構成でなければならないわけではない。さらに、処理フローにおいても、処理結果が変わらなければ処理の順番を入れ替えることも可能である。さらに、並列に実行させるようにしても良い。
　なお、上で述べた情報処理装置１は、コンピュータ装置であって、図４０に示すように、メモリ２５０１とＣＰＵ２５０３とＨＤＤ２５０５と表示装置２５０９に接続される表示制御部２５０７とリムーバブル・ディスク２５１１用のドライブ装置２５１３と入力装置２５１５とネットワークに接続するための通信制御部２５１７とがバス２５１９で接続されている。オペレーティング・システム（ＯＳ：Operating　System）及び本実施例における処理を実施するためのアプリケーション・プログラムは、ＨＤＤ２５０５に格納されており、ＣＰＵ２５０３により実行される際にはＨＤＤ２５０５からメモリ２５０１に読み出される。ＣＰＵ２５０３は、アプリケーション・プログラムの処理内容に応じて表示制御部２５０７、通信制御部２５１７、ドライブ装置２５１３を制御して、所定の動作を行わせる。また、処理途中のデータについては、主としてメモリ２５０１に格納されるが、ＨＤＤ２５０５に格納されるようにしてもよい。本発明の実施例では、上で述べた処理を実施するためのアプリケーション・プログラムはコンピュータ読み取り可能なリムーバブル・ディスク２５１１に格納されて頒布され、ドライブ装置２５１３からＨＤＤ２５０５にインストールされる。インターネットなどのネットワーク及び通信制御部２５１７を経由して、ＨＤＤ２５０５にインストールされる場合もある。このようなコンピュータ装置は、上で述べたＣＰＵ２５０３、メモリ２５０１などのハードウエアとＯＳ及びアプリケーション・プログラムなどのプログラムとが有機的に協働することにより、上で述べたような各種機能を実現する。
　以上述べた本発明の実施の形態をまとめると、以下のようになる。
　本実施の形態の第１の態様に係るデータ生成方法は、（Ａ）複数の時系列データと、複数の時系列データそれぞれの寄与率とにより生成される座標で表された点の集合に対するパーシステントホモロジ処理により、寄与率に対応したベッチ数系列を生成し、（Ｂ）複数の寄与率に対してそれぞれ生成された複数のベッチ数系列から特徴画像を生成し、（Ｃ）特徴画像と、複数の時系列データに対応した分類とを対応付けた機械学習データを生成する処理を含む。
　複数の時系列データに対する機械学習に適した特徴情報を生成できるようになる。
　また、本データ生成方法は、（Ｄ）生成された機械学習データに基づき、複数の分類のうち特定の分類への影響の度合いを表す関連度と寄与率との関係についての第１のデータを生成し、（Ｅ）第１のデータに基づき、特定の分類に関して、複数の時系列データの相関関係についての第２のデータを生成する処理をさらに含んでもよい。
　特定の分類に関して複数の時系列データの相関関係を特定することができるようになる。
　また、機械学習データは、畳み込みニューラルネットワークに基づく機械学習データであってもよい。そして、第１のデータを生成する処理において、（ｄ１）機械学習データに含まれる、最終特徴層と識別層との間の重み行列の要素の絶対値に基づき、特定の分類に対する関連度を複数の寄与率の値それぞれについて算出してもよい。
　畳み込みニューラルネットワークに基づく機械学習は、他の機械学習と比較して、特徴画像に含まれる画素間の位置関係が考慮されるので、機械学習の分類性能を向上させることができるようになる。また、最終特徴層と識別層との間の重み行列は識別層における各分類に直接影響するので、上で述べた処理を実行すれば、識別層における特定の分類に対する関連度を適切に算出できるようになる。
　また、機械学習データは、単層の学習モデルに基づく機械学習データであってもよい。　　　
　第１のデータに対して直接学習を実行できるようになる。
　また、第２のデータを生成する処理において、（ｅ１）第１のデータに含まれる関連度の最大値、最小値、並びに最大値及び最小値の位置に基づき、複数の時系列データの各々が独立して特定の分類に影響することを示す第１の関係データ、複数の時系列データのうちいずれかが特定の分類に影響することを示す第２の関係データ、複数の時系列データの各々が特定の分類に影響し、かつ、複数の時系列データが時間相関を有することを示す第３の関係データ、又は複数の時系列データの各々が特定の分類に影響し、かつ、複数の時系列データが時間相関を有しないことを示す第４の関係データを生成してもよい。
　また、第２のデータを生成する処理において、（ｅ１１）最小値に対する最大値の割合が所定値以下である場合に、第１の関係データを生成し、（ｅ１２）最大値及び最小値が第１のデータに含まれる関連度の列の端に位置する場合に、第２の関係データを生成し、（ｅ１３）最大値が第１のデータに含まれる関連度の列の中央に位置する場合に、第３の関係データを生成し、（ｅ１４）最小値が第１のデータに含まれる関連度の列の中央に位置する場合に、第４の関係データを生成してもよい。
　また、複数の時系列データは正規化された複数の時系列データであってもよい。
　複数の時系列データを平等に取り扱うことができるようになる。
　本実施の形態の第２の態様に係るデータ生成装置は、（Ｆ）複数の時系列データと、複数の時系列データそれぞれの寄与率とにより生成される座標で表された点の集合に対するパーシステントホモロジ処理により、寄与率に対応したベッチ数系列を生成し、複数の寄与率に対してそれぞれ生成された複数のベッチ数系列から特徴画像を生成する第１生成部（実施の形態における第１生成部１０３は、上記第１生成部の一例である）と、（Ｇ）特徴画像と、複数の時系列データに対応した分類とを対応付けた機械学習データを生成する第２生成部（実施の形態における機械学習部１０７は、第２生成部の一例である）とを有する。
　なお、上記方法による処理をプロセッサに行わせるためのプログラムを作成することができ、当該プログラムは、例えばフレキシブルディスク、ＣＤ－ＲＯＭ、光磁気ディスク、半導体メモリ、ハードディスク等のコンピュータ読み取り可能な記憶媒体又は記憶装置に格納される。尚、中間的な処理結果はメインメモリ等の記憶装置に一時保管される。
　１　情報処理装置　　１０１　時系列データ格納部
　１０３　第１生成部　　１０５　画像データ格納部
　１０７　機械学習部　　１０９　学習データ格納部
　１１１　第２生成部　　１１３　関連度格納部
　１１５　判定部　　１１７　判定結果格納部
　１１９　ベクトルデータ格納部　　１２１　第１データ格納部
　１２３　データ処理部　　１２５　第２データ格納部

Claims (9)

  1. 　コンピュータに、
    　複数の時系列データと、前記複数の時系列データそれぞれの寄与率とにより生成される座標で表された点の集合に対するパーシステントホモロジ処理により、前記寄与率に対応したベッチ数系列を生成し、
    　複数の寄与率に対してそれぞれ生成された複数のベッチ数系列から特徴画像を生成し、
    　前記特徴画像と、前記複数の時系列データに対応した分類とを対応付けた機械学習データを生成する、
    　処理を実行させるデータ生成プログラム。
  2. 　前記コンピュータに、
    　生成された前記機械学習データに基づき、複数の分類のうち特定の分類への影響の度合いを表す関連度と前記寄与率との関係についての第１のデータを生成し、
    　前記第１のデータに基づき、前記特定の分類に関して、前記複数の時系列データの相関関係についての第２のデータを生成する、
    　処理をさらに実行させる請求項１記載のデータ生成プログラム。
  3. 　前記機械学習データは、畳み込みニューラルネットワークに基づく機械学習データであり、
    　前記第１のデータを生成する処理において、
    　前記機械学習データに含まれる、最終特徴層と識別層との間の重み行列の要素の絶対値に基づき、前記特定の分類に対する関連度を前記複数の寄与率の値それぞれについて算出する、
    　請求項２記載のデータ生成プログラム。
  4. 　前記機械学習データは、単層の学習モデルに基づく機械学習データである、
    　請求項１記載のデータ生成プログラム。
  5. 　前記第２のデータを生成する処理において、
    　前記第１のデータに含まれる関連度の最大値、最小値、並びに最大値及び最小値の位置に基づき、前記複数の時系列データの各々が独立して前記特定の分類に影響することを示す第１の関係データ、前記複数の時系列データのうちいずれかが前記特定の分類に影響することを示す第２の関係データ、前記複数の時系列データの各々が前記特定の分類に影響し、かつ、前記複数の時系列データが時間相関を有することを示す第３の関係データ、又は前記複数の時系列データの各々が前記特定の分類に影響し、かつ、前記複数の時系列データが時間相関を有しないことを示す第４の関係データを生成する、
    　請求項２記載のデータ生成プログラム。
  6. 　前記第２のデータを生成する処理において、
    　前記最小値に対する前記最大値の割合が所定値以下である場合に、前記第１の関係データを生成し、
    　前記最大値及び前記最小値が前記第１のデータに含まれる関連度の列の端に位置する場合に、前記第２の関係データを生成し、
    　前記最大値が前記第１のデータに含まれる関連度の列の中央に位置する場合に、前記第３の関係データを生成し、
    　前記最小値が前記第１のデータに含まれる関連度の列の中央に位置する場合に、前記第４の関係データを生成する、
    　請求項５記載のデータ生成プログラム。
  7. 　前記複数の時系列データは正規化された複数の時系列データである、
    　請求項１乃至６のいずれか１つ記載のデータ生成プログラム。
  8. 　コンピュータが、
    　複数の時系列データと、前記複数の時系列データそれぞれの寄与率とにより生成される座標で表された点の集合に対するパーシステントホモロジ処理により、前記寄与率に対応したベッチ数系列を生成し、
    　複数の寄与率に対してそれぞれ生成された複数のベッチ数系列から特徴画像を生成し、
    　前記特徴画像と、前記複数の時系列データに対応した分類とを対応付けた機械学習データを生成する、
    　処理を実行するデータ生成方法。
  9. 　複数の時系列データと、前記複数の時系列データそれぞれの寄与率とにより生成される座標で表された点の集合に対するパーシステントホモロジ処理により、前記寄与率に対応したベッチ数系列を生成し、複数の寄与率に対してそれぞれ生成された複数のベッチ数系列から特徴画像を生成する第１生成部と、
    　前記特徴画像と、前記複数の時系列データに対応した分類とを対応付けた機械学習データを生成する第２生成部と、
    　を有するデータ生成装置。
PCT/JP2018/007041 2017-03-03 2018-02-26 データ生成方法、データ生成装置及びデータ生成プログラム Ceased WO2018159558A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/554,886 US11120302B2 (en) 2017-03-03 2019-08-29 Data generation apparatus, data generation method, and non-transitory computer-readable storage medium for storing program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017040325A JP6844327B2 (ja) 2017-03-03 2017-03-03 データ生成方法、データ生成装置及びデータ生成プログラム
JP2017-040325 2017-03-03

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US16/554,886 Continuation US11120302B2 (en) 2017-03-03 2019-08-29 Data generation apparatus, data generation method, and non-transitory computer-readable storage medium for storing program

Publications (1)

Publication Number Publication Date
WO2018159558A1 true WO2018159558A1 (ja) 2018-09-07

Family

ID=63370857

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/007041 Ceased WO2018159558A1 (ja) 2017-03-03 2018-02-26 データ生成方法、データ生成装置及びデータ生成プログラム

Country Status (3)

Country Link
US (1) US11120302B2 (ja)
JP (1) JP6844327B2 (ja)
WO (1) WO2018159558A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114091204A (zh) * 2021-11-25 2022-02-25 重庆大学 基于高斯重合度指标的轴承健康指标构建方法及系统

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6834602B2 (ja) 2017-03-03 2021-02-24 富士通株式会社 データ生成方法、データ生成装置及びデータ生成プログラム
WO2020039522A1 (ja) * 2018-08-22 2020-02-27 日本電気株式会社 情報処理装置、情報処理方法及びプログラム
JP7467292B2 (ja) * 2020-03-13 2024-04-15 東京エレクトロン株式会社 解析装置、解析方法及び解析プログラム
TWI895368B (zh) * 2020-03-13 2025-09-01 日商東京威力科創股份有限公司 解析裝置、解析方法及解析程式
EP3933528B1 (en) * 2020-06-30 2024-10-02 Bull SAS Predicting system in additive manufacturing process by machine learning algorithms

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9430688B1 (en) * 2015-03-25 2016-08-30 The Boeing Company Overlapping multi-signal classification
JP2017097643A (ja) * 2015-11-25 2017-06-01 富士通株式会社 機械学習プログラム、機械学習方法及び情報処理装置

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE68926958T2 (de) 1988-12-02 1997-04-03 Nohmi Bosai Ltd Feueralarmsystem
JP2755973B2 (ja) 1988-12-02 1998-05-25 能美防災株式会社 火災警報装置
JP3608043B2 (ja) 2000-07-18 2005-01-05 トヨタ自動車株式会社 観測量学習方法
JP2004310500A (ja) 2003-04-08 2004-11-04 Nippon Steel Corp 時系列連続データの将来予測方法、装置、コンピュータプログラム及び記録媒体
JP3913715B2 (ja) 2003-06-18 2007-05-09 株式会社東芝 不良検出方法
JP4750444B2 (ja) 2005-03-24 2011-08-17 株式会社日立ハイテクノロジーズ 外観検査方法及びその装置
US20070036434A1 (en) * 2005-08-15 2007-02-15 Peter Saveliev Topology-Based Method of Partition, Analysis, and Simplification of Dynamical Images and its Applications
JP4148524B2 (ja) 2005-10-13 2008-09-10 インターナショナル・ビジネス・マシーンズ・コーポレーション 相関性を評価するシステム、および、その方法
JP2008041940A (ja) 2006-08-07 2008-02-21 Hitachi High-Technologies Corp Ｓｅｍ式レビュー装置並びにｓｅｍ式レビュー装置を用いた欠陥のレビュー方法及び欠陥検査方法
US7987150B1 (en) 2007-02-09 2011-07-26 Siglaz Method and apparatus for automated rule-based sourcing of substrate microfabrication defects
JP5533196B2 (ja) 2010-04-27 2014-06-25 株式会社リコー 座標平面におけるデータ点分布領域の識別方法及びその識別プログラム
KR101808819B1 (ko) 2011-08-16 2017-12-13 삼성전자주식회사 테스트 맵 분류 방법 및 그것을 이용하는 제조 공정 조건 설정 방법
US10650508B2 (en) 2014-12-03 2020-05-12 Kla-Tencor Corporation Automatic defect classification without sampling and feature selection
JP6816481B2 (ja) * 2016-12-02 2021-01-20 富士通株式会社 削減条件特定方法、削減条件特定プログラム及び削減条件特定装置
JP6834602B2 (ja) * 2017-03-03 2021-02-24 富士通株式会社 データ生成方法、データ生成装置及びデータ生成プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9430688B1 (en) * 2015-03-25 2016-08-30 The Boeing Company Overlapping multi-signal classification
JP2017097643A (ja) * 2015-11-25 2017-06-01 富士通株式会社 機械学習プログラム、機械学習方法及び情報処理装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114091204A (zh) * 2021-11-25 2022-02-25 重庆大学 基于高斯重合度指标的轴承健康指标构建方法及系统

Also Published As

Publication number Publication date
JP2018147155A (ja) 2018-09-20
US20190385020A1 (en) 2019-12-19
JP6844327B2 (ja) 2021-03-17
US11120302B2 (en) 2021-09-14

Similar Documents

Publication Publication Date Title
WO2018159558A1 (ja) データ生成方法、データ生成装置及びデータ生成プログラム
JP7070255B2 (ja) 異常判別プログラム、異常判別方法および異常判別装置
CN110232678B (zh) 一种图像不确定度预测方法、装置、设备及存储介质
CN108229679A (zh) 卷积神经网络去冗余方法及装置、电子设备和存储介质
CN113222123A (zh) 模型训练方法、装置、设备及计算机存储介质
JP7131351B2 (ja) 学習方法、学習プログラムおよび学習装置
CN106663184A (zh) 人脸数据验证的方法和系统
CN113096137B (zh) 一种oct视网膜图像领域适应分割方法及系统
Soni et al. A critical review on nature inspired optimization algorithms
US11417072B2 (en) Automated fitting of multiple articles of personal protection equipment concurrently worn by a user
CN114495241A (zh) 一种图像识别方法及装置、电子设备、存储介质
JP2018092349A (ja) 削減条件特定方法、削減条件特定プログラム及び削減条件特定装置
JP6950504B2 (ja) 異常候補抽出プログラム、異常候補抽出方法および異常候補抽出装置
CN111695614B (zh) 一种动态监测的传感器布局与多源信息融合方法和及系统
JP7409390B2 (ja) 運動認識方法、運動認識プログラムおよび情報処理装置
EP4095794A1 (en) Exercise recognition method, exercise recognition program, and information processing device
Geronimo et al. Academic stress of students in higher education using machine learning: A systematic literature review
JP7234742B2 (ja) 特徴量抽出方法、特徴量抽出プログラムおよび特徴量抽出装置
Cum et al. Evaluation of machine learning models for water stress detection using stem impedance
Lakhera et al. Diabetic retinopathy classification using PSOSVM based deep learning model
CN116704264B (zh) 动物分类方法、分类模型训练方法、存储介质及电子设备
Fidan et al. Classification of dermatological data with self organizing maps and support vector machine
Olmo et al. Association rule mining using a multi-objective grammar-based ant programming algorithm
Dong et al. Measurement method of plant phenotypic parameters based on image deep learning
CN114663943A (zh) 基于多任务神经网络的人脸状态检测方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18760349

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18760349

Country of ref document: EP

Kind code of ref document: A1