WO2020189498A1 - 学習装置、方法及びプログラム - Google Patents

学習装置、方法及びプログラム Download PDF

Info

Publication number
WO2020189498A1
WO2020189498A1 PCT/JP2020/010809 JP2020010809W WO2020189498A1 WO 2020189498 A1 WO2020189498 A1 WO 2020189498A1 JP 2020010809 W JP2020010809 W JP 2020010809W WO 2020189498 A1 WO2020189498 A1 WO 2020189498A1
Authority
WO
WIPO (PCT)
Prior art keywords
output
input
processing unit
machine learning
data
Prior art date
Application number
PCT/JP2020/010809
Other languages
English (en)
French (fr)
Inventor
美紀 尾藤
慎介 花村
Original Assignee
株式会社 Ｇｅｅｋ Ｇｕｉｌｄ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社 Ｇｅｅｋ Ｇｕｉｌｄ filed Critical 株式会社 Ｇｅｅｋ Ｇｕｉｌｄ
Publication of WO2020189498A1 publication Critical patent/WO2020189498A1/ja

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/04—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks
    • H04L63/0428—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks wherein the data content is protected, e.g. by encrypting or encapsulating the payload
    • H04L63/0442—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks wherein the data content is protected, e.g. by encrypting or encapsulating the payload wherein the sending and receiving network entities apply asymmetric encryption, i.e. different keys for encryption and decryption
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/602—Providing cryptographic facilities or services
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/56—Provisioning of proxy services
    • H04L67/568—Storing data temporarily at an intermediate stage, e.g. caching
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/04—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks
    • H04L63/0428—Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks wherein the data content is protected, e.g. by encrypting or encapsulating the payload

Definitions

  • the present invention relates to a learning device, a method, a program, etc. using machine learning technology.
  • AI Artificial Intelligence
  • machine learning technology has been attracting attention, and application of machine learning technology to various uses and problem solving has been attempted.
  • manufacturers, automation companies of production lines, etc. are trying to apply machine learning technology to industrial robots installed in factories and the like to perform more appropriate control (for example, patents).
  • Document 1 1).
  • machine learning technology is still widely used. Therefore, when applying machine learning technology to a specific target, businesses that have specialized knowledge about machine learning technology, etc., to users who do not have knowledge about machine learning technology but have specific problems. , Often done in a format that provides machine learning technology.
  • the present invention has been made in the background of the above technical background, and an object of the present invention is to provide a secure system capable of satisfying the demands of both users and providers of machine learning technology. There is. It is also an object of the present invention to provide a learning technique suitable for such a system.
  • the learning device is a learning device for a machine learning model
  • the machine learning model is a part of the machine learning model from an input stage of the machine learning model to a first intermediate stage. Therefore, an input-side conversion processing unit that generates a first intermediate output in the first intermediate stage of the machine learning model by performing conversion processing based on input data to the machine learning model, and the first. It is a part of the machine learning model from the second intermediate stage closer to the output side than the first intermediate stage to the output stage, and the machine learning is performed by performing conversion processing based on the input to the second intermediate stage.
  • An intermediate that includes an output-side conversion processing unit that generates output data of the model, and stores an intermediate output correspondence table that represents the correspondence between the first intermediate output and the second intermediate output in the machine learning model.
  • An output correspondence table storage unit an approximation function generation unit that generates an approximation function of a function that generates the second intermediate output with the first intermediate output as an input, and the input side based on the intermediate output correspondence table.
  • An approximate output generation unit that generates an approximate output based on learning input data based on the conversion processing unit, the approximation function, and the output side conversion processing unit, and the output side conversion processing unit based on the approximate output.
  • a parameter update unit for updating the parameters of the input side conversion processing unit is provided.
  • the terms of the first intermediate output and the second intermediate output are not only mere outputs of each stage of the (predictive) conversion model, but also perform predetermined conversion such as encrypting the output value. It also includes the values performed.
  • the parameter update unit is an error calculation unit that calculates an error between the approximate output and the teacher data corresponding to the learning input data, and the output side conversion processing unit, the approximate function, and the input that obtain the error.
  • a learning parameter update unit may be provided.
  • the correspondence between the first intermediate output based on the learning input data and the second intermediate output based on the learning input data may be stored as a learning input / output table.
  • the learning device may further include a table transmission unit that transmits the learning input / output table to an external device.
  • supervised learning may be performed based on the learning input / output table.
  • the external device may be one that provides the second intermediate output to the learning device based on the first intermediate output.
  • the intermediate output correspondence table may be generated by performing prediction processing in the machine learning model.
  • the approximation function may be a function to which the backpropagation method can be applied.
  • the machine learning model may be a hierarchical artificial neural network.
  • the parameter update unit may further include an approximation function parameter update unit that updates the parameters of the approximation function based on the approximation output.
  • the approximation function may include a bypass function.
  • the approximation function may be composed of a weighted sum of a plurality of different approximation functions.
  • the present invention can also be considered as a learning method. That is, the learning method according to the present invention is a learning method of a machine learning model using a learning device, and the machine learning model is the machine learning from an input stage of the machine learning model to a first intermediate stage.
  • An input-side conversion process that is a part of the model and generates a first intermediate output in the first intermediate stage of the machine learning model by performing a conversion process based on the input data to the machine learning model.
  • a part of the machine learning model from the first intermediate stage to the output stage from the second intermediate stage closer to the output side, and the conversion process is performed based on the input to the second intermediate stage.
  • the learning device includes an output-side conversion processing unit that generates output data of the machine learning model, and the learning device has a correspondence relationship between the first intermediate output and the second intermediate output in the machine learning model.
  • An intermediate output correspondence table storage unit for storing an intermediate output correspondence table representing the above is provided, and an approximation function of a function that generates the second intermediate output with the first intermediate output as an input based on the intermediate output correspondence table is provided.
  • An approximate output generation step that generates an approximate output based on learning input data based on the input-side conversion processing unit, the approximation function, and the output-side conversion processing unit, and the approximation. It includes a parameter update step for updating the parameters of the output side conversion processing unit and the input side conversion processing unit based on the output.
  • the present invention can also be thought of as a learning program. That is, the learning program according to the present invention is a learning program of a machine learning model on a learning device, and the machine learning model is the machine learning from an input stage of the machine learning model to a first intermediate stage.
  • An input-side conversion process that is a part of the model and generates a first intermediate output in the first intermediate stage of the machine learning model by performing a conversion process based on the input data to the machine learning model.
  • a part of the machine learning model from the first intermediate stage to the output stage from the second intermediate stage closer to the output side, and the conversion process is performed based on the input to the second intermediate stage.
  • the learning device includes an output-side conversion processing unit that generates output data of the machine learning model, and the learning device has a correspondence relationship between the first intermediate output and the second intermediate output in the machine learning model.
  • An intermediate output correspondence table storage unit for storing an intermediate output correspondence table representing the above is provided, and an approximation function of a function that generates the second intermediate output with the first intermediate output as an input based on the intermediate output correspondence table is provided.
  • An approximate output generation step that generates an approximate output based on learning input data based on the input-side conversion processing unit, the approximation function, and the output-side conversion processing unit, and the approximation. It includes a parameter update step for updating the parameters of the output side conversion processing unit and the input side conversion processing unit based on the output.
  • the present invention can also be thought of as a learning system. That is, the learning system according to the present invention is a learning system of a machine learning model, and the machine learning model is a part of the machine learning model from an input stage of the machine learning model to a first intermediate stage. Therefore, an input-side conversion processing unit that generates a first intermediate output in the first intermediate stage of the machine learning model by performing a conversion process based on the input data to the machine learning model, and the first. It is a part of the machine learning model from the second intermediate stage closer to the output side than the first intermediate stage to the output stage, and the machine learning is performed by performing conversion processing based on the input to the second intermediate stage.
  • An intermediate that includes an output-side conversion processing unit that generates output data of the model, and stores an intermediate output correspondence table that represents the correspondence between the first intermediate output and the second intermediate output in the machine learning model.
  • An output correspondence table storage unit an approximation function generation unit that generates an approximation function of a function that generates the second intermediate output by using the first intermediate output as an input, and an approximation function generation unit based on the intermediate output correspondence table, and the input side.
  • An approximate output generation unit that generates an approximate output based on learning input data based on the conversion processing unit, the approximation function, and the output side conversion processing unit, and the output side conversion processing unit based on the approximate output. It is provided with a parameter update unit for updating the parameters of the input side conversion processing unit.
  • FIG. 1 is an overall configuration diagram (first embodiment) of the system.
  • FIG. 2 is a hardware configuration diagram of the server.
  • FIG. 3 is a hardware configuration diagram of the robot.
  • FIG. 4 is a functional block diagram (first embodiment) of the robot.
  • FIG. 5 is a functional block diagram (first embodiment) of the server.
  • FIG. 6 is a prediction process (first embodiment) (No. 1) in the robot.
  • FIG. 7 is a prediction process (first embodiment) (No. 2) in the robot.
  • FIG. 8 is a prediction process (first embodiment) in the server.
  • FIG. 9 is a conceptual diagram (first embodiment) relating to the prediction process.
  • FIG. 10 is an overall configuration diagram (second embodiment) of the system.
  • FIG. 11 is a hardware configuration diagram of the intermediate server.
  • FIG. 11 is a hardware configuration diagram of the intermediate server.
  • FIG. 12 is a functional block diagram (second embodiment) relating to the intermediate server.
  • FIG. 13 is a prediction process (second embodiment) (No. 1) in the intermediate server.
  • FIG. 14 is a prediction process (second embodiment) (No. 2) in the intermediate server.
  • FIG. 15 is a prediction process (second embodiment) in the final server.
  • FIG. 16 is a conceptual diagram (second embodiment) relating to the prediction process.
  • FIG. 17 is a functional block diagram (third embodiment) of the robot.
  • FIG. 18 is a functional block diagram (third embodiment) of the intermediate server.
  • FIG. 19 is a functional block diagram (third embodiment) regarding the final server.
  • FIG. 20 is a learning process (third embodiment) in the robot.
  • FIG. 21 is a conceptual diagram regarding approximate data.
  • FIG. 22 is a storage process (third embodiment) in the intermediate server.
  • FIG. 23 is a learning process (third embodiment) in the intermediate server.
  • FIG. 24 is a storage process (third embodiment) in the final server.
  • FIG. 25 is a learning process (third embodiment) in the final server.
  • FIG. 26 is a conceptual diagram (third embodiment) regarding the learning process.
  • FIG. 27 is an overall configuration diagram (modification example) of the system.
  • FIG. 28 is a conceptual diagram regarding an example of using the bypass function.
  • FIG. 29 is a conceptual diagram of the bypass function.
  • FIG. 30 is a conceptual diagram of approximation using a sub-approximation function.
  • prediction processing means forward arithmetic processing of the trained model and can therefore be replaced with, for example, simply conversion processing, inference processing, and the like.
  • FIG. 1 is an overall configuration diagram of the system 10 according to the present embodiment.
  • a server 1 having a communication function and a plurality of (N) robots 3 having a communication function form a server / client system, and they are mutually WAN (Wide Area Network). And are connected via LAN (Local Area Network).
  • the WAN is, for example, the Internet, and the LAN is installed, for example, in a factory.
  • FIG. 2 is a diagram showing a hardware configuration of the server 1.
  • the server 1 includes a control unit 11, a storage unit 12, an I / O unit 13, a communication unit 14, a display unit 15, and an input unit 16, which are connected to each other via a system bus or the like.
  • the control unit 11 is composed of a processor such as a CPU or GPU and executes execution processing of various programs.
  • the storage unit 12 is a storage device for a ROM, RAM, hard disk, flash memory, etc., and stores various data, operation programs, and the like.
  • the I / O unit 13 performs input / output and the like with an external device.
  • the communication unit 14 is, for example, a communication unit that communicates based on a predetermined communication standard, and communicates with the robot 3 that is the client device in the present embodiment.
  • the display unit 15 is connected to a display or the like to perform a predetermined display.
  • the input unit 16 receives input from the administrator using, for example, a keyboard or a mouse.
  • FIG. 3 is a diagram showing a hardware configuration of the robot 3.
  • the robot 3 is, for example, an industrial robot arranged in a factory or the like.
  • the robot 3 includes a control unit 31, a storage unit 32, an I / O unit 33, a communication unit 34, a display unit 35, a detection unit 36, and a drive unit 37, which are via a system bus or the like.
  • the control unit 31 is composed of a processor such as a CPU or GPU and executes execution processing of various programs.
  • the storage unit 32 is a storage device for a ROM, RAM, hard disk, flash memory, etc., and stores various data, operation programs, and the like.
  • the I / O unit 33 performs input / output and the like with an external device.
  • the communication unit 34 is, for example, a communication unit that communicates based on a predetermined communication standard, and in the present embodiment, communicates with the server 1.
  • the display unit 35 is connected to a display or the like to perform a predetermined display.
  • the detection unit 36 is connected to the sensor and detects the sensor information as digital data.
  • the drive unit 37 drives a connected (not shown) motor or the like in response to a command from the control unit.
  • FIG. 4 is a functional block diagram of the control unit 31 of the robot 3.
  • the control unit 31 includes a sensor information acquisition unit 311, a prediction processing unit 312, an encryption processing unit 319, a hashing processing unit 313, an information acquisition necessity determination unit 314, and a cache information acquisition processing unit 315. It includes a server information acquisition processing unit 316, a decoding unit 317, and a drive command unit 318.
  • the sensor information acquisition unit 311 acquires the sensor information acquired by the detection unit 36.
  • the prediction processing unit 312 reads basic information, weight information, etc. regarding the configuration of the prediction model (trained model) generated by supervised learning of the neural network, and outputs a predetermined prediction based on the input data. To generate.
  • the encryption processing unit 319 performs a process of encrypting the input data with a public key or the like.
  • the hashing processing unit 313 hashes the input information and generates a corresponding hash value, that is, a fixed-length value without regularity.
  • the information acquisition necessity determination unit 314 determines whether or not the data corresponding to the predetermined data is already stored in the predetermined table.
  • the cache information acquisition processing unit 315 determines that the data corresponding to the predetermined data exists in the information acquisition necessity determination unit 314, the cache information acquisition processing unit 315 acquires the corresponding data.
  • the server information acquisition processing unit 315 transmits predetermined data to the server 1 and receives the data corresponding to the data.
  • the decryption unit 317 decrypts the data encrypted by the public key or the like with the encryption key.
  • the drive command unit 318 drives the motor or the like based on the output data.
  • FIG. 5 is a functional block diagram of the control unit 11 of the server 1.
  • the control unit 11 includes a data input reception unit 111, a decryption processing unit 112, a prediction processing unit 113, an encryption processing unit 114, and a data transmission unit 115.
  • the data input receiving unit 111 receives the data input transmitted from the robot 3.
  • the decryption processing unit 112 decrypts the data encrypted by the public key or the like with the encryption key or the like.
  • the prediction processing unit 113 reads basic information such as the configuration of a prediction model (learned model) and weight information generated by supervised learning of a neural network, and outputs a predetermined prediction based on the input data. To generate.
  • the encryption processing unit 114 encrypts the input data with a public key or the like.
  • the data transmission unit performs a process of transmitting the data to be transmitted to the robot 3.
  • the robot 3 performs a predetermined prediction process based on the acquired sensor information to drive an operating unit such as a motor.
  • the process of acquiring the sensor information (I) via the sensor information acquisition unit 311 is performed (S1). Subsequently, the sensor information (I) is input to the prediction processing unit 312 to perform prediction processing from the input stage to the first intermediate layer to generate input-side intermediate layer data (X1) (S3).
  • the generated input side intermediate layer data (X1) is encrypted by the public key in the encryption processing unit 319, and the encrypted input side intermediate layer data (X1') is generated (S5).
  • the encrypted input side intermediate layer data (X1') is then hashed by the hashing processing unit 313 to generate a hash value (Y1) (S7).
  • the information acquisition necessity determination processing unit 314 reads the hash table, and whether or not the encrypted output side intermediate layer data (Z1') corresponding to the generated hash value (Y1) exists in the hash table. Is determined (S9).
  • the output side intermediate layer data (Z1) represents the output of the second intermediate layer closer to the output layer than the first intermediate layer, and the encrypted output side intermediate layer data (Z1') represents the server. Represents the output of the second mesosphere encrypted by the public key in 1.
  • the cache information acquisition processing unit 315 performs the encrypted output.
  • a process of acquiring the side intermediate layer data (Z1') as cache information is performed (S13).
  • the server information acquisition processing unit 316 performs the encrypted input side intermediate.
  • the layer data (X1') is transmitted to the server 1 (S15), and then the state shifts to a predetermined standby state (S17NO).
  • the standby state is released (S17YES), and the received encrypted output side intermediate layer data (Z1') is used as the hash value (Z1').
  • a process of associating with Y1) and saving is performed (S19). The operation of the server 1 during this period will be described in detail in FIG.
  • the decryption unit 317 generates the output side intermediate layer data (Z1) by decrypting the acquired encrypted output side intermediate layer data (Z1') with the private key (S21).
  • the prediction processing unit 312 performs prediction processing from the second intermediate layer to the output layer based on the generated output-side intermediate layer data (Z1) to generate the final output (O) (S23).
  • the drive command unit 318 issues a drive command to a drive unit such as a motor based on the final output (O) (S25).
  • a drive unit such as a motor based on the final output (O) (S25).
  • the server 1 shifts to a predetermined standby state by the data input receiving unit 111 (S31NO).
  • the standby state is released (S31NO), and the decryption processing unit 112 receives the encrypted input side intermediate layer data (X1').
  • the prediction processing unit 113 performs prediction processing from the first intermediate layer to the second intermediate layer using the input side intermediate layer data (X1) as an input, and generates output side intermediate layer data (Z1) ( S35).
  • the encryption processing unit 114 encrypts the output side intermediate layer data (Z1) with a public key to generate encrypted output side intermediate layer data (Z1) (S37). After that, the data transmission unit 115 transmits the encrypted output side intermediate layer data (Z1') to the robot 3 (S39). When this transmission process is completed, the server 1 returns to the reception standby state (S31) again, and thereafter, a series of processes (S31 to S39) are repeated.
  • FIG. 9 is a conceptual diagram of the prediction process realized by the system 1 according to the present embodiment.
  • the upper part is a conceptual diagram of the prediction process performed by the robot 3, and the lower part is a conceptual diagram of the prediction process performed by the server 1.
  • the left side of the figure shows the input side, and the right side shows the output side.
  • the prediction processing unit 312 performs prediction processing from the input stage to the first intermediate layer, and inputs the input side intermediate layer data ( X1) is generated. After that, the input-side intermediate layer data (X1) is transmitted to the server 1 via encryption, and is decrypted by the server 1.
  • the prediction processing unit 113 receives the input side intermediate layer data (X1) as an input, performs prediction processing from the first intermediate layer to the second intermediate layer, and generates the output side intermediate layer data (Z1). To do. After that, the output-side intermediate layer data (Z1) is transmitted to the robot 3 via encryption, and is decrypted by the robot 3.
  • the prediction processing unit 312 performs prediction processing between the second intermediate layer and the output layer to generate the final output (O).
  • the server usage cost can be reduced and the prediction processing can be speeded up.
  • the client device can be operated almost autonomously.
  • the intermediate output communicated between the client device and the server is encrypted. Therefore, the data is further secured.
  • hashing processing is performed.
  • the security of the data is improved, and the speed of the determination process can be realized by speeding up the search process in the hash table.
  • Second embodiment> In this embodiment, the servers are arranged in multiple stages in the system 20.
  • FIG. 10 is an overall configuration diagram of the system 20 according to the present embodiment.
  • the server 5 and a plurality of robots 7 (7-1 to 7-N) as client devices are connected by communication via a network. It is the same as the embodiment of 1.
  • this embodiment differs from the first embodiment in that the intermediate server 6 is interposed between the robot 7 and the final server 5.
  • the intermediate server 6 is operated by, for example, a machine learning technology vendor (AI vendor).
  • AI vendor machine learning technology vendor
  • FIG. 11 is a diagram showing a hardware configuration of an intermediate server 6 interposed between the robot 7 and the final server 5.
  • the intermediate server 6 includes a control unit 61, a storage unit 62, an I / O unit 63, a communication unit 64, a display unit 65, and an input unit 66, which are connected to each other via a system bus or the like.
  • the control unit 61 is composed of a processor such as a CPU or GPU and executes execution processing of various programs.
  • the storage unit 62 is a storage device for a ROM, RAM, hard disk, flash memory, etc., and stores various data, operation programs, and the like.
  • the I / O unit 63 performs input / output and the like with an external device.
  • the communication unit 64 is, for example, a communication unit that communicates based on a predetermined communication standard, and communicates with the final server 5 and the robot 7 as a client device.
  • the display unit 65 is connected to a display or the like to perform a predetermined display.
  • the input unit 66 receives input from the administrator using, for example, a keyboard or a mouse.
  • FIG. 12 is a functional block diagram of the control unit 61 of the intermediate server 6.
  • the control unit 61 includes a data input reception unit 611, a decryption processing unit 612, a prediction processing unit 613, an encryption processing unit 614, a hashing processing unit 615, an information acquisition necessity determination unit 616, and a cache. It includes an information acquisition processing unit 617, a server information acquisition processing unit 618, and a data transmission unit 619.
  • the data input reception unit 611 accepts data input transmitted from the robot 3 or the final server 5.
  • the decryption processing unit 612 decrypts the data encrypted by the public key or the like with the encryption key or the like.
  • the prediction processing unit 613 reads basic information such as the configuration of a prediction model (learned model) and weight information generated by supervised learning of a neural network, and outputs a predetermined prediction based on the input data. To generate.
  • the encryption processing unit 614 encrypts the input data with a public key or the like.
  • the hashing processing unit 615 hashes the input information and generates a corresponding hash value, that is, a fixed-length value without regularity.
  • the information acquisition necessity determination unit 616 determines whether or not the data corresponding to the predetermined data is already stored in the predetermined table. When the cache information acquisition processing unit 617 determines that the data corresponding to the predetermined data exists in the information acquisition necessity determination unit 616, the cache information acquisition processing unit 617 acquires the corresponding data.
  • the server information acquisition processing unit 618 transmits predetermined data to the final server 5 and receives the data corresponding to the data.
  • the data transmission unit 619 performs a process of transmitting the data to be transmitted to the robot 3 or the final server 5.
  • the operation of the robot 7 is substantially the same as that of the first embodiment. That is, as shown in FIGS. 6 and 7, as a result of the determination (S9) in the information acquisition necessity determination processing unit 314, the encrypted output side intermediate layer data (Z1') corresponding to the hash value (Y1) is a hash table. If it does not exist in (S11NO), the server information acquisition processing unit 316 transmits the first encrypted input side intermediate layer data (X1') to the intermediate server 6 (S15), and then a predetermined standby state (S17NO). ).
  • 13 and 14 are flowcharts relating to the prediction processing operation of the intermediate server 6.
  • the intermediate server 6 shifts to a predetermined standby state by the data input receiving unit 611 (S51NO). After that, when the first encrypted input side intermediate layer data (X1') is received from the robot 7 (S51YES), the standby state is released. After that, the decryption processing unit 612 decrypts the received first encrypted input side intermediate layer data (X1') with the private key, and generates the first input side intermediate layer data (X1) (S53). ).
  • the prediction processing unit 613 performs prediction processing from the first intermediate layer to the third intermediate layer based on the decoded first input side intermediate layer data (X1), and performs prediction processing from the first intermediate layer to the second input side intermediate layer data.
  • (X2) is generated (S55).
  • the encryption processing unit 614 encrypts the second input side intermediate layer data (X2) with the public key to generate the second encrypted input side intermediate layer data (X2') (S57). Further, the hash processing unit 615 hash-processes the second encrypted input side intermediate layer data (X2') to generate a second hash value (Y2) (S59).
  • the information acquisition necessity determination unit 616 reads the second hash table stored in the intermediate server 6, and the second encrypted output side intermediate layer data corresponding to the generated second hash value (Y2). It is determined whether or not (Z2') exists in the second hash table (S61). As a result of this determination (S9), when the second encrypted output side intermediate layer data (Z2') corresponding to the second hash value (Y2) exists in the hash table (S63YES), the cache information acquisition processing unit. 617 performs a process of acquiring the second encrypted output side intermediate layer data (Z2') as cache information (S65).
  • the server information acquisition process transmits the second encrypted input side intermediate layer data (X2') to the server 1 (S67), and then shifts to a predetermined standby state (S69NO).
  • the standby state is released (S69YES), and the received second encrypted output side intermediate layer data (Z2') is released.
  • ') Is stored in association with the second hash value (Y2) (S71). The operation of the final server 5 during this period will be described later in FIG.
  • the decryption processing unit 612 generates the second output side intermediate layer data (Z2) by decrypting the acquired second encrypted output side intermediate layer data (Z2') with the private key (S73). After that, the prediction processing unit 613 performs prediction processing from the fourth intermediate layer to the second intermediate layer based on the generated second output side intermediate layer data (Z2), and performs prediction processing from the first output side intermediate layer.
  • the layer data (Z1) is generated (S75).
  • the encryption processing unit 614 performs encryption processing on the first output side intermediate layer data (Z1) to generate the first encrypted output side intermediate layer data (Z1') (S77). After that, the data transmission unit 619 transmits the first encrypted output side intermediate layer data (Z1') to the robot 7. When this transmission process is completed, the intermediate server 6 returns to the reception standby state (S51NO) again, and thereafter, a series of processes (S51 to S79) are repeated.
  • FIG. 15 shows a flowchart relating to the prediction processing operation of the final server 5.
  • the final server 5 shifts to a predetermined standby state by the data input receiving unit 111 (S81NO).
  • the standby state is released (S81YES).
  • the decryption processing unit 112 performs a process of decrypting the received second encrypted input side intermediate layer data (X2') with the private key, and generates the second input side intermediate layer data (X2) (S83). ).
  • the prediction processing unit 113 performs prediction processing from the third intermediate layer to the fourth intermediate layer by using the second input side intermediate layer data (X2) as an input, and performs prediction processing from the third intermediate layer to the fourth intermediate layer, and the second output side intermediate layer data (X2). Z2) is generated (S85).
  • the encryption processing unit 114 encrypts the second output side intermediate layer data (Z2) using the public key to generate the second encrypted output side intermediate layer data (Z2') (S87). After that, the data transmission unit 115 transmits the second encrypted output side intermediate layer data (Z2') to the intermediate server 6 (S89). When this transmission process is completed, the final server 5 returns to the reception standby state (S81) again, and thereafter, a series of processes (S81 to S89) are repeated.
  • FIG. 16 is a conceptual diagram of the prediction process realized by the system 20 according to the present embodiment.
  • the upper part is a conceptual diagram of the prediction processing performed by the robot 7
  • the middle part is a conceptual diagram of the prediction processing performed by the intermediate server 6
  • the lower part is a conceptual diagram of the prediction processing performed by the final server 5.
  • the left side shows the input side
  • the right side shows the output side.
  • the prediction processing unit 312 performs the prediction processing from the input stage to the first intermediate layer, and performs the prediction processing from the input stage to the first intermediate layer.
  • the prediction processing unit 613 performs prediction processing between the first intermediate layer and the third intermediate layer, and generates the second input side intermediate layer data (X2). After that, the second input-side intermediate layer data (X2) is transmitted to the final server 5 via encryption, and is decrypted in the final server 5.
  • the prediction processing unit 113 receives the second input side intermediate layer data (X2) as an input, performs prediction processing from the third intermediate layer to the fourth intermediate layer, and performs prediction processing from the third intermediate layer to the fourth intermediate layer, and performs prediction processing from the second intermediate layer to the second output side.
  • Generate layer data (Z2) After that, the second output-side intermediate layer data (Z2) is transmitted to the intermediate server 6 via encryption, and is decrypted by the intermediate server 6.
  • the prediction processing unit 613 performs prediction processing between the fourth intermediate layer and the second intermediate layer, and generates the first output side intermediate layer data (Z1). After that, the first output-side intermediate layer data (Z1) is transmitted to the robot 7 via encryption, and is decrypted by the robot 7.
  • the prediction processing unit 312 performs prediction processing between the second intermediate layer and the output layer, and generates the final output (O).
  • the servers are provided in multiple stages, it is possible to reduce the processing load of the client device and each device in each server, and at the same time, predict in the client device due to the economies of scale due to the multi-stage. Performance improvement can also be expected. Moreover, even if the number of stages is increased in this way, the speed of the processing is unlikely to occur because each server also performs the prediction processing based on the cache information. Since the prediction model is distributed, it is expected that the safety of the system will be further improved, and it will be possible for a plurality of administrators to share the management of each server.
  • the system 30 performs learning processing in addition to prediction processing.
  • FIG. 17 is a functional block diagram of the control unit 710 of the robot 7.
  • the content of the prediction processing unit 7101 is substantially the same as the configuration shown in FIG. 4, so detailed description thereof will be omitted.
  • the prediction processing unit 7101 is different in that it further includes a cache table addition processing unit 7109.
  • the cache table addition processing unit 7109 performs the decoding process (S21) in FIG. 7 to generate the output side intermediate layer data (Z1), and then transfers the output side intermediate layer data (Z1) to the corresponding input side intermediate layer. A process of additionally storing the data (X1) in the cache table is performed. This cache table is used for the learning process described later.
  • the control unit 710 further has a learning processing unit 7102.
  • the learning processing unit 7102 includes a data reading unit 7102, an approximate function generation processing unit 7116, a prediction processing unit 7117, an error back propagation processing unit 7118, a parameter update processing unit 7119, an encryption processing unit 7120, and a data transmission processing unit 7121. ing.
  • the data reading unit 7115 performs reading processing of various data stored in the robot 7.
  • the approximate function generation processing unit 7116 generates an approximate function by a method described later based on a cache table relating to a predetermined input / output correspondence.
  • the prediction processing unit 7117 reads basic information such as the configuration of a prediction model (learned model) and weight information generated by supervised learning of a neural network, and outputs a predetermined prediction based on the input data. To generate.
  • the error back propagation processing unit 7118 performs a process (Backpropagation) of propagating the error obtained by comparing the output of the prediction model with the teacher data from the output side of the model to the input side.
  • the parameter update processing unit 7119 performs processing for updating model parameters such as weights so as to reduce the error between the output of the prediction model and the teacher data.
  • the encryption processing unit 7120 performs a process of encrypting a predetermined target data with a public key or the like.
  • the data transmission processing unit 7121 performs a process of transmitting predetermined target data to the intermediate server 6.
  • FIG. 18 is a functional block diagram of the control unit 610 of the intermediate server 6.
  • the content of the prediction processing unit 6101 is substantially the same as the configuration shown in FIG. 12, so detailed description thereof will be omitted.
  • the prediction processing unit 6101 is different in that it further includes a cache table addition processing unit 6112.
  • the cache table addition processing unit 6112 performs the decoding process (S75) in FIG. 14 to generate the second output-side intermediate layer data (Z2), and then generates the second output-side intermediate layer data (Z2).
  • a process of additionally storing the data in the cache table together with the corresponding second input-side intermediate layer data (X2) is performed. This cache table is used for the learning process described later.
  • the control unit 610 further has a learning processing unit 6102.
  • the learning processing unit 6102 includes a data input receiving unit 6123, a data reading unit 6115, a sampling processing unit 6116, an approximate function generation processing unit 6117, a prediction processing unit 6118, an error back propagation processing unit 6119, a parameter update processing unit 6120, and an encryption process.
  • a unit 6121 and a data transmission processing unit 6122 are provided.
  • the data input receiving unit 6123 performs a process of receiving, decoding, and storing various data such as the first cache table received from the robot 7.
  • the data reading unit 6115 performs reading processing of various data stored in the intermediate server 6.
  • the sampling processing unit 6116 performs a process of selecting a data set to be learned from the cache table.
  • the approximate function generation processing unit 6117 generates an approximate function by a method described later based on a cache table relating to a predetermined input / output correspondence.
  • the prediction processing unit 6118 reads basic information such as the configuration of a prediction model (trained model) and weight information generated by supervised learning of a neural network, and outputs a predetermined prediction based on the input data. To generate.
  • the error back propagation processing unit 6119 performs a process (Backpropagation) of propagating the error obtained by comparing the output of the prediction model with the teacher data from the output side of the model to the input side.
  • the parameter update processing unit 6120 performs processing for updating model parameters such as weights so as to reduce the error between the output of the prediction model and the teacher data.
  • the encryption processing unit 6121 performs a process of encrypting a predetermined target data with a public key or the like.
  • the data transmission processing unit 6122 performs a process of transmitting predetermined target data to the robot 7 or the final server 5.
  • FIG. 19 is a functional block diagram of the control unit 510 of the final server 5.
  • the content of the prediction processing unit 5101 is substantially the same as the configuration shown in FIG. 5, so detailed description thereof will be omitted.
  • the control unit 510 further has a learning processing unit 5102.
  • the learning processing unit 5102 includes a data input receiving unit 5115, a data reading unit 5110, a sampling processing unit 5111, a prediction processing unit 5112, an error back propagation processing unit 5113, and a parameter update processing unit 5114.
  • the data input receiving unit 5115 performs a process of receiving various data such as a second cache table received from the intermediate server 6, decoding and storing the data.
  • the data reading unit 5110 performs reading processing of various data stored in the final server 5.
  • the sampling processing unit 5111 performs a process of selecting a data set to be learned from the second cache table.
  • the prediction processing unit 5112 reads basic information such as the configuration of a prediction model (trained model) and weight information generated by supervised learning of a neural network, and outputs a predetermined prediction based on the input data. To generate.
  • the error back propagation processing unit 5113 performs a process (Backpropagation) of propagating the error obtained by comparing the output of the prediction model with the teacher data from the output side of the model to the input side.
  • the parameter update processing unit 5114 performs a process of updating model parameters such as weights so as to reduce the error between the output of the prediction model and the teacher data.
  • FIG. 20 is a flowchart of the learning processing operation in the robot 7.
  • the data reading unit 7115 reads out a pair of input / output pairs (X0, Z0) from the input / output data table stored in the robot 7 and corresponding to the teacher data (S101). ).
  • the prediction processing unit 7117 performs prediction processing in the section from the input layer of the prediction model to the first intermediate layer based on the input data X0, and inputs the input side intermediate layer data (X1-s1). Generate (S103).
  • the data reading unit 7115 receives the first input side intermediate layer data (X1) and the first output side intermediate layer data (X1) accumulated in the robot 7 during the prediction process.
  • a process of reading the first cache table including the correspondence with Z1) is performed (S105).
  • a process of generating an approximation function is performed based on the first cache table (S107).
  • the data (X1) of the first input-side intermediate layer (temporarily referred to as the X layer for convenience of explanation) is used as an input
  • the data (Z1) of the first output-side intermediate layer (temporarily referred to as the Z layer for convenience of explanation).
  • the data conversion (cache conversion) that generates the above can be expressed as follows.
  • the vector representing the data of the X layer composed of n neurons can be expressed as follows.
  • the vector representing the data of the Z layer consisting of N neurons can be expressed as follows.
  • the k-th value zk of the Z layer can be calculated independently of the other N-1 values from the mathematical formula (1), it can be expressed as follows.
  • the conversion function Sk is converted to the kth value of the corresponding Z layer if the combination of each component value of the data vector of the X layer does not exist in the first cache table due to the nature of the cache conversion. Can not do it. Therefore, it is approximated by the following linear equation (5).
  • the solution vk of the mathematical formula (10) can be obtained by calculating the mathematical formula (9) with a computer according to an algorithm such as Gaussian elimination.
  • the mathematical formula (5) can be expressed as follows.
  • this formula (11) is an approximate formula.
  • partial differentiation is approximately possible for each component of the data vector of the X layer, for example, backpropagation of errors from the Z layer to the X layer can be easily performed. That is, even if each machine learning model on the input side and the output side is a multi-layer neural network model before and after the learning model part corresponding to the cache table, that is, the learning process is performed at high speed by using the error back propagation method. be able to.
  • the prediction processing unit 7117 determines the first input side. Based on the mesosphere data (X1) and the approximation function, the prediction process of the section from the first mesosphere to the second mesosphere is performed, and the output side mesosphere data (Z1-s1) is generated (S109). ). After that, the prediction processing unit 7117 uses the output side intermediate layer data (Z1-s1) as an input to perform prediction processing for the section from the second intermediate layer to the output layer, and outputs the final output (Z0-s1). Generate (S111).
  • the error back propagation processing unit 6119 generates an error between the teacher output (Z0) and the final output (Z0-s1) related to the teacher data, and sets the error or a predetermined value based on the error (for example, root mean square error). For example, it propagates from the output side to the input side by a method such as the steepest descent method (S113).
  • the parameter update processing unit 7119 starts from the section from the input layer to the first intermediate layer and the second intermediate layer of the training model, excluding the approximate function part, based on the back-propagated error and the like.
  • a process of updating parameters such as the weight of the section leading to the output layer is performed (S115).
  • the robot 7 confirms from the predetermined setting information whether or not it is permitted to transmit the first cache table (S117). As a result, if there is no transmission permission, the learning end determination (S121) is performed, and if it is not completed (S121NO), all the processes (S101 to S121) are repeated again. On the other hand, when it ends (S121YES), the learning process ends.
  • the data transmission processing unit 7121 performs a process of transmitting the first cache table encrypted by the encryption processing unit 7120 to the intermediate server 6. (S119). After that, the learning end determination (S121) is performed.
  • FIG. 22 is a flowchart relating to reception and storage processing of the first cache table transmitted from the robot 7.
  • the data input receiving unit 6123 shifts to the data reception standby state (S131).
  • S131YES the data reception standby state
  • the received first cache data is decrypted with the private key or the like (S133).
  • S133 the private key or the like
  • FIG. 23 is a flowchart relating to the learning processing operation in the intermediate server 6 executed in parallel with the reception processing of the first cache table shown in FIG. 22.
  • the data reading unit 6115 reads the input / output pairs (X1-s1, Z1-s1) from the input / output data table stored in the intermediate server 6 and corresponding to the teacher data. (S141).
  • the sampling processing unit 6116 extracts the input / output pair used for learning (S143).
  • the prediction processing unit 6118 performs prediction processing in the section from the first intermediate layer to the third intermediate layer of the prediction model based on the input data (X1-s1), and second.
  • the input side intermediate layer data (X2-s2) of the above is generated (S145).
  • the data reading unit 6115 performs the second input side intermediate layer data (X2) and the first output side intermediate layer data accumulated in the intermediate server 6 at the time of prediction processing.
  • a process of reading out the second cache table (X2, Z2) including the correspondence with (Z2) is performed (S147).
  • the second output side mesosphere data (Z2) is generated based on the second input side mesosphere data (X2) based on the second cache table.
  • a process for generating an approximate function is performed (S149). The approximate function generation process is the same as the approximate function generation in the robot 7.
  • the prediction processing unit 6118 When the generation process (S145) of the second input side intermediate layer data (X2-s2) and the generation process (S149) of the approximation function are completed, the prediction processing unit 6118 causes the second input side intermediate layer data (X2-s2). ) And the approximation function, the prediction process of the section from the third intermediate layer to the fourth intermediate layer is performed, and the second output side intermediate layer data (Z2-s2) is generated (S151). After that, the prediction processing unit 6118 receives the second output side intermediate layer data (Z2-s2) as an input, performs prediction processing of the section from the fourth intermediate layer to the second intermediate layer, and performs the second prediction processing. Output side predicted output (Z1-s2) is generated (S153).
  • the error back propagation processing unit 6119 generates an error between the teacher data (Z1-s1) and the second output-side predicted output (Z1-s2), and the error or a predetermined value based on the error (for example, root mean square error, etc.) ) Is propagated from the output side to the input side by a method such as the steepest descent method (S155).
  • the parameter update processing unit 6120 includes a section from the first mesosphere to the third mesosphere, excluding the approximate function part, and a fourth mesosphere based on the back-propagated error and the like.
  • a process of updating parameters such as the weight of the section from the intermediate layer to the second intermediate layer is performed (S157).
  • the intermediate server 6 confirms from the predetermined setting information whether or not it is permitted to transmit the second cache table (X2-s2, Z2-s2) (S159). As a result, if there is no transmission permission, the learning end determination (S163) is performed, and if it is not completed (S163NO), all the processes (S141 to S163) are repeated again. On the other hand, when it ends (S163YES), the learning process ends.
  • the data transmission processing unit 6122 performs a process of transmitting the second cache table encrypted by the encryption processing unit 6121 to the final server 5. (S161). After that, the learning end determination (S163) is performed.
  • FIG. 24 is a flowchart relating to reception and storage processing of the second cache table (X2-s2, Z2-s2) transmitted from the intermediate server 6.
  • the data input receiving unit 5115 shifts to the data reception standby state (S171).
  • S171YES the data reception standby state
  • the data reception standby state is released, and the received second cache data is decrypted with the private key or the like (S173).
  • S175 The process of storing in the storage unit (S175) is performed.
  • the final server 5 shifts to the reception standby state (S171NO) again.
  • FIG. 25 is a flowchart relating to the learning processing operation in the final server 5, which is executed in parallel with the reception processing of the second cache table shown in FIG. 24.
  • the data reading unit 5110 performs a process of reading the cache table (S181).
  • the sampling processing unit (S5111) extracts the input / output pairs to be learned from the cache table (S183).
  • the prediction processing unit 5112 performs prediction processing from the third intermediate layer to the fourth intermediate layer based on the read second input side intermediate layer data (X2-s2), and performs prediction processing from the third intermediate layer to the fourth intermediate layer, and the second output side intermediate.
  • Layer data (Z2-s3) is generated (S185).
  • the error back propagation processing unit 5113 generates an error between the second output side intermediate layer data (Z2-s3) and the teacher data (Z2-s2), and generates the error or a predetermined value based on the error (for example, root mean square error). Etc.) is propagated from the output side to the input side by a method such as the steepest descent method (S187).
  • the parameter update processing unit 5114 performs a process of updating parameters such as weights of the learning model based on the back-propagated error and the like (S189).
  • the learning end determination is performed, and if the predetermined end condition is not satisfied (S191NO), a series of processes (S181 to S189) are performed again.
  • the predetermined end condition is satisfied (S191YES)
  • FIG. 26 is a conceptual diagram of the learning process realized by the system 30 according to the present embodiment.
  • the upper part is a conceptual diagram of the learning process performed by the robot 7
  • the middle part is a conceptual diagram of the learning process performed by the intermediate server 6
  • the lower part is a conceptual diagram of the learning process performed by the final server 5.
  • the left side shows the input side
  • the right side shows the output side.
  • the prediction processing unit 7117 performs the prediction processing from the input stage to the first intermediate layer, and performs the prediction processing from the input stage to the first intermediate layer.
  • the approximate function generation processing unit 7116 generates an approximate function (F (x)) based on the first cache table (X1, Z1).
  • the prediction processing unit 7117 generates the first output side intermediate layer data (Z1-s1) based on the first input side intermediate layer data (X1-s1) and the approximation function (F (x)). Further, the final output data (Z0-s1) is generated based on the first output-side intermediate layer data (Z1-s1).
  • the error back propagation processing unit 7118 back-propagates the error between the final output data (Z0-s1) and the teacher data (Z0) from the final output stage to the input stage via an approximate function.
  • the parameter update processing unit 7119 updates the parameters including the weights from the final output stage to the second intermediate layer and from the first intermediate layer to the input stage. Further, the first cache table (X1-s1, Z1-s1) generated at this time is provided to the intermediate server 6 under predetermined conditions.
  • the prediction processing unit 6118 moves from the first intermediate layer to the third intermediate layer.
  • the prediction process during the period is performed to generate the second input side mesosphere data (X2-s2).
  • the approximate function generation processing unit 6117 generates an approximate function (G (x)) based on the first cache table (X1-s1, Z1-s1).
  • the prediction processing unit 6118 generates the second output side intermediate layer data (Z2-s2) based on the second input side intermediate layer data (X2-s2) and the approximation function (G (x)).
  • the first output side intermediate layer data (Z1-s2) is generated based on the second output side intermediate layer data (Z2-s2).
  • the error back propagation processing unit 6119 back-propagates the error between the final output data (Z1-s2) and the teacher data (Z1-s1) from the second intermediate layer to the first intermediate layer via an approximation function. ..
  • the parameter update processing unit 6120 updates the parameters including the weights between the second intermediate layer to the fourth intermediate layer and the third intermediate layer to the first intermediate layer.
  • the second cache table (X2-s2, Z2-s2) generated at this time is provided to the final server 5 under predetermined conditions.
  • the prediction processing unit 5112 moves from the third intermediate layer to the fourth intermediate layer.
  • the prediction process during the period is performed to generate the second output side intermediate layer data (Z2-s3).
  • the error back propagation processing unit 5113 back-propagates the error between the second output side intermediate layer data (Z2-s3) and the teacher data (Z2-s2) from the fourth intermediate layer to the third intermediate layer. Let me. After that, the parameter update processing unit 5114 updates the parameters including the weights between the fourth intermediate layer and the fourth intermediate layer.
  • the approximation function generated from the cache table is described as being used only in the learning process.
  • the present invention is not limited to such a configuration.
  • an approximation function is generated based on the cache table obtained so far, and the first intermediate layer is generated based on the first input side mesosphere data (X1) and the approximation function.
  • the output side intermediate layer data (Z1) may be generated by performing the prediction processing of the section from the to the second intermediate layer. According to such a configuration, for example, after data is accumulated in the hash table to a certain extent, it is possible to significantly reduce the frequency of inquiries to the server side or perform prediction processing without making inquiries. ..
  • the input-side intermediate layer data (X) (for example, X1 or X2) is encrypted and hashed
  • a hash table search process is performed using the hash value as a key (for example, FIG. 6). S11, S55 in FIG. 13 and the like).
  • the present invention is not limited to such a configuration. Therefore, for example, the input-side intermediate layer data (X) may be subjected to rounding processing, then encrypted and / or hashed, and a hash table search may be performed.
  • the rounding process when the set to which the input-side mesosphere data (X) belongs is U, it is considered that the specific input-side mesosphere data belonging to the set U has the same value (X_u)) (representative value). It is a process. For example, even if some node values (neuron firing values) of the input side intermediate layer data (X) are discretized into integer values by rounding up or down, etc., a set of a plurality of integer values is formed. Good. According to such a configuration, it is possible to improve the consistency with the hash value obtained in the past and realize speeding up of processing and the like.
  • FIG. 27 is an overall configuration diagram of the system 40 according to the modified example.
  • the system 40 includes a server 2 that performs prediction processing, an intermediary server 8 that is connected to the server 2 via a WAN and is connected to a LAN, and a robot 9 as a client device connected to the LAN. It is composed of.
  • the exchange of information between the server 2 and the client device 9 is performed via the intermediary server 8.
  • supervised learning using a neural network is illustrated as a machine learning algorithm.
  • the present invention is not limited to such a configuration. Therefore, for example, other machine learning algorithms that are divisible and can handle intermediate values in a similar format may be used.
  • unsupervised learning such as GAN (Generative Advanced Networking), VAE (Variational Autoencoder), and SOM (Self-Organizing Map)
  • reinforcement learning may be used.
  • reinforcement learning for example, prediction processing on a simulator may be used.
  • the approximation function was generated by approximating with the linear equation shown in Equation 5.
  • the approximation method is not limited to such an example, and the approximation may be performed by another method.
  • FIG. 28 is a conceptual diagram regarding an example of using the bypass function.
  • H (x) represents an approximate function based on the linear equation represented by Equation 5 and the like
  • J (x) represents a bypass function, forming an approximate function as a whole.
  • the bypass function J (x) is arranged in parallel so as to bypass the approximate function H (x) according to the linear equation.
  • the backpropagation method can be applied to any of the functions.
  • FIG. 29 is a conceptual diagram of the bypass function J (x).
  • the bypass function J (x) compresses the data by a pooling layer having a smaller number of nodes (for example, about half the number of nodes in the input-side intermediate layer). After that, the node output in the pooling layer is provided to the output-side intermediate layer. At this time, zero (0) is provided for the node in which there is no connection from the pooling layer to the output-side intermediate layer (zero padding).
  • the number of nodes in the pooling layer is 16 which is half of the number of nodes n_x in the input side intermediate layer.
  • the pooling method an average pooling or the like that takes an average with the adjacent node values can be used.
  • the 16 outputs from the pooling layer are provided to the output-side intermediate layer.
  • zero (0) is provided for the four output-side mesosphere nodes that do not correspond to the pooling layer nodes.
  • the pooling layer is used in this modification, it is not always necessary to use the pooling layer, and for example, a detour that allows data to pass through may be formed as it is.
  • FIG. 30 is a conceptual diagram of approximation using the sum of sub-approximation functions.
  • This contribution coefficient may be a fixed value, or may be varied by giving a different value each time the forward calculation or error back propagation.
  • Each sub-approximate function is an approximate function generated based on a cache table, and is an approximate function based on a linear equation used in a neural network or the above-described embodiment. All sub-approximation functions are configured so that the backpropagation method can be applied.
  • the approximation accuracy is expected to be improved by the ensemble effect with the layers before and after the approximation function, and as a result, the approximation accuracy can be maintained or improved even when the data accumulation in the cache table is insufficient. You can expect it.
  • the robot, the intermediate server, the final server, etc. are exemplified as all single devices.
  • the present invention is not limited to such a configuration. Therefore, for example, a part of the device configuration may be separately provided as an external device.
  • an external large-capacity storage storage may be installed and connected to a device such as a server.
  • the distributed processing or the like may be performed using a plurality of devices instead of a single device. Further, virtualization technology or the like may be used.
  • one client device holds one hash table, but the present invention is not limited to such a configuration. Therefore, for example, the hash table may be shared among a plurality of client devices. As a result, the cache of the prediction processing performed in each client device is accumulated as a shared one, so that the server usage cost can be reduced, the processing can be speeded up, and the client device can operate autonomously more quickly. It can be realized.
  • the hash table may be shared, for example, by using the intermediary server 8 in the system of FIG. 27, or by using a technique such as a distributed hash table, directly between the client devices without going through a server or the like. It may be done by inquiring information.
  • the parameters may be updated in batch after accumulating a certain amount of errors corresponding to a plurality of input / output pairs.
  • so-called online learning in which learning processing is performed in parallel with prediction processing may be performed.
  • a robot is exemplified as a client device.
  • the client device should be construed as including any device, with or without physical operation.
  • the client device includes all information processing devices such as smartphones, tablet terminals, personal computers, smart speakers, and wearable terminals.
  • robot motion information (sensor signal or motor signal) is used as a learning target, but the present invention is not limited to such a configuration. Therefore, for example, the learning target data includes all kinds of information such as an imaging signal, a voice signal, an image signal, a moving image signal, language information, and character information, and includes various information such as voice recognition processing, image signal processing, and natural language processing. The desired processing may be performed.
  • the client device has a configuration in which the server side performs an operation between the input side intermediate layer (X) and the output side intermediate layer (Z), but the present invention has such a configuration.
  • the client device may also perform the prediction process by partially holding a predetermined divided intermediate layer and transmitting and receiving a partial prediction result to and from the server a plurality of times.
  • parameters such as weights are updated for the portion of the learning model excluding the approximation function based on the error back-propagated by the error back-propagation method (for example, S115, S157, etc.).
  • the present invention is not limited to such a configuration. Therefore, for example, the parameter of the approximate function part may also be updated.
  • the present invention can be used in all industries that utilize machine learning technology.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biophysics (AREA)
  • Bioethics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Information Transfer Between Computers (AREA)
  • Manipulator (AREA)

Abstract

【課題】　機械学習技術の利用者と提供者の双方の要求を満たすことができるセキュアなシステムにおける学習技術を提供すること。 【解決手段】　機械学習モデルの学習装置であって、前記機械学習モデルは、入力側変換処理部と、出力側変換処理部と、を備え、前記機械学習モデルにおける前記第１の中間出力と前記第２の中間出力との対応関係を表す中間出力対応テーブルを記憶する中間出力対応テーブル記憶部と、前記中間出力対応テーブルに基づいて、前記第１の中間出力を入力として前記第２の中間出力を生成する関数の近似関数を生成する近似関数生成部と、前記入力側変換処理部、前記近似関数、及び前記出力側変換処理部に基づいて、学習用入力データに基づく近似出力を生成する、近似出力生成部と、前記近似出力に基づいて前記出力側変換処理部と前記入力側変換処理部のパラメータを更新するパラメータ更新部と、を備える学習装置が提供される。

Description

学習装置、方法及びプログラム
　この発明は、機械学習技術を利用した学習装置、方法及びプログラム等に関する。
　近年、ＡＩ（Ａｒｔｉｆｉｃｉａｌ　Ｉｎｔｅｌｌｉｇｅｎｃｅ）、特に、機械学習技術が注目を集めており、様々な用途や課題解決への機械学習技術の適用が試みられている。例えば、製造業者や製造ラインの自動化業者等が、工場内等に設置される産業用ロボットに機械学習技術を適用し、より適切な制御を行おうとすること等が試みられている（例えば、特許文献１）。
特開２０１７－０３００１４号公報
　ところで、機械学習技術は未だ普く浸透しているとは言い難い。そのため、特定の対象へと機械学習技術を適用する場合には、機械学習技術に関する専門的知見を保有する事業者等が、機械学習技術に関する知見は持たないものの特定の課題を抱える利用者へと、機械学習技術を提供する形式で行われる場合が多い。
　しかしながら、このとき、機械学習技術の提供者は、一般に、機械学習に関するコンピュータプログラム等を利用者へと提供することには慎重である。当該プログラムの意図しない転用や流出、リバースエンジニアリング等のリスクが存在するためである。
　一方、機械学習技術の利用者としては、機械学習を行うために自らの保有する様々なデータ、特に生データを機械学習技術の提供者を含む第三者へと提供することには慎重となる。それらのデータは個人情報や営業秘密等に該当する場合が多く、非常に繊細な取扱いが必要となる情報であるためである。
　すなわち、従前、機械学習技術の利用者と提供者のそれぞれの事情により、機械学習技術の利用が十分に進まない場合があった。
　本発明は、上述の技術的背景の下になされたものであり、その目的とすることころは、機械学習技術の利用者と提供者の双方の要求を満たすことができるセキュアなシステムを提供することにある。また、そのようなシステムに好適な学習技術を提供することも目的とする。
　本発明のさらに他の目的並びに作用効果については、明細書の以下の記述を参照することにより、当業者であれば容易に理解されるであろう。
　上述の技術的課題は、以下の構成を有する学習装置等により解決することができる。
　すなわち、本発明に係る学習装置は、機械学習モデルの学習装置であって、前記機械学習モデルは、前記機械学習モデルの入力段階から第１の中間段階へと至る前記機械学習モデルの一部であって、前記機械学習モデルへの入力データに基づいて変換処理を行うことにより前記機械学習モデルの前記第１の中間段階における第１の中間出力を生成する、入力側変換処理部と、前記第１の中間段階より出力側に近い第２の中間段階から出力段階へと至る前記機械学習モデルの一部であって、第２の中間段階に対する入力に基づいて変換処理を行うことにより前記機械学習モデルの出力データを生成する、出力側変換処理部と、を備え、前記機械学習モデルにおける前記第１の中間出力と前記第２の中間出力との対応関係を表す中間出力対応テーブルを記憶する中間出力対応テーブル記憶部と、前記中間出力対応テーブルに基づいて、前記第１の中間出力を入力として前記第２の中間出力を生成する関数の近似関数を生成する近似関数生成部と、前記入力側変換処理部、前記近似関数、及び前記出力側変換処理部に基づいて、学習用入力データに基づく近似出力を生成する、近似出力生成部と、前記近似出力に基づいて前記出力側変換処理部と前記入力側変換処理部のパラメータを更新するパラメータ更新部と、を備える。
　このような構成によれば、入力側変換処理部と出力側変換処理部との間が欠落した機械学習モデルにおいても、第１の中間出力と第２の中間出力との対応関係に基づいて、入力側変換処理部と出力側変換処理部のパラメータを適切に更新することができる。従って、例えば、中間出力のみを外部装置とやり取するセキュアな変換システムにおいても、適切に機械学習を行うことが可能となる。
　なお、ここで、第１の中間出力及び第２の中間出力の語は、いずれも、（予測）変換モデル各段階の単なる出力のみならず、当該出力値を暗号化するなどの所定の変換を行った値も含むものである。
　前記パラメータ更新部は、前記近似出力と、前記学習用入力データに対応する教師データとの誤差を演算する誤差演算部と、前記誤差を、前記出力側変換処理部、前記近似関数、及び前記入力側変換処理部へと逆伝播する誤差逆伝播部と、前記誤差逆伝播部にて伝播した前記誤差に基づいて、前記出力側変換処理部と前記入力側変換処理部のパラメータを更新する教師あり学習用パラメータ更新部と、を備えてもよい。
　前記学習用入力データに基づく前記第１の中間出力と、前記学習用入力データに基づく前記第２の中間出力との対応関係を学習用入出力テーブルとして記憶する、ものであってもよい。
　前記学習装置は、さらに、前記学習用入出力テーブルを外部装置へと送信するテーブル送信部を備える、ものであってもよい。
　前記外部装置において、前記学習用入出力テーブルに基づいて教師有り学習が行われる、ものであってもよい。
　前記外部装置は、前記第１の中間出力に基づいて前記学習装置へと前記第２の中間出力を提供する、ものであってもよい。
　前記中間出力対応テーブルは、前記機械学習モデルにおいて予測処理を行うことにより生成されたものであってもよい。
　前記近似関数は、誤差逆伝播法が適用可能な関数であってもよい。
　前記機械学習モデルは、階層型の人工ニューラルネットワークであってもよい。
　前記パラメータ更新部は、さらに、前記近似出力に基づいて前記近似関数のパラメータを更新する、近似関数パラメータ更新部を備えてもよい。
　前記近似関数は、バイパス関数を含むものであってもよい。
　前記近似関数は、複数の異なる近似関数の重み付き和により構成される、ものであってもよい。
　本発明は、学習方法としても観念することができる。すなわち、本発明に係る学習方法は、学習装置を用いた機械学習モデルの学習方法であって、前記機械学習モデルは、前記機械学習モデルの入力段階から第１の中間段階へと至る前記機械学習モデルの一部であって、前記機械学習モデルへの入力データに基づいて変換処理を行うことにより前記機械学習モデルの前記第１の中間段階における第１の中間出力を生成する、入力側変換処理部と、前記第１の中間段階より出力側に近い第２の中間段階から出力段階へと至る前記機械学習モデルの一部であって、第２の中間段階に対する入力に基づいて変換処理を行うことにより前記機械学習モデルの出力データを生成する、出力側変換処理部と、を備え、前記学習装置は、前記機械学習モデルにおける前記第１の中間出力と前記第２の中間出力との対応関係を表す中間出力対応テーブルを記憶する中間出力対応テーブル記憶部を備え、前記中間出力対応テーブルに基づいて、前記第１の中間出力を入力として前記第２の中間出力を生成する関数の近似関数を生成する近似関数生成ステップと、前記入力側変換処理部、前記近似関数、及び前記出力側変換処理部に基づいて、学習用入力データに基づく近似出力を生成する、近似出力生成ステップと、前記近似出力に基づいて前記出力側変換処理部と前記入力側変換処理部のパラメータを更新するパラメータ更新ステップと、を備えている。
　本発明は、学習プログラムとしても観念することができる。すなわち、本発明に係る学習プログラムは、学習装置上での機械学習モデルの学習プログラムであって、前記機械学習モデルは、前記機械学習モデルの入力段階から第１の中間段階へと至る前記機械学習モデルの一部であって、前記機械学習モデルへの入力データに基づいて変換処理を行うことにより前記機械学習モデルの前記第１の中間段階における第１の中間出力を生成する、入力側変換処理部と、前記第１の中間段階より出力側に近い第２の中間段階から出力段階へと至る前記機械学習モデルの一部であって、第２の中間段階に対する入力に基づいて変換処理を行うことにより前記機械学習モデルの出力データを生成する、出力側変換処理部と、を備え、前記学習装置は、前記機械学習モデルにおける前記第１の中間出力と前記第２の中間出力との対応関係を表す中間出力対応テーブルを記憶する中間出力対応テーブル記憶部を備え、前記中間出力対応テーブルに基づいて、前記第１の中間出力を入力として前記第２の中間出力を生成する関数の近似関数を生成する近似関数生成ステップと、前記入力側変換処理部、前記近似関数、及び前記出力側変換処理部に基づいて、学習用入力データに基づく近似出力を生成する、近似出力生成ステップと、前記近似出力に基づいて前記出力側変換処理部と前記入力側変換処理部のパラメータを更新するパラメータ更新ステップと、を備えている。
　本発明は、学習システムとしても観念することができる。すなわち、本発明に係る学習システムは、機械学習モデルの学習システムであって、前記機械学習モデルは、前記機械学習モデルの入力段階から第１の中間段階へと至る前記機械学習モデルの一部であって、前記機械学習モデルへの入力データに基づいて変換処理を行うことにより前記機械学習モデルの前記第１の中間段階における第１の中間出力を生成する、入力側変換処理部と、前記第１の中間段階より出力側に近い第２の中間段階から出力段階へと至る前記機械学習モデルの一部であって、第２の中間段階に対する入力に基づいて変換処理を行うことにより前記機械学習モデルの出力データを生成する、出力側変換処理部と、を備え、前記機械学習モデルにおける前記第１の中間出力と前記第２の中間出力との対応関係を表す中間出力対応テーブルを記憶する中間出力対応テーブル記憶部と、前記中間出力対応テーブルに基づいて、前記第１の中間出力を入力として前記第２の中間出力を生成する関数の近似関数を生成する近似関数生成部と、前記入力側変換処理部、前記近似関数、及び前記出力側変換処理部に基づいて、学習用入力データに基づく近似出力を生成する、近似出力生成部と、前記近似出力に基づいて前記出力側変換処理部と前記入力側変換処理部のパラメータを更新するパラメータ更新部と、を備えている。
　本発明によれば、機械学習技術の利用者側と提供者側の双方の要求を満たすことができるセキュアなシステムにおける学習技術を提供することができる。
図１は、システムの全体構成図（第１の実施形態）である。 図２は、サーバのハードウェア構成図である。 図３は、ロボットのハードウェア構成図である。 図４は、ロボットに関する機能ブロック図（第１の実施形態）である。 図５は、サーバに関する機能ブロック図（第１の実施形態）である。 図６は、ロボットにおける予測処理（第１の実施形態）（その１）である。 図７は、ロボットにおける予測処理（第１の実施形態）（その２）である。 図８は、サーバにおける予測処理（第１の実施形態）である。 図９は、予測処理に関する概念図（第１の実施形態）である。 図１０は、システムの全体構成図（第２の実施形態）である。 図１１は、中間サーバのハードウェア構成図である。 図１２は、中間サーバに関する機能ブロック図（第２の実施形態）である。 図１３は、中間サーバにおける予測処理（第２の実施形態）（その１）である。 図１４は、中間サーバにおける予測処理（第２の実施形態）（その２）である。 図１５は、最終サーバにおける予測処理（第２の実施形態）である。 図１６は、予測処理に関する概念図（第２の実施形態）である。 図１７は、ロボットに関する機能ブロック図（第３の実施形態）である。 図１８は、中間サーバに関する機能ブロック図（第３の実施形態）である。 図１９は、最終サーバに関する機能ブロック図（第３の実施形態）である。 図２０は、ロボットにおける学習処理（第３の実施形態）である。 図２１は、近似データに関する概念図である。 図２２は、中間サーバにおける記憶処理（第３の実施形態）である。 図２３は、中間サーバにおける学習処理（第３の実施形態）である。 図２４は、最終サーバにおける記憶処理（第３の実施形態）である。 図２５は、最終サーバにおける学習処理（第３の実施形態）である。 図２６は、学習処理に関する概念図（第３の実施形態）である。 図２７は、システムの全体構成図（変形例）である。 図２８は、バイパス関数を利用する例に関する概念図である。 図２９は、バイパス関数の概念図である。 図３０は、サブ近似関数を利用した近似の概念図である。
　以下、本発明に係るシステム等の実施の一形態を、添付の図面を参照しつつ、詳細に説明する。なお、以下の実施形態においては、予測処理の語を用いることがある。当業者には明らかな通り、予測処理の語は、学習済モデルの順方向演算処理を意味し、従って、例えば、単に変換処理、推論処理等といった語と置換することができる。
　＜１．第１の実施形態＞
  ＜１．１　システムの構成＞
  まず、図１～図５を参照しつつ、本実施形態におけるシステム１０の構成について説明する。
　図１は、本実施形態に係るシステム１０の全体構成図である。同図から明らかな通り、通信機能を有するサーバ１と、通信機能を有する複数（Ｎ個）のロボット３とが、サーバ・クライアントシステムを構成しており、それらは互いに、ＷＡＮ（Ｗｉｄｅ　Ａｒｅａ　Ｎｅｔｗｏｒｋ）及びＬＡＮ（Ｌｏｃａｌ　Ａｒｅａ　Ｎｅｔｗｏｒｋ）を介して接続されている。なお、ＷＡＮは例えばインターネットであり、ＬＡＮは例えば工場内等に設置されている。
　図２は、サーバ１のハードウェア構成について示す図である。同図から明らかな通り、サーバ１は、制御部１１、記憶部１２、Ｉ／Ｏ部１３、通信部１４、表示部１５、入力部１６を備え、それらはシステムバス等を介して互いに接続されている。制御部１１は、ＣＰＵ又はＧＰＵ等のプロセッサで構成されており各種プログラムの実行処理を行う。記憶部１２は、ＲＯＭ、ＲＡＭ、ハードディスク、フラッシュメモリ等の記憶装置であり、各種データや動作プログラム等を記憶している。Ｉ／Ｏ部１３は、外部装置との入出力等を行うものである。通信部１４は、例えば所定の通信規格に基づいて通信を行う通信ユニットであり、本実施形態におけるクライアント装置であるロボット３との通信を行う。表示部１５は、ディスプレイ等と接続され所定の表示を行う。入力部１６は、例えばキーボードやマウス等により管理者からの入力を受け付けるものである。
　図３は、ロボット３のハードウェア構成について示す図である。ロボット３は、例えば、工場内等に配置される産業用ロボットである。同図から明らかな通り、ロボット３は、制御部３１、記憶部３２、Ｉ／Ｏ部３３、通信部３４、表示部３５、検知部３６及び駆動部３７を備え、それらはシステムバス等を介して互いに接続されている。制御部３１は、ＣＰＵ又はＧＰＵ等のプロセッサで構成されており各種プログラムの実行処理を行う。記憶部３２は、ＲＯＭ、ＲＡＭ、ハードディスク、フラッシュメモリ等の記憶装置であり、各種データや動作プログラム等を記憶している。Ｉ／Ｏ部３３は、外部装置との入出力等を行うものである。通信部３４は、例えば所定の通信規格に基づいて通信を行う通信ユニットであり、本実施形態ではサーバ１との通信を行う。表示部３５は、ディスプレイ等と接続され所定の表示を行う。検知部３６は、センサと接続されセンサ情報をデジタルデータとして検出する。駆動部３７は、制御部からの指令に応じて、接続される（図示しない）モータ等を駆動する。
　図４は、ロボット３の制御部３１に関する機能ブロック図である。同図から明らかな通り、制御部３１は、センサ情報取得部３１１、予測処理部３１２、暗号化処理部３１９、ハッシュ化処理部３１３、情報取得要否判定部３１４、キャッシュ情報取得処理部３１５、サーバ情報取得処理部３１６、復号化部３１７及び駆動指令部３１８を備えている。
　センサ情報取得部３１１は、検知部３６にて取得されたセンサ情報を取得する。予測処理部３１２は、ニューラルネットワークを教師有り学習することにより生成された予測モデル（学習済モデル）の構成等に関する基本情報や重み情報等を読み込むと共に、入力されたデータに基づいて所定の予測出力を生成する。暗号化処理部３１９は、入力されたデータを公開鍵等により暗号化する処理を行う。ハッシュ化処理部３１３は、入力された情報をハッシュ化して対応するハッシュ値、すなわち、規則性の無い固定長の値を生成する。情報取得要否判定部３１４は、所定のデータに対して既にそれと対応するデータが所定のテーブル中に記憶されているか否かを判定する。キャッシュ情報取得処理部３１５は、情報取得要否判定部３１４において所定のデータに対応するデータが存在すると判断された場合にその対応するデータを取得する。サーバ情報取得処理部３１５は、サーバ１へと所定のデータを送信して当該データに対応するデータを受信する。復号化部３１７は、公開鍵等により暗号化されたデータを暗号鍵にて復号化処理する。駆動指令部３１８は、出力データに基づいてモータ等を駆動する。
　図５は、サーバ１の制御部１１に関する機能ブロック図である。同図から明らかな通り、制御部１１は、データ入力受付部１１１、復号化処理部１１２、予測処理部１１３、暗号化処理部１１４及びデータ送信部１１５を備えている。
　データ入力受付部１１１は、ロボット３から送信されるデータ入力を受け付ける。復号化処理部１１２は、公開鍵等により暗号化されたデータを暗号鍵等により復号化する。予測処理部１１３は、ニューラルネットワークを教師有り学習することにより生成された予測モデル（学習済モデル）の構成等の基本情報や重み情報等を読み込むと共に、入力されたデータに基づいて所定の予測出力を生成する。暗号化処理部１１４は、入力されるデータを公開鍵等により暗号化する。データ送信部は、送信対象データをロボット３へと送信する処理を行う。
　＜１．２　システムの動作＞
  次に、図６～図９を参照しつつ、システム１０の動作について説明する。
　図６及び図７を参照しつつ、本実施形態におけるロボット３の予測処理動作について説明する。本実施形態において、ロボット３は、取得したセンサ情報に基づいて所定の予測処理を行いモータ等の動作部を駆動するものである。
　ロボット３において、予測処理が開始すると、センサ情報取得部３１１を介してセンサ情報（Ｉ）を取得する処理が行われる（Ｓ１）。続いて、このセンサ情報（Ｉ）を予測処理部３１２へと入力して入力段階から第１の中間層まで予測処理を行い入力側中間層データ（Ｘ１）を生成する（Ｓ３）。
　生成された入力側中間層データ（Ｘ１）は、暗号化処理部３１９において公開鍵により暗号化され暗号化入力側中間層データ（Ｘ１'）が生成される（Ｓ５）。暗号化入力側中間層データ（Ｘ１'）は、その後、ハッシュ化処理部３１３によりハッシュ化され、ハッシュ値（Ｙ１）が生成される（Ｓ７）。
　続いて、情報取得要否判定処理部３１４は、ハッシュテーブルを読み出し、生成されたハッシュ値（Ｙ１）に対応する暗号化出力側中間層データ（Ｚ１'）がハッシュテーブル中に存在するか否かを判定する（Ｓ９）。出力側中間層データ（Ｚ１）は、後述するように、第１の中間層より出力層寄りの第２の中間層出力を表しており、暗号化出力側中間層データ（Ｚ１'）は、サーバ１において公開鍵により暗号化された第２の中間層の出力を表している。
　判定（Ｓ９）の結果、ハッシュ値（Ｙ１）に対応する暗号化出力側中間層データ（Ｚ１'）がハッシュテーブル中に存在する場合（Ｓ１１ＹＥＳ）、キャッシュ情報取得処理部３１５は、当該暗号化出力側中間層データ（Ｚ１'）をキャッシュ情報として取得する処理を行う（Ｓ１３）。
　一方、判定の結果、ハッシュ値（Ｙ１）に対応する暗号化出力側中間層データ（Ｚ１'）がハッシュテーブル中に存在しない場合（Ｓ１１ＮＯ）、サーバ情報取得処理部３１６は、暗号化入力側中間層データ（Ｘ１'）をサーバ１へと送信し（Ｓ１５）、その後所定の待機状態（Ｓ１７ＮＯ）へと移行する。この待機状態において、サーバ１より暗号化出力側中間層データ（Ｚ１'）を受信すると、待機状態が解除され（Ｓ１７ＹＥＳ）、受信した暗号化出力側中間層データ（Ｚ１'）を前記ハッシュ値（Ｙ１）と対応付けて保存する処理が行われる（Ｓ１９）。なお、この間のサーバ１の動作は図８において詳述する。
　復号化部３１７は、取得した暗号化出力側中間層データ（Ｚ１'）を秘密鍵により復号化することで出力側中間層データ（Ｚ１）を生成する（Ｓ２１）。その後、予測処理部３１２は、生成された出力側中間層データ（Ｚ１）に基づいて、第２の中間層から出力層までの予測処理を行い最終出力（Ｏ）を生成する（Ｓ２３）。その後、駆動指令部３１８は、最終出力（Ｏ）に基づいてモータ等の駆動部へと駆動指令を行う（Ｓ２５）。この駆動処理が完了すると、再度、センサ情報の取得処理が行われ（Ｓ１）、以後、一連の処理（Ｓ１～Ｓ２５）が繰り返される。
　次に、図８を参照しつつ、サーバ１の予測処理動作について説明する。
　サーバ１において予測処理が開始すると、サーバ１は、データ入力受付部１１１により所定の待機状態へと移行する（Ｓ３１ＮＯ）。この状態において、ロボット３からの暗号化入力側中間層データ（Ｘ１'）を受信すると待機状態が解除され（Ｓ３１ＮＯ）、復号化処理部１１２により、受信した暗号化入力側中間層データ（Ｘ１'）を秘密鍵により復号化して入力側中間層データ（Ｘ１）を生成する処理が行われる（Ｓ３３）。その後、予測処理部１１３は、この入力側中間層データ（Ｘ１）を入力として第１の中間層から第２の中間層までの予測処理を行い、出力側中間層データ（Ｚ１）を生成する（Ｓ３５）。
　暗号化処理部１１４は、この出力側中間層データ（Ｚ１）を公開鍵を用いて暗号化して、暗号化出力側中間層データ（Ｚ１）を生成する（Ｓ３７）。その後、データ送信部１１５は、暗号化出力側中間層データ（Ｚ１'）をロボット３へと送信する（Ｓ３９）。この送信処理が終了すると、サーバ１は、再び受信待機状態（Ｓ３１）へと戻り、以後、一連の処理（Ｓ３１～Ｓ３９）が繰り返される。
　図９は、本実施形態に係るシステム１により実現される予測処理の概念図である。同図において、上段は、ロボット３において行われる予測処理の概念図であり、下段は、サーバ１において行われる予測処理の概念図である。また、同図の左側が入力側、右側が出力側を示している。
　同図から明らかな通り、ロボット３においてセンサ情報（Ｉ）が入力されると、予測処理部３１２は、入力段階から第１の中間層までの間の予測処理を行い、入力側中間層データ（Ｘ１）を生成する。その後、入力側中間層データ（Ｘ１）は、暗号化を経てサーバ１へと送信され、サーバ１において復号化される。
　サーバ１において、予測処理部１１３は、入力側中間層データ（Ｘ１）を入力として、第１の中間層から第２の中間層までの予測処理を行い、出力側中間層データ（Ｚ１）を生成する。その後、出力側中間層データ（Ｚ１）は、暗号化を経てロボット３へと送信され、ロボット３において復号化される。
　ロボット３において、予測処理部３１２は、第２の中間層から出力層までの間の予測処理を行い、最終出力（Ｏ）を生成する。
　このような構成によれば、機械学習を用いた予測処理を行う上で、クライアント装置（ロボット３）とサーバとの間では、抽象化された中間出力のみが送受信され、生データを送受信する必要がない。従って、クライアント装置のユーザは、個人情報や営業秘密等の情報を確実に保護することができる。また、予測モデルの提供者にとっては、クライアント装置側へと予測モデルの全体を提供する必要がない。従って、アルゴリズムやそのアルゴリズムを実装したプログラムの漏洩等のリスクを低減することができる。すなわち、予測モデルの利用者側と提供者側の双方の要求を満たすことができるセキュアな予測システムを提供することができる。
　また、ハッシュテーブルへと記憶されているデータに関してはサーバへの問合せが不要となるので、サーバ利用コストを削減することができ、また、予測処理の高速化を実現することができる。また、システムを継続的に利用してハッシュテーブルへと十分な情報の蓄積を行えば、クライアント装置をほぼ自律的に動作させることも可能となる。
　さらに、クライアント装置とサーバとの間で通信される中間出力については暗号化処理がなされている。そのため、一層のデータの安全が図られている。
　加えて、上述の実施形態においては、ハッシュ化処理がなされている。これにより、データの安全性が向上すると共に、ハッシュテーブルにおける検索処理の高速化により、判定処理の高速化を実現することができる。
　＜２．第２の実施形態＞
  本実施形態では、システム２０において、サーバが多段階に配置される。
　＜２．１　システムの構成＞
  図１０～図１２を参照しつつ、本実施形態に係るシステム２０の構成について説明する。本実施形態においては、サーバ５、６が多段で構成されている。
　図１０は、本実施形態に係るシステム２０の全体構成図である。同図から明らかな通り、本実施形態に係るシステム２０は、サーバ５とクライアント装置としての複数のロボット７（７－１～７－Ｎ）とがネットワークを介して通信により接続される点において第１の実施形態と同一である。しかしながら、本実施形態は、ロボット７と最終サーバ５との間に中間サーバ６が介在する点において第１の実施形態と相違する。この中間サーバ６は、例えば機械学習技術のベンダ（ＡＩベンダ）等により運用される。
　図１１は、ロボット７と最終サーバ５との間に介在する中間サーバ６のハードウェア構成について示す図である。同図から明らかな通り、中間サーバ６は、制御部６１、記憶部６２、Ｉ／Ｏ部６３、通信部６４、表示部６５、入力部６６を備え、それらはシステムバス等を介して互いに接続されている。制御部６１は、ＣＰＵ又はＧＰＵ等のプロセッサで構成されており各種プログラムの実行処理を行う。記憶部６２は、ＲＯＭ、ＲＡＭ、ハードディスク、フラッシュメモリ等の記憶装置であり、各種データや動作プログラム等を記憶している。Ｉ／Ｏ部６３は、外部装置との入出力等を行うものである。通信部６４は、例えば所定の通信規格に基づいて通信を行う通信ユニットであり、最終サーバ５及びクライアント装置としてのロボット７との通信を行う。表示部６５は、ディスプレイ等と接続され所定の表示を行う。入力部６６は、例えばキーボードやマウス等により管理者からの入力を受け付けるものである。
　図１２は、中間サーバ６の制御部６１に関する機能ブロック図である。同図から明らかな通り、制御部６１は、データ入力受付部６１１、復号化処理部６１２、予測処理部６１３、暗号化処理部６１４、ハッシュ化処理部６１５、情報取得要否判定部６１６、キャッシュ情報取得処理部６１７、サーバ情報取得処理部６１８及びデータ送信部６１９を備えている。
　データ入力受付部６１１は、ロボット３又は最終サーバ５から送信されるデータ入力を受け付ける。復号化処理部６１２は、公開鍵等により暗号化されたデータを暗号鍵等により復号化する。予測処理部６１３は、ニューラルネットワークを教師有り学習することにより生成された予測モデル（学習済モデル）の構成等の基本情報や重み情報等を読み込むと共に、入力されたデータに基づいて所定の予測出力を生成する。暗号化処理部６１４は、入力されるデータを公開鍵等により暗号化する。ハッシュ化処理部６１５は、入力された情報をハッシュ化して対応するハッシュ値、すなわち、規則性の無い固定長の値を生成する。情報取得要否判定部６１６は、所定のデータに対して既にそれと対応するデータが所定のテーブル中に記憶されているか否かを判定する。キャッシュ情報取得処理部６１７は、情報取得要否判定部６１６において所定のデータに対応するデータが存在すると判断された場合にその対応するデータを取得する。サーバ情報取得処理部６１８は、最終サーバ５へと所定のデータを送信して当該データに対応するデータを受信する。データ送信部６１９は、送信対象データをロボット３又は最終サーバ５へと送信する処理を行う。
　なお、最終サーバ５とロボット７のハードウェア構成は、第１の実施形態のサーバ１とロボット３の構成と略同一であるので、ここでは記載を省略する。
　＜２．２　システムの動作＞
  次に、図１３～図１６を参照しつつ、本実施形態に係るシステム２０の動作について説明する。
　ロボット７の動作は、第１の実施形態と略同一である。すなわち、図６及び図７において示した通り、情報取得要否判定処理部３１４における判定（Ｓ９）の結果、ハッシュ値（Ｙ１）に対応する暗号化出力側中間層データ（Ｚ１'）がハッシュテーブル中に存在しない場合（Ｓ１１ＮＯ）、サーバ情報取得処理部３１６は、第１の暗号化入力側中間層データ（Ｘ１'）を中間サーバ６へと送信し（Ｓ１５）、その後所定の待機状態（Ｓ１７ＮＯ）へと移行する。この待機状態において、サーバ１より第１の暗号化出力側中間層データ（Ｚ１'）を受信すると、待機状態が解除され（Ｓ１７ＹＥＳ）、受信した第１の暗号化出力側中間層データ（Ｚ１'）を前記ハッシュ値（Ｙ１）と対応付けて保存する処理が行われる（Ｓ１９）。
　図１３及び図１４は、中間サーバ６の予測処理動作に関するフローチャートである。中間サーバ６は、予測処理が開始すると、データ入力受付部６１１により所定の待機状態に移行する（Ｓ５１ＮＯ）。その後、ロボット７から第１の暗号化入力側中間層データ（Ｘ１'）を受信すると（Ｓ５１ＹＥＳ）、待機状態が解除される。その後、復号化処理部６１２は、受信した第１の暗号化入力側中間層データ（Ｘ１'）を秘密鍵により復号化処理し、第１の入力側中間層データ（Ｘ１）を生成する（Ｓ５３）。
　予測処理部６１３は、復号化した第１の入力側中間層データ（Ｘ１）に基づいて、第１の中間層から第３の中間層までの予測処理を行って第２の入力側中間層データ（Ｘ２）を生成する（Ｓ５５）。暗号化処理部６１４は、第２の入力側中間層データ（Ｘ２）を公開鍵で暗号化して第２の暗号化入力側中間層データ（Ｘ２'）を生成する（Ｓ５７）。また、ハッシュ化処理部６１５は、第２の暗号化入力側中間層データ（Ｘ２'）をハッシュ化処理して第２のハッシュ値（Ｙ２）を生成する（Ｓ５９）。
　その後、情報取得要否判定部６１６は、中間サーバ６に記憶された第２のハッシュテーブルを読み出し、生成された第２のハッシュ値（Ｙ２）に対応する第２の暗号化出力側中間層データ（Ｚ２'）が第２のハッシュテーブル中に存在するか否かを判定する（Ｓ６１）。この判定（Ｓ９）の結果、第２のハッシュ値（Ｙ２）に対応する第２の暗号化出力側中間層データ（Ｚ２'）がハッシュテーブル中に存在する場合（Ｓ６３ＹＥＳ）、キャッシュ情報取得処理部６１７は、当該第２の暗号化出力側中間層データ（Ｚ２'）をキャッシュ情報として取得する処理を行う（Ｓ６５）。
　一方、判定の結果、第２のハッシュ値（Ｙ２）に対応する第２の暗号化出力側中間層データ（Ｚ２'）が第２のハッシュテーブル中に存在しない場合（Ｓ６３ＮＯ）、サーバ情報取得処理部６１８は、第２の暗号化入力側中間層データ（Ｘ２'）をサーバ１へと送信し（Ｓ６７）、その後所定の待機状態（Ｓ６９ＮＯ）へと移行する。この待機状態において、最終サーバ５より第２の暗号化出力側中間層データ（Ｚ２'）を受信すると、待機状態が解除され（Ｓ６９ＹＥＳ）、受信した第２の暗号化出力側中間層データ（Ｚ２'）を前記第２のハッシュ値（Ｙ２）と対応付けて保存する処理が行われる（Ｓ７１）。なお、この間の最終サーバ５の動作は図１５において後述する。
　復号化処理部６１２は、取得した第２の暗号化出力側中間層データ（Ｚ２'）を秘密鍵により復号化することで第２の出力側中間層データ（Ｚ２）を生成する（Ｓ７３）。その後、予測処理部６１３は、生成された第２の出力側中間層データ（Ｚ２）に基づいて、第４の中間層から第２の中間層までの予測処理を行い、第１の出力側中間層データ（Ｚ１）を生成する（Ｓ７５）。暗号化処理部６１４は、第１の出力側中間層データ（Ｚ１）に暗号化処理を行い第１の暗号化出力側中間層データ（Ｚ１'）を生成する（Ｓ７７）。その後、データ送信部６１９は、第１の暗号化出力側中間層データ（Ｚ１'）をロボット７へと送信する。この送信処理が終了すると、中間サーバ６は再び受信待機状態（Ｓ５１ＮＯ）へと戻り、以後、一連の処理（Ｓ５１～Ｓ７９）が繰り返される。
　図１５は、最終サーバ５の予測処理動作に関するフローチャートを示している。
　予測処理が開始すると、最終サーバ５は、データ入力受付部１１１により所定の待機状態へと移行する（Ｓ８１ＮＯ）。この状態において、中間サーバ６からの第２の暗号化入力側中間層データ（Ｘ２'）を受信すると待機状態が解除される（Ｓ８１ＹＥＳ）。復号化処理部１１２は、受信した第２の暗号化入力側中間層データ（Ｘ２'）を秘密鍵により復号化する処理を行い、第２の入力側中間層データ（Ｘ２）を生成する（Ｓ８３）。その後、予測処理部１１３は、この第２の入力側中間層データ（Ｘ２）を入力として第３の中間層から第４の中間層までの予測処理を行い、第２の出力側中間層データ（Ｚ２）を生成する（Ｓ８５）。
　暗号化処理部１１４は、この第２の出力側中間層データ（Ｚ２）を公開鍵を用いて暗号化して、第２の暗号化出力側中間層データ（Ｚ２'）を生成する（Ｓ８７）。その後、データ送信部１１５は、第２の暗号化出力側中間層データ（Ｚ２'）を中間サーバ６へと送信する（Ｓ８９）。この送信処理が終了すると、最終サーバ５は再度受信待機状態（Ｓ８１）へと戻り、以後、一連の処理（Ｓ８１～Ｓ８９）が繰り返される。
　図１６は、本実施形態に係るシステム２０により実現される予測処理の概念図である。同図において、上段は、ロボット７において行われる予測処理の概念図であり、中段は、中間サーバ６において行われる予測処理の概念図であり、下段は、最終サーバ５において行われる予測処理の概念図である。また、同図において左側が入力側、右側が出力側を示している。
　同図から明らかな通り、ロボット３においてセンサ情報（Ｉ）が入力されると、予測処理部３１２は、入力段階から第１の中間層までの間の予測処理を行い、第１の入力側中間層データ（Ｘ１）を生成する。その後、第１の入力側中間層データ（Ｘ１）は、暗号化を経て中間サーバ６へと送信され、中間サーバ６において復号化される。
　中間サーバ６において、予測処理部６１３は、第１の中間層から第３の中間層までの間の予測処理を行い、第２の入力側中間層データ（Ｘ２）を生成する。その後、第２の入力側中間層データ（Ｘ２）は、暗号化を経て最終サーバ５へと送信され、最終サーバ５において復号化される。
　最終サーバ５において、予測処理部１１３は、第２の入力側中間層データ（Ｘ２）を入力として、第３の中間層から第４の中間層までの予測処理を行い、第２の出力側中間層データ（Ｚ２）を生成する。その後、第２の出力側中間層データ（Ｚ２）は、暗号化を経て中間サーバ６へと送信され、中間サーバ６において復号化される。
　中間サーバ６において、予測処理部６１３は、第４の中間層から第２の中間層までの間の予測処理を行い、第１の出力側中間層データ（Ｚ１）を生成する。その後、第１の出力側中間層データ（Ｚ１）は、暗号化を経てロボット７へと送信され、ロボット７において復号化される。
　ロボット７において、予測処理部３１２は、第２の中間層から出力層までの間の予測処理を行い、最終出力（Ｏ）を生成する。
　このような構成によれば、サーバが多段に設けられていることから、クライアント装置及び各サーバにおける個々の装置の処理負担を軽減することができると同時に、多段化によるスケールメリットによりクライアント装置における予測性能の向上も見込むことができる。しかも、このように多段化を行っても、各サーバはキャッシュ情報に基づいた予測処理も行うことから処理の低速化が生じにくい。なお、予測モデルが分散配置されるのでよりシステムの安全性の向上等も見込まれ、また、複数の管理者による各サーバの分担管理も可能となる。
　＜３．第３の実施形態＞
  本実施形態では、システム３０が予測処理に加えて学習処理を行う。
　＜３．１　システムの構成＞
  本実施形態に係るシステム３０の構成は、第２の実施形態において示したものと略同一である。尤も、ロボット７、中間サーバ６及び最終サーバ５の各制御部が、予測処理に加えて学習処理のための機能ブロックを有する点において相違する。
　図１７は、ロボット７の制御部７１０の機能ブロック図である。
　同図において、予測処理部７１０１の内容は、図４において示した構成と略同一であるので詳細な説明は省略する。ただし、予測処理部７１０１は、さらにキャッシュテーブル追加処理部７１０９を備える点において異なる。キャッシュテーブル追加処理部７１０９は、図７において復号化処理（Ｓ２１）を行って出力側中間層データ（Ｚ１）を生成した後に、当該出力側中間層データ（Ｚ１）を、対応する入力側中間層データ（Ｘ１）と共に、キャッシュテーブルへと追加記憶させる処理を行う。このキャッシュテーブルは後述の学習処理に用いられる。
　制御部７１０は、さらに、学習処理部７１０２を有している。学習処理部７１０２は、データ読出部７１０２、近似関数生成処理部７１１６、予測処理部７１１７、誤差逆伝播処理部７１１８、パラメータ更新処理部７１１９、暗号化処理部７１２０、及びデータ送信処理部７１２１を備えている。
　データ読出部７１１５は、ロボット７内に記憶されている種々のデータの読出処理を行う。近似関数生成処理部７１１６は、所定の入出力の対応関係に関するキャッシュテーブルに基づき、後述の手法にて近似関数を生成する。予測処理部７１１７は、ニューラルネットワークを教師有り学習することにより生成された予測モデル（学習済モデル）の構成等の基本情報や重み情報等を読み込むと共に、入力されたデータに基づいて所定の予測出力を生成する。
　誤差逆伝播処理部７１１８は、予測モデルの出力と教師データとを比較して得られた誤差をモデルの出力側から入力側へと伝播させる処理（Ｂａｃｋ　Ｐｒｏｐａｇａｔｉｏｎ）を行う。パラメータ更新処理部７１１９は、予測モデルの出力と教師データとの誤差を小さくするよう重み等のモデルのパラメータを更新する処理を行う。暗号化処理部７１２０は、所定の対象データを公開鍵等により暗号化する処理を行う。データ送信処理部７１２１は、所定の対象データを中間サーバ６へと送信する処理を行う。
　図１８は、中間サーバ６の制御部６１０の機能ブロック図である。
　同図において、予測処理部６１０１の内容は、図１２において示した構成と略同一であるので詳細な説明は省略する。ただし、予測処理部６１０１は、さらにキャッシュテーブル追加処理部６１１２を備える点において異なる。キャッシュテーブル追加処理部６１１２は、図１４において復号化処理（Ｓ７５）を行って第２の出力側中間層データ（Ｚ２）を生成した後に、当該第２の出力側中間層データ（Ｚ２）を、対応する第２の入力側中間層データ（Ｘ２）と共に、キャッシュテーブルへと追加記憶させる処理を行う。このキャッシュテーブルは後述の学習処理に用いられる。
　制御部６１０は、さらに、学習処理部６１０２を有している。学習処理部６１０２は、データ入力受付部６１２３、データ読出部６１１５、サンプリング処理部６１１６、近似関数生成処理部６１１７、予測処理部６１１８、誤差逆伝播処理部６１１９、パラメータ更新処理部６１２０、暗号化処理部６１２１、及びデータ送信処理部６１２２を備えている。
　データ入力受付部６１２３は、ロボット７から受信する第１のキャッシュテーブル等の種々のデータを受信して復号化し記憶する処理を行う。データ読出部６１１５は、中間サーバ６内に記憶されている種々のデータの読出処理を行う。サンプリング処理部６１１６は、キャッシュテーブルから学習対象となるデータセットを選択する処理を行う。近似関数生成処理部６１１７は、所定の入出力の対応関係に関するキャッシュテーブルに基づき、後述の手法にて、近似関数を生成する。予測処理部６１１８は、ニューラルネットワークを教師有り学習することにより生成された予測モデル（学習済モデル）の構成等の基本情報や重み情報等を読み込むと共に、入力されたデータに基づいて所定の予測出力を生成する。
　誤差逆伝播処理部６１１９は、予測モデルの出力と教師データとを比較して得られた誤差をモデルの出力側から入力側へと伝播させる処理（Ｂａｃｋ　Ｐｒｏｐａｇａｔｉｏｎ）を行う。パラメータ更新処理部６１２０は、予測モデルの出力と教師データとの誤差を小さくするよう重み等のモデルのパラメータを更新する処理を行う。暗号化処理部６１２１は、所定の対象データを公開鍵等により暗号化する処理を行う。データ送信処理部６１２２は、所定の対象データをロボット７又は最終サーバ５へと送信する処理を行う。
　図１９は、最終サーバ５の制御部５１０の機能ブロック図である。
　同図において、予測処理部５１０１の内容は、図５において示した構成と略同一であるので詳細な説明は省略する。
　制御部５１０は、さらに、学習処理部５１０２を有している。学習処理部５１０２は、データ入力受付部５１１５、データ読出部５１１０、サンプリング処理部５１１１、予測処理部５１１２、誤差逆伝播処理部５１１３、及びパラメータ更新処理部５１１４を備えている。
　データ入力受付部５１１５は、中間サーバ６から受信する第２のキャッシュテーブル等の種々のデータを受信して復号化し記憶する処理を行う。データ読出部５１１０は、最終サーバ５内に記憶されている種々のデータの読出処理を行う。サンプリング処理部５１１１は、第２のキャッシュテーブルから学習対象となるデータセットを選択する処理を行う。予測処理部５１１２は、ニューラルネットワークを教師有り学習することにより生成された予測モデル（学習済モデル）の構成等の基本情報や重み情報等を読み込むと共に、入力されたデータに基づいて所定の予測出力を生成する。
　誤差逆伝播処理部５１１３は、予測モデルの出力と教師データとを比較して得られた誤差をモデルの出力側から入力側へと伝播させる処理（Ｂａｃｋ　Ｐｒｏｐａｇａｔｉｏｎ）を行う。パラメータ更新処理部５１１４は、予測モデルの出力と教師データとの誤差を小さくするよう重み等のモデルのパラメータを更新する処理を行う。
　＜３．２　システムの動作＞
  続いて、図２０～図２６を参照しつつ、システム３０の動作について説明する。なお、予測処理動作については第２の実施形態と略同一であるのでここでは説明を省略する。
　図２０は、ロボット７における学習処理動作のフローチャートである。同図から明らかな通り、学習処理動作が開始すると、データ読出部７１１５は、ロボット７内に記憶され教師データに相当する入出力データテーブルから一対の入出力対（Ｘ０、Ｚ０）を読み出す（Ｓ１０１）。この読み出しを行うと、予測処理部７１１７は、入力データＸ０に基づいて、予測モデルの入力層から第１の中間層へと至る区間において予測処理を行ない入力側中間層データ（Ｘ１－ｓ１）を生成する（Ｓ１０３）。
　一方、これら（Ｓ１０１～Ｓ１０３）と並行して、データ読出部７１１５は、予測処理時にロボット７へと蓄積された第１の入力側中間層データ（Ｘ１）と第１の出力側中間層データ（Ｚ１）との対応関係を含む第１のキャッシュテーブルを読み出す処理を行う（Ｓ１０５）。第１のキャッシュテーブルを読み出した後、この第１のキャッシュテーブルに基づいて、近似関数を生成する処理が行われる（Ｓ１０７）。
　ここで、近似関数の生成処理について詳細に説明する。第１の入力側中間層（説明の便宜上、仮にＸ層とする）のデータ（Ｘ１）を入力として、第１の出力側中間層（説明の便宜上、仮にＺ層とする）のデータ（Ｚ１）を生成するデータ変換（キャッシュ変換）は、以下のように表すことができる。
Figure JPOXMLDOC01-appb-M000001
　ここで、ｎ個のニューロンから成るＸ層のデータを表すベクトルは以下のように表すことができる。
Figure JPOXMLDOC01-appb-M000002
　同様に、Ｎ個のニューロンから成るＺ層のデータを表すベクトルは以下のように表すことができる。
Figure JPOXMLDOC01-appb-M000003
　また、Ｚ層のｋ番目の値ｚｋは数式（１）より、他のＮ－１個の値と独立して計算が可能であるから、以下の通り表すことができる。
Figure JPOXMLDOC01-appb-M000004
　このとき、変換関数Ｓｋは、キャッシュ変換の性質により、Ｘ層のデータベクトルの各成分値の組み合わせが第１のキャッシュテーブル内に存在しなければ、対応するＺ層のｋ番目の値へと変換することができない。そのため、次のような１次方程式である数式（５）により近似する。
Figure JPOXMLDOC01-appb-M000005
　なお、数式（５）の変数は、下記のｎ＋１個である。
Figure JPOXMLDOC01-appb-M000006
　従って、数式（５）の解を求めるためには、数式（４）からｎ＋１個のデータを抽出して、以下のｎ＋１元１次連立方程式を解けばよいこととなる。
Figure JPOXMLDOC01-appb-M000007
　なお、このｎ＋１個のデータを抽出する際には、近似値を得たい点の近傍のキャッシュデータを選出することが好ましい。近似値を得たい点の近傍のキャッシュデータを可能な限り抽出することで、近似誤差の変動を抑制することができるためである。このようなキャッシュデータの抽出に関する概念図が図２１に示されている。
　ここで、以下の通り、定義することができる。
Figure JPOXMLDOC01-appb-M000008
　そうすると、数式（７）は、下記の通り簡潔に表現することができる。
Figure JPOXMLDOC01-appb-M000009
　ｎ＋１次の正方行列であるＡが正則行列であれば、数式（９）は一意に以下の解ｖｋをもつ。
Figure JPOXMLDOC01-appb-M000010
　すなわち、数式（９）をガウスの消去法等のアルゴリズムに則り、コンピュータで演算することで、数式（１０）の解ｖｋを得ることができる。この解ｖｋを代入することで、数式（５）は以下のように表すことができる。
Figure JPOXMLDOC01-appb-M000011
　すなわち、この数式（１１）が近似式となる。なお、同数式から明らかな通り、Ｘ層のデータベクトルの各成分について近似的に偏微分が可能であるので、例えば、Ｚ層からＸ層への誤差逆伝播等も容易に行うことができる。すなわち、キャッシュテーブルが対応する学習モデル部分の前後、すなわち、例えば入力側・出力側の各機械学習モデルが多階層ニューラルネットワークモデルであっても、誤差逆伝播法を用いて高速に学習処理を行うことができる。
　図２０のフローチャートに戻り、第１の入力側中間層データ（Ｘ１－ｓ１）の生成処理（Ｓ１０３）と近似関数の生成処理（Ｓ１０７）が完了すると、予測処理部７１１７により、第１の入力側中間層データ（Ｘ１）と近似関数に基づいて、第１の中間層から第２の中間層へと至る区間の予測処理が行われ出力側中間層データ（Ｚ１－ｓ１）が生成される（Ｓ１０９）。また、その後、予測処理部７１１７は、出力側中間層データ（Ｚ１－ｓ１）を入力として、第２の中間層から出力層へと至る区間の予測処理を行い、最終出力（Ｚ０－ｓ１）を生成する（Ｓ１１１）。
　誤差逆伝播処理部６１１９は、教師データに係る教師出力（Ｚ０）と最終出力（Ｚ０－ｓ１）との誤差を生成し、当該誤差又はそれに基づく所定の値（例えば、二乗平均誤差等）を、例えば、最急降下法等の手法により出力側から入力側へと伝播する（Ｓ１１３）。
　その後、パラメータ更新処理部７１１９は、逆伝播された誤差等に基づいて、学習モデルのうち、近似関数部分を除く、入力層から第１の中間層へと至る区間と、第２の中間層から出力層へと至る区間の重み等のパラメータを更新する処理を行う（Ｓ１１５）。
　その後、ロボット７は、第１のキャッシュテーブルを送信することが許可されているか否かを所定の設定情報から確認する（Ｓ１１７）。その結果、送信許可がない場合には、学習終了判定（Ｓ１２１）を行い、終了しない場合（Ｓ１２１ＮＯ）には、再度すべての処理（Ｓ１０１～Ｓ１２１）を繰り返す。一方、終了する場合（Ｓ１２１ＹＥＳ）には、学習処理は終了する。
　一方、キャッシュテーブルの送信許可がある場合（Ｓ１１７ＹＥＳ）には、データ送信処理部７１２１は、暗号化処理部７１２０による暗号化を施した第１のキャッシュテーブルを中間サーバ６へと送信する処理を行う（Ｓ１１９）。なお、その後、学習終了判定（Ｓ１２１）が行われる。
　次に、中間サーバ６の学習処理動作について説明する。
　図２２は、ロボット７から送信される第１のキャッシュテーブルの受信及び記憶処理に関するフローチャートである。同図から明らかな通り、中間サーバ６において学習処理が開始すると、データ入力受付部６１２３は、データ受信待機状態へと移行する（Ｓ１３１）。この状態において、暗号化された第１のキャッシュテーブルに相当するデータを受信すると（Ｓ１３１ＹＥＳ）、データ受信待機状態は解除され、受信した第１のキャッシュデータを秘密鍵等により復号化し（Ｓ１３３）、記憶部へと記憶する処理（Ｓ１３５）が行われる。この記憶処理が終了すると、再び中間サーバ６は受信待機状態（Ｓ１３１ＮＯ）へと移行する。
　図２３は、図２２に示した第１のキャッシュテーブルの受信処理と平行して実行される、中間サーバ６における学習処理動作に関するフローチャートである。同図から明らかな通り、学習処理が開始すると、データ読出部６１１５は、中間サーバ６内に記憶され教師データに相当する入出力データテーブルから入出力対（Ｘ１－ｓ１、Ｚ１－ｓ１）を読み出す（Ｓ１４１）。入出力対が読み出されると、サンプリング処理部６１１６は、学習に使用する入出力対を抽出する（Ｓ１４３）。この抽出処理の後、予測処理部６１１８は、入力データ（Ｘ１－ｓ１）に基づいて、予測モデルの第１の中間層から第３の中間層へと至る区間において予測処理を行なって、第２の入力側中間層データ（Ｘ２－ｓ２）を生成する（Ｓ１４５）。
　一方、これら（Ｓ１４１～Ｓ１４５）と並行して、データ読出部６１１５は、予測処理時に中間サーバ６へと蓄積された第２の入力側中間層データ（Ｘ２）と第１の出力側中間層データ（Ｚ２）との対応関係を含む第２のキャッシュテーブル（Ｘ２、Ｚ２）を読み出す処理を行う（Ｓ１４７）。第２のキャッシュテーブルを読み出した後、この第２のキャッシュテーブルに基づいて、第２の入力側中間層データ（Ｘ２）に基づいて第２の出力側中間層データ（Ｚ２）を生成するような近似関数を生成する処理が行われる（Ｓ１４９）。なお、近似関数の生成処理はロボット７における近似関数生成と同様である。
　第２の入力側中間層データ（Ｘ２－ｓ２）の生成処理（Ｓ１４５）と近似関数の生成処理（Ｓ１４９）が完了すると、予測処理部６１１８により、第２の入力側中間層データ（Ｘ２－ｓ２）と近似関数に基づいて、第３の中間層から第４の中間層へと至る区間の予測処理が行われ第２の出力側中間層データ（Ｚ２－ｓ２）が生成される（Ｓ１５１）。また、その後、予測処理部６１１８は、第２の出力側中間層データ（Ｚ２－ｓ２）を入力として、第４の中間層から第２の中間層へと至る区間の予測処理を行い、第２の出力側予測出力（Ｚ１－ｓ２）を生成する（Ｓ１５３）。
　誤差逆伝播処理部６１１９は、教師データ（Ｚ１－ｓ１）と第２の出力側予測出力（Ｚ１－ｓ２）との誤差を生成し、当該誤差又はそれに基づく所定の値（例えば、二乗平均誤差等）を、例えば、最急降下法等の手法により出力側から入力側へと伝播する（Ｓ１５５）。
　その後、パラメータ更新処理部６１２０は、逆伝播された誤差等に基づいて、学習モデルのうち、近似関数部分を除く、第１の中間層から第３の中間層へと至る区間と、第４の中間層から第２の中間層へと至る区間の重み等のパラメータを更新する処理を行う（Ｓ１５７）。
　その後、中間サーバ６は、第２のキャッシュテーブル（Ｘ２－ｓ２、Ｚ２－ｓ２）を送信することが許可されているか否かを所定の設定情報から確認する（Ｓ１５９）。その結果、送信許可がない場合には、学習終了判定（Ｓ１６３）を行い、終了しない場合（Ｓ１６３ＮＯ）には、再度すべての処理（Ｓ１４１～Ｓ１６３）を繰り返す。一方、終了する場合（Ｓ１６３ＹＥＳ）には、学習処理は終了する。
　一方、キャッシュテーブルの送信許可がある場合（Ｓ１５９ＹＥＳ）には、データ送信処理部６１２２は、暗号化処理部６１２１による暗号化を施した第２のキャッシュテーブルを最終サーバ５へと送信する処理を行う（Ｓ１６１）。なお、その後、学習終了判定（Ｓ１６３）が行われる。
　次に、最終サーバ５の学習処理動作について説明する。
　図２４は、中間サーバ６から送信される第２のキャッシュテーブル（Ｘ２－ｓ２、Ｚ２－ｓ２）の受信及び記憶処理に関するフローチャートである。同図から明らかな通り、最終サーバ５において学習処理が開始すると、データ入力受付部５１１５は、データ受信待機状態へと移行する（Ｓ１７１）。この状態において、暗号化された第２のキャッシュテーブルに相当するデータを受信すると（Ｓ１７１ＹＥＳ）、データ受信待機状態は解除され、受信した第２のキャッシュデータを秘密鍵等により復号化し（Ｓ１７３）、記憶部へと記憶する処理（Ｓ１７５）が行われる。この記憶処理が終了すると、再び最終サーバ５は受信待機状態（Ｓ１７１ＮＯ）へと移行する。
　図２５は、図２４に示した第２のキャッシュテーブルの受信処理と平行して実行される、最終サーバ５における学習処理動作に関するフローチャートである。学習処理が開始すると、データ読出部５１１０は、キャッシュテーブルを読み出す処理を行う（Ｓ１８１）。その後、サンプリング処理部（Ｓ５１１１）は、キャッシュテーブルから学習対象となる入出力対を抽出する（Ｓ１８３）。
　予測処理部５１１２は、読み出された第２の入力側中間層データ（Ｘ２－ｓ２）に基づき、第３の中間層から第４の中間層までの予測処理を行い、第２の出力側中間層データ（Ｚ２－ｓ３）を生成する（Ｓ１８５）。誤差逆伝播処理部５１１３は、第２の出力側中間層データ（Ｚ２－ｓ３）と教師データ（Ｚ２－ｓ２）との誤差を生成し、当該誤差又はそれに基づく所定の値（例えば、二乗平均誤差等）を、例えば、最急降下法等の手法により出力側から入力側へと伝播する（Ｓ１８７）。
　その後、パラメータ更新処理部５１１４は、逆伝播された誤差等に基づいて、学習モデルの重み等のパラメータを更新する処理を行う（Ｓ１８９）。パラメータの更新処理が行われると、学習の終了判定が行われ、所定の終了条件が満たされていない場合（Ｓ１９１ＮＯ）には、再度一連の処理（Ｓ１８１～Ｓ１８９）が行われる。一方、所定の終了条件が満たされた場合（Ｓ１９１ＹＥＳ）には、学習処理は終了する。
　図２６は、本実施形態に係るシステム３０により実現される学習処理の概念図である。同図において、上段は、ロボット７において行われる学習処理の概念図であり、中段は、中間サーバ６において行われる学習処理の概念図であり、下段は、最終サーバ５において行われる学習処理の概念図である。また、同図において左側が入力側、右側が出力側を示している。
　同図から明らかな通り、ロボット７において入力情報（Ｘ０）が入力されると、予測処理部７１１７は、入力段階から第１の中間層までの間の予測処理を行い、第１の入力側中間層データ（Ｘ１－ｓ１）を生成する。一方、近似関数生成処理部７１１６により、第１のキャッシュテーブル（Ｘ１、Ｚ１）に基づいて近似関数（Ｆ（ｘ））が生成される。予測処理部７１１７は、第１の入力側中間層データ（Ｘ１－ｓ１）と近似関数（Ｆ（ｘ））に基づいて、第１の出力側中間層データ（Ｚ１－ｓ１）を生成する。また、第１の出力側中間層データ（Ｚ１－ｓ１）に基づいて最終出力データ（Ｚ０－ｓ１）が生成される。誤差逆伝播処理部７１１８は、この最終出力データ（Ｚ０－ｓ１）と教師データ（Ｚ０）との間の誤差を最終出力段階から近似関数を経て入力段階まで逆伝播させる。その後、パラメータ更新処理部７１１９は、最終出力段階から第２の中間層、第１の中間層から入力段階までの間の重みを含むパラメータが更新される。また、このとき生成された第１のキャッシュテーブル（Ｘ１－ｓ１、Ｚ１－ｓ１）は、所定条件下で中間サーバ６へと提供される。
　また、同図から明らかな通り、中間サーバ６において第１の入力側中間層データ（Ｘ１－ｓ１）が入力されると、予測処理部６１１８は、第１の中間層から第３の中間層までの間の予測処理を行い、第２の入力側中間層データ（Ｘ２－ｓ２）を生成する。一方、近似関数生成処理部６１１７により、第１のキャッシュテーブル（Ｘ１－ｓ１、Ｚ１－ｓ１）に基づいて近似関数（Ｇ（ｘ））が生成される。予測処理部６１１８は、第２の入力側中間層データ（Ｘ２－ｓ２）と近似関数（Ｇ（ｘ））に基づいて、第２の出力側中間層データ（Ｚ２－ｓ２）を生成する。また、第２の出力側中間層データ（Ｚ２－ｓ２）に基づいて第１の出力側中間層データ（Ｚ１－ｓ２）が生成される。誤差逆伝播処理部６１１９は、この最終出力データ（Ｚ１－ｓ２）と教師データ（Ｚ１－ｓ１）との間の誤差を第２の中間層から近似関数を経て第１の中間層まで逆伝播させる。その後、パラメータ更新処理部６１２０は、第２の中間層から第４の中間層、第３の中間層から第１の中間層までの間の重みを含むパラメータを更新する。また、このとき生成された第２のキャッシュテーブル（Ｘ２－ｓ２、Ｚ２－ｓ２）は、所定条件下で最終サーバ５へと提供される。
　さらに、同図から明らかな通り、最終サーバ５において第２の入力側中間層データ（Ｘ２－ｓ２）が入力されると、予測処理部５１１２は、第３の中間層から第４の中間層までの間の予測処理を行い、第２の出力側中間層データ（Ｚ２－ｓ３）を生成する。誤差逆伝播処理部５１１３は、この第２の出力側中間層データ（Ｚ２－ｓ３）と教師データ（Ｚ２－ｓ２）との間の誤差を第４の中間層から第３の中間層まで逆伝播させる。その後、パラメータ更新処理部５１１４は、第４の中間層から第４の中間層までの間の重みを含むパラメータが更新される。
　＜４．変形例＞
  本発明は上述の実施形態の構成・動作に限定されるものではなく、様々に変形することが可能である。
　第３の実施形態において、キャッシュテーブルから生成される近似関数は学習処理の際のみ使用されるものとして記載した。しかしながら、本発明はこのような構成に限定されない。例えば、予測処理の目的で、それまでに得られているキャッシュテーブルに基づいて近似関数を生成し、第１の入力側中間層データ（Ｘ１）と近似関数とに基づいて、第１の中間層から第２の中間層へと至る区間の予測処理を行い出力側中間層データ（Ｚ１）を生成してもよい。このような構成によれば、例えば一定程度ハッシュテーブルへとデータが蓄積された後においては、サーバ側への問合せ頻度を大幅に減らすか又は問い合わせを行うことなく予測処理を行うことが可能となる。
　上述の実施形態においては、入力側中間層データ（Ｘ）（例えばＸ１又はＸ２）を暗号化、ハッシュ化した後に、当該ハッシュ値をキーとしてハッシュテーブル検索処理を行っている（例えば、図６のＳ１１、図１３のＳ５５など）。しかしながら、本発明はこのような構成に限定されない。従って、例えば、入力側中間層データ（Ｘ）について丸め処理を行った後に暗号化及び／又はハッシュ化し、ハッシュテーブル検索してもよい。丸め処理とは、入力側中間層データ（Ｘ）が属する集合をＵとしたときに、集合Ｕに属する特定の入力側中間層データにつき同じ値（Ｘ＿ｕ））（代表値）を持つものとみなす処理である。例えば、入力側中間層データ（Ｘ）の一部のノード値（ニューロン発火値）につき、数値の切り上げ又は切り下げ処理等を行って整数値に離散化させ複数の整数値の集合を形成してもよい。このような構成によれば、過去に得られたハッシュ値との一致性を向上させ、処理の高速化等を実現することができる。
　上述の実施形態においては、クライアント装置としてのロボット７は中間サーバ６又はサーバ１との間で直接通信する構成とした。しかしながら、このような構成に限定されない。図２７は、変形例に係るシステム４０の全体構成図である。同構成においてはシステム４０は、予測処理を行うサーバ２と、サーバ２とＷＡＮを介して接続され、かつ、ＬＡＮに接続された仲介サーバ８と、ＬＡＮに接続されたクライアント装置としてのロボット９とから構成されている。本変形例においては、サーバ２とクライアント装置９との間の情報のやり取りは仲介サーバ８を介して行われることとなる。
　上述の実施形態では、機械学習アルゴリズムとして、ニューラルネットワーク（又はディープラーニング）を用いた教師あり学習を例示した。しかしながら、本発明はそのような構成に限定されない。従って、例えば、他の分割可能であって、同様な形式で中間値を取り扱うことが可能な機械学習アルゴリズムを利用してもよい。また、教師あり学習のみならず、例えば、ＧＡＮ（Ｇｅｎｅｒａｔｉｖｅ　Ａｄｖｅｒｓａｒｉａｌ　Ｎｅｔｗｏｒｋｓ）やＶＡＥ（Ｖａｒｉａｔｉｏｎａｌ　Ａｕｔｏ　Ｅｎｃｏｄｅｒ）、ＳＯＭ（Ｓｅｌｆ－Ｏｒｇａｎｉｚｉｎｇ　Ｍａｐ）等の教師なし学習や、強化学習を利用してもよい。なお、強化学習を行う場合には、例えば、シミュレータ上での予測処理等を利用してもよい。
　上述の実施形態における学習処理においては、近似関数を式５において示した１次方程式により近似することで生成した。しかしながら、近似手法はこのような例に限定されず、他の手法により近似を行ってもよい。
　例えば、近似関数としてバイパス関数を利用してもよい。図２８は、バイパス関数を利用する例に関する概念図である。同図において、Ｈ（ｘ）は、式５等で示された１次方程式による近似関数を表し、Ｊ（ｘ）は、バイパス関数を表し、全体として近似関数を形成している。同図から明らかな通り、バイパス関数であるＪ（ｘ）は、１次方程式による近似関数Ｈ（ｘ）を迂回（バイパス）するように並列的に配置されている。なお、いずれの関数も誤差逆伝播法を適用可能である。
　図２９は、バイパス関数Ｊ（ｘ）の概念図である。同図の例にあっては、入力側中間層のノード数の方が出力側中間層のノード数より大きい場合が示されている。入力側中間層からデータが入力されると、バイパス関数Ｊ（ｘ）は、より少ないノード数（例えば、入力側中間層のノード数の半分程度）のプーリング層によりデータ圧縮を行う。その後、プーリング層におけるノード出力は、出力側中間層へと提供される。このとき、プーリング層から出力側中間層への結合が存在しないノードに対してはゼロ（０）が提供される（ゼロパディング）。
　例えば、入力側中間層のノード数ｎ＿ｘが３２個、出力側中間層のノード数ｎ＿ｚが２０個の場合、プーリング層のノード数は入力側中間層のノード数ｎ＿ｘの半分の１６個となる。このとき、プーリング手法としては、隣り合うノード値との平均を採る平均プーリング等を利用することができる。その後、プーリング層からの１６個の出力は出力側中間層へと提供される。このとき、プーリング層のノードと対応付かない４個の出力側中間層のノードに対しては、ゼロ（０）が提供される。なお、本変形例ではプーリング層を利用しているが、必ずしもプーリング層を利用する必要はなく、例えば、そのままデータを素通りさせる迂回路を形成してもよい。
　このような構成によれば、キャッシュテーブルに基づいて生成される近似関数を迂回することで誤差逆伝播が促進され、その結果、学習の効率化を行うことができる。
　また、例えば、近似関数として、複数のサブ近似関数の和を用いてもよい。図３０は、サブ近似関数の和を利用した近似の概念図である。同図から明らかな通り、近似関数の出力は、複数の異なる近似関数Ｋ＿１（ｘ）、Ｋ＿２（ｘ）、Ｋ＿３（ｘ）、・・・Ｋ＿ｎ（ｘ）（以下、便宜上、これらの関数をサブ近似関数と呼ぶ）にそれぞれ寄与係数ａ＿１、ａ＿２、ａ＿３、・・・ａ＿ｎを掛け合わせた値の総和（重み付き和）となる。なお、このとき、寄与係数ａ＿ｉ（ｉ＝１、２、・・・ｎ）はそれぞれ０以上１以下の値をとり、ａ＿ｉの総和は１、すなわち、ａ＿１＋ａ＿２＋・・・＋ａ＿ｎ＝１となる。この寄与係数は固定値であってもよいし、順方向演算や誤差逆伝播の度に異なる値を与える等変動させてもよい。各サブ近似関数は、キャッシュテーブルに基づいて生成される近似関数であり、ニューラルネットワークや上述の実施形態において利用した１次方程式による近似関数等である。なお、いずれのサブ近似関数も誤差逆伝播法を適用可能に構成されている。
　このような構成によれば、近似関数前後の階層とのアンサンブル効果により近似精度の向上が見込まれ、その結果、キャッシュテーブルにおけるデータ蓄積が不十分な場合であっても近似精度の維持又は向上を見込むことができる。
　上述の実施形態においては、ロボット、中間サーバ、最終サーバ等はすべての単一の装置として例示した。しかしながら、本発明はそのような構成に限定されない。従って、例えば、装置構成の一部を外部装置として別に設けてもよい。例えば、外部の大容量記憶ストレージを設置しサーバ等の装置と接続してもよい。また、単一の装置でなく、複数の装置を用いて分散処理等を行ってもよい。さらに、仮想化技術等を用いてもよい。
　上述の実施形態においては、一つのクライアント装置が１つのハッシュテーブルを保持するものとしたが、本発明はこのような構成に限定されない。従って、例えば、複数のクライアント装置間でハッシュテーブルを共有してもよい。これにより、各クライアント装置においてそれぞれ行われた予測処理のキャッシュが共有のものとして蓄積されていくので、より迅速に、サーバ利用コストの低減、処理の高速化、クライアント装置の自律的な動作などを実現することができる。なお、ハッシュテーブルの共有は、例えば、図２７のシステムにおける仲介サーバ８を用いて行われてもよいし、分散ハッシュテーブル等の技術を用いてサーバ等を介さずに直接各クライアント装置間で互いに情報の照会をすることにより行われてもよい。
　上述の実施形態においては学習処理を逐次的に行う例を示したが、このような構成に限定されない。従って、例えば、複数の入出力対に対応する誤差を一定程度蓄積させた後にバッチ的にパラメータ更新を行うような構成としてもよい。また、予測処理と平行して学習処理を行うような所謂オンライン学習を行ってもよい。
　上述の実施形態においては、クライアント装置としてロボットを例示した。しかしながら、本発明はこのような構成に限定されない。クライアント装置は、物理的動作を伴うかを問わず、あらゆる装置を含むものとして解釈されるべきである。例えば、クライアント装置には、スマートフォン、タブレット端末、パーソナルコンピュータ、スマートスピーカ、ウェアラブル端末などあらゆる情報処理装置を含むことに留意されたい。
　上述の実施形態においては、ロボットの動作情報（センサ信号やモータ信号）を学習対象としたが本発明はこのような構成に限定されない。従って、例えば、学習対象データは、撮像信号、音声信号、画像信号、動画像信号、言語情報、文字情報などあらゆる情報を含み、例えば、音声認識処理、画像信号処理、自然言語処理等など様々な目的の処理を行ってもよい。
　上述の実施形態においては、クライアント装置は、入力側中間層（Ｘ）と出力側中間層（Ｚ）との間の演算をサーバ側に演算させる構成としているものの、本発明はこのような構成に限定されない。従って、例えば、クライアント装置も所定の分割された中間層を一部保持し、複数回、サーバと部分的な予測結果の送受信を行うことで予測処理を行ってもよい。
　上述の実施形態においては、誤差逆伝播法により逆伝播された誤差に基づいて学習モデルのうち近似関数を除いた部分について重み等のパラメータ更新処理を行った（例えば、Ｓ１１５、Ｓ１５７など）。しかしながら、本発明はこのような構成に限定されない。従って、例えば、近似関数部分のパラメータについても更新処理を行ってもよい。
　本発明は、機械学習技術を利用するすべての産業において利用可能である。
１　　サーバ
３　　ロボット
５　　最終サーバ
６　　中間サーバ
７　　ロボット
８　　仲介サーバ
１０　　システム

Claims (15)

  1. 　機械学習モデルの学習装置であって、
    　前記機械学習モデルは、
    　　前記機械学習モデルの入力段階から第１の中間段階へと至る前記機械学習モデルの一部であって、前記機械学習モデルへの入力データに基づいて変換処理を行うことにより前記機械学習モデルの前記第１の中間段階における第１の中間出力を生成する、入力側変換処理部と、
    　　前記第１の中間段階より出力側に近い第２の中間段階から出力段階へと至る前記機械学習モデルの一部であって、第２の中間段階に対する入力に基づいて変換処理を行うことにより前記機械学習モデルの出力データを生成する、出力側変換処理部と、を備え、
    　前記機械学習モデルにおける前記第１の中間出力と前記第２の中間出力との対応関係を表す中間出力対応テーブルを記憶する中間出力対応テーブル記憶部と、
    　前記中間出力対応テーブルに基づいて、前記第１の中間出力を入力として前記第２の中間出力を生成する関数の近似関数を生成する近似関数生成部と、
    　前記入力側変換処理部、前記近似関数、及び前記出力側変換処理部に基づいて、学習用入力データに基づく近似出力を生成する、近似出力生成部と、
    　前記近似出力に基づいて前記出力側変換処理部と前記入力側変換処理部のパラメータを更新するパラメータ更新部と、を備える学習装置。
  2. 　前記パラメータ更新部は、
    　前記近似出力と、前記学習用入力データに対応する教師データとの誤差を演算する誤差演算部と、
    　前記誤差を、前記出力側変換処理部、前記近似関数、及び前記入力側変換処理部へと逆伝播する誤差逆伝播部と、
    　前記誤差逆伝播部にて伝播した前記誤差に基づいて、前記出力側変換処理部と前記入力側変換処理部のパラメータを更新する教師あり学習用パラメータ更新部と、を備える請求項１に記載の学習装置。
  3. 　前記学習用入力データに基づく前記第１の中間出力と、前記学習用入力データに基づく前記第２の中間出力との対応関係を学習用入出力テーブルとして記憶する、請求項２に記載の学習装置。
  4. 　前記学習装置は、さらに、
    　前記学習用入出力テーブルを外部装置へと送信するテーブル送信部を備える、請求項３に記載の学習装置。
  5. 　前記外部装置において、前記学習用入出力テーブルに基づいて教師有り学習が行われる、請求項４に記載の学習装置。
  6. 　前記外部装置は、前記第１の中間出力に基づいて前記学習装置へと前記第２の中間出力を提供する、請求項４に記載の学習装置。
  7. 　前記中間出力対応テーブルは、前記機械学習モデルにおいて予測処理を行うことにより生成されたものである、請求項１に記載の学習装置。
  8. 　前記近似関数は、誤差逆伝播法が適用可能な関数である、請求項１に記載の学習装置。
  9. 　前記機械学習モデルは、階層型の人工ニューラルネットワークである、請求項１に記載の学習装置。
  10. 　前記パラメータ更新部は、さらに、
    　前記近似出力に基づいて前記近似関数のパラメータを更新する、近似関数パラメータ更新部を備える、請求項１に記載の学習装置。
  11. 　前記近似関数は、バイパス関数を含むものである、請求項１に記載の変換システム。
  12. 　前記近似関数は、複数の異なる近似関数の重み付き和により構成される、請求項１に記載の変換システム。
  13. 　学習装置を用いた機械学習モデルの学習方法であって、
    　前記機械学習モデルは、
    　　前記機械学習モデルの入力段階から第１の中間段階へと至る前記機械学習モデルの一部であって、前記機械学習モデルへの入力データに基づいて変換処理を行うことにより前記機械学習モデルの前記第１の中間段階における第１の中間出力を生成する、入力側変換処理部と、
    　　前記第１の中間段階より出力側に近い第２の中間段階から出力段階へと至る前記機械学習モデルの一部であって、第２の中間段階に対する入力に基づいて変換処理を行うことにより前記機械学習モデルの出力データを生成する、出力側変換処理部と、を備え、
    　前記学習装置は、
    　前記機械学習モデルにおける前記第１の中間出力と前記第２の中間出力との対応関係を表す中間出力対応テーブルを記憶する中間出力対応テーブル記憶部を備え、
    　前記中間出力対応テーブルに基づいて、前記第１の中間出力を入力として前記第２の中間出力を生成する関数の近似関数を生成する近似関数生成ステップと、
    　前記入力側変換処理部、前記近似関数、及び前記出力側変換処理部に基づいて、学習用入力データに基づく近似出力を生成する、近似出力生成ステップと、
    　前記近似出力に基づいて前記出力側変換処理部と前記入力側変換処理部のパラメータを更新するパラメータ更新ステップと、を備える学習方法。
  14. 　学習装置上での機械学習モデルの学習プログラムであって、
    　前記機械学習モデルは、
    　　前記機械学習モデルの入力段階から第１の中間段階へと至る前記機械学習モデルの一部であって、前記機械学習モデルへの入力データに基づいて変換処理を行うことにより前記機械学習モデルの前記第１の中間段階における第１の中間出力を生成する、入力側変換処理部と、
    　　前記第１の中間段階より出力側に近い第２の中間段階から出力段階へと至る前記機械学習モデルの一部であって、第２の中間段階に対する入力に基づいて変換処理を行うことにより前記機械学習モデルの出力データを生成する、出力側変換処理部と、を備え、
    　前記学習装置は、
    　前記機械学習モデルにおける前記第１の中間出力と前記第２の中間出力との対応関係を表す中間出力対応テーブルを記憶する中間出力対応テーブル記憶部を備え、
    　前記中間出力対応テーブルに基づいて、前記第１の中間出力を入力として前記第２の中間出力を生成する関数の近似関数を生成する近似関数生成ステップと、
    　前記入力側変換処理部、前記近似関数、及び前記出力側変換処理部に基づいて、学習用入力データに基づく近似出力を生成する、近似出力生成ステップと、
    　前記近似出力に基づいて前記出力側変換処理部と前記入力側変換処理部のパラメータを更新するパラメータ更新ステップと、を備える学習プログラム。
  15. 　機械学習モデルの学習システムであって、
    　前記機械学習モデルは、
    　　前記機械学習モデルの入力段階から第１の中間段階へと至る前記機械学習モデルの一部であって、前記機械学習モデルへの入力データに基づいて変換処理を行うことにより前記機械学習モデルの前記第１の中間段階における第１の中間出力を生成する、入力側変換処理部と、
    　　前記第１の中間段階より出力側に近い第２の中間段階から出力段階へと至る前記機械学習モデルの一部であって、第２の中間段階に対する入力に基づいて変換処理を行うことにより前記機械学習モデルの出力データを生成する、出力側変換処理部と、を備え、
    　前記機械学習モデルにおける前記第１の中間出力と前記第２の中間出力との対応関係を表す中間出力対応テーブルを記憶する中間出力対応テーブル記憶部と、
    　前記中間出力対応テーブルに基づいて、前記第１の中間出力を入力として前記第２の中間出力を生成する関数の近似関数を生成する近似関数生成部と、
    　前記入力側変換処理部、前記近似関数、及び前記出力側変換処理部に基づいて、学習用入力データに基づく近似出力を生成する、近似出力生成部と、
    　前記近似出力に基づいて前記出力側変換処理部と前記入力側変換処理部のパラメータを更新するパラメータ更新部と、を備える学習システム。
PCT/JP2020/010809 2019-03-15 2020-03-12 学習装置、方法及びプログラム WO2020189498A1 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2019049138 2019-03-15
JP2019-049138 2019-03-15
JP2019049137 2019-03-15
JP2019-049137 2019-03-15

Publications (1)

Publication Number Publication Date
WO2020189498A1 true WO2020189498A1 (ja) 2020-09-24

Family

ID=72519836

Family Applications (2)

Application Number Title Priority Date Filing Date
PCT/JP2020/010806 WO2020189496A1 (ja) 2019-03-15 2020-03-12 変換システム、方法及びプログラム
PCT/JP2020/010809 WO2020189498A1 (ja) 2019-03-15 2020-03-12 学習装置、方法及びプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
PCT/JP2020/010806 WO2020189496A1 (ja) 2019-03-15 2020-03-12 変換システム、方法及びプログラム

Country Status (6)

Country Link
US (1) US11943277B2 (ja)
EP (1) EP3940567A4 (ja)
JP (1) JPWO2020189496A1 (ja)
AU (1) AU2020240239A1 (ja)
CA (1) CA3106843A1 (ja)
WO (2) WO2020189496A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6942900B1 (ja) * 2021-04-12 2021-09-29 望 窪田 情報処理装置、情報処理方法及びプログラム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11699097B2 (en) * 2019-05-21 2023-07-11 Apple Inc. Machine learning model with conditional execution of multiple processing tasks

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5816771B2 (ja) * 1977-06-06 1983-04-02 三菱電機株式会社 回線切換方式
JP2017182319A (ja) * 2016-03-29 2017-10-05 株式会社メガチップス 機械学習装置
JP2018097612A (ja) * 2016-12-13 2018-06-21 富士通株式会社 情報処理装置、プログラム及び情報処理方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10225365B1 (en) * 2014-12-19 2019-03-05 Amazon Technologies, Inc. Machine learning based content delivery
JP5816771B1 (ja) 2015-06-08 2015-11-18 株式会社Ｐｒｅｆｅｒｒｅｄ Ｎｅｔｗｏｒｋｓ 学習装置ユニット
JP6126174B2 (ja) 2015-07-31 2017-05-10 ファナック株式会社 機械学習装置、アーク溶接制御装置、アーク溶接ロボットシステムおよび溶接システム
US10331588B2 (en) 2016-09-07 2019-06-25 Pure Storage, Inc. Ensuring the appropriate utilization of system resources using weighted workload based, time-independent scheduling
US20180144244A1 (en) * 2016-11-23 2018-05-24 Vital Images, Inc. Distributed clinical workflow training of deep learning neural networks
JP6937146B2 (ja) * 2017-03-28 2021-09-22 株式会社カブク 多重型学習システムおよび多重型学習プログラム
US20180336463A1 (en) 2017-05-18 2018-11-22 General Electric Company Systems and methods for domain-specific obscured data transport
US10360214B2 (en) 2017-10-19 2019-07-23 Pure Storage, Inc. Ensuring reproducibility in an artificial intelligence infrastructure
US11556730B2 (en) * 2018-03-30 2023-01-17 Intel Corporation Methods and apparatus for distributed use of a machine learning model
US11455541B2 (en) * 2018-05-10 2022-09-27 Fmr Llc AI-based neighbor discovery search engine apparatuses, methods and systems

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5816771B2 (ja) * 1977-06-06 1983-04-02 三菱電機株式会社 回線切換方式
JP2017182319A (ja) * 2016-03-29 2017-10-05 株式会社メガチップス 機械学習装置
JP2018097612A (ja) * 2016-12-13 2018-06-21 富士通株式会社 情報処理装置、プログラム及び情報処理方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6942900B1 (ja) * 2021-04-12 2021-09-29 望 窪田 情報処理装置、情報処理方法及びプログラム
CN115204352A (zh) * 2021-04-12 2022-10-18 洼田望 信息处理装置、信息处理方法和存储介质
CN115204352B (zh) * 2021-04-12 2024-03-12 洼田望 信息处理装置、信息处理方法和存储介质

Also Published As

Publication number Publication date
AU2020240239A1 (en) 2021-02-11
US20210266383A1 (en) 2021-08-26
WO2020189496A1 (ja) 2020-09-24
CA3106843A1 (en) 2020-09-24
EP3940567A1 (en) 2022-01-19
JPWO2020189496A1 (ja) 2020-09-24
EP3940567A4 (en) 2023-03-22
US11943277B2 (en) 2024-03-26

Similar Documents

Publication Publication Date Title
US11151479B2 (en) Automated computer-based model development, deployment, and management
US20230039182A1 (en) Method, apparatus, computer device, storage medium, and program product for processing data
US10832087B1 (en) Advanced training of machine-learning models usable in control systems and other systems
Rajawat et al. Fusion deep learning based on back propagation neural network for personalization
WO2018075400A1 (en) Advanced control systems for machines
WO2020189498A1 (ja) 学習装置、方法及びプログラム
US10776721B1 (en) Accelerating configuration of machine-learning models
CN113505882A (zh) 基于联邦神经网络模型的数据处理方法、相关设备及介质
US11106694B1 (en) Computerized pipelines for transforming input data into data structures compatible with models
WO2022057433A1 (zh) 一种机器学习模型的训练的方法以及相关设备
CN113610240A (zh) 利用嵌套机器学习模型来执行预测的方法及系统
Guo et al. Dynamic Fuzzy Logic Control of Genetic Algorithm Probabilities.
Smith et al. An investigation of how neural networks learn from the experiences of peers through periodic weight averaging
US20230214642A1 (en) Federated Learning with Partially Trainable Networks
Wei et al. Quantum assisted scheduling algorithm for federated learning in distributed networks
Scardapane et al. Learning from distributed data sources using random vector functional-link networks
US20230032249A1 (en) Graphics processing unit optimization
US11366699B1 (en) Handling bulk requests for resources
Ding Properties of parameter‐dependent open‐loop MPC for uncertain systems with polytopic description
Zhao et al. PPCNN: An efficient privacy‐preserving CNN training and inference framework
Guendouzi et al. Aggregation using genetic algorithms for federated learning in industrial cyber-physical systems
US11501041B1 (en) Flexible program functions usable for customizing execution of a sequential Monte Carlo process in relation to a state space model
CN116663064B (zh) 一种隐私保护神经网络预测方法及系统
Guendouzi et al. Genetic algorithm based aggregation for federated learning in industrial cyber physical systems
CN114912146B (zh) 一种垂直联邦架构下的数据信息防御方法、系统、电子设备及存储介质

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20774012

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 20774012

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP