WO2023067666A1 - 算出装置、算出方法及び算出プログラム - Google Patents

算出装置、算出方法及び算出プログラム Download PDF

Info

Publication number
WO2023067666A1
WO2023067666A1 PCT/JP2021/038500 JP2021038500W WO2023067666A1 WO 2023067666 A1 WO2023067666 A1 WO 2023067666A1 JP 2021038500 W JP2021038500 W JP 2021038500W WO 2023067666 A1 WO2023067666 A1 WO 2023067666A1
Authority
WO
WIPO (PCT)
Prior art keywords
data set
bayesian
learning
data
unit
Prior art date
Application number
PCT/JP2021/038500
Other languages
English (en)
French (fr)
Inventor
俊樹 芝原
尭之 三浦
真昇 紀伊
敦謙 市川
Original Assignee
日本電信電話株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日本電信電話株式会社 filed Critical 日本電信電話株式会社
Priority to PCT/JP2021/038500 priority Critical patent/WO2023067666A1/ja
Publication of WO2023067666A1 publication Critical patent/WO2023067666A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks

Definitions

  • the present invention relates to a calculation device, a calculation method, and a calculation program.
  • DNN Deep Neural Network
  • Non-Patent Document 1 Non-Patent Document 1
  • Non-Patent Document 1 Non-Patent Document 1
  • the conventional technology has the problem that it is difficult to calculate the privacy risk of the Bayesian NN.
  • Non-Patent Document 1 and Non-Patent Document 2 are intended for models using a deterministic NN that outputs one predicted value for an input.
  • Bayesian NN outputs the posterior distribution of predicted values or values sampled from the posterior distribution, so conventional methods cannot be applied.
  • the calculation device includes a creation unit that creates a second data set adjacent to the first data set based on the first data set; A learning unit for learning a Bayesian NN (neural network) using either the first data set or the second data set as teacher data, and the output of the Bayesian NN trained by the learning unit a determination unit that determines whether the teacher data used for learning the Bayesian NN is the first data set or the second data set; and a privacy risk based on the determination result of the determination unit and a calculating unit for calculating
  • the privacy risk of Bayesian NN can be calculated.
  • FIG. 1 is a diagram explaining a method of calculating a privacy risk.
  • FIG. 2 is a diagram illustrating a configuration example of a calculation device according to the first embodiment;
  • FIG. 3 is a diagram for explaining a data set determination method.
  • FIG. 4 is a flow chart showing the flow of processing of the calculation device according to the first embodiment.
  • FIG. 5 is a diagram illustrating an example of a computer that executes a calculation program;
  • Bayesian NN is a machine learning technology based on NN.
  • Parameters such as weights and biases in Bayesian NN are treated as following probability distributions. Then, the posterior distribution of each parameter is obtained by Bayesian estimation.
  • FIG. 1 is a diagram explaining a method of calculating a privacy risk.
  • the calculation device first creates an adjacent data set D' from the data set D (step S1).
  • the calculation device adds the data (x', y') to the data set D so that the data Create set D'.
  • the computing device randomly selects either data set D or data set D' (step S2).
  • the calculation device uses the selected data set as teacher data to learn the model (step S3).
  • the model is a Bayesian NN.
  • the calculation device determines whether data set D or data set D' was used as teacher data based on the output of the learned model (step S4).
  • the calculation device calculates the privacy risk based on the determination result (step S5). For example, it can be said that the higher the determination accuracy in step S4, the more likely the attack will succeed, and the greater the privacy risk.
  • the calculation device selects a dataset multiple times in step S2, and executes learning in step S3 and determination in step S4 each time a dataset is selected.
  • the trained Bayesian NN is not necessarily the same.
  • FIG. 2 is a diagram illustrating a configuration example of a calculation device according to the first embodiment.
  • the computing device 10 receives an input of a data set and computes the privacy risk associated with the Bayesian NN.
  • the calculation device 10 has a communication unit 11, an input unit 12, an output unit 13, a storage unit 14, and a control unit 15.
  • the communication unit 11 performs data communication with other devices via the network.
  • the communication unit 11 is a NIC (Network Interface Card).
  • the input unit 12 accepts data input from the user.
  • the input unit 12 is, for example, an input device such as a mouse or keyboard, or an interface connected to the input device.
  • the output unit 13 outputs data by displaying a screen or the like.
  • the output unit 13 is, for example, an output device such as a display and a speaker, or an interface connected to the output device.
  • the storage unit 14 is a storage device such as an HDD (Hard Disk Drive), an SSD (Solid State Drive), an optical disc, or the like.
  • the storage unit 14 may be a rewritable semiconductor memory such as RAM (Random Access Memory), flash memory, NVSRAM (Non Volatile Static Random Access Memory).
  • the storage unit 14 stores an OS (Operating System) and various programs executed by the computing device 10 .
  • the storage unit 14 stores model information 141 and learning data 142 .
  • the model information 141 is, for example, hyperparameters (number of layers, number of units, activation function, etc.) of a model using Bayesian NN. More specifically, the model information 141 may be parameters such as mean, variance, etc. for specifying the probability distributions followed by the weights and biases.
  • the learning data 142 is data for learning the Bayesian NN.
  • the learning data 142 is data set D.
  • data set D may have as elements data that is a combination of labels and feature amounts.
  • the control unit 15 controls the calculation device 10 as a whole.
  • the control unit 15 includes, for example, electronic circuits such as CPU (Central Processing Unit), MPU (Micro Processing Unit), GPU (Graphics Processing Unit), ASIC (Application Specific Integrated Circuit), FPGA (Field Programmable Gate Array), etc. It is an integrated circuit.
  • the control unit 15 also has an internal memory for storing programs defining various processing procedures and control data, and executes each process using the internal memory.
  • the control unit 15 functions as various processing units by running various programs.
  • the control unit 15 has a creation unit 151 , a learning unit 152 , a determination unit 153 and a calculation unit 154 .
  • the creation unit 151 Based on the data set D, the creation unit 151 creates a data set D' adjacent to the data set D.
  • Data set D is an example of a first data set.
  • Data set D' is an example of a second data set.
  • the creation unit 151 creates the data set D' by adding the data (x', y') to the data set D.
  • data set D and data set D' can be said to be two data sets that differ by only one element.
  • data (x', y') is selected from data included in data set D.
  • the data (x', y') may be randomly selected.
  • the data (x', y') may be data that has a greater influence when the data set D' is used as teacher data.
  • the magnitude of the influence increases as the loss of the model when learning is performed using the data set D' as teacher data.
  • the data (x', y') may be selected according to the privacy risk to be calculated.
  • the creation unit 151 may create the data set D' by adding noise to the data (x', y') and then adding it to the data set D.
  • the learning unit 152 uses either data set D or data set D' as teacher data to learn a Bayesian NN (neural network).
  • the learning unit 152 randomly selects either data set D or data set D', and uses the selected data set as teacher data to perform model learning.
  • the model is an unlearned Bayesian NN constructed from the model information 141.
  • the learning unit 152 can construct a model from the model information 141 and perform learning each time a data set is selected.
  • the learning unit 152 can learn using a known machine learning method. Further, the learning unit 152 may perform learning using a privacy-preserving machine learning method (for example, a learning method that guarantees differential privacy).
  • a privacy-preserving machine learning method for example, a learning method that guarantees differential privacy
  • the determination unit 153 determines whether the teacher data used for learning the Bayesian NN is dataset D or dataset D'. For example, the determination unit 153 outputs an output obtained by inputting one sample to the Bayesian NN once or multiple times, or an output obtained by inputting each of a plurality of samples to the Bayesian NN once or multiple times. Judgment is made based on
  • the determination unit 153 performs determination using the output when the data (x', y') is input to the learned Bayesian NN. Further, the determination unit 153 may perform determination using an output when noise is added to the data (x', y') and the data is input to the learned Bayesian NN.
  • the determination unit 153 inputs one sample a plurality of times to the Bayesian NN trained by the learning unit 152, or inputs each of the plurality of samples to the Bayesian NN one or more times. It is possible to determine whether the teacher data used for the learning of the Bayesian NN is data set D or data set D' based on the information obtained by integrating the outputs of . Note that the determination unit 153 may perform determination based on one output obtained by inputting one sample to the Bayesian NN only once.
  • the determination unit 153 determines whether the teacher data is data set D or data set D' for each output obtained by inputting a plurality of samples to a learned Bayesian NN. Thereby, the determination unit 153 can obtain a plurality of determination results.
  • the determination unit 153 when all the determination results among the plurality of determination results indicate that the teacher data is data set D', the determination unit 153 finally determines that the teacher data is data set D'. .
  • the determination unit 153 when one or more determination results among a plurality of determination results indicate that the teacher data is the data set D′, the determination unit 153 finally determines that the teacher data is the data set D′. Determine that there is.
  • the determination unit 153 determines that the number of determination results indicating that the teacher data is data set D′ among the plurality of determination results indicates that the teacher data is data set D. If the number is greater than the number of results, it is finally determined that the teacher data is data set D'.
  • the output of the Bayesian NN is determined according to a predetermined posterior distribution.
  • a Bayesian NN can output statistics such as the mean of the posterior distribution.
  • the determination unit 153 determines whether the teacher data used for learning the Bayesian NN is the data set D or the data set D′ based on the statistical value. do.
  • the Bayesian NN may output multiple predicted values sampled from the posterior distribution.
  • the determination unit 153 determines that data set D is the teacher data used for learning the Bayesian NN based on the statistical values of the plurality of predicted values. or data set D'.
  • the number of types of statistical values may be one or multiple.
  • the types of statistical values are, for example, average, maximum value, minimum value, i-th smallest value among predicted values (where i is an integer from 1 to the number of samples), and the like.
  • FIG. 3 is a diagram for explaining a data set determination method.
  • Information 1f and information 2f each correspond to a predetermined type of statistical value.
  • the information 1f may be the average and the information 2f may be the maximum value.
  • the determination unit 153 determines whether the teacher data used for learning the Bayesian NN is the data set D or the data set D' depending on whether the statistical value is equal to or greater than the threshold.
  • the determination unit 153 determines that the teacher data is the data set D' when the statistical values of all types are equal to or greater than the threshold. This determination method corresponds to type A in FIG.
  • the area determined as data set D' in the type A determination method is the overlapping portion of the area where the information 1f is greater than or equal to the threshold and the area where the information 2f is greater than or equal to the threshold.
  • the determination unit 153 determines that the teacher data is the data set D' when the statistical value of any type is equal to or greater than the threshold. This determination method corresponds to type B in FIG.
  • the area determined as data set D' in the type B determination method is both the area where the information 1f is greater than or equal to the threshold and the area where the information 2f is greater than or equal to the threshold.
  • the determination unit 153 can determine that the teacher data is the data set D'.
  • the information used for determination by the threshold is a value that tends to increase when the teacher data is data set D'.
  • Statistics such as averages, maximum values, and minimum values tend to do that.
  • the determination unit 153 can use the reciprocal of the standard deviation or a value obtained by inverting the sign of the standard deviation as information for determination.
  • the determination unit 153 makes a determination using the statistical value.
  • the determination unit 153 cannot make determinations using statistical values other than the average and standard deviation.
  • the calculation unit 154 calculates the privacy risk based on the determination result of the determination unit 153.
  • FPR false positive rate
  • the rate at which the determination unit 153 determines that the training data is data set D when the actual training data is data set D' is defined as the false negative rate (FNR).
  • the calculation unit 154 can calculate the privacy risk using formula (1).
  • ⁇ is a sufficiently small constant (eg, 10 ⁇ 5 ).
  • the determination unit 153 may use a threshold that increases the privacy risk calculated from equation (1). Also, the calculation unit 154 may calculate the privacy risk in consideration of the confidence interval.
  • calculation unit 154 may calculate the privacy risk by a method based on a probability ratio and a method using a predetermined test method, in addition to the method using Equation (1).
  • the calculation device 10 can compare the privacy risks of the definitive NN and the Bayesian NN by, for example, the following method. This makes it possible to evaluate the degree of increase in privacy risk when a Bayesian NN is introduced.
  • the computing device 10 uses a CNN (Convolutional Neural Network) to which Dropout is applied as the NN.
  • the calculation device 10 performs CNN learning by DP (Differentially Private)-SGD (Stochastic Gradient Descent).
  • the calculation device 10 calculates the privacy risk of the Bayesian NN obtained by applying MC dropout to the CNN by the method of the embodiment.
  • the calculation device 10 calculates the privacy risk of the CNN as a definitive NN by a conventional method (for example, the method described in Non-Patent Document 1 or Non-Patent Document 2).
  • the computing device 10 compares the privacy risk of the Bayesian NN and the privacy risk of the CNN as a deterministic NN.
  • FIG. 4 is a flow chart showing the flow of processing of the calculation device according to the first embodiment.
  • the calculation device 10 first creates a data set D' adjacent to the learning data set D (step S101). For example, the computing device 10 creates a data set D' by adding data (x', y') to the data set D.
  • the computing device 10 randomly selects either data set D or data set D' (step S102). Computing device 10 makes the selection multiple times.
  • the calculation device 10 performs model learning using the selected data set (step S103).
  • the computing device 10 may perform learning using a privacy-preserving machine learning technique.
  • the calculation device 10 determines which of the data set D and the data set D' was used for learning from the learning result (step S104). For example, the computing device 10 makes the determination using statistics about the output of the model.
  • step S105, No the calculation device 10 repeats steps S102 to S104.
  • the end condition is that steps S102 to S104 have been repeated a certain number of times.
  • step S105 if the termination condition is satisfied (step S105, Yes), the computing device 10 proceeds to step S106.
  • the calculation device 10 calculates the privacy risk based on the determination result (step S106). For example, the calculation device 10 can calculate the privacy risk from the FPR and FNR when determining that the teacher data is the data set D' is positive.
  • the creation unit 151 creates a second data set adjacent to the first data set based on the first data set.
  • the learning unit 152 performs Bayesian NN (neural network) learning using either the first data set or the second data set as teacher data.
  • the determination unit 153 determines whether the teacher data used for learning the Bayesian NN is the first data set or the second data set. judge.
  • the calculator 154 calculates the privacy risk based on the determination result of the determiner 153 .
  • the calculation device 10 determines the data set of teacher data based on the output of the Bayesian NN, and calculates the privacy risk from the determination result.
  • the privacy risk of the Bayesian NN can be calculated.
  • the determination unit 153 inputs one sample a plurality of times to the Bayesian NN trained by the learning unit 152, or inputs each of the plurality of samples to the Bayesian NN one or more times. It is determined whether the teacher data used for learning the Bayesian NN is the first data set or the second data set based on the information obtained by integrating the outputs of . In this way, the calculation device 10 can make statistical determinations using, for example, FPR and FNR by using a plurality of outputs.
  • the determination unit 153 determines whether the teacher data used for learning the Bayesian NN is the first data set or the second data set based on the statistical value. determine whether In this way, the calculation device 10 can easily make a determination using the output of the Bayesian NN.
  • the determination unit 153 determines that the teacher data used for learning the Bayesian NN is the first data set based on the statistical values of the plurality of predicted values. or the second data set. In this way, the calculation device 10 can use the output of the Bayesian NN to perform determination using arbitrary statistical values.
  • the determination unit 153 determines whether the teacher data used for learning the Bayesian NN is the first data set or the second data set, depending on whether the statistical value is equal to or greater than the threshold. In this way, the calculation device 10 can easily make a determination using a threshold.
  • each component of each device illustrated is functionally conceptual, and does not necessarily need to be physically configured as illustrated.
  • the specific form of distribution and integration of each device is not limited to the illustrated one, and all or part of them can be functionally or physically distributed or Can be integrated and configured.
  • all or any part of each processing function performed by each device is realized by a CPU (Central Processing Unit) and a program analyzed and executed by the CPU, or hardware by wired logic can be realized as Note that the program may be executed not only by the CPU but also by other processors such as a GPU.
  • CPU Central Processing Unit
  • the calculation device 10 can be implemented by installing a calculation program for executing the above calculation processing as package software or online software in a desired computer.
  • the information processing apparatus can function as the calculation apparatus 10 by causing the information processing apparatus to execute the above calculation program.
  • the information processing apparatus referred to here includes a desktop or notebook personal computer.
  • information processing devices include mobile communication terminals such as smartphones, mobile phones and PHS (Personal Handyphone Systems), and slate terminals such as PDAs (Personal Digital Assistants).
  • the calculation device 10 can be implemented as a calculation server device that uses a terminal device used by a user as a client and provides the client with a service related to the above calculation processing.
  • the calculation server device is implemented as a server device that provides a calculation service that takes a data set as an input and outputs the privacy risk of a Bayesian NN.
  • the calculation server device may be implemented as a Web server, or may be implemented as a cloud that provides services related to the above calculation processing by outsourcing.
  • FIG. 5 is a diagram showing an example of a computer that executes a calculation program.
  • the computer 1000 has a memory 1010 and a CPU 1020, for example.
  • Computer 1000 also has hard disk drive interface 1030 , disk drive interface 1040 , serial port interface 1050 , video adapter 1060 and network interface 1070 . These units are connected by a bus 1080 .
  • the memory 1010 includes a ROM (Read Only Memory) 1011 and a RAM (Random Access Memory) 1012 .
  • the ROM 1011 stores a boot program such as BIOS (Basic Input Output System).
  • BIOS Basic Input Output System
  • Hard disk drive interface 1030 is connected to hard disk drive 1090 .
  • a disk drive interface 1040 is connected to the disk drive 1100 .
  • a removable storage medium such as a magnetic disk or optical disk is inserted into the disk drive 1100 .
  • Serial port interface 1050 is connected to mouse 1110 and keyboard 1120, for example.
  • Video adapter 1060 is connected to display 1130, for example.
  • the hard disk drive 1090 stores, for example, an OS 1091, application programs 1092, program modules 1093, and program data 1094. That is, a program that defines each process of the computing device 10 is implemented as a program module 1093 in which computer-executable code is described. Program modules 1093 are stored, for example, on hard disk drive 1090 . For example, a program module 1093 for executing processing similar to the functional configuration of the computing device 10 is stored in the hard disk drive 1090 .
  • the hard disk drive 1090 may be replaced by an SSD (Solid State Drive).
  • the setting data used in the processing of the above-described embodiment is stored as program data 1094 in the memory 1010 or the hard disk drive 1090, for example. Then, the CPU 1020 reads the program modules 1093 and program data 1094 stored in the memory 1010 and the hard disk drive 1090 to the RAM 1012 as necessary, and executes the processes of the above-described embodiments.
  • the program modules 1093 and program data 1094 are not limited to being stored in the hard disk drive 1090, but may be stored in a removable storage medium, for example, and read by the CPU 1020 via the disk drive 1100 or the like. Alternatively, the program modules 1093 and program data 1094 may be stored in another computer connected via a network (LAN (Local Area Network), WAN (Wide Area Network), etc.). Program modules 1093 and program data 1094 may then be read by CPU 1020 through network interface 1070 from other computers.
  • LAN Local Area Network
  • WAN Wide Area Network
  • calculation device 11 communication unit 12 input unit 13 output unit 14 storage unit 15 control unit 141 model information 142 learning data 151 creation unit 152 learning unit 153 determination unit 154 calculation unit

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

実施形態の算出装置は、作成部、学習部、判定部及び算出部を有する。作成部は、第１のデータセットを基に、第１のデータセットに隣接する第２のデータセットを作成する。学習部は、第１のデータセット及び第２のデータセットのいずれかを教師データとして用いて、ベイジアンＮＮ（neural　network）の学習を行う。判定部は、学習部によって学習が行われたベイジアンＮＮの出力を基に、ベイジアンＮＮの学習に用いられた教師データが第１のデータセットであるか第２のデータセットであるかを判定する。算出部は、判定部による判定結果を基にプライバシーリスクを算出する。

Description

算出装置、算出方法及び算出プログラム
　本発明は、算出装置、算出方法及び算出プログラムに関する。
　Deep　neural　network（ＤＮＮ）に代表される機械学習技術には、プライバシーリスクがあることが指摘されている。これは、学習済みのモデルが、教師データを記憶しやすい特性を持つためである。
　具体的には、特定のデータが教師データに含まれていたかを、学習済みモデルの出力から推定できることが示されている。特に医療データやウェブの閲覧履歴等、ユーザが他人に知られたくないデータを扱う場合はプライバシーリスクへの配慮が必要である。
　これに対し、あるデータがデータセットに含まれているかどうかを特定する攻撃がどの程度成功するかに基づいて、プライバシーリスクを算出する手法が知られている（例えば、非特許文献１及び非特許文献２を参照）。
Jagielski,　M.　et　al.:　Auditing　differentially　private　machine　learning:　How　private　is　private　sgd?,　arXiv　preprint　arXiv:2006.07709　(2020). Nasr,　M.　et　al.:　Adversary　instantiation:　Lower　bounds　for　differentially　private　machine　learning,　arXiv　preprint　arXiv:2101.04535　(2021).
　しかしながら、従来の技術には、ベイジアンＮＮのプライバシーリスクを算出することが困難であるという問題がある。
　非特許文献１及び非特許文献２に記載された手法は、入力に対して１つの予測値を出力する決定的なＮＮを用いたモデルを対象とするものである。
　一方で、ベイジアンＮＮは、予測値の事後分布又は事後分布からサンプリングされた値を出力するものであるため、従来の手法を適用することができない。
　上述した課題を解決し、目的を達成するために、算出装置は、第１のデータセットを基に、前記第１のデータセットに隣接する第２のデータセットを作成する作成部と、前記第１のデータセット及び前記第２のデータセットのいずれかを教師データとして用いて、ベイジアンＮＮ（neural　network）の学習を行う学習部と、前記学習部によって学習が行われたベイジアンＮＮの出力を基に、前記ベイジアンＮＮの学習に用いられた教師データが前記第１のデータセットであるか前記第２のデータセットであるかを判定する判定部と、前記判定部による判定結果を基にプライバシーリスクを算出する算出部と、を有することを特徴とする。
　本発明によれば、ベイジアンＮＮのプライバシーリスクを算出することができる。
図１は、プライバシーリスクの算出方法を説明する図である。 図２は、第１の実施形態に係る算出装置の構成例を示す図である。 図３は、データセットの判定方法を説明する図である。 図４は、第１の実施形態に係る算出装置の処理の流れを示すフローチャートである。 図５は、算出プログラムを実行するコンピュータの一例を示す図である。
　以下に、本願に係る算出装置、算出方法及び算出プログラムの実施形態を図面に基づいて詳細に説明する。なお、本発明は、以下に説明する実施形態により限定されるものではない。
　第１の実施形態では、特にベイジアンＮＮ（neural　network）に関するプライバシーリスクが算出される。
　ここで、ベイジアンＮＮは、ＮＮを基にした機械学習技術である。ベイジアンＮＮにおける重み及びバイアス等のパラメータは、確率分布に従うものとして扱われる。そして、各パラメータの事後分布は、ベイズ推定により求められる。
　図１を用いて、第１の実施形態における算出装置によるプライバシーリスク算出方法を説明する。図１は、プライバシーリスクの算出方法を説明する図である。
　図１に示すように、まず、算出装置は、データセットＤから隣接するデータセットＤ´を作成する（ステップＳ１）。
　例えば、データセットＤがそれぞれを（ｘ，ｙ）のような形式で表せる複数のデータを要素として含む場合、算出装置は、データセットＤにデータ（ｘ´，ｙ´）を追加することでデータセットＤ´を作成する。
　そして、算出装置は、データセットＤ及びデータセットＤ´のいずれかをランダムに選択する（ステップＳ２）。
　次に、算出装置は、選択したデータセットを教師データとして用いてモデルの学習を行う（ステップＳ３）。例えば、モデルはベイジアンＮＮである。
　ここで、算出装置は、学習済みのモデルの出力を基に、教師データとして用いられたのがデータセットＤであるかデータセットＤ´であるかを判定する（ステップＳ４）。
　さらに、算出装置は、判定結果を基にプライバシーリスクを算出する（ステップＳ５）。例えば、ステップＳ４における判定精度が高いほど攻撃が成功しやすく、プライバシーリスクは大きいということができる。
　例えば、判定精度が高いことは、どのデータセットが学習に用いられたかが出力から容易に推測されること、さらには（ｘ´，ｙ´）というデータが学習に使用されていたことが特定されやすいことを意味する。
　なお、算出装置は、ステップＳ２においてデータセットの選択を複数回行い、データセットを選択するたびにステップＳ３の学習及びステップＳ４の判定を実行する。
　その際、選択されたデータセットが同じであっても、学習済みのベイジアンＮＮが同じものになるとは限らない。
　以下、実施形態における算出装置の構成とともに、図１で説明した各処理の詳細を説明する。
［第１の実施形態の構成］
　図２を用いて、第１の実施形態に係る算出装置の構成について説明する。図２は、第１の実施形態に係る算出装置の構成例を示す図である。算出装置１０は、データセットの入力を受け付け、ベイジアンＮＮに関するプライバシーリスクを算出する。
　図２に示すように、算出装置１０は、通信部１１、入力部１２、出力部１３、記憶部１４及び制御部１５を有する。
　通信部１１は、ネットワークを介して、他の装置との間でデータ通信を行う。例えば、通信部１１はＮＩＣ（Network　Interface　Card）である。
　入力部１２は、ユーザからのデータの入力を受け付ける。入力部１２は、例えば、マウスやキーボード等の入力装置、又は入力装置と接続されるインタフェースである。
　出力部１３は、画面の表示等により、データを出力する。出力部１３は、例えば、ディスプレイ及びスピーカ等の出力装置、又は出力装置と接続されるインタフェースである。
　記憶部１４は、ＨＤＤ（Hard　Disk　Drive）、ＳＳＤ（Solid　State　Drive）、光ディスク等の記憶装置である。なお、記憶部１４は、ＲＡＭ（Random　Access　Memory）、フラッシュメモリ、ＮＶＳＲＡＭ（Non　Volatile　Static　Random　Access　Memory）等のデータを書き換え可能な半導体メモリであってもよい。
　記憶部１４は、算出装置１０で実行されるＯＳ（Operating　System）や各種プログラムを記憶する。記憶部１４は、モデル情報１４１及び学習用データ１４２を記憶する。
　モデル情報１４１は、例えばベイジアンＮＮを用いたモデルのハイパーパラメータ（層の数、ユニット数、活性化関数等）である。さらに具体的には、モデル情報１４１は、重み及びバイアスが従う確率分布を特定するための平均、分散等のパラメータであってもよい。
　また、学習用データ１４２は、ベイジアンＮＮの学習を行うためのデータである。例えば、学習用データ１４２はデータセットＤである。
　例えば、データセットＤは、ラベルと特徴量とを組み合わせたデータを要素として持つものであってもよい。
　制御部１５は、算出装置１０全体を制御する。制御部１５は、例えば、ＣＰＵ（Central　Processing　Unit）、ＭＰＵ（Micro　Processing　Unit）、ＧＰＵ（Graphics　Processing　Unit）等の電子回路や、ＡＳＩＣ（Application　Specific　Integrated　Circuit）、ＦＰＧＡ（Field　Programmable　Gate　Array）等の集積回路である。
　また、制御部１５は、各種の処理手順を規定したプログラムや制御データを格納するための内部メモリを有し、内部メモリを用いて各処理を実行する。
　制御部１５は、各種のプログラムが動作することにより各種の処理部として機能する。例えば、制御部１５は、作成部１５１、学習部１５２、判定部１５３及び算出部１５４を有する。
　作成部１５１は、データセットＤを基に、データセットＤに隣接するデータセットＤ´を作成する。データセットＤは、第１のデータセットの一例である。また、データセットＤ´は、第２のデータセットの一例である。
　図１で説明したように、作成部１５１は、データセットＤにデータ（ｘ´，ｙ´）を追加することによりデータセットＤ´を作成する。
　この場合、データセットＤとデータセットＤ´は、要素が１つだけ異なる２つのデータセットということができる。
　例えば、データ（ｘ´，ｙ´）は、データセットＤに含まれるデータの中から選択される。データ（ｘ´，ｙ´）はランダムに選択されたものであってもよい。
　また、例えば、データ（ｘ´，ｙ´）は、データセットＤ´が教師データとして用いられたときに影響が大きくなるようなデータであってもよい。影響の大きさは、データセットＤ´を教師データとして用いて学習を行った際のモデルの損失が大きいほど大きくなる。
　また、データ（ｘ´，ｙ´）は、算出したいプライバシーリスクがどのようなものであるかに応じて選択されるものであってもよい。
　また、作成部１５１は、データ（ｘ´，ｙ´）にノイズを加えた上でデータセットＤに追加することによりデータセットＤ´を作成してもよい。
　学習部１５２は、データセットＤ及びデータセットＤ´のいずれかを教師データとして用いて、ベイジアンＮＮ（neural　network）の学習を行う。
　例えば、学習部１５２は、データセットＤ及びデータセットＤ´のいずれかをランダムに選択し、選択したデータセットを教師データして用いてモデルの学習を行う。
　例えば、モデルは、モデル情報１４１から構築される未学習状態のベイジアンＮＮである。学習部１５２は、データセットを選択するたびにモデル情報１４１からモデルを構築し、学習を行うことができる。
　学習部１５２は、既知の機械学習手法により学習を行うことができる。また、学習部１５２は、プライバシー保護機械学習の手法（例えば、差分プライバシーを保証した学習手法）により学習を行ってもよい。
　判定部１５３は、学習部１５２によって学習が行われたベイジアンＮＮの出力を基に、ベイジアンＮＮの学習に用いられた教師データがデータセットＤであるかデータセットＤ´であるかを判定する。例えば、判定部１５３は、ベイジアンＮＮに１つのサンプルを１回又は複数回入力して得られた出力、又は、ベイジアンＮＮに複数のサンプルのそれぞれを１回又は複数回入力して得られた出力を基に判定を行う。
　例えば、判定部１５３は、データ（ｘ´，ｙ´）を学習済みのベイジアンＮＮに入力したときの出力を用いて判定を行う。また、判定部１５３は、データ（ｘ´，ｙ´）にノイズを加えた上で学習済みのベイジアンＮＮに入力したときの出力を用いて判定を行ってもよい。
　判定部１５３は、学習部１５２によって学習が行われたベイジアンＮＮに１つのサンプルを複数回入力すること、又は、ベイジアンＮＮに複数のサンプルのそれぞれを１回以上入力すること、によって得られた複数の出力を統合した情報を基に、ベイジアンＮＮの学習に用いられた教師データがデータセットＤであるかデータセットＤ´であるかを判定することができる。なお、判定部１５３は、ベイジアンＮＮに１つのサンプルを１回だけ入力して得られた１つの出力を基に判定を行ってもよい。
　例えば、判定部１５３は、複数のサンプルを学習済みのベイジアンＮＮに入力して得られた出力のそれぞれについて教師データがデータセットＤであるかデータセットＤ´であるかを判定する。これにより、判定部１５３は、複数の判定結果を得ることができる。
　例えば、判定部１５３は、複数の判定結果のうち、全ての判定結果が教師データがデータセットＤ´であることを示している場合、最終的に教師データがデータセットＤ´であると判定する。
　また、例えば、判定部１５３は、複数の判定結果のうち、１つ以上の判定結果が教師データがデータセットＤ´であることを示している場合、最終的に教師データがデータセットＤ´であると判定する。
　また、例えば、判定部１５３は、複数の判定結果のうち、教師データがデータセットＤ´であることを示している判定結果の数が、教師データがデータセットＤであることを示している判定結果の数よりも多い場合、最終的に教師データがデータセットＤ´であると判定する。
　ここで、ベイジアンＮＮの出力は所定の事後分布に従って決定される。ベイジアンＮＮは、事後分布の平均等の統計値を出力することができる。
　ベイジアンＮＮが事後分布の統計値を出力する場合、判定部１５３は、統計値を基に、ベイジアンＮＮの学習に用いられた教師データがデータセットＤであるかデータセットＤ´であるかを判定する。
　また、ベイジアンＮＮは、事後分布からサンプリングされた複数の予測値を出力する場合がある。
　ベイジアンＮＮが事後分布からサンプリングされた複数の予測値を出力する場合、判定部１５３は、複数の予測値に関する統計値を基に、ベイジアンＮＮの学習に用いられた教師データがデータセットＤであるかデータセットＤ´であるかを判定する。
　いずれの場合においても、統計値の種類は１つであってもよいし、複数であってもよい。統計値の種類は、例えば平均、最大値、最小値、予測値のうちｉ番目（ただし、ｉは１からサンプル数までの整数）に小さい値等である。
　図３を用いて、判定部１５３による統計値を用いたデータセットの判定方法を説明する。図３は、データセットの判定方法を説明する図である。
　なお、情報１ｆ及び情報２ｆは、それぞれ所定の種類の統計値に相当する。例えば、情報１ｆが平均であり、情報２ｆが最大値であってもよい。
　判定部１５３は、統計値が閾値以上であるか否かによって、ベイジアンＮＮの学習に用いられた教師データがデータセットＤであるかデータセットＤ´であるかを判定する。
　例えば、判定部１５３は、全ての種類の統計値が閾値以上である場合に、教師データがデータセットＤ´であると判定する。この判定方法は図３のタイプＡに相当する。
　図３に示すように、タイプＡの判定方法においてデータセットＤ´と判定される領域は、情報１ｆが閾値以上である領域と情報２ｆが閾値以上である領域の重複部分である。
　また、例えば、判定部１５３は、いずれかの種類の統計値が閾値以上である場合に、教師データがデータセットＤ´であると判定する。この判定方法は図３のタイプＢに相当する。
　図３に示すように、タイプＢの判定方法においてデータセットＤ´と判定される領域は、情報１ｆが閾値以上である領域と情報２ｆが閾値以上である領域の両方である。
　また、タイプＡ及びタイプＢにおける領域に限られず、図３のような平面（情報が３つ以上の場合は空間）におけるあらかじめ指定された領域に、各情報から決定される点が存在する場合に、判定部１５３は教師データがデータセットＤ´であると判定することができる。
　閾値による判定に用いられる情報は、教師データがデータセットＤ´であるときに大きくなる傾向がある値であることが望ましい。平均、最大値、最小値といった統計値にはそのような傾向がある。
　一方で、標準偏差には、教師データがデータセットＤ´であるときに小さくなる傾向がある。このため、判定部１５３は、標準偏差そのものの代わりに、標準偏差の逆数又は標準偏差の符号を反転させた値を判定のための情報として用いることができる。
　なお、ベイジアンＮＮが複数の予測値を出力することなく、所定の統計値を出力するものである場合、判定部１５３は、当該統計値を用いて判定を行う。
　例えば、ベイジアンＮＮが平均と標準偏差のみを出力する場合、判定部１５３は、平均と標準偏差以外の統計値を用いて判定を行うことはできない。
　これにより、ベイジアンＮＮの出力がどのように公開されるかによって、プライバシーリスクがどのように変化するかを評価することが可能になる。
　算出部１５４は、判定部１５３による判定結果を基にプライバシーリスクを算出する。
　ここで、学習部１５２による学習及び判定部１５３による判定は、複数回行われるものとする。
　実際の教師データがデータセットＤであるときに、判定部１５３が教師データがデータセットＤ´であると判定した割合を誤検知率（ＦＰＲ：false　positive　rate）とする。
　一方、実際の教師データがデータセットＤ´であるときに、判定部１５３が教師データがデータセットＤであると判定した割合を見逃し率（ＦＮＲ：false　negative　rate）とする。
　このとき、算出部１５４は、（１）式によりプライバシーリスクを計算することができる。
Figure JPOXMLDOC01-appb-M000001
　δは十分小さな定数（例えば、１０－５）である。判定部１５３は、（１）式から計算されるプライバシーリスクが大きくなるような閾値を用いるようにしてもよい。また、算出部１５４は、信頼区間を考慮してプライバシーリスクを算出してもよい。
　なお、算出部１５４は、（１）式を用いた方法以外にも、確率の比率に基づく方法、及び所定の検定手法を用いた方法によってプライバシーリスクを算出してもよい。
（実施例）
　算出装置１０は、例えば下記の方法により決定的なＮＮとベイジアンＮＮとのプライバシーリスクの比較を行うことができる。これにより、ベイジアンＮＮを導入した場合のプライバシーリスクの増加の度合いを評価することが可能になる。
　まず、算出装置１０は、ＮＮとしてDropoutを適用したＣＮＮ（Convolutional　Neural　Network）を用いる。また、算出装置１０は、ＤＰ（Differentially　Private）－ＳＧＤ（Stochastic　Gradient　Descent）によりＣＮＮの学習を行う。
　そして、算出装置１０は、ＣＮＮにＭＣ　dropoutを適用して得られるベイジアンＮＮのプライバシーリスクを実施形態の方法により算出する。
　次に、算出装置１０は、ＣＮＮの決定的なＮＮとしてのプライバシーリスクを従来の方法（例えば、非特許文献１又は非特許文献２に記載の方法）により算出する。
　算出装置１０は、ベイジアンＮＮのプライバシーリスクと、ＣＮＮの決定的なＮＮとしてのプライバシーリスクとを比較する。
［第１の実施形態の処理］
　図４を用いて、算出装置１０の処理の流れを説明する。図４は、第１の実施形態に係る算出装置の処理の流れを示すフローチャートである。
　図４に示すように、まず、算出装置１０は、学習用のデータセットＤに隣接するデータセットＤ´を作成する（ステップＳ１０１）。例えば、算出装置１０は、データセットＤにデータ（ｘ´，ｙ´）を追加することによりデータセットＤ´を作成する。
　次に、算出装置１０は、データセットＤ又はデータセットＤ´のいずれかをランダムに選択する（ステップＳ１０２）。算出装置１０は、複数回にわたって選択を行う。
　算出装置１０は、選択したデータセットを用いてモデルの学習を行う（ステップＳ１０３）。算出装置１０は、プライバシー保護機械学習の手法による学習を行ってもよい。
　算出装置１０は、学習結果からデータセットＤとデータセットＤ´のどちらが学習に用いられたかを判定する（ステップＳ１０４）。例えば、算出装置１０は、モデルの出力に関する統計値を用いて判定を行う。
　終了条件が充足されるまで（ステップＳ１０５、Ｎｏ）、算出装置１０はステップＳ１０２からステップＳ１０４を繰り返す。例えば、終了条件は、ステップＳ１０２からステップＳ１０４が一定回数だけ繰り返されたことである。
　一方、終了条件が充足された場合（ステップＳ１０５、Ｙｅｓ）、算出装置１０はステップＳ１０６に進む。
　算出装置１０は、判定結果を基にプライバシーリスクを算出する（ステップＳ１０６）。例えば、算出装置１０は、教師データがデータセットＤ´であると判定することを陽性（positive）とした場合のＦＰＲ及びＦＮＲから、プライバシーリスクを算出することができる。
［第１の実施形態の効果］
　これまで説明してきたように、作成部１５１は、第１のデータセットを基に、第１のデータセットに隣接する第２のデータセットを作成する。学習部１５２は、第１のデータセット及び第２のデータセットのいずれかを教師データとして用いて、ベイジアンＮＮ（neural　network）の学習を行う。判定部１５３は、学習部１５２によって学習が行われたベイジアンＮＮの出力を基に、ベイジアンＮＮの学習に用いられた教師データが第１のデータセットであるか第２のデータセットであるかを判定する。算出部１５４は、判定部１５３による判定結果を基にプライバシーリスクを算出する。
　このように、算出装置１０は、ベイジアンＮＮの出力を基に教師データのデータセットを判定し、その判定結果からプライバシーリスクを算出する。その結果、本実施形態によれば、ベイジアンＮＮのプライバシーリスクを算出することができる。
　判定部１５３は、学習部１５２によって学習が行われたベイジアンＮＮに１つのサンプルを複数回入力すること、又は、ベイジアンＮＮに複数のサンプルのそれぞれを１回以上入力すること、によって得られた複数の出力を統合した情報を基に、ベイジアンＮＮの学習に用いられた教師データが第１のデータセットであるか第２のデータセットであるかを判定する。このように、算出装置１０は、複数の出力を利用することで、例えばＦＰＲ及びＦＮＲを用いて統計的な判定を行うことができる。
　ベイジアンＮＮが事後分布の統計値を出力する場合、判定部１５３は、統計値を基に、ベイジアンＮＮの学習に用いられた教師データが第１のデータセットであるか第２のデータセットであるかを判定する。このように、算出装置１０は、ベイジアンＮＮの出力を利用して容易に判定を行うことができる。
　ベイジアンＮＮが事後分布からサンプリングされた複数の予測値を出力する場合、判定部１５３は、複数の予測値に関する統計値を基に、ベイジアンＮＮの学習に用いられた教師データが第１のデータセットであるか第２のデータセットであるかを判定する。このように、算出装置１０は、ベイジアンＮＮの出力を利用して任意の統計値を用いて判定を行うことができる。
　判定部１５３は、統計値が閾値以上であるか否かによって、ベイジアンＮＮの学習に用いられた教師データが第１のデータセットであるか第２のデータセットであるかを判定する。このように、算出装置１０は、閾値により容易に判定を行うことができる。
［システム構成等］
　また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示のように構成されていることを要しない。すなわち、各装置の分散及び統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的又は物理的に分散又は統合して構成することができる。さらに、各装置にて行われる各処理機能は、その全部又は任意の一部が、ＣＰＵ（Central　Processing　Unit）及び当該ＣＰＵにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。なお、プログラムは、ＣＰＵだけでなく、ＧＰＵ等の他のプロセッサによって実行されてもよい。
　また、本実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部又は一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部又は一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
［プログラム］
　一実施形態として、算出装置１０は、パッケージソフトウェアやオンラインソフトウェアとして上記の算出処理を実行する算出プログラムを所望のコンピュータにインストールさせることによって実装できる。例えば、上記の算出プログラムを情報処理装置に実行させることにより、情報処理装置を算出装置１０として機能させることができる。ここで言う情報処理装置には、デスクトップ型又はノート型のパーソナルコンピュータが含まれる。また、その他にも、情報処理装置にはスマートフォン、携帯電話機やＰＨＳ（Personal　Handyphone　System）等の移動体通信端末、さらには、ＰＤＡ（Personal　Digital　Assistant）等のスレート端末等がその範疇に含まれる。
　また、算出装置１０は、ユーザが使用する端末装置をクライアントとし、当該クライアントに上記の算出処理に関するサービスを提供する算出サーバ装置として実装することもできる。例えば、算出サーバ装置は、データセットを入力とし、ベイジアンＮＮのプライバシーリスクを出力とする算出サービスを提供するサーバ装置として実装される。この場合、算出サーバ装置は、Ｗｅｂサーバとして実装することとしてもよいし、アウトソーシングによって上記の算出処理に関するサービスを提供するクラウドとして実装することとしてもかまわない。
　図５は、算出プログラムを実行するコンピュータの一例を示す図である。コンピュータ１０００は、例えば、メモリ１０１０、ＣＰＵ１０２０を有する。また、コンピュータ１０００は、ハードディスクドライブインタフェース１０３０、ディスクドライブインタフェース１０４０、シリアルポートインタフェース１０５０、ビデオアダプタ１０６０、ネットワークインタフェース１０７０を有する。これらの各部は、バス１０８０によって接続される。
　メモリ１０１０は、ＲＯＭ（Read　Only　Memory）１０１１及びＲＡＭ（Random　Access　Memory）１０１２を含む。ＲＯＭ１０１１は、例えば、ＢＩＯＳ（Basic　Input　Output　System）等のブートプログラムを記憶する。ハードディスクドライブインタフェース１０３０は、ハードディスクドライブ１０９０に接続される。ディスクドライブインタフェース１０４０は、ディスクドライブ１１００に接続される。例えば磁気ディスクや光ディスク等の着脱可能な記憶媒体が、ディスクドライブ１１００に挿入される。シリアルポートインタフェース１０５０は、例えばマウス１１１０、キーボード１１２０に接続される。ビデオアダプタ１０６０は、例えばディスプレイ１１３０に接続される。
　ハードディスクドライブ１０９０は、例えば、ＯＳ１０９１、アプリケーションプログラム１０９２、プログラムモジュール１０９３、プログラムデータ１０９４を記憶する。すなわち、算出装置１０の各処理を規定するプログラムは、コンピュータにより実行可能なコードが記述されたプログラムモジュール１０９３として実装される。プログラムモジュール１０９３は、例えばハードディスクドライブ１０９０に記憶される。例えば、算出装置１０における機能構成と同様の処理を実行するためのプログラムモジュール１０９３が、ハードディスクドライブ１０９０に記憶される。なお、ハードディスクドライブ１０９０は、ＳＳＤ（Solid　State　Drive）により代替されてもよい。
　また、上述した実施形態の処理で用いられる設定データは、プログラムデータ１０９４として、例えばメモリ１０１０やハードディスクドライブ１０９０に記憶される。そして、ＣＰＵ１０２０は、メモリ１０１０やハードディスクドライブ１０９０に記憶されたプログラムモジュール１０９３やプログラムデータ１０９４を必要に応じてＲＡＭ１０１２に読み出して、上述した実施形態の処理を実行する。
　なお、プログラムモジュール１０９３やプログラムデータ１０９４は、ハードディスクドライブ１０９０に記憶される場合に限らず、例えば着脱可能な記憶媒体に記憶され、ディスクドライブ１１００等を介してＣＰＵ１０２０によって読み出されてもよい。あるいは、プログラムモジュール１０９３及びプログラムデータ１０９４は、ネットワーク（ＬＡＮ（Local　Area　Network）、ＷＡＮ（Wide　Area　Network）等）を介して接続された他のコンピュータに記憶されてもよい。そして、プログラムモジュール１０９３及びプログラムデータ１０９４は、他のコンピュータから、ネットワークインタフェース１０７０を介してＣＰＵ１０２０によって読み出されてもよい。
　１０　算出装置
　１１　通信部
　１２　入力部
　１３　出力部
　１４　記憶部
　１５　制御部
　１４１　モデル情報
　１４２　学習用データ
　１５１　作成部
　１５２　学習部
　１５３　判定部
　１５４　算出部

Claims (7)

  1. 　第１のデータセットを基に、前記第１のデータセットに隣接する第２のデータセットを作成する作成部と、
    　前記第１のデータセット及び前記第２のデータセットのいずれかを教師データとして用いて、ベイジアンＮＮ（neural　network）の学習を行う学習部と、
    　前記学習部によって学習が行われたベイジアンＮＮの出力を基に、前記ベイジアンＮＮの学習に用いられた教師データが前記第１のデータセットであるか前記第２のデータセットであるかを判定する判定部と、
    　前記判定部による判定結果を基にプライバシーリスクを算出する算出部と、
    　を有することを特徴とする算出装置。
  2. 　前記判定部は、前記学習部によって学習が行われたベイジアンＮＮに１つのサンプルを複数回入力すること、又は、前記ベイジアンＮＮに複数のサンプルのそれぞれを１回以上入力すること、によって得られた複数の出力を統合した情報を基に、前記ベイジアンＮＮの学習に用いられた教師データが前記第１のデータセットであるか前記第２のデータセットであるかを判定することを特徴とする請求項１に記載の算出装置。
  3. 　ベイジアンＮＮが事後分布の統計値を出力する場合、前記判定部は、前記統計値を基に、前記ベイジアンＮＮの学習に用いられた教師データが前記第１のデータセットであるか前記第２のデータセットであるかを判定することを特徴とする請求項１又は２に記載の算出装置。
  4. 　ベイジアンＮＮが事後分布からサンプリングされた複数の予測値を出力する場合、前記判定部は、前記複数の予測値に関する統計値を基に、前記ベイジアンＮＮの学習に用いられた教師データが前記第１のデータセットであるか前記第２のデータセットであるかを判定することを特徴とする請求項１又は２に記載の算出装置。
  5. 　前記判定部は、前記統計値が閾値以上であるか否かによって、前記ベイジアンＮＮの学習に用いられた教師データが前記第１のデータセットであるか前記第２のデータセットであるかを判定することを特徴とする請求項３又は４に記載の算出装置。
  6. 　算出装置によって実行される算出方法であって、
    　第１のデータセットを基に、前記第１のデータセットに隣接する第２のデータセットを作成する作成工程と、
    　前記第１のデータセット及び前記第２のデータセットのいずれかを教師データとして用いてモデルの学習を行う学習工程と、
    　前記学習工程において学習が行われたモデルの出力を基に、前記モデルの学習に用いられた教師データが前記第１のデータセットであるか前記第２のデータセットであるかを判定する判定工程と、
    　前記判定工程における判定結果を基にプライバシーリスクを算出する算出工程と、
    　を含むことを特徴とする算出方法。
  7. 　コンピュータを、請求項１から５のいずれか１項に記載の算出装置として機能させるための算出プログラム。
PCT/JP2021/038500 2021-10-18 2021-10-18 算出装置、算出方法及び算出プログラム WO2023067666A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/038500 WO2023067666A1 (ja) 2021-10-18 2021-10-18 算出装置、算出方法及び算出プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/038500 WO2023067666A1 (ja) 2021-10-18 2021-10-18 算出装置、算出方法及び算出プログラム

Publications (1)

Publication Number Publication Date
WO2023067666A1 true WO2023067666A1 (ja) 2023-04-27

Family

ID=86058893

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/038500 WO2023067666A1 (ja) 2021-10-18 2021-10-18 算出装置、算出方法及び算出プログラム

Country Status (1)

Country Link
WO (1) WO2023067666A1 (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020090821A1 (ja) * 2018-10-30 2020-05-07 日本電気株式会社 解析装置、機械学習装置、解析システム、解析方法および記録媒体

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020090821A1 (ja) * 2018-10-30 2020-05-07 日本電気株式会社 解析装置、機械学習装置、解析システム、解析方法および記録媒体

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
MILAD NASR; SHUANG SONG; ABHRADEEP THAKURTA; NICOLAS PAPERNOT; NICHOLAS CARLINI: "Adversary Instantiation: Lower Bounds for Differentially Private Machine Learning", ARXIV.ORG, 11 January 2021 (2021-01-11), XP081857606 *

Similar Documents

Publication Publication Date Title
US11481617B2 (en) Generating trained neural networks with increased robustness against adversarial attacks
Solus et al. Consistency guarantees for greedy permutation-based causal inference algorithms
Dwork et al. Outcome indistinguishability
CN109460793B (zh) 一种节点分类的方法、模型训练的方法及装置
Hernández-González et al. Learning Bayesian network classifiers from label proportions
US11146580B2 (en) Script and command line exploitation detection
JP6870508B2 (ja) 学習プログラム、学習方法及び学習装置
KR101850993B1 (ko) 클러스터 기반 키워드 산출 방법 및 장치
US11343325B2 (en) Systems and methods for estimating typed graphlets in large data
US20230021338A1 (en) Conditionally independent data generation for training machine learning systems
Chen et al. A bootstrap method for goodness of fit and model selection with a single observed network
Murray et al. Flexible Bayesian survival modeling with semiparametric time-dependent and shape-restricted covariate effects
US11941867B2 (en) Neural network training using the soft nearest neighbor loss
JP6767312B2 (ja) 検知システム、検知方法及び検知プログラム
CN115798602A (zh) 基因调控网络构建方法、装置、设备及存储介质
CN116915442A (zh) 漏洞测试方法、装置、设备和介质
Tembine Mean field stochastic games: Convergence, Q/H-learning and optimality
Goyal et al. Framework for converting mechanistic network models to probabilistic models
WO2023067666A1 (ja) 算出装置、算出方法及び算出プログラム
Aliakbary et al. Noise-tolerant model selection and parameter estimation for complex networks
CN105245380B (zh) 一种消息的传播方式识别方法及装置
WO2024079795A1 (ja) リスク算出装置、リスク算出方法、および、リスク算出プログラム
WO2021075009A1 (ja) 学習装置、推定装置、学習方法及び学習プログラム
CN115221663A (zh) 数据处理方法、装置、设备及计算机可读存储介质
He et al. MIDASim: a fast and simple simulator for realistic microbiome data

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21961319

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2023553918

Country of ref document: JP

Kind code of ref document: A