WO2024042583A1 - 情報処理装置、ａｉモデル認証システム、ａｉモデル認証方法およびプログラム - Google Patents

情報処理装置、ａｉモデル認証システム、ａｉモデル認証方法およびプログラム Download PDF

Info

Publication number
WO2024042583A1
WO2024042583A1 PCT/JP2022/031581 JP2022031581W WO2024042583A1 WO 2024042583 A1 WO2024042583 A1 WO 2024042583A1 JP 2022031581 W JP2022031581 W JP 2022031581W WO 2024042583 A1 WO2024042583 A1 WO 2024042583A1
Authority
WO
WIPO (PCT)
Prior art keywords
certificate
model
verifier
information processing
location information
Prior art date
Application number
PCT/JP2022/031581
Other languages
English (en)
French (fr)
Inventor
亮平 鈴木
貴史 原田
奈実 芦澤
知暁 鷲尾
彰 永井
Original Assignee
日本電信電話株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日本電信電話株式会社 filed Critical 日本電信電話株式会社
Priority to PCT/JP2022/031581 priority Critical patent/WO2024042583A1/ja
Publication of WO2024042583A1 publication Critical patent/WO2024042583A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/10—Protecting distributed programs or content, e.g. vending or licensing of copyrighted material ; Digital rights management [DRM]
    • G06F21/16—Program or content traceability, e.g. by watermarking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning

Definitions

  • the present invention relates to an information processing device, an AI model authentication system, an AI model authentication method, and a program.
  • Non-Patent Document 1 discloses a technique for identifying a deep neural network using a digital watermark of the deep neural network.
  • Non-Patent Document 2 discloses a technique for extracting several data points near the classification boundary of a model owner's deep neural network classifier and using them to identify the classifier.
  • the disclosed technology aims to improve the accuracy of confirming the authenticity of an AI model.
  • the disclosed technology includes a verifier generator configured to generate a verifier for verifying an AI model, and a verifier generator that functions as a certification authority to issue a certificate to prove the authenticity of the AI model.
  • a certificate acquisition unit configured to request a certificate authority device to obtain a certificate issued by the certificate authority device, and provide the AI model with certificate location information indicating the location of the acquired certificate.
  • the information processing apparatus includes a certificate location information transmitter configured to request an AI model to be embedded in a device that controls the certificate.
  • 1 is a diagram showing an example of the overall configuration of an AI model authentication system according to an embodiment of the present invention.
  • 1 is a diagram illustrating an example of a functional configuration of a certificate authority device according to an embodiment of the present invention.
  • 1 is a diagram showing an example of a functional configuration of a certificate management device according to an embodiment of the present invention.
  • 1 is a diagram showing an example of a functional configuration of an AI model designer terminal according to an embodiment of the present invention.
  • 1 is a diagram showing an example of a functional configuration of an AI model control device according to an embodiment of the present invention.
  • 1 is a diagram illustrating an example of a functional configuration of a user terminal according to an embodiment of the present invention.
  • FIG. 3 is a sequence diagram showing an example of the flow of verifier registration processing according to the embodiment of the present invention.
  • FIG. 2 is a sequence diagram showing an example of the flow of AI model authentication processing according to an embodiment of the present invention.
  • 1 is a diagram showing an example of a hardware configuration of a computer.
  • an AI model authentication method will be described in order to confirm the authenticity of the AI model.
  • FIG. 1 is a diagram showing an example of the overall configuration of an AI model authentication system according to an embodiment of the present invention.
  • the AI model authentication system 1 includes a certificate authority device 10, a certificate management device 20, an AI model designer terminal 30, an AI model control device 40, and a user terminal 50.
  • the certificate authority device 10, certificate management device 20, AI model designer terminal 30, AI model control device 40, and user terminal 50 are communicably connected to each other via a communication network 60.
  • the certificate authority device 10 is a device that functions as a trusted third party, similar to a CA (Certification Authority) in PKI (Public Key Infrastructure). Specifically, the certificate authority device 10 issues an AI model certificate based on a verifier for AI model authentication.
  • CA Content Authority
  • PKI Public Key Infrastructure
  • a verifier is information to confirm that the authentication target has credentials.
  • Credentials are information possessed by the authentication target.
  • the credentials possessed by the AI model may be the boundaries of a discriminator.
  • the verifier for confirming that the AI model has the credentials may be information indicating some data points near the boundary of the AI model.
  • the certificate management device 20 is a device that manages certificates issued by the certificate authority device 10.
  • the certificate management device 20 receives a certificate transmission request from the user terminal 50 and transmits the certificate to the user terminal 50.
  • the AI model designer terminal 30 is an information processing device operated by an AI model designer.
  • the AI model designer terminal 30 generates a verifier for each user. Furthermore, the AI model designer terminal 30 requests the certificate authority device 10 to issue a certificate, and transmits certificate location information indicating the location of the certificate to the AI model control device 40.
  • the AI model control device 40 is a device that controls an AI model.
  • the AI model control device 40 transmits information embedded in the AI model to the user terminal 50 in response to a request from the user terminal 50. Furthermore, the AI model control device 40 performs AI authentication based on the challenge transmitted from the user terminal 50, and transmits a response to the challenge to the user terminal 50.
  • the user terminal 50 is a terminal operated by a user who uses the AI model.
  • the user terminal 50 receives information embedded in the AI model from the AI model control device 40. Further, the user terminal 50 transmits a challenge to the AI model control device 40 and receives an AI authentication response.
  • the communication network 60 is a communication network for transmitting and receiving information, and may be the Internet or an intranet.
  • FIG. 2 is a diagram illustrating an example of the functional configuration of a certificate authority device according to an embodiment of the present invention.
  • the certificate authority device 10 includes a certificate issuance request receiving section 11 , an AI designer confirmation section 12 , an issued confirmation section 13 , a certificate issuing section 14 , and a certificate issuance history storage section 15 .
  • the certificate issuance request receiving unit 11 receives a certificate issuance request from the AI model designer terminal 30.
  • the certificate issue request reception unit 11 sends the verifier generated by the AI model designer terminal 30, an identifier for identifying the AI model, the name of the AI model, and user information indicating the user who will use the AI model. , AI design document information indicating the AI model designer, the effective date of the certificate, etc. are received.
  • the AI designer confirmation unit 12 confirms that the AI model designer is genuine based on the received information.
  • the issued confirmation unit 13 issues certificates to the same verifier based on the certificate issuance history stored in the certificate issuance history storage unit 15. Confirm that the corresponding certificate has not already been issued.
  • the certificate issuing unit 14 When it is confirmed that a certificate corresponding to the same verifier has not been issued, the certificate issuing unit 14 generates a certificate and sends the generated certificate to the AI model designer terminal 30.
  • the certificate issuing unit 14 stores information indicating the history of issuing certificates in the certificate issuing history storage unit 15.
  • the certificate issuance history storage unit 15 stores information indicating the history of certificate issuance.
  • FIG. 3 is a diagram illustrating an example of the functional configuration of a certificate management device according to an embodiment of the present invention.
  • the certificate management device 20 includes a certificate receiving section 21, a certificate storage section 22, and a certificate transmitting section 23.
  • the certificate receiving unit 21 receives a certificate from the AI model designer terminal 30.
  • the certificate receiving unit 21 stores the received certificate in the certificate storage unit 22.
  • the certificate storage unit 22 stores certificates. That is, the certificate storage unit 22 functions as a storage or repository for storing certificates.
  • the certificate sending unit 23 receives a certificate sending request from the user terminal 50 and sends the certificate stored in the certificate storage unit 22 to the user terminal 50.
  • FIG. 4 is a diagram showing an example of the functional configuration of the AI model designer terminal according to the embodiment of the present invention.
  • the AI model designer terminal 30 includes a user information storage section 31, a verifier generation section 32, a certificate acquisition section 33, a certificate transmission section 34, a certificate location information transmission section 35, and an AI model information transmission section. 36.
  • the user information storage unit 31 stores information indicating the user who uses the AI model.
  • the AI model designer may transfer the AI model to the user through an assignment contract, or may permit the user to use the AI model through a license agreement.
  • the AI model designer may store in the user information storage unit 31 in advance information indicating the user who has transferred or licensed the use.
  • the verifier generation unit 32 generates a verifier for validating the AI model for each user who uses the AI model. For example, when the AI model is a classification model, the verifier generation unit 32 extracts features indicating the boundaries of the classification and generates a verifier based on the extracted features and information related to the user. You may.
  • the certificate acquisition unit 33 transmits a request to issue a certificate to the certificate authority device 10 and acquires the certificate from the certificate authority device 10.
  • the certificate acquisition unit 33 includes the verifier generated by the AI model designer terminal 30, an identifier for identifying the AI model, the name of the AI model, user information indicating the user who uses the AI model, and the AI model design.
  • the certificate authority device 10 transmits information such as AI design document information indicating the identity of the certificate authority and the effective date of the certificate.
  • the certificate transmitter 34 transmits the acquired certificate to the certificate management device 20.
  • the certificate location information transmitting unit 35 transmits information indicating the location of the certificate (certificate location information) to the AI model control device 40 in order to request that it be embedded in the AI model.
  • the certificate location information is address information necessary for communicating with the certificate management device 20, and may be information indicating the location of a resource on the Internet of the certificate, such as a URI (Uniform Resource Identifier). good.
  • the AI model information transmitter 36 transmits information necessary for using the AI model (AI model information) according to the operation of the AI model designer. is transmitted to the user terminal 50.
  • the user terminal 50 can use the AI model by acquiring the AI model information.
  • the AI model information includes a verifier of the AI model.
  • the AI model information may include an authentication key for authenticating the AI model.
  • FIG. 5 is a diagram showing an example of the functional configuration of the AI model control device according to the embodiment of the present invention.
  • the AI model control device 40 includes an AI model storage section 41, a certificate location information embedding section 42, a certificate location information transmission section 43, and an AI authentication section 44.
  • the AI model storage unit 41 stores an AI model designed by an AI model designer.
  • the certificate location information embedding unit 42 receives certificate location information from the AI model designer terminal 30 and embeds the received certificate location information into the AI model.
  • the embedded certificate location information may be, for example, a digital watermark, or may be embedded inseparably from the AI model.
  • the certificate location information transmitting unit 43 receives a transmission request from the user terminal 50 and transmits the certificate location information to the user terminal 50.
  • the AI authentication unit 44 receives the challenge from the user terminal 50, authenticates the AI model, and transmits information indicating the authentication result to the user terminal 50 as a response.
  • FIG. 6 is a diagram illustrating an example of the functional configuration of a user terminal according to an embodiment of the present invention.
  • the user terminal 50 includes an AI model information reception section 51, an AI model information storage section 52, a certificate location information acquisition section 53, a certificate acquisition section 54, a certificate verification section 55, and an AI authentication request section 56. , is provided.
  • the AI model information receiving unit 51 receives AI model information from the AI model designer terminal 30.
  • the AI model information receiving unit 51 stores the received AI model information in the AI model information storage unit 52.
  • the AI model information storage unit 52 stores AI model information.
  • the certificate location information acquisition unit 53 requests the AI model control device 40 to transmit the certificate location information, and acquires the certificate location information from the AI model control device 40.
  • the certificate acquisition unit 54 requests the certificate management device 20 to send a certificate, and acquires the certificate from the certificate management device 20.
  • the certificate verification unit 55 verifies the certificate. Specifically, the certificate verification unit 55 determines whether the verifier (correct verifier) included in the AI model information is included in the certificate. If the correct verifier is not included, the certificate verification unit 55 determines that the certificate does not include a verifier.
  • the AI authentication requesting unit 56 transmits a challenge to the user terminal 50 to request authentication of the AI model.
  • the challenge may include an authentication key for authenticating the AI model.
  • the AI authentication requesting unit 56 does not transmit a challenge for requesting AI authentication.
  • FIG. 7 is a sequence diagram illustrating an example of the flow of verifier registration processing according to the embodiment of the present invention. Note that before the verifier registration process is started, the AI model designed by the AI model designer is stored in the AI model storage unit 41 of the AI model control device 40.
  • the verifier generation unit 32 of the AI model designer terminal 30 generates a verifier for verifying the AI model (step S101).
  • the certificate acquisition unit 33 of the AI model designer terminal 30 requests the certificate authority device 10 to issue a certificate (step S102).
  • the certificate acquisition unit 33 includes the verifier generated by the AI model designer terminal 30, an identifier for identifying the AI model, the name of the AI model, user information indicating the user who uses the AI model, and the AI model design.
  • the certificate authority device 10 transmits information such as AI design document information indicating the identity of the certificate authority and the effective date of the certificate.
  • the AI designer confirmation unit 12 of the certificate authority device 10 confirms the AI model designer based on the received information (step S103).
  • the issued confirmation unit 13 of the certificate authority device 10 confirms that the certificate has not been issued (step S104). If the certificate has not been issued yet, the certificate issuing unit 14 of the certificate authority device 10 issues the certificate (step S105). That is, the certificate issuing unit 14 generates a certificate and transmits the generated certificate to the AI model designer terminal 30. Thereby, the certificate acquisition unit 33 of the AI model designer terminal 30 acquires the transmitted certificate.
  • the certificate sending unit 34 of the AI model designer terminal 30 sends the certificate to the certificate management device 20 (step S106). Further, the certificate location information transmitting unit 35 of the AI model designer terminal 30 transmits the certificate location information to the AI model control device 40 (step S107). Through this step S107, the certificate location information transmitting unit 35 requests the AI model control device 40 to embed the certificate location information in the AI model.
  • the certificate location information embedding unit 42 of the AI model control device 40 receives the certificate location information from the AI model designer terminal 30, and embeds the received certificate location information into the AI model (step S108).
  • the AI model information transmitting unit 36 of the AI model designer terminal 30 transmits the AI model information to the user terminal 50 according to the operation of the AI model designer (step S109).
  • the AI model information includes the verifier of the AI model generated in step S101.
  • the AI model information receiving unit 51 of the user terminal 50 receives AI model information and stores the received AI model information in the AI model information storage unit 52.
  • FIG. 8 is a sequence diagram showing an example of the flow of AI model authentication processing according to the embodiment of the present invention.
  • the certificate location information acquisition unit 53 of the user terminal 50 requests transmission of certificate location information (step S201).
  • the certificate location information transmitting unit 43 of the AI model control device 40 transmits the certificate location information to the user terminal 50 (step S202). Thereby, the certificate location information acquisition unit 53 of the user terminal 50 acquires the transmitted certificate location information.
  • the certificate acquisition unit 54 of the user terminal 50 requests the certificate management device 20 to transmit the certificate (step S203).
  • the certificate transmitter 23 of the certificate management device 20 transmits the certificate to the user terminal 50 in response to the request (step S204).
  • the certificate acquisition unit 54 of the user terminal 50 acquires the transmitted certificate.
  • the certificate verification unit 55 of the user terminal 50 verifies the certificate (step S205). Specifically, the certificate verification unit 55 determines whether the verifier (correct verifier) included in the AI model information is included in the certificate. If the correct verifier is not included, the certificate verification unit 55 determines that the certificate does not include a verifier. That is, the certificate verification unit 55 verifies the authenticity of the verifier of the AI model to be used based on the certificate.
  • the AI authentication request unit 56 of the user terminal 50 transmits a challenge (step S206).
  • the challenge may include an authentication key for authenticating the AI model.
  • the AI authentication unit 44 of the AI model control device 40 performs AI authentication (step S207), and transmits a response to the user terminal 50 (step S208).
  • the certificate authority device 10 functioning as a third party issues a certificate corresponding to the verifier of the AI model.
  • the user terminal 50 can confirm the authenticity of the verifier of the AI model to be used based on the certificate.
  • the AI model authentication system 1 can deal with AI model impersonation.
  • a verifier for authenticating an AI model has been distributed to users, but if a verifier for a different AI model has been distributed in the first place, if the authenticity of the verifier cannot be confirmed, the authentication itself will be successful, but the user will not be able to use it.
  • the AI model used may not be the one intended, and spoofing may be successful.
  • by checking the authenticity of a verifier for authenticating an AI model based on the above-mentioned certificate it is possible to determine whether the verifier is a verifier of another AI model. identity theft and prevent spoofing.
  • the AI model designer terminal 30 issues a verifier for each user. This allows the authenticity of the AI model to be confirmed for each user.
  • the certificate authority device 10, certificate management device 20, AI model designer terminal 30, AI model control device 40, and user terminal 50 according to the present embodiment will be described.
  • the certificate authority device 10, certificate management device 20, AI model designer terminal 30, AI model control device 40, and user terminal 50 according to the present embodiment are realized by, for example, the hardware configuration of the computer 500 shown in FIG. .
  • FIG. 9 is a diagram showing an example of the hardware configuration of the computer.
  • the computer in FIG. 9 includes a drive device 1000, an auxiliary storage device 1002, a memory device 1003, a CPU 1004, an interface device 1005, a display device 1006, an input device 1007, an output device 1008, and the like, which are interconnected via a bus B.
  • a program that realizes processing on the computer is provided, for example, on a recording medium 1001 such as a CD-ROM or a memory card.
  • a recording medium 1001 such as a CD-ROM or a memory card.
  • the program is installed from the recording medium 1001 to the auxiliary storage device 1002 via the drive device 1000.
  • the program does not necessarily need to be installed from the recording medium 1001, and may be downloaded from another computer via a network.
  • the auxiliary storage device 1002 stores installed programs as well as necessary files, data, and the like.
  • the memory device 1003 reads and stores the program from the auxiliary storage device 1002 when there is an instruction to start the program.
  • the CPU 1004 implements functions related to the device according to programs stored in the memory device 1003.
  • the interface device 1005 is used as an interface for connecting to a network.
  • a display device 1006 displays a GUI (Graphical User Interface) and the like based on a program.
  • the input device 1007 is composed of a keyboard, a mouse, buttons, a touch panel, or the like, and is used to input various operation instructions.
  • An output device 1008 outputs the calculation result.
  • the computer may include a GPU (Graphics Processing Unit) or a TPU (Tensor Processing Unit) instead of the CPU 1004, or may include a GPU or a TPU in addition to the CPU 1004. In that case, the processing may be divided and executed such that the GPU or TPU executes processing that requires special calculations, and the CPU 1004 executes other processing.
  • the device configuration included in the AI model authentication system 1 is an example. That is, the AI model authentication system 1 may hold each of the above-mentioned functional units in any device configuration.
  • the user terminal 50 and the AI model control device 40 may be the same device.
  • the AI model designer terminal 30 and the certificate management device 20 may be the same device.
  • This specification describes at least an information processing device, an AI model authentication system, an AI model authentication method, and a program described in each section below.
  • a verifier generator configured to generate a verifier for verifying the AI model
  • Certificate acquisition configured to request a certificate authority device functioning as a certificate authority to issue a certificate for proving the authenticity of the AI model, and obtain a certificate issued by the certificate authority device.
  • Department and a certificate location information transmitter configured to request a device that controls an AI model to embed certificate location information indicating the location of the acquired certificate into the AI model; Information processing device.
  • the verifier generation unit is configured to generate the verifier for each user who uses the AI model, The information processing device according to item 1.
  • An AI model authentication system comprising an information processing device, a certificate management device, and a certificate authority device
  • the information processing device includes: a verifier generator configured to generate a verifier for verifying the AI model; a certificate acquisition unit configured to request the certificate authority device to issue a certificate to prove the authenticity of the AI model and obtain the certificate issued by the certificate authority device; a certificate location information transmitter configured to request a device that controls an AI model to embed certificate location information indicating the location of the acquired certificate into the AI model;
  • the certificate management device includes: a certificate receiving unit configured to receive the certificate from the information processing device; a certificate sending unit configured to receive a request to send the certificate from a terminal operated by a user using the AI model and send the certificate to the terminal;
  • the certificate authority device includes: an issued confirmation unit configured to confirm that a certificate corresponding to the same verifier has not been issued, based on the certificate issuance history; A certificate issue configured to generate a certificate and send the generated certificate to the information processing device when it is confirmed that a certificate corresponding to the same
  • AI model authentication system 10 Certificate authority device 11 Certificate issuance request receiving unit 12 AI designer confirmation unit 13 Issued confirmation unit 14 Certificate issuing unit 15 Certificate issuance history storage unit 20 Certificate management device 21 Certificate receiving unit 22 Certificate storage unit 23 Certificate transmission unit 30 AI model designer terminal 31 User information storage unit 32 Verifier generation unit 33 Certificate acquisition unit 34 Certificate transmission unit 35 Certificate location information transmission unit 36 AI model information transmission unit 40 AI Model control device 41 AI model storage unit 42 Certificate location information embedding unit 43 Certificate location information transmission unit 44 AI authentication unit 50 User terminal 51 AI model information reception unit 52 AI model information storage unit 53 Certificate location information acquisition unit 54 Certificate acquisition unit 55 Certificate verification unit 56 AI authentication request unit 60 Communication network 1000 Drive device 1001 Recording medium 1002 Auxiliary storage device 1003 Memory device 1004 CPU 1005 Interface device 1006 Display device 1007 Input device 1008 Output device

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Computer Security & Cryptography (AREA)
  • Technology Law (AREA)
  • Multimedia (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

ＡＩモデルを検証するための検証子を生成するように構成されている検証子生成部と、前記ＡＩモデルの真正性を証明するための証明書の発行を、認証局として機能する認証局装置に要求し、前記認証局装置が発行する証明書を取得するように構成されている証明書取得部と、取得した前記証明書の所在を示す証明書所在情報を前記ＡＩモデルに埋め込むように、ＡＩモデルを制御する装置に要求するように構成されている証明書所在情報送信部と、を備える情報処理装置である。

Description

情報処理装置、ＡＩモデル認証システム、ＡＩモデル認証方法およびプログラム
　本発明は、情報処理装置、ＡＩモデル認証システム、ＡＩモデル認証方法およびプログラムに関する。
　ＡＩモデルが様々な分野で利用されつつある昨今において、ＡＩモデルを認証する技術が研究されている。例えば、非特許文献１には、ディープニューラルネットワークの電子透かしを使用してディープニューラルネットワークを識別する技術が開示されている。また、非特許文献２には、モデル所有者のディープニューラルネットワーク分類器の分類境界近くにあるいくつかのデータポイントを抽出し、それらを使用して分類器を識別する技術が開示されている。
　ＡＩモデルの認証だけでなく、ＡＩモデルの真正性を確認する必要性が生じている。従来の技術を使用して、意図したＡＩモデルかを検証することが可能なデータ（検証子）を使うことで偽のＡＩモデルを不正に利用することを防ぐことが考えられる。しかし、検証子自体が改ざんされるか不正配布されると、偽のＡＩモデルを判別することができないという問題がある。
　開示の技術は、ＡＩモデルの真正性の確認の精度を向上させることを目的とする。
　開示の技術は、ＡＩモデルを検証するための検証子を生成するように構成されている検証子生成部と、前記ＡＩモデルの真正性を証明するための証明書の発行を、認証局として機能する認証局装置に要求し、前記認証局装置が発行する証明書を取得するように構成されている証明書取得部と、取得した前記証明書の所在を示す証明書所在情報を前記ＡＩモデルに埋め込むように、ＡＩモデルを制御する装置に要求するように構成されている証明書所在情報送信部と、を備える情報処理装置である。
　ＡＩモデルの真正性の確認の精度を向上させることができる。
本発明の実施の形態に係るＡＩモデル認証システムの全体構成の一例を示す図である。 本発明の実施の形態に係る認証局装置の機能構成の一例を示す図である。 本発明の実施の形態に係る証明書管理装置の機能構成の一例を示す図である。 本発明の実施の形態に係るＡＩモデル設計者端末の機能構成の一例を示す図である。 本発明の実施の形態に係るＡＩモデル制御装置の機能構成の一例を示す図である。 本発明の実施の形態に係るユーザ端末の機能構成の一例を示す図である。 本発明の実施の形態に係る検証子登録処理の流れの一例を示すシーケンス図である。 本発明の実施の形態に係るＡＩモデル認証処理の流れの一例を示すシーケンス図である。 コンピュータのハードウェア構成例を示す図である。
　以下、図面を参照して本発明の実施の形態（本実施の形態）を説明する。以下で説明する実施の形態は一例に過ぎず、本発明が適用される実施の形態は、以下の実施の形態に限られるわけではない。
　本実施の形態では、ＡＩモデルの真正性を確認するためＡＩモデルの認証方法について説明する。
　図１は、本発明の実施の形態に係るＡＩモデル認証システムの全体構成の一例を示す図である。ＡＩモデル認証システム１は、認証局装置１０と、証明書管理装置２０と、ＡＩモデル設計者端末３０と、ＡＩモデル制御装置４０と、ユーザ端末５０と、を備える。
　認証局装置１０、証明書管理装置２０、ＡＩモデル設計者端末３０、ＡＩモデル制御装置４０およびユーザ端末５０は、通信ネットワーク６０を介して互いに通信可能に接続されている。
　認証局装置１０は、ＰＫＩ（Public Key Infrastructure）におけるＣＡ（Certification Authority）と同様に、信頼できる第三者として機能する装置である。具体的には、認証局装置１０は、ＡＩモデルの認証のための検証子に基づいて、ＡＩモデルの証明書を発行する。
　検証子とは、認証対象がクレデンシャルを持っていることを確認するための情報である。クレデンシャルとは、認証対象が持っている情報である。例えば、ＡＩモデルが持っているクレデンシャルとは、識別器の境界線であってもよい。また、ＡＩモデルがクレデンシャルを持っていることを確認するための検証子は、ＡＩモデルの境界線近くにあるいくつかのデータポイントを示す情報であってもよい。
　証明書管理装置２０は、認証局装置１０によって発行された証明書を管理する装置である。証明書管理装置２０は、ユーザ端末５０から証明書の送信要求を受けて、ユーザ端末５０に証明書を送信する。
　ＡＩモデル設計者端末３０は、ＡＩモデルの設計者が操作する情報処理装置である。ＡＩモデル設計者端末３０は、ユーザごとに検証子を生成する。また、ＡＩモデル設計者端末３０は、認証局装置１０に証明書の発行を要求し、証明書の所在を示す証明書所在情報をＡＩモデル制御装置４０に送信する。
　ＡＩモデル制御装置４０は、ＡＩモデルを制御する装置である。ＡＩモデル制御装置４０は、ユーザ端末５０からの要求によって、ＡＩモデルに埋め込まれた情報をユーザ端末５０に送信する。また、ＡＩモデル制御装置４０は、ユーザ端末５０から送信されたチャレンジに基づいて、ＡＩ認証を行って、当該チャレンジに対するレスポンスをユーザ端末５０に送信する。
　ユーザ端末５０は、ＡＩモデルを使用するユーザが操作する端末である。ユーザ端末５０は、ＡＩモデル制御装置４０からＡＩモデルに埋め込まれた情報を受信する。また、ユーザ端末５０は、ＡＩモデル制御装置４０にチャレンジを送信して、ＡＩ認証のレスポンスを受信する。
　通信ネットワーク６０は、情報を送受信するための通信網であって、インターネットでもイントラネットでもよい。
　図２は、本発明の実施の形態に係る認証局装置の機能構成の一例を示す図である。認証局装置１０は、証明書発行要求受付部１１と、ＡＩ設計者確認部１２と、発行済確認部１３と、証明書発行部１４と、証明書発行履歴記憶部１５と、を備える。
　証明書発行要求受付部１１は、ＡＩモデル設計者端末３０から証明書の発行要求を受け付ける。当該発行要求において、証明書発行要求受付部１１は、ＡＩモデル設計者端末３０が生成した検証子、ＡＩモデルを識別するための識別子、ＡＩモデルの名称、ＡＩモデルを使用するユーザを示すユーザ情報、ＡＩモデル設計者を示すＡＩ設計書情報、証明書の発効日等を受信する。
　ＡＩ設計者確認部１２は、受信した情報に基づいて、ＡＩモデル設計者が真正であることを確認する。
　発行済確認部１３は、ＡＩモデル設計者が真正であることが確認された場合に、証明書発行履歴記憶部１５に記憶されている証明書を発行した履歴に基づいて、同一の検証子に対応する証明書が発行済みでないことを確認する。
　証明書発行部１４は、同一の検証子に対応する証明書が発行済みでないことが確認された場合に、証明書を生成し、生成された証明書をＡＩモデル設計者端末３０に送信する。証明書発行部１４は、証明書を発行した履歴を示す情報を、証明書発行履歴記憶部１５に格納する。証明書発行履歴記憶部１５は、証明書を発行した履歴を示す情報を記憶する。
　図３は、本発明の実施の形態に係る証明書管理装置の機能構成の一例を示す図である。証明書管理装置２０は、証明書受信部２１と、証明書記憶部２２と、証明書送信部２３と、を備える。
　証明書受信部２１は、ＡＩモデル設計者端末３０から証明書を受信する。証明書受信部２１は、受信した証明書を証明書記憶部２２に格納する。
　証明書記憶部２２は、証明書を記憶する。すなわち、証明書記憶部２２は、証明書を格納するストレージまたはリポジトリとして機能する。証明書送信部２３は、ユーザ端末５０から証明書の送信要求を受け付けて、証明書記憶部２２に格納された証明書をユーザ端末５０に送信する。
　図４は、本発明の実施の形態に係るＡＩモデル設計者端末の機能構成の一例を示す図である。ＡＩモデル設計者端末３０は、ユーザ情報記憶部３１と、検証子生成部３２と、証明書取得部３３と、証明書送信部３４と、証明書所在情報送信部３５と、ＡＩモデル情報送信部３６と、を備える。
　ユーザ情報記憶部３１は、ＡＩモデルを使用するユーザを示す情報を記憶する。ＡＩモデル設計者は、譲渡契約によってＡＩモデルをユーザに譲渡してもよいし、ライセンス契約によってＡＩモデルをユーザが使用することを許諾してもよい。ＡＩモデル設計者は、譲渡または使用許諾をしたユーザを示す情報を、あらかじめユーザ情報記憶部３１に格納してもよい。
　検証子生成部３２は、ＡＩモデルを使用するユーザごとに、ＡＩモデルを検証するための検証子を生成する。検証子生成部３２は、例えば、ＡＩモデルが分類モデルである場合、分類の境界線を示す特徴を抽出して、抽出された特徴と、ユーザに関連する情報とに基づいて、検証子を生成してもよい。
　証明書取得部３３は、証明書を発行する要求を認証局装置１０に送信して、証明書を認証局装置１０から取得する。ここで、証明書取得部３３は、ＡＩモデル設計者端末３０が生成した検証子、ＡＩモデルを識別するための識別子、ＡＩモデルの名称、ＡＩモデルを使用するユーザを示すユーザ情報、ＡＩモデル設計者を示すＡＩ設計書情報、証明書の発効日等を認証局装置１０に送信する。
　証明書送信部３４は、取得した証明書を証明書管理装置２０に送信する。
　証明書所在情報送信部３５は、証明書の所在を示す情報（証明書所在情報）をＡＩモデルに埋め込むように要求するために、ＡＩモデル制御装置４０に送信する。証明書所在情報は、証明書管理装置２０に通信するために必要なアドレス情報であって、例えば、証明書のインターネット上のリソースの位置を示す情報、例えばＵＲＩ（Uniform Resource Identifier）であってもよい。
　ＡＩモデル情報送信部３６は、ＡＩモデル設計者が譲渡契約、ライセンス契約等をユーザと締結すると、ＡＩモデル設計者の操作にしたがって、当該ＡＩモデルを使用するために必要な情報（ＡＩモデル情報）をユーザ端末５０に送信する。ユーザ端末５０は、ＡＩモデル情報を取得することによって、ＡＩモデルが使用可能となる。ＡＩモデル情報は、ＡＩモデルの検証子を含む。また、ＡＩモデル情報は、ＡＩモデルを認証するための認証キーを含んでもよい。
　図５は、本発明の実施の形態に係るＡＩモデル制御装置の機能構成の一例を示す図である。ＡＩモデル制御装置４０は、ＡＩモデル記憶部４１と、証明書所在情報埋込部４２と、証明書所在情報送信部４３と、ＡＩ認証部４４と、を備える。
　ＡＩモデル記憶部４１は、ＡＩモデル設計者によって設計されたＡＩモデルを記憶する。
　証明書所在情報埋込部４２は、ＡＩモデル設計者端末３０から証明書所在情報を受信して、受信した証明書所在情報をＡＩモデルに埋め込む。埋め込まれた証明書所在情報は、例えば電子透かしであってもよく、ＡＩモデルと不可分に埋め込まれてもよい。
　証明書所在情報送信部４３は、ユーザ端末５０から送信要求を受信して、証明書所在情報をユーザ端末５０に送信する。
　ＡＩ認証部４４は、ユーザ端末５０からチャレンジを受信して、ＡＩモデルを認証し、認証結果を示す情報をレスポンスとしてユーザ端末５０に送信する。
　図６は、本発明の実施の形態に係るユーザ端末の機能構成の一例を示す図である。ユーザ端末５０は、ＡＩモデル情報受信部５１と、ＡＩモデル情報記憶部５２と、証明書所在情報取得部５３と、証明書取得部５４と、証明書検証部５５と、ＡＩ認証要求部５６と、を備える。
　ＡＩモデル情報受信部５１は、ＡＩモデル設計者端末３０からＡＩモデル情報を受信する。ＡＩモデル情報受信部５１は、受信したＡＩモデル情報をＡＩモデル情報記憶部５２に格納する。ＡＩモデル情報記憶部５２は、ＡＩモデル情報を記憶する。
　証明書所在情報取得部５３は、証明書所在情報の送信をＡＩモデル制御装置４０に要求し、ＡＩモデル制御装置４０から証明書所在情報を取得する。
　証明書取得部５４は、証明書の送信を証明書管理装置２０に要求し、証明書管理装置２０から証明書を取得する。
　証明書検証部５５は、証明書を検証する。具体的には、証明書検証部５５は、ＡＩモデル情報に含まれる検証子（正しい検証子）が証明書に含まれているか否かを判定する。証明書検証部５５は、正しい検証子が含まれていない場合には、証明書に検証子が含まれていないと判定する。
　ＡＩ認証要求部５６は、証明書検証部５５が証明書に検証子が含まれていると判定すると、ＡＩモデルの認証を要求するためのチャレンジをユーザ端末５０に送信する。当該チャレンジは、ＡＩモデルを認証するための認証キーを含んでもよい。他方、ＡＩ認証要求部５６は、証明書検証部５５が証明書に検証子が含まれていないと判定すると、ＡＩ認証を要求するためのチャレンジを送信しない。
　次に、ＡＩモデル認証システム１の動作について、図面を参照して説明する。
　図７は、本発明の実施の形態に係る検証子登録処理の流れの一例を示すシーケンス図である。なお、検証子登録処理が開始される前に、ＡＩモデル制御装置４０のＡＩモデル記憶部４１には、ＡＩモデル設計者によって設計されたＡＩモデルが格納されている。
　ＡＩモデル設計者端末３０の検証子生成部３２は、ＡＩモデルを検証するための検証子を生成する（ステップＳ１０１）。ＡＩモデル設計者端末３０の証明書取得部３３は、証明書の発行を認証局装置１０に要求する（ステップＳ１０２）。ここで、証明書取得部３３は、ＡＩモデル設計者端末３０が生成した検証子、ＡＩモデルを識別するための識別子、ＡＩモデルの名称、ＡＩモデルを使用するユーザを示すユーザ情報、ＡＩモデル設計者を示すＡＩ設計書情報、証明書の発効日等を認証局装置１０に送信する。
　認証局装置１０のＡＩ設計者確認部１２は、受信した情報に基づいて、ＡＩモデル設計者を確認する（ステップＳ１０３）。次に、認証局装置１０の発行済確認部１３は、証明書を発行済でないことを確認する（ステップＳ１０４）。そして、証明書が発行済でない場合、認証局装置１０の証明書発行部１４は、証明書を発行する（ステップＳ１０５）。すなわち、証明書発行部１４は、証明書を生成し、生成された証明書をＡＩモデル設計者端末３０に送信する。これによって、ＡＩモデル設計者端末３０の証明書取得部３３は、送信された証明書を取得する。
　続いて、ＡＩモデル設計者端末３０の証明書送信部３４は、証明書を証明書管理装置２０に送信する（ステップＳ１０６）。また、ＡＩモデル設計者端末３０の証明書所在情報送信部３５は、証明書所在情報をＡＩモデル制御装置４０に送信する（ステップＳ１０７）。このステップＳ１０７によって、証明書所在情報送信部３５は、証明書所在情報をＡＩモデルに埋め込むようにＡＩモデル制御装置４０に要求する。
　ＡＩモデル制御装置４０の証明書所在情報埋込部４２は、ＡＩモデル設計者端末３０から証明書所在情報を受信して、受信した証明書所在情報をＡＩモデルに埋め込む（ステップＳ１０８）。
　そして、ＡＩモデル設計者端末３０のＡＩモデル情報送信部３６は、ＡＩモデル設計者の操作にしたがって、ＡＩモデル情報をユーザ端末５０に送信する（ステップＳ１０９）。ＡＩモデル情報は、ステップＳ１０１で生成されたＡＩモデルの検証子を含む。ユーザ端末５０のＡＩモデル情報受信部５１は、ＡＩモデル情報を受信して、受信したＡＩモデル情報をＡＩモデル情報記憶部５２に格納する。
　図８は、本発明の実施の形態に係るＡＩモデル認証処理の流れの一例を示すシーケンス図である。ユーザ端末５０の証明書所在情報取得部５３は、証明書所在情報の送信を要求（ステップＳ２０１）。ＡＩモデル制御装置４０の証明書所在情報送信部４３は、証明書所在情報をユーザ端末５０に送信する（ステップＳ２０２）。これによって、ユーザ端末５０の証明書所在情報取得部５３は、送信された証明書所在情報を取得する。
　続いて、ユーザ端末５０の証明書取得部５４は、証明書の送信を証明書管理装置２０に要求（ステップＳ２０３）。証明書管理装置２０の証明書送信部２３は、要求に応じて証明書をユーザ端末５０に送信する（ステップＳ２０４）。これによって、ユーザ端末５０の証明書取得部５４は、送信された証明書を取得する。
　次に、ユーザ端末５０の証明書検証部５５は、証明書を検証する（ステップＳ２０５）。具体的には、証明書検証部５５は、ＡＩモデル情報に含まれる検証子（正しい検証子）が証明書に含まれているか否かを判定する。証明書検証部５５は、正しい検証子が含まれていない場合には、証明書に検証子が含まれていないと判定する。すなわち、証明書検証部５５は、使用するＡＩモデルの検証子の真正性を、証明書に基づいて確認する。
　ユーザ端末５０のＡＩ認証要求部５６は、証明書検証部５５が証明書に検証子が含まれていると判定すると、チャレンジを送信する（ステップＳ２０６）。当該チャレンジは、ＡＩモデルを認証するための認証キーを含んでもよい。
　ＡＩモデル制御装置４０のＡＩ認証部４４は、ＡＩ認証を行って（ステップＳ２０７）、レスポンスをユーザ端末５０に送信する（ステップＳ２０８）。
　本実施の形態に係るＡＩモデル認証システム１によれば、第三者機関として機能する認証局装置１０が、ＡＩモデルの検証子に対応する証明書を発行する。これによって、ユーザ端末５０は、使用するＡＩモデルの検証子の真正性を証明書に基づいて確認することができる。
　より具体的には、例えば、ＡＩモデル認証システム１によれば、ＡＩモデルのなりすましに対応することができる。ＡＩモデルを認証するための検証子がユーザに配布されたが、そもそも別のＡＩモデルの検証子が配布されている場合、検証子の真正性を確認できなれば、認証自体は成功するものの利用するＡＩモデルが意図したものではなく、なりすましが成功する可能性がある。これに対して、本実施例によれば、ＡＩモデルを認証するための検証子の真正性を、上述した証明書に基づいて確認することよって、別のＡＩモデルの検証子であるか否かを判断し、なりすましを防止することができる。
　また、ＡＩモデル設計者端末３０は、検証子をユーザごとに発行する。これによって、ユーザごとにＡＩモデルの真正性を確認することができる。
　＜ハードウェア構成＞
　最後に、本実施の形態に係る認証局装置１０、証明書管理装置２０、ＡＩモデル設計者端末３０、ＡＩモデル制御装置４０およびユーザ端末５０のハードウェア構成について説明する。本実施形態に係る認証局装置１０、証明書管理装置２０、ＡＩモデル設計者端末３０、ＡＩモデル制御装置４０およびユーザ端末５０は、例えば、図９に示すコンピュータ５００のハードウェア構成により実現される。
　図９は、上記コンピュータのハードウェア構成例を示す図である。図９のコンピュータは、それぞれバスＢで相互に接続されているドライブ装置１０００、補助記憶装置１００２、メモリ装置１００３、ＣＰＵ１００４、インタフェース装置１００５、表示装置１００６、入力装置１００７、出力装置１００８等を有する。
　当該コンピュータでの処理を実現するプログラムは、例えば、ＣＤ－ＲＯＭ又はメモリカード等の記録媒体１００１によって提供される。プログラムを記憶した記録媒体１００１がドライブ装置１０００にセットされると、プログラムが記録媒体１００１からドライブ装置１０００を介して補助記憶装置１００２にインストールされる。但し、プログラムのインストールは必ずしも記録媒体１００１より行う必要はなく、ネットワークを介して他のコンピュータよりダウンロードするようにしてもよい。補助記憶装置１００２は、インストールされたプログラムを格納すると共に、必要なファイルやデータ等を格納する。
　メモリ装置１００３は、プログラムの起動指示があった場合に、補助記憶装置１００２からプログラムを読み出して格納する。ＣＰＵ１００４は、メモリ装置１００３に格納されたプログラムに従って、当該装置に係る機能を実現する。インタフェース装置１００５は、ネットワークに接続するためのインタフェースとして用いられる。表示装置１００６はプログラムによるＧＵＩ（Ｇｒａｐｈｉｃａｌ　Ｕｓｅｒ　Ｉｎｔｅｒｆａｃｅ）等を表示する。入力装置１００７はキーボード及びマウス、ボタン、又はタッチパネル等で構成され、様々な操作指示を入力させるために用いられる。出力装置１００８は演算結果を出力する。なお、上記コンピュータは、ＣＰＵ１００４の代わりにＧＰＵ（Graphics Processing Unit）またはＴＰＵ（Tensor processing unit）を備えていても良く、ＣＰＵ１００４に加えて、ＧＰＵまたはＴＰＵを備えていても良い。その場合、特殊な演算が必要な処理をＧＰＵまたはＴＰＵが実行し、その他の処理をＣＰＵ１００４が実行する、というように処理を分担して実行しても良い。
　なお、ＡＩモデル認証システム１が備える装置構成は一例である。すなわち、ＡＩモデル認証システム１は、上述した各機能部をどのような装置構成で保持していてもよい。例えば、ユーザ端末５０とＡＩモデル制御装置４０は、同一の装置であってもよい。また、ＡＩモデル設計者端末３０と証明書管理装置２０は、同一の装置であってもよい。
　（実施の形態のまとめ）
　本明細書には、少なくとも下記の各項に記載した情報処理装置、ＡＩモデル認証システム、ＡＩモデル認証方法およびプログラムが記載されている。
（第１項）
　ＡＩモデルを検証するための検証子を生成するように構成されている検証子生成部と、
　前記ＡＩモデルの真正性を証明するための証明書の発行を、認証局として機能する認証局装置に要求し、前記認証局装置が発行する証明書を取得するように構成されている証明書取得部と、
　取得した前記証明書の所在を示す証明書所在情報を前記ＡＩモデルに埋め込むように、ＡＩモデルを制御する装置に要求するように構成されている証明書所在情報送信部と、を備える、
　情報処理装置。
（第２項）
　前記検証子生成部は、前記ＡＩモデルを使用するユーザごとに、前記検証子を生成するように構成されている、
　第１項に記載の情報処理装置。
（第３項）
　情報処理装置と、証明書管理装置と、認証局装置と、を備えるＡＩモデル認証システムであって、
　前記情報処理装置は、
　ＡＩモデルを検証するための検証子を生成するように構成されている検証子生成部と、
　前記ＡＩモデルの真正性を証明するための証明書の発行を前記認証局装置に要求し、前記認証局装置が発行する証明書を取得するように構成されている証明書取得部と、
　取得した前記証明書の所在を示す証明書所在情報を前記ＡＩモデルに埋め込むように、ＡＩモデルを制御する装置に要求するように構成されている証明書所在情報送信部と、を備え、
　前記証明書管理装置は、
　前記情報処理装置から前記証明書を受信するように構成されている証明書受信部と、
　前記ＡＩモデルを使用するユーザが操作する端末から前記証明書の送信要求を受け付けて、前記証明書を前記端末に送信するように構成されている証明書送信部と、を備え、
　前記認証局装置は、
　前記証明書を発行した履歴に基づいて、同一の検証子に対応する証明書が発行済みでないことを確認するように構成されている発行済確認部と、
　同一の検証子に対応する証明書が発行済みでないことが確認された場合に、証明書を生成し、生成された前記証明書を前記情報処理装置に送信するように構成されている証明書発行部と、を備える、
　ＡＩモデル認証システム。
（第４項）
　コンピュータが実行するＡＩモデル認証方法であって、
　ＡＩモデルを検証するための検証子を生成するステップと、
　前記ＡＩモデルの真正性を証明するための証明書の発行を、認証局として機能する認証局装置に要求し、前記認証局装置が発行する証明書を取得するステップと、
　取得した前記証明書の所在を示す証明書所在情報を前記ＡＩモデルに埋め込むように、ＡＩモデルを制御する装置に要求するステップと、を備える、
　ＡＩモデル認証方法。
（第５項）
　コンピュータを第１項または第２項に記載の情報処理装置における各部として機能させるためのプログラム。
　以上、本実施の形態について説明したが、本発明はかかる特定の実施形態に限定されるものではなく、請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
　１　ＡＩモデル認証システム
　１０　認証局装置
　１１　証明書発行要求受付部
　１２　ＡＩ設計者確認部
　１３　発行済確認部
　１４　証明書発行部
　１５　証明書発行履歴記憶部
　２０　証明書管理装置
　２１　証明書受信部
　２２　証明書記憶部
　２３　証明書送信部
　３０　ＡＩモデル設計者端末
　３１　ユーザ情報記憶部
　３２　検証子生成部
　３３　証明書取得部
　３４　証明書送信部
　３５　証明書所在情報送信部
　３６　ＡＩモデル情報送信部
　４０　ＡＩモデル制御装置
　４１　ＡＩモデル記憶部
　４２　証明書所在情報埋込部
　４３　証明書所在情報送信部
　４４　ＡＩ認証部
　５０　ユーザ端末
　５１　ＡＩモデル情報受信部
　５２　ＡＩモデル情報記憶部
　５３　証明書所在情報取得部
　５４　証明書取得部
　５５　証明書検証部
　５６　ＡＩ認証要求部
　６０　通信ネットワーク
　１０００　ドライブ装置
　１００１　記録媒体
　１００２　補助記憶装置
　１００３　メモリ装置
　１００４　ＣＰＵ
　１００５　インタフェース装置
　１００６　表示装置
　１００７　入力装置
　１００８　出力装置

Claims (5)

  1. 　ＡＩモデルを検証するための検証子を生成するように構成されている検証子生成部と、
    　前記ＡＩモデルの真正性を証明するための証明書の発行を、認証局として機能する認証局装置に要求し、前記認証局装置が発行する証明書を取得するように構成されている証明書取得部と、
    　取得した前記証明書の所在を示す証明書所在情報を前記ＡＩモデルに埋め込むように、ＡＩモデルを制御する装置に要求するように構成されている証明書所在情報送信部と、を備える、
    　情報処理装置。
  2. 　前記検証子生成部は、前記ＡＩモデルを使用するユーザごとに、前記検証子を生成するように構成されている、
    　請求項１に記載の情報処理装置。
  3. 　情報処理装置と、証明書管理装置と、認証局装置と、を備えるＡＩモデル認証システムであって、
    　前記情報処理装置は、
    　ＡＩモデルを検証するための検証子を生成するように構成されている検証子生成部と、
    　前記ＡＩモデルの真正性を証明するための証明書の発行を前記認証局装置に要求し、前記認証局装置が発行する証明書を取得するように構成されている証明書取得部と、
    　取得した前記証明書の所在を示す証明書所在情報を前記ＡＩモデルに埋め込むように、ＡＩモデルを制御する装置に要求するように構成されている証明書所在情報送信部と、を備え、
    　前記証明書管理装置は、
    　前記情報処理装置から前記証明書を受信するように構成されている証明書受信部と、
    　前記ＡＩモデルを使用するユーザが操作する端末から前記証明書の送信要求を受け付けて、前記証明書を前記端末に送信するように構成されている証明書送信部と、を備え、
    　前記認証局装置は、
    　前記証明書を発行した履歴に基づいて、同一の検証子に対応する証明書が発行済みでないことを確認するように構成されている発行済確認部と、
    　同一の検証子に対応する証明書が発行済みでないことが確認された場合に、証明書を生成し、生成された前記証明書を前記情報処理装置に送信するように構成されている証明書発行部と、を備える、
    　ＡＩモデル認証システム。
  4. 　コンピュータが実行するＡＩモデル認証方法であって、
    　ＡＩモデルを検証するための検証子を生成するステップと、
    　前記ＡＩモデルの真正性を証明するための証明書の発行を、認証局として機能する認証局装置に要求し、前記認証局装置が発行する証明書を取得するステップと、
    　取得した前記証明書の所在を示す証明書所在情報を前記ＡＩモデルに埋め込むように、ＡＩモデルを制御する装置に要求するステップと、を備える、
    　ＡＩモデル認証方法。
  5. 　コンピュータを請求項１または２に記載の情報処理装置における各部として機能させるためのプログラム。
PCT/JP2022/031581 2022-08-22 2022-08-22 情報処理装置、ａｉモデル認証システム、ａｉモデル認証方法およびプログラム WO2024042583A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/JP2022/031581 WO2024042583A1 (ja) 2022-08-22 2022-08-22 情報処理装置、ａｉモデル認証システム、ａｉモデル認証方法およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2022/031581 WO2024042583A1 (ja) 2022-08-22 2022-08-22 情報処理装置、ａｉモデル認証システム、ａｉモデル認証方法およびプログラム

Publications (1)

Publication Number Publication Date
WO2024042583A1 true WO2024042583A1 (ja) 2024-02-29

Family

ID=90012819

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/031581 WO2024042583A1 (ja) 2022-08-22 2022-08-22 情報処理装置、ａｉモデル認証システム、ａｉモデル認証方法およびプログラム

Country Status (1)

Country Link
WO (1) WO2024042583A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004185312A (ja) * 2002-12-03 2004-07-02 Canon Inc 文書管理装置
WO2018216379A1 (ja) * 2017-05-26 2018-11-29 株式会社日立国際電気 機械学習モデル不正検知システム及び不正検知方法
JP2019053542A (ja) * 2017-09-15 2019-04-04 Kddi株式会社 情報処理装置、情報処理方法、及びプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004185312A (ja) * 2002-12-03 2004-07-02 Canon Inc 文書管理装置
WO2018216379A1 (ja) * 2017-05-26 2018-11-29 株式会社日立国際電気 機械学習モデル不正検知システム及び不正検知方法
JP2019053542A (ja) * 2017-09-15 2019-04-04 Kddi株式会社 情報処理装置、情報処理方法、及びプログラム

Similar Documents

Publication Publication Date Title
CN108777684B (zh) 身份认证方法、系统及计算机可读存储介质
CN105763521B (zh) 一种设备验证方法及装置
RU2434340C2 (ru) Инфраструктура верификации биометрических учетных данных
KR102197218B1 (ko) 분산 id와 fido 기반의 블록체인 신분증을 제공하는 시스템 및 방법
JP6810334B2 (ja) プロファイルデータ配信制御装置、プロファイルデータ配信制御方法およびプロファイルデータ配信制御プログラム
US12008145B2 (en) Method and server for certifying an electronic document
JP4818664B2 (ja) 機器情報送信方法、機器情報送信装置、機器情報送信プログラム
CN112165382B (zh) 软件授权方法、装置、授权服务端及终端设备
WO2007094165A1 (ja) 本人確認システムおよびプログラム、並びに、本人確認方法
JP2007081482A (ja) 端末認証方法及びその装置、プログラム
JP2009212731A (ja) カード発行システム、カード発行サーバ、カード発行方法およびプログラム
KR20200128918A (ko) 블록체인 기반의 인증서 관리를 수행하는 노드 장치 및 그 동작 방법
KR101388930B1 (ko) 분리 서명 기반의 사용자 인증 장치 및 방법
KR100646948B1 (ko) 전자문서의 공증 및 검증 처리가 가능한 공증 센터 서버 및 그 방법
CN109670289B (zh) 一种识别后台服务器合法性的方法及系统
JP6866803B2 (ja) 認証システムおよび認証方法
WO2024042583A1 (ja) 情報処理装置、ａｉモデル認証システム、ａｉモデル認証方法およびプログラム
JP4541740B2 (ja) 認証用鍵の更新システム、および認証用鍵の更新方法
CN117980895A (zh) 安全签署方法、设备及系统
KR102337675B1 (ko) 수취인을 확인할 수 있는 암호화폐 송금 시스템 및 방법
KR101868564B1 (ko) 사용자 본인 확인(identification) 등록과 로컬 인증을 연계한 사용자 인증 장치 및 방법
JP2011024155A (ja) 電子署名システム、方法
JP4639698B2 (ja) データ処理システム及びデータ処理方法
KR101640440B1 (ko) 전자 서명자 본인 확인을 이용한 전자 서명 문서 관리 방법
JP2005191765A (ja) 画像管理システム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22956411

Country of ref document: EP

Kind code of ref document: A1