JP7056151B2 - デバイス、セキュアエレメント、プログラム、情報処理システム及び情報処理方法 - Google Patents
デバイス、セキュアエレメント、プログラム、情報処理システム及び情報処理方法 Download PDFInfo
- Publication number
- JP7056151B2 JP7056151B2 JP2017255173A JP2017255173A JP7056151B2 JP 7056151 B2 JP7056151 B2 JP 7056151B2 JP 2017255173 A JP2017255173 A JP 2017255173A JP 2017255173 A JP2017255173 A JP 2017255173A JP 7056151 B2 JP7056151 B2 JP 7056151B2
- Authority
- JP
- Japan
- Prior art keywords
- secure
- arithmetic
- unit
- trained model
- execution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Analysis (AREA)
- Debugging And Monitoring (AREA)
Description
(実施の形態1)
図1は、IoTシステムの構成例を示すブロック図である。本実施の形態では、IoT端末であるデバイス1に機械学習の成果物である推論モデル121をインストールし、デバイス1が推論モデル121を利用して、入力データから適切な出力データを推論する推論処理を行う形態について述べる。なお、本明細書において「推論」とは機械学習結果を利用した処理全般を表す文言として用い、「推論モデル」とは機械学習により生成された学習済みモデルを表す文言として用いる。
制御部11は、一又は複数のCPU(Central Processing Unit)、MPU(Micro-Processing Unit)、GPU(Graphics Processing Unit)等の演算処理装置を有し、記憶部12に記憶されたプログラムP1を読み出して実行することにより、デバイス1に係る種々の情報処理、制御処理を行う。記憶部12は、RAM(Random Access Memory)、ROM(Read Only Memory)等を有し、制御部11が演算処理を実行するために必要なプログラムP1、その他のデータを記憶する。また、記憶部12は、後述するように、セキュアエレメント20に格納された推論モデル用パラメータ271に基づき構築した推論モデル121を記憶する。
読出部21は、記憶部27からデータを読み出してデバイス本体10に出力する。認証部22は、後述するように、デバイス本体10から入力される認証情報の確認を行う。演算部23は、推論モデル121に基づく演算処理を実行する。カウンタ24は、デバイス1における推論処理の実行回数をカウントする。通信路開設部25は、サーバ3との間で通信内容を暗号化した秘匿通信路41(図7等参照)を開設する。入出力I/F26は、デバイス本体10の入出力I/F13との間でデータの入出力を行う。
制御部31は、一又は複数のCPU、MPU等の演算装置を備え、サーバ3に係る種々の情報処理、制御処理を行う。主記憶部32は、RAM等の揮発性メモリであり、制御部31が処理を実行する上で必要なデータを一時的に記憶する。通信部33は、通信に関する処理を行う処理回路等を有し、ネットワークNを介してデバイス1等と通信を行う。
上述の如く、セキュアエレメント20は記憶部27に、機械学習により生成された推論モデル121を展開するための推論モデル用パラメータ271を記憶している。本実施の形態において推論モデル121は、ディープラーニングにより生成されたニューラルネットワークであるものとして説明する。なお、機械学習のアルゴリズムはディープラーニングに限定されるものではなく、例えば回帰法、決定木学習、ベイズ法、クラスタリング等であってもよく、また、推論モデル121はニューラルネットワークに限定されるものではなく、線形モデル、決定木、ベイジアンネットワーク等であってもよい。
なお、機械学習は教師なし学習、半教師学習等であってもよい。また、機械学習は強化学習であってもよく、この場合、推論モデル用パラメータ271はQ値(Q(s,a);sは状態、aは行動)であってもよい。
例えばデバイス1の起動時、又は推論を伴うアプリケーションの動作開始時等に、デバイス本体10の制御部11は、セキュアエレメント20に対して推論モデル用パラメータ271の読み出しを要求する(P1)。
例えばセキュアエレメント20には、ハイパーパラメータ271aで規定する第0~3層のニューロン層に対応して、各ニューロン層に適用する学習パラメータ271bが保持されている。具体的には、セキュアエレメント20は各ニューロンに対して適用する重み付け係数、バイアス値等のパラメータを格納しており、制御部11は、当該パラメータを各々のニューロンに対して適用する。
蒸留とは、既存の学習済みモデル(図6の例ではニューラルネットワーク)の出力を、より小規模な他のモデルに対する教師データとすることで、学習済みモデルの規模を縮小しつつ、同等の推論を行うことが可能な生徒モデルを生成する手法である。
まずデバイス本体10の制御部11は、推論対象である入力データを推論モデル121に入力し、推論モデル121の一部の演算を実行する(P21)。例えば推論モデル121がニューラルネットワークである場合、推論モデル121は複数のニューロン層、つまり複数の演算要素を有する。制御部11は、推論モデル121を構成する複数の演算要素のうち、入力層を含む前段要素の演算を行う。
例えばデバイス1は、自装置の起動時、又は推論処理を伴うアプリケーションの起動時等、所定のタイミングで以下の処理を実行する。デバイス本体10の制御部11は、推論モデル121を展開するために必要なパラメータを保持するセキュアエレメント20に対し、当該パラメータの読み出しを要求する(ステップS11)。上述の如く、セキュアエレメント20は耐タンパ性を有するチップであり、デバイス本体10とは物理的に分離され、推論モデル用のパラメータを安全に保持する。
デバイス本体10の制御部11は、推論モデル121に入力する入力データを取得する(ステップS31)。例えばデバイス1が監視カメラである場合、制御部11は、撮像部16で撮像された画像データを取得する。制御部11は、推論モデル121を構成する前段要素の演算処理を実行する(ステップS32)。例えば推論モデル121がニューラルネットワークである場合、制御部11は、ニューラルネットワークの入力層を含む一又は複数のニューロン層の演算を実行する。
例えばサーバ3は、バッチ処理により一連の処理をスタートする。サーバ3の制御部31は、動作管理DB342を確認し、推論実行回数又は許否情報が更新されているデバイス1があるか否かを判定する(ステップS71)。上述の如く、動作管理DB342には、個々のデバイス1の固有ID273と対応付けて、各デバイス1の推論実行回数、及び推論処理の許可又は禁止を表す許否情報を記憶している。例えばサーバ3は、本システムの管理者から各データの更新入力を受け付け、動作管理DB342に更新値を記憶しておく。制御部31は、バッチ処理で動作管理DB342を参照し、更新を検知する。
実施の形態1では、デバイス1内のセキュアエレメント20において推論モデル121の一部の演算処理を実行する形態について述べた。本実施の形態では、デバイス1外部のサーバ3が、セキュアエレメント20が実行すべき演算処理の一部を行う形態について述べる。なお、実施の形態1と重複する内容については同一の符号を付して説明を省略する。
許可フラグ272を参照して、推論処理が許可されていると判定した場合(S38:YES)、セキュアエレメント20は以下の処理を実行する。セキュアエレメント20は、デバイス本体10から指定された推論モデル121の演算要素のうち、一部の演算要素について演算を実行する(ステップS201)。例えば推論モデル121がニューラルネットワークである場合、セキュアエレメント20は、少なくともデバイス本体10から指定された演算開始層を含む、一又は複数のニューロン層の演算を実行する。なお、セキュアエレメント20では演算処理を実行しないものとする場合、ステップS201の処理をスキップして良い。
実施の形態1では、デバイス1に搭載されたセキュアエレメント20において推論モデル121の一部の演算処理を実行する形態について述べた。本実施の形態では、デバイス1に仮想的に構築されたトラステッド実行環境(TEE;Trusted Execution Environment)において演算処理を実行する形態について述べる。
図18は、実施の形態3に係るIoTシステムの構成例を示すブロック図である。本実施の形態に係るデバイス1は、例えばTrustZone(登録商標)と称される技術を用いることによって、ソフトウェア(OS、アプリケーションなど)の実行環境を、通常実行環境(REE;Rich Execution Environment)51と、トラステッド実行環境52とに分離している。
本実施の形態では、デバイス1に格納されている推論モデル121を更新する形態について述べる。
図19は、推論モデル121の更新処理に関する説明図である。図19では、セキュアエレメント20がサーバ3との間で通信を行い、推論モデル用パラメータ271を更新する様子を概念的に図示している。
デバイス本体10の制御部11は、推論モデル121の最新のモデルであるか否かをサーバ3に確認するよう、セキュアエレメント20に要求する(ステップS401)。当該要求を受け付けた場合、セキュアエレメント20はサーバ3との間で秘匿通信路41を開設する(ステップS402)。セキュアエレメント20は秘匿通信路41を介して、推論モデル用パラメータ271の更新要求を行う(ステップS403)。例えばセキュアエレメント20は、上記のように、記憶部27に格納してあるパラメータのバージョン情報271cと、自装置の固有ID273とをサーバ3へ送信する。
本実施の形態では、サーバ3が、デバイス1における推論処理の実行頻度に基づいて異常を検知し、推論処理を禁止する形態について述べる。
図21は、推論処理の実行頻度に基づく推論禁止処理に関する説明図である。図21に基づき、本実施の形態の概要について説明する。
例えばサーバ3は、バッチ処理により以下の処理を実行する。サーバ3の制御部31は、動作管理DB342を参照して、各デバイス1における推論処理の実行頻度を計算する(ステップS501)。上述の如く、各デバイス1は、推論処理の実行回数を実行時刻と共にサーバ3へ通知している。サーバ3は動作管理DB342に、推論処理の実行時刻も含めて、各デバイス1における推論処理の実行回数を記憶している。サーバ3は、動作管理DB342に記憶してある各推論時の実行時刻から、デバイス1における推論処理の実行頻度を計算する。
図23は、上述した形態のデバイス1の動作を示す機能ブロック図である。制御部11がプログラムP1を実行することにより、デバイス1は以下のように動作する。記憶部221は、機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを記憶する。実行部222は、前記学習済みモデルに基づく演算処理を実行する。セキュア部223は、該実行部222よりセキュアなコンポーネントであって、前記実行部222からの演算要求に従い、前記学習済みモデルの一部の前記演算要素に係る演算処理を実行する。前記実行部222は、前記セキュア部223による演算結果を用いて、最終的な演算結果を出力する
10 デバイス本体
11 制御部
12 記憶部
121 推論モデル
20 セキュアエレメント(セキュア部)
23 演算部
27 記憶部
271 推論モデル用パラメータ
272 許可フラグ(許否情報)
273 固有ID
51 通常実行環境
52 トラステッド実行環境(セキュア部)
3 サーバ(管理装置)
31 制御部
34 補助記憶部
341 最新モデル用パラメータ
342 動作管理DB
Claims (30)
- 機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを記憶する記憶部と、
前記学習済みモデルに基づく演算処理を実行する実行部と、
該実行部よりセキュアなコンポーネントであって、前記実行部からの演算要求に従い、前記学習済みモデルの一部の前記演算要素に係る演算処理を実行するセキュア部と
を備え、
前記実行部は、
前記学習済みモデルの一部の前記演算要素に係る演算を行い、
該一部の演算要素に係る演算結果と、該一部の演算要素とは異なる前記演算要素を演算対象に指定する情報とを前記セキュア部に出力し、
前記セキュア部は、
前記実行部から出力された演算結果を用いて、指定された前記演算要素に係る演算を実行し、
指定された前記演算要素の演算結果に対して、確率で表現された演算結果の端数処理を行って、前記実行部に返送する演算結果を変換し、
変換後の演算結果を前記実行部に返送し、
前記実行部は、前記セキュア部から返送された演算結果を用いて、最終的な演算結果を出力する
ことを特徴とするデバイス。 - 機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを記憶する記憶部と、
運用者認証に必要な認証情報を取得する取得部と、
前記学習済みモデルに基づく演算処理を実行する実行部と、
該実行部よりセキュアなコンポーネントであって、前記実行部からの演算要求に従い、前記学習済みモデルの一部の前記演算要素に係る演算処理を実行するセキュア部と
を備え、
前記セキュア部は、前記認証情報に基づく運用者認証に成功した場合、前記演算処理を実行し、
前記実行部は、前記セキュア部による演算結果を用いて、最終的な演算結果を出力する
ことを特徴とするデバイス。 - 機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを記憶する記憶部と、
前記学習済みモデルに基づく演算処理を実行する実行部と、
該実行部よりセキュアなコンポーネントであって、前記実行部からの演算要求に従い、前記学習済みモデルの一部の前記演算要素に係る演算処理を実行するセキュア部と
を備え、
前記セキュア部は、
前記実行部から要求された前記演算処理の一部又は全部の実行を、デバイスと通信可能な管理装置に要求し、
前記管理装置から演算結果を取得し、
前記管理装置から取得した演算結果を、又は該取得した演算結果を用いて前記セキュア部が実行した前記演算処理の結果を、前記実行部に返送し、
前記実行部は、前記セキュア部から返送された演算結果を用いて、最終的な演算結果を出力する
ことを特徴とするデバイス。 - 機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを記憶する記憶部と、
前記学習済みモデルに基づく演算処理を実行する実行部と、
該実行部よりセキュアなコンポーネントであって、前記実行部からの演算要求に従い、前記学習済みモデルの一部の前記演算要素に係る演算処理を実行するセキュア部と
を備え、
前記実行部は、前記セキュア部による演算結果を用いて、最終的な演算結果を出力し、
前記セキュア部は、
前記実行部からの演算要求を受け付けた場合、前記演算処理の実行回数をカウントし、
前記実行回数が所定回数に達した場合、前記演算処理を制限する
ことを特徴とするデバイス。 - 前記セキュア部は、カウントした前記実行回数、又は前記演算処理を実行した旨を示す情報を、デバイスと通信可能な管理装置に通知する
ことを特徴とする請求項4に記載のデバイス。 - 前記セキュア部は、前記演算処理を実行した実行日時を併せて通知する
ことを特徴とする請求項5に記載のデバイス。 - 前記セキュア部は、
前記所定回数を、前記管理装置からの指示に従って更新する
ことを特徴とする請求項5又は6に記載のデバイス。 - 機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを記憶する記憶部と、
前記学習済みモデルに基づく演算処理を実行する実行部と、
該実行部よりセキュアなコンポーネントであって、前記実行部からの演算要求に従い、前記学習済みモデルの一部の前記演算要素に係る演算処理を実行するセキュア部と
を備え、
前記実行部は、前記セキュア部による演算結果を用いて、最終的な演算結果を出力し、
前記セキュア部は、
前記演算処理の許可又は禁止を表す許否情報を保持し、
前記演算処理の許可を表す前記許否情報を保持してある場合、前記演算処理を実行する
ことを特徴とするデバイス。 - デバイスの動作状況を管理する管理装置と通信を行い、該管理装置からの指示に従って前記許否情報を設定する
ことを特徴とする請求項8に記載のデバイス。 - 機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを記憶する記憶部と、
前記学習済みモデルに基づく演算処理を実行する実行部と、
該実行部よりセキュアなコンポーネントであって、前記実行部からの演算要求に従い、前記学習済みモデルの一部の前記演算要素に係る演算処理を実行するセキュア部と
を備え、
前記セキュア部は、
デバイスと通信可能な管理装置から、最新の前記学習済みモデルを展開するために必要なパラメータを取得し、
取得した前記パラメータを、前記実行部に出力し、
前記実行部は、前記セキュア部から取得した前記パラメータに基づき、前記最新の学習済みモデルを前記記憶部に展開する
ことを特徴とするデバイス。 - 前記セキュア部は、耐タンパ性を有するセキュアエレメント、又は前記実行部が処理を行う実行環境からのアクセスが制限されたトラステッド実行環境である
ことを特徴とする請求項1~10のいずれか1項に記載のデバイス。 - 前記セキュア部は、通信内容を暗号化した秘匿通信路を介して、前記管理装置との間の通信を行う
ことを特徴とする請求項3、5~7、9及び10のいずれか1項に記載のデバイス。 - デバイスに搭載されるセキュアエレメントであって、
前記デバイスから、機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルに基づく演算処理の実行要求を受け付ける受付部と、
受け付けた実行要求に従い、前記学習済みモデルの一部の前記演算要素に係る演算処理を実行する演算部と、
演算結果を前記デバイスに出力する出力部と、
前記デバイスから要求された前記演算処理の一部又は全部の実行を、前記デバイスと通信可能な管理装置に要求する要求部と、
前記管理装置から演算結果を取得する取得部と
を備えることを特徴とするセキュアエレメント。 - セキュアエレメントを搭載したデバイスに、
機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを記憶部に記憶し、
該学習済みモデルに基づく演算処理を実行する
処理を実行させるプログラムであって、
前記学習済みモデルの一部の前記演算要素に係る演算を行い、
該一部の演算要素に係る演算結果と、該一部の演算要素とは異なる前記演算要素を演算対象に指定する情報とを前記セキュアエレメントに出力し、前記セキュアエレメントに対し、前記一部の演算要素とは異なる前記演算要素に係る演算処理を要求し、
前記セキュアエレメントによって前記一部の演算要素に係る演算結果を用いて演算処理された前記異なる前記演算要素の演算結果に対して、確率で表現された演算結果の端数処理が行われた変換後の演算結果を、前記セキュアエレメントから返送され、
前記セキュアエレメントから返送された演算結果を用いて、最終的な演算結果を出力する
処理を前記デバイスに実行させることを特徴とするプログラム。 - セキュアエレメントを搭載したデバイスに、
機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを記憶部に記憶し、
該学習済みモデルに基づく演算処理を実行する
処理を実行させるプログラムであって、
運用者認証に必要な認証情報を取得し、
前記セキュアエレメントに対し、前記学習済みモデルの一部の前記演算要素に係る演算処理を要求し、
前記セキュアエレメントが前記認証情報に基づく運用者認証に成功した場合に前記演算処理を実行した演算結果を用いて、最終的な演算結果を出力する
処理を前記デバイスに実行させることを特徴とするプログラム。 - セキュアエレメントを搭載したデバイスに、
機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを記憶部に記憶し、
該学習済みモデルに基づく演算処理を実行する
処理を実行させるプログラムであって、
前記セキュアエレメントに対し、前記学習済みモデルの一部の前記演算要素に係る演算処理を要求し、
前記セキュアエレメントに対して要求した前記演算処理の一部又は全部の、前記デバイスと通信可能な管理装置による演算結果を、又は前記管理装置による演算結果を用いて前記セキュアエレメントが実行した前記演算処理の結果を、前記セキュアエレメントから取得し、
前記セキュアエレメントから取得した演算結果を用いて、最終的な演算結果を出力する
処理を前記デバイスに実行させることを特徴とするプログラム。 - セキュアエレメントを搭載したデバイスに、
機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを記憶部に記憶し、
該学習済みモデルに基づく演算処理を実行する
処理を実行させるプログラムであって、
前記セキュアエレメントに対し、前記学習済みモデルの一部の前記演算要素に係る演算処理を要求し、
前記セキュアエレメントによる演算結果を用いて、最終的な演算結果を出力する処理を前記デバイスに実行させ、
前記セキュアエレメントは、演算要求を受け付けた場合に、前記演算処理の実行回数をカウントし、前記実行回数が所定回数に達した場合、前記演算処理を制限する
ことを特徴とするプログラム。 - デバイスに、
機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを第1の実行環境に保持し、
前記学習済みモデルに基づく演算処理を前記第1の実行環境において実行する
処理を実行させるプログラムであって、
前記第1の実行環境において、前記学習済みモデルの一部の前記演算要素に係る演算を行い、
該一部の演算要素に係る演算結果と、該一部の演算要素とは異なる前記演算要素を演算対象に指定する情報とを、前記第1の実行環境よりもセキュアな第2の実行環境に出力し、
前記第2の実行環境において、前記一部の演算要素に係る演算結果を用いて、指定された前記演算要素に係る演算を実行し、
前記第2の実行環境において、指定された前記演算要素の演算結果に対して、確率で表現された演算結果の端数処理を行って演算結果を変換し、
前記第1の実行環境において、変換後の演算結果を用いて、最終的な演算結果を出力する
処理を前記デバイスに実行させることを特徴とするプログラム。 - デバイスに、
機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを第1の実行環境に保持し、
前記学習済みモデルに基づく演算処理を前記第1の実行環境において実行する
処理を実行させるプログラムであって、
運用者認証に必要な認証情報を取得し、
前記第1の実行環境よりもセキュアな第2の実行環境において、前記認証情報に基づく運用者認証に成功した場合に、前記学習済みモデルの一部の前記演算要素に係る演算処理を実行し、
前記第2の実行環境における演算結果を用いて、最終的な演算結果を出力する
処理を前記デバイスに実行させることを特徴とするプログラム。 - デバイスに、
機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを第1の実行環境に保持し、
前記学習済みモデルに基づく演算処理を前記第1の実行環境において実行する
処理を実行させるプログラムであって、
前記第1の実行環境よりもセキュアな第2の実行環境において、前記学習済みモデルの一部の前記演算要素に係る演算処理を実行し、
前記第2の実行環境において、前記演算処理の一部又は全部の実行を、前記デバイスと通信可能な管理装置に要求し、
前記第2の実行環境において、前記管理装置から演算結果を取得し、
前記第1の実行環境において、前記管理装置から取得した演算結果を、又は該取得した演算結果を用いた前記第2の実行環境における演算結果を用いて、最終的な演算結果を出力する
処理を前記デバイスに実行させることを特徴とするプログラム。 - デバイスに、
機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを第1の実行環境に保持し、
前記学習済みモデルに基づく演算処理を前記第1の実行環境において実行する
処理を実行させるプログラムであって、
前記第1の実行環境よりもセキュアな第2の実行環境において、前記学習済みモデルの一部の前記演算要素に係る演算処理を実行し、
前記第2の実行環境における演算結果を用いて、最終的な演算結果を出力し、
前記第2の実行環境において、前記演算処理の実行回数をカウントし、前記実行回数が所定回数に達した場合、前記演算処理を制限する
処理を前記デバイスに実行させることを特徴とするプログラム。 - デバイスと、該デバイスと通信可能な管理装置とを有する情報処理システムであって、
前記デバイスは、
機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを記憶する記憶部と、
前記学習済みモデルに基づく演算処理を実行する実行部と、
該実行部よりセキュアなコンポーネントであって、前記実行部からの演算要求に従い、前記学習済みモデルの一部の前記演算要素に係る演算処理を実行するセキュア部と
を備え、
前記実行部は、前記セキュア部による演算結果を用いて、最終的な演算結果を出力し、
前記セキュア部は、前記演算処理の実行回数、又は該演算処理を実行した旨を示す情報を前記管理装置に通知し、
前記管理装置は、前記セキュア部からの通知に基づき、前記実行回数を管理する
ことを特徴とする情報処理システム。 - 前記セキュア部は、
前記実行部からの演算要求を受け付けた場合、前記実行回数をカウントし、
カウントした前記実行回数を前記管理装置に通知する
ことを特徴とする請求項22に記載の情報処理システム。 - 前記セキュア部は、前記演算処理を実行した場合に、該演算処理を実行した旨を示す情報を前記管理装置に通知し、
前記管理装置は、前記セキュア部からの通知に基づいて前記実行回数をカウントする
ことを特徴とする請求項23に記載の情報処理システム。 - 前記セキュア部は、前記実行回数が所定回数に達していない場合、前記演算処理を実行
する
ことを特徴とする請求項22~24のいずれか1項に記載の情報処理システム。 - 前記セキュア部は、前記実行回数又は前記演算処理を実行した旨を示す情報を、前記デバイスの識別情報と共に前記管理装置に通知し、
前記管理装置は、前記実行回数又は前記演算処理を実行した旨を示す情報を、前記識別情報と対応付けて記憶部に記憶する
ことを特徴とする請求項22~25のいずれか1項に記載の情報処理システム。 - 前記セキュア部は、前記実行回数又は前記演算処理を実行した旨を示す情報を、前記演算処理を実行した実行日時と共に前記管理装置に通知し、
前記管理装置は、前記実行回数又は前記演算処理を実行した旨を示す情報を、前記実行日時と共に記憶部に記憶する
ことを特徴とする請求項22~26のいずれか1項に記載の情報処理システム。 - 前記管理装置は、
前記実行回数及び実行日時に基づき、前記演算処理の実行頻度が閾値以上であるか否かを判定する判定部と、
前記実行頻度が閾値以上であると前記判定部が判定した場合、前記演算処理の禁止を前記セキュア部に指示する指示部と
を備えることを特徴とする請求項27に記載の情報処理システム。 - 前記管理装置の前記記憶部は、複数の前記デバイスを互いに関連付けて記憶してあり、
前記指示部は、互いに関連付けられた複数の前記デバイスに対し、前記演算処理の禁止を指示する
ことを特徴とする請求項28に記載の情報処理システム。 - 機械学習により生成された学習済みモデルであって、複数の演算要素を有する学習済みモデルを記憶する記憶部と、前記学習済みモデルに基づく演算処理を実行する実行部とを備えたデバイスに、
前記実行部が、
前記学習済みモデルの一部の前記演算要素に係る演算を行い、
該一部の演算要素に係る演算結果と、該一部の演算要素とは異なる前記演算要素を演算対象に指定する情報とを、前記実行部よりもセキュアなコンポーネントに出力し、前記セキュアなコンポーネントに対し、前記異なる前記演算要素に係る演算処理を要求し、
前記セキュアなコンポーネントが、
前記実行部から出力された演算結果を用いて、指定された前記演算要素に係る演算処理を実行し、
指定された前記演算要素の演算結果に対して、確率で表現された演算結果の端数処理を行って、前記実行部に返送する演算結果を変換し、
変換後の演算結果を前記実行部に返送し、
前記実行部は、前記セキュアなコンポーネントから返送された演算結果を用いて、最終的な演算結果を出力する
処理を実行させることを特徴とする情報処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017255173A JP7056151B2 (ja) | 2017-12-29 | 2017-12-29 | デバイス、セキュアエレメント、プログラム、情報処理システム及び情報処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017255173A JP7056151B2 (ja) | 2017-12-29 | 2017-12-29 | デバイス、セキュアエレメント、プログラム、情報処理システム及び情報処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019121141A JP2019121141A (ja) | 2019-07-22 |
JP7056151B2 true JP7056151B2 (ja) | 2022-04-19 |
Family
ID=67306358
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017255173A Active JP7056151B2 (ja) | 2017-12-29 | 2017-12-29 | デバイス、セキュアエレメント、プログラム、情報処理システム及び情報処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7056151B2 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7396040B2 (ja) * | 2019-12-27 | 2023-12-12 | 日本電気株式会社 | 画像分析装置、画像分析方法及びコンピュータプログラム |
IT202000001462A1 (it) * | 2020-01-24 | 2021-07-24 | St Microelectronics Srl | Apparato per azionare una rete neurale, corrispondente procedimento e prodotto informatico |
WO2021182723A1 (ko) * | 2020-03-09 | 2021-09-16 | 한국과학기술원 | 인간의 지능을 인공 지능으로 이식하기 위한 정밀 행동 프로파일링을 위한 전자 장치 및 그의 동작 방법 |
JP7487502B2 (ja) * | 2020-03-13 | 2024-05-21 | オムロン株式会社 | 学習用データ生成装置、学習装置、制御装置、学習用データ生成方法、学習方法、制御方法、学習用データ生成プログラム、学習プログラム、及び制御プログラム |
CN113868662A (zh) * | 2020-06-30 | 2021-12-31 | 微软技术许可有限责任公司 | 机器学习网络的安全执行 |
JP7041374B2 (ja) | 2020-09-04 | 2022-03-24 | ダイキン工業株式会社 | 生成方法、プログラム、情報処理装置、情報処理方法、及び学習済みモデル |
JP6997401B1 (ja) | 2020-09-04 | 2022-01-17 | ダイキン工業株式会社 | 生成方法、プログラム、情報処理装置、情報処理方法、及び学習済みモデル |
JP6987308B1 (ja) * | 2020-12-17 | 2021-12-22 | 三菱電機株式会社 | 情報処理装置、情報処理方法および情報処理プログラム |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010257302A (ja) | 2009-04-27 | 2010-11-11 | Toppan Printing Co Ltd | セキュア媒体 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05108595A (ja) * | 1991-10-17 | 1993-04-30 | Hitachi Ltd | ニユーラルネツトワークの分散学習装置 |
-
2017
- 2017-12-29 JP JP2017255173A patent/JP7056151B2/ja active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010257302A (ja) | 2009-04-27 | 2010-11-11 | Toppan Printing Co Ltd | セキュア媒体 |
Also Published As
Publication number | Publication date |
---|---|
JP2019121141A (ja) | 2019-07-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7056151B2 (ja) | デバイス、セキュアエレメント、プログラム、情報処理システム及び情報処理方法 | |
US11544352B2 (en) | Machine-learning model fraud detection system and fraud detection method | |
JP7419325B2 (ja) | デバイス、プログラム及び情報処理方法 | |
US11899808B2 (en) | Machine learning for identity access management | |
US10721227B1 (en) | Identity management system | |
CN104246698B (zh) | 弹性操作系统电脑 | |
CN106462716B (zh) | 候选敏感数据项的可分解保护 | |
CN107209701A (zh) | 滚动安全平台 | |
EP3336735B1 (de) | Erstellen einer datenbank für eine dynamische multifaktorauthentifizierung | |
CN110929806B (zh) | 基于人工智能的图片处理方法、装置及电子设备 | |
EP1399796B1 (en) | Method and apparatus for tracking status of resource in a system for managing use of the resources | |
CN112488712A (zh) | 基于区块链大数据的安全识别方法及安全识别系统 | |
AU2002312333A1 (en) | Method and apparatus for tracking status of resource in a system for managing use of the resources | |
CN114254360A (zh) | 模型训练方法、装置、存储介质、系统以及区块链节点 | |
CN112068854B (zh) | 智能设备算法更新系统、智能设备及平台服务器 | |
EP3404569B1 (de) | Verfahren, system und computerprogrammprodukt zur verhaltensbasierten authentifizierung eines nutzers | |
CN108334788A (zh) | 文件防篡改方法及装置 | |
Pinzón et al. | Improving the security level of the FUSION@ multi-agent architecture | |
CN115118462A (zh) | 一种基于卷积增强链的数据隐私保护方法 | |
KR101988205B1 (ko) | 가상사설망 서비스 시스템 | |
EP3811559B1 (de) | Automatisches adaptives kalibrieren von authentifizierungsanforderungen | |
EP3513354A1 (en) | Dynamic registration seed | |
WO2019171443A1 (ja) | 機械学習済みモデルアップデートシステム、エッジデバイス、機械学習済みモデルアップデート方法、及びプログラム | |
DE102017219261A1 (de) | Bereitstellen physiologischer Daten | |
CN111881433B (zh) | 基于验证手势的资源转移方法、装置和计算机设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201026 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210818 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210824 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211020 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220308 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220321 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7056151 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |