JP6239808B1 - 効率的な連続認証に対して挙動分析を使用するための方法およびシステム - Google Patents
効率的な連続認証に対して挙動分析を使用するための方法およびシステム Download PDFInfo
- Publication number
- JP6239808B1 JP6239808B1 JP2017518304A JP2017518304A JP6239808B1 JP 6239808 B1 JP6239808 B1 JP 6239808B1 JP 2017518304 A JP2017518304 A JP 2017518304A JP 2017518304 A JP2017518304 A JP 2017518304A JP 6239808 B1 JP6239808 B1 JP 6239808B1
- Authority
- JP
- Japan
- Prior art keywords
- computing device
- user
- value
- behavior
- processor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 116
- 238000004458 analytical method Methods 0.000 title claims abstract description 67
- 230000006399 behavior Effects 0.000 claims abstract description 415
- 230000000694 effects Effects 0.000 claims description 95
- 239000013598 vector Substances 0.000 claims description 90
- 238000012544 monitoring process Methods 0.000 claims description 51
- 230000009471 action Effects 0.000 claims description 29
- 230000003993 interaction Effects 0.000 claims description 16
- 238000010801 machine learning Methods 0.000 abstract description 13
- 230000000593 degrading effect Effects 0.000 abstract description 4
- 230000008569 process Effects 0.000 description 39
- 238000004891 communication Methods 0.000 description 29
- 230000006870 function Effects 0.000 description 22
- 238000012360 testing method Methods 0.000 description 20
- 238000012545 processing Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 9
- 230000015556 catabolic process Effects 0.000 description 8
- 238000006731 degradation reaction Methods 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 6
- 230000001413 cellular effect Effects 0.000 description 6
- 238000013499 data model Methods 0.000 description 6
- 230000002411 adverse Effects 0.000 description 4
- 230000002093 peripheral effect Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 2
- 230000003542 behavioural effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000001815 facial effect Effects 0.000 description 2
- 230000007935 neutral effect Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000004043 responsiveness Effects 0.000 description 2
- 230000011664 signaling Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- LHMQDVIHBXWNII-UHFFFAOYSA-N 3-amino-4-methoxy-n-phenylbenzamide Chemical compound C1=C(N)C(OC)=CC=C1C(=O)NC1=CC=CC=C1 LHMQDVIHBXWNII-UHFFFAOYSA-N 0.000 description 1
- 206010000117 Abnormal behaviour Diseases 0.000 description 1
- 241000700605 Viruses Species 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 230000002730 additional effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000001010 compromised effect Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000005670 electromagnetic radiation Effects 0.000 description 1
- 239000002360 explosive Substances 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 208000016339 iris pattern Diseases 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 238000010223 real-time analysis Methods 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
- G06F21/31—User authentication
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
- G06F21/31—User authentication
- G06F21/316—User authentication by observing the pattern of computer usage, e.g. typical user behaviour
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
- G06F21/57—Certifying or maintaining trusted computer platforms, e.g. secure boots or power-downs, version controls, system software checks, secure updates or assessing vulnerabilities
- G06F21/577—Assessing vulnerabilities and evaluating computer system security
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/08—Network architectures or network communication protocols for network security for authentication of entities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/10—Network architectures or network communication protocols for network security for controlling access to devices or network resources
- H04L63/105—Multiple levels of security
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
- H04L63/1433—Vulnerability analysis
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W12/00—Security arrangements; Authentication; Protecting privacy or anonymity
- H04W12/06—Authentication
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W12/00—Security arrangements; Authentication; Protecting privacy or anonymity
- H04W12/08—Access security
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/03—Indexing scheme relating to G06F21/50, monitoring users, programs or devices to maintain the integrity of platforms
- G06F2221/034—Test or assess a computer or a system
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L2463/00—Additional details relating to network architectures or network communication protocols for network security covered by H04L63/00
- H04L2463/082—Additional details relating to network architectures or network communication protocols for network security covered by H04L63/00 applying multi-factor authentication
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
- H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
- H04L63/1425—Traffic logging, e.g. anomaly detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
- H04L63/1441—Countermeasures against malicious traffic
- H04L63/145—Countermeasures against malicious traffic the attack involving the propagation of malware through the network, e.g. viruses, trojans or worms
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W12/00—Security arrangements; Authentication; Protecting privacy or anonymity
- H04W12/60—Context-dependent security
- H04W12/67—Risk-dependent, e.g. selecting a security level depending on risk profiles
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W12/00—Security arrangements; Authentication; Protecting privacy or anonymity
- H04W12/60—Context-dependent security
- H04W12/68—Gesture-dependent or behaviour-dependent
Abstract
Description
101 デジタル信号プロセッサ(DSP)、異種プロセッサ、DSP
102 モバイルデバイス、モバイルコンピューティングデバイス
104 モデムプロセッサ、異種プロセッサ、プロセッサ
106 グラフィックスプロセッサ、異種プロセッサ、プロセッサ
108 アプリケーションプロセッサ、異種プロセッサ、プロセッサ
110 コプロセッサ、プロセッサ
112 メモリ要素
114 アナログ回路およびカスタム回路、カスタム回路
116 システム構成要素およびリソース、システム構成要素
118 クロック
120 電圧レギュレータ
124 相互接続/バスモジュール
200 セキュリティシステム
202 挙動観測器モジュール
204 挙動抽出器モジュール
206 挙動分析器モジュール
208 アクチュエータモジュール
210 認証モジュール
300、500、600、700 方法
452、453、454、455、456、457、458、460、462、464、465 動作
800 スマートフォン
802 プロセッサ
804 内部メモリ
806 音符号化/復号(コーデック)回路、コーデック
808 セルラー電話トランシーバ、ワイヤレストランシーバ
812 ディスプレイ
814 スピーカー
820 ロッカースイッチ
Claims (24)
- コンピューティングデバイスにおいて多要素ユーザ認証を実行する方法であって、
挙動情報を収集するために、前記コンピューティングデバイスのプロセッサを介して、前記コンピューティングデバイス上で動作するソフトウェアアプリケーションのアクティビティを監視するステップと、
前記ソフトウェアアプリケーションの前記監視されたアクティビティを特徴付ける挙動ベクトルを生成するために前記収集された挙動情報を使用するステップと、
分析結果を生成するために前記生成された挙動ベクトルを分類器モデルに適用するステップと、
少なくとも1つの値を計算するために前記生成された分析結果を使用するステップであって、前記計算された少なくとも1つの値が、トランザクションタイプクリティカリティ値、ユーザ信頼性値、ソフトウェア完全性信頼性値、および履歴挙動値のうちの1つまたは複数を含む、ステップと、
前記コンピューティングデバイスのユーザを認証するときに評価されるべき認証要素の数を決定するために前記計算された少なくとも1つの値を使用するステップと、
前記コンピューティングデバイスの前記ユーザを認証するときに評価されるべき前記認証要素の数のそれぞれに対してどの認証要素を使用するかを決定するために前記計算された少なくとも1つの値を使用するステップと、
前記決定された数の前記決定された認証要素を評価することによって前記ユーザを認証するステップと
を含む、方法。 - 不正使用に対する前記コンピューティングデバイスの現在の脆弱性を決定するために、前記コンピューティングデバイスのハードウェアシステムおよびソフトウェアシステムを監視するステップ
をさらに含む、請求項1に記載の方法。 - 前記分析結果を生成するために前記挙動ベクトルを前記分類器モデルに適用するステップが、前記分析結果を生成するために前記挙動ベクトルをクリティカルなアクティビティのモデルに適用するステップを含む、請求項1に記載の方法。
- 前記分析結果を生成するために前記挙動ベクトルを前記クリティカルなアクティビティのモデルに適用するステップが、
前記分析結果を生成するために多次元ベクトルデータ構造を前記クリティカルなアクティビティのモデルに適用するステップを含む、請求項3に記載の方法。 - 前記ユーザが前記コンピューティングデバイスと対話する別個の方法を経時的に学習するために、前記コンピューティングデバイスのハードウェアシステムおよびソフトウェアシステムを監視するステップをさらに含み、前記決定された数の前記決定された認証要素を評価することによって前記ユーザを認証するステップが、前記ソフトウェアアプリケーションの挙動が、前記ユーザが前記コンピューティングデバイスと対話する前記別個の方法と一致するかどうかを判定するステップを含む、請求項1に記載の方法。
- 前記コンピューティングデバイスの前記ユーザを認証するときに評価されるべき前記認証要素の数を決定するために前記計算された少なくとも1つの値を使用するステップが、
明示的なユーザ対話を必要とすることなしに前記ユーザを認証するために、パッシブ認証動作を実行するステップと、
前記パッシブ認証動作の精度で前記コンピューティングデバイスの信頼性のレベルを識別するパッシブ認証信頼性値を決定するステップと、
前記コンピューティングデバイス上で動作する前記ソフトウェアアプリケーションの重要度またはクリティカリティを識別するクリティカリティレベル値を決定するステップと、
前記パッシブ認証における信頼性のレベルがクリティカリティのレベルを上回るかどうかを識別する比較結果を生成するために、前記パッシブ認証信頼性値を前記クリティカリティレベル値と比較するステップと、
前記コンピューティングデバイスの前記ユーザを認証するときに評価されるべき前記認証要素の数を決定するために前記生成された比較結果を使用するステップと
をさらに含む、請求項1に記載の方法。 - コンピューティングデバイスであって、
メモリと、
前記メモリに結合されたプロセッサであって、
挙動情報を収集するために前記コンピューティングデバイス上で動作するソフトウェアアプリケーションのアクティビティを監視することと、
前記ソフトウェアアプリケーションの前記監視されたアクティビティを特徴付ける挙動ベクトルを生成するために前記収集された挙動情報を使用することと、
分析結果を生成するために前記生成された挙動ベクトルを分類器モデルに適用することと、
少なくとも1つの値を計算するために前記生成された分析結果を使用することであって、前記計算された少なくとも1つの値が、トランザクションタイプクリティカリティ値、ユーザ信頼性値、ソフトウェア完全性信頼性値、および履歴挙動値のうちの1つまたは複数を含む、使用することと、
前記コンピューティングデバイスのユーザを認証するときに評価されるべき認証要素の数を決定するために前記計算された少なくとも1つの値を使用することと、
前記コンピューティングデバイスの前記ユーザを認証するときに評価されるべき前記認証要素の数のそれぞれに対してどの認証要素を使用するかを決定するために前記計算された少なくとも1つの値を使用することと、
前記決定された数の前記決定された認証要素を評価することによって前記ユーザを認証することと
を含む動作を実行するためのプロセッサ実行可能命令で構成される、プロセッサと
を備える、コンピューティングデバイス。 - 前記プロセッサが、不正使用に対する前記コンピューティングデバイスの現在の脆弱性を決定するために、ハードウェアシステムおよびソフトウェアシステムを監視することをさらに含む動作を実行するためのプロセッサ実行可能命令で構成される、請求項7に記載のコンピューティングデバイス。
- 前記プロセッサが、前記分析結果を生成するために前記挙動ベクトルを前記分類器モデルに適用することが、
前記分析結果を生成するために前記挙動ベクトルをクリティカルなアクティビティのモデルに適用すること
を含むように、動作を実行するためのプロセッサ実行可能命令で構成される、請求項7に記載のコンピューティングデバイス。 - 前記プロセッサが、前記分析結果を生成するために前記挙動ベクトルを前記クリティカルなアクティビティのモデルに適用することが、
前記分析結果を生成するために多次元ベクトルデータ構造を前記クリティカルなアクティビティのモデルに適用することを含むように、動作を実行するためのプロセッサ実行可能命令で構成される、請求項9に記載のコンピューティングデバイス。 - 前記プロセッサが、前記ユーザが前記コンピューティングデバイスと対話する別個の方法を経時的に学習するために、前記コンピューティングデバイスのハードウェアシステムおよびソフトウェアシステムを監視することをさらに含む動作を実行するためのプロセッサ実行可能命令で構成され、
前記プロセッサが、前記決定された数の前記決定された認証要素を評価することによって前記ユーザを認証することが、前記ソフトウェアアプリケーションの挙動が、前記ユーザが前記コンピューティングデバイスと対話する前記別個の方法と一致するかどうかを判定することを含むように、動作を実行するためのプロセッサ実行可能命令で構成される、
請求項7に記載のコンピューティングデバイス。 - 前記プロセッサが、前記コンピューティングデバイスの前記ユーザを認証するときに評価されるべき前記認証要素の数を決定するために前記計算された少なくとも1つの値を使用することが、
明示的なユーザ対話を必要とすることなしに前記ユーザを認証するために、パッシブ認証動作を実行することと、
前記パッシブ認証動作の精度で前記コンピューティングデバイスの信頼性のレベルを識別するパッシブ認証信頼性値を決定することと、
前記コンピューティングデバイス上で動作する前記ソフトウェアアプリケーションの重要度またはクリティカリティを識別するクリティカリティレベル値を決定することと、
前記パッシブ認証における信頼性のレベルがクリティカリティのレベルを上回るかどうかを識別する比較結果を生成するために、前記パッシブ認証信頼性値を前記クリティカリティレベル値と比較することと、
前記コンピューティングデバイスの前記ユーザを認証するときに評価されるべき前記認証要素の数を決定するために前記生成された比較結果を使用することと
をさらに含むように、動作を実行するためのプロセッサ実行可能命令で構成される、請求項7に記載のコンピューティングデバイス。 - コンピューティングデバイスのプロセッサに、
挙動情報を収集するために前記コンピューティングデバイス上で動作するソフトウェアアプリケーションのアクティビティを監視することと、
前記ソフトウェアアプリケーションの前記監視されたアクティビティを特徴付ける挙動ベクトルを生成するために前記収集された挙動情報を使用することと、
分析結果を生成するために前記生成された挙動ベクトルを分類器モデルに適用することと、
少なくとも1つの値を計算するために前記生成された分析結果を使用することであって、前記計算された少なくとも1つの値が、トランザクションタイプクリティカリティ値、ユーザ信頼性値、ソフトウェア完全性信頼性値、および履歴挙動値のうちの1つまたは複数を含む、使用することと、
前記コンピューティングデバイスのユーザを認証するときに評価されるべき認証要素の数を決定するために前記計算された少なくとも1つの値を使用することと、
前記コンピューティングデバイスの前記ユーザを認証するときに評価されるべき前記認証要素の数のそれぞれに対してどの認証要素を使用するかを決定するために前記計算された少なくとも1つの値を使用することと、
前記決定された数の前記決定された認証要素を評価することによって前記ユーザを認証することと
を含む動作を実行させるように構成されるプロセッサ実行可能ソフトウェア命令を記憶する、非一時的コンピュータ可読記憶媒体。 - 前記記憶されたプロセッサ実行可能ソフトウェア命令が、プロセッサに、
不正使用に対する前記コンピューティングデバイスの現在の脆弱性を決定するために、ハードウェアシステムおよびソフトウェアシステムを監視すること
をさらに含む動作を実行させるように構成される、請求項13に記載の非一時的コンピュータ可読記憶媒体。 - 前記記憶されたプロセッサ実行可能ソフトウェア命令が、プロセッサに、前記分析結果を生成するために前記挙動ベクトルを前記分類器モデルに適用することが、前記分析結果を生成するために前記挙動ベクトルをクリティカルなアクティビティのモデルに適用することを含むように、動作を実行させるように構成される、請求項13に記載の非一時的コンピュータ可読記憶媒体。
- 前記記憶されたプロセッサ実行可能ソフトウェア命令が、プロセッサに、前記分析結果を生成するために前記挙動ベクトルを前記クリティカルなアクティビティのモデルに適用することが、前記分析結果を生成するために多次元ベクトルデータ構造を前記クリティカルなアクティビティのモデルに適用することを含むように、動作を実行させるように構成される、請求項15に記載の非一時的コンピュータ可読記憶媒体。
- 前記記憶されたプロセッサ実行可能ソフトウェア命令が、プロセッサに、前記ユーザが前記コンピューティングデバイスと対話する別個の方法を経時的に学習するために、前記コンピューティングデバイスのハードウェアシステムおよびソフトウェアシステムを監視することをさらに含む動作を実行させるように構成され、
前記記憶されたプロセッサ実行可能ソフトウェア命令が、プロセッサに、前記決定された数の前記決定された認証要素を評価することによって前記ユーザを認証することが、前記ソフトウェアアプリケーションの挙動が、前記ユーザが前記コンピューティングデバイスと対話する前記別個の方法と一致するかどうかを判定することを含むように、動作を実行させるように構成される、
請求項13に記載の非一時的コンピュータ可読記憶媒体。 - 前記記憶されたプロセッサ実行可能ソフトウェア命令が、プロセッサに、前記コンピューティングデバイスの前記ユーザを認証するときに評価されるべき前記認証要素の数を決定するために前記計算された少なくとも1つの値を使用することが、
明示的なユーザ対話を必要とすることなしに前記ユーザを認証するために、パッシブ認証動作を実行することと、
前記パッシブ認証動作の精度で前記コンピューティングデバイスの信頼性のレベルを識別するパッシブ認証信頼性値を決定することと、
前記コンピューティングデバイス上で動作する前記ソフトウェアアプリケーションの重要度またはクリティカリティを識別するクリティカリティレベル値を決定することと、
前記パッシブ認証における信頼性のレベルがクリティカリティのレベルを上回るかどうかを識別する比較結果を生成するために、前記パッシブ認証信頼性値を前記クリティカリティレベル値と比較することと、
前記コンピューティングデバイスの前記ユーザを認証するときに評価されるべき前記認証要素の数を決定するために前記生成された比較結果を使用することと
をさらに含むように、動作を実行させるように構成される、請求項13に記載の非一時的コンピュータ可読記憶媒体。 - コンピューティングデバイスであって、
挙動情報を収集するために前記コンピューティングデバイス上で動作するソフトウェアアプリケーションのアクティビティを監視するための手段と、
前記ソフトウェアアプリケーションの前記監視されたアクティビティを特徴付ける挙動ベクトルを生成するために前記収集された挙動情報を使用するための手段と、
分析結果を生成するために前記生成された挙動ベクトルを分類器モデルに適用するための手段と、
少なくとも1つの値を計算するために前記生成された分析結果を使用するための手段であって、前記計算された少なくとも1つの値が、トランザクションタイプクリティカリティ値、ユーザ信頼性値、ソフトウェア完全性信頼性値、および履歴挙動値のうちの1つまたは複数を含む、手段と、
前記コンピューティングデバイスのユーザを認証するときに評価されるべき認証要素の数を決定するために前記計算された少なくとも1つの値を使用するための手段と、
前記コンピューティングデバイスの前記ユーザを認証するときに評価されるべき前記認証要素の数のそれぞれに対してどの認証要素を使用するかを決定するために前記計算された少なくとも1つの値を使用するための手段と、
前記決定された数の前記決定された認証要素を評価することによって前記ユーザを認証するための手段と
を備える、コンピューティングデバイス。 - 不正使用に対する前記コンピューティングデバイスの現在の脆弱性を決定するために、ハードウェアシステムおよびソフトウェアシステムを監視するための手段をさらに備える、請求項19に記載のコンピューティングデバイス。
- 前記分析結果を生成するために前記挙動ベクトルを前記分類器モデルに適用するための手段が、前記分析結果を生成するために前記挙動ベクトルをクリティカルなアクティビティのモデルに適用するための手段を備える、請求項19に記載のコンピューティングデバイス。
- 前記分析結果を生成するために前記挙動ベクトルを前記クリティカルなアクティビティのモデルに適用するための手段が、前記分析結果を生成するために多次元ベクトルデータ構造を前記クリティカルなアクティビティのモデルに適用するための手段を備える、請求項21に記載のコンピューティングデバイス。
- 前記ユーザが前記コンピューティングデバイスと対話する別個の方法を経時的に学習するために、前記コンピューティングデバイスのハードウェアシステムおよびソフトウェアシステムを監視するための手段をさらに備え、前記決定された数の前記決定された認証要素を評価することによって前記ユーザを認証するための手段が、前記ソフトウェアアプリケーションの挙動が、前記ユーザが前記コンピューティングデバイスと対話する前記別個の方法と一致するかどうかを判定するための手段を備える、請求項19に記載のコンピューティングデバイス。
- 前記コンピューティングデバイスの前記ユーザを認証するときに評価されるべき前記認証要素の数を決定するために前記計算された少なくとも1つの値を使用するための手段が、
明示的なユーザ対話を必要とすることなしに前記ユーザを認証するために、パッシブ認証動作を実行するための手段と、
前記パッシブ認証動作の精度で前記コンピューティングデバイスの信頼性のレベルを識別するパッシブ認証信頼性値を決定するための手段と、
前記コンピューティングデバイス上で動作する前記ソフトウェアアプリケーションの重要度またはクリティカリティを識別するクリティカリティレベル値を決定するための手段と、
前記パッシブ認証における信頼性のレベルがクリティカリティのレベルを上回るかどうかを識別する比較結果を生成するために、前記パッシブ認証信頼性値を前記クリティカリティレベル値と比較するための手段と、
前記コンピューティングデバイスの前記ユーザを認証するときに評価されるべき前記認証要素の数を決定するために前記生成された比較結果を使用するための手段と
を備える、請求項19に記載のコンピューティングデバイス。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US14/514,662 | 2014-10-15 | ||
US14/514,662 US9684775B2 (en) | 2014-10-15 | 2014-10-15 | Methods and systems for using behavioral analysis towards efficient continuous authentication |
PCT/US2015/046118 WO2016060738A1 (en) | 2014-10-15 | 2015-08-20 | Methods and systems for using behavioral analysis towards efficient continuous authentication |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6239808B1 true JP6239808B1 (ja) | 2017-11-29 |
JP2017538186A JP2017538186A (ja) | 2017-12-21 |
Family
ID=54015249
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017518304A Active JP6239808B1 (ja) | 2014-10-15 | 2015-08-20 | 効率的な連続認証に対して挙動分析を使用するための方法およびシステム |
Country Status (5)
Country | Link |
---|---|
US (1) | US9684775B2 (ja) |
EP (1) | EP3207680A1 (ja) |
JP (1) | JP6239808B1 (ja) |
CN (1) | CN107077547B (ja) |
WO (1) | WO2016060738A1 (ja) |
Families Citing this family (98)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9529777B2 (en) | 2011-10-28 | 2016-12-27 | Electronic Arts Inc. | User behavior analyzer |
US9906954B2 (en) | 2014-10-20 | 2018-02-27 | Payfone, Inc. | Identity authentication |
US10388270B2 (en) * | 2014-11-05 | 2019-08-20 | At&T Intellectual Property I, L.P. | System and method for text normalization using atomic tokens |
US9628477B2 (en) * | 2014-12-23 | 2017-04-18 | Intel Corporation | User profile selection using contextual authentication |
GB201423362D0 (en) * | 2014-12-30 | 2015-02-11 | Mastercard International Inc | Trusted execution enviroment (TEE) based payment application |
US9680646B2 (en) * | 2015-02-05 | 2017-06-13 | Apple Inc. | Relay service for communication between controllers and accessories |
US10108791B1 (en) * | 2015-03-19 | 2018-10-23 | Amazon Technologies, Inc. | Authentication and fraud detection based on user behavior |
JP6515621B2 (ja) * | 2015-03-25 | 2019-05-22 | 富士通株式会社 | メール処理サーバ、メール処理方法、およびメール処理プログラム |
US10057227B1 (en) * | 2015-03-27 | 2018-08-21 | Amazon Technologies, Inc. | Determination of authentication mechanism |
US10427048B1 (en) | 2015-03-27 | 2019-10-01 | Electronic Arts Inc. | Secure anti-cheat system |
US11179639B1 (en) | 2015-10-30 | 2021-11-23 | Electronic Arts Inc. | Fraud detection system |
US10021120B1 (en) * | 2015-11-09 | 2018-07-10 | 8X8, Inc. | Delayed replication for protection of replicated databases |
US20170227995A1 (en) * | 2016-02-09 | 2017-08-10 | The Trustees Of Princeton University | Method and system for implicit authentication |
US10459827B1 (en) | 2016-03-22 | 2019-10-29 | Electronic Arts Inc. | Machine-learning based anomaly detection for heterogenous data sources |
US9992018B1 (en) * | 2016-03-24 | 2018-06-05 | Electronic Arts Inc. | Generating cryptographic challenges to communication requests |
WO2017173145A1 (en) * | 2016-03-30 | 2017-10-05 | The Privacy Factor, LLC | Systems and methods for analyzing, assessing and controlling trust and authentication in applications and devices |
US20180097816A1 (en) * | 2016-04-12 | 2018-04-05 | Sensoriant, Inc | Access control mechanisms based on computational behavior |
US11368454B2 (en) * | 2016-05-19 | 2022-06-21 | Prove Identity, Inc. | Implicit authentication for unattended devices that need to identify and authenticate users |
US11176231B2 (en) * | 2016-05-19 | 2021-11-16 | Payfone, Inc. | Identifying and authenticating users based on passive factors determined from sensor data |
US10867025B2 (en) * | 2016-05-19 | 2020-12-15 | UnifyID, Inc. | Opportunistically collecting sensor data from a mobile device to facilitate user identification |
US9801066B1 (en) * | 2016-06-02 | 2017-10-24 | Duo Security, Inc. | Method for automatic possession-factor authentication |
CN106096923A (zh) * | 2016-06-27 | 2016-11-09 | 联想(北京)有限公司 | 一种安全支付防护方法及电子设备 |
CN109565383B (zh) * | 2016-08-03 | 2022-03-01 | 联想创新有限公司(香港) | 装置到装置传输 |
US10460320B1 (en) | 2016-08-10 | 2019-10-29 | Electronic Arts Inc. | Fraud detection in heterogeneous information networks |
US11030618B1 (en) | 2016-09-30 | 2021-06-08 | Winkk, Inc. | Authentication and personal data sharing for partner services using out-of-band optical mark recognition |
WO2018064765A1 (en) * | 2016-10-03 | 2018-04-12 | Bioconnect Inc. | Biometric identification platform |
CN107045604A (zh) * | 2017-02-22 | 2017-08-15 | 北京小米移动软件有限公司 | 信息处理方法及装置 |
US11023709B2 (en) * | 2017-04-28 | 2021-06-01 | ID R&D, Inc. | System, method and apparatus for multi-modal biometric authentication and liveness detection |
US10917423B2 (en) | 2017-05-15 | 2021-02-09 | Forcepoint, LLC | Intelligently differentiating between different types of states and attributes when using an adaptive trust profile |
US10129269B1 (en) | 2017-05-15 | 2018-11-13 | Forcepoint, LLC | Managing blockchain access to user profile information |
US10447718B2 (en) | 2017-05-15 | 2019-10-15 | Forcepoint Llc | User profile definition and management |
US10999297B2 (en) | 2017-05-15 | 2021-05-04 | Forcepoint, LLC | Using expected behavior of an entity when prepopulating an adaptive trust profile |
US10915643B2 (en) | 2017-05-15 | 2021-02-09 | Forcepoint, LLC | Adaptive trust profile endpoint architecture |
US9882918B1 (en) | 2017-05-15 | 2018-01-30 | Forcepoint, LLC | User behavior profile in a blockchain |
US10862927B2 (en) | 2017-05-15 | 2020-12-08 | Forcepoint, LLC | Dividing events into sessions during adaptive trust profile operations |
US10999296B2 (en) | 2017-05-15 | 2021-05-04 | Forcepoint, LLC | Generating adaptive trust profiles using information derived from similarly situated organizations |
DE102017111933A1 (de) | 2017-05-31 | 2018-12-06 | Krohne Messtechnik Gmbh | Verfahren zur sicheren Kommunikation mit einem Feldmessgerät der Prozesstechnik und entsprechendes Feldmessgerät |
US10397209B2 (en) * | 2017-07-06 | 2019-08-27 | International Business Machines Corporation | Risk-aware multiple factor authentication based on pattern recognition and calendar |
US10846387B2 (en) * | 2017-07-12 | 2020-11-24 | At&T Intellectual Property I, L.P. | Managing access based on activities of entities |
CN107450708B (zh) * | 2017-07-28 | 2020-03-24 | Oppo广东移动通信有限公司 | 解锁控制方法及相关产品 |
US10819698B2 (en) * | 2017-09-07 | 2020-10-27 | International Business Machines Corporation | Dynamic password generation |
RU2673010C1 (ru) * | 2017-09-13 | 2018-11-21 | Дмитрий Владимирович Истомин | Способ мониторинга поведения пользователя при взаимодействии с контентом и система для его осуществления |
CN107818251B (zh) * | 2017-09-27 | 2021-03-23 | 维沃移动通信有限公司 | 一种人脸识别方法及移动终端 |
CN107819945B (zh) * | 2017-10-30 | 2020-11-03 | 同济大学 | 综合多种因素的手持设备浏览行为认证方法及系统 |
US11574204B2 (en) * | 2017-12-06 | 2023-02-07 | Accenture Global Solutions Limited | Integrity evaluation of unstructured processes using artificial intelligence (AI) techniques |
US10404626B1 (en) | 2018-03-23 | 2019-09-03 | Juniper Networks, Inc. | Method for resetting a packet processing component to an operational state |
US10853467B2 (en) * | 2018-03-28 | 2020-12-01 | Bank Of America Corporation | Data access control using multi-device multifactor authentication |
US11238366B2 (en) | 2018-05-10 | 2022-02-01 | International Business Machines Corporation | Adaptive object modeling and differential data ingestion for machine learning |
US10573273B2 (en) * | 2018-06-13 | 2020-02-25 | Mapsted Corp. | Method and system for device placement based optimization techniques |
KR102291557B1 (ko) * | 2018-07-03 | 2021-08-19 | 네이버 주식회사 | 사용자 행동 분석 장치 및 사용자 행동 분석 방법 |
WO2020018454A1 (en) | 2018-07-16 | 2020-01-23 | Islamov Rustam | Cryptography operations for secure post-quantum communications |
US11017100B2 (en) * | 2018-08-03 | 2021-05-25 | Verizon Patent And Licensing Inc. | Identity fraud risk engine platform |
CN109359972B (zh) * | 2018-08-15 | 2020-10-30 | 创新先进技术有限公司 | 核身产品推送及核身方法和系统 |
CN109063920B (zh) * | 2018-08-20 | 2022-05-27 | 创新先进技术有限公司 | 一种交易风险识别方法、装置、及计算机设备 |
US10931659B2 (en) * | 2018-08-24 | 2021-02-23 | Bank Of America Corporation | Federated authentication for information sharing artificial intelligence systems |
US11095642B2 (en) * | 2018-11-07 | 2021-08-17 | Cylance Inc. | Verifying user identity through human / computer interaction |
EP3657364A1 (en) * | 2018-11-20 | 2020-05-27 | Nagravision SA | Authorising operations for devices in a network |
KR20200078987A (ko) * | 2018-12-24 | 2020-07-02 | 라인플러스 주식회사 | 사용자 신뢰도 구축 방법 및 시스템 |
US20220156351A1 (en) * | 2019-03-07 | 2022-05-19 | British Telecommunications Public Limited Company | Access control |
EP3935529A1 (en) * | 2019-03-07 | 2022-01-12 | British Telecommunications public limited company | Permissive access control |
US11561983B2 (en) | 2019-03-07 | 2023-01-24 | Throughputer, Inc. | Online trained object property estimator |
JP7303654B2 (ja) * | 2019-03-29 | 2023-07-05 | グローリー株式会社 | 認証システム及び認証方法 |
US11604867B2 (en) * | 2019-04-01 | 2023-03-14 | Throughputer, Inc. | Graphic pattern-based authentication with adjustable challenge level |
US10997295B2 (en) | 2019-04-26 | 2021-05-04 | Forcepoint, LLC | Adaptive trust profile reference architecture |
WO2020225819A1 (en) * | 2019-05-07 | 2020-11-12 | B. G. Negev Technologies And Applications Ltd., At Ben-Gurion University | Methods and devices for detecting improper clinical programming of implantable medical devices |
WO2020247800A1 (en) | 2019-06-05 | 2020-12-10 | Throughputer, Inc. | Graphic pattern-based passcode generation and authentication |
RU2746201C2 (ru) | 2019-06-28 | 2021-04-08 | Акционерное общество "Лаборатория Касперского" | Система и способ невербальной активации сервиса на мобильном устройстве |
US11820529B2 (en) | 2019-10-29 | 2023-11-21 | Ga Telesis, Llc | System and method for monitoring and certifying aircrafts and components of aircrafts |
CN110719169A (zh) * | 2019-11-07 | 2020-01-21 | 北京小米移动软件有限公司 | 传输路由器安全信息的方法及装置 |
US11657140B2 (en) * | 2019-12-10 | 2023-05-23 | Winkk, Inc. | Device handoff identification proofing using behavioral analytics |
US11652815B2 (en) | 2019-12-10 | 2023-05-16 | Winkk, Inc. | Security platform architecture |
US11553337B2 (en) | 2019-12-10 | 2023-01-10 | Winkk, Inc. | Method and apparatus for encryption key exchange with enhanced security through opti-encryption channel |
US11574045B2 (en) | 2019-12-10 | 2023-02-07 | Winkk, Inc. | Automated ID proofing using a random multitude of real-time behavioral biometric samplings |
US20210297448A1 (en) * | 2019-12-10 | 2021-09-23 | Winkk, Inc | Aggregated trust framework |
US11936787B2 (en) | 2019-12-10 | 2024-03-19 | Winkk, Inc. | User identification proofing using a combination of user responses to system turing tests using biometric methods |
US11328042B2 (en) | 2019-12-10 | 2022-05-10 | Winkk, Inc. | Automated transparent login without saved credentials or passwords |
US11928193B2 (en) | 2019-12-10 | 2024-03-12 | Winkk, Inc. | Multi-factor authentication using behavior and machine learning |
US20210297455A1 (en) * | 2019-12-10 | 2021-09-23 | Winkk, Inc | Bus for aggregated trust framework |
US20210203687A1 (en) * | 2019-12-18 | 2021-07-01 | Cyberark Software Ltd. | Dynamically generating multi-factor entity risk assessments within virtualized environments |
US11567847B2 (en) * | 2020-02-04 | 2023-01-31 | International Business Machines Corporation | Identifying anomolous device usage based on usage patterns |
EP4118543A1 (en) * | 2020-03-13 | 2023-01-18 | British Telecommunications public limited company | Computer-implemented continuous control method, system and computer program |
US11768945B2 (en) * | 2020-04-07 | 2023-09-26 | Allstate Insurance Company | Machine learning system for determining a security vulnerability in computer software |
CN113742184B (zh) * | 2020-06-05 | 2024-03-26 | 国家计算机网络与信息安全管理中心 | 构建用户历史行为表示向量、用户行为异常检测方法及装置 |
US11956224B2 (en) * | 2020-06-11 | 2024-04-09 | Bank Of America Corporation | Using machine-learning models to authenticate users and protect enterprise-managed information and resources |
US11683325B2 (en) * | 2020-08-11 | 2023-06-20 | Capital One Services, Llc | Systems and methods for verified messaging via short-range transceiver |
US11734402B2 (en) * | 2020-10-29 | 2023-08-22 | Blackberry Limited | System and method for user authentication based on passive biometrics |
US11488178B2 (en) * | 2020-11-01 | 2022-11-01 | Beijing Didi Infinity Technology And Development Co., Ltd. | Systems and methods for verifying digital payments |
US20220210151A1 (en) * | 2020-12-30 | 2022-06-30 | Mastercard Technologies Canada ULC | Systems and methods for passive multi-factor authentication of device users |
US20240129284A1 (en) * | 2021-02-26 | 2024-04-18 | Honestypledge Gmbh | Method and system for influencing user interactions |
US20220321602A1 (en) * | 2021-03-30 | 2022-10-06 | Cisco Technology, Inc. | Frictionless supplementary multi-factor authentication for sensitive transactions within an application session |
US11714893B2 (en) * | 2021-04-06 | 2023-08-01 | EMC IP Holding Company LLC | Escalated authentication system to perform an integrity-check based on behavior patterns |
US11843943B2 (en) | 2021-06-04 | 2023-12-12 | Winkk, Inc. | Dynamic key exchange for moving target |
CN117597684A (zh) * | 2021-06-04 | 2024-02-23 | 美商新思科技有限公司 | 在没有项目细节的先验知识的情况下在每个项目的基础上的故障安全软件访问许可控制 |
US11921842B2 (en) * | 2021-06-14 | 2024-03-05 | Kyndryl, Inc. | Multifactor authorization on accessing hardware resources |
US20220405356A1 (en) * | 2021-06-18 | 2022-12-22 | Lenovo (United States) Inc. | Authentication policy for editing inputs to user-created content |
US20230008868A1 (en) * | 2021-07-08 | 2023-01-12 | Nippon Telegraph And Telephone Corporation | User authentication device, user authentication method, and user authentication computer program |
US11824999B2 (en) | 2021-08-13 | 2023-11-21 | Winkk, Inc. | Chosen-plaintext secure cryptosystem and authentication |
CN115049395B (zh) * | 2022-08-15 | 2022-11-11 | 山东双仁信息技术有限公司 | 一种移动支付安全检测方法及系统 |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9578022B2 (en) * | 2001-08-21 | 2017-02-21 | Bookit Oy Ajanvarauspalvelu | Multi-factor authentication techniques |
JP2005208993A (ja) * | 2004-01-23 | 2005-08-04 | Hitachi Ltd | 利用者認証システム |
WO2005107137A2 (en) * | 2004-04-23 | 2005-11-10 | Passmark Security, Inc. | Method and apparatus for authenticating users using two or more factors |
US8079079B2 (en) * | 2005-06-29 | 2011-12-13 | Microsoft Corporation | Multimodal authentication |
JP5096117B2 (ja) * | 2007-11-29 | 2012-12-12 | 京セラ株式会社 | 電子機器、電子機器の制御方法、及びプログラム |
JP2010067184A (ja) * | 2008-09-12 | 2010-03-25 | Toshiba Corp | 個別二段階認証方法およびシステム |
JP2010170314A (ja) * | 2009-01-22 | 2010-08-05 | Nec Corp | 携帯情報機器、ユーザー認証システム、およびユーザー認証方法 |
US8683547B2 (en) * | 2009-10-28 | 2014-03-25 | Liveops, Inc. | System and method for implementing adaptive security zones |
US9672335B2 (en) * | 2009-12-17 | 2017-06-06 | Laird H Shuart | Cognitive-based logon process for computing device |
US9372979B2 (en) * | 2011-01-07 | 2016-06-21 | Geoff Klein | Methods, devices, and systems for unobtrusive mobile device user recognition |
US8800056B2 (en) * | 2011-08-12 | 2014-08-05 | Palo Alto Research Center Incorporated | Guided implicit authentication |
US8832798B2 (en) | 2011-09-08 | 2014-09-09 | International Business Machines Corporation | Transaction authentication management including authentication confidence testing |
US9747440B2 (en) | 2012-08-15 | 2017-08-29 | Qualcomm Incorporated | On-line behavioral analysis engine in mobile device with multiple analyzer model providers |
US8850589B2 (en) * | 2012-09-25 | 2014-09-30 | International Business Machines Corporation | Training classifiers for program analysis |
US9374369B2 (en) | 2012-12-28 | 2016-06-21 | Lookout, Inc. | Multi-factor authentication and comprehensive login system for client-server networks |
US20160063229A1 (en) * | 2014-09-02 | 2016-03-03 | Securemetric Technology Sdn Bhd | Hybrid adaptive authentication scoring system |
US10114935B2 (en) * | 2014-12-23 | 2018-10-30 | Intel Corporation | Technologies for login pattern based multi-factor authentication |
-
2014
- 2014-10-15 US US14/514,662 patent/US9684775B2/en active Active
-
2015
- 2015-08-20 JP JP2017518304A patent/JP6239808B1/ja active Active
- 2015-08-20 WO PCT/US2015/046118 patent/WO2016060738A1/en active Application Filing
- 2015-08-20 CN CN201580055507.XA patent/CN107077547B/zh active Active
- 2015-08-20 EP EP15757108.4A patent/EP3207680A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
CN107077547A (zh) | 2017-08-18 |
CN107077547B (zh) | 2019-08-27 |
WO2016060738A1 (en) | 2016-04-21 |
US20160110528A1 (en) | 2016-04-21 |
JP2017538186A (ja) | 2017-12-21 |
US9684775B2 (en) | 2017-06-20 |
EP3207680A1 (en) | 2017-08-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6239808B1 (ja) | 効率的な連続認証に対して挙動分析を使用するための方法およびシステム | |
JP6239807B1 (ja) | ユーザのペルソナ情報に基づくモバイルデバイス挙動の挙動分析のための方法およびシステム | |
JP6345271B2 (ja) | モバイルデバイスにおいて挙動分析動作を実行することによってアプリケーション状態を推論するための方法およびシステム | |
JP6174827B1 (ja) | サイドチャネル攻撃を妨害するための方法およびシステム | |
US9875357B2 (en) | Methods and systems for detecting fake user interactions with a mobile device for improved malware protection | |
US9910984B2 (en) | Methods and systems for on-device high-granularity classification of device behaviors using multi-label models | |
US10104107B2 (en) | Methods and systems for behavior-specific actuation for real-time whitelisting | |
US9774614B2 (en) | Methods and systems for side channel analysis detection and protection | |
US9158604B1 (en) | Lightweight data-flow tracker for realtime behavioral analysis using control flow | |
US9578049B2 (en) | Methods and systems for using causal analysis for boosted decision stumps to identify and respond to non-benign behaviors | |
US20150121524A1 (en) | Method and System for Performing Behavioral Analysis Operations in a Mobile Device based on Application State | |
JP2018514848A (ja) | クラウド対クライアント挙動の差異を通じてマルウェアを特定するための方法およびシステム | |
JP2017516181A (ja) | 周辺デバイスを安全にするための挙動分析 | |
Shuwandy et al. | Sensor-Based Authentication in Smartphone; a Systematic Review |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20170928 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20171006 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20171101 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6239808 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |