JP5054768B2 - 侵入検出のための方法と装置 - Google Patents
侵入検出のための方法と装置 Download PDFInfo
- Publication number
- JP5054768B2 JP5054768B2 JP2009515734A JP2009515734A JP5054768B2 JP 5054768 B2 JP5054768 B2 JP 5054768B2 JP 2009515734 A JP2009515734 A JP 2009515734A JP 2009515734 A JP2009515734 A JP 2009515734A JP 5054768 B2 JP5054768 B2 JP 5054768B2
- Authority
- JP
- Japan
- Prior art keywords
- protected
- software
- intrusion
- program
- execution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 90
- 238000001514 detection method Methods 0.000 title claims description 48
- 238000012544 monitoring process Methods 0.000 claims description 40
- 230000002265 prevention Effects 0.000 claims description 32
- 230000008569 process Effects 0.000 claims description 24
- 238000004891 communication Methods 0.000 claims description 21
- 230000006399 behavior Effects 0.000 claims description 9
- 230000008676 import Effects 0.000 claims description 4
- 230000001681 protective effect Effects 0.000 claims description 4
- 230000000903 blocking effect Effects 0.000 claims description 3
- 238000005259 measurement Methods 0.000 claims description 2
- 230000006870 function Effects 0.000 description 55
- 239000008186 active pharmaceutical agent Substances 0.000 description 19
- 230000007246 mechanism Effects 0.000 description 16
- 230000001012 protector Effects 0.000 description 14
- 238000004458 analytical method Methods 0.000 description 13
- 238000012550 audit Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000004044 response Effects 0.000 description 5
- 238000013515 script Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 230000003213 activating effect Effects 0.000 description 1
- 230000002547 anomalous effect Effects 0.000 description 1
- 230000003466 anti-cipated effect Effects 0.000 description 1
- 230000003542 behavioural effect Effects 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 230000009849 deactivation Effects 0.000 description 1
- 230000007123 defense Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000007717 exclusion Effects 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000008929 regeneration Effects 0.000 description 1
- 238000011069 regeneration method Methods 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/10—Protecting distributed programs or content, e.g. vending or licensing of copyrighted material ; Digital rights management [DRM]
- G06F21/12—Protecting executable software
- G06F21/121—Restricting unauthorised execution of programs
- G06F21/123—Restricting unauthorised execution of programs by using dedicated hardware, e.g. dongles, smart cards, cryptographic processors, global positioning systems [GPS] devices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/10—Protecting distributed programs or content, e.g. vending or licensing of copyrighted material ; Digital rights management [DRM]
- G06F21/12—Protecting executable software
- G06F21/14—Protecting executable software against software analysis or reverse engineering, e.g. by obfuscation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
- G06F21/52—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems during program execution, e.g. stack integrity ; Preventing unwanted data erasure; Buffer overflow
- G06F21/54—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems during program execution, e.g. stack integrity ; Preventing unwanted data erasure; Buffer overflow by adding security routines or objects to programs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/21—Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/2101—Auditing as a secondary aspect
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/21—Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/2143—Clearing memory, e.g. to prevent the data from being stolen
Description
本発明の方法の好ましい実施態様では、保護されているソフトウェアの動作の分析は、例えば、保護されているソフトウェアに埋め込まれている複数の特別な動作コードの分析と実行、または、複数の特別なプログラム部分または保護されているソフトウェアコード内の複数の部分の分析と実行を有している。さらに、保護されているソフトウェアの動作の分析は、保護されているソフトウェアの実行に使用されるタイミングの計測と、計測された複数の結果の評価と、も含む。例えば、デバッガのような侵入ソフトウェアが、保護されているソフトウェアを実行すると、ソフトウェア全体またはソフトウェアの複数の部分の実行のための時間は、侵入の一切無い非介入の場合の実行よりも長くかかる。
基礎をなす技術の基本的な記述
保護の対象
本発明は、ライセンス情報をコンピュータ装置上で執行するために使用される。そのようなライセンスは、一方で特定のプログラムの実行の許可であり、他方で特定のコンテンツの表示または使用の許可である。コンテンツの保護自体は、コンテンツを復号できる特別に修正されたビューワ(またはコンテンツを使用する他の手段)によって実施される。他方、保護されているプログラムは、一般的な実行可能文(例えばネーティブウィンドウバイナリ)だけでなく、様々な種類のスクリプトに拡張することもできる。最も明確な例は、現在、プログラムとして承認されているJava(登録商標)と「.NET」プログラムであるが、全ての他の種類のスクリプトも含まれる。コンピュータが次第に強力になるにつれて、「ネイティブプログラム」と「ポータブルスクリプト」ととの間の違いが、日に日にわずかになっている。これらの種類の知的財産を保護する場合に採用される機構は、全く同じである。そのため、我々は、保護の対象が狭義のプログラム、スクリプト、またはデジタルコンテンツであるかどうかにかかわらず、保護の対象を「保護されるアプリケーション」または「保護されるソフトウェア」と名付けることになる。
保護の発想
保護は、特別なコードを、保護されるプログラム(または純粋なコンテンツの場合は「ビューワ」)に挿入することによって、実施される。この挿入されたコードは、「セキュリティエンジン(SE)」と呼ばれ、プログラムに挿入されている所謂「セキュリティセクション」に埋め込まれる(ここでは添付の図面を参照して説明する)。あるセキュリティサービスは、これらのセキュリティサービスの中でもより一般的な部分であるため、(図3a、3b、3cに示しているように)保護されているアプリケーションから分離され、外部の「制御プログラム」内に存在させることができる。機能性は、異なる部分(セキュリティエンジン−制御プログラム)間で移動できるため、保護されているアプリケーション、セキュリティエンジン、および、制御プログラムは、1つの単位として扱われ、「保護されているソフトウェア」と呼ばれることになる(図3b、3cを参照)。
保護技術
一般的なプログラムは、様々な部分からなる。ここでの術語は、公知のWindows(登録商標)システムから得たものであるが、ほとんどの部分は他のシステム(スクリプティングプラットフォームや他のプラットフォーム)でも使用されている。
A)侵入(または攻撃)の検出には以下の複数の方法を使用することになる。
本発明の方法の他の好ましい実施態様は、複数のAPIについての複数のラッパーを使った部分的なコード実行の検出を有している。
複数のスレッドが、同じ複数のリソースを共有している複数のサブプロセスとして発生している。保護されているプログラムの実行中に定期的に、複数のスレッドは、1つのメインプロセッサ同じ状態情報を使用し、複数のアドレス空間と、ファイルI/Oなどの他の複数のリソースを共有している。侵入は、要求していない複数のスレッドの検出時に信号で知らされることになる。
a)有効なスレッドの一覧を得るための複数のスレッドを発生させる複数のAPIの監視
監視モジュールは、通常のAPI関数呼び出しの下で実行され複数のスレッドを監視する機能を提供し、許可された複数のスレッドの一覧を保持している。要求していない脅威を外部のプロセスが発生させた場合、監視モジュールは、このスレッドを検出し、要求していないスレッドの侵入を信号で知らせることになる。
b)「TLS」コードを使用した複数のスレッドの生成の監視
スレッドローカルストレージ(TLS)は、複数のスレッドが相互動作とデータ共有のために共通のストレージを使用する、予約されているOS割り当てストレージ領域である。そのため、全てのスレッドが、それらのローカルデータを初期化するために、定義されている「TLSコード」を実行する。このコードは、全てのスレッドと、本来のプロセスルーム内で生成されておらず、監視によって識別され信号で知らされることになる、要求していないスレッドと、の生成を監視するために使用することができる。
c)「不正な複数のスレッド」によるAPI呼び出しの検出
プロセスルームの外側からヘッダ、API、およびトレーラからなるラップされたAPIを使用して作られた不正な複数のスレッドも、監視モジュールによって検出され、監視モジュールに、侵入検出の信号で知らせることを行わせる。
B)攻撃または侵入の検出時に講じられる手段
侵入検出に関する情報を収容しているメッセージであることができる、侵入検出に関する情報を受信するために(制御プログラムを通して)制御モジュールと共に動作し制御モジュールと通信している保護装置は、実施ポリシーと検出された侵入の種類に依存して、制御プログラムを通したさらなるアクセスから遮断されるか、異なる状態(待ち状態)に置かれることになる。侵入検出機構は、制御プログラム内に埋め込んだり(1)、保護されているソフトウェアまたは保護されているアプリケーションプログラム自体の一部としたり(2)、別個の監視プログラムの一部としたり(3)、OSカーネルドライバの埋め込み関数またはプログラムコードとする(4)ことができる。
例えば、ドングルまたはUSBスティックの形態のハードウェア保護装置の場合、保護装置、例えばライセンスコンテナを有している保護装置のロックは、検出された攻撃の信号の受信に続くフラグの設定によって、実施することができる。保護装置の無効化は、使用カウンタの減算、あるいは反転可能または反転不可能な侵入検出フラグの設定によって実施可能な、また内部に保存されている複数の秘密鍵または暗号鍵の破棄によっても実施可能な、保護装置の通信の無効によっても、さらに実施することができる。
例として:
本来のコードの修正によって、標準の分析方法を無効にすることができる。例えば、API呼び出しの修正によって、プログラムにセキュリティエンジンを起動させ、暗号化されている入力パラメータの復号時に、暗号化の前に制御プログラムから受信した複数の戻り値を得ることができる。制御プログラムよって保護装置に送信された複数の戻り値は、保護装置内の所定の複数の値との簡単なマッチングと比較など複数の戻り値のさらなる処理を開始させることができる。例として、本来のコードの修正は、「死んでいる」餌コードの実行によって引き起こされることができる。
C)法的な証拠の収集
攻撃の検出時に、保護装置は、攻撃者に対する以降の法的な処置を可能にする法的な証拠を収集することができる。法的なデータは、以降で攻撃者または少なくとも攻撃者のコンピュータを特定するように構成されている。そのため、法的なデータは、以下のデータを有することができるが、このデータには限定されない。
○ネットワークカードのハードウェアアドレス
○プロセッサ、マザーボード、ハードディスク、グラフィックカードなどの様々なコンピュータ構成要素のシリアル番号
○様々なコンピュータ構成要素の出荷データと製造データ
以下のようなコンピュータのソフトウェア識別
○ボリュームシリアル番号
○OSライセンス番号
以下のようなユーザ識別
○メールアドレス
○ユーザ名
侵入のさらなる証拠を収集するために、以下の手段や処置を適用することができる。
a)さらなる攻撃を脅かし、使用許諾を回復するために使用許諾者に連絡するように本来の被使用許諾者を促すために、ハードウェアを無効化すること
保護装置が無効であることが検出されると、被使用許諾者は、ライセンスとコンテンツとへの失われたアクセス権の回復を申請することになる。これによって、使用許諾者は記録を追跡し、無効化されている保護装置へのライセンスを回復するためのポリシーを確立するために、データを収集することになる。
b)上書きに対して保護されている「1回のみ書込み」メモリ内の証拠の収集
1回書き込みメモリへ検出された侵入を書き込む、つまり記録することによって、記録されている各侵入に対するタイムスタンプが押されている日時を使用して、そのようなイベントを追跡することができる。
アーキテクチャの概要の説明
図3aは、制御プログラム、保護装置、保護されているアプリケーション、セキュリティエンジン、および監視プログラムを有している侵入検出装置の複数の基本装置機能を示している。
本明細書で説明していない他のシナリオでは、監視プログラムと制御プログラムとは、オペレーティングシステム(OS)のカーネル関数となり、セキュリティエンジンによって起動することができる。OSが異なれば、サポートされているプラットフォーム内へのシステム関数の好ましい埋め込みの要求も異なることがある。
無し(ロックしない、攻撃を無視)
一時的(例えば5分、自動化されている攻撃を減速させる)
永久
また、装置の様々な部分に影響を与えることができる:
ライセンス
ライセンスコンテナ
保護装置
装置部分への影響は、最終的には保護されているソフトウェアの(実行の)ロックにつながる。法的なデータのローカルな記録と、その後の送信も、ポリシーによって構成されている。
Claims (28)
- プロセッサと少なくともプロセッサメモリとを備えているコンピュータ装置上の保護されているソフトウェアの実行を妨害する侵入プログラムの攻撃を検出することによって、コンピュータソフトウェアを保護する方法であって、
前記保護されているコンピュータソフトウェアは、前記保護されているコンピュータソフトウェアの使用と実行のためのライセンスと、少なくとも1つの暗号鍵と、を収容しているライセンスコンテナと通信するものであり、
前記ライセンスコンテナは、前記保護されているソフトウェアの使用と完全性とを保護するための複数のライセンスおよび複数の暗号鍵を、前記保護されているコンピュータソフトウェアに提供するものであり、
前記保護されているコンピュータソフトウェアは、少なくとも部分的に暗号化されており、対応している複数の暗号鍵を使用して、前記保護されているソフトウェアを実行のために復号するものであり、
前記保護されているソフトウェアの実行中に、前記保護されているソフトウェアの動作、および/または、前記コンピュータ装置上での前記保護されているソフトウェアの実行環境を分析して、攻撃の複数のパターンまたは侵入プログラムを検索し、
前記保護されているソフトウェアの実行中に、前記保護されているソフトウェアへの攻撃を検出し、侵入プログラムは、不正なアクセスをするために監視コンポーネントを使用するものであり、
攻撃の検出時に信号を発生し、
前記保護されているソフトウェアは、アプリケーションプログラムの本来のソフトウェアコードとセキュリティエンジンを有することを特徴とする方法。 - 前記保護されているソフトウェアの前記動作を分析することは、前記保護されているソフトウェア内の特別な動作コードの実行を分析すること、および/または、特別なプログラムの複数の部分または前記保護されているソフトウェアのコードの複数の部分の実行を分析すること、および/または、前記保護されているソフトウェアの実行に使用されるタイミングを計測し、複数の計測結果を評価すること、を有することを特徴とする、請求項1に記載の方法。
- プロセッサと少なくともプロセッサメモリとを備えているコンピュータ装置上の保護されているソフトウェアの実行を妨害する侵入プログラムの攻撃を検出することによって、コンピュータソフトウェアを保護する方法であって、
前記保護されているコンピュータソフトウェアは、前記保護されているコンピュータソフトウェアの使用と実行のためのライセンスと、少なくとも1つの暗号鍵と、を収容しているライセンスコンテナと通信するものであり、
前記ライセンスコンテナは、前記保護されているソフトウェアの使用と完全性とを保護するための複数のライセンスおよび複数の暗号鍵を、前記保護されているコンピュータソフトウェアに提供するものであり、
前記保護されているコンピュータソフトウェアは、少なくとも部分的に暗号化されており、対応している複数の暗号鍵を使用して、前記保護されているソフトウェアを実行のために復号するものであり、
前記保護されているソフトウェアの実行中に、前記保護されているソフトウェアの動作、および/または、前記コンピュータ装置上での前記保護されているソフトウェアの実行環境を分析して、攻撃の複数のパターンまたは侵入プログラムを検索し、
前記保護されているソフトウェアの実行中に、前記保護されているソフトウェアへの攻撃を検出し、侵入プログラムは、不正なアクセスをするために監視コンポーネントを使用するものであり、
攻撃の検出時に信号を発生し、
前記保護されているソフトウェア内のあらかじめ定められている特別な値を有するノーマルなコマンドを、前記あらかじめ定められている特別な値を使用して実行することによって、前記ライセンスコンテナをロックする、方法。 - 前記あらかじめ定められている特別な値を有するノーマルなコマンドは、前記ライセンスコンテナを無効化または遮断する特別な暗号化動作であることを特徴とする、請求項3に記載の方法。
- 前記ライセンスコンテナの前記ロックは、カウンタを所定の値に設定することによって、または、前記ライセンスコンテナ内の必要な複数の暗号鍵を削除することによって、実行されることを特徴とする、請求項4に記載の方法。
- 前記保護されているソフトウェアの前記動作を分析することは、複数のアプリケーションプログラムインターフェイス(API)の実行を分析することと、ヘッダ実行の数をトレーラ実行の数と比較することと、を有することを特徴とする、先行する請求項のいずれか1項に記載の方法。
- 前記保護されているソフトウェア内の前記追加のコードは、侵入監視プログラムによって引き起こされる介入モードの場合にだけ実行される餌コードであって、前記餌コードの実行を検出することを特徴とする、請求項1から6のいずれか1項に記載の方法。
- 前記餌コードは、前記保護されているソフトウェアのインポートアドレステーブル(IAT)の使用されていない複数の部分で参照される、請求項7に記載の方法。
- 前記餌コードは、非介入動作条件下では決して実行されることのない前記保護されているソフトウェアの一部であることを特徴とする、請求項7に記載の方法。
- 前記ライセンスコンテナを有する保護装置が、前記コンピュータ装置のインターフェイスに取り付けられていることを特徴とする、先行する請求項のいずれか1項に記載の方法。
- 前記餌コードは、特別に構成されているAPI呼び出しを使用して、前記保護装置をロックすることを特徴とする、請求項7と10とに記載の方法。
- 侵入ソフトウェアの攻撃の検出後、攻撃イベントを記憶するための法的データが作られ保存されることを特徴とする、請求項10に記載の方法。
- 前記法的データは、前記保護装置内の保護されているメモリ内に保存されることを特徴とする、請求項12に記載の方法。
- 前記法的データは、暗号化された形式で保存されることを特徴とする、請求項12または13に記載の方法。
- 前記法的データは、1度だけ書き込みが可能な前記保護装置のメモリ領域に保存されることを特徴とする、請求項12から14のいずれか1項に記載の方法。
- 前記法的データは、複数のグローバルパターンの検出のために集計され評価されることを特徴とする、請求項12から15のいずれか1項に記載の方法。
- 前記法的データは、前記複数のライセンスと前記ライセンスコンテナに収容されている前記複数の暗号鍵とを管理している使用許諾者または中央インスタンスに送信され、前記法的データは、後に前記保護装置を最終的にロック解除する目的で、前記使用許諾者または中央インスタンスによって収集されるために送信されることを特徴とする、請求項12から16のいずれか1項に記載の方法。
- 前記保護されているソフトウェアの実行に使用される前記タイミングを計測することは、複数のプロセッサ例外のタイミングを評価することを有することを特徴とする、請求項2に記載の方法。
- 前記保護されているソフトウェアの実行に使用される前記タイミングを計測することは、全体のクロックの一貫性を確認することを有することを特徴とする、請求項2に記載の方法。
- 前記保護されているソフトウェアの前記動作を分析することは、複数の実行スレッドを、正常なプログラムの実行によって作られた複数の認証されているスレッド、または、侵入プログラムによって作られた複数の不正なスレッドとして、分類することを有することを特徴とする、請求項1または2に記載の方法。
- TLSプロシージャ(スレッドローカルストレージプロシージャ)を使用して、複数の不正なスレッドを発見することを有することを特徴とする、請求項20に記載の方法。
- APIシステムコールの実行を監視することによって、複数の不正なスレッドを発見することを有することを特徴とする、請求項20に記載の方法。
- 侵入プログラムを特定するために、前記コンピュータ装置上の前記保護されているコンピュータソフトウェアの前記実行環境を分析することは、複数の所定のパターンを検出するために前記コンピュータ装置上の他の複数のプロセスを調べることを有する、請求項1に記載の方法。
- 複数のウィンドウパラメータとクラスパラメータまたはプロセスおよび複数のファイル名が、複数の侵入プログラムの所定の複数のパターンの検出のために検査されることを特徴とする、請求項23に記載の方法。
- 前記コンピュータ装置上の前記複数の他のプロセスのプロセスメモリが、部分的にまたは完全に検査されることを特徴とする、請求項23に記載の方法。
- 前記ライセンスコンテナを有する前記コンピュータ装置のインターフェイスに取り付けられている保護装置は、少なくとも1つの前記ライセンスコンテナを有し、前記保護装置全体がロックされるのではなく、侵入が検出された前記保護されているソフトウェアに割り当てられている前記ライセンスコンテナだけがロックされることを特徴とする、請求項3から5のいずれか1項に記載の方法。
- 前記コンピュータシステムのインターフェイスに取り付けられている保護装置は、少なくとも1つのライセンスコンテナを有し、前記コンピュータ装置は、リモートタイムスタンプサーバと通信するように構成され配置されており、前記保護装置のロックは、前記保護装置の動作の継続に必要な前記コンピュータ装置と前記タイムスタンプサーバとの間の通信時に、実施されることを特徴とする、請求項3から5のいずれか1項または請求項26に記載の方法。
- 前記法的なデータを、侵入防止サービスのリモートサーバに送信し、前記侵入防止サービスの前記リモートサーバから送信された特別なコマンドまたはコードを使用して、ロックされている前記ライセンスコンテナのロックを解除することを特徴とする、請求項12に記載の方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP06012776.8 | 2006-06-21 | ||
EP06012776 | 2006-06-21 | ||
PCT/EP2007/005115 WO2007147495A2 (en) | 2006-06-21 | 2007-06-09 | Method and system for intrusion detection |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009541825A JP2009541825A (ja) | 2009-11-26 |
JP5054768B2 true JP5054768B2 (ja) | 2012-10-24 |
Family
ID=38819412
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009515734A Active JP5054768B2 (ja) | 2006-06-21 | 2007-06-09 | 侵入検出のための方法と装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US8490191B2 (ja) |
EP (1) | EP2038806B1 (ja) |
JP (1) | JP5054768B2 (ja) |
CN (1) | CN101473333B (ja) |
WO (1) | WO2007147495A2 (ja) |
Families Citing this family (95)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7162035B1 (en) | 2000-05-24 | 2007-01-09 | Tracer Detection Technology Corp. | Authentication method and system |
US8171567B1 (en) | 2002-09-04 | 2012-05-01 | Tracer Detection Technology Corp. | Authentication method and system |
WO2008097780A2 (en) | 2007-02-02 | 2008-08-14 | Websense, Inc. | System and method for adding context to prevent data leakage over a computer network |
KR20090011481A (ko) | 2007-07-26 | 2009-02-02 | 삼성전자주식회사 | 단말 장치에서의 침입 탐지 방법 및 그 장치 |
US9130986B2 (en) | 2008-03-19 | 2015-09-08 | Websense, Inc. | Method and system for protection against information stealing software |
US9015842B2 (en) * | 2008-03-19 | 2015-04-21 | Websense, Inc. | Method and system for protection against information stealing software |
US8621551B2 (en) * | 2008-04-18 | 2013-12-31 | Samsung Electronics Company, Ltd. | Safety and management of computing environments that may support unsafe components |
US7995196B1 (en) | 2008-04-23 | 2011-08-09 | Tracer Detection Technology Corp. | Authentication method and system |
WO2010057312A1 (en) * | 2008-11-24 | 2010-05-27 | Certicom Corp. | System and method for hardware based security |
US8146158B2 (en) | 2008-12-30 | 2012-03-27 | Microsoft Corporation | Extensible activation exploit scanner |
KR101571880B1 (ko) * | 2009-02-02 | 2015-11-25 | 삼성전자 주식회사 | 전자장치와 가상머신 제공장치 및 이를 이용한 가상머신 서비스 이용 방법 |
JP5332845B2 (ja) * | 2009-04-10 | 2013-11-06 | 大日本印刷株式会社 | Icチップ及びデータ保護方法等 |
US8424071B2 (en) * | 2009-04-15 | 2013-04-16 | International Business Machines Corporation | Method and apparatus for secure and reliable computing |
US20130132733A1 (en) * | 2009-05-26 | 2013-05-23 | Sunil C. Agrawal | System And Method For Digital Rights Management With System Individualization |
US8024462B1 (en) * | 2009-10-05 | 2011-09-20 | Mcafee, Inc. | System, method, and computer program product for preventing communication of unwanted network traffic by holding only a last portion of the network traffic |
IN2012DN02458A (ja) | 2009-11-13 | 2015-08-21 | Irdeto Canada Corp | |
CN101771702B (zh) * | 2010-01-05 | 2015-06-10 | 中兴通讯股份有限公司 | 点对点网络中防御分布式拒绝服务攻击的方法及系统 |
JP5196601B2 (ja) * | 2010-09-28 | 2013-05-15 | Necインフロンティア株式会社 | 環境条件判別型ライセンス消費システム及びその方法、並びに、機能提供サーバ及びそのプログラム |
US8955142B2 (en) | 2011-03-21 | 2015-02-10 | Mocana Corporation | Secure execution of unsecured apps on a device |
US8812868B2 (en) | 2011-03-21 | 2014-08-19 | Mocana Corporation | Secure execution of unsecured apps on a device |
US8769305B2 (en) * | 2011-03-21 | 2014-07-01 | Moncana Corporation | Secure execution of unsecured apps on a device |
US9473485B2 (en) | 2011-03-21 | 2016-10-18 | Blue Cedar Networks, Inc. | Secure single sign-on for a group of wrapped applications on a computing device and runtime credential sharing |
US9396325B2 (en) | 2011-03-21 | 2016-07-19 | Mocana Corporation | Provisioning an app on a device and implementing a keystore |
US8959638B2 (en) | 2011-03-29 | 2015-02-17 | Mcafee, Inc. | System and method for below-operating system trapping and securing of interdriver communication |
US8813227B2 (en) * | 2011-03-29 | 2014-08-19 | Mcafee, Inc. | System and method for below-operating system regulation and control of self-modifying code |
US8925089B2 (en) | 2011-03-29 | 2014-12-30 | Mcafee, Inc. | System and method for below-operating system modification of malicious code on an electronic device |
US8863283B2 (en) | 2011-03-31 | 2014-10-14 | Mcafee, Inc. | System and method for securing access to system calls |
US9317690B2 (en) | 2011-03-28 | 2016-04-19 | Mcafee, Inc. | System and method for firmware based anti-malware security |
US9262246B2 (en) | 2011-03-31 | 2016-02-16 | Mcafee, Inc. | System and method for securing memory and storage of an electronic device with a below-operating system security agent |
US8966629B2 (en) | 2011-03-31 | 2015-02-24 | Mcafee, Inc. | System and method for below-operating system trapping of driver loading and unloading |
US8966624B2 (en) | 2011-03-31 | 2015-02-24 | Mcafee, Inc. | System and method for securing an input/output path of an application against malware with a below-operating system security agent |
US9038176B2 (en) | 2011-03-31 | 2015-05-19 | Mcafee, Inc. | System and method for below-operating system trapping and securing loading of code into memory |
US9087199B2 (en) | 2011-03-31 | 2015-07-21 | Mcafee, Inc. | System and method for providing a secured operating system execution environment |
US9032525B2 (en) | 2011-03-29 | 2015-05-12 | Mcafee, Inc. | System and method for below-operating system trapping of driver filter attachment |
US9027124B2 (en) * | 2011-09-06 | 2015-05-05 | Broadcom Corporation | System for monitoring an operation of a device |
CN103164643B (zh) * | 2011-12-08 | 2017-10-24 | 北京深思数盾科技股份有限公司 | 一种通过硬件进行反调试的方法和装置 |
US9609020B2 (en) | 2012-01-06 | 2017-03-28 | Optio Labs, Inc. | Systems and methods to enforce security policies on the loading, linking, and execution of native code by mobile applications running inside of virtual machines |
US9787681B2 (en) | 2012-01-06 | 2017-10-10 | Optio Labs, Inc. | Systems and methods for enforcing access control policies on privileged accesses for mobile devices |
US20130312058A1 (en) * | 2012-01-06 | 2013-11-21 | Optio Labs, Inc. | Systems and methods for enhancing mobile security via aspect oriented programming |
US9712530B2 (en) | 2012-01-06 | 2017-07-18 | Optio Labs, Inc. | Systems and methods for enforcing security in mobile computing |
US9047922B2 (en) * | 2012-01-27 | 2015-06-02 | Seagate Technology Llc | Autonomous event logging for drive failure analysis |
US10185822B2 (en) | 2012-03-14 | 2019-01-22 | Carbon Black, Inc. | Systems and methods for tracking and recording events in a network of computing systems |
CN104335220B (zh) * | 2012-03-30 | 2018-04-20 | 爱迪德技术有限公司 | 用于防止和检测安全威胁的方法和系统 |
CN102831338B (zh) * | 2012-06-28 | 2015-09-30 | 北京奇虎科技有限公司 | 一种Android应用程序的安全检测方法及系统 |
US8819836B2 (en) * | 2012-08-18 | 2014-08-26 | Luminal, Inc. | System and method for limiting exploitable of potentially exploitable sub-components in software components |
US8984331B2 (en) | 2012-09-06 | 2015-03-17 | Triumfant, Inc. | Systems and methods for automated memory and thread execution anomaly detection in a computer network |
US8856757B2 (en) * | 2012-11-08 | 2014-10-07 | International Business Machines Corporation | Automatic license entitlement calculation |
US9241259B2 (en) | 2012-11-30 | 2016-01-19 | Websense, Inc. | Method and apparatus for managing the transfer of sensitive information to mobile devices |
US9773107B2 (en) | 2013-01-07 | 2017-09-26 | Optio Labs, Inc. | Systems and methods for enforcing security in mobile computing |
US20140282992A1 (en) | 2013-03-13 | 2014-09-18 | Optio Labs, Inc. | Systems and methods for securing the boot process of a device using credentials stored on an authentication token |
DE102013216699A1 (de) * | 2013-08-22 | 2015-02-26 | Siemens Ag Österreich | Verfahren und Schaltungsanordnung zur Absicherung gegen Scannen eines Adressraums |
US9916442B2 (en) * | 2014-02-26 | 2018-03-13 | Ca, Inc. | Real-time recording and monitoring of mobile applications |
EP2913772A1 (de) * | 2014-02-28 | 2015-09-02 | Wibu-Systems AG | Verfahren und Computersystem zum Schutz eines Computerprogramms gegen Beeinflussung |
AU2015235840A1 (en) * | 2014-03-27 | 2016-08-18 | Alert Logic, Inc. | Malicious software identification integrating behavioral analytics and hardware events |
US9998555B2 (en) | 2014-04-08 | 2018-06-12 | Dropbox, Inc. | Displaying presence in an application accessing shared and synchronized content |
US10171579B2 (en) | 2014-04-08 | 2019-01-01 | Dropbox, Inc. | Managing presence among devices accessing shared and synchronized content |
US10270871B2 (en) | 2014-04-08 | 2019-04-23 | Dropbox, Inc. | Browser display of native application presence and interaction data |
US10091287B2 (en) * | 2014-04-08 | 2018-10-02 | Dropbox, Inc. | Determining presence in an application accessing shared and synchronized content |
DK3410335T3 (da) * | 2014-06-24 | 2021-11-01 | Virsec Systems Inc | Automatiseret kodelåsning til reduktion af angrebsoverfladen for software |
US9846528B2 (en) | 2015-03-02 | 2017-12-19 | Dropbox, Inc. | Native application collaboration |
US9813242B2 (en) * | 2015-06-25 | 2017-11-07 | Nxp Usa, Inc. | Method and apparatus for secure recordation of time of attempted breach of IC package |
US10019572B1 (en) | 2015-08-27 | 2018-07-10 | Amazon Technologies, Inc. | Detecting malicious activities by imported software packages |
US10032031B1 (en) | 2015-08-27 | 2018-07-24 | Amazon Technologies, Inc. | Detecting unknown software vulnerabilities and system compromises |
CN105468980B (zh) * | 2015-11-16 | 2018-07-03 | 华为技术有限公司 | 一种安全管控的方法、装置及系统 |
US10248933B2 (en) | 2015-12-29 | 2019-04-02 | Dropbox, Inc. | Content item activity feed for presenting events associated with content items |
US10620811B2 (en) | 2015-12-30 | 2020-04-14 | Dropbox, Inc. | Native application collaboration |
CN108292342B (zh) * | 2016-01-25 | 2022-09-06 | 惠普发展公司,有限责任合伙企业 | 向固件中的侵入的通知 |
CA3017918A1 (en) | 2016-03-15 | 2017-09-21 | Carbon Black, Inc. | Using private threat intelligence in public cloud |
AU2017234265A1 (en) | 2016-03-15 | 2018-10-04 | Carbon Black, Inc. | System and method for process hollowing detection |
EP3430783B1 (en) | 2016-03-15 | 2022-03-30 | Carbon Black, Inc. | Multi-host threat tracking |
WO2017160760A1 (en) | 2016-03-15 | 2017-09-21 | Carbon Black, Inc. | System and method for reverse command shell detection |
US10382502B2 (en) | 2016-04-04 | 2019-08-13 | Dropbox, Inc. | Change comments for synchronized content items |
CN107784203A (zh) * | 2016-08-25 | 2018-03-09 | 大连楼兰科技股份有限公司 | 利用代码自判断芯片加密信息防止在线调试的方法及系统 |
US20180075233A1 (en) * | 2016-09-13 | 2018-03-15 | Veracode, Inc. | Systems and methods for agent-based detection of hacking attempts |
US10395033B2 (en) * | 2016-09-30 | 2019-08-27 | Intel Corporation | System, apparatus and method for performing on-demand binary analysis for detecting code reuse attacks |
US10726163B2 (en) * | 2016-11-17 | 2020-07-28 | International Business Machines Corporation | Protecting cryptographic systems from cold boot and other side channel attacks |
CN106845170B (zh) * | 2017-01-20 | 2019-11-15 | 武汉斗鱼网络科技有限公司 | 一种反调试方法和系统 |
US20180254898A1 (en) * | 2017-03-06 | 2018-09-06 | Rivetz Corp. | Device enrollment protocol |
US10572666B2 (en) | 2017-04-20 | 2020-02-25 | Microsoft Technology Licensing, Llc | Return-oriented programming mitigation |
US20180322305A1 (en) * | 2017-05-05 | 2018-11-08 | Mastercard International Incorporated | System and method for data theft prevention |
US10885189B2 (en) * | 2017-05-22 | 2021-01-05 | Microsoft Technology Licensing, Llc | Isolated container event monitoring |
US10862904B2 (en) | 2017-07-21 | 2020-12-08 | Red Hat, Inc. | Container intrusion detection and prevention system |
DE102017118164A1 (de) * | 2017-08-09 | 2019-02-14 | Infineon Technologies Ag | Kryptographische schaltung und datenverarbeitung |
US10578647B2 (en) * | 2017-09-29 | 2020-03-03 | Intel Corporation | Probes for wafer sorting |
US10735457B2 (en) * | 2017-10-03 | 2020-08-04 | Microsoft Technology Licensing, Llc | Intrusion investigation |
US11899812B2 (en) * | 2018-01-03 | 2024-02-13 | JJD Software LLC | Compound platform for maintaining secure data |
US11038691B2 (en) * | 2018-01-03 | 2021-06-15 | JJD Software LLC | Database platform for maintaining secure data |
CN110502311B (zh) * | 2018-05-18 | 2022-11-25 | 杭州海康威视数字技术股份有限公司 | 容器调度方法、装置、电子设备及可读存储介质 |
US11263332B2 (en) * | 2018-07-31 | 2022-03-01 | International Business Machines Corporation | Methods to discourage unauthorized register access |
US10542036B1 (en) * | 2018-10-02 | 2020-01-21 | Capital One Services, Llc | Systems and methods for signaling an attack on contactless cards |
JP7052755B2 (ja) * | 2019-02-27 | 2022-04-12 | オムロン株式会社 | 制御装置、管理プログラムおよび制御システム |
RU2716871C1 (ru) * | 2019-03-19 | 2020-03-17 | Дмитрий Михайлович Михайлов | Система и способ защиты электронных систем управления транспортных средств от несанкционированного вторжения |
US11423183B2 (en) * | 2020-02-28 | 2022-08-23 | International Business Machines Corporation | Thermal imaging protection |
US11439911B2 (en) * | 2020-04-07 | 2022-09-13 | Riot Games, Inc. | Systems and methods for anti-cheat detection |
CN113742657A (zh) * | 2020-05-29 | 2021-12-03 | 台达电子工业股份有限公司 | 软件保护方法及其系统 |
Family Cites Families (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4932054A (en) | 1988-09-16 | 1990-06-05 | Chou Wayne W | Method and apparatus for protecting computer software utilizing coded filter network in conjunction with an active coded hardware device |
JPH07146788A (ja) * | 1993-11-22 | 1995-06-06 | Fujitsu Ltd | ウイルス診断機構の作成システムと作成方法並びにウイルス診断機構と診断方法 |
WO1997004394A1 (en) | 1995-07-14 | 1997-02-06 | Christopher Nathan Drake | Computer software authentication, protection, and security system |
JP3624971B2 (ja) * | 1995-10-02 | 2005-03-02 | 松下電器産業株式会社 | ソフトウエア利用制御方法 |
US6237137B1 (en) * | 1997-10-15 | 2001-05-22 | Dell Usa, L.P. | Method and system for preventing unauthorized access to a computer program |
US7430670B1 (en) * | 1999-07-29 | 2008-09-30 | Intertrust Technologies Corp. | Software self-defense systems and methods |
US7058928B2 (en) * | 1999-12-23 | 2006-06-06 | Identify Software Ltd. | System and method for conditional tracing of computer programs |
DE50007300D1 (de) | 2000-08-24 | 2004-09-09 | Wibu Systems Ag | Verfahren zum Schutz von Computer-Software und/oder computerlesbaren Daten sowie Schutzgerät |
JP2002082732A (ja) * | 2000-09-06 | 2002-03-22 | Nec Corp | プログラムコードの不正改竄防止システム及びその方法並びにその制御プログラムを記録した記録媒体 |
US7415607B2 (en) * | 2000-12-22 | 2008-08-19 | Oracle International Corporation | Obtaining and maintaining real time certificate status |
JP4652565B2 (ja) * | 2000-12-22 | 2011-03-16 | コグニティブリサーチラボ株式会社 | 抗体接種型動的アンチウィルスシステム |
US7281267B2 (en) * | 2001-02-20 | 2007-10-09 | Mcafee, Inc. | Software audit system |
JP2002251326A (ja) * | 2001-02-22 | 2002-09-06 | Hitachi Ltd | 耐タンパ計算機システム |
JP2002328897A (ja) * | 2001-04-27 | 2002-11-15 | Matsushita Electric Ind Co Ltd | コンピュータネットワークセキュリティシステム |
JP2003233521A (ja) * | 2002-02-13 | 2003-08-22 | Hitachi Ltd | ファイル保護システム |
US7734684B2 (en) * | 2002-09-26 | 2010-06-08 | Haivision Network Video Inc. | Digital content delivery and viewing system and method |
US8065717B2 (en) * | 2002-11-27 | 2011-11-22 | Activcard | Automated security token administrative services |
EP1609042A2 (en) * | 2003-03-24 | 2005-12-28 | Matsushita Electric Industrial Co., Ltd. | Data protection management apparatus and data protection management method |
US20040268120A1 (en) * | 2003-06-26 | 2004-12-30 | Nokia, Inc. | System and method for public key infrastructure based software licensing |
US7676846B2 (en) * | 2004-02-13 | 2010-03-09 | Microsoft Corporation | Binding content to an entity |
JP2005277796A (ja) * | 2004-03-25 | 2005-10-06 | Technoimagia Co Ltd | コンピュータ・ネットワーク・システムでのデータアクセス・ログ情報収集管理装置 |
EP1605661B1 (en) | 2004-06-07 | 2006-08-30 | Alcatel | Method and device for preventing attacks on a call server |
JP5069406B2 (ja) * | 2004-07-23 | 2012-11-07 | テキサス インスツルメンツ インコーポレイテッド | 計算機システム内のセキュリティ侵害を識別して防ぐためのシステムと方法 |
US8332653B2 (en) * | 2004-10-22 | 2012-12-11 | Broadcom Corporation | Secure processing environment |
JP4433401B2 (ja) * | 2004-12-20 | 2010-03-17 | レノボ シンガポール プライヴェート リミテッド | 情報処理システム、プログラム、及び情報処理方法 |
US20060137016A1 (en) * | 2004-12-20 | 2006-06-22 | Dany Margalit | Method for blocking unauthorized use of a software application |
US7818585B2 (en) * | 2004-12-22 | 2010-10-19 | Sap Aktiengesellschaft | Secure license management |
US20060185020A1 (en) * | 2005-02-16 | 2006-08-17 | Ide Technologies, Inc. | Software piracy protection device |
WO2006109723A1 (ja) * | 2005-04-11 | 2006-10-19 | Seiko Instruments Inc. | 時刻証明サーバ、基準時刻配信サーバ、時刻証明方法、基準時刻配信方法、時刻証明プログラム、及び通信プロトコルプログラム |
US8874082B2 (en) * | 2005-05-25 | 2014-10-28 | Qualcomm Incorporated | Apparatus and methods for protecting data on a wireless device |
US7752139B2 (en) * | 2005-12-27 | 2010-07-06 | Michael Noel Hu | Method and system for managing software licenses and reducing unauthorized use of software |
-
2007
- 2007-06-09 CN CN200780022604.4A patent/CN101473333B/zh active Active
- 2007-06-09 EP EP07764604.0A patent/EP2038806B1/en active Active
- 2007-06-09 US US12/306,126 patent/US8490191B2/en active Active
- 2007-06-09 WO PCT/EP2007/005115 patent/WO2007147495A2/en active Application Filing
- 2007-06-09 JP JP2009515734A patent/JP5054768B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2009541825A (ja) | 2009-11-26 |
WO2007147495A2 (en) | 2007-12-27 |
US20100017879A1 (en) | 2010-01-21 |
EP2038806A2 (en) | 2009-03-25 |
CN101473333A (zh) | 2009-07-01 |
WO2007147495A3 (en) | 2008-08-28 |
EP2038806B1 (en) | 2013-09-25 |
US8490191B2 (en) | 2013-07-16 |
CN101473333B (zh) | 2011-09-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5054768B2 (ja) | 侵入検出のための方法と装置 | |
US10002239B2 (en) | Data protection systems and methods | |
CA3054903C (en) | Secured system operation | |
KR101626424B1 (ko) | 가상 머신 모니터 기반 안티 악성 소프트웨어 보안 시스템 및 방법 | |
US8769296B2 (en) | Software signature tracking | |
EP3259697B1 (en) | Mining sandboxes | |
CN105408911A (zh) | 硬件和软件执行概况分析 | |
US10339307B2 (en) | Intrusion detection system in a device comprising a first operating system and a second operating system | |
Ma et al. | Active warden attack: On the (in) effectiveness of Android app repackage-proofing | |
Liu et al. | Binary exploitation in industrial control systems: Past, present and future | |
Viljanen | A survey on application level intrusion detection | |
WO2022185031A1 (en) | Methods and systems for detecting and blocking malicious actions in an operating system | |
Zimmermann et al. | Introducing reference flow control for detecting intrusion symptoms at the os level | |
DeMara et al. | Mitigation of network tampering using dynamic dispatch of mobile agents | |
KR20100067383A (ko) | 서버 보안 시스템 및 서버 보안 방법 | |
Haruyama et al. | Intrusion detection by monitoring system calls with POSIX capabilities | |
Moraes et al. | Emerging Trends in ICT Security: Chapter 10. Advances in Self-Security of Agent-Based Intrusion Detection Systems | |
Thummala | Mitigating effects of false alarms with effective responses | |
CA2431681A1 (en) | System and method for comprehensive general generic protection for computers against malicious programs that may steal information and/or cause damages | |
CA2446144A1 (en) | System and method for comprehensive general generic protection for computers against malicious programs that may steal information and/or cause damages |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100511 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120117 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20120316 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20120326 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120618 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120710 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120727 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5054768 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150803 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |