JP2015532737A - ユーザ関心プロファイルのプライバシ保護されたクラスタ化のシステムおよび方法 - Google Patents

ユーザ関心プロファイルのプライバシ保護されたクラスタ化のシステムおよび方法 Download PDF

Info

Publication number
JP2015532737A
JP2015532737A JP2015521987A JP2015521987A JP2015532737A JP 2015532737 A JP2015532737 A JP 2015532737A JP 2015521987 A JP2015521987 A JP 2015521987A JP 2015521987 A JP2015521987 A JP 2015521987A JP 2015532737 A JP2015532737 A JP 2015532737A
Authority
JP
Japan
Prior art keywords
interest
cluster identifier
profile
user
semantic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015521987A
Other languages
English (en)
Other versions
JP5997379B2 (ja
Inventor
アガハサリャン,アーメン
ブジッド,マクラム
コサリ,モヒト
ナンディ,アニメシュ
Original Assignee
アルカテル−ルーセント
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アルカテル−ルーセント filed Critical アルカテル−ルーセント
Publication of JP2015532737A publication Critical patent/JP2015532737A/ja
Application granted granted Critical
Publication of JP5997379B2 publication Critical patent/JP5997379B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/62Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6245Protecting personal data, e.g. for financial or medical purposes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/2866Architectures; Arrangements
    • H04L67/30Profiles
    • H04L67/306User profiles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/28Databases characterised by their database models, e.g. relational or object models
    • G06F16/284Relational databases
    • G06F16/285Clustering or classification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/04Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks
    • H04L63/0407Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks wherein the identity of one or more communicating identities is hidden
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/04Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks
    • H04L63/0407Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks wherein the identity of one or more communicating identities is hidden
    • H04L63/0421Anonymous communication, i.e. the party's identifiers are hidden from the other party or parties, e.g. using an anonymizer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/32Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols including means for verifying the identity or authority of a user of the system or for message authentication, e.g. authorization, entity authentication, data integrity or data verification, non-repudiation, key authentication or verification of credentials
    • H04L9/3236Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols including means for verifying the identity or authority of a user of the system or for message authentication, e.g. authorization, entity authentication, data integrity or data verification, non-repudiation, key authentication or verification of credentials using cryptographic hash functions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/18Network architectures or network communication protocols for network security using different networks or channels, e.g. using out of band channels

Abstract

本主題の実装形態によれば、ユーザ関心プロファイルのプライバシ保護されたクラスタ化のシステムおよび方法が説明される。この方法は、エンド・ユーザの関心プロファイルに基づいて少なくとも1つの関心プロファイル・セグメントを生成するステップを含む。さらに、少なくとも1つの関心プロファイル・セグメントに対応する意味論的用語が、エンド・ユーザのユーザ・デバイスに結合されたセマンティック・メタデータ・データベースとの相互作用に基づいて取得され、意味論的用語は、セマンティック・メタデータ・データベース内で提供される1つまたは複数の意味論的用語の中から取得される。その後、少なくとも1つの関心プロファイル・セグメントのそれぞれが、少なくとも1つのセマンティック表現に変換される。さらに、クラスタ識別子が、少なくとも1つのセマンティック表現に基づいて少なくとも1つの関心プロファイル・セグメントに割り当てられ、クラスタ識別子は、局所性鋭敏型ハッシュ(LSH)技法を使用して生成される。

Description

本主題は、パーソナライズされたサービスおよびデータ分析に関し、詳細には、それだけに限定されないが、パーソナライズされたサービスおよびデータ分析のためのユーザ関心プロファイル(user interest profile)をクラスタ化しながらエンド・ユーザのプライバシを保護することに関する。
ワールド・ワイド・ウェブを介して膨大な量のコンテンツを取得できるため、サービス・プロバイダによって提供されるコンテンツにアクセスするエンド・ユーザには、しばしば、サービス・プロバイダ、検索エンジン、ウェブ・パブリッシャ、および広告主によって、関連するコンテンツに簡単にアクセスするためのパーソナライズされたアシスタンスおよびデータ分析が提供される。通常、コンテンツベースの推奨、協調推奨、およびデータ分析などのさまざまな技法が、パーソナライズされたサービスをエンド・ユーザに提供するのに使用される。コンテンツベースの推奨では、エンド・ユーザは、過去にそのエンド・ユーザが使用し、もしくは好み、またはそのエンド・ユーザの関心または選択と一致する、コンテンツ、サービス、または製品に類似するコンテンツ、サービス、または製品を推奨される。協調推奨では、エンド・ユーザは、類似するまたは同一の関心または選択を有する他のエンド・ユーザが使用したもしくは好んだコンテンツ、サービス、または製品に類似するコンテンツ、サービス、または製品を推奨される。
コンテンツベースの推奨の例では、映画レビュー・ウェブサイトは、エンド・ユーザが特定のカテゴリの映画、たとえばアニメーション映画を定期的に見ることを監視することができる。したがって、アニメーション映画が見るために使用可能になるたびに、エンド・ユーザに、関連する支払を行うことによって映画をダウンロードするための、たとえば通知またはアラートなどの推奨を提供することができる。同様に、協調フィルタリングとも称する協調推奨では、サービス・プロバイダは、的が絞られた広告をエンド・ユーザに提供することができ、これらの広告は、エンド・ユーザに類似する関心およびプリファレンスを有する他のエンド・ユーザによって好まれた製品またはサービスに関する。たとえば、インターネット・プロトコル・テレビジョン(IPTV)サービス・プロバイダは、テレビ番組または映画がエンド・ユーザの関心と一致する関心を有する他のエンド・ユーザによって見られた場合に、そのテレビ番組または映画をエンド・ユーザに推奨することができる。
さらに、ユーザは、たとえばデータ・マイニングのために、サービス・プロバイダがデータ分析アプリケーションを実行するために、彼らの個人データを提供する必要がある。サービス・プロバイダによるデータ分析とエンド・ユーザへの関連するコンテンツの提供とに関するこれらの技法のすべての中で、現在のユーザは、彼らの個人情報および潜在的に機密の情報に心配をますます感じている。これは主に、パーソナライズされたサービスから利益を得、データ分析を容易にするために、エンド・ユーザが、機密情報を明らかにしなければならないが、それと同時に、エンド・ユーザが情報のプライバシ保護について心配しているからである。たとえば、ソーシャル・ネットワーキング・サイトのエンド・ユーザは、ソーシャル・ネットワーキング・サイト上での更新に関する他のユーザおよび彼自身への匿名推奨を行うために、ソーシャル・ネットワーキング・サイトへの彼のアクセスの情報を使用することには異議を唱えない可能性があるが、他のエンド・ユーザ、サービス・プロバイダ、攻撃者、および悪意のある当事者などの他のエンティティが、エンド・ユーザが訪問するかレーティングした特定のURLを知ることを望まない可能性がある。
この課題を解決するための手段は、パーソナライズされたサービスを提供し、データ分析アプリケーションを実行するためのエンド・ユーザのクラスタ化しながらプライバシを保護することに関する概念を導入するために提供される。この課題を解決するための手段は、請求される主題の本質的特徴を識別することを意図されたものではなく、請求される主題の範囲を区切りまたは限定する際の使用を意図されたものでもない。
一実装形態では、ユーザ関心プロファイルのプライバシ保護されたクラスタ化の方法が説明される。この方法は、エンド・ユーザの関心プロファイルに基づいて少なくとも1つの関心プロファイル・セグメントを生成するステップを含む。この方法は、エンド・ユーザのユーザ・デバイスに結合されたセマンティック・メタデータ・データベースとの相互作用に基づいて、少なくとも1つの関心プロファイル・セグメントに対応する意味論的用語を取得するステップであって、意味論的用語は、セマンティック・メタデータ・データベース内で提供される1つまたは複数の意味論的用語の中から取得される、ステップをさらに含む。その後、少なくとも1つの関心プロファイル・セグメントのそれぞれが、少なくとも1つのセマンティック表現に変換される。この方法は、少なくとも1つのセマンティック表現に基づいて少なくとも1つの関心プロファイル・セグメントにクラスタ識別子を割り当てるステップであって、クラスタ識別子は、局所性鋭敏型ハッシュ(LSH)技法を使用して生成される、ステップをさらに含む。
もう1つの実装形態では、ユーザ関心プロファイルのプライバシ保護されたクラスタ化のためのユーザ・デバイスが説明される。前記実装形態では、ユーザ・デバイスは、プロセッサと、プロセッサに結合されたメモリとを含む。メモリは、ユーザ・デバイスに結合されたセマンティック・メタデータ・データベースとの相互作用に基づいて、少なくとも1つの関心プロファイル・セグメントに対応する意味論的用語を取得するように構成されたプロファイル変換モジュールを含む。一実施形態では、意味論的用語は、セマンティック・メタデータ・データベース内で提供される1つまたは複数の意味論的用語の中から取得される。プロファイル変換モジュールは、少なくとも1つの関心プロファイル・セグメントのそれぞれを少なくとも1つのセマンティック表現に変換するようにさらに構成される。メモリは、少なくとも1つのセマンティック表現に基づいて、局所性鋭敏型ハッシュ(LSH)を使用してクラスタ識別子を生成し、少なくとも1つのセマンティック表現に基づいて、少なくとも1つの関心プロファイル・セグメントにクラスタ識別子を割り当てるように構成されたクラスタ識別子モジュールをさらに含む。
もう1つの実装形態では、方法を実行するコンピュータ可読プログラム・コードがその上で実施されたコンピュータ可読媒体が説明される。この方法は、エンド・ユーザの関心プロファイルに基づいて少なくとも1つの関心プロファイル・セグメントを生成するステップを含むことができる。この方法は、エンド・ユーザのユーザ・デバイスに結合されたセマンティック・メタデータ・データベースとの相互作用に基づいて、少なくとも1つの関心プロファイル・セグメントに対応する意味論的用語を取得するステップであって、意味論的用語は、セマンティック・メタデータ・データベース内で提供される1つまたは複数の意味論的用語の中から取得される、ステップをさらに含む。その後、少なくとも1つの関心プロファイル・セグメントのそれぞれは、少なくとも1つのセマンティック表現に変換される。この方法は、少なくとも1つのセマンティック表現に基づいて少なくとも1つの関心プロファイル・セグメントにクラスタ識別子を割り当てるステップであって、クラスタ識別子は、局所性鋭敏型ハッシュ(LSH)技法を使用して生成される、ステップをさらに含む。
詳細な説明は、添付図面を参照して説明される。図面では、符号の左端の桁が、その符号がはじめて現れる図面を識別する。同一の符号が、複数の図面を通じて、同様の特徴および構成要素を参照するのに使用される。本主題の実施形態によるシステムおよび/または方法のいくつかの実施形態を、これから、例としてのみ、添付図面を参照して説明する。
本主題の実施形態による、個人情報のプライバシ保護のためのユーザ・プロファイルのプライバシ保護されたクラスタ化の例示的なネットワーク環境実装形態を示す図である。 本主題の実施形態による、個人情報のプライバシ保護のためのユーザ・プロファイルのプライバシ保護されたクラスタ化を実施するユーザ・デバイスのコンポーネントを示す図である。 本主題の実施形態による、ユーザ・プロファイルのプライバシ保護されたクラスタ化を実施するさまざまなアプリケーションの例示的なネットワーク環境実装形態を示す図である。 本主題の実施形態による、ユーザ・プロファイルのプライバシ保護されたクラスタ化を実施するさまざまなアプリケーションの例示的なネットワーク環境実装形態を示す図である。 本主題の実施形態による、ユーザ・プロファイルのプライバシ保護されたクラスタ化を実施するさまざまなアプリケーションの例示的なネットワーク環境実装形態を示す図である。 本主題の実施形態による、エンド・ユーザにプライバシ保護を提供するためのユーザ・プロファイルのプライバシ保護されたクラスタ化の方法を示す図である。
本文書では、単語「例示的な」は、本明細書で「例、実例、または例示として働く」を意味するのに使用される。本明細書で「例示的な」として説明される本主題の任意の実施形態または実装形態は、必ずしも、他の実施形態より好ましいまたは有利と解釈されるべきものではない。
当業者は、本明細書の任意のブロック図が本主題の原理を実施する例示的システムの概念図を表すことを了解するに違いない。同様に、任意のフロー・チャート、流れ図、状態遷移図、擬似コード、および類似物が、コンピュータ可読媒体内で実質的に表され、したがってコンピュータまたはプロセッサが明示的に図示されているかどうかに拘わらずそのようなコンピュータまたはプロセッサによって実行され得る、さまざまなプロセスを表すことを了解されたい。
エンド・ユーザの個人情報に対するプライバシを提供するシステムおよび方法を説明する。このシステムおよび方法を、サービス・プロバイダによって提供されるサービスを役立てるかコンテンツを見るためにエンド・ユーザによって使用されるさまざまなユーザ・デバイス内で実施することができる。さらに、ユーザ・デバイスは、さまざまなネットワークを介して分散サーバおよび他のユーザ・デバイスと通信しているものとすることができる。説明される方法を実施できるユーザ・デバイスおよび分散サーバは、ラップトップ、デスクトップ・コンピュータ、ノートブック、携帯電話機、携帯情報端末、ワークステーション、メインフレーム・コンピュータ、セット・トップ・ボックス、メディア・プレイヤ、中央ディレクトリ・サーバ、データベース・サーバ、ファイル・サーバ、印刷サーバ、ウェブ・サーバ、アプリケーション・サーバ、および類似物などのコンピューティング・デバイスを含むが、これに限定されない。本明細書の説明は、推奨サービスを提供し、データ分析アプリケーションを実行するパーソナル・コンピュータおよび分散サーバを参照するが、当業者が理解するように、方法およびシステムを、エンド・ユーザのプライバシを保護するためにエンド・ユーザに接続性を提供する他のサーバおよびコンピューティング・システム内で実施することができる。
推奨サービスおよびパーソナライズされたコンテンツが、さまざまなネットワークを介してサービス・プロバイダによって異なるエンド・ユーザに提供されるが、本明細書で説明される方法およびシステムは、アクセス独立であり、Global System for Mobile(GSM)、広帯域符号分割多元接続(W−CDMA)、符号分割多元接続(CDMA)、無線ローカル・エリア・ネットワーク(WLAN)、有線、ローカル・エリア・ネットワーク(LAN)、および接続性を提供する他のネットワークを含む複数のアクセス・タイプをサポートする。
従来、多くのサービス・プロバイダは、エンド・ユーザの個人的な詳細、プリファレンス、および選択に基づいて、ビデオ、オーディオ、ニュース、広告などのコンテンツを提供するサービスなど、エンド・ユーザに提供されるサービスをパーソナライズすることを試みた。このために、サービス・プロバイダは、エンド・ユーザの年齢、性別、および位置などのエンド・ユーザの個人情報、エンド・ユーザの過去のアクション、またはエンド・ユーザの関心に類似する関心を有すると識別された他のエンド・ユーザが好んだサービス、コンテンツ、または製品を推奨し、データ分析アプリケーションを実行するのに、さまざまな技法を使用する。
たとえば、エンド・ユーザ、たとえばユーザAが、特定の著者によって執筆された書籍を購入した場合に、サービス・プロバイダは、同一の著者によって執筆された他の書籍または同一のもしくは関連する主題に関する他の書籍などを購入するようにユーザAに提案することができる。類似するが別の従来の手法では、サービス・プロバイダは、エンド・ユーザAの関心プロファイルに類似する関心プロファイルを有する他のエンド・ユーザによって好まれたコンテンツまたは製品をエンド・ユーザAに推奨することができる。パーソナライズされたサービスの提供とデータ分析とのために、さまざまな従来既知の方法が、類似する関心を有するエンド・ユーザを1つまたは複数の関心グループにクラスタ化するのに使用される。
サービス・プロバイダによって実施されるクラスタ化の従来の方法は、エンド・ユーザの個人的なプリファレンス、選択などに関する情報の収集を必要とする。従来、サービス・プロバイダは、ログ・ファイル、アプリケーション履歴ファイル、またはエンド・ユーザのクライアント・デバイス上で保存されるかサービス・プロバイダに登録している間にユーザによって提供される他の個人的に識別可能な情報を分析することによるなど、さまざまな手段を介してエンド・ユーザに関する情報を監視し、収集する。別の従来の技法では、サービス・プロバイダは、エンド・ユーザに関する情報を収集するために、ハイパーテキスト転送プロトコル(http)クッキーなどのテキスト・ファイルを保存することができる。たとえば、ウェブ・ポータルは、フォント・サイズ、ディスプレイ・ウィジェットの配置、その他など、エンド・ユーザのプリファレンスを格納するためにエンド・ユーザのウェブ・ブラウザのhttpクッキーを含むユーザ・プリファレンス・データを保存することができる。さらに、ユーザ・プリファレンス・データは、エンド・ユーザのブラウジング詳細を格納し、これをウェブ・ポータルに送信することもできる。
したがって、エンド・ユーザの個人的な選択に基づいて推奨サービス、パーソナライズされたコンテンツ、サービス、または製品をエンド・ユーザに提供することを試みて、サービス・プロバイダは、しばしば、エンド・ユーザのアクティビティに関する情報を監視し、収集する。ある種の状況で、サービス・プロバイダによって収集された情報に基づいてエンド・ユーザを識別することが可能になる。これは、エンド・ユーザの個人情報または機密情報を危険にさらすことをもたらし、エンド・ユーザを潜在的なプライバシ侵害にさらすか、エンド・ユーザを広告主またはスパマなどの標的にする可能性がある。さらに、極端な場合に、エンド・ユーザが、個人情報窃盗およびクレジット・カード詐欺などのさまざまな犯罪の被害者になる場合がある。
さらに、今日、エンド・ユーザが、高速通信サポートを介して仮想ソーシャル・ネットワークを通じてお互いに接続される時に、エンド・ユーザは、StumbleUpon(登録商標)、GoogleNews(商標)、Foursquare(登録商標)、Facebook(登録商標)、Yahoo!(登録商標)、およびtwitter(商標)などの広いクラスのアプリケーションにプライベート情報および個人情報を常に共有している。明らかにされる機密の個人情報の性質は、ロケーション・ベースのサービス(LBS)の位置およびuniform resource locator(URL)リコメンダ・システムのブラウジング履歴など、アプリケーションのタイプに依存するが、オンライン・ソーシャル・ネットワーク(OSN)のすべてを包含するフレームワークへのこれらのアプリケーションの注入(OSNは、推奨サービスを提供する「ワンストップショップ(あらゆる商品を備えた総合店舗)」として働き始めている)は、ユーザの個人情報をこれまで以上に高いリスクにさらしている。
最近、それでもデータ分析アプリケーションを実行し、推奨サービス、パーソナライズされたコンテンツ、パーソナライズされた検索/照会、ソーシャル・ネットワーク、データ・マイニング、および他の関連するサービスなどのパーソナライズされたサービスを提供しながらプライバシを保つ、異なる手法が提案された。
そのような既存の手法の1つは、準同形暗号ベースの戦略を使用して関心プロファイルをクラスタ化することを含む。そのような手法では、ユーザの関心プロファイルは、ユーザにプライバシを提供するために、準同形暗号などの暗号技法を使用して暗号化される。そのような暗号技法は、分散計算セッティングを使用して関心プロファイルをクラスタ化するための加算および乗算などのプロトコル原始的操作の実行を可能にする。分散計算セッティングの使用は、エンド・ユーザの静的集合のユーザ・デバイスを介するプロトコル原始的操作の複数のフェーズの実行を可能にする。たとえば、K平均クラスタ化アルゴリズムを、準同形暗号の技法を使用するプライバシ保護方法で実施することができる。準同形暗号を使用する技法は、エンド・ユーザへのプライバシの提供を容易にするが、そのような技法は、通常、リソース集中的であり、実行が複雑である。さらに、エンド・ユーザの静的集合のユーザ・デバイスを介するプロトコル原始的操作の複数のフェーズの実行は、エンド・ユーザの集合が動的に変化し、エンド・ユーザがオンライン・ポータルに常に参加し、離脱するオンライン・ポータルなどの動的環境でのそのような技法の適用を制限する。
さらに、ある種の手法は、関心プロファイルをクラスタ化するように構成された集中化された媒介物がエンド・ユーザによって信頼されない場合の集中化された解決策を提供する。そのような状況では、各エンド・ユーザは、当初に、集中化された媒介物に通信される前に投影された関心プロファイルを取得するための暗号化など、ランダム・プロジェクション・ベースの手法を使用して関心プロファイルを前処理する。投影された関心プロファイルは、通常、集中化された媒介物を用いて取得可能ではないランダム・プロジェクション機能を使用して関心プロファイルを変換し、したがってエンド・ユーザのデータのプライバシを保証することによって取得される。しかし、ランダム・プロジェクション機能は、効率的で正しいクラスタ化を容易にするために、すべての類似する関心プロファイルが類似する投影された関心プロファイルに変換されることを保証するために、共通のクラスタの一部になるというエンド・ユーザの意図の間で共有される。しかし、エンド・ユーザの間でのランダム・プロジェクション機能の共有は、悪意のあるエンド・ユーザが、投影された関心プロファイルからオリジナルの関心プロファイルを取得するために、集中化された媒介物にランダム・プロジェクション機能を提供することができるので、ランダム・プロジェクション機能の漏洩を可能にする可能性がある。
プライベート情報を保護するもう1つの技法は、エンド・ユーザの代わりに関心プロファイルを送信するように構成されたプロキシ・ノードを用いるゴシップオンビハーフ(gossip−on−behalf)手法である。そのような技法は、エンド・ユーザ・アイデンティティをプロキシ・ノードから隠蔽するために暗号化された2ホップ通信を使用する、媒介物ノードを介するプロキシ・ノードへのエンド・ユーザのユーザ・プロファイルの送信を含む。しかし、プロキシ・ノードとの完全な関心プロファイルの共有は、プロキシ・ノードがある時間期間にわたって関心プロファイルを分析することによってエンド・ユーザを識別することができるので、リンカビリティ攻撃を容易にする可能性がある。
本主題の実装形態によれば、エンド・ユーザの個人情報にプライバシを提供するためにエンド・ユーザのユーザ関心プロファイルをクラスタ化している間にプライバシを保証するシステムおよび方法が説明される。前に説明したように、このシステムおよび方法を、通信に関して定義されたさまざまな異なる標準規格に従ってネットワークと通信することができるさまざまな処理デバイスおよび通信デバイス内で実施することができる。さらに、本明細書で説明されるシステムおよび方法を、異なる手段を介して提供される有線ネットワークまたは無線ネットワークのいずれかを介して接続することができる。
本明細書で説明されるシステムおよび方法は、一方では、アプリケーションの使用を制限せずに、各エンド・ユーザおよび彼らのプライベート情報に匿名性を提供することによって、エンド・ユーザのプライベート情報に対する真の保護を提供し、他方では、限られた計算能力を有するモバイル・デバイスなどのシン・クライアントを含む任意のコンピューティング・デバイスを利用してパーソナライズされたサービスを受信するかプライベート・データの類似性に従うユーザ・クラスタ化を必要とする任意の他のアプリケーションまたはサービスを使用する能力をエンド・ユーザに提供する。一実施形態では、プライバシ保護されたネットワークは、お互いまたは1つまたは複数のアグリゲータ・ノードなどの分散サーバと通信するためにユーザ・デバイスに関連する複数のエンド・ユーザを含む。
本主題の一実施形態によれば、パーソナライズされたコンテンツ・サービスおよびパーソナライズされた推奨サービスをエンド・ユーザに提供するために、類似する関心プロファイルを有するエンド・ユーザのクラスタが作成される。そのために、エンド・ユーザのそれぞれのユーザ・デバイスは、当初に、エンド・ユーザの個人的選択およびプリファレンスなどのプロファイル・データに基づいてエンド・ユーザの関心プロファイルを生成する。たとえば、ユーザ・デバイスは、エンド・ユーザによって訪問されたすべてのURL、エンド・ユーザによって検索されたか見られたすべてのビデオ、エンド・ユーザによって聞かれ、検索された音楽、およびエンド・ユーザによって探索された他の類似する関心分野に関するデータのリストを取得することができる。
一実施形態では、関心プロファイルを、その後に、複数の関心プロファイル・セグメントにセグメント化することができ、各セグメントは、特定の関心分野に対応する。関心分野の例は、専門的関心、レジャー・プリファレンス、および宗教プリファレンスなどのコンテキスト的プリファレンスと、音楽、ダンス、eショッピング、およびソーシャル・ネットワーキングなどの関心の領域とを含むが、これに限定されない。関心プロファイル・セグメントを、その後に、さまざまな関心グループへのクラスタ化のために処理することができる。もう1つの実施形態では、関心プロファイル全体を、さまざまな関心グループへのクラスタ化のために処理することができる。
関心プロファイル・セグメントは、その後に、セマンティック表現と称するコンパクトで意味論的に密な表現に変換される。関心プロファイル・セグメントのセマンティック表現は、限定ではなく一例として、タグ・ベースの表現、オントロジ概念ベースの表現、およびトピック・ベースの表現を含む。たとえば、ソーシャル・ネットワーキング・サイト「xyz.com」のURLに対応する関心プロファイルを、セマンティック表現「ソーシャル・ネットワーキング・サイト」に変換することができる。
そのために、ユーザ・デバイスは、匿名通信チャネルを介して、関心プロファイル・セグメントを対応するセマンティック表現に変換するのに使用できる意味論的用語のリストまたは辞書を有するセマンティック・メタデータ・データベースと相互作用することができる。一実施形態では、ユーザ・デバイスは、関心プロファイル・セグメントを対応するセマンティック表現に変換するのに関心プロファイル・セグメントのそれぞれに対応する意味論的用語を識別することができるセマンティック・メタデータ・データベースに関心プロファイル・セグメントを提供することができる。もう1つの実施形態では、ユーザ・デバイスは、セマンティック・メタデータ・データベースから意味論的用語のリストを取得し、その後、対応するセマンティック表現を取得するために関心プロファイル・セグメントと一致する意味論的用語を識別することができる。もう1つの実施形態では、ユーザ・デバイス自体が、エンド・ユーザによってブラウズされたウェブ・ページから抽出された意味論的用語を有するメタデータを含むことができる。前記実施形態では、ユーザ・デバイスは、意味論的用語の語彙をお互いと共有するように構成され、その結果、異なるユーザ・デバイスによって生成されたセマンティック表現が、同一の用語を使用して表現され、したがって、比較可能になる。
そのように取得されたセマンティック表現に、クラスタ識別子を割り当てて、エンド・ユーザを関連付けることができる関心グループを識別することができる。クラスタ識別子を、局所性鋭敏型ハッシュ(LSH)の技法を使用して割り当てることができる。LSH技法は、セマンティック表現と、ユーザ・デバイスのそれぞれで生成されるランダム・ベクトルの共通シーケンスなどのランダム値によって定義されるハッシュ関数の集合とを使用して、セマンティック表現のそれぞれを対応するハッシュ符号すなわちクラスタ識別子に変換することを含む。ユーザ・デバイスでのクラスタ識別子の割当は、関心プロファイルがリモート・ノードと共有されないので、プライバシ保護を提供するのを容易にする。さらに、LSH技法の使用は、クラスタ化をハッシュ符号の照合によって簡単に実行できるので、ユーザ・プロファイルのクラスタ化での効率を高めるのを助ける。さらに、セマンティック・メタデータ・データベースの使用は、偽陰性および偽陽性の発生を減らすのを助け、したがって、クラスタ化の効率を高める。したがって、セマンティック表現を生成することによるプロファイル変換に関連するLSH技法によるクラスタ化の実行は、クラスタ化での誤りの減少と共に、プライバシ保護の提供を容易にする。
そのように取得されたクラスタ識別子を、ユーザ・デバイスを1つまたは複数のクラスタすなわちクラスタ識別子に対応する関心グループにクラスタ化するのに使用することができる。さらに、クラスタ識別子は、1つまたは複数のリモート・ノード、たとえば、中央アグリゲータ、関心グループ・アグリゲータ、および別のユーザ・デバイスに、通信チャネル、たとえば匿名通信チャネルを介して提供される。
一実装形態では、ユーザ・デバイスと通信するリモート・ノードを、ユーザ・デバイスをそれに使用できるアプリケーションまたは推奨ベースのサービスのタイプに依存して選択することができる。たとえば、協調フィルタリング・アプリケーションの場合に、リモート・ノードを、中央アグリゲータとすることができ、各中央アグリゲータは、少なくとも1つのクラスタすなわち、映画、ダンス、eショッピング、ソーシャル・ネットワーキング・サイト、またはその組合せなどの関心グループに対応する。したがって、ユーザ・デバイスは、クラスタ識別子のそれぞれを、対応する関心グループ内の関心グループの関心分野の後に最高ランキングのすなわちトップ・ランクの関心分野を中央アグリゲータが識別することを可能にするために、ユーザの関心プロファイルと一緒に対応する中央アグリゲータに提供することができる。たとえば、「音楽」に関する関心グループの責任を負う中央アグリゲータは、対応するクラスタ識別子を有するすべてのユーザ・デバイスの関心プロファイルを受信することができる。中央アグリゲータは、その後、たとえば大多数、たとえば90%のエンド・ユーザの関心プロファイルに存在することのゆえに、高くランキングされる他の関心分野または関心を識別するために、ユーザ・プロファイルを分析することができる。たとえば、中央アグリゲータは、最高ランキングの関心として「ダンス」を識別することができ、したがって、関心分野「ダンス」の責任を負う中央アグリゲータからダンスに対応する推奨を取得することができる。したがって、中央アグリゲータは、クラスタ「音楽」に対応するクラスタ内に存在するすべてのユーザ・デバイスに、音楽ならびにダンスに関するコンテンツおよび推奨を提供することができる。したがって、中央アグリゲータは、ユーザの関心だけではなく、関心グループ内で高くランキングされている新しい関心または項目にも関するコンテンツおよび推奨を提供することができる。もう1つの実施形態では、中央アグリゲータを、関心グループの責任を負う中央アグリゲータとして働く各ユーザ・デバイスに置換することができる。
同様に、コンテンツベースの推奨アプリケーションの場合に、リモート・ノードを、関心グループ・アグリゲータとすることができ、各関心グループ・アグリゲータは、少なくとも1つのクラスタすなわち、映画、ダンス、eショッピング、ソーシャル・ネットワーキング・サイトなどの関心グループに対応する。ユーザ・デバイスは、その場合に、クラスタ識別子に対応する関心グループ・アグリゲータにクラスタ識別子およびセマンティック表現を送信するように構成され、これに基づいて、関心グループ・アグリゲータは、クラスタ識別子に対応するコンテンツを提供することができる。
さらに、ピアツーピア通信を含むアプリケーションでは、リモート・ノードを、他のユーザ・デバイスとすることができる。そのようなアプリケーションでは、ユーザ・デバイスは、匿名通信チャネルを使用してユーザ・デバイスの間でのチャットおよびデータの交換を可能にするために、類似するクラスタ識別子を有する他のユーザ・デバイスを識別するのにクラスタ識別子を使用することができる。匿名通信チャネルの使用は、クラスタ識別子および他のデータが匿名通信チャネルを形成するさまざまな媒介物ノードを使用して送信されるので、他のユーザまたはリモート・ノードが、クラスタ識別子を送信するエンド・ユーザを識別できないことを保証するのを助ける。
したがって、本主題のシステムおよび方法は、ユーザ・デバイスでクラスタ識別子を関心プロファイルに割り当てることによって、エンド・ユーザにプライバシを提供するのを容易にする。LSH技法を使用してユーザ・デバイスでクラスタ識別子を関心プロファイルに割り当てることは、リモート・ノードがエンド・ユーザの関心プロファイルにアクセスすることなくリモート・ノードでの類似するユーザのクラスタ化を可能にし、したがって、エンド・ユーザにプライバシ保護を提供する。さらに、セマンティック表現の生成に関連してLSH技法を使用することは、セマンティック・メタデータ・データベースの使用が偽陰性および偽陽性の発生を減らすのを助け、したがってクラスタ化の効率を高めるので、プライバシが保護され、クラスタ化での誤りが減らされることを保証するのを助ける。したがって、ユーザ・デバイスでのクラスタ識別子を提供することは、サービス・プロバイダが関心プロファイルを分析する必要がなく、クラスタ識別子をコンテンツ・データと照合するのに任意のコンテンツ・マッチング技法を使用することができるので、コンテンツ・プロバイダがより高速で効率的にデータ分析を実行し、パーソナライズされたサービスを提供するのを容易にする。さらに、クラスタ識別子の使用は、サービス・プロバイダが関心プロファイルを処理しまたは分析する必要がないので、サービス・プロバイダの端でコストを下げ、リソースを節約する。
この説明および図面が、単に、本主題の原理を示すことに留意されたい。したがって、当業者が、本明細書で明示的に説明されず、図示されないが、本主題の原理を実施し、その趣旨および範囲に含まれるさまざまな配置を考案できることを了解されたい。さらに、本明細書で列挙されるすべての例は、主に、当技術を促進するために本発明人によって貢献される本主題および概念の原理を理解する際に読者を助ける教育的目的のみのためであることが特に意図され、そのような具体的に列挙される例および条件への限定なしに解釈されなければならない。さらに、本主題の原理、態様、および実施形態ならびにその特定の例を列挙する本明細書のすべての言明は、その同等物を包含することが意図されている。
また、当業者は、本明細書で使用される時に、単語during(〜中に)、while(〜の間に)、およびwhen(〜時に)が、開始するアクションの際に瞬間的に行われるアクションを意味する正確な用語ではなく、初期アクションとその初期アクションによって開始される反応との間に、伝搬遅延など、短いが穏当な遅延があってもよいことをも了解するであろう。さらに、単語「connected(接続された)」および「coupled(結合された)」は、説明の明瞭さのために終始使用され、直接接続または間接接続のいずれをも含むことができる。
エンド・ユーザへのプライバシ保護のためにユーザ・プロファイルをクラスタ化するシステムおよび方法が実施される形を、図1〜4に関して詳細に説明した。プライバシ保護を提供するためにユーザ・プロファイルをクラスタ化する説明されるシステムおよび方法の諸態様を、任意の個数の異なるコンピューティング・システム、伝送環境、および/または構成で実施することができるが、諸実施形態は、次の例示的なシステムの文脈で説明される。
図1に、本主題の実施形態による、データ分析とパーソナライズされたサービスへのアクセスとを容易にしながらエンド・ユーザのプライバシを保護するためのユーザ・プロファイルのプライバシ保護されたクラスタ化のネットワーク環境100実装形態を示す。ネットワーク環境100は、通信ネットワーク106を介してお互いおよびリモート・ノード104と通信する、以下では集合的にユーザ・デバイス102と称し、個別にユーザ・デバイス102と称する1つまたは複数のユーザ・デバイス102−1、102−2,…、および102−Nを含む。
通信ネットワーク106は、無線ネットワークまたは有線ネットワークと無線ネットワークとの組合せとすることができる。通信ネットワーク106は、お互いに相互接続され、単一の大きいネットワーク(たとえば、インターネットまたはイントラネット)として機能する個々のネットワークの集合とすることができる。そのような個々のネットワークの例は、3rd Generation Partnership Project(3GPP)、Long Term Evolution(LTE)、Global System for Mobile Communication(GSM)ネットワーク、Universal Mobile Telecommunications System(UMTS)ネットワーク、Personal Communications Service(PCS)ネットワーク、時分割多元接続(TDMA)ネットワーク、符号分割多元接続(CDMA)ネットワーク、Next Generation Network(NGN)、公衆交換電話網(PSTN)、およびサービス総合ディジタル網(ISDN)を含むが、これに限定されない。通信ネットワーク106は、ローカル・エリア・ネットワーク(LAN)、広域ネットワーク(WAN)、インターネット、イントラネット、ピアツーピア・ネットワーク、および仮想プライベート・ネットワーク(VPN)を含む任意の公衆ネットワークまたは私有ネットワークとすることができ、ルータ、ブリッジ、サーバ、コンピューティング・デバイス、ストレージ・デバイス、その他などのさまざまなネットワーク・デバイスを含むことができる。
ユーザ・デバイス102は、データ分析と、推奨サービス、パーソナライズされたコンテンツ、パーソナライズされた検索/照会、ソーシャル・ネットワーク、データ・マイニング、および他の関連するサービスなどのさまざまなパーソナライズされたサービスへのアクセスとを容易にする、お互いまたはリモート・ノード104および分散サーバなどの他のネットワーク・エンティティと通信するのにエンド・ユーザによって使用されるユーザ機器(UE)と定義することができる。ユーザ・デバイス102の例は、限定なしに、ラップトップもしくは他のポータブル・コンピュータ、デスクトップ・コンピュータ、ノートブック、ネットワーク・コンピュータ、携帯電話機、ハンドヘルド・デバイス、携帯情報端末、ワークステーション、メインフレーム・コンピュータ、セット・トップ・ボックス、メディア・プレイヤ、中央ディレクトリ・サーバ、データベース・サーバ、ファイル・サーバ、印刷サーバ、ウェブ・サーバ、アプリケーション・サーバ、および類似物などのコンピューティング・デバイスを含むことができる。ユーザ・デバイス102のそれぞれは、ユーザ・デバイス102が結合される通信ネットワーク106によって定義される通信プロトコルに作用する。さらに、ユーザ・デバイス102は、以下で集合的に通信チャネル108と称する通信チャネル108−1、108−2、108−3、108−4、108−5…、108−nのうちの1つまたは複数を使用して通信ネットワーク106を介してお互いまたはリモート・ノード104などの他のネットワーク・エンティティと相互作用するように構成される。一実装形態では、通信チャネル108を、ユーザ・デバイス102の間およびユーザ・デバイス102とリモート・ノード104などの他のネットワーク・エンティティとの間の匿名通信をサポートするために、たとえばTORなどのオニオン・ルーティング・フレームワークに基づいて構成された匿名通信チャネルとすることができる。
リモート・ノード104を、ラップトップ・コンピュータ、デスクトップ・コンピュータ、ノートブック、ワークステーション、メインフレーム・コンピュータ、サーバ、および類似物など、さまざまなコンピューティング・デバイスとして実施することができる。リモート・ノード104は、エンティティとして図示されているが、リモート・ノード104を、各ノードをラップトップ・コンピュータ、デスクトップ・コンピュータ、ノートブック、ワークステーション、メインフレーム・コンピュータ、サーバ、および類似物などのコンピューティング・デバイスとして実施することができるネットワークを介して分散された複数の媒介物ノードを含む分散コンピューティング・システムとして実施することもできる。さらに、媒介物ノードを、通信およびデータの交換のために中間ネットワーク(この図には図示せず)を介して接続することができる。さらに、リモート・ノード104の例は、中央アグリゲータ、関心グループ・アグリゲータ、およびユーザ・デバイス102を含むが、これに限定されない。
一実装形態では、ユーザ・デバイス102と通信するリモート・ノード104を、ユーザ・デバイス102をそれに使用できるアプリケーションまたは推奨ベースのサービスのタイプに依存して選択することができる。たとえば、協調フィルタリング・アプリケーションの場合に、リモート・ノード104を、中央アグリゲータとすることができ、同様に、コンテンツベースの推奨アプリケーションの場合に、リモート・ノード104を、関心グループ・アグリゲータとして実施することができる。
一実施形態では、エンド・ユーザの関心プロファイルは、エンド・ユーザのアクティビティに基づいて生成され、ユーザ・デバイス102によってローカルに保存される。たとえば、エンド・ユーザの関心プロファイルを、エンド・ユーザに対応するプロファイル・データに基づいて生成することができる。プロファイル・データは、たとえば、エンド・ユーザによって訪問されたウェブサイト、エンド・ユーザによって再生されたかダウンロードされた曲またはビデオ、エンド・ユーザによって使用された製品もしくはエンド・ユーザによって役立てられたか再検討されたサービスなどを示すことができる。生成された関心プロファイルに基づいて、クライアント・デバイスは、エンド・ユーザを1つまたは複数の事前定義の関心グループに分類する。関心グループは、類似する関心および選択を共有するエンド・ユーザのグループと理解することができる。
そのために、ユーザ・デバイス102は、プロファイル変換モジュール110とクラスタ識別子モジュール112とを含む。プロファイル変換モジュール110は、関心プロファイルを、セマンティック表現と称するコンパクトで意味論的に密な表現に変換するように構成される。セマンティック表現は、限定ではなく例として、タグ・ベースの表現、オントロジ概念ベースの表現、およびトピック・ベースの表現を含む。一実施形態では、完全な関心プロファイルを、プロファイル変換モジュール110によってセマンティック表現に変換することができる。もう1つの実施形態では、以下で関心プロファイル・セグメントと称する関心プロファイルのセグメントを、セマンティック表現に変換することができる。本明細書の説明は、関心プロファイル・セグメントを参照するが、当業者によって理解されるように、この方法およびシステムを、多少の変更は伴うが、完全な関心プロファイルを変換するために実施することができる。
関心プロファイルを変換するために、プロファイル変換モジュール110は、関心プロファイル・セグメントのそれぞれに関するメタデータを取得するために通信チャネル108−1を介してセマンティック・メタデータ・データベース114などのデータベースと相互作用することができる。セマンティック・メタデータ・データベース114は、関心プロファイル・セグメントを対応するセマンティック表現に変換するのに使用することができる意味論的用語のリストを有する辞書と理解することができる。意味論的用語は、その広義の意味または定義に基づいてエンド・ユーザのさまざまな関心分野を識別する用語と理解することができ、したがって、各関心分野の概念に基づいてさまざまな関心プロファイルの効率的で誤りのない照合に使用することができる。関心分野の例は、専門的関心、レジャー・プリファレンス、および宗教プリファレンスなどのコンテキスト的プリファレンスと、音楽、ダンス、eショッピング、およびソーシャル・ネットワーキングなどの関心の領域とを含むが、これに限定されない。たとえば、ソーシャル・ネットワーキング・サイト「xyz.com」の2つの異なるURLに対応する関心プロファイルを、URLが異なるバージョンであり、したがって構文的に異なるにも関らず、意味論的用語「ソーシャル・ネットワーキング・サイト」と照合することができる。セマンティック・メタデータ・データベース114は、ユーザ・デバイス102の外部であるものとして図示されているが、セマンティック・メタデータ・データベース114を、他の実施形態ではユーザ・デバイス102の内部とすることができることを理解されたい。さらに、横の場合に、セマンティック・メタデータ・データベースを、ユーザ・デバイスの間で語彙および用語を交換することによって、ユーザ・デバイスにまたがって一致させることができる。
プロファイル変換モジュール110によってそのように生成されたセマンティック表現を、セマンティック表現のそれぞれにクラスタ識別子を割り当てるためにクラスタ識別子モジュール112に提供することができる。クラスタ識別子は、クラスタすなわちエンド・ユーザを関連付けることができるクラスタ識別子に対応する関心グループを効率的に識別するのに使用できる関心グループ識別符号と理解することができる。クラスタ識別子モジュール112を、クラスタ識別子を割り当てるためにLSHの技法を使用するように構成することができる。LSH技法を、クラスタ識別子モジュール112によって、セマンティック表現のそれぞれを対応するハッシュ符号すなわちクラスタ識別子に変換するのに使用することができる。そのために、クラスタ識別子モジュール112は、ユーザ・デバイス102のそれぞれで生成されるランダム・ベクトルの共通シーケンスなどのランダム値によって定義されるハッシュ関数の集合を利用する。
一実装形態では、ハッシュ関数は、クラスタ識別がすべてのユーザ・デバイス102によって均一に行われることを保証するためにすべてのユーザ・デバイス102によってアクセス可能なランダム・シード・ジェネレータ(この図には図示せず)などの中央エンティティからクラスタ識別子モジュール112によって取得される。もう1つの実装形態では、クラスタ識別子モジュール112を、たとえば中央エンティティから取得されたシード生成関数に基づいてハッシュ関数を生成するように構成することができる。したがって、ユーザ・デバイス102でクラスタ識別子を割り当てることは、関心プロファイルがリモート・ノードと共有されないので、プライバシ保護を提供するのを容易にする。したがって、セマンティック表現を生成することによるプロファイル変換に関連するLSH技法によるクラスタ化の実行は、クラスタ化での誤りの減少と共に、プライバシ保護の提供を容易にする。
このように取得されたクラスタ識別子を、ユーザ・デバイス102すなわちエンド・ユーザのユーザ・プロファイルを1つまたは複数のクラスタにクラスタ化するのに使用することができる。さらに、クラスタ識別子モジュール112は、推奨サービスの提供またはピアツーピア通信に関するクラスタ化など、1つまたは複数のサービスに関して通信チャネル108を介して1つまたは複数のリモート・ノード104にクラスタ識別子を提供する。ユーザ・デバイス102が利用することを望む可能性があるアプリケーションまたは推奨ベースのサービスのタイプに基づいて、ユーザ・デバイス102と通信するリモート・ノード104は、中央アグリゲータおよび関心グループ・アグリゲータの中から変化することができる。代替案では、ユーザ・デバイス102は、お互いと通信することができ、各ユーザ・デバイス102は、他のユーザ・デバイス102のリモート・ノードとして働く。
たとえば、協調フィルタリング・アプリケーションの場合に、リモート・ノードを、中央アグリゲータとすることができ、各中央アグリゲータは、少なくとも1つのクラスタすなわち、映画、ダンス、eショッピング、ソーシャル・ネットワーキング・サイト、およびその組合せなどの関心グループに対応する。その場合のリモート・ノード104は、グループに対応する関心分野だけではなく、クラスタのメンバであるエンド・ユーザの他のトップ・レーティングのすなわち高くランキングされた関心分野にも関する推奨をクラスタの各メンバに提供するように構成される。もう1つの実施形態では、中央アグリゲータとして働くリモート・ノード104を、取り除くことができ、各ユーザ・デバイス102は、関心グループの責任を負う中央アグリゲータとして働く。
同様に、コンテンツベースの推奨アプリケーションの場合に、リモート・ノード104を、1つまたは複数の関心グループ・アグリゲータとして実施することができ、各関心グループ・アグリゲータは、映画、ダンス、eショッピング、ソーシャル・ネットワーキング・サイトなどの少なくとも1つのクラスタに対応する。さらに、ピアツーピア通信を含むアプリケーションでは、リモート・ノード104を、もう1つの他のユーザ・デバイスとすることができる。そのようなアプリケーションでは、ユーザ・デバイス102は、類似するクラスタ識別子を有する他のユーザ・デバイス102を識別するのにクラスタ識別子を使用することができる。
したがって、本主題のシステムおよび方法は、ユーザ・デバイスで関心プロファイルにクラスタ識別子を割り当てることによって、エンド・ユーザにプライバシを提供するのを容易にする。
図2に、本主題の実施形態による、ユーザ・プロファイルのプライバシ保護されたクラスタ化を実施するユーザ・デバイス102のコンポーネントを示す。前記実施形態では、ユーザ・デバイス102は、1つまたは複数のプロセッサ202、I/Oインターフェース204、およびプロセッサ202に結合されたメモリ206を含む。プロセッサ202を、1つまたは複数のマイクロプロセッサ、マイクロコンピュータ、マイクロコントローラ、ディジタル信号プロセッサ、中央処理装置、状態機械、論理回路網、および/または動作命令に基づいて信号を操作する任意のデバイスとして実施することができる。プロセッサ202を、単一の処理ユニットまたは、すべてが複数のコンピューティング・ユニットを含むこともできる複数のユニットとすることができる。他の能力の中でも、プロセッサ202は、メモリ206に格納されたコンピュータ可読命令を取り出し、実行するように構成される。
「プロセッサ」としてラベルを付けられたすべての機能ブロックを含む図面に示されたさまざまな要素の機能を、専用ハードウェアならびに適当なソフトウェアに関連してソフトウェアを実行することのできるハードウェアの使用を介して提供することができる。プロセッサによって提供される時に、単一の専用プロセッサ、単一の共有されるプロセッサ、またはそのうちのいくつかを共有できる複数の個別のプロセッサによって機能を提供することができる。さらに、用語「プロセッサ」の明示的使用は、ソフトウェアを実行できるハードウェアを排他的に指すと解釈されてはならず、限定なしに、暗黙のうちにディジタル信号プロセッサ(DSP)ハードウェア、ネットワーク・プロセッサ、特定用途向け集積回路(ASIC)、フィールド・プログラマブル・ゲート・アレイ(FPGA)、ソフトウェアを格納する読取り専用メモリ(ROM)、ランダム・アクセス・メモリ(RAM)、および不揮発性ストレージを含むことができる。通常のおよび/またはカスタムの他のハードウェアを含めることもできる。
I/Oインターフェース204は、さまざまなソフトウェア・インターフェースおよびハードウェア・インターフェース、たとえば、キーボード、マウス、外部メモリ、プリンタ、その他などの周辺デバイスのインターフェースを含むことができる。さらに、I/Oインターフェース204は、ユーザ・デバイス102が通信ネットワーク106を介して通信することを可能にすることができ、ウェブ・サーバおよび外部データベースなどの他のコンピューティング・デバイスにユーザ・デバイス102を接続するための1つまたは複数のポートを含むことができる。I/Oインターフェース204は、LAN、ケーブル、その他などの有線ネットワークおよびWLAN、セルラ、衛星、その他などの無線ネットワークを含むネットワークなど、さまざまなプロトコルおよびネットワーク内での複数の通信を容易にすることができる。
メモリ206は、たとえばスタティック・ランダム・アクセス・メモリ(SRAM)およびダイナミック・ランダム・アクセス・メモリ(DRAM)などの揮発性メモリならびに/または読取り専用メモリ(ROM)、消去可能プログラム可能ROM、フラッシュ・メモリ、ハード・ディスク、光ディスク、および磁気テープなどの不揮発性メモリを含む、当技術分野で既知の任意のコンピュータ可読媒体を含むことができる。メモリ206は、さらに、モジュール208およびデータ210を含むことができる。モジュール208は、特定のタスクを実行するか特定の抽象データ型を実施する、ルーチン、プログラム、オブジェクト、コンポーネント、データ構造などを含む。データ210は、とりわけ、モジュール208のうちの1つまたは複数によって処理され、受け取られ、生成されるデータを格納するリポジトリとして働く。
モジュール208は、さらに、関心プロファイル生成モジュール212、プロファイル・セグメント化モジュール214、プロファイル変換モジュール110、クラスタ識別子モジュール112、データ転送モジュール216、および他のモジュール218を含む。他のモジュール218は、ユーザ・デバイス102のアプリケーションおよび機能を補足するプログラムまたはコーディングされた命令、たとえば、オペレーティング・システム内のプログラムを含むことができる。
データ210は、プロファイル・データ220、変換されたプロファイル・データ222、クラスタ識別子データ224、および他のデータ226を含む。他のデータ226は、他のモジュール218内の1つまたは複数のモジュールの実行の結果として生成されたデータを含むことができる。
前に説明したように、ユーザ・デバイス102は、ユーザ・プロファイルをクラスタ化するためにクラスタ識別子を計算することによって、エンド・ユーザにプライバシ保護を提供するように構成される。一実施形態では、関心プロファイル生成モジュール212は、プロファイル・データ220に基づいてユーザ・デバイス102のエンド・ユーザの関心プロファイルを生成するように構成される。プロファイル・データ220は、たとえば、エンド・ユーザによって訪問されたウェブサイト、エンド・ユーザによって再生されたかダウンロードされた曲またはビデオ、エンド・ユーザによって使用された製品もしくはエンド・ユーザによって役立てられたか再検討されたサービスなどを示すことができる。たとえば、関心プロファイル生成モジュール212は、エンド・ユーザによって検索されたか見られたすべてのビデオ、エンド・ユーザによって訪問されたすべてのURL、エンド・ユーザによって聞かれ、検索された音楽、およびエンド・ユーザによって探索された他の関心分野に関する類似するデータの詳細を取得することができる。そのように生成された関心プロファイルを、プロファイル・データ220に格納することができる。プロファイル変換モジュール110は、その後、クラスタ識別子を割り当てるために、関心プロファイルをセマンティック表現に変換することができる。前に議論したように、プロファイル変換モジュール110を、完全な関心プロファイルまたは関心プロファイル・セグメントのいずれかをセマンティック表現に変換するように構成することができる。後者の場合に、関心プロファイルは、プロファイル変換モジュール110によって変換される前に、プロファイル・セグメント化モジュール214によってアクセスされ、セグメント化される。
一実施形態では、プロファイル変換モジュール110は、関心プロファイルを複数の関心プロファイル・セグメントにセグメント化するように構成され、各関心プロファイル・セグメントは、特定の関心分野に対応する。一実装形態では、プロファイル変換モジュール110は、関心プロファイルをセグメント化するためにエンド・ユーザの関心プロファイルを分析することができる。プロファイル変換モジュール110は、レジャー・プリファレンスおよび専門的関心などのコンテキスト的プリファレンスまたは音楽、ダンス、eショッピング、およびソーシャル・ネットワーキングなどの関心の明示的な領域のいずれかに基づいて、関心プロファイルを関心プロファイル・セグメントにセグメント化することができる。このように取得された関心プロファイル・セグメントを、プロファイル変換モジュール110に提供することができる。
プロファイル変換モジュール110は、ユーザ・デバイス102の内部または外部とすることができるセマンティック・メタデータ・データベース114内で提供されるメタデータに基づいて、関心プロファイル・セグメントまたは完全な関心プロファイルを対応するセマンティック表現に変換する。一実施形態では、プロファイル変換モジュール110は、関心プロファイル・セグメントをセマンティック・メタデータ・データベース114に提供することができる。セマンティック・メタデータ・データベース114は、その場合に、関心プロファイル・セグメントのそれぞれに対応する意味論的用語を識別し、これを、関心プロファイル・セグメントを対応するセマンティック表現に変換するためにプロファイル変換モジュール110に提供することができる。もう1つの実施形態では、プロファイル変換モジュール110は、セマンティック・メタデータ・データベース114から意味論的用語のリストを取得することができる。プロファイル変換モジュール110を、その場合に、対応するセマンティック表現を取得するために、意味論定期用語のリストから、関心プロファイル・セグメントと一致する意味論的用語を識別するように構成することができる。
もう1つの実施形態では、プロファイル変換モジュール110は、ユーザ・デバイス102のエンド・ユーザによって訪問されたウェブ・ページから抽出されたタグなどのメタデータを使用して、関心プロファイル・セグメントまたは完全な関心プロファイルにタグ付けすることによって、セマンティック表現を生成することができる。そのようなローカルに抽出されたタグを、内部セマンティック・メタデータとしてユーザ・デバイス102の他のデータ226に格納することができる。前記実施形態では、ユーザ・デバイスは、意味論的用語の語彙をお互いと共有するように構成され、その結果、異なるユーザ・デバイスによって生成されたセマンティック表現が、同一の用語を使用して表現され、したがって、比較可能になる。セマンティック・メタデータ・データベースの使用は、偽陰性および偽陽性の発生を減らすのを助け、したがって、クラスタ化の効率を高める。このように取得されたセマンティック表現を、変換されたプロファイル・データ222内に格納し、さらなるクラスタ化のためにセマンティック表現のそれぞれにクラスタ識別子を割り当てるためにクラスタ識別子モジュール112によってアクセスすることができる。
クラスタ識別子モジュール112は、図1で説明したように、エンド・ユーザのプロファイルのクラスタ化を可能にするためにセマンティック表現のそれぞれにクラスタ識別子を割り当てるように構成される。クラスタ識別子モジュール112は、セマンティック表現にクラスタ識別子を割り当てるためにLSH技法を使用する。当業者によって理解されるように、LSH技法では、2つのプロファイルのハッシュ衝突確率が、次式を使用して表されるように2つのプロファイルの間の類似性に比例するので、2つの類似するオブジェクトが、高い確率で同一の値にハッシュ化される。
Pr[h(x)=h(y)]≠sim(x,y)……………(1)
ここで、xおよびyは、2つのプロファイルであり、h()は、LSH関数であり、sim()は、2つのプロファイルの間の類似性尺度である。さらに、LSH技法の機能性を達成するために、類似するハッシュ関数が、LSH技法のためにユーザ・デバイス102によって使用されることが保証される。
クラスタ識別子モジュール112は、クラスタ識別子すなわち類似する関心を有するエンド・ユーザすなわち類似する関心プロファイルを有するエンド・ユーザの関心グループのラベルまたはグループidとしてハッシュ関数によって生成された値を使用するように構成される。そのために、クラスタ識別子モジュール112は、当初に、ランダム・シード・ジェネレータなどの中央エンティティから、ハッシュ関数とも称するランダム・ベクトルの集合を取得する。クラスタ識別子モジュール112は、その後、たとえばLSH技法のコサイン類似性方法を使用する。前記方法では、クラスタ識別子モジュール112は、セマンティック表現とランダム・ベクトルのそれぞれとの間の内積を取得し、セマンティック表現のクラスタ識別子としてハッシュ符号を取得するために内積の符号を連結する。そのように取得されたクラスタ識別子を、クラスタ識別子データ224に格納することができる。本明細書での説明は、LSH技法のコサイン類似性方法を参照するが、当業者によって理解されるように、この方法およびシステムを、LSH技法の他の実装形態を使用して実施することができる。セマンティック表現を生成することによるプロファイル変換に関連するLSH技法によるクラスタ化の実行は、クラスタ化での誤りの減少と共に、プライバシ保護の提供を容易にする。さらに、LSH技法を使用してクラスタ化を実行する前にセマンティック表現を生成することは、リモート・ノード104がクラスタ・メンバに対する線形検索を実行できないことを保証するのを助ける。
データ転送モジュール216は、その後、たとえばサービス・プロバイダから推奨またはコンテンツを受信するために、通信チャネル108を介してリモート・ノード104にクラスタ識別子を送信する。一実装形態では、リモート・ノード104にクラスタ識別子を転送する方法は、クラスタ化が実行されるアプリケーションに依存して変化することができる。たとえば、協調フィルタリング・アプリケーションの場合に、データ転送モジュール216を、リモート・ノードがグループ推奨を提供するためにユーザ・プロファイルを分析することを可能にするために、クラスタ識別子だけではなく、エンド・ユーザの関心プロファイルをもリモート・ノード104に送信するように構成することができる。データ転送モジュール216を、その場合に、関心プロファイルをより小さいプロファイル・スライスにスライスし、通信チャネル108などの異なる匿名通信チャネルを介して独立にリモート・ノード104により小さいプロファイル・スライスのそれぞれを送信するように構成することができる。プロファイル・スライスは、プロファイル・セグメントとは異なって、リモート・ノードがプロファイル・スライスを分析することを可能にするために、セマンティック表現に変換されることなく送信される。匿名通信チャネルを介して異なるスライスとしてユーザ・プロファイルを送信することは、リモート・ノード104が関心プロファイルのスライスに基づいてエンド・ユーザを簡単に識別することができない可能性があるので、プライバシ保護を保証する。協調フィルタリング・アプリケーションのもう1つの実施形態では、リモート・ノード104を置換することができ、各ユーザ・デバイス(102)を、関心グループの責任を負う中央アグリゲータとして働くように構成することができる。
さらに、コンテンツベースの推奨アプリケーションの場合に、データ転送モジュール216を、サービス・プロバイダによって提供される推奨サービスまたは分析サービスを利用するためにリモート・ノード104にクラスタ識別子およびセマンティック表現を送信するように構成することができる。ピアツーピア通信の場合と同様に、データ転送モジュール216を、ユーザ・デバイス102の間でのチャットおよびデータの交換を可能にするために、類似するクラスタ識別子を有する他のユーザ・デバイス102を識別するように構成することができる。他のユーザ・デバイス102を識別する際に、データ転送モジュール216を、他のユーザ・デバイスの間で匿名メッセージング・チャネルおよび匿名チャット・チャネルまたは匿名検索ブロードキャスト・チャネルを送信確立するように構成することができる。アプリケーションのそれぞれでのデータ転送モジュール216の働きを、図3(a)、3(b)、および3(c)でアプリケーションを説明しながらより詳細に説明する。
図3(a)、3(b)、および3(c)に、それぞれ、本主題の実施形態による、ユーザ・プロファイルのプライバシ保護されたクラスタ化を実施するさまざまなアプリケーションの例示的なネットワーク環境実装形態300、302、および304を示す。
図3(a)に、クラスタのメンバにグループ推奨を提供する協調フィルタリング・アプリケーションのユーザ・プロファイルのプライバシ保護されたクラスタ化を実施するネットワーク環境300を示す。協調フィルタリング・アプリケーションの前記実施形態では、リモート・ノード104は、映画、ダンス、eショッピング、ソーシャル・ネットワーキング・サイトなどの少なくとも1つのクラスタに対応する中央アグリゲータとして実施される。したがって、ユーザ・デバイス102は、対応する関心グループ内の関心グループの関心分野の後に最高ランキングのすなわちトップ・ランクの関心分野を中央アグリゲータが識別することを可能にするために、エンド・ユーザの関心プロファイルと一緒に対応する中央アグリゲータにクラスタ識別子のそれぞれを提供することができる。
一実施形態では、データ転送モジュール216は、リモート・ノード104によって受信されるさまざまなプロファイル・セグメントの間のアンリンカビリティ(unlinkability)を保証するために、関心プロファイルをさまざまな通信チャネル108を介して通信され得るより小さい独立のスライスにスライス化するように構成される。アンリンカビリティの提供は、リモート・ノード104が、異なるプロファイル・セグメントが同一のユーザまたは異なるユーザに属するかどうかを識別することができないことを保証する。データ転送モジュール216は、エンド・ユーザの関心プロファイルのスライス自体が、完全な関心プロファイルを構成し、エンド・ユーザのアイデンティティを推論するのに使用できる十分なプロファイル情報を含まないことを保証する。もう1つの実施形態では、関心プロファイル全体を、単一のスライスとしてリモート・ノード104に送信することができる。
さらに、関心プロファイル・スライスおよびクラスタ識別子のそれぞれは、匿名性を保証する機構を使用するネットワーク、たとえばオニオン・ルーティングを実施するネットワーク上の匿名通信チャネルを介してデータ転送モジュール216によって送信される。一実装形態では、オニオンルーティング・パスが確立され、ここで、データ転送モジュール216は、オニオンルーティング・パスの出口ノードの公開鍵を用いて、エンド・ユーザに関するプロファイル情報のスライスおよびクラスタ識別子を暗号化する。エンド・ユーザに関するプロファイル情報のさまざまなスライスおよびクラスタ識別子は、出口ノードに達する前に、1つまたは複数の中間ノードを介して送信される。出口ノードは、情報を暗号化解除し、これをリモート・ノード104に送信する。
さらに、ユーザ・プライバシを保証するために、データ転送モジュール216を、エンド・ユーザのアイデンティティをリモート・ノード104に明らかにする可能性があるURLなど、個人的に識別可能な情報を有するすべてのデータを関心プロファイルから除去するように構成することができる。
エンド・ユーザの関心プロファイルおよびクラスタ識別子を受信した時に、リモート・ノード104は、リモート・ノード104に対応するクラスタ内にクラスタ化されたエンド・ユーザの最高のまたは1つもしくは複数の高くランキングされた関心を判定するために関心プロファイルを分析する。たとえば、関心グループ「ソーシャル・ネットワーキング」の責任を負うリモート・ノード104は、クラスタ「ソーシャル・ネットワーキング」に対応するクラスタ識別子を有するすべてのユーザ・デバイスの関心プロファイルを受信することができる。リモート・ノード104は、その後、高くランキングされた他の関心を識別するためにユーザ・デバイス102のユーザ・プロファイルを分析することができる。たとえば「ニュース」を最高ランキングの関心として識別する時に、リモート・ノード104は、関心分野「ニュース」の責任を負う中央アグリゲータから「ニュース」に対応する推奨を取得することができる。したがって、リモート・ノード104は、ソーシャル・ネットワーキングならびにニュースに関するコンテンツおよび推奨を、クラスタ「ソーシャル・ネットワーキング」に対応するクラスタ内に存在するすべてのユーザ・デバイス102に提供することができる。
協調フィルタリング・アプリケーションのもう1つの実施形態では、中央アグリゲータとして働くリモート・ノード104を除去することができ、各ユーザ・デバイス102は、関心グループの責任を負う中央アグリゲータとして働く。そのために、データ転送モジュール216は、エンド・ユーザの関心グループの中央アグリゲータ・ノードの少なくとも部分的イメージを維持するように構成される。前記実施形態では、類似する関心プロファイルを有するエンド・ユーザを、当業者に既知のように、従来のゴシップ・ベースのランダム・ピアリング・プロトコルに基づいて識別することができる。したがって、データ転送モジュール216を、類似するクラスタ識別子すなわち類似する関心グループを有するエンド・ユーザを識別するために、すべてのユーザ・デバイス102のクラスタ識別子を送信し、受信するように構成することができる。
図3(b)に、コンテンツベースの推奨アプリケーションに関するユーザ・プロファイルのプライバシ保護されたクラスタ化を実施するネットワーク環境302を示す。前記実施形態では、リモート・ノード104は、1つまたは複数の関心グループ・アグリゲータとして実施され、各関心グループ・アグリゲータは、映画、ダンス、eショッピング、ソーシャル・ネットワーキング・サイトなど、少なくとも1つのクラスタに対応する。
データ転送モジュール216は、その場合に、通信チャネル108などの匿名通信チャネルを介してリモート・ノード104にクラスタ識別子およびセマンティック表現を送信するように構成される。そのために、データ転送モジュール216は、オニオンルーティング・パスを確立し、データ転送モジュール216は、図3(a)で説明したように、エンド・ユーザに関するクラスタ識別子をオニオンルーティング・パスの出口ノードの公開鍵を用いて暗号化する。リモート・ノード104は、その場合に、周知のコンテンツ照合技法のいずれかを使用してクラスタ識別子を関心分野のリストと照合することによって、クラスタ識別子によって表される関心分野に関する推奨またはコンテンツを選択するように構成される。たとえば、エンド・ユーザ、たとえばユーザAが、関心分野「書籍」を有するクラスタに属する場合に、サービス・プロバイダは、最新のベスト・セラーのリストをユーザAに提供することができる。
図3(c)に、ピアツーピア通信に関するアプリケーションに関してユーザ・プロファイルのプライバシ保護されたクラスタ化を実施するネットワーク環境304を示す。前記実施形態では、ユーザ・デバイス102が、プライバシ保護された環境内でお互いと相互作用するためにクラスタ化を使用するので、リモート・ノード104は除去される。そのようなアプリケーションでは、ユーザ・デバイス102は、類似するクラスタ識別子を有する他のユーザ・デバイス102を識別するのにクラスタ識別子を使用することができる。データ転送モジュール216は、その場合に、他のユーザ・デバイス102に通信チャネル108などの匿名通信チャネルを介してクラスタ識別子を送信するように構成される。データ転送モジュール216は、クラスタ識別子を送信し、類似するクラスタ識別子を有するユーザ・デバイス102を識別するのに、ゴシップ・ベースのランダム・ピアリング・プロトコルを使用する。共通のクラスタ識別子を有するユーザ・デバイス102は、その後、そのアイデンティティまたは個人情報を明らかにせずにユーザ・デバイスの間でのチャットおよびデータの交換を可能にするために、たとえばTORなどのオニオン・ルーティング・フレームワークを使用して、お互いに匿名で接続することができる。
図4に、本主題の実施形態による、エンド・ユーザにプライバシ保護を提供するためのユーザ・プロファイルのプライバシ保護されたクラスタ化の方法を示す。この方法が説明される順序は、限定として解釈されることを意図されたものではなく、任意の個数の説明される方法ブロックを任意の順序で組み合わせて、方法400または任意の代替方法を実施することができる。さらに、本明細書で説明される主題の趣旨および範囲から逸脱せずに、個々のブロックをこの方法から削除することができる。さらに、この方法を、任意の適切なハードウェア、ソフトウェア、ファームウェア、またはその組合せで実施することができる。
方法を、コンピュータ実行可能命令の全般的な文脈で説明することができる。一般に、コンピュータ実行可能命令は、特定の機能を実行するか特定の抽象データ型を実施するルーチン、プログラム、オブジェクト、コンポーネント、データ構造、手続き、モジュール、関数などを含むことができる。この方法を、機能が通信ネットワークを介してリンクされたリモート処理デバイスによって実行される分散コンピューティング環境で実践することもできる。分散コンピューティング環境では、コンピュータ実行可能命令を、メモリ・ストレージ・デバイスを含む、ローカルとリモートとの両方のコンピュータ記憶媒体内に配置することができる。
当業者は、この方法のステップを、プログラムされたコンピュータによって実行できることをたやすく了解する。本明細書では、いくつかの実施形態は、プログラム記憶デバイス、たとえば、機械可読またはコンピュータ可読であり、命令の機械実行可能またはコンピュータ実行可能なプログラムを符号化するディジタル・データ記憶媒体を包含することも意図され、前記命令は、説明される方法のステップの一部またはすべてを実行する。プログラム記憶デバイスは、たとえば、ディジタル・メモリ、磁気ディスクまたは磁気テープなどの磁気記憶媒体、ハード・ドライブ、または光学的に可読のディジタル・データ記憶媒体とすることができる。実施形態は、例示的な方法の前記ステップを実行するように構成された通信ネットワークと通信デバイスとの両方を包含することも意図されている。
ブロック402では、エンド・ユーザに対応するプロファイル・データが、ユーザ・デバイス、たとえばユーザ・デバイス102によって取得される。一実装形態では、プロファイル・データを、エンド・ユーザによって訪問されたウェブサイト、エンド・ユーザによって再生されたかダウンロードされた曲またはビデオ、エンド・ユーザによって使用された製品もしくはエンド・ユーザによって役立てられたか再検討されたサービスなどに基づいて取得することができる。関心プロファイル生成モジュール、たとえば関心プロファイル生成モジュール212を、エンド・ユーザによって検索されたか見られたすべてのビデオ、エンド・ユーザによって訪問されたすべてのURL、エンド・ユーザによって行われたすべての照会、およびエンド・ユーザによって探索された他の関心分野に関する類似するデータの詳細を取得するように構成することができる。そのように生成された関心プロファイルを、プロファイル・データとして格納することができる。
ブロック404では、プロファイル・データが、1つまたは複数の関心プロファイル・セグメントにセグメント化される。一実装形態では、プロファイル・セグメント化モジュール214などのプロファイル・セグメント化モジュールが、関心プロファイルを、関心プロファイル・セグメントと称される複数のセグメントにセグメント化するように構成される。関心プロファイル・セグメントは、各セグメントが特定の関心分野に対応する、関心プロファイルの独立のセグメントと理解することができる。関心分野の例は、専門的関心、レジャー・プリファレンス、および宗教プリファレンスなどのコンテキスト的プリファレンスと、音楽、ダンス、eショッピング、およびソーシャル・ネットワーキングなどの関心の領域とを含むが、これに限定されない。関心プロファイル・セグメントのそれぞれは、その後、クラスタ化のためにクラスタ識別子を取得するために独立に処理される。さらに、もう1つの実施形態では、関心プロファイル全体を、クラスタ化のために単一の関心プロファイル・セグメントとして提供することができる。
ブロック406では、関心プロファイル・セグメントのそれぞれに対応する意味論的用語が、セマンティック・メタデータ・データベースとの相互作用に基づいて突き止められる。一実装形態では、プロファイル変換モジュール110などのプロファイル変換モジュールを、匿名通信チャネルを介してセマンティック・メタデータ・データベースに関心プロファイル・セグメントを提供するように構成することができる。関心プロファイル・セグメントの受信時に、セマンティック・メタデータ・データベースは、意味論的用語のリストから、関心プロファイル・セグメントのそれぞれに対応する意味論的用語を識別する。代替案では、プロファイル変換モジュール110が、ユーザ・デバイス102のエンド・ユーザによって訪問されたウェブ・ページから抽出されたタグなどのデータを使用して投入されたユーザ・デバイス102の内部セマンティック・メタデータと相互作用することができる。前記実施形態では、ユーザ・デバイス102は、すべてのユーザ・デバイス102によって生成使用された意味論的用語にまたがって均一性を維持するために、お互いと意味論的用語の語彙を共有するように構成される。
ブロック408では、関心プロファイル・セグメントが、意味論的用語に基づいて対応するセマンティック表現を生成するために変換される。たとえば、プロファイル変換モジュール110などのプロファイル変換モジュールは、たとえば関心プロファイル・セグメントのそれぞれに、セマンティック・メタデータ・データベースから取得された対応するセマンティック表現を用いてタグ付けすることによって、関心プロファイル・セグメントを変換するように構成される。関心プロファイル・セグメントを、その代わりに、オントロジ概念ベースのセマンティック表現またはトピック・ベースのセマンティック表現に変換することができる。このように取得されたセマンティック表現を、変換されたプロファイル・データ222に保存することができる。
ブロック410では、クラスタ識別子を、LSH技法を使用してセマンティック表現に割り当てる。一実装形態では、ランダム・ベクトルの共通シーケンスなどのランダム値の集合によって定義されるハッシュ関数が、クラスタ識別子の割当に使用される。たとえば、クラスタ識別子モジュール112などのクラスタ識別モジュールが、均一なクラスタ識別を保証するためにユーザ・デバイスによってアクセス可能なランダム・シード・ジェネレータなどの中央エンティティからハッシュ関数を取得することができる。したがって、セマンティック表現の共通の集合を使用するプロファイル変換に関連するLSH技法によるクラスタ化の実行は、クラスタ化での誤りの減少と共に、プライバシ保護の提供を容易にする。
ブロック412では、関心プロファイル・セグメントのそれぞれに対応するクラスタ識別子が、クラスタ識別子に基づくユーザ関心プロファイルのクラスタ化のためにリモート・ノードに提供される。一実装形態では、リモート・ノードを、中央エンティティとすることができ、リモート・ノードは、クラスタ化がそれに関して実行されつつあるアプリケーションのタイプに応じて、中央アグリゲータ・ノードから関心アグリゲータ・ノードに変化することができる。たとえば、コンテンツベースの推奨アプリケーションの場合に、リモート・ノードを関心グループ・アグリゲータとして実施することができる。ユーザ・デバイスは、その場合に、匿名通信チャネルを介して、クラスタ識別子およびセマンティック表現のそれぞれを、クラスタ識別子に対応する関心グループ・アグリゲータに送信するように構成される。
同様に、協調フィルタリング・アプリケーションの場合に、リモート・ノードを、グループに対応する関心分野だけではなく、クラスタのエンド・ユーザの他の高くランキングされた関心分野にも関する推奨をクラスタの各メンバに提供するように構成された中央アグリゲータとして実施することができる。ユーザ・デバイスは、その場合に、クラスタ識別子に対応する関心グループ・アグリゲータに対してユーザ・デバイスを使用可能にするためにエンド・ユーザの関心プロファイルのスライスと一緒にクラスタ識別子のそれぞれを匿名通信チャネルを介して送信するように構成される。もう1つの実施形態では、ユーザ・デバイスは、ユーザ・デバイスのそれぞれが他のユーザ・デバイスのリモート・ノードまたは関心グループの責任を負う中央アグリゲータのいずれかとして働くように、他のユーザ・デバイスと相互作用することができる。
通信ネットワークでのユーザ関心プロファイルのプライバシ保護されたクラスタ化の方法およびシステムの実施形態を、構造的特徴および/または方法に固有の言葉で説明したが、本発明が、必ずしも説明された特定の特徴または方法に限定されないことを理解されたい。そうではなく、特定の特徴および方法は、ユーザ関心プロファイルのプライバシ保護されたクラスタ化を提供する例示的実施形態として開示されるものである。

Claims (15)

  1. エンド・ユーザの関心プロファイルに基づいて少なくとも1つの関心プロファイル・セグメントを生成するステップと、
    前記エンド・ユーザのユーザ・デバイスに通信可能に結合されたセマンティック・メタデータ・データベースとの相互作用に基づいて、前記少なくとも1つの関心プロファイル・セグメントに対応する意味論的用語を取得するステップであって、前記意味論的用語は、前記セマンティック・メタデータ・データベース内で提供される1つまたは複数の意味論的用語の中から取得される、ステップと、
    前記意味論的用語に基づいて、前記少なくとも1つの関心プロファイル・セグメントのそれぞれを少なくとも1つのセマンティック表現に変換するステップと、
    前記少なくとも1つのセマンティック表現に基づいて前記少なくとも1つの関心プロファイル・セグメントのそれぞれにクラスタ識別子を割り当てるステップであって、前記クラスタ識別子は、局所性鋭敏型ハッシュ(LSH)技法を使用して生成される、ステップと
    を含む、エンド・ユーザの関心プロファイルのプライバシ保護されたクラスタ化の方法。
  2. 前記少なくとも1つの関心プロファイル・セグメント、および前記少なくとも1つの関心プロファイル・セグメントのそれぞれに対応する前記クラスタ識別子をリモート・ノードに提供するステップをさらに含み、前記リモート・ノードは、前記クラスタ識別子に関連する関心グループの関心グループ・アグリゲータとして働くように構成され、前記クラスタ識別子は、匿名通信チャネルを介して提供される、請求項1に記載の方法。
  3. リモート・ノードとの複数の匿名通信チャネルを確立するステップと、
    前記関心プロファイルを1つまたは複数のプロファイル・スライスにスライス化するステップと、
    前記クラスタ識別子、および前記1つまたは複数のプロファイル・スライスのそれぞれを前記複数の匿名通信チャネルを介して前記リモート・ノードに送信するステップであって、前記1つまたは複数のプロファイル・スライスのそれぞれは、別々の匿名通信チャネルを介して送信される、ステップと
    をさらに含む、請求項1に記載の方法。
  4. 前記エンド・ユーザの個人的に識別可能な情報を前記関心プロファイルから除去するステップをさらに含む、請求項3に記載の方法。
  5. 複数の匿名通信チャネルを介して前記クラスタ識別子を送信するステップと、
    前記複数の匿名通信チャネルを介して他のユーザ・デバイスのクラスタ識別子を受信するステップと、
    送信する前記ステップおよび受信する前記ステップに基づいて、前記エンド・ユーザの前記クラスタ識別子に類似するクラスタ識別子を有する前記他のユーザ・デバイスを識別するステップと、
    前記エンド・ユーザの前記ユーザ・デバイスと前記他のユーザ・デバイスとの間での前記匿名通信チャネルを介するデータの交換を可能にするステップと
    をさらに含む、請求項1に記載の方法。
  6. 割り当てる前記ステップは、
    前記少なくとも1つの関心プロファイル・セグメントのそれぞれとハッシュ関数の集合との間の内積を取得するステップと、
    前記少なくとも1つの関心プロファイル・セグメントに対応する前記クラスタ識別子としてハッシュ符号を取得するために前記内積の符号を連結するステップと
    をさらに含む、請求項1乃至5のいずれか1項に記載の方法。
  7. 変換する前記ステップは、前記少なくとも1つのセマンティック表現を取得するために前記意味論的用語に基づいて前記少なくとも1つの関心プロファイル・セグメントのそれぞれにタグ付けするステップをさらに含む、請求項1乃至6のいずれか1項に記載の方法。
  8. プロセッサ(202)と、
    前記プロセッサ(202)に結合されたメモリ(206)とを含み、前記メモリ(206)は、
    ユーザ・デバイス(102)に結合されたセマンティック・メタデータ・データベース(114)との相互作用に基づいて、少なくとも1つの関心プロファイル・セグメントに対応する意味論的用語を取得することであって、前記意味論的用語は、前記セマンティック・メタデータ・データベース(114)内で提供される1つまたは複数の意味論的用語の中から取得される、取得することと、
    前記少なくとも1つの関心プロファイル・セグメントのそれぞれを少なくとも1つのセマンティック表現に変換することと
    を行うように構成されたプロファイル変換モジュール(110)と、
    前記少なくとも1つのセマンティック表現に基づいて前記少なくとも1つの関心プロファイル・セグメントのそれぞれにクラスタ識別子を割り当てるように構成されたクラスタ識別子モジュール(112)であって、前記クラスタ識別子は、局所性鋭敏型ハッシュ(LSH)技法を使用して生成される、クラスタ識別子モジュール(112)と
    を含む、ユーザ・デバイス(102)。
  9. 前記ユーザ・デバイス(102)に関連するエンド・ユーザのプロファイル・データに基づいて、前記エンド・ユーザの関心プロファイルを生成するように構成された関心プロファイル生成モジュール(212)と、
    前記関心プロファイルを前記少なくとも1つの関心プロファイル・セグメントにセグメント化するように構成されたプロファイル・セグメント化モジュール(214)と
    をさらに含む、請求項8に記載のユーザ・デバイス(102)。
  10. 前記クラスタ識別子に関連する関心グループの関心グループ・アグリゲータとして働くように構成されたリモート・ノード(104)との匿名通信チャネル(108)を確立することと、
    前記少なくとも1つの関心プロファイル・セグメント、および前記少なくとも1つの関心プロファイル・セグメントのそれぞれに対応する前記クラスタ識別子を前記リモート・ノード(104)に提供することであって、前記クラスタ識別子は、前記匿名通信チャネル(108)を介して提供される、提供することと
    を行うように構成されたデータ転送モジュール(216)をさらに含む、請求項8または9に記載のユーザ・デバイス(102)。
  11. リモート・ノード(104)との複数の匿名通信チャネル(108)を確立し、
    前記関心プロファイルから前記エンド・ユーザの個人的に識別可能な情報を除去し、
    前記エンド・ユーザの前記クラスタ識別子および前記関心プロファイルを前記複数の匿名通信チャネル(108)を介して前記リモート・ノード(104)に送信する
    ように構成されたデータ転送モジュール(216)をさらに含む、請求項8または9に記載のユーザ・デバイス(102)。
  12. 前記関心プロファイルを1つまたは複数のプロファイル・スライスにスライス化することと、
    前記クラスタ識別子、および前記1つまたは複数のプロファイル・スライスのそれぞれを複数の匿名通信チャネル(108)を介してリモート・ノード(104)に送信することであって、前記1つまたは複数のプロファイル・スライスのそれぞれは、別々の匿名通信チャネル(108)を介して送信される、送信することと
    を行うように構成されたデータ転送モジュール(216)をさらに含む、請求項8または9に記載のユーザ・デバイス(102)。
  13. 複数の匿名通信チャネル(108)を介して前記クラスタ識別子を送信し、
    前記複数の匿名通信チャネル(108)を介して他のユーザ・デバイスのクラスタ識別子を受信し、
    前記送信および前記受信に基づいて前記エンド・ユーザの前記クラスタ識別子に類似するクラスタ識別子を有する前記他のユーザ・デバイスを識別し、
    前記匿名通信チャネル(108)を介する前記他のユーザ・デバイスとのデータの交換を可能にする
    ように構成されたデータ転送モジュール(216)をさらに含む、請求項8または9に記載のユーザ・デバイス(102)。
  14. 前記ユーザ・デバイス(102)のエンド・ユーザの関心グループの中央アグリゲータ・ノードの少なくとも部分的イメージを取得し、
    複数の匿名通信チャネル(108)を介して前記クラスタ識別子を他のユーザ・デバイスと交換し、
    前記複数の匿名通信チャネル(108)を介して受信された前記他のユーザ・デバイスのクラスタ識別子に基づいて、前記エンド・ユーザの前記クラスタ識別子に類似するクラスタ識別子を有する前記他のユーザ・デバイスを識別し、
    前記クラスタ識別子に基づいて識別された前記他のユーザ・デバイスに、前記匿名通信チャネル(108)を介して推奨サービスを提供する
    ように構成されたデータ転送モジュール(216)をさらに含む、請求項8または9に記載のユーザ・デバイス(102)。
  15. エンド・ユーザの関心プロファイルに基づいて少なくとも1つの関心プロファイル・セグメントを生成するステップと、
    前記エンド・ユーザのユーザ・デバイスに結合されたセマンティック・メタデータ・データベースとの相互作用に基づいて、前記少なくとも1つの関心プロファイル・セグメントに対応する意味論的用語を取得するステップであって、前記意味論的用語は、前記セマンティック・メタデータ・データベース内で提供される1つまたは複数の意味論的用語の中から取得される、ステップと、
    前記少なくとも1つの関心プロファイル・セグメントのそれぞれを少なくとも1つのセマンティック表現に変換するステップと、
    前記少なくとも1つのセマンティック表現に基づいて前記少なくとも1つの関心プロファイル・セグメントのそれぞれにクラスタ識別子を割り当てるステップであって、前記クラスタ識別子は、局所性鋭敏型ハッシュ(LSH)技法を使用して生成される、ステップと
    を含む、エンド・ユーザの関心プロファイルのプライバシ保護されたクラスタ化の方法を実行するコンピュータ・プログラムがその上で実施されたコンピュータ可読媒体。
JP2015521987A 2012-07-16 2013-07-03 ユーザ関心プロファイルのプライバシ保護されたクラスタ化のシステムおよび方法 Expired - Fee Related JP5997379B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP12290234.9A EP2688264B1 (en) 2012-07-16 2012-07-16 Method and apparatus for privacy protected clustering of user interest profiles
EP12290234.9 2012-07-16
PCT/EP2013/001958 WO2014012627A1 (en) 2012-07-16 2013-07-03 Method and apparatus for privacy protected clustering of user interest profiles

Publications (2)

Publication Number Publication Date
JP2015532737A true JP2015532737A (ja) 2015-11-12
JP5997379B2 JP5997379B2 (ja) 2016-09-28

Family

ID=49162104

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015521987A Expired - Fee Related JP5997379B2 (ja) 2012-07-16 2013-07-03 ユーザ関心プロファイルのプライバシ保護されたクラスタ化のシステムおよび方法

Country Status (7)

Country Link
US (1) US9430671B2 (ja)
EP (1) EP2688264B1 (ja)
JP (1) JP5997379B2 (ja)
KR (1) KR101620881B1 (ja)
CN (1) CN104604200B (ja)
IN (1) IN2015DN00354A (ja)
WO (1) WO2014012627A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022123795A1 (ja) 2020-12-11 2022-06-16 株式会社野村総合研究所 サービス提供システム
JP7397212B2 (ja) 2021-01-10 2023-12-12 グーグル エルエルシー コンテンツ配信における情報に対するアクセスを保護するためのセキュアなmpcおよびベクトル計算の使用
JP7422892B2 (ja) 2021-04-09 2024-01-26 グーグル エルエルシー 分類の正確さを改善するための機械学習モデリングデータの処理
JP7440667B2 (ja) 2021-03-08 2024-02-28 グーグル エルエルシー セキュアマルチパーティ計算を使用したフレキシブルなコンテンツ選択プロセス

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160323248A1 (en) * 2013-12-31 2016-11-03 Interdigital Patent Holdings Inc. Methods, apparatus, systems and mechanisms for secure attribute based friend find and proximity discovery
US20150235334A1 (en) * 2014-02-20 2015-08-20 Palantir Technologies Inc. Healthcare fraud sharing system
US9009827B1 (en) 2014-02-20 2015-04-14 Palantir Technologies Inc. Security sharing system
US20150278909A1 (en) * 2014-03-27 2015-10-01 Yahoo! Inc. Techniques for improving diversity and privacy in connection with use of recommendation systems
US10572496B1 (en) 2014-07-03 2020-02-25 Palantir Technologies Inc. Distributed workflow system and database with access controls for city resiliency
US20160094866A1 (en) * 2014-09-29 2016-03-31 Amazon Technologies, Inc. User interaction analysis module
US11290783B2 (en) * 2015-03-17 2022-03-29 Comcast Cable Communications, Llc Real-time recommendations for altering content output
JP6043840B1 (ja) * 2015-07-08 2016-12-14 ヤフー株式会社 分類装置、分類方法、及び分類プログラム
CN105574430B (zh) * 2015-12-02 2018-04-06 西安邮电大学 协同过滤推荐系统中一种新型的隐私保护方法
US11115785B2 (en) 2016-01-14 2021-09-07 Motorola Solutions, Inc. Managing communication groups based on objects in image feeds
CN106650487B (zh) * 2016-09-29 2019-04-26 广西师范大学 基于多维敏感数据发布的多部图隐私保护方法
US10547592B2 (en) * 2017-01-19 2020-01-28 Hewlett Packard Enterprise Development Lp Computing a global sum that preserves privacy of parties in a multi-party environment
US10769306B2 (en) * 2017-09-21 2020-09-08 International Business Machines Corporation Applying a differential privacy operation on a cluster of data
CN108509806B (zh) * 2018-04-09 2022-03-11 北京东方网润科技有限公司 一种具有隐私保护的大数据精准营销系统及设备
US10810324B2 (en) 2018-04-20 2020-10-20 At&T Intellectual Property I, L.P. Methods, systems and algorithms for providing anonymization
JP6700337B2 (ja) * 2018-05-30 2020-05-27 日本電信電話株式会社 保護装置及び保護方法
US11379932B2 (en) * 2018-07-17 2022-07-05 At&T Intellectual Property I, L.P. Social watchlist
SE543586C2 (en) * 2018-09-07 2021-04-06 Indivd Ab System and method for handling anonymous biometric and/or behavioural data
EP3881318B1 (en) * 2018-11-14 2024-01-03 Hewlett-Packard Development Company, L.P. Contents based on policy permissions
US11102534B2 (en) * 2018-11-29 2021-08-24 Microsoft Technology Licensing, Llc Content item similarity detection
CN109981244B (zh) * 2019-03-08 2021-10-01 西安电子科技大学 一种分布式云加密算法的实现方法
US10929498B2 (en) * 2019-04-02 2021-02-23 International Business Machines Corporation Identifying and storing relevant user content in a collection accessible to user in website subscribed to service
CN110276204B (zh) * 2019-05-22 2022-05-13 湖北工业大学 一种隐私保护下的球员配置方法
CN110795638A (zh) * 2019-11-13 2020-02-14 北京百度网讯科技有限公司 用于输出信息的方法和装置
CN111885079B (zh) * 2020-07-31 2022-04-12 支付宝(杭州)信息技术有限公司 保护数据隐私的多方联合处理数据的方法及装置
JP7354427B2 (ja) * 2020-08-14 2023-10-02 グーグル エルエルシー オンラインプライバシー保護技法
KR102570616B1 (ko) * 2021-07-15 2023-08-23 주식회사 카카오 단말에서 비식별키를 생성하는 방법, 그리고 이를 구현한 서버 및 단말

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009505290A (ja) * 2005-08-15 2009-02-05 グーグル・インコーポレーテッド 集合の類似性に基づく拡張性に富むユーザクラスタリング
JP2010067175A (ja) * 2008-09-12 2010-03-25 Toshiba Corp ハイブリッド型コンテンツ推薦サーバ、推薦システムおよび推薦方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6134597A (en) 1997-05-28 2000-10-17 International Business Machines Corporation CRC hash compressed server object identifier
WO2002001378A1 (en) * 2000-06-23 2002-01-03 Decis E-Direct, Inc. Component models
US7216179B2 (en) * 2000-08-16 2007-05-08 Semandex Networks Inc. High-performance addressing and routing of data packets with semantically descriptive labels in a computer network
US7797265B2 (en) 2007-02-26 2010-09-14 Siemens Corporation Document clustering that applies a locality sensitive hashing function to a feature vector to obtain a limited set of candidate clusters
EP2702747A1 (en) * 2011-04-25 2014-03-05 Alcatel-Lucent Privacy protection in recommendation services
CN102609441B (zh) * 2011-12-27 2014-06-25 中国科学院计算技术研究所 基于分布熵的局部敏感哈希高维索引方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009505290A (ja) * 2005-08-15 2009-02-05 グーグル・インコーポレーテッド 集合の類似性に基づく拡張性に富むユーザクラスタリング
JP2010067175A (ja) * 2008-09-12 2010-03-25 Toshiba Corp ハイブリッド型コンテンツ推薦サーバ、推薦システムおよび推薦方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022123795A1 (ja) 2020-12-11 2022-06-16 株式会社野村総合研究所 サービス提供システム
JP7397212B2 (ja) 2021-01-10 2023-12-12 グーグル エルエルシー コンテンツ配信における情報に対するアクセスを保護するためのセキュアなmpcおよびベクトル計算の使用
JP7440667B2 (ja) 2021-03-08 2024-02-28 グーグル エルエルシー セキュアマルチパーティ計算を使用したフレキシブルなコンテンツ選択プロセス
JP7422892B2 (ja) 2021-04-09 2024-01-26 グーグル エルエルシー 分類の正確さを改善するための機械学習モデリングデータの処理

Also Published As

Publication number Publication date
EP2688264A1 (en) 2014-01-22
CN104604200B (zh) 2017-12-08
IN2015DN00354A (ja) 2015-06-12
US9430671B2 (en) 2016-08-30
KR101620881B1 (ko) 2016-05-13
JP5997379B2 (ja) 2016-09-28
EP2688264B1 (en) 2016-08-24
US20150135329A1 (en) 2015-05-14
KR20150036624A (ko) 2015-04-07
WO2014012627A1 (en) 2014-01-23
CN104604200A (zh) 2015-05-06

Similar Documents

Publication Publication Date Title
JP5997379B2 (ja) ユーザ関心プロファイルのプライバシ保護されたクラスタ化のシステムおよび方法
JP6009065B2 (ja) 推奨サービスのためのプライバシ保護システムのアーキテクチャ
US20140223575A1 (en) Privacy protection in recommendation services
US10225238B2 (en) Data security for content delivery networks
US20230188507A1 (en) Domain specific browser identifiers as replacement of browser cookies
US20160127289A1 (en) Operating a match cooperative without handling personally identifiable information
US10615965B1 (en) Protected search index
EP2725538B1 (en) Privacy protected dynamic clustering of end users
Pitchai et al. Searchable encrypted data file sharing method using public cloud service for secure storage in cloud computing
Nandi et al. P3: A privacy preserving personalization middleware for recommendation-based services
Aghasaryan et al. On the use of LSH for privacy preserving personalization
EP2746983A1 (en) Privacy preserving computation of popular trends for group-based recommendation services
US11968297B2 (en) Online privacy preserving techniques
CN114666315B (zh) 负载均衡设备的http请求处理方法及装置
Rajagopalan et al. Zero Knowledge and Oblivious Ads Recommendation
JP6543472B2 (ja) データ符号化装置、データ符号化方法、及びプログラム
Senthiselvan et al. SECURE DEDUP WITH ENCRYPTED DATA
Nelaturu Content Management and Hashtag Recommendation in a P2P Social Networking Application

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160322

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160318

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160621

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160728

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160825

R150 Certificate of patent or registration of utility model

Ref document number: 5997379

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees