JP2021044696A - 秘匿演算装置、秘匿演算方法及び秘匿演算プログラム - Google Patents

Abstract

【課題】本開示は、スパースコーディングの秘匿演算を可能にすることを目的とする。【解決手段】本開示は、Ｋ個（Ｋ＞Ｍ）の基底を要素とするＭ×Ｋ行列である秘匿辞書行列Ｄ＾を格納する秘匿辞書記憶部２２と、Ｍ次元のベクトルである観測信号ｙがランダムユニタリ行列ＱＰを用いて秘匿化された秘匿観測信号ｙ＾を取得し、秘匿辞書記憶部２２から秘匿辞書行列Ｄ＾を読み出し、ｙ＾＝Ｄ＾ｘの関係を用いてＫ次元のベクトルであるスパース係数ｘを求めるスパース係数算出処理部３１と、取得した秘匿観測信号ｙ＾及び求めたスパース係数ｘを用いて、秘匿辞書記憶部２２に格納されている秘匿辞書行列Ｄ＾を更新する秘匿辞書算出処理部３２と、を備える秘匿演算装置である。【選択図】図５

Description

本開示は、エッジ／クラウドでの利用を想定した秘匿演算の方法及び装置に関する。

スパースコーディング（Ｓｐａｒｓｅ Ｃｏｄｉｎｇ：ＳＣ）（例えば、非特許文献１〜５参照。）は、元々生物の一次視覚野の計算モデルとして提案されたものであり、観測信号を少数の基底ベクトルの重み付き線形和で表現する手法である。生物の一次視覚野における受容細胞は、空間周波数成分が網膜上の特定の領域に出現すると、選択的に反応する性質を持つ。Ｏｌｓｈａｕｓｅｎらはこの性質を、自然画像の統計的構造を積極的に利用することによって自然画像を効率的に符号化（コーディング）するための仕組みとして獲得した（例えば非特許文献１参照。）とする考えを提案し脚光を浴びた。現在、スパースコーディングは画像・音響信号などのメディア信号処理、脳波・脳血流・ｆＭＲＩなど生体信号の解析、機械学習など多数の分野に応用されており、その有効性が認められている。例えば、画像処理の分野では雑音除去や画像修復、深層学習では要素技術の一つとして利用され画像識別の分野で最先端の性能を示している。

一方、近年様々な分野においてエッジ／クラウドコンピューティングが急速に普及してきている。そのアプリケーションの領域はスパースコーディングの有効性が確認されているメディア信号処理、生体信号の解析、機械学習などを含め多岐にわたる。しかし、エッジ／クラウドコンピューティングの利用は、サービス提供者の信頼性を前提にしており、その信頼性の欠如や事故によって、データの不正利用や流失、プライバシーの侵害といった問題の発生が危惧されている。今後のクラウドコンピューティングの普及にとって、データの不正利用や流失、エンドユーザーのプライバシーの問題をいかに解決するかが重要な課題となっている。

Ｂ． Ａ． Ｏｌｓｈａｕｓｅｎ ａｎｄ Ｄ． Ｊ． Ｆｉｅｌｄ， " Ｅｍｅｒｇｅｎｃｅ ｏｆ ｓｉｍｐｌｅ− ｃｅｌｌ ｒｅｃｅｐｔｉｖｅ−ｆｉｅｌｄ ｐｒｏｐｅｒｔｉｅｓ ｂｙ ｌｅａｒｎｉｎｇ ａ ｓｐａｒｓｅ ｃｏｄｅ ｆｏｒ ｎａｔｕｒａｌ ｉｍａｇｅｓ， " Ｎａｔｕｒｅ， ｖｏｌ． ３８１， ｐｐ． ６０７−６０９ （１９９６）． 笠井 裕之， "スパースコーディングの研究動向， "研究報告オーディオビジュアル複合情報処理（ＡＶＭ）， ｖｏｌ． ２０１４−ＡＶＭ−８４（８）， ｐｐ． １−１０， ２０１４． Ｋ． Ｅｎｇａｎ， Ｓ． Ｏ． Ａａｓｅ ａｎｄ Ｊ． Ｈａｋｏｎ Ｈｕｓｏｙ： " Ｍｅｔｈｏｄ ｏｆ ｏｐｔｉｍａｌ ｄｉｒｅｃｔｉｏｎｓ ｆｏｒ ｆｒａｍｅ ｄｅｓｉｇｎ， " ＩＣＡＳＳＰ１９９９， ｐｐ． ２４４３−２４４６ （１９９９）． Ｍ． Ａｈａｒｏｎ， Ｍ． Ｅｌａｄ ａｎｄ Ａ． Ｂｒｕｃｋｓｔｅｉｎ：" Ｋ−ＳＶＤ： Ａｎ ａｌｇｏｒｉｔｈｍ ｆｏｒ ｄｅｓｉｇｎｉｎｇ ｏｖｅｒｃｏｍｐｌｅｔｅ ｄｉｃｔｉｏ− ｎａｒｉｅｓ ｆｏｒ ｓｐａｒｓｅ ｒｅｐｒｅｓｅｎｔａｔｉｏｎ， "ＩＥＥＥ Ｔｒａｎｓ． Ｓｉｇ． Ｐｒｏｃ．， ５４， １１， ｐｐ． ４３１１−４３２２ （２００６）． Ｙ． Ｃ． Ｐａｔｉ， Ｒ． Ｒｅｚａｉｉｆａｒ， Ｙ． Ｃ． Ｐ． Ｒ． Ｒｅｚａｉｉｆａｒ ａｎｄ Ｐ． Ｓ． Ｋｒｉｓｈｎａｐｒａｓａｄ，" Ｏｒｔｈｏｇｏｎａｌ ｍａｔｃｈｉｎｇ ｐｕｒｓｕｉｔ： Ｒｅｃｕｒｓｉｖｅ ｆｕｎｃｔｉｏｎ ａｐｐｒｏｘｉｍａｔｉｏｎ ｗｉｔｈ ａｐｐｌｉｃａｔｉｏｎｓ ｔｏ ｗａｖｅｌｅｔ ｄｅｃｏｍｐｏｓｉｔｉｏｎ， "Ａｓｉｌｏｍａｒ１９９３， ｐｐ． ４０−４４ （１９９３）．

本開示は、この問題点に鑑みなされたもので、スパースコーディングの秘匿演算を可能にすることを目的とする。

発明者らは、スパース辞書を秘匿した後に、直交マッチング追跡法（Ｏｒｔｈｏｇｏｎａｌ Ｍａｔｃｈｉｎｇ Ｐｕｒｓｕｉｔ：ＯＭＰ）で解いて得られる解が、観測信号とスパース辞書を秘匿しない場合にＯＭＰを解いて得られるスパース係数と等しくなることを発見した。発明者らの当該発見によって、本開示をするに至った。

本開示は、ランダムユニタリ行列Ｑ_ｐを用いて観測信号ｙを秘匿化した秘匿観測信号ｙ＾を入力とし、信号から辞書行列の基底を学習する手法を用いてスパース辞書を更新することで、秘匿辞書行列を生成する。

具体的には、本開示に係る秘匿演算装置は、
Ｋ個（Ｋ＞Ｍ）の基底を要素とするＭ×Ｋ行列である秘匿辞書行列Ｄ＾を格納する秘匿辞書記憶部と、
Ｍ次元のベクトルである観測信号ｙがランダムユニタリ行列Ｑ_Ｐを用いて秘匿化された秘匿観測信号ｙ＾を取得し、前記秘匿辞書記憶部から秘匿辞書行列Ｄ＾を読み出し、ｙ＾＝Ｄ＾ｘの関係を用いてＫ次元のベクトルであるスパース係数ｘを求めるスパース係数算出処理部と、
取得した秘匿観測信号ｙ＾及び求めたスパース係数ｘを用いて、秘匿観測信号ｙ＾から秘匿辞書行列Ｄ＾の基底を求め、前記秘匿辞書記憶部に格納されている秘匿辞書行列Ｄ＾を更新する秘匿辞書算出部と、
を備える。

具体的には、本開示に係る秘匿演算方法は、
秘匿演算装置が、
Ｍ次元のベクトルである観測信号ｙがランダムユニタリ行列Ｑ_Ｐを用いて秘匿化された秘匿観測信号ｙ＾を取得し、Ｋ個（Ｋ＞Ｍ）の基底を要素とするＭ×Ｋ行列である秘匿辞書行列Ｄ＾を格納する秘匿辞書記憶部から秘匿辞書行列Ｄ＾を読み出し、ｙ＾＝Ｄ＾ｘの関係を用いてＫ次元のベクトルであるスパース係数ｘを求め、
取得した秘匿観測信号ｙ＾及び求めたスパース係数ｘを用いて、秘匿観測信号ｙ＾から秘匿辞書行列Ｄ＾の基底を求め、前記秘匿辞書記憶部に格納されている秘匿辞書行列Ｄ＾を更新する。

具体的には、本開示に係る秘匿演算プログラムは、本開示に係る秘匿演算装置に備わる各機能部としてコンピュータを実現させるためのプログラムであり、本開示に係る秘匿演算方法に備わる各手順をコンピュータに実効させるためのプログラムである。

本開示によれば、スパースコーディングの秘匿演算を可能にすることができる。

本開示に係るシステム構成の一例を示す。 スパースコーディングの一例を示す。 第１の実施形態における第１のアーキテクチャを示す。 第１の実施形態における第２のアーキテクチャを示す。 本開示に係るローカル処理部の一例を示す。 本開示に係るエッジ／クラウド処理部の一例を示す。 ＯＭＰの秘匿演算アルゴリズムの一例を示すフロー図である。 基底ｄ_ｋとＸのｋ番目の行ベクトルｘ^ｋ _Ｔの一例を示す。 ランダム辞書行列の一例を示す。 ＭＯＤ及びＫ−ＳＶＤを用いた場合のサポート間距離の一例を示す。 ＭＯＤ及びＫ−ＳＶＤを用いた場合の平均Ｉ_２誤差の一例を示す。 秘匿ＭＯＤ及び秘匿Ｋ−ＳＶＤを用いた場合のサポート間距離の一例を示す。 秘匿ＭＯＤ及び秘匿Ｋ−ＳＶＤを用いた場合の平均Ｉ_２誤差の一例を示す。

以下、本開示の実施形態について、図面を参照しながら詳細に説明する。なお、本開示は、以下に示す実施形態に限定されるものではない。これらの実施の例は例示に過ぎず、本開示は当業者の知識に基づいて種々の変更、改良を施した形態で実施することができる。なお、本明細書及び図面において符号が同じ構成要素は、相互に同一のものを示すものとする。

本開示では、エッジ／クラウドでの利用を想定し広く普及した多くのアプリケーションソフトウェアが直接利用可能で、かつユーザのプライバシーの保護を考慮したスパースコーディングの秘匿演算法を提案する。概要は次の通りである。
１）スパース辞書学習の秘匿演算のシステム構成
スパース辞書学習の秘匿演算をエッジ／クラウドで実行する際のシステム構成を提案する。図１に、本開示に係るシステム構成の一例を示す。本開示に係るシステムは、ローカル処理部１０及びエッジ／クラウド処理部２０が通信ネットワーク９０で接続されている。エッジ／クラウド処理部２０は、本開示における秘匿演算装置として機能する。ローカル処理部１０はローカル処理装置として機能する。
２）スパース辞書学習の秘匿演算
スパース辞書学習のアルゴリズムとして広く用いられているＭＯＤ（Ｍｅｔｈｏｄ ｏｆ Ｏｐｔｉｍａｌ Ｄｉｒｅｃｔｉｏｎ）（例えば、非特許文献３参照。）とＫ−ＳＶＤ（Ｋ−Ｓｉｎｇｕｌａｒ Ｖａｌｕｅ Ｄｅｃｏｍｐｏｓｉｔｉｏｎ）（例えば、非特許文献４参照。）の秘匿演算法を提案する。

以下、具体的な実施形態について述べる前にスパース辞書学習の定式化を行う。
［スパース辞書学習の定式化］
Ｍ次元の列ベクトルである観測信号ｙ_ｉの集合をＹ＝｛ｙ_ｉ｝^Ｎ _ｉ＝１とする。このとき、図２に示すように、ＹがＫ個の基底の線形結合で表せると仮定する。
（数１）
Ｙ＝ＤＸ （１）

ただし、Ｄ＝｛ｄ_１，．．．，ｄ_Ｋ｝∈Ｒ^ＭｘＫは、Ｍ次元の列ベクトルである基底ｄ_ｉ（１≦ｉ≦Ｋ）を要素とする行列であり、辞書行列と呼ぶ。Ｘ＝｛ｘ_ｉ｝^Ｎ _ｉ＝１は、Ｋ次元の列ベクトルであるスパース係数ｘ_ｉを要素とする行列である。一般的に、基底の数が観測信号の次元よりも大きいすなわちＫ＞Ｍであり、過完備な辞書行列Ｄを用いる。信号の次元より多い基底による表現Ｙ＝ＤＸではＸの一意性を保証することが出来ないため、通常は観測信号Ｙの表現に利用される基底を辞書行列Ｄのうちの一部に制限する。すなわち、少数のＴ_０個の係数のみが非ゼロの値を取り、残りの大部分の係数はゼロの値を取る制約を設ける。

このように、非ゼロ要素が全体に対して少数である状態をスパース（Ｓｐａｒｓｅ：疎）と呼ぶ。スパースの制約を持つ最適化問題は、

として定式化される。ただし、

はＬ_０のノルム（ベクトル中の非ゼロ要素の個数）を表し、

はフロベニウスのノルムを表し、

で定義される。

なお、スパースコーディングは、辞書行列Ｄを設計する「スパース辞書設計の問題」と、スパース係数ｘを求める「スパース係数の推定」の２つに分けて考えることができる。「スパース辞書設計の問題」では、辞書行列Ｄの行列は離散コサイン変換やフーリエ変換、ウェーブレット変換あるいはカーブレット変換のように予め基底を用意しておく方法と、信号から辞書行列Ｄの基底を学習する方法がある。信号から辞書行列Ｄの基底を学習するための代表的な手法が、ＭＯＤ（Ｍｅｔｈｏｄ ｏｆ Ｏｐｔｉｍａｌ Ｄｉｒｅｃｔｉｏｎ）とＫ−ＳＶＤ（Ｋ−Ｓｉｎｇｕｌａｒ Ｖａｌｕｅ Ｄｅｃｏｍｐｏｓｉｔｉｏｎ）である。ＭＯＤはＹとＤＸの間の二乗誤差の最小化に疑似逆行列を使用する。Ｋ−ＳＶＤはｋ−ｍｅａｎｓ法を一般化したものと位置づけられ、ＭＯＤより高速な反復的アルゴリズムとして提案された。「スパース係数の推定」では、アルゴリズムとして、直交マッチング追跡法（Ｏｒｔｈｏｇｏｎａｌ Ｍａｔｃｈｉｎｇ Ｐｕｒｓｕｉｔ：ＯＭＰ）（例えば、非特許文献５参照。）はよく知られている。

［第１実施形態］スパースコーディングの秘匿演算のシステム構成
図３及び図４に、エッジ／クラウド処理部２０でスパースコーディングの秘匿演算を行うアーキテクチャの一例を示す。ローカル処理部１０は、コンテンツの所有者が使用する装置に備わる。エッジ／クラウド処理部２０は、プロバイダが使用する装置に備わる。

図５に、ローカル処理部１０の構成の一例を示す。ローカル処理部１０は、送受信部１１、メモリ１２及びＣＰＵ１３を備える。メモリ１２は、送受信部１１の受信した観測信号ｙ、鍵ｐを格納する。ＣＰＵ１３は、観測信号暗号処理部１５、辞書復号処理部１６を備える。

図６に、エッジ／クラウド処理部２０の構成の一例を示す。エッジ／クラウド処理部２０は、送受信部２１、メモリ２２及びＣＰＵ２３を備える。ＣＰＵ２３は、スパース係数算出処理部３１、秘匿辞書算出処理部３２、ポスト処理部３３、を備える。メモリ２２は、秘匿辞書Ｄ＾及びスパース係数ｘを格納する。

本開示の装置は、コンピュータとプログラムによっても実現でき、プログラムを記録媒体に記録することも、ネットワークを通して提供することも可能である。例えば、メモリ１２、２２は、ＣＰＵ１３、２３の動作を制御するためにプロセッサ１３、２３によって読み取り可能及び実行可能なデータ及び命令、すなわちプログラムコードを記憶する。

プログラムコードは、本実施形態に備わる任意の機能部を実現させるためのプログラムモジュールを含む。例えば、メモリ２２に格納されているプログラムモジュールは、スパース係数算出処理部３１、秘匿辞書算出処理部３２、ポスト処理部３３を実現させるためのモジュールを含む。メモリ１２に格納されているプログラムモジュールは、観測信号暗号処理部１５、辞書復号処理部１６を含む。

図３は、エッジ／クラウド処理部で秘匿辞書行列の学習を行うアーキテクチャを示す。最初に、ローカル処理部１０において、観測信号暗号処理部１５が、鍵ｐより生成したランダムユニタリ行列Ｑ_ｐを用いて、観測信号Ｙを秘匿観測信号

へ変換する。なお、本明細書では秘匿観測信号「Ｙ＾」と記載することがある。

その後、送受信部１１が、秘匿観測信号Ｙ＾をエッジ／クラウド処理部２０へ転送する。エッジ／クラウド処理部２０に備わる秘匿辞書算出処理３２は、秘匿観測信号Ｙ＾を入力として、ＭＯＤまたはＫ−ＳＶＤのアルゴリズムを実行して秘匿辞書行列

を推定する。なお、本明細書では秘匿観測信号「Ｄ＾」と記載することがある。

エッジ／クラウド処理部２０では秘匿領域での辞書行列すなわち秘匿辞書行列Ｄ＾が随時更新される。ローカル処理部１０では、ユーザが鍵ｐを持つ。このため、ローカル処理部１０に備わる辞書復号処理部１６は、秘匿辞書行列Ｄ＾をエッジ／クラウド処理部２０から取得し、ランダムユニタリ行列Ｑ_ｐのエルミート行列Ｑ^＊ _ｐを秘匿辞書行列Ｄ＾へ掛け合わせることで、辞書行列Ｄを得ることができる。

秘匿辞書行列Ｄ＾は、辞書行列Ｄの学習の際に秘匿観測信号Ｙ＾を用いることで秘匿化された秘匿辞書行列Ｄである。秘匿観測信号ｙ＾を取得する前にメモリ２２に格納されている秘匿辞書行列Ｄ＾は、ランダム信号や、観測信号について事前知識がある場合にはそれに近い辞書を用いる。例えば、観測信号が画像の場合は離散コサイン変換（ＤＣＴ）をランダムユニタリ行列Ｑ_ｐで変換した値を用いることができる。

図４のスパース係数推定秘匿演算の実行では、最初にローカル処理部１０において、観測信号暗号処理部１５が観測信号Ｙを秘匿観測信号Ｙ＾へ変換し、送受信部１１がエッジ／クラウド処理部２０へ伝送する。次に、エッジ／クラウド処理部２０では、スパース係数算出処理３１が、事前に転送された秘匿辞書行列Ｄ＾と秘匿観測信号Ｙ＾を用いてＯＭＰのアルゴリズムを実行してスパース係数を推定する。

ポスト処理部３３は、推定したスパース係数を用いて、画像・音響信号などのメディア信号処理、脳波・脳血流・ｆＭＲＩなどの生体信号の解析、パターン認識など機械学習などアプリケーション処理を行う。

［第２実施形態］スパース辞書学習の秘匿演算の流れ
本開示のスパース辞書学習の秘匿演算について述べる前に、本開示に関連する観測信号が秘匿されない場合の辞書学習について記述する。一般的に辞書学習は、二つのステップを交互に繰り返すことによって、式（２）の最適化問題を解く。ステップ１ではスパース係数の計算、ステップ２では辞書行列の更新を行う。

１．観測信号を秘匿しない場合の辞書学習
（１）ステップ１：スパース係数の計算
ステップ１では辞書行列Ｄを固定し、式（２）の最適化問題を解く。各入力の観測信号ｙ_ｉに対して、スパース係数ｘ_ｉを求める問題であり、次式のように書き換えることができる。

これにより、スパース係数ｘ_ｉを要素とする行列Ｘを求める。

しかしながら、この問題は全ての基底の組み合わせを試さないと最適解が得られない組合せ最適化問題であり、ＮＰ困難であることが知られている。この問題に対する解法として、貪欲法に基づく方法やＬ_０制約をＬ_１制約で緩和した上で解く方法など、数多くのアルゴリズムが提案されている。

本開示では、Ｌ_０制約に基づく近似解法である直交マッチング追跡法（ＯＭＰ）（例えば、非特許文献５参照。）を用いる。直交マッチング追跡法は、観測信号の近似に利用する係数の添字集合の中から「サポート」、すなわち非ゼロ係数の添字集合Ｓを見つけ出すアルゴリズムである。初めはサポートは空集合であるとして、観測信号ｙ_ｉを基底の線型結合で近似した時の残差を最小にするように新たな基底をサポート集合に一つ一つ追加していき、サポートに含まれる基底のみで信号を近似した時の残差が予め定められた停止条件であるε以下になったら停止する。残差の低減に寄与する基底を順次選択していく貪欲法であり、解の最適性は保証されないが、多くの場合優れた近似を与えることが知られている。

（直交マッチング追跡法（ＯＭＰ）の秘匿演算アルゴリズム）
図７は、ＯＭＰの秘匿演算アルゴリズムの一例を示すフロー図である。ＯＭＰの秘匿演算方法は、ステップＳ１０１〜Ｓ１０６を有する。ステップＳ１０２〜Ｓ１０６がメインループである。

・Ｓ１０１：初期化
ｋ＝０

・Ｓ１０２〜Ｓ１０６：メインループ：
ｋ→ｋ＋１とし、以下のステップを実行する。
Ｓ１０２では、近似誤差を求める。

Ｓ１０３では、サポートの更新を行う。

Ｓ１０４では、サポート内での最良解の探索を行う。

Ｓ１０５では、残差の更新を行う。

Ｓ１０６では、停止条件を満たすか否かを判定する。

更新した残差ｒ＾_ｋが停止条件であるε以下であれば、ステップＳ１０４で探索した結果を解とする。

（２）ステップ２：辞書行列の更新
ステップ２ではステップ１で求めたスパース係数ｘ_ｉを要素とする行列Ｘを固定し、辞書行列Ｄの更新を行う。スパース辞書学習の代表的な手法がＭＯＤとＫ−ＳＶＤである。ＭＯＤとＫ−ＳＶＤともにステップ１は同じ処理で、ステップ２の辞書行列の更新方法が異なる。

Ａ．ＭＯＤ
ＭＯＤはＹとＤＸの間の二乗誤差の最小化に疑似逆行列を使用する。辞書行列Ｄについて解くと、次式が得られる。

より、

Ｂ．Ｋ−ＳＶＤ
Ｋ−ＳＶＤは、ｋ−ｍｅａｎｓ法を一般化したものと位置づけられる。ｋ−ｍｅａｎｓ法では各サンプルをクラスタに割り当てるステップと、クラスタの重心を移動させるステップが交互に繰り返される。クラスタ重心は特徴量の空間におけるベクトルであり、そのクラスタに割り当てられたサンプルの平均的な特徴と捉えられるｋ−ｍｅａｎｓ法の拡張である。ｓｏｆｔ ｋ−ｍｅａｎｓ法（又はｆｕｚｚｙ ｋ−ｍｅａｎｓ法）では各サンプルを多数のクラスタに割り当てる。これはクラスタ重心の一次結合としてサンプルが表されることを意味し、クラスタ重心を基底に置き換えることで、辞書学習と対応する。

Ｋ−ＳＶＤではＭＯＤとは異なり、辞書行列Ｄの全体ではなく、図８に示すような一つの基底ｄ_ｋに着目し、着目した基底ｄ_ｋを順次更新する。

ここでＥ_ｋは観測信号の集合Ｙから基底ｄ_ｋを除いた線形予測値との残差を示す。

Ｋ−ＳＶＤではＥ_ｋを特異値分解（Ｓｉｎｇｕｌａｒ Ｖａｌｕｅ Ｄｅｃｏｍｐｏｓｉｔｉｏｎ：ＳＶＤ）することで、ｄ_ｋとｘ^ｋ _Ｔを求める。しかしながら、得られる解はスパースの制約を満たすとは限らないため、Ｋ−ＳＶＤではステップ１で求めたｘ^ｋ _Ｔにおける非ゼロ要素のみを更新する。これによって、ステップ１で得られたスパース性を維持することができる。ｘ^ｋ _Ｔにおける非ゼロ要素のインデックス集合ω_ｋを以下のように定義する。

但し、ｘ^ｋ _Ｔ（ｉ）はｘ^ｋ _Ｔのｉ番目の要素を表す。

ここで、（ω_ｋ（ｉ），ｉ）の位置の要素のみが１である大きさＮ×｜ω_ｋ｜の行列Ω_Ｋを定義する。Ω_Ｋを用いるとｘ^ｋ _Ｔの非ゼロ要素のみで構成されるベクトルｘ^ｋ _Ｒが、次式のように書き表せる。

同様にＥ_ｋに対して、Ω_Ｋを用いてＥ^Ｒ _ｋ＝Ｅ_ｋΩ_Ｋと変換する。

Ｅ^Ｒ _ｋに対してＳＶＤを適用し、直行行列Ｕ，Ｖと対角行列Σに分解すると次式が得られる。

ｕ_ｉとｖ_ｊは、それぞれＵとＶのｉ番目の列ベクトル、σ_ｉはΔのｉ番目の対角成分である。Ｋ−ＳＶＤでは第一特異値に関する成分ｕ_１とσ_１ｖ_１ ^Ｔを用いて、次式のように基底ならびにスパース係数の行ベクトルの近似解を得る。

前述のように、ＭＯＤでは式（４）を算出することで、Ｋ−ＳＶＤでは式（１１）を算出することで、辞書行列Ｄの更新を行うことができる。以上が、観測信号を秘匿しない場合の辞書学習の流れである。

２．観測信号を秘匿した場合の辞書学習
次に観測信号を秘匿した場合の辞書行列Ｄの学習について述べる。スパース辞書学習の秘匿演算では、ローカル処理部１０が、次式のように秘匿観測信号Ｙ＾を生成する。

このとき式（２）に代わり、次式に示す最適化問題を考える。

ただし、

はＭ次元の列ベクトルである基底

を要素とする秘匿辞書行列である。なお、本明細書では基底「ｄ＾_ｉ」と記載することがある。

（１）ステップ１：スパース係数の計算
ステップ１では秘匿辞書行列Ｄ＾を固定し、式（１４）の最適化問題を解く。各入力の観測信号ｙ＾_ｉに対して、スパース係数ｘ_ｉを求める問題であり、次式のように書き換えることができる。

スパース係数ｘ_ｉを求めることで、スパース係数ｘ_ｉを要素とする行列Ｘを求めることができる。

発明者らは、辞書行列ＤをＤ＾＝Ｑ_ｐＤと秘匿した後に、式（１５）をＯＭＰで解いて得られる解ｘ_ｉが、観測信号ｙ_ｉと辞書行列Ｄを秘匿しない場合にＯＭＰを解いて得られるスパース係数ｘ_ｉと等しくなることを発見した。

（２）ステップ２：秘匿辞書行列の更新
ステップ２ではステップ１で求めた行列Ｘを固定し、秘匿辞書行列Ｄ＾の更新を行う。

［第３実施形態］スパース辞書学習ＭＯＤの秘匿演算Ｄ＾Ｘ
本実施形態の秘匿辞書算出処理部３２は、秘匿観測信号Ｙ＾を用いた秘匿辞書行列Ｄ＾の推定に際し、秘匿なＭＯＤを用いる。具体的には、Ｙ＾とＤ＾Ｘの間の二乗誤差の最小化に疑似逆行列を使用する。

より、

が得られる。

式（１６）を算出することで、秘匿領域での辞書行列すなわち秘匿辞書行列Ｄ＾を更新することができる。

次に、秘匿辞書行列Ｄ＾と観測信号を秘匿しない場合にＭＯＤを解いて得られる辞書Ｄとの関係を示す。式（１３）で定義のＹ＾＝Ｑ_ｐＹより、式（１６）は次式の通り書き換えることができる。

式（４）に示す観測信号を秘匿しない場合にＭＯＤを解いて得られるＤ＝ＹＸ^Ｔ（ＸＸ^Ｔ）^−１の関係式を用いると、秘匿辞書行列Ｄ＾と辞書行列Ｄの関係は、

となる。このように、本実施形態は、ＭＯＤを用いて辞書行列を更新することで、辞書行列Ｄを秘匿化できる。

鍵ｐを持つローカル処理部１０は、Ｄ＝Ｑ^＊ _ｐＤ＾を用いて辞書行列Ｄを得ることができる。このため、ローカル処理部１０は、ユーザから入力された鍵ｐを用い、エッジ／クラウド処理部２０から取得した秘匿辞書行列Ｄ＾にランダムユニタリ逆変換Ｑ^＊ _ｐを行うことで、辞書行列Ｄを求めることができる。また秘匿辞書行列にＤ＾＝Ｑ_ｐＤの関係が成立することから、ステップ１で更新されるスパース係数ｘ_ｉは秘匿しない場合にＯＭＰを解いて得られる解と同じ値となることがわかる。

［第４実施形態］Ｋ−ＳＶＤの秘匿演算
本実施形態の秘匿辞書算出処理部３２は、秘匿観測信号Ｙ＾を用いた秘匿辞書行列Ｄ＾の推定に際し、秘匿Ｋ−ＳＶＤを用いる。秘匿Ｋ−ＳＶＤでは、Ｄ＾全体の更新を行う秘匿ＭＯＤとは異なり、一つの基底ｄ_ｋ＾に着目し順次更新する。

観測信号を秘匿しない場合のＫ−ＳＶＤの辞書行列を更新する手法と同様の手法を用いて、求める。

ここでＥ_ｋ＾は秘匿観測信号の集合Ｙ＾から基底ｄ_ｋ＾を除いた線形予測値との残差を示す。解のスパース性を維持するために、ｘ^ｋ _Ｔにおける非ゼロ要素のみで構成されるベクトルｘ^ｋ _Ｒのみ更新する。Ｅ_ｋ＾に対して、Ω_Ｋを用いてＥ＾^Ｒ _ｋ＝Ｅ＾_ｋΩ_Ｋと変換する。

Ｅ＾^Ｒ _ｋに対してＳＶＤを適用し、直行行列Ｕ＾、Ｖ＾と対角行列Σ＾に分解すると次式が得られる。

第一特異値に関する成分ｕ＾_１とσ_１ｖ＾^Ｔ _１を用いて、次式のように基底及びスパース係数の行ベクトルの近似解を得る。

式（２２）を算出することで、秘匿領域での辞書行列すなわち秘匿辞書行列Ｄ＾を更新することができる。

次に、観測信号を秘匿しない場合に解いて得られる解と、秘匿しない場合に得られる解との関係を示す。ここでＥ＾_ｋの第２項ｄ＾_ｋをｄ＾_ｊ＝Ｑ_ｐｄ_ｊと分解し、式（１３）の関係を用いて整理すると、次式が得られる。

この関係式及びΩ_Ｋの定義によりＥ＾^Ｒ _Ｋを分解すると、

と書き表すことができる。

ここで上式のＱ_ｐＥ^Ｒ _ｋに対してＳＶＤを適用する。Ｑ_ｐはユニタリ行列で正規直交ベクトルを要素とするため、Ｑ_ｐＥ^Ｒ _ｋはＳＶＤを用いて次のように分解できる。

第一特異値に関する成分Ｑ_ｐｕ_１とσ_１ｖ^Ｔ _１を用いて、次式のように基底ならびにスパース係数の行ベクトルの近似解を得る。

式（２２）及び式（２７）より、基底はｄ＾_ｋ＝ｕ＾_１＝Ｑ_ｐｕ_１と表わすことができ、観測信号を秘匿しない場合にＫ−ＳＶＤより得られた解ｕ_１にＱ_ｐを掛けたものと等しいことがわかる。また式（２３）及びに式（２８）より、スパース係数はｘ＾^ｋ _Ｒ＝σ_１ｖ＾^Ｔ _１＝σ_１ｖ^Ｔ _１となり、観測信号を秘匿した場合も秘匿しない場合も同じ値となることがわかる。このように、本実施形態は、Ｋ−ＳＶＤを用いて辞書行列を更新することで、辞書行列Ｄを秘匿化できる。

［第５実施形態］
有効性を検証するために、人工的に生成した秘匿観測信号に対して、スパース係数及び辞書行列の推定を行った。

（秘匿観測信号の生成と評価指標）
過完備なランダム辞書行列Ｄにスパース係数の行列Ｘを入力して、Ｙ＝ＤＸにより観測信号Ｙを生成した。以下に、具体的な設定条件を示す。：
・観測信号Ｙ∈Ｒ^ＭｘＫ：３０×４０００次元の行列
・辞書行列Ｄ∈Ｒ^ＭｘＫ：Ｍ×Ｋ＝３０×６０次元のランダム辞書行列（図９）
・スパース係数の行列Ｘ∈Ｒ^ＭｘＫ：６０×４０００次元の行列で非ゼロの係数の個数Ｌ＝４

生成した観測信号Ｙにランダムユニタリ行列Ｑ_ｐを掛け、秘匿観測信号Ｙ＾を生成した。評価指標として、以下の２つを用いた。
１）サポート間距離

ここで、Ｓは基底のインデックスの集合である。本開示のＳ＾は、秘匿領域で求まった辞書行列を非秘匿領域へ逆変換することにより求めた。

２）スパース係数の推定値ｘ＾の平均Ｌ_２誤差

（結果）
本実施形態のスパース係数と辞書行列の推定精度の性能評価のため、観測信号を秘匿しない場合のＭＯＤならびにＫ−ＳＶＤ法との比較を行った。
１）秘匿しない場合のＭＯＤならびにＫ−ＳＶＤ
２）本開示に係る秘匿ＭＯＤならびに秘匿Ｋ−ＳＶＤ

図１０に、観測信号を秘匿しない場合のＭＯＤとＫ−ＳＶＤのサポート間距離ｄｉｓｔ（Ｓ＾，Ｓ）の一例を示す。図１１に、観測信号を秘匿しない場合のＭＯＤとＫＳＶＤの平均Ｌ_２誤差の一例を示す。また、図１２に、観測信号を秘匿した場合のＭＯＤとＫＳＶＤのサポート間距離ｄｉｓｔ（Ｓ＾，Ｓ）の一例を示す。図１３に、観測信号を秘匿した場合のＭＯＤとＫＳＶＤの平均Ｌ_２誤差の一例を示す。図１０〜図１３において、実線はＭＯＤを示し、破線はＫ−ＳＶＤを示す。

これらの図より、図１２及び図１３に示す秘匿ＭＯＤならびに秘匿Ｋ−ＳＶＤは、図１０及び図１１に示す観測信号を秘匿しない場合のＭＯＤとＫＳＶＤと同じ挙動を示していることがわかる。このため、本開示は、観測信号を秘匿した場合にも辞書行列及びスパース係数が正確に推定できていることがわかる。

（本開示の効果）
本開示に係るスパース秘匿辞書行列の秘匿演算により、プライバシーを保護しつつエッジ／クラウドの計算資源を利用したスパースコーディングの実行が可能となる。

本開示は情報通信産業に適用することができる。

１０：ローカル処理部
１１、２１：送受信部
１２、２２：メモリ
１３、２３：ＣＰＵ
１５：観測信号暗号処理部
１６：辞書復号処理部
２０：エッジ／クラウド処理部
３１：スパース係数算出処理部
３２：秘匿辞書算出処理部
３３：ポスト処理部
９０：通信ネットワーク

Claims (6)

1. Ｋ個（Ｋ＞Ｍ）の基底を要素とするＭ×Ｋ行列である秘匿辞書行列Ｄ＾を格納する秘匿辞書記憶部と、
   Ｍ次元のベクトルである観測信号ｙがランダムユニタリ行列Ｑ_Ｐを用いて秘匿化された秘匿観測信号ｙ＾を取得し、前記秘匿辞書記憶部から秘匿辞書行列Ｄ＾を読み出し、ｙ＾＝Ｄ＾ｘの関係を用いてＫ次元のベクトルであるスパース係数ｘを求めるスパース係数算出処理部と、
   取得した秘匿観測信号ｙ＾及び求めたスパース係数ｘを用いて、秘匿観測信号ｙ＾から秘匿辞書行列Ｄ＾の基底を求め、前記秘匿辞書記憶部に格納されている秘匿辞書行列Ｄ＾を更新する秘匿辞書算出部と、
   を備える秘匿演算装置。
2. 前記スパース係数算出処理部は、直交マッチング追跡法を用いてスパース係数ｘを推定する、
   請求項１に記載の秘匿演算装置。
3. 前記秘匿辞書算出部は、前記スパース係数算出処理部で求めたスパース係数ｘを固定し、Ｙ＾とＤ＾ｘの間の二乗誤差を最小化するＤ＾を求めることで、秘匿観測信号ｙ＾から秘匿辞書行列Ｄ＾の基底を求める、
   請求項１又は２に記載の秘匿演算装置。
4. 前記秘匿辞書算出部は、ＭＯＤ（Ｍｅｔｈｏｄ ｏｆ Ｏｐｔｉｍａｌ Ｄｉｒｅｃｔｉｏｎ）又はＫ−ＳＶＤ（Ｋ−Ｓｉｎｇｕｌａｒ Ｖａｌｕｅ Ｄｅｃｏｍｐｏｓｉｔｉｏｎ）を用いて、取得した秘匿観測信号ｙ＾及び求めたスパース係数ｘから秘匿辞書行列Ｄ＾の基底を求める、
   請求項１から３のいずれかに記載の秘匿演算装置。
5. 秘匿演算装置が、
   Ｍ次元のベクトルである観測信号ｙがランダムユニタリ行列Ｑ_Ｐを用いて秘匿化された秘匿観測信号ｙ＾を取得し、Ｋ個（Ｋ＞Ｍ）の基底を要素とするＭ×Ｋ行列である秘匿辞書行列Ｄ＾を格納する秘匿辞書記憶部から秘匿辞書行列Ｄ＾を読み出し、ｙ＾＝Ｄ＾ｘの関係を用いてＫ次元のベクトルであるスパース係数ｘを求め、
   取得した秘匿観測信号ｙ＾及び求めたスパース係数ｘを用いて、秘匿観測信号ｙ＾から秘匿辞書行列Ｄ＾の基底を求め、前記秘匿辞書記憶部に格納されている秘匿辞書行列Ｄ＾を更新する、
   秘匿演算方法。
6. 請求項１から４のいずれかに記載の秘匿演算装置に備わる各機能部としてコンピュータを実現させるための秘匿演算プログラム。

Images