WO2024100709A1

WO2024100709A1 - 最適化装置、最適化方法及びプログラム

Info

Publication number: WO2024100709A1
Application number: PCT/JP2022/041356
Authority: WO
Inventors: 崇元佐々木; 幸浩坂東; 正樹北原
Original assignee: 日本電信電話株式会社
Priority date: 2022-11-07
Filing date: 2022-11-07
Publication date: 2024-05-16

Abstract

本発明の一態様は、３列行列の核型ノルムの値の取得の処理を含む最適化の処理、を行う制御部、を備え、前記制御部は、前記３列行列の核型ノルムの値を２列行列の核型ノルムの和の演算により得る、最適化装置である。

Description

最適化装置、最適化方法及びプログラム

　本発明は、最適化装置、最適化方法及びプログラムに関する。

　最適化の技術はさまざまな場面で利用される。

Y. Shen et al., "GCN-Denoiser: Mesh Denoising with Graph Convolutional Networks," ACM Trans. Graph., vol. 41, no. 1, pp. 1-14, Feb. 2022

　最適化には、Ｎ列（Ｎは２以上の整数）の行列であるＮ列行列、の核型ノルムの演算が行われる場合がある。しかしながら、Ｎ列行列の核型ノルムの演算では、Ｎが大きくなるほど演算量が増大してしまう。その結果、Ｎ列行列の核型ノルムの演算に起因して、最適化に長い時間を要する場合があった。
　

　上記事情に鑑み、本発明は、最適化に要する時間を短くする技術を提供することを目的としている。

　本発明の一態様は、３列行列の核型ノルムの値の取得の処理を含む最適化の処理、を行う制御ステップ、を有し、前記制御ステップは、前記３列行列の核型ノルムの値を２列行列の核型ノルムの和の演算により得る、最適化方法である。

　本発明の一態様は、上記の最適化装置としてコンピュータを機能させるためのプログラムである。

　本発明により、最適化に要する時間を短くすることが可能となる。

実施形態の最適化装置の構成の一例を示す図。実施形態におけるグラフの含む雑音を説明する説明図。実施形態における変数Ｘ及び∇Ｘの一例を、処理対象のグラフが八面体である場合を例に説明する第１の説明図。実施形態における変数Ｘ及び∇Ｘの一例を、処理対象のグラフが八面体である場合を例に説明する第２の説明図。実施形態における変数Ｘ及び∇Ｘの一例を、処理対象のグラフが八面体である場合を例に説明する第３の説明図。実施形態における変数Ｘ及び∇Ｘの一例を、処理対象のグラフが八面体である場合を例に説明する第４の説明図。実施形態における変数Ｘ及び∇Ｘの一例を、処理対象のグラフが八面体である場合を例に説明する第５の説明図。実施形態における最適化装置が実行する処理の流れの一例を示すフローチャート。変形例における実験結果の一例を示す図。実施形態における３列行列の核型ノルムの値の取得の処理を含む最適化の処理、の流れの一例を示すフローチャート。グラフ理論におけるグラフの一例を示す図。

　（実施形態）
　以下、グラフ理論におけるグラフに関する用語を用いて説明を行う。念のため変形例の説明の後に、グラフ理論におけるグラフに関する用語について説明を記載しておく。必要に応じて参照されたい。

　図１は、実施形態の最適化装置（Optimization Apparatus）１の構成の一例を示す図である。最適化装置１は、３列行列の核型ノルムの値の取得の処理を含む最適化の処理、を含む処理を行う。このような処理は、３列行列の核型ノルムの値の取得の処理、を含む最適化の処理、そのものであってもよい。

　以下、簡単のため、３次元のグラフである３次元グラフに含まれる雑音を除去する処理を例に、最適化装置１の説明を行う。実は３次元グラフに含まれる雑音は、後述する式（１）の最適化問題を解くことで取り除くことが可能である。すなわち、３次元グラフに含まれる雑音は、３列行列の核型ノルムの値の取得の処理を含む最適化の処理を行うことで取り除くことが可能である。

　説明に際しては、まず、後述の式（７）の近似式を用いないで雑音を除去する処理を説明することで雑音の除去に対する理解を深めた後、近似式を用いることで、演算時間が短くなることを説明する。

　最適化装置１は、バスで接続されたＣＰＵ（Central Processing Unit）等のプロセッサ９１とメモリ９２とを備える制御部１１を備え、プログラムを実行する。

　制御部１１は、３次元のグラフである３次元グラフを処理対象とする処理であって、処理対象に含まれる雑音を除去する処理である雑音除去処理を実行する。処理対象が表現する対象は、例えば、３次元点群である。すなわち、処理対象は、例えば３次元点群を表現する３次元グラフである。

　雑音除去処理は、ランク低下処理を含む。ランク低下処理は、処理対象のグラフの各頂点について、その頂点を始点としその頂点に隣接する頂点を終点とするベクトル（以下「接続ベクトル」という。）、を並べた行列（以下「ランク判定行列」という。）のランク、に基づき、ランクを下げる処理である。雑音除去処理はランク低下処理を含んでいればよいので、雑音除去処理は、ランク低下処理そのものであってもよい。

　線形代数等の代数学で周知のように、行列のランクは各列をそれぞれ１つのベクトルと見なした場合に、互いに独立なベクトルの数である。なお、行列の行と列とを入れ替えれば行は列になるので、行列のランクは各行をそれぞれ１つのベクトルと見なした場合の、互いに独立なベクトルの数であってもよい。

　ところで、グラフの含む雑音とは、グラフによる対象の表現の精度を低下させる要因を意味する。簡単のため具体例を示して雑音の概念を説明する。例えば次数が２のグラフの頂点のうちターゲットの頂点において折れ曲がりが存在するものの、グラフの表現する対象には存在しない折れ曲がりである場合、ターゲットの頂点は雑音により位置が真値から変化している状態である。このように雑音とは、頂点の位置の真値からのズレである。頂点の位置が真値からズレている場合、その頂点の位置では、辺の折れ曲がりが生じる。したがって折れ曲がりの度合を評価し、それを小さくするような頂点の位置を探索する処理を実行できれば、グラフの雑音は除去される。

　ところで、注目する頂点における折れ曲がりとは、頂点を始点又は終点とする複数のベクトルであって辺に平行な複数のベクトルが平行ではない、ことを意味する。ベクトルが平行ではない、とはベクトルが独立であることである。したがって、折れ曲がりの度合は、辺に平行なベクトルを並べたランク判定行列のランクで評価可能である。そして、雑音はグラフの折れ曲がりを生じさせるので、グラフの雑音は行列のランクで評価可能である。

　図２は、実施形態におけるグラフの含む雑音を説明する説明図である。図２はグラフＧ１とグラフＧ２との２つのグラフを示し、グラフＧ１から雑音を除去したグラフがグラフＧ２であることを示す。明らかに、グラフＧ２の方がグラフＧ１よりも折れ曲がりが少ない。

　ランク低下処理は、例えば、以下の式（１）が示す最適化問題を解く処理である。

　Ｐは、雑音除去処理の処理対象のグラフを示す行列である。より具体的には、雑音除去処理の処理対象のグラフの頂点の各座標値を示す行列である。Ｘは、変数である。したがって、最適化された状態の変数Ｘの値が最適化の解である。すなわち、最適化された状態の変数Ｘは雑音除去処理の結果である。したがって、最適化された状態の変数Ｘは、雑音の除去後のグラフを示す行列である。より具体的には、最適化された状態の変数Ｘは、雑音の除去後のグラフの頂点の各座標値を示す行列である。Ｂは、雑音除去処理の処理対象のグラフの向き付け接続行列である。

　||・||_＊は核型ノルムを表す。λは所定の重み係数である。ｋは、雑音除去処理の処理対象のグラフの頂点を識別する識別子である。ところで、ランク判定行列のランクは雑音除去処理の処理対象のグラフの頂点ごとに得られる。そこで、式（２）が示すＲは、全ての頂点のランクの総和を表す。したがって、Ｒは、グラフの折れ曲がりの度合を示す量である。

　したがって、式（１）の最適化問題を解くことは、雑音除去後のグラフと雑音除去前のグラフとの違いと、グラフの折れ曲がりの度合とが小さくなるように最適化を行うことを意味する。

　図３は、実施形態における変数Ｘ及び∇Ｘの一例を、処理対象のグラフが八面体である場合を例に説明する第１の説明図である。図３は、処理対象の八面体のグラフを示す。

　図４は、実施形態における変数Ｘ及び∇Ｘの一例を、処理対象のグラフが八面体である場合を例に説明する第２の説明図である。図４は、処理対象が図３に示すグラフである場合の、行列Ｐを示す。

　図５は、実施形態における変数Ｘ及び∇Ｘの一例を、処理対象のグラフが八面体である場合を例に説明する第３の説明図である。図５は、処理対象が図３に示すグラフである場合の、向き付け接続行列Ｂを示す。

　図６は、実施形態における変数Ｘ及び∇Ｘの一例を、処理対象のグラフが八面体である場合を例に説明する第４の説明図である。図６は、処理対象が図３に示すグラフである場合の、変数Ｘを示す。

　図７は、実施形態における変数Ｘ及び∇Ｘの一例を、処理対象のグラフが八面体である場合を例に説明する第５の説明図である。図７は、ｋ＝１を例として、処理対象が図３に示すグラフである場合における、∇_ｋＸを示す。

　式（１）の最適化問題は例えば、以下の式（３）～（５）の更新式を逐次的に実行することで解かれる。更新式は補助変数ＹとＺとを含む。上付き文字（ｎ）は、逐次処理における何回目の繰り返しであるかを示す。Ｋは頂点の数を示す。したがって、Ｉ_Κは、行数及び列数がＫの単位行列を示す。Ｌは、処理対象のグラフのグラフラプラシアンを示す。γはステップサイズを示す。

　式（４）及び（５）のfor以降の記号は、ｋが処理対象のグラフの頂点を識別する識別子であることを示す。式（６）のwhere以降の記号は、Ｙの特異値分解の表現を示す。

＜ハードウェア構成の一例の説明＞
　図１の説明に戻り、最適化装置１のハードウェア構成の一例を説明する。最適化装置１は、上述したように制御部１１を備え、プログラムを実行する。最適化装置１は、プログラムの実行によって制御部１１、インタフェース部１２及び記憶部１３を備える装置として機能する。

　より具体的には、プロセッサ９１が記憶部１３に記憶されているプログラムを読み出し、読み出したプログラムをメモリ９２に記憶させる。プロセッサ９１が、メモリ９２に記憶させたプログラムを実行することによって、最適化装置１は、制御部１１、インタフェース部１２及び記憶部１３を備える装置として機能する。

　制御部１１は、例えば雑音除去処理を行う。したがって雑音除去処理には最適化の処理が含まれるので、制御部１１は、雑音除去処理を実行することで、最適化の処理を行う。制御部１１は、例えば最適化装置１が備える各機能部の動作を制御する。制御部１１は、例えばインタフェース部１２を介して、雑音除去処理の処理対象を取得する。処理対象を取得するとは、具体的には、処理対象のグラフを示す行列を取得することを意味する。制御部１１は、例えば記憶部１３の記憶する情報を取得する。記憶部１３の記憶する情報を取得する処理は、具体的には、読み出しである。

　インタフェース部１２は、最適化装置１を外部装置に接続するための通信インタフェースを含んで構成される。インタフェース部１２は、有線又は無線を介して外部装置と通信する。外部装置は、例えば処理対象の送信元の装置である。このような場合、インタフェース部１２は、処理対象の送信元の装置との通信によって処理対象を取得する。外部装置は、例えば雑音除去処理の結果の出力先であってもよい。このような場合、インタフェース部１２は、雑音除去処理の結果の出力先に雑音除去処理の結果の結果を出力する。

　インタフェース部１２は、マウスやキーボード、タッチパネル等の入力装置を含んで構成される。インタフェース部１２は、これらの入力装置を最適化装置１に接続するインタフェースとして構成されてもよい。このように、インタフェース部１２は、入力装置、有線又は無線、を介して最適化装置１に対する各種情報の入力を受け付ける。

　インタフェース部１２は、各種情報を出力する。インタフェース部１２は、例えばＣＲＴ（Cathode Ray Tube）ディスプレイや液晶ディスプレイ、有機ＥＬ（Electro-Luminescence）ディスプレイ等の表示装置を含んで構成される。インタフェース部１２は、これらの表示装置を最適化装置１に接続するインタフェースとして構成されてもよい。インタフェース部１２は、例えばインタフェース部１２に入力された情報を出力する。

　記憶部１３は、磁気ハードディスク装置や半導体記憶装置などのコンピュータ読み出し可能な記憶媒体装置（non-transitory computer-readable recording medium）を用いて構成される。記憶部１３は最適化装置１に関する各種情報を記憶する。記憶部１３は、例えば雑音除去処理に必要な情報を記憶する。記憶部１３は、例えば制御部１１の動作により生じた各種情報を記憶する。記憶部１３は、例えばインタフェース部１２が取得した情報を記憶する。

　図８は、実施形態における最適化装置１が実行する処理の流れの一例を示すフローチャートである。制御部１１が、処理対象を取得する（ステップＳ１０１）。制御部１１が、処理対象に対して、雑音除去処理を行う（ステップＳ１０２）。雑音除去処理には最適化の処理が含まれるので、ステップＳ１０２の実行により、最適化の処理が実行される。

　このように構成された最適化装置１は、処理対象の３次元のグラフの折れ曲がりを示す量として行列のランクを用い、ランクを下げる処理を行う。そのため、処理対象のグラフの折れ曲がりを減らすことができる。上述したように、雑音はグラフの折れ曲がりを生じさせるので、グラフの雑音は行列のランクで評価可能である。そのため、処理対象の３次元のグラフの折れ曲がりを減らす最適化装置１は、３次元のグラフに含まれる雑音を除去することができる。

（適用例）
　処理対象の３次元のグラフは、例えば脳波の分布を示すグラフである。処理対象の３次元のグラフは、例えば３次元点群を示すグラフである。

＜近似式を用いる雑音除去処理＞
　ところで、雑音除去処理の処理対象は３次元のグラフであるため、雑音除去処理では３列行列が現れるが、３列行列を、より次元の低い行列の和で近似できれば雑音除去処理に要する演算時間を短くすることが可能である。なおＮ列行列（Ｎは１以上の整数）とは、列がＮ個の行列である。そこで、雑音除去処理では、例えば以下の近似式（７）を用いて表現された式を解いてもよい。式（７）は、３列行列の核型ノルムを、２列行列の核型ノルムの和に近似する式である。なお式（７）のＳは３列行列を意味する。ｓ_１、ｓ_２、ｓ_３は、３列行列Ｙの１列目、２列目、３列目をそれぞれ表す。

　３次元の行列が２次元の行列の和で表されるので、近似前の式に代えて式（７）の近似式を実行すれば、雑音除去処理をより短い演算時間で実行することが可能である。

　なお、式（７）の近似式は、例えば、上述の式（４）に適用され、適用後の式が雑音除去処理で実行されてもよい。式（４）への式（７）の近似式の適用では、式（４）のＹに対して式（７）の近似式が適用される。このような場合、式（４）において、３列行列の核型ノルムの演算に代えて、２列行列の核型ノルムの和の演算が実行される。

　（実験結果）
　上記式（７）の近似式を用いた近似の精度の高さを評価する実験を行った。
　図９は、変形例における実験結果の一例を示す図である。横軸は、実験において３次元のグラフに加えられた雑音の量を示す。縦軸は、実験において雑音除去処理により除かれた雑音の量を示す。“Optimization (23) with SVD-SVT”は、雑音除去処理において近似を行わなかった場合の結果を示す。”Optimization (31) with FPSVT”は、雑音除去処理において近似を行った場合の結果を示す。

　図９の実験結果は、式（７）の近似を用いた雑音除去処理であっても、近似を用いない場合と略同一の雑音の除去の精度を有することを示す。このように、３列行列の核型ノルムを２列行列の核型ノルムの和に近似することは、精度の低下をほとんど引き起こすことなく、演算時間を短縮することを可能にする。

　このように構成された最適化装置１は、雑音除去処理における３列行列の核型ノルムの値の取得に際して、３列行列の核型ノルムの演算に代えて２列行列の核型ノルムの和の演算を行う。そのため、最適化装置１は、雑音除去処理に要する時間を短くすることができる。

　ところで、ここまで説明してきたように、３列行列の核型ノルムの演算に代えて２列行列の核型ノルムの和の演算が行われれば、３列行列の核型ノルムがより次元の低い行列の和で近似されるので、３列行列の核型ノルムの値の取得に要する時間が短くなる。

　したがって、３列行列の核型ノルムの演算に代えて２列行列の核型ノルムの和の演算を行うことによる演算時間の短縮は、必ずしも雑音の除去の処理だけで生じることではない。３列行列の核型ノルムの値の取得を含む処理であれば、どのような演算においても演算時間を短縮することができる。

　そのため、例えば３列行列の核型ノルムの値の取得の処理を含む最適化の処理に要する時間も、３列行列の核型ノルムの演算に代えて２列行列の核型ノルムの和の演算が行われることで短縮される。

　ところで上述したように雑音除去処理は、３列行列の核型ノルムの値の取得の処理を含む最適化の処理を含む処理であって最適化装置１が実行する処理、の一例である。より具体的には、制御部１１は３列行列の核型ノルムの値の取得の処理を含む最適化の処理を実行するものであり、雑音除去処理はその一例である。そして、３列行列の核型ノルムの演算に代えて２列行列の核型ノルムの和の演算を行うことは雑音除去処理に限らず、３列行列の核型ノルムの値の取得の処理を含む他の処理にも適用可能である。

　したがって、制御部１１が３列行列の核型ノルムの値を２列行列の核型ノルムの和の演算により得ることで、３列行列の核型ノルムの値の取得の処理を含む最適化に要する時間が短縮される。

　図１０は、実施形態における３列行列の核型ノルムの値の取得の処理を含む最適化の処理、の流れの一例を示すフローチャートである。制御部１１が最適化の対象である最適化対象を取得する（ステップＳ２０１）。最適化対象は、例えばインタフェース部１２に入力された対象であってもよいし、制御部１１が実行した他の処理の結果であってもよい。

　次に、制御部１１が、最適化対象に対して、３列行列の核型ノルムの値の取得の処理を含む最適化の処理、を行う（ステップＳ２０２）。ステップＳ２０２において制御部１１は、３列行列の核型ノルムの値を２列行列の核型ノルムの和の演算により得る。

　このように構成された最適化装置１は、３列行列の核型ノルムの値の取得を２列行列の核型ノルムの和によって行うので、最適化に要する時間を短くすることができる。

（変形例）
　なお、最適化装置１は、ネットワークを介して通信可能に接続された複数台の情報処理装置を用いて実装されてもよい。この場合、制御部１１の実行する各処理は、複数の情報処理装置が分散して実行してもよい。

　なお、最適化装置１の各機能の全て又は一部は、ＡＳＩＣ（Application Specific Integrated Circuit）やＰＬＤ（Programmable Logic Device）やＦＰＧＡ（Field Programmable Gate Array）等のハードウェアを用いて実現されてもよい。プログラムは、コンピュータ読み取り可能な記録媒体に記録されてもよい。コンピュータ読み取り可能な記録媒体とは、例えばフレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ－ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置である。プログラムは、電気通信回線を介して送信されてもよい。

＜グラフ理論におけるグラフに関する説明＞
　グラフラプラシアン行列等のグラフ理論おけるグラフについて、具体例を用いて説明を行う。

　図１１は、グラフ理論におけるグラフの一例を示す図である。図１１に示すグラフは１～４の４つの頂点を有する重み付き無向グラフである。図１１に示すグラフの頂点１の次数は３であり、頂点２の次数は２であり、頂点３の次数は３であり、頂点４の次数は２である。

　図１１に示すグラフは、頂点１と頂点２とを結ぶ辺の重みが１．０であり、頂点１と頂点３とを結ぶ辺の重みが１．５であり、頂点１と頂点４とを結ぶ辺の重みが０．８である。したがって、グラフラプラシアン行列の１行１列の成分は１．０＋１．５＋０．８＝３．３であり、グラフラプラシアン行列の１行２列の成分は－１．０であり、グラフラプラシアン行列の１行３列の成分は－１．５であり、グラフラプラシアン行列の１行３列の成分は－０．８である。

　このように、グラフラプラシアン行列のｉ行ｊ列の成分は、ｉとｊとが異なる場合、頂点ｉと頂点ｊとを結ぶ辺の重みに負号を付けた値である。なお、頂点ｉと頂点ｊとが結ばれていない場合、グラフラプラシアン行列のｉ行ｊ列の成分は０である。一方、ｉとｊとが同じ場合（すなわちｉ＝ｊの場合）、グラフラプラシアン行列のｉ行ｊ列の成分は、頂点ｉの辺の重みの和である。すなわち、グラフラプラシアン行列は、次数行列から隣接行列を引き算した結果である。

　図１１に示すグラフでは、頂点２と頂点３とを結ぶ辺の重みが２．２であり、頂点２と頂点１とを結ぶ辺の重みが上述したように１．０であり、頂点２と頂点４とは結ばれていない。したがってグラフラプラシアン行列の対角成分のうち２行２列の成分は２．２＋１．０＝３．２であり、グラフラプラシアン行列の２行１列の成分は－１．０であり、グラフラプラシアン行列の２行３列の成分は－２．２であり、グラフラプラシアン行列の２行４列の成分は０である。

　図１１に示すグラフでは、頂点３と頂点２とを結ぶ辺の重みが上述したように２．２であり、頂点３と頂点１とを結ぶ辺の重みが上述したように１．５であり、頂点３と頂点４とを結ぶ辺の重みが１．２である。したがってグラフラプラシアン行列の対角成分のうち３行３列の成分は、２．２＋１．５＋１．２＝４．９であり、グラフラプラシアン行列の３行１列の成分は－１．５であり、グラフラプラシアン行列の３行２列の成分は－２．２であり、グラフラプラシアン行列の３行４列の成分は－１．２である。

　図１１に示すグラフでは、頂点４と頂点１とを結ぶ辺の重みが上述したように０．８であり、頂点４と頂点３とを結ぶ辺の重みが上述したように１．２であり、頂点４と頂点２とは結ばれていない。したがってグラフラプラシアン行列の対角成分のうち４行４列の成分は０．８＋１．２＝２．０であり、グラフラプラシアン行列の４行１列の成分は－０．８であり、グラフラプラシアン行列の４行２列の成分は０であり、グラフラプラシアン行列の４行３列の成分は－１．２である。

　以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。

　１…最適化装置、　１１…制御部、　１２…インタフェース部、　１３…記憶部、　９１…プロセッサ、　９２…メモリ

Claims

　３列行列の核型ノルムの値の取得の処理を含む最適化の処理、を行う制御部、
　を備え、
　前記制御部は、前記３列行列の核型ノルムの値を２列行列の核型ノルムの和の演算により得る、
　最適化装置。
　前記制御部は、前記最適化の処理を含む処理であって３次元のグラフである３次元グラフの雑音の除去を行う処理である雑音除去処理、を行い、
　前記最適化の処理は、前記３次元グラフを処理対象とする処理であり、前記処理対象のグラフの各頂点について、前記頂点を始点とし前記頂点に隣接する頂点を終点とするベクトルである接続ベクトル、を並べた行列であるランク判定行列のランク、に基づく処理であり、前記処理対象の全ての頂点のランクの総和が前記処理対象の折れ曲がりの度合を示す量として用いられる処理であり、雑音除去後のグラフと雑音除去前のグラフとの違いと、グラフの折れ曲がりの度合とが小さくなるように最適化を行う処理、である、
　請求項１に記載の最適化装置。
　３列行列の核型ノルムの値の取得の処理を含む最適化の処理、を行う制御ステップ、
　を有し、
　前記制御ステップは、前記３列行列の核型ノルムの値を２列行列の核型ノルムの和の演算により得る、
　最適化方法。
　請求項１又は２に記載の最適化装置としてコンピュータを機能させるためのプログラム。