JP7211501B2 - データ変換装置、パターン認識システム、データ変換方法及びデータ変換プログラム - Google Patents

データ変換装置、パターン認識システム、データ変換方法及びデータ変換プログラム Download PDF

Info

Publication number
JP7211501B2
JP7211501B2 JP2021519967A JP2021519967A JP7211501B2 JP 7211501 B2 JP7211501 B2 JP 7211501B2 JP 2021519967 A JP2021519967 A JP 2021519967A JP 2021519967 A JP2021519967 A JP 2021519967A JP 7211501 B2 JP7211501 B2 JP 7211501B2
Authority
JP
Japan
Prior art keywords
data
data conversion
domain
learning
loss
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021519967A
Other languages
English (en)
Other versions
JPWO2020235033A5 (ja
JPWO2020235033A1 (ja
Inventor
雅人 石井
高志 竹之内
将 杉山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2020235033A1 publication Critical patent/JPWO2020235033A1/ja
Publication of JPWO2020235033A5 publication Critical patent/JPWO2020235033A5/ja
Application granted granted Critical
Publication of JP7211501B2 publication Critical patent/JP7211501B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/25—Integrating or interfacing systems involving database management systems
    • G06F16/258—Data format conversion from or to a database
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/28—Databases characterised by their database models, e.g. relational or object models
    • G06F16/284—Relational databases
    • G06F16/285—Clustering or classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本開示は、データ変換装置、パターン認識システム、データ変換方法及び非一時的なコンピュータ可読媒体に関する。
非特許文献１には、異なるドメインに属する複数のデータ集合の間のデータの分布を一致させるようにデータ変換を行うドメイン適応に関する技術が開示されている。また、非特許文献２には、不均衡データの学習に有効な識別評価指標であるAUC（Area Under the Curve）を効率的に最大化するために、AUCの下界となるような最適化しやすい関数を代理AUCとして用いて最大化する方法が開示されている。
Y. Ganin, E. Ustinova, H. Ajakan, P. Germain, H. Larochelle, F. Laviolette, M. Marchand, and V. Lempitsky, "Domain-Adversarial Training of Neural Networks," Journal of Machine Learning Research, vol. 17, num. 59, pp. 1-35, 2016. W. Gao, R. Jin, S. Zhu, and Z.-H. Zhou, "One-pass AUC Optimization,"International Conference on Machine Learning, 2013.
上述した非特許文献１では、クロスエントロピー損失が用いられることが圧倒的に多く、問題に応じて柔軟に損失関数を変更することが難しい。そのため、異なるドメインに属する複数のデータ集合の間のデータ分布を互いに近付けるためのデータ変換の精度が不十分であるという問題点があった。尚、非特許文献２の方法はＡＵＣを最大化するための方法であり、当該問題点を解決することができない。
本開示は、このような問題点を解決するためになされたものであり、異なるドメインに属する複数のデータ集合の間のデータ分布を互いに近付けるためのデータ変換の精度を向上させるためのデータ変換装置、パターン認識システム、データ変換方法及びデータ変換プログラムが格納された非一時的なコンピュータ可読媒体を提供することを目的とする。
本開示の第１の態様にかかるデータ変換装置は、
異なるドメインに属する複数のデータ集合のデータ分布を互いに近付けるように、各データ集合に対してデータ変換を行うデータ変換手段と、
前記データ変換後の複数の第１の変換後データ集合のうち少なくとも一部に対するクラス識別手段によるクラスの識別結果から、クラス識別損失を算出する第１の算出手段と、
前記複数の第１の変換後データ集合のそれぞれに対するドメイン識別手段によるドメインの識別結果から、ドメイン識別損失の上界及び下界を算出する第２の算出手段と、
前記上界が減少するように前記ドメイン識別手段のパラメータを更新し、前記クラス識別損失が減少するように、かつ、前記下界が増大するように前記データ変換手段のパラメータを更新して第１の学習を行う第１の学習手段と、
を備える。
本開示の第２の態様にかかるパターン認識システムは、
異なるドメインに属する複数のデータ集合のデータ分布を互いに近付けるように、各データ集合に対してデータ変換を行うデータ変換手段と、
前記データ変換後の複数の第１の変換後データ集合のうち少なくとも一部に対するクラス識別手段によるクラスの識別結果から、クラス識別損失を算出する第１の算出手段と、
前記複数の第１の変換後データ集合のそれぞれに対するドメイン識別手段によるドメインの識別結果から、ドメイン識別損失の上界及び下界を算出する第２の算出手段と、
前記上界が減少するように前記ドメイン識別手段のパラメータを更新し、前記クラス識別損失が減少するように、かつ、前記下界が増大するように前記データ変換手段のパラメータを更新して第１の学習を行う第１の学習手段と、
前記第１の学習後のパラメータが設定された前記データ変換手段により、前記複数のデータ集合のそれぞれに対して再度のデータ変換が行われた複数の第２の変換後データ集合を用いてパターン認識モデルの第２の学習を行う第２の学習手段と、
前記第２の学習後のパラメータが設定された前記パターン認識モデルを用いて入力されたデータ集合に対するパターン認識を行う認識手段と、
を備える。
本開示の第３の態様にかかるデータ変換方法は、
コンピュータが、
異なるドメインに属する複数のデータ集合のデータ分布を互いに近付けるように、データ変換器を用いて各データ集合に対してデータ変換を行い、
前記データ変換後の複数の第１の変換後データ集合のうち少なくとも一部に対するクラス識別器によるクラスの識別結果から、クラス識別損失を算出し、
前記複数の第１の変換後データ集合のそれぞれに対するドメイン識別器によるドメインの識別結果から、ドメイン識別損失の上界及び下界を算出し、
前記上界が減少するように前記ドメイン識別器のパラメータを更新し、前記クラス識別損失が減少するように、かつ、前記下界が増大するように前記データ変換器のパラメータを更新して学習を行う。
本開示の第４の態様にかかるデータ変換プログラムが格納された非一時的なコンピュータ可読媒体は、
異なるドメインに属する複数のデータ集合のデータ分布を互いに近付けるように、データ変換器を用いて各データ集合に対してデータ変換を行うデータ変換処理と、
前記データ変換後の複数の第１の変換後データ集合のうち少なくとも一部に対するクラス識別器によるクラスの識別結果から、クラス識別損失を算出する第１の算出処理と、
前記複数の第１の変換後データ集合のそれぞれに対するドメイン識別器によるドメインの識別結果から、ドメイン識別損失の上界及び下界を算出する第２の算出処理と、
前記上界が減少するように前記ドメイン識別器のパラメータを更新し、前記クラス識別損失が減少するように、かつ、前記下界が増大するように前記データ変換器のパラメータを更新して学習を行う学習処理と、
をコンピュータに実行させる。
上述の態様によれば、異なるドメインに属する複数のデータ集合の間のデータ分布を互いに近付けるためのデータ変換の精度を向上させるためのデータ変換装置、パターン認識システム、データ変換方法及びデータ変換プログラムが格納された非一時的なコンピュータ可読媒体を提供することができる。
本実施形態１にかかるデータ変換装置の全体構成を示すブロック図である。 本実施形態１にかかるデータ変換方法の流れを示すフローチャートである。 本実施形態２にかかるデータ変換装置の構成を示すブロック図である。 本実施形態２にかかる損失関数の関係を説明するための図である。 本実施形態２にかかるデータ変換装置のハードウェア構成を示すブロック図である。 本実施形態２にかかるデータ変換方法の流れを示すフローチャートである。 本実施形態２にかかるソースデータ集合及びターゲットデータ集合とデータ変換器、クラス識別器及びドメイン識別器の関係を説明するための図である。 本実施形態３にかかるパターン認識システムの構成を示すブロック図である。 本実施形態３にかかるパターン認識装置のハードウェア構成を示すブロック図である。 本実施形態３にかかるパターン認識処理の流れを示すフローチャートである。 課題の発生を説明するための図である。 ドメイン適応後のクラス識別の概念を説明するための図である。
以下では、本開示の実施形態について、図面を参照しながら詳細に説明する。各図面において、同一又は対応する要素には同一の符号が付されており、説明の明確化のため、必要に応じて重複説明は省略される。
ここで、本開示の各実施形態により解決しようとする課題について補足する。まず、パターン認識技術とは、入力されたパターンがどのクラスに属するパターンであるかを推定する技術である。具体的なパターン認識の例としては、画像を入力として写っている物体を推定する物体認識や、音声を入力として発話内容を推定する音声認識などが挙げられる。
パターン認識を実現するために機械学習が広く利用されている。教師あり学習では、認識結果を示すラベルが付与された学習サンプル（学習データ）を事前に収集し、学習サンプルとラベルとに基づき、学習データとラベルとの関係性を表すモデルを作成する。作成したモデルを、ラベルの付されていない認識すべきテストサンプル（テストデータ）に適用することで、パターン認識の結果を得る。
多くの機械学習手法では、学習データの分布とテストデータの分布とが一致していることを仮定している。しかし、一般に学習データを取得する環境（ドメイン）とテストデータを取得する環境は異なることが多く、環境の違いに起因してデータの分布が変化してしまう。学習データとテストデータとでデータの分布が異なっていると、図１１に示すように、異なりの度合に応じてパターン認識の性能が低下してしまうという問題が発生する。
図１１において、ソースデータＳＤは、（後述するデータ変換前の）データ集合（学習データ）であり、黒丸及び黒×印の複数のデータが分布していることを示す。また、ターゲットデータＴＤは、（データ変換前の）データ集合（テストデータ）であり、白丸及び白×印の複数のデータが分布していることを示す。ここで、丸と×印とは、それぞれのクラスを示すものとする。たとえば、丸は、正のラベルが付与されたデータを表し、×は、負のラベルが付与されたデータを表す。そして、ソースデータSDが分布している範囲が、ターゲットデータTDが分布している範囲と異なっているということによって、ソースデータＳＤとターゲットデータＴＤとが、データ分布に乖離があることを示している。そして、クラス識別境界ＢＬは、ソースデータＳＤを教師データとして所定のクラス識別器を学習したことに伴うクラス識別の境界線を示す。この場合、クラス識別境界ＢＬに従いターゲットデータTDの各データ（サンプル）のクラスを判定する場合に、ターゲットデータＴＤの各データのうち一部の誤認識データＭＤ（４つの白×印）が生じてしまうことを例示している。
この問題を回避するため、データの分布を一致させるようにデータ変換(data transformation)（例えば、特徴変換（feature transformation））を行うドメイン適応（domain adaptation）と呼ばれる技術が提案されている。例えば、学習データ(training data)とテストデータ(test data)の間で事前にドメイン適応（データ変換）を行うことにより、図１２に示すように学習データのデータ分布とテストデータのデータ分布とを互いに近付ける。そして、適応後の学習データ（変換後ソースデータＳＤＴ）に対してクラス識別器を作成する。これにより、ターゲットデータＴＤの分布からの乖離が少ないソースデータSDを用いてクラス識別器が作成されるので、学習済みのクラス識別器（のクラス識別境界ＢＬＴ）によって、適応後のテストデータ（変換後ターゲットデータＴＤＴ）に対して高い認識性能を達成することができる。ここで、ドメイン適応では、適応元をソースドメインと呼び、そのデータをソースデータと呼び、適応先をターゲットドメインと呼び、そのデータをターゲットデータと呼んでも良い。
近年のドメイン適応の多く（例えば、非特許文献１）は、敵対的学習の枠組みを採用している。この枠組みでは、データ変換を行った後のデータがどのドメインに属するデータであるかを識別するドメイン識別器を導入する。ドメイン適応の学習においては、ドメイン識別器の識別精度(precision accuracy)が高くなるようにドメイン識別器を学習し、同時に、ドメイン識別器の識別精度が低くなるようにデータ変換処理を行うデータ変換器（data transformer）を学習する。ドメイン識別器は、あるデータが、ソースドメインにあるのか、または、ターゲットドメインにあるのかを判定する識別器である。このように敵対的な学習を行うことにより、十分に学習した後のドメイン識別器でも識別できないようなデータへの変換を行うデータ変換器を得ることができる。すなわち、ソースドメインとターゲットドメインの間でそれぞれのデータ変換後のデータ分布が十分に一致している（すなわち、乖離が少ない）ようなデータ変換器を得ることができる。
ここで、敵対的学習にはクロスエントロピー損失を用いることが多い。これは、クロスエントロピー損失を用いると、ニューラルネットワークを効率的に学習できることが多いためである。この時、ドメイン識別器の学習ではクロスエントロピー損失が小さくなるようにドメイン識別器のパラメータを更新し、一方、データ変換器の学習ではクロスエントロピー損失が大きくなるようにデータ変換器のパラメータを更新する。
ここで、非特許文献１等の関連技術にかかる敵対的学習に基づくドメイン適応では、「単一の損失関数について、ドメイン識別器に関しては最小化し、データ変換器に関しては最大化する」というアプローチをとっているため、最大化及び最小化のどちらも効率的かつ効果的に行うことのできる損失関数しか用いることができない。これにより、関連技術ではクロスエントロピー損失が用いられることが圧倒的に多く、問題に応じて柔軟に損失関数（loss function）を変更することが難しかった。
例えばターゲットデータがソースデータよりも著しく少ない場合を考える。この時、ドメイン識別器は、どのようなデータが入力された場合でもソースデータであると識別（判定）することで、ドメイン識別に関して高い識別率を達成してしまう。しかし、実際には意味のある識別を行っていないため、このようなドメイン識別器に対して敵対的な学習を行っても、有効なドメイン適応を行うことはできない。そこで、ドメイン識別器の学習のために、不均衡データの学習に有効な識別評価指標であるAUC（Area Under the Curve）を損失の計算に用いることが考えられる。しかし、これを敵対的学習に用いることは難しい。なぜなら、データから計算されるAUCはパラメータについて不連続な関数であり、最大化及び最小化を効率的に行うことが難しいためである。一方で、例えば、上述した非特許文献２には、AUCを効率的に最大化するために、AUCの下界となるような最適化しやすい関数を代理AUCとして用いて最大化する方法が提案されている。しかし、非特許文献２はAUCを最大化するための方法であり、敵対的学習に必要な最小化を効果的に行うことができない。
本開示は、上述した課題の少なくとも一部を解決するためのものであり、以下に各実施形態について説明する。
＜実施形態１＞
図１は、本実施形態１にかかるデータ変換装置１の全体構成を示すブロック図である。データ変換装置１は、異なるドメインに属する複数のデータ集合を用いて、少なくともデータ変換手段及びドメイン識別手段の学習を行った上で、学習済みのデータ変換手段により各データ集合のデータ変換を行うコンピュータである。ここで、データ集合とは、例えば、特定の画像や音声データ等から抽出された特徴データの集合（特徴情報、特徴ベクトル）であり、何等かのドメインに属するものとする。特徴情報は、たとえば、SIFT（Scale-Invariant Feature Transform）特徴量、SURF（Speeded-Up Robust Feature）によって実現することができる。また、データ変換手段及びドメイン識別手段、並びに、後述するクラス識別手段は、例えばデータ変換器、ドメイン識別器及びクラス識別器であり、それぞれ１以上の設定値の集合（パラメータ）を用いて所定の処理を行うハードウェア又はソフトウェアモジュールである。データ変換装置１は、データ変換部１１と、第１の算出部１２と、第２の算出部１３と、第１の学習部１４とを備える。
データ変換部１１は、異なるドメインに属する複数のデータ集合のデータ分布を互いに近付けるように、各データ集合に対してデータ変換を行うデータ変換手段の一例である。ここで、複数のデータ集合は、少なくとも２以上であり、例えば、ソースドメインに属するソースデータ集合と、ターゲットドメインに属するターゲットデータ集合を含むものであってもよい。そして、データ変換部１１は、各データ集合からデータ変換後の複数の第１の変換後データ集合を生成する。つまり、データ変換部１１は、複数のデータ集合のそれぞれについて個別に変換後データ集合に変換する（transform）。尚、データ変換部１１は、複数のデータ集合についてまとめてデータ変換を行っても良い。また、データ変換部１１は、複数のデータ集合のうち一部について残りのデータ集合へデータ分布を近付けるようにデータ変換を行っても良い。
第１の算出部１２は、複数の第１の変換後データ集合のうち少なくとも一部に対するクラス識別手段によるクラスの識別結果から、クラス識別損失を算出する第１の算出手段の一例である。尚、第１の算出部１２は、複数の第１の変換後データ集合の全てのデータに対するクラスの識別結果を用いても良い。また、クラス識別手段によるクラスの識別処理は、データ変換装置１の外部又は内部のいずれで実行されてもよい。
第２の算出部１３は、複数の第１の変換後データ集合のそれぞれに対するドメイン識別手段によるドメインの識別結果から、ドメイン識別損失の上界及び下界を算出する第２の算出手段の一例である。ドメイン識別手段によるドメインの識別処理は、データ変換装置１の外部又は内部のいずれで実行されてもよい。
第１の学習部１４は、上界が減少するよう（例えば、上界を最小化するよう）にドメイン識別手段のパラメータを更新する。また、第１の学習部１４は、クラス識別損失が減少するよう（例えば、クラス識別損失を最小化するよう）に、かつ、下界が増大するよう（例えば、下界を最大化するよう）にデータ変換手段のパラメータを更新する。第１の学習部１４は、少なくともドメイン識別手段及びデータ変換手段のパラメータのこのような更新をして第１の学習を行う第１の学習手段の一例である。
図２は、本実施形態１にかかるデータ変換方法の流れを示すフローチャートである。まず、データ変換装置１は、異なるドメインに属する複数のデータ集合のデータ分布を互いに近付けるように、データ変換器を用いて各データ集合に対してデータ変換を行う（Ｓ１１）。
次に、データ変換装置１は、データ変換後の複数の第１の変換後データ集合のうち少なくとも一部に対するクラス識別器によるクラスの識別結果から、クラス識別損失を算出する（Ｓ１２）。
また、データ変換装置１は、複数の第１の変換後データ集合のそれぞれに対するドメイン識別器によるドメインの識別結果から、ドメイン識別損失の上界及び下界を算出する（Ｓ１３）。
ステップＳ１２及びＳ１３の後、データ変換装置１は、上界が減少するようにドメイン識別器のパラメータを更新し、クラス識別損失が減少するように、かつ、下界が増大するようにデータ変換器のパラメータを更新して学習を行う（Ｓ１４）。
このように、本実施形態にかかるデータ変換装置１は、複数のデータ集合のそれぞれをデータ変換し、データ変換後のデータ集合についてクラス識別損失、並びに、ドメイン識別損失の上界及び下界を算出する。そして、データ変換装置１は、クラス識別損失及びドメイン識別損失の上界が減少するようにデータ変換手段及びドメイン識別手段を学習する。併せて、データ変換装置１は、ドメイン識別損失の下界が増大するようにデータ変換手段を学習する。その後、データ変換装置１は、学習済みのデータ変換手段により複数のデータ集合のそれぞれをデータ変換することができる。つまり、データ変換部１１は、複数のデータ集合のそれぞれに対して、第１の学習後のパラメータを用いて再度のデータ変換を行うことができる。言い換えると、データ変換装置１は、学習済みのパラメータが設定されたデータ変換器により、入力の複数のデータ集合のそれぞれに対してデータ変換を行うことができる。そのため、特定の損失関数に依存せず、問題に応じて柔軟に損失関数を変更することが容易となり、異なるドメインに属する複数のデータ集合の間のデータ分布を互いに近付けるためのデータ変換の精度を向上させることができる。
尚、データ変換装置１は、図示しない構成としてプロセッサ、メモリ及び記憶装置を備えるものである。また、当該記憶装置には、本実施形態にかかるデータ変換方法の処理が実装されたコンピュータプログラムが記憶されている。そして、当該プロセッサは、記憶装置からコンピュータプログラムを前記メモリへ読み込み、当該コンピュータプログラムを実行する。これにより、前記プロセッサは、データ変換部１１、第１の算出部１２、第２の算出部１３及び第１の学習部１４の機能を実現する。
または、データ変換部１１、第１の算出部１２、第２の算出部１３及び第１の学習部１４は、それぞれが専用のハードウェアで実現されていてもよい。また、各装置の各構成要素の一部又は全部は、汎用または専用の回路（circuitry）、プロセッサ等やこれらの組合せによって実現されもよい。これらは、単一のチップによって構成されてもよいし、バスを介して接続される複数のチップによって構成されてもよい。各装置の各構成要素の一部又は全部は、上述した回路等とプログラムとの組合せによって実現されてもよい。また、プロセッサとして、ＣＰＵ（Central Processing Unit）、ＧＰＵ（Graphics Processing Unit）、ＦＰＧＡ（field-programmable gate array）等を用いることができる。
また、データ変換装置１の各構成要素の一部又は全部が複数の情報処理装置や回路等により実現される場合には、複数の情報処理装置や回路等は、集中配置されてもよいし、分散配置されてもよい。例えば、情報処理装置や回路等は、クライアントサーバシステム、クラウドコンピューティングシステム等、各々が通信ネットワークを介して接続される形態として実現されてもよい。また、データ変換装置１の機能がＳａａＳ（Software as a Service）形式で提供されてもよい。
＜実施形態２＞
本実施形態２は、上述した実施形態１の改良例である。
図３は、本実施形態２にかかるデータ変換装置１００の構成を示すブロック図である。データ変換装置１００は、上述したデータ変換装置１の一実施例である。ここで、以下では、パターンをｘ、パターンが属するクラスをｙ、パターンが属するドメインをｄと表記する。クラスはｙ＝１、・・・、ＣのＣ個とし、ドメインはソースドメインとターゲットドメインの２つとする。ソースドメインについては（ｘ，ｙ）の組がＮ個与えられているとし、これをソースデータＳＤと呼ぶ。また、ターゲットドメインはラベル付けされていないｘをＭ個含むものとし、これをターゲットデータＴＤと呼ぶ。尚、ソースデータＳＤ及びターゲットデータＴＤのそれぞれは、上述したデータ集合の一例である。
データ変換器、クラス識別器及びドメイン識別器は、いずれもニューラルネットワークを用いて実現されているとし、それぞれのネットワークをＮＮｆ、ＮＮｃ、ＮＮｄと表記する。また、データ変換ニューラルネットワークＮＮｆのパラメータをθｆ、クラス識別ニューラルネットワークＮＮｃのパラメータをθｃ、ドメイン識別ニューラルネットワークＮＮｄのパラメータをθｄとする。本実施形態では、ソースデータＳＤとターゲットデータＴＤで同じデータ変換器を用いるが、ドメインごとに異なるデータ変換器を用いても良い。また、データ変換器、クラス識別器及びドメイン識別器はニューラルネットワークに限らず、一般的に機械学習で用いられる手法（例えば線形変換やカーネル識別器など）を用いても良い。
ここで、データ変換装置１００は、ソースデータＳＤ及びターゲットデータＴＤの入力を受け付け、後述する学習を行う。これにより、変換後において、ソースデータＳＤとターゲットデータＴＤの分布が十分に近く、かつ、ソースデータＳＤのクラス識別を高精度に行うことができる、という性質を満たすデータ変換を実現するＮＮｆを学習によって獲得する。そして、データ変換装置１００は、学習済みのデータ変換器（ＮＮｆ）を用いてソースデータＳＤ及びターゲットデータＴＤをデータ変換し、変換後ソースデータＳＤＴ及び変換後ターゲットデータＴＤＴとして出力する。
ここで、本実施形態では、ターゲットデータＴＤの数がソースデータＳＤの数に比べて少ない状況（Ｍ＜Ｎ）を仮定する。本実施形態によって、このような不均衡な状況でも効率的に学習できる損失（具体的にはＡＵＣ損失）をドメイン識別器の学習に用いることができ、前述のような好ましい性質をもったデータ変換を効果的に学習する。
データ変換装置１００は、データ変換部１０１と、クラス識別部１０２と、クラス識別損失算出部１０３と、ドメイン識別部１０４と、ドメイン識別損失上界算出部１０５と、ドメイン識別損失下界算出部１０６と、損失最小化部１０７と、損失最大化部１０８と、出力部１０９とを備える。尚、データ変換部１０１は、上述したデータ変換部１１の一例である。また、クラス識別損失算出部１０３は、上述した第１の算出部１２の一例である。また、ドメイン識別損失上界算出部１０５及びドメイン識別損失下界算出部１０６は、上述した第２の算出部１３の一例である。また、損失最小化部１０７及び損失最大化部１０８は、上述した第１の学習部１４の一例である。
データ変換部１０１は、ソースデータＳＤとターゲットデータＴＤからランダムに抽出したサンプルに対してデータ変換ニューラルネットワークＮＮｆを用いてデータ変換を行う。つまり、データ変換部１０１は、ソースデータＳＤの少なくとも一部に対してデータ変換ニューラルネットワークＮＮｆを用いてデータ変換を行う。また、データ変換部１０１は、ターゲットデータＴＤの少なくとも一部に対してデータ変換ニューラルネットワークＮＮｆを用いてデータ変換を行う。そして、データ変換部１０１は、データ変換後のソースデータをクラス識別部１０２及びドメイン識別部１０４へ出力し、データ変換後のターゲットデータを少なくともドメイン識別部１０４へ出力する。ここで、データ変換後のデータをＮＮｆ（ｘ；θｆ）とする。
クラス識別部１０２は、データ変換部１０１によるデータ変換後のソースデータを入力とし、クラス識別ニューラルネットワークＮＮｃを用いて各データの属するクラスを識別する。尚、ターゲットデータのラベルが与えられる場合には、データ変換後のターゲットデータを入力としても良く、さらに、データ変換後のソースデータ及びターゲットデータの両方を入力としても良い。
ここで、クラス識別ニューラルネットワークＮＮｃは、クラスの識別を行うニューラルネットワークとして一般的によく用いられるように、クラスごとの事後確率ｐ（ｙ｜ｘ）を出力するものとする。ここで、クラス識別結果をＮＮｃ（ＮＮｆ（ｘ；θｆ）；θｃ）とする。
クラス識別損失算出部１０３は、クラス識別部１０２で算出されたクラス識別結果を入力として、クラス識別結果に対する損失を算出する。本実施形態では、クラス識別の損失として一般的によく用いられているクロスエントロピー損失を用いる。クラス識別損失をＬｃとすると、クロスエントロピー損失を用いた時のＬｃは以下の式（１）のように定義される。
Figure 0007211501000001
 但し、Ｈ(*)は引数が真であれば１、偽であれば０をとる指示関数、ＮＮｃ (i)はi番目のクラスに対応するＮＮｃの出力である。
ドメイン識別部１０４は、データ変換部１０１によるデータ変換後のソースデータ及びターゲットデータを入力とし、ドメイン識別ニューラルネットワークＮＮｄを用いてデータ集合の属するドメインを識別する。ここで、ＮＮｄの出力をＮＮｄ（ＮＮｆ（ｘ；θｆ）；θｄ）とする。ドメインはソースかターゲットの２種類であるため、ＮＮｄは２クラス識別を行うニューラルネットワークとなる。本実施形態では、ＮＮｄの出力は、入力データがターゲットドメインに属する可能性を表すスコアとする。すなわち、データがターゲットドメインに属する可能性が高ければ大きいスコアとなり、ソースドメインに属する可能性が高ければ小さいスコアとなる。
ドメイン識別損失上界算出部１０５は、ドメイン識別部１０４で算出されたドメイン識別結果を入力として、ドメイン識別結果に対する損失の上界を算出する。本実施形態では、ターゲットデータの数がソースデータの数より非常に少ないため、このような不均衡データ（imbalanced data）の学習に頑健なＡＵＣ損失をドメイン識別損失として用いる。ターゲットデータから抽出したサンプルをｘ、ソースデータから抽出したサンプルをｘ’とすると、ＡＵＣ損失は以下の式（２）のように定義される。
Figure 0007211501000002
 但し、ｋ０－１（ａ）はａ＜０で１、ａ＞＝０で０となる０－１損失関数である。ドメイン識別損失の上界を算出するため、本実施形態ではヒンジ損失関数を用いてＡＵＣ損失の上界Ｌｕ ｄを以下の式（３）のように定義する。
Figure 0007211501000003
 但し、ｋｈ（ａ）はａ＜１で１－ａ、ａ＞＝１で０となるヒンジ損失関数である。図４に示すように、ヒンジ損失関数は０－１損失関数よりも小さい値をとることはないため、Ｌｕ ｄはＡＵＣ損失の上界となる。
ドメイン識別損失下界算出部１０６は、ドメイン識別部１０４で算出されたドメイン識別結果を入力として、ドメイン識別結果に対する損失の下界を算出する。本実施形態では、ヒンジ損失関数を用いてＡＵＣ損失の下界Ｌｌ ｄを以下の式（４）のように定義する。
Figure 0007211501000004
 図４に示すように、１－ｋｈ（－ａ）は０－１損失関数よりも大きい値をとることはないため、Ｌｌ ｄはＡＵＣ損失の下界となる。
損失の上界、及び、損失の下界は、必ずしも、ヒンジ関数を用いて表されていなくともよい。損失の上界は、たとえば、aの値が０のときの損失が１であり（すなわち、０－１損失関数の値と一致する）、aの値が大きくなるにつれて０に収束し、aの値が小さくなるにつれて値が大きくなるような関数であってもよい。また、損失の下界は、たとえば、aの値が０のときの損失が０であり（すなわち、０－１損失関数の値と一致する）、aの値が小さくなるにつれて１に収束し、aの値が大きくなるにつれて値が小さくなるような関数であってもよい。また、損失の上界、及び、損失の下界は、必ずしも、１つの関数（たとえば、ヒンジ損失関数）によって表されていなくともよい。たとえば、損失の上界を表す関数と、損失の下界を表す関数とが異なる関数を用いて表されていてもよい。式（３）、及び、式（４）に示されているように、損失の上界を表す関数と、損失の下界を表す関数を１つの関数（たとえば、ヒンジ損失関数）を用いて表すことによって、ドメイン識別損失下界算出部１０６と、ドメイン識別損失上界算出部１０５とにおける処理を、１つの機能（ヒンジ損失関数を算出する機能）を用いて実現することができるという効果を奏する。
損失最小化部１０７は、クラス識別損失算出部１０３で算出されたクラス識別損失と、ドメイン識別損失上界算出部１０５で算出されたドメイン識別損失上界値とを用いて、これらの損失を最小化するようにデータ変換器、クラス識別器及びドメイン識別器のパラメータを更新する。本実施形態では、パラメータの更新方法として、ニューラルネットワークの学習に一般的に良く用いられる確率的勾配降下法を用いる。この時、損失最小化部では、以下の式（５－１）から（５－３）のようにパラメータを更新する。
Figure 0007211501000005
 但し、μは事前に設定した学習係数である。
損失最大化部１０８は、ドメイン識別損失下界算出部１０６で算出されたドメイン識別損失下界値を用いて、この値を最大化するようにデータ変換器のパラメータを更新する。損失最小化部１０７と同様に確率的勾配降下法を用いると、パラメータは以下の式（６）のように更新される。
Figure 0007211501000006
尚、損失最小化部１０７及び損失最大化部１０８は、上述した実施形態１の第１の学習において、クラス識別損失を最小化するようにクラス識別手段のパラメータをさらに更新したものといえる。
また、損失最小化部１０７及び損失最大化部１０８は、上述した実施形態１の第１の学習手段に対して、ドメイン識別手段の第１の学習において、AUC（Area Under the Curve）を用いるものといえる。
データ変換装置１００は、データ変換からパラメータ更新までの処理を繰り返し行うことでパラメータの学習（第１の学習）を行う。学習により、データ変換部１０１、クラス識別部１０２、ドメイン識別部１０４のパラメータが更新される。
データ変換部１０１は、パラメータの学習が所定条件を満たした場合に、学習が収束したと判断し、再度、ソースデータＳＤ及びターゲットデータＴＤのそれぞれに対してデータ変換を行う。このとき、データ変換部１０１のパラメータは、学習が収束した後のものが用いられる。尚、所定条件とは、例えば、繰り返し回数や処理時間の上限値等であるが、これらに限定されない。
出力部１０９は、データ変換部１０１により学習後のパラメータを用いて再度のデータ変換が行われた複数の第２の変換後データ集合を出力する第１の出力手段の一例である。本実施形態では、出力部１０９は、学習後のＮＮｆでデータ変換した変換後ソースデータＳＤＴ及び変換後ターゲットデータＴＤＴを複数の第２の変換後データ集合として出力する。尚、出力部１０９は、学習後のデータ変換部１０１のパラメータを出力する第２の出力手段であってもよい。また、出力部１０９は、学習後のクラス識別部１０２のパラメータが設定されたクラス識別部１０２を出力する第３の出力手段であってもよい。また、出力部１０９は、第１の出力手段、第２の出力手段及び第３の出力手段の一部又は全ての機能を有するものであればよい。
図５は、本実施形態２にかかるデータ変換装置１００のハードウェア構成を示すブロック図である。データ変換装置１００は、記憶装置１１０と、制御部１２０と、メモリ１３０と、ＩＦ（ＩｎｔｅｒＦａｃｅ）部１４０とを備える。記憶装置１１０は、ハードディスク、フラッシュメモリ等の不揮発性記憶装置である。記憶装置１１０は、データ変換器１１１と、クラス識別器１１２と、ドメイン識別器１１３と、データ変換プログラム１１４とを記憶する。
データ変換器１１１は、入力されたデータ集合から他のデータ集合へ各データを変換する処理が実装されたプログラムモジュールやモデル式である。例えば、データ変換器１１１は、ソースデータＳＤの中からランダムにサンプリングされた複数のデータを入力データとし、各入力データに所定のパラメータ１１１１（重み付け係数）を用いて演算される数学モデルである。尚、本実施形態の説明では、データ変換器１１１は、データ変換ニューラルネットワークＮＮｆに相当するが、これに限定されず、サポートベクターマシン等で表現されたものであってもよい。
クラス識別器１１２は、入力されたデータ集合の少なくとも一部のデータがいずれのクラスに属するかを識別する処理が実装されたプログラムモジュールやモデル式である。例えば、クラス識別器１１２は、ソースデータＳＤに対してデータ変換器１１１によるデータ変換後のデータ集合の各データを入力データとし、各入力データに所定のパラメータ１１２１を用いて演算される数学モデルである。尚、本実施形態の説明では、クラス識別器１１２は、クラス識別ニューラルネットワークＮＮｃに相当するが、これに限定されず、サポートベクターマシン等で表現されたものであってもよい。
ドメイン識別器１１３は、入力されたデータ集合がいずれのドメインに属するかを識別する処理が実装されたプログラムモジュールやモデル式である。例えば、ドメイン識別器１１３は、ソースデータＳＤ及びターゲットデータＴＤに対してデータ変換器１１１によるデータ変換後のデータ集合の各データを入力データとし、各入力データに所定のパラメータ１１３１を用いて演算される数学モデルである。尚、本実施形態の説明では、ドメイン識別器１１３は、ドメイン識別ニューラルネットワークＮＮｄに相当するが、これに限定されず、サポートベクターマシン等で表現されたものであってもよい。
データ変換プログラム１１４は、本実施形態にかかるデータ変換方法の処理が実装されたコンピュータプログラムである。
メモリ１３０は、ＲＡＭ（Random Access Memory）等の揮発性記憶装置であり、制御部１２０の動作時に一時的に情報を保持するための記憶領域である。ＩＦ部１４０は、データ変換装置１００の外部との入出力を行うインタフェースである。例えば、ＩＦ部１４０は、外部からの入力データを制御部１２０へ出力し、制御部１２０から受け付けたデータを外部へ出力する。
制御部１２０は、データ変換装置１００の各構成を制御するプロセッサつまり制御装置である。制御部１２０は、記憶装置１１０からデータ変換プログラム１１４をメモリ１３０へ読み込み、データ変換プログラム１１４を実行する。また、制御部１２０は、記憶装置１１０からデータ変換器１１１、クラス識別器１１２及びドメイン識別器１１３を適宜、メモリ１３０へ読み込み、実行する。これにより、制御部１２０は、データ変換部１０１、クラス識別部１０２、クラス識別損失算出部１０３、ドメイン識別部１０４、ドメイン識別損失上界算出部１０５、ドメイン識別損失下界算出部１０６、損失最小化部１０７、損失最大化部１０８及び出力部１０９の機能を実現する。また、制御部１２０は、学習に伴い、記憶装置１１０内のパラメータ１１１１、パラメータ１１２１及びパラメータ１１３１を更新する。
図６は、本実施形態２にかかるデータ変換方法の流れを示すフローチャートである。まず、データ変換装置１００は、ソースデータＳＤ及びターゲットデータＴＤの入力を受け付ける（Ｓ２００）。そして、データ変換部１０１は、データ変換ニューラルネットワークＮＮｆによりソースデータＳＤのデータ変換を行う（Ｓ２０１）。また、データ変換部１０１は、データ変換ニューラルネットワークＮＮｆによりターゲットデータＴＤのデータ変換を行う（Ｓ２０２）。
ステップＳ２０１の後、クラス識別部１０２は、ソースデータＳＤのデータ変換後のデータ集合の各データについて、クラス識別ニューラルネットワークＮＮｃによりクラス識別を行う（Ｓ２０３）。
また、ステップＳ２０１及びＳ２０２の後、ドメイン識別部１０４は、ソースデータＳＤ及びターゲットデータＴＤのデータ変換後の各データ集合について、ドメイン識別ニューラルネットワークＮＮｄによりドメイン識別を行う（Ｓ２０５）。
ここで、図７は、本実施形態２にかかるソースデータ及びターゲットデータとデータ変換器、クラス識別器及びドメイン識別器の関係を説明するための図である。上述した通り、ソースデータＳＤはデータ変換ニューラルネットワークＮＮｆに入力され、変換後データ集合がクラス識別ニューラルネットワークＮＮｃ及びドメイン識別ニューラルネットワークＮＮｄへ出力される。その結果、クラス識別ニューラルネットワークＮＮｃは、クラス識別結果ＣＲＳを出力し、ドメイン識別ニューラルネットワークＮＮｄは、ドメイン識別結果ＤＲＳを出力する。また、ターゲットデータＴＤはデータ変換ニューラルネットワークＮＮｆに入力され、変換後データ集合がドメイン識別ニューラルネットワークＮＮｄへ出力される。その結果、ドメイン識別ニューラルネットワークＮＮｄは、ドメイン識別結果ＤＲＴを出力する。
図６に戻り説明を続ける。ステップＳ２０３の後、クラス識別損失算出部１０３は、クラス識別結果ＣＲＳからクラス識別損失を算出する（Ｓ２０４）。
また、ステップＳ２０５の後、ドメイン識別損失上界算出部１０５は、ドメイン識別結果ＤＲＳ及びＤＲＴから、ドメイン識別損失の上界を算出する（Ｓ２０６）。併せて、ドメイン識別損失下界算出部１０６は、ドメイン識別結果ＤＲＳ及びＤＲＴから、ドメイン識別損失の下界を算出する（Ｓ２０７）。
ステップＳ２０４及びＳ２０６の後、損失最小化部１０７は、クラス識別損失とドメイン識別損失の上界とを最小化する（Ｓ２０８）。つまり、損失最小化部１０７は、上述したように、データ変換器１１１、クラス識別器１１２及びドメイン識別器１１３のパラメータを更新する。
また、ステップＳ２０７の後、損失最大化部１０８は、ドメイン識別損失の下界を最大化する（Ｓ２０９）。つまり、損失最大化部１０８は、上述したように、データ変換器１１１のパラメータを更新する。
ステップＳ２０８及びＳ２０９の後、データ変換装置１００は、損失最小化部１０７及び損失最大化部１０８の学習が収束したか否かを判定する（Ｓ２１０）。つまり、データ変換装置１００は、学習が所定条件を満たすか否かを判定する。
学習が所定条件を満たさない場合、ステップＳ２０１及びＳ２０２へ戻り、学習が収束するまで処理を繰り返す。学習が所定条件を満たした場合、データ変換部１０１は、学習済みパラメータを用いてソースデータＳＤのデータ変換を行う。そして、出力部１０９は、変換後ソースデータＳＤＴを出力する（Ｓ２１１）。併せて、データ変換部１０１は、学習済みパラメータを用いてターゲットデータＴＤのデータ変換を行う。そして、出力部１０９は、変換後ターゲットデータＴＤＴを出力する（Ｓ２１２）。
このように、本実施形態では、データが属するドメインごとにデータの分布が異なる状況において、あるドメイン（ソースドメイン）のデータの分布が別のドメイン（ターゲットドメイン）のデータの分布に近くなるようにデータを変換する場合を対象としている。本実施形態では、この場合に、データ分布間の近さを測る指標として直接最適化することが困難な指標を用いる場合でも、適切かつ効率的なデータ変換を行うことができる。例えば、敵対的学習に基づくドメイン適応において、直接最適化することが難しい評価指標をドメイン識別損失として用いて、敵対的学習に導入できるようにすることで、問題に応じた柔軟な損失関数の変更を可能にすることができる。そのため、直接最適化することが難しい評価指標をドメイン識別損失として用いた場合でも、効率的に敵対的学習を行い、データ変換を学習することができる。言い換えると、本実施形態では、データ変換の敵対的学習において、単一の損失について最大化と最小化を行うのではなく、最小化を行う際には損失の上界値を最小化し、最大化を行う際には損失の下界値を最大化する。これにより、元の損失が直接最適化することが難しい場合でも、最適化を効率的に行うことのできる上界値・下界値を代わりに用いることで、効率的な敵対的学習を実現できる。
＜実施形態３＞
本実施形態３は、上述した実施形態２のデータ変換装置１００を用いた具体的な実施例である。図８は、本実施形態３にかかるパターン認識システム１０００の構成を示すブロック図である。パターン認識システム１０００は、データ変換装置１００と、パターン認識装置２００とを備える情報システムである。尚、パターン認識システム１０００は、データ変換装置１００とパターン認識装置２００とをまとめて１台のコンピュータで実現しても良く、これらを機能ごとに複数台のコンピュータに分散して実現してもよい。パターン認識システム１０００は、例えば、画像認識や音声認識等の用途に用いられる。但し、パターン認識システム１０００は、その他の用途にて用いられてもよい。ここで、データ変換装置１００は、入力されたソースデータＳＤ（学習データ）及びターゲットデータＴＤ（テストデータ）に対して特徴変換（データ変換）を行う。そして、データ変換装置１００は、変換後ソースデータＳＤＴを後述する学習部２０１、変換後ターゲットデータＴＤＴを後述する認識部２０２に出力する。その他、データ変換装置１００は、上述した実施形態２と同様であるため、詳細な説明を省略する。
パターン認識装置２００は、上述した実施形態２の出力部１０９により出力された複数の第２の変換後データ集合を用いて学習されたパターン認識モデルを備える装置である。パターン認識装置２００は、学習部２０１と、認識部２０２とを備える。
学習部２０１は、データ変換装置１００にてデータ変換が行われた学習データ（変換後ソースデータＳＤＴ）に基づいて、例えばサポートベクターマシン、ニューラルネットワーク等に基づく認識モデルを学習する。学習部２０１は、第１の学習後のパラメータが設定されたデータ変換手段により、複数のデータ集合のそれぞれに対して再度のデータ変換が行われた複数の第２の変換後データ集合を用いてパターン認識モデルの第２の学習を行う第２の学習手段の一例である。
認識部２０２は、学習部２０１にて学習された認識モデルを用いて、データ変換装置１００にてデータ変換されたテストデータ（変換後ターゲットデータＴＤＴ）の認識を行う。認識部２０２は、認識結果Ｒを、例えば図示しない任意の種類の記憶手段、通信ネットワーク又は任意の種類の表示手段等に出力する。認識部２０２は、第２の学習後のパラメータが設定されたパターン認識モデルを用いて所定のデータに対するパターン認識を行う認識手段の一例である。
図９は、本実施形態３にかかるパターン認識装置２００のハードウェア構成を示すブロック図である。パターン認識装置２００は、記憶装置２１０と、制御部２２０と、メモリ２３０と、ＩＦ部２４０とを備える情報処理装置である。記憶装置２１０は、ハードディスク、フラッシュメモリ等の不揮発性記憶装置である。記憶装置２１０は、パターン認識モデル２１１と、パターン認識プログラム２１２を記憶する。
パターン認識モデル２１１は、入力されたデータ集合（特徴情報）から、パターンを認識して認識結果を出力する処理が実装されたプログラムモジュールやモデル式である。例えば、パターン認識モデル２１１は、変換後ターゲットデータＴＤＴを入力データとし、各入力データに所定のパラメータ２１１１を用いて演算される数学モデルである。
パターン認識プログラム２１２は、本実施形態にかかるパターン認識を含む処理が実装されたコンピュータプログラムである。
メモリ２３０は、ＲＡＭ（Random Access Memory）等の揮発性記憶装置であり、制御部２２０の動作時に一時的に情報を保持するための記憶領域である。ＩＦ部２４０は、パターン認識装置２００の外部との入出力を行うインタフェースである。例えば、ＩＦ部２４０は、データ変換装置１００からの入力データを制御部２２０へ出力し、制御部２２０から受け付けたデータを外部へ出力する。
制御部２２０は、パターン認識装置２００の各構成を制御するプロセッサつまり制御装置である。制御部２２０は、記憶装置２１０からパターン認識プログラム２１２をメモリ２３０へ読み込み、パターン認識プログラム２１２を実行する。また、制御部２２０は、記憶装置２１０からパターン認識モデル２１１を適宜、メモリ２３０へ読み込み、実行する。これにより、制御部２２０は、学習部２０１及び認識部２０２の機能を実現する。また、制御部２２０は、学習に伴い、記憶装置２１０内のパラメータ２１１１を更新する。
図１０は、本実施形態３にかかるパターン認識処理の流れを示すフローチャートである。尚、前提として、上述した図６のデータ変換処理が実行済みとする。まず、パターン認識装置２００は、データ変換装置１００から変換後ソースデータＳＤＴ及び変換後ターゲットデータＴＤＴの入力を受け付ける（Ｓ３１）。ソースデータ、及び、ターゲットデータは、たとえば、画像情報から抽出された特徴ベクトル、または、音声情報から抽出された特徴ベクトル等である。パターン認識装置２００は、たとえば、画像情報が検出対象を含んでいるか否かを判定する装置、または、音声情報の話者を特定する装置等である。
次に、学習部２０１は、変換後ソースデータＳＤＴを用いてパターン認識モデル２１１を学習する（Ｓ３２）。その後、認識部２０２は、学習済みのパターン認識モデル２１１を用いて変換後ターゲットデータＴＤＴをパターン認識する（Ｓ３３）。そして、認識部２０２は、認識結果Ｒを出力する（Ｓ３４）。
このように、本実施形態３にかかるパターン認識システム１０００においては、学習部２０１は、データ変換装置１００にてデータ変換が行われた学習データに基づいて、認識モデルの学習を行う。そのため、本実施形態におけるパターン認識装置２００は、予め用意された学習データの分布がテストデータの分布と異なっている場合でも、精度の高い認識モデルを生成することができる。したがって、本実施形態におけるパターン認識システム１０００は、例えば画像や音声の認識に用いられる場合に、予め用意された学習データに基づいて生成された認識モデルを実際のテストデータに適用する場合に、高い精度で認識等を行うことができる。
＜その他の実施形態＞
尚、実施形態２にかかる出力部１０９が学習済みのクラス識別器を出力する場合、実施形態３にかかるパターン認識装置２００は、当該学習済みのクラス識別器をパターン認識モデルとして用いても良い。
なお、上記実施形態において、様々な処理を行う機能ブロックとして図面に記載される各要素は、ハードウェア的には、ＣＰＵ（Central Processing Unit）、メモリ、その他の回路で構成することができ、ソフトウェア的には、ＣＰＵがメモリにロードして実行するプログラム等によって実現される。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、又はそれらの組合せによっていろいろな形で実現できることは当業者には理解されるところであり、いずれかに限定されるものではない。
また、上記のプログラムは、様々なタイプの非一時的なコンピュータ可読媒体（non-transitory computer readable medium）を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体（tangible storage medium）を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体（例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ）、光磁気記録媒体（例えば光磁気ディスク）、ＣＤ－ＲＯＭ（Compact Disc-Read Only Memory）、ＣＤ－Ｒ（CD-Recordable）、ＣＤ－Ｒ／Ｗ（CD-ReWritable）、半導体メモリ（例えば、マスクＲＯＭ、ＰＲＯＭ（Programmable ROM）、ＥＰＲＯＭ（Erasable PROM）、フラッシュＲＯＭ、ＲＡＭ（Random Access Memory））を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体（transitory computer readable medium）によってコンピュータに供給されても良い。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
なお、本開示は上記実施形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。また、本開示は、それぞれの実施形態を適宜組み合わせて実施されてもよい。
上記の実施形態の一部又は全部は、以下の付記のようにも記載され得るが、以下には限られない。
（付記Ａ１）
異なるドメインに属する複数のデータ集合のデータ分布を互いに近付けるように、各データ集合に対してデータ変換を行うデータ変換手段と、
前記データ変換後の複数の第１の変換後データ集合のうち少なくとも一部に対するクラス識別手段によるクラスの識別結果から、クラス識別損失を算出する第１の算出手段と、
前記複数の第１の変換後データ集合のそれぞれに対するドメイン識別手段によるドメインの識別結果から、ドメイン識別損失の上界及び下界を算出する第２の算出手段と、
前記上界が減少するように前記ドメイン識別手段のパラメータを更新し、前記クラス識別損失が減少するように、かつ、前記下界が増大するように前記データ変換手段のパラメータを更新して第１の学習を行う第１の学習手段と、
を備えるデータ変換装置。
（付記Ａ２）
前記データ変換装置は、
前記データ変換手段により前記第１の学習後のパラメータを用いて再度のデータ変換が行われた複数の第２の変換後データ集合を出力する第１の出力手段をさらに備える
付記Ａ１に記載のデータ変換装置。
（付記Ａ３）
前記データ変換装置は、
前記第１の学習後の前記データ変換手段のパラメータを出力する第２の出力手段をさらに備える
付記Ａ１又はＡ２に記載のデータ変換装置。
（付記Ａ４）
前記第１の学習手段は、
前記第１の学習において、前記クラス識別損失を最小化するように前記クラス識別手段のパラメータをさらに更新し、
前記データ変換装置は、
前記第１の学習後の前記クラス識別手段のパラメータが設定された前記クラス識別手段を出力する第３の出力手段をさらに備える
付記Ａ１乃至Ａ３のいずれか１項に記載のデータ変換装置。
（付記Ａ５）
前記第１の学習手段は、
前記ドメイン識別手段の前記第１の学習において、AUC（Area Under the Curve）を用いる
付記Ａ１乃至Ａ４のいずれか１項に記載のデータ変換装置。
（付記Ａ６）
前記複数のデータ集合は、ソースドメインに属するソースデータ集合と、ターゲットドメインに属するターゲットデータ集合とを含む
付記Ａ１乃至Ａ５のいずれか１項に記載のデータ変換装置。
（付記Ａ７）
付記Ａ２に記載の前記第１の出力手段により出力された前記複数の第２の変換後データ集合を用いて学習されたパターン認識モデルを備える
パターン認識装置。
（付記Ａ８）
付記Ａ２に記載の前記第１の出力手段により出力された前記複数の第２の変換後データ集合を用いてパターン認識モデルの第２の学習を行う第２の学習手段と、
前記第２の学習後のパラメータが設定された前記パターン認識モデルを用いて入力されたデータ集合に対するパターン認識を行う認識手段と、
を備えるパターン認識装置。
（付記Ａ９）
付記Ａ４に記載の前記第３の出力手段により出力された前記クラス識別手段をパターン認識モデルとして備える
パターン認識装置。
（付記Ｂ１）
異なるドメインに属する複数のデータ集合のデータ分布を互いに近付けるように、各データ集合に対してデータ変換を行うデータ変換手段と、
前記データ変換後の複数の第１の変換後データ集合のうち少なくとも一部に対するクラス識別手段によるクラスの識別結果から、クラス識別損失を算出する第１の算出手段と、
前記複数の第１の変換後データ集合のそれぞれに対するドメイン識別手段によるドメインの識別結果から、ドメイン識別損失の上界及び下界を算出する第２の算出手段と、
前記上界が減少するように前記ドメイン識別手段のパラメータを更新し、前記クラス識別損失が減少するように、かつ、前記下界が増大するように前記データ変換手段のパラメータを更新して第１の学習を行う第１の学習手段と、
前記第１の学習後のパラメータが設定された前記データ変換手段により、前記複数のデータ集合のそれぞれに対して再度のデータ変換が行われた複数の第２の変換後データ集合を用いてパターン認識モデルの第２の学習を行う第２の学習手段と、
前記第２の学習後のパラメータが設定された前記パターン認識モデルを用いて入力されたデータ集合に対するパターン認識を行う認識手段と、
を備えるパターン認識システム。
（付記Ｂ２）
前記第１の学習手段は、
前記ドメイン識別手段の前記第１の学習において、AUC（Area Under the Curve）を用いる
付記Ｂ１に記載のパターン認識システム。
（付記Ｃ１）
コンピュータが、
異なるドメインに属する複数のデータ集合のデータ分布を互いに近付けるように、データ変換器を用いて各データ集合に対してデータ変換を行い、
前記データ変換後の複数の第１の変換後データ集合のうち少なくとも一部に対するクラス識別器によるクラスの識別結果から、クラス識別損失を算出し、
前記複数の第１の変換後データ集合のそれぞれに対するドメイン識別器によるドメインの識別結果から、ドメイン識別損失の上界及び下界を算出し、
前記上界が減少するように前記ドメイン識別器のパラメータを更新し、前記クラス識別損失が減少するように、かつ、前記下界が増大するように前記データ変換器のパラメータを更新して学習を行う
データ変換方法。
（付記Ｄ１）
異なるドメインに属する複数のデータ集合のデータ分布を互いに近付けるように、データ変換器を用いて各データ集合に対してデータ変換を行うデータ変換処理と、
前記データ変換後の複数の第１の変換後データ集合のうち少なくとも一部に対するクラス識別器によるクラスの識別結果から、クラス識別損失を算出する第１の算出処理と、
前記複数の第１の変換後データ集合のそれぞれに対するドメイン識別器によるドメインの識別結果から、ドメイン識別損失の上界及び下界を算出する第２の算出処理と、
前記上界が減少するように前記ドメイン識別器のパラメータを更新し、前記クラス識別損失が減少するように、かつ、前記下界が増大するように前記データ変換器のパラメータを更新して学習を行う学習処理と、
をコンピュータに実行させるデータ変換プログラムが格納された非一時的なコンピュータ可読媒体。
以上、実施形態（及び実施例）を参照して本願発明を説明したが、本願発明は上記実施形態（及び実施例）に限定されものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
１ データ変換装置
１１ データ変換部
１２ 第１の算出部
１３ 第２の算出部
１４ 第１の学習部
１００ データ変換装置
１０１ データ変換部
１０２ クラス識別部
１０３ クラス識別損失算出部
１０４ ドメイン識別部
１０５ ドメイン識別損失上界算出部
１０６ ドメイン識別損失下界算出部
１０７ 損失最小化部
１０８ 損失最大化部
１０９ 出力部
１１０ 記憶装置
１１１ データ変換器
１１１１ パラメータ
１１２ クラス識別器
１１２１ パラメータ
１１３ ドメイン識別器
１１３１ パラメータ
１１４ データ変換プログラム
１２０ 制御部
１３０ メモリ
１４０ ＩＦ部
１０００ パターン認識システム
２００ パターン認識装置
２０１ 学習部
２０２ 認識部
２１０ 記憶装置
２１１ パターン認識モデル
２１１１ パラメータ
２１２ パターン認識プログラム
２２０ 制御部
２３０ メモリ
２４０ ＩＦ部
ＳＤ ソースデータ
ＴＤ ターゲットデータ
ＢＬ クラス識別境界
ＭＤ 誤認識データ
ＳＤＴ 変換後ソースデータ
ＴＤＴ 変換後ターゲットデータ
ＢＬＴ クラス識別境界
ＣＲＳ クラス識別結果
ＤＲＳ ドメイン識別結果
ＤＲＴ ドメイン識別結果
ＮＮｆ データ変換ニューラルネットワーク
ＮＮｃ クラス識別ニューラルネットワーク
ＮＮｄ ドメイン識別ニューラルネットワーク
Ｒ 認識結果

Claims (10)

  1. 異なるドメインに属する複数のデータ集合のデータ分布を互いに近付けるように、各データ集合に対してデータ変換を行うデータ変換手段と、
    前記データ変換後の複数の第１の変換後データ集合のうち少なくとも一部に対するクラス識別手段によるクラスの識別結果から、クラス識別損失を算出する第１の算出手段と、
    前記複数の第１の変換後データ集合のそれぞれに対するドメイン識別手段によるドメインの識別結果から、ドメイン識別損失の上界及び下界を算出する第２の算出手段と、
    前記上界が減少するように前記ドメイン識別手段のパラメータを更新し、前記クラス識別損失が減少するように、かつ、前記下界が増大するように前記データ変換手段のパラメータを更新して第１の学習を行う第１の学習手段と、
    を備えるデータ変換装置。
  2. 前記データ変換装置は、
    前記データ変換手段により前記第１の学習後のパラメータを用いて再度のデータ変換が行われた複数の第２の変換後データ集合を出力する第１の出力手段をさらに備える
    請求項１に記載のデータ変換装置。
  3. 前記データ変換装置は、
    前記第１の学習後の前記データ変換手段のパラメータを出力する第２の出力手段をさらに備える
    請求項１又は２に記載のデータ変換装置。
  4. 前記第１の学習手段は、
    前記第１の学習において、前記クラス識別損失を最小化するように前記クラス識別手段のパラメータをさらに更新し、
    前記データ変換装置は、
    前記第１の学習後の前記クラス識別手段のパラメータが設定された前記クラス識別手段を出力する第３の出力手段をさらに備える
    請求項１乃至３のいずれか１項に記載のデータ変換装置。
  5. 前記第１の学習手段は、
    前記ドメイン識別手段の前記第１の学習において、AUC（Area Under the Curve）を用いる
    請求項１乃至４のいずれか１項に記載のデータ変換装置。
  6. 前記複数のデータ集合は、ソースドメインに属するソースデータ集合と、ターゲットドメインに属するターゲットデータ集合とを含む
    請求項１乃至５のいずれか１項に記載のデータ変換装置。
  7. 請求項２に記載の前記第１の出力手段により出力された前記複数の第２の変換後データ集合を用いて学習されたパターン認識モデルを備える
    パターン認識装置。
  8. 異なるドメインに属する複数のデータ集合のデータ分布を互いに近付けるように、各データ集合に対してデータ変換を行うデータ変換手段と、
    前記データ変換後の複数の第１の変換後データ集合のうち少なくとも一部に対するクラス識別手段によるクラスの識別結果から、クラス識別損失を算出する第１の算出手段と、
    前記複数の第１の変換後データ集合のそれぞれに対するドメイン識別手段によるドメインの識別結果から、ドメイン識別損失の上界及び下界を算出する第２の算出手段と、
    前記上界が減少するように前記ドメイン識別手段のパラメータを更新し、前記クラス識別損失が減少するように、かつ、前記下界が増大するように前記データ変換手段のパラメータを更新して第１の学習を行う第１の学習手段と、
    前記第１の学習後のパラメータが設定された前記データ変換手段により、前記複数のデータ集合のそれぞれに対して再度のデータ変換が行われた複数の第２の変換後データ集合を用いてパターン認識モデルの第２の学習を行う第２の学習手段と、
    前記第２の学習後のパラメータが設定された前記パターン認識モデルを用いて入力されたデータ集合に対するパターン認識を行う認識手段と、
    を備えるパターン認識システム。
  9. コンピュータが、
    異なるドメインに属する複数のデータ集合のデータ分布を互いに近付けるように、データ変換器を用いて各データ集合に対してデータ変換を行い、
    前記データ変換後の複数の第１の変換後データ集合のうち少なくとも一部に対するクラス識別器によるクラスの識別結果から、クラス識別損失を算出し、
    前記複数の第１の変換後データ集合のそれぞれに対するドメイン識別器によるドメインの識別結果から、ドメイン識別損失の上界及び下界を算出し、
    前記上界が減少するように前記ドメイン識別器のパラメータを更新し、前記クラス識別損失が減少するように、かつ、前記下界が増大するように前記データ変換器のパラメータを更新して学習を行う
    データ変換方法。
  10. 異なるドメインに属する複数のデータ集合のデータ分布を互いに近付けるように、データ変換器を用いて各データ集合に対してデータ変換を行うデータ変換処理と、
    前記データ変換後の複数の第１の変換後データ集合のうち少なくとも一部に対するクラス識別器によるクラスの識別結果から、クラス識別損失を算出する第１の算出処理と、
    前記複数の第１の変換後データ集合のそれぞれに対するドメイン識別器によるドメインの識別結果から、ドメイン識別損失の上界及び下界を算出する第２の算出処理と、
    前記上界が減少するように前記ドメイン識別器のパラメータを更新し、前記クラス識別損失が減少するように、かつ、前記下界が増大するように前記データ変換器のパラメータを更新して学習を行う学習処理と、
    をコンピュータに実行させるデータ変換プログラム。
JP2021519967A 2019-05-22 2019-05-22 データ変換装置、パターン認識システム、データ変換方法及びデータ変換プログラム Active JP7211501B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/020218 WO2020235033A1 (ja) 2019-05-22 2019-05-22 データ変換装置、パターン認識システム、データ変換方法及び非一時的なコンピュータ可読媒体

Publications (3)

Publication Number Publication Date
JPWO2020235033A1 JPWO2020235033A1 (ja) 2020-11-26
JPWO2020235033A5 JPWO2020235033A5 (ja) 2022-02-08
JP7211501B2 true JP7211501B2 (ja) 2023-01-24

Family

ID=73458979

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021519967A Active JP7211501B2 (ja) 2019-05-22 2019-05-22 データ変換装置、パターン認識システム、データ変換方法及びデータ変換プログラム

Country Status (3)

Country Link
US (1) US20220245518A1 (ja)
JP (1) JP7211501B2 (ja)
WO (1) WO2020235033A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11928559B2 (en) * 2019-04-08 2024-03-12 Google Llc Transformation for machine learning pre-processing
WO2022190301A1 (ja) * 2021-03-10 2022-09-15 日本電気株式会社 学習装置、学習方法、及びコンピュータ可読媒体

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CAI, Guanyu et al.，"Unsupervised Domain Adaptation with Adversarial Residual Transform Networks"，arXiv.org [online]，arXiv:1804.09578v1，Cornell University，2018年，pp.1-11，[検索日 2019.08.07], インターネット:<URL: https://arxiv.org/pdf/1804.09578v1.pdf>
岩澤 有祐 ほか，「敵対的訓練を利用したドメイン不変な表現の学習」，第31回 (2017) 人工知能学会全国大会論文集，一般社団法人 人工知能学会，2017年，セッションID:1A2-OS-05b-3, pp.1-4

Also Published As

Publication number Publication date
WO2020235033A1 (ja) 2020-11-26
US20220245518A1 (en) 2022-08-04
JPWO2020235033A1 (ja) 2020-11-26

Similar Documents

Publication Publication Date Title
JP7028345B2 (ja) パタン認識装置、パタン認識方法、及びプログラム
US10832685B2 (en) Speech processing device, speech processing method, and computer program product
US10970313B2 (en) Clustering device, clustering method, and computer program product
JP6943291B2 (ja) 学習装置、学習方法、及び、プログラム
JP7095599B2 (ja) 辞書学習装置、辞書学習方法、データ認識方法およびコンピュータプログラム
JP6620882B2 (ja) ドメイン適応を用いたパターン認識装置、方法およびプログラム
JP7211501B2 (ja) データ変換装置、パターン認識システム、データ変換方法及びデータ変換プログラム
KR20220130565A (ko) 키워드 검출 방법 및 장치
JP6673226B2 (ja) 特徴変換装置、認識装置、特徴変換方法及びコンピュータ読み取り可能記録媒体
EP3501024B1 (en) Systems, apparatuses, and methods for speaker verification using artificial neural networks
KR101805437B1 (ko) 배경 화자 데이터를 이용한 화자 인증 방법 및 화자 인증 시스템
KR20170108339A (ko) 영상에서 다수의 객체를 인식하는 방법
JP2021081713A (ja) 音声信号を処理するための方法、装置、機器、および媒体
US11526691B2 (en) Learning device, learning method, and storage medium
WO2016181474A1 (ja) パターン認識装置、パターン認識方法およびプログラム
US11798578B2 (en) Paralinguistic information estimation apparatus, paralinguistic information estimation method, and program
WO2020040312A1 (ja) 学習装置、学習方法および予測システム
US20240054349A1 (en) Training apparatus, classification apparatus, training method, classification method, and program
JP2020135485A (ja) 拡張装置、拡張方法及び拡張プログラム
JPWO2019123642A1 (ja) 画像認識システム、方法およびプログラム、並びにパラメータ学習システム、方法およびプログラム
US20220028372A1 (en) Learning device and pattern recognition device
JP2018081294A (ja) 音響モデル学習装置、音声認識装置、音響モデル学習方法、音声認識方法、およびプログラム
WO2019181675A1 (ja) 識別器修正装置、識別器修正方法、および記憶媒体
JP7396467B2 (ja) 学習装置、分類装置、学習方法、分類方法、および、プログラム
JP7485226B2 (ja) 訓練装置、分類装置、訓練方法、分類方法、及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211108

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211108

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221226

R151 Written notification of patent or utility model registration

Ref document number: 7211501

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151