JP2020086539A - 逐次学習プログラム、逐次学習装置および逐次学習方法 - Google Patents

逐次学習プログラム、逐次学習装置および逐次学習方法 Download PDF

Info

Publication number
JP2020086539A
JP2020086539A JP2018214993A JP2018214993A JP2020086539A JP 2020086539 A JP2020086539 A JP 2020086539A JP 2018214993 A JP2018214993 A JP 2018214993A JP 2018214993 A JP2018214993 A JP 2018214993A JP 2020086539 A JP2020086539 A JP 2020086539A
Authority
JP
Japan
Prior art keywords
image
learning
data
generated
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018214993A
Other languages
English (en)
Other versions
JP7318197B2 (ja
Inventor
稲越　宏弥
Hiroya Inakoshi
宏弥 稲越
孝 河東
Takashi Kato
孝 河東
健人 上村
Taketo Uemura
健人 上村
優 安富
Masaru Yasutomi
優 安富
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2018214993A priority Critical patent/JP7318197B2/ja
Priority to US16/680,562 priority patent/US11449715B2/en
Publication of JP2020086539A publication Critical patent/JP2020086539A/ja
Application granted granted Critical
Publication of JP7318197B2 publication Critical patent/JP7318197B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/047—Probabilistic or stochastic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Abstract

【課題】新たな概念の学習時に学習済みの概念が損なわれることを抑制すること。【解決手段】逐次学習装置１０は、第１のデータ群を用いて敵対的生成ネットワークにより学習された生成部１２１ａからの出力と、第２のデータ群とを判別部１２２ｂに入力して、敵対的生成ネットワークにより生成部１２１ｂの学習を行う際に、生成部１２１ａからの出力を偽として判別部１２２ｂに入力する。【選択図】図２

Description

本発明は、逐次学習プログラム、逐次学習装置および逐次学習方法に関する。
ＡＩ（Artificial Intelligence）の分野において、ディープラーニングを用いた画像認識では、大量の学習データが必要である。学習データは、教師データ、または訓練データと呼ばれることもある。また、以前に学習した結果を利用して学習を行う逐次学習の処理は、判別モデルを作成する場合において、毎回、学習をやり直す必要があり計算コストを要する。また、学習データは提供する業者の知的財産であるため、ディープラーニングによる学習を請け負う業者は、学習の作業実施後には学習データを破棄することが求められる場合が多い。
また、判別モデルの学習に使用する学習データは、画像等のサンプルデータに対してラベル付けを行うことで作成されるが、一般的にはその作業に時間およびコストがかかる。一方、画像データのような精細な対象が従う確率分布を精度よく学習するシステムとして、ＧＡＮ（Generative Adversarial Network：敵対的生成ネットワーク）が知られている。ＧＡＮは、乱数等を基に、学習データと似た新しいデータ（生成データ）を生成する生成モデルと、生成モデルにより生成された生成データであるのか、学習データであるのかを判別する判別モデルとを含んでいる。生成モデルは、判別モデルにより判別がつかないように、学習データと似たデータを生成するようなパラメータを求める学習を行い、判別モデルは、生成モデルにより生成された生成データと、学習データとを見分けられるようなパラメータを求める学習を行う。すなわち、生成モデルは、判別モデルを騙すような生成データを生成するように学習し、判別モデルは、生成モデルに騙されずに生成データと学習データとを見分けられるように学習する。これらの学習が繰り返されることによって、学習データと類似度の高いデータを生成することができる生成モデルが得られ、かつ、本物（学習データ）であるのか偽物（生成データ）であるのかを見分ける判別精度を向上させた判別モデルが得られる。
このようなＧＡＮを使用するシステムであって、過去に使用した学習データを保持せずに、ＧＡＮで生成された生成モデルの生成データを利用してモデルを学習するシステムが提案されている。このシステムでは、まず、学習データを基にＧＡＮにより生成モデルを作成すると共に、学習データのラベルを予測して出力する「solver」と称する解答モデルを、生成モデルとは独立して学習により作成する。そして、新たなラベル付き学習データ（サンプルデータおよびラベル）と、予め作成した生成モデルの出力（生成データ）およびこの生成データに対する解答モデルの出力（予測したラベル）と、を用いて、新たな解答モデルを作成する。
James Kirkpatrick, et al., "Overcoming catastrophic forgetting in neural networks", arXiv:1612.00796, 2 Dec 2016. S. Hanul, et al., "Continual Learning with Deep Generative Replay", arXiv:1705.08690, 24 May 2017.
上述のシステムでは、新たな概念を含む学習データを使用して当該概念を判別できるようなモデルの生成を目的とする。しかしながら、これまでに学習した概念と、新たな学習データが含む概念とがオーバーラップしていない（概念が類似していない）場合、これまでの学習結果がモデルに反映されず、モデルからこれまでに学習した概念が忘却される可能性がある。
１つの側面では、本発明は、新たな概念の学習時に学習済みの概念が損なわれることを抑制できる逐次学習プログラム、逐次学習装置および逐次学習方法を提供することを目的とする。
一態様では、逐次学習プログラムは、第１のデータ群を用いて敵対的生成ネットワークにより学習された第１の生成器からの出力と、第２のデータ群とを判別器に入力して、敵対的生成ネットワークにより第２の生成器の学習を行う際に、前記第１の生成器からの出力を偽として前記判別器に入力する、処理をコンピュータに実行させる。
新たな概念の学習時に学習済みの概念が損なわれることを抑制できる。
図１は、実施例１に係る逐次学習装置の機能的構成の一例を示すブロック図である。 図２は、既成の生成部の生成画像を用いて学習する動作を説明する図である。 図３は、第１のタスクとして特定の画像のみを判別する動作を説明する図である。 図４は、第２のタスクとして既成の生成部の生成画像を用いて差集合に係る画像を判別する動作を説明する図である。 図５は、実施例１に係る逐次学習装置の学習動作の流れの一例を示すフローチャートである。 図６は、既成の生成部の生成画像を用いて学習する動作を説明する図である。 図７は、第２のタスクとして既成の生成部の生成画像を用いて和集合に係る画像を判別する動作を説明する図である。 図８は、従来技術の解答部の学習動作を説明する図である。 図９は、実施例２に係る逐次学習装置の学習動作の流れの一例を示すフローチャートである。 図１０は、実施例３における学習後に特定の学習データの影響を除いたモデルの生成動作であって実画像がある場合の動作を説明する図である。 図１１は、実施例３における学習後に特定の学習データの影響を除いたモデルの生成動作であって実画像がない場合の動作を説明する図である。 図１２は、実施例４における学習後に特定の学習データの影響を除いたモデルの生成動作であって実画像がある場合の動作を説明する図である。 図１３は、実施例４における学習後に特定の学習データの影響を除いたモデルの生成動作であって実画像がない場合の動作を説明する図である。 図１４は、実施例１〜実施例４に係る逐次学習プログラムを実行するコンピュータのハードウェア構成の一例を示す図である。
以下に添付図面を参照して本願に係る逐次学習プログラム、逐次学習装置および逐次学習方法について説明する。なお、以下の各実施例は開示の技術を限定するものではない。そして、以下の各実施例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
［逐次学習装置の機能的構成］
図１は、実施例１に係る逐次学習装置の機能的構成の一例を示すブロック図である。図１を参照しながら、本実施例に係る逐次学習装置１０の機能的構成の一例について説明する。
図１に示す逐次学習装置１０は、ＧＡＮを利用して、新たな学習データ、および、既に作成した生成モデルの出力（生成データ）を用いてモデルを学習（逐次学習）する装置である。図１に示すように、逐次学習装置１０は、通信部１１と、制御部１２と、記憶部１３とを含む。なお、以下では、学習データ、および生成モデルが出力するデータ等が「画像」であるものとして説明する。
通信部１１は、他の逐次学習装置１０および外部装置とデータ通信を行う処理部である。具体的には、通信部１１は、例えば、他の逐次学習装置１０における生成モデルからの出力（生成データ）を受信したり、または、制御部１２に含まれる生成モデルが出力した生成データを外部に送信する。
制御部１２は、逐次学習の処理を行う処理部である。図１に示すように、制御部１２は、生成部１２１と、判別部１２２と、を含む。なお、生成部１２１は、第１の生成器、第２の生成器、第３の生成器、第４の生成器それぞれの一例に対応する。また、判別部１２２は、第１の判別器、第２の判別器、第３の判別器、第４の判別器それぞれの一例に対応する。
生成部１２１は、乱数等のデータを入力し、判別部１２２に真の画像として判別させるような画像を生成データの一例としての生成画像として生成する処理部（生成モデル）である。また、生成部１２１は、生成した生成画像を判別部１２２へ出力し、判別部１２２による判別結果を受け取って、判別部１２２が真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新することで学習を行う。
判別部１２２は、画像を入力して、当該画像が真の画像であるか否かを判別する処理部（判別モデル）である。ここで、判別部１２２により、入力した真の画像が「真」と判別された場合、および、偽の画像が「偽」と判別された場合、判別結果は正答であるものとする。一方、判別部１２２により、入力した真の画像が「偽」と判別された場合、および、偽の画像が「真」と判別された場合、判別結果は誤答であるものとする。
判別部１２２は、後述する記憶部１３に記憶された所定の被写体が写った新たな学習データである実画像１３１を真の画像として入力し、生成部１２１により生成された生成画像を偽の画像として入力し、それぞれの画像の真偽を判別する。なお、実画像１３１は、第１のデータ群、第２のデータ群、第３のデータ群それぞれの一例に対応する。また、判別部１２２は、生成部１２１により生成された生成画像に対する判別結果を生成部１２１へ出力する。そして、判別部１２２は、それぞれの判別結果に基づいて、入力した画像が真の画像か偽の画像かを精度よく判別ができるようなパラメータを求めて更新することで学習を行う。例えば、判別部１２２は、偽の画像として入力した生成画像に対して「真」と判別した場合、その判別結果は誤答となる。また、判別部１２２は、後述するように、既に作成された生成部１２１とは異なる生成部（生成モデル）により生成された生成画像を入力して、当該生成画像の真偽を判別し、その判別結果に基づいて上述と同様に学習を行う。
記憶部１３は、制御部１２で実行されるＯＳ（Operating System）、上述の生成部１２１および判別部１２２の学習処理を実現する逐次学習プログラム、および、アプリケーションプログラムまたはミドルウェア等の各種プログラムに用いられるデータ等を記憶する記憶デバイスである。また、記憶部１３は、上述のように、所定の被写体が写った新たな学習データとしての実画像１３１を記憶する。
ここで、記憶部１３に記憶された新たな学習データは、例えば、学習済みモデル（判別モデル）の作成を依頼する業者が提供する知的財産に係るデータである。この場合、その学習データの提供を受けた業者は、当該学習データを利用して、本実施例に係る逐次学習装置１０の学習処理により作成された判別モデルを、学習データを提供した業者に納品する。例えば、アメリカの野鳥の画像を判別する判別モデルの作成を依頼する業者は、当該判別モデルの作成を請け負う業者に対して、アメリカの野鳥の実画像のデータを学習データとして提供する。また、依頼を受けた業者が納品する形態としては、例えば、作成した判別モデルの実体に係るデータ（パラメータ等）を記憶した記録媒体を納品するものとしてもよい。または、作成した判別モデルを搭載し、入力した評価データに対して判別処理を可能とする情報処理装置もしくは情報処理システムを納品するものとしてもよい。この際、上述したように、学習の作業実施後には、利用した学習データの破棄が求められる場合が多い。詳細は後述するが、本実施例に係る逐次学習装置１０では、過去に利用した学習データは破棄されたとしても、その学習データを利用した学習により作成された生成モデルを保持しておくことができる。そして、破棄された過去の学習データの代わりに当該生成モデルが生成する生成データを利用し、さらに、新たに提供された学習データを利用した学習処理によって、新たな生成モデルおよび判別モデルを得ることができる。この場合、既に作成された生成モデルは、過去の学習データに基づく学習結果（過去の学習データの確率分布）を含んでいるため当該確率分布を忘却することがない。さらに、新たに利用する学習データの確率分布にも適合した、すなわち、新たな学習データが含む新たな概念を学習したモデル（生成モデルおよび判別モデル）を得ることができる。
［逐次学習装置の学習処理の概要］
図２は、既成の生成部の生成画像を用いて学習する動作を説明する図である。図２を参照しながら、本実施例に係る逐次学習装置１０の学習処理の概要の一例を説明する。なお、図２に基づく説明の中で言及する画像は、野鳥に係る画像であるものとする。
図２に示す逐次学習装置１０ａ〜１０ｃは、それぞれ本実施例に係る逐次学習装置１０と同様の装置であるものとする。そして、逐次学習装置１０ａは、上述の生成部１２１、判別部１２２および記憶部１３と同様の機能を有する生成部１２１ａ、判別部１２２ａおよび記憶部１３ａを有する。同様に、逐次学習装置１０ｂは、生成部１２１ｂ、判別部１２２ｂおよび記憶部１３ｂを有し、逐次学習装置１０ｃは、生成部１２１ｃ、判別部１２２ｃおよび記憶部１３ｃを有する。なお、生成部１２１ａは、第１の生成器の一例に対応する。また、判別部１２２ａは、第１の判別器の一例に対応する。また、生成部１２１ｂは、第２の生成器の一例に対応する。また、判別部１２２ｂは、第２の判別器の一例に対応する。また、生成部１２１ｃは、第３の生成器の一例に対応する。また、判別部１２２ｃは、第３の判別器の一例に対応する。
ここで、図２に示す記号について、以下のように定義する。なお、下記における「Ｇ」は、「generator」の頭文字に対応し、下記における「Ｄ」は、「discriminator」の頭文字に対応する。
Ｘ：野鳥画像の確率変数
Ｃｓ：集合Ｓに属する国およびそのいずれでもないことを表す確率変数
Ｇ（Ｘ｜Ｃｓ）：国の集合Ｓにより条件づけられた野鳥画像の確率変数Ｘの確率分布、およびその生成モデル
Ｄ（Ｃｓ｜Ｘ）：確率変数Ｘに対応する野鳥画像を見たとき、国の集合Ｓの野鳥だと判別する確率分布、およびその判別モデル
図２に示すように、逐次学習装置１０ａにおいて、生成部１２１ａ（Ｇ（Ｘ｜Ｃ｛加｝））は、乱数等のデータを入力し、判別部１２２ａにカナダ（加）の野鳥の生成画像を真の画像として判別させるような生成画像を生成し、判別部１２２ａへ出力する。なお、生成部１２１ａにより生成される生成画像は、第１の生成データの一例に対応する。
判別部１２２ａ（Ｄ（Ｃ｛加｝｜Ｘ））は、記憶部１３ａに記憶された学習データであるカナダ（加）の野鳥の実画像１３１ａを真の画像として入力し、生成部１２１ａにより生成された野鳥の生成画像を偽の画像として入力する。なお、実画像１３１ａは、第１のデータ群の一例に対応する。そして、判別部１２２ａは、入力したそれぞれの画像の真偽を判別する。また、判別部１２２ａは、生成部１２１ａにより生成された生成画像に対する判別結果を生成部１２１ａへ出力する。そして、判別部１２２ａは、それぞれの判別結果に基づいて、入力した画像が真の画像か偽の画像かを精度よく判別ができるようなパラメータを求めて更新することで学習を行う。すなわち、判別部１２２ａは、カナダ（加）の野鳥の画像のみを識別するように学習する。
さらに、生成部１２１ａは、判別部１２２ａによる判別結果を受け取り、判別部１２２ａが真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新することで学習を行う。すなわち、生成部１２１ａは、カナダ（加）の野鳥の画像と識別されるような画像を生成するように学習する。
上述のような、通常のＧＡＮの動作に従って、生成部１２１ａおよび判別部１２２ａの学習処理が繰り返されることによって、それぞれ生成モデルおよび判別モデルが作成される。そして、学習処理後、学習に使用された学習データ（カナダ（加）の野鳥の実画像１３１ａ）は破棄される。また、例えば、上述の学習データを提供し、カナダ（加）の野鳥の画像を判別する判別モデルの作成を依頼した業者に対しては、当該判別モデルを上述のような納品態様に従って納品することが可能となる。ここで、判別モデルを納品した業者にとって、学習に使用した学習データ（カナダ（加）の野鳥の実画像１３１ａ）は破棄されて手元には残らないが、カナダ（加）の野鳥の実画像と同一または類似する画像を生成することができる生成モデル（生成部１２１ａ）は、手元に残ることになる。
次に、図２に示すように、逐次学習装置１０ｂにおいて、生成部１２１ｂ（Ｇ（Ｘ｜Ｃ｛米｝））は、乱数等のデータを入力し、判別部１２２ｂに真の画像（ここでは、アメリカ（米）の野鳥の生成画像）として判別させるような生成画像を生成し、判別部１２２ｂへ出力する。なお、生成部１２１ｂにより生成される生成画像は、第２の生成データの一例に対応する。
判別部１２２ｂ（Ｄ（Ｃ｛米｝｜Ｘ））は、記憶部１３ｂに記憶された新たな学習データであるアメリカ（米）の野鳥の実画像１３１ｂを真の画像として入力し、生成部１２１ｂにより生成された野鳥の生成画像を偽の画像として入力する。なお、実画像１３１ｂは、第２のデータ群の一例に対応する。さらに、判別部１２２ｂは、既に作成された生成モデルである生成部１２１ａにより生成されたカナダ（加）の野鳥の生成画像を偽の画像として入力する。そして、判別部１２２ｂは、入力したそれぞれの画像の真偽を判別する。また、判別部１２２ｂは、生成部１２１ｂにより生成された生成画像に対する判別結果を生成部１２１ｂへ出力する。そして、判別部１２２ｂは、それぞれの判別結果に基づいて、入力した画像が真の画像か偽の画像かを精度よく判別ができるようなパラメータを求めて更新することで学習を行う。すなわち、判別部１２２ｂは、アメリカ（米）の野鳥の画像のみを識別するように学習する。
さらに、生成部１２１ｂは、判別部１２２ｂによる判別結果を受け取り、判別部１２２ｂが真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新することで学習を行う。すなわち、生成部１２１ｂは、アメリカ（米）の野鳥の画像と識別されるような画像を生成するように学習する。
上述のような、生成部１２１ｂおよび判別部１２２ｂの学習処理が繰り返されることによって、それぞれ生成モデルおよび判別モデルが作成される。ここで、逐次学習装置１０ｂにおいては、逐次学習装置１０ａにおける学習で使用していたカナダ（加）の野鳥の実画像１３１ａは破棄されているので、その代替として、既に生成モデルとして作成されている生成部１２１ａが生成するカナダ（加）の野鳥の生成画像を偽の画像として、判別部１２２ｂに入力させるものとしている。すなわち、判別部１２２ｂには、新たな学習データであるアメリカ（米）の野鳥の実画像が真の画像として入力されると共に、既に作成された生成モデル（生成部１２１ａ）が生成するカナダ（加）の野鳥の生成画像が偽の画像として入力される。したがって、判別部１２２ｂは、過去の学習データ（カナダ（加）の野鳥の実画像）に基づく学習結果を含む生成モデル（生成部１２１ａ）の生成画像を偽の画像として入力している。よって、当該学習結果を忘却することなく、新たな学習データ（アメリカ（米）の野鳥の実画像）の概念のみを際立たせて識別することができるようになる。また、生成部１２１ｂは、上述のような判別部１２２ｂに真の画像（アメリカ（米）の野鳥の実画像）として判別させるような画像を生成することができるようになるので、生成部１２１ｂによる画像の生成処理についても、当該学習結果を忘却することなく、新たな学習データ（アメリカ（米）の野鳥の実画像）の概念のみを際立たせて生成することができるようになる。
そして、学習処理後、学習に使用された学習データ（アメリカ（米）の野鳥の実画像１３１ｂ）は破棄される。また、例えば、上述の学習データを提供し、アメリカ（米）の野鳥の画像を判別する判別モデルの作成を依頼した業者に対しては、当該判別モデルを上述のような納品態様に従って納品することが可能となる。ここで、判別モデルを納品した業者にとって、学習に使用した学習データ（アメリカ（米）の野鳥の実画像１３１ｂ）は破棄されて手元には残らないが、アメリカ（米）の野鳥の実画像と同一または類似する画像を生成することができる生成モデル（生成部１２１ｂ）は、手元に残ることになる。
次に、図２に示すように、逐次学習装置１０ｃにおいて、生成部１２１ｃ（Ｇ（Ｘ｜Ｃ｛墨｝））は、乱数等のデータを入力し、判別部１２２ｃに真の画像（ここでは、メキシコ（墨）の野鳥の生成画像）として判別させるような生成画像を生成し、判別部１２２ｃへ出力する。なお、生成部１２１ｃにより生成される生成画像は、第３の生成データの一例に対応する。
判別部１２２ｃ（Ｄ（Ｃ｛墨｝｜Ｘ））は、記憶部１３ｃに記憶された新たな学習データであるメキシコ（墨）の野鳥の実画像１３１ｃ（第３のデータ群の一例）を真の画像として入力し、生成部１２１ｃにより生成された野鳥の生成画像を偽の画像として入力する。さらに、判別部１２２ｃは、既に作成された生成モデルである生成部１２１ｂにより生成されたアメリカ（米）の野鳥の生成画像を偽の画像として入力する。そして、判別部１２２ｃは、入力したそれぞれの画像の真偽を判別する。また、判別部１２２ｃは、生成部１２１ｃにより生成された生成画像に対する判別結果を生成部１２１ｃへ出力する。そして、判別部１２２ｃは、それぞれの判別結果に基づいて、入力した画像が真の画像か偽の画像かを精度よく判別ができるようなパラメータを求めて更新することで学習を行う。すなわち、判別部１２２ｃは、メキシコ（墨）の野鳥の画像のみを識別するように学習する。
さらに、生成部１２１ｃは、判別部１２２ｃによる判別結果を受け取り、判別部１２２ｃが真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新することで学習を行う。すなわち、生成部１２１ｃは、メキシコ（墨）の野鳥の画像と識別されるような画像を生成するように学習する。
上述のような、生成部１２１ｃおよび判別部１２２ｃの学習処理が繰り返されることによって、それぞれ生成モデルおよび判別モデルが作成される。ここで、逐次学習装置１０ｃにおいては、逐次学習装置１０ｂにおける学習で使用していたアメリカ（米）の野鳥の実画像１３１ｂは破棄されているので、その代替として、既に生成モデルとして作成されている生成部１２１ｂが生成するアメリカ（米）の野鳥の生成画像を偽の画像として、判別部１２２ｃに入力させるものとしている。すなわち、判別部１２２ｃには、新たな学習データであるメキシコ（墨）の野鳥の実画像が真の画像として入力されると共に、既に作成された生成モデル（生成部１２１ｂ）が生成するアメリカ（米）の野鳥の生成画像が偽の画像として入力される。したがって、判別部１２２ｃは、過去の学習データ（アメリカ（米）およびカナダ（加）の野鳥の実画像）に基づく学習結果を含む生成モデル（生成部１２１ｂ）の生成画像を偽の画像として入力している。よって、当該学習結果を忘却することなく、新たな学習データ（メキシコ（墨）の野鳥の実画像）の概念のみを際立たせて識別することができるようになる。また、生成部１２１ｃは、上述のような判別部１２２ｃに真の画像（メキシコ（墨）の野鳥の実画像）として判別させるような画像を生成することができるようになるので、生成部１２１ｃによる画像の生成処理についても、当該学習結果を忘却することなく、新たな学習データ（メキシコ（墨）の野鳥の実画像）の概念のみを際立たせて生成することができるようになる。
そして、学習処理後、学習に使用された学習データ（メキシコ（墨）の野鳥の実画像１３１ｃ）は破棄される。また、例えば、上述の学習データを提供し、メキシコ（墨）の野鳥の画像を判別する判別モデルの作成を依頼した業者に対しては、当該判別モデルを上述のような納品態様に従って納品することが可能となる。ここで、判別モデルを納品した業者にとって、学習に使用した学習データ（メキシコ（墨）の野鳥の実画像１３１ｃ）は破棄されて手元には残らないが、メキシコ（墨）の野鳥の実画像と同一または類似する画像を生成することができる生成モデル（生成部１２１ｃ）は、手元に残ることになる。
なお、図２では、便宜上、逐次学習装置１０ａ〜１０ｃというように装置を分けて説明したが、これに限定されるものではなく、同一の装置（逐次学習装置１０）上でそれぞれの学習処理が行われるものとしてもよい。例えば、逐次学習装置１０ｂの判別部１２２ｂは、逐次学習装置１０ａの生成部１２１ａからの生成画像を入力するものとしているが、逐次学習装置１０ａ上で生成部１２１ａの生成モデルとしての機能を残存させるものとしてもよい。そして、記憶部１３ａに実画像１３１ｂを記憶させ、同じ逐次学習装置１０ａ上で、生成部１２１ｂおよび判別部１２２ｂの学習処理を実行させるものとしてもよい。
［逐次学習装置の学習処理の詳細］
図３は、第１のタスクとして特定の画像のみを判別する動作を説明する図である。図４は、第２のタスクとして既成の生成部の生成画像を用いて差集合に係る画像を判別する動作を説明する図である。図３および図４を参照しながら、本実施例に係る逐次学習装置１０の学習処理の詳細の一例を説明する。
まず、図３に示すように、逐次学習装置１０ａ（図２参照）の記憶部１３ａは、学習データとしてカラスの実画像１３２ａを記憶しているものとする。なお、実画像１３２ａは、第１のデータ群の一例に対応する。以下、第１のタスクとして、カラスの画像のみを判別するモデルを作成する処理について説明する。逐次学習装置１０ａにおいて、生成部１２１ａ（Ｇ（Ｘ｜Ｃ｛カラス｝））は、乱数等のデータを入力し、判別部１２２ａにカラスの画像を真の画像として判別させるような生成画像２０１を生成し、判別部１２２ａへ出力する。なお、生成画像２０１は、第１の生成データの一例に対応する。ただし、図３に示す生成画像２０１のように、生成部１２１ａが学習の初期の段階で生成する画像は、カラスの形状としては違和感のあるノイズを含むような画像となっている。
判別部１２２ａ（Ｄ（Ｃ｛カラス｝｜Ｘ））は、記憶部１３ａに記憶された学習データであるカラスの実画像１３２ａを真の画像として入力し、生成部１２１ａにより生成されたカラスの生成画像を偽の画像として入力する。そして、判別部１２２ａは、入力したそれぞれの画像の真偽を判別する。また、判別部１２２ａは、生成部１２１ａにより生成された生成画像に対する判別により正答であるのか誤答であるのかという判別結果を生成部１２１ａへ出力する。そして、判別部１２２ａは、それぞれの判別結果に基づいて、入力した画像が真の画像か偽の画像かを精度よく判別ができるようなパラメータを求めて更新することで学習を行う。すなわち、判別部１２２ａは、カラスの画像を精度よく識別するように学習する。
さらに、生成部１２１ａは、判別部１２２ａによる判別結果を受け取り、判別部１２２ａが真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新することで学習を行う。すなわち、生成部１２１ａは、カラスの画像と識別されるような画像を生成するように学習する。したがって、図３に示す生成画像２０１は、上述のように、学習の初期の段階では、カラスの形状としては違和感のあるノイズを含むような画像となっているが、学習が進むにつれて、カラスの実画像に近い画像が生成できるようになる。
上述のような、通常のＧＡＮの動作に従って、生成部１２１ａおよび判別部１２２ａの学習処理が繰り返されることによって、それぞれ生成モデルおよび判別モデルが作成される。そして、学習処理後、学習に使用された学習データ（カラスの実画像１３１ｂ）は破棄される。また、例えば、上述の学習データを提供し、カラスの画像を判別する判別モデルの作成を依頼した業者に対しては、当該判別モデルを上述のような納品態様に従って納品することが可能となる。
次に、図４に示すように、逐次学習装置１０ｂ（図２参照）の記憶部１３ｂは、学習データとしてペリカンの実画像１３２ｂを記憶しているものとする。なお、実画像１３２ｂは、第２のデータ群の一例に対応する。以下、第２のタスクとして、ペリカンの画像のみを判別するモデルを作成する処理について説明する。逐次学習装置１０ｂにおいて、生成部１２１ｂ（Ｇ（Ｘ｜Ｃ｛ペリカン｝））は、乱数等のデータを入力し、判別部１２２ｂにペリカンの画像を真の画像として判別させるような生成画像２０２を生成し、判別部１２２ｂへ出力する。なお、生成画像２０２は、第２の生成データの一例に対応する。ただし、図４に示す生成画像２０２のように、生成部１２１ｂが学習の初期の段階で生成する画像は、ペリカンの形状としては違和感のあるノイズを含むような画像となっている。
判別部１２２ｂ（Ｄ（Ｃ｛ペリカン｝｜Ｘ））は、記憶部１３ｂに記憶された新たな学習データであるペリカンの実画像１３２ｂを真の画像として入力し、生成部１２１ｂにより生成されたペリカンの生成画像を偽の画像として入力する。さらに、判別部１２２ｂは、既に作成された生成モデルである生成部１２１ａ（Ｇ（Ｘ｜Ｃ｛カラス｝））により生成されたカラスの生成画像２０１ａを偽の画像として入力する。なお、生成画像２０１ａは、第１の生成データの一例に対応する。そして、判別部１２２ｂは、入力したそれぞれの画像の真偽を判別する。また、判別部１２２ｂは、生成部１２１ｂにより生成された生成画像に対する判別結果を生成部１２１ｂへ出力する。そして、判別部１２２ｂは、それぞれの判別結果に基づいて、入力した画像が真の画像か偽の画像かを精度よく判別ができるようなパラメータを求めて更新することで学習を行う。すなわち、判別部１２２ｂは、ペリカンの画像のみを識別するように学習する。
さらに、生成部１２１ｂは、判別部１２２ｂによる判別結果を受け取り、判別部１２２ｂが真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新することで学習を行う。すなわち、生成部１２１ｂは、ペリカンの画像と識別されるような画像を生成するように学習する。
上述のような、生成部１２１ｂおよび判別部１２２ｂの学習処理が繰り返されることによって、それぞれ生成モデルおよび判別モデルが作成される。ここで、逐次学習装置１０ｂにおいては、逐次学習装置１０ａにおける学習で使用していたカラスの実画像１３２ａは破棄されているので、その代替として、既に生成モデルとして作成されている生成部１２１ａが生成するカラスの生成画像を偽の画像として、判別部１２２ｂに入力させるものとしている。すなわち、判別部１２２ｂには、新たな学習データであるペリカンの実画像が真の画像として入力されると共に、既に作成された生成モデル（生成部１２１ａ）が生成するカラスの生成画像が偽の画像として入力される。したがって、判別部１２２ｂは、過去の学習データ（カラスの実画像）に基づく学習結果を含む生成モデル（生成部１２１ａ）の生成画像を偽の画像として入力している。よって、当該学習結果を忘却することなく、新たな学習データ（ペリカンの実画像）の概念のみを際立たせて識別することができるようになる。また、生成部１２１ｂは、上述のような判別部１２２ｂに真の画像（ペリカンの実画像）として判別させるような画像を生成することができるようになるので、生成部１２１ｂによる画像の生成処理についても、当該学習結果を忘却することなく、新たな学習データ（ペリカンの実画像）の概念のみを際立たせて生成することができるようになる。
そして、学習処理後、学習に使用された学習データ（ペリカンの実画像１３２ｂ）は破棄される。また、例えば、上述の学習データを提供し、ペリカンの画像を判別する判別モデルの作成を依頼した業者に対しては、当該判別モデルを上述のような納品態様に従って納品することが可能となる。
［処理の流れ］
図５は、実施例１に係る逐次学習装置の学習動作の流れの一例を示すフローチャートである。図５を参照しながら、本実施例に係る逐次学習装置１０の学習動作の流れの一例を説明する。なお、図５では、逐次学習装置１０としての逐次学習装置１０ｂにおける学習動作に着目して説明する。
まず、生成部１２１ｂは、乱数等のデータを入力し、判別部１２２ｂに真の画像として判別させるような生成画像を生成する（ステップＳ１１）。次に、判別部１２２ｂは、生成部１２１ｂにより生成された生成画像を偽の画像として入力する（ステップＳ１２）。そして、判別部１２２ｂは、入力した生成画像について真偽を判別し、その判別結果に基づいて、入力した画像が真の画像か偽の画像かをさらに精度よく判別ができるようなパラメータを求めて更新する（ステップＳ１３）。これによって、判別部１２２ｂは、真の画像を精度よく識別するように学習する。
判別部１２２ｂは、生成部１２１ｂにより生成された生成画像に対する上述の判別結果を、生成部１２１ｂへ出力する（ステップＳ１４）。そして、生成部１２１ｂは、判別部１２２ｂによる判別結果を受け取り、判別部１２２ｂが真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新する（ステップＳ１５）。これによって、生成部１２１ｂは、判別部１２２ｂにより真の画像と識別されるような画像を生成するように学習する。
また、判別部１２２ｂは、記憶部１３ｂに記憶された新たな学習データである実画像を真の画像として入力する（ステップＳ１６）。そして、判別部１２２ｂは、入力した実画像の真偽を判別し、その判別結果に基づいて、入力した画像が真の画像か偽の画像かをさらに精度よく判別ができるようなパラメータを求めて更新する（ステップＳ１７）。これによって、判別部１２２ｂは、真の画像を精度よく識別するように学習する。
また、判別部１２２ｂは、既に作成された生成モデルである生成部１２１ａにより生成された生成画像を偽の画像として入力する（ステップＳ１８）。そして、判別部１２２ｂは、入力した生成画像について真偽を判別し、その判別結果に基づいて、入力した画像が真の画像か偽の画像かをさらに精度よく判別ができるようなパラメータを求めて更新する（ステップＳ１９）。これによって、判別部１２２ｂは、真の画像を精度よく識別するように学習する。
以上のステップＳ１１〜Ｓ１９の処理が繰り返されることにより、逐次学習装置１０の学習動作が行われる。なお、逐次学習装置１０の学習動作の流れは、ステップＳ１１〜Ｓ１９の順序に限定されるものではない。上述のように、ステップＳ１１〜Ｓ１５は、生成部１２１ｂにより生成された生成画像を扱う処理であり、ステップＳ１６およびＳ１７は、記憶部１３ｂに記憶された実画像を扱う処理であり、ステップＳ１８およびＳ１９は、既に作成された生成モデルである生成部１２１ａにより生成された生成画像を扱う処理である。例えば、これらの処理が順不同に実行されるものとしてもよい。また、上述の処理が１回ずつ行われることに限らず、例えば、記憶部１３ｂに記憶された実画像を扱う処理が連続で行われることがあってもよい。
［効果の一側面］
以上のように、本実施例に係る逐次学習装置１０では、既に生成モデルとして作成されている生成部が生成する生成画像を偽の画像として、判別部に入力させるものとしている。すなわち、判別部には、新たな学習データである実画像が真の画像として入力されると共に、既に作成された生成モデル（生成部）が生成する生成画像が偽の画像として入力される。したがって、判別部は、過去の学習データに基づく学習結果を含む生成モデル（生成部）の生成画像を偽の画像として入力しているので、当該学習結果を忘却することなく、新たな学習データの概念のみを際立たせて識別することができるようになる。すなわち、これまでの学習結果を利用して、新たな概念に対する判別精度を向上させることができる。また、新たな判別部および生成部についての学習の際に用いる既に学習済みの生成モデルについては、任意のモデルを選択して用いることが可能である。この場合、学習済みのすべての生成モデルを用いるものとしてもよい。また、新たに作成される生成部は、上述のような判別部に真の画像として判別させるような画像を生成することができるようになるので、生成部による画像の生成処理についても、当該学習結果を忘却することなく、新たな学習データの概念のみを際立たせて生成することができるようになる。
実施例２に係る逐次学習装置１０について、実施例１に係る逐次学習装置１０と相違する点を中心に説明する。実施例１では、既に生成された生成モデルにより生成されたデータを、新たに作成する判別モデルに対して偽のデータ（画像）として入力させていたのに対し、実施例２では、真のデータ（画像）として入力させる場合の動作について説明する。なお、実施例２に係る逐次学習装置１０の機能的構成は、図１に示した実施例１に係る逐次学習装置１０の構成と同様である。
［逐次学習装置の学習処理の概要］
図６は、既成の生成部の生成画像を用いて学習する動作を説明する図である。図６を参照しながら、本実施例に係る逐次学習装置１０の学習処理の概要の一例を説明する。なお、図６に基づく説明の中で言及する画像は、野鳥に係る画像であるものとする。
図６に示すように、逐次学習装置１０ａにおいて、生成部１２１ａ（Ｇ（Ｘ｜Ｃ｛加｝））は、乱数等のデータを入力し、判別部１２２ａに真の画像（ここでは、カナダ（加）の野鳥の生成画像）として判別させるような生成画像を生成し、判別部１２２ａへ出力する。なお、生成部１２１ａにより生成される生成画像は、第１の生成データの一例に対応する。
判別部１２２ａ（Ｄ（Ｃ｛加｝｜Ｘ））は、記憶部１３ａに記憶された学習データであるカナダ（加）の野鳥の実画像１３１ａを真の画像として入力し、生成部１２１ａにより生成された野鳥の生成画像を偽の画像として入力する。そして、判別部１２２ａは、入力したそれぞれの画像の真偽を判別する。また、判別部１２２ａは、生成部１２１ａにより生成された生成画像に対する判別結果を生成部１２１ａへ出力する。そして、判別部１２２ａは、それぞれの判別結果に基づいて、入力した画像が真の画像か偽の画像かを精度よく判別ができるようなパラメータを求めて更新することで学習を行う。すなわち、判別部１２２ａは、カナダ（加）の野鳥の画像のみを識別するように学習する。
さらに、生成部１２１ａは、判別部１２２ａによる判別結果を受け取り、判別部１２２ａが真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新することで学習を行う。すなわち、生成部１２１ａは、カナダ（加）の野鳥の画像と識別されるような画像を生成するように学習する。
上述のような、通常のＧＡＮの動作に従って、生成部１２１ａおよび判別部１２２ａの学習処理が繰り返されることによって、それぞれ生成モデルおよび判別モデルが作成される。そして、学習処理後、学習に使用された学習データ（カナダ（加）の野鳥の実画像１３１ａ）は破棄される。また、例えば、上述の学習データを提供し、カナダ（加）の野鳥の画像を判別する判別モデルの作成を依頼した業者に対しては、当該判別モデルを上述のような納品態様に従って納品することが可能となる。ここで、判別モデルを納品した業者にとって、学習に使用した学習データ（カナダ（加）の野鳥の実画像１３１ａ）は破棄されて手元には残らないが、カナダ（加）の野鳥の実画像と同一または類似する画像を生成することができる生成モデル（生成部１２１ａ）は、手元に残ることになる。
次に、図６に示すように、逐次学習装置１０ｂにおいて、生成部１２１ｂ（Ｇ（Ｘ｜Ｃ｛米，加｝））は、乱数等のデータを入力し、判別部１２２ｂに真の画像（ここでは、アメリカ（米）またはカナダ（加）の野鳥の生成画像）として判別させるような生成画像を生成し、判別部１２２ｂへ出力する。なお、生成部１２１ｂにより生成される生成画像は、第２の生成データの一例に対応する。
判別部１２２ｂ（Ｄ（Ｃ｛米，加｝｜Ｘ））は、記憶部１３ｂに記憶された新たな学習データであるアメリカ（米）の野鳥の実画像１３１ｂを真の画像として入力し、生成部１２１ｂにより生成された野鳥の生成画像を偽の画像として入力する。さらに、判別部１２２ｂは、既に作成された生成モデルである生成部１２１ａにより生成されたカナダ（加）の野鳥の生成画像を真の画像として入力する。そして、判別部１２２ｂは、入力したそれぞれの画像の真偽を判別する。また、判別部１２２ｂは、生成部１２１ｂにより生成された生成画像に対する判別結果を生成部１２１ｂへ出力する。そして、判別部１２２ｂは、それぞれの判別結果に基づいて、入力した画像が真の画像か偽の画像かを精度よく判別ができるようなパラメータを求めて更新することで学習を行う。すなわち、判別部１２２ｂは、アメリカ（米）の野鳥の画像またはカナダ（加）の野鳥の画像を識別するように学習する。
さらに、生成部１２１ｂは、判別部１２２ｂによる判別結果を受け取り、判別部１２２ｂが真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新することで学習を行う。すなわち、生成部１２１ｂは、アメリカ（米）の野鳥の画像またはカナダ（加）の野鳥の画像と識別されるような画像を生成するように学習する。
上述のような、生成部１２１ｂおよび判別部１２２ｂの学習処理が繰り返されることによって、それぞれ生成モデルおよび判別モデルが作成される。ここで、逐次学習装置１０ｂにおいては、逐次学習装置１０ａにおける学習で使用していたカナダ（加）の野鳥の実画像１３１ａは破棄されているので、その代替として、既に生成モデルとして作成されている生成部１２１ａが生成するカナダ（加）の野鳥の生成画像を真の画像として、判別部１２２ｂに入力させるものとしている。すなわち、判別部１２２ｂには、新たな学習データであるアメリカ（米）の野鳥の実画像が真の画像として入力されると共に、既に作成された生成モデル（生成部１２１ａ）が生成するカナダ（加）の野鳥の生成画像が真の画像として入力される。したがって、判別部１２２ｂは、過去の学習データ（カナダ（加）の野鳥の実画像）に基づく学習結果を含む生成モデル（生成部１２１ａ）の生成画像を真の画像として入力している。よって、当該学習結果を忘却することなく、既に学習した概念（カナダ（加）の野鳥の画像）に対して、新たな学習データ（アメリカ（米）の野鳥の実画像）の概念を追加して識別することができるようになる。また、生成部１２１ｂは、上述のような判別部１２２ｂに真の画像（アメリカ（米）またはカナダ（加）の野鳥の実画像）として判別させるような画像を生成することができるようになるので、生成部１２１ｂによる画像の生成処理についても、当該学習結果を忘却することなく、新たな学習データ（アメリカ（米）の野鳥の実画像）の概念を追加して生成することができるようになる。
そして、学習処理後、学習に使用された学習データ（アメリカ（米）の野鳥の実画像１３１ｂ）は破棄される。また、例えば、上述の学習データを提供し、アメリカ（米）またはカナダ（加）の野鳥の画像を判別する判別モデルの作成を依頼した業者に対しては、当該判別モデルを上述のような納品態様に従って納品することが可能となる。ここで、判別モデルを納品した業者にとって、学習に使用した学習データ（アメリカ（米）の野鳥の実画像１３１ｂ）は破棄されて手元には残らないが、アメリカ（米）またはカナダ（加）の野鳥の実画像と同一または類似する画像を生成することができる生成モデル（生成部１２１ｂ）は、手元に残ることになる。
次に、図６に示すように、逐次学習装置１０ｃにおいて、生成部１２１ｃ（Ｇ（Ｘ｜Ｃ｛墨，米，加｝））は、乱数等のデータを入力し、判別部１２２ｃに真の画像（ここでは、メキシコ（墨）、アメリカ（米）またはカナダ（加）の野鳥の生成画像）として判別させるような生成画像を生成し、判別部１２２ｃへ出力する。なお、生成部１２１ｃにより生成される生成画像は、第３の生成データの一例に対応する。
判別部１２２ｃ（Ｄ（Ｃ｛墨，米，加｝｜Ｘ））は、記憶部１３ｃに記憶された新たな学習データであるメキシコ（墨）の野鳥の実画像１３１ｃを真の画像として入力し、生成部１２１ｃにより生成された野鳥の生成画像を偽の画像として入力する。さらに、判別部１２２ｃは、既に作成された生成モデルである生成部１２１ｂにより生成されたアメリカ（米）またはカナダ（加）の野鳥の生成画像を偽の画像として入力する。そして、判別部１２２ｃは、入力したそれぞれの画像の真偽を判別する。また、判別部１２２ｃは、生成部１２１ｃにより生成された生成画像に対する判別結果を生成部１２１ｃへ出力する。そして、判別部１２２ｃは、それぞれの判別結果に基づいて、入力した画像が真の画像か偽の画像かを精度よく判別ができるようなパラメータを求めて更新することで学習を行う。すなわち、判別部１２２ｃは、メキシコ（墨）の野鳥の画像、アメリカ（米）の野鳥の画像、またはカナダ（加）の野鳥の画像を識別するように学習する。
さらに、生成部１２１ｃは、判別部１２２ｃによる判別結果を受け取り、判別部１２２ｃが真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新することで学習を行う。すなわち、生成部１２１ｃは、メキシコ（墨）の野鳥の画像、アメリカ（米）の野鳥の画像、またはカナダ（加）と識別されるような画像を生成するように学習する。
上述のような、生成部１２１ｃおよび判別部１２２ｃの学習処理が繰り返されることによって、それぞれ生成モデルおよび判別モデルが作成される。ここで、逐次学習装置１０ｃにおいては、逐次学習装置１０ｂにおける学習で使用していたアメリカ（米）の野鳥の実画像１３１ｂは破棄されているので、その代替として、既に生成モデルとして作成されている生成部１２１ｂが生成するアメリカ（米）またはカナダ（加）の野鳥の生成画像を真の画像として、判別部１２２ｃに入力させるものとしている。すなわち、判別部１２２ｃには、新たな学習データであるメキシコ（墨）の野鳥の実画像が真の画像として入力されると共に、既に作成された生成モデル（生成部１２１ｂ）が生成するアメリカ（米）またはカナダ（加）の野鳥の生成画像が真の画像として入力される。したがって、判別部１２２ｃは、過去の学習データ（アメリカ（米）およびカナダ（加）の野鳥の実画像）に基づく学習結果を含む生成モデル（生成部１２１ｂ）の生成画像を真の画像として入力している。よって、当該学習結果を忘却することなく、既に学習した概念（アメリカ（米）およびカナダ（加）の野鳥の画像）に対して、新たな学習データ（メキシコ（墨）の野鳥の実画像）の概念を追加して識別することができるようになる。また、生成部１２１ｃは、上述のような判別部１２２ｃに真の画像（メキシコ（墨）、アメリカ（米）またはカナダ（加）の野鳥の実画像）として判別させるような画像を生成することができるようになるので、生成部１２１ｃによる画像の生成処理についても、当該学習結果を忘却することなく、新たな学習データ（メキシコ（墨）の野鳥の実画像）の概念を追加して生成することができるようになる。
そして、学習処理後、学習に使用された学習データ（メキシコ（墨）の野鳥の実画像１３１ｃ）は破棄される。また、例えば、上述の学習データを提供し、メキシコ（墨）、アメリカ（米）またはカナダ（加）の野鳥の画像を判別する判別モデルの作成を依頼した業者に対しては、当該判別モデルを上述のような納品態様に従って納品することが可能となる。ここで、判別モデルを納品した業者にとって、学習に使用した学習データ（メキシコ（墨）の野鳥の実画像１３１ｃ）は破棄されて手元には残らないが、メキシコ（墨）、アメリカ（米）またはカナダ（加）の野鳥の実画像と同一または類似する画像を生成することができる生成モデル（生成部１２１ｃ）は、手元に残ることになる。
［逐次学習装置の学習処理の詳細、および、従来技術との差異］
図７は、第２のタスクとして既成の生成部の生成画像を用いて和集合に係る画像を判別する動作を説明する図である。図８は、従来技術の解答部の学習動作を説明する図である。図７および図８を参照しながら、本実施例に係る逐次学習装置１０の学習処理の詳細の一例、および従来技術との差異について説明する。なお、第１のタスクとしての逐次学習装置１０ａ（図６参照）におけるカラスの画像のみを判別するモデルを作成する処理については、上述の図３で説明した処理と同様であり、ここでは、当該処理が既に完了しているものとする。
図７に示すように、逐次学習装置１０ｂ（図６参照）の記憶部１３ｂは、学習データとしてペリカンの実画像１３２ｂを記憶しているものとする。以下、第２のタスクとして、ペリカンまたはカラスの画像を判別するモデルを作成する処理について説明する。逐次学習装置１０ｂにおいて、生成部１２１ｂ（Ｇ（Ｘ｜Ｃ｛ペリカン，カラス｝））は、乱数等のデータを入力し、判別部１２２ｂに真の画像（ここでは、ペリカンまたはカラスの画像）として判別させるような画像である生成画像２０２ａを生成し、判別部１２２ｂへ出力する。なお、生成画像２０２ａは、第２の生成データの一例に対応する。ただし、図７に示す生成画像２０２ａのように、生成部１２１ｂが学習の初期の段階で生成する画像は、ペリカンまたはカラスの形状としては違和感のあるノイズを含むような画像となっている。
判別部１２２ｂ（Ｄ（Ｃ｛ペリカン，カラス｝｜Ｘ））は、記憶部１３ｂに記憶された新たな学習データであるペリカンの実画像１３２ｂを真の画像として入力し、生成部１２１ｂにより生成されたペリカンまたはカラスの生成画像を偽の画像として入力する。さらに、判別部１２２ｂは、既に作成された生成モデルである生成部１２１ａ（Ｇ（Ｘ｜Ｃ｛カラス｝））により生成されたカラスの生成画像２０１ａを真の画像として入力する。なお、生成画像２０１ａは、第１の生成データの一例に対応する。そして、判別部１２２ｂは、入力したそれぞれの画像の真偽を判別する。また、判別部１２２ｂは、生成部１２１ｂにより生成された生成画像に対する判別結果を生成部１２１ｂへ出力する。そして、判別部１２２ｂは、それぞれの判別結果に基づいて、入力した画像が真の画像か偽の画像かを精度よく判別ができるようなパラメータを求めて更新することで学習を行う。すなわち、判別部１２２ｂは、ペリカンまたはカラスの画像を識別するように学習する。
さらに、生成部１２１ｂは、判別部１２２ｂによる判別結果を受け取り、判別部１２２ｂが真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新することで学習を行う。すなわち、生成部１２１ｂは、ペリカンまたはカラスの画像と識別されるような画像を生成するように学習する。
上述のような、生成部１２１ｂおよび判別部１２２ｂの学習処理が繰り返されることによって、それぞれ生成モデルおよび判別モデルが作成される。ここで、逐次学習装置１０ｂにおいては、逐次学習装置１０ａにおける学習で使用していたカラスの実画像１３２ａは破棄されているので、その代替として、既に生成モデルとして作成されている生成部１２１ａが生成するカラスの生成画像を真の画像として、判別部１２２ｂに入力させるものとしている。すなわち、判別部１２２ｂには、新たな学習データであるペリカンの実画像が真の画像として入力されると共に、既に作成された生成モデル（生成部１２１ａ）が生成するカラスの生成画像が真の画像として入力される。したがって、判別部１２２ｂは、過去の学習データ（カラスの実画像）に基づく学習結果を含む生成モデル（生成部１２１ａ）の生成画像を真の画像として入力している。よって、当該学習結果を忘却することなく、既に学習した概念（カラスの野鳥の画像）に対して、新たな学習データ（ペリカンの実画像）の概念を追加して識別することができるようになる。また、生成部１２１ｂは、上述のような判別部１２２ｂに真の画像（ペリカンまたはカラスの実画像）として判別させるような画像を生成することができるようになるので、生成部１２１ｂによる画像の生成処理についても、当該学習結果を忘却することなく、新たな学習データ（ペリカンの実画像）の概念を追加して生成することができるようになる。
そして、学習処理後、学習に使用された学習データ（ペリカンの実画像１３２ｂ）は破棄される。また、例えば、上述の学習データを提供し、ペリカンまたはカラスの画像を判別する判別モデルの作成を依頼した業者に対しては、当該判別モデルを上述のような納品態様に従って納品することが可能となる。
次に、図８を参照しながら、上述したsolverと称する解答部を作成する従来技術に係るシステム（以下の説明では「従来システム」と称する）と、本実施例に係る逐次学習装置１０とを比較しながら、その差異について説明する。
上述のように、従来システムでは、まず、学習データを基にＧＡＮにより生成モデルを作成すると共に、学習データのラベルを予測して出力するsolverと称する解答モデルを、生成モデルと独立して学習により作成する。この学習の結果、生成モデルとして、図８に示すように、カラスおよびペリカンの画像を生成する生成部３０１（Ｇ（Ｘ｜Ｃ｛ペリカン，カラス｝））が得られたものとする。
そして、新たな学習データとして、図８に示すように、ペリカンの実画像２５１と、「ペリカン」というラベルとを含む学習データが与えられ、解答モデルとしての解答部３０２に入力されるものとする。すなわち、解答部３０２は、ラベル付きの画像を学習データとして入力する。解答部３０２は、さらに、既に作成された生成部３０１が出力するカラスおよびペリカンの生成画像２６１を入力すると共に、上述の生成部３０１の学習の際に、独立して作成された解答部により出力される生成画像２６１のラベルである「カラス」または「ペリカン」のいずれかを入力する。解答部３０２は、入力したそれぞれの画像が何の画像であるのか、すなわち、どのようなラベルの画像であるのかを判別し、その判別結果に基づいて、入力した画像がどのラベルなのかを精度よく判別できるようなパラメータを求めて更新することで学習を行う。
ただし、このような従来システムでは、「solver」である解答部３０２（図８に示す解答部Ｓ）の学習の際に算出される下記の式（１）で表される損失関数について、これまでに学習した概念（例えば、生成部３０１の学習後に解答部３１２（図８に示す解答部Ｓ’）により学習された概念）と、新たな学習データが含む概念（実ラベル２５２）とがオーバーラップしていない場合、損失の第２項が常に一定（最大）になるという問題がある。
Figure 2020086539
この場合、損失の第１項のみが学習により低減可能であるため、新たな学習データのみで学習した場合と結果が同一となり、これまでに学習した概念を忘却した解答部３０２が解答モデルとして学習されてしまうことになる。例えば、図８に示す例では、これまでに学習した概念（カラスおよびペリカン）と、新たな学習データが含む概念（ペリカン）とがオーバーラップしているため、上述の影響は抑制されるものと考えられる。一方、仮に、新たな学習データがワシの画像であり、概念として全くオーバーラップしていないとした場合を考える。このとき、新たな学習データ（ワシの画像）とは概念がオーバーラップせず、これまで学習した概念（カラスおよびペリカン）を忘却した解答部３０２が得られることになる。また、従来システムでは、ＧＡＮにおける生成モデルとは別に、新たに学習するための学習データごとに、「solver」である解答モデルを学習させる必要がある。
一方、本実施例に係る逐次学習装置１０では、学習によって得られる判別部は、過去の学習データ（カラスおよびペリカンの実画像）に基づく学習結果を含む生成モデル（生成部１２１ｂ）の生成画像を真の画像と、新たな学習データ（ワシの実画像）と、対になる生成モデルが生成した生成画像と、を入力とするＧＡＮの学習方式により得られたものを用いており、概念がオーパーラップしているか否かは問題にならない。また、本実施例に係る逐次学習装置１０では、従来システムにおける解答モデルを作成する必要もない。
［処理の流れ］
図９は、実施例２に係る逐次学習装置の学習動作の流れの一例を示すフローチャートである。図９を参照しながら、本実施例に係る逐次学習装置１０の学習動作の流れの一例を説明する。なお、図９では、逐次学習装置１０としての逐次学習装置１０ｂ（図６参照）における学習動作に着目して説明する。
まず、生成部１２１ｂは、乱数等のデータを入力し、判別部１２２ｂに真の画像として判別させるような生成画像を生成する（ステップＳ３１）。次に、判別部１２２ｂは、生成部１２１ｂにより生成された生成画像を偽の画像として入力する（ステップＳ３２）。そして、判別部１２２ｂは、入力した生成画像について真偽を判別し、その判別結果に基づいて、入力した画像が真の画像か偽の画像かをさらに精度よく判別ができるようなパラメータを求めて更新する（ステップＳ３３）。これによって、判別部１２２ｂは、真の画像を精度よく識別するように学習する。
判別部１２２ｂは、生成部１２１ｂにより生成された生成画像に対する上述の判別結果を、生成部１２１ｂへ出力する（ステップＳ３４）。そして、生成部１２１ｂは、判別部１２２ｂによる判別結果を受け取り、判別部１２２ｂが真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新する（ステップＳ３５）。これによって、生成部１２１ｂは、判別部１２２ｂにより真の画像と識別されるような画像を生成するように学習する。
また、判別部１２２ｂは、記憶部１３ｂに記憶された新たな学習データである実画像を真の画像として入力する（ステップＳ３６）。そして、判別部１２２ｂは、入力した実画像の真偽を判別し、その判別結果に基づいて、入力した画像が真の画像か偽の画像かをさらに精度よく判別ができるようなパラメータを求めて更新する（ステップＳ３７）。これによって、判別部１２２ｂは、真の画像を精度よく識別するように学習する。
また、判別部１２２ｂは、既に作成された生成モデルである生成部１２１ａにより生成された生成画像を真の画像として入力する（ステップＳ３８）。そして、判別部１２２ｂは、入力した生成画像について真偽を判別し、その判別結果に基づいて、入力した画像が真の画像か偽の画像かをさらに精度よく判別ができるようなパラメータを求めて更新する（ステップＳ３９）。これによって、判別部１２２ｂは、真の画像を精度よく識別するように学習する。
以上のステップＳ３１〜Ｓ３９の処理が繰り返されることにより、逐次学習装置１０の学習動作が行われる。なお、逐次学習装置１０の学習動作の流れは、ステップＳ３１〜Ｓ３９の順序に限定されるものではない。上述のように、ステップＳ３１〜Ｓ３５は、生成部１２１ｂにより生成された生成画像を扱う処理であり、ステップＳ３６およびＳ３７は、記憶部１３ｂに記憶された実画像を扱う処理であり、ステップＳ３８およびＳ３９は、既に作成された生成モデルである生成部１２１ａにより生成された生成画像を扱う処理である。例えば、これらの処理が順不同に実行されるものとしてもよい。また、上述の処理が１回ずつ行われることに限らず、例えば、記憶部１３ｂに記憶された実画像を扱う処理が連続で行われることがあってもよい。
［効果の一側面］
以上のように、本実施例に係る逐次学習装置１０では、既に生成モデルとして作成されている生成部が生成する生成画像を真の画像として、判別部に入力させるものとしている。すなわち、判別部には、新たな学習データである実画像が真の画像として入力されると共に、既に作成された生成モデル（生成部）が生成する生成画像が真の画像として入力される。したがって、判別部は、過去の学習データに基づく学習結果を含む生成モデル（生成部）の生成画像を真の画像として入力しているので、当該学習結果を忘却することなく、既に学習した概念に対して、新たな学習データの概念を追加して識別することができるようになる。また、新たに作成される生成部は、上述のような判別部に真の画像として判別させるような画像を生成することができるようになるので、生成部による画像の生成処理についても、当該学習結果を忘却することなく、新たな学習データの概念を追加して生成することができるようになる。
実施例２に係る逐次学習装置１０では、図６に示す例で上述したように、最後にメキシコ（墨）の野鳥の画像、アメリカ（米）の野鳥の画像、またはカナダ（加）の野鳥の画像を識別するように学習した判別モデルが得られている。この場合、特定の業者から提供された学習データである野鳥に実画像が間違いが含まれている、または、品質が粗悪である等の理由により、得られたモデルから当該学習データの影響を除く必要性が生じる場合がある。実施例３では、最後の得られた生成部１２１ｃおよび判別部１２２ｃの各モデルに反映された学習データのうち、アメリカの学習データに問題があることが判明したことを想定し、当該学習データの影響を除いたモデルを再作成する動作について説明する。
［既に作成されたモデルからアメリカの学習データの影響を除く動作の一形態］
図１０は、実施例３における学習後に特定の学習データの影響を除いたモデルの生成動作であって実画像がある場合の動作を説明する図である。図１０に示すように、既に作成されたモデルからアメリカの学習データ（アメリカの野鳥の実画像）の影響を除く動作であって、逐次学習装置１０ｃにおけるモデルの生成動作に用いられたメキシコの野鳥の実画像（学習データ）が手元に残っている場合の動作について説明する。
なお、図１０においては、上述の図６で説明した逐次学習装置１０ｃのモデルの生成までの動作と同様の動作が既に完了しているものとして説明する。また、アメリカの学習データの影響を除いたモデルを、仮に逐次学習装置１０ｃ＿１で作成するものとし、当該逐次学習装置１０ｃ＿１は、記憶部１３ｃを含むものとする。
図１０に示すように、逐次学習装置１０ｃ＿１において、生成部１２１ｃ＿１（Ｇ（Ｘ｜Ｃ｛墨，加｝））は、乱数等のデータを入力し、判別部１２２ｃ＿１に真の画像（ここでは、メキシコ（墨）またはカナダ（加）の野鳥の生成画像）として判別させるような生成画像を生成し、判別部１２２ｃ＿１へ出力する。なお、生成部１２１ｃ＿１は、第４の生成器の一例に対応する。また、生成部１２１ｃ＿１により生成される生成画像は、第４の生成データの一例に対応する。
判別部１２２ｃ＿１（Ｄ（Ｃ｛墨，加｝｜Ｘ））は、記憶部１３ｃに記憶されて残っている学習データであるメキシコ（墨）の野鳥の実画像１３１ｃを真の画像として入力し、生成部１２１ｃ＿１により生成された野鳥の生成画像を偽の画像として入力する。なお、判別部１２２ｃ＿１は、第４の判別器の一例に対応する。さらに、判別部１２２ｃ＿１は、既に作成された生成モデルである生成部１２１ａにより生成されたカナダ（加）の野鳥の生成画像を真の画像として入力する。そして、判別部１２２ｃ＿１は、入力したそれぞれの画像の真偽を判別する。また、判別部１２２ｃ＿１は、生成部１２１ｃ＿１により生成された生成画像に対する判別結果を生成部１２１ｃ＿１へ出力する。そして、判別部１２２ｃ＿１は、それぞれの判別結果に基づいて、入力した画像が真の画像か偽の画像かを精度よく判別ができるようなパラメータを求めて更新することで学習を行う。すなわち、判別部１２２ｃ＿１は、アメリカ（米）の野鳥の画像の影響が除かれたメキシコ（墨）またはカナダ（加）の野鳥の画像を識別するように学習する。
さらに、生成部１２１ｃ＿１は、判別部１２２ｃ＿１による判別結果を受け取り、判別部１２２ｂが真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新することで学習を行う。すなわち、生成部１２１ｃ＿１は、アメリカ（米）の野鳥の画像の影響が除かれたメキシコ（墨）またはカナダ（加）の野鳥の画像と識別されるような画像を生成するように学習する。
上述のような、生成部１２１ｃ＿１および判別部１２２ｃ＿１の学習処理が繰り返されることによって、アメリカ（米）の野鳥の画像の影響が除かれたメキシコ（墨）またはカナダ（加）の野鳥の画像についての生成モデルおよび判別モデルが作成される。ここで、アメリカの野鳥の画像の影響を除くために、判別部１２２ｃ＿１は、既に生成された生成モデルである生成部１２１ｂではなく、カナダ（加）の野鳥の画像を生成する生成部１２１ａの生成画像を真の画像として入力するものとしている。したがって、判別部１２２ｃ＿１は、メキシコ（墨）の野鳥の画像、アメリカ（米）の野鳥の画像、またはカナダ（加）の野鳥の画像を識別する判別部１２２ｃに対して、アメリカ（米）の野鳥の画像の影響が除かれた画像を識別するような判別モデルとして再作成することができる。また、生成部１２１ｃ＿３は、メキシコ（墨）の野鳥の画像、アメリカ（米）の野鳥の画像、またはカナダ（加）の野鳥の画像を生成する生成部１２１ｃに対して、アメリカ（米）の野鳥の画像の影響が除かれた画像を生成するような生成モデルとして再作成することができる。
なお、図１０では、便宜上、逐次学習装置１０ａ〜１０ｃ、１０ｃ＿１というように装置を分けて説明したが、これに限定されるものではなく、同一の装置（逐次学習装置１０）上でそれぞれの学習処理が行われるものとしてもよい。例えば、逐次学習装置１０ｃ＿１の判別部１２２ｃ＿１は、逐次学習装置１０ａの生成部１２１ａから生成画像を入力するものとしているが、逐次学習装置１０ａ上で生成部１２１ａの生成モデルとしての機能を残存させるものとしてもよい。そして、記憶部１３ａに実画像１３１ｃを記憶させ、同じ逐次学習装置１０ａ上で、生成部１２１ｃ＿１および判別部１２２ｃ＿１の学習処理を実行させるものとしてもよい。
［既に作成されたモデルからアメリカの学習データの影響を除く動作の別形態］
図１１は、実施例３における学習後に特定の学習データの影響を除いたモデルの生成動作であって実画像がない場合の動作を説明する図である。図１１に示すように、既に作成されたモデルからアメリカの学習データ（アメリカの野鳥の実画像）の影響を除く動作であって、逐次学習装置１０ｃにおけるモデルの生成動作に用いられたメキシコの野鳥の実画像（学習データ）が手元に残っていない場合の動作について説明する。
なお、図１１においては、上述の図６で説明した逐次学習装置１０ｃのモデルの生成までの動作と同様の動作が既に完了しているものとして説明する。また、アメリカの学習データの影響を除いたモデルを、仮に逐次学習装置１０ｃ＿２、１０ｃ＿３を用いて作成するものとする。
図１１の例では、逐次学習装置１０ｃにおけるモデルの生成動作に用いられたメキシコの野鳥の実画像（学習データ）が手元に残っていないため、まず、以下の手順で、逐次学習装置１０ｃ＿２において、メキシコの野鳥の画像を生成できるような生成モデルの作成を行う。
図１１に示すように、逐次学習装置１０ｃ＿２において、生成部１２１ｃ＿２（Ｇ（Ｘ｜Ｃ｛墨｝））は、乱数等のデータを入力し、判別部１２２ｃ＿２にメキシコ（墨）の野鳥の生成画像を真の画像として判別させるような生成画像を生成し、判別部１２２ｃ＿２へ出力する。
判別部１２２ｃ＿２（Ｄ（Ｃ｛墨｝｜Ｘ））は、メキシコ（墨）の野鳥の実画像１３１ｃが既に破棄されているので、その代わりに、既に作成された生成モデルである生成部１２１ｃにより生成されたメキシコ（墨）、アメリカ（米）またはカナダ（加）の野鳥の画像を真の画像として入力する。また、判別部１２２ｃ＿２は、生成部１２１ｃ＿２により生成された野鳥の生成画像を偽の画像として入力する。さらに、判別部１２２ｃ＿２は、既に作成された生成モデルである生成部１２１ｂにより生成されたアメリカ（米）またはカナダ（加）の野鳥の生成画像を偽の画像として入力する。そして、判別部１２２ｃ＿２は、入力したそれぞれの画像の真偽を判別する。また、判別部１２２ｃ＿２は、生成部１２１ｃ＿２により生成された生成画像に対する判別結果を生成部１２１ｃ＿２へ出力する。そして、判別部１２２ｃ＿２は、それぞれの判別結果に基づいて、入力した画像が真の画像か偽の画像かを精度よく判別ができるようなパラメータを求めて更新することで学習を行う。すなわち、判別部１２２ｃ＿２は、メキシコ（墨）の野鳥の画像のみを識別するように学習することになる。
さらに、生成部１２１ｃ＿２は、判別部１２２ｃ＿２による判別結果を受け取り、判別部１２２ｃ＿２が真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新することで学習を行う。すなわち、生成部１２１ｃ＿２は、メキシコ（墨）の野鳥の画像と識別されるような画像を生成するように学習することになる。
次に、図１１に示すように、逐次学習装置１０ｃ＿３において、生成部１２１ｃ＿３（Ｇ（Ｘ｜Ｃ｛墨，加｝））は、乱数等のデータを入力し、判別部１２２ｃ＿３にメキシコ（墨）またはカナダ（加）の野鳥の生成画像を真の画像として判別させるような生成画像を生成し、判別部１２２ｃ＿３へ出力する。
判別部１２２ｃ＿３（Ｄ（Ｃ｛墨，加｝｜Ｘ））は、逐次学習装置１０ｃ＿２で作成された生成モデルである生成部１２１ｃ＿２により生成されたメキシコ（墨）の野鳥の生成画像を真の画像として入力し、生成部１２１ｃ＿３により生成された野鳥の生成画像を偽の画像として入力する。さらに、判別部１２２ｃ＿３は、既に作成された生成モデルである生成部１２１ａにより生成されたカナダ（加）の野鳥の生成画像を真の画像として入力する。そして、判別部１２２ｃ＿３は、入力したそれぞれの画像の真偽を判別する。また、判別部１２２ｃ＿３は、生成部１２１ｃ＿３により生成された生成画像に対する判別結果を生成部１２１ｃ＿３へ出力する。そして、判別部１２２ｃ＿３は、それぞれの判別結果に基づいて、入力した画像が真の画像か偽の画像かを精度よく判別ができるようなパラメータを求めて更新することで学習を行う。すなわち、判別部１２２ｃ＿３は、メキシコ（墨）またはカナダ（加）の野鳥の画像を識別するように学習するようになり、アメリカ（米）の野鳥の画像の影響が除かれた状態となる。
さらに、生成部１２１ｃ＿３は、判別部１２２ｃ＿３による判別結果を受け取り、判別部１２２ｃ＿３が真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新することで学習を行う。すなわち、生成部１２１ｃ＿３は、メキシコ（墨）またはカナダ（加）の野鳥の画像と識別されるような画像を生成するように学習するようになり、アメリカ（米）の野鳥の画像の影響が除かれた状態となる。
上述のような、逐次学習装置１０ｃ＿２、１０ｃ＿３での学習処理が行われることによって、アメリカ（米）の野鳥の画像の影響が除かれたメキシコ（墨）またはカナダ（加）の野鳥の画像についての生成モデルおよび判別モデルが作成される。ここで、メキシコの野鳥の実画像（学習データ）が手元に残っていないため、まず、逐次学習装置１０ｃ＿２において、メキシコ（墨）の野鳥の画像を生成するような生成モデル（生成部１２１ｃ＿２）を作成するものとしている。そして、カナダ（加）の野鳥の画像を生成する生成部１２１ａと、メキシコ（墨）の野鳥の画像を生成する生成部１２１ｃ＿２とを用いて、判別モデル（判別部１２２ｃ＿３）を作成するものとしている。したがって、判別部１２２ｃ＿３は、メキシコ（墨）の野鳥の画像、アメリカ（米）の野鳥の画像、またはカナダ（加）の野鳥の画像を識別する判別部１２２ｃに対して、アメリカ（米）の野鳥の画像の影響が除かれた画像を識別するような判別モデルとして再作成することができる。また、生成部１２１ｃ＿３は、メキシコ（墨）の野鳥の画像、アメリカ（米）の野鳥の画像、またはカナダ（加）の野鳥の画像を生成する生成部１２１ｃに対して、アメリカ（米）の野鳥の画像の影響が除かれた画像を生成するような生成モデルとして再作成することができる。
なお、図１１では、便宜上、逐次学習装置１０ａ〜１０ｃ、１０ｃ＿２、１０ｃ＿３というように装置を分けて説明したが、これに限定されるものではなく、同一の装置（逐次学習装置１０）上でそれぞれの学習処理が行われるものとしてもよい。例えば、逐次学習装置１０ｃ＿３の判別部１２２ｃ＿３は、逐次学習装置１０ｃ＿２の生成部１２１ｃ＿２から生成画像を入力するものとしているが、逐次学習装置１０ｃ＿２上で生成部１２１ｃ＿２の生成モデルとしての機能を残存させるものとしてもよい。そして、同じ逐次学習装置１０ｃ＿２上で、生成部１２１ｃ＿３および判別部１２２ｃ＿３の学習処理を実行させるものとしてもよい。
［効果の一側面］
以上のように、本実施例に係る逐次学習装置１０では、得られた生成モデルおよび判別モデルから、特定の学習データの影響を除く必要性が生じた場合、既に作成された生成モデルを選択的に用いる。これによって、当該学習データの影響が除かれた生成モデルおよび判別モデルを作成することができる。図１０および図１１で示した例では、メキシコ（墨）の野鳥の画像、アメリカ（米）の野鳥の画像、またはカナダ（加）の野鳥の画像についての生成モデルおよび判別モデルに対して、アメリカ（米）の野鳥の画像の影響が除かれた画像を識別および生成するような判別モデルおよび生成モデルをそれぞれ再作成することができる。
これに対して、従来システムでは、既に学習された学習データが後で誤っていること等が判明したとしても、当該学習データの影響を除外することはできない。
実施例３では、最後の得られた生成部１２１ｃおよび判別部１２２ｃの各モデルに反映された学習データのうち、アメリカの学習データの影響を除いたモデルを再作成する動作について説明した。実施例４では、最後の得られた生成部１２１ｃおよび判別部１２２ｃの各モデルに反映された学習データのうち、カナダの学習データに問題があることが判明したことを想定し、当該学習データの影響を除いたモデルを再作成する動作について説明する。
［既に作成されたモデルからカナダの学習データの影響を除く動作の一形態］
図１２は、実施例４における学習後に特定の学習データの影響を除いたモデルの生成動作であって実画像がある場合の動作を説明する図である。図１２に示すように、既に作成されたモデルからカナダの学習データ（カナダの野鳥の実画像）の影響を除く動作であって、逐次学習装置１０ｃにおけるモデルの生成動作に用いられたメキシコの野鳥の実画像（学習データ）が手元に残っている場合の動作について説明する。
なお、図１２においては、上述の図６で説明した逐次学習装置１０ｃのモデルの生成までの動作と同様の動作が既に完了しているものとして説明する。また、カナダの学習データの影響を除いたモデルを、仮に逐次学習装置１０ｃ＿４で作成するものとし、当該逐次学習装置１０ｃ＿４は、記憶部１３ｃを含むものとする。
図１２に示すように、逐次学習装置１０ｃ＿４において、生成部１２１ｃ＿４（Ｇ（Ｘ｜Ｃ｛墨，米｝））は、乱数等のデータを入力し、判別部１２２ｃ＿４にメキシコ（墨）またはアメリカ（米）の野鳥の生成画像を真の画像として判別させるような生成画像を生成し、判別部１２２ｃ＿４へ出力する。なお、生成部１２１ｃ＿４は、第４の生成器の一例に対応する。また、生成部１２１ｃ＿４により生成される生成画像は、第４の生成データの一例に対応する。
判別部１２２ｃ＿４（Ｄ（Ｃ｛墨，米｝｜Ｘ））は、記憶部１３ｃに記憶されて残っている学習データであるメキシコ（墨）の野鳥の実画像１３１ｃを真の画像として入力し、生成部１２１ｃ＿４により生成された野鳥の生成画像を偽の画像として入力する。なお、判別部１２２ｃ＿４は、第４の判別器の一例に対応する。さらに、判別部１２２ｃ＿４は、既に作成された生成モデルである生成部１２１ａにより生成されたカナダ（加）の野鳥の生成画像を偽の画像として入力し、既に作成された生成モデルである生成部１２１ｂで生成されたアメリカ（米）またはカナダ（加）の野鳥の生成画像を真の画像として入力する。そして、判別部１２２ｃ＿４は、入力したそれぞれの画像の真偽を判別する。また、判別部１２２ｃ＿４は、生成部１２１ｃ＿４により生成された生成画像に対する判別結果を生成部１２１ｃ＿４へ出力する。そして、判別部１２２ｃ＿４は、それぞれの判別結果に基づいて、入力した画像が真の画像か偽の画像かを精度よく判別ができるようなパラメータを求めて更新することで学習を行う。すなわち、判別部１２２ｃ＿４は、カナダ（加）の野鳥の画像の影響が除かれたメキシコ（墨）またはアメリカ（米）の野鳥の画像を識別するように学習するようになる。
さらに、生成部１２１ｃ＿４は、判別部１２２ｃ＿４による判別結果を受け取り、判別部１２２ｃ＿４が真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新することで学習を行う。すなわち、生成部１２１ｃ＿４は、カナダ（加）の野鳥の画像の影響が除かれたメキシコ（墨）またはアメリカ（米）の野鳥の画像と識別されるような画像を生成するように学習する。
上述のような、生成部１２１ｃ＿４および判別部１２２ｃ＿４の学習処理が繰り返されることによって、カナダ（加）の野鳥の画像の影響が除かれたメキシコ（墨）またはアメリカ（米）の野鳥の画像についての生成モデルおよび判別モデルが作成される。ここで、カナダの野鳥の画像の影響を除くために、判別部１２２ｃ＿４は、既に生成された生成モデルである生成部１２１ｂの生成画像を真の画像として入力することに加えて、カナダ（加）の野鳥の画像を生成する生成部１２１ａの生成画像を偽の画像として入力するものとしている。したがって、判別部１２２ｃ＿４は、メキシコ（墨）の野鳥の画像、アメリカ（米）の野鳥の画像、またはカナダ（加）の野鳥の画像を識別する判別部１２２ｃに対して、カナダ（加）の野鳥の画像の影響が除かれた画像を識別するような判別モデルとして再作成することができる。また、生成部１２１ｃ＿４は、メキシコ（墨）の野鳥の画像、アメリカ（米）の野鳥の画像、またはカナダ（加）の野鳥の画像を生成する生成部１２１ｃに対して、カナダ（加）の野鳥の画像の影響が除かれた画像を生成するような生成モデルとして再作成することができる。
なお、図１２では、便宜上、逐次学習装置１０ａ〜１０ｃ、１０ｃ＿４というように装置を分けて説明したが、これに限定されるものではなく、同一の装置（逐次学習装置１０）上でそれぞれの学習処理が行われるものとしてもよい。例えば、逐次学習装置１０ｃ＿４の判別部１２２ｃ＿４は、逐次学習装置１０ａの生成部１２１ａから生成画像を入力するものとしているが、逐次学習装置１０ａ上で生成部１２１ａの生成モデルとしての機能を残存させるものとしてもよい。そして、記憶部１３ａに実画像１３１ｃを記憶させ、同じ逐次学習装置１０ａ上で、生成部１２１ｃ＿４および判別部１２２ｃ＿４の学習処理を実行させるものとしてもよい。
［既に作成されたモデルからカナダの学習データの影響を除く動作の別形態］
図１３は、実施例４における学習後に特定の学習データの影響を除いたモデルの生成動作であって実画像がない場合の動作を説明する図である。図１３に示すように、既に作成されたモデルからカナダの学習データ（カナダの野鳥の実画像）の影響を除く動作であって、逐次学習装置１０ｃにおけるモデルの生成動作に用いられたメキシコの野鳥の実画像（学習データ）が手元に残っていない場合の動作について説明する。
なお、図１３においては、上述の図６で説明した逐次学習装置１０ｃのモデルの生成までの動作と同様の動作が既に完了しているものとして説明する。また、カナダの学習データの影響を除いたモデルを、仮に逐次学習装置１０ｃ＿５で作成するものとする。
図１３に示すように、逐次学習装置１０ｃ＿５において、生成部１２１ｃ＿５（Ｇ（Ｘ｜Ｃ｛墨，米｝））は、乱数等のデータを入力し、判別部１２２ｃ＿５にメキシコ（墨）またはアメリカ（米）の野鳥の生成画像を真の画像として判別させるような生成画像を生成し、判別部１２２ｃ＿５へ出力する。なお、生成部１２１ｃ＿５は、第４の生成器の一例に対応する。また、生成部１２１ｃ＿５により生成される生成画像は、第４の生成データの一例に対応する。
判別部１２２ｃ＿５（Ｄ（Ｃ｛墨，米｝｜Ｘ））は、生成部１２１ｃ＿５により生成された野鳥の生成画像を偽の画像として入力する。なお、判別部１２２ｃ＿５は、第４の判別器の一例に対応する。さらに、判別部１２２ｃ＿５は、既に作成された生成モデルである生成部１２１ａにより生成されたカナダ（加）の野鳥の生成画像を偽の画像として入力し、既に作成された生成モデルである生成部１２１ｃで生成されたメキシコ（墨）、アメリカ（米）またはカナダ（加）の野鳥の生成画像を真の画像として入力する。そして、判別部１２２ｃ＿５は、入力したそれぞれの画像の真偽を判別する。また、判別部１２２ｃ＿５は、生成部１２１ｃ＿５により生成された生成画像に対する判別結果を生成部１２１ｃ＿５へ出力する。そして、判別部１２２ｃ＿５は、それぞれの判別結果に基づいて、入力した画像が真の画像か偽の画像かを精度よく判別ができるようなパラメータを求めて更新することで学習を行う。すなわち、判別部１２２ｃ＿５は、カナダ（加）の野鳥の画像の影響が除かれたメキシコ（墨）またはアメリカ（米）の野鳥の画像を識別するように学習するようになる。
さらに、生成部１２１ｃ＿５は、判別部１２２ｃ＿５による判別結果を受け取り、判別部１２２ｃ＿５が真の画像との判別を困難とする画像を生成するようなパラメータを求めて更新することで学習を行う。すなわち、生成部１２１ｃ＿５は、カナダ（加）の野鳥の画像の影響が除かれたメキシコ（墨）またはアメリカ（米）の野鳥の画像と識別されるような画像を生成するように学習する。
上述のような、生成部１２１ｃ＿５および判別部１２２ｃ＿５の学習処理が繰り返されることによって、カナダ（加）の野鳥の画像の影響が除かれたメキシコ（墨）またはアメリカ（米）の野鳥の画像についての生成モデルおよび判別モデルが作成される。ここで、カナダの野鳥の画像の影響を除くために、判別部１２２ｃ＿５は、既に生成された生成モデルである生成部１２１ｃの生成画像を真の画像として入力することに加えて、カナダ（加）の野鳥の画像を生成する生成部１２１ａの生成画像を偽の画像として入力するものとしている。したがって、判別部１２２ｃ＿５は、メキシコ（墨）の野鳥の画像、アメリカ（米）の野鳥の画像、またはカナダ（加）の野鳥の画像を識別する判別部１２２ｃに対して、カナダ（加）の野鳥の画像の影響が除かれた画像を識別するような判別モデルとして再作成することができる。また、生成部１２１ｃ＿５は、メキシコ（墨）の野鳥の画像、アメリカ（米）の野鳥の画像、またはカナダ（加）の野鳥の画像を生成する生成部１２１ｃに対して、カナダ（加）の野鳥の画像の影響が除かれた画像を生成するような生成モデルとして再作成することができる。
なお、図１３では、便宜上、逐次学習装置１０ａ〜１０ｃ、１０ｃ＿５というように装置を分けて説明したが、これに限定されるものではなく、同一の装置（逐次学習装置１０）上でそれぞれの学習処理が行われるものとしてもよい。例えば、逐次学習装置１０ｃ＿５の判別部１２２ｃ＿５は、逐次学習装置１０ａの生成部１２１ａから生成画像を入力するものとしているが、逐次学習装置１０ａ上で生成部１２１ａの生成モデルとしての機能を残存させるものとしてもよい。そして、同じ逐次学習装置１０ａ上で、生成部１２１ｃ＿５および判別部１２２ｃ＿５の学習処理を実行させるものとしてもよい。
［効果の一側面］
以上のように、本実施例に係る逐次学習装置１０では、得られた生成モデルおよび判別モデルから、特定の学習データの影響を除く必要性が生じた場合、既に作成された生成モデルを選択的に用いる。これによって、当該学習データの影響が除かれた生成モデルおよび判別モデルを作成することができる。図１２および図１３で示した例では、メキシコ（墨）の野鳥の画像、アメリカ（米）の野鳥の画像、またはカナダ（加）の野鳥の画像についての生成モデルおよび判別モデルに対して、カナダ（加）の野鳥の画像の影響が除かれた画像を識別および生成するような判別モデルおよび生成モデルをそれぞれ再作成することができる。
これに対して、従来システムでは、既に学習された学習データが後で誤っていること等が判明したとしても、当該学習データの影響を除外することはできない。
［逐次学習プログラム］
図１４は、実施例１〜実施例４に係る逐次学習プログラムを実行するコンピュータのハードウェア構成の一例を示す図である。上述の各実施例で説明した各種の処理は、予め用意されたプログラムをＰＣ（Ｐｅｒｓｏｎａｌ Ｃｏｍｐｕｔｅｒ）またはワークステーション等のコンピュータで実行することによって実現することができる。そこで、以下では、図１４を用いて、上述の各実施例と同様の機能を有する逐次学習プログラムを実行するコンピュータの一例について説明する。
図１４に示すように、コンピュータ４００は、ＣＰＵ４０１と、ＲＯＭ４０２と、ＲＡＭ４０３と、補助記憶装置４０４と、入力装置４０５と、通信装置４０６と、ディスプレイ４０７と、ドライブ装置４０８と、を有する。これらの各部は、バス４１０を介して接続される。ドライブ装置４０８は、例えば、リムーバブルディスク４０９に対する読み出し、および書き込みを行うための装置である。
補助記憶装置４０４には、図１４に示すように、上述の各実施例で示した生成部１２１（生成部１２１ａ、１２１ｂ、１２１ｃ、１２１ｃ＿１〜１２１ｃ＿５）および判別部１２２（判別部１２２ａ、１２２ｂ、１２２ｃ、１２２ｃ＿１〜１２２ｃ＿５）と同様の機能を発揮する逐次学習プログラム４０４ａが記憶される。この逐次学習プログラム４０４ａは、上述の各構成要素と同様に、統合または分離しても構わない。すなわち、補助記憶装置４０４には、必ずしも上述の各実施例で示した全てのデータを格納されずともよく、処理に用いるデータが補助記憶装置４０４に格納されていればよい。
このような環境の下、ＣＰＵ４０１は、補助記憶装置４０４から逐次学習プログラム４０４ａを読み出したうえでＲＡＭ４０３へ展開され、上述の各機能を発揮する。例えば、逐次学習プログラム４０４ａが実行される処理の一例として、図５および図９に示す処理等が含まれる。なお、ＣＰＵ４０１では、必ずしも上述で各実施例で示したすべての処理部が動作せずともよく、実行対象とする処理に対応する処理部が仮想的に実現されればよい。
なお、上述の逐次学習プログラム４０４ａは、必ずしも最初から補助記憶装置４０４またはＲＯＭ４０２に記憶されていなくてもよい。例えば、コンピュータ４００に挿入されるＦＤ（Flexible Disk）、ＣＤ−ＲＯＭ（Compact Disc Read Only Memory）、ＤＶＤ（Digital Versatile Disc）、光磁気ディスク、ＩＣカード等の「可搬用の物理媒体」に逐次学習プログラム４０４ａを記憶させる。そして、コンピュータ４００がこれらの可搬用の物理媒体から逐次学習プログラム４０４ａを取得して実行するようにしてもよい。また、公衆回線、インターネット、ＬＡＮ（Local Area Network）、ＷＡＮ（Wide
Area Network）等を介してコンピュータ４００に接続される他のコンピュータまたはワークステーション等に逐次学習プログラム４０４ａを記憶させておき、コンピュータ４００がこれらから逐次学習プログラム４０４ａを取得して実行するようにしてもよい。
以上の各実施例を含む実施形態に関し、さらに以下の付記を開示する。
（付記１）逐次学習プログラムであって、
コンピュータに、
第１のデータ群を用いて敵対的生成ネットワークにより学習された第１の生成器からの出力と、第２のデータ群とを第２の判別器に入力して、敵対的生成ネットワークにより第２の生成器の学習を行う際に、
前記第１の生成器からの出力を偽として前記第２の判別器に入力する、
処理を実行させる逐次学習プログラム。
（付記２）付記１に記載の逐次学習プログラムであって、
前記第２の判別器に、
前記第１の生成器からの出力である第１の生成データと、前記第２のデータ群と、前記第２の生成器からの出力である第２の生成データと、を入力させ、
入力した各データについて判別を行うことによって学習させ、
前記第２の生成データに対する判別の結果を前記第２の生成器へ出力させ、
前記第２の生成器に、
前記第２の判別器から出力された判別の結果に基づいて学習させる逐次学習プログラム。
（付記３）付記１または２に記載の逐次学習プログラムであって、
前記第１のデータ群および前記第２のデータ群は、画像である逐次学習プログラム。
（付記４）逐次学習プログラムであって、
コンピュータに、
第１のデータ群を用いて敵対的生成ネットワークにより学習された第１の生成器からの出力と、第２のデータ群とを第２の判別器に入力して、敵対的生成ネットワークにより第２の生成器の学習を行う際に、
前記第１の生成器からの出力を真として前記第２の判別器に入力する、
処理を実行させる逐次学習プログラム。
（付記５）付記４に記載の逐次学習プログラムであって、
第１の判別器に、
少なくとも前記第１のデータ群と、前記第１の生成器からの出力である第１の生成データと、を入力させ、
入力した各データについて判別を行うことによって学習させ、
前記第１の生成データに対する判別の結果を前記第１の生成器へ出力させ、
前記第１の生成器に、
前記第１の判別器から出力された判別の結果に基づいて学習させ、
前記第２の判別器に、
前記第１の生成データと、前記第２のデータ群と、前記第２の生成器からの出力である第２の生成データと、を入力させ、
入力した各データについて判別を行うことによって学習させ、
前記第２の生成データに対する判別の結果を前記第２の生成器へ出力させ、
前記第２の生成器に、
前記第２の判別器から出力された判別の結果に基づいて学習させ、
第３の判別器に、
第３のデータ群と、該第３のデータ群を用いて敵対的生成ネットワークにより学習された第３の生成器からの出力である第３の生成データと、を入力させ、
前記第２の生成データを真として入力させ、
入力した各データについて判別を行うことによって学習させ、
前記第３の生成データに対する判別の結果を前記第３の生成器へ出力させ、
前記第３の生成器に、
前記第３の判別器から出力された判別の結果に基づいて学習させる逐次学習プログラム。
（付記６）付記５に記載の逐次学習プログラムであって、
第４の判別器に、
前記第３のデータ群と、該第３のデータ群を用いて敵対的生成ネットワークにより学習された第４の生成器からの出力である第４の生成データと、を入力させ、
前記第１の生成器からの出力である前記第１の生成データを真として入力させ、
入力した各データについて判別を行うことによって、前記第２のデータ群の影響を除いたデータを識別するように学習させ、
前記第４の生成データに対する判別の結果を、前記第４の生成器へ出力させ、
前記第４の生成器に、
前記第４の判別器から出力された判別の結果に基づいて学習させることによって、前記第２のデータ群の影響を除いたデータを生成するように学習させる逐次学習プログラム。
（付記７）付記５に記載の逐次学習プログラムであって、
第４の判別器に、
前記第３のデータ群と、該第３のデータ群を用いて敵対的生成ネットワークにより学習された第４の生成器からの出力である第４の生成データと、を入力させ、
前記第１の生成器からの出力である前記第１の生成データを偽として入力させ、
前記第２の生成器からの出力である前記第２の生成データを真として入力させ、
入力した各データについて判別を行うことによって、前記第１のデータ群の影響を除いたデータを識別するように学習させ、
前記第４の生成データに対する判別の結果を、前記第４の生成器へ出力させ、
前記第４の生成器に、
前記第４の判別器から出力された判別の結果に基づいて学習させることによって、前記第１のデータ群の影響を除いたデータを生成するように学習させる逐次学習プログラム。
（付記８）付記５に記載の逐次学習プログラムであって、
第４の判別器に、
敵対的生成ネットワークにより学習された第４の生成器からの出力である第４の生成データを入力させ、
前記第１の生成器からの出力である前記第１の生成データを偽として入力させ、
前記第３の生成器からの出力である前記第３の生成データを真として入力させ、
入力した各データについて判別を行うことによって、前記第１のデータ群の影響を除いたデータを識別するように学習させ、
前記第４の生成データに対する判別の結果を、前記第４の生成器へ出力させ、
前記第４の生成器に、
前記第４の判別器から出力された判別の結果に基づいて学習させることによって、前記第１のデータ群の影響を除いたデータを生成するように学習させる逐次学習プログラム。
（付記９）第１のデータ群を用いて敵対的生成ネットワークにより学習された第１の生成器からの出力と、第２のデータ群とを第２の判別器に入力して、敵対的生成ネットワークにより第２の生成器の学習を行う際に、
前記第１の生成器からの出力を偽として前記第２の判別器に入力する、
逐次学習装置。
（付記１０）付記９に記載の逐次学習装置であって、
前記第２の判別器は、
前記第１の生成器からの出力である第１の生成データと、前記第２のデータ群と、前記第２の生成器からの出力である第２の生成データと、を入力し、
入力した各データについて判別を行うことによって学習し、
前記第２の生成データに対する判別の結果を前記第２の生成器へ出力し、
前記第２の生成器は、
前記第２の判別器から出力された判別の結果に基づいて学習する逐次学習装置。
（付記１１）付記９または１０に記載の逐次学習装置であって、
前記第１のデータ群および前記第２のデータ群は、画像である逐次学習装置。
（付記１２）第１のデータ群を用いて敵対的生成ネットワークにより学習された第１の生成器からの出力と、第２のデータ群とを第２の判別器に入力して、敵対的生成ネットワークにより第２の生成器の学習を行う際に、
前記第１の生成器からの出力を真として前記第２の判別器に入力する、
逐次学習装置。
（付記１３）付記１２に記載の逐次学習装置であって、
第１の判別器は、
少なくとも前記第１のデータ群と、前記第１の生成器からの出力である第１の生成データと、を入力し、
入力した各データについて判別を行うことによって学習し、
前記第１の生成データに対する判別の結果を前記第１の生成器へ出力し、
前記第１の生成器は、
前記第１の判別器から出力された判別の結果に基づいて学習し、
前記第２の判別器は、
前記第１の生成データと、前記第２のデータ群と、前記第２の生成器からの出力である第２の生成データと、を入力し、
入力した各データについて判別を行うことによって学習し、
前記第２の生成データに対する判別の結果を前記第２の生成器へ出力し、
前記第２の生成器は、
前記第２の判別器から出力された判別の結果に基づいて学習し、
第３の判別器は、
第３のデータ群と、該第３のデータ群を用いて敵対的生成ネットワークにより学習された第３の生成器からの出力である第３の生成データと、を入力し、
前記第２の生成データを真として入力し、
入力した各データについて判別を行うことによって学習し、
前記第３の生成データに対する判別の結果を前記第３の生成器へ出力し、
前記第３の生成器は、
前記第３の判別器から出力された判別の結果に基づいて学習する逐次学習装置。
（付記１４）付記１３に記載の逐次学習装置であって、
第４の判別器は、
前記第３のデータ群と、該第３のデータ群を用いて敵対的生成ネットワークにより学習された第４の生成器からの出力である第４の生成データと、を入力し、
前記第１の生成器からの出力である前記第１の生成データを真として入力し、
入力した各データについて判別を行うことによって、前記第２のデータ群の影響を除いたデータを識別するように学習し、
前記第４の生成データに対する判別の結果を、前記第４の生成器へ出力し、
前記第４の生成器は、
前記第４の判別器から出力された判別の結果に基づいて学習することによって、前記第２のデータ群の影響を除いたデータを生成するように学習する逐次学習装置。
（付記１５）付記１３に記載の逐次学習装置であって、
第４の判別器は、
前記第３のデータ群と、該第３のデータ群を用いて敵対的生成ネットワークにより学習された第４の生成器からの出力である第４の生成データと、を入力し、
前記第１の生成器からの出力である前記第１の生成データを偽として入力し、
前記第２の生成器からの出力である前記第２の生成データを真として入力し、
入力した各データについて判別を行うことによって、前記第１のデータ群の影響を除いたデータを識別するように学習し、
前記第４の生成データに対する判別の結果を、前記第４の生成器へ出力させ、
前記第４の生成器は、
前記第４の判別器から出力された判別の結果に基づいて学習することによって、前記第１のデータ群の影響を除いたデータを生成するように学習する逐次学習装置。
（付記１６）付記１３に記載の逐次学習装置であって、
第４の判別器は、
敵対的生成ネットワークにより学習された第４の生成器からの出力である第４の生成データを入力し、
前記第１の生成器からの出力である前記第１の生成データを偽として入力し、
前記第３の生成器からの出力である前記第３の生成データを真として入力し、
入力した各データについて判別を行うことによって、前記第１のデータ群の影響を除いたデータを識別するように学習し、
前記第４の生成データに対する判別の結果を、前記第４の生成器へ出力し、
前記第４の生成器は、
前記第４の判別器から出力された判別の結果に基づいて学習することによって、前記第１のデータ群の影響を除いたデータを生成するように学習する逐次学習装置。
（付記１７）逐次学習方法であって、
コンピュータが、
第１のデータ群を用いて敵対的生成ネットワークにより学習された第１の生成器からの出力と、第２のデータ群とを第２の判別器に入力して、敵対的生成ネットワークにより第２の生成器の学習を行う際に、
前記第１の生成器からの出力を偽として前記第２の判別器に入力する、
逐次学習方法。
（付記１８）付記１７に記載の逐次学習方法であって、
前記第２の判別器に、
前記第１の生成器からの出力である第１の生成データと、前記第２のデータ群と、前記第２の生成器からの出力である第２の生成データと、を入力させ、
入力した各データについて判別を行うことによって学習させ、
前記第２の生成データに対する判別の結果を前記第２の生成器へ出力させ、
前記第２の生成器に、
前記第２の判別器から出力された判別の結果に基づいて学習させる逐次学習方法。
（付記１９）付記１７または１８に記載の逐次学習方法であって、
前記第１のデータ群および前記第２のデータ群は、画像である逐次学習方法。
（付記２０）逐次学習方法であって、
コンピュータが、
第１のデータ群を用いて敵対的生成ネットワークにより学習された第１の生成器からの出力と、第２のデータ群とを第２の判別器に入力して、敵対的生成ネットワークにより第２の生成器の学習を行う際に、
前記第１の生成器からの出力を真として前記第２の判別器に入力する、
逐次学習方法。
１０、１０ａ〜１０ｃ、１０ｃ＿１〜１０ｃ＿５ 逐次学習装置
１２１、１２１ａ〜１２１ｃ、１２１ｃ＿１〜１２１ｃ＿５ 生成部
１２２、１２２ａ〜１２２ｃ、１２２ｃ＿１〜１２２ｃ＿５ 判別部
１３１、１３１ａ〜１３１ｃ 実画像
１３２ａ、１３２ｂ 実画像
２０１、２０１ａ 生成画像
２０２ 生成画像
２５１ 実画像
２６１ 生成画像

Claims (10)

  1. 逐次学習プログラムであって、
    コンピュータに、
    第１のデータ群を用いて敵対的生成ネットワークにより学習された第１の生成器からの出力と、第２のデータ群とを第２の判別器に入力して、敵対的生成ネットワークにより第２の生成器の学習を行う際に、
    前記第１の生成器からの出力を偽として前記第２の判別器に入力する、
    処理を実行させる逐次学習プログラム。
  2. 請求項１に記載の逐次学習プログラムであって、
    前記第２の判別器に、
    前記第１の生成器からの出力である第１の生成データと、前記第２のデータ群と、前記第２の生成器からの出力である第２の生成データと、を入力させ、
    入力した各データについて判別を行うことによって学習させ、
    前記第２の生成データに対する判別の結果を前記第２の生成器へ出力させ、
    前記第２の生成器に、
    前記第２の判別器から出力された判別の結果に基づいて学習させる逐次学習プログラム。
  3. 請求項１または２に記載の逐次学習プログラムであって、
    前記第１のデータ群および前記第２のデータ群は、画像である逐次学習プログラム。
  4. 逐次学習プログラムであって、
    コンピュータに、
    第１のデータ群を用いて敵対的生成ネットワークにより学習された第１の生成器からの出力と、第２のデータ群とを第２の判別器に入力して、敵対的生成ネットワークにより第２の生成器の学習を行う際に、
    前記第１の生成器からの出力を真として前記第２の判別器に入力する、
    処理を実行させる逐次学習プログラム。
  5. 請求項４に記載の逐次学習プログラムであって、
    第１の判別器に、
    少なくとも前記第１のデータ群と、前記第１の生成器からの出力である第１の生成データと、を入力させ、
    入力した各データについて判別を行うことによって学習させ、
    前記第１の生成データに対する判別の結果を前記第１の生成器へ出力させ、
    前記第１の生成器に、
    前記第１の判別器から出力された判別の結果に基づいて学習させ、
    前記第２の判別器に、
    前記第１の生成データと、前記第２のデータ群と、前記第２の生成器からの出力である第２の生成データと、を入力させ、
    入力した各データについて判別を行うことによって学習させ、
    前記第２の生成データに対する判別の結果を前記第２の生成器へ出力させ、
    前記第２の生成器に、
    前記第２の判別器から出力された判別の結果に基づいて学習させ、
    第３の判別器に、
    第３のデータ群と、該第３のデータ群を用いて敵対的生成ネットワークにより学習された第３の生成器からの出力である第３の生成データと、を入力させ、
    前記第２の生成データを真として入力させ、
    入力した各データについて判別を行うことによって学習させ、
    前記第３の生成データに対する判別の結果を前記第３の生成器へ出力させ、
    前記第３の生成器に、
    前記第３の判別器から出力された判別の結果に基づいて学習させる逐次学習プログラム。
  6. 請求項５に記載の逐次学習プログラムであって、
    第４の判別器に、
    前記第３のデータ群と、該第３のデータ群を用いて敵対的生成ネットワークにより学習された第４の生成器からの出力である第４の生成データと、を入力させ、
    前記第１の生成器からの出力である前記第１の生成データを真として入力させ、
    入力した各データについて判別を行うことによって、前記第２のデータ群の影響を除いたデータを識別するように学習させ、
    前記第４の生成データに対する判別の結果を、前記第４の生成器へ出力させ、
    前記第４の生成器に、
    前記第４の判別器から出力された判別の結果に基づいて学習させることによって、前記第２のデータ群の影響を除いたデータを生成するように学習させる逐次学習プログラム。
  7. 請求項５に記載の逐次学習プログラムであって、
    第４の判別器に、
    前記第３のデータ群と、該第３のデータ群を用いて敵対的生成ネットワークにより学習された第４の生成器からの出力である第４の生成データと、を入力させ、
    前記第１の生成器からの出力である前記第１の生成データを偽として入力させ、
    前記第２の生成器からの出力である前記第２の生成データを真として入力させ、
    入力した各データについて判別を行うことによって、前記第１のデータ群の影響を除いたデータを識別するように学習させ、
    前記第４の生成データに対する判別の結果を、前記第４の生成器へ出力させ、
    前記第４の生成器に、
    前記第４の判別器から出力された判別の結果に基づいて学習させることによって、前記第１のデータ群の影響を除いたデータを生成するように学習させる逐次学習プログラム。
  8. 請求項５に記載の逐次学習プログラムであって、
    第４の判別器に、
    敵対的生成ネットワークにより学習された第４の生成器からの出力である第４の生成データを入力させ、
    前記第１の生成器からの出力である前記第１の生成データを偽として入力させ、
    前記第３の生成器からの出力である前記第３の生成データを真として入力させ、
    入力した各データについて判別を行うことによって、前記第１のデータ群の影響を除いたデータを識別するように学習させ、
    前記第４の生成データに対する判別の結果を、前記第４の生成器へ出力させ、
    前記第４の生成器に、
    前記第４の判別器から出力された判別の結果に基づいて学習させることによって、前記第１のデータ群の影響を除いたデータを生成するように学習させる逐次学習プログラム。
  9. 第１のデータ群を用いて敵対的生成ネットワークにより学習された第１の生成器からの出力と、第２のデータ群とを第２の判別器に入力して、敵対的生成ネットワークにより第２の生成器の学習を行う際に、
    前記第１の生成器からの出力を偽として前記第２の判別器に入力する、
    逐次学習装置。
  10. 逐次学習方法であって、
    コンピュータが、
    第１のデータ群を用いて敵対的生成ネットワークにより学習された第１の生成器からの出力と、第２のデータ群とを第２の判別器に入力して、敵対的生成ネットワークにより第２の生成器の学習を行う際に、
    前記第１の生成器からの出力を偽として前記第２の判別器に入力する、
    逐次学習方法。
JP2018214993A 2018-11-15 2018-11-15 逐次学習プログラム、逐次学習装置および逐次学習方法 Active JP7318197B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018214993A JP7318197B2 (ja) 2018-11-15 2018-11-15 逐次学習プログラム、逐次学習装置および逐次学習方法
US16/680,562 US11449715B2 (en) 2018-11-15 2019-11-12 Sequential learning maintaining a learned concept

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018214993A JP7318197B2 (ja) 2018-11-15 2018-11-15 逐次学習プログラム、逐次学習装置および逐次学習方法

Publications (2)

Publication Number Publication Date
JP2020086539A true JP2020086539A (ja) 2020-06-04
JP7318197B2 JP7318197B2 (ja) 2023-08-01

Family

ID=70727940

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018214993A Active JP7318197B2 (ja) 2018-11-15 2018-11-15 逐次学習プログラム、逐次学習装置および逐次学習方法

Country Status (2)

Country Link
US (1) US11449715B2 (ja)
JP (1) JP7318197B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020119567A (ja) * 2019-01-28 2020-08-06 株式会社ストラドビジョンＳｔｒａｄｖｉｓｉｏｎ，Ｉｎｃ． スマートフォン、ドローン、船舶もしくは軍事的目的に利用するための、入力データを分析するニューラルネットワークをオンデバイス連続学習する方法及び装置、並びにこれによって学習されたニューラルネットワークをテストする方法及び装置

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10825148B2 (en) 2018-11-29 2020-11-03 Adobe Inc. Boundary-aware object removal and content fill
US11544532B2 (en) * 2019-09-26 2023-01-03 Sap Se Generative adversarial network with dynamic capacity expansion for continual learning
CN111898696B (zh) * 2020-08-10 2023-10-27 腾讯云计算(长沙)有限责任公司 伪标签及标签预测模型的生成方法、装置、介质及设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180101770A1 (en) * 2016-10-12 2018-04-12 Ricoh Company, Ltd. Method and system of generative model learning, and program product
US20180307947A1 (en) * 2017-04-25 2018-10-25 Nec Laboratories America, Inc. Cyclic generative adversarial network for unsupervised cross-domain image generation
US20180322366A1 (en) * 2017-05-02 2018-11-08 General Electric Company Neural network training image generation system
US20190130278A1 (en) * 2017-10-26 2019-05-02 Nvidia Corporation Progressive modification of generative adversarial neural networks

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107808098B (zh) * 2017-09-07 2020-08-21 阿里巴巴集团控股有限公司 一种模型安全检测方法、装置以及电子设备
US10552714B2 (en) * 2018-03-16 2020-02-04 Ebay Inc. Generating a digital image using a generative adversarial network

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180101770A1 (en) * 2016-10-12 2018-04-12 Ricoh Company, Ltd. Method and system of generative model learning, and program product
US20180307947A1 (en) * 2017-04-25 2018-10-25 Nec Laboratories America, Inc. Cyclic generative adversarial network for unsupervised cross-domain image generation
US20180322366A1 (en) * 2017-05-02 2018-11-08 General Electric Company Neural network training image generation system
US20190130278A1 (en) * 2017-10-26 2019-05-02 Nvidia Corporation Progressive modification of generative adversarial neural networks

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
SHIN, H., ET AL.: "Continual Learning with Deep Generative Replay", ADVANCES IN NEURAL INFORMATION PROCESSING SYSTEMS 30 (NIPS 2017) [ONLINE], JPN6022026892, 4 December 2017 (2017-12-04), ISSN: 0004817295 *
ZHU, XINYUE ET AL.: ""Emotion Classification with Data Augmentation Using Generative Adversarial Networks"", ARXIV [ONLINE], JPN6023024445, December 2017 (2017-12-01), ISSN: 0005086243 *
渡部 宏樹: "Ｄａｔａ Ａｕｇｍｅｎｔａｔｉｏｎ ｕｓｉｎｇ ＤＣＧＡＮ ｃｏｎｓｉｄｅｒｉｎｇ ｇｅｎｅｒａｔｅ", ＦＩＴ２０１７ 第１６回情報科学技術フォーラム 講演論文集 第３分冊 選奨論文・一般論文 画像認識・, JPN6022055187, 4 October 2017 (2017-10-04), pages 273 - 274, ISSN: 0004955304 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020119567A (ja) * 2019-01-28 2020-08-06 株式会社ストラドビジョンＳｔｒａｄｖｉｓｉｏｎ，Ｉｎｃ． スマートフォン、ドローン、船舶もしくは軍事的目的に利用するための、入力データを分析するニューラルネットワークをオンデバイス連続学習する方法及び装置、並びにこれによって学習されたニューラルネットワークをテストする方法及び装置

Also Published As

Publication number Publication date
US20200160119A1 (en) 2020-05-21
US11449715B2 (en) 2022-09-20
JP7318197B2 (ja) 2023-08-01

Similar Documents

Publication Publication Date Title
JP7318197B2 (ja) 逐次学習プログラム、逐次学習装置および逐次学習方法
US20210125000A1 (en) Method and apparatus for training model for object classification and detection
CN116541538B (zh) 基于大数据的智慧学习知识点挖掘方法及系统
JP2021022368A (ja) ニューラルネットワークを用いた画像認識装置およびトレーニング装置
KR102042168B1 (ko) 시계열 적대적인 신경망 기반의 텍스트-비디오 생성 방법 및 장치
EP3382609A1 (en) Risk assessment method, risk assessment program, and information processing device
EP3443450A1 (en) Two-stage training of a spoken dialogue system
CN112966112B (zh) 基于对抗学习的文本分类模型训练和文本分类方法及装置
CN110046622A (zh) 一种有目标的攻击样本生成方法、装置、设备及存储介质
WO2021130888A1 (ja) 学習装置、推定装置および学習方法
WO2023093346A1 (zh) 基于外源特征进行模型所有权验证的方法和装置
JP6856503B2 (ja) 印象推定モデル学習装置、印象推定装置、印象推定モデル学習方法、印象推定方法、およびプログラム
CN113128619B (zh) 伪造样本检测模型的训练方法、伪造样本识别方法、装置、介质和设备
JP2019159835A (ja) 学習プログラム、学習方法および学習装置
JP7293658B2 (ja) 情報処理装置、情報処理方法及びプログラム
US20220284315A1 (en) Apparatus and system for training knowledge tracking model based on data augmentation and operation method thereof
CN111737417A (zh) 修正自然语言生成结果的方法和装置
TW201816706A (zh) 具個人化學習路徑自動產生機制之學習規劃方法與學習規劃系統
CN110879832A (zh) 目标文本检测方法、模型训练方法、装置及设备
US20230062484A1 (en) Hand-drawn diagram recognition using visual arrow-relation detection
CN112926515B (zh) 活体模型训练方法和装置
JP2020003879A (ja) 情報処理装置、情報処理方法、透かし検出装置、透かし検出方法、及びプログラム
JP7331926B2 (ja) 学習装置、物体検出装置、学習方法、及び、プログラム
KR20220104394A (ko) 대상 모델의 특성을 반영하는 모방 모델 생성 시스템 및 방법
CN110688371B (zh) 数据调整方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210810

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220630

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220705

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220905

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230303

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230620

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230703

R150 Certificate of patent or registration of utility model

Ref document number: 7318197

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150