JP6798614B2 - 画像認識装置、画像認識方法および画像認識プログラム - Google Patents

画像認識装置、画像認識方法および画像認識プログラム Download PDF

Info

Publication number
JP6798614B2
JP6798614B2 JP2019516839A JP2019516839A JP6798614B2 JP 6798614 B2 JP6798614 B2 JP 6798614B2 JP 2019516839 A JP2019516839 A JP 2019516839A JP 2019516839 A JP2019516839 A JP 2019516839A JP 6798614 B2 JP6798614 B2 JP 6798614B2
Authority
JP
Japan
Prior art keywords
image
attribute
parameters
input
parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019516839A
Other languages
English (en)
Other versions
JPWO2018207334A1 (ja
Inventor
達勇 秋山
達勇 秋山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2018207334A1 publication Critical patent/JPWO2018207334A1/ja
Application granted granted Critical
Publication of JP6798614B2 publication Critical patent/JP6798614B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Description

本発明は、サンプル画像を学習して画像を認識する画像認識装置、画像認識方法および画像認識プログラムに関する。
画像認識装置の一例が特許文献1に記載されている。特許文献1に記載の方法は、まず、顔画像集合に対して、画像入力手段が対象人物の顔の位置と大きさを正規化し、輝度変化補正のために画像ヒストグラムを平滑化する。その後、影の影響を除去するためにシェーディング補正を行い、画像圧縮と正規化を行う。次に、顔画像集合に含まれる顔画像の各々についてKL展開(Karhunen-Loeve展開)して固有値と係数を求めるとともに、特徴量として係数の値を入力し、顔画像か否かの判定結果が出力されるようニューラルネットワークの学習を行う。また、特許文献1に記載の方法は、未知画像に対して顔画像か否かを判定行う際には、未知画像を上述で求めたKL展開の固有ベクトル空間上で表現し、得られた値(特徴量としての係数)を上述のニューラルネットに入力することで、判定を行う。
特許文献1に記載の方法は、認識対象とされた「顔」を有する画像のみを用いて、顔らしさを表現する固有ベクトル空間を構成し、そこからニューラルネットワークの学習に用いる特徴を得ている。
また、本発明に関連する技術として、非特許文献1の付録には、ニューラルネットワークのようなディープラーニングにおける学習方法の例として、層毎の貪欲学習(greedy layer training)が記載されている。また、非特許文献2には、自己符号化器(Autoencoder)と呼ばれるニューラルネットワークのうち敵対的自己符号化器(Adversarial Autoencoder)と呼ばれるニューラルネットワークの例が記載されている。なお、本願の図7にも、非特許文献2のp.2に開示されているFig.1の略図が示されている。また、非特許文献3には、デノイジングオートエンコーダ(Denoising Autoencoder)と呼ばれるニューラルネットワークの例が記載されている。
特開平11−25269号公報
Yoshua Bengio, et al., "Greedy Layer-Wise Training of Deep Networks", proceedings on Neural Information Processing Systems, 2006, Appendix of the paper(p.5). Alireze Makhzani, et al., "Adversarial Autoencoder", Proceedings of International Conference on Learning Representations, 2016. P. Vincent, et al., "Extracting and Composing robust features with denoising autoencoders", Proceedings of International Conference on Machine Learning (ICML), 2008, pp.1097-1098.
特許文献1に記載の方法は、顔画像の認識を想定しているが、原理的には顔以外の任意の認証対象に対しても適用可能である。例えば、工場で生産されるある特定の製品が正常であるかどうかを製品画像から判定するための特徴抽出として、正常品画像集合から正常品らしさを表現する固有ベクトル空間を構成することも可能である。
当該方法における正常品らしさを表現する固有ベクトル空間が精度良く構成されれば、認識対象物体に関する異常サンプル画像が入手しづらい状況においても、主として正常サンプル画像に基づいて学習することにより、未知画像に対して認識対象であるか否かを精度良く判定できる。
なお、本発明では、認識対象でないと判定されるべき画像、より具体的には、認識対象が共通に有する所定の属性を有しない画像を「異常サンプル画像」という。また、認識対象であると判定されるべき画像、より具体的には、認識対象が共通に有する所定の属性を有する画像を「正常サンプル画像」をいう。
しかし、特許文献1に記載の方法は、単純な方法で固有ベクトル空間を構成しているため、固有ベクトル空間の次元数が小さい場合に判定精度が悪くなるという問題がある。
例えば、特許文献1に記載の方法は、画像を固有ベクトル空間に縮退させるときに、当該画像が有する固有ベクトルのうち、固有値の大きい方から固有ベクトル空間の次元数分の固有ベクトルしか利用しない。このため、判定に利用される固有ベクトルの係数が、上記の固有ベクトルの係数に限定される。このような方法では、利用されなかった固有ベクトルに対応する固有値が比較的大きい場合に、原画像に対する情報の損失が大きくなり、判定の精度が低下する。
本発明は、上記課題に鑑み、認識対象に関する異常サンプル画像が入手しづらい状況においても、精度良く画像を認識できる画像認識装置、画像認識方法および画像認識プログラムを提供することを目的とする。
本発明による画像認識装置は、認証対象が共通に有する所定の属性を有する1つ以上の第1の画像を少なくとも用いて、該属性を有するか否かが未知の画像である第2の画像から該属性らしさまたは該属性らしくなさを表す特徴を抽出するための1つ以上のパラメータを計算するパラメータ計算手段と、該パラメータを用いて、入力された画像から特徴を抽出する特徴抽出手段と、少なくとも第2の画像から抽出される特徴に基づいて、第2の画像が認証対象であるか否かを判定する判定手段とを備え、特徴抽出手段は、該パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで計算素子が2以上の層を構成し、かつ少なくとも1つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、特徴を抽出し、パラメータ計算手段は、抽出される特徴が予め指定した分布に従うように、パラメータを計算し、判定手段は、分布の形状を定める第2のパラメータを用いて少なくとも第2の画像から抽出される特徴に基づき計算される第2の画像が属性を有するか否かを示す指標に基づいて、第2の画像を判定することを特徴とする。
また、本発明による画像認識装置は、認証対象が共通に有する所定の属性を有する1つ以上の第1の画像を少なくとも用いて、該属性を有するか否かが未知の画像である第2の画像から該属性らしさまたは該属性らしくなさを表す特徴を抽出するための1つ以上のパラメータを計算するパラメータ計算手段と、該パラメータを用いて、入力された画像から特徴を抽出する特徴抽出手段と、少なくとも第2の画像から抽出される特徴に基づいて、第2の画像が認証対象であるか否かを判定する判定手段とを備え、特徴抽出手段は、該パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで計算素子が2以上の層を構成し、かつ少なくとも1つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、特徴を抽出し、パラメータ計算手段は、属性を有し、かつノイズを含む1つ以上の第1の画像を少なくとも用いて、第2の画像から、第1の画像においてノイズとされたノイズ成分を除去するように、パラメータを計算し、特徴抽出手段は、パラメータを用いて、少なくとも第2の画像から特徴としてノイズ成分を抽出し、判定手段は、ノイズ成分に基づいて、第2の画像を判定することを特徴とする。
本発明による画像認識方法は、情報処理装置が、認証対象が共通に有する所定の属性を有する1つ以上の第1の画像を少なくとも用いて、該属性を有するか否かが未知の画像である第2の画像から該属性らしさまたは該属性らしくなさを表す特徴を抽出するための1つ以上のパラメータを計算し、該パラメータを用いて、入力された画像から特徴を抽出し、少なくとも第2の画像から抽出される特徴に基づいて、第2の画像が認証対象であるか否かを判定し、特徴を抽出する際に、該パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで計算素子が2以上の層を構成し、かつ少なくとも1つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用い、抽出される特徴が予め指定した分布に従うように、パラメータを計算し、分布の形状を定める第2のパラメータを用いて少なくとも第2の画像から抽出される特徴に基づき計算される第2の画像が属性を有するか否かを示す指標に基づいて、第2の画像を判定することを特徴とする。
また、本発明による画像認識方法は、情報処理装置が、認証対象が共通に有する所定の属性を有する1つ以上の第1の画像を少なくとも用いて、該属性を有するか否かが未知の画像である第2の画像から該属性らしさまたは該属性らしくなさを表す特徴を抽出するための1つ以上のパラメータを計算し、該パラメータを用いて、入力された画像から特徴を抽出し、少なくとも第2の画像から抽出される特徴に基づいて、第2の画像が認証対象であるか否かを判定し、特徴を抽出する際に、該パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで計算素子が2以上の層を構成し、かつ少なくとも1つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用い、属性を有し、かつノイズを含む1つ以上の第1の画像を少なくとも用いて、第2の画像から、第1の画像においてノイズとされたノイズ成分を除去するように、パラメータを計算し、パラメータを用いて、少なくとも第2の画像から特徴としてノイズ成分を抽出し、ノイズ成分に基づいて、第2の画像を判定することを特徴とする。
本発明による画像認識プログラムは、コンピュータに、認証対象が共通に有する所定の属性を有する1つ以上の第1の画像を少なくとも用いて、該属性を有するか否かが未知の画像である第2の画像から該属性らしさまたは該属性らしくなさを表す特徴を抽出するための1つ以上のパラメータを計算するパラメータ計算処理、該パラメータを用いて、入力された画像から特徴を抽出する特徴抽出処理、および少なくとも第2の画像から抽出される特徴に基づいて、第2の画像が認証対象であるか否かを判定する判定処理を実行させ、特徴抽出処理で、該パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで計算素子が2以上の層を構成し、かつ少なくとも1つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、特徴を抽出させ、パラメータ計算処理で、抽出される特徴が予め指定した分布に従うように、パラメータを計算させ、判定処理で、分布の形状を定める第2のパラメータを用いて少なくとも第2の画像から抽出される特徴に基づき計算される第2の画像が属性を有するか否かを示す指標に基づいて、第2の画像を判定させることを特徴とする。
また、本発明による画像認識プログラムは、コンピュータに、認証対象が共通に有する所定の属性を有する1つ以上の第1の画像を少なくとも用いて、該属性を有するか否かが未知の画像である第2の画像から該属性らしさまたは該属性らしくなさを表す特徴を抽出するための1つ以上のパラメータを計算するパラメータ計算処理、該パラメータを用いて、入力された画像から特徴を抽出する特徴抽出処理、および少なくとも第2の画像から抽出される特徴に基づいて、第2の画像が認証対象であるか否かを判定する判定処理を実行させ、特徴抽出処理で、該パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで計算素子が2以上の層を構成し、かつ少なくとも1つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、特徴を抽出させ、パラメータ計算処理で、属性を有し、かつノイズを含む1つ以上の第1の画像を少なくとも用いて、第2の画像から、第1の画像においてノイズとされたノイズ成分を除去するように、パラメータを計算させ、特徴抽出処理で、パラメータを用いて、少なくとも第2の画像から特徴としてノイズ成分を抽出させ、判定処理で、ノイズ成分に基づいて、第2の画像を判定させることを特徴とする。
本発明によれば、認識対象に関する異常サンプル画像が入手しづらい状況においても、精度良く画像を認識できる。
第1の実施形態の画像認識装置10の例を示すブロック図である。 特徴抽出手段11が用いるニューラルネットワークの例を示す説明図である。 第1の実施形態の学習ステップST1の動作の一例を示すフローチャートである。 第1の実施形態の判定ステップSD1の動作の一例を示すフローチャートである。 判定手段13におけるthの決定例を示す説明図である。 第2の実施形態の画像認識装置20の例を示すブロック図である。 敵対的自己符号化器の構成例を模式的に示す説明図である。 第2の実施形態の学習ステップST2の動作の一例を示すフローチャートである。 第2の実施形態の判定ステップSD2の動作の一例を示すフローチャートである。 第3の実施形態の画像認識装置30の例を示すブロック図である。 第3の実施形態の学習ステップST3の動作の一例を示すフローチャートである。 第3の実施形態の判定ステップSD3の動作の一例を示すフローチャートである。 本発明の実施形態にかかるコンピュータの構成例を示す概略ブロック図である。 本発明の概要を示すブロック図である。
以下、本発明の実施形態を図面を参照して説明する。
実施形態1.
[構成の説明]
図1は、本実施形態の画像認識装置10の例を示すブロック図である。図1に示す画像認識装置10は、特徴抽出手段11と、パラメータ計算手段12と、判定手段13とを備える。
特徴抽出手段11は、認識したい入力画像(以下、テスト画像と呼ぶ)から特徴を抽出する。特徴抽出手段11は、判定対象としたオブジェクトらしさを判定するための特徴を抽出するための1つ以上のパラメータ111を有しており、テスト画像に対して該パラメータ111を用いた所定の計算を行うことにより、特徴を抽出する。ここで、パラメータ111はそれぞれ、その値によって特徴抽出手段11における特徴の計算特性が変わるものであれば、特に問わない。以下、パラメータ111を特徴抽出パラメータと表現する場合がある。また、特徴抽出手段11が画像より抽出した特徴を画像特徴と表現する場合がある。
パラメータ計算手段12は、特徴抽出手段11が特徴抽出に用いるパラメータ111の各々の値を計算する。パラメータ111の値は、例えば、正常サンプル画像や異常サンプル画像といった予め用意された学習画像の集合を用いて計算するのが一般的であるが、これに限定されない。なお、本実施形態のパラメータ111の計算方法については後述する。
判定手段13は、特徴抽出手段11によって抽出された画像特徴に基づいて、テスト画像が認識対象であるか否かを判定する。
以下、本実施形態では、所定の属性を有するオブジェクト(物体、部品、部分等)を認識対象とする場合を例に説明する。この場合、所定の属性は、画像中の注目オブジェクトに共通する性質であり、任意に設定できる。所定の属性の例としては、被写体に関して「(動植物における特定の種という意味での)人」や「特定の個人」や「(目や鼻や口といった所定の部品を有する人の部位という意味での)顔」、工場で生産される特定物体に関して「(不良品でない品質という意味での)良品」などが挙げられるが、これらに限定されない。なお、以下では、さらに、「工場で生産される特定物体の良品」を認識対象とした場合を例に説明する。
そのような認証対象が共通に有する所定の属性に着目すると、上記の構成要素の関係は、例えば次のように説明できる。すなわち、パラメータ計算手段12が、所定の属性を持つ画像集合(正常サンプル画像集合)を用いて、特徴抽出手段11が有するパラメータ111の値を決定し、特徴抽出手段11が、決定されたパラメータ111の値に基づいてテスト画像に対して、当該画像が有する所定の属性らしさを判定するための特徴を抽出し、判定手段13が、テスト画像から得られた該画像特徴に基づいてテスト画像が所定の属性を持つかどうかを判定する。なお、テスト画像が所定の属性を持つと判定された場合、該テスト画像は認証対象であると判定され、テスト画像が所定の属性を持たないと判定された場合、該テスト画像は認証対象でないと判定される。
このとき、パラメータ計算手段12は、対象となるオブジェクト(本例では、所定の属性を有するもの)に応じて、入力画像を最も良く復元する特徴空間へ変換する関数を学習し、学習結果として得られた該関数より、パラメータ111の値を決定してもよい。また、特徴抽出手段11は、学習の結果得られたパラメータ111の値に基づいて学習画像とテスト画像をそれぞれ特徴空間に変換してもよい。また、判定手段13は、特徴抽出手段11により変換された特徴空間上でのそれらの間の近さに基づいて、テスト画像に写るオブジェクトが、対象となるオブジェクトであるかどうかを認定してもよい。
特徴抽出手段11における特徴抽出方法の好適な一例は、ニューラルネットワークを用いる方法である。なお、特徴抽出手段11そのものが、ニューラルネットワークを構成するプログラム(より具体的には、該プログラムにしたがって動作するプロセッサ)により実現されていてもよい。
ニューラルネットワークとは、固有のパラメータを含む計算素子を結合して得られる計算モデルである。計算素子としては、例えば、素子固有のパラメータである重みwa=(wa1,wa2, ... ,wap)と、バイアスbaを用いて、入力信号x=(x1,x2, ... ,xp)からf(wa・x+ba)の値を計算し出力するモデルが利用できる。ここで、aは計算素子のユニット番号を表す。Tはベクトルの転置を表す。pは入力信号の数を表す。また、“・”はベクトルの内積を表す。また、fは活性化関数と呼ばれ、例えば、シグモイド関数、ReLU関数などが利用される。
ここで、ニューラルネットワークに含まれる計算素子の集合を複数の部分集合に分割し、階層を構成することも可能である。このような階層型のニューラルネットワークに含まれる計算素子のパラメータ(重み、バイアス)の計算は、あらかじめ用意した「学習サンプルおよび学習サンプルに対する教師信号のペア」(以下、学習サンプルペアと呼ぶ)の集合(以下、学習サンプル集合と呼ぶ)を用いて計算する。このパラメータの計算のことを学習と呼ぶこともある。したがって、パラメータ計算手段を、ニューラルネットワークを学習する学習手段と言うこともできる。
具体的なパラメータの計算方法の1つに、誤差逆伝播法がある。誤差逆伝播法は、階層型のニューラルネットワークの最終出力が教師信号との誤差ができるだけ小さくなるよう、最急降下法等の既知の最適化手法を用いて、最終出力層に近い順にパラメータ(重み、バイアス)の更新を行う方法である。原理上、パラメータの更新を複数回行うことにより、パラメータは最適な値に近づいていく性質を持つ。ここで、1回の計算に使用する学習サンプルは、必ずしも学習サンプル集合に属するすべての画像サンプルペアである必要はなく、学習サンプル集合に属する一部の画像サンプルペア(部分画像サンプルペア集合)のみを用いてもよい。
また、部分画像サンプルペア集合を用いてパラメータの計算を行う場合は、反復の度に部分画像サンプルペア集合の取り方を無作為に選びなおしてもよい。例えば、最適化手法として最急降下法を用いる場合は、確率的勾配法(Stochastic Gradient Decent)と呼ばれる。仮にC回の反復で最終的に得られる計算素子のパラメータの計算結果について、独立に試行する2回の結果を比較すると、異なる部分画像サンプルペア集合の取り方に基づいてパラメータが計算されるため、概ね一致しても厳密には一致しないことが一般的である。また、計算素子パラメータの初期値をパラメータ計算前にランダムに与えてもよく、この場合も計算素子のパラメータの最終計算結果は厳密には一致しない。また、異なる最適化手法を用いた複数の計算素子のパラメータの最終計算結果は一般的には異なる。これらは、計算素子のパラメータ計算方法が確率的な結果を生成する一例である。このように、パラメータ計算手段12は、ニューラルネットワークの重みの初期値や学習中に選ぶ学習サンプルの選択を無作為としたり、異なる最適化手法を用いる等、確率的な方法でパラメータを求めてもよい。このような性質を用いて構成することができる変形例については、別途、後述する。なお、パラメータ計算手段12は、上記以外の公知の学習方法を用いることも可能である。
以下、ニューラルネットワークが、画像の情報を入力する入力層を含めて2つ以上の層から構成され、かつ、少なくとも1つの層の計算素子の数が入力層の計算素子の数よりも小さくなるよう構成されるオートエンコーダ型ニューラルネットワークである場合を例に説明する。この場合、画像から得られる特徴は、オートエンコーダ型ニューラルネットワークの少なくとも1つの層から出力される情報とされる。
図2は、特徴抽出手段11が特徴抽出の際に用いるニューラルネットワークの例を示す説明図である。図2に示す例のニューラルネットワークは、入力層と出力層とを含む7つの層から構成されている。各層は、1つ以上の計算素子を含む。なお、丸印は計算素子を表している。このようなニューラルネットワークを用いる場合、特徴抽出手段11は、入力層から数えて第4番目の層の出力を、画像特徴として使用してもよい。なお、この例に示すニューラルネットワークは、上述したオートエンコーダ型すなわち自己符号化器と呼ばれる種類のニューラルネットワークである。狭義の自己符号化器は3つの層から構成されるが、近年、多層に拡張した構成が提案されている。従って、本明細書においても、自己符号化器のネットワーク構成を3層に限定せず、一般に複数層を持つことと、少なくとも1つの層の計算素子数が入力層の素子数よりも小さいことを構成要件とする。
オートエンコーダ型ニューラルネットワークを用いる場合、図2に示すように、画像特徴として素子の数が最小となった中間層の出力値を用いるのが好適な一例であるが、他の層の出力を画像特徴として用いることも可能である。
パラメータ111の値の計算に関して、パラメータ計算手段12は、所定の属性を持つ画像集合を用いて、上記のようなニューラルネットワークにおける各計算素子のパラメータの学習を行い、値を決めるのが好適な一例である。上記の例で言えば、パラメータ計算手段12は、学習サンプルとしての正常サンプル画像と教師信号としての同正常サンプル画像のペアの集合を用いて、パラメータ111の値を計算してもよい。
また、判定手段13における判定方法の好適な一例は、所定の属性を持つ画像から得られた画像特徴とテスト画像から得られた画像特徴との間の距離を計算し、その距離に基づいてテスト画像が所定の属性を持っているか否かを判定する方法である。この場合の距離としては、既存のものを用いてもよく、例えば、ユークリッド距離、市街地距離などを用いることができるが、これらに限定されない。また、距離の代わりに類似度を用いることも可能である。類似度としては、例えば、特徴をベクトルと見なした時のベクトル間の内積、ベクトルのなす角度を用いることができるが、これらに限定されない。なお、後述の例では、判定にユークリッド距離を用いる。また、類似度を用いる場合は、距離の場合と比較して判定基準が逆になる場合があるが、自明な内容なのでその説明を省略する。
なお、判定手段13は、所定の属性を持つ画像集合のそれぞれとテスト画像の双方からそれぞれの特徴に基づく所定の特徴量(例えば、特徴空間上でのそれらの間の近さ)を抽出し、抽出された特徴量を基に、テスト画像が所定の属性を持っているか否かを判定すればよい。
[動作の説明]
次に、本実施形態の動作を説明する。本実施形態の動作は、学習ステップST1と判定ステップSD1とに大別される。ここで、学習ステップST1は、判定ステップSD1に先立って行われるものとする。
図3は、本実施形態の学習ステップST1の動作の一例を示すフローチャートである。学習ステップST1では、主に所定の属性を有する学習画像を用いてパラメータ111の値を決定する。図3に示す例では、まず、パラメータ計算手段12が、あらかじめ与えられた学習画像の集合を用いて、パラメータ111の値を計算する(ステップST11)。
ステップST11でパラメータ計算手段12は、例えば、ニューラルネットワークの入力層に学習画像を与えた場合に出力層が学習画像自身になるような学習を行う。学習法は既知の方式を使えばよい。例えば、ニューラルネットワークの階層の数が3の場合は、誤差逆伝播法など既知の方法を用いて学習すればよい。階層の数が4以上の場合は、例えば、上記の非特許文献1に記載されている層毎の貪欲学習を用いることができる。
非特許文献1に記載の方法は、まず、入力層に近い3層(入力層(=1層目)、2層目、3層目)に対して部分的に上述したような方法で3層のニューラルネットワークの計算素子のパラメータを定める。その後、1層目のバイアスおよび1層目から2層目の結合重みを固定し、2層目、3層目、4層目に対して、同様にパラメータを求める。この手続きを最終的に3層目が出力層となるまで繰り返すと、学習が終了する。学習が終了した後、計算された計算素子パラメータの値を初期値として、入力層から出力層のすべての層に対して誤差逆伝播法などでパラメータを再計算(一般に、Fine Tuningと呼ばれる)してもよい。
次いで、特徴抽出手段11が、パラメータ計算手段12が計算したパラメータ111の値を用いて、学習画像毎に画像特徴を計算する(ステップST12)。学習により、例えば、図2に示したニューラルネットワークが得られた場合、特徴抽出手段11は、上述したように第4層目の2つの計算素子の出力値を画像特徴として用いることができる。
また、図4は、本実施形態の判定ステップSD1の動作の一例を示すフローチャートである。判定ステップSD1では、決定された特徴抽出パラメータの値に基づいてテスト画像から画像特徴を計算して、テスト画像を判定する。図4に示す例では、まず、特徴抽出手段11が、学習ステップST1でパラメータ計算手段12により計算されたパラメータ111の値を用いて、テスト画像から画像特徴を抽出する(ステップSD11)。
次いで、判定手段13が、ステップST12で得られた学習画像の画像特徴と、ステップSD11で得られたテスト画像の学習特徴とを比較することにより、テスト画像が所定の属性を持つかどうかを判定する(ステップSD12)。
属性の判定方法には、例えば次の方法がある。すなわち、判定手段13は、テスト画像の画像特徴との距離がn番目(nは1以上の整数)に小さい学習画像の画像特徴を用いて、それら画像特徴間の距離Dist_nが実数thよりも小さい場合(あるいはth以下の場合)に、テスト画像が所定の属性を持つと判断してもよい。ここで、nおよびthの値は任意に定められる。なお、n=1の場合、上記方法は、最近傍の学習画像による判定に相当する。
また、上記判定方法によるnとthを、次のような方法で定めることもできる。例えばnを任意の1つの値に固定する場合、thを大きな値から小さな値に徐々に減少させつつ、学習画像のすべてをテスト画像として使用したときに、当該テスト画像(学習画像)が正しく判定される率(検出率)が100%となるthを求める。そして、そのようなthのうち、最も小さなthを使う。例えば、所定の属性を有する学習画像(正常サンプル画像)をテスト画像に用いる場合には、検出率として、当該テスト画像(学習画像)が所定の属性を持つとされる率を求めればよい。
上記方法において、thを小さくすると、判定手段13が所定の属性を持つと判断した結果の中に所定の属性を持たないものが含まれることが少なくなる一方で、漏れが多く生じる傾向がある。検出率100%を満たすthの中で最も小さいthを用いることにより、所定の属性を持たない画像を含むテスト画像の判定結果が、できるだけ漏れなく、判定結果に誤りが含まれなくなることが期待される。
図5は、判定手段13におけるthの決定例を示す説明図である。図5(a)は、n=1に固定した場合のthの決定例を示す説明図であり、図5(b)は、nが固定でない場合、すなわちnとthの双方を変動させた場合のnおよびthの決定例を示す説明図である。
図5(a)には、nの値を1に固定した上で、thの値を0.2〜0.05まで0.05刻みで減少させたときの検出率が示されている。本例では、検出率100%を実現するthは、0.2,0.15,0.1の3つである。したがって、そのうちの最も小さいth=0.1が採用される。
また、図5(b)に示すように、nとthの双方を変動させることも可能である。この場合、表において検出率が100%となる値の組を示す領域と100%とならない値の組を示す領域の境界付近の値を採用すればよい。例えば、図5(b)に示す例では、破線の枠で示す値の組、すなわち(n,th)=(1,0.1)、(51,0.15)、(101,0.15)、(151,0.2)などの値を用いればよい。また、変形例1に示すように、複数の値の組を用いて独立に判定を試行し、それらの結果を集計して最終的な判定結果を得るようにしてよい。
また、n、thの値を定めるためのテスト画像として、学習画像以外の画像を用いても構わない。また、所定の属性を持たない画像のみをテスト画像として用いてもよく、この場合、検出率として所定の属性を持たないと判定する率が100%を実現するthを求めればよい。そして、そのようなthのうち最も大きなthを採用してもよい。この場合、判定手段13は、テスト画像が所定の属性を持たないかどうかを判定する。
当然、所定の属性を持たない画像と持つ画像が混在した画像集合を用いてnおよびthの値を定めることもできる。その場合、画像集合中の各画像に対して正解(属性を持つか否か)に関するラベルを持っていることが望ましい。
[効果の説明]
本実施の形態では、学習画像が所定の属性を持つ画像(正常サンプル)のみであっても、パラメータ111を好適に学習できるように構成されている。このため、所定の属性を持たない(異常サンプル)がごく少数しか入手できない、または全く入手できない場合でも、高精度に未知サンプルが正常か異常かを判定できる。
特に、特徴抽出のパラメータの学習にニューラルネットワークを用いることにより、画像から特徴を計算する特徴抽出手段11の作用を数学的な関数と見なしたとき、主成分分析の場合よりも複雑な関数を学習することができる。このため、より高精度な判定が実現できる。一般的には、画像特徴の空間上における距離と画像の実際の相違度は必ずしも一致しないが、テスト画像と学習画像の画像特徴同士が近傍にある場合には、ユークリッド距離など任意の距離値を用いて画像同士の相違度を近似することは通常行われる操作であり、原理的に高精度な属性判定が期待できる。
実施形態2.
[構成の説明]
次に、本発明の第2の実施形態について説明する。なお、本実施形態の構成の一部は、第1の実施の形態と同一であるため、以下では主に異なる構成要素について説明する。図6は、第2の実施形態の画像認識装置20の例を示すブロック図である。図6に示す画像認識装置20は、特徴抽出手段21と、パラメータ計算手段22と、判定手段23とを備える。
特徴抽出手段21は、認識したい入力画像(テスト画像)から特徴(画像特徴)を抽出して、後述する距離値を計算する。特徴抽出手段21は、第1の実施形態と同様、1つ以上のパラメータ211を有しており、テスト画像に対して該パラメータ211を用いた所定の計算を行うことにより、画像特徴を抽出する。
本実施形態の特徴抽出手段21は、オートエンコーダ型ニューラルネットワークのうち、さらに非特許文献2に示されているような敵対的自己符号化器と呼ばれるニューラルネットワークを用いて、特徴を抽出する。
敵対的自己符号化器の特徴は、m次元正規分布(mは1以上の整数)やm次元混合正規分布など、あらかじめ指定された分布に従うような学習(すなわち、パラメータ211の計算)を行えることである。したがって、敵対的自己符号化器を用いれば、m次元正規分布(mは1以上の整数)やm次元混合正規分布などあらかじめ指定された分布に従う画像特徴を得ることができる。
図7は、非特許文献2に開示されている敵対的自己符号化器の構成例を模式的に示す説明図である。特徴抽出手段21は、例えば、図7に示されるような敵対的自己符号化器を用いて、特徴を抽出してもよい。図7において、p(z)はポジティブサンプルを表す。また、q(Z)はネガティブサンプルを表す。また、図中の“Adversarial cost”は、ポジティブサンプルからネガティブサンプルを区別するためのコストである。図7の上段が自己符号化器に相当し、下段が後述する識別的ネットワークに相当する。
このような構成のニューラルネットワークの計算素子パラメータの計算(学習)方法は、reconstructionフェーズとregularizationフェーズとから構成される。reconstructionフェーズでは、入力画像を再構成するような出力が得られるよう、例えば、学習サンプルを入力した場合に、出力が学習サンプルそのものとなるように、敵対的自己符号化器に内在する自己符号化器の学習を行う。regularizationフェーズでは、敵対的自己符号化に内在する識別的ネットワーク(入力されたサンプルが、指令された分布から生じたサンプルか、自己符号化器により生成されたサンプルかを識別するネットワーク)を混乱させるように識別ネットワークを学習する。
パラメータ計算手段22は、特徴抽出手段21が特徴抽出に用いるパラメータ211の各々の値を、上記のような敵対的自己符号化器のために提案された計算(学習)方式で求める。敵対的自己符号化器の構成およびパラメータの計算方法の詳細は、上記の非特許文献2に記載されている。
以下、敵対的自己符号化器に対してm次元正規分布を指定する場合を例に説明する。
判定手段23は、第1の実施形態の判定手段13を用いることもできるが、以下では、特徴抽出手段21が抽出する画像特徴の性質すなわち敵対的自己符号化器が学習に用いた所定の分布の性質を用いた判定方法を説明する。
例えば、画像特徴がm次元正規分布に従う場合、その空間上の点と平均ベクトルとの間で、ユークリッド距離やマハラノビス距離といった距離を計算することができる。判定手段23は、テスト画像に対して計算された画像特徴が存在するm次元空間の点と学習画像に対して計算された画像特徴の平均ベクトルとされるm次元空間の点との距離に基づいて、テスト画像が所定の属性を持つかどうかを判定してもよい。なお、平均ベクトル以外にも、例えば、分散共分散行列の値を用いることも可能である。また、距離だけでなく、平均ベクトルや分散共分散行列の値から求められる任意の値(指標)を用いることも可能である。このようにして、属性判定のための確率、より具体的には、画像特徴の集合が従うと仮定した確率分布に対して、注目する画像特徴がどのくらいの確率で発生するかを示す値を求めてもよい。
特に、m次元正規分布においては、m次元空間上の領域に対して、その確率を計算することが可能であるから、テスト画像が所定の属性を持つことを帰無仮説とする統計的検定を行うことが可能になる。
このように、判定手段23は、画像特徴が所定の分布に従う場合に、所定の分布におけるパラメータ(m次元正規分布の平均ベクトルや分散共分散行列のように分布の形状を定めるパラメータ)を用いて計算される任意の指標を用いて、属性の有無を判定してもよい。
なお、判定手段23は、本実施形態においても、nを任意の1つの値に固定する場合のthの決定方法を適用して、距離に対する属性の有無を判定してもよい。また、判定手段23として第1の実施形態の判定手段13を用いる場合、判定手段23は、例えば、学習アルゴリズムが確率的なものであると仮定して、1つのテスト画像について、複数の判定結果または複数の指標を得て、得られた複数の判定または複数の指標に基づいて、テスト画像を判定してもよい。なお、複数の判定結果または複数の指標を得る方法は、都度パラメータを計算させて複数回の判定を行ってもよいし、パラメータ計算手段と特徴抽出手段のペアを複数備え、それぞれに対してテスト画像を入力して特徴抽出を行わせ、その結果に基づき複数の判定結果または複数の指標を得てもよい。なお、パラメータの計算から特徴抽出および判定までを行う画像認識手段を複数備え、それぞれに対してテスト画像を入力して判定結果を得ることも可能である。なお、他の実施形態においても同様である。
判定手段23は、これらのうち1つ以上の方法を用いて属性の有無を判定する。
[動作の説明]
次に、本実施形態の動作を説明する。本実施形態の動作は、学習ステップST2と判定ステップSD2とに大別される。本実施形態においても、学習ステップST2は、判定ステップSD2に先だって行われるものとする。
図8は、本実施形態の学習ステップST2の動作の一例を示すフローチャートである。学習ステップST2では、主に所定の属性を有する学習画像を用いてパラメータ211の値を決定する。図8に示す例では、パラメータ計算手段22が、あらかじめ与えられた学習画像の集合を用いて、パラメータ211の値を計算する(ステップST21)。この後、特徴抽出手段21が、計算されたパラメータ211の値を用いて、学習画像集合の画像特徴として、所定の分布(例えば、m次元正規分布)における平均ベクトルを計算してもよい。
また、図9は、本実施形態の判定ステップSD2の動作の一例を示すフローチャートである。判定ステップSD2では、決定されたパラメータ211の値に基づいて、テスト画像の平均ベクトルからの距離を計算して、テスト画像を判定する。図9に示す例では、まず、特徴抽出手段21が、学習ステップST2でパラメータ計算手段12により計算されたパラメータ211の値を用いて、テスト画像から画像特徴を抽出する(ステップSD21)。本実施形態では、特徴抽出手段21は、m次元正規分布に従う画像特徴、より具体的にはm次元区間上の点を抽出する。
次いで、判定手段223が、ステップSD221で求められたテスト画像の画像特徴から、学習画像の画像特徴の平均ベクトルとの距離を計算し、その距離があらかじめ定めた値よりも小さい場合に、テスト画像が所定の属性を持つと判定する(ステップSD22)。
[効果の説明]
本実施形態では、特徴抽出手段21により計算される画像特徴があらかじめ指定した確率分布に従うように特徴抽出パラメータが計算される。そして、そのような特徴抽出パラメータを用いてテスト画像から抽出される画像特徴について該確率分布上で計算される距離に基づいて、テスト画像に対する所定の属性らしさが判定される。このため、本実施形態によれば、所定の属性らしさを確率的な指標で与えることができる。
実施形態3.
[構成の説明]
次に、本発明の第2の実施形態について説明する。なお、本実施形態の構成の一部は、第1の実施の形態と同一であるため、以下では主に異なる構成要素について説明する。図10は、第3の実施形態の画像認識装置30の例を示すブロック図である。図10に示す画像認識装置30は、特徴抽出手段31と、パラメータ計算手段32と、判定手段33とを備える。
特徴抽出手段31は、認識したい入力画像(テスト画像)から特徴(画像特徴)としてノイズ成分を抽出する。特徴抽出手段31は、第1の実施形態と同様、1つ以上のパラメータ311を有しており、テスト画像に対して該パラメータ311を用いた所定の計算を行うことにより、画像特徴を抽出する。
本実施形態の特徴抽出手段31は、オートエンコーダ型ニューラルネットワークのうち、さらにデノイジングエンコーダと呼ばれるニューラルネットワークを用いて、テスト画像から特徴(ノイズ成分)を抽出する。
デノイジングエンコーダは、入力データを、本来のデータにノイズが付加される等によりその一部に異常(損傷等)があるデータとしたときに、該入力データから本来のデータを出力するよう構成される。このデノイジングオートエンコーダにおいて、計算素子パラメータの計算は、本来の学習サンプルに対してノイズを付加したものをデノイジングエンコーダ用の学習サンプルとし、教師信号をノイズ付加前の学習サンプルとして、誤差逆伝播法などの既知の方法を用いて行えばよい。これにより、デノイジングオートエンコーダは、オートエンコーダ型ニューラルネットワークの特徴に加えて、入力画像中のノイズを除去することができる特徴をもつことができる。このとき、デノイジングオートエンコーダによって除去されるノイズ成分は、1つ以上の正常サンプル画像を用いた学習によりノイズ成分と認定された成分または該成分と同様の方法で抽出された成分に相当し、属性らしくなさを表す特徴の1つであると言える。
パラメータ計算手段32は、入力された画像からノイズを除去するように、特徴抽出手段31が特徴抽出に用いるパラメータ311の各々の値を求める。より具体的には、パラメータ計算手段32は、デノイジングエンコーダのために提案された計算(学習)方式で求める。なお、デノイジングエンコーダと呼ばれるニューラルネットワークの構成は、例えば、上記の非特許文献3に記載されている。
パラメータ計算手段32は、例えば、学習画像に対して人工的にノイズを付加したノイズ学習画像を入力とし、出力としてノイズ付加前の学習画像が出力されるように、特徴抽出パラメータの計算(学習)を行う。このとき、所定の属性を持つ画像の一部に異常があるような場合が利用可能な場合は、その画像を入力として学習してもよい。
特徴抽出手段31は、そのようにして学習されたパラメータ311を用いて、テスト画像からノイズ除去画像を得て、得られたノイズ除去画像とテスト画像との差分を取ることにより、該差分画像をノイズ成分として抽出してもよい。換言すると、本実施形態では、学習されたデノイジングオートエンコーダの入力層に入力した情報(テスト画像)と出力層から出力される情報(ノイズ除去画像)との差分情報を、画像特徴として用いる。
判定手段33は、特徴抽出手段31よってテスト画像から得られるノイズ成分(差分画像)に基づいて、テスト画像が所定の属性を持つかどうかを判定する。判定手段33は、差分の大きさによって、テスト画像を判定してもよい。例えば、判定手段33は、差分画像の画素値の総和を計算し、それがあらかじめ定められる値以下だった場合に所定属性を持つと判定してもよいが、これに限られない。
本実施形態の基本的なコンセプトは、入力画像とそのノイズ除去画像の差分を取ることによりノイズ成分のみを抽出し、抽出されたノイズ成分が小さければ所定の属性を持つと判定し、逆であれば所定の属性を持たないと判定することにある。
[動作の説明]
次に、本実施形態の動作を説明する。実施形態の動作も、学習ステップST3と判定ステップSD3とに大別される。本実施形態においても、学習ステップST2は、判定ステップSD2に先だって行われるものとする。
図11は、本実施形態の学習ステップST3の動作の一例を示すフローチャートである。学習ステップST3では、主に所定の属性を有する学習画像およびそれに対応するノイズ画像を用いてパラメータ311の値を決定する。図11に示す例では、まず、パラメータ計算手段32が、あらかじめ与えられた所定の属性を持つ学習画像集合とそれに対応するノイズ学習画像の集合を用いて、パラメータ311の値を計算する(ステップST31)。
また、図12は、本実施形態の判定ステップSD3の動作の一例を示すフローチャートである。判定ステップSD3では、決定されたパラメータ311の値に基づいて、テスト画像とそのノイズ除去画像との差分をとり、テスト画像を判定する。
図12に示す例では、まず、特徴抽出手段31が、決定されたパラメータ311の値に基づいて、テスト画像の特徴としてノイズ成分を抽出し、テスト画像のノイズ除去画像を生成する(ステップSD31)。
次いで、判定手段33が、ステップSD31で生成されたノイズ除去画像とテスト画像との差分を計算し、該差分(差分画像)に基づいてテスト画像が所定の属性を持つかどうかを判定する(ステップSD32)。
[効果の説明]
本実施形態では、テスト画像中に含まれるノイズ成分を抽出して所定の属性を持つかどうかを判定するように構成されている。このため、本実施形態によれば、視覚的に理解しやすい属性判定が可能である。
[その他の実施形態]
上記の各実施形態では、ニューラルネットワークの特徴抽出パラメータの学習に、既知のアルゴリズムを用いている。この中には、パラメータの初期値を変更したり、学習の反復回数を変えたり、学習サンプルを与える順番を変えたりすることにより、求められるパラメータが変動するアルゴリズムがある。この変動を利用して、さらに高精度な判定を行うことができる。
[変形例1]
例えば、上記の各実施形態において、テスト画像が所定の属性を持つか否かの判定を、独立にr回(rは2以上の整数)試行し、その多数決を取ることも可能である。例えば、r=3の場合で、2回は所定の属性を持つと判定され、1回は所定の属性を持たないと判定された場合、判定手段はこれらの判定結果を基に、最終的に所定の属性を持つと判定してもよい。
このようにすれば、仮に、学習アルゴリズムが確率的なものであることに起因して、低頻度でニューラルネットワークの特徴抽出パラメータの学習に失敗した(属性判定に有効な特徴が求められなかった)としても、全体として高精度な判定を行うことが可能である。
なお、最終的な判定方法は、必ずしも多数決でなくてもよく、例えば、1回以上の任意の試行回数で所定の属性を持つと判定された場合に、全体として所定の属性を持つと判定してもよい。また、複数回の試行で得られた指標からそれらの平均値や分散値を計算するなど新たな指標を計算し、その値に基づいて最終的な判定を行ってもよい。
[変形例2]
また、上記の第2の実施形態では、あらかじめ指定した確率分布におけるパラメータ等を用いて、属性判定のための確率を計算し、統計的検定を構成する例について述べた。このような変動も確率的な現象ととらえれば、属性判定のための確率をr回試行の同時確率とし、新たな統計的検定を構成することができる。
これも、学習アルゴリズムが確率的なものであることに起因して、低頻度でニューラルネットワークの特徴抽出パラメータの学習に失敗した(属性判定に有効な特徴が求められなかった)場合に、全体として高精度な判定を行うことができる一例である。
また、上記の各実施形態では、処理対象データは画像であるとして説明したが、処理対象データは画像に限定されない。すなわち、ニューラルネットワークが入力できる信号形式に変換できるデータであれば何でもよく、例えば、画像に対して任意の画像処理を施したデータや、異なるセンサを用いて撮像した複数種類の画像の組み合わせや、画像に音声信号やアノテーション情報等が付加されたデータを処理対象としてもよい。また、ニューラルネットワーク上の情報伝播法、ニューラルネットワークの学習方法は、上記の各実施形態で説明した方法から本質的に相違しない限り、任意のものを用いてもよい。
次に、本発明の実施形態にかかるコンピュータの構成例を示す。図13は、本発明の実施形態にかかるコンピュータの構成例を示す概略ブロック図である。コンピュータ1000は、CPU1001と、主記憶装置1002と、補助記憶装置1003と、インタフェース1004と、ディスプレイ装置1005と、入力装置1006とを備える。
上述の画像認識装置は、例えば、コンピュータ1000に実装されてもよい。その場合、各装置の動作は、プログラムの形式で補助記憶装置1003に記憶されていてもよい。CPU1001は、プログラムを補助記憶装置1003から読み出して主記憶装置1002に展開し、そのプログラムに従って上記の実施形態における所定の処理を実施する。
補助記憶装置1003は、一時的でない有形の媒体の一例である。一時的でない有形の媒体の他の例として、インタフェース1004を介して接続される磁気ディスク、光磁気ディスク、CD−ROM、DVD−ROM、半導体メモリ等が挙げられる。また、このプログラムが通信回線によってコンピュータ1000に配信される場合、配信を受けたコンピュータは1000がそのプログラムを主記憶装置1002に展開し、上記の実施形態における所定の処理を実行してもよい。
また、プログラムは、各実施形態における所定の処理の一部を実現するためのものであってもよい。さらに、プログラムは、補助記憶装置1003に既に記憶されている他のプログラムとの組み合わせで上記の実施形態における所定の処理を実現する差分プログラムであってもよい。
インタフェース1004は、他の装置との間で情報の送受信を行う。また、ディスプレイ装置1005は、ユーザに情報を提示する。また、入力装置1006は、ユーザからの情報の入力を受け付ける。
また、実施形態における処理内容によっては、コンピュータ1000の一部の要素は省略可能である。例えば、装置がユーザに情報を提示しないのであれば、ディスプレイ装置1005は省略可能である。
また、各装置の各構成要素の一部または全部は、汎用または専用の回路(Circuitry)、プロセッサ等やこれらの組み合わせによって実施される。これらは単一のチップによって構成されてもよいし、バスを介して接続される複数のチップによって構成されてもよい。また、各装置の各構成要素の一部又は全部は、上述した回路等とプログラムとの組み合わせによって実現されてもよい。
各装置の各構成要素の一部又は全部が複数の情報処理装置や回路等により実現される場合には、複数の情報処理装置や回路等は、集中配置されてもよいし、分散配置されてもよい。例えば、情報処理装置や回路等は、クライアントアンドサーバシステム、クラウドコンピューティングシステム等、各々が通信ネットワークを介して接続される形態として実現されてもよい。
次に、本発明の概要を説明する。図14は、本発明の概要を示すブロック図である。図14に示す画像認識装置500は、パラメータ計算手段501と、特徴抽出手段502と、判定手段503とを備える。
パラメータ計算手段501(例えば、パラメータ計算手段12、22、32)は、認証対象が共通に有する所定の属性を有する1つ以上の第1の画像を少なくとも用いて、該属性を有するか否かが未知の画像である第2の画像から該属性らしさまたは該属性らしくなさを表す特徴を抽出するための1つ以上のパラメータを計算する。
特徴抽出手段502(例えば、特徴抽出手段11、21、31)は、パラメータ計算手段501が計算したパラメータを用いて、入力された画像から特徴を抽出する。特徴抽出手段502は、より具体的には、該パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで計算素子が2以上の層を構成し、かつ少なくとも1つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、特徴を抽出する。
判定手段503(例えば、判定手段13、23、33)は、少なくとも第2の画像から抽出される特徴に基づいて、第2の画像が認証対象であるか否かを判定する。
このような構成により、認識対象に関する異常サンプル画像が入手しづらい状況においても、精度良く画像を認識できる。
以上、実施形態及び実施例を参照して本願発明を説明したが、本願発明は上記実施形態および実施例に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
本発明は、例えば、工場における生産品のうち異物が混入している物や品質不良の物を検出する検査装置として利用可能である。また、本発明は、例えば、工場生産品に限らず一般のオブジェクトの異常を検知する異常検知装置としても利用可能である。また、本発明は、例えば、セキュリティゲート等に用いられる生体認証装置の一部として、入力された画像が実際に認証の対象となるパーツ(顔、人体など)であるかを確認する検査装置としても利用可能である。また、本発明は、例えば、映像中の特定の人物を追跡する追跡装置において、映像中に映る顔、人体、物体等のオブジェクトに関して、複数フレームの間でオブジェクトの同一性を特定する画像認識手段としても利用可能である。
10、20、30 画像認識装置
11、21、31 特徴抽出手段
111、211、311 パラメータ
12、22、32 パラメータ計算手段
13、23、33 判定手段
1000 コンピュータ
1001 CPU
1002 主記憶装置
1003 補助記憶装置
1004 インタフェース
1005 ディスプレイ装置
1006 入力装置
500 画像認識装置
501 パラメータ計算手段
502 特徴抽出手段
503 判定手段

Claims (10)

  1. 認証対象が共通に有する所定の属性を有する1つ以上の第1の画像を少なくとも用いて、前記属性を有するか否かが未知の画像である第2の画像から前記属性らしさまたは前記属性らしくなさを表す特徴を抽出するための1つ以上のパラメータを計算するパラメータ計算手段と、
    前記パラメータを用いて、入力された画像から前記特徴を抽出する特徴抽出手段と、
    少なくとも前記第2の画像から抽出される前記特徴に基づいて、前記第2の画像が認証対象であるか否かを判定する判定手段とを備え、
    前記特徴抽出手段は、前記パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで前記計算素子が2以上の層を構成し、かつ少なくとも1つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、前記特徴を抽出し、
    前記パラメータ計算手段は、抽出される前記特徴が予め指定した分布に従うように、前記パラメータを計算し、
    前記判定手段は、前記分布の形状を定める第2のパラメータを用いて少なくとも前記第2の画像から抽出される前記特徴に基づき計算される前記第2の画像が前記属性を有するか否かを示す指標に基づいて、前記第2の画像を判定する
    ことを特徴とする画像認識装置。
  2. 前記特徴は、前記ニューラルネットワークの中間層から出力される情報である
    請求項1記載の画像認識装置。
  3. 認証対象が共通に有する所定の属性を有する1つ以上の第1の画像を少なくとも用いて、前記属性を有するか否かが未知の画像である第2の画像から前記属性らしさまたは前記属性らしくなさを表す特徴を抽出するための1つ以上のパラメータを計算するパラメータ計算手段と、
    前記パラメータを用いて、入力された画像から前記特徴を抽出する特徴抽出手段と、
    少なくとも前記第2の画像から抽出される前記特徴に基づいて、前記第2の画像が認証対象であるか否かを判定する判定手段とを備え、
    前記特徴抽出手段は、前記パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで前記計算素子が2以上の層を構成し、かつ少なくとも1つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、前記特徴を抽出し、
    前記パラメータ計算手段は、前記属性を有し、かつノイズを含む1つ以上の第1の画像を少なくとも用いて、前記第2の画像から、前記第1の画像においてノイズとされたノイズ成分を除去するように、前記パラメータを計算し、
    前記特徴抽出手段は、前記パラメータを用いて、少なくとも前記第2の画像から前記特徴として前記ノイズ成分を抽出し、
    前記判定手段は、前記ノイズ成分に基づいて、前記第2の画像を判定する
    ことを特徴とする画像認識装置。
  4. 前記判定手段は、前記ノイズ成分が予め定めた閾値以外である場合に、前記第2の画像を認定対象と判定する
    請求項記載の画像認識装置。
  5. 前記パラメータ計算手段は、確率的な方法で前記パラメータを計算し、
    前記判定手段は、1つの前記第2の画像に対して、個別に計算された前記パラメータを用いて複数回の特徴抽出を行って得られる複数の判定結果に基づいて、前記第2の画像を判定する
    請求項1から請求項のうちのいずれかに記載の画像認識装置
  6. 前記パラメータ計算手段は、確率的な方法で前記パラメータを計算し、
    前記判定手段は、1つの前記第2の画像に対して、個別に計算された前記パラメータを用いて複数回の特徴抽出を行って得られる複数の指標に基づいて、前記第2の画像を判定する
    請求項記載の画像認識装置
  7. 情報処理装置が、
    認証対象が共通に有する所定の属性を有する1つ以上の第1の画像を少なくとも用いて、前記属性を有するか否かが未知の画像である第2の画像から前記属性らしさまたは前記属性らしくなさを表す特徴を抽出するための1つ以上のパラメータを計算し、
    前記パラメータを用いて、入力された画像から前記特徴を抽出し、
    少なくとも前記第2の画像から抽出される前記特徴に基づいて、前記第2の画像が認証対象であるか否かを判定し、
    前記特徴を抽出する際に、前記パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで前記計算素子が2以上の層を構成し、かつ少なくとも1つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用い
    抽出される前記特徴が予め指定した分布に従うように、前記パラメータを計算し、
    前記分布の形状を定める第2のパラメータを用いて少なくとも前記第2の画像から抽出される前記特徴に基づき計算される前記第2の画像が前記属性を有するか否かを示す指標に基づいて、前記第2の画像を判定する
    ことを特徴とする画像認識方法。
  8. 情報処理装置が、
    認証対象が共通に有する所定の属性を有する1つ以上の第1の画像を少なくとも用いて、前記属性を有するか否かが未知の画像である第2の画像から前記属性らしさまたは前記属性らしくなさを表す特徴を抽出するための1つ以上のパラメータを計算し、
    前記パラメータを用いて、入力された画像から前記特徴を抽出し、
    少なくとも前記第2の画像から抽出される前記特徴に基づいて、前記第2の画像が認証対象であるか否かを判定し、
    前記特徴を抽出する際に、前記パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで前記計算素子が2以上の層を構成し、かつ少なくとも1つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用い、
    前記属性を有し、かつノイズを含む1つ以上の第1の画像を少なくとも用いて、前記第2の画像から、前記第1の画像においてノイズとされたノイズ成分を除去するように、前記パラメータを計算し、
    前記パラメータを用いて、少なくとも前記第2の画像から前記特徴として前記ノイズ成分を抽出し、
    前記ノイズ成分に基づいて、前記第2の画像を判定する
    ことを特徴とする画像認識方法。
  9. コンピュータに、
    認証対象が共通に有する所定の属性を有する1つ以上の第1の画像を少なくとも用いて、前記属性を有するか否かが未知の画像である第2の画像から前記属性らしさまたは前記属性らしくなさを表す特徴を抽出するための1つ以上のパラメータを計算するパラメータ計算処理、
    前記パラメータを用いて、入力された画像から前記特徴を抽出する特徴抽出処理、および
    少なくとも前記第2の画像から抽出される前記特徴に基づいて、前記第2の画像が認証対象であるか否かを判定する判定処理を実行させ、
    前記特徴抽出処理で、前記パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで前記計算素子が2以上の層を構成し、かつ少なくとも1つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、前記特徴を抽出させ
    前記パラメータ計算処理で、抽出される前記特徴が予め指定した分布に従うように、前記パラメータを計算させ、
    前記判定処理で、前記分布の形状を定める第2のパラメータを用いて少なくとも前記第2の画像から抽出される前記特徴に基づき計算される前記第2の画像が前記属性を有するか否かを示す指標に基づいて、前記第2の画像を判定させる
    ための画像認識プログラム。
  10. コンピュータに、
    認証対象が共通に有する所定の属性を有する1つ以上の第1の画像を少なくとも用いて、前記属性を有するか否かが未知の画像である第2の画像から前記属性らしさまたは前記属性らしくなさを表す特徴を抽出するための1つ以上のパラメータを計算するパラメータ計算処理、
    前記パラメータを用いて、入力された画像から前記特徴を抽出する特徴抽出処理、および
    少なくとも前記第2の画像から抽出される前記特徴に基づいて、前記第2の画像が認証対象であるか否かを判定する判定処理を実行させ、
    前記特徴抽出処理で、前記パラメータを含む計算素子を結合して得られるニューラルネットワークであって、入力から出力まで前記計算素子が2以上の層を構成し、かつ少なくとも1つの層に属する計算素子の数が、画像の情報が入力される入力層の計算素子の数よりも小さいニューラルネットワークを用いて、前記特徴を抽出させ、
    前記パラメータ計算処理で、前記属性を有し、かつノイズを含む1つ以上の第1の画像を少なくとも用いて、前記第2の画像から、前記第1の画像においてノイズとされたノイズ成分を除去するように、前記パラメータを計算させ、
    前記特徴抽出処理で、前記パラメータを用いて、少なくとも前記第2の画像から前記特徴として前記ノイズ成分を抽出させ、
    前記判定処理で、前記ノイズ成分に基づいて、前記第2の画像を判定させる
    ための画像認識プログラム。
JP2019516839A 2017-05-12 2017-05-12 画像認識装置、画像認識方法および画像認識プログラム Active JP6798614B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/017985 WO2018207334A1 (ja) 2017-05-12 2017-05-12 画像認識装置、画像認識方法および画像認識プログラム

Publications (2)

Publication Number Publication Date
JPWO2018207334A1 JPWO2018207334A1 (ja) 2019-11-21
JP6798614B2 true JP6798614B2 (ja) 2020-12-09

Family

ID=64105173

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019516839A Active JP6798614B2 (ja) 2017-05-12 2017-05-12 画像認識装置、画像認識方法および画像認識プログラム

Country Status (2)

Country Link
JP (1) JP6798614B2 (ja)
WO (1) WO2018207334A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7021507B2 (ja) * 2017-11-14 2022-02-17 富士通株式会社 特徴抽出装置、特徴抽出プログラム、および特徴抽出方法
WO2020172460A1 (en) 2019-02-20 2020-08-27 Bluerock Therapeutics Lp Detecting cells of interest in large image datasets using artificial intelligence
JP7215242B2 (ja) * 2019-03-08 2023-01-31 富士フイルムビジネスイノベーション株式会社 画像処理装置及びプログラム
US20220148182A1 (en) * 2019-03-12 2022-05-12 Nec Corporation Inspection device, inspection method and storage medium
JP7454568B2 (ja) * 2019-05-30 2024-03-22 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 情報処理方法、情報処理装置及びプログラム
CN112580794A (zh) * 2019-09-29 2021-03-30 佳能株式会社 属性识别装置、方法和系统及识别对象属性的神经网络
TWI775038B (zh) * 2020-01-21 2022-08-21 群邁通訊股份有限公司 字元識別方法、裝置及電腦可讀取存儲介質
TWI775039B (zh) * 2020-01-21 2022-08-21 群邁通訊股份有限公司 文檔陰影去除方法及裝置
US20240062507A1 (en) * 2021-01-15 2024-02-22 Nec Corporation Information processing device, information processing system, information processing method, and recording medium

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2737734B2 (ja) * 1995-12-13 1998-04-08 日本電気株式会社 指紋分類装置
JP6137916B2 (ja) * 2013-04-01 2017-05-31 キヤノン株式会社 信号処理装置、信号処理方法、及び、信号処理システム
WO2015008567A1 (ja) * 2013-07-18 2015-01-22 Necソリューションイノベータ株式会社 顔印象度推定方法、装置、及びプログラム
JP2017004350A (ja) * 2015-06-12 2017-01-05 株式会社リコー 画像処理装置、画像処理方法、及びプログラム

Also Published As

Publication number Publication date
WO2018207334A1 (ja) 2018-11-15
JPWO2018207334A1 (ja) 2019-11-21

Similar Documents

Publication Publication Date Title
JP6798614B2 (ja) 画像認識装置、画像認識方法および画像認識プログラム
CN110348319B (zh) 一种基于人脸深度信息和边缘图像融合的人脸防伪方法
KR100442834B1 (ko) 얼굴/유사얼굴 영상으로 학습된 패턴 분류기를 이용한얼굴 검출 방법 및 시스템
CN105981008B (zh) 学习深度人脸表示
WO2016138838A1 (zh) 基于投影极速学习机的唇语识别方法和装置
JP6330385B2 (ja) 画像処理装置、画像処理方法およびプログラム
Funke et al. Efficient automatic 3D-reconstruction of branching neurons from EM data
CN107784288B (zh) 一种基于深度神经网络的迭代定位式人脸检测方法
US10929978B2 (en) Image processing apparatus, training apparatus, image processing method, training method, and storage medium
US20100014755A1 (en) System and method for grid-based image segmentation and matching
WO2019026104A1 (ja) 情報処理装置、情報処理プログラム及び情報処理方法
CN104537647A (zh) 一种目标检测方法及装置
JP2017062778A (ja) 画像のオブジェクトを分類するための方法およびデバイスならびに対応するコンピュータプログラム製品およびコンピュータ可読媒体
JP2011154501A (ja) 学習装置、学習方法、識別装置、識別方法、プログラム、及び情報処理システム
CN113095370A (zh) 图像识别方法、装置、电子设备及存储介质
CN108154186B (zh) 一种模式识别方法和装置
CN116662817A (zh) 物联网设备的资产识别方法及系统
KR102166117B1 (ko) 시멘틱 매칭 장치 및 방법
CN109101984B (zh) 一种基于卷积神经网络的图像识别方法及装置
JP2011154500A (ja) 学習装置、学習方法、識別装置、識別方法、及びプログラム
CN113762005A (zh) 特征选择模型的训练、对象分类方法、装置、设备及介质
Bansal et al. Multimodal biometrics by fusion for security using genetic algorithm
George et al. Leaf recognition using multi-layer perceptron
Patil et al. IpSegNet: deep convolutional neural network based segmentation framework for iris and pupil
CN112488238B (zh) 一种基于对抗自编码器的混合异常检测方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190801

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200421

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200617

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200804

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201001

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201020

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201102

R150 Certificate of patent or registration of utility model

Ref document number: 6798614

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150