JP7377163B2 - 個体識別システム - Google Patents

個体識別システム Download PDF

Info

Publication number
JP7377163B2
JP7377163B2 JP2020080323A JP2020080323A JP7377163B2 JP 7377163 B2 JP7377163 B2 JP 7377163B2 JP 2020080323 A JP2020080323 A JP 2020080323A JP 2020080323 A JP2020080323 A JP 2020080323A JP 7377163 B2 JP7377163 B2 JP 7377163B2
Authority
JP
Japan
Prior art keywords
image
feature
identification
processing unit
matching
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020080323A
Other languages
English (en)
Other versions
JP2021174442A (ja
Inventor
達也 水井
太 須納瀬
文人 寺井
悠一 吉田
満 安倍
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Denso IT Laboratory Inc
Original Assignee
Denso Corp
Denso IT Laboratory Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp, Denso IT Laboratory Inc filed Critical Denso Corp
Priority to JP2020080323A priority Critical patent/JP7377163B2/ja
Priority to PCT/JP2021/015595 priority patent/WO2021220828A1/ja
Priority to TW110115492A priority patent/TW202211158A/zh
Publication of JP2021174442A publication Critical patent/JP2021174442A/ja
Application granted granted Critical
Publication of JP7377163B2 publication Critical patent/JP7377163B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Description

本発明の実施形態は、個体表面に表れる個体固有の模様いわゆる個体指紋に基づいて個体を識別することができる個体識別システムに関する。
近年、例えば工業製品等は生産後の流通過程だけでなく生産過程においても高いトレーサビリティが要求されるようになっている。例えば同一工程でかつ同一ロットで生産された同一種類の部品であっても、その性能に通常の使用には何ら問題ない程度の僅かな違いを有していることがある。製品の生産過程において、このような部品1個1個の僅かな特性の違いも考慮に入れて最適な組み合わせで製品を製造することができれば、その製品の性能を向上させることができるからである。
また、従来の生産工程では、部品の加工条件等と検査結果とが紐付けされていないため、検査結果を加工条件等に反映させることが難しかった。これに対し、生産過程において部品1個単位で追跡することができれば、検査結果を加工条件等に適切に反映させることができ、その結果、不良の低減や品質・性能を更に向上させることができる。
従来、製品等の追跡管理する手法としては、例えば二次元コードやRFIDを用いるものがある。しかしながら、二次元コードやRFIDは、印字や貼り付けのコストが高い。そのため、製品を構成する多数の部品1個1個に対して、二次元コードやRFIDを付与することは経済的に考えても実現困難である。
そこで、個々の個体が固有に有する表面形状を用いて個体を識別する技術が注目されている。このような物体の表面形状や模様であれば、二次元コードやRFID等を付与する必要がないため、部品1個1個の追跡管理も低コストで実現できる。
特開2012-103758号公報 特開2012-181566号公報
しかしながら、物体の表面形状や模様を用いて個体を識別することには次のような複数の課題がある。まず第1の課題として、工業製品を構成する部品は、例えば製造過程で熱の影響を受けたり経時変化したりして、識別対象となる部品の登録時と識別時とでその表面の模様の色味等が変化することがある。すると、画像の登録時と識別時とで抽出される表面模様の特徴が大きく変わる可能性があり、その結果、識別精度が低下してしまう。
次に第2の課題として、工場内においては粉塵や工場内の照明、外光等の自然光、周囲のノイズ源等が外乱の要因となって、登録画像の撮影と識別画像の撮影との撮影環境が大きく変わる可能性がある。すると、抽出される特徴点や局所特徴量等が変わり、識別性能が低下するおそれがある。
そして、第3の課題として、工業製品の部品においては、人の顔や指紋と異なり、照合識別しようとする対象の種類や材質、加工方法によってその表面に表れる模様の特徴も様々である。このため、識別しようとする対象の種類によって、照合識別に用いるアルゴリズムのパラメータを適切なものに調整する必要がある。しかし、パラメータの項目は多数あり、その全ての組み合わせの中からユーザが手動で最適な組み合わせを探すことは大変な手間と時間がかかる。
本発明は上記課題を鑑みてなされたものであり、その目的は、上記第1~第3の課題のうち少なくとも2つを同時に解決することができる個体識別システムを提供することにある。
実施形態の個体識別システム(1)は、撮影機器によって撮影した被写体の画像を識別画像として取得する画像取得処理を実行可能な画像取得処理部(212)と、前記画像取得処理で取得した前記識別画像に含まれる特徴点を抽出する特徴点抽出処理を実行可能な特徴点抽出処理部(221)と、前記特徴点抽出処理で抽出された前記特徴点の局所特徴量を計算する局所特徴量計算処を実行可能な局所特徴量計算処理部(222)と、予め登録された複数の登録画像に係る前記局所特徴量と前記識別画像の前記局所特徴量とを比較し、複数の前記登録画像の中から前記識別画像の前記局所特徴量に最も相関が高い前記局所特徴量を有している登録画像を特定する特定処理を実行可能な特定処理部(2612)と、を有する個体識別装置を備える個体識別システム(1)である。
個体識別システム(1)は、前記個体識別装置の他に、前記特徴点抽出処理により抽出した前記特徴点を前記画像に重ねて表示装置に表示する特徴点表示処理を実行可能な特徴点表示処理部(331)を有する可視化装置(33)、又は、予め登録された複数の登録画像のうち同一の被写体を撮影した前記登録画像と前記識別画像とにおける前記局所特徴量を比較し前記特徴点の対応点数を取得して前記登録画像と前記識別画像とを照合する照合処理を前記個体識別装置に実行させるとともに、撮影対象に関する条件である撮影対象条件を調整する撮影対象条件調整処理を実行可能な撮影対象条件調整処理部(312)と、前記撮影機器に関する条件である撮影機器条件を調整する撮影機器条件調整処理を実行可能な撮影機器条件調整処理部(311)と、を有する撮影条件調整装置(31)、又は、前記照合処理の条件を設定するためのパラメータについて、各前記パラメータに定められた設定範囲内の設定値に設定された各前記パラメータを組み合わせて複数のパラメータセットを生成するパラメータセット生成処理を実行可能なパラメータセット生成処理部(324)と、ユーザの操作に基づいて前記パラメータセットを設定するパラメータセット設定処理を実行可能なパラメータセット設定処理部(325)と、を有し、前記照合処理部に、前記パラメータセット生成処理で生成された各前記パラメータセットを用いて前記照合処理を実行する処理を実行させるとともに、各前記パラメータセットを用いて前記照合処理の照合結果をまとめて表示装置(12)に表示する照合結果表示処理を実行可能な照合結果表示処理部(333)を更に有している照合識別条件調整装置(32)、のうち少なくとも2つの装置を備えている。
一実施形態による個体識別システムの概略構成の一例を示すブロック図 一実施形態による個体識別システムが備える撮影装置の概略構成の一例を示すブロック図 一実施形態による個体識別システムが備える特徴抽出装置の概略構成の一例を示すブロック図 一実施形態による個体識別システムが備える登録処理装置の概略構成の一例を示すブロック図 一実施形態による個体識別システムが備える記録装置の概略構成の一例を示すブロック図 一実施形態による個体識別システムが備える辞書装置の概略構成の一例を示すブロック図 一実施形態による個体識別システムが備える画像照合識別装置の概略構成の一例を示すブロック図 一実施形態による個体識別システムが備える撮影条件調整装置の概略構成の一例を示すブロック図 一実施形態による個体識別システムが備える照合識別条件調整装置の概略構成の一例を示すブロック図 一実施形態による個体識別システムが備える可視化装置の概略構成の一例を示すブロック図 一実施形態による個体識別システムにおいて特徴点抽出処理の実行結果の一例を示す図(その1) 一実施形態による個体識別システムにおいて特徴点抽出処理の実行結果の一例を示す図(その2) 一実施形態による個体識別システムにおいて局所特徴量から大域特徴量を計算する手法の一例を概念的に示す図 一実施形態による個体識別システムにおいて大域特徴量辞書の生成方法の一例を概念的に示す図 一実施形態による個体識別システムにおいて大域特徴量を用いた絞り込み処理の一例を概念的に示す図 一実施形態による個体識別システムにおいて局所特徴量を用いた特定処理の一例を概念的に示す図 一実施形態による個体識別システムにおいてパラメータセットの一例を示す図 一実施形態による個体識別システムにおいて正対応点数と負対応点数の一例を概念的に示す図 一実施形態による個体識別システムにおいて総当たり条件生成処理で生成される条件の組み合わせの一例を示す図 一実施形態による個体識別システムにおいて最適条件提示処理で生成されるグラフの一例を示す図 一実施形態による個体識別システムにおいて特徴点表示処理で表示装置に表示される表示内容の一例を示す図 一実施形態による個体識別システムにおいて照合結果表示処理で表示装置に表示される表示内容の一例を示す図(その1) 一実施形態による個体識別システムにおいて照合結果表示処理で表示装置に表示される表示内容の一例を示す図(その2)
以下では、一実施形態について図面を参照しながら説明する。なお、各ブロック図における矢印はデータの流れを示す。本実施形態で説明する各処理部つまり機能ブロックは、それぞれ異なるハードウェアで構成することもできるし、1つのハードウェアで複数の装置又は処理部を共用する構成としても良い。また、詳細は図示しないが、各装置及び各処理部を構成するハードウェアは、それぞれ例えばCPUや、ROM、RAM、及び書き換え可能なフラッシュメモリなどの記憶領域を有するマイクロコンピュータを主体に構成さすることができる。記憶領域は、各装置及び各処理部を実現するための個体識別プログラムを記憶している。そして、CPUにおいて個体識別プログラムを実行することにより、各装置及び各処理部における各処理を実現することができる。
すなわち、本実施形態で説明する各処理部は、CPUが上述した記憶領域等の非遷移的実体的記憶媒体に格納されているコンピュータプログラムを実行してコンピュータプログラムに対応する処理を実行することにより実現されている、つまりソフトウェアにより実現されている。なお、各処理部のうち少なくとも一部をハードウェアにより実現する構成としてもよい。
本実施形態の個体識別システム1は、予め登録された複数の登録画像と撮影機器で撮影した識別画像とを比較し、複数の登録画像の中から識別画像の被写体が写っている登録画像を識別するこができるシステムである。この個体識別システム1は、例えば工場等における部品のトレースに用いることができるが、これに限られない。
個体識別システム1は、図1に示すように、撮影機器10、入力装置11、表示装置12、個体識別装置20、及び調整装置30を備えている。本実施形態の場合、個体識別システム1は、登録側の撮影機器10と識別側の撮影機器10とを備えている。以下の説明において、これらを区別する場合は、登録側の撮影機器10を登録側撮影機器10aと称し、識別側の撮影機器10を識別側撮影機器10bと称することがある。本実施形態において、登録側撮影機器10aは、個体識別装置20に登録するための画像を撮影する。また、識別側撮影機器10bは、識別しようとしている被写体を撮影するためのものである。そして、本実施形態において、登録画像とは、主として登録側の撮影機器10aで撮影されて個体識別装置20に登録される又は登録されている画像を意味する。また、識別画像とは、主として識別側の撮影機器10bで撮影された画像を意味する。
撮影機器10は、カメラ101、照明102、及びステージ103を有して構成されている。カメラ101は、ワーク等の撮影対象となる被写体を撮影する機能を有する。カメラ101は、外部からの指示により、シャッタースピードや、イメージセンサの感度、解像度、撮影範囲、焦点等を変更可能に構成されている。照明102は、被写体を照明するためのものであり、外部からの指示により、輝度や光度、色彩等を変更可能に構成されている。そして、ステージ103は、カメラ101や照明102を支持するとともに、被写体が載置されるものであり、カメラ101や照明102と被写体との距離や角度つまり姿勢を変更可能に構成されている。
入力装置11は、ユーザの操作を受け付けるインタフェースであり、例えばキーボードやマウス等である。ユーザは、入力装置11を操作して調整装置30や個体識別装置20に対して各種の設定等を行うことができる。表示装置12は、文字や画像等の表示が可能なディスプレイであり、個体識別装置20や調整装置30から受信した情報を表示することができる。ユーザは、表示装置12に表示された情報を見ることで、個体識別装置20や調整装置30による処理の結果や設定内容等を確認することができる
個体識別装置20は、撮影装置21、特徴抽出装置22、登録処理装置23、記録装置24、辞書装置25、画像照合識別装置26、撮影条件付与装置27、及び特徴抽出条件付与装置28を有している。本実施形態の場合、撮影装置21、特徴抽出装置22、登録処理装置23、記録装置24、撮影条件付与装置27、及び特徴抽出条件付与装置28は、登録側と識別側とにそれぞれ設けられている。この場合、破線aで囲われた装置が登録側の装置となり、破線bで囲われた装置が識別側の装置となる。なお、登録側の装置aと識別側の装置bとは、異なるハードウェアで構成しても良いし、同一のハードウェアで構成しても良い。また、個体識別装置20及び調整装置30は、インターネット等の電気通信回線に接続されたクラウドサーバー上に設置されていても良い。
撮影装置21は、撮影機器10の駆動を制御し、被写体の画像を撮影して取得する機能を有する。撮影装置21は、図2に示すように、撮影処理部211及び画像取得処理部212を有している。撮影処理部211は、撮影機器10を所定の条件で駆動させて被写体を撮影する。この場合、撮影機器10を撮影する際の所定の条件を、撮影条件と称する。撮影条件は、例えば撮影機器10に関する条件である撮影機器条件と、撮影対象となる被写体に関する条件である撮影対象条件とを含む。
撮影機器条件は、主に光学機器に関する条件であり、例えば撮影機器10が有するカメラ101のシャッタースピードや、イメージセンサの感度、解像度、撮影範囲、焦点、倍率、絞り、照明102の種類や輝度、光度、色彩等がある。撮影対象条件は、撮影対象つまり被写体に関する条件であり、例えば被写体の姿勢つまりカメラ101や照明102に対する被写体の角度や、カメラ101や照明102と被写体との距離等がある。
撮影処理部211は、撮影条件付与装置27から受けた指示内容に基づいて撮影機器条件や撮影対象条件を変えて撮影機器10を駆動させて、被写体を撮影することができる。
画像取得処理部212は、画像取得処理を実行可能である。画像取得処理は、撮影機器10で撮影した被写体の画像を取得して特徴抽出装置22に渡す処理を含む。本実施形態の場合、登録側aの画像取得処理部212は、撮影機器10aで撮影した画像を登録画像として登録側aの特徴抽出装置22に渡す。また、識別側bの画像取得処理部212は、撮影機器10bで撮影した画像を識別画像として識別側bの特徴抽出装置22に渡す。本実施形態において、画像取得処理のうち、登録側aで行われる登録画像を取得する処理を登録画像取得処理と称し、識別側bで行われる識別画像を取得する処理を識別画像取得処理と称することがある。なお、画像取得処理は、例えばインターネット経由や記憶媒体を介して画像を取得する等、撮影機器10以外の手段から画像を取得する処理を含んでいても良い。
特徴抽出装置22は、撮影装置21から取得した画像に含まれる特徴を抽出する機能を有する。特徴抽出装置22は、画像の特徴として、特徴点、局所特徴量、及び大域特徴量を計算する機能を有する。特徴抽出装置22は、図3に示すように、特徴点抽出処理部221、局所特徴量計算処理部222、局所特徴量群分類処理部223、及び大域特徴量計算処理部224を有している。特徴抽出装置22は、特徴抽出条件付与装置28から特徴抽出条件を受けて、各処理部221~224における処理を実行する。特徴抽出条件には、例えば特徴点を抽出し局所特徴量を計算する際のピラミッド画像の段数、及びコーナーやカーブらしさを決定するための閾値等が含まれる。
特徴点抽出処理部221は、特徴点抽出処理を実行可能である。特徴点抽出処理は、図11に示すように、画像取得処理部212で取得した画像から、被写体Sの表面に表れている1つ以上の特徴点Pを抽出する処理を含む。本実施形態の場合、特徴点抽出処理は、1枚の画像から例えば数千点の特徴点を抽出する。この場合、登録側aの特徴点抽出処理部221は、登録側の撮影機器10aで撮影された登録画像の特徴点を抽出することができる。また、識別側bの特徴点抽出処理部221は、識別側の撮影機器10bで撮影した識別画像の特徴点を抽出することができる。
ここで、例えば図12に示すように、ワークSの表面に表れる模様のうちコーナーやカーブ等のような幾何学的でない模様を特徴点Pとして抽出することで、同じ製造工程を経て製造された同一種類の部品間でもその個体を識別できると考えられる。これは、例えば部品等の表面に表れる直線や直角等の幾何学的な模様は、その種類の部品全体に共通して表れる模様であることが多く、部品間で個体の識別を行うための特徴にはなり難い。一方、コーナーやカーブ等の幾何学的でない模様は、製造過程における極僅かな条件の違いによって出来るものであることが多く、その個体固有のものが多いからであると考えられる。そのため、本実施形態の特徴点抽出処理部221は、特徴点Pとして被写体の表面に局所的に表れるコーナーやカーブの模様を抽出する。
本実施形態の特徴点抽出処理部221は、被写体の画像から得られた輝度勾配強度分布を用いて、被写体の表面に局所的に表れるコーナーやカーブを特徴点として抽出する。画像はピクセル間で輝度の勾配とその強度を有している。均一な模様である場合、輝度勾配強度の広がりが小さく、また、直線的な模様の場合、輝度勾配強度は特定の方向へ広がる。一方、コーナーやカーブを伴う模様の場合、輝度勾配強度は複数方向へ広がる。このため、特徴点抽出処理部221は、輝度勾配強度が複数方向へ広がる模様を探すことで、特徴点となるコーナーやカーブを抽出することができる。
局所特徴量計算処理部222は、局所特徴量計算処を実行可能である。局所特徴量計算処理は、特徴点抽出処理で抽出された特徴点を含む周辺の領域の輝度勾配に基づいて特徴点の特徴量を局所特徴量として計算する処理を含む。局所特徴量は、特徴点の座標と256ビットのバイナリ特徴量を有している。特徴量の計算には、既存技術のSIFTを用いることができる。また、可能であれば、他のSURFなどの画像特徴量計算アルゴリズムを用いてもよい。特徴点抽出処理は、画像を多段階に縮小したピラミッド画像を求め、各縮尺の画像に対して同一の条件で、それぞれ独立に特徴点を抽出しても良い。そして、局所特徴量計算処理部は、各ピラミッド画像で得られた特徴点の局所特徴量を計算しても良い。こうすることで、スケール不変性を有し、スケールの相違に影響を受け難い局所特徴量を求めることができる。
局所特徴量群分類処理部223は、局所特徴量群分類処理を実行可能である。局所特徴量群分類処理は、登録画像及び識別画像の大域特徴量を計算するための事前準備となる処理である。局所特徴量群分類処理は、例えば図13の(A)、(B)で示すように、各画像について局所特徴量計算処理を実行して得られた複数の局所特徴量Aをその局所特徴量Aの値に応じて所定数例えば64~4096個の局所特徴量群Bに分類する処理を含む。換言すれば、局所特徴量群分類処理は、各画像から得られた多数の局所特徴量Aを、その値が似ている者同士を集めてクラスタリングする処理を含む。局所特徴量群Bを構成するそれぞれの要素Bnは、画像から得られる特徴点及びその局所特徴量のペアを少なくとも1つ以上有している。なお、Bnのnは、要素の数を示す整数である。
局所特徴量群分類処理は、各画像から得られた局所特徴量Aを辞書情報dに基づいて分類する処理を含む。辞書情報dは、予め取得した学習用画像から求めた特徴点の特徴量のうち代表的なものであり、局所特徴量分類処理の実行前に準備される。局所特徴量群分類処理部223は、分類しようとする局所特徴量Aを、その局所特徴量Aと近い特徴量を有する辞書情報dに当てはめて分類する。
大域特徴量計算処理部224は、大域特徴量計算処理を実行可能である。大域特徴量計算処理は、局所特徴量分離処理で得た各局所特徴量群Bに基づいて大域特徴量を計算する処理を含む。大域特徴量計算処理は、図13(C)に示すように、画像から得た各局所特徴量Aと相関が高い辞書情報dに投票して得た頻度分布つまりヒストグラムを大域特徴量として計算する処理を含む。すなわち、大域特徴量は、横軸に局所特徴量群Bをとり、縦軸に各局所特徴量群Bに投票された投票数をとる。このようにして計算された大域特徴量を用いることで、1枚の画像を1つの特徴量で表すことができる。大域特徴量計算処理は、例えば計算方法としてVLADやBAG-OF-WORDSを採用することができる。
大域特徴量の計算方法としてVLADを採用する場合、大域特徴量計算処理は、例えば局所特徴量と相関が高い辞書情報である代表値との差分ベクトルを総和したベクトルVを、代表値の数だけ計算し、それらをつなげたベクトルを大域特徴量のベクトルVとして計算する。具体的には、大域特徴量計算処理部224は、画像から得た局所特徴量を次の(1)式の計算に適用して大域特徴量のベクトルVを算出する。この場合、大域特徴量のベクトルVは、64個の128次元のベクトルで構成される。この場合、各局所特徴量群Bに含まれる局所特徴量をvとし、辞書情報をdとする。また、各局所特徴量群Bに含まれる特徴量の数をNとすると、1≦i≦Nとなる。
Figure 0007377163000001
なお、(1)式のNN(v)=dkは、画像中に含まれる特徴量の中で、この場合64個ある各辞書情報dと最も相関が高い局所特徴量vを意味する。
また、大域特徴量としてBAG-OF-WORDSを採用する場合、大域特徴量辞書生成処理は、次のようにして大域特徴量を計算する。この場合、大域特徴量は、辞書情報の数の次元を持つベクトル、例えば64次元のベクトルVとなる。大域特徴量辞書生成処理部251は、64個の代表値となる辞書情報を用いて、各特徴量について、最も近い辞書情報dを探し、近かったベクトルVの要素に1を加える。これにより、ベクトルVは、特徴量のヒストグラムとなり、ベクトルVの要素の総和は、特徴量の個数を等しくなる。このベクトルVは、この総数で全体を除算し、正規化して利用する。
登録処理装置23は、各処理で得たデータを記録装置24に記録する機能を有する。登録処理装置23は、図4に示すように、検索対象画像登録処理部231、評価用画像登録処理部232、局所特徴量登録処理部233、及び大域特徴量登録処理部234を有している。検索対象画像登録処理部231は、検索対象画像登録処理を実行可能である。検索対象画像登録処理は、予め複数の検索対象とする画像を登録画像として、記録装置24の検索対象画像登録部241に登録する処理を含む。
評価用画像登録処理部232は、評価用画像登録処理を実行可能である。評価用画像登録処理は、画像照合識別装置26で実行される照合処理の評価を行う際に用いる画像を評価用の画像として記録装置24の評価用画像登録部242に登録する処理を含む。評価用画像は、それぞれ異なる被写体を撮影した複数の登録画像を含む登録画像群と、登録画像群の中のうちの1つと同一の被写体でかつ異なる条件で撮影した識別画像と、を含んで構成されている。この場合、識別画像は、被写体や条件の数によって複数あっても良い。また、同一の被写体を撮影した登録画像と識別画像とは、例えば同一又は部分的に共通する識別番号等が付与されること等によって相互に紐付けされた状態で記録装置24の評価用画像登録部242に登録される。
局所特徴量登録処理部233は、局所特徴量登録処理を実行可能である。局所特徴量登録処理は、特徴抽出装置22での処理によって登録画像から抽出した特徴点の局所特徴量を、記録装置24の局所特徴量登録部243に登録する処理を含む。また、局所特徴量登録処理は、特徴抽出装置22での処理によって評価用画像から抽出した特徴点の局所特徴量を、記録装置24の局所特徴量登録部243に登録する処理を含む。局所特徴量登録処理部233は、各画像から得た局所特徴量を、抽出元となる画像と紐付けして登録する。
大域特徴量登録処理部234は、大域特徴量登録処理を実行可能である。大域特徴量登録処理は、登録画像に係る大域特徴量を、記録装置24の大域特徴量登録部244に登録する処理を含む。また、大域特徴量登録処理は、評価用画像に係る大域特徴量を、記録装置24の大域特徴量登録部244に登録する処理を含む。局所特徴量登録処理部233は、各画像から得た大域特徴量を、抽出元となる画像と紐付けして登録する。
記録装置24は、登録処理装置23の各登録処理によって送られた各種のデータを記録する機能を有しており、データベースを構成する。記録装置24は、例えば個体識別装置20を構成するコンピュータの記録装置や、ネットワーク回線を介して接続された外部のサーバ等で構成することもできる。記録装置24は、図5に示すように、検索対象画像登録部241、評価用画像登録部242、局所特徴量登録部243、大域特徴量登録部244、及び大域特徴量辞書登録部245を有している。
検索対象画像登録部241は、登録処理装置23の検索対象画像登録処理部231から送られた検索対象画像を記録する記録領域である。評価用画像登録部242は、登録処理装置23の評価用画像登録処理部232から送られた評価用画像を記録する記録領域である。局所特徴量登録部243は、登録処理装置23の局所特徴量登録処理部233から送られた局所特徴量を記録する記録領域である。大域特徴量登録部244は、登録処理装置23の大域特徴量登録処理部234から送られた大域特徴量を記録する記録領域である。
また、大域特徴量辞書登録部245は、辞書装置25の大域特徴量辞書登録処理部252から送られた大域特徴量辞書を記録する記録領域である。画像照合識別装置26で検索処理を実行する以前に、予め取得した学習用画像から得られた局所特徴量に基づいて計算された複数の辞書情報を要素に持つ複数の大域特徴量辞書が登録されている。
辞書装置25は、複数枚の画像から抽出した特徴点及びその局所特徴量をもとに複数の辞書情報を生成し、その辞書情報に基づく大域特徴量辞書を生成し、登録、及び設定する機能を有する。辞書装置25は、図6に示すように、大域特徴量辞書生成処理部251及び大域特徴量辞書登録処理部252を有している。
大域特徴量辞書生成処理部251は、大域特徴量辞書生成処理を実行可能である。大域特徴量辞書生成処理は、例えば複数の学習用画像から得た局所特徴量群のそれぞれの代表値を辞書情報に持つ大域特徴量辞書を生成する処理を含む。この場合、大域特徴量辞書生成処理は、局所特徴量群のセントロイドを代表値として辞書情報に設定する処理を含む。辞書情報は、大域特徴量辞書を構成する要素であり、複数個の辞書情報が集まって1つの大域特徴量辞書を構成する。
この場合、例えば、大域特徴量辞書生成処理において大域特徴量辞書生成処理部251は、次のようにして大域特徴量辞書を生成することができる。すなわち、大域特徴量辞書生成処理において大域特徴量辞書生成処理部251は、まず図14(A)、(B)に示すように、例えば特徴抽出装置22で計算されたm枚分の学習用画像T1~Tmの局所特徴量Aを受け取る。次に、大域特徴量辞書生成処理部251は、図14(C)に示すように、受け取った局所特徴量Aを例えばk-means法を用いてk個この場合64個のクラスタつまり局所特徴量群B1~Bkに分類し、各局所特徴量群B1~BkのそれぞれについてセントロイドC1~Ckを求める。そして、大域特徴量辞書生成処理部251は、このようにして求めた各局所特徴量群B1~BkのセントロイドC1~Ckを、それぞれの局所特徴量群B1~Bkの代表値として辞書情報d1~dkに設定し、辞書情報d1~dkをまとめた大域特徴量辞書Eを生成する。そして、大域特徴量辞書生成処理部251は、更に異なる学習用画像Tを用いて複数の大域特徴量辞書Eを生成する。なお、辞書情報d1~dkは、各局所特徴量群B1~Bkを代表する値であれば、セントロイドに限られない。
大域特徴量辞書登録処理部252は、大域特徴量辞書登録処理を実行可能である。大域特徴量辞書登録処理は、大域特徴量辞書生成処理で生成された複数の大域特徴量辞書Eicを、記録装置24の大域特徴量辞書登録部245に記録する処理を含む。この場合、大域特徴量辞書Eには、大域特徴量辞書Eを構成する複数の辞書情報d1~dkが含まれている。
画像照合識別装置26は、記録装置24に記録されている登録画像と、識別側の特徴抽出装置22から出力された識別画像とを照合しその画像の一致不一致を識別する機能を有数する。画像照合識別装置26は、図7に示すように、検索処理部261、照合処理部262、及び結果通知処理部263を有している。
検索処理部261は、検索処理を実行可能である。検索処理は、記録装置24の検索対象画像登録部241に記録されている複数の登録画像に係る大域特徴量のうち、識別側の特徴抽出装置22から送られた識別画像に係る大域特徴量に相関が高いものを検索する処理を含む。本実施形態の場合、検索処理部261は、絞り込み処理を実行可能な絞り込み処理部2611と、特定処理を実行可能な特定処理部2612とを有する。すなわち、本実施形態の場合、検索処理は、絞り込み処理と特定処理とを含む。
絞り込み処理部2611で実行される絞り込み処理は、図15に示すように、記録装置24の検索対象画像登録部241に登録されている複数の登録画像の中から、識別画像が有する大域特徴量との相関が高い大域特徴量を有する所定数の登録画像を候補として絞り込む処理を含む。検索対象画像登録部241に登録されている登録画像が例えば数千~数十万枚である場合、登録画像の候補は、絞り込み処理で例えば数~数十枚程度に絞り込まれる。
特定処理部2612で実行される特定処理は、局所特徴量を用いた画像照合手法と、特徴点の幾何的な配置の整合性を検証するアルゴリズムを用いて行うことができる。特定処理部2612は、まず、絞り込み処理によって抽出された候補の登録画像の局所特徴量と識別画像の局所特徴量とを比較し、双方の画像から特徴量の差が最小となる特徴点をペアとして求める。そして、特定処理部2612は、他の特徴点との相対的な位置関係が矛盾しない特徴点を対応点として抽出し、その対応点数が最も多い登録画像を特定する。
この場合、絞り込み処理は、図15に示すように、登録画像と識別画像とのそれぞれの大域特徴量を比較する処理であるため、画像に含まれる全ての局所特徴量を比較する特定処理よりも精度は低いが処理量が少なく高速に処理することができる。これに対し、特定処理は、図16に示すように、登録画像と識別画像とのそれぞれの局所特徴量Aの全てについて対応点を探索する処理であるため、大域特徴量同士を比較する絞り込み処理よりも処理量は多く時間はかかるが精度が良い。このように、検索処理は、絞り込み処理と特定処理との2段階の処理を実行することにより、複数の登録画像の中から識別画像と同一の登録画像を高速で精度良く特定することができる。
照合処理部262は、照合処理を実行可能である。照合処理は、画像の検索を伴わない処理であり、調整装置30によって各種の条件やアルゴリズム、パラメータ等を調整するために特定の画像同士を照合する際に実行される。照合処理は、検索処理のうち画像同士を照合するためのアルゴリズムと同一のアルゴルズムを用いて実行される。そのため、照合処理部262は、検索処理部261の一部とすることができる。調整装置30によって調整された各種の条件やアルゴリズム、パラメータ等は、検索処理部261の検索処理に反映される。
照合処理は、例えば評価用画像として評価用画像登録部242に登録されている特定の登録画像と識別画像とにおける局所特徴量を比較し、その特徴点の対応点数を取得して登録画像と識別画像とを照合する処理を含む。この場合、照合処理部262は、調整装置30からの指示により、同一の被写体を撮影した登録画像と識別画像とについて照合することができる。また、照合処理部262は、調整装置30からの指示により、異なる被写体を撮影した登録画像と識別画像とについて照合することもできる。照合処理部262は、登録画像と識別画像との局所特徴量の対応点数を出力する。
また、照合処理部262は、照合識別条件調整装置32から受け取ったパラメータセットを用いて照合処理を実行することができる。パラメータセットは、例えば図17に示すように、検索処理及び照合処理の条件を設定するための複数のパラメータについて、それぞれのパラメータに設定可能な値を組み合わせたものである。図17における条件1、条件2、条件3・・・がそれぞれ1つのパラメータセットとなる。図17の例の場合、パラメータセットは全部で5400通りとなる。
結果通知処理部263は、結果通知処理を実行可能である。結果通知処理は、検索処理の結果、及び照合処理の結果を、調整装置30や外部の装置に出力する処理を含む。この場合、検索処理の結果は、特定した登録画像に関する情報が含まれる。また、照合処理の結果は、対応点数が含まれる。
撮影条件付与装置27は、調整装置30の撮影条件調整装置31からの指示を受けて、撮影装置21に上述した撮影条件を付与する機能を有する。特徴抽出条件付与装置28は、調整装置30の照合識別条件調整装置32からの指示を受けて、特徴抽出装置22に特徴抽出条件を付与する機能を有する。
調整装置30は、画像照合識別装置26から得た結果を可視化して表示装置12に表示する機能や、画像照合識別装置26からのフィードバックを受けて、撮影機器10の撮影条件や特徴抽出装置22で用いる条件やアルゴリズムなど、個体識別装置20で用いられる各種の条件、アルゴリズム、若しくはパラメータ等を調整する機能等を有する。調整装置30は、図1に示すように、撮影条件調整装置31、照合識別条件調整装置32、及び可視化装置33を有している。
撮影条件調整装置31は、画像照合識別装置26からのフィードバックを受けて自動で、又はユーザからの操作を受けて手動で撮影機器10を用いて撮影対象を撮影する際の各種条件を調整し、その条件を撮影条件付与装置27に対して指示する機能を有する。ユーザは、例えば入力装置11を操作することで、撮影条件調整装置31の処理により各種条件を調整することができる。また、撮影条件調整装置31は、特徴抽出装置22の処理により得られた特徴点の数に応じて自動で各種条件を調整する機能を有する。撮影条件調整装置31は、図7に示すように、撮影機器条件調整処理部311、撮影対象条件調整処理部312、総当たり条件生成処理部313、及び最適条件提示処理部314を有している。
撮影機器条件調整処理部311は、撮影機器条件を調整する撮影機器条件調整処理を実行可能である。撮影機器条件調整処理の実行により、主に光学機器に関する条件、例えば撮影機器10が有するカメラ101のシャッタースピードや、イメージセンサの感度、解像度、撮影範囲、焦点、照明102の輝度や光度、色彩等が調整される。撮影機器条件調整処理部311は、調整された撮影機器条件を撮影条件付与装置27に送信する。これにより、撮影装置21は、撮影機器条件調整処理部311で調整された撮影機器条件に従って撮影機器10の主にカメラ101や照明102を動作させて撮影対象を撮影する。
撮影対象条件調整処理部312は、撮影対象となる被写体に関する条件である撮影対象条件を調整する撮影対象条件調整処理を実行可能である。撮影対象条件調整処理の実行により、例えば被写体の姿勢つまりカメラ101や照明102に対する被写体の角度や、カメラ101や照明102と被写体との距離等が調整される。撮影対象条件調整処理部312は、調整された撮影対象条件を撮影条件付与装置27に送信する。これにより、撮影装置21は、撮影対象条件調整処理部312で調整された撮影対象条件に従って撮影機器10の主にステージ103を動作させて撮影対象を撮影する。
総当たり条件生成処理部313は、総当たり条件生成処理を実行可能である。総当たり条件生成処理は、予め設定された範囲内の撮影対象条件と、予め設定された範囲内の撮影機器条件と、の組み合わせを総当たりで生成する処理を含む。この場合、撮影装置21の画像取得処理部212で実行される画像取得処理は、総当たり条件生成処理で生成された全ての条件で撮影した画像を取得する処理を含む。これにより、画像取得処理部212は、異なる条件で撮影された多数の画像、つまり撮影対象条件と撮影機器条件とのそれぞれを振って撮影した多数の画像を取得することができる。
例えば図19の例では、撮影対象条件として被写体と照明102との距離である照明距離が設定され、撮影機器条件として照明102の光量である光量設定値が設定されている。この場合、総当たり条件生成処理部313は、照明距離と光量設定値との取り得る値の全ての組み合わせを総当たりで生成する。そして、画像取得処理部212は、この総当たりの組み合わせの条件で自動で撮影して、登録画像及び識別画像を取得する。
最適条件提示処理部314は、最適条件提示処理を実行可能である。最適条件提示処理は、総当たり条件生成処理で生成された全ての条件で撮影した登録画像と識別画像とのうち、同一の被写体を撮影した登録画像と識別画像とについて照合処理部262に照合処理を実行させ、その照合処理によって得た対応点数が多い撮影対象条件と撮影機器条件との組み合わせを最適条件としてユーザに提示する又は自動で設定する処理を含む。この場合、最適条件提示処理部314は、表示装置12に最適条件を表示しても良い。これより、ユーザは、撮影機器条件と撮影対象条件との最適な組み合わせを簡単に見つけて設定することができる。
例えば登録画像と識別画像とが、同一の被写体を図19に示す条件で撮影されたものである場合、最適条件提示処理部314は、それぞれの画像の対応点数から例えば図20に示すグラフ、この場合、横軸に光量設定値つまりLuxをとり、縦軸に対応点数をとったグラフを生成する。そして、最適条件提示処理部314は、このグラフから、登録画像と識別画像との対応点数が多く、かつ、ロバスト性が高い条件の組み合わせを見つける。この場合、照明距離1のA1のグラフの頂点の光量設定値が、対応点数が多くかつ最もロバスト性が高いことがわかる。そのため、この場合、最適条件提示処理部314は、照明距離1と照明距離1におけるA1のグラフの頂点の光量設定値を撮影対象条件と撮影機器条件との組み合わせの最適条件として提示する。このようにして、最適条件提示処理部314は、撮影対象条件と撮影機器条件との最適な組み合わせをユーザに提示する。なお、最適条件提示処理部314は、対応点数が多くかつロバスト性が高い条件の候補をいくつか選択し、これらの条件をおすすめ条件としてユーザに提示することもできる。また、最適条件提示処理部314は、図20に示すグラフを表示装置12に表示させる処理を行っても良い。
最適条件提示処理は、特徴点抽出処理に関する条件である特徴抽出条件を予め複数準備し、総当たり条件生成処理で生成された全ての条件で同一の撮影した登録画像及び識別画像について、予め準備した複数の特徴抽出条件で特徴点抽出処理を実行して得られた特徴点を用いて照合処理を実行して得られる対応点数が最も多くなる条件の組み合わせ提示する処理を含む。これにより、ユーザは、特徴抽出条件を含めて撮影機器条件と撮影対象条件との最適な組み合わせを簡単に見つけて設定することができる。
照合識別条件調整装置32は、画像照合識別装置26の検索処理部261及び照合処理部262で用いられる照合識別アルゴリズムのパラメータのチューニングを行う機能を有する。照合識別条件調整装置32は、画像照合識別装置26からのフィードバックを受けて自動で、又はユーザからの操作を受けて手動で、特徴抽出装置22や画像照合識別装置26の処理で用いる条件やパラメータ等を調整し、その条件やパラメータを特徴抽出装置22や画像照合識別装置26に指示する機能を有する。本実施形態の場合、照合識別条件調整装置32は、記録装置24の評価用画像登録部242に登録されている評価用画像を用いて画像照合識別装置26の照合処理部262で照合を行い、その照合結果この場合対応点数に応じて条件やパラメータを調整する。
ユーザは、例えば入力装置11を操作して照合識別条件調整装置32における処理を実行することで、特徴抽出装置22や画像照合識別装置26で用いる条件やパラメータを調整することができる。照合識別条件調整装置32は、図9に示すように、特徴抽出条件調整処理部321、大域特徴量辞書設定処理部322、大域特徴量相関係数計算処理部323、パラメータセット生成処理部324、及びパラメータセット設定処理部325を有している。
特徴抽出条件調整処理部321は、特徴抽出条件調整処理を実行可能である。特徴抽出条件調整処理は、特徴点抽出処理部221における特徴点抽出処理又は局所特徴量計算処理部222における局所特徴量計算処理で用いる特徴抽出条件を調整する処理を含む。ユーザは、入力装置11を操作して、特徴点を抽出し局所特徴量を計算する際のピラミッド画像の段数、及びコーナーやカーブらしさを決定するための閾値等の特徴抽出条件を調整し設定することができる。
特徴抽出条件調整処理は、画像照合識別装置26の照合処理部262における照合処理の結果に基づき、局所特徴量計算処理による特徴抽出条件について正対応点数と負対応点数との比が最も大きくなるように調整する処理を含んでいる。本実施形態において、正対応点とは、図18(A)に示すように、記録装置24の評価用画像登録部242に登録されている登録画像群のうち識別画像の被写体と同一の被写体を撮影した登録画像と、識別画像と、の対応点を意味する。そして、正対応点数とは、正対応点の数を意味する。図18(A)の例では、登録画像に写っている被写体S1と識別画像に写っている被写体S1は同一である。
また、負対応点とは、図18(B)に示すように、記録装置24の評価用画像登録部242に登録されている登録画像群のうち識別画像の被写体と異なる被写体を撮影した登録画像と、識別画像との対応点を意味する。そして、負対応点数とは、負対応点の数を意味する。図18(B)の例では、登録画像に写っている被写体S2と識別画像に写っている被写体S1とは異なるものである。
大域特徴量辞書設定処理部322は、大域特徴量辞書設定処理を実行可能である。大域特徴量辞書設定処理は、大域特徴量計算統計情報ごとにスコアを計算して、そのスコアが高いものを、局所特徴量群分類処理部223の局所特徴量群分類処理で用いる大域特徴量辞書として自動で設定する処理を含む。大域特徴量計算統計情報とは、大域特徴量計算処理により大域特徴量を計算する過程、すなわち局所特徴量群分類処理部223における局所特徴量群分類処理の過程で得られる統計情報であり、局所特徴量と相関が高い辞書情報に投票して得たヒストグラム又は相関値の統計量のスコアで表すことができる。特定の辞書情報が選ばれる回数等の統計情報によるスコアが高い辞書情報は性能が高いと考えられる。大域特徴量辞書設定処理によれば、そのような性能が高い辞書情報を有する大域特徴量辞書を自動で選択することができる。
大域特徴量辞書設定処理は、大域特徴量辞書登録部245に登録されている複数の大域特徴量辞書のうち、大域特徴量相関係数に基づき、同一の被写体を撮影した登録画像と識別画像とを同一であると判断し、異なる被写体を撮影した登録画像と識別画像とを同一でないと判断できる大域特徴量辞書を選択して、局所特徴量群分類処理に用いる大域特徴量辞書に設定する処理を含む。
大域特徴量相関係数は、登録画像と識別画像とにおける大域特徴量の一致度つまり性能を示す一つの指標となる。2つの画像間における大域特徴量の相関が大きいほど、両者の画像に同一の被写体が含まれている可能性が高いことを意味する。そのため、同一の被写体を撮影した画像間における大域特徴量の相関が大きいということは、その同一の被写体を撮影した画像についてその大域特徴量辞書を使って計算した大域特徴量の一致度が高いことを意味する。すなわちこれは、同一の被写体を撮影した画像間においてその大域特徴量辞書の性能が高いことを意味する。
一方、2つの画像間における大域特徴量の相関が小さいほど、両者の画像に含まれる被写体が異なる可能性が高いことを意味する。そのため、異なる被写体を撮影した画像間における大域特徴量の相関が小さいということは、その異なる被写体を撮影した画像についてその大域特徴量辞書を使って計算した大域特徴量の一致度が低いことを意味する。すなわちこれは、異なる被写体を撮影した画像間においてその大域特徴量辞書の性能が高いことを意味する。
大域特徴量辞書設定処理は、例えば次のようにして大域特徴量相関係数を計算し、その大域特徴量相関係数に基づいて大域特徴量辞書の性能を判断することができる。すなわち、大域特徴量辞書設定処理は、2つの大域特徴量がベクトルVであるとき、それぞれの絶対値を1に正規化し内積をとった値であって当該内積の値が1に近いものについて同一性が高いと判断し、当該内積の値が-1に近いものについて同一性が低いと判断する。
この場合、例えば2つの大域特徴量のうち1つの大域特徴量ベクトルVaを次の(2)式とし、正規化された大域特徴量ベクトルVbを次の(3)式とし、dを自然数として定義する。この場合、正規化された大域特徴量ベクトルVbは、大域特徴量ベクトルVaを用いて次の(4)式で表される。そして、大域特徴量ベクトルVaを次の(5)式とすると、大域特徴量ベクトルVaの絶対値は、次の(6)式となる。
Figure 0007377163000002
そして、2つの大域特徴量のうちもう1つの大域特徴量ベクトルWaを次の(7)式とすると、その内積の値は、次の(8)式となる。そして、大域特徴量辞書登録部245は、(8)式で得られた内積の値つまり大域特徴量相関係数が1に近いものについては同一性が高いつまり同一の被写体である可能性が高いと判断し、当該内積の値が-1に近いものについては同一性が低いつまり同一の被写体である可能性が低いと判断する。
Figure 0007377163000003
また、大域特徴量辞書設定処理は、例えば次のようにして大域特徴量相関係数を計算し、その大域特徴量相関係数に基づいて大域特徴量辞書の性能を判断することができる。すなわち、大域特徴量相関係数は、2つの大域特徴量のベクトル間の距離の値とする。そして、大域特徴量辞書設定処理は、2つの大域特徴量のベクトル間の距離の値である大域特徴量相関係数が0に近ければ同一性が高いと判断し、大きい場合は同一性が低いと判断する。
この場合、例えば2つのうち一方の大域特徴量ベクトルVaを上記(2)、(5)式とし、もう一方の大域特徴量ベクトルWaを上記(7)、及び下記(9)式とするとき、大域特徴量ベクトルVa、Wa間の距離は、次の(10)式で表される。
Figure 0007377163000004
そして、大域特徴量辞書登録部245は、(12)式で得られたベクトルVa、Wa間の距離が近いつまり0に近いものについては同一性が高いつまり同一の被写体である可能性が高いと判断し、ベクトルVa、Wa間の距離が大きいものについては同一性が低いつまり同一の被写体である可能性が低いと判断する。なお、このときそれぞれのベクトルVa、Waは必ずしも正規化されている必要はない。
大域特徴量相関係数計算処理部323は、大域特徴量相関係数計算処理を実行可能である。大域特徴量相関係数計算処理は、各登録画像の大域特徴量と識別画像の大域特徴量とを比較し、その相関関係を示す大域特徴量相関係数を計算する処理を含む。例えば、大域特徴量相関係数計算処理は、各登録画像の大域特徴量と識別画像の大域特徴量とのヒストグラムを比較して大域特徴量相関係数を計算することができる。
パラメータセット生成処理部324は、パラメータセット生成処理を実行可能である。パラメータセット生成処理は、例えば図17に示すように、画像照合識別装置26の照合処理部262で実行される照合処理の条件を設定するためのパラメータについて、各パラメータに定められた設定範囲内の設定値に設定された各パラメータを組み合わせて複数のパラメータセットを生成する処理を含む。本実施形態の場合、パラメータセット生成処理は、各パラメータの設定値の全ての組み合わせについてのパラメータセットを生成する。
パラメータセット設定処理部325は、パラメータセット設定処理を実行可能である。パラメータセット設定処理は、ユーザの操作に基づいて、検索処理部261の検索処理で使用するパラメータセットを設定する処理を含む。ユーザは、例えば入力装置11を操作して、検索処理部261の検索処理で使用するパラメータセットを設定することができる。
可視化装置33は、画像照合識別装置26から受けた情報や、撮影条件調整装置31及び照合識別条件調整装置32の調整結果に関する情報等の各種の情報を可視化して表示装置12に表示する機能を有する。本実施形態において可視化とは、データを文字や数値だけでなく図形やグラフ等にして表示装置12に表示することを含む。可視化装置33は、図10に示すように、特徴点表示処理部331、大域特徴量計算統計情報表示処理部332、照合結果表示処理部333、及び条件表示処理部334を有している。
特徴点表示処理部331は、特徴点表示処理を実行可能である。特徴点表示処理は、撮影条件調整装置31や照合識別条件調整装置32により各種の条件やパラメータを調整する際に実行することができる。特徴点表示処理は、例えば図21(A)に示すように、特徴抽出装置22の特徴点抽出処理部221における特徴点抽出処理の実行により抽出した各特徴点Pを、画像に重ねて表示装置12に表示する処理を含む。すなわち、画像中の被写体S上に特徴点Pが重ねて表示される。これにより、ユーザは、画像中の被写体Sのどこを特徴点として抽出されているかを視認することができる。また、特徴点表示処理は、図21(A)に示すように、局所特徴量が属する局所特徴量群ごとに、この場合、各特徴点Pがクラスタリングされて当てはめられた辞書情報dごとに異なる態様、例えば異なる色や大きさ、形状で各特徴点Pを表示装置12に表示する処理を含む。図21では、各特徴点Pの色彩の違いを濃淡の違いで表している。
大域特徴量計算統計情報表示処理部332は、大域特徴量計算統計情報表示処理を実行可能である。大域特徴量計算統計情報表示処理は、撮影条件調整装置31や照合識別条件調整装置32により各種の条件やパラメータを調整する際に実行することができる。大域特徴量計算統計情報表示処理は、大域特徴量計算統計情報を表示装置12に表示する処理を含む。大域特徴量計算統計情報は、特徴抽出装置22の大域特徴量計算処理部224で実行される大域特徴量計算処理により大域特徴量を計算する過程で得られる統計情報である。大域特徴量計算統計情報表示処理は、図21(B)に示すように、各局所特徴量Aと相関が高い辞書情報dに投票して得たヒストグラム又は相関値の統計量のスコアを、大域特徴量計算統計情報Gとして表示装置12に表示する処理を含む。すなわち、大域特徴量計算統計情報Gは、大域特徴量計算処理の実行過程で得られる大域特徴量のヒストグラム又は相関値の統計量のスコアとすることができる。
照合結果表示処理部333は、照合結果表示処理を実行可能である。照合結果表示処理は、撮影条件調整装置31や照合識別条件調整装置32により各種の条件やパラメータを調整する際に実行することができる。照合結果表示処理は、画像照合識別装置26の照合処理部262で実行された複数の照合処理の結果をまとめて可視化して表示装置12に表示する処理を含む。
照合結果表示処理は、例えば図17に示す各パラメータセットを用いて照合処理を実行した照合結果を、図22に示すようにグラフ化して表示する処理を含む。この場合、照合結果表示処理部333は、同一の被写体の画像同士だけでなく、異なる被写体の画像同士についても照合処理を行う。そして、照合結果表示処理部333は、同一の被写体を撮影した画像間の対応点数である正対応点数と、異なる被写体を撮影した画像間の対応点数である負対応点数をそれぞれ計算してグラフ化して、表示装置12に表示する。図22のグラフは、横軸に条件Noをとり、縦軸に対応点数をとったものである。また、図22のうち、F1は正対応点数のグラフを示し、F2は負対応点数のグラフを示す。図22の例では、条件No.Nが最も正対応点数が多くかつ負対応点数が少ないことがわかる。これにより、ユーザは、正対応点数の多くかつ負対応点数が少ない条件Noつまり性能が良い条件Noを一見して把握することができる。
また、照合結果表示処理は、画像照合識別装置26の照合処理部262において照合処理を実行した際に、照合に用いた識別画像の対応点数評価情報を表示装置12に表示する処理を含む。対応点数評価情報は、照合処理で計算した対応点数に基づく情報であり、例えば対応点数そのままの数値でも良いし、例えば複数段階のレベルやスコアとすることもできる。
この場合、照合結果表示処理部333は、例えば図23に示すように、表示装置12の画面上に、登録画像表示部51、真値画像表示領域52、偽値画像表示領域53、真値画像評価情報表示領域541、真値画像相関情報表示領域542、偽値画像評価情報表示領域551、及び偽値画像相関情報表示領域552を表示させる。登録画像表示部51には、照合処理を行う画像のうち、記録装置24の評価用画像登録部242に登録されている登録画像群の中の1つが表示される。
真値画像表示領域52には、照合処理を行う画像のうち、記録装置24の評価用画像登録部242に登録されている識別画像であって、登録画像表示部51に表示されている画像の被写体と同一の被写体を異なる条件で撮影した画像が表示される。図23の例では、登録画像表示部51に表示されている画像の被写体S1と、真値画像表示領域52に表示されている画像の被写体S1とは、同一の個体である。本実施形態においては、登録画像表示部51に表示されている画像の被写体と同一の被写体を異なる条件で撮影した画像を、真値画像と称する。この場合、同一の被写体を撮影した登録画像と識別画像とは相互に紐付けされた状態つまりペアを組んだ状態で評価用画像登録部242に登録されている。つまり、照合結果表示処理部333は、登録画像と識別画像との紐付けを識別することで、同一の被写体を撮影したものか異なる被写体を撮影したものかを認識することができる。
そして、偽値画像表示領域53には、照合処理を行う画像のうち、記録装置24の評価用画像登録部242に登録されている識別画像であって、登録画像表示部51に表示されている画像の被写体と異なる被写体を異なる条件で撮影した画像が表示される。図23の例では、登録画像表示部51に表示されている画像の被写体S1と、真値画像表示領域52に表示されている画像の被写体S2とは、異なる個体である。本実施形態においては、登録画像表示部51に表示されている画像の被写体と異なる被写体を撮影した画像を、偽値画像と称する。
また、真値画像評価情報表示領域541には、登録画像表示部51に表示されている画像と、真値画像表示領域52に表示されている画像とで照合処理を行った結果、つまり真値画像の対応点数評価情報が表示される。また、偽値画像評価情報表示領域551には、登録画像表示部51に表示されている画像と、偽値画像表示領域53に表示されている画像とで照合処理を行った結果、つまり偽値画像の対応点数評価情報が表示される。
照合結果表示処理は、大域特徴量相関係数に基づく情報を表示装置12に表示する処理を含む。この場合、真値画像相関情報表示領域542には、登録画像表示部51に表示されている登録画像から計算した大域特徴量と、真値画像表示領域52に表示されている真値画像のから計算した大域特徴量との相関係数が表示される。そして、偽値画像相関情報表示領域552には、登録画像表示部51に表示されている登録画像から計算した大域特徴量と、偽値画像表示領域53に表示されている偽値画像から計算した大域特徴量とを比較して得た相関係数が表示される。
ユーザは、例えば入力装置11を操作して、登録画像表示部51、真値画像表示領域52、偽値画像表示領域53、真値画像評価情報表示領域541に表示する画像、つまり照合処理を行う画像を選択し、その画像について照合処理を実行する。そして、照合処理が行われると、照合結果表示処理部333は、その照合結果として、真値画像評価情報表示領域541及び偽値画像評価情報表示領域551にそれぞれ対応点数評価情報を表示するとともに、真値画像相関情報表示領域542及び偽値画像相関情報表示領域552にそれぞれ大域特徴量相関係数を表示する。これにより、ユーザは、真値画像評価情報表示領域541及び偽値画像評価情報表示領域551に表示される対応点数評価情報や、真値画像相関情報表示領域542及び偽値画像相関情報表示領域552に表示される大域特徴量相関係数に基づく情報を見ることにより、照合処理に用いた各種条件やパラメータの性能を確認することができる。この場合、大域特徴量相関係数に基づく情報とは、大域特徴量相関係数そのものの値でも良いし、大域特徴量相関係数を加工して性能を数段階で表すようなレベルやランク等としても良い。
照合結果表示処理部333は、例えば図18に示すように、登録画像と識別画像の正対応点数又は負対応点数を表示装置12に表示させても良い。また、照合結果表示処理部333は、例えば登録画像と識別画像とで、個々の画像がそれぞれ固有に有している特徴点と、共通に有している特徴点とを切り分けて表示しても良い。この場合、照合結果表示処理部333は、個々の画像が固有に有している特徴点と、共通に有している特徴点のその数や割合を表示するようにしても良い。そして、照合結果表示処理部333は、登録画像及び識別画像のみ表示するモードと、例えば登録画像及び識別画像に特徴点を加えて表示するモードと、登録画像及び識別画像に特徴点と対応点を加えて表示するモードと、を任意に切り替えるようにしても良い。
ここで、工業製品等のように同一の工程で製造された部品は、人の顔や指紋等の生態認証に比べて個体間の特徴の差が極めて小さい。そのため、個体表面に表れる多数の特徴を照合する必要があるため、計算量が多く識別に時間がかかり、そして識別対象の母数が増えるほど計算量は爆発的に増える。
これに対し、個体識別システム1は、画像取得処理部212、特徴点抽出処理部221、局所特徴量計算処理部222、局所特徴量群分類処理部223、検索対象画像登録処理部231、大域特徴量登録処理部234、絞り込み処理部2611、及び特定処理部2612を備える。画像取得処理部212は、撮影機器10によって撮影した被写体の画像を取得する画像取得処理を実行可能である。特徴点抽出処理部221は、画像取得処理で取得した画像から特徴点を抽出する特徴点抽出処理を実行可能である。局所特徴量計算処理部222は、特徴点抽出処理で抽出された特徴点の局所特徴量を計算する局所特徴量計算処を実行可能である。
局所特徴量群分類処理部223は、局所特徴量計算処理によって得られた複数の局所特徴量を当該局所特徴量の値に応じて所定数例えば64個の局所特徴量群に分類する局所特徴量群分類処理を実行可能である。大域特徴量計算処理部224は、各局所特徴量群に基づいて大域特徴量を計算する大域特徴量計算処理を実行可能である。検索対象画像登録処理部231は、予め複数の検索対象の画像を登録画像として検索対象画像登録部241に登録する検索対象画像登録処理を実行可能である。大域特徴量登録処理部234は、登録画像に係る大域特徴量を大域特徴量登録部244に登録する大域特徴量登録処理を実行可能である。絞り込み処理部2611は、例えば図15に示すように、複数の登録画像の中から識別画像が有する大域特徴量との相関が高い大域特徴量を有する所定数の登録画像を候補して絞り込む絞り込み処理を実行可能である。そして、特定処理部2612は、例えば図16に示すように、絞り込み処理によって抽出された候補の登録画像の局所特徴量と、識別画像の局所特徴量とを比較し、局所特徴量の対応点数が最も多い登録画像を特定する特定処理を実行可能である。
この構成によれば、絞り込み処理部2611は、絞り込み処理の実行により、登録画像と識別画像の大域特徴量を比較して候補となる登録画像を大まかに絞り込む。この絞り込み処理は、それぞれの画像の局所特徴量を全て対比する特定処理に比べて計算量が少なく格段に高速で処理することができるものの、精度が出にくい。そこで次に、特定処理部2612は、特定処理の実行により、絞り込まれた候補の登録画像と、識別画像の局所特徴量を対比して対象を特定する。この特定処理は、大域特徴量で比較する絞り込み処理に比べて計算量が多く時間がかかるものの、精度が良い。このように、個体識別システム1は、大域特徴量で絞り込む絞り込み処理と、局所特徴量で特定する特定処理と、の2段階の処理を実行することにより、高速でかつ高精度の検索を実現することができる。これは、登録画像の母数が増えた場合に特に効果を発揮する。
そして、個体識別システム1は、撮影機器条件調整処理部311、撮影対象条件調整処理部312、及び特徴抽出条件調整処理部321のうち少なくともいずれか1つを更に備える。撮影機器条件調整処理部311は、ユーザの操作に基づき撮影機器10に関する条件である撮影機器条件を調整する撮影機器条件調整処理を実行可能である。撮影対象条件調整処理部312は、ユーザの操作に基づき撮影対象に関する条件である撮影対象条件を調整する撮影対象条件調整処理を実行可能である。そして、特徴抽出条件調整処理部321は、ユーザの操作に基づき特徴点抽出処理に関する条件である特徴抽出条件を調整する特徴抽出条件調整処理を実行可能である。
これによれば、ユーザは、撮影機器条件調整処理部311、撮影対象条件調整処理部312、及び特徴抽出条件調整処理部321の少なくとも1つを操作し、各種条件やパラメータを設定するつまりチューニングを行うことができる。その結果、例えば製造工程途中で表面模様が変化する加工が施されるようなもの、つまり画像の登録時と識別時とで表面模様が変化する場合であっても柔軟に対応でき、高速で精度良く識別することができる。
個体識別システム1は、大域特徴量辞書生成処理部251を備える。大域特徴量辞書生成処理部251は、予め取得した複数の学習用画像から得た各局所特徴量群のそれぞれの代表値を辞書情報に持つ大域特徴量辞書を生成する大域特徴量辞書生成処理を実行可能である。そして、大域特徴量計算処理は、各局所特徴量と相関が高い辞書情報に投票して得たヒストグラムを大域特徴量として計算する処理を含む。また、大域特徴量計算処理は、各局所特徴量と相関が高い辞書情報である代表値との差分ベクトルを総和したベクトルを代表値の数だけ計算しそれらをつなげたベクトルを大域特徴量として計算する処理を含んでいても良い。
すなわち、被写体の種類や状態によっては、どのような箇所を特徴点として抽出されるかが変わってくるため、画像から得られた局所特徴量を単純に分類して大域特徴量を計算しただけでは、大域特徴量の性能が低い、つまり識別能力が低い可能性がある。これに対し、本構成によれば、被写体に適した辞書情報を有する大域特徴量辞書を用いることで、被写体の種類や状態が変わっても、性能の良い大域特徴量を得ることができ、その結果、絞り込み処理の精度を上げることができる。
また、本構成において、大域特徴量辞書生成処理は、局所特徴量群のセントロイドを代表値として辞書情報に設定する処理を含む。局所特徴量群のセントロイドは、その局所特徴量群を代表するものである。このため、局所特徴量群のセントロイドを代表値として辞書情報に設定することで、性能の良い大域特徴量辞書を得ることができる。
個体識別システム1は、画像取得処理部212と、特徴点抽出処理部221と、を備え、特徴点表示処理部331と、を更に備える。特徴点表示処理部331は、例えば図21に示すように、特徴点抽出処理により抽出した特徴点を画像に重ねて表示装置12に表示する特徴点表示処理を実行可能である。
個体識別システム1は、撮影機器条件調整処理部311、撮影対象条件調整処理部312、及び特徴抽出条件調整処理部321のうち少なくともいずれか1つを備えている。撮影機器条件調整処理部311は、ユーザの操作に基づき撮影機器10に関する条件である撮影機器条件を調整する撮影機器条件調整処理を実行可能である。撮影対象条件調整処理部312は、ユーザの操作に基づき撮影対象に関する条件である撮影対象条件を調整する撮影対象条件調整処理を実行可能である。そして、特徴抽出条件調整処理部321は、ユーザの操作に基づき特徴点抽出処理に関する条件である特徴抽出条件を調整する特徴抽出条件調整処理を実行可能である。
例えば個体識別システム1を生産現場で使用する場合、識別の対象となる部品は、製造工程中の経時変化や熱加工等されてその表面模様の色味等が変化するものがある。このような製造工程途中で表面模様の色味等が変化する加工が施される部品においては、その加工の前後、つまり画像の登録時と識別時とで抽出される特徴点の位置や数、及び局所特徴量が大きく変わる可能性があり、その結果、識別精度が低下してしまう。
これに対し、本構成によれば、特徴点抽出処理で抽出した特徴点が画像に重ねられて表示装置12に表示されるため、ユーザは、画像の中のどの箇所が特徴点として抽出されているか見て確認することができる。そして、ユーザは、製造工程を経ても表面模様の色味等が変化難くい箇所について重点的に特徴点を抽出できるように、特徴抽出条件調整処理部321、撮影対象条件調整処理部312、及び特徴抽出条件調整処理部321の少なくとも1つを操作し、抽出される特徴点の位置を確認しながら各種条件やパラメータを設定するつまりチューニングを行うことができる。その結果、製造工程途中で表面模様が変化する加工が施されるようなもの、つまり画像の登録時と識別時とで表面模様が変化する場合であっても、精度良く識別することができる。
個体識別システム1は、局所特徴量計算処理部222と、局所特徴量群分類処理部223と、を備えている。そして、特徴点表示処理は、図21(A)に示すように、局所特徴量が属する局所特徴量群ごとに異なる態様、例えば色や大きさ、形状を異ならせた態様で特徴点を表示装置12に表示する処理を更に含む。
これによれば、ユーザは、画像中のどこにどのような特徴点が存在しているか、一見して把握することができる。これにより、抽出された特徴点の位置を確認しながら各種条件やパラメータを設定する作業が更にやり易くなる。その結果、製造工程途中で表面模様が変化する加工が施されるようなものについて更に精度良く識別することができる。
個体識別システム1は、大域特徴量計算処理部224を備え、大域特徴量計算統計情報表示処理部332を更に備えている。大域特徴量計算統計情報表示処理部332は、図21(B)に示すように、大域特徴量辞書生成処理の実行による大域特徴量の計算過程において局所特徴量群分類処理の過程で得られる大域特徴量計算統計情報Gを表示装置12に表示する大域特徴量計算統計情報表示処理を実行可能である。
これによれば、ユーザは、どのような大域特徴量が得られたかが把握し易くなる。すなわち、域特徴量辞書のどの辞書情報にどのくらい投票がされたかという情報を表示することで、ユーザは、その域特徴量辞書が有する辞書情報の選ばれ方の偏り把握することができる。これにより、表示された大域特徴量計算統計情報Gを見ながら大域特徴量に関する各種条件やパラメータを設定する作業が更にやり易くなる。その結果、製造工程途中で表面模様が変化する加工が施されるようなものについて更に精度良く識別することができる。
個体識別システム1は、大域特徴量辞書生成処理部251を更に備える。大域特徴量辞書生成処理部251は、予め取得した複数の学習用画像から得た各局所特徴量群のそれぞれの代表値を辞書情報に持つ大域特徴量辞書を生成する大域特徴量辞書生成処理を実行可能である。そして、大域特徴量計算統計情報表示処理は、図13に示すように大域特徴量の計算過程において各局所特徴量と相関が高い辞書情報dに投票して得たヒストグラム又は相関値の統計量のスコアを、図21に示すように大域特徴量計算統計情報Gとして表示装置12に表示する処理を含む。
これによれば、ユーザは、大域特徴量を視覚的でかつ直感的に把握し易くなる。これにより、表示された大域特徴量計算統計情報Gを見ながら大域特徴量に関する各種条件やパラメータを設定する作業が更にやり易くなる。その結果、製造工程途中で表面模様が変化する加工が施されるようなものについて更に精度良く識別することができる。
個体識別システム1は、大域特徴量辞書設定処理部322を更に備える。大域特徴量辞書設定処理部322は、大域特徴量計算統計情報ごとにスコアを計算して、そのスコアが高いものを局所特徴量群分類処理で用いる大域特徴量辞書として自動で設定する大域特徴量辞書設定処理を実行可能である。
これによれば、適切な大域特徴量辞書として自動で設定されるため、ユーザは、いちいち条件やパラメータを手動で調整する必要がなくなり、その結果、ユーザ利便性が向上する。
本構成の個体識別システム1を例えば工場等で使用する場合、登録画像の撮影と識別画像の撮影とは異なる場所で行われることが想定される。この場合、工場内で発生する粉塵や工場内の照明、外光等の自然光、周囲のノイズ源等が外乱の要因となって、登録画像の撮影と識別画像の撮影との撮影環境が大きく変わる可能性がある。すると、抽出される特徴点や局所特徴量等が変わり、識別性能が低下するおそれがある。
そこで、本構成の個体識別システム1は、画像取得処理部212と、特徴点抽出処理部221と、局所特徴量計算処理部222と、撮影対象条件調整処理部312と、撮影機器条件調整処理部311と、を備える。これによれば、ユーザは、撮影対象条件調整処理部312と撮影機器条件調整処理部311とを操作して、特徴点の抽出及び局所特徴量の計算に適した撮影対象条件及び撮影機器条件を調整することができる。そのため、環境の変化に応じて適切な条件を設定することにより、外乱の影響を低減させることができ、特徴としたい模様を適切に浮かび上がらせることができる。その結果、識別精度を向上させることができる。
個体識別装置20は、総当たり条件生成処理部313を更に備える。総当たり条件生成処理部313は、予め設定された範囲内の撮影対象条件と予め設定された範囲内の撮影機器条件との組み合わせを総当たりで生成する総当たり条件生成処理を実行可能である。そして、画像取得処理は、総当たり条件生成処理で生成された全ての条件を撮影した画像を自動で取得する処理を含む。
これによれば、撮影対象条件と撮影機器条件とのそれぞれを変えた多数の画像を自動で撮影し取得することができる。そのため、撮影対象条件と撮影機器条件とのそれぞれを変えて最適な条件の組み合わせを探す場合に、ユーザの手作業で条件の組み合わせを生成し、撮影する必要がなくなる。その結果、撮影対象条件及び撮影機器条件の条件を調整する手間を低減することができる。そして、性能の良い条件を簡単に設定することができるため、識別性能の向上も図ることができる。
個体識別装置20は、最適条件提示処理部314を更に備えている。最適条件提示処理部314は、総当たり条件生成処理で生成された全ての条件で撮影した登録画像及び識別画像のうち、同一の被写体を撮影した前記登録画像と前記識別画像との対応点数が多い撮影対象条件と撮影機器条件との組み合わせを最適条件として提示する最適条件提示処理を実行可能である。これによれば、ユーザは、特徴点の数が多い最適な条件を簡単に取得し設定することができるため、撮影対象条件及び撮影機器条件の条件を調整する手間を更に低減することができる。そして、撮影対象条件と撮影機器条件との最適な組み合わせを簡単に設定することができるため、識別性能の向上も図ることができる。
最適条件提示処理は、特徴点抽出処理に関する条件である特徴抽出条件を予め複数準備し、総当たり条件生成処理で生成された全ての条件で同一の被写体を撮影した登録画像及び識別画像について予め準備した複数の特徴抽出条件で特徴点抽出処理を実行して得られた特徴点を用いて照合した際の対応点数が最も多くなる条件の組み合わせ提示する処理を含む。これによれば、ユーザは、撮影対象条件及び撮影機器条件の条件に加え、特徴点抽出処理に関する特徴抽出条件との組み合わせのうち最適な条件を簡単に取得することができる。これにより、撮影対象条件と撮影機器条件と特徴抽出条件とを調整する手間を更に低減することができる。そして、撮影対象条件と撮影機器条件と特徴抽出条件との最適な組み合わせを簡単に設定することができるため、識別性能の更なる向上を図ることができる。
例えば工業製品の部品においては、人の顔や指紋と異なり、照合識別しようとする対象の種類や材質、加工方法によってその表面に表れる模様の特徴も様々である。このため、識別しようとする対象の種類によって、照合識別に用いるアルゴリズムのパラメータを適切なものに調整する必要がある。しかし、パラメータの項目は多数あり、その全ての組み合わせの中からユーザが手動で最適な組み合わせを探すことは大変な手間と時間がかかる。
そこで、個体識別システム1は、特徴点抽出処理部221、及び局所特徴量計算処理部222を備える。また、個体識別システム1は、照合処理部262、パラメータセット生成処理部324、及びパラメータセット設定処理部325を更に備える。照合処理部262は、登録画像と識別画像とにおける局所特徴量を比較し特徴点の対応点数を取得して登録画像と識別画像とを照合する照合処理を実行可能である。パラメータセット生成処理部324は、照合処理の条件を設定するためのパラメータについて、各パラメータに定められた設定範囲内の設定値に設定された各パラメータを組み合わせて複数のパラメータセットを生成するパラメータセット生成処理を実行可能である。パラメータセット設定処理部325は、ユーザの操作に基づいてパラメータセットを設定するパラメータセット設定処理を実行可能である。
照合処理は、パラメータセット生成処理で生成された各パラメータセットを用いて照合処理を実行する処理を含む。そして、個体識別システム1は、照合結果表示処理部333を更に備える。照合結果表示処理部333は、各パラメータセットを用いて照合処理を実行した場合の照合結果をまとめて表示装置12に表示する照合結果表示処理を実行可能である。
これによれば、パラメータの組み合わせであるパラメータセットが自動で生成され、その各パラメータセットを用いて照合処理が行われる。そのため、ユーザは、パラメータの組み合わせをいちいち手作業で作成し照合を行う必要がなくなる。そして、その照合結果は、表示装置12にまとめて表示される。そのため、ユーザは、表示装置12に表示される結果を見ることで、各パラメータセットの性能を確認することができる。そして、ユーザは、表示装置12に表示された結果を見て適切なパラメータセットを選択すれば良い。これにより、照合識別しようとする対象の種類にかかわらず、照合識別に用いるアルゴリズムのパラメータを簡単に手間なく精度良く調整することができる。
照合結果表示処理は、図22に示すように、各パラメータセットを用いて照合処理を実行した照合結果をグラフ化して表示する処理を含む。複数のパラメータセットのうち性能が良いものを視覚的でかつ直感的に把握し易くなる。これにより、精度の良いパラメータの調整作業を簡単に行うことができる。
個体識別システム1は、評価用画像登録処理部232を更に備える。評価用画像登録処理部232は、それぞれ異なる被写体を撮影した複数の登録画像を含む登録画像群と、登録画像群の中のうちの1つと同一の被写体でかつ異なる条件で撮影した識別画像と、を照合処理の評価用の画像として相互に紐付けした状態で評価用画像登録部242に登録する評価用画像登録処理を実行可能である。
これによれば、ユーザは、パラメータセットの評価を行う際に、いちいち画像を撮影する必要がなくなる。その結果、パラメータセットの評価を簡単に行うことができるようになる。また、これによれば、同一の被写体を撮影した登録画像及び識別画像は相互に紐付けした状態で登録されている。このため、登録画像及び識別画像を用いて照合処理を実行する際には、登録画像と識別画像の対応関係つまり同一の被写体を撮影したものか異なる被写体を撮影したものかが事前に明らかとなっている。これにより、対応関係が明らかな画像を用いることで、その照合処理において得たい結果を明らかにすることができ、ユーザは、照合処理に用いたパラメータセットを評価し易くなる。
つまり、同一の被写体が撮影された登録画像及び識別画像を用いて照合処理を実行した場合に対応点数が多く、かつ、異なる被写体が撮影された登録画像及び識別画像を用いて照合処理を実行した場合に対応点数が少なければ、ユーザは、その照合処理に用いたパラメータセットの性能が高いと評価することができる。逆に、同一の被写体が撮影された登録画像及び識別画像を用いて照合処理を実行した場合に対応点数が少なく、又は、異なる被写体が撮影された登録画像及び識別画像を用いて照合処理を実行した場合に対応点数が少なければ、ユーザは、その照合処理に用いたパラメータセットの性能が低いと評価することができる。
照合処理は、登録画像群に含まれる1つ以上の登録画像と識別画像とを照合する処理を含む。そして、照合結果表示処理は、図23に示すように、照合処理で計算した対応点数に基づく対応点数評価情報を表示装置12に表示する処理を含む。これによれば、ユーザは表示装置12に表示される対応点数評価情報を見ることで、そのパラメータセットの性能を簡単に評価でき、これにより照合識別しようとする対象の種類に応じて適切なパラメータセットを選択することができる。その結果、どのような種類の対象であっても高い照合識別性能を発揮することができる。
個体識別装置20は、特徴抽出条件調整処理部321を更に備える。特徴抽出条件調整処理部321は、特徴抽出条件調整処理を実行可能である。特徴抽出条件調整処理は、登録画像群のうち識別画像の被写体と同一の被写体を撮影した登録画像と識別画像との対応点数である正対応点数と、登録画像群のうち識別画像の被写体と異なる被写体を撮影した登録画像と識別画像との対応点数である負対応点数と、を計算する処理を含む。そして、特徴抽出条件調整処理は、局所特徴量計算処理による特徴抽出条件について正対応点数と負対応点数との比が最も大きくなるように調整する処理を含む。
この場合、特徴抽出条件調整処理部321は、正対応点数と負対応点数との比が最も大きくなるように、正対応点数が多くかつ負対応点数が少ない特徴抽出条件を探す。正対応点数が多いということは、同一の被写体を撮影した画像間の対応点数が多いことを意味する。これは、同一の被写体を写した画像間の照合処理において、画像に含まれる被写体が同一のものである可能性が高いと識別していること、すなわち、同一の被写体を写した画像間における識別性能が高いことを意味する。また、負対応点数が少ないということは、異なる被写体を撮影した画像間の対応点数が少ないことを意味する。これは、異なる被写体を写した画像間の照合処理において、画像に含まれる被写体が異なるものである可能性高いと識別していること、すなわち、異なる被写体を写した画像間における識別性能が高いことを意味する。
このように、特徴抽出条件調整処理部321は、同一の被写体を写した画像間及び異なる被写体を写した画像間の照合識別性能が高くなるように特徴抽出条件を自動で調整し、これにより、高い照合識別性能を得つつ調整にかかるユーザの手間を省くことができる。
個体識別システム1は、局所特徴量群分類処理部223と、大域特徴量計算処理部224と、を備える。そして、個体識別システム1は、大域特徴量相関係数計算処理部323を更に備える。大域特徴量相関係数計算処理部323は、各登録画像の大域特徴量と識別画像の大域特徴量とを比較しその相関関係を示す大域特徴量相関係数を計算する大域特徴量相関係数計算処理を実行可能である。そして、照合結果表示処理は、大域特徴量相関係数に基づく情報を表示装置12に表示する処理を含む。
大域特徴量相関係数は、登録画像と識別画像とにおける大域特徴量の一致度つまり性能を示す1つの指標となる。表示装置12に大域特徴量相関係数に基づく情報を表示することで、ユーザは、大域特徴量の性能を容易に把握することができる。そのため、ユーザは、表示装置12に大域特徴量相関係数に基づく情報を1つの目安として各種条件やパラメータの調整作業を行うことができるため、より作業がし易くなる。
個体識別システム1は、大域特徴量辞書登録部245と、大域特徴量辞書設定処理部322と、を更に備えている。大域特徴量辞書設定処理部322は、大域特徴量辞書設定処理を実行可能である。大域特徴量辞書設定処理は、大域特徴量辞書登録部245に登録されている複数の大域特徴量辞書のうち、大域特徴量相関係数に基づき同一の被写体を撮影した登録画像と識別画像とを同一と判断し、異なる被写体を撮影した登録画像と識別画像とを同一でないと判断できる大域特徴量辞書を選択して、局所特徴量群分類処理に用いる大域特徴量辞書に設定する処理を含む。
大域特徴量相関係数は、上述したように、登録画像と識別画像とにおける大域特徴量の相関の一致度を示す1つの指標となる。2つの画像間における大域特徴量の相関が大きいほど、両者の画像に同一の被写体が含まれている可能性が高いことを意味する。そのため、同一の被写体を撮影した画像間における大域特徴量の相関が大きいということは、その同一の被写体を撮影した2つの画像について計算された大域特徴量の一致度が高いことを意味する。すなわちこれは、同一の被写体を撮影した画像間においてその大域特徴量辞書の性能が高いことを意味する。
一方、2つの画像間における大域特徴量の相関が小さいほど、両者の画像に含まれる被写体が異なる可能性が高いことを意味する。そのため、異なる被写体を撮影した画像間における大域特徴量の相関が小さいということは、その異なる被写体を撮影した画像についてその大域特徴量辞書を使って計算した大域特徴量の一致度が低いことを意味する。すなわちこれは、異なる被写体を撮影した画像間においてその大域特徴量辞書の性能が高いことを意味する。
本構成によれば、大域特徴量辞書設定処理によって、同一の被写体を写した画像間での性能が高く、かつ異なる被写体を写した画像間での性能も高い大域特徴量辞書を自動で設定することができる。したがって、ユーザの調整の手間が省かれるとともに、高い照合識別性能を得ることができる。
大域特徴量辞書設定処理は、2つの大域特徴量がベクトルであるとき、それぞれ絶対値を1に正規化し内積をとった値であって当該内積の値が1に近いものについて同一性が高いと判断し、当該内積の値が-1に近いものについて同一性が低いと判断する処理を含んでいても良い。また、大域特徴量相関係数は、2つの大域特徴量のベクトル間の距離の値とすることができる。この場合、大域特徴量辞書設定処理は、2つの大域特徴量のベクトル間の距離の値が0に近ければ同一性が高いと判断し、大きい場合は同一性が低いと判断する処理を含む。これらの構成によれば、大域特徴量辞書の性能を定量的に評価することができる。
個体識別システム1は、画像取得処理部212と特徴点抽出処理部221と特定処理部2612とを有する個体識別装置20を備える。そして、個体識別システム1は、個体識別装置20の他に、可視化装置33、撮影条件調整装置31、及び照合識別条件調整装置32、のうち少なくとも2つの装置を備える。
可視化装置33は、特徴点表示処理部331を有する。特徴点表示処理部331は、特徴点抽出処理により抽出した特徴点を前記画像に重ねて表示装置12に表示する特徴点表示処理を実行可能である。
撮影条件調整装置31は、予め登録された複数の登録画像のうち同一の被写体を撮影した登録画像と識別画像とにおける局所特徴量を比較し特徴点の対応点数を取得して登録画像と識別画像とを照合する照合処理を個体識別装置20に実行させるとともに、撮影対象条件調整処理部312と撮影条件調整装置31とを有する。撮影対象条件調整処理部312は、撮影対象に関する条件である撮影対象条件を調整する撮影対象条件調整処理を実行可能である。撮影機器条件調整処理部311は、撮影機器10に関する条件である撮影機器条件を調整する撮影機器条件調整処理を実行可能である。
照合識別条件調整装置32は、パラメータセット生成処理部324と、パラメータセット設定処理部325と、を有する。パラメータセット生成処理部324は、照合処理の条件を設定するためのパラメータについて、各パラメータに定められた範囲内の設定値に設定された各パラメータを組み合わせて複数のパラメータセットを生成するパラメータセット生成処理を実行可能である。パラメータセット設定処理部325は、ユーザの操作に基づいてパラメータセットを設定するパラメータセット設定処理を実行可能である。そして、照合識別条件調整装置32は、照合処理部262に、パラメータセット生成処理で生成された各パラメータセットを用いて照合処理を実行する処理を実行させる。そして、照合識別条件調整装置32は、パラメータセットを用いて照合処理の照合結果をまとめて表示装置12に表示する照合結果表示処理を実行可能な照合結果表示処理部333を更に有している。
個体識別システム1が可視化装置33を備えることで、特徴点抽出処理で抽出した特徴点が画像に重ねられて表示装置12に表示されるため、ユーザは、画像の中のどの箇所が特徴点として抽出されているか見て確認することができる。そして、ユーザは、製造工程でも表面模様が変化難くい箇所について重点的に特徴点を抽出できるように、抽出される特徴点の位置を確認しながら各種条件やパラメータを設定するつまりチューニングを行うことができる。その結果、製造工程途中で表面模様が変化する加工が施されるようなもの、つまり画像の登録時と識別時とで表面模様が変化する場合であっても、精度良く識別することができるといった優れた効果が得られる。
個体識別システム1が撮影条件調整装置31を備えることで、ユーザは、撮影対象条件調整処理部312と撮影機器条件調整処理部311とを操作して、特徴点の抽出及び局所特徴量の計算に適した撮影対象条件及び撮影機器条件を調整することができる。そのため、環境の変化に応じた適切な条件を設定することにより、外乱の影響を低減させることができ、特徴とした模様を適切に浮かび上がらせることができる。その結果、識別精度を向上させることができるといった優れた効果が得られる。
個体識別システム1が照合識別条件調整装置32を備えることで、ユーザは、パラメータの組み合わせをいちいち手作業で作成し照合を行う必要がなくなる。そして、その照合結果は、表示装置12にまとめて表示される。そのため、ユーザは、表示装置12に表示される結果を見ることで、各パラメータセットの性能を確認することができる。そして、ユーザは、表示装置12に表示された結果を見て適切なパラメータセットを選択すれば良い。これにより、照合識別しようとする対象の種類にかかわらず、照合識別に用いるアルゴリズムのパラメータを簡単に手間なく精度良く調整することができるといった優れた効果が得られる。
そして、個体識別システム1は、可視化装置33と撮影条件調整装置31と照合識別条件調整装置32とのうち少なくとも2つの装置を同時に備えることにより、上述した各装置の優れた効果を同時に2つ以上得ることができる。これにより、識別対象の表面模様の変化に対応できたり、外乱の影響を受け難くできたり、条件やパラメータの調整にかかるユーザ手間を低減して精度の条件やパラメータの精度を高めることができ、その結果、照合識別の性能を高めることができる。
個体識別システム1は、可視化装置33と撮影条件調整装置31と照合識別条件調整装置32とを備えている。これによれば、可視化装置33と撮影条件調整装置31と照合識別条件調整装置32とを全て同時に備えることにより、上述した各装置の優れた効果を全て同時に得ることができる。すなわち、この個体識別システム1によれば、識別対象の表面形状の変化に対応でき、外乱の影響を受けにくい調整を行うことができ、更には条件やパラメータの調整にかかるユーザ手間を低減することができる。
検索処理部261は、絞り込み処理を実行可能な絞り込み処理部2611を更に有している。絞り込み処理は、検索対象画像登録部241に登録されている複数の登録画像の中から識別画像が有する大域特徴量との相関が高い大域特徴量を有する所定数の登録画像を特定処理における候補として絞り込む処理を含む。
これによれば、検索処理は、大域特徴量で絞り込む絞り込み処理と、局所特徴量で特定する特定処理と、の2段階の処理を実行することにより、高速での検索を実現することができる。その結果、本構成の個体識別システム1によれば、その結果、照合識別性能が高くかつ高速での検索を実現することができる。
本開示は、実施例に準拠して記述されたが、本開示は当該実施例や構造に限定されるものではないと理解される。本開示は、様々な変形例や均等範囲内の変形をも包含する。加えて、様々な組み合わせや形態、さらには、それらに一要素のみ、それ以上、あるいはそれ以下、を含む他の組み合わせや形態をも、本開示の範疇や思想範囲に入るものである。
本開示に記載の制御部及びその手法は、コンピュータプログラムにより具体化された一つ乃至は複数の機能を実行するようにプログラムされたプロセッサ及びメモリーを構成することによって提供された専用コンピュータにより、実現されてもよい。あるいは、本開示に記載の制御部及びその手法は、一つ以上の専用ハードウェア論理回路によってプロセッサを構成することによって提供された専用コンピュータにより、実現されてもよい。もしくは、本開示に記載の制御部及びその手法は、一つ乃至は複数の機能を実行するようにプログラムされたプロセッサ及びメモリーと一つ以上のハードウェア論理回路によって構成されたプロセッサとの組み合わせにより構成された一つ以上の専用コンピュータにより、実現されてもよい。また、コンピュータプログラムは、コンピュータにより実行されるインストラクションとして、コンピュータ読み取り可能な非遷移有形記録媒体に記憶されていてもよい。
1…個体識別システム、10、10a、10b…撮影機器、12…表示装置、20…個体識別装置、30…調整装置、31…撮影条件調整装置、32…照合識別条件調整装置、33…可視化装置、212…画像取得処理部、221…特徴点抽出処理部、222…局所特徴量計算処理部、241…検索対象画像登録部、261…検索処理部、262…照合処理部、311…撮影機器条件調整処理部、312…撮影対象条件調整処理部、324…パラメータセット生成処理部、325…パラメータセット設定処理部、331…特徴点表示処理部、333…照合結果表示処理部、2611…絞り込み処理部、2612…特定処理部

Claims (2)

  1. 撮影機器によって撮影した被写体の画像を識別画像として取得する画像取得処理を実行可能な画像取得処理部(212)と、
    前記画像取得処理で取得した前記識別画像に含まれる特徴点を抽出する特徴点抽出処理を実行可能な特徴点抽出処理部(221)と、
    前記特徴点抽出処理で抽出された前記特徴点の局所特徴量を計算する局所特徴量計算処を実行可能な局所特徴量計算処理部(222)と、
    予め登録された複数の登録画像に係る前記局所特徴量と前記識別画像の前記局所特徴量とを比較し、複数の前記登録画像の中から前記識別画像の前記局所特徴量に最も相関が高い前記局所特徴量を有している登録画像を特定する特定処理を実行可能な特定処理部(2612)と、を有する個体識別装置を備える個体識別システム(1)であって、
    前記個体識別装置の他に、
    前記特徴点抽出処理により抽出した前記特徴点を前記画像に重ねて表示装置に表示する特徴点表示処理を実行可能な特徴点表示処理部(331)を有する、
    可視化装置(33)、
    及び、
    予め登録された複数の登録画像のうち同一の被写体を撮影した前記登録画像と前記識別画像とにおける前記局所特徴量を比較し前記特徴点の対応点数を取得して前記登録画像と前記識別画像とを照合する照合処理を前記個体識別装置に実行させるとともに、
    撮影対象に関する条件である撮影対象条件を調整する撮影対象条件調整処理を実行可能な撮影対象条件調整処理部(312)と、
    前記撮影機器に関する条件である撮影機器条件を調整する撮影機器条件調整処理を実行可能な撮影機器条件調整処理部(311)と、
    を有する撮影条件調整装置(31)、
    及び、
    前記照合処理の条件を設定するためのパラメータについて、各前記パラメータに定められた設定範囲内の設定値に設定された各前記パラメータを組み合わせて複数のパラメータセットを生成するパラメータセット生成処理を実行可能なパラメータセット生成処理部(324)と、
    ユーザの操作に基づいて前記パラメータセットを設定するパラメータセット設定処理を実行可能なパラメータセット設定処理部(325)と、を有し、
    前記個体識別装置に、前記パラメータセット生成処理で生成された各前記パラメータセットを用いて前記照合処理を実行する処理を実行させるとともに、
    各前記パラメータセットを用いて前記照合処理の照合結果をまとめて表示装置(12)に表示する照合結果表示処理を実行可能な照合結果表示処理部(333)を更に有している、
    照合識別条件調整装置(32)、
    を備えている個体識別システム(1)。
  2. 前記個体識別装置は、
    数の前記登録画像の中から前記識別画像が有する大域特徴量との相関が高い大域特徴量を有する所定数の前記登録画像を前記特定処理における候補として絞り込む絞り込み処理を実行可能な絞り込み処理部(2611)を更に有している、
    請求項に記載の個体識別システム。
JP2020080323A 2020-04-30 2020-04-30 個体識別システム Active JP7377163B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020080323A JP7377163B2 (ja) 2020-04-30 2020-04-30 個体識別システム
PCT/JP2021/015595 WO2021220828A1 (ja) 2020-04-30 2021-04-15 個体識別システム
TW110115492A TW202211158A (zh) 2020-04-30 2021-04-29 個體識別系統

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020080323A JP7377163B2 (ja) 2020-04-30 2020-04-30 個体識別システム

Publications (2)

Publication Number Publication Date
JP2021174442A JP2021174442A (ja) 2021-11-01
JP7377163B2 true JP7377163B2 (ja) 2023-11-09

Family

ID=78279741

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020080323A Active JP7377163B2 (ja) 2020-04-30 2020-04-30 個体識別システム

Country Status (3)

Country Link
JP (1) JP7377163B2 (ja)
TW (1) TW202211158A (ja)
WO (1) WO2021220828A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024154339A1 (ja) * 2023-01-20 2024-07-25 日本電気株式会社 識別システム、識別方法、及びプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004341992A (ja) 2003-05-19 2004-12-02 Matsushita Electric Ind Co Ltd 画像撮影装置及び画像照合装置
WO2018179092A1 (ja) 2017-03-28 2018-10-04 日本電気株式会社 個体識別装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004341992A (ja) 2003-05-19 2004-12-02 Matsushita Electric Ind Co Ltd 画像撮影装置及び画像照合装置
WO2018179092A1 (ja) 2017-03-28 2018-10-04 日本電気株式会社 個体識別装置

Also Published As

Publication number Publication date
WO2021220828A1 (ja) 2021-11-04
JP2021174442A (ja) 2021-11-01
TW202211158A (zh) 2022-03-16

Similar Documents

Publication Publication Date Title
US10891508B2 (en) Image processing apparatus, method, and non-transitory computer-readable storage medium
US20110158535A1 (en) Image processing apparatus and image processing method
US20150012226A1 (en) Material classification using brdf slices
US20230049798A1 (en) Individual object identification system, individual object identification program, and recording medium
US11501517B2 (en) Individual identifying device
US20200410270A1 (en) Method, device, system and computer-program product for setting lighting condition and storage medium
US9633284B2 (en) Image processing apparatus and image processing method of identifying object in image
JP2015187759A (ja) 画像検索装置、画像検索方法
US10891740B2 (en) Moving object tracking apparatus, moving object tracking method, and computer program product
KR20210020065A (ko) 비전 시스템을 갖는 이미지에서 패턴을 찾고 분류하기 위한 시스템 및 방법
JP2011210126A (ja) パターン認識装置及びパターン認識方法
JP7377163B2 (ja) 個体識別システム
JP7377161B2 (ja) 個体識別システム
JP7377162B2 (ja) 個体識別システム
JP7377160B2 (ja) 個体識別システム
JP5791361B2 (ja) パターン識別装置、パターン識別方法およびプログラム
CN109063708A (zh) 基于轮廓提取的工业图像特征识别方法及系统
WO2015136716A1 (ja) 画像処理装置、画像センサ、画像処理方法
Lakshmi et al. Sketch-Based Face Recognition Using Deep Neural Network for Criminal Investigation
WO2022185481A1 (ja) 検査装置、検査方法、及び、記録媒体
US20230064329A1 (en) Identification model generation apparatus, identification apparatus, identification model generation method, identification method, and storage medium
JP2014142213A (ja) 撮影パラメータ決定装置及びその制御方法
JP2019046184A (ja) 画像処理装置、訓練画像処理装置、画像識別装置、訓練画像処理方法、画像識別方法、及びプログラム
Zeng et al. Face alignment refinement
KR20100091516A (ko) 인물 식별 방법 및 그 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220304

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230523

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230713

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231003

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231027

R150 Certificate of patent or registration of utility model

Ref document number: 7377163

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150