JPWO2020021879A1 - 画像処理装置、および画像処理方法、並びにプログラム - Google Patents
画像処理装置、および画像処理方法、並びにプログラム Download PDFInfo
- Publication number
- JPWO2020021879A1 JPWO2020021879A1 JP2020532201A JP2020532201A JPWO2020021879A1 JP WO2020021879 A1 JPWO2020021879 A1 JP WO2020021879A1 JP 2020532201 A JP2020532201 A JP 2020532201A JP 2020532201 A JP2020532201 A JP 2020532201A JP WO2020021879 A1 JPWO2020021879 A1 JP WO2020021879A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- movement vector
- microlens
- vector calculation
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
- 238000003672 processing method Methods 0.000 title claims description 18
- 230000033001 locomotion Effects 0.000 claims abstract description 412
- 239000013598 vector Substances 0.000 claims abstract description 404
- 238000000034 method Methods 0.000 claims abstract description 253
- 238000004364 calculation method Methods 0.000 claims abstract description 231
- 238000003384 imaging method Methods 0.000 claims abstract description 78
- 239000002131 composite material Substances 0.000 claims description 23
- 239000000203 mixture Substances 0.000 claims description 21
- 230000002093 peripheral effect Effects 0.000 claims description 9
- 230000002194 synthesizing effect Effects 0.000 claims description 9
- 230000003287 optical effect Effects 0.000 description 43
- 238000007906 compression Methods 0.000 description 26
- 230000006835 compression Effects 0.000 description 22
- 238000001514 detection method Methods 0.000 description 22
- 238000010586 diagram Methods 0.000 description 19
- 238000004891 communication Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 6
- 230000010365 information processing Effects 0.000 description 3
- 238000002156 mixing Methods 0.000 description 3
- 230000005057 finger movement Effects 0.000 description 2
- 210000003462 vein Anatomy 0.000 description 2
- 230000002730 additional effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/12—Fingerprints or palmprints
- G06V40/1335—Combining adjacent partial images (e.g. slices) to create a composite input or reference pattern; Tracking a sweeping finger movement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/12—Fingerprints or palmprints
- G06V40/13—Sensors therefor
- G06V40/1318—Sensors therefor using electro-optical elements or layers, e.g. electroluminescent sensing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/12—Fingerprints or palmprints
- G06V40/1347—Preprocessing; Feature extraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/12—Fingerprints or palmprints
- G06V40/1365—Matching; Classification
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Collating Specific Patterns (AREA)
Abstract
Description
例えばスマホ(スマートホン)等のような薄型の機器にも装着可能であり、今後、多くの利用がなされると推定される。なお、マイクロレンズアレイ(MLA)を用いた撮像装置については例えば特許文献1(特開2010−240215号公報)に記載がある。
指紋認証処理のシーケンスは例えば以下の処理となる。まず、ユーザの指の動画像を撮影する。次に、動画像を構成する複数の連続撮影画像の位置合わせを行い、位置合わせ後の画像を合成して高画質画像を生成する。最後に生成した高画質画像と予めメモリに登録済みの指紋登録データとの照合処理を行う。
従って、1つの全体画像を生成するためには、アレイを構成するマイクロレンズ各々に対応する多数のマイクロレンズ撮影画像の各々について上下、左右反転処理を行い、かつ、各画像のオーバーラップ領域を検出して、オーバーラップ画像を削除する画像切り出しを行い、切り出し後の画像を結合するといった多数の処理が必要となる。
マイクロレンズアレイを有する撮像部の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出部を有し、
前記移動ベクトル算出部は、
前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影したマイクロレンズ撮影画像を利用して特徴点対応の移動ベクトルを算出する画像処理装置にある。
マイクロレンズアレイを有する撮像部によって撮影された指の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出部と、
前記移動ベクトル算出部の算出した移動ベクトルを用いて、前記連続撮影画像の合成処理により高画質画像を生成する画像合成部と、
前記画像合成部の生成した合成画像と、予め記憶部に格納された登録指紋画像との照合処理を実行する画像照合部を有する指紋認証処理を実行する画像処理装置にある。
画像処理装置において実行する画像処理方法であり、
移動ベクトル算出部が、
マイクロレンズアレイを有する撮像部の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出ステップを実行し、
前記移動ベクトル算出ステップは、
前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影したマイクロレンズ撮影画像を利用して特徴点対応の移動ベクトルを算出するステップである画像処理方法にある。
画像処理装置において指紋認証処理を実行する画像処理方法であり、
移動ベクトル算出部が、
マイクロレンズアレイを有する撮像部によって撮影された指の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出ステップと、
画像合成部が、
前記移動ベクトル算出部の算出した移動ベクトルを用いて、前記連続撮影画像の合成処理により高画質画像を生成する画像合成ステップと、
画像照合部が、
前記画像合成部の生成した合成画像と、予め記憶部に格納された登録指紋画像との照合処理を実行する画像照合ステップを実行する画像処理方法にある。
画像処理装置において画像処理を実行させるプログラムであり、
移動ベクトル算出部に、
マイクロレンズアレイを有する撮像部の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出ステップを実行させ、
前記移動ベクトル算出ステップにおいて、
前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影したマイクロレンズ撮影画像を利用して特徴点対応の移動ベクトルを算出する処理を実行させるプログラムにある。
画像処理装置において指紋認証処理を実行させるプログラムであり、
移動ベクトル算出部に、
マイクロレンズアレイを有する撮像部によって撮影された指の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出ステップを実行させ、
画像合成部に、
前記移動ベクトル算出部の算出した移動ベクトルを用いて、前記連続撮影画像の合成処理により高画質画像を生成させる画像合成ステップを実行させ、
画像照合部に、
前記画像合成部の生成した合成画像と、予め記憶部に格納された登録指紋画像との照合処理を実行する画像照合ステップを実行させるプログラムにある。
具体的には、例えばマイクロレンズアレイを有する撮像部によって撮影された連続撮影画像を入力して画像間の移動ベクトルを算出する。移動ベクトル算出部はマイクロレンズ各々が撮影したマイクロレンズ撮影画像を利用して特徴点対応の移動ベクトルを算出する。複数のマイクロレンズ撮影画像内に同じ画像領域を持つ重複画像領域内の特徴点に対応する移動ベクトルを算出する際、同一特徴点対応の複数の移動ベクトルの平均値を算出して、特徴点の移動ベクトルとする。または、外れ値(異常値)を排除した残りの複数移動ベクトルの平均値を算出して、特徴点の移動ベクトルとする。
これらの処理により、マイクロレンズアレイを用いた撮影画像からの移動ベクトル算出処理を、全体画像を生成することなく行う装置、方法が実現される。
なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
1.マイクロレンズアレイ型撮像装置について
2.マイクロレンズアレイ型撮像装置を用いた指紋認証処理とその問題点について
3.本開示の画像処理装置における移動ベクトル算出処理について
4.本開示の画像処理装置を適用した指紋認証処理について
5.本開示の画像処理装置の構成例と処理シーケンスについて
6.本開示の移動ベクトル算出処理を利用した具体的な装置例について
7.画像処理装置のハードウェア構成例について
8.本開示の構成のまとめ
まず、図1以下を参照してマイクロレンズアレイ型撮像装置について説明する。
マイクロレンズアレイ(MLA:Micro Lens Array)型撮像装置は、複数のマイクロレンズを配列した撮像装置である。
イメージセンサ(撮像素子)12には、マイクロレンズアレイ(MLA)10を構成するマイクロレンズ11各々の撮影画像が個別に生成される。
次に、図2以下を参照してマイクロレンズアレイ型撮像装置を用いた指紋認証処理とその問題点について説明する。
指紋認証処理のシーケンスは、例えば図2に示すステップS11〜S14の処理となる。
まず、ステップS11において、ユーザの指の動画像を撮影する。
図2には、時間(t1)で撮影したマイクロレンズアレイ(MLA)撮影画像@t1,21と、時間(t2)で撮影したマイクロレンズアレイ(MLA)撮影画像@t2,22を示している。なお、ここでは2枚の連続撮影画像を用いた処理例について説明するが、さらに3枚以上の連続撮影画像を撮影して利用してもよい。
先に説明したように、マイクロレンズアレイ(MLA)型の撮像装置では、撮像素子に撮影される画像はアレイを構成する各マイクロレンズ対応の多数の画像となる。
マイクロレンズアレイ(MLA)撮影画像21,22に含まれる個々のマイクロレンズ撮影画像23は、すべて上下左右が反転した画像であり、さらに多くの場合、1つのマイクロレンズ撮影画像と、隣接するマイクロレンズ撮影画像には重複して撮影されたオーバーラップ画像領域がある。
この処理を連続撮影画像であるマイクロレンズアレイ(MLA)撮影画像21,22の各々について実行することが必要となる。
これは、合成全体画像@t1,31と、合成全体画像@t2,32から共通被写体であると推定される特徴点を見出し、2つの画像間の移動量と移動方向を算出する処理である。
この処理の結果として指の鮮明な指紋情報等を持つ高画質画像35が生成される。
図には示していないが、最後にこの高画質画像35と予めメモリに登録してある指紋データとの照合処理を行う。
前述したように、1つの全体画像を生成するためには、マイクロレンズアレイ(MLAを構成するマイクロレンズ各々に対応するマイクロレンズ撮影画像の各々について上下、左右反転処理を行うことが必要である。
図3(1)は、図1(b)を参照して説明したと同様のマイクロレンズアレイ型撮像装置の(b)断面図を示している。マイクロレンズアレイ(MLA)を構成するマイクロレンズの入射光の一部は隣接するマイクロレンズの入射光と重複した領域を含む。この結果、1つのマイクロレンズ撮影画像と、隣接するマイクロレンズ撮影画像には重複して撮影されたオーバーラップ画像領域が発生する。
図4に示す1つのマイクロレンズ撮影画像45に発生するオーバーラップ画像領域について説明する。
図4に示す1つのマイクロレンズ撮影画像45には、上下左右の辺領域の画像が、それぞれ他のマイクロレンズ撮影画像にも含まれるオーバーラップ画像領域となる。
マイクロレンズ撮影画像45の下端領域画像(D画像)は、図に示すマイクロレンズ撮影画像45の上方向に隣接する他のマイクロレンズ撮影画像の上端領域画像と同一のオーバーラップ画像となる。
マイクロレンズ撮影画像45の左端領域画像(L画像)は、図に示すマイクロレンズ撮影画像45の右方向に隣接する他のマイクロレンズ撮影画像の右端領域画像と同一のオーバーラップ画像となる。
マイクロレンズ撮影画像45の右端領域画像(R画像)は、図に示すマイクロレンズ撮影画像45の左方向に隣接する他のマイクロレンズ撮影画像の左端領域画像と同一のオーバーラップ画像となる。
次に、本開示の画像処理装置における移動ベクトル算出処理について説明する。
先に図2を参照して説明したように、移動ベクトル(オプティカルフロー)検出処理は、例えば2つの異なるタイミングで撮影された2つの画像間の対応点(特徴点)の移動態様を検出して同一被写体位置(対応画素位置)を検出するために実行される。複数画像の対応画素位置を算出した後、複数画像の合成処理により1枚の高画質画像が生成される。
図5は、マイクロレンズを用いた撮像装置ではなく、一般的な単一レンズのカメラの撮影画像を用いた移動ベクトル(オプティカルフロー)算出処理例を示す図である。
図5には2枚の連続撮影画像フレームf1,f2を示している。
画像フレームf1は時間t1の撮影画像であり、画像フレームf2はその直後の時間t2の撮影画像である。
移動ベクトルは、フレームf2に示すように、フレームf1の特徴点位置を起点とし、フレームf2の同一特徴点位置を終点としたベクトルである。すなわち、移動ベクトル(オプティカルフロー)は、フレームf1撮影時から、フレームf2撮影時までの特徴点の移動方向と移動量を示すベクトルである。
しかし、マイクロレンズを用いた撮像装置では、先に図2〜図4を讃しようして説明したように移動ベクトル算出に利用するための全体画像を生成する処理の処理負荷が大きくなり、結果として、連続撮影画像間の移動ベクトル算出処理の処理負荷も大きくなるという問題がある。
本開示の処理では、マイクロレンズを用いた撮像装置の撮影画像から1枚の全体画像を生成することなく、マイクロレンズを用いた撮像装置の撮影画像そのもの、すなわち多数のマイクロレンズ撮影画像を用いて移動ベクトル算出処理を実行する。
図6には、マイクロレンズアレイ(MLA)撮像装置による以下の2枚の連続撮影画像フレームの一部を示している。
(1)マイクロレンズアレイ(MLA)撮影画像@t1(フレームf1)
(2)マイクロレンズアレイ(MLA)撮影画像@t2(フレームf2)
なお、図には各フレーム画像の一部、すなわち、3×3=9のマイクロレンズ撮影画像を示している。(1),(2)とも同一位置の9個のマイクロレンズによって撮影された画像である。
なお、マイクロレンズ撮影画像101の中央領域画像(C画像)は、オーバーラップ画像領域ではない。すなわち、この中央領域画像(C画像)は、他の周囲のマイクロレンズ撮影画像には含まれない単一画像領域である。
すなわち、レンズの位置と画像の反転態様を考慮した探索範囲を設定して特徴点探索を行う。
この結果、図6(2)のフレームf2のマイクロレンズ撮影画像101の中央領域(C画像)に示す移動ベクトル103が算出される。
図7にも図6と同様、マイクロレンズアレイ(MLA)撮像装置による以下の2枚の連続撮影画像フレームの一部を示している。
(1)マイクロレンズアレイ(MLA)撮影画像@t1(フレームf1)
(2)マイクロレンズアレイ(MLA)撮影画像@t2(フレームf2)
ここで、マイクロレンズ撮影画像101の下部領域画像(D画像)は、オーバーラップ画像領域である。すなわち、この下部領域画像(D画像)は、図に示すマイクロレンズ撮影画像101の上方向に隣接する上隣接マイクロレンズ撮影画像111にも含まれるオーバーラップ画像領域である。
この場合、フレーム2における探索範囲を、特徴点a,121を検出したマイクロレンズ撮影画像101と同じマイクロレンズ撮影画像101の下部領域画像(D画像)に加え、同じ特徴点a,121を検出したオーバーラップ画像領域である上隣接マイクロレンズ撮影画像111と同じ上隣接マイクロレンズ撮影画像111の上部領域画像(U画像)に設定して特徴点探索を行う。
すなわち、レンズの位置と画像の反転態様、さらに画像重複領域を考慮した探索範囲を設定して特徴点探索を行う。
この結果、図7(2)のフレームf2のマイクロレンズ撮影画像101の下部領域画像(D画像)に、特徴点a,121対応の移動ベクトル113(1)が設定され、さらに、上隣接マイクロレンズ撮影画像111の上部領域画像(U画像)にも同じ特徴点a,121対応の移動ベクトル113(2)が設定される。
本開示の画像処理装置は、フレームf1から検出した特徴点の位置がオーバーラップ画像領域である場合、フレーム2の対応特徴点検出範囲(探索範囲)を、フレームf1から検出した特徴点の検出領域と同じ複数のオーバーラップ画像領域に設定する。この探索範囲の限定により、高速な処理が可能となる。
すなわち、同じ画像領域が4つの異なるマイクロレンズ撮影画像に含まれる場合がある。
この例について、図8を参照して説明する。
中央のマイクロレンズ撮影画像101の4つの頂点の画像領域の画像の各々は、4つの異なるマイクロレンズ撮影画像に含まれる。
図8では、4つの頂点領域画像の1つであるマイクロレンズ撮影画像101左上端領域画像101ULについて説明する。
図に丸印で示す領域であり、以下の3つの領域である。
(1)マイクロレンズ撮影画像101の右に隣接するマイクロレンズ撮影画像121の右上端領域画像121UR、
(2)マイクロレンズ撮影画像101の右下に隣接するマイクロレンズ撮影画像122の右下端領域画像122DR、
(3)マイクロレンズ撮影画像101の下に隣接するマイクロレンズ撮影画像123の左下端領域画像123DL、
なお、図8では、中央のマイクロレンズ撮影画像101の4つの頂点の1つのみについて説明したが、4つの頂点画像は、全て、同様であり、4つの異なるマイクロレンズ撮影画像に含まれる画像領域である。
なお、特徴点の探索範囲は、各フレームの同じ4つのマイクロレンズの4つの撮影画像領域に限定して行う。
すなわち、レンズの位置と画像の反転態様、さらに画像重複領域を考慮した探索範囲を設定して特徴点探索を行う。
以下では、以下の3つのタイプの移動ベクトル算出処理について、順次、説明する。
(1)単一画像領域の特徴点対応の移動ベクトル算出処理
(2)2画像重複領域の特徴点対応の移動ベクトル算出処理
(3)4画像重複領域の特徴点対応の移動ベクトル算出処理
この移動ベクトル算出処理は、先に図6を参照して説明した処理に対応する。
すなわち、オーバーラップ画像領域ではないマイクロレンズ撮影画像の中央領域画像(C画像)から検出した特徴点に対応する移動ベクトルの算出処理である。本例では、同一特徴点対応の移動ベクトルは1つのみ検出可能である。
この場合、特徴点を検出したフレームf1のマイクロレンズ撮影画像と同じフレームf2のマイクロレンズ撮影画像の中央領域画像(C画像)を探索範囲に設定して特徴点探索を行う。この特徴点探索により、フレームf2から特徴点が検出された場合、フレームf1の特徴点位置(x1,y1)を起点とし、フレームf2の特徴点位置(x2,y2)を終点としたベクトルを算出する。
移動ベクトルV=(Vx,Vy)=(x2−x1,y2−y1)
を算出することができる。
この移動ベクトル算出処理は、先に図7を参照して説明した処理に対応する。
すなわち、2つの同じ画像が存在するオーバーラップ画像領域であるマイクロレンズ撮影画像の端部領域(4頂点近傍領域を除く)の移動ベクトル算出処理である。本例では、同一特徴点対応の移動ベクトルが2つ検出可能となる。
この2つの移動ベクトルについて、図9(2)に示す処理(ステップS51)によって、最終的な1つの移動ベクトルを算出する。
この移動ベクトル算出処理は、先に図8を参照して説明したように同じ画像が4つのマイクロレンズ撮影画像に含まれる場合の処理に対応する。
すなわち、4つの同じ画像が存在するオーバーラップ画像領域であるマイクロレンズ撮影画像4頂点近傍領域の移動ベクトル算出処理である。本例では、同一特徴点対応の移動ベクトルが4つ検出可能となる。
この4つの移動ベクトルについて、図10(3)に示す処理(ステップS71〜S73)によって、最終的な1つの移動ベクトルを算出する。
この処理は、以下の(式3)に従って実行する。
この結果、算出した平均値V=(Vx,Vy)を、最終的な特徴点に対応する移動ベクトルとする。
(1)単一画像領域の特徴点対応の移動ベクトル算出処理
(2)2画像重複領域の特徴点対応の移動ベクトル算出処理
(3)4画像重複領域の特徴点対応の移動ベクトル算出処理
(2)2画像重複領域の特徴点対応の移動ベクトル算出処理
(3)4画像重複領域の特徴点対応の移動ベクトル算出処理
これらの処理では、同一特徴点に対応する複数の移動ベクトルを用いて、最終的な特徴点対応の1つの移動ベクトルを算出するものであり、1つのデータに依存しない複数データに基づく処理を行うことで、より高精度な移動ベクトル算出を行うことが可能となる。
マイクロレンズ撮影画像の中央領域画像(C画像)から特徴点を検出した場合は、
(1)単一画像領域の特徴点対応の移動ベクトル算出処理を実行する。
また、2つの同じ画像が存在するオーバーラップ画像領域であるマイクロレンズ撮影画像の端部領域(4頂点近傍領域を除く)から特徴点を検出した場合は、
(2)2画像重複領域の特徴点対応の移動ベクトル算出処理を実行する。
さらに、4つの同じ画像が存在するオーバーラップ画像領域であるマイクロレンズ撮影画像の4頂点近傍領域から特徴点を検出した場合は、
(3)4画像重複領域の特徴点対応の移動ベクトル算出処理を実行する。
この例外処理について、図11以下を参照して説明する。
例えば、この中の1つののマイクロレンズa150の撮影画像について考察する。
このマイクロレンズa撮影画像151の上部領域画像(U画像)は、図に示すマイクロレンズa撮影画像151の下方向に隣接する他のマイクロレンズ撮影画像の下端領域画像と同一のオーバーラップ画像となる。
マイクロレンズa撮影画像151の左端領域画像(L画像)は、図に示すマイクロレンズa撮影画像151の右方向に隣接する他のマイクロレンズ撮影画像の右端領域画像と同一のオーバーラップ画像となる。
(1)単一画像領域の特徴点対応の移動ベクトル算出処理を実行する。
図12右側の図は、マイクロレンズa撮影画像151の右上部領域画像(UR画像)151URのオーバーラップ態様を説明する図である。この4頂点近傍画像は、マイクロレンズ撮影画像がマイクロレンズアレイ(MLA)10の最外周位置でない場合は、先に図8を参照して説明したように、4つの重複画像が存在し、図10(3)を参照して説明した
(3)4画像重複領域の特徴点対応の移動ベクトル算出処理を実行する。
すなわち、2つの重複画像が存在するのみとなる。
(2)2画像重複領域の特徴点対応の移動ベクトル算出処理を実行する。
b160の撮影画像に対する処理を説明する図である。図13右側には、マイクロレンズアレイ(MLA)10の最外周位置でかつ頂点位置にあるマイクロレンズb160の撮影画像であるマイクロレンズb撮影画像161を示している。
このマイクロレンズb撮影画像161の上部領域画像(U画像)は、図に示すマイクロレンズb撮影画像161の下方向に隣接する他のマイクロレンズ撮影画像の下端領域画像と同一のオーバーラップ画像となる。
(1)単一画像領域の特徴点対応の移動ベクトル算出処理を実行する。
図14右側の図は、マイクロレンズb撮影画像161の右上部領域画像(UR画像)161URのオーバーラップ態様を説明する図である。この4頂点近傍画像は、マイクロレンズ撮影画像がマイクロレンズアレイ(MLA)10の最外周位置でない場合は、先に図8を参照して説明したように、4つの重複画像が存在し、図10(3)を参照して説明した
(3)4画像重複領域の特徴点対応の移動ベクトル算出処理を実行する。
すなわち、2つの重複画像が存在するのみとなる。
(2)2画像重複領域の特徴点対応の移動ベクトル算出処理を実行する。
(1)単一画像領域の特徴点対応の移動ベクトル算出処理を実行する。
(1)単一画像領域の特徴点対応の移動ベクトル算出処理
(2)2画像重複領域の特徴点対応の移動ベクトル算出処理
(3)4画像重複領域の特徴点対応の移動ベクトル算出処理
これらのいずれを実行するかを選択し、選択した処理を実行する。
次に、上述した本開示の移動ベクトル(オプティカルフロー)処理を適用した本指紋認証処理について説明する。
なお、マイクロレンズアレイ型撮像装置を用いた生体認証装置としては、例えば、静脈認証や、指紋認証や、虹彩認証等を行う生体認証装置があるが、ここではその代表例としてマイクロレンズアレイ型撮像装置を用いた指紋認証装置について説明する。本開示の構成は、指紋認証装置に限らず、静脈認証や虹彩認証等のその他の生体認証装置にも適用可能である。
なお、マイクロレンズアレイ型撮像装置を用いた従来型の指紋認証処理シーケンスについては、先に図2を参照して説明したが、図15に示すシーケンスは、同じマイクロレンズアレイ型撮像装置を用いた指紋認証処理を大きな処理負荷を発生させることなく効率的に実行可能としたシーケンスである。
まず、ステップS101において、ユーザの指の動画像を撮影する。
図15には、時間(t1)で撮影したマイクロレンズアレイ(MLA)撮影画像@t1,201と、時間(t2)で撮影したマイクロレンズアレイ(MLA)撮影画像@t2,202を示している。なお、ここでは2枚の連続撮影画像を用いた処理例について説明するが、さらに3枚以上の連続撮影画像を利用してもよい。
先に説明したように、マイクロレンズアレイ(MLA)型の撮像装置では、撮像素子に撮影される画像はアレイを構成する各マイクロレンズ対応の多数の画像となる。
次のステップS102では、2枚の連続撮影画像である2枚のマイクロレンズアレイ(MLA)撮影画像201,202から移動ベクトル(オプティカルフロー)検出処理を実行する。
(1)単一画像領域の特徴点対応の移動ベクトル算出処理
を実行する。
次に、異なるタイミングで撮影されたマイクロレンズ撮影画像の同じ2つの画像領域を探索範囲として対応特徴点を探索する。さらに、先に図9(2)を参照して説明した
(2)2画像重複領域の特徴点対応の移動ベクトル算出処理を実行する。
次に、異なるタイミングで撮影されたマイクロレンズ撮影画像の同じ4つの画像領域を探索範囲として対応特徴点を探索する。さらに、先に図10(3)を参照して説明した
(3)4画像重複領域の特徴点対応の移動ベクトル算出処理を実行する。
次に、ステップS103において、ステップS102で検出した移動ベクトルを用いて、各画像の位置合わせを実行して高画質画像生成処理を行う。なお、この画像位置合わせ処理と、高画質画像生成処理はマイクロレンズ撮影画像単位で実行することが可能である。
ここでは、個々のマイクロレンズ撮影画像の上下左右の反転処理、およびオーバーラップ領域の検出し削除する画像切り出しと、切り出し後の画像の結合処理が必要となるが、本開示の処理ではこの処理は1回のみである。
図には示していないが、最後にこの高画質画像210と予めメモリに登録してある指紋データとの照合処理を行う。
図16〜図17に示す各ステップの処理について説明する。
ステップS101は、ユーザの指の動画像の撮影ステップである。図17に示すように、ユーザが指をスマートホンの画面上をスライドさせる。スマートホンの画面上にはマイクロレンズアレイ(MLA)型の撮像装置が搭載されている。
図16に示すように、指の動きに併せてフレームf1〜f3の3枚の連続撮影画像が撮影される。
次のステップS102は、ステップS101で撮影した3枚の画像を用いた移動ベクトル(オプティカルフロー)検出処理である。
図16ステップS102には、
フレームf1とフレームf2間の移動ベクトル検出処理結果、
フレームf2とフレームf3間の移動ベクトル検出処理結果、
これらの移動ベクトル検出結果の例を示している。
図6〜図13を参照して説明した本開示の移動ベクトル検出処理を実行した結果である。マイクロレンズ撮影画像から検出した特徴点の位置に応じて、先に図9、図10を参照して説明した3つのタイプの移動ベクトル算出処理、すなわち、以下の3種類の処理のいずれかを行う。
(1)単一画像領域の特徴点対応の移動ベクトル算出処理
(2)2画像重複領域の特徴点対応の移動ベクトル算出処理
(3)4画像重複領域の特徴点対応の移動ベクトル算出処理
次のステップS103の処理は、ステップS102で検出した移動ベクトルを用いて、各画像の位置合わせを実行して高画質画像を生成する処理である。
図16に示す例では、フレームf1〜f3の3枚の画像を用いて高画質画像を生成する。例えば基準画像であるフレームf2の位置にフレームf1の画像位置を合せる。この位置合わせ処理はステップS102で検出したフレームf1とフレームf2間の移動ベクトルを用いて実行することができる。
さらに、基準画像であるフレームf2の位置にフレームf3の画像位置を合せる。この位置合わせ処理はステップS102で検出したフレームf2とフレームf3間の移動ベクトルを用いて実行することができる。
ステップS103の処理の結果として指の鮮明な指紋情報等を持つ高画質画像が生成される。
最後に図17に示すステップS104において指紋認証処理を実行する。この指紋認証処理は、ステップS103で生成した高画質画像と、予めメモリ230に登録してある指紋データとの照合処理である。
この高画質画像には鮮明な指紋(特徴点)221が撮影されており、メモリ230に予め登録済みの(b)登録画像と照合することで、同一性についての高精度の判定処理が可能となる。
また、図9、図10を参照して説明したように重複画像領域から検出された同一特徴点対応の複数の移動ベクトルから最終的な1つの移動ベクトルを算出することにより、より高精度な移動ベクトルの算出が可能となる。
次に、図18以下を参照して本開示の画像処理装置の構成例と処理シーケンスについて説明する。なお、以下では、本開示の移動ベクトル算出処理を利用した画像処理装置として、以下の3つの画像処理装置について、順次、説明する。
(実施例1)指紋認証、登録処理を実行する画像処理装置
(実施例2)表示画面に対する指の操作(フリック、スワイプ等)を検出する画像処理装置
(実施例3)動画像の圧縮処理を実行する画像処理装置
まず、実施例1として、指紋認証処理や指紋登録処理を実行する画像処理装置の構成例と処理シーケンスについて説明する。
図18に示すように、画像処理装置300は、撮像部301、移動ベクトル算出部302、画像合成部303、画像照合/登録部304、メモリ305を有する。なお、図18に示すブロック図は、本開示の処理に必要となる主要な構成要素のみを示したブロック図であり、画像処理装置300は図18に示す構成要素に限らず、例えば制御部、記憶部、入力部、出力部等の構成要素を有する。
なお、撮像部301は、画像処理装置とは別の構成としてもよい。この場合、画像処理装置300は、撮像部301の撮像画像を図示しない入力部を介して入力して処理を行う。
撮像部301は、先に図1を参照して説明したマイクロレンズアレイ(MLA)を有する撮像部である。複数のマイクロレンズを介した撮影画像を撮影する。例えば、スマートホンの画面上でユーザの指をスライドさせた際の指の動画像を撮影する。動画像を構成する各フレームの画像は、いずれも多数のマイクロレンズ撮影画像によって構成される。マイクロレンズ撮影画像の各々は、上下左右が反転した画像であり、一部に他のマイクロレンズ撮影画像との重複領域が含まれる画像である。
移動ベクトル算出部302は、撮像部301の撮影画像である動画像の各フレーム画像の移動ベクトル(オプティカルフロー)の算出処理を実行する。
移動ベクトル算出部302は、多数のマイクロレンズ撮影画像をそのまま利用した移動ベクトル(オプティカルフロー)算出処理を実行する。
(1)単一画像領域の特徴点対応の移動ベクトル算出処理
(2)2画像重複領域の特徴点対応の移動ベクトル算出処理
(3)4画像重複領域の特徴点対応の移動ベクトル算出処理
画像合成部303は、移動ベクトル算出部302が検出した移動ベクトル(オプティカルフロー)を利用して、撮像部301の撮影した動画像を構成する連続撮影画像の位置合わせを実行して高画質画像を生成する。この処理の結果として指の鮮明な指紋情報等を持つ高画質画像が生成される。
画像照合/登録部304は、画像合成部303から指の高画質画像を入力して、画像照合処理、または登録処理を実行する。
指紋認証処理の実行時は、画像合成部303から入力した指の高画質画像と、メモリ315に格納済みの登録画像との照合処理を実行する。照合成立の場合は、次の処理に移行する。照合エラーの場合は、認証エラーであることのメッセージを出力する。
なお、図19に示すフローチャートに従った処理は、例えば、画像処理装置の記憶部に格納されたプログラムに従って実行可能な処理であり、プログラム実行機能を有するCPU等を備えた制御部(データ処理部)の制御の下で実行することができる。
以下、図19に示すフローの各ステップの処理について、順次、説明する。
まず、ステップS201において連続撮影画像、すなわち動画像を撮影する。
この処理は、図18に示す画像処理装置300の撮像部301が実行する。撮像部301は、複数のマイクロレンズを介した撮影画像を撮影する。例えば、スマートホンの画面上でユーザの指をスライドさせた際の指の動画像を撮影する。
撮像部301の撮影画像である動画像は、移動ベクトル算出部302に入力される。
次に、ステップS202において、マイクロレンズ撮影画像単位の移動ベクトル算出処理を実行する。この処理は、移動ベクトル算出部302が実行する。移動ベクトル算出部302は、撮像部301の撮影画像である動画像の各フレーム画像の移動ベクトル(オプティカルフロー)の算出処理を実行する。移動ベクトル算出部302は、多数のマイクロレンズ撮影画像をそのまま利用した移動ベクトル(オプティカルフロー)算出処理を実行する。
(1)単一画像領域の特徴点対応の移動ベクトル算出処理
(2)2画像重複領域の特徴点対応の移動ベクトル算出処理
(3)4画像重複領域の特徴点対応の移動ベクトル算出処理
移動ベクトル算出部302が検出した移動ベクトル(オプティカルフロー)は、画像合成部303に出力される。
次に、ステップS203において、マイクロレンズ撮影画像単位の移動ベクトルを利用した位置合わせ処理を実行する。この処理は、画像合成部303が実行する。
画像合成部303は、移動ベクトル算出部302が検出した移動ベクトル(オプティカルフロー)を利用して、撮像部301の撮影した動画像を構成する連続撮影画像の位置合わせを実行して高画質画像を生成する。この処理の結果として指の鮮明な指紋情報等を持つ高画質画像が生成される。
さらに、ステップS204において、画像合成部303は高画質化されたマイクロレンズ撮影画像を結合して1つの高画質全体画像を生成する。ここでは、個々のマイクロレンズ撮影画像の上下左右の反転処理、およびオーバーラップ領域の検出し削除する画像切り出しと、切り出し後の画像の結合処理を行う。画像合成部303が生成した高画質画像は、画像照合/登録部304に出力される。
次の、ステップS205〜S211の処理は、画像照合/登録部304が実行する処理である。画像照合/登録部304は、画像合成部303から指の高画質画像を入力して、画像照合処理、または登録処理を実行する。
実行する処理が指紋認証処理である場合は、ステップS206〜S209の処理を実行する。
一方、実行する処理が指紋登録処理である場合は、ステップS211の処理を実行する。
次に、実施例2として、表示画面に対する指の操作(フリック、スワイプ等)を検出する画像処理装置の構成例と処理シーケンスについて説明する。
図20に示すように、画像処理装置310は、撮像部311、移動ベクトル算出部312、移動方向判別部313、処理実行部314、メモリ315を有する。なお、図20に示すブロック図は、本開示の処理に必要となる主要な構成要素のみを示したブロック図であり、画像処理装置310は図20に示す構成要素に限らず、例えば制御部、記憶部、入力部、出力部等の構成要素を有する。
なお、撮像部311は、画像処理装置とは別の構成としてもよい。この場合、画像処理装置310は、撮像部311の撮像画像を図示しない入力部を介して入力して処理を行う。
撮像部311と移動ベクトル算出部312は、先に図18を参照して説明した撮像部301と移動ベクトル算出部302と同様の処理を実行する。すなわち、撮像部311は、マイクロレンズアレイ(MLA)を有する撮像部である。移動ベクトル算出部312は、多数のマイクロレンズ撮影画像をそのまま利用した移動ベクトル(オプティカルフロー)算出処理を実行する。
移動方向判別部313は、移動ベクトル算出部312が検出した移動ベクトル(オプティカルフロー)を利用して、ユーザの指の動き方向を判別する。具体的にはユーザの指によるフリック動作やスワイプ動作の指の動き方向を判別する。
なお、フリック動作は、スマホ等の画面上で指をはじくように移動させる動作であり、スワイプ動作は、画面上に指を接触させたままスライドさせる処理である。
移動方向判別部313の判別したユーザの指の移動方向情報は、処理実行部314に出力される。
なお、図21に示すフローチャートに従った処理は、例えば、画像処理装置の記憶部に格納されたプログラムに従って実行可能な処理であり、プログラム実行機能を有するCPU等を備えた制御部(データ処理部)の制御の下で実行することができる。
以下、図21に示すフローの各ステップの処理について、順次、説明する。
ステップS221〜S222の処理は、先に図19を参照して説明したフローのステップS201〜S202の処理と同様の処理である。
すなわち、ステップS221において連続撮影画像、すなわち動画像を撮影する。
この処理は、図20に示す画像処理装置310の撮像部311が複数のマイクロレンズを介した撮影画像を撮影する。例えば、スマートホンの画面上でユーザの指をスライドさせた際の指の動画像を撮影する。
撮像部311の撮影画像である動画像は、移動ベクトル算出部312に入力される。
移動ベクトル算出部312が検出した移動ベクトル(オプティカルフロー)は、移動方向判別部313に出力される。
次に、ステップS223において、マイクロレンズ撮影画像単位の移動ベクトルを利用した移動方向(フリック、スワイプ指示方向)判別処理を実行する。この処理は、図20に示す移動方向判別部313が実行する。
移動方向判別部313は、移動ベクトル算出部312が検出したマイクロレンズ撮影画像の画像領域単位の多数の移動ベクトルの平均値等を算出してユーザの指の動き方向を判別する。
移動方向判別部313の判別したユーザの指の移動方向情報は、処理実行部314に出力される。
次に、ステップS224において、移動方向(フリック、スワイプ指示方向)判別結果に基づく処理を実行する。この処理は処理実行部314が実行する。
処理実行部314は、移動方向判別部313の判別したユーザの指の移動方向に応じた処理を実行する。処理とは例えばスマホの表示画面の更新処理等、ユーザのフリックやスワイプ動作に応じた処理である。処理の実行には例えばメモリ315の格納データやアプリケーションが利用される。
次に、実施例3として、動画像の圧縮処理を実行する画像処理装置の構成例と処理シーケンスについて説明する。
図22に示すように、画像処理装置320は、撮像部321、移動ベクトル算出部322、画像圧縮処理実行部323、通信部324、メモリ325を有する。なお、図22に示すブロック図は、本開示の処理に必要となる主要な構成要素のみを示したブロック図であり、画像処理装置320は図22に示す構成要素に限らず、例えば制御部、記憶部、入力部、出力部等の構成要素を有する。
なお、撮像部321は、画像処理装置とは別の構成としてもよい。この場合、画像処理装置320は、撮像部321の撮像画像を図示しない入力部を介して入力して処理を行う。
撮像部321と移動ベクトル算出部322は、先に図18を参照して説明した撮像部301と移動ベクトル算出部302と同様の処理を実行する。すなわち、撮像部321は、マイクロレンズアレイ(MLA)を有する撮像部である。移動ベクトル算出部322は、多数のマイクロレンズ撮影画像をそのまま利用した移動ベクトル(オプティカルフロー)算出処理を実行する。
画像圧縮処理実行部323は、移動ベクトル算出部322が検出した移動ベクトル(オプティカルフロー)を利用して、動画像の圧縮処理を実行する。具体的には例えばMPEG圧縮アルゴリズムに従った動画像圧縮処理を実行する。
画像圧縮処理実行部323による画像圧縮結果は、通信部324を介して外部に出力される。あるいはメモリ325に格納される。
なお、図23に示すフローチャートに従った処理は、例えば、画像処理装置の記憶部に格納されたプログラムに従って実行可能な処理であり、プログラム実行機能を有するCPU等を備えた制御部(データ処理部)の制御の下で実行することができる。
以下、図23に示すフローの各ステップの処理について、順次、説明する。
ステップS251〜S252の処理は、先に図19を参照して説明したフローのステップS201〜S202の処理と同様の処理である。
すなわち、ステップS251において連続撮影画像、すなわち動画像を撮影する。
この処理は、図22に示す画像処理装置320の撮像部321が複数のマイクロレンズを介した撮影画像を撮影する。撮像部321の撮影画像である動画像は、移動ベクトル算出部322に入力される。
移動ベクトル算出部322が検出した移動ベクトル(オプティカルフロー)は、画像圧縮処理実行部323に出力される。
次に、ステップS253において、マイクロレンズ撮影画像単位の移動ベクトルを利用した画像圧縮(MPEG等)処理を実行する。この処理は、図22に示す画像圧縮処理実行部323が実行する。
画像圧縮処理実行部323は、移動ベクトル算出部322が検出した移動ベクトル(オプティカルフロー)を利用して、動画像の圧縮処理を実行する。具体的には例えばMPEG圧縮アルゴリズムに従った動画像圧縮処理を実行する。画像圧縮処理実行部323は、移動ベクトル算出部322が検出した移動ベクトル(オプティカルフロー)を利用して差分算出を実行してMPEG圧縮処理を実行する。
次に、ステップS254において、画像圧縮処理実行部323による画像圧縮結果が、通信部324を介して外部に出力される。あるいはメモリ325に格納される。
次に、本開示の移動ベクトル算出処理を利用した具体的な装置例について説明する。
図24に示す装置例は、スマホ(スマートホン)における指紋認証装置の例である。図にはスマホの側面に撮像部を構成した指紋認証装置401と、スマホ前面下部に撮像部を構成した指紋認証装置402の構成例を示している。
撮像部は、いずれもマイクロレンズアレイ(MLA)を有する撮像部である。
撮像部はマイクロレンズアレイ(MLA)を有する撮像部である。
スマホ、スマートウォッチ、指輪型端末において、例えば図26の下部に示すようなフリック動作による文字入力を行う構成に、本開示の移動ベクトル検出を適用することで、高速かつ高精度な移動方向検出を行う装置が実現される。
次に、図27を参照して画像処理装置のハードウェア構成例について説明する。
図27は、本開示の処理を実行する画像処理装置のハードウェア構成例を示す図である。
以上、特定の実施例を参照しながら、本開示の実施例について詳解してきた。しかしながら、本開示の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本開示の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
(1) マイクロレンズアレイを有する撮像部の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出部を有し、
前記移動ベクトル算出部は、
前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影したマイクロレンズ撮影画像を利用して特徴点対応の移動ベクトルを算出する画像処理装置。
複数のマイクロレンズ撮影画像内に同じ画像領域を持つ重複画像領域内の特徴点対応の移動ベクトルを算出する処理と、
複数のマイクロレンズ撮影画像内に同じ画像領域を持たない単一画像領域内の特徴点対応の移動ベクトルを算出する処理を異なる処理として実行する(1)に記載の画像処理装置。
前記重複画像領域内の特徴点対応の移動ベクトルを算出する際、
同一の特徴点に対応する複数の移動ベクトルの平均値を算出して、該特徴点の移動ベクトルとする(2)に記載の画像処理装置。
前記重複画像領域内の特徴点対応の移動ベクトルを算出する際、
同一の特徴点に対応する複数の移動ベクトル中、外れ値(異常値)を排除した残りの複数の移動ベクトルの平均値を算出して、該特徴点の移動ベクトルとする(2)または(3)に記載の画像処理装置。
複数のマイクロレンズ撮影画像内に同じ画像領域を持たない単一画像領域と、
複数のマイクロレンズ撮影画像内に同じ画像領域を持つ重複画像領域を区別し、
さらに、前記重複画像領域については、
2つの同じ画像領域を持つ2画像重複領域と、
4つの同じ画像領域を持つ4画像重複領域を区別して、
各領域単位で異なる移動ベクトル算出処理を実行する(1)〜(4)いずれかに記載の画像処理装置。
前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影したマイクロレンズ撮影画像中、
前記マイクロレンズアレイの最外周領域のマイクロレンズ各々が撮影したマイクロレンズ撮影画像から検出した特徴点対応の移動ベクトル算出処理は、その他のマイクロレンズ撮影画像から検出した特徴点対応の移動ベクトル算出処理と異なる例外処理を実行する(1)〜(5)いずれかに記載の画像処理装置。
複数のマイクロレンズ撮影画像内に重複画像領域が存在するか否か、さらに、重複画像領域が存在する場合、その重複数がいくつであるかに応じて異なる移動ベクトル算出処理を実行する(1)〜(6)いずれかに記載の画像処理装置。
前記マイクロレンズアレイを構成するマイクロレンズの位置と画像の反転態様を考慮した探索範囲を設定して特徴点探索を行う(1)〜(7)いずれかにに記載の画像処理装置。
さらに画像重複領域を考慮した探索範囲を設定して特徴点探索を行う(8)に記載の画像処理装置。
前記移動ベクトル算出部の算出した移動ベクトルを用いて、前記撮像部の連続撮影画像の合成処理を実行する画像合成部を有する(1)〜(9)いずれかに記載の画像処理装置。
前記移動ベクトル算出部の算出した移動ベクトルを用いて、前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影した連続撮影マイクロレンズ撮影画像各々の位置合わせを実行して、連続撮影マイクロレンズ撮影画像各々の合成処理を実行する(10)に記載の画像処理装置。
前記画像処理装置は、さらに、前記画像合成部の生成した合成画像を用いて登録指紋画像との照合処理を実行する画像照合部を有する(10)または(11)に記載の画像処理装置。
前記移動ベクトル算出部の算出した移動ベクトルを用いて、前記連続撮影画像の合成処理により高画質画像を生成する画像合成部と、
前記画像合成部の生成した合成画像と、予め記憶部に格納された登録指紋画像との照合処理を実行する画像照合部を有する指紋認証処理を実行する画像処理装置。
前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影したマイクロレンズ撮影画像を利用して特徴点対応の移動ベクトルを算出し、
前記画像合成部は、
前記移動ベクトル算出部の算出した移動ベクトルを用いて、前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影した連続撮影マイクロレンズ撮影画像各々の位置合わせを実行して、連続撮影マイクロレンズ撮影画像各々の合成処理を実行する(13)に記載の画像処理装置。
移動ベクトル算出部が、
マイクロレンズアレイを有する撮像部の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出ステップを実行し、
前記移動ベクトル算出ステップは、
前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影したマイクロレンズ撮影画像を利用して特徴点対応の移動ベクトルを算出するステップである画像処理方法。
移動ベクトル算出部が、
マイクロレンズアレイを有する撮像部によって撮影された指の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出ステップと、
画像合成部が、
前記移動ベクトル算出部の算出した移動ベクトルを用いて、前記連続撮影画像の合成処理により高画質画像を生成する画像合成ステップと、
画像照合部が、
前記画像合成部の生成した合成画像と、予め記憶部に格納された登録指紋画像との照合処理を実行する画像照合ステップを実行する画像処理方法。
移動ベクトル算出部に、
マイクロレンズアレイを有する撮像部の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出ステップを実行させ、
前記移動ベクトル算出ステップにおいて、
前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影したマイクロレンズ撮影画像を利用して特徴点対応の移動ベクトルを算出する処理を実行させるプログラム。
移動ベクトル算出部に、
マイクロレンズアレイを有する撮像部によって撮影された指の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出ステップを実行させ、
画像合成部に、
前記移動ベクトル算出部の算出した移動ベクトルを用いて、前記連続撮影画像の合成処理により高画質画像を生成させる画像合成ステップを実行させ、
画像照合部に、
前記画像合成部の生成した合成画像と、予め記憶部に格納された登録指紋画像との照合処理を実行する画像照合ステップを実行させるプログラム。
具体的には、例えばマイクロレンズアレイを有する撮像部によって撮影された連続撮影画像を入力して画像間の移動ベクトルを算出する。移動ベクトル算出部はマイクロレンズ各々が撮影したマイクロレンズ撮影画像を利用して特徴点対応の移動ベクトルを算出する。複数のマイクロレンズ撮影画像内に同じ画像領域を持つ重複画像領域内の特徴点に対応する移動ベクトルを算出する際、同一特徴点対応の複数の移動ベクトルの平均値を算出して、特徴点の移動ベクトルとする。または、外れ値(異常値)を排除した残りの複数移動ベクトルの平均値を算出して、特徴点の移動ベクトルとする。
これらの処理により、マイクロレンズアレイを用いた撮影画像からの移動ベクトル算出処理を、全体画像を生成することなく行う装置、方法が実現される。
11 マイクロレンズ
12 イメージセンサ(撮像素子)
101 マイクロレンズ撮影画像
300 画像処理装置
301 撮像部
302 移動ベクトル算出部
303 画像合成部
304 画像照合/登録部
305 メモリ
310 画像処理装置
311 撮像部
312 移動ベクトル算出部
313 移動方向判別部
314 処理実行部
315 メモリ
320 画像処理装置
321 撮像部
322 移動ベクトル算出部
323 画像圧縮処理実行部
324 通信部
325 メモリ
401,402,403 指紋認証装置
404 撮像装置
601 CPU
602 ROM
603 RAM
604 バス
605 入出力インタフェース
606 入力部
607 出力部
608 記憶部
609 通信部
610 ドライブ
611 リムーバブルメディア
621 撮像部
Claims (18)
- マイクロレンズアレイを有する撮像部の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出部を有し、
前記移動ベクトル算出部は、
前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影したマイクロレンズ撮影画像を利用して特徴点対応の移動ベクトルを算出する画像処理装置。 - 前記移動ベクトル算出部は、
複数のマイクロレンズ撮影画像内に同じ画像領域を持つ重複画像領域内の特徴点対応の移動ベクトルを算出する処理と、
複数のマイクロレンズ撮影画像内に同じ画像領域を持たない単一画像領域内の特徴点対応の移動ベクトルを算出する処理を異なる処理として実行する請求項1に記載の画像処理装置。 - 前記移動ベクトル算出部は、
前記重複画像領域内の特徴点対応の移動ベクトルを算出する際、
同一の特徴点に対応する複数の移動ベクトルの平均値を算出して、該特徴点の移動ベクトルとする請求項2に記載の画像処理装置。 - 前記移動ベクトル算出部は、
前記重複画像領域内の特徴点対応の移動ベクトルを算出する際、
同一の特徴点に対応する複数の移動ベクトル中、外れ値(異常値)を排除した残りの複数の移動ベクトルの平均値を算出して、該特徴点の移動ベクトルとする請求項2に記載の画像処理装置。 - 前記移動ベクトル算出部は、
複数のマイクロレンズ撮影画像内に同じ画像領域を持たない単一画像領域と、
複数のマイクロレンズ撮影画像内に同じ画像領域を持つ重複画像領域を区別し、
さらに、前記重複画像領域については、
2つの同じ画像領域を持つ2画像重複領域と、
4つの同じ画像領域を持つ4画像重複領域を区別して、
各領域単位で異なる移動ベクトル算出処理を実行する請求項1に記載の画像処理装置。 - 前記移動ベクトル算出部は、
前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影したマイクロレンズ撮影画像中、
前記マイクロレンズアレイの最外周領域のマイクロレンズ各々が撮影したマイクロレンズ撮影画像から検出した特徴点対応の移動ベクトル算出処理は、その他のマイクロレンズ撮影画像から検出した特徴点対応の移動ベクトル算出処理と異なる例外処理を実行する請求項1に記載の画像処理装置。 - 前記移動ベクトル算出部は、
複数のマイクロレンズ撮影画像内に重複画像領域が存在するか否か、さらに、重複画像領域が存在する場合、その重複数がいくつであるかに応じて異なる移動ベクトル算出処理を実行する請求項1に記載の画像処理装置。 - 前記移動ベクトル算出部は、
前記マイクロレンズアレイを構成するマイクロレンズの位置と画像の反転態様を考慮した探索範囲を設定して特徴点探索を行う請求項1に記載の画像処理装置。 - 前記移動ベクトル算出部は、
さらに画像重複領域を考慮した探索範囲を設定して特徴点探索を行う請求項8に記載の画像処理装置。 - 前記画像処理装置は、さらに、
前記移動ベクトル算出部の算出した移動ベクトルを用いて、前記撮像部の連続撮影画像の合成処理を実行する画像合成部を有する請求項1に記載の画像処理装置。 - 前記画像合成部は、
前記移動ベクトル算出部の算出した移動ベクトルを用いて、前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影した連続撮影マイクロレンズ撮影画像各々の位置合わせを実行して、連続撮影マイクロレンズ撮影画像各々の合成処理を実行する請求項10に記載の画像処理装置。 - 前記撮像部の連続撮影画像は人の指紋を含む指画像であり、
前記画像処理装置は、さらに、前記画像合成部の生成した合成画像を用いて登録指紋画像との照合処理を実行する画像照合部を有する請求項10に記載の画像処理装置。 - マイクロレンズアレイを有する撮像部によって撮影された指の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出部と、
前記移動ベクトル算出部の算出した移動ベクトルを用いて、前記連続撮影画像の合成処理により高画質画像を生成する画像合成部と、
前記画像合成部の生成した合成画像と、予め記憶部に格納された登録指紋画像との照合処理を実行する画像照合部を有する指紋認証処理を実行する画像処理装置。 - 前記移動ベクトル算出部は、
前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影したマイクロレンズ撮影画像を利用して特徴点対応の移動ベクトルを算出し、
前記画像合成部は、
前記移動ベクトル算出部の算出した移動ベクトルを用いて、前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影した連続撮影マイクロレンズ撮影画像各々の位置合わせを実行して、連続撮影マイクロレンズ撮影画像各々の合成処理を実行する請求項13に記載の画像処理装置。 - 画像処理装置において実行する画像処理方法であり、
移動ベクトル算出部が、
マイクロレンズアレイを有する撮像部の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出ステップを実行し、
前記移動ベクトル算出ステップは、
前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影したマイクロレンズ撮影画像を利用して特徴点対応の移動ベクトルを算出するステップである画像処理方法。 - 画像処理装置において指紋認証処理を実行する画像処理方法であり、
移動ベクトル算出部が、
マイクロレンズアレイを有する撮像部によって撮影された指の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出ステップと、
画像合成部が、
前記移動ベクトル算出部の算出した移動ベクトルを用いて、前記連続撮影画像の合成処理により高画質画像を生成する画像合成ステップと、
画像照合部が、
前記画像合成部の生成した合成画像と、予め記憶部に格納された登録指紋画像との照合処理を実行する画像照合ステップを実行する画像処理方法。 - 画像処理装置において画像処理を実行させるプログラムであり、
移動ベクトル算出部に、
マイクロレンズアレイを有する撮像部の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出ステップを実行させ、
前記移動ベクトル算出ステップにおいて、
前記マイクロレンズアレイを構成するマイクロレンズ各々が撮影したマイクロレンズ撮影画像を利用して特徴点対応の移動ベクトルを算出する処理を実行させるプログラム。 - 画像処理装置において指紋認証処理を実行させるプログラムであり、
移動ベクトル算出部に、
マイクロレンズアレイを有する撮像部によって撮影された指の連続撮影画像を入力して、画像間の移動ベクトルを算出する移動ベクトル算出ステップを実行させ、
画像合成部に、
前記移動ベクトル算出部の算出した移動ベクトルを用いて、前記連続撮影画像の合成処理により高画質画像を生成させる画像合成ステップを実行させ、
画像照合部に、
前記画像合成部の生成した合成画像と、予め記憶部に格納された登録指紋画像との照合処理を実行する画像照合ステップを実行させるプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018138195 | 2018-07-24 | ||
JP2018138195 | 2018-07-24 | ||
PCT/JP2019/022881 WO2020021879A1 (ja) | 2018-07-24 | 2019-06-10 | 画像処理装置、および画像処理方法、並びにプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2020021879A1 true JPWO2020021879A1 (ja) | 2021-08-02 |
Family
ID=69181718
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020532201A Ceased JPWO2020021879A1 (ja) | 2018-07-24 | 2019-06-10 | 画像処理装置、および画像処理方法、並びにプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11373437B2 (ja) |
JP (1) | JPWO2020021879A1 (ja) |
DE (1) | DE112019003746T5 (ja) |
WO (1) | WO2020021879A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20210019641A (ko) * | 2019-08-12 | 2021-02-23 | 삼성전자주식회사 | 생체 정보 센싱 모듈 및 이를 포함하는 전자 장치 |
US20220230011A1 (en) * | 2021-01-15 | 2022-07-21 | Omnivision Technologies, Inc. | Thin, multi-lens, optical fingerprint sensor adapted to image through cell phone displays |
WO2023089706A1 (ja) * | 2021-11-17 | 2023-05-25 | 日本電信電話株式会社 | 画像処理装置、画像処理方法およびプログラム |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004318892A (ja) * | 2003-04-18 | 2004-11-11 | Agilent Technol Inc | 指画像入力用途における時間空間多重化システム及び方法 |
JP2009165630A (ja) * | 2008-01-16 | 2009-07-30 | Sony Corp | 静脈認証装置および静脈認証方法 |
JP2014119825A (ja) * | 2012-12-13 | 2014-06-30 | Fujitsu Ltd | 情報処理装置、プログラム、及び方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010240215A (ja) | 2009-04-07 | 2010-10-28 | Sony Corp | 静脈深度判定装置、静脈深度判定方法およびプログラム |
KR102338864B1 (ko) * | 2015-02-12 | 2021-12-13 | 삼성전자주식회사 | 전자 장치 및 전자 장치에서의 지문 등록 방법 |
-
2019
- 2019-06-10 WO PCT/JP2019/022881 patent/WO2020021879A1/ja active Application Filing
- 2019-06-10 DE DE112019003746.3T patent/DE112019003746T5/de not_active Withdrawn
- 2019-06-10 JP JP2020532201A patent/JPWO2020021879A1/ja not_active Ceased
- 2019-06-10 US US17/255,759 patent/US11373437B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004318892A (ja) * | 2003-04-18 | 2004-11-11 | Agilent Technol Inc | 指画像入力用途における時間空間多重化システム及び方法 |
JP2009165630A (ja) * | 2008-01-16 | 2009-07-30 | Sony Corp | 静脈認証装置および静脈認証方法 |
JP2014119825A (ja) * | 2012-12-13 | 2014-06-30 | Fujitsu Ltd | 情報処理装置、プログラム、及び方法 |
Also Published As
Publication number | Publication date |
---|---|
US11373437B2 (en) | 2022-06-28 |
DE112019003746T5 (de) | 2021-04-15 |
US20210271848A1 (en) | 2021-09-02 |
WO2020021879A1 (ja) | 2020-01-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11743571B2 (en) | Electronic device and operating method thereof | |
TW202042175A (zh) | 圖像處理方法及裝置、電子設備和電腦可讀儲存媒體 | |
JP6106921B2 (ja) | 撮像装置、撮像方法および撮像プログラム | |
KR20210065178A (ko) | 생체 검출 방법 및 장치, 전자 기기 및 저장 매체 | |
JPWO2020021879A1 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
US9600712B2 (en) | Method and apparatus for processing digital images using face recognition | |
EP2712176B1 (en) | Method and apparatus for photography | |
JP2010041435A (ja) | 撮像装置及びその制御方法 | |
US20220222831A1 (en) | Method for processing images and electronic device therefor | |
US20200099853A1 (en) | Electronic device, and region selection method | |
US8891833B2 (en) | Image processing apparatus and image processing method | |
CN108010009B (zh) | 一种去除干扰图像的方法及装置 | |
JP2017120503A (ja) | 情報処理装置、情報処理装置の制御方法、及びプログラム | |
KR101719291B1 (ko) | 영상 제공 방법 및 영상 제공 장치 | |
US10212382B2 (en) | Image processing device, method for controlling image processing device, and computer-readable storage medium storing program | |
US10321089B2 (en) | Image preproduction apparatus, method for controlling the same, and recording medium | |
US11921816B2 (en) | Information processing apparatus that specifies a subject and method, image capturing apparatus, and image capturing system | |
JP2001331804A (ja) | 画像領域検出装置及び方法 | |
US20230065506A1 (en) | Image processing apparatus, control method thereof, and image capturing apparatus | |
US10148884B2 (en) | Facilitating capturing a digital image | |
JP5732773B2 (ja) | 画像識別装置、画像識別方法及びプログラム | |
JP2021190922A (ja) | 撮像装置及びその制御方法、並びにプログラム | |
KR20130123316A (ko) | 사용자의 얼굴 분석 결과에 따라 이동 단말을 제어하는 장치 및 방법 | |
CN109034068A (zh) | 视频处理方法及装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220414 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230117 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230307 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230516 |
|
A045 | Written measure of dismissal of application [lapsed due to lack of payment] |
Free format text: JAPANESE INTERMEDIATE CODE: A045 Effective date: 20230926 |