JP2019101745A - 生体画像処理装置、生体画像処理方法、及び生体画像処理プログラム - Google Patents

生体画像処理装置、生体画像処理方法、及び生体画像処理プログラム Download PDF

Info

Publication number
JP2019101745A
JP2019101745A JP2017231976A JP2017231976A JP2019101745A JP 2019101745 A JP2019101745 A JP 2019101745A JP 2017231976 A JP2017231976 A JP 2017231976A JP 2017231976 A JP2017231976 A JP 2017231976A JP 2019101745 A JP2019101745 A JP 2019101745A
Authority
JP
Japan
Prior art keywords
image
living body
touch panel
movement amount
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017231976A
Other languages
English (en)
Other versions
JP7092984B2 (ja
Inventor
壮一 ▲浜▼
壮一 ▲浜▼
Soichi Hama
幸弘 安孫子
Yukihiro Abiko
幸弘 安孫子
智司 前田
Tomoji Maeda
智司 前田
聡史 仙波
Satoshi Senba
聡史 仙波
元 名田
Hajime Nada
元 名田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2017231976A priority Critical patent/JP7092984B2/ja
Priority to US16/204,115 priority patent/US10936848B2/en
Priority to EP18209169.4A priority patent/EP3493111B1/en
Publication of JP2019101745A publication Critical patent/JP2019101745A/ja
Application granted granted Critical
Publication of JP7092984B2 publication Critical patent/JP7092984B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/12Fingerprints or palmprints
    • G06V40/13Sensors therefor
    • G06V40/1312Sensors therefor direct reading, e.g. contactless acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/12Fingerprints or palmprints
    • G06V40/13Sensors therefor
    • G06V40/1318Sensors therefor using electro-optical elements or layers, e.g. electroluminescent sensing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/12Fingerprints or palmprints
    • G06V40/1347Preprocessing; Feature extraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/12Fingerprints or palmprints
    • G06V40/1365Matching; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/40Spoof detection, e.g. liveness detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/60Static or dynamic means for assisting the user to position a body part for biometric acquisition
    • G06V40/67Static or dynamic means for assisting the user to position a body part for biometric acquisition by interactive indications to the user
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • H04N23/811Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation by dust removal, e.g. from surfaces of the image sensor or processing of the image signal output by the electronic image sensor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/14Vascular patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Collating Specific Patterns (AREA)
  • Image Input (AREA)

Abstract

【課題】タッチパネルに接触しながら移動する被写体を生体センサで撮影する際に、撮影した画像における画像ノイズの検出精度を向上させる。【解決手段】タッチパネルに接触しながら生体が移動する間に生体センサで画像を撮影し、入力操作移動量算出部が、タッチパネルに接触しながら移動する生体のタッチパネル上の移動量(入力操作移動量)を算出し、画像移動量算出部が、生体センサで撮影した画像の領域毎の移動量(画像移動量)を算出し、ノイズ領域検出部が、算出された入力操作移動量及び画像移動量に基づいて、画像移動量の変化が入力操作移動量の変化と合致しない領域を画像ノイズを含む領域として検出する。【選択図】図3

Description

本発明は、生体画像処理装置、生体画像処理方法、及び生体画像処理プログラムに関する。
生体認証は、指紋、顔、静脈等の生体情報の特徴を用いて本人確認を行う技術である。生体認証では、予め登録されている生体情報の特徴を、確認が必要な場面において取得した生体情報の特徴と照合し、一致するか否かに基づいて本人確認を行う。
モバイル端末においてもセキュリティを確保する手法として生体認証が用いられるようになってきている。生体センサにより生体情報を取得して生体認証を行うが、モバイル端末では、大きさの制約上、撮影範囲が広い生体センサを搭載することは難しく、また、使い勝手上、被写体となる生体を生体センサから離して広い範囲を撮影することも難しい。そこで、被写体となる生体を生体センサ上で移動させながら複数の画像を撮影することで生体情報を取得することが考えられる。
しかし、例えば、手のひらの静脈情報(静脈パターン)を取得して本人確認を行う手のひら静脈認証においては、被写体である手をモバイル端末にかざして生体センサと接触せずに画像の撮影を行うことになるため、生体センサに対する手の位置が揺れ等によってぶれやすい。生体センサに対する手の位置がぶれると、取得される生体情報の品質が劣化し、認証における本人拒否が発生しやすくなる。
モバイル端末は、端末装置を手で保持して端末装置に備えられたタッチパネルを操作する使い方をするものが多い。そこで、タッチパネルを手で操作すると同時に手のひらの情報を取得することで、端末装置と手の相対的な位置関係を保てるようにして、揺れ等による影響の軽減を図る技術が提案されている(例えば、特許文献1〜3参照)。例えば、手のひら静脈認証において、ユーザが指でタッチすべき位置をタッチパネル上に逐次表示して手のひらを生体センサで撮影することにより、効率良く生体情報を取得する技術が提案されている(例えば、特許文献2)。
一方、モバイル端末を持ち運ぶ際、生体センサを手で触れてしまい皮脂等の汚れが付着することが想定される。このような汚れは、画像ノイズとして撮影画像に写りこみ、認証エラーの一因となり得る。生体センサに付着した汚れは、画像上で常に同じ位置に観測されることから、連続画像の不動領域を汚れとして検出する技術が提案されている(例えば、特許文献4、5参照)。また、モバイル端末を屋外で使用する際、被写体の隙間から外光が生体センサに入り込むことでレンズフレアと呼ばれるレンズ内反射によるノイズが撮影画像に写りこむこともある。このような非定常的なノイズに対し、動きのあるべき画像において動きのない部分をノイズとして検出する技術が提案されている(例えば、特許文献6参照)。
特開2016−173669号公報 特開2016−212636号公報 特開2017−97574号公報 国際公開第2007/141858号 特開2006−245976号公報 国際公開第2004/026139号
モバイル端末のタッチパネル上を接触しながら移動する被写体を生体センサで撮影する場合、生体センサの汚れやレンズフレア等による撮影画像の画像ノイズは、複数の撮影画像における不動領域として検出することが可能である。しかし、タッチパネルの摩擦等によって被写体の動きが止まってしまった場合などに画像ノイズとして誤検出してしまうおそれがある。1つの側面では、本発明の目的は、タッチパネルに接触しながら移動する被写体を生体センサで撮影する際に、撮影した画像における生体センサの汚れやレンズフレア等による画像ノイズの検出精度を向上させることにある。
生体画像処理装置の一態様は、タッチパネルと、生体の画像を撮影する撮影部と、タッチパネルに接触しながら移動する生体のタッチパネル上の移動量を算出する第1の算出部と、移動する間に撮影部で撮影した画像の領域毎の移動量を算出する第2の算出部と、それぞれ算出した移動量に基づいて撮影した画像内の画像ノイズを検出する検出部とを有する。
発明の一態様においては、タッチパネルに接触しながら移動する生体を撮影した画像における画像ノイズの検出精度を向上させることができる。
図1は、本発明の実施形態における端末装置のハードウェア構成例を示す図である。 図2(A)及び図2(B)は、本実施形態における生体情報の取得を説明する図である。 図3は、本実施形態における生体画像処理装置の機能構成例を示す図である。 図4は、本実施形態における認証処理部の構成例を示す図である。 図5は、本実施形態における生体画像処理装置の動作例を示すフローチャートである。 図6(A)〜図6(C)は、本実施形態におけるノイズ検出を説明する図である。 図7(A)〜図7(C)は、本実施形態におけるノイズ検出を説明する図である。 図8(A)〜図8(C)は、本実施形態におけるノイズ検出を説明する図である。 図9(A)及び図9(B)は、本実施形態におけるなりすまし攻撃の検出を説明する図である。 図10は、本実施形態における生体画像処理装置の他の機能構成例を示す図である。
以下、本発明の実施形態を図面に基づいて説明する。以下に説明する本発明の一実施形態における生体画像処理装置及びそれを適用した生体認証装置は、端末装置に搭載可能である。端末装置は、例えば、タブレット端末、スマートフォン等のモバイル端末(携帯端末)であっても良い。また、以下では、手のひらの静脈情報(静脈パターン)、掌紋等の手のひらの生体情報を用いて生体認証を行う手のひら認証を一例に説明するが、本実施形態はこれに限定されるものではない。
図1は、本実施形態における端末装置のハードウェア構成例を示す図である。端末装置100は、例えばタブレット端末、スマートフォン等のモバイル端末(携帯端末)である。端末装置100は、CPU(Central Processing Unit)101、メモリ102、記憶部103、タッチパネル104(表示部105、入力部106)、及び生体センサ107を有し、それらがバス108を介して接続される。なお、端末装置100は、他の機能部をさらに有していてもよく、例えば、他の装置と通信を行うための通信部やネットワークインタフェース等を有していてもよい。
CPU101は、端末装置100が有する各機能部を制御し、端末装置100全体の動作を制御する。CPU101は、例えば、CPU101は、記憶部103から読み出されたコンピュータプログラムを実行することにより、生体画像処理や生体認証処理等の端末装置100が有する各種機能を実現する。CPU101は、例えば図3に示す生体情報取得部301、第2の算出部の一例としての画像移動量算出部302、入力操作位置検出部303、第1の算出部の一例としての入力操作移動量算出部304、時刻計測部305、検出部の一例としてのノイズ領域検出部306、及び認証処理部307の機能を実現する。メモリ102は、例えばCPU101がコンピュータプログラムを実行する際のデータ等を格納するワークメモリとして用いられる。記憶部103は、生体画像処理や生体認証処理等を実行するためのコンピュータプログラムや生体認証に用いる登録データ(登録テンプレート)等を記憶する。
タッチパネル104は、表示機能を有する表示部105及び情報入力機能を有する入力部106を有する。表示部105は、CPU101による制御に従って、ユーザに提供する情報等を表示する。表示部105は、例えば、生体認証に用いる生体情報を取得する際、ユーザが指で触れる(タッチする)べき位置及び移動方向を示す操作情報を表示する。入力部106は、ユーザによる入力操作に応じた情報をCPU101に入力する。入力部106は、タッチ操作(タッチ後の移動を含む。)を検出して、タッチ操作が行われた位置の座標をCPU101に入力する。CPU101は、表示部105が表示している画面の情報及び入力部106からの入力操作の情報に応じた処理を行う。
生体センサ107は、生体認証に用いる被写体の生体情報を取得する。生体センサ107は、撮影部の一例である。生体センサ107は、例えば被写体である手のひらを撮影する撮影部(例えばイメージセンサ)及び被写体を照明する照明部(光源)を有する。例えば、生体センサ107は、図2(A)に示すように端末装置100において、タッチパネル104に表示された操作情報201に従ってユーザが入力操作(タッチ操作)を行ったときに手のひらの少なくとも一部を撮影可能なように、タッチパネル104と同じ面で、タッチパネル104に近接する周辺の位置に配置されている。
図2(A)に示すように、端末装置100において生体認証に用いる生体情報を取得する際には、ユーザが指でタッチすべき位置及び移動方向を示す操作情報201がタッチパネル104に表示される。そして、表示された操作情報201に応じて、ユーザが指をタッチパネル104に接触しながら移動させると、所定の時間間隔で、生体センサ107の画角及び生体センサ107と被写体202との距離に応じた撮影範囲203で被写体202の一部を撮影する。このようにして、図2(B)に示すような被写体211である手のひらの撮影画像212を複数取得し、それら複数の画像から生体情報を取得する。
このように本実施形態では、表示された操作情報201に従って、タッチパネル104上を接触しながら指を移動させるため、生体センサ107と被写体202である手との相対的な位置関係を保つことができ、取得する生体情報の品質が劣化することを防止することができる。なお、図2(A)に示した操作情報201は一例であり、これに限定されるものではない。指を移動させているときに、生体センサ107と被写体202である手との相対的な位置関係を保つことができれば良く、表示する操作情報201は任意である。
図3は、本実施形態における生体画像処理装置の機能構成例を示すブロック図であり、生体画像を用いて生体認証を行う生体認証装置に適用した場合の例を示している。本実施形態における生体画像処理装置は、タッチパネル104、生体センサ107、生体情報取得部301、画像移動量算出部302、入力操作位置検出部303、入力操作移動量算出部304、時刻計測部305、ノイズ領域検出部306、及び認証処理部307を有する。
生体情報取得部301は、生体認証に用いる生体情報を取得する際、撮影部の一例としての生体センサ107によって撮影される生体画像(本実施形態の例では手のひら)を連続的に取得する。画像移動量算出部302は、生体情報取得部301により取得した複数の生体画像に基づいて、画像内の各領域の移動量を算出する。画像移動量算出部302は、第2の算出部の一例である。
画像内の領域の移動量の算出には、動体検出技術と呼ばれる様々な手法が適用可能である。例えば、画像内の物体の速度(動き)を推定しベクトルで表すオプティカルフローの手法が適用でき、速度の推定には勾配法やブロックマッチング法等が用いることが可能である。勾配法では、物体上の点の明るさは移動後も変化しないと仮定して、時空間微分とオプティカルフローとの関係式を導出して対象の動きを推定する。つまり、画像のある点と同じ明るさ(色)の画素を、次の画像における同じ位置の近傍で探すことにより動きを推定する。また、ブロックマッチング法では、画像中のある大きさの領域をテンプレートのブロックとし、次の画像中を全検索して、差分評価関数の値を最小とする点を対応点とし動きを推定する。また、これに限らず、画像内の特徴点を求めて、画像間での対応する特徴点の移動量を求めるような手法も適用可能である。
入力操作位置検出部303は、タッチパネル104に対する入力操作(タッチ操作)を検出して、入力操作が行われた位置の情報(座標)を取得する。入力操作移動量算出部304は、入力操作位置検出部303により取得した入力操作位置の情報に基づいて、ユーザの指の移動量を示す入力操作移動量を算出する。入力操作移動量算出部304は、第1の算出部の一例である。時刻計測部305は、画像移動量算出部302及び入力操作移動量算出部304に対して時刻情報を提供する。ここで、生体画像の取得と入力操作位置の情報の取得とは同時に行われるので、時刻計測部305が提供する時刻情報に基づいて、生体画像と入力操作位置の情報との時間的な同期をとっている。
ノイズ領域検出部306は、画像移動量算出部302により算出した画像内の各領域の移動量と、入力操作移動量算出部304により算出した入力操作移動量とに基づいて、画像ノイズを含む領域を検出する。ノイズ領域検出部306は、検出部の一例である。生体センサ107により取得される画像は、生体センサ107と被写体である生体との距離によって移動速度が異なるが、画像の移動速度の変化(画像移動量の変化)は、入力操作における移動速度の変化(入力操作移動量の変化)に比例している。そこで、ノイズ領域検出部306は、算出した画像内の各領域の移動量と入力操作移動量とを比較し、移動量の変化が入力操作移動量の変化に合致しない画像内の領域を、画像ノイズを含む領域として検出する。言い換えれば、ノイズ領域検出部306は、入力操作移動量に対応していない移動量変化を示す画像内の領域を、画像ノイズを含む領域として検出する。
認証処理部307は、生体情報取得部301により取得した生体画像IN1、入力操作位置検出部303により取得した入力操作位置の情報IN2、及びノイズ領域検出部306での検出結果IN3が入力され、生体認証に係る認証処理を行う。
認証処理部307は、例えば、生体画像IN1が画像ノイズを含まない(画像ノイズを含むとされた領域の数が所定数より少ない)生体画像であると、ノイズ領域検出部306での検出結果IN3が示す場合に認証処理を実行する。生体画像IN1が画像ノイズを含む(画像ノイズを含むとされた領域の数が所定数以上の)生体画像であると、ノイズ領域検出部306での検出結果IN3が示す場合には、画像ノイズが検出されたことをユーザに示し、生体画像の撮影を再実行する。
なお、例えば、検出された画像ノイズが定常的なノイズである場合、画像ノイズが生体センサ107に付着した汚れによるものであると推定されるので、生体画像の撮影を再実行する前に、ユーザに対して生体センサ107の清掃を促す。さらに、生体センサ107の清掃後に生体画像の撮影を数回繰り返しても同じ領域に定常的なノイズが検出される場合、生体センサ107に対するキズや生体センサ107の故障等、復旧困難な原因が考えられるため、保守等を勧める通知を行うようにしてもよい。
認証処理部307は、図4に示すように特徴抽出部401、登録データ生成部402、登録データベース403、及び照合部404を有する。特徴抽出部401は、入力される生体画像IN1から生体情報(例えば、手のひらの静脈パターンや掌紋)の特徴を抽出する。特徴抽出部401は、例えば静脈パターンや掌紋における分岐点や端点を検出し、分岐点や端点を含む近傍画像の特徴量を生体情報の特徴として抽出する。このとき、特徴抽出部401は、入力操作位置の情報IN2及びノイズ領域検出部306での検出結果IN3に基づいて、画像ノイズを含む領域として検出された領域を生体画像IN1から除いて生体情報の特徴を抽出するようにしてもよい。
登録データ生成部402は、テンプレートの登録時に、特徴抽出部401により抽出された生体情報の特徴から、位置及び特徴量を含む登録データ(登録テンプレート)を生成する。登録データ生成部402により生成された登録データRDTは、テンプレートを格納する登録データベース403に記憶される。照合部404は、生体認証における照合時に、特徴抽出部401により抽出された生体情報の特徴を照合データIDTとして、照合データ(入力データ)IDTと登録データベース403に格納されている登録データ(テンプレート)との照合処理を行う。照合部404は、照合データと登録データとの間で生体情報の特徴がどの程度似ているかを表す類似度を算出して照合結果OUTを出力する。
図5は、本実施形態における生体画像処理装置の動作例を示すフローチャートである。図5には、本実施形態における画像ノイズの検出動作について示している。
タッチパネル104に対するユーザの入力操作の開始を検出してから(S501のYES)、タッチパネル104に対するユーザの入力操作の終了を検出するまで(S503のYES)、ステップS502での入力操作位置の検出及び生体画像の撮影が、繰り返して実行される。すなわち、入力操作の開始を検出してから入力操作の終了を検出するまで、タッチパネル104及び入力操作位置検出部303が、入力操作が行われた位置の情報(座標)を連続的に取得し、生体センサ107及び生体情報取得部301が、生体画像を連続的に取得する。
次に、ステップS504にて、入力操作移動量算出部304が、検出された入力操作位置の情報から、タッチパネル104上でのユーザの指の移動量(入力操作移動量)を算出する。また、ステップS505にて、画像移動量算出部302が、撮影された画像から、画像内の各領域の移動量(画像移動量)を算出する。なお、ステップS504における入力操作移動量の算出処理と、ステップS505における画像移動量の算出処理を行う順序は、図5に示す順序に限らず、画像移動量の算出した後に入力操作移動量を算出するようにしてもよいし、入力操作移動量と画像移動量とを並列して算出するようにしてもよい。
次に、ステップS506にて、ノイズ領域検出部306が、ステップS504、S05においてそれぞれ算出された入力操作移動量と画像移動量とを比較して、取得された画像において画像ノイズを含む領域を検出する。ノイズ領域検出部306は、画像移動量の変化が入力操作移動量の変化に合致しない(画像領域の動きと入力操作の動きとが相対的な一致を示さない)領域を画像ノイズを含む領域として検出する。そして、画像ノイズの検出動作を終了する。
このように本実施形態によれば、タッチパネル104上でのユーザの指の移動量(入力操作移動量)と撮影された画像の各領域の移動量(画像移動量)とを算出し、画像移動量の変化が入力操作移動量の変化に合致しない領域を、画像ノイズを含む領域として検出する。これにより、生体センサ107に汚れが付着したこと等により発生する定常的な画像ノイズを検出することができるとともに、レンズフレア等による非定常的な画像ノイズを検出することができる。また、画像移動量の変化が入力操作移動量の変化に合致していれば、画像ノイズを含む領域として検出されることはないので、タッチパネルの摩擦等によって被写体の動きが止まってしまった場合などにおいて画像ノイズとして検出されることを防止することができる。したがって、タッチパネルに接触しながら移動する被写体(生体)を生体センサで撮影して得られる画像における画像ノイズの検出精度を向上させることができる。
例えば、生体センサ107の撮像面に皮脂等の汚れが付着した場合、図6(A)に示すように撮影画像601は、固定の領域に汚れ602が写った画像となる。このとき、取得された画像における移動量は、図6(B)に一例を示すような、被写体である手の領域603の画像移動量611及び汚れ602が写った領域の画像移動量612となる。
手の領域603の画像移動量611は、図6(C)に示すタッチパネル104に対する入力操作での入力操作移動量621に比例して変化する。一方、汚れ602が写った領域の画像移動量612は、図6(C)に示すタッチパネル104に対する入力操作での入力操作移動量621にかかわらず一定(ゼロ)となる。したがって、画像移動量の変化が入力操作移動量の変化に合致していない領域を検出することで、生体センサ107の撮像面に付着した汚れによる画像ノイズを検出可能となる。
また、例えば、生体センサ107の撮像面に皮脂等の汚れが付着した場合、図7(A)に示すように撮影画像701は、固定の領域に汚れ702が写った画像となる。また、タッチパネル104上で指を移動させているときに、時刻T71〜T72の期間において、タッチパネルの摩擦等によって指の動きが止まってしまったとする。このとき、取得された画像における移動量は、図7(B)に一例を示すような、被写体である手の領域703の画像移動量711及び汚れ702が写った領域の画像移動量712となる。
手の領域703の画像移動量711は、指の動きが止まった時刻T71〜T72において一定となるが、図7(C)に示すタッチパネル104に対する入力操作での入力操作移動量721に比例した変化となる。したがって、時刻T71〜T72において、画像移動量711が変化しなくとも画像ノイズとして検出されることはなく、画像ノイズとして検出されることを防止できる。なお、汚れ702が写った領域の画像移動量712は、図7(C)に示すタッチパネル104に対する入力操作での入力操作移動量721とは異なる変化となる。したがって、図6(A)〜図6(C)に示した例と同様に、画像移動量の変化が入力操作移動量の変化に合致していない領域を検出することで、生体センサ107の撮像面に付着した汚れによる画像ノイズを検出可能となる。
また、例えば、指の隙間から差し込む光によってレンズフレア等が発生した場合、図8(A)に示すように撮影画像801は、反射ノイズ802が写った画像となる。この反射ノイズ802は、手の位置によって発生するため、常に観測されるものではなく、本例では時刻T81〜T82において、反射ノイズ802が発生したものとする。このとき、取得された画像における移動量は、図8(B)に一例を示すような、被写体である手の領域608の画像移動量811及び反射ノイズ802が写った領域の画像移動量812となる。
手の領域803の画像移動量811は、図8(C)に示すタッチパネル104に対する入力操作での入力操作移動量821に比例して変化する。一方、反射ノイズ802が写った領域の画像移動量812は、時刻T81〜時刻T82において、図8(C)に示すタッチパネル104に対する入力操作での入力操作移動量821と異なる変化を示す。したがって、入力操作の開始から終了までにおいて、画像移動量の変化が入力操作移動量の変化に合致していない領域を検出することで、レンズフレア等による非定常的な画像ノイズを検出可能となる。
また、例えば、本実施形態における画像ノイズの検出技術は、液晶モニタ等を用いたなりすまし攻撃の検出にも適用することができ、液晶モニタ等を用いたなりすまし攻撃を防ぐことが可能である。液晶モニタ等を用いたなりすまし攻撃とは、生体情報の写真や動画を液晶モニタ等に表示し、それを生体センサ107にかざして表示画面を撮影させることで、本人になりすまして生体認証にて本人確認を行うものである。この液晶モニタ等を用いたなりすまし攻撃が実行された場合、生体センサ107の照明部からの光が液晶モニタ等で反射し、画像移動量は、図9(A)に一例を示すような、反射が発生していない領域の画像移動量911及び反射が発生した領域の画像移動量912となる。
反射が発生していない領域の画像移動量911は、図9(B)に示すタッチパネル104に対する入力操作での入力操作移動量921に比例して変化するものの、反射が発生した領域の画像移動量912は、入力操作移動量921とは異なる変化を示す。したがって、したがって、画像移動量の変化が入力操作移動量の変化に合致していない領域を検出することで、液晶モニタ等を用いたなりすまし攻撃を検出可能となる。
なお、前述した例では、入力操作での指の動き(入力操作移動量の変化)と画像の動き(画像移動量の変化)とが相対的に一致するか否かにより画像ノイズを検出するようにしているが、生体センサ107と被写体である生体(手)との距離の情報を用いることで、画像ノイズの検出精度をさらに向上させることが可能である。図10は、本実施形態における生体画像処理装置の他の機能構成例を示すブロック図である。図10において、図3に示した構成要素と同一の機能を有する構成要素には同一の符号を付し、重複する説明は省略する。
図10に示す生体画像処理装置は、タッチパネル104、生体センサ107、生体情報取得部301、画像移動量算出部302、入力操作位置検出部303、入力操作移動量算出部304、時刻計測部305、ノイズ領域検出部306、及び認証処理部307に加え、距離センサ1001及び距離情報取得部1002を有する。距離センサ1001は、生体センサ107と被写体である生体(手)との距離を検出する。距離センサ1001は、距離検出部の一例である。距離情報取得部1002は、距離センサ1001から生体センサ107と被写体である生体(手)との距離を示す距離情報を取得してノイズ領域検出部306に出力する。
ノイズ領域検出部306は、画像内の各領域の移動量と入力操作移動量とに基づいて画像ノイズを含む領域を検出する。このとき、ノイズ領域検出部306は、距離情報取得部1002からの距離情報に基づいて、生体センサ107と被写体である生体(手)との距離に応じた画像移動量と入力操作移動量との対応関係(比例関係における比例定数等)を求めて、画像ノイズを含む領域の検出を行う。このように生体センサ107と被写体である生体(手)との距離の情報を用いることで、画像移動量の変化と入力操作移動量の変化との対応が正確に求めることが可能になり、画像ノイズの検出精度をさらに向上させることができる。なお、距離センサ1001を設ける例を示したが、生体センサ107により撮影された画像の輝度情報等から生体センサ107と被写体である生体(手)との距離を算出するような構成としてもよい。
前述した実施形態における生体画像処理装置及びそれを適用した生体認証装置は、例えばコンピュータがプログラムを実行することによって実現することができる。また、かかるプログラムを記録したコンピュータ読み取り可能な記録媒体も本発明の実施形態として適用することができる。記録媒体としては、例えばフレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。
また、コンピュータがプログラムを実行し処理を行うことにより、前述の実施形態の機能が実現されるプログラムプロダクトは、本発明の実施形態として適用することができる。プログラムプロダクトとしては、例えば前述の実施形態の機能を実現するプログラム自体、プログラムが読み込まれたコンピュータがある。また、プログラムプロダクトとして、ネットワークを介して通信可能に接続されたコンピュータにプログラムを提供可能な送信装置、前記送信装置を備えるネットワークシステム等がある。
また、供給されたプログラムとコンピュータにおいて稼動しているオペレーティングシステム(OS)又は他のアプリケーション等とにより前述の実施形態の機能が実現される場合も、かかるプログラムは本発明の実施形態として適用することができる。また、供給されたプログラムの処理のすべて又は一部がコンピュータの機能拡張ユニットにより行われて前述の実施形態の機能が実現される場合も、かかるプログラムは本発明の実施形態として適用することができる。また、本実施形態をネットワーク環境で利用するべく、全部又は一部のプログラムが他のコンピュータで実行されるようになっていてもよい。
なお、前記実施形態は、何れも本発明を実施するにあたっての具体化のほんの一例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。
以上の本実施形態を含む実施形態に関し、さらに以下の付記を開示する。
(付記1)
タッチパネルと、
生体の画像を撮影する撮影部と、
前記タッチパネルに接触しながら移動する生体の前記タッチパネル上の移動量を算出する第1の算出部と、
前記タッチパネルに接触しながら生体が移動する間に前記撮影部で撮影した画像の領域毎の移動量を算出する第2の算出部と、
前記第1の算出部及び前記第2の算出部によりそれぞれ算出した移動量に基づいて、前記撮影した画像内の画像ノイズを検出する検出部とを有することを特徴とする生体画像処理装置。
(付記2)
前記検出部は、前記第2の算出部が算出した移動量の変化が、前記第1の算出部が算出した移動量の変化と合致しない領域を、前記画像ノイズを含む領域として検出することを特徴とする付記1記載の生体画像処理装置。
(付記3)
前記撮影部は、前記タッチパネルの周辺に配置され、前記タッチパネルに接触しながら移動する生体の少なくとも一部を撮影することを特徴とする付記1又は2記載の生体画像処理装置。
(付記4)
前記第2の算出部は、前記撮影部で撮影した複数の画像から領域毎の移動量を算出することを特徴とする付記1〜3の何れか1項に記載の生体画像処理装置。
(付記5)
前記撮影部が撮影する生体と前記撮影部との距離を検出する距離検出部を有し、
前記検出部は、前記第1の算出部及び前記第2の算出部によりそれぞれ算出した移動量及び前記距離検出部により検出した距離に基づいて、前記撮影した画像内の画像ノイズを検出することを特徴とする付記1〜4の何れか1項に記載の生体画像処理装置。
(付記6)
前記撮影部による画像の撮影を行う際に、前記タッチパネル上で生体を移動させる位置及び方向を前記タッチパネルに表示することを特徴とする付記1〜5の何れか1項に記載の生体画像処理装置。
(付記7)
前記撮影部で撮影された生体の画像から生体情報の特徴を抽出して認証を行う認証処理部を有することを特徴とする付記1〜6の何れか1項に記載の生体画像処理装置。
(付記8)
端末装置が有するタッチパネルに接触しながら移動する生体の前記タッチパネル上の移動量を算出し、
前記タッチパネルに接触しながら生体が移動する間に前記端末装置が有する生体の画像を撮影する撮影部で撮影した画像の領域毎の移動量を算出し、
算出した前記タッチパネル上の移動量及び前記画像の領域毎の移動量とに基づいて、前記撮影した画像内の画像ノイズを検出することを特徴とする生体画像処理方法。
(付記9)
端末装置が有するタッチパネルに接触しながら移動する生体の前記タッチパネル上の移動量を算出するステップと、
前記タッチパネルに接触しながら生体が移動する間に前記端末装置が有する生体の画像を撮影する撮影部で撮影した画像の領域毎の移動量を算出するステップと、
算出した前記タッチパネル上の移動量及び前記画像の領域毎の移動量とに基づいて、前記撮影した画像内の画像ノイズを検出するステップとをコンピュータに実行させるための生体画像処理プログラム。
(付記10)
端末装置が有するタッチパネルに接触しながら移動する生体の前記タッチパネル上の移動量を算出するステップと、
前記タッチパネルに接触しながら生体が移動する間に前記端末装置が有する生体の画像を撮影する撮影部で撮影した画像の領域毎の移動量を算出するステップと、
算出した前記タッチパネル上の移動量及び前記画像の領域毎の移動量とに基づいて、前記撮影した画像内の画像ノイズを検出するステップとをコンピュータに実行させるための生体画像処理プログラムを記録したことを特徴とするコンピュータ読み取り可能な記録媒体。
100 端末装置
101 CPU
102 メモリ
103 記憶部
104 タッチパネル
105 表示部
106 入力部
107 生体センサ
301 生体情報取得部
302 画像移動量算出部
303 入力操作位置検出部
304 入力操作移動量算出部
305 時刻計測部
306 ノイズ領域検出部
307 認証処理部
401 特徴抽出部
402 登録データ生成部
403 登録データベース
404 照合部
1001 距離センサ
1002 距離情報取得部

Claims (9)

  1. タッチパネルと、
    生体の画像を撮影する撮影部と、
    前記タッチパネルに接触しながら移動する生体の前記タッチパネル上の移動量を算出する第1の算出部と、
    前記タッチパネルに接触しながら生体が移動する間に前記撮影部で撮影した画像の領域毎の移動量を算出する第2の算出部と、
    前記第1の算出部及び前記第2の算出部によりそれぞれ算出した移動量に基づいて、前記撮影した画像内の画像ノイズを検出する検出部とを有することを特徴とする生体画像処理装置。
  2. 前記検出部は、前記第2の算出部が算出した移動量の変化が、前記第1の算出部が算出した移動量の変化と合致しない領域を、前記画像ノイズを含む領域として検出することを特徴とする請求項1記載の生体画像処理装置。
  3. 前記撮影部は、前記タッチパネルの周辺に配置され、前記タッチパネルに接触しながら移動する生体の少なくとも一部を撮影することを特徴とする請求項1又は2記載の生体画像処理装置。
  4. 前記第2の算出部は、前記撮影部で撮影した複数の画像から領域毎の移動量を算出することを特徴とする請求項1〜3の何れか1項に記載の生体画像処理装置。
  5. 前記撮影部が撮影する生体と前記撮影部との距離を検出する距離検出部を有し、
    前記検出部は、前記第1の算出部及び前記第2の算出部によりそれぞれ算出した移動量及び前記距離検出部により検出した距離に基づいて、前記撮影した画像内の画像ノイズを検出することを特徴とする請求項1〜4の何れか1項に記載の生体画像処理装置。
  6. 前記撮影部による画像の撮影を行う際に、前記タッチパネル上で生体を移動させる位置及び方向を前記タッチパネルに表示することを特徴とする請求項1〜5の何れか1項に記載の生体画像処理装置。
  7. 前記撮影部で撮影された生体の画像から生体情報の特徴を抽出して認証を行う認証処理部を有することを特徴とする請求項1〜6の何れか1項に記載の生体画像処理装置。
  8. 端末装置が有するタッチパネルに接触しながら移動する生体の前記タッチパネル上の移動量を算出し、
    前記タッチパネルに接触しながら生体が移動する間に前記端末装置が有する生体の画像を撮影する撮影部で撮影した画像の領域毎の移動量を算出し、
    算出した前記タッチパネル上の移動量及び前記画像の領域毎の移動量とに基づいて、前記撮影した画像内の画像ノイズを検出することを特徴とする生体画像処理方法。
  9. 端末装置が有するタッチパネルに接触しながら移動する生体の前記タッチパネル上の移動量を算出するステップと、
    前記タッチパネルに接触しながら生体が移動する間に前記端末装置が有する生体の画像を撮影する撮影部で撮影した画像の領域毎の移動量を算出するステップと、
    算出した前記タッチパネル上の移動量及び前記画像の領域毎の移動量とに基づいて、前記撮影した画像内の画像ノイズを検出するステップとをコンピュータに実行させるための生体画像処理プログラム。
JP2017231976A 2017-12-01 2017-12-01 生体画像処理装置、生体画像処理方法、及び生体画像処理プログラム Active JP7092984B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017231976A JP7092984B2 (ja) 2017-12-01 2017-12-01 生体画像処理装置、生体画像処理方法、及び生体画像処理プログラム
US16/204,115 US10936848B2 (en) 2017-12-01 2018-11-29 Biometric image processing apparatus, biometric image processing method, and biometric image processing program
EP18209169.4A EP3493111B1 (en) 2017-12-01 2018-11-29 Biometric image processing apparatus, method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017231976A JP7092984B2 (ja) 2017-12-01 2017-12-01 生体画像処理装置、生体画像処理方法、及び生体画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2019101745A true JP2019101745A (ja) 2019-06-24
JP7092984B2 JP7092984B2 (ja) 2022-06-29

Family

ID=64559548

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017231976A Active JP7092984B2 (ja) 2017-12-01 2017-12-01 生体画像処理装置、生体画像処理方法、及び生体画像処理プログラム

Country Status (3)

Country Link
US (1) US10936848B2 (ja)
EP (1) EP3493111B1 (ja)
JP (1) JP7092984B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111563454B (zh) * 2020-05-08 2023-08-08 浙江大学 一种双重活体验证的手部静脉识别方法及装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004026139A1 (ja) * 2002-09-17 2004-04-01 Fujitsu Limited 生体情報取得装置および生体情報による認証装置
JP2017136136A (ja) * 2016-02-01 2017-08-10 富士通株式会社 生体情報処理装置、生体情報処理方法、生体情報処理プログラム、および距離検知装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4400481B2 (ja) 2005-03-03 2010-01-20 ノーリツ鋼機株式会社 画像処理装置
EP2031557B1 (en) 2006-06-08 2017-12-27 Fujitsu Ltd. Uncleanness detecting device
KR102264808B1 (ko) * 2014-06-23 2021-06-14 삼성전자주식회사 지문 처리 방법 및 그 전자 장치
US20160092718A1 (en) * 2014-07-16 2016-03-31 Eric Dean Jensen Fingerprint sensor
JP6589309B2 (ja) 2015-03-16 2019-10-16 富士通株式会社 端末装置、生体認証プログラム及び生体認証方法
JP6657593B2 (ja) 2015-05-08 2020-03-04 富士通株式会社 生体撮影装置、生体撮影方法及び生体撮影プログラム
JP6578843B2 (ja) 2015-09-18 2019-09-25 富士通株式会社 システム、装置、方法およびプログラム
JP6679897B2 (ja) 2015-11-20 2020-04-15 富士通株式会社 情報処理装置、生体認証方法および生体認証プログラム
EP3416050B1 (en) * 2016-12-26 2022-01-26 Shenzhen Goodix Technology Co., Ltd. Method and device for guiding fingerprint recognition

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004026139A1 (ja) * 2002-09-17 2004-04-01 Fujitsu Limited 生体情報取得装置および生体情報による認証装置
JP2017136136A (ja) * 2016-02-01 2017-08-10 富士通株式会社 生体情報処理装置、生体情報処理方法、生体情報処理プログラム、および距離検知装置

Also Published As

Publication number Publication date
JP7092984B2 (ja) 2022-06-29
EP3493111A1 (en) 2019-06-05
US20190171863A1 (en) 2019-06-06
US10936848B2 (en) 2021-03-02
EP3493111B1 (en) 2021-10-06

Similar Documents

Publication Publication Date Title
JP7282851B2 (ja) 装置、方法及びプログラム
US9330325B2 (en) Apparatus and method for reducing noise in fingerprint images
KR101603469B1 (ko) 생체 인증 장치, 생체 인증 방법 및 생체 인증용 컴퓨터 프로그램
CN111327788B (zh) 相机组的同步方法、测温方法、装置及电子系统
JP6731097B2 (ja) 人体行動分析方法、人体行動分析装置、機器及びコンピュータ可読記憶媒体
CN107438173A (zh) 视频处理装置、视频处理方法和存储介质
TW201401186A (zh) 人臉判斷系統以及方法
CN108875507B (zh) 行人跟踪方法、设备、系统和计算机可读存储介质
JP2018036965A (ja) 生体検知装置
JP7484985B2 (ja) 認証システム、認証方法、及び、プログラム
JP6638723B2 (ja) 画像解析装置、画像解析方法、及び、画像解析プログラム
JP2017010210A (ja) 顔検出装置、顔検出システム、及び顔検出方法
KR20120028248A (ko) 이동장치의 제스처 제어장치 및 방법
JP7092984B2 (ja) 生体画像処理装置、生体画像処理方法、及び生体画像処理プログラム
JP6229554B2 (ja) 検出装置および検出方法
JP2013196268A (ja) 対象物検出装置および対象物検出方法
JP2016045742A (ja) 情報処理装置およびプログラム
KR20180100890A (ko) 원거리 멀티 생체 인식 방법 및 장치
JP2018026012A (ja) 手のひら検知装置、掌紋認証装置、手のひら検知方法、及びプログラム
EP3364339B1 (en) Device, method, and non-transitory computer-readable storage medium for biometric authentication
JP2017004438A (ja) 入力装置、指先位置検出方法及び指先位置検出用コンピュータプログラム
JP6364828B2 (ja) 生体認証装置および携帯型電子装置
JP2018092507A (ja) 画像処理装置、画像処理方法及びプログラム
US20160188856A1 (en) Authentication device, authentication method, and non-transitory computer readable medium
JP2017016592A (ja) 主被写体検出装置、主被写体検出方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200911

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210928

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211026

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220517

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220530

R150 Certificate of patent or registration of utility model

Ref document number: 7092984

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150