JPWO2018142692A1 - 撮像装置、および画像処理装置 - Google Patents

撮像装置、および画像処理装置 Download PDF

Info

Publication number
JPWO2018142692A1
JPWO2018142692A1 JP2018522168A JP2018522168A JPWO2018142692A1 JP WO2018142692 A1 JPWO2018142692 A1 JP WO2018142692A1 JP 2018522168 A JP2018522168 A JP 2018522168A JP 2018522168 A JP2018522168 A JP 2018522168A JP WO2018142692 A1 JPWO2018142692 A1 JP WO2018142692A1
Authority
JP
Japan
Prior art keywords
infrared light
image
unit
light image
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018522168A
Other languages
English (en)
Inventor
信夫 山崎
信夫 山崎
貴司 中野
貴司 中野
幸夫 玉井
幸夫 玉井
大輔 本田
大輔 本田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Publication of JPWO2018142692A1 publication Critical patent/JPWO2018142692A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/21Polarisation-affecting properties
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • G02B5/208Filters for use with infrared or ultraviolet radiation, e.g. for separating visible light from infrared and/or ultraviolet radiation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/62Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/30Polarising elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/131Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing infrared wavelengths

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Toxicology (AREA)
  • Optics & Photonics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Image Input (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)
  • Optical Filters (AREA)
  • Polarising Elements (AREA)

Abstract

赤外光画像に含まれる映り込み像の影響を低減する。撮像部(20)は、赤外光画像撮像領域(21a)および可視光画像撮像領域(21b)を含む撮像素子(21)と、主軸方向が互いに異なる複数の偏光素子(25a〜25d)を含む複数の偏光ユニットが、赤外光画像撮像領域を構成する複数の画素に対応付けられて二次元的に配列されている偏光フィルタ(25)と、を備える。

Description

以下の開示は、画像を撮像する撮像装置等に関する。
近年、携帯電話機またはタブレット型PC(Personal Computer)等の情報処理装置において、セキュリティに対するユーザの認識はますます高まっている。これに伴い、種々の認証技術が開発されている。近年では、虹彩認証技術等の、非常に信頼性の高い認証技術も開発され、当該虹彩認証技術を備えた携帯電話機も市販されている。
このような虹彩認証技術を備えた本人認証装置の一例が、特許文献1に開示されている。特許文献1には、可視光画像を用いた認証(例:顔認証)と、赤外光画像を用いた認証(例:虹彩認証)とを行うことが可能な小型の本人認証装置が開示されている。当該本人認証装置は、可視光および赤外光を検出し、それぞれ可視光画像および赤外光画像として出力する単一の撮像部を備え、可視光画像および赤外線画像のそれぞれを利用して本人の認証を行う。撮像部は、具体的には、赤色(R)、緑色(G)および青色(B)に加え、赤外線(IR)を受光する受光部を含む。
日本国公開特許公報「特開2005−339425号公報(2005年12月8日公開)」
ここで一般に、撮像された赤外線画像において、画像処理の対象となる像(例:虹彩の像)を形成する光は、そのほとんどが拡散反射成分から構成される。一方、画像処理において除去すべきノイズとなる像(処理対象外とすべき映り込み像。例:虹彩に映り込んだ像)を形成する光は、そのほとんどが鏡面反射成分から構成される。したがって、赤外線画像を用いて精度良く認証を行う場合には、赤外線画像を形成する光から鏡面反射成分を適切に除去する必要がある。
しかしながら、特許文献1には、鏡面反射成分の除去に関する開示が一切ない。そのため、特許文献1の本人認証装置では、赤外線画像に映り込み像が含まれる場合には、映り込み像も処理対象の像の一部として特定され、誤認証が行われてしまう可能性がある。
本開示の一態様は、撮像した赤外光画像に対する画像処理を行う場合に、赤外光画像に含まれる処理対象の像以外の映り込み像の影響を低減することが可能な撮像装置を実現することを目的とする。
上記の課題を解決するために、本開示の一態様に係る撮像装置は、二次元的に配列された複数の画素によって画像を撮像する撮像素子を備える撮像装置であって、上記撮像素子は、可視光を受光することにより可視光画像を撮像する可視光画像撮像領域と、赤外光を受光することにより赤外光画像を撮像する赤外光画像撮像領域と、を含み、さらに、主軸方向が互いに異なる複数の偏光素子を含む偏光ユニットを複数含み、当該複数の偏光ユニットが、上記赤外光画像撮像領域を構成する上記複数の画素に対応付けられて二次元的に配列されている偏光フィルタを備える。
本開示の一態様によれば、撮像した赤外光画像に対する画像処理を行う場合に、赤外光画像に含まれる処理対象の像以外の映り込み像の影響を低減することが可能となる。
実施形態1に係る撮像部の、赤外光画像撮像領域側の構成の一例を示す図であり、(a)は撮像素子の構成の概略を示す図であり、(b)は赤外光画像撮像領域の構成の概略を示す断面図であり、(c)は偏光フィルタの構成の概略を示す平面図である。 実施形態1に係る携帯情報端末の構成の一例を示す図であり、(a)は携帯情報端末の外観の一例を示し、(b)は携帯情報端末が備える撮像部の外観の一例を示し、(c)は撮像部によって撮像された画像の一例を示す。 虹彩認証について説明するための図である。 実施形態1に係る撮像部の、可視光画像撮像領域側の構成の一例を示す図であり、(a)は撮像素子の構成の概略を示す図であり、(b)は可視光画像撮像領域の構成の概略を示す断面図であり、(c)はカラーフィルタの構成の概略を示す平面図である。 実施形態1に係る携帯情報端末の構成を示す機能ブロック図である。 実施形態1に係る制御部による虹彩認証処理を示すフローチャートである。 (a)は、実施形態1の変形例に係る偏光フィルタの構成を示す図であり、(b)は、実施形態1の別の変形例に係る偏光フィルタの構成を示す図である。 実施形態2に係る携帯情報端末の構成の一例を示す図であり、(a)は携帯情報端末の外観の一例を示し、(b)は携帯情報端末が備える偏光フィルタの構成の概略を示す平面図である。 実施形態2に係る携帯情報端末の構成を示す機能ブロック図である。 実施形態2に係る撮像部の構成の概略を示す断面図である。 実施形態2に係る制御部による虹彩認証処理を示すフローチャートである。 実施形態3に係る携帯情報端末の構成を示す機能ブロック図である。 画素の出力値の周期的な変化について説明するための図であり、(a)は人物の画像が印刷された紙面を連続して撮像した場合における画素の出力値を示す図であり、(b)は実際の人物を連続して撮像した場合における画素の出力値を示す図である。 実施形態3に係る制御部による虹彩認証処理を示すフローチャートである。
〔実施形態1〕
以下、本開示の実施形態1について、図1〜図7に基づいて詳細に説明する。
<携帯情報端末1の構成>
まず、携帯情報端末1の構成について、図2を用いて説明する。図2は、携帯情報端末1の構成の一例を示す図であり、(a)は携帯情報端末1の外観の一例を示し、(b)は携帯情報端末1が備える撮像部20の外観の一例を示し、(c)は撮像部20によって撮像された画像の一例を示す。
本実施形態の携帯情報端末1は、被写体で反射された可視光および赤外光を取得することにより被写体を含む画像を撮像する撮像機能と、撮像した画像に対する画像処理を行う画像処理機能とを備える。
また、本実施形態の携帯情報端末1は、画像処理の結果を受けて、撮像した画像に含まれる被写体の認証を行う認証機能を備える。特に、携帯情報端末1は、被写体であるユーザ(人間)の眼球で反射された赤外光を受光することにより生成される赤外光画像に対して画像処理を行うことにより、虹彩認証を行う機能を搭載している。この場合、携帯情報端末1は、撮像されたユーザの眼球を含む赤外光画像において、眼球で反射された赤外光に含まれる拡散反射成分と鏡面反射成分とを分離し、当該分離した赤外光画像を用いて当該ユーザの虹彩認証を行うことが可能な端末である。
携帯情報端末1は、図2の(a)に示すように、撮像部20(撮像装置)、赤外光源30および表示部40を備える。撮像部20は、ユーザ操作に基づいて、被写体を含む画像を撮像する。赤外光源30は、例えば撮像部20が赤外光を受光することにより赤外光画像を撮像するときに、赤外光(特に近赤外光)を出射する。表示部40は、撮像部20が撮像した画像等、各種画像を表示する。
<撮像部20の構成>
次に、撮像部20について、図1、図2および図4を用いて説明する。図1は、撮像部20の、赤外光画像撮像領域21a側の構成の一例を示す図であり、(a)は撮像素子21の構成の概略を示す図であり、(b)は赤外光画像撮像領域21aの構成の概略を示す断面図であり、(c)は偏光フィルタ25の構成の概略を示す平面図である。また、図4は、撮像部20の、可視光画像撮像領域21b側の構成の一例を示す図であり、(a)は撮像素子21の構成の概略を示す図であり、(b)は可視光画像撮像領域21bの構成の概略を示す断面図であり、(c)はカラーフィルタ31の構成の概略を示す平面図である。
(撮像素子21)
撮像部20は、図2の(b)に示す撮像素子21を備える。撮像素子21は、二次元的に配列された複数の画素によって画像を撮像する。撮像素子21としては、例えば、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)が挙げられる。本実施形態では、撮像素子21がCCDで構成されている場合を例に挙げて説明する。
撮像素子21は、具体的には、赤外光を受光することにより赤外光画像を撮像する赤外光画像撮像領域21aと、可視光を受光することにより可視光画像を撮像する可視光画像撮像領域21bと、を含む。換言すれば、1つの撮像素子21に赤外光画像撮像領域21aおよび可視光画像撮像領域21bが形成されている。そのため、撮像素子21が、赤外光画像および可視光画像を撮像する撮像部20に適用されていることにより、撮像部20の小型化を図ることができる。
本実施形態では、赤外光画像撮像領域21aは、虹彩認証を行うときに、図2の(c)に示すようにユーザの眼球を被写体として赤外光画像を撮像する認証モードにおいて用いられる領域である。人間の瞳は様々な色を有しており、可視光画像の場合、当該色によって虹彩の像が不鮮明になる可能性がある。一方、赤外光画像の場合、当該色の成分を除去した瞳の像を取得することができるため、鮮明な虹彩の像を取得することができる。そのため、本実施形態の認証モードにおいては、赤外光画像を取得している。
また、可視光画像撮像領域21bは、被写体の可視光画像を撮像する通常モードにおいて用いられる領域である。本実施形態では、可視光画像撮像領域21bが撮像した可視光画像は認証等には用いられない。可視光画像撮像領域21bは、例えば図2の(c)に示すように、被写体であるユーザの顔全体を含む可視光画像を取得する。
このように、撮像素子21を搭載した携帯情報端末1では、虹彩認証を行うための赤外光画像と、認証には用いない可視光画像とを、共通の撮像部20によって撮像することが可能である。そのため、携帯情報端末1は、図2の(a)に示すように、表示部40側に撮像部20を設けることにより、虹彩認証用の撮像部(赤外光カメラ)を設けることなく、赤外光画像を撮像することができる。つまり、上述のように撮像部20の小型化を図ることにより、赤外光画像および可視光画像を撮像することが可能な携帯情報端末1の小型化を図ることができる。
また、撮像素子21は、赤外光画像撮像領域21aおよび可視光画像撮像領域21bを少なくとも含んでいればよい。本実施形態では、撮像素子21の撮像領域が、携帯情報端末1(具体的には撮像素子21)の長手方向(Y軸方向)に沿って赤外光画像撮像領域21aおよび可視光画像撮像領域21bに分割されている。虹彩認証を行う場合、一般には、ユーザは、携帯情報端末1の長手方向がユーザの2つの眼を結ぶ線と交差するように携帯情報端末1を把持して、ユーザの眼を撮像する。虹彩認証時の一般的な使用態様を考慮すれば、撮像素子21の撮像領域が、上記長手方向に沿って赤外光画像撮像領域21aおよび可視光画像撮像領域21bに分割されていることが好ましい。
なお、図2の(b)に示す撮像素子21においては、+Y軸方向を上とした場合、上側に赤外光画像撮像領域21a、下側に可視光画像撮像領域21bが配置されているが、逆であってもよい。また、撮像素子21の撮像領域は、携帯情報端末1の短手方向(X軸方向)に沿って赤外光画像撮像領域21aおよび可視光画像撮像領域21bに分割されていてもよい。このような分割は、虹彩認証時に携帯情報端末1の長手方向がユーザの2つの眼を結ぶ線と略平行になるように携帯情報端末1を把持してユーザの眼を撮像する場合に有効である。ただし、虹彩認証時にユーザの眼を撮像できれば、撮像素子21において、赤外光画像撮像領域21aおよび可視光画像撮像領域21bがどのように配置されていてもよい。
また、赤外光画像撮像領域21aおよび可視光画像撮像領域21bはそれぞれ、図1の(b)および図4の(b)に示すように、転送線22、23およびフォトダイオード24を備える。
転送線22、23は、赤外光画像撮像領域21aおよび可視光画像撮像領域21bの表面において、それぞれX軸方向およびY軸方向に延伸しており、フォトダイオード24からの出力を制御部10(後述)に送信する。これにより、赤外光画像撮像領域21aで撮像された赤外光画像、および可視光画像撮像領域21bで撮像された可視光画像を、画像処理を行う制御部10に送信することができる。
フォトダイオード24は、赤外光画像撮像領域21aにおいては赤外光を受光し、可視光画像撮像領域21bにおいては可視光を受光する。また、各フォトダイオード24が、撮像素子21の画素を構成する。換言すれば、撮像素子21は、複数のフォトダイオード24が複数の画素として二次元的に配列されている構成を有する。
(赤外光画像撮像領域21a側の構成)
撮像部20は、図1の(a)に示す撮像素子21の赤外光画像撮像領域21a側に、図1の(b)に示すように、偏光フィルタ(集積偏光子)25および可視光遮断フィルタ26を備える。図1の(b)に示すように、撮像部20に光が入射する方向から見て、可視光遮断フィルタ26、偏光フィルタ25および撮像素子21の順に積層されている。
偏光フィルタ25は、主軸方向が互いに異なる複数の偏光素子を含む偏光ユニットを複数含み、赤外光画像撮像領域21aを構成する複数の画素に対応付けられて二次元的に配列されている。本実施形態では、偏光フィルタ25は、赤外光画像撮像領域21aの1画素につき1つの偏光素子が対応するように配置されている。また、本実施形態では、図1の(c)に示すように、隣接する4つの画素にそれぞれ対応する、隣接する4つの偏光素子25a〜25dが1つの偏光ユニットを形成している。具体的には、1つの偏光ユニットを形成する4つの偏光素子25a〜25dは、それぞれ0°、45°、90°および135°の偏光角を有する。
偏光フィルタ25は、複数の画素(換言すれば、赤外光画像撮像領域21a)の上に直接形成されている。偏光フィルタ25は、このような形成が可能なものであればよく、例えば、アルミニウム(Al)等の金属で構成されたワイヤグリッド、または屈折率が互いに異なる材料が積層されたフォトニック結晶を含むものが挙げられる。
なお、1つの偏光ユニットに対応付けられた画素群(本実施形態では、4つの画素)を1つの画素ユニットと称する場合もある。
可視光遮断フィルタ26は、赤外光画像撮像領域21aに設けられ、赤外光画像撮像領域21aに向かう可視光を遮断する。虹彩の色は人によって異なるため、赤外光画像に可視光成分が含まれている場合、虹彩の像が不鮮明となる可能性がある。可視光遮断フィルタ26を赤外光画像撮像領域21aに設けることにより、虹彩の像が不鮮明になることを抑制することができ、赤外光画像の画質の劣化を抑制することができる。
また、赤外光画像撮像領域21aに対する可視光遮断フィルタ26の相対位置は固定されている。一般に、撮像態様によって可視光遮断フィルタを撮像素子に対して移動させる構成の場合、可視光遮断フィルタを移動させる移動機構を備える必要があるが、撮像部20は、このような移動機構を備える必要がない。そのため、撮像部20の小型化を図ることができる。また、当該移動機構が作動することに起因する発塵がないため、赤外光画像撮像領域21aにより撮像される赤外光画像に異物が映り込む虞が低減される。
(虹彩認証について)
ここで、図3を用いて、虹彩認証について説明する。図3は、虹彩認証について説明するための図である。なお、図3の説明においては、上記認証モードにおいて、外光(太陽光)または室内光に含まれる赤外光によってユーザの眼球Eが撮像されるものとして説明する。
図3に示すように、ユーザの眼球Eに外光または室内光が照射されると、当該光は眼球Eにおいて反射され、その赤外光成分が撮像部20の赤外光画像撮像領域21aに入射することになる。
赤外光画像撮像領域21aは、ユーザの眼球Eに外光または室内光が照射され、虹彩において当該外光または室内光が拡散反射された拡散反射光Lrの赤外光成分を取得することにより、ユーザの虹彩の像を含む赤外光画像を取得する。そして、携帯情報端末1は、当該虹彩の像を解析することによりユーザ認証を行う。一方、認証を行うユーザの周囲の環境光が明るく、かつ映り込む像の源となる物体Oが存在する場合、眼球E(より詳しくは角膜表面)には映り込み像Irが形成される。映り込み像Irは、環境光が物体Oに照射され、物体Oからの反射光が眼球E(より詳しくは角膜表面)でさらに鏡面反射されることにより生じる。そして、赤外光画像撮像領域21aは、虹彩からの拡散反射光Lrと、映り込み像Irを構成する鏡面反射光の赤外光成分とを抽出することにより赤外光画像を取得することになる。
したがって、赤外光画像撮像領域21aに偏光フィルタ25が設けられていない場合において、携帯情報端末1が、取得した虹彩の像および映り込み像Irを含む赤外光画像から映り込み像Irを除去するための機能を有しない場合には、虹彩の画像解析において映り込み像Irの影響を受けてしまうことになる。その結果、携帯情報端末1において正確な虹彩認証ができない可能性がある。
特に、太陽光の照射下においてはユーザの眼球Eに強い映り込みが生じるため、屋外での正確な虹彩認証は困難を伴う。太陽光の強度よりも高い強度を有する光をユーザの眼球Eに照射することで、虹彩認証における太陽光の影響を低減することはできるが、このような強度の高い光を眼球Eまたは肌に照射した場合には、眼球Eまたは肌の状態が悪化してしまう可能性がある。また、消費電力が増大するという問題もある。
ここで一般に、画像処理に用いる像を形成する光(ここでは、認証処理に用いられる虹彩を示す拡散反射光Lr)は、そのほとんどが拡散反射成分から構成される。本実施形態では、当該光は、認証処理において必要となる眼球E(具体的には虹彩)の表面を示す表面情報を示すものとして処理される。虹彩は微細で複雑な構造を有するため、虹彩の像を形成する拡散反射光Lrはほとんど偏光しない。一方、上記画像処理において除去すべきノイズとなる像を形成する光(ここでは、認証処理に悪影響を与える物体Oの映り込み像Irを構成する光)は、そのほとんどが鏡面反射成分から構成される。鏡面反射光は一般に、入射角度によって変わってはくるが、偏光度が高くなることが知られている。
本実施形態の携帯情報端末1においては、撮像部20は、上述のように、赤外光画像撮像領域21aに対応するように設けられた偏光フィルタ25を備えている。そのため、携帯情報端末1では、赤外光画像撮像領域21aが、偏光フィルタ25を介して取得した赤外光画像に対して、後述の制御部10による画像処理を行うことができる。そして、携帯情報端末1では、当該画像処理により、上記のような強度の高い光を眼球Eに照射することなく、虹彩の画像解析における映り込み像Irの影響を低減した、鮮明な虹彩の像を取得し、正確な虹彩認証を行うことが可能となる。
つまり、撮像部20は、上記のように偏光フィルタ25を設けることにより、撮像した赤外光画像に対する画像処理を行う場合に、処理対象となる像(本実施形態では、虹彩の像)以外の映り込み像Irの影響を低減することを可能とする。
また、偏光フィルタ25は、上述のように、主軸方向が互いに異なる複数の偏光素子25a〜25dを含む偏光ユニットを複数含む。そのため、眼球E上の反射される位置によって異なる偏光方向を持つ、映り込み像Irを構成する鏡面反射光に対応することができる。この対応により、制御部10による上記画像処理において、映り込み像Irの影響を低減することができる。
(可視光画像撮像領域21b側の構成)
撮像部20は、図4の(a)に示す撮像素子21の可視光画像撮像領域21b側に、図4の(b)に示すように、カラーフィルタ31および赤外光遮断フィルタ32を備える。図4の(a)に示すように、撮像部20に光が入射する方向から見て、赤外光遮断フィルタ32、カラーフィルタ31および撮像素子21の順に積層されている。
カラーフィルタ31は、可視光画像撮像領域21bによって撮像される可視光画像の多色カラー表示を実現するために、可視光画像撮像領域21bのサブ画素毎に異なる3原色(RGB)を有するフィルタによって構成されている。カラーフィルタ31は、3原色のそれぞれに対応するフィルタが、例えば図4の(c)に示すように2次元的に配置されている。カラーフィルタ31は、例えば有機材料で構成されている。
赤外光遮断フィルタ32は、可視光画像撮像領域21bに設けられ、可視光画像撮像領域21bに向かう赤外光を遮断する。一般に、カラーフィルタは赤外光を透過してしまう。そのため、可視光画像に赤外光成分が含まれる場合、可視光画像の画質が劣化してしまう可能性がある。赤外光遮断フィルタ32を可視光画像撮像領域21bに設けることにより、可視光画像の画質の劣化を抑制することができる。
本実施形態では、赤外光遮断フィルタ32は、カラーフィルタ31と同じ有機材料で構成されている。このため、カラーフィルタ31および赤外光遮断フィルタ32を同じ製造工程で製造することが可能となる。この点を考慮しなければ、赤外光遮断フィルタ32は、赤外光を遮断可能な他の材料で構成されてよい。
また、可視光画像撮像領域21bに対する赤外光遮断フィルタ32の相対位置は固定されている。一般に、撮像態様によって赤外光遮断フィルタを撮像素子に対して移動させる構成の場合(例:特許文献1に係る発明)、赤外光遮断フィルタを移動させる移動機構を備える必要があるが、撮像部20は、このような移動機構を備える必要がない。そのため、撮像部20の小型化を図ることができる。また、当該移動機構が作動することに起因する発塵がないため、可視光画像撮像領域21bにより撮像される可視光画像に異物が映り込む虞が低減される。
<制御部10の構成>
次に、携帯情報端末1が備える制御部10の構成について、図5を用いて説明する。図5は、携帯情報端末1の構成を示す機能ブロック図である。図5に示すように、携帯情報端末1は、制御部10(画像処理装置)、撮像部20、赤外光源30、表示部40、および記憶部50を備える。
制御部10は、黒目検出部11、画像処理部12、および認証部13を備える。制御部が備える各部についての説明は後述する。撮像部20、赤外光源30、および表示部40については上述したとおりである。記憶部50は、制御部10の制御に必要な情報を記憶する記憶媒体であり、例えばフラッシュメモリ等である。
黒目検出部11は、撮像部20が赤外光画像撮像領域21aで撮像した赤外光画像を取得し、当該赤外光画像に含まれる、ユーザの黒目に対応する領域を特定する。黒目検出部11における処理は、例えば虹彩の画像による認証の分野においては公知であるため、本明細書では説明を省略する。
画像処理部12は、撮像部20(具体的には、赤外光画像撮像領域21a)が撮像した赤外光画像に対して画像処理を行う。具体的には、画像処理部12は、赤外光画像撮像領域21aが受光した赤外光に含まれる鏡面反射成分を低減するように、赤外光画像撮像領域21aが撮像した赤外光画像に対して画像処理を行う。本実施形態では、画像処理部12は、赤外光画像撮像領域21a内の各画素ユニットに含まれる複数の画素のうち、受光した赤外光の受光強度が最も小さい画素の出力値(換言すれば、本例における、画像処理を行って得られた結果)を、当該画素ユニットの出力値として決定する。ここで、出力値とは、赤外光の受光強度等、赤外光画像を示す種々の値を示す。
上述したとおり、映り込み像Irを形成する赤外光は偏光度が高い。このため、偏光フィルタ25によって除去される赤外光の強度は、偏光素子25a〜25dの偏光角によって異なる。画素ユニットに含まれる画素のうち、受光した赤外光の受光強度が最も小さい画素においては、当該画素に対応する偏光素子によって、映り込み像Irを形成する赤外光が最もよく除去されていると考えられる。したがって、画像処理部12は、上記のように出力値を決定することにより、映り込み像Irの影響を低減した赤外光画像を取得することができる。
また、画像処理部12は、撮像部20(具体的には、可視光画像撮像領域21b)が撮像した可視光画像に対して画像処理を行う。本実施形態では、可視光画像は認証処理に用いられない。そのため、画像処理部12は、可視光画像に所定の画像処理を行って表示部40に表示する。また、画像処理部12は、可視光画像を記憶部50に記憶してもよい。なお、画像処理部12は、赤外光画像撮像領域21aが撮像した赤外光画像に所定の画像処理を行って表示部40に表示してもよい。
認証部13は、画像処理部12で処理された各画素ユニットの出力値を用いて、ユーザの認証を行う。すなわち、認証部13は、映り込み像Irが最もよく除去された赤外光画像を用いて虹彩認証を行うため、高精度な認証を行うことができる。認証部13における、虹彩による認証は公知技術であるため、本明細書では説明を省略する。
<制御部10の処理>
図6は、制御部10による虹彩認証処理を示すフローチャートである。ここでは、携帯情報端末1において認証モードが設定されている場合の虹彩認証処理について説明する。制御部10による虹彩認証処理においては、まず、赤外光画像撮像領域21aで撮像された赤外光画像を黒目検出部11が取得し(S1)、当該赤外光画像に含まれる、ユーザの黒目を検出する(S2)。次に、画像処理部12が、上述のように各画素ユニットの出力値を決定する(S3)。その後、認証部13が、各画素ユニットの出力値に基づいてユーザの認証を行う(S4)。
<変形例>
図7の(a)は、本実施形態の変形例に係る偏光フィルタ25Aの構成を示す図である。偏光フィルタ25Aは、上述した偏光フィルタ25と置換可能なフィルタである。図7の(a)に示すように、偏光フィルタ25Aにおいては、隣接する9つの画素にそれぞれ対応する、隣接する9つの偏光素子25e〜25mが1つの偏光ユニットを形成している。具体的には、1つの偏光ユニットを形成する9つの偏光素子25e〜25mは、それぞれ0°、20°、40°、60°、80°、100°、120°、140°、および160°の偏光角を有する。
このように、1つの偏光ユニットに含まれる偏光素子の数は、4であっても9であってもよく、またさらに別の数であってもよい。1つの偏光ユニットに含まれる偏光素子の、角度の数が多ければ、受光する赤外光に含まれる、映り込み像Irの成分を、より精度良く除去することができる。ただし、1つの画素ユニットは1つの偏光ユニットに対応付けられており、上述のとおり、1つの画素ユニットからは1つの出力値が出力される。そのため、1つの偏光ユニットに対する画素数が多くなると、画像処理部12による処理を行った後の赤外光画像の解像度が低くなる。したがって、1つの偏光ユニットに含まれる偏光素子の数は、映り込み像Irの成分の除去精度と認証に用いる赤外光画像の解像度とを考慮して設定する必要がある。
また、図7の(b)は、本実施形態の別の変形例に係る偏光フィルタ25Bの構成を示す図である。偏光フィルタ25Bも、上述した偏光フィルタ25と置換可能なフィルタである。図7の(b)に示すように、偏光フィルタ25Bにおいては、隣接する4つの画素にそれぞれ対応する、隣接する2つずつの偏光素子25n・25oが1つの偏光ユニットを形成している。具体的には、偏光素子25n・25oはそれぞれ、0°および90°の偏光角を有する。このように、1つの偏光ユニットに、同じ偏光角を有する偏光素子が複数含まれていてもよい。
また、上述した偏光素子25a〜25oはいずれも、1つの画素に対して1つ対応付けられていた。しかし、複数の画素に対して1つの偏光素子が対応付けられていてもよい。ただし、1つの偏光素子に対する画素数(換言すれば、1つの偏光ユニットに対する画素数)が多くなると、上記と同様の理由から、画像処理部12による処理を行った後の赤外光画像の解像度が低くなる。したがって、1つの偏光素子に対応付ける画素の数は、映り込み像Irの成分の除去精度、認証に用いる赤外光画像の解像度、および赤外光画像における個々の画素の大きさを考慮して設定する必要がある。
<その他>
本開示の一態様に係る被写体は眼球に限定されず、映り込みが発生する可能性のある被写体であればどのようなものでもよい。また、赤外光画像に含まれる映り込み像の影響を低減することが必要とされる具体的な実施態様として、上記では虹彩認証を挙げて説明した。これに限らず、本開示の一態様に係る撮像部20、および制御部10における画像処理は、映り込み像の影響を低減することが必要とされる技術において広く適用可能である。
また、携帯情報端末1は、制御部10、撮像部20、赤外光源30および表示部40を一体に備える携帯情報端末1を例に挙げて説明するが、これらの部材は一体に設けられている必要は無い。
〔実施形態2〕
本開示の他の実施形態について、図8〜図11に基づいて説明すれば、以下のとおりである。なお、説明の便宜上、前記実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を省略する。
<携帯情報端末1aの構成>
図8は、本実施形態に係る携帯情報端末1aの構成の一例を示す図であり、(a)は携帯情報端末1aの外観の一例を示し、(b)は携帯情報端末1aが備える偏光フィルタ25Cの構成の概略を示す平面図である。
図8の(a)に示すように、携帯情報端末1aは、携帯情報端末1aの周囲の照度を検知する照度センサ60(照度検知部)を備えるとともに、撮像部20の代わりに撮像部20aを備える点で、携帯情報端末1と相違する。
<撮像部20aの構成>
撮像部20a(撮像装置)は、赤外光画像撮像領域21aに、偏光フィルタ25の代わりに偏光フィルタ25Cを備える。偏光フィルタ25Cは、8つの偏光素子25p、25q、25r、25s、25t、25u、25v、25wのそれぞれが存在する偏光領域25pa(図10参照)と、偏光素子が存在しない非偏光領域25npaとを有する。偏光フィルタ25Cにおいては、偏光領域25paおよび非偏光領域25npaが1つの偏光ユニットを形成している。偏光素子25p〜25wは、それぞれ0°、22.5°、45°、67.5°、90°、112.5°、135°および157.5°の偏光角を有する。
また、本実施形態では、1つの偏光ユニットに対応する画素ユニットは、8つの偏光素子25p〜25wおよび非偏光領域25npaのそれぞれに対応する、計9つの画素を含む。ただし、非偏光領域25npaに対応する画素が複数あってもよい。また、1つの偏光ユニットに対応する画素ユニットに含まれる画素の数は9つとは異なる数であってもよい。
<制御部10aの構成>
次に、携帯情報端末1aが備える制御部10aの構成について、図9を用いて説明する。図9は、携帯情報端末1aの構成を示す機能ブロック図である。図9に示すように、携帯情報端末1aは、制御部10a(画像処理装置)、撮像部20a、赤外光源30、表示部40、記憶部50、および照度センサ60を備える。制御部10aは、黒目検出部11、画像処理部12a、および認証部13を備える。
画像処理部12aは、照度センサ60が検知した照度が所定値以上である場合には、赤外光画像撮像領域21aが受光した赤外光に含まれる鏡面反射成分を低減するように、赤外光画像撮像領域21aが撮像した赤外光画像に対して画像処理を行う。本実施形態では、画像処理部12aは、偏光領域25paに対応付けられた複数の画素のうち、受光した赤外光の受光強度が最も小さい画素の出力値(換言すれば、本例における、画像処理を行って得られた結果)を、画素ユニットの出力値として決定する。一方、照度センサ60が検知した照度が所定値未満である場合には、画像処理部12aは、非偏光領域25npaに対応付けられた画素の出力値を、画素ユニットの出力値として決定する。
図10は、撮像部20aの構成の概略を示す断面図である。図10に示すように、反射光Lr0は、可視光遮断フィルタ26によって可視光成分が除去されて赤外光成分のみの反射光Lr1となる。反射光Lr0は、拡散反射光Lrのみ、または、拡散反射光Lrおよび鏡面反射光により構成される光である。偏光領域25paにおいては、反射光Lr1は、さらに偏光素子25p〜25w(図8参照)のそれぞれによって特定方向の偏光以外が除去されて反射光Lr2となってフォトダイオード24に入射する。そのため、反射光Lr2の強度は反射光Lr1の強度より小さい。一方、非偏光領域25npaにおいては、反射光Lr1がそのままフォトダイオード24に入射する。
このように、偏光領域25paに対応するフォトダイオード24が受光する赤外光の受光強度は、非偏光領域25npaに対応するフォトダイオード24が受光する赤外光の受光強度と比較して小さくなる。具体的には、偏光素子25p〜25wのそれぞれによる減衰率は、一般には50%以上になる。また、赤外光の受光強度は、携帯情報端末1aの周囲の照度が低い場合には、周囲の照度が高い場合と比較して小さくなる。このため、赤外光画像撮像領域21aの全ての画素に偏光素子が設けられている撮像部20(実施形態1参照)では、夜間または暗い屋内等の、周囲の照度が低い環境下での虹彩認証に支障をきたす虞がある。一方で、周囲の照度が低い場合には、撮像した赤外光画像に映り込み像はほとんど現れない。
このため、携帯情報端末1aの周囲の照度が所定値未満である場合には、画像処理部12aは、非偏光領域25npaに対応するフォトダイオード24の出力値を、当該フォトダイオード24を含む画素ユニットの出力値として決定する。これにより、携帯情報端末1aにおいては、周囲の照度が低い場合においても虹彩認証が可能な赤外光画像を得ることができる。
一方、周囲の照度が所定値以上である場合には、画像処理部12aは、実施形態1と同様の処理を行う。そのため、携帯情報端末1aは、周囲の環境に依らず、映り込み像Irの影響を低減または除去した赤外光画像に対する画像処理を行うことができる。
したがって、携帯情報端末1aでは、周囲の環境に依らず、虹彩認証処理を精度良く行うことが可能となる。
なお、ここでいう照度の「所定値」とは、映り込み像Irによる虹彩認証への影響が無視できない照度の下限を意味する。
<制御部10aの処理>
図11は、制御部10aによる虹彩認証処理を示すフローチャートである。制御部10aによる虹彩認証処理においては、まず、赤外光画像撮像領域21aで撮像された赤外光画像を黒目検出部11が取得し(S11)、当該赤外光画像に含まれる、ユーザの黒目を検出する(S12)。次に、画像処理部12aが、照度センサ60から携帯情報端末1aの周囲の照度を取得し(S13)、周囲の照度が所定値以上であるか判定する(S14)。
周囲の照度が所定値以上である場合(S14でYES)、画像処理部12aは、偏光領域25paに対応する画素の出力値に基づいて、各画素ユニットの出力値を決定する(S15)。その後、認証部13が、各画素ユニットの出力値に基づいてユーザの認証を行う(S16)。
一方、周囲の照度が所定値未満である場合(S14でNO)、画像処理部12aは、非偏光領域25npaに対応する画素の出力値を各画素ユニットの出力値として決定する(S17)。その後、認証部13が、各画素ユニットの出力値に基づいてユーザの認証を行う(S18)。
なお、上述した実施形態では、携帯情報端末1aが照度センサ60を備えていた。しかし、必ずしも携帯情報端末1a自体が照度センサ60を備える必要はない。例えば、携帯情報端末1aは、照度センサ60を備える、携帯情報端末1aと別の装置から、携帯情報端末1aの周囲の照度を示す信号を受信するように構成されていてもよい。
また、携帯情報端末1aは、照度センサ60を備えず、撮像部20aを用いて照度を推定してもよい。具体的には、制御部10aは、虹彩画像を撮像する前に非偏光領域25npaに対応する画素の出力値を計測し、当該出力値に基づいて周囲の照度を推定してもよい。この場合、制御部10aは、周囲の照度を検知する照度検知部としても機能する。
〔実施形態3〕
本開示の他の実施形態について、図12〜図14に基づいて説明すれば、以下のとおりである。なお、説明の便宜上、前記実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を省略する。
<携帯情報端末1bの構成>
本実施形態の携帯情報端末1bの構成について、図12を用いて説明する。図12は、携帯情報端末1bの構成を示す機能ブロック図である。図12に示すように、携帯情報端末1bは、制御部10の代わりに制御部10bを備える点で携帯情報端末1と相違する。具体的には、携帯情報端末1bでは、上述した携帯情報端末1および1aと異なり、認証モードにおいて、赤外光画像撮像領域21aが撮像した赤外光画像に加え、可視光画像撮像領域21bが撮像した可視光画像も用いられる。
<制御部10bの構成>
制御部10b(画像処理装置)は、制御部10の構成に加えて、画素有無判定部14を備える。画素有無判定部14は、可視光画像撮像領域21bが撮像した可視光画像を取得し、当該可視光画像に対応付けられた複数の画素のうちに、周期的に変化する出力値を出力する画素が存在するか否かを判定する。
画像処理部12は、周期的に変化する出力値を出力する画素が存在すると画素有無判定部14が判定した場合に、赤外光画像に対する画像処理を行う。つまり、画像処理部12は、上記のように判定された場合には、実施形態1で述べたように、赤外光画像撮像領域21aが受光した赤外光に含まれる鏡面反射成分を低減するように、赤外光画像撮像領域21aが撮像した赤外光画像に対して画像処理を行う。本実施形態では、画像処理部12は、画素ユニット毎に、受光した赤外光の受光強度が最も小さい画素の出力値(換言すれば、本例における、画像処理を行って得られた結果)を、当該画素ユニットの出力値として決定する。そして、認証部13は、当該出力値に基づき虹彩認証を行う。
一方、画像処理部12は、周期的に変化する出力値を出力する画素が存在しないと画素有無判定部14が判定した場合には、赤外光画像に対する画像処理を行わない。この場合、制御部10bは、例えば、表示部40において、虹彩認証を続行するか否かをユーザに選択させる選択画面を表示させるか、または、虹彩認証ができないことを示すエラー通知を行ってもよい。後者の場合、制御部10bは、設定された認証モードを解除してもよい。
次に、図13を参照して、画素の出力値の周期的な変化について説明する。図13は、画素の出力値の周期的な変化について説明するための図であり、(a)は人物の画像が印刷された紙面100、および紙面100を連続して撮像した場合における画素の出力値を示す図であり、(b)は実際の人物(ユーザ)200、および人物200を連続して撮像した場合における画素の出力値を示す図である。
図13の(a)および(b)に示すように、本実施形態においては、撮像部20は、認証モードにおいて、赤外光画像撮像領域21aにより被写体(紙面100に描かれた人物、または実際の人物200)の目の周囲を撮像し、可視光画像撮像領域21bにより被写体の目より下の領域を撮像する。
また、虹彩認証を行う場合、例えば赤外光画像に対する黒目検出が行われるまで、赤外光画像を撮像し続ける必要がある。そのため、上述した実施形態も含め、認証モードにおける撮像部20による撮像は、黒目検出部11が黒目を検出するために必要な所定の時間において行われる。本実施形態では特に、後述のように被写体における生命活動の有無を判断するが、当該所定の時間内に当該判断を行うことは可能である。また、黒目を検出する処理の開始より前の、赤外光画像を撮像するための位置合わせを開始する時点から、被写体における生命活動の有無を判断するための処理を行ってもよい。
紙面100は生命活動を行っていないため、紙面100を連続して撮像した場合、図13の(a)に示すように、画素の出力値は略一定であり、ほとんど変化しないか、周期的な変化は生じない。これに対し、実際の人物200は生命活動を行っているため、心臓の拍動に連動して動脈の拡張および収縮が生じる。動脈が拡張しているときには、動脈中を流れる血液に含まれる酸化ヘモグロビンによる光の吸収が大きくなるため、受光する赤外光の受光強度が小さくなる。そのため、画素の出力値は小さくなる。一方、動脈が収縮しているときには、酸化ヘモグロビンによる光の吸収が小さくなるため、上記受光強度が大きくなる。そのため、画素の出力値は大きくなる。したがって、ユーザ(人物200)を連続して撮像した場合、図13の(b)に示すように、画素の出力値が心臓の拍動に連動して周期的に変化する。なお、画素の出力値の周期的な変化は、ユーザの顔に対応する領域内であれば任意の箇所で観測可能であり、例えば額または頬等に対応する領域で観測すればよい。
虹彩認証は、非常に高い信頼性を持つ個人認証方法である。しかし、紙面上に高精細に印刷された虹彩を撮像した場合には、当該紙面上の虹彩を本物の虹彩と誤認して認証してしまう可能性があるという問題がある。この問題の解決策として、虹彩認証と併せて、被写体が生体であるか否かを検知することが有用である。
本実施形態では、上述のように、撮像部20の可視光画像撮像領域21bが被写体を連続して撮像し、画素有無判定部14が、画素の出力値の周期的変化の有無を判定することにより被写体が生体(例:実際の人物200)であるか否かを検知する。そして、画素の出力値に周期的な変化が見られる場合には、制御部10bは被写体が生体であると検知して虹彩認証処理を行う。一方、画素の出力値に周期的な変化が見られない場合には、制御部10bは被写体が生体でないと検知して虹彩認証処理を行わない。これにより、制御部10bは、高精細に印刷された紙面上の画像を認証処理の対象外とすることができる。そのため、紙面等を用いた、認証対象の偽造等による不正アクセスを防止することができる。
なお、画素有無判定部14は、被写体が生体であるか否かを判定できればよい。具体的には、画素有無判定部14は、所定の時間における、被写体が生体であると判定できる程度の、画素の出力値の経時的な変化の有無が判定できればよい。
<制御部10bの処理>
図14は、制御部10bによる虹彩認証処理を示すフローチャートである。制御部10bによる虹彩認証処理においては、まず、連続して撮像された可視光画像および赤外光画像を画素有無判定部14が撮像部20から取得し(S21)、可視光画像において出力値が周期的に変化する画素が存在するか判定する(S22)。出力値が周期的に変化する画素が存在する場合(S22でYES)、黒目検出部11が赤外光画像から黒目を検出し(S23)、画像処理部12が各画素ユニットの出力値を決定する(S24)。その後、認証部13が、各画素ユニットの出力値に基づいて画像処理された赤外光画像を用いて、ユーザの認証を行う(S25)。
一方、出力値が周期的に変化する画素が存在しない場合(S22でNO)、上述したステップS23〜S25の処理は実行されない。
<変形例>
上述した実施形態では、画素有無判定部14は、連続して撮像された可視光画像の、画素の出力値の周期的変化に基づいて、被写体が生体であるか否かを検知した。さらに制御部10bは、被写体が生体であると画素有無判定部14が判定した場合に、可視光画像を用いた顔認証を併せて行ってもよい。
顔認証は、目、鼻、または口等の形状および位置から抽出した特徴量を用いて認証を行うものである。図13の(b)に示した例では、可視光画像撮像領域21bが撮像した可視光画像には、被写体である人物200の鼻および口の像が含まれている。そのため、画像処理部12が当該可視光画像に含まれる鼻または口の特徴量を抽出し、認証部13が当該特徴量を解析することにより、制御部10bは顔認証を行うことができる。
なお、人物200の目の像は、可視光画像撮像領域21bが撮像した赤外光画像に含まれている。そのため、画像処理部12が、赤外光画像に含まれる目の特徴量を抽出し、認証部13が当該目の特徴量を解析することにより、顔認証を行ってもよい。この場合、制御部10bは、目、鼻および口の特徴量を用いて顔認証を行うことができる。
また、顔認証の対象は、可視光画像に含まれる鼻、または口のいずれか一方であってもよく、赤外光画像に含まれる目のみであってもよい。後者の場合、赤外光画像のみで虹彩認証および顔認証を行うことができる。ただし、顔認証を精度良く行うことを考慮すれば、顔認証の対象が多いほど好ましい。
このように、制御部10bは、虹彩認証および顔認証を併用して、ハイブリッドな認証を行ってもよい。これにより、虹彩認証だけを行う場合と比較して、さらに強固なセキュリティを実現することができる。
〔実施形態4:ソフトウェアによる実現例〕
携帯情報端末1、1a、1bの制御ブロック(特に制御部10、10a、10bの各部)は、集積回路(ICチップ)等に形成された論理回路(ハードウェア)によって実現してもよいし、CPU(Central Processing Unit)を用いてソフトウェアによって実現してもよい。
後者の場合、携帯情報端末1、1a、1bは、各機能を実現するソフトウェアであるプログラムの命令を実行するCPU、上記プログラムおよび各種データがコンピュータ(またはCPU)で読み取り可能に記録されたROM(Read Only Memory)または記憶装置(これらを「記録媒体」と称する)、上記プログラムを展開するRAM(Random Access Memory)等を備えている。そして、コンピュータ(またはCPU)が上記プログラムを上記記録媒体から読み取って実行することにより、本開示の一態様に係る目的が達成される。上記記録媒体としては、「一時的でない有形の媒体」、例えば、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路等を用いることができる。また、上記プログラムは、該プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記コンピュータに供給されてもよい。なお、本開示の一態様は、上記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。
〔付記事項〕
本開示の一態様は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本開示の一態様の技術的範囲に含まれる。さらに、各実施形態にそれぞれ開示された技術的手段を組み合わせることにより、新しい技術的特徴を形成することができる。
(関連出願の相互参照)
本出願は、2017年1月31日に出願された日本国特許出願:特願2017-015941に対して優先権の利益を主張するものであり、それを参照することにより、その内容の全てが本書に含まれる。
10、10b 制御部(画像処理装置)
10a 制御部(画像処理装置、照度検知部)
12、12a 画像処理部
14 画素有無判定部
20、20a 撮像部(撮像装置)
21 撮像素子
21a 赤外光画像撮像領域
21b 可視光画像撮像領域
25、25A、25B、25C 偏光フィルタ
25a〜25w 偏光素子
25pa 偏光領域
25npa 非偏光領域
26 可視光遮断フィルタ
32 赤外光遮断フィルタ
60 照度センサ(照度検知部)
(可視光画像撮像領域21b側の構成)
撮像部20は、図4の(a)に示す撮像素子21の可視光画像撮像領域21b側に、図4の(b)に示すように、カラーフィルタ31および赤外光遮断フィルタ32を備える。図4の()に示すように、撮像部20に光が入射する方向から見て、赤外光遮断フィルタ32、カラーフィルタ31および撮像素子21の順に積層されている。
なお、人物200の目の像は、赤外光画像撮像領域21aが撮像した赤外光画像に含まれている。そのため、画像処理部12が、赤外光画像に含まれる目の特徴量を抽出し、認証部13が当該目の特徴量を解析することにより、顔認証を行ってもよい。この場合、制御部10bは、目、鼻および口の特徴量を用いて顔認証を行うことができる。

Claims (8)

  1. 二次元的に配列された複数の画素によって画像を撮像する撮像素子を備える撮像装置であって、
    上記撮像素子は、可視光を受光することにより可視光画像を撮像する可視光画像撮像領域と、赤外光を受光することにより赤外光画像を撮像する赤外光画像撮像領域と、を含み、さらに、
    主軸方向が互いに異なる複数の偏光素子を含む複数の偏光ユニットを含み、当該複数の偏光ユニットが、上記赤外光画像撮像領域を構成する上記複数の画素に対応付けられて二次元的に配列されている偏光フィルタを備えることを特徴とする撮像装置。
  2. 1つの上記撮像素子に上記可視光画像撮像領域および上記赤外光画像撮像領域が形成されていることを特徴とする請求項1に記載の撮像装置。
  3. 上記可視光画像撮像領域には、上記赤外光を遮断する赤外光遮断フィルタが設けられ、
    上記赤外光画像撮像領域には、上記可視光を遮断する可視光遮断フィルタが設けられており、
    上記可視光画像撮像領域に対する上記赤外光遮断フィルタの相対位置、および上記赤外光画像撮像領域に対する上記可視光遮断フィルタに対する相対位置は、それぞれ固定されていることを特徴とする請求項1または2に記載の撮像装置。
  4. 上記偏光ユニットは、上記偏光素子が存在する偏光領域と、上記偏光素子が存在しない非偏光領域と、を有していることを特徴とする請求項1から3のいずれか1項に記載の撮像装置。
  5. 請求項1から4のいずれか1項に記載の撮像装置の上記赤外光画像撮像領域が受光した赤外光に含まれる鏡面反射成分を低減するように、当該赤外光画像撮像領域が撮像した上記赤外光画像に対して画像処理を行う画像処理部を備えることを特徴とする画像処理装置。
  6. 請求項4に記載の撮像装置が撮像した上記赤外光画像に対して画像処理を行う画像処理部を備える画像処理装置であって、
    上記画像処理部は、
    周囲の照度を検知する照度検知部が検知した照度が所定値以上である場合には、上記赤外光画像撮像領域が受光した上記赤外光に含まれる鏡面反射成分を低減するように上記赤外光画像に対して画像処理を行って得られた結果を、上記偏光ユニットに対応付けられた上記複数の画素の出力値として決定し、
    上記照度検知部が検知した照度が所定値未満である場合には、上記非偏光領域に対応付けられた上記画素の出力値を、上記偏光ユニットに対応付けられた上記複数の画素の出力値として決定することを特徴とする画像処理装置。
  7. 上記画像処理部は、上記偏光ユニットに対応付けられた上記複数の画素のうち、受光した上記赤外光の受光強度が最も小さい画素の出力値を、当該複数の画素の出力値として決定することを特徴とする請求項5または6に記載の画像処理装置。
  8. 上記可視光画像に対応付けられた上記複数の画素のうち、経時的に変化する出力値を出力する画素が存在するか否かを判定する画素有無判定部を備え、
    上記画像処理部は、上記画素有無判定部が経時的に変化する出力値を出力する画素が存在すると判定した場合に、上記赤外光画像に対する画像処理を行うことを特徴とする請求項5から7のいずれか1項に記載の画像処理装置。
JP2018522168A 2017-01-31 2017-10-26 撮像装置、および画像処理装置 Pending JPWO2018142692A1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017015941 2017-01-31
JP2017015941 2017-01-31
PCT/JP2017/038773 WO2018142692A1 (ja) 2017-01-31 2017-10-26 撮像装置、および画像処理装置

Publications (1)

Publication Number Publication Date
JPWO2018142692A1 true JPWO2018142692A1 (ja) 2019-02-07

Family

ID=63039558

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018522168A Pending JPWO2018142692A1 (ja) 2017-01-31 2017-10-26 撮像装置、および画像処理装置

Country Status (5)

Country Link
US (1) US20210165144A1 (ja)
JP (1) JPWO2018142692A1 (ja)
KR (1) KR20180108592A (ja)
CN (1) CN108738372A (ja)
WO (1) WO2018142692A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7210872B2 (ja) * 2017-07-19 2023-01-24 富士フイルムビジネスイノベーション株式会社 画像処理装置及び画像処理プログラム
JP7325949B2 (ja) * 2018-11-22 2023-08-15 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び電子機器
CN110728215A (zh) * 2019-09-26 2020-01-24 杭州艾芯智能科技有限公司 基于红外图像的人脸活体检测方法、装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0415032A (ja) * 1990-05-08 1992-01-20 Yagi Toshiaki 眼球運動測定装置
JP2006126899A (ja) * 2004-10-26 2006-05-18 Matsushita Electric Ind Co Ltd 生体判別装置、生体判別方法、およびそれを用いた認証システム
WO2007029446A1 (ja) * 2005-09-01 2007-03-15 Matsushita Electric Industrial Co., Ltd. 画像処理方法、画像処理装置及び画像処理プログラム
JP2009193197A (ja) * 2008-02-13 2009-08-27 Oki Electric Ind Co Ltd 虹彩認証方法及び虹彩認証装置
JP2011082855A (ja) * 2009-10-08 2011-04-21 Hoya Corp 撮像装置
WO2017014137A1 (ja) * 2015-07-17 2017-01-26 ソニー株式会社 眼球観察装置、アイウェア端末、視線検出方法及びプログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050088563A (ko) * 2004-03-02 2005-09-07 엘지전자 주식회사 가시광을 이용한 홍채인식시스템 및 그 인식방법
JP4804962B2 (ja) * 2006-03-03 2011-11-02 富士通株式会社 撮像装置
JP2013031054A (ja) * 2011-07-29 2013-02-07 Ricoh Co Ltd 撮像装置及びこれを備えた物体検出装置、並びに、光学フィルタ及びその製造方法
JP6004235B2 (ja) * 2012-02-03 2016-10-05 パナソニックIpマネジメント株式会社 撮像装置および撮像システム
JP6156787B2 (ja) * 2012-07-25 2017-07-05 パナソニックIpマネジメント株式会社 撮影観察装置
CN105676565A (zh) * 2016-03-30 2016-06-15 武汉虹识技术有限公司 一种虹膜识别镜头、装置及方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0415032A (ja) * 1990-05-08 1992-01-20 Yagi Toshiaki 眼球運動測定装置
JP2006126899A (ja) * 2004-10-26 2006-05-18 Matsushita Electric Ind Co Ltd 生体判別装置、生体判別方法、およびそれを用いた認証システム
WO2007029446A1 (ja) * 2005-09-01 2007-03-15 Matsushita Electric Industrial Co., Ltd. 画像処理方法、画像処理装置及び画像処理プログラム
JP2009193197A (ja) * 2008-02-13 2009-08-27 Oki Electric Ind Co Ltd 虹彩認証方法及び虹彩認証装置
JP2011082855A (ja) * 2009-10-08 2011-04-21 Hoya Corp 撮像装置
WO2017014137A1 (ja) * 2015-07-17 2017-01-26 ソニー株式会社 眼球観察装置、アイウェア端末、視線検出方法及びプログラム

Also Published As

Publication number Publication date
KR20180108592A (ko) 2018-10-04
CN108738372A (zh) 2018-11-02
US20210165144A1 (en) 2021-06-03
WO2018142692A1 (ja) 2018-08-09

Similar Documents

Publication Publication Date Title
US10311298B2 (en) Biometric camera
US20230262352A1 (en) Systems and methods for hdr video capture with a mobile device
JP5530503B2 (ja) 視線測定のための方法及び装置
US10579871B2 (en) Biometric composite imaging system and method reusable with visible light
EP3011495B1 (en) Multiple mode image acquisition for iris imaging
JP6564271B2 (ja) 撮像装置及び画像処理方法、プログラム、並びに記憶媒体
JP2016103786A (ja) 撮像システム
US10395093B2 (en) Image processing apparatus, image processing method, and non-transitory computer-readable storage medium
AU2016298076A1 (en) Automatic fundus image capture system
WO2018142692A1 (ja) 撮像装置、および画像処理装置
CN105320926B (zh) 指纹传感器
CN107563329A (zh) 图像处理方法、装置、计算机可读存储介质和移动终端
CN107427264A (zh) 摄像装置、图像处理装置和图像处理方法
WO2021149503A1 (ja) 電子機器
JPWO2017217053A1 (ja) 画像撮像装置およびフィルタ
JP7212499B2 (ja) 生体情報検出装置及び生体情報検出方法
WO2017100309A1 (en) Image sensor configured for dual mode operation
WO2019167381A1 (ja) 情報処理装置、情報処理方法、およびプログラム
TWM531598U (zh) 膚質檢測器

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180427

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190611

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20191203