JP7200965B2 - 画像処理装置、画像処理方法及びプログラム - Google Patents

画像処理装置、画像処理方法及びプログラム Download PDF

Info

Publication number
JP7200965B2
JP7200965B2 JP2020054105A JP2020054105A JP7200965B2 JP 7200965 B2 JP7200965 B2 JP 7200965B2 JP 2020054105 A JP2020054105 A JP 2020054105A JP 2020054105 A JP2020054105 A JP 2020054105A JP 7200965 B2 JP7200965 B2 JP 7200965B2
Authority
JP
Japan
Prior art keywords
detection
image
detection frame
unit
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020054105A
Other languages
English (en)
Other versions
JP2021158417A (ja
Inventor
芳幸 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2020054105A priority Critical patent/JP7200965B2/ja
Priority to CN202110283453.XA priority patent/CN113452899B/zh
Priority to US17/211,651 priority patent/US20210306556A1/en
Publication of JP2021158417A publication Critical patent/JP2021158417A/ja
Priority to JP2022203125A priority patent/JP2023029396A/ja
Application granted granted Critical
Publication of JP7200965B2 publication Critical patent/JP7200965B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/579Depth or shape recovery from multiple images from motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled

Description

本発明は、画像処理装置、画像処理方法及びプログラムに関する。
デジタルカメラ等で使用されている顔検出機能では、高画素の撮像素子を有するカメラであっても、特許文献1のようにQVGA(Quarter Video Graphics Array、320×240pixel)、VGA(Video Graphics Array、640×480pixel)程度の低解像度の画像を使用して顔検出を行うのが一般的である。
また、個人の特定を行う顔認証などであっても、VGA程度の低解像度の画像を使用している。このように、低解像度の画像を使用することで検出や認識を行うことにより、処理速度の低下を抑制することができる。
特開2019-12426号公報
しかしながら、特許文献1に記載の発明では、低解像度の画像を使用するので、小さい顔画像を検出するのが困難である。
そこで、本発明は、上記問題を解決するためになされたものであり、処理負荷の増加を抑制しつつ、小さい顔画像を検出することを目的とする。
上記目的を達成するため、本発明の画像処理装置は、
所定の場所に設置された撮像装置によって撮像される人物の画像を含んだ画像を取得する画像取得部と、
前記画像取得部によって取得される画像に、前記人物の画像の顔画像を検出対象とした第1の検出枠を設定し、前記画像全体にわたり前記第1の検出枠を用いて前記検出対象を検出する対象物検出部と、
前記対象物検出部による前記第1の検出枠における前記検出対象の大きさに基づいて、前記第1の検出枠より小さい複数の第2の検出枠を設定して前記画像から検出対象を検出するよう制御する制御部と、
を備え
前記複数の第2の検出枠のうちの一つには、前記第1の検出枠において検出された前記検出対象のうち最も小さい前記検出対象の大きさに基づいて設定される、前記複数の第2の検出枠のうちの他の一つの検出枠と部分的に重複する範囲が含まれる、
ことを特徴とする。
本発明によれば、処理負荷の増加を抑制しつつ、小さい顔画像を検出することができる。
本発明の実施形態に係る顔認証システムを示す図である。 (a)は、本発明の実施形態に係る顔認証システムの撮像装置と撮像範囲との位置関係を示す側面図であり、(b)は、顔認証システムの撮像装置が撮像した画像の一例である。 本発明の実施形態に係る顔認証システムの画像処理フローの概略を示す図である。 本発明の実施形態に係る画像処理装置のブロック図である。 本発明の実施形態に係る最小顔画像を説明する図である。 本発明の実施形態に係る検出枠を説明する図である。 顔画像検知の除外範囲を説明する図である。 本発明の実施形態に係る対象物検出処理のフローチャートである。 対象物検出処理を実行する状況を経時的に説明する図である。 対象物検出処理を実行する頻度をエリア毎に設定した状態を説明する図である。
本発明の実施形態に係る画像処理装置について、以下、図面を参照して詳細に説明する。
本発明の実施形態に係る画像処理装置は、例えば、オフィスやイベントのセキュリティ等に使用するために、顔認証システムの顔認証装置に顔認証を行わせるための画像データを生成する。なお、画像に写る人物の数は、顔画像があまりに小さくなりすぎない限り特に制限はないが、以下の説明においては、説明を容易にするため、画像に写る人物は3人とする。
[顔認証システムの構成]
図1に示すように、顔認証システム1は、画像処理装置10および顔認証装置80を有する。画像処理装置10は、顔認証システム1の撮像範囲Lに存在する認証対象領域である人物100(101,102,103)の画像を撮像し、後述する対象物検出処理を行って顔認証に適した画像データを顔認証装置80に送信する。図2(a)に示すように、人物101,102,103は、画像処理装置10の撮像部40からそれぞれ異なる距離で移動または静止している。人物101が撮像部40の一番近くに、人物102が次に近くに、人物103が一番遠くにいる。また、撮像部40は、本実施形態では、ビルのエントランスの天井に設けられている。従って、撮像部40が撮像した画像には、図2(b)に示すように、人物101が一番大きく、人物102が次に大きく、人物103が一番小さく映っている。画像Vに異なる大きさで映っている人物101,102,103のそれぞれの顔画像を記憶部30に記憶された顔画像と認証する。そこで、顔認証装置80が近くにいる人物101から一番遠くにいる人物103までの顔認証を行うことができるように、画像処理装置10によって、対象物検出処理等を行って顔認証に適した画像データを提供する。
顔認証システム1で行われる画像処理の概略を図3に示して説明する。撮像装置に撮像された画像は12ビットのベイヤー画像であり、この画像を現像、階調補正して、8ビットに圧縮したYUV画像を生成する。生成された画像の顔検出は、画像処理装置10において行い、顔照合は、顔認証装置80において行う。
(画像処理装置の構成)
図4に示すように、画像処理装置10は、制御部20、記憶部30、撮像部40、通信部50、表示部60、入力部70、を備える。
制御部20は、CPU(Central Processing Unit)等で構成され、記憶部30に記憶されたプログラム等を実行することにより、後述する各部(画像取得部21、対象物検出部22、検出枠設定部23、検出枠判断部24、判別部25、補正部26、画像加工部27、画像送信部28、操作部29)の機能を実現する。また、制御部20は、時計(図示せず)を有し、現在日時の取得や経過時間のカウント等をすることができる。
記憶部30は、ROM(Read Only Memory)、RAM(Random
Access Memory)等で構成され、ROMの一部又は全部は電気的に書き換え可能なメモリ(フラッシュメモリ等)で構成されている。記憶部30は、機能的に、対象物記憶部31と、検出枠記憶部32と、除外範囲記憶部33と、検出条件記憶部34と、を有する。ROMには制御部20のCPUが実行するプログラム及びプログラムを実行する上で予め必要なデータが記憶されている。RAMには、プログラム実行中に作成されたり変更されたりするデータが記憶される。
対象物記憶部31には、本実施形態では、撮像部40に撮像された画像から検出された対象物である顔画像が記憶される。また、対象物記憶部31には、設定された検出枠205(後述する)における検出可能な顔のサイズである最小検出顔Fmin(図5参照)が記憶されている。なお、最小検出顔Fminには、検出可能な顔のサイズよりわずかに大きな顔のサイズが設定されている。
検出枠記憶部32には、検出枠設定部23が設定した後述する検出枠205が記憶される。また、ユーザが任意に設定するユーザ設定検出枠206も記憶される。また、基準検出枠200が予め記憶されている。画像Vを基準検出枠200で分割するので、画像Vの幅および高さが基準検出枠200の幅および高さの整数倍となるのが好ましい。基準検出枠200は、1回目の分割時の基準検出枠200、2回目の基準検出枠200、…、n回目の基準検出枠200を有する。基準検出枠200の幅および高さは、画像Vの幅および高さと等しい。また、基準検出枠200の幅および高さは、基準検出枠200>基準検出枠200>…>基準検出枠200n-1>基準検出枠200=最小検出顔Fminである。なお、処理負荷の増加を抑制するために、基準検出枠200=最小検出顔Fminとせずに、基準検出枠200を最小検出顔Fminよりも大きい任意のサイズと設定することもできる。また、基準検出枠200のnの値を小さくすることで処理負荷の増加を抑制することができる。なお、基準検出枠200(および検出枠205)が小さくなるにつれて、元の画像の解像度に近くなっていく。
除外範囲記憶部33には、判別部25が判別し、設定した後述する除外範囲210が記憶される(図7参照)。また、ユーザが任意に設定するユーザ設定除外範囲211も記憶される。例えば、撮像範囲L内で人が通行しないエリア(家具や機器等が設置されたエリア等)をユーザ設定除外範囲211にするとよい。
検出条件記憶部34には、検出条件Zが記憶される。検出条件Zには、撮像エリア毎に検出頻度を異ならせる検出条件Z1、所定の照度以上または以下の範囲を検出対象としない検出条件Z2等が記憶される。
撮像部40は、撮像装置41、駆動装置42を有する。
撮像装置41は、本実施形態では、CMOS(Complementary Metal Oxide Semiconductor)カメラを備える。撮像装置41は、撮像範囲Lをフレームレート30fpsで撮像し画像Vを生成する。画像Vは、ベイヤー画像であり、12ビットの分解能で出力される。
駆動装置42は、後述する操作部29の指示に従って、撮像装置41の位置を移動させて撮像範囲Lを調整する。
通信部50は、顔認証装置80や外部機器等と通信するためのモジュールである通信装置51を有する。通信装置51は、外部機器と通信する場合にはアンテナを含む無線モジュールである。例えば、通信装置51は、Bluetooth(登録商標)に基づく近距離無線通信を行うための無線モジュールである。通信部50を用いることにより、画像処理装置10は、顔認証装置80や外部機器と画像データ等の受け渡し等を行うことができる。
表示部60は、液晶表示パネル(LCD:Liquid Crystal Display)から構成された表示装置61を備える。
表示装置61としては、薄膜トランジスタ(TFT:Thin Film Transistor)、液晶、有機ELなどを採用できる。表示装置61には、画像V、後述する検出枠205等が表示される。
入力部70は、表示部60と近接して、または表示部60と一体に設けられた抵抗膜方式のタッチパネル(入力装置71)である。タッチパネルは、赤外線操作方式や投影型静電容量方式等であってもよいし、入力部はタッチパネルで無くキーボードおよびマウス等であってもよい。ユーザは、入力部70を介したマニュアル操作にて、表示部60を使用してユーザ設定検出枠206、ユーザ設定除外範囲211等を設定することができる。
次に、画像処理装置10の制御部20の機能的構成について説明する。制御部20は、画像取得部21、対象物検出部22、検出枠設定部23、検出枠判断部24、判別部25,補正部26、画像加工部27、画像送信部28、操作部29、の機能を実現し、後述する対象物検出処理等を行う。
画像取得部21は、予め画像処理装置10に設定された、またはユーザが設定した露出条件で撮像範囲Lを撮像部40に撮像させ、約33msecで全画素で撮像された画像Vを取得する。画像Vの解像度は、QVGAである。画像取得部21は、取得した画像Vを対象物検出部22に送信する。
対象物検出部22は、画像取得部21から送信された画像Vの中から、本実施形態では、対象物である顔画像を検出する。検出枠設定部23で設定された後述する検出枠205を使用して、画像Vの中から顔画像を約11msecで検出する。また、ユーザ設定検出枠206が設定されている場合、ユーザ設定検出枠206を使用して、画像Vの中から顔画像を検出する。対象物検出部22は、検出枠205を使用して画像Vから顔画像が検出されたか否かを判別する。対象物検出部22は、検出した顔画像を対象物記憶部31に記憶する。
検出枠設定部23は、対象物記憶部31に記憶された画像V中の顔画像を読み込み、読み込んだ顔画像のうちの一番小さな顔画像の幅および高さを図6に斜線のハッチングで示す基準検出枠200の枠重複エリアの幅DFmin_wおよび高さDFmin_hに設定する。検出枠設定部23は、予め設定された基準検出枠200の幅および高さに、枠重複エリアの幅および高さを加えて検出枠記憶部32に検出枠205(またはユーザ設定検出枠206)の幅detect_wおよび高さdetect_hを設定し、検出枠記憶部32に記憶する。画像処理装置10が画像Vを取得した後、検出枠設定部23は、検出枠205を検出枠記憶部32から読み込み、画像Vを枠重複エリアを設けて検出枠205で分割する。
検出枠判断部24は、検出枠205で画像Vの全体にわたる顔画像の検出作業が完了するごとに、検出枠205を小さくするか否かを判断する。検出枠判断部24は、検出作業時に検出された顔のうち一番小さな顔と最小検出顔Fminとを比較し、一番小さな顔のほうが大きい場合、検出枠205を小さくすると判断する。検出枠判断部24が検出枠205を小さくすると判断した場合、検出枠設定部23は、一番小さい顔の幅及び高さを基準検出枠200n+1の枠重複エリアの幅DFmin_wおよび高さDFmin_hに設定して、検出枠205n+1を設定する。一番小さな顔が最小検出顔Fminの大きさと等しい場合、検出枠205を小さくすると判断しない(検出枠設定部23は、検出枠205を小さくする作業を終了する)。
判別部25は、図7に示すように、検出枠205またはユーザ設定検出枠206がすでに対象物検出部22に検出された検出済顔画像220内に位置する場合、その検出枠205またはユーザ設定検出枠206を除外範囲210またはユーザ設定除外範囲211として判別し、除外範囲記憶部33に記憶する。また、判別部25は、検出された顔画像の大きさ(幅および高さ)と設定された最小検出顔Fminの大きさ(最小の顔検出幅Fmin_wおよび高さFmin_h、図5参照)とを比較する。
補正部26は、画像Vにおける各領域の顔画像検出頻度の設定に応じて顔画像検出頻度の補正を行う。補正方法は、後述する。
画像加工部27は、対象物記憶部31に記憶された顔画像の加工を行う。後述する対象物検出処理が終了した後、対象物記憶部31に記憶された顔画像を、顔認証装置80が顔認識できる画像MAP上に画像Vにおける座標に応じて配置する。あるいは、顔画像に画像V上の座標データを紐付ける。
画像送信部28は、取得された画像Vや画像MAP等を顔認証装置80に送信する。
操作部29は、撮像部40の撮像範囲Lを移動させるための指示を、駆動装置42に送信する。
以上、制御部20の機能的構成について説明した。以下、撮像された画像から取得された顔画像が、図2(b)である場合を例として、画像処理装置10で行われる対象物検出処理について具体的に説明する。
人物102の顔画像より小さく、人物103の顔画像より大きな最小検出顔Fmin(図5参照)が予め対象物記憶部31に設定されている。対象物検出部22は、画像V全体を一度に検出を行う場合、最小検出顔Fminより小さな顔画像を検出できない。画像取得部21は、撮像範囲Lを撮像部40に撮像させ、撮像された画像Vを取得する。対象物検出部22は、画像取得部21から送信された画像V全体の中から、人物101,102の顔画像を検出する。対象物検出部22は、検出した人物101,102の顔画像を対象物記憶部31に記憶する。なお、人物103は、今回は最小検出顔Fminよりも小さいので検出されない。
検出枠設定部23は、対象物記憶部31に記憶された人物101,102の顔画像を読み込み、読み込んだ内の一番小さな顔画像である人物102の顔画像の幅および高さを基準検出枠200(図6の斜線ハッチング範囲)の枠重複エリアの幅および高さに設定する。検出枠設定部23は、基準検出枠200の幅および高さに、枠重複エリアの幅および高さを加えて検出枠記憶部32に検出枠205(またはユーザ設定検出枠206)として記憶する。
対象物検出部22は、図6に示すように、画像Vを検出枠205(またはユーザ設定検出枠206)で枠重複エリアの幅および高さを重複させて分割した後、分割されたそれぞれの領域で顔画像の検出を行う。分割された領域内では、人物103の顔画像は最小検出顔Fminよりも大きい。対象物検出部22は、人物103の顔画像を検出し、検出した人物103の顔画像を対象物記憶部31に記憶する。対象物検出部22は、分割された全ての領域で検出作業を行い、画像Vの全体にわたる検出作業を完了させる。
検出枠判断部24は、検出作業時に検出された顔のうち一番小さな顔と最小検出顔Fminとを比較する。分割された領域から検出されたのは人物103の顔画像であるので、検出枠判断部24は、人物103の顔画像と最小検出顔Fminとを比較し、人物103の顔画像が最小検出顔Fminよりも大きいと判断し、検出枠205を小さくすると判断する。検出枠設定部23は、一番小さな顔画像である人物103の顔画像の幅および高さを算出する。検出枠設定部23は、基準検出枠200の幅および高さに、枠重複エリアの幅および高さを加えて検出枠記憶部32に検出枠205(またはユーザ設定検出枠206)として記憶する。
対象物検出部22は、画像Vを検出枠205(またはユーザ設定検出枠206)で枠重複エリアの幅および高さを重複させて分割した後、分割されたそれぞれの領域で顔画像の検出を行う。
その後、枠重複エリアの幅および高さが最小検出顔の幅および高さまで小さくなるまで、画像Vの分割と顔画像の検出を繰り返して検出を終了し、図6に示すような画像V全体での顔画像MAPを生成する。
(顔認証装置)
顔認証装置80は、例えば、主成分分析を使った固有顔を顔認識のアルゴリズムとする装置である。顔認証装置80は、画像処理装置10から送信される画像データを用いて顔認証(2次元顔認証)を行う。
[画像処理装置で行われる処理]
次に、画像処理装置10で行われる対象物検出処理についてフローチャートを用いて説明する。
(対象物検出処理)
図8を参照して、画像処理装置10で行われる対象物検出処理のフローを説明する。対象物検出処理によって、画像内の小さな顔の検出を、画像処理装置10への負荷を低減しつつ実行することができる。これにより、最小顔画像Fminよりも小さい顔画像の人物103についても、顔認証装置80が顔認証を行うことができる。
まず、画像処理装置10に最小顔画像Fminが設定される(ステップS1)。ユーザが入力部70から任意に設定することもできる。また、撮像範囲Lも設定される。
次に、n=1回目の対象物検出処理で使用する検出枠205が設定される。1回目は画像V全体を1度に顔画像検出を行うので、検出枠205は画像Vと同一サイズである。検出枠設定部23は、画像Vと同一サイズの検出枠205を設定し、検出枠記憶部32に記憶させる(ステップS2)。
画像取得部21は、撮像部40に撮像範囲Lを撮像させ、撮像した画像Vを取得し、取得した画像Vを対象物検出部22に送信する(ステップS3)。
画像処理装置10が画像Vを取得した後、検出枠設定部23は、検出枠205を検出枠記憶部32から読み込み、画像Vを検出枠205で分割する。1回目の分割は、画像V全体を画像Vと同一サイズの検出枠205で分割する(ステップS4)。
判別部25は、前回の分割時に検出された顔画像内に位置する検出枠205またはユーザ設定検出枠206が有るか否かを判別する(ステップS5)。前回の分割において検出された顔画像内に位置する検出枠205またはユーザ設定検出枠206を除外範囲210またはユーザ設定除外範囲211として判別し、除外範囲記憶部33に記憶する。なお、今回は、1回目の分割であるので前回の分割において検出された顔画像は存在せず(ステップS5;No)、ステップS7へ進む。対象物検出部22は、検出枠設定部23で設定された検出枠205を使用して、画像Vの中から顔画像を検出する(ステップS7)。その後、ステップS8に進む。
2回目以降の分割では、前回の分割時に検出された顔画像が有り、その顔画像の内部に位置する検出枠205がある場合、その検出枠205を除外範囲210またはユーザ設定除外範囲211として判別し、除外範囲記憶部33に記憶する(ステップS5;Yes)。ステップS6に進み、対象物検出部22は、除外範囲210の検出枠205を除外して、検出枠設定部23で設定された検出枠205を使用して、画像Vの中から顔画像を検出する。その後、ステップS8に進む。
ステップS8では、対象物検出部22は、直前のステップS6またはステップS7の検出枠205で、顔画像が検出されたか否かを判別する。
顔画像が検出されなかった場合(ステップS8;No)、検出枠判断部24は、最小検出顔が枠重複エリアの幅および高さに設定されているか否かを判別する(ステップS9)。最小検出顔が枠重複エリアの幅および高さに設定されていない場合(ステップS9;No)、n=n+1=2とし、検出枠設定部23は、基準検出枠200に最小検出顔Fminを枠重複エリアの幅および高さとして加算して、検出枠205より小さな検出枠205を設定する(ステップS10)。その後、ステップS4に戻り、画像Vに対して2回目の分割を行う。最小検出顔が枠重複エリアの幅および高さに設定されている場合(ステップS9;Yes)、ステップS15へ進む。
対象物検出部22は、直前のステップS6またはステップS7の検出枠205で、顔画像が検出された場合(ステップS8;Yes)、ステップS11へ進む。
ステップS11では、対象物検出部22は、検出した顔画像を対象物記憶部31に記憶し、ステップS12へ進む。
検出枠判断部24は、検出された顔画像のうちで一番小さいものである人物102の顔画像の大きさと設定された最小検出顔Fminの大きさとを比較する(ステップS12)。人物102の顔画像の大きさが設定された最小検出顔の大きさより大きい場合(ステップS12;Yes)、検出枠判断部24は検出枠205を小さくすると判断する。n=n+1=2とし(ステップS13)、ステップS14へ進む。
検出枠設定部23は、対象物記憶部31に記憶された画像V中の顔画像を読み込み、読み込んだ内の一番小さな顔画像である人物102の顔画像の幅および高さ(図5参照)を基準検出枠200の枠重複エリアの幅および高さに設定する。検出枠設定部23は、予め設定された基準検出枠200の幅および高さに、枠重複エリアの幅および高さを加えて検出枠記憶部32にn=2回目用の検出枠205を設定し、検出枠記憶部32に記憶する(ステップS14)。その後、ステップS4に戻り、画像Vに対してn=2回目の分割を行う。
人物102の顔画像の大きさが設定された最小検出顔の大きさと等しい場合(ステップS12;No)、検出枠判断部24は検出枠205を小さくしないと判断し、ステップS15へ進む。処理を終了する場合(ステップS15;Yes)、終了し、終了しない場合(ステップS15;No)、ステップS2に戻る。
以上、対象物検出処理によって、画像処理装置10は、画像V全体で顔検出を行った後、画像Vを分割しさらに分割した検出枠205毎に顔画像を検索するので、最小検出顔Fminより小さい顔画像を検出することができる。また、画像V全体で顔検出した後に、画像Vを分割する際には、検出された顔画像の内で、一番小さい顔画像の幅および高さを枠重複エリアとして画像Vを分割するので、画像Vに写った顔画像がうまく検出されない事態(まだ検出されていない顔画像が隣り合う検出枠205,205のそれぞれに顔画像の一部だけが映り、顔画像の全体がいずれの検出枠205にも納まらないために検出されない事態)を防ぐことができる。そして、QVGAで検出枠毎に顔検出を行うので、処理負荷の増加を抑制しつつ、小さい顔画像を検出することができる。
(変形例)
上記実施形態において、対象物検出部22の検出対象である対象物は顔画像であったが、対象物は人物検出や物体検知(車両等)のための、人物や物体等であってもよい。
上記実施形態において、図9に示すように、撮像装置41はフレームレート30fpsで撮像し、画像取得部21は約33msecで全画素で画像を取り込む。分割された領域毎に対象物検出部22がQVGAの顔画像の検出を約11msecで行う。従って、100msecに1回画像Vを取り込む場合、検出作業を行うことができる検出枠205の数は9、66msecに1回画像Vを取り込む場合には、検出作業を行うことができる検出枠205の数は6となる。従って、上記除外範囲210等の設定以外にも検出作業を行う検出枠の数を減らす手法を取るとよい。例えば、図10に示すように、画像Vにおける上部の領域Iでは15fps、中間の領域IIでは30fps、下部の領域IIIでは60fpsのフレームレートとするとよい。撮像装置41(撮像部40)は、天井に設置されているので、画像Vの上部の領域Iは撮像装置41から遠い範囲を映しており、対象物の移動量(変化量)は小さく、フレームレートを低く抑えても問題は少ない。一方、下部の領域IIIは撮像装置41から近い範囲を映しているので、対象物の移動量(変化量)は大きく、フレームレートは高く保つことが好ましい。補正部26は、このように補正した検出条件Zを検出条件記憶部34に記憶する。QVGAではなく、VGAや4Kの場合だとさらに処理時間を要するので、検出方法を工夫することは有用である。
また、図10の領域IIIは、撮像装置41から近いので、小さい顔画像の検出は行わず、撮像装置41から遠い領域Iのみで小さい顔画像の検出を行う検出条件を設定してもよい。
上記実施形態において、図8の対象物検出処理のステップS9およびS10では、最小検出顔Fminを枠重複エリアの幅および高さとしたが、ユーザが任意に設定した、あるいは検出枠記憶部32等にあらかじめ設定した数値や数式等により枠重複エリアの幅および高さを決定してもよい。
また、上記実施形態において、画像処理装置10は撮像部40を備えていたが、画像処理装置は撮像部を備えておらず、通信部50を介して制御可能な外部の撮像装置に接続されていてもよい。
上記実施形態において、画像処理装置10は、2次元顔認証を行う顔認証装置80のための画像を生成したが、3次元顔認証を行う顔認証装置のための画像を生成してもよい。
この発明の画像処理装置10の各機能は、通常のPC(Personal Computer)等のコンピュータによっても実施することができる。具体的には、上記実施形態では、画像処理装置10が行う露出補正処理および画像処理のプログラムが、記憶部30のROMに予め記憶されているものとして説明した。しかし、プログラムを、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory)、DVD(Digital Versatile Disc)及びMO(Magneto-Optical Disc)等のコンピュータ読み取り可能な記録媒体に格納して配布し、そのプログラムをコンピュータに読み込んでインストールすることにより、上述の各機能を実現することができるコンピュータを構成してもよい。
以上、本発明の好ましい実施形態について説明したが、本発明は係る特定の実施形態に限定されるものではなく、本発明には、特許請求の範囲に記載された発明とその均等の範囲が含まれる。以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
(付記)
(付記1)
撮像された画像を取得する画像取得部と、
前記画像から検出対象を検出する対象物検出部と、
前記対象物検出部が前記画像内で前記検出対象を検出する範囲である検出枠を設定する検出枠設定部と、
前記対象物検出部が前記画像の全体にわたる前記検出対象の検出作業が完了するごとに、前記検出枠を小さくするか否かを判断する検出枠判断部と、を備え、
前記対象物検出部は、前記検出枠設定部が前記検出枠を新たに設定した場合、新たに設定された検出枠に基づいて前記検出対象を検出し、
前記検出枠設定部は、前記検出枠判断部が前記検出枠を小さくすると判断した場合、前記検出作業のときの検出枠より小さい検出枠を設定する、
画像処理装置。
(付記2)
前記検出枠は、小さくなった時に、隣接する検出枠と重複する範囲を有し、
前記重複する範囲は、前記検出対象の大きさに基づいて設定される、
付記1に記載の画像処理装置。
(付記3)
前記検出枠設定部は、前記画像の前記検出作業を開始する時において、前記検出枠の大きさを前記画像の大きさと等しく設定する、
付記1または2に記載の画像処理装置。
(付記4)
前記検出枠が最も小さくなった時に、検出可能な最小の前記検出対象の幅および高さは、前記重複する範囲の幅および高さと等しい、
付記2に記載の画像処理装置。
(付記5)
前記検出枠判断部が、前記検出枠の大きさが検出可能な最小の前記検出対象の大きさと等しいと判断した場合、前記検出枠設定部は、前記検出作業のときの検出枠より小さい検出枠を設定することを終了する、
付記1から4のいずれか1つに記載の画像処理装置。
(付記6)
前記対象物検出部は、前記検出対象の内部に位置する前記検出枠を前記検出対象を検出する範囲から除外する、
付記1から5のいずれか1つに記載の画像処理装置。
(付記7)
前記画像の所定の領域において、前記検出作業の頻度を他の領域よりも高くする、または低くする、
付記1から6のいずれか1つに記載の画像処理装置。
(付記8)
撮像された画像を取得し、
前記画像内で検出対象を検出する範囲である検出枠を設定し、
前記画像の全体にわたる前記検出対象の検出作業が完了するごとに、前記検出枠を小さくするか否かを判断し、
前記検出枠が新たに設定された場合、新たに設定された検出枠に基づいて前記検出対象を検出し、
前記検出枠を小さくすると判断した場合、前記検出作業のときの検出枠より小さい検出枠を設定する、
画像処理方法。
(付記9)
コンピュータに、
撮像された画像を取得し、
前記画像内で検出対象を検出する範囲である検出枠を設定し、
前記画像の全体にわたる前記検出対象の検出作業が完了するごとに、前記検出枠を小さくするか否かを判断し、
前記検出枠が新たに設定された場合、新たに設定された検出枠に基づいて前記検出対象を検出し、
前記検出枠を小さくすると判断した場合、前記検出作業のときの検出枠より小さい検出枠を設定する、
ように機能させるためのプログラム。
1…顔認証システム、10…画像処理装置、20…制御部、21…画像取得部、22…対象物検出部、23…検出枠設定部、24…検出枠判断部、25…判別部、26…補正部、27…画像加工部、28…画像送信部、29…操作部、30…記憶部、31…対象物記憶部、32…検出枠記憶部、33…除外範囲記憶部、34…検出条件記憶部、40…撮像部、41…撮像装置、42…駆動装置、50…通信部、51…通信装置、60…表示部、61…表示装置、70…入力部、71…入力装置、80…顔認証装置、100,101,102,103…人物、200…基準検出枠、201…ユーザ設定検出枠、205…検出枠、206…ユーザ設定検出枠、210…除外範囲、211…ユーザ設定除外範囲、220…検出済顔画像

Claims (6)

  1. 所定の場所に設置された撮像装置によって撮像される人物の画像を含んだ画像を取得する画像取得部と、
    前記画像取得部によって取得される画像に、前記人物の画像の顔画像を検出対象とした第1の検出枠を設定し、前記画像全体にわたり前記第1の検出枠を用いて前記検出対象を検出する対象物検出部と、
    前記対象物検出部による前記第1の検出枠における前記検出対象の大きさに基づいて、前記第1の検出枠より小さい複数の第2の検出枠を設定して前記画像から検出対象を検出するよう制御する制御部と、
    を備え
    前記複数の第2の検出枠のうちの一つには、前記第1の検出枠において検出された前記検出対象のうち最も小さい前記検出対象の大きさに基づいて設定される、前記複数の第2の検出枠のうちの他の一つの検出枠と部分的に重複する範囲が含まれる、
    ことを特徴とする画像処理装置。
  2. 前記対象物検出部は、最初に前記検出対象を検出する場合、前記第1の検出枠の大きさを前記画像の大きさと等しく設定する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記検出対象は前記画像に複数含まれ、
    前記制御部は、前記画像における前記対象物検出部により前記検出対象が検出された範囲を除外して前記複数の第2の検出枠を設定して前記画像から検出対象を検出するよう制御する
    ことを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記画像の所定の領域において、前記対象物検出部による前記検出対象の検出作業の頻度を他の領域よりも高くする、または低くする、
    請求項1から3のいずれか1項に記載の画像処理装置。
  5. 所定の場所に設置された撮像装置によって撮像される人物の画像を含んだ画像を取得する画像取得ステップと、
    前記画像取得ステップにて取得される画像に、前記人物の画像の顔画像を検出対象とした第1の検出枠を設定し、前記画像全体にわたり前記第1の検出枠を用いて前記検出対象を検出する対象物検出ステップと、
    前記対象物検出ステップでの前記第1の検出枠における前記検出対象の大きさに基づいて、前記第1の検出枠より小さい複数の第2の検出枠を設定して前記画像から検出対象を検出するよう制御する制御ステップと、
    を含み、
    前記複数の第2の検出枠のうち一つには、前記第1の検出枠において検出された前記検出対象のうち最も小さい前記検出対象の大きさに基づいて設定される、前記複数の第2の検出枠のうちの他の一つの検出枠と重複する範囲が含まれる、
    ことを特徴とする画像処理方法。
  6. コンピュータを、
    所定の場所に設置された撮像装置によって撮像される人物の画像を含んだ画像を取得する画像取得手段、
    前記画像取得手段によって取得される画像に、前記人物の画像の顔画像を検出対象とした第1の検出枠を設定し、前記画像全体にわたり前記第1の検出枠を用いて前記検出対象を検出する対象物検出手段、
    前記対象物検出手段による前記第1の検出枠における前記検出対象の大きさに基づいて、前記第1の検出枠より小さい複数の第2の検出枠を設定して前記画像から検出対象を検出するよう制御する制御手段、として機能させ
    前記複数の第2の検出枠のうち一つには、前記第1の検出枠において検出された前記検出対象のうち最も小さい前記検出対象の大きさに基づいて設定される、前記複数の第2の検出枠のうちの他の一つの検出枠と重複する範囲が含まれる、
    プログラム。
JP2020054105A 2020-03-25 2020-03-25 画像処理装置、画像処理方法及びプログラム Active JP7200965B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020054105A JP7200965B2 (ja) 2020-03-25 2020-03-25 画像処理装置、画像処理方法及びプログラム
CN202110283453.XA CN113452899B (zh) 2020-03-25 2021-03-16 图像处理装置、图像处理方法以及存储介质
US17/211,651 US20210306556A1 (en) 2020-03-25 2021-03-24 Image processing device, image processing method, and non-transitory recording medium
JP2022203125A JP2023029396A (ja) 2020-03-25 2022-12-20 画像処理装置、画像処理方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020054105A JP7200965B2 (ja) 2020-03-25 2020-03-25 画像処理装置、画像処理方法及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022203125A Division JP2023029396A (ja) 2020-03-25 2022-12-20 画像処理装置、画像処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2021158417A JP2021158417A (ja) 2021-10-07
JP7200965B2 true JP7200965B2 (ja) 2023-01-10

Family

ID=77809087

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020054105A Active JP7200965B2 (ja) 2020-03-25 2020-03-25 画像処理装置、画像処理方法及びプログラム
JP2022203125A Pending JP2023029396A (ja) 2020-03-25 2022-12-20 画像処理装置、画像処理方法及びプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022203125A Pending JP2023029396A (ja) 2020-03-25 2022-12-20 画像処理装置、画像処理方法及びプログラム

Country Status (3)

Country Link
US (1) US20210306556A1 (ja)
JP (2) JP7200965B2 (ja)
CN (1) CN113452899B (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009193421A (ja) 2008-02-15 2009-08-27 Sony Corp 画像処理装置、カメラ装置、画像処理方法、およびプログラム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8184157B2 (en) * 2005-12-16 2012-05-22 Siemens Corporation Generalized multi-sensor planning and systems
US7693301B2 (en) * 2006-10-11 2010-04-06 Arcsoft, Inc. Known face guided imaging method
JP4315215B2 (ja) * 2007-05-18 2009-08-19 カシオ計算機株式会社 撮像装置、及び顔検出方法、顔検出制御プログラム
JP4582212B2 (ja) * 2008-06-24 2010-11-17 カシオ計算機株式会社 撮像装置及びプログラム
JP2010041255A (ja) * 2008-08-01 2010-02-18 Sony Corp 撮像装置、撮像方法およびプログラム
JP5083164B2 (ja) * 2008-10-09 2012-11-28 住友電気工業株式会社 画像処理装置及び画像処理方法
WO2010064405A1 (ja) * 2008-12-05 2010-06-10 パナソニック株式会社 顔検出装置
JP5434104B2 (ja) * 2009-01-30 2014-03-05 株式会社ニコン 電子カメラ
WO2012169119A1 (ja) * 2011-06-10 2012-12-13 パナソニック株式会社 物体検出枠表示装置及び物体検出枠表示方法
KR101494874B1 (ko) * 2014-05-12 2015-02-23 김호 사용자 인증 방법, 이를 실행하는 장치 및 이를 저장한 기록 매체
JP6149854B2 (ja) * 2014-12-29 2017-06-21 カシオ計算機株式会社 撮像装置、撮像制御方法及びプログラム
KR20210024859A (ko) * 2019-08-26 2021-03-08 삼성전자주식회사 영상 처리 방법 및 장치
JP2022120681A (ja) * 2021-02-05 2022-08-18 キヤノン株式会社 画像処理装置および画像処理方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009193421A (ja) 2008-02-15 2009-08-27 Sony Corp 画像処理装置、カメラ装置、画像処理方法、およびプログラム

Also Published As

Publication number Publication date
US20210306556A1 (en) 2021-09-30
JP2021158417A (ja) 2021-10-07
CN113452899A (zh) 2021-09-28
JP2023029396A (ja) 2023-03-03
CN113452899B (zh) 2023-05-05

Similar Documents

Publication Publication Date Title
US10706269B2 (en) Recognizing a face and providing feedback on the face-recognition process
US10070047B2 (en) Image processing apparatus, image processing method, and image processing system
RU2641449C2 (ru) Способ и устройство для идентификации области
US10467479B2 (en) Image processing apparatus, method, and storage medium for reducing a visibility of a specific image region
CN103383595B (zh) 基于用户人脸的分析控制移动终端的装置和方法
US20130083072A1 (en) Display apparatus, display control method, and storage medium storing program
US8587710B2 (en) Apparatus and method for controlling picture using image recognition
EP3024227A1 (en) Image processing apparatus and image processing method
US11765312B2 (en) Image processing apparatus, image processing apparatus control method, and non-transitory computer-readable storage medium
JP2010086336A (ja) 画像制御装置、画像制御プログラムおよび画像制御方法
US10812705B2 (en) Imaging apparatus, imaging method, and imaging program
US20050041111A1 (en) Frame adjustment device and image-taking device and printing device
US11687635B2 (en) Automatic exposure and gain control for face authentication
KR102290991B1 (ko) 열화상을 생성하는 방법 및 장치
US10939044B1 (en) Automatically setting zoom level for image capture
JP7200965B2 (ja) 画像処理装置、画像処理方法及びプログラム
US10491833B2 (en) Information processing apparatus, information processing method, and non-transitory computer-readable recording medium
KR101610512B1 (ko) 스테레오 카메라 및 그 작동 방법
KR101629553B1 (ko) 이동 단말기에서 디스플레이 화면 제어 장치 및 그 방법
JP6408054B2 (ja) 情報処理装置、方法及びプログラム
US20140253780A1 (en) Method of adjusting light detection algorithm
CN103581538A (zh) 数字拍摄设备和控制所述数字拍摄设备的方法
JPH1196477A (ja) 情報処理システムのセキュリティ装置
JP7357596B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム並びに撮像装置
US11445102B2 (en) Information processing device and information processing method

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210705

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210705

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220725

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221122

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221205

R150 Certificate of patent or registration of utility model

Ref document number: 7200965

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150