JP2010003117A - 対象物判定装置及びプログラム - Google Patents

対象物判定装置及びプログラム Download PDF

Info

Publication number
JP2010003117A
JP2010003117A JP2008161356A JP2008161356A JP2010003117A JP 2010003117 A JP2010003117 A JP 2010003117A JP 2008161356 A JP2008161356 A JP 2008161356A JP 2008161356 A JP2008161356 A JP 2008161356A JP 2010003117 A JP2010003117 A JP 2010003117A
Authority
JP
Japan
Prior art keywords
image
wearing
likelihood value
likelihood
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008161356A
Other languages
English (en)
Other versions
JP5127583B2 (ja
Inventor
Takashi Naito
貴志 内藤
Shinichi Kojima
真一 小島
Satoru Nakanishi
悟 中西
Takehiko Tanaka
勇彦 田中
Junya Kasugai
純也 春日井
Takuhiro Omi
拓寛 大見
Hiroyuki Ishizaka
宏幸 石坂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hino Motors Ltd
Denso Corp
Toyota Motor Corp
Toyota Central R&D Labs Inc
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Hino Motors Ltd
Denso Corp
Toyota Motor Corp
Toyota Central R&D Labs Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd, Hino Motors Ltd, Denso Corp, Toyota Motor Corp, Toyota Central R&D Labs Inc filed Critical Aisin Seiki Co Ltd
Priority to JP2008161356A priority Critical patent/JP5127583B2/ja
Priority to US12/487,958 priority patent/US8705850B2/en
Publication of JP2010003117A publication Critical patent/JP2010003117A/ja
Application granted granted Critical
Publication of JP5127583B2 publication Critical patent/JP5127583B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

【課題】対象物がマスクやサングラスなどの装着物を装着しているか否かを信頼性高く判定することができる対象物判定装置及びプログラムを提供する。
【解決手段】撮像して得られた画像が表す対象物について、マスクを装着した対象物の画像に反応するように学習した機械学習システムを用いてマスクを装着した対象物らしさを示す尤度値を算出し(S104)、マスクを装着していない対象物の画像に反応するように学習した機械学習システムを用いてマスクを装着していない対象物らしさを示す尤度値を算出し(S106)、該算出された2つの尤度値の比に基づいて、該撮像されて得られた画像が表す対象物がマスクを装着しているか否かを判定する(S108)。
【選択図】図4

Description

本発明は、対象物判定装置及びプログラムに関し、特に、対象物が装着物を装着しているか否かを判定する対象物判定装置及びプログラムに関する。
顔画像から抽出される口や鼻などの顔特徴量を用いて顔向きや、瞬き、視線などの対象者の顔状態量を推定する場合において、対象者がマスクやサングラスなどを装着していると、前記顔状態量を正しく推定できない。顔への装着物を考慮して顔向きを推定する方法として、例えば下記特許文献1に記載された技術がある。この技術では顔画像から目、口、鼻などの特徴点の抽出を行い顔向きを推定するが、目の特徴点が所定回抽出できない場合はサングラスを装着していると判定し、サングラス上の画像特徴を用いて顔向きを推定している。また鼻と口の特徴量が所定回抽出できない場合は、マスクを装着していると判定して、マスク上の画像特徴を用いて顔向きの推定を行なっている。
特開2003−296712号公報
上記従来の技術では、目、鼻、口の特徴量が抽出できない場合にそれぞれサングラス、マクスを装着していると判定しているが、例えば、車両を運転する運転者の顔向きの推定を行なう場合には、実際の走行環境において、周辺照明環境の変動による顔画像上での局所的明るさ変化や、対象者の顔姿勢などにより目、鼻、口の特徴が未検出となる場合が頻繁に発生する。このため、サングラスやマスクを装着していないにもかかわらず、目や鼻、口が検出できないことからサングラス、マスクを装着していると判定してしまい、それによって本来存在しないサングラス、マスクの特徴点から顔向きなどの状態量を推定することとなり、結果的に正しい状態量は得られず、逆に非常に誤差の大きい状態量を算出してしまう、という問題が発生する。
本発明は、上述した問題を解決するために提案されたものであり、対象物がマスクやサングラスなどの装着物を装着しているか否かを信頼性高く判定することができる対象物判定装置及びプログラムを提供することを目的とする。
上記目的を達成するために、請求項1に記載の発明の対象物判定装置は、対象物を撮像するための撮像手段と、前記撮像手段で撮像されて得られた画像が表す対象物について、前記撮像手段で撮像されて得られた画像と、装着物を装着した対象物の画像に反応するように学習した機械学習システムとを用いて前記装着物を装着した対象物らしさを示す第1尤度値を算出すると共に、前記撮像手段で撮像されて得られた画像と、前記装着物を装着していない対象物の画像に反応するように学習した機械学習システムとを用いて前記装着物を装着していない対象物らしさを示す第2尤度値を算出する尤度値算出手段と、前記尤度値算出手段で算出された第1尤度値と第2尤度値との比に基づいて、前記撮像手段で撮像されて得られた画像が表す対象物が前記装着物を装着しているか否かを判定する判定手段と、を含んで構成されている。
このように、装着物を装着した対象物の画像に反応するように学習した機械学習システムと、装着物を装着していない対象物の画像に反応するように学習した機械学習システムとを用いて2つの尤度値を求め、この2つの尤度値の比から対象物が装着物を装着しているか否かを判定するようにしたため、装着物の装着の有無を信頼性高く判定することができる。特に、2種類の異なる機械学習システムから求められた尤度値の比を評価基準に用いることで、1種類の機械学習システムを用いる場合よりもより誤検出を少なくすることができる。また、2種類の異なる機械学習システムから求められた尤度値の絶対値の差が小さくても、比をとることで、装着物を装着していない対象物らしさと装着物を装着している対象物らしさとの対比が明確になるため、判定の精度が上がる。
また、請求項2の発明の対象物判定装置は、対象物を撮像するための撮像手段と、前記撮像手段で撮像されて得られた画像から、前記対象物が装着物を装着していると仮定したときに該装着物が存在すると推定される予め定められた領域を抽出する抽出手段と、前記撮像手段で撮像されて得られた画像が表す対象物について、前記抽出手段で抽出された領域の画像と、前記装着物を装着した対象物の画像における前記予め定められた領域の画像に反応するように学習した機械学習システムとを用いて前記装着物を装着した対象物らしさを示す第1尤度値を算出すると共に、前記抽出手段で抽出された領域の画像と、前記装着物を装着していない対象物の画像における前記予め定められた領域の画像に反応するように学習した機械学習システムとを用いて前記装着物を装着していない対象物らしさを示す第2尤度値を算出する尤度値算出手段と、前記尤度値算出手段で算出された第1尤度値と第2尤度値との比に基づいて、前記撮像手段で撮像されて得られた画像が表す対象物が前記装着物を装着しているか否かを判定する判定手段と、を含んで構成されている。
このように、撮像されて得られた画像から、対象物が装着物を装着していると仮定したときに該装着物が存在すると推定される予め定められた領域を抽出し、該抽出した領域の画像と、装着物を装着した対象物の画像における上記予め定められた領域の画像に反応するように学習した機械学習システムと、装着物を装着していない対象物の画像における上記予め定められた領域の画像に反応するように学習した機械学習システムとを用いて2つの尤度値を求め、この2つの尤度値の比から対象物が装着物を装着しているか否かを判定するようにしたため、請求項1に記載の発明と同様に、装着物の装着の有無を信頼性高く判定することができる。また、請求項1に記載の発明の効果に加え、請求項2に記載の発明では、対象物全体の画像ではなく装着物が存在すると推定される予め定められた領域の画像に着目して判定を行なうため、処理時間の短縮につながる。
なお、請求項3に記載の発明のように、請求項1または2に記載の対象物判定装置の判定手段は、前記第1尤度値の前記第2尤度値に対する比が第1の閾値を超える場合には、前記撮像手段で撮像されて得られた画像が表す対象物が前記装着物を装着していると判定し、前記第1尤度値の前記第2尤度値に対する比が前記第1の閾値より小さい第2の閾値未満である場合には、前記撮像手段で撮像されて得られた画像が表す対象物が前記装着物を装着していないと判定するようにしてもよい。
すなわち、第1尤度値の第2尤度値に対する比が大きい場合には、装着物を装着している可能性が高く、逆に第1尤度値の第2尤度値に対する比が小さい場合には、装着物を装着していない可能性が高い。従って、上記のように判定することで、より確からしい判定をすることができ、誤判定を低く抑えることができる。
請求項4の発明のプログラムは、コンピュータに、対象物を撮像するための撮像手段で撮像されて得られた画像が表す対象物について、前記撮像手段で撮像されて得られた画像と、装着物を装着した対象物の画像に反応するように学習した機械学習システムとを用いて前記装着物を装着した対象物らしさを示す第1尤度値を算出する第1尤度値算出ステップと、前記撮像手段で撮像されて得られた画像が表す対象物について、前記撮像手段で撮像されて得られた画像と、前記装着物を装着していない対象物の画像に反応するように学習した機械学習システムとを用いて前記装着物を装着していない対象物らしさを示す第2尤度値を算出する第2尤度値算出ステップと、前記算出された第1尤度値と第2尤度値との比に基づいて、前記撮像手段で撮像されて得られた画像が表す対象物が前記装着物を装着しているか否かを判定する判定ステップと、を実行させるためのプログラムである。
このようなプログラムによっても、請求項1に記載の対象物判定装置と同様に作用するため、請求項1に記載の対象物判定装置と同様の効果が得られる。なお、第1尤度値算出ステップと第2尤度値算出ステップは、どちらを先に実行してもよい。
請求項5の発明のプログラムは、コンピュータに、対象物を撮像するための撮像手段で撮像されて得られた画像から、前記対象物が装着物を装着していると仮定したときに該装着物が存在すると推定される予め定められた領域を抽出する抽出ステップと、前記撮像手段で撮像されて得られた画像が表す対象物について、前記抽出された領域の画像と、前記装着物を装着した対象物の画像における前記予め定められた領域の画像に反応するように学習した機械学習システムとを用いて前記装着物を装着した対象物らしさを示す第1尤度値を算出する第1尤度値算出ステップと、前記撮像手段で撮像されて得られた画像が表す対象物について、前記抽出された領域の画像と、前記装着物を装着していない対象物の画像における前記予め定められた領域の画像に反応するように学習した機械学習システムとを用いて前記装着物を装着していない対象物らしさを示す第2尤度値を算出する第2尤度値算出ステップと、前記算出された第1尤度値と第2尤度値との比に基づいて、前記撮像手段で撮像されて得られた画像が表す対象物が前記装着物を装着しているか否かを判定する判定ステップと、を実行させるためのプログラムである。
このようなプログラムによっても、請求項2に記載の対象物判定装置と同様に作用するため、請求項2に記載の対象物判定装置と同様の効果が得られる。なお、第1尤度値算出ステップと第2尤度値算出ステップは、どちらを先に実行してもよい。
以上説明したように本発明によれば、対象物が装着物を装着しているか否かを信頼性高く判定することができる。
図1は、本発明の実施の形態に係る対象物判定装置10の概略構成図である。本実施の形態の対象物判定装置10は、対象物として人物の顔を撮影し、該撮影した人物の顔に装着物(ここではマスク)が装着されているか否かを判定する。
図1に示すように、対象物判定装置10は、対象者12を撮影するためのカメラ14と、画像取り込み装置16と、画像処理装置18とから構成される。
画像取り込み装置16は、画像メモリを備えており、カメラ14で撮影されて得られた画像データを取り込んで画像メモリに記憶する。また、画像取り込み装置16は、画像メモリから該画像データを読み出して画像処理装置18に入力する。
図2は、画像処理装置18の機能構成図である。
画像処理装置18は、画像取り込み装置16から入力された画像データに基づいて対象者12の顔にマスクが装着されているか否かを判定する処理を行なう装置であって、顔領域検出部20、尤度算出部22、および判定部24を含んで構成されている。
顔領域検出部20は、画像取り込み装置16から入力された画像データの画像から、対象者12の顔の領域を検出する。顔の領域を検出する技術には、様々な技術があるが、本実施の形態では、パターン認識能力の優れた識別器の一種であるニューラルネットワーク(以下、NN)を用いたH.Rowleyらの顔検出の手法("Neural Network-based Face Detection", IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol.20, No.1, 1998, pp.23-38参照)を用いてもよい。ただし、顔領域検出部20では対象者12がマスクを装着しているか否かを判断するわけではないため、対象者12がマスクを装着しているか否かに関わらず対象者12の顔を検出できるように予めNNを学習しておく。
より具体的には、入力層、中間層、及び出力層を連結して構成したNNに、既知の入出力データによって連結関係を学習させる。ここでは、バックプロパゲーションと呼ぶ学習手法により、図3(A)に示すように、マスクを装着していない多数の顔画像、及び図3(B)に示すように、さまざまな形状のマスクを装着している多数の顔画像に対してNNの出力層が1の信号を出力するように教師信号1を与えて興奮学習を行なう。一方、顔と全く異なる画像(たとえば風景画像など)を非顔画像として多数用意しておき、これらの画像に対しては教師信号0を与えて抑制学習を行う。このNNをマスク/非マスク顔反応NNと呼称する。
尤度算出部22は、顔領域検出部20で検出された領域に対して、マスクを装着した顔らしさを示す第1尤度値v1と、マスクを装着していない顔らしさを示す第2尤度値v2とを算出する。
具体的には、マスクを装着した顔らしさを示す第1尤度値v1については、マスクを装着した顔の画像のみに反応するように学習したNN(以下、マスク顔反応NN)を、顔領域検出部20で検出された顔領域に適用して算出する。なお、マスク顔反応NNも、上記マスク/非マスク顔反応NNと同様にバックプロパゲーションの方法を用いて、図3(B)に示したようなさまざまな形状のマスクを装着している多数の顔画像に対して、教師信号を1として、いわゆる興奮学習を行なうと同時に、図3(A)に示したようなマスクを装着していない多数の顔画像に対して教師信号を0として抑制学習を行なう。このような学習を行なうことによって、マスク顔反応NNの出力層がマスクを装着した顔画像に対しては高い出力値を、マスクを装着していない顔画像に対しては低い出力値を出力するようになることが期待できる。なお、マスク顔反応NNの出力値は0から1の範囲の値をとるように学習しておく。本実施の形態では、マスク顔反応NNを顔領域検出部20で検出された顔領域に適用したときの出力値をそのまま第1尤度値v1として用いる。従って、第1尤度値v1は、0から1の範囲の値をとる。
また、マスクを装着していない顔らしさを示す第2尤度値v2については、マスクを装着していない顔の画像のみに反応するように学習したNN(非マスク顔反応NN)を、顔領域検出部20で検出された顔領域に適用して算出する。なお、非マスク顔反応NNも、上記マスク/非マスク顔反応NNと同様にバックプロパゲーションの方法を用いて、図3(A)に示したようなマスクを装着していない多数の顔画像に対して教師信号を1として、興奮学習を行なうと同時に、図3(B)に示したようなさまざまな形状のマスクを装着している多数の顔画像に対して、教師信号を0として抑制学習を行なう。このような学習を行なうことによって、非マスク顔反応NNの出力層がマスクを装着していない顔画像に対しては高い出力値を、マスクを装着した顔画像に対しては低い出力値を出力するようになることが期待できる。なお、非マスク顔反応NNの出力値は0から1の範囲の値をとるように学習しておく。本実施の形態では、非マスク顔反応NNを顔領域検出部20で検出された顔領域に適用したときの出力値をそのまま第2尤度値v2として用いる。従って、第2尤度値v2は、0から1の範囲の値をとる。
判定部24は、尤度算出部22で算出された第1尤度値v1と第2尤度値v2とを用いて、カメラ14で撮影された画像が表す対象者12の顔にマスクが装着されているか否かを判定する。
なお、上記説明した画像取り込み装置16や画像処理装置18を構成する各構成要素は、CPU、RAM、ROMを含んで構成されたコンピュータによって実現される。すなわちCPUが、ROMや所定の記憶装置に記憶されたプログラムを実行することにより上記各構成要素の機能を実現し、以下に説明する処理が行なわれる。また、各構成要素を別々のコンピュータで構成してもよいし、1つのコンピュータで構成してもよい。
次に、本実施の形態で実行されるマスク装着判定処理の詳細を説明する。
図4は、対象物判定装置10の画像取り込み装置16及び画像処理装置18により行なわれるマスク装着判定処理の流れを示すフローチャートである。
まず、ステップS100では、画像取り込み装置16が、カメラ14で撮像されて得られた画像データを取り込んで一旦画像メモリに記憶する。そして画像メモリから画像データを読みだして画像処理装置18の顔領域検出部20に入力する。ステップS102では、顔領域検出部20が、画像取り込み装置16から入力された画像データが表す画像から、マスクの装着の有無に関わらず、マスク/非マスク顔反応NNを用いて顔領域を検出する。
ステップS104では、尤度算出部22が、顔領域検出部20で検出された顔領域に対してマスク顔反応NNを適用して第1尤度値v1を算出する。前述したように、マスク顔反応NNは、マスクを装着した顔画像に対しては1が出力されるように、それ以外の画像に対しては0が出力されるように学習されているため、第1尤度値v1は0から1の範囲の数値となり、マスクを装着した顔画像に適用したときの第1尤度値v1のほうがマスクを装着していない顔画像に適用したときの第1尤度値v1に比べて値が大きくなることが期待できる。
ステップS106では、尤度算出部22が、顔領域検出部20で検出された顔領域に対して非マスク顔反応NNを適用して第2尤度値v2を算出する。前述したように、非マスク顔反応NNは、マスクを装着していない顔画像に対しては1が出力されるように、それ以外の画像に対しては0が出力されるように学習されているため、第2尤度値v2も0から1の範囲の数値となり、マスクを装着していない顔画像に適用したときの第2尤度値v2のほうがマスクを装着している顔画像に適用したときの第2尤度値v2に比べて値が大きくなることが期待できる。
ステップS108では、判定部24が、第1尤度値v1および第2尤度値v2の比から、対象者12がマスクを装着しているか否かを判定する。第1尤度値v1および第2尤度値v2の比rは、以下に示す(1)式、
r=第1尤度値v1/第2尤度値v2 ・・・(1)
で求める。
カメラ14で撮影された対象者12の顔画像がマスクを装着している場合には、第1尤度値v1は1に近い値となり、第2尤度値v2は0に近い値になると期待できる。従って、第1尤度値v1の第2尤度値v2に対する比rは、1に比べて十分大きい値となる。
一方、カメラ14で撮影された対象者12の顔画像がマスクを装着していない場合には、第1尤度値v1は0に近い値であり、第2尤度値v2は1に近い値となると期待できるため、その比rは非常に小さい値となる。
そこで、第1尤度値の第2尤度値に対する比rが十分大きい場合にはマスクを装着していると判定し、rが十分小さい場合にはマスクを装着していないと判定する。ここでは、以下の比較式(2)、(3)を用いて判定を行なう。
r>th1 マスクを装着している ・・・(2)
r<th2 マスクを装着していない ・・・(3)
ここでth1、th2は判定のための閾値であり、0<th2<th1の関係を有する。例えばth1=50、th2=0.01などの値を用いる。なお、(2)、(3)の比較式のいずれにも該当しない場合には、マスクの有無を判定するには十分な確度がないと判断して、判定を保留するようにしてもよい。
このようにマスクを装着した顔画像のみに反応するマスク顔反応NNと、マスクを装着していない顔画像のみに反応する非マスク顔反応NNの2つを用い、2つのNNから求められた第1尤度値v1と第2尤度値v2との比を利用することで、より確からしい判定をすることができ、誤検出を低く抑えることができる。
マスク装着判定処理の判定結果は、例えば、顔状態の推定処理を行なう場合に利用できる。例えば、マスクを装着していると判定された場合には、画像から口や鼻の特徴量の検出は困難であるため、他の特徴量を用いた顔状態の推定処理を行なえば良く、マスクを装着している場合としていない場合とで効率的に処理手順を切り替えることで安定した顔状態推定が実現できる。
なお、本実施の形態では、マスクの装着の有無を判定する例について説明したが、サングラスの装着の有無を判定する場合であっても、上記実施の形態と同様に処理すればよい。すなわち、サングラスを装着している顔画像のみに反応するNNと、サングラスを装着していない顔画像のみに反応するNNとを用意しておき、この2つのNNを用いて2つの尤度値を求め、その比を算出して閾値と比較することで、同様の効果を得ることができる。
また、マスク及びサングラスの両方の装着の有無を判定するように構成してもよい。すなわち、マスクとサングラスの両方を装着している顔画像に反応するNNと、マスクとサングラスの両方を装着していない顔画像に反応するNNとを用意しておき、この2つのNNを用いて2つの尤度値を求め、その比を算出して閾値と比較することで、同様の効果を得ることができる。
また、上記実施の形態では、マスク装着の有無の判定に異なる2つのNNを用いる例について説明したが、これに限定されず、サポートベクターマシンなど、NN以外の他の機械学習システムを用いてもよい。
また、上記実施の形態では、顔全体の画像に対してNNを適用してマスクの装着を判定する例について説明したが、顔の下半分の領域の画像のみを用いてマスクの装着の判定を行なうようにしてもよい。以下、顔の下半分の領域の画像のみを用いてマスクの装着の判定を行なう変形例について説明する。
この変形例の対象物判定装置の構成は、上記実施の形態の対象物判定装置10と同様の構成とする。ただし、以下の構成要素は以下に説明するように機能する。
画像処理装置18の顔領域検出部20は、上記実施の形態と同様に、カメラ14で撮影されて得られた画像データが表す画像から、対象者12の顔の領域を検出する。そして、更に、検出された顔領域を上下半分に分割したときの下半分の領域の画像の画像データを切り出して尤度算出部22に出力する。下半分の領域は、対象者12がマスクを装着していると仮定した場合に、顔画像の中で該マスクが存在すると推定される領域である。
尤度算出部22は、顔領域検出部20で検出され切り出された画像データが示す画像に対して、マスクを装着した顔らしさを示す第1尤度値v1と、マスクを装着していない顔らしさを示す第2尤度値v2とを算出する。
ただし、第1尤度値v1、第2尤度値v2を求めるためのマスク顔反応NNおよび非マスク顔反応NNは、マスク非装着画像の下半分の画像と、マスク装着画像の下半分の画像とを用いて学習させる。
すなわち、マスク顔反応NNは、バックプロパゲーションの方法を用いて、図5(B)において破線で示したように、マスクを装着している多数の顔画像の下半分の画像に対して、教師信号を1として興奮学習を行なうと同時に、図5(A)において破線で示したように、マスクを装着していない多数の顔画像の下半分の画像や非顔画像に対して、教師信号を0として抑制学習を行なう。
また、非マスク顔反応NNも、バックプロパゲーションの方法を用いて、図5(A)において破線で示したように、マスクを装着していない多数の顔画像の下半分の画像に対して、教師信号を1として興奮学習を行なうと同時に、図5(B)において破線で示したように、さまざまな形状をしたマスクを装着している多数の顔画像の下半分の画像や非顔画像に対して、教師信号を0として抑制学習を行なう。
図6(A)は、本変形例における画像取り込み装置16及び画像処理装置18により行なわれるマスク装着判定処理の流れを示すフローチャートである。
ステップS200〜S202は、カメラ14で撮影されて得られた画像データを取り込んで顔領域を検出する処理であり(図6(B)参照)、上記ステップS100〜S102と同様に処理するため、説明を省略する。
ステップS204では、顔領域検出部20は、画像取り込み装置16から入力された画像データが表す画像から上記検出した対象者12の顔の領域を上下半分に分割したときの下半分の領域の画像データを切り出して尤度算出部22に出力する(図6(C)参照)。
ステップS206では、尤度算出部22が、マスク顔反応NNを、顔領域検出部20で切り出された下半分の領域の画像データが示す画像に適用して第1尤度値v1を算出する。
ステップS208では、尤度算出部22が、非マスク顔反応NNを、顔領域検出部20で切り出された下半分の領域の画像データが示す画像に適用して第2尤度値v2を算出する。
ステップS210では、判定部24が、第1尤度値v1および第2尤度値v2の比から、対象者12がマスクを装着しているか否かを判定する。判定の方法は、上記ステップS108と同様であるため説明を省略する。
このように、顔の下半分の領域の画像のみを用いてマスクの装着の判定を行なうことにより、処理時間を短縮することができる。
なお、この変形例では、マスクの装着の有無を判定する場合について説明したが、サングラス装着の有無を判定するようにしてもよい。この場合には、上記変形例と同じ手順で顔画像の上半分の領域を切り出して、顔画像の上半分の領域を元に学習したサングラス顔反応NNと非サングラス顔対応NNを用いて、サングラス装着の判定を行なう。
なお、上記実施の形態や変形例では、第1尤度値v1を算出した後に第2尤度値v2を算出する例について説明したが、第2尤度値v2を算出した後に第1尤度値v1を算出するようにしてもよい。
なお、上記実施の形態及び変形例では、人物の顔にマスク等が装着されているか否かを判定する例について説明したが、これに限定されず、様々な対象物について本発明の適用が可能である。
本発明の実施の形態に係る対象物判定装置の概略構成図である。 画像処理装置の機能構成図である。 (A)は、マスクを装着していない顔画像の一例を示す図であり、(B)は、マスクを装着している顔画像の一例を示す図である。 対象物判定装置の画像取り込み装置及び画像処理装置により行なわれるマスク装着判定処理の流れを示すフローチャートである。 (A)は、マスクを装着していない顔画像の下半分を切り出す場合の切り出し領域の例を示す図であり、(B)は、マスクを装着している顔画像の下半分を切り出す場合の切り出し領域の例を示す図である。 (A)は、変形例における画像取り込み装置及び画像処理装置により行なわれるマスク装着判定処理の流れを示すフローチャートであり、(B)は、顔領域の検出結果の一例を示した図であり、(C)は、顔領域の画像から切り出された下半分の領域の画像を示す図である。
符号の説明
10 対象物判定装置
12 対象者
14 カメラ
16 画像取り込み装置
18 画像処理装置
20 顔領域検出部
22 尤度算出部
24 判定部

Claims (5)

  1. 対象物を撮像するための撮像手段と、
    前記撮像手段で撮像されて得られた画像が表す対象物について、前記撮像手段で撮像されて得られた画像と、装着物を装着した対象物の画像に反応するように学習した機械学習システムとを用いて前記装着物を装着した対象物らしさを示す第1尤度値を算出すると共に、前記撮像手段で撮像されて得られた画像と、前記装着物を装着していない対象物の画像に反応するように学習した機械学習システムとを用いて前記装着物を装着していない対象物らしさを示す第2尤度値を算出する尤度値算出手段と、
    前記尤度値算出手段で算出された第1尤度値と第2尤度値との比に基づいて、前記撮像手段で撮像されて得られた画像が表す対象物が前記装着物を装着しているか否かを判定する判定手段と、
    を含む対象物判定装置。
  2. 対象物を撮像するための撮像手段と、
    前記撮像手段で撮像されて得られた画像から、前記対象物が装着物を装着していると仮定したときに該装着物が存在すると推定される予め定められた領域を抽出する抽出手段と、
    前記撮像手段で撮像されて得られた画像が表す対象物について、前記抽出手段で抽出された領域の画像と、前記装着物を装着した対象物の画像における前記予め定められた領域の画像に反応するように学習した機械学習システムとを用いて前記装着物を装着した対象物らしさを示す第1尤度値を算出すると共に、前記抽出手段で抽出された領域の画像と、前記装着物を装着していない対象物の画像における前記予め定められた領域の画像に反応するように学習した機械学習システムとを用いて前記装着物を装着していない対象物らしさを示す第2尤度値を算出する尤度値算出手段と、
    前記尤度値算出手段で算出された第1尤度値と第2尤度値との比に基づいて、前記撮像手段で撮像されて得られた画像が表す対象物が前記装着物を装着しているか否かを判定する判定手段と、
    を含む対象物判定装置。
  3. 前記判定手段は、前記第1尤度値の前記第2尤度値に対する比が第1の閾値を超える場合には、前記撮像手段で撮像されて得られた画像が表す対象物が前記装着物を装着していると判定し、前記第1尤度値の前記第2尤度値に対する比が前記第1の閾値より小さい第2の閾値未満である場合には、前記撮像手段で撮像されて得られた画像が表す対象物が前記装着物を装着していないと判定する
    請求項1または2に記載の対象物判定装置。
  4. コンピュータに、
    対象物を撮像するための撮像手段で撮像されて得られた画像が表す対象物について、前記撮像手段で撮像されて得られた画像と、装着物を装着した対象物の画像に反応するように学習した機械学習システムとを用いて前記装着物を装着した対象物らしさを示す第1尤度値を算出する第1尤度値算出ステップと、
    前記撮像手段で撮像されて得られた画像が表す対象物について、前記撮像手段で撮像されて得られた画像と、前記装着物を装着していない対象物の画像に反応するように学習した機械学習システムとを用いて前記装着物を装着していない対象物らしさを示す第2尤度値を算出する第2尤度値算出ステップと、
    前記算出された第1尤度値と第2尤度値との比に基づいて、前記撮像手段で撮像されて得られた画像が表す対象物が前記装着物を装着しているか否かを判定する判定ステップと、
    を実行させるためのプログラム。
  5. コンピュータに、
    対象物を撮像するための撮像手段で撮像されて得られた画像から、前記対象物が装着物を装着していると仮定したときに該装着物が存在すると推定される予め定められた領域を抽出する抽出ステップと、
    前記撮像手段で撮像されて得られた画像が表す対象物について、前記抽出された領域の画像と、前記装着物を装着した対象物の画像における前記予め定められた領域の画像に反応するように学習した機械学習システムとを用いて前記装着物を装着した対象物らしさを示す第1尤度値を算出する第1尤度値算出ステップと、
    前記撮像手段で撮像されて得られた画像が表す対象物について、前記抽出された領域の画像と、前記装着物を装着していない対象物の画像における前記予め定められた領域の画像に反応するように学習した機械学習システムとを用いて前記装着物を装着していない対象物らしさを示す第2尤度値を算出する第2尤度値算出ステップと、
    前記算出された第1尤度値と第2尤度値との比に基づいて、前記撮像手段で撮像されて得られた画像が表す対象物が前記装着物を装着しているか否かを判定する判定ステップと、
    を実行させるためのプログラム。
JP2008161356A 2008-06-20 2008-06-20 対象物判定装置及びプログラム Expired - Fee Related JP5127583B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008161356A JP5127583B2 (ja) 2008-06-20 2008-06-20 対象物判定装置及びプログラム
US12/487,958 US8705850B2 (en) 2008-06-20 2009-06-19 Object determining device and program thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008161356A JP5127583B2 (ja) 2008-06-20 2008-06-20 対象物判定装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2010003117A true JP2010003117A (ja) 2010-01-07
JP5127583B2 JP5127583B2 (ja) 2013-01-23

Family

ID=41584783

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008161356A Expired - Fee Related JP5127583B2 (ja) 2008-06-20 2008-06-20 対象物判定装置及びプログラム

Country Status (2)

Country Link
US (1) US8705850B2 (ja)
JP (1) JP5127583B2 (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011039994A (ja) * 2009-08-18 2011-02-24 Nec Soft Ltd 部品検出装置、部品検出方法、プログラムおよび記録媒体
JP2017215666A (ja) * 2016-05-30 2017-12-07 株式会社東芝 制御装置、制御方法およびプログラム
JP2019159346A (ja) * 2018-03-07 2019-09-19 オムロン株式会社 撮像装置
JP2020052773A (ja) * 2018-09-27 2020-04-02 アイシン精機株式会社 乗員モニタリング装置、乗員モニタリング方法、および乗員モニタリングプログラム
JP2020057224A (ja) * 2018-10-02 2020-04-09 大日本印刷株式会社 検出装置、識別器、コンピュータプログラム及び検出方法
WO2021192133A1 (ja) * 2020-03-26 2021-09-30 日本電気株式会社 物体認識装置、物体認識方法、及び、記録媒体
US11188781B2 (en) 2017-03-14 2021-11-30 Omron Corporation Image analyzer, image analysis method, and image analysis program
JP2022002027A (ja) * 2020-06-22 2022-01-06 株式会社アクセル 学習装置、推論装置、コンピュータプログラム、コンピュータシステム、推論方法及び学習方法
JPWO2022137439A1 (ja) * 2020-12-24 2022-06-30
JP2022543334A (ja) * 2020-06-24 2022-10-12 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド 顔認識モデルのトレーニング方法、装置、電子機器および記憶媒体
JP2023541125A (ja) * 2020-08-26 2023-09-28 北京字節跳動網絡技術有限公司 情報表示方法、装置及び記憶媒体

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9406212B2 (en) 2010-04-01 2016-08-02 Sealed Air Corporation (Us) Automated monitoring and control of contamination activity in a production area
US9189949B2 (en) * 2010-12-09 2015-11-17 Sealed Air Corporation (Us) Automated monitoring and control of contamination in a production area
US9143843B2 (en) 2010-12-09 2015-09-22 Sealed Air Corporation Automated monitoring and control of safety in a production area
US9011607B2 (en) 2010-10-07 2015-04-21 Sealed Air Corporation (Us) Automated monitoring and control of cleaning in a production area
AU2013205535B2 (en) * 2012-05-02 2018-03-15 Samsung Electronics Co., Ltd. Apparatus and method of controlling mobile terminal based on analysis of user's face
JP6558388B2 (ja) * 2017-03-14 2019-08-14 オムロン株式会社 画像処理装置
JP6919619B2 (ja) * 2018-04-12 2021-08-18 オムロン株式会社 画像解析装置、方法およびプログラム
WO2019224659A1 (en) * 2018-05-21 2019-11-28 3M Innovative Properties Company Image-based personal protective equipment fit system using worker-specific fit test image data
TWI676136B (zh) 2018-08-31 2019-11-01 雲云科技股份有限公司 使用雙重分析之影像偵測方法以及影像偵測裝置
TWI702570B (zh) 2018-08-31 2020-08-21 雲云科技股份有限公司 選取使用者之代表性影像之影像偵測方法以及影像偵測裝置
TWI680440B (zh) * 2018-08-31 2019-12-21 雲云科技股份有限公司 判斷使用者之姿勢之影像偵測方法以及影像偵測裝置
US11328532B2 (en) * 2020-04-20 2022-05-10 Scott C Harris Mask aware biometric identification system
SA121420975B1 (ar) * 2020-08-05 2024-10-15 صالح أحمد نظام وطريقة للكشف عن قناع الوجه
CN112036519B (zh) * 2020-11-06 2021-05-04 中科创达软件股份有限公司 基于多位sigmoid的分类处理方法、装置及电子设备
US12307813B2 (en) * 2021-02-19 2025-05-20 Tyco Fire & Security Gmbh Systems and methods of detecting incorrect mask usage

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002279416A (ja) * 2001-02-09 2002-09-27 Gretag Imaging Trading Ag 色補正方法および色補正装置
JP2004158013A (ja) * 2002-11-04 2004-06-03 Samsung Electronics Co Ltd 顔検出システム及び方法、並びに顔画像認証方法
JP2006508463A (ja) * 2002-11-29 2006-03-09 ソニー・ユナイテッド・キングダム・リミテッド 顔検出
JP2007111992A (ja) * 2005-10-20 2007-05-10 Konica Minolta Photo Imaging Inc Idカード作成システム及びidカード作成方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4016694B2 (ja) 2002-04-02 2007-12-05 日産自動車株式会社 顔状態検出装置及び方法
US7020337B2 (en) * 2002-07-22 2006-03-28 Mitsubishi Electric Research Laboratories, Inc. System and method for detecting objects in images
JP4486594B2 (ja) * 2002-11-07 2010-06-23 本田技研工業株式会社 確率的外観集合体を使用するビデオに基づく顔認識
GB2395264A (en) * 2002-11-29 2004-05-19 Sony Uk Ltd Face detection in images
US7596247B2 (en) * 2003-11-14 2009-09-29 Fujifilm Corporation Method and apparatus for object recognition using probability models
US7848566B2 (en) * 2004-10-22 2010-12-07 Carnegie Mellon University Object recognizer and detector for two-dimensional images using bayesian network based classifier
US7657086B2 (en) * 2006-01-31 2010-02-02 Fujifilm Corporation Method and apparatus for automatic eyeglasses detection using a nose ridge mask

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002279416A (ja) * 2001-02-09 2002-09-27 Gretag Imaging Trading Ag 色補正方法および色補正装置
JP2004158013A (ja) * 2002-11-04 2004-06-03 Samsung Electronics Co Ltd 顔検出システム及び方法、並びに顔画像認証方法
JP2006508463A (ja) * 2002-11-29 2006-03-09 ソニー・ユナイテッド・キングダム・リミテッド 顔検出
JP2007111992A (ja) * 2005-10-20 2007-05-10 Konica Minolta Photo Imaging Inc Idカード作成システム及びidカード作成方法

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011039994A (ja) * 2009-08-18 2011-02-24 Nec Soft Ltd 部品検出装置、部品検出方法、プログラムおよび記録媒体
JP2017215666A (ja) * 2016-05-30 2017-12-07 株式会社東芝 制御装置、制御方法およびプログラム
US11188781B2 (en) 2017-03-14 2021-11-30 Omron Corporation Image analyzer, image analysis method, and image analysis program
JP2019159346A (ja) * 2018-03-07 2019-09-19 オムロン株式会社 撮像装置
JP2020052773A (ja) * 2018-09-27 2020-04-02 アイシン精機株式会社 乗員モニタリング装置、乗員モニタリング方法、および乗員モニタリングプログラム
JP7173811B2 (ja) 2018-09-27 2022-11-16 株式会社アイシン 乗員モニタリング装置、乗員モニタリング方法、および乗員モニタリングプログラム
JP7163703B2 (ja) 2018-10-02 2022-11-01 大日本印刷株式会社 検出装置、コンピュータプログラム及び検出方法
JP2020057224A (ja) * 2018-10-02 2020-04-09 大日本印刷株式会社 検出装置、識別器、コンピュータプログラム及び検出方法
WO2021192133A1 (ja) * 2020-03-26 2021-09-30 日本電気株式会社 物体認識装置、物体認識方法、及び、記録媒体
JPWO2021192133A1 (ja) * 2020-03-26 2021-09-30
JP7298776B2 (ja) 2020-03-26 2023-06-27 日本電気株式会社 物体認識装置、物体認識方法、及び、プログラム
JP7214236B2 (ja) 2020-06-22 2023-01-30 株式会社アクセル 学習装置、推論装置、コンピュータプログラム、コンピュータシステム、推論方法及び学習方法
JP2022002027A (ja) * 2020-06-22 2022-01-06 株式会社アクセル 学習装置、推論装置、コンピュータプログラム、コンピュータシステム、推論方法及び学習方法
JP2022543334A (ja) * 2020-06-24 2022-10-12 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド 顔認識モデルのトレーニング方法、装置、電子機器および記憶媒体
JP7203248B2 (ja) 2020-06-24 2023-01-12 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド 顔認識モデルのトレーニング方法、装置、電子機器および記憶媒体
JP2023541125A (ja) * 2020-08-26 2023-09-28 北京字節跳動網絡技術有限公司 情報表示方法、装置及び記憶媒体
JP7421010B2 (ja) 2020-08-26 2024-01-23 北京字節跳動網絡技術有限公司 情報表示方法、装置及び記憶媒体
US11922721B2 (en) 2020-08-26 2024-03-05 Beijing Bytedance Network Technology Co., Ltd. Information display method, device and storage medium for superimposing material on image
WO2022137439A1 (ja) * 2020-12-24 2022-06-30 日本電気株式会社 情報処理システム、情報処理方法、及びコンピュータプログラム
JPWO2022137439A1 (ja) * 2020-12-24 2022-06-30

Also Published As

Publication number Publication date
US20100183218A1 (en) 2010-07-22
US8705850B2 (en) 2014-04-22
JP5127583B2 (ja) 2013-01-23

Similar Documents

Publication Publication Date Title
JP5127583B2 (ja) 対象物判定装置及びプログラム
KR101169533B1 (ko) 얼굴 자세 추정 장치, 얼굴 자세 추정 방법 및 얼굴 자세 추정 프로그램을 기록한 컴퓨터 판독 가능한 기록 매체
JP7263094B2 (ja) 情報処理装置、情報処理方法及びプログラム
WO2017208529A1 (ja) 運転者状態推定装置、運転者状態推定システム、運転者状態推定方法、運転者状態推定プログラム、対象者状態推定装置、対象者状態推定方法、対象者状態推定プログラム、および記録媒体
JP5675229B2 (ja) 画像処理装置及び画像処理方法
JP6494253B2 (ja) 物体検出装置、物体検出方法、画像認識装置及びコンピュータプログラム
JP5127582B2 (ja) 対象物判定装置及びプログラム
JP6525545B2 (ja) 情報処理装置、情報処理方法及びコンピュータプログラム
CN107679468A (zh) 一种嵌入式计算机视觉检测疲劳驾驶方法及装置
JP6762344B2 (ja) 顔の位置を追跡して使用者に警報する方法及びシステム
JP6187817B2 (ja) 顔検出装置、方法およびプログラム
US20130070105A1 (en) Tracking device, tracking method, and computer program product
JP7019394B2 (ja) 視認対象検知装置、視認対象検知方法、およびプログラム
US12217528B2 (en) Image processing apparatus for determining an object area where part of the object is occluded
JP7647187B2 (ja) 目開閉判定装置および目開閉判定方法
JP2008146356A (ja) 視線方向推定装置及び視線方向推定方法
JP2014532947A (ja) 人物検出モダリティ結果を融合して人物カウンティングを向上させる方法及びシステム
CN111696312B (zh) 乘员观察装置
CN118097628A (zh) 一种面向遮挡脸部的驾驶员疲劳检测方法及装置
CN102542240A (zh) 用于估计人体朝向的设备和方法
Willems et al. A video-based algorithm for elderly fall detection
CN105046285A (zh) 一种基于运动约束的异常行为辨识方法
JP6798609B2 (ja) 映像解析装置、映像解析方法およびプログラム
JP2013120954A (ja) 寝顔認識装置
Lee et al. Prevention of safety accidents through artificial intelligence monitoring of infants in the home environment

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110510

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120511

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120720

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121002

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121030

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5127583

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151109

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees