JP2009265722A - 顔向き検知装置 - Google Patents
顔向き検知装置 Download PDFInfo
- Publication number
- JP2009265722A JP2009265722A JP2008111039A JP2008111039A JP2009265722A JP 2009265722 A JP2009265722 A JP 2009265722A JP 2008111039 A JP2008111039 A JP 2008111039A JP 2008111039 A JP2008111039 A JP 2008111039A JP 2009265722 A JP2009265722 A JP 2009265722A
- Authority
- JP
- Japan
- Prior art keywords
- mask
- face
- driver
- image
- angle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Emergency Alarm Devices (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
【課題】 マスク等を装着している場合であっても運転者に与える違和感を低減した顔向き検出装置を提供する。
【解決手段】 運転者の顔面画像を撮影する撮影手段と、前記顔面画像から前記運転者の顔の向きを求める画像処理手段とを備え、前記画像処理手段は、前記運転者のマスク着用の有無を判定するマスク有無判定手段を有し、前記マスク着用と判定された場合、マスク着用警報を出力することとした。
【選択図】 図2
【解決手段】 運転者の顔面画像を撮影する撮影手段と、前記顔面画像から前記運転者の顔の向きを求める画像処理手段とを備え、前記画像処理手段は、前記運転者のマスク着用の有無を判定するマスク有無判定手段を有し、前記マスク着用と判定された場合、マスク着用警報を出力することとした。
【選択図】 図2
Description
本発明は、車両に搭載される運転者の顔向き検知装置に関する。
従来、特許文献1に記載される運転者の顔向き検知装置にあっては、カメラにより撮影された運転者の顔面画像に基づき顔の向きと視線方向を判断している。この技術にあっては、顔面画像のうち目、鼻、口等の大まかな特徴点の領域を囲み領域として検出し、この囲み領域内の画像内部から、目の囲み領域内では黒目中心、目頭、目尻等の特徴点を検出し、鼻の囲み領域内では鼻口等の特徴点の位置を検出している。
また、特許文献2の技術にあっては、顔の凹凸や器官等の複数の特徴領域の統計をとり、撮影された画像からこの統計に基づき顔の各部を検出することで、顔を検出している。
特開平9−76815号公報
特開2005−49854号公報
しかしながら上記従来技術にあっては、マスク等で顔の下半分が覆われている場合は口等の特徴部が検出できないため、顔の向き検出もできずエラーが出力されてしまう。そのため、顔向き検出可能な位置に運転者の顔があるにもかかわらずエラーが出力されてしまい、運転者に違和感を与えるという問題があった。
本発明は上記問題に着目してなされたもので、その目的とするところは、マスク等を装着している場合であっても運転者に与える違和感を低減した顔向き検出装置を提供することにある。
上述の目的を達成するため、本発明では、運転者の顔面画像を撮影する撮影手段と、前記顔面画像から前記運転者の顔の向きを求める画像処理手段とを備え、前記画像処理手段は、前記運転者のマスク着用の有無を判定するマスク有無判定手段を有し、前記マスク着用と判定された場合、マスク着用警報を出力することとした。
よって、マスク等を装着している場合であっても運転者に与える違和感を低減した顔向き検出装置を提供できる。
以下に、本発明の顔向き検知装置の実施の形態を、実施例に基づいて説明する。
[システム構成]
実施例1につき説明する。図1は本願顔向き検知装置1のシステム構成図である。顔向き検知装置1は車両に搭載され、運転者検知カメラ10に接続する。
実施例1につき説明する。図1は本願顔向き検知装置1のシステム構成図である。顔向き検知装置1は車両に搭載され、運転者検知カメラ10に接続する。
運転者検知カメラ10は車室内のインパネ2の上部に設けられ、運転者の顔面全体を撮影する。運転者検知カメラ10をインパネ2の上部に設けることで、ステアリングホイール3によって遮られることなく運転者の顔面を撮影可能となっている。
[制御ブロック図]
図2は顔向き検知装置1の制御ブロック図である。顔向き検知装置1は画像処理部100、運転状態判定ユニット200を有し、画像処理部100は顔検出部110、マスク有無判定部120、顔向き算出部130、顔角度/未検出信号出力部140を有する。
図2は顔向き検知装置1の制御ブロック図である。顔向き検知装置1は画像処理部100、運転状態判定ユニット200を有し、画像処理部100は顔検出部110、マスク有無判定部120、顔向き算出部130、顔角度/未検出信号出力部140を有する。
顔検出部110は、運転者検知カメラからの運転者撮影画像に基づき運転者の顔を検出し、検出結果をマスク有無判定部120および顔向き算出部130へ出力する。なお、車速等の車両情報に基づき、走行中であれば運転者が存在するものとして顔検出を行う。
マスク有無判定部120は顔検出部110からの検出結果に基づき運転者がマスクを着用しているかどうかを判定し、判定結果を顔角度/未検出信号出力部140へ出力する。
顔向き算出部130は顔検出部110からの検出結果に基づき運転者の顔向き角度である顔角度θを算出し、顔角度/未検出信号出力部140へ出力する。
顔角度/未検出信号出力部140は顔向きおよびマスク有無の判定結果に基づき、運転者の顔角度θまたは顔角度未検出信号を出力する。
マスク着用と判定された場合は顔角度θを検出できないためマスク着用警報を出力し、マスク着用なしと判定された場合は顔角度θを出力する。マスクの着用がないにもかかわらず顔角度θを検出できない場合、何らかのエラーとして顔角度θの未検出信号を出力する。
マスク着用と判定された場合は顔角度θを検出できないためマスク着用警報を出力し、マスク着用なしと判定された場合は顔角度θを出力する。マスクの着用がないにもかかわらず顔角度θを検出できない場合、何らかのエラーとして顔角度θの未検出信号を出力する。
運転状態判定ユニット200は顔角度θに基づき、運転者の運転状態(居眠り、よそ見等)を判断する。
[顔角度検出]
顔検出部110では、以下の方法で顔角度θを検出する。検出方法は従来例である特開平9−76815と同様である。
顔検出部110では、以下の方法で顔角度θを検出する。検出方法は従来例である特開平9−76815と同様である。
まず、顔面画像中における目・鼻・口等の大まかな顔の特徴点の領域をそれぞれ目・鼻・口等の囲み領域として検出した後、各特徴点領域内の画像情報から黒目中心・目頭・目尻・鼻口等の特徴点位置をそれぞれ検出する。
その後、これらの各特徴点の、例えば車両空間を基準とする3次元空間上における座標位置を計算する。そして更に各特徴点の座標位置の時間的変化や各特徴点の相対的な位置関係等から顔の向きである顔角度θを算出する。
[マスク有無判定]
図3、図4はマスク有無判定を示す図である。図3は運転者検知カメラ10の映像、図4はマスク有無判定を行うため図3の映像に処理を行った場合の映像である。顔検出部110によって顔の範囲Dを設定して顔の検出を行う。
図3、図4はマスク有無判定を示す図である。図3は運転者検知カメラ10の映像、図4はマスク有無判定を行うため図3の映像に処理を行った場合の映像である。顔検出部110によって顔の範囲Dを設定して顔の検出を行う。
顔の検出後、顔角度θを検出可能であればそのまま顔角度θを出力するが、顔の向きを検出できない場合、マスク着用により顔の向きが検出できないのか、それとも他のエラーにより検出できないのかを判定する。
マスク着用の有無の判定はマスク有無判定部120で実行される。図3の映像において顔の範囲Dを輝度によって分けて2値化し、輝度の高い領域を白、輝度の低い領域を黒で出力する。マスクはおおむね白であるため、2値化を行うとマスクの部分は白く出力される。白い画素の塊の位置や割合、大きさから、白の部分が一定以上であればマスク着用と判定する。
また、マスク有無判定部120では目の位置を検出してからマスク有無判定を実施してもよい。運転者検知カメラ10に明瞳孔撮影用投光器を追加し、顔の検出ができないときはシャッターおよび投光タイミングを変更して明暗瞳孔の差画像を作成する。
その画像を2値化することによって目の瞳孔が白く検出されるため、検出された目の位置よりも下に白い大きな領域が確認されれば、運転者がマスク着用中と判定し、顔角度/未検出信号出力部140はマスク着用警報信号を出力する。マスク着用と判定されなければ、その他のエラーによって顔角度θ検出不能として顔角度未検出警報信号を出力する。
[マスク有無判定フロー]
図5はマスク有無判定フローである。
図5はマスク有無判定フローである。
ステップS11では走行中かどうかが判断され、YESであればステップS12へ移行し、NOであればステップS11を繰り返す。
ステップS12では顔検知を行い、ステップS13へ移行する。
ステップS13では顔検知がNGかどうかが判断され、YESであればステップS100へ移行し、NOであればステップS17へ移行する。
ステップS100はステップS101〜S104から構成されるマスク有無判定ステップである。
ステップS101では目の位置を検出し、ステップS102へ移行する。
ステップS102では顔範囲Dを決定し、ステップS103へ移行する。
ステップS103では顔範囲Dの2値化を行い、画像を生成してステップS104へ移行する。
ステップS104では顔範囲D内で白画像を探索し、ステップS14へ移行する。
ステップS101では目の位置を検出し、ステップS102へ移行する。
ステップS102では顔範囲Dを決定し、ステップS103へ移行する。
ステップS103では顔範囲Dの2値化を行い、画像を生成してステップS104へ移行する。
ステップS104では顔範囲D内で白画像を探索し、ステップS14へ移行する。
ステップS14では運転者のマスク着用有りかどうかが判断され、YESであればステップS15へ移行し、NOであればステップS16へ移行する。
ステップS15ではマスク着用警報信号を出力し、制御を終了する。
ステップS16では顔角度θの未検出警報信号を出力し、制御を終了する。
ステップS17では顔角度θを算出し、ステップS18へ移行する。
ステップS18では顔角度θを出力し、制御を終了する。
[実施例1の効果]
(1)運転者の顔面画像を撮影する運転者検知カメラ10(撮影手段)と、
顔面画像から運転者の顔角度θ(顔の向き)を求める画像処理部100(画像処理手段)を備え、
画像処理部100は、運転者のマスク着用の有無を判定するマスク有無判定部120(マスク有無判定手段)を有し、マスク着用と判定された場合、マスク着用警報を出力することとした。
(1)運転者の顔面画像を撮影する運転者検知カメラ10(撮影手段)と、
顔面画像から運転者の顔角度θ(顔の向き)を求める画像処理部100(画像処理手段)を備え、
画像処理部100は、運転者のマスク着用の有無を判定するマスク有無判定部120(マスク有無判定手段)を有し、マスク着用と判定された場合、マスク着用警報を出力することとした。
これにより、マスクを装着している場合であっても、マスクにより顔が検出できないことを表示して運転者に与える違和感を低減した顔向き検出装置を提供することができる。
(3)マスク有無判定部120は、運転者の目の位置を検出する目位置検出手段(ステップS101)と、顔面画像から運転者の顔の範囲を決定する顔範囲決定手段(ステップS102)と、顔範囲の画像を2値化する2値化画像生成手段(ステップS103)と、顔範囲内で白画像を探索する白画像探索手段(ステップS104)とを有することとした。
これにより、運転者のマスク着用を確実に判定することができる。
実施例2につき説明する。基本構成は実施例1と同様である。実施例1ではマスク着用時には顔角度θの検出は行わなかったが、実施例2ではマスク着用時であっても顔角度θを検出する点で異なる。
[制御ブロック図]
図6は実施例2における制御ブロック図である。実施例1の制御ブロック図にマスク角度算出部150、マスク形状記憶部160が追加されている。マスク有無判定部120においてマスク着用と判定された場合、マスク角度算出部150によって車両前方に対するマスクの角度φを算出し(図7〜図12参照)、このマスク角度φに基づき顔角度θを検出する。
図6は実施例2における制御ブロック図である。実施例1の制御ブロック図にマスク角度算出部150、マスク形状記憶部160が追加されている。マスク有無判定部120においてマスク着用と判定された場合、マスク角度算出部150によって車両前方に対するマスクの角度φを算出し(図7〜図12参照)、このマスク角度φに基づき顔角度θを検出する。
したがって、実施例1の顔角度/未検出信号出力部140はマスク着用警報信号を出力していたが、実施例2の顔角度/未検出信号出力部140はマスク着用警報信号を出力しない。マスク着用が検出されないにもかかわらず顔角度θが検出されないときのみ、未検出警報信号を出力する。それ以外の場合では顔角度θが検出されるため、顔角度θを運転状態判定ユニット200へ出力する。
[マスク角度算出]
図7〜図12はマスク角度φの算出を示す図である。図7、図8は運転者が車両前方正面を向いている場合、図9、図10は小さくわき見している場合、図11、図12は大きくわき見をしている場合を示す。
図7〜図12はマスク角度φの算出を示す図である。図7、図8は運転者が車両前方正面を向いている場合、図9、図10は小さくわき見している場合、図11、図12は大きくわき見をしている場合を示す。
マスク角度φの算出は、まず、一定時間走行して運転者の映像中におけるマスクの見え方をマスク形状記憶部160に記憶する。その後、ステアリング、車速等の情報に基づきマスクが最も左右対称となっている角度をマスク正面形状とし、その位置でのφの値を基準値としてφ=0とする。
運転者が横を向くと映像内でのマスクの見え方も変化するため、この変化量に基づき逆アフィン変換やパターンマッチング等の方法を用いてマスク角度φを算出し、このφを顔向き角度θとする。これにより、マスクを装着している場合であっても顔角度θを検出することが可能となり、運転者に与える違和感が低減される。
(逆アフィン変換によるマスク角度算出)
基準平面(運転者検知カメラ10の映像)に投影した対象平面の頂点の移動経路に基づき、対象平面が基準平面からどれだけ平行または回転移動、あるいは拡大/縮小したかを計算する。
基準平面(運転者検知カメラ10の映像)に投影した対象平面の頂点の移動経路に基づき、対象平面が基準平面からどれだけ平行または回転移動、あるいは拡大/縮小したかを計算する。
(パターンマッチングによるマスク角度算出)
あらかじめ、マスク角度φの変化に対するマスク形状を記憶しておく。このマスク角度φ−マスク形状は複数の種類のマスクについて記憶する。このマスクの正面形状からマスクの種類を選定し、記憶されたマスク形状と映像中のマスク形状とを比較してマスク角度φを算出する。
あらかじめ、マスク角度φの変化に対するマスク形状を記憶しておく。このマスク角度φ−マスク形状は複数の種類のマスクについて記憶する。このマスクの正面形状からマスクの種類を選定し、記憶されたマスク形状と映像中のマスク形状とを比較してマスク角度φを算出する。
[マスク角度算出フロー]
図13はマスク角度φ算出フローである。
図13はマスク角度φ算出フローである。
ステップS11〜ステップS13、ステップS100、ステップS14、S16,S17は、図5と同様である。
ステップS21ではマスク角度φを算出し、ステップS22へ移行する。
ステップS22では顔角度θが入力された場合は顔角度θをそのまま出力し、マスク角度φが入力された場合はマスク角度φ=顔角度θとして出力し、制御を終了する。
[実施例2の効果]
(2)画像処理部100は、マスク着用と判定された場合、マスク角度φ(マスクの向き)を求め、このマスク角度φを顔角度θとすることとした。
(2)画像処理部100は、マスク着用と判定された場合、マスク角度φ(マスクの向き)を求め、このマスク角度φを顔角度θとすることとした。
これにより、マスクを装着している場合であっても顔角度θを検出することが可能となり、運転者に与える違和感を低減することができる。
(他の実施例)
以上、実施例に基づいて説明してきたが、本発明の具体的な構成は実施例に限定されるものではなく、発明の要旨を逸脱しない範囲の設計変更等があっても、本発明に含まれる。
以上、実施例に基づいて説明してきたが、本発明の具体的な構成は実施例に限定されるものではなく、発明の要旨を逸脱しない範囲の設計変更等があっても、本発明に含まれる。
本願は、車両用であるが、その他移動体への利用は容易である。
1 顔向き検知装置
2 インパネ
3 ステアリングホイール
10 運転者検知カメラ
100 画像処理部
110 顔検出部
120 マスク有無判定部
130 算出部
140 未検出信号出力部
150 マスク角度算出部
160 マスク形状記憶部
200 運転状態判定ユニット
2 インパネ
3 ステアリングホイール
10 運転者検知カメラ
100 画像処理部
110 顔検出部
120 マスク有無判定部
130 算出部
140 未検出信号出力部
150 マスク角度算出部
160 マスク形状記憶部
200 運転状態判定ユニット
Claims (3)
- 運転者の顔面画像を撮影する撮影手段と、
前記顔面画像から前記運転者の顔の向きを求める画像処理手段と
を備え、
前記画像処理手段は、前記運転者のマスク着用の有無を判定するマスク有無判定手段を有し、前記マスク着用と判定された場合、マスク着用警報を出力すること
を特徴とする顔向き検知装置。 - 運転者の顔面画像を撮影する撮影手段と、
前記顔面画像から前記運転者の顔の向きを求める画像処理手段と
を備え、
前記画像処理手段は、前記運転者のマスク着用の有無を判定するマスク有無判定手段を有し、前記マスク着用と判定された場合、前記マスクの向きを求め、このマスクの向きを前記顔の向きとすること
を特徴とする顔向き検知装置。 - 請求項1または請求項2に記載の顔向き検知装置において、
前記マスク有無判定手段は、
運転者の目の位置を検出する目位置検出手段と、
前記顔面画像から運転者の顔の範囲を決定する顔範囲決定手段と、
前記顔範囲の画像を2値化する2値化画像生成手段と、
前記顔範囲内で白画像を探索する白画像探索手段と
を有することを特徴とする顔向き検知装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008111039A JP2009265722A (ja) | 2008-04-22 | 2008-04-22 | 顔向き検知装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008111039A JP2009265722A (ja) | 2008-04-22 | 2008-04-22 | 顔向き検知装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009265722A true JP2009265722A (ja) | 2009-11-12 |
Family
ID=41391540
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008111039A Pending JP2009265722A (ja) | 2008-04-22 | 2008-04-22 | 顔向き検知装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009265722A (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011118588A (ja) * | 2009-12-02 | 2011-06-16 | Honda Motor Co Ltd | マスク着用判定装置 |
JP2016189135A (ja) * | 2015-03-30 | 2016-11-04 | パイオニア株式会社 | 認識装置、認識方法及び認識プログラム |
JP2019006275A (ja) * | 2017-06-26 | 2019-01-17 | 本田技研工業株式会社 | 車両制御システム、車両制御方法、および車両制御プログラム |
JP2020042842A (ja) * | 2019-11-22 | 2020-03-19 | パイオニア株式会社 | 認識装置、認識方法及び認識プログラム |
US11404061B1 (en) | 2021-01-11 | 2022-08-02 | Ford Global Technologies, Llc | Speech filtering for masks |
WO2022215145A1 (ja) * | 2021-04-06 | 2022-10-13 | 三菱電機株式会社 | 覚醒努力動作推定装置および覚醒努力動作推定方法 |
WO2022230111A1 (ja) * | 2021-04-28 | 2022-11-03 | マクセル株式会社 | 通話装置及び通話音声処理方法 |
WO2022269653A1 (ja) * | 2021-06-21 | 2022-12-29 | 三菱電機株式会社 | 顔向き判定装置および顔向き判定方法 |
-
2008
- 2008-04-22 JP JP2008111039A patent/JP2009265722A/ja active Pending
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011118588A (ja) * | 2009-12-02 | 2011-06-16 | Honda Motor Co Ltd | マスク着用判定装置 |
JP2016189135A (ja) * | 2015-03-30 | 2016-11-04 | パイオニア株式会社 | 認識装置、認識方法及び認識プログラム |
JP2019006275A (ja) * | 2017-06-26 | 2019-01-17 | 本田技研工業株式会社 | 車両制御システム、車両制御方法、および車両制御プログラム |
JP7074432B2 (ja) | 2017-06-26 | 2022-05-24 | 本田技研工業株式会社 | 車両制御システム、車両制御方法、および車両制御プログラム |
JP2020042842A (ja) * | 2019-11-22 | 2020-03-19 | パイオニア株式会社 | 認識装置、認識方法及び認識プログラム |
JP2021193624A (ja) * | 2019-11-22 | 2021-12-23 | パイオニア株式会社 | 認識装置、認識方法及び認識プログラム |
US11404061B1 (en) | 2021-01-11 | 2022-08-02 | Ford Global Technologies, Llc | Speech filtering for masks |
WO2022215145A1 (ja) * | 2021-04-06 | 2022-10-13 | 三菱電機株式会社 | 覚醒努力動作推定装置および覚醒努力動作推定方法 |
JPWO2022215145A1 (ja) * | 2021-04-06 | 2022-10-13 | ||
JP7333883B2 (ja) | 2021-04-06 | 2023-08-25 | 三菱電機株式会社 | 覚醒努力動作推定装置および覚醒努力動作推定方法 |
WO2022230111A1 (ja) * | 2021-04-28 | 2022-11-03 | マクセル株式会社 | 通話装置及び通話音声処理方法 |
WO2022269653A1 (ja) * | 2021-06-21 | 2022-12-29 | 三菱電機株式会社 | 顔向き判定装置および顔向き判定方法 |
JPWO2022269653A1 (ja) * | 2021-06-21 | 2022-12-29 | ||
JP7301256B2 (ja) | 2021-06-21 | 2023-06-30 | 三菱電機株式会社 | 顔向き判定装置および顔向き判定方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10452931B2 (en) | Processing method for distinguishing a three dimensional object from a two dimensional object using a vehicular system | |
JP6036065B2 (ja) | 注視位置検出装置及び注視位置検出方法 | |
JP2009265722A (ja) | 顔向き検知装置 | |
JP5421072B2 (ja) | 接近物体検知システム | |
JP5774770B2 (ja) | 車両周辺監視装置 | |
JP4893212B2 (ja) | 周辺監視装置 | |
JP2008102620A (ja) | 画像処理装置 | |
JP2009254525A (ja) | 瞳孔検知方法及び装置 | |
JP2009085651A (ja) | 画像処理システム | |
JP2008009849A (ja) | 人物追跡装置 | |
WO2015129280A1 (ja) | 画像処理装置および画像処理方法 | |
JP4962304B2 (ja) | 歩行者検出装置 | |
JP2015009646A (ja) | 運転支援装置 | |
WO2013008304A1 (ja) | 瞼検出装置 | |
JP2010191793A (ja) | 警告表示装置及び警告表示方法 | |
JP4552636B2 (ja) | ドライバモニタシステムおよびその処理方法 | |
JP2012198857A (ja) | 接近物体検知装置及び接近物体検知方法 | |
JP6407596B2 (ja) | 画像処理装置、及び、運転支援システム | |
JP4696571B2 (ja) | 眼位置検出装置 | |
JP2006027481A (ja) | 物体警告装置及び物体警告方法 | |
JP5541099B2 (ja) | 道路区画線認識装置 | |
JP2011134119A (ja) | 車両周辺監視装置 | |
JP2009278185A (ja) | 画像認識装置 | |
KR20190119291A (ko) | 차량용 모니터링 방법 및 장치 | |
JP2008042759A (ja) | 画像処理装置 |