JP5529103B2 - Face direction detection method and information processing device - Google Patents
Face direction detection method and information processing device Download PDFInfo
- Publication number
- JP5529103B2 JP5529103B2 JP2011252153A JP2011252153A JP5529103B2 JP 5529103 B2 JP5529103 B2 JP 5529103B2 JP 2011252153 A JP2011252153 A JP 2011252153A JP 2011252153 A JP2011252153 A JP 2011252153A JP 5529103 B2 JP5529103 B2 JP 5529103B2
- Authority
- JP
- Japan
- Prior art keywords
- face
- face recognition
- image data
- display
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 34
- 238000001514 detection method Methods 0.000 title description 6
- 238000000034 method Methods 0.000 claims description 97
- 230000008569 process Effects 0.000 claims description 28
- 230000008859 change Effects 0.000 claims description 26
- 230000007704 transition Effects 0.000 claims description 19
- 230000007423 decrease Effects 0.000 claims description 16
- 238000012544 monitoring process Methods 0.000 claims description 15
- 238000010606 normalization Methods 0.000 claims description 7
- 230000004044 response Effects 0.000 claims description 5
- 238000004364 calculation method Methods 0.000 claims description 4
- 238000004590 computer program Methods 0.000 claims description 3
- 238000004891 communication Methods 0.000 claims 3
- 238000012545 processing Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 210000000887 face Anatomy 0.000 description 7
- 230000001815 facial effect Effects 0.000 description 6
- 238000012546 transfer Methods 0.000 description 6
- 238000005259 measurement Methods 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 210000001508 eye Anatomy 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 210000003128 head Anatomy 0.000 description 3
- 230000002452 interceptive effect Effects 0.000 description 3
- 238000003909 pattern recognition Methods 0.000 description 3
- 210000005069 ears Anatomy 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 210000004709 eyebrow Anatomy 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 210000000214 mouth Anatomy 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 208000029152 Small face Diseases 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 210000004209 hair Anatomy 0.000 description 1
- 230000037308 hair color Effects 0.000 description 1
- 210000001331 nose Anatomy 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 238000012559 user support system Methods 0.000 description 1
Images
Landscapes
- Power Sources (AREA)
- Image Analysis (AREA)
Description
本発明は、カメラが撮影した人物の画像から肯定的誤認識(False positive)の確率を低減しながら顔の方向を検出する技術に関し、さらには、顔の方向を判断して情報処理機器の消費電力を制御する技術に関する。 The present invention relates to a technique for detecting the direction of a face while reducing the probability of a positive false recognition (False positive) from a person image taken by a camera. The present invention relates to a technology for controlling electric power.
移動車両の運転支援技術の分野には、運転者の顔の向きを認識する技術が導入されている。特許文献1は、自動車のドライバの顔の向きを検出する顔画像処理装置を開示する。同文献には、ドライバの正面顔を基にしてさまざまな向きに対応した顔モデル群を生成しておき、カメラで撮影した画像と顔モデル群を比較して最もよく一致する顔モデルを選択することで顔の向きを検出することが記載されている。特許文献2は、画像データから検出した口や目などの顔の特徴点の位置から重心を計算して顔方向を推定する技術を開示する。
In the field of driving support technology for moving vehicles, technology for recognizing the direction of the driver's face has been introduced.
特許文献3は、ウィンドウ内の各ブロックについてヒストグラムを使って顔確率を計算して顔確率値または対数尤度値(log likelihood value)を生成する技術を開示する。特許文献4は、ディジタル・カメラが顔の向きを判別する技術を開示する。同文献には、顔の画像から特徴点である目、鼻、耳、眉毛、口、および髪の毛などを輪郭情報として検出したり、視線の動きを検出したりして顔が動いたことを検出することが記載されている。
特許文献5は、カメラが撮像した画像を処理して操作者の顔を検知して入力部からの入力を受け取るようにすることで、操作者の顔が表示画面を向いていないときの入力を防ぐモバイル機器を開示する。特許文献6は、利用者の顔認識を利用して媒体の取り忘れの有無を判断する取引装置を開示する。同文献には、利用者が多少横を向いたときは顔があると判定し、上半身が横を向いていたり後ろ向きの場合は顔がないと判定したりすることが記載されている。非特許文献1〜3は、Viola-Jones法による顔認識技術を開示する。
Patent Document 5 processes an image captured by a camera to detect an operator's face and receive an input from an input unit, so that an input when the operator's face is not facing the display screen is performed. Disclose mobile devices to prevent. Patent Document 6 discloses a transaction apparatus that uses a user's face recognition to determine whether or not a medium is forgotten. This document describes that it is determined that there is a face when the user is slightly turned sideways, and that there is no face when the upper body is turned sideways or backwards. Non-patent
コンピュータは、画像データのレンダリングや統計計算のようなプログラムを長い時間実行してバッチ処理をしたり、ディスプレイに表示された画面に対して行われた入力デバイスからの入力に応じて対話型処理をしたりする。自動的にバッチ処理をしているコンピュータでは、ディスプレイに処理経過の画面を表示することがある。また、対話型処理をしているコンピュータは、必ずディスプレイに画面を表示する必要がある。 Computers execute programs such as image data rendering and statistical calculations for a long time for batch processing, or interactive processing in response to input from the input device performed on the screen displayed on the display. To do. In a computer that automatically performs batch processing, a processing progress screen may be displayed on the display. In addition, a computer that performs interactive processing must display a screen on a display.
しかし、コンピュータに処理をさせている間ユーザは常にディスプレイを見ているわけではなく、コンピュータの前で書類をみたり、遠くを見ながら考え込んだり、他人と話をしたりするときにはディスプレイから目を逸らす。バッチ処理および対話型処理のいずれであってもユーザがディスプレイから目を離してよそ見をしている間はディスプレイの表示を停止してもコンピュータの利用上は支障がない。1つ1つのよそ見時間は短いとしても全体を集めると長い時間になるため、その間にきめ細かくディスプレイを停止することができれば、消費電力を大幅に低減することができる。 However, while the computer is processing, the user does not always look at the display. When looking at a document in front of the computer, thinking while looking into the distance, or talking with others, the user looks at the display. Distract. In both batch processing and interactive processing, there is no problem in using the computer even if the display is stopped while the user is looking away from the display. Even if the time for looking away is short, it takes a long time to collect the whole, so if the display can be stopped finely during that time, power consumption can be greatly reduced.
これまでユーザの顔がカメラの前に存在しないときに、ディスプレイを停止することについては検討が行われてきたが、ユーザの顔がカメラの前に存在しているときにディスプレイから目を逸らした状態を検出してディスプレイを停止することは実現が困難であると考えられていた。その最大の理由は、カメラが撮影した画像から顔の方向を判断する際には、アナログ的な顔の特徴情報をパターン認識してディジタル化する過程において、ディスプレイに対してよそ見をしていないのによそ見をしていると判断してしまういわゆる肯定的誤認識を十分に排除できないため、ディスプレイを見ているときにディスプレイを停止する状態が許容できない頻度で発生することを挙げることができる。 Previously, it was considered to stop the display when the user's face was not in front of the camera, but they looked away from the display when the user's face was in front of the camera It was considered difficult to detect the condition and stop the display. The biggest reason is that when judging the direction of the face from the image taken by the camera, it does not look away from the display in the process of pattern recognition of analog facial feature information. Since the so-called positive misrecognition that determines that the user is looking away cannot be sufficiently excluded, it can be mentioned that the display is stopped at an unacceptable frequency when the display is viewed.
具体的には、ユーザがディスプレイを見ながら頬を手で支えたり顔の表面を手でなでたり眼鏡の姿勢を直したりしたときに、パターン認識上は目を逸らしたと判断してディスプレイを停止することになるからである。さらに、コンピュータのユーザが不特定多数であることを前提にすると、使用の可能性のあるすべてのユーザの顔の方向を検出できるような顔認識技術を導入する必要があることも理由に挙げることができる。したがって、顔の方向を判断してディスプレイの動作を制御するためには、肯定的誤認識の確率を低減し、さらに肯定的誤認識が発生した場合でもコンピュータの利用に支障をきたさないような方法を工夫する必要がある。 Specifically, when the user supports the cheek with his hand while looking at the display, stroking the surface of the face with his hand, or correcting the posture of the glasses, the display is judged to have diverted his eyes for pattern recognition. Because it will do. Furthermore, given that there are an unspecified number of computer users, it is also necessary to introduce a face recognition technology that can detect the direction of the faces of all users who may use it. Can do. Therefore, in order to control the operation of the display by determining the direction of the face, a method that reduces the probability of positive misrecognition and does not hinder the use of the computer even if positive misrecognition occurs It is necessary to devise.
そこで本発明の目的は、ディスプレイの正面方向に対する顔の方向を判断して情報処理機器の消費電力を制御する方法を提供することにある。さらに本発明の目的は、肯定的誤認識の確率を低減しながら顔の方向を検出する方法を提供することにある。さらに本発明の目的はそのような方法を実現する情報処理機器、顔方向認識装置およびコンピュータ・プログラムを提供することにある。 Accordingly, an object of the present invention is to provide a method for controlling the power consumption of an information processing device by determining the direction of a face relative to the front direction of a display. It is a further object of the present invention to provide a method for detecting the face direction while reducing the probability of positive misrecognition. A further object of the present invention is to provide an information processing device, a face direction recognition device, and a computer program that realize such a method.
本発明の一の態様では、カメラ・モジュールおよびディスプレイとの通信が可能な情報処理機器において消費電力を制御する方法を提供する。カメラ・モジュールおよびディスプレイは情報処理機器と物理的に結合していても分離していてもよい。最初に情報処理機器がパワー・オン状態に遷移する。情報処理機器は、カメラ・モジュールから定期的に受け取った画像データから、人物の顔の方向を判断し、顔の方向がディスプレイの正面からシフトしていると判断したことに応答して、情報処理機器がパワー・オン状態からロー・パワー状態に遷移する。 In one aspect of the present invention, a method for controlling power consumption in an information processing device capable of communicating with a camera module and a display is provided. The camera module and the display may be physically coupled or separated from the information processing device. First, the information processing device transitions to the power-on state. The information processing device determines the direction of the person's face from the image data periodically received from the camera module, and in response to determining that the face direction is shifted from the front of the display, The device transitions from the power on state to the low power state.
顔がシフトする方向は、正面顔から外れる方向であれば左右方向、上下方向、および斜め方向のいずれであってもよい。ユーザの顔の方向がディスプレイの正面方向からシフトしたときには、ユーザは少なくともディスプレイを見ながら行う作業は中断していると考えることができるため、パワー・オン状態のときよりも消費電力が少ないロー・パワー状態に遷移させることができる。 The direction in which the face shifts may be any of the left-right direction, the up-down direction, and the diagonal direction as long as it is a direction away from the front face. When the direction of the user's face is shifted from the front of the display, the user can think that at least the work to be done while looking at the display is interrupted, so low power consumption is lower than in the power-on state. Transition to the power state.
ロー・パワー状態は、ディスプレイのバックライトを停止する処理であったり、情報処理機器が収納するメイン・プロセッサまたは画像専用プロセッサをロー・パワー状態に遷移させたりすることで実現できる。情報処理機器は、各画像データから顔の方向がカメラ・モジュールの正面に対して所定の方向のときに最大値となり、所定の方向からシフトするに伴って低下する特性を備えた顔認識強度値を計算することで顔の方向を判断することができる。 The low power state can be realized by a process of stopping the backlight of the display, or by causing the main processor or the image-dedicated processor housed in the information processing device to transition to the low power state. The information processing device has a face recognition intensity value that has a maximum value when the face direction is a predetermined direction with respect to the front of the camera module from each image data, and decreases with a shift from the predetermined direction. The direction of the face can be determined by calculating.
各画像データについて経過時間ごとに今回の画像データと過去の画像データを比較して今回の画像データから計算した顔認識強度値の単位時間当たりの変化量が所定値を越えたか否かを判断し肯定的誤認識の確率を低減することとができる。情報処理機器を操作するユーザが首を回して顔を正面方向からシフトするときの顔認識強度値の変化速度は、正面を向きながら顔に手を当てたときの変化速度に比べて遅い。この変化速度の差に着目して、単位時間当たりの変化量が所定値を越えたときに今回の画像データを顔の方向の判断対象から除外することで、肯定的誤認識の確率を低減することができる。 For each image data, the current image data and past image data are compared for each elapsed time, and it is determined whether the amount of change per unit time of the face recognition intensity value calculated from the current image data exceeds a predetermined value. The probability of positive misrecognition can be reduced. The change speed of the face recognition intensity value when the user who operates the information processing device turns his / her neck to shift the face from the front direction is slower than the change speed when the user touches the face while facing the front. Paying attention to this difference in change speed, when the amount of change per unit time exceeds a predetermined value, the current image data is excluded from the judgment target of the face direction, thereby reducing the probability of positive misrecognition. be able to.
顔認識強度値が最大となる所定の方向は、ディスプレイの正面方向またはディスプレイの正面方向に対して所定の角度だけシフトした複数の方向とすることができる。画像データから顔を認識しないときであっても、入力デバイスが操作されたときはユーザが存在していたことになるため肯定的誤認識が生じていた可能性があったり、ユーザがカメラ・モジュールの撮影範囲から外れた不自然な位置で情報処理機器を操作したりしていることが予想される。この場合は、所定の時間以内に入力デバイスが操作され続けている間はロー・パワー状態への遷移を停止することで情報処理機器の利用を確保することができる。 The predetermined direction in which the face recognition intensity value becomes maximum can be a plurality of directions shifted by a predetermined angle with respect to the front direction of the display or the front direction of the display. Even when the face is not recognized from the image data, the user may exist when the input device is operated, so there may be a positive recognition error. It is expected that the information processing device is operated at an unnatural position outside the shooting range. In this case, the use of the information processing device can be ensured by stopping the transition to the low power state while the input device continues to be operated within a predetermined time.
ロー・パワー状態に遷移している間に入力デバイスが操作されたときには、ユーザが情報処理機器を使用する意図が確実であるためパワー・オン状態に復帰することができる。顔の方向を検出してロー・パワー状態に遷移した直後にユーザが入力デバイスを操作したような場合は、肯定的誤認識が発生して顔の認識の精度が十分に確保できていない可能性が高い。この場合はパワー・オン状態に復帰してから顔が所定時間連続してディスプレイの正面方向を向いていると判断しない間はパワー・オン状態を維持することで安定した顔の検出ができるようになるまで顔の方向を検出した電力の制御を中断することが望ましい。また、ロー・パワー状態に遷移している間に顔がディスプレイの正面方向を向いていると判断したときにロー・パワー状態からパワー・オン状態に復帰することができる。 When the input device is operated during the transition to the low power state, it is possible to return to the power on state because the user is sure to use the information processing device. If the user operates the input device immediately after detecting the direction of the face and transitioning to the low power state, there is a possibility that a positive misrecognition has occurred and the accuracy of face recognition has not been secured sufficiently Is expensive. In this case, it is possible to detect a stable face by maintaining the power-on state while it is not determined that the face is continuously facing the front of the display for a predetermined time after returning to the power-on state. It is desirable to interrupt the control of the power for detecting the face direction until Further, when it is determined that the face is facing the front direction of the display during the transition to the low power state, it is possible to return from the low power state to the power on state.
本発明の他の態様では、肯定的誤認識の確率を低減しながら、カメラから取得した画像データからカメラに対する顔の方向を判断する方法を提供する。カメラから定期的に画像データを取得し、カメラに対する顔の方向が所定の方向のときに最大値となり、所定の方向からシフトするに伴って低下する特性を備えた顔認識強度値を各画像データから計算し、各画像データについて顔認識強度値の単位時間当たりの変化量が所定値以下であるか否かを判断し、変化量が所定値以下であると判断した画像データから計算した顔認識強度値と閾値を比較して顔の方向を判断する。 In another aspect of the present invention, a method for determining the direction of a face relative to a camera from image data acquired from the camera while reducing the probability of positive misrecognition is provided. Image data is periodically acquired from the camera, and the face recognition intensity value that has the maximum value when the face direction with respect to the camera is in a predetermined direction and decreases as it shifts from the predetermined direction is set for each image data. The face recognition is calculated from the image data calculated from the image data determined by determining whether or not the change amount per unit time of the face recognition intensity value is not more than a predetermined value for each image data. The direction of the face is determined by comparing the intensity value with the threshold value.
顔認識強度値は、カメラの正面方向を中心にした単一のピーク値を含む特性、または、複数のピーク値を含む特性を備えているように構成することができる。顔認識強度値が複数のピーク値を含む場合は、顔が左右方向に所定の角度だけ向いたときのピーク値と上下方向に所定の角度だけ向いたときのピーク値を含むように構成することができる。このとき、顔の向きが所定の方向によって異なるさまざまな制御をすることができる。 The face recognition intensity value can be configured to have a characteristic including a single peak value centered in the front direction of the camera or a characteristic including a plurality of peak values. When the face recognition intensity value includes a plurality of peak values, the face recognition intensity value should be configured to include a peak value when the face is turned by a predetermined angle in the horizontal direction and a peak value when the face is turned by a predetermined angle in the vertical direction. Can do. At this time, various controls can be performed in which the orientation of the face varies depending on the predetermined direction.
本発明により、ディスプレイの正面方向に対する顔の方向を判断して情報処理機器の消費電力を制御する方法を提供することができた。さらに本発明により、肯定的誤認識の確率を低減しながら顔の方向を検出する方法を提供することができた。さらに本発明によりそのような方法を実現する情報処理機器、顔方向認識装置およびコンピュータ・プログラムを提供することができた。 According to the present invention, it is possible to provide a method for controlling the power consumption of an information processing device by determining the face direction with respect to the front direction of the display. Furthermore, according to the present invention, it is possible to provide a method for detecting the face direction while reducing the probability of positive misrecognition. Furthermore, according to the present invention, an information processing device, a face direction recognition device, and a computer program that can realize such a method can be provided.
[コンピュータの構成]
図1は、本実施の形態にかかるノートブック型パーソナル・コンピュータ(ノートPC)10のハードウェアおよびソフトウェアの構成を示す機能ブロック図である。図1において、カメラ・モジュール11、入力デバイス13、ディスプレイ25およびディスプレイに付随するバックライトはハードウェアであり、その他の要素はプロセッサおよびメイン・メモリなどのハードウェア資源とソフトウェア資源との協働作業により実現される。ソフトウェア資源は、OSおよびデバイス・ドライバなどの周知のプログラムと、本実施の形態にかかる新規な顔検出プログラムおよび電力制御プログラムで構成される。
[Computer configuration]
FIG. 1 is a functional block diagram showing a hardware and software configuration of a notebook personal computer (notebook PC) 10 according to the present embodiment. In FIG. 1, the
カメラ・モジュール11は、イメージ・センサ、イメージ・シグナル・プロセッサ、USBインターフェースなどで構成されている。カメラ・モジュール11はVGA(640×480)、QVGA(320×240)、WVGA(800×480)およびWQVGA(400×240)などの画像データを一例として30fpsの転送速度で顔認識部15に転送する。後に説明するように本実施の形態では、ユーザの顔の方向を検出してディスプレイ25のバックライト26を点灯したり消灯したりしてノートPC10の消費電力を制御するが、カメラ・モジュール11はバックライト26が消灯してロー・パワー状態の間も画像の転送を継続する。
The
カメラ・モジュール11は、ユーザの顔がディスプレイ25の正面方向を向いているときにカメラ・モジュール11に対する顔の向きもほぼ正面方向になるように、ディスプレイ25を収納する筐体の上部に取り付けられている。ただし、カメラ・モジュール11がノートPC10に物理的に装着されていることは本発明の本質的な要素ではなく、カメラ・モジュール11をディスプレイ25の正面方向に配置して無線インターフェースでノートPC10に接続してもよい。なお、ユーザから見たカメラ・モジュール11の正面方向とディスプレイ25の正面方向は上下方向においては若干異なるが、本明細書においてはカメラ・モジュール11の正面方向とディスプレイ25の正面方向を区別しないで説明する。
The
入力デバイス13は、キーボード、タッチパネル、またはポインティング・デバイスのようにユーザが入力操作をするデバイスで構成されている。入力デバイス13は、ノートPC10がロー・パワー状態のときでも入力することができる。顔認識部15は、カメラ・モジュール11が撮影した画像から顔認識強度絶対値を計算したり、顔認識強度絶対値から顔認識強度相対値を計算したりして顔の方向を検出する。顔認識強度絶対値および顔認識強度相対値については後に説明する。
The
顔認識部15は、カメラ・モジュール11が正規化のための顔認識強度絶対値の最高値を顔画像データ登録部17に登録する登録機能、顔認識強度相対値からディスプレイ25に対する顔の方向を検出する顔方向検出機能、および顔方向の検出および入力デバイス13の操作に応じて電力制御部23に指示しバックライト26の動作を制御する電力制御機能を備えている。
The
顔画像データ登録部17は、顔認識部15が計算した、ディスプレイ25を見ながら入力デバイス11を操作しているユーザの顔認識強度絶対値を登録する。登録される顔認識強度絶対値は当該ユーザの顔の画像について最大値に近い値となる。顔認識強度絶対値の最大値は、顔の方向を認識する際に個人差および画像の輝度で異なる顔認識強度絶対値を正規化して顔認識強度相対値を得るために使用する。
The face image data registration unit 17 registers the absolute value of the face recognition intensity of the user who is operating the
GUIオブジェクト監視部19は、最大の顔認識強度絶対値を取得するために、ユーザがディスプレイ25に表示されたオブジェクトに入力デバイス13を操作してアクセスするタイミングを顔認識部15に通知する。入力デバイス監視部21は、入力デバイス13が操作されたときの入力イベントから生成されたウィンドウ・メッセージを顔認識部15に通知する。電力制御部23は、顔認識部15の指示によりディスプレイ25のバックライト26を点灯したり消灯したりする。
The GUI object monitoring unit 19 notifies the
[顔認識強度絶対値]
つぎに、顔認識部15が画像データから顔認識強度絶対値を生成する方法を説明する。顔認識強度絶対値は、カメラ・モジュール11が撮影した画像から抽出した特徴情報を、複数のサンプル顔を撮影した画像データから抽出した特徴情報と比較したときに、当該画像がいずれかのサンプル顔に一致する割合を示す確率的な特性値をいう。顔認識強度絶対値は、顔の方向が基準方向のときに最大値となり、基準方向から頭部の垂直軸を中心にした左右方向、頭部の水平軸を中心にした上下方向、または斜め方向のいずれの方向であってもシフトするに従って小さくなる特性を備える。基準方向は一例として、カメラ・モジュール11の正面方向とすることができる。
[Face recognition intensity absolute value]
Next, a method in which the
顔認識強度絶対値は一例としてViola-Jones法を利用して計算することができる。図2、図3は顔認識強度絶対値を計算する方法を説明する図である。図2(A)は、顔認識部15が含むカスケード構造の強識別器100の構造を示す図である。図2(B)は、各弱識別器C1〜Cnを構成する4つの矩形特徴を説明する図である。図2(C)は、矩形特徴101aで構成した識別パターン200を示している。
As an example, the absolute value of the face recognition intensity can be calculated using the Viola-Jones method. 2 and 3 are diagrams for explaining a method for calculating the absolute value of the face recognition intensity. FIG. 2A is a diagram illustrating a structure of the
強識別器100はn段の弱識別器C1〜Cnをカスケード接続して構成されている。各弱識別器C1〜Cnでは、入力された画像データが顔(T:True)であるか、非顔(F:False)であるかを判断し、Tと判断したときは当該画像データを次段に渡し、Fと判断したときは当該画像データを破棄する。最終段の弱識別器CnがTと判断したときは、強識別器100は弱識別器C1に入力された画像データが顔を含むと判断する。
The
弱識別器C1に入力された画像データがいずれかの弱識別器C1〜Cn−1で破棄されたときまたは弱識別器Cnが顔を認識したときはその時点で処理が終了し顔認識強度絶対値が計算される。画像データが通過する画像データが後段の弱識別器であるほど当該画像データが顔を含む確率が向上する。後に説明するように顔認識部15は強識別器100が最終的に顔を認識したか否かを問わずに入力された画像データが通過した弱識別器C1〜Cn−1の段数とそれらが保有する顔認識確率から顔認識強度絶対値を計算する。
When the image data input to the weak classifier C1 is discarded by any of the weak classifiers C1 to Cn-1, or when the weak classifier Cn recognizes a face, the processing ends at that point and the face recognition intensity is absolute. The value is calculated. The probability that the image data includes a face increases as the image data through which the image data passes is a weak classifier at the later stage. As will be described later, the
弱識別器C1〜Cnは、認識対象となる画像の中に設定した領域の輝度から当該画像が人物の顔を含むか否かを判断するために矩形特徴101を使用する。各矩形特徴101a〜101dは、黒と白で示した小矩形領域を有する。各弱識別器C1〜Cnは認識対象の画像を分割した小ウィンドウに矩形特徴101を適用して、黒の小矩形領域が含む階調値の合計と白の小矩形領域が含む階調値の合計の差分を計算し、この差分に対してあらかじめ学習して設定した閾値と実際に計算した差分を比較してTまたはFを出力する。矩形特徴101は小ウィンドウに適用する際に、小矩形領域の数、並び方、座標、および大きさの4つの自由度を備えている。
The weak classifiers C1 to Cn use the
Viola-Jones法では高速計算を可能にするために、このうち小矩形領域の数と並び方を矩形特徴101a〜101dに示す4パターンにし、かつ各小矩形領域の大きさを同じにしている。したがって、弱識別器C1〜Cnを構成する顔認識アルゴリズムは、小ウィンドウに対して各矩形特徴101a〜101dの大きさと座標の2つを選択することができる。図2(C)には、小ウィンドウに適用する際の位置およびその大きさが異なる矩形特徴101a用の4つの識別パターン200a〜200dを例示している。ただしそれらの識別パターンの数は4つに限定されない。
In the Viola-Jones method, in order to enable high-speed calculation, the number and arrangement of small rectangular areas are set to four patterns indicated by the
矩形特徴101の識別パターン200およびその数の設定では最も精度の高い顔認識ができるように固有の顔認識アルゴリズムが適用される。矩形特徴101b〜101dについても同様に識別パターンを作成する。各識別パターンは、1つの弱識別器に割り当てられる。4つの矩形特徴101a〜101dからそれぞれ5個の識別パターンを作成すると全体で20個の識別パターンを形成することができるため、20段の弱識別器で構成された強識別器100を作成することができる。
A unique face recognition algorithm is applied so that the most accurate face recognition can be performed by setting the
各弱識別器C1〜Cnに割り当てる識別パターン200は、所定の大きさの学習用画像を利用して決定することができる。学習用画像は複数の顔画像と複数の非顔画像で構成する。各学習用画像に対して識別パターンを適用して閾値の設定とエラー率の計算をする。入力された学習用画像に対してエラー率が最小となる識別パターンを1段目の弱識別器C1が使用する識別パターンとして決定する。各弱識別器C1〜CnがTと判断した学習用画像は正常認識をした顔画像と肯定的誤認識をした非顔画像を含む。
The
入力された顔画像の総数に対してTと判断した顔画像の割合をα1〜αnとし、入力された非顔画像の総数に対してTと判断した非顔画像の割合をβ1〜βnとする。β1〜βnは、肯定的誤認識の確率に相当する。エラー率は肯定的誤認識の確率β1〜βnで計算する。2段目の弱識別器C2が使用する識別パターンは、1段目の弱識別器C1を通過した学習用画像に対してエラー率が最小となるように決定する。以後同様の手順を繰り返し、n個の弱識別器が直列に追加される。 The ratio of face images determined as T to the total number of input face images is α1 to αn, and the ratio of nonface images determined as T to the total number of input nonface images is β1 to βn. . β1 to βn correspond to positive misrecognition probabilities. The error rate is calculated with the probability of positive misrecognition β1 to βn. The identification pattern used by the second-stage weak classifier C2 is determined so that the error rate is minimized with respect to the learning image that has passed the first-stage weak classifier C1. Thereafter, the same procedure is repeated, and n weak classifiers are added in series.
つぎに、このようにして作成した強識別器100を、年齢、性別、人種、眼鏡の着用、髪型、および髪の色などのようなコンピュータ10を使用する可能性のある人物の特徴を網羅するように選択した複数の顔画像(サンプル画像)に適用する。一例としてサンプル画像はすべてカメラの正面方向を向いている正面顔とする。各識別器C1〜Cnについて、顔(T)と認識したサンプル画像の数を前段の弱識別器から受け取ったサンプル画像の数で除した値を顔認識確率γ1〜γnとして各弱識別器C1〜Cnに割り当てる。
Next, the
図3は、各弱識別器C1〜Cnに顔認識確率γ1〜γnが割り当てられた強識別器250の構成を示す図である。図4は、カメラ・モジュール11が撮影した認識対象の画像151から強識別器250が顔認識強度絶対値を計算する手順を説明する図である。画像151の解像度は、一例として320×240ピクセルである。顔認識部15は、画像151の画素領域を同一サイズの16個の小ウィンドウ155に分割して各小ウィンドウに順番に強識別器250を適用する。
FIG. 3 is a diagram illustrating a configuration of a strong classifier 250 in which face recognition probabilities γ1 to γn are assigned to the weak classifiers C1 to Cn. FIG. 4 is a diagram illustrating a procedure in which the strong discriminator 250 calculates the face recognition intensity absolute value from the
小ウィンドウ155のサイズは、認識可能な顔のサイズを踏まえた最小サイズ(例えば、画像の解像度から勘案して32×32ピクセル)から、画像151全体を1つの小ウィンドウとする最大サイズまで設定することができる。図4には、小ウィンドウ155が画像151を平面的に20個に分割するように示しているが、強識別器250を適用する際の各小ウィンドウ155は、画像151の全体に渡って1ピクセルまたは数ピクセルの単位でシフトしながら重なり合うように位置決めされる。したがって、1ピクセル単位で上下左右方向にずらす場合の32×32ピクセルの小ウィンドウの数は、左右方向が289個で上下方向が209個となって全体で60401個となる。
The size of the
小ウィンドウ155のサイズは、順次増大させることができる。小ウィンドウ155のサイズが順次大きくなるにしたがって、それぞれのサイズにおける小ウィンドウ155の画像151上での組み合わせの合計数は減って行き、最後は画像151の全体が1つの小ウィンドウとなる。小ウィンドウ155のサイズを最小サイズから順次大きくしていく際のピクセルの数は必ずしも1ピクセルにする必要はなく、一例では一次元で1.25倍ずつ増加させる。
The size of the
さらに、小ウィンドウ155のサイズからみた相対的なずれ量を勘案すれば、小ウィンドウ155のサイズに対応させてシフトさせるピクセルの数も変更することができる。例えば、小ウィンドウ155のサイズが最小サイズの2倍程度になったらシフトさせるピクセル数を1ピクセルから2ピクセルに増加させたり、さらに大きくなったときには同様に小ウィンドウのサイズに対するシフト量を勘案して相対的に同等となるピクセル数に増加させたりすれば、小ウィンドウの位置取りの組み合わせの増大を軽減できる。
Furthermore, if the relative shift amount in view of the size of the
各弱識別器C1〜Cn−1は画像151上の様々な座標に位置する様々なサイズの小ウィンドウ155について、識別パターン200を適用して階調値の差分を順番に計算していずれかの小ウィンドウ155でTと判定した場合は次段の弱識別器に処理を渡す。いずれの小ウィンドウ155でもFと判定した場合はその時点で処理を終了する。画像151が最終段の弱識別器Cnを通過したときも処理を終了する。引き続き、小ウィンドウ155のサイズを順次大きくしながら各弱識別器C1〜Cn−1は同様に様々な座標に位置する小ウィンドウ155について識別パターン200を適用して行く。それぞれの判定・通過処理が終了すると顔認識部15は顔認識強度絶対値を計算する。
The weak classifiers C1 to Cn-1 apply the
最後に小ウィンドウ155のサイズが画像151のサイズになって、その判定・通過処理が終了したときが全体の処理が終了したときになる。各小ウィンドウの顔認識強度絶対値は、それが通過した各弱識別器が保有する顔認識確率の合計値として計算する。たとえば、弱識別器C4を通過した場合は顔認識強度絶対値は、弱識別器C1〜C4が保有する顔認識確率の合計としてγ1+γ2+γ3+γ4で計算する。最終的に、すべての小ウィンドウ155が保持する顔認識強度絶対値の中で最大の値を持ち、かつそれが一定の閾値を超える小ウィンドウには、多くの場合そのサイズとその座標位置に対応して認識すべき顔画像が存在することになる。それが画像151で検出された顔認識強度絶対値となる。
Finally, the size of the
顔認識強度絶対値は、画像データが1段目の弱識別器C1を通過しない場合にゼロとなり、最終段の弱識別器Cnを通過したときに最大値になり、通過する弱識別器C1〜Cnの数が多くなるほど大きな値になる。言い換えると、正面顔を基準にしたときには通過する弱識別器C1〜Cnの数が多いほど顔らしい画像といえることになる。ただし、最終段の弱識別器CnでTと判断した場合にも最終結果には肯定的誤認識の確率は残る。 The absolute value of the face recognition intensity is zero when the image data does not pass through the first-stage weak classifier C1, and becomes the maximum value when the image data passes through the last-stage weak classifier Cn. The larger the number of Cn, the larger the value. In other words, when the front face is used as a reference, the more the number of weak classifiers C1 to Cn that pass through, the more the face-like image can be said. However, even when the final weak classifier Cn determines T, the probability of positive recognition error remains in the final result.
学習用画像とサンプル画像を正面顔にすると、顔認識強度絶対値は顔がカメラ・モジュール11の正面方向を向いているときに最大値になり、上下方向、横方向または斜め方向を向いたり顔を手で覆ったりして画像データから正面顔の特徴情報が少なくなるほど小さくなる。強識別器250は、正面顔を最大値とし正面顔の特徴が少なくなるほど小さくなる顔認識強度絶対値を出力する。本実施の形態では、ユーザの顔の方向が正面方向に対するシフト量が大きくなるほど顔認識強度絶対値が小さくなる特質を利用してディスプレイ25の正面方向に対する顔の方向を判断する。
When the learning image and the sample image are front faces, the absolute value of the face recognition intensity is the maximum value when the face is facing the front direction of the
[顔認識強度相対値]
顔認識強度絶対値には個人差があり、さらに、カメラ・モジュール11が撮影した画像の輝度でも変化する。顔認識強度絶対値を利用してディスプレイ25の動作を制御するときは、ユーザおよび撮影画像の輝度を限定することはできない。本実施の形態ではユーザの個人差および撮影画像の輝度が顔認識強度絶対値に与える影響を排除して、共通のアルゴリズムで顔の方向を認識できるようにするために顔認識強度絶対値を正規化する。
[Relative value of face recognition intensity]
The absolute value of the face recognition intensity varies among individuals, and also changes depending on the brightness of the image captured by the
本実施の形態では、ユーザが意識的な操作をしないでも正規化を行えるようにしている。ユーザはノートPC10を使い始めるとディスプレイに表示されたオブジェクトに対してアクセスする。具体的にはユーザはディスプレイ25に表示されたカーソルを移動させて目的のオブジェクトをクリックしたり、カーソルの位置に文字を入力したりする。
In the present embodiment, normalization can be performed without a user's conscious operation. When the user starts using the
ほとんどの場合それらのオブジェクトにアクセスしているユーザはディスプレイ25を注視しているため、そのタイミングでカメラ・モジュール11が撮影した画像は、ユーザの正面顔であるとみなすことができる。GUIオブジェクト監視部19は、所定の時間の間入力デバイス13が生成した入力イベントを監視する。GUIオブジェクト監視部19は、入力イベントに対応するウィンドウ・メッセージを捕捉して顔認識部15に通知する。
In most cases, since the user accessing these objects is gazing at the display 25, the image taken by the
カメラ・モジュール11は、正規化の準備が終わるまで顔認識部15から指示されたタイミングで画像データを転送する。顔認識部15は、ウィンドウ・メッセージを受け取るたびに、カメラ・モジュール11に指示して1フレームの画像データを取得する。顔認識部15は、受け取った画像データから顔認識強度絶対値を計算する。GUIオブジェクト監視部19が入力イベントを検出したタイミングで撮影した画像は正面顔であるため、計算した顔認識強度絶対値は強識別器250が当該ユーザに対して与える最大値に近い値となる。
The
顔認識部15は、複数の入力イベントのタイミングでそれぞれ取得した画像データから顔認識強度絶対値を計算し、さらに平均値を計算する。さらに顔認識部15は、各画像データから画像151全体の平均輝度値および顔領域の平均輝度値を計算し、さらに各画像についてのそれらの平均輝度値を計算する。平均輝度値を計算する顔領域は、画像151の中で最大の顔認識強度絶対値が得られたサイズと座標を持つ小ウィンドウ155の領域とすることができる。なお、以下の説明では登録された顔認識強度絶対値の平均値を単に顔認識強度絶対値といい、画像全体の平均輝度値または顔領域の平均輝度値を単に輝度値という。顔認識部15は、顔認識強度絶対値と輝度値を組にして顔画像データ登録部17に記録する。この時点で正規化の準備が終了し、以後、カメラ・モジュール11は顔認識部15に定期的に画像データを転送する。
The
なお、ノートPC10を使用するユーザを撮影した画像の輝度値は時間経過とともに変化する。顔認識部15は、ノートPC10の電源が入ってから停止するまでの間に随時、輝度値が所定値以上変化したとき、または肯定的誤認識が発生したときに入力デバイス13が入力イベントを生成したタイミングで顔認識強度絶対値と輝度値を顔画像データ登録部17に登録する。顔認識部15は、顔画像データ登録部17に登録した顔認識強度絶対値で、顔の方向を認識する対象となる画像151から計算した顔認識強度絶対値を除することで正規化する。このとき、認識対象の画像151から計算した顔認識強度絶対値に対応する輝度値に最も近い輝度値と組にして登録した顔認識強度絶対値を正規化に使用する。この除法によって得られた商を顔認識強度相対値とする。
Note that the luminance value of an image obtained by photographing the user who uses the
顔画像データ登録部17に登録した顔認識強度絶対値と輝度値の組は、ノートPC10がパワー・オフ状態のときに消去される。顔認識部15は、ノートPC10がパワー・オン状態になるたびに入力イベントのタイミングで顔認識強度絶対値と輝度値の組を新規に顔画像データ登録部に格納する。なお、ノートPC10を同一のユーザが使用する場合は、顔認識強度絶対値を消去しないで次回以降の電力制御に使用するようにしてもよい。
The set of the face recognition intensity absolute value and the brightness value registered in the face image data registration unit 17 is deleted when the
図5は、顔の方向に対して顔認識強度相対値が変化する様子を模式的に示した図である。図5の横軸は垂直軸を中心にして横方向に回転するユーザの顔の角度で縦軸は顔認識強度相対値である。角度がゼロの位置では、ユーザが顔をディスプレイ25の正面方向に向けており顔認識強度相対値Pは最大値を示す。角度ゼロの方向から顔が左右いずれの方向に向いても顔認識強度相対値は低下する。θ<絶対値(±θ1)はユーザがディスプレイ25に視線を向けていると判断する範囲Xを示している。範囲Xの方向を向いている顔を正面顔という。なお、ここで言う視線とは眼球自体の向きではなく顔自体の向きとする。 FIG. 5 is a diagram schematically showing how the face recognition intensity relative value changes with respect to the face direction. The horizontal axis in FIG. 5 is the angle of the user's face that rotates horizontally about the vertical axis, and the vertical axis is the relative value of face recognition intensity. At the position where the angle is zero, the user points the face in the front direction of the display 25, and the face recognition intensity relative value P indicates the maximum value. The face recognition intensity relative value decreases regardless of whether the face faces in the left or right direction from the direction of zero angle. θ <absolute value (± θ1) indicates a range X in which it is determined that the user is looking at the display 25. A face facing the direction of the range X is referred to as a front face. The line of sight referred to here is not the direction of the eyeball itself but the direction of the face itself.
絶対値(±θ1)≦θ<絶対値(±θ2)は、ディスプレイ25の前にユーザの顔は存在するが、ディスプレイ25から視線を離していると判断する範囲Yを示している。範囲Yの方向を向いている顔を斜め顔ということにする。θ≧絶対値(±θ2)は、ユーザがカメラ・モジュール11の前に存在しないかまたは完全に横を向いたり後ろを向いたりしているため顔認識強度相対値が非常に小さく、顔であると判断しない範囲Zを示している。範囲Zの方向を向いている顔を、顔が不存在の場合も含めて非顔という。
The absolute value (± θ1) ≦ θ <absolute value (± θ2) indicates a range Y in which it is determined that the user's face is present in front of the display 25 but the line of sight is away from the display 25. A face facing the direction of the range Y is referred to as an oblique face. θ ≧ absolute value (± θ2) is a face having a very small face recognition intensity relative value because the user does not exist in front of the
これまで顔認識強度相対値をViola-Jones法を利用して計算する方法を説明してきたが本発明はこれに限定されるものではない。したがって、カスケード接続する弱識別器の矩形特徴は、図2(B)の4つのパターンに限定する必要はない。以下に説明するように、肯定的誤認識の確率を低減するためには、正面顔から斜め顔に遷移するときの単位時間当たりの顔認識強度相対値の変化量は小さいことが望ましい。 The method for calculating the face recognition intensity relative value using the Viola-Jones method has been described so far, but the present invention is not limited to this. Therefore, the rectangular characteristics of the weak classifiers connected in cascade do not need to be limited to the four patterns in FIG. As described below, in order to reduce the probability of positive misrecognition, it is desirable that the amount of change in the relative value of face recognition intensity per unit time when transitioning from a front face to an oblique face is small.
いいかえると、正面顔から斜め顔になだらかなカーブで変化すると、肯定的誤認識の確率を低減し易い。したがって、顔認識強度相対値の変化がなだらかになるように各弱識別器の顔認識確率γ1〜γnを選択したり識別パターン200を選択したりすることができる。本発明は、アナログ値である顔らしさを数値化できる他の認識手法または顔らしさを示す情報を顔の方向を示す情報として利用できる他の認識手法を採用することもできる。
In other words, if the front face changes to a slant face with a gentle curve, the probability of positive misrecognition can be easily reduced. Therefore, the face recognition probabilities γ1 to γn of each weak classifier or the
一例としては、眉毛、耳、目、口の両端などの顔の左右方向の両端または上下方向の両端を画定する主要パーツを結ぶ距離の比率がそれぞれ、正面顔の基準値と比べて近似している程度を判断する。そして、注目するパーツ毎に重み付けしながら加重配点をしておいて、それらの注目ポイント毎の得点の合計点から顔認識強度絶対値および顔認識強度相対値を計算することもできる。また、幾つかの認識手法の組み合わせによって得られる顔認識強度相対値を使って、それらの手法の確度の高い部分を活かすことにより、より誤りの低い手法を生み出すこともできる。 As an example, the ratio of the distance connecting the main parts that define both the left and right ends of the face, such as the ends of the eyebrows, ears, eyes, mouth, etc. Judge the degree of being. It is also possible to calculate the face recognition intensity absolute value and the face recognition intensity relative value from the total points of the scores for each target point by weighting each part of interest while weighting it. In addition, by using the relative value of face recognition intensity obtained by a combination of several recognition methods, it is possible to create a method with lower error by making use of the highly accurate part of those methods.
[肯定的誤認識の抑制]
顔の方向を検出してバックライト26の動作を制御する場合は、ユーザが正面を向いてディスプレイ25を注視しているにもかかわらず、範囲Yまたは範囲Zの方向を向いていると認識する(よそ見をしていないのによそ見をしている)肯定的誤認識の確率を低減しないと実用に供することは困難である。つぎに、肯定的誤認識の確率を低減する手順を説明する。図6は、顔の方向を認識する際に肯定的誤認識の確率を低減する方法を説明する図である。図6は、カメラ・モジュール11から一定のフレーム・レートで受け取った画像データのそれぞれから計算した顔認識強度相対値を時間毎にプロットしている。図6(A)〜(C)にはそれぞれの画像データから計算した顔認識強度相対値の実測値と直近の過去2個の実測値を含めた3個の実測値から計算した移動平均値をプロットしている。
[Suppression of positive recognition errors]
When the direction of the face is detected and the operation of the backlight 26 is controlled, it is recognized that the user is facing the direction of the range Y or the range Z even though the user is looking at the display 25 facing the front. It is difficult to put to practical use unless the probability of positive misrecognition is reduced (it is looking away while not looking away). Next, a procedure for reducing the probability of positive misrecognition will be described. FIG. 6 is a diagram for explaining a method of reducing the probability of positive misrecognition when recognizing the face direction. FIG. 6 plots the face recognition intensity relative value calculated from each of the image data received from the
図6(A)〜(C)において実測値のマークは白抜きにし、移動平均値のマークは塗りつぶしにしている。移動平均値は、個々の実測値のバラツキを排除して肯定的誤認識の確率を一層減らすことを目的にしている。図6(A)はユーザが正面方向から自然に横方向を向くときの様子を示し、図6(B)は、ユーザが正面方向を向きながら顔の一部に手を当てたときの様子を示し、図6(C)はユーザが突然立ち上がってカメラ・モジュール11に顔が写らなくなった様子を示している。閾値W1は正面顔と斜め顔の境界である図5の角度±θ1に対応する。閾値W2は斜め顔と非顔の境界である図5の角度±θ2に対応する。
In FIGS. 6A to 6C, the mark of the actual measurement value is outlined and the mark of the moving average value is filled. The moving average value is intended to further reduce the probability of positive misrecognition by eliminating variations in individual measured values. FIG. 6 (A) shows a situation when the user naturally faces the lateral direction from the front direction, and FIG. 6 (B) shows a situation when the user touches a part of the face while facing the front direction. FIG. 6C shows a situation in which the user suddenly stands up and no face appears in the
図7は、カメラ・モジュール11が撮影した画像が、正面顔(範囲X)、斜め顔(範囲Y)、非顔(範囲Z)のいずれであるかを顔認識部15が判定する手順を示すフローチャートである。以下の手順において顔認識部15は、カメラ・モジュール11から定期的に受け取った画像データから顔認識強度相対値を計算し、肯定的誤認識の確率を低減しながら顔の向きが3つのいずれであるかを判定する。ブロック301では、顔認識部301がカメラ・モジュール11から1フレームの画像データを取得し、ブロック303で顔認識強度相対値の実測値と移動平均値を計算する。
FIG. 7 shows a procedure in which the
ブロック305では、一例としてフレーム転送周期の3倍をΔtとし、3個前の移動平均値と当該時刻の移動平均値の差をΔPとして、単位時間Δt当たりの顔認識強度相対値Pの変化量ΔP/Δtを計算する。変化量ΔP/Δtが所定値を越えているときはブロック307に移行して今回の顔認識強度相対値を破棄し顔の方向を判断するデータには使用しないでブロック301に戻る。顔認識強度相対値の大きさから顔の方向を判断するときに発生する肯定的誤認識の主要な要因として、前述のようにユーザが顔の一部に手を当てることにより顔認識強度相対値が低下することが挙げられる。ユーザが顔の一部に手を当てながらディスプレイ25を見て考え込んでいるような場合は、画像に顔らしさが残っているので顔認識強度相対値が範囲Yに入ることがあるが、バックライト26を消灯することは望ましくない。
In
本実施の形態では、顔に手を当てたり、急に立ち上がってカメラ・モジュール11が顔を撮影しなくなったりしたときには、首を回して顔の方向を変えたときに比べて顔認識強度相対値が低下する時間が短いことに着目して肯定的誤認識の確率を低減する。顔認識部15は、ΔP/Δtが所定値よりも小さいときは今回の顔認識強度相対値の変化は有効であると判断してブロック309に移行する。ブロック305の判断では、顔認識部15は図6(A)の移動平均値171に対応する顔認識強度相対値の変化量を顔の方向を判断するデータとして採用し、図6(B)の移動平均値173および図6(C)の移動平均値175に対応する顔認識強度相対値の変化量は破棄する。
In the present embodiment, when the hand is touched on the face or when the
つまり、急激な変化に対して後述する図9における状態遷移を引き起こさないようにしていることになる。肯定的誤認識の発生を伴うことが多い急激な変化に反応しないことで、その発生自体を防いでいることになる。但し、この手法では首を急激に回してのよそ見をする場合に、それを正当なよそ見として認識しないことになる。しかし、通常のユーザの行動に基づいて、そのような急激に回転する頻度は顔に無意識に手を当てて顔認識強度相対値が急激に変化する場合の発生頻度に比べて充分小さいという判断によって正当化される。確かに、首を急激に回すような通常のよそ見から少し外れた動作をよそ見として認識しないことで後述する省電力の機会の損失に繋がるが、その発生頻度から勘案してその損失よりも肯定的誤認識の低減によって得られるメリットは充分大きい。 That is, the state transition in FIG. 9 to be described later is not caused by a sudden change. By not reacting to rapid changes that often accompany the occurrence of positive misrecognition, the occurrence itself is prevented. However, in this method, when looking away while turning the neck abruptly, it is not recognized as a legitimate looking away. However, based on normal user behavior, the frequency of such rapid rotation is determined to be sufficiently smaller than the frequency of occurrence when the face recognition intensity relative value changes suddenly by unconsciously placing a hand on the face. Justified. Certainly, by not recognizing the movement slightly off the normal look that turns the head abruptly as a look away, it will lead to a loss of power saving opportunities described later, but considering the frequency of occurrence, it is more positive than the loss The benefits obtained by reducing false recognition are large enough.
ブロック309では、今回の移動平均値PがP>W1か否かを判断する。今回の移動平均値177のように変化量ΔP/Δtは閾値以下でかつP>W1のときはブロック311に移行して顔認識部15は顔の向きが範囲Xの方向であると判断してブロック301でつぎの画像データを待つ。今回の移動平均値PがP>W1でないときはブロック313に移行して、今回の移動平均値PがW2<P≦W1か否かを判断する。
In
今回の移動平均値179のように変化量ΔP/Δtは閾値以下でかつW2<P≦W1のときはブロック315に移行して顔認識部15は顔の向きが範囲Yの方向であると判断してブロック301でつぎの画像データを待つ。今回の移動平均値181のように変化量ΔP/Δtは閾値以下でかつP≦W2のときはブロック317に移行して、顔認識部15は顔の向きが範囲Zの方向であると判断してブロック301でつぎの画像データを待つ。
When the change amount ΔP / Δt is equal to or less than the threshold value and W2 <P ≦ W1 as in the current moving average value 179, the process proceeds to block 315 and the
[電力制御の手順]
図8は、顔の方向を判断してバックライト26の動作を制御する手順を示すフローチャートで、図9はそのときの状態遷移図である。図9で各ステートまたはステート間の遷移に記載した番号は、図8のブロックの番号に対応している。図9において、ステート451はバックライト26が点灯した状態を示している。この状態は、顔認識部15がカメラ・モジュール11から受け取った画像データから計算した顔認識強度相対値が範囲Xに入ると認識した状態に対応する。ステート451では、ユーザの顔の方向がディスプレイ25の正面方向であると認識している状態なのでバックライト26は点灯する。
[Power control procedure]
FIG. 8 is a flowchart showing a procedure for controlling the operation of the backlight 26 by determining the direction of the face, and FIG. 9 is a state transition diagram at that time. The numbers described in the states or transitions between the states in FIG. 9 correspond to the block numbers in FIG. In FIG. 9, a
ステート453は、顔認識部15が顔認識強度相対値は範囲Zに入っていると認識した状態を示しているが、ユーザがノートPC10の前にいて入力デバイス13を操作しているため、ディスプレイ25のバックライト26は点灯している。ステート453は、顔認識部15が非顔を検出しても、現実にユーザが入力デバイス13を操作している事実を優先させてバックライト26を点灯させるために設定している。ステート453は、ユーザがカメラ・モジュール11の撮影範囲からはずれた不自然な位置でノートPC10を操作したような場合に発生する。
The
ステート455は、顔認識部15が顔認識強度相対値は範囲Yに入っていると認識した状態を示している。ステート455では、ユーザの顔の方向がディスプレイ25の正面方向から逸れているので、バックライト26は消灯している。ステート457は顔認識部15が顔認識強度相対値は範囲Zに入っていると認識したがステート453とは異なって入力デバイス13からの入力がないためユーザがノートPC10の前に存在しないと判断してバックライト26が消灯する。
A state 455 indicates a state in which the
ステート459は、顔認識部15が顔認識強度相対値から顔の方向が範囲Y(ステート455)または範囲Z(ステート457)に入っていると判断してバックライト26が消灯したときに、ユーザが入力デバイス13を操作する状態を示している。顔認識強度相対値により消灯したバックライト26は、入力デバイス13の操作があると点灯する。一般に、肯定的誤認識が発生(よそ見をしていないのによそ見をしていると誤認識)すると、ステート451からステート455または457に誤って遷移してしまい、バックライトがオフにされてしまう。その誤認識に基づく操作に反応してユーザがバックライト26の再点灯を期待しながら入力デバイス13からの入力を行うと、このステート459への遷移が引き続き発生する。
In state 459, when the
図8においてブロック401でノートPC10の電源が投入されてデバイスが動作し始めると、ディスプレイ25のバックライト26が点灯する。ユーザが入力デバイス13を操作するたびに、顔認識部15はGUIオブジェクト監視部19と協働して顔認識強度絶対値と輝度値の組を顔画像データ登録部17に登録する。登録された顔認識強度絶対値は、当該ユーザにとって当該輝度値では最大値またはそれに近い値になる。ブロック402で顔認識部15はカメラ・モジュール11から取得した画像データについて計算した顔認識強度絶対値を登録した顔認識強度絶対値で正規化して顔認識強度相対値を計算しさらに移動平均値を計算する。
In FIG. 8, when the
ブロック403では、顔認識部15がカメラ・モジュール11から受け取った1フレームの画像データについて、図7に示した手順で処理をしてディスプレイ25の正面方向に対する顔の方向を判断する。顔認識部15が顔認識強度相対値は範囲Zに入っているため非顔を認識したときは、ブロック421に移行する。ブロック421では、入力デバイス監視部21が入力デバイス13の入力イベントを監視し、さらにブロック423で顔認識部15は入力イベントが発生する時間間隔を監視する。
In
入力デバイス監視部21は入力イベントを検出するたびに顔認識部15に通知する。ブロック421、423において顔認識部15は、所定の時間間隔以内に入力イベントを受け取っている限りはブロック402に戻って新たな顔認識強度絶対値の計算をするがバックライト26の点灯は維持する。この手順は、顔認識部15が非顔と判断した場合でも、ユーザがカメラ・モジュール11の撮影範囲から外れた不自然な姿勢や一時的によそ見した姿勢のままで入力デバイス13を操作している場合にはバックライト26を消灯しないための処理に相当する。
The input device monitoring unit 21 notifies the
ブロック423で顔認識部15が入力デバイス監視部21から所定の時間の間入力イベントを受け取らない場合は、ブロック407に移行して顔認識部15は電力制御部23にバックライト26を消灯するように指示する。ブロック407では、指示を受け取った電力制御部23がバックライト26を消灯する。この手順は、顔認識部15が非顔を検出した判断が正確であることに応じた処理に相当する。ブロック421からブロック402に移行したときは、認識精度が低下した可能性があるので顔認識部15は顔画像データ登録部17に新たに顔認識強度絶対値と輝度値の組を登録してそれ以降に処理する画像データの正規化に使用することもできる。
When the
ブロック403に戻って顔認識部15が顔認識強度相対値は範囲Zに入っていない、すなわち範囲Xまたは範囲Yに入っていると認識したときは、ブロック405に移行する。ブロック405で顔認識部15が顔認識強度相対値は範囲Xに入っていると認識したときはブロック402に戻る。この手順は、顔認識部25が今回の画像データは正面顔を含むと認識した場合は、バックライト26の点灯を維持する処理に相当し、ステート451に留まっていることを意味する。
Returning to block 403, when the
ブロック405で顔認識部15が、顔認識強度相対値は範囲Yに入っていると認識したときはブロック407に移行する。この手順は、顔認識部15が今回の画像データは斜め顔を含むと判断した場合は、使用する必要がないディスプレイ25のバックライト26を消灯する処理に相当する。本実施の形態では、ブロック403〜407およびブロック421、423の手順として示すように、顔認識部15が斜め顔を認識した場合および顔認識部15が非顔を認識しかつ入力デバイス13の入力イベントの監視を通じてユーザが存在しないことを確認した場合に限りバックライト26を消灯する。
When the
ブロック407に続くブロック408では、バックライト26が消灯したあとも顔認識部15は新たな画像データを受け取って顔の方向を認識し、入力デバイス監視部21が入力イベントの検出動作を継続している。ブロック409で入力イベントを検出したときは、入力デバイス監視部21が対応するウィンドウ・メッセージを顔認識部15に通知してブロック431に移行する。ブロック431では、顔認識部15が電力制御部23に指示してバックライト26を点灯する。この手順は、ブロック408で顔の方向がいずれであっても入力デバイス13が操作された場合には、ユーザがディスプレイ25を必要としていると判断してディスプレイ25を使用できるようにすることを示している。
In
ユーザは通常ディスプレイ25を注視しながら入力デバイス13を操作するため、ブロック409からブロック431への遷移が範囲Yまたは範囲Zと認識したときに行われると、顔認識部15の精度が十分でなくブロック408で顔認識部15が肯定的誤認識をした可能性が高いといえる。言い換えると、ユーザは、ディスプレイを注視しているときにバックライト26が消えると、ただちに、入力デバイス13を操作してバックライトを点灯させる。
Since the user normally operates the
図6および図7を参照して説明したように、顔認識部15は肯定的誤認識を抑制するアルゴリズムを組み込んでいるが、顔画像データ登録部17に登録した顔認識強度絶対値に対応する輝度値と認識中に取得した画像データの輝度値との差が大きくなったり、登録時のユーザが変わったりしたときには認識精度が低下することがある。そのような原因によって肯定的誤認識が発生したときは、ユーザの作業性を優先させてブロック431でバックライト26を点灯する。この動作は図9においてステート455または457からステート459へ遷移することに対応する。
As described with reference to FIGS. 6 and 7, the
ブロック431に続くブロック433では、顔認識部15は、一定時間連続して範囲Xを認識したか否かを判断する。一定時間連続してユーザがディスプレイ25の正面方向を向いていると認識したときは認識の精度が安定していると判断してブロック402に戻る。この場合、顔画像データ登録部17に新たに顔認識強度絶対値と輝度値の組を登録して新たに取得した画像データの正規化に使用することで認識精度を向上させることができる。一方、ブロック409でユーザにより入力デバイス13が操作されたにもかかわらずブロック433で所定の時間以内に範囲Yまたは範囲Zを認識してしまうときは、肯定的誤認識(よそ見していないのによそ見していると誤って判断)が継続していると判断してバックライト26の点灯を維持する。
In
ブロック409で入力デバイス13の操作がないときは、ブロック411に移行して顔認識部15は、受け取った画像データから計算した顔認識強度相対値が範囲Xに入っているか否かを判断する。顔認識部15が顔認識強度相対値は範囲Xに入っていると認識したときはブロック413に移行する。ブロック413では顔認識部15は、電力制御部23に指示してバックライト26を点灯し、ブロック402に戻る。ブロック411で顔認識部15は、顔認識強度相対値が範囲Yまたは範囲Zに入っていると認識しているときはバックライト26の消灯を維持してブロック408で新たな画像データについて顔の認識処理をする。
When the
これまでの手順では、ユーザがディスプレイ25を見ていないときに、バックライト26を消灯させることで消費電力を低減する方法を説明したが、本発明における消費電力の低減はバックライト26の制御に限るものではない。本発明はユーザがディスプレイ26を見ていないときにパフォーマンスを低下させることができるCPUおよびGPUのクロックや電圧をバックライト26の制御と同時にまたは独立して制御するようにしてもよい。 In the procedure so far, the method of reducing the power consumption by turning off the backlight 26 when the user is not looking at the display 25 has been described. However, the reduction of the power consumption in the present invention is the control of the backlight 26. It is not limited. In the present invention, the clock and voltage of the CPU and the GPU that can reduce the performance when the user is not looking at the display 26 may be controlled simultaneously or independently with the control of the backlight 26.
また、本実施の形態では、肯定的誤認識を抑制した顔方向の認識により省電力を実現する方法を説明しているが、顔認識部15はよそ見をしているのによそ見をしていない(斜め顔または非顔を検出したにもかかわらず正面顔と判断する)いわゆる否定的誤認識(false negative)をすることもある。しかし、否定的誤認識の場合は、本来省電力できるにもかかわらずできなかったという機会損失をもたらすだけで、誤った操作を実施してユーザを不快にしてしまうような致命的な問題に結びつく心配はない。省電力効果は全体として電力低減が図れればよい性質のものである。
In the present embodiment, a method for realizing power saving by recognizing a face direction while suppressing positive misrecognition is described. However, the
これまで、基準方向をカメラ・モジュール11の正面方向とする正面顔の顔認識強度絶対値が最大値となるような強識別器250について説明したが、本発明は基準方向が正面方向から所定の角度だけ右方向を向いた斜め顔と左方向を向いた斜め顔の顔認識強度絶対値が最大値となる強識別器、または、それに加えて正面顔の顔認識強度絶対値も最大値となる強識別器を構成することもできる。図10は、正面顔と2つの斜め顔がそれぞれ最大になる顔認識強度絶対値を出力する強識別器500の構成を説明する図である。
So far, the strong discriminator 250 has been described in which the absolute value of the face recognition intensity of the front face having the reference direction as the front direction of the
強識別器500は、3つの強識別器501、503、505および比較器507で構成されている。各強識別器501〜505は、図3の強識別器250と同じようにカスケード接続された複数の弱識別器で構成されている。強識別器501は、角度θ1だけ左方向を向いたときに最大の顔認識強度絶対値を出力するように構成されている。強識別器503は強識別器250と同じ構成で正面方向を向いたときに最大の顔認識強度絶対値を出力するように構成されている。強識別器505は、角度θ1だけ右方向を向いたときに最大の顔認識強度絶対値を出力するように構成されている。
The
角度±θ1は、正面顔と斜め顔の境界を示す角度とすることができる。強識別器501、505は、それぞれ左方向の斜め顔または右方向の斜め顔の画像データについて最大の顔認識強度絶対値を出力するように矩形特徴および識別パターンが選択されている。そして、学習用画像およびサンプル画像にも左方向および右方向の斜め顔を使用する。
The angle ± θ1 can be an angle indicating the boundary between the front face and the oblique face. In the
強識別器500に入力された1フレームの画像データは、常に3つの強識別器501〜505が並行して処理をする。比較器507は、3つの強識別器501〜505が出力する顔認識強度絶対値S1〜S5を比較して、最大の値顔認識強度絶対値Pzを出力する。この場合の顔認識強度絶対値Pzの特性は図10(B)のように3個のピークを有する。比較器507は、範囲Aで強識別器503の出力を選択し、範囲Bで強識別器501の出力を選択し、範囲Cで強識別器505の出力を選択する。強識別器501、505がθ>絶対値(±θ2)に対応する認識強度絶対値を検出したときは非顔と判断することができる。
One frame of image data input to the
顔画像データ登録部17には、ユーザが正面方向を向いたときの顔認識強度絶対値が最大値として格納されているが、同一の光の条件で同一のユーザの場合には、指定の角度での左右方向、及び正面方向を向いたときにそれぞれの強識別器から得られる顔認識強度絶対値はほぼ同程度になるように設計してあるため、正面向きで登録された顔認識強度絶対値で左右方向も含めたすべてのケースを含む顔認識強度絶対値Pzを正規化する。このような特性を備える強識別器500は、正面顔と斜め顔の境界でも顔認識強度絶対値がピーク値を有するため、より高い精度で正面顔と斜め顔を区別することができる。
The face image data registration unit 17 stores the absolute value of the face recognition intensity when the user faces the front direction as the maximum value, but in the case of the same user under the same light conditions, the specified angle The face recognition strength absolute values obtained from the strong classifiers when facing the left and right directions and the front direction are almost the same. The face recognition intensity absolute value Pz including all cases including the left and right directions is normalized. The
他の例では、顔の左右方向に指向性を有する2つの強識別器と、上下方向に指向性を有する2つの強識別器の4つの強識別器を並列に接続してそれぞれの出力を比較器に接続した強識別器を構成することができる。この場合の顔認識強度絶対値の特性を図11に示す。左右方向では角度±θ1が正面顔と横方向の斜め顔の境界を示し、上下方向では角度±θ3が正面顔と上下方向の斜め顔の境界を示す。そして、いずれかの強識別器の出力は、ディスプレイの動作を停止するために利用するのではなく、ディスプレイの動作を維持するために使用することもできる。 In another example, two strong classifiers with directivity in the horizontal direction of the face and two strong classifiers with directivity in the vertical direction are connected in parallel and their outputs are compared. A strong classifier connected to the instrument can be configured. FIG. 11 shows the characteristics of the face recognition intensity absolute value in this case. In the left-right direction, the angle ± θ1 indicates the boundary between the front face and the horizontal oblique face, and in the vertical direction, the angle ± θ3 indicates the boundary between the front face and the vertical oblique face. And the output of any strong discriminator can be used not to stop the operation of the display but to maintain the operation of the display.
たとえば、机上の書類とディスプレイの画面を頻繁に見比べながら作業を進める場合には、顔を机上面に向けたときにディスプレイを停止したくない場合がある。このとき、比較器が下方向を向いた斜め顔に指向性を有する強識別器の顔認識強度絶対値を採用した場合には、他の強識別器の出力にかかわらずディスプレイの動作を継続するようにすれば、机上面方向とディスプレイの正面方向の間での顔の動きに対してはディスプレイの省電力制御をしないようにすることができる。 For example, when a work is performed while frequently comparing a document on a desk and a display screen, there is a case where it is not desired to stop the display when the face is directed to the desk surface. At this time, if the face recognition intensity absolute value of the strong classifier having directivity is adopted for the diagonal face facing downward, the display operation is continued regardless of the output of the other strong classifiers. By doing so, it is possible to prevent the power saving control of the display from being performed with respect to the movement of the face between the desk surface direction and the display front direction.
本発明の消費電力の低減方法は、適用範囲をノートPCに限定するものではなく、ディスプレイを備え、カメラで使用者の顔を撮影して画像データを取得できるデスクトップ型パーソナル・コンピュータ、タブレット型コンピュータ、および現金自動支払機のような情報処理機器に広く適用することができる。また、カメラ・モジュールおよびディスプレイは、情報処理機器と物理的に結合されている必要はなく通信可能であればよい。 The power consumption reduction method of the present invention is not limited to a notebook PC, but is a desktop personal computer or tablet computer that has a display and can capture image data by photographing a user's face with a camera. It can be widely applied to information processing equipment such as cash dispensers. The camera module and the display need not be physically coupled to the information processing device as long as they can communicate with each other.
さらに、肯定的誤認識の確率を低減しながら顔の方向を認識する方法は、情報処理機器の消費電力の低減に利用できるだけでなく、車両や航空機を運転する乗務員が横を向いたときに注意を促すために利用したり、ディスプレイの画面に重要な情報が表示されたときに横を向いているユーザにディスプレイを見るように注意を促したりする分野にも適用することができる。 Furthermore, the method of recognizing the direction of the face while reducing the probability of positive misrecognition can be used not only to reduce the power consumption of information processing equipment, but also when a crew member driving a vehicle or aircraft turns sideways. It can also be applied to a field where the user who is facing sideways is warned to watch the display when important information is displayed on the screen of the display.
これまで本発明について図面に示した特定の実施の形態をもって説明してきたが、本発明は図面に示した実施の形態に限定されるものではなく、本発明の効果を奏する限り、これまで知られたいかなる構成であっても採用することができることはいうまでもないことである。 Although the present invention has been described with the specific embodiments shown in the drawings, the present invention is not limited to the embodiments shown in the drawings, and is known so far as long as the effects of the present invention are achieved. It goes without saying that any configuration can be adopted.
10 ノートPC
100、250、500 強識別器
101、101a〜101d 矩形特徴
151 認識対象の画像
155 小ウィンドウ
200、200a〜200d 識別パターン
C1〜Cn 弱識別器
P 顔認識強度相対値
Pz、Py 顔認識強度絶対値
S1〜S5 顔認識強度絶対値
10 Notebook PC
100, 250, 500
Claims (22)
前記情報処理機器がパワー・オン状態に遷移するステップと、
前記カメラ・モジュールから定期的に受け取った画像データから、前記カメラ・モジュールに対する顔の方向が所定の方向のときに最大値となり前記所定の方向からシフトするに伴って低下する特性を備えた顔認識強度値を計算するステップと、
前記顔認識強度値の単位時間当たりの変化量が所定値以下の画像データから計算した前記顔認識強度値から顔の方向を判断するステップと、
顔の方向が前記ディスプレイの正面方向からシフトしていると判断したことに応答して、前記情報処理機器が前記パワー・オン状態からロー・パワー状態に遷移するステップと
を有する方法。 A method for controlling power consumption in an information processing device capable of communicating with a camera module and a display,
The information processing device transitioning to a power-on state;
Face recognition having a characteristic that the maximum value is obtained when the face direction with respect to the camera module is a predetermined direction from image data periodically received from the camera module, and decreases as the face is shifted from the predetermined direction. Calculating an intensity value ;
Determining a face direction from the face recognition intensity value calculated from image data in which the amount of change of the face recognition intensity value per unit time is a predetermined value or less;
Responsive to determining that the face direction is shifted from the front direction of the display, the information processing device transitions from the power-on state to the low-power state.
所定の時間以内に前記入力デバイスが操作されている間は前記パワー・オン状態を維持するステップと
を有する請求項1に記載の方法。 Determining whether an input device has been operated when a face is not recognized from the image data;
While the input device is operated within a predetermined period of time The method of claim 1 and a step of maintaining the power-on state.
前記入力デバイスが操作されたと判断したときに前記パワー・オン状態に復帰するステップと
を有する請求項1に記載の方法。 Determining whether an input device has been operated while transitioning to the low power state; and
The method according to claim 1 , further comprising the step of returning to the power-on state when it is determined that the input device has been operated.
顔が所定時間連続して前記ディスプレイの正面方向を向いていると判断しない間は前記パワー・オン状態を維持するステップと
を有する請求項1に記載の方法。 Determining whether the face has faced the front of the display continuously for a predetermined time after returning to the power-on state;
The method according to claim 1 , further comprising the step of maintaining the power-on state while it is not determined that the face is facing the front direction of the display continuously for a predetermined time.
前記ディスプレイの正面方向を向いていると判断したときに前記ロー・パワー状態から前記パワー・オン状態に復帰するステップと
を有する請求項1に記載の方法。 Determining whether a face is facing the front of the display while transitioning to the low power state;
The method of claim 1 , further comprising the step of returning from the low power state to the power on state when it is determined that the display is facing in the front direction.
前記カメラから定期的に画像データを取得するステップと、
前記カメラに対する顔の方向が所定の方向のときに最大値となり前記所定の方向からシフトするに伴って低下する特性を備えた顔認識強度値を各画像データから計算するステップと、
各画像データについて前記顔認識強度値の単位時間当たりの変化量が所定値以下であるか否かを判断するステップと、
前記変化量が所定値以下であると判断した前記画像データから計算した前記顔認識強度値から顔の方向を判断するステップと
を有する方法。 A method for determining a face direction relative to the camera from image data acquired from the camera,
Periodically acquiring image data from the camera;
Calculating from each image data a face recognition intensity value having a characteristic that becomes a maximum value when the face direction with respect to the camera is a predetermined direction and decreases as it shifts from the predetermined direction;
Determining whether the amount of change per unit time of the face recognition intensity value for each image data is equal to or less than a predetermined value;
Determining a face direction from the face recognition intensity value calculated from the image data determined that the amount of change is equal to or less than a predetermined value.
前記カメラ−・モジュールから定期的に受け取った画像データから、前記カメラ・モジュールに対する顔の方向が所定の方向のときに最大値となり前記所定の方向からシフトするに伴って低下する特性を備えた顔認識強度値を計算し、該顔認識強度値の単位時間当たりの変化量が所定値以下の画像データから計算した前記顔認識強度値から、前記画像データが前記ディスプレイに対する正面顔、斜め顔、または非顔のいずれの顔を含むかを判断する顔認識部と、
前記画像データが斜め顔または非顔を含むと判断した前記顔認識部の指示により前記ディスプレイをロー・パワー状態に遷移させる電力制御部と
を有する情報処理機器。 An information processing device capable of communication between a camera module and a display,
A face having a characteristic that the maximum value is obtained when the face direction with respect to the camera module is a predetermined direction from image data periodically received from the camera module, and decreases as the face is shifted from the predetermined direction. A recognition intensity value is calculated, and from the face recognition intensity value calculated from image data whose amount of change per unit time of the face recognition intensity value is a predetermined value or less, the image data is a front face, an oblique face, or A face recognition unit that determines which non-face is included ,
An information processing apparatus comprising: a power control unit that causes the display to transition to a low power state according to an instruction from the face recognition unit that determines that the image data includes an oblique face or a non-face.
前記入力デバイスからの入力を検出して前記顔認識部に入力イベントを送る入力デバイス監視部とを有し、
前記顔認識部は、前記入力デバイス監視部から所定の時間以内に前記入力イベントを受け取っている間は、前記顔認識部が非顔を検出しても前記ロー・パワー状態への遷移を停止する請求項13に記載の情報処理機器。 An input device operated by the user;
An input device monitoring unit that detects an input from the input device and sends an input event to the face recognition unit ;
While the face recognition unit receives the input event within a predetermined time from the input device monitoring unit, the face recognition unit stops the transition to the low power state even if the face recognition unit detects a non-face. The information processing apparatus according to claim 13 .
前記カメラ・モジュールから所定のフレーム・レートで画像データを取得するデータ取得部と、
前記カメラ・モジュールに対する顔の方向が所定の方向のときに最大値となり前記所定の方向からシフトするに伴って低下する特性を備えた顔認識強度値を各画像データから計算する顔認識強度値計算部と、
各画像データについて前記顔認識強度値の単位時間当たりの変化量を計算する変化量計算部と、
前記変化量が所定値以下であると判断した画像データから計算した前記顔認識強度値から顔の方向を判断する判断部と
を有する顔方向認識装置。 A face direction recognition device capable of communicating with a camera module and a display,
A data acquisition unit for acquiring image data at a predetermined frame rate from the camera module;
Face recognition intensity value calculation that calculates a face recognition intensity value from each image data that has a maximum value when the face direction with respect to the camera module is in a predetermined direction and decreases with a shift from the predetermined direction. And
A change amount calculation unit for calculating a change amount per unit time of the face recognition intensity value for each image data;
A face direction recognition apparatus comprising: a determination unit that determines a face direction from the face recognition intensity value calculated from image data for which the change amount is determined to be equal to or less than a predetermined value.
前記カメラ・モジュールから所定のフレーム・レートで画像データを取得するステップと、
前記カメラ・モジュールに対する顔の方向が所定の方向のときに最大値となり前記所定の方向からシフトするに伴って低下する特性を備えた顔認識強度値を各画像データから計算するステップと、
各画像データについて前記顔認識強度値の単位時間当たりの変化量を計算するステップと、
前記変化量が所定値以下であると判断した画像データから計算した前記顔認識強度値から顔の方向を判断するステップと
を有する処理を実行させるためのコンピュータ・プログラム。 To a computer that can communicate with the camera module,
Acquiring image data at a predetermined frame rate from the camera module;
Calculating from each image data a face recognition intensity value having a characteristic that becomes a maximum value when the face direction with respect to the camera module is a predetermined direction and decreases with shifting from the predetermined direction;
Calculating a change amount per unit time of the face recognition intensity value for each image data;
A computer program for executing a process including a step of determining a face direction from the face recognition intensity value calculated from the image data determined that the change amount is equal to or less than a predetermined value.
前記情報処理機器がパワー・オン状態に遷移するステップと、 The information processing device transitioning to a power-on state;
入力デバイスが入力するタイミングで前記カメラ・モジュールから受け取った画像データから計算した、前記カメラ・モジュールに対する顔の方向が所定の方向のときに最大値となり前記所定の方向からシフトするに伴って低下する特性を備えた顔認識強度値を登録するステップと、 Calculated from image data received from the camera module at the timing of input by the input device, becomes a maximum value when the face direction with respect to the camera module is a predetermined direction, and decreases as the face is shifted from the predetermined direction. Registering a face recognition intensity value with characteristics;
顔認識強度値を前記カメラ・モジュールから定期的に受け取った画像データから計算するステップと、 Calculating a face recognition intensity value from image data periodically received from the camera module;
前記定期的に受け取った画像データから計算した顔認識強度値を前記登録した顔認識強度値で正規化するステップと、 Normalizing a face recognition intensity value calculated from the periodically received image data with the registered face recognition intensity value;
前記正規化した顔認識強度値から顔の方向が前記ディスプレイの正面方向からシフトしていると判断したことに応答して、前記情報処理機器が前記パワー・オン状態からロー・パワー状態に遷移するステップと In response to determining from the normalized face recognition intensity value that the face direction is shifted from the front direction of the display, the information processing device transitions from the power-on state to the low-power state. Step and
を有する方法。Having a method.
前記正規化するステップが、前記定期的に受け取った画像データの輝度値に最も近い輝度値と組にした顔認識強度値で正規化するステップを含む請求項20に記載の方法。 21. The method according to claim 20, wherein the normalizing includes normalizing with a face recognition intensity value paired with a luminance value closest to a luminance value of the periodically received image data.
入力デバイスと、 An input device;
前記入力デバイスが入力するタイミングで前記カメラ・モジュールから受け取った画像データから計算した、前記カメラ・モジュールに対する顔の方向が所定の方向のときに最大値となり前記所定の方向からシフトするに伴って低下する特性を備えた顔認識強度値を登録する顔画像データ登録部と、 Calculated from image data received from the camera module at the timing of input by the input device, becomes a maximum value when the face direction with respect to the camera module is a predetermined direction, and decreases as the face shifts from the predetermined direction A face image data registration unit for registering a face recognition intensity value having characteristics to
顔認識強度値を前記カメラ・モジュールから定期的に受け取った画像データから計算し、前記定期的に受け取った画像データから計算した顔認識強度値を前記登録した顔認識強度値で正規化し、前記正規化した顔認識強度値から顔の方向が前記ディスプレイの正面方向からシフトしていると判断する顔認識部と、 The face recognition intensity value is calculated from the image data periodically received from the camera module, the face recognition intensity value calculated from the periodically received image data is normalized with the registered face recognition intensity value, and the normalization A face recognition unit that determines that the face direction is shifted from the front direction of the display from the converted face recognition intensity value;
前記顔認識部がシフトしていると判断したことに応答して、前記情報処理機器をパワー・オン状態からロー・パワー状態に遷移させる電力制御部と In response to determining that the face recognition unit has shifted, a power control unit that causes the information processing device to transition from a power-on state to a low-power state;
を有する情報処理機器。Information processing equipment having
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011252153A JP5529103B2 (en) | 2011-11-18 | 2011-11-18 | Face direction detection method and information processing device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011252153A JP5529103B2 (en) | 2011-11-18 | 2011-11-18 | Face direction detection method and information processing device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013109430A JP2013109430A (en) | 2013-06-06 |
JP5529103B2 true JP5529103B2 (en) | 2014-06-25 |
Family
ID=48706145
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011252153A Active JP5529103B2 (en) | 2011-11-18 | 2011-11-18 | Face direction detection method and information processing device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5529103B2 (en) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105814584B (en) * | 2013-12-09 | 2019-03-08 | Smi创新传感技术有限公司 | For operating the method for eye-tracking device and for providing the eye-tracking device of aggressive power management |
JP6280412B2 (en) * | 2014-03-26 | 2018-02-14 | 株式会社メガチップス | Object detection device |
JP6769475B2 (en) * | 2018-12-04 | 2020-10-14 | 日本電気株式会社 | Information processing system, management method for authentication, and program |
WO2021070980A1 (en) * | 2019-10-08 | 2021-04-15 | 엘지전자 주식회사 | Mobile terminal and method for controlling same |
CN113015302B (en) * | 2021-04-01 | 2023-07-21 | 广东深明扬工程建设有限公司 | Digital dimming system based on smart city and regulation and control method thereof |
JP7454635B1 (en) | 2022-12-14 | 2024-03-22 | レノボ・シンガポール・プライベート・リミテッド | Information processing device and control method |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11288259A (en) * | 1998-02-06 | 1999-10-19 | Sanyo Electric Co Ltd | Method and device for power saving control |
JP4640825B2 (en) * | 2006-02-23 | 2011-03-02 | 富士フイルム株式会社 | Specific orientation face determination method, apparatus, and program |
JP5399880B2 (en) * | 2009-12-11 | 2014-01-29 | レノボ・シンガポール・プライベート・リミテッド | Power control apparatus, power control method, and computer-executable program |
-
2011
- 2011-11-18 JP JP2011252153A patent/JP5529103B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2013109430A (en) | 2013-06-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11616906B2 (en) | Electronic system with eye protection in response to user distance | |
JP5529103B2 (en) | Face direction detection method and information processing device | |
US11650659B2 (en) | User input processing with eye tracking | |
US8942434B1 (en) | Conflict resolution for pupil detection | |
US11715231B2 (en) | Head pose estimation from local eye region | |
US8379059B2 (en) | Portable electronic device and method for adjusting display orientation of the portable electronic device | |
US9792494B2 (en) | Image processing apparatus, method, and program capable of recognizing hand gestures | |
KR100947990B1 (en) | Gaze Tracking Apparatus and Method using Difference Image Entropy | |
US9646200B2 (en) | Fast pose detector | |
EP3382600A1 (en) | Method of recognition based on iris recognition and electronic device supporting the same | |
US7719569B2 (en) | Image processing apparatus and image processing method | |
Kim et al. | An empirical study on iris recognition in a mobile phone | |
US20130057553A1 (en) | Smart Display with Dynamic Font Management | |
US11163995B2 (en) | User recognition and gaze tracking in a video system | |
TW201306573A (en) | Display device with image capture and analysis module | |
US9223415B1 (en) | Managing resource usage for task performance | |
Wang et al. | Your eyes reveal your secrets: An eye movement based password inference on smartphone | |
Cheng et al. | EasyGaze: Hybrid eye tracking approach for handheld mobile devices | |
US20170160797A1 (en) | User-input apparatus, method and program for user-input | |
JP7404958B2 (en) | Input devices, input methods, and programs | |
WO2023215114A1 (en) | Aggregated likelihood of unintentional touch input | |
Lissoboi et al. | Development of an efficient method for eye detection on mobile CE devices | |
CN117711054A (en) | Data checking method, electronic equipment and medium | |
S Choras et al. | Markerless head gesture recognition for human computer interaction | |
Esquef et al. | ROCC–A Webcam-Mouse for People with Disabilities |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20131017 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131029 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140113 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140415 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140416 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5529103 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R360 | Written notification for declining of transfer of rights |
Free format text: JAPANESE INTERMEDIATE CODE: R360 |
|
R360 | Written notification for declining of transfer of rights |
Free format text: JAPANESE INTERMEDIATE CODE: R360 |
|
R371 | Transfer withdrawn |
Free format text: JAPANESE INTERMEDIATE CODE: R371 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |