JP7474888B1 - 電子機器、及び制御方法 - Google Patents

電子機器、及び制御方法 Download PDF

Info

Publication number
JP7474888B1
JP7474888B1 JP2023025183A JP2023025183A JP7474888B1 JP 7474888 B1 JP7474888 B1 JP 7474888B1 JP 2023025183 A JP2023025183 A JP 2023025183A JP 2023025183 A JP2023025183 A JP 2023025183A JP 7474888 B1 JP7474888 B1 JP 7474888B1
Authority
JP
Japan
Prior art keywords
face
area
detection
detected
electronic device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023025183A
Other languages
English (en)
Other versions
JP2024118737A (ja
Inventor
和宏 小杉
匡史 西尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Lenovo Singapore Pte Ltd
Original Assignee
Lenovo Singapore Pte Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Lenovo Singapore Pte Ltd filed Critical Lenovo Singapore Pte Ltd
Priority to JP2023025183A priority Critical patent/JP7474888B1/ja
Priority to US18/430,929 priority patent/US20240282141A1/en
Priority to CN202410192612.9A priority patent/CN118540571A/zh
Application granted granted Critical
Publication of JP7474888B1 publication Critical patent/JP7474888B1/ja
Publication of JP2024118737A publication Critical patent/JP2024118737A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Collating Specific Patterns (AREA)
  • Power Sources (AREA)

Abstract

【課題】顔認証を用いてセキュリティを向上させること。【解決手段】電子機器は、撮像装置で撮像された画像の画像データを一時的に記憶するメモリと、システムのプログラムに基づくシステム処理及び画像データを用いた処理を実行するプロセッサと、を備える。プロセッサは、メモリに記憶された画像データの画像の中から顔が撮像されている顔領域を、第1の検出精度で検出する第1検出モードと第1の検出精度よりも高い第2の検出精度で検出する第2検出モードとを有する顔検出処理と、顔検出処理により第2検出モードで顔領域が検出された場合、検出された顔領域に基づく第1領域を設定する第1領域設定処理と、顔検出処理により検出された顔領域が第1領域外の第2領域になった場合、第2領域に検出された顔領域に基づいて顔認証する顔認証処理と、顔認証処理による認証結果に基づいてシステムを待機状態に遷移させる待機状態制御処理と、を行う。【選択図】図11

Description

本発明は、電子機器、及び制御方法に関する。
人物が近づくと使用可能な動作状態に遷移し、人物が離れると一部の機能を除いて停止した待機状態に遷移する電子機器がある。例えば、特許文献1には、赤外線センサを用いて赤外線の強弱を検知することにより、人物が近づいてきたか否か、或いは人物が離れたか否かを検出して電子機器の動作状態を制御する技術が開示されている。
近年、コンピュータビジョンなどの発展により、画像から顔を検出する際の検出精度が高くなってきている。そのため、赤外線センサによる人物の検出に代えて、顔検出による人物の検出も行われている。顔検出による人物の検出では、単に人物を検出するだけでなく、顔認証を行うことによりユーザであるか否かの判定を行うこともできる。
特開2016-148895号公報
例えば、ユーザが近づいてきた場合には電子機器を起動させるがユーザ以外の人物が近づいてきても電子機器を起動させないといった制御や、動作中にユーザが離れた場合にはユーザ以外の人物が検出されていても電子機器を使用できないようにロック(待機状態に遷移)させるといった制御を行えば、セキュリティの向上が見込める。
しかしながら、顔認証が行える顔の角度は、正面に対して±15程度の範囲に限られている。電子機器を起動させるために顔認証を行う際にはユーザが意識して正面を向いているが、ユーザの顔認証が成功して起動した後はユーザが常に正面を向いているとは限らないため、ユーザが少し横を向いただけでも顔認証に失敗してしまう。そのため、電子機器が起動した後の動作中に顔認証を用いてロックさせる制御を行うことは困難であった。
本発明は、上記した事情に鑑みてなされたもので、顔認証を用いてセキュリティを向上させた電子機器、及び制御方法を提供することを目的の一つとする。
本発明は上記の課題を解決するためになされたものであり、本発明の第1態様に係る電子機器は、撮像装置で撮像された画像の画像データを一時的に記憶するメモリと、システムのプログラムに基づくシステム処理及び前記画像データを用いた処理を実行するプロセッサと、を備え、前記プロセッサは、前記メモリに記憶された画像データの前記画像の中から顔が撮像されている顔領域を、第1の検出精度で検出する第1検出モードと前記第1の検出精度よりも高い第2の検出精度で検出する第2検出モードとを有する顔検出処理と、前記顔検出処理により前記第2検出モードで前記顔領域が検出された場合、検出された前記顔領域に基づく第1領域を設定する第1領域設定処理と、前記顔検出処理により検出された前記顔領域が前記第1領域外の第2領域になった場合、前記第2領域に検出された前記顔領域に基づいて顔認証する顔認証処理と、前記顔認証処理による認証結果に基づいてシステムを待機状態に遷移させる待機状態制御処理と、を行う。
また、本発明の第2態様に係る電子機器は、撮像装置で撮像された画像の画像データを一時的に記憶するメモリと、システムのプログラムに基づくシステム処理及び前記画像データを用いた処理を実行するプロセッサと、を備え、前記プロセッサは、前記メモリに記憶された画像データの前記画像の中から顔らしさの評価値が第1閾値以上の領域を顔領域として検出する顔検出処理と、前記顔検出処理により前記評価値が前記第1閾値よりも高い第2閾値以上となる前記顔領域が検出された場合、検出された前記顔領域に基づく第1領域を設定する第1領域設定処理と、前記顔検出処理により検出された前記顔領域が前記第1領域外の第2領域になった場合、前記第2領域に検出された前記顔領域に基づいて顔認証する顔認証処理と、前記顔認証処理による認証結果に基づいてシステムを待機状態に遷移させる待機状態制御処理と、を行う。
上記電子機器において、前記プロセッサは、前記顔検出処理において複数の前記顔領域が検出された場合、複数の前記顔領域のうちの一つに基づいて、前記第1領域設定処理及び前記顔認証処理を行ってもよい。
上記電子機器において、前記プロセッサは、複数の前記顔領域のうち最も大きい顔領域に基づいて、前記第1領域設定処理及び前記顔認証処理を行ってもよい。
上記電子機器において、前記プロセッサは、複数の前記顔領域のうち前記画像の中央に最も近い顔領域に基づいて、前記第1領域設定処理及び前記顔認証処理を行ってもよい。
上記電子機器において、前記プロセッサは、前記第1領域設定処理において前記第1領域を設定した後、前記顔検出処理により検出された前記顔領域の位置または大きさの変化に応じて、前記第1領域の位置または大きさを変更してもよい。
上記電子機器において、前記プロセッサは、前記第1領域設定処理において、前記顔検出処理により検出された前記顔領域が前記第2領域になったことに基づいて前記第1領域を解除してもよい。
上記電子機器において、前記プロセッサは、前記第1領域設定処理において、前記顔認証処理により前記第2領域に検出された前記顔領域に基づいて顔認証した認証結果が認証成功になったことに基づいて、前記第2領域に検出された前記顔領域に基づいて前記第1領域を再設定してもよい。
上記電子機器において、前記電子機器の動きを検出するセンサをさらに備え、前記プロセッサは、前記センサを用いて前記電子機器が手持ちされているか否かを判定する判定処理をさらに行い、前記判定処理により前記電子機器が手持ちされていると判定された場合、前記顔認証処理による認証結果に基づいてシステムを待機状態に遷移させるための情報を出力する前記待機状態制御処理の実行を保留してもよい。
上記電子機器において、前記撮像装置は、可視光線を撮像する第1撮像素子と赤外線を撮像する第2撮像素子とを備え、前記第1検出モードは、前記第1撮像素子と前記第2撮像素子のうち前記第1撮像素子のみを用いて撮像する検出モードであり、前記第2検出モードは、少なくとも前記第2撮像素子を用いて撮像する検出モードであってもよい。
また、本発明の第3態様に係る、撮像装置で撮像された画像の画像データを一時的に記憶するメモリと、システムのプログラムに基づくシステム処理及び前記画像データを用いた処理を実行するプロセッサとを備える電子機器における制御方法は、前記プロセッサが、前記メモリに記憶された画像データの前記画像の中から顔が撮像されている顔領域を、第1の検出精度で検出する第1検出モードと前記第1の検出精度よりも高い第2の検出精度で検出する第2検出モードとを有する顔検出ステップと、前記顔検出ステップにより前記第2検出モードで前記顔領域が検出された場合、検出された前記顔領域に基づく第1領域を設定する第1領域設定ステップと、前記顔検出ステップにより検出された前記顔領域が前記第1領域外の第2領域になった場合、前記第2領域に検出された前記顔領域に基づいて顔認証する顔認証ステップと、前記顔認証ステップによる認証結果に基づいてシステムを待機状態に遷移させる待機状態制御ステップと、を含む。
また、本発明の第4態様に係る、撮像装置で撮像された画像の画像データを一時的に記憶するメモリと、システムのプログラムに基づくシステム処理及び前記画像データを用いた処理を実行するプロセッサとを備える電子機器における制御方法は、前記プロセッサが、前記メモリに記憶された画像データの前記画像の中から顔らしさの評価値が第1閾値以上の領域を顔領域として検出する顔検出ステップと、前記顔検出ステップにより前記評価値が前記第1閾値よりも高い第2閾値以上となる前記顔領域が検出された場合、検出された前記顔領域に基づく第1領域を設定する第1領域設定ステップと、前記顔検出ステップにより検出された前記顔領域が前記第1領域外の第2領域になった場合、前記第2領域に検出された前記顔領域に基づいて顔認証する顔認証ステップと、前記顔認証ステップによる認証結果に基づいてシステムを待機状態に遷移させる待機状態制御ステップと、を含む。
本発明の上記態様によれば、顔認証を用いてセキュリティを向上させることができる。
第1の実施形態に係る電子機器のHPD処理の概要を説明する図。 顔領域が検出された撮像画像の一例を示す図。 顔領域が検出されていない撮像画像の一例を示す図。 第1の実施形態に係る高信頼性領域の設定例を示す図。 第1の実施形態に係る標準検出モードと高精度検出モードとの対比の一例を示す図。 第1の実施形態に係る電子機器の外観の構成例を示す斜視図。 第1の実施形態に係る電子機器のハードウェア構成の一例を示すブロック図。 第1の実施形態に係る電子機器の機能構成の一例を示すブロック図。 第1の実施形態に係る高信頼性領域のトラッキングの説明図。 第1の実施形態に係る標準検出モードにおける顔検出処理の一例を示すフローチャート。 第1の実施形態に係る待機状態制御処理の一例を示すフローチャート。 第2の実施形態に係る電子機器の機能構成の一例を示すブロック図。 第2の実施形態に係る待機状態制御処理を保留する処理の一例を示すフローチャート。
以下、図面を参照して、本発明の実施形態について説明する。
<第1の実施形態>
まず、第1の実施形態に係る電子機器1の概要について説明する。
本実施形態に係る電子機器1は、例えば、ノート型のPC(Personal Computer;パーソナルコンピュータ)である。
電子機器1は、システムの動作状態として少なくとも「通常動作状態」と「待機状態」とを有している。通常動作状態とは、特に制限なく処理の実行が可能な動作状態であり、例えば、ACPI(Advanced Configuration and Power Interface)で規定されているS0状態に相当する。
待機状態とは、システムの少なくとも一部の機能の使用が制限されている状態であり、例えば、システムがロックされた状態である。ロックされた状態とは、処理中の内容が視認できないように予め設定された画像(例えば、ロック用の画像)が表示部に表示され、ユーザ認証などによってロックを解除するまで使用できない状態である。なお、待機状態は、スタンバイ状態またはスリープ状態などであってもよく、Windows(登録商標)におけるモダンスタンバイや、ACPIで規定されているS3状態(スリープ状態)等に相当する状態であってもよい。つまり、待機状態は、例えば通常動作状態よりも消費電力が低くなる動作状態、ユーザが電子機器1の作業内容を視認できない状態、またはユーザが電子機器1を使用できない状態などのいずれかに相当する。
また、システムの動作状態には、待機状態よりも更に消費電力が低い状態となる「停止状態」が含まれる。停止状態とは、例えばハイバネーション状態やパワーオフ状態等である。ハイバネーション状態は、例えば、ACPIで規定されているS4状態に相当する。パワーオフ状態は、例えば、ACPIで規定されているS5状態(シャットダウン状態)に相当する。
以下では、システムの動作状態が待機状態または停止状態から通常動作状態へ遷移することを起動と呼ぶことがある。待機状態及び停止状態は、例えば、通常動作状態よりも動作の活性度が低いため、電子機器1のシステムを起動させることは、電子機器1におけるシステムの動作を活性化させることになる。
図1は、本実施形態に係る電子機器1のHPD処理の概要を説明する図である。電子機器1は、電子機器1の近傍に存在する人物(即ちユーザ)を検出する。この人物の存在を検出する処理のことを、HPD(Human Presence Detection)処理と称する。電子機器1は、HPD処理により人物の存在の有無を検出し、検出結果に基づいて電子機器1のシステムの動作状態を制御する。例えば、電子機器1は、図1(A)に示すように、電子機器1の前(正面)に人物が存在しない状態(Absence)から存在する状態(Presence)への変化、即ち電子機器1へ人物が接近したこと(Approach)を検出した場合、ユーザが接近したと判定し、自動でシステムを起動して通常動作状態へ遷移させる。また、電子機器1は、図1(B)に示すように、電子機器1の前に人物が存在している状態(Presence)では、ユーザが存在すると判定し、通常動作状態を継続させる。そして、電子機器1は、図1(C)に示すように、電子機器1の前(正面)に人物が存在している状態(Presence)から存在しない状態(Absence)への変化、即ち電子機器1から人物が離脱したこと(Leave)を検出した場合には、ユーザが離脱したと判定し、システムを待機状態へ遷移させる。
例えば、電子機器1は、顔検出の機能を有しており、前方(正面側)を撮像した撮像画像から顔が撮像されている顔領域を検出することにより、電子機器1の前(正面)にユーザが存在するか否かを判定する。電子機器1は、撮像画像から顔領域が検出された場合、ユーザが存在すると判定する。一方、電子機器1は、撮像画像から顔領域が検出されなかった場合、ユーザが存在しないと判定する。即ち、電子機器1は、撮像画像から顔領域が検出されない状態から検出された場合、電子機器1へユーザが接近したこと(Approach)を検出し、システムを通常動作状態へ遷移させる。また、電子機器1は、撮像画像から顔領域が検出されている状態から検出されなくなった場合、電子機器1からユーザが離脱したこと(Leave)を検出し、システムを待機状態へ遷移させる。
ここで、撮像画像から顔領域を検出する場合、マスクをしているなどの要因によって正しく検出できない場合があり、顔検出が不安定になることがある。図2及び図3は、顔検出用の撮像画像の例を示している。図2は、顔領域が検出された撮像画像の一例を示す図である。一方、図3は、顔領域が検出されていない撮像画像の一例を示す図である。
図2において、バウンディングボックス101は、撮像画像G11から検出された顔領域を示している。顔領域の検出方法としては、顔の特徴情報を基に顔を検出する顔検出アルゴリズムや、顔の特徴情報または顔画像を元に機械学習された学習データ(学習済みモデル)や顔検出ライブラリなどを用いた任意の検出方法を適用することができる。例えば、電子機器1は、複数の顔画像の画像データを読み込ませて機械学習させた学習データを用いて撮像画像の中から顔らしさを示す評価値(以下、「顔検出評価値」と称する)を取得し、顔検出評価値が所定の閾値(以下、「顔判定閾値」と称する)以上となる領域を顔領域として検出する。一例として、顔判定閾値が「70」の場合、図2に示す例では、例えば顔検出評価値が「70」であり、顔検出評価値が顔判定閾値以上となるため、顔領域として検出されている。一方、図3に示す例では、例えば顔検出評価値が「68」であり、顔検出評価値が顔判定閾値未満であるため、顔領域として検出されていない。バウンディングボックス101は、検出された顔領域の位置および大きさ(縦横の長さ)の座標情報(画像領域における座標情報)を可視化して示したものである。例えば、顔領域の検出結果は、顔領域の座標情報と顔検出評価値とを含む情報として出力される。
このように、マスクをしているなどの要因によって顔検出評価値が顔判定閾値による境界に近くなると、顔として判定されたり判定されなかったりといったように顔検出が不安定になることがある。なお、マスクをしている場合に限らず、顔の向きなど様々な要因によっても顔検出評価値が顔判定閾値による境界に近くなることがある。例えば、顔判定閾値を下げれば、図3に示すように顔領域として検出されなかったものも顔領域として検出される可能性が高くなるが、反面、服のシワや物の配置の状況などによって人物の顔ではない領域を顔領域として誤検出してしまう可能性も高くなる。
そこで、本実施形態では、HPD処理における顔検出よりも高い検出精度で顔領域を検出する検出モードで顔領域が検出された場合、その検出結果の信頼性が高い(顔が存在する可能性が高い)と判断できるため、検出された顔領域に基づく特定領域のみ顔判定閾値を下げる。これにより、人物の顔ではない領域を顔領域として誤検出してしまう可能性を高めることなく、人物の顔の領域が正しく顔領域として検出される可能性が高くなるため、安定した顔検出を実現することができる。
以下では、HPD処理における顔検出モードのことを「標準検出モード」、HPD処理における顔検出よりも高い検出精度で顔領域を検出する検出モードのことを「高精度検出モード」と称する。また、高精度検出モードで検出された顔領域に基づく特定領域(顔領域の検出結果の信頼性が高い領域)のことを「高信頼性領域」、以外の撮像画像のことを「標準領域」領域と称する。
図4は、本実施形態に係る高信頼性領域の設定例を示す図である。バウンディングボックス102は、高精度検出モードで撮像画像G13から検出された顔領域を示している。高信頼性領域103は、このバウンディングボックス102を含むバウンディングボックス102よりも広い領域として設定される。例えば、高信頼性領域103は、バウンディングボックス102の中心を中心として、縦および横の長さがバウンディングボックス102の縦および横の長さに対して所定の割合分(例えば50%)加えた広い領域として設定される。HPD処理において標準検出モードで撮像画像から顔領域を検出する際には、高信頼性領域103のみ顔判定閾値が低く設定される。例えば、高信頼性領域103の顔判定閾値は、高信頼性領域103以外の標準領域の顔判定閾値に対して所定の割合分(例えば10%)低い値に設定される。
例えば、標準領域の顔判定閾値が「70」としたときに、高信頼性領域の顔判定閾値は「63」に設定される。図2および図3に示す例で、高信頼性領域が設定されていない場合には、顔領域が検出されたり(図2:顔検出評価値=70)、顔領域が検出されなかったり(図3:顔検出評価値=68)するが、高信頼性領域を設定して顔判定閾値が「63」になると、いずれの顔検出評価値も顔判定閾値以上となり、安定して顔領域が検出されるようになる。
なお、標準領域の顔判定閾値は、一つの値に設定されるものではなく、撮像画像の明るさなどに応じて適宜変化する値である。高信頼性領域103の顔判定閾値は、その時々の標準領域の顔判定閾値に対して所定の割合分(例えば10%)低い値に設定される。
また、撮像画像から検出される顔領域の数は1つとは限らないが、複数の顔領域が検出された場合でも、撮像画像から検出された顔領域のうち最もメインとなる顔領域に対して高信頼性領域が設定される。最もメインとなる顔領域とは、例えば、撮像画像から検出された顔領域のうち最も大きい顔領域である。また、最もメインとなる顔の顔領域は、顔領域の大きさに代えて又は加えて、撮像画像内の位置に関する要因(例えば、中央に近い)に基づいて決定されてもよい。
次に、図5を参照して、標準検出モードと高精度検出モードとの違いについて説明する。図5は、本実施形態に係る標準検出モードと高精度検出モードとの対比の一例を示す図である。標準検出モードは、顔検出の機能に用いられる。一方、高精度検出モードは、顔認証の機能に用いられる。顔認証処理では、顔の特徴をより高精度に照合する必要があるため、高精度検出モードが必要となる。例えば、ログイン時の認証処理、アクセス制限されているデータへのアクセス時の認証処理などにおいて顔認証の機能を用いる場合に、高精度検出モードが適用される。
また、標準検出モードでは、可視光線を撮像するRGBセンサを撮像センサとして用いて画像が撮像される。一方、高精度検出モードでは、RGBセンサに加えて赤外線を撮像可能なIR(Infrared Radiation)センサも用いて画像が撮像される。なお、高精度検出モードでは、RGBセンサとIRセンサのうちIRセンサのみを用いて画像が撮像されてもよい。IRセンサを用いることにより、低照度環境であっても顔認証に必要な顔の特徴を撮像可能となるが、その反面、赤外線を発光させるため消費電力が高くなる。また、高精度検出モードでは、標準検出モードに対してフレームレートを高くして顔領域を検出することにより、検出精度を高くする。この場合も、フレームレートを高くした分、消費電力が高くなる。なお、高精度検出モードでは、標準検出モードに対して高解像度で顔領域を検出してもよい。
つまり、標準検出モードはRGBセンサとIRセンサのうちRGBセンサのみを用いて撮像する検出モードであり、高精度検出モードは少なくともIRセンサを用いて撮像する検出モードである、ということができる。また、標準検出モードは、高精度検出モードよりも顔検出処理で消費する電力が低い検出モードである、ということもできる。また、標準検出モードは撮像画像の中から顔領域を検出するための検出モードであり、高精度検出モードは撮像画像の中から顔認証を行うための顔領域を検出するための検出モードである、ということもできる。
なお、図5を参照して、標準検出モードと高精度検出モードとの違いについて説明したが、標準検出モードよりも高精度検出モードの方が高精度に顔領域を検出できれば、機能、撮像センサ、フレームレート、解像度の全てが異なる必要はない。例えば、標準検出モードと高精度検出モードとでは撮像センサが異なるものの、フレームレートおよび解像度のいずれか一方または両方は同じでもよい。また、標準検出モードと高精度検出モードとではフレームレートおよび解像度のいずれか一方または両方が異なれば、撮像センサが同じであってもよい。いずれにしても、標準検出モードよりも高精度検出モードの方が消費電力は高くなるため、標準検出モードでは、高精度検出モードでの検出結果を利用して高信頼性領域を設定して顔領域を検出することにより、消費電力を上げることなく、安定した顔検出を実現できる。
次に、本実施形態に係る電子機器1の構成について詳しく説明する。
[電子機器の外観構成]
図6は、本実施形態に係る電子機器1の外観の構成例を示す斜視図である。
電子機器1は、第1筐体10、第2筐体20、及びヒンジ機構15を備える。第1筐体10と第2筐体20は、ヒンジ機構15を用いて結合されている。第1筐体10は、第2筐体20に対して、ヒンジ機構15がなす回転軸の周りに相対的に回動可能である。第1筐体10と第2筐体20との回動による開き角を「θ」として図示している。
第1筐体10は、Aカバー、ディスプレイ筐体とも呼ばれる。第2筐体20は、Cカバー、システム筐体とも呼ばれる。以下の説明では、第1筐体10と第2筐体20の側面のうち、ヒンジ機構15が備わる面を、それぞれ側面10c、20cと呼ぶ。第1筐体10と第2筐体20の側面のうち、側面10c、20cとは反対側の面を、それぞれ側面10a、20aと呼ぶ。図示において、側面20aから側面20cに向かう方向を「後」と呼び、側面20cから側面20aに向かう方向を「前」と呼ぶ。後方に対して右方、左方を、それぞれ「右」、「左」と呼ぶ。第1筐体10、第2筐体20の左側面をそれぞれ側面10b、20bと呼び、右側面をそれぞれ側面10d、20dと呼ぶ。また、第1筐体10と第2筐体20とが重なり合って完全に閉じた状態(開き角θ=0°の状態)を「閉状態」と呼ぶ。閉状態において第1筐体10と第2筐体20との互いに対面する側の面を、それぞれの「内面」と呼び、内面に対して反対側の面を「外面」と呼ぶ。また、閉状態に対して第1筐体10と第2筐体20とが開いた状態のことを「開状態」と呼ぶ。
図6に示す電子機器1の外観は開状態の例を示している。開状態は、第1筐体10の側面10aと第2筐体20の側面20aとが離れた状態である。開状態では、第1筐体10と第2筐体20とのそれぞれの内面が表れる。開状態はユーザが電子機器1を使用する際の状態の一つであり、典型的には開き角θ=100~130°程度の状態で使用されることが多い。なお、開状態となる開き角θの範囲は、ヒンジ機構15よって回動可能な角度の範囲等に応じて任意に定めることができる。
第1筐体10の内面には、表示部110が設けられている。表示部110は、液晶ディスプレイ(LCD:Liquid Crystal Display)や有機EL(Electro Luminescence)ディスプレイなどを含んで構成されている。また、第1筐体10の内面のうち表示部110の周縁の領域に、撮像部120が設けられている。例えば、撮像部120は、表示部110の周縁の領域のうち側面20a側に配置されている。なお、撮像部120が配置される位置は一例であって、第1筐体10の内面に対面する方向(前方)を向くことが可能であれば他の場所であってもよい。
撮像部120は、開状態において、第1筐体10の内面に対面する方向(前方)の所定の撮像範囲を撮像する。所定の撮像範囲とは、撮像部120が有する撮像センサ(撮像素子)と撮像センサの撮像面の前方に設けられたレンズとによって定まる画角の範囲である。例えば、撮像部120は、第1カメラ121と、第2カメラ122との2つのカメラを備えている。
第1カメラ121は、レンズを介して入射される可視光線を受光して光電変換するRGBセンサを撮像センサとして備えるカメラである。また、第2カメラ122は、レンズを介して入射される赤外線を受光して光電変換するIRセンサを撮像センサとして備えるカメラである。第1カメラ121および第2カメラ122は、それぞれ、電子機器1の前(正面)に存在する人物を含む画像を撮像することができる。
また、第2筐体20の側面20bには、電源ボタン140が設けられている。電源ボタン140は、電源オン(停止状態から通常動作状態へ遷移)や、電源オフ(通常動作状態から停止状態への遷移)をユーザが指示するための操作子である。また、第2筐体20の内面には、キーボード151及びタッチパッド153が入力デバイスとして設けられている。なお、入力デバイスとして、キーボード151及びタッチパッド153に代えて、または加えて、タッチセンサが含まれてもよいし、マウスや外付けのキーボードが接続されてもよい。タッチセンサが設けられた構成の場合、表示部110の表示面に対応する領域にタッチセンサが設けられたタッチパネルとして構成されてもよい。また、入力デバイスには、音声が入力されるマイクが含まれてもよい。
なお、第1筐体10と第2筐体20とが閉じた閉状態では、第1筐体10の内面に設けられている表示部110、及び撮像部120と、第2筐体20の内面に設けられているキーボード151及びタッチパッド153は、互いに他方の筐体面で覆われた状態となる。即ち、閉状態では、電子機器1は少なくとも入出力に関する機能を発揮できない状態となる。
[電子機器のハードウェア構成]
図7は、本実施形態に係る電子機器1のハードウェア構成の一例を示すブロック図である。この図7において、図6の各部に対応する構成には同一の符号を付している。電子機器1は、表示部110、撮像部120、加速度センサ130、電源ボタン140、入力デバイス150、映像出力端子160、EC(Embedded Controller)200、顔検出部220、システム処理部300、通信部350、記憶部360、及び電源部400を含んで構成される。表示部110は、システム処理部300により実行されるシステム処理及びシステム処理上で動作するアプリケーションプログラムの処理等に基づいて生成された表示データ(画像)を表示する。
撮像部120は、第1カメラ121と第2カメラ122とを有し、それぞれ第1筐体10の内面に対面する方向(前方)の所定の画角内の物体の像を撮像し、撮像した撮像画像の画像データをシステム処理部300及び顔検出部220へ出力する。図6を参照して説明したように、第1カメラ121は、RGBセンサを備え、可視光線を受光して撮像する。第1カメラ121は、撮像した可視光画像(RGB画像)の画像データを出力する。また、第2カメラ122は、IRセンサと赤外線を発光する発光部を備えており、発光部から照射した赤外線の反射光を受光して撮像する。第2カメラ122は、撮像した赤外線画像(IR画像)の画像データを出力する。例えば、撮像部120が撮像した撮像画像の画像データは、システムメモリ310に一時的に記憶され、画像処理などに利用される。
なお、本実施形態では、RGBセンサを備えた第1カメラ121とIRセンサを備えた第2カメラ122との2つのカメラとを電子機器1が備える構成例としているが、これに限られるものではない。例えば、可視光線を受光する画素と赤外線を受光する画像との両方が配置されている1つの撮像センサ(所謂、ハイブリッドセンサ)を用いて可視光画像(RGB画像)の画像データと赤外線画像(IR画像)の画像データとを出力可能な1つのカメラを電子機器1が備える構成としてもよい。
加速度センサ130は、電子機器1の重力方向に対する向きを検出し、検出結果を示す検出信号をEC200へ出力する。例えば、加速度センサ130は、第1筐体10と第2筐体20とのそれぞれに設けられており、第1筐体10の向きと第2筐体20の向きとを検出し、検出結果を示す検出信号をEC200へ出力する。この第1筐体10の向きと第2筐体20の向きとの検出結果に基づいて、電子機器1の開閉状態および第1筐体10と第2筐体20との開き角θなどを検出することが可能である。なお、加速度センサ130に代えて又は加えて、ジャイロセンサ、傾斜センサ、地磁気センサなどが備えられてもよい。
電源ボタン140は、ユーザの操作に応じて操作信号をEC200へ出力する。入力デバイス150は、ユーザの入力を受け付ける入力部であり、例えばキーボード151及びタッチパッド153を含んで構成されている。入力デバイス150は、キーボード151及びタッチパッド153に対する操作を受け付けることに応じて、操作内容を示す操作信号をEC200へ出力する。
映像出力端子160は、外部ディスプレイ(表示装置)に接続するための接続端子である。例えば、映像出力端子160は、HDMI(登録商標)端子、USB Type-C端子、ディスプレイポートなどである。
電源部400は、電子機器1の各部の動作状態に応じて各部へ電力を供給するための電源系統を介して電力を供給する。電源部400は、DC(Direct Current)/DCコンバータを備える。DC/DCコンバータは、AC(Alternate Current)/DCアダプタもしくは電池パックから供給される直流電力の電圧を、各部で要求される電圧に変換する。DC/DCコンバータで電圧が変換された電力が各電源系統を介して各部へ供給される。例えば、電源部400は、EC200から入力される各部の動作状態に応じた制御信号に基づいて各電源系統を介して各部に電力を供給する。
EC200は、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュROM、複数チャネルのA/D入力端子、D/A出力端子、およびデジタル入出力端子などを含んで構成されたマイクロコンピュータである。例えば、EC200のCPUは、自部または外部のROMに予め記憶された制御プログラム(ファームウェア)を読み出し、読み出した制御プログラムを実行して、その機能を発揮する。EC200は、加速度センサ130、電源ボタン140、入力デバイス150、顔検出部220、システム処理部300、および電源部400などと接続されている。
例えば、EC200は、電源ボタン140に対するユーザの操作に応じた操作信号を受取ると、システム処理部300に対するシステムの起動の指示などを行う。また、EC200は、顔検出部220による検出結果に基づいて、システムの起動の指示や動作状態の遷移の指示を行う。また、EC200は、電源部400と通信を行うことにより、バッテリーの状態(残容量など)の情報を電源部400から取得するとともに、電子機器1の各部の動作状態に応じた電力の供給を制御するための制御信号などを電源部400へ出力する。
また、EC200は、入力デバイス150などから操作信号を取得し、取得した操作信号のうちシステム処理部300の処理に必要な操作信号についてはシステム処理部300へ出力する。また、EC200は、加速度センサ130から検出信号を取得し、取得した検出信号に基づいて、電子機器1の向き(第1筐体10および第2筐体20の向き)や、第1筐体10と第2筐体20との開き角θなどを検出する。
なお、EC200の機能の一部は、センサハブまたはチップセットなどとして構成されてもよい。
顔検出部220は、撮像部120により撮像された撮像画像の画像データを処理するプロセッサである。顔検出部220は、顔検出処理および顔認証処理を実行する。例えば、顔検出部220は、撮像部120により撮像された撮像画像を取得し、取得した撮像画像の中から顔が撮像されている顔領域を検出する顔検出処理を実行する。
また、顔検出部220は、顔検出処理の検出結果に基づいて、電子機器1の前方にユーザ(人物)が存在するか否かを検出するHPD処理を実行する。また、顔検出部220は、撮像部120から取得した撮像画像の中から顔領域を検出した後、検出した顔領域の顔画像と予め登録されている顔画像(例えば、正規ユーザの顔画像)とを照合することにより顔認証処理を実行する。この顔検出部220の構成について詳しくは後述する。
システム処理部300は、CPU(Central Processing Unit)302、GPU(Graphic Processing Unit)304、メモリコントローラ306、I/O(Input-Output)コントローラ308、及びシステムメモリ310を含んで構成され、OS(Operating System)に基づくシステム処理によって、OS上で各種のアプリケーションプログラムの処理が実行可能である。
CPU302は、OSによる処理や、OS上で動作するアプリケーションプログラムによる処理を実行する。また、CPU302は、EC200からの指示によりシステムの動作状態を遷移させる。例えば、CPU302は、動作状態が停止状態または待機状態であって、EC200から起動の指示を受けると、停止状態または待機状態から通常動作状態に遷移させる起動処理を実行する。また、CPU302は、通常動作状態において待機状態への指示を受取ると、通常動作状態から待機状態に遷移させる。また、CPU302は、通常動作状態においてシャットダウンの指示を受取ると、通常動作状態から停止状態に遷移させるシャットダウン処理を実行する。
また、CPU302は、起動処理において、OSの利用を許可するか否かを判定するログイン処理を実行する。CPU302は、OSによる起動処理を開始すると、OSの利用を許可する前にログイン処理を実行し、ログイン処理でログインを許可するまで、通常動作状態への遷移を一旦停止する。ログイン処理では、電子機器1を使用する人物が予め登録された正規のユーザであるか否かを判定するユーザ認証処理が行われる。認証には、パスワード認証、顔認証、指紋認証などがある。
例えば、CPU302は、顔認証によるユーザ認証処理を行う場合、顔検出部220による顔認証処理を利用する。CPU302は、認証結果が成功であった場合、ログインを許可し、一旦停止していたシステム処理の実行を再開する。一方、認証結果が失敗であった場合、ログインを許可せず、システム処理の実行を停止したままにする。
GPU304は、表示部110に接続されている。GPU304は、CPU302の制御に基づいて画像処理を実行して表示データを生成する。GPU304は、生成した表示データを表示部110に出力する。なお、CPU302とGPU304は、一体化して1個のコアとして形成されてもよいし、個々のコアとして形成されたCPU302とGPU304の相互間で負荷が分担されてもよい。プロセッサの数は、1個に限られず、複数個であってもよい。
メモリコントローラ306は、CPU302とGPU304によるシステムメモリ310、記憶部360などからのデータの読出し、書込みを制御する。
I/Oコントローラ308は、通信部350、表示部110およびEC200からのデータの入出力を制御する。
システムメモリ310は、プロセッサの実行プログラムの読み込み領域ならびに処理データを書き込む作業領域として用いられる。また、システムメモリ310は、撮像部120で撮像された撮像画像の画像データを一時的に記憶する。
通信部350は、無線または有線による通信ネットワークを介して他の機器と通信可能に接続し、各種のデータの送信および受信を行う。例えば、通信部350は、イーサネット(登録商標)等の有線LANインターフェースやWi-Fi(登録商標)等の無線LANインターフェース等を含んで構成されている。
記憶部360は、HDD(Hard Disk Drive)、SDD(Solid State Drive)、ROM、フラッシュROMなどの記憶媒体を含んで構成される。記憶部360は、OS、デバイスドライバ、アプリケーションなどの各種のプログラム、その他、プログラムの動作により取得した各種のデータを記憶する。
なお、システム処理部300は、SOC(System on a chip)として1つのパッケージのプロセッサとして構成されてもよいし、一部の機能がチップセットまたはセンサハブなどがCPU302とは別の部品として複数のプロセッサで構成されてもよい。
[顔検出部の構成]
次に、顔検出部220の構成について詳しく説明する。
図8は、本実施形態に係る電子機器1の機能構成の一例を示す概略ブロック図である。図示する顔検出部220は、撮像部120により撮像された撮像画像の画像データを処理するプロセッサを含んで構成されている。顔検出部220は、撮像部120により撮像された撮像画像の画像データを取得し、取得した画像データをメモリに一時的に保存する。画像データを保存するメモリは、システムメモリ310であってもよいし、顔検出部220内の不図示のメモリであってもよい。
顔検出部220は、撮像部120から取得した撮像画像の画像データを処理することにより、撮像画像から顔が撮像されている顔領域を検出する顔検出処理、及び検出された顔領域の顔を認証する顔認証処理などを行う。例えば、顔検出部220は、顔認証処理部223と、検出領域設定部222と、顔検出処理部221と、HPD処理部224とを備えている。
顔検出処理部221は、標準検出モードと高精度検出モードと有し、いずれかの検出モードで撮像画像の中から顔領域を検出する。顔領域の検出方法としては、顔の特徴情報を基に顔を検出する顔検出アルゴリズムや、顔の特徴情報を基に機械学習された学習データ(学習済みモデル)や顔検出ライブラリなどを用いた顔検出など、任意の検出方法を適用することができる。
例えば、顔検出処理部221は、標準検出モードでは、第1カメラ121および第2カメラ122のうち第1カメラ121のみを有効にし、第2カメラ122からは赤外線を発光させない。顔検出処理部221は、第1カメラ121により撮像されたRGB画像の画像データをシステムメモリ310から読み出す。つまり、顔検出処理部221は、標準検出モードではRGB画像の中から顔領域を検出する。例えば、顔検出処理部221は、RGB画像の中から顔検出評価値が顔判定閾値以上の領域を顔領域として検出する。
また、顔検出処理部221は、高精度検出モードでは、第1カメラ121および第2カメラ122の両方を有効にし、第2カメラ122からは赤外線を発光させる。顔検出処理部221は、第1カメラ121および第2カメラ122により撮像されたRGB画像及びIR画像の画像データをシステムメモリ310から読み出す。つまり、顔検出処理部221は、高精度検出モードではRGB画像及びIR画像の中から顔領域を検出する。なお、顔検出処理部221は、高精度検出モードにおいて、第1カメラ121および第2カメラ122のうち第2カメラ122のみを有効にして、IR画像の中から顔領域を検出してもよい。
検出領域設定部222は、顔検出処理部221により高精度検出モードで顔領域が検出された場合、高精度検出モードで検出された顔領域に基づく高信頼性領域を設定する。例えば、高信頼性領域は、標準検出モードで顔領域を検出する際に使用される。検出領域設定部222は、標準検出モードにおいて高信頼性領域が設定されている場合、高信頼性領域内に検出された顔領域の位置に基づいて当該高信頼性領域の位置を更新する。例えば、検出領域設定部222は、高信頼性領域内に検出された顔領域の位置または大きさから変化した場合、顔領域の位置または大きさの変化に応じて高信頼性領域の位置または大きさを変更する。つまり、検出領域設定部222は、高信頼性領域内に検出された顔領域の位置または大きさの変化(顔の移動)に応じて高信頼性領域を追従させる。
図9は、本実施形態に係る高信頼性領域のトラッキングの説明図である。図9の(A)は、位置aを中心とする顔領域が検出されたときのバウンディングボックス104aと、バウンディングボックス104aに基づいて設定されている高信頼性領域105aとを示している。図9の(B)に示すように、顔領域の中心が位置aから位置bへ移動すると、バウンディングボックス104a及び高信頼性領域105aは顔領域の移動に追従して移動し、バウンディングボックス104bおよび高信頼性領域105bとなる。
なお、検出領域設定部222は、高信頼性領域内に顔領域が検出されなくなった場合には、設定した高信頼性領域を解除する。例えば、検出領域設定部222は、検出された顔領域が高信頼性領域外(標準領域)になった場合、或いは顔領域が検出されなくなった場合、設定した高信頼性領域を解除する。
また、顔検出処理部221により複数の顔領域が検出された場合、検出領域設定部222は、検出された複数の顔領域のうちの一つ(最もメインとなる顔領域)に基づいて高信頼性領域を設定する。例えば、検出領域設定部222は、検出された複数の顔領域のうち最も大きい顔領域に基づいて高信頼性領域を設定してもよい。また、検出領域設定部222は、検出された複数の顔領域のうち撮像画像の中央に最も近い顔領域に基づいて高信頼性領域を設定してもよい。
ここで、顔検出処理部221は、標準検出モードで撮像画像の中から顔領域を検出する際に、高信頼性領域が設定されている場合、高信頼性領域と標準領域とでは異なる検出条件で顔領域を検出する。具体的には、高信頼性領域における顔判定閾値は、標準領域における顔判定閾値よりも低く設定される。例えば、高信頼性領域における顔判定閾値は、標準領域における顔判定閾値所定の割合分(例えば10%)低い値に設定される。
図8に戻り、顔認証処理部223は、顔検出処理部221により高精度検出モードで撮像画像の中から検出された顔領域に基づいて顔認証処理を実行する。顔認証方法としては、検出された顔領域の顔画像に特徴情報と予め登録されているユーザの顔画像の特徴情報とを比較・照合することにより顔認証する顔認証アルゴリズムや、顔の特徴情報を基に機械学習された学習データ(学習済みモデル)や顔認証ライブラリなどを用いた顔認証など、任意の顔認証方法を適用することができる。つまり、撮像画像の中から顔領域が検出された場合、顔認証の認証結果によりユーザの顔であるか否かを判定することができる。
例えば、顔認証処理部223は、ユーザ認証部320からの要求に応じて顔認証処理を実行し、認証結果をユーザ認証部320へ応答する。ユーザ認証部320は、システム処理部300がOSのプログラムを実行することにより実現される機能構成である。ユーザ認証部320は、顔認証処理部223による認証結果に基づいて、ログイン時のユーザ認証処理、アクセス制限されているデータへのアクセス時のユーザ認証処理などを行う。
また、ログイン後については、顔検出処理部221により標準検出モードで検出された顔領域が高信頼性領域内である間、顔認証処理部223は、顔認証処理を実行しない。顔検出処理部221により標準検出モードで検出された顔領域が高信頼性領域外になると、顔検出処理部221は、高精度検出モードで顔検出を行う。そして、顔認証処理部223は、顔検出処理部221は、高精度検出モードで検出された顔領域に基づいて、顔認証処理を実行する。
HPD処理部224は、顔検出処理部221による顔領域の検出結果と顔認証処理部223による認証結果とに基づいて、電子機器1の前方にユーザが存在するか否かを判定する。例えば、HPD処理部224は、システムが待機状態の場合には、顔検出処理部221により標準検出モードで顔領域が検出された場合、電子機器1の前方にユーザが存在すると判定する。また、システムにログイン後の通常動作状態では、HPD処理部224は、顔検出処理部221により標準検出モードで検出された顔領域が高信頼性領域内である場合には顔認証を行わずにユーザの顔である(即ち、ユーザが存在する)と判定し、検出された顔領域が高信頼性領域外の場合には、顔認証処理部223による顔認証に基づいてユーザの顔であるか否か(即ち、ユーザが存在するか否か)を判定する。そして、HPD処理部224は、電子機器1の前方にユーザが存在するか否かの判定結果に基づくHPD情報を出力する。
例えば、HPD処理部224は、電子機器1の前方にユーザが存在してない状態から存在する状態へ判定結果が変化した場合、電子機器1へユーザが接近したことを示すHPD情報(以下、「アプローチ(Approach)情報」と称する)を出力する。また、HPD処理部224は、電子機器1の前方にユーザが存在する状態と判定している間、電子機器1の前方にユーザが存在することを示すHPD情報(以下、「プレゼンス(Presence)情報」と称する)を出力する。また、HPD処理部224は、電子機器1の前方にユーザが存在している状態から存在しない状態へ検出状態が変化した場合、電子機器1からユーザが離脱したことを示すHPD情報(以下、「リーブ(Leave)情報」と称する)を出力する。HPD処理部224は、顔検出処理部221による顔領域の検出結果に基づいて、アプローチ情報、プレゼンス情報、またはリーブ情報を動作制御部210へ出力する。
動作制御部210は、例えばEC200が制御プログラムを実行することにより実現される機能構成であり、HPD処理部224から出力されたHPD情報を取得し、取得したHPD情報に基づいてシステムの動作状態を制御する。
例えば、動作制御部210は、待機状態において、顔検出部220(HPD処理部224)からアプローチ情報を取得した場合、待機状態から通常動作状態へ遷移させる。具体的には、動作制御部210は、システムを起動させる指示をシステム処理部300へ行う。例えば、動作制御部210は、システムを起動させる場合、電源部400に対して、電子機器1の各部の動作に必要な電力を供給するための制御信号を出力する。その後、動作制御部210は、システム処理部300にシステムの起動を指示するための起動信号を出力する。システム処理部300は、起動信号を取得すると、システムを起動して待機状態から通常動作状態へ遷移させる。
また、動作制御部210は、通常動作状態において、顔検出部220(HPD処理部224)からプレゼンス情報を取得している間、システムを待機状態に遷移させないように制限し、通常動作状態を継続させる。なお、動作制御部210は、顔検出部220(HPD処理部224)からプレゼンス情報を取得していても、所定の条件によって通常動作状態から待機状態へ遷移させてもよい。所定の条件とは、例えば、ユーザによる操作入力が行われていない時間(無操作の時間)が予め設定された時間継続すること、待機状態へ遷移させる操作が行われることなどである。
また、動作制御部210は、通常動作において、顔検出部220(HPD処理部224)からリーブ情報を取得した場合、システムを通常動作状態から待機状態へ遷移させる指示をシステム処理部300へ行う。例えば、動作制御部210は、システム処理部300にシステムを通常動作状態から待機状態へ遷移させる指示をするための待機信号を出力する。システム処理部300は、待機信号を取得すると、システムを通常動作状態から待機状態へ遷移させる。その後、動作制御部210は、電源部400に対して、待機状態では不要な電力の供給を停止させるための制御信号を出力する。
なお、動作制御部210は、EC200に代えて、チップセットまたはセンサハブなどの機能構成としてもよい。不図示のチップセットおよびセンサハブは、CPU302と周辺部品との間でデータの送受信やデータ処理などを行うプロセッサであり、例えば加速度センサ130、顔検出部220などからデータを収集する。例えば、チップセットおよびセンサハブは、メモリコントローラ306およびI/Oコントローラ308の一部または全部の機能を有する。
[顔検出処理の動作]
次に、図10を参照して、顔検出部220が標準検出モードにおいて高信頼性領域を設定して顔領域を検出する顔検出処理の動作について説明する。
図10は、本実施形態に係る標準検出モードにおける顔検出処理の一例を示すフローチャートである。
(ステップS101)顔検出部220は、顔検出結果の信頼性の高い(顔が存在する可能性が高い)顔領域が検出されたか否かを判定する。例えば、顔検出部220は、高精度検出モードで顔領域が検出された場合に顔検出結果の信頼性の高い顔領域が検出されたと判定する。一例として、顔検出部220は、直前のログイン時の顔認証処理において、高精度検出モードで顔領域が検出された場合に顔検出結果の信頼性の高い顔領域が検出されたと判定する。直前のログイン時とは、現在の通常動作状態へ遷移する際の起動におけるログイン時であり、当該ログインの後に待機状態または停止状態へ遷移しておらず、当該ログイン後に通常動作状態が継続している場合を指す。
なお、顔検出部220は、高精度検出モードに限らず標準検出モードであっても、顔検出評価値が高い場合には、その検出結果の信頼性が高い(顔が存在する可能性が高い)と判定してもよい。
顔検出部220は、顔検出結果の信頼性の高い顔領域が検出されたと判定した場合(YES)、ステップS103の処理へ進む。一方、顔検出部220は、顔検出結果の信頼性の高い顔領域が検出されていないと判定した場合(NO)、ステップS105の処理へ進む。
(ステップS103)顔検出部220は、顔検出結果の信頼性の高い顔領域(例えば、高精度検出モードで検出された顔領域)に基づいて高信頼性領域を設定する(図4参照)。そして、ステップS105の処理へ進む。
(ステップS105)顔検出部220は、標準検出モードで撮像画像から顔領域を検出する顔検出処理を行う。例えば、顔検出部220は、撮像画像から顔領域の候補と顔検出評価値とを取得する。なお、顔検出部220は、撮像画像から複数の顔領域が検出された場合には、複数の顔領域のうち最もメインとなる顔領域の候補と顔検出評価値とを取得する。そして、ステップS107の処理へ進む。
(ステップS107)顔検出部220は、ステップS105で取得した顔領域の候補について、高信頼性領域内であるか否かを判定する。顔検出部220は、高信頼性領域内であると判定した場合(YES)、ステップS109の処理へ進む。一方、顔検出部220は、高信頼性領域内では無い(即ち、標準領域内である)と判定した場合(NO)、ステップS115の処理へ進む。
(ステップS109)顔検出部220は、高信頼性領域の顔判定閾値(例えば、「63」)を用いて、高信頼性領域内の顔領域の候補の顔検出評価値を判定する。そして、ステップS111の処理へ進む。
(ステップS111)顔検出部220は、顔検出評価値が高信頼性領域の顔判定閾値以上であるか否かを判定し、高信頼性領域の顔判定閾値以上であると判定した場合(YES)、顔領域であると判定してステップS113の処理へ進む。一方、顔検出部220は、高信頼性領域の顔判定閾値未満であると判定した場合(NO)、顔領域では無いと判定してステップS119の処理へ進む。
(ステップS113)顔検出部220は、検出された顔領域に基づいて高信頼性領域を更新する。例えば、顔検出部220は、検出された顔領域の位置または大きさが直前に検出された顔領域の位置または大きさから変化した場合、位置または大きさの変化に応じて高信頼性領域の位置または大きさを変更する。
(ステップS115)顔検出部220は、標準領域の顔判定閾値(例えば、「70」)を用いて、高信頼性領域外(或いは、高信頼性領域が設定されていない状態)の顔領域の候補の顔検出評価値を判定する。そして、ステップS117の処理へ進む。
(ステップS117)顔検出部220は、顔検出評価値が標準領域の顔判定閾値以上であるか否かを判定し、標準領域の顔判定閾値以上であると判定した場合(YES)、顔領域であると判定してステップS119の処理へ進む。一方、顔検出部220は、標準領域の顔判定閾値未満であると判定した場合(NO)、顔領域では無いと判定してステップS119の処理へ進む。
(ステップS119)顔検出部220は、高信頼性領域が設定されている場合には高信頼性領域を解除する。例えば、顔検出部220は、高信頼性領域が設定されている状態において、高信頼性領域内に顔領域が検出されなかった場合(ステップS111:NO)、標準領域内に顔領域が検出された場合(ステップS117:YES)、または高信頼性領域内にも標準領域内にも顔領域が検出されなかった場合(ステップS117:NO)には高信頼性領域を解除する。なお、顔検出部220は、高信頼性領域が設定されていない場合(ステップS101:NO)には高信頼性領域が設定されていない状態を継続する。そして、ステップS101の処理へ戻る。
次に、図11を参照して、検出された顔領域が高信頼性領域外(標準領域)である場合に顔認証を行ってユーザではない場合にはシステムを待機状態に制御する待機状態制御処理の動作について説明する。
図11は、本実施形態に係る待機状態制御処理の一例を示すフローチャートである。
(ステップS201)通常動作状態において、顔検出部220は、標準モードで撮像された撮像画像から検出された顔領域(最もメインとなる顔領域)が、高信頼性領域内であるか否かを判定する。顔検出部220は、検出された顔領域が高信頼性領域外(標準領域内)であると判定した場合(NO)、ステップS203の処理へ進む。一方、顔検出部220は、検出された顔領域が高信頼性領域内であると判定した場合(YES)、ステップS209の処理へ進む。
なお、検出された顔領域が高信頼性領域外(標準領域内)であると判定した場合(NO)とは、例えば、図10のステップS107でNO、ステップ117でYESと判定した場合に相当する。一方、検出された顔領域が高信頼性領域内であると判定した場合(YES)とは、例えば、図10のステップS107およびステップS111でYESと判定した場合に相当する。
(ステップS203)顔検出部220は、高精度検出モードで撮像された撮像画像から検出された顔領域に基づいて、ユーザの顔であるか否かを判定するための顔認証処理を実行する。そして、ステップS205の処理へ進む。
(ステップS205)顔検出部220は、ステップS203の顔認証処理の認証結果が認証成功であるか否かを判定する。顔検出部220は、認証失敗であると判定した場合(NO)、ステップS207の処理へ進む。一方、顔検出部220は、認証成功であると判定した場合(YES)、ステップS209の処理へ進む。
(ステップS207)顔検出部220は、高信頼性領域外(標準領域内)に検出された顔領域の顔がユーザ以外の顔であるため、電子機器1からユーザが離脱したことを示すリーブ情報を出力する。動作制御部210は、顔検出部220からリーブ情報を取得した場合、システムを通常動作状態から待機状態へ遷移させる指示をシステム処理部300へ行う。例えば、動作制御部210は、システム処理部300にシステムを通常動作状態から待機状態へ遷移させる指示をするための待機信号を出力する。システム処理部300は、待機信号を取得すると、システムを通常動作状態から待機状態へ遷移させる(例えば、システムをロックさせる)。
(ステップS209)顔検出部220は、検出された顔領域に基づいて高信頼性領域を更新する。例えば、ステップS205の判定がYESの場合には、高信頼性領域外(標準領域内)に検出された顔領域の顔がユーザの顔であるため、顔検出部220は、当該顔領域に基づいて高信頼性領域を再設定して更新する。なお、ステップS201の判定がYESの場合には、検出された顔領域に基づいて高信頼性領域内であることが継続しているため、検出された顔領域に基づいて高信頼性領域を更新する。例えば、顔検出部220は、検出された顔領域の位置または大きさが直前に検出された顔領域の位置または大きさから変化した場合、位置または大きさの変化に応じて高信頼性領域の位置または大きさを変更する。この時の処理は、図10のステップS113の処理に相当する。
[第1の実施形態のまとめ]
以上説明してきたように、本実施形態に係る電子機器1は、撮像部120(撮像装置の一例)で撮像された画像(撮像画像)の画像データを一時的に記憶するシステムメモリ310(メモリの一例)と、システムのプログラムに基づくシステム処理及び上記画像データを用いた処理を実行するプロセッサ(例えば、顔検出部220、CPU302、EC200など)と、を備えている。例えば、顔検出部220は、システムメモリ310に記憶された画像データの画像(撮像画像)の中から顔が撮像されている顔領域を、第1の検出精度(例えば、HPD処理における顔検出の検出精度)で検出する標準検出モード(第1検出モードの一例)と、第1の検出精度よりも高い第2の検出精度(例えば、顔認証を行うための検出精度)で検出する高精度検出モード(第2検出モードの一例)とを有する顔検出処理を行う。また、顔検出部220は、高精度検出モードで顔領域が検出された場合、高精度検出モードで検出された顔領域に基づく高信頼性領域(第1領域の一例)を設定する処理(第1領域設定処理の一例)を行う。また、顔検出部220は、顔検出処理により検出された顔領域が高信頼性領域外の標準領域(第2領域の一例)になった場合、標準領域に検出された顔領域に基づいて顔認証する顔認証処理を行う。そして、動作制御部210(例えば、EC200)は、顔認証処理による認証結果に基づいてシステムを待機状態に遷移させる待機状態制御処理を行う。
これにより、電子機器1は、高信頼性領域内に顔領域が検出されている間は顔認証を行わずにユーザの顔である(即ち、ユーザが存在する)と判定して待機状態へ遷移させる制御を行わず、検出された顔領域が高信頼性領域外になったときのみ顔認証を行ってユーザの顔でない場合(即ち、ユーザが存在しない場合)に待機状態に遷移させるため、顔認証における誤認証を抑制することができ、顔認証を用いてセキュリティを向上させることができる。つまり、電子機器1は、限定的に顔認証を用いることでセキュリティを向上させることができる。
また、本実施形態に係る電子機器1は、撮像部120(撮像装置の一例)で撮像された画像(撮像画像)の画像データを一時的に記憶するシステムメモリ310(メモリの一例)と、システムのプログラムに基づくシステム処理及び上記画像データを用いた処理を実行するプロセッサ(例えば、顔検出部220、CPU302、EC200など)と、を備えている。例えば、顔検出部220は、システムメモリ310に記憶された画像データの画像(撮像画像)の中から顔検出評価値(顔らしさの評価値の一例)が顔判定閾値(第1閾値の一例)以上の領域を顔領域として検出する顔検出処理を行う。また、顔検出部220は、顔検出処理により顔検出評価値が顔判定閾値よりも高い高信頼性閾値(第2閾値の一例)以上となる顔領域が検出された場合、検出された顔領域に基づく高信頼性領域(第1領域の一例)を設定する処理(第1領域設定処理の一例)を行う。また、顔検出部220は、顔検出処理により検出された顔領域が高信頼性領域外の標準領域(第2領域の一例)になった場合、標準領域に検出された顔領域に基づいて顔認証する顔認証処理を行う。そして、動作制御部210(例えば、EC200)は、顔認証処理による認証結果に基づいてシステムを待機状態に遷移させる待機状態制御処理を行う。
これにより、電子機器1は、高信頼性領域内に顔領域が検出されている間は顔認証を行わずにユーザの顔である(即ち、ユーザが存在する)と判定して待機状態へ遷移させる制御を行わず、検出された顔領域が高信頼性領域外になったときのみ顔認証を行ってユーザの顔でない場合(即ち、ユーザが存在しない場合)に待機状態に遷移させるため、顔認証における誤認証を抑制することができ、顔認証を用いてセキュリティを向上させることができる。つまり、電子機器1は、限定的に顔認証を用いることでセキュリティを向上させることができる。
例えば、顔検出部220は、顔検出処理において複数の顔領域が検出された場合、複数の顔領域のうちの一つに基づいて、高信頼性領域を設定する処理(第1領域設定処理の一例)及び顔認証処理を行う。
これにより、電子機器1は、電子機器1の前方に複数の人物が存在する場合でも、一人の人物をユーザ(メインユーザ)として、顔検出及び顔認証を行うことができる。
一例として、顔検出部220は、複数の顔領域のうち最も大きい顔領域に基づいて、高信頼性領域を設定する処理(第1領域設定処理の一例)及び顔認証処理を行う。
これにより、電子機器1は、電子機器1の前方に複数の人物が存在する場合でも、最も近くに存在する人物をユーザ(メインユーザ)として、顔検出及び顔認証を行うことができる。
また、一例として、顔検出部220は、複数の顔領域のうち撮像画像の中央に最も近い顔領域に基づいて、高信頼性領域を設定する処理(第1領域設定処理の一例)及び顔認証処理を行う。
これにより、電子機器1は、電子機器1の前方に複数の人物が存在する場合でも、最も正面に存在する人物をユーザ(メインユーザ)として、顔検出及び顔認証を行うことができる。
また、顔検出部220は、高信頼性領域を設定する処理(第1領域設定処理の一例)において高信頼性領域を設定した後、顔検出処理により検出された顔領域の位置または大きさの変化に応じて、高信頼性領域の位置または大きさを変更する。
これにより、電子機器1は、ユーザの顔の位置が電子機器1の使用中に少し移動しても、安定して顔検出を行いトラッキングすることができる。
また、顔検出部220は、高信頼性領域を設定する処理(第1領域設定処理の一例)において、顔検出処理により検出された顔領域が標準領域になったことに基づいて高信頼性領域を解除する。即ち、顔検出部220は、高信頼性領域内に顔領域を検出できなくなった場合、高信頼性領域を解除する。
これにより、電子機器1は、人物の顔ではない領域を顔領域として誤検出してしまうことを抑制できるため、安定した顔検出を行うことができる。
また、顔検出部220は、高信頼性領域を設定する処理(第1領域設定処理の一例)において、顔認証処理により標準領域に検出された顔領域に基づいて顔認証した認証結果が認証成功になったことに基づいて、標準領域に検出された顔領域に基づいて高信頼性領域を再設定する。
これにより、電子機器1は、高信頼性領域外に検出された顔領域の顔がユーザと判定される場合、以降、ユーザの顔として安定して顔検出することができる。
例えば、撮像部120は、可視光線を撮像するRGBセンサ(第1撮像素子の一例)と赤外線を撮像するIRセンサ(第2撮像素子の一例)とを備えている。標準検出モードは、RGBセンサとIRセンサのうちRGBセンサのみを用いて撮像する検出モードであり、高精度検出モードは、少なくともIRセンサを用いて撮像する検出モードである。
これにより、電子機器1は、標準検出モードではIRセンサを用いることなく、RGBセンサを用いて撮像した撮像画像の中から安定して顔領域を検出することができる。よって、電子機器1は、赤外線を発光させる必要が無いため、消費電力を抑えつつ安定した顔検出を実現することができる。
また、本実施形態に係る電子機器1における制御方法は、顔検出部220が、システムメモリ310(メモリの一例)に記憶された画像データの画像(撮像画像)の中から顔が撮像されている顔領域を、第1の検出精度(例えば、HPD処理における顔検出の検出精度)で検出する標準検出モード(第1検出モードの一例)と、第1の検出精度よりも高い第2の検出精度(例えば、顔認証を行うための検出精度)で検出する高精度検出モード(第2検出モードの一例)とを有する顔検出ステップと、顔検出ステップにより高精度検出モードで顔領域が検出された場合、高精度検出モードで検出された顔領域に基づく高信頼性領域(第1領域の一例)を設定する第1領域設定ステップと、顔検出ステップにより検出された顔領域が高信頼性領域外の標準領域(第2領域の一例)になった場合、標準領域に検出された顔領域に基づいて顔認証する顔認証ステップと、動作制御部210(例えば、EC200)が、顔認証ステップによる認証結果に基づいてシステムを待機状態に遷移させる待機状態制御ステップと、を含む。
これにより、電子機器1は、高信頼性領域内に顔領域が検出されている間は顔認証を行わずにユーザの顔である(即ち、ユーザが存在する)と判定して待機状態へ遷移させる制御を行わず、検出された顔領域が高信頼性領域外になったときのみ顔認証を行ってユーザの顔でない場合(即ち、ユーザが存在しない場合)に待機状態に遷移させるため、顔認証における誤認証を抑制することができ、顔認証を用いてセキュリティを向上させることができる。つまり、電子機器1は、限定的に顔認証を用いることでセキュリティを向上させることができる。
また、本実施形態に係る電子機器1における制御方法は、顔検出部220が、システムメモリ310(メモリの一例)に記憶された画像データの画像(撮像画像)の中から顔検出評価値(顔らしさの評価値の一例)が顔判定閾値(第1閾値の一例)以上の領域を顔領域として検出する顔検出ステップと、顔検出ステップにより顔検出評価値が顔判定閾値よりも高い高信頼性閾値(第2閾値の一例)以上となる顔領域が検出された場合、検出された顔領域に基づく高信頼性領域(第1領域の一例)を設定する第1領域設定ステップと、顔検出ステップにより検出された高信頼性領域外の標準領域(第2領域の一例)になった場合、標準領域に検出された顔領域に基づいて顔認証する顔認証ステップと、動作制御部210(例えば、EC200)が、顔認証ステップによる認証結果に基づいてシステムを待機状態に遷移させる待機状態制御ステップと、を含む。
これにより、電子機器1は、高信頼性領域内に顔領域が検出されている間は顔認証を行わずにユーザの顔である(即ち、ユーザが存在する)と判定して待機状態へ遷移させる制御を行わず、検出された顔領域が高信頼性領域外になったときのみ顔認証を行ってユーザの顔でない場合(即ち、ユーザが存在しない場合)に待機状態に遷移させるため、顔認証における誤認証を抑制することができ、顔認証を用いてセキュリティを向上させることができる。つまり、電子機器1は、限定的に顔認証を用いることでセキュリティを向上させることができる。
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。
第1の実施形態で、検出された顔領域が高信頼性領域外(標準領域)である場合に顔認証を行ってユーザではない場合にはシステムを待機状態に制御する待機状態制御処理について説明したが、この待機状態制御処理は、電子機器1が手持ちされている状態では一時的に無効にしてもよい。手持ちされている状態では、ユーザの顔を安定的に正面から撮像し続けることが難しいため、顔認証が正しくされずに待機状態に遷移してしまわないようにしてもよい。
図12は、本実施形態に係る電子機器1Aの機能構成の一例を示す概略ブロック図である。この図において、図8の各部に対応する構成には同一の符号を付している。図示する電子機器1Aは、電子機器1Aの動きを検出す加速度センサ130を用いて電子機器1Aが手持ちされているか否かを判定する状態判定部215を備えている点が、図8に示す構成と異なる。状態判定部215は、例えばEC200が制御プログラムを実行することにより実現される機能構成である。なお、状態判定部215は、動作制御部210と同様に、EC200に代えて、チップセットまたはセンサハブなどの機能構成としてもよい。
動作制御部210は、状態判定部215により電子機器1Aが手持ちされていると判定された場合、顔認証処理部223による認証結果に基づいてシステムを待機状態に遷移させるための待機信号を出力する制御処理の実行を保留する。即ち、電子機器1Aが手持ちされている状態では、図11に示す顔認証により待機状態に制御する待機状態制御処理の実行が保留される。
図13は、本実施形態に係る待機状態制御処理を保留する処理の一例を示すフローチャートである。
(ステップS301)状態判定部215は、加速度センサ130の検出信号を取得し、電子機器1Aの動きの状態をモニタリングする。そして、ステップS303の処理へ進む。
(ステップS303)状態判定部215は、加速度センサ130の検出信号に基づいてモニタリングしている電子機器1Aの動きに基づいて、電子機器1Aが手持ちされているか否かを判定する。状態判定部215は、電子機器1Aが手持ちされていると判定した場合(YES)、ステップS305の処理へ進む。一方、状態判定部215は、電子機器1Aが手持ちされていないと判定した場合(NO)、ステップS301の処理へ戻り、電子機器1Aの動きの状態をモニタリングする。
(ステップS305)動作制御部210は、状態判定部215により電子機器1Aが手持ちされていると判定された場合、顔認証により待機状態制御処理(図11参照)の実行を一時的に保留する。そして、ステップS307の処理へ進む。
(ステップS307)動作制御部210は、予め設定された待機時間の計時を行い、当該待機時間が経過するまでの期間、待機状態制御処理の実行を保留した状態を継続する。そして、動作制御部210は、待機時間が経過した場合、待機状態制御処理の実行の保留を解除し、ステップS301の処理へ戻る。
このように、本実施形態に係る電子機器1Aは、電子機器1Aの動きを検出する加速度センサ130(センサの一例)を用いて電子機器1が手持ちされているか否かを判定する判定処理を行う状態判定部215(例えば、EC200)をさらに備えている。そして、動作制御部210は、状態判定部215により電子機器1Aが手持ちされていると判定された場合、顔検出部220の顔認証処理による認証結果に基づいてシステムを待機状態に遷移させるための情報を出力する待機状態制御処理の実行を保留する。
これにより、電子機器1は、手持ちされている状態では、ユーザの顔を安定的に正面から撮像し続けることが難しいため、顔認証が正しくされずに待機状態に遷移してしまうことを防ぐことができる。
以上、この発明の各実施形態について図面を参照して詳述してきたが、具体的な構成は上述の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。例えば、上述の各実施形態において説明した各構成は、任意に組み合わせることができる。
また、上記実施形態では、電子機器1に撮像部120が内蔵されている構成例を説明したが、これに限られるものではない。例えば、撮像部120は、電子機器1に内蔵されていなくてもよく、電子機器1の外部アクセサリとして電子機器1(例えば、側面10a、10b、10c等のいずれか)に取り付け可能に構成され、無線または有線で電子機器1と通信接続されるものであってもよい。
また、電子機器1は、物体までの距離を検出する距離センサ(例えば、近接センサなど)を併用して前方に存在する人物を検出してもよい。例えば、距離センサは、第1筐体10の内面側に設けられ、第1筐体10の内面に対面する方向(前方)の検出範囲内に存在する物体(例えば、人物)を検出する。一例として、距離センサは、赤外線を発光する発光部と、発光した赤外線が物体の表面に反射して戻ってくる反射光を受光する受光部とを含んで構成される赤外線距離センサであってもよい。なお、距離センサは、発光ダイオードが発光する赤外線を用いたセンサであってもよいし、発光ダイオードが発光する赤外線よりも波長帯域が狭い光線を発光する赤外線レーザを用いたセンサであってもよい。また、距離センサは、赤外線距離センサに限定されるものでなく、物体との距離を検出するセンサであれば、超音波センサまたはUWB(Ultra Wide Band)レーダを用いたセンサ等の他の方式を用いたセンサであってもよい。また、距離センサも、電子機器1に内蔵されていなくてもよく、電子機器1の外部アクセサリとして電子機器1(例えば、側面10a、10b、10c等のいずれか)に取り付け可能に構成され、無線または有線で電子機器1と通信接続されるものであってもよい。また、撮像部120と距離センサとが一体に構成されてもよい。例えば、これらの距離センサは、顔認証処理の際に用いられてもよい。
また、上記実施形態では、顔検出部220がEC200とは別に備えられている例を示したが、顔検出部220の一部または全部をEC200が備える構成としてもよいし、顔検出部220の一部または全部とEC200とが1つのパッケージで構成されてもよい。また、顔検出部220の一部または全部をシステム処理部300が備える構成としてもよいし、顔検出部220の一部または全部とシステム処理部300の一部または全部とが1つのパッケージで構成されてもよい。また、動作制御部210の一部または全部は、EC200以外の処理部(例えば、システム処理部300)の機能構成としてもよい。
なお、上述した電子機器1は、内部にコンピュータシステムを有している。そして、上述した電子機器1が備える各構成の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより上述した電子機器1が備える各構成における処理を行ってもよい。ここで、「記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行する」とは、コンピュータシステムにプログラムをインストールすることを含む。ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、インターネットやWAN、LAN、専用回線等の通信回線を含むネットワークを介して接続された複数のコンピュータ装置を含んでもよい。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。このように、プログラムを記憶した記録媒体は、CD-ROM等の非一過性の記録媒体であってもよい。
また、記録媒体には、当該プログラムを配信するために配信サーバからアクセス可能な内部又は外部に設けられた記録媒体も含まれる。なお、プログラムを複数に分割し、それぞれ異なるタイミングでダウンロードした後に電子機器1が備える各構成で合体される構成や、分割されたプログラムのそれぞれを配信する配信サーバが異なっていてもよい。さらに「コンピュータ読み取り可能な記録媒体」とは、ネットワークを介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、上述した機能の一部を実現するためのものであってもよい。さらに、上述した機能をコンピュータシステムに既に記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
また、上述した実施形態における電子機器1が備える各機能の一部、または全部を、LSI(Large Scale Integration)等の集積回路として実現してもよい。各機能は個別にプロセッサ化してもよいし、一部、又は全部を集積してプロセッサ化してもよい。また、集積回路化の手法はLSIに限らず専用回路、または汎用プロセッサで実現してもよい。また、半導体技術の進歩によりLSIに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いてもよい。
なお、電子機器1は、ノート型のPCに限られるものではなく、デスクトップ型PC、タブレット端末装置、スマートフォンなどであってもよい。さらに、電子機器1は、PC、タブレット端末装置、スマートフォンなどに限られるものではなく、家庭用電気製品や業務用電気製品にも適用できる。家庭用電気製品としては、テレビや、表示部が備えられた冷蔵庫、電子レンジ等に適用できる。例えば、人物の接近または離脱に応じて、テレビの画面のON/OFFを制御すること、或いは、冷蔵庫や電子レンジ等の表示部の画面のON/OFFを制御することができる。また、業務用電気製品としては、自動販売機や、マルチメディア端末等に適用できる。例えば、人物の接近または離脱に応じて、自動販売機の照明のON/OFFなど、或いは、マルチメディア端末の表示部の画面のON/OFFなどのように動作状態を制御することができる。
1(1A) 電子機器、10 第1筐体、20 第2筐体、15 ヒンジ機構、110 表示部、120 撮像部、121 第1カメラ、122 第2カメラ、130 加速度センサ、140 電源ボタン、150 入力デバイス、151 キーボード、153 タッチパッド、160 映像出力端子、200 EC、210 動作制御部、215 状態判定部、220 顔検出部、221 顔検出処理部、222 検出領域設定部、223 顔認証処理部、224 HPD処理部、300 システム処理部、302 CPU、304 GPU、306 メモリコントローラ、308 I/Oコントローラ、310 システムメモリ、320 ユーザ認証部、350 通信部、360 記憶部、400 電源部

Claims (12)

  1. 撮像装置で撮像された画像の画像データを一時的に記憶するメモリと、
    システムのプログラムに基づくシステム処理及び前記画像データを用いた処理を実行するプロセッサと、を備え、
    前記プロセッサは、
    前記メモリに記憶された画像データの前記画像の中から顔が撮像されている顔領域を、第1の検出精度で検出する第1検出モードと前記第1の検出精度よりも高い第2の検出精度で検出する第2検出モードとを有する顔検出処理と、
    前記顔検出処理により前記第2検出モードで前記顔領域が検出された場合、検出された前記顔領域に基づく第1領域を設定する第1領域設定処理と、
    前記顔検出処理により検出された前記顔領域が前記第1領域外の第2領域になった場合、前記第2領域に検出された前記顔領域に基づいて顔認証する顔認証処理と、
    前記顔認証処理による認証結果に基づいてシステムを待機状態に遷移させる待機状態制御処理と、
    を行う電子機器。
  2. 撮像装置で撮像された画像の画像データを一時的に記憶するメモリと、
    システムのプログラムに基づくシステム処理及び前記画像データを用いた処理を実行するプロセッサと、を備え、
    前記プロセッサは、
    前記メモリに記憶された画像データの前記画像の中から顔らしさの評価値が第1閾値以上の領域を顔領域として検出する顔検出処理と、
    前記顔検出処理により前記評価値が前記第1閾値よりも高い第2閾値以上となる前記顔領域が検出された場合、検出された前記顔領域に基づく第1領域を設定する第1領域設定処理と、
    前記顔検出処理により検出された前記顔領域が前記第1領域外の第2領域になった場合、前記第2領域に検出された前記顔領域に基づいて顔認証する顔認証処理と、
    前記顔認証処理による認証結果に基づいてシステムを待機状態に遷移させる待機状態制御処理と、
    を行う電子機器。
  3. 前記プロセッサは、
    前記顔検出処理において複数の前記顔領域が検出された場合、複数の前記顔領域のうちの一つに基づいて、前記第1領域設定処理及び前記顔認証処理を行う、
    請求項1または請求項2に記載の電子機器。
  4. 前記プロセッサは、
    複数の前記顔領域のうち最も大きい顔領域に基づいて、前記第1領域設定処理及び前記顔認証処理を行う、
    請求項3に記載の電子機器。
  5. 前記プロセッサは、
    複数の前記顔領域のうち前記画像の中央に最も近い顔領域に基づいて、前記第1領域設定処理及び前記顔認証処理を行う、
    請求項3に記載の電子機器。
  6. 前記プロセッサは、
    前記第1領域設定処理において前記第1領域を設定した後、前記顔検出処理により検出された前記顔領域の位置または大きさの変化に応じて、前記第1領域の位置または大きさを変更する、
    請求項1または請求項2に記載の電子機器。
  7. 前記プロセッサは、
    前記第1領域設定処理において、前記顔検出処理により検出された前記顔領域が前記第2領域になったことに基づいて前記第1領域を解除する、
    請求項1または請求項2に記載の電子機器。
  8. 前記プロセッサは、
    前記第1領域設定処理において、前記顔認証処理により前記第2領域に検出された前記顔領域に基づいて顔認証した認証結果が認証成功になったことに基づいて、前記第2領域に検出された前記顔領域に基づいて前記第1領域を再設定する、
    請求項1または請求項2に記載の電子機器。
  9. 前記電子機器の動きを検出するセンサをさらに備え、
    前記プロセッサは、
    前記センサを用いて前記電子機器が手持ちされているか否かを判定する判定処理をさらに行い、
    前記判定処理により前記電子機器が手持ちされていると判定された場合、前記顔認証処理による認証結果に基づいてシステムを待機状態に遷移させるための情報を出力する前記待機状態制御処理の実行を保留する、
    請求項1または請求項2に記載の電子機器。
  10. 前記撮像装置は、
    可視光線を撮像する第1撮像素子と赤外線を撮像する第2撮像素子とを備え、
    前記第1検出モードは、前記第1撮像素子と前記第2撮像素子のうち前記第1撮像素子のみを用いて撮像する検出モードであり、前記第2検出モードは、少なくとも前記第2撮像素子を用いて撮像する検出モードである、
    請求項1に記載の電子機器。
  11. 撮像装置で撮像された画像の画像データを一時的に記憶するメモリと、システムのプログラムに基づくシステム処理及び前記画像データを用いた処理を実行するプロセッサとを備える電子機器における制御方法であって、
    前記プロセッサが、
    前記メモリに記憶された画像データの前記画像の中から顔が撮像されている顔領域を、第1の検出精度で検出する第1検出モードと前記第1の検出精度よりも高い第2の検出精度で検出する第2検出モードとを有する顔検出ステップと、
    前記顔検出ステップにより前記第2検出モードで前記顔領域が検出された場合、検出された前記顔領域に基づく第1領域を設定する第1領域設定ステップと、
    前記顔検出ステップにより検出された前記顔領域が前記第1領域外の第2領域になった場合、前記第2領域に検出された前記顔領域に基づいて顔認証する顔認証ステップと、
    前記顔認証ステップによる認証結果に基づいてシステムを待機状態に遷移させる待機状態制御ステップと、
    を含む制御方法。
  12. 撮像装置で撮像された画像の画像データを一時的に記憶するメモリと、システムのプログラムに基づくシステム処理及び前記画像データを用いた処理を実行するプロセッサとを備える電子機器における制御方法であって、
    前記プロセッサが、
    前記メモリに記憶された画像データの前記画像の中から顔らしさの評価値が第1閾値以上の領域を顔領域として検出する顔検出ステップと、
    前記顔検出ステップにより前記評価値が前記第1閾値よりも高い第2閾値以上となる前記顔領域が検出された場合、検出された前記顔領域に基づく第1領域を設定する第1領域設定ステップと、
    前記顔検出ステップにより検出された前記顔領域が前記第1領域外の第2領域になった場合、前記第2領域に検出された前記顔領域に基づいて顔認証する顔認証ステップと、
    前記顔認証ステップによる認証結果に基づいてシステムを待機状態に遷移させる待機状態制御ステップと、
    を含む制御方法。
JP2023025183A 2023-02-21 2023-02-21 電子機器、及び制御方法 Active JP7474888B1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2023025183A JP7474888B1 (ja) 2023-02-21 2023-02-21 電子機器、及び制御方法
US18/430,929 US20240282141A1 (en) 2023-02-21 2024-02-02 Electronic apparatus and control method
CN202410192612.9A CN118540571A (zh) 2023-02-21 2024-02-21 电子设备以及控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2023025183A JP7474888B1 (ja) 2023-02-21 2023-02-21 電子機器、及び制御方法

Publications (2)

Publication Number Publication Date
JP7474888B1 true JP7474888B1 (ja) 2024-04-25
JP2024118737A JP2024118737A (ja) 2024-09-02

Family

ID=90735719

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023025183A Active JP7474888B1 (ja) 2023-02-21 2023-02-21 電子機器、及び制御方法

Country Status (3)

Country Link
US (1) US20240282141A1 (ja)
JP (1) JP7474888B1 (ja)
CN (1) CN118540571A (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021215015A1 (ja) 2020-04-24 2021-10-28 富士通株式会社 認証装置、認証方法及び認証プログラム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021215015A1 (ja) 2020-04-24 2021-10-28 富士通株式会社 認証装置、認証方法及び認証プログラム

Also Published As

Publication number Publication date
US20240282141A1 (en) 2024-08-22
CN118540571A (zh) 2024-08-23
JP2024118737A (ja) 2024-09-02

Similar Documents

Publication Publication Date Title
US11669142B2 (en) Electronic apparatus and control method that accurately detect human faces
JP2020187092A (ja) 電子機器、制御方法、及びプログラム
JP6720283B2 (ja) 電子機器、制御方法、及びプログラム
JP7114651B2 (ja) 電子機器、及び制御方法
JP6751432B2 (ja) 電子機器、制御方法、及びプログラム
US20220366721A1 (en) Electronic apparatus and control method
US20220366722A1 (en) Electronic apparatus and control method
JP7474888B1 (ja) 電子機器、及び制御方法
CN113900154B (zh) 电子设备、以及控制方法
JP6710267B1 (ja) 情報処理装置、制御方法、及びプログラム
JP7218421B1 (ja) 電子機器、及び制御方法
US12086628B2 (en) Electronic apparatus and control method
JP7223833B1 (ja) 電子機器、及び制御方法
JP7480371B1 (ja) 情報処理装置、及び制御方法
US20240184347A1 (en) Information processing apparatus and control method
JP7368523B2 (ja) 情報処理装置、及び制御方法
JP7421603B1 (ja) 情報処理装置、及び制御方法
US20230289195A1 (en) Information processing apparatus and control method
JP2021135870A (ja) 電子機器、及び制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230221

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20230427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240415

R150 Certificate of patent or registration of utility model

Ref document number: 7474888

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150