JP7218397B2 - 電子機器、及び制御方法 - Google Patents

電子機器、及び制御方法 Download PDF

Info

Publication number
JP7218397B2
JP7218397B2 JP2021080886A JP2021080886A JP7218397B2 JP 7218397 B2 JP7218397 B2 JP 7218397B2 JP 2021080886 A JP2021080886 A JP 2021080886A JP 2021080886 A JP2021080886 A JP 2021080886A JP 7218397 B2 JP7218397 B2 JP 7218397B2
Authority
JP
Japan
Prior art keywords
face
electronic device
image data
determination unit
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021080886A
Other languages
English (en)
Other versions
JP2022174875A (ja
Inventor
和宏 小杉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Lenovo Singapore Pte Ltd
Original Assignee
Lenovo Singapore Pte Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Lenovo Singapore Pte Ltd filed Critical Lenovo Singapore Pte Ltd
Priority to JP2021080886A priority Critical patent/JP7218397B2/ja
Priority to US17/696,325 priority patent/US20220366721A1/en
Priority to CN202210378348.9A priority patent/CN115346254A/zh
Publication of JP2022174875A publication Critical patent/JP2022174875A/ja
Application granted granted Critical
Publication of JP7218397B2 publication Critical patent/JP7218397B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • G06V40/176Dynamic expression
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/40Spoof detection, e.g. liveness detection

Description

本発明は、電子機器、及び制御方法に関する。
人物が近づくと使用可能な状態に遷移し、人物が離れると一部の機能を除いて停止した待機状態に遷移する電子機器がある。例えば、特許文献1には、赤外線センサを用いて、人物が近づいてきたか否か、或いは人物が遠ざかったか否かを検出している。
近年、コンピュータビジョンなどの発展により、画像から顔を検出する際の検出精度が高くなってきている。そのため、赤外線センサによる人物の検出に代えて、顔検出が利用され始めている。赤外線センサを用いる場合には人物であっても人物以外の物体であっても赤外線が反射して戻ってきてしまうが、顔検出を利用することで、単なる物体を人物と間違えて検出してしまうことを防止できる。
特開2016-148895号公報
しかしながら、顔検出を利用する場合でも、人物が写っている写真やポスターなどの顔が検出されてしまうことにより、電子機器を使用する人物が存在しないのに存在するものと誤検出してしまうおそれがある。
本発明は、上記した事情に鑑みてなされたもので、使用する人物を精度よく検出する電子機器、及び制御方法を提供することを目的の一つとする。
本発明は上記の課題を解決するためになされたものであり、本発明の第1態様に係る電子機器は、撮像装置で撮像された画像の画像データを一時的に記憶するメモリと、前記メモリに記憶された画像データを処理するプロセッサと、を備え、前記プロセッサは、前記撮像装置によって所定の時間間隔で撮像され前記メモリに記憶された複数の画像の画像データを処理して、前記複数の画像の中から顔が撮像されている顔領域を検出する顔検出部と、前記複数の画像の中から検出された前記顔領域の位置の変化量を算出し、撮像された顔に前記所定の時間間隔において動きがあるか否かを前記変化量に基づいて判定する動き判定部と、前記動き判定部により顔に動きがあると判定された場合、ユーザが存在すると判定する人物判定部と、を備える。
上記電子機器において、前記人物判定部は、前記撮像された顔に動きがないと前記動き判定部により判定された場合、当該顔がユーザの顔ではないと判定し、ユーザが存在しないと判定してもよい。
上記電子機器において、前記動き判定部は、前記画像のそれぞれから検出された顔のうち、前記動き判定部により動きがないと判定された顔の領域を登録し、以降、登録した領域を判定の対象から除外してもよい。
上記電子機器は、前記電子機器の動きを検出するセンサをさらに備え、前記動き判定部は、前記センサを用いて前記電子機器が動いたことが検出された場合、登録した領域を判定の対象に戻してもよい。
上記電子機器において、前記画像データは第1の解像度の画像データを含み、前記顔検出部は、前記第1の解像度の画像データを処理して前記顔領域を検出する低解像度モードを実行し、前記動き判定部は、前記顔検出部によって前記低解像度モードで検出された前記顔領域に基づいて、当該顔に動きがあるか否かを判定してもよい。
上記電子機器において、前記画像データは前記第1の解像度よりも高解像度の第2解像度の画像データを含み、前記顔検出部は、前記第1の解像度の画像データを処理して検出された顔に動きがないと前記動き判定部により判定された場合、前記第2解像度の画像データを処理して前記顔領域を検出する高解像度モードを実行し、前記動き判定部は、前記顔検出部により前記高解像度モードで検出された前記顔領域に基づいて、当該顔に動きがあるか否かを判定してもよい。
上記電子機器において、前記顔検出部は、前記高解像度モードで前記顔領域が検出されなくなった場合、前記低解像度モードで前記顔領域の検出を実行してもよい。
上記電子機器は、システムに基づくシステム処理を実行する処理部と、前記人物判定部によりユーザが存在すると判定されている状態からユーザが存在しないと判定されている状態へと遷移した場合、前記システムの動作状態を前記システム処理の少なくとも一部が制限された動作状態へ遷移させる動作制御部と、をさらに備えてもよい。
また、本発明の第2態様に係る、撮像装置で撮像された画像の画像データを一時的に記憶するメモリと、前記メモリに記憶された画像データを処理するプロセッサとを備える電子機器の制御方法は、前記プロセッサにおいて、顔検出部が、前記撮像装置によって所定の時間間隔で撮像され前記メモリに記憶された複数の画像の画像データを処理して、前記複数の画像の中から顔が撮像されている顔領域を検出するステップと、動き判定部が、前記複数の画像の中から検出された前記顔領域の位置の変化量を算出し、撮像された顔に前記所定の時間間隔において動きがあるか否かを前記変化量に基づいて判定するステップと、人物判定部が、前記動き判定部により顔に動きがあると判定された場合、ユーザが存在すると判定するステップと、を含む。
本発明の上記態様によれば、電子機器を使用する人物を精度よく検出することができる。
第1の実施形態に係る電子機器のHPD処理の概要を説明する図。 撮像画像の一例を示す図。 撮像画像の別の例を示す図。 顔の動きの有無の比較を示す図。 第1の実施形態に係る電子機器の外観の構成例を示す斜視図。 第1の実施形態に係る電子機器の構成例を示す概略ブロック図。 第1の実施形態に係る人物検出部の構成の一例を示すブロック図。 第1の実施形態に係るが顔の動きの検出に使用する撮像画像の一例を示す図。 第1の実施形態に係るHPD処理の一例を示すフローチャート。 第1の実施形態に係る判定領域リセット処理の一例を示すフローチャート。 第1の実施形態に係る起動処理の一例を示すフローチャート。 第1の実施形態に係る待機状態遷移処理の一例を示すフローチャート。 低解像度モードにおける人物検出結果の一例を示す図。 第2の実施形態に係るHPD処理の一例を示すフローチャート。
以下、図面を参照して、本発明の実施形態について説明する。
<第1の実施形態>
[概要]
まず、第1の実施形態に係る電子機器1の概要について説明する。本実施形態に係る電子機器1は、例えば、ノートブック型のPC(Personal Computer;パーソナルコンピュータ)である。なお、電子機器1は、デスクトップ型PC、タブレット端末装置、スマートフォンなど、いずれの形態の電子機器であってもよい。
電子機器1は、システムの動作状態として少なくとも通常動作状態(パワーオン状態)と待機状態との間を遷移可能である。通常動作状態とは、特に制限なく処理の実行が可能な動作状態であり、例えば、ACPI(Advanced Configuration and Power Interface)で規定されているS0状態に相当する。待機状態とは、システム処理の少なくとも一部が制限されている状態である。例えば、待機状態は、スタンバイ状態、スリープ状態等であってもよく、Windows(登録商標)におけるモダンスタンバイや、ACPIで規定されているS3状態(スリープ状態)等に相当する状態であってもよい。例えば、待機状態は、通常動作状態よりも電力の消費量が低い動作状態である。
以下では、システムの動作状態が待機状態から通常動作状態へ遷移することを起動と呼ぶことがある。待機状態では、一般的に通常動作状態よりも動作の活性度が低いため、電子機器1のシステムを起動させることは、電子機器1におけるシステムの動作を活性化させることになる。
図1は、本実施形態に係る電子機器1のHPD処理の概要を説明する図である。電子機器1は、電子機器1の近傍に存在する人物(即ちユーザ)を検出する。この人物の存在を検出する処理のことを、HPD(Human Presence Detection)処理と称する。電子機器1は、HPD処理により人物の存在の有無を検出し、検出結果に基づいて電子機器1のシステムの動作状態を制御する。例えば、電子機器1は、図1(A)に示すように、電子機器1の前(正面)に人物が存在しない状態(Absence)から存在する状態(Presence)への変化、即ち電子機器1へ人物が接近したこと(Approach)を検出した場合、ユーザが接近したと判定し、自動でシステムを起動して通常動作状態へ遷移させる。また、電子機器1は、図1(B)に示すように、電子機器1の前に人物が存在している状態(Presence)では、ユーザが存在すると判定し、通常動作状態を継続させる。そして、電子機器1は、図1(C)に示すように、電子機器1の前(正面)に人物が存在している状態(Presence)から存在しない状態(Absence)への変化、即ち電子機器1から人物が離脱したこと(Leave)を検出した場合には、ユーザが離脱したと判定し、システムを待機状態へ遷移させる。
例えば、電子機器1は、前方(正面側)を撮像した撮像画像から顔が撮像されている顔領域を検出することにより、電子機器1の前(正面)にユーザが存在するか否かを判定する。電子機器1は、撮像画像から顔領域が検出された場合、ユーザが存在すると判定する。一方、電子機器1は、撮像画像から顔領域が検出されなかった場合、ユーザが存在しないと判定する。ここで、ユーザが電子機器1を使用しているときに、ユーザの後方に人物が写っている写真又はポスターなどが存在する使用状況がある。この使用状況において、電子機器1が前方(正面側)を撮像すると図2に示すような撮像画像が得られる。
図2は、撮像画像の一例を示す図である。図示する撮像画像G1には、電子機器1の正面に存在するユーザUの画像と、人物が写っているポスターPの画像とが含まれる。電子機器1は、撮像画像G1からユーザUの顔とポスターPの顔との2つの顔領域を検出する。検出領域FD1は、撮像画像G1から検出されたユーザUの顔領域を示している。また、検出領域FD2は、撮像画像G1から検出されたポスターPの顔領域を示している。検出領域FD1の方が検出領域FD2よりも大きいため、電子機器1は、ユーザUの顔を一人目の人物の顔(メインの人物の顔)として検出し、人物(即ちユーザ)が存在すると判定する。ここで、電子機器1は、ポスターPの顔を二人目の人物の顔(即ちユーザ以外の人物の顔)として検出したとすると、ポスターPの顔であるにもかかわらず人物が存在すると誤検出してしまうことになる。例えば、電子機器1が、後方から覗きこみしている他の人物の存在を検出する機能(Sholder surfing)を有する場合、ポスターPの顔を検出することにより、覗きこみしている他の人物が存在すると誤検出してしまう可能性がある。
図3は、撮像画像の別の例を示す図である。図示する撮像画像G2は、図2に示す撮像画像G1に写っている状況からユーザUが居なくなった(離脱した)状況で得られる撮像画像の一例を示している。この例では、電子機器1は、撮像画像G2からポスターPの顔のみを検出する。この場合、電子機器1は、ポスターPの顔であるにもかかわらず人物が存在する(即ちユーザが存在する)と誤検出してしまう可能性がある。
そこで、本実施形態に係る電子機器1は、ポスターPの顔であるか或いはユーザUの顔であるかを判別するために、撮像画像から検出された顔に動きがあるか否かを判定する。
図4は、顔の動きの有無の比較を示す図である。この図では、時刻t(1)、時刻t(2)、時刻t(3)、及び時刻t(4)のそれぞれの撮像画像から検出された顔領域を、画像G3に示している。時刻t(1)、時刻t(2)、時刻t(3)、及び時刻t(4)のそれぞれの撮像画像は、所定の時間間隔(例えば、15秒間隔、10秒間隔など)で撮像部120により撮像された画像である。画像G3に示すように、ユーザUは完全に静止している状態が継続することは少ない。そのため、時刻t(1)、時刻t(2)、時刻t(3)、及び時刻t(4)のそれぞれにおけるユーザUの顔の検出領域FD1には差が生じる。一方、ポスターPは完全に静止しているため、時刻t(1)、時刻t(2)、時刻t(3)、及び時刻t(4)のそれぞれにおけるポスターPの顔の検出領域FD2は一致する。電子機器1は、撮像画像から検出された顔に動きがある場合にはユーザUが存在すると判定する。一方、電子機器1は、撮像画像から検出された顔に動きが無い場合には、写真又はポスターなどに写っている人物の顔であるとして、ユーザUは存在しないと判定する。これにより、電子機器1を使用する人物(即ちユーザ)をより精度よく検出することができる。
次に、本実施形態に係る電子機器1の構成について詳しく説明する。
[電子機器の外観構成]
図5は、本実施形態に係る電子機器1の外観の構成例を示す斜視図である。
電子機器1は、第1筐体10、第2筐体20、及びヒンジ機構15を備える。第1筐体10と第2筐体20は、ヒンジ機構15を用いて結合されている。第1筐体10は、第2筐体20に対して、ヒンジ機構15がなす回転軸の周りに相対的に回動可能である。第1筐体10と第2筐体20との回動による開き角を「θ」として図示している。
第1筐体10は、Aカバー、ディスプレイ筐体とも呼ばれる。第2筐体20は、Cカバー、システム筐体とも呼ばれる。以下の説明では、第1筐体10と第2筐体20の側面のうち、ヒンジ機構15が備わる面を、それぞれ側面10c、20cと呼ぶ。第1筐体10と第2筐体20の側面のうち、側面10c、20cとは反対側の面を、それぞれ側面10a、20aと呼ぶ。図示において、側面20aから側面20cに向かう方向を「後」と呼び、側面20cから側面20aに向かう方向を「前」と呼ぶ。後方に対して右方、左方を、それぞれ「右」、「左」と呼ぶ。第1筐体10、第2筐体20の左側面をそれぞれ側面10b、20bと呼び、右側面をそれぞれ側面10d、20dと呼ぶ。また、第1筐体10と第2筐体20とが重なり合って完全に閉じた状態(開き角θ=0°の状態)を「閉状態」と呼ぶ。閉状態において第1筐体10と第2筐体20との互いに対面する側の面を、それぞれの「内面」と呼び、内面に対して反対側の面を「外面」と呼ぶ。また、閉状態に対して第1筐体10と第2筐体20とが開いた状態のことを「開状態」と呼ぶ。
図5に示す電子機器1の外観は開状態の例を示している。開状態は、第1筐体10の側面10aと第2筐体20の側面20aとが離れた状態である。開状態では、第1筐体10と第2筐体20とのそれぞれの内面が表れる。開状態はユーザが電子機器1を使用する際の状態の一つであり、典型的には開き角θ=100~130°程度の状態で使用されることが多い。なお、開状態となる開き角θの範囲は、ヒンジ機構15よって回動可能な角度の範囲等に応じて任意に定めることができる。
第1筐体10の内面には、表示部110が設けられている。表示部110は、液晶ディスプレイ(LCD:Liquid Crystal Display)や有機EL(Electro Luminescence)ディスプレイなどを含んで構成されている。また、第1筐体10の内面のうち表示部110の周縁の領域に、撮像部120が設けられている。例えば、撮像部120は、表示部110の周縁の領域のうち側面20a側に配置されている。なお、撮像部120が配置される位置は一例であって、第1筐体10の内面に対面する方向(前方)を向くことが可能であれば他の場所であってもよい。
撮像部120は、開状態において、第1筐体10の内面に対面する方向(前方)の所定の撮像範囲を撮像する。所定の撮像範囲とは、撮像部120が有する撮像素子と撮像素子の撮像面の前方に設けられた光学レンズとによって定まる画角の範囲である。例えば、撮像部120は、電子機器1の前(正面)に存在する人物を含む画像を撮像することができる。
また、第2筐体20の側面20bには、電源ボタン140が設けられている。電源ボタン140は、システムの起動(待機状態から通常動作状態へ遷移)や、通常動作状態から待機状態への遷移をユーザが指示するための操作子である。また、第2筐体20の内面には、キーボード151及びタッチパッド153が入力デバイスとして設けられている。なお、入力デバイスとして、キーボード151及びタッチパッド153に代えて、または加えて、タッチセンサが含まれてもよいし、マウスや外付けのキーボードが接続されてもよい。タッチセンサが設けられた構成の場合、表示部110の表示面に対応する領域が操作を受け付けるタッチパネルとして構成されてもよい。また、入力デバイスには、音声が入力されるマイクが含まれてもよい。
なお、第1筐体10と第2筐体20とが閉じた閉状態では、第1筐体10の内面に設けられている表示部110、及び撮像部120と、第2筐体20の内面に設けられているキーボード151及びタッチパッド153は、互いに他方の筐体面で覆われ、機能を発揮できない状態となる。
[電子機器の構成]
図6は、本実施形態に係る電子機器1の構成例を示す概略ブロック図である。電子機器1は、表示部110、撮像部120、加速度センサ130、電源ボタン140、入力デバイス150、EC(Embedded Controller)200、人物検出部210、システム処理部300、通信部350、記憶部360、及び電源部400を含んで構成される。表示部110は、システム処理部300により実行されるシステム処理及びシステム処理上で動作するアプリケーションプログラムの処理等に基づいて生成された表示データ(画像)を表示する。
撮像部120は、第1筐体10の内面に対面する方向(前方)の所定の画角内の物体の像を撮像し、撮像した画像をシステム処理部300及び人物検出部210へ出力する。撮像部120は、赤外線カメラであってもよいし、通常のカメラであってもよい。赤外線カメラは、撮像素子として赤外線センサを備えるカメラである。通常のカメラは、撮像素子として可視光線を受光する可視光センサを備えるカメラ(例えば、RGBカメラ)である。なお、通常のカメラの場合、顔検出に用いる際の撮像画像は、色数を低減した画像(例えば、モノクローム画像)としてもよい。
加速度センサ130は、電子機器1の動きを検出し、検出結果を示す検出信号をEC200へ出力する。例えば、加速度センサ130は、電子機器1が動かされたときや、電子機器1が手持ちされて不安定に動いているときなどには、その動きに応じて検出信号を出力する。なお、加速度センサ130に代えて又は加えて、ジャイロセンサ、傾斜センサ、地磁気センサなどが備えられてもよい。
電源ボタン140は、ユーザの操作に応じて操作信号をEC200へ出力する。入力デバイス150は、ユーザの入力を受け付ける入力部であり、例えばキーボード151及びタッチパッド153を含んで構成されている。入力デバイス150は、キーボード151及びタッチパッド153に対する操作を受け付けることに応じて、操作内容を示す操作信号をEC200へ出力する。
電源部400は、電子機器1の各部の動作状態に応じて各部へ電力を供給するための電源系統を介して電力を供給する。電源部400は、DC(Direct Current)/DCコンバータを備える。DC/DCコンバータは、AC(Alternate Current)/DCアダプタもしくは電池パックから供給される直流電力の電圧を、各部で要求される電圧に変換する。DC/DCコンバータで電圧が変換された電力が各電源系統を介して各部へ供給される。例えば、電源部400は、EC200から入力される各部の動作状態に応じた制御信号に基づいて各電源系統を介して各部に電力を供給する。
EC200は、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)およびI/O(Input/Output)ロジック回路などを含んで構成されたマイクロコンピュータである。EC200のCPUは、自部のROMに予め記憶した制御プログラム(ファームウェア)を読み出し、読み出した制御プログラムを実行して、その機能を発揮する。EC200は、システム処理部300とは独立に動作し、システム処理部300の動作を制御し、その動作状態を管理する。また、EC200は、加速度センサ130、電源ボタン140、入力デバイス150、人物検出部210、及び電源部400等と接続されている。
例えば、EC200は、電源部400と通信を行うことにより、バッテリーの状態(残容量など)の情報を電源部400から取得するとともに、電子機器1の各部の動作状態に応じた電力の供給を制御するための制御信号などを電源部400へ出力する。また、EC200は、電源ボタン140や入力デバイス150から操作信号を取得し、取得した操作信号のうちシステム処理部300の処理に関連する操作信号についてはシステム処理部300へ出力する。また、EC200は、加速度センサ130からの検出信号に基づいて、電子機器1の動きを検出する。例えば、EC200は、加速度センサ130からの検出信号に基づいて、電子機器1が静止している状態であるか、或いは動いている状態であるかなどを検出する。また、EC200は、人物検出部210による検出結果に基づいてシステムの動作を制御する動作制御部220を備えている。
人物検出部210は、撮像部120により撮像された撮像画像の画像データを処理するプロセッサである。例えば、人物検出部210は、撮像部120により撮像された撮像画像を、システム処理部300を介して取得する。なお、人物検出部210は、撮像部120により撮像された撮像画像を撮像部120から直接的に取得してもよい。人物検出部210は、撮像画像から顔領域を検出することによりユーザの存在を検出し、検出結果に基づいてHPD処理を実行する。
人物検出部210は、撮像部120により撮像された撮像画像から顔領域を検出することにより、電子機器1の前方にユーザが存在するか否かを検出する。例えば、人物検出部210は、電子機器1へユーザが接近した場合、電子機器1の前方にユーザが存在してない状態から存在する状態へ検出状態が変化する。また、人物検出部210は、電子機器1の前でユーザが電子機器1を使用している場合、電子機器1の前方にユーザが存在している状態を継続して検出する。また、人物検出部210は、電子機器1からユーザが離脱した場合、電子機器1の前方にユーザが存在している状態から存在しない状態へ検出状態が変化する。このように、人物検出部210は、電子機器1の前方にユーザが存在するか否かを検出することにより、電子機器1へユーザが接近したこと(Approach)、電子機器1の前にユーザが存在する状態(Presence)、電子機器1からユーザが離脱したこと(Leave)、電子機器1の前にユーザが存在しない状態(Absence)等を検出することが可能である。この人物検出部210の構成について詳しくは後述する。
動作制御部220は、HPD処理に応じてシステムの動作状態を制御する。例えば、動作制御部220は、待機状態において、人物検出部210により電子機器1の前方にユーザが存在してない状態から存在する状態への変化(即ち、電子機器1へのユーザの接近)が検出された場合、待機状態のシステムを起動させる。具体的には、動作制御部220は、人物検出部210により電子機器1へのユーザの接近が検出された場合、システムを起動させる指示をシステム処理部300へ行う。より具体的には、動作制御部220は、システムを起動させる場合、電源部400に対して、電子機器1の各部の動作に必要な電力を供給するための制御信号を出力する。その後、動作制御部220は、システム処理部300にシステムの起動を指示するための起動信号を出力する。システム処理部300は、起動信号を取得すると、システムを起動して待機状態から通常動作状態へ遷移させる。
また、動作制御部220は、人物検出部210により電子機器1の前方にユーザが存在している状態が継続して検出されている場合、システム処理部300によりシステムを待機状態に遷移させないように制限し、通常動作状態を継続させる。なお、動作制御部220は、人物検出部210によりユーザが存在している状態が継続して検出されている場合であっても、所定の条件によって通常動作状態から待機状態へ遷移させてもよい。所定の条件とは、例えば、無操作の時間が予め設定された時間継続すること、待機状態へ遷移させる操作が行われること等である。
また、動作制御部220は、通常動作において、人物検出部210により電子機器1の前方にユーザが存在している状態から存在しない状態への変化(即ち、電子機器1からのユーザの離脱)を検出した場合、システムを通常動作状態から待機状態へ遷移させる指示をシステム処理部300へ行う。より具体的には、動作制御部220は、システム処理部300にシステムを通常動作状態から待機状態へ遷移させる指示をするための待機信号を出力する。システム処理部300は、待機信号を取得すると、システムを通常動作状態から待機状態へ遷移させる。その後、動作制御部220は、電源部400に対して、待機状態では不要な電力の供給を停止させるための制御信号を出力する。
システム処理部300は、CPU(Central Processing Unit)302、GPU(Graphic Processing Unit)304、メモリコントローラ306、I/O(Input-Output)コントローラ308、及びシステムメモリ310を含んで構成され、OS(Operating System)に基づくシステム処理によって、OS上で各種のアプリケーションプログラムの処理が実行可能である。CPU302とGPU304をプロセッサと総称することがある。
CPU302は、OSによる処理や、OS上で動作するアプリケーションプログラムによる処理を実行する。また、CPU302は、EC200(動作制御部220)によるシステムの動作状態の制御に基づいてシステムの動作状態を遷移させる。例えば、CPU302は、動作状態が待機状態であって、EC200から起動信号が入力された場合、待機状態から通常動作状態に遷移させる起動処理を実行する。CPU302は、起動処理が完了した後、OSに基づくシステム処理の実行を開始する。例えば、CPU302は、動作状態がスタンバイ状態であって、EC200から起動信号が入力されると、実行を停止していたアプリケーションプログラムなどの実行を再開する。
CPU302は、起動処理において、OSの利用を許可するか否かを判定するログイン処理を実行する。CPU302は、OSによる起動処理を開始すると、OSの利用を許可する前にログイン処理を実行し、ログイン処理でログインを許可するまで、通常動作状態への遷移を一旦停止する。ログイン処理では、電子機器1を使用する人物が予め登録された正規のユーザであるか否かを判定するユーザ認証処理が行われる。認証には、パスワード認証、顔認証、指紋認証などがある。CPU302は、認証結果が成功であった場合、ログインを許可し、一旦停止していたシステム処理の実行を再開する。一方、認証結果が失敗であった場合、ログインを許可せず、システム処理の実行を停止したままにする。
GPU304は、表示部110に接続されている。GPU304は、CPU302の制御に基づいて画像処理を実行して表示データを生成する。GPU304は、生成した表示データを表示部110に出力する。なお、CPU302とGPU304は、一体化して1個のコアとして形成されてもよいし、個々のコアとして形成されたCPU302とGPU304の相互間で負荷が分担されてもよい。プロセッサの数は、1個に限られず、複数個であってもよい。
メモリコントローラ306は、CPU302とGPU304によるシステムメモリ310、記憶部360などからのデータの読出し、書込みを制御する。
I/Oコントローラ308は、通信部350、表示部110およびEC200からのデータの入出力を制御する。
システムメモリ310は、プロセッサの実行プログラムの読み込み領域ならびに処理データを書き込む作業領域として用いられる。また、システムメモリ310は、撮像部120で撮像された撮像画像の画像データを一時的に記憶する。
通信部350は、無線または有線による通信ネットワークを介して他の機器と通信可能に接続し、各種のデータの送信および受信を行う。例えば、通信部350は、イーサネット(登録商標)等の有線LANインターフェースやWi-Fi(登録商標)等の無線LANインターフェース等を含んで構成されている。
記憶部360は、HDD(Hard Disk Drive)、SDD(Solid State Drive)、RAM、ROMなどの記憶媒体を含んで構成される。記憶部360は、OS、デバイスドライバ、アプリケーションなどの各種のプログラム、その他、プログラムの動作により取得した各種のデータを記憶する。
[人物検出部の構成]
次に、人物検出部210の構成について詳しく説明する。人物検出部210は、所定の時間間隔で撮像部120により撮像された撮像画像のそれぞれから顔領域を検出することにより電子機器1の前(正面)に存在するユーザを検出する。
図7は、本実施形態に係る人物検出部210の構成の一例を示すブロック図である。図示する、人物検出部210は、顔検出部211と、動き判定部212と、人物判定部213とを備えている。
顔検出部211は、所定の時間間隔で撮像された撮像画像のそれぞれから顔が撮像されている顔領域を検出する。例えば、顔検出部211は、撮像部120によって所定の時間間隔で撮像されシステムメモリ310に記憶された複数の画像の画像データを処理して、当該複数の画像の中から顔が撮像されている顔領域を検出する。顔の検出方法としては、顔の特徴情報を基に顔を検出する顔検出アルゴリズムや、顔の特徴情報を基に機械学習された学習データ(学習済みモデル)や顔検出ライブラリなどを用いた任意の検出方法を適用することができる。また、所定の時間間隔は、例えば15秒間隔または10秒間隔などとすることができるが、任意の時間間隔に設定することができる。なお、最短の時間間隔の場合には、連続するすべてのフレーム単位で検出することになる。顔検出部211は、撮像画像のそれぞれから顔領域を検出し、検出した顔領域と中心の座標を含む顔検出情報を出力する。
動き判定部212は、顔検出部211により複数の撮像画像から検出された顔領域に基づいて、当該顔に動きがあるか否かを判定する。例えば、動き判定部212は、所定期間にわたって所定の時間間隔で撮像された撮像画像のそれぞれから検出された顔領域に基づいて、当該顔に動きがあるか否かを判定する。具体的には、動き判定部212は、複数の撮像画像の中から検出された顔領域の位置の変化量を算出し、撮像された顔に所定の時間間隔において動きがあるか否かを当該変化量に基づいて判定する。
図8は、動き判定部212が顔の動きの検出に使用する撮像画像の一例を示す図である。時刻t(1)から時刻t(8)までの撮像画像を時系列順に並べて示している。例えば、動き判定部212は、過去の4フレーム分の撮像画像を用いて顔の動きを判定する。この場合、所定の期間は4フレーム分の期間に対応する。例えば、15秒間隔の撮像画像を用いる場合、上述の所定の期間(4フレーム分の期間)は45秒となる。
時刻t(4)の撮像画像を取得した時点で、動き判定部212は、時刻t(1)から時刻t(4)までの4フレーム分の撮像画像から検出された顔領域に基づいて顔の動きを判定する。時刻t(5)の撮像画像を取得した時点で、動き判定部212は、時刻t(2)から時刻t(5)までの4フレーム分の撮像画像から検出された顔領域に基づいて顔の動きを判定する。時刻t(6)の撮像画像を取得した時点で、動き判定部212は、時刻t(3)から時刻t(6)までの4フレーム分の撮像画像から検出された顔領域に基づいて顔の動きを判定する。時刻t(7)の撮像画像を取得した時点で、動き判定部212は、時刻t(4)から時刻t(7)までの4フレーム分の撮像画像から検出された顔領域に基づいて顔の動きを判定する。時刻t(8)の撮像画像を取得した時点で、動き判定部212は、時刻t(5)から時刻t(8)までの4フレーム分の撮像画像から検出された顔領域に基づいて顔の動きを判定する。
例えば、動き判定部212は、過去の4フレーム分の撮像画像から検出された顔領域の中心座標のばらつきを算出し、所定の閾値以上のばらつきである場合、顔に動きがあると判定する。一方、動き判定部212は、所定の閾値未満のばらつきである場合、顔に動きがないと判定する。なお、ばらつきの値としては、標準偏差または分散などを用いてもよい。また、顔領域の中心座標は、XYの2次元座標系で表すとき、X座標とY座標の両方を用いてもよいし、いずれか一方の座標を用いてもよい。また、動きの判定には、顔領域の中心座標のばらつきに代えて又は加えて、顔領域のばらつきや、顔領域の大きさのばらつきを用いてもよい。顔領域の大きさのばらつきを用いる場合、前後への顔の動きも判定することが可能である。
また、動き判定部212は、撮像画像から検出された顔のうち、動きがないと判定した顔の領域を登録し、以降、登録した領域を判定の対象から除外してもよい。例えば、動き判定部212は、判定の対象から除外した領域に顔が検出されても無視して、当該顔の動きの判定を行わない。なお、動き判定部212は、加速度センサ130の検出結果により電子機器1が動いたことが検出された場合、判定領域をリセットする。即ち、動き判定部212は、判定の対象から除外する領域として登録した領域を判定の対象に戻す。
人物判定部213は、撮像画像のそれぞれから検出された顔に動きがあると動き判定部212により判定された場合、ユーザが存在すると判定する。また、人物判定部213は、撮像画像のそれぞれから検出された顔に動きがないと動き判定部212により判定された場合、当該顔がユーザの顔ではないと判定し、ユーザが存在しないと判定する。
[HPD処理の動作]
次に、図9を参照して、人物検出部210が実行するHPD処理(人物検出処理)の動作について説明する。
図9は、本実施形態に係るHPD処理の一例を示すフローチャートである。
(ステップS101)人物検出部210は、時刻t(n)に撮像部120により撮像された撮像画像から顔領域を検出する。まず、人物検出部210は、n=1に設定し、時刻t(1)に撮像部120により撮像された撮像画像から顔領域を検出する。
(ステップS103)人物検出部210は、ステップS101において撮像画像から顔領域を検出できたか否かを判定する。人物検出部210は、ステップS101において撮像画像から顔領域を検出できなかった場合(NO)、ステップS105の処理に進む。一方、人物検出部210は、ステップS101において撮像画像から顔領域を検出できた場合(YES)、ステップS107の処理に進む。
(ステップS105)人物検出部210は、ユーザが存在しないと判定する。そして、人物検出部210は、nを1に設定し、ステップS101の処理に戻り、再び時刻t(1)に撮像部120により撮像された撮像画像から顔領域を検出する。
(ステップS107)人物検出部210は、nが4以上であるか否かを判定する。即ち、人物検出部210は、4フレームにわたって撮像画像から顔領域が検出されたか否かを判定する。人物検出部210は、nが4未満であると判定した場合(NO)、nを1増加させ、ステップS101の処理に戻り、次の時刻t(n)に撮像部120により撮像された撮像画像から顔領域を検出する。例えば、人物検出部210は、時刻t(1)の撮像画像から顔領域が検出された場合には時刻t(2)の撮像画像から顔領域を検出し、続けて時刻t(2)の撮像画像から顔領域が検出された場合には時刻t(3)の撮像画像から顔領域を検出し、さらに続けて時刻t(3)の撮像画像から顔領域が検出された場合には時刻t(4)の撮像画像から顔領域を検出する。一方、人物検出部210は、nが4以上であると判定した場合(YES)、即ち4フレームにわたって撮像画像から顔領域が検出されたと判定した場合、ステップS109の処理に進む。
(ステップS109)人物検出部210は、時刻t(n)の撮像画像を取得した時点で、時刻t(n-3)から時刻t(n)までの4フレーム分の撮像画像から検出された顔領域に基づいて、当該顔に動きがあるか否かを判定する。例えば、人物検出部210は、時刻t(4)の撮像画像を取得した時点で、時刻t(1)から時刻t(4)までの4フレーム分の撮像画像から検出された顔領域に基づいて、当該顔に動きがあるか否かを判定する。例えば、人物検出部210は、時刻t(1)から時刻t(4)までのそれぞれの撮像画像から検出された顔領域の中心座標のばらつきに基づいて、顔に動きがあるか否かを判定する。人物検出部210は、顔に動きがあると判定した場合(YES)、ステップS111の処理に進む。一方、人物検出部210は、顔に動きがないと判定した場合(NO)、ステップS113の処理に進む。
(ステップS111)人物検出部210は、動きのある顔はユーザの顔と判定し、ユーザが存在すると判定する。即ち、人物検出部210は、電子機器1の前にユーザが存在すると判定する。そして、人物検出部210は、nを1増加させ、ステップS101の処理に戻り、次の時刻t(n)に撮像部120により撮像された撮像画像から顔領域を検出する。
(ステップS113)人物検出部210は、動きのない顔はユーザの顔ではないと判定し、ユーザが存在しないと判定する。即ち、人物検出部210は、電子機器1の前にユーザが存在しないと判定する。そして、ステップS115の処理へ進む。
(ステップS115)人物検出部210は、動きがないと判定した顔領域を判定除外領域として登録し、以降、登録した判定除外領域を判定の対象から除外する。そして、人物検出部210は、nを1増加させ、ステップS101の処理に戻り、次の時刻t(n)に撮像部120により撮像された撮像画像から顔領域を検出する。以降、人物検出部210は、判定の対象から除外した領域に顔検出したとしても、ユーザの顔ではないとして、顔の動きの判定(即ち、ユーザか否かの判定)を行わない。
なお、本実施形態では、顔の動きを判定する期間を、4フレーム分の期間としているが、これに限定されず、任意の期間とすることができる。
次に、図10を参照して、図9のステップS115において登録された判定除外領域をリセットする判定領域リセット処理の動作について説明する。
図10は、本実施形態に係る判定領域リセット処理の一例を示すフローチャートである。
(ステップS151)人物検出部210は、加速度センサ130の検出結果に基づいて電子機器1が動いたか否かを判定する。人物検出部210は、電子機器1が動いたと判定した場合(YES)、ステップS153の処理に進む。一方、人物検出部210は、電子機器1が動いていないと判定した場合(NO)、判定領域リセットしないで処理を終了する。
(ステップS153)人物検出部210は、登録された判定除外領域をリセットして処理を終了する。即ち、人物検出部210は、判定の対象から除外した領域(判定除外領域)を判定の対象に戻す。
例えば、人物検出部210は、この判定領域リセット処理を所定の周期で実行する。なお、人物検出部210は、図9のステップS115において、判定の対象から除外する領域を登録した場合のみ、この判定領域リセット処理を実行してもよい。
[動作状態制御処理の動作]
次に、上述したHPD処理の結果に基づいてシステムの動作状態を制御する動作状態制御処理の動作について説明する。まず、動作制御部220が、HPD処理により電子機器1へのユーザの接近が検出されたことによりシステムを起動する起動処理の動作について説明する。
図11は、本実施形態に係る起動処理の一例を示すフローチャートである。ここでは、電子機器1は、開状態で机の上等に置かれており、待機状態であるものとする。
(ステップS201)動作制御部220は、電子機器1へのユーザの接近が検出されたか否かを判定する。動作制御部220は、人物検出部210により電子機器1の前方にユーザが存在してない状態から存在する状態への変化(即ち、電子機器1へのユーザの接近)が検出されたと判定した場合(YES)、ステップS203の処理に進む。一方、動作制御部220は、人物検出部210によりユーザが存在しない状態(即ち、電子機器1へユーザが接近していないこと)が検出されたと判定された場合(NO)、再びステップS201の処理を行う。
(ステップS203)動作制御部220は、システム処理部300によるシステムを起動させる。具体的には、動作制御部220は、システム処理部300によるシステムを起動させる場合、電源部400に対して、電子機器1の各部の動作に必要な電力を供給するための制御信号を出力する。また、動作制御部220は、システム処理部300にシステムの起動を指示するための起動信号を出力する。システム処理部300は、起動信号を取得すると、起動処理を開始する。そして、ステップS205の処理に進む。
(ステップS205)システム処理部300は、ログイン処理(認証処理)を実行する。例えば、システム処理部300は、パスワード認証、顔認証、指紋認証などによるログイン処理を実行し、ステップS207の処理に進む。
(ステップS207)システム処理部300は、認証結果が成功であるか否かを判定する。システム処理部300は、認証結果が成功であると判定した場合には(YES)、ステップS209の処理に進む。一方、システム処理部300は、認証結果が失敗であると判定した場合には(NO)、ステップS213の処理に進む。
(ステップS209)システム処理部300は、認証結果が成功の場合にはログイン成功である旨を通知し(例えば、表示部110に表示)、起動処理を継続する。そして、ステップS211の処理に進む。
(ステップS211)システム処理部300は、ログイン処理を完了し、システムの動作状態を通常動作状態に遷移させる。
(ステップS213)システム処理部300は、認証結果が失敗の場合にはログイン失敗である旨を通知し(例えば、表示部110に表示)、ステップS205の認証処理に戻る。なお、システム処理部300は、連続して所定の回数の認証処理に失敗した場合には、認証処理を中止し、ログイン不可の状態に遷移させてもよい。
次に、動作制御部220が、電子機器1からのユーザの離脱を検出したことによりシステムを通常動作状態から待機状態へ遷移させる待機状態遷移処理の動作について説明する。
図12は、本実施形態に係る待機状態遷移処理の一例を示すフローチャートである。ここでは、電子機器1は、開状態で机の上等に置かれており、通常動作状態であるものとする。
(ステップS251)動作制御部220は、電子機器1からのユーザの離脱を検出したか否かを判定する。動作制御部220は、人物検出部210によりユーザが存在している状態からユーザが存在しない状態への変化(即ち、電子機器1からのユーザの離脱)が検出された場合(YES)、ステップS253の処理に進む。一方、動作制御部220は、人物検出部210によりユーザが存在している状態(即ち、電子機器1からユーザが離脱していないこと)が検出されたと判定された場合(NO)、再びステップS251の処理を行う。
(ステップS253)動作制御部220は、システム処理部300によるシステムの動作状態を通常動作状態から待機状態へ遷移させる。具体的には、動作制御部220は、システム処理部300にシステムを待機状態へ遷移させる指示をするための待機信号を出力する。システム処理部300は、待機信号を取得すると、システムの動作状態を通常動作状態から待機状態へ遷移させる。また、動作制御部220は、電源部400に対して、待機状態では不要な電力の供給を停止させるための制御信号を出力する。
[第1の実施形態のまとめ]
以上説明してきたように、本実施形態に係る電子機器1は、撮像部120(撮像装置の一例)で撮像された画像(撮像画像)の画像データを一時的に記憶するシステムメモリ310(メモリの一例)と、システムメモリ310に記憶された画像データを処理する人物検出部210(プロセッサの一例)とを備えている。人物検出部210は、撮像部120によって所定の時間間隔で撮像されシステムメモリ310に記憶された複数の撮像画像の画像データを処理して、複数の撮像画像の中から顔が撮像されている顔領域を検出する。また、人物検出部210は、複数の撮像画像の中から検出された顔領域の位置の変化量を算出し、撮像された顔に所定の時間間隔において動きがあるか否かを当該変化量に基づいて判定する。そして、人物検出部210は、撮像された顔に動きがあると判定した場合、ユーザが存在すると判定する。
これにより、電子機器1は、検出した顔のうち動きのある顔のみをユーザと判定するため、精度よくユーザの存在を検出することができる。よって、電子機器1は、使用する人物を精度よく検出することができる。
例えば、人物検出部210は、所定期間にわたって所定の時間間隔で撮像された撮像画像のそれぞれから検出された顔領域に基づいて、当該顔に動きがあるか否かを判定する。
これにより、電子機器1は、一定期間の顔の動きに基づいて顔に動きがあるか否かを判定するため、精度よくユーザの存在を検出することができる。よって、電子機器1は、使用する人物を精度よく検出することができる。
また、人物検出部210は、撮像された顔に動きがないと判定した場合、当該顔がユーザの顔ではないと判定し、ユーザが存在しないと判定する。
これにより、電子機器1は、検出した顔のうち動きのない顔はユーザではないと判定するため、写真やポスターなどの顔を間違ってユーザと判定してしまわないようにできる。電子機器1は、存在しないユーザを誤検出してしまうことを抑制することができる。また、電子機器1は、ユーザの後方に写真やポスターなどの顔があっても、覗きこみしている他の人物が存在すると誤検出してしまわないようにすることができる。
また、人物検出部210は、撮像画像のそれぞれから検出された顔のうち、動きがないと判定した顔の領域を登録し、以降、登録した領域を判定の対象から除外する。
これにより、電子機器1は、ユーザの顔ではない顔が検出された領域を、以降は判定の対象から除外するため、処理負荷を低減することや、誤検出を抑制することができる。
また、電子機器1は、電子機器1の動きを検出する加速度センサ130(センサの一例)を備えている。人物検出部210は、加速度センサ130を用いて電子機器1が動いたことが検出された場合、登録した領域を判定の対象に戻す。
これにより、電子機器1は、電子機器1が動いたときは、判定の対象から除外した領域も変化してしまうため、判定の対象に戻すことにより、適切にユーザの存在を検出することができる。
また、電子機器1は、システムに基づくシステム処理を実行するシステム処理部300(処理部の一例)を備えている。電子機器1は、ユーザが存在すると判定している状態からユーザが存在しないと判定している状態へと遷移した場合、システムの動作状態を待機状態(システム処理の少なくとも一部が制限された動作状態)へ遷移させる。
これにより、電子機器1は、ユーザが離脱したことを精度よく検出して、適切に待機状態へ遷移させることができる。
また、本実施形態に係る、撮像部120(撮像装置の一例)で撮像された画像(撮像画像)の画像データを一時的に記憶するシステムメモリ310(メモリの一例)と、システムメモリ310に記憶された画像データを処理する人物検出部210(プロセッサの一例)とを備える電子機器1における制御方法は、人物検出部210が、撮像部120によって所定の時間間隔で撮像されシステムメモリ310に記憶された複数の撮像画像の画像データを処理して、複数の撮像画像の中から顔が撮像されている顔領域を検出するステップと、複数の撮像画像の中から検出された顔領域の位置の変化量を算出し、撮像された顔に所定の時間間隔において動きがあるか否かを当該変化量に基づいて判定するステップと、撮像された顔に動きがあると判定された場合、ユーザが存在すると判定するステップと、を含む。
これにより、電子機器1は、検出した顔のうち動きのある顔のみをユーザと判定するため、精度よくユーザの存在を検出することができる。よって、電子機器1は、使用する人物を精度よく検出することができる。
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。
第1の実施形態において、撮像画像から顔領域を検出することによりユーザの存在を検出する態様を説明したが、消費電力や他の処理などへの影響を考量すると、顔検出に関する処理の負荷はなるべく抑えることが望ましい。そこで、本実施形態では、電子機器1は、撮像画像から顔領域を検出する際に状況に応じて高解像度の画像と低解像度の画像のいずれかを用いた処理を行う。以下では、低解像度の画像を用いて顔領域を検出する検出モードのことを「低解像度モード」と称し、高解像度の画像を用いて顔領域を検出する検出モードのことを「高解像度モード」と称する。
なお、高解像度の画像と低解像度の画像の取得方法には種々の方法が考えられる。高解像度の画像と低解像度の画像の両方を出力可能な撮像部120を用いる場合には、撮像部120に対していずれの画像を出力させるか、状況に応じて指示する構成とすることができる。あるいは、高解像度の画像と低解像度の画像の両方を同時に出力可能な撮像部120を用いる場合には、状況に応じて撮像部120から出力された画像のいずれかを処理対象の画像として状況に応じて選択する構成とすることもできる。それらに加えて、あるいはそれらとは別に、撮像部120から出力された画像の画像データに対して解像度を下げる事前処理を行うことで、処理対象の低解像度の画像を取得する構成としてもよい。
ここで、低解像度モードでは、処理負荷が小さく消費電力も抑えられる反面、分解能が低いことから顔の微妙な動きを検出できないことがあり、正しくユーザの存在を検出ができない場合がある。
図13は、低解像度モードにおける人物検出結果の一例を示す図である。図示する例は、時刻t(1)~t(12)の全ての撮像画像においてユーザが撮像されている。それぞれの撮像画像から顔は検出されるが、ユーザがほとんど動かない期間があると、微妙な顔の動きを検出できないことがある。図示する例では、時刻t(1)~t(5)及び時刻t(10)~t(12)では検出された顔に動きがあると判定されるが、時刻t(6)~t(8)では検出された顔に動きが無いと判定された場合を示している。例えば、5秒間隔で撮像画像が撮像される場合、20秒以上ユーザがほとんど動かない状態が続いて所定期間(例えば、4フレーム)以上顔に動きが無いと判定されると、ユーザが存在しないと判定されてしまう。
そこで、電子機器1は、低解像度モードで検出された顔に動きが無いと判定された場合には、低解像度モードを終了する。即ち、電子機器1は、低解像度モードで検出された顔に動きが無いと判定された場合には、高解像度で顔の動きを検出することにより、より詳細に顔の動きを確認する。高解像度モードは、低解像度モードより分解能が高いため、低解像度モードでは顔の動きが検出できなくても、高解像度モードでは顔の動きを検出できる場合がある。
本実施形態に係る電子機器1の基本的な構成は、図5~7に示す第1の実施形態に係る構成と同様であり、その説明を省略する。本実施形態では、顔検出部211が低解像度モードまたは高解像度モードで顔領域を検出する点が、第1の実施形態に対して異なる。ここでは、第1の実施形態に対して異な機能及び処理について説明する。
顔検出部211は、低解像度モードまたは高解像度モードで撮像画像から顔領域を検出する。顔検出部211は、初期設定として低解像度モードに設定し、低解像度の撮像画像の画像データを処理して顔領域を検出する。動き判定部212は、顔検出部211によって低解像度モードで撮像画像のそれぞれから検出された顔領域に基づいて、当該顔に動きがあるか否かを判定する。
また、顔検出部211は、低解像度モードで検出された顔に動きがないと動き判定部212により判定された場合、低解像度モードから高解像度モードに切り替える。即ち、顔検出部211は、低解像度モードで検出された顔に動きがないと動き判定部212により判定された場合、低解像度モードよりも高解像度の撮像画像の画像データを処理して顔領域する。動き判定部212は、高解像度モードで撮像画像のそれぞれから検出された顔領域に基づいて、当該顔に動きがあるか否かを判定する。また、顔検出部211は、高解像度モードで顔領域が検出されなくなった場合、高解像度モードから低解像度モードへ戻して、低解像度モードで顔領域の検出を実行する。
次に、図14を参照して、人物検出部210が実行するHPD処理(人物検出処理)の動作について説明する。
図14は、本実施形態に係るHPD処理の一例を示すフローチャートである。この図において、ステップS301~S311の処理は、図9に示すステップS101~S111の処理と同様であり、その説明を省略する。
まず、人物検出部210は、低解像度モードに設定し(ステップS300)、ステップS301の処理に進む。これにより、人物検出部210は、ステップS301~S309において、低解像度モードで撮像画像から顔領域を検出し、検出された顔に動きがあるか否かを判定する。
ステップS309において顔に動きが無いと判定された場合(NO)、人物検出部210は、現在の検出モードが高解像度モードであるか否かを判定する(ステップS313)。ここでは、低解像度モードであるため、人物検出部210は、ステップS313をNOと判定し、ステップS315の処理に進む。
ステップS315において、人物検出部210は、高解像度モードに設定し、ステップS301の処理に進む。これにより、低解像度モードから高解像度モードへ切り替わる。人物検出部210は、ステップS301~S309において、高解像度モードで撮像画像から顔領域を検出し、検出された顔に動きがあるか否かを判定する。人物検出部210は、低解像度モードで顔に動きが無いと判定しても、高解像度モードで顔に動きがあると判定した場合には(ステップS309:YES)、ユーザが存在すると判定する(ステップS311)。
一方、高解像度モードでも顔に動きが無いと判定された場合(ステップS309:NO)、人物検出部210は、現在の検出モードが高解像度モードであるか否かを判定する(ステップS313)。ここでは、高解像度モードであるため、人物検出部210は、ステップS313をYESと判定し、ステップS317の処理に進む。
ステップS317において、人物検出部210は、動きのない顔は人物の顔ではないと判定し、ユーザが存在しないと判定する。即ち、人物検出部210は、電子機器1の前にユーザが存在しないと判定する。そして、ステップS319の処理へ進む。
ステップS319において、人物検出部210は、動きがないと判定した顔領域を判定除外領域として登録し、以降、登録した判定除外領域を判定の対象から除外する。以降、人物検出部210は、低解像度モード及び高解像度モードのいずれの検出モードにおいても、判定除外領域に顔領域を検出した場合、ユーザの顔ではないとして、顔の動きの判定(即ち、ユーザか否かの判定)を行わない。そして、ステップS300へ戻り、人物検出部210は、低解像度モードに設定する。これにより、高解像度モードから低解像度モードに切り替わる。
また、人物検出部210は、高解像度モードで撮像画像から顔領域を検出できなかった場合(ステップS303:NO)、ユーザが存在しないと判定する(ステップS305)。そして、ステップS321へ進み、人物検出部210は、現在の検出モードが高解像度モードであるか否かを判定する。ステップS321において高解像度モードであると判定された場合(YES)、ステップS300へ戻り、人物検出部210は、低解像度モードに設定する。これにより、高解像度モードから低解像度モードに切り替わる。一方、ステップS321において低解像度モードであると判定された場合(NO)、人物検出部210は、ステップS301の処理に戻り、ステップS301~S309において、低解像度モードで撮像画像から顔領域を検出し、検出された顔に動きがあるか否かを判定する。
[第2の実施形態のまとめ]
以上説明してきたように、本実施形態に係る電子機器1では、撮像部120で撮像された撮像画像の画像データは低解像度(第1の解像度)の画像データを含む。そして、人物検出部210は、低解像度の画像データを処理して顔領域を検出する低解像度モードを実行し、低解像度モードで検出された顔領域に基づいて、当該顔に動きがあるか否かを判定する。
これにより、電子機器1は、消費電力や他の処理などへの影響を低減しつつ、検出した顔のうち動きのある顔のみをユーザと判定するため、精度よくユーザの存在を検出することができる。よって、電子機器1は、使用する人物を精度よく検出することができる。
また、本実施形態に係る電子機器1では、撮像部120で撮像された撮像画像の画像データは低解像度(第1の解像度)よりも高解像度(第2の解像度)の画像データを含む。人物検出部210は、高解像度の画像データを処理して顔領域を検出する高解像度モードを実行し、高解像度モードで検出された顔領域に基づいて、当該顔に動きがあるか否かを判定する。
これにより、電子機器1は、低解像度モードで顔の動きが検出されない場合には高解像度モードで顔に動きがあるか否かを判定するため、消費電力や他の処理などへの影響を低減しつつ、誤検出も抑制することができる。
また、電子機器1は、高解像度モードで顔領域が検出されなくなった場合、低解像度モードで顔領域の検出を実行する。
これにより、電子機器1は、高解像度モードで検出しているときにユーザが居なくなった場合には低解像度モードに戻すため、無駄に電力を消費することや他の処理への影響を抑制することができる。
以上、この発明の第1及び第2の実施形態について図面を参照して詳述してきたが、具体的な構成は上述の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。例えば、上述の各実施形態において説明した各構成は、任意に組み合わせることができる。
また、上記実施形態では、電子機器1に撮像部120が内蔵されている構成例を説明したが、これに限られるものではない。例えば、撮像部120は、電子機器1に内蔵されていなくてもよく、電子機器1の外部アクセサリとして電子機器1(例えば、側面10a、10b、10c等のいずれか)に取り付け可能に構成され、無線または有線で電子機器1と通信接続されるものであってもよい。
また、上記実施形態では、電子機器1は、撮像画像から顔が撮像されている顔領域を検出することによりユーザの存在を検出したが、顔に限らず、身体の少なくとも一部が撮像されている領域を検出することによりユーザの存在を検出してもよい。また、電子機器1は、物体までの距離を検出する距離センサ(例えば、近接センサなど)を併用してもよい。例えば、距離センサは、第1筐体10の内面側に設けられ、第1筐体10の内面に対面する方向(前方)の検出範囲内に存在する物体(例えば、人物)を検出する。一例として、距離センサは、赤外線を発光する発光部と、発光した赤外線が物体の表面に反射して戻ってくる反射光を受光する受光部とを含んで構成される赤外線距離センサであってもよい。なお、距離センサは、発光ダイオードが発光する赤外線を用いたセンサであってもよいし、発光ダイオードが発光する赤外線よりも波長帯域が狭い光線を発光する赤外線レーザを用いたセンサであってもよい。また、距離センサは、赤外線距離センサに限定されるものでなく、物体との距離を検出するセンサであれば、超音波センサまたはUWB(Ultra Wide Band)レーダを用いたセンサ等の他の方式を用いたセンサであってもよい。また、距離センサも、電子機器1に内蔵されていなくてもよく、電子機器1の外部アクセサリとして電子機器1(例えば、側面10a、10b、10c等のいずれか)に取り付け可能に構成され、無線または有線で電子機器1と通信接続されるものであってもよい。また、撮像部120と距離センサとが一体に構成されてもよい。
また、上記実施形態では、人物検出部210がEC200とは別に備えられている例を示したが、人物検出部210の一部または全部は、EC200に備えられてもよい。また、上記実施形態では、EC200が動作制御部220を備える例を示したが、動作制御部220の一部または全部は、EC200以外の処理部(例えば、システム処理部300)に備えられてもよい。
また、上記実施形態では、システム処理部300と独立に動作するEC200は、センサハブ、チップセット、などのいずれの処理部であってもよく、EC200以外の処理部がEC200に代えて上述の処理を実行してもよい。
また、上述した待機状態には、ハイバネーション状態やパワーオフ状態等が含まれてもよい。ハイバネーション状態は、例えば、ACPIで規定されているS4状態に相当する。パワーオフ状態は、例えば、ACPIで規定されているS5状態(シャットダウンした状態)相当する。また、待機状態には、少なくとも表示部の表示がOFF(画面OFF)となる状態、または画面ロックとなる状態を含んでもよい。画面ロックとは、処理中の内容が視認できないように予め設定された画像(例えば、画面ロック用の画像)が表示部に表示され、ロックを解除(例えば、ユーザ認証)するまで、使用できない状態である。
なお、上述した電子機器1は、内部にコンピュータシステムを有している。そして、上述した電子機器1が備える各構成の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより上述した電子機器1が備える各構成における処理を行ってもよい。ここで、「記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行する」とは、コンピュータシステムにプログラムをインストールすることを含む。ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、インターネットやWAN、LAN、専用回線等の通信回線を含むネットワークを介して接続された複数のコンピュータ装置を含んでもよい。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。このように、プログラムを記憶した記録媒体は、CD-ROM等の非一過性の記録媒体であってもよい。
また、記録媒体には、当該プログラムを配信するために配信サーバからアクセス可能な内部又は外部に設けられた記録媒体も含まれる。なお、プログラムを複数に分割し、それぞれ異なるタイミングでダウンロードした後に電子機器1が備える各構成で合体される構成や、分割されたプログラムのそれぞれを配信する配信サーバが異なっていてもよい。さらに「コンピュータ読み取り可能な記録媒体」とは、ネットワークを介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、上述した機能の一部を実現するためのものであってもよい。さらに、上述した機能をコンピュータシステムに既に記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
また、上述した実施形態における電子機器1が備える各機能の一部、または全部を、LSI(Large Scale Integration)等の集積回路として実現してもよい。各機能は個別にプロセッサ化してもよいし、一部、又は全部を集積してプロセッサ化してもよい。また、集積回路化の手法はLSIに限らず専用回路、または汎用プロセッサで実現してもよい。また、半導体技術の進歩によりLSIに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いてもよい。
また、上記実施形態の電子機器1は、PC、タブレット端末装置、スマートフォンなどに限られるものではなく、家庭用電気製品や業務用電気製品にも適用できる。家庭用電気製品としては、テレビや、表示部が備えられた冷蔵庫、電子レンジ等に適用できる。例えば、人物の接近または離脱に応じて、テレビの画面のON/OFFを制御すること、或いは、冷蔵庫や電子レンジ等の表示部の画面のON/OFFを制御することができる。また、業務用電気製品としては、自動販売機や、マルチメディア端末等に適用できる。例えば、人物の接近または離脱に応じて、自動販売機の照明のON/OFFなど、或いは、マルチメディア端末の表示部の画面のON/OFFなどのように動作状態を制御することができる。
1 電子機器、10 第1筐体、20 第2筐体、15 ヒンジ機構、110 表示部、120 撮像部、130 加速度センサ、140 電源ボタン、150 入力デバイス、151 キーボード、153 タッチパッド、200 EC、210,210 人物検出部、211 顔検出部、212 動き判定部、213 人物判定部、220 動作制御部、300 システム処理部、302 CPU、304 GPU、306 メモリコントローラ、308 I/Oコントローラ、310 システムメモリ、350 通信部、360 記憶部、400 電源部

Claims (8)

  1. 撮像装置で撮像された画像の画像データを一時的に記憶するメモリと、
    前記メモリに記憶された画像データを処理するプロセッサと、を備え、
    前記プロセッサは、
    前記撮像装置によって所定の時間間隔で撮像され前記メモリに記憶された複数の画像の画像データを処理して、前記複数の画像の中から顔が撮像されている顔領域を検出する顔検出部と、
    前記複数の画像の中から検出された前記顔領域の位置の変化量を算出し、撮像された顔に前記所定の時間間隔において動きがあるか否かを前記変化量に基づいて判定する動き判定部と、
    前記動き判定部により顔に動きがあると判定された場合、ユーザが存在すると判定する人物判定部と、
    を備え、
    前記動き判定部は、
    前記画像のそれぞれから検出された顔のうち、前記動き判定部により動きがないと判定された顔の領域を登録し、以降、登録した領域を判定の対象から除外する、
    電子機器。
  2. 前記電子機器の動きを検出するセンサをさらに備え、
    前記動き判定部は、
    前記センサを用いて前記電子機器が動いたことが検出された場合、登録した領域を判定の対象に戻す、
    請求項1に記載の電子機器。
  3. 前記人物判定部は、
    前記撮像された顔に動きがないと前記動き判定部により判定された場合、当該顔がユーザの顔ではないと判定し、ユーザが存在しないと判定する、
    請求項1に記載の電子機器。
  4. 撮像装置で撮像された画像の画像データを一時的に記憶するメモリと、
    前記メモリに記憶された画像データを処理するプロセッサと、を備え、
    前記プロセッサは、
    前記撮像装置によって所定の時間間隔で撮像され前記メモリに記憶された複数の画像の画像データを処理して、前記複数の画像の中から顔が撮像されている顔領域を検出する顔検出部と、
    前記複数の画像の中から検出された前記顔領域の位置の変化量を算出し、撮像された顔に前記所定の時間間隔において動きがあるか否かを前記変化量に基づいて判定する動き判定部と、
    前記動き判定部により顔に動きがあると判定された場合、ユーザが存在すると判定する人物判定部と、
    を備え、
    前記画像データは第1の解像度の画像データと、前記第1の解像度よりも高解像度の第2の解像度の画像データとを含み、
    前記顔検出部は、前記第1の解像度の画像データを処理して前記顔領域を検出する低解像度モードを実行し、前記動き判定部は、前記顔検出部によって前記低解像度モードで検出された前記顔領域に基づいて、当該顔に動きがあるか否かを判定し、
    前記第1の解像度の画像データを処理して検出された顔に動きがないと前記動き判定部により判定された場合、前記顔検出部は、前記第2の解像度の画像データを処理して前記顔領域を検出する高解像度モードを実行し、前記動き判定部は、前記高解像度モードでは、前記顔検出部により前記高解像度モードで検出された前記顔領域に基づいて、当該顔に動きがあるか否かを判定する、
    電子機器。
  5. 前記顔検出部は、
    前記高解像度モードで前記顔領域が検出されなくなった場合、前記低解像度モードで前記顔領域の検出を実行する、
    請求項4に記載の電子機器。
  6. システムに基づくシステム処理を実行する処理部と、
    前記人物判定部によりユーザが存在すると判定されている状態からユーザが存在しないと判定されている状態へと遷移した場合、前記システムの動作状態を前記システム処理の少なくとも一部が制限された動作状態へ遷移させる動作制御部と、
    をさらに備える請求項1から請求項5のいずれか一項に記載の電子機器。
  7. 撮像装置で撮像された画像の画像データを一時的に記憶するメモリと、前記メモリに記憶された画像データを処理するプロセッサとを備える電子機器における制御方法であって、
    前記プロセッサにおいて、
    顔検出部が、前記撮像装置によって所定の時間間隔で撮像され前記メモリに記憶された複数の画像の画像データを処理して、前記複数の画像の中から顔が撮像されている顔領域を検出するステップと、
    動き判定部が、前記複数の画像の中から検出された前記顔領域の位置の変化量を算出し、撮像された顔に前記所定の時間間隔において動きがあるか否かを前記変化量に基づいて判定するステップと、
    人物判定部が、前記動き判定部により顔に動きがあると判定された場合、ユーザが存在すると判定するステップと、
    を含み、
    前記動き判定部が判定するステップにおいて、
    前記画像のそれぞれから検出された顔のうち、前記動き判定部により動きがないと判定された顔の領域を登録し、以降、登録した領域を判定の対象から除外する、
    制御方法。
  8. 撮像装置で撮像された画像の画像データを一時的に記憶するメモリと、前記メモリに記憶された画像データを処理するプロセッサとを備える電子機器における制御方法であって、
    前記プロセッサにおいて、
    顔検出部が、前記撮像装置によって所定の時間間隔で撮像され前記メモリに記憶された複数の画像の画像データを処理して、前記複数の画像の中から顔が撮像されている顔領域を検出するステップと、
    動き判定部が、前記複数の画像の中から検出された前記顔領域の位置の変化量を算出し、撮像された顔に前記所定の時間間隔において動きがあるか否かを前記変化量に基づいて判定するステップと、
    人物判定部が、前記動き判定部により顔に動きがあると判定された場合、ユーザが存在すると判定するステップと、
    を含み、
    前記画像データは第1の解像度の画像データと、前記第1の解像度よりも高解像度の第2の解像度の画像データとを含み、
    前記顔検出部が検出るステップにおいて、前記第1の解像度の画像データを処理して前記顔領域を検出する低解像度モードを実行し、前記動き判定部が判定するステップにおいて、前記顔検出部によって前記低解像度モードで検出された前記顔領域に基づいて当該顔に動きがあるか否かを判定し、
    前記第1の解像度の画像データを処理して検出された顔に動きがないと前記動き判定部により判定された場合、前記顔検出部が検出るステップにおいて、前記第2の解像度の画像データを処理して前記顔領域を検出する高解像度モードを実行し、前記動き判定部が判定するステップにおいて、前記顔検出部により前記高解像度モードで検出された前記顔領域に基づいて当該顔に動きがあるか否かを判定する、
    制御方法。
JP2021080886A 2021-05-12 2021-05-12 電子機器、及び制御方法 Active JP7218397B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2021080886A JP7218397B2 (ja) 2021-05-12 2021-05-12 電子機器、及び制御方法
US17/696,325 US20220366721A1 (en) 2021-05-12 2022-03-16 Electronic apparatus and control method
CN202210378348.9A CN115346254A (zh) 2021-05-12 2022-04-12 电子设备以及控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021080886A JP7218397B2 (ja) 2021-05-12 2021-05-12 電子機器、及び制御方法

Publications (2)

Publication Number Publication Date
JP2022174875A JP2022174875A (ja) 2022-11-25
JP7218397B2 true JP7218397B2 (ja) 2023-02-06

Family

ID=83948775

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021080886A Active JP7218397B2 (ja) 2021-05-12 2021-05-12 電子機器、及び制御方法

Country Status (3)

Country Link
US (1) US20220366721A1 (ja)
JP (1) JP7218397B2 (ja)
CN (1) CN115346254A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7279169B2 (ja) * 2019-08-14 2023-05-22 富士フイルム株式会社 撮像装置、撮像装置の作動方法、及びプログラム
WO2024034390A1 (ja) * 2022-08-09 2024-02-15 ソニーグループ株式会社 情報処理装置、情報処理方法、プログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008305400A (ja) 2001-05-25 2008-12-18 Toshiba Corp 顔画像記録装置、及び顔画像記録方法
WO2015098110A1 (ja) 2013-12-27 2015-07-02 パナソニックIpマネジメント株式会社 撮像装置、撮像システムおよび撮像方法
JP2018160799A (ja) 2017-03-23 2018-10-11 ソニーセミコンダクタソリューションズ株式会社 制御装置、制御方法、プログラム、及び、電子機器システム
JP2020184177A (ja) 2019-05-08 2020-11-12 レノボ・シンガポール・プライベート・リミテッド 電子機器、制御方法、及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008305400A (ja) 2001-05-25 2008-12-18 Toshiba Corp 顔画像記録装置、及び顔画像記録方法
WO2015098110A1 (ja) 2013-12-27 2015-07-02 パナソニックIpマネジメント株式会社 撮像装置、撮像システムおよび撮像方法
JP2018160799A (ja) 2017-03-23 2018-10-11 ソニーセミコンダクタソリューションズ株式会社 制御装置、制御方法、プログラム、及び、電子機器システム
JP2020184177A (ja) 2019-05-08 2020-11-12 レノボ・シンガポール・プライベート・リミテッド 電子機器、制御方法、及びプログラム

Also Published As

Publication number Publication date
CN115346254A (zh) 2022-11-15
JP2022174875A (ja) 2022-11-25
US20220366721A1 (en) 2022-11-17

Similar Documents

Publication Publication Date Title
US11314306B2 (en) Electronic apparatus and control method
US20200356154A1 (en) Electronic apparatus, control method, and program
JP7114651B2 (ja) 電子機器、及び制御方法
JP7218397B2 (ja) 電子機器、及び制御方法
JP6720283B2 (ja) 電子機器、制御方法、及びプログラム
JP6751432B2 (ja) 電子機器、制御方法、及びプログラム
US20220366722A1 (en) Electronic apparatus and control method
US11669142B2 (en) Electronic apparatus and control method that accurately detect human faces
US11435833B2 (en) Electronic apparatus and control method
JP7275239B1 (ja) 電子機器、及び制御方法
JP7218421B1 (ja) 電子機器、及び制御方法
JP7413481B1 (ja) 情報処理装置、及び制御方法
JP7223833B1 (ja) 電子機器、及び制御方法
JP7474888B1 (ja) 電子機器、及び制御方法
JP7454635B1 (ja) 情報処理装置、及び制御方法
JP7451785B1 (ja) 情報処理装置、及び制御方法
JP7480371B1 (ja) 情報処理装置、及び制御方法
JP7368523B2 (ja) 情報処理装置、及び制御方法
JP7421603B1 (ja) 情報処理装置、及び制御方法
US20230289195A1 (en) Information processing apparatus and control method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210512

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20211213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20211213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220404

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220816

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221014

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230104

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230125

R150 Certificate of patent or registration of utility model

Ref document number: 7218397

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350