JP2022187913A - 表示装置、撮像装置、表示装置の制御方法、プログラム、および記録媒体 - Google Patents

表示装置、撮像装置、表示装置の制御方法、プログラム、および記録媒体 Download PDF

Info

Publication number
JP2022187913A
JP2022187913A JP2021096150A JP2021096150A JP2022187913A JP 2022187913 A JP2022187913 A JP 2022187913A JP 2021096150 A JP2021096150 A JP 2021096150A JP 2021096150 A JP2021096150 A JP 2021096150A JP 2022187913 A JP2022187913 A JP 2022187913A
Authority
JP
Japan
Prior art keywords
image
time
processing
display
power saving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021096150A
Other languages
English (en)
Inventor
裕也 江幡
Hironari Ehata
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2021096150A priority Critical patent/JP2022187913A/ja
Priority to US17/833,710 priority patent/US11949981B2/en
Publication of JP2022187913A publication Critical patent/JP2022187913A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/65Control of camera operation in relation to power supply
    • H04N23/651Control of camera operation in relation to power supply for reducing power consumption by affecting camera operations, e.g. sleep mode, hibernation mode or power off of selective parts of the camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/663Remote control of cameras or camera parts, e.g. by remote control devices for controlling interchangeable camera parts based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Eye Examination Apparatus (AREA)
  • Studio Devices (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Exposure Control For Cameras (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)

Abstract

【課題】消費電力を軽減させると同時に、ユーザーにLV表示のちらつきを感じさせない。【解決手段】時系列の画像を取得する画像取得手段と、前記画像取得手段により取得された前記画像の処理を行う画像処理手段と、前記画像処理手段により処理された処理画像を表示する表示手段と、ユーザーの瞼の閉状態を検出する検出手段と、前記検出手段による前記瞼の閉状態の検出に応じて、前記画像処理手段または前記表示手段の消費電力を低減させる省電処理を開始し、前記瞼の閉状態が検出されてから所定時間が経過したタイミングで、前記画像処理手段または前記表示手段の処理再開を指示する制御手段と、を有し、前記所定時間は、あらかじめ定められた前記ユーザーの瞬き時間から、前記省電処理の解除から前記画像処理手段または前記表示手段の処理再開までに要する時間を引いた時間に基づく、ことを特徴とする表示装置。【選択図】図8

Description

本発明は表示装置、撮像装置、表示装置の制御方法、プログラム、および記録媒体に関する。
近年、デジタルカメラ等の撮像装置では、背面モニタやEVF(Electronic
View Finder)などの表示部のライブビュー(以下、LVと称す)表示により被写体を確認して撮影が行われている。LV撮影では、背面モニタやEVFへ表示を行うために、消費電力が大きくなるという課題がある。特許文献1では、遠赤外線センサーで目の開閉時の温度を検出することで瞬きを検知し、瞬き中は画面表示をOFFにすることで消費電力を削減する省電処理方法が提案されている。
特開2013-162407号公報 特開2012-73876号公報
特許文献1では、瞬きが終了した(瞼を開いた)と検知したタイミングで画面表示をONにする。しかしながら、瞬きの終了を検知し処理を反映するまでにタイムラグが生じるため、ユーザーが目を開いた時点で黒画像が表示され、画面がちらついて見える可能性がある。
本発明は、上記課題に鑑みてなされたものであり、表示画像のちらつきを低減しつつ、瞬き中の消費電力を低減させることを目的とする。
本発明の第1の態様は、
時系列の画像を取得する画像取得手段と、
前記画像取得手段により取得された前記画像の処理を行う画像処理手段と、
前記画像処理手段により処理された処理画像を表示する表示手段と、
ユーザーの瞼の閉状態を検出する検出手段と、
前記検出手段による前記瞼の閉状態の検出に応じて、前記画像処理手段または前記表示手段の消費電力を低減させる省電処理を開始し、前記瞼の閉状態が検出されてから所定時間が経過したタイミングで、前記画像処理手段または前記表示手段の処理再開を指示する制御手段と、
を有し、
前記所定時間は、あらかじめ定められた前記ユーザーの瞬き時間から、前記省電処理の解除から前記画像処理手段または前記表示手段の処理再開までに要する時間を引いた時間に基づく、
ことを特徴とする表示装置である。
本発明の第2の態様は、
表示装置の制御方法であって、
時系列の画像を取得するステップと、
取得された前記画像を処理するステップと、
処理された処理画像を表示するステップと、
ユーザーの瞼の閉状態を検出するステップと、
前記瞼の閉状態の検出に応じて、前記画像を処理するステップまたは前記画像を表示するステップによる消費電力を低減させる省電処理を開始し、前記瞼の閉状態が検出されてから所定時間が経過したタイミングで、前記画像を処理するステップまたは前記画像を表示するステップの処理再開を指示するステップと、
を含み、
前記所定時間は、あらかじめ定められた前記ユーザーの瞬き時間から、前記省電処理の解除から前記画像を処理するステップまたは前記表示を表示するステップの処理再開までに要する時間を引いた時間に基づく、
ことを特徴とする表示装置の制御方法である。
本発明の第3の態様は、上述した表示装置の制御方法の各ステップをコンピュータに実行させるためのプログラムである。
本発明の第4の態様は、上述した表示装置の制御方法の各ステップをコンピュータに実行させるためのプログラムを格納したコンピュータが読み取り可能な記録媒体である。
本発明の第5の態様は、
被写体の画像を取得する撮像手段と、
前記画像取得手段により取得された前記画像の処理を行う画像処理手段と、
前記画像処理手段により処理された処理画像を表示する表示手段と、
ユーザーの瞼の閉状態を検出する検出手段と、
前記検出手段による前記瞼の閉状態の検出に応じて、前記画像処理手段または前記表示手段の消費電力を低減させる省電処理を開始し、前記瞼の閉状態が検出されてから所定時間が経過したタイミングで、前記画像処理手段または前記表示手段の処理再開を指示する制御手段と、
を有し、
前記所定時間は、あらかじめ定められた前記ユーザーの瞬き時間から、前記省電処理の解除から前記画像処理手段または前記表示手段の処理再開までに要する時間を引いた時間に基づく、
ことを特徴とする撮像装置である。
本発明によれば、消費電力を低減させると同時に、表示画像のちらつきを低減可能である。
実施例1に係るカメラの断面図である。 実施例1に係るカメラの外観図である。 実施例1に係るカメラのブロック図である。 実施例1に係るファインダ内視野を示す図である。 実施例1に係る視線検出方法の原理を説明するための図である。 実施例1に係る眼画像を示す図である。 実施例1に係る視線検出動作のフローチャートである。 実施例1に係る瞬き省電処理のフローチャートである。 実施例1に係る瞬き省電時のLV画像と眼画像を示す図である。 実施例1に係る瞬き省電時のLV画像を示す図である。
<実施例1>
以下、添付の図面を参照して本発明の好適な実施形態を、デジタルスチルカメラを例に説明する。ただし、本実施形態は、デジタルスチルカメラに限定されるものなく、例えばデジタルビデオカメラやヘッドマウントディスプレイ、メガネ型ディスプレイなどにも適応可能である。
<構成の説明>
図1は、図2(a)で図示したY軸とZ軸が成すYZ平面でカメラ筐体を切った断面図で
あり、本発明におけるデジタルスチルカメラ1の構成の概略を示した説明図である。図1及び図2において、対応する部位は同じ番号で表記されている。
撮影レンズユニット1A内には、2枚のレンズ101,102、絞り111、絞り駆動部112、レンズ駆動モーター113、レンズ駆動部材114、フォトカプラー115、パルス板116、マウント接点117、焦点調節回路118等が含まれている。本実施例では、簡単のために2枚のレンズ101,102を示したが、実際は2枚より多くのレンズが撮影レンズユニット1A内に含まれている。レンズ駆動部材114は駆動ギヤ等からなり、フォトカプラー115は、レンズ駆動部材114に連動するパルス板116の回転を検知して、焦点調節回路118に伝える。焦点調節回路118は、フォトカプラー115からの情報と、カメラ筐体1Bからの情報(レンズ駆動量の情報)とに基づいてレンズ駆動モーター113を駆動し、レンズ101を移動させて合焦位置を変更する。マウント接点117は、撮影レンズユニット1Aとカメラ筐体1Bとのインターフェイスである。
カメラ筐体1B内には、撮像素子2、CPU3、メモリ部4、表示素子10(表示手段)、表示素子駆動回路11等が含まれている。撮像素子2(画像取得手段;撮像手段)は、撮影レンズユニット1Aの予定結像面に配置されている。CPU3は、マイクロコンピュータの中央処理部であり、デジタルスチルカメラ1全体を制御する。メモリ部4は、撮像素子2により撮像された時系列の画像等を記憶する。表示素子10は、液晶等で構成されており、撮像された画像(被写体像)等を表示素子10の表示面に表示する。表示素子駆動回路11は、表示素子10を駆動する。ユーザーは、接眼レンズ12を通して、表示素子10の表示面を見ることができる。
カメラ筐体1B内には、光源13a,13b、光分割器15、受光レンズ16、眼球用撮像素子17等も含まれている。光源13a,13bは、光の角膜反射による反射像(角膜反射像;プルキニエ像)と瞳孔の関係から視線方向を検出するために従来から一眼レフカメラ等で用いられている光源であり、ユーザーの眼球14を照明するための光源である。具体的には、光源13a,13bは、ユーザーに対して不感の赤外光を発する赤外発光ダイオード等であり、接眼レンズ12の周りに配置されている。照明された眼球14の光学像(眼球像;光源13a,13bから発せられて眼球14で反射した反射光による像)は、接眼レンズ12を透過し、光分割器15で反射される。そして、眼球像は、受光レンズ16によって、CMOS等の光電素子列を2次元的に配した眼球用撮像素子17上に結像される。受光レンズ16は、眼球14の瞳孔と眼球用撮像素子17を共役な結像関係に位置付けている。後述する所定のアルゴリズムにより、眼球用撮像素子17上に結像された眼球像における角膜反射像の位置から、眼球14の視線方向(表示素子10の表示面における視点(視点位置;視線位置)が検出される。
図2は、本発明におけるデジタルスチルカメラ1の外観を示している。図2(A)は正面斜視図、図2(B)は背面斜視図である。デジタルスチルカメラ1は本実施例においては、図2(A)の正面斜視図に示すように、撮影レンズ1A及びカメラ筐体1Bで構成されている。カメラ筐体1Bには、ユーザー(撮影者)からの撮像操作を受ける操作部材であるレリーズボタン5が配置されている。また、図2(B)の背面斜視図で示すように、
カメラ筐体1Bの背面には、カメラ筐体1B内に含まれている表示素子10(表示パネル)をユーザーが覗き込むための接眼レンズ12(接眼光学系)が配置されている。なお、接眼光学系には複数枚のレンズが含まれていてもよい。カメラ筐体1Bの背面には、ユーザーからの各種操作を受け付ける操作部材41~43も配置されている。例えば、操作部材41は、タッチ操作を受け付けるタッチパネルである。また、操作部材41は液晶パネル等の表示パネルを備えており、表示パネルで画像を表示する機能を有する。操作部材42は、図3(C)に示すように、各方向に押し倒し可能な操作レバーである。操作部材43は、4方向のそれぞれに押し込み可能な4方向キー(ボタン式十字キー)である。
図3は前記構成のデジタルスチルカメラに内蔵された電気的構成を示すブロック図であり、図1と同一のものは同一番号をつけている。CPU3には、視線検出回路201、測光回路202、自動焦点検出回路203、信号入力回路204、表示素子駆動回路11、照明光源駆動回路205、追尾回路207、認識回路208、画像処理回路209、音声入力部210が接続されている。また、CPU3は、撮影レンズユニット1A内に配置された焦点調節回路118と、撮影レンズユニット1A内の絞り駆動部112に含まれた絞り制御回路206とに、マウント接点117を介して信号を伝達する。CPU3に付随したメモリ部4は、撮像素子2および眼球用撮像素子17からの撮像信号の記録機能及び、後述する視線の個人差を補正する視線補正データの記録機能を有している。
視線検出回路201は、眼球用撮像素子17(CCD―EYE)からの眼球像が結像することによる出力をA/D変換し、この像情報をCPU3に送信する。CPU3(視線検出手段)は、視線検出に必要な眼球像の各特徴点を後述する所定のアルゴリズムに従って抽出し、更に各特徴点の位置からユーザーの視点位置(視線)を検出する。
測光回路202は、測光センサーの役割も兼ねる撮像素子2から得られる信号を元に、被写界の明るさに対応した輝度信号出力の増幅、対数圧縮、A/D変換し、被写界輝度情報として、CPU3に送る。
自動焦点検出回路203は、撮像素子2におけるCCDの中に含まれる、位相差検出の為に使用される複数の画素からの信号電圧をA/D変換し、CPU3に送る。CPU3は前記複数の画素の信号から、各焦点検出ポイントに対応する被写体までの距離を演算する。これは撮像面位相差AFとして知られる公知の技術である。本実施例では、一例として、図4のファインダ内視野像で示した箇所に対応する撮像面上の位置に180か所の焦点検出ポイントがあるとする。
信号入力回路204には、レリーズボタン5の第1ストロークでONし、デジタルスチルカメラ1の測光、測距、視線検出動作等を開始するためのスイッチSW1が接続されている。また、信号入力回路204には、レリーズボタン5の第2ストロークでONし、撮影動作を開始するためのスイッチSW2が接続されている。スイッチSW1,SW2からのON信号が信号入力回路204に入力され、CPU3に送信される。前述した操作部材41~43の操作信号は、CPU3に伝わる構成となっており、操作部材41~43の操作信号に応じて後述する推定注視点枠位置の移動操作制御等が行われる。
追尾回路207は、CPU3の制御により、画像を入力して、被写体を追尾する回路であり、画像情報の追尾枠の情報をCPU3に送信する。なお、追尾処理は、例えば、SAD(Sum Of Absolute Difference)により、2枚の画像間の類似度を求めて追尾が行われる。また、追尾回路207には、SAD以外の追尾処理を用いても良い。
認識回路208は、入力画像に対して、被写体認識する回路であり、例えば人物の顔検
出や動物の検出を行う。
画像処理回路209(画像処理手段)は、各種画像処理部及びバッファメモリ等から構成されており、取得された画像データに対して、倍率色収差補正、現像処理、ノイズリダクション処理、幾何変形、拡縮といったリサイズなどの処理を適切に行う。その他、画像処理回路209は、画像データに対して画素補正、黒レベル補正、シェーディング補正、傷補正などを適正に行う補正部等も備える。画像処理回路209によって処理された処理画像は、表示素子10により表示される。
音声入力部210は、内蔵されたマイクまたは音声入力端子を介して接続された音声入力装置から音声を取得し、取得した音声をCPU3に送る。CPU3は、入力された音声信号を必要に応じて選択し、アナログデジタル変換を行い、レベルの適正化処理、特定周波数の低減処理当をして音声信号を生成する。
図4は、ファインダ視野内を示した図で、表示素子10が動作した状態を示す。図4において、300は視野マスク、400は焦点検出領域、4001~4180は表示素子10に示されるスルー画像に、前記撮像面上における複数の焦点検出ポイントに対応する位置に重ねて表示した180個の測距点視標を示す。また、それらの指標の内、現在の推定注視点位置に対応する指標を図における推定注視点Aのように枠を出現させた表示を行う。
<視線検出動作の説明>
図5,6(A),6(B),7を用いて、実施例1に係る視線検出方法および瞬き検知方法について説明する。
図5は、視線検出方法の原理を説明するための図であり、前述の図1の視線検出を行うための光学系の要約図に相当する。図5において、13a、13bはユーザーに対して不感の赤外光を放射する発光ダイオード等の光源であり、各光源は受光レンズ16の光軸に対して略対称に配置されユーザーの眼球14を照らしている。眼球14で反射した照明光の一部は受光レンズ16によって、眼球用撮像素子17に集光する。
図6(A)は眼球用撮像素子17に投影される眼画像(眼球用撮像素子17で撮像された眼球画像)の概略図であり、同図(B)は眼球用撮像素子17におけるCCDの出力強度図である。
図7は、実施例1に係る視線検出動作の概略フローチャートである。図7では、視線検出方法および瞬き検知の判別方法について説明する。
ステップS001では、光源13a、13bはユーザーの眼球14に向けて赤外光を放射する。上記赤外光によって照明されたユーザーの眼球像は、眼球用撮像素子17上に受光レンズ16を通して結像し、眼球用撮像素子17により光電変換される。これにより、眼球像は電気信号として処理が可能となる。
ステップS002では、眼球用撮像素子17から得られた眼画像(眼画像信号;眼画像の電気信号)をCPU3に送る。
ステップS003では、CPU3は、図5に示す光源13a、13bの角膜反射像Pd,Peの検出有無を判定する。角膜反射像Pd,Peが検出された場合にはステップS004へ進み、検出されない場合にはステップS010へ進む。すなわち、CPU3は、表示手段(表示素子10)に対するユーザーの視点位置を検出する視線検出手段でもあり、
ユーザーの瞼の閉状態を検出する検出手段でもある。CPU3は、視点位置が検出されない(角膜反射像Pd,Peが検出されない)場合に、瞼の閉状態(瞬き)を検出する。なお、瞬きの検知方法はこれに限られず他の方法を用いてもよく、例えば眼球表面温度の変化により瞬きを検知してもよいし、画像認識により瞬きを検知してもよい。
ステップS004では、CPU3は、S002で得られた眼画像から、図5に示す光源13a、13bの角膜反射像Pd,Pe及び瞳孔中心cに対応する点の座標を求める。光源13a、13bより放射された赤外光は、ユーザーの眼球14の角膜142を照明する。このとき、角膜142の表面で反射した赤外光の一部により形成される角膜反射像Pd,Peは受光レンズ16により集光され、眼球用撮像素子17上に結像する(図示の点Pd’,Pe’)。同様に瞳孔141の端部a、bからの光束も眼球用撮像素子17上に結像する。
図6(B)は、眼球用撮像素子17から得られる、図6(A)の眼画像における領域αの輝度情報(輝度分布)を示す。図6(B)では、眼画像の水平方向をX軸方向、垂直方向をY軸方向とし、X軸方向の輝度分布が示されている。このとき、光源13a、13bの角膜反射像が結像した像Pd’,Pe’のX軸方向(水平方向)の座標をXd,Xeとする。また、瞳孔14bの端部a、bからの光束が結像した像a’,b’のX軸方向の座
標をXa、Xbとする。図6(B)の輝度情報例において、光源13a、13bの角膜反射像が結像した像Pd’,Pe’に相当する位置Xd,Xeでは、極端に強いレベルの輝
度が得られている。瞳孔141の領域に相当する、座標XaからXbの間の領域は、上記Xd、Xeの位置を除き、極端に低いレベルの輝度が得られる。これに対し、瞳孔141
の外側の光彩143の領域に相当する、Xaより低いX座標の値を持つ領域及びXbより高いX座標の値を持つ領域では、前記2種の輝度レベルの中間の値が得られる。上記X座標位置に対する輝度レベルの変動情報から、光源13a、13bの角膜反射像が結像した像Pd’,Pe’のX座標Xd,Xeと、瞳孔端の像a’,b’のX座標Xa、Xbを得ることができる。また、受光レンズ16の光軸に対する眼球14の光軸の回転角θxが小さい場合、眼球用撮像素子17上に結像する瞳孔中心cに相当する箇所(c’とする)の座標Xcは、Xc≒(Xa+Xb)/2と表すことができる。上記より、眼球用撮像素子17上に結像する瞳孔中心に相当するc’のX座標、光源13a、13bの角膜反射像Pd’,Pe’の座標を見積もることができる。
ステップS005では、CPU3は、眼球像の結像倍率βを算出する。βは受光レンズ16に対する眼球14の位置により決まる倍率で、実質的には角膜反射像Pd‘、Pe’の間隔(Xd-Xe)の関数として求めることができる。
ステップS006では、CPU3は、受光レンズ16の光軸に対する眼球14の光軸の回転角を算出する。角膜反射像Pd及びPeの中点のX座標と角膜142の曲率中心OのX座標とはほぼ一致する。このため、角膜142の曲率中心Oと瞳孔141の中心cまでの標準的な距離をOcとすると、眼球14の光軸のZ-X平面内の回転角θxは、以下の式1で算出できる。ユーザーの眼球がX軸に垂直な平面内で回転する場合の回転角θyも、回転角θxと同様の方法で算出できる。
β×Oc×SINθx≒{(Xd+Xe)/2}-Xc ・・・(式1)
ステップS008では、ステップS007において算出した回転角θx、θyを用いて、表示素子10上でユーザーの視点(視線が注がれた位置;ユーザーが見ている位置)を求める。視点の座標(Hx,Hy)が表示素子10上での瞳孔141の中心cに対応する座標(Hx,Hy)であるとすると、視点の座標(Hx,Hy)は以下の式2,3で算出できる。
Hx=m×(Ax×θx+Bx)・・・(式2)
Hy=m×(Ay×θy+By)・・・(式3)
式2,3の係数mはカメラのファインダ光学系の構成で定まる定数で、回転角θx、θyを表示素子10上での瞳孔141の中心cに対応する位置座標に変換する変換係数である。係数mは、あらかじめ決定されてメモリ部4に記録されているとし、ステップS007でメモリ部4から読み込む。また、Ax,Bx,Ay,Byはユーザーの視線の個人差を補正する視線補正係数であり、後述するキャリブレーション作業を行うことで取得され、視線検出ルーチンが開始する前にメモリ部4に記録されているものとする。
ステップS009では、CPU3は、視点の座標(Hx,Hy)をメモリ部4に記録する。このようにして、瞬きが検出されなかった場合の視線検出ルーチンを終える。
一方、ステップS003で瞬きが検出された場合は、ステップS010に進み、瞬きの種類を判定する。ここで、ユーザーの瞬目行為には、音や光などの外部刺激による反射性瞬目、外部刺激によらず無意識に瞼を閉じる自発性瞬目、意識的に瞼を閉じる随意性瞬目、の3種類がある。それぞれの瞬き時間は、反射性瞬目よりも自発性瞬目の方が長く、自発性瞬目よりも随意性瞬目の方が長くなる傾向がある。したがって、瞬きの種類を判別し、瞬きの種類に応じて省電期間を切り替えることで、ユーザーの違和感を抑えつつ省電処理を行うことができる。また、自発性瞬目よりも随意性瞬目の方が瞬き時間が長い傾向があることから、随意性瞬目の場合は自発性瞬目と同じ省電期間を用いても、ユーザーの違和感は少ないと考えられる。そこで、実施例1では、CPU3は、瞬きの種類を反射性瞬目と自発性瞬目に判別し、瞬目の種類をメモリ部4に記録する。
ステップS010では、CPU3は、ステップS003で検出された瞬き(瞼の閉状態)が、反射性瞬目であるか、自発性瞬目であるかを判定する。そこで、CPU3は、ステップS003で瞬きが検出された直前のフレームにおいて、急激な明るさの変化または大きな音が検出されたかどうかにより瞬きの種類を判別するとよい。なお、明るさの変化や音の検出対象とするのは、瞬きが検出された直前のフレームでもよいし、近傍のフレームでもよい。近傍のフレームは、例えば、CPU3が瞬きを検出したフレームから前後数フレーム(数は任意)としてもよい。明るさの変化は、例えば、瞬きが検出されたフレームと、直前または近傍のフレームとの、輝度値の差を用いて判定するとよい。なお、輝度値の差は、各画像全体の平均輝度値を比較してもよいし、特定の領域(例えば画像中心部)を比較してもよいし、他の方法で比較してもよい。大きな音は、例えば、直前または近傍のフレームで音声入力部210が所定のレベル以上の音量を取得したか否かにより判定するとよい。明るさの変化および大きな音の判定方法は一例であり、他の任意の方法を用いることができる。実施例1では、明るさの変化と大きな音の少なくとも一方が検出された場合はステップS011に進み、明るさの変化も大きな音のいずれも検出されない場合はステップS012に進む。
ステップS011では、CPU3は、ステップS003で検出された瞬きを反射性瞬目としてメモリ部4に記録し、視線検出ルーチンを終える。
ステップS012では、CPU3は、ステップS003で検出された瞬きを自発性瞬目としてメモリ部4に記録し、視線検出ルーチンを終える。
上記は光源13a、13bの角膜反射像を利用した表示素子10上での視点座標取得手法を示したが、視点座標の取得方法はこれに限られるものではなく、撮像された眼画像から眼球回転角度を取得する手法であれば本発明は適用可能である。
<キャリブレーション作業>
上述した視線検出ルーチンでは、眼画像から眼球の回転角度θx,θyを取得し、瞳孔中心位置を表示素子10上において対応する位置に座標変換する演算を行って視点位置を推定している。しかし、人間の眼球形状の個人差等の要因により、視点を高精度に推定できないことがある。具体的には、前記視線補正係数Ax,Ay,Bx,Byの値を使用者によって適切な値に調整しなければ、図4(B)に示したように、ユーザーが実際の視点Bと推定された視点Cの位置にずれが生じてしまう。図4(B)では、ユーザーは位置Bの人物に注視しているが、背景が注視されているとカメラ側が誤って推定しており、適切な焦点検出及び調整ができない状態に陥ってしまっている。そこで、カメラによって撮像を行う前に、キャリブレーション作業を行い、ユーザーに適した補正係数の値を取得し、デジタルスチルカメラ1に記憶させる必要がある。
従来、キャリブレーション作業は、撮像前にファインダ視野内に図4(C)のような位置の異なる複数の指標を強調表示し、観察者にその指標を見てもらうことで行われている。各視標注視時に視線検出ルーチンを行い、算出された複数の視点(推定位置)と、各指標の座標とから、ユーザーに適した視線補正係数を求める技術が、公知の技術として知られている。なお、ユーザーの見るべき位置が示唆されれば、指標の表示方法は特に限定されず、指標であるグラフィックが表示されてもよいし、画像(撮像された画像など)の輝度や色の変更で指標が表示されてもよい。
ここで、CPU3は、キャリブレーション時の視線検出ルーチンにおいてユーザーの瞬き時間を測定してもよい。すなわち、CPU3は、瞬き時間測定手段でもある。例えば、自発性の瞬き時間は、CPU3がステップS003で瞬きを検知(角膜反射像が検出されない)しステップS010へ処理を進めてから、以降視線検出ルーチンでステップS004を処理するまでの時間を用いて測定してもよい。また、例えば反射性の瞬き時間は、キャリブレーション時に表示素子10に表示される画像の明るさを明から暗(または明から暗)へ急激に変更し、その際に検出される瞬き時間を用いて測定してもよい。このように、CPU3は、ユーザーの瞬きの種類を判別し、瞬きの種類毎にユーザーの瞬き時間を測定する。なお、実施例1では、CPU3は、瞬き時間の測定をキャリブレーション時に行うが、通常撮影時に随時行ってもよいし、ユーザーの要求に応じて行ってもよい。瞬き時間が複数回測定された場合は、例えば平均値をユーザーの瞬き時間とするとよいが、直前に測定された瞬き時間をユーザーの瞬き時間としてもよい。
図8,9,10を用いて、CPU3が瞬きを検出した際の省電処理を説明する。
<瞬き省電処理フロー>
図8は、デジタルスチルカメラ1において繰り返し実行される処理フローを示すフローチャートである。図8では、消費電力を低減させる省電処理の一例として、CPU3(制御手段)は、画像処理回路209の処理を停止させ、省電処理を行う省電期間を、瞬きの種類に応じて切り替える場合のフローについて説明する。なお、ここでは画像処理回路209に対して省電処理を行う例を示すが、CPU3は表示素子10に対して省電処理を行うように制御してもよいし、画像処理回路209と表示素子10の双方に対して省電処理を行うように制御してもよい。
ステップS101では、CPU3は、メモリ部4から、視線検出ルーチンのステップS011あるいはステップS012の瞬き検出結果を読み込む。
ステップS102では、CPU3は、ステップS101の読み出し結果より、瞬き検知の有無を判定する。「瞬きあり」の場合はステップS103へ進み、「瞬きなし」の場合はステップS101へ戻る。
ステップS103では、CPU3は、メモリ部4の瞬き検出結果に「瞬きなし」を書き込む。次の繰り返し処理において「瞬きあり」の判定が行われないようにするためである。CPU3は、画像処理回路209の処理を停止する指示を出すとともに、瞬き終了タイミング判定用のタイマーを初期化し、タイマーをスタートさせる。すなわち、CPU3は、瞼の閉状態の検出に応じて、画像処理回路209に対して省電処理の開始を指示する。また、ステップS103では、CPU3は、ステップS011またはステップS012でメモリ部4に格納された瞬きの種類に基づいて、あらかじめ定めた瞬き時間のうち、反射性瞬目と自発性瞬目のどちらの瞬き時間を採用するかについても判定する。ここで、反射性瞬目(CPU3が明るさまたは音の急激な変化を検出する場合)の瞬き時間は、自発性の瞬き時間よりも短い。したがって、反射性瞬目の場合の省電期間は、自発性瞬目の場合よりも短くするとよい。このように、実施例1では瞬きの種類に応じた瞬き時間を考慮して、省電期間を定める。これにより、瞬きの種類に合わせた時間内で省電処理を行うことができ、ユーザーの違和感を抑えることができる。なお、省電期間の算出に用いるユーザーの瞬き時間は、キャリブレーション時等に測定されたユーザー毎の瞬き時間(測定値)を用いるとよいが、あらかじめメモリ部4等に記録した一般的な瞬き時間(固定値)を用いてもよい。
ステップS104では、ステップS103で出された省電処理開始の指示に応じて、画像処理回路209の処理が停止する。なお、上述した通り、省電処理の内容はこれに限られない。
ステップS105では、CPU3は、瞬き終了タイミング判定用のタイマーの値より、CPU3が瞬きを検知してから画像処理回路209の省電期間(所定時間)が経過したかどうかを判定する。省電期間を経過していた場合は、画像処理回路209の処理再開を指示し、S106へ進む。省電期間を経過していない場合はS105へ戻る、すなわち、省電期間が経過するまで待つ。ここで、省電期間は、あらかじめ定められたユーザーの瞬き時間から、省電処理の解除から画像処理回路209の処理再開までに要する時間を引いた時間に基づくとよい。すなわち、画像処理回路209の省電処理の開始後、画像処理回路209の処理再開後に処理された画像がユーザーの瞬き終了までに、表示素子10に表示されるように、CPU3は画像処理回路209に対して処理再開を指示するとよい。このようにすることで、ユーザーが瞼を開いたタイミングで表示素子10に新たな画像が表示されており、瞬き終了時にまだ省電処理が行われている(画像が表示されていない)ことによる違和感を抑えることができる。
ステップS106では、ステップS105で出された処理再開の指示に応じて、画像処理回路209が表示素子10に表示するための画像処理を再開する。なお、図8では、画像処理回路209の省電処理フローについて説明したが、表示素子10の省電処理についても、同様に適用することができる。ただし、省電期間は、表示素子10の処理再開に要する時間を考慮して定めると良い。すなわち、表示素子10の省電処理の開始後、画像処理回路209によって処理された画像がユーザーの瞬き終了までに表示素子10に表示されるように、CPU3は表示素子10に対して処理再開を指示すると良い。
<瞬き省電処理時の表示例>
図9は、徒競走の撮影時を想定しており、時系列時刻T1~T7のLV画像およびユーザーの眼画像をフレーム毎に示している。図9(A)は、表示素子10に表示されるLV画像を、図9(B)は、眼球用撮像素子17に結像されるユーザーの眼画像を、図9(C)は各時刻におけるユーザーの瞼の状態およびデジタルスチルカメラ1の処理内容を示している。時刻T1、T7では、ユーザーの瞼が開いていることを示し、時刻T2~T6では、瞼の閉状態、すなわち瞬きをしていることを示している。なお、T4~T5の間には複数フレームが存在する。
次に、図9を用いて、CPU3が瞬きを検出した時の省電処理について説明する。図9では省電処理の一例として、画像処理回路209および表示素子10を停止する場合の処理について説明する。なお、省電処理の内容はあくまで一例であり、これに限られない。図9(C)において、画像処理回路209および表示素子10の処理は、省電処理を「省電ON」、省電処理でないとき(通常時)の処理を「省電OFF」と表記する。また、瞬き時間はユーザー毎の測定値を用いることとする。
時刻T1では、CPU3は瞬きを検知していないため、省電OFF時の処理として、画像処理が行われ、表示素子10上にはLV画像が表示されている。
時刻T2では、眼球用撮像素子17上では瞼の閉状態が撮像されているが、CPU3はまだ瞬きを検知していない。したがって、時刻T2ではまだ、CPU3により省電処理の指示が出されないため、画像処理およびLV表示が行われている。
時刻T3では、CPU3が時刻T2の目の画像を用いて瞬きを検知し、画像処理回路209および表示素子10に対して省電処理を開始する(省電ON)指示を出す(図8・ステップS103に対応)。時刻T3は、省電処理の指示が反映される前のタイミングであるため、画像処理およびLV表示が行われている。すなわち、T3~T4は、CPU3が瞬きを検知してから、省電処理が開始するまでのタイムラグを示している。
時刻T4では、画像処理回路209および表示素子10の省電処理が開始する。すなわち、画像処理回路209は画像処理を停止し(図8・ステップS104に対応)、表示素子10は停止し何も表示しない。
ここで、図9では、CPU3は、ユーザーの瞬き終了時(時刻T7)にLV表示を再開させる。したがって、CPU3は、時刻T7に間に合うように、画像処理回路209および表示素子10の処理再開に要するタイムラグを考慮して、省電処理を解除し(省電OFF)通常時の処理再開の指示を出すとよい。画像処理回路209のタイムラグは、画像処理回路209が処理を再開し、処理画像が表示素子10に表示されるまでの時間を考慮するとよい。また、表示素子10のタイムラグは、表示素子10が処理を再開し画像を表示するまでに要する時間を考慮するとよい。
時刻T5は、CPU3が瞬きを検知してから、ユーザーの瞬き時間から画像処理回路209のタイムラグを引いた時間が経過したタイミングである(図8・ステップS105「YES」)。したがって、CPU3は、画像処理回路209に対して、省電処理を解除し画像処理再開の指示を出す。
時刻T6は、CPU3が瞬きを検知してから、ユーザーの瞬き時間から表示素子10のタイムラグを引いた時間が経過したタイミングである。したがって、CPU3は、表示素子10に対して、省電処理を解除し表示再開の指示を出す。また、時刻T6では、画像処理回路209は、時刻T5で出された処理再開の指示を受け、画像処理を再開する(図8・ステップS106に対応)。なお、時刻T4から時刻T6までは、表示素子10は省電処理中であるため、表示素子10は停止し何も表示しない
時刻T7では、ユーザーは目を開き、表示素子10は通常の処理を再開する。時刻T7では画像処理回路209および表示素子10の省電処理が解除され、画像処理回路209が画像処理を行った画像がLV表示されている。なお、図9では、ユーザーが瞼を開くタイミングに一致するようにLV表示を再開させる例を説明したが、ユーザーが瞼を開く数フレーム前から余裕をもってLV表示が再開するように、CPU3は処理再開の指示を出
してもよい。この場合の省電期間は、例えば、瞬き時間から、処理再開に要するタイムラグと、数フレーム分(余裕を持たせる分)を引いた時間としてもよいし、予め短めに設定した瞬き時間から、処理再開に要するタイムラグを引いた時間としてもよい。ユーザーの実際の瞬き時間が平均的な瞬き時間よりも長いことが想定されるが、このように省電期間を設定することで、ユーザーが瞼を開く前のLV表示の再開をより確実に実現できる。このような場合に生じる違和感もより確実に抑えるためには、例えば図10(詳細は後述)に示すように、画像処理回路209は停止し、表示素子10は停止させない省電処理を採用するとよい。
上述のように、省電期間(実際に処理が反映される期間)は、各部の処理時間を考慮して、それぞれ異なる時間を設定してもよい。例えば、図9では、画像処理回路209は、時刻T3で省電処理開始の指示を、時刻T5で省電処理解除の指示を受け、省電期間は時刻T4~T5である。表示素子10(表示素子駆動回路11)は、時刻T4で省電処理開始の指示を、時刻T6で省電処理解除の指示を受け、省電期間は時刻T4~T6である。このように、画像処理回路209の方が先に省電処理を解除するのは、画像処理回路209の省電期間は、処理画像が表示素子10によって表示されるまでに要する時間も考慮するためである。また、撮像素子2と表示素子10のフレームタイミングが同じとは限らないため、各部の省電期間が異なることも想定される。なお、各部の省電処理の解除から処理再開までに要する時間が、撮像素子2や表示素子10のフレームレートによって異なる場合は、LV表示を再開する時点に間に合うように、フレームレートに応じてCPU3は処理再開の指示を出すとよい。
<省電処理の例>
なお、省電処理の内容はこれに限られない。例えば、画像処理回路209の省電処理では、CPU3は、T4~T6までは、画像処理回路209を停止してもよいし、フレームレートを低下させるように制御してもよい。また、画像処理回路209が複数の処理を含む場合は、CPU3は、画像処理回路209のうち表示に関わる画像処理について省電処理を行うように制御してもよい。
また、表示素子10の省電処理も同様に、図9の上記説明とは異なる省電処理を採用してもよい。例えば、CPU3は、表示素子10の駆動自体を停止してもよいし、表示素子10のフレームレートを低下させてもよいし、黒画像を表示するように制御してもよい。また例えば、CPU3は、画像処理回路209に対する省電処理として、フレームレートを低下する処理が行われている間は、表示素子10のフレームレートも低下するように制御してもよい。
画像処理回路209に対する省電処理として、画像処理回路が停止されている間は、表示素子10は黒画像を表示してもよいし、瞬きが検知された時点のフレーム画像(省電開始前に処理した最後のフレーム画像)を表示してもよい。例えば、ユーザーの瞬き時間がキャリブレーション時に測定した時間よりも短かった場合、表示素子10の省電処理として黒画像を表示していると、瞼を開いたタイミングでは黒画像が表示され、ちらついて見える可能性がある。このような場合は、例えば瞬きが検知された時点のフレーム画像を表示しておくことで、瞬き時間が想定より短い場合でもちらつきの発生を防止することができる。なお、表示する画像はCPU3が瞬きを検知した時点の画像でもよいし、瞬きを検知した直前の画像でもよいし、瞬き検知までのタイムラグを考慮しユーザー瞬き直前に見ていたと想定される時点の画像でもよい。
図10は、図9(A)の時刻T3~T6に表示素子10に表示されるLV画像を例示する。図10では、画像処理回路209を停止する省電処理が行われ(時刻T4~T5)、処理再開後に表示素子10に表示する画像を処理(時刻T6)している間は、CPU3が
瞬きを検知した時刻T3の時点のフレーム画像が表示されている。このようにすることで、表示素子10の駆動も停止する場合(図9)よりも省電効果は劣るものの、より確実にちらつきの発生を抑えることができる。なお、CPU3は、画像処理回路209を停止する省電処理が行われている間には、閾値時間を境に表示素子10の表示方法を変更するように制御してもよい。例えば、CPU3は、画像処理回路209の停止(瞬き検知直後)から閾値時間までは黒画像を表示または表示素子10を停止し、閾値時間の経過後には瞬きが検知された時点のフレーム画像を表示するように制御してもよい。これにより、瞬き中は常に瞬き直前の画像を表示する場合よりも、高い省電効果が得られる。
省電処理の内容は適宜切り替えてもよい。例えば、CPU3は、EVFの表示モード(フレームレート)に応じて省電処理の内容を切り替えてもよい。例えば、EVFの表示モードの一例として、フレームレートの異なる3つのモード、すなわち、滑らか表示モード(120fps)、画質優先表示モード(60fps)、省電表示モード(30fps)がある。各モードで実行する省電処理は、省電効果を優先する表示モードの場合、すなわちフレームレートが低い場合ほど省電効果が大きくなるようにしてもよい。例えば、滑らか表示モードでは省電処理は行わない、画質優先表示モードでは画像処理を行うフレームを間引く、省電表示モードでは画像処理および表示素子10を停止する、としてもよい。このようにすることで、ユーザーの使い方に合わせた省電処理を行うことができる。なお、各表示モード名とフレームレートの値や、実行する省電処理の内容は一例であり、これに限られない。
また、省電期間中の制御対象は画像処理回路209や表示素子10に限られない。例えば、CPU3は、撮像素子2や測光回路202、認識回路208、追尾回路207、自動焦点検出回路203等の消費電力が低減するように制御してもよい。これらの素子・回路に対しても省電処理を行うことで、より高い省電効果が得られる。なお、いずれの場合も、ユーザーが瞼を開いたときには処理再開後の画像が表示素子10に表示されるように、省電期間を定めるとよい。また、CPU3は、省電処理の内容をカメラの動作モードに応じて切り替えてもよい。ここで、カメラの動作モードには、非撮影状態、撮影前準備状態、撮影状態がある。非撮影状態とは、表示素子10にLV画像を表示している状態であり、レリーズボタン5が押されていない状態である。撮影前準備状態とは、撮影前のAFを合わせている状態であり、レリーズボタン5が反押しされている状態である。撮影状態とは、静止画を撮影している状態であり、レリーズボタン5が押されている状態である。撮影状態つまり連写撮影中は、瞬きをしても静止画は撮影する必要がある。したがって瞬き省電処理は、非撮影状態、撮影前準備状態に適応するとよい。例えば、非撮影状態には、非撮影中にオートフォーカス(AF)を行わない非撮影中AFなしモードがある。非撮影中AFなしモードでは、撮像素子2や測光回路202、認識回路208、追尾回路207、自動焦点検出回路203を停止させるか間引くように制御してもよい。
このように、表示モードや動作モードに応じて省電処理を切り替えることで、ユーザーの使い方に適した省電処理を行うことができる。なお、上記モード毎の省電処理はこれに限られず、省電処理の内容を変更、組み合わせてもよい。
以上のように、本実施例では、瞬きを検出して、瞬き時間と各回路の処理再開時間を考慮して処理を再開する。これにより、消費電力を低減させると同時に、表示画像のちらつきを低減することができる。
<変形例>
実施例1では、ユーザーの瞬き時間を計測し、ユーザー毎の瞬き時間を用いて省電期間を算出する例を説明したが、例えば平均的な瞬き時間を予めメモリ部4等に記録させておき、予め記録された瞬き時間を用いて省電期間を算出してもよい。この場合は、ユーザー
の瞬き発生から、CPU3により瞬きが検知されるまでのタイムラグも考慮して、省電期間を設定すると良い。また、実施例1では、瞬きの種類を判別し、瞬きの種類毎に省電期間を使い分ける例を説明したが、瞬きの種類に関わらず同じ瞬き時間を用いてもよい。瞬きの種類に関わらず同じ瞬き時間を用いる場合は、瞬きの種類の判別処理(ステップS010~012)は不要である。これにより、より簡易的な処理で省電処理を行うことができる。
<その他実施例>
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。上述の実施形態の一部を適宜組み合わせてもよい。
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記録媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
3:CPU 4:メモリ部 10:表示素子 17:眼球用撮像素子
209:画像処理回路

Claims (19)

  1. 時系列の画像を取得する画像取得手段と、
    前記画像取得手段により取得された前記画像の処理を行う画像処理手段と、
    前記画像処理手段により処理された処理画像を表示する表示手段と、
    ユーザーの瞼の閉状態を検出する検出手段と、
    前記検出手段による前記瞼の閉状態の検出に応じて、前記画像処理手段または前記表示手段の消費電力を低減させる省電処理を開始し、前記瞼の閉状態が検出されてから所定時間が経過したタイミングで、前記画像処理手段または前記表示手段の処理再開を指示する制御手段と、
    を有し、
    前記所定時間は、あらかじめ定められた前記ユーザーの瞬き時間から、前記省電処理の解除から前記画像処理手段または前記表示手段の処理再開までに要する時間を引いた時間に基づく、
    ことを特徴とする表示装置。
  2. 前記制御手段は、前記表示手段の前記省電処理の開始後、
    前記処理画像が前記ユーザーの瞬き終了までに前記表示手段に表示されるように、前記表示手段に対して処理再開を指示する、
    請求項1に記載の表示装置。
  3. 前記省電処理では、前記制御手段は、前記表示手段を停止または前記表示手段のフレームレートを低下させる、
    請求項1または2に記載の表示装置。
  4. 前記制御手段は、前記画像処理手段の前記省電処理の開始後、
    前記画像処理手段の処理再開後に処理された画像が前記ユーザーの瞬き終了までに前記表示手段に表示されるように、前記画像処理手段に対して処理再開を指示する、
    請求項1から3のいずれか一項に記載の表示装置。
  5. 前記省電処理では、前記制御手段は、前記画像処理手段を停止または前記画像処理手段のフレームレートを低下させる、
    請求項1から4のいずれか一項に記載の表示装置。
  6. 前記画像処理手段に対する前記省電処理として前記画像処理手段が停止されている間は、前記表示手段は、黒画像または前記瞼の閉状態が検出された時点のフレーム画像を表示する、
    請求項4または5に記載の表示装置。
  7. 前記画像処理手段に対する前記省電処理として前記画像処理手段が停止されている間は、前記表示手段は、前記画像処理手段の停止から閾値時間までは黒画像を表示し、前記閾値時間の経過後には前記瞼の閉状態が検出された時点のフレーム画像を表示する、
    請求項4から6のいずれか一項に記載の表示装置。
  8. 前記制御手段は、前記表示手段のフレームレートに応じて前記省電処理の内容を切り替える、
    請求項1から7のいずれか一項に記載の表示装置。
  9. 前記表示手段に対するユーザーの視点位置を検出する視線検出手段と、をさらに有し、
    前記検出手段は、前記視線検出手段により視点位置が検出されない場合に、前記瞼の閉
    状態を検出する、
    請求項1から8のいずれか一項に記載の表示装置。
  10. 前記ユーザーの瞬き時間を測定する瞬き時間測定手段と、をさらに有し、
    前記所定時間の算出に用いる前記ユーザーの瞬き時間は、前記瞬き時間測定手段により測定された瞬き時間に基づく、
    請求項1から9のいずれか一項に記載の表示装置。
  11. 前記表示手段に対するユーザーの視点位置を検出する視線検出手段と、
    前記視線検出手段のキャリブレーションを行うキャリブレーション手段と、をさらに有し、
    前記瞬き時間測定手段は、前記キャリブレーション手段によるキャリブレーション時に前記ユーザーの瞬き時間を測定する、
    請求項10に記載の表示装置。
  12. 前記瞬き時間測定手段は、瞬きの種類を判別し、前記瞬きの種類毎に前記ユーザーの瞬き時間を測定し、
    前記所定時間の算出に用いる前記ユーザーの瞬き時間は、前記瞬きの種類に応じた瞬き時間に基づく、
    請求項10または11に記載の表示装置。
  13. 前記瞬き時間測定手段は、前記瞼の閉状態が検出された直前または近傍のフレームにおける、明るさまたは音の急激な変化の検出有無により、前記瞬きの種類を判別する、
    請求項12に記載の表示装置。
  14. 前記瞬き時間測定手段により明るさまたは音の急激な変化が検出された場合の、前記所定時間の算出に用いる前記ユーザーの瞬き時間は、そうでない場合よりも短い、
    請求項13に記載の表示装置。
  15. 前記画像取得手段は、
    被写体の画像を取得する撮像手段と、を含む、
    請求項1から14のいずれか一項に記載の表示装置。
  16. 表示装置の制御方法であって、
    時系列の画像を取得するステップと、
    取得された前記画像を処理するステップと、
    処理された処理画像を表示するステップと、
    ユーザーの瞼の閉状態を検出するステップと、
    前記瞼の閉状態の検出に応じて、前記画像を処理するステップまたは前記画像を表示するステップによる消費電力を低減させる省電処理を開始し、前記瞼の閉状態が検出されてから所定時間が経過したタイミングで、前記画像を処理するステップまたは前記画像を表示するステップの処理再開を指示するステップと、
    を含み、
    前記所定時間は、あらかじめ定められた前記ユーザーの瞬き時間から、前記省電処理の解除から前記画像を処理するステップまたは前記表示を表示するステップの処理再開までに要する時間を引いた時間に基づく、
    ことを特徴とする表示装置の制御方法。
  17. 請求項16に記載の表示装置の制御方法の各ステップをコンピュータに実行させるためのプログラム。
  18. 請求項16に記載の表示装置の制御方法の各ステップをコンピュータに実行させるためのプログラムを格納したコンピュータが読み取り可能な記録媒体。
  19. 被写体の画像を取得する撮像手段と、
    前記画像取得手段により取得された前記画像の処理を行う画像処理手段と、
    前記画像処理手段により処理された処理画像を表示する表示手段と、
    ユーザーの瞼の閉状態を検出する検出手段と、
    前記検出手段による前記瞼の閉状態の検出に応じて、前記画像処理手段または前記表示手段の消費電力を低減させる省電処理を開始し、前記瞼の閉状態が検出されてから所定時間が経過したタイミングで、前記画像処理手段または前記表示手段の処理再開を指示する制御手段と、
    を有し、
    前記所定時間は、あらかじめ定められた前記ユーザーの瞬き時間から、前記省電処理の解除から前記画像処理手段または前記表示手段の処理再開までに要する時間を引いた時間に基づく、
    ことを特徴とする撮像装置。
JP2021096150A 2021-06-08 2021-06-08 表示装置、撮像装置、表示装置の制御方法、プログラム、および記録媒体 Pending JP2022187913A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021096150A JP2022187913A (ja) 2021-06-08 2021-06-08 表示装置、撮像装置、表示装置の制御方法、プログラム、および記録媒体
US17/833,710 US11949981B2 (en) 2021-06-08 2022-06-06 Display device, method for controlling display device, and non-transitory computer readable medium for reducing power consumption relating to image display

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021096150A JP2022187913A (ja) 2021-06-08 2021-06-08 表示装置、撮像装置、表示装置の制御方法、プログラム、および記録媒体

Publications (1)

Publication Number Publication Date
JP2022187913A true JP2022187913A (ja) 2022-12-20

Family

ID=84284477

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021096150A Pending JP2022187913A (ja) 2021-06-08 2021-06-08 表示装置、撮像装置、表示装置の制御方法、プログラム、および記録媒体

Country Status (2)

Country Link
US (1) US11949981B2 (ja)
JP (1) JP2022187913A (ja)

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4177212B2 (ja) * 2003-09-08 2008-11-05 インターナショナル・ビジネス・マシーンズ・コーポレーション プログラム、記録媒体、情報処理装置、及び選択方法
TWI332647B (en) * 2007-11-20 2010-11-01 Au Optronics Corp Liquid crystal display device with dynamically switching driving method to reduce power consumption
JP2012073876A (ja) 2010-09-29 2012-04-12 Fujitsu Ltd 電子機器、状態制御プログラム、および状態制御方法
US9081416B2 (en) * 2011-03-24 2015-07-14 Seiko Epson Corporation Device, head mounted display, control method of device and control method of head mounted display
JP5936379B2 (ja) 2012-02-07 2016-06-22 シャープ株式会社 画像表示装置
TW201430548A (zh) * 2013-01-28 2014-08-01 Hon Hai Prec Ind Co Ltd 電子裝置及其節能方法
KR102068049B1 (ko) * 2013-05-13 2020-01-20 삼성전자주식회사 영상 처리 장치 및 영상 처리 방법
US9736373B2 (en) * 2013-10-25 2017-08-15 Intel Corporation Dynamic optimization of light source power
DE102017213177A1 (de) * 2017-07-31 2019-01-31 Audi Ag Verfahren zum Betreiben eines Bildschirms eines Kraftfahrzeugs sowie Kraftfahrzeug

Also Published As

Publication number Publication date
US20220394187A1 (en) 2022-12-08
US11949981B2 (en) 2024-04-02

Similar Documents

Publication Publication Date Title
JP2018129659A (ja) 画像処理装置、撮像装置および制御方法
JP7358530B2 (ja) 被写体認識装置及び被写体認識装置の制御方法
US11509816B2 (en) Image processing apparatus, image pickup apparatus, and control method of image processing apparatus
JP2024003037A (ja) 電子機器、電子機器の制御方法、プログラムおよび記憶媒体
JP2022187913A (ja) 表示装置、撮像装置、表示装置の制御方法、プログラム、および記録媒体
WO2021210235A1 (ja) 電子機器
JP2023004678A (ja) 処理装置及びその制御方法
JP2021125867A (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、およびプログラム
JP2004215062A (ja) 撮像装置
US20230142934A1 (en) Electronic device, control method of electronic device, and non-transitory computer readable medium
US20240114228A1 (en) Line-of-sight detecting apparatus, image pickup apparatus, line-of-sight detecting method, and storage medium
US11829052B2 (en) Gaze detection apparatus, gaze detection method, and non-transitory computer readable medium
US20240085979A1 (en) Recording device, image-capturing apparatus, control method, and recording system
US20230336862A1 (en) Electronic device, control method, and non-transitory computer readable medium
US20230186520A1 (en) Gaze detection apparatus
US11553128B2 (en) Image pickup control device, image pickup device, control method for image pickup device, non-transitory computer-readable storage medium
US20230396876A1 (en) Apparatus, method for apparatus, image capturing apparatus, and storage medium
JP2022185313A (ja) 撮像装置
JP2018042155A (ja) 表示装置及びその制御方法
JP2023063023A (ja) 電子機器及び電子機器の制御方法
JP2023083695A (ja) 電子機器
JP2024003432A (ja) 電子機器
JP2952070B2 (ja) 視線検出装置および視線検出手段を備えた光学機器
JP3624030B2 (ja) 視線検出装置及び光学装置
JP2022171084A (ja) 撮像装置及びその制御方法、並びにプログラム