JP2021114731A - 撮像制御装置及びその制御方法 - Google Patents

撮像制御装置及びその制御方法 Download PDF

Info

Publication number
JP2021114731A
JP2021114731A JP2020007424A JP2020007424A JP2021114731A JP 2021114731 A JP2021114731 A JP 2021114731A JP 2020007424 A JP2020007424 A JP 2020007424A JP 2020007424 A JP2020007424 A JP 2020007424A JP 2021114731 A JP2021114731 A JP 2021114731A
Authority
JP
Japan
Prior art keywords
line
user
sight
state
control device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020007424A
Other languages
English (en)
Inventor
昌悟 藤原
Shogo Fujiwara
昌悟 藤原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2020007424A priority Critical patent/JP2021114731A/ja
Priority to US17/152,295 priority patent/US11385711B2/en
Publication of JP2021114731A publication Critical patent/JP2021114731A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/53Constructional details of electronic viewfinders, e.g. rotatable or detachable
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/675Focus control based on electronic image sensor signals comprising setting of focusing regions

Abstract

【課題】動画の記録中に視線による処理の実行を行う際に、ユーザの意図しない処理が実行される可能性を低減させる。【解決手段】撮像制御装置は、ユーザの視線位置を検出する視線検出手段と、前記視線検出手段により検出された視線位置に応じて、撮影に関する特定の処理を行う領域を設定する設定手段と、動画の記録中において、撮像画像と撮像手段に所定以上の変化がない第1の状態の場合には、前記ユーザの視線位置に基づき前記特定の処理を行う領域を設定せず、前記第1の状態とは異なる、所定の条件を満たす第2の状態の場合には、前記視線検出手段により検出された前記ユーザの視線位置に基づいて前記特定の処理を行う領域を設定するように制御する制御手段と、を有することを特徴とする。【選択図】図3

Description

本発明は、撮像制御装置に関し、特に視線入力で特定の処理を行う技術に関するものである。
従来、ユーザの視線の位置を検出し、視線位置に応じて処理を行う技術がある。特許文献1には、検出された視線の位置に応じて撮影者が注視している測距領域を選択することが開示されている。特許文献2には、瞬きまたはうなずきが検出されたときのユーザの視線位置に対応するメニュー項目が選択されることが開示されている。
特開2002−82278号公報 特開2009−251658号公報
動画の記録中では、特許文献1の方法では、撮影処理において、検出された視線に応じて測距領域を選択した場合、ユーザが撮影対象としている被写体から他の被写体に視線を移してしまうと、測距領域もユーザの意図に反して他の被写体に移動してしまう。そこで、特許文献2のように瞬きやうなずきに応じて測距領域を選択すると、瞬きやうなずきの瞬間に、視線位置またはカメラの位置がずれてしまい、ユーザの意図しない領域が測距領域として選択されてしまう可能性がある。
本発明は、上記の課題に鑑み、動画の記録中に視線による処理の実行を行う際に、ユーザの意図しない処理が実行される可能性を低減させることのできる撮像制御装置を提供することである。
上記課題を解決するために、本発明の撮像制御装置は、
ユーザの視線位置を検出する視線検出手段と、
前記視線検出手段により検出された視線位置に応じて、撮影に関する特定の処理を行う領域を設定する設定手段と、
動画の記録中において、撮像画像と撮像手段に所定以上の変化がない第1の状態の場合には、前記ユーザの視線位置に基づき前記特定の処理を行う領域を設定せず、
前記第1の状態とは異なる、所定の条件を満たす第2の状態の場合には、前記視線検出手段により検出された前記ユーザの視線位置に基づいて前記特定の処理を行う領域を設定するように制御する制御手段と、
を有することを特徴とする。
本発明によれば、動画の記録中に視線による処理の実行を行う際に、ユーザの意図しない処理が実行される可能性を低減させることができる。
本実施形態におけるデジタルカメラの外観図。 本実施形態におけるデジタルカメラの構成例を示すブロック図。 本実施形態における撮影処理でのAF対象選択制御を例示するフローチャート。 本実施形態における視線入力に基づくAF対象選択が無効な場合の表示例を示す図。 本実施形態における視線入力に基づくAF対象選択が有効な場合の表示例を示す図。 本実施形態における視線入力に基づいてAF対象を選択する場合の表示例を示す図。
<デジタルカメラの外観図>
以下、図面を参照して本発明の好適な実施形態を説明する。図1(A)および図1(B)に本発明を適用可能な撮像制御装置の一例としてのデジタルカメラ100の外観図を示す。図1(A)はデジタルカメラ100の前面斜視図であり、図1(B)はデジタルカメラ100の背面斜視図である。
表示部28は、デジタルカメラ100の背面に設けられた表示部であり、画像や各種情報を表示する。タッチパネル70aは、表示部28の表示面(タッチ操作面)に対するタッチ操作を検出することができる。ファインダー外表示部43は、デジタルカメラ100の上面に設けられた表示部であり、シャッター速度や絞りをはじめとするデジタルカメラ100の様々な設定値を表示する。シャッターボタン61は、撮影指示を行うための操作部材である。モード切替スイッチ60は、各種モードを切り替えるための操作部材である。端子カバー40は、デジタルカメラ100を外部機器に接続する接続ケーブル等のコネクタ(不図示)を保護するカバーである。
メイン電子ダイヤル71は回転操作部材であり、メイン電子ダイヤル71を回すことで、シャッター速度や絞りなどの設定値の変更等が行える。電源スイッチ72は、デジタルカメラ100の電源のオン及びオフを切り替える操作部材である。サブ電子ダイヤル73は回転操作部材であり、サブ電子ダイヤル73を回すことで、選択枠(カーソル)の移動や画像送りなどを行える。
4方向キー74は、上、下、左、右部分をそれぞれ押し込み可能に構成され、4方向キー74の押した部分に応じた操作が可能である。SETボタン75は、押しボタンであり、主に選択項目の決定などに用いられる。
動画ボタン76は、動画撮影モードにおいては、動画撮影(記録)の開始または停止の指示に用いられる。AEロックボタン77は押しボタンであり、撮影待機状態でAEロックボタン77を押下することにより、露出状態を固定することができる。拡大ボタン78は、撮影モードのライブビュー表示において拡大モードのオンとオフとを切り替えるボタンである。拡大モードをオンとしてメイン電子ダイヤル71を操作することにより、ライブビュー画像を拡大または縮小することができる。また、拡大ボタン78は、再生モードにおいて再生画像を拡大し、拡大率を増加させるボタンとして機能する。
再生ボタン79は、撮影モードと再生モードとを切り替えるための操作ボタンである。撮影モード中に再生ボタン79を押下することで再生モードに移行し、記録媒体200(図2を用いて後述する)に記録された画像のうち、最新の画像を表示部28に表示させることができる。
メニューボタン81は、メニュー画面を表示させる指示操作を行うために用いられる押しボタンであり、メニューボタン81が押されると各種の設定が可能なメニュー画面が表
示部28に表示される。ユーザは、表示部28に表示されたメニュー画面と、4方向キー74またはSETボタン75を用いて直感的に各種設定をすることができる。
通信端子10はデジタルカメラ100が着脱可能なレンズ側と通信を行うための通信端子である。接眼部16は、接眼ファインダー(覗き込み型のファインダー)の接眼部であり、ユーザは、接眼部16を介して内部のEVF(Electric View Finder)29(後述)に表示された映像を視認することができる。接眼検知部57は、接眼部16に撮影者が接眼しているか否かを検知する接眼検知センサーである。
蓋202は記録媒体200を格納したスロットの蓋である。グリップ部90は、ユーザがデジタルカメラ100を構えた際に右手で握りやすい形状とした保持部である。グリップ部90を右手の小指、薬指、中指で握ってデジタルカメラを保持した状態で、右手の人差指で操作可能な位置にシャッターボタン61、メイン電子ダイヤル71が配置されている。また、同じ状態で、右手の親指で操作可能な位置に、サブ電子ダイヤル73が配置されている。
<デジタルカメラのブロック図>
図2は、デジタルカメラ100の構成例を示すブロック図である。レンズユニット150は、交換可能な撮影レンズを搭載するレンズユニットである。レンズ103は通常、複数枚のレンズから構成されるが、図2の例では簡略して一枚のレンズで示している。
通信端子6はレンズユニット150がデジタルカメラ100側と通信を行うための通信端子であり、通信端子10はデジタルカメラ100がレンズユニット150側と通信を行うための通信端子である。レンズユニット150は、これらの通信端子6および通信端子10を介してシステム制御部50と通信する。レンズユニット150は、内部のレンズシステム制御回路4によって絞り駆動回路2を介して絞り1の制御を行う。また、レンズユニット150は、レンズシステム制御回路4によってAF(オートフォーカス)駆動回路3を介して、レンズ103を変位させることで焦点を合わせる。
シャッター101は、システム制御部50の制御で撮像部22の露光時間を自由に制御できるフォーカルプレーンシャッターである。
撮像部22は光学像を電気信号に変換するCCDやCMOS素子等で構成される撮像素子である。A/D変換器23は、撮像部22から出力されるアナログ信号をデジタル信号に変換する。
画像処理部24は、A/D変換器23からのデータ、または、メモリ制御部15からのデータに対し所定の画像処理(画素補間、縮小といったリサイズ処理、色変換処理等)を行う。また、画像処理部24は、撮像した画像データ(撮像画像)を用いて所定の演算処理を行う。システム制御部50は、画像処理部24により得られた演算結果に基づいて、露光制御および測距制御を行う。これにより、TTL(スルー・ザ・レンズ)方式のAF(オートフォーカス)処理、AE(自動露出)処理、EF(フラッシュプリ発光)処理等が行われる。画像処理部24は更に、撮像した画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてTTL方式のAWB(オートホワイトバランス)処理を行う。
メモリ制御部15は、A/D変換器23、画像処理部24、メモリ32間のデータ送受を制御する。A/D変換器23からの出力データは、画像処理部24およびメモリ制御部15を介してメモリ32に書き込まれる。あるいは、A/D変換器23からの出力データは、画像処理部24を介さずにメモリ制御部15を介してメモリ32に書き込まれる。メ
モリ32は、撮像部22によって得られA/D変換器23によりデジタルデータに変換された画像データや、表示部28またはEVF29に表示するための画像データを格納する。メモリ32は、所定枚数の静止画像や所定時間の動画像および音声を格納するのに十分な記憶容量を備えている。
また、メモリ32は画像表示用のメモリ(ビデオメモリ)を兼ねている。メモリ32に書き込まれた表示用の画像データはメモリ制御部15を介して表示部28またはEVF29により表示される。表示部28およびEVF29は、それぞれLCDや有機EL等の表示器上で、メモリ制御部15からの信号に応じた表示を行う。A/D変換器23によってA/D変換されメモリ32に蓄積されたデータを、表示部28またはEVF29に逐次転送して表示することで、ライブビュー表示(LV表示)が行われる。以下、ライブビュー表示で表示される画像をライブビュー画像(LV画像)と称する。
また、表示部28およびEVF29は複数の表示モードを有する。例えば、LV表示を行う撮影モード、撮影した画像および動画を再生する再生モード、各種の設定が可能なメニューモードなどがあり、いずれも操作部70の操作によりユーザが任意に表示モードを切り替えることが可能である。表示モードの切替は、他の操作よりも優先して判定される。このため、表示モードの切替を検知した場合、いずれの処理が行われていても一旦処理を中断し、表示モードに応じた処理が実行される。
視線検出ブロック160は、接眼部16におけるユーザの視線を検出する。視線検出ブロック160は、ダイクロイックミラー162、結像レンズ163、視線検知センサー164、視線検出回路165、赤外発光ダイオード166により構成される。
赤外発光ダイオード166は、ファインダー画面内におけるユーザの視線位置を検出するための発光素子であり、ユーザの眼球(目)161に赤外光を照射する。赤外発光ダイオード166から発した赤外光は眼球(目)161で反射し、その赤外反射光はダイクロイックミラー162に到達する。ダイクロイックミラー162は、赤外光だけを反射して、可視光を透過させる。光路が変更された赤外反射光は、結像レンズ163を介して視線検知センサー164の撮像面に結像する。結像レンズ163は、視線検知光学系を構成する光学部材である。視線検知センサー164は、CCD型イメージセンサー等の撮像デバイスから構成される。
視線検知センサー164は、入射された赤外反射光を電気信号に光電変換して視線検出回路165へ出力する。視線検出回路165は、視線検知センサー164の出力信号に基づき、ユーザの眼球(目)161の動きからユーザの視線位置を検出し、検出情報をシステム制御部50および注視判定部170に出力する。
視線検出ブロック160は、例えば、角膜反射法と呼ばれる方式で視線を検出することができる。角膜反射法は、赤外発光ダイオード166から発した赤外光が眼球(目)161の主に角膜で反射した反射光と、眼球(目)161の瞳孔との位置関係から、視線の向きおよび位置を検出する方式である。視線の向きおよび位置を検出する方式は、角膜反射法に限られず、黒目と白目とで光の反射率が異なることを利用する強膜反射法と呼ばれる方式など、様々な方式が挙げられる。視線検出ブロック160は、視線の向きおよび位置を検出できる方式であれば、上記以外の方式を用いてもよい。
注視判定部170は、視線検出回路165から受け取った検出情報を元に、撮影者の視線がある領域に固定されている時間が所定の閾値を越えた場合に、その領域を注視していると判定する。所定の閾値は、例えば、ユーザ操作に応じて、システム制御部50が有する注視判定時間制御部171により設定および変更可能である。
ファインダー外表示部43には、ファインダー外表示部駆動回路44を介して、シャッター速度や絞りをはじめとするカメラの様々な設定値が表示される。
不揮発性メモリ56は、電気的に消去・記録可能なメモリであり、例えばFlash−ROM等である。不揮発性メモリ56には、システム制御部50の動作用の定数、プログラム等が記録される。ここでいう、プログラムとは、本実施形態にて後述する各種フローチャートを実行するためのプログラムのことである。
システム制御部50は、少なくとも1つのプロセッサーまたは回路からなる制御部であり、デジタルカメラ100全体を制御する。システム制御部50は、前述した不揮発性メモリ56に記録されたプログラムを実行することで、後述する本実施形態の各処理を実現する。システムメモリ52は、例えばRAMであり、システム制御部50は、システム制御部50の動作用の定数、変数、不揮発性メモリ56から読み出したプログラム等をシステムメモリ52に展開する。また、システム制御部50は、メモリ32、表示部28等を制御することにより表示制御も行う。
また、システム制御部50は、被写体認識部172を備える。被写体認識部172は、画像処理部24により行われる演算結果から、表示部28画角内にある少なくとも1つの被写体を認識することが可能である。
システムタイマー53は、各種制御に用いる時間や、内蔵された時計の時間を計測する計時部である。
モード切替スイッチ60は、システム制御部50の動作モードを静止画撮影モード、動画撮影モード、再生モード等のいずれかに切り替える。静止画撮影モードに含まれるモードとして、オート撮影モード、オートシーン判別モード、マニュアルモード、絞り優先モード(Avモード)、シャッター速度優先モード(Tvモード)、プログラムAEモード(Pモード)、がある。また、撮影シーン別の撮影設定となる各種シーンモード、カスタムモード等がある。モード切替スイッチ60により、ユーザは、これらのモードのいずれかに直接切り替えることができる。あるいは、モード切替スイッチ60で撮影モードの一覧画面に一旦切り替えた後に、表示された複数のモードのいずれかに、他の操作部材を用いて選択的に切り替えるようにしてもよい。同様に、動画撮影モードにも複数のモードが含まれていてもよい。
シャッターボタン61は、第1シャッタースイッチ62と第2シャッタースイッチ64を備える。第1シャッタースイッチ62は、シャッターボタン61の操作途中、いわゆる半押し(撮影準備指示)でオンとなり第1シャッタースイッチ信号SW1を発生する。システム制御部50は、第1シャッタースイッチ信号SW1により、AF(オートフォーカス)処理、AE(自動露出)処理、AWB(オートホワイトバランス)処理、EF(フラッシュプリ発光)処理等の撮影準備動作を開始する。
第2シャッタースイッチ64は、シャッターボタン61の操作完了、いわゆる全押し(撮影指示)でオンとなり、第2シャッタースイッチ信号SW2を発生する。システム制御部50は、第2シャッタースイッチ信号SW2により、撮像部22からの信号読み出しから、撮像された画像を画像ファイルとして記録媒体200に書き込むまでの、一連の撮影処理の動作を開始する。
操作部70は、ユーザからの操作(ユーザ操作)を受け付ける入力部であり、システム制御部50に各種の動作指示を入力するために使用される。図2に示すように、操作部7
0は、モード切替スイッチ60、シャッターボタン61、電源スイッチ72、タッチパネル70a等を含む。また、操作部70は、その他の操作部材として、以下の操作部材を含む。すなわち、操作部70は、メイン電子ダイヤル71、サブ電子ダイヤル73、4方向キー74、SETボタン75、動画ボタン76、AEロックボタン77、拡大ボタン78、再生ボタン79、メニューボタン81等を含む。
電源制御部80は、電池検出回路、DC−DCコンバータ、通電するブロックを切り替えるスイッチ回路等により構成され、電池の装着の有無、電池の種類、電池残量の検出等を行う。また、電源制御部80は、その検出結果及びシステム制御部50の指示に基づいてDC−DCコンバータを制御し、必要な電圧を必要な期間、記録媒体200を含む各部へ供給する。電源部30は、アルカリ電池やリチウム電池等の一次電池やNiCd電池やNiMH電池、Li電池等の二次電池、ACアダプター等からなる。
記録媒体I/F18は、メモリカードやハードディスク等の記録媒体200とのインターフェースである。記録媒体200は、撮影された画像を記録するためのメモリカード等の記録媒体であり、半導体メモリや磁気ディスク等から構成される。
通信部54は、無線または有線ケーブルによって接続された外部機器との間で、映像信号や音声信号の送受信を行う。通信部54は無線LAN(Local Area Network)やインターネットとも接続可能である。また、通信部54は、Bluetooth(登録商標)やBluetooth Low Energyでも外部機器と通信可能である。通信部54は撮像部22で撮像した画像(LV画像を含む)や、記録媒体200に記録された画像を送信可能であり、外部機器から画像データやその他の各種情報を受信することができる。
姿勢検知部55は、重力方向に対するデジタルカメラ100の姿勢を検知する。姿勢検知部55で検知された姿勢に基づいて、撮像部22で撮影された画像が、デジタルカメラ100を横に構えて撮影された画像であるか、縦に構えて撮影された画像であるかを判別可能である。システム制御部50は、姿勢検知部55で検知された姿勢に応じた向き情報を撮像部22で撮像された画像の画像ファイルに付加したり、画像を回転して記録したりすることが可能である。姿勢検知部55としては、加速度センサーやジャイロセンサーなどを用いることができる。姿勢検知部55である加速度センサーやジャイロセンサーを用いて、デジタルカメラ100の動き(パン、チルト、持ち上げ、静止しているか否か等)を検知することも可能である。
接眼検知部57は、ファインダーの接眼部16に対する目(物体)161の接近(接眼)および離脱(離眼)を検知する(接近検知)、接眼検知センサーである。システム制御部50は、接眼検知部57で検知された状態に応じて、表示部28とEVF29の表示(表示状態)/非表示(非表示状態)を切り替える。より具体的には、少なくとも撮影待機状態で、表示先の切替設定が自動切替である場合において、非接眼中は表示先を表示部28として表示をオンとし、EVF29は非表示とする。また、接眼中は表示先をEVF29として表示をオンとし、表示部28は非表示とする。
接眼検知部57は、例えば赤外線近接センサーを用いることができ、EVF29を内蔵するファインダーの接眼部16への何らかの物体の接近を検知することができる。物体が接近した場合は、接眼検知部57の投光部(図示せず)から投光した赤外線が物体で反射して赤外線近接センサーの受光部(図示せず)で受光される。受光された赤外線の量によって、物体が接眼部16からどの距離まで近づいているか(接眼距離)も判別することができる。このように、接眼検知部57は、接眼部16への物体の近接距離を検知する接眼検知を行う。
なお、接眼検知部57の投光部および受光部は、上述の赤外発光ダイオード166および視線検知センサー164とは別体のデバイスとすることができる。ただし、接眼検知部57の投光部は、赤外発光ダイオード166で兼ねてもよい。また、受光部は、視線検知センサー164で兼ねてもよい。
非接眼状態(非接近状態)から、接眼部16に対して所定距離以内に近づく物体が検出された場合に、接眼されたと検出するものとする。接眼状態(接近状態)から、接近を検知していた物体が所定距離以上離れた場合に、離眼されたと検出するものとする。接眼を検出する閾値と離眼を検出する閾値は、例えばヒステリシスを設けるなどして異なっていてもよい。また、接眼を検出した後は、離眼を検出するまでは接眼状態であるものとする。離眼を検出した後は、接眼を検出するまでは非接眼状態であるものとする。なお、赤外線近接センサーは一例であって、接眼検知部57には、接眼とみなせる目や物体の接近を検知できるものであれば他のセンサーを採用してもよい。
視線入力設定部167は、視線検出回路165による視線検出の有効または無効を設定する。あるいは、視線入力設定部167は、システム制御部50の視線入力に対して実行される処理の有効または無効を設定する。ユーザは、例えば、メニュー設定により、視線検出または視線入力に対して実行される処理の有効または無効を設定することができる。
システム制御部50は、視線検出ブロック160または接眼検知部57からの出力に基づいて、接眼部16への以下の操作、あるいは状態を検出できる。
・接眼部16へ向けられていなかった視線が新たに接眼部16へ向けられたこと。すなわち、視線入力の開始。
・接眼部16へ視線入力している状態であること。
・接眼部16へ注視している状態であること。
・接眼部16へ向けられていた視線を外したこと。すなわち、視線入力の終了。
・接眼部16へ何も視線入力していない状態。
ここで注視とは、ユーザの視線位置が所定時間内に所定の移動量を超えなかった場合のことを指す。
これらの操作・状態や、接眼部16に視線が向いている位置(方向)は内部バスを通じてシステム制御部50に通知され、システム制御部50は通知された情報に基づいて、接眼部16上にどのような操作(視線操作)が行なわれたかを判定する。
タッチパネル70aと表示部28とは一体的に構成することができる。例えば、タッチパネル70aは光の透過率が表示部28の表示を妨げないように構成され、表示部28の表示面の上層に取り付けられる。そして、タッチパネル70aにおける入力座標と、表示部28の表示面上の表示座標とを対応付ける。これにより、あたかもユーザが表示部28上に表示された画面を直接的に操作可能であるかのようなGUI(グラフィカルユーザインターフェース)を提供できる。システム制御部50は、タッチパネル70aへの以下の操作、あるいは状態を検出できる。
・タッチパネル70aにタッチしていなかった指やペンが新たにタッチパネル70aにタッチしたこと、すなわちタッチの開始(以下、タッチダウン(Touch−Down)と称する)。
・タッチパネル70aを指やペンでタッチしている状態(以下、タッチオン(Touch−On)と称する)。
・指やペンがタッチパネル70aをタッチしたまま移動していること(以下、タッチムーブ(Touch−Move)と称する)。
・タッチパネル70aへタッチしていた指やペンがタッチパネル70aから離れた(リリースされた)こと、すなわちタッチの終了(以下、タッチアップ(Touch−Up)と称する)。
・タッチパネル70aに何もタッチしていない状態(以下、タッチオフ(Touch−Off)と称する)。
タッチダウンが検出されると、同時にタッチオンも検出される。タッチダウンの後、タッチアップが検出されない限りは、通常はタッチオンが検出され続ける。タッチムーブが検出された場合も、同時にタッチオンが検出される。タッチオンが検出されていても、タッチ位置が移動していなければタッチムーブは検出されない。タッチしていた全ての指やペンがタッチアップしたことが検出された後は、タッチオフとなる。
これらの操作・状態や、タッチパネル70a上に指やペンがタッチしている位置座標は、内部バスを通じてシステム制御部50に通知される。システム制御部50は、通知された情報に基づいてタッチパネル70a上にどのような操作(タッチ操作)が行なわれたかを判定する。
タッチムーブについてはタッチパネル70a上で移動する指やペンの移動方向についても、位置座標の変化に基づいて、タッチパネル70a上の垂直成分・水平成分毎に判定できる。所定距離以上をタッチムーブしたことが検出された場合はスライド操作が行なわれたと判定するものとする。タッチパネル70a上に指をタッチしたままある程度の距離だけ素早く動かして、そのまま離すといった操作をフリックと呼ぶ。フリックは、言い換えればタッチパネル70a上を指ではじくように素早くなぞる操作である。所定距離以上を、所定速度以上でタッチムーブしたことが検出され、そのままタッチアップが検出されるとフリックが行なわれたと判定できる(スライド操作に続いてフリックがあったものと判定できる)。
更に、複数箇所(例えば2点)を共にタッチして、互いのタッチ位置を近づけるタッチ操作をピンチイン、互いのタッチ位置を遠ざけるタッチ操作をピンチアウトと称する。ピンチアウトとピンチインを総称してピンチ操作(あるいは単にピンチ)と称する。タッチパネル70aは、抵抗膜方式や静電容量方式、表面弾性波方式、赤外線方式、電磁誘導方式、画像認識方式、光センサー方式等、様々な方式のタッチパネルのうちいずれの方式のものであってもよい。タッチパネルに対する接触があったことでタッチがあったと検出する方式や、タッチパネルに対する指やペンの接近があったことでタッチがあったと検出する方式があるが、いずれの方式でもよい。
<AF対象選択制御>
図3〜図6を参照して、本実施形態に係るAF(オートフォーカス)対象選択の制御について説明する。AF対象は、測距領域として選択(設定)される領域または被写体である。ユーザの視線入力に基づいてAF対象が選択されるようにした場合、デジタルカメラ100側が大きく動いたり、被写体に大きな変化があると、ユーザの視線がAF対象としていた被写体から外れてしまう可能性がある。これにより、AF対象がユーザの意図しない被写体になってしまう可能性がある。本実施形態に係るデジタルカメラ100は、撮影処理において、視線入力に基づくAF対象選択を有効にするか無効にするかを切り替えることで、ユーザの意図しないAF対象の移動を抑制することができる。
図3は、撮影処理での視線入力によるAF対象選択制御を例示するフローチャートである。図4は、視線入力に基づくAF対象選択を無効にした場合(ステップS303、ステップS309)におけるEVF29の表示例を示す。図5は、視線入力に基づくAF対象選択を有効にするための条件である所定の状態変化(ステップS304)の具体例を例示
する図である。図6は、視線入力に基づいてAF対象を選択した場合(ステップS305〜S307)におけるEVF29の表示例を示す。
図3のフローチャートにおける各処理は、システム制御部50が、不揮発性メモリ56に格納されたプログラムをシステムメモリ52に展開して実行し、各機能ブロックを制御することにより実現される。
図3のフローチャートは、例えば、デジタルカメラ100が起動され、表示部28またはEVF29の表示モードが撮影モードに切り替えられたことにより開始される。
撮影モードは、動画撮影モードおよび静止画撮影モードを含む。ステップS303からステップS310は、動画撮影モードでの動画撮影中の処理である。ステップS320からステップS323は、動画撮影モードでの動画撮影開始前の処理である。ステップS330からステップS336は、静止画撮影モードでの処理である。
なお、図3の例では、視線入力に基づいてAF対象を選択する処理は、ユーザがAF対象を注視したか否かを判定してAF対象を選択する処理であるものとして説明する。注視とは、ユーザの視線位置が所定時間内に所定の移動量を超えなかった状態を指す。
ステップS301では、システム制御部50は、表示モードが動画撮影モードであるか否かを判定する。動画撮影モードである場合、処理はステップS302に進み、静止画撮影モードである場合、処理はステップS330に進む。
ステップS302では、システム制御部50は、ユーザ操作により撮影開始の指示があったか否かを判定する。撮影開始の指示があった場合、処理はステップS303に進み、動画撮影中の処理が実行される。撮影開始の指示がない場合、処理はステップS320に進み、動画撮影前の処理が実行される。
(動画撮影モード:動画撮影中)
ステップS303では、システム制御部50は、注視判定手段170による注視判定を無効にする。すなわち、システム制御部50は、ユーザの視線入力を無効とし、注視された被写体(AF対象候補)をAF対象として選択する処理を無効にする。システム制御部50は、注視判定が無効である旨を、EVF29の表示情報を変更することでユーザへ通知する。
図4を用いて、EVF29の表示情報を変更し、注視判定が無効である旨をユーザに通知する具体例を説明する。図4は、視線入力に基づくAF対象選択を無効にした場合のEVF29の表示例(表示画像400)である。表示画像400は、画角内の被写体401〜被写体403を含む。
二重枠404は、AF制御の対象である被写体を示す枠(アイテム)であり、撮影開始前にユーザが撮影対象として選択した被写体(以下、主被写体とも称される)を囲む。実線枠405は、ユーザの視線位置を示す枠(アイテム)である。AF対象を示す二重枠404およびユーザの視線位置を示す実線枠405は、EVF29上の表示情報として表示される。なお、視線入力に基づくAF対象選択が無効の場合には実線枠405を表示しなくてもよい。
アイテム406は、注視判定手段170による注視判定が無効、即ち、ユーザの視線入力が無効である旨をユーザへ通知するためのアイテムである。ユーザは、アイテム406が表示されている間は、注視判定が無効であることが分かる。図4の例では、ユーザの視
線位置は、現在の主被写体401とは別の被写体403の顔に視線位置があるが、視線に基づくAF対象選択が無効であるため、被写体403は、AF対象として選択されない。視線に基づくAF対象選択が無効である旨をユーザに通知するためのEVF29の表示は、アイテム406のようなアイテムでなくても例えば、文字情報として表示されてもよい。また、アイテムや文字の表示位置は、AF対象またはユーザの視線位置を示す枠などの周囲に表示されるようにしてもよい。
ステップS304では、システム制御部50は、所定の状態変化を検出したか否かを判定する。所定の状態変化を検出した場合、処理はステップS305に進み、所定の状態変化を検出してない場合、ステップS304の処理が繰り返される。所定の状態変化は、「主被写体が画角外に移動する」、「撮影の構図が変化する」、「画角内の被写体認識数が変化する」、「被写体の動き量が急変する」などの状態変化である。所定の状態変化は、画像処理部24が撮像部22による撮像画像を解析することにより検出される。
なお、所定の状態変化は上記の例に限らず、ユーザの視線位置がAF対象の被写体とは異なる被写体へ意図せず移動してしまうような変化であれば所定の状態変化としてS304においてYesと判定してもよい。また、所定の状態変化の検出は上記の検出の方法以外にも、デジタルカメラ100(撮像手段)の移動を検知することにより検出してもよい。撮像画像にも撮像手段にも上述のような所定以上の変化がなければ、システム制御部50は、ユーザの視線位置に基づくAF処理を実行しないように制御する。撮像画像と撮像手段に所定以上の変化がない状態は、「第1の状態」である。所定の状態変化が検出された(所定の条件を満たす)状態は、「第2の状態」である。
図5を用いて、視線入力に基づくAF対象選択が有効になる条件である所定の状態変化の具体例を説明する。図5(A)は、所定の状態変化を検出する前のEVF29の表示例(表示画像500a)である。表示画像500aは、画角内の被写体501〜被写体503を含む。
図5(B)は、図5(A)の状態から「主被写体が画角外に移動する」という状態変化を検出した場合のEVF29の表示例(表示画像500b)である。「主被写体が画角外に移動する」という状態変化を検出した場合、視線入力に基づくAF対象選択が有効になり、視線入力によりAF対象を再選択することができるようになる。
「主被写体が画角外に移動する」とは、AF対象として選択されていた被写体が、撮像画像において認識されなくなるという状態変化である。なお、撮像画像において主被写体が認識されなくなるとは、例えば、被写体認識部172が例えば2秒や3秒といった所定時間(所定フレーム数)の間、主被写体を認識しなかった場合である。AF対象を再選択するまでの処理は、ステップS305〜ステップS307で説明する。
図5(C)は、図5(A)の状態から「構図が変化する」という状態変化を検出した場合のEVF29の表示例(表示画像500c)である。点線枠506は、図5(A)の状態における構図(表示画像500a)を示している。構図の変化後の表示画像500cは、被写体502、被写体503を含み、さらにユーザのパンニング動作によって画角内に入った被写体508を含む。被写体501は、ユーザのパンニング動作によって画角外となり、表示画像500cには含まれなくなる。
矢印507は、ユーザのパンニング動作による構図の変化を示す。パンニング動作は、姿勢検知部55のジャイロセンサーまたは加速度センサーによって検出可能である。システム制御部50は、パンニング動作の検出により、撮影の構図が変化したことを検出することができる。なお、姿勢検出部55において例えばデジタルカメラ100が50度や6
0度といった所定量以上ある方向に回転したことに応じて「構図が変化する」と判定するようにしてもよい。
また、システム制御部50は、パンニング動作に限られず、チルティング動作、ローリング動作、ズーム動作、または、他の動作の検出を条件として、構図が変化したと判定する。ズーム動作では、ユーザがデジタルカメラ100のズームを例えば1倍から5倍や、2倍から15倍など所定量以上の変化があった場合に、構図の変化があったと判定する。「構図が変化する」という状態変化を検出した場合、ユーザは視線入力によりAF対象を再選択することができる。
図5(D)は、図5(A)の状態から「画角内の被写体認識数が変化する」という状態変化を検出した場合のEVF29の表示例(表示画像500d)である。「画角内の被写体認識数が変化する」とは、撮像画像に撮像された被写体の数が変化する状態変化である。
図5(D)の例では、被写体509は、図5(A)の状態から新たにEVF29の画角内に入ってきた被写体である。図5(A)の表示画像500aでは、被写体認識数は3であるが、図5(D)の表示画像500dでは、被写体509が画角内に入ってきたことにより、被写体認識数は4に増加する。
画角内の被写体認識数の増減は、例えば、被写体認識部172によって撮像画像から被写体を検出することで算出可能である。「画角内の被写体認識数が変化する」という状態変化を検出した場合、ユーザは視線入力によりAF対象を再選択することができる。被写体の数が増えた場合には、ユーザは新たな被写体へAFをしたいと考える可能性がある。また、被写体の数が減った場合にも、被写体の位置関係が変わっている可能性があるため、AF対象を変更したいとユーザが考える可能性がある。よって、被写体の数が変わったときには、視線入力に基づくAF対象の選択を有効にすることで、ユーザは容易にAF対象を変えることができるようになる。なお、被写体の数が例えば15から16に変わった場合や、20から21に変わった場合など、もともとの被写体の数が所定数以上である場合には、S304の判定をNoと判定してもよい。これは集合写真等で人数が多い場合には、途中で入ってきた人を新たにAF対象とする可能性が低く、また人が入ってくるたびに視線入力によるAF対象の選択が有効になる。これにより、視線入力によるAF対象の選択が有効である時間が長くなり、一度決めたAF対象からずれやすくなる。そこで、所定数以上の被写体の場合は、被写体の数が変わってもS304でNoと判定することで、ユーザの操作性が低下しない。
図5(E)は、図5(A)の状態から「被写体の動き量が急変する」という状態変化を検出した場合のEVF29の表示例(表示画像500e)である。矢印510は、被写体503の動き量が急変したことを説明するための矢印であり実施に表示されない。動き量の急変は、例えば、「動いていた被写体が止まった」、「止まっていた被写体が動き出した」、「被写体の動き量が所定値(例えば、撮像画角の半分や3分の1など)以上であった」などの変化が挙げられる。また、動き量の急変は、「被写体の動きの向きがもともとの動きベクトルから所定角(例えば90度以上や120度以上)変化した」などの変化であってもよい。システム制御部50は、各被写体の検出位置またはサイズの変化に基づいて、動き量の急変を検出することができる。「被写体の動き量が急変する」という状態変化を検出した場合、ユーザは視線入力によりAF対象を再選択することができる。
以上、ステップS304における所定の状態変化について具体例を挙げて説明したが、これらに限られず、所定の状態変化は、ユーザが、状態変化後にAF対象の再選択をする
と想定されるような状態変化であればよい。
ステップS305では、システム制御部50は、AF対象となりうる被写体(以下、AF対象候補とも称される)を示す表示をする。システム制御部50は、AF対象候補に対して選択枠を表示することにより、ユーザに通知することができる。
図6(A)を用いて、所定の状態変化を検出した後の表示例を具体的に説明する。図6(A)は、ステップS306におけるEVF29の表示例(表示画像600a)である。表示画像600aは、画角内の被写体601〜被写体605を含む。選択枠606〜選択枠609は、AF対象候補となる被写体を識別可能に表示してユーザへ通知するための枠である。選択枠610は、被写体605が現在のAF対象であることを示すための枠であり、二重枠で表示される。このように、現在のAF対象は、他のAF対象候補と異なる表示態様で表示される。
アイテム611は、視線入力に基づくAF対象の選択が有効である旨をユーザへ通知するためのアイテムである。アイテム611が表示されることで、ユーザは、視線入力によるAF対象の再選択が可能になったことを認識することができる。
なお、所定の状態変化が検出された後、現在のAF対象が画角内に存在する場合には、現在のAF対象を注視し続けることで、AF対象は変更されないことを示すガイド(通知)を、EVF29に表示してもよい。
ステップS306では、システム制御部50は、ユーザの視線入力を有効にし、注視判定手段170による注視判定を有効にする。
ステップS307では、システム制御部50は、ユーザの視線入力によりAF対象が選択されたか否かを判定する。ユーザがいずれかのAF対象候補を2秒や3秒といった所定時間の間注視したことが検出されたことに応じて、AF対象を選択する。AF対象候補への注視は、注視判定部170により検出可能である。ユーザの視線入力によりAF対象が選択された場合、処理はステップS308に進む。AF対象が選択されていない場合、ステップS307の処理が繰り返される。
ステップS308では、システム制御部50は、視線入力により選択されたAF対象候補を、AF対象の領域として設定する。システム制御部50は、設定したAF対象の領域に対してAF処理をし、焦点を選択されたAF対象に追尾させる処理を開始する。
ユーザの視線入力によりAF対象が選択された場合、システム制御部50は、EVF29の表示を変更することで、選択されたAF対象をユーザへ通知する。図6(B)を用いて、ユーザの視線入力によりAF対象が選択された場合の表示例を具体的に説明する。図6(B)は、図6(A)の状態から、ユーザがAF対象を所定時間以上注視した後の状態を示している。選択された被写体に重畳する枠は図6(A)に示す枠606から二重の枠(図6(B)に示す枠606)に変わる。これにより、ユーザは、AF対象の再選択が完了したことを認識することができる。
注視されたと判定するための閾値である所定時間tは、可変に設定することができる。例えば、所定時間tは、図5(B)〜図5(E)で説明したそれぞれの状態変化に合わせて予め異なる時間が設定されてもよく、ユーザがメニュー画面等を介して設定できるようにしてもよい。システム制御部50は、ユーザの視線入力(注視)によって選択された対象に対し、サーボAFを行ってもよい。
ステップS309では、システム制御部50は、ステップS303と同様に、視線入力に基づくAF対象の選択を無効にする。
ここで、ステップS307からステップS309の処理において、ユーザの視線位置が現在のAF対象から他の被写体に移動しなかった場合について説明する。ステップS307では、ステップS304で所定の状態変化が検出されてから、例えば、2秒、3秒、3.5秒といった所定時間、ユーザの視線位置が現在のAF対象から他の被写体に移動しなかった場合、現在のAF対象からAF対象を変更しない。この場合、現在のAF対象に対するAF処理および追尾AF処理は既に開始されているため、システム制御部50は、ステップS308の処理を実行せず、ステップS309の処理に進む。ステップS309では、S304で所定の状態変化が検出されてから、現在のAF対象が注視されたまま所定時間が経過した場合、視線入力に基づくAF対象の選択を無効にする
ステップS310では、システム制御部50は、動画撮影が終了したか否かを判定する。動画撮影が終了した場合、処理はステップS311に進む。動画撮影が継続されている場合、処理はステップS304へ戻る。
(動画撮影モード:動画撮影前)
ステップS320からステップS323までの処理は、動画撮影モードでの動画撮影前の処理であり、撮影開始前にユーザの視線入力に基づいてAF対象の領域を選択(設定)する処理である。動画撮影モードであっても動画撮影前は、所定の状態変化を検出していなくても、システム制御部50は、ユーザの視線入力に基づいてAF対象を選択する。また、動画の撮影が終了した後など、動画の撮影中でなければ、システム制御部50は、ユーザの視線入力に基づいてAF対象の領域を設定するようにする。ステップS320からステップS323までの処理は、それぞれステップS305からステップS308までの処理と同様である。動画記録中でない場合には、AF対象の被写体が変わったとしても、記録はされていないので素早くAF対象の被写体を切り替えることができるように、視線入力に基づくAF対象の選択を無効にしない。
(静止画撮影モード)
ステップS330からステップS336までの処理は、静止画撮影モードでユーザの視線入力に基づいてAF対象の領域を選択(設定)する処理である。静止画撮影モードでは、所定の状態変化を検出したか否かに関わらず、システム制御部50は、ユーザの視線入力に基づいてAF対象の領域を設定する。静止画撮影モードの場合には、撮影指示をしなければ記録がされないので、素早くAF対象を切り替えることを優先し、視線入力に基づくAF対象の選択を無効にしないようにする。
ステップS330、S331、S333、S334の処理は、それぞれステップS305、S306、S307、S308までの処理と同様である。S330、S331の処理の後は、ステップS332へ進む。
ステップS332では、システム制御部50は、シャッターボタン61の半押しにより第1シャッタースイッチ62がオンとなったか(撮影準備指示がされたか)否かを判定する。第1シャッタースイッチ62がオンとなった場合、処理はステップS333に進む。第1シャッタースイッチ62がオンとなっていない場合、処理はステップS330に戻る。静止画撮影モードでは、撮影準備指示に応じてS334のAF処理/追尾AFを開始するので、S332において撮影準備指示がされたらS333、S334の処理を行う。
ステップS335では、システム制御部50は、シャッターボタン61の全押しにより第2シャッタースイッチ64がオンとなったか(撮影指示がされたか)否かを判定する。
第2シャッタースイッチ64がオンとなった場合、処理はステップS336に進む。第2シャッタースイッチ64がオンとなっていない場合、処理はステップS332に戻る。ステップS336では、システム制御部50は、撮影処理を実行し、静止画撮影モードの処理は終了する。
ステップS311では、システム制御部50は、撮影処理が終了したか否かを判定する。撮影処理は、再生モードやメニュー画面に切り替えられたり、デジタルカメラ100の電源がOFFになると終了する。撮影処理が継続されている場合、処理はステップS301へ戻る。
以上、説明した実施形態によれば、動画の記録中に視線による処理の実行を行う際に、ユーザの意図しない処理が実行される可能性を低減させることができる。動画の記録中には所定の状態変化が検出されたことに応じて、視線入力に基づくAF対象の選択を有効にし、そうでない場合には無効にすることで、視線位置が動いたことによって意図せずAF対象が変わってしまう可能性を低減することができる。
なお、上述のステップS305、ステップS320、ステップS330では、事前に選択枠で囲むことで、AF対象候補をユーザに通知する例を示すが、選択枠は事前に表示されなくてもよい。
なお、ユーザの視線位置を通知する枠は、白色で表示したり、視線入力が有効になってから1−2秒間の間、太枠または点滅などの強調表示をしたりしてもよい。さらに、ユーザの視線位置を通知する枠は、時間の経過とともに濃くなったり、線が太くなったりして表示態様が変化してもよい。また、同じ被写体を見始めたら経過時間に応じて、枠の表示形態を例えば徐々に一重から二重へと変えるようにしてもよい。これにより、ユーザは枠の表示形態の変更が完了するまで注視すればAF対象の選択が確定することを認識することができる。
なお、S307の判定がYesとならなくても、S304の判定がYesと判定された後、例えば5秒や7秒といった所定時間が経過した場合には、もともとのAF対象がまだ画角内にあれば、もともとのAF対象を継続するようにしてもよい。
なお、上述の実施形態では、AF対象を選択する場合を例にあげたが、測距領域の選択でなくても、測光領域(AE対象)の選択をする際にも、上述の実施形態は適用可能である。
なお、図3のステップS303では、システム制御部50は、注視判定手段170による注視判定を無効にするが、これに限られず、視線検出ブロック160による視線検出を無効にしてもよい。
また、図3のステップS304では、所定の状態変化が検出されたか否かが判定されるが、これに限られない。システム制御部50は、撮像画像に関する情報を取得し、取得した情報が所定の条件を満たすか否かを判定するようにしてもよい。撮像画像に関する情報は、例えば、各フレームにおける輝度情報であり、システム制御部50は、フレーム間の輝度値の平均値の変化量が所定の閾値以上である場合に、視線入力に基づくAF処理を有効にするようにしてもよい。
上記の実施形態は、視線入力に基づいてAF対象を選択する処理を有効にしたり無効にしたりする例を示すが、これに限られない。本発明は、例えば、視線入力に基づいてAE処理の対象となる被写体を選択する処理に対しても適用可能である。
なお、システム制御部50が行うものとして説明した上述の各種の制御は1つのハードウェアが行ってもよいし、複数のハードウェア(例えば、複数のプロセッサーや回路)が処理を分担することで、装置全体の制御を行ってもよい。
また、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。さらに、上述した各実施形態は本発明の一実施形態を示すものにすぎず、各実施形態を適宜組み合わせることも可能である。
また、上述した実施形態においては、本発明をデジタルカメラ(撮像制御装置)に適用した場合を例にして説明したが、これはこの例に限定されず、視線入力を受け付け可能な撮像制御装置であれば適用可能である。すなわち、本発明は携帯電話端末や携帯型の画像ビューワ、ファインダーを備えるプリンタ装置、デジタルフォトフレーム、音楽プレーヤー、ゲーム機、電子ブックリーダーなどに適用可能である。
<その他の実施形態>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 デジタルカメラ(撮像制御装置)
24 画像処理部
50 システム制御部
160 視線検出部
170 注視判定部

Claims (18)

  1. ユーザの視線位置を検出する視線検出手段と、
    前記視線検出手段により検出された視線位置に応じて、撮影に関する特定の処理を行う領域を設定する設定手段と、
    動画の記録中において、撮像画像と撮像手段に所定以上の変化がない第1の状態の場合には、前記ユーザの視線位置に基づき前記特定の処理を行う領域を設定せず、
    前記第1の状態とは異なる、所定の条件を満たす第2の状態の場合には、前記視線検出手段により検出された前記ユーザの視線位置に基づいて前記特定の処理を行う領域を設定するように制御する制御手段と、
    を有することを特徴とする撮像制御装置。
  2. 前記制御手段は、静止画の撮影では、前記所定の条件を満たすか否かに関わらず、前記ユーザの視線位置に基づいて前記特定の処理を行う領域を設定するように制御する
    ことを特徴とする請求項1に記載の撮像制御装置。
  3. 前記制御手段は、動画撮影において、動画の撮影中でなければ、前記所定の条件を満たすか否かに関わらず、前記ユーザの視線位置に基づいて前記特定の処理を行う領域を設定するように制御する
    ことを特徴とする請求項1または2に記載の撮像制御装置。
  4. 前記制御手段は、前記所定の条件を満たす第2の状態の場合には、前記ユーザの視線入力を有効にするように制御する
    ことを特徴とする請求項1から3のいずれか1項に記載の撮像制御装置。
  5. 前記制御手段は、前記所定の条件を満たす第2の状態で、前記ユーザの視線入力に基づいて前記特定の処理が実行されると、前記ユーザの視線入力を無効にするように制御することを特徴とする請求項1から4のいずれか1項に記載の撮像制御装置。
  6. 前記特定の処理は、オートフォーカス(AF)処理である。
    ことを特徴とする請求項1から5のいずれか1項に記載の撮像制御装置。
  7. 前記制御手段は、前記ユーザの視線入力が有効である場合は、前記撮像画像に対し前記ユーザの視線位置を示すアイテムを表示し、前記ユーザの視線入力が無効である場合は、前記ユーザの視線位置を示すアイテムを表示しないように制御する
    ことを特徴とする請求項1から6のいずれか1項に記載の撮像制御装置。
  8. 前記制御手段は、前記ユーザの視線入力が有効でない場合、前記ユーザに対し、前記ユーザの視線位置に基づく前記特定の処理の実行が有効でない旨を通知する
    ことを特徴とする請求項1から7のいずれか1項に記載の撮像制御装置。
  9. 前記制御手段は、前記ユーザの視線入力が有効である場合、前記ユーザに対し、前記ユーザの視線位置に基づく前記特定の処理の実行が有効である旨を通知する
    ことを特徴とする請求項1から8のいずれか1項に記載の撮像制御装置。
  10. 前記第2の状態は、前記撮像画像に撮像された被写体の数が変化した状態である
    ことを特徴とする請求項1から9のいずれか1項に記載の撮像制御装置。
  11. 前記第2の状態は、撮影対象として選択されていた被写体が前記撮像画像において認識されなくなった状態である
    ことを特徴とする請求項1から10のいずれか1項に記載の撮像制御装置。
  12. 前記第2の状態は、前記撮像画像の構図が変化した状態である
    ことを特徴とする請求項1から11のいずれか1項に記載の撮像制御装置。
  13. 前記撮像画像の構図が変化した状態は、加速度センサーまたはジャイロセンサーを用いて、前記撮像制御装置の動きを検知することにより検出される
    ことを特徴とする請求項12に記載の撮像制御装置。
  14. 前記撮像画像の構図が変化した状態は、レンズユニットの駆動を検知することにより検出される
    ことを特徴とする請求項12または13に記載の撮像制御装置。
  15. 前記第2の状態は、前記撮像画像に撮像された被写体の動き量が所定の閾値を超えて変化した状態である
    ことを特徴とする請求項1から14のいずれか1項に記載の撮像制御装置。
  16. ユーザの視線位置を検出する視線検出ステップと、
    前記視線検出ステップにおいて検出された視線位置に応じて、撮影に関する特定の処理を行う領域を設定する設定ステップと、
    動画の記録中において、撮像画像と撮像手段に所定以上の変化がない第1の状態の場合には、前記ユーザの視線位置に基づき前記特定の処理を行う領域を設定せず、
    前記第1の状態とは異なる、所定の条件を満たす第2の状態の場合には、前記視線検出ステップにおいて検出された前記ユーザの視線位置に基づいて前記特定の処理を行う領域を設定するように制御する制御ステップと、
    を有することを特徴とする撮像制御装置の制御方法。
  17. コンピュータを、請求項1から15のいずれか1項に記載の撮像制御装置の各手段として機能させるためのプログラム。
  18. コンピュータを、請求項1から15のいずれか1項に記載の撮像制御装置の各手段として機能させるためのプログラムを格納したコンピュータが読み取り可能な記録媒体。
JP2020007424A 2020-01-21 2020-01-21 撮像制御装置及びその制御方法 Pending JP2021114731A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020007424A JP2021114731A (ja) 2020-01-21 2020-01-21 撮像制御装置及びその制御方法
US17/152,295 US11385711B2 (en) 2020-01-21 2021-01-19 Image capturing control apparatus and control method therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020007424A JP2021114731A (ja) 2020-01-21 2020-01-21 撮像制御装置及びその制御方法

Publications (1)

Publication Number Publication Date
JP2021114731A true JP2021114731A (ja) 2021-08-05

Family

ID=76856934

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020007424A Pending JP2021114731A (ja) 2020-01-21 2020-01-21 撮像制御装置及びその制御方法

Country Status (2)

Country Link
US (1) US11385711B2 (ja)
JP (1) JP2021114731A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021156919A (ja) * 2020-03-25 2021-10-07 キヤノン株式会社 撮像装置
JP2022171084A (ja) * 2021-04-30 2022-11-11 キヤノン株式会社 撮像装置及びその制御方法、並びにプログラム

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002082278A (ja) 2000-09-05 2002-03-22 Olympus Optical Co Ltd 多点自動焦点カメラ
JP2005159856A (ja) * 2003-11-27 2005-06-16 Nikon Corp デジタルカメラ
JP4884417B2 (ja) 2008-04-01 2012-02-29 富士フイルム株式会社 携帯型電子装置及びその制御方法
JP6056323B2 (ja) * 2012-09-24 2017-01-11 富士通株式会社 視線検出装置、視線検出用コンピュータプログラム
GB2514603B (en) * 2013-05-30 2020-09-23 Tobii Ab Gaze-controlled user interface with multimodal input
JP2015049544A (ja) * 2013-08-29 2015-03-16 オリンパス株式会社 パラメータ変更装置及び方法
JP2015046089A (ja) * 2013-08-29 2015-03-12 ソニー株式会社 情報処理装置および情報処理方法
KR102154912B1 (ko) * 2013-10-11 2020-09-11 인터디지탈 패튼 홀딩스, 인크 시선 구동 증강 현실
KR102429427B1 (ko) * 2015-07-20 2022-08-04 삼성전자주식회사 촬영 장치 및 그 동작 방법
EP3352052A4 (en) * 2015-09-16 2018-08-01 Fujifilm Corporation Line-of-sight-based control device and medical device
US10686979B2 (en) * 2016-02-01 2020-06-16 Sony Corporation Control apparatus and control method
US20170322679A1 (en) * 2016-05-09 2017-11-09 John C. Gordon Modifying a User Interface Based Upon a User's Brain Activity and Gaze
EP3249497A1 (en) * 2016-05-24 2017-11-29 Harman Becker Automotive Systems GmbH Eye tracking
JP6799063B2 (ja) * 2016-07-20 2020-12-09 富士フイルム株式会社 注目位置認識装置、撮像装置、表示装置、注目位置認識方法及びプログラム
US10863079B2 (en) * 2017-07-13 2020-12-08 Canon Kabushiki Kaisha Control apparatus, image capturing apparatus, and non-transitory computer-readable storage medium
WO2019224866A1 (ja) * 2018-05-21 2019-11-28 楽天株式会社 表示装置、表示方法、プログラム、ならびに、非一時的なコンピュータ読取可能な情報記録媒体
JP7049195B2 (ja) * 2018-06-28 2022-04-06 キヤノン株式会社 電子機器及びその制御方法、プログラム、並びに記憶媒体
JP2020178273A (ja) * 2019-04-19 2020-10-29 キヤノン株式会社 表示制御装置およびその制御方法
JP7467114B2 (ja) * 2019-12-27 2024-04-15 キヤノン株式会社 撮像装置およびその制御方法
US11209902B2 (en) * 2020-01-09 2021-12-28 Lenovo (Singapore) Pte. Ltd. Controlling input focus based on eye gaze

Also Published As

Publication number Publication date
US20210223860A1 (en) 2021-07-22
US11385711B2 (en) 2022-07-12

Similar Documents

Publication Publication Date Title
US11240419B2 (en) Electronic device that can execute function in accordance with line of sight of user, method of controlling electronic device, and non-transitory computer readable medium
JP7433860B2 (ja) 電子機器及び電子機器の制御方法
US11385711B2 (en) Image capturing control apparatus and control method therefor
JP2021068208A (ja) 電子機器、電子機器の制御方法、プログラム、記憶媒体
JP2020204915A (ja) 電子機器およびその制御方法
EP3876517A1 (en) Electronic device, control method, program, and computer readable medium
US20230300446A1 (en) Electronic device, control method thereof, and recording medium
JP2021156950A (ja) 撮像制御装置およびその制御方法
JP2021145191A (ja) 撮像装置およびその制御方法、プログラム、並びに記憶媒体
US11442244B2 (en) Imaging device
JP2021097356A (ja) 撮像制御装置
JP2021140590A (ja) 電子機器、電子機器の制御方法、プログラム、記憶媒体
JP2021140589A (ja) 電子機器、電子機器の制御方法、プログラム、記憶媒体
JP7286469B2 (ja) 撮像制御装置、撮像制御装置の制御方法、プログラム、記憶媒体
US11843849B2 (en) Electronic device, control method thereof, and recording medium
JP7336266B2 (ja) 電子機器、電子機器の制御方法、プログラム、記憶媒体
JP7451255B2 (ja) 電子機器及びその制御方法
WO2023007904A1 (ja) 電子機器、電子機器の制御方法、プログラム、記憶媒体
JP2022095306A (ja) 表示制御装置及びその制御方法
JP2022172840A (ja) 電子機器、電子機器の制御方法、プログラム、及び記憶媒体
JP2022095264A (ja) 表示制御装置及びその制御方法
JP2021082188A (ja) 電子機器、電子機器の制御方法、プログラム、記憶媒体
JP2021018634A (ja) 電子機器およびその制御方法
JP2021184123A (ja) 電子機器、電子機器の制御方法、プログラム
JP2021121066A (ja) 表示制御装置及びその制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230105

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240131

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240416