JP2022129065A - 表示制御装置及びその制御方法及びプログラム及び記録媒体 - Google Patents
表示制御装置及びその制御方法及びプログラム及び記録媒体 Download PDFInfo
- Publication number
- JP2022129065A JP2022129065A JP2021027612A JP2021027612A JP2022129065A JP 2022129065 A JP2022129065 A JP 2022129065A JP 2021027612 A JP2021027612 A JP 2021027612A JP 2021027612 A JP2021027612 A JP 2021027612A JP 2022129065 A JP2022129065 A JP 2022129065A
- Authority
- JP
- Japan
- Prior art keywords
- display
- line
- sight
- user
- displayed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 111
- 238000001514 detection method Methods 0.000 claims description 82
- 238000003384 imaging method Methods 0.000 claims description 26
- 238000013459 approach Methods 0.000 claims description 14
- 230000004044 response Effects 0.000 claims description 6
- 239000003086 colorant Substances 0.000 claims description 4
- 230000000007 visual effect Effects 0.000 abstract 2
- 230000008569 process Effects 0.000 description 98
- 210000001508 eye Anatomy 0.000 description 84
- 238000012545 processing Methods 0.000 description 76
- 238000012905 input function Methods 0.000 description 23
- 230000007704 transition Effects 0.000 description 18
- 230000008859 change Effects 0.000 description 16
- 210000003811 finger Anatomy 0.000 description 16
- 230000006870 function Effects 0.000 description 16
- 238000003825 pressing Methods 0.000 description 15
- 238000004891 communication Methods 0.000 description 12
- 238000012790 confirmation Methods 0.000 description 11
- 230000036544 posture Effects 0.000 description 11
- 210000005252 bulbus oculi Anatomy 0.000 description 8
- 239000011521 glass Substances 0.000 description 8
- 238000000926 separation method Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 230000004397 blinking Effects 0.000 description 4
- 230000007423 decrease Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000002360 preparation method Methods 0.000 description 4
- 238000009432 framing Methods 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000001028 reflection method Methods 0.000 description 3
- 230000005236 sound signal Effects 0.000 description 3
- 238000003860 storage Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 210000000744 eyelid Anatomy 0.000 description 2
- 210000001747 pupil Anatomy 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- WHXSMMKQMYFTQS-UHFFFAOYSA-N Lithium Chemical compound [Li] WHXSMMKQMYFTQS-UHFFFAOYSA-N 0.000 description 1
- 229910005580 NiCd Inorganic materials 0.000 description 1
- 229910005813 NiMH Inorganic materials 0.000 description 1
- 240000007594 Oryza sativa Species 0.000 description 1
- 235000007164 Oryza sativa Nutrition 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 210000004087 cornea Anatomy 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000005674 electromagnetic induction Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 229910052744 lithium Inorganic materials 0.000 description 1
- 210000004932 little finger Anatomy 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 244000144985 peep Species 0.000 description 1
- 230000010344 pupil dilation Effects 0.000 description 1
- 235000009566 rice Nutrition 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
- 210000003813 thumb Anatomy 0.000 description 1
- 238000002834 transmittance Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
- H04N23/635—Region indicators; Field of view indicators
Abstract
【課題】 ユーザーが有効表示領域および有効表示領域に表示する表示要素を適切に視認できる。【解決手段】 ユーザーがファインダー越しに視認する表示手段に対するユーザーの視線に関する情報を取得する取得手段と、前記表示手段の画面のうち、前記情報の視線キャリブレーションのための表示要素を表示する有効表示領域を示す画像を前記表示手段に表示する制御手段と、を有し、前記制御手段は、前記有効表示領域を第1の大きさで表示する第1の表示設定と、前記表示領域を前記第1の大きさよりも小さい第2の大きさで表示する第2の表示設定とを含む複数の表示設定のうちのいずれかで、前記有効表示領域を前記表示手段に表示するように制御する。【選択図】 図10
Description
本実施形態は、ファインダーの内側に設けられた表示部の制御を行う表示制御装置及び表示制御装置の制御方法及びプログラム及び記録媒体に関するものである。
従来、ファインダー越しに表示部(ファインダー内表示部)を覗き込んだ撮影者(ユーザー)の視線方向を検出し、ユーザーがファインダー視野内のどの領域(位置)を観察しているかを検出して、自動焦点調節等の撮影機能を制御するカメラが提案されている。視線方向の検出は、ユーザーの眼の瞳孔径やユーザーがファインダーを覗く方向や位置、周囲の明るさによって精度が左右される。そのため、視線位置をデータとして取得し、取得したデータから視線位置を補正することで検出精度を向上させる視線キャリブレーションが必要である。特許文献1には、視線キャリブレーションを行う際にファインダー内表示部に表示する注視対象を表示する範囲を示す有効表示領域を単色で表示する方法が開示されている。
しかし、特許文献1では、メガネを装着するユーザーがファインダー内表示部を見ている場合、メガネを装着していない場合と比較して、ファインダー内表示部の有効表示領域全体を確認できない場合があった。特にキャリブレーション時にはファインダー内表示部の有効表示領域全体が視認できないと、視認できない領域を視認しようとユーザーがファインダーを覗く方向を変えてしまう可能性があった。ファインダーに配置される視線検出器と目との位置関係が変わってしまうと、精度の低いキャリブレーションデータの取得につながり、ひいては視線検出の精度が低下してしまう場合があった。
そこで本実施形態は、ユーザーが有効表示領域および有効表示領域に表示する表示要素を適切に視認できるようにすることを目的とする。
上記課題を解決するために、本実施形態は、
ユーザーがファインダー越しに視認する表示手段に対するユーザーの視線に関する情報を取得する取得手段と、
前記表示手段の画面のうち、前記情報の視線キャリブレーションのための表示要素を表示する有効表示領域を示す画像を前記表示手段に表示する制御手段と、を有し、
前記制御手段は、前記有効表示領域を第1の大きさで表示する第1の表示設定と、前記表示領域を前記第1の大きさよりも小さい第2の大きさで表示する第2の表示設定とを含む複数の表示設定のうちのいずれかで、前記有効表示領域を前記表示手段に表示するように制御する。
ユーザーがファインダー越しに視認する表示手段に対するユーザーの視線に関する情報を取得する取得手段と、
前記表示手段の画面のうち、前記情報の視線キャリブレーションのための表示要素を表示する有効表示領域を示す画像を前記表示手段に表示する制御手段と、を有し、
前記制御手段は、前記有効表示領域を第1の大きさで表示する第1の表示設定と、前記表示領域を前記第1の大きさよりも小さい第2の大きさで表示する第2の表示設定とを含む複数の表示設定のうちのいずれかで、前記有効表示領域を前記表示手段に表示するように制御する。
本実施形態によれば、ユーザーが有効表示領域および有効表示領域に表示する表示要素を適切に視認できる。
以下、図面を参照して本実施形態の好適な実施形態を説明する。
図1(a)、(b)に本実施形態を適用可能な装置の一例としてのデジタルカメラ100の外観図を示す。図1(a)はデジタルカメラ100の前面斜視図であり、図1(b)はデジタルカメラ100の背面斜視図である。図1において、表示部28は画像や各種情報を表示する、カメラ背面に設けられた表示部である。タッチパネル70aはタッチ操作可能な操作部材であり、表示部28の表示面(操作面)に対するタッチ操作を検出することができる。ファインダー外表示部43は、カメラのファインダー外に設けられた表示部であり、シャッター速度や絞りをはじめとするカメラの様々な設定値を表示する。
シャッターボタン61は撮影指示を行うための操作部である。モード切替スイッチ60は各種モードを切り替えるための操作部である。端子カバー40は外部機器との接続ケーブルとデジタルカメラ100とを接続するコネクタ(不図示)を保護するカバーである。メイン電子ダイヤル71は操作部70に含まれる回転操作部材であり、このメイン電子ダイヤル71を回すことで、シャッター速度や絞りなどの設定値の変更等が行える。電源スイッチ72はデジタルカメラ100の電源のON及びOFFを切り替える操作部材である。サブ電子ダイヤル73は操作部70に含まれる回転操作部材であり、選択枠の移動や画像送りなどを行える。
十字キー74は操作部70に含まれ、4方向に押し込み可能な押しボタンを有する操作部材で、十字キー74の押下した方向に応じた操作が可能である。SETボタン75は操作部70に含まれ、押しボタンであり、主に選択項目の決定などに用いられる。動画ボタン76は、動画撮影(記録)の開始、停止の指示に用いられる。AF-ONボタン77は、操作部70に含まれ、押下することによりAF動作を開始する。AF動作は主にシャッターボタン61の押下によりAF動作が開始されるが、AF-ONボタンを押下してもAF動作開始の指示を出すことができる。シャッターボタン61の押下によってAF動作を行わないように設定することができるデジタルカメラ100では、AF開始指示と撮影指示とを切り離すことができる。AEロックボタン78を押下したあとにシャッターボタン61を押下すれば、AF位置を固定した撮影、または、AFができない状況下でも撮影を行うことができる。
AF-ONボタン77は操作部70に含まれ、撮影待機状態(撮影モードにおいて撮像部22を用いて撮像を開始し、撮影準備等が行われていない、撮影モードで待機している状態)で押下することにより、露出状態を固定することができる。つまり、ユーザー所望の露出値で固定して撮影を行うことができる。再生ボタン79は操作部70に含まれ、撮影モードと再生モードとを切り替える操作ボタンである。撮影モード中に再生ボタン79を押下することで再生モードに移行し、記録媒体200に記録された画像のうち最新の画像を表示部28に表示させることができる。
メニューボタン81は、操作部70に含まれ、押下することにより各種の設定可能なメニュー画面が表示部28に表示される。マルチコントローラー65は、8方向に操作可能な方向キーと押し込み可能な押しボタンを有する操作部材であり、マルチコントローラー65を倒した方向に応じた操作が可能である。ユーザーは、表示部28に表示されたメニュー画面において、十字キー74やSETボタン75、マルチコントローラー65を用いて直感的に各種設定を行うことができる。
視線確定ボタン82は、操作部70に含まれる操作部材であって、後述するポインターの位置に基づく被写体の選択実行または解除を指示する押しボタンである。視線確定ボタンは、ユーザーがファインダーを覗いた状態(接眼部16に接眼した状態)でも操作しやすい位置に配置されており、グリップ部90を持つ右手の親指で操作可能な位置に配置されている。M-Fnボタン83は操作部70に含まれ、撮影待機状態で押下することにより、ホワイトバランスやISO感度などの各種設定を素早く変更するために用いられる。また、視線キャリブレーション中は視点の確定操作に使用することができる。
操作部70は、ユーザーからの操作を受け付ける入力部としての各種操作部材である。操作部70には、押しボタン、回転ダイヤル、タッチセンサーなどが含まれ、少なくとも以下の操作部が含まれる。シャッターボタン61、タッチパネル70a、メイン電子ダイヤル71、電源スイッチ72、サブ電子ダイヤル73、十字キー74、SETボタン75、動画ボタン76、AF-ONボタン77、AEロックボタン78、再生ボタン79が含まれる。また、メニューボタン81、視線確定ボタン82、M-Fnボタン83、マルチコントローラー65、絞り込みボタン84、フレーミングアシストボタンが含まれる。
後述する、AF枠を視線位置に基づく位置へ更新する視線確定機能について、当該機能を有した専用ボタンをデジタルカメラ100に搭載してもよいし、他の機能を有した操作部材に視線確定機能を割り当てられるようにしてもよい。視線確定機能を割り当て可能な操作部材として、AF-ONボタン77、AEロックボタン78、マルチコントローラー65の押し込み、M-Fnボタン83、絞り込みボタン84、フレーミングアシストボタンがある。
AF-ONボタン77、AEロックボタン78、マルチコントローラー65、M-Fnボタン83はユーザーが右手人差し指でシャッターボタン61を操作しながら撮影に支障が生じないように操作できる位置に配置されている。具体的にAF-ONボタン77、AEロックボタン78、マルチコントローラー65は、以下に説明する位置に配置されているものとする。ユーザーがグリップ部90を右手で把持している際に、被写体と反対側にあたるデジタルカメラ100の背面部の中央位置より上側(シャッターボタン側)、かつ、EVF29の右側(グリップ部90側)。M-Fnボタン83は、ユーザーがグリップ部90を右手で把持している際に、被写体とデジタルカメラ100の背面部とは異なる面にある。すなわち、EVF29の右側(グリップ部90側)、かつ、デジタルカメラ100の上部の面(ファインダー外表示部43の面)に配置されているものとする。
また、ユーザーがシャッターボタン61を操作しながら操作できるものであれば、デジタルカメラ100の背面部に限らない。例えば、絞り込みボタン84やフレーミングアシストボタンのような、前面部(被写体側)やレンズユニット150に配置される操作部材でもよい。この場合、操作部材の配置位置は上述したデジタルカメラ100の背面に限らず、ユーザーがシャッターボタン61を操作している右手の人差し指以外の指で操作できる位置に配置されていればよい。ユーザーが視線確定機能を割り当て可能な、他の機能を有した操作部材は、シャッターボタン61への操作中に操作しても撮影モードから遷移しない機能を持ったボタンや、シャッターボタン61への操作による撮影機能実行を妨げない機能を持ったボタンである。また、様々な機能を割り当てられる押下可能なボタンでもよい。押しボタンに限らず左右に操作可能な操作バーや回転操作可能なリング、後述する押圧力を検知可能なタッチパネル70aを強い押圧で押し込んだ場合に機能が発動するようにしてもよい。
グリップ部90は、ユーザーがデジタルカメラ100を構えた際に右手で握りやすい形状とした保持部である。グリップ部90を右手の小指、薬指、中指で握ってデジタルカメラを保持した状態で、右手の人差指で操作可能な位置にシャッターボタン61、メイン電子ダイヤル71が配置されている。また、同じ状態で、右手の親指で操作可能な位置に、サブ電子ダイヤル73が配置されている。
通信端子10はデジタルカメラ100が後述するレンズユニット150(着脱可能)と通信を行う為の通信端子である。
接眼部16は、接眼ファインダー(覗き込み型のファインダー・覗き窓)の接眼部であり、ユーザーは、接眼部16を介してファインダー内表示部のEVF(Electric View Finder)29に表示された映像を視認することができる。すなわち、接眼部16に接眼しファインダー越しに覗き込むことで、ユーザーはEVF29に表示された映像を視認することができる。接眼検知部57は接眼部16に撮影者が接眼しているか否かを検知する接眼検知センサーである。蓋202は記録媒体200を格納したスロットの蓋である。
図2は、本実施形態によるデジタルカメラ100の構成例を示すブロック図である。図2において、レンズユニット150は、交換可能な撮影レンズを搭載するレンズユニットである。レンズ103は通常、複数枚のレンズから構成されるが、ここでは簡略して一枚のレンズのみで示している。通信端子6はレンズユニット150がデジタルカメラ100と通信を行う為の通信端子である。レンズユニット150は、この通信端子6と前述の通信端子10を介してシステム制御部50と通信し、内部のレンズシステム制御回路4によって絞り駆動回路2を介して絞り1の制御を行う。その後AF駆動回路3を介して、レンズ103を変位させることで焦点を合わせる。
シャッター101は、システム制御部50の制御で撮像部22の露光時間を自由に制御できるフォーカルプレーンシャッターである。
撮像部22は光学像を電気信号に変換するCCDやCMOS素子等で構成される撮像素子である。A/D変換器23は、撮像部22から出力されるアナログ信号をデジタル信号に変換するために用いられる。
画像処理部24は、A/D変換器23からのデータ、または、後述するメモリ制御部15からのデータに対し所定の画素補間、縮小といったリサイズ処理や色変換処理を行う。また、画像処理部24では、撮像した画像データを用いて所定の演算処理を行う。画像処理部24により得られた演算結果に基づいてシステム制御部50が露光制御、測距制御を行う。これにより、TTL(スルー・ザ・レンズ)方式のAF(オートフォーカス)処理、AE(自動露出)処理、EF(フラッシュプリ発光)処理が行われる。画像処理部24では更に、撮像した画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてTTL方式のAWB(オートホワイトバランス)処理を行う。
メモリ制御部15は、A/D変換器23、画像処理部24、メモリ32間のデータ送受を制御する。A/D変換器23からの出力データは、画像処理部24およびメモリ制御部15を介して、あるいは、メモリ制御部15を介してメモリ32に直接書き込まれる。メモリ32は、撮像部22によって得られA/D変換器23によりデジタルデータに変換された画像データや、表示部28、EVF29に表示するための画像データを格納する。メモリ32は、所定枚数の静止画像や所定時間の動画像および音声を格納するのに十分な記憶容量を備えている。
また、メモリ32は画像表示用のメモリ(ビデオメモリ)を兼ねている。メモリ32に書き込まれた表示用の画像データはメモリ制御部15を介して表示部28、EVF29により表示される。表示部28、EVF29は、LCDや有機EL等の表示器上に、メモリ制御部15からの信号に応じた表示を行う。A/D変換器23によってA/D変換されメモリ32に蓄積されたデータを、表示部28またはEVF29に逐次転送して表示することで、ライブビュー表示(LV表示)を行える。以下、ライブビューで表示される画像をライブビュー画像(LV画像)と称する。
赤外発光ダイオード166は、ファインダー内の画面におけるユーザーの視線を検出するための発光素子であり、ユーザーの眼球(目)161に赤外光を照射する。赤外発光ダイオード166から発した赤外光は眼球(目)161で反射し、その赤外反射光はダイクロイックミラー162に到達する。ダイクロイックミラー162は赤外光だけを反射して可視光を透過させる。光路を変更された赤外反射光は、結像レンズ163を介して視線検知センサー164の撮像面に結像する。結像レンズ163は視線検知光学系を構成する光学部材である。視線検知センサー164は、CCD型イメージセンサ等の撮像デバイスから成る。
視線検知センサー164は、入射された赤外反射光を電気信号に光電変換して視線検出回路165へ出力する。視線検出回路165は少なくとも1つのプロセッサーを含み、視線検知センサー164の出力信号に基づき、ユーザーの眼球(目)161の画像または動きからユーザーの視線を検出し、検出情報をシステム制御部50に出力する。このようにダイクロイックミラー162、結像レンズ163、視線検知センサー164、赤外発光ダイオード166、視線検出回路165により視線検出ブロック160が構成される。視線検出ブロック160は、視線入力を受け付ける受付手段のうちの1つである。
本実施形態では視線検出ブロック160を用いて、角膜反射法と呼ばれる方式で視線を検出する。角膜反射法とは、赤外発光ダイオード166から発した赤外光が眼球(目)161の、特に角膜で反射した反射光と、眼球(目)161の瞳孔との位置関係から、ユーザーの目の動きを検出し、ユーザーの目の向き(視線)を検出する方式である。この他にも黒目と白目での光の反射率が異なることを利用する強膜反射法と呼ばれる方式など、様々な視線を検出する方式がある。なお、視線を検出できる方式であれば、上記以外の視線検出手段の方式を用いてもよい。
ファインダー外表示部43には、ファインダー外表示部駆動回路44を介して、シャッター速度や絞りをはじめとするカメラの様々な設定値が表示される。表示部28やEVF29とは異なり、ファインダー外表示部43にはLV画像は表示しない。
不揮発性メモリ56は、電気的に消去・記録可能なメモリであり、例えばFlash-ROM等が用いられる。不揮発性メモリ56には、システム制御部50の動作用の定数、プログラム等が記憶される。ここでいう、プログラムとは、本実施形態にて後述する各種フローチャートを実行するためのプログラムのことである。
システム制御部50は、少なくとも1つのプロセッサーまたは回路からなる制御部であり、デジタルカメラ100全体を制御する。前述した不揮発性メモリ56に記録されたプログラムを実行することで、後述する本実施形態の各処理を実現する。システムメモリ52には、例えばRAMが用いられ、システム制御部50の動作用の定数、変数、不揮発性メモリ56から読み出したプログラム等が展開される。また、システム制御部50はメモリ32、表示部28等を制御することにより表示制御も行う。
システムタイマー53は各種制御に用いる時間や、内蔵された時計の時間を計測する計時部である。
モード切替スイッチ60は、操作部70に含まれる操作部材であり、システム制御部50の動作モードを静止画撮影モード、動画撮影モード等のいずれかに切り替える。静止画撮影モードに含まれるモードとして、オート撮影モード、オートシーン判別モード、マニュアルモード、絞り優先モード(Avモード)、シャッター速度優先モード(Tvモード)、プログラムAEモード(Pモード)、がある。また、撮影シーン別の撮影設定となる各種シーンモード、カスタムモード等がある。モード切替スイッチ60により、ユーザーは、これらのモードのいずれかに直接切り替えることができる。あるいは、モード切替スイッチ60で撮影モードの一覧画面に一旦切り換えた後に、表示された複数のモードのいずれかを選択し、他の操作部材を用いて切り替えるようにしてもよい。同様に、動画撮影モードにも複数のモードが含まれていてもよい。
第1シャッタースイッチ62は、デジタルカメラ100に設けられたシャッターボタン61の操作途中、いわゆる半押し(撮影準備指示)でONとなり第1シャッタースイッチ信号SW1を発生する。第1シャッタースイッチ信号SW1により、AF(オートフォーカス)処理、AE(自動露出)処理、AWB(オートホワイトバランス)処理、EF(フラッシュプリ発光)処理等の撮影準備動作を開始する。
第2シャッタースイッチ64は、シャッターボタン61の操作完了、いわゆる全押し(撮影指示)でONとなり、第2シャッタースイッチ信号SW2を発生する。システム制御部50は、第2シャッタースイッチ信号SW2により、撮像部22からの信号読み出しから撮像された画像を画像ファイルとして記録媒体200に書き込むまでの一連の撮影処理の動作を開始する。第2シャッタースイッチのONが継続されると、デジタルカメラ100は、予め決められた連写可能速度に依存する速度で連写(連続撮影)を行う。
電源制御部80は、電池検出回路、DC-DCコンバータ、通電するブロックを切り替えるスイッチ回路等により構成され、電池の装着の有無、電池の種類、電池残量の検出を行う。また、電源制御部80は、その検出結果及びシステム制御部50の指示に基づいてDC-DCコンバータを制御し、必要な電圧を必要な期間、記録媒体200を含む各部へ供給する。電源部30は、アルカリ電池やリチウム電池等の一次電池やNiCd電池やNiMH電池、Li電池等の二次電池、ACアダプター等からなる。
記録媒体I/F18は、メモリカードやハードディスク等の記録媒体200とのインターフェースである。記録媒体200は、撮影された画像を記録するためのメモリカード等の記録媒体であり、半導体メモリや磁気ディスク等から構成される。
通信部54は、無線または有線ケーブルによって接続し、映像信号や音声信号の送受信を行う。通信部54は無線LAN(Local Area Network)やインターネットとも接続可能である。また、通信部54は、Bluetooth(登録商標)やBluetooth Low Energyでも外部機器と通信可能である。通信部54は撮像部22で撮像した画像(ライブビュー画像を含む)や、記録媒体200に記録された画像を送信可能であり、また、外部機器から画像やその他の各種情報を受信することができる。
姿勢検知部55は重力方向に対するデジタルカメラ100の姿勢(向き)を検知する。姿勢検知部55で検知された姿勢に基づいて、撮像部22で撮影された画像が、デジタルカメラ100を横に構えて撮影された画像であるか、縦に構えて撮影された画像であるかを判別可能である。システム制御部50は、姿勢検知部55で検知された姿勢に応じた向き情報を撮像部22で撮像された画像の画像ファイルに付加したり、画像を回転して記録したりすることが可能である。姿勢検知部55としては、加速度センサーやジャイロセンサーなどを用いることができる。姿勢検知部55である、加速度センサーやジャイロセンサーを用いて、デジタルカメラ100の動き(パン、チルト、持ち上げ、静止しているか否か等)を検知することも可能である。
接眼検知部57はファインダーの接眼部16に対する目(物体)161の接近(接眼)および離脱(離眼)を検知する(接近検知)、接眼検知センサーである。システム制御部50は、接眼検知部57で検知された状態に応じて、表示部28とEVF29の表示(表示状態)/非表示(非表示状態)を切り替える。より具体的には、少なくともデジタルカメラ100が撮影待機状態、かつ、撮像部22で撮像されたライブビュー画像の表示先の切替設定が自動切替設定である場合において、非接眼中は表示先を表示部28として表示をオンとし、EVF29は非表示とする。
また、接眼中は表示先をEVF29として表示をオンとし、表示部28は非表示とする。接眼検知部57は、例えば赤外線近接センサーを用いることができ、EVF29を内蔵するファインダーの接眼部16への何らかの物体の接近を検知することができる。物体が接近した場合は、接眼検知部57の投光部(不図示)から投光した赤外線が反射して赤外線近接センサーの受光部(不図示)に受光される。受光された赤外線の量によって、物体が接眼部16からどの距離まで近づいているか(接眼距離)も判別することができる。このように、接眼検知部57は、接眼部16への物体の近接距離を検知する接眼検知を行う。
なお、本実施形態では接眼検知部57の投光部および受光部は前述の赤外発光ダイオード166および視線検知センサー164とは別体のデバイスであるものとする。ただし、接眼検知部57の投光部を赤外発光ダイオード166で兼ねてもよい。また、受光部を視線検知センサー164で兼ねてもよい。
非接眼状態(非接近状態)から、接眼部16に対して所定距離以内に近づく物体が検出された場合に、接眼されたと検出するものとする。接眼状態(接近状態)から、接近を検知していた物体が所定距離以上離れた場合に、離眼されたと検出するものとする。接眼を検出する閾値と、離眼を検出する閾値は例えばヒステリシスを設けるなどして異なっていてもよい。また、接眼を検出した後は、離眼を検出するまでは接眼状態であるものとする。離眼を検出した後は、接眼を検出するまでは非接眼状態であるものとする。なお、赤外線近接センサーは一例であって、接眼検知部57には、接眼とみなせる目や物体の接近を検知できるものであれば他のセンサーを採用してもよい。
システム制御部50は視線検出ブロック160からの出力に基づいて以下の操作、あるいは状態を検知できる。
・視線検出ブロック160によって、接眼部16に接眼したユーザーの視線が検出されている状態、すなわち視線入力がある状態であること。
・視線検出ブロック160によって、接眼部16に接眼したユーザーの視線が検出され、ユーザーが注視している状態(後述)であること。
・視線検出ブロック160によって、接眼部16に接眼したユーザーの視線が検出された後に視線が検出されなくなった状態、すなわち、視線入力が終了した状態であること。
・視線検出ブロック160によって、接眼部16に接眼したユーザーの視線が検出されていない状態、すなわち視線入力がない状態であること。
・視線検出ブロック160によって、接眼部16に接眼したユーザーの視線が検出されている状態、すなわち視線入力がある状態であること。
・視線検出ブロック160によって、接眼部16に接眼したユーザーの視線が検出され、ユーザーが注視している状態(後述)であること。
・視線検出ブロック160によって、接眼部16に接眼したユーザーの視線が検出された後に視線が検出されなくなった状態、すなわち、視線入力が終了した状態であること。
・視線検出ブロック160によって、接眼部16に接眼したユーザーの視線が検出されていない状態、すなわち視線入力がない状態であること。
ここで述べたユーザーが注視している状態とは、視線検出ブロック160において、検出された視線に基づいてEVF29上の位置(視線位置)を特定し、特定される視線位置が所定時間内に所定の移動量を超えなかったと判定された場合のことを指す。
視線入力が終了した状態には、ユーザーが接眼部16から離眼した場合や、接眼部16への接眼を継続しているが瞼を閉じたことによるユーザーの目161を検出できない場合がある。
視線キャリブレーションとは、視線検出ブロック160を用いてユーザーの視線を検出し、より正確にユーザーの視線に対応する視線位置を決定するための校正ステップである。視線検出ブロック160はキャリブレーションを行わずともユーザーの視線を検出し、視線に対応する視線位置を決定することができる。しかし、瞼等を含めた人間の目全体の構造は個人差があり、ユーザーによっては視線に対応する視線位置を決定しづらい場合がある。視線キャリブレーションを行うことで、デジタルカメラ100を使用するユーザー固有の視線情報である視線データを取得することができる。取得したユーザー固有の視線データから校正値を算出することで、そのユーザーが入力した視線に対応する視線位置をより正確に決定することができる。
本実施形態のデジタルカメラ100のように、様々な姿勢で視線検出を行うことが想定される場合、デジタルカメラ100のEVF29と目161の位置関係、すなわち、視線検出ブロック160と目161の相対的な位置関係が変化する場合がある。このような場合、デジタルカメラ100が縦向きの場合と横向きの場合とで、それぞれにおいて視線キャリブレーションを行うことが望ましい。それぞれの向きにおけるそれぞれの校正値でユーザーの視線位置を算出したほうが、ユーザーが見ている位置と検出される視線位置とのズレを最小限で抑えることが可能である。
なお、本実施形態では、デジタルカメラ100が横向き、縦向き、いずれか一方で既に視線キャリブレーションを実行して(CALデータを取得済みで)いれば、取得済みのCALデータ(後述)を利用してある程度精度の高い視線検出を行うことができるとする。
視線キャリブレーションでは、表示される位置が異なる複数の注視対象点が表示される。この注視対象点はキャリブレーション時にユーザーに注視してもらいたい位置を示すインジケーターであり、表示要素である。それぞれの注視対象点(後述)をユーザーが注視した際のユーザーの視線データを取得、蓄積し、複数の視線データから校正値を算出する。このとき表示される複数の注視対象点は表示される位置が大きく異なるようにし、様々な角度の眼球の視線データを取得する。例えば、注視対象点を有効表示領域のうち上下左右に位置が大きく異なる(幅が大きくなる)ようにすることで、ユーザーの眼球の動き・角度が大きく異なる複数の視線データを取得する。これにより、表示部(EVF29)を見るユーザーの眼球の動き・角度がどのようなものであっても、取得した視線データから算出することができる。つまり、有効表示領域内かつユーザーが視認可能な範囲で、可能な限りユーザーの目161がより大きく動くような位置に注視対象点を表示し、その位置での視線データを取得することで、より精度の高いCALデータを算出できる。これら視線データから算出された校正値をキャリブレーション(CAL)データとして設定することで、ユーザーが視線入力を使用する際に毎度キャリブレーションを行うことなく、より精度の高い視線入力を行うことができる。なお、本実施形態では、取得した視線データから算出した校正値とデジタルカメラ100の向きを紐づけてCALデータとして保存・設定する。
視線キャリブレーションモードにおいて表示される表示要素である注視対象点の数は、本実施形態では5点とする。5点の注視対象点のうち、1点ずつ順に表示し、1点目の注視対象点における視線データを取得することができたら、1点目を非表示にして2点目の注視対象点を表示し、全ての視線データを取得し終え、校正値を算出し終えると視線キャリブレーションが完了する。
タッチパネル70aと表示部28とは一体的に構成することができる。例えば、タッチパネル70aは光の透過率が表示部28の表示を妨げないように構成され、表示部28の表示面の上層に取り付けられる。そして、タッチパネル70aにおける入力座標と、表示部28の表示画面上の表示座標とを対応付ける。これにより、あたかもユーザーが表示部28上に表示された画面を直接的に操作可能であるかのような表示オブジェクト(グラフィカルユーザーインターフェース)を提供できる。システム制御部50はタッチパネル70aへの以下の操作、あるいは状態を検出できる。
・タッチパネル70aにタッチしていなかった指やペンが新たにタッチパネル70aにタッチしたこと。すなわち、タッチの開始(以下、タッチダウン(Touch-Down)と称する)。
・タッチパネル70aを指やペンでタッチしている状態であること(以下、タッチオン(Touch-On)と称する)。
・タッチパネル70aを指やペンでタッチしたまま移動していること(以下、タッチムーブ(Touch-Move)と称する)。
・タッチパネル70aへタッチしていた指やペンを離したこと。すなわち、タッチの終了(以下、タッチアップ(Touch-Up)と称する)。
・タッチパネル70aに何もタッチしていない状態(以下、タッチオフ(Touch-Off)と称する)。
・タッチパネル70aにタッチしていなかった指やペンが新たにタッチパネル70aにタッチしたこと。すなわち、タッチの開始(以下、タッチダウン(Touch-Down)と称する)。
・タッチパネル70aを指やペンでタッチしている状態であること(以下、タッチオン(Touch-On)と称する)。
・タッチパネル70aを指やペンでタッチしたまま移動していること(以下、タッチムーブ(Touch-Move)と称する)。
・タッチパネル70aへタッチしていた指やペンを離したこと。すなわち、タッチの終了(以下、タッチアップ(Touch-Up)と称する)。
・タッチパネル70aに何もタッチしていない状態(以下、タッチオフ(Touch-Off)と称する)。
タッチダウンが検出されると、同時にタッチオンであることも検出される。タッチダウンの後、タッチアップが検出されない限りは、通常はタッチオンが検出され続ける。タッチムーブが検出されるのもタッチオンが検出されている状態である。タッチオンが検出されていても、タッチ位置が移動していなければタッチムーブは検出されない。タッチしていた全ての指やペンがタッチアップしたことが検出された後は、タッチオフとなる。
これらの操作・状態や、タッチパネル70a上に指やペンがタッチしている位置座標は内部バスを通じてシステム制御部50に通知される。システム制御部50は通知された情報に基づいてタッチパネル70a上にどのような操作(タッチ操作)が行なわれたかを判定する。タッチムーブについてはタッチパネル70a上で移動する指やペンの移動方向についても、位置座標の変化に基づいて、タッチパネル70a上の垂直成分・水平成分毎に判定できる。所定距離以上をタッチムーブしたことが検出された場合はスライド操作が行なわれたと判定するものとする。
タッチパネル上に指をタッチしたままある程度の距離だけ素早く動かして、そのまま離すといった操作をフリックと呼ぶ。フリックは、言い換えればタッチパネル70a上を指ではじくように素早くなぞる操作である。所定距離以上を、所定速度以上でタッチムーブしたことが検出され、そのままタッチアップが検出されるとフリックが行なわれたと判定できる(スライド操作に続いてフリックがあったものと判定できる)。更に、複数箇所(例えば2点)を同時にタッチして、互いのタッチ位置を近づけるタッチ操作をピンチイン、互いのタッチ位置を遠ざけるタッチ操作をピンチアウトと称する。ピンチアウトとピンチインを総称してピンチ操作(あるいは単にピンチ)と称する。
タッチパネル70aは、抵抗膜方式や静電容量方式、表面弾性波方式、赤外線方式、電磁誘導方式、画像認識方式、光センサー方式等、様々な方式のタッチパネルのうちいずれの方式のものを用いても良い。方式によって、タッチパネルに対する接触があったことでタッチがあったと検出する方式や、タッチパネルに対する指やペンの接近があったことでタッチがあったと検出する方式があるが、いずれの方式でもよい。
なお、デジタルカメラ100には、内蔵されたマイクまたは音声入力端子を介して接続された音声入力装置から得られたシステム制御部50に送信する音声入力部(不図示)が設けられていてもよい。この場合、システム制御部50は、入力された音声信号を必要に応じて選択し、アナログデジタル変換を行い、レベルの適正化処理、特定周波数の低減処理等をして音声信号を生成する。
(本実施形態)
本実施形態では、図3のS312に示すCAL処理(図5)において、EVF29に表示する注視対象点の表示可能な範囲を示す有効表示領域を、ユーザーによるファインダー表示形式の設定に応じて決定するように制御する。本実施形態の制御については、図3~図10を用いて説明する。
本実施形態では、図3のS312に示すCAL処理(図5)において、EVF29に表示する注視対象点の表示可能な範囲を示す有効表示領域を、ユーザーによるファインダー表示形式の設定に応じて決定するように制御する。本実施形態の制御については、図3~図10を用いて説明する。
図3は、デジタルカメラ100を起動(電源をオン)し、メニューボタン81を押下して設定メニュー画面に遷移した際に開始されるメニューモード処理の制御フローチャートである。この制御処理は、システム制御部50が、不揮発性メモリ56に格納されたプログラムをシステムメモリ52に展開し、システム制御部50が実行することにより実現する。
図3の制御フローチャートにおいて説明するメニューモード処理の表示例を図8(a)~(f)に示す。図8(a)~(f)は、視線入力に関する設定メニュー画面の表示例である。
S301では、システム制御部50は、視線入力に関する設定項目が選択されたか否かを判定する。選択された場合はS302へ進み、選択されない(視線入力に関するもの以外の設定項目が選択された)場合はS314へ進む。このときEVF29に表示する表示例を図8(a)に示す。設定項目801は視線入力機能の設定に関する項目であり、設定項目801をユーザーが選択すると図8(b)に示す視線入力に関する設定の詳細ページである設定メニュー画面に遷移する。図8(a)の設定項目801が選択されると本ステップにおいてYesと判定する。
S302では、システム制御部50は、視線入力に関する設定の詳細ページを表示する。このときEVF29に表示する表示例を図8(b)に示す。図8(b)は図8(a)の設定項目801の下階層(子階層)である。設定項目802は視線入力機能の“する”/“しない”を切り替えることで、ユーザーの視線を検出するかしないか、すなわち視線検出ブロック160を駆動するかしないかを切り替えることができる。つまり、視線入力機能を“する”に設定するとユーザーの視線による視線入力による操作を受け付け、“しない”に設定するとユーザーの視線による視線入力による操作を受け付けない。このとき、視線入力機能が“する”の場合にのみ視線検出ブロック160を駆動させ、“しない”場合は視線検出ブロック160を駆動させない(電源をオフする)。
S303では、システム制御部50は、CAL登録番号の設定項目が選択されたか否かを判定する。選択された場合はS304へ進み、選択されない(CAL登録番号以外の設定項目が選択された)場合はS310へ進む。具体的には、図8(b)の設定項目803が選択されると、本ステップにおいてYesと判定する。
設定項目803は、デジタルカメラ100がCALデータを複数持つための仕組みとしてデータを分類して登録するための番号であるCAL登録番号に関する項目である。1人のユーザーがデジタルカメラ100の視線入力機能を使用する場合でも、裸眼で使用する場合とメガネを装着して使用する場合とで、それぞれの状況でCALデータを設定したほうが、より精度の高い視線入力を行うことができる。同一のユーザーに限らず、1台のデジタルカメラ100を複数のユーザーで使用する場合は、それぞれのユーザーに対してそれぞれCALデータを設定保存して使用したほうが、ユーザーの視線位置の精度が高くなる。設定項目803をユーザーが選択すると、図8(c)に示すCAL登録番号の下階層(子階層)に遷移する。
S304では、システム制御部50は、CAL登録番号と表示名、それぞれのCAL登録番号のCAL実行状況(CALデータの設定状況)を一覧表示する。このときEVF29に表示する表示例を図8(c)に示す。
図8(c)は、CAL登録番号の詳細ページを示す。本実施形態では、登録番号1~6の6つのCALデータをデジタルカメラ100に登録できるようにする。ユーザーが一度もキャリブレーションを実行したことがなければ、いずれのCAL登録番号にもCALデータが設定保存されない。前述のようにCALデータはデジタルカメラ100の向きと紐づけて保存されるが、これは例えば、登録番号“1”の中に横向き、縦向きのCALデータを設定保存が可能ということであり、横向き、縦向きのCALデータそれぞれに対して登録番号を付与はしない。
例えば1~6までのCAL登録番号を一覧表示し、それぞれのCAL登録番号に対してユーザーが任意に設定した表示名を表示する(表示項目803a,803b)。ユーザーが表示名を設定していない場合は何も表示されない(表示項目803c)。また、個々のCAL登録番号について、CALデータが設定されているか否かを設定メニュー画面に表示する(表示項目803a)。表示項目803aが示すCAL登録番号“1”(表示名glasses1)は、CALデータが設定されておらず、未設定であることが表示アイテム813よりわかる。すなわち、表示アイテム813の有無によって、CALデータの設定の有無が認識できる。
表示アイテム813は、文書を示すアイコンの上に斜線が入っており、設定されているデータがないことを示す表示アイテムである。表示項目803bが示すCAL登録番号“2”(表示名glasses2)はCALデータが設定されているため、表示アイテム813は表示されない。CALデータが設定済みの表示項目803bがユーザーによって選択されると、図8(b)の画面へ遷移する(親階層へ戻る)。以降、視線入力機能を使用する際には、表示項目803aに設定されるCALデータを使用する。
CALデータ未設定の表示項目803cが選択されると図8(e)の表示を行い、キャリブレーションを実行するように促す。表示項目803cにカーソルが表示される状態でユーザーによる表示名の編集・変更指示があった場合は、図8(d)に示す画面へ遷移する。
なお、表示アイテム813は図8(c)に示すようなアイコンに限らず、CALデータが未設定であることが分かればよい。前述したように、登録番号1つにつき、デジタルカメラ100が取りうる向きである縦向きと横向きの2種類のデータが設定可能である。デジタルカメラ100が横向き、縦向きの両方においてCALデータが未設定である場合にのみ表示アイテム813が表示される。なお、本実施形態のように横向きについての設定状況をアイコン表示するのではなく、横向き、縦向きそれぞれの設定の有無をアイコン表示するようにしてもよい。
S305では、システム制御部50は、ユーザーによる表示名の変更指示があったか否かを判定する。変更指示があった場合はS306へ進み、ない場合はS307へ進む。変更指示とは例えば、デジタルカメラ100に備わるinfoボタン(不図示)の押下があった場合に、カーソルが表示されるCAL登録番号の表示名の変更指示があったとする。
S306では、システム制御部50は、CAL登録番号の表示名を編集・変更するためのソフトウエアキーボードを表示し、ユーザーによって編集・変更が行われた場合には表示名の変更を適用する。このときEVF29に表示する例を図8(d)に示す。
図8(d)は、カーソルがCAL登録番号のいずれかに表示されている状態で、ユーザーによる表示名を編集・変更する指示があった場合に遷移する画面である。EVF29にソフトウエアキーボードを表示し、ユーザーが任意の表示名を入力・変更することができる。
S307では、システム制御部50は、S304において一覧表示したCAL登録番号のうち、いずれか1つの特定のCAL登録番号が選択されたか否かを判定する。選択された場合はS308へ進み、そうでない場合はS314へ進む。
S308では、システム制御部50は、選択されたCAL登録番号でキャリブレーションが実行済み(CALデータ設定済み)であるか否かを判定する。
S309では、システム制御部50は、CAL処理に関する説明を表示する。このときEVF29に表示の表示例を図8(e)に示す。
図8(e)は、選択されたCAL登録番号においてキャリブレーションが実行されていない場合にEVF29に表示する表示例である。メッセージ807により、キャリブレーションが実行されていない旨を通知する。これにより、CALデータが未設定の状態で視線入力機能を使用し、精度の悪い視線検出によりユーザーが使い勝手が悪いと感じることを低減することができる。表示項目808を選択するとCAL登録番号の上階層(親階層)、すなわち図8(b)へ戻る。図8(b)へ戻ることで、キャリブレーションを行いたいユーザーは設定項目804を選択し、CAL処理へ遷移することができる。
S310では、S303においてNoと判定されたことから、システム制御部50は、キャリブレーション(CAL)項目が選択されたか否かを判定する。すなわち図8(b)の設定項目804が選択されたか否かを判定する。選択された場合はS311へ進み、選択されない場合はS313へ進む。
設定項目804は、ユーザーの視線データを取得するキャリブレーション(CAL)処理を開始するための項目である。ユーザーが設定項目804を選択すると、キャリブレーション(CAL)処理に遷移し、ユーザーの視線データを取得するキャリブレーションを開始する。CAL処理は図5(b)を用いて説明する。このとき設定項目803に示すCAL登録番号に対するキャリブレーションを実行し、完了するとCAL登録番号に紐づけてCALデータを設定保存する。
S311では、システム制御部50は、CALの開始指示があったか否かを判定する。開始指示があった場合はS312へ進み、ない場合はS314へ進む。例えば、システム制御部50は、図8(f)に示す表示をEVF29に表示する。設定項目809が選択された場合に、本ステップにおいてYesと判定する。
図8(f)は、キャリブレーションに関する設定メニュー画面であり、図8(b)の設定項目804が選択された場合に表示される。選択されたCAL登録番号に設定するためのキャリブレーションの開始を指示する項目である設定項目809がユーザーによって選択されると、キャリブレーションが開始(図5へ遷移)し、視線データの取得を行う。設定項目810がユーザーによって選択されると、図8(b)で表示していたCAL登録番号に登録されているCALデータを削除する。
設定項目811が選択されると、図8(b)で表示したCAL登録番号に設定されるCALデータをメモリーカード(記録媒体200)に保存、もしくは、メモリカードに保存されているCALデータを読み込む。これにより、視線入力機能を有する別のデジタルカメラ100を使用する際に、再度CALを実行することなく視線入力機能を使用することができ、ユーザーは何度もCALを実行する煩わしさを感じることなく視線入力機能を使用することができる。
S312では、システム制御部50は、CAL処理を行う。CAL処理については図5、図6を用いて後述する。
S313では、S310においてNoと判定されたことから、システム制御部50は、選択された視線項目の変更を行う。例えば、図8(b)の設定項目806が選択された場合、視線検出ブロック160で検出したユーザーの視線位置にポインター(指標)表示に関する処理を実行する。なお、いずれの視線項目も選択されなかった場合は、処理は実行せず、S318に進む。設定項目806は、第1シャッタースイッチ(SW1)62のオン、すなわちシャッターボタン61の半押しを、視線位置を確定するための操作(視線確定操作)とするか否かの項目である。
S314では、S301においてNoと判定されたことから、システム制御部50は、ファインダー表示設定の変更があったか否かを判定する。あった場合はS315へ進み、ない場合はS318へ進む。
S315では、システム制御部50は、不揮発性メモリ56を参照し、ファインダー表示設定が表示1であるか否かを判定する。表示1である場合はS316へ進み、そうでない場合はS317へ進む。ファインダー表示設定とは、EVF29に表示するライブビュー画像の有効表示領域に関する設定である。ファインダー表示の設定画面の表示例を図7(a-1)(a-2)に示す。本実施形態ではファインダー表示形式として、“表示1”と“表示2”の2つの設定を持つ。
図7(a-1)、(a-2)は設定メニュー画面における表示であるため、ユーザーが接眼部16に接眼している場合はEVF29に、接眼していない場合は表示部28に表示される。ただし、設定を行った後に撮影モード処理やCAL処理へ遷移した場合には、ファインダー表示形式の設定に応じた表示がされるのは、ユーザーが接眼部16へ接眼している場合のみである。接眼部16から離眼して表示部28を見ている場合には、ファインダー表示形式の設定によらず、表示がされる。
図7(a-1)のように、選択項目701にカーソルを合わせると、表示1の場合にEVF29に表示されるプレビュー画面が表示される(プレビュー704)。図7(a-1)に示す状態で決定(表示アイテム703を選択)すると、ファインダー表示形式は“表示1”に設定される。
同様に、図7(a-2)のように、選択項目702にカーソルを合わせると、表示2の場合にEVF29に表示されるプレビュー画面が表示される(プレビュー705)。この状態で表示アイテム703を選択すると、ファインダー表示形式は“表示2”に設定される。表示2はEVF29の表示領域全体ではなく、一回り小さい領域にLV画像を表示する。後述するようにメガネなどを装着するユーザーが表示1の設定にすると、EVF29全体に表示されるLV画像の四隅を十分に視認できない。表示2のように表示領域を一回り小さくすることで、メガネを装着するユーザーはLV画像を隅々まで十分に視認できるようになる。そのため、EVF29内の表示領域をユーザーが任意に設定できるようにする。なお、初期設定(工場出荷時の設定)ではファインダー表示形式の設定は“表示1”に設定されている。
S316では、システム制御部50は、ファインダー表示形式の設定を“表示1”にし(“表示1”から変更せず)、不揮発性56に保存する。このときEVF29に表示する撮影待機状態でのLV画像の表示例を図7(b-1)に、CAL処理での有効表示領域を図7(c-1)に、CAL処理での視線データ取得時の表示例を図10に示す。
S317では、システム制御部50は、ファインダー表示形式の設定を“表示2”にし、不揮発性メモリ56に保存する。このときEVF29に表示する撮影待機状態でのLV画像の表示例を図7(b-2)に、CAL処理での有効表示領域の表示例を図7(c-2)に示す。ユーザーが接眼部16に接眼してEVF29を見る際に、裸眼で見る場合とメガネを装着して見る場合とで、EVF29の視認可能範囲が異なる。特に凹レンズのメガネを装着している場合は凹レンズの仕組み上、裸眼の場合と比較してEVF29が拡大されて(ユーザーの目161とEVF29の距離が近くなるような状態になり)、EVF29の視認可能な範囲が小さくなる。そのため、EVF29の全体に矩形のもの(例えば図7(b-2)のようなLV画像)を表示すると矩形のうち四隅を視認することができなくなる。メガネを装着するユーザーが四隅を視認しようとすると、接眼部16に対して目161の位置をずらし、覗き込むような形をとる必要があった。
特にCAL処理では、接眼部16(視線検出ブロック160)と目161の位置関係が変化してしまうと、CAL処理時に取得する個々の視線データの条件が異なってしまい、算出するCALデータの精度が低下してしまう。CALデータの精度が低下すると、撮影モード処理において視線入力機能を使用した際に、ユーザーが実際に見ている位置と検出される視線位置とにズレが生じてしまい、ユーザーが視線入力機能を使いづらく感じてしまう可能性がある。そのため、表示2では、ユーザーがEVF29を覗き込むことなく(視線検出ブロック160と目161の位置関係が変化することなく)注視対象点を注視し、CAL処理において精度の良い視線データを取得できるように、有効表示領域を小さくする。表示2のようにEVF29の有効表示領域を表示1と比較して一回り小さくすることで、ユーザーが四隅をのぞき込むようにしなくても十分にEVF29に表示されるLV画像や有効表示領域を視認できるようにする。
S318では、システム制御部50は、他の設定項目の設定を行う。設定メニュー画面において、視線入力に関する設定以外の設定を行う。
S319では、システム制御部50は、処理が終了したか否かを判定する。処理が終了した場合は、図3の制御フローチャートを終了し、そうでない場合はS301へ戻る。
図4は、デジタルカメラ100を起動(電源をオン)し、撮影待機状態である場合に開始される撮影モード処理の制御フローチャートである。この制御処理は、システム制御部50が、不揮発性メモリ56に格納されたプログラムをシステムメモリ52に展開し、システム制御部50が実行することにより実現する。
S400では、システム制御部50は、接眼検知部57を用いて、接眼部16へ接眼があるか否かを判定する。接眼がある場合はS402へ進み、ない場合はS401へ進む。
S401では、システム制御部50は、表示部28にLV画像を表示し、S415へ進む。このとき後述する視線入力機能の設定内容にかかわらず、視線入力機能は行わない。本実施形態では、接眼部16に視線検出ブロック160が配置されているため、ユーザーが接眼した場合にのみ視線を検出可能である。そのため、接眼部16から離眼している場合は視線入力機能を使用することはできない。
S402では、システム制御部50は、不揮発性メモリ56を参照し、ファインダー表示形式の設定を判定する。ファインダー表示形式の設定が“表示1”である場合はS403へ進み、“表示2”である場合はS404へ進む。
S403では、システム制御部50は、EVF29に“表示1”の表示形態(図7(b-1))でLV画像と撮影情報を表示する。このとき、領域715に撮影情報が表示され、領域715を除いた領域713にLV711が表示される。
S404では、システム制御部50は、EVF29に“表示2”の表示形態(図7(b-2))でLV画像と撮影情報を表示する。“表示2”の表示形式では、“表示1”に比べてLV画像の有効表示領域が小さくなる。領域715に撮影情報の表示を行い、LV711を領域714に表示する。領域714は領域713を縮小した範囲であり、“表示1”の場合と比較すると、LV711の周囲に余白がある。
本実施形態では、領域714は領域715を除いたEVF29の有効表示領域のうち、下辺は領域715に接した中央に位置する領域とする。ファインダー表示形式の設定を表示2にしたとしても、LV画像の有効表示領域をEVF29の中央ではなく上下左右のいずれかに寄せて表示すると、LV画像の一部が視認できなくなり、ユーザーがEVF29を覗き込んでしまい上述した不都合を解消できない。そのため、“表示2”のような表示とした場合は、中央に表示する。
これにより、ユーザー所望の有効表示領域内にLV画像が表示され、メガネを装着しているユーザーなどはLV画像を隅々まで視認することができる。また、メガネを装着していないユーザーであっても、LV画像を確認する際に視線の大きな移動を行いたくないユーザーにとっては、使い勝手が良い。なお、撮影情報の有効表示領域は変わらないため、EVF29に表示する撮影情報に関する情報量は変化しない。
S405では、システム制御部50は、視線入力機能が“しない(無効)”から“する(有効)”へ切り替えられたか否かを判定する。切り替えられた場合はS406へ進み、切替がない場合はS411へ進む。視線入力機能の切替指示は操作部70のうちいずれかに割り当て可能であり、設定メニュー画面に遷移せずとも、撮影待機状態において操作部材への操作に応じて切り替えることが可能である。
S406では、システム制御部50は、現在設定されているCAL登録番号でCAL実行済み(CALデータが設定済み)であるか否かを判定する。CAL実行済みである場合はS407へ進み、CALが実行されていない場合はS409へ進む。
S407では、システム制御部50は、不揮発性メモリ56を参照し、ポインターの表示設定が“する”であるか否かを判定する。“する”である場合はS408へ進み、“しない”である場合はS411へ進む。
図8(b)の設定項目805にポインターの表示設定を示す。設定項目805は、検出された視線位置にポインター表示を行うか否かの項目であり、“する”に設定すれば、視線検出ブロック160により検出された視線位置にポインターを表示する。これによってユーザーは自分の視線がどの位置に検出されたか(検出位置)を視認することができる。“しない”に設定すれば、視線位置にポインターは表示されない。
本実施形態ではポインターは、視線位置を中心とする小さい円、さらにその周囲に一回り大きい円が表示されるような表示形態とする。なお、設定項目802の視線入力機能が“しない”設定であると、設定項目805のポインター表示の設定内容が“する”/“しない”のうちいずれであっても検出された視線位置にポインターは表示されない。
S408では、システム制御部50は、視線検出部ブロック160により検出された視線位置にポインターを表示し、検出された視線位置をユーザーが視認できるようにする。
S409では、システム制御部50は、CALが実行されていない、すなわち、CALデータが設定されていないことを示すガイドをEVF29に表示する。このときの表示例を図8(e)に示す。CALが実行されていない(CALデータが未設定)状態で視線入力機能を使用すると、ユーザーが見ている位置と検出される視線位置にズレが生じ、ユーザーが視線入力による様々な機能を使いづらく感じる可能性が高い。そのため、CALデータの設置を促すガイド表示(メッセージ807)を行う。
S410では、システム制御部50は、実行指示があったか否かを判定する。あった場合はS409において表示したガイド表示を非表示にしてS407へ戻る。実行指示がない場合は、S415へ進む。実行指示とは、具体的には図8(e)に示す表示アイテム808への指示を指す。なお、S409で前述したガイド表示(図8(e)のメッセージ807)と共にCAL処理へ遷移するためのショートカットボタンを表示し、ユーザーが設定メニュー画面に遷移しなくても直接CAL処理へ遷移できるようにしてもよい。ユーザーによってメニューボタン81が押下された場合は、ガイド表示を非表示にして図3のS302へ遷移する。
S411では、システム制御部50は、視線確定操作があったか否かを判定する。視線確定操作があった場合はS412へ進み、ない場合はS415へ進む。視線確定操作とは、検出されたユーザーの視線位置に対応する領域に基づく処理を実行する指示のための操作である。本実施例では視線確定ボタン82の押下を視線確定操作とし、視線確定操作に応じてユーザーの視線位置に対応する領域を合焦処理(Auto Focus、AF処理)の対象領域と設定し、AF処理を実行する。
S412では、システム制御部50は、視線入力機能の設定が“する(有効)”設定であるか否かを判定する。“する”設定である場合はS413へ進み、“しない(無効)”である場合はS415へ進む。
S413では、システム制御部50は、視線があるか否かを判定する。視線検出ブロック160において、ユーザーの視線が検出できる場合は視線があるとし、S414へ進む。視線がない場合はS415へ進む。
S414では、システム制御部50は、S411において視線確定操作が行われた時点での視線検出ブロック160で検出・算出したEVF29上のユーザーの視線位置に基づく位置にAF枠を移動し、AFを実行する。
S415では、システム制御部50は、第1シャッタースイッチ62がオンになったか否かを判定する。オンになった場合はS416に進み、そうでない場合はS426へ進む。第1シャッタースイッチ62がオンとは、前述したようにシャッターボタン61が半押しされている状態を示す。すなわち、ユーザーは撮影を行おうとしていることが想定できる。
S416では、システム制御部50は、フォーカスモードがAFモードに設定されているか否かを判定する。AFモードに設定されている場合は、S417へ進み、そうでない場合(MFモードに設定されている場合)は、S423へ進む。AFモード/MFモードの切り替えは、設定メニュー画面やレンズユニット150の外部に備えられているスイッチなどで切り替えられる。
S417では、システム制御部50は、不揮発性メモリ56を参照し、SW1視線確定の設定が“する”(有効)であるか否かを判定する。“する”(有効)である場合はS418へ進み、“しない”(無効)である場合はS421へ進む。
図8(b)の設定項目806に、SW1の視線確定の設定を示す。設定項目806を“する”に設定すると、ユーザーがシャッターボタン61を半押しした時点で視線検出ブロック160により検出された視線位置に確定される。“しない”に設定すると、シャッターボタン61の半押しでは視線位置は確定されない。なお、図8(b)では、視線入力機能は“する”、CAL登録番号は“1”(表示名はglasses1)、ポインター表示は“する”、SW1での視線確定機能は“しない”に設定されている。すなわち、ユーザーの視線位置を検出し、EVF29に表示するLV画像にポインターが表示される。視線確定操作で視線位置にAF枠が移動・AFが実行されるが、SW1では視線位置にAF枠が移動することはない。
S418では、S412と同様に、システム制御部50は、視線入力機能の設定が“する(有効)”設定であるか否かを判定する。“する”設定である場合はS419へ進み、“しない(無効)”である場合はS422へ進む。
S419では、S413と同様に、システム制御部50は、視線があるか否かを判定する。視線検出ブロック160において、ユーザーの視線が検出できる場合は視線があるとし、S420へ進む。視線がない場合はS422へ進む。
S420では、システム制御部50は、S415において第1シャッタースイッチ62がオンになった時点での視線検出ブロック160で検出・算出したEVF29上のユーザーの視線位置に基づく位置にAF枠を移動し、AFを実行する。本ステップでは、S417においてYesと判定されたことから、図8(b)の設定項目806を用いて前述したように、第1シャッタースイッチ62がオンになったことに応じて視線確定操作が行われたとし、検出した視線位置にAF枠を移動する。
S421では、システム制御部50は、AF枠の表示位置に基づいてAF処理を行う。
S422では、システム制御部50は、AEやAWB等のその他の撮影準備処理を行う。
S423では、システム制御部50は、第2シャッタースイッチ64がオンになったか否かを判定する。第2シャッタースイッチ64がオン、すなわち、シャッターボタン61が全押しされた場合は、S424へ進み、そうでない場合は、S425へ進む。本実施形態ではシャッターボタン61の全押しで撮影指示としたが、例えばタッチパネル70aに表示されるアイコンへのタッチ操作によって、撮影指示としてもよい。
S424では、システム制御部50は、撮像された画像を画像ファイルとして記録媒体200に記録するまでの一連の撮影処理を行う。
S425では、システム制御部50は、第1シャッタースイッチ62のオンが継続しているか否かを判定する。継続している場合はS416に戻り、終了している場合はS426へ進む。
S426では、システム制御部50は、撮影モードが終了したか否かを判定する。撮影モードが終了した場合は図4の制御フローチャートを終了する。撮影モードが終了していない場合はS400へ戻る。撮影モードの終了とは、例えば、デジタルカメラ100の電源OFFやメニューボタン81の押下による設定メニュー画面への遷移によるものを指す。
図5は、図3のS312(S311においてYesと判定)に進んだ場合に開始される、CAL処理の制御処理フローチャートである。すなわち、デジタルカメラ100を起動し、設定メニュー画面(メニューモード処理)においてキャリブレーションの実行指示(キャリブレーションの設定項目の選択)があった場合に開始される。この制御処理は、システム制御部50が、不揮発性メモリ56に格納されたプログラムをシステムメモリ52に展開し、システム制御部50が実行することにより実現する。
S501では、S401と同様に、接眼部16への接眼があったか否かを判定する。接眼があった場合はS505へ進み、ない場合はS502へ進む。
S502では、システム制御部50は、表示部28にエラー表示を行う。離眼しているユーザーに視認してもらうためにEVF29ではなく表示部28にガイド表示(メッセ―ジ901)を示す。このときの表示例を図9(a)に表示する。
図9(a)は、キャリブレーションの開始指示が(図8(f)の設定項目804選択)されたあとに接眼部16からの離眼があった場合に、表示部28に表示する表示例である。本実施形態では視線検出ブロック160が接眼部16に配置されていることから、ユーザーが接眼部16に接眼していないとCALデータを取得することができない。そのため、メッセージ901を表示部28に表示し、ユーザーが接眼部16に接眼するように促す。表示アイテム902を選択すればキャリブレーションを中断してCAL処理からメニューモード処理へ(図9(a)から図8(b)へ)遷移する。ユーザーが接眼部16に接眼をすれば(接眼検知部57で接眼の検知が再開されれば)、表示部28(図9(a)の表示)を非表示にし、EVF29に図9(b)もしくは図9(c)の表示を行う。なお、接眼部16に接眼していない状態であってもCALデータを取得することができる機構である場合は、図9(a)に示すような表示を行う必要はない。
S503では、システム制御部50は、中断指示があったか否かを判定する。あった場合は図3のS302へ戻り、ない場合はS504へ進む。中断指示とは、図9(a)の表示アイコン902の選択を指す。
S504では、システム制御部50は、モード切替指示があったか否かを判定する。あった場合はS505へ進み、ない場合はS501へ戻る。
S505では、システム制御部50は、S504において行われたモード切替指示に対応する処理へ遷移する。具体的には、メニューボタン81が押下されるとメニューモード処理(図3)へ、再生ボタン79が押下されると画像の再生を行う処理へ遷移する。
S506では、S501においてYesと判定されたことから、システム制御部50は、不揮発性メモリ56を参照し、ファインダー表示形式の設定を判定する。ファインダー表示形式の設定が“表示1”である場合はS507へ進み、“表示2”である場合はS508へ進む。
S507では、システム制御部50は、EVF29に表示する有効表示領域をEVF29内全体とする。このときの表示例を図7(c-1)に示す。ファインダー表示形式の設定が表示1であることから、CAL処理における注視対象点を表示する範囲を示す有効表示領域についてもEVF29全体、すなわち図7(c-1)の領域720とする。このとき領域720をグレー色の画像で示す。
なお、図7(c-1)ではEVF29全体を有効表示領域としたが、これに限らない。つまり、表示部28とEVF29のように、表示可能な領域の縦横比が異なる場合は、有効表示領域を最も大きく表示できるようにし、例えば有効表示領域の上下に余白が生じても、本実施形態にはなんら影響を与えない。
S508では、システム制御部50は、EVF29に表示する有効表示領域をEVF29内の全体から一回り小さくした領域(一部領域)とする。このときの表示例を図7(c-2)に示す。図7(c-2)の領域721を、CAL処理における注視対象点を表示する有効表示領域とし、領域721をグレー色の画像で示す。領域721は前述した領域720に対して約85%程度、縮小した領域であるとする。
図7(c-1),(c-2)はCAL処理における視線データ登録処理を行う際の、ファインダー表示形式に対応した注視対象点有効表示領域の表示例を示す。注視対象点表示領域とは、キャリブレーションの実行時に表示する注視対象点が表示される領域であり、注視対象点表示領域の外に注視対象点は表示されない。注視対象点表示領域をキャリブレーションの実行前、もしくはキャリブレーションの実行開始時に表示することにより、ユーザーは、ユーザーがファインダーを覗いている状態で、注視対象点を認識できるか否かを予め判断することが可能となる。
例えば、本実施例においては注視対象点表示領域をグレー色の画像として示す。キャリブレーションの実行時に、注視対象点はグレー色の画像の範囲内のあらかじめ定められた位置に表示される。
なお注視対象点表示領域の表示方法はグレー色の画像に限らず、特定の模様で示されたパターン画像、注視対象点表示領域の四隅をかぎ括弧で示したり、注視対象点表示領域の外周を囲ったりする表示であってもよい。メニューモード処理とも撮影モード処理とも異なるキャリブレーションを行うことをユーザーに認識してもらうために、他のモード処理と識別可能な画像であり、かつ、領域の範囲が認識可能であればよい。なお、グレー色の画像とした理由は、人間の目の特性上、白色や黒色などの明るすぎず、また黒色と判別しやすい色を見る場合の目の瞳孔の開き具合が、最も視線データを取得するのに適しているためである。例えば、本実施例では例えばRGBで(119,119、119)で表現される色(グレー色)の画像で注視対象点を表示可能な範囲を示す有効表示領域を示すとする。
S509では、システム制御部50は、現在設定されているCAL登録番号においてCALが実行済み(CALデータ設定済み)であるか否かを判定する。実行済みである場合はS511へ進み、実行していない場合はS510へ進む。
S510では、システム制御部50は、EVF29に、キャリブレーションを行う前に視度調整を行ってほしい旨をEVF29に表示する。キャリブレーションを実行する際は、EVF29に表示する注視対象点を注視するユーザーの目のデータ(視線データ)を取得するため、視度調整が行われていたほうが、ユーザーが注視対象点を注視しやすく、また、より正確な視線データを取得しやすい。このときの表示例を図9(b)に示す(メッセージ903)。
図9(b)は、ユーザーにより選択されたCAL登録番号において、CALデータが未設定の状態でキャリブレーションが開始(図8(f)の設定項目809選択)された場合にEVF29に表示されるガイド表示である。ユーザーにより選択されたCAL登録番号においてキャリブレーションが実行されていないことから、ユーザーに視度調整を行ってもらったほうがこれから取得するCALデータをより正確に取得できる。そのため、メッセージ903のようなガイド表示を行う。
表示アイテム904には、現在設定のCAL登録番号と表示名が表示される。表示アイテム905に示すように、M-Fnボタンの押下が行われるとユーザーの視度調整が終了したとみなし、キャリブレーションを開始する(図9(d)に示す画面へと遷移する)。図9(d)はCAL処理の開始時の表示例であり、図10(a-1)と同じものである。なお、視度調整に限らず、他の、より正確なCALデータを取得できる要素についてのガイド表示を行ってもよい。
S511では、システム制御部50は、EVF29に、キャリブレーションを行う旨を表示する。このときの表示例を図9(c)に示す。S510において表示した、図9(b)のメッセージ903に代わって、「キャリブレーションを行います」(メッセージ906)というメッセージをEVF29に表示する。CALが実行済みである場合(S511を用いて後述)は、ユーザーが既に視度調整などの調整を行っていると想定できるため、メッセージ903の表示は行わない。
S512では、システム制御部50は、実行指示があったか否かを判定する。あった場合はS513へ進み、ない場合はS514へ進む。実行指示とは、図9(b)(c)の表示アイテム905へのユーザーの指示を指す。図9(b)に示す例では、M-Fnボタン83が押下された場合、システム制御部50は、実行指示が入力されたと判定する。ユーザーが本ステップでの実行指示を行った後、実行指示を行ったままの姿勢でキャリブレーションを実行することが想定される。そのため、実行指示を行うための操作部材は、ユーザーが接眼部16に接眼しながら、かつ、グリップ部90を右手でしっかりと把持した状態で操作することができる位置に配置されていることが望ましい。視線検出ブロック160と目161の相対位置関係が変化しないようにするためである。
S513では、システム制御部50は、EVF29に表示していた撮影情報等の情報表示を全て非表示にする。これにより、視線データ取得工程、すなわち注視対象点を順次表示して視線データを取得する際に、ユーザーが注視対象点以外の他の情報に惑わされることなく(他の情報を注視することなく)、注視対象点を注視することができる。
S514では、S512においてNoと判定されたことから、システム制御部50は、接眼部16からの離眼があったか否かを判定する。離眼があった場合はS502へ戻り、離眼がない(接眼部16への接眼が継続されている)場合はS512へ戻る。
S515では、システム制御部50は、視線データの登録処理を行う。視線データの登録処理については図6を用いて後述する。視線データの登録処理(図6の制御処理フローチャート)が終了すると、図3のS302へ戻る。
図6は、図5のS515に到達した際に開始される制御フローチャートである。この制御処理は、システム制御部50が、不揮発性メモリ56に格納されたプログラムをシステムメモリ52に展開し、システム制御部50が実行することにより実現する。
図6の視線データ登録処理においてEVF29に表示する注視対象点の表示例を図10に示す。図10(a-1)~(e-1)はファインダー表示形式が表示1に設定されている場合、図10(a-2)~(e-2)はファインダー表示形式が表示2に設定されている場合の表示例である。本実施形態では、有効表示領域内の、上下左右中心→上下中心の左→上下中心の右→左右中心の上→左右中心の下の順に5点の注視対象点を表示し、各注視対象点に対する視線データを取得する。より精度の高い視線検出を行うためにユーザーの目161が様々な方向を向いた際の視線データを取得する。そのため、上述したような位置と順で注視対象点の表示を行うが、これに限らない。視線データ登録処理における有効表示領域はグレー色の画像で示し、この有効表示領域に重畳して注視対象点を表示する。
ファインダー表示形式が表示1に設定されている場合の図10(a-1)~(e-1)では、有効表示領域をEVF29全体にする。そのため、グレー色の画像で示すキャリブレーション有効表示領域(領域720)も同様にEVF29全体に表示を行い、より広い領域内に注視対象点を表示し、視線データを取得する。ファインダー表示形式が表示2に設定されている場合の図10(a-2)~(e-2)では、上下左右に余白を設け、キャリブレーションの有効表示領域を一回り小さくする。
前述のように、ファインダー表示形式を表示2に設定する場合は、ユーザーがメガネを装着している場合があり、表示1の有効表示領域のままではEVF29の四隅を含む隅々まで視認しようとするとユーザーが目の位置をずらして覗き込む必要があった。通常の撮影時には覗き込んだとしても大きな問題は生じないが、視線データの取得時には視線検出ブロック160と目161との相対位置が変化してしまい、正確な視線データを取得できず、視線データから算出するCALデータの精度が低くなる可能性が生じる。そのため、ユーザーによる覗き込みを防ぐために、キャリブレーションの有効表示領域を一回り小さく(表示1のときの有効表示領域の約85%程度に)し、領域721とする。注視対象点の表示位置は、グレー色の画像で示す有効表示領域内での相対位置が同じになるように表示を行う。
S601では、システム制御部50は、視線データ取得時のアドバイスを表示する。このときの表示例を図10(a-1)(a-2)に表示する。図5のS507もしくはS508において表示した、有効表示領域に重畳してアドバイス(メッセージ907)をEVF29に表示する。
図10(a-1),(a-2)は1点目の注視対象点(i=1)をEVF29に表示した際の表示例である。1点目の注視対象点とともに、メッセージ913を表示する。ユーザーによる視線データ取得の実行指示(M-Fnボタン83の押下)があった場合は、実行指示があった時点での視線データを取得する。そして、1点目の注視対象点とメッセージ913を非表示にして2点目の注視対象点を表示(図10(b-1),(b-2)に遷移)する。1点目の注視対象点である指標1001の表示位置はそれぞれ領域720、領域721の中央とし、メッセージ913は注視対象点が視認できる位置に表示する。
なお、領域720、領域721はファインダー表示形式の設定に従って有効表示領域の大きさを変化させたが、指標1001、指標1010とメッセージ913の表示の大きさは変化させない。注視対象点である指標1001、指標1010はファインダー表示形式の設定に関わらずユーザーに注視してもらいたい点であるため、大きさを縮小してしまうとかえって注視しづらいためである。また、メッセージ913も同様に縮小表示してしまうと視認しづらくなる。そのため、メッセージ913の文章は、ファインダー表示形式がいずれであっても有効表示領域内に含まれるようにする。注視対象点2点目以降は、メッセージ913は表示しない。
S602では、システム制御部50は、変数iを1とし、システムメモリ52に格納する。本実施形態では、変数iはEVF29に表示する注視対象点の表示の点目(順)を表す。
S603では、システム制御部50は、i番目の注視対象点をEVF29に表示する。前述したように、注視対象点とはキャリブレーション時にユーザーに注視してもらいたい位置を示すインジケーターである。i=1の場合は、S601で述べたアドバイスと共に1点目の注視対象点を示す(図10(a-1)(a-2))。i=2~5の場合は、アドバイスは表示せず注視対象点のみを表示する。不揮発性メモリ56を参照し、ファインダー表示形式の設定が表示1のときの表示例を図10(a-1)~(e-1)に示す。ファインダー表示形式の設定が表示2の時の表示例を図10(a-2)~(e-2)に示す。
図10(b-1),(b-2)は2点目の注視対象点(i=2)をEVF29に表示した際の表示例である。1点目の注視対象点を表示した場合と同様に、ユーザーによる視線データ取得の実行指示があった場合は、実行指示時点での視線データを取得し、2点目の注視対象点を非表示にしたのち3点目の注視対象点を表示する。以下、i=3~5についても同様の制御を行う。このときの表示例は図10(c-1)~(e-1)、図10(c-2)~(e-2)に示す。
S604では、システム制御部50は、実行指示があったか否かを判定する。実行指示があった場合はS605へ進み、ない場合はS604へ戻る。実行指示は、図10(a-1)(a-2)に示すようにM-Fnボタン83への操作とするが、これに限らない。前述したように、ユーザーがグリップ部90を把持した状態で、視線検出ブロック160とユーザーの目161との位置関係が変化しないで操作ができる操作部材であればよい。なお、実行指示がない場合でも、シャッターボタン61やメニューボタン81の押下があった場合は対応する処理へ遷移する。
S605では、システム制御部50は、エラーが発生したか否かを判定する。エラーが発生した場合はS606へ進み、発生していない場合はS610へ進む。本ステップでのエラーとは、具体的には、現在のCAL登録番号に設定されているCALデータから導出する視線データと、現在取得した視線データとが著しく異なる場合がある。これは、CAL登録番号に設定されているCALデータでは裸眼であったが、現在取得した視線データではメガネをかけていると想定されるデータである場合などの理由で生じる。
また、ユーザーが接眼部16から離眼してしまった場合や正しく接眼部16に接眼していない場合や、視線データを取得する際に瞬きなどで目を閉じた(瞬きが多い)場合や目に外光が反射した場合。発生したゴーストが、ユーザーのメガネのレンズ表面もしくは目にかぶった場合にもエラーが発生したと判定する。これらのように、エラーによって視線検出ブロック160が視線データを正しく取得できなかったと判定した場合には、エラーが発生したと判定する。
S606では、システム制御部50は、EVF29にエラー表示を行う。発生したエラーに応じたメッセージを表示する。このときEVF29に表示する表示例を図9(e)(f)に示す。
図9(e)は、S605で前述したように、現在のCAL登録番号に設定されているCALデータから導出する視線データと、現在取得した視線データとが著しく異なる場合に表示されるエラー表示(メッセージ908)である。
図9(f)は、視線データを取得する際に瞬きなどで目を閉じた(瞬きが多い)場合や目に外光が反射した場合。発生したゴーストが、ユーザーのメガネのレンズ表面もしくは目にかぶった場合に表示されるエラー表示である。メッセージ911にエラーが発生したため視線データの取得に失敗した旨を表示し、メッセージ912に視線データの取得を指示する際のアドバイスを表示する。なお、ユーザーが接眼部16から離眼してしまった場合や正しく接眼部16に接眼していない場合は「視線を検出できませんでした。ファインダーに目を近づけてください。」というエラー表示を行う。
S607では、システム制御部50は、実行指示があったか否かを判定する。実行指示があった場合はS606で表示したエラー表示を非表示にしてS603へ戻り、ない場合はS608へ進む。実行指示とは、図9(e)(f)の表示アイテム910の選択とする。
S608では、システム制御部50は、中断指示があったか否かを判定する。中断指示があった場合はS609へ進み、ない場合はS606へ戻る。中断指示とは、図9(e)(f)の表示アイテム909の選択とする。S607、S608においてなにも指示がない場合は、EVF29へのエラー表示を継続する。ユーザーによる指示がなにもなければ、エラー表示を非表示にしない。このように制御することでユーザーはエラーが発生したことを認識することなく、エラーを解消せずに視線データの取得を継続することがない。
S609では、システム制御部50は、図6の制御フローチャートにおいて取得した視線データを破棄し、図3のS302へ戻る。
S610では、システム制御部50は、実行指示があった時点でのデジタルカメラ100の姿勢と、i番目の注視対象点での視線データを取得する。デジタルカメラ100の姿勢は、姿勢検出部55によって取得する。本実施形態では、本ステップにおいてデジタルカメラ100の姿勢をシステムメモリ52に保存する。
S611では、システム制御部50は、S606において取得したデジタルカメラ100の姿勢が、i=1のとき(すなわち1点目の注視対象点を表示時)に取得した姿勢と同じであるか否かを判定する。同じである場合はS612へ進み、異なる場合はS606へ進む。i=1の場合は本ステップをスキップする。前述したように、複数のCALデータ(視線データから算出)とカメラの姿勢は紐づけて設定される。そのためi=1のときの姿勢と異なると視線データから算出するCALデータの精度が低下してしまい、視線入力機能の精度が低下してしまう。
S612では、システム制御部50は、取得したデータを蓄積する。S610において取得した、デジタルカメラ100の姿勢と視線データとを紐づけて不揮発性メモリ56に保存する。CAL登録番号に設定するCALデータはデジタルカメラ100の姿勢と紐づけて保存されるが、これは例えば、登録番号“1”の中に横向き、縦向きのCALデータを設定保存が可能ということである。横向き、縦向きのCALデータそれぞれに対して登録番号を付与はしない。
それぞれの姿勢と紐づけてCALデータを保存することにより、姿勢が変わった際の検出される視線位置のズレを最小限に抑えることができる。なお、CAL登録番号はデジタルカメラ100の姿勢のうち、いずれかでCALデータを設定していれば、CALデータの設定の有無を示す図8(c)の表示アイテム813は表示されない。CALデータが設定されていない場合は表示アイテム813が表示される。
S613では、システム制御部50は、変数iをi+1とし、システムメモリ52に格納する。
S614では、システム制御部50は、システムメモリ52を参照し、変数i>Thであるか否かを判定する。i>Thである場合はS615へ進み、そうでない(i≦Thである)場合はS603へ戻る。なお、本実施例ではThは5であるとする。ここで、Thは、キャリブレーションでデータを取得する点の数であり、本実施例では5点の注視対象点に対して視線データを取得し、CALデータを生成する。
S615では、システム制御部50は、i=1のときのデジタルカメラ100の姿勢と取得した視線データとを紐づけてCALデータとして不揮発性メモリ56に保存する。
S616では、システム制御部50は、キャリブレーションをもう一度実行する指示があったか否かを判定する。実行指示がある場合はS602へ進み、ない場合は図6の制御処理フローチャートを終了する。このときの表示例を図9(g)に示す。図9(g)は5点分の視線データの取得が完了した場合にEVF29に表示される表示例である。メッセージ913にキャリブレーションが完了した旨を表示し、メッセージ914にキャリブレーションを何度か行うと視線検出の精度が向上する旨を表示する。ユーザーによって表示アイテム909が選択されると、図6の制御処理フローチャートを終了して図3の制御フローチャートへ戻り、表示アイテム915が選択されるとS602に戻り、視線データ取得処理を再開する。
上述したように本実施形態では、ユーザーによる設定(状況)に応じて、CAL処理時の有効表示領域を決定する。ユーザーが接眼部16に接眼しEVF29を見ている際に、ユーザーがEVF29全体に表示を行う設定とした場合は、CAL処理において注視対象点を表示する領域である有効表示領域をEVF29全体にする。
ユーザーがEVF29全体より小さい範囲に表示を行う設定とした場合、CAL処理における有効表示領域もEVF29全体より小さい範囲とする。すなわち、EVF29全体を視認できるユーザーはEVF29全体に、メガネ装着などでファインダー内の視野が狭くなり、EVF29全体を隅々まで視認することが難しいユーザーはEVF29全体より小さい範囲に、有効表示領域を設定できる。
これにより、CAL処理において視線データ取得時において、EVF29に表示された注視対象点が視認できずに視線検出ブロック160と目161の位置関係を変えてしまうことが低減できる。すなわち、視線検出ブロック160と目161の位置関係が変わってしまうことによる視線データの精度の低下を低減できる。視線データの精度の低下の低減により、ユーザーが視線入力機能を使用する際に、ユーザーが見ている位置と検出された視線位置とのズレが最小限に抑えられ、ユーザーが煩わしく感じることを低減できる。また、本実施形態では、ユーザーが視認可能な範囲で可能な限りユーザーの目161がより大きく動くような位置に注視対象点(後述)を表示し、その位置での視線データを取得することが可能である。これにより、より精度の高いキャリブレーションデータを算出することができ、より精度の高い視線入力を行うことができる。
なお、本実施形態ではEVF29に表示する、ユーザーに注視してもらいたいインジケーターを注視対象点と呼称したが、厳密には点や表示部の液晶1ドット等ではなく、図10に示すような、ある程度の大きさ・面積を持つインジケーターとする。また、図10に示すように注視対象点の表示形態を、四角形かつ塗りつぶす形態としたが、ユーザーが視線データ取得の実行指示を行うまでは四角形の指標が回転するようなアニメーション表示としても本実施形態にはなんら影響はない。アニメーション表示とすることでユーザーがより指標を注視しやすくなる。なお、注視対象点の表示位置や表示順、表示形態、表示の大きさ(面積)はこれに限らない。四角形でなくても三角形や丸形、星形などでもよい。
また本実施形態ではいずれの処理の制御を行っている場合であっても、メニューボタン81の押下があればメニューモード処理、シャッターボタン61の押下があれば撮影モード処理、再生ボタン7の押下があれば記録媒体200に保存される画像の再生を行う。また、電源スイッチ72が操作された場合は、デジタルカメラ100の電源をオフする。
システム制御部50が行うものとして説明した上述の各種制御は、1つのハードウエアが行ってもよいし、複数のハードウエア(例えば複数のプロセッサーや回路)が処理を分担することで装置全体の制御を行ってもよい。
また、本実施形態をその好適な実施形態に基づいて詳述してきたが、本実施形態はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本実施形態に含まれる。視線入力と組み合わせて使う位置移動の指示部材としてタッチパネル70aの例を説明したが、ボタンやダイヤルなどこれ以外の操作手段としてもよい。表示位置をAF枠としたが、アイコン枠やパラメーター設定枠などとしてもよいし、マウスポインタなどの視線注視枠602とは異なるインジケーター表示としてもよい。注視の判定基準について、視線検出ブロック160への視線入力が開始したあとの蓄積時間としたが、この蓄積時間についてあらかじめ設定した時間でもよい。表示されている視線注視枠602と視線位置との位置関係に応じて変化するようにしてもよいし、ユーザーが任意に設定できるようにしてもよい。また、ユーザーの意図した視線位置の判断基準として本実施形態では注視を取り上げたが、注視による判断基準ではなくてもよい。
また、上述した実施形態においては、本実施形態をカメラに適用した場合を例にして説明したが、これはこの例に限定されず視線入力を受け付け可能な受付手段と接眼部を有する表示制御装置であれば適用可能である。また、各実施形態を適宜組み合わせることも可能である。本実施形態ではEVF29と視線検出を使用する構成としたが、ヘッドマウントディスプレイなどの表示装置と視線検出を使用する構成でも本実施形態は実施可能である。すなわち、本実施形態はパーソナルコンピューターやPDA、携帯電話端末や携帯型の画像ビューワ、ディスプレイを備えるプリンタ装置、デジタルフォトフレーム、音楽プレーヤー。ゲーム機、電子ブックリーダー、ヘッドマウントディスプレイ等のウェアラブル機器などに適用可能である。
また、撮像装置本体に限らず、有線または無線通信を介して撮像装置(ネットワークカメラを含む)と通信し、撮像装置を遠隔で制御する制御装置にも本実施形態を適用可能である。撮像装置を遠隔で制御する装置としては、例えば、スマートフォンやタブレットPC、デスクトップPCなどの装置がある。制御装置側で行われた操作や制御装置側で行われた処理に基づいて、制御装置側から撮像装置に各種動作や設定を行わせるコマンドを通知することにより、撮像装置を遠隔から制御可能である。また、撮像装置で撮影したライブビュー画像を有線または無線通信を介して受信して制御装置側で表示できるようにしてもよい。
(他の実施形態)
本実施形態は、以下の処理を実行することによっても実現される。即ち上述した実施形態の機能を実現するソフトウェア(プログラム)をネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピューター(又はCPUやMPU等)がプログラムコードを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本実施形態を構成することになる。
本実施形態は、以下の処理を実行することによっても実現される。即ち上述した実施形態の機能を実現するソフトウェア(プログラム)をネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピューター(又はCPUやMPU等)がプログラムコードを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本実施形態を構成することになる。
Claims (16)
- ユーザーがファインダー越しに視認する表示手段に対するユーザーの視線に関する情報を取得する取得手段と、
前記表示手段の画面のうち、前記情報の視線キャリブレーションのための表示要素を表示する有効表示領域を示す画像を前記表示手段に表示する制御手段と、を有し、
前記制御手段は、前記有効表示領域を第1の大きさで表示する第1の表示設定と、前記表示領域を前記第1の大きさよりも小さい第2の大きさで表示する第2の表示設定とを含む複数の表示設定のうちのいずれかで、前記有効表示領域を前記表示手段に表示するように制御することを特徴とする表示制御装置。 - 前記制御手段は、ユーザーが前記有効表示領域の外周を視認可能であるように制御することを特徴とする請求項1に記載の表示制御装置。
- 前記制御手段は、前記有効表示領域を矩形で表すように制御することを特徴とする請求項1または2に記載の表示制御装置。
- 前記制御手段は、前記有効表示領域の四隅にインジケーターを表示することを特徴とする請求項1乃至3のいずれか1項に記載の表示制御装置。
- 前記制御手段は、前記有効表示領域を特定の色で塗りつぶすように制御することを特徴とする請求項1乃至4のいずれか1項に記載の表示制御装置。
- 前記特定の色は、グレーであることを特徴とする請求項5に記載の表示制御装置。
- 前記特定の色は、RGBで119,119、119となる色であることを特徴とする請求項5または6に記載の表示制御装置。
- 前記第2の大きさは、前記第1の大きさの85%であることを特徴とする請求項1乃至7のいずれか1項に記載の表示制御装置。
- 前記第1の大きさは、前記表示手段の表示可能な領域全体であることを特徴とする請求項1乃至8のいずれか1項に記載の表示制御装置。
- 前記制御手段は、前記有効表示領域の内に前記視線キャリブレーションを実行する際にユーザーが注視するための前記表示要素を表示するように制御することを特徴とする請求項1乃至9のいずれか1項に記載の表示制御装置。
- 前記制御手段は、ユーザーによる前記視線キャリブレーションを実行するための実行指示が行われたことに応じて前記ユーザーの視線に関する情報の取得を開始し、
前記実行指示が行われたことに応じて、前記実行指示が行われる前に表示していた情報表示を非表示にするように制御することを特徴とする請求項1乃至10のいずれか1項に記載の表示制御装置。 - 前記制御手段は、ユーザーによる前記視線キャリブレーションを実行するための実行指示が行われたことに応じて前記ユーザーの視線に関する情報の取得を開始し、
前記実行指示が行われたことに応じて、前記有効表示領域に注視対象点を表示するように制御することを特徴とする請求項1乃至11のいずれか1項に記載の表示制御装置。 - 撮像手段と、
ファインダーと、
前記ファインダーへの物体の接近を検知する接近検知手段を更に有し、
前記制御手段は、前記接近検知手段への接近があった場合は、前記複数の表示設定のうち設定されている設定内容にしたがって前記撮像手段で撮像するライブビュー画像を前記有効表示領域に表示し、
前記接近検知手段への接近がなかった場合は、前記複数の表示設定のうち設定されている設定内容にかかわらず前記ライブビュー画像をファインダー外表示手段の全体に表示するように制御することを特徴とする請求項1乃至12のいずれか1項に記載の表示制御装置。 - ユーザーがファインダー越しに視認する表示手段に対するユーザーの視線に関する情報を取得する取得ステップと、
前記表示手段の画面のうち、前記情報の視線キャリブレーションのための表示要素を表示する有効表示領域を示す画像を前記表示手段に表示する制御ステップと、を有する表示制御装置の制御方法であって、
前記制御ステップは、前記有効表示領域を第1の大きさで表示する第1の表示設定と、前記表示領域を前記第1の大きさよりも小さい第2の大きさで表示する第2の表示設定とを含む複数の表示設定のうちのいずれかで、前記有効表示領域を前記表示手段に表示するように制御することを特徴とする表示制御装置の制御方法。 - コンピュータを、請求項1乃至13のいずれか1項に記載された表示制御装置の各手段として機能させるためのプログラム。
- コンピュータを、請求項1乃至13のいずれか1項に記載された表示制御装置の各手段として機能させるためのプログラムを格納したコンピュータが読み取り可能な記録媒体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021027612A JP2022129065A (ja) | 2021-02-24 | 2021-02-24 | 表示制御装置及びその制御方法及びプログラム及び記録媒体 |
US17/677,349 US11711606B2 (en) | 2021-02-24 | 2022-02-22 | Display control apparatus, control method for controlling the same, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021027612A JP2022129065A (ja) | 2021-02-24 | 2021-02-24 | 表示制御装置及びその制御方法及びプログラム及び記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022129065A true JP2022129065A (ja) | 2022-09-05 |
JP2022129065A5 JP2022129065A5 (ja) | 2024-02-27 |
Family
ID=82899989
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021027612A Pending JP2022129065A (ja) | 2021-02-24 | 2021-02-24 | 表示制御装置及びその制御方法及びプログラム及び記録媒体 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11711606B2 (ja) |
JP (1) | JP2022129065A (ja) |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3109870B2 (ja) | 1991-09-27 | 2000-11-20 | キヤノン株式会社 | ビデオカメラ |
US8913004B1 (en) * | 2010-03-05 | 2014-12-16 | Amazon Technologies, Inc. | Action based device control |
-
2021
- 2021-02-24 JP JP2021027612A patent/JP2022129065A/ja active Pending
-
2022
- 2022-02-22 US US17/677,349 patent/US11711606B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20220272277A1 (en) | 2022-08-25 |
US11711606B2 (en) | 2023-07-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7321786B2 (ja) | 電子機器およびその制御方法 | |
JP7410629B2 (ja) | 撮像装置およびその制御方法 | |
WO2020255675A1 (ja) | 電子機器およびその制御方法 | |
JP7442331B2 (ja) | 音声入力装置およびその制御方法ならびにプログラム | |
JP7467071B2 (ja) | 電子機器、電子機器の制御方法、プログラム、記憶媒体 | |
JP7301615B2 (ja) | 電子機器およびその制御方法 | |
EP3876517A1 (en) | Electronic device, control method, program, and computer readable medium | |
JP7346375B2 (ja) | 電子機器及びその制御方法及びプログラム及び記録媒体 | |
JP2022018244A (ja) | 電子機器およびその制御方法 | |
JP7423248B2 (ja) | 電子機器、電子機器の制御方法、プログラム及び記憶媒体 | |
CN112040095B (zh) | 电子装置、电子装置的控制方法及存储介质 | |
JP7446913B2 (ja) | 電子機器、電子機器の制御方法、プログラム | |
JP7346135B2 (ja) | 電子機器、電子機器の制御方法、プログラムおよび記憶媒体 | |
JP2021156919A (ja) | 撮像装置 | |
JP2022129065A (ja) | 表示制御装置及びその制御方法及びプログラム及び記録媒体 | |
JP2021140589A (ja) | 電子機器、電子機器の制御方法、プログラム、記憶媒体 | |
JP2021140590A (ja) | 電子機器、電子機器の制御方法、プログラム、記憶媒体 | |
WO2022131252A1 (ja) | 電子機器及びその制御方法及びプログラム及び記録媒体 | |
JP7451255B2 (ja) | 電子機器及びその制御方法 | |
JP2022095306A (ja) | 表示制御装置及びその制御方法 | |
JP2022067578A (ja) | 撮像装置及びその制御方法及びプログラム及び記録媒体 | |
JP2021124613A (ja) | 音声入力装置およびその制御方法ならびにプログラム | |
JP2023160103A (ja) | 電子機器 | |
JP2021180437A (ja) | 撮像装置 | |
JP2021018634A (ja) | 電子機器およびその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20231213 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240216 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240216 |