JP7358530B2 - 被写体認識装置及び被写体認識装置の制御方法 - Google Patents
被写体認識装置及び被写体認識装置の制御方法 Download PDFInfo
- Publication number
- JP7358530B2 JP7358530B2 JP2022026118A JP2022026118A JP7358530B2 JP 7358530 B2 JP7358530 B2 JP 7358530B2 JP 2022026118 A JP2022026118 A JP 2022026118A JP 2022026118 A JP2022026118 A JP 2022026118A JP 7358530 B2 JP7358530 B2 JP 7358530B2
- Authority
- JP
- Japan
- Prior art keywords
- line
- sight
- optical flow
- movement vector
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Description
図1は本発明におけるデジタルスチルカメラの概略図である。
図6において、視線検出ルーチンが開始すると、S001において、光源13a、13bは観察者の眼球14に向けて赤外光を放射する。上記赤外光によって照明された観察者の眼球像は、眼球用撮像素子17上に受光レンズ16を通して結像し、眼球用撮像素子17により光電変換がなされ、眼球像は電気信号として処理が可能となる。
の関係式から求めることができる。また、図4、図5においては、観察者の眼球がY軸に垂直な平面内で回転する場合の回転角θXを算出する例を示しているが、観察者の眼球がX軸に垂直な平面内で回転する場合の回転角θyの算出方法も同様である。
Hx=m×(Ax×θx+Bx)
Hy=m×(Ay×θy+By)
と算出することができる。この時、係数mはカメラのファインダ光学系の構成で定まる定数で、回転角θx、θyを表示素子10上での瞳孔141の中心cに対応する位置座標に変換する変換係数であり、あらかじめ決定されてメモリ部4に記憶されているとする。また、Ax,Bx,Ay,Byは観察者の視線の個人差を補正する視線補正係数であり、後述するキャリブレーション作業を行うことで取得され、視線検出ルーチンが開始する前にメモリ部4に記憶されているものとする。
前述のように、視線検出ルーチンにおいて眼球画像から眼球の回転角度θx、θyを取得し、瞳孔中心位置を表示素子10上において対応する位置に座標変換する演算を行って注視点位置を推定している。
上記課題を解決するために、本発明においては、撮影動作にキャリブレーション作業を組み込み、自動的にキャリブレーションを行うことで、撮像を中止する必要がなく、ユーザーの利便性を向上させる構成をとっており、その原理を以下に説明する。
上記を行うためには、撮影対象の動きベクトルを取得することが必要であり、本実施例では以下のような構成においてそれを実現している。
これまでに原理を説明した、本実施例における視線検出機能及び自動キャリブレーション機能を有したカメラの動作について、図9のフローチャートに従って説明する。
2 撮像素子
3 CPU
4 メモリ部
10 表示素子
11 表示素子駆動回路
12 接眼レンズ
13a~f 照明光源
14 眼球
15 光分割器
16 受光レンズ
17 眼球用撮像素子
111 絞り
112 絞り駆動部
113 レンズ駆動モーター
114 レンズ駆動部材
115 フォトカプラー
116 パルス板
117 マウント接点
141 瞳孔
142 角膜
143 光彩
Claims (8)
- 撮像手段と、
撮像した画像を表示する表示手段と、
撮影者の視線位置を検出する視線位置検出手段と、
前記撮像手段により取得された画像に基づいて、オプティカルフローを算出する、オプティカルフロー算出手段と、
前記視線位置検出手段により検出された撮影者の視線位置が、所定の時間に移動する移動量及び移動方向を測定する視線移動ベクトル測定手段と、
前記オプティカルフロー算出手段により算出されたオプティカルフローと、前記視線移動ベクトル測定手段により取得された視線移動ベクトルとを比較し、その差異から両者の一致度合を判断する、移動ベクトル一致度合判定手段と、
前記オプティカルフローを有する画像領域の座標と、撮影者の視線位置との座標とを比較し、両者の距離が所定値以下であるか否かを判定する距離判定手段と、
前記移動ベクトル一致度合判定手段により、両者が一致すると判定され、且つ、前記距離判定手段により前記両者の距離が前記所定値以下であると判定された場合、前記オプティカルフローを有する画像領域が被写体領域であると特定する被写体領域特定手段と、
を有することを特徴とする被写体認識装置。 - 前記特定された被写体領域の位置座標を用いることで、前記視線位置の検出結果を修正する視線位置検出結果修正手段を有することを特徴とする請求項1に記載の被写体に認識装置。
- 前記被写体領域特定手段により特定された被写体領域に対して焦点検出を行う焦点検出手段を有することを特徴とする請求項1又は2に記載の被写体認識装置。
- 前記焦点検出手段は、
前記被写体領域特定手段により、該オプティカルフローを有する画像領域の座標と、撮影者の視線位置との座標との距離が前記所定値を越えると判定された場合、
前記焦点検出手段は前記撮影者の視線位置に対して焦点検出を行うことを特徴とする請求項3に記載の被写体認識装置。 - 前記表示手段は、前記被写体領域特定手段により特定された被写体領域に相当する焦点検出ポイントを強調表示することを特徴とする請求項1乃至4のいずれか1項に記載の被写体認識装置。
- 前記距離判定手段は、前記移動ベクトル一致度合判定手段により両者が一致する判定が出た場合に、前記オプティカルフローを有する画像領域の座標と、撮影者の視線位置との座標とを比較することを特徴とする請求項1に記載の被写体認識装置。
- 前記視線移動ベクトルと前記オプティカルフローが一致しているとみなされる、両ベクトルの差異の許容範囲である、許容差異度合いを算出する許容差異度合い算出手段を有し、前記許容差異度合い算出手段は、前記視線移動ベクトル測定手段により測定された視線移動ベクトルの大きさにより、その許容差異度合いを決定し、視線移動ベクトルが大きいほど、その許容される差異度合いを大きくし、前記移動ベクトル一致度合判定手段において、両ベクトルが前記許容差異度合いの範囲内にある場合は、両ベクトルが一致しているとみなすことを特徴とする請求項1乃至6のいずれか1項に記載の被写体認識装置。
- 撮像手段を有する被写体認識装置の制御方法であって、
撮像した画像を表示する表示ステップと、
撮影者の視線位置を検出する視線位置検出ステップと、
前記撮像手段により取得された画像に基づいて、オプティカルフローを算出する、オプティカルフロー算出ステップと、
前記視線位置検出ステップにより検出された撮影者の視線位置が、所定の時間に移動する移動量及び移動方向を測定する視線移動ベクトル測定ステップと、
前記オプティカルフロー算出ステップにより算出されたオプティカルフローと、前記視線移動ベクトル測定ステップにより取得された視線移動ベクトルとを比較し、その差異から両者の一致度合を判断する、移動ベクトル一致度合判定ステップと、
前記オプティカルフローを有する画像領域の座標と、撮影者の視線位置との座標とを比較し、両者の距離が所定値以下であるか否かを判定する距離判定ステップと、
前記移動ベクトル一致度合判定ステップにより、両者が一致すると判定され、且つ、前記距離判定ステップにより前記両者の距離が前記所定値以下であると判定された場合、
前記オプティカルフローを有する画像領域が被写体領域であると特定する被写体領域特定ステップと、を有することを特徴とする被写体認識装置の制御方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022026118A JP7358530B2 (ja) | 2018-01-26 | 2022-02-22 | 被写体認識装置及び被写体認識装置の制御方法 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018011024A JP7030545B2 (ja) | 2018-01-26 | 2018-01-26 | 被写体認識装置 |
JP2022026118A JP7358530B2 (ja) | 2018-01-26 | 2022-02-22 | 被写体認識装置及び被写体認識装置の制御方法 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018011024A Division JP7030545B2 (ja) | 2018-01-26 | 2018-01-26 | 被写体認識装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022066266A JP2022066266A (ja) | 2022-04-28 |
JP7358530B2 true JP7358530B2 (ja) | 2023-10-10 |
Family
ID=67472527
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018011024A Active JP7030545B2 (ja) | 2018-01-26 | 2018-01-26 | 被写体認識装置 |
JP2022026118A Active JP7358530B2 (ja) | 2018-01-26 | 2022-02-22 | 被写体認識装置及び被写体認識装置の制御方法 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018011024A Active JP7030545B2 (ja) | 2018-01-26 | 2018-01-26 | 被写体認識装置 |
Country Status (1)
Country | Link |
---|---|
JP (2) | JP7030545B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7293039B2 (ja) | 2019-08-16 | 2023-06-19 | キヤノン株式会社 | 撮像装置およびその制御方法 |
JP7358130B2 (ja) | 2019-09-12 | 2023-10-10 | キヤノン株式会社 | 電子機器およびその制御方法 |
CN115184368B (zh) * | 2022-09-07 | 2022-12-23 | 枣庄市胜达精密铸造有限公司 | 一种铸件缺陷检测控制系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011120887A (ja) | 2009-11-12 | 2011-06-23 | Panasonic Corp | 眼電位計測装置、眼科診断装置、視線検出装置、ウェアラブルカメラ、ヘッドマウントディスプレイ、電子めがね、眼電位計測方法、及びプログラム |
JP2015211741A (ja) | 2014-05-02 | 2015-11-26 | 富士通株式会社 | 視線状態判定装置、視線状態判定プログラム及び視線状態判定方法 |
WO2018016209A1 (ja) | 2016-07-20 | 2018-01-25 | 富士フイルム株式会社 | 注目位置認識装置、撮像装置、表示装置、注目位置認識方法及びプログラム |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6686757B2 (ja) * | 2016-07-15 | 2020-04-22 | 住友電気工業株式会社 | 受光素子および光モジュール |
-
2018
- 2018-01-26 JP JP2018011024A patent/JP7030545B2/ja active Active
-
2022
- 2022-02-22 JP JP2022026118A patent/JP7358530B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011120887A (ja) | 2009-11-12 | 2011-06-23 | Panasonic Corp | 眼電位計測装置、眼科診断装置、視線検出装置、ウェアラブルカメラ、ヘッドマウントディスプレイ、電子めがね、眼電位計測方法、及びプログラム |
JP2015211741A (ja) | 2014-05-02 | 2015-11-26 | 富士通株式会社 | 視線状態判定装置、視線状態判定プログラム及び視線状態判定方法 |
WO2018016209A1 (ja) | 2016-07-20 | 2018-01-25 | 富士フイルム株式会社 | 注目位置認識装置、撮像装置、表示装置、注目位置認識方法及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP7030545B2 (ja) | 2022-03-07 |
JP2022066266A (ja) | 2022-04-28 |
JP2019129461A (ja) | 2019-08-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7358530B2 (ja) | 被写体認識装置及び被写体認識装置の制御方法 | |
JP5171468B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
JP2002345756A (ja) | 視線検出装置及び光学機器 | |
KR100224538B1 (ko) | 시선검출장치(viewpoint detecting device) | |
JP2024003037A (ja) | 電子機器、電子機器の制御方法、プログラムおよび記憶媒体 | |
JP2004008323A (ja) | 視線機能付光学装置 | |
JPH0556924A (ja) | ビデオカメラ | |
JP2002301030A (ja) | 視線検出機能付き機器 | |
US20230186520A1 (en) | Gaze detection apparatus | |
US20240085979A1 (en) | Recording device, image-capturing apparatus, control method, and recording system | |
JP7358130B2 (ja) | 電子機器およびその制御方法 | |
US20240114228A1 (en) | Line-of-sight detecting apparatus, image pickup apparatus, line-of-sight detecting method, and storage medium | |
US20230179854A1 (en) | Control apparatus, method of controlling control apparatus, control method, and storage medium | |
JP2022171084A (ja) | 撮像装置及びその制御方法、並びにプログラム | |
JP2003339642A (ja) | 視線検出装置及びそれを有した光学装置 | |
JP2023006629A (ja) | 制御装置およびその制御方法 | |
JP3219491B2 (ja) | 視線検出装置 | |
JP3184634B2 (ja) | 視線検出装置を有する光学装置 | |
CN114947732A (zh) | 检测装置和用于控制检测装置的控制方法 | |
JP2023074878A (ja) | 視線検出装置、視線検出装置の制御方法およびプログラム | |
JP3548222B2 (ja) | 視線検出装置を備えたビデオカメラ | |
JP2023073758A (ja) | 電子機器、制御方法 | |
JP3624030B2 (ja) | 視線検出装置及び光学装置 | |
JP2022165239A (ja) | 撮像装置及びその制御方法、並びにプログラム | |
JPH0938038A (ja) | 視線検出装置および視線検出装置を有する光学機器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220324 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221122 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230118 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230131 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230324 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230627 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230801 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230829 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230927 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7358530 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |