JP2012133088A - 撮像装置、撮像プログラムおよび信号処理装置 - Google Patents
撮像装置、撮像プログラムおよび信号処理装置 Download PDFInfo
- Publication number
- JP2012133088A JP2012133088A JP2010284383A JP2010284383A JP2012133088A JP 2012133088 A JP2012133088 A JP 2012133088A JP 2010284383 A JP2010284383 A JP 2010284383A JP 2010284383 A JP2010284383 A JP 2010284383A JP 2012133088 A JP2012133088 A JP 2012133088A
- Authority
- JP
- Japan
- Prior art keywords
- image
- light amount
- light
- imaging
- amount distribution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Details Of Cameras Including Film Mechanisms (AREA)
- Automatic Focus Adjustment (AREA)
- Focusing (AREA)
Abstract
【解決手段】撮像素子1bは、眼球を撮像する。特定部1dは、撮像素子1bが撮像した画像の角膜反射像の中心位置を、角膜反射像が撮像された画素を分割した領域毎の予め求めておいた光量分布に基づき特定する。
【選択図】図1
Description
本発明はこのような点に鑑みてなされたものであり、画素数の少ない撮像素子を用いて視線の精度の高い検出を図る撮像装置、撮像プログラムおよび信号処理装置を提供することを目的とする。
撮像素子は、眼球を撮像する。特定部は、撮像素子が撮像した画像の角膜反射像の中心位置を、角膜反射像が撮像された画素を分割した領域毎の予め求めておいた光量分布に基づき特定する。
まず、実施の形態の撮像装置について説明し、その後、実施の形態をより具体的に説明する。
図1は、第1の実施の形態の撮像装置を示す図である。
第1の実施の形態の撮像装置1は、発光素子1aと、撮像素子1bと、決定部1cと、特定部1dと、視線検出部1eとを有している。
<第2の実施の形態>
図2は、第2の実施の形態の撮像装置のハードウェアの一構成例を示す図である。
RAM102は、撮像装置10の主記憶装置として使用される。RAM102には、CPU101に実行させるOS(Operating System)のプログラムやアプリケーションプログラムの少なくとも一部が一時的に格納される。また、RAM102には、CPU101による処理に使用する各種データが格納される。
通信インタフェース107は、ネットワーク50に接続されている。通信インタフェース107は、ネットワーク50を介して、他のコンピュータまたは通信機器との間でデータの送受信を行う。
このようなハードウェア構成の撮像装置10内には、以下のような機能が設けられる。
撮像装置10は、信号処理回路104の一部の機能を構成する視線検出部11を有している。
また、センサFE111は、撮像素子104cが出力した信号の画素位置に応じた光量の分布を作成する。
発光素子104bは、発光素子104bの種別により、光の広がり(各角度での光の強度)が変化する。図4に示すグラフは、あるLEDの光量分布を示している。縦軸が光の強度を示し、横軸が照射角度を示しており、図4では中心(0°)の強度を1としたときの各角度での強度の相対値を示している。図4に示すグラフでは、90°付近の光量が、ほぼ0になっていることが分かる。観察者の眼球を撮像したときに角膜反射像の光量は、他の部分の光量よりも多くなる。従って、撮像した画像の光量の最も多い箇所を特定することで、角膜反射像の中心位置を特定することができる。
図5(a)は、撮像素子104cが撮像した画像の一部を示す図である。図5(a)に示す幅A1は、撮像した瞳孔の幅を示している。また、幅A2は、2つの角膜反射像のうちの1つの角膜反射像の幅を示している。また、画素P1は、画像内での画素の大きさを示している。前述したように、観察者の眼球を撮像したときに角膜反射像の光量は、他の部分の光量よりも多くなる。従って、撮像素子104cが撮像した画像は、光量が多い部分は白く写り、光量が少ない部分は黒く写る。
図6(a)、図6(b)における斜線で示したグラフは、横軸を図5(b)に示す撮像素子104cのA−B線での各画素位置にとり、縦軸を光量にとって量子化したグラフである。また、図6(a)、図6(b)における白く塗りつぶしたグラフは、ゲイン調整部112に予め記憶しておいた光量分布のグラフである。ゲイン調整部112に予め記憶しておいた光量分布のグラフは、例えば図4に示すグラフの光量分布に基づいて作成することができる。
なお、ゲイン調整部112および発光制御部113は、変更部の一例である。
まず、演算部114は、センサFE111が出力した光量分布と、予め作成しておいた歪みのない場合の角膜反射像の光量分布との変化を比較する。
図7(a)は、図5(c)に示したグラフと同じグラフである。すなわち、横軸を図5(b)に示す撮像素子104cのA−B線での各画素位置にとり、縦軸を光量にとって量子化したグラフである。また、図7(b)は、図4に示すグラフの光量分布に基づいて予め作成しておいた、歪みのない場合の角膜反射像の7画素分の光量分布のグラフを示している。
図8は、中心画素CP1の周辺の3×3画素を図示している。中心画素CP1の位置座標を(i,j)と規定し、図8の右方向および下方向を「+」、左方向および上方向を「−」すると、中心画素CP1を取り囲む周辺の画素P1の位置座標は、図8に示すようになる。演算部114は、中心画素CP1をさらに分割した正方形状の区域(以下、「サブピクセル」と言う)を仮想的に設定する。本実施の形態では、中心画素CP1を3×3の9個のサブピクセルsP1〜sP9に分割した例を示している。なお、サブピクセルの個数は、9個には限定されない。そして、演算部114は、センサFE111が出力した光量分布を、テーブル格納部115に予め記憶されたサブピクセルsP1〜sP9それぞれの位置に角膜反射像の中心位置が存在すると判断可能な光量分布と比較する。この比較により、演算部114は、最も類似度の高い光量分布に対応するサブピクセルの位置を、角膜反射像の中心位置に特定する。
まず、演算部114は、サブピクセル毎に次式(1)を演算する。
テーブル格納部115は、センサFE111が出力した光量分布の比較対象となる各サブピクセルの光量分布のグラフのテーブルを格納する。なお、テーブル格納部115は、記憶部の一例である。
図9に示すテーブル115aには、サブピクセルsP1〜sP9毎にグラフが用意されている。図9では、一例としてサブピクセルsP1の光量分布のグラフG1と、サブピクセルsP2の光量分布のグラフG2と、サブピクセルsP2の光量分布のグラフG3とを示している。
図10は、光量分布作成部がグラフを作成する一例を説明する図である。
まず、光量分布作成部116は、発光素子104bを発光させる。そして、発光素子104bが発した光を撮像素子104cが受光できる状態にする。そして、撮像素子104cが受光した光量の分布が撮像素子104cのダイナミックレンジ内に収まるように発光素子104bの出力を調整する。この処理により、X方向、Y方向それぞれの光量分布を取得する。
図11は、演算部の処理を示すフローチャートである。
[ステップS1] 演算部114は、角膜反射像の中心画素CP1を決定する。その後、ステップS2に遷移する。
[ステップS7] 演算部114は、del_sum(s)の最小値del_sum(smin)を選択する。その後、ステップS8に遷移する。
[ステップS10] 演算部114は、ゲイン調整部112にゲインの調整を指示する。その後、図11の処理を終了する。
以上述べたように、撮像装置10によれば、演算部114が、角膜反射像の中心位置を、サブピクセル毎の予め求めておいた光量分布に基づき特定するようにした。これにより、例えば得られた角膜反射像の光量の加重平均から反射像の中心位置を算出する方法等に比べ、角膜反射像の中心位置を、より確実に特定することができる。
以上、本発明の撮像装置、撮像プログラムおよび信号処理装置を、図示の実施の形態に基づいて説明したが、本発明はこれに限定されるものではなく、各部の構成は、同様の機能を有する任意の構成のものに置換することができる。また、本発明に、他の任意の構成物や工程が付加されていてもよい。
なお、上記の処理機能は、コンピュータによって実現することができる。その場合、撮像装置1、10、信号処理回路104、または視線検出部11が有すべき機能の処理内容を記述したプログラムが提供される。そのプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、磁気記憶装置、光ディスク、光磁気記録媒体、半導体メモリ等が挙げられる。磁気記憶装置には、ハードディスクドライブ、フレキシブルディスク(FD)、磁気テープ等が挙げられる。光ディスクには、DVD、DVD−RAM、CD−ROM/RW等が挙げられる。光磁気記録媒体には、MO(Magneto-Optical disk)等が挙げられる。
(付記1) 眼球を撮像する撮像素子と、
前記撮像素子が撮像した画像の角膜反射像の中心位置を、前記角膜反射像が撮像された画素を分割した領域毎に予め求めておいた光量分布と前記角膜反射像の光量分布との比較結果に基づいて、特定する特定部と、
を有することを特徴とする撮像装置。
前記類似度を示す値が所定値以下である場合、前記発光素子の光量を変更する変更部と、
をさらに有することを特徴とする付記2記載の撮像装置。
前記特定部は、前記決定部が決定した画素を分割することを特徴とする付記1ないし3のいずれかに記載の撮像装置。
(付記7) コンピュータに、
眼球を撮像し、
撮像した画像の角膜反射像の中心位置を、前記角膜反射像が撮像された画素を分割した領域毎に予め求めておいた光量分布と前記角膜反射像の光量分布との比較結果に基づいて、特定する、
処理を実行させることを特徴とする撮像プログラム。
1a、104b 発光素子
1b、104c 撮像素子
1c 決定部
1d 特定部
1e、11 視線検出部
111 センサFE
112 ゲイン調整部
113 発光制御部
114 演算部
115 テーブル格納部
116 光量分布作成部
117 視線特定部
CP1 中心画素
G1〜G3 グラフ
P1 画素
Claims (7)
- 眼球を撮像する撮像素子と、
前記撮像素子が撮像した画像の角膜反射像の中心位置を、前記角膜反射像が撮像された画素を分割した領域毎に予め求めておいた光量分布と前記角膜反射像の光量分布との比較結果に基づいて、特定する特定部と、
を有することを特徴とする撮像装置。 - 前記特定部は、前記領域毎に予め求めておいた光量分布と前記角膜反射像の光量分布とを比較した結果、前記領域毎に予め求めておいた光量分布のうち、前記角膜反射像の光量分布と最も類似度の高い光量分布の前記領域を、前記中心位置に特定することを特徴とする請求項1記載の撮像装置。
- 前記眼球を撮像する際に発光する発光素子と、
前記類似度を示す値が所定値以下である場合、前記発光素子の光量を変更する変更部と、
をさらに有することを特徴とする請求項2記載の撮像装置。 - 前記撮像素子が撮像した画像の、角膜反射像の中心位置を撮像した画素を決定する決定部をさらに有し、
前記特定部は、前記決定部が決定した画素を分割することを特徴とする請求項1ないし3のいずれかに記載の撮像装置。 - 前記領域毎に予め求めておいた光量分布は、前記撮像素子の光量分布の中心を、前記各領域に合わせた状態で、前記撮像素子が有する全ての画素の階調値を読み取った値に基づいて作成することを特徴とする請求項1ないし4のいずれかに記載の撮像装置。
- コンピュータに、
眼球を撮像し、
撮像した画像の角膜反射像の中心位置を、前記角膜反射像が撮像された画素を分割した領域毎に予め求めておいた光量分布と前記角膜反射像の光量分布との比較結果に基づいて、特定する、
処理を実行させることを特徴とする撮像プログラム。 - 眼球を撮像する撮像素子が撮像した画像の角膜反射像の中心位置を、前記角膜反射像が撮像された画素を分割した領域毎に予め求めておいた光量分布と前記角膜反射像の光量分布との比較結果に基づいて、特定する特定部を有することを特徴とする信号処理回路。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010284383A JP5736763B2 (ja) | 2010-12-21 | 2010-12-21 | 撮像装置、撮像プログラムおよび信号処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010284383A JP5736763B2 (ja) | 2010-12-21 | 2010-12-21 | 撮像装置、撮像プログラムおよび信号処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012133088A true JP2012133088A (ja) | 2012-07-12 |
JP5736763B2 JP5736763B2 (ja) | 2015-06-17 |
Family
ID=46648772
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010284383A Expired - Fee Related JP5736763B2 (ja) | 2010-12-21 | 2010-12-21 | 撮像装置、撮像プログラムおよび信号処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5736763B2 (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1099276A (ja) * | 1996-10-02 | 1998-04-21 | Canon Inc | 視線検出装置及び光学機器 |
JP2005250863A (ja) * | 2004-03-04 | 2005-09-15 | Univ Waseda | 領域検出方法およびそのシステム |
JP2008032828A (ja) * | 2006-07-26 | 2008-02-14 | Fujifilm Corp | 撮像装置、及びカメラ付き携帯電話機 |
-
2010
- 2010-12-21 JP JP2010284383A patent/JP5736763B2/ja not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1099276A (ja) * | 1996-10-02 | 1998-04-21 | Canon Inc | 視線検出装置及び光学機器 |
JP2005250863A (ja) * | 2004-03-04 | 2005-09-15 | Univ Waseda | 領域検出方法およびそのシステム |
JP2008032828A (ja) * | 2006-07-26 | 2008-02-14 | Fujifilm Corp | 撮像装置、及びカメラ付き携帯電話機 |
Also Published As
Publication number | Publication date |
---|---|
JP5736763B2 (ja) | 2015-06-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10955970B2 (en) | Pointing direction determination system and method thereof | |
US9398848B2 (en) | Eye gaze tracking | |
US20190068889A1 (en) | Electronic device for storing depth information in connection with image depending on properties of depth information obtained using image and control method thereof | |
JP6960455B2 (ja) | オブジェクトの距離情報に基づいてオートフォーカス機能を提供するためのデバイス、システム、および方法 | |
KR20180112754A (ko) | 광학 흐름을 사용한 안구 추적 | |
US10310675B2 (en) | User interface apparatus and control method | |
JP2019522781A (ja) | 固定具なしのレンズメータ及びその操作方法 | |
JP6123694B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
CN108354584A (zh) | 眼球追踪模组及其追踪方法、虚拟现实设备 | |
JP2015212849A (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
EP3642673B1 (en) | Electronic device for controlling focus of lens and method for controlling the same | |
US11972042B2 (en) | Variable intensity distributions for gaze detection assembly | |
JP2009290548A (ja) | 画像処理装置、画像処理プログラム、画像処理方法、および電子機器 | |
JP2014188322A (ja) | 視線検出装置、視線検出方法及びプログラム | |
US10346953B2 (en) | Flash and non-flash images in flash artifact removal | |
WO2021238423A1 (zh) | 图像处理方法、近眼显示设备、计算机设备和存储介质 | |
WO2020027818A1 (en) | Determining location of touch on touch sensitive surfaces | |
US10866635B2 (en) | Systems and methods for capturing training data for a gaze estimation model | |
US20150185321A1 (en) | Image Display Device | |
US11204668B2 (en) | Electronic device and method for acquiring biometric information using light of display | |
WO2024055531A1 (zh) | 照度计数值识别方法、电子设备及存储介质 | |
JP5736763B2 (ja) | 撮像装置、撮像プログラムおよび信号処理装置 | |
CN106101542B (zh) | 一种图像处理方法及终端 | |
US20200167005A1 (en) | Recognition device and recognition method | |
US20240029288A1 (en) | Image processing apparatus, image processing method, and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130904 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140724 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140729 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140926 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150106 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150306 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150324 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150406 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5736763 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |