JP2021061048A - 情報処理装置、情報処理方法、およびプログラム - Google Patents
情報処理装置、情報処理方法、およびプログラム Download PDFInfo
- Publication number
- JP2021061048A JP2021061048A JP2021000498A JP2021000498A JP2021061048A JP 2021061048 A JP2021061048 A JP 2021061048A JP 2021000498 A JP2021000498 A JP 2021000498A JP 2021000498 A JP2021000498 A JP 2021000498A JP 2021061048 A JP2021061048 A JP 2021061048A
- Authority
- JP
- Japan
- Prior art keywords
- sight
- line
- image
- learning
- estimation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 12
- 238000003672 processing method Methods 0.000 title claims description 3
- 238000003384 imaging method Methods 0.000 claims description 59
- 238000000034 method Methods 0.000 claims description 39
- 238000009434 installation Methods 0.000 claims description 25
- 230000008569 process Effects 0.000 claims description 10
- 238000012545 processing Methods 0.000 description 40
- 238000000605 extraction Methods 0.000 description 29
- 230000010354 integration Effects 0.000 description 16
- 238000010586 diagram Methods 0.000 description 14
- 230000004048 modification Effects 0.000 description 14
- 238000012986 modification Methods 0.000 description 14
- 239000013598 vector Substances 0.000 description 11
- 230000001815 facial effect Effects 0.000 description 10
- 239000000284 extract Substances 0.000 description 8
- 238000010801 machine learning Methods 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 6
- 230000000007 visual effect Effects 0.000 description 6
- 230000007423 decrease Effects 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 239000003086 colorant Substances 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 210000001747 pupil Anatomy 0.000 description 2
- 241001469893 Oxyzygonectes dovii Species 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000012886 linear function Methods 0.000 description 1
- 238000012417 linear regression Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 210000003786 sclera Anatomy 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000000087 stabilizing effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Abstract
Description
図1は、一の実施形態に係る視線推定装置100の構成を示すブロック図である。視線推定装置100は、顔画像に含まれる視線を推定するための装置である。視線推定装置100は、推定部110と、決定部120とを少なくとも含む。ただし、視線推定装置100は、必要に応じて他の構成要素を含んでもよい。
図3は、別の実施形態に係るデータ処理装置200の構成を示すブロック図である。データ処理装置200は、第1実施形態の視線推定装置100の一例に相当する。データ処理装置200は、画像取得部210と、条件取得部220と、領域抽出部230と、視線推定部240と、統合部250と、出力部260とを含む。
上述された実施形態は、例えば、以下のような変形を適用することができる。これらの変形例は、必要に応じて適宜組み合わせることも可能である。
決定部120は、周知の顔向き推定技術を用いることによって顔の方向を推定することが可能である。決定部120は、このように推定された顔の方向と、撮像装置の光軸方向とがなす角度とに基づいて撮像装置の設置角度を算出してもよい。
カメラ情報及び学習情報は、顔画像の撮像に用いられた撮像装置の種類を示す情報を含んでもよい。ここでいう撮像装置の種類は、例えば、撮像装置の機種や、撮像装置が感度を有する光の波長帯を表す。
第2実施形態における重み付き演算の方法は、上述の動作例に限定されない。例えば、統合部250は、式(2)により算出された重みwiの一部を用いずに視線(g(1) x,g(1) y)〜(g(n) x,g(n) y)を統合してもよい。具体的には、統合部250は、重みwiのうちの所定の閾値以上であるもの(又は値が大きい順に所定数のもの)以外のものを「0」に置換してもよい。この置換は、重みwiのうち最終的な推定結果に与える影響が少ないものを切り捨てることに相当する。また、この場合において、統合部250は、切り捨て後の重みwiの総和が「1」になるように各重みの比率(式(2)の分母)を再計算してもよい。
上述のとおり、学習情報及びカメラ情報は、推定される視線の範囲を含み得る。ここでいう視線の範囲は、カメラ情報においては、推定しようとしている視線の範囲を示し、学習情報においては、視線推定器241において学習に用いられた視線の範囲を示す。視線の範囲は、例えば、視線(gx,gy)と同様に、真正面からのずれを−90〜+90[deg]の範囲の数値によって表す。学習情報及びカメラ情報は、視線の範囲を水平角と仰俯角の双方によって表してもよく、これらの一方によって表してもよい。
領域抽出部230は、右目及び左目の中心座標や目領域を計算によって特定しなくてもよい。例えば、右目及び左目の中心座標や目領域は、ユーザが入力してもよい。この場合、データ処理装置200は、ユーザの入力に基づいて右目及び左目の中心座標や目領域を特定することができる。
目領域の形状は、必ずしも矩形に限定されない。例えば、領域抽出部230は、上述された目領域(図6参照)から視線の推定に直接的には影響しない領域(例えば鼻の領域)を除外してもよい。また、目領域は、必ずしも両目を含まなくてもよい。例えば、領域抽出部230は、右目又は左目の一方を含み、他方を含まない領域と目領域として抽出してもよい。
視線推定部240による学習は、上述された例に限定されない。例えば、視線推定部240は、ランダムフォレスト等の集団学習アルゴリズムにより視線を推定するための非線形の関数を学習してもよい。
視線推定装置100(又はデータ処理装置200)により推定された視線の用途は、特に限定されない。例えば、視線推定装置100は、コンビニエンスストア等の小売店に設置された監視カメラによって撮像された人物の視線を推定し、不審人物を検出するシステムに適用されてもよい。また、視線推定装置100は、情報が表示された画面に対するユーザの視線に基づいて当該ユーザの興味・関心を推測するシステムに適用されてもよい。あるいは、視線推定装置100は、視線の動きによって操作可能な電子機器や、自動車等の運転支援に適用されてもよい。
本開示に係る装置(視線推定装置100又はデータ処理装置200)の具体的なハードウェア構成は、さまざまなバリエーションが含まれ、特定の構成に限定されない。例えば、本開示に係る装置は、ソフトウェアを用いて実現されてもよく、複数のハードウェアを用いて各種処理を分担するように構成されてもよい。
本開示の一部又は全部は、以下の付記のようにも記載され得る。ただし、本開示は、必ずしもこの付記の態様に限定されない。
(付記1)
顔画像に含まれる顔の視線を複数の推定器で推定する推定手段と、
前記顔画像の撮像に関する条件を含む第1の条件情報と、各々が前記複数の推定器のいずれかに対応する前記条件を含む複数の第2の条件情報と、前記推定された複数の視線とに基づいて前記顔の視線を決定する決定手段と
を備える視線推定装置。
(付記2)
前記条件は、撮像手段による撮像条件を含む
付記1に記載の視線推定装置。
(付記3)
前記条件は、推定される視線の範囲を含む
付記1又は付記2に記載の視線推定装置。
(付記4)
前記決定手段は、前記複数の推定器で推定された複数の視線のそれぞれに対して決定される重みであって、当該推定器に対応する前記第2の条件情報と前記第1の条件情報とに応じて決定される重みに従った重み付き演算を実行する
付記1から付記3までのいずれかに記載の視線推定装置。
(付記5)
前記決定手段は、前記第2の条件情報と前記第1の条件情報との比較結果に基づいて前記重みを決定する
付記4に記載の視線推定装置。
(付記6)
前記決定手段は、前記第2の条件情報が前記第1の条件情報に近いものほど前記重みを大きくする
付記5に記載の視線推定装置。
(付記7)
前記複数の推定器は、前記条件が互いに異なる顔画像に基づいて学習される
付記1から付記6までのいずれかに記載の視線推定装置。
(付記8)
前記顔画像を取得する第1の取得手段と、
前記第1の条件情報を取得する第2の取得手段と、
前記取得された顔画像から目の周辺の領域を抽出する抽出手段と、
前記決定手段により決定された視線を示す視線情報を出力する出力手段とをさらに備え、
前記推定手段は、前記顔画像のうちの前記領域を用いて前記顔の視線を推定する
付記1から付記7までのいずれかに記載の視線推定装置。
(付記9)
顔画像に含まれる顔の視線を複数の推定器で推定し、
前記顔画像の撮像に関する条件を含む第1の条件情報と、各々が前記複数の推定器のいずれかに対応する前記条件を含む複数の第2の条件情報と、前記推定された複数の視線とに基づいて前記顔の視線を決定する
視線推定方法。
(付記10)
前記第1の条件情報及び前記第2の条件情報は、撮像手段による撮像条件を示す情報を含む
付記9に記載の視線推定方法。
(付記11)
コンピュータに、
顔画像に含まれる顔の視線を複数の推定器で推定する処理と、
前記顔画像の撮像に関する条件を含む第1の条件情報と、各々が前記複数の推定器のいずれかに対応する前記条件を含む複数の第2の条件情報と、前記推定された複数の視線とに基づいて前記顔の視線を決定する処理と
を実行させるためのプログラムを記録したコンピュータ読み取り可能なプログラム記録媒体。
(付記12)
前記第1の条件情報及び前記第2の条件情報は、撮像手段による撮像条件を示す情報を含む
付記11に記載のプログラム記録媒体。
110 推定部
120 決定部
200 データ処理装置
210 画像取得部
220 条件取得部
230 領域抽出部
240 視線推定部
241 視線推定器
250 統合部
260 出力部
300 コンピュータ装置
Claims (7)
- 条件が異なる複数の画像を学習した学習結果を用いて、対象画像に含まれる対象の視線を複数推定する推定手段と、
前記条件と、前記対象画像に関する条件とに基づいて、前記対象の視線を決定する決定手段と、
を備える情報処理装置。 - 前記学習結果は、第1の条件で学習された第1の推定器と、第2の条件で学習された第2の推定器とを含み、
前記推定手段は、前記第1の推定器及び前記第2の推定器を用いて、前記対象の視線を複数推定する、
請求項1に記載の情報処理装置。 - 前記第1の推定器は、第1の撮像装置から撮像された画像を用いて学習され、
前記第2の推定器は、第2の撮像装置から撮像された画像を用いて学習される、
請求項2に記載の情報処理装置。 - 前記第1の撮像装置と前記第2の撮像装置は、それぞれ設置角度が異なる、
請求項3に記載の情報処理装置。 - 前記第1の撮像装置と前記第2の撮像装置は、それぞれ性能が異なる、
請求項3または4に記載の情報処理装置。 - コンピュータが、
条件が異なる複数の画像を学習した学習結果を用いて、対象画像に含まれる対象の視線を複数推定し、
前記条件と、前記対象画像に関する条件とに基づいて、前記対象の視線を決定する、
情報処理方法。 - 条件が異なる複数の画像を学習した学習結果を用いて、対象画像に含まれる対象の視線を複数推定する処理と、
前記条件と、前記対象画像に関する条件とに基づいて、前記対象の視線を決定する処理と、
をコンピュータに実行させるプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021000498A JP7103443B2 (ja) | 2021-01-05 | 2021-01-05 | 情報処理装置、情報処理方法、およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021000498A JP7103443B2 (ja) | 2021-01-05 | 2021-01-05 | 情報処理装置、情報処理方法、およびプログラム |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018547082A Division JP6822482B2 (ja) | 2016-10-31 | 2016-10-31 | 視線推定装置、視線推定方法及びプログラム記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021061048A true JP2021061048A (ja) | 2021-04-15 |
JP7103443B2 JP7103443B2 (ja) | 2022-07-20 |
Family
ID=75380329
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021000498A Active JP7103443B2 (ja) | 2021-01-05 | 2021-01-05 | 情報処理装置、情報処理方法、およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7103443B2 (ja) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002282210A (ja) * | 2001-03-27 | 2002-10-02 | Japan Science & Technology Corp | 視線検出方法及びその装置 |
JP2003070742A (ja) * | 2001-08-31 | 2003-03-11 | Japan Science & Technology Corp | 視線検出装置及び視線検出方法 |
JP2012037934A (ja) * | 2010-08-03 | 2012-02-23 | Canon Inc | 視線検出装置、視線検出方法及びプログラム |
JP2014153815A (ja) * | 2013-02-06 | 2014-08-25 | Toshiba Corp | 推定装置、その方法及びそのプログラム |
JP2014186505A (ja) * | 2013-03-22 | 2014-10-02 | Canon Inc | 視線検出装置及び撮像装置 |
US20160004303A1 (en) * | 2014-07-07 | 2016-01-07 | Logitech Europe Sa | Eye gaze tracking system and method |
-
2021
- 2021-01-05 JP JP2021000498A patent/JP7103443B2/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002282210A (ja) * | 2001-03-27 | 2002-10-02 | Japan Science & Technology Corp | 視線検出方法及びその装置 |
JP2003070742A (ja) * | 2001-08-31 | 2003-03-11 | Japan Science & Technology Corp | 視線検出装置及び視線検出方法 |
JP2012037934A (ja) * | 2010-08-03 | 2012-02-23 | Canon Inc | 視線検出装置、視線検出方法及びプログラム |
JP2014153815A (ja) * | 2013-02-06 | 2014-08-25 | Toshiba Corp | 推定装置、その方法及びそのプログラム |
JP2014186505A (ja) * | 2013-03-22 | 2014-10-02 | Canon Inc | 視線検出装置及び撮像装置 |
US20160004303A1 (en) * | 2014-07-07 | 2016-01-07 | Logitech Europe Sa | Eye gaze tracking system and method |
Also Published As
Publication number | Publication date |
---|---|
JP7103443B2 (ja) | 2022-07-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6822482B2 (ja) | 視線推定装置、視線推定方法及びプログラム記録媒体 | |
US11775056B2 (en) | System and method using machine learning for iris tracking, measurement, and simulation | |
US20230274577A1 (en) | Device and method with image matching | |
CN108985210A (zh) | 一种基于人眼几何特征的视线追踪方法及系统 | |
US9098760B2 (en) | Face recognizing apparatus and face recognizing method | |
US8819015B2 (en) | Object identification apparatus and method for identifying object | |
JP6544900B2 (ja) | オブジェクト識別装置、オブジェクト識別方法及びプログラム | |
US20120218398A1 (en) | Automatic Detection of Vertical Gaze Using an Embedded Imaging Device | |
JP2007042072A (ja) | 追跡装置 | |
JP2000306095A (ja) | 画像照合・検索システム | |
JP2008146539A (ja) | 顔認証装置 | |
EP3241151A1 (en) | An image face processing method and apparatus | |
JP6071002B2 (ja) | 信頼度取得装置、信頼度取得方法および信頼度取得プログラム | |
JP2013065119A (ja) | 顔認証装置及び顔認証方法 | |
JP7151875B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP5971712B2 (ja) | 監視装置及び方法 | |
JP2005309765A (ja) | 画像認識装置、画像抽出装置、画像抽出方法及びプログラム | |
JP2021071769A (ja) | 物体追跡装置および物体追跡方法 | |
CN114360039A (zh) | 一种智能眼睑检测方法及系统 | |
WO2020065790A1 (ja) | 推定装置、推定方法、および記憶媒体 | |
JP7103443B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
US11138741B2 (en) | System and method for eye tracking | |
JP5791361B2 (ja) | パターン識別装置、パターン識別方法およびプログラム | |
JP2008015871A (ja) | 認証装置、及び認証方法 | |
US10902628B1 (en) | Method for estimating user eye orientation using a system-independent learned mapping |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210105 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20211020 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20211209 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211221 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220214 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220607 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220620 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7103443 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |