JP2019179390A5 - - Google Patents
Download PDFInfo
- Publication number
- JP2019179390A5 JP2019179390A5 JP2018068120A JP2018068120A JP2019179390A5 JP 2019179390 A5 JP2019179390 A5 JP 2019179390A5 JP 2018068120 A JP2018068120 A JP 2018068120A JP 2018068120 A JP2018068120 A JP 2018068120A JP 2019179390 A5 JP2019179390 A5 JP 2019179390A5
- Authority
- JP
- Japan
- Prior art keywords
- image
- estimation
- information
- neural network
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000001537 neural Effects 0.000 claims 17
- 238000011156 evaluation Methods 0.000 claims 8
- 238000003384 imaging method Methods 0.000 claims 3
- 230000003287 optical Effects 0.000 claims 2
- 230000004044 response Effects 0.000 claims 2
Claims (23)
- 推定用画像に対するアイトラッキング情報をニューラルネットワークに入力することなく、前記ニューラルネットワークを用いて前記推定用画像から前記推定用画像に対する注視点に関する情報を推定する注視点推定部、
を備える推定装置。 - 前記推定用画像からオプティカルフローを算出する算出部
をさらに備え、
前記注視点推定部は、前記オプティカルフローを用いて、前記注視点に関する情報を推定する
請求項1に記載の推定装置。 - 複数のニューラルネットワークを記憶する記憶部
をさらに備え、
前記注視点推定部が、前記推定用画像の視聴者の属性に基づき、前記複数のニューラルネットワークから前記注視点に関する情報の推定に用いる前記ニューラルネットワークを選択する、
請求項1または2に記載の推定装置。 - 前記注視点推定部は、前記推定用画像の視聴者の属性を用いて、前記注視点を推定する
請求項1ないし3のいずれか一項に記載の推定装置。 - 前記注視点に関する情報に基づき、前記推定用画像を加工する画像加工部
をさらに備える請求項1ないし4のいずれか一項に記載の推定装置。 - 前記注視点に関する情報に基づき、前記推定用画像を評価する評価部
をさらに備える
請求項1ないし5のいずれか一項に記載の推定装置。 - 前記推定用画像と前記注視点に関する情報とに基づき、前記推定用画像の視聴者の注視物を導出する注視物導出部
をさらに備える請求項1ないし6のいずれか一項に記載の推定装置。 - 前記推定用画像の視聴者に関する入力データに前記注視物に関する情報が含まれている場合、前記注視物に関する返答を生成する返答生成部
をさらに備える請求項7に記載の推定装置。 - 前記注視点に関する情報は、前記推定用画像内のピクセルが前記注視点である可能性を示す情報を含む、
請求項1ないし8のいずれか一項に記載の推定装置。 - 前記注視点に関する情報は、前記推定用画像内のピクセルが前記注視点である可能性を示す画像である、
請求項1ないし9のいずれか一項に記載の推定装置。 - 前記画像は、ヒートマップ、等高線図、及び、3次元グラフのうちの少なくとも一つである、
請求項10に記載の推定装置。 - 前記注視点に関する情報は、前記推定用画像内における領域に関する情報を含む、
請求項1ないし11のいずれか一項に記載の推定装置。 - 前記推定用画像の視聴者は、前記推定用画像を見る人である、
請求項3、4、7、8のいずれか一項に記載の推定装置。 - 画像を撮影する撮影装置と、
請求項1ないし13のいずれか一項に記載の推定装置と、
を備え、
前記推定装置が、前記撮影装置によって撮影された画像を、前記推定用画像として受け取り、
前記推定装置が、前記注視点に関する情報を前記撮影装置に送信し、
前記撮影装置が、前記注視点の位置または周辺にある物体を撮影するために自装置の設定を変更する
システム。 - 移動体に搭載された撮影装置により撮影された画像を前記推定用画像として受け取る請求項1ないし13のいずれか一項に記載の推定装置と、
前記推定装置により推定された前記注視点に関する情報に基づき、前記移動体を移動させるように制御する制御装置と、
を備えるシステム。 - ニューラルネットワークを記憶する少なくとも1つのメモリと、
少なくとも1つのプロセッサと、を備え、
前記少なくとも1つのプロセッサは、
対象画像を前記ニューラルネットワークに入力することによって評価スコアを生成し、
前記対象画像に対するアイトラッキング情報を前記ニューラルネットワークに入力することなく、前記対象画像内のピクセルが注視点である可能性を示す画像を生成し、
生成された前記画像が、ヒートマップ、等高線図、及び、3次元グラフのうちの少なくとも一つである、
評価装置。 - 学習用画像と前記学習用画像に対する注視点に関する情報とに基づく学習を行うことにより、ニューラルネットワークを生成するモデル生成方法であって、
前記ニューラルネットワークは、前記学習用画像に対するアイトラッキング情報が入力されることなく、前記学習用画像が前記ニューラルネットワークに入力されることにより、前記注視点に関する情報を出力する、
モデル生成方法。 - 推定用画像に対するアイトラッキング情報をニューラルネットワークに入力することなく、前記ニューラルネットワークを用いて前記推定用画像から前記推定用画像に対する注視点に関する情報を推定するステップ、
を備える推定方法。 - 対象画像をニューラルネットワークに入力することによって評価スコアを生成するステップと、
前記対象画像に対するアイトラッキング情報を前記ニューラルネットワークに入力することなく、前記対象画像内のピクセルが注視点である可能性を示す画像を生成するステップと、
を備え、
生成された前記画像が、ヒートマップ、等高線図、及び、3次元グラフのうちの少なくとも一つである、
評価方法。 - 複数のニューラルネットワークから、前記対象画像の視聴者の属性に基づき、前記ニューラルネットワークを選択するステップ
をさらに備える
請求項19に記載の評価方法。 - 前記対象画像の視聴者の属性が、性別、年齢、出身地、住所、職業、家族構成、年収、趣味、及び、状態のうちの少なくとも一つである、
請求項20に記載の評価方法。 - 前記対象画像の視聴者は、前記対象画像を見る人である、
請求項20または21に記載の評価方法。 - 請求項17から請求項22のいずれかに記載の方法を少なくとも1台のコンピュータに実行させるプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018068120A JP7118697B2 (ja) | 2018-03-30 | 2018-03-30 | 注視点推定処理装置、注視点推定モデル生成装置、注視点推定処理システム、注視点推定処理方法、プログラム、および注視点推定モデル |
US16/370,528 US11341680B2 (en) | 2018-03-30 | 2019-03-29 | Gaze point estimation processing apparatus, gaze point estimation model generation apparatus, gaze point estimation processing system, and gaze point estimation processing method |
US17/732,056 US11748904B2 (en) | 2018-03-30 | 2022-04-28 | Gaze point estimation processing apparatus, gaze point estimation model generation apparatus, gaze point estimation processing system, and gaze point estimation processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018068120A JP7118697B2 (ja) | 2018-03-30 | 2018-03-30 | 注視点推定処理装置、注視点推定モデル生成装置、注視点推定処理システム、注視点推定処理方法、プログラム、および注視点推定モデル |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2019179390A JP2019179390A (ja) | 2019-10-17 |
JP2019179390A5 true JP2019179390A5 (ja) | 2021-09-09 |
JP7118697B2 JP7118697B2 (ja) | 2022-08-16 |
Family
ID=68056486
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018068120A Active JP7118697B2 (ja) | 2018-03-30 | 2018-03-30 | 注視点推定処理装置、注視点推定モデル生成装置、注視点推定処理システム、注視点推定処理方法、プログラム、および注視点推定モデル |
Country Status (2)
Country | Link |
---|---|
US (2) | US11341680B2 (ja) |
JP (1) | JP7118697B2 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7118697B2 (ja) * | 2018-03-30 | 2022-08-16 | 株式会社Preferred Networks | 注視点推定処理装置、注視点推定モデル生成装置、注視点推定処理システム、注視点推定処理方法、プログラム、および注視点推定モデル |
EP3660733B1 (en) * | 2018-11-30 | 2023-06-28 | Tata Consultancy Services Limited | Method and system for information extraction from document images using conversational interface and database querying |
CN110728256A (zh) * | 2019-10-22 | 2020-01-24 | 上海商汤智能科技有限公司 | 基于车载数字人的交互方法及装置、存储介质 |
EP3944159A1 (en) * | 2020-07-17 | 2022-01-26 | Tata Consultancy Services Limited | Method and system for defending universal adversarial attacks on time-series data |
JP7481205B2 (ja) | 2020-08-26 | 2024-05-10 | 川崎重工業株式会社 | ロボットシステム、ロボットの制御方法、情報処理装置、コンピュータプログラム、学習装置、及び学習済みモデルの生成方法 |
GB2599900B (en) * | 2020-10-09 | 2023-01-11 | Sony Interactive Entertainment Inc | Data processing system and method for image enhancement |
CN116965010A (zh) * | 2021-02-26 | 2023-10-27 | 索尼集团公司 | 投射系统 |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7515173B2 (en) * | 2002-05-23 | 2009-04-07 | Microsoft Corporation | Head pose tracking system |
US7306337B2 (en) * | 2003-03-06 | 2007-12-11 | Rensselaer Polytechnic Institute | Calibration-free gaze tracking under natural head movement |
US8885882B1 (en) * | 2011-07-14 | 2014-11-11 | The Research Foundation For The State University Of New York | Real time eye tracking for human computer interaction |
US9025880B2 (en) * | 2012-08-29 | 2015-05-05 | Disney Enterprises, Inc. | Visual saliency estimation for images and video |
CN105027144A (zh) | 2013-02-27 | 2015-11-04 | 汤姆逊许可公司 | 用于无校准注视估计的方法和设备 |
JP6187155B2 (ja) | 2013-10-28 | 2017-08-30 | 株式会社デンソーアイティーラボラトリ | 注視対象物推定装置 |
CN105765513B (zh) | 2013-11-01 | 2020-02-21 | 索尼公司 | 信息处理装置、信息处理方法和程序 |
US9684827B2 (en) * | 2014-03-26 | 2017-06-20 | Microsoft Technology Licensing, Llc | Eye gaze tracking based upon adaptive homography mapping |
AU2015297036B2 (en) | 2014-05-09 | 2017-09-28 | Google Llc | Systems and methods for discerning eye signals and continuous biometric identification |
CN104951084B (zh) * | 2015-07-30 | 2017-12-29 | 京东方科技集团股份有限公司 | 视线追踪方法及装置 |
US10049279B2 (en) | 2016-03-11 | 2018-08-14 | Qualcomm Incorporated | Recurrent networks with motion-based attention for video understanding |
JP6713434B2 (ja) | 2016-05-30 | 2020-06-24 | 日本電信電話株式会社 | 注目範囲推定装置、学習装置、それらの方法およびプログラム |
JP6798183B2 (ja) | 2016-08-04 | 2020-12-09 | 株式会社リコー | 画像解析装置、画像解析方法およびプログラム |
US9898082B1 (en) * | 2016-11-01 | 2018-02-20 | Massachusetts Institute Of Technology | Methods and apparatus for eye tracking |
US10325396B2 (en) * | 2017-02-14 | 2019-06-18 | Linden Research, Inc. | Virtual reality presentation of eye movement and eye contact |
JP7118697B2 (ja) * | 2018-03-30 | 2022-08-16 | 株式会社Preferred Networks | 注視点推定処理装置、注視点推定モデル生成装置、注視点推定処理システム、注視点推定処理方法、プログラム、および注視点推定モデル |
US20190324528A1 (en) * | 2018-04-20 | 2019-10-24 | Microsoft Technology Licensing, Llc | Adjusting gaze point based on determined offset adjustment |
-
2018
- 2018-03-30 JP JP2018068120A patent/JP7118697B2/ja active Active
-
2019
- 2019-03-29 US US16/370,528 patent/US11341680B2/en active Active
-
2022
- 2022-04-28 US US17/732,056 patent/US11748904B2/en active Active
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2019179390A5 (ja) | ||
US11238568B2 (en) | Method and system for reconstructing obstructed face portions for virtual reality environment | |
WO2021135827A1 (zh) | 视线方向确定方法、装置、电子设备及存储介质 | |
JP2017523487A5 (ja) | ||
JP2020509441A5 (ja) | ||
US10254831B2 (en) | System and method for detecting a gaze of a viewer | |
US11748904B2 (en) | Gaze point estimation processing apparatus, gaze point estimation model generation apparatus, gaze point estimation processing system, and gaze point estimation processing method | |
CN107358217A (zh) | 一种视线估计方法及装置 | |
CN111522430B (zh) | 注视追踪模型的训练 | |
IL300597A (en) | Systems and methods for eye examination | |
JP5001930B2 (ja) | 動作認識装置及び方法 | |
CN109696954A (zh) | 视线追踪方法、装置、设备和存储介质 | |
CN114391117A (zh) | 眼睛跟踪延迟增强 | |
US11949949B2 (en) | Content generation based on audience engagement | |
US20200118349A1 (en) | Information processing apparatus, information processing method, and program | |
JP6583996B2 (ja) | 映像評価装置、及びプログラム | |
JP6698946B2 (ja) | 情報処理装置、制御方法、及びプログラム | |
US11507836B1 (en) | Federated learning using local ground truth estimation | |
US20150269729A1 (en) | Eye Image Stimuli for Eyegaze Calibration Procedures | |
WO2015198592A1 (ja) | 情報処理装置、情報処理方法および情報処理プログラム | |
KR102126370B1 (ko) | 동작 인식 장치 및 방법 | |
KR101395819B1 (ko) | 시선 추적 장치 및 방법 | |
KR101817952B1 (ko) | 투과형 헤드 마운티드 디스플레이 장치 및 상기 장치에서의 화면 심도 제어 방법 | |
JP2019040592A (ja) | 情報処理装置、情報処理プログラム、及び、情報処理方法 | |
CN111753628B (zh) | 训练眼睛跟踪模型 |