JP2019179390A5 - - Google Patents

Download PDF

Info

Publication number
JP2019179390A5
JP2019179390A5 JP2018068120A JP2018068120A JP2019179390A5 JP 2019179390 A5 JP2019179390 A5 JP 2019179390A5 JP 2018068120 A JP2018068120 A JP 2018068120A JP 2018068120 A JP2018068120 A JP 2018068120A JP 2019179390 A5 JP2019179390 A5 JP 2019179390A5
Authority
JP
Japan
Prior art keywords
image
estimation
information
neural network
point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018068120A
Other languages
English (en)
Other versions
JP7118697B2 (ja
JP2019179390A (ja
Filing date
Publication date
Application filed filed Critical
Priority to JP2018068120A priority Critical patent/JP7118697B2/ja
Priority claimed from JP2018068120A external-priority patent/JP7118697B2/ja
Priority to US16/370,528 priority patent/US11341680B2/en
Publication of JP2019179390A publication Critical patent/JP2019179390A/ja
Publication of JP2019179390A5 publication Critical patent/JP2019179390A5/ja
Priority to US17/732,056 priority patent/US11748904B2/en
Application granted granted Critical
Publication of JP7118697B2 publication Critical patent/JP7118697B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Claims (23)

  1. 推定用画像に対するアイトラッキング情報をニューラルネットワークに入力することなく、前記ニューラルネットワークを用いて前記推定用画像から前記推定用画像に対する注視点に関する情報を推定する注視点推定部、
    を備える推定装置。
  2. 前記推定用画像からオプティカルフローを算出する算出部
    をさらに備え、
    前記注視点推定部は、前記オプティカルフローを用いて前記注視点に関する情報を推定する
    請求項1に記載の推定装置。
  3. 複数のニューラルネットワークを記憶する記憶部
    をさらに備え、
    前記注視点推定部が、前記推定用画像の視聴者の属性に基づき、前記複数のニューラルネットワークから前記注視点に関する情報の推定に用いる前記ニューラルネットワークを選択する、
    請求項1または2に記載の推定装置。
  4. 前記注視点推定部は、前記推定用画像の視聴者の属性用いて、前記注視点を推定する
    請求項1ないし3のいずれか一項に記載の推定装置。
  5. 前記注視点に関する情報に基づき、前記推定用画像を加工する画像加工部
    をさらに備える請求項1ないし4のいずれか一項に記載の推定装置。
  6. 前記注視点に関する情報に基づき、前記推定用画像を評価する評価部
    をさらに備える
    請求項1ないし5のいずれか一項に記載の推定装置。
  7. 前記推定用画像と前記注視点に関する情報とに基づき、前記推定用画像の視聴者の注視物を導出する注視物導出部
    をさらに備える請求項1ないし6のいずれか一項に記載の推定装置。
  8. 前記推定用画像の視聴者に関する入力データに前記注視物に関する情報が含まれている場合前記注視物に関する返答を生成する返答生成部
    をさらに備える請求項7に記載の推定装置。
  9. 前記注視点に関する情報は、前記推定用画像内のピクセルが前記注視点である可能性を示す情報を含む、
    請求項1ないし8のいずれか一項に記載の推定装置。
  10. 前記注視点に関する情報は、前記推定用画像内のピクセルが前記注視点である可能性を示す画像である
    請求項1ないし9のいずれか一項に記載の推定装置。
  11. 前記画像は、ヒートマップ、等高線図、及び、3次元グラフのうちの少なくとも一つである、
    請求項10に記載の推定装置。
  12. 前記注視点に関する情報は、前記推定用画像内における領域に関する情報を含む、
    請求項1ないし11のいずれか一項に記載の推定装置。
  13. 前記推定用画像の視聴者は、前記推定用画像を見る人である、
    請求項3、4、7、8のいずれか一項に記載の推定装置。
  14. 画像を撮影する撮影装置と、
    請求項1ないし13のいずれか一項に記載の推定装置と、
    を備え、
    前記推定装置が、前記撮影装置によって撮影された画像を、前記推定用画像として受け取り、
    前記推定装置が、前記注視点に関する情報を前記撮影装置に送信し、
    前記撮影装置が、前記注視点の位置または周辺にある物体を撮影するために自装置の設定を変更する
    システム
  15. 移動体に搭載された撮影装置により撮影された画像を前記推定用画像として受け取る請求項1ないし13のいずれか一項に記載の推定装置と、
    前記推定装置により推定された前記注視点に関する情報に基づき、前記移動体を移動させるように制御する制御装置と、
    を備えるシステム
  16. ニューラルネットワークを記憶する少なくとも1つのメモリと、
    少なくとも1つのプロセッサと、を備え、
    前記少なくとも1つのプロセッサは、
    対象画像を前記ニューラルネットワークに入力することによって評価スコアを生成し、
    前記対象画像に対するアイトラッキング情報を前記ニューラルネットワークに入力することなく、前記対象画像内のピクセルが注視点である可能性を示す画像を生成し、
    生成された前記画像が、ヒートマップ、等高線図、及び、3次元グラフのうちの少なくとも一つである、
    評価装置。
  17. 学習用画像と前記学習用画像に対する注視点に関する情報とに基づく学習を行うことにより、ニューラルネットワークを生成するモデル生成方法であって、
    前記ニューラルネットワークは、前記学習用画像に対するアイトラッキング情報が入力されることなく、前記学習用画像が前記ニューラルネットワークに入力されることにより、前記注視点に関する情報を出力する、
    モデル生成方法。
  18. 推定用画像に対するアイトラッキング情報をニューラルネットワークに入力することなく、前記ニューラルネットワークを用いて前記推定用画像から前記推定用画像に対する注視点に関する情報を推定するステップ、
    を備える推定方法。
  19. 対象画像をニューラルネットワークに入力することによって評価スコアを生成するステップと、
    前記対象画像に対するアイトラッキング情報を前記ニューラルネットワークに入力することなく、前記対象画像内のピクセルが注視点である可能性を示す画像を生成するステップと、
    を備え、
    生成された前記画像が、ヒートマップ、等高線図、及び、3次元グラフのうちの少なくとも一つである、
    評価方法。
  20. 複数のニューラルネットワークから、前記対象画像の視聴者の属性に基づき、前記ニューラルネットワークを選択するステップ
    をさらに備える
    請求項19に記載の評価方法。
  21. 前記対象画像の視聴者の属性が、性別、年齢、出身地、住所、職業、家族構成、年収、趣味、及び、状態のうちの少なくとも一つである、
    請求項20に記載の評価方法。
  22. 前記対象画像の視聴者は、前記対象画像を見る人である、
    請求項20または21に記載の評価方法。
  23. 請求項17から請求項22のいずれかに記載の方法を少なくとも1台のコンピュータに実行させるプログラム。
JP2018068120A 2018-03-30 2018-03-30 注視点推定処理装置、注視点推定モデル生成装置、注視点推定処理システム、注視点推定処理方法、プログラム、および注視点推定モデル Active JP7118697B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018068120A JP7118697B2 (ja) 2018-03-30 2018-03-30 注視点推定処理装置、注視点推定モデル生成装置、注視点推定処理システム、注視点推定処理方法、プログラム、および注視点推定モデル
US16/370,528 US11341680B2 (en) 2018-03-30 2019-03-29 Gaze point estimation processing apparatus, gaze point estimation model generation apparatus, gaze point estimation processing system, and gaze point estimation processing method
US17/732,056 US11748904B2 (en) 2018-03-30 2022-04-28 Gaze point estimation processing apparatus, gaze point estimation model generation apparatus, gaze point estimation processing system, and gaze point estimation processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018068120A JP7118697B2 (ja) 2018-03-30 2018-03-30 注視点推定処理装置、注視点推定モデル生成装置、注視点推定処理システム、注視点推定処理方法、プログラム、および注視点推定モデル

Publications (3)

Publication Number Publication Date
JP2019179390A JP2019179390A (ja) 2019-10-17
JP2019179390A5 true JP2019179390A5 (ja) 2021-09-09
JP7118697B2 JP7118697B2 (ja) 2022-08-16

Family

ID=68056486

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018068120A Active JP7118697B2 (ja) 2018-03-30 2018-03-30 注視点推定処理装置、注視点推定モデル生成装置、注視点推定処理システム、注視点推定処理方法、プログラム、および注視点推定モデル

Country Status (2)

Country Link
US (2) US11341680B2 (ja)
JP (1) JP7118697B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7118697B2 (ja) * 2018-03-30 2022-08-16 株式会社Preferred Networks 注視点推定処理装置、注視点推定モデル生成装置、注視点推定処理システム、注視点推定処理方法、プログラム、および注視点推定モデル
EP3660733B1 (en) * 2018-11-30 2023-06-28 Tata Consultancy Services Limited Method and system for information extraction from document images using conversational interface and database querying
CN110728256A (zh) * 2019-10-22 2020-01-24 上海商汤智能科技有限公司 基于车载数字人的交互方法及装置、存储介质
EP3944159A1 (en) * 2020-07-17 2022-01-26 Tata Consultancy Services Limited Method and system for defending universal adversarial attacks on time-series data
JP7481205B2 (ja) 2020-08-26 2024-05-10 川崎重工業株式会社 ロボットシステム、ロボットの制御方法、情報処理装置、コンピュータプログラム、学習装置、及び学習済みモデルの生成方法
GB2599900B (en) * 2020-10-09 2023-01-11 Sony Interactive Entertainment Inc Data processing system and method for image enhancement
CN116965010A (zh) * 2021-02-26 2023-10-27 索尼集团公司 投射系统

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7515173B2 (en) * 2002-05-23 2009-04-07 Microsoft Corporation Head pose tracking system
US7306337B2 (en) * 2003-03-06 2007-12-11 Rensselaer Polytechnic Institute Calibration-free gaze tracking under natural head movement
US8885882B1 (en) * 2011-07-14 2014-11-11 The Research Foundation For The State University Of New York Real time eye tracking for human computer interaction
US9025880B2 (en) * 2012-08-29 2015-05-05 Disney Enterprises, Inc. Visual saliency estimation for images and video
CN105027144A (zh) 2013-02-27 2015-11-04 汤姆逊许可公司 用于无校准注视估计的方法和设备
JP6187155B2 (ja) 2013-10-28 2017-08-30 株式会社デンソーアイティーラボラトリ 注視対象物推定装置
CN105765513B (zh) 2013-11-01 2020-02-21 索尼公司 信息处理装置、信息处理方法和程序
US9684827B2 (en) * 2014-03-26 2017-06-20 Microsoft Technology Licensing, Llc Eye gaze tracking based upon adaptive homography mapping
AU2015297036B2 (en) 2014-05-09 2017-09-28 Google Llc Systems and methods for discerning eye signals and continuous biometric identification
CN104951084B (zh) * 2015-07-30 2017-12-29 京东方科技集团股份有限公司 视线追踪方法及装置
US10049279B2 (en) 2016-03-11 2018-08-14 Qualcomm Incorporated Recurrent networks with motion-based attention for video understanding
JP6713434B2 (ja) 2016-05-30 2020-06-24 日本電信電話株式会社 注目範囲推定装置、学習装置、それらの方法およびプログラム
JP6798183B2 (ja) 2016-08-04 2020-12-09 株式会社リコー 画像解析装置、画像解析方法およびプログラム
US9898082B1 (en) * 2016-11-01 2018-02-20 Massachusetts Institute Of Technology Methods and apparatus for eye tracking
US10325396B2 (en) * 2017-02-14 2019-06-18 Linden Research, Inc. Virtual reality presentation of eye movement and eye contact
JP7118697B2 (ja) * 2018-03-30 2022-08-16 株式会社Preferred Networks 注視点推定処理装置、注視点推定モデル生成装置、注視点推定処理システム、注視点推定処理方法、プログラム、および注視点推定モデル
US20190324528A1 (en) * 2018-04-20 2019-10-24 Microsoft Technology Licensing, Llc Adjusting gaze point based on determined offset adjustment

Similar Documents

Publication Publication Date Title
JP2019179390A5 (ja)
US11238568B2 (en) Method and system for reconstructing obstructed face portions for virtual reality environment
WO2021135827A1 (zh) 视线方向确定方法、装置、电子设备及存储介质
JP2017523487A5 (ja)
JP2020509441A5 (ja)
US10254831B2 (en) System and method for detecting a gaze of a viewer
US11748904B2 (en) Gaze point estimation processing apparatus, gaze point estimation model generation apparatus, gaze point estimation processing system, and gaze point estimation processing method
CN107358217A (zh) 一种视线估计方法及装置
CN111522430B (zh) 注视追踪模型的训练
IL300597A (en) Systems and methods for eye examination
JP5001930B2 (ja) 動作認識装置及び方法
CN109696954A (zh) 视线追踪方法、装置、设备和存储介质
CN114391117A (zh) 眼睛跟踪延迟增强
US11949949B2 (en) Content generation based on audience engagement
US20200118349A1 (en) Information processing apparatus, information processing method, and program
JP6583996B2 (ja) 映像評価装置、及びプログラム
JP6698946B2 (ja) 情報処理装置、制御方法、及びプログラム
US11507836B1 (en) Federated learning using local ground truth estimation
US20150269729A1 (en) Eye Image Stimuli for Eyegaze Calibration Procedures
WO2015198592A1 (ja) 情報処理装置、情報処理方法および情報処理プログラム
KR102126370B1 (ko) 동작 인식 장치 및 방법
KR101395819B1 (ko) 시선 추적 장치 및 방법
KR101817952B1 (ko) 투과형 헤드 마운티드 디스플레이 장치 및 상기 장치에서의 화면 심도 제어 방법
JP2019040592A (ja) 情報処理装置、情報処理プログラム、及び、情報処理方法
CN111753628B (zh) 训练眼睛跟踪模型