JP6999540B2 - 情報処理装置及びプログラム - Google Patents
情報処理装置及びプログラム Download PDFInfo
- Publication number
- JP6999540B2 JP6999540B2 JP2018246829A JP2018246829A JP6999540B2 JP 6999540 B2 JP6999540 B2 JP 6999540B2 JP 2018246829 A JP2018246829 A JP 2018246829A JP 2018246829 A JP2018246829 A JP 2018246829A JP 6999540 B2 JP6999540 B2 JP 6999540B2
- Authority
- JP
- Japan
- Prior art keywords
- passenger
- image
- face image
- vehicle
- moving body
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 59
- 230000008921 facial expression Effects 0.000 claims description 82
- 230000007935 neutral effect Effects 0.000 claims description 68
- 230000008451 emotion Effects 0.000 claims description 45
- 230000001815 facial effect Effects 0.000 claims description 25
- 238000003384 imaging method Methods 0.000 claims description 7
- 238000000034 method Methods 0.000 description 26
- 238000004891 communication Methods 0.000 description 24
- 230000008569 process Effects 0.000 description 20
- 238000012545 processing Methods 0.000 description 17
- 230000005540 biological transmission Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000002996 emotional effect Effects 0.000 description 4
- 230000036772 blood pressure Effects 0.000 description 3
- 230000036760 body temperature Effects 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 239000003112 inhibitor Substances 0.000 description 3
- 238000010295 mobile communication Methods 0.000 description 3
- 230000035900 sweating Effects 0.000 description 3
- 230000037007 arousal Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- AAFFTDXPYADISO-UHFFFAOYSA-N C1CC#CCC1 Chemical compound C1CC#CCC1 AAFFTDXPYADISO-UHFFFAOYSA-N 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/166—Detection; Localisation; Normalisation using acquisition arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/174—Facial expression recognition
- G06V40/175—Static expression
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
- B60W40/09—Driving style or behaviour
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B62—LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
- B62D—MOTOR VEHICLES; TRAILERS
- B62D15/00—Steering not otherwise provided for
- B62D15/02—Steering position indicators ; Steering position determination; Steering aids
- B62D15/021—Determination of steering angle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/174—Facial expression recognition
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Health & Medical Sciences (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Combustion & Propulsion (AREA)
- Chemical & Material Sciences (AREA)
- Automation & Control Theory (AREA)
- Mathematical Physics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Traffic Control Systems (AREA)
- Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Image Analysis (AREA)
Description
[先行技術文献]
[特許文献]
[特許文献1]特開2018-106530号公報
[特許文献2]特開2016-076259号公報
Claims (12)
- 一の移動体の状況を取得する状況取得部と、
前記一の移動体の状況が予め定められた状況であるときに前記一の移動体に搭載された撮像部によって撮像された前記一の移動体の搭乗者の顔画像を、前記搭乗者のニュートラルな表情の顔画像として格納する格納実行部と
を備える情報処理装置。 - 前記撮像部によって撮像された前記一の移動体の搭乗者の顔画像と、前記格納実行部によって格納された前記搭乗者のニュートラルな表情の顔画像とを比較することによって前記搭乗者の感情を推定する感情推定部
を備える、請求項1に記載の情報処理装置。 - 前記状況取得部は、前記一の移動体が移動する経路の状況を取得し、
前記格納実行部は、前記一の移動体が移動する経路の状況が予め定められた状況であるときに前記撮像部によって撮像された前記搭乗者の顔画像を、前記搭乗者のニュートラルな表情の顔画像として格納する、請求項1又は2に記載の情報処理装置。 - 前記一の移動体は自動車であり、
前記状況取得部は、前記一の移動体が走行する道路の状況を取得する、請求項3に記載の情報処理装置。 - 前記格納実行部は、前記一の移動体の位置から前記一の移動体の移動方向の予め定められた距離の道路が直線道路であり、前記一の移動体が当該直線道路を走行しているときに前記撮像部によって撮像された前記搭乗者の顔画像を、前記搭乗者のニュートラルな表情の顔画像として格納する、請求項4に記載の情報処理装置。
- 前記格納実行部は、前記一の移動体の位置から前記一の移動体が予め定められた時間移動する場合に走行する道路が直線道路であり、前記一の移動体が当該直線道路を走行しているときに前記撮像部によって撮像された前記搭乗者の顔画像を、前記搭乗者のニュートラルな表情の顔画像として格納する、請求項4に記載の情報処理装置。
- 前記格納実行部は、前記直線道路に他の車両が存在しないことを条件に、前記一の移動体が当該直線道路を走行しているときに前記撮像部によって撮像された前記搭乗者の顔画像を、前記搭乗者のニュートラルな表情の顔画像として格納する、請求項5又は6に記載の情報処理装置。
- 前記格納実行部は、前記直線道路に信号機が存在しないことを条件に、前記一の移動体が当該直線道路を走行しているときに前記撮像部によって撮像された前記搭乗者の顔画像を、前記搭乗者のニュートラルな表情の顔画像として格納する、請求項5から7のいずれか一項に記載の情報処理装置。
- 前記格納実行部は、前記直線道路に交差点が存在しないことを条件に、前記一の移動体が当該直線道路を走行しているときに前記撮像部によって撮像された前記搭乗者の顔画像を、前記搭乗者のニュートラルな表情の顔画像として格納する、請求項5から8のいずれか一項に記載の情報処理装置。
- 前記一の移動体は自動車であり、
前記状況取得部は、前記一の移動体のハンドルの操作状況を取得し、
前記格納実行部は、前記一の移動体のハンドルの操作状況が予め定められた状況であるときに前記撮像部によって撮像された前記搭乗者の顔画像を、前記搭乗者のニュートラルな表情の顔画像として格納する、請求項2に記載の情報処理装置。 - 前記格納実行部は、前記一の移動体のハンドルの回転角度が基準位置から予め定められた範囲内であるときに前記撮像部によって撮像された前記搭乗者の顔画像を、前記搭乗者のニュートラルな表情の顔画像として格納する、請求項10に記載の情報処理装置。
- コンピュータを、請求項1から11のいずれか一項に記載の情報処理装置として機能させるためのプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018246829A JP6999540B2 (ja) | 2018-12-28 | 2018-12-28 | 情報処理装置及びプログラム |
CN201911264828.7A CN111382664A (zh) | 2018-12-28 | 2019-12-11 | 信息处理装置以及计算机可读存储介质 |
US16/724,357 US11443532B2 (en) | 2018-12-28 | 2019-12-22 | Capturing neutral face expression apparatus and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018246829A JP6999540B2 (ja) | 2018-12-28 | 2018-12-28 | 情報処理装置及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020107172A JP2020107172A (ja) | 2020-07-09 |
JP6999540B2 true JP6999540B2 (ja) | 2022-01-18 |
Family
ID=71122227
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018246829A Active JP6999540B2 (ja) | 2018-12-28 | 2018-12-28 | 情報処理装置及びプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US11443532B2 (ja) |
JP (1) | JP6999540B2 (ja) |
CN (1) | CN111382664A (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7359084B2 (ja) * | 2020-06-23 | 2023-10-11 | トヨタ自動車株式会社 | 感情推定装置、感情推定方法及びプログラム |
JP2023042216A (ja) * | 2021-09-14 | 2023-03-27 | 株式会社東海理化電機製作所 | 通信装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008062852A (ja) | 2006-09-08 | 2008-03-21 | Fujitsu Ten Ltd | 車両制御装置 |
JP2008068664A (ja) | 2006-09-12 | 2008-03-27 | Fujitsu Ten Ltd | 車両制御装置および車両制御方法 |
Family Cites Families (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8369608B2 (en) * | 2009-06-22 | 2013-02-05 | Toyota Motor Engineering & Manufacturing North America, Inc. | System and method for detecting drowsy facial expressions of vehicle drivers under changing illumination conditions |
US11017250B2 (en) * | 2010-06-07 | 2021-05-25 | Affectiva, Inc. | Vehicle manipulation using convolutional image processing |
CN203415006U (zh) * | 2013-07-10 | 2014-01-29 | 山东恒宇电子有限公司 | 行车记录仪 |
JP5995931B2 (ja) * | 2014-09-12 | 2016-09-21 | アイシン精機株式会社 | 駐車支援装置、駐車支援方法及び制御プログラム |
CN105894734A (zh) * | 2015-10-19 | 2016-08-24 | 乐卡汽车智能科技(北京)有限公司 | 用于交通工具的疲劳驾驶预警方法及系统 |
JP6563798B2 (ja) * | 2015-12-17 | 2019-08-21 | 大学共同利用機関法人自然科学研究機構 | 視覚認知支援システムおよび視認対象物の検出システム |
JP6109288B2 (ja) | 2015-12-21 | 2017-04-05 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
CN107564130A (zh) * | 2016-07-02 | 2018-01-09 | 上海卓易科技股份有限公司 | 行车记录方法及行车记录仪、移动终端 |
US10318831B2 (en) * | 2016-07-21 | 2019-06-11 | Gestigon Gmbh | Method and system for monitoring the status of the driver of a vehicle |
US10759424B2 (en) * | 2016-08-16 | 2020-09-01 | Honda Motor Co., Ltd. | Vehicle data selection system for modifying automated driving functionalities and method thereof |
CN106373395A (zh) * | 2016-09-20 | 2017-02-01 | 三星电子(中国)研发中心 | 行车事故的监控方法和装置 |
US10583709B2 (en) * | 2016-11-11 | 2020-03-10 | International Business Machines Corporation | Facilitating personalized vehicle occupant comfort |
US10745009B2 (en) * | 2016-12-21 | 2020-08-18 | Samsung Electronics Co., Ltd. | Electronic apparatus for determining a dangerous situation of a vehicle and method of operating the same |
JP6513069B2 (ja) * | 2016-12-27 | 2019-05-15 | 本田技研工業株式会社 | 運転支援装置および運転支援方法 |
CN108237976A (zh) * | 2016-12-27 | 2018-07-03 | 广州市联奥信息科技有限公司 | 具备情绪表达能力的交互行车系统及方法 |
US20180215392A1 (en) * | 2017-02-02 | 2018-08-02 | Denso Ten Limited | Vehicle control device and vehicle control method |
US10558740B1 (en) * | 2017-03-13 | 2020-02-11 | Intuit Inc. | Serving different versions of a user interface in response to user emotional state |
CN106875696A (zh) * | 2017-04-13 | 2017-06-20 | 深圳市赛亿科技开发有限公司 | 自动识别交通违规违法行为的系统及其方法和行车记录仪 |
CN110753933A (zh) * | 2017-04-14 | 2020-02-04 | 脸谱公司 | 反应性简档肖像 |
EP3622434A1 (en) * | 2017-05-11 | 2020-03-18 | Kodak Alaris Inc. | Method for identifying, ordering, and presenting images according to expressions |
CN107554483A (zh) * | 2017-08-29 | 2018-01-09 | 湖北科技学院 | 一种基于人脸表情动作识别的车辆防盗系统 |
EP3480729B1 (en) * | 2017-11-07 | 2023-03-01 | Tata Consultancy Services Limited | System and method for face position tracking and alerting user |
CN107705808B (zh) * | 2017-11-20 | 2020-12-25 | 合光正锦(盘锦)机器人技术有限公司 | 一种基于面部特征与语音特征的情绪识别方法 |
JP6996253B2 (ja) * | 2017-11-24 | 2022-01-17 | トヨタ自動車株式会社 | 車両の制御装置 |
CN109710055A (zh) * | 2017-12-15 | 2019-05-03 | 蔚来汽车有限公司 | 车载智能交互系统和车载交互终端的交互控制方法 |
US10729378B2 (en) * | 2018-11-30 | 2020-08-04 | Toyota Motor North America, Inc. | Systems and methods of detecting problematic health situations |
-
2018
- 2018-12-28 JP JP2018246829A patent/JP6999540B2/ja active Active
-
2019
- 2019-12-11 CN CN201911264828.7A patent/CN111382664A/zh active Pending
- 2019-12-22 US US16/724,357 patent/US11443532B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008062852A (ja) | 2006-09-08 | 2008-03-21 | Fujitsu Ten Ltd | 車両制御装置 |
JP2008068664A (ja) | 2006-09-12 | 2008-03-27 | Fujitsu Ten Ltd | 車両制御装置および車両制御方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111382664A (zh) | 2020-07-07 |
US20200210735A1 (en) | 2020-07-02 |
US11443532B2 (en) | 2022-09-13 |
JP2020107172A (ja) | 2020-07-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2019501435A (ja) | 自律走行車の走行を決定するための周辺環境を構築する方法及びシステム | |
KR20210035296A (ko) | 이례적인 차량 이벤트를 감지 및 기록하기 위한 시스템 및 방법 | |
US11232350B2 (en) | System and method for providing road user classification training using a vehicle communications network | |
JP2020109578A (ja) | 情報処理装置及びプログラム | |
CN107886045B (zh) | 设施满意度计算装置 | |
JP2019501812A (ja) | 自律走行車のステアリング率の動的調整 | |
US20230005169A1 (en) | Lidar point selection using image segmentation | |
US11423589B1 (en) | Vehicular telematic systems and methods for generating interactive animated guided user interfaces | |
US11460309B2 (en) | Control apparatus, control method, and storage medium storing program | |
JP6999540B2 (ja) | 情報処理装置及びプログラム | |
JP7068156B2 (ja) | 情報処理装置及びプログラム | |
US11580777B2 (en) | Control apparatus and computer-readable storage medium | |
CN111611330B (zh) | 信息处理系统、程序、以及控制方法 | |
JP2020095502A (ja) | 情報処理装置及びプログラム | |
US20200193197A1 (en) | Information processing apparatus and computer-readable storage medium | |
US11564073B2 (en) | System and method for emotion detection and inter-vehicle communication | |
JP7100575B2 (ja) | 情報処理装置及びプログラム | |
JPWO2021149594A5 (ja) | ||
US11694377B2 (en) | Editing device and editing method | |
JP7375705B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
JP2024083316A (ja) | クラウドベースの車両情報を提供するための電子装置及び方法 | |
JP2016110406A (ja) | 走行支援装置 | |
JP2023084966A (ja) | 情報記録支援方法、情報記録支援装置、情報記録支援プログラム、及び、情報記録支援システム | |
CN115631550A (zh) | 一种用户反馈的方法和系统 | |
CN115534822A (zh) | 控制显示的方法、装置和移动载体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201130 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20211115 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211124 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211222 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6999540 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |