JP2022103716A - 個人認識システム - Google Patents
個人認識システム Download PDFInfo
- Publication number
- JP2022103716A JP2022103716A JP2020218515A JP2020218515A JP2022103716A JP 2022103716 A JP2022103716 A JP 2022103716A JP 2020218515 A JP2020218515 A JP 2020218515A JP 2020218515 A JP2020218515 A JP 2020218515A JP 2022103716 A JP2022103716 A JP 2022103716A
- Authority
- JP
- Japan
- Prior art keywords
- image
- driver
- unit
- display
- display unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000001815 facial effect Effects 0.000 claims abstract description 15
- 238000012806 monitoring device Methods 0.000 claims abstract description 10
- 238000003384 imaging method Methods 0.000 abstract description 7
- 238000000034 method Methods 0.000 description 28
- 230000008569 process Effects 0.000 description 27
- 238000012545 processing Methods 0.000 description 14
- 238000012544 monitoring process Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 210000003128 head Anatomy 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/10—Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
- B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
- B60K35/22—Display screens
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
- B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
- B60K35/23—Head-up displays [HUD]
- B60K35/235—Head-up displays [HUD] with means for detecting the driver's gaze direction or eye points
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
- B60K35/28—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
- B60K35/29—Instruments characterised by the way in which information is handled, e.g. showing information on plural displays or prioritising information according to driving conditions
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/80—Arrangements for controlling instruments
- B60K35/81—Arrangements for controlling instruments for controlling displays
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
- G06F21/31—User authentication
- G06F21/32—User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/166—Detection; Localisation; Normalisation using acquisition arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/50—Maintenance of biometric data or enrolment thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/60—Static or dynamic means for assisting the user to position a body part for biometric acquisition
- G06V40/67—Static or dynamic means for assisting the user to position a body part for biometric acquisition by interactive indications to the user
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/149—Instrument input by detecting viewing direction not otherwise provided for
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/1523—Matrix displays
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/16—Type of output information
- B60K2360/162—Visual feedback on control action
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/20—Optical features of instruments
- B60K2360/21—Optical features of instruments using cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/60—Structural details of dashboards or instruments
- B60K2360/62—Anti-theft arrangements
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
- B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
- B60K35/23—Head-up displays [HUD]
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
- B60W2040/0809—Driver authorisation; Driver identity check
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/043—Identity of occupants
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/225—Direction of gaze
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- General Engineering & Computer Science (AREA)
- Chemical & Material Sciences (AREA)
- Combustion & Propulsion (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Security & Cryptography (AREA)
- Automation & Control Theory (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Computer Hardware Design (AREA)
- Image Processing (AREA)
- Collating Specific Patterns (AREA)
- Instrument Panels (AREA)
- Image Analysis (AREA)
Abstract
Description
この種のドライバーモニタリングシステムでは、システムが車両を運転する個人を識別する必要があるため、個人を識別するための個人情報をシステムに登録する必要がある。
ここで、一般に個人を識別するための情報としては、顔画像が用いられ、カメラで撮影した画像から顔情報、視線情報等を抽出する技術が開示されている(例えば、特許文献1参照)。
また、ドライバーモニタリングシステムでは、個人を識別するための個人情報として、例えば、車両内にあるカメラで撮像した顔画像やその顔画像から抽出した顔の特徴量等がドライバーモニタリングシステムに登録されている。そして、ドライバーモニタリングシステムは、現在運転席に座っている運転者の顔画像から抽出した特徴量と、登録済みの特徴量とを比較することにより、現在運転席に座る個人を識別することができる。
図1から図5を用いて、本実施形態に係る個人認識システム1について説明する。
図1に示すように、本実施形態に係る個人認識システム1は、運転状態監視装置100と、第2の表示部200とを含んで構成されている。
なお、詳細な構成については、別途、詳述する。
なお、図2にはウインドシールドに投影するHUDを例示したが、ダッシュボード上に設けられたコンバイナーに投影するHUDであってもよい。
なお、本実施形態においては、HUDに限らず、運転席の正面に画像を提示する表示部を含む。
図1に示すように、運転状態監視装置100は、撮像部10と、第1の表示部20と、個人認識部30と、表示画像制御部40と、を含んで構成されている。
撮像部10は、例えば、CCD(Charge Coupled Device)、またはCIS(CMOS Image Sensor)等の撮像素子を内蔵したカメラで構成されている。
また、撮像部10は、例えば近赤外線カメラあるいはRGBカメラ等であって、照射された近赤外光に反射した反射光を受光することにより、運転者の顔を撮像する。撮像部10は、撮像した画像信号を、後述する個人認識部30及び表示画像制御部40に送出する。
なお、第1の表示部20は、車両に搭載されたナビゲーションシステムの表示部を兼ねていてもよい。
また、個人情報を登録する時には、個人認識部30は、撮像部10によって撮像された運転者の顔画像から個人を識別するための特徴量を図示しないメモリに保存する。
ここで、個人認識部30は、例えば、図示しない周知のRAM、ROMおよびI/Oバス等を備えたCPU(Central Processing Unit)の一部の機能であり、ROMに格納された制御プログラムに従って制御を実行する。
ここで、表示画像制御部40は、例えば、図示しない周知のRAM、ROMおよびI/Oバス等を備えたGPU(Graphics Processing Unit)機能の一部であり、ROMに格納された制御プログラムに従って制御を実行する。
図3および図5を用いて、本実施形態に係る個人認識システム1の処理について説明する。
また、図5には、図3に示す処理フローが実行されたときに、第1の表示部20と第2の表示部200とに表示される画面の表示例を示す。
そのため、第1の表示部20に、第1の表示部20を注視することを促す表示を行ってもよい。
また、登録開始の入力(ステップS120)を、第1の表示部20に設けられたタッチパネル、第1の表示部20の周辺にあるボタン等の操作によって実行すれば、運転者の顔の向きを第1の表示部20の方向に向けることができる。
ここで取得した顔画像(第1の顔画像)から、個人認識部30が運転者を識別するために必要な顔の特徴量を抽出するため、取得した顔画像の顔の向きが所定の範囲内にあるか否かを確認する必要がある。
具体的には、個人認識部30は、取得した運転者の顔画像(第1の顔画像)から、顔の向き(Yaw、Pitch、Roll)を抽出し、顔の向きが所定の範囲にあるか否かを判定する。
一方で、運転者の顔画像(第1の顔画像)の顔向き方向が所定の範囲にある場合(ステップS140の「YES」)には、処理をステップS150に移行する。
なお、ステップS150の処理の詳細については、後述する。
運転者の顔画像(第2の顔画像)の顔向き方向が所定の範囲内にない場合(ステップS160の「NO」)には、処理をステップS150に戻し、再度運転者の顔画像(第2の顔画像)を取得する。
一方で、運転者の顔画像(第2の顔画像)の顔向き方向が所定の範囲内にある場合(ステップS160の「YES」)には、処理をステップS170に移行する。
ここで、顔画像のデータは、例えば、運転者の名前、性別、年齢等の情報と関連付けされ、個人情報としてメモリに格納される。
そして、表示画像制御部40は第1の表示部20と第2の表示部200とに、個人情報登録処理が完了したことを表示し(ステップS180)、処理を終了する。
図4を用いて、図3のステップS150で実行される、第2の表示部200に表示する画像生成および第2の顔画像取得に関する処理について説明する。
換言すると、運転者が第2の表示部200に顔を向けた時には、正面を向いた3Dのアバター画像が第2の表示部200に表示されるように、表示画像制御部40は、アバター画像を回転させる処理を実行する。
また、第2の顔画像が正しく取得できるまで、第2の表示部200には、3Dのアバター画像が表示され続ける。つまり、第2の表示部200には、運転者の顔の向きに合わせた3Dのアバター画像が継続的に表示される。
以上、説明したように、本実施形態に係る個人認識システム1は、撮像部10と、個人認識部30と、表示画像制御部40と、運転席の前方で車幅方向の中央部に設けられた第1の表示部20と、運転席の正面に設けられた第2の表示部200と、を備えている。撮像部10は第1の表示部20の外縁に設けられ、運転者の顔画像を撮像する。表示画像制御部40は第1の表示部20と第2の表示部200とに表示させる表示画面を制御する。個人認識部30は、運転者が第1の表示部20を視認した時に撮像部10により撮像した第1の顔画像と、運転者が第2の表示部200を視認した時に撮像部10により撮像した第2の顔画像と、を少なくとも用いて運転者の個人登録と個人認識とを行う。そして、個人認識部30が個人登録を行う時には、表示画像制御部40は第2の顔画像から抽出した顔向きデータに基づいてアバターの顔向きを制御した画像を第2の表示部200に表示する。
これにより、第1の顔画像と第2の顔画像とから精度よく運転者の顔の特徴量を抽出することができ、個人認識精度を高めることができる。
さらに、第2の顔画像は運転者の運転中を模擬した登録画像としても使用することができる。
つまり、第2の顔画像を取得する時には、第2の表示部200に運転者の顔の向きに合わせて動くアバター画像が画表示されるため、運転者は第2の表示部200をより注視するようになり、運転者の顔向きと視線を一意に定めることができる。
そのため、第2の顔画像から精度よく運転者の顔の特徴量が抽出でき、個人認識精度を高めることができる。
また、第2の表示部に表示すアバター画像は、予めメモリに格納されたアバター画像を回転させる処理のみで画像生成できるため、個人認識システム1の処理の負荷を上げずに実現することができる。
そのため、表示画像制御部40は高性能なGPU、大容量のメモリ等を必要としないことから、個人認識システム1を安価に構成することができる。
つまり、第1の表示部20を運転者が視認した時に取得する第1の顔画像の取得が完了するまでは、表示画像制御部40は、第2の表示部200に何も表示をしないため、運転者が見るべき表示部が明確になり、運転者の顔向きと視線を一意に定めることができる。
そのため、第1の顔画像と第2の顔画像とから精度よく運転者の顔の特徴量が抽出でき、個人認識精度を高めることができる。
さらに、個人登録を行う際には、表示画像制御部40が第2の表示部200に画像を表示するため、運転者の顔向きと視線を誘導することができる。これにより、運転者の顔画像の登録処理を無駄なく、短時間で処理することができる。
つまり、ヘッドアップディスプレイの特性上、画像を視認できる目の位置が液晶画面と比較して、非常に狭いため、ヘッドアップディスプレイを使用した場合には、運転者の顔向きと視線とをさらに制限するができる。
そのため、第2の顔画像から精度よく運転者の顔の特徴量が抽出でき、個人認識精度を高めることができる。
つまり、車両が運転者を監視する運転状態監視装置100を備えている場合には、撮像部10と、個人認識部30と、表示画像制御部40と、第1の表示部20と、を共用し、個人認識システムを構成することができる。
そのため、第2の表示部200のみを追加することで、個人認識システム1が構成できるため、コストダウンを図ることができる。
図6および図7を用いて、本実施形態に係る個人認識システム1Aについて説明する。
本実施例は、上で説明した個人認識システム1に対して、第2の表示部200に表示する画像の生成処理が変更された例である。
図6に示すように、個人認識システム1Aの処理は、図3に示した個人認識システム1の処理フローのステップS150がステップS300に変更されている。
そのため、ステップS300についてのみ、以下に説明する。
図7を用いて、個人認識システム1Aの第2の表示部200に表示する画像生成および第2の顔画像取得に関する処理について説明する。
表示画像制御部40は、転送された顔の向きの情報に基づいて、第2の顔画像を3D画像に変換する(ステップS303)。
ステップS301において取得された運転者の顔画像(第2の顔画像)は、斜め方向から撮像された画像である。したがって、表示画像制御部40は、第2の顔画像を透視投影変換により視点変換し、運転者の正面の顔画像を生成している。
そして、第2の顔画像が正しく取得できるまで、第2の表示部200には、運転者の正面の顔画像が表示され続ける。
本実施形態に係る個人認識システム1Aは、個人登録を行う時には、第2の顔画像から抽出した顔向きデータに基づいて第2の顔画像を変換した画像を第2の表示部200に表示する。
つまり、第2の顔画像を取得する時には、第2の顔画像を透視投影変換により視点変換した運転者の正面の顔画像が第2の表示部200に表示されるため、運転者は第2の表示部200をより注視するようになり、運転者の顔向きと視線を一意に定めることができる。
そのため、第2の顔画像から精度よく運転者の顔の特徴量が抽出でき、個人認識精度を高めることができる。
<変形例>
つまり、第2の顔画像を取得する時に、第2の表示部200に個人登録のプロセスの進捗度合いを示す数値、プログレスバー等を表示することによって、運転者は、あとどれだけの時間、第2の表示部200を見ている必要があるのかを把握できるため、運転者の顔向きと視線とを一定期間、一意に定めることができる。
そのため、第2の顔画像から精度よく運転者の顔の特徴量が抽出でき、個人認識精度を高めることができる。
また、図8に示すように、個人登録のプロセスの進捗度合いを示す数値、プログレスバー等は、上記したアバター画像等の表示と同時に表示してもよい。
1A;個人認識システム
10;撮像部
20;第1の表示部
30;個人識別部
40;表示画像制御部
100;運転状態監視装置
200;第2の表示部
Claims (7)
- 運転席の前方で車幅方向の中央部に設けられた第1の表示部と、
前記運転席の正面に設けられた第2の表示部と、
前記第1の表示部の外縁に設けられた撮像部と、
前記第1の表示部と、前記第2の表示部と、に表示させる表示画像を制御する表示画像制御部と、
前記運転席の運転者が前記第1の表示部を視認した時に前記撮像部により撮像された前記運転者の顔画像である第1の顔画像と、前記運転者が前記第2の表示部を視認した時に前記撮像部により撮像された前記運転者の顔画像である第2の顔画像と、を少なくとも用いて前記運転者の個人登録と個人認識とを行う個人認識部と、
を備えたことを特徴とする個人認識システム。 - 撮像部と、個人認識部と、前記第1の表示部と、が前記運転者の監視を行う運転状態監視装置に備えられていることを特徴とする請求項1に記載の個人認識システム。
- 前記運転者が前記個人登録を行う時に、前記個人認識部が前記第1の顔画像を取得した後に、前記表示画像制御部が前記第2の表示部に画像を表示し、前記個人認識部が前記第2の顔画像を取得することを特徴とする請求項2に記載の個人認識システム。
- 前記表示画像制御部は前記第2の顔画像から抽出した顔向きデータに基づいて前記運転者に関連付けらえたアバターの顔向きを制御した画像を前記第2の表示部に表示することを特徴とする請求項3に記載の個人認識システム。
- 前記表示画像制御部は前記第2の顔画像から抽出した顔向きデータに基づいて前記第2の顔画像を変換した画像を前記第2の表示部に表示することを特徴とする請求項3に記載の個人認識システム。
- 前記表示画像制御部は前記個人登録の進捗状況を示す画像を前記第2の表示部に表示することを特徴とする請求項3から5のいずれか1項に記載の個人認識システム。
- 前記第2の表示部がヘッドアップディスプレイで構成されていることを特徴とする請求項1から6のいずれか1項に記載の個人認識システム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020218515A JP7553351B2 (ja) | 2020-12-28 | 2020-12-28 | 個人認識システム |
CN202111312869.6A CN114694207A (zh) | 2020-12-28 | 2021-11-08 | 个人识别系统 |
US17/538,136 US11830260B2 (en) | 2020-12-28 | 2021-11-30 | Personal identification system |
DE102021132653.2A DE102021132653A1 (de) | 2020-12-28 | 2021-12-10 | Personenidentifizierungssystem |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020218515A JP7553351B2 (ja) | 2020-12-28 | 2020-12-28 | 個人認識システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022103716A true JP2022103716A (ja) | 2022-07-08 |
JP7553351B2 JP7553351B2 (ja) | 2024-09-18 |
Family
ID=81972519
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020218515A Active JP7553351B2 (ja) | 2020-12-28 | 2020-12-28 | 個人認識システム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11830260B2 (ja) |
JP (1) | JP7553351B2 (ja) |
CN (1) | CN114694207A (ja) |
DE (1) | DE102021132653A1 (ja) |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015045713A1 (ja) | 2013-09-24 | 2015-04-02 | シャープ株式会社 | 画像処理装置及び画像表示装置 |
US11072311B2 (en) * | 2017-09-05 | 2021-07-27 | Future Mobility Corporation Limited | Methods and systems for user recognition and expression for an automobile |
JP6962752B2 (ja) | 2017-09-12 | 2021-11-05 | 株式会社ダイセル | 電気回路遮断装置 |
US11100349B2 (en) * | 2018-09-28 | 2021-08-24 | Apple Inc. | Audio assisted enrollment |
-
2020
- 2020-12-28 JP JP2020218515A patent/JP7553351B2/ja active Active
-
2021
- 2021-11-08 CN CN202111312869.6A patent/CN114694207A/zh active Pending
- 2021-11-30 US US17/538,136 patent/US11830260B2/en active Active
- 2021-12-10 DE DE102021132653.2A patent/DE102021132653A1/de active Pending
Also Published As
Publication number | Publication date |
---|---|
US11830260B2 (en) | 2023-11-28 |
CN114694207A (zh) | 2022-07-01 |
JP7553351B2 (ja) | 2024-09-18 |
DE102021132653A1 (de) | 2022-06-30 |
US20220207888A1 (en) | 2022-06-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5295714B2 (ja) | 表示装置、画像処理方法、及びコンピュータプログラム | |
EP2112547A2 (en) | Image processing apparatus, image processing method, program, and recording medium | |
EP3337164B1 (en) | Head-mounted display | |
US10726814B2 (en) | Image display apparatus, image processing apparatus, image display method, image processing method, and storage medium | |
JP5228074B2 (ja) | 情報処理装置、表示制御方法 | |
US20170085780A1 (en) | Image processing apparatus, imaging apparatus, image processing method, and storage medium | |
JP2015152939A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP2011206435A (ja) | 撮像装置、撮像方法、撮像プログラム、及び内視鏡 | |
JP7109193B2 (ja) | 操作判定装置及び操作判定方法 | |
JP2010206673A (ja) | ヘッドマウントディスプレイ装置、画像制御方法および画像制御プログラム | |
JP2014023127A (ja) | 情報表示装置、情報表示方法、制御プログラム、および記録媒体 | |
JP2012208705A (ja) | 画像操作装置、画像操作方法およびプログラム | |
JP6697751B2 (ja) | 車両用表示システム、電子ミラーシステム及び移動体 | |
JP6440910B2 (ja) | 表示装置、表示制御装置および表示制御方法 | |
JP6971590B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
WO2018042976A1 (ja) | 画像生成装置、画像生成方法、記録媒体、および画像表示システム | |
US20180150999A1 (en) | Image display apparatus, image display method, and system | |
JP2022103716A (ja) | 個人認識システム | |
CN108885802B (zh) | 信息处理装置、信息处理方法和存储介质 | |
JP2010056726A (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
US20210400234A1 (en) | Information processing apparatus, information processing method, and program | |
JP6004354B2 (ja) | 画像データ処理装置及び画像データ処理方法 | |
US11327606B2 (en) | Image processing device, imaging device, method of controlling image processing device, and recording medium, with outputting image if accepting first action and with outputting distribution information of evaluation values corresponding to image if accepting second action | |
JP7094759B2 (ja) | システム、情報処理方法及びプログラム | |
CN114740966A (zh) | 多模态图像显示控制方法、系统及计算机设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231104 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240717 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240806 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240905 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7553351 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |