JP6820133B2 - 車内監視情報生成制御装置及び車内監視情報生成制御方法 - Google Patents
車内監視情報生成制御装置及び車内監視情報生成制御方法 Download PDFInfo
- Publication number
- JP6820133B2 JP6820133B2 JP2020546632A JP2020546632A JP6820133B2 JP 6820133 B2 JP6820133 B2 JP 6820133B2 JP 2020546632 A JP2020546632 A JP 2020546632A JP 2020546632 A JP2020546632 A JP 2020546632A JP 6820133 B2 JP6820133 B2 JP 6820133B2
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- monitoring information
- unit
- image
- vehicle monitoring
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012544 monitoring process Methods 0.000 title claims description 344
- 238000000034 method Methods 0.000 title claims description 82
- 230000005856 abnormality Effects 0.000 claims description 134
- 238000004891 communication Methods 0.000 claims description 61
- 230000005540 biological transmission Effects 0.000 claims description 59
- 238000012545 processing Methods 0.000 claims description 44
- 238000012546 transfer Methods 0.000 claims description 7
- 238000000605 extraction Methods 0.000 claims description 6
- 230000009466 transformation Effects 0.000 claims description 3
- 238000010191 image analysis Methods 0.000 description 22
- 238000010586 diagram Methods 0.000 description 16
- 238000001514 detection method Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 10
- 238000005516 engineering process Methods 0.000 description 4
- 230000002159 abnormal effect Effects 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000036772 blood pressure Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000012806 monitoring device Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 238000000576 coating method Methods 0.000 description 1
- 230000005281 excited state Effects 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19639—Details of the system layout
- G08B13/19647—Systems specially adapted for intrusion detection in or around a vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R16/00—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
- B60R16/02—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
- B60R16/037—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements for occupant comfort, e.g. for automatic adjustment of appliances according to personal settings, e.g. seats, mirrors, steering wheel
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/221—Physiology, e.g. weight, heartbeat, health or special needs
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/223—Posture, e.g. hand, foot, or seat position, turned or inclined
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/26—Incapacity
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2556/00—Input parameters relating to data
- B60W2556/45—External transmission of data to or from the vehicle
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19678—User interface
- G08B13/19686—Interfaces masking personal details for privacy, e.g. blurring faces, vehicle license plates
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Business, Economics & Management (AREA)
- Emergency Management (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Mathematical Physics (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Automation & Control Theory (AREA)
- Alarm Systems (AREA)
- Traffic Control Systems (AREA)
- Emergency Alarm Devices (AREA)
Description
図1は、実施の形態1に係る車内監視情報生成制御装置100が搭載された無人運転車両1の要部の一例を示すブロック図である。
無人運転車両1は、例えば、自動運転技術のレベル5に分類される技術が適用された車両であって、車両内に全く乗員がいない状態であっても自律的に走行が可能な車両を意味する。
無人運転車両1は、車内監視情報生成制御装置100、撮像装置11、センサ12、及び通信機器13を備える。
通信機器13は、車内監視情報生成制御装置100が出力する画像情報等の車内監視情報を、無人運転車両1の外部に送信するための通信機能を有する。通信機器13は、より具体的には、車内監視情報を、例えば、無人運転車両1の外部に設けられた外部装置又は外部システムに送信するための通信機能を有する。外部装置とは、例えば、遠隔監視装置であり、外部システムとは、例えば、遠隔監視システムである。通信機器13は、例えば、LTE(Long Term Evolution)等の無線公衆回線を用いて、車内監視情報を、無人運転車両1の外部に送信する。
車内監視情報生成制御装置100は、画像取得部101、異常判定部102、車内監視情報生成部103、及び送信制御部104を備える。
画像取得部101は、無人運転車両1の中が写った画像を、撮像装置11から取得する。
例えば、異常判定部102は、センサ12から検知情報を取得し、取得した検知情報に基づいて無人運転車両1において異常が発生しているか否かを判定する。
より具体的には、例えば、異常判定部102は、赤外線センサ又は超音波センサ等の検知センサから取得した検知情報に基づいて、周知のパターンマッチング法により無人運転車両1の乗員の姿勢又は動作等が予め定められた異常状態であるか否かを判定することで、無人運転車両1において異常が発生しているか否かを判定する。
また、例えば、異常判定部102は、生体センサから取得した検知情報に基づいて、例えば、心拍又は血圧等を示す値が予め定められた値より大きいか否かにより無人運転車両1の乗員における体調が良好であるか否か、又は乗員が興奮状態であるか否か等を判定することで、無人運転車両1において異常が発生しているか否かを判定する。
例えば、検知する方法が異なる複数種類のセンサ12から取得した複数種類の検知情報に基づいて、無人運転車両1において異常が発生しているか否かを判定しても良い。
また、例えば、車内監視情報生成制御装置100を無人運転車両1内のCAN(Controller Area Network)等の車載ネットワークに接続し、異常判定部102は、当該車載ネットワークから取得した種々の信号を適宜使用して、無人運転車両1において異常が発生しているか否かを判定しても良い。
また、例えば、異常判定部102は、上述の無人運転車両1において異常が発生しているか否かを判定する方法を適宜組み合わせて、無人運転車両1において異常が発生しているか否かを判定しても良い。
より具体的には、送信制御部104は、車内監視情報を送信する送信制御を行い、通信機器13を介して無人運転車両1の外部に送信するものである。
送信制御部104は、無人運転車両1において異常が発生していないと判定されている場合、車内監視情報を無人運転車両1の外部に送信する。また、送信制御部104は、無人運転車両1において異常が発生していると判定されている場合、画像取得部101が取得した画像に基づく異常時監視画像を無人運転車両1の外部に送信する。
異常時監視画像は、画像取得部101が取得した画像に限定されるものではなく、例えば、当該画像を加工して生成した画像であっても良い。
より具体的には、例えば、異常時監視画像は、画像取得部101が取得した画像に対して、当該画像の画像サイズを変更するリサイズ処理、当該画像における異常が発生していると推定される位置を切り出すクロッピング処理、又は当該画像において異常が発生していると推定される位置を指し示す情報を付加する重畳処理等を施すことにより生成した画像である。なお、車内監視情報は、乗員を特定し得ない情報であるのに対して、異常時監視画像は、乗員を特定し得る画像であることが望ましい。
図2A及び図2Bは、実施の形態1に係る車内監視情報生成制御装置100の要部のハードウェア構成の一例を示す図である。
車内監視情報生成部103は、例えば、画像解析部131及び画像加工部132を備える。
画像解析部131は、例えば、周知の方法により、画像取得部101が取得した画像に写った乗員の顔の領域を検出する。
画像加工部132は、例えば、周知の方法により、画像取得部101が取得した画像における画像解析部131が検出した乗員の顔の領域に対して、画像変形処理、又は、輪郭抽出処理等を施す。画像変形処理とは、画像における乗員の顔の領域に対して、例えば、モザイク処理、又はぼかし処理等を施して、画像を変形する処理である。また、輪郭抽出処理とは、画像における乗員の顔の領域に対して、例えば、黒塗り処理、又はマスク処理等を施して、乗員の顔の輪郭のみを抽出する処理である。画像加工部132は、画像取得部101が取得した画像に上述の画像変形処理を施した変形画像情報、又は、画像取得部101が取得した画像に上述の輪郭抽出処理を施した輪郭画像情報等を、車内監視情報として出力する。
図4は、実施の形態1に係る車内監視情報生成制御装置100における車内監視情報生成部103の要部の一例を示すブロック図である。
車内監視情報生成部103は、例えば、画像解析部133及び人物識別情報生成部134を備える。
画像解析部133は、例えば、画像取得部101が取得した画像に基づいて、周知の方法により、当該画像に写った乗員の識別を行う。より具体的には、例えば、画像解析部133は、当該画像に写った乗員の性別、年齢、又は体格等を識別する。
人物識別情報生成部134は、例えば、画像解析部133が識別した乗員の識別結果に基づいて、予め決められたフォーマットに従い人物識別情報を生成し、車内監視情報として出力する。
図5は、実施の形態1に係る車内監視情報生成制御装置100の処理の一例を説明するフローチャートである。
次に、ステップST502にて、車内監視情報生成部103は、上述のとおり、画像取得部101が取得した画像に基づいて、当該画像に写った乗員を特定し得ない車内監視情報を生成する。
次に、ステップST503にて、異常判定部102は、上述のとおり、無人運転車両1において異常が発生しているか否かを判定する。
ステップST503において、異常判定部102が無人運転車両1において異常が発生していると判定した場合、ステップST505にて、送信制御部104は、上述のとおり、画像取得部101が取得した画像に基づく異常時監視画像を無人運転車両1の外部に送信する。車内監視情報生成制御装置100は、ステップST505の処理を実行した後、当該フローチャートの処理を終了し、ステップST501の処理に戻って、当該フローチャートの処理を繰り返し実行する。
また、送信制御部104は、異常判定部102が判定した判定結果に基づいて、無人運転車両1において発生している異常が乗員の体調不良によるものである場合、異常時監視画像に替えて車内監視情報を無人運転車両1の外部に送信するようにしても良い。
このように構成することで、車内監視情報生成制御装置100は、無人運転車両1において発生している異常が乗員の体調不良によるものである場合、乗員のプライバシーに配慮した車内監視を行うことができる。
図6を参照して実施の形態1の変形例について説明する。
図6は、実施の形態1の変形例に係る車内監視情報生成制御装置100aが搭載された無人運転車両1の要部の一例を示すブロック図である。
実施の形態1の変形例に係る車内監視情報生成制御装置100aの構成において、車内監視情報生成制御装置100と同様の構成については、同じ符号を付して重複した説明を省略する。すなわち、図1に記載した符号と同じ符号を付した図6の構成については、説明を省略する。
無人運転車両1は、車内監視情報生成制御装置100a、撮像装置11、センサ12、及び通信機器13を備える。
車内監視情報生成制御装置100aは、撮像装置11から取得した画像に基づいて車内監視情報を生成し、センサ12から取得した検知情報に基づいて判定される無人運転車両1の状態に応じて、車内監視情報を、無人運転車両1の外部に通信機器13を介して送信する。
車内監視情報生成部103aは、異常判定部102が判定した判定結果に基づいて、無人運転車両1において異常が発生していないと判定されている場合、画像取得部101が取得した画像に基づいて、当該画像に写った乗員を特定し得ない車内監視情報を生成する。
車内監視情報生成部103aが、画像取得部101から取得した画像に基づいて車内監視情報を生成する処理は、車内監視情報生成制御装置100における車内監視情報生成部103と同様であるため、説明を省略する。
図7は、実施の形態1の変形例に係る車内監視情報生成制御装置100aの処理の一例を説明するフローチャートである。
次に、ステップST702にて、異常判定部102は、上述のとおり、無人運転車両1において異常が発生しているか否かを判定する。
ステップST702において、異常判定部102が無人運転車両1において異常が発生していると判定した場合、車内監視情報生成制御装置100aは、後述するステップST704の処理を実行する。
送信制御部104aにおける車内監視情報を送信するか否かの判定は、例えば、車内監視情報生成部103aが生成した車内監視情報があるか否かに基づいて行われる。送信制御部104aは、車内監視情報生成部103aが生成した車内監視情報がある場合は、車内監視情報を送信すると判定し、車内監視情報生成部103aが生成した車内監視情報がない場合は、車内監視情報を送信しないと判定する。
また、送信制御部104aにおける車内監視情報を送信するか否かの判定は、例えば、異常判定部102が判定した無人運転車両1において異常が発生しているか否かに基づいて行われても良い。すなわち、送信制御部104aは、無人運転車両1において異常が発生していないと判定されている場合は、車内監視情報を送信すると判定し、無人運転車両1において異常が発生していると判定されている場合は、車内監視情報を送信しないと判定しても良い。
ステップST704において、送信制御部104aが車内監視情報を送信しないと判定した場合、ステップST706にて、送信制御部104aは、上述のとおり、例えば、画像取得部101が取得した画像に基づく異常時監視画像を無人運転車両1の外部に送信する。車内監視情報生成制御装置100aは、ステップST706の処理を実行した後、当該フローチャートの処理を終了し、ステップST701の処理に戻って、当該フローチャートの処理を繰り返し実行する。
図8を参照して実施の形態2について説明する。
図8は、実施の形態2に係る車内監視情報生成制御装置100bが搭載された無人運転車両1の要部の一例を示すブロック図である。
実施の形態2に係る車内監視情報生成制御装置100bの構成において、実施の形態1に係る車内監視情報生成制御装置100と同様の構成については、同じ符号を付して重複した説明を省略する。すなわち、図1に記載した符号と同じ符号を付した図8の構成については、説明を省略する。
無人運転車両1は、車内監視情報生成制御装置100b、撮像装置11、センサ12、及び通信機器13aを備える。
車内監視情報生成制御装置100bは、撮像装置11から取得した画像に基づいて車内監視情報を生成し、センサ12から取得した検知情報に基づいて判定される無人運転車両1の状態に応じて、車内監視情報を、無人運転車両1の外部に通信機器13を介して送信する。
車内監視情報生成制御装置100bは、画像取得部101、異常判定部102、車内監視情報生成部103b、送信制御部104、スループット値推定部105、及び態様決定部106を備える。
より具体的には、例えば、スループット値推定部105は、送信制御部104が車内監視情報を無人運転車両1の外部に送信する際に用いる通信機器13aの電波状況又は通信状況に基づいて、スループット値を推定する。
更に、例えば、スループット値推定部105は、無人運転車両1が走行している地点、日時、又は気象条件等と、過去に無人運転車両1が当該地点を走行したときの日時、気象条件、スループット値、又は電波強度を示す情報とを、深層学習等の人工知能技術により予測して、スループット値を推定しても良い。また、例えば、スループット値推定部105は、無人運転車両1が走行している地点における周囲に存在する通信端末の状況を示す情報、又はスループット値推定部105がスループット値を推定する前までの期間におけるスループット値の変動を示す情報と、過去に無人運転車両1が走行したときの周囲に存在する通信端末の状況を示す情報、又はスループット値の変動を示す情報とを、深層学習等の人工知能技術により予測して、スループット値を推定しても良い。
車内監視情報生成部103bは、態様決定部106が決定した態様に基づいて、車内監視情報を生成する。
態様決定部106及び車内監視情報生成部103bの詳細については後述する。
実施の形態2に係る車内監視情報生成制御装置100bにおける車内監視情報生成部103bの構成において、実施の形態1に係る車内監視情報生成制御装置100におけるにおける車内監視情報生成部103と同様の構成については、同じ符号を付して重複した説明を省略する。すなわち、図3又は図4に記載した符号と同じ符号を付した図9の構成については、説明を省略する。
車内監視情報生成部103bは、画像解析部131、画像加工部132、画像解析部133、及び人物識別情報生成部134を備えることにより、例えば、画像取得部101が取得した画像に上述の画像変形処理を施した変形画像情報、画像取得部101が取得した画像に上述の輪郭抽出処理を施した輪郭画像情報、及び、画像取得部101が取得した画像に基づいて識別された当該画像に写った乗員の人物識別情報を、選択的に生成することができる。車内監視情報生成部103bは、態様決定部106により決定された態様に基づいて、生成した変形画像情報、輪郭画像情報、又は人物識別情報のいずれかを車内監視情報として出力する。
態様決定部106は、例えば、スループット値推定部105により推定されたスループット値、予め設定された第1閾値、第1閾値より小さい値に予め設定された第2閾値、及び態様決定テーブルに基づいて、車内監視情報の態様を決定する。態様決定部106は、例えば、スループット値が第1閾値以上である場合、スループットが「高」であると判定し、スループット値が第2閾値以上且つ第1閾値より小さい場合、スループットが「中」であると判定し、スループット値が第2閾値より小さい場合、スループットが「低」であると判定する。態様決定部106は、例えば、判定したスループットの「高」、「中」、又は「低」と、態様決定テーブルにおけるスループットに示される「高」、「中」、及び「低」とを比較して、車内監視情報の態様を、判定されたスループットの「高」、「中」、又は「低」に対応する態様に決定する。
具体的には、例えば、車内監視情報生成制御部135は、態様決定部106により決定された態様が変形画像情報である場合、画像解析部131及び画像加工部132が処理を実行するように制御する。より具体的は、例えば、車内監視情報生成制御部135は、画像加工部132に画像取得部101が取得した画像における画像解析部131が検出した乗員の顔の領域に対してモザイク処理或いはぼかし処理等の画像変形処理を実行させるように制御する。
また、例えば、車内監視情報生成制御部135は、態様決定部106により決定された態様が人物識別情報である場合、画像解析部133及び人物識別情報生成部134が処理を実行するように制御する。
図11は、実施の形態2に係る車内監視情報生成制御装置100bの処理の一例を説明するフローチャートである。
次に、ステップST1102にて、スループット値推定部105は、上述のとおり、送信制御部104が車内監視情報を無人運転車両1の外部に送信する際の単位時間あたりのデータ転送量を示すスループット値を推定する。
次に、ステップST1103にて、態様決定部106は、上述のとおり、スループット値推定部105が推定したスループット値に基づいて、車内監視情報生成部103bが生成する車内監視情報の態様を決定する。
次に、ステップST1104にて、車内監視情報生成部103bは、上述のとおり、車内監視情報生成部103bは、態様決定部106が決定した態様に基づいて、車内監視情報を生成する。
次に、ステップST1105にて、異常判定部102は、上述のとおり、無人運転車両1において異常が発生しているか否かを判定する。
ステップST1105において、異常判定部102が無人運転車両1において異常が発生していると判定した場合、ステップST1107にて、送信制御部104は、上述のとおり、画像取得部101が取得した画像に基づく異常時監視画像を無人運転車両1の外部に送信する。車内監視情報生成制御装置100bは、ステップST1107の処理を実行した後、当該フローチャートの処理を終了し、ステップST1101の処理に戻って、当該フローチャートの処理を繰り返し実行する。
図12を参照して実施の形態3について説明する。
図12は、実施の形態3に係る車内監視情報生成制御装置100cが搭載された無人運転車両1の要部の一例を示すブロック図である。
実施の形態3に係る車内監視情報生成制御装置100cの構成において、実施の形態2に係る車内監視情報生成制御装置100bと同様の構成については、同じ符号を付して重複した説明を省略する。すなわち、図8に記載した符号と同じ符号を付した図8の構成については、説明を省略する。
無人運転車両1は、車内監視情報生成制御装置100c、撮像装置11、センサ12、及び通信機器13bを備える。
車内監視情報生成制御装置100cは、撮像装置11から取得した画像に基づいて車内監視情報を生成し、センサ12から取得した検知情報に基づいて判定される無人運転車両1の状態に応じて、車内監視情報を、無人運転車両1の外部に通信機器13を介して送信する。
車内監視情報生成制御装置100cは、画像取得部101、異常判定部102、車内監視情報生成部103b、送信制御部104、スループット値推定部105a、態様決定部106、位置情報取得部107、及び他車両情報取得部108を備える。
より具体的には、例えば、他車両情報取得部108は、位置情報取得部107が取得した無人運転車両1が走行する位置を示す位置情報を、通信機器13bを介して、無人運転車両1の外部に設けられた遠隔監視装置又は遠隔監視システム等の外部装置又は外部システムに送信し、他車両情報取得部108は、通信機器13bを介して、当該外部装置又は外部システムから無人運転車両1が走行する位置から所定範囲内にある位置を走行している他車両に搭載された通信機器の電波状況又は通信状況を示す他車両情報を取得する。
より具体的には、例えば、スループット値推定部105aは、無人運転車両1における電波状況又は通信状況と、他車両における電波状況又は通信状況とを比較して、より悪い電波状況又は通信状況に基づいて、スループット値を推定する。
スループット値推定部105aが無人運転車両1における電波状況又は通信状況と、他車両における電波状況又は通信状況とに基づいて、スループット値を推定する方法は、上述の方法に限定されるものではない。例えば、無人運転車両1における電波状況又は通信状況と、他車両における電波状況又は通信状況とを、例えば、無人運転車両1と他車両との距離に基づいて、加重平均して求めた電波状況又は通信状況に基づいて、スループット値を推定しても良い。
図13は、実施の形態3に係る車内監視情報生成制御装置100cの処理の一例を説明するフローチャートである。
次に、ステップST1302にて、位置情報取得部107は、上述のとおり、無人運転車両1が走行する地点の位置情報を取得する。
次に、ステップST1303にて、他車両情報取得部108は、上述のとおり、無人運転車両1が走行する位置における所定範囲内の位置を走行している他車両に搭載された通信機器の電波状況又は通信状況を示す他車両情報を取得する。
次に、ステップST1305にて、態様決定部106は、上述のとおり、スループット値推定部105aが推定したスループット値に基づいて、車内監視情報生成部103bが生成する車内監視情報の態様を決定する。
次に、ステップST1306にて、車内監視情報生成部103bは、上述のとおり、車内監視情報生成部103bは、態様決定部106が決定した態様に基づいて、車内監視情報を生成する。
次に、ステップST1307にて、異常判定部102は、上述のとおり、無人運転車両1において異常が発生しているか否かを判定する。
ステップST1307において、異常判定部102が無人運転車両1において異常が発生していると判定した場合、ステップST1309にて、送信制御部104は、上述のとおり、画像取得部101が取得した画像に基づく異常時監視画像を無人運転車両1の外部に送信する。車内監視情報生成制御装置100cは、ステップST1309の処理の後、当該フローチャートの処理を終了し、ステップST1301の処理に戻って、当該フローチャートの処理を繰り返し実行する。
Claims (7)
- 無人運転車両の中を撮影した画像を取得する画像取得部と、
前記無人運転車両において異常が発生しているか否かを判定する異常判定部と、
前記画像取得部が取得した前記画像に基づいて、当該画像に写った前記無人運転車両の中にいる乗員を特定し得ない車内監視情報を生成する車内監視情報生成部と、
前記異常判定部が判定した判定結果に基づいて、前記無人運転車両において異常が発生していないと判定されている場合、前記車内監視情報生成部が生成した前記車内監視情報を前記無人運転車両の外部に送信する送信制御部と、
前記送信制御部が前記車内監視情報を前記無人運転車両の外部に送信する際の単位時間あたりのデータ転送量を示すスループット値を推定するスループット値推定部と、
前記スループット値推定部が推定した前記スループット値に基づいて、前記車内監視情報生成部が生成する前記車内監視情報の態様を決定する態様決定部と、
を備え、
前記態様決定部が前記スループット値に基づいて決定する前記車内監視情報の前記態様は、前記画像における前記画像に写った前記乗員の領域を変形した変形画像情報、当該領域の輪郭を抽出した輪郭画像情報、又は前記画像に写った前記乗員を識別した人物識別情報のいずれかであり、
前記車内監視情報生成部は、前記態様決定部が決定した前記態様に基づいて、前記車内監視情報を生成すること
を特徴とする車内監視情報生成制御装置。 - 前記送信制御部は、前記無人運転車両において異常が発生していると判定されている場合、前記画像に基づく異常時監視画像を前記無人運転車両の外部に送信すること
を特徴とする請求項1記載の車内監視情報生成制御装置。 - 前記スループット値推定部は、前記送信制御部が前記車内監視情報を前記無人運転車両の外部に送信する際に用いる通信機器の電波状況又は通信状況に基づいて、前記スループット値を推定すること
を特徴とする請求項1記載の車内監視情報生成制御装置。 - 前記無人運転車両が走行している位置から所定範囲内にある位置を走行している他車両に搭載された前記通信機器の電波状況又は通信状況を示す他車両情報を取得する他車両情報取得部を備え、
前記スループット値推定部は、前記無人運転車両における電波状況又は通信状況と、前記他車両情報取得部が取得した前記他車両情報に含まれる前記他車両における電波状況又は通信状況と、に基づいて、前記スループット値を推定すること
を特徴とする請求項3記載の車内監視情報生成制御装置。 - 前記車内監視情報生成部は、前記画像における前記画像に写った前記乗員の前記領域を画像変形処理することにより、当該画像に写った前記乗員を特定し得ない前記車内監視情報を生成すること
を特徴とする請求項1記載の車内監視情報生成制御装置。 - 前記車内監視情報生成部は、前記画像における前記画像に写った前記乗員の前記領域を輪郭抽出処理することにより、当該画像に写った前記乗員を特定し得ない前記車内監視情報を生成すること
を特徴とする請求項1記載の車内監視情報生成制御装置。 - 画像取得部が、無人運転車両の中を撮影した画像を取得し、
異常判定部が、前記無人運転車両において異常が発生しているか否かを判定し、
車内監視情報生成部が、前記画像取得部により取得された前記画像に基づいて、当該画像に写った前記無人運転車両の中にいる乗員を特定し得ない車内監視情報を生成し、
送信制御部が、前記異常判定部により判定された判定結果に基づいて、前記無人運転車両において異常が発生していないと判定されている場合、前記車内監視情報生成部により生成された前記車内監視情報を前記無人運転車両の外部に送信し、
スループット値推定部が、前記送信制御部が前記車内監視情報を前記無人運転車両の外部に送信する際の単位時間あたりのデータ転送量を示すスループット値を推定し、
態様決定部が、前記スループット値推定部が推定した前記スループット値に基づいて、前記車内監視情報生成部が生成する前記車内監視情報の態様を決定すること
を特徴とする車内監視情報生成制御方法であって、
前記態様決定部が前記スループット値に基づいて決定する前記車内監視情報の前記態様は、前記画像における前記画像に写った前記乗員の領域を変形した変形画像情報、当該領域の輪郭を抽出した輪郭画像情報、又は前記画像に写った前記乗員を識別した人物識別情報のいずれかであり、
前記車内監視情報生成部は、前記態様決定部が決定した前記態様に基づいて、前記車内監視情報を生成すること
を特徴とする車内監視情報生成制御方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2018/034017 WO2020054030A1 (ja) | 2018-09-13 | 2018-09-13 | 車内監視情報生成制御装置及び車内監視情報生成制御方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6820133B2 true JP6820133B2 (ja) | 2021-01-27 |
JPWO2020054030A1 JPWO2020054030A1 (ja) | 2021-02-15 |
Family
ID=69777188
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020546632A Active JP6820133B2 (ja) | 2018-09-13 | 2018-09-13 | 車内監視情報生成制御装置及び車内監視情報生成制御方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11854274B2 (ja) |
JP (1) | JP6820133B2 (ja) |
CN (1) | CN112673405A (ja) |
DE (1) | DE112018007886B4 (ja) |
WO (1) | WO2020054030A1 (ja) |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002033952A (ja) | 2000-07-14 | 2002-01-31 | Takeshi Takahashi | 静止画カメラによる遠隔自動撮影とその無人運転を実現する方法 |
JP5529593B2 (ja) | 2010-03-11 | 2014-06-25 | セコム株式会社 | 画像監視装置 |
JP5467907B2 (ja) * | 2010-03-25 | 2014-04-09 | セコム株式会社 | 車載画像監視装置 |
EP3654627A3 (en) | 2011-06-28 | 2020-08-05 | NCR Corporation | Image processing to prevent access to private information |
JP3178027U (ja) * | 2012-06-08 | 2012-08-30 | 株式会社ソキエ | セキュリティ機能付安否確認システム |
JP5692215B2 (ja) | 2012-06-15 | 2015-04-01 | カシオ計算機株式会社 | 撮像装置、撮像方法及びプログラム |
JP2014216828A (ja) | 2013-04-25 | 2014-11-17 | 株式会社テスコムジャパン | 監視カメラ |
JP2016196285A (ja) * | 2015-04-03 | 2016-11-24 | 株式会社デンソー | 走行制御装置及び走行制御方法 |
CN204801768U (zh) * | 2015-05-25 | 2015-11-25 | 浙江商业职业技术学院 | 一种汽车驾驶员状态监测装置 |
JP6504364B2 (ja) * | 2015-11-27 | 2019-04-24 | パナソニックIpマネジメント株式会社 | モニタリング装置、モニタリングシステムおよびモニタリング方法 |
US9854529B2 (en) * | 2015-12-03 | 2017-12-26 | Google Llc | Power sensitive wireless communication radio management |
EP3913591A1 (en) * | 2016-01-29 | 2021-11-24 | KiwiSecurity Software GmbH | Methods and apparatus for using video analytics to detect regions for privacy protection within images from moving cameras |
CN107200022B (zh) * | 2016-03-15 | 2019-11-12 | 奥迪股份公司 | 驾驶辅助系统和方法 |
JP6837200B2 (ja) | 2016-07-29 | 2021-03-03 | パナソニックIpマネジメント株式会社 | 監視カメラ、見守り監視システム及び見守り監視方法 |
JP6833391B2 (ja) | 2016-08-05 | 2021-02-24 | 株式会社東芝 | 車載通信機器、および該車載通信機器にサービスを提供するサービス提供システム、ならびにプログラム |
JP2018120497A (ja) | 2017-01-27 | 2018-08-02 | 株式会社Jvcケンウッド | 記録装置、記録方法、及びプログラム |
WO2018138983A1 (ja) * | 2017-01-27 | 2018-08-02 | 株式会社Jvcケンウッド | 記録装置、記録方法、及びプログラム |
US11687493B1 (en) * | 2022-02-28 | 2023-06-27 | Rockwell Automation Technologies, Inc. | Process recipe digital twin structuring |
-
2018
- 2018-09-13 WO PCT/JP2018/034017 patent/WO2020054030A1/ja active Application Filing
- 2018-09-13 DE DE112018007886.8T patent/DE112018007886B4/de active Active
- 2018-09-13 CN CN201880097218.XA patent/CN112673405A/zh active Pending
- 2018-09-13 JP JP2020546632A patent/JP6820133B2/ja active Active
- 2018-09-13 US US17/269,070 patent/US11854274B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JPWO2020054030A1 (ja) | 2021-02-15 |
CN112673405A (zh) | 2021-04-16 |
DE112018007886B4 (de) | 2023-05-17 |
US11854274B2 (en) | 2023-12-26 |
US20210209384A1 (en) | 2021-07-08 |
WO2020054030A1 (ja) | 2020-03-19 |
DE112018007886T5 (de) | 2021-04-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11625856B2 (en) | Localization systems and methods | |
US10867195B2 (en) | Systems and methods for monitoring driver state | |
CN108388837B (zh) | 一种用于评估自主车辆的内部的系统和方法 | |
EP3340205B1 (en) | Information processing device, information processing method, and program | |
US9727793B2 (en) | System and method for image based vehicle localization | |
JP7014218B2 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
WO2019169031A1 (en) | Method for determining driving policy | |
US11288777B2 (en) | Image processing device, image processing method, and program | |
WO2018145028A1 (en) | Systems and methods of a computational framework for a driver's visual attention using a fully convolutional architecture | |
KR20200043391A (ko) | 화상 블러 보정을 위한 화상 처리, 화상 처리 방법 및 프로그램 | |
US11062141B2 (en) | Methods and apparatuses for future trajectory forecast | |
CN111627057B (zh) | 一种距离测量方法、装置及服务器 | |
US11713046B2 (en) | Driving assistance apparatus and data collection system | |
WO2018150685A1 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
WO2021090943A1 (ja) | 画像処理装置および画像処理方法 | |
WO2018168038A1 (ja) | 運転者の着座判定装置 | |
JP6820133B2 (ja) | 車内監視情報生成制御装置及び車内監視情報生成制御方法 | |
WO2020003764A1 (ja) | 画像処理装置、移動装置、および方法、並びにプログラム | |
JP2021114048A (ja) | 情報処理装置、車両、車両の制御方法、プログラム、情報処理サーバ、情報処理方法 | |
CN111191496A (zh) | 面部识别装置和面部识别方法 | |
US11080536B2 (en) | Image processing device, non-transitory readable recording medium storing program, information processing system, and control method of image processing device | |
US20230109171A1 (en) | Operator take-over prediction | |
US20230033243A1 (en) | Systems and methods for object proximity monitoring around a vehicle | |
EP4354398A1 (en) | Method and system of pose estimation | |
CN111681199B (zh) | 检测图像有效性的方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200914 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200914 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20200914 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20201118 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201201 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201229 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6820133 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |