JP6820133B2 - 車内監視情報生成制御装置及び車内監視情報生成制御方法 - Google Patents

車内監視情報生成制御装置及び車内監視情報生成制御方法 Download PDF

Info

Publication number
JP6820133B2
JP6820133B2 JP2020546632A JP2020546632A JP6820133B2 JP 6820133 B2 JP6820133 B2 JP 6820133B2 JP 2020546632 A JP2020546632 A JP 2020546632A JP 2020546632 A JP2020546632 A JP 2020546632A JP 6820133 B2 JP6820133 B2 JP 6820133B2
Authority
JP
Japan
Prior art keywords
vehicle
monitoring information
unit
image
vehicle monitoring
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020546632A
Other languages
English (en)
Other versions
JPWO2020054030A1 (ja
Inventor
英樹 福原
英樹 福原
良孝 脇阪
良孝 脇阪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Application granted granted Critical
Publication of JP6820133B2 publication Critical patent/JP6820133B2/ja
Publication of JPWO2020054030A1 publication Critical patent/JPWO2020054030A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19639Details of the system layout
    • G08B13/19647Systems specially adapted for intrusion detection in or around a vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • B60R16/037Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements for occupant comfort, e.g. for automatic adjustment of appliances according to personal settings, e.g. seats, mirrors, steering wheel
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/221Physiology, e.g. weight, heartbeat, health or special needs
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/223Posture, e.g. hand, foot, or seat position, turned or inclined
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/26Incapacity
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2556/00Input parameters relating to data
    • B60W2556/45External transmission of data to or from the vehicle
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19678User interface
    • G08B13/19686Interfaces masking personal details for privacy, e.g. blurring faces, vehicle license plates

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Automation & Control Theory (AREA)
  • Alarm Systems (AREA)
  • Traffic Control Systems (AREA)
  • Emergency Alarm Devices (AREA)

Description

この発明は、車内監視情報生成制御装置及び車内監視情報生成制御方法に関するものである。
無人運転車両を活用した交通手段の提供が検討されている。
例えば、非特許文献1には、無人運転車両を活用した交通サービスの実証実験において、乗客が安心して乗車できるようにするため、走行中の無人運転車両の位置及び状態等をリアルタイムで把握することが可能な遠隔管制センターを設置し、遠隔管制センターにて遠隔管制を行うことが開示されている。
"日産自動車とDeNA、無人運転車両を活用した交通サービス 「Easy Ride」の実証実験を開始"、[online]、2018年2月23日、株式会社ディー・エヌ・エー、[2018年7月24日検索]、インターネット〈URL:http://dena.com/jp/press/2018/02/23/1/〉
走行中の無人運転車両の状態をリアルタイムで把握する場合、無人運転車両に設置された車内撮影用の撮像装置が撮影した画像を遠隔管制センター等に送信することが考えられる。しかし、無人運転車両の中に乗員がいる場合、撮像装置が撮影した車内の画像を遠隔管制センター等に送信すると、当該乗員のプライバシーが損なわれる可能性があるという問題点があった。
この発明は、上述の問題点を解決するためのもので、無人運転車両の中にいる乗員のプライバシーに配慮した車内監視を行うことができる車内監視情報生成制御装置を提供することを課題としている。
この発明に係る車内監視情報生成制御装置は、無人運転車両の中を撮影した画像を取得する画像取得部と、無人運転車両において異常が発生しているか否かを判定する異常判定部と、画像取得部が取得した画像に基づいて、当該画像に写った無人運転車両の中にいる乗員を特定し得ない車内監視情報を生成する車内監視情報生成部と、異常判定部が判定した判定結果に基づいて、無人運転車両において異常が発生していないと判定されている場合、車内監視情報生成部が生成した車内監視情報を無人運転車両の外部に送信する送信制御部と、送信制御部が車内監視情報を無人運転車両の外部に送信する際の単位時間あたりのデータ転送量を示すスループット値を推定するスループット値推定部と、スループット値推定部が推定したスループット値に基づいて、車内監視情報生成部が生成する車内監視情報の態様を決定する態様決定部と、を備え、態様決定部がスループット値に基づいて決定する車内監視情報の態様は、画像における画像に写った乗員の領域を変形した変形画像情報、当該領域の輪郭を抽出した輪郭画像情報、又は画像に写った乗員を識別した人物識別情報のいずれかであり、車内監視情報生成部は、態様決定部が決定した態様に基づいて、車内監視情報を生成するようにしたものである。
この発明によれば、無人運転車両の中にいる乗員のプライバシーに配慮した車内監視を行うことができる。
図1は、実施の形態1に係る車内監視情報生成制御装置が搭載された無人運転車両の要部の一例を示すブロック図である。 図2A及び図2Bは、実施の形態1に係る車内監視情報生成制御装置のハードウェア構成の一例を示す図である。 図3は、実施の形態1に係る車内監視情報生成制御装置における車内監視情報生成部の要部の一例を示すブロック図である。 図4は、実施の形態1に係る車内監視情報生成制御装置における車内監視情報生成部の要部の一例を示すブロック図である。 図5は、実施の形態1に係る車内監視情報生成制御装置の処理の一例を説明するフローチャートである。 図6は、実施の形態1の変形例に係る車内監視情報生成制御装置が搭載された無人運転車両の要部の一例を示すブロック図である。 図7は、実施の形態1の変形例に係る車内監視情報生成制御装置の処理の一例を説明するフローチャートである。 図8は、実施の形態2に係る車内監視情報生成制御装置が搭載された無人運転車両の要部の一例を示すブロック図である。 図9は、実施の形態2に係る車内監視情報生成制御装置における車内監視情報生成部の要部の一例を示すブロック図である。 図10は、実施の形態2に係る車内監視情報生成制御装置における態様決定部がスループット値推定部により推定されたスループット値に基づいて車内監視情報の態様を決定する際に用いる態様決定テーブルの一例を示す図である。 図11は、実施の形態2に係る車内監視情報生成制御装置の処理の一例を説明するフローチャートである。 図12は、実施の形態3に係る車内監視情報生成制御装置における車内監視情報生成部の要部の一例を示すブロック図である。 図13は、実施の形態3に係る車内監視情報生成制御装置の処理の一例を説明するフローチャートである。
以下、この発明の実施の形態について、図面を参照しながら詳細に説明する。
実施の形態1.
図1は、実施の形態1に係る車内監視情報生成制御装置100が搭載された無人運転車両1の要部の一例を示すブロック図である。
無人運転車両1は、例えば、自動運転技術のレベル5に分類される技術が適用された車両であって、車両内に全く乗員がいない状態であっても自律的に走行が可能な車両を意味する。
車内監視情報生成制御装置100は、無人運転車両1に搭載されている。
無人運転車両1は、車内監視情報生成制御装置100、撮像装置11、センサ12、及び通信機器13を備える。
撮像装置11は、無人運転車両1の中を撮影する。撮像装置11は、例えば、無人運転車両1の中に設置されたカメラである。撮像装置11は、撮影した画像を示すデータ(以下、「画像を示すデータ」を含めて、単に「画像」という。)を、車内監視情報生成制御装置100に出力する。
センサ12は、車内監視情報生成制御装置100が無人運転車両1において異常が発生しているか否かを判定するための検知情報を出力する。センサ12は、例えば、赤外線センサ、超音波センサ、又は音量センサである。また、センサ12は、乗員の心拍又は血圧等を示す情報を出力する生体センサであっても良い。生体センサは、シートベルト、座席等に取り付けられたものである。
通信機器13は、車内監視情報生成制御装置100が出力する画像情報等の車内監視情報を、無人運転車両1の外部に送信するための通信機能を有する。通信機器13は、より具体的には、車内監視情報を、例えば、無人運転車両1の外部に設けられた外部装置又は外部システムに送信するための通信機能を有する。外部装置とは、例えば、遠隔監視装置であり、外部システムとは、例えば、遠隔監視システムである。通信機器13は、例えば、LTE(Long Term Evolution)等の無線公衆回線を用いて、車内監視情報を、無人運転車両1の外部に送信する。
車内監視情報生成制御装置100は、撮像装置11から取得した画像に基づいて車内監視情報を生成し、センサ12から取得した検知情報に基づいて判定される無人運転車両1の状態に応じて、車内監視情報を、無人運転車両1の外部に通信機器13を介して送信する。
車内監視情報生成制御装置100は、画像取得部101、異常判定部102、車内監視情報生成部103、及び送信制御部104を備える。
画像取得部101は、無人運転車両1の中が写った画像を、撮像装置11から取得する。
異常判定部102は、無人運転車両1において異常が発生しているか否かを判定する。
例えば、異常判定部102は、センサ12から検知情報を取得し、取得した検知情報に基づいて無人運転車両1において異常が発生しているか否かを判定する。
より具体的には、例えば、異常判定部102は、赤外線センサ又は超音波センサ等の検知センサから取得した検知情報に基づいて、周知のパターンマッチング法により無人運転車両1の乗員の姿勢又は動作等が予め定められた異常状態であるか否かを判定することで、無人運転車両1において異常が発生しているか否かを判定する。
また、例えば、異常判定部102は、音量センサから取得した検知情報に基づいて、例えば、無人運転車両1内の音量が予め定められた音量より大きいか否かを判定することで、無人運転車両1において異常が発生しているか否かを判定する。
また、例えば、異常判定部102は、生体センサから取得した検知情報に基づいて、例えば、心拍又は血圧等を示す値が予め定められた値より大きいか否かにより無人運転車両1の乗員における体調が良好であるか否か、又は乗員が興奮状態であるか否か等を判定することで、無人運転車両1において異常が発生しているか否かを判定する。
異常判定部102が無人運転車両1において異常が発生しているか否かを判定する方法は、上述の方法に限定されるものではない。
例えば、検知する方法が異なる複数種類のセンサ12から取得した複数種類の検知情報に基づいて、無人運転車両1において異常が発生しているか否かを判定しても良い。
また、例えば、車内監視情報生成制御装置100を無人運転車両1内のCAN(Controller Area Network)等の車載ネットワークに接続し、異常判定部102は、当該車載ネットワークから取得した種々の信号を適宜使用して、無人運転車両1において異常が発生しているか否かを判定しても良い。
また、例えば、異常判定部102は、画像取得部101が取得した無人運転車両1の中が写った画像に基づいて、当該画像を周知の画像解析技術により解析した結果と予め定められた異常状態を示すパターンとを周知のパターンマッチング法により比較することで、無人運転車両1において異常が発生しているか否かを判定しても良い。なお、異常判定部102が、画像取得部101が取得した画像に基づいて、異常が発生しているか否かを判定する場合、異常判定部102は、画像取得部101と接続される(ただし、図1には、この接続関係は示されてない)。また、異常判定部102が、無人運転車両1の中が写った画像に基づいて、異常が発生しているか否かを判定する場合、異常判定部102は、撮像装置11と直接接続されていても良い(ただし、図1には、この接続関係は示されてない)。
また、例えば、異常判定部102は、マイク等の音声入力装置(不図示)から音声信号を取得し、取得した音声信号に基づいて周知の音声認識技術により音声認識を行い、音声認識した結果と予め定められた異常状態を示す音声パターンとを比較することで、無人運転車両1において異常が発生しているか否かを判定しても良い。
また、例えば、異常判定部102は、上述の無人運転車両1において異常が発生しているか否かを判定する方法を適宜組み合わせて、無人運転車両1において異常が発生しているか否かを判定しても良い。
車内監視情報生成部103は、画像取得部101が取得した画像に基づいて、当該画像に写った無人運転車両1の中にいる乗員(以下、無人運転車両1の中にいる乗員を、単に「乗員」という。)を特定し得ない車内監視情報を生成する。車内監視情報生成部103の詳細については後述する。
送信制御部104は、異常判定部102が判定した判定結果に基づいて、無人運転車両1において異常が発生していないと判定されている場合、車内監視情報生成部103が生成した車内監視情報を無人運転車両1の外部に送信する。
より具体的には、送信制御部104は、車内監視情報を送信する送信制御を行い、通信機器13を介して無人運転車両1の外部に送信するものである。
送信制御部104は、無人運転車両1において異常が発生していないと判定されている場合、車内監視情報を無人運転車両1の外部に送信する。また、送信制御部104は、無人運転車両1において異常が発生していると判定されている場合、画像取得部101が取得した画像に基づく異常時監視画像を無人運転車両1の外部に送信する。
より具体的には、例えば、異常時監視画像は、画像取得部101が取得した画像である。
異常時監視画像は、画像取得部101が取得した画像に限定されるものではなく、例えば、当該画像を加工して生成した画像であっても良い。
より具体的には、例えば、異常時監視画像は、画像取得部101が取得した画像に対して、当該画像の画像サイズを変更するリサイズ処理、当該画像における異常が発生していると推定される位置を切り出すクロッピング処理、又は当該画像において異常が発生していると推定される位置を指し示す情報を付加する重畳処理等を施すことにより生成した画像である。なお、車内監視情報は、乗員を特定し得ない情報であるのに対して、異常時監視画像は、乗員を特定し得る画像であることが望ましい。
図2A及び図2Bを参照して、実施の形態1に係る車内監視情報生成制御装置100の要部のハードウェア構成について説明する。
図2A及び図2Bは、実施の形態1に係る車内監視情報生成制御装置100の要部のハードウェア構成の一例を示す図である。
図2Aに示す如く、車内監視情報生成制御装置100はコンピュータにより構成されており、当該コンピュータはプロセッサ201及びメモリ202を有している。メモリ202には、当該コンピュータを画像取得部101、異常判定部102、車内監視情報生成部103、及び送信制御部104として機能させるためのプログラムが記憶されている。メモリ202に記憶されているプログラムをプロセッサ201が読み出して実行することにより、画像取得部101、異常判定部102、車内監視情報生成部103、及び送信制御部104の機能が実現される。
また、図2Bに示す如く、車内監視情報生成制御装置100は処理回路203により構成されても良い。この場合、画像取得部101、異常判定部102、車内監視情報生成部103、及び送信制御部104の機能が処理回路203により実現されても良い。
また、車内監視情報生成制御装置100はプロセッサ201、メモリ202及び処理回路203により構成されても良い(不図示)。この場合、画像取得部101、異常判定部102、車内監視情報生成部103、及び送信制御部104の機能のうちの一部の機能がプロセッサ201及びメモリ202により実現されて、残余の機能が処理回路203により実現されるものであっても良い。
プロセッサ201は、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、マイクロプロセッサ、マイクロコントローラ又はDSP(Digital Signal Processor)を用いたものである。
メモリ202は、例えば、半導体メモリ又は磁気ディスクを用いたものである。より具体的には、メモリ202は、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read−Only Memory)、SSD(Solid State Drive)又はHDD(Hard Disk Drive)などを用いたものである。
処理回路203は、例えば、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、FPGA(Field−Programmable Gate Array)、SoC(System−on−a−Chip)又はシステムLSI(Large−Scale Integration)を用いたものである。
図3及び図4を参照して、車内監視情報生成部103が、画像取得部101から取得した画像に基づいて、当該画像に写った乗員を特定し得ない車内監視情報を生成する処理について説明する。
図3は、実施の形態1に係る車内監視情報生成制御装置100における車内監視情報生成部103の要部の一例を示すブロック図である。
車内監視情報生成部103は、例えば、画像解析部131及び画像加工部132を備える。
画像解析部131は、例えば、周知の方法により、画像取得部101が取得した画像に写った乗員の顔の領域を検出する。
画像加工部132は、例えば、周知の方法により、画像取得部101が取得した画像における画像解析部131が検出した乗員の顔の領域に対して、画像変形処理、又は、輪郭抽出処理等を施す。画像変形処理とは、画像における乗員の顔の領域に対して、例えば、モザイク処理、又はぼかし処理等を施して、画像を変形する処理である。また、輪郭抽出処理とは、画像における乗員の顔の領域に対して、例えば、黒塗り処理、又はマスク処理等を施して、乗員の顔の輪郭のみを抽出する処理である。画像加工部132は、画像取得部101が取得した画像に上述の画像変形処理を施した変形画像情報、又は、画像取得部101が取得した画像に上述の輪郭抽出処理を施した輪郭画像情報等を、車内監視情報として出力する。
実施の形態1に係る車内監視情報生成制御装置100における車内監視情報生成部103の要部の構成は、図3に示す構成とは限らず、例えば、図4に示す構成のものであっても良い。
図4は、実施の形態1に係る車内監視情報生成制御装置100における車内監視情報生成部103の要部の一例を示すブロック図である。
車内監視情報生成部103は、例えば、画像解析部133及び人物識別情報生成部134を備える。
画像解析部133は、例えば、画像取得部101が取得した画像に基づいて、周知の方法により、当該画像に写った乗員の識別を行う。より具体的には、例えば、画像解析部133は、当該画像に写った乗員の性別、年齢、又は体格等を識別する。
人物識別情報生成部134は、例えば、画像解析部133が識別した乗員の識別結果に基づいて、予め決められたフォーマットに従い人物識別情報を生成し、車内監視情報として出力する。
図5を参照して、実施の形態1に係る車内監視情報生成制御装置100の動作について説明する。
図5は、実施の形態1に係る車内監視情報生成制御装置100の処理の一例を説明するフローチャートである。
まず、ステップST501にて、画像取得部101は、上述のとおり、撮像装置11から、無人運転車両1の中を撮影した画像を取得する。
次に、ステップST502にて、車内監視情報生成部103は、上述のとおり、画像取得部101が取得した画像に基づいて、当該画像に写った乗員を特定し得ない車内監視情報を生成する。
次に、ステップST503にて、異常判定部102は、上述のとおり、無人運転車両1において異常が発生しているか否かを判定する。
ステップST503において、異常判定部102が無人運転車両1において異常が発生していないと判定した場合、ステップST504にて、送信制御部104は、上述のとおり、車内監視情報生成部103が生成した車内監視情報を無人運転車両1の外部に送信する。車内監視情報生成制御装置100は、ステップST504の処理を実行した後、当該フローチャートの処理を終了し、ステップST501の処理に戻って、当該フローチャートの処理を繰り返し実行する。
ステップST503において、異常判定部102が無人運転車両1において異常が発生していると判定した場合、ステップST505にて、送信制御部104は、上述のとおり、画像取得部101が取得した画像に基づく異常時監視画像を無人運転車両1の外部に送信する。車内監視情報生成制御装置100は、ステップST505の処理を実行した後、当該フローチャートの処理を終了し、ステップST501の処理に戻って、当該フローチャートの処理を繰り返し実行する。
なお、ステップST503の処理は、図5に示すフローチャートが実行されている間、バックグランド処理にて、適宜繰り返して実行されるようにしても良い。
以上のように、車内監視情報生成制御装置100は、無人運転車両1の中を撮影した画像を取得する画像取得部101と、無人運転車両1において異常が発生しているか否かを判定する異常判定部102と、画像取得部101が取得した画像に基づいて、当該画像に写った無人運転車両1の中にいる乗員を特定し得ない車内監視情報を生成する車内監視情報生成部103と、異常判定部102が判定した判定結果に基づいて、無人運転車両1において異常が発生していないと判定されている場合、車内監視情報生成部103が生成した車内監視情報を無人運転車両1の外部に送信する送信制御部104と、を備えた。
このように構成することで、車内監視情報生成制御装置100は、無人運転車両1の中にいる乗員のプライバシーに配慮した車内監視を行うことができる。
なお、異常判定部102は、無人運転車両1において異常が発生しているか否かを判定するだけでなく、無人運転車両1において発生している異常の内容を判別するようにしてもよい。より具体的には、例えば、異常判定部102は、無人運転車両1において発生している異常が乗員の体調不良によるものか否かを判別するようにしても良い。発生している異常が乗員の体調不良によるものか否かは、例えば、異常判定部102が取得した音声信号に基づいて行った音声認識結果と予め定められた乗員の体調不良を示す音声パターンとを比較することで、判別することができる。
また、送信制御部104は、異常判定部102が判定した判定結果に基づいて、無人運転車両1において発生している異常が乗員の体調不良によるものである場合、異常時監視画像に替えて車内監視情報を無人運転車両1の外部に送信するようにしても良い。
このように構成することで、車内監視情報生成制御装置100は、無人運転車両1において発生している異常が乗員の体調不良によるものである場合、乗員のプライバシーに配慮した車内監視を行うことができる。
実施の形態1の変形例.
図6を参照して実施の形態1の変形例について説明する。
図6は、実施の形態1の変形例に係る車内監視情報生成制御装置100aが搭載された無人運転車両1の要部の一例を示すブロック図である。
実施の形態1の変形例に係る車内監視情報生成制御装置100aは、車内監視情報生成制御装置100と比較して、車内監視情報生成制御装置100aにおける車内監視情報生成部103a及び送信制御部104aの動作が、車内監視情報生成制御装置100における車内監視情報生成部103及び送信制御部104の動作と相違する。
実施の形態1の変形例に係る車内監視情報生成制御装置100aの構成において、車内監視情報生成制御装置100と同様の構成については、同じ符号を付して重複した説明を省略する。すなわち、図1に記載した符号と同じ符号を付した図6の構成については、説明を省略する。
車内監視情報生成制御装置100aは、無人運転車両1に搭載されている。
無人運転車両1は、車内監視情報生成制御装置100a、撮像装置11、センサ12、及び通信機器13を備える。
車内監視情報生成制御装置100aは、撮像装置11から取得した画像に基づいて車内監視情報を生成し、センサ12から取得した検知情報に基づいて判定される無人運転車両1の状態に応じて、車内監視情報を、無人運転車両1の外部に通信機器13を介して送信する。
車内監視情報生成制御装置100aは、画像取得部101、異常判定部102、車内監視情報生成部103a、及び送信制御部104aを備える。
車内監視情報生成部103aは、異常判定部102が判定した判定結果に基づいて、無人運転車両1において異常が発生していないと判定されている場合、画像取得部101が取得した画像に基づいて、当該画像に写った乗員を特定し得ない車内監視情報を生成する。
車内監視情報生成部103aが、画像取得部101から取得した画像に基づいて車内監視情報を生成する処理は、車内監視情報生成制御装置100における車内監視情報生成部103と同様であるため、説明を省略する。
送信制御部104aは、車内監視情報生成部103aが生成した車内監視情報を無人運転車両1の外部に送信する。車内監視情報生成部103aは、異常判定部102が判定した判定結果に基づいて、無人運転車両1において異常が発生していないと判定されている場合、車内監視情報を生成する。車内監視情報が生成されると、送信制御部104aは、当該車内監視情報を、無人運転車両1の外部に送信する。車内監視情報は、無人運転車両1において異常が発生していないと判定されている場合に生成されるため、送信制御部104aも、当該異常が発生していないと判定されている場合に、車内監視情報を無人運転車両1の外部に送信することになる。送信制御部104aは、送信すべき車内監視情報が無い場合、すなわち、無人運転車両1において異常が発生していると判定されている場合、画像取得部101が取得した画像に基づく異常時監視画像を無人運転車両1の外部に送信する。
なお、実施の形態1の変形例に係る車内監視情報生成制御装置100aにおける画像取得部101a、異常判定部102、車内監視情報生成部103a、及び送信制御部104aの各機能は、実施の形態1において図2A及び図2Bに一例を示したハードウェア構成におけるプロセッサ201及びメモリ202により実現されるものであっても良く、又は処理回路203により実現されるものであっても良い。
図7を参照して、実施の形態1の変形例に係る車内監視情報生成制御装置100aの動作について説明する。
図7は、実施の形態1の変形例に係る車内監視情報生成制御装置100aの処理の一例を説明するフローチャートである。
まず、ステップST701にて、画像取得部101は、上述のとおり、撮像装置11から、無人運転車両1の中を撮影した画像を取得する。
次に、ステップST702にて、異常判定部102は、上述のとおり、無人運転車両1において異常が発生しているか否かを判定する。
ステップST702において、異常判定部102が無人運転車両1において異常が発生していないと判定した場合、ステップST703にて、車内監視情報生成部103aは、上述のとおり、画像取得部101が取得した画像に基づいて、当該画像に写った乗員を特定し得ない車内監視情報を生成する。車内監視情報生成制御装置100aは、ステップST703の処理の後、後述するステップST704の処理を実行する。
ステップST702において、異常判定部102が無人運転車両1において異常が発生していると判定した場合、車内監視情報生成制御装置100aは、後述するステップST704の処理を実行する。
次に、ステップST704にて、送信制御部104aは、車内監視情報を送信するか否かを判定する。
送信制御部104aにおける車内監視情報を送信するか否かの判定は、例えば、車内監視情報生成部103aが生成した車内監視情報があるか否かに基づいて行われる。送信制御部104aは、車内監視情報生成部103aが生成した車内監視情報がある場合は、車内監視情報を送信すると判定し、車内監視情報生成部103aが生成した車内監視情報がない場合は、車内監視情報を送信しないと判定する。
また、送信制御部104aにおける車内監視情報を送信するか否かの判定は、例えば、異常判定部102が判定した無人運転車両1において異常が発生しているか否かに基づいて行われても良い。すなわち、送信制御部104aは、無人運転車両1において異常が発生していないと判定されている場合は、車内監視情報を送信すると判定し、無人運転車両1において異常が発生していると判定されている場合は、車内監視情報を送信しないと判定しても良い。
ステップST704において、送信制御部104aが車内監視情報を送信すると判定した場合、ステップST705にて、送信制御部104aは、上述のとおり、車内監視情報生成部103aが生成した車内監視情報を無人運転車両1の外部に送信する。車内監視情報生成制御装置100aは、ステップST705の処理を実行した後、当該フローチャートの処理を終了し、ステップST701の処理に戻って、当該フローチャートの処理を繰り返し実行する。
ステップST704において、送信制御部104aが車内監視情報を送信しないと判定した場合、ステップST706にて、送信制御部104aは、上述のとおり、例えば、画像取得部101が取得した画像に基づく異常時監視画像を無人運転車両1の外部に送信する。車内監視情報生成制御装置100aは、ステップST706の処理を実行した後、当該フローチャートの処理を終了し、ステップST701の処理に戻って、当該フローチャートの処理を繰り返し実行する。
なお、ステップST702の処理は、図7に示すフローチャートが実行されている間、バックグランド処理にて、適宜繰り返して実行されるようにしても良い。
以上のように、車内監視情報生成制御装置100aは、無人運転車両1において異常が発生している場合、必要のない車内監視情報を車内監視情報生成部103aが生成しないように構成した。
このように構成することで、車内監視情報生成制御装置100aは、実施の形態1に係る車内監視情報生成制御装置100と比較して、無人運転車両1において異常が発生している間において、処理を簡略化することができる。
実施の形態2.
図8を参照して実施の形態2について説明する。
図8は、実施の形態2に係る車内監視情報生成制御装置100bが搭載された無人運転車両1の要部の一例を示すブロック図である。
実施の形態2に係る車内監視情報生成制御装置100bは、実施の形態1に係る車内監視情報生成制御装置100と比較して、実施の形態2に係る車内監視情報生成制御装置100bにおける車内監視情報生成部103bの動作が、実施の形態1に係る車内監視情報生成制御装置100における車内監視情報生成部103の動作と相違する。また、実施の形態2に係る車内監視情報生成制御装置100bの構成には、実施の形態1に係る車内監視情報生成制御装置100の構成と比較して、スループット値推定部105及び態様決定部106が追加されている。
実施の形態2に係る車内監視情報生成制御装置100bの構成において、実施の形態1に係る車内監視情報生成制御装置100と同様の構成については、同じ符号を付して重複した説明を省略する。すなわち、図1に記載した符号と同じ符号を付した図8の構成については、説明を省略する。
車内監視情報生成制御装置100bは、無人運転車両1に搭載されている。
無人運転車両1は、車内監視情報生成制御装置100b、撮像装置11、センサ12、及び通信機器13aを備える。
車内監視情報生成制御装置100bは、撮像装置11から取得した画像に基づいて車内監視情報を生成し、センサ12から取得した検知情報に基づいて判定される無人運転車両1の状態に応じて、車内監視情報を、無人運転車両1の外部に通信機器13を介して送信する。
車内監視情報生成制御装置100bは、画像取得部101、異常判定部102、車内監視情報生成部103b、送信制御部104、スループット値推定部105、及び態様決定部106を備える。
スループット値推定部105は、送信制御部104が車内監視情報を無人運転車両1の外部に送信する際の単位時間あたりのデータ転送量を示すスループット値を推定する。
より具体的には、例えば、スループット値推定部105は、送信制御部104が車内監視情報を無人運転車両1の外部に送信する際に用いる通信機器13aの電波状況又は通信状況に基づいて、スループット値を推定する。
スループット値推定部105が通信機器13aの電波状況に基づいてスループット値を推定する場合、スループット値推定部105は、例えば、予めスループット値推定部105に備えられた、通信機器13aが無線公衆回線の基地局から受信する電波強度値とスループット期待値とが関連付けられたルックアップテーブルを用いて、スループット値を推定する。スループット値推定部105が通信機器13aの電波状況に基づいてスループット値を推定する方法は、上述の方法に限定されるものではなく、スループット値推定部105は、例えば、通信機器13aが無線公衆回線の基地局から受信する電波強度値と予め決められた計算式とに基づいて、スループット値を推定しても良い。
また、スループット値推定部105が通信機器13aの通信状況に基づいてスループット値を推定する場合、スループット値推定部105は、例えば、直近に通信機器13aを介して送信した車内監視情報の通信状況に基づいて、現在のスループット値を推定する。スループット値推定部105が通信機器13aの通信状況に基づいてスループット値を推定する方法は、上述の方法に限定されるものではない。
スループット値推定部105は、例えば、無人運転車両1が走行している地点の位置情報を取得する手段を車内監視情報生成制御装置100bが有し、無人運転車両1が走行している地点における過去の通信機器13aの通信状況に基づいてスループット値を推定しても良い。
更に、例えば、スループット値推定部105は、無人運転車両1が走行している地点、日時、又は気象条件等と、過去に無人運転車両1が当該地点を走行したときの日時、気象条件、スループット値、又は電波強度を示す情報とを、深層学習等の人工知能技術により予測して、スループット値を推定しても良い。また、例えば、スループット値推定部105は、無人運転車両1が走行している地点における周囲に存在する通信端末の状況を示す情報、又はスループット値推定部105がスループット値を推定する前までの期間におけるスループット値の変動を示す情報と、過去に無人運転車両1が走行したときの周囲に存在する通信端末の状況を示す情報、又はスループット値の変動を示す情報とを、深層学習等の人工知能技術により予測して、スループット値を推定しても良い。
態様決定部106は、スループット値推定部105が推定したスループット値に基づいて、車内監視情報生成部103bが生成する車内監視情報の態様を決定する。
車内監視情報生成部103bは、態様決定部106が決定した態様に基づいて、車内監視情報を生成する。
態様決定部106及び車内監視情報生成部103bの詳細については後述する。
送信制御部104は、異常判定部102が判定した判定結果に基づいて、無人運転車両1において異常が発生していないと判定されている場合、車内監視情報生成部103bが生成した車内監視情報を無人運転車両1の外部に送信する。より具体的には、送信制御部104は、通信機器13aを介して車内監視情報を無人運転車両1の外部に送信する。送信制御部104は、実施の形態1にて説明したため説明を省略する。
なお、実施の形態2に係る車内監視情報生成制御装置100bにおける画像取得部101、異常判定部102、車内監視情報生成部103b、送信制御部104、スループット値推定部105、及び態様決定部106の各機能は、実施の形態1において図2A及び図2Bに一例を示したハードウェア構成におけるプロセッサ201及びメモリ202により実現されるものであっても良く、又は処理回路203により実現されるものであっても良い。
図9及び図10を参照して、態様決定部106がスループット値推定部105により推定されたスループット値に基づいて車内監視情報の態様を決定する処理、及び、車内監視情報生成部103bが態様決定部106により決定された態様に基づいて車内監視情報を生成する処理について説明する。
図9は、実施の形態2に係る車内監視情報生成制御装置100bにおける車内監視情報生成部103bの要部の一例を示すブロック図である。
実施の形態2に係る車内監視情報生成制御装置100bにおける車内監視情報生成部103bの構成において、実施の形態1に係る車内監視情報生成制御装置100におけるにおける車内監視情報生成部103と同様の構成については、同じ符号を付して重複した説明を省略する。すなわち、図3又は図4に記載した符号と同じ符号を付した図9の構成については、説明を省略する。
車内監視情報生成部103bは、例えば、画像解析部131、画像加工部132、画像解析部133、人物識別情報生成部134、及び車内監視情報生成制御部135を備える。
車内監視情報生成部103bは、画像解析部131、画像加工部132、画像解析部133、及び人物識別情報生成部134を備えることにより、例えば、画像取得部101が取得した画像に上述の画像変形処理を施した変形画像情報、画像取得部101が取得した画像に上述の輪郭抽出処理を施した輪郭画像情報、及び、画像取得部101が取得した画像に基づいて識別された当該画像に写った乗員の人物識別情報を、選択的に生成することができる。車内監視情報生成部103bは、態様決定部106により決定された態様に基づいて、生成した変形画像情報、輪郭画像情報、又は人物識別情報のいずれかを車内監視情報として出力する。
車内監視情報生成制御部135は、態様決定部106により決定された態様に基づいて、例えば、画像解析部131、画像加工部132、画像解析部133、及び人物識別情報生成部134を制御し、変形画像情報、輪郭画像情報、又は人物識別情報のいずれかを出力させる。車内監視情報生成制御部135の詳細については後述する。
図10は、実施の形態2に係る車内監視情報生成制御装置100bにおける態様決定部106がスループット値推定部105により推定されたスループット値に基づいて車内監視情報の態様を決定する際に用いる態様決定テーブルの一例を示す図である。
態様決定部106は、例えば、スループット値推定部105により推定されたスループット値、予め設定された第1閾値、第1閾値より小さい値に予め設定された第2閾値、及び態様決定テーブルに基づいて、車内監視情報の態様を決定する。態様決定部106は、例えば、スループット値が第1閾値以上である場合、スループットが「高」であると判定し、スループット値が第2閾値以上且つ第1閾値より小さい場合、スループットが「中」であると判定し、スループット値が第2閾値より小さい場合、スループットが「低」であると判定する。態様決定部106は、例えば、判定したスループットの「高」、「中」、又は「低」と、態様決定テーブルにおけるスループットに示される「高」、「中」、及び「低」とを比較して、車内監視情報の態様を、判定されたスループットの「高」、「中」、又は「低」に対応する態様に決定する。
より具体的には、例えば、態様決定部106は、判定したスループットが「高」の場合、変形画像情報、輪郭画像情報、及び人物識別情報のうち最もデータ量の大きい変形画像情報を車内監視情報とするように車内監視情報の態様を決定する。また、例えば、態様決定部106は、判定したスループットが「中」の場合、変形画像情報、輪郭画像情報、及び人物識別情報のうち変形画像情報の次にデータ量の大きい輪郭画像情報を車内監視情報とするように車内監視情報の態様を決定する。また、例えば、態様決定部106は、判定したスループットが「低」の場合、変形画像情報、輪郭画像情報、及び人物識別情報のうち最もデータ量の小さい人物識別情報を車内監視情報とするように車内監視情報の態様を決定する。
車内監視情報生成制御部135は、上述のとおり、態様決定部106により決定された態様に基づいて、例えば、画像解析部131、画像加工部132、画像解析部133、及び人物識別情報生成部134を制御する。
具体的には、例えば、車内監視情報生成制御部135は、態様決定部106により決定された態様が変形画像情報である場合、画像解析部131及び画像加工部132が処理を実行するように制御する。より具体的は、例えば、車内監視情報生成制御部135は、画像加工部132に画像取得部101が取得した画像における画像解析部131が検出した乗員の顔の領域に対してモザイク処理或いはぼかし処理等の画像変形処理を実行させるように制御する。
また、例えば、車内監視情報生成制御部135は、態様決定部106により決定された態様が輪郭画像情報である場合、画像解析部131及び画像加工部132が処理を実行するように制御する。より具体的は、例えば、車内監視情報生成制御部135は、画像加工部132に画像取得部101が取得した画像における画像解析部131が検出した乗員の顔の領域に対して黒塗り処理或いはマスク処理等の輪郭抽出処理を実行させるように制御する。
また、例えば、車内監視情報生成制御部135は、態様決定部106により決定された態様が人物識別情報である場合、画像解析部133及び人物識別情報生成部134が処理を実行するように制御する。
図11を参照して、実施の形態2に係る車内監視情報生成制御装置100bの動作について説明する。
図11は、実施の形態2に係る車内監視情報生成制御装置100bの処理の一例を説明するフローチャートである。
まず、ステップST1101にて、画像取得部101は、上述のとおり、撮像装置11から、無人運転車両1の中を撮影した画像を取得する。
次に、ステップST1102にて、スループット値推定部105は、上述のとおり、送信制御部104が車内監視情報を無人運転車両1の外部に送信する際の単位時間あたりのデータ転送量を示すスループット値を推定する。
次に、ステップST1103にて、態様決定部106は、上述のとおり、スループット値推定部105が推定したスループット値に基づいて、車内監視情報生成部103bが生成する車内監視情報の態様を決定する。
次に、ステップST1104にて、車内監視情報生成部103bは、上述のとおり、車内監視情報生成部103bは、態様決定部106が決定した態様に基づいて、車内監視情報を生成する。
次に、ステップST1105にて、異常判定部102は、上述のとおり、無人運転車両1において異常が発生しているか否かを判定する。
ステップST1105において、異常判定部102が無人運転車両1において異常が発生していないと判定した場合、ステップST1106にて、送信制御部104は、上述のとおり、車内監視情報生成部103bが生成した車内監視情報を無人運転車両1の外部に送信する。車内監視情報生成制御装置100bは、ステップST1106の処理を実行した後、当該フローチャートの処理を終了し、ステップST1101の処理に戻って、当該フローチャートの処理を繰り返し実行する。
ステップST1105において、異常判定部102が無人運転車両1において異常が発生していると判定した場合、ステップST1107にて、送信制御部104は、上述のとおり、画像取得部101が取得した画像に基づく異常時監視画像を無人運転車両1の外部に送信する。車内監視情報生成制御装置100bは、ステップST1107の処理を実行した後、当該フローチャートの処理を終了し、ステップST1101の処理に戻って、当該フローチャートの処理を繰り返し実行する。
なお、ステップST1102及びステップST1105の処理は、図11に示すフローチャートが実行されている間、バックグランド処理にて、適宜繰り返して実行されるようにしても良い。
以上のように、車内監視情報生成制御装置100bは、無人運転車両1の中を撮影した画像を取得する画像取得部101と、無人運転車両1において異常が発生しているか否かを判定する異常判定部102と、画像取得部101が取得した画像に基づいて、当該画像に写った無人運転車両1の中にいる乗員を特定し得ない車内監視情報を生成する車内監視情報生成部103bと、異常判定部102が判定した判定結果に基づいて、無人運転車両1において異常が発生していないと判定されている場合、車内監視情報生成部103bが生成した車内監視情報を無人運転車両1の外部に送信する送信制御部104と、送信制御部104が車内監視情報を無人運転車両1の外部に送信する際の単位時間あたりのデータ転送量を示すスループット値を推定するスループット値推定部105と、スループット値推定部105が推定したスループット値に基づいて、車内監視情報生成部103bが生成する車内監視情報の態様を決定する態様決定部106と、を備え、車内監視情報生成部103bは、態様決定部106が決定した態様に基づいて、車内監視情報を生成するようにした。
このように構成することで、車内監視情報生成制御装置100bは、車内監視情報を無人運転車両1の外部に送信する際の単位時間あたりのデータ転送量を示すスループット値に応じた情報としつつ、乗員のプライバシーに配慮した車内監視を行うことができる。
実施の形態3.
図12を参照して実施の形態3について説明する。
図12は、実施の形態3に係る車内監視情報生成制御装置100cが搭載された無人運転車両1の要部の一例を示すブロック図である。
実施の形態3に係る車内監視情報生成制御装置100cは、実施の形態2に係る車内監視情報生成制御装置100bと比較して、実施の形態3に係る車内監視情報生成制御装置100cにおけるスループット値推定部105aの動作が、実施の形態2に係る車内監視情報生成制御装置100bにおけるスループット値推定部105の動作と相違する。また、実施の形態3に係る車内監視情報生成制御装置100cの構成は、実施の形態2に係る車内監視情報生成制御装置100bの構成と比較して、位置情報取得部107及び他車両情報取得部108が追加されている。
実施の形態3に係る車内監視情報生成制御装置100cの構成において、実施の形態2に係る車内監視情報生成制御装置100bと同様の構成については、同じ符号を付して重複した説明を省略する。すなわち、図8に記載した符号と同じ符号を付した図8の構成については、説明を省略する。
車内監視情報生成制御装置100cは、無人運転により走行する無人運転車両1に搭載されている。
無人運転車両1は、車内監視情報生成制御装置100c、撮像装置11、センサ12、及び通信機器13bを備える。
車内監視情報生成制御装置100cは、撮像装置11から取得した画像に基づいて車内監視情報を生成し、センサ12から取得した検知情報に基づいて判定される無人運転車両1の状態に応じて、車内監視情報を、無人運転車両1の外部に通信機器13を介して送信する。
車内監視情報生成制御装置100cは、画像取得部101、異常判定部102、車内監視情報生成部103b、送信制御部104、スループット値推定部105a、態様決定部106、位置情報取得部107、及び他車両情報取得部108を備える。
位置情報取得部107は、無人運転車両1が走行する位置を示す位置情報を取得する。より具体的には、例えば、位置情報取得部107は、無人運転により走行する無人運転車両1に搭載された自動運転システム(図示せず)から、無人運転車両1が走行する位置を示す位置情報を取得する。位置情報取得部107が、無人運転車両1が走行する位置を示す位置情報を取得する方法は、上述の方法に限らない。例えば、位置情報取得部107は、航法衛星からGPS信号等の航法信号を受信する航法信号受信機(図示せず)等から取得した航法信号に基づいて、無人運転車両1が走行する位置を示す位置情報を生成しても良い。
他車両情報取得部108は、無人運転車両1が走行する位置から所定範囲内にある位置を走行している他車両(図示せず)に搭載された通信機器(図示せず)の電波状況又は通信状況を示す他車両情報を取得する。
より具体的には、例えば、他車両情報取得部108は、位置情報取得部107が取得した無人運転車両1が走行する位置を示す位置情報を、通信機器13bを介して、無人運転車両1の外部に設けられた遠隔監視装置又は遠隔監視システム等の外部装置又は外部システムに送信し、他車両情報取得部108は、通信機器13bを介して、当該外部装置又は外部システムから無人運転車両1が走行する位置から所定範囲内にある位置を走行している他車両に搭載された通信機器の電波状況又は通信状況を示す他車両情報を取得する。
無人運転車両1が走行する位置から所定範囲内にある位置とは、より具体的には、例えば、無人運転車両1が走行する位置を中心とする半径300メートルの円で囲まれた領域内にある位置である。無人運転車両1が走行する位置から所定範囲内にある位置は、上述の地点に限定されるものではない。例えば、無人運転車両1が走行する位置から所定範囲内にある位置は、無人運転車両1が走行を予定する経路上の位置、且つ、無人運転車両1が走行する位置から所定範囲内にある位置であっても良い。
他車両情報取得部108が他車両情報を取得する方法は、上述の方法に限定されるものではない。例えば、他車両情報取得部108は、周知の車車間通信技術により、他車両から他車両情報を取得しても良い。
スループット値推定部105aは、無人運転車両1における電波状況又は通信状況と、他車両情報取得部108が取得した他車両情報に含まれる他車両における電波状況又は通信状況と、に基づいて、スループット値を推定する。
より具体的には、例えば、スループット値推定部105aは、無人運転車両1における電波状況又は通信状況と、他車両における電波状況又は通信状況とを比較して、より悪い電波状況又は通信状況に基づいて、スループット値を推定する。
スループット値推定部105aが無人運転車両1における電波状況又は通信状況と、他車両における電波状況又は通信状況とに基づいて、スループット値を推定する方法は、上述の方法に限定されるものではない。例えば、無人運転車両1における電波状況又は通信状況と、他車両における電波状況又は通信状況とを、例えば、無人運転車両1と他車両との距離に基づいて、加重平均して求めた電波状況又は通信状況に基づいて、スループット値を推定しても良い。
なお、実施の形態3に係る車内監視情報生成制御装置100cにおける画像取得部101、異常判定部102、車内監視情報生成部103b、送信制御部104、スループット値推定部105a、態様決定部106、位置情報取得部107、及び他車両情報取得部108の各機能は、実施の形態1において図2A及び図2Bに一例を示したハードウェア構成におけるプロセッサ201及びメモリ202により実現されるものであっても良く、又は処理回路203により実現されるものであっても良い。
図13を参照して、実施の形態3に係る車内監視情報生成制御装置100cの動作について説明する。
図13は、実施の形態3に係る車内監視情報生成制御装置100cの処理の一例を説明するフローチャートである。
まず、ステップST1301にて、画像取得部101は、上述のとおり、撮像装置11から、無人運転車両1の中を撮影した画像を取得する。
次に、ステップST1302にて、位置情報取得部107は、上述のとおり、無人運転車両1が走行する地点の位置情報を取得する。
次に、ステップST1303にて、他車両情報取得部108は、上述のとおり、無人運転車両1が走行する位置における所定範囲内の位置を走行している他車両に搭載された通信機器の電波状況又は通信状況を示す他車両情報を取得する。
次に、ステップST1304にて、スループット値推定部105aは、上述のとおり、送信制御部104が車内監視情報を無人運転車両1の外部に送信する際の単位時間あたりのデータ転送量を示すスループット値を推定する。
次に、ステップST1305にて、態様決定部106は、上述のとおり、スループット値推定部105aが推定したスループット値に基づいて、車内監視情報生成部103bが生成する車内監視情報の態様を決定する。
次に、ステップST1306にて、車内監視情報生成部103bは、上述のとおり、車内監視情報生成部103bは、態様決定部106が決定した態様に基づいて、車内監視情報を生成する。
次に、ステップST1307にて、異常判定部102は、上述のとおり、無人運転車両1において異常が発生しているか否かを判定する。
ステップST1307において、異常判定部102が無人運転車両1において異常が発生していいないと判定した場合、ステップST1308にて、送信制御部104は、上述のとおり、車内監視情報生成部103bが生成した車内監視情報を無人運転車両1の外部に送信する。車内監視情報生成制御装置100cは、ステップST1308の処理の後、当該フローチャートの処理を終了し、ステップST1301の処理に戻って、当該フローチャートの処理を繰り返し実行する。
ステップST1307において、異常判定部102が無人運転車両1において異常が発生していると判定した場合、ステップST1309にて、送信制御部104は、上述のとおり、画像取得部101が取得した画像に基づく異常時監視画像を無人運転車両1の外部に送信する。車内監視情報生成制御装置100cは、ステップST1309の処理の後、当該フローチャートの処理を終了し、ステップST1301の処理に戻って、当該フローチャートの処理を繰り返し実行する。
なお、ステップST1301、ステップST1302、ステップST1304、及びステップST1307の処理は、図13に示すフローチャートが実行されている間、バックグランド処理にて、適宜繰り返して実行されるようにしても良い。
以上のように、車内監視情報生成制御装置100cは、無人運転車両1の中を撮影した画像を取得する画像取得部101と、無人運転車両1において異常が発生しているか否かを判定する異常判定部102と、画像取得部101が取得した画像に基づいて、当該画像に写った無人運転車両1の中にいる乗員を特定し得ない車内監視情報を生成する車内監視情報生成部103bと、異常判定部102が判定した判定結果に基づいて、無人運転車両1において異常が発生していないと判定されている場合、車内監視情報生成部103bが生成した車内監視情報を無人運転車両1の外部に送信する送信制御部104と、送信制御部104が車内監視情報を無人運転車両1の外部に送信する際の単位時間あたりのデータ転送量を示すスループット値を推定するスループット値推定部105aと、スループット値推定部105aが推定したスループット値に基づいて、車内監視情報生成部103bが生成する車内監視情報の態様を決定する態様決定部106と、無人運転車両1が走行する位置における所定範囲内の位置を走行している他車両に搭載された通信機器の電波状況又は通信状況を示す他車両情報を取得する他車両情報取得部108と、を備え、スループット値推定部105aは、無人運転車両1における電波状況又は通信状況と、他車両情報取得部108が取得した他車両情報に含まれる他車両における電波状況又は通信状況と、に基づいて、スループット値を推定し、車内監視情報生成部103bは、態様決定部106が決定した態様に基づいて、車内監視情報を生成するようにした。
このように構成することで、車内監視情報生成制御装置100cは、車内監視情報を無人運転車両1の外部に送信する際の単位時間あたりのデータ転送量を示すスループット値をより精度良く推定することができる。
なお、この発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。
この発明に係る車内監視情報生成制御装置は無人運転車両に適用することができる。
1 無人運転車両、11 撮像装置、12 センサ、13,13a,13b 通信機器、100,100a,100b,100c 車内監視情報生成制御装置、101 画像取得部、102 異常判定部、103,103a,103b 車内監視情報生成部、104,104a 送信制御部、105,105a スループット値推定部、106 態様決定部、107 位置情報取得部、108 他車両情報取得部、131,133 画像解析部、132 画像加工部、134 人物識別情報生成部、135 車内監視情報生成制御部、201 プロセッサ、202 メモリ、203 処理回路。

Claims (7)

  1. 無人運転車両の中を撮影した画像を取得する画像取得部と、
    前記無人運転車両において異常が発生しているか否かを判定する異常判定部と、
    前記画像取得部が取得した前記画像に基づいて、当該画像に写った前記無人運転車両の中にいる乗員を特定し得ない車内監視情報を生成する車内監視情報生成部と、
    前記異常判定部が判定した判定結果に基づいて、前記無人運転車両において異常が発生していないと判定されている場合、前記車内監視情報生成部が生成した前記車内監視情報を前記無人運転車両の外部に送信する送信制御部と、
    前記送信制御部が前記車内監視情報を前記無人運転車両の外部に送信する際の単位時間あたりのデータ転送量を示すスループット値を推定するスループット値推定部と、
    前記スループット値推定部が推定した前記スループット値に基づいて、前記車内監視情報生成部が生成する前記車内監視情報の態様を決定する態様決定部と、
    を備え
    前記態様決定部が前記スループット値に基づいて決定する前記車内監視情報の前記態様は、前記画像における前記画像に写った前記乗員の領域を変形した変形画像情報、当該領域の輪郭を抽出した輪郭画像情報、又は前記画像に写った前記乗員を識別した人物識別情報のいずれかであり、
    前記車内監視情報生成部は、前記態様決定部が決定した前記態様に基づいて、前記車内監視情報を生成すること
    を特徴とする車内監視情報生成制御装置。
  2. 前記送信制御部は、前記無人運転車両において異常が発生していると判定されている場合、前記画像に基づく異常時監視画像を前記無人運転車両の外部に送信すること
    を特徴とする請求項1記載の車内監視情報生成制御装置。
  3. 前記スループット値推定部は、前記送信制御部が前記車内監視情報を前記無人運転車両の外部に送信する際に用いる通信機器の電波状況又は通信状況に基づいて、前記スループット値を推定すること
    を特徴とする請求項記載の車内監視情報生成制御装置。
  4. 前記無人運転車両が走行している位置から所定範囲内にある位置を走行している他車両に搭載された前記通信機器の電波状況又は通信状況を示す他車両情報を取得する他車両情報取得部を備え、
    前記スループット値推定部は、前記無人運転車両における電波状況又は通信状況と、前記他車両情報取得部が取得した前記他車両情報に含まれる前記他車両における電波状況又は通信状況と、に基づいて、前記スループット値を推定すること
    を特徴とする請求項記載の車内監視情報生成制御装置。
  5. 前記車内監視情報生成部は、前記画像における前記画像に写った前記乗員の前記領域を画像変形処理することにより、当該画像に写った前記乗員を特定し得ない前記車内監視情報を生成すること
    を特徴とする請求項1記載の車内監視情報生成制御装置。
  6. 前記車内監視情報生成部は、前記画像における前記画像に写った前記乗員の前記領域を輪郭抽出処理することにより、当該画像に写った前記乗員を特定し得ない前記車内監視情報を生成すること
    を特徴とする請求項1記載の車内監視情報生成制御装置。
  7. 画像取得部が、無人運転車両の中を撮影した画像を取得し、
    異常判定部が、前記無人運転車両において異常が発生しているか否かを判定し、
    車内監視情報生成部が、前記画像取得部により取得された前記画像に基づいて、当該画像に写った前記無人運転車両の中にいる乗員を特定し得ない車内監視情報を生成し、
    送信制御部が、前記異常判定部により判定された判定結果に基づいて、前記無人運転車両において異常が発生していないと判定されている場合、前記車内監視情報生成部により生成された前記車内監視情報を前記無人運転車両の外部に送信し、
    スループット値推定部が、前記送信制御部が前記車内監視情報を前記無人運転車両の外部に送信する際の単位時間あたりのデータ転送量を示すスループット値を推定し、
    態様決定部が、前記スループット値推定部が推定した前記スループット値に基づいて、前記車内監視情報生成部が生成する前記車内監視情報の態様を決定すること
    を特徴とする車内監視情報生成制御方法であって、
    前記態様決定部が前記スループット値に基づいて決定する前記車内監視情報の前記態様は、前記画像における前記画像に写った前記乗員の領域を変形した変形画像情報、当該領域の輪郭を抽出した輪郭画像情報、又は前記画像に写った前記乗員を識別した人物識別情報のいずれかであり、
    前記車内監視情報生成部は、前記態様決定部が決定した前記態様に基づいて、前記車内監視情報を生成すること
    を特徴とする車内監視情報生成制御方法。
JP2020546632A 2018-09-13 2018-09-13 車内監視情報生成制御装置及び車内監視情報生成制御方法 Active JP6820133B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/034017 WO2020054030A1 (ja) 2018-09-13 2018-09-13 車内監視情報生成制御装置及び車内監視情報生成制御方法

Publications (2)

Publication Number Publication Date
JP6820133B2 true JP6820133B2 (ja) 2021-01-27
JPWO2020054030A1 JPWO2020054030A1 (ja) 2021-02-15

Family

ID=69777188

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020546632A Active JP6820133B2 (ja) 2018-09-13 2018-09-13 車内監視情報生成制御装置及び車内監視情報生成制御方法

Country Status (5)

Country Link
US (1) US11854274B2 (ja)
JP (1) JP6820133B2 (ja)
CN (1) CN112673405A (ja)
DE (1) DE112018007886B4 (ja)
WO (1) WO2020054030A1 (ja)

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002033952A (ja) 2000-07-14 2002-01-31 Takeshi Takahashi 静止画カメラによる遠隔自動撮影とその無人運転を実現する方法
JP5529593B2 (ja) 2010-03-11 2014-06-25 セコム株式会社 画像監視装置
JP5467907B2 (ja) * 2010-03-25 2014-04-09 セコム株式会社 車載画像監視装置
EP3654627A3 (en) 2011-06-28 2020-08-05 NCR Corporation Image processing to prevent access to private information
JP3178027U (ja) * 2012-06-08 2012-08-30 株式会社ソキエ セキュリティ機能付安否確認システム
JP5692215B2 (ja) 2012-06-15 2015-04-01 カシオ計算機株式会社 撮像装置、撮像方法及びプログラム
JP2014216828A (ja) 2013-04-25 2014-11-17 株式会社テスコムジャパン 監視カメラ
JP2016196285A (ja) * 2015-04-03 2016-11-24 株式会社デンソー 走行制御装置及び走行制御方法
CN204801768U (zh) * 2015-05-25 2015-11-25 浙江商业职业技术学院 一种汽车驾驶员状态监测装置
JP6504364B2 (ja) * 2015-11-27 2019-04-24 パナソニックIpマネジメント株式会社 モニタリング装置、モニタリングシステムおよびモニタリング方法
US9854529B2 (en) * 2015-12-03 2017-12-26 Google Llc Power sensitive wireless communication radio management
EP3913591A1 (en) * 2016-01-29 2021-11-24 KiwiSecurity Software GmbH Methods and apparatus for using video analytics to detect regions for privacy protection within images from moving cameras
CN107200022B (zh) * 2016-03-15 2019-11-12 奥迪股份公司 驾驶辅助系统和方法
JP6837200B2 (ja) 2016-07-29 2021-03-03 パナソニックIpマネジメント株式会社 監視カメラ、見守り監視システム及び見守り監視方法
JP6833391B2 (ja) 2016-08-05 2021-02-24 株式会社東芝 車載通信機器、および該車載通信機器にサービスを提供するサービス提供システム、ならびにプログラム
JP2018120497A (ja) 2017-01-27 2018-08-02 株式会社Jvcケンウッド 記録装置、記録方法、及びプログラム
WO2018138983A1 (ja) * 2017-01-27 2018-08-02 株式会社Jvcケンウッド 記録装置、記録方法、及びプログラム
US11687493B1 (en) * 2022-02-28 2023-06-27 Rockwell Automation Technologies, Inc. Process recipe digital twin structuring

Also Published As

Publication number Publication date
JPWO2020054030A1 (ja) 2021-02-15
CN112673405A (zh) 2021-04-16
DE112018007886B4 (de) 2023-05-17
US11854274B2 (en) 2023-12-26
US20210209384A1 (en) 2021-07-08
WO2020054030A1 (ja) 2020-03-19
DE112018007886T5 (de) 2021-04-22

Similar Documents

Publication Publication Date Title
US11625856B2 (en) Localization systems and methods
US10867195B2 (en) Systems and methods for monitoring driver state
CN108388837B (zh) 一种用于评估自主车辆的内部的系统和方法
EP3340205B1 (en) Information processing device, information processing method, and program
US9727793B2 (en) System and method for image based vehicle localization
JP7014218B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
WO2019169031A1 (en) Method for determining driving policy
US11288777B2 (en) Image processing device, image processing method, and program
WO2018145028A1 (en) Systems and methods of a computational framework for a driver's visual attention using a fully convolutional architecture
KR20200043391A (ko) 화상 블러 보정을 위한 화상 처리, 화상 처리 방법 및 프로그램
US11062141B2 (en) Methods and apparatuses for future trajectory forecast
CN111627057B (zh) 一种距离测量方法、装置及服务器
US11713046B2 (en) Driving assistance apparatus and data collection system
WO2018150685A1 (ja) 画像処理装置、および画像処理方法、並びにプログラム
WO2021090943A1 (ja) 画像処理装置および画像処理方法
WO2018168038A1 (ja) 運転者の着座判定装置
JP6820133B2 (ja) 車内監視情報生成制御装置及び車内監視情報生成制御方法
WO2020003764A1 (ja) 画像処理装置、移動装置、および方法、並びにプログラム
JP2021114048A (ja) 情報処理装置、車両、車両の制御方法、プログラム、情報処理サーバ、情報処理方法
CN111191496A (zh) 面部识别装置和面部识别方法
US11080536B2 (en) Image processing device, non-transitory readable recording medium storing program, information processing system, and control method of image processing device
US20230109171A1 (en) Operator take-over prediction
US20230033243A1 (en) Systems and methods for object proximity monitoring around a vehicle
EP4354398A1 (en) Method and system of pose estimation
CN111681199B (zh) 检测图像有效性的方法及装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200914

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200914

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200914

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20201118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201229

R150 Certificate of patent or registration of utility model

Ref document number: 6820133

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350