JP7081132B2 - Information processing method and information processing equipment - Google Patents

Information processing method and information processing equipment Download PDF

Info

Publication number
JP7081132B2
JP7081132B2 JP2017237593A JP2017237593A JP7081132B2 JP 7081132 B2 JP7081132 B2 JP 7081132B2 JP 2017237593 A JP2017237593 A JP 2017237593A JP 2017237593 A JP2017237593 A JP 2017237593A JP 7081132 B2 JP7081132 B2 JP 7081132B2
Authority
JP
Japan
Prior art keywords
vehicle
current
personnel
information
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017237593A
Other languages
Japanese (ja)
Other versions
JP2019104354A (en
Inventor
純 河西
裕史 井上
剛仁 寺口
乘 西山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2017237593A priority Critical patent/JP7081132B2/en
Publication of JP2019104354A publication Critical patent/JP2019104354A/en
Application granted granted Critical
Publication of JP7081132B2 publication Critical patent/JP7081132B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Description

本発明は、情報処理方法及び情報処理装置に関する。 The present invention relates to an information processing method and an information processing apparatus.

車両制御によって運転支援を行う運転支援システムにおいて、車両制御を実行すべき地点を学習地点として取得し、車両が学習地点を再度走行した際に車両制御を行う構成において、評価対象区間内の学習地点で車両制御が行われた回数である制御回数を評価対象区間内で車両制御を実行すべきであった地点の数である要制御地点で除した学習率を表示部に表示する方法が知られている(特許文献1)。 In a driving support system that provides driving support by vehicle control, a learning point within the evaluation target section is acquired in a configuration in which a point at which vehicle control should be executed is acquired as a learning point and vehicle control is performed when the vehicle travels again at the learning point. A method is known in which the learning rate obtained by dividing the number of times of control, which is the number of times vehicle control is performed in, by the number of points requiring control, which is the number of points where vehicle control should have been executed in the evaluation target section, is displayed on the display unit. (Patent Document 1).

特開2013-210328号公報Japanese Unexamined Patent Publication No. 2013-210328

一般的に、運転者のみ乗車している場合に行われる運転と、運転者の他に同乗者がいる場合に行われる運転とでは異なる場合がある。特に、複数の同乗者がいる場合や同乗者が低年齢の子供又は高齢者の場合には、同乗者の人数や年齢等に応じて最適な運転特性が異なるケースが増えてくる。従来技術では、同乗者について考慮されず、運転者自身の運転特性に適した運転支援が行われる。そのため、同乗者を考慮した最適な車両の制御パラメータを決定できない、という問題がある。 In general, the driving performed when only the driver is on board may differ from the driving performed when there is a passenger other than the driver. In particular, when there are a plurality of passengers or when the passengers are young children or elderly people, there are increasing cases where the optimum driving characteristics differ depending on the number and age of the passengers. In the prior art, the passenger is not considered, and the driving support suitable for the driver's own driving characteristics is provided. Therefore, there is a problem that the optimum vehicle control parameters in consideration of passengers cannot be determined.

本発明が解決しようとする課題は、同乗者を考慮した最適な制御パラメータを決定することが可能な情報処理方法及び情報処理装置を提供することである。 An object to be solved by the present invention is to provide an information processing method and an information processing apparatus capable of determining an optimum control parameter in consideration of a passenger.

本発明は、車両の室内を撮像するカメラから出力される車内の撮像画像、及び車両の室内の音声を取得するマイクから出力される車内の音声情報の少なくも一方を取得し、取得した情報に基づいて、車内に存在する人物の間の関係性を推定し、車内の人数と車内の人物間の関係性が関連付けられた車内の人員構成を推定し、車両の走行状態を検出するセンサから車両の走行に関する制御パラメータを取得し、車内の人員構成と制御パラメータが関連付けられた車両の走行履歴を記憶装置に蓄積させ、蓄積された走行履歴から特定された車内の人員構成ごとの運転者の運転特性と、当該運転特性に対応する制御パラメータを関連付けることで、車内の人員構成に対応する制御パラメータを車内の人員構成毎ごとに特定することで、上記課題を解決する。
The present invention acquires at least one of the captured image in the vehicle output from the camera that captures the interior of the vehicle and the audio information in the vehicle output from the microphone that acquires the sound in the vehicle interior, and uses the acquired information. Based on this, the relationship between the persons existing in the vehicle is estimated, the personnel composition in the vehicle in which the number of people in the vehicle and the relationship between the persons in the vehicle are related is estimated, and the vehicle is detected from the sensor that detects the running state of the vehicle. The control parameters related to the driving of the vehicle are acquired, the driving history of the vehicle in which the personnel configuration in the vehicle and the control parameters are associated is stored in the storage device, and the driver's driving for each personnel configuration in the vehicle specified from the accumulated driving history. By associating the characteristics with the control parameters corresponding to the driving characteristics, the control parameters corresponding to the personnel configurations in the vehicle are specified for each personnel configuration in the vehicle, thereby solving the above-mentioned problems.

本発明によれば、同乗者を考慮した最適な制御パラメータを決定することができる。 According to the present invention, it is possible to determine the optimum control parameters in consideration of the passenger.

図1は、第1実施形態において、運転知識抽出システムのブロック構成図を示す図である。FIG. 1 is a diagram showing a block configuration diagram of a driving knowledge extraction system in the first embodiment. 図2は、車内人員構成推定処理を説明するための図である。FIG. 2 is a diagram for explaining the in-vehicle personnel composition estimation process. 図3は、車載装置が車両の走行履歴情報をデータセンタに送信するまでのフローチャートである。FIG. 3 is a flowchart of the vehicle-mounted device transmitting vehicle travel history information to the data center. 図4は、人員構成ごとに最適な制御パラメータ特定する処理を説明するためのフローチャートである。FIG. 4 is a flowchart for explaining a process for specifying an optimum control parameter for each personnel configuration. 図5Aは、車両に乗車してから車内の人員構成に最適な制御パラメータが提供されるまでの処理を説明するためのフローチャートである。FIG. 5A is a flowchart for explaining the process from getting into the vehicle to providing the optimum control parameters for the personnel configuration in the vehicle. 図5Bは、車両に乗車してから車内の人員構成に最適な制御パラメータが提供されるまでの処理を説明するためのフローチャートである。FIG. 5B is a flowchart for explaining the process from getting into the vehicle to providing the optimum control parameters for the personnel configuration in the vehicle.

以下、本発明の実施形態を図面に基づいて説明する。 Hereinafter, embodiments of the present invention will be described with reference to the drawings.

本実施形態では、本発明に係る情報処理装置を、車両に搭載された車載装置100と、データセンタ200と協動する情報提供処理システムに適用した場合を例にして説明する。 In the present embodiment, the case where the information processing device according to the present invention is applied to an in-vehicle device 100 mounted on a vehicle and an information providing processing system that cooperates with a data center 200 will be described as an example.

図1は、情報提供システム1のブロック構成を示す図である。本実施形態の情報提供システム1は、車載装置100と、データセンタ200を備える。情報提供システム1、車載装置100、及びこれらが備える各装置は、CPUなどの演算処理装置を備え、演算処理を実行するコンピュータである。 FIG. 1 is a diagram showing a block configuration of the information providing system 1. The information providing system 1 of the present embodiment includes an in-vehicle device 100 and a data center 200. The information providing system 1, the in-vehicle device 100, and each of the devices provided therein are computers including a CPU and other arithmetic processing devices and executing arithmetic processing.

まず、車載装置100について説明する。本実施形態の車載装置100は、車載カメラ110、車載マイク120、車載操作機器群130、車載センサ群140、車載ディスプレイ150、車載通信装置160、及び車載制御装置170を備えている。車載装置100を構成する各装置は、相互に情報の授受を行うためにCAN(Controller Area Network)その他の車載LANによって接続されている。 First, the in-vehicle device 100 will be described. The in-vehicle device 100 of the present embodiment includes an in-vehicle camera 110, an in-vehicle microphone 120, an in-vehicle operating device group 130, an in-vehicle sensor group 140, an in-vehicle display 150, an in-vehicle communication device 160, and an in-vehicle control device 170. Each device constituting the vehicle-mounted device 100 is connected by a CAN (Controller Area Network) or other vehicle-mounted LAN in order to exchange information with each other.

車載カメラ110は、車両の室内に設けられ、室内の様子を撮像する。車載カメラ110は、撮像画像を車載制御装置170に出力する。車載カメラ110の設置位置及び車載カメラ110の数は、特に限定されない。例えば、車載カメラ110は、インストルメンタルパネルに設けられ、前方座席に着座する人物を撮像する。また、例えば、車載カメラ110は、ルームミラーの近傍に設けられ、後方座席に着座する人物を撮像する。 The in-vehicle camera 110 is provided in the interior of the vehicle and captures the state of the interior. The vehicle-mounted camera 110 outputs the captured image to the vehicle-mounted control device 170. The installation position of the vehicle-mounted camera 110 and the number of the vehicle-mounted cameras 110 are not particularly limited. For example, the vehicle-mounted camera 110 is provided on the instrument panel and captures a person sitting in the front seat. Further, for example, the vehicle-mounted camera 110 is provided in the vicinity of the rear-view mirror and captures a person sitting in the rear seat.

車載マイク120は、車両の室内に設けられ、車内に発生した音声を収集する。車載マイク120は、収集した音声をデジタル信号に変換し、音声情報として車載制御装置170に出力する。車載マイク120の設置位置及び車載マイク120の数は、特に限定されない。例えば、車載マイク120は、座席ごとに座席の所定位置に設けられ、車内での会話を収集する。 The in-vehicle microphone 120 is provided in the interior of the vehicle and collects the voice generated in the vehicle. The vehicle-mounted microphone 120 converts the collected voice into a digital signal and outputs it as voice information to the vehicle-mounted control device 170. The installation position of the vehicle-mounted microphone 120 and the number of the vehicle-mounted microphone 120 are not particularly limited. For example, the vehicle-mounted microphone 120 is provided at a predetermined position on each seat to collect conversations in the vehicle.

車載操作機器群130は、運転者が操作可能な操作機器で構成されている。車載操作機器群130には、ステアリングホイール、アクセルペダル、ブレーキペダル、シフトレバー、左右のウィンカーランプ(方向指示器)を点滅させるターンシグナルスイッチ、ハザードランプを点滅させるハザードスイッチ、ワイパーを操作するためのワイパースイッチ、車両の走行経路を設定するためのナビゲーション装置を少なくとも含む。なお、ターンシグナルスイッチは、ヘッドランプ(ヘッドライトとも言う)を操作するための機能も兼ね備えている。車載操作機器群130は、運転者が操作した操作情報を車載制御装置170に出力する。 The in-vehicle operating device group 130 is composed of operating devices that can be operated by the driver. The in-vehicle operation device group 130 includes a steering wheel, an accelerator pedal, a brake pedal, a shift lever, a turn signal switch that blinks left and right turn signal lamps (direction indicators), a hazard switch that blinks a hazard lamp, and a wiper for operating the wiper. Includes at least a wiper switch and a navigation device for setting the vehicle's travel path. The turn signal switch also has a function for operating a headlamp (also called a headlight). The in-vehicle operation device group 130 outputs the operation information operated by the driver to the in-vehicle control device 170.

また、車両の走行特性モードを変更できる車両の場合、車載操作機器群130には、車両の走行特性モードを設定するための機器(例えば、スイッチ)も含まれる。車両の走行特性モードとしては、ノーマルモード、スノーモード、スポーツモード、低燃費モード(エコモード)が一例として挙げられる。運転者が走行特性モードを設定すると、車両の走行に関する制御パラメータは、設定された走行特性モードに対応した走行シーンに適した値に設定される。なお、車両の走行に関する制御パラメータの詳細については後述する。 Further, in the case of a vehicle in which the traveling characteristic mode of the vehicle can be changed, the vehicle-mounted operation device group 130 also includes an apparatus (for example, a switch) for setting the traveling characteristic mode of the vehicle. Examples of the vehicle driving characteristic mode include a normal mode, a snow mode, a sports mode, and a fuel-efficient mode (eco mode). When the driver sets the driving characteristic mode, the control parameters related to the traveling of the vehicle are set to values suitable for the driving scene corresponding to the set driving characteristic mode. The details of the control parameters related to the running of the vehicle will be described later.

例えば、スノーモードは、雪路や凍結路を含む路面摩擦係数が所定値以下の走行路の走行に対応した走行特性モードである。スノーモードに設定されると、変速比がノーマルモードに比べて高速側に設定され、車両は駆動力が小さくなるように走行することができる。また、例えば、スポーツモードは、上り坂や下り坂での走行に対応した走行特性モードである。スポーツモードに設定されると、エンジン回転速度がノーマルモードに比べて高速側に設定され、車両は上り坂でも急加速が可能になる。 For example, the snow mode is a traveling characteristic mode corresponding to traveling on a traveling road having a road surface friction coefficient of a predetermined value or less, including a snowy road and an icy road. When the snow mode is set, the gear ratio is set to the high speed side as compared with the normal mode, and the vehicle can run so that the driving force is small. Further, for example, the sports mode is a running characteristic mode corresponding to running on an uphill or a downhill. When set to sports mode, the engine speed is set to a higher speed side than in normal mode, and the vehicle can accelerate rapidly even on an uphill slope.

車載センサ群140は、車両の走行状態を検出するセンサ及び機器等で構成されている。車載センサ群140は、状態検出装置141、位置検出装置142、及び対象物検出装置143が含まれる。車載センサ群140は、各センサ又は各装置で検出された検出結果を車載制御装置170に出力する。 The in-vehicle sensor group 140 is composed of sensors, devices, and the like that detect the traveling state of the vehicle. The in-vehicle sensor group 140 includes a state detection device 141, a position detection device 142, and an object detection device 143. The in-vehicle sensor group 140 outputs the detection result detected by each sensor or each device to the in-vehicle control device 170.

状態検出装置141は、車両の状態を検出する装置である。状態検出装置141には、舵角センサ、アクセル開度センサ、ブレーキ開度センサ、速度センサ、加速度センサ、及び姿勢センサが少なくとも含まれる。舵角センサは、操舵角、操舵速度、操舵加速度を検出し、アクセル開度センサは、アクセル開度を検出し、ブレーキ開度センサは、ブレーキ開度を検出する。また、速度センサは、車両の移動速度を検出し、加速度センサは、車両の前後方向の加速度、及び車両の横方向(左右方向)の加速度の少なくとも一方を検出する。姿勢センサは、車両のピッチ角、車両のヨー角、車両のロール角、サスペンションストローク量等の車両の姿勢に関する情報を検出する。 The state detection device 141 is a device that detects the state of the vehicle. The state detection device 141 includes at least a steering angle sensor, an accelerator opening degree sensor, a brake opening degree sensor, a speed sensor, an acceleration sensor, and an attitude sensor. The steering angle sensor detects the steering angle, steering speed, and steering acceleration, the accelerator opening sensor detects the accelerator opening, and the brake opening sensor detects the brake opening. Further, the speed sensor detects the moving speed of the vehicle, and the acceleration sensor detects at least one of the acceleration in the front-rear direction of the vehicle and the acceleration in the lateral direction (left-right direction) of the vehicle. The posture sensor detects information about the posture of the vehicle such as the pitch angle of the vehicle, the yaw angle of the vehicle, the roll angle of the vehicle, and the suspension stroke amount.

また、車両の走行特性モードを変更できる車両の場合、状態検出装置141は、運転者により車載操作機器群130を介して設定された車両の走行特性モードの種類を検出する。 Further, in the case of a vehicle in which the traveling characteristic mode of the vehicle can be changed, the state detection device 141 detects the type of the traveling characteristic mode of the vehicle set by the driver via the in-vehicle operating device group 130.

位置検出装置142は、車両が走行している位置を検出する装置である。位置検出装置142には、GPS(Global Positioning System)を備える装置が少なくとも含まれる。位置検出装置142は、上述したナビゲーション装置が備える、地図情報及び道路情報を参照し、車両が現在走行している位置を検出する。地図情報は、地点と、道路、構造物、施設などが対応づけられた情報である。道路情報は、位置情報と道路の曲率、傾斜などの情報が対応づけられた情報である。 The position detection device 142 is a device that detects the position where the vehicle is traveling. The position detecting device 142 includes at least a device including a GPS (Global Positioning System). The position detecting device 142 refers to the map information and the road information provided in the navigation device described above, and detects the position where the vehicle is currently traveling. Map information is information in which points are associated with roads, structures, facilities, and the like. Road information is information in which location information is associated with information such as the curvature and slope of a road.

対象物検出装置143は、車両の周囲の状況を検出する装置である。対象物検出装置143には、カメラ等の撮像装置、ソナー装置、レーダー装置が少なくとも含まれる。撮像装置は、車両の周囲に存在する障害物を含む対象物の存在、その存在位置及び自車両と対象物までの距離を検出する。対象物には、歩行者、二輪車、四輪車(他車両)等の移動物体や、標識などの静止物、路面に表示された停止線又は車線境界線等の二次元の標識が含まれる。ソナー装置、レーダー装置も同様の機能を備えている。レーダー装置としては、ミリ波レーダー、レーザーレーダー、超音波レーダー等が一例として挙げられる。本実施形態では、対象物検出装置143は、自車両の走行している位置と先行車両が走行している位置から、自車両と先行車両の間の距離(先行車両との車間距離)を測定する。 The object detection device 143 is a device that detects the situation around the vehicle. The object detection device 143 includes at least an image pickup device such as a camera, a sonar device, and a radar device. The image pickup device detects the existence of an object including an obstacle existing around the vehicle, the position of the object, and the distance between the own vehicle and the object. Objects include moving objects such as pedestrians, two-wheeled vehicles, and four-wheeled vehicles (other vehicles), stationary objects such as signs, and two-dimensional signs such as stop lines or lane boundaries displayed on the road surface. Sonar devices and radar devices have similar functions. Examples of radar devices include millimeter-wave radars, laser radars, ultrasonic radars, and the like. In the present embodiment, the object detection device 143 measures the distance between the own vehicle and the preceding vehicle (distance between the preceding vehicle) from the position where the own vehicle is traveling and the position where the preceding vehicle is traveling. do.

車載ディスプレイ150は、車両の室内に設けられ、車載操作機器群130からの操作情報に応じて、例えば、ナビゲーションシステムにおけるルート案内用の画面等の映像を表示する。 The in-vehicle display 150 is provided in the interior of the vehicle, and displays an image such as a screen for route guidance in a navigation system according to operation information from the in-vehicle operation device group 130.

また、車載ディスプレイ150には、データセンタ200から車載通信装置160及び車載制御装置170を介して現在の車内の人員構成に最適な制御パラメータを案内する情報(以下、制御パラメータ案内情報という)が入力される。車載ディスプレイ150は、制御パラメータ案内情報を車内の人物に提示する。なお、データセンタ200から送信される制御パラメータ案内情報の詳細については後述する。 Further, information for guiding the optimum control parameters for the current personnel configuration in the vehicle (hereinafter referred to as control parameter guidance information) is input to the vehicle-mounted display 150 from the data center 200 via the vehicle-mounted communication device 160 and the vehicle-mounted control device 170. Will be done. The in-vehicle display 150 presents control parameter guidance information to a person in the vehicle. The details of the control parameter guidance information transmitted from the data center 200 will be described later.

車載通信装置160は、電話回線網やインターネット回線網などを介して、データセンタ200のサーバ通信装置210と通信可能な装置である。車載通信装置160には、後述する、車内の人員構成の情報及び車両の走行履歴の情報(以下、車両の走行履歴情報という)が入力され、車載通信装置160は、これらの情報を、サーバ通信装置210に送信する。車載通信装置160は、これらの情報をプローブ情報に含めることができ、プローブ情報としてこれらの情報をサーバ通信装置210に送信してもよい。また、車載通信装置160は、サーバ通信装置210から制御パラメータ案内情報を受信し、受信した制御パラメータ案内情報を、車載制御装置170に出力する。なお、車内の人員構成の情報及び車両の走行履歴情報の詳細については後述する。 The in-vehicle communication device 160 is a device capable of communicating with the server communication device 210 of the data center 200 via a telephone line network, an Internet line network, or the like. Information on the personnel configuration in the vehicle and information on the travel history of the vehicle (hereinafter referred to as vehicle travel history information), which will be described later, are input to the in-vehicle communication device 160, and the in-vehicle communication device 160 transmits these information to the server. Send to device 210. The in-vehicle communication device 160 can include such information in the probe information, and may transmit the information as the probe information to the server communication device 210. Further, the vehicle-mounted communication device 160 receives control parameter guidance information from the server communication device 210, and outputs the received control parameter guidance information to the vehicle-mounted control device 170. The details of the information on the personnel composition in the vehicle and the travel history information of the vehicle will be described later.

また、車載通信装置160には、車内の人員構成の情報と、車両の走行履歴情報は、非同期タイミングで入力される。後述する車載制御装置170は、車両が発進してから所定の時間が経過したタイミングにおいて、車内の人員構成の情報を、車載通信装置160に対して出力する。一方、車載制御装置170は、イグニッションがオフになったタイミングにおいて、車両の走行履歴情報を、車載通信装置160に対して出力する。つまり、車載通信装置160は、データセンタ200のサーバ通信装置210に対して、車両の走行履歴情報を送信するよりも先に、車内の人員構成の情報を送信する。 Further, the information on the personnel configuration in the vehicle and the travel history information of the vehicle are input to the in-vehicle communication device 160 at asynchronous timing. The vehicle-mounted control device 170, which will be described later, outputs information on the personnel configuration in the vehicle to the vehicle-mounted communication device 160 at a timing when a predetermined time has elapsed since the vehicle started. On the other hand, the in-vehicle control device 170 outputs the travel history information of the vehicle to the in-vehicle communication device 160 at the timing when the ignition is turned off. That is, the in-vehicle communication device 160 transmits the information on the personnel configuration in the vehicle to the server communication device 210 in the data center 200 before transmitting the travel history information of the vehicle.

車載制御装置170は、車内の人員構成を推定して車両の走行履歴情報を生成するための装置である。具体的に、車載制御装置170は、走行履歴生成処理を実行させるプログラムが格納されたROM(Read Only Memory)と、このROMに格納されたプログラムを実行することで、走行履歴生成処理を実行する動作回路としてのCPU(Central Processing Unit)と、アクセス可能な記憶装置として機能するRAM(Random Access Memory)と、を備えるコンピュータである。 The in-vehicle control device 170 is a device for estimating the personnel configuration in the vehicle and generating travel history information of the vehicle. Specifically, the in-vehicle control device 170 executes the travel history generation process by executing the ROM (Read Only Memory) in which the program for executing the travel history generation process is stored and the program stored in the ROM. It is a computer equipped with a CPU (Central Processing Unit) as an operating circuit and a RAM (Random Access Memory) functioning as an accessible storage device.

具体的に、本実施形態の車載制御装置170は、以下の処理を実行することで、車両の走行履歴情報を生成する。車載制御装置170は、車内の人物の特徴を推定する車内人物特徴推定処理と、車内の人物の間の関係性を推定する車内人物関係性処理と、車内の人員構成を推定する車内人員構成推定処理と、車両の走行に関する制御パラメータを取得する制御パラメータ取得処理と、これらの処理結果に基づいて車両の走行履歴情報を生成する走行履歴生成処理と、を実行する。 Specifically, the vehicle-mounted control device 170 of the present embodiment generates vehicle travel history information by executing the following processing. The in-vehicle control device 170 has an in-vehicle person characteristic estimation process for estimating the characteristics of a person in the vehicle, an in-vehicle person relationship process for estimating the relationship between the persons in the vehicle, and an in-vehicle personnel composition estimation for estimating the personnel composition in the vehicle. The processing, the control parameter acquisition processing for acquiring the control parameters related to the traveling of the vehicle, and the traveling history generation processing for generating the traveling history information of the vehicle based on these processing results are executed.

車載制御装置170は、上記各機能を実現するために、又は各処理を実行するためのソフトウェアと、上述したハードウェアの協働により各機能を実行する。 The in-vehicle control device 170 executes each function in cooperation with the software for realizing each of the above functions or executing each process and the above-mentioned hardware.

まず、車内人物特徴推定処理について説明する。車載制御装置170は、車載カメラ110の撮像画像に基づいて、車内に存在する人物の特徴を推定する。車内の人物の特徴には、性別及び年齢が含まれる。例えば、車載制御装置170は、車載カメラ110の撮像画像に対して画像処理を実行することで、撮像画像に写る人物の複数の特徴点(目、鼻、口、髪の毛等)を抽出する。そして、車載制御装置170は、抽出した車内の人物の特徴点を、予め定められた特徴パターンであって、性別を判別するための特徴パターンに照合することで、車内の人物の性別を推定することができる。同様に、車載制御装置170は、車内の人物の特徴点を、予め定められた特徴パターンであって、年齢を推定するための特徴パターンに照合することで、車内の人物の年齢を推定することができる。 First, the in-vehicle person feature estimation process will be described. The vehicle-mounted control device 170 estimates the characteristics of a person present in the vehicle based on the captured image of the vehicle-mounted camera 110. The characteristics of the person in the car include gender and age. For example, the vehicle-mounted control device 170 extracts a plurality of characteristic points (eyes, nose, mouth, hair, etc.) of a person appearing in the captured image by performing image processing on the captured image of the vehicle-mounted camera 110. Then, the in-vehicle control device 170 estimates the gender of the person in the vehicle by collating the extracted characteristic points of the person in the vehicle with the characteristic pattern for determining the gender, which is a predetermined characteristic pattern. be able to. Similarly, the in-vehicle control device 170 estimates the age of a person in the vehicle by collating the characteristic points of the person in the vehicle with a characteristic pattern for estimating the age, which is a predetermined characteristic pattern. Can be done.

車載制御装置170が推定する年齢の精度は、特に限定されない。車載制御装置170は、画像処理の能力や車載カメラ110の撮像精度に応じて、推定する年齢の精度を適宜変更することができる。例えば、車載制御装置170は、10歳~19歳の範囲を「10代」、20歳~29歳の範囲を「20代」と、10歳単位でカテゴライズされた特徴パターンを予め記憶装置に格納しておくことで、車内の人物の年代を推定することができる。なお、車内人物特徴推定処理は、上述した方法に限られず、車載制御装置170は、本願出願時に知られた車内人物特徴推定処理を適宜に用いることができる。 The accuracy of the age estimated by the in-vehicle control device 170 is not particularly limited. The in-vehicle control device 170 can appropriately change the accuracy of the estimated age according to the image processing capability and the imaging accuracy of the in-vehicle camera 110. For example, the in-vehicle control device 170 stores in a storage device in advance a feature pattern categorized in units of 10 years, with the range of 10 to 19 years old being "teens" and the range of 20 to 29 years old being "20s". By doing so, the age of the person in the car can be estimated. The in-vehicle person feature estimation process is not limited to the above-mentioned method, and the in-vehicle control device 170 can appropriately use the in-vehicle person feature estimation process known at the time of filing the application of the present application.

次に、車内人物関係性推定処理について説明する。車載制御装置170は、車載マイク120の音声情報に基づいて、車内に存在する人物の間の関係性を推定する。車内の人物間の関係性とは、運転者を基準とした関係性であって、運転者と同乗者との関係性のことである。 Next, the in-vehicle person relationship estimation process will be described. The vehicle-mounted control device 170 estimates the relationship between the persons existing in the vehicle based on the voice information of the vehicle-mounted microphone 120. The relationship between people in a car is a relationship based on the driver, and is a relationship between the driver and a passenger.

車載制御装置170は、まず、音声情報から車内での会話のみを抽出する。そして、車載制御装置170は、会話内容から特定のキーワードを検出するたびに、キーワードの検出回数をカウントアップする。特定のキーワードとは、人物間の関係性に対応付けられたキーワードである。車載制御装置170は、特定のキーワードをROM等の記憶装置に予め格納しておく。 The in-vehicle control device 170 first extracts only the conversation in the vehicle from the voice information. Then, each time the vehicle-mounted control device 170 detects a specific keyword from the conversation content, the vehicle-mounted control device 170 counts up the number of times the keyword is detected. A specific keyword is a keyword associated with a relationship between people. The in-vehicle control device 170 stores a specific keyword in a storage device such as a ROM in advance.

人物間の関係性を推定するためのキーワードについて説明する。例えば、上述した記憶装置には、会話内容を「家族関係」、「仕事関係」、「友人関係」、「その他の関係」に分類すための特定のキーワードが格納されている。「家族関係」に対応付けられたキーワードとしては、家族の称呼(例えば、「お父さん」、「お母さん」、「お兄ちゃん」、「お姉ちゃん」、「おじいちゃん」、「おばあちゃん」など)が一例として挙げられる。また、「仕事関係」に対応付けられたキーワードとしては、役職名(例えば、「社長」、「部長」、「課長」など)、企業名(例えば、「○○株式会社」など)、ビジネス用語(例えば、「契約」、「取引」、「打ち合わせ」、「約束」、「納期」など)が一例として挙げられる。また、「友人関係」に対応づけられたキーワードとしては、テレビ番組名、楽曲名、スポーツ用語、飲食店名が一例として挙げられる。また、「その他の関係」に対応付けられたキーワードについては、車両の乗員やシステム側で特定のキーワードが適宜設定される。 The keywords for estimating the relationship between people will be explained. For example, the above-mentioned storage device stores specific keywords for classifying conversation contents into "family relations", "work relations", "friend relations", and "other relations". Examples of keywords associated with "family relations" include family names (for example, "dad", "mother", "brother", "sister", "grandpa", "grandma", etc.). Be done. In addition, the keywords associated with "work-related" include job titles (for example, "president", "department manager", "section manager", etc.), company names (for example, "○○ Co., Ltd."), and business terms. (For example, "contract", "transaction", "meeting", "promise", "delivery date", etc.) can be mentioned as an example. In addition, examples of keywords associated with "friendship" include TV program names, music names, sports terms, and restaurant names. Further, for the keywords associated with "other relationships", specific keywords are appropriately set by the vehicle occupants and the system side.

車載制御装置170は、特定のキーワードの検出回数が所定の回数を超えると、検出されたキーワードに対応する関係性を、車内の人物間の関係性と推定する。所定の回数は、特に限定されないが、実験的に求められた値であることが好ましい。なお、検出されたキーワードから車内の人物間の関係性を特定する方法は、特に限定されない。車載制御装置170は、特定のキーワードが複数の関係性にまたがって複数検出された場合、検出回数が最初に所定の回数を超えたキーワードに対応する関係性を、車内の人物間の関係性と推定してもよい。また、車載制御装置170は、検出されたキーワードの種類が最も多い関係性、又は検出されたキーワードの総数が最も多い関係性に対応する関係性を、車内の人物間の関係性と推定してもよい。 When the number of times a specific keyword is detected exceeds a predetermined number of times, the in-vehicle control device 170 estimates the relationship corresponding to the detected keyword as the relationship between people in the vehicle. The predetermined number of times is not particularly limited, but is preferably an experimentally determined value. The method of identifying the relationship between the persons in the car from the detected keywords is not particularly limited. When a plurality of specific keywords are detected across a plurality of relationships, the in-vehicle control device 170 determines the relationship corresponding to the keyword whose number of detections first exceeds a predetermined number as the relationship between persons in the vehicle. You may estimate. Further, the in-vehicle control device 170 estimates that the relationship corresponding to the relationship having the largest number of detected keyword types or the relationship having the largest total number of detected keywords is the relationship between persons in the vehicle. May be good.

次に、車載制御装置170は、車内の人物間の親密度を推定する。車載制御装置170は、会話内容から車内の人物間の関係性を推定すると、車内の人物間の親密度を推定する。車内の人物間の親密度とは、運転者を基準とした親密度であって、運転者と同乗者との親密度(運転者と同乗者の仲の良さ)のことである。 Next, the in-vehicle control device 170 estimates the intimacy between people in the vehicle. When the in-vehicle control device 170 estimates the relationship between the persons in the vehicle from the conversation content, the in-vehicle control device 170 estimates the intimacy between the persons in the vehicle. The intimacy between people in a car is the intimacy with respect to the driver, and is the intimacy between the driver and the passenger (friendship between the driver and the passenger).

車載制御装置170は、車内での会話内容から、特定の人物の発言(発言が始まってから発言が終了するまで)を抽出する。そして、車載制御装置170は、抽出した発言の中での言葉遣いから、車内の人物間の親密度を推定する。例えば、車載制御装置170は、予め定められた言葉遣いの特徴パターンであって、人物間の親密度を判別できる言葉遣いの特徴パターンを、ROM等の記憶装置に格納しておく。そして、車載制御装置170は、特定の人物の発言を言葉遣いの特徴パターンに照合することで、車内の人物間の親密度を推定することができる。 The in-vehicle control device 170 extracts the remarks of a specific person (from the start of the remarks to the end of the remarks) from the conversation contents in the vehicle. Then, the in-vehicle control device 170 estimates the intimacy between the persons in the vehicle from the wording in the extracted remarks. For example, the in-vehicle control device 170 stores a predetermined wording feature pattern in a storage device such as a ROM, which can determine the intimacy between persons. Then, the in-vehicle control device 170 can estimate the intimacy between the persons in the vehicle by collating the remarks of a specific person with the characteristic pattern of the wording.

人物間の親密度を推定するための言葉遣いの特徴パターンについて説明する。例えば、上述した記憶装置には、親密度を「高い」、「普通」、「低い」の3パターンに分類するための言葉遣いの特徴パターンが記憶されている。運転者と同乗者の仲が良ければ良いほど、高い親密度として推定される。言葉遣いの特徴パターンとしては、敬語(尊敬語、謙譲語、丁寧語)を用いた言葉遣い、相手を呼び時の言葉遣い(例えば、名前のみで呼ぶ、名字のみで呼ぶ、名字に役職を付けて呼ぶなど)が一例として挙げられる。 The characteristic pattern of wording for estimating the intimacy between people will be explained. For example, the above-mentioned storage device stores a characteristic pattern of wording for classifying intimacy into three patterns of "high", "normal", and "low". The closer the driver and the passenger are, the higher the intimacy is estimated. Characteristic patterns of wording include wording using honorifics (honorifics, humble words, polite words), wording when calling the other party (for example, calling only by name, calling only by surname, assigning a position to the surname). For example).

車載制御装置170は、特定の人物の発言と言葉遣い特徴パターンのパターンマッチングを行い、マッチングした割合が高い親密度を、車内の人物間の親密度と推定する。なお、会話内容から親密度を推定する方法は、上述した方法に限られず、車載制御装置170は、本願出願時に知られた親密度の推定方法を適宜に用いることができる。 The in-vehicle control device 170 performs pattern matching between the remarks of a specific person and the wording feature pattern, and estimates that the intimacy with a high matching ratio is the intimacy between the persons in the vehicle. The method of estimating the intimacy from the conversation content is not limited to the above-mentioned method, and the in-vehicle control device 170 can appropriately use the intimacy estimation method known at the time of filing the application.

次に、車内人員構成推定処理について説明する。車載制御装置170は、車載カメラ110の撮像画像と、車内人物特徴推定処理の処理結果と、車内人物関係性推定処理の処理結果に基づいて、車内の人員構成を推定する。例えば、車載制御装置170は、車載カメラ110の撮像画像から、車内の人数を検出する。そして、車載制御装置170は、検出した車内の人数と、車内人物特徴推定処理の処理結果(性別及び年齢)と、車内人物関係性処理の処理結果(車内の人物間の関係性、車内の人物間の親密度)とが関連付けられた車内の人員構成を推定する。 Next, the in-vehicle personnel composition estimation process will be described. The in-vehicle control device 170 estimates the personnel configuration in the vehicle based on the captured image of the in-vehicle camera 110, the processing result of the in-vehicle person feature estimation processing, and the processing result of the in-vehicle person relationship estimation processing. For example, the vehicle-mounted control device 170 detects the number of people in the vehicle from the captured image of the vehicle-mounted camera 110. Then, the in-vehicle control device 170 detects the number of people in the vehicle, the processing result (gender and age) of the in-vehicle person characteristic estimation processing, and the processing result of the in-vehicle person relationship processing (relationship between people in the vehicle, the person in the vehicle). Estimate the personnel composition in the car associated with the intimacy between).

図2(A)、(B)を参照しながら、車内人員構成推定処理の処理結果の一例について説明する。図2(A)、(B)は、車内人員構成推定処理を説明するための図である。図2(A)は、運転者を含めた4名が乗車している場合の車載制御装置170の処理結果を示している。この例において、車載制御装置170は、まず、車載カメラ110の撮像画像から車内の人数が4名であることを検出する。次に、車載制御装置170は、上述した車内人物特徴推定処理を、4名それぞれに対して実行することで、図2(A)に示すように、「20代男性:1名、30代女性:1名、50代男性:1名、60代男性:1名の計4名」と、車内の人物の特徴を推定する。さらに、車載制御装置170は、上述した車内人物関係性推定処理により、車内での会話内容から、車内の人物間の関係性を家族関係と推定するとともに、各人物の言葉遣いから、車内の人物間の親密度を高いと推定する。最後に、車載制御装置170は、検出結果及び推定結果を関連付けることで、「20代男性:1名、30代女性:1名、50代男性:1名、60代男性:1名の計4名、これらの人物の関係性は家族関係であって、親密度は高い」と、車内の人員構成を推定する。 An example of the processing result of the in-vehicle personnel composition estimation process will be described with reference to FIGS. 2 (A) and 2 (B). 2 (A) and 2 (B) are diagrams for explaining the in-vehicle personnel composition estimation process. FIG. 2A shows the processing result of the in-vehicle control device 170 when four people including the driver are on board. In this example, the vehicle-mounted control device 170 first detects that the number of people in the vehicle is four from the captured image of the vehicle-mounted camera 110. Next, the in-vehicle control device 170 executes the above-mentioned in-vehicle person characteristic estimation process for each of the four persons, and as shown in FIG. 2A, "male in his twenties: one person, female in his thirties". One person, one man in his fifties, one man in his sixties, one man in his sixties, for a total of four people. " Further, the in-vehicle control device 170 estimates the relationship between the persons in the vehicle as a family relationship from the conversation content in the vehicle by the above-mentioned in-vehicle person relationship estimation process, and also estimates the person in the vehicle from the wording of each person. It is estimated that the intimacy between them is high. Finally, the in-vehicle control device 170 correlates the detection result and the estimation result with "1 male in 20s, 1 female in 30s, 1 male in 50s, 1 male in 60s, total 4". First name, the relationship between these people is a family relationship, and the intimacy is high. "

また、図2(B)は、運転者を含めた2名が乗車している場合の車載制御装置170の処理結果を示している。この例においても、車載制御装置170は、車内の人数を2名であることを検出し、次に、上述した車内人物特徴推定処理を、検出した2名に対して実行することで、図2(B)に示すように、「30代男性:1名、30代男性:1名の計2名」と、車内の人物の特徴を推定する。そして、車載制御装置170は、上述した車内人物関係性推定処理により、車内の人物間の関係性を仕事関係と推定するとともに、各人物の言葉遣いから、車内の人物間の親密度は低いと推定する。最後に、車載制御装置170は、検出結果及び推定結果を関連付けることで、「30代男性:1名、30代男性:1名の計4名、これらの人物の関係性は仕事関係であって、親密度は低い」と、車内の人員構成を推定する。 Further, FIG. 2B shows the processing result of the in-vehicle control device 170 when two people including the driver are on board. Also in this example, the in-vehicle control device 170 detects that the number of people in the vehicle is two, and then executes the above-mentioned in-vehicle person characteristic estimation process for the detected two people, whereby FIG. As shown in (B), the characteristics of the person in the car are estimated as "a man in his thirties: one person and a man in his thirties: one person, for a total of two people". Then, the in-vehicle control device 170 estimates the relationship between the persons in the vehicle as a work relationship by the above-mentioned in-vehicle person relationship estimation process, and from the wording of each person, the intimacy between the persons in the vehicle is low. presume. Finally, the in-vehicle control device 170 correlates the detection result and the estimation result with "a male in his thirties: one person and a male in his thirties: one person, for a total of four people, and the relationship between these persons is a work relationship. , The intimacy is low, "estimates the personnel composition in the car.

車載制御装置170は、車内の人員構成を推定すると、車載通信装置160を介して、車内の人員構成の情報をデータセンタ200のサーバ通信装置210へ送信する。なお、車載制御装置170は、車内の人員構成の情報に、車載カメラ110の撮像画像そのものや、車載マイク120の音声情報そのものを含めることもできる。これにより、後述するデータセンタ200のサーバ処理装置230は、撮像画像から、又は音声情報の声紋データから、同乗者が過去に乗車履歴のある人物か否かを判定することができる。 When the in-vehicle control device 170 estimates the personnel configuration in the vehicle, the in-vehicle control device 170 transmits information on the personnel configuration in the vehicle to the server communication device 210 in the data center 200 via the in-vehicle communication device 160. The vehicle-mounted control device 170 can also include the captured image itself of the vehicle-mounted camera 110 and the voice information itself of the vehicle-mounted microphone 120 in the information on the personnel configuration in the vehicle. As a result, the server processing device 230 of the data center 200, which will be described later, can determine whether or not the passenger is a person who has a history of riding in the past from the captured image or the voiceprint data of the voice information.

再び、図1に戻り、車載制御装置170の制御パラメータ取得処理について説明する。車載制御装置170は、車載センサ群140から車両の走行に関する制御パラメータを取得する。本実施形態における制御パラメータとは、車載センサ群140により検出された車両の走行状態を示す制御パラメータである。制御パラメータには、舵角センサの検出結果(操舵角など)、アクセル開度センサの検出結果(アクセル開度)、ブレーキ開度センサの検出結果(ブレーキ開度)、ソナー装置の検出結果(車両の周囲の対象物との間の距離)、レーダー装置の検出結果(車両の周囲の対象物との間の距離)、先行車両との車間距離、走行特性モードの種類が少なくとも含まれる。なお、車載制御装置170は、走行特性モードの種類については、車載操作機器群130から入力される操作情報に基づいて、運転者により設定された走行特性モードの種類を特定してもよい。 Returning to FIG. 1, the control parameter acquisition process of the in-vehicle control device 170 will be described. The in-vehicle control device 170 acquires control parameters related to the running of the vehicle from the in-vehicle sensor group 140. The control parameter in the present embodiment is a control parameter indicating the running state of the vehicle detected by the vehicle-mounted sensor group 140. The control parameters include the detection result of the steering angle sensor (steering angle, etc.), the detection result of the accelerator opening sensor (accelerator opening), the detection result of the brake opening sensor (brake opening), and the detection result of the sonar device (vehicle). The distance to the object around the vehicle), the detection result of the radar device (distance to the object around the vehicle), the distance to the preceding vehicle, and the type of driving characteristic mode are included at least. Regarding the type of the traveling characteristic mode, the vehicle-mounted control device 170 may specify the type of the traveling characteristic mode set by the driver based on the operation information input from the vehicle-mounted operating device group 130.

次に、走行履歴生成処理について説明する。車載制御装置170は、上述した各処理の結果に基づいて、車両の制御パラメータに関する走行履歴を、車両の走行履歴情報として生成する。まず、車載制御装置170は、車載センサ群140に含まれる位置検出装置142から、車両の走行位置を取得する。次に、車載制御装置170は、推定した車内の人員構成と、特定した車両の制御パラメータと、車両の走行位置とを関連付けた情報を、車両の走行履歴情報とする。車載制御装置170は、車載通信装置160を介して、車両の走行履歴情報をデータセンタ200のサーバ通信装置210へ送信する。 Next, the travel history generation process will be described. The in-vehicle control device 170 generates travel history related to vehicle control parameters as vehicle travel history information based on the results of each of the above-mentioned processes. First, the vehicle-mounted control device 170 acquires the traveling position of the vehicle from the position detection device 142 included in the vehicle-mounted sensor group 140. Next, the in-vehicle control device 170 uses information associating the estimated personnel configuration in the vehicle, the specified control parameter of the vehicle, and the traveling position of the vehicle as the traveling history information of the vehicle. The vehicle-mounted control device 170 transmits vehicle travel history information to the server communication device 210 of the data center 200 via the vehicle-mounted communication device 160.

次に、データセンタ200について説明する。データセンタ200は、各種のコンピュータやデータ通信などの装置が設置されている施設である。データセンタ200は、図1に示すように、サーバ通信装置210、データベース220、及びサーバ処理装置230を備える。 Next, the data center 200 will be described. The data center 200 is a facility in which various computers and devices such as data communication are installed. As shown in FIG. 1, the data center 200 includes a server communication device 210, a database 220, and a server processing device 230.

サーバ通信装置210は、電話回線網又はインターネット回線網などを介して、車載装置100の車載通信装置160と通信可能となっている。サーバ通信装置210は、複数の車両のそれぞれに搭載された複数の車載通信装置160と通信し、各車両から、車内の人員構成の情報及び車両の走行履歴情報を受信する。サーバ通信装置210は、各車両から受信した車内の人員構成の情報及び車両の走行履歴情報をサーバ処理装置230に出力する。 The server communication device 210 can communicate with the vehicle-mounted communication device 160 of the vehicle-mounted device 100 via a telephone line network, an Internet line network, or the like. The server communication device 210 communicates with a plurality of vehicle-mounted communication devices 160 mounted on each of the plurality of vehicles, and receives information on the personnel configuration in the vehicle and travel history information of the vehicle from each vehicle. The server communication device 210 outputs the information on the personnel configuration in the vehicle and the travel history information of the vehicle received from each vehicle to the server processing device 230.

データベース220は、複数の車両から取得した車両の走行履歴を格納しているデータベースである。データベース220には、サーバ通信装置210からサーバ処理装置230を介して、逐次、車両の走行履歴情報が入力されるため、車両の走行履歴情報は、時間の経過とともにデータベース220に蓄積されていく。 The database 220 is a database that stores the traveling history of vehicles acquired from a plurality of vehicles. Since the vehicle travel history information is sequentially input to the database 220 from the server communication device 210 via the server processing device 230, the vehicle travel history information is accumulated in the database 220 with the passage of time.

サーバ処理装置230は、車内の人員構成ごとに最適な制御パラメータを特定するためのプログラムを格納したROMと、このROMに格納されたプログラムを実行するCPUと、アクセス可能な記憶装置として機能するRAMとから構成される。サーバ処理装置230は、ROMに格納されたプログラムをCPUにより実行することにより、車載装置100から送信された車両の走行履歴情報を格納する走行履歴格納処理と、車内の人員構成ごとに運転者の運転特性を分析する運転特性分析処理と、車載装置100が搭載された車両内の人員構成に基づいて、制御パラメータ案内情報を車載装置100に提供する情報提供処理と、を実行する。 The server processing device 230 includes a ROM that stores a program for specifying the optimum control parameters for each personnel configuration in the vehicle, a CPU that executes the program stored in the ROM, and a RAM that functions as an accessible storage device. It is composed of and. The server processing device 230 has a running history storage process for storing the running history information of the vehicle transmitted from the in-vehicle device 100 by executing a program stored in the ROM by the CPU, and a driver's personnel configuration for each personnel configuration in the car. The driving characteristic analysis process for analyzing the driving characteristic and the information providing process for providing the control parameter guidance information to the vehicle-mounted device 100 based on the personnel configuration in the vehicle on which the vehicle-mounted device 100 is mounted are executed.

まず、走行履歴格納処理について説明する。サーバ処理装置230は、サーバ通信装置210から入力される車両の走行履歴情報を、データベース220に格納する。また、サーバ処理装置230は、車両の走行履歴情報に含まれる人員構成に基づいて、性別ごと、年齢ごと、人数ごと、車内の人物間の関係性、車内の人物間の親密度ごとに、データベース220に蓄積された走行履歴情報を並べ替える等の統計処理を実行することができる。また、サーバ処理装置230は、車両の走行履歴情報に含まれる車両の走行位置に基づいて、走行位置ごと(例えば、交差点、高速道路、一般道路など)にデータベース220に蓄積された走行履歴情報をグループ化する等の統計処理も実行することができる。 First, the travel history storage process will be described. The server processing device 230 stores the travel history information of the vehicle input from the server communication device 210 in the database 220. Further, the server processing device 230 has a database for each gender, each age, each number of people, relationships between people in the vehicle, and intimacy between people in the vehicle, based on the personnel composition included in the travel history information of the vehicle. Statistical processing such as rearranging the travel history information accumulated in 220 can be executed. Further, the server processing device 230 stores the travel history information stored in the database 220 for each travel position (for example, an intersection, a highway, a general road, etc.) based on the vehicle travel position included in the vehicle travel history information. Statistical processing such as grouping can also be executed.

次に、運転特性分析処理について説明する。サーバ処理装置230は、データベース220に蓄積された走行履歴情報を分析することで、車内の人員構成ごとに最適な制御パラメータを特定する。サーバ処理装置230は、車内の人員構成ごとに最適な制御パラメータを特定する前に、制御パラメータに基づいて、車内の人員構成ごとの運転特性について分析する。 Next, the operation characteristic analysis process will be described. The server processing device 230 analyzes the travel history information stored in the database 220 to identify the optimum control parameters for each personnel configuration in the vehicle. The server processing device 230 analyzes the driving characteristics of each personnel configuration in the vehicle based on the control parameters before identifying the optimum control parameters for each personnel configuration in the vehicle.

運転特性の一例について説明する。運転特性には、走行位置に起因する運転特性、他車両に起因する運転特性、道路状態に起因する運転特性が含まれる。走行位置に起因する運転特性としては、トンネル走行時の速度変化、交差点右左折時の速度変化が一例として挙げられる。また、他車両に起因する運転特性としては、先行車両に対する追従性(先行車両との車間距離)が一例として挙げられる。また、道路状態に起因する運転特性としては、勾配道路(坂道)での速度変化、車幅変更による速度変化が一例として挙げられる。 An example of operating characteristics will be described. The driving characteristics include driving characteristics caused by the traveling position, driving characteristics caused by other vehicles, and driving characteristics caused by the road condition. Examples of driving characteristics caused by the traveling position include a speed change when driving in a tunnel and a speed change when turning left or right at an intersection. Further, as an example of driving characteristics caused by other vehicles, followability to the preceding vehicle (distance between the preceding vehicle and the vehicle) can be mentioned as an example. Further, as an example of driving characteristics caused by the road condition, a speed change on a slope road (slope) and a speed change due to a vehicle width change can be mentioned as an example.

まず、サーバ処理装置230は、車両の走行履歴情報に対してクラスタリング処理を実行し、車両の走行位置ごとに走行履歴情報をグループ化する。例えば、サーバ処理装置230は、交差点周辺における走行履歴情報、勾配のある坂道における走行履歴情報など、走行位置ごとに走行履歴情報をグループ化する。これにより、特定の場所に関して、車内の人員構成ごとに最適な制御パラメータを特定することができる。なお、どのようにグループ化するかは、特に限定されず、道路の種別(高速道路、一般道路など)でグループ化してもよいし、特定の場所(交差点など)とそれ以外でグループ化してもよい。 First, the server processing device 230 executes a clustering process on the travel history information of the vehicle, and groups the travel history information for each travel position of the vehicle. For example, the server processing device 230 groups travel history information for each travel position, such as travel history information around an intersection and travel history information on a slope with a slope. This makes it possible to specify the optimum control parameters for each personnel configuration in the vehicle with respect to a specific location. The grouping method is not particularly limited, and may be grouped by road type (expressway, general road, etc.) or by a specific place (intersection, etc.) and other areas. good.

次に、サーバ処理装置230は、グループ化された走行履歴情報に対して、クラスタリング処理を実行し、車内の人員構成の情報を構成するパラメータごとに(人数ごと、性別ごと、年齢ごと、人物間の関係性ごと、人物間の親密度ごと)、さらにグループ化する。そして、サーバ処理装置230は、グループ化されたそれぞれについて、統計処理を実行して、運転特性の傾向を分析する。サーバ処理装置230は、特定の運転特性に応じた、車内の人物の人数、性別、年齢、人物間の関係性、及び人物間の親密度の組み合わせを、特徴量として算出する。サーバ処理装置230は、運転特性ごとに上述した処理を繰り返すことで、運転特性ごとの特徴量を算出する。 Next, the server processing device 230 executes a clustering process on the grouped travel history information for each parameter (for each number of people, each gender, each age, between people) that constitutes the information of the personnel composition in the vehicle. By relationship, by intimacy between people), and further group. Then, the server processing device 230 executes statistical processing for each grouped group to analyze the tendency of the operating characteristics. The server processing device 230 calculates a combination of the number of people in the vehicle, gender, age, relationships between people, and intimacy between people according to a specific driving characteristic as a feature amount. The server processing device 230 calculates the feature amount for each operation characteristic by repeating the above-mentioned processing for each operation characteristic.

そして、サーバ処理装置230は、各運転特性に対応する制御パラメータを特定することで、運転特性と制御パラメータを関連付ける。 Then, the server processing device 230 associates the operation characteristics with the control parameters by specifying the control parameters corresponding to each operation characteristic.

また、サーバ処理装置230は、所定の周期毎に、すなわち、最新の車両の走行履歴情報がデータベース220に蓄積されていくたびに、上述した分析処理を繰り返す。これにより、車両の人員構成と制御パラメータとの関係性を学習することができる。そして、サーバ処理装置230は、各周期における分析結果の分布が所定の範囲内に収まると、制御パラメータの傾向の変動が収束したと判断して、人数、性別、年齢、人物間の関係性、人物間の親密度の組み合わせに応じて、最適な制御パラメータを特定する。なお、車両の走行履歴情報の分析方法は上述した方法に限定されず、サーバ処理装置230は、本願出願時における分析方法の技術を適宜に用いることができる。 Further, the server processing device 230 repeats the above-mentioned analysis process at predetermined cycles, that is, every time the latest vehicle travel history information is accumulated in the database 220. This makes it possible to learn the relationship between the personnel composition of the vehicle and the control parameters. Then, when the distribution of the analysis results in each cycle falls within a predetermined range, the server processing device 230 determines that the fluctuation of the tendency of the control parameters has converged, and determines the number of people, gender, age, and the relationship between persons. Identify the optimal control parameters according to the combination of intimacy between people. The method of analyzing the travel history information of the vehicle is not limited to the above-mentioned method, and the server processing device 230 can appropriately use the technique of the analysis method at the time of filing the application.

サーバ処理装置230は、車両の走行履歴情報の分析が終了すると、車内の人員構成ごとに最適な制御パラメータ、各運転特性における特徴量(人数、性別、年齢、人物間の関係性、及び人物間の親密度の組み合わせ)のそれぞれを、データベース220に格納する。 When the analysis of the vehicle travel history information is completed, the server processing device 230 has the optimum control parameters for each personnel configuration in the vehicle, feature quantities in each driving characteristic (number of people, gender, age, relationships between persons, and interpersonal relationships). Each of the combinations of intimacy) is stored in the database 220.

次に、情報提供処理について説明する。まず、サーバ処理装置230は、車載装置100から送信された情報から、現在の車内に過去に乗車した経験がある人物が存在するか否かを判定する。サーバ処理装置230は、車内の人員構成のうち車載カメラ110の撮像画像及び車載マイク120の音声情報の少なくとも一方から、乗車経験者が存在するか否かを判定し、運転者を除く乗車経験者が同乗者として1人でも含まれている場合、データベース220から、当該乗車経験者が含まれる車内の人員構成を抽出する。そして、サーバ処理装置230は、抽出した人員構成に対応する制御パラメータのうち車載装置100への送信履歴がある制御パラメータを抽出する。サーバ処理装置230は、抽出した制御パラメータを最適な制御パラメータとして特定し、制御パラメータ案内情報とする。 Next, the information provision process will be described. First, the server processing device 230 determines from the information transmitted from the in-vehicle device 100 whether or not there is a person who has previously boarded the vehicle in the current vehicle. The server processing device 230 determines whether or not there is an experienced rider from at least one of the captured image of the vehicle-mounted camera 110 and the voice information of the vehicle-mounted microphone 120 in the personnel configuration in the vehicle, and the ride-experienced person excluding the driver. When even one passenger is included as a passenger, the personnel composition in the vehicle including the passenger who has experienced the ride is extracted from the database 220. Then, the server processing device 230 extracts a control parameter having a transmission history to the in-vehicle device 100 from the control parameters corresponding to the extracted personnel configuration. The server processing device 230 identifies the extracted control parameters as the optimum control parameters and uses them as control parameter guidance information.

次に、現在の車内には乗車経験者が存在しない場合について説明する。この場合、サーバ処理装置230は、現在の車内の人員構成に最適な制御パラメータを特定し、制御パラメータ案内情報とする。例えば、サーバ処理装置230は、車載装置100から、現在の車内の人員構成の情報が入力されると、データベース220に格納された車両の走行履歴情報の分析結果を参照する。そして、サーバ処理装置230は、分析結果の中に、現在の車内の人員構成に最適な制御パラメータが含まれている場合、当該制御パラメータを最適な制御パラメータとして特定する。 Next, a case where there is no experienced rider in the current vehicle will be described. In this case, the server processing device 230 identifies the optimum control parameter for the current personnel configuration in the vehicle and uses it as control parameter guidance information. For example, when the information on the current personnel configuration in the vehicle is input from the in-vehicle device 100, the server processing device 230 refers to the analysis result of the vehicle travel history information stored in the database 220. Then, when the analysis result includes the optimum control parameter for the current personnel configuration in the vehicle, the server processing device 230 specifies the control parameter as the optimum control parameter.

反対に、サーバ処理装置230は、車用の走行履歴情報の分析結果には、最適な制御パラメータが含まれていない場合、現在の車内の人員構成に類似する車内の人員構成について、最適な制御パラメータが存在するか否かを判定する。サーバ処理装置230は、現在の車内の人物間の関係性と、現在の車内の人物間の親密度の少なくとも一方に基づいて、現在の車内の人員構成に最適な制御パラメータを特定し、制御パラメータ案内情報とする。 On the contrary, when the analysis result of the travel history information for the vehicle does not include the optimum control parameter, the server processing device 230 controls the optimum control for the personnel configuration in the vehicle similar to the current personnel configuration in the vehicle. Determine if the parameter exists. The server processing device 230 identifies and controls the optimal control parameters for the current in-vehicle personnel configuration based on at least one of the current in-vehicle relationships and the intimacy between the current in-vehicle personnel. It is used as guidance information.

例えば、現在の車内の人員構成が、図2(A)に示す例のように、「20代男性:1名、30代女性:1名、50代男性:1名、60代男性:1名の計4名、これらの人物の関係性は家族関係であって、親密度は高い」とする。サーバ処理装置230は、この人員構成に対応する最適な制御パラメータがデータベース220に存在しない場合、車内の人物間の関係性及び車内の人物間の親密度のうち何れか一方を変更して、現在の車内の人員構成に類似する人員構成を生成する。そして、サーバ処理装置230は、生成した類似の人員構成に最適な制御パラメータが存在するか否かを判定する。上述した例の場合、例えば、サーバ処理装置230は、親密度を「高い」から「普通」に変更して、「20代男性:1名、30代女性:1名、50代男性:1名、60代男性:1名の計4名、これらの人物の関係性は家族関係であって、親密度は普通」を、現在の車内の人員構成に類似する人員構成とする。そして、サーバ処理装置230は、分析結果の中に、現在の車内の人員構成に類似する人員構成に最適な制御パラメータが含まれている場合、当該制御パラメータを最適な制御パラメータとして特定する。 For example, as shown in the example shown in FIG. 2A, the current personnel composition in the car is "1 male in 20s, 1 female in 30s, 1 male in 50s, 1 male in 60s". A total of four people, the relationship between these people is a family relationship, and the intimacy is high. " If the optimum control parameter corresponding to this personnel configuration does not exist in the database 220, the server processing device 230 changes either the relationship between the persons in the vehicle or the intimacy between the persons in the vehicle to present. Generate a personnel composition similar to the personnel composition in the car. Then, the server processing device 230 determines whether or not there is an optimum control parameter for the generated similar personnel configuration. In the case of the above example, for example, the server processing device 230 changes the intimacy from "high" to "normal" and "male in his twenties: one, female in his thirties: one, male in his fifties: one". , Male in his 60s: 1 person, 4 people in total, the relationship between these people is a family relationship, and the intimacy is normal. " Then, when the analysis result includes the optimum control parameter for the personnel configuration similar to the current personnel configuration in the vehicle, the server processing device 230 specifies the control parameter as the optimum control parameter.

また、車載装置100から送信された車内の人物間の関係性及び車内の人物間の親密度のうち何れか一方が、何らかの原因で欠落している場合、サーバ処理装置230は、上述した処理により、欠落したパラメータについて補完することができる。これにより、現在の車内の人物間の関係性及び現在の車内の人物間の親密度のうち何れか一方の情報が欠落した場合や、推定精度が低い場合であっても、車両の現在の人員構成に最適な制御パラメータを特定することができる。 Further, when either one of the relationship between the persons in the vehicle and the intimacy between the persons in the vehicle transmitted from the in-vehicle device 100 is missing for some reason, the server processing device 230 performs the above-mentioned processing. , Can be complemented for missing parameters. As a result, even if information on either one of the current relationship between people in the car and the intimacy between the current people in the car is missing, or even if the estimation accuracy is low, the current number of people in the vehicle The optimum control parameters for the configuration can be specified.

サーバ処理装置230は、上述した各処理により得られた制御パラメータ案内情報を、サーバ通信装置210を介して車載装置100に送信する。車載装置100は、受信した制御パラメータ案内情報を車載ディスプレイ150に表示することで、車内の人物に対して、現在の車内の人員構成に最適な制御パラメータの情報、又は過去に提供した最適な制御パラメータの情報を提示することができる。 The server processing device 230 transmits the control parameter guidance information obtained by each of the above-mentioned processes to the in-vehicle device 100 via the server communication device 210. By displaying the received control parameter guidance information on the vehicle-mounted display 150, the vehicle-mounted device 100 displays information on the optimum control parameters for the current personnel configuration in the vehicle or the optimum control provided in the past to the person in the vehicle. Parameter information can be presented.

なお、制御パラメータ案内情報の提示方法は、特に限定されない。提示方法としては、「車速を○○km/hまで落としてください」と、運転者に対する具体的な運転支援として提示する方法が一例として挙げられる。また、提示方法としては、「車速を○○km/hまで落とすことが推奨されています。車速を推奨速度まで落としますか。」と、運転者に制御パラメータの変更を促す方法が一例として挙げられる。この例の場合、運転者が車載操作機器群130を介して制御パラメータの変更を選択すると、車載制御装置170は、最適な制御パラメータへと自動的に変更するように、車載操作機器群130に含まれる各駆動装置を制御してもよい。 The method of presenting the control parameter guidance information is not particularly limited. As an example of the presentation method, there is a method of presenting as specific driving support to the driver, "Please reduce the vehicle speed to XX km / h". In addition, as an example of the presentation method, "It is recommended to reduce the vehicle speed to XX km / h. Do you want to reduce the vehicle speed to the recommended speed?" Be done. In the case of this example, when the driver selects to change the control parameter via the in-vehicle operating device group 130, the in-vehicle control device 170 automatically changes to the optimum control parameter in the in-vehicle operating device group 130. Each included drive may be controlled.

次に、図3を参照しながら、車載装置100が車両の走行履歴情報をデータセンタ200に送信するまでの動作について説明する。図3は、車載装置100が車両の走行履歴情報をデータセンタ200に送信するまでのフローチャートである。図3に示すフローチャートの処理は、各車両に搭載された車載装置100によりそれぞれ実行される。また、車載装置100は、所定の周期ごとに、図3に示すフローチャートの動作を繰り返し実行する。 Next, with reference to FIG. 3, the operation until the vehicle-mounted device 100 transmits the travel history information of the vehicle to the data center 200 will be described. FIG. 3 is a flowchart of the vehicle-mounted device 100 transmitting vehicle travel history information to the data center 200. The processing of the flowchart shown in FIG. 3 is executed by the in-vehicle device 100 mounted on each vehicle. Further, the in-vehicle device 100 repeatedly executes the operation of the flowchart shown in FIG. 3 at predetermined cycles.

まず、ステップS101では、車載制御装置170は、車載カメラ110から車内の撮像画像を取得し、車載マイク120から音声情報を取得する。車載カメラ110が車載装置100に複数設けられている場合、車載制御装置170は、各車載カメラ110から撮像画像を取得する。また、車載マイク120が座席ごとに複数設けられている場合、車載制御装置170は、各車載マイク120から音声情報を取得する。 First, in step S101, the vehicle-mounted control device 170 acquires an image captured in the vehicle from the vehicle-mounted camera 110, and acquires voice information from the vehicle-mounted microphone 120. When a plurality of vehicle-mounted cameras 110 are provided in the vehicle-mounted device 100, the vehicle-mounted control device 170 acquires a captured image from each vehicle-mounted camera 110. Further, when a plurality of vehicle-mounted microphones 120 are provided for each seat, the vehicle-mounted control device 170 acquires voice information from each vehicle-mounted microphone 120.

ステップS102では、車載制御装置170は、ステップS101にて取得した車内の撮像画像に基づいて、車内に存在する人物の特徴を推定する。車内の人物の特徴には、車内の人物の性別及び車内の人物の年齢が含まれる。車載制御装置170は、車内に複数の人物が存在する場合、一人ずつ特徴を推定する。また、このステップにおいて、車載制御装置170は、撮像画像から車内に存在する人物を検出し、車内の人数を算出する。 In step S102, the vehicle-mounted control device 170 estimates the characteristics of a person existing in the vehicle based on the captured image in the vehicle acquired in step S101. The characteristics of the person in the car include the gender of the person in the car and the age of the person in the car. When a plurality of people are present in the vehicle, the in-vehicle control device 170 estimates the characteristics one by one. Further, in this step, the in-vehicle control device 170 detects a person existing in the vehicle from the captured image and calculates the number of people in the vehicle.

ステップS103では、車載制御装置170は、ステップS101にて取得した車内の音声情報に基づいて、車内に存在する人物間の関係性を推定する。また、このステップにおいて、車載制御装置170は、ステップS101にて取得した車内の音声情報に基づいて、車内に存在する人物間の親密度を推定する。なお、会話が多い方が車内の人物間の関係性及び親密度の推定精度が比較的上がりやすいため、ステップS102から所定の経過時間が経過してから、車載制御装置170がこのステップの処理を実行するのが好ましい。 In step S103, the vehicle-mounted control device 170 estimates the relationship between the persons existing in the vehicle based on the voice information in the vehicle acquired in step S101. Further, in this step, the in-vehicle control device 170 estimates the intimacy between the persons existing in the vehicle based on the voice information in the vehicle acquired in step S101. Since the accuracy of estimating the relationship and intimacy between people in the vehicle is relatively high when there are many conversations, the in-vehicle control device 170 processes this step after a predetermined elapsed time has elapsed from step S102. It is preferable to carry out.

ステップS104では、車載制御装置170は、車内の人員構成を推定する。車内の人員構成には、ステップS102にて算出した車内の人数と、同ステップにて、推定した車内の人物の特徴と、ステップS103にて推定した車内の人物間の関係性及び車内の人物間の親密度が関連付づけられている(図2(A)(B)参照)。 In step S104, the in-vehicle control device 170 estimates the personnel configuration in the vehicle. The personnel composition in the car includes the number of people in the car calculated in step S102, the characteristics of the person in the car estimated in the same step, the relationship between the people in the car estimated in step S103, and the number of people in the car. Intimacy is associated (see FIGS. 2A and 2B).

ステップS105では、車載制御装置170は、車両の走行に関する制御パラメータを取得する。車載制御装置170は、車載センサ群140からの検出結果に基づいて、制御パラメータを取得する。また、このステップにおいて、車載制御装置170は、これまで走行してきた車両の走行経路に基づいて、例えば、ナビゲーション装置から車両の位置情報を取得する。 In step S105, the vehicle-mounted control device 170 acquires control parameters related to the traveling of the vehicle. The in-vehicle control device 170 acquires control parameters based on the detection results from the in-vehicle sensor group 140. Further, in this step, the in-vehicle control device 170 acquires the position information of the vehicle from, for example, the navigation device based on the travel path of the vehicle that has been traveled so far.

ステップS106では、車載制御装置170は、車両の走行履歴情報を生成する。車載制御装置170は、ステップS104にて推定した車内の人員構成と、ステップS105で特定した車両の制御パラメータと、同ステップにおいて取得した車両の走行位置を関連付けて、車両の走行履歴情報とする。これにより、車内の人員構成と、その人員構成における制御パラメータが対応づけられる。 In step S106, the vehicle-mounted control device 170 generates vehicle travel history information. The in-vehicle control device 170 correlates the personnel configuration in the vehicle estimated in step S104, the control parameters of the vehicle specified in step S105, and the traveling position of the vehicle acquired in the same step, and obtains the traveling history information of the vehicle. As a result, the personnel composition in the vehicle and the control parameters in the personnel composition are associated with each other.

ステップS107では、車載制御装置170は、ステップS106にて生成した車両の走行履歴情報を、データセンタ200に送信する。ステップS107が終了すると、車載装置100が車両の走行履歴情報をデータセンタ200に送信するまでの処理は終了する。 In step S107, the vehicle-mounted control device 170 transmits the travel history information of the vehicle generated in step S106 to the data center 200. When step S107 is completed, the process until the vehicle-mounted device 100 transmits the vehicle travel history information to the data center 200 is completed.

次に、図4を参照しながら、人員構成ごとに最適な制御パラメータ特定する動作について説明する。図4は、人員構成ごとに最適な制御パラメータを特定する処理を説明するためのフローチャートである。図4に示すフローチャートの処理は、データセンタ200のサーバ処理装置230により実行される。 Next, with reference to FIG. 4, the operation of specifying the optimum control parameter for each personnel configuration will be described. FIG. 4 is a flowchart for explaining a process of specifying the optimum control parameter for each personnel configuration. The processing of the flowchart shown in FIG. 4 is executed by the server processing device 230 of the data center 200.

ステップS201では、サーバ処理装置230は、車載装置100から送信される車両の走行履歴情報を収集し、データベース220に蓄積させる。 In step S201, the server processing device 230 collects the vehicle travel history information transmitted from the vehicle-mounted device 100 and stores it in the database 220.

ステップS202では、サーバ処理装置230は、ステップS201にてデータベース220に蓄積された、各車両の各走行位置に対する車両の走行履歴情報から、人員構成ごとに運転者の運転特性について分析する。例えば、サーバ処理装置230は、特定の走行位置に対する車両の走行履歴情報に対して、クラスタリング処理を実行し、車内の人員構成の情報を構成するパラメータごとに(人数ごと、性別ごと、年齢ごと、車内の人物間の関係性、車内の人物間の親密度)グループ化する。そして、サーバ処理装置230は、グループ化されたそれぞれに対して、運転特性の傾向を分析し、一の運転特性に応じた人数、性別、年齢、人物間の関係性、及び人物間の親密度の組み合わせで表せる、一の運転特性に対する特徴量を算出する。サーバ処理装置230は、運転特性ごとに上述した処理を実行することで、各運転特性に対する特徴量を算出する。サーバ処理装置230は、各運転特性に対応する制御パラメータを特定することで、運転特性と制御パラメータを関連付ける。 In step S202, the server processing device 230 analyzes the driving characteristics of the driver for each personnel configuration from the vehicle traveling history information for each traveling position of each vehicle stored in the database 220 in step S201. For example, the server processing device 230 executes a clustering process on the travel history information of the vehicle for a specific travel position, and for each parameter (for each number of people, for each gender, for each age, which constitutes the information of the personnel composition in the vehicle). Relationships between people in the car, intimacy between people in the car) Group. Then, the server processing device 230 analyzes the tendency of the driving characteristics for each grouped group, and the number of people, the gender, the age, the relationship between the persons, and the intimacy between the persons according to one driving characteristic. Calculate the feature amount for one driving characteristic that can be expressed by the combination of. The server processing device 230 calculates the feature amount for each operation characteristic by executing the above-mentioned processing for each operation characteristic. The server processing device 230 associates the operation characteristics with the control parameters by specifying the control parameters corresponding to each operation characteristic.

ステップS203では、サーバ処理装置230は、ステップS202にて得られた分析結果に基づいて、人員構成ごとに最適な制御パラメータを特定する。 In step S203, the server processing device 230 identifies the optimum control parameter for each personnel configuration based on the analysis result obtained in step S202.

ステップS204では、サーバ処理装置230は、ステップ202にて得られた分析結果、及びステップS203にて特定された人員構成ごとに最適な制御パラメータを、データベース220に格納する。ステップS204が終了すると、サーバ処理装置230が人員構成ごとに最適な制御パラメータを特定する処理は終了する。 In step S204, the server processing apparatus 230 stores the analysis result obtained in step 202 and the optimum control parameters for each personnel configuration specified in step S203 in the database 220. When step S204 is completed, the process of the server processing device 230 specifying the optimum control parameter for each personnel configuration is completed.

次に、図5A、図5Bを参照しながら、車両に乗車してから車内の人員構成に最適な制御パラメータが提供されるまでの処理について説明する。図5A、図5Bは、車両に乗車してから車内の人員構成に最適な制御パラメータを提供するまでの処理を説明するためのフローチャートである。図5Aに示すステップS301~S306、及びステップS308の処理と、図5Bに示すステップS313~S315の処理は、特定の車両に搭載された車載装置100により実行される。また、図5Bに示すステップS307、及びステップS309~S312の処理は、データセンタ200のサーバ処理装置230により実行される。 Next, with reference to FIGS. 5A and 5B, the process from getting into the vehicle to providing the optimum control parameters for the personnel configuration in the vehicle will be described. 5A and 5B are flowcharts for explaining the process from getting into the vehicle to providing the optimum control parameters for the personnel configuration in the vehicle. The processes of steps S301 to S306 and S308 shown in FIG. 5A and the processes of steps S313 to S315 shown in FIG. 5B are executed by the vehicle-mounted device 100 mounted on the specific vehicle. Further, the processes of steps S307 and steps S309 to S312 shown in FIG. 5B are executed by the server processing device 230 of the data center 200.

ステップS301では、車載制御装置170は、車載カメラ110から、現在の車内の撮像画像を取得する。また、車載制御装置170は、車載マイク120から、現在の車内の音声情報を取得する。車載制御装置170は、例えば、一又は複数の人物が乗車したタイミング、又は車両が発進するタイミングにおいて、車載カメラ110から現在の車内の撮像画像を取得するとともに、車載マイク120から音声情報を取得し始める。なお、このステップは、図3のステップS101に対応する。 In step S301, the vehicle-mounted control device 170 acquires the current captured image of the vehicle interior from the vehicle-mounted camera 110. Further, the vehicle-mounted control device 170 acquires the current voice information in the vehicle from the vehicle-mounted microphone 120. The in-vehicle control device 170 acquires the current captured image of the inside of the vehicle from the in-vehicle camera 110 and the voice information from the in-vehicle microphone 120, for example, at the timing when one or more people get on the vehicle or when the vehicle starts. start. This step corresponds to step S101 in FIG.

ステップS302では、車載制御装置170は、ステップS301にて取得した現在の車内の撮像画像に基づいて、現在の車内に存在する人物の特徴を推定する。なお、このステップは、図3のステップS102に対応する。 In step S302, the vehicle-mounted control device 170 estimates the characteristics of a person present in the current vehicle based on the image captured in the current vehicle acquired in step S301. This step corresponds to step S102 in FIG.

ステップS303では、車載制御装置170は、ステップS301にて取得した現在の車内の撮像画像及び音声情報の少なくとも一方から、過去に乗車経験がある人物が乗車しているか否かを判定する。現在の車内に過去に乗車経験がある人物が検出されなかった場合、ステップS304へ進み、過去に乗車経験がある人物が検出された場合、ステップS309へ進む。 In step S303, the in-vehicle control device 170 determines whether or not a person who has boarded in the past is on board from at least one of the current captured image and voice information in the vehicle acquired in step S301. If no person with past riding experience is detected in the current vehicle, the process proceeds to step S304, and if a person with past riding experience is detected, the process proceeds to step S309.

ステップS304では、車載制御装置170は、ステップS301にて取得した現在の車内の音声情報に基づいて、現在の車内の人物間の関係性を推定する。また、このステップにおいて、車載制御装置170は、現在の車内の人物間の親密度を推定する。なお、このステップは、図3のステップS103に対応する。 In step S304, the in-vehicle control device 170 estimates the relationship between the people in the current vehicle based on the voice information in the current vehicle acquired in step S301. Further, in this step, the in-vehicle control device 170 estimates the intimacy between people in the current vehicle. This step corresponds to step S103 in FIG.

ステップS305では、車載制御装置170は、現在の車内の人員構成を推定する。なお、このステップは、図4のステップS104に対応する。 In step S305, the in-vehicle control device 170 estimates the current personnel configuration in the vehicle. This step corresponds to step S104 in FIG.

ステップS306では、車載制御装置170は、ステップS305にて推定した現在の車内の人員構成の情報を、データセンタ200に送信する。 In step S306, the vehicle-mounted control device 170 transmits the information on the current personnel configuration in the vehicle estimated in step S305 to the data center 200.

ステップS303にて、過去に乗車経験がある人物が検出された場合、ステップS309へ進む。ステップS309では、車載制御装置170は、ステップS303にて検出された乗車経験がある人物の情報を、データセンタ200に送信する。 If a person who has boarded in the past is detected in step S303, the process proceeds to step S309. In step S309, the vehicle-mounted control device 170 transmits the information of the person who has a riding experience detected in step S303 to the data center 200.

ステップ306又はステップS309が終了すると、車載装置100は、データセンタ200からの応答が来るまで待機する。 When step 306 or step S309 is completed, the vehicle-mounted device 100 waits until a response from the data center 200 arrives.

ステップS306にて、車載装置100から現在の車内の人員構成の情報がデータセンタ200に送信されると、ステップS307に進む。ステップS307では、サーバ処理装置230は、サーバ通信装置210を介して、ステップS306にて車載装置100から送信された現在の車内の人員構成の情報を受信する。 In step S306, when the information on the current personnel configuration in the vehicle is transmitted from the vehicle-mounted device 100 to the data center 200, the process proceeds to step S307. In step S307, the server processing device 230 receives the information on the current personnel configuration in the vehicle transmitted from the vehicle-mounted device 100 in step S306 via the server communication device 210.

ステップS308では、サーバ処理装置230は、ステップS307にて受信した現在の車内の人員構成に対して、最適な制御パラメータをデータベース220から抽出する。サーバ処理装置230は、抽出した最適な制御パラメータを制御パラメータ案内情報とする。 In step S308, the server processing device 230 extracts the optimum control parameters from the database 220 for the current personnel configuration in the vehicle received in step S307. The server processing device 230 uses the extracted optimum control parameters as control parameter guidance information.

ステップS309にて車載装置100から乗車経験がある人物の情報がデータセンタ200に送信されると、ステップS310に進む。ステップS310では、サーバ処理装置230は、サーバ通信装置210を介して、ステップS309にて車載装置100から送信された乗車経験がある人物の情報を受信する。 When the information of the person who has a riding experience is transmitted from the vehicle-mounted device 100 to the data center 200 in step S309, the process proceeds to step S310. In step S310, the server processing device 230 receives the information of a person who has a riding experience transmitted from the vehicle-mounted device 100 in step S309 via the server communication device 210.

ステップS310では、サーバ処理装置230は、データベース220から乗車経験がある人物が含まれる車内の人員構成の情報を抽出する。サーバ処理装置230は、抽出した車内の人員構成に対応する制御パラメータのうち車載装置100への送信履歴がある制御パラメータを抽出する。サーバ処理装置230は、過去に提供した最適な制御パラメータを制御パラメータ案内情報とする。 In step S310, the server processing device 230 extracts information on the personnel composition in the vehicle including a person who has experience of riding from the database 220. The server processing device 230 extracts a control parameter having a transmission history to the in-vehicle device 100 from the extracted control parameters corresponding to the personnel configuration in the vehicle. The server processing device 230 uses the optimum control parameters provided in the past as control parameter guidance information.

ステップS312では、サーバ処理装置230は、ステップS308又はステップS311にて作成された制御パラメータ案内情報を車載装置100へ送信する。 In step S312, the server processing device 230 transmits the control parameter guidance information created in step S308 or step S311 to the vehicle-mounted device 100.

ステップS313では、車載制御装置170は、データセンタ200から車載通信装置160を介して、制御パラメータ案内情報を受信する。 In step S313, the vehicle-mounted control device 170 receives control parameter guidance information from the data center 200 via the vehicle-mounted communication device 160.

ステップS314では、車載制御装置170は、制御パラメータ案内情報を受信したことを車載ディスプレイ150に表示させ、車内の人物に制御パラメータ案内情報に含まれる制御パラメータを利用するか否かの選択を促す。例えば、車載制御装置170は、車載ディスプレイ150に制御パラメータ案内情報に含まれる各種の制御パラメータを表示させるとともに、利用するか否かの選択画面を表示させる。車内の人物が制御パラメータ案内情報を利用することを選択すると、ステップS315へ進み、車内の人物が制御パラメータ案内情報を利用しないことを選択すると、情報提供の処理は終了する。
In step S314, the vehicle-mounted control device 170 displays on the vehicle-mounted display 150 that the control parameter guidance information has been received, and prompts a person in the vehicle to select whether or not to use the control parameters included in the control parameter guidance information. For example, the vehicle-mounted control device 170 causes the vehicle-mounted display 150 to display various control parameters included in the control parameter guidance information and display a selection screen for whether or not to use the vehicle-mounted control device 170. If the person in the vehicle selects to use the control parameter guidance information, the process proceeds to step S315 , and if the person in the vehicle selects not to use the control parameter guidance information, the information provision process ends.

ステップS315では、車載制御装置170は、ステップ313にて受信した制御パラメータ案内情報を出力する。車載制御装置170は、制御パラメータ案内情報に含まれる最適な制御パラメータを、車載操作機器群130に対して出力する。例えば、同乗者に高齢者が含まれる場合、車載制御装置170は、交差点を右左折する場面において、法定速度よりもさらに所定の速度だけ減速するように、ブレーキペダルを制御する。これにより、高齢者の同乗者に過度な負荷をかけない運転の実現が可能となる。また、同乗者だけでなく運転者に対しても本実施形態の情報提供システム1は、以下のような効果を奏する。例えば、同乗者が友人の場合、車載制御装置170は、山道を走行する場面において、ノーマルモードからスポーツモードに切り替えるように、車両の走行特性モードを変更する。これにより、運転者が運転を楽しめるような運転の実現が可能となる。 In step S315, the in-vehicle control device 170 outputs the control parameter guidance information received in step 313. The in-vehicle control device 170 outputs the optimum control parameters included in the control parameter guidance information to the in-vehicle operation device group 130. For example, when the passenger includes an elderly person, the in-vehicle control device 170 controls the brake pedal so as to decelerate by a predetermined speed further than the legal speed when turning left or right at an intersection. This makes it possible to realize driving without imposing an excessive load on the elderly passengers. Further, the information providing system 1 of the present embodiment has the following effects not only for the passenger but also for the driver. For example, when the passenger is a friend, the in-vehicle control device 170 changes the driving characteristic mode of the vehicle so as to switch from the normal mode to the sports mode in the scene of traveling on a mountain road. This makes it possible to realize driving that allows the driver to enjoy driving.

また、このステップにおいて、車載制御装置170は、過去に提供した最適な制御パラメータ案内情報を、車載操作機器群130に対して出力してもよい。ステップS315が終了すると、乗車してから車内の人員構成に最適な制御パラメータが提供されるまでの処理は終了する。 Further, in this step, the vehicle-mounted control device 170 may output the optimum control parameter guidance information provided in the past to the vehicle-mounted operating device group 130. When step S315 is completed, the process from boarding to the provision of the optimum control parameters for the personnel configuration in the vehicle is completed.

以上のように、本実施形態では、車載装置100は、車両の室内を撮像する車載カメラ110から車内の撮像画像を取得し、車両の室内の音声を収集する車載マイク120から車内の音声情報を取得し、車内の音声情報に基づいて、車内に存在する人物の間の関係性を推定し、車内の人数と車内の人物間の関係性が関連付けられた車内の人員構成を推定し、車載センサ群140から車内の走行に関する制御パラメータを取得し、車内の人員構成と制御パラメータが関連付けられた車両の走行履歴情報をデータセンタ200に送信する。データセンタ200では、サーバ処理装置230は、車両の走行履歴情報をデータベース220に蓄積させ、蓄積された車両の走行履歴情報を分析することで車内の人員構成ごとに最適な制御パラメータを特定する。これにより、同乗者を考慮した車両の最適な制御パラメータを決定することができる。 As described above, in the present embodiment, the in-vehicle device 100 acquires the captured image in the vehicle from the in-vehicle camera 110 that captures the interior of the vehicle, and obtains the audio information in the vehicle from the in-vehicle microphone 120 that collects the audio in the interior of the vehicle. Based on the voice information in the car, it estimates the relationship between the people in the car, estimates the personnel composition in the car in which the number of people in the car and the relationship between the people in the car are related, and the in-vehicle sensor. The control parameters related to the traveling in the vehicle are acquired from the group 140, and the traveling history information of the vehicle in which the personnel configuration in the vehicle and the control parameters are associated with each other is transmitted to the data center 200. In the data center 200, the server processing device 230 stores the vehicle travel history information in the database 220, and analyzes the accumulated vehicle travel history information to specify the optimum control parameters for each personnel configuration in the vehicle. This makes it possible to determine the optimum control parameters of the vehicle in consideration of the passenger.

また、本実施形態では、車載装置100は、車内の撮像画像に基づいて、車内の人数と、車内の人物の性別及び年齢を推定し、車内の音声情報に基づいて、車内の人物間の関係性及び車内の人物間の親密度を推定する。そして、車載装置100は、推定したこれらの情報を車内の人員構成の情報とする。これにより、例えば、車載カメラ110が搭載されていない車両や、あるいは車載マイク120が搭載されていない車両であっても、車内の人員構成の概要については推定することができる。また、車載カメラ110及び車載マイク120のどちらも搭載されている車両では、車内の人員構成を精度よく推定することができる。 Further, in the present embodiment, the in-vehicle device 100 estimates the number of people in the vehicle and the gender and age of the person in the vehicle based on the captured image in the vehicle, and the relationship between the persons in the vehicle is based on the voice information in the vehicle. Estimate gender and intimacy between people in the car. Then, the in-vehicle device 100 uses the estimated information as information on the personnel configuration in the vehicle. Thereby, for example, even in a vehicle not equipped with the in-vehicle camera 110 or a vehicle not equipped with the in-vehicle microphone 120, it is possible to estimate the outline of the personnel composition in the vehicle. Further, in a vehicle equipped with both an in-vehicle camera 110 and an in-vehicle microphone 120, it is possible to accurately estimate the personnel configuration in the vehicle.

さらに、本実施形態では、車載制御装置170は位置検出装置142から車両の走行位置を取得する。また、車載制御装置170が車載センサ群140から取得する制御パラメータには、操舵角、アクセル開度、ブレーキ開度、ソナーセンサの検出結果、レーダーセンサの検出結果、車速、加速度、先行車両との車間距離、走行特性モードが含まれる。そして、車載制御装置170は、これらの車両の走行状態を示す制御パラメータと、車内の人員構成と、車両の走行位置が関連付いた情報を、車両の走行履歴情報とする。これにより、データセンタ200では、様々な走行シーンにおける、車内の人員構成ごとに最適な制御パラメータをデータベース220に蓄積させることができる。 Further, in the present embodiment, the vehicle-mounted control device 170 acquires the traveling position of the vehicle from the position detection device 142. The control parameters acquired by the vehicle-mounted control device 170 from the vehicle-mounted sensor group 140 include steering angle, accelerator opening, brake opening, sonar sensor detection result, radar sensor detection result, vehicle speed, acceleration, and distance to the preceding vehicle. Distance and driving characteristic modes are included. Then, the in-vehicle control device 170 uses information related to the control parameters indicating the traveling states of these vehicles, the personnel configuration in the vehicle, and the traveling position of the vehicle as the traveling history information of the vehicle. As a result, in the data center 200, the optimum control parameters for each personnel configuration in the vehicle in various driving scenes can be stored in the database 220.

また、本実施形態では、車載装置100は、車載カメラ110から現在の車内の撮像画像を取得し、車載マイク120から現在の車内の音声情報を取得し、現在の車内の音声情報に基づいて、現在の車内の人物間の関係性を推定し、現在の車内の人数と現在の車内の人物間の関係性が関連付けられた現在の車内の人員構成を推定し、現在の車内の人員構成の情報をデータセンタ200に送信する。データセンタ200では、サーバ処理装置230は、データベース220に蓄積された、車内の人員構成ごと特定された最適な制御パラメータの中から、現在の車内の人員構成に最適な制御パラメータを選択して車載装置100に送信する。車載装置100では、車載制御装置170は、データセンタ200から受信した現在の人員構成に最適な制御パラメータを各駆動装置に出力する。これにより、同乗者を考慮した最適な制御パラメータによる運転を行うことができる。 Further, in the present embodiment, the vehicle-mounted device 100 acquires the captured image of the current vehicle interior from the vehicle-mounted camera 110, acquires the voice information of the current vehicle interior from the vehicle-mounted microphone 120, and is based on the voice information of the current vehicle interior. Estimate the relationship between people in the current car, estimate the current personnel composition in the car in which the relationship between the current number of people in the car and the current person in the car is related, and information on the current personnel composition in the car. To the data center 200. In the data center 200, the server processing device 230 selects the optimum control parameter for the current personnel configuration in the vehicle from the optimum control parameters stored in the database 220 and specified for each personnel configuration in the vehicle. It is transmitted to the device 100. In the in-vehicle device 100, the in-vehicle control device 170 outputs to each drive device the control parameters optimal for the current personnel configuration received from the data center 200. As a result, it is possible to drive with the optimum control parameters in consideration of the passenger.

さらに、本実施形態では、サーバ処理装置230は、現在の車内の人物間の関係性と、現在の車内の人物間の親密度のうち少なくとも一方に基づいて、現在の車内の人員構成に最適な制御パラメータをデータベース220から抽出する。これにより、例えば、これらの情報のうち何れか一方が何らかの原因で欠落しとしても、現在の車内の人員構成に最適な制御パラメータを抽出することができる。 Further, in this embodiment, the server processing device 230 is optimal for the current in-vehicle personnel configuration based on at least one of the current in-vehicle relationships and the current in-vehicle intimacy. The control parameters are extracted from the database 220. Thereby, for example, even if any one of these information is missing for some reason, the optimum control parameter for the current personnel configuration in the vehicle can be extracted.

また、本実施形態では、車載装置100は、車載カメラ110が撮像した車内の撮像画像から、過去に乗車経験がある人物を検出した場合、乗車経験がある人物の情報をデータセンタ200に送信する。データセンタ200では、データベース220から、乗車経験がある人物を含む車内の人員構成の情報が抽出される。そして、サーバ処理装置230は、抽出した車内の人員構成に対応する最適な制御パラメータのうち、車載装置100への送信履歴がある制御パラメータを最適な制御パラメータとして車載装置100に送信する。車載装置100では、車載制御装置170は、過去に提供された制御パラメータ案内情報を車載ディスプレイ150に表示させる。これにより、乗車経験ある同乗者に対しては、車内の人員構成の推定処理を省略することができ、乗車してからより時間をかけることなく最適な制御パラメータ案内情報を車内に提供することができる。 Further, in the present embodiment, when the in-vehicle device 100 detects a person who has a riding experience in the past from the captured image in the vehicle captured by the in-vehicle camera 110, the in-vehicle device 100 transmits the information of the person who has the riding experience to the data center 200. .. In the data center 200, information on the personnel composition in the vehicle including a person who has experience of riding is extracted from the database 220. Then, the server processing device 230 transmits to the vehicle-mounted device 100 as the optimum control parameter having a transmission history to the vehicle-mounted device 100 among the extracted optimum control parameters corresponding to the personnel configuration in the vehicle. In the vehicle-mounted device 100, the vehicle-mounted control device 170 causes the vehicle-mounted display 150 to display the control parameter guidance information provided in the past. As a result, it is possible to omit the estimation process of the personnel composition in the vehicle for passengers who have experience of riding, and to provide the optimum control parameter guidance information in the vehicle without spending more time after boarding. can.

また、本実施形態では、車載装置100は、データセンタ200から受信した最適な制御パラメータ案内情報を車内に提供するか否かの選択を車内の人物に促す。これにより、車内の人物は必要に応じてデータセンタ200からの制御パラメータ案内情報を利用することができる。 Further, in the present embodiment, the in-vehicle device 100 prompts a person in the vehicle to select whether or not to provide the optimum control parameter guidance information received from the data center 200 in the vehicle. As a result, the person in the vehicle can use the control parameter guidance information from the data center 200 as needed.

なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態において開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。 It should be noted that the embodiments described above are described for facilitating the understanding of the present invention, and are not described for limiting the present invention. Therefore, each element disclosed in the above-described embodiment is intended to include all design changes and equivalents belonging to the technical scope of the present invention.

例えば、上述の実施形態では、制御パラメータ案内情報の提示方法として、制御パラメータ案内情報を車載ディスプレイ150に表示させたり、運転者に最適な制御パラメータを利用するか否かの選択を促す選択画面を車載ディスプレイ150に表示させたりする構成を例に挙げて説明したが、制御パラメータ案内情報の提示方法はこれに限定されない。例えば、車両が自動的に運転する機能を備えている場合、車載装置100は、データセンタ200から受信した最適な制御パラメータを自動的な運転を行う各駆動装置に出力してもよい。これにより、車両は、特定の走行シーンにおける、特定の車内の人員構成に最適な運転を行うことができる。 For example, in the above-described embodiment, as a method of presenting the control parameter guidance information, a selection screen for displaying the control parameter guidance information on the in-vehicle display 150 or prompting the driver to select whether or not to use the optimum control parameter is displayed. Although the configuration of displaying on the in-vehicle display 150 has been described as an example, the method of presenting the control parameter guidance information is not limited to this. For example, when the vehicle has a function of automatically driving, the in-vehicle device 100 may output the optimum control parameters received from the data center 200 to each drive device that automatically drives. As a result, the vehicle can be optimally driven for the personnel composition in the specific vehicle in the specific driving scene.

また、例えば、上述した実施形態では、車載マイク120からの音声情報に基づいて、車内の人物間の関係性を推定する構成を例に挙げて説明したが、車内の人物間の関係性の推定には、車内の人物が所有する端末装置を用いてもよい。端末装置としては、携帯電話、スマートフォン、ノートパソコン、タブレットパソコン等のインターネット接続可能な装置が一例として挙げられる。これらの端末装置は、所有者を特定することが可能なID情報を有している。端末装置は、インターネット接続によりデータセンタ200と通信することができるため、サーバ処理装置230は、端末装置が有するID情報として登録されている個人情報から、車内の人物間の関係性を特定することができる。これにより、車内の人物間の関係性を推定する精度を向上させることができる。 Further, for example, in the above-described embodiment, the configuration for estimating the relationship between the persons in the vehicle based on the voice information from the in-vehicle microphone 120 has been described as an example, but the estimation of the relationship between the persons in the vehicle has been described. A terminal device owned by a person in the vehicle may be used for the above. Examples of terminal devices include devices that can connect to the Internet, such as mobile phones, smartphones, laptop computers, and tablet computers. These terminal devices have ID information that can identify the owner. Since the terminal device can communicate with the data center 200 via the Internet connection, the server processing device 230 identifies the relationship between the persons in the vehicle from the personal information registered as the ID information possessed by the terminal device. Can be done. This makes it possible to improve the accuracy of estimating the relationship between people in the vehicle.

また、例えば、上述した実施形態において、サーバ処理装置230は、運転特性分析処理において、予め定められた所定の運転規定に基づいて最適な制御パラメータを変更してもよい。例えば、サーバ処理装置230は、特定の車内の人員構成での運転特性に、優良運転者の運転として認められない傾向があると判定すると、該当する車内の人員構成に最適な制御パラメータを変更することができる。これにより、模範にならない運転が行われるのを防ぐことができる。 Further, for example, in the above-described embodiment, the server processing device 230 may change the optimum control parameters in the operation characteristic analysis processing based on predetermined predetermined operation rules. For example, when the server processing device 230 determines that the driving characteristics in a specific vehicle personnel configuration tend not to be recognized as driving by a good driver, the server processing device 230 changes the optimum control parameter for the personnel configuration in the vehicle. be able to. This can prevent non-model driving from being performed.

また、例えば、上述した実施形態では、車載マイク120の音声情報に基づいて、車内の人物の間の関係性及び車内の人物の間の親密度を推定したが、車載カメラ110の撮像画像に基づいて、当該関係性及び当該親密度を推定してもよい。例えば、車載制御装置170は、撮像画像に含まれる人物の表情から車内の人物間の関係性を推定してもよい。 Further, for example, in the above-described embodiment, the relationship between the persons in the vehicle and the intimacy between the persons in the vehicle are estimated based on the voice information of the in-vehicle microphone 120, but based on the captured image of the in-vehicle camera 110. The relationship and the intimacy may be estimated. For example, the in-vehicle control device 170 may estimate the relationship between the persons in the vehicle from the facial expressions of the persons included in the captured image.

また、例えば、上述した実施形態では、車載装置100側では、車内の人物間の関係性や親密度を推定したり、車内の人員構成を推定したりする構成を例に挙げて説明したが、車内の人物間の関係性や親密度を推定すること、車内の人員構成を推定することは、データセンタ200であってもよい。例えば、車載装置100は、車載カメラ110が撮像した車内の撮像画像及び車載マイク120が収集した車内の音声情報をデータセンタ200に送信し、サーバ処理装置230側で、車内の人物間の関係性や親密度、及び車内の人員構成を推定してもよい。 Further, for example, in the above-described embodiment, on the vehicle-mounted device 100 side, a configuration for estimating the relationship and intimacy between people in the vehicle and estimating the personnel composition in the vehicle has been described as an example. The data center 200 may be used to estimate the relationships and intimacy between people in the vehicle and to estimate the personnel composition in the vehicle. For example, the vehicle-mounted device 100 transmits the captured image in the vehicle captured by the vehicle-mounted camera 110 and the voice information in the vehicle collected by the vehicle-mounted microphone 120 to the data center 200, and the server processing device 230 side has a relationship between people in the vehicle. And intimacy, and the personnel composition in the car may be estimated.

また、例えば、上述した実施形態では、本発明に係る情報処理装置を、情報提供システム1を構成する、車載制御装置170と、データベース220と、サーバ処理装置230の構成を例に説明したが、本発明はこれに限定されるものではない。例えば、データセンタ200が備える、データベース220と、サーバ処理装置230を車載装置100が備えていてもよい。 Further, for example, in the above-described embodiment, the information processing device according to the present invention has been described by taking the configuration of the vehicle-mounted control device 170, the database 220, and the server processing device 230 constituting the information providing system 1 as an example. The present invention is not limited to this. For example, the in-vehicle device 100 may include the database 220 and the server processing device 230 included in the data center 200.

また、例えば、上述した実施形態では、本発明に係るコントローラを、車載制御装置170とサーバ処理装置230の構成を例に説明したが、本発明はこれに限定されるものではない。 Further, for example, in the above-described embodiment, the controller according to the present invention has been described by taking the configuration of the in-vehicle control device 170 and the server processing device 230 as an example, but the present invention is not limited thereto.

1…情報提供システム
100…車載装置
110…車載カメラ
120…車載マイク
130…車載操作機器群
140…車載センサ群
150…車載ディスプレイ
160…車載通信装置
200…データセンタ
210…サーバ通信装置
220…データベース
230…サーバ処理装置
1 ... Information provision system 100 ... In-vehicle device 110 ... In-vehicle camera 120 ... In-vehicle microphone 130 ... In-vehicle operation device group 140 ... In-vehicle sensor group 150 ... In-vehicle display 160 ... In-vehicle communication device 200 ... Data center 210 ... Server communication device 220 ... Database 230 … Server processing device

Claims (11)

コントローラ記憶装置を用いて実行する情報処理方法であって、
車両の室内を撮像するカメラから出力される車内の撮像画像、及び前記車両の室内の音声を取得するマイクから出力される車内の音声情報の少なくも一方を取得し、
取得した情報に基づいて、前記車内に存在する人物の間の関係性を推定し、
前記車内の人数と前記車内の人物間の関係性が関連付けられた車内の人員構成を推定し、
前記車両の走行状態を検出するセンサから前記車両の走行に関する制御パラメータを取得し、
前記車内の人員構成と前記制御パラメータが関連付けられた車両の走行履歴を前記記憶装置に蓄積させ、
蓄積された前記走行履歴から特定された前記車内の人員構成ごとの運転者の運転特性と、前記運転特性に対応する前記制御パラメータを関連付けることで、前記車内の人員構成に対応する前記制御パラメータを前記車内の人員構成ごとに特定する情報処理方法。
An information processing method executed by a controller using a storage device.
At least one of the captured image inside the vehicle output from the camera that captures the interior of the vehicle and the audio information inside the vehicle output from the microphone that acquires the sound inside the vehicle is acquired.
Based on the acquired information, the relationship between the persons existing in the vehicle is estimated, and the relationship is estimated.
Estimate the personnel composition in the vehicle in which the number of people in the vehicle and the relationship between the persons in the vehicle are related.
The control parameters related to the running of the vehicle are acquired from the sensor that detects the running state of the vehicle, and the control parameters are acquired.
The traveling history of the vehicle in which the personnel configuration in the vehicle and the control parameter are associated with each other is stored in the storage device.
By associating the driver's driving characteristics for each personnel configuration in the vehicle specified from the accumulated travel history with the control parameters corresponding to the driving characteristics, the control parameters corresponding to the personnel configurations in the vehicle are associated with each other. An information processing method for specifying each of the personnel configurations in the vehicle .
請求項1に記載の情報処理方法であって、
前記車内の人員構成は、前記車内の人数と、前記車内の人物の性別及び年齢と、前記車内の人物間の関係性と、前記車内の人物間の親密度を含み、
前記車内の撮像画像に基づいて、前記車内の人数と、前記車内の人物の性別及び年齢を推定し、
前記車内の音声情報に基づいて、前記車内の人物間の関係性及び前記車内の人物間の親密度を推定する情報処理方法。
The information processing method according to claim 1.
The personnel composition in the vehicle includes the number of people in the vehicle, the gender and age of the person in the vehicle, the relationship between the persons in the vehicle, and the intimacy between the persons in the vehicle.
Based on the captured image in the car, the number of people in the car and the gender and age of the person in the car are estimated.
An information processing method for estimating the relationship between people in a vehicle and the intimacy between people in the vehicle based on the voice information in the vehicle.
請求項2に記載の情報処理方法であって、
前記センサから前記車両の走行位置を取得し、
前記制御パラメータは、舵角センサの検出結果と、アクセル開度センサの検出結果と、ブレーキ開度センサの検出結果と、ソナー装置の検出結果と、レーダー装置の検出結果と、速度センサの検出結果と、加速度センサの検出結果と、先行車両との車間距離と、走行特性モードのうち少なくとも1つの情報を含み、
前記走行履歴は、前記車内の人員構成、前記制御パラメータ、及び前記走行位置を含む情報処理方法。
The information processing method according to claim 2.
The traveling position of the vehicle is acquired from the sensor, and the traveling position of the vehicle is acquired.
The control parameters are the detection result of the steering angle sensor, the detection result of the accelerator opening sensor, the detection result of the brake opening sensor, the detection result of the sonar device, the detection result of the radar device, and the detection result of the speed sensor. And the detection result of the acceleration sensor, the distance between the vehicle and the preceding vehicle, and information on at least one of the driving characteristic modes.
The travel history is an information processing method including the personnel configuration in the vehicle, the control parameters, and the travel position.
請求項1~3の何れか一項に記載の情報処理方法であって、
前記車内の人物が所有する端末装置に基づいて、前記車内の人物間の関係性を推定する情報処理方法。
The information processing method according to any one of claims 1 to 3.
An information processing method for estimating a relationship between people in a vehicle based on a terminal device owned by the person in the vehicle.
請求項1~4の何れか一項に記載の情報処理方法であって、
前記カメラから出力される現在の車内の撮像画像、及び前記マイクから出力される現在の車内の音声情報の少なくも一方を取得し、
取得した情報に基づいて、現在の前記車内の人物間の関係性を推定し、
現在の前記車内の人数と現在の前記車内の人物間の関係性が関連付けられた現在の車内の人員構成を推定し、
車内の人員構成ごとに特定された前記制御パラメータの中から、現在の車内の人員構成に対応する制御パラメータを選択し、
選択した前記制御パラメータを出力する情報処理方法。
The information processing method according to any one of claims 1 to 4.
At least one of the image captured in the current vehicle output from the camera and the audio information in the current vehicle output from the microphone is acquired.
Based on the acquired information, the current relationship between the persons in the car is estimated, and
Estimate the current personnel composition in the vehicle in which the current number of people in the vehicle and the current relationship between the persons in the vehicle are related.
From the control parameters specified for each personnel configuration in the vehicle, select the control parameter corresponding to the current personnel configuration in the vehicle.
An information processing method that outputs the selected control parameter.
請求項に記載の情報処理方法であって、
前記現在の車内の撮像画像又は前記現在の車内の音声情報から、過去に前記車両に乗車経験がある人物を検出した場合、過去に推定した前記車内の人物間の関係性から現在の車内の人物間の関係性を推定する情報処理方法。
The information processing method according to claim 5 .
When a person who has been in the vehicle in the past is detected from the captured image in the current vehicle or the voice information in the current vehicle, the person in the current vehicle is based on the relationship between the persons in the vehicle estimated in the past. An information processing method that estimates the relationships between people.
請求項5又は6に記載の情報処理方法であって、
前記現在の車内の人員構成に対応する前記制御パラメータを利用するか否かに対する、前記車内に存在する人物による選択に応じて、前記現在の車内の人員構成に対応する記制御パラメータを出力するか否かを切り替える情報処理方法。
The information processing method according to claim 5 or 6 .
The control parameter corresponding to the current personnel configuration in the vehicle is output according to the selection by the person existing in the vehicle as to whether or not to use the control parameter corresponding to the current personnel configuration in the vehicle. Information processing method to switch whether to do or not.
請求項5~7の何れか一項に記載の情報処理方法であって、 The information processing method according to any one of claims 5 to 7.
前記現在の車内の撮像画像及び前記現在の車内の音声情報のうち少なくとも一方に基づいて、過去に前記車両に乗車経験がある乗車経験者が存在するか否かを判定し、 Based on at least one of the captured image in the current vehicle and the audio information in the current vehicle, it is determined whether or not there is a rider who has experience in the vehicle in the past.
前記運転者を除く前記乗車経験者が存在すると判定した場合、前記乗車経験者が含まれる前記車内の人員構成に対応する前記制御パラメータのうち、前記車両に搭載された装置への送信履歴がある前記制御パラメータを、前記現在の車内の人員構成に対応する前記制御パラメータとして特定し、 When it is determined that there is an experienced rider other than the driver, there is a transmission history to the device mounted on the vehicle among the control parameters corresponding to the personnel configuration in the vehicle including the experienced rider. The control parameter is specified as the control parameter corresponding to the current personnel configuration in the vehicle.
前記乗車経験者が存在しないと判定した場合、前記現在の車内の人員構成に含まれる、前記現在の車内の人物間の関係性及び前記現在の車内の人物間の親密度のうち少なくとも一方に基づいて、前記現在の車内の人員構成に対応する前記制御パラメータを特定する情報処理方法。 If it is determined that the rider does not exist, it is based on at least one of the relationship between the persons in the current vehicle and the intimacy between the persons in the current vehicle included in the personnel composition in the current vehicle. An information processing method for specifying the control parameter corresponding to the current personnel configuration in the vehicle.
請求項8に記載の情報処理方法であって、 The information processing method according to claim 8.
前記乗車経験者が存在しないと判定し、かつ、前記現在の車内の人員構成に対応する前記制御パラメータが存在しない場合、前記現在の車内の人物間の関係性及び前記現在の車内の人物間の親密度のうち何れか一方を変更して、前記現在の車内の人員構成に類似する人員構成を作成する情報処理方法。 When it is determined that the rider does not exist and the control parameter corresponding to the personnel configuration in the current vehicle does not exist, the relationship between the persons in the current vehicle and the person in the current vehicle are present. An information processing method in which one of the intimacy is changed to create a personnel composition similar to the personnel composition in the current vehicle.
請求項9に記載の情報処理方法であって、 The information processing method according to claim 9.
前記現在の車内の人員構成に類似する前記人員構成に対応する前記制御パラメータを、前記現在の車内の人員構成に対応する前記制御パラメータとして特定する情報処理方法。 An information processing method for specifying the control parameter corresponding to the personnel configuration similar to the current personnel configuration in the vehicle as the control parameter corresponding to the current personnel configuration in the vehicle.
情報処理を実行するコントローラと、
記憶装置を備え、
前記コントローラは、
車両の室内を撮像するカメラが出力する車内の撮像画像、又は前記車両の室内の音声を取得するマイクが出力する車内の音声情報の少なくも一方を取得し、
取得した情報に基づいて、前記車内に存在する人物の間の関係性を推定し、
前記車内の人数と前記関係性を関連付けた車内の人員構成を推定し、
前記車両の走行状態を検出するセンサから前記車両の走行制御に関する制御パラメータを取得し、
前記車内の人員構成と前記制御パラメータを関連付けた走行履歴を前記記憶装置に蓄積させ、
蓄積された前記走行履歴から特定された前記車内の人員構成ごとの運転者の運転特性と、前記運転特性に対応する前記制御パラメータを関連付けることで、前記車内の人員構成に対応する前記制御パラメータを前記車内の人員構成ごとに特定する情報処理装置。
A controller that executes information processing and
Equipped with a storage device
The controller
Acquire at least one of the captured image in the vehicle output by the camera that captures the interior of the vehicle or the audio information in the vehicle output by the microphone that acquires the audio in the interior of the vehicle.
Based on the acquired information, the relationship between the persons existing in the vehicle is estimated, and the relationship is estimated.
Estimate the personnel composition in the vehicle that associates the number of people in the vehicle with the relationship.
The control parameters related to the running control of the vehicle are acquired from the sensor that detects the running state of the vehicle, and the control parameters are acquired.
The traveling history in which the personnel configuration in the vehicle and the control parameters are associated with each other is stored in the storage device.
By associating the driver's driving characteristics for each personnel configuration in the vehicle specified from the accumulated travel history with the control parameters corresponding to the driving characteristics, the control parameters corresponding to the personnel configurations in the vehicle are associated with each other. An information processing device that specifies the above for each personnel configuration in the vehicle .
JP2017237593A 2017-12-12 2017-12-12 Information processing method and information processing equipment Active JP7081132B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017237593A JP7081132B2 (en) 2017-12-12 2017-12-12 Information processing method and information processing equipment

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017237593A JP7081132B2 (en) 2017-12-12 2017-12-12 Information processing method and information processing equipment

Publications (2)

Publication Number Publication Date
JP2019104354A JP2019104354A (en) 2019-06-27
JP7081132B2 true JP7081132B2 (en) 2022-06-07

Family

ID=67061640

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017237593A Active JP7081132B2 (en) 2017-12-12 2017-12-12 Information processing method and information processing equipment

Country Status (1)

Country Link
JP (1) JP7081132B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7367572B2 (en) 2020-03-16 2023-10-24 株式会社デンソー Mobile authentication system and mobile authentication program

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012133530A (en) 2010-12-21 2012-07-12 Denso Corp On-vehicle device
JP2014149571A (en) 2013-01-31 2014-08-21 Nikon Corp Content search device
JP2015121842A (en) 2013-12-20 2015-07-02 株式会社ゼンリンデータコム Driving support system, driving support method
WO2016121174A1 (en) 2015-01-30 2016-08-04 ソニー株式会社 Information processing system and control method

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013182560A (en) * 2012-03-05 2013-09-12 Nomura Research Institute Ltd Human relationship estimation system
JP2017009826A (en) * 2015-06-23 2017-01-12 トヨタ自動車株式会社 Group state determination device and group state determination method
JP2017045242A (en) * 2015-08-26 2017-03-02 パイオニア株式会社 Information display device
JP2017110990A (en) * 2015-12-16 2017-06-22 アルパイン株式会社 Travel support device and travel support method
JP2017117194A (en) * 2015-12-24 2017-06-29 三菱自動車工業株式会社 Vehicular emergency call system
JP6958255B2 (en) * 2017-11-07 2021-11-02 トヨタ自動車株式会社 Information processing device and information processing method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012133530A (en) 2010-12-21 2012-07-12 Denso Corp On-vehicle device
JP2014149571A (en) 2013-01-31 2014-08-21 Nikon Corp Content search device
JP2015121842A (en) 2013-12-20 2015-07-02 株式会社ゼンリンデータコム Driving support system, driving support method
WO2016121174A1 (en) 2015-01-30 2016-08-04 ソニー株式会社 Information processing system and control method

Also Published As

Publication number Publication date
JP2019104354A (en) 2019-06-27

Similar Documents

Publication Publication Date Title
US11904852B2 (en) Information processing apparatus, information processing method, and program
US10699569B2 (en) Information processing apparatus, information processing method, and program
CN109835346B (en) Driving advice device and driving advice method
JP6027280B1 (en) Provision system
WO2012070229A1 (en) Driving support system and driving support managing device
JPWO2018230704A1 (en) Vehicle control system, vehicle control method, program, and vehicle management system
US20160101785A1 (en) Driving characteristics diagnosis device, driving characteristics diagnosis system, driving characteristics diagnosis method, information output device, and information output method
JP7195161B2 (en) Guidance system, guidance method and program
CN112449690A (en) Inconvenience of getting on and off for passengers of autonomous vehicles
CN109841088A (en) Vehicle drive assist system and method
CN111383477B (en) Information presentation device
US11460309B2 (en) Control apparatus, control method, and storage medium storing program
JP7116540B2 (en) Driving advice device and driving advice method
JP6930274B2 (en) Digital signage control device, digital signage control method, program, recording medium
JP7081132B2 (en) Information processing method and information processing equipment
JP7376996B2 (en) Vehicle dangerous situation determination device, vehicle dangerous situation determination method, and program
EP4290185A1 (en) Mixed reality-based display device and route guide system
JP2021162569A (en) Information providing device
WO2023089823A1 (en) Traffic safety assistance system and traffic safety assistance method
JP7371692B2 (en) Vehicle information processing device and method
US11694377B2 (en) Editing device and editing method
CN118284914A (en) Traffic safety assistance system and traffic safety assistance method
Shinmura et al. Driver's decision analysis in terms of pedestrian attributes—A case study in passing by a pedestrian
CN117652145A (en) Method for providing media content matching a movement of a vehicle and vehicle
JP2022149783A (en) Vehicle control device, vehicle control method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201002

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220426

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220509

R151 Written notification of patent or utility model registration

Ref document number: 7081132

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151