JP2019104354A - Information processing method and information processor - Google Patents

Information processing method and information processor Download PDF

Info

Publication number
JP2019104354A
JP2019104354A JP2017237593A JP2017237593A JP2019104354A JP 2019104354 A JP2019104354 A JP 2019104354A JP 2017237593 A JP2017237593 A JP 2017237593A JP 2017237593 A JP2017237593 A JP 2017237593A JP 2019104354 A JP2019104354 A JP 2019104354A
Authority
JP
Japan
Prior art keywords
vehicle
information
information processing
relationship
processing method
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017237593A
Other languages
Japanese (ja)
Other versions
JP7081132B2 (en
Inventor
純 河西
Jun Kawanishi
純 河西
井上 裕史
Yasushi Inoue
裕史 井上
剛仁 寺口
Takehito Teraguchi
剛仁 寺口
乘 西山
Nori Nishiyama
乘 西山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2017237593A priority Critical patent/JP7081132B2/en
Publication of JP2019104354A publication Critical patent/JP2019104354A/en
Application granted granted Critical
Publication of JP7081132B2 publication Critical patent/JP7081132B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Abstract

To provide an information processing method and an information processor that can determine optimum control parameters in consideration of passengers.SOLUTION: The information processing method includes: acquiring at least one of a captured image of the inside of a vehicle output by a camera imaging a vehicle interior and voice information inside the vehicle output by a microphone acquiring voices in the vehicle interior; estimating relationships among persons existing in the vehicle on the basis of the acquired information; estimating personnel composition in the vehicle in which the number of persons in the vehicle and relationships among persons in the vehicle are associated with each other; acquiring, from a sensor detecting the traveling state of the vehicle, control parameters related to the traveling of the vehicle; accumulating, in a storage device, traveling histories of the vehicle in which the personnel composition in the vehicle and the control parameters are associated with each other; and specifying optimum control parameters depending on personnel composition in the vehicle by analyzing the accumulated traveling histories.SELECTED DRAWING: Figure 1

Description

本発明は、情報処理方法及び情報処理装置に関する。   The present invention relates to an information processing method and an information processing apparatus.

車両制御によって運転支援を行う運転支援システムにおいて、車両制御を実行すべき地点を学習地点として取得し、車両が学習地点を再度走行した際に車両制御を行う構成において、評価対象区間内の学習地点で車両制御が行われた回数である制御回数を評価対象区間内で車両制御を実行すべきであった地点の数である要制御地点で除した学習率を表示部に表示する方法が知られている(特許文献1)。   In a driving support system that performs driving support by vehicle control, a point for which vehicle control is to be performed is acquired as a learning point, and in a configuration in which vehicle control is performed when the vehicle travels the learning point again, a learning point in the evaluation target section There is known a method of displaying on the display unit a learning rate obtained by dividing the number of times of vehicle control performed by the control point, which is the number of points where vehicle control should be performed in the evaluation target section. (Patent Document 1).

特開2013−210328号公報JP, 2013-210328, A

一般的に、運転者のみ乗車している場合に行われる運転と、運転者の他に同乗者がいる場合に行われる運転とでは異なる場合がある。特に、複数の同乗者がいる場合や同乗者が低年齢の子供又は高齢者の場合には、同乗者の人数や年齢等に応じて最適な運転特性が異なるケースが増えてくる。従来技術では、同乗者について考慮されず、運転者自身の運転特性に適した運転支援が行われる。そのため、同乗者を考慮した最適な車両の制御パラメータを決定できない、という問題がある。   Generally, the driving performed when only the driver is riding may be different from the driving performed when there is a passenger other than the driver. In particular, when there are a plurality of passengers or when the passengers are young children or elderly people, there are more cases where the optimum driving characteristics differ depending on the number of passengers, the age, and the like. In the prior art, driving assistance suitable for the driver's own driving characteristics is provided without regard to the passenger. Therefore, there is a problem that it is not possible to determine an optimal control parameter of the vehicle in consideration of the passenger.

本発明が解決しようとする課題は、同乗者を考慮した最適な制御パラメータを決定することが可能な情報処理方法及び情報処理装置を提供することである。   The problem to be solved by the present invention is to provide an information processing method and an information processing apparatus capable of determining an optimal control parameter in consideration of a passenger.

本発明は、車両の室内を撮像するカメラから出力される車内の撮像画像、及び車両の室内の音声を取得するマイクから出力される車内の音声情報の少なくも一方を取得し、取得した情報に基づいて、車内に存在する人物の間の関係性を推定し、車内の人数と車内の人物間の関係性が関連付けられた車内の人員構成を推定し、車両の走行状態を検出するセンサから車両の走行に関する制御パラメータを取得し、車内の人員構成と制御パラメータが関連付けられた車両の走行履歴を記憶装置に蓄積させ、蓄積された走行履歴を分析することで車内の人員構成ごとに最適な制御パラメータを特定することで、上記課題を解決する。   The present invention acquires at least one of an in-vehicle captured image output from a camera for capturing an interior of a vehicle and at least one of in-car audio information output from a microphone for acquiring an audio of the vehicle interior. Based on the relationship between the persons present in the vehicle, the relationship between the number of persons in the vehicle and the relationship between the persons in the vehicle is estimated, and the personnel configuration in the vehicle is estimated. The control parameters related to the travel of the vehicle are acquired, the travel history of the vehicle in which the personnel configuration in the car is associated with the control parameter is stored in the storage device, and the control is optimized for each personnel configuration in the car by analyzing the accumulated travel history. The problem is solved by specifying the parameters.

本発明によれば、同乗者を考慮した最適な制御パラメータを決定することができる。   According to the present invention, an optimal control parameter can be determined in consideration of a passenger.

図1は、第1実施形態において、運転知識抽出システムのブロック構成図を示す図である。FIG. 1 is a block diagram of a driving knowledge extraction system according to a first embodiment. 図2は、車内人員構成推定処理を説明するための図である。FIG. 2 is a diagram for explaining an in-vehicle personnel configuration estimation process. 図3は、車載装置が車両の走行履歴情報をデータセンタに送信するまでのフローチャートである。FIG. 3 is a flowchart until the in-vehicle device transmits the traveling history information of the vehicle to the data center. 図4は、人員構成ごとに最適な制御パラメータ特定する処理を説明するためのフローチャートである。FIG. 4 is a flow chart for explaining a process of specifying an optimal control parameter for each personnel configuration. 図5Aは、車両に乗車してから車内の人員構成に最適な制御パラメータが提供されるまでの処理を説明するためのフローチャートである。FIG. 5A is a flow chart for explaining a process from getting on the vehicle to providing the control parameter optimum for the personnel configuration in the vehicle. 図5Bは、車両に乗車してから車内の人員構成に最適な制御パラメータが提供されるまでの処理を説明するためのフローチャートである。FIG. 5B is a flow chart for explaining a process from getting on the vehicle to providing the control parameter optimum for the personnel configuration in the vehicle.

以下、本発明の実施形態を図面に基づいて説明する。   Hereinafter, embodiments of the present invention will be described based on the drawings.

本実施形態では、本発明に係る情報処理装置を、車両に搭載された車載装置100と、データセンタ200と協動する情報提供処理システムに適用した場合を例にして説明する。   In the present embodiment, the information processing apparatus according to the present invention is applied to an on-vehicle apparatus 100 mounted on a vehicle and an information providing processing system cooperating with a data center 200 as an example.

図1は、情報提供システム1のブロック構成を示す図である。本実施形態の情報提供システム1は、車載装置100と、データセンタ200を備える。情報提供システム1、車載装置100、及びこれらが備える各装置は、CPUなどの演算処理装置を備え、演算処理を実行するコンピュータである。   FIG. 1 is a block diagram of the information providing system 1. The information providing system 1 of the present embodiment includes an on-vehicle device 100 and a data center 200. The information providing system 1, the in-vehicle apparatus 100, and each of the apparatuses included in the information providing system 1 are arithmetic processing devices such as a CPU and a computer that executes arithmetic processing.

まず、車載装置100について説明する。本実施形態の車載装置100は、車載カメラ110、車載マイク120、車載操作機器群130、車載センサ群140、車載ディスプレイ150、車載通信装置160、及び車載制御装置170を備えている。車載装置100を構成する各装置は、相互に情報の授受を行うためにCAN(Controller Area Network)その他の車載LANによって接続されている。   First, the in-vehicle apparatus 100 will be described. The in-vehicle apparatus 100 according to the present embodiment includes an in-vehicle camera 110, an in-vehicle microphone 120, an in-vehicle operation device group 130, an in-vehicle sensor group 140, an in-vehicle display 150, an in-vehicle communication device 160, and an in-vehicle control device 170. The respective devices constituting the in-vehicle device 100 are connected by a controller area network (CAN) or another in-vehicle LAN to exchange information with each other.

車載カメラ110は、車両の室内に設けられ、室内の様子を撮像する。車載カメラ110は、撮像画像を車載制御装置170に出力する。車載カメラ110の設置位置及び車載カメラ110の数は、特に限定されない。例えば、車載カメラ110は、インストルメンタルパネルに設けられ、前方座席に着座する人物を撮像する。また、例えば、車載カメラ110は、ルームミラーの近傍に設けられ、後方座席に着座する人物を撮像する。   The on-vehicle camera 110 is provided in the room of the vehicle and captures an image of the room. The on-vehicle camera 110 outputs the captured image to the on-vehicle control device 170. The installation position of the on-vehicle camera 110 and the number of the on-vehicle cameras 110 are not particularly limited. For example, the on-vehicle camera 110 is provided on an instrumental panel and captures an image of a person sitting in the front seat. Also, for example, the on-vehicle camera 110 is provided in the vicinity of the rearview mirror, and captures an image of a person sitting on the rear seat.

車載マイク120は、車両の室内に設けられ、車内に発生した音声を収集する。車載マイク120は、収集した音声をデジタル信号に変換し、音声情報として車載制御装置170に出力する。車載マイク120の設置位置及び車載マイク120の数は、特に限定されない。例えば、車載マイク120は、座席ごとに座席の所定位置に設けられ、車内での会話を収集する。   The in-vehicle microphone 120 is provided in the room of the vehicle and collects the sound generated in the vehicle. The in-vehicle microphone 120 converts the collected voice into a digital signal, and outputs the digital signal to the in-vehicle control device 170 as audio information. The installation position of the in-vehicle microphone 120 and the number of the in-vehicle microphones 120 are not particularly limited. For example, the in-vehicle microphone 120 is provided at a predetermined position of the seat for each seat and collects in-vehicle conversations.

車載操作機器群130は、運転者が操作可能な操作機器で構成されている。車載操作機器群130には、ステアリングホイール、アクセルペダル、ブレーキペダル、シフトレバー、左右のウィンカーランプ(方向指示器)を点滅させるターンシグナルスイッチ、ハザードランプを点滅させるハザードスイッチ、ワイパーを操作するためのワイパースイッチ、車両の走行経路を設定するためのナビゲーション装置を少なくとも含む。なお、ターンシグナルスイッチは、ヘッドランプ(ヘッドライトとも言う)を操作するための機能も兼ね備えている。車載操作機器群130は、運転者が操作した操作情報を車載制御装置170に出力する。   The in-vehicle operation device group 130 is configured of operation devices that can be operated by the driver. A steering wheel, an accelerator pedal, a brake pedal, a shift lever, a turn signal switch that blinks left and right blinker lamps (direction indicators), a hazard switch that blinks a hazard lamp, a hazard switch that blinks a hazard lamp, and a wiper At least a wiper switch and a navigation device for setting a traveling route of a vehicle. The turn signal switch also has a function for operating a headlamp (also referred to as a headlight). The in-vehicle operation device group 130 outputs the operation information operated by the driver to the in-vehicle control device 170.

また、車両の走行特性モードを変更できる車両の場合、車載操作機器群130には、車両の走行特性モードを設定するための機器(例えば、スイッチ)も含まれる。車両の走行特性モードとしては、ノーマルモード、スノーモード、スポーツモード、低燃費モード(エコモード)が一例として挙げられる。運転者が走行特性モードを設定すると、車両の走行に関する制御パラメータは、設定された走行特性モードに対応した走行シーンに適した値に設定される。なお、車両の走行に関する制御パラメータの詳細については後述する。   Further, in the case of a vehicle capable of changing the traveling characteristic mode of the vehicle, the on-vehicle operation device group 130 also includes an apparatus (for example, a switch) for setting the traveling characteristic mode of the vehicle. Examples of the travel characteristic mode of the vehicle include a normal mode, a snow mode, a sport mode, and a low fuel consumption mode (eco mode). When the driver sets the traveling characteristic mode, the control parameter related to the traveling of the vehicle is set to a value suitable for the traveling scene corresponding to the set traveling characteristic mode. In addition, the detail of the control parameter regarding driving | running | working of a vehicle is mentioned later.

例えば、スノーモードは、雪路や凍結路を含む路面摩擦係数が所定値以下の走行路の走行に対応した走行特性モードである。スノーモードに設定されると、変速比がノーマルモードに比べて高速側に設定され、車両は駆動力が小さくなるように走行することができる。また、例えば、スポーツモードは、上り坂や下り坂での走行に対応した走行特性モードである。スポーツモードに設定されると、エンジン回転速度がノーマルモードに比べて高速側に設定され、車両は上り坂でも急加速が可能になる。   For example, the snow mode is a traveling characteristic mode corresponding to traveling on a traveling road having a road surface friction coefficient including a snow road or a frozen road that is less than or equal to a predetermined value. When the snow mode is set, the transmission gear ratio is set to a high speed side compared to the normal mode, and the vehicle can travel so as to reduce the driving force. Further, for example, the sport mode is a traveling characteristic mode corresponding to traveling on an uphill or downhill. When the sport mode is set, the engine rotational speed is set to a high speed side as compared with the normal mode, and the vehicle can accelerate rapidly even on an uphill.

車載センサ群140は、車両の走行状態を検出するセンサ及び機器等で構成されている。車載センサ群140は、状態検出装置141、位置検出装置142、及び対象物検出装置143が含まれる。車載センサ群140は、各センサ又は各装置で検出された検出結果を車載制御装置170に出力する。   The on-vehicle sensor group 140 is configured of sensors, devices, and the like that detect the traveling state of the vehicle. The on-vehicle sensor group 140 includes a state detection device 141, a position detection device 142, and an object detection device 143. The in-vehicle sensor group 140 outputs the detection result detected by each sensor or each device to the in-vehicle control device 170.

状態検出装置141は、車両の状態を検出する装置である。状態検出装置141には、舵角センサ、アクセル開度センサ、ブレーキ開度センサ、速度センサ、加速度センサ、及び姿勢センサが少なくとも含まれる。舵角センサは、操舵角、操舵速度、操舵加速度を検出し、アクセル開度センサは、アクセル開度を検出し、ブレーキ開度センサは、ブレーキ開度を検出する。また、速度センサは、車両の移動速度を検出し、加速度センサは、車両の前後方向の加速度、及び車両の横方向(左右方向)の加速度の少なくとも一方を検出する。姿勢センサは、車両のピッチ角、車両のヨー角、車両のロール角、サスペンションストローク量等の車両の姿勢に関する情報を検出する。   The state detection device 141 is a device that detects the state of the vehicle. The state detection device 141 includes at least a steering angle sensor, an accelerator opening sensor, a brake opening sensor, a speed sensor, an acceleration sensor, and an attitude sensor. The steering angle sensor detects a steering angle, a steering speed, and a steering acceleration, the accelerator opening sensor detects an accelerator opening, and the brake opening sensor detects a brake opening. In addition, the speed sensor detects the moving speed of the vehicle, and the acceleration sensor detects at least one of the acceleration in the longitudinal direction of the vehicle and the acceleration in the lateral direction (left and right direction) of the vehicle. The attitude sensor detects information on the attitude of the vehicle such as the pitch angle of the vehicle, the yaw angle of the vehicle, the roll angle of the vehicle, and the suspension stroke amount.

また、車両の走行特性モードを変更できる車両の場合、状態検出装置141は、運転者により車載操作機器群130を介して設定された車両の走行特性モードの種類を検出する。   Further, in the case of a vehicle capable of changing the traveling characteristic mode of the vehicle, the state detection device 141 detects the type of the traveling characteristic mode of the vehicle set by the driver via the on-vehicle operation device group 130.

位置検出装置142は、車両が走行している位置を検出する装置である。位置検出装置142には、GPS(Global Positioning System)を備える装置が少なくとも含まれる。位置検出装置142は、上述したナビゲーション装置が備える、地図情報及び道路情報を参照し、車両が現在走行している位置を検出する。地図情報は、地点と、道路、構造物、施設などが対応づけられた情報である。道路情報は、位置情報と道路の曲率、傾斜などの情報が対応づけられた情報である。   The position detection device 142 is a device that detects the position where the vehicle is traveling. The position detection device 142 at least includes a device provided with a GPS (Global Positioning System). The position detection device 142 refers to map information and road information included in the above-described navigation device to detect the position where the vehicle is currently traveling. The map information is information in which points, roads, structures, facilities, and the like are associated. The road information is information in which position information is associated with information such as the curvature and inclination of the road.

対象物検出装置143は、車両の周囲の状況を検出する装置である。対象物検出装置143には、カメラ等の撮像装置、ソナー装置、レーダー装置が少なくとも含まれる。撮像装置は、車両の周囲に存在する障害物を含む対象物の存在、その存在位置及び自車両と対象物までの距離を検出する。対象物には、歩行者、二輪車、四輪車(他車両)等の移動物体や、標識などの静止物、路面に表示された停止線又は車線境界線等の二次元の標識が含まれる。ソナー装置、レーダー装置も同様の機能を備えている。レーダー装置としては、ミリ波レーダー、レーザーレーダー、超音波レーダー等が一例として挙げられる。本実施形態では、対象物検出装置143は、自車両の走行している位置と先行車両が走行している位置から、自車両と先行車両の間の距離(先行車両との車間距離)を測定する。   The object detection device 143 is a device that detects the situation around the vehicle. The object detection device 143 at least includes an imaging device such as a camera, a sonar device, and a radar device. The imaging device detects the presence of an object including an obstacle present around the vehicle, its location, and the distance from the vehicle to the object. The objects include moving objects such as pedestrians, two-wheeled vehicles, and four-wheeled vehicles (other vehicles), stationary objects such as signs, and two-dimensional signs such as stop lines or lane boundaries displayed on the road surface. The sonar device and the radar device have similar functions. As a radar apparatus, a millimeter wave radar, a laser radar, an ultrasonic radar etc. are mentioned as an example. In the present embodiment, the object detection device 143 measures the distance between the host vehicle and the preceding vehicle (the distance between the host vehicle and the preceding vehicle) from the position where the host vehicle is traveling and the position where the leading vehicle is traveling. Do.

車載ディスプレイ150は、車両の室内に設けられ、車載操作機器群130からの操作情報に応じて、例えば、ナビゲーションシステムにおけるルート案内用の画面等の映像を表示する。   The on-vehicle display 150 is provided in the cabin of the vehicle, and displays, for example, an image such as a route guidance screen in the navigation system according to the operation information from the on-vehicle operation device group 130.

また、車載ディスプレイ150には、データセンタ200から車載通信装置160及び車載制御装置170を介して現在の車内の人員構成に最適な制御パラメータを案内する情報(以下、制御パラメータ案内情報という)が入力される。車載ディスプレイ150は、制御パラメータ案内情報を車内の人物に提示する。なお、データセンタ200から送信される制御パラメータ案内情報の詳細については後述する。   Also, information (hereinafter referred to as control parameter guidance information) for guiding a control parameter optimum for the present personnel configuration in the vehicle from the data center 200 via the in-vehicle communication device 160 and the in-vehicle control device 170 is input to the in-vehicle display 150 Be done. The on-vehicle display 150 presents control parameter guidance information to a person in the vehicle. The details of the control parameter guidance information transmitted from the data center 200 will be described later.

車載通信装置160は、電話回線網やインターネット回線網などを介して、データセンタ200のサーバ通信装置210と通信可能な装置である。車載通信装置160には、後述する、車内の人員構成の情報及び車両の走行履歴の情報(以下、車両の走行履歴情報という)が入力され、車載通信装置160は、これらの情報を、サーバ通信装置210に送信する。車載通信装置160は、これらの情報をプローブ情報に含めることができ、プローブ情報としてこれらの情報をサーバ通信装置210に送信してもよい。また、車載通信装置160は、サーバ通信装置210から制御パラメータ案内情報を受信し、受信した制御パラメータ案内情報を、車載制御装置170に出力する。なお、車内の人員構成の情報及び車両の走行履歴情報の詳細については後述する。   The in-vehicle communication device 160 is a device that can communicate with the server communication device 210 of the data center 200 via a telephone network, the Internet network, or the like. The in-vehicle communication device 160 receives information on the configuration of personnel in the vehicle and information on the traveling history of the vehicle (hereinafter referred to as traveling history information on the vehicle), which will be described later. Send to device 210. The in-vehicle communication device 160 can include the information in the probe information, and may transmit the information as the probe information to the server communication device 210. Further, the in-vehicle communication device 160 receives control parameter guidance information from the server communication device 210, and outputs the received control parameter guidance information to the in-vehicle control device 170. In addition, the detail of the information of the personnel configuration in the car and the traveling history information of the vehicle will be described later.

また、車載通信装置160には、車内の人員構成の情報と、車両の走行履歴情報は、非同期タイミングで入力される。後述する車載制御装置170は、車両が発進してから所定の時間が経過したタイミングにおいて、車内の人員構成の情報を、車載通信装置160に対して出力する。一方、車載制御装置170は、イグニッションがオフになったタイミングにおいて、車両の走行履歴情報を、車載通信装置160に対して出力する。つまり、車載通信装置160は、データセンタ200のサーバ通信装置210に対して、車両の走行履歴情報を送信するよりも先に、車内の人員構成の情報を送信する。   Further, information on the configuration of personnel in the vehicle and travel history information of the vehicle are input to the in-vehicle communication device 160 at asynchronous timing. The on-vehicle control device 170 described later outputs information on the personnel configuration in the vehicle to the on-vehicle communication device 160 at a timing when a predetermined time has elapsed since the start of the vehicle. On the other hand, the on-vehicle control device 170 outputs the traveling history information of the vehicle to the on-vehicle communication device 160 at the timing when the ignition is turned off. That is, the on-vehicle communication device 160 transmits the information of the personnel configuration in the vehicle to the server communication device 210 of the data center 200 before transmitting the traveling history information of the vehicle.

車載制御装置170は、車内の人員構成を推定して車両の走行履歴情報を生成するための装置である。具体的に、車載制御装置170は、走行履歴生成処理を実行させるプログラムが格納されたROM(Read Only Memory)と、このROMに格納されたプログラムを実行することで、走行履歴生成処理を実行する動作回路としてのCPU(Central Processing Unit)と、アクセス可能な記憶装置として機能するRAM(Random Access Memory)と、を備えるコンピュータである。   The on-vehicle control device 170 is a device for estimating the personnel configuration in the vehicle and generating traveling history information of the vehicle. Specifically, the on-vehicle control device 170 executes the traveling history generation process by executing a ROM (Read Only Memory) storing a program for executing the traveling history generation process and the program stored in the ROM. It is a computer provided with CPU (Central Processing Unit) as an operation circuit, and RAM (Random Access Memory) which functions as an accessible storage device.

具体的に、本実施形態の車載制御装置170は、以下の処理を実行することで、車両の走行履歴情報を生成する。車載制御装置170は、車内の人物の特徴を推定する車内人物特徴推定処理と、車内の人物の間の関係性を推定する車内人物関係性処理と、車内の人員構成を推定する車内人員構成推定処理と、車両の走行に関する制御パラメータを取得する制御パラメータ取得処理と、これらの処理結果に基づいて車両の走行履歴情報を生成する走行履歴生成処理と、を実行する。   Specifically, the on-vehicle control device 170 according to the present embodiment generates the traveling history information of the vehicle by executing the following processing. The in-vehicle control device 170 estimates in-vehicle person feature estimation processing for estimating the feature of a person in the vehicle, in-vehicle person relationship processing for estimating a relationship between persons in the vehicle, and in-vehicle personnel configuration estimation for estimating the personnel configuration in the vehicle. A process, a control parameter acquisition process for acquiring control parameters related to traveling of the vehicle, and a traveling history generation process for generating traveling history information of the vehicle based on the processing results are executed.

車載制御装置170は、上記各機能を実現するために、又は各処理を実行するためのソフトウェアと、上述したハードウェアの協働により各機能を実行する。   The on-vehicle control device 170 executes each function by the cooperation of the above-described hardware and software for executing the above-described functions or to execute each process.

まず、車内人物特徴推定処理について説明する。車載制御装置170は、車載カメラ110の撮像画像に基づいて、車内に存在する人物の特徴を推定する。車内の人物の特徴には、性別及び年齢が含まれる。例えば、車載制御装置170は、車載カメラ110の撮像画像に対して画像処理を実行することで、撮像画像に写る人物の複数の特徴点(目、鼻、口、髪の毛等)を抽出する。そして、車載制御装置170は、抽出した車内の人物の特徴点を、予め定められた特徴パターンであって、性別を判別するための特徴パターンに照合することで、車内の人物の性別を推定することができる。同様に、車載制御装置170は、車内の人物の特徴点を、予め定められた特徴パターンであって、年齢を推定するための特徴パターンに照合することで、車内の人物の年齢を推定することができる。   First, in-vehicle person feature estimation processing will be described. The on-vehicle control device 170 estimates features of a person present in the vehicle based on the captured image of the on-vehicle camera 110. The characteristics of the person in the car include gender and age. For example, the on-vehicle control device 170 performs image processing on the captured image of the on-vehicle camera 110 to extract a plurality of feature points (eyes, nose, mouth, hair, etc.) of a person shown in the captured image. Then, the on-vehicle control device 170 estimates the gender of the person in the vehicle by collating the extracted feature points of the person in the vehicle with the predetermined feature pattern and determining the gender. be able to. Similarly, the in-vehicle control device 170 estimates the age of the person in the vehicle by matching the feature points of the person in the vehicle with the predetermined feature pattern and the feature pattern for estimating the age. Can.

車載制御装置170が推定する年齢の精度は、特に限定されない。車載制御装置170は、画像処理の能力や車載カメラ110の撮像精度に応じて、推定する年齢の精度を適宜変更することができる。例えば、車載制御装置170は、10歳〜19歳の範囲を「10代」、20歳〜29歳の範囲を「20代」と、10歳単位でカテゴライズされた特徴パターンを予め記憶装置に格納しておくことで、車内の人物の年代を推定することができる。なお、車内人物特徴推定処理は、上述した方法に限られず、車載制御装置170は、本願出願時に知られた車内人物特徴推定処理を適宜に用いることができる。   The accuracy of the age estimated by the on-board controller 170 is not particularly limited. The in-vehicle control device 170 can appropriately change the accuracy of the age to be estimated according to the image processing capability and the imaging accuracy of the in-vehicle camera 110. For example, the on-vehicle control device 170 stores in advance in the storage device a feature pattern categorized in units of 10 years, such as "10's" in the range of 10 to 19 years and "20's" in the range of 20 to 29 years. By doing this, it is possible to estimate the age of the person in the car. The in-vehicle person feature estimation process is not limited to the method described above, and the in-vehicle control device 170 can appropriately use the in-vehicle person feature estimation process known at the time of filing the present application.

次に、車内人物関係性推定処理について説明する。車載制御装置170は、車載マイク120の音声情報に基づいて、車内に存在する人物の間の関係性を推定する。車内の人物間の関係性とは、運転者を基準とした関係性であって、運転者と同乗者との関係性のことである。   Next, the in-vehicle person relationship estimation process will be described. The in-vehicle control device 170 estimates the relationship between persons present in the vehicle based on the voice information of the in-vehicle microphone 120. The relationship between persons in the vehicle is a relationship based on the driver and is a relationship between the driver and the passenger.

車載制御装置170は、まず、音声情報から車内での会話のみを抽出する。そして、車載制御装置170は、会話内容から特定のキーワードを検出するたびに、キーワードの検出回数をカウントアップする。特定のキーワードとは、人物間の関係性に対応付けられたキーワードである。車載制御装置170は、特定のキーワードをROM等の記憶装置に予め格納しておく。   The in-vehicle control device 170 first extracts only the conversation in the vehicle from the voice information. Then, each time the in-vehicle control device 170 detects a specific keyword from the conversation content, the in-vehicle control device 170 counts up the number of times of detection of the keyword. The specific keyword is a keyword associated with the relationship between persons. The on-vehicle control device 170 stores in advance a specific keyword in a storage device such as a ROM.

人物間の関係性を推定するためのキーワードについて説明する。例えば、上述した記憶装置には、会話内容を「家族関係」、「仕事関係」、「友人関係」、「その他の関係」に分類すための特定のキーワードが格納されている。「家族関係」に対応付けられたキーワードとしては、家族の称呼(例えば、「お父さん」、「お母さん」、「お兄ちゃん」、「お姉ちゃん」、「おじいちゃん」、「おばあちゃん」など)が一例として挙げられる。また、「仕事関係」に対応付けられたキーワードとしては、役職名(例えば、「社長」、「部長」、「課長」など)、企業名(例えば、「○○株式会社」など)、ビジネス用語(例えば、「契約」、「取引」、「打ち合わせ」、「約束」、「納期」など)が一例として挙げられる。また、「友人関係」に対応づけられたキーワードとしては、テレビ番組名、楽曲名、スポーツ用語、飲食店名が一例として挙げられる。また、「その他の関係」に対応付けられたキーワードについては、車両の乗員やシステム側で特定のキーワードが適宜設定される。   A keyword for estimating the relationship between persons will be described. For example, the storage device described above stores specific keywords for classifying conversation contents into “family relationship”, “job relationship”, “friend relationship”, and “other relationship”. Examples of keywords associated with "family relationship" include family calls (eg, "father", "mother", "old brother", "old sister", "grandpa", "grandma", etc.) as an example Be In addition, keywords associated with “job relationship” include job title (for example, “president”, “section manager”, “section manager”, etc.), company name (eg, “○ Co., Ltd., etc.”, business terms) For example, “Contract,” “Trading,” “Meeting,” “Promise,” “Delivery date,” etc. may be mentioned as an example. Also, as a keyword associated with "friendship", a television program name, a music title, a sports term, and a restaurant name may be mentioned as an example. Further, with regard to the keywords associated with the “other relationship”, specific keywords are appropriately set by the vehicle occupant or the system side.

車載制御装置170は、特定のキーワードの検出回数が所定の回数を超えると、検出されたキーワードに対応する関係性を、車内の人物間の関係性と推定する。所定の回数は、特に限定されないが、実験的に求められた値であることが好ましい。なお、検出されたキーワードから車内の人物間の関係性を特定する方法は、特に限定されない。車載制御装置170は、特定のキーワードが複数の関係性にまたがって複数検出された場合、検出回数が最初に所定の回数を超えたキーワードに対応する関係性を、車内の人物間の関係性と推定してもよい。また、車載制御装置170は、検出されたキーワードの種類が最も多い関係性、又は検出されたキーワードの総数が最も多い関係性に対応する関係性を、車内の人物間の関係性と推定してもよい。   When the number of times of detection of a specific keyword exceeds a predetermined number, the in-vehicle control device 170 estimates the relationship corresponding to the detected keyword as the relationship between persons in the vehicle. The predetermined number of times is not particularly limited, but is preferably an experimentally determined value. The method of specifying the relationship between persons in the vehicle from the detected keyword is not particularly limited. When a plurality of specific keywords are detected across a plurality of relationships, the in-vehicle control device 170 first detects the relationship corresponding to a keyword whose number of times of detection exceeds a predetermined number, and the relationship between persons in the vehicle It may be estimated. Further, the in-vehicle control device 170 estimates a relationship corresponding to a relationship in which the number of types of detected keywords is the largest or a relationship in which the total number of detected keywords is the largest as the relationship between persons in the vehicle. It is also good.

次に、車載制御装置170は、車内の人物間の親密度を推定する。車載制御装置170は、会話内容から車内の人物間の関係性を推定すると、車内の人物間の親密度を推定する。車内の人物間の親密度とは、運転者を基準とした親密度であって、運転者と同乗者との親密度(運転者と同乗者の仲の良さ)のことである。   Next, the on-vehicle control device 170 estimates closeness between persons in the vehicle. When the on-vehicle control device 170 estimates the relationship between persons in the vehicle from the conversation content, the in-vehicle control device 170 estimates closeness between persons in the vehicle. The closeness between persons in the vehicle is the closeness based on the driver, and is the closeness between the driver and the passenger (goodness between the driver and the passenger).

車載制御装置170は、車内での会話内容から、特定の人物の発言(発言が始まってから発言が終了するまで)を抽出する。そして、車載制御装置170は、抽出した発言の中での言葉遣いから、車内の人物間の親密度を推定する。例えば、車載制御装置170は、予め定められた言葉遣いの特徴パターンであって、人物間の親密度を判別できる言葉遣いの特徴パターンを、ROM等の記憶装置に格納しておく。そして、車載制御装置170は、特定の人物の発言を言葉遣いの特徴パターンに照合することで、車内の人物間の親密度を推定することができる。   The in-vehicle control device 170 extracts the speech of a specific person (from the start of the speech to the end of the speech) from the conversation content in the car. Then, the in-vehicle control device 170 estimates closeness between persons in the vehicle from the wording in the extracted statement. For example, the on-vehicle control device 170 stores, in a storage device such as a ROM, a feature pattern of wording that is a predetermined feature pattern of wording and can determine intimacy between persons. Then, the in-vehicle control device 170 can estimate closeness between persons in the vehicle by collating the speech of a specific person with the feature pattern of wording.

人物間の親密度を推定するための言葉遣いの特徴パターンについて説明する。例えば、上述した記憶装置には、親密度を「高い」、「普通」、「低い」の3パターンに分類するための言葉遣いの特徴パターンが記憶されている。運転者と同乗者の仲が良ければ良いほど、高い親密度として推定される。言葉遣いの特徴パターンとしては、敬語(尊敬語、謙譲語、丁寧語)を用いた言葉遣い、相手を呼び時の言葉遣い(例えば、名前のみで呼ぶ、名字のみで呼ぶ、名字に役職を付けて呼ぶなど)が一例として挙げられる。   A feature pattern of wording for estimating closeness between persons will be described. For example, in the above-described storage device, a feature pattern of wording for classifying the closeness into three patterns of “high”, “normal”, and “low” is stored. The better the relationship between the driver and the passenger, the higher the closeness is estimated. As characteristic patterns of wording, wording using honorifics (respect words, humble words, polite words), calling the other person when calling (for example, calling only by name, calling only by last name, adding job title to last name) Etc.) are given as an example.

車載制御装置170は、特定の人物の発言と言葉遣い特徴パターンのパターンマッチングを行い、マッチングした割合が高い親密度を、車内の人物間の親密度と推定する。なお、会話内容から親密度を推定する方法は、上述した方法に限られず、車載制御装置170は、本願出願時に知られた親密度の推定方法を適宜に用いることができる。   The on-vehicle control device 170 performs pattern matching of the speech of the specific person and the wording feature pattern, and estimates the closeness with a high matching ratio as the closeness between the persons in the vehicle. The method of estimating closeness from conversation content is not limited to the above-described method, and the on-vehicle control device 170 may appropriately use the closeness estimation method known at the time of filing the present application.

次に、車内人員構成推定処理について説明する。車載制御装置170は、車載カメラ110の撮像画像と、車内人物特徴推定処理の処理結果と、車内人物関係性推定処理の処理結果に基づいて、車内の人員構成を推定する。例えば、車載制御装置170は、車載カメラ110の撮像画像から、車内の人数を検出する。そして、車載制御装置170は、検出した車内の人数と、車内人物特徴推定処理の処理結果(性別及び年齢)と、車内人物関係性処理の処理結果(車内の人物間の関係性、車内の人物間の親密度)とが関連付けられた車内の人員構成を推定する。   Next, the in-vehicle personnel composition estimation process will be described. The on-vehicle control device 170 estimates the personnel configuration in the vehicle based on the captured image of the on-vehicle camera 110, the process result of the in-vehicle person feature estimation process, and the process result of the in-vehicle person relationship estimation process. For example, the in-vehicle control device 170 detects the number of people in the vehicle from the captured image of the in-vehicle camera 110. Then, the in-vehicle control device 170 detects the number of persons in the vehicle, the processing result (sex and age) of the in-vehicle person feature estimation processing, and the processing result of the in-vehicle person relationship processing (relationship between persons in the vehicle, persons in the vehicle) Estimate the in-vehicle personnel composition associated with intimacy).

図2(A)、(B)を参照しながら、車内人員構成推定処理の処理結果の一例について説明する。図2(A)、(B)は、車内人員構成推定処理を説明するための図である。図2(A)は、運転者を含めた4名が乗車している場合の車載制御装置170の処理結果を示している。この例において、車載制御装置170は、まず、車載カメラ110の撮像画像から車内の人数が4名であることを検出する。次に、車載制御装置170は、上述した車内人物特徴推定処理を、4名それぞれに対して実行することで、図2(A)に示すように、「20代男性:1名、30代女性:1名、50代男性:1名、60代男性:1名の計4名」と、車内の人物の特徴を推定する。さらに、車載制御装置170は、上述した車内人物関係性推定処理により、車内での会話内容から、車内の人物間の関係性を家族関係と推定するとともに、各人物の言葉遣いから、車内の人物間の親密度を高いと推定する。最後に、車載制御装置170は、検出結果及び推定結果を関連付けることで、「20代男性:1名、30代女性:1名、50代男性:1名、60代男性:1名の計4名、これらの人物の関係性は家族関係であって、親密度は高い」と、車内の人員構成を推定する。   An example of the processing result of the in-vehicle personnel configuration estimation process will be described with reference to FIGS. 2 (A) and 2 (B). FIGS. 2A and 2B are diagrams for explaining the in-vehicle personnel configuration estimation process. FIG. 2A shows the processing result of the on-vehicle control device 170 when four persons including the driver are on the vehicle. In this example, the in-vehicle control device 170 first detects from the captured image of the in-vehicle camera 110 that the number of people in the vehicle is four. Next, as shown in FIG. 2A, the in-vehicle control device 170 executes the above-described in-vehicle person feature estimation process for each of four people, and "20's male: 1 person, 30's woman" The characteristics of the person in the car are estimated as follows: 1 person, 50's male: 1 person, 60's male: 1 person, 4 people in total. Furthermore, the in-vehicle control device 170 estimates the relationship between persons in the vehicle as a family relationship from the conversation contents in the vehicle by the in-vehicle person relationship estimation processing described above, and the wording of each person makes the person in the vehicle It is estimated that closeness between them is high. Finally, the in-vehicle control device 170 associates the detection result and the estimation result with each other, saying, “20's male: 1 person, 30's female: 1 person, 50's male: 1 person, 60's male: 1 person in total 4 The name, the relationship between these persons is a family relationship, and the closeness is high.

また、図2(B)は、運転者を含めた2名が乗車している場合の車載制御装置170の処理結果を示している。この例においても、車載制御装置170は、車内の人数を2名であることを検出し、次に、上述した車内人物特徴推定処理を、検出した2名に対して実行することで、図2(B)に示すように、「30代男性:1名、30代男性:1名の計2名」と、車内の人物の特徴を推定する。そして、車載制御装置170は、上述した車内人物関係性推定処理により、車内の人物間の関係性を仕事関係と推定するとともに、各人物の言葉遣いから、車内の人物間の親密度は低いと推定する。最後に、車載制御装置170は、検出結果及び推定結果を関連付けることで、「30代男性:1名、30代男性:1名の計4名、これらの人物の関係性は仕事関係であって、親密度は低い」と、車内の人員構成を推定する。   Moreover, FIG. 2 (B) has shown the process result of the vehicle-mounted control apparatus 170 in case two persons including a driver get on. Also in this example, the in-vehicle control device 170 detects that the number of people in the vehicle is two, and then executes the above-described in-vehicle person feature estimation process on the two detected persons, as shown in FIG. As shown in (B), the characteristics of the person in the car are estimated as "30's male: 1 person, 30's male: 1 person in total: 2". Then, the in-vehicle control device 170 estimates the relationship between persons in the vehicle as a work relationship by the above-described in-vehicle person relation estimation processing, and from the wording of each person, it is assumed that closeness between persons in the vehicle is low. presume. Finally, the in-vehicle control device 170 associates the detection result and the estimation result, saying that “30's male: 1 person, 30's male: 1 person: 4 people in total, the relationship between these persons is a work relationship. The intimacy is low, and estimate the personnel composition in the car.

車載制御装置170は、車内の人員構成を推定すると、車載通信装置160を介して、車内の人員構成の情報をデータセンタ200のサーバ通信装置210へ送信する。なお、車載制御装置170は、車内の人員構成の情報に、車載カメラ110の撮像画像そのものや、車載マイク120の音声情報そのものを含めることもできる。これにより、後述するデータセンタ200のサーバ処理装置230は、撮像画像から、又は音声情報の声紋データから、同乗者が過去に乗車履歴のある人物か否かを判定することができる。   When the in-vehicle control unit 170 estimates the in-vehicle personnel configuration, the in-vehicle control device 170 transmits the in-vehicle personnel configuration information to the server communication device 210 of the data center 200 via the in-vehicle communication device 160. The in-vehicle control device 170 can also include the captured image itself of the in-vehicle camera 110 and the audio information itself of the in-vehicle microphone 120 in the information of the personnel configuration in the vehicle. Thereby, the server processing device 230 of the data center 200 described later can determine whether the passenger is a person who has a history of getting on in the past from the captured image or the voiceprint data of the voice information.

再び、図1に戻り、車載制御装置170の制御パラメータ取得処理について説明する。車載制御装置170は、車載センサ群140から車両の走行に関する制御パラメータを取得する。本実施形態における制御パラメータとは、車載センサ群140により検出された車両の走行状態を示す制御パラメータである。制御パラメータには、舵角センサの検出結果(操舵角など)、アクセル開度センサの検出結果(アクセル開度)、ブレーキ開度センサの検出結果(ブレーキ開度)、ソナー装置の検出結果(車両の周囲の対象物との間の距離)、レーダー装置の検出結果(車両の周囲の対象物との間の距離)、先行車両との車間距離、走行特性モードの種類が少なくとも含まれる。なお、車載制御装置170は、走行特性モードの種類については、車載操作機器群130から入力される操作情報に基づいて、運転者により設定された走行特性モードの種類を特定してもよい。   Referring back to FIG. 1 again, control parameter acquisition processing of the on-vehicle control device 170 will be described. The on-vehicle control device 170 acquires control parameters related to the traveling of the vehicle from the on-vehicle sensor group 140. The control parameter in the present embodiment is a control parameter indicating the traveling state of the vehicle detected by the on-vehicle sensor group 140. The control parameters include the detection result of the steering angle sensor (steering angle etc.), the detection result of the accelerator opening sensor (accelerator opening), the detection result of the brake opening sensor (brake opening), the detection result of the sonar device (vehicle The distance between the vehicle and the surrounding object), the detection result of the radar device (the distance between the vehicle and the surrounding object), the inter-vehicle distance with the preceding vehicle, and the type of traveling characteristic mode are at least included. The type of traveling characteristic mode may specify the type of traveling characteristic mode set by the driver based on the operation information input from the in-vehicle operation device group 130.

次に、走行履歴生成処理について説明する。車載制御装置170は、上述した各処理の結果に基づいて、車両の制御パラメータに関する走行履歴を、車両の走行履歴情報として生成する。まず、車載制御装置170は、車載センサ群140に含まれる位置検出装置142から、車両の走行位置を取得する。次に、車載制御装置170は、推定した車内の人員構成と、特定した車両の制御パラメータと、車両の走行位置とを関連付けた情報を、車両の走行履歴情報とする。車載制御装置170は、車載通信装置160を介して、車両の走行履歴情報をデータセンタ200のサーバ通信装置210へ送信する。   Next, traveling history generation processing will be described. The on-vehicle control device 170 generates a traveling history regarding control parameters of the vehicle as traveling history information of the vehicle based on the results of the above-described respective processes. First, the on-vehicle control device 170 acquires the traveling position of the vehicle from the position detection device 142 included in the on-vehicle sensor group 140. Next, the on-vehicle control device 170 sets information on the estimated in-vehicle personnel configuration, the specified control parameter of the vehicle, and the traveling position of the vehicle as traveling history information of the vehicle. The in-vehicle control device 170 transmits the traveling history information of the vehicle to the server communication device 210 of the data center 200 via the in-vehicle communication device 160.

次に、データセンタ200について説明する。データセンタ200は、各種のコンピュータやデータ通信などの装置が設置されている施設である。データセンタ200は、図1に示すように、サーバ通信装置210、データベース220、及びサーバ処理装置230を備える。   Next, the data center 200 will be described. The data center 200 is a facility in which various computers and devices such as data communication are installed. As shown in FIG. 1, the data center 200 includes a server communication device 210, a database 220, and a server processing device 230.

サーバ通信装置210は、電話回線網又はインターネット回線網などを介して、車載装置100の車載通信装置160と通信可能となっている。サーバ通信装置210は、複数の車両のそれぞれに搭載された複数の車載通信装置160と通信し、各車両から、車内の人員構成の情報及び車両の走行履歴情報を受信する。サーバ通信装置210は、各車両から受信した車内の人員構成の情報及び車両の走行履歴情報をサーバ処理装置230に出力する。   The server communication device 210 can communicate with the in-vehicle communication device 160 of the in-vehicle device 100 via the telephone network or the Internet network. The server communication device 210 communicates with a plurality of in-vehicle communication devices 160 mounted in each of a plurality of vehicles, and receives information on the configuration of personnel in the vehicle and travel history information of the vehicles from each vehicle. The server communication device 210 outputs, to the server processing device 230, the information on the personnel configuration in the vehicle received from each vehicle and the travel history information of the vehicle.

データベース220は、複数の車両から取得した車両の走行履歴を格納しているデータベースである。データベース220には、サーバ通信装置210からサーバ処理装置230を介して、逐次、車両の走行履歴情報が入力されるため、車両の走行履歴情報は、時間の経過とともにデータベース220に蓄積されていく。   The database 220 is a database that stores traveling histories of vehicles acquired from a plurality of vehicles. The travel history information of the vehicle is sequentially input to the database 220 from the server communication device 210 via the server processing device 230, so the travel history information of the vehicle is accumulated in the database 220 with the passage of time.

サーバ処理装置230は、車内の人員構成ごとに最適な制御パラメータを特定するためのプログラムを格納したROMと、このROMに格納されたプログラムを実行するCPUと、アクセス可能な記憶装置として機能するRAMとから構成される。サーバ処理装置230は、ROMに格納されたプログラムをCPUにより実行することにより、車載装置100から送信された車両の走行履歴情報を格納する走行履歴格納処理と、車内の人員構成ごとに運転者の運転特性を分析する運転特性分析処理と、車載装置100が搭載された車両内の人員構成に基づいて、制御パラメータ案内情報を車載装置100に提供する情報提供処理と、を実行する。   The server processing device 230 includes a ROM storing a program for specifying an optimal control parameter for each personnel configuration in the vehicle, a CPU executing the program stored in the ROM, and a RAM functioning as an accessible storage device. And consists of The server processing device 230 executes a program stored in the ROM by the CPU to execute a travel history storage process of storing travel history information of the vehicle transmitted from the in-vehicle device 100, and the driver's A driving characteristic analysis process for analyzing driving characteristics and an information providing process for providing control parameter guidance information to the on-vehicle apparatus 100 are executed based on the personnel configuration in the vehicle on which the on-vehicle apparatus 100 is mounted.

まず、走行履歴格納処理について説明する。サーバ処理装置230は、サーバ通信装置210から入力される車両の走行履歴情報を、データベース220に格納する。また、サーバ処理装置230は、車両の走行履歴情報に含まれる人員構成に基づいて、性別ごと、年齢ごと、人数ごと、車内の人物間の関係性、車内の人物間の親密度ごとに、データベース220に蓄積された走行履歴情報を並べ替える等の統計処理を実行することができる。また、サーバ処理装置230は、車両の走行履歴情報に含まれる車両の走行位置に基づいて、走行位置ごと(例えば、交差点、高速道路、一般道路など)にデータベース220に蓄積された走行履歴情報をグループ化する等の統計処理も実行することができる。   First, travel history storage processing will be described. The server processing device 230 stores the traveling history information of the vehicle input from the server communication device 210 in the database 220. Further, the server processing device 230 is a database for each gender, age, number of people, relationship between persons in the vehicle, and intimacy degree between persons in the vehicle based on the personnel configuration included in the traveling history information of the vehicle. Statistical processing such as sorting the traveling history information accumulated in 220 can be executed. In addition, the server processing device 230 stores the traveling history information stored in the database 220 for each traveling position (for example, an intersection, a highway, a general road, etc.) based on the traveling position of the vehicle included in the traveling history information of the vehicle. Statistical processing such as grouping can also be performed.

次に、運転特性分析処理について説明する。サーバ処理装置230は、データベース220に蓄積された走行履歴情報を分析することで、車内の人員構成ごとに最適な制御パラメータを特定する。サーバ処理装置230は、車内の人員構成ごとに最適な制御パラメータを特定する前に、制御パラメータに基づいて、車内の人員構成ごとの運転特性について分析する。   Next, the driving characteristic analysis process will be described. The server processing device 230 analyzes the travel history information stored in the database 220 to identify the optimal control parameter for each personnel configuration in the vehicle. The server processing device 230 analyzes the driving characteristics of each in-vehicle personnel configuration based on the control parameters before identifying the optimal control parameter for each in-vehicle personnel configuration.

運転特性の一例について説明する。運転特性には、走行位置に起因する運転特性、他車両に起因する運転特性、道路状態に起因する運転特性が含まれる。走行位置に起因する運転特性としては、トンネル走行時の速度変化、交差点右左折時の速度変化が一例として挙げられる。また、他車両に起因する運転特性としては、先行車両に対する追従性(先行車両との車間距離)が一例として挙げられる。また、道路状態に起因する運転特性としては、勾配道路(坂道)での速度変化、車幅変更による速度変化が一例として挙げられる。   An example of the driving characteristic will be described. The driving characteristics include driving characteristics attributed to the traveling position, driving characteristics attributed to the other vehicle, and driving characteristics attributed to the road condition. As a driving characteristic resulting from the traveling position, a speed change at the time of tunnel traveling and a speed change at the intersection right and left turns are mentioned as an example. Further, as the driving characteristic caused by the other vehicle, followability to the preceding vehicle (inter-vehicle distance from the preceding vehicle) can be mentioned as an example. Further, as a driving characteristic caused by the road condition, a speed change on a slope road (slope) and a speed change due to a change in vehicle width can be mentioned as an example.

まず、サーバ処理装置230は、車両の走行履歴情報に対してクラスタリング処理を実行し、車両の走行位置ごとに走行履歴情報をグループ化する。例えば、サーバ処理装置230は、交差点周辺における走行履歴情報、勾配のある坂道における走行履歴情報など、走行位置ごとに走行履歴情報をグループ化する。これにより、特定の場所に関して、車内の人員構成ごとに最適な制御パラメータを特定することができる。なお、どのようにグループ化するかは、特に限定されず、道路の種別(高速道路、一般道路など)でグループ化してもよいし、特定の場所(交差点など)とそれ以外でグループ化してもよい。   First, the server processing device 230 executes clustering processing on the traveling history information of the vehicle, and groups the traveling history information for each traveling position of the vehicle. For example, the server processing device 230 groups traveling history information for each traveling position, such as traveling history information around an intersection, and traveling history information on a slope with slopes. This makes it possible to identify an optimal control parameter for each personnel configuration in the vehicle with respect to a specific location. In addition, how to group is not particularly limited, and may be grouped by road type (highway, general road, etc.), or even if it is grouped with a specific place (such as an intersection) Good.

次に、サーバ処理装置230は、グループ化された走行履歴情報に対して、クラスタリング処理を実行し、車内の人員構成の情報を構成するパラメータごとに(人数ごと、性別ごと、年齢ごと、人物間の関係性ごと、人物間の親密度ごと)、さらにグループ化する。そして、サーバ処理装置230は、グループ化されたそれぞれについて、統計処理を実行して、運転特性の傾向を分析する。サーバ処理装置230は、特定の運転特性に応じた、車内の人物の人数、性別、年齢、人物間の関係性、及び人物間の親密度の組み合わせを、特徴量として算出する。サーバ処理装置230は、運転特性ごとに上述した処理を繰り返すことで、運転特性ごとの特徴量を算出する。   Next, the server processing device 230 executes clustering processing on the grouped travel history information, and for each of the parameters constituting the information of the personnel configuration in the car (by number of people, by gender, by age, between persons) Per group relationship, per group closeness). Then, the server processing device 230 executes statistical processing for each of the grouped and analyzes the tendency of the driving characteristic. The server processing device 230 calculates a combination of the number of persons in the car, the gender, the age, the relation between the persons, and the closeness between the persons according to the specific driving characteristic as the feature value. The server processing device 230 calculates the feature amount for each driving characteristic by repeating the above-described processing for each driving characteristic.

そして、サーバ処理装置230は、各運転特性に対応する制御パラメータを特定することで、運転特性と制御パラメータを関連付ける。   Then, the server processing device 230 associates the operation characteristic with the control parameter by specifying the control parameter corresponding to each operation characteristic.

また、サーバ処理装置230は、所定の周期毎に、すなわち、最新の車両の走行履歴情報がデータベース220に蓄積されていくたびに、上述した分析処理を繰り返す。これにより、車両の人員構成と制御パラメータとの関係性を学習することができる。そして、サーバ処理装置230は、各周期における分析結果の分布が所定の範囲内に収まると、制御パラメータの傾向の変動が収束したと判断して、人数、性別、年齢、人物間の関係性、人物間の親密度の組み合わせに応じて、最適な制御パラメータを特定する。なお、車両の走行履歴情報の分析方法は上述した方法に限定されず、サーバ処理装置230は、本願出願時における分析方法の技術を適宜に用いることができる。   In addition, the server processing device 230 repeats the above-described analysis process every predetermined cycle, that is, whenever the latest travel history information of the vehicle is accumulated in the database 220. This makes it possible to learn the relationship between the personnel configuration of the vehicle and the control parameters. Then, when the distribution of the analysis result in each period falls within the predetermined range, the server processing device 230 determines that the fluctuation of the tendency of the control parameter has converged, and the relationship among the number, gender, age, person, An optimal control parameter is specified according to the combination of closeness between persons. In addition, the analysis method of travel history information of a vehicle is not limited to the method mentioned above, The server processing apparatus 230 can use the technique of the analysis method at the time of this application application suitably.

サーバ処理装置230は、車両の走行履歴情報の分析が終了すると、車内の人員構成ごとに最適な制御パラメータ、各運転特性における特徴量(人数、性別、年齢、人物間の関係性、及び人物間の親密度の組み合わせ)のそれぞれを、データベース220に格納する。   When the analysis of the traveling history information of the vehicle is completed, the server processing device 230 determines the control parameter optimal for each personnel configuration in the vehicle, the feature amount in each driving characteristic (number of persons, gender, age, relationship between persons, and persons) Each combination of intimacy) is stored in the database 220.

次に、情報提供処理について説明する。まず、サーバ処理装置230は、車載装置100から送信された情報から、現在の車内に過去に乗車した経験がある人物が存在するか否かを判定する。サーバ処理装置230は、車内の人員構成のうち車載カメラ110の撮像画像及び車載マイク120の音声情報の少なくとも一方から、乗車経験者が存在するか否かを判定し、運転者を除く乗車経験者が同乗者として1人でも含まれている場合、データベース220から、当該乗車経験者が含まれる車内の人員構成を抽出する。そして、サーバ処理装置230は、抽出した人員構成に対応する制御パラメータのうち車載装置100への送信履歴がある制御パラメータを抽出する。サーバ処理装置230は、抽出した制御パラメータを最適な制御パラメータとして特定し、制御パラメータ案内情報とする。   Next, information provision processing will be described. First, the server processing device 230 determines, based on the information transmitted from the in-vehicle device 100, whether or not there is a person who has experienced riding in the past in the current vehicle. The server processing device 230 determines whether or not an experienced passenger is present from at least one of the captured image of the on-vehicle camera 110 and the voice information of the on-vehicle microphone 120 in the personnel configuration in the vehicle. Is extracted as a passenger, the database 220 extracts the personnel configuration in the vehicle including the passenger who has experienced the boarding. Then, the server processing device 230 extracts control parameters having a transmission history to the in-vehicle device 100 among the control parameters corresponding to the extracted personnel configuration. The server processing device 230 specifies the extracted control parameter as an optimal control parameter, and uses it as control parameter guidance information.

次に、現在の車内には乗車経験者が存在しない場合について説明する。この場合、サーバ処理装置230は、現在の車内の人員構成に最適な制御パラメータを特定し、制御パラメータ案内情報とする。例えば、サーバ処理装置230は、車載装置100から、現在の車内の人員構成の情報が入力されると、データベース220に格納された車両の走行履歴情報の分析結果を参照する。そして、サーバ処理装置230は、分析結果の中に、現在の車内の人員構成に最適な制御パラメータが含まれている場合、当該制御パラメータを最適な制御パラメータとして特定する。   Next, the case where there is no passenger experienced in the current car will be described. In this case, the server processing device 230 specifies a control parameter that is optimal for the current personnel configuration in the vehicle, and uses it as control parameter guidance information. For example, when the information of the present personnel configuration in the vehicle is input from the in-vehicle device 100, the server processing device 230 refers to the analysis result of the traveling history information of the vehicle stored in the database 220. Then, when the analysis result includes a control parameter that is optimal for the current personnel configuration in the vehicle, the server processing device 230 specifies the control parameter as the optimal control parameter.

反対に、サーバ処理装置230は、車用の走行履歴情報の分析結果には、最適な制御パラメータが含まれていない場合、現在の車内の人員構成に類似する車内の人員構成について、最適な制御パラメータが存在するか否かを判定する。サーバ処理装置230は、現在の車内の人物間の関係性と、現在の車内の人物間の親密度の少なくとも一方に基づいて、現在の車内の人員構成に最適な制御パラメータを特定し、制御パラメータ案内情報とする。   On the contrary, when the analysis result of the travel history information for the vehicle does not include the optimal control parameter, the server processing device 230 performs the optimal control for the in-vehicle personnel configuration similar to the current in-vehicle personnel configuration. Determine if the parameter is present. The server processing device 230 specifies a control parameter that is most suitable for the current personnel configuration in the vehicle based on at least one of the current relationship between persons in the vehicle and the intimacy between people in the current vehicle, and the control parameter It will be guidance information.

例えば、現在の車内の人員構成が、図2(A)に示す例のように、「20代男性:1名、30代女性:1名、50代男性:1名、60代男性:1名の計4名、これらの人物の関係性は家族関係であって、親密度は高い」とする。サーバ処理装置230は、この人員構成に対応する最適な制御パラメータがデータベース220に存在しない場合、車内の人物間の関係性及び車内の人物間の親密度のうち何れか一方を変更して、現在の車内の人員構成に類似する人員構成を生成する。そして、サーバ処理装置230は、生成した類似の人員構成に最適な制御パラメータが存在するか否かを判定する。上述した例の場合、例えば、サーバ処理装置230は、親密度を「高い」から「普通」に変更して、「20代男性:1名、30代女性:1名、50代男性:1名、60代男性:1名の計4名、これらの人物の関係性は家族関係であって、親密度は普通」を、現在の車内の人員構成に類似する人員構成とする。そして、サーバ処理装置230は、分析結果の中に、現在の車内の人員構成に類似する人員構成に最適な制御パラメータが含まれている場合、当該制御パラメータを最適な制御パラメータとして特定する。   For example, as shown in FIG. 2 (A), for example, the present personnel composition in the car is as follows: "20's male: 1 person, 30's female: 1 person, 50's male: 1 person, 60's male: 1 person The relationship between these persons is a family relationship, and the intimacy is high. " If there is no optimal control parameter corresponding to this personnel configuration in the database 220, the server processing device 230 changes either the relationship between persons in the vehicle or the intimacy between persons in the vehicle, Create a staffing structure similar to the one in the car. Then, the server processing device 230 determines whether or not there is an optimal control parameter for the generated similar personnel configuration. In the case of the example described above, for example, the server processing device 230 changes the intimacy degree from “high” to “normal”, and “male in twenties: one, female in thirties: one, male in 50s: one , 60's male: 1 person in total, the relationship between these persons is a family relationship, and the familiarity is "normal" is a personnel composition similar to the current personnel composition in the car. Then, when the analysis result includes a control parameter optimal for the personnel configuration similar to the current personnel configuration in the vehicle, the server processing device 230 specifies the control parameter as the optimal control parameter.

また、車載装置100から送信された車内の人物間の関係性及び車内の人物間の親密度のうち何れか一方が、何らかの原因で欠落している場合、サーバ処理装置230は、上述した処理により、欠落したパラメータについて補完することができる。これにより、現在の車内の人物間の関係性及び現在の車内の人物間の親密度のうち何れか一方の情報が欠落した場合や、推定精度が低い場合であっても、車両の現在の人員構成に最適な制御パラメータを特定することができる。   If any one of the relationship between persons in the vehicle and the intimacy between persons in the vehicle transmitted from the in-vehicle device 100 is missing for some reason, the server processing device 230 performs the process described above. , Can be supplemented for missing parameters. As a result, the current personnel of the vehicle may be lost even if one of the information on the relationship between the people in the current car and the intimacy between the people in the current car is missing, or if the estimation accuracy is low. Control parameters that are optimal for the configuration can be identified.

サーバ処理装置230は、上述した各処理により得られた制御パラメータ案内情報を、サーバ通信装置210を介して車載装置100に送信する。車載装置100は、受信した制御パラメータ案内情報を車載ディスプレイ150に表示することで、車内の人物に対して、現在の車内の人員構成に最適な制御パラメータの情報、又は過去に提供した最適な制御パラメータの情報を提示することができる。   The server processing device 230 transmits the control parameter guidance information obtained by each process described above to the on-vehicle device 100 via the server communication device 210. The in-vehicle apparatus 100 displays the received control parameter guidance information on the in-vehicle display 150 to provide information on control parameters optimal for the current personnel configuration in the vehicle or optimal control provided in the past to the person in the vehicle. Parameter information can be presented.

なお、制御パラメータ案内情報の提示方法は、特に限定されない。提示方法としては、「車速を○○km/hまで落としてください」と、運転者に対する具体的な運転支援として提示する方法が一例として挙げられる。また、提示方法としては、「車速を○○km/hまで落とすことが推奨されています。車速を推奨速度まで落としますか。」と、運転者に制御パラメータの変更を促す方法が一例として挙げられる。この例の場合、運転者が車載操作機器群130を介して制御パラメータの変更を選択すると、車載制御装置170は、最適な制御パラメータへと自動的に変更するように、車載操作機器群130に含まれる各駆動装置を制御してもよい。   In addition, the presentation method of control parameter guidance information is not specifically limited. As a presentation method, there is a method of presenting as a specific driving support to the driver as "Please lower the vehicle speed to ○ km / h" as an example. In addition, as a presentation method, it is recommended to lower the vehicle speed to kmkm / h. Do you want to reduce the vehicle speed to the recommended speed? Be In the case of this example, when the driver selects to change the control parameter via the in-vehicle operating device group 130, the in-vehicle control device 170 automatically changes the control parameter to the optimal control parameter. Each included drive may be controlled.

次に、図3を参照しながら、車載装置100が車両の走行履歴情報をデータセンタ200に送信するまでの動作について説明する。図3は、車載装置100が車両の走行履歴情報をデータセンタ200に送信するまでのフローチャートである。図3に示すフローチャートの処理は、各車両に搭載された車載装置100によりそれぞれ実行される。また、車載装置100は、所定の周期ごとに、図3に示すフローチャートの動作を繰り返し実行する。   Next, with reference to FIG. 3, an operation until the in-vehicle apparatus 100 transmits the traveling history information of the vehicle to the data center 200 will be described. FIG. 3 is a flowchart until the in-vehicle device 100 transmits the traveling history information of the vehicle to the data center 200. The processes of the flowchart shown in FIG. 3 are respectively executed by the on-vehicle devices 100 mounted on the respective vehicles. Further, the in-vehicle device 100 repeatedly executes the operation of the flowchart shown in FIG. 3 at predetermined intervals.

まず、ステップS101では、車載制御装置170は、車載カメラ110から車内の撮像画像を取得し、車載マイク120から音声情報を取得する。車載カメラ110が車載装置100に複数設けられている場合、車載制御装置170は、各車載カメラ110から撮像画像を取得する。また、車載マイク120が座席ごとに複数設けられている場合、車載制御装置170は、各車載マイク120から音声情報を取得する。   First, in step S101, the in-vehicle control device 170 acquires an in-vehicle captured image from the in-vehicle camera 110, and acquires voice information from the in-vehicle microphone 120. When a plurality of in-vehicle cameras 110 are provided in the in-vehicle apparatus 100, the in-vehicle control device 170 acquires a captured image from each in-vehicle camera 110. When a plurality of in-vehicle microphones 120 are provided for each seat, the in-vehicle control device 170 acquires audio information from each in-vehicle microphone 120.

ステップS102では、車載制御装置170は、ステップS101にて取得した車内の撮像画像に基づいて、車内に存在する人物の特徴を推定する。車内の人物の特徴には、車内の人物の性別及び車内の人物の年齢が含まれる。車載制御装置170は、車内に複数の人物が存在する場合、一人ずつ特徴を推定する。また、このステップにおいて、車載制御装置170は、撮像画像から車内に存在する人物を検出し、車内の人数を算出する。   In step S102, the on-vehicle control device 170 estimates features of a person present in the vehicle based on the in-vehicle captured image acquired in step S101. The characteristics of the person in the car include the gender of the person in the car and the age of the person in the car. The in-vehicle control device 170 estimates features one by one when there are a plurality of persons in the vehicle. Also, in this step, the in-vehicle control device 170 detects a person present in the vehicle from the captured image, and calculates the number of people in the vehicle.

ステップS103では、車載制御装置170は、ステップS101にて取得した車内の音声情報に基づいて、車内に存在する人物間の関係性を推定する。また、このステップにおいて、車載制御装置170は、ステップS101にて取得した車内の音声情報に基づいて、車内に存在する人物間の親密度を推定する。なお、会話が多い方が車内の人物間の関係性及び親密度の推定精度が比較的上がりやすいため、ステップS102から所定の経過時間が経過してから、車載制御装置170がこのステップの処理を実行するのが好ましい。   In step S103, the in-vehicle control device 170 estimates the relationship between persons present in the vehicle based on the in-vehicle audio information acquired in step S101. Also, in this step, the in-vehicle control device 170 estimates the closeness between persons present in the vehicle based on the in-vehicle audio information acquired in step S101. It should be noted that the in-vehicle control device 170 performs the processing of this step after a predetermined elapsed time has elapsed from step S102 since the relationship between persons in the vehicle and the estimation accuracy of the intimacy relatively easily increase if there are many conversations. It is preferable to carry out.

ステップS104では、車載制御装置170は、車内の人員構成を推定する。車内の人員構成には、ステップS102にて算出した車内の人数と、同ステップにて、推定した車内の人物の特徴と、ステップS103にて推定した車内の人物間の関係性及び車内の人物間の親密度が関連付づけられている(図2(A)(B)参照)。   In step S104, the on-vehicle control device 170 estimates the personnel configuration in the vehicle. The personnel configuration in the vehicle includes the number of people in the vehicle calculated in step S102, the characteristics of the person in the vehicle estimated in the step, the relationship between the persons in the vehicle estimated in step S103, and the person in the vehicle Intimacy is associated with (see (A) and (B) in FIG. 2).

ステップS105では、車載制御装置170は、車両の走行に関する制御パラメータを取得する。車載制御装置170は、車載センサ群140からの検出結果に基づいて、制御パラメータを取得する。また、このステップにおいて、車載制御装置170は、これまで走行してきた車両の走行経路に基づいて、例えば、ナビゲーション装置から車両の位置情報を取得する。   In step S105, the on-vehicle control device 170 acquires control parameters related to the traveling of the vehicle. The on-vehicle control device 170 acquires control parameters based on the detection result from the on-vehicle sensor group 140. In addition, in this step, the on-vehicle control device 170 acquires, for example, position information of the vehicle from the navigation device based on the traveling route of the vehicle which has traveled so far.

ステップS106では、車載制御装置170は、車両の走行履歴情報を生成する。車載制御装置170は、ステップS104にて推定した車内の人員構成と、ステップS105で特定した車両の制御パラメータと、同ステップにおいて取得した車両の走行位置を関連付けて、車両の走行履歴情報とする。これにより、車内の人員構成と、その人員構成における制御パラメータが対応づけられる。   In step S106, the on-vehicle control device 170 generates traveling history information of the vehicle. The on-vehicle control device 170 associates the in-vehicle personnel configuration estimated in step S104, the control parameters of the vehicle identified in step S105, and the traveling position of the vehicle acquired in the same step, and sets the travel history information of the vehicle. In this way, the personnel configuration in the vehicle is associated with control parameters in the personnel configuration.

ステップS107では、車載制御装置170は、ステップS106にて生成した車両の走行履歴情報を、データセンタ200に送信する。ステップS107が終了すると、車載装置100が車両の走行履歴情報をデータセンタ200に送信するまでの処理は終了する。   In step S107, the in-vehicle control device 170 transmits the traveling history information of the vehicle generated in step S106 to the data center 200. When step S107 ends, the process until the onboard apparatus 100 transmits the traveling history information of the vehicle to the data center 200 ends.

次に、図4を参照しながら、人員構成ごとに最適な制御パラメータ特定する動作について説明する。図4は、人員構成ごとに最適な制御パラメータを特定する処理を説明するためのフローチャートである。図4に示すフローチャートの処理は、データセンタ200のサーバ処理装置230により実行される。   Next, with reference to FIG. 4, an operation of specifying an optimal control parameter for each personnel configuration will be described. FIG. 4 is a flow chart for explaining a process of specifying an optimal control parameter for each personnel configuration. The processing of the flowchart illustrated in FIG. 4 is executed by the server processing device 230 of the data center 200.

ステップS201では、サーバ処理装置230は、車載装置100から送信される車両の走行履歴情報を収集し、データベース220に蓄積させる。   In step S201, the server processing device 230 collects traveling history information of the vehicle transmitted from the in-vehicle device 100, and stores the information in the database 220.

ステップS202では、サーバ処理装置230は、ステップS201にてデータベース220に蓄積された、各車両の各走行位置に対する車両の走行履歴情報から、人員構成ごとに運転者の運転特性について分析する。例えば、サーバ処理装置230は、特定の走行位置に対する車両の走行履歴情報に対して、クラスタリング処理を実行し、車内の人員構成の情報を構成するパラメータごとに(人数ごと、性別ごと、年齢ごと、車内の人物間の関係性、車内の人物間の親密度)グループ化する。そして、サーバ処理装置230は、グループ化されたそれぞれに対して、運転特性の傾向を分析し、一の運転特性に応じた人数、性別、年齢、人物間の関係性、及び人物間の親密度の組み合わせで表せる、一の運転特性に対する特徴量を算出する。サーバ処理装置230は、運転特性ごとに上述した処理を実行することで、各運転特性に対する特徴量を算出する。サーバ処理装置230は、各運転特性に対応する制御パラメータを特定することで、運転特性と制御パラメータを関連付ける。   In step S202, the server processing device 230 analyzes the driving characteristic of the driver for each personnel configuration from the traveling history information of the vehicle for each traveling position of each vehicle accumulated in the database 220 in step S201. For example, the server processing device 230 executes clustering processing on travel history information of a vehicle at a specific travel position, and for each parameter constituting information on the personnel configuration in the vehicle (for each person, for each gender, for each age, Relationship between people in the car, closeness between people in the car) grouping. Then, the server processing device 230 analyzes the tendency of the driving characteristic for each of the grouped, and the number of persons, gender, age, relationship between persons, and closeness between persons according to one driving characteristic. Calculate the feature value for one driving characteristic that can be expressed by the combination of The server processing device 230 calculates the feature amount for each operation characteristic by executing the above-described processing for each operation characteristic. The server processing device 230 associates the operation characteristic with the control parameter by specifying the control parameter corresponding to each operation characteristic.

ステップS203では、サーバ処理装置230は、ステップS202にて得られた分析結果に基づいて、人員構成ごとに最適な制御パラメータを特定する。   In step S203, the server processing device 230 specifies an optimal control parameter for each personnel configuration based on the analysis result obtained in step S202.

ステップS204では、サーバ処理装置230は、ステップ202にて得られた分析結果、及びステップS203にて特定された人員構成ごとに最適な制御パラメータを、データベース220に格納する。ステップS204が終了すると、サーバ処理装置230が人員構成ごとに最適な制御パラメータを特定する処理は終了する。   In step S204, the server processing device 230 stores, in the database 220, the analysis result obtained in step 202 and the optimal control parameter for each personnel configuration identified in step S203. When step S204 ends, the process in which the server processing device 230 specifies an optimal control parameter for each personnel configuration ends.

次に、図5A、図5Bを参照しながら、車両に乗車してから車内の人員構成に最適な制御パラメータが提供されるまでの処理について説明する。図5A、図5Bは、車両に乗車してから車内の人員構成に最適な制御パラメータを提供するまでの処理を説明するためのフローチャートである。図5Aに示すステップS301〜S306、及びステップS308の処理と、図5Bに示すステップS313〜S315の処理は、特定の車両に搭載された車載装置100により実行される。また、図5Bに示すステップS307、及びステップS309〜S312の処理は、データセンタ200のサーバ処理装置230により実行される。   Next, with reference to FIGS. 5A and 5B, a process from getting on the vehicle to providing a control parameter optimal for the personnel configuration in the vehicle will be described. FIG. 5A and FIG. 5B are flowcharts for explaining the process from getting on the vehicle to providing the control parameter optimum for the personnel configuration in the vehicle. The processes of steps S301 to S306 and S308 shown in FIG. 5A and the processes of steps S313 to S315 shown in FIG. 5B are executed by the on-vehicle apparatus 100 mounted on a specific vehicle. Further, the processing of step S307 and steps S309 to S312 shown in FIG. 5B is executed by the server processing device 230 of the data center 200.

ステップS301では、車載制御装置170は、車載カメラ110から、現在の車内の撮像画像を取得する。また、車載制御装置170は、車載マイク120から、現在の車内の音声情報を取得する。車載制御装置170は、例えば、一又は複数の人物が乗車したタイミング、又は車両が発進するタイミングにおいて、車載カメラ110から現在の車内の撮像画像を取得するとともに、車載マイク120から音声情報を取得し始める。なお、このステップは、図3のステップS101に対応する。   In step S301, the on-vehicle control device 170 acquires a current captured image of the interior of the vehicle from the on-vehicle camera 110. Further, the on-vehicle control device 170 acquires the present in-vehicle audio information from the on-vehicle microphone 120. The in-vehicle control device 170 acquires a captured image of the current in-vehicle from the in-vehicle camera 110 and acquires audio information from the in-vehicle microphone 120 at, for example, timing when one or more persons get on or when the vehicle starts moving. start. This step corresponds to step S101 in FIG.

ステップS302では、車載制御装置170は、ステップS301にて取得した現在の車内の撮像画像に基づいて、現在の車内に存在する人物の特徴を推定する。なお、このステップは、図3のステップS102に対応する。   In step S302, the on-vehicle control device 170 estimates the feature of the person present in the current car based on the current captured image in the car acquired in step S301. This step corresponds to step S102 in FIG.

ステップS303では、車載制御装置170は、ステップS301にて取得した現在の車内の撮像画像及び音声情報の少なくとも一方から、過去に乗車経験がある人物が乗車しているか否かを判定する。現在の車内に過去に乗車経験がある人物が検出されなかった場合、ステップS304へ進み、過去に乗車経験がある人物が検出された場合、ステップS309へ進む。   In step S303, the in-vehicle control device 170 determines whether or not a person who has a ride experience in the past is on the basis of at least one of the captured image and the voice information in the vehicle currently acquired in step S301. If a person who has a ride experience in the past is not detected in the current car, the process proceeds to step S304. If a person who has a ride experience in the past is detected, the process proceeds to step S309.

ステップS304では、車載制御装置170は、ステップS301にて取得した現在の車内の音声情報に基づいて、現在の車内の人物間の関係性を推定する。また、このステップにおいて、車載制御装置170は、現在の車内の人物間の親密度を推定する。なお、このステップは、図3のステップS103に対応する。   In step S304, the on-vehicle control device 170 estimates the relationship between persons in the current car based on the current in-car audio information acquired in step S301. Also, in this step, the on-vehicle control device 170 estimates the intimacy between people in the current car. This step corresponds to step S103 in FIG.

ステップS305では、車載制御装置170は、現在の車内の人員構成を推定する。なお、このステップは、図4のステップS104に対応する。   In step S305, the on-vehicle control device 170 estimates the current personnel configuration in the vehicle. This step corresponds to step S104 in FIG.

ステップS306では、車載制御装置170は、ステップS305にて推定した現在の車内の人員構成の情報を、データセンタ200に送信する。   In step S306, the on-vehicle control device 170 transmits, to the data center 200, the information on the current personnel configuration in the vehicle estimated in step S305.

ステップS303にて、過去に乗車経験がある人物が検出された場合、ステップS309へ進む。ステップS309では、車載制御装置170は、ステップS303にて検出された乗車経験がある人物の情報を、データセンタ200に送信する。   If it is determined in step S303 that a person having boarding experience in the past is detected, the process proceeds to step S309. In step S309, the in-vehicle control device 170 transmits, to the data center 200, the information of the person who has the boarding experience detected in step S303.

ステップ306又はステップS309が終了すると、車載装置100は、データセンタ200からの応答が来るまで待機する。   When step 306 or step S309 ends, the on-vehicle apparatus 100 waits for a response from the data center 200.

ステップS306にて、車載装置100から現在の車内の人員構成の情報がデータセンタ200に送信されると、ステップS307に進む。ステップS307では、サーバ処理装置230は、サーバ通信装置210を介して、ステップS306にて車載装置100から送信された現在の車内の人員構成の情報を受信する。   In step S306, when the information of the current personnel configuration in the vehicle is transmitted from the in-vehicle apparatus 100 to the data center 200, the process proceeds to step S307. In step S307, the server processing device 230 receives, via the server communication device 210, the information on the current personnel configuration in the vehicle transmitted from the in-vehicle device 100 in step S306.

ステップS308では、サーバ処理装置230は、ステップS307にて受信した現在の車内の人員構成に対して、最適な制御パラメータをデータベース220から抽出する。サーバ処理装置230は、抽出した最適な制御パラメータを制御パラメータ案内情報とする。   In step S308, the server processing device 230 extracts, from the database 220, optimal control parameters for the current personnel configuration in the vehicle received in step S307. The server processing device 230 sets the extracted optimal control parameter as control parameter guidance information.

ステップS309にて車載装置100から乗車経験がある人物の情報がデータセンタ200に送信されると、ステップS310に進む。ステップS310では、サーバ処理装置230は、サーバ通信装置210を介して、ステップS309にて車載装置100から送信された乗車経験がある人物の情報を受信する。   When the information of the person who has a ride experience is transmitted from the in-vehicle apparatus 100 to the data center 200 in step S309, the process proceeds to step S310. In step S310, the server processing device 230 receives, via the server communication device 210, the information on the person with boarding experience transmitted from the in-vehicle device 100 in step S309.

ステップS310では、サーバ処理装置230は、データベース220から乗車経験がある人物が含まれる車内の人員構成の情報を抽出する。サーバ処理装置230は、抽出した車内の人員構成に対応する制御パラメータのうち車載装置100への送信履歴がある制御パラメータを抽出する。サーバ処理装置230は、過去に提供した最適な制御パラメータを制御パラメータ案内情報とする。   In step S310, the server processing device 230 extracts, from the database 220, information on the personnel configuration in the car including the person who has the experience of getting in the vehicle. The server processing device 230 extracts a control parameter having a transmission history to the in-vehicle device 100 among the control parameters corresponding to the extracted personnel configuration in the vehicle. The server processing device 230 uses the optimal control parameters provided in the past as control parameter guidance information.

ステップS312では、サーバ処理装置230は、ステップS308又はステップS311にて作成された制御パラメータ案内情報を車載装置100へ送信する。   In step S312, the server processing device 230 transmits the control parameter guidance information created in step S308 or step S311 to the in-vehicle device 100.

ステップS313では、車載制御装置170は、データセンタ200から車載通信装置160を介して、制御パラメータ案内情報を受信する。   In step S313, the in-vehicle control device 170 receives control parameter guidance information from the data center 200 via the in-vehicle communication device 160.

ステップS314では、車載制御装置170は、制御パラメータ案内情報を受信したことを車載ディスプレイ150に表示させ、車内の人物に制御パラメータ案内情報に含まれる制御パラメータを利用するか否かの選択を促す。例えば、車載制御装置170は、車載ディスプレイ150に制御パラメータ案内情報に含まれる各種の制御パラメータを表示させるとともに、利用するか否かの選択画面を表示させる。車内の人物が制御パラメータ案内情報を利用することを選択すると、ステップS314へ進み、車内の人物が制御パラメータ案内情報を利用しないことを選択すると、情報提供の処理は終了する。   In step S314, the on-vehicle control device 170 causes the on-vehicle display 150 to display that the control parameter guidance information has been received, and urges a person in the vehicle to select whether to use the control parameter included in the control parameter guidance information. For example, the on-vehicle control device 170 causes the on-vehicle display 150 to display various control parameters included in the control parameter guidance information, and displays a selection screen as to whether or not to use it. If the person in the car selects to use the control parameter guide information, the process proceeds to step S314, and if the person in the car selects not to use the control parameter guide information, the information provision processing ends.

ステップS315では、車載制御装置170は、ステップ313にて受信した制御パラメータ案内情報を出力する。車載制御装置170は、制御パラメータ案内情報に含まれる最適な制御パラメータを、車載操作機器群130に対して出力する。例えば、同乗者に高齢者が含まれる場合、車載制御装置170は、交差点を右左折する場面において、法定速度よりもさらに所定の速度だけ減速するように、ブレーキペダルを制御する。これにより、高齢者の同乗者に過度な負荷をかけない運転の実現が可能となる。また、同乗者だけでなく運転者に対しても本実施形態の情報提供システム1は、以下のような効果を奏する。例えば、同乗者が友人の場合、車載制御装置170は、山道を走行する場面において、ノーマルモードからスポーツモードに切り替えるように、車両の走行特性モードを変更する。これにより、運転者が運転を楽しめるような運転の実現が可能となる。   In step S315, the in-vehicle control device 170 outputs the control parameter guidance information received in step S313. The in-vehicle control device 170 outputs the optimum control parameter included in the control parameter guidance information to the in-vehicle operation device group 130. For example, when the passenger includes an elderly person, the on-vehicle control device 170 controls the brake pedal so as to reduce the speed further than the legal speed by a predetermined speed in a scene where the intersection is turned to the left or right. This makes it possible to realize driving that does not place an excessive load on the elderly passenger. Further, the information providing system 1 of the present embodiment exhibits the following effects not only to the passenger but also to the driver. For example, when the passenger is a friend, the on-vehicle control device 170 changes the traveling characteristic mode of the vehicle so as to switch from the normal mode to the sport mode in a scene traveling on a mountain road. This makes it possible to realize driving that allows the driver to enjoy driving.

また、このステップにおいて、車載制御装置170は、過去に提供した最適な制御パラメータ案内情報を、車載操作機器群130に対して出力してもよい。ステップS315が終了すると、乗車してから車内の人員構成に最適な制御パラメータが提供されるまでの処理は終了する。   Further, in this step, the on-vehicle control device 170 may output the optimum control parameter guidance information provided in the past to the on-vehicle operation device group 130. When step S315 is finished, the process from getting on to providing the control parameter optimal for the personnel configuration in the car is finished.

以上のように、本実施形態では、車載装置100は、車両の室内を撮像する車載カメラ110から車内の撮像画像を取得し、車両の室内の音声を収集する車載マイク120から車内の音声情報を取得し、車内の音声情報に基づいて、車内に存在する人物の間の関係性を推定し、車内の人数と車内の人物間の関係性が関連付けられた車内の人員構成を推定し、車載センサ群140から車内の走行に関する制御パラメータを取得し、車内の人員構成と制御パラメータが関連付けられた車両の走行履歴情報をデータセンタ200に送信する。データセンタ200では、サーバ処理装置230は、車両の走行履歴情報をデータベース220に蓄積させ、蓄積された車両の走行履歴情報を分析することで車内の人員構成ごとに最適な制御パラメータを特定する。これにより、同乗者を考慮した車両の最適な制御パラメータを決定することができる。   As described above, in the present embodiment, the in-vehicle device 100 acquires a captured image of the in-vehicle from the in-vehicle camera 110 that captures an interior of the vehicle, and collects in-vehicle audio information from the in-vehicle microphone 120 that collects audio in the in-vehicle. Acquire and estimate the relationship between people in the vehicle based on voice information in the vehicle, estimate the personnel configuration in the vehicle with which the relationship between the number of people in the vehicle and the person in the vehicle is associated, and the in-vehicle sensor The control parameters relating to the in-vehicle travel are acquired from the group 140, and the travel history information of the vehicle associated with the in-vehicle personnel configuration and the control parameters is transmitted to the data center 200. In the data center 200, the server processing device 230 stores the travel history information of the vehicle in the database 220, and analyzes the travel history information of the stored vehicle to specify the optimum control parameter for each personnel configuration in the vehicle. Thereby, the optimal control parameter of the vehicle in consideration of the passenger can be determined.

また、本実施形態では、車載装置100は、車内の撮像画像に基づいて、車内の人数と、車内の人物の性別及び年齢を推定し、車内の音声情報に基づいて、車内の人物間の関係性及び車内の人物間の親密度を推定する。そして、車載装置100は、推定したこれらの情報を車内の人員構成の情報とする。これにより、例えば、車載カメラ110が搭載されていない車両や、あるいは車載マイク120が搭載されていない車両であっても、車内の人員構成の概要については推定することができる。また、車載カメラ110及び車載マイク120のどちらも搭載されている車両では、車内の人員構成を精度よく推定することができる。   Further, in the present embodiment, the on-vehicle apparatus 100 estimates the number of people in the car and the gender and age of the person in the car based on the captured image in the car, and the relationship between the people in the car based on voice information in the car. Estimate sex and closeness between people in the car. Then, the on-vehicle apparatus 100 uses the estimated information as information on the personnel configuration in the vehicle. Thus, for example, even in a vehicle in which the on-vehicle camera 110 is not mounted or a vehicle in which the on-vehicle microphone 120 is not mounted, it is possible to estimate the outline of the personnel configuration in the vehicle. Further, in a vehicle in which both the on-vehicle camera 110 and the on-vehicle microphone 120 are mounted, it is possible to accurately estimate the personnel configuration in the vehicle.

さらに、本実施形態では、車載制御装置170は位置検出装置142から車両の走行位置を取得する。また、車載制御装置170が車載センサ群140から取得する制御パラメータには、操舵角、アクセル開度、ブレーキ開度、ソナーセンサの検出結果、レーダーセンサの検出結果、車速、加速度、先行車両との車間距離、走行特性モードが含まれる。そして、車載制御装置170は、これらの車両の走行状態を示す制御パラメータと、車内の人員構成と、車両の走行位置が関連付いた情報を、車両の走行履歴情報とする。これにより、データセンタ200では、様々な走行シーンにおける、車内の人員構成ごとに最適な制御パラメータをデータベース220に蓄積させることができる。   Furthermore, in the present embodiment, the on-vehicle control device 170 acquires the traveling position of the vehicle from the position detection device 142. The control parameters acquired by the in-vehicle control device 170 from the in-vehicle sensor group 140 include the steering angle, the accelerator opening degree, the brake opening degree, the detection result of the sonar sensor, the detection result of the radar sensor, the vehicle speed, acceleration, and the distance to the preceding vehicle. The distance and the driving characteristic mode are included. Then, the on-vehicle control device 170 uses information in which the control parameters indicating the traveling state of the vehicle, the personnel configuration in the vehicle, and the traveling position of the vehicle are associated with each other as traveling history information of the vehicle. As a result, in the data center 200, it is possible to store in the database 220 optimal control parameters for each personnel configuration in the vehicle in various traveling scenes.

また、本実施形態では、車載装置100は、車載カメラ110から現在の車内の撮像画像を取得し、車載マイク120から現在の車内の音声情報を取得し、現在の車内の音声情報に基づいて、現在の車内の人物間の関係性を推定し、現在の車内の人数と現在の車内の人物間の関係性が関連付けられた現在の車内の人員構成を推定し、現在の車内の人員構成の情報をデータセンタ200に送信する。データセンタ200では、サーバ処理装置230は、データベース220に蓄積された、車内の人員構成ごと特定された最適な制御パラメータの中から、現在の車内の人員構成に最適な制御パラメータを選択して車載装置100に送信する。車載装置100では、車載制御装置170は、データセンタ200から受信した現在の人員構成に最適な制御パラメータを各駆動装置に出力する。これにより、同乗者を考慮した最適な制御パラメータによる運転を行うことができる。   Further, in the present embodiment, the in-vehicle apparatus 100 acquires a captured image of the current in-vehicle from the in-vehicle camera 110, acquires audio information of the current in-vehicle from the in-vehicle microphone 120, and based on the in-vehicle audio information. Estimate the relationship between people in the current car, estimate the current staff configuration in the car with which the relationship between the number of people in the current car and the people in the current car is associated, and the information on the staff composition in the current car Are sent to the data center 200. In the data center 200, the server processing device 230 selects an optimal control parameter for the current personnel configuration in the vehicle from among the optimal control parameters stored in the database 220 and specified for each personnel configuration in the vehicle, Send to device 100. In the in-vehicle apparatus 100, the in-vehicle control apparatus 170 outputs, to each drive apparatus, the control parameter optimal for the current personnel configuration received from the data center 200. Thus, it is possible to perform the operation with the optimal control parameter in consideration of the passenger.

さらに、本実施形態では、サーバ処理装置230は、現在の車内の人物間の関係性と、現在の車内の人物間の親密度のうち少なくとも一方に基づいて、現在の車内の人員構成に最適な制御パラメータをデータベース220から抽出する。これにより、例えば、これらの情報のうち何れか一方が何らかの原因で欠落しとしても、現在の車内の人員構成に最適な制御パラメータを抽出することができる。   Furthermore, in the present embodiment, the server processing device 230 is optimal for the current personnel configuration in the vehicle based on at least one of the current relationship between the persons in the vehicle and the current intimacy between the persons in the vehicle. Control parameters are extracted from the database 220. Thereby, for example, even if any one of these pieces of information is missing for some reason, it is possible to extract a control parameter that is optimal for the current personnel configuration in the vehicle.

また、本実施形態では、車載装置100は、車載カメラ110が撮像した車内の撮像画像から、過去に乗車経験がある人物を検出した場合、乗車経験がある人物の情報をデータセンタ200に送信する。データセンタ200では、データベース220から、乗車経験がある人物を含む車内の人員構成の情報が抽出される。そして、サーバ処理装置230は、抽出した車内の人員構成に対応する最適な制御パラメータのうち、車載装置100への送信履歴がある制御パラメータを最適な制御パラメータとして車載装置100に送信する。車載装置100では、車載制御装置170は、過去に提供された制御パラメータ案内情報を車載ディスプレイ150に表示させる。これにより、乗車経験ある同乗者に対しては、車内の人員構成の推定処理を省略することができ、乗車してからより時間をかけることなく最適な制御パラメータ案内情報を車内に提供することができる。   Further, in the present embodiment, the in-vehicle apparatus 100 transmits information of a person who has a ride experience to the data center 200 when detecting a person who has a ride experience in the past from the captured image in the vehicle captured by the in-vehicle camera 110. . In the data center 200, information of personnel composition in the car including a person who has boarding experience is extracted from the database 220. Then, the server processing device 230 transmits a control parameter having a transmission history to the in-vehicle device 100 among the optimum control parameters corresponding to the extracted personnel configuration in the vehicle as the optimal control parameter to the in-vehicle device 100. In the in-vehicle device 100, the in-vehicle control device 170 causes the in-vehicle display 150 to display control parameter guidance information provided in the past. As a result, it is possible to omit the estimation process of the personnel configuration in the vehicle for a passenger who has got a ride experience, and to provide optimal control parameter guidance information in the vehicle without spending more time after getting on the vehicle. it can.

また、本実施形態では、車載装置100は、データセンタ200から受信した最適な制御パラメータ案内情報を車内に提供するか否かの選択を車内の人物に促す。これにより、車内の人物は必要に応じてデータセンタ200からの制御パラメータ案内情報を利用することができる。   Further, in the present embodiment, the on-vehicle apparatus 100 urges a person in the vehicle to select whether to provide the optimum control parameter guidance information received from the data center 200 in the vehicle. Thereby, a person in the vehicle can use the control parameter guidance information from the data center 200 as needed.

なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態において開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。   The embodiments described above are described to facilitate the understanding of the present invention, and are not described to limit the present invention. Therefore, each element disclosed in the above embodiment is intended to include all design changes and equivalents that fall within the technical scope of the present invention.

例えば、上述の実施形態では、制御パラメータ案内情報の提示方法として、制御パラメータ案内情報を車載ディスプレイ150に表示させたり、運転者に最適な制御パラメータを利用するか否かの選択を促す選択画面を車載ディスプレイ150に表示させたりする構成を例に挙げて説明したが、制御パラメータ案内情報の提示方法はこれに限定されない。例えば、車両が自動的に運転する機能を備えている場合、車載装置100は、データセンタ200から受信した最適な制御パラメータを自動的な運転を行う各駆動装置に出力してもよい。これにより、車両は、特定の走行シーンにおける、特定の車内の人員構成に最適な運転を行うことができる。   For example, in the above-described embodiment, as a method of presenting control parameter guidance information, a selection screen for displaying control parameter guidance information on the on-vehicle display 150 or prompting the driver to select whether to use an optimal control parameter is displayed. Although the configuration for displaying on the in-vehicle display 150 has been described as an example, the method of presenting the control parameter guide information is not limited to this. For example, when the vehicle has a function of automatically driving, the on-vehicle apparatus 100 may output the optimal control parameter received from the data center 200 to each driving device that performs automatic driving. Thus, the vehicle can perform the optimal driving for the specific in-vehicle personnel configuration in the specific traveling scene.

また、例えば、上述した実施形態では、車載マイク120からの音声情報に基づいて、車内の人物間の関係性を推定する構成を例に挙げて説明したが、車内の人物間の関係性の推定には、車内の人物が所有する端末装置を用いてもよい。端末装置としては、携帯電話、スマートフォン、ノートパソコン、タブレットパソコン等のインターネット接続可能な装置が一例として挙げられる。これらの端末装置は、所有者を特定することが可能なID情報を有している。端末装置は、インターネット接続によりデータセンタ200と通信することができるため、サーバ処理装置230は、端末装置が有するID情報として登録されている個人情報から、車内の人物間の関係性を特定することができる。これにより、車内の人物間の関係性を推定する精度を向上させることができる。   Further, for example, in the above-described embodiment, the configuration for estimating the relationship between persons in the vehicle has been described as an example based on the voice information from the in-vehicle microphone 120. However, estimation of the relationship between persons in the vehicle is described. A terminal device owned by a person in the car may be used for Examples of the terminal device include devices that can be connected to the Internet, such as a mobile phone, a smartphone, a notebook computer, and a tablet computer. These terminal devices have ID information that can identify the owner. Since the terminal device can communicate with the data center 200 by Internet connection, the server processing device 230 specifies the relationship between persons in the vehicle from personal information registered as ID information of the terminal device. Can. This can improve the accuracy of estimating the relationship between persons in the car.

また、例えば、上述した実施形態において、サーバ処理装置230は、運転特性分析処理において、予め定められた所定の運転規定に基づいて最適な制御パラメータを変更してもよい。例えば、サーバ処理装置230は、特定の車内の人員構成での運転特性に、優良運転者の運転として認められない傾向があると判定すると、該当する車内の人員構成に最適な制御パラメータを変更することができる。これにより、模範にならない運転が行われるのを防ぐことができる。   Also, for example, in the above-described embodiment, the server processing device 230 may change the optimal control parameter based on a predetermined operation rule predetermined in the operation characteristic analysis process. For example, the server processing device 230 changes the control parameter optimum for the personnel configuration in the corresponding vehicle, when it is determined that the driving characteristic in the specific vehicle interior configuration tends not to be recognized as the superior driver's driving. be able to. This can prevent the driving that is not an example from being performed.

また、例えば、上述した実施形態では、車載マイク120の音声情報に基づいて、車内の人物の間の関係性及び車内の人物の間の親密度を推定したが、車載カメラ110の撮像画像に基づいて、当該関係性及び当該親密度を推定してもよい。例えば、車載制御装置170は、撮像画像に含まれる人物の表情から車内の人物間の関係性を推定してもよい。   Further, for example, in the above-described embodiment, the relationship between persons in the vehicle and the closeness between persons in the vehicle are estimated based on the voice information of the in-vehicle microphone 120, but based on the captured image of the in-vehicle camera 110 The relationship and the closeness may be estimated. For example, the on-vehicle control device 170 may estimate the relationship between persons in the vehicle from the expression of the person included in the captured image.

また、例えば、上述した実施形態では、車載装置100側では、車内の人物間の関係性や親密度を推定したり、車内の人員構成を推定したりする構成を例に挙げて説明したが、車内の人物間の関係性や親密度を推定すること、車内の人員構成を推定することは、データセンタ200であってもよい。例えば、車載装置100は、車載カメラ110が撮像した車内の撮像画像及び車載マイク120が収集した車内の音声情報をデータセンタ200に送信し、サーバ処理装置230側で、車内の人物間の関係性や親密度、及び車内の人員構成を推定してもよい。   Further, for example, in the above-described embodiment, the on-vehicle apparatus 100 has described the configuration in which the relationship between people in the vehicle and the intimacy are estimated or the configuration of the personnel in the vehicle is estimated. The estimation of the relationship and closeness between persons in the vehicle and the estimation of the personnel configuration in the vehicle may be the data center 200. For example, the in-vehicle apparatus 100 transmits the in-vehicle captured image captured by the in-vehicle camera 110 and the in-vehicle audio information collected by the in-vehicle microphone 120 to the data center 200, and the server processing device 230 You may estimate closeness and in-vehicle personnel composition.

また、例えば、上述した実施形態では、本発明に係る情報処理装置を、情報提供システム1を構成する、車載制御装置170と、データベース220と、サーバ処理装置230の構成を例に説明したが、本発明はこれに限定されるものではない。例えば、データセンタ200が備える、データベース220と、サーバ処理装置230を車載装置100が備えていてもよい。   Further, for example, in the above-described embodiment, the information processing apparatus according to the present invention has been described using the on-vehicle control device 170, the database 220, and the server processing device 230 that constitute the information providing system 1 as an example. The present invention is not limited to this. For example, the in-vehicle apparatus 100 may include the database 220 and the server processing device 230 included in the data center 200.

また、例えば、上述した実施形態では、本発明に係るコントローラを、車載制御装置170とサーバ処理装置230の構成を例に説明したが、本発明はこれに限定されるものではない。   Further, for example, in the above-described embodiment, the controller according to the present invention has been described by taking the configurations of the on-vehicle control device 170 and the server processing device 230 as an example, but the present invention is not limited thereto.

1…情報提供システム
100…車載装置
110…車載カメラ
120…車載マイク
130…車載操作機器群
140…車載センサ群
150…車載ディスプレイ
160…車載通信装置
200…データセンタ
210…サーバ通信装置
220…データベース
230…サーバ処理装置
DESCRIPTION OF SYMBOLS 1 Information provision system 100 In-vehicle device 110 In-vehicle camera 120 In-vehicle microphone 130 In-vehicle operation device group 140 In-vehicle sensor group 150 In-vehicle display 160 In-vehicle communication device 200 Data center 210 Server communication device 220 Database 230 ... Server processing unit

Claims (10)

コントローラと記憶装置を用いた情報処理方法であって、
車両の室内を撮像するカメラから出力される車内の撮像画像、及び前記車両の室内の音声を取得するマイクから出力される車内の音声情報の少なくも一方を取得し、
取得した情報に基づいて、前記車内に存在する人物の間の関係性を推定し、
前記車内の人数と前記車内の人物間の関係性が関連付けられた車内の人員構成を推定し、
前記車両の走行状態を検出するセンサから前記車両の走行に関する制御パラメータを取得し、
前記車内の人員構成と前記制御パラメータが関連付けられた車両の走行履歴を前記記憶装置に蓄積させ、
蓄積された前記走行履歴を分析することで前記車内の人員構成ごとに最適な前記制御パラメータを特定する情報処理方法。
An information processing method using a controller and a storage device, comprising
Obtaining at least one of an in-vehicle captured image output from a camera for capturing an interior of the vehicle and at least voice information in the vehicle output from a microphone for acquiring an audio of the vehicle interior;
Based on the acquired information, estimate the relationship between the persons present in the vehicle,
Estimating the in-vehicle personnel configuration in which the number of people in the vehicle and the relationship between persons in the vehicle are associated;
Acquiring control parameters related to traveling of the vehicle from a sensor that detects the traveling state of the vehicle;
Causing the storage device to store a travel history of a vehicle associated with the in-vehicle personnel configuration and the control parameter;
An information processing method for specifying the control parameter optimal for each personnel configuration in the vehicle by analyzing the accumulated travel history.
請求項1に記載の情報処理方法であって、
前記車内の人員構成は、前記車内の人数と、前記車内の人物の性別及び年齢と、前記車内の人物間の関係性と、前記車内の人物間の親密度を含み、
前記車内の撮像画像に基づいて、前記車内の人数と、前記車内の人物の性別及び年齢を推定し、
前記車内の音声情報に基づいて、前記車内の人物間の関係性及び前記車内の人物間の親密度を推定する情報処理方法。
The information processing method according to claim 1, wherein
The personnel configuration in the vehicle includes the number of people in the vehicle, the sex and age of the person in the vehicle, the relationship between the people in the vehicle, and the closeness between the people in the vehicle.
The number of people in the car and the gender and age of the person in the car are estimated based on the captured image of the car,
An information processing method for estimating a relation between persons in the car and a closeness between persons in the car based on voice information in the car.
請求項2に記載の情報処理方法であって、
前記センサから前記車両の走行位置を取得し、
前記制御パラメータは、舵角センサの検出結果と、アクセル開度センサの検出結果と、ブレーキ開度センサの検出結果と、ソナー装置の検出結果と、レーダー装置の検出結果と、速度センサの検出結果と、加速度センサの検出結果と、先行車両との車間距離と、走行特性モードのうち少なくとも1つの情報を含み、
前記走行履歴は、前記車内の人員構成、前記制御パラメータ、及び前記走行位置を含む情報処理方法。
The information processing method according to claim 2,
Acquiring the traveling position of the vehicle from the sensor;
The control parameters include the detection result of the steering angle sensor, the detection result of the accelerator opening sensor, the detection result of the brake opening sensor, the detection result of the sonar device, the detection result of the radar device, and the detection result of the speed sensor And at least one of the following: a detection result of the acceleration sensor, an inter-vehicle distance to the preceding vehicle, and a traveling characteristic mode,
The information processing method, wherein the travel history includes personnel configuration in the vehicle, the control parameter, and the travel position.
請求項1〜3の何れか一項に記載の情報処理方法であって、
前記車内の人物が所有する端末装置に基づいて、前記車内の人物間の関係性を推定する情報処理方法。
The information processing method according to any one of claims 1 to 3, wherein
The information processing method which estimates the relationship between the persons in the said vehicle based on the terminal device which the person in the said vehicle owns.
請求項1〜4の何れか一項に記載の情報処理方法であって、
前記カメラから出力される現在の車内の撮像画像、及び前記マイクから出力される現在の車内の音声情報の少なくも一方を取得し、
取得した情報に基づいて、現在の前記車内の人物間の関係性を推定し、
現在の前記車内の人数と現在の前記車内の人物間の関係性が関連付けられた現在の車内の人員構成を推定し、
車内の人員構成ごとに特定された最適な制御パラメータの中から、現在の車内の人員構成に最適な制御パラメータを選択し、
選択した最適な制御パラメータを出力する情報処理方法。
The information processing method according to any one of claims 1 to 4, wherein
Obtaining at least one of a current captured image in the car output from the camera and audio information in the current car output from the microphone;
Based on the acquired information, estimate the relationship between people in the current car,
Estimating the current personnel composition in the vehicle associated with the relationship between the current number of people in the vehicle and the person in the current vehicle;
From the optimal control parameters specified for each in-vehicle personnel configuration, select the optimal control parameters for the current in-vehicle personnel configuration,
An information processing method for outputting selected optimal control parameters.
請求項5に記載の情報処理方法であって、
前記現在の車内の人員構成は、前記現在の車内の人数と、現在の前記車内の人物の性別及び年齢と、現在の前記車内の人物間の関係性と、現在の前記車内の人物間の親密度を含み、
前記現在の車内の人物間の関係性と、前記現在の車内の人物間の親密度のうち少なくとも一方に基づいて、前記現在の車内の人員構成に最適な制御パラメータを選択する情報処理方法。
The information processing method according to claim 5, wherein
The present in-vehicle personnel composition includes the current number of people in the vehicle, the gender and age of the current in-vehicle person, the relationship between the current in-vehicle person, and the current parent in the vehicle Including density
An information processing method for selecting a control parameter most suitable for the current personnel configuration in the vehicle based on at least one of the current relationship between persons in the vehicle and the intimacy between people in the current vehicle.
請求項5又は6に記載の情報処理方法であって、
前記現在の車内の撮像画像又は前記現在の車内の音声情報から、過去に前記車両に乗車経験がある人物を検出した場合、過去に推定した前記車内の人物間の関係性から現在の車内の人物間の関係性を推定する情報処理方法。
The information processing method according to claim 5 or 6,
When a person who has experienced riding in the vehicle in the past is detected from the current captured image in the vehicle or voice information in the current vehicle, the person in the current vehicle is estimated from the relationship between persons in the vehicle estimated in the past Information processing method to estimate the relationship between
請求項5〜7の何れか一項に記載の情報処理方法であって、
前記車内に存在する人物の選択に応じて、前記最適な制御パラメータを出力するか否かを切り替える情報処理方法。
The information processing method according to any one of claims 5 to 7, wherein
An information processing method for switching whether or not to output the optimal control parameter according to the selection of a person present in the vehicle.
請求項5〜8の何れか一項に記載の情報処理方法であって、
前記現在の車内の人員構成が予め定めた所定の人員構成に該当する場合、前記最適な制御パラメータを変更する情報処理方法。
The information processing method according to any one of claims 5 to 8, wherein
An information processing method for changing the optimal control parameter, when the present personnel composition in the vehicle corresponds to a predetermined personnel composition set in advance.
情報処理を実行するコントローラと、
記憶装置を備え、
前記コントローラは、
車両の室内を撮像するカメラが出力する車内の撮像画像、又は前記車両の室内の音声を取得するマイクが出力する車内の音声情報の少なくも一方を取得し、
取得した情報に基づいて、前記車内に存在する人物の間の関係性を推定し、
前記車内の人数と前記関係性を関連付けた車内の人員構成を推定し、
前記車両の走行状態を検出するセンサから前記車両の走行制御に関する制御パラメータを取得し、
前記車内の人員構成と前記制御パラメータを関連付けた走行履歴を前記記憶装置に蓄積させ、
蓄積された前記走行履歴を分析することで前記車内の人員構成ごとに最適な前記制御パラメータを特定する情報処理装置。
A controller that executes information processing;
With storage
The controller
Acquiring at least one of an in-car captured image output by a camera for capturing an interior of the vehicle and at least one of in-car audio information output by a microphone for acquiring an audio of the vehicle interior;
Based on the acquired information, estimate the relationship between the persons present in the vehicle,
Estimate the personnel composition in the car that associates the relationship with the number of people in the car,
Acquiring control parameters related to travel control of the vehicle from a sensor that detects the travel state of the vehicle;
Causing the storage device to store a travel history in which the personnel configuration in the vehicle and the control parameter are associated;
An information processing apparatus that identifies the control parameter optimal for each personnel configuration in the vehicle by analyzing the accumulated travel history.
JP2017237593A 2017-12-12 2017-12-12 Information processing method and information processing equipment Active JP7081132B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017237593A JP7081132B2 (en) 2017-12-12 2017-12-12 Information processing method and information processing equipment

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017237593A JP7081132B2 (en) 2017-12-12 2017-12-12 Information processing method and information processing equipment

Publications (2)

Publication Number Publication Date
JP2019104354A true JP2019104354A (en) 2019-06-27
JP7081132B2 JP7081132B2 (en) 2022-06-07

Family

ID=67061640

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017237593A Active JP7081132B2 (en) 2017-12-12 2017-12-12 Information processing method and information processing equipment

Country Status (1)

Country Link
JP (1) JP7081132B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021146759A (en) * 2020-03-16 2021-09-27 株式会社デンソー Movable body authentication system and movable body authentication program

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012133530A (en) * 2010-12-21 2012-07-12 Denso Corp On-vehicle device
JP2013182560A (en) * 2012-03-05 2013-09-12 Nomura Research Institute Ltd Human relationship estimation system
JP2014149571A (en) * 2013-01-31 2014-08-21 Nikon Corp Content search device
JP2015121842A (en) * 2013-12-20 2015-07-02 株式会社ゼンリンデータコム Driving support system, driving support method
WO2016121174A1 (en) * 2015-01-30 2016-08-04 ソニー株式会社 Information processing system and control method
JP2017009826A (en) * 2015-06-23 2017-01-12 トヨタ自動車株式会社 Group state determination device and group state determination method
JP2017045242A (en) * 2015-08-26 2017-03-02 パイオニア株式会社 Information display device
JP2017110990A (en) * 2015-12-16 2017-06-22 アルパイン株式会社 Travel support device and travel support method
JP2017117194A (en) * 2015-12-24 2017-06-29 三菱自動車工業株式会社 Vehicular emergency call system
JP2019084981A (en) * 2017-11-07 2019-06-06 トヨタ自動車株式会社 Information processing device and information processing method

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012133530A (en) * 2010-12-21 2012-07-12 Denso Corp On-vehicle device
JP2013182560A (en) * 2012-03-05 2013-09-12 Nomura Research Institute Ltd Human relationship estimation system
JP2014149571A (en) * 2013-01-31 2014-08-21 Nikon Corp Content search device
JP2015121842A (en) * 2013-12-20 2015-07-02 株式会社ゼンリンデータコム Driving support system, driving support method
WO2016121174A1 (en) * 2015-01-30 2016-08-04 ソニー株式会社 Information processing system and control method
JP2017009826A (en) * 2015-06-23 2017-01-12 トヨタ自動車株式会社 Group state determination device and group state determination method
JP2017045242A (en) * 2015-08-26 2017-03-02 パイオニア株式会社 Information display device
JP2017110990A (en) * 2015-12-16 2017-06-22 アルパイン株式会社 Travel support device and travel support method
JP2017117194A (en) * 2015-12-24 2017-06-29 三菱自動車工業株式会社 Vehicular emergency call system
JP2019084981A (en) * 2017-11-07 2019-06-06 トヨタ自動車株式会社 Information processing device and information processing method

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021146759A (en) * 2020-03-16 2021-09-27 株式会社デンソー Movable body authentication system and movable body authentication program
JP7367572B2 (en) 2020-03-16 2023-10-24 株式会社デンソー Mobile authentication system and mobile authentication program

Also Published As

Publication number Publication date
JP7081132B2 (en) 2022-06-07

Similar Documents

Publication Publication Date Title
US11904852B2 (en) Information processing apparatus, information processing method, and program
JP6690649B2 (en) Information processing apparatus, information processing method, and program
JP7195161B2 (en) Guidance system, guidance method and program
US10875538B2 (en) Exhaustive driving analytical systems and modelers
JPWO2018230704A1 (en) Vehicle control system, vehicle control method, program, and vehicle management system
US20200309548A1 (en) Control apparatus, control method, and non-transitory computer-readable storage medium storing program
JP6697942B2 (en) Information processing equipment
JPWO2018100619A1 (en) Vehicle control system, vehicle control method, and vehicle control program
US11460309B2 (en) Control apparatus, control method, and storage medium storing program
JP6930274B2 (en) Digital signage control device, digital signage control method, program, recording medium
CN112789205B (en) Detecting and responding to a platoon for an autonomous vehicle
JP6890265B2 (en) Event prediction system, event prediction method, program, and mobile
CN111310062A (en) Matching method, matching server, matching system, and storage medium
CN111033596A (en) Vehicle control system, vehicle control method, and program
US20230001954A1 (en) Operating a vehicle
CN113320537A (en) Vehicle control method and system
JP7376996B2 (en) Vehicle dangerous situation determination device, vehicle dangerous situation determination method, and program
JP7081132B2 (en) Information processing method and information processing equipment
JP6811429B2 (en) Event prediction system, event prediction method, program, and mobile
WO2021166791A1 (en) Information processing device, information processing method, and program
CN114691979A (en) Information providing device, information providing method, and storage medium
JP7151400B2 (en) Information processing system, program, and control method
JP2021162569A (en) Information providing device
JP7371692B2 (en) Vehicle information processing device and method
WO2023089823A1 (en) Traffic safety assistance system and traffic safety assistance method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201002

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220426

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220509

R151 Written notification of patent or utility model registration

Ref document number: 7081132

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151