JP2017193207A - In-cabin conversation support device - Google Patents

In-cabin conversation support device Download PDF

Info

Publication number
JP2017193207A
JP2017193207A JP2016083134A JP2016083134A JP2017193207A JP 2017193207 A JP2017193207 A JP 2017193207A JP 2016083134 A JP2016083134 A JP 2016083134A JP 2016083134 A JP2016083134 A JP 2016083134A JP 2017193207 A JP2017193207 A JP 2017193207A
Authority
JP
Japan
Prior art keywords
speaker
conversation
occupant
sound
vehicle interior
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016083134A
Other languages
Japanese (ja)
Inventor
家田 清一
Seiichi Ieda
清一 家田
一平 菅江
Ippei Sugae
一平 菅江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd filed Critical Aisin Seiki Co Ltd
Priority to JP2016083134A priority Critical patent/JP2017193207A/en
Priority to PCT/JP2017/010774 priority patent/WO2017183372A1/en
Publication of JP2017193207A publication Critical patent/JP2017193207A/en
Pending legal-status Critical Current

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/10Speech classification or search using distance or distortion measures between unknown speech and reference templates
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • H04R1/02Casings; Cabinets ; Supports therefor; Mountings therein
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • H04R1/20Arrangements for obtaining desired frequency or directional characteristics
    • H04R1/32Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only
    • H04R1/40Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • H04R3/04Circuits for transducers, loudspeakers or microphones for correcting frequency response

Abstract

PROBLEM TO BE SOLVED: To provide an in-cabin conversation support device capable of transmitting voice of an interlocutor to a lister more clearly.SOLUTION: A monitor ECU 30 constitutes a sound collecting part together with a sound collecting microphone 4, and collects sound information IS inside a cabin. Also, the monitor ECU 30 as a passenger detection part detects passengers in the cabin based on photographed image IP photographed by a camera 3. Furthermore, the monitor EU 30 as a conversation determination part and an interlocutor identification part determines whether or not the collected sound information IS shows the conversation of the passengers, and in the case where the sound information IS shows the conversation of the passengers, identifies the interlocutors of the conversation. Then, in the case where the sound information IS shows the conversation of passengers, the monitor ECU 30 selectively collects the voices of the interlocutors and outputs it, by forming a selective collecting and outputting part together with the sound collecting microphone 4 and a loudspeaker 5 provided in the cabin.SELECTED DRAWING: Figure 4

Description

本発明は、車室内会話支援装置に関するものである。   The present invention relates to a vehicle interior conversation support device.

従来、車室内で集音された乗員の音声をスピーカーにより拡声する車室内会話補助装置がある。例えば、特許文献1に記載の車室内会話補助装置は、車両の前部座席側及び後部座席側において、それぞれ、その車室の天井部に設けられた集音マイク及びスピーカーを備えている。そして、これにより、前部座席側の集音マイクが拾う音を後部座席側のスピーカーから出力し、及び後部座席側の集音マイクが拾う音を前部座席側のスピーカーから出力することで、その前部座席に着座する乗員と後部座席に着座する乗員との間の会話を補助する構成になっている。   2. Description of the Related Art Conventionally, there is a vehicle interior conversation assist device that amplifies a passenger's voice collected in a vehicle interior with a speaker. For example, the vehicle interior conversation assisting device described in Patent Document 1 includes a sound collection microphone and a speaker provided on a ceiling portion of the vehicle compartment on the front seat side and the rear seat side of the vehicle, respectively. And, by this, the sound picked up by the front seat side sound collecting microphone is output from the rear seat side speaker, and the sound picked up by the rear seat side sound collecting microphone is output from the front seat side speaker, It is the structure which assists the conversation between the passenger | crew seated in the front seat and the passenger | crew seated in a backseat.

また、この従来例において、前部座席側の集音マイクは、その前部座席側のスピーカーよりも前方側に設けられ、後部座席側の集音マイクは、その後部座席側のスピーカーよりも後方側に設けられている。そして、前部座席側の集音マイクは、車両前方側に指向する集音領域を有し、後部座席側の集音マイクは、車両後方側に指向する集音領域を有している。   In this conventional example, the sound collecting microphone on the front seat side is provided on the front side of the speaker on the front seat side, and the sound collecting microphone on the rear seat side is behind the speaker on the rear seat side. On the side. The sound collecting microphone on the front seat side has a sound collecting area directed toward the vehicle front side, and the sound collecting microphone on the rear seat side has a sound collecting area directed toward the vehicle rear side.

即ち、このような構成を採用することで、集音マイクがスピーカーの出力を拾い難くなる。そして、これにより、ハウリングの発生を抑えてクリアな音出力を実現することが可能になっている。   That is, by adopting such a configuration, it becomes difficult for the sound collecting microphone to pick up the output of the speaker. As a result, it is possible to suppress the occurrence of howling and realize a clear sound output.

特許第5122414号公報Japanese Patent No. 5122414

しかしながら、現実の車両においては、その車室内に設けられた集音マイクが車両内外の様々な音を拾うことになる。そして、上記従来技術の構成では、未だ、これらの雑音が、その会話の妨げとなる可能性を残していることから、この点において、なお改善の余地を残すものとなっていた。   However, in an actual vehicle, a sound collection microphone provided in the vehicle interior picks up various sounds inside and outside the vehicle. And in the structure of the said prior art, since these noises still remain the possibility of hindering the conversation, the room for improvement is still left in this point.

本発明は、上記問題点を解決するためになされたものであって、その目的は、より明確に発話者の音声を聞き手に伝えることのできる車室内会話支援装置を提供することにある。   The present invention has been made to solve the above-described problems, and an object of the present invention is to provide a vehicle interior conversation support device that can more clearly convey the voice of the speaker to the listener.

上記課題を解決する車室内会話支援装置は、車室内の音情報を収集する集音部と、前記車室内の乗員を検知する乗員検知部と、前記音情報が前記車室内に検知された乗員の会話を示すものであるか否かを判定する会話判定部と、前記音情報が前記乗員の会話を示すものである場合に該会話の発話者を特定する発話者特定部と、前記発話者の音声を選択的に収集して出力する選択収集出力部と、を備えることが好ましい。   A vehicle interior conversation support device that solves the above problems includes a sound collection unit that collects sound information in the vehicle interior, an occupant detection unit that detects an occupant in the vehicle interior, and an occupant in which the sound information is detected in the vehicle interior A conversation determination unit that determines whether the conversation indicates a conversation of the passenger, a speaker identification unit that identifies a speaker of the conversation when the sound information indicates the conversation of the occupant, and the speaker And a selective collection output unit that selectively collects and outputs the voice of the above.

上記構成によれば、車両内外の音が会話の妨げとなるような状況においても、より明確に、発話者の音声を聞き手に伝えることができる。そして、これにより、乗員の利便性を向上させることができる。   According to the above configuration, the voice of the speaker can be transmitted to the listener more clearly even in a situation where the sound inside and outside the vehicle hinders the conversation. And thereby, the convenience of a passenger can be improved.

上記課題を解決する車室内会話支援装置は、前記車室内における前記乗員の着座位置を特定する着座位置特定部と、前記音情報の音源を特定する音源特定部と、前記音情報の音源が前記車室内に検知された何れかの乗員の前記着座位置と一致するか否かを判定する音源乗員一致判定部と、を備え、前記発話者特定部は、前記音情報の音源が前記何れかの乗員の着座位置と一致する場合に、該乗員を前記会話の発話者として特定することが好ましい。   In the vehicle interior conversation support device that solves the above problem, a seating position specifying unit that specifies a seating position of the occupant in the vehicle interior, a sound source specifying unit that specifies a sound source of the sound information, and a sound source of the sound information are A sound source occupant coincidence determining unit that determines whether or not the seating position of any occupant detected in the passenger compartment coincides, and the speaker identification unit includes any one of the sound sources of the sound information It is preferable to identify the occupant as the speaker of the conversation when the seating position coincides with the occupant.

上記構成によれば、精度よく、会話の発話者を特定することができる。そして、これにより、より明確に、その発話者となる乗員の音声を聞き手に伝えることができる。
上記課題を解決する車室内会話支援装置は、互いに異なる方向を向いた状態で前記車室内に設けられた複数の指向性マイクを備え、前記選択収集出力部は、前記発話者の方向を向いた前記指向性マイクを選択して前記発話者の音声を収集することが好ましい。
According to the above configuration, the speaker of the conversation can be specified with high accuracy. As a result, the voice of the occupant who is the speaker can be transmitted to the listener more clearly.
A vehicle interior conversation support device that solves the above problem includes a plurality of directional microphones provided in the vehicle interior in directions different from each other, and the selected collection output unit faces the direction of the speaker. Preferably, the directional microphone is selected to collect the voice of the speaker.

上記構成によれば、精度よく、発話者の音声を選択的に収集することができる。
上記課題を解決する車室内会話支援装置は、互いに異なる方向を向いた状態で前記車室内に設けられた複数の指向性スピーカーを備え、前記選択収集出力部は、前記選択的に収集した前記発話者の音声を、前記車室内に検知された前記発話者以外の乗員の方向を向いた前記指向性スピーカーから出力することが好ましい。
According to the above configuration, the voice of the speaker can be selectively collected with high accuracy.
A vehicle interior conversation support device that solves the above-described problem includes a plurality of directional speakers provided in the vehicle interior in directions different from each other, and the selective collection output unit includes the selectively collected utterances. It is preferable to output a person's voice from the directional speaker facing the direction of an occupant other than the speaker detected in the passenger compartment.

上記構成によれば、効率よく、発話者の音声を聞き手となる他の乗員に伝えることができる。
上記課題を解決する車室内会話支援装置は、前記音情報に含まれる音声以外の雑音を減衰するノイズフィルタを備えることが好ましい。
According to the above configuration, the voice of the speaker can be efficiently transmitted to other occupants who are listeners.
The vehicle interior conversation support device that solves the above-described problem preferably includes a noise filter that attenuates noise other than voice included in the sound information.

上記構成によれば、より明確に、発話者の音声を聞き手に伝えることができる。   According to the above configuration, the voice of the speaker can be transmitted to the listener more clearly.

本発明によれば、より明確に、発話者の音声を聞き手に伝えることができる。   According to the present invention, the voice of the speaker can be transmitted to the listener more clearly.

車室内に設けられたモニタユニット(カメラ、集音マイク及びスピーカー)を示す説明図。Explanatory drawing which shows the monitor unit (camera, sound collection microphone, and speaker) provided in the vehicle interior. カメラが映す撮影画像の説明図(乗員なし)。Explanatory drawing of the photographed image projected by the camera (no occupant). モニタユニットの概略構成図(下面図)。The schematic block diagram (bottom view) of a monitor unit. 車室内会話支援装置の概略構成図。The schematic block diagram of a vehicle interior conversation assistance apparatus. カメラが映す撮影画像の説明図(乗員あり)。Explanatory drawing of the image captured by the camera (with occupants). 車室内会話支援制御の開始手順を示すフローチャート。The flowchart which shows the start procedure of vehicle interior conversation assistance control. 車室内会話支援制御の処理手順を示すフローチャート。The flowchart which shows the process sequence of vehicle interior conversation assistance control.

以下、車室内会話支援装置の一実施形態を図面に従って説明する。
図1に示すように、本実施形態の車両1には、車室2内の画像を映すカメラ3が設けられている。具体的には、本実施形態の車両1において、このカメラ3は、集音マイク4及びスピーカー5と一体化されたモニタユニット10を構成する。そして、本実施形態の車両1は、このモニタユニット10が、その車室2の天井部2aにおける略中央部、前部座席7fと後部座席7rとの間の位置に配置された構成になっている。
Hereinafter, an embodiment of a vehicle interior conversation support device will be described with reference to the drawings.
As shown in FIG. 1, the vehicle 1 of the present embodiment is provided with a camera 3 that displays an image in the passenger compartment 2. Specifically, in the vehicle 1 of the present embodiment, the camera 3 constitutes a monitor unit 10 that is integrated with the sound collecting microphone 4 and the speaker 5. And the vehicle 1 of this embodiment becomes the structure by which this monitor unit 10 is arrange | positioned in the approximate center part in the ceiling part 2a of the vehicle interior 2, the position between the front seat 7f and the rear seat 7r. Yes.

詳述すると、図2及び図3に示すように、本実施形態のモニタユニット10には、そのカメラ3として、車室2に設けられた全ての座席7及び全ての車窓20を撮影する全方位カメラ23が設けられている。   More specifically, as shown in FIGS. 2 and 3, the monitor unit 10 according to the present embodiment has an omnidirectional image of all the seats 7 and all the vehicle windows 20 provided in the passenger compartment 2 as the camera 3. A camera 23 is provided.

尚、図2に示す撮影画像IP中、左下に映る座席7が右前部座席(運転席)7faであり、右下に映る座席7が左前部座席(助手席)7fbである。また、上側に映る各座席7が、それぞれ右後部座席7ra及び左後部座席7rbである。そして、この図2に示す撮影画像IPには、その車窓20として、これら各座席7の側方に位置する各ウィンドガラス20fa,20fb,20ra,20rb、並びに車両1のフロントガラス20fc及びリアガラス20rcが映っている。   In the captured image IP shown in FIG. 2, the seat 7 shown in the lower left is the right front seat (driver's seat) 7fa, and the seat 7 shown in the lower right is the left front seat (passenger seat) 7fb. The seats 7 shown on the upper side are a right rear seat 7ra and a left rear seat 7rb, respectively. In the photographed image IP shown in FIG. 2, as the vehicle window 20, the windshields 20 fa, 20 fb, 20 ra, 20 rb located on the sides of the seats 7, the windshield 20 fc and the rear glass 20 rc of the vehicle 1 are displayed. It is reflected.

また、図3に示すように、このモニタユニット10には、その集音マイク4として、異なる方向を向いた複数の指向性マイク24(24a〜24d)を備えたマイクアレイ24Xが設けられている。そして、このモニタユニット10には、そのスピーカー5として、同じく異なる方向を向いた複数の指向性スピーカー25(25a〜25d)を備えるスピーカーアレイ25Xが設けられている。   As shown in FIG. 3, the monitor unit 10 is provided with a microphone array 24 </ b> X having a plurality of directional microphones 24 (24 a to 24 d) facing different directions as the sound collection microphone 4. . The monitor unit 10 is provided with a speaker array 25 </ b> X including a plurality of directional speakers 25 (25 a to 25 d) that are similarly directed in different directions as the speakers 5.

具体的には、本実施形態のモニタユニット10において、マイクアレイ24Xは、その全方位カメラ23が設けられた位置を中心に、各指向性マイク24を放射状に配置した構成になっている。そして、スピーカーアレイ25Xも同様に、その指向性スピーカー25を放射状に配置した構成になっている。   Specifically, in the monitor unit 10 of the present embodiment, the microphone array 24X has a configuration in which the directional microphones 24 are arranged in a radial pattern around the position where the omnidirectional camera 23 is provided. Similarly, the speaker array 25X has a configuration in which the directional speakers 25 are arranged radially.

図4に示すように、本実施形態の車両1において、このモニタユニット10は、モニタECU30に接続されている。また、本実施形態のモニタECU30は、そのカメラ3が映す撮影画像IP、及び集音マイク4により集められた音情報ISを解析する。尚、本実施形態のモニタECU30は、図示しない車内ネットワークを介して接続された認証ECUが携帯機(電子キー)との無線通信により車両1に対する人の近接を検知した場合に、その画像解析処理及び音情報解析処理を開始する。更に、このモニタECU30は、そのスピーカー5を介した音出力を実行する。そして、本実施形態の車両1においては、これにより、このモニタユニット10の機能を用いた車室内会話支援装置31が形成されている。   As shown in FIG. 4, in the vehicle 1 of the present embodiment, the monitor unit 10 is connected to a monitor ECU 30. Further, the monitor ECU 30 of the present embodiment analyzes the captured image IP reflected by the camera 3 and the sound information IS collected by the sound collection microphone 4. The monitor ECU 30 according to the present embodiment performs image analysis processing when an authentication ECU connected via an in-vehicle network (not shown) detects the proximity of a person to the vehicle 1 by wireless communication with a portable device (electronic key). And sound information analysis processing is started. Further, the monitor ECU 30 executes sound output via the speaker 5. And in the vehicle 1 of this embodiment, the vehicle interior conversation assistance apparatus 31 using the function of this monitor unit 10 is formed by this.

詳述すると、図2及び図5に示すように、本実施形態のモニタECU30は、車室2内に設けられたカメラ3の撮影画像IPを解析することにより、車両1に乗車した乗員40の有無、及びその着座位置を検出する。具体的には、このモニタECU30は、例えば、撮影画像IPに「人の顔が映っていると判定可能な部分」があるか否か等、周知の人認証ロジックを用いて車室2内の乗員40を検知する。そして、これにより、例えば、図5に示す例においては、その車両1の右前部座席(運転席)7faに着座する第1の乗員41、及び左後部座席7rbに着座する第2の乗員42が検知される構成になっている。   More specifically, as shown in FIGS. 2 and 5, the monitor ECU 30 of the present embodiment analyzes the photographed image IP of the camera 3 provided in the passenger compartment 2 to analyze the occupant 40 who has boarded the vehicle 1. Presence / absence and its seating position are detected. Specifically, the monitor ECU 30 uses the well-known human authentication logic such as whether or not the captured image IP includes “a portion where it can be determined that a human face is reflected”. The occupant 40 is detected. Thus, for example, in the example shown in FIG. 5, the first occupant 41 seated in the right front seat (driver's seat) 7fa of the vehicle 1 and the second occupant 42 seated in the left rear seat 7rb are provided. It is configured to be detected.

また、本実施形態のモニタECU30は、マイクアレイ24Xを構成する各指向性マイク24の入力レベル、即ち集音量の比較に基づいて、その集音マイク4を用いて収集した音情報ISの音源を特定する。そして、このモニタECU30は、音情報ISの音源が車室2内に検知された何れかの乗員40の着座位置と一致するか否かを判定する。   Further, the monitor ECU 30 of the present embodiment generates a sound source of the sound information IS collected using the sound collection microphone 4 based on the comparison of the input levels of the directional microphones 24 constituting the microphone array 24X, that is, the sound collection volume. Identify. The monitor ECU 30 determines whether or not the sound source of the sound information IS matches the seating position of any occupant 40 detected in the passenger compartment 2.

具体的には、本実施形態のモニタECU30は、そのマイクアレイ24Xを備えたモニタユニット10が設けられた位置、即ち天井部2aの略中央部を基準とした音情報ISの音源方向を特定する。そして、その音源方向に乗員40の着座する座席7がある場合に、その乗員40の着座位置が音源に一致するものと判定する。   Specifically, the monitor ECU 30 of the present embodiment identifies the sound source direction of the sound information IS with reference to the position where the monitor unit 10 including the microphone array 24X is provided, that is, the substantially central portion of the ceiling 2a. . Then, when there is a seat 7 on which the occupant 40 is seated in the sound source direction, it is determined that the seating position of the occupant 40 matches the sound source.

また、本実施形態のモニタECU30は、集音マイク4を用いて収集した音情報ISが乗員40の会話を示すものであるか否かを判定する。尚、本実施形態の車両1において、このモニタECU30は、周知の音声認識機能を有している。更に、本実施形態のモニタECU30は、車室2内の音情報ISが乗員40の会話を示すものであり、且つ当該音情報ISの音源が何れかの乗員40の着座位置と一致する場合に、この乗員40を会話の発話者51として特定する。そして、この発話者51の音声を選択的に収集して、その発話者51以外の聞き手52となる乗員40に向かって出力すべく、モニタユニット10の作動を制御する。   Further, the monitor ECU 30 of the present embodiment determines whether or not the sound information IS collected using the sound collection microphone 4 indicates the conversation of the occupant 40. In the vehicle 1 of this embodiment, the monitor ECU 30 has a known voice recognition function. Furthermore, the monitor ECU 30 of the present embodiment is such that the sound information IS in the passenger compartment 2 indicates the conversation of the occupant 40, and the sound source of the sound information IS matches the seating position of any occupant 40. The occupant 40 is specified as the speaker 51 of the conversation. And the operation | movement of the monitor unit 10 is controlled so that the audio | voice of this speaker 51 may be selectively collected and output toward the passenger | crew 40 used as the listener 52 other than the speaker 51. FIG.

例えば、図5に示す例において、車両1の右前部座席7faに着座する第1の乗員41が発話している場合、そのマイクアレイ24Xを構成する各指向性マイク24a〜24dのうち、この第1の乗員41が着座する右前部座席7faの方向を向いた指向性マイク24aの入力レベル(集音量)が最大となる(図3参照)。尚、図3は、天井部2aに設けられたモニタユニット10を下方から見た図であり、同図中、上側が車両前方側、左側が車両右側になる。そして、本実施形態のモニタECU30は、これにより、その第1の乗員41を会話の発話者51として特定する。   For example, in the example shown in FIG. 5, when the first occupant 41 sitting on the right front seat 7fa of the vehicle 1 is speaking, the first of the directional microphones 24a to 24d constituting the microphone array 24X. The input level (collected sound volume) of the directional microphone 24a facing the right front seat 7fa on which the first passenger 41 is seated is maximized (see FIG. 3). 3 is a view of the monitor unit 10 provided on the ceiling 2a as viewed from below. In FIG. 3, the upper side is the front side of the vehicle and the left side is the right side of the vehicle. And monitor ECU30 of this embodiment specifies the 1st crew member 41 as speaker 51 of a conversation by this.

また、本実施形態のモニタECU30は、この発話者51に特定された第1の乗員41の方向を向いた指向性マイク24aを用いて収集した音情報IST、即ち発話者51の音声を、第2の乗員42が着座する左後部座席7rbの方向を向いた指向性スピーカー25dから、即ち、その発話者51以外の聞き手52となる乗員40に向かって出力する。更に、本実施形態のモニタECU30は、その集音マイク4を用いて収集した音情報ISに含まれる音声以外の雑音を減衰するノイズフィルタ55を備えている。そして、本実施形態の車室内会話支援装置31は、これにより、発話者51の音声を、その聞き手52となる他の乗員40に対して明確に伝えることが可能になっている。   Further, the monitor ECU 30 of the present embodiment collects the sound information IST collected by using the directional microphone 24a facing the direction of the first occupant 41 specified by the speaker 51, that is, the voice of the speaker 51. The sound is output from the directional speaker 25d facing the direction of the left rear seat 7rb on which the second occupant 42 is seated, that is, toward the occupant 40 who becomes the listener 52 other than the speaker 51. Furthermore, the monitor ECU 30 of the present embodiment includes a noise filter 55 that attenuates noise other than sound included in the sound information IS collected using the sound collection microphone 4. Thus, the vehicle interior conversation support device 31 of the present embodiment can clearly convey the voice of the speaker 51 to the other passengers 40 who are the listeners 52.

次に、本実施形態のモニタECU30が実行する車室内会話支援制御の開始手順及びその実行手順について説明する。
図6のフローチャートに示すように、本実施形態のモニタECU30は、カメラ3が映す車室2内の撮影画像IPについて画像解析を実行すると(ステップ101)、その解析結果に基づいて、車室2内に乗員40がいるか否かを判定する(ステップ102)。そして、車室2内に乗員40がいると判定した場合(ステップ102:YES)に、発話者51となる乗員40の音声を選択的に収集して出力すべく、その車室内会話支援制御を実行する構成になっている(ステップ103)。
Next, the start procedure of the vehicle interior conversation support control executed by the monitor ECU 30 of the present embodiment and the execution procedure thereof will be described.
As shown in the flowchart of FIG. 6, when the monitor ECU 30 of the present embodiment performs image analysis on the captured image IP in the passenger compartment 2 imaged by the camera 3 (step 101), the passenger compartment 2 is based on the analysis result. It is determined whether or not there is a passenger 40 inside (step 102). When it is determined that there is an occupant 40 in the passenger compartment 2 (step 102: YES), the passenger compartment conversation support control is performed to selectively collect and output the voice of the occupant 40 as the speaker 51. It is configured to execute (step 103).

また、本実施形態のモニタECU30は、上記ステップ102において、車室2内に乗員40がいないと判定した場合(ステップ102:NO)、続いて、その車両1がドアロック状態、即ち施錠された状態にあるか否かを判定する(ステップ104)。そして、車両1がドアロック状態にあると判定した場合(ステップ104:YES)には、そのカメラ3が映す車両1周辺の撮影画像IPを用いて画像解析に基づく車両1のセキュリティ制御を実行する構成になっている(ステップ105)。   Further, when the monitor ECU 30 of the present embodiment determines in step 102 that there is no occupant 40 in the passenger compartment 2 (step 102: NO), the vehicle 1 is in a door-locked state, that is, locked. It is determined whether or not it is in a state (step 104). If it is determined that the vehicle 1 is in the door lock state (step 104: YES), the security control of the vehicle 1 based on the image analysis is executed using the captured image IP around the vehicle 1 displayed by the camera 3. It is configured (step 105).

さらに詳述すると、図7のフローチャートに示すように、本実施形態のモニタECU30は、その車室内会話支援制御(図6参照、ステップ103)において、先ず、画像解析により検知した乗員40の着座位置、即ち乗員40が着座する座席7を特定する(ステップ201)。次に、モニタECU30は、モニタユニット10の集音マイク4を用いて収集した車室2内の音情報ISを解析する(ステップ202)。そして、その解析結果に基づいて、音情報ISの音源を特定、詳しくは、集音マイク4が設けられた位置を基準とした音源方向を特定する(ステップ203)。   More specifically, as shown in the flowchart of FIG. 7, the monitor ECU 30 of the present embodiment first detects the seating position of the occupant 40 detected by image analysis in the vehicle interior conversation support control (see FIG. 6, step 103). That is, the seat 7 on which the occupant 40 is seated is specified (step 201). Next, the monitor ECU 30 analyzes the sound information IS in the vehicle compartment 2 collected using the sound collection microphone 4 of the monitor unit 10 (step 202). Based on the analysis result, the sound source of the sound information IS is specified, specifically, the sound source direction is specified with reference to the position where the sound collection microphone 4 is provided (step 203).

次に、モニタECU30は、上記ステップ201において特定した何れかの乗員40の着座位置と上記ステップ203において特定した音情報ISの音源とが一致するか否かを判定する(ステップ204)。更に、モニタECU30は、その音情報ISの音源が何れかの乗員40の着座位置に一致する場合(ステップ204:YES)、当該音情報ISが乗員40の会話を示すものであるか否かを判定する(ステップ205)。そして、この音情報ISが乗員40の会話を示すものである場合(ステップ205:YES)には、その音情報ISの音源に一致する乗員40を会話の発話者51として特定する(ステップ206)。   Next, the monitor ECU 30 determines whether or not the seating position of any occupant 40 identified in step 201 matches the sound source of the sound information IS identified in step 203 (step 204). Furthermore, when the sound source of the sound information IS matches the seating position of any occupant 40 (step 204: YES), the monitor ECU 30 determines whether or not the sound information IS indicates the conversation of the occupant 40. Determination is made (step 205). When the sound information IS indicates the conversation of the occupant 40 (step 205: YES), the occupant 40 that matches the sound source of the sound information IS is specified as the speaker 51 of the conversation (step 206). .

次に、モニタECU30は、この発話者51として特定された乗員40の音声を選択的に収集する(ステップ207)。即ち、モニタユニット10のマイクアレイ24Xを構成する各指向性マイク24(24a〜24d)のうち、発話者51が着座する座席7の方向を向いた指向性マイク24を選択して、その音情報IST、つまりは発話者51の音声を収集する。また、本実施形態のモニタECU30は、ノイズフィルタ55を用いることにより(図4参照)、この発話者51が着座する座席7の方向を向いた指向性マイク24により収集した音情報ISTに含まれる音声以外の雑音を減衰する(ノイズフィルタ処理、ステップ208)。更に、本実施形態のモニタECU30は、モニタユニット10のスピーカーアレイ25Xを構成する各指向性スピーカー25(25a〜25d)のうち、その発話者51以外の聞き手52となる乗員40が着座する座席7の方向を向いた指向性スピーカー25を選択する。そして、この選択された指向性スピーカー25から、そのノイズフィルタ処理後の音情報IST、つまりは雑音を減衰した状態で、その発話者51の音声を出力する構成になっている(ステップ209)。   Next, the monitor ECU 30 selectively collects the voice of the occupant 40 specified as the speaker 51 (step 207). That is, among the directional microphones 24 (24a to 24d) constituting the microphone array 24X of the monitor unit 10, the directional microphone 24 facing the seat 7 on which the speaker 51 is seated is selected and its sound information is selected. The voice of the IST, that is, the speaker 51 is collected. Further, the monitor ECU 30 of this embodiment is included in the sound information IST collected by the directional microphone 24 facing the seat 7 on which the speaker 51 is seated by using the noise filter 55 (see FIG. 4). Noise other than voice is attenuated (noise filter processing, step 208). Further, the monitor ECU 30 of the present embodiment is a seat 7 on which a passenger 40 who is a listener 52 other than the speaker 51 is seated among the directional speakers 25 (25a to 25d) constituting the speaker array 25X of the monitor unit 10. The directional speaker 25 facing the direction is selected. The selected directional speaker 25 outputs the sound information IST after the noise filter processing, that is, the voice of the speaker 51 in a state where the noise is attenuated (step 209).

以上、本実施形態によれば、以下のような効果を得ることができる。
(1)モニタECU30は、集音マイク4とともに集音部を構成して車室2内の音情報ISを収集する。また、乗員検知部としてのモニタECU30は、カメラ3が映す撮影画像IPに基づき車室2内の乗員40を検知する。更に、会話判定部及び発話者特定部としてのモニタECU30は、収集した音情報ISが乗員40の会話を示すものであるか否かを判定し、その音情報ISが乗員40の会話を示すものである場合には該会話の発話者51を特定する。そして、モニタECU30は、その音情報ISが乗員40の会話を示すものである場合には、車室2内に設けられた上記集音マイク4及びスピーカー5とともに選択収集出力部を形成することで、その発話者51の音声を選択的に収集して出力する構成になっている。
As described above, according to the present embodiment, the following effects can be obtained.
(1) The monitor ECU 30 constitutes a sound collection unit together with the sound collection microphone 4 to collect sound information IS in the vehicle compartment 2. The monitor ECU 30 serving as an occupant detection unit detects the occupant 40 in the passenger compartment 2 based on the captured image IP that the camera 3 projects. Further, the monitor ECU 30 as the conversation determination unit and the speaker identification unit determines whether or not the collected sound information IS indicates the conversation of the occupant 40, and the sound information IS indicates the conversation of the occupant 40. If it is, the speaker 51 of the conversation is specified. When the sound information IS indicates the conversation of the occupant 40, the monitor ECU 30 forms a selective collection output unit together with the sound collection microphone 4 and the speaker 5 provided in the passenger compartment 2. The voice of the speaker 51 is selectively collected and output.

上記構成によれば、車両1内外の音が会話の妨げとなるような状況においても、より明確に、発話者51の音声を聞き手52に伝えることができる。そして、これにより、乗員40の利便性を向上させることができる。加えて、そのカメラ3が映す撮影画像IPについて画像解析を行うことにより、車両1のセキュリティ制御を実行することができる。   According to the above configuration, the voice of the speaker 51 can be transmitted to the listener 52 more clearly even in a situation where the sound inside and outside the vehicle 1 hinders the conversation. And thereby, the convenience of passenger 40 can be improved. In addition, security control of the vehicle 1 can be executed by performing image analysis on the captured image IP projected by the camera 3.

(2)着座位置特定部としてのモニタECU30は、カメラ3が映す撮影画像IPに基づき車室2内における乗員40の着座位置(着座する座席7)を特定する。また、音源特定部としてのモニタECU30は、車室2内の集音マイク4を用いて収集した音情報ISを解析することにより、その音情報ISの音源を特定する。更に、音源乗員一致判定部としてのモニタECU30は、その特定した音情報ISの音源が車室2内に検知された何れかの乗員40の着座位置と一致するか否かを判定する。そして、発話者特定部としてのモニタECU30は、その音情報ISの音源が何れかの乗員40の着座位置と一致する場合に、この乗員40を会話の発話者51として特定する。   (2) The monitor ECU 30 serving as the seating position specifying unit specifies the seating position (seat 7 to be seated) of the occupant 40 in the passenger compartment 2 based on the captured image IP captured by the camera 3. Further, the monitor ECU 30 as the sound source identification unit identifies the sound source of the sound information IS by analyzing the sound information IS collected using the sound collection microphone 4 in the passenger compartment 2. Further, the monitor ECU 30 as the sound source occupant coincidence determination unit determines whether or not the sound source of the specified sound information IS matches the seating position of any occupant 40 detected in the passenger compartment 2. When the sound source of the sound information IS matches the seating position of any occupant 40, the monitor ECU 30 as the utterer specifying unit specifies the occupant 40 as the speaker 51 of the conversation.

上記構成によれば、精度よく、その会話の発話者51を特定することができる。そして、これにより、より明確に、その発話者51となる乗員40の音声を聞き手52に伝えることができる。   According to the said structure, the speaker 51 of the conversation can be pinpointed accurately. As a result, the voice of the occupant 40 as the speaker 51 can be transmitted to the listener 52 more clearly.

(3)車室2内には、異なる方向を向いた複数の指向性マイク24(24a〜24d)を有するマイクアレイ24Xが設けられる。そして、選択収集出力部としてのモニタECU30は、発話者51の方向を向いた指向性マイク24を選択して、その発話者51の音声を収集する。このような構成を採用することで、精度よく、発話者51の音声を選択的に収集することができる。   (3) In the vehicle compartment 2, a microphone array 24X having a plurality of directional microphones 24 (24a to 24d) facing different directions is provided. Then, the monitor ECU 30 as the selection collection output unit selects the directional microphone 24 facing the direction of the speaker 51 and collects the voice of the speaker 51. By adopting such a configuration, the voice of the speaker 51 can be selectively collected with high accuracy.

(4)音源特定部及び音源乗員一致判定部としてのモニタECU30は、各指向性マイク24の入力レベルに基づいて、マイクアレイ24Xが設けられた位置を基準とした音情報ISの音源方向を特定し、及びその音情報ISの音源方向に乗員40の着座位置がある場合に、この乗員40の着座位置が音情報ISの音源に一致すると判定する。これにより、精度よく、集音マイク4を用いて収集した音情報ISの音源が車室2内に検知された何れかの乗員40の着座位置と一致するか否かを判定することができる。   (4) The monitor ECU 30 as the sound source specifying unit and the sound source occupant match determination unit specifies the sound source direction of the sound information IS based on the position where the microphone array 24X is provided based on the input level of each directional microphone 24. When the seating position of the occupant 40 is in the sound source direction of the sound information IS, it is determined that the seating position of the occupant 40 matches the sound source of the sound information IS. Thereby, it is possible to accurately determine whether the sound source of the sound information IS collected using the sound collection microphone 4 matches the seating position of any occupant 40 detected in the passenger compartment 2.

(5)車室2内には、異なる方向を向いた複数の指向性スピーカー25(25a〜25d)を有するスピーカーアレイ25Xが設けられる。そして、選択収集出力部としてのモニタECU30は、その選択的に収集した発話者51の音声を、聞き手52となる発話者51以外の乗員40の方向を向いた指向性スピーカー25から出力する。これにより、効率よく、発話者51の音声を聞き手52となる他の乗員40に伝えることができる。   (5) In the passenger compartment 2, a speaker array 25X having a plurality of directional speakers 25 (25a to 25d) facing different directions is provided. Then, the monitor ECU 30 as the selective collection output unit outputs the selectively collected voice of the speaker 51 from the directional speaker 25 facing the occupant 40 other than the speaker 51 serving as the listener 52. Thereby, the voice of the speaker 51 can be efficiently transmitted to the other occupant 40 who becomes the listener 52.

(6)発話者音情報出力部としてのモニタECU30は、その集音マイク4を用いて収集した音情報ISに含まれる音声以外の雑音を減衰するノイズフィルタ55を備える。これにより、より明確に、発話者51の音声を聞き手52に伝えることができる。   (6) The monitor ECU 30 serving as the speaker sound information output unit includes a noise filter 55 that attenuates noise other than speech included in the sound information IS collected using the sound collection microphone 4. Thereby, the voice of the speaker 51 can be transmitted to the listener 52 more clearly.

なお、上記実施形態は以下のように変更してもよい。
・上記実施形態では、カメラ3は、集音マイク4及びスピーカー5と一体化されたモニタユニット10を構成する。そして、車室2の天井部2aにおける略中央部に配置されることとした。しかし、これに限らず、カメラ3は、必ずしも集音マイク4やスピーカー5と一体に設けられるものでなくともよく、その配置についてもまた、例えば、天井部2aの前方側や後方側、或いはセンターピラー等、任意に変更してもよい。また、必ずしも全方位カメラ23のような広角カメラを用いる構成でなくともよく、そのカメラ数もまた任意に変更してもよい。そして、集音マイク4やスピーカー5の配置や構成、及びその数についてもまた、任意に変更してもよい。
In addition, you may change the said embodiment as follows.
In the above embodiment, the camera 3 constitutes the monitor unit 10 integrated with the sound collecting microphone 4 and the speaker 5. And it decided to arrange | position to the approximate center part in the ceiling part 2a of the compartment 2. As shown in FIG. However, the present invention is not limited to this, and the camera 3 does not necessarily have to be provided integrally with the sound collecting microphone 4 and the speaker 5. You may change arbitrarily, such as a pillar. In addition, a configuration using a wide-angle camera such as the omnidirectional camera 23 is not necessarily required, and the number of cameras may be arbitrarily changed. Further, the arrangement and configuration of the sound collecting microphone 4 and the speakers 5 and the number thereof may be arbitrarily changed.

具体的には、集音マイク4にマイクアレイ24Xを用いない構成、或いはスピーカー5にスピーカーアレイ25Xを用いない構成であってもよい。例えば、互いに異なる方向を向いた複数の指向性マイク24を有するとともに、これらの各指向性マイク24がマイクアレイ24Xを形成しない状態で車室2内に配置される構成であってもよい。このような構成を採用した場合においても、各指向性マイク24の入力レベルに基づいて、その音情報ISの音源を特定することができる。そして、互いに異なる方向を向いた複数の指向性スピーカー25を有するとともに、これらの各指向性スピーカー25がスピーカーアレイ25Xを形成しない状態で車室2内に配置される構成であってもよい。   Specifically, a configuration in which the microphone array 24X is not used for the sound collection microphone 4 or a configuration in which the speaker array 25X is not used for the speaker 5 may be employed. For example, the configuration may include a plurality of directional microphones 24 facing in different directions, and the directional microphones 24 arranged in the vehicle compartment 2 without forming the microphone array 24X. Even when such a configuration is adopted, the sound source of the sound information IS can be specified based on the input level of each directional microphone 24. And while having the several directional speaker 25 which faced the mutually different direction, the structure by which these each directional speaker 25 is arrange | positioned in the compartment 2 in the state which does not form the speaker array 25X may be sufficient.

・また、必ずしも指向性マイク24や指向性スピーカー25を有しない構成であってもよい。例えば、車室2内の複数箇所に集音マイク4が設けられた構成においては、その複数の集音マイク4のうち、発話者51に特定された乗員40の近傍に配置されたものを選択して、発話者51の音声を収集する構成としてもよい。また、聞き手52となる乗員40の近傍に配置されたスピーカー5を選択して、発話者51の音声を出力する構成としてもよい。そして、選択的に収集された発話者51の音声を出力する段階においては、必ずしも、その音声出力が聞き手52となる発話者51以外の乗員40に向けたものでなくともよい。   Further, the configuration may not necessarily include the directional microphone 24 and the directional speaker 25. For example, in the configuration in which the sound collecting microphones 4 are provided at a plurality of locations in the passenger compartment 2, a sound collecting microphone 4 that is arranged near the occupant 40 specified by the speaker 51 is selected. Then, the voice of the speaker 51 may be collected. Moreover, it is good also as a structure which selects the speaker 5 arrange | positioned in the vicinity of the passenger | crew 40 used as the listener 52, and outputs the audio | voice of the speaker 51. FIG. In the stage of outputting the voice of the speaker 51 collected selectively, the voice output does not necessarily have to be directed to the passenger 40 other than the speaker 51 who becomes the listener 52.

・上記実施形態では、認証ECUが携帯機(電子キー)との無線通信により車両1に対する人の近接を検知した場合に、車室内会話支援制御に用いられる画像解析処理及び音情報解析処理が開始されることとした。しかし、これに限らず、例えば、車両1の電源投入時(IGオン)等、カメラ3や集音マイク4の起動トリガを含め、その画像解析処理及び音情報解析処理の開始タイミングは任意に設定してもよい。   In the above embodiment, when the authentication ECU detects the proximity of a person to the vehicle 1 by wireless communication with a portable device (electronic key), image analysis processing and sound information analysis processing used for in-vehicle conversation support control are started. It was decided to be done. However, the present invention is not limited to this. For example, the start timing of the image analysis processing and the sound information analysis processing is arbitrarily set including the start trigger of the camera 3 and the sound collection microphone 4 when the vehicle 1 is turned on (IG on). May be.

・上記実施形態では、集音マイク4を用いて収集した音情報ISの音源と乗員40の着座位置との一致判定後、その音情報ISが会話を示すものであるか否かの判定を実行することとした(図7参照、ステップ204,205)。しかし、これに限らず、会話判定後に、その音源と乗員40の着座位置との一致判定を行う構成としてもよい。そして、これにより、予め「会話」についてのスクリーニングをかけることで、より精度よく、会話の発話者51を特定することができる。   In the above embodiment, after determining whether the sound information IS collected using the sound collection microphone 4 matches the seating position of the occupant 40, it is determined whether or not the sound information IS indicates a conversation. (Refer to FIG. 7, steps 204 and 205). However, the present invention is not limited to this, and after the conversation determination, it is possible to determine whether the sound source matches the seating position of the occupant 40. As a result, it is possible to specify the speaker 51 of the conversation with higher accuracy by screening the “conversation” in advance.

・上記実施形態では、車室2内に設けられたカメラ3の撮影画像IPを解析することにより、車両1に乗車した乗員40の有無、及びその着座位置を検出することとした。しかし、これに限らず、車両シートに設けられた着座センサを用いて乗員検知を行う構成としてもよい。尚、着座センサの形式は、例えば、メンブレンスイッチや歪みゲージ等を用いた感圧式、静電容量式等、どのようなものであってもよい。そして、これにより、簡素な構成にて、高い演算処理能力を必要とせず、精度よく、その車室2内における乗員40の有無、及びその着座位置を検出することができる。   In the above embodiment, the presence / absence of the occupant 40 who has boarded the vehicle 1 and the seating position thereof are detected by analyzing the captured image IP of the camera 3 provided in the passenger compartment 2. However, the present invention is not limited to this, and a configuration may be adopted in which occupant detection is performed using a seating sensor provided on the vehicle seat. The seating sensor may be of any type, such as a pressure sensitive type using a membrane switch or a strain gauge, a capacitance type, etc. As a result, it is possible to accurately detect the presence / absence of the occupant 40 in the passenger compartment 2 and the seating position thereof with a simple configuration without requiring high calculation processing capability.

・上記実施形態では、音情報ISの音源が何れかの乗員40の着座位置と一致する場合に、この乗員40を会話の発話者51として特定することとしたが、発話者51の特定方向については、任意に変更してもよい。例えば、カメラ3の撮影画像IPを解析することにより、車室2内の乗員40について、その口元の動きを検出する。そして、これにより、その乗員40が会話の発話者51であるか否かを判定する等としてもよい。   In the above embodiment, when the sound source of the sound information IS matches the seating position of any occupant 40, the occupant 40 is specified as the speaker 51 of the conversation. May be arbitrarily changed. For example, the movement of the mouth of the passenger 40 in the passenger compartment 2 is detected by analyzing a captured image IP of the camera 3. Thus, it may be determined whether or not the occupant 40 is a conversation speaker 51.

・上記実施形態では、選択的に収集された発話者51の音声を車室2内に検知された聞き手52となる他の乗員40に向かって出力することとした。しかし、これに限らず、カメラ3の撮影画像IPを解析することにより、車窓20越しに車両1周辺の人検知を実行する。そして、その会話の聞き手52が車外に検知された人であると判定される場合(例えば、車室2内に検知された乗員40が一人である場合等)、この車外の聞き手52に向かって発話者51の音声を出力する構成としてもよい。   In the above embodiment, the voice of the speaker 51 that is selectively collected is output toward the other passenger 40 that becomes the listener 52 detected in the passenger compartment 2. However, the present invention is not limited to this, and human detection around the vehicle 1 is performed through the vehicle window 20 by analyzing the captured image IP of the camera 3. When it is determined that the listener 52 of the conversation is a person detected outside the vehicle (for example, when there is only one passenger 40 detected in the passenger compartment 2), the listener 52 is directed toward the listener 52 outside the vehicle. It is good also as a structure which outputs the audio | voice of the speaker 51. FIG.

例えば、上記実施形態と同様のスピーカーアレイ25Xが車室2内に設けられた構成においては、そのスピーカーアレイ25Xを形成する各指向性マイク24のうち、カメラ3の撮影画像IPに基づく人検知において、車外の人が映っていると判定された車窓20の方向を向いたものを選択して発話者51の音声を出力するとよい。そして、この場合、車室2外に設けられたスピーカー5を用いて車外の聞き手52に音声出力を行う構成であってもよい。   For example, in the configuration in which the speaker array 25X similar to that in the above embodiment is provided in the passenger compartment 2, among the directional microphones 24 that form the speaker array 25X, human detection based on the captured image IP of the camera 3 is performed. The voice of the speaker 51 may be output by selecting the one facing the direction of the vehicle window 20 that is determined to be a person outside the vehicle. In this case, the speaker 5 provided outside the vehicle compartment 2 may be used to output sound to the listener 52 outside the vehicle.

・上記実施形態では、ノイズフィルタ55を用いて雑音を減衰した状態で、その発話者51の音声を出力することとしたが、このような雑音の減衰処理は必ずしも行わなくてもよい。   In the above embodiment, the voice of the speaker 51 is output in a state where the noise is attenuated using the noise filter 55, but such noise attenuation processing is not necessarily performed.

次に、以上の実施形態から把握することのできる技術的思想を効果とともに記載する。
(イ)異なる方向を向いた複数の指向性マイクを有して前記車室内に設けられたマイクアレイを備え、前記音源特定部は、前記各指向性マイクの入力レベルに基づき前記マイクアレイが設けられた位置を基準とした前記音情報の音源方向を特定し、前記音源乗員一致判定部は、前記音情報の音源方向に前記乗員の着座位置がある場合に、該乗員の着座位置が前記音源に一致すると判定すること、を特徴とする車室内会話支援装置。これにより、精度よく、集音マイクを用いて収集した音情報の音源が車室内に検知された何れかの乗員の着座位置と一致するか否かを判定することができる。
Next, technical ideas that can be grasped from the above embodiments will be described together with effects.
(A) a microphone array provided in the vehicle interior having a plurality of directional microphones facing different directions, wherein the sound source specifying unit is provided by the microphone array based on an input level of each directional microphone; The sound source direction of the sound information with reference to the determined position is determined, and the sound source occupant match determination unit determines that the seat position of the occupant is the sound source when the occupant's seating position is in the sound source direction of the sound information. A vehicle interior conversation support device, characterized in that it is determined that the two match. Thereby, it is possible to accurately determine whether the sound source of the sound information collected using the sound collection microphone matches the seating position of any occupant detected in the passenger compartment.

(ロ)前記乗員検知部は、車室内に設けられたカメラが映す撮影画像に基づいて車室内の乗員を検知すること、を特徴とする車室内会話支援装置。これにより、その撮影画像を車両のセキュリティ制御と共用することができる。   (B) The vehicle interior conversation support device, wherein the vehicle occupant detection unit detects a vehicle occupant on the basis of an image captured by a camera provided in the vehicle interior. Thereby, the captured image can be shared with vehicle security control.

1…車両、2…車室、2a…天井部、3…カメラ(乗員検知部、発話者特定部、着座位置特定部、及び音源乗員一致判定部)、4…集音マイク(集音部、発話者特定部、音源乗員一致判定部、及び選択収集出力部)、5…スピーカー(選択収集出力部)、7…座席、7f…前部座席、7r…後部座席、7fa…右前部座席、7rb…左後部座席、10…モニタユニット、20…車窓、23…全方位カメラ、24(24a〜24d)…指向性マイク、24X…マイクアレイ、25(25a〜25d)…指向性スピーカー、25X…スピーカーアレイ、30…モニタECU(集音部、乗員検知部、会話判定部、発話者特定部、着座位置特定部、音源特定部、音源乗員一致判定部、及び選択収集出力部)、31…車室内会話支援装置、40…乗員、41…第1の乗員、42…第2の乗員、51…発話者、52…聞き手、55…ノイズフィルタ、IP…撮影画像、IS,IST…音情報。   DESCRIPTION OF SYMBOLS 1 ... Vehicle, 2 ... Car compartment, 2a ... Ceiling part, 3 ... Camera (occupant detection part, speaker identification part, seating position identification part, and sound source occupant coincidence determination part), 4 ... Sound collection microphone (sound collection part, Speaker identification unit, sound source occupant match determination unit, and selection collection output unit), 5 ... Speaker (selection collection output unit), 7 ... Seat, 7f ... Front seat, 7r ... Rear seat, 7fa ... Right front seat, 7rb ... left rear seat, 10 ... monitor unit, 20 ... car window, 23 ... omnidirectional camera, 24 (24a-24d) ... directional microphone, 24X ... microphone array, 25 (25a-25d) ... directional speaker, 25X ... speaker Array, 30 ... monitor ECU (sound collecting unit, occupant detection unit, conversation determination unit, speaker identification unit, seating position identification unit, sound source identification unit, sound source occupant coincidence determination unit, and selective collection output unit), 31 ... vehicle interior Conversation support device, 40 ... Crew, 1 ... first occupant, 42 ... second passenger, 51 ... speaker, 52 ... listener, 55 ... noise filter, IP ... captured image, IS, IST ... sound information.

Claims (5)

車室内の音情報を収集する集音部と、
前記車室内の乗員を検知する乗員検知部と、
前記音情報が前記車室内に検知された乗員の会話を示すものであるか否かを判定する会話判定部と、
前記音情報が前記乗員の会話を示すものである場合に該会話の発話者を特定する発話者特定部と、
前記発話者の音声を選択的に収集して出力する選択収集出力部と、
を備える車室内会話支援装置。
A sound collection unit that collects sound information in the passenger compartment;
An occupant detection unit for detecting an occupant in the vehicle interior;
A conversation determination unit that determines whether or not the sound information indicates a conversation of an occupant detected in the vehicle interior;
A speaker identifying unit that identifies a speaker of the conversation when the sound information indicates the conversation of the occupant;
A selective collection output unit for selectively collecting and outputting the voice of the speaker;
A vehicle interior conversation support device.
請求項1に記載の車室内会話支援装置において、
前記車室内における前記乗員の着座位置を特定する着座位置特定部と、
前記音情報の音源を特定する音源特定部と、
前記音情報の音源が前記車室内に検知された何れかの乗員の前記着座位置と一致するか否かを判定する音源乗員一致判定部と、を備え、
前記発話者特定部は、前記音情報の音源が前記何れかの乗員の着座位置と一致する場合に、該乗員を前記会話の発話者として特定すること、を特徴とする車室内会話支援装置。
The in-vehicle conversation support device according to claim 1,
A seating position specifying unit for specifying the seating position of the occupant in the passenger compartment;
A sound source identifying unit that identifies a sound source of the sound information;
A sound source occupant match determination unit that determines whether the sound source of the sound information matches the seating position of any occupant detected in the vehicle interior;
The in-vehicle conversation support device, wherein the speaker specifying unit specifies the occupant as the speaker of the conversation when a sound source of the sound information matches a seating position of any of the occupants.
請求項1又は請求項2に記載の車室内会話支援装置において、
互いに異なる方向を向いた状態で前記車室内に設けられた複数の指向性マイクを備え、
前記選択収集出力部は、前記発話者の方向を向いた前記指向性マイクを選択して前記発話者の音声を収集すること、を特徴とする車室内会話支援装置。
In the vehicle interior conversation support device according to claim 1 or 2,
A plurality of directional microphones provided in the vehicle interior in directions different from each other,
The in-vehicle conversation support apparatus, wherein the selection collection output unit collects the voice of the speaker by selecting the directional microphone facing the speaker.
請求項1〜請求項3の何れか一項に記載の車室内会話支援装置において、
互いに異なる方向を向いた状態で前記車室内に設けられた複数の指向性スピーカーを備え、
前記選択収集出力部は、前記選択的に収集した前記発話者の音声を、前記車室内に検知された前記発話者以外の乗員の方向を向いた前記指向性スピーカーから出力すること、
を特徴とする車室内会話支援装置。
In the vehicle interior conversation support device according to any one of claims 1 to 3,
A plurality of directional speakers provided in the vehicle interior in directions different from each other,
The selective collection output unit outputs the selectively collected voice of the speaker from the directional speaker facing a passenger other than the speaker detected in the vehicle interior;
A vehicle interior conversation support device.
請求項1〜請求項4の何れか一項に記載の車室内会話支援装置において、
前記音情報に含まれる音声以外の雑音を減衰するノイズフィルタを備えること、
を特徴とする車室内会話支援装置。
In the vehicle interior conversation support device according to any one of claims 1 to 4,
Comprising a noise filter for attenuating noise other than speech contained in the sound information;
A vehicle interior conversation support device.
JP2016083134A 2016-04-18 2016-04-18 In-cabin conversation support device Pending JP2017193207A (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016083134A JP2017193207A (en) 2016-04-18 2016-04-18 In-cabin conversation support device
PCT/JP2017/010774 WO2017183372A1 (en) 2016-04-18 2017-03-16 Vehicle interior conversion assist device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016083134A JP2017193207A (en) 2016-04-18 2016-04-18 In-cabin conversation support device

Publications (1)

Publication Number Publication Date
JP2017193207A true JP2017193207A (en) 2017-10-26

Family

ID=60116026

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016083134A Pending JP2017193207A (en) 2016-04-18 2016-04-18 In-cabin conversation support device

Country Status (2)

Country Link
JP (1) JP2017193207A (en)
WO (1) WO2017183372A1 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019121970A (en) * 2018-01-09 2019-07-22 トヨタ自動車株式会社 Interactive device
JP2019123354A (en) * 2018-01-16 2019-07-25 株式会社デンソー Occupant detection device
JP2020030776A (en) * 2018-08-24 2020-02-27 Zホールディングス株式会社 Information processor, method for processing information, and information processing program
US10805730B2 (en) 2018-09-14 2020-10-13 Toyota Jidosha Kabushiki Kaisha Sound input/output device for vehicle
JP2021009234A (en) * 2019-07-02 2021-01-28 トヨタ車体株式会社 In-vehicle conversation support device
JPWO2021038736A1 (en) * 2019-08-28 2021-03-04

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11778370B2 (en) * 2020-12-07 2023-10-03 Gulfstream Aerospace Corporation Microphone array onboard aircraft to determine crew/passenger location and to steer a transducer beam pattern to that location
CN115691490A (en) * 2022-10-09 2023-02-03 蔚来汽车科技(安徽)有限公司 Method for dynamically switching sound zone, voice interaction method, equipment, medium and vehicle

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02312349A (en) * 1989-05-26 1990-12-27 Fujitsu Ten Ltd Intra-vehicle speech device
JP3411648B2 (en) * 1993-12-20 2003-06-03 アルパイン株式会社 Automotive audio equipment
JP2005217807A (en) * 2004-01-30 2005-08-11 Citizen Watch Co Ltd On-vehicle speaker system
JP2010023639A (en) * 2008-07-18 2010-02-04 Kenwood Corp In-cabin conversation assisting device

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019121970A (en) * 2018-01-09 2019-07-22 トヨタ自動車株式会社 Interactive device
JP2019123354A (en) * 2018-01-16 2019-07-25 株式会社デンソー Occupant detection device
WO2019142558A1 (en) * 2018-01-16 2019-07-25 株式会社デンソー Occupant detection device
JP2020030776A (en) * 2018-08-24 2020-02-27 Zホールディングス株式会社 Information processor, method for processing information, and information processing program
JP7405502B2 (en) 2018-08-24 2023-12-26 Lineヤフー株式会社 Information processing device, information processing method, and information processing program
US10805730B2 (en) 2018-09-14 2020-10-13 Toyota Jidosha Kabushiki Kaisha Sound input/output device for vehicle
JP2021009234A (en) * 2019-07-02 2021-01-28 トヨタ車体株式会社 In-vehicle conversation support device
JP7163876B2 (en) 2019-07-02 2022-11-01 トヨタ車体株式会社 In-vehicle conversation support device
JPWO2021038736A1 (en) * 2019-08-28 2021-03-04
WO2021038736A1 (en) * 2019-08-28 2021-03-04 三菱電機株式会社 Sound field control device and sound field control method
JP6995254B2 (en) 2019-08-28 2022-01-14 三菱電機株式会社 Sound field control device and sound field control method
DE112019007580B4 (en) 2019-08-28 2023-06-07 Mitsubishi Electric Corporation Sound field control device and sound field control method

Also Published As

Publication number Publication date
WO2017183372A1 (en) 2017-10-26

Similar Documents

Publication Publication Date Title
WO2017183372A1 (en) Vehicle interior conversion assist device
CN105835804B (en) For monitoring the method and apparatus that vehicle back occupant takes a seat region
JP2003308079A (en) Voice input device
US20190251973A1 (en) Speech providing method, speech providing system and server
US20190037363A1 (en) Vehicle based acoustic zoning system for smartphones
CN106611602A (en) Vehicle sound collection apparatus and sound collection method
JP4145835B2 (en) In-vehicle electronic control unit
JP2015071320A (en) Conversation support device, conversation support method, and conversation support program
WO2018167949A1 (en) In-car call control device, in-car call system and in-car call control method
JP2018027731A (en) On-vehicle device, control method of on-vehicle device, and content providing system
JP2007216920A (en) Seat controller for automobile, seat control program and on-vehicle navigation device
JP2010023639A (en) In-cabin conversation assisting device
CN108621981A (en) Speech recognition system based on seat and its recognition methods
EP3618465B1 (en) Vehicle communication system and method of operating vehicle communication systems
JP4232617B2 (en) Vehicle interior sound field control system
JP2004354930A (en) Speech recognition system
JP5687889B2 (en) Vehicle interior monitoring device
TW201515879A (en) Car and voice controlling system thereof
JP4478146B2 (en) Speech recognition system, speech recognition method and program thereof
JP7065964B2 (en) Sound field control device and sound field control method
JP2017182511A (en) Security device for vehicle
JP7163876B2 (en) In-vehicle conversation support device
JP2007043356A (en) Device and method for automatic sound volume control
JP2020066339A (en) Information processing device and information processing method
JP6332072B2 (en) Dialogue device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191001

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200407