JP2008042390A - In-vehicle conversation support system - Google Patents

In-vehicle conversation support system Download PDF

Info

Publication number
JP2008042390A
JP2008042390A JP2006212078A JP2006212078A JP2008042390A JP 2008042390 A JP2008042390 A JP 2008042390A JP 2006212078 A JP2006212078 A JP 2006212078A JP 2006212078 A JP2006212078 A JP 2006212078A JP 2008042390 A JP2008042390 A JP 2008042390A
Authority
JP
Japan
Prior art keywords
vehicle
speaker
support system
image
conversation support
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006212078A
Other languages
Japanese (ja)
Inventor
Yoichi Takebayashi
洋一 竹林
Fukuji Kawakami
福司 川上
Nobuyuki Tamori
信行 田森
Shinya Kiriyama
伸也 桐山
Nozomi Saito
望 齋藤
Mitsuaki Watanabe
光章 渡邉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shizuoka University NUC
Alpine Electronics Inc
Original Assignee
Shizuoka University NUC
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shizuoka University NUC, Alpine Electronics Inc filed Critical Shizuoka University NUC
Priority to JP2006212078A priority Critical patent/JP2008042390A/en
Publication of JP2008042390A publication Critical patent/JP2008042390A/en
Pending legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide an in-vehicle conversation support system for allowing crews to share a comfortable conversion environment, when vehicle is moving. <P>SOLUTION: The in-vehicle conversation support system supports an in-vehicle conversation in an in-vehicle environment, where a speaker listens voice issued from another speaker and amplified voice from a loudspeaker. The system includes a plurality of individual microphones or a common microphone arranged in the vehicle; a common loudspeaker or a plurality of individual loudspeakers arranged in the vehicle; and an acoustic processing part where a correcting part, having a filter part for preventing howling and a delay part for a precedence sound effect, and an adjusting part are arranged, and the output of the individual microphones or the common microphone are corrected by the correcting part, amplified by the adjusting part, and connected to the common loudspeaker or the individual loudspeakers. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、話者が他の話者が発した生音(直接音)とスピーカからの拡声音を聴取する車内環境での車内会話支援システム、さらに他のコンテンツの音声を聴取しながら会話を可能にする車内会話支援システムに関する。   The present invention enables in-vehicle conversation support system in a vehicle environment in which a speaker listens to a live sound (direct sound) produced by another speaker and a loud sound from a speaker, and further enables conversation while listening to the sound of other contents. The present invention relates to an in-car conversation support system.

複数乗員によるツーリングの楽しみを高揚させるもののひとつとして快適な会話環境が挙げられる。
ところが、停車時に対して車の走行時にはエンジン音やタイヤノイズ、或いは車外からの騒音のため、車内会話が阻害され快適な会話環境を維持することが困難になる。
特に、大型のレクレーションヴィークル(RV)や乗員に高齢者が含まれる場合などは、各乗員同志の距離が大きくなりかつ(高齢者に特有の)感音性の難聴なども加わり騒音と会話を区別する「聞き分け」が困難になる。
これを改善するには、走行中の騒音の大きさとスペクトルに応じて、最も効果的に車内会話音を拡声制御し、収音した会話音をハウリングすることなく安定に増幅する必要がある。
One of the things that enhances the enjoyment of touring by multiple passengers is a comfortable conversation environment.
However, engine noise, tire noise, or noise from the outside of the vehicle when the vehicle is running as compared to when the vehicle is stopped makes it difficult to maintain a comfortable conversation environment because the in-car conversation is hindered.
In particular, when a large recreational vehicle (RV) or an occupant includes an elderly person, the distance between the occupants increases, and a sensory deafness (specific to the elderly person) is also added to distinguish between noise and conversation. It becomes difficult to “distinguish”.
In order to improve this, it is necessary to effectively amplify the in-vehicle conversation sound according to the magnitude and spectrum of the running noise, and to stably amplify the collected conversation sound without howling.

この車内会話環境の改善または、その改善のために必要な技術について数多くの提案がなされている。
特許文献1記載の車室内会話補助装置に係る発明は、スピーカとマイクを同一平面上に配設した車室内会話補助用ルーフモジュールを開示しており、スピーカによる機械的な振動が、マイクロホン(以下マイク)に伝わらない構造を提供している。
特許文献2記載の車内会話補助装置の発明は、話者ごと(つまり座席ごとに)マイクを設け種々の調整をすることを開示している。
特許文献3記載の車載用音響装置の発明は、ハウリングを考慮したマイクとスピーカの配置を提案している。
特許文献4記載の音響システムの発明は、ハウリング防止のための音響空間内(非平面上)のマイクとスピーカの配置を開示している。
特許文献5記載の音場制御装置の発明はFIRフィルタを用いてスピーカからマイクへのフィードバック分を除去し、ハウリングを防止する発明を示している。
Many proposals have been made on the improvement of the in-car conversation environment or the technology necessary for the improvement.
The invention relating to the in-vehicle conversation assistance device described in Patent Document 1 discloses a roof module for in-vehicle conversation assistance in which a speaker and a microphone are arranged on the same plane. A structure that is not transmitted to the microphone) is provided.
The invention of the in-vehicle conversation assisting device described in Patent Literature 2 discloses that a microphone is provided for each speaker (that is, for each seat) and various adjustments are made.
The invention of the in-vehicle audio device described in Patent Document 3 proposes an arrangement of a microphone and a speaker in consideration of howling.
The invention of the acoustic system described in Patent Document 4 discloses the arrangement of microphones and speakers in an acoustic space (non-planar) for preventing howling.
The invention of the sound field control device described in Patent Document 5 shows an invention in which feedback from a speaker to a microphone is removed using a FIR filter to prevent howling.

本発明に係る車内会話支援システムは前記特許文献2記載の発明と車内環境に共通点が多いから、特許文献2記載の発明についてやや詳しく説明する。特許文献2記載の発明は、騒音下や音楽等の再生中であっても、乗員同士の会話音声を明瞭に聴き取れるように配慮したものである点で優れている。座席ごとに設置された複数のマイクで集音した車内音をオーディオ音や騒音のレベルに応じてゲイン補正し車内に拡声するものである。マイクで収音した信号から会話音を分離し、また、マイク毎の入力レベルの大小から発声者の席を判断し発声者の席の方向から聞こえるようにスピーカチャネル毎に会話音声の出力レベルを制御し、オーディオ音と合成して各スピーカなどから出力するようになっている。   Since the in-vehicle conversation support system according to the present invention has much in common with the invention described in Patent Document 2 and the in-vehicle environment, the invention described in Patent Document 2 will be described in some detail. The invention described in Patent Document 2 is excellent in that it is designed so that conversational voices between passengers can be heard clearly even under noisy or playing music. The in-vehicle sound collected by a plurality of microphones installed for each seat is gain-corrected according to the level of audio sound and noise, and is amplified in the vehicle. The conversation sound is separated from the signal picked up by the microphone, and the conversation voice output level is set for each speaker channel so that the speaker's seat can be judged from the input level of each microphone and the sound can be heard from the direction of the speaker's seat. It is controlled and synthesized with audio sound and output from each speaker.

しかしながら、次の問題が予想される。
(ア)スピーカから拡声出力された発話者の音声が再度マイクに帰還し、拡声しようとするとハウリングを発生する可能性がある。
(イ)ハウリングを回避すべく系の周波数特性(マイク−スピーカを含む拡声系のループゲイン)を平坦化すると、残響延長が起こり、結局会話の明瞭度を阻害することになるおそれがある。
(ウ)会話のレベルに応じてオーディオ音のレベルを変えることになるので、受聴感としては違和感が発生する可能性がある。
(エ)発声者の位置のスピーカのゲインを上げることになるので、自チャンネルのマイクに大きな帰還音が入り、ますますハウリングしやすくなる(これを阻止するため、最も遠いシートのスピーカのゲインを上げると、今度は音像定位が発声者位置からはずれ不自然な拡声音となる)可能性がある。
(オ)車内騒音を車内マイクにより収音するので、会話音と混ざり分離が困難になったり、スピーカとの間に新たな帰還ループを形成してハウリングを助長する可能性がある。
特開2001−105989号公報 特開2002−051392号公報 特開平07−255099号公報 特開2006−109340号公報 特許第3158468号公報
However, the following problems are expected.
(A) The voice of the speaker that is loudly output from the speaker returns to the microphone again, and there is a possibility that howling will occur if the voice is loudened.
(A) If the frequency characteristic of the system (loop gain of a loudspeaker system including a microphone-speaker) is flattened so as to avoid howling, reverberation may occur and eventually the clarity of the conversation may be hindered.
(C) Since the level of the audio sound is changed according to the level of conversation, there is a possibility that a sense of incongruity may occur as a listening feeling.
(D) Since the gain of the speaker at the speaker's position is increased, a large feedback sound enters the microphone of the own channel, and it becomes easier to perform howling (in order to prevent this, the gain of the speaker of the farthest seat is increased) If this is raised, the sound image localization may be out of the position of the speaker and become an unnatural loud sound.
(E) Since vehicle interior noise is picked up by the vehicle interior microphone, it may be mixed with conversational sound and difficult to separate, or a new feedback loop may be formed between the speakers and howling may be facilitated.
JP 2001-105989 A Japanese Patent Application Laid-Open No. 2002-05392 Japanese Patent Laid-Open No. 07-255099 JP 2006-109340 A Japanese Patent No. 3158468

本発明の目的は、車内に配置されるマイクとスピーカにより走行時においても停車時と同等の会話明瞭度/了解度を提供することができる車内会話支援システムを提供することにある。
本発明のさらに他の目的は、本システム以外の他の装置との組み合わせにおいて増幅器とスピーカの共用により車載設備を節約することができ、他の装置との音声信号の接続性を容易にすることができる車内会話支援システムを提供することにある。
本発明のさらに他の目的は、車外・車内を撮像するカメラ画像と前記マイクにより得られる車内音声とを同時に記録再生できる車内会話支援システムを提供することにある。
本発明のさらに他の目的は、車外・車内を撮像するカメラ画像の特定部分を指示して画像処理させることができる車内会話支援システムを提供することにある。
本発明のさらに他の目的は、カメラ画像や音声の記録/再生中に画像や音声の付加情報として時間軸方向にタグ付けできる機能を持つことにより、見聞きしたい箇所を検索し、検索した位置から再生可能である車内会話支援システムを提供することにある。
本発明のさらに他の目的は、乗車席ごとに限定されたスイッチや特定の言葉の音声認識によるタグ検索ができ、乗車席ごとの表示装置で見ることのできる車内会話支援システムを提供することにある。
An object of the present invention is to provide an in-vehicle conversation support system that can provide a conversational clarity / intelligibility equivalent to that when the vehicle is stopped even when traveling by a microphone and a speaker disposed in the vehicle.
Still another object of the present invention is to save on-vehicle equipment by sharing an amplifier and a speaker in combination with other devices other than the present system, and facilitate connectivity of audio signals with other devices. It is to provide an in-car conversation support system.
Still another object of the present invention is to provide an in-vehicle conversation support system capable of simultaneously recording and reproducing a camera image for imaging outside / inside the vehicle and in-vehicle sound obtained by the microphone.
Still another object of the present invention is to provide an in-car conversation support system capable of instructing a specific part of a camera image for imaging outside / inside the vehicle and performing image processing.
Still another object of the present invention is to have a function of tagging in the time axis direction as additional information of images and sounds during recording / playback of camera images and sounds. The object is to provide an in-car conversation support system that is reproducible.
Still another object of the present invention is to provide an in-vehicle conversation support system that can search a tag by voice recognition of a switch or a specific word limited to each passenger seat and can be viewed on a display device for each passenger seat. is there.

前記目的を達成するために、本発明による請求項1記載の車内会話支援システムは、
話者が他の話者が発した生音とスピーカからの拡声音を聴取する車内環境での車内会話支援システムであって、
車内に配置される複数の個別マイクまたは共通マイクと、
車内に配置される共通スピーカまたは複数の個別スピーカと、
ハウリング防止用のフィルタ部と先行音効果用の遅延部からなる補正部および調整部を含み、前記個別マイクまたは共通マイクの出力を補正部により補正し、前記調整部で増幅して前記共通スピーカまたは個別スピーカに接続する音響処理部と、から構成されている。
In order to achieve the object, an in-car conversation support system according to claim 1 according to the present invention comprises:
An in-car conversation support system in an in-car environment where a speaker listens to live sound from other speakers and loud sound from a speaker,
A plurality of individual microphones or common microphones arranged in the vehicle;
A common speaker or a plurality of individual speakers arranged in the vehicle;
A correction unit including a filter unit for preventing howling and a delay unit for effect of preceding sound, and an adjustment unit, wherein the output of the individual microphone or the common microphone is corrected by the correction unit and amplified by the adjustment unit, and the common speaker or And an acoustic processing unit connected to the individual speakers.

本発明による請求項2記載の車内会話支援システムは、
話者が他の話者が発した生音とスピーカからの拡声音を聴取する車内環境での車内会話支援システムであって、
車内に話者ごとに配置される複数の車内マイクと、
車内に各話者共通に設けられた共通スピーカと、
ハウリング防止用のフィルタ部と先行音効果用の遅延部からなる補正部および調整部を含み、前記車内マイクの出力を補正部により補正し、前記調整部で増幅して前記共通スピーカに接続する音響処理部と、から構成されている。
The in-vehicle conversation support system according to claim 2 according to the present invention comprises:
An in-car conversation support system in an in-car environment where a speaker listens to live sound from other speakers and loud sound from a speaker,
A plurality of in-car microphones arranged for each speaker in the car,
A common speaker installed in the car for each speaker,
A sound that includes a correction unit and an adjustment unit including a filter unit for preventing howling and a delay unit for preceding sound effect, corrects the output of the in-vehicle microphone by the correction unit, amplifies the adjustment unit, and connects to the common speaker And a processing unit.

本発明による請求項3記載の車内会話支援システムは、
話者が他の話者が発した生音とスピーカからの拡声音を聴取する車内環境での車内会話支援システムであって、
車内に配置される複数の個別スピーカと、
車内に各話者に共通に設けられた共通マイクと、
ハウリング防止用のフィルタ部と先行音効果用の遅延部からなる補正部および調整部を含み、前記共通マイクの出力を補正部により補正し、前記調整部で増幅して前記個別スピーカに接続する音響処理部と、から構成されている。
The in-car conversation support system according to claim 3 according to the present invention comprises:
An in-car conversation support system in an in-car environment where a speaker listens to live sound from other speakers and loud sound from a speaker,
A plurality of individual speakers arranged in the vehicle;
A common microphone that is shared by each speaker in the car,
A sound that includes a correction unit and an adjustment unit including a filter unit for preventing howling and a delay unit for the preceding sound effect, and corrects the output of the common microphone by the correction unit, and amplifies and adjusts the output from the adjustment unit to the individual speaker. And a processing unit.

本発明による請求項4記載の車内会話支援システムは、請求項2記載のシステムにおいて、
前記共通スピーカは車内の天井に配置された天井スピーカであり、
前記複数の個別マイクは話者の座席に関連して配置された車内マイクであり、
前記ハウリング防止用のフィルタ部のフィルタは前記天井スピーカを囲む閉曲面上の点と前記任意の車内マイク間の音響伝達特性を持つFIR 、あるいはIIR フィルタであり、
前記フィルタ部は前記音響処理部内の帰還キャンセルループに配置されている。
本発明による請求項5記載の車内会話支援システムは、請求項3記載のシステムにおいて、
前記共通マイクは車内の天井に配置された天井マイクであり、
前記複数の個別スピーカは話者の座席に関連して配置された車内スピーカであり、
前記ハウリング防止用のフィルタ部のフィルタは前記天井マイクを囲む閉曲面上の点と前記任意の車内スピーカ間の音響伝達特性を持つFIR 、あるいはIIR フィルタであり、
前記マイク出力はフィルタされて各車内スピーカチャンネルごとに加算される。
本発明による請求項6記載の車内会話支援システムは、請求項4または5記載のシステムにおいて、
前記音響処理部のフィルタの特性は、前記個別マイクまたは個別スピーカと対応閉曲面上の点間の音響伝達特性、またはインパルス応答の実測値に基づいてパラメータ設定部により予め設定したものである。
The in-vehicle conversation support system according to claim 4 according to the present invention is the system according to claim 2,
The common speaker is a ceiling speaker arranged on a ceiling in a vehicle,
The plurality of individual microphones are in-vehicle microphones arranged in relation to a speaker's seat,
The filter of the filter unit for preventing howling is a FIR having an acoustic transfer characteristic between a point on a closed curved surface surrounding the ceiling speaker and the arbitrary in-vehicle microphone, or an IIR filter,
The filter unit is arranged in a feedback cancellation loop in the acoustic processing unit.
The in-vehicle conversation support system according to claim 5 of the present invention is the system according to claim 3,
The common microphone is a ceiling microphone arranged on the ceiling in the vehicle,
The plurality of individual speakers are in-vehicle speakers arranged in relation to a speaker's seat;
The filter of the filter unit for preventing howling is a FIR having a sound transfer characteristic between a point on a closed curved surface surrounding the ceiling microphone and the arbitrary speaker in the vehicle, or an IIR filter,
The microphone output is filtered and added for each in-vehicle speaker channel.
The in-car conversation support system according to claim 6 of the present invention is the system according to claim 4 or 5,
The filter characteristics of the acoustic processing unit are set in advance by a parameter setting unit based on acoustic transmission characteristics between the individual microphones or individual speakers and points on the corresponding closed curved surface, or measured values of impulse responses.

本発明による請求項7記載の車内会話支援システムは、請求項1〜6記載のシステムにおいて、さらに
車外マイクまたは運転制御用の車載コンピュータのデータに基づいて運転環境を検出または推定する走行状態検出部を含み、
前記検出部により前記音響処理部の調整部を制御するように構成されている。
本発明による請求項8記載の車内会話支援システムは、請求項1〜7記載の車内会話支援システムにおいて、さらに
前記音響処理部の調整部の増幅器に音声信号を入力する音声信号入力端子を設け、前記システムの外部の音声信号を接続可能に構成してある。
本システムと他の装置(例えば車載ステレオ装置)との組み合わせにおいて増幅器とスピーカの共用により車載設備を節約することができ、他の装置との音声信号の接続性を容易にすることができる。さらに、マイクアンプの出力端子を設けることにより、本システム以外の他の装置(例えば音声信号の記録再生可能な装置)との音声信号の接続性をより容易にすることができる。また、通信装置の音声信号の入力と出力を本システムのマイクアンプ出力端子と音声信号入力端子のそれぞれに接続することで、同行車両の乗員同士間の車内会話支援を容易に可能とすることができる。
The in-car conversation support system according to claim 7 of the present invention is the system according to any one of claims 1 to 6, further comprising a running state detection unit for detecting or estimating a driving environment based on data from a microphone outside the vehicle or an in-vehicle computer for driving control. Including
The detection unit is configured to control the adjustment unit of the acoustic processing unit.
The in-car conversation support system according to claim 8 of the present invention is the in-car conversation support system according to claims 1 to 7, further comprising an audio signal input terminal for inputting an audio signal to the amplifier of the adjustment unit of the acoustic processing unit, An audio signal external to the system can be connected.
In the combination of this system and another device (for example, a vehicle-mounted stereo device), the on-vehicle equipment can be saved by sharing the amplifier and the speaker, and the connectivity of audio signals with other devices can be facilitated. Furthermore, by providing the output terminal of the microphone amplifier, the connectivity of the audio signal with other devices (for example, a device capable of recording / reproducing the audio signal) other than this system can be made easier. In addition, by connecting the audio signal input and output of the communication device to the microphone amplifier output terminal and the audio signal input terminal of the system, it is possible to easily support in-car conversation between passengers of the accompanying vehicle. it can.

本発明による請求項9記載の車内会話支援システムは、請求項1〜8記載のシステムにおいて、さらに
車外の全方位画像と車内の画像を獲得する2以上のカメラと、
前記マイクの出力と前記カメラの出力と関連音声信号を同時に記録再生可能である記録再生装置と、
前記記録再生装置の記録/再生選択する指示手段と、
前記記録再生装置の画像出力を表示する複数の表示装置と、
を付加した構成からなり、
前記関連音声信号は直接または再生後に前記音声信号入力端子に接続されるように構成されている。
関連音声信号は、本システムの外部より入力される会話中やカメラの画像取得中に関連した音声帯域の信号である。
本発明による請求項10記載の車内会話支援システムは、請求項9記載のシステムにおいて、さらに
前記カメラの画像処理を行う画像処理装置と、
前記カメラ画像のどの部分を切り出し画像処理させるかを指示する指示手段と、
画像処理前/後の画像表示を選択する画像選択手段と、
を設けて構成されている。
本発明による請求項11記載の車内会話支援システムは、請求項9または10記載のシステムにおいて、さらに
前記記録再生装置は、記録/再生中に画像や音声の付加情報として時間軸方向にタグ付けできる機能を持ち、さらに記録されたタグを時間軸方向に対して検索できる機能を持ち、
さらに検索したタグ位置からの再生が可能である機能を持ち、
前記記録再生装置にタグ付けを指示したり記録したタグの検索を指示するタグ付け検索指示手段と、を設けて構成されている。
本システムにおけるタグとは、画像・音声に関連した付加情報のことであり、画像・音声と同様に時間軸方向に記録・再生が可能である。また、タグ付けとは、指示されたタグを記録することである。
The in-car conversation support system according to claim 9 of the present invention is the system according to claims 1 to 8, further comprising two or more cameras for acquiring an omnidirectional image outside the car and an image inside the car,
A recording / reproducing apparatus capable of simultaneously recording and reproducing the output of the microphone, the output of the camera, and a related audio signal;
Instruction means for selecting recording / reproduction of the recording / reproducing apparatus;
A plurality of display devices for displaying the image output of the recording / reproducing device;
It is composed of
The related audio signal is configured to be connected to the audio signal input terminal directly or after reproduction.
The related audio signal is a signal in an audio band related during a conversation or camera image acquisition input from the outside of the system.
The in-vehicle conversation support system according to claim 10 according to the present invention is the system according to claim 9, further comprising an image processing device that performs image processing of the camera,
Instruction means for instructing which part of the camera image is to be cut out and processed;
Image selection means for selecting image display before / after image processing;
Is provided.
The in-vehicle conversation support system according to claim 11 according to the present invention is the system according to claim 9 or 10, wherein the recording / reproducing apparatus can tag in the time axis direction as additional information of an image or sound during recording / reproduction. It has a function and has a function that can search the recorded tag in the time axis direction,
Furthermore, it has a function that allows playback from the searched tag position,
Tagging search instructing means for instructing the recording / reproducing apparatus to instruct tagging or instructing to search for a recorded tag is provided.
A tag in this system is additional information related to an image / sound, and can be recorded / reproduced in the time axis direction in the same way as an image / sound. Tagging is recording an instructed tag.

本発明による請求項12記載の車内会話支援システムは、請求項11記載のシステムにおいて、
前記タグ付け検索指示手段は、限定された複数個の専用スイッチであるか特定の言葉を認識する音声認識装置であり、乗車席ごとに設けられ、
前記表示装置は、乗車席ごとに設けられるように構成されている。
本発明による請求項13記載の車内会話支援システムは、請求項9から12のいずれか記載のシステムにおいて、さらに
専用の指示手段の指示により、指示のあった時間以前に記録・再生した画像・音声を
時間遅延させて特定の一定時間範囲で再生できる(特定時間の巻き戻し再生)機能を持つように構成されている。
本発明による請求項14記載の車内会話支援システムは、請求項9から13のいずれか記載のシステムにおいて、さらに
画像を選択する指示手段と、
前記記録再生装置の音声・画像出力から選択した複数の画像を分割表示用の画像に合成変換する画像合成変換装置と、を付加した構成からなる。
The in-car conversation support system according to claim 12 of the present invention is the system according to claim 11,
The tagging search instruction means is a voice recognition device that recognizes a specific word or a plurality of limited dedicated switches, provided for each passenger seat,
The display device is configured to be provided for each passenger seat.
According to a thirteenth aspect of the present invention, there is provided an in-car conversation support system according to any one of the ninth to twelfth aspects of the present invention, in which an image / sound is recorded / reproduced before the time when the instruction is given by an instruction from a dedicated instruction means. It is configured to have a function that can be played back in a specific time range with a time delay (rewind playback at a specific time).
The in-vehicle conversation support system according to claim 14 according to the present invention is the system according to any one of claims 9 to 13, further comprising instruction means for selecting an image,
And an image composition conversion device for synthesizing and converting a plurality of images selected from the audio / image output of the recording / reproducing device into images for divided display.

本発明によれば、車内の空間における騒音の発生を予想し音響処理部で自動調整することにより、拡声音・及び再生音の音質やレベルを常に快適、かつ最適に保つことができる。さらに、スピーカからマイクへの帰還自体を除去、或いは低減するので、ハウリングを防止して安定な拡声が可能になるほか、残響延長により音声の明瞭度が阻害されることも無い。また、拡声系への遅延の挿入により全ての席で生音が先行するため、複数話者の同時発声においても全ての乗員位置で発話者の定位を明確に維持することができる。車内におけるカーステレオやBGMの再生音を上記の騒音として処理すれば、BGM等の共同聴取下でも快適な会話が可能となる。
さらに、本システムの外部の音声信号を入力する端子を設けることで、本システムと他の装置とにおいて音声信号用の電力増幅器とスピーカとを共用することができ、車載設備を節約することができる。また、音声信号接続を容易にすることができる。
さらに、前記マイクにより得られる車内音声と車外・車内のカメラ画像とを同時に記録再生できることにより、ツーリング時などのコンテンツ作成用の音声・画像情報ソースとして活用できる車内会話支援システムを提供することができる。また、超広角カメラ、全周囲カメラ、広ダイナミックレンジカメラを含むカメラ画像の特定部分をひずみ補正、透視投影変換、ダイナミックレンジ圧縮などの画像処理を行い、違和感の無い画像を表示することができる車内会話支援システムを提供することができる。
さらに、時間軸方向にタグ付け検索機能を持つことにより、見聞きしたい箇所の検索とその位置からの再生により画像・会話の確認ができる車内会話支援システムを提供することができる。
さらに、乗車席ごとに設けられたタグ検索手段と表示装置により、目の前で画像を確認でき、情報を共有して会話を楽しむことができる。
According to the present invention, the sound quality and level of the loud sound and the reproduced sound can always be maintained comfortably and optimally by predicting the occurrence of noise in the vehicle interior and automatically adjusting the sound processing unit. Furthermore, since the feedback from the speaker to the microphone itself is removed or reduced, howling is prevented and stable sound amplification is possible, and speech intelligibility is not hindered by reverberation extension. Moreover, since the raw sound is preceded at all seats by inserting a delay into the loudspeaker system, the localization of the speaker can be clearly maintained at all the occupant positions even in the simultaneous utterance of a plurality of speakers. If the reproduction sound of a car stereo or BGM in the vehicle is processed as the above-mentioned noise, a comfortable conversation is possible even under joint listening such as BGM.
Furthermore, by providing a terminal for inputting an audio signal outside the system, the power amplifier and the speaker for the audio signal can be shared between the system and other devices, and in-vehicle equipment can be saved. . Also, the audio signal connection can be facilitated.
Furthermore, by enabling simultaneous recording and reproduction of the in-vehicle sound obtained from the microphone and the camera images inside and outside the vehicle, it is possible to provide an in-car conversation support system that can be used as a sound / image information source for content creation during touring. . Car interiors that can display images without a sense of incongruity by performing image processing such as distortion correction, perspective projection conversion, and dynamic range compression on specific parts of camera images, including ultra-wide-angle cameras, omnidirectional cameras, and wide dynamic range cameras A conversation support system can be provided.
Furthermore, by providing a tagging search function in the time axis direction, it is possible to provide an in-car conversation support system that enables confirmation of images / conversations by searching for a place to be seen and heard and reproducing from that position.
Furthermore, the tag search means and the display device provided for each passenger seat can confirm the image in front of the user, and can share information and enjoy a conversation.

本発明による車内会話支援システムとして、本件発明者等は2つの車内環境を予定している。その一つは車内(運転手席,助手席,客席)空間に共用天井スピーカ、客席等に個別に複数のマイクを配置する車内環境(車内環境A)の場合を第1の実施形態として図2A,図3Aに示す。これに対してもう一つは車内空間に共用天井マイク、個別スピーカを配置する車内環境(車内環境B)の場合を第2の実施形態として図2B,図3Bに示す。なお、各図において「Mic」は「マイク」,「SP」は「スピーカ」を示す。また、図3A,図3Bの一点鎖線枠内の回路を除去した状態が、実施形態の基本形であり、この基本形に一点鎖線枠内の回路を追加したのが拡張形である。   As the in-vehicle conversation support system according to the present invention, the inventors of the present invention plan two in-vehicle environments. One of them is a vehicle interior environment (vehicle interior environment A) in which a common ceiling speaker is provided in a vehicle interior (driver's seat, passenger seat, passenger seat) space, and a plurality of microphones are individually disposed in the passenger seat, etc., as a first embodiment. , Shown in FIG. 3A. On the other hand, FIG. 2B and FIG. 3B show a second embodiment of an in-vehicle environment (in-vehicle environment B) in which a common ceiling microphone and individual speakers are arranged in the in-vehicle space. In each figure, “Mic” indicates “microphone”, and “SP” indicates “speaker”. 3A and 3B is a basic form of the embodiment in which the circuit in the one-dot chain line frame is removed, and the extended form is obtained by adding a circuit in the one-dot chain line frame to this basic form.

図1は本発明による車内会話支援システムの概念図であり、車内環境Aについて示してある。本発明による車内会話支援システムは、話者が他の話者が発した生音とスピーカからの拡声音を聴取する車内環境での車内会話支援システムである。
車内に配置される複数の個別マイクと、車内に配置される共通スピーカとからなる車内環境Aにおいて、ハウリング防止用のフィルタ部と先行音効果用の遅延部からなる補正部および調整部を含んでいる音響処理部を設け、音響処理部で前記個別マイク出力を補正部により補正し、前記調整部で増幅して前記共通スピーカに接続する。これにより、車内の話者にハウリングが防止され、かつ直接音(生音)方向に定位された他の話者の拡声音を聴取可能にしている。
FIG. 1 is a conceptual diagram of an in-vehicle conversation support system according to the present invention, and shows an in-vehicle environment A. The in-vehicle conversation support system according to the present invention is an in-vehicle conversation support system in an in-vehicle environment in which a speaker listens to a live sound produced by another speaker and a loud sound from a speaker.
In an in-vehicle environment A composed of a plurality of individual microphones arranged in the vehicle and a common speaker arranged in the vehicle, including a correction unit and an adjustment unit consisting of a filter unit for preventing howling and a delay unit for preceding sound effect The acoustic processing unit is provided, the individual microphone output is corrected by the correction unit by the acoustic processing unit, amplified by the adjustment unit, and connected to the common speaker. As a result, howling is prevented for a speaker in the vehicle, and a loud sound of another speaker localized in the direct sound (raw sound) direction can be heard.

第1の実施形態の車内環境Aでは、乗員(話者)の頭部、すなわちシートのヘッドレストや前方シートの背後などに複数の個別マイクが配置されている。
天井付近に設置された1個のスピーカの周辺からそれぞれの個別マイクに至る伝播経路の音響伝達特性をFIR(Finite Impulse Response)フィルタにより模擬し、天井付近に設置されたスピーカから個別のマイクに回り込む音を打ち消すようにすることで、車内の温湿度変化や乗員の身動きなどによらず、ハウリングすることなく安定、かつ自然な定位で車内会話を拡声・支援するようシステム構成されている。なおFIR(Finite Impulse Response)フィルタだけではなくIIR(Infinite Impulse Response)フィルタも同様に使用できる。
第2の実施形態の車内環境Bでは既存カーステレオ用の複数スピーカを利用し、これら複数のスピーカから天井面に設置された1個のマイク周辺に至る伝播経路の音響伝達特性をFIR(Finite Impulse Response)フィルタにより模擬し、既存カーステレオ用の複数スピーカから天井面に設置されたマイクに回り込む音を打ち消すようにすることで、同様の効果を得るようにシステム構成することもできる。
In the in-vehicle environment A of the first embodiment, a plurality of individual microphones are arranged on the head of an occupant (speaker), that is, on the headrest of the seat or behind the front seat.
The acoustic transfer characteristics of the propagation path from the periphery of one speaker installed near the ceiling to each individual microphone are simulated by a FIR (Finite Impulse Response) filter, and the speaker installed near the ceiling wraps around the individual microphone. By canceling the sound, the system is configured to amplify and support in-car conversation with stable and natural localization without howling regardless of temperature / humidity changes in the car or movement of passengers. Not only the FIR (Finite Impulse Response) filter but also the IIR (Infinite Impulse Response) filter can be used in the same manner.
In the in-vehicle environment B of the second embodiment, a plurality of speakers for an existing car stereo are used, and an acoustic transfer characteristic of a propagation path from the plurality of speakers to the periphery of one microphone installed on the ceiling surface is expressed by FIR (Finite Impulse Response) The system can be configured to obtain the same effect by simulating with a filter and canceling the sound that circulates from a plurality of speakers for an existing car stereo to a microphone installed on the ceiling surface.

以下図面等を参照して、本発明による車内会話支援システムの車内環境Aの実施の形態を説明する。
図2Aは、車内に共用天井スピーカ、座席に個別マイクを配置した場合の車内環境A(第1の実施形態)のブロック図である。
図3Aは、本発明による車内会話支援システムの第1の実施形態における車内の配置と音響処理部の回路構成を同時に示した図であり、以下では基本形で説明する。
各座席ごとに個別マイクを用意し、各々ヘッドレスト、或いは各乗員の正面付近の適当な場所(前席の背後やハンドル部、ダッシュボードなど)に設置する。
各個別マイクは(後述のように)、乗員の着席時のみオンとするか、或いは、空席・着席に応じてFIR フィルタのパラメータを変更するようになっている。
Hereinafter, an embodiment of an in-vehicle environment A of an in-vehicle conversation support system according to the present invention will be described with reference to the drawings.
FIG. 2A is a block diagram of an in-vehicle environment A (first embodiment) when a common ceiling speaker and an individual microphone are arranged in the vehicle.
FIG. 3A is a diagram simultaneously showing the arrangement in the vehicle and the circuit configuration of the sound processing unit in the first embodiment of the in-vehicle conversation support system according to the present invention, and will be described below in a basic form.
An individual microphone is prepared for each seat, and each microphone is installed at the headrest or an appropriate location near the front of each occupant (the back of the front seat, the steering wheel, the dashboard, etc.).
Each individual microphone (as described later) is turned on only when the occupant is seated, or the FIR filter parameters are changed according to the vacant seat / seat.

車内天井面のほぼ中央に共通スピーカ1個を設置し、この共通スピーカに音響処理部の補正部で、フィルタ処理・遅延処理、調整部で電力増幅等を経た信号が接続され音響として放出される。
音響処理部の各マイクチャンネルにフィルタ(FIR フィルタ)が挿入されている。
一般的には、スピーカを中心とし半径略r=λ/2の円周上のn点にこのスピーカを置き各マイク点でインパルス応答r(x)を測定、FIR フィルタのパラメータを略−r(x)となるように設定する。ここで、λは音声主要帯域の中心周波数f に対する波長である。
フィルタ( FIRフィルタ)で処理された各チャンネルの音声信号は加算されて1本となり、遅延回路・周波数イコライザ・ゲイン調整部・電力増幅器を経て上記の天井スピーカから出力される。遅延回路の遅延時間τは、最も離れた客席同士の距離L に対する時間L /cに対し、さらに 5〜20 (msec) (△t )遅れるように設定する(τ=L/c +△t )。ここで、c は空気中における音速である。
A common speaker is installed almost at the center of the interior ceiling of the vehicle, and a signal that has been subjected to filter processing / delay processing and power amplification in the adjustment unit is connected to the common speaker by the correction unit of the sound processing unit and emitted as sound. .
A filter (FIR filter) is inserted in each microphone channel of the acoustic processing unit.
In general, the speaker is placed at n points on the circumference of a radius of about r = λ / 2 with the speaker as the center, the impulse response r (x) is measured at each microphone point, and the parameters of the FIR filter are about −r ( x). Here, λ is a wavelength with respect to the center frequency f 1 of the voice main band.
The audio signals of each channel processed by the filter (FIR filter) are added to become one and output from the ceiling speaker via a delay circuit, a frequency equalizer, a gain adjustment unit, and a power amplifier. The delay time τ of the delay circuit is set so as to be further delayed by 5 to 20 (msec) (Δt) with respect to the time L / c with respect to the distance L between the farthest passenger seats (τ = L / c + Δt) . Where c is the speed of sound in the air.

車載コンピュータ(車載PC)などから、車速・エンジン回転数・エンジン負荷などの情報を採取し自車が発生する騒音を予測、周波数イコライザ・ゲイン調整部を時々刻々最適設定する信号を発生する走行状態検出部(または騒音検知制御部)を設ける。
また、必要に応じて、タイヤハウスなどから車外騒音、特に自車が各種の道路を走行するときの騒音を収音し、予め測定された遮音データなどから車内騒音を予測、上記の車速・エンジン回転数・エンジン負荷などから算出した騒音を合わせて最終的な制御信号を出力する。なお最終的な車内音を検知するための別のマイクを車内に配置していない。
座席部分に乗員の有無を検知するシートスイッチ(シートSW)を装着し、乗員の有無に応じてマイクをON/OFF(空席の時はそのマイクのチャンネルをOFF )したり、または各チャンネルのFIR フィルタのパラメータを二組用意して切り替える。乗員の有無の影響の現れるそのチャンネルのみを制御する。
A driving state that collects information such as vehicle speed, engine speed, and engine load from an in-vehicle computer (in-vehicle PC), predicts noise generated by the vehicle, and generates a signal that optimally sets the frequency equalizer and gain adjustment unit from moment to moment A detection unit (or noise detection control unit) is provided.
In addition, if necessary, noise outside the vehicle, particularly when the vehicle travels on various roads, is picked up from the tire house, etc., and in-vehicle noise is predicted from previously measured sound insulation data. The final control signal is output by combining the noise calculated from the engine speed and engine load. In addition, another microphone for detecting the final vehicle interior sound is not arranged in the vehicle.
A seat switch (seat SW) that detects the presence or absence of an occupant is attached to the seat, and the microphone is turned ON / OFF according to the presence or absence of the occupant (when the seat is empty, the microphone channel is turned OFF), or the FIR of each channel Prepare and change two sets of filter parameters. Control only those channels that are affected by the presence or absence of passengers.

本発明による車内会話支援システムの音響処理部の出力系統にカスケードに周波数補正装置(イコライザ;EQ)やゲイン調整用ボリューム(Vol) を接続し、自車の走行条件(車速・負荷・エンジン回転数、等)や外来騒音に応じ会話が最適に聞き取れるよう音質やレベルを自動制御(或いは、自動選択)するように構成されている。また各系統の出力(FIR 処理結果)を加算した後、遅延回路や電力増幅器を経て天井スピーカから客席に向け下向きに放射されるように構成された拡声システムにおいて、常に全席で発声者の声が最初に到達し、更に数msec〜数十msec遅れてスピーカから拡声音が到達するように構成されており、発声者位置に音像定位を確保している。   A frequency correction device (equalizer; EQ) and a gain adjustment volume (Vol) are connected in cascade to the output system of the acoustic processing unit of the in-car conversation support system according to the present invention, and the driving conditions (vehicle speed, load, engine speed) Etc.) and sound quality and level are automatically controlled (or automatically selected) so that conversation can be heard optimally according to external noise. In addition, in the loudspeaker system that is configured to radiate downward from the ceiling speaker to the audience seat through the delay circuit and power amplifier after adding the outputs of each system (FIR processing results), the voice of the speaker is always heard at all seats. It reaches first, and is further configured to reach a loud sound from the speaker with a delay of several msec to several tens of msec, and a sound image localization is secured at the position of the speaker.

車内環境Aの車内会話支援システムの動作は次のとおりである。
まず、停車中は騒音がほとんどないか、或いはエンジンのアイドリング程度なので、本システムのゲインは最低、或いはほぼゼロに近い状態になっている。
この状態からある車速に向け車を加速すると、車内騒音は一般的には加速や車速、或いはエンジン負荷と共に大きくなり、複数乗員による車内会話の聞き取り(明瞭度や了解度)は低下する。本システムはこの影響を最小化し、車内会話の快適さの維持を支援するものである。
The operation of the in-vehicle conversation support system in the in-vehicle environment A is as follows.
First, when the vehicle is stopped, there is little noise or the engine is idling, so the gain of this system is at a minimum or nearly zero.
When the vehicle is accelerated from this state toward a certain vehicle speed, the in-vehicle noise generally increases with acceleration, the vehicle speed, or the engine load, and listening to in-vehicle conversation (intelligibility or intelligibility) by a plurality of passengers decreases. This system minimizes this effect and helps maintain the comfort of in-car conversation.

乗員の発した音声は各座席のマイクにより収音され、マイクアンプを経てFIR フィルタに入る。各FIR フィルタはスピーカ周辺(スピーカを中心とするλ/2の円周上)からそれぞれの個別マイクに至る伝播経路の音響伝達特性を模擬し、天井付近に設置されたスピーカから個別のマイクに回り込む音を打ち消すようパラメータ設定されているので、車速や負荷に応じ拡声レベルを上げてもある程度まではハウリングしない。
つまり、図2Aのように、 hi(x) をマイク(i) −閉曲面上の点(i) 間のインパルス応答、 -h'i(x) をFIR-i のインパルス応答とすると、各FIR フィルタ(FIR-i) のパラメータは、ほぼh'i(x) ≒ hi(x) となるように設定するので、天井付近に設置されたスピーカから個別のマイクに回り込む音を打ち消すことによりハウリングを防止する。
各FIR の出力は加算されて遅延回路に入り、τi (msec)だけ遅延されてイコライザに送られる。τi の値は発声者の生音が全ての席に最初に到達し、更に数〜数十msec分(実際には5 〜20msec)遅れてスピーカから出力されるように設定する。この処理により、常に全席で発話者の方向に音像の自然な定位が得られる。なお、各τi はほぼ等しいので共通化してτとしてP部に置くこともできる。
The voice produced by the occupant is picked up by the microphone in each seat and enters the FIR filter through the microphone amplifier. Each FIR filter simulates the acoustic transfer characteristics of the propagation path from the speaker periphery (on the circumference of λ / 2 around the speaker) to each individual microphone, and wraps around the individual microphone from the speaker installed near the ceiling Since the parameters are set so as to cancel the sound, even if the loudness level is increased according to the vehicle speed and load, howling is not to some extent.
That is, as shown in Fig. 2A, if h i (x) is the impulse response between microphone (i) and point (i) on the closed surface, and -h ' i (x) is the impulse response of FIR-i, The parameters of the FIR filter (FIR-i) are set so that h ' i (x) ≒ h i (x), so by canceling the sound that circulates from the speakers installed near the ceiling to individual microphones Prevent howling.
The outputs of each FIR are added to enter a delay circuit, delayed by τ i (msec), and sent to the equalizer. The value of τ i is set so that the raw sound of the speaker first reaches all seats and is output from the speaker with a delay of several to several tens of msec (actually 5 to 20 msec). By this processing, natural localization of the sound image is always obtained in the direction of the speaker at all seats. Since each τ i is substantially equal, it can be shared and placed in the P portion as τ.

また、各時点の拡声レベルやイコライザの設定は、車載PCから車速・負荷・エンジン回転数など必要な情報を取り出し、更には、必要に応じて車外騒音などのデータを測定し、騒音検知制御部にて車内騒音を予測、更に必要な制御量を演算することにより時々刻々、自動的に最適制御される(例えば、明瞭度に寄与する4kHz付近を強調)。
スピーカを取り巻く複数の点から個々のマイクに至る伝播経路の音響伝達特性をフィルタにより模擬することで、天井付近に設置されたスピーカから個別のマイクに回り込む音を打ち消すようになっているため、乗員の多少の移動や温湿度の変化でハウリングするようなことは無い。しかし、マイクの直前に位置する乗員が居ない(その座席が空席)場合は影響が大きいので、シートスイッチ(シートSW)などで乗員の有無を検知し、対応するチャンネルのFIR パラメータのみ、空席で所定の位置が不感領域となるようパラメータを自動で変更することができる。
In addition, the loudness level and equalizer settings at each point in time are extracted from the in-vehicle PC, such as the vehicle speed, load, and engine speed, and data such as vehicle exterior noise is measured as necessary. The vehicle interior noise is predicted and the necessary control amount is calculated, so that the optimum control is automatically performed every moment (for example, the vicinity of 4 kHz contributing to the intelligibility is emphasized).
By simulating the acoustic transfer characteristics of the propagation path from multiple points surrounding the speaker to individual microphones with a filter, the sound that wraps around the individual microphones from the speakers installed near the ceiling is canceled out. There is no such thing as howling with changes in temperature and humidity. However, if there is no occupant located immediately in front of the microphone (the seat is vacant), the effect is large, so the presence or absence of the occupant is detected with a seat switch (seat SW), and only the FIR parameter of the corresponding channel is vacant. The parameter can be automatically changed so that the predetermined position becomes the insensitive area.

前述の実施形態によれば、停車時を基本として、走行時には略6 〜10 (dB) の自然な拡声が得られる。スピーカを取り巻く複数の点から個々のマイクに至る伝播経路の音響伝達特性をフィルタにより模擬することで、天井付近に設置されたスピーカから個別のマイクに回り込む音を打ち消してしまうため、拡声による残響延長で明瞭度や音質を疎外することが無く、スピーカがそれを取り巻く複数の点の中心に置かれるため、乗員の動きや温湿度の変化にも安定した動作をする。拡声のレベルや音質は走行条件や外来騒音に応じて最適、かつ自動で制御される。
またスピーカからの拡声音は全席で発声者の生音が到達した後に到達するよう遅延されるので、常に音像は発声者位置に定位し、自然な会話が促進される。
According to the above-described embodiment, a natural loud sound of approximately 6 to 10 (dB) can be obtained when traveling based on the time when the vehicle is stopped. By simulating the acoustic transfer characteristics of the propagation path from multiple points surrounding the speaker to individual microphones using a filter, the sound that circulates from the speakers installed near the ceiling to the individual microphones is canceled, so the reverberation is extended by loud sound. Therefore, the speaker is placed at the center of a plurality of points surrounding it without any alienation of clarity and sound quality, so that it can operate stably even when the passenger moves or changes in temperature and humidity. The loudness level and sound quality are optimally and automatically controlled according to driving conditions and external noise.
In addition, since the loud sound from the speaker is delayed so as to arrive after the raw sound of the speaker is reached at all seats, the sound image is always localized at the position of the speaker, and natural conversation is promoted.

次に図面等を参照して、本発明による車内会話支援システムの車内環境Bの実施の形態を説明する。
図2Bは、車内に共用天井マイク、座席に個別スピーカを配置した場合の車内環境B(第2の実施形態)のブロック図である。
図3Bは、本発明による車内会話支援システムの第2の実施形態における車内の配置と音響処理部の回路構成を同時に示した図であり、以下では基本形で説明する。
図2B,図3Bに示すように車内天井面のほぼ中央に共通マイク1個を設置する。この実施形態ではスピーカが座席ごとに設けられている。なお実際には座席と正確に対応せずに天井に設けられている複数のスピーカの利用を妨げるものではない。すなわちスピーカにカーステレオ用のものを利用することもできるが、座席対応にスピーカが配置されている例を参照して説明する。
Next, referring to the drawings and the like, an embodiment of an in-vehicle environment B of the in-vehicle conversation support system according to the present invention will be described.
FIG. 2B is a block diagram of an in-vehicle environment B (second embodiment) when a common ceiling microphone is disposed in the vehicle and an individual speaker is disposed in the seat.
FIG. 3B is a diagram simultaneously showing the arrangement in the vehicle and the circuit configuration of the sound processing unit in the second embodiment of the in-vehicle conversation support system according to the present invention, and will be described below in a basic form.
As shown in FIG. 2B and FIG. 3B, one common microphone is installed at the approximate center of the interior ceiling surface. In this embodiment, a speaker is provided for each seat. In practice, the use of a plurality of speakers provided on the ceiling does not prevent the use of a plurality of speakers that do not accurately correspond to the seat. In other words, a car stereo can be used as a speaker, but an explanation will be given with reference to an example in which a speaker is arranged for a seat.

各座席の乗員の音声は、ほぼ均等な感度で天井マイクにより収音され、マイクアンプ・ゲイン調整部・イコライザ・遅延回路を経て各スピーカ出力に対応するFIR フィルタに同レートで配給され、信号処理された後、電力増幅器を経て各スピーカから室内に放射される。遅延回路の構成を図2Bを参照して説明する。図において、 hi(x) はスピーカ(i) −閉曲面上の点(i) 間のインパルス応答を示す。ここに、h'i(x) ≒ hi(x) とする。各入力系の定位制御用遅延τi は拡声音に対し全席で生音が先行するように設定する。各τi はほぼ等しいので共通化してτとしてP部に置くこともできる。
各FIR はそれぞれのスピーカから天井面に設置された1個のマイク周辺に至る伝播経路の音響伝達特性を模擬するようにパラメータ設定されている。複数マイクを使う前例と同様、各FIR パラメータはシートSWにより乗員の有無が検知され自動的に変更・補正される。騒音検知制御部で検知された車内外の騒音に応じてゲイン、イコライザが最適調整される点も同じである。
The sound of the passengers in each seat is picked up by the ceiling microphone with almost equal sensitivity, distributed to the FIR filter corresponding to each speaker output through the microphone amplifier, gain adjuster, equalizer, and delay circuit at the same rate for signal processing. Then, each speaker radiates indoors through a power amplifier. The configuration of the delay circuit will be described with reference to FIG. 2B. In the figure, h i (x) represents the impulse response between the speaker (i) and the point (i) on the closed surface. Here, h ′ i (x) ≈h i (x). The localization control delay τ i of each input system is set so that the live sound precedes the loud sound at all seats. Since each τ i is substantially equal, it can be shared and placed in the P portion as τ.
Each FIR is parameter-set to simulate the acoustic transfer characteristics of the propagation path from each speaker to the periphery of one microphone installed on the ceiling. As in the previous example using a plurality of microphones, each FIR parameter is automatically changed or corrected by detecting the presence or absence of an occupant by the seat SW. The same is true in that the gain and equalizer are optimally adjusted according to the noise inside and outside the vehicle detected by the noise detection control unit.

各FIR のフィルタのパラメータの決定は、LES 法(Least Squares Error )などにより行うことができる。要するに、天井マイク(前述の車内環境Aではスピーカ)の周囲(例えば半径λ/2の円周)上の複数点から個々のマイクに至る伝播経路の音響伝達特性をFIR フィルタにより模擬し、天井付近に設置されたスピーカから個別のマイクに回り込む音を打ち消すようにすることで、わずかな室内音響条件変化(乗員の動きや温湿度の変化)に対して安定に動作させる。
したがって、FIR フィルタは、基本的に固定のものを使用(素子数が少なく安価なものを使用できる)する。
Each FIR filter parameter can be determined by the LES method (Least Squares Error). In short, the acoustic transfer characteristics of the propagation path from multiple points to the individual microphones around the ceiling microphone (speaker in the above-mentioned interior environment A) (for example, the circumference of radius λ / 2) are simulated by the FIR filter. By canceling the sound that circulates from the speaker installed in the individual microphone to the individual microphone, it is possible to operate stably against slight changes in indoor acoustic conditions (occupant movement and temperature / humidity change).
Therefore, the FIR filter is basically a fixed one (the number of elements is small and an inexpensive one can be used).

(パラメータ設定部)ここで、前述の各車内環境Aにも共通するフィルタのパラメータ設定について説明する。以下の2つのいずれも利用できる。
ア)フィルタに全サンプル畳み込み器などを使う場合
閉曲面上の点(i) に実際に使うスピーカを置き対応するマイク(i) で、両点間のインパルス応答 hi(x) を測定する。その符号を反転しそのままフィルタ(i) のインパルス応答 -h'i(x) ≒-hi(x) として使う。順次、i=1,2,3 ・・のように各系統を同様の手順で調整し、スピーカを各閉曲面上の点の中心に戻して動作を開始する。
(Parameter Setting Unit) Here, the parameter setting of the filter common to the above-described in-vehicle environment A will be described. Either of the following two can be used.
A) When using an all-sample convolution device for the filter, place the speaker actually used at the point (i) on the closed surface and measure the impulse response h i (x) between the two points with the corresponding microphone (i). The sign is inverted and used as it is as the impulse response -h ' i (x) ≒ -h i (x) of the filter (i). Sequentially, each system is adjusted in the same procedure as i = 1, 2, 3,..., And the operation is started by returning the speaker to the center of the point on each closed curved surface.

イ)フィルタに適応FIR フィルタ(タップ数有限・離散的)を使う場合
閉曲面上の点(i) に実際に使うスピーカを置きピンクノイズなどを出力する。対応するマイク(i) の出力とフィルタ(適応FIR フィルタ)(i) の出力のみを信号加算部で加算する(この時、他系統はオフ) 。そのときの信号加算部の出力を適応FIR フィルタの誤差検知入力(適応FIR フィルタは2入力、1出力)部に入力し適応動作させる。信号加算部の出力が最小になって収束するとパラメータの同定が完了する。
この状態で適応動作を止め、同定されたパラメータを持つ固定FIR フィルタとして使用する。順次、i=1,2,3 ・・のように各系統を同様の手順で調整し、スピーカを各閉曲面上の点の中心に戻して動作を開始する。
共に、時間の経過と共にインパルス応答 hi(x) は変化するが、もともと各閉曲面上の点はスピーカの中心から外して設定されており、全体として効果を発現するように意図されている。したがって、個々の時間的な変動はシステムの安定性に大きな影響を与えない。
A) When using an adaptive FIR filter (finite number of taps / discrete) as the filter, place the actual speaker at point (i) on the closed surface and output pink noise. Only the output of the corresponding microphone (i) and the output of the filter (adaptive FIR filter) (i) are added by the signal adder (at this time, other systems are off). The output of the signal adder at that time is input to the error detection input (the adaptive FIR filter has two inputs and one output) of the adaptive FIR filter, and is adaptively operated. When the output of the signal adder is minimized and converges, parameter identification is completed.
In this state, the adaptive operation is stopped and it is used as a fixed FIR filter with the identified parameters. Sequentially, each system is adjusted in the same procedure as i = 1, 2, 3,..., And the operation is started by returning the speaker to the center of the point on each closed curved surface.
In both cases, the impulse response h i (x) changes with the passage of time, but the points on each closed curved surface are originally set off the center of the speaker, and are intended to exhibit the effect as a whole. Thus, individual temporal variations do not have a significant effect on system stability.

本発明による車内会話支援システムの車内環境Bの形態においても、前述の車内環境Aの場合と同様な動作と効果が得られる。
前述の基本的な実施形態に、図3A、図3Bの一点鎖線枠内の回路を追加したのが拡張形の実施形態であり、図に示すように前記音響処理部の調整部の電力増幅器の入力側に音声信号端子から電力増幅器の入力の信号加算器までの回路を追加することで(利用者からみて予め音声信号入力端子が設けられていることで)、本システムと他の装置(例えば車載ステレオ装置)との組み合わせにおいて電力増幅器とスピーカを共用することが可能であり車載設備を節約することができる。また、車載のラジオやテレビやステレオ装置などや携帯音楽プレーヤーなどの音声信号(本システムからみた外部音声信号)を容易に入力しスピーカで拡声できるようにすることができる。図3Bにおいては、モノラル信号で外部からの音声信号を入力するようになっている。ステレオ信号や4チャンネルなどの多チャンネルの音声信号を入力する場合には、各チャンネルに対応した追加回路を対応するそれぞれの電力増幅器の入力側に設けることで実現が可能である。
会話支援側の拡声レベルと外部より入力した音声信号の拡声レベルとのバランス調整のために、音声信号入力端子より入力した外部音声信号の音量調整が行われる。なお、他の装置において音声出力用に音量調整機構がある場合には、本システム側の音声信号入力端子直後の音量調整機構は不要とすることができる(この場合、実質的には電力増幅器の入力に外部の音声信号を接続したことと同じである)。
Also in the form of the in-vehicle environment B of the in-vehicle conversation support system according to the present invention, the same operation and effect as in the above-described in-vehicle environment A can be obtained.
In the basic embodiment described above, the circuit in the one-dot chain line frame in FIG. 3A and FIG. 3B is added to the extended embodiment, and as shown in the figure, the power amplifier of the adjustment unit of the acoustic processing unit By adding a circuit from the audio signal terminal to the signal adder at the input of the power amplifier on the input side (by providing the audio signal input terminal in advance from the viewpoint of the user), this system and other devices (for example, It is possible to share the power amplifier and the speaker in combination with the in-vehicle stereo apparatus), and the in-vehicle equipment can be saved. In addition, it is possible to easily input an audio signal (external audio signal viewed from the present system) of an in-vehicle radio, a television, a stereo device, or a portable music player so that the sound can be amplified by a speaker. In FIG. 3B, an external audio signal is input as a monaural signal. In the case of inputting a stereo signal or a multi-channel audio signal such as four channels, it can be realized by providing an additional circuit corresponding to each channel on the input side of each corresponding power amplifier.
In order to adjust the balance between the loudness level on the conversation support side and the loudness level of the audio signal input from the outside, the volume of the external audio signal input from the audio signal input terminal is adjusted. Note that if there is a volume adjustment mechanism for audio output in other devices, the volume adjustment mechanism immediately after the audio signal input terminal on this system side can be eliminated (in this case, the power amplifier is substantially The same as connecting an external audio signal to the input).

本発明による車内会話支援システムは、前述の音声以外にも画像の処理や蓄積も並行して行われる。
図4に車外・車内に複数の動画カメラを設置する例を示す。同図(a)、(b)の車外カメラ101〜104、車内カメラ105〜106に魚眼カメラ、双曲面ミラーを取り付けた全周囲カメラを用いると、容易に全方位画像が得られ、カメラの設置台数を少なくすることができる。同図のカメラ配置例ではカメラ101〜106に対して撮影有効範囲を矢印範囲で示している。車外カメラに超広角カメラや通常のカメラを用いる場合、車両の全周囲を漏れなく撮像するためには(全方位画像の一部としてカメラ画像を得るので)さらに数多くのカメラを設置する必要がある。車内カメラ105は、運転席と助手席とに座る人を撮影できるように設置され、車内カメラ106は、後部座席に座る人を撮影できるように設置される。車内カメラにより広角なカメラを用いれば広い範囲を撮像することができ、搭乗者以外に窓越しの風景も撮像することができる。
The in-car conversation support system according to the present invention performs image processing and storage in parallel in addition to the above-described voice.
FIG. 4 shows an example in which a plurality of video cameras are installed outside and inside the vehicle. When an all-around camera equipped with a fisheye camera and a hyperboloid mirror is used for the in-vehicle cameras 101 to 104 and the in-vehicle cameras 105 to 106 in FIGS. 5A and 5B, an omnidirectional image can be easily obtained. The number of installations can be reduced. In the example of the camera arrangement in the figure, the effective shooting range is indicated by an arrow range with respect to the cameras 101 to 106. When using an ultra-wide-angle camera or a normal camera as the outside camera, it is necessary to install a larger number of cameras (to obtain a camera image as part of the omnidirectional image) in order to capture the entire periphery of the vehicle without omission. . The in-vehicle camera 105 is installed so as to photograph a person sitting in the driver's seat and the passenger seat, and the in-vehicle camera 106 is installed so as to photograph a person sitting in the rear seat. If a wide-angle camera is used for the in-vehicle camera, a wide range can be imaged, and a landscape through the window can be imaged in addition to the passenger.

また、カメラに広ダイナミックレンジカメラを用いれば、通常のカメラに比べて白とびや黒つぶれの少ない画像を撮像できるが、表示装置のダイナミックレンジが狭いためそのままでは表示することができない。撮像画像のダイナミックレンジ圧縮(画像加工処理)を行うことで表示装置に表示することができる。
超広角カメラ、魚眼カメラ、双曲面ミラーを取り付けた全周囲カメラの場合、撮像した画像はそのままでは歪んだ画像であるため、かなり見難いものであり映っているものの把握もし難い。そのため、歪み補正や透視投影変換などの画像加工処理を行って、通常のカメラで撮影されたような画像を表示することで、見た時の違和感を解消することができる。
In addition, if a wide dynamic range camera is used as the camera, an image with less overexposure and underexposure can be taken compared to a normal camera, but the display device cannot be displayed as it is because the dynamic range of the display device is narrow. The captured image can be displayed on the display device by performing dynamic range compression (image processing).
In the case of an omnidirectional camera equipped with a super-wide-angle camera, a fish-eye camera, or a hyperboloidal mirror, the captured image is a distorted image as it is, so it is very difficult to see and it is difficult to grasp what is reflected. Therefore, by performing image processing such as distortion correction and perspective projection conversion and displaying an image taken with a normal camera, it is possible to eliminate a sense of incongruity when viewed.

前記車内会話支援システムに、車外・車内カメラの動画像を取得し、音声信号と同時に記録し再生できる付加装置部分のブロック図を図5に示し、図6に画像処理装置と画像合成変換装置の内部の概略構成のブロック図を示す。
図5において、車内・車外カメラの動画像信号が画像処理装置に入力され、画像処理されて画像表示装置に出力される。画像表示装置は、液晶表示装置などの画像を表示する装置で構成することができる。
FIG. 5 shows a block diagram of an additional device portion that can acquire a moving image of an outside / in-vehicle camera in the in-vehicle conversation support system, and record and reproduce it simultaneously with an audio signal. FIG. 6 shows an image processing device and an image composition conversion device. The block diagram of an internal schematic structure is shown.
In FIG. 5, moving image signals from the in-vehicle and out-of-vehicle cameras are input to the image processing device, subjected to image processing, and output to the image display device. The image display device can be configured by a device that displays an image, such as a liquid crystal display device.

カメラ画像のどの部分を切り出し画像処理させるかを指示する指示手段である画像処理指示回路、画像処理前/後の画像表示を選択する画像選択手段である画像選択回路、記録再生装置の記録/再生を選択する指示手段である記録再生指示回路は、それぞれスイッチで構成することができ、操作者により指示されたスイッチに該当する信号を、それぞれ画像処理指示信号、画像選択信号、記録再生指示信号として画像処理装置に出力する。
記録再生指示信号は、記録再生装置にも出力される。
記録再生装置は、磁気テープ記録再生装置やハードディスク記録再生装置やメモリ記録再生装置で構成することができる。これらを複数用いることで音声信号と画像信号とも多チャンネル構成の記録再生装置とすることができ、記録再生指示信号により記録/再生/停止の機能を実行する。記録再生装置の画像入出力部は、記録画像信号を画像処理装置より入力し、再生画像信号を画像処理装置に出力する。記録再生装置の音声入出力部は、図3A、図3Bのマイクアンプ出力よりの音声信号と音声信号入力端子1に入力される関連音声信号とを記録音声信号として入力し(ミキシングして記録音声信号とすることも可能)、再生音声信号を図3A、図3Bの電力増幅器の入力または音声信号入力端子2へ出力する。
個々に記録されたマイクアンプ出力よりの音声信号と関連音声信号の再生音声信号は、ミキシングされて出力されるか、ミキシングされて記録された再生音声信号が出力される。図3A、図3Bの拡張形の実施形態では、音声信号入力端子が1つ設けられているが、一点鎖線枠内の回路を2つ用意し、一方の音声信号入力端子1に関連音声信号を入力し他方の音声信号入力端子2に記録再生装置の再生音声信号を入力し音量調整をすることで、簡単に関連音声信号と再生音声信号をスピーカより拡声することができる。
An image processing instruction circuit that is an instruction means for instructing which part of a camera image is to be cut out and processed, an image selection circuit that is an image selection means for selecting an image display before / after image processing, and recording / reproduction of a recording / reproducing apparatus The recording / reproducing instruction circuit, which is an instruction means for selecting a signal, can be configured by a switch, and signals corresponding to the switch instructed by the operator as an image processing instruction signal, an image selection signal, and a recording / reproduction instruction signal, respectively. Output to the image processing device.
The recording / playback instruction signal is also output to the recording / playback apparatus.
The recording / reproducing apparatus can be composed of a magnetic tape recording / reproducing apparatus, a hard disk recording / reproducing apparatus, or a memory recording / reproducing apparatus. By using a plurality of these, a recording / reproducing apparatus having a multi-channel structure for both audio signals and image signals can be obtained, and a recording / reproducing / stopping function is executed by a recording / reproducing instruction signal. The image input / output unit of the recording / reproducing apparatus inputs a recorded image signal from the image processing apparatus and outputs the reproduced image signal to the image processing apparatus. The audio input / output unit of the recording / reproducing apparatus inputs the audio signal from the microphone amplifier output of FIGS. 3A and 3B and the related audio signal input to the audio signal input terminal 1 as a recording audio signal (mixed and recorded audio). The reproduced audio signal is output to the input of the power amplifier shown in FIGS. 3A and 3B or to the audio signal input terminal 2.
The audio signal from the individually recorded microphone amplifier output and the reproduced audio signal of the related audio signal are mixed and output, or the reproduced audio signal recorded after mixing is output. In the expanded embodiment of FIGS. 3A and 3B, one audio signal input terminal is provided. However, two circuits within a one-dot chain line frame are prepared, and a related audio signal is supplied to one audio signal input terminal 1. By inputting the reproduced audio signal of the recording / reproducing apparatus to the other audio signal input terminal 2 and adjusting the volume, the related audio signal and the reproduced audio signal can be easily amplified from the speaker.

タグ付け検索指示手段であるタグ付け検索指示装置は、図5に示すようにタグ付け検索指示回路と音声によるタグ付け検索指示部とから構成される。タグ付け検索指示回路は、限定された複数のスイッチで構成することができ、タグ付け検索指示情報を記録再生装置に出力する。音声によるタグ付け検索指示部は、音声認識装置とこの装置用の音声入力部とにより構成することができる。音声入力部は、前記マイクアンプ出力よりの複数の音声信号や複数の専用マイクとこの出力からなり、音声認識装置に入力する。音声認識装置は、入力された音声信号の中から限定された特定の言葉を記録・検索する音声タグとして認識し、タグ付け検索指示情報を記録再生装置に出力する。
記録再生装置では、画像や音声の記録中または再生中にタグ付け指示情報によりタグ付けを実行(タグ情報を記録)したり、再生中や停止中にタグ検索指示情報によりタグの検索を行い検索結果位置から記録済みの画像や音声を再生実行したりする。
As shown in FIG. 5, the tagging search instruction device, which is a tagging search instruction means, includes a tagging search instruction circuit and a voice tagging search instruction unit. The tagging search instruction circuit can be constituted by a plurality of limited switches, and outputs tagging search instruction information to the recording / reproducing apparatus. The voice tagging search instruction unit can be constituted by a voice recognition device and a voice input unit for this device. The voice input unit includes a plurality of voice signals from the microphone amplifier output, a plurality of dedicated microphones, and the output, and inputs the voice signals to the voice recognition device. The voice recognition apparatus recognizes a specific word limited from the input voice signal as a voice tag for recording / searching, and outputs tagging search instruction information to the recording / reproducing apparatus.
In the recording / playback device, tagging is performed by tagging instruction information during recording or playback of images or sound (tag information is recorded), or tag search is performed by tag search instruction information during playback or stop. Playback and execution of recorded images and sound from the result position.

図6において、カメラからの画像信号は、記録画像信号として再生記録装置に出力されると共に画像信号選択回路に入力される。この回路の入力のもう一方は、記録再生装置から入力される再生画像信号である。同回路において、カメラからの画像信号か再生画像信号かを記録再生指示信号にて選択し、後段に出力する。カメラ台数分の選択回路がある(同図の2点鎖線部分)。
選択された画像信号は、表示を見易くするためカメラの種類に応じてカメラ画像毎に画像の加工処理を施す。画像処理指示信号によりカメラに適合した画像加工処理を選択する。この選択は、カメラ設置時にどのような種類のカメラであるかわかるので、カメラ設置時点で行われる。
In FIG. 6, the image signal from the camera is output as a recorded image signal to the reproduction / recording apparatus and also to the image signal selection circuit. The other input of this circuit is a reproduced image signal inputted from the recording / reproducing apparatus. In the same circuit, the image signal from the camera or the reproduced image signal is selected by the recording / reproducing instruction signal and output to the subsequent stage. There are selection circuits for the number of cameras (two-dot chain line portion in the figure).
The selected image signal is subjected to image processing for each camera image in accordance with the type of camera in order to make the display easy to see. An image processing process suitable for the camera is selected by the image processing instruction signal. This selection is performed at the time of camera installation since it is possible to know what kind of camera is installed at the time of camera installation.

画像加工処理部には、何も処理しないスルー処理、通常のカメラ画像や広角カメラ画像の歪みを補正する歪み補正処理、魚眼カメラ画像や双曲面ミラー使用カメラ画像の透視投影変換処理、広ダイナミックレンジカメラ画像のダイナミックレンジ圧縮処理がある。
魚眼カメラや双曲面ミラーを取り付けた全周囲カメラで得られた画像は、環状画像であり、そのままではわかりにくいため、通常は見たい方向を指示して透視投影変換して通常のカメラで撮像されたかのような画像で表示される。画像処理指示信号により、透視投影変換したい画像部分が指示される。例えば、透視投影で切り出し表示したい画像部分を、水平面に対する垂直方向角度と水平面上での方向角度とズーム度合いとのパラメータで指定して透視投影変換処理させることができる。
The image processing unit includes through processing that does not process anything, distortion correction processing that corrects distortion of normal camera images and wide-angle camera images, perspective projection conversion processing of fish-eye camera images and camera images using hyperboloid mirrors, wide dynamics There is a dynamic range compression process for range camera images.
The image obtained with a fisheye camera or an omnidirectional camera with a hyperboloidal mirror is a circular image, and it is difficult to understand as it is. It is displayed as an image as if it were done. The image processing instruction signal indicates an image portion to be subjected to perspective projection conversion. For example, an image portion to be cut out and displayed by perspective projection can be specified by parameters of a vertical angle with respect to a horizontal plane, a direction angle on the horizontal plane, and a zoom level, and can be subjected to a perspective projection conversion process.

ダイナミックレンジ圧縮処理は、表示装置の表示のダイナミックレンジの範囲内となるように、テーブル変換処理、折れ線変換や対数変換やウェーブレット変換などを用いた演算処理、これらの組合せ処理などの方法が用いられる。
カメラとレンズの組合せに応じて画像加工処理部の処理内容の組合せを行うこともできる。
例えば、魚眼レンズを広ダイナミックレンジカメラに取り付けた場合、画像加工処理は、透視投影変換処理とダイナミックレンジ圧縮処理とになる。
画像選択回路では、画像処理指示信号により画像処理選択回路で接続した同じ画像加工処理の出力に接続し、スルー処理の画像データと加工処理された画像データとを画像選択信号の指示により画像処理前/後の画像として選択が行われる。
In the dynamic range compression processing, methods such as table conversion processing, calculation processing using line transformation, logarithmic conversion, wavelet conversion, and a combination of these are used so that the dynamic range is within the display dynamic range. .
Depending on the combination of the camera and the lens, the processing contents of the image processing unit can be combined.
For example, when a fisheye lens is attached to a wide dynamic range camera, the image processing process is a perspective projection conversion process and a dynamic range compression process.
In the image selection circuit, the image processing instruction signal is connected to the output of the same image processing process connected in the image processing selection circuit, and the image data of the through process and the processed image data are processed before the image processing by the instruction of the image selection signal. / Selection is made as a later image.

カメラ画像ごとに画像処理選択回路から画像選択回路までの画像加工処理がおこなわれ(図6の一点鎖線枠内部分)、表示画像選択回路と画像合成変換装置に入力される。
表示画像選択回路では、カメラの画像を選択する回路部、選択されたカメラ画像と画像合成変換装置からの画像とを選択する回路部があり、画像選択信号により選択された画像が表示画像として画像表示装置に出力される。
Image processing from the image processing selection circuit to the image selection circuit is performed for each camera image (the portion within the one-dot chain line frame in FIG. 6) and input to the display image selection circuit and the image composition conversion device.
The display image selection circuit includes a circuit unit that selects an image of the camera, and a circuit unit that selects a selected camera image and an image from the image composition conversion device, and the image selected by the image selection signal is displayed as a display image. Output to the display device.

表示画像選択回路は、画像選択信号により指示された画像を選択する回路であり、スイッチで構成することができる。
画像合成変換装置は、1画面に同時に複数の画像を表示するための画像を合成する装置であり、分割表示画像選択回路と画像サイズ変換回路と画像合成回路とから構成される。複数の画像を選択するために追加される画像を選択する指示手段は、追加スイッチなどで構成することができ、前記画像選択回路内に追加される。この回路部より前記追加スイッチを含めた指示が、画像選択信号として出力される。
The display image selection circuit is a circuit that selects an image instructed by an image selection signal, and can be configured by a switch.
The image composition conversion device is a device that synthesizes images for displaying a plurality of images simultaneously on one screen, and includes a divided display image selection circuit, an image size conversion circuit, and an image composition circuit. The instruction means for selecting an image to be added in order to select a plurality of images can be constituted by an addition switch or the like, and is added in the image selection circuit. An instruction including the additional switch is output from the circuit unit as an image selection signal.

画像合成変換装置に入力された画像は、分割表示画像選択回路に入力され、画像サイズ変換回路に出力される。分割表示画像選択回路は、画像選択信号により指示された画像(1画面に同時に表示される画像数分)を選択するための回路である。
画像サイズ変換回路に入力された画像は、画像サイズが変換され、画像合成回路に出力される。画像サイズ変換回路は、1画面に同時に複数の画像を表示するために画像サイズを変換し縮小画像を作成する回路であり、間引き回路や補間回路を用いて画像サイズの変換を行うことができるように構成することができる。例えば水平・垂直とも1画素おきに間引くようにすると1/4サイズの画像が作成でき、表示1画面に4枚分の画像を表示できる。
The image input to the image composition conversion device is input to the split display image selection circuit and output to the image size conversion circuit. The divided display image selection circuit is a circuit for selecting an image instructed by an image selection signal (the number of images simultaneously displayed on one screen).
The image input to the image size conversion circuit is converted in image size and output to the image composition circuit. The image size conversion circuit is a circuit that generates a reduced image by converting the image size in order to display a plurality of images simultaneously on one screen, so that the image size can be converted using a thinning circuit or an interpolation circuit. Can be configured. For example, if the pixels are thinned every other pixel both horizontally and vertically, a 1/4 size image can be created, and four images can be displayed on one display screen.

画像合成回路に入力された縮小画像は、所定画像数を1画面の表示用画像に合成し、表示画像選択回路に出力する。画像合成回路は、入力した縮小画像を1画面分集めて表示用画像として画像を合成変換する回路である。
さらに、図5と図6において、画像処理装置の表示画像出力を記録画像信号として記録再生装置に入力し記録させ、再生時に再生画像信号として画像処理装置に入力後、表示画像選択回路に入力して再生時に記録した表示画像を選択して表示させることもできる。このようにすることで、どの画像を表示して見ていたかが後からもわかるようにすることができる。
The reduced image input to the image composition circuit synthesizes a predetermined number of images with a display image for one screen and outputs it to the display image selection circuit. The image synthesizing circuit is a circuit that collects input reduced images for one screen and synthesizes and converts the images as display images.
Further, in FIGS. 5 and 6, the display image output of the image processing apparatus is input to the recording / reproducing apparatus as a recorded image signal and recorded, and is input to the image processing apparatus as a reproduced image signal during reproduction and then input to the display image selection circuit. The display image recorded during playback can be selected and displayed. By doing in this way, it can be understood later which image was displayed and viewed.

なお、タグ付け検索指示装置と画像表示装置は乗車席ごとに設置され、タグ付け検索指示装置は、表示装置と一体となった形で構成することもできる。また、運転席に設けられるタグ付け検索指示装置と画像表示装置は、運転者の運転の妨げにならない位置に設置される。この場合、タグ付け検索指示装置は、限定された数個のスイッチや専用マイクの形でステアリングホイールに組み込まれるような構成とすることもできる。
このようにして、運転者以外の同乗者は、複数の画像を見ながら他の人と会話をしながら手元のスイッチや音声などのタグ付け検索指示装置で簡単にタグ付けの指示ができる。一方、運転者は、画像を注視することはできないが、会話には参加することができ、ステアリングホイールなどの手元に設けられた数少ない数個のスイッチや音声などのタグ付け検索指示装置で簡単にタグ付けの指示ができる。
It should be noted that the tagging search instruction device and the image display device are installed for each passenger seat, and the tagging search instruction device can also be configured in an integrated form with the display device. In addition, the tagging search instruction device and the image display device provided in the driver's seat are installed at a position that does not hinder the driver's driving. In this case, the tagging search instruction device may be configured to be incorporated in the steering wheel in the form of a limited number of switches or a dedicated microphone.
In this way, passengers other than the driver can easily instruct tagging with a tagging search instruction device such as a switch or voice at hand while talking with other people while viewing a plurality of images. On the other hand, the driver cannot gaze at the image, but can participate in the conversation, and it is easy with a few search switches and voice tagging search instruction devices provided at hand such as the steering wheel. You can instruct tagging.

見逃し通り過ぎてしまった画像や聞き逃してしまった会話をほんの少しだけ(短い一定時間)巻き戻し再生する(ちょっと見聞きする)ことで会話を支援し盛り上げることができる。この機能は、記録再生装置内に付加することができる。記録・再生用の音声・画像信号は、記録再生装置内で共用される。専用の指示手段は、スイッチで構成することができ、図5に専用スイッチで示している。
図7に短い一定時間の巻き戻し再生機能を説明するための図を示す。同図において、記録再生リングバッファは、一定時間内の音声・画像を常に記録しておくための記録領域を示し、リングバッファとして構成されている。また、同図のリングバッファ下端部の矢印は、バッファに記録する時の記録領域を使用する方向を示している。
It is possible to support and excite the conversation by rewinding and playing back a little (a short period of time) a conversation that has been missed or a conversation that has been missed. This function can be added in the recording / reproducing apparatus. Audio / image signals for recording / playback are shared in the recording / playback apparatus. The dedicated instruction means can be constituted by a switch, and is shown by a dedicated switch in FIG.
FIG. 7 shows a diagram for explaining the short-time rewind playback function. In the figure, a recording / reproducing ring buffer indicates a recording area for always recording audio / images within a predetermined time, and is configured as a ring buffer. Also, the arrow at the lower end of the ring buffer in the figure indicates the direction in which the recording area is used when recording in the buffer.

記録再生リングバッファは、A,Bの二つの領域があり、電源投入時に同時に音声・画像の記録を開始する。それぞれのリングバッファの長さは、短い一定時間の再生時間よりも長く設定される。
最初はバッファA側を使用し、専用スイッチが押される(バッファ位置t1とする)と、バッファAの記録を停止する。短い一定時間例えばK秒前からの音声・画像の再生をするために、K秒前のバッファ位置t1−Kを再生開始位置としてバッファAの再生を開始し、K秒間再生したら(バッファ位置t1にきたら)再生を停止し、記録を再開する。最初の指示はバッファA側を使用し、次の指示はバッファBを使用するように、バッファのA,Bを交互に使用する。一方のバッファを再生中、他方のバッファはそのまま記録しているので、無記録の期間は無い。図中では、バッファA側で再生中もバッファB側では記録を続けるため、バッファA側がバッファ位置t1で記録再開する時には、バッファB側は記録位置がt1+Kまで進んでいる。したがって、バッファA側で巻き戻し再生中において、バッファB側の記録領域はB側バッファ位置t1からt1+Kまでとなる。
The recording / reproducing ring buffer has two areas A and B, and starts recording audio and images simultaneously when the power is turned on. The length of each ring buffer is set longer than the playback time of a short fixed time.
Initially, the buffer A side is used, and when the dedicated switch is pressed (set to buffer position t1), recording of the buffer A is stopped. In order to reproduce sound and images from a short period of time, for example, K seconds ago, reproduction of the buffer A is started with the buffer position t1-K as the reproduction start position K seconds ago, and after reproduction for K seconds (to the buffer position t1). (When it comes) Stop playback and resume recording. Buffers A and B are used alternately so that the first instruction uses the buffer A side and the next instruction uses buffer B. While one buffer is being played back, the other buffer is recorded as it is, so there is no non-recording period. In the drawing, since recording is continued on the buffer B side even during reproduction on the buffer A side, when the buffer A side resumes recording at the buffer position t1, the recording position on the buffer B side has advanced to t1 + K. Therefore, during the rewind playback on the buffer A side, the recording area on the buffer B side is from the B side buffer position t1 to t1 + K.

なお、専用スイッチの指示により速やかに巻き戻し再生するために、記録再生リングバッファには記憶メモリやメモリカード類などのメモリ記憶装置やハードディスク装置など巻き戻し時間遅れの少ないものが使用される。
このようにして記録された画像・音声・タグ情報は、車内や部屋などで再生して同乗者と共に見てさらに会話を楽しむことができ、タグ付けしたい箇所で速やかにタグ付けをすることができる。記録済みのタグをタグ情報により検索し、タグ付けした位置から画像・音声を再生して楽しむことができる。また、記録された音声・画像・タグ情報を編集し、観賞用の再生コンテンツを制作することにも使用が可能である。
In addition, in order to perform fast rewind reproduction according to an instruction from the dedicated switch, a recording / reproduction ring buffer having a small rewind time delay such as a memory storage device such as a storage memory or a memory card or a hard disk device is used.
The image / sound / tag information recorded in this way can be played back in the car or in the room to watch with the passengers for further conversation, and can be quickly tagged at the point where the tag is desired. . You can search for recorded tags by tag information and play back images and sounds from the tagged position. It can also be used to edit the recorded audio / image / tag information and produce playback content for viewing.

さらに、車内音声と車外・車内のカメラ画像とを同時に収録しタグ付けされた音声・画像情報ソースは、画像処理や編集処理を行うコンテンツ制作に用いることができ、観賞用の再生コンテンツとして活用できる。
また、単に再生して見る場合でも、運転手として見られなかった画像を、同行者と共に見ながら会話をして楽しむこともでき、再生中にタグ付けをすることができる。またさらに、タグを検索することでタグ付けされた位置から再生して楽しむことができる。
Furthermore, audio / image information sources that are recorded and tagged simultaneously with in-vehicle audio and camera images inside and outside the vehicle can be used for content production for image processing and editing processing, and can be used as viewing content for viewing. .
In addition, even when the image is simply played back, it is possible to enjoy the conversation while watching the image that was not seen as the driver with the accompanying person, and tagging can be performed during the playback. Furthermore, by searching for a tag, it can be played back and enjoyed from the tagged position.

タグ付け検索指示手段であるタグ付け検索指示装置によって、タグ付けを行う場面としては、走行中に危険を感じるいわゆるヒヤリハットの場面、および、見事な山並みや波のせせらぎなどの美しい風景を通過中の場面などが挙げられる。前者の危険箇所の場面は、後日当該場所に差し掛かる場合、あるいは運転経路上に当該場所が含まれる場合などに、コンテンツとして運転者や同乗者に情報提示することにより、危険回避の効果を生み出すことができる。また、後者の美しい風景などの場面は、ドライブ後に自宅などで当該箇所のコンテンツを再生することによって回顧し、思い出に浸る効果を演出できることに加え、コンテンツを他者に紹介することで、他者へ当該場所の魅力を伝え、当該場所の観光スポットとしての価値を高めることもできる。   The tagging search instruction device, which is a tagging search instruction means, performs tagging as a scene of a so-called near-hat that feels dangerous while driving, and a beautiful landscape such as a stunning mountain range or a wave of waves. A scene is mentioned. For the former dangerous spot scene, when the location is approached at a later date or the location is included on the driving route, information is presented to the driver and passengers as content, creating a risk avoidance effect be able to. In addition, the latter scenes such as beautiful scenery can be retrospectively reproduced by playing the content of the relevant part at home after driving, producing an effect that soaks in memories, and by introducing the content to others, It is also possible to convey the charm of the place and increase its value as a tourist spot.

以下図8Aを参照して、本発明による車内会話支援システムで用いるタグ付け検索指示手段の第1の実施形態を説明する。
図8Aは、運転者がタグ付けを行う場合の例を示している。運転者が行うタグ付け操作は、安全運転のために運転操作に影響を及ぼすことのない負荷の低い操作であることが求められるため、少数のスイッチからなるタグ付け検索指示装置によるタグ付け操作が適切である。この例は、小さな子供がボールを追って車道に飛び出した場面であり、危険を感じた運転者が、この付近は小さな子供の飛び出しという危険因子を含んだ場所であると認識し、運転席横のスイッチボックスのスイッチを押して、「危険箇所」というタグを付与している。このような簡易なスイッチによって、「危険箇所」「美しい風景」という大局的な種類のタグを付与することだけでも、膨大な長さの収録データにおいて意味のあるところだけをマーキングすることに相当し、コンテンツ作成の効率化に貢献できる。
Hereinafter, a first embodiment of the tagging search instruction means used in the in-vehicle conversation support system according to the present invention will be described with reference to FIG. 8A.
FIG. 8A shows an example where the driver performs tagging. Since the tagging operation performed by the driver is required to be a low-load operation that does not affect the driving operation for safe driving, the tagging operation by the tagging search instruction device composed of a small number of switches is not required. Is appropriate. In this example, a small child jumped on the road following the ball, and the driver who felt danger recognized that this area was a place that included a risk factor that a small child would jump out. The switch of the switch box is pushed and the tag "dangerous point" is given. Even with such a simple switch, it is equivalent to marking only meaningful places in enormous lengths of recorded data, just by giving tags of the general types of “dangerous spots” and “beautiful scenery”. , Can contribute to efficient content creation.

次に図8Bを参照して、本発明による車内会話支援システムで用いるタグ付け検索指示手段の第2の実施形態を説明する。
図8Bは、運転者以外の同乗者がタグ付けを行う場合の例を示している。同乗者が行うタグ付け操作は、運転者が行う操作と比べて高い自由度で設計できる。スイッチボックスによるタグ付けでは、スイッチの数を大幅に増やすことも可能であり、より詳細な情報をタグとして付与できる。また、座席に搭載されている座席マイクによって収録した同乗者の発話をタグ付け検索指示装置の音声認識装置で音声認識することにより、音声入力によるタグ付けも可能である。この場合、「危険箇所」「美しい風景」というタグの種類の発声の認識によって、スイッチによる指示と同じタグを付与できることに加え、発話をディクテーションすることにより、当該箇所の説明をテキスト情報のタグとして付与することも可能である。このテキスト情報は、コンテンツ閲覧時に検索キーワードとのマッチングに利用することで、コンテンツ検索の効率化、および信頼性向上にも寄与できる。
Next, a second embodiment of the tagging search instruction means used in the in-car conversation support system according to the present invention will be described with reference to FIG. 8B.
FIG. 8B shows an example where a passenger other than the driver performs tagging. The tagging operation performed by the passenger can be designed with a higher degree of freedom than the operation performed by the driver. Tagging with a switch box can greatly increase the number of switches, and more detailed information can be given as tags. Tagging by voice input is also possible by recognizing a passenger's utterance recorded by a seat microphone mounted on the seat with a voice recognition device of a tagging search instruction device. In this case, by recognizing the utterances of the tag types of “dangerous part” and “beautiful scenery”, in addition to being able to give the same tag as the instruction by the switch, by dictating the utterance, the explanation of the part can be used as a tag of text information It is also possible to grant. By using this text information for matching with a search keyword when browsing the content, it is possible to contribute to the efficiency and reliability of the content search.

本発明による車内会話支援システムは、基本的には自動車産業さらには、交通運輸、ツーリングのサービスの分野でも広く利用できる。   The in-car conversation support system according to the present invention can basically be widely used in the fields of the automobile industry, transportation, and touring.

本発明による車内会話支援システム(第1の実施形態)の概念図である。1 is a conceptual diagram of an in-car conversation support system (first embodiment) according to the present invention. 共用天井スピーカ、個別マイクの車内環境(車内環境A)の場合の車内会話支援システム(第1の実施形態)のブロック図である。It is a block diagram of the in-vehicle conversation support system (first embodiment) in the case of an in-vehicle environment (in-vehicle environment A) of a shared ceiling speaker and an individual microphone. 共用天井マイク、個別スピーカの車内環境(車内環境B)の場合の車内会話支援システム(第2の実施形態)のブロック図である。It is a block diagram of the in-vehicle conversation support system (2nd Embodiment) in the case of the in-vehicle environment (in-vehicle environment B) of a common ceiling microphone and an individual speaker. 本発明による車内会話支援システムの第1の実施形態の車内配置の略図と音響処理部の回路図を同時に示した図である。It is the figure which showed simultaneously the schematic of the arrangement | positioning in a vehicle of 1st Embodiment of the in-vehicle conversation assistance system by this invention, and the circuit diagram of a sound processing part. 本発明による車内会話支援システムの第2の実施形態の車内配置の略図と音響処理部の回路図を同時に示した図である。It is the figure which showed simultaneously the schematic of the arrangement | positioning in a vehicle of 2nd Embodiment of the in-vehicle conversation assistance system by this invention, and the circuit diagram of a sound processing part. 本発明によるシステムで利用する複数のカメラを配置する例を示す平面図である。It is a top view which shows the example which arrange | positions the several camera utilized with the system by this invention. 本発明によるシステムにおいて付加する装置の例を示すブロック図である。It is a block diagram which shows the example of the apparatus added in the system by this invention. 本発明によるシステムで用いる画像処理装置と画像合成変換装置を説明するためのブロック図である。It is a block diagram for demonstrating the image processing apparatus and image composition conversion apparatus which are used with the system by this invention. 本発明によるシステムで利用する装置の短い一定時間の巻き戻し再生機能を説明するための図である。It is a figure for demonstrating the rewind reproduction | regeneration function of the short fixed time of the apparatus utilized with the system by this invention. 本発明によるシステムで利用するタグ付け検索指示手段の第1の実施形態を説明するための図である。It is a figure for demonstrating 1st Embodiment of the tagging search instruction | indication means utilized with the system by this invention. 本発明によるシステムで利用するタグ付け検索指示手段の第2の実施形態を説明するための図である。It is a figure for demonstrating 2nd Embodiment of the tagging search instruction | indication means utilized with the system by this invention.

符号の説明Explanation of symbols

101〜104 車外カメラ
105〜106 車内カメラ
101-104 Outside camera 105-106 Inside camera

Claims (14)

話者が他の話者が発した生音とスピーカからの拡声音を聴取する車内環境での車内会話支援システムであって、
車内に配置される複数の個別マイクまたは共通マイクと、
車内に配置される共通スピーカまたは複数の個別スピーカと、
ハウリング防止用のフィルタ部と先行音効果用の遅延部からなる補正部および調整部を含み、前記個別マイクまたは共通マイクの出力を補正部により補正し、前記調整部で増幅して前記共通スピーカまたは個別スピーカに接続する音響処理部と、
から構成した車内会話支援システム。
An in-car conversation support system in an in-car environment where a speaker listens to live sound from other speakers and loud sound from a speaker,
A plurality of individual microphones or common microphones arranged in the vehicle;
A common speaker or a plurality of individual speakers arranged in the vehicle;
A correction unit including a filter unit for preventing howling and a delay unit for effect of preceding sound, and an adjustment unit, wherein the output of the individual microphone or the common microphone is corrected by the correction unit and amplified by the adjustment unit, and the common speaker or An acoustic processing unit connected to individual speakers;
An in-car conversation support system consisting of
話者が他の話者が発した生音とスピーカからの拡声音を聴取する車内環境での車内会話支援システムであって、
車内に話者ごとに配置される複数の車内マイクと、
車内に各話者共通に設けられた共通スピーカと、
ハウリング防止用のフィルタ部と先行音効果用の遅延部からなる補正部および調整部を含み、前記車内マイクの出力を補正部により補正し、前記調整部で増幅して前記共通スピーカに接続する音響処理部と、
から構成した車内会話支援システム。
An in-car conversation support system in an in-car environment where a speaker listens to live sound from other speakers and loud sound from a speaker,
A plurality of in-car microphones arranged for each speaker in the car,
A common speaker installed in the car for each speaker,
A sound that includes a correction unit and an adjustment unit including a filter unit for preventing howling and a delay unit for preceding sound effect, corrects the output of the in-vehicle microphone by the correction unit, amplifies the adjustment unit, and connects to the common speaker A processing unit;
An in-car conversation support system consisting of
話者が他の話者が発した生音とスピーカからの拡声音を聴取する車内環境での車内会話支援システムであって、
車内に配置される複数の個別スピーカと、
車内に各話者に共通に設けられた共通マイクと、
ハウリング防止用のフィルタ部と先行音効果用の遅延部からなる補正部および調整部を含み、前記共通マイクの出力を補正部により補正し、前記調整部で増幅して前記個別スピーカに接続する音響処理部と、
から構成した車内会話支援システム。
An in-car conversation support system in an in-car environment where a speaker listens to live sound from other speakers and loud sound from a speaker,
A plurality of individual speakers arranged in the vehicle;
A common microphone that is shared by each speaker in the car,
A sound that includes a correction unit and an adjustment unit including a filter unit for preventing howling and a delay unit for the preceding sound effect, and corrects the output of the common microphone by the correction unit, and amplifies and adjusts the output from the adjustment unit to the individual speaker. A processing unit;
An in-car conversation support system consisting of
前記共通スピーカは車内の天井に配置された天井スピーカであり、
前記複数の個別マイクは話者の座席に関連して配置された車内マイクであり、
前記ハウリング防止用のフィルタ部のフィルタは前記天井スピーカを囲む閉曲面上の点と前記任意の車内マイク間の音響伝達特性を持つFIR 、あるいはIIR フィルタであり、
前記フィルタ部は前記音響処理部内の帰還キャンセルループに配置されている、
請求項2記載の車内会話支援システム。
The common speaker is a ceiling speaker arranged on a ceiling in a vehicle,
The plurality of individual microphones are in-vehicle microphones arranged in relation to a speaker's seat,
The filter of the filter unit for preventing howling is a FIR having an acoustic transfer characteristic between a point on a closed curved surface surrounding the ceiling speaker and the arbitrary in-vehicle microphone, or an IIR filter,
The filter unit is arranged in a feedback cancellation loop in the acoustic processing unit,
The in-vehicle conversation support system according to claim 2.
前記共通マイクは車内の天井に配置された天井マイクであり、
前記複数の個別スピーカは話者の座席に関連して配置された車内スピーカであり、
前記ハウリング防止用のフィルタ部のフィルタは前記天井マイクを囲む閉曲面上の点と前記任意の車内スピーカ間の音響伝達特性を持つFIR 、あるいはIIR フィルタであり、
前記マイク出力はフィルタされて各車内スピーカチャンネルごとに加算される、
請求項3記載の車内会話支援システム。
The common microphone is a ceiling microphone arranged on the ceiling in the vehicle,
The plurality of individual speakers are in-vehicle speakers arranged in relation to a speaker's seat;
The filter of the filter unit for preventing howling is a FIR having a sound transfer characteristic between a point on a closed curved surface surrounding the ceiling microphone and the arbitrary speaker in the vehicle, or an IIR filter,
The microphone output is filtered and added for each in-vehicle speaker channel.
The in-vehicle conversation support system according to claim 3.
請求項4または5記載の車内会話支援システムにおいて、
前記音響処理部のフィルタの特性は、前記個別マイクまたは個別スピーカと対応閉曲面上の点間の音響伝達特性、またはインパルス応答の実測値に基づいてパラメータ設定部により予め設定した車内会話支援システム。
The in-car conversation support system according to claim 4 or 5,
The in-vehicle conversation support system in which the filter characteristic of the acoustic processing unit is preset by the parameter setting unit based on the acoustic transmission characteristic between the individual microphone or individual speaker and a point on the corresponding closed curved surface, or the measured value of the impulse response.
請求項1〜6記載の車内会話支援システムは、さらに
車外マイクまたは運転制御用の車載コンピュータのデータに基づいて運転環境を検出または推定する走行状態検出部を含み、
前記検出部により前記音響処理部の調整部を制御する車内会話支援システム。
The in-vehicle conversation support system according to any one of claims 1 to 6 further includes a traveling state detection unit that detects or estimates a driving environment based on data from an external vehicle microphone or an in-vehicle computer for driving control.
An in-vehicle conversation support system in which the detection unit controls the adjustment unit of the acoustic processing unit.
請求項1〜7記載の車内会話支援システムは、さらに
前記音響処理部の調整部の増幅器に音声信号を入力する音声信号入力端子を設け、前記システムの外部の音声信号を接続可能にした車内会話支援システム。
The in-vehicle conversation support system according to claim 1, further comprising an audio signal input terminal for inputting an audio signal to an amplifier of the adjustment unit of the acoustic processing unit, and enabling connection of an audio signal outside the system. Support system.
請求項1〜8記載の車内会話支援システムにおいて、さらに
車外の全方位画像と車内の画像を獲得する2以上のカメラと、
前記マイクの出力と前記カメラの出力と関連音声信号を同時に記録再生可能である記録再生装置と、
前記記録再生装置の記録/再生選択する指示手段と、
前記記録再生装置の画像出力を表示する複数の表示装置と、
を付加した構成からなり、
前記関連音声信号は直接または再生後に前記音声信号入力端子に接続される、
ように構成した車内会話支援システム。
The in-vehicle conversation support system according to claim 1, further comprising two or more cameras for acquiring an omnidirectional image outside the vehicle and an image inside the vehicle,
A recording / reproducing apparatus capable of simultaneously recording and reproducing the output of the microphone, the output of the camera, and a related audio signal;
Instruction means for selecting recording / reproduction of the recording / reproducing apparatus;
A plurality of display devices for displaying the image output of the recording / reproducing device;
It is composed of
The related audio signal is connected to the audio signal input terminal directly or after reproduction,
In-car conversation support system configured as described above.
請求項9記載の車内会話支援システムにおいて、さらに
前記カメラの画像処理を行う画像処理装置と、
前記カメラ画像のどの部分を切り出し画像処理させるかを指示する指示手段と、
画像処理前/後の画像表示を選択する画像選択手段と、
を設けて構成した車内会話支援システム。
The in-vehicle conversation support system according to claim 9, further comprising: an image processing device that performs image processing of the camera;
Instruction means for instructing which part of the camera image is to be cut out and processed;
Image selection means for selecting image display before / after image processing;
An in-car conversation support system.
請求項9または請求項10記載の車内会話支援システムにおいて、さらに
前記記録再生装置は、記録/再生中に画像や音声の付加情報として時間軸方向にタグ付けできる機能を持ち、さらに記録されたタグを時間軸方向に対して検索できる機能を持ち、
さらに検索したタグ位置からの再生が可能である機能を持ち、
前記記録再生装置にタグ付けを指示したり記録したタグの検索を指示するタグ付け検索指示手段と、
を設けて構成した車内会話支援システム。
11. The in-vehicle conversation support system according to claim 9 or 10, wherein the recording / reproducing apparatus has a function capable of tagging in the time axis direction as additional information of an image or sound during recording / reproduction, and the recorded tag Has a function to search for the time axis direction,
Furthermore, it has a function that allows playback from the searched tag position,
Tagging search instruction means for instructing the recording / reproducing apparatus to instruct tagging or to search for a recorded tag;
An in-car conversation support system.
請求項11記載の車内会話支援システムにおいて、
前記タグ付け検索指示手段は、限定された複数個の専用スイッチであるか特定の言葉を認識する音声認識装置であり、乗車席ごとに設けられ、
前記表示装置は、乗車席ごとに設けられ、
るように構成した車内会話支援システム。
The in-vehicle conversation support system according to claim 11,
The tagging search instruction means is a voice recognition device that recognizes a specific word or a plurality of limited dedicated switches, provided for each passenger seat,
The display device is provided for each passenger seat,
In-car conversation support system configured as described above.
請求項9から請求項12のいずれか記載の車内会話支援システムにおいて、さらに
専用の指示手段の指示により、指示のあった時間以前に記録・再生した画像・音声を
時間遅延させて特定の一定時間範囲で再生できる機能を持つ
ように構成した車内会話支援システム。
The in-vehicle conversation support system according to any one of claims 9 to 12, further comprising a specific instruction means that delays images / sounds recorded / reproduced before the designated time by a specific instruction by an instruction from a dedicated instruction means. In-car conversation support system configured to have a function that can be played back in a range.
請求項9から請求項13のいずれか記載の車内会話支援システムにおいて、さらに
画像を選択する指示手段と、
前記記録再生装置の音声・画像出力から選択した複数の画像を分割表示用の画像に合成変換する画像合成変換装置と、
を付加した構成からなる車内会話支援システム。
The in-car conversation support system according to any one of claims 9 to 13, further comprising an instruction means for selecting an image,
An image synthesizing / converting device for synthesizing and converting a plurality of images selected from the audio / image output of the recording / reproducing device into images for split display;
An in-car conversation support system with a configuration with
JP2006212078A 2006-08-03 2006-08-03 In-vehicle conversation support system Pending JP2008042390A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006212078A JP2008042390A (en) 2006-08-03 2006-08-03 In-vehicle conversation support system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006212078A JP2008042390A (en) 2006-08-03 2006-08-03 In-vehicle conversation support system

Publications (1)

Publication Number Publication Date
JP2008042390A true JP2008042390A (en) 2008-02-21

Family

ID=39176949

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006212078A Pending JP2008042390A (en) 2006-08-03 2006-08-03 In-vehicle conversation support system

Country Status (1)

Country Link
JP (1) JP2008042390A (en)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011108620A1 (en) * 2010-03-02 2011-09-09 Ricoh Company, Limited Image processing device and image capturing device
US9305555B2 (en) 2012-06-25 2016-04-05 Mitsubishi Electric Corporation Onboard information device
JP2017146207A (en) * 2016-02-17 2017-08-24 アルパイン株式会社 On-vehicle device
US9947334B2 (en) 2014-12-12 2018-04-17 Qualcomm Incorporated Enhanced conversational communications in shared acoustic space
JP2018076035A (en) * 2016-11-11 2018-05-17 トヨタ自動車株式会社 Conversation support device for vehicle
JP2018088641A (en) * 2016-11-29 2018-06-07 ヤマハ株式会社 Conversation assist device
JP2018164133A (en) * 2017-03-24 2018-10-18 ヤマハ株式会社 Audio signal processing device
JP2019523726A (en) * 2016-05-24 2019-08-29 ジェンテックス コーポレイション Vehicle display with selected image data display
WO2020017284A1 (en) * 2018-07-17 2020-01-23 日本電信電話株式会社 Sound collecting loudspeaker device, method for same, and program
WO2020026726A1 (en) * 2018-08-02 2020-02-06 日本電信電話株式会社 Sound collecting/amplifying device, method therefor, and program
US10812901B2 (en) 2016-09-30 2020-10-20 Yamaha Corporation Conversation assist apparatus and conversation assist method
JP2020198617A (en) * 2020-08-12 2020-12-10 ヤマハ株式会社 Conversation assist apparatus
JP2021044660A (en) * 2019-09-10 2021-03-18 ヤマハ株式会社 Acoustic device and vehicle
EP3687160A4 (en) * 2017-09-22 2021-05-05 LG Innotek Co., Ltd. Around-view image control device and around-view image processing method therefor
WO2021186631A1 (en) * 2020-03-18 2021-09-23 日本電信電話株式会社 Sound source location determination device, sound source location determination method, and program
DE102020107540A1 (en) 2020-03-19 2021-09-23 Audi Aktiengesellschaft System and method for the transmission of speech in a vehicle

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06303063A (en) * 1993-04-16 1994-10-28 Clarion Co Ltd On-vehicle audio reproduction device
JPH11112968A (en) * 1997-10-01 1999-04-23 Harness Syst Tech Res Ltd Monitor for environment inside and outside of vehicle
JPH11298853A (en) * 1998-04-13 1999-10-29 Matsushita Electric Ind Co Ltd Driving situation recording device
JP2003174699A (en) * 2001-09-27 2003-06-20 Nissan Motor Co Ltd Voice input and output device
JP2003250192A (en) * 2002-02-21 2003-09-05 Yamaha Corp Loudspeaking unit and indoor loudspeaking system
JP2004153498A (en) * 2002-10-30 2004-05-27 Konica Minolta Holdings Inc Imaging and output system and method for imaging
JP2004158950A (en) * 2002-11-05 2004-06-03 Nippon Telegr & Teleph Corp <Ntt> Recording video image automatic generating system, recording video image automatic generating method, recording video image automatic generating program, and recording medium for the recording video image automatic generating program
JP2004537232A (en) * 2001-07-20 2004-12-09 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ Acoustic reinforcement system with a post-processor that suppresses echoes of multiple microphones
JP2005109928A (en) * 2003-09-30 2005-04-21 Dowango:Kk Electronic conference system and electronic conference management method

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06303063A (en) * 1993-04-16 1994-10-28 Clarion Co Ltd On-vehicle audio reproduction device
JPH11112968A (en) * 1997-10-01 1999-04-23 Harness Syst Tech Res Ltd Monitor for environment inside and outside of vehicle
JPH11298853A (en) * 1998-04-13 1999-10-29 Matsushita Electric Ind Co Ltd Driving situation recording device
JP2004537232A (en) * 2001-07-20 2004-12-09 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ Acoustic reinforcement system with a post-processor that suppresses echoes of multiple microphones
JP2003174699A (en) * 2001-09-27 2003-06-20 Nissan Motor Co Ltd Voice input and output device
JP2003250192A (en) * 2002-02-21 2003-09-05 Yamaha Corp Loudspeaking unit and indoor loudspeaking system
JP2004153498A (en) * 2002-10-30 2004-05-27 Konica Minolta Holdings Inc Imaging and output system and method for imaging
JP2004158950A (en) * 2002-11-05 2004-06-03 Nippon Telegr & Teleph Corp <Ntt> Recording video image automatic generating system, recording video image automatic generating method, recording video image automatic generating program, and recording medium for the recording video image automatic generating program
JP2005109928A (en) * 2003-09-30 2005-04-21 Dowango:Kk Electronic conference system and electronic conference management method

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011180925A (en) * 2010-03-02 2011-09-15 Ricoh Co Ltd Image processing device, imaging device and image processing method
US8982243B2 (en) 2010-03-02 2015-03-17 Ricoh Company, Limited Image processing device and image capturing device
WO2011108620A1 (en) * 2010-03-02 2011-09-09 Ricoh Company, Limited Image processing device and image capturing device
US9305555B2 (en) 2012-06-25 2016-04-05 Mitsubishi Electric Corporation Onboard information device
US9947334B2 (en) 2014-12-12 2018-04-17 Qualcomm Incorporated Enhanced conversational communications in shared acoustic space
JP2017146207A (en) * 2016-02-17 2017-08-24 アルパイン株式会社 On-vehicle device
JP2019523726A (en) * 2016-05-24 2019-08-29 ジェンテックス コーポレイション Vehicle display with selected image data display
US10812901B2 (en) 2016-09-30 2020-10-20 Yamaha Corporation Conversation assist apparatus and conversation assist method
US10932042B2 (en) 2016-09-30 2021-02-23 Yamaha Corporation Conversation assist apparatus and conversation assist method
JP2018076035A (en) * 2016-11-11 2018-05-17 トヨタ自動車株式会社 Conversation support device for vehicle
JP2018088641A (en) * 2016-11-29 2018-06-07 ヤマハ株式会社 Conversation assist device
JP2018164133A (en) * 2017-03-24 2018-10-18 ヤマハ株式会社 Audio signal processing device
EP3687160A4 (en) * 2017-09-22 2021-05-05 LG Innotek Co., Ltd. Around-view image control device and around-view image processing method therefor
US11546555B2 (en) 2017-09-22 2023-01-03 Lg Innotek Co., Ltd. Around-view image control device and around-view image processing method therefor
WO2020017284A1 (en) * 2018-07-17 2020-01-23 日本電信電話株式会社 Sound collecting loudspeaker device, method for same, and program
JP2020014072A (en) * 2018-07-17 2020-01-23 日本電信電話株式会社 Sound collection device, and method and program thereof
JP7124506B2 (en) 2018-07-17 2022-08-24 日本電信電話株式会社 Sound collector, method and program
WO2020026726A1 (en) * 2018-08-02 2020-02-06 日本電信電話株式会社 Sound collecting/amplifying device, method therefor, and program
CN112514416A (en) * 2018-08-02 2021-03-16 日本电信电话株式会社 Sound pickup and amplification device, method thereof, and program
CN112514416B (en) * 2018-08-02 2022-06-07 日本电信电话株式会社 Sound pickup and amplification device, method thereof, and recording medium
JP2020022114A (en) * 2018-08-02 2020-02-06 日本電信電話株式会社 Sound collection loudspeaker, method therefor, and program
JP2021044660A (en) * 2019-09-10 2021-03-18 ヤマハ株式会社 Acoustic device and vehicle
JP7383944B2 (en) 2019-09-10 2023-11-21 ヤマハ株式会社 Sound equipment and vehicles
WO2021186631A1 (en) * 2020-03-18 2021-09-23 日本電信電話株式会社 Sound source location determination device, sound source location determination method, and program
DE102020107540A1 (en) 2020-03-19 2021-09-23 Audi Aktiengesellschaft System and method for the transmission of speech in a vehicle
JP2020198617A (en) * 2020-08-12 2020-12-10 ヤマハ株式会社 Conversation assist apparatus

Similar Documents

Publication Publication Date Title
JP2008042390A (en) In-vehicle conversation support system
US10848889B2 (en) Intelligent audio rendering for video recording
US10657982B2 (en) Control parameter dependent audio signal processing
EP2795931B1 (en) An audio lens
US8705753B2 (en) System for processing sound signals in a vehicle multimedia system
JP4551652B2 (en) Sound field reproduction apparatus and sound field space reproduction system
JP6611474B2 (en) Sound collector and control method of sound collector
JP2008035472A (en) In-vehicle outside-vehicle acoustic transmission system
JP5014662B2 (en) On-vehicle speech recognition apparatus and speech recognition method
JP2007019980A (en) Audio sound calming device
JP7049803B2 (en) In-vehicle device and audio output method
US10998870B2 (en) Information processing apparatus, information processing method, and program
JP4513610B2 (en) In-vehicle device and method for controlling in-vehicle device
US10728691B2 (en) Apparatus and method for generating virtual venues for a listening room
JP2003317455A (en) Information reproducing apparatus and information reproducing method
JP2010034755A (en) Acoustic processing apparatus and acoustic processing method
JP2010163054A (en) Conversation support device and conversation support method
JP2008236397A (en) Acoustic control system
JP2006081061A (en) Audio output device and audio/video output device
JP2010124435A (en) Device for assisting conversation in vehicle
JP4289175B2 (en) Portable equipment
JP6658887B2 (en) An in-car sound system using a musical instrument, an in-car sound method using a musical instrument, an in-car sound device, and an in-car sound system.
JP2005333191A (en) Portable terminal television receiver
JP2005047479A (en) On-vehicle five-channel audio device
KR102650763B1 (en) Psychoacoustic enhancement based on audio source directivity

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090512

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090929