JP2017216736A - Picture processing system - Google Patents

Picture processing system Download PDF

Info

Publication number
JP2017216736A
JP2017216736A JP2017153833A JP2017153833A JP2017216736A JP 2017216736 A JP2017216736 A JP 2017216736A JP 2017153833 A JP2017153833 A JP 2017153833A JP 2017153833 A JP2017153833 A JP 2017153833A JP 2017216736 A JP2017216736 A JP 2017216736A
Authority
JP
Japan
Prior art keywords
image
vertical synchronization
signal
camera modules
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017153833A
Other languages
Japanese (ja)
Inventor
一孝 本橋
Kazutaka Motohashi
一孝 本橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SMK Corp
Original Assignee
SMK Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SMK Corp filed Critical SMK Corp
Priority to JP2017153833A priority Critical patent/JP2017216736A/en
Publication of JP2017216736A publication Critical patent/JP2017216736A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a picture processing system for synchronizing imaging operation of a plurality of camera modules to synthesize, in real time, pictures imaged by the plurality of camera modules and output a synthesized picture to a monitor.SOLUTION: A picture processing system comprises: a plurality of camera modules CA1 to CA4, each of which includes an imaging unit for imaging a picture at timing of a vertical synchronization signal at a fixed cycle and a phase control unit for controlling a phase of the vertical synchronization signal, the camera modules outputting vertical synchronization signals together with picture signals obtained by imaging pictures having imaging visual fields differing from each other; picture synthesis means for synthesizing the pictures imaged by the respective camera modules to create a single synthesis picture; phase monitoring means for comparing phases of the vertical synchronization signals output from the respective camera modules; and relative phase control means for outputting a relative phase control signal to the respective camera modules so that the vertical synchronization signals of the respective camera modules are synchronized. The picture synthesis means synthesizes the pictures imaged by the respective camera modules at timing of the vertical synchronization signals on which synchronization control is performed to create the single synthesis picture.SELECTED DRAWING: Figure 2

Description

本発明は、撮像視野の異なる複数の画像から合成して一枚の合成画像を生成する画像処理システムに関し、更に詳しくは、連続生成した合成画像を動画像としてモニターへ出力する画像処理システムに関する。   The present invention relates to an image processing system that generates a single composite image by combining a plurality of images having different imaging fields of view, and more particularly to an image processing system that outputs a continuously generated composite image to a monitor as a moving image.

車両の運転支援システムとして、図1に示すように、撮像視野の異なる車両50の周囲を複数のカメラモジュールCA1〜CA4が一定周期で撮像し、各カメラモジュールCA1〜CA4が撮像した画像から車両50の周囲を俯瞰する一枚の俯瞰画像を合成し、連続生成した俯瞰画像を動画像として運転席周囲に設置された表示装置へ表示する画像処理システムが知られている。   As a vehicle driving support system, as shown in FIG. 1, a plurality of camera modules CA <b> 1 to CA <b> 4 capture images around a vehicle 50 with different imaging fields of view at a constant period, and the vehicle 50 is obtained from images captured by the camera modules CA <b> 1 to CA <b> 4. There is known an image processing system that synthesizes a single bird's-eye view image overlooking the surroundings of the vehicle and displays the continuously generated bird's-eye view image as a moving image on a display device installed around the driver's seat.

複数のカメラモジュールCA1〜CA4が撮像した画像を一枚の合成画像に合成する場合には、合成する複数の画像間の同期をとる必要があり、従来、個々のカメラモジュールCA1〜CA4から非同期で出力される画像を表す画像信号をバッファへ一次記憶しておき、バッファに記憶される多数の画像信号から、画像信号とともに入力される垂直同期信号Vsyncの位相が互いに近似する各カメラモジュールCA1〜CA4の画像を選択して読み出し、選択した画像を合成している(特許文献1)。すなわち、バッファに記憶される記憶時間で各画像間の位相差を解消し、各カメラモジュールCA1〜CA4から入力される各画像の同期をとって合成画像を生成している。   When images captured by a plurality of camera modules CA1 to CA4 are combined into a single combined image, it is necessary to synchronize the plurality of images to be combined. Conventionally, it is asynchronous from the individual camera modules CA1 to CA4. An image signal representing an output image is temporarily stored in a buffer, and each of the camera modules CA1 to CA4 whose phases of the vertical synchronization signal Vsync input together with the image signal are approximate to each other from a large number of image signals stored in the buffer. These images are selected and read out, and the selected images are synthesized (Patent Document 1). That is, the phase difference between the images is eliminated in the storage time stored in the buffer, and the synthesized images are generated by synchronizing the images input from the camera modules CA1 to CA4.

特開2006−180340号公報JP 2006-180340 A

特許文献1に記載の従来の画像処理システムでは、相互に非同期な複数のカメラモジュールCA1〜CA4からの画像をバッファへ一時記憶するので、各カメラモジュールCA1〜CA4から入力される画像のうち、最も位相が遅れて入力される画像に合わせて合成画像が生成され、モニターに表示するまでの遅延時間が生じる。   In the conventional image processing system described in Patent Document 1, since images from a plurality of camera modules CA1 to CA4 that are asynchronous with each other are temporarily stored in a buffer, among the images input from the camera modules CA1 to CA4, the most A composite image is generated in accordance with an image input with a phase delay, and a delay time occurs until it is displayed on the monitor.

このような画像処理システムが車両の車庫入れや幅寄せ等のドライバーの視覚を補う運転支援システムの用途として用いられている限りは問題がないが、高速に車両に接近する物体を検知し事故防止処置をとる目的で使用される画像処理システムでは、可能な限りのリアルタイム性が求められ、バッファーに一時記憶することによる遅延は看過できない。   There is no problem as long as such an image processing system is used as a driver assistance system that supplements the driver's vision, such as garage entry and width adjustment of vehicles, but accidents can be prevented by detecting objects approaching the vehicle at high speed. In an image processing system used for the purpose of taking a treatment, real-time characteristics as much as possible are required, and a delay due to temporary storage in a buffer cannot be overlooked.

更に、各カメラモジュールCA1〜CA4で撮像するタイミングは非同期であるので、瞬間的に障害物が発生した場合に、一部のカメラモジュールでは撮像できず、合成画像が連続しないという問題が生じる。例えば、各カメラモジュールCA1〜CA4は、30フレーム(画像)/秒の33msecの周期で画像合成装置側に画像を出力するので、モニターに出力されるまで、撮像視野が隣り合う画像間で最大33/2msec、1画像の両側に隣り合う3画像全体画像間で最大33msecの遅延が生じ、その間に接近する障害物を撮像できないことがあり、このために事故防止処置をとることができず、記録した動画から事故原因を解明することもできない場合がある。   Furthermore, since the timing of capturing images by the camera modules CA1 to CA4 is asynchronous, there is a problem that when an obstacle occurs instantaneously, some of the camera modules cannot capture images and the composite images are not continuous. For example, each of the camera modules CA1 to CA4 outputs an image to the image synthesizing apparatus side at a cycle of 33 msec of 30 frames (images) / second. / 2 msec, a delay of up to 33 msec occurs between all three adjacent images on both sides of one image, and an obstacle approaching between them may not be imaged. Therefore, accident prevention measures cannot be taken and recording In some cases, the cause of the accident cannot be clarified from the video.

このような課題は、本質的に画像を合成する装置側では解決できず、各カメラモジュールCA1〜CA4の撮像動作自体を同期させなければならない。そこで、各カメラモジュールCA1〜CA4へ同時に起動信号を出力して起動させ、各カメラモジュールCA1〜CA4の撮像動作を同期させる方法や、各カメラモジュールCA1〜CA4へ共通の同期信号を出力し、各カメラモジュールCA1〜CA4で共通する同期信号により撮像動作を行わせる方法が検討された。   Such a problem cannot be solved essentially on the side of an apparatus that synthesizes images, and the imaging operations themselves of the camera modules CA1 to CA4 must be synchronized. Therefore, a method of synchronizing the imaging operation of each camera module CA1 to CA4 by outputting an activation signal simultaneously to each camera module CA1 to CA4 and outputting a common synchronization signal to each camera module CA1 to CA4, and A method of performing an imaging operation using a synchronization signal common to the camera modules CA1 to CA4 has been studied.

しかしながら、前者の方法は、各カメラモジュールCA1〜CA4が、通常は個別にPLL(位相同期制御回路)を備えているので、一斉に起動させてもクロックを同期させることが困難であり、また、一時的に同期させても、各カメラモジュールに内蔵の水晶発振器によるクロックが経過時間とともにずれて、撮像タイミングを定める垂直同期信号の位相がずれる。   However, in the former method, since each of the camera modules CA1 to CA4 is usually provided with a PLL (phase synchronization control circuit) individually, it is difficult to synchronize the clocks even if they are activated all at once. Even if they are temporarily synchronized, the clock of the crystal oscillator built in each camera module shifts with the elapsed time, and the phase of the vertical synchronization signal that determines the imaging timing shifts.

また、後者の方法では、共通する同期信号を生成する同期信号発生部が必要となるためにシステム全体の構成が複雑化するとともに、各カメラモジュールCA1〜CA4毎に同期信号に対する応答時間が異なるので、各カメラモジュールCA1〜CA4で生成する垂直同期信号に位相差が生じる場合がある。   Further, the latter method requires a synchronization signal generating unit for generating a common synchronization signal, which complicates the configuration of the entire system, and the response time for the synchronization signal differs for each camera module CA1 to CA4. In some cases, a phase difference occurs in the vertical synchronization signal generated by each of the camera modules CA1 to CA4.

更に、既存のカメラモジュールは、内蔵クロックから撮像タイミングを定める垂直同期信号を生成しているので、大幅に改造しなければ既存のカメラモジュールを用いることができない。   Furthermore, since the existing camera module generates a vertical synchronization signal that determines the imaging timing from the built-in clock, the existing camera module cannot be used without significant modification.

更に、上述のように各カメラモジュールが33msecの周期で画像合成装置側に画像を出力する場合には、最大33msecの位相ずれが生じる可能性があるにもかかわらず、既存のカメラモジュールでは、一度に数10μsec程度の垂直同期信号の位相の補正が限界であり、全てのカメラモジュールの垂直同期信号を外部から同期制御することは極めて困難と考えられていた。   Furthermore, as described above, when each camera module outputs an image to the image synthesizing apparatus side at a cycle of 33 msec, a phase shift of a maximum of 33 msec may occur. In addition, the correction of the phase of the vertical synchronization signal of about several tens of μsec is the limit, and it has been considered extremely difficult to control the vertical synchronization signals of all camera modules from the outside.

以上の理由から、合成画像にリアルタイム性が要望されながら、既存のカメラモジュールを大幅に改良することなくこれを実現することはできなかった。   For these reasons, real-time performance is required for the composite image, but this cannot be realized without significantly improving the existing camera module.

本発明は、このような従来の問題点を考慮してなされたものであり、複数のカメラモジュールの撮像動作を同期させ、従ってリアルタイムに複数のカメラモジュールが撮像した画像を合成してモニターへ出力する画像処理システムを提供することを目的とする。   The present invention has been made in view of such conventional problems, and synchronizes the imaging operations of a plurality of camera modules. Therefore, the images captured by the plurality of camera modules are synthesized and output to the monitor in real time. An object of the present invention is to provide an image processing system.

また、既存のカメラモジュールの構造を大幅に改造することなく、全てのカメラモジュールの撮像動作を同期させることが可能な画像処理システムを提供することを目的とする。   It is another object of the present invention to provide an image processing system that can synchronize the imaging operations of all camera modules without significantly modifying the structure of an existing camera module.

上述の目的を達成するため、請求項1に記載の画像処理システムは、それぞれ、画像を同一周期で繰り返される垂直同期信号のタイミングで撮像する撮像部と、外部から入力される相対位相制御信号の制御内容に従って垂直同期信号の位相を補正する制御を繰り返す位相制御部を有し、撮像視野が異なる画像を撮像した画像の画像信号ととともに垂直同期信号を出力する複数のカメラモジュールと、複数の各カメラモジュールから出力される画像信号と垂直同期信号をもとに、複数の各カメラモジュールが撮像した画像を合成して一枚の合成画像を生成する画像合成手段と、画像合成手段が連続生成した合成画像を動画像としてモニターへ出力する動画出力手段とを備えた画像処理システムであって、複数のカメラモジュールとそれぞれ接続ケーブルでデイジーチェーン接続し、接続ケーブルを介して各カメラモジュールから出力される垂直同期信号の位相を、垂直同期信号と同一周期の基準信号Srと比較し、基準信号Srとの相対的な位相ずれを検出する位相監視手段と、
位相監視手段で監視する各カメラモジュールの垂直同期信号が基準信号Srに同期するように、前記相対的な位相ずれから、各カメラモジュール毎に位相を早め若しくは遅らせる相対位相制御信号を生成し、各カメラモジュールの位相制御部へ所定の周期で相対位相制御信号を出力する相対位相制御手段を更に備え、
画像合成手段は、基準信号Srに同期制御された垂直同期信号のタイミングで各カメラモジュールが撮像した画像を合成して一枚の合成画像を生成することを特徴とする。
In order to achieve the above-described object, an image processing system according to claim 1 includes an imaging unit that captures an image at a timing of a vertical synchronization signal that is repeated in the same period, and a relative phase control signal that is input from the outside. A plurality of camera modules that have a phase control unit that repeats control for correcting the phase of the vertical synchronization signal according to the control content, and that outputs a vertical synchronization signal together with an image signal of an image captured from a different field of view; Based on the image signal output from the camera module and the vertical synchronization signal, the image synthesizing unit for synthesizing the images captured by the plurality of camera modules to generate one synthesized image, and the image synthesizing unit continuously generated An image processing system having a moving image output means for outputting a composite image as a moving image to a monitor, which is connected to a plurality of camera modules. The phase of the vertical synchronization signal output from each camera module via the connection cable is compared with the reference signal Sr having the same cycle as the vertical synchronization signal, and the relative phase shift from the reference signal Sr Phase monitoring means for detecting,
From the relative phase shift, a relative phase control signal for advancing or delaying the phase for each camera module is generated so that the vertical synchronization signal of each camera module monitored by the phase monitoring unit is synchronized with the reference signal Sr. A relative phase control means for outputting a relative phase control signal at a predetermined period to the phase control unit of the camera module;
The image synthesizing unit is characterized by synthesizing the images captured by the camera modules at the timing of the vertical synchronization signal controlled to be synchronized with the reference signal Sr to generate one synthesized image.

相対位相制御手段は、位相監視手段で監視する各カメラモジュールの垂直同期信号が同期するように各カメラモジュールの位相制御部へ所定の周期で相対位相制御信号を出力するので、各カメラモジュールの位相制御部は、相対位相制御信号を入力する毎に垂直同期信号の位相を他のカメラモジュールの垂直同期信号と同期させる制御を繰り返し、その結果、全てのカメラモジュールから同期制御された垂直同期信号のタイミングで撮像した画像が出力される。   The relative phase control means outputs the relative phase control signal at a predetermined cycle to the phase control unit of each camera module so that the vertical synchronization signal of each camera module monitored by the phase monitoring means is synchronized. The control unit repeats the control to synchronize the phase of the vertical synchronization signal with the vertical synchronization signal of the other camera module every time the relative phase control signal is input. An image captured at the timing is output.

相対位相制御手段から、カメラモジュールの位相制御部へ所定の周期で位相を早め若しくは遅らせる相対位相制御信号を繰り返し出力することにより、位相制御部による一度の制御で解消できない位相ずれが解消され、各カメラモジュールの垂直同期信号が同期する。   By repeatedly outputting a relative phase control signal for advancing or delaying the phase at a predetermined cycle from the relative phase control means to the phase control unit of the camera module, the phase shift that cannot be eliminated by one control by the phase control unit is eliminated. The vertical synchronization signal of the camera module is synchronized.

請求項2に記載の画像処理システムは、複数の各カメラモジュールが、撮像視野が異なる車両の周囲を撮像する車両の各部に設置され、それぞれ接続ケーブルを介して位相監視手段と相対位相制御手段と画像合成手段を有する画像合成装置に接続され、画像合成装置の位相監視手段が、接続ケーブルを介して各カメラモジュールから出力される垂直同期信号の位相を基準信号Srと比較し、各カメラモジュールの位相制御部が、画像合成装置の相対位相制御手段から接続ケーブルを介して出力される相対位相制御信号をもとに垂直同期信号の位相を制御することを特徴とする。   The image processing system according to claim 2, wherein each of the plurality of camera modules is installed in each part of the vehicle that captures an image of the periphery of the vehicle having a different imaging field of view, and each of the phase monitoring unit and the relative phase control unit via the connection cable The phase monitoring means of the image composition device is connected to an image composition device having image composition means, and compares the phase of the vertical synchronization signal output from each camera module via the connection cable with the reference signal Sr. The phase control unit controls the phase of the vertical synchronization signal based on the relative phase control signal output from the relative phase control means of the image composition device via the connection cable.

複数の各カメラモジュールの位相制御部は、画像合成手段の相対位相制御手段からそれぞれ相対位相制御信号を受けて、垂直同期信号を他のカメラモジュールの垂直同期信号と同期させるように制御し、複数の各カメラモジュールは同期制御された垂直同期信号のタイミングで撮像視野が異なる車両の周囲を撮像する。画像合成手段は、撮像視野が異なる車両の周囲を撮像した画像から遅延なく合成画像を生成する。   The phase control unit of each of the plurality of camera modules receives a relative phase control signal from the relative phase control unit of the image synthesis unit, and controls the vertical synchronization signal to synchronize with the vertical synchronization signal of another camera module. Each of the camera modules captures an image of the surroundings of a vehicle having a different field of view at the timing of the synchronized vertical control signal. The image synthesizing unit generates a synthesized image without delay from an image obtained by imaging the periphery of a vehicle having a different imaging field of view.

請求項3に記載の画像処理システムは、画像を一定周期で繰り返される垂直同期信号のタイミングで撮像する撮像部を有し、それぞれ撮像視野が異なる画像を撮像した画像の画像信号とその撮像タイミングを表す垂直同期信号とを含む撮像信号を出力する少なくとも3台のカメラモジュールと、複数の各カメラモジュールから出力される撮像信号に含まれる画像信号と垂直同期信号をもとに、複数の各カメラモジュールが撮像した画像を合成して一枚の合成画像を生成する画像合成装置とを備えた画像処理システムであって、
デイジーチェーンで接続される複数の全てのカメラモジュールの最下流のカメラモジュールに画像合成装置を接続し、複数のカメラモジュールのうち、デイジーチェーンで接続される最上流のカメラモジュールを除く全てのカメラモジュールは、そのカメラモジュールの撮像タイミングを表す垂直同期信号を、その上流に接続されるカメラモジュールの撮像タイミングを表す垂直同期信号の位相と同期するように制御する位相制御部を備え、最上流のカメラモジュールを除く全てのカメラモジュールは、それぞれ、その上流側の全てのカメラモジュールがそれぞれ出力した撮像信号を、その上流に接続されたカメラモジュールから入力するとともに、入力された撮像信号から上流に接続されたカメラモジュールの撮像タイミングを表す垂直同期信号に同期するように制御した垂直同期信号と、その垂直同期信号のタイミングで撮像した画像の画像信号とを含む撮像信号を、入力された撮像信号に加えて、その下流に接続するカメラモジュール若しくは画像合成装置へ出力することを特徴とする。
The image processing system according to claim 3 includes an imaging unit that captures an image at a timing of a vertical synchronization signal that is repeated at a constant period, and each of the image signal of an image captured from an image having a different imaging field of view and the imaging timing thereof. At least three camera modules that output imaging signals including vertical synchronization signals to be expressed, and a plurality of camera modules based on image signals and vertical synchronization signals included in the imaging signals output from the plurality of camera modules An image processing system including an image composition device that synthesizes captured images to generate a single composite image,
Connect the image synthesizer to the most downstream camera module of all the camera modules connected in a daisy chain, and all the camera modules except the most upstream camera module connected in a daisy chain among the multiple camera modules Is equipped with a phase control unit that controls the vertical synchronization signal representing the imaging timing of the camera module to synchronize with the phase of the vertical synchronization signal representing the imaging timing of the camera module connected upstream of the camera module. All camera modules except the module input the imaging signals output by all the upstream camera modules from the camera modules connected upstream, and are connected upstream from the input imaging signals. Vertical synchronization that represents the imaging timing of the camera module A camera module connected to the downstream of the input imaging signal, in addition to an imaging signal including a vertical synchronization signal controlled to be synchronized with the signal and an image signal of an image captured at the timing of the vertical synchronization signal, or It outputs to an image composition apparatus.

全てのカメラモジュールの垂直同期信は、最上流のカメラモジュールの垂直同期信号と同期する位相に収束し、デイジーチェーンで接続される全てのカメラモジュールから同期制御された垂直同期信号のタイミングで撮像した画像の画像信号が画像合成装置へ出力される。   The vertical sync signal of all camera modules converges to a phase that is synchronized with the vertical sync signal of the most upstream camera module, and images are taken at the timing of the vertical sync signal controlled synchronously from all camera modules connected in a daisy chain. An image signal of the image is output to the image composition device.

請求項4に記載の画像処理システムは、デイジーチェーンで接続されている複数のカメラモジュールは、撮像視野が異なる車両の周囲を撮像する車両の各部に設置されていることを特徴とする。   The image processing system according to claim 4 is characterized in that the plurality of camera modules connected in a daisy chain are installed in each part of the vehicle that captures the periphery of the vehicle having different imaging fields of view.

画像合成手段から、車両の各部に設置される複数の全てのカメラモジュールが接続ケーブルにより直列に接続される。   From the image composition means, all the plurality of camera modules installed in each part of the vehicle are connected in series by a connection cable.

請求項1の発明によれば、各カメラモジュールの撮像動作を同期させて撮像した画像が画像合成手段に入力されるので、リアルタイムに合成画像を生成してモニターへ表示できる。   According to the first aspect of the present invention, an image captured in synchronism with the imaging operation of each camera module is input to the image composition means, so that a composite image can be generated and displayed on the monitor in real time.

また、合成画像とする画像を撮像する全てのカメラモジュールの撮像動作が同期制御されるので、一部のカメラモジュールが接近する障害物を撮像できないという問題がなく、合成画像とする画像間の連続性が損なわれない。   In addition, since the imaging operations of all the camera modules that capture an image to be a composite image are synchronously controlled, there is no problem that some camera modules cannot capture an obstacle that is approaching, and continuous images between composite images Sex is not impaired.

更に、内蔵クロックから垂直同期信号を生成し、位相制御部で一度に数10μsecの位相補正のみが可能である既存のカメラモジュールを、その構造を改造することなく、他のカメラモジュールの撮像動作と同期させることができるので、既存のカメラモジュールムを用いて撮像視野の追加や、カメラモジュールの交換を容易に行うことができる。   In addition, an existing camera module that generates a vertical synchronization signal from the built-in clock and can only perform phase correction of several tens of microseconds at a time by the phase control unit can be used as an imaging operation of another camera module without modifying its structure. Since they can be synchronized, it is possible to easily add an imaging field of view and replace a camera module using an existing camera module.

請求項2の発明によれば、異なる視野の車両周囲の画像をリアルタイムに合成画像としてモニターへ表示できるので、高速に車両に接近する物体を検知し事故防止処置をとる運転支援システムに利用できる。   According to the second aspect of the present invention, images around the vehicle with different visual fields can be displayed on the monitor as a composite image in real time, so that it can be used in a driving support system that detects an object approaching the vehicle at high speed and takes accident prevention measures.

また、異なる視野の車両周囲の画像を撮像タイミングを同期させて複数のカメラモジュールで撮像するので、画像間の連続性を損なわずに合成画像が生成され、モニターに出力される動画を記録すれば、事故原因を漏れなく異なる視野を撮像した画像から解明できる。   In addition, since images around the vehicle with different fields of view are captured by a plurality of camera modules with synchronized imaging timing, a composite image can be generated without losing continuity between images and a moving image output to the monitor can be recorded. The cause of the accident can be elucidated from images taken from different fields of view without omission.

更に、既存のカメラモジュールの構造を変更することなく、画像合成装置と接続ケーブルで接続するだけで、車両の新たな設置場所へのカメラモジュールの追加したり、カメラモジュールを交換できる。   Furthermore, without changing the structure of the existing camera module, the camera module can be added to the new installation location of the vehicle or the camera module can be exchanged simply by connecting to the image composition apparatus with a connection cable.

請求項3の発明によれば、全てのカメラモジュール一列にデイジーチェーン接続し、各カメラモジュールの垂直同期信号を同期させて撮像動作を同期させることができる。   According to the invention of claim 3, it is possible to synchronize the imaging operation by daisy-chaining all the camera modules in a row and synchronizing the vertical synchronization signals of the camera modules.

請求項4の発明によれば、全てのカメラモジュールが撮像した画像を合成して合成画像とし、表示装置に車両の周囲を俯瞰する動画を表示することができる。   According to the fourth aspect of the present invention, it is possible to combine the images captured by all the camera modules into a combined image and display a moving image overlooking the periphery of the vehicle on the display device.

車両50の各部に設置される各カメラモジュールCA1〜CA4の撮像視野を示す平面図である。4 is a plan view showing an imaging field of view of each camera module CA1 to CA4 installed in each part of the vehicle 50. FIG. 本発明の一実施の形態に係る画像処理システム1を示すブロック図である。1 is a block diagram showing an image processing system 1 according to an embodiment of the present invention. 相対位相制御部12から各カメラモジュールCAの位相制御部3へ出力される相対位相制御信号を表す説明図である。It is explanatory drawing showing the relative phase control signal output to the phase control part 3 of each camera module CA from the relative phase control part 12. FIG. 第2実施の形態に係る画像処理システム30を示すブロック図である。It is a block diagram which shows the image processing system 30 which concerns on 2nd Embodiment.

以下、本発明の一実施の形態に係る画像処理システム1を、図1乃至図3を用いて説明する。この画像処理システム1は、高速に車両に接近する物体を検知し事故防止処置をとる目的の運転支援システムに使用され、図1に示すように、4台のカメラモジュールCA1〜CA4を用いて、カメラモジュールCA1を、撮像方向が車両50の前方やや下向きとなるように車両50の前方に、カメラモジュールCA2を、撮像方向が車両50の右方やや下向きとなるように車両50の右方に、カメラモジュールCA3を、撮像方向が車両50の後方やや下向きとなるように車両50の後方に、カメラモジュールCA4を、撮像方向が車両50の左方やや下向きとなるように車両50の左方にそれぞれ設置している。   Hereinafter, an image processing system 1 according to an embodiment of the present invention will be described with reference to FIGS. 1 to 3. This image processing system 1 is used in a driving support system for the purpose of detecting an object approaching a vehicle at high speed and taking accident prevention measures. As shown in FIG. 1, using four camera modules CA1 to CA4, The camera module CA1 is placed in front of the vehicle 50 so that the imaging direction is slightly forward of the vehicle 50, and the camera module CA2 is placed on the right side of the vehicle 50 so that the imaging direction is slightly downward of the vehicle 50. The camera module CA3 is positioned behind the vehicle 50 so that the imaging direction is slightly downward from the vehicle 50, and the camera module CA4 is positioned toward the left of the vehicle 50 so that the imaging direction is slightly downward. It is installed.

これにより、各カメラモジュールCA1〜CA4は、それぞれ撮像視野VW1〜VW4の画像IM1〜IM4を30フレーム/秒の速度で撮像する。隣り合う撮像視野VW1〜VW4の画像IM1〜IM4は、図に示すように重複しているので、後述する画像合成手段として動作する制御回路14は、画像IM1〜IM4の重複部を補正して4種類の画像IM1〜IM4を合成し、車両50の上方から俯瞰したようにみえる一枚の合成画像を生成する。   Thereby, each camera module CA1-CA4 images the images IM1-IM4 of the imaging visual fields VW1-VW4 at a speed of 30 frames / second, respectively. Since the images IM1 to IM4 of the adjacent imaging fields of view VW1 to VW4 are overlapped as shown in the figure, the control circuit 14 operating as an image compositing means to be described later corrects the overlapping portion of the images IM1 to IM4 to 4 The types of images IM <b> 1 to IM <b> 4 are combined to generate a single combined image that looks as if seen from above the vehicle 50.

各カメラモジュールCA1〜CA4は、この種の運転支援システムで通常用いられているそれぞれ同一構成のカメラモジュールCAであり、図2に示すよう、撮像視野VW1〜VW4を撮像する撮像部2と、撮像部2の撮像タイミングを表す垂直同期信号Vsyncの位相を制御する位相制御部3と、カメラモジュールCAの入出力インターフェースである直並列/平直列変換回路4とを備えている。   Each of the camera modules CA1 to CA4 is a camera module CA having the same configuration that is normally used in this type of driving support system. As shown in FIG. 2, the imaging unit 2 that images the imaging fields of view VW1 to VW4, and the imaging A phase control unit 3 that controls the phase of the vertical synchronization signal Vsync indicating the imaging timing of the unit 2; and a serial-parallel / flat-serial conversion circuit 4 that is an input / output interface of the camera module CA.

撮像部2は、1フレームの撮像周期である1/30秒、すなわち約33msecの周期で、内蔵する図示しない発振器のクロックを分周した水平同期信号Hsyncと垂直同期信号Vsyncに応答して撮像視野VWの画像IMを撮像し、画像IMを表す画像信号Spとともにその画像IMを撮像した際の水平同期信号Hsyncと垂直同期信号Vsyncを、96Mhzの8ビットパラレル信号にしてデータバス5を介して直並列/平直列変換回路4に出力する。   The imaging unit 2 responds to a horizontal synchronization signal Hsync and a vertical synchronization signal Vsync obtained by dividing a clock of a built-in oscillator (not shown) at 1/30 seconds that is an imaging cycle of one frame, that is, a cycle of about 33 msec. A VW image IM is picked up, and together with the image signal Sp representing the image IM, the horizontal synchronizing signal Hsync and the vertical synchronizing signal Vsync when the image IM is picked up are converted into a 96 Mhz 8-bit parallel signal directly via the data bus 5. Output to the parallel / flat serial conversion circuit 4.

ここで各カメラモジュールCA1〜CA4は、同一構成で同一仕様に設計されているので、クロックを分周した垂直同期信号Vsyncの周波数も同一であるが、起動時の垂直同期信号Vsyncの位相は、各カメラモジュールCA1〜CA4で独立し、相互に位相のずれが生じている。説明を容易にするため、例えば図3に示すように、1/30秒の周期の基準信号Srに対してカメラモジュールCA1の垂直同期信号Vsync−1は、+α1進み、カメラモジュールCA2の垂直同期信号Vsync−2は、+α2進み、カメラモジュールCA3の垂直同期信号Vsync−3は、−α3遅れ、カメラモジュールCA4のVsync−4は+α4進んでいるものとする。   Here, since each camera module CA1 to CA4 is designed to have the same configuration and the same specification, the frequency of the vertical synchronization signal Vsync obtained by dividing the clock is also the same, but the phase of the vertical synchronization signal Vsync at the time of activation is Each of the camera modules CA1 to CA4 is independent and has a phase shift. For ease of explanation, as shown in FIG. 3, for example, the vertical synchronization signal Vsync-1 of the camera module CA1 advances by + α1 with respect to the reference signal Sr having a period of 1/30 seconds, and the vertical synchronization signal of the camera module CA2 It is assumed that Vsync-2 is advanced by + α2, the vertical synchronization signal Vsync-3 of the camera module CA3 is delayed by −α3, and Vsync-4 of the camera module CA4 is advanced by + α4.

位相制御部3は、後述する相対位相制御部12から出力される相対位相制御信号をデータバス5から入力し、相対位相制御信号の制御内容に従って垂直同期信号Vsyncの位相を一度の制御で±10μsecの範囲で補正する。すなわち、進み制御の相対位相制御信号が入力された場合には、垂直同期信号Vsyncの位相を+10μsec進める制御を繰り返し、遅れ制御の相対位相制御信号が入力された場合には、垂直同期信号Vsyncの位相を+10μsec進める制御を繰り返す。   The phase control unit 3 receives a relative phase control signal output from the relative phase control unit 12 described later from the data bus 5, and controls the phase of the vertical synchronization signal Vsync ± 10 μsec by one control according to the control content of the relative phase control signal. Correct within the range. That is, when the relative phase control signal for the advance control is input, the control for advancing the phase of the vertical synchronization signal Vsync by +10 μsec is repeated, and when the relative phase control signal for the delay control is input, the vertical synchronization signal Vsync is The control for advancing the phase by +10 μsec is repeated.

各カメラモジュールCA1〜CA4は、それぞれ3mから8mの長さのLVDS(Low voltage differential signling)ケーブル6により車両50の運転席近くに設置されている画像合成装置10に接続している。LVDSケーブル6は、双方向シリアル伝送線であるので、各カメラモジュールCA1〜CA4の直並列/平直列変換回路4は、データバス5から出力される8ビットパラレル信号の画像信号Spと水平同期信号Hsyncと垂直同期信号Vsyncとを、平直列変換してLVDSケーブル6へ出力するとともに、相対位相制御部12からLVDSケーブル6を介して入力される相対位相制御信号を直並列変換してデータバス5へ出力する。   Each of the camera modules CA1 to CA4 is connected to an image composition device 10 installed near the driver's seat of the vehicle 50 by an LVDS (Low voltage differential signing) cable 6 having a length of 3 to 8 m. Since the LVDS cable 6 is a bidirectional serial transmission line, the serial-parallel / flat-serial conversion circuit 4 of each camera module CA1 to CA4 is an 8-bit parallel signal image signal Sp and a horizontal synchronization signal output from the data bus 5. The Hsync and the vertical synchronization signal Vsync are converted into a parallel series and output to the LVDS cable 6, and the relative phase control signal input from the relative phase control unit 12 via the LVDS cable 6 is serially parallel converted to the data bus 5. Output to.

同様に画像合成装置10内のデータバス16と各カメラモジュールCA1〜CA4に接続するLVDSケーブル6との間には、それぞれ直並列/平直列変換回路13が接続され、各LVDSケーブル6に出力される画像信号Spと水平同期信号Hsyncと垂直同期信号Vsyncとを、直並列変換してデータバス16へ入力するとともに、データバス16から出力される8ビットパラレル信号で表される相対位相制御信号を平直列変換して各LVDSケーブル6へ出力する。   Similarly, a serial / parallel / serial converter circuit 13 is connected between the data bus 16 in the image composition device 10 and the LVDS cable 6 connected to each of the camera modules CA1 to CA4, and is output to each LVDS cable 6. The image signal Sp, the horizontal synchronizing signal Hsync, and the vertical synchronizing signal Vsync are serial-parallel converted and input to the data bus 16, and a relative phase control signal represented by an 8-bit parallel signal output from the data bus 16 is received. The signal is converted into a flat serial signal and output to each LVDS cable 6.

図2に示すように、画像合成装置10は、データバス16を介して接続される位相監視部11、相対位相制御部12、制御回路14及びSDRAM15を備えている。制御回路14は、各カメラモジュールCA1〜CA4から画像信号Spが入力される毎に、その画像信号Spを、その画像信号Spとともに入力される水平同期信号Hsync及び垂直同期信号VsyncをもとにカメラモジュールCA1〜CA4が撮像した画像IM1〜IM4とし、SDRAM15へ一時記憶する。   As shown in FIG. 2, the image composition device 10 includes a phase monitoring unit 11, a relative phase control unit 12, a control circuit 14, and an SDRAM 15 that are connected via a data bus 16. Each time the image signal Sp is input from each of the camera modules CA1 to CA4, the control circuit 14 receives the image signal Sp based on the horizontal synchronization signal Hsync and the vertical synchronization signal Vsync input together with the image signal Sp. Images IM1 to IM4 captured by the modules CA1 to CA4 are temporarily stored in the SDRAM 15.

また、位相監視部11は、各カメラモジュールCA1〜CA4から画像信号Spが入力されると、その画像信号Spとともに入力される垂直同期信号Vsyncの位相を監視し、各カメラモジュールCA1〜CA4について相互の相対位相を比較する。相対位相の比較は、いずれかのカメラモジュールCAの垂直同期信号Vsyncを基準信号としてその他のカメラモジュールCAの垂直同期信号Vsyncとの位相ずれを比較しても良いが、ここでは、画像合成装置10内の図示しないクロックから生成した1/30秒の周期の基準信号Srに対する各カメラモジュールCA1〜CA4の相対的な位相ずれを比較する。   Further, when the image signal Sp is input from each of the camera modules CA1 to CA4, the phase monitoring unit 11 monitors the phase of the vertical synchronization signal Vsync input together with the image signal Sp, and the camera modules CA1 to CA4 are mutually connected. Compare the relative phases of. In the comparison of the relative phase, the vertical synchronization signal Vsync of any camera module CA may be used as a reference signal, and the phase shift with the vertical synchronization signal Vsync of other camera modules CA may be compared. The relative phase shifts of the camera modules CA1 to CA4 are compared with the reference signal Sr having a period of 1/30 second generated from a clock (not shown).

相対位相制御部12は、一定の周期で、位相監視部11が検出した各カメラモジュールCA1〜CA4の相対的な位相ずれから、各カメラモジュールCA1〜CA4毎にその垂直同期信号Vsyncの位相を補正する相対位相制御信号を生成し、LVDSケーブル6を介して各カメラモジュールCA1〜CA4の位相制御部3へ出力する。ここでは、各カメラモジュールCA1〜CA4から入力される垂直同期信号Vsyncの位相が基準信号Srに対して遅れている場合に進み制御の相対位相制御信号を、進んでいる場合に遅れ制御の相対位相制御信号を生成し、そのカメラモジュールCA1〜CA4の位相制御部3へ出力する。また、垂直同期信号Vsyncの位相が基準信号Srに一致している場合には、相対位相制御信号を出力しない。例えば、各カメラモジュールCA1〜CA4の垂直同期信号Vsyncが図3に示す位相であるとすれば、カメラモジュールCA1、CA2、CA4の位相制御部3に対して遅れ制御の相対位相制御信号を、カメラモジュールCA3の位相制御部3に対して進み制御の相対位相制御信号を出力する。   The relative phase control unit 12 corrects the phase of the vertical synchronization signal Vsync for each camera module CA1 to CA4 from the relative phase shift of each camera module CA1 to CA4 detected by the phase monitoring unit 11 at a constant cycle. The relative phase control signal is generated and output to the phase control unit 3 of each camera module CA1 to CA4 via the LVDS cable 6. Here, when the phase of the vertical synchronization signal Vsync input from each of the camera modules CA1 to CA4 is delayed with respect to the reference signal Sr, the relative phase control signal for the advance control is displayed. A control signal is generated and output to the phase control unit 3 of the camera modules CA1 to CA4. Further, when the phase of the vertical synchronizing signal Vsync matches the reference signal Sr, the relative phase control signal is not output. For example, if the vertical synchronization signal Vsync of each camera module CA1 to CA4 has the phase shown in FIG. 3, a relative phase control signal for delay control is sent to the phase control unit 3 of the camera modules CA1, CA2, and CA4. A relative phase control signal for advance control is output to the phase controller 3 of the module CA3.

相対位相制御部12から相対位相制御信号を出力する周期は任意に設定できるが、ここでは、基準信号Srの周期で出力する。従って、各カメラモジュールCA1〜CA4の位相制御部3は、基準信号Srの周期で次に相対位相制御信号が入力されるまで、相対位相制御信号の制御内容に従った垂直同期信号Vsyncの位相補正制御を繰り返す。垂直同期信号Vsyncに基準信号Srとの位相のずれが生じている限り、基準信号Srに同期させる位相制御が繰り返されるので、結局全てのカメラモジュールCA1〜CA4の垂直同期信号Vsyncは基準信号Srと同位相に収束される。   Although the period for outputting the relative phase control signal from the relative phase control unit 12 can be arbitrarily set, here, it is output with the period of the reference signal Sr. Therefore, the phase control unit 3 of each camera module CA1 to CA4 corrects the phase of the vertical synchronization signal Vsync according to the control content of the relative phase control signal until the next relative phase control signal is input in the cycle of the reference signal Sr. Repeat control. As long as the vertical synchronization signal Vsync is out of phase with the reference signal Sr, the phase control to synchronize with the reference signal Sr is repeated, so that the vertical synchronization signals Vsync of all the camera modules CA1 to CA4 eventually become the reference signal Sr. It converges to the same phase.

カメラモジュールCA1〜CA4は、基準信号Srに同期する垂直同期信号Vsyncのタイミングでそれぞれ画像IM1〜IM4を撮像し、その画像IM1〜IM4を表す各画像信号Spを画像合成装置10へ出力するので、制御回路14は、RAM15にほぼ同時に記憶された4枚の画像IM1〜IM4をSDRAM15から読み出し、一枚の合成画像を生成する。画像IM1〜IM4を表す各画像信号Spは、1/30秒の周期で入力されるので、制御回路14も1/30秒の周期で合成画像を表示装置20へ出力し、表示装置20に車両50の周囲を上方から俯瞰する動画を表示する。   Since the camera modules CA1 to CA4 respectively capture the images IM1 to IM4 at the timing of the vertical synchronization signal Vsync synchronized with the reference signal Sr, and output the image signals Sp representing the images IM1 to IM4 to the image composition device 10, The control circuit 14 reads the four images IM1 to IM4 stored in the RAM 15 almost simultaneously from the SDRAM 15 and generates a single composite image. Since the image signals Sp representing the images IM1 to IM4 are input at a cycle of 1/30 seconds, the control circuit 14 also outputs a composite image to the display device 20 at a cycle of 1/30 seconds, A moving image overlooking around 50 from above is displayed.

上述の実施の形態では、相対位相制御部12が所定周期で出力する相対位相制御信号の制御内容は進み制御若しくは遅れ制御の2通りであるが、進み制御若しくは遅れ制御とともに、その位相差に応じて各カメラモジュールCA1〜CA4の位相制御部3が垂直同期信号Vsyncの位相を補正制御する回数を含めてもよい。   In the above-described embodiment, the control content of the relative phase control signal output by the relative phase control unit 12 at a predetermined cycle is two types of advance control or delay control, but according to the phase difference together with the advance control or delay control. The number of times that the phase control unit 3 of each camera module CA1 to CA4 corrects and controls the phase of the vertical synchronization signal Vsync may be included.

また、上述の実施の形態では、合成画像を生成する画像合成装置10に対してそれぞれLVDSケーブル6でスター接続された各カメラモジュールCA1〜CA4の位相制御部3へ相対位相制御信号を出力して、各カメラモジュールCA1〜CA4の撮像のタイミングを同期させているが、全てのカメラモジュールCA1〜CA4を2以上のグループに分け、各グループのカメラモジュールCAをLVDSケーブル6を介してデイジーチェーン接続により合成画像を生成する画像合成装置10へ接続し、画像合成装置10からデイジーチェーン接続するカメラモジュールCAの位相制御部3へ相対位相制御信号を出力してもよい。   In the above-described embodiment, a relative phase control signal is output to the phase control unit 3 of each of the camera modules CA1 to CA4 that is star-connected with the LVDS cable 6 to the image composition device 10 that generates a composite image. The imaging timings of the camera modules CA1 to CA4 are synchronized, but all the camera modules CA1 to CA4 are divided into two or more groups, and the camera modules CA of each group are connected by daisy chain connection via the LVDS cable 6. The relative phase control signal may be output from the image synthesis device 10 to the phase control unit 3 of the camera module CA connected to the image synthesis device 10 that generates the synthesized image.

更に、合成画像を生成する画像合成装置に対して、全てのカメラモジュールCA1〜CA4を一列にデイジーチェーン接続し、各カメラモジュールCA1〜CA4の垂直同期信号Vsyncを同期させて撮像動作を同期させることもできる。以下、この第2の実施の形態にかかる画像処理システム30を図4を用いて説明する。画像処理システム30についての説明においては、第1の実施の形態と同一若しくは相当する構成は、図中同一番号を付してその詳細な説明を省略する。   Further, all the camera modules CA1 to CA4 are connected in a daisy chain to an image composition device that generates a composite image, and the vertical synchronization signal Vsync of each camera module CA1 to CA4 is synchronized to synchronize the imaging operation. You can also. Hereinafter, the image processing system 30 according to the second embodiment will be described with reference to FIG. In the description of the image processing system 30, the same or corresponding components as those in the first embodiment are denoted by the same reference numerals in the drawing, and detailed description thereof is omitted.

画像処理システム30では、図1に示す4台のカメラモジュールCA1〜CA4が、車両50の運転席付近に設置される画像合成装置31に対してデイジーチェーンで接続されている。すなわち、カメラモジュールCA1〜CA4と画像合成装置31のうちの車両50の上方からみて時計回りで隣り合う一組がその間に配線されるLVDSケーブル32で接続され、最上流のカメラモジュールCA1から画像合成装置31までが直列に接続される。従って、車両50回りのほぼ一回りの配線で、全てのカメラモジュールCA1〜CA4を画像合成装置31へ接続できる。   In the image processing system 30, four camera modules CA <b> 1 to CA <b> 4 shown in FIG. 1 are connected in a daisy chain to an image composition device 31 installed near the driver's seat of the vehicle 50. That is, a pair of the camera modules CA1 to CA4 and the image synthesizing apparatus 31 that are adjacent to each other in the clockwise direction when viewed from above the vehicle 50 are connected by the LVDS cable 32 wired between them, and the uppermost camera module CA1 performs image synthesis. Up to the device 31 is connected in series. Therefore, all the camera modules CA <b> 1 to CA <b> 4 can be connected to the image composition device 31 with almost one wiring around the vehicle 50.

各カメラモジュールCA1〜CA4は、第1実施の形態と同様に、この種の運転支援システムで通常用いられているそれぞれ同一構成のカメラモジュールCAであり、撮像視野VW1〜VW4を撮像する撮像部2と、撮像部2の撮像タイミングを表す垂直同期信号Vsyncの位相を制御する位相制御部33と、入出力インターフェースである直並列/平直列変換回路4とを備えている。このうち、最上流のカメラモジュールCA1には、必ずしも位相制御部33を備える必要はなく、また、直並列/平直列変換回路4は、平直列変換のみの回路に置き換えてもよい。   Similar to the first embodiment, each of the camera modules CA1 to CA4 is a camera module CA having the same configuration that is normally used in this type of driving support system, and the imaging unit 2 that images the imaging fields of view VW1 to VW4. A phase control unit 33 that controls the phase of the vertical synchronization signal Vsync indicating the imaging timing of the imaging unit 2, and a serial-parallel / flat-serial conversion circuit 4 that is an input / output interface. Of these, the most upstream camera module CA1 is not necessarily provided with the phase control unit 33, and the serial-parallel / flat-serial conversion circuit 4 may be replaced with a circuit only for flat-serial conversion.

最上流のカメラモジュールCA1の撮像部2は、1フレームの撮像周期である1/30秒、すなわち約33msecの周期で、内蔵する図示しない発振器のクロックを分周した水平同期信号Hsyncと垂直同期信号Vsyncに応答して撮像視野VW1の画像IM1を撮像し、画像IM1を表す画像信号Sp1とともにその画像IMを撮像した際の水平同期信号Hsync−1と垂直同期信号Vsync−1(以下、画像信号Spとその画像信号Spとともに出力される水平同期信号Hsyncと垂直同期信号Vsyncの全体を撮像信号Simという)を、LVDSケーブル32を介してその下流のカメラモジュールCA2へ出力する。   The imaging unit 2 of the most upstream camera module CA1 has a horizontal synchronization signal Hsync and a vertical synchronization signal obtained by dividing a clock of an internal oscillator (not shown) at a period of 1/30 seconds that is an imaging period of one frame, that is, a period of about 33 msec. A horizontal synchronization signal Hsync-1 and a vertical synchronization signal Vsync-1 (hereinafter referred to as an image signal Sp) when the image IM1 of the imaging visual field VW1 is captured in response to Vsync and the image IM is captured together with the image signal Sp1 representing the image IM1. And the horizontal synchronization signal Hsync and the vertical synchronization signal Vsync output together with the image signal Sp are referred to as the imaging signal Sim) to the downstream camera module CA2 via the LVDS cable 32.

また、カメラモジュールCA2は、撮像視野VW2を撮像した画像IM2の画像信号Sp2とその画像IM2撮像した際の水平同期信号Hsync−1及び垂直同期信号Vsync−1とからなる撮像信号Sim−2を、カメラモジュールCA1から入力される撮像信号Sim−1に加えて、LVDSケーブル32を介して更にその下流のカメラモジュールCA3へ出力する。   In addition, the camera module CA2 receives an image signal Sim-2 including an image signal Sp2 of an image IM2 obtained by imaging the imaging field of view VW2, and a horizontal synchronization signal Hsync-1 and a vertical synchronization signal Vsync-1 when the image IM2 is captured. In addition to the imaging signal Sim-1 input from the camera module CA1, it is further output to the downstream camera module CA3 via the LVDS cable 32.

以下、カメラモジュールCA3、CA4は、同様の処理を実行し、これにより、カメラモジュールCA4からLVDSケーブル32を介して画像合成装置31へ、画像IM1乃至IM4を表す撮像信号Sim−1乃至Sim−4が出力される。画像合成装置31の制御回路14は、撮像信号Sim−1乃至Sim−4をもとに生成する画像IM1〜IM4を合成して合成画像とし、1/30秒の周期で表示装置20へ出力し、表示装置20に車両50の周囲を上方から俯瞰する動画を表示する。   Thereafter, the camera modules CA3 and CA4 execute the same processing, whereby the imaging signals Sim-1 to Sim-4 representing the images IM1 to IM4 are transmitted from the camera module CA4 to the image synthesizer 31 via the LVDS cable 32. Is output. The control circuit 14 of the image synthesizing device 31 synthesizes the images IM1 to IM4 generated based on the imaging signals Sim-1 to Sim-4 to form a synthesized image, and outputs the synthesized image to the display device 20 with a period of 1/30 seconds. Then, a moving image overlooking the periphery of the vehicle 50 from above is displayed on the display device 20.

最上流のカメラモジュールCA1を除く、各カメラモジュールCA2〜CA4の位相制御部33は、その上流のカメラモジュールCAから入力される撮像信号Sim−1に含まれる垂直同期信号Vsync−1の位相を監視し、自身の垂直同期信号Vsyncが垂直同期信号Vsync−1と同期するように±10μsecの範囲での位相補正制御を繰り返す。その結果、全てのカメラモジュールCA1〜〜CA4の垂直同期信号Vsyncは、カメラモジュールCA1の垂直同期信号Vsync−1と同期する位相に収束し、デイジーチェーンで接続される全てのカメラモジュールCA1〜CA4から同期制御された垂直同期信号Vsyncのタイミングで撮像した画像IM1乃至IM4の画像信号Sp1〜Sp4が最下流に接続された画像合成装置31へ出力される。   The phase control unit 33 of each of the camera modules CA2 to CA4 except the most upstream camera module CA1 monitors the phase of the vertical synchronization signal Vsync-1 included in the imaging signal Sim-1 input from the upstream camera module CA. Then, the phase correction control in the range of ± 10 μsec is repeated so that its own vertical synchronization signal Vsync is synchronized with the vertical synchronization signal Vsync-1. As a result, the vertical synchronization signal Vsync of all the camera modules CA1 to CA4 converges to a phase synchronized with the vertical synchronization signal Vsync-1 of the camera module CA1, and from all the camera modules CA1 to CA4 connected in a daisy chain. The image signals Sp1 to Sp4 of the images IM1 to IM4 captured at the timing of the synchronization-controlled vertical synchronization signal Vsync are output to the image synthesizer 31 connected to the most downstream side.

上述の各実施の形態は、車両の運転支援システムの用途で用いられる画像処理システム1、30であるので、各カメラモジュールCA1〜CA4は、車両50の各部に設置されているが、異なる撮像視野を撮像した画像を一定周期で合成して、連続生成した合成画像を動画像として表示装置へ表示する画像処理システムであれば、カメラモジュールの設置位置やその数は、上記実施の形態に限らない。   Since each of the above-described embodiments is the image processing system 1 or 30 used for the vehicle driving support system, each camera module CA1 to CA4 is installed in each part of the vehicle 50, but has a different imaging field of view. As long as the image processing system synthesizes images obtained by capturing images at a certain period and displays continuously generated synthesized images on the display device as moving images, the installation positions and the number of camera modules are not limited to the above-described embodiments. .

また、合成画像を連続して表示する動画像の表示手段や表示方法は、任意にその用途に応じて選択できる。   Further, the moving image display means and display method for continuously displaying the composite image can be arbitrarily selected according to the application.

広範囲の撮像視野で高速に接近する物体を検知する画像処理システムに適している。   It is suitable for an image processing system that detects an object approaching at high speed in a wide imaging field of view.

1、30 画像処理システム
2 撮像部
3 位相制御部
6 LVDSケーブル(接続ケーブル)
10 画像合成装置
11 位相監視部(位相監視手段)
12 相対位相制御部(相対位相制御手段)
14 制御回路(画像合成手段、動画出力手段)
20 表示装置(モニター)
31 画像合成装置
50 車両
IM 画像
Vsync 垂直同期信号
CA カメラモジュール
Sp 画像信号
VW 撮像視野
1, 30 Image processing system 2 Imaging unit 3 Phase control unit 6 LVDS cable (connection cable)
DESCRIPTION OF SYMBOLS 10 Image composition apparatus 11 Phase monitoring part (phase monitoring means)
12 Relative phase control unit (relative phase control means)
14 Control circuit (image composition means, moving image output means)
20 Display device (monitor)
31 Image Synthesizer 50 Vehicle IM Image Vsync Vertical Sync Signal CA Camera Module Sp Image Signal VW Imaging Field of View

Claims (4)

それぞれ、画像を同一周期で繰り返される垂直同期信号のタイミングで撮像する撮像部と、外部から入力される相対位相制御信号の制御内容に従って前記垂直同期信号の位相を補正する制御を繰り返す位相制御部を有し、撮像視野が異なる画像を撮像した画像の画像信号ととともに垂直同期信号を出力する複数のカメラモジュールと、
前記複数の各カメラモジュールから出力される画像信号と垂直同期信号をもとに、複数の各カメラモジュールが撮像した画像を合成して一枚の合成画像を生成する画像合成手段と、
画像合成手段が連続生成した合成画像を動画像としてモニターへ出力する動画出力手段とを備えた画像処理システムであって、
前記複数のカメラモジュールとそれぞれ接続ケーブルでデイジーチェーン接続し、前記接続ケーブルを介して各カメラモジュールから出力される垂直同期信号の位相を、垂直同期信号と同一周期の基準信号Srと比較し、基準信号Srとの相対的な位相ずれを検出する位相監視手段と、
位相監視手段で監視する各カメラモジュールの垂直同期信号が基準信号Srに同期するように、前記相対的な位相ずれから、各カメラモジュール毎に位相を早め若しくは遅らせる相対位相制御信号を生成し、各カメラモジュールの位相制御部へ所定の周期で相対位相制御信号を出力する相対位相制御手段を更に備え、
画像合成手段は、基準信号Srに同期制御された垂直同期信号のタイミングで各カメラモジュールが撮像した画像を合成して一枚の合成画像を生成することを特徴とする画像処理システム。
An imaging unit that captures an image at the timing of a vertical synchronization signal that is repeated in the same cycle, and a phase control unit that repeats control for correcting the phase of the vertical synchronization signal according to the control content of the relative phase control signal input from the outside A plurality of camera modules for outputting a vertical synchronization signal together with an image signal of an image obtained by capturing images having different imaging fields;
Based on the image signal output from each of the plurality of camera modules and the vertical synchronization signal, an image combining unit that combines the images captured by the plurality of camera modules to generate one composite image;
An image processing system comprising a moving image output means for outputting a composite image continuously generated by the image composition means to a monitor as a moving image,
A plurality of camera modules are connected in a daisy chain with a connection cable, and the phase of a vertical synchronization signal output from each camera module via the connection cable is compared with a reference signal Sr having the same cycle as the vertical synchronization signal. Phase monitoring means for detecting a phase shift relative to the signal Sr;
From the relative phase shift, a relative phase control signal for advancing or delaying the phase for each camera module is generated so that the vertical synchronization signal of each camera module monitored by the phase monitoring unit is synchronized with the reference signal Sr. A relative phase control means for outputting a relative phase control signal at a predetermined period to the phase control unit of the camera module;
The image synthesizing unit synthesizes an image captured by each camera module at a timing of a vertical synchronization signal controlled to be synchronized with the reference signal Sr to generate a single synthesized image.
前記複数の各カメラモジュールは、撮像視野が異なる車両の周囲を撮像する車両の各部に設置され、それぞれ接続ケーブルを介して位相監視手段と相対位相制御手段と画像合成手段を有する画像合成装置に接続され、
画像合成装置の位相監視手段は、接続ケーブルを介して各カメラモジュールから出力される垂直同期信号の位相を基準信号Srと比較し、
各カメラモジュールの位相制御部は、画像合成装置の相対位相制御手段から接続ケーブルを介して出力される相対位相制御信号をもとに垂直同期信号の位相を制御することを特徴とする請求項1に記載の画像処理システム。
Each of the plurality of camera modules is installed in each part of a vehicle that captures the surroundings of a vehicle having a different imaging field of view, and is connected to an image composition device having a phase monitoring unit, a relative phase control unit, and an image composition unit via connection cables, respectively. And
The phase monitoring means of the image synthesizer compares the phase of the vertical synchronizing signal output from each camera module via the connection cable with the reference signal Sr,
2. The phase control unit of each camera module controls the phase of a vertical synchronization signal based on a relative phase control signal output from a relative phase control unit of an image composition device via a connection cable. The image processing system described in 1.
画像を一定周期で繰り返される垂直同期信号のタイミングで撮像する撮像部を有し、それぞれ撮像視野が異なる画像を撮像した画像の画像信号とその撮像タイミングを表す垂直同期信号とを含む撮像信号を出力する少なくとも3台のカメラモジュールと、
前記複数の各カメラモジュールから出力される撮像信号に含まれる画像信号と垂直同期信号をもとに、複数の各カメラモジュールが撮像した画像を合成して一枚の合成画像を生成する画像合成装置とを備えた画像処理システムであって、
デイジーチェーンで接続される前記複数の全てのカメラモジュールの最下流のカメラモジュールに前記画像合成装置を接続し、
前記複数のカメラモジュールのうち、デイジーチェーンで接続される最上流のカメラモジュールを除く全てのカメラモジュールは、そのカメラモジュールの撮像タイミングを表す垂直同期信号を、その上流に接続されるカメラモジュールの撮像タイミングを表す垂直同期信号の位相と同期するように制御する位相制御部を備え、
前記最上流のカメラモジュールを除く全てのカメラモジュールは、それぞれ、その上流側の全てのカメラモジュールがそれぞれ出力した撮像信号を、その上流に接続された前記カメラモジュールから入力するとともに、入力された撮像信号から前記上流に接続された前記カメラモジュールの撮像タイミングを表す垂直同期信号に同期するように制御した垂直同期信号と、その垂直同期信号のタイミングで撮像した画像の画像信号とを含む撮像信号を、入力された撮像信号に加えて、その下流に接続するカメラモジュール若しくは画像合成装置へ出力することを特徴とする画像処理システム。
It has an imaging unit that captures images at the timing of a vertical synchronization signal that is repeated at a constant cycle, and outputs an imaging signal that includes an image signal of an image captured from an image with a different field of view and a vertical synchronization signal that represents the imaging timing. At least three camera modules,
An image composition device that synthesizes images picked up by a plurality of camera modules based on image signals and vertical synchronization signals included in image pickup signals output from the plurality of camera modules to generate a single composite image An image processing system comprising:
Connecting the image composition device to the most downstream camera module of all the plurality of camera modules connected in a daisy chain;
Among the plurality of camera modules, all the camera modules except the most upstream camera module connected in a daisy chain receive the vertical synchronization signal indicating the imaging timing of the camera module and the imaging of the camera module connected upstream thereof. A phase control unit that controls to synchronize with the phase of the vertical synchronization signal representing the timing,
All the camera modules except the most upstream camera module respectively input imaging signals output from all the upstream camera modules from the camera modules connected upstream thereof, and input imaging An imaging signal including a vertical synchronization signal controlled to synchronize with a vertical synchronization signal representing an imaging timing of the camera module connected upstream from the signal, and an image signal of an image captured at the timing of the vertical synchronization signal. In addition to the input image pickup signal, the image processing system outputs the image signal to a camera module or an image composition device connected downstream thereof.
デイジーチェーンで接続されている複数のカメラモジュールは、撮像視野が異なる車両の周囲を撮像する車両の各部に設置されていることを特徴とする請求項3に記載の画像処理システム。 The image processing system according to claim 3, wherein the plurality of camera modules connected in a daisy chain are installed in each part of the vehicle that captures the periphery of the vehicle having different imaging fields of view.
JP2017153833A 2017-08-09 2017-08-09 Picture processing system Pending JP2017216736A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017153833A JP2017216736A (en) 2017-08-09 2017-08-09 Picture processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017153833A JP2017216736A (en) 2017-08-09 2017-08-09 Picture processing system

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2014040217A Division JP6194819B2 (en) 2014-03-03 2014-03-03 Image processing system

Publications (1)

Publication Number Publication Date
JP2017216736A true JP2017216736A (en) 2017-12-07

Family

ID=60577334

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017153833A Pending JP2017216736A (en) 2017-08-09 2017-08-09 Picture processing system

Country Status (1)

Country Link
JP (1) JP2017216736A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021180496A (en) * 2020-05-14 2021-11-18 エヌ・ティ・ティ・コミュニケーションズ株式会社 Remote control system, remote work device, video processing device and program

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004282465A (en) * 2003-03-17 2004-10-07 Sumitomo Electric Ind Ltd Display system for vehicle, and video image display method for vehicle
JP2012023558A (en) * 2010-07-14 2012-02-02 Denso Corp Image display system
JP2014006697A (en) * 2012-06-25 2014-01-16 Saxa Inc Monitoring system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004282465A (en) * 2003-03-17 2004-10-07 Sumitomo Electric Ind Ltd Display system for vehicle, and video image display method for vehicle
JP2012023558A (en) * 2010-07-14 2012-02-02 Denso Corp Image display system
JP2014006697A (en) * 2012-06-25 2014-01-16 Saxa Inc Monitoring system

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021180496A (en) * 2020-05-14 2021-11-18 エヌ・ティ・ティ・コミュニケーションズ株式会社 Remote control system, remote work device, video processing device and program
WO2021230363A1 (en) * 2020-05-14 2021-11-18 エヌ・ティ・ティ・コミュニケーションズ株式会社 Remote control system, remote-working apparatus, video-processing apparatus, and program
JP2021180421A (en) * 2020-05-14 2021-11-18 エヌ・ティ・ティ・コミュニケーションズ株式会社 Remote control system, remote work device, video processing device and program
JP7203157B2 (en) 2020-05-14 2023-01-12 エヌ・ティ・ティ・コミュニケーションズ株式会社 Video processing device and program

Similar Documents

Publication Publication Date Title
JP6194819B2 (en) Image processing system
US5977989A (en) Method and apparatus for synchronizing video and graphics data in a multimedia display system including a shared frame buffer
JP4561353B2 (en) Video signal processing apparatus and method, and in-vehicle camera system
JPS611190A (en) Color graphic overlay system
JP6170311B2 (en) Imaging apparatus and control method thereof
JP2017216736A (en) Picture processing system
JP2019087880A (en) Signal output device, camera pan head, camera pan head interlocking system, and program
CN109792475B (en) SVM system and image input and processing method thereof
US5841445A (en) Image displaying apparatus
JPH05143894A (en) Control method for monitor for automobile
US5812212A (en) Image displaying apparatus
JPH0937141A (en) Video processing system
US9575711B2 (en) Display apparatus, multi-image display system, and display control method
JPS62281584A (en) Video signal transmission system
CN117156071B (en) Auxiliary driving image synchronization system and method
JP2005275242A (en) Video capture circuit and video capture method
JP4961309B2 (en) Video signal processing device
JP2000125284A (en) Monitor camera system
JPH0737418Y2 (en) Video switch
JPH0470797A (en) Image signal composition device
JPH04268883A (en) External synchronization system for television camera
JPH03261995A (en) Display control system
JP3400649B2 (en) Image synthesizing method in monitor device and monitoring camera device
KR20110038773A (en) Image synthesis equipment and image synthesis method
US20140085497A1 (en) Systems And Methods For Sychronizing Multiple Video Sensors

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180409

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180515

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20181127