WO2017042995A1 - 車載用ステレオカメラ装置、およびその補正方法 - Google Patents

車載用ステレオカメラ装置、およびその補正方法 Download PDF

Info

Publication number
WO2017042995A1
WO2017042995A1 PCT/JP2016/002834 JP2016002834W WO2017042995A1 WO 2017042995 A1 WO2017042995 A1 WO 2017042995A1 JP 2016002834 W JP2016002834 W JP 2016002834W WO 2017042995 A1 WO2017042995 A1 WO 2017042995A1
Authority
WO
WIPO (PCT)
Prior art keywords
vehicle
unit
imaging unit
camera device
camera
Prior art date
Application number
PCT/JP2016/002834
Other languages
English (en)
French (fr)
Inventor
成功 八釣
山本　紀和
満 柏原
悠一 鈴木
健 石田
Original Assignee
パナソニックＩｐマネジメント株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by パナソニックＩｐマネジメント株式会社 filed Critical パナソニックＩｐマネジメント株式会社
Priority to EP16843869.5A priority Critical patent/EP3348961A4/en
Priority to JP2017515268A priority patent/JPWO2017042995A1/ja
Publication of WO2017042995A1 publication Critical patent/WO2017042995A1/ja
Priority to US15/488,564 priority patent/US10313658B2/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/246—Calibration of cameras
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/22—Display screens
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B7/00—Measuring arrangements characterised by the use of electric or magnetic techniques
    • G01B7/003—Measuring arrangements characterised by the use of electric or magnetic techniques for measuring position, not involving coordinate determination
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00—Measuring distances in line of sight; Optical rangefinders
    • G01C3/02—Details
    • G01C3/06—Use of electric means to obtain final indication
    • G01C3/08—Use of electric radiation detectors
    • G01C3/085—Use of electric radiation detectors with electronic parallax measurement
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G06T7/55—Depth or shape recovery from multiple images
    • G06T7/593—Depth or shape recovery from multiple images from stereo images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • G—PHYSICS
    • G07—CHECKING-DEVICES
    • G07C—TIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00—Registering or indicating the working of vehicles
    • G07C5/006—Indicating maintenance
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106—Processing image signals
    • H04N13/128—Adjusting depth or disparity
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/296—Synchronisation thereof; Control thereof
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20—Optical features of instruments
    • B60K2360/21—Optical features of instruments using cameras
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/107—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using stereoscopic cameras
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/40—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10004—Still image; Photographic image
    • G06T2207/10012—Stereo images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G06T2207/10021—Stereoscopic video; Stereoscopic image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261—Obstacle
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074—Stereoscopic image analysis
    • H04N2013/0081—Depth or disparity estimation from stereoscopic image signals

Definitions

  • This disclosure relates to an in-vehicle stereo camera device.
  • Patent Document 1 discloses an in-vehicle stereo camera device having a function of adjusting a positional deviation.
  • the positional deviation of the stereo camera is adjusted based on an image obtained by imaging a fender marker.
  • This disclosure provides an in-vehicle stereo camera device that can realize highly accurate distance detection.
  • the in-vehicle stereo camera device is imaged by the first imaging unit and the second imaging unit, and the first imaging unit and the second imaging unit that are arranged on the vehicle via the holding unit so that the fields of view overlap each other.
  • a controller that calculates a distance to an object outside the vehicle based on the position of the first imaging unit and the second imaging unit on the vehicle.
  • a first geomagnetism detection unit arranged in the vicinity of the first imaging unit, a second geomagnetism detection unit arranged in the vicinity of the second imaging unit, and a third geomagnetism detection unit arranged in the holding unit are provided. .
  • the control unit compares the geomagnetic field value detected by the first geomagnetism detection unit and the geomagnetic field value detected by the third geomagnetism detection unit, detects the shift amount of the first imaging unit, and performs the first imaging. Based on the shift amount of the part, the cutout position of the image picked up by the first image pickup unit is changed, and the geomagnetic field value detected by the second geomagnetism detection unit and the geomagnetic field value detected by the third geomagnetism detection unit And the shift amount of the second imaging unit is detected, and the cutout position of the image captured by the second imaging unit is changed based on the shift amount of the second imaging unit.
  • the in-vehicle stereo camera device can realize highly accurate distance detection.
  • FIG. 1 is a block diagram illustrating a configuration of an in-vehicle stereo camera device according to the embodiment.
  • FIG. 2 is a schematic diagram illustrating a configuration of the in-vehicle stereo camera device according to the embodiment.
  • FIG. 3 is a diagram illustrating a geomagnetic sensor in the embodiment.
  • FIG. 4A is a diagram illustrating cutout position change processing according to the embodiment.
  • FIG. 4B is a diagram illustrating a cut position changing process according to the embodiment.
  • FIG. 5 is a flowchart illustrating the calibration process in the embodiment.
  • FIG. 1 is a block diagram illustrating a configuration of an in-vehicle stereo camera device 100 according to the embodiment.
  • an in-vehicle stereo camera device 100 includes a left camera (first imaging unit) 101, a right camera (second imaging unit) 102, a stereo processing unit (control unit) 200, an image signal recording unit 300, a geomagnetic sensor (geomagnetic). Detection unit) 400, monitor 500, recording device 600, and power supply IF 700.
  • Image signals captured by the left camera 101 and the right camera 102 are input to the stereo processing unit 200 and the image signal recording unit 300.
  • the stereo processing unit 200 obtains the parallax from the degree of coincidence of the two images using an image matching technique.
  • the stereo processing unit 200 calculates the distance to the measurement object existing outside the vehicle based on the parallax and the distance between the left camera 101 and the right camera 102 by the principle of triangulation.
  • the geomagnetic sensor 400 acquires physical position information for each of the left camera 101 and the right camera 102 and sends the physical position information to the stereo processing unit 200.
  • the image signal captured by the left camera 101 and the right camera 102 and the distance result calculated by the stereo processing unit 200 are displayed on the monitor 500 and recorded on the recording device 600.
  • the power supply IF 700 supplies electricity from a cigar socket and a battery of the car to each part.
  • the stereo processing unit 200 includes a positional deviation amount calculation unit 201 that calculates a deviation amount based on physical position information of the left camera 101 and the right camera 102 obtained from the geomagnetic sensor 400, and a correction value recording that records the positional deviation amount.
  • Unit 202 image correcting unit 203 that changes the cutout position of the image captured by the left camera 101 and the right camera 102 based on the amount of positional deviation, and the parallax from the cut right and left images to calculate the measurement object It is comprised from the distance measurement part 204 converted into distance.
  • FIG. 2 is a schematic diagram showing a configuration of the in-vehicle stereo camera device 100 according to the embodiment.
  • the left camera 101 and the right camera 102 are attached to the interior of the vehicle with a distance of the base line length therebetween via the holding unit 103 so that the fields of view overlap each other.
  • the left camera 101 and the right camera 102 are adjusted at the time of manufacture so that their optical axes are parallel to each other.
  • the left camera 101 and the right camera 102 each include an image sensor, a zoom lens, a focus lens, a fixed lens, and the like.
  • a first geomagnetism sensor (first geomagnetism detection unit) 401 near the left camera 101 and a second geomagnetism near the right camera 102 are used.
  • a third geomagnetic sensor (third geomagnetism detection unit) 403 is arranged in the sensor (second geomagnetism detection unit) 402 and the holding unit 103, and the geomagnetic sensor 400 is a physical position of the left camera 101 and the right camera 102.
  • the obtained position information is input to the stereo processing unit 200, and the stereo processing unit 200 performs correction to change the cutout position of the image based on the change of the position information, and the distance to the object based on the corrected image. Measure.
  • FIG. 3 is a diagram illustrating the geomagnetic sensor 400 according to the embodiment.
  • the geomagnetic sensor 400 detects the direction of geomagnetism and calculates the direction. Therefore, the obtained output value changes depending on the direction in which the geomagnetic sensor 400 is installed.
  • an X component, a Y component, and a Z component are obtained as output values, as shown in FIGS.
  • the first geomagnetic sensor 401 attached to the lens portion of the left camera 101, the second geomagnetic sensor 402 attached to the lens portion of the right camera 102, and the third geomagnetic sensor 403 attached to the holding portion 103. Since all three are installed in the same direction in the manufacturing stage, the output values obtained from the first geomagnetic sensor 401, the second geomagnetic sensor 402, and the third geomagnetic sensor 403 are all the same value.
  • the holding unit 103 is installed in a state fixed to the vehicle body, so that the deviation does not occur, but the lens portions of the left camera 101 and the right camera 102 are not kept in the initial state and are displaced. Arise. Therefore, the third geomagnetic sensor 403 attached to the holding unit 103 and the first geomagnetic sensor 401 and the second geomagnetic sensor 402 attached to the lens portions of the left camera 101 and the right camera 102 have different sensor orientations. Therefore, the obtained geomagnetic value also changes.
  • the output value of the third geomagnetic sensor 403 attached to the holding unit 103 is (X, Y, Z), and this value is recorded in the positional deviation amount calculation unit 201 as a reference value.
  • the output values of the first geomagnetic sensor 401 and the second geomagnetic sensor 402 attached to the lens portions of the left camera 101 and the right camera 102 are (X + ⁇ X1, Y + ⁇ Y1, Z + ⁇ Z1) and (X + ⁇ X2, Y + ⁇ Y2, Z + ⁇ Z2), respectively. Change.
  • This numerical value is recorded in the positional deviation amount calculation unit 201, and the amount of change ( ⁇ X1, ⁇ Y1, ⁇ Z1) and ( ⁇ X2, ⁇ Y2, ⁇ Z2) from the reference value (X, Y, Z) is calculated. Then, as shown in FIG. 3, the first geomagnetic sensor 401 and the second geomagnetism are prepared based on the relationship between the change amount of the output value of the geomagnetic sensor 400 and the change amount of the camera position prepared in advance as correction data. The amount of positional deviation of the camera corresponding to the change amount ( ⁇ X1, ⁇ Y1, ⁇ Z1), ( ⁇ X2, ⁇ Y2, ⁇ Z2) of the output value of the sensor 402 is calculated and input to the correction value recording unit 202.
  • the image correction unit 203 performs image correction to change the cutout position by the value input to the correction value recording unit 202, and the distance measurement unit 204 performs distance measurement. In this way, by correcting the positional deviation of the camera, it is possible to perform highly accurate distance measurement that is the same as when the camera is in the initial position.
  • FIG. 4A and FIG. 4B are diagrams illustrating the cut-out position changing process in the embodiment. That is, FIG. 4A and FIG. 4B are diagrams illustrating the processing performed by the image correction unit 203 using images at the initial time and aging obtained by the left camera 101 and the right camera 102.
  • the image correcting unit 203 cuts out an image having a certain area from a predetermined position (x, y), and inputs it to the distance measuring unit 204 to perform distance measurement.
  • FIG. 4B shows a process in the case of aging.
  • the cutout position of the image signal captured by the right camera 102 in which the shift has occurred is set to the positional shift amount detected by the second geomagnetic sensor 402.
  • the position is changed to the position (x + ⁇ x, y + ⁇ y) translated by the corresponding correction value ( ⁇ x, ⁇ y).
  • an image having a certain area is cut out from the position and input to the distance measuring unit 204.
  • the distance measurement unit 204 receives an image in the same range as the cutout range in the initial case, and by performing image matching within the cutout range, the distance measurement can be accurately performed without changing from the initial time. It becomes possible to do.
  • FIG. 5 is a flowchart showing the calibration process of the in-vehicle stereo camera device 100.
  • the image signals captured by the left camera 101 and the right camera 102 are input to the stereo processing unit 200, and the calibration process is started (S1).
  • the positional deviation amount calculation unit 201 of the stereo processing unit 200 calculates the physical deviation amount of the camera (S2).
  • a certain threshold value is set in advance for the deviation amount calculated here, and the stereo processing unit 200 determines whether or not the threshold value is exceeded (S3). If the threshold is exceeded, the stereo processing unit 200 displays an error on the monitor 500 and notifies the driver that maintenance is required (S4).
  • the stereo processing unit 200 stores the amount of deviation as a correction value in the correction value recording unit 202 (S5). Then, the image correction unit 203 changes the cutout position by the number of pixels corresponding to the correction value for the images captured by the left camera 101 and the right camera 102 (S6). The left and right images cut out here are input to the distance measuring unit 204 to measure the distance. This completes the calibration (S7). By performing this process each time the car engine is started, accurate distance measurement can be continuously performed.
  • the cutout position can be changed based on an average value of a plurality of deviation amounts.
  • the present disclosure can be applied to an in-vehicle stereo camera device.
  • In-vehicle stereo camera device 101 Left camera (first imaging unit) 102 Right camera (second imaging unit) 103 Holding unit 200 Stereo processing unit (control unit) 201 Position shift amount calculation unit 202 Correction value recording unit 203 Image correction unit 204 Distance measurement unit 300 Image signal recording unit 400 Geomagnetic sensor (geomagnetic detection unit) 401 1st geomagnetic sensor (1st geomagnetism detection part) 402 Second geomagnetic sensor (second geomagnetic sensor) 403 Third geomagnetic sensor (third geomagnetic sensor) 500 Monitor 600 Recording device 700 Power IF

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Electromagnetism (AREA)
  • Remote Sensing (AREA)
  • Mechanical Engineering (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Measurement Of Optical Distance (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Abstract

高精度な距離検出を実現できる車載用ステレオカメラ装置を提供する。　互いの視野が重なるように保持部を介して車両上に配置された左カメラ及び右カメラと、左カメラ及び右カメラにより撮像される画像及び車両上の位置に基づき、車両外の物体までの距離を算出するステレオ処理部と、左カメラ及び右カメラの近傍に配置された第１及び第２の地磁気センサ、保持部に配置された第３の地磁気センサとを備える車載ステレオカメラ装置が提供される。ステレオ処理部は、第１又は第２の地磁気センサで検知された地磁場値と、第３の地磁気センサで検知された地磁場値とを比較して左カメラ又は右カメラのずれ量を検出し、ずれ量に基づいて左カメラ又は右カメラにより撮像される画像の切り出し位置を変更する。

Description

車載用ステレオカメラ装置、およびその補正方法
　本開示は、車載用ステレオカメラ装置に関する。
　特許文献１は、位置ずれを調整する機能を有する車載用ステレオカメラ装置を開示する。特許文献１に記載された車載用ステレオカメラ装置においては、フェンダーマーカを撮像した画像に基づいて、ステレオカメラの位置ずれを調整している。
特開２００１－２３３１３９号公報
　本開示は、高精度な距離検出を実現できる車載用ステレオカメラ装置を提供する。
　本開示における車載用ステレオカメラ装置は、互いの視野が重なるように保持部を介して車両上に配置された第１撮像部及び第２撮像部と、第１撮像部及び第２撮像部により撮像される画像と、第１撮像部及び第２撮像部の車両上の位置に基づき、車両外の物体までの距離を算出する制御部とを備える。さらに、第１撮像部の近傍に配置された第１地磁気検知部と、第２撮像部の近傍に配置された第２地磁気検知部と、保持部に配置された第３地磁気検知部とを備える。制御部は、第１地磁気検知部で検知された地磁場値と、第３地磁気検知部で検知された地磁場値とを比較して、第１撮像部のずれ量を検出し、第１撮像部のずれ量に基づいて、第１撮像部により撮像される画像の切り出し位置を変更し、第２地磁気検知部で検知された地磁場値と、第３地磁気検知部で検知された地磁場値とを比較して、第２撮像部のずれ量を検出し、第２撮像部のずれ量に基づいて、第２撮像部により撮像される画像の切り出し位置を変更する。
　本開示における車載用ステレオカメラ装置は、高精度な距離検出を実現できる。
図１は、実施の形態の車載ステレオカメラ装置の構成を示したブロック図である。 図２は、実施の形態の車載ステレオカメラ装置の構成を示した模式図である。 図３は、実施の形態における地磁気センサについて説明した図である。 図４Ａは、実施の形態における切り出し位置の変更処理を説明した図である。 図４Ｂは、実施の形態における切り出し位置の変更処理を説明した図である。 図５は、実施の形態におけるキャリブレーション処理を説明したフローチャートである。
　以下、適宜図面を参照しながら、実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。
　なお、添付図面および以下の説明は、当業者が本開示を十分に理解するために、提供されるのであって、これらにより請求の範囲に記載の主題を限定することは意図されていない。
　以下、図１～５を用いて、実施の形態を説明する。
　（実施の形態）
　〔車載ステレオカメラ装置の構成〕
　図１は、実施の形態の車載ステレオカメラ装置１００の構成を示したブロック図である。図１において、車載ステレオカメラ装置１００は、左カメラ（第１撮像部）１０１、右カメラ（第２撮像部）１０２、ステレオ処理部（制御部）２００、画像信号記録部３００、地磁気センサ（地磁気検知部）４００、モニタ５００、記録装置６００及び電源ＩＦ７００を備える。
　左カメラ１０１及び右カメラ１０２で撮像された画像信号は、ステレオ処理部２００及び画像信号記録部３００へ入力される。ステレオ処理部２００は、画像マッチングの技術を用いて、２つの画像の一致度から視差を求める。ステレオ処理部２００は、視差と、左カメラ１０１及び右カメラ１０２間の距離とに基づき、三角測量の原理によって車の外に存在する測定対象物までの距離を算出する。地磁気センサ４００は、左カメラ１０１及び右カメラ１０２の各々について物理的な位置情報を取得し、ステレオ処理部２００に送る。左カメラ１０１及び右カメラ１０２で撮像した画像信号及びステレオ処理部２００で算出された距離結果は、モニタ５００に表示されるとともに、記録装置６００に記録される。電源ＩＦ７００は、車のシガーソケットおよびバッテリー等からの電気を各部に供給する。
　ステレオ処理部２００は、地磁気センサ４００から得られる左カメラ１０１及び右カメラ１０２の物理的な位置情報に基づいてズレ量を算出する位置ズレ量算出部２０１と、位置ズレ量を記録する補正値記録部２０２と、位置ズレ量に基づき、左カメラ１０１及び右カメラ１０２で撮像した画像の切り出し位置を変更する画像補正部２０３と、切り出された左右の画像から視差を算出して測定対象物までの距離に変換する距離測定部２０４とから構成される。
　図２は、実施の形態の車載ステレオカメラ装置１００の構成を示した模式図である。左カメラ１０１及び右カメラ１０２は、互いの視野が重なるように、保持部１０３を介して基線長の間隔だけ隔てた状態で車の内部に取り付けられている。左カメラ１０１及び右カメラ１０２は、互いの光軸が平行になるよう製造時に調整されている。左カメラ１０１及び右カメラ１０２は、それぞれ、撮像素子、ズームレンズ、フォーカスレンズ、固定レンズ等を備えている。
　本開示では、左右カメラの位置ズレを検出するために、地磁気センサ４００として、左カメラ１０１の近傍に第１の地磁気センサ（第１地磁気検知部）４０１、右カメラ１０２の近傍に第２の地磁気センサ（第２地磁気検知部）４０２、保持部１０３に第３の地磁気センサ（第３地磁気検知部）４０３が配置されており、地磁気センサ４００が、左カメラ１０１及び右カメラ１０２の物理的な位置情報を取得する。得られた位置情報は、ステレオ処理部２００に入力され、ステレオ処理部２００は、位置情報の変化に基づいて画像の切り出し位置を変更する補正を行い、補正した画像に基づいて対象物までの距離を測定する。
　このため、本開示の車載ステレオカメラ装置１００においては、左カメラ１０１及び右カメラ１０２の固定状態が製造時に調整した状態から変化して位置ズレが生じたとしても、距離測定時に誤差が生じることがなく、高精度な距離測定を実現することができる。
　〔地磁気センサ〕
　図３は、実施の形態における地磁気センサ４００について説明した図である。地磁気センサ４００は、地磁気の向きを検知し、方位を算出する。そのため、地磁気センサ４００をどの向きに設置するかで、得られる出力値が変化する。ここでは、図３の（ａ）、（ｂ）、（ｃ）にそれぞれ示すように、出力値として、Ｘ成分・Ｙ成分・Ｚ成分が得られるとする。
　初期状態時は、左カメラ１０１のレンズ部に取り付けた第１の地磁気センサ４０１、右カメラ１０２のレンズ部に取り付けた第２の地磁気センサ４０２、及び保持部１０３に取り付けた第３の地磁気センサ４０３の３つ全てを、製造段階において同じ向きに設置しているため、第１の地磁気センサ４０１、第２の地磁気センサ４０２、第３の地磁気センサ４０３から得られる出力値は全て同じ値になる。
　一方、経年変化時では、保持部１０３は車体に固定した状態で設置されているためズレが生じないが、左カメラ１０１及び右カメラ１０２のレンズ部は、初期状態の位置を保てずズレが生じる。そのため、保持部１０３に取り付けた第３の地磁気センサ４０３と、左カメラ１０１及び右カメラ１０２のレンズ部に取り付けた第１の地磁気センサ４０１、第２の地磁気センサ４０２とでは、センサの向きが異なるため、得られる地磁気値も変化する。
　保持部１０３に取り付けた第３の地磁気センサ４０３の出力値を（Ｘ、Ｙ、Ｚ）とし、この値を位置ズレ量算出部２０１に基準値として記録させておく。一方、左カメラ１０１及び右カメラ１０２のレンズ部に取り付けた第１の地磁気センサ４０１、第２の地磁気センサ４０２の出力値は、それぞれ（Ｘ＋ΔＸ１、Ｙ＋ΔＹ１、Ｚ＋ΔＺ１）、（Ｘ＋ΔＸ２、Ｙ＋ΔＹ２、Ｚ＋ΔＺ２）に変化する。この数値を位置ズレ量算出部２０１に記録し、基準値（Ｘ、Ｙ、Ｚ）との変化量（ΔＸ１、ΔＹ１、ΔＺ１）、（ΔＸ２、ΔＹ２、ΔＺ２）を算出する。そして、図３に示すような、予め補正データとして準備しておいた、地磁気センサ４００の出力値の変化量とカメラの位置の変化量の関係より、第１の地磁気センサ４０１、第２の地磁気センサ４０２の出力値の変化量（ΔＸ１、ΔＹ１、ΔＺ１）、（ΔＸ２、ΔＹ２、ΔＺ２）に相当するカメラの位置ズレ量を算出し、補正値記録部２０２に入力する。さらに、画像補正部２０３で、補正値記録部２０２に入力された値だけ切り出し位置を変更する画像補正を行い、距離測定部２０４で距離測定を行う。このように、カメラの位置ズレを補正することで、カメラが初期状態の位置にある時と変わらない高精度な距離測定を行うことが出来る。
　〔画像切り出し位置変更処理〕
　図４Ａ、図４Ｂは、実施の形態における切り出し位置の変更処理を説明した図である。すなわち、図４Ａ、図４Ｂは、画像補正部２０３で行う処理を、左カメラ１０１及び右カメラ１０２で得られた初期時及び経年変化時の画像を用いて説明した図である。
　図４Ａに示すように、初期時は、画像補正部２０３において所定位置（ｘ，ｙ）から一定の領域を有する画像を切り出し、距離測定部２０４に入力し距離測定を行う。
　次に、図４Ｂにおいて、経年変化時の場合の処理を示す。ここでは、一例として、右カメラ１０２のみ、位置ズレが生じた場合を考える。画像補正部２０３では、左カメラ１０１及び右カメラ１０２で撮像した画像信号のうち、ずれが生じた右カメラ１０２で撮像した画像信号の切り出し位置を第２の地磁気センサ４０２で検出した位置ズレ量に対応する補正値（Δｘ，Δｙ）だけ平行移動した位置（ｘ＋Δｘ，ｙ＋Δｙ）に変更する。そして、その位置から一定の領域を有する画像を切り出して、距離測定部２０４に入力する。これにより、距離測定部２０４には、初期の場合の切り出し範囲と同じ範囲の画像が入力され、切り出された範囲内で画像マッチングを行うことにより、初期時と変わることなく、距離測定を正確に行うことが可能になる。
　〔キャリブレーション処理〕
　図５は、車載ステレオカメラ装置１００のキャリブレーション処理を示したフローチャートである。運転者が車のエンジンをかけた際、左カメラ１０１及び右カメラ１０２で撮像された画像信号は、ステレオ処理部２００へ入力され、キャリブレーション処理が開始される（Ｓ１）。ステレオ処理部２００の位置ズレ量算出部２０１は、カメラの物理的なズレ量を算出する（Ｓ２）。ここで算出したズレ量に対し、予めある閾値を設けておき、ステレオ処理部２００はその閾値を超えていないかを判断する（Ｓ３）。閾値を超えていた場合は、ステレオ処理部２００は、モニタ５００にエラーを表示させ、運転者にメンテナンスが必要な旨を通知する（Ｓ４）。
　一方、ズレ量が閾値を超えていない場合は、ステレオ処理部２００は、ズレ量を補正値として補正値記録部２０２に格納する（Ｓ５）。そして、画像補正部２０３は、左カメラ１０１及び右カメラ１０２で撮像した画像に対し、補正値に相当する画素数分だけ、切り出し位置を変更させる（Ｓ６）。ここで切出された左右の画像を距離測定部２０４に入力し距離測定を行う。これによりキャリブレーションは終了となる（Ｓ７）。この処理を車のエンジンをかけた際に都度行うことで、正確な距離計測を絶えず行うことが可能になる。
　（他の実施の形態）
　以上のように、本出願において開示する技術の例示として、実施の形態を説明した。しかしながら、本開示における技術は、これに限定されず、変更、置き換え、付加、省略などを行った実施の形態にも適用できる。また、上記実施の形態で説明した各構成要素を組み合わせて、新たな実施の形態とすることも可能である。
　実施の形態の〔キャリブレーション処理〕においては、Ｓ２でズレ量を算出するたびに、閾値を超えたかどうか判別している。しかしながら、複数回のズレ量を記録しておき、その平均値等から閾値を超えたかどうかを判断することもできる。また、複数回のズレ量の平均値等に基づいて切り出し位置を変更するようにすることもできる。
　なお、上述の実施の形態は、本開示における技術を例示するためのものであるから、請求の範囲またはその均等の範囲において種々の変更、置き換え、付加、省略などを行うことができる。
　本開示は、車載ステレオカメラ装置に適用することが可能である。
１００　車載ステレオカメラ装置
１０１　左カメラ（第１撮像部）
１０２　右カメラ（第２撮像部）
１０３　保持部
２００　ステレオ処理部（制御部）
２０１　位置ズレ量算出部
２０２　補正値記録部
２０３　画像補正部
２０４　距離測定部
３００　画像信号記録部
４００　地磁気センサ（地磁気検知部）
４０１　第１の地磁気センサ（第１地磁気検知部）
４０２　第２の地磁気センサ（第２地磁気検知部）
４０３　第３の地磁気センサ（第３地磁気検知部）
５００　モニタ
６００　記録装置
７００　電源ＩＦ

Claims (4)

  1. 　互いの視野が重なるように保持部を介して車両上に配置された第１撮像部及び第２撮像部と、
    　前記第１撮像部及び前記第２撮像部により撮像される画像と、前記第１撮像部及び前記第２撮像部の車両上の位置と、に基づき、車両外の物体までの距離を算出する制御部と、
    　前記第１撮像部の近傍に配置された第１地磁気検知部と、
    　前記第２撮像部の近傍に配置された第２地磁気検知部と、
    　前記保持部に配置された第３地磁気検知部と、を備え、
    　前記制御部は、
    　前記第１地磁気検知部で検知された地磁場値と、前記第３地磁気検知部で検知された地磁場値とを比較して、前記第１撮像部のずれ量を検出し、前記第１撮像部のずれ量に基づいて、前記第１撮像部により撮像される画像の切り出し位置を変更し、
    　前記第２地磁気検知部で検知された地磁場値と、前記第３地磁気検知部で検知された地磁場値とを比較して、前記第２撮像部のずれ量を検出し、前記第２撮像部のずれ量に基づいて、前記第２撮像部により撮像される画像の切り出し位置を変更する、
    車載用ステレオカメラ装置。
  2. 　前記制御部は、
    　前記車両が通電状態とされるたびに前記ずれ量を求めて記憶し、
    　通電回数が所定数に達すると前記ずれ量の平均値を求め、
    　前記ずれ量の平均値に基づいて前記切り出し位置を変更する、
    請求項１に記載の車載用ステレオカメラ装置。
  3. 　撮像部の近傍に配置された地磁気検知部を備えた車載用ステレオカメラ装置の補正方法であって、
    　前記地磁気検知部によって、前記撮像部のずれ量を検出するステップと、
    　前記ずれ量に基づいて、前記撮像部により撮像される画像の切り出し位置を変更するステップと、を備える
    車載用ステレオカメラ装置の補正方法。
  4. 　前記車両が通電状態とされるたびに前記ずれ量を求めて記憶するステップと、
    　通電回数が所定数に達すると前記ずれ量の平均値を求めるステップと、
    　前記ずれ量の平均値に基づいて前記切り出し位置を変更するステップと、をさらに備える
    　請求項３に記載の車載用ステレオカメラ装置の補正方法。
PCT/JP2016/002834 2015-09-07 2016-06-13 車載用ステレオカメラ装置、およびその補正方法 WO2017042995A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP16843869.5A EP3348961A4 (en) 2015-09-07 2016-06-13 In-vehicle stereo camera device and method for correcting same
JP2017515268A JPWO2017042995A1 (ja) 2015-09-07 2016-06-13 車載用ステレオカメラ装置、およびその補正方法
US15/488,564 US10313658B2 (en) 2015-09-07 2017-04-17 Vehicle-mounted stereo camera device and method for correcting the same

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015175289 2015-09-07
JP2015-175289 2015-09-07

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US15/488,564 Continuation US10313658B2 (en) 2015-09-07 2017-04-17 Vehicle-mounted stereo camera device and method for correcting the same

Publications (1)

Publication Number Publication Date
WO2017042995A1 true WO2017042995A1 (ja) 2017-03-16

Family

ID=58239419

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2016/002834 WO2017042995A1 (ja) 2015-09-07 2016-06-13 車載用ステレオカメラ装置、およびその補正方法

Country Status (4)

Country Link
US (1) US10313658B2 (ja)
EP (1) EP3348961A4 (ja)
JP (1) JPWO2017042995A1 (ja)
WO (1) WO2017042995A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6920159B2 (ja) * 2017-09-29 2021-08-18 株式会社デンソー 車両の周辺監視装置と周辺監視方法
US11740078B2 (en) * 2020-07-21 2023-08-29 Argo AI, LLC Enhanced sensor alignment

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS57137806A (en) * 1981-01-23 1982-08-25 Touin Shitei Intern Inc Method of and apparatus for measuring thickness of film
JP2001233139A (ja) 2000-02-25 2001-08-28 Fuji Heavy Ind Ltd 車載用プレビューセンサの取り付け構造およびその位置ずれ調整装置
JP2003023562A (ja) * 2001-07-06 2003-01-24 Minolta Co Ltd 画像撮影システムおよびカメラシステム
JP2009241247A (ja) * 2008-03-10 2009-10-22 Kyokko Denki Kk ステレオ画像型検出移動装置
JP2012029033A (ja) * 2010-07-23 2012-02-09 Olympus Imaging Corp カメラ
JP2012175695A (ja) * 2011-02-24 2012-09-10 Kyocera Corp 電子機器、画像表示方法および画像表示プログラム
JP2015117993A (ja) * 2013-12-18 2015-06-25 株式会社ミツトヨ 三次元測定システム、三次元測定方法、被測定体、および、位置検出装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008514722A (ja) * 2004-09-30 2008-05-08 ドクター レディズ ラボラトリーズ リミテッド 非結晶性アトルバスタチンカルシウム
JP4636979B2 (ja) * 2005-09-09 2011-02-23 キヤノン株式会社 撮像装置及びその制御方法
JP4426535B2 (ja) * 2006-01-17 2010-03-03 本田技研工業株式会社 車両の周辺監視装置
US7748560B2 (en) * 2006-07-11 2010-07-06 Taylor Fresh Vegetables, Inc. Atmosphere controlled packaging for fresh foodstuffs
JP4800163B2 (ja) * 2006-09-29 2011-10-26 株式会社トプコン 位置測定装置及びその方法
JP4859652B2 (ja) * 2006-12-15 2012-01-25 アルパイン株式会社 画像表示装置
CN103907340B (zh) * 2011-11-07 2017-03-29 索尼电脑娱乐公司 图像生成装置和图像生成方法
JP6115268B2 (ja) * 2013-04-05 2017-04-19 株式会社Ｊｖｃケンウッド 撮像装置及び撮像方法
DE102013017341A1 (de) * 2013-10-18 2014-06-18 Daimler Ag Vorrichtung und Verfahren zur Kalibrierung einer Kameraanordnung

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS57137806A (en) * 1981-01-23 1982-08-25 Touin Shitei Intern Inc Method of and apparatus for measuring thickness of film
JP2001233139A (ja) 2000-02-25 2001-08-28 Fuji Heavy Ind Ltd 車載用プレビューセンサの取り付け構造およびその位置ずれ調整装置
JP2003023562A (ja) * 2001-07-06 2003-01-24 Minolta Co Ltd 画像撮影システムおよびカメラシステム
JP2009241247A (ja) * 2008-03-10 2009-10-22 Kyokko Denki Kk ステレオ画像型検出移動装置
JP2012029033A (ja) * 2010-07-23 2012-02-09 Olympus Imaging Corp カメラ
JP2012175695A (ja) * 2011-02-24 2012-09-10 Kyocera Corp 電子機器、画像表示方法および画像表示プログラム
JP2015117993A (ja) * 2013-12-18 2015-06-25 株式会社ミツトヨ 三次元測定システム、三次元測定方法、被測定体、および、位置検出装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3348961A4

Also Published As

Publication number Publication date
US20170223341A1 (en) 2017-08-03
JPWO2017042995A1 (ja) 2018-06-28
EP3348961A4 (en) 2018-08-22
EP3348961A1 (en) 2018-07-18
US10313658B2 (en) 2019-06-04

Similar Documents

Publication Publication Date Title
US10701341B2 (en) Calibration method, calibration device, and computer program product
US20160379066A1 (en) Method and Camera System for Distance Determination of Objects from a Vehicle
US8593536B2 (en) Image pickup apparatus with calibration function
US10220783B2 (en) Vehicle-mounted stereo camera device and method for correcting the same
JP6970577B2 (ja) 周辺監視装置および周辺監視方法
US20120154550A1 (en) Correction value calculation apparatus, compound eye imaging apparatus, and method of controlling correction value calculation apparatus
JP2014074632A (ja) 車載ステレオカメラの校正装置及び校正方法
US20160093053A1 (en) Detection method and detection apparatus for detecting three-dimensional position of object
JP2010139275A (ja) 車両用複眼距離測定装置及び複眼距離測定方法
JP6970568B2 (ja) 車両の周辺監視装置と周辺監視方法
JP2008292278A (ja) 距離検出装置の光学ずれ検出方法及び距離検出装置
WO2017042995A1 (ja) 車載用ステレオカメラ装置、およびその補正方法
US20180051983A1 (en) Measurement system and method for configuring the measurement system
US10384608B2 (en) Vehicle-mounted stereo camera device and method for correcting the same
JP5487946B2 (ja) カメラ画像の補正方法およびカメラ装置および座標変換パラメータ決定装置
JP2014202661A (ja) 測距装置
EP4235574A1 (en) Measuring device, moving device, measuring method, and storage medium
WO2021145280A1 (ja) ロボットシステム
JP6680335B2 (ja) ステレオカメラ、車両、算出方法及びプログラム
JP2005136743A (ja) 撮像素子の位置調整装置及び位置調整方法
JP6571571B2 (ja) 撮像装置、車載カメラおよび画像処理方法
US11830206B2 (en) Stereo camera apparatus and control device
WO2020166403A1 (ja) 画像処理装置
WO2023139675A1 (ja) 撮像装置、視差ずれ補正方法、及び視差ずれ補正プログラム
JP2018116620A (ja) 画像処理装置、画像処理システムおよび画像処理方法

Legal Events

Date Code Title Description
ENP Entry into the national phase

Ref document number: 2017515268

Country of ref document: JP

Kind code of ref document: A

REEP Request for entry into the european phase

Ref document number: 2016843869

Country of ref document: EP

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 16843869

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE