WO2013150794A1 - 較正処理装置、カメラ装置、カメラシステム、およびカメラ較正方法 - Google Patents
較正処理装置、カメラ装置、カメラシステム、およびカメラ較正方法 Download PDFInfo
- Publication number
- WO2013150794A1 WO2013150794A1 PCT/JP2013/002325 JP2013002325W WO2013150794A1 WO 2013150794 A1 WO2013150794 A1 WO 2013150794A1 JP 2013002325 W JP2013002325 W JP 2013002325W WO 2013150794 A1 WO2013150794 A1 WO 2013150794A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- camera
- adjustment unit
- unit
- image
- calibration object
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/40—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
- B60R2300/402—Image calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20092—Interactive image processing based on input by user
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Definitions
- the present invention relates to a calibration processing device, a camera device, a camera system, and a camera calibration method for calibrating a mounting angle of a camera attached to a moving body.
- a camera system in which a camera is attached to the rear of a vehicle and a rear image that is difficult to be seen by the driver can be displayed on a display unit in the vehicle (for example, a display unit of a car navigation device).
- a display unit in the vehicle for example, a display unit of a car navigation device.
- a technique for acquiring a parameter for calibrating the displacement of the camera mounting position is known (see, for example, Patent Document 1 and Non-Patent Document 1).
- FIG. 14 is a diagram showing an image displayed on the display unit 4 in the camera calibration mode (camera optical axis adjustment mode) for calibrating the displacement of the conventional camera mounting position (camera optical axis).
- Reference numeral 43 denotes an end portion of the bumper displayed when the camera is mounted near the bumper of the vehicle.
- the movement is performed in order to adjust the displacement amount between the index 41 (actual image) displayed on the display unit 4 and the calibration object 40 (assumed image). It is necessary to move the calibration object 40 using the instruction units 51 to 56 so that it matches the index 41.
- FIG. 15 is a diagram showing an image displayed on the display unit during the camera calibration operation in the conventional camera calibration mode.
- the user first uses the left instruction unit 51 for calibration as shown in FIG.
- the object 40 is moved in the left direction.
- the user moves the calibration object 40 upward using the up instruction unit 54.
- the user rotates the calibration object 40 in the counterclockwise direction around the center of the calibration object 40 using the left rotation instruction unit 55.
- the index 41 should normally fit in the calibration object 40.
- a camera attached to a vehicle often employs a lens with large distortion such as a fisheye lens for wide-angle shooting. Therefore, when the calibration object 40 is rotated as shown in FIG. 15C, the end of the index 41 may slightly protrude from the calibration object 40 due to lens distortion or the like.
- the user moves the calibration object 40 slightly in the left direction again using, for example, the left instruction unit 51, and the user as shown in FIG. 15E. Then, the calibration object 40 is slightly moved downward again using the lower instruction unit 53. Then, as shown in FIG. 15 (f), the user slightly rotates the calibration object 40 in the clockwise direction again using the right rotation instruction unit 56.
- An object of the present invention made in view of such circumstances is that a calibration processing device, a camera device, a camera system, which can simplify the operation at the time of calibrating the displacement of the mounting position of the camera and can reduce the time required for calibration, And providing a camera calibration method.
- a camera device provides: A camera that is attached to a predetermined position of the moving body and captures an image including an index placed outside the moving body; An image superimposing unit that generates a superimposed image in which a calibration object having a first adjustment unit that suggests a predetermined region and a second adjustment unit that suggests a predetermined rotation range is superimposed on an image captured by the camera.
- An image superimposing unit that generates a superimposed image in which a calibration object having a first adjustment unit that suggests a predetermined region and a second adjustment unit that suggests a predetermined rotation range is superimposed on an image captured by the camera.
- a calculation unit that calculates a pan angle, a tilt angle, and a roll angle for calibrating the displacement of the mounting position; It is characterized by providing.
- the calculation unit When calculating the amount of movement of the calibration object in the rotation direction, the calculation unit sets a rotation center point as the center point of the first adjustment unit.
- the second adjustment unit is characterized in that the predetermined rotation range is specified by a plurality of lines having a predetermined interval or a line having a predetermined width.
- the first adjustment unit is characterized in that the predetermined area is specified by a circular figure.
- the first adjustment unit defines the adjustment accuracy of the pan angle and the tilt angle according to the diameter of the circular figure
- the second adjusting unit defines the adjustment accuracy of the roll angle according to the length and interval of the plurality of lines having the predetermined interval or the length and width of the line having the predetermined width.
- the calibration object further includes a first auxiliary adjustment unit,
- the first auxiliary adjustment unit is arranged to suggest a predetermined region larger than the predetermined region of the first adjustment unit and to surround the first adjustment unit.
- the boundary line of the area of the first auxiliary adjustment unit is arranged in a color different from the boundary line of the area of the first adjustment unit.
- the first auxiliary adjustment unit is characterized in that the predetermined area is specified by a circular figure.
- the calibration object further includes a second auxiliary adjustment unit,
- the second auxiliary adjustment unit suggests a predetermined rotation range.
- the boundary line of the rotation range of the second auxiliary adjustment unit is colored with a color different from the boundary line of the rotation range of the second adjustment unit.
- the second auxiliary adjustment unit is characterized in that the predetermined rotation range is specified by a plurality of lines having a predetermined interval or a line having a predetermined width.
- the image superimposing unit moves the calibration object obtained by tilting the second adjustment unit from the horizontal direction by an angle determined according to the distortion. A superimposed image is generated.
- the camera calibration method which concerns on this invention is the following.
- the calibration processing apparatus which concerns on this invention is the following.
- a captured image from a camera that captures an image including an index that is attached at a predetermined position of the moving body and arranged outside the moving body
- the mounting position shift in the pan angle, tilt angle, and roll angle of the camera is changed.
- a calibration processing device for calibrating, An image superimposing unit that generates a superimposed image in which a calibration object having a first adjustment unit that suggests a predetermined region and a second adjustment unit that suggests a predetermined rotation range is superimposed on an image captured by the camera.
- a calculation unit that calculates a pan angle, a tilt angle, and a roll angle for calibrating the displacement of the mounting position; It is characterized by providing.
- a camera system includes A camera that is attached to a predetermined position of the moving body and captures an image including an index placed outside the moving body; An image superimposing unit that generates a superimposed image in which a calibration object having a first adjustment unit that suggests a predetermined region and a second adjustment unit that suggests a predetermined rotation range is superimposed on an image captured by the camera.
- a display unit provided in the moving body and displaying the superimposed image;
- an instruction unit that instructs the calibration object to move its display position;
- the superimposed image obtained by moving the calibration object based on an instruction to move the calibration object by the instruction unit is generated in the image superimposing unit, and in the superimposed image, in the predetermined region of the first adjustment unit.
- a calculation unit that calculates a pan angle, a tilt angle, and a roll angle for calibrating a deviation in the mounting position of the camera; It is characterized by providing.
- the operation for calibrating the displacement of the camera mounting position becomes simple, and the time required for calibration can be shortened.
- FIG. 1 It is a block diagram which shows the structural example of the system carrying the camera system of one Embodiment by this invention. It is a figure which shows the moving body which attached the camera facing back. It is a figure which shows an example of the image displayed on the display part in the camera system of one Embodiment by this invention. It is a figure showing the front of a display part, a plane, and a right side in a camera system of one embodiment by the present invention. It is a figure which shows an example of the object for a calibration displayed on the display part in the camera system of one Embodiment by this invention.
- FIG. 1 is a block diagram illustrating a configuration example of a system when a camera system according to an embodiment of the present invention is mounted on a moving body (for example, a vehicle).
- the mobile system includes a camera system 1, a CPU 2 that controls the operation of the entire system, a bus 3, and a sensor 6.
- the camera system 1 includes a camera calibration device (camera device) 10, a display unit 4, and an instruction unit 5.
- the camera calibration device 10 includes a camera 11 and a calibration processing device 12.
- the calibration processing device 12 includes an image processing unit 121, an image superimposing unit 122, an image output unit 123, a CPU (calculation unit) 124, and a storage unit 125.
- the camera 11 has an image sensor such as a CMOS or a CCD, converts subject light incident through the lens into an electrical signal, and generates a captured image of the subject.
- the camera 11 is attached to a predetermined position of the moving body.
- the camera calibration device 10 is configured as a module integrated with the camera 11, the camera calibration device 10 is attached to a predetermined position of the moving body.
- FIG. 2 is a diagram showing a moving body in which the camera 11 is mounted rearward as an example.
- the camera 11 is attached in the vicinity of the bumper 43 at the back of the moving body 100 and takes an image of the back of the moving body 100.
- a region A in the figure is a region where a video is taken by the camera 11.
- the present invention may be applied to an example in which the camera 11 is attached to the front or side of the moving body.
- the display unit 4 displays an image generated by the camera system 1 when the parking mode is instructed by the user when the user switches to the reverse gear, for example.
- the parking mode is a mode for helping smooth parking by causing the display unit 4 to display an image in the area A behind the moving body 100 that is difficult for the user who drives the moving body 100 to view. Further, the predicted trajectory through which the moving body 100 passes can be superimposed on the video in the area A behind the moving body 100 so that parking can be performed more smoothly.
- the video generated by the camera system 1 is displayed.
- the camera calibration mode an object or a figure as an index is arranged in advance in the area A behind the moving body 100, and a user or the like uses the image of the index obtained by imaging with the camera 11 by the user or the like.
- This is a mode for calibrating the mounting position.
- This camera calibration mode is used when the camera 11 is attached to the moving body 100 in a production line or a maintenance shop of the moving body 100, or when the position of the camera 11 is shifted due to vibration applied to the moving body 100 or the like. Used to correct the deviation. A specific calibration method will be described later.
- the display unit 4 displays the route guide map to the destination obtained by the navigation system when the navigation mode is instructed by the user, and by the television receiver when the TV mode is instructed. It is also possible to display the obtained television image.
- the instruction unit 5 is a user interface for adjusting the position of the calibration object superimposed on the display unit 4. By operating the instruction unit 5, the position of the calibration object is moved in the vertical and horizontal directions and the rotation direction. Can be made.
- the instruction unit 5 outputs an object movement signal obtained by a user operation to the CPU 124 via the bus 3.
- the instruction unit 5 outputs an adjustment end signal to the CPU 124 via the bus 3.
- the instruction unit 5 may be a mechanical switch provided in the vicinity of the display unit 4 or may be an object displayed on a touch panel arranged on the display unit 4.
- Sensor 6 includes a vehicle speed sensor that detects the vehicle speed, a gear sensor that detects the position of the shift lever, and a steering angle sensor that detects the steering angle of the steering.
- the sensor 6 outputs sensor signals obtained from various sensors to the CPU 124 and the CPU 2 via the bus 3.
- the storage unit 125 stores the position coordinates of the camera 11 and the position coordinates of the index that are known values. Further, the storage unit 125 also stores the direction of the optical axis when the camera 11 is accurately attached as a known value.
- the CPU 124 calculates the movement amount based on the object movement signal obtained by the instruction unit 5 in a state where the calibration object is displayed, determines the display position of the calibration object, and instructs the image superimposing unit 122 to superimpose. Further, the CPU 124 calculates calibration parameters (pan angle, tilt angle, and roll angle) for calibrating the displacement of the attachment position of the camera 11 when receiving an instruction to end the adjustment from the instruction unit 5. In the parking mode, the CPU 124 determines the display position of the predicted trajectory of the moving body 100 based on the sensor signal obtained by the sensor 6 and instructs the image superimposing unit 122 to superimpose.
- the image processing unit 121 performs A / D conversion, noise reduction processing, image processing, and the like on the captured image generated by the camera 11 to generate a digital image, and outputs the digital image to the image superimposing unit 122.
- the image superimposing unit 122 generates a superimposed image by superimposing an image at a predetermined position on the digital image generated by the image processing unit 121 based on an instruction from the CPU 124, and outputs the superimposed image to the image output unit 123.
- the image to be superimposed is a calibration object used when calibrating the attachment position of the camera 11, or an expected region through which the moving body 100 passes when it moves backward, and is a predicted trajectory used for parking support.
- the image output unit 123 converts the superimposed image generated by the image superimposing unit 122 into a format (for example, NTSC) suitable for the display device of the display unit 4 and outputs the converted image to the display unit 4.
- a format for example, NTSC
- FIG. 3 is a diagram illustrating an example of a power image displayed on the display unit 4 when the camera calibration mode is instructed by a user or the like.
- a captured image including the index 41 and a calibration object 42 are displayed.
- the end of the bumper 43 is also displayed.
- FIG. 4 is a diagram showing the front, plane, and right side of the display unit 4.
- the calibration object 42 which is a characteristic image used for operation, is indicated by a solid line, and the other portions are indicated by a broken line.
- the figure showing the front, the plane, and the right side is a cabinet diagram, and the inclination angle is 45 degrees.
- the rear view, the bottom view, and the left side view are omitted because the calibration object 42 does not appear.
- the shape shown with the broken line part is an example, and is not limited to this.
- the index 41 is an object or a figure arranged at a predetermined distance (for example, 1 m) from the rear end of the moving body 100 when the moving body 100 is accurately stopped at a predetermined stop position. It is a white line drawn on the board or road surface. That is, if the mounting angle of the camera 11 is accurate, the positional relationship between the moving body 100 and the index 41 is specified, and thus the index 41 photographed by the camera 11 is always reflected at a specific position on the screen of the display unit 4. It will be. If the index 41 appears in a position deviated from the specific position, the instruction unit 5 moves the calibration object 42 to the position of the index 41 in the screen to identify the camera mounting angle shift of the camera 11. Calibration parameters can be obtained.
- a predetermined distance for example, 1 m
- a left instruction unit 51 and a right instruction unit 52 that constitute the instruction unit 5.
- the lower instruction unit 53, the upper instruction unit 54, the left rotation instruction unit 55, the right rotation instruction unit 56, the return instruction unit 57, and the next instruction unit 58 are displayed.
- the left instruction unit 51 is used when the calibration object 42 is moved in the left direction
- the right instruction unit 52 is used when the calibration object 42 is moved in the right direction
- the lower instruction unit 53 is used for moving the calibration object 42. It is used when moving downward
- the upper instruction unit 54 is used when moving the calibration object 42 upward
- the left rotation instruction unit 55 is used when rotating the calibration object 42 counterclockwise.
- the right rotation instructing unit 56 is used when the calibration object 42 is rotated in the clockwise direction.
- the return instruction unit 57 is used when returning to the image displayed before the camera calibration mode image is displayed.
- the next instruction unit 58 is used when notifying that the operation of moving the calibration object 42 to the index 41 in the screen has ended.
- an offset of 0.5 degrees for example, is associated with a single press of the left indicating unit 51 or the right indicating unit 52
- the camera 11 The calibration object 42 is moved by the number of pixels equal to the amount of movement of the photographed image that occurs when the direction of the image pickup is changed by 0.5 degrees in the pan (left / right) direction. The same applies to the tilt (up / down) direction and the roll (rotation) direction.
- FIG. 5 is a diagram illustrating an example of the calibration object 42 displayed on the display unit 4.
- the calibration object 42 includes a pan / tilt adjustment unit 421 that is a first adjustment unit that suggests a predetermined region and a roll adjustment unit 422 that is a second adjustment unit that suggests a predetermined rotation range.
- a pan / tilt adjustment unit 421 that is a first adjustment unit that suggests a predetermined region
- a roll adjustment unit 422 that is a second adjustment unit that suggests a predetermined rotation range.
- the pan / tilt adjustment unit 421 is an object for adjusting the pan direction and tilt direction of the camera to acquire the pan angle and tilt angle as calibration parameters, and is configured by a figure having a predetermined area.
- the pan and tilt angle adjustment accuracy is defined by the size of the pan / tilt adjustment unit 421. That is, when the user moves the calibration object 42 and one end of the index 41 in the screen is within the pan / tilt adjustment unit 421, the adjustment of the pan direction and the tilt direction of the camera can be terminated.
- the adjustment accuracy is, for example, ⁇ 0.5 degrees in each of the pan direction and the tilt direction
- the shape of the area of the pan / tilt adjustment unit 421 is a circle with a constant radius as shown in FIG.
- the pan angle adjustment accuracy is ⁇ 0.5 degrees and the tilt angle adjustment accuracy is ⁇ 0.3 degrees
- the shape of the area of the pan / tilt adjustment unit 421 is not a perfect circle but in the pan direction. It becomes an ellipse with a long radius.
- the adjustment accuracy of the pan angle and the tilt angle defined by the size of the area of the pan / tilt adjustment unit 421 is determined by one press of the left instruction unit 51, the right instruction unit 52, the lower instruction unit 53, and the upper instruction unit 54. It is desirable that the adjustment amount is an integral multiple of the amount of movement on the screen accompanying the change in the camera angle corresponding to.
- the roll adjustment unit 422 is an object for adjusting the roll direction of the camera and acquiring a roll angle that is a calibration parameter, and is a line (for example, two parallel lines) extending in the same direction with a predetermined interval. Line).
- the roll angle adjustment accuracy is defined by the length and interval of the two straight lines of the roll adjustment unit 422. That is, the user rotates the calibration object 42 around the center point of the pan / tilt adjustment unit 421 while keeping one end of the index 41 within the pan / tilt adjustment unit 421, and the two roll adjustment units 422. If the index 41 is rotated between the parallel lines until it does not cross the parallel line, the adjustment of the camera roll direction can be completed.
- the pan / tilt adjustment unit 421 is interlocked with the rotation of the calibration object 42. Even if it rotates, the positional relationship between the index 41 and the pan / tilt adjustment unit 421 does not change. That is, there is almost no need for fine adjustment again due to the rotation of the calibration object 42.
- the roll angle adjustment accuracy defined by the straight line length and interval of the roll adjustment unit 422 is an integral multiple of the camera movement angle corresponding to one press of the left rotation instruction unit 55 and the right rotation instruction unit 56. It is desirable for the user or the like to easily grasp the adjustment amount.
- FIG. 6 is a diagram showing the relationship between the width and length of the roll adjustment unit 422 of the calibration object 42.
- the dotted line indicates the position where the index 41 can be taken.
- the adjustment accuracy of the roll angle is, for example, ⁇ 0.5 degrees.
- the adjustment accuracy of the roll angle is a constant value, as shown in FIG. 6B, when the width of the parallel line of the roll adjustment unit 422 is narrowed, the length of the parallel line is shortened, as shown in FIG.
- the pan / tilt adjustment unit 421 and the roll adjustment unit 422 do not need to be connected without a gap, and there is a gap between the pan / tilt adjustment unit 421 and the roll adjustment unit 422 as shown in FIG. Also good.
- the calibration object 42 may further include a pan / tilt auxiliary adjustment unit 423 (first auxiliary adjustment unit).
- the pan / tilt auxiliary adjustment unit 423 is configured by a figure having an area larger than the area of the pan / tilt adjustment unit 421 and is arranged so as to surround the pan / tilt adjustment unit 421.
- the diameter of the pan / tilt auxiliary adjustment unit 423 is set to be twice the diameter of the pan / tilt adjustment unit 421.
- the boundary line of the area of the pan / tilt auxiliary adjustment unit 423 is arranged in a color different from the boundary line of the area of the pan / tilt adjustment unit 421.
- the boundary line of the area of the pan / tilt auxiliary adjustment unit 423 is colored in yellow, and the boundary line of the area of the pan / tilt adjustment unit 421 is colored in red.
- the calibration object 42 further includes the pan / tilt auxiliary adjustment unit 423, so that the user can visually determine the position of the pan / tilt adjustment unit 421 instantaneously.
- the pan / tilt auxiliary adjustment unit 423 can define the adjustment accuracy of the pan angle and the tilt angle in the same manner as the pan / tilt adjustment unit 421.
- the pan / tilt adjustment unit 421 has a pan angle and tilt angle adjustment accuracy of ⁇ 0.5 degrees, respectively
- the pan / tilt auxiliary adjustment unit 423 has a pan angle and tilt angle adjustment accuracy of ⁇ 1 degree, respectively.
- the calibration of the pan direction and the tilt direction of the camera is terminated if one end of the index 41 is within the pan / tilt auxiliary adjustment unit 423 when adjustment with high accuracy is not required. And the time required for calibration can be shortened.
- the calibration object 42 may further include a roll auxiliary adjustment unit 424 (second auxiliary adjustment unit) in addition to the pan / tilt auxiliary adjustment unit 423.
- the calibration object 42 may include only one of the pan / tilt auxiliary adjustment unit 423 and the roll auxiliary adjustment unit 424.
- the roll auxiliary adjustment unit 424 is configured by lines extending in the same direction (for example, two parallel lines) having a wider interval than the interval of the roll adjustment unit 422, and is disposed so as to sandwich the roll adjustment unit 422.
- the interval of the roll auxiliary adjustment unit 424 is set to be twice the interval of the pan / tilt auxiliary adjustment unit 423.
- the two straight lines of the pan / tilt roll auxiliary adjustment unit 424 are arranged in a color different from the two straight lines of the roll adjustment unit 422.
- the parallel lines of the roll auxiliary adjustment unit 424 are colored in yellow, and the parallel lines of the roll adjustment unit 422 are colored in red.
- the calibration object 42 further includes the roll auxiliary adjustment unit 424, so that the user can visually determine the position of the roll adjustment unit 422 instantaneously.
- the roll auxiliary adjustment unit 424 can regulate the adjustment accuracy of the roll angle by the length and interval of two straight lines, like the roll adjustment unit 422.
- the roll angle adjustment accuracy of the roll adjustment unit 422 is set to ⁇ 0.5 degrees
- the roll angle adjustment accuracy of the roll auxiliary adjustment unit 424 is set to ⁇ 1 degree.
- FIG. 10 is a diagram illustrating an example in which the index 41 is arranged at the end of the display unit 4. Due to the characteristics of the lens, the image obtained by the camera calibration device 10 is weak in the vicinity of the center and has a strong distortion at the end. Therefore, when the index 41 is not arranged at the center of the image, the end of the index 41 is distorted as shown in FIG. 10, and as a result, the index 41 is bent and displayed. If the CPU 124 can presume that distortion occurs at the end portion of the index 41 from the known attachment position of the camera 11, the position of the index 41, the ideal optical axis direction, and lens distortion parameters, the index 41. The expected amount of distortion is calculated.
- the image superimposing unit 122 generates a superimposed image in which the calibration object 42 in which two straight lines of the roll adjusting unit 422 are tilted from the horizontal direction by an angle determined according to the distortion is superimposed. As shown in FIG. 10, when the image of the calibration object 42 in the initial state (before movement) is tilted from the horizontal direction in accordance with the distortion of the index 41, the distortion direction is generated at the end of the index 41. The adjustment becomes easier.
- FIG. 11 is a flowchart showing a camera calibration operation by the camera system 1.
- FIG. 12 is a diagram illustrating an image displayed on the display unit 4 during the camera calibration operation.
- FIG. 12A shows a state in which the left instruction unit 51 is pressed and the calibration object 42 has moved leftward.
- FIG. 12B shows a state where the upper instruction unit 54 is pressed and the calibration object 42 is moved upward. The user moves the calibration object 42 so that the end of the index 41 is included in the area of the pan / tilt adjustment unit 421 by the operations of Step S101 and Step S102.
- FIG. 12C shows a state in which the counterclockwise rotation instruction unit 55 is pressed and the calibration object 42 is rotated in the counterclockwise direction.
- FIG. 13 is a flowchart showing the operation of the CPU 124 during the calibration operation of the camera 11.
- the CPU 124 receives the object movement signal from the instruction unit 5 (step S201—Yes)
- the CPU 124 calculates the movement amount and instructs the image superimposing unit 122 to superimpose the moved calibration object 42 (step S202).
- the CPU 124 sets the rotation center point as the center point of the pan / tilt adjustment unit 421. Thereby, it can prevent that the parameter
- step S204 When the CPU 124 does not receive the object movement signal from the instruction unit 5 (step S201—No), the CPU 124 receives the movement instruction from the instruction unit 5 until the adjustment end signal is received from the instruction unit 5 (step S203—No). ).
- step S203—Yes When the adjustment end signal is received from the instruction unit 5 (step S203—Yes), calibration parameters (pan angle, tilt angle, and roll angle) for calibrating the displacement of the mounting position of the camera 11 are calculated (step S204).
- step S204 when the operation amount for one operation of the instruction unit 5 is associated with the rotation angle of the camera 11, the calibration parameters (pan angle, tilt angle, and Roll angle) can be calculated.
- the operation amount for one operation of the instruction unit 5 is 0.5 degrees, in the operation illustrated in FIG. 11, the user presses the left instruction unit 51 twice in step S101, and the upper instruction unit in step S102.
- the button 54 is pressed twice and the left rotation instruction unit 55 is pressed twice in step S103
- the pan angle, the tilt angle, and the roll angle are each 1.0 degree.
- the CPU 124 performs conversion processing between camera coordinates and world coordinates when adjusting an image to be displayed on the display unit 4 based on the acquired calibration parameters (pan angle, tilt angle, and roll angle).
- the captured image from the camera 11 is output with the amount corresponding to the calibration parameter offset, or the superimposed image is converted into an image corresponding to the calibration parameter. Processed and output.
- the image superimposing unit 122 when the image superimposing unit 122 generates a superimposed image by superimposing an image such as a predicted trajectory on the digital image generated by the image processing unit 121, the superimposition before the calibration parameter is calculated. Since it is superimposed after being offset or changed from the position, for example, a highly accurate vehicle passage prediction trajectory can be displayed during parking.
- the calibration object 42 includes the pan / tilt adjustment unit 421 configured by a figure having a predetermined area, A roll adjustment unit 422 configured by two straight lines having a predetermined interval, and the CPU 124 includes one end of the index 41 within a predetermined region of the pan / tilt adjustment unit 421, and the roll adjustment unit 422.
- the operation for calibrating the camera 11 becomes simple, and the time required for calibration can be shortened.
- the CPU 124 calculates the amount of movement of the calibration object 42 in the rotation direction, the rotation can be quickly adjusted by setting the rotation center point as the center point of the pan / tilt adjustment unit 421.
- the roll adjustment unit may be configured with two straight lines, the roll adjustment unit may be configured with a gentle curve considering the amount of distortion of the lens in advance, and the number is not more than two but more. May be.
- the roll adjustment unit may be configured by one thick line segment, and the index 41 may be positioned on this line segment. In this case, instead of adjusting the index 41 so as not to cross the parallel line, the index 41 is adjusted so that it does not protrude from a predetermined width.
- the roll adjusting unit may indicate the rotation range by a plurality of lines or lines having a predetermined width.
- the line segment of the roll adjusting unit is not limited to a finite length but may be an infinite length line. That is, in this case, the roll adjusting unit is constituted by a plurality of lines (or one line having a predetermined width) extending from the pan / tilt adjusting unit to the edge of the screen.
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Studio Devices (AREA)
- Closed-Circuit Television Systems (AREA)
- Accessories Of Cameras (AREA)
Abstract
カメラを較正する際の操作を簡便なものとし、較正に要する時間を短縮する。 カメラ較正装置10は、移動体100外部に配された指標41を含む画像を撮像するカメラ11と、カメラ11による撮像画像に、所定の領域を示唆する第1調整部421と、所定の回転範囲を示唆する第2調整部422と、を有する較正用オブジェクト42を重畳した重畳画像を生成する画像重畳部122と、較正用オブジェクト42の移動指示に基づいて較正用オブジェクト42を移動させた重畳画像を画像重畳部122に生成させるとともに、当該重畳画像において、第1調整部421の領域内に指標41の一端が含まれ、かつ、第2調整部422の回転範囲内に指標41が位置する位置に較正用オブジェクト42が移動されたときの位置に基づいて、カメラ11の取り付け位置のずれを較正するパン角、チルト角およびロール角を算出する演算部124と、を備える。
Description
本出願は、2012年4月4日に出願された日本国特許出願2012-085963号の優先権を主張するものであり、この先の出願の開示全体を、ここに参照のために取り込む。
本発明は、移動体に取り付けられたカメラの取り付け角度を較正する較正処理装置、カメラ装置、カメラシステム、およびカメラ較正方法に関するものである。
従来、車両後方にカメラを取り付け、運転者から見えにくい後方の映像を車両内の表示部(例えば、カーナビゲーション装置の表示部)に表示可能とするカメラシステムが知られている。このようなシステムにおいて、位置情報が既知である物体(指標)を撮像したときに想定される想定画像と、実際に指標をカメラで撮像したときの実画像とのずれ量を調整することにより、カメラの取り付け位置のずれを較正するパラメータを取得する手法が知られている(例えば、特許文献1および非特許文献1参照)。
[online]、平成19年7月22日、[平成24年4月4日検索]、インターネット<URL:http://gazoo.com/G-Blog/chibanocienta/25496/Article.aspx>
図14は、従来のカメラの取り付け位置(カメラ光軸)のずれを較正するカメラ較正モード(カメラ光軸調整モード)時に表示部4に表示される画像を示す図である。なお、43は、カメラが車両のバンパー付近に取り付けられた場合に表示されるバンパーの端部である。カメラの取り付け位置のずれを較正するパラメータを取得する際には、表示部4に表示される指標41(実画像)と較正用オブジェクト40(想定画像)とのずれ量を調整するために、移動指示部51~56を用いて較正用オブジェクト40を移動させて指標41に一致させる必要がある。しかしながら、ユーザが較正用オブジェクト40を指標41に一致させるには、移動指示部51~56を用いて較正用オブジェクト42を上下左右方向及び回転方向に複数回にわたって移動させる必要があり、操作が煩雑となり、較正に時間がかかるという問題があった。
図15は、従来のカメラ較正モード時におけるカメラ較正動作時に表示部に表示される画像を示す図である。図14に示す位置に指標41と初期状態(移動前)の較正用オブジェクト40が表示されていた場合、まずユーザは、図15(a)に示すように、左指示部51を用いて較正用オブジェクト40を左方向に移動させる。つぎに、ユーザは図15(b)に示すように、上指示部54を用いて較正用オブジェクト40を上方向に移動させる。つぎに、ユーザは図15(c)に示すように、左回転指示部55を用いて較正用オブジェクト40を較正用オブジェクト40の中央を中心とした反時計回り方向に回転移動させる。
ここで、本来ならば指標41が較正用オブジェクト40内にきっちりと収まるはずである。しかしながら、車両に取り付けられるカメラは広角撮影のために魚眼レンズのような歪みの大きいレンズを採用することが多い。そのため、図15(c)のように較正用オブジェクト40を回転移動させると、レンズの歪み等に起因して指標41の端が較正用オブジェクト40から僅かにはみ出てしまうことが生じ得る。このような場合には、ユーザは図15(d)に示すように例えば左指示部51を用いて再び較正用オブジェクト40を僅かに左方向に移動させ、ユーザは図15(e)に示すように下指示部53を用いて再び較正用オブジェクト40を僅かに下方向に移動させることとなる。そして、ユーザは図15(f)に示すように、右回転指示部56を用いて較正用オブジェクト40を時計回り方向に再び僅かに回転移動させる。このように、カメラの取り付け位置のずれを較正する際には、較正用オブジェクト40を回転移動させた後に、更に微調整するために複数回の操作が必要となることが多かった。
かかる事情に鑑みてなされた本発明の目的は、カメラの取り付け位置のずれを較正する際の操作が簡便となり、較正に要する時間を短縮することが可能な較正処理装置、カメラ装置、カメラシステム、およびカメラ較正方法を提供することにある。
上記課題を解決するため、本発明に係るカメラ装置は、
移動体の所定位置に取り付けられ、移動体外部に配された指標を含む画像を撮像するカメラと、
前記カメラによる撮像画像に対して、所定の領域を示唆する第1調整部と、所定の回転範囲を示唆する第2調整部と、を有する較正用オブジェクトを重畳した重畳画像を生成する画像重畳部と、
前記較正用オブジェクトの移動指示に基づいて前記較正用オブジェクトを移動させた重畳画像を前記画像重畳部に生成させるとともに、当該重畳画像において、前記第1調整部の前記所定の領域内に前記指標の一端が含まれ、かつ、前記第2調整部の前記所定の回転範囲内に前記指標が位置する位置に前記較正用オブジェクトが移動されたときの該較正用オブジェクトの位置に基づいて、前記カメラの取り付け位置のずれを較正するパン角、チルト角およびロール角を算出する演算部と、
を備えることを特徴とする。
移動体の所定位置に取り付けられ、移動体外部に配された指標を含む画像を撮像するカメラと、
前記カメラによる撮像画像に対して、所定の領域を示唆する第1調整部と、所定の回転範囲を示唆する第2調整部と、を有する較正用オブジェクトを重畳した重畳画像を生成する画像重畳部と、
前記較正用オブジェクトの移動指示に基づいて前記較正用オブジェクトを移動させた重畳画像を前記画像重畳部に生成させるとともに、当該重畳画像において、前記第1調整部の前記所定の領域内に前記指標の一端が含まれ、かつ、前記第2調整部の前記所定の回転範囲内に前記指標が位置する位置に前記較正用オブジェクトが移動されたときの該較正用オブジェクトの位置に基づいて、前記カメラの取り付け位置のずれを較正するパン角、チルト角およびロール角を算出する演算部と、
を備えることを特徴とする。
さらに、本発明に係るカメラ装置において、
前記演算部は、前記較正用オブジェクトの回転方向の移動量を算出するときは、回転の中心点を前記第1調整部の中心点とすることを特徴とする。
前記演算部は、前記較正用オブジェクトの回転方向の移動量を算出するときは、回転の中心点を前記第1調整部の中心点とすることを特徴とする。
さらに、本発明に係るカメラ装置において、
前記第2調整部は、所定の間隔を有する複数の線、あるいは所定の幅を有する線により前記所定の回転範囲を特定することを特徴とする。
前記第2調整部は、所定の間隔を有する複数の線、あるいは所定の幅を有する線により前記所定の回転範囲を特定することを特徴とする。
さらに、本発明に係るカメラ装置において、
前記第1調整部は、円形の図形により前記所定の領域を特定することを特徴とする。
前記第1調整部は、円形の図形により前記所定の領域を特定することを特徴とする。
さらに、本発明に係るカメラ装置において、
前記第1調整部は、前記円形の図形の直径によりパン角およびチルト角の調整精度を規定し、
前記第2調整部は、前記所定の間隔を有する複数の線の長さおよび間隔、あるいは前記所定の幅を有する線の長さおよび幅によりロール角の調整精度を規定する。
前記第1調整部は、前記円形の図形の直径によりパン角およびチルト角の調整精度を規定し、
前記第2調整部は、前記所定の間隔を有する複数の線の長さおよび間隔、あるいは前記所定の幅を有する線の長さおよび幅によりロール角の調整精度を規定する。
さらに、本発明に係るカメラ装置において、
前記較正用オブジェクトは、第1補助調整部をさらに有し、
前記第1補助調整部は、前記第1調整部の所定の領域よりも大きい所定の領域を示唆し、前記第1調整部を囲むように配置されることを特徴とする。
前記較正用オブジェクトは、第1補助調整部をさらに有し、
前記第1補助調整部は、前記第1調整部の所定の領域よりも大きい所定の領域を示唆し、前記第1調整部を囲むように配置されることを特徴とする。
さらに、本発明に係るカメラ装置において、
前記第1補助調整部の領域の境界線は、前記第1調整部の領域の境界線と異なる色で配色されることを特徴とする。
前記第1補助調整部の領域の境界線は、前記第1調整部の領域の境界線と異なる色で配色されることを特徴とする。
さらに、本発明に係るカメラ装置において、
前記第1補助調整部は、円形の図形により前記所定の領域を特定することを特徴とする。
前記第1補助調整部は、円形の図形により前記所定の領域を特定することを特徴とする。
さらに、本発明に係るカメラ装置において、
前記較正用オブジェクトは、第2補助調整部をさらに有し、
前記第2補助調整部は、所定の回転範囲を示唆することを特徴とする。
前記較正用オブジェクトは、第2補助調整部をさらに有し、
前記第2補助調整部は、所定の回転範囲を示唆することを特徴とする。
さらに、本発明に係るカメラ装置において、
前記第2補助調整部の回転範囲の境界線は、前記第2調整部の回転範囲の境界線と異なる色で配色されることを特徴とする。
前記第2補助調整部の回転範囲の境界線は、前記第2調整部の回転範囲の境界線と異なる色で配色されることを特徴とする。
さらに、本発明に係るカメラ装置において、
前記第2補助調整部は、所定の間隔を有する複数の線、あるいは所定の幅を有する線により前記所定の回転範囲を特定することを特徴とする。
前記第2補助調整部は、所定の間隔を有する複数の線、あるいは所定の幅を有する線により前記所定の回転範囲を特定することを特徴とする。
さらに、本発明に係るカメラ装置において、
前記画像重畳部は、前記カメラによる撮像画像に表示された指標に歪みが生じる場合には、前記歪みに応じて決定される角度分だけ前記第2調整部を水平方向から傾けた較正用オブジェクトを重畳した重畳画像を生成することを特徴とする。
前記画像重畳部は、前記カメラによる撮像画像に表示された指標に歪みが生じる場合には、前記歪みに応じて決定される角度分だけ前記第2調整部を水平方向から傾けた較正用オブジェクトを重畳した重畳画像を生成することを特徴とする。
また、上記課題を解決するため、本発明に係るカメラ較正方法は、
移動体の所定位置に取り付けられたカメラにより、移動体外部に配された指標を含む画像を撮像する撮像ステップと、
前記カメラによる撮像画像に対して、所定の領域を示唆する第1調整部と、所定の回転範囲を示唆する第2調整部と、を有する較正用オブジェクトを重畳した重畳画像を表示する表示ステップと、
前記第1調整部の前記所定の領域内に前記指標の一端が含まれるよう前記較正用オブジェクトを移動する移動ステップと、
前記第2調整部の前記所定の回転範囲内に前記指標が入る位置まで、前記第1調整部を中心に前記較正用オブジェクトを回転させる回転ステップと、
前記移動ステップと前記回転ステップにより特定される前記較正用オブジェクトの移動量に基づいて、前記カメラの取り付け位置のずれを較正するパン角、チルト角およびロール角を算出する算出ステップと、
を含むことを特徴とする。
移動体の所定位置に取り付けられたカメラにより、移動体外部に配された指標を含む画像を撮像する撮像ステップと、
前記カメラによる撮像画像に対して、所定の領域を示唆する第1調整部と、所定の回転範囲を示唆する第2調整部と、を有する較正用オブジェクトを重畳した重畳画像を表示する表示ステップと、
前記第1調整部の前記所定の領域内に前記指標の一端が含まれるよう前記較正用オブジェクトを移動する移動ステップと、
前記第2調整部の前記所定の回転範囲内に前記指標が入る位置まで、前記第1調整部を中心に前記較正用オブジェクトを回転させる回転ステップと、
前記移動ステップと前記回転ステップにより特定される前記較正用オブジェクトの移動量に基づいて、前記カメラの取り付け位置のずれを較正するパン角、チルト角およびロール角を算出する算出ステップと、
を含むことを特徴とする。
また、上記課題を解決するため、本発明に係る較正処理装置は、
移動体の所定位置に取り付けられ、移動体外部に配された指標を含む画像を撮像するカメラからの撮像画像を利用して、当該カメラのパン角、チルト角およびロール角における取り付け位置のずれを較正する較正処理装置であって、
前記カメラによる撮像画像に対して、所定の領域を示唆する第1調整部と、所定の回転範囲を示唆する第2調整部と、を有する較正用オブジェクトを重畳した重畳画像を生成する画像重畳部と、
前記較正用オブジェクトの移動指示に基づいて前記較正用オブジェクトを移動させた重畳画像を前記画像重畳部に生成させるとともに、当該重畳画像において、前記第1調整部の前記所定の領域内に前記指標の一端が含まれ、かつ、前記第2調整部の前記所定の回転範囲内に前記指標が位置する位置に前記較正用オブジェクトが移動されたときの該較正用オブジェクトの位置に基づいて、前記カメラの取り付け位置のずれを較正するパン角、チルト角およびロール角を算出する演算部と、
を備えることを特徴とする。
移動体の所定位置に取り付けられ、移動体外部に配された指標を含む画像を撮像するカメラからの撮像画像を利用して、当該カメラのパン角、チルト角およびロール角における取り付け位置のずれを較正する較正処理装置であって、
前記カメラによる撮像画像に対して、所定の領域を示唆する第1調整部と、所定の回転範囲を示唆する第2調整部と、を有する較正用オブジェクトを重畳した重畳画像を生成する画像重畳部と、
前記較正用オブジェクトの移動指示に基づいて前記較正用オブジェクトを移動させた重畳画像を前記画像重畳部に生成させるとともに、当該重畳画像において、前記第1調整部の前記所定の領域内に前記指標の一端が含まれ、かつ、前記第2調整部の前記所定の回転範囲内に前記指標が位置する位置に前記較正用オブジェクトが移動されたときの該較正用オブジェクトの位置に基づいて、前記カメラの取り付け位置のずれを較正するパン角、チルト角およびロール角を算出する演算部と、
を備えることを特徴とする。
また、上記課題を解決するため、本発明に係るカメラシステムは、
移動体の所定位置に取り付けられ、移動体外部に配された指標を含む画像を撮像するカメラと、
前記カメラによる撮像画像に対して、所定の領域を示唆する第1調整部と、所定の回転範囲を示唆する第2調整部と、を有する較正用オブジェクトを重畳した重畳画像を生成する画像重畳部と、
前記移動体内に設けられ、前記重畳画像が表示される表示部と、
前記重畳画像において、前記較正用オブジェクトに対してその表示位置を移動させる指示を行う指示部と、
前記指示部による前記較正用オブジェクトの移動指示に基づいて前記較正用オブジェクトを移動させた重畳画像を前記画像重畳部に生成させるとともに、当該重畳画像において、前記第1調整部の前記所定の領域内に前記指標の一端が含まれ、かつ、前記第2調整部の前記所定の回転範囲内に前記指標が位置する位置に前記較正用オブジェクトが移動されたときの該較正用オブジェクトの位置に基づいて、前記カメラの取り付け位置のずれを較正するパン角、チルト角およびロール角を算出する演算部と、
を備えることを特徴とする。
移動体の所定位置に取り付けられ、移動体外部に配された指標を含む画像を撮像するカメラと、
前記カメラによる撮像画像に対して、所定の領域を示唆する第1調整部と、所定の回転範囲を示唆する第2調整部と、を有する較正用オブジェクトを重畳した重畳画像を生成する画像重畳部と、
前記移動体内に設けられ、前記重畳画像が表示される表示部と、
前記重畳画像において、前記較正用オブジェクトに対してその表示位置を移動させる指示を行う指示部と、
前記指示部による前記較正用オブジェクトの移動指示に基づいて前記較正用オブジェクトを移動させた重畳画像を前記画像重畳部に生成させるとともに、当該重畳画像において、前記第1調整部の前記所定の領域内に前記指標の一端が含まれ、かつ、前記第2調整部の前記所定の回転範囲内に前記指標が位置する位置に前記較正用オブジェクトが移動されたときの該較正用オブジェクトの位置に基づいて、前記カメラの取り付け位置のずれを較正するパン角、チルト角およびロール角を算出する演算部と、
を備えることを特徴とする。
本発明によれば、カメラの取り付け位置のずれを較正する際の操作が簡便となり、較正に要する時間を短縮することができる。
以下、本発明による一実施形態について、図面を参照して詳細に説明する。
図1は、本発明による一実施形態のカメラシステムを移動体(例えば、車両)に搭載したときのシステムの構成例を示すブロック図である。図1に示すように、移動体のシステムは、カメラシステム1と、システム全体の動作を制御するCPU2と、バス3と、センサ6とを備える。カメラシステム1は、カメラ較正装置(カメラ装置)10と、表示部4と、指示部5とを備える。カメラ較正装置10は、カメラ11と、較正処理装置12とを備える。較正処理装置12は、画像処理部121と、画像重畳部122と、画像出力部123と、CPU(演算部)124と、記憶部125とを備える。
カメラ11は、CMOS,CCDなどのイメージセンサを有しており、レンズを通して入射した被写体光を電気信号に変換し、被写体の撮像画像を生成する。カメラ11は、移動体の所定位置に取り付けられる。ただし、カメラ較正装置10がカメラ11に一体化されたモジュールとして構成されている場合には、移動体の所定位置にカメラ較正装置10が取り付けられることとなる。
図2は、一例としてカメラ11を後方向きに取り付けた移動体を示す図である。本実施形態では、図2に示すように、カメラ11は移動体100後方のバンパー43付近に取り付けられ、移動体100の後方の映像を撮影する。図中の領域Aは、カメラ11によって映像が撮影される領域である。もちろん、カメラ11が移動体の前方向きや側方向きに取り付けられる例において本発明を適用してもよいことは言うまでも無い。
表示部4は、ユーザにより例えばリバースギアに切り替えた時などをトリガとして駐車モードが指示された場合には、カメラシステム1によって生成された映像を表示する。駐車モードとは、移動体100を運転するユーザから見えづらい移動体100後方の領域A内の映像を表示部4に表示させることによって、駐車を円滑に行えるように手助けするためのモードである。また、移動体100後方の領域A内の映像に、更に移動体100が通過する予測軌跡を重畳して表示し、より円滑に駐車を行えるようにすることもできる。
また、ユーザ等によりカメラ較正モードが指示された場合にも、カメラシステム1によって生成された映像を表示する。カメラ較正モードとは、予め移動体100後方の領域A内に指標となる物体又は図形を配置しておき、カメラ11により撮像して得られる指標の映像を利用して、ユーザ等がカメラ11の取り付け位置を較正するためのモードである。このカメラ較正モードは、移動体100の生産ラインあるいは整備工場などで移動体100にカメラ11を取り付ける際、あるいは移動体100に振動が加わるなどの理由によりカメラ11の位置がずれてしまった場合にそのずれを修正する際に用いられる。具体的な較正方法については後述する。
なお、表示部4は、ユーザによりナビゲーションモードが指示された場合には、ナビゲーションシステムにより得られた目的地までのルート案内図を表示し、テレビモードが指示された場合には、テレビ受信機により得られたテレビ映像を表示することも可能である。
指示部5は、表示部4に重畳された較正用オブジェクトの位置を調整するためのユーザインターフェースであり、指示部5を操作することにより、較正用オブジェクトの位置を上下左右方向および回転方向に移動させることができる。指示部5は、ユーザの操作により得られたオブジェクト移動信号を、バス3を介してCPU124に出力する。調整操作が終了したときには、指示部5は、調整終了信号を、バス3を介してCPU124に出力する。指示部5は、表示部4近傍に設けた機械スイッチであってもよいし、表示部4に重ねて配されるタッチパネル上に表示されるオブジェクトであってもよい。
センサ6は、車速を検知する車速センサ、シフトレバーの位置を検知するギアセンサ、ステアリングの操舵角を検知する舵角センサを含む。センサ6は、各種センサから得られたセンサ信号を、バス3を介してCPU124およびCPU2に出力する。
記憶部125には、既知の値となるカメラ11の位置座標および指標の位置座標などが記憶される。また、記憶部125には、正確にカメラ11が取り付けられた場合における光軸の方向についても既知の値として記憶される。
CPU124は、較正用オブジェクトを表示した状態で指示部5により得られたオブジェクト移動信号に基づいて移動量を算出して較正用オブジェクトの表示位置を決定し、画像重畳部122に重畳指示を行う。また、CPU124は、指示部5から調整終了の指示を受けたとき、カメラ11の取り付け位置のずれを較正する較正パラメータ(パン角、チルト角、およびロール角)を算出する。また、CPU124は、駐車モードにおいてはセンサ6により得られたセンサ信号に基づいて移動体100の予測軌跡の表示位置を決定し、画像重畳部122に重畳指示を行う。
画像処理部121は、カメラ11により生成された撮像画像に対してA/D変換、ノイズ低減処理、画像処理などを施してデジタル画像を生成し、画像重畳部122に出力する。
画像重畳部122は、CPU124からの指示に基づいて、画像処理部121により生成されたデジタル画像上の所定の位置に画像を重畳して重畳画像を生成し、画像出力部123に出力する。重畳させる画像は、カメラ11の取り付け位置を較正する際に用いられる較正用オブジェクト、または移動体100が後退時に自身が通過する予想領域を示し、駐車のサポートに用いられる予測軌跡などである。
画像出力部123は、画像重畳部122により生成された重畳画像を、表示部4の表示デバイスに適したフォーマット(例えば、NTSCなど)に変換し、表示部4に出力する。
図3は、ユーザ等によりカメラ較正モードが指示された場合に、表示部4に表示されるカ画像の一例を示す図である。表示部4には、指標41を含む撮影画像と、較正用オブジェクト42とが表示される。また、カメラ11が図2に示すようにバンパー43付近に取り付けられた場合には、バンパー43の端部も表示される。
図4は、表示部4の正面、平面及び右側面を表す図である。図4では、操作の用に供される特徴的な画像である較正用オブジェクト42を実線で表記し、その他の部分を破線で表記している。この正面、平面及び右側面を表す図はキャビネット図であり、傾角は45度である。背面図、底面図、左側面図は較正用オブジェクト42が表れないため省略している。なお、破線部で示された形状は一例であり、これに限定されるものではない。
指標41は、移動体100を予め定められた停止位置に正確に停止した場合における移動体100の後端から所定の距離(例えば、1m)に配置される物体又は図形であり、例えば、長方形状の板、または路面上に描かれた白線である。つまり、カメラ11の取り付け角度が正確であれば、移動体100と指標41との位置関係が特定されているため、カメラ11により撮影された指標41は表示部4の画面上必ず特定位置に映ることとなる。もし、指標41が特定位置からずれた位置に映る場合には、指示部5により、較正用オブジェクト42を画面内の指標41上まで移動させることにより、カメラ11のカメラ取り付け角度のずれを特定する較正パラメータを取得することができる。
指示部5が表示部4に重ねて配されるタッチパネル上に表示されるオブジェクトである場合には、図3に示すように、指示部5を構成する左指示部51と、右指示部52と、下指示部53と、上指示部54と、左回転指示部55と、右回転指示部56と、戻り指示部57と、次へ指示部58とが表示される。
左指示部51は較正用オブジェクト42を左方向に移動させる際に用いられ、右指示部52は較正用オブジェクト42を右方向に移動させる際に用いられ、下指示部53は較正用オブジェクト42を下方向に移動させる際に用いられ、上指示部54は較正用オブジェクト42を上方向に移動させる際に用いられ、左回転指示部55は較正用オブジェクト42を反時計回り方向に回転移動させる際に用いられ、右回転指示部56は較正用オブジェクト42を時計回り方向に回転移動させる際に用いられる。また、戻り指示部57は、カメラ較正モード用画像を表示させる前に表示させていた画像に戻す際に用いられる。次へ指示部58は、較正用オブジェクト42を画面内の指標41上まで移動させる操作が終了したことを通知する際に用いられる。
ここで、左指示部51又は右指示部52の1回押圧に対し例えば0.5度のオフセットを対応づけた場合には、左指示部51又は右指示部52を1回押圧すると、カメラ11の撮像方向をパン(左右)方向に0.5度だけ向きを変えるときに生じる撮影画像の移動分量に等しい画素数分だけ、較正用オブジェクト42を移動させることになる。チルト(上下)方向においても、ロール(回転)方向においても同様である。
図5は、表示部4に表示される較正用オブジェクト42の一例を示す図である。図5に示すように、較正用オブジェクト42は、所定の領域を示唆する第1調整部であるパンチルト調整部421と、所定の回転範囲を示唆する第2調整部であるロール調整部422とを有する。
パンチルト調整部421は、カメラのパン方向およびチルト方向を調整して、較正パラメータであるパン角およびチルト角を取得するためのオブジェクトであり、所定の領域を有する図形により構成される。パンチルト調整部421の領域の大きさによって、パン角およびチルト角の調整精度が規定される。つまり、ユーザは、較正用オブジェクト42を移動させ、パンチルト調整部421内に画面内の指標41の一端が収まれば、カメラのパン方向およびチルト方向の調整を終了させることができる。調整精度を例えばパン方向およびチルト方向のそれぞれ±0.5度とした場合には、パンチルト調整部421の領域の形状は図5に示すように半径が一定の円形となる。ここで、仮にパン角の調整精度が±0.5度、チルト角の調整精度が±0.3度とする場合には、パンチルト調整部421の領域の形状は真円ではなく、パン方向に半径の長くなる楕円形となる。
また、パンチルト調整部421の領域の大きさによって規定されるパン角およびチルト角の調整精度は、左指示部51、右指示部52、下指示部53、および上指示部54の1回の押圧に対応するカメラの角度変更に伴う画面上の移動量の整数倍とすることが、ユーザ等にとって調整量が把握しやすく望ましい。
また、パンチルト調整部421の領域の大きさによって規定されるパン角およびチルト角の調整精度は、左指示部51、右指示部52、下指示部53、および上指示部54の1回の押圧に対応するカメラの角度変更に伴う画面上の移動量の整数倍とすることが、ユーザ等にとって調整量が把握しやすく望ましい。
ロール調整部422は、カメラのロール方向を調整して、較正パラメータであるロール角を取得するためのオブジェクトであり、所定の間隔を有し同一方向に延在する線(例えば、2本の平行線)により構成される。ロール調整部422の2本の直線の長さおよび間隔によって、ロール角の調整精度が規定される。つまり、ユーザは、パンチルト調整部421内に指標41の一端が収まった状態のまま、較正用オブジェクト42をパンチルト調整部421の中心点を中心に回転させ、なおかつ、ロール調整部422の2本の平行線の間にて、指標41が平行線に交差しないようになるまで回転させれば、カメラのロール方向の調整を終了させることができる。この場合、指標41の左端にパンチルト調整部421を合わせたまま較正用オブジェクト42をパンチルト調整部421の中心点を中心に回転させるため、較正用オブジェクト42の回転に連動してパンチルト調整部421が回転しても、指標41とパンチルト調整部421の位置関係が変動することが無い。すなわち較正用オブジェクト42を回転させたことに起因して再度の微調整を要することがほとんどない。
またロール調整部422の直線の長さおよび間隔によって規定されるロール角の調整精度は、左回転指示部55および右回転指示部56の1回の押圧に対応するカメラの移動角度の整数倍とすることが、ユーザ等にとって調整量が把握しやすく望ましい。
またロール調整部422の直線の長さおよび間隔によって規定されるロール角の調整精度は、左回転指示部55および右回転指示部56の1回の押圧に対応するカメラの移動角度の整数倍とすることが、ユーザ等にとって調整量が把握しやすく望ましい。
図6は、較正用オブジェクト42のロール調整部422の幅と長さの関係を示す図である。図6においては、指標41の採り得る位置を点線が示す。また、ロール角の調整精度は、図6(a)から(d)に示すように、いずれも例えば±0.5度とする。ロール角の調整精度が一定値の場合、図6(b)に示すように、ロール調整部422の平行線の幅を狭くすると、平行線の長さは短くなり、図6(c)に示すように、ロール調整部422の平行線の幅を広くすると、平行線の長さは長くなる。なお、パンチルト調整部421とロール調整部422とが切れ目無く接続されている必要は無く、図6(d)に示すように、パンチルト調整部421とロール調整部422との間に隙間があってもよい。
また、図7に示すように、較正用オブジェクト42は、さらにパンチルト補助調整部423(第1補助調整部)を有してもよい。パンチルト補助調整部423は、パンチルト調整部421の領域よりも大きい領域を有する図形により構成され、パンチルト調整部421を囲むように配置される。例えば、パンチルト補助調整部423の直径をパンチルト調整部421の直径の2倍とする。また、パンチルト補助調整部423の領域の境界線は、パンチルト調整部421の領域の境界線と異なる色で配色される。例えば、パンチルト補助調整部423の領域の境界線は黄色で配色され、パンチルト調整部421の領域の境界線は赤色で配色される。
パンチルト調整部421の大きさが小さい場合や、パンチルト調整部421の色が表示部4に表示される画像の背景色に近い場合など、ユーザがパンチルト調整部421を瞬時に判別できないことがある。そこで、較正用オブジェクト42がさらにパンチルト補助調整部423を有することにより、ユーザは視覚的に瞬時にパンチルト調整部421の位置を判別することができる。
パンチルト補助調整部423は、パンチルト調整部421と同様にパン角およびチルト角の調整精度を規定することができる。例えば、図8に示すように、パンチルト調整部421のパン角およびチルト角の調整精度をそれぞれ±0.5度とし、パンチルト補助調整部423のパン角およびチルト角の調整精度をそれぞれ±1度とする。2種類の調整精度を規定することにより、精度の高い調整を必要としない場合には、指標41の一端がパンチルト補助調整部423内に収まればカメラのパン方向およびチルト方向の較正を終了させることができ、較正に要する時間を短縮することができる。
また、図9に示すように、較正用オブジェクト42は、パンチルト補助調整部423に加えて、さらにロール補助調整部424(第2補助調整部)を有してもよい。なお、較正用オブジェクト42は、パンチルト補助調整部423またはロール補助調整部424のいずれか一方のみを有してもよい。ロール補助調整部424は、ロール調整部422の間隔よりも広い間隔を有する、同一方向に延在する線(例えば、2本の平行線)により構成され、ロール調整部422を挟むように配置される。例えば、ロール補助調整部424の間隔をパンチルト補助調整部423の間隔の2倍とする。また、パンチルトロール補助調整部424の2本の直線は、ロール調整部422の2本の直線と異なる色で配色される。例えば、ロール補助調整部424の平行線は黄色で配色され、ロール調整部422の平行線は赤色で配色される。
ロール調整部422の大きさが小さい場合や、ロール調整部422の色が表示部4に表示される画像の背景色に近い場合など、ユーザがロール調整部422を瞬時に判別できないことがある。そこで、較正用オブジェクト42がさらにロール補助調整部424を有することにより、ユーザは視覚的に瞬時にロール調整部422の位置を判別することができる。
ロール補助調整部424は、ロール調整部422と同様に、2本の直線の長さおよび間隔によりロール角の調整精度を規定することができる。例えば、ロール調整部422のロール角の調整精度を±0.5度とし、ロール補助調整部424のロール角の調整精度を±1度とする。2種類の調整制度を規定することにより、精度の高い調整を必要としない場合には、指標41がロール補助調整部424内に収まればカメラのロール方向の較正を終了させることができ、較正に要する時間を短縮することができる。
図10は、表示部4の端部に指標41が配置される例を示す図である。レンズの特性により、カメラ較正装置10により得られる画像は、中心付近では弱く、端部で強い歪みが生じる。そのため、指標41が画像の中央に配置されない場合には、図10に示すように指標41の端部に歪みが生じ、結果的に指標41が曲がって表示されることとなる。CPU124は、指標41の端部に歪みが生じることが、既知であるカメラ11の取り付け位置、指標41の位置、理想光軸方向、およびレンズの歪みのパラメータから予め想定できる場合には、指標41の想定される歪み量を算出する。画像重畳部122は、歪みに応じて決定される角度分だけロール調整部422の2本の直線を水平方向から傾けた較正用オブジェクト42を重畳した重畳画像を生成する。図10に示すように指標41の歪みに合わせて較正用オブジェクト42の初期状態(移動前)の画像を水平方向から傾けることにより、指標41の端部に歪みが生じている場合に、回転方向の調整が容易となる。
次に、カメラシステム1によるカメラの較正動作を説明する。図11は、カメラシステム1によるカメラの較正動作を示すフローチャートである。図12は、カメラの較正動作時に表示部4に表示される画像を示す図である。
ユーザは、較正用オブジェクト42を左右方向に移動させ、較正用オブジェクト42のパンチルト調整部421の左右方向の位置を指標41の端部に合わせる(ステップS101)。図12(a)は、左指示部51が押圧され、較正用オブジェクト42が左方向に移動した状態を示している。
次に、ユーザは、較正用オブジェクト42を上下方向に移動させ、較正用オブジェクト42のパンチルト調整部421の上下方向の位置を指標41の端部に合わせる(ステップS102)。図12(b)は、上指示部54が押圧され、較正用オブジェクト42が上方向に移動した状態を示している。ユーザは、ステップS101およびステップS102の操作により、パンチルト調整部421の領域内に指標41の端部が含まれるように、較正用オブジェクト42を移動させる。
次に、ユーザは、較正用オブジェクト42をパンチルト調整部421の中心点を中心に回転方向に回転移動させる。そして、較正用オブジェクト42のロール調整部422の平行線の間に指標41が位置し、なおかつ平行線と指標41とが交差しないように、較正用オブジェクト42を移動させる(ステップS103)。図12(c)は、左回転指示部55が押圧され、較正用オブジェクト42が反時計回り方向に回転移動した状態を示している。
図13は、カメラ11の較正動作時における、CPU124の動作を示すフローチャートである。CPU124は、指示部5からオブジェクト移動信号を受信すると(ステップS201-Yes)、移動量を算出し、画像重畳部122に移動後の較正用オブジェクト42の重畳指示を行う(ステップS202)。ここで、CPU124は、較正用オブジェクト42を回転方向の移動量を算出するときは、回転の中心点をパンチルト調整部421の中心点とする。これにより、回転移動によって指標41と較正用オブジェクト42とがずれることを防止できる。したがって、回転移動後にさらに較正用オブジェクト42を上下左右方向に移動させて微調整する必要がなくなり、調整時間を短縮させることができる。
CPU124は、指示部5からオブジェクト移動信号を受信しない場合(ステップS201-No)、指示部5からの調整終了信号を受信するまでの間、指示部5からの移動指示を受け付ける(ステップS203-No)。指示部5からの調整終了信号を受信すると(ステップS203-Yes)、カメラ11の取り付け位置のずれを較正する較正パラメータ(パン角、チルト角、およびロール角)を算出する(ステップS204)。
ステップS204では、指示部5の1回分の操作量とカメラ11の回転角度とを対応づけた場合には、指示部5の操作量をカウントすることで、較正パラメータ(パン角、チルト角、およびロール角)を算出することができる。例えば、指示部5の1回分の操作量が0.5度である場合に、ユーザが図11に示した操作において、ステップS101で左指示部51を2回押圧し、ステップS102で上指示部54を2回押圧し、ステップS103で左回転指示部55を2回押圧したときには、パン角、チルト角、およびロール角はそれぞれ1.0度となる。なお、CPU124は、取得した較正パラメータ(パン角、チルト角、およびロール角)に基づいて表示部4に表示させる画像を調整する場合には、カメラ座標とワールド座標間の変換処理を行う。
CPU124により較正パラメータが算出された後は、カメラ11からの撮像画像は、当該較正パラメータに対応する量をオフセットさせて出力されるか、または、重畳する画像を当該較正パラメータに対応した画像に変換処理して出力される。これにより、結果的に画像重畳部122は、画像処理部121により生成されたデジタル画像上に予測軌跡などの画像を重畳して重畳画像を生成する際に、較正パラメータが算出される以前の重畳位置からオフセットまたは変更処理して重畳されることとなるため、例えば駐車時により高精度な車両通過予測軌跡を表示することができる。
上述したように、本発明による較正処理装置12、カメラ較正装置10、カメラシステム1、およびカメラ較正方法において、較正用オブジェクト42は、所定の領域を有する図形により構成されるパンチルト調整部421と、所定の間隔を有する2本の直線により構成されるロール調整部422と、を有し、CPU124は、パンチルト調整部421の所定の領域内に指標41の一端が含まれ、かつ、ロール調整部422および指標41が交差しない位置に較正用オブジェクト42が移動したときに、該較正用オブジェクトの位置に基づいて、前記カメラの取り付け位置のずれを較正する。そのため、本発明によれば、カメラ11を較正する際の操作が簡便となり、較正に要する時間を短縮することができる。特に、CPU124が、較正用オブジェクト42の回転方向の移動量を算出するときは、回転の中心点をパンチルト調整部421の中心点とすることで、調整を迅速に行うことが可能となる。
上述の実施形態は、代表的な例として説明したが、本発明の趣旨および範囲内で、多くの変更および置換ができることは当業者に明らかである。したがって、本発明は、上述の実施形態によって制限するものと解するべきではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。
例えば、ロール調整部は2本の直線により構成される例を示しているが、レンズの歪み量を予め考慮した緩やかな曲線により構成してもよいし、本数も2本ではなくそれ以上であってもよい。あるいは1本の太い線分によりロール調整部を構成し、この線分上に指標41が位置するようにしてもよい。この場合には平行線と交差しないよう指標41を調整する代わりに、所定の幅からはみ出さないように指標41が位置するように調整する、という点で若干異なるものの、その他の点においては上述の実施形態と同様である。つまり、ロール調整部は複数の線あるいは所定の幅を有する線によって回転範囲を示唆していればよい。さらにはロール調整部の線分は有限な長さではなく、無限長の線としてもよい。すなわちこの場合には、パンチルト調整部から画面の端にまで延在される複数の線(あるいは所定の幅を有する1本の線)によりロール調整部が成り立つこととなる。
1 カメラシステム
2 CPU
3 バス
4 表示部
5 指示部
6 センサ
10 カメラ較正装置
11 カメラ
12 較正処理装置
41 指標
42 較正用オブジェクト
43 バンパー
51 左指示部
52 右指示部
53 下指示部
54 上指示部
55 左回転指示部
56 右回転指示部
57 戻り指示部
58 次へ指示部
100 移動体
121 画像処理部
122 画像重畳部
123 画像出力部
124 CPU
125 記憶部
421 パンチルト調整部
422 ロール調整部
423 パンチルト補助調整部
2 CPU
3 バス
4 表示部
5 指示部
6 センサ
10 カメラ較正装置
11 カメラ
12 較正処理装置
41 指標
42 較正用オブジェクト
43 バンパー
51 左指示部
52 右指示部
53 下指示部
54 上指示部
55 左回転指示部
56 右回転指示部
57 戻り指示部
58 次へ指示部
100 移動体
121 画像処理部
122 画像重畳部
123 画像出力部
124 CPU
125 記憶部
421 パンチルト調整部
422 ロール調整部
423 パンチルト補助調整部
Claims (15)
- 移動体の所定位置に取り付けられ、移動体外部に配された指標を含む画像を撮像するカメラと、
前記カメラによる撮像画像に対して、所定の領域を示唆する第1調整部と、所定の回転範囲を示唆する第2調整部と、を有する較正用オブジェクトを重畳した重畳画像を生成する画像重畳部と、
前記較正用オブジェクトの移動指示に基づいて前記較正用オブジェクトを移動させた重畳画像を前記画像重畳部に生成させるとともに、当該重畳画像において、前記第1調整部の前記所定の領域内に前記指標の一端が含まれ、かつ、前記第2調整部の前記所定の回転範囲内に前記指標が位置する位置に前記較正用オブジェクトが移動されたときの該較正用オブジェクトの位置に基づいて、前記カメラの取り付け位置のずれを較正するパン角、チルト角およびロール角を算出する演算部と、
を備えることを特徴とするカメラ装置。 - 前記演算部は、前記較正用オブジェクトの回転方向の移動量を算出するときは、回転の中心点を前記第1調整部の中心点とすることを特徴とする、請求項1に記載のカメラ装置。
- 前記第2調整部は、所定の間隔を有する複数の線、あるいは所定の幅を有する線により前記所定の回転範囲を特定することを特徴とする、請求項1に記載のカメラ装置。
- 前記第1調整部は、円形の図形により前記所定の領域を特定することを特徴とする、請求項3に記載のカメラ装置。
- 前記第1調整部は、前記円形の図形の直径によりパン角およびチルト角の調整精度を規定し、
前記第2調整部は、前記所定の間隔を有する複数の線の長さおよび間隔、あるいは前記所定の幅を有する線の長さおよび幅によりロール角の調整精度を規定することを特徴とする、請求項4に記載のカメラ装置。 - 前記較正用オブジェクトは、第1補助調整部をさらに有し、
前記第1補助調整部は、前記第1調整部の所定の領域よりも大きい所定の領域を示唆し、前記第1調整部を囲むように配置されることを特徴とする、請求項1に記載のカメラ装置。 - 前記第1補助調整部の領域の境界線は、前記第1調整部の領域の境界線と異なる色で配色されることを特徴とする、請求項6に記載のカメラ装置。
- 前記第1補助調整部は、円形の図形により前記所定の領域を特定することを特徴とする、請求項6に記載のカメラ装置。
- 前記較正用オブジェクトは、第2補助調整部をさらに有し、
前記第2補助調整部は、所定の回転範囲を示唆することを特徴とする、請求項1に記載のカメラ装置。 - 前記第2補助調整部の回転範囲の境界線は、前記第2調整部の回転範囲の境界線と異なる色で配色されることを特徴とする、請求項9に記載のカメラ装置。
- 前記第2補助調整部は、所定の間隔を有する複数の線、あるいは所定の幅を有する線により前記所定の回転範囲を特定することを特徴とする、請求項9に記載のカメラ装置。
- 前記画像重畳部は、前記カメラによる撮像画像に表示された指標に歪みが生じる場合には、前記歪みに応じて決定される角度分だけ前記第2調整部を水平方向から傾けた較正用オブジェクトを重畳した重畳画像を生成することを特徴とする、請求項1に記載のカメラ装置。
- 移動体の所定位置に取り付けられたカメラにより、移動体外部に配された指標を含む画像を撮像する撮像ステップと、
前記カメラによる撮像画像に対して、所定の領域を示唆する第1調整部と、所定の回転範囲を示唆する第2調整部と、を有する較正用オブジェクトを重畳した重畳画像を表示する表示ステップと、
前記第1調整部の前記所定の領域内に前記指標の一端が含まれるよう前記較正用オブジェクトを移動する移動ステップと、
前記第2調整部の前記所定の回転範囲内に前記指標が入る位置まで、前記第1調整部を中心に前記較正用オブジェクトを回転させる回転ステップと、
前記移動ステップと前記回転ステップにより特定される前記較正用オブジェクトの移動量に基づいて、前記カメラの取り付け位置のずれを較正するパン角、チルト角およびロール角を算出する算出ステップと、
を含むことを特徴とするカメラ較正方法。 - 移動体の所定位置に取り付けられ、移動体外部に配された指標を含む画像を撮像するカメラからの撮像画像を利用して、当該カメラのパン角、チルト角およびロール角における取り付け位置のずれを較正する較正処理装置であって、
前記カメラによる撮像画像に対して、所定の領域を示唆する第1調整部と、所定の回転範囲を示唆する第2調整部と、を有する較正用オブジェクトを重畳した重畳画像を生成する画像重畳部と、
前記較正用オブジェクトの移動指示に基づいて前記較正用オブジェクトを移動させた重畳画像を前記画像重畳部に生成させるとともに、当該重畳画像において、前記第1調整部の前記所定の領域内に前記指標の一端が含まれ、かつ、前記第2調整部の前記所定の回転範囲内に前記指標が位置する位置に前記較正用オブジェクトが移動されたときの該較正用オブジェクトの位置に基づいて、前記カメラの取り付け位置のずれを較正するパン角、チルト角およびロール角を算出する演算部と、
を備えることを特徴とする較正処理装置。 - 移動体の所定位置に取り付けられ、移動体外部に配された指標を含む画像を撮像するカメラと、
前記カメラによる撮像画像に対して、所定の領域を示唆する第1調整部と、所定の回転範囲を示唆する第2調整部と、を有する較正用オブジェクトを重畳した重畳画像を生成する画像重畳部と、
前記移動体内に設けられ、前記重畳画像が表示される表示部と、
前記重畳画像において、前記較正用オブジェクトに対してその表示位置を移動させる指示を行う指示部と、
前記指示部による前記較正用オブジェクトの移動指示に基づいて前記較正用オブジェクトを移動させた重畳画像を前記画像重畳部に生成させるとともに、当該重畳画像において、前記第1調整部の前記所定の領域内に前記指標の一端が含まれ、かつ、前記第2調整部の前記所定の回転範囲内に前記指標が位置する位置に前記較正用オブジェクトが移動されたときの該較正用オブジェクトの位置に基づいて、前記カメラの取り付け位置のずれを較正するパン角、チルト角およびロール角を算出する演算部と、
を備えることを特徴とするカメラシステム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201380018960.4A CN104247394B (zh) | 2012-04-04 | 2013-04-03 | 校正操作装置、摄像机装置、摄像机系统和摄像机校正方法 |
EP13772216.1A EP2835962B8 (en) | 2012-04-04 | 2013-04-03 | Calibration processor, camera device, camera system, and camera calibration method |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012-085963 | 2012-04-04 | ||
JP2012085963A JP6025365B2 (ja) | 2012-04-04 | 2012-04-04 | 較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2013150794A1 true WO2013150794A1 (ja) | 2013-10-10 |
Family
ID=49291996
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2013/002325 WO2013150794A1 (ja) | 2012-04-04 | 2013-04-03 | 較正処理装置、カメラ装置、カメラシステム、およびカメラ較正方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US8928757B2 (ja) |
EP (1) | EP2835962B8 (ja) |
JP (1) | JP6025365B2 (ja) |
CN (1) | CN104247394B (ja) |
WO (1) | WO2013150794A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016010142A (ja) * | 2014-06-26 | 2016-01-18 | 京セラ株式会社 | 撮像装置及び撮像装置を設置した移動体 |
WO2016157666A1 (ja) * | 2015-03-27 | 2016-10-06 | パナソニックIpマネジメント株式会社 | カメラ姿勢推定装置、運転支援装置、及び、カメラ姿勢推定方法 |
Families Citing this family (33)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2447672B (en) | 2007-03-21 | 2011-12-14 | Ford Global Tech Llc | Vehicle manoeuvring aids |
US9506774B2 (en) | 2011-04-19 | 2016-11-29 | Ford Global Technologies, Llc | Method of inputting a path for a vehicle and trailer |
US9926008B2 (en) | 2011-04-19 | 2018-03-27 | Ford Global Technologies, Llc | Trailer backup assist system with waypoint selection |
US9500497B2 (en) | 2011-04-19 | 2016-11-22 | Ford Global Technologies, Llc | System and method of inputting an intended backing path |
US9854209B2 (en) | 2011-04-19 | 2017-12-26 | Ford Global Technologies, Llc | Display system utilizing vehicle and trailer dynamics |
US9723274B2 (en) | 2011-04-19 | 2017-08-01 | Ford Global Technologies, Llc | System and method for adjusting an image capture setting |
US9683848B2 (en) | 2011-04-19 | 2017-06-20 | Ford Global Technologies, Llc | System for determining hitch angle |
US9969428B2 (en) | 2011-04-19 | 2018-05-15 | Ford Global Technologies, Llc | Trailer backup assist system with waypoint selection |
US9374562B2 (en) | 2011-04-19 | 2016-06-21 | Ford Global Technologies, Llc | System and method for calculating a horizontal camera to target distance |
US9555832B2 (en) | 2011-04-19 | 2017-01-31 | Ford Global Technologies, Llc | Display system utilizing vehicle and trailer dynamics |
US9511799B2 (en) | 2013-02-04 | 2016-12-06 | Ford Global Technologies, Llc | Object avoidance for a trailer backup assist system |
US9592851B2 (en) | 2013-02-04 | 2017-03-14 | Ford Global Technologies, Llc | Control modes for a trailer backup assist system |
JP6200689B2 (ja) * | 2013-05-17 | 2017-09-20 | 京セラ株式会社 | 較正処理装置、カメラ較正装置、およびカメラ較正方法 |
CN105023242B (zh) * | 2014-04-18 | 2017-11-14 | 聚晶半导体股份有限公司 | 镜头失真校正方法 |
US9533683B2 (en) | 2014-12-05 | 2017-01-03 | Ford Global Technologies, Llc | Sensor failure mitigation system and mode management |
US9522677B2 (en) | 2014-12-05 | 2016-12-20 | Ford Global Technologies, Llc | Mitigation of input device failure and mode management |
FR3031707B1 (fr) * | 2015-01-16 | 2018-06-29 | Renault S.A.S. | Procede et dispositif d'aide a la manœuvre en marche arriere d'un vehicule automobile |
US9607242B2 (en) | 2015-01-16 | 2017-03-28 | Ford Global Technologies, Llc | Target monitoring system with lens cleaning device |
KR101729164B1 (ko) * | 2015-09-03 | 2017-04-24 | 주식회사 쓰리디지뷰아시아 | 멀티 구 교정장치를 이용한 멀티 카메라 시스템의 이미지 보정 방법 |
US9896130B2 (en) | 2015-09-11 | 2018-02-20 | Ford Global Technologies, Llc | Guidance system for a vehicle reversing a trailer along an intended backing path |
US9836060B2 (en) | 2015-10-28 | 2017-12-05 | Ford Global Technologies, Llc | Trailer backup assist system with target management |
JP6694281B2 (ja) * | 2016-01-26 | 2020-05-13 | 株式会社日立製作所 | ステレオカメラおよび撮像システム |
JP6565769B2 (ja) * | 2016-04-03 | 2019-08-28 | 株式会社デンソー | 車載カメラの取付角度検出装置、取付角度較正装置、取付角度検出方法、取付角度較正方法、およびコンピュータープログラム |
US10112646B2 (en) | 2016-05-05 | 2018-10-30 | Ford Global Technologies, Llc | Turn recovery human machine interface for trailer backup assist |
EP3328060A1 (en) * | 2016-11-23 | 2018-05-30 | Nokia Technologies OY | Positioning cameras |
CN109086650B (zh) * | 2017-06-14 | 2022-04-12 | 现代摩比斯株式会社 | 校准方法和校准设备 |
CN107564062B (zh) * | 2017-08-16 | 2020-06-19 | 清华大学 | 位姿异常检测方法及装置 |
CN111666832B (zh) * | 2018-07-27 | 2023-10-31 | 创新先进技术有限公司 | 一种检测方法及装置、一种计算设备及存储介质 |
US11259013B2 (en) * | 2018-09-10 | 2022-02-22 | Mitsubishi Electric Corporation | Camera installation assistance device and method, and installation angle calculation method, and program and recording medium |
US10460473B1 (en) * | 2018-12-14 | 2019-10-29 | Zoox, Inc. | Camera calibration system |
CN109685857B (zh) * | 2018-12-28 | 2023-11-24 | 深圳视觉龙智能传感器有限公司 | 一种全自动丝印机视觉标定及对位贴合算法 |
JP6693627B1 (ja) * | 2019-05-16 | 2020-05-13 | 東芝エレベータ株式会社 | 画像処理装置 |
GB2612663B (en) * | 2022-05-17 | 2023-12-20 | Envisics Ltd | Head-up display calibration |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000209577A (ja) | 1999-01-18 | 2000-07-28 | Yazaki Corp | 車両用周辺監視装置及び車両用周辺監視装置のパラメ―タ調整方法 |
JP2001245326A (ja) * | 1999-12-24 | 2001-09-07 | Aisin Seiki Co Ltd | 車載カメラの校正装置および校正方法、並びに校正指標 |
JP2005077107A (ja) * | 2003-08-29 | 2005-03-24 | Toyota Motor Corp | 車載カメラのキャリブレーション方法及びキャリブレーション装置 |
JP4827994B1 (ja) * | 2010-10-22 | 2011-11-30 | パイオニア株式会社 | 端末装置、端末装置によって実行される画像表示方法及び画像表示プログラム |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH01116589A (ja) * | 1987-10-29 | 1989-05-09 | Sharp Corp | 画像の平行・回転移動方式 |
ATE333192T1 (de) * | 1999-10-12 | 2006-08-15 | Matsushita Electric Ind Co Ltd | Überwachungskamera, verfahren zum anpassen einer kamera und fahrzeugüberwachungssystem |
US6813371B2 (en) * | 1999-12-24 | 2004-11-02 | Aisin Seiki Kabushiki Kaisha | On-vehicle camera calibration device |
JP2004200819A (ja) * | 2002-12-17 | 2004-07-15 | Clarion Co Ltd | 車載カメラのキャリブレーション方法及びキャリブレーション装置 |
DE10323915A1 (de) * | 2003-05-23 | 2005-02-03 | Daimlerchrysler Ag | Kamerabasierte Positionserkennung für ein Straßenfahrzeug |
JP4794510B2 (ja) * | 2007-07-04 | 2011-10-19 | ソニー株式会社 | カメラシステムおよびカメラの取り付け誤差の補正方法 |
EP2164043A1 (en) * | 2008-09-12 | 2010-03-17 | March Networks Corporation | Video camera calibration and perspective calculation |
JP5190712B2 (ja) * | 2009-03-24 | 2013-04-24 | アイシン精機株式会社 | 障害物検出装置 |
JP4831374B2 (ja) * | 2009-03-27 | 2011-12-07 | アイシン・エィ・ダブリュ株式会社 | 運転支援装置、運転支援方法、及び運転支援プログラム |
US9150155B2 (en) * | 2010-01-13 | 2015-10-06 | Magna Electronics Inc. | Vehicular camera and method for periodic calibration of vehicular camera |
JP6058256B2 (ja) * | 2011-06-13 | 2017-01-11 | アルパイン株式会社 | 車載カメラ姿勢検出装置および方法 |
EP2722646B1 (en) * | 2011-06-14 | 2021-06-09 | Nissan Motor Co., Ltd. | Distance measurement device and environment map generation apparatus |
JP6012982B2 (ja) * | 2012-02-24 | 2016-10-25 | 京セラ株式会社 | 較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法 |
US9738223B2 (en) * | 2012-05-31 | 2017-08-22 | GM Global Technology Operations LLC | Dynamic guideline overlay with image cropping |
-
2012
- 2012-04-04 JP JP2012085963A patent/JP6025365B2/ja active Active
- 2012-07-06 US US13/542,965 patent/US8928757B2/en active Active
-
2013
- 2013-04-03 WO PCT/JP2013/002325 patent/WO2013150794A1/ja active Application Filing
- 2013-04-03 CN CN201380018960.4A patent/CN104247394B/zh active Active
- 2013-04-03 EP EP13772216.1A patent/EP2835962B8/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000209577A (ja) | 1999-01-18 | 2000-07-28 | Yazaki Corp | 車両用周辺監視装置及び車両用周辺監視装置のパラメ―タ調整方法 |
JP2001245326A (ja) * | 1999-12-24 | 2001-09-07 | Aisin Seiki Co Ltd | 車載カメラの校正装置および校正方法、並びに校正指標 |
JP2005077107A (ja) * | 2003-08-29 | 2005-03-24 | Toyota Motor Corp | 車載カメラのキャリブレーション方法及びキャリブレーション装置 |
JP4827994B1 (ja) * | 2010-10-22 | 2011-11-30 | パイオニア株式会社 | 端末装置、端末装置によって実行される画像表示方法及び画像表示プログラム |
Non-Patent Citations (1)
Title |
---|
See also references of EP2835962A4 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016010142A (ja) * | 2014-06-26 | 2016-01-18 | 京セラ株式会社 | 撮像装置及び撮像装置を設置した移動体 |
WO2016157666A1 (ja) * | 2015-03-27 | 2016-10-06 | パナソニックIpマネジメント株式会社 | カメラ姿勢推定装置、運転支援装置、及び、カメラ姿勢推定方法 |
Also Published As
Publication number | Publication date |
---|---|
CN104247394B (zh) | 2016-03-02 |
JP6025365B2 (ja) | 2016-11-16 |
EP2835962B1 (en) | 2017-06-07 |
EP2835962A4 (en) | 2016-01-20 |
EP2835962A1 (en) | 2015-02-11 |
US8928757B2 (en) | 2015-01-06 |
EP2835962B8 (en) | 2017-08-02 |
CN104247394A (zh) | 2014-12-24 |
JP2013219439A (ja) | 2013-10-24 |
US20130265442A1 (en) | 2013-10-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6025365B2 (ja) | 較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法 | |
JP6012982B2 (ja) | 較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法 | |
JP5561566B2 (ja) | 運転支援装置 | |
US9895974B2 (en) | Vehicle control apparatus | |
WO2011141971A1 (ja) | 駐車支援装置、駐車支援システム、および駐車支援カメラユニット | |
WO2013038681A1 (ja) | カメラ較正装置、カメラ、及びカメラ較正方法 | |
JP3916240B2 (ja) | 運転支援装置及び運転支援方法 | |
EP3002727B1 (en) | Periphery monitoring apparatus and periphery monitoring system | |
JP2010226449A (ja) | 障害物検出装置 | |
JP2016066322A (ja) | 画像処理装置、及び画像表示システム | |
JP2007235532A (ja) | 車両用監視装置 | |
JP6200689B2 (ja) | 較正処理装置、カメラ較正装置、およびカメラ較正方法 | |
JP2007295113A (ja) | 撮像装置 | |
JP2012065225A (ja) | 車載用画像処理装置、周辺監視装置、および、車両 | |
JP4791222B2 (ja) | 表示制御装置 | |
JP2007266703A5 (ja) | ||
JPWO2016157873A1 (ja) | 撮像装置、撮像システム、および車両 | |
JP2010128795A (ja) | 障害物検出装置 | |
JP6234335B2 (ja) | 撮像装置及び撮像装置を設置した移動体 | |
JP2013173453A (ja) | 較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法 | |
JP2020020667A (ja) | 測距装置および車載カメラシステム | |
KR102005551B1 (ko) | 주차 보조 시스템 | |
JP2011077806A (ja) | 車両周辺監視装置 | |
JP2014049824A (ja) | 撮像装置および領域決定方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 13772216 Country of ref document: EP Kind code of ref document: A1 |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
REEP | Request for entry into the european phase |
Ref document number: 2013772216 Country of ref document: EP |
|
WWE | Wipo information: entry into national phase |
Ref document number: 2013772216 Country of ref document: EP |