WO2024201869A1 - 計測システム、情報処理装置、情報処理方法及び記録媒体 - Google Patents

計測システム、情報処理装置、情報処理方法及び記録媒体 Download PDF

Info

Publication number
WO2024201869A1
WO2024201869A1 PCT/JP2023/013091 JP2023013091W WO2024201869A1 WO 2024201869 A1 WO2024201869 A1 WO 2024201869A1 JP 2023013091 W JP2023013091 W JP 2023013091W WO 2024201869 A1 WO2024201869 A1 WO 2024201869A1
Authority
WO
WIPO (PCT)
Prior art keywords
imaging
measurement
information processing
data
pieces
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2023/013091
Other languages
English (en)
French (fr)
Inventor
優 吉田
翼 大野
圭一 渡邉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Subaru Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Subaru Corp filed Critical Subaru Corp
Priority to JP2025509475A priority Critical patent/JPWO2024201869A1/ja
Priority to PCT/JP2023/013091 priority patent/WO2024201869A1/ja
Publication of WO2024201869A1 publication Critical patent/WO2024201869A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/245Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication

Definitions

  • This disclosure relates to a measurement system, an information processing device, an information processing method, and a recording medium.
  • the imaging conditions such as the F-number and shutter speed of the imaging device
  • the user When adjusting the imaging conditions manually, the user must determine the imaging conditions by adjusting each condition to generate a measurement model and then checking the obtained results. For example, after setting the imaging conditions of the measurement device, the user must capture an image of the road surface, generate a road surface model using the obtained imaging data, and then check whether the imaging conditions are appropriate. For this reason, even at the stage of determining the imaging conditions, it may take time before the measurement work can actually begin.
  • a measurement system that combines multiple pieces of imaging data obtained by imaging a measurement target to generate model data of the measurement target
  • the measurement system including: an imaging device that images the measurement target and generates the imaging data; a control device that controls the imaging device; and an information processing device that acquires multiple pieces of imaging data captured by the imaging device and combines the acquired multiple pieces of imaging data to generate model data of the measurement target.
  • the control device executes an imaging condition setting process that sets predetermined imaging conditions as operating conditions of the imaging device, and an imaging device driving process that generates multiple pieces of imaging data captured by the imaging device under the set imaging conditions of a predetermined shooting target area set in the measurement target under the set imaging conditions and transmits the multiple pieces of imaging data to the information processing device.
  • the information processing device acquires the multiple pieces of imaging data transmitted from the control device, and executes a feature point matching process that matches feature points extracted from the acquired multiple pieces of imaging data, and an appropriateness determination process that calculates an estimated distance between the imaging device and the measurement target based on the result of the feature point matching process, and performs an appropriateness determination of the imaging conditions based on the calculated estimated distance and a predetermined reference distance.
  • an information processing device that synthesizes multiple pieces of imaging data obtained by imaging a measurement target and generates model data for the measurement target, and that executes a feature point matching process that acquires multiple pieces of imaging data obtained by imaging a predetermined shooting target area set on the measurement target under predetermined imaging conditions that are set as operating conditions of the imaging device, matches feature points extracted from each of the acquired multiple pieces of imaging data, and an appropriateness determination process that calculates an estimated distance between the imaging device and the measurement target based on the result of the feature point matching process, and performs an appropriateness determination of the imaging conditions based on the calculated estimated distance and a predetermined reference distance.
  • an information processing method for synthesizing multiple pieces of imaging data obtained by imaging a measurement target and generating model data of the measurement target the information processing method performing processing including: acquiring multiple pieces of imaging data obtained by imaging a predetermined shooting target area set on the measurement target with the imaging device under predetermined imaging conditions set as operating conditions of the imaging device, matching feature points extracted from each of the acquired multiple pieces of imaging data, calculating an estimated distance between the imaging device and the measurement target based on the result of the feature point matching process, and determining whether the imaging conditions are appropriate based on the calculated estimated distance and a predetermined reference distance.
  • a non-transitory tangible recording medium having recorded thereon a program for causing a computer to execute processes including: acquiring a plurality of pieces of imaging data captured by the imaging device of a predetermined shooting target area set in the measurement target under predetermined imaging conditions set as operating conditions of the imaging device; performing a feature point matching process for matching feature points extracted from each of the acquired plurality of pieces of imaging data; calculating an estimated distance between the imaging device and the measurement target based on the results of the feature point matching process; and determining whether the imaging conditions are appropriate based on the calculated estimated distance and a predetermined reference distance.
  • FIG. 1 is a diagram shown for explaining an example of a use of a measurement system according to an embodiment of the present disclosure.
  • FIG. 1 is an explanatory diagram showing a measuring device according to a first embodiment as viewed from the side; 1 is an explanatory diagram showing a measurement device according to a first embodiment as viewed from above; 1 is a block diagram showing an example of the configuration of a measurement system according to a first embodiment; 5 is a flowchart of an imaging condition setting process performed by an imaging condition setting unit of the control device according to the first embodiment. 5 is a flowchart of an imaging condition setting process performed by an imaging condition setting unit of the control device according to the first embodiment.
  • 4 is an explanatory diagram showing an example of a list of imaging conditions according to the first embodiment; 4 is a flowchart of an autonomous driving control process performed by an autonomous driving control unit of the control device according to the first embodiment.
  • 5 is a flowchart of an imaging device driving process performed by an imaging device driving unit of the control device according to the first embodiment.
  • 4 is a flowchart of a self-position estimation process performed by a self-position estimation unit of the control device according to the first embodiment.
  • 10 is a flowchart of an appropriateness determination process performed by a data processing unit of the information processing device according to the first embodiment.
  • 10 is a flowchart of a first feature point matching process performed by a data processing unit of the information processing device according to the first embodiment.
  • FIG. 4 is an explanatory diagram showing an example of a list of feature points extracted from all road surface image data by the information processing device according to the first embodiment
  • FIG. 4 is an explanatory diagram showing an example of a list in which feature points extracted from all road surface image data by the information processing device according to the first embodiment are sorted (rearranged) in descending order of feature amount
  • FIG. 10 is a flowchart of a model generation process by a data processing unit of the information processing device according to the first embodiment.
  • 13 is a flowchart of an appropriateness determination process performed by a data processing unit of an information processing device according to a second embodiment.
  • 13 is a flowchart of a second feature point matching process performed by a data processing unit of an information processing device according to a second embodiment.
  • FIG. 1 is a diagram shown for explaining an example of an application of the measurement system of the present disclosure.
  • the measurement system 1 includes a measurement device 10 equipped with an imaging device, and an information processing device 100 communicatively connected to the measurement device 10.
  • the measurement device 10 and the information processing device 100 are communicatively connected to each other using, for example, cloud computing technology.
  • the measuring device 10 captures an image of the road surface of the road R as the measurement target using an imaging device to generate road surface imaging data Img_ ⁇ , and transmits the generated road surface imaging data Img_ ⁇ to the information processing device 100 either sequentially or after imaging is completed.
  • the information processing device 100 acquires the road surface imaging data Img_ ⁇ , and generates a road surface model, which is three-dimensional data showing the unevenness of the road surface, based on the acquired road surface imaging data Img_ ⁇ .
  • the measurement device 10 also has multiple imaging devices arranged along a direction (left-right direction) perpendicular to the direction of movement (forward-backward direction).
  • the multiple imaging devices each capture images of the road surface while the measurement device 10 autonomously travels through each of the areas D1-D3, generating multiple road surface image data Img_ ⁇ .
  • the multiple imaging devices are installed so that the imaging ranges P1-P6 of adjacent imaging devices partially overlap, so that the entirety of each of the areas D1-D3 is not excluded from the imaging range.
  • the moving speed of the measuring device 10 is set so that the time-series road surface image data Img_ ⁇ generated by each imaging device partially overlaps.
  • the imaging range at time t_n partially overlaps with the imaging range at the previous time t_n-1 and the imaging range at the next time t_n+1.
  • the imaging range of a certain calculation cycle time t_n
  • time t_n may overlap with the imaging range of the calculation cycle two cycles ago or earlier (times t_n-2, t_n-3, ...), and the imaging range of the calculation cycle two cycles after or later (times t_n+2, t_n+3, ).
  • FIG. 1 shows an example in which the road R to be measured extends linearly and the measuring device 10 moves in a straight line, but the shape of the object to be measured may be curved, and the example is not limited to the example in which the measuring device 10 moves in a straight line. Furthermore, the way in which the areas are divided when measuring the road R to be measured, the order in which the areas are traveled, and the course of the measuring device 10 are not limited to the above example. Furthermore, there is no particular limitation on the number of imaging devices.
  • the information processing device 100 extracts feature points from the multiple road surface image data Img_ ⁇ that have been acquired, and executes feature point matching processing to align the feature points between the road surface image data Img_ ⁇ .
  • the feature point matching processing is performed, for example, using SfM (Structure from Motion) processing.
  • the information processing device 100 also synthesizes the multiple road surface image data Img_ ⁇ through the feature point matching processing, and generates a road surface model that indicates information on the unevenness of the road surface.
  • the road surface model is generated, for example, using MVS (Multi-View Stereo) processing.
  • the information processing device 100 determines whether the imaging conditions as the operating conditions of the imaging device are appropriate before starting to capture images of the road surface to generate a road surface model.
  • the measurement device 10 starts capturing images of the road surface to generate a road surface model by setting the imaging conditions that are determined to be appropriate by the information processing device 100. This can improve the accuracy of the generated road surface model.
  • FIGS. 2 and 3 are explanatory diagrams showing an example of the configuration of the measuring device 10.
  • FIG. 2 is a side view of the measuring device 10
  • FIG. 3 is a top view of the measuring device 10.
  • the basic forward direction of the measuring device 10 is indicated as "front”
  • the backward direction is indicated as "rear”.
  • the front-rear direction, left-right direction, and height direction of the measuring device 10 refer to the front-rear direction, left-right direction, and height direction based on the "front” and "rear”.
  • the measuring device 10 generates multiple road surface imaging data Img_ ⁇ by imaging the road surface as the measurement target, and transmits the generated road surface imaging data Img_ ⁇ to the information processing device 100.
  • the measuring device 10 according to this embodiment is configured to be able to move on the road surface unmanned (capable of autonomous driving).
  • the measuring device 10 includes a main body unit 3, an imaging unit 5, a surrounding condition detection unit 7, and a control device 50.
  • the main body 3 includes a frame 11, wheels 13 (13F, 13R), a driving force source 15, and a steering device 17.
  • the wheels 13 (13F, 13R), driving force source 15, and steering device 17 correspond to a driving device that moves the position of the measuring device 10.
  • the frame 11 forms the skeleton of the main body 3.
  • the structure and overall shape of the frame 11 shown in Figures 2 and 3 are merely examples, and the configuration of the frame 11 is not particularly limited.
  • the wheels 13 include left and right front wheels 13F and rear wheels 13R.
  • the driving force source 15 outputs a driving force to rotate the rear wheel 13R.
  • a driving motor is a typical example of the driving force source 15, but there is no particular limitation as long as it is capable of outputting power to rotate the rear wheel 13R.
  • the steering device 17 adjusts the steering angle of the front wheels 13F.
  • An example of the steering device 17 is a steering device configured to rotate a pinion gear by a motor and move a rack left and right by the rotation of the pinion gear, but the configuration of the steering device 17 is not particularly limited.
  • the main body 3 is not particularly limited in its specific configuration, so long as it can support the imaging unit 5 and the surrounding situation detection unit 7 and can travel while adjusting the direction of movement.
  • the number of wheels 13 on the main body 3 does not need to be four, but may be three, or five or more.
  • the wheels 13 that are driven to rotate by the power output from the driving force source 15 may be the front wheels 13F, or both the front wheels 13F and the rear wheels 13R may be driven to rotate.
  • the driving force source 15 may be four driving motors that respectively drive the four wheels 13.
  • the wheels whose steering angle is adjusted by the steering device 17 may be the rear wheels 13R, or all of the front wheels 13F and rear wheels 13R.
  • the steering device can be omitted.
  • the main body 3 also includes a wheel speed sensor 41.
  • the wheel speed sensor 41 outputs a sensor signal corresponding to the rotation speed of the rear wheel 13R.
  • the wheel speed sensor 41 may also output a sensor signal corresponding to the rotation speed of the front wheel 13F.
  • the imaging unit 5 includes a plurality of imaging devices 21a-21f (hereinafter collectively referred to as imaging devices 21 unless otherwise required), irradiation lamps 25a-25f (hereinafter collectively referred to as irradiation lamps 25 unless otherwise required), and a reflector 23, and is provided at the rear of the main body 3.
  • the imaging devices 21 are arranged along the left-right direction of the main body 3.
  • Each imaging device 21 is installed with a uniform height and installation angle (direction of imaging).
  • six imaging devices 21a to 21f are arranged at equal intervals along the left-right direction of the main body 3.
  • Each imaging device 21 is installed with its imaging direction facing the road surface.
  • the imaging devices 21 are installed so that the imaging ranges of adjacent imaging devices 21 overlap.
  • the installation positions and installation angles of the multiple imaging devices 21 do not have to be uniform as long as the degree of overlap of the imaging ranges of adjacent imaging devices 21 can be maintained.
  • the imaging directions of the imaging devices on both the left and right sides may be oriented toward the center.
  • the number of imaging devices 21 is not limited to six. Furthermore, the imaging devices 21 do not have to be arranged at equal intervals. However, by arranging the imaging devices 21 at equal intervals, the relative positional relationship of the imaging data generated by adjacent imaging devices 21 becomes the same, making it easier to perform calculations.
  • the irradiation lamps 25 are light sources for illuminating the road surface of the measurement target that is imaged by the imaging device 21.
  • the light emitted from the irradiation lamps 25 is reflected by the reflector 23 to illuminate the road surface of the measurement target.
  • the number of irradiation lamps 25 is not particularly limited as long as the brightness (illuminance or luminosity) of the road surface imaged by each imaging device 21 is uniform.
  • the means for illuminating the road surface of the measurement target is not limited to the configuration example of this embodiment, and may have any configuration.
  • the surrounding situation detection unit 7 has at least one sensor capable of detecting the surrounding situation of the measuring device 10.
  • the surrounding situation detection unit 7 has distance measurement sensors 31a, 31b (hereinafter, collectively referred to as distance measurement sensor 31 unless a distinction is particularly required) and camera sensors 33a, 33b (hereinafter, collectively referred to as camera sensor 33 unless a distinction is particularly required).
  • the distance measurement sensor 31 may be, for example, a LiDAR (Light Detection And Ranging), but may also be a radar sensor or an ultrasonic sensor.
  • the camera sensor 33 has an imaging element such as a CCD or CMOS, and generates imaging data.
  • the distance measuring sensors 31a and 31b are installed with the center of their measurement ranges facing the left and right front of the measurement device 10.
  • the distance measuring sensors 31a and 31b are installed so that they can detect objects, such as targets, on the left and right sides of the measurement device 10.
  • the camera sensors 33a and 33b are installed so that the center of their imaging ranges facing the front of the measurement device 10.
  • the camera sensors 33a and 33b are installed so that they can capture a wide image of the area in front of the measurement device 10.
  • the control device 50 includes one or more processors having a function for automatically moving the measuring device 10 and a function for controlling the imaging device 21, and one or more storage devices communicatively connected to the one or more processors.
  • the control device 50 also includes a communication interface for communicating with the information processing device 100.
  • the control device 50 is communicatively connected to various sensors and electronic control devices provided in the measuring device 10.
  • control device 50 provided in the measurement device 10 will be described in detail.
  • FIG. 4 is a block diagram showing an example of the configuration of the measurement system 1.
  • the control device 50 includes a processing unit 51, a storage unit 53, and a communication unit 57.
  • the processing unit 51 includes one or more processors such as a CPU (Central Processing Unit) or a GPU (Graphics Processing Unit) and various peripheral components.
  • a part or the whole of the processing unit 51 may be configured with updatable firmware or the like, or may be a program module or the like executed by a command from the CPU or the like.
  • the processing unit 51 functions as a device that realizes the functions described below by one or more processors executing a computer program.
  • the computer program is a computer program for causing the processor to execute the operations to be performed by the processing unit 51, which will be described later.
  • the computer program executed by the processor may be recorded on a recording medium that functions as a storage unit (memory) 53 provided in the control device 50, or may be recorded on a recording medium built into the processing unit 51 or any recording medium that can be externally attached to the control device 50.
  • Recording media for recording computer programs may include magnetic media such as hard disks, floppy disks, and magnetic tapes; optical recording media such as CD-ROMs, DVDs, and Blu-ray (registered trademark); magneto-optical media such as floptical disks; memory elements such as RAM and ROM; flash memories such as USB memory and SSDs; and other media capable of storing programs.
  • the processing unit 51 is communicatively connected to the driving force source 15, steering device 17, imaging device 21, illumination lamp 25, distance measurement sensor 31, camera sensor 33, wheel speed sensor 41, input unit 81, and notification unit 83.
  • the input unit 81 is a part that accepts input operations by a user.
  • the input unit 81 is configured to include at least one of a keyboard, a mouse, a touchpad, and a microphone, for example.
  • the type of the input unit 81 is not particularly limited.
  • the notification unit 83 is a part that provides a predetermined notification to the user.
  • the notification unit 83 is configured to include at least one of a display device and a speaker, for example.
  • the type of the notification unit 83 is not particularly limited.
  • the storage unit 53 is composed of one or more storage elements such as RAM or ROM that are communicatively connected to the processing unit 51. However, there is no particular limit to the type or number of the storage units 53.
  • the storage unit 53 stores information such as computer programs executed by the processing unit 51, various parameters used in the calculation process, detection data, and calculation results. A part of the storage unit 53 is used as a work area.
  • the communication unit 57 is an interface for the processing unit 51 to communicate with the information processing device 100.
  • the communication unit 57 may be an interface for communicating with the information processing device 100 via mobile communication, for example, but the communication method with the information processing device 100 is not particularly limited.
  • the control device 50 also includes an acceleration sensor 43, an angular velocity sensor 45, a GNSS (Global Navigation Satellite System) sensor 47, and a map data storage unit 55, all of which are communicatively connected to the processing unit 51. Note that some or all of the acceleration sensor 43, the angular velocity sensor 45, the GNSS (Global Navigation Satellite System) sensor 47, and the map data storage unit 55 may be provided separately from the control device 50.
  • the acceleration sensor 43 outputs a sensor signal corresponding to the acceleration in each of the three axial directions along the front-rear, left-right, and height directions of the measuring device 10.
  • the angular velocity sensor 45 outputs a sensor signal corresponding to the angular velocity around each of the three axes along the front-rear, left-right, and height directions of the measuring device 10.
  • the acceleration sensor 43 and the angular velocity sensor 45 may be integrated sensors as an IMU sensor (inertial measurement unit), or may be sensors provided separately.
  • the GNSS sensor 47 receives satellite signals from positioning satellites such as GPS (Global Positioning System) satellites, and transmits position information of the measuring device 10 contained in the satellite signals to the processing unit 51.
  • the position information may be latitude and longitude information.
  • the GNSS sensor 47 may be configured to receive satellite signals from satellite systems other than GPS satellites.
  • the map data storage unit 55 is composed of a storage element such as a RAM or ROM connected to the processing unit 51 so as to be able to communicate with it, or a storage medium such as a HDD, CD, DVD, SSD, USB flash, or storage device.
  • the map data stored in the map data storage unit 55 is associated with latitude and longitude information, and the processing unit 51 can identify the position of the measuring device 10 on the map data based on the latitude and longitude information of the measuring device 10 transmitted from the GNSS sensor 35.
  • the processing unit 51 Before starting to capture an image of a measurement target, the processing unit 51 executes a process of setting the imaging conditions of the imaging device 21. After determining that the imaging conditions are appropriate, the processing unit 51 executes a process of starting to capture an image of the road surface with the imaging device 21 and transmitting the captured image data to the information processing device 100.
  • the processing unit 51 includes an acquisition unit 61, an imaging condition setting unit 63, an autonomous driving control unit 65, a self-position estimation unit 67, and an imaging device driving unit 69.
  • Each of these units is a function realized by the execution of a computer program by one or more processors.
  • the acquisition unit 61, the imaging condition setting unit 63, the autonomous driving control unit 65, the self-position estimation unit 67, and the imaging device driving unit 69 may be configured using analog circuits.
  • the acquisition unit 61 acquires road surface image data generated by the imaging device 21.
  • the acquisition unit 61 acquires road surface image data generated by the imaging device 21 at set time intervals.
  • the acquisition unit 61 also , the distance measurement sensor 31, the camera sensor 33, the wheel speed sensor 41, the acceleration sensor 43, the angular velocity sensor 45, and the GNSS sensor 47, respectively, and obtain detection data or sensor signals (hereinafter, collectively referred to as "detection information") outputted from the sensor.
  • detection information detection data or sensor signals
  • the imaging condition setting unit 63 sets imaging conditions as operating conditions of the imaging device 21. Specifically, the imaging condition setting unit 63 sets the moving speed of the imaging device 21, i.e., the moving speed of the measuring device 10. In addition, the imaging condition setting unit 63 sets the aperture (F-number), shutter speed, and ISO sensitivity of the imaging device 21.
  • the imaging condition setting unit 63 acquires setting information of the imaging conditions of the imaging device 21 (step S11).
  • the setting information of the imaging conditions may be, for example, information of parameters for setting the moving speed of the imaging device 21, and the aperture (F value), shutter speed, and ISO sensitivity of the imaging device 21.
  • the setting information of the imaging conditions is stored in advance in the storage unit 53 as a list of imaging conditions in which any combination of patterns is set, and the imaging condition setting unit 63 acquires any imaging condition from the list of imaging conditions.
  • FIG. 7 is an explanatory diagram showing an example of a list of imaging conditions.
  • Each of the imaging conditions (1, 2...N) includes information on the setting values of the F-number, shutter speed, and ISO sensitivity of the imaging device 21.
  • Each of the imaging conditions (1, 2...N) also includes information on the movement speed of the imaging device 21.
  • the F-number, shutter speed, and ISO sensitivity settings of the imaging device 21 are set as multiple possible combinations based on the specifications of the imaging device 21, etc.
  • the reference position ( x0 , y0 , z0 ) may be, for example, the position of the center of gravity of the measurement device 10, or may be the reference position of any one of the imaging devices 21 among the multiple imaging devices 21a to 21f.
  • the z coordinates (heights) of all the imaging devices 21 in the device coordinate system are unified at a predetermined reference distance, so the information on the installation positions of the imaging devices 21 does not include z coordinate information. If the heights of the imaging devices 21 are different, the information on the installation positions of the imaging devices 21 may include z coordinate information.
  • the moving speed of the imaging devices 21 is set to a moving speed at which the imaging ranges of the road surface imaging data acquired in time series partially overlap, based on the length of the road surface corresponding to the pixel size of the road surface imaging data captured by each imaging device 21 and the time interval between images captured by the imaging devices 21.
  • the imaging condition setting unit 63 may set one of the imaging conditions from the list of imaging conditions according to a preset priority order, may acquire one of the imaging conditions randomly, or may acquire one of the imaging conditions according to a predetermined order.
  • the imaging condition setting unit 63 sets the measurement device 10 according to the acquired imaging condition setting information (step S13).
  • the user may manually set some or all of the acquired imaging conditions. For example, the user may hold each imaging device 21 and adjust the installation position and rotation angle of the imaging device 21 while checking the position of the imaging device 21 on the device coordinate system and the measurement values of a digital meter that can measure the rotation angle around the three axes of the device coordinate system. The user may also manually adjust some or all of the F-number, shutter speed, and ISO sensitivity of the imaging device 21.
  • the imaging condition setting unit 63 determines whether the set imaging target area is an area distant from the current position of the measurement device 10 (step S17). For example, the imaging condition setting unit 63 may determine that the set imaging target area is an area distant from the current position of the measurement device 10 when the position coordinates indicated by the position information of the measurement device 10 output from the GNSS sensor 47 are not located within the imaging target area. The imaging condition setting unit 63 may also determine that the imaging target area is an area distant from the current position of the measurement device 10 based on user input.
  • the imaging condition setting unit 63 does not determine that the set imaging target area is an area far from the current position of the measuring device 10 (S17/No), it proceeds to step S21. On the other hand, if the imaging condition setting unit 63 determines that the set imaging target area is an area far from the current position of the measuring device 10 (S17/Yes), it moves the measuring device 10 to the imaging target area (step S19).
  • the imaging condition setting unit 63 may notify the user to manually move the measuring device 10 to the imaging target area, or may output a command to the autonomous driving control unit 65 to move the measuring device 10 to the imaging target area.
  • the imaging condition setting unit 63 starts acquiring road surface imaging data Img_ ⁇ while the measuring device 10 is positioned in the imaging target area (step S21).
  • the autonomous driving control unit 65 moves the measuring device 10 along a predetermined movement path at the set movement speed.
  • the imaging condition setting unit 63 determines that all imaging conditions set in the list of imaging conditions have been checked (S31/Yes), it activates the notification unit 83 to notify that the measurement device 10 cannot measure the road surface (main measurement) because no imaging conditions that provide the accuracy or reliability of the measurement results were found (step S33). In this case, there is a risk that some abnormality has occurred in the measurement device 10, so the user can take action such as inspection, repair, replacement, etc. as necessary.
  • the imaging condition setting unit 63 determines that all imaging conditions set in the list of imaging conditions have been confirmed (S31/No), it returns to step S11, sets the next imaging condition, and performs suitability determination according to the procedure described above.
  • the imaging condition setting unit 63 determines that the judgment result is "OK" (S29/Yes), it drives the notification unit 83 to notify that the set imaging conditions are appropriate and that it is OK to start measuring the road surface (main measurement) by the measuring device 10 (step S29). This allows the user to start measuring the road surface of the measurement target.
  • the autonomous driving control unit 65 preferentially uses the detection information output from the distance measurement sensor 31 and moves the measuring device 10 along the guide information detected by the distance measurement sensor 31.
  • Guide information refers to three-dimensional objects installed along the road, such as side walls, curbs, and guardrails, which can serve as a reference when moving the measuring device 10 along the direction in which the road extends.
  • the autonomous driving control unit 65 executes a process of moving the measuring device 10 along the road while maintaining the distance between such guide information and the measuring device 10 at a predetermined set distance.
  • the measuring device 10 of this embodiment is configured on the premise that the object detection accuracy and the measurement accuracy of the distance to the object measured by the distance sensor 31 are higher than the measurement accuracy of the object and the distance to the object measured by the camera sensor 33.
  • the priority of the sensors used by the autonomous driving control unit 65 may differ depending on the measurement accuracy of each sensor.
  • the autonomous driving control unit 65 when it is no longer able to move the measuring device 10 along the guide information detected using the distance sensor 31 or the camera sensor 33, it may move the measuring device 10 along a predetermined course based on the position of the measuring device 10 (self-position, odometry information) estimated by the self-position estimation unit 67 described later.
  • the autonomous driving control unit 65 acquires information on the current position (x, y) and moving direction of the measuring device 10 (step S43). For example, the autonomous driving control unit 65 acquires position information (latitude and longitude information) output from the GNSS sensor 47.
  • the autonomous driving control unit 65 may acquire information on the current position (x, y) of the measuring device 10 on a predetermined two-dimensional coordinate system based on information on the distance from the measuring device 10 to the guide information and odometry information estimated by the self-position estimation unit 67 described later.
  • the autonomous driving control unit 65 also acquires information on the movement direction of the measuring device 10 along with information on the current position of the measuring device 10. For example, the autonomous driving control unit 65 determines the direction of a vector connecting the position information of the measuring device 10 on the map data in the previous calculation cycle (t_n-1) and the position information of the measuring device 10 on the map data in the current calculation cycle (t_n) as the movement direction. The autonomous driving control unit 65 may also acquire information on the movement direction of the measuring device 10 from odometry information estimated by the self-position estimation unit 67 described later.
  • the autonomous driving control unit 65 controls the driving of the driving force source 15 and the steering device 17 according to the driving amount set in step S45 (step S47).
  • the autonomous driving control unit 65 determines whether or not the measurement has ended (step S49). For example, the autonomous driving control unit 65 determines that the measurement has ended when the measuring device 10 has reached the measurement end position. Alternatively, the autonomous driving control unit 65 may determine that the measurement has ended when an emergency stop operation is performed by the user, etc.
  • the autonomous driving control unit 65 If the autonomous driving control unit 65 does not determine that the measurement has ended (S49/No), it returns to step S43 and continues controlling the autonomous driving of the measuring device 10. On the other hand, if the autonomous driving control unit 65 determines that the measurement has ended (S49/Yes), it ends the autonomous driving control process.
  • the self-position estimation unit 67 estimates odometry information including the position of the measurement device 10 on a predetermined three-dimensional coordinate system (hereinafter, also referred to as the "self-position"). For example, the self-position estimation unit 67 estimates odometry information including the position of the measurement device 10 on a predetermined three-dimensional coordinate system (hereinafter, also referred to as the "self-position"). 41, the measurement device 10 when starting the measurement process based on time series data of the moving speed, the acceleration in the three axial directions, and the angular velocity around the three axial directions of the measurement device 10 detected by the acceleration sensor 43 and the angular velocity sensor 45. The change in the position (self-position) of the measuring device 10 based on the position of the measuring device 10 is calculated.
  • FIG. 10 shows a flowchart of the self-location estimation process performed by the self-location estimation unit 67.
  • the self-position estimation unit 67 records a start position (step S51).
  • the start position is a reference position when calculating the position of the measurement device 10.
  • the self-position estimation unit 67 records the position coordinates of the reference position ( x0 , y0 , z0 ) of the measurement device 10 at the start of the measurement process as the start position.
  • the recorded reference position does not need to be specified by specific latitude and longitude information, and may be recorded as an arbitrary point of arbitrary three-dimensional coordinates (for example, the origin of a three-dimensional coordinate system).
  • the self-position estimation unit 67 may record the latitude and longitude information of the reference position ( x0 , y0 ) of the measuring device 10 as the x-coordinate and y-coordinate of the starting position.
  • the self-position estimation unit 67 acquires detection information from the wheel speed sensor 41, the acceleration sensor 43, and the angular velocity sensor 45 (step S53).
  • the detection information from the acceleration sensor 43 includes information indicating the acceleration in three axial directions along the front-rear, left-right, and height directions of the measurement device 10.
  • the detection information from the angular velocity sensor 45 includes information indicating the angular velocity around three axes along the front-rear, left-right, and height directions of the measurement device 10.
  • the self-position estimation unit 67 may correct the position and orientation of the measuring device 10 based on measurement data from at least one of the distance measurement sensor 31 and the camera sensor 33. For example, the self-position estimation unit 67 may correct the position of the measuring device 10 based on the distance between the measuring device 10 and a stationary object detected by the distance measurement sensor 31 or the camera sensor 33, and the change over time in the position (direction) of the stationary object as viewed from the measuring device 10.
  • the self-position estimation unit 67 may correct the position of the measuring device 10 based on the position information output from the GNSS sensor 47.
  • the self-position estimation unit 67 may correct the position of the measuring device 10 based on a change over time in the position information output from the GNSS sensor 47.
  • the self-position estimation unit 67 records the data of the position of the measuring device 10 (position coordinates of the self-position) P_n (x_n, y_n) calculated in the current calculation cycle (t_n) in the memory unit 53 (step S57).
  • the self-position estimation unit 67 determines whether or not the measurement has ended (step S59). For example, the self-position estimation unit 67 determines that the measurement has ended when the measuring device 10 has reached the measurement end position. Alternatively, the self-position estimation unit 67 may determine that the measurement has ended when an emergency stop operation is performed by the user or the like.
  • the self-position estimation unit 67 determines that the measurement has ended (S59/No)
  • the process returns to step S53 and continues the self-position estimation process of the measuring device 10.
  • the self-position estimation unit 67 determines that the measurement has ended (S59/Yes)
  • the self-position estimation process ends.
  • the self-position estimation unit 67 may estimate the odometry information by further taking into account the amount of drive of the drive power source 15 and the steering device 17 by the autonomous driving control unit 65, and may estimate the odometry information by further taking into account changes in the position information of the measuring device 10 output from the GNSS sensor 47.
  • the imaging device driving unit 69 controls driving of the imaging device 21.
  • the imaging device driving unit 69 controls imaging by the imaging device 21 in accordance with the imaging conditions (aperture (F-number), shutter speed, and ISO sensitivity) that are set by the imaging condition setting unit 63 and determined to be appropriate.
  • FIG. 9 is a flowchart showing the imaging device driving process performed by the imaging device driving section 69 .
  • the imaging device driving unit 69 acquires the imaging conditions (aperture (F-number), shutter speed, and ISO sensitivity) set by the imaging condition setting unit 63 (step S61).
  • the imaging device driving unit 69 controls the driving of the imaging device 21 (step S63).
  • the imaging device driving unit 69 controls the driving of the imaging device 21 under the set imaging conditions, and executes a process of imaging the road surface to be measured.
  • the imaging device driving unit 69 determines whether or not the measurement has ended (step S67). For example, the imaging device driving unit 69 determines that the measurement has ended when the autonomous driving control has ended. Alternatively, the imaging device driving unit 69 may determine that the measurement has ended when an emergency stop operation is performed by the user, etc.
  • the imaging device driving unit 69 If the imaging device driving unit 69 does not determine that the measurement has ended (S67/No), it returns to step S63 and continues driving the imaging device 21. On the other hand, if the imaging device driving unit 69 determines that the measurement has ended (S67/Yes), it ends the imaging device driving process.
  • the information processing device 100 includes a communication unit 101, a data processing unit 103, and a storage unit 105.
  • the communication unit 101 is an interface for the data processing unit 103 to communicate with the control device 50.
  • the communication unit 101 may be an interface for communicating with the control device 50 via mobile communication, for example, but the communication method with the control device 50 is not particularly limited.
  • the data processing unit 103 is configured with one or more processors, such as a CPU (Central Processing Unit) or a GPU (Graphics Processing Unit), and various peripheral components.
  • processors such as a CPU (Central Processing Unit) or a GPU (Graphics Processing Unit), and various peripheral components.
  • a part or all of the processing unit 51 may be configured with updatable components, such as firmware, or may be a program module executed by commands from a CPU, etc.
  • the data processing unit 103 functions as a device that realizes the functions described below by one or more processors executing a computer program.
  • the computer program is a computer program for causing the processor to execute the operations to be performed by the data processing unit 103, which will be described later.
  • the computer program executed by the processor may be recorded on a recording medium that functions as a storage unit (memory) 105 provided in the information processing device 100, or may be recorded on a recording medium built into the data processing unit 103 or any recording medium that can be attached externally to the information processing device 100.
  • Recording media for recording computer programs may include magnetic media such as hard disks, floppy disks, and magnetic tapes; optical recording media such as CD-ROMs, DVDs, and Blu-ray (registered trademark); magneto-optical media such as floptical disks; memory elements such as RAM and ROM; flash memories such as USB memory and SSDs; and other media capable of storing programs.
  • the storage unit 105 is composed of one or more storage elements such as RAM or ROM, or storage media such as HDD or SSD, communicably connected to the data processing unit 103. However, there is no particular limit to the type or number of the storage units 105.
  • the storage unit 105 stores information such as computer programs executed by the data processing unit 103, various parameters used in arithmetic processing, detection data, and calculation results. A part of the storage unit 105 is used as a work area.
  • the data processing unit 103 executes a suitability determination process for determining whether the imaging conditions are suitable or not using the road surface imaging data Img_ ⁇ .
  • the data processing unit 103 determines whether the imaging conditions are suitable or not using the road surface imaging data Img_ ⁇ of the imaging target area set for setting the imaging conditions.
  • FIG. 12 shows a flowchart of the first feature point matching process.
  • the method for extracting feature points from image data may be a conventionally known method, and therefore a detailed description thereof will be omitted.
  • the data processing unit 103 defines the horizontal direction of the road surface image data Img_ ⁇ as the x-axis and the vertical direction as the y-axis, and defines the position of the pixel corresponding to the feature point as the position (x, y) of the feature point.
  • the data processing unit 103 selects a preset number of feature points from the extracted feature points in descending order of feature amount (step S93).
  • the number of feature points to be selected may be set arbitrarily, but is set to an appropriate number in order to determine whether the set imaging conditions are appropriate.
  • the number of feature points to be selected may be set according to a ratio such as one-third of the extracted feature points in descending order of feature amount.
  • the process of matching feature points between imaging data may be executed using a conventionally known method, and therefore a detailed description will be omitted.
  • the data processing unit 103 generates a distance map by converting the calculated parallax value into a distance value between the road surface and the image capture device 21 (step S77). Specifically, the data processing unit 103 converts the parallax value d into a distance (estimated distance) Z value from the road surface to the image capture device 21 using the following formula (1).
  • Z f ⁇ b/d...(1)
  • the distance Z from the road surface to the imaging device 21 is the shortest distance from the road surface to the imaging device 21. Specifically, the distance Z from the road surface to the imaging device 21 corresponds to the distance from the road surface to the center of the lens of the imaging device 21.
  • the data processing unit 103 determines whether the difference between the calculated distance Z value and the distance value of the measurement device 10 specification is within a predetermined threshold value (step S79).
  • the distance of the measurement device 10 specification is the distance in the z-axis direction of the device coordinate system from the center of the lens of the imaging device 21 to the contact surface of the wheels 13 of the measurement device 10, which is calculated based on the height of the installation position of the imaging device 21 in the measurement device 10.
  • Information on the distance of the specification is recorded in advance in the storage unit 53.
  • the predetermined threshold value may be a value set based on the size of unevenness that can be expected on the surface to be measured.
  • the data processing unit 103 determines the determination result as "NG” and transmits the determination result to the control device 50 (step S83). If the difference between the calculated distance Z value and the distance value of the measurement device 10 specifications exceeds the predetermined threshold value, it is considered that the set imaging conditions are not appropriate.
  • the data processing unit 103 determines that the difference between the calculated distance Z value and the distance value of the measurement device 10 specifications is within a predetermined threshold value (S79/Yes), it sets the determination result as "OK” and transmits the determination result to the control device 50 (step S81).
  • the data processing unit 103 ends the suitability determination process by transmitting the determination result to the control device 50 in step S81 or step S83.
  • Model generation process 15 is a flowchart of a model generation process performed by the data processing unit 103. Note that the flowchart shown below illustrates an example in which the control device 50 sequentially transmits the road surface image data Img_ ⁇ captured by the imaging device 21 to the information processing device 100 at predetermined calculation intervals.
  • a feature point may be a point where the amount of change in luminance (feature value) between adjacent pixels in the road surface imaging data Img_ ⁇ _n is equal to or greater than a predetermined threshold value, but other feature values may also be used.
  • the method for extracting feature points from imaging data may be a conventionally known method, so a detailed description will be omitted.
  • the data processing unit 103 constructs three-dimensional point cloud data by MVS (Multi-View Stereo) processing, and generates a road surface model.
  • MVS Multi-View Stereo
  • the method of generating a road surface model composed of three-dimensional point cloud data is not particularly limited.
  • the data processing unit 103 determines whether or not to end the model generation process (step S109). For example, the data processing unit 103 may determine to end the model generation process when a predetermined time has elapsed since the control device 50 stopped transmitting road surface imaging data Img_ ⁇ . Alternatively, the data processing unit 103 may determine to end the model generation process when the control device 50 transmits a signal indicating the end of measurement.
  • the data processing unit 103 If the data processing unit 103 does not determine that the model generation process should be terminated (S109/No), the data processing unit 103 returns to step S101 and continues the model generation process. On the other hand, if the data processing unit 103 determines that the model generation process should be terminated (S109/Yes), the data processing unit 103 terminates the model generation process.
  • the measurement system 1 can capture images of the road surface while autonomously driving the measurement device 10 equipped with an imaging device along a measurement route based on guide information in order to obtain road surface imaging data for generating a road surface model. Furthermore, before the measurement device 10 starts the actual measurement, the measurement system 1 can use imaging data captured of a target area set on the road surface to be measured to perform a simple method of determining whether the imaging conditions of the imaging device are appropriate for obtaining imaging data suitable for generating a road surface model. Therefore, appropriate imaging conditions can be determined before actually generating a road surface model.
  • the control device 50 when the information processing device 100 transmits to the control device a result of suitability judgment indicating that the imaging conditions are not suitable, the control device 50 automatically changes the imaging conditions, captures the image again, and transmits the imaging data to the information processing device 100. Therefore, the control device 50 can automatically change the settings of the imaging conditions until suitable imaging conditions are found.
  • the measurement system according to the second embodiment differs from the measurement system according to the first embodiment in the suitability determination process executed by the data processing unit 103 of the information processing device 100.
  • the method for extracting feature points from image data may be a conventionally known method, so a detailed description will be omitted.
  • step S75 to S79 the construction of a parallax map and the generation of a distance map are sequentially performed in the same procedure as steps S75 to S79 described in the first embodiment, and it is determined whether the difference between the calculated distance Z value and the distance value of the measurement device 10 specifications is within a predetermined threshold value (steps S75 to S79).
  • the data processing unit 103 determines whether or not all settable image resolutions have been confirmed (step S85). In the above example, the data processing unit 103 determines whether or not the appropriateness of all settable image resolutions in the four levels of 1/16, 1/8, 1/4, and 1/2 has been confirmed.
  • step S73 If the data processing unit 103 does not determine that all settable image resolutions have been checked (S85/No), it returns to step S73, sets one of the unset image resolutions, and performs an appropriateness determination according to the procedure described above. If the difference between the calculated distance Z value and the distance value of the measurement device 10 specifications exceeds a predetermined threshold, the set image resolution is considered to be inappropriate, and the data processing unit 103 attempts to adjust the image resolution before changing the imaging conditions.
  • the data processing unit 103 determines that all settable image resolutions have been checked (S85/Yes), it determines the result as "NG” and transmits the result to the control device 50 (step S83). Even if the image resolution settings have been changed, if the difference between the calculated distance Z value and the distance value of the measurement device 10 specifications exceeds a predetermined threshold, the set imaging conditions are considered to be inappropriate.
  • the data processing unit 103 determines that the difference between the calculated distance Z value and the distance value of the measurement device 10 specifications is within a predetermined threshold value (S79/Yes), it determines the determination result as "OK” and transmits the determination result together with information on the image resolution at the time the determination result became "OK” to the control device 50 (step S87).
  • the control device 50 maintains the imaging conditions that were set, and sets the image resolution of the road surface imaging data Img_ ⁇ to be generated to the image resolution received from the information processing device 100.
  • the data processing unit 103 ends the suitability determination process by transmitting the determination result to the control device 50 in step S87 or step S83.
  • the rest of the configuration of the measurement system according to this embodiment may be configured similarly to the configuration of the measurement system 1 according to the first embodiment, so detailed explanation will be omitted.
  • the information processing device 100 changes the image resolution and re-executes the appropriateness determination of the imaging conditions before changing the imaging conditions. Therefore, during the appropriateness determination of the imaging conditions, it is possible to determine appropriate imaging conditions that match the shooting environment of the measurement target without changing the set imaging conditions.
  • the moving speed of the imaging device, the F-number, the shutter speed, and the ISO sensitivity are set as the imaging conditions, but the imaging conditions are not limited to the above examples.
  • the imaging conditions may also include the output (illuminance or brightness) of the illumination lamp. This can further improve the matching accuracy of feature points.
  • the measurement system of the above embodiment is configured as a measurement system that generates a three-dimensional model of the unevenness of the road surface as the measurement target, but the measurement target is not limited to the road surface and may be any measurement target.
  • the measurement device used in the measurement system of the above embodiment is configured as a measurement device that can travel on the road surface, but the measurement device may be configured as an unmanned or manned flying object. In this case, the measurement device identifies its own position and orientation in three-dimensional space, making it possible to calculate the imaging range of each imaging data, the distance from the imaging device to the measurement target, etc., and the technology disclosed herein can be applied.
  • the measurement system of the above embodiment is configured by a measurement device that mainly acquires imaging data and an information processing device that mainly performs data processing, which are connected so as to be able to communicate with each other, but the technology of the present disclosure is not limited to the above example.
  • Some of the functions of the data processing unit of the information processing device may be provided in the measurement device.
  • the information processing device may be mounted in the measurement device, or all of the functions of the data processing unit of the information processing device may be provided in the control device of the measurement device, and the measurement system may be configured only by the measurement device.
  • the technology disclosed herein can also be realized as an information processing device applied to the measurement system 1, a control method executed by the control device, an information processing method executed by the information processing device, a computer program that causes a computer to function as at least one of the control device and the information processing device, and a non-transitory tangible recording medium on which the computer program is recorded.
  • Measurement system 10 Measurement device 13: Wheel 15: Driving force source 17: Steering device 21: Imaging device 23: Reflector 25: Illumination lamp 27: Illumination lamp 31: Distance measurement sensor 33: Camera sensor 35: GNSS sensor 41: Wheel speed sensor 43: Acceleration sensor 45: Angular velocity sensor 47: GNSS sensor 50: Control device 51: Processing unit 53: Memory unit 55: Map data memory unit 57: Communication unit 61: Acquisition unit 63: Imaging condition setting unit 65: Autonomous driving control unit 67: Self-position estimation unit 69: Imaging device driving unit 81: Input unit 83: Notification unit 100: Information processing device 101: Communication unit 103: Data processing unit 105: Memory unit 113: Data processing unit

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Traffic Control Systems (AREA)

Abstract

計測対象を撮像した複数の撮像データを合成し、計測対象のモデルのデータを生成する計測システムにおいて、制御装置は、撮像装置の作動条件としての所定の撮像条件を設定し、設定した撮像条件の下で計測対象に設定された所定の撮影対象領域を撮像装置により撮像した複数の前記撮像データを生成して情報処理装置へ送信し、情報処理装置は、制御装置から送信される複数の撮像データを取得し、取得した複数の撮像データからそれぞれ抽出される特徴点をマッチングし、特徴点マッチング処理の結果に基づいて撮像装置と計測対象との間の推定距離を算出し、算出した推定距離と所定の基準距離とに基づいて撮像条件の適正判定を行う。

Description

計測システム、情報処理装置、情報処理方法及び記録媒体
 本開示は、計測システム、情報処理装置、情報処理方法及び記録媒体に関する。
 相互に重なり合う重複領域を有する複数の撮像データを合成して所望の計測モデルを生成する技術が種々用いられている。例えば特許文献1には、複数のステレオ撮像手段により移動体の走行面を撮像した奥行方向の距離情報を含む複数の撮像画像を取得し、各ステレオ撮像画像から抽出される特徴点をマッチングして、取得した複数の撮像画像を重複させて走行面の幅員方向に繋ぐ制御装置が開示されている。
特開2019-164138号公報
 ここで、計測対象の計測精度を高めるには、撮像装置のF値やシャッター速度等の撮像条件を計測環境に応じて調整する必要がある。撮像条件の調整をユーザが手動で行う場合、それぞれの条件を調整して計測モデルを生成したうえで、得られた結果を確認することでユーザが撮像条件を決定しなければならない。例えばユーザは、計測装置の撮像条件を設定した後、路面の撮像を行い、得られた撮像データを用いて路面モデルを生成したうえで、撮像条件が適正であるか否かを確認する必要がある。このため、撮像条件を決定する段階であっても、計測作業を実際に開始するまでに時間を要するおそれがある。
 本開示は、上記問題に鑑みてなされたものであり、本開示の目的とするところは、計測装置の撮像条件の設定を容易に行うことができる計測システム、情報処理装置、情報処理方法及び記録媒体を提供することにある。
 上記課題を解決するために、本開示のある観点によれば、計測対象を撮像した複数の撮像データを合成し、上記計測対象のモデルのデータを生成する計測システムにおいて、上記計測対象を撮像し上記撮像データを生成する撮像装置と、上記撮像装置を制御する制御装置と、上記撮像装置により撮像された複数の上記撮像データを取得し、取得した上記複数の撮像データを合成して上記計測対象のモデルのデータを生成する情報処理装置と、を備え、上記制御装置は、上記撮像装置の作動条件としての所定の撮像条件を設定する撮像条件設定処理と、設定した上記撮像条件の下で上記計測対象に設定された所定の撮影対象領域を上記撮像装置により撮像した複数の上記撮像データを生成して上記情報処理装置へ送信する撮像装置駆動処理と、を実行し、上記情報処理装置は、上記制御装置から送信される上記複数の撮像データを取得し、取得した上記複数の撮像データからそれぞれ抽出される特徴点をマッチングする特徴点マッチング処理と、上記特徴点マッチング処理の結果に基づいて上記撮像装置と上記計測対象との間の推定距離を算出し、算出した上記推定距離と所定の基準距離とに基づいて上記撮像条件の適正判定を行う適正判定処理と、を実行する計測システムが提供される。
 また、上記課題を解決するために本開示の別の観点によれば、計測対象を撮像した複数の撮像データを合成し、上記計測対象のモデルのデータを生成する情報処理装置において、撮像装置の作動条件として設定される所定の撮像条件の下で上記計測対象に設定された所定の撮影対象領域を上記撮像装置により撮像した撮像された複数の撮像データを取得し、取得した上記複数の撮像データからそれぞれ抽出される特徴点をマッチングする特徴点マッチング処理と、上記特徴点マッチング処理の結果に基づいて上記撮像装置と上記計測対象との間の推定距離を算出し、算出した上記推定距離と所定の基準距離とに基づいて上記撮像条件の適正判定を行う適正判定処理と、を実行する情報処理装置が提供される。
 また、上記課題を解決するために本開示の別の観点によれば、計測対象を撮像した複数の撮像データを合成し、上記計測対象のモデルのデータを生成する情報処理方法において、コンピュータが、撮像装置の作動条件として設定される所定の撮像条件の下で上記計測対象に設定された所定の撮影対象領域を上記撮像装置により撮像した撮像された複数の撮像データを取得し、取得した上記複数の撮像データからそれぞれ抽出される特徴点をマッチングすることと、上記特徴点マッチング処理の結果に基づいて上記撮像装置と上記計測対象との間の推定距離を算出し、算出した上記推定距離と所定の基準距離とに基づいて上記撮像条件の適正判定を行うことと、を含む処理を実行する情報処理方法が提供される。
 また、上記課題を解決するために本開示の別の観点によれば、コンピュータに、撮像装置の作動条件として設定される所定の撮像条件の下で上記計測対象に設定された所定の撮影対象領域を上記撮像装置により撮像した撮像された複数の撮像データを取得することと、取得した上記複数の撮像データからそれぞれ抽出される特徴点をマッチングする特徴点マッチング処理と、上記特徴点マッチング処理の結果に基づいて上記撮像装置と上記計測対象との間の推定距離を算出し、算出した上記推定距離と所定の基準距離とに基づいて上記撮像条件の適正判定を行うことと、を含む処理を実行させるプログラムを記録した、非一時的な有形の記録媒体が提供される。
 以上説明したように本開示によれば、相互に重なり合う重複領域を有する複数の撮像データを、特徴点をマッチングすることにより合成して計測対象のモデルのデータを生成する際の処理負荷を軽減し、処理時間を短縮することができる。
本開示の一実施形態に係る計測システムの用途の一例を説明するために示す図である。 第1の実施の形態に係る計測装置を側方から見た説明図である。 第1の実施の形態に係る計測装置を上方から見た説明図である。 第1の実施の形態に係る計測システムの構成例を示すブロック図である。 第1の実施の形態に係る制御装置の撮像条件設定部による撮像条件設定処理のフローチャートである。 第1の実施の形態に係る制御装置の撮像条件設定部による撮像条件設定処理のフローチャートである。 第1の実施の形態に係る撮像条件のリストの例を示す説明図である。 第1の実施の形態に係る制御装置の自律走行制御部による自律走行制御処理のフローチャートである。 第1の実施の形態に係る制御装置の撮像装置駆動部による撮像装置駆動処理のフローチャートである。 第1の実施の形態に係る制御装置の自己位置推定部による自己位置推定処理のフローチャートである。 第1の実施の形態に係る情報処理装置のデータ処理部による適正判定処理のフローチャートである。 第1の実施の形態に係る情報処理装置のデータ処理部による第1の特徴点マッチング処理のフローチャートである。 第1の実施の形態に係る情報処理装置によりすべての路面撮像データから抽出した特徴点のリストの例を示す説明図である。 第1の実施の形態に係る情報処理装置によりすべての路面撮像データから抽出した特徴点を特徴量の大きい順にソート(並べ替え)したリストの例を示す説明図である。 第1の実施の形態に係る情報処理装置のデータ処理部によるモデル生成処理のフローチャートである。 第2の実施の形態に係る情報処理装置のデータ処理部による適正判定処理のフローチャートである。 第2の実施の形態に係る情報処理装置のデータ処理部による第2の特徴点マッチング処理のフローチャートである。
 以下、添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
<<計測システムの概要>>
 はじめに、本開示の実施形態に係る計測システムの概要を説明する。
 図1は、本開示の計測システムの用途の一例を説明するために示す図である。
 図1に示した例において、計測システム1は、撮像装置を搭載した計測装置10と、計測装置10と通信可能に接続された情報処理装置100とを備えている。計測装置10と情報処理装置100とは、例えばクラウドコンピューティングの技術を用いて通信可能に接続される。
 計測装置10は、計測対象としての道路Rの路面を撮像装置により撮像して路面撮像データImg_αを生成し、生成した路面撮像データImg_αを、逐次又は撮像終了後に、情報処理装置100へ送信する。情報処理装置100は、路面撮像データImg_αを取得し、取得した路面撮像データImg_αに基づいて、路面の凹凸状態を示す三次元データである路面モデルを生成する。
 例えば計測装置10は、道路Rを三つの領域D1~D3に分けて路面の撮像を行う。計測装置10は、それぞれの領域D1~D3を自律走行しながら時系列の路面撮像データImg_αを生成する。道路Rの計測範囲の全体が撮像範囲から漏れることのないように、隣り合う領域D1~D3同士が一部重複するように設定されている。
 また、計測装置10は、移動方向(前後方向)に直交する方向(左右方向)に沿って配列した複数の撮像装置を有している。複数の撮像装置は、計測装置10がそれぞれの領域D1~D3を自律走行する間にそれぞれ路面を撮像し、複数の路面撮像データImg_αを生成する。それぞれの領域D1~D3の全体が撮像範囲から漏れることのないように、隣り合う撮像装置の撮像範囲P1~P6同士が一部重複するように、複数の撮像装置が設置されている。
 また、計測装置10の移動速度は、それぞれの撮像装置により生成される時系列の路面撮像データImg_αが一部重複するように設定されている。つまり、時刻t_nにおける撮像範囲は、前回の時刻t_n-1及び次の回の時刻t_n+1における撮像範囲とそれぞれ一部重複する。ただし、例えば計測装置の移動速度が低速で、ある演算周期(時刻t_n)の撮像範囲と、2回前あるいはそれ以前の演算周期(時刻t_n-2,t_n-3・・・)の撮像範囲、及び、2回後あるいはそれ以降の演算周期(時刻t_n+2,t_n+3・・・)の撮像範囲とが重複してもよい。
 なお、図1では、計測対象の道路Rが直線的に延び、計測装置10が直進する例を示したが、計測対象の形状は湾曲していてもよく、計測装置10が直進する例に限定されない。また、計測対象の道路Rを計測する際の領域の分け方や領域の走行順序、計測装置10の進路についても上記の例に限定されない。また、撮像装置の数についても、特に限定されるものではない。
 情報処理装置100は、取得した複数の路面撮像データImg_αから特徴点を抽出し、路面撮像データImg_α間で特徴点を位置合わせする特徴点マッチング処理を実行する。特徴点マッチング処理は、例えばSfM(Structure from Motion)処理を用いて行われる。また、情報処理装置100は、特徴点マッチング処理により複数の路面撮像データImg_αを合成し、路面の凹凸状態の情報を示す路面モデルを生成する。路面モデルの生成は、例えばMVS(Multi-View Stereo)処理を用いて行われる。
 このように構成される計測システム1において、情報処理装置100は、路面モデルを生成するための路面の撮像を開始する前に、撮像装置の作動条件としての撮像条件が適正であるか否かを判定する。計測装置10は、情報処理装置100により適正と判定された撮像条件の設定により路面モデルを生成するための路面の撮像を開始する。これにより、生成される路面モデルの精度を高めることができる。
<<1.第1の実施の形態>>
 以下、本開示の第1の実施の形態に係る計測システム1を具体的に説明する。
 <1-1.計測装置の構成例>
 まず、本実施形態に係る計測システム1に用いられる計測装置10の構成例を説明する。
 図2及び図3は、計測装置10の構成例を示す説明図である。図2は、計測装置10を側方から見た図であり、図3は、計測装置10を上方から見た図である。なお、図2及び図3中には、計測装置10の基本的な前進方向が「前」、後退方向が「後」として示されている。以下、計測装置10の前後方向、左右方向及び高さ方向は、当該「前」及び「後」を基準とした前後方向、左右方向及び高さ方向を示す。
 計測装置10は、計測対象としての路面を撮像した複数の路面撮像データImg_αを生成し、生成した路面撮像データImg_αを情報処理装置100へ送信する。本実施形態に係る計測装置10は、無人で路面上を移動可能(自律走行可能)に構成されている。計測装置10は、本体部3、撮像部5、周囲状況検出部7及び制御装置50を備えている。
 本体部3は、フレーム11、車輪13(13F,13R)、駆動力源15及び操舵装置17を備えている。車輪13(13F,13R)、駆動力源15及び操舵装置17は、計測装置10の位置を移動させる駆動装置に相当する。フレーム11は、本体部3の骨格を形成する。図2及び図3に示したフレーム11の構造や全体形状は一例にすぎず、フレーム11の構成は特に制限されるものではない。車輪13は、それぞれ左右の前輪13F及び後輪13Rを有する。
 駆動力源15は、後輪13Rを回転させる駆動力を出力する。駆動力源15としては、代表的には駆動モータが例示されるが、これ以外にも後輪13Rを回転駆動する動力を出力可能なものであれば特に限定されるものではない。
 操舵装置17は、前輪13Fの舵角を調節する。操舵装置17としては、例えばモータによりピニオンギヤを回転させ、ピニオンギヤの回転によりラックを左右に移動させる構成の操舵装置が例示されるが、操舵装置17の構成は特に限定されるものではない。
 なお、本体部3は、撮像部5及び周囲状況検出部7を支持可能であり、かつ、移動方向を調節しながら走行可能なものであれば、具体的な構成は特に限定されるものではない。例えば本体部3の車輪13は四つである必要はなく、三つであってもよく、五つ以上であってもよい。また、駆動力源15から出力される動力により回転駆動する車輪13は前輪13Fであってもよく、前輪13F及び後輪13Rのすべてが回転駆動してもよい。また、駆動力源15は、四つの車輪13をそれぞれ駆動する四つの駆動モータであってもよい。
 また、操舵装置17により舵角を調節する車輪は後輪13Rであってもよく、前輪13F及び後輪13Rすべてであってもよい。四つの駆動モータが四つの車輪13をそれぞれ駆動する場合、駆動モータの出力を制御することで計測装置の進行方向を調節可能に構成される場合、操舵装置を省略することもできる。
 また、本体部3は、車輪速センサ41を備える。車輪速センサ41は、後輪13Rの回転速度に応じたセンサ信号を出力する。車輪速センサ41は、前輪13Fの回転速度に応じたセンサ信号を出力してもよい。
 撮像部5は、複数の撮像装置21a~21f(以下、特に区別を要しない場合、撮像装置21と総称する)、照射ランプ25a~25f(以下、特に区別を要しない場合、照射ランプ25と総称する)及びリフレクタ23を備え、本体部3の後部に設けられている。
 複数の撮像装置21は、CCD(Charge Coupled Device)又はCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を備え、路面を撮像した路面撮像データImg_α(α=1,2・・・M)(Mは撮像装置21の台数)を生成する。撮像装置21は、本体部3の左右方向に沿って配置されている。それぞれの撮像装置21は、高さ及び設置角度(撮像方向の向き)が均一に設置されている。本実施形態の計測装置10では、6つの撮像装置21a~21fが本体部3の左右方向に沿って等間隔に配置されている。それぞれの撮像装置21は、撮像方向を路面の方向に向けて設置されている。撮像装置21は、隣り合う撮像装置21同士の撮像範囲が重複するように設置される。
 ただし、複数の撮像装置21の設置位置及び設置角度は、隣り合う撮像装置21同士の撮像範囲の重複度合いが維持できる限りにおいて、均一となっていなくてもよい。例えば左右両側の撮像装置の撮像方向の向きが中央に向けられていてもよい。
 撮像装置21は、設定された時間間隔ごとに路面を撮像し、生成した路面撮像データImg_α(α=1,2・・・M)を処理部51へ出力する。撮像の時間間隔は、計測装置10の移動速度の設定範囲を考慮して、それぞれの撮像装置21の時系列の路面撮像データImg_α(α=1,2・・・M)の撮像範囲が相互に重複するように設定される。つまり、処理部51が取得する時系列の路面撮像データImg_α(α=1,2・・・M)は上下及び左右が相互に重複(オーバーラップ)する。これにより、撮像装置21は、計測対象の路面全体を漏れなく撮像可能となっている。
 なお、撮像装置21の数は6つに限られるものではない。また、撮像装置21は、等間隔に配置されていなくてもよい。ただし、撮像装置21が等間隔に配置されていることにより、隣り合う撮像装置21によって生成される撮像データの相対位置関係が同一になり、演算を容易にすることができる。
 照射ランプ25は、撮像装置21により撮像される計測対象の路面を照明するための光源である。本実施形態の計測装置10では、照射ランプ25から発出された光がリフレクタ23により反射されて計測対象の路面を照明する。なお、それぞれの撮像装置21により撮像される路面の明るさ(照度あるいは明度)が均一にされる限り、照射ランプ25の数は特に限定されるものではない。また、計測対象の路面を照明する手段は、本実施形態の構成例に限定されるものではなく、任意の構成を有していてよい。
 周囲状況検出部7は、計測装置10の周囲の状況を検出可能な少なくとも1つ以上のセンサを有する。本実施形態では、周囲状況検出部7は、測距センサ31a,31b(以下、特に区別を要しない場合、測距センサ31と総称する)及びカメラセンサ33a,33b(以下、特に区別を要しない場合、カメラセンサ33と総称する)を有している。測距センサ31は、例えばLiDAR(Light Detection And Ranging)であってよいが、そのほか、レーダセンサ又は超音波センサであってもよい。カメラセンサ33は、CCD又はCMOS等の撮像素子を備え、撮像データを生成する。
 図2及び図3に示した計測装置10では、測距センサ31a,31bは、それぞれ計測範囲の中心を計測装置10の左右前方に向けて設置されている。測距センサ31a,31bは、主として計測装置10の左右の物体等の検出対象を検知可能に設置されている。また、カメラセンサ33a,33bは、それぞれ撮像範囲の中心を計測装置10の前方に向けて設置されている。カメラセンサ33a,33bは、計測装置10の前方を広く撮像可能に設置されている。
 制御装置50は、計測装置10を自動で移動させる機能及び撮像装置21を制御する機能を有する一つ又は複数のプロセッサと、当該一つ又は複数のプロセッサと通信可能に接続された一つ又は複数の記憶装置とを備える。また、制御装置50は、情報処理装置100と通信するための通信インタフェースを備える。制御装置50は、計測装置10に備えられた各種センサ及び電子制御機器と通信可能に接続されている。
 <1-2.制御装置>
 続いて、計測装置10に備えられた制御装置50を詳しく説明する。
 (1-2-1.制御装置の構成)
 図4は、計測システム1の構成例を示すブロック図である。
 制御装置50は、処理部51、記憶部53及び通信部57を備えている。処理部51は、CPU(Central Processing Unit)又はGPU(Graphics Processing Unit)等の一つ又は複数のプロセッサや種々の周辺部品を備えて構成される。処理部51の一部又は全部は、ファームウェア等の更新可能なもので構成されてもよく、また、CPU等からの指令によって実行されるプログラムモジュール等であってもよい。
 処理部51は、一つ又は複数のプロセッサがコンピュータプログラムを実行することで以下に説明する機能を実現する装置として機能する。当該コンピュータプログラムは、処理部51が実行すべき後述する動作をプロセッサに実行させるためのコンピュータプログラムである。プロセッサにより実行されるコンピュータプログラムは、制御装置50に備えられた記憶部(メモリ)53として機能する記録媒体に記録されていてもよく、処理部51に内蔵された記録媒体又は制御装置50に外付け可能な任意の記録媒体に記録されていてもよい。
 コンピュータプログラムを記録する記録媒体としては、ハードディスク、フロッピーディスク及び磁気テープ等の磁気媒体、CD-ROM、DVD、及びBlu-ray(登録商標)等の光記録媒体、フロプティカルディスク等の磁気光媒体、RAM及びROM等の記憶素子、並びにUSBメモリ及びSSD等のフラッシュメモリ、その他のプログラムを格納可能な媒体であってよい。
 処理部51には、駆動力源15、操舵装置17、撮像装置21、照射ランプ25、測距センサ31、カメラセンサ33、車輪速センサ41、入力部81及び通知部83が通信可能に接続されている。
 入力部81は、ユーザによる入力操作を受け付ける部分である。入力部81は、例えばキーボード、マウス、タッチパッド及びマイクロフォンのうちの少なくとも一つを備えて構成される。ただし、入力部81の種類は特に限定されるものではない。
 通知部83は、ユーザに対して所定の通知を行う部分である。通知部83は、例えば表示装置及びスピーカのうちの少なくとも一つを備えて構成される。ただし、通知部83の種類は特に限定されるものではない。
 記憶部53は、処理部51と通信可能に接続された一つ又は複数のRAM又はROM等の記憶素子により構成される。ただし、記憶部53の種類や数は特に限定されない。記憶部53は、処理部51により実行されるコンピュータプログラムや、演算処理に用いられる種々のパラメータ、検出データ、演算結果等の情報を記憶する。記憶部53の一部は、ワーク領域として用いられる。
 通信部57は、処理部51が情報処理装置100との間で通信を行うためのインタフェースである。通信部57は、例えば移動体通信を介して情報処理装置100と通信を行うためのインタフェースであってよいが、情報処理装置100との通信方式は特に限定されるものではない。
 また、制御装置50は、処理部51と通信可能に接続された加速度センサ43、角速度センサ45、GNSS(Global Navigation Satellite System)センサ47及び地図データ記憶部55を備えている。なお、加速度センサ43、角速度センサ45、GNSS(Global Navigation Satellite System)センサ47及び地図データ記憶部55のうちの一部又は全部は、制御装置50とは別に設けられていてもよい。
 加速度センサ43は、計測装置10の前後方向、左右方向及び高さ方向に沿った三軸方向それぞれの加速度に応じたセンサ信号を出力する。角速度センサ45は、計測装置10の前後方向、左右方向及び高さ方向に沿った三軸それぞれの軸周りの角速度に応じたセンサ信号を出力する。なお、加速度センサ43及び角速度センサ45は、IMUセンサ(慣性計測装置)として一体化されたセンサであってもよく、個別に設けられたセンサであってもよい。
 GNSSセンサ47は、GPS(Global Positioning System)衛星等の測位衛星からの衛星信号を受信し、衛星信号に含まれる計測装置10の位置情報を処理部51へ送信する。位置情報は、緯度及び経度の情報であってよい。なお、GNSSセンサ47は、GPS衛星以外の他の衛星システムからの衛星信号を受信可能に構成されていてもよい。
 地図データ記憶部55は、処理部51と通信可能に接続されたRAM又はROM等の記憶素子、あるいは、HDDやCD、DVD、SSD、USBフラッシュ、ストレージ装置等の記憶媒体により構成される。地図データ記憶部55に記憶される地図データは、緯度及び経度の情報に関連付けられており、処理部51は、GNSSセンサ35から送信される計測装置10の緯度及び経度の情報に基づいて地図データ上の計測装置10の位置を特定することができる。
 (1-2-2.処理部の構成)
 続いて、処理部51の構成を説明する。
 処理部51は、計測対象の撮像を開始する前に撮像装置21の撮像条件を設定する処理を実行する。また、処理部51は、撮像条件が適正であると判定された後に、撮像装置21により路面の撮像を開始し、撮像データを情報処理装置100へ送信する処理を実行する。
 処理部51は、取得部61、撮像条件設定部63、自律走行制御部65、自己位置推定部67及び撮像装置駆動部69を備えている。これらの各部は、一つ又は複数のプロセッサによるコンピュータプログラムの実行により実現される機能である。ただし、取得部61、撮像条件設定部63、自律走行制御部65、自己位置推定部67及び撮像装置駆動部69の一部又は全部が、アナログ回路を用いて構成されていてもよい。
 (1-2-2-1.取得部)
 取得部61は、撮像装置21により生成された路面撮像データを取得する。取得部61は、設定された時間間隔で撮像装置21により生成された路面撮像データを取得する。また、取得部61は、測距センサ31、カメラセンサ33、車輪速センサ41、加速度センサ43、角速度センサ45及びGNSSセンサ47それぞれから出力される検出データあるいはセンサ信号(以下、まとめて「検出情報」ともいう)を取得する。取得部61は、所定の演算周期ごとにそれぞれのセンサから出力される検出情報を取得する。
 (1-2-2-2.撮像条件設定部)
 撮像条件設定部63は、撮像装置21の作動条件としての撮像条件を設定する。具体的に、撮像条件設定部63は、撮像装置21の移動速度、すなわち、計測装置10の移動速度を設定する。また、撮像条件設定部63は、撮像装置21の絞り(F値)、シャッター速度及びISO感度を設定する。
   (撮像条件設定処理)
 図5~図6は、撮像条件設定部63による撮像条件設定処理のフローチャートを示す。
 本実施形態において、撮像条件設定部63は、撮像装置21の撮像条件の設定情報を取得する(ステップS11)。撮像条件の設定情報は、例えば撮像装置21の移動速度、及び、撮像装置21の絞り(F値)、シャッター速度並びにISO感度を設定するためのパラメータの情報であってよい。撮像条件の設定情報は、任意の組み合わせのパターンを設定した撮像条件のリストとしてあらかじめ記憶部53に格納され、撮像条件設定部63は、撮像条件のリストのなかからいずれかの撮像条件を取得する。
 図7は、撮像条件のリストの例を示す説明図である。
 それぞれの撮像条件(1,2・・・N)は、撮像装置21のF値、シャッター速度及びISO感度の設定値の情報を含む。また、それぞれの撮像条件(1,2・・・N)は、それぞれの撮像装置21a~21fの設置位置(x_α,y_α:α=1,2・・・N)及び回転角(θ_α,ψ_α,ε_α:α=1,2・・・N)の情報を含む。また、それぞれの撮像条件(1,2・・・N)は、撮像装置21の移動速度の情報を含む。
 撮像装置21のF値、シャッター速度及びISO感度の設定値は、撮像装置21の諸元等に基づいて設定可能な組み合わせとして複数設定されている。
 それぞれの撮像装置21の設置位置(x_α,y_α:α=1,2・・・N)は、計測装置10内に任意に設定される基準位置(x,y,z)に対する相対位置を示す。設置位置(x_α,y_α:α=1,2・・・N)は、例えば基準位置(x,y,z)を原点とし、計測装置10の左右方向をx軸及び前後方向をy軸とするxyz座標(以下、「装置座標系」ともいう)上の位置を示す。基準位置(x,y,z)は、例えば計測装置10の重心の位置であってもよく、複数の撮像装置21a~21fのうちのいずれかの撮像装置21の基準位置であってもよい。
 なお、本実施形態では、すべての撮像装置21の装置座標系上のz座標(高さ)が所定の基準距離で統一されていることから、撮像装置21の設置位置の情報にz座標の情報は含まれていない。撮像装置21の高さが異なる場合には、撮像装置21の設置位置の情報が、z座標の情報を含んでいてもよい。
 それぞれの撮像装置21の回転角(θ_α,ψ_α,ε_α:α=1,2・・・M)は、それぞれの撮像装置21の設置位置において、上記の装置座標系の三軸の軸周りの回転角を示す。
 撮像装置21の移動速度は、それぞれの撮像装置21により撮像される路面撮像データのピクセルサイズに対応する路面の長さと、撮像装置21による撮像の時間間隔とに基づいて、時系列で取得される路面撮像データの撮像範囲が一部重なる移動速度に設定されている。
 撮像条件設定部63は、撮像条件のリストのなかから、あらかじめ設定された優先順位にしたがっていずれかの撮像条件を設定してもよく、ランダムにいずれかの撮像条件を取得してもよく、所定の順序にしたがっていずれかの撮像条件を取得してもよい。
 図5に戻り、次いで、撮像条件設定部63は、取得した撮像条件の設定情報に応じて計測装置10の設定を行う(ステップS13)。ユーザは、取得した撮像条件のうちの一部又は全部を手動で設定してもよい。例えばユーザは、それぞれの撮像装置21を支持し、装置座標系上での撮像装置21の位置、及び、装置座標系の三軸の軸周りの回転角を計測可能なデジタル計の計測値を確認しながら、撮像装置21の設置位置及び回転角を調節してもよい。ユーザは、その他、撮像装置21のF値、シャッター速度及びISO感度のうちの一部又は全部を手動で調節してもよい。
 次いで、撮像条件設定部63は、撮像装置21による撮像対象領域を設定する(ステップS15)。撮像対象領域は、撮像条件の設定のための路面撮像データImg_αを取得するために設定される領域であり、撮像データに特徴量の大きい特徴点が現れ得る領域が設定される。撮像対象領域は、ユーザが選択した領域であってもよく、事前に撮像したサンプル画像を用いて特徴量の大きい特徴点が現れる領域を撮像条件設定部63が判定して決定された領域であってもよい。
 次いで、撮像条件設定部63は、設定した撮像対象領域が、計測装置10の現在の位置から離れた領域であるか否かを判定する(ステップS17)。例えば撮像条件設定部63は、GNSSセンサ47から出力される計測装置10の位置情報が示す位置座標が撮像対象領域内に位置しない場合に、設定した撮像対象領域が、計測装置10の現在の位置から離れた領域であると判定してもよい。なお、撮像条件設定部63は、ユーザの入力に基づいて、撮像対象領域が計測装置10の現在の位置から離れた領域であると判定してもよい。
 撮像条件設定部63は、設定した撮像対象領域が、計測装置10の現在の位置から離れた領域であると判定しない場合(S17/No)、ステップS21へ進む。一方、撮像条件設定部63は、設定した撮像対象領域が、計測装置10の現在の位置から離れた領域であると判定した場合(S17/Yes)、計測装置10を撮像対象領域まで移動させる(ステップS19)。撮像条件設定部63は、ユーザに対して、手動で計測装置10を撮像対象領域まで移動するように通知を行ってもよく、自律走行制御部65に対して、計測装置10を撮像対象領域まで移動させる指令を出力してもよい。
 次いで、撮像条件設定部63は、計測装置10が撮像対象領域に位置した状態で、路面撮像データImg_αの取得を開始させる(ステップS21)。これにより、自律走行制御部65は、設定された移動速度で、所定の移動経路に沿って計測装置10を移動させる。また、撮像装置駆動部69は、設定された照度で照射ランプ27を駆動するとともに、設定された撮像条件で撮像装置21を駆動し、路面撮像データImg_α(α=1,2・・・M)を取得する。
 次いで、撮像条件設定部63は、撮像条件の適正判定を要求する信号とともに、取得した路面撮像データImg_α(α=1,2・・・M)を情報処理装置100へ送信する(ステップS23)。撮像条件設定部63は、所定の時間間隔で路面撮像データImg_α(α=1,2・・・M)を情報処理装置100へ逐次送信してもよい。あるいは、撮像条件設定部63は、設定された撮像対象領域全体の撮像が完了した後に、すべての路面撮像データImg_α(α=1,2・・・M)を情報処理装置100へ送信してもよい。
 後述するように、撮像条件の判定を要求する信号とともに路面撮像データImg_α(α=1,2・・・M)を受信した情報処理装置100は、路面撮像データImg_α(α=1,2・・・M)に基づいて、設定された撮像条件が適正であるか否かを判定する処理を実行し、判定の結果を計測装置10の制御装置50へ返信する。
 次いで、撮像条件設定部63は、情報処理装置100から判定結果の情報を受信する(ステップS25)。次いで、撮像条件設定部63は、判定結果が「OK」であるか否かを判別する(ステップS27)。撮像条件設定部63は、判定結果が「OK」ではない場合(S27/No)、撮像条件のリストに設定された撮像条件をすべて確認済みであるか否かを判定する(ステップS31)。
 撮像条件設定部63は、撮像条件のリストに設定された撮像条件をすべて確認済みであると判定した場合(S31/Yes)、計測結果の精度あるいは信頼性が得られる撮像条件が見つからなかったため、通知部83を駆動することにより計測装置10による路面の計測(本計測)ができないことを通知する(ステップS33)。この場合、計測装置10に何らかの異常が発生しているおそれがあるため、ユーザは必要に応じて点検、修理、交換等の作業を行う等の対応をする。
 一方、撮像条件設定部63は、撮像条件のリストに設定された撮像条件をすべて確認済みであると判定しない場合(S31/No)、ステップS11に戻り、次の撮像条件を設定し、これまで説明した手順に沿って適正判定を実行する。
 そして、撮像条件設定部63は、判定結果が「OK」であると判定した場合(S29/Yes)、通知部83を駆動することにより、設定した撮像条件が適正であり、計測装置10による路面の計測(本計測)を開始してよいことを通知する(ステップS29)。これにより、ユーザは、計測対象の路面の計測作業を開始する。
 (1-2-2-3.自律走行制御部)
 自律走行制御部65は、計測装置10の自律走行を制御する。自律走行とは、制御装置50が検出情報に基づいて駆動力源15及び操舵装置17の駆動を制御することにより、計測装置10が所定の目標経路に沿って移動する走行状態をいう。
 本実施形態では、自律走行制御部65は、基本的にはGNSSセンサ47により検出される計測装置10の位置情報と、地図データ上に設定された計測経路の情報とに基づいて、計測装置10を計測経路に沿って移動させる。GNSSセンサ47が衛星信号を受信可能なエリアである限り、自律走行制御部65は、GNSSセンサ47により検出される位置情報を用いて計測装置10をあらかじめ設定された計測経路に沿って移動させることができる。
 ただし、トンネル内等の衛星信号が届かないエリアあるいは届きにくいエリアでは、GNSSセンサ47により検出される位置情報を用いることができない。このため、本実施形態では、そのようなエリアで路面計測が行われる場合、自律走行制御部65は、測距センサ31から出力される検出情報を優先的に用いて、測距センサ31により検出されるガイド情報に沿って計測装置10を移動させる。ガイド情報とは、例えば側壁や縁石、ガードレール等の道路に沿って設置された立体物であり、計測装置10を道路が延びる方向に沿って移動させる際の基準となり得る対象をいう。例えば自律走行制御部65は、そのようなガイド情報と計測装置10との間の距離を所定の設定距離に保ちながら計測装置10を道路に沿って移動させる処理を実行する。
 また、自律走行制御部65は、測距センサ31によりガイド情報の検出が途絶えた場合、カメラセンサ33から出力される撮像データを用いて、ガイド情報に沿って計測装置10を移動させる。つまり、例示した側壁や縁石、ガードレールは、一時的に途切れる場合があることから、そのような場面において、自律走行制御部65は、カメラセンサ33から出力される撮像データを用いて、ガイド情報に沿って計測装置10を移動させる。
 なお、本実施形態の計測装置10は、測距センサ31により計測される物体の検出精度及び物体までの距離の計測精度が、カメラセンサ33により計測される物体及び物体までの距離の計測精度よりも高いことを前提に構成されている。ただし、それぞれのセンサの計測精度に応じて、自律走行制御部65が用いるセンサの優先度が異なっていてもよい。また、自律走行制御部65は、測距センサ31又はカメラセンサ33を用いて検出されるガイド情報に沿って計測装置10を移動させることができなくなった場合、後述する自己位置推定部67により推定される計測装置10の位置(自己位置、オドメトリ情報)に基づいて、所定の進路に沿って計測装置10を移動させてもよい。
   (自律走行制御処理)
 図8は、自律走行制御部65による計測装置10の自律走行制御処理の一例を示すフローチャートである。
 自律走行制御部65は、計測経路の情報を取得する(ステップS41)。計測経路は、少なくとも計測開始位置及び計測終了位置の情報を含む。GNSSセンサ47から出力される位置情報を用いて計測装置10を自律走行させる場合、撮像条件設定部63は、例えば計測装置10の現在位置を計測開始位置とし、計測終了位置の情報を取得して、地図データを参照して計測開始位置から計測終了位置までの計測経路を道路に沿って設定する。
 また、測距センサ31あるいはカメラセンサ33により検出されるガイド情報(側壁等)を用いて計測装置10を自律走行させる場合、撮像条件設定部63は、計測装置10からガイド情報までの距離を設定する。当該距離は、計測装置10を自律走行させる際の走行位置の基準となる。計測経路を設定するための情報は、ユーザにより指定されたものであってよい。
 次いで、自律走行制御部65は、計測装置10の現在位置(x,y)及び移動方向の情報を取得する(ステップS43)。例えば自律走行制御部65は、GNSSセンサ47から出力される位置情報(緯度及び経度の情報)を取得する。自律走行制御部65は、測距センサ31又はカメラセンサ33を用いて計測装置10を自律走行させている場合、計測装置10からガイド情報までの距離の情報と、後述する自己位置推定部67により推定されるオドメトリ情報とに基づいて、所定の二次元座標系上での計測装置10の現在位置(x,y)の情報を取得してもよい。
 また、自律走行制御部65は、計測装置10の現在位置の情報と併せて、計測装置10の移動方向の情報を取得する。例えば自律走行制御部65は、前回の演算周期(t_n-1)での計測装置10の地図データ上の位置情報と今回の演算周期(t_n)での計測装置10の地図データ上の位置情報とを結んだベクトルの向きを移動方向とする。また、自律走行制御部65は、後述する自己位置推定部67により推定されるオドメトリ情報から計測装置10の移動方向の情報を取得してもよい。
 次いで、自律走行制御部65は、駆動力源15及び操舵装置17の駆動量を設定する(ステップS45)。例えば自律走行制御部65は、車輪速センサ41の検出情報に基づいて算出される計測装置10の移動速度が、撮像条件設定部63が設定した移動速度となるように、駆動力源15の駆動量を設定する。また、自律走行制御部65は、計測装置10の現在の移動方向の情報と計測経路の情報とに基づいて操舵角の変化の角速度(操舵角速度)を設定し、操舵角速度に応じて操舵装置17の駆動量を設定する。
 次いで、自律走行制御部65は、ステップS45で設定した駆動量にしたがって駆動力源15及び操舵装置17の駆動を制御する(ステップS47)。次いで、自律走行制御部65は、計測が終了したか否かを判定する(ステップS49)。例えば自律走行制御部65は、計測装置10が計測終了位置に到達したときに計測が終了したと判定する。この他、自律走行制御部65は、ユーザ等により非常停止操作が行われたときに計測が終了したと判定してもよい。
 自律走行制御部65は、計測が終了したと判定しない場合(S49/No)、ステップS43に戻って計測装置10の自律走行制御を継続する。一方、自律走行制御部65は、計測が終了したと判定した場合(S49/Yes)、自律走行制御処理を終了する。
 なお、ユーザが手動で計測装置10を移動させて路面の計測を行う場合、自律走行制御部65は省略される。
 (1-2-2-4.自己位置推定部)
 自己位置推定部67は、所定の三次元座標系上での計測装置10の位置(以下、「自己位置」ともいう)を含むオドメトリ情報を推定する。例えば自己位置推定部67は、車輪速センサ41、加速度センサ43及び角速度センサ45により検出される計測装置10の移動速度、三軸方向の加速度及び三軸の軸周りの角速度の時系列データに基づいて、計測処理を開始するときの計測装置10の位置を基準とする計測装置10の位置(自己位置)の変化を算出する。
 計測装置10の位置は、例えば計測処理の開始位置を原点とする所定の三次元座標系上での計測装置10の位置を示す。計測装置10の位置は、計測装置10内に任意に設定される基準位置(x,y,z)の位置であってよく、例えば計測装置10の重心の位置であってもよく、複数の撮像装置21a~21fのうちのいずれかの撮像装置21の基準位置であってもよい。
   (自己位置推定処理)
 図10は、自己位置推定部67による自己位置推定処理のフローチャートを示す。
 自己位置推定部67は、開始位置を記録する(ステップS51)。開始位置は、計測装置10の位置を算出する際の基準となる位置である。例えば自己位置推定部67は、計測処理の開始時の計測装置10の基準位置(x,y,z)の位置座標を開始位置として記録する。なお、記録される基準位置は、具体的な緯度及び経度の情報により特定される必要はなく、任意の三次元座標の任意の点(例えば三次元座標系の原点)として記録されてよい。
 ただし、自己位置推定部67は、GNSSセンサ47から出力される地図データ上の位置情報をさらに考慮してオドメトリ情報を推定する場合、計測装置10の基準位置(x,y)の緯度及び経度の情報を開始位置のx座標及びy座標として記録してもよい。
 次いで、自己位置推定部67は、車輪速センサ41、加速度センサ43及び角速度センサ45の検出情報を取得する(ステップS53)。加速度センサ43の検出情報は、計測装置10の前後方向、左右方向及び高さ方向それぞれに沿った三軸方向の加速度を示す情報を含む。また、角速度センサ45の検出情報は、計測装置10の前後方向、左右方向及び高さ方向それぞれに沿った三軸の軸周りの角速度を示す情報を含む。
 次いで、自己位置推定部67は、今回の演算周期で取得した車輪速センサ41、加速度センサ43及び角速度センサ45の検出情報から得られる加速度及び角速度の情報と、前回の演算周期で算出された計測装置10の位置の情報とに基づいて、計測装置10の位置を含むオドメトリ情報を演算する(ステップS55)。例えば自己位置推定部67は、ステップS51で記録した開始位置を原点とする三次元座標上における計測装置10の位置座標を算出する。
 自己位置推定部67は、測距センサ31及びカメラセンサ33のうちの少なくとも一方の計測データに基づいて計測装置10の位置及び向きを補正してもよい。例えば自己位置推定部67は、測距センサ31又はカメラセンサ33により検出される静止している物体と計測装置10との間の距離及び計測装置10から見た静止している物体が存在している位置(方向)の時間変化に基づいて、計測装置10の位置を補正してもよい。
 さらに、自己位置推定部67は、GNSSセンサ47から出力される位置情報に基づいて計測装置10の位置を補正してもよい。例えば自己位置推定部67は、GNSSセンサ47から出力される位置情報の時間変化に基づいて、計測装置10の位置を補正してもよい。
 次いで、自己位置推定部67は、今回の演算周期(t_n)で算出した計測装置10の位置(自己位置の位置座標)P_n(x_n,y_n)のデータを記憶部53に記録する(ステップS57)。
 次いで、自己位置推定部67は、計測が終了したか否かを判定する(ステップS59)。例えば自己位置推定部67は、計測装置10が計測終了位置に到達したときに計測が終了したと判定する。この他、自己位置推定部67は、ユーザ等により非常停止操作が行われたときに計測が終了したと判定してもよい。
 自己位置推定部67は、計測が終了したと判定しない場合(S59/No)、ステップS53に戻って計測装置10の自己位置推定処理を継続する。一方、自己位置推定部67は、計測が終了したと判定した場合(S59/Yes)、自己位置推定処理を終了する。
 なお、自己位置推定部67は、自律走行制御部65による駆動力源15及び操舵装置17の駆動量をさらに考慮してオドメトリ情報を推定してもよく、GNSSセンサ47から出力される計測装置10の位置情報の変化をさらに考慮してオドメトリ情報を推定してもよい。
 (1-2-2-5.撮像装置駆動部)
 撮像装置駆動部69は、撮像装置21の駆動を制御する。撮像装置駆動部69は、撮像条件設定部63により設定され、適正と判定された撮像条件(絞り(F値)、シャッター速度及びISO感度)にしたがって撮像装置21による撮像を制御する。
   (撮像装置駆動処理)
 図9は、撮像装置駆動部69による撮像装置駆動処理のフローチャートを示す。
 撮像装置駆動部69は、撮像条件設定部63により設定された撮像条件(絞り(F値)、シャッター速度及びISO感度)を取得する(ステップS61)。次いで、撮像装置駆動部69は、撮像装置21の駆動を制御する(ステップS63)。例えば撮像装置駆動部69は、自律走行制御部65による計測装置10の自律走行制御の実行中に、設定された撮像条件で撮像装置21の駆動を制御し、計測対象の路面を撮像する処理を実行する。
 次いで、撮像装置駆動部69は、撮像装置21により生成された路面撮像データImg_αを、撮像装置21の番号α(α=1,2・・・M)の情報とともに記憶部53に保存する(ステップS65)。次いで、撮像装置駆動部69は、計測が終了したか否かを判定する(ステップS67)。例えば撮像装置駆動部69は、自律走行制御が終了したときに計測が終了したと判定する。この他、撮像装置駆動部69は、ユーザ等により非常停止操作が行われたときに計測が終了したと判定してもよい。
 撮像装置駆動部69は、計測が終了したと判定しない場合(S67/No)、ステップS63に戻って撮像装置21の駆動を継続する。一方、撮像装置駆動部69は、計測が終了したと判定した場合(S67/Yes)、撮像装置駆動処理を終了する。
 <1-3.情報処理装置>
 続いて、情報処理装置100を詳しく説明する。
 (1-3-1.情報処理装置の構成)
 図4に示したように、情報処理装置100は、通信部101、データ処理部103及び記憶部105を備えている。通信部101は、データ処理部103が制御装置50との間で通信を行うためのインタフェースである。通信部101は、例えば移動体通信を介して制御装置50と通信を行うためのインタフェースであってよいが、制御装置50との通信方式は特に限定されるものではない。
 データ処理部103は、CPU(Central Processing Unit)又はGPU(Graphics Processing Unit)等の一つ又は複数のプロセッサや種々の周辺部品を備えて構成される。処理部51の一部又は全部は、ファームウェア等の更新可能なもので構成されてもよく、また、CPU等からの指令によって実行されるプログラムモジュール等であってもよい。
 データ処理部103は、一つ又は複数のプロセッサがコンピュータプログラムを実行することで以下に説明する機能を実現する装置として機能する。当該コンピュータプログラムは、データ処理部103が実行すべき後述する動作をプロセッサに実行させるためのコンピュータプログラムである。プロセッサにより実行されるコンピュータプログラムは、情報処理装置100に備えられた記憶部(メモリ)105として機能する記録媒体に記録されていてもよく、データ処理部103に内蔵された記録媒体又は情報処理装置100に外付け可能な任意の記録媒体に記録されていてもよい。
 コンピュータプログラムを記録する記録媒体としては、ハードディスク、フロッピーディスク及び磁気テープ等の磁気媒体、CD-ROM、DVD、及びBlu-ray(登録商標)等の光記録媒体、フロプティカルディスク等の磁気光媒体、RAM及びROM等の記憶素子、並びにUSBメモリ及びSSD等のフラッシュメモリ、その他のプログラムを格納可能な媒体であってよい。
 記憶部105は、データ処理部103と通信可能に接続された一つ又は複数のRAM又はROM等の記憶素子あるいはHDD又はSSD等の記憶媒体により構成される。ただし、記憶部105の種類や数は特に限定されない。記憶部105は、データ処理部103により実行されるコンピュータプログラムや、演算処理に用いられる種々のパラメータ、検出データ、演算結果等の情報を記憶する。記憶部105の一部は、ワーク領域として用いられる。
 (1-3-2.データ処理部)
 データ処理部103は、路面撮像データImg_αとともに撮像条件の適正判定を要求する信号を受信した場合、路面撮像データImg_αを用いて撮像条件が適正か否かを判定する適正判定処理を実行する。データ処理部103は、撮像条件の設定のために設定された撮像対象領域の路面撮像データImg_αを用いて撮像条件が適正か否かの判定を行う。
 また、データ処理部103は、路面撮像データImg_αとともに撮像条件の適正判定を要求する信号を受信しない場合、受信した路面撮像データImg_α(α=1,2・・・M)から特徴点を抽出するとともに、SfM処理を用いて特徴点をマッチングし、路面撮像データImg_α(α=1,2・・・M)を位置合わせする。また、データ処理部103は、位置合わせをした路面撮像データImg_α(α=1,2・・・M)に、特徴点として現れた路面の凹凸状態を示すデータを反映した三次元の路面モデルを生成する。
   (適正判定処理)
 図11は、データ処理部103による適正判定処理のフローチャートを示す。
 データ処理部103は、撮像条件の適正判定を要求する信号とともに路面撮像データImg_α(α=1,2・・・M)を受信する(ステップS71)。次いで、データ処理部103は、取得した路面撮像データImg_α(α=1,2・・・M)を用いて特徴点マッチング処理を実行する(ステップS73)。本実施形態では、データ処理部103は、適正判定処理を実行する場合、それぞれの路面撮像データImg_α(α=1,2・・・M)から抽出される特徴点のうち、特徴量が大きい順に所定数の特徴点を選択し、路面撮像データImg_α(α=1,2・・・M)で選択した特徴点をマッチングする第1の特徴点マッチング処理を実行する。
 図12は、第1の特徴点マッチング処理のフローチャートを示す。
 データ処理部103は、受信したそれぞれの路面撮像データImg_α(α=1,2・・・M)から特徴点を抽出する(ステップS91)。特徴点は、例えば路面撮像データImg_α(α=1,2・・・M)において、隣り合うピクセル間の輝度の変化量(特徴量)が所定の閾値以上となる点であってよいが、他の特徴量を用いてもよい。撮像データから特徴点を抽出する方法は従来公知の方法であってよいため、詳しい説明は省略する。
 図13及び図14は、すべての路面撮像データImg_α(α=1,2・・・M)から抽出した特徴点のリスト及び特徴量の大きい順に特徴点をソート(並べ替え)したリストの例を示す。それぞれの特徴点の情報は、当該特徴点を含む路面撮像データImg_α(α=1,2・・・M)を撮像した撮像装置21の番号(1,2・・・M)、画像名、特徴点の位置(x,y)及び特徴量(輝度変化量)の情報を含む。
 特徴点の位置(x,y)は、それぞれの路面撮像データImg_α(α=1,2・・・M)中の特徴点の位置を示す。例えばデータ処理部103は、路面撮像データImg_αの横方向をx軸、縦方向をy軸として、特徴点に相当する画素の位置を特徴点の位置(x,y)とする。
 図12に戻り、データ処理部103は、抽出した特徴点のなかから、特徴量が大きい順に、あらかじめ設定した数の特徴点を選択する(ステップS93)。選択する特徴点の数は、任意に設定されてよいが、設定した撮像条件が適正か否かを判断するために適切な数に設定される。例えば選択する特徴点の数は、抽出した特徴点のうちの特徴量が大きい方から3分の1の数等の割合によって設定されていてもよい。
 次いで、データ処理部103は、選択した特徴点を用いて路面撮像データImg_α(α=1,2・・・M)間で特徴点をマッチングする処理を実行する(ステップS95)。つまり、データ処理部103は、撮像条件が適正か否かを判定するにあたって、路面撮像データImg_α(α=1,2・・・M)から抽出されるすべての特徴点を用いて特徴点マッチング処理を行うのではなく、特徴量の大きい特徴点のみを用いた簡易な特徴点マッチング処理を実行する。撮像データ間で特徴点をマッチングする処理は、従来公知の手法により実行されてよいため、詳しい説明は省略する。
 図11に戻り、データ処理部103は、特徴点マッチング処理の結果と、それぞれの撮像装置21間の距離の情報とに基づいて視差値を算出し、視差マップを構築する(ステップS75)。例えばデータ処理部103は、特徴点マッチング処理の結果、隣り合う撮像装置21により生成された路面撮像データImg_α(α=1,2・・・M)中に共通の特徴点が含まれる場合、それぞれの路面撮像データImg_α(α=1,2・・・M)内での特徴点の位置の差(距離)の値(視差値)を算出する。
 データ処理部103は、抽出した特徴点のすべてについてそれぞれの路面撮像データImg_α(α=1,2・・・M)間での視差値を算出する。データ処理部103は、特徴点マッチング処理により位置合わせした路面撮像データImg_α(α=1,2・・・M)を合成した合成データ上の各特徴点に対して、算出した視差値の情報を反映させた視差マップを構築する。
 次いで、データ処理部103は、算出した視差値を、路面と撮像装置21との間の距離の値に変換した距離マップを生成する(ステップS77)。具体的に、データ処理部103は、下記式(1)を用いて、視差値dを、路面から撮像装置21までの距離(推定距離)Zの値に変換する。
  Z=f×b/d  …(1)
 Z:路面から撮像装置21までの距離
 f:撮像装置21の焦点距離f
 b:隣り合う撮像装置21間の距離
 d:視差値
 路面から撮像装置21までの距離Zは、路面から撮像装置21までの最短距離である。具体的に、路面から撮像装置21までの距離Zは、路面から撮像装置21のレンズの中心までの距離に相当する。
 次いで、データ処理部103は、算出した距離Zの値と、計測装置10の諸元の距離の値との差が所定の閾値以内であるか否かを判定する(ステップS79)。計測装置10の諸元の距離とは、計測装置10における撮像装置21の設置位置の高さに基づいて求められる、撮像装置21のレンズの中心から、計測装置10の車輪13の接地面までの、装置座標系のz軸方向の距離である。当該諸元の距離の情報は、あらかじめ記憶部53に記録されている。また、所定の閾値は、計測対象面に想定し得る凹凸の大きさに基づいて設定される値であってよい。
 データ処理部103は、算出した距離Zの値と、計測装置10の諸元の距離の値との差が所定の閾値以内であると判定しない場合(S79/No)、判定結果を「NG」とし、当該判定結果を制御装置50へ送信する(ステップS83)。算出した距離Zの値と、計測装置10の諸元の距離の値との差が所定の閾値を超えている場合、設定した撮像条件は適正でないと考えられる。
 一方、データ処理部103は、算出した距離Zの値と、計測装置10の諸元の距離の値との差が所定の閾値以内であると判定した場合(S79/Yes)、判定結果を「OK」とし、当該判定結果を制御装置50へ送信する(ステップS81)。データ処理部103は、ステップS81又はステップS83において判定結果を制御装置50に送信することにより、適正判定処理を終了する。
   (モデル生成処理)
 図15は、データ処理部103によるモデル生成処理のフローチャートを示す。なお、以下に示すフローチャートは、制御装置50が所定の演算周期ごとに撮像装置21により撮像した路面撮像データImg_αを情報処理装置100へ逐次送信する例を示す。
 データ処理部103は、制御装置50から送信された路面撮像データImg_α_n(α=1,2・・・M)を取得する(ステップS101)。本実施形態の計測システム1で用いる計測装置10は、6台の撮像装置21a~21fを備えており、データ処理部103は、今回の演算周期(t_n)においてそれぞれの撮像装置21a~21fが生成した路面撮像データImg_α_n(α=1,2・・・6)を取得する。データ処理部103は、取得した路面撮像データImg_α_n(α=1,2・・・6)を記憶部105へ保存する。
 次いで、データ処理部103は、取得した路面撮像データImg_α_n(α=1,2・・・M)から特徴点を抽出する(ステップS103)。特徴点は、路面撮像データImg_α_nの隣り合うピクセル間の輝度の変化量(特徴量)が所定の閾値以上となる点であってよいが、他の特徴量を用いてもよい。撮像データから特徴点を抽出する方法は従来公知の方法であってよいため、詳しい説明は省略する。
 次いで、データ処理部103は、抽出した特徴点を路面撮像データImg_α(α=1,2・・・M)間でマッチングする処理を実行する(ステップS105)。当該マッチング処理は、今回の演算周期(t_n)において取得した路面撮像データImg_α_n(α=1,2・・・M)間での特徴点のマッチングだけでなく、記憶部105に保存されている前回以前の演算周期において取得した路面撮像データImg_α(α=1,2・・・M)間での特徴点のマッチングを含む。撮像データ間で特徴点をマッチングする処理は、従来公知の手法により実行されてよいため、詳しい説明は省略する。
 次いで、データ処理部103は、特徴点マッチング処理により位置合わせした路面撮像データImg_α(α=1,2・・・M)を用いて、三角測量の原理により復元された三次元点群データを構築し、路面モデルを生成する(ステップS107)。本実施形態において、データ処理部103は、MVS(Multi-View Stereo)処理により三次元点群データを構築し、路面モデルを生成する。ただし、三次元点群データにより構成される路面モデルを生成する手法は特に限定されるものではない。
 次いで、データ処理部103は、モデル生成処理を終了するか否かを判定する(ステップS109)。例えばデータ処理部103は、制御装置50からの路面撮像データImg_αの送信がなくなってから所定時間経過したときにモデル生成処理を終了すると判定してもよい。この他、データ処理部103は、制御装置50から計測終了を示す信号が送信されたときにモデル生成処理を終了すると判定してもよい。
 データ処理部103は、モデル生成処理を終了すると判定しない場合(S109/No)、ステップS101に戻ってモデル生成処理を継続する。一方、データ処理部103は、モデル生成処理を終了すると判定した場合(S109/Yes)、モデル生成処理を終了する。
 以上説明したように、本実施形態に係る計測システム1は、路面モデルを生成するための路面撮像データを得るために、撮像装置を搭載した計測装置10をガイド情報に基づいて計測経路に沿って自律走行させながら路面を撮影することができる。また、計測システム1は、計測装置10により本計測を開始する前に、計測対象の路面に設定された撮影対象領域を撮像した撮像データを用いて、路面モデルの生成に適した撮像データを得るための撮像装置の撮像条件の適正判定を、簡易な方法により実行することができる。したがって、路面モデルを実際に生成する前に、適正な撮影条件を判定することができる。
 また、本実施形態に係る計測システム1は、適正判定処理を実行する際の特徴点マッチング処理において、撮像データから抽出される特徴点のうち、特徴量が大きい順に所定数の特徴点を選択し、選択した特徴点をマッチングする。したがって、すべての特徴点を用いずに特徴量の大きい一部の特徴点を用いた特徴点マッチングが可能となり、簡易な方法で撮像条件の適正判定を実行することができる。
 また、本実施形態に係る計測システム1は、情報処理装置100が撮像条件が適正でないことを示す適正判定の結果を制御装置へ送信した場合、制御装置50は、撮像条件を自動で変更して再度撮影を行い、撮像データを情報処理装置100へ送信する。したがって、適正な撮像条件が見つかるまで、制御装置50により撮像条件の設定の変更を自動で行うことができる。
<<2.第2の実施の形態>>
 続いて、本開示の第2の実施の形態に係る計測システムを説明する。
 第2の実施の形態に係る計測システムは、情報処理装置100のデータ処理部103により実行される適正判定処理が第1の実施の形態に係る計測システムの場合と異なっている。
 図16は、本実施形態に係る情報処理装置のデータ処理部による適正判定処理のフローチャートを示す。
 データ処理部103は、撮像条件の適正判定を要求する信号とともに路面撮像データImg_α(α=1,2・・・M)を受信する(ステップS71)。次いで、データ処理部103は、取得した路面撮像データImg_α(α=1,2・・・M)を用いて特徴点マッチング処理を実行する(ステップS73)。本実施形態では、データ処理部103は、適正判定処理を実行する場合、取得した路面撮像データImg_α(α=1,2・・・M)の画像解像度を変更し、路面撮像データImg_α(α=1,2・・・M)から抽出される特徴点をマッチングする第2の特徴点マッチング処理を実行する。
 つまり、路面撮像データImg_α(α=1,2・・・M)の画像解像度によっても特徴点の現れ方やマッチング精度が異なることから、データ処理部103は、撮像条件が適正か否かを判定するにあたって、路面撮像データImg_α(α=1,2・・・M)を調節して特徴点マッチング処理を実行する。
 図17は、第2の特徴点マッチング処理のフローチャートを示す。
 データ処理部103は、取得した路面撮像データImg_α(α=1,2・・・M)の画像解像度を設定する(ステップS111)。例えば画像解像度は、1/16、1/8、1/4及び1/2の四段階で設定可能であり、データ処理部103は、いずれかの画像解像度に設定する。
 次いで、データ処理部103は、画像解像度を変更したそれぞれの路面撮像データImg_α(α=1,2・・・M)から特徴点を抽出する(ステップS113)。特徴点は、例えば路面撮像データImg_α(α=1,2・・・M)において、隣り合うピクセル間の輝度の変化量(特徴量)が所定の閾値以上となる点であってよいが、他の特徴量を用いてもよい。撮像データから特徴点を抽出する方法は従来公知の方法であってよいため、詳しい説明は省略する。
 次いで、データ処理部113は、路面撮像データImg_α(α=1,2・・・M)間で特徴点をマッチングする処理を実行する(ステップS115)。撮像データ間で特徴点をマッチングする処理は、従来公知の手法により実行されてよいため、詳しい説明は省略する。
 図16に戻り、第1の実施の形態において説明したステップS75~ステップS79と同様の手順で、視差マップの構築、及び、距離マップの生成を順次実行し、算出した距離Zの値と計測装置10の諸元の距離の値との差が所定の閾値以内であるか否かを判定する(ステップS75~ステップS79)。
 データ処理部103は、算出した距離Zの値と、計測装置10の諸元の距離の値との差が所定の閾値以内であると判定しない場合(S79/No)、設定可能な画像解像度をすべて確認済みであるか否かを判定する(ステップS85)。上述した例では、データ処理部103は、1/16、1/8、1/4及び1/2の四段階で設定可能な画像解像度のすべてについて適正さを確認済みであるか否かを判定する。
 データ処理部103は、設定可能な画像解像度をすべて確認済みであると判定しない場合(S85/No)、ステップS73に戻り、未設定の画像解像度のなかからいずれかの画像解像度を設定し、これまで説明した手順に沿って適正判定を実行する。算出した距離Zの値と、計測装置10の諸元の距離の値との差が所定の閾値を超えている場合、設定した画像解像度は適正でないと考えられるため、データ処理部103は、撮像条件を変更する前に画像解像度の調節を試みる。
 一方、データ処理部103は、設定可能な画像解像度をすべて確認済みであると判定した場合(S85/Yes)、判定結果を「NG」とし、当該判定結果を制御装置50へ送信する(ステップS83)。画像解像度の設定を変更した場合であっても、算出した距離Zの値と、計測装置10の諸元の距離の値との差が所定の閾値を超えている場合、設定した撮像条件は適正でないと考えられる。
 一方、データ処理部103は、算出した距離Zの値と、計測装置10の諸元の距離の値との差が所定の閾値以内であると判定した場合(S79/Yes)、判定結果を「OK」とし、判定結果が「OK」となったときの画像解像度の情報とともに当該判定結果を制御装置50へ送信する(ステップS87)。制御装置50は、設定されていた撮像条件を維持するとともに、生成する路面撮像データImg_αの画像解像度を、情報処理装置100から受信した画像解像度に設定する。
 データ処理部103は、ステップS87又はステップS83において判定結果を制御装置50に送信することにより、適正判定処理を終了する。
 本実施形態に係る計測システムのその他の構成は、第1の実施の形態に係る計測システム1の構成と同様に構成されてよいため、詳しい説明は省略する。
 以上説明したように、本実施形態に係る計測システム1によれば、情報処理装置100は、撮像条件が適正でない場合、撮像条件を変更させる前に、画像解像度を変更して撮像条件の適正判定を再実行する。このため、撮像条件の適正判定中に、設定された撮像条件を変更せずに計測対象の撮影環境に合わせた適切な撮像条件を判定することができる。
 以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示はかかる例に限定されない。本開示の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
 例えば上記実施形態では、撮像条件として、撮像装置の移動速度、F値、シャッター速度及びISO感度を設定したが、撮像条件は上記の例に限定されない。例えば特徴点の現れ方や特徴点のマッチング精度は、画像の明るさによっても変わり得ることから、撮像条件が照明ランプの出力(照度あるいは明るさ)を含んでいてもよい。これにより、特徴点のマッチング精度をさらに高めることができる。
 また、上記実施形態の計測システムは、計測対象としての路面の凹凸状態の三次元モデルを生成する計測システムとして構成されていたが、計測対象は路面に限定されるものではなく、任意の計測対象であってよい。また、上記実施形態の計測システムで用いられる計測装置は、路面を走行可能な計測装置として構成されていたが、計測装置は、無人又は有人の飛行体として構成されていてもよい。この場合、計測装置は、三次元空間上の自己位置及び姿勢を特定することで、それぞれの撮像データの撮像範囲、撮像装置から計測対象までの距離等の計算が可能となり、本開示の技術を適用することができる。
 また、上記実施形態の計測システムは、主として撮像データを取得する計測装置と、主としてデータ処理を実行する情報処理装置とが通信可能に接続されて構成されていたが、本開示の技術は上記の例に限定されない。情報処理装置のデータ処理部の機能の一部が計測装置に備えられていてもよい。あるいは、情報処理装置が計測装置に搭載されるか、情報処理装置のデータ処理部の機能の全部が計測装置の制御装置に備えられ、計測装置のみにより計測システムが構成されていてもよい。
 また、本開示の技術は、上記計測システム1に適用される情報処理装置、上記の制御装置により実行される制御方法、上記の情報処理装置により実行される情報処理方法、コンピュータを上記の制御装置及び情報処理装置のうちの少なくとも一方として機能させるコンピュータプログラム、及び当該コンピュータプログラムを記録した非一時的な有形の記録媒体としても実現することができる。
1       :計測システム
10      :計測装置
13      :車輪
15      :駆動力源
17      :操舵装置
21      :撮像装置
23      :リフレクタ
25      :照射ランプ
27      :照射ランプ
31      :測距センサ
33      :カメラセンサ
35      :GNSSセンサ
41      :車輪速センサ
43      :加速度センサ
45      :角速度センサ
47      :GNSSセンサ
50      :制御装置
51      :処理部
53      :記憶部
55      :地図データ記憶部
57      :通信部
61      :取得部
63      :撮像条件設定部
65      :自律走行制御部
67      :自己位置推定部
69      :撮像装置駆動部
81      :入力部
83      :通知部
100     :情報処理装置
101     :通信部
103     :データ処理部
105     :記憶部
113     :データ処理部

Claims (7)

  1.  計測対象を撮像した複数の撮像データを合成し、前記計測対象のモデルのデータを生成する計測システムにおいて、
     前記計測対象を撮像し前記撮像データを生成する撮像装置と、
     前記撮像装置を制御する制御装置と、
     前記撮像装置により撮像された複数の前記撮像データを取得し、取得した前記複数の撮像データを合成して前記計測対象のモデルのデータを生成する情報処理装置と、を備え、
     前記制御装置は、
     前記撮像装置の作動条件としての所定の撮像条件を設定する撮像条件設定処理と、
     設定した前記撮像条件の下で前記計測対象に設定された所定の撮影対象領域を前記撮像装置により撮像した複数の前記撮像データを生成して前記情報処理装置へ送信する撮像装置駆動処理と、を実行し、
     前記情報処理装置は、
     前記制御装置から送信される前記複数の撮像データを取得し、取得した前記複数の撮像データからそれぞれ抽出される特徴点をマッチングする特徴点マッチング処理と、
     前記特徴点マッチング処理の結果に基づいて前記撮像装置と前記計測対象との間の推定距離を算出し、算出した前記推定距離と所定の基準距離とに基づいて前記撮像条件の適正判定を行う適正判定処理と、を実行する、
     計測システム。
  2.  前記情報処理装置は、
     前記特徴点マッチング処理において、それぞれの前記撮像データから抽出される特徴点のうち、特徴量が大きい順に所定数の前記特徴点を選択し、選択した前記特徴点をマッチングする、
     請求項1に記載の計測システム。
  3.  前記情報処理装置は、
     前記特徴点マッチング処理において、前記撮像データの画像解像度を調節して前記特徴点をマッチングする、
     請求項2に記載の計測システム。
  4.  前記情報処理装置は、前記適正判定処理の結果を前記制御装置へ送信し、
     前記制御装置は、前記情報処理装置から前記撮像条件が適正でないことを示す前記適正判定の結果を受信した場合、前記撮像条件の設定を変更して前記撮像装置により前記計測対象を撮影した複数の前記撮像データを生成して前記情報処理装置へ送信する、
     請求項1に記載の計測システム。
  5.  計測対象を撮像した複数の撮像データを合成し、前記計測対象のモデルのデータを生成する情報処理装置において、
     撮像装置の作動条件として設定される所定の撮像条件の下で前記計測対象に設定された所定の撮影対象領域を前記撮像装置により撮像した複数の撮像データを取得し、取得した前記複数の撮像データからそれぞれ抽出される特徴点をマッチングする特徴点マッチング処理と、
     前記特徴点マッチング処理の結果に基づいて前記撮像装置と前記計測対象との間の推定距離を算出し、算出した前記推定距離と所定の基準距離とに基づいて前記撮像条件の適正判定を行う適正判定処理と、
     を実行する、情報処理装置。
  6.  計測対象を撮像した複数の撮像データを合成し、前記計測対象のモデルのデータを生成する情報処理方法において、
     コンピュータが、
     撮像装置の作動条件として設定される所定の撮像条件の下で前記計測対象に設定された所定の撮影対象領域を前記撮像装置により撮像した複数の撮像データを取得し、取得した前記複数の撮像データからそれぞれ抽出される特徴点をマッチングすることと、
     前記特徴点マッチング処理の結果に基づいて前記撮像装置と前記計測対象との間の推定距離を算出し、算出した前記推定距離と所定の基準距離とに基づいて前記撮像条件の適正判定を行うことと、
     を含む処理を実行する、情報処理方法。
  7.  コンピュータに、
     撮像装置の作動条件として設定される所定の撮像条件の下で前記計測対象に設定された所定の撮影対象領域を前記撮像装置により撮像した複数の撮像データを取得することと、
     取得した前記複数の撮像データからそれぞれ抽出される特徴点をマッチングする特徴点マッチング処理と、
     前記特徴点マッチング処理の結果に基づいて前記撮像装置と前記計測対象との間の推定距離を算出し、算出した前記推定距離と所定の基準距離とに基づいて前記撮像条件の適正判定を行うことと、
     を含む処理を実行させるプログラムを記録した、非一時的な有形の記録媒体。
     
PCT/JP2023/013091 2023-03-30 2023-03-30 計測システム、情報処理装置、情報処理方法及び記録媒体 Ceased WO2024201869A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2025509475A JPWO2024201869A1 (ja) 2023-03-30 2023-03-30
PCT/JP2023/013091 WO2024201869A1 (ja) 2023-03-30 2023-03-30 計測システム、情報処理装置、情報処理方法及び記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2023/013091 WO2024201869A1 (ja) 2023-03-30 2023-03-30 計測システム、情報処理装置、情報処理方法及び記録媒体

Publications (1)

Publication Number Publication Date
WO2024201869A1 true WO2024201869A1 (ja) 2024-10-03

Family

ID=92903683

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2023/013091 Ceased WO2024201869A1 (ja) 2023-03-30 2023-03-30 計測システム、情報処理装置、情報処理方法及び記録媒体

Country Status (2)

Country Link
JP (1) JPWO2024201869A1 (ja)
WO (1) WO2024201869A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016081088A (ja) * 2014-10-09 2016-05-16 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
WO2021044564A1 (ja) * 2019-09-05 2021-03-11 三菱電機株式会社 前方監視装置及び前方監視装置のキャリブレーション方法
JP2022152480A (ja) * 2021-03-29 2022-10-12 キヤノン株式会社 3次元計測装置、3次元計測方法、プログラム、システム、及び物品の製造方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019164136A (ja) * 2018-03-19 2019-09-26 株式会社リコー 情報処理装置、撮像装置、移動体、画像処理システムおよび情報処理方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016081088A (ja) * 2014-10-09 2016-05-16 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
WO2021044564A1 (ja) * 2019-09-05 2021-03-11 三菱電機株式会社 前方監視装置及び前方監視装置のキャリブレーション方法
JP2022152480A (ja) * 2021-03-29 2022-10-12 キヤノン株式会社 3次元計測装置、3次元計測方法、プログラム、システム、及び物品の製造方法

Also Published As

Publication number Publication date
JPWO2024201869A1 (ja) 2024-10-03

Similar Documents

Publication Publication Date Title
CN109887057B (zh) 生成高精度地图的方法和装置
EP3507572B1 (en) Apparatus and method for providing vehicular positioning
US11023788B2 (en) Systems and methods for estimating future paths
JP5105596B2 (ja) 自律走行移動体の走行経路決定用地図作成装置及び走行経路決定用地図作成方法
KR102056147B1 (ko) 자율주행차량을 위한 거리 데이터와 3차원 스캔 데이터의 정합 방법 및 그 장치
US20180189599A1 (en) Information processing apparatus, information processing method, and computer program product
US10527423B1 (en) Fusion of vision and depth sensors for navigation in complex environments
US20210048312A1 (en) Electronic device for generating map data and operation method thereof
US10949981B2 (en) Position measuring method, position measuring apparatus, and position measuring system
KR20130002834A (ko) 자율 이동 방법 및 그 장치
JP2023000992A (ja) 移動体の移動経路生成方法及びプログラム、管理サーバ、管理システム
US20230176201A1 (en) Relative lidar alignment with limited overlap
US9933262B2 (en) Positioning system having a master-slave configuration
JP6570344B2 (ja) 経路生成方法とシステム
JP7441579B1 (ja) 情報処理システム及び情報処理方法
US20210041875A1 (en) Position attitude estimation apparatus and position attitude estimation method
JP2024142543A (ja) 計測システム及び情報処理装置
US20230147966A1 (en) Focal length validation using three-dimensional pose estimates
JP2026038395A (ja) 路面計測システム
JP2026038396A (ja) 路面計測システム
WO2024201868A1 (ja) 計測システム、計測装置、計測装置の制御方法及び記録媒体
JP2016014549A (ja) 車両位置算出装置
JP2023016686A (ja) 移動体の移動経路生成方法及びプログラム、管理サーバ、管理システム
EP4647800A1 (en) Augmented reality device calibration using distance measurements
US12561922B2 (en) Capture and display of point clouds using augmented reality device

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 23930507

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2025509475

Country of ref document: JP

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 2025509475

Country of ref document: JP

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 23930507

Country of ref document: EP

Kind code of ref document: A1