JP7206127B2 - IMAGE SENSOR INFORMATION CORRECTION METHOD AND MOVING OBJECT - Google Patents

IMAGE SENSOR INFORMATION CORRECTION METHOD AND MOVING OBJECT Download PDF

Info

Publication number
JP7206127B2
JP7206127B2 JP2019028257A JP2019028257A JP7206127B2 JP 7206127 B2 JP7206127 B2 JP 7206127B2 JP 2019028257 A JP2019028257 A JP 2019028257A JP 2019028257 A JP2019028257 A JP 2019028257A JP 7206127 B2 JP7206127 B2 JP 7206127B2
Authority
JP
Japan
Prior art keywords
image sensor
image
information
point distance
distance information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019028257A
Other languages
Japanese (ja)
Other versions
JP2020134319A (en
Inventor
弘隆 熊倉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
IHI Corp
IHI Aerospace Co Ltd
Original Assignee
IHI Corp
IHI Aerospace Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by IHI Corp, IHI Aerospace Co Ltd filed Critical IHI Corp
Priority to JP2019028257A priority Critical patent/JP7206127B2/en
Publication of JP2020134319A publication Critical patent/JP2020134319A/en
Application granted granted Critical
Publication of JP7206127B2 publication Critical patent/JP7206127B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Description

本発明は、移動体の周辺地図を作成する段階において、地面や障害物との距離を多点距離情報として取得する画像センサの情報補正方法及び画像センサを複数搭載した移動体に関するものである。 The present invention relates to an image sensor information correction method for acquiring distances to the ground and obstacles as multi-point distance information at the stage of creating a surrounding map of a mobile object, and to a mobile object equipped with a plurality of image sensors.

従来、周囲の多点距離情報を取得する画像センサを複数搭載した移動体としては、例えば、特許文献1に記載されたものがある。
この特許文献1に記載された移動体は、移動ロボットであって、レーザ光を走査して移動方向前方側の距離を計測する画像センサとしての2つのLRF(Laser Range Finder;レーザレンジファインダ)と、これらのLRFで取得した多数の距離情報を処理して3D地図を作成する処理部を備えている。
2. Description of the Related Art Conventionally, as a moving object equipped with a plurality of image sensors for obtaining multi-point distance information, there is one described in Patent Document 1, for example.
The moving body described in Patent Document 1 is a mobile robot, and includes two LRFs (Laser Range Finder) as image sensors that scan a laser beam to measure the distance on the front side in the moving direction. , and a processing unit that processes a large amount of distance information acquired by these LRFs to create a 3D map.

この場合、2つのLRFにはINS(Inertial Navigation System;慣性航法装置)が一体的に取り付けられており、処理部では、LRFで取得した多点距離情報に含まれる揺れによる移動量をINSの情報に基づいて補正して、補正後の各多点距離情報に基づいて3D地図を作成するようになっている。 In this case, the two LRFs are integrally equipped with an INS (Inertial Navigation System). , and a 3D map is created based on each multi-point distance information after correction.

特開2011-145156号公報JP 2011-145156 A

ここで、画像センサとしてのLRFを多数搭載する移動ロボット、例えば、多数のLRFを後付けしてロボット化したパワーショベル等の建設機械において、LRFで取得する多点情報に揺れの影響が及ばないように多数のLRFの全てを剛性高く取り付けることは実際問題として困難である。 Here, in a mobile robot equipped with a large number of LRFs as an image sensor, for example, a construction machine such as a power shovel that is robotized by retrofitting a large number of LRFs, it is necessary to prevent the multi-point information acquired by the LRFs from being affected by shaking. It is practically difficult to rigidly attach all of the large number of LRFs to the .

このため、正確な多点情報を取得するためには、多数のLRFの全てに上記したINSを一体で取り付けたり、近隣に配置されるLRF同士を高剛性の取り付け具を用いて連結したりする必要があるが、LRFの全てにINSを一体で取り付ける場合には、コストが嵩むのを避けることがでず、一方、近隣のLRF同士を高剛性の取り付け具で連結する場合には、重量増及び大型化を招いてしまうという問題があり、この問題を解決することが従来の課題となっていた。 Therefore, in order to obtain accurate multi-point information, the above-mentioned INS are integrally attached to all of a large number of LRFs, or LRFs arranged in the vicinity are connected using a high-rigidity attachment. However, if the INS are integrally attached to all of the LRFs, the cost is unavoidable. And there is a problem that it invites an increase in size, and solving this problem has been a conventional problem.

本発明は、上記した従来の課題に着目してなされたもので、例えばLRFを多数搭載する移動ロボットに採用した場合において、LRFによる正確な多点情報の取得を実現したうえで、情報取得コストを低く抑えると共に、小型軽量化をも実現することができる画像センサの情報補正方法及び移動体を提供することを目的としている。 The present invention has been made with a focus on the above-mentioned conventional problems. It is an object of the present invention to provide an information correcting method for an image sensor and a moving body capable of suppressing the .

本発明の第1の態様は、移動体に複数搭載された周囲の多点距離情報を取得する画像センサの前記多点距離情報を補正する画像センサの情報補正方法であって、前記複数の画像センサのうちの少なくとも1つの画像センサに該画像センサが取得した多点距離情報に含まれる揺れによる移動量を補正する慣性航法装置を一体的に取り付けて主画像センサとすると共に、該主画像センサ以外の前記複数の画像センサのうちの少なくとも1つを従画像センサとして該従画像センサの画像が前記主画像センサの画像に関連付けられるように配置し、前記主画像センサの画像に対する前記従画像センサの画像の関連付けにより前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正する構成としている。 A first aspect of the present invention is an image sensor information correcting method for correcting multi-point distance information of an image sensor that acquires multi-point distance information around a plurality of image sensors mounted on a moving object, the method comprising: At least one image sensor of the sensors is integrally attached with an inertial navigation system that corrects the amount of movement due to shaking included in the multi-point distance information acquired by the image sensor, and is used as a main image sensor, and the main image sensor. at least one of the plurality of image sensors other than the image sensor is arranged as a secondary image sensor so that an image of the secondary image sensor is associated with an image of the primary image sensor, and the secondary image sensor with respect to the image of the primary image sensor The movement amount due to shaking included in the multi-point distance information of the secondary image sensor is corrected by associating the images.

本発明の第2の態様は、前記従画像センサの画像に前記主画像センサの画像内の場所が写るように該従画像センサを配置することで、前記従画像センサの画像を前記主画像センサの画像に関連付け、前記主画像センサの画像内の場所に前記従画像センサで写し出した画像の場所を重ね合わせて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正する構成としている。 In a second aspect of the present invention, the image of the secondary image sensor is arranged so that the image of the secondary image sensor reflects the location in the image of the primary image sensor. and superimposing the location of the image captured by the secondary image sensor on the location in the image of the primary image sensor to correct the amount of movement due to shaking included in the multi-point distance information of the secondary image sensor. It is configured.

本発明の第3の態様は、前記主画像センサの画像及び前記従画像センサの画像に前記移動体の形状情報が既知の部材が写り込むように前記主画像センサ及び前記従画像センサを配置することで、前記従画像センサの画像を前記主画像センサの画像に関連付け、前記主画像センサ及び前記従画像センサにそれぞれ写り込む前記部材の既知の形状情報に基づいて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正する構成としている。 In a third aspect of the present invention, the main image sensor and the secondary image sensor are arranged so that a member whose shape information of the moving object is known is reflected in the image of the main image sensor and the image of the secondary image sensor. Thus, the image of the secondary image sensor is associated with the image of the primary image sensor, and based on the known shape information of the member reflected in the primary image sensor and the secondary image sensor, the multiple It is configured to correct the amount of movement due to shaking included in the point distance information.

本発明の第4の態様は、移動体に複数搭載された周囲の多点距離情報を取得する画像センサの前記多点距離情報を補正する画像センサの情報補正方法であって、形状情報が既知の可動部材を有し、該可動部材の作動量を検出可能な作動機構を前記移動体が備えている場合において、前記複数の画像センサのうちの少なくとも1つの画像センサに該画像センサが取得した多点距離情報に含まれる揺れによる移動量を補正する慣性航法装置を一体的に取り付けて主画像センサとし、前記主画像センサに前記作動機構の前記可動部材が写り込むように該主画像センサを配置すると共に、前記作動機構の前記可動部材に前記主画像センサ以外の前記複数の画像センサのうちの少なくとも1つを従画像センサとして配置し、前記作動機構の前記可動部材の作動量に基づいて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正する構成としている。 A fourth aspect of the present invention is an image sensor information correcting method for correcting the multi-point distance information of an image sensor that acquires multi-point distance information around a plurality of image sensors mounted on a moving body, wherein the shape information is known. and the moving body includes an actuation mechanism capable of detecting an actuation amount of the movable member, at least one image sensor out of the plurality of image sensors acquires An inertial navigation system that corrects the amount of movement due to shaking included in the multi-point distance information is integrally attached as a main image sensor, and the main image sensor is mounted so that the movable member of the operating mechanism is reflected in the main image sensor. and at least one of the plurality of image sensors other than the main image sensor is arranged as a slave image sensor on the movable member of the actuation mechanism, and based on the actuation amount of the movable member of the actuation mechanism , the amount of movement due to shaking included in the multi-point distance information of the secondary image sensor is corrected.

一方、本発明の第5の態様は、周囲の多点距離情報を取得する複数の画像センサと、前記複数の画像センサで取得した多点距離情報を処理して3D地図を作成する処理部を備えた移動体において、前記複数の画像センサのうちの少なくとも1つの画像センサに該画像センサが取得した多点距離情報に含まれる揺れによる移動量を補正する慣性航法装置を一体的に取り付けて主画像センサとすると共に、該主画像センサ以外の前記複数の画像センサのうちの少なくとも1つを従画像センサとして該従画像センサの画像が前記主画像センサの画像に関連付けられるように配置し、前記処理部では、前記主画像センサの画像に対する前記従画像センサの画像の関連付けにより前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正して、前記主画像センサ及び前記従画像センサからの補正後の各センサ出力情報に基づいて3D地図を作成する構成としている。 On the other hand, according to a fifth aspect of the present invention, a plurality of image sensors for acquiring surrounding multi-point distance information and a processing unit for processing the multi-point distance information acquired by the plurality of image sensors to create a 3D map are provided. in a moving object equipped with an inertial navigation system that is integrally attached to at least one image sensor among the plurality of image sensors and corrects the amount of movement due to shaking included in the multi-point distance information acquired by the image sensor. an image sensor, and at least one of the plurality of image sensors other than the main image sensor is arranged as a secondary image sensor so that an image of the secondary image sensor is associated with an image of the primary image sensor, The processing unit corrects the amount of movement due to shake included in the multi-point distance information of the secondary image sensor by associating the image of the secondary image sensor with the image of the primary image sensor, and A 3D map is created based on each sensor output information after correction from the sensor.

本発明の第6の態様は、前記従画像センサの画像に前記主画像センサの画像内の場所が写るように該従画像センサを配置することで、前記従画像センサの画像を前記主画像センサの画像に関連付け、前記処理部では、前記主画像センサの画像内の場所に前記従画像センサで写し出した画像の場所を重ね合わせて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正して、前記主画像センサ及び前記従画像センサからの補正後の各センサ出力情報に基づいて3D地図を作成する構成としている。 In a sixth aspect of the present invention, the image of the secondary image sensor is arranged so that the image of the secondary image sensor reflects the location in the image of the primary image sensor, and the image of the secondary image sensor is projected onto the image of the primary image sensor. and the processing unit superimposes the location of the image captured by the secondary image sensor on the location in the image of the main image sensor, and the location of the image captured by the secondary image sensor is determined by the shake included in the multi-point distance information of the secondary image sensor. A movement amount is corrected, and a 3D map is created based on corrected sensor output information from the main image sensor and the sub-image sensor.

本発明の第7の態様は、前記主画像センサの画像及び前記従画像センサの画像に前記移動体の形状情報が既知の部材が写り込むように前記主画像センサ及び前記従画像センサを配置することで、前記従画像センサの画像を前記主画像センサの画像に関連付け、前記処理部では、前記主画像センサ及び前記従画像センサにそれぞれ写り込む前記部材の既知の形状情報に基づいて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正して、前記主画像センサ及び前記従画像センサからの補正後の各センサ出力情報に基づいて3D地図を作成する構成としている。 In a seventh aspect of the present invention, the main image sensor and the secondary image sensor are arranged so that a member whose shape information of the moving object is known is reflected in the image of the main image sensor and the image of the secondary image sensor. Thus, the image of the secondary image sensor is associated with the image of the primary image sensor, and the processing unit determines the secondary image sensor based on the known shape information of the member reflected in the primary image sensor and the secondary image sensor, respectively. A 3D map is created based on corrected sensor output information from the main image sensor and the slave image sensor by correcting the amount of movement due to shaking included in the multi-point distance information of the image sensor.

本発明の第8の態様は、周囲の多点距離情報を取得する複数の画像センサと、形状情報が既知の可動部材を有し、該可動部材の作動量を検出可能な作動機構と、前記複数の画像センサで取得した多点距離情報を処理して3D地図を作成する処理部を備えた移動体において、前記複数の画像センサのうちの少なくとも1つの画像センサに該画像センサが取得した多点距離情報に含まれる揺れによる移動量を補正する慣性航法装置を一体的に取り付けて主画像センサとし、前記主画像センサに前記作動機構の前記可動部材が写り込むように該主画像センサを配置すると共に、前記作動機構の前記可動部材に前記主画像センサ以外の前記複数の画像センサのうちの少なくとも1つを従画像センサとして配置し、前記処理部では、前記作動機構の前記可動部材の作動量に基づいて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正して、前記主画像センサ及び前記従画像センサからの補正後の各センサ出力情報に基づいて3D地図を作成する構成としている。 According to an eighth aspect of the present invention, a plurality of image sensors for acquiring surrounding multi-point distance information, an operating mechanism having a movable member whose shape information is known, and capable of detecting the amount of operation of the movable member, In a moving object having a processing unit that processes multi-point distance information acquired by a plurality of image sensors to create a 3D map, at least one image sensor among the plurality of image sensors acquires a multi-point distance information acquired by the image sensor. A main image sensor is formed by integrally attaching an inertial navigation system that corrects the amount of movement due to shaking included in the point distance information, and the main image sensor is arranged so that the movable member of the operating mechanism is reflected in the main image sensor. At least one of the plurality of image sensors other than the main image sensor is arranged as a secondary image sensor on the movable member of the operating mechanism, and the processing unit operates the movable member of the operating mechanism. A 3D map is generated based on each sensor output information after correction from the main image sensor and the slave image sensor by correcting the movement amount due to shaking included in the multi-point distance information of the slave image sensor based on the amount. is configured to create

本発明に係る画像センサの情報補正方法では、例えばLRFを多数搭載する移動ロボットに採用した場合において、LRFによる正確な多点情報の取得を実現したうえで、情報取得コストを低く抑えると共に、小型軽量化をも実現することが可能であるという非常に優れた効果がもたらされる。 In the image sensor information correction method according to the present invention, for example, when it is adopted in a mobile robot equipped with a large number of LRFs, it is possible to obtain accurate multi-point information by the LRFs, reduce the information acquisition cost, and reduce the size of the robot. A very good effect is brought about that it is also possible to realize weight reduction.

本発明の一実施形態に係る画像センサの情報補正方法を採用した油圧ショベルの側面説明図(a)及び平面説明図(b)である。1A and 1B are an explanatory side view (a) and an explanatory plan view (b) of a hydraulic excavator that employs an image sensor information correction method according to an embodiment of the present invention; FIG. 図1の油圧ショベルに搭載した慣性航法装置付きLRFの斜視説明図である。FIG. 2 is a perspective explanatory view of an LRF with an inertial navigation system mounted on the hydraulic excavator of FIG. 1; 図1の油圧ショベルに搭載した2つのLRF情報から3D地図情報を更新する際の流れを示す説明図である。FIG. 2 is an explanatory diagram showing a flow when 3D map information is updated from two pieces of LRF information mounted on the hydraulic excavator of FIG. 1; 図1の油圧ショベルに搭載した2つのLRFで取得した画像の説明図である。FIG. 2 is an explanatory diagram of images acquired by two LRFs mounted on the hydraulic excavator of FIG. 1; 本発明の他の実施形態に係る画像センサの情報補正方法を採用した油圧ショベルの側面説明図である。FIG. 5 is a side explanatory view of a hydraulic excavator that employs an image sensor information correction method according to another embodiment of the present invention. 図5の油圧ショベルに搭載した2つのLRF情報から3D地図情報を更新する際の流れを示す説明図である。FIG. 6 is an explanatory diagram showing a flow of updating 3D map information from two pieces of LRF information mounted on the hydraulic excavator of FIG. 5; 図5の油圧ショベルに搭載した2つのLRFで取得した画像の説明図である。FIG. 6 is an explanatory diagram of images acquired by two LRFs mounted on the hydraulic excavator of FIG. 5; 本発明のさらに他の実施形態に係る画像センサの情報補正方法を採用した場合の2つのLRFで取得した画像の説明図である。FIG. 10 is an explanatory diagram of images acquired by two LRFs when an image sensor information correcting method according to still another embodiment of the present invention is employed;

以下、本発明の実施形態を図面に基づいて説明する。
図1~図4は、本発明の一実施形態に係る画像センサの情報補正方法を採用した移動体としての油圧ショベルを示している。
BEST MODE FOR CARRYING OUT THE INVENTION An embodiment of the present invention will be described below with reference to the drawings.
FIGS. 1 to 4 show a hydraulic excavator as a moving body that employs an image sensor information correction method according to an embodiment of the present invention.

図1に示すように、油圧ショベル1は、クローラ2を左右に有する下部走行体3と、この下部走行体3の上方に配置されてキャビン4及び作業装置5を有する上部旋回体6を備えており、この上部旋回体6の作業装置5は、油圧により作動するブーム51,アーム52及びバケット53を具備している。 As shown in FIG. 1, a hydraulic excavator 1 includes a lower traveling body 3 having crawlers 2 on the left and right sides, and an upper rotating body 6 disposed above the lower traveling body 3 and having a cabin 4 and a working device 5. The working device 5 of the upper revolving body 6 includes a boom 51, an arm 52 and a bucket 53 which are hydraulically operated.

下部走行体3のクローラ2は、車載された原動機により駆動されるようになっているが、このクローラ2に代えて、インホールモータ又は原動機により駆動される車輪を前後左右に配置するようにしてもよい。上部旋回体6の作業装置5のバケット53に代えて、他の作業具として、例えば、鉄骨切断具やつかみ具をアーム52に装着してもよい。 The crawlers 2 of the undercarriage 3 are driven by a motor mounted on the vehicle, but instead of the crawlers 2, in-hole motors or wheels driven by the motor are arranged in the front, rear, left, and right. good too. Instead of the bucket 53 of the work device 5 of the upper revolving body 6 , other work tools such as a steel frame cutting tool or a gripper may be attached to the arm 52 .

また、油圧ショベル1は、上部旋回体6のキャビン4の天井4a及び前部4bにそれぞれ配置された画像センサとしてのLRF7,8を備えている。
この場合、キャビン4の天井4aに配置されたLRF7は、図2にも示すように、取り付け具9を介してINS(慣性航法装置)10と抱き合わせて取り付けられている。
The hydraulic excavator 1 also includes LRFs 7 and 8 as image sensors arranged on the ceiling 4a and the front portion 4b of the cabin 4 of the upper revolving body 6, respectively.
In this case, the LRF 7 arranged on the ceiling 4a of the cabin 4 is attached together with an INS (inertial navigation system) 10 via a fixture 9, as also shown in FIG.

このような作業装置5及びLRF7,8を備えた油圧ショベル1は、上部旋回体6に搭載された車載制御装置20を備えている。なお、この車載制御装置20と相互にデータ通信を行うオペレータ操作用の遠隔操縦装置を備えた構成としてもよい。 The hydraulic excavator 1 including the work device 5 and the LRFs 7 and 8 as described above includes an on-vehicle control device 20 mounted on the upper revolving structure 6 . It should be noted that a configuration may be provided in which a remote control device for operator operation that performs mutual data communication with the in-vehicle control device 20 is provided.

車載制御装置20は、油圧ショベル1の自己位置を検出する位置センサと、油圧ショベル1の方向を検出する方向センサと、主コンピュータと、送受信機と、バッテリとから主として構成されており、位置センサには、例えば、GPSが採用され、方向センサには、例えば、加速度計や磁気センサが採用される。 The in-vehicle control device 20 mainly includes a position sensor for detecting the self-position of the hydraulic excavator 1, a direction sensor for detecting the direction of the hydraulic excavator 1, a main computer, a transceiver, and a battery. , for example, GPS is adopted, and for the direction sensor, for example, an accelerometer or a magnetic sensor is adopted.

この車載制御装置20における主コンピュータは画像処理手段40を具備しており、 この画像処理手段40は、図3に示すように、メモリ部41及び処理部42を有している。メモリ部41には、LRF7,8による多点距離情報と、INS10で取得した揺れによる移動量情報(揺れた際の加速度を2回積分して得られる移動量情報)と、多点距離情報取得時におけるLRF7,8の互いの位置関係情報が記録されるほか、油圧ショベル1の位置及び方向情報や作業装置5の形状情報や作業装置5の姿勢情報が記録される。 The main computer in this vehicle-mounted control device 20 has image processing means 40. This image processing means 40 has a memory section 41 and a processing section 42, as shown in FIG. The memory unit 41 stores multi-point distance information from the LRFs 7 and 8, movement amount information due to shaking acquired by the INS 10 (movement amount information obtained by integrating twice the acceleration at the time of shaking), and multi-point distance information acquisition. In addition to recording the positional relationship information of the LRFs 7 and 8 at the time, the position and direction information of the hydraulic excavator 1, the shape information of the working device 5, and the attitude information of the working device 5 are recorded.

この際、油圧ショベル1の位置及び方向情報は、前述したように、位置センサ及び方向センサによって検出されるデータである。また、作業装置5の形状情報は、予め設定されているデータであり、作業装置5のブーム51及びアーム52の各諸寸法である。さらに、作業装置5の姿勢情報は、ブーム51及びアーム52をそれぞれ回動させる際の各サーボモータの回転角度により得られるデータである。 At this time, the position and direction information of the hydraulic excavator 1 is data detected by the position sensor and the direction sensor, as described above. Further, the shape information of the working device 5 is data set in advance, and includes various dimensions of the boom 51 and the arm 52 of the working device 5 . Furthermore, the posture information of the working device 5 is data obtained from the rotation angles of the servomotors when rotating the boom 51 and the arm 52, respectively.

この実施形態において、INS10を一体的に取り付けたLRF7を主画像センサとすると共に他のLRF8を従画像センサとして、図4に示すように、従画像センサであるLRF8の画像LVに主画像センサであるLRF7の画像UVの一部が重複するように(図示例ではLRF8の画像LVにLRF7の画像UV内に写し出されているバケット53上のマークMが写るように)LRF8を配置することで、このLRF8の画像LVをLRF7の画像UVに関連付けている。 In this embodiment, the LRF 7 to which the INS 10 is integrally attached is used as the main image sensor, and the other LRF 8 is used as the secondary image sensor. As shown in FIG. By arranging the LRF8 so that a part of the image UV of a certain LRF7 overlaps (in the illustrated example, the mark M on the bucket 53 projected in the image UV of the LRF7 appears in the image LV of the LRF8), This image LV of LRF8 is associated with the image UV of LRF7.

つまり、この車載制御装置20における主コンピュータの画像処理手段40において、油圧ショベル1に搭載した2つLRF7,8で周囲の多点距離情報を取得して、3D地図を作成する場合には、まず、メモリ部41において、LRF7,8により取得した多点距離情報と、INS10で取得した揺れによる移動量情報と、多点距離情報取得時におけるLRF7,8の互いの位置関係情報が記録される。 In other words, in the image processing means 40 of the main computer in the on-vehicle control device 20, when the two LRFs 7 and 8 mounted on the hydraulic excavator 1 acquire the surrounding multi-point distance information and create a 3D map, first In the memory unit 41, multi-point distance information acquired by the LRFs 7 and 8, movement amount information due to shaking acquired by the INS 10, and mutual positional relationship information of the LRFs 7 and 8 at the time of acquisition of the multi-point distance information are recorded.

次いで、処理部42において、主画像センサであるLRF7の多点距離情報に含まれる揺れによる移動量がINS10で取得した情報により補正され、その一方で、主画像センサであるLRF7のマークMを含む画像UVと従画像センサであるLRF8で取得した画像LVとの重複部分によって、従画像センサであるLRF8の多点距離情報に含まれる揺れによる移動量が補正される。
ここで、主画像センサであるLRF7のマークMを含む画像UVと従画像センサであるLRF8で取得した画像LVとの重ね合わせは、公知技術であるIPCアルゴリズム(Iterative Closest Point Algorithm;反復最近接点アルゴリズム)を用いて行うものとしている。
そして、主画像センサであるLRF7及び従画像センサであるLRF8からの補正後の各センサ出力(移動量)に基づいて3D地図情報の更新が成される。
Next, in the processing unit 42, the movement amount due to shaking contained in the multi-point distance information of LRF7, which is the main image sensor, is corrected by the information obtained by the INS10. The overlapping portion of the image UV and the image LV acquired by the LRF8, which is the slave image sensor, corrects the amount of movement due to shaking included in the multi-point distance information of the LRF8, which is the slave image sensor.
Here, the image UV including the mark M of the main image sensor LRF7 and the image LV acquired by the secondary image sensor LRF8 are superimposed using a well-known IPC algorithm (Iterative Closest Point Algorithm). ) shall be used.
Then, the 3D map information is updated based on corrected sensor outputs (movement amounts) from LRF7, which is the main image sensor, and LRF8, which is the secondary image sensor.

具体的には、INS10の情報により補正された主画像センサであるLRF7の画像UVにおいてマークMまでの測定距離が、例えば、3mであり、INS10が一体化されていない従画像センサであるLRF8の画像LVにおけるマークMまでの測定距離が、例えば、2.8mである場合に、従画像センサであるLRF8で取得した画像LVに揺れによる、例えば、実際の距離よりもマイナス側に測定してしまうような0.1mの移動量があったとしても、従画像センサであるLRF8で取得した画像LVと主画像センサであるLRF7のマークMを含む画像UVとが重複することによって、LRF8のマークMまでの測定距離が2.9mに補正され、主画像センサであるLRF7及び従画像センサであるLRF8からの補正後の各センサ出力(移動量)情報に基づいて3D地図情報の更新が成される。 Specifically, the measurement distance to the mark M in the image UV of LRF7, which is the main image sensor corrected by the information of INS10, is, for example, 3 m, and LRF8, which is the slave image sensor in which INS10 is not integrated. When the measured distance to the mark M in the image LV is, for example, 2.8 m, the image LV acquired by the slave image sensor LRF8 is shaken, for example, the actual distance is measured on the minus side. Even if there is such a movement amount of 0.1 m, the image LV acquired by the secondary image sensor LRF8 and the image UV including the mark M of LRF7 as the main image sensor overlap, so that the mark M of LRF8 The measured distance to is corrected to 2.9 m, and the 3D map information is updated based on the sensor output (movement amount) information after correction from LRF7, which is the main image sensor, and LRF8, which is the secondary image sensor. .

上記したように、この実施形態の油圧ショベル1では、画像センサとしての2つのLRF7,8の一方のLRF7にINS10を剛性高く抱き合わせて一体化したうえで、従画像センサであるLRF8の画像LV及び主画像センサであるLRF7の画像UVの一部が重複するようにLRF7,8をそれぞれ配置したので、他方のLRF8にINS10を一体で取り付けたり、LRF7,8同士を高剛性の取り付け具を用いて連結したりすることなく、LRF8による正確な多点情報を取得することが可能である。 As described above, in the hydraulic excavator 1 of this embodiment, the INS 10 is highly rigidly tied to one of the two LRFs 7 and 8 as the image sensor, and the image LV and the image LV of the LRF 8 as the secondary image sensor are integrated. Since the LRFs 7 and 8 are arranged so that part of the image UV of the LRF 7, which is the main image sensor, overlaps, the INS 10 can be attached integrally to the other LRF 8, or the LRFs 7 and 8 can be attached using a highly rigid fixture. It is possible to acquire accurate multipoint information by LRF8 without connecting.

したがって、他方のLRF8にINS10を一体で取り付ける必要がない分だけ、情報取得コストを低く抑えることができ、LRF7,8同士を高剛性の取り付け具を用いて連結しなくても済む分だけ、小型軽量化をも実現し得ることとなる。 Therefore, since the INS 10 does not need to be integrally attached to the other LRF 8, the information acquisition cost can be kept low. Weight reduction can also be achieved.

図5~図7は、本発明の他の実施形態に係る画像センサの情報補正方法を採用した移動体としての油圧ショベルを示している。 FIGS. 5 to 7 show a hydraulic excavator as a moving body employing an image sensor information correcting method according to another embodiment of the present invention.

図5に示すように、この油圧ショベル1Aが先の一実施形態に係る油圧ショベル1と構造上相違するところは、INS10を一体的に取り付けた主画像センサであるLRF7Aを上部旋回体6のキャビン4後方に支柱6aを介して取り付けた点にある。 As shown in FIG. 5, this hydraulic excavator 1A is structurally different from the hydraulic excavator 1 according to the previous embodiment in that the LRF7A, which is the main image sensor integrally attached with the INS 10, is installed in the cabin of the upper revolving body 6. 4. It is attached to the rear via a support 6a.

この実施形態において、車載制御装置20における画像処理手段40のメモリ部41には、図6に示すように、LRF7A,8による多点距離情報と、INS10で取得した揺れによる移動量情報と、LRF7A,8の多点距離情報取得時における位置関係の情報と、作業装置5の形状情報が記録されるほか、油圧ショベル1の位置及び方向情報や作業装置5の姿勢情報が記録される。 In this embodiment, as shown in FIG. 6, the memory unit 41 of the image processing means 40 in the in-vehicle control device 20 stores the multi-point distance information by the LRFs 7A and 8, the movement amount information by the shake acquired by the INS 10, and the LRF 7A. , 8 at the time of multi-point distance information acquisition and the shape information of the working device 5 are recorded.

そして、この実施形態において、図7に示すように、INS10を一体的に取り付けた主画像センサであるLRF7Aの画像UV及び従画像センサである他のLRF8の画像LVに、油圧ショベル1Aの作業装置5における形状情報が既知のアーム52の端部52a,52bが写り込むようにLRF7A,8を配置することで、LRF8の画像LVをLRF7Aの画像UVに関連付けている。 In this embodiment, as shown in FIG. 7, the image UV of the main image sensor LRF7A and the image LV of the other LRF8 that is the secondary image sensor to which the INS 10 is integrally attached are combined with the working device of the hydraulic excavator 1A. By arranging the LRFs 7A and 8 so that the ends 52a and 52b of the arm 52 whose shape information is known in 5 are reflected, the image LV of the LRF 8 is associated with the image UV of the LRF 7A.

つまり、この車載制御装置20における主コンピュータの画像処理手段40において、油圧ショベル1に搭載した2つLRF7A,8で周囲の多点距離情報を取得して、3D地図を作成する場合には、メモリ部41において、LRF7A,8により取得した多点距離情報と、INS10で取得した揺れによる移動量情報と、LRF7A,8の多点距離情報取得時における位置関係の情報と、作業装置5のアーム52の形状情報が記録される。 In other words, in the image processing means 40 of the main computer in the vehicle-mounted control device 20, when the two LRFs 7A and 8 mounted on the hydraulic excavator 1 acquire the surrounding multi-point distance information and create a 3D map, the memory In the unit 41, the multi-point distance information acquired by the LRFs 7A and 8, the movement amount information due to shaking acquired by the INS 10, the positional relationship information of the LRFs 7A and 8 when acquiring the multi-point distance information, and the arm 52 of the work device 5 shape information is recorded.

そして、処理部42において、主画像センサであるLRF7Aの多点距離情報に含まれる揺れによる移動量がINS10で取得した情報により補正され、その一方で、主画像センサであるLRF7Aの画像UV及び従画像センサであるLRF8の画像LVにそれぞれ写り込む油圧ショベル1Aの作業装置5におけるアーム52の端部52a,52bの形状情報及び姿勢情報(空間位置情報)に基づいて、従画像センサであるLRF8の多点距離情報に含まれる揺れによる移動量が補正され、主画像センサであるLRF7A及び従画像センサであるLRF8からの補正後の各センサ出力(移動量)情報に基づいて3D地図情報の更新が成される。 Then, in the processing unit 42, the movement amount due to shaking included in the multi-point distance information of LRF7A, which is the main image sensor, is corrected by the information acquired by the INS10. Based on the shape information and posture information (spatial position information) of the end portions 52a and 52b of the arm 52 of the working device 5 of the hydraulic excavator 1A reflected in the image LV of the LRF8, which is the image sensor, the LRF8, which is the secondary image sensor, The amount of movement due to shaking included in the multi-point distance information is corrected, and the 3D map information is updated based on each sensor output (movement amount) information after correction from LRF7A, which is the main image sensor, and LRF8, which is the secondary image sensor. is made.

具体的には、INS10の情報により補正された主画像センサであるLRF7Aの画像UVにおいて作業装置5のアーム52までの測定距離が、例えば、4mであり、INS10が一体化されていない従画像センサであるLRF8の画像LVにおけるマークMまでの測定距離が、例えば、3.8mである場合に、従画像センサであるLRF8で取得した画像LVに揺れによる、例えば、実際の距離よりもマイナス側に測定してしまうような0.1mの移動量があったとしても、主画像センサであるLRF7Aの画像UV及び従画像センサであるLRF8の画像LVにそれぞれ写り込む油圧ショベル1Aの作業装置5におけるアーム52の端部52a,52bの形状情報及び姿勢情報に基づいて、LRF8の作業装置5におけるアーム52までの測定距離が3.9mに補正され、主画像センサであるLRF7A及び従画像センサであるLRF8からの補正後の各センサ出力(移動量)情報に基づいて3D地図情報の更新が成される。 Specifically, the measurement distance to the arm 52 of the working device 5 is, for example, 4 m in the image UV of the LRF7A, which is the main image sensor corrected by the information of the INS 10, and the slave image sensor in which the INS 10 is not integrated. When the measured distance to the mark M in the image LV of the LRF8 is, for example, 3.8 m, the image LV acquired by the LRF8, which is the secondary image sensor, is shaken, for example, to the minus side of the actual distance Even if there is a movement amount of 0.1 m that would be measured, the arm in the work device 5 of the hydraulic excavator 1A that is reflected in the image UV of the main image sensor LRF7A and the image LV of the secondary image sensor LRF8 Based on the shape information and posture information of the ends 52a and 52b of the LRF 8, the measurement distance to the arm 52 in the working device 5 of the LRF 8 is corrected to 3.9 m, and the main image sensor LRF 7A and the secondary image sensor LRF 8 are corrected to 3.9 m. 3D map information is updated based on each sensor output (movement amount) information after correction from .

上記したように、この実施形態の油圧ショベル1Aにあっても、画像センサとしての2つのLRF7A,8の一方のLRF7AにINS10を剛性高く抱き合わせて一体化したうえで、従画像センサであるLRF8の画像LV及び主画像センサであるLRF7の画像UVに油圧ショベル1Aの作業装置5における形状情報が既知のアーム52が写り込むようにLRF7A,8を配置したので、他方のLRF8にINS10を一体で取り付けたり、LRF7A,8同士を高剛性の取り付け具を用いて連結したりすることなく、LRF8による正確な多点情報を取得することが可能である。 As described above, even in the hydraulic excavator 1A of this embodiment, the INS 10 is highly rigidly tied to one of the two LRFs 7A and 8 as the image sensor and integrated with the LRF 7A. Since the LRFs 7A and 8 are arranged so that the arm 52 whose shape information is known in the working device 5 of the hydraulic excavator 1A is reflected in the image LV and the image UV of the LRF 7 which is the main image sensor, the INS 10 is integrally attached to the other LRF 8. Also, it is possible to obtain accurate multi-point information from the LRF 8 without connecting the LRFs 7A and 8 with a high-rigidity fixture.

したがって、他方のLRF8にINS10を一体で取り付ける必要がない分だけ、情報取得コストを低く抑えることができ、LRF7A,8同士を高剛性の取り付け具を用いて連結しなくても済む分だけ、小型軽量化をも実現し得ることとなる。 Therefore, since the INS 10 does not need to be integrally attached to the other LRF 8, the information acquisition cost can be kept low. Weight reduction can also be achieved.

図8は、本発明のさらに他の実施形態に係る画像センサの情報補正方法を採用した移動体としての油圧ショベルの作業装置5を示している。 FIG. 8 shows a working device 5 of a hydraulic excavator as a moving body that employs an image sensor information correcting method according to still another embodiment of the present invention.

図8に示すように、この実施形態では、INS10を一体で取り付けた主画像センサであるLRF7(図示省略)の画像UVに作業装置5におけるアーム52の一方の端部52aが写り込むようにLRF7を配置すると共に、作業装置5における形状情報が既知のアーム52の他方の端部52bに接続するバケット53に従画像センサとしてのLRF8Aを配置するようにしている。この際、アーム52の他方の端部52bに接続するバケット53の図示矢印方向の作動量は回転センサ12により得られるようになっている。 As shown in FIG. 8, in this embodiment, the LRF 7 (not shown), which is the main image sensor to which the INS 10 is integrally attached, is projected so that one end 52a of the arm 52 of the work device 5 is reflected in the image UV of the LRF 7 (not shown). is arranged, and LRF8A as a follower image sensor is arranged on the bucket 53 connected to the other end 52b of the arm 52 whose shape information in the work device 5 is known. At this time, the movement amount of the bucket 53 connected to the other end 52b of the arm 52 in the direction of the arrow shown in the figure is obtained by the rotation sensor 12. As shown in FIG.

この実施形態では、処理部42(図示省略)において、主画像センサであるLRF7Aの多点距離情報に含まれる揺れによる移動量がINS10で取得した情報により補正される。その一方で、主画像センサであるLRF7の画像UVに一方の端部52aが写り込むアーム52の他方の端部52bに接続するバケット53の作動量が、回転センサ12により計測され、バケット53の形状情報,姿勢情報(空間位置情報)及び回転センサ12により得られるバケット53の作動量に基づいて、従画像センサであるLRF8Aの多点距離情報に含まれる揺れによる移動量を補正して、主画像センサであるLRF7及び従画像センサであるLRF8Aからの補正後の各センサ出力(移動量)情報に基づいて3D地図情報の更新が成されるようにしている。 In this embodiment, in the processing unit 42 (not shown), the amount of movement due to shaking included in the multi-point distance information of the LRF 7A, which is the main image sensor, is corrected based on the information obtained by the INS 10. FIG. On the other hand, the movement amount of the bucket 53 connected to the other end 52b of the arm 52 whose one end 52a is reflected in the image UV of the main image sensor LRF 7 is measured by the rotation sensor 12. Based on the shape information, attitude information (spatial position information), and the operation amount of the bucket 53 obtained by the rotation sensor 12, the amount of movement due to shaking included in the multi-point distance information of the LRF 8A, which is the slave image sensor, is corrected, and the main The 3D map information is updated based on corrected sensor output (movement amount) information from the image sensor LRF7 and the secondary image sensor LRF8A.

この実施形態にあっても、画像センサとしての2つのLRF7,8の一方のLRF7にINS10を剛性高く抱き合わせて一体化したうえで、主画像センサであるLRF7の画像UVに一方の端部52aが写り込む形状情報が既知のアーム52の他方の端部52bに接続するバケット53に従画像センサであるLRF8を配置したので、他方のLRF8にINS10を一体で取り付けたり、LRF7A,8同士を高剛性の取り付け具を用いて連結したりすることなく、LRF8による正確な多点情報を取得することが可能である。 Even in this embodiment, the INS 10 is tightly tied to one LRF 7 of the two LRFs 7 and 8 as image sensors and integrated, and one end 52a is attached to the image UV of the LRF 7 as the main image sensor. Since the LRF 8, which is a secondary image sensor, is arranged on the bucket 53 connected to the other end 52b of the arm 52 whose reflected shape information is known, the INS 10 can be integrally attached to the other LRF 8, and the LRFs 7A and 8 can be highly rigid. Accurate multi-point information can be acquired by the LRF8 without connecting using a mounting tool.

したがって、他方のLRF8にINS10を一体で取り付ける必要がない分だけ、情報取得コストを低く抑えることができ、LRF7A,8同士を高剛性の取り付け具を用いて連結しなくても済む分だけ、小型軽量化をも実現し得ることとなる。 Therefore, since the INS 10 does not need to be integrally attached to the other LRF 8, the information acquisition cost can be kept low. Weight reduction can also be achieved.

なお、この実施形態では、作業装置5におけるバケット53の作動量を回転センサ12により得るようにしているが、これに限定されるものではなく、バケット53の作動量を他の画像センサや車載カメラで検出するようにしてもよい。 In this embodiment, the operation amount of the bucket 53 in the working device 5 is obtained by the rotation sensor 12, but the operation amount of the bucket 53 is not limited to this. You may make it detect by.

上記した各実施形態では、複数の画像センサを搭載した移動体がいずれも油圧ショベルである場合を例に挙げて説明したが、移動体は油圧ショベルに限定されない。
また、上記した各実施形態では、周囲の多点距離情報を取得するLRF(画像センサ)をいずれも移動体に2個搭載して、一方のLRFにINS(慣性航法装置)を一体的に取り付けて主画像センサとし、他方のLRFを従画像センサとした構成としているが、この構成に限定されるものではなく、周囲の多点距離情報を取得するLRFを移動体に3個以上搭載して、そのうちの一つのLRFにINSを一体的に取り付けて主画像センサとする構成としてもよい。
本発明に係る画像センサの情報補正方法及び移動体の構成は、上記した実施形態の構成に限定されるものではなく、本発明の要旨を逸脱しなければ、構成の細部を適宜変更することが可能である。
In each of the above-described embodiments, a case in which the moving bodies equipped with a plurality of image sensors are all hydraulic excavators has been described as an example, but the moving bodies are not limited to hydraulic excavators.
Further, in each of the above-described embodiments, two LRFs (image sensors) for acquiring surrounding multi-point distance information are mounted on the moving body, and an INS (inertial navigation system) is integrally attached to one of the LRFs. One LRF is used as a main image sensor and the other LRF is used as a secondary image sensor, but the configuration is not limited to this. , and an INS may be integrally attached to one of the LRFs to form a main image sensor.
The image sensor information correction method and the structure of the moving body according to the present invention are not limited to the structure of the above-described embodiment, and the details of the structure may be changed as appropriate without departing from the gist of the present invention. It is possible.

1 油圧ショベル(移動体)
5 作業装置(作動機構)
7,7A LRF(主画像センサ)
8,8A LRF(従画像センサ)
10 INS(慣性航法装置)
12 回転センサ
42 処理部
51 ブーム
52 アーム(形状情報が既知の部材)
52a,52b アームの端部
53 バケット(可動部材)
LV 主画像センサの画像
M マーク
UV 従画像センサの画像
1 Hydraulic excavator (moving body)
5 Working device (actuating mechanism)
7,7A LRF (main image sensor)
8,8A LRF (slave image sensor)
10 INS (Inertial Navigation System)
12 rotation sensor 42 processing unit 51 boom 52 arm (members whose shape information is known)
52a, 52b arm end 53 bucket (movable member)
LV image of main image sensor M mark UV image of secondary image sensor

Claims (8)

移動体に複数搭載された周囲の多点距離情報を取得する画像センサの前記多点距離情報を補正する画像センサの情報補正方法であって、
前記複数の画像センサのうちの少なくとも1つの画像センサに該画像センサが取得した多点距離情報に含まれる揺れによる移動量を補正する慣性航法装置を一体的に取り付けて主画像センサとすると共に、該主画像センサ以外の前記複数の画像センサのうちの少なくとも1つを従画像センサとして該従画像センサの画像が前記主画像センサの画像に関連付けられるように配置し、
前記主画像センサの画像に対する前記従画像センサの画像の関連付けにより前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正する画像センサの情報補正方法。
An image sensor information correcting method for correcting multi-point distance information of an image sensor that acquires surrounding multi-point distance information mounted in a plurality of moving bodies, comprising:
At least one image sensor of the plurality of image sensors is integrally attached with an inertial navigation device for correcting the amount of movement due to shaking included in the multi-point distance information acquired by the image sensor, and is used as a main image sensor; arranging at least one of the plurality of image sensors other than the main image sensor as a secondary image sensor such that an image of the secondary image sensor is associated with an image of the primary image sensor;
An image sensor information correcting method for correcting a movement amount due to shake included in the multi-point distance information of the slave image sensor by associating the image of the slave image sensor with the image of the master image sensor.
前記従画像センサの画像に前記主画像センサの画像内の場所が写るように該従画像センサを配置することで、前記従画像センサの画像を前記主画像センサの画像に関連付け、前記主画像センサの画像内の場所に前記従画像センサで写し出した画像の場所を重ね合わせて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正する請求項1に記載の画像センサの情報補正方法。 relating the image of the secondary image sensor to the image of the primary image sensor by positioning the secondary image sensor such that the image of the secondary image sensor reflects a location within the image of the primary image sensor; 2. The image sensor according to claim 1, wherein the location of the image captured by the secondary image sensor is superimposed on the location in the image of the secondary image sensor to correct the amount of movement due to shaking included in the multi-point distance information of the secondary image sensor. Information Correction Method. 前記主画像センサの画像及び前記従画像センサの画像に前記移動体の形状情報が既知の部材が写り込むように前記主画像センサ及び前記従画像センサを配置することで、前記従画像センサの画像を前記主画像センサの画像に関連付け、前記主画像センサ及び前記従画像センサにそれぞれ写り込む前記部材の既知の形状情報に基づいて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正する請求項1に記載の画像センサの情報補正方法。 By arranging the main image sensor and the slave image sensor such that the member whose shape information of the moving body is known is reflected in the image of the main image sensor and the image of the slave image sensor, the image of the slave image sensor is is associated with the image of the main image sensor, and based on known shape information of the member reflected in the main image sensor and the secondary image sensor, movement due to shaking included in the multi-point distance information of the secondary image sensor 2. The method of correcting information in an image sensor according to claim 1, wherein the correcting amount is corrected. 移動体に複数搭載された周囲の多点距離情報を取得する画像センサの前記多点距離情報を補正する画像センサの情報補正方法であって、
形状情報が既知の可動部材を有し、該可動部材の作動量を検出可能な作動機構を前記移動体が備えている場合において、
前記複数の画像センサのうちの少なくとも1つの画像センサに該画像センサが取得した多点距離情報に含まれる揺れによる移動量を補正する慣性航法装置を一体的に取り付けて主画像センサとし、
前記主画像センサに前記作動機構の前記可動部材が写り込むように該主画像センサを配置すると共に、前記作動機構の前記可動部材に前記主画像センサ以外の前記複数の画像センサのうちの少なくとも1つを従画像センサとして配置し、
前記作動機構の前記可動部材の作動量に基づいて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正する画像センサの情報補正方法。
An image sensor information correcting method for correcting multi-point distance information of an image sensor that acquires surrounding multi-point distance information mounted in a plurality of moving bodies, comprising:
When the movable body has a movable member whose shape information is known, and the moving body is provided with an actuation mechanism capable of detecting the amount of actuation of the movable member,
At least one of the plurality of image sensors is integrally attached with an inertial navigation device for correcting the amount of movement due to shaking included in the multi-point distance information acquired by the image sensor, and is used as a main image sensor;
The main image sensor is arranged so that the movable member of the operating mechanism is reflected on the main image sensor, and at least one of the plurality of image sensors other than the main image sensor is placed on the movable member of the operating mechanism. one as a slave image sensor,
An image sensor information correcting method for correcting the amount of movement due to shake included in the multi-point distance information of the slave image sensor based on the amount of operation of the movable member of the actuation mechanism.
周囲の多点距離情報を取得する複数の画像センサと、
前記複数の画像センサで取得した多点距離情報を処理して3D地図を作成する処理部を備えた移動体において、
前記複数の画像センサのうちの少なくとも1つの画像センサに該画像センサが取得した多点距離情報に含まれる揺れによる移動量を補正する慣性航法装置を一体的に取り付けて主画像センサとすると共に、該主画像センサ以外の前記複数の画像センサのうちの少なくとも1つを従画像センサとして該従画像センサの画像が前記主画像センサの画像に関連付けられるように配置し、
前記処理部では、前記主画像センサの画像に対する前記従画像センサの画像の関連付けにより前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正して、前記主画像センサ及び前記従画像センサからの補正後の各センサ出力情報に基づいて3D地図を作成する移動体。
a plurality of image sensors that acquire surrounding multi-point distance information;
In a mobile body comprising a processing unit that processes multi-point distance information acquired by the plurality of image sensors and creates a 3D map,
At least one image sensor of the plurality of image sensors is integrally attached with an inertial navigation device for correcting the amount of movement due to shaking included in the multi-point distance information acquired by the image sensor, and is used as a main image sensor; arranging at least one of the plurality of image sensors other than the main image sensor as a secondary image sensor such that an image of the secondary image sensor is associated with an image of the primary image sensor;
In the processing unit, the image of the secondary image sensor is associated with the image of the primary image sensor to correct the movement amount due to shaking included in the multi-point distance information of the secondary image sensor, and A moving object that creates a 3D map based on corrected sensor output information from an image sensor.
前記従画像センサの画像に前記主画像センサの画像内の場所が写るように該従画像センサを配置することで、前記従画像センサの画像を前記主画像センサの画像に関連付け、
前記処理部では、前記主画像センサの画像内の場所に前記従画像センサで写し出した画像の場所を重ね合わせて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正して、前記主画像センサ及び前記従画像センサからの補正後の各センサ出力情報に基づいて3D地図を作成する請求項5に記載の移動体。
associating the image of the secondary image sensor with the image of the primary image sensor by positioning the secondary image sensor such that the image of the secondary image sensor reflects a location within the image of the primary image sensor;
The processing unit superimposes the location of the image captured by the secondary image sensor on the location in the image of the primary image sensor, and corrects the amount of movement due to shaking included in the multi-point distance information of the secondary image sensor. 6. The moving body according to claim 5, wherein a 3D map is created based on corrected sensor output information from the main image sensor and the slave image sensor.
前記主画像センサの画像及び前記従画像センサの画像に前記移動体の形状情報が既知の部材が写り込むように前記主画像センサ及び前記従画像センサを配置することで、前記従画像センサの画像を前記主画像センサの画像に関連付け、
前記処理部では、前記主画像センサ及び前記従画像センサにそれぞれ写り込む前記部材の既知の形状情報に基づいて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正して、前記主画像センサ及び前記従画像センサからの補正後の各センサ出力情報に基づいて3D地図を作成する請求項5に記載の移動体。
By arranging the main image sensor and the slave image sensor such that the member whose shape information of the moving body is known is reflected in the image of the main image sensor and the image of the slave image sensor, the image of the slave image sensor is to the image of the main image sensor,
The processing unit corrects the amount of movement due to shaking included in the multi-point distance information of the secondary image sensor based on known shape information of the member reflected in the primary image sensor and the secondary image sensor. 6. The moving body according to claim 5, wherein a 3D map is created based on corrected sensor output information from the main image sensor and the slave image sensor.
周囲の多点距離情報を取得する複数の画像センサと、
形状情報が既知の可動部材を有し、該可動部材の作動量を検出可能な作動機構と、
前記複数の画像センサで取得した多点距離情報を処理して3D地図を作成する処理部を備えた移動体において、
前記複数の画像センサのうちの少なくとも1つの画像センサに該画像センサが取得した多点距離情報に含まれる揺れによる移動量を補正する慣性航法装置を一体的に取り付けて主画像センサとし、
前記主画像センサに前記作動機構の前記可動部材が写り込むように該主画像センサを配置すると共に、前記作動機構の前記可動部材に前記主画像センサ以外の前記複数の画像センサのうちの少なくとも1つを従画像センサとして配置し、
前記処理部では、前記作動機構の前記可動部材の作動量に基づいて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正して、前記主画像センサ及び前記従画像センサからの補正後の各センサ出力情報に基づいて3D地図を作成する移動体。
a plurality of image sensors that acquire surrounding multi-point distance information;
an actuation mechanism having a movable member whose shape information is known and capable of detecting an actuation amount of the movable member;
In a mobile body comprising a processing unit that processes multi-point distance information acquired by the plurality of image sensors and creates a 3D map,
At least one of the plurality of image sensors is integrally attached with an inertial navigation device for correcting the amount of movement due to shaking included in the multi-point distance information acquired by the image sensor, and is used as a main image sensor;
The main image sensor is arranged so that the movable member of the operating mechanism is reflected on the main image sensor, and at least one of the plurality of image sensors other than the main image sensor is placed on the movable member of the operating mechanism. one as a slave image sensor,
The processing unit corrects the amount of movement due to shake included in the multi-point distance information of the secondary image sensor based on the amount of operation of the movable member of the operating mechanism, and the main image sensor and the secondary image sensor are corrected. A moving body that creates a 3D map based on each sensor output information after correction from.
JP2019028257A 2019-02-20 2019-02-20 IMAGE SENSOR INFORMATION CORRECTION METHOD AND MOVING OBJECT Active JP7206127B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019028257A JP7206127B2 (en) 2019-02-20 2019-02-20 IMAGE SENSOR INFORMATION CORRECTION METHOD AND MOVING OBJECT

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019028257A JP7206127B2 (en) 2019-02-20 2019-02-20 IMAGE SENSOR INFORMATION CORRECTION METHOD AND MOVING OBJECT

Publications (2)

Publication Number Publication Date
JP2020134319A JP2020134319A (en) 2020-08-31
JP7206127B2 true JP7206127B2 (en) 2023-01-17

Family

ID=72262919

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019028257A Active JP7206127B2 (en) 2019-02-20 2019-02-20 IMAGE SENSOR INFORMATION CORRECTION METHOD AND MOVING OBJECT

Country Status (1)

Country Link
JP (1) JP7206127B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023152870A1 (en) * 2022-02-10 2023-08-17 パイオニア株式会社 Information processing device, control method, program, and storage medium

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003344045A (en) 2002-05-29 2003-12-03 Yaskawa Electric Corp Image processing apparatus
JP2013531237A (en) 2010-06-21 2013-08-01 ライカ ジオシステムズ アクチエンゲゼルシャフト Optical measuring method and measuring system for obtaining three-dimensional coordinates on the surface of a measuring object
JP2016540198A (en) 2013-10-23 2016-12-22 レーダー リミテッドLadar Limited Laser detection and ranging device for detecting objects under water
JP2018077196A (en) 2016-11-11 2018-05-17 スタンレー電気株式会社 Monitoring system
WO2018182737A1 (en) 2017-03-31 2018-10-04 Airbus Group Hq, Inc. Systems and methods for calibrating vehicular sensors

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003344045A (en) 2002-05-29 2003-12-03 Yaskawa Electric Corp Image processing apparatus
JP2013531237A (en) 2010-06-21 2013-08-01 ライカ ジオシステムズ アクチエンゲゼルシャフト Optical measuring method and measuring system for obtaining three-dimensional coordinates on the surface of a measuring object
JP2016540198A (en) 2013-10-23 2016-12-22 レーダー リミテッドLadar Limited Laser detection and ranging device for detecting objects under water
JP2018077196A (en) 2016-11-11 2018-05-17 スタンレー電気株式会社 Monitoring system
WO2018182737A1 (en) 2017-03-31 2018-10-04 Airbus Group Hq, Inc. Systems and methods for calibrating vehicular sensors

Also Published As

Publication number Publication date
JP2020134319A (en) 2020-08-31

Similar Documents

Publication Publication Date Title
JP6777375B2 (en) Work machine image display system, work machine remote control system and work machine
JP6794193B2 (en) Image display system for work machines
WO2020241618A1 (en) Map generation system and map generation method
KR102113414B1 (en) Path generation device
KR102089454B1 (en) Measuring system, working machine and measuring method
AU2021201894B2 (en) Shape measuring system and shape measuring method
JP6616837B2 (en) Work vehicle
WO2018043299A1 (en) Work machine graphics display system, work machine remote control system, work machine, and work machine graphics display method
JP7197398B2 (en) Systems, methods, and apparatus for calibrating work machines
WO2017056269A1 (en) Image data generation method
WO2017056266A1 (en) Imaging device
JP7206127B2 (en) IMAGE SENSOR INFORMATION CORRECTION METHOD AND MOVING OBJECT
JP2024052764A (en) Display control device and display method
JP7045926B2 (en) Hydraulic excavator, and system
JP2021182001A (en) Work vehicle
JP2021038649A (en) Image display system for work machine, remote operation system for work machine, work machine, and image display method for work machine
WO2017056267A1 (en) Imaging device
JP7128497B2 (en) Image display system for working machines
JP7536580B2 (en) Display control device and display method
JP7333551B2 (en) Image display system for working machines
JP6923144B2 (en) Image display system for work machines
WO2020241640A1 (en) Display system and display method
CN118521636A (en) Visual positioning and feature detection for implement tracking systems

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211216

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20221108

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20221108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230104

R150 Certificate of patent or registration of utility model

Ref document number: 7206127

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150