JP7206127B2 - IMAGE SENSOR INFORMATION CORRECTION METHOD AND MOVING OBJECT - Google Patents
IMAGE SENSOR INFORMATION CORRECTION METHOD AND MOVING OBJECT Download PDFInfo
- Publication number
- JP7206127B2 JP7206127B2 JP2019028257A JP2019028257A JP7206127B2 JP 7206127 B2 JP7206127 B2 JP 7206127B2 JP 2019028257 A JP2019028257 A JP 2019028257A JP 2019028257 A JP2019028257 A JP 2019028257A JP 7206127 B2 JP7206127 B2 JP 7206127B2
- Authority
- JP
- Japan
- Prior art keywords
- image sensor
- image
- information
- point distance
- distance information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 24
- 238000012937 correction Methods 0.000 title claims description 15
- 238000012545 processing Methods 0.000 claims description 24
- 238000010586 diagram Methods 0.000 description 5
- 239000013585 weight reducing agent Substances 0.000 description 4
- 108010066278 cabin-4 Proteins 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 229910000831 Steel Inorganic materials 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000009420 retrofitting Methods 0.000 description 1
- 239000010959 steel Substances 0.000 description 1
Images
Landscapes
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Optical Radar Systems And Details Thereof (AREA)
Description
本発明は、移動体の周辺地図を作成する段階において、地面や障害物との距離を多点距離情報として取得する画像センサの情報補正方法及び画像センサを複数搭載した移動体に関するものである。 The present invention relates to an image sensor information correction method for acquiring distances to the ground and obstacles as multi-point distance information at the stage of creating a surrounding map of a mobile object, and to a mobile object equipped with a plurality of image sensors.
従来、周囲の多点距離情報を取得する画像センサを複数搭載した移動体としては、例えば、特許文献1に記載されたものがある。
この特許文献1に記載された移動体は、移動ロボットであって、レーザ光を走査して移動方向前方側の距離を計測する画像センサとしての2つのLRF(Laser Range Finder;レーザレンジファインダ)と、これらのLRFで取得した多数の距離情報を処理して3D地図を作成する処理部を備えている。
2. Description of the Related Art Conventionally, as a moving object equipped with a plurality of image sensors for obtaining multi-point distance information, there is one described in
The moving body described in
この場合、2つのLRFにはINS(Inertial Navigation System;慣性航法装置)が一体的に取り付けられており、処理部では、LRFで取得した多点距離情報に含まれる揺れによる移動量をINSの情報に基づいて補正して、補正後の各多点距離情報に基づいて3D地図を作成するようになっている。 In this case, the two LRFs are integrally equipped with an INS (Inertial Navigation System). , and a 3D map is created based on each multi-point distance information after correction.
ここで、画像センサとしてのLRFを多数搭載する移動ロボット、例えば、多数のLRFを後付けしてロボット化したパワーショベル等の建設機械において、LRFで取得する多点情報に揺れの影響が及ばないように多数のLRFの全てを剛性高く取り付けることは実際問題として困難である。 Here, in a mobile robot equipped with a large number of LRFs as an image sensor, for example, a construction machine such as a power shovel that is robotized by retrofitting a large number of LRFs, it is necessary to prevent the multi-point information acquired by the LRFs from being affected by shaking. It is practically difficult to rigidly attach all of the large number of LRFs to the .
このため、正確な多点情報を取得するためには、多数のLRFの全てに上記したINSを一体で取り付けたり、近隣に配置されるLRF同士を高剛性の取り付け具を用いて連結したりする必要があるが、LRFの全てにINSを一体で取り付ける場合には、コストが嵩むのを避けることがでず、一方、近隣のLRF同士を高剛性の取り付け具で連結する場合には、重量増及び大型化を招いてしまうという問題があり、この問題を解決することが従来の課題となっていた。 Therefore, in order to obtain accurate multi-point information, the above-mentioned INS are integrally attached to all of a large number of LRFs, or LRFs arranged in the vicinity are connected using a high-rigidity attachment. However, if the INS are integrally attached to all of the LRFs, the cost is unavoidable. And there is a problem that it invites an increase in size, and solving this problem has been a conventional problem.
本発明は、上記した従来の課題に着目してなされたもので、例えばLRFを多数搭載する移動ロボットに採用した場合において、LRFによる正確な多点情報の取得を実現したうえで、情報取得コストを低く抑えると共に、小型軽量化をも実現することができる画像センサの情報補正方法及び移動体を提供することを目的としている。 The present invention has been made with a focus on the above-mentioned conventional problems. It is an object of the present invention to provide an information correcting method for an image sensor and a moving body capable of suppressing the .
本発明の第1の態様は、移動体に複数搭載された周囲の多点距離情報を取得する画像センサの前記多点距離情報を補正する画像センサの情報補正方法であって、前記複数の画像センサのうちの少なくとも1つの画像センサに該画像センサが取得した多点距離情報に含まれる揺れによる移動量を補正する慣性航法装置を一体的に取り付けて主画像センサとすると共に、該主画像センサ以外の前記複数の画像センサのうちの少なくとも1つを従画像センサとして該従画像センサの画像が前記主画像センサの画像に関連付けられるように配置し、前記主画像センサの画像に対する前記従画像センサの画像の関連付けにより前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正する構成としている。 A first aspect of the present invention is an image sensor information correcting method for correcting multi-point distance information of an image sensor that acquires multi-point distance information around a plurality of image sensors mounted on a moving object, the method comprising: At least one image sensor of the sensors is integrally attached with an inertial navigation system that corrects the amount of movement due to shaking included in the multi-point distance information acquired by the image sensor, and is used as a main image sensor, and the main image sensor. at least one of the plurality of image sensors other than the image sensor is arranged as a secondary image sensor so that an image of the secondary image sensor is associated with an image of the primary image sensor, and the secondary image sensor with respect to the image of the primary image sensor The movement amount due to shaking included in the multi-point distance information of the secondary image sensor is corrected by associating the images.
本発明の第2の態様は、前記従画像センサの画像に前記主画像センサの画像内の場所が写るように該従画像センサを配置することで、前記従画像センサの画像を前記主画像センサの画像に関連付け、前記主画像センサの画像内の場所に前記従画像センサで写し出した画像の場所を重ね合わせて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正する構成としている。 In a second aspect of the present invention, the image of the secondary image sensor is arranged so that the image of the secondary image sensor reflects the location in the image of the primary image sensor. and superimposing the location of the image captured by the secondary image sensor on the location in the image of the primary image sensor to correct the amount of movement due to shaking included in the multi-point distance information of the secondary image sensor. It is configured.
本発明の第3の態様は、前記主画像センサの画像及び前記従画像センサの画像に前記移動体の形状情報が既知の部材が写り込むように前記主画像センサ及び前記従画像センサを配置することで、前記従画像センサの画像を前記主画像センサの画像に関連付け、前記主画像センサ及び前記従画像センサにそれぞれ写り込む前記部材の既知の形状情報に基づいて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正する構成としている。 In a third aspect of the present invention, the main image sensor and the secondary image sensor are arranged so that a member whose shape information of the moving object is known is reflected in the image of the main image sensor and the image of the secondary image sensor. Thus, the image of the secondary image sensor is associated with the image of the primary image sensor, and based on the known shape information of the member reflected in the primary image sensor and the secondary image sensor, the multiple It is configured to correct the amount of movement due to shaking included in the point distance information.
本発明の第4の態様は、移動体に複数搭載された周囲の多点距離情報を取得する画像センサの前記多点距離情報を補正する画像センサの情報補正方法であって、形状情報が既知の可動部材を有し、該可動部材の作動量を検出可能な作動機構を前記移動体が備えている場合において、前記複数の画像センサのうちの少なくとも1つの画像センサに該画像センサが取得した多点距離情報に含まれる揺れによる移動量を補正する慣性航法装置を一体的に取り付けて主画像センサとし、前記主画像センサに前記作動機構の前記可動部材が写り込むように該主画像センサを配置すると共に、前記作動機構の前記可動部材に前記主画像センサ以外の前記複数の画像センサのうちの少なくとも1つを従画像センサとして配置し、前記作動機構の前記可動部材の作動量に基づいて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正する構成としている。 A fourth aspect of the present invention is an image sensor information correcting method for correcting the multi-point distance information of an image sensor that acquires multi-point distance information around a plurality of image sensors mounted on a moving body, wherein the shape information is known. and the moving body includes an actuation mechanism capable of detecting an actuation amount of the movable member, at least one image sensor out of the plurality of image sensors acquires An inertial navigation system that corrects the amount of movement due to shaking included in the multi-point distance information is integrally attached as a main image sensor, and the main image sensor is mounted so that the movable member of the operating mechanism is reflected in the main image sensor. and at least one of the plurality of image sensors other than the main image sensor is arranged as a slave image sensor on the movable member of the actuation mechanism, and based on the actuation amount of the movable member of the actuation mechanism , the amount of movement due to shaking included in the multi-point distance information of the secondary image sensor is corrected.
一方、本発明の第5の態様は、周囲の多点距離情報を取得する複数の画像センサと、前記複数の画像センサで取得した多点距離情報を処理して3D地図を作成する処理部を備えた移動体において、前記複数の画像センサのうちの少なくとも1つの画像センサに該画像センサが取得した多点距離情報に含まれる揺れによる移動量を補正する慣性航法装置を一体的に取り付けて主画像センサとすると共に、該主画像センサ以外の前記複数の画像センサのうちの少なくとも1つを従画像センサとして該従画像センサの画像が前記主画像センサの画像に関連付けられるように配置し、前記処理部では、前記主画像センサの画像に対する前記従画像センサの画像の関連付けにより前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正して、前記主画像センサ及び前記従画像センサからの補正後の各センサ出力情報に基づいて3D地図を作成する構成としている。 On the other hand, according to a fifth aspect of the present invention, a plurality of image sensors for acquiring surrounding multi-point distance information and a processing unit for processing the multi-point distance information acquired by the plurality of image sensors to create a 3D map are provided. in a moving object equipped with an inertial navigation system that is integrally attached to at least one image sensor among the plurality of image sensors and corrects the amount of movement due to shaking included in the multi-point distance information acquired by the image sensor. an image sensor, and at least one of the plurality of image sensors other than the main image sensor is arranged as a secondary image sensor so that an image of the secondary image sensor is associated with an image of the primary image sensor, The processing unit corrects the amount of movement due to shake included in the multi-point distance information of the secondary image sensor by associating the image of the secondary image sensor with the image of the primary image sensor, and A 3D map is created based on each sensor output information after correction from the sensor.
本発明の第6の態様は、前記従画像センサの画像に前記主画像センサの画像内の場所が写るように該従画像センサを配置することで、前記従画像センサの画像を前記主画像センサの画像に関連付け、前記処理部では、前記主画像センサの画像内の場所に前記従画像センサで写し出した画像の場所を重ね合わせて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正して、前記主画像センサ及び前記従画像センサからの補正後の各センサ出力情報に基づいて3D地図を作成する構成としている。 In a sixth aspect of the present invention, the image of the secondary image sensor is arranged so that the image of the secondary image sensor reflects the location in the image of the primary image sensor, and the image of the secondary image sensor is projected onto the image of the primary image sensor. and the processing unit superimposes the location of the image captured by the secondary image sensor on the location in the image of the main image sensor, and the location of the image captured by the secondary image sensor is determined by the shake included in the multi-point distance information of the secondary image sensor. A movement amount is corrected, and a 3D map is created based on corrected sensor output information from the main image sensor and the sub-image sensor.
本発明の第7の態様は、前記主画像センサの画像及び前記従画像センサの画像に前記移動体の形状情報が既知の部材が写り込むように前記主画像センサ及び前記従画像センサを配置することで、前記従画像センサの画像を前記主画像センサの画像に関連付け、前記処理部では、前記主画像センサ及び前記従画像センサにそれぞれ写り込む前記部材の既知の形状情報に基づいて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正して、前記主画像センサ及び前記従画像センサからの補正後の各センサ出力情報に基づいて3D地図を作成する構成としている。 In a seventh aspect of the present invention, the main image sensor and the secondary image sensor are arranged so that a member whose shape information of the moving object is known is reflected in the image of the main image sensor and the image of the secondary image sensor. Thus, the image of the secondary image sensor is associated with the image of the primary image sensor, and the processing unit determines the secondary image sensor based on the known shape information of the member reflected in the primary image sensor and the secondary image sensor, respectively. A 3D map is created based on corrected sensor output information from the main image sensor and the slave image sensor by correcting the amount of movement due to shaking included in the multi-point distance information of the image sensor.
本発明の第8の態様は、周囲の多点距離情報を取得する複数の画像センサと、形状情報が既知の可動部材を有し、該可動部材の作動量を検出可能な作動機構と、前記複数の画像センサで取得した多点距離情報を処理して3D地図を作成する処理部を備えた移動体において、前記複数の画像センサのうちの少なくとも1つの画像センサに該画像センサが取得した多点距離情報に含まれる揺れによる移動量を補正する慣性航法装置を一体的に取り付けて主画像センサとし、前記主画像センサに前記作動機構の前記可動部材が写り込むように該主画像センサを配置すると共に、前記作動機構の前記可動部材に前記主画像センサ以外の前記複数の画像センサのうちの少なくとも1つを従画像センサとして配置し、前記処理部では、前記作動機構の前記可動部材の作動量に基づいて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正して、前記主画像センサ及び前記従画像センサからの補正後の各センサ出力情報に基づいて3D地図を作成する構成としている。 According to an eighth aspect of the present invention, a plurality of image sensors for acquiring surrounding multi-point distance information, an operating mechanism having a movable member whose shape information is known, and capable of detecting the amount of operation of the movable member, In a moving object having a processing unit that processes multi-point distance information acquired by a plurality of image sensors to create a 3D map, at least one image sensor among the plurality of image sensors acquires a multi-point distance information acquired by the image sensor. A main image sensor is formed by integrally attaching an inertial navigation system that corrects the amount of movement due to shaking included in the point distance information, and the main image sensor is arranged so that the movable member of the operating mechanism is reflected in the main image sensor. At least one of the plurality of image sensors other than the main image sensor is arranged as a secondary image sensor on the movable member of the operating mechanism, and the processing unit operates the movable member of the operating mechanism. A 3D map is generated based on each sensor output information after correction from the main image sensor and the slave image sensor by correcting the movement amount due to shaking included in the multi-point distance information of the slave image sensor based on the amount. is configured to create
本発明に係る画像センサの情報補正方法では、例えばLRFを多数搭載する移動ロボットに採用した場合において、LRFによる正確な多点情報の取得を実現したうえで、情報取得コストを低く抑えると共に、小型軽量化をも実現することが可能であるという非常に優れた効果がもたらされる。 In the image sensor information correction method according to the present invention, for example, when it is adopted in a mobile robot equipped with a large number of LRFs, it is possible to obtain accurate multi-point information by the LRFs, reduce the information acquisition cost, and reduce the size of the robot. A very good effect is brought about that it is also possible to realize weight reduction.
以下、本発明の実施形態を図面に基づいて説明する。
図1~図4は、本発明の一実施形態に係る画像センサの情報補正方法を採用した移動体としての油圧ショベルを示している。
BEST MODE FOR CARRYING OUT THE INVENTION An embodiment of the present invention will be described below with reference to the drawings.
FIGS. 1 to 4 show a hydraulic excavator as a moving body that employs an image sensor information correction method according to an embodiment of the present invention.
図1に示すように、油圧ショベル1は、クローラ2を左右に有する下部走行体3と、この下部走行体3の上方に配置されてキャビン4及び作業装置5を有する上部旋回体6を備えており、この上部旋回体6の作業装置5は、油圧により作動するブーム51,アーム52及びバケット53を具備している。
As shown in FIG. 1, a
下部走行体3のクローラ2は、車載された原動機により駆動されるようになっているが、このクローラ2に代えて、インホールモータ又は原動機により駆動される車輪を前後左右に配置するようにしてもよい。上部旋回体6の作業装置5のバケット53に代えて、他の作業具として、例えば、鉄骨切断具やつかみ具をアーム52に装着してもよい。
The
また、油圧ショベル1は、上部旋回体6のキャビン4の天井4a及び前部4bにそれぞれ配置された画像センサとしてのLRF7,8を備えている。
この場合、キャビン4の天井4aに配置されたLRF7は、図2にも示すように、取り付け具9を介してINS(慣性航法装置)10と抱き合わせて取り付けられている。
The
In this case, the
このような作業装置5及びLRF7,8を備えた油圧ショベル1は、上部旋回体6に搭載された車載制御装置20を備えている。なお、この車載制御装置20と相互にデータ通信を行うオペレータ操作用の遠隔操縦装置を備えた構成としてもよい。
The
車載制御装置20は、油圧ショベル1の自己位置を検出する位置センサと、油圧ショベル1の方向を検出する方向センサと、主コンピュータと、送受信機と、バッテリとから主として構成されており、位置センサには、例えば、GPSが採用され、方向センサには、例えば、加速度計や磁気センサが採用される。
The in-
この車載制御装置20における主コンピュータは画像処理手段40を具備しており、 この画像処理手段40は、図3に示すように、メモリ部41及び処理部42を有している。メモリ部41には、LRF7,8による多点距離情報と、INS10で取得した揺れによる移動量情報(揺れた際の加速度を2回積分して得られる移動量情報)と、多点距離情報取得時におけるLRF7,8の互いの位置関係情報が記録されるほか、油圧ショベル1の位置及び方向情報や作業装置5の形状情報や作業装置5の姿勢情報が記録される。
The main computer in this vehicle-mounted
この際、油圧ショベル1の位置及び方向情報は、前述したように、位置センサ及び方向センサによって検出されるデータである。また、作業装置5の形状情報は、予め設定されているデータであり、作業装置5のブーム51及びアーム52の各諸寸法である。さらに、作業装置5の姿勢情報は、ブーム51及びアーム52をそれぞれ回動させる際の各サーボモータの回転角度により得られるデータである。
At this time, the position and direction information of the
この実施形態において、INS10を一体的に取り付けたLRF7を主画像センサとすると共に他のLRF8を従画像センサとして、図4に示すように、従画像センサであるLRF8の画像LVに主画像センサであるLRF7の画像UVの一部が重複するように(図示例ではLRF8の画像LVにLRF7の画像UV内に写し出されているバケット53上のマークMが写るように)LRF8を配置することで、このLRF8の画像LVをLRF7の画像UVに関連付けている。
In this embodiment, the LRF 7 to which the INS 10 is integrally attached is used as the main image sensor, and the
つまり、この車載制御装置20における主コンピュータの画像処理手段40において、油圧ショベル1に搭載した2つLRF7,8で周囲の多点距離情報を取得して、3D地図を作成する場合には、まず、メモリ部41において、LRF7,8により取得した多点距離情報と、INS10で取得した揺れによる移動量情報と、多点距離情報取得時におけるLRF7,8の互いの位置関係情報が記録される。
In other words, in the image processing means 40 of the main computer in the on-
次いで、処理部42において、主画像センサであるLRF7の多点距離情報に含まれる揺れによる移動量がINS10で取得した情報により補正され、その一方で、主画像センサであるLRF7のマークMを含む画像UVと従画像センサであるLRF8で取得した画像LVとの重複部分によって、従画像センサであるLRF8の多点距離情報に含まれる揺れによる移動量が補正される。
ここで、主画像センサであるLRF7のマークMを含む画像UVと従画像センサであるLRF8で取得した画像LVとの重ね合わせは、公知技術であるIPCアルゴリズム(Iterative Closest Point Algorithm;反復最近接点アルゴリズム)を用いて行うものとしている。
そして、主画像センサであるLRF7及び従画像センサであるLRF8からの補正後の各センサ出力(移動量)に基づいて3D地図情報の更新が成される。
Next, in the
Here, the image UV including the mark M of the main image sensor LRF7 and the image LV acquired by the secondary image sensor LRF8 are superimposed using a well-known IPC algorithm (Iterative Closest Point Algorithm). ) shall be used.
Then, the 3D map information is updated based on corrected sensor outputs (movement amounts) from LRF7, which is the main image sensor, and LRF8, which is the secondary image sensor.
具体的には、INS10の情報により補正された主画像センサであるLRF7の画像UVにおいてマークMまでの測定距離が、例えば、3mであり、INS10が一体化されていない従画像センサであるLRF8の画像LVにおけるマークMまでの測定距離が、例えば、2.8mである場合に、従画像センサであるLRF8で取得した画像LVに揺れによる、例えば、実際の距離よりもマイナス側に測定してしまうような0.1mの移動量があったとしても、従画像センサであるLRF8で取得した画像LVと主画像センサであるLRF7のマークMを含む画像UVとが重複することによって、LRF8のマークMまでの測定距離が2.9mに補正され、主画像センサであるLRF7及び従画像センサであるLRF8からの補正後の各センサ出力(移動量)情報に基づいて3D地図情報の更新が成される。 Specifically, the measurement distance to the mark M in the image UV of LRF7, which is the main image sensor corrected by the information of INS10, is, for example, 3 m, and LRF8, which is the slave image sensor in which INS10 is not integrated. When the measured distance to the mark M in the image LV is, for example, 2.8 m, the image LV acquired by the slave image sensor LRF8 is shaken, for example, the actual distance is measured on the minus side. Even if there is such a movement amount of 0.1 m, the image LV acquired by the secondary image sensor LRF8 and the image UV including the mark M of LRF7 as the main image sensor overlap, so that the mark M of LRF8 The measured distance to is corrected to 2.9 m, and the 3D map information is updated based on the sensor output (movement amount) information after correction from LRF7, which is the main image sensor, and LRF8, which is the secondary image sensor. .
上記したように、この実施形態の油圧ショベル1では、画像センサとしての2つのLRF7,8の一方のLRF7にINS10を剛性高く抱き合わせて一体化したうえで、従画像センサであるLRF8の画像LV及び主画像センサであるLRF7の画像UVの一部が重複するようにLRF7,8をそれぞれ配置したので、他方のLRF8にINS10を一体で取り付けたり、LRF7,8同士を高剛性の取り付け具を用いて連結したりすることなく、LRF8による正確な多点情報を取得することが可能である。
As described above, in the
したがって、他方のLRF8にINS10を一体で取り付ける必要がない分だけ、情報取得コストを低く抑えることができ、LRF7,8同士を高剛性の取り付け具を用いて連結しなくても済む分だけ、小型軽量化をも実現し得ることとなる。
Therefore, since the
図5~図7は、本発明の他の実施形態に係る画像センサの情報補正方法を採用した移動体としての油圧ショベルを示している。 FIGS. 5 to 7 show a hydraulic excavator as a moving body employing an image sensor information correcting method according to another embodiment of the present invention.
図5に示すように、この油圧ショベル1Aが先の一実施形態に係る油圧ショベル1と構造上相違するところは、INS10を一体的に取り付けた主画像センサであるLRF7Aを上部旋回体6のキャビン4後方に支柱6aを介して取り付けた点にある。
As shown in FIG. 5, this
この実施形態において、車載制御装置20における画像処理手段40のメモリ部41には、図6に示すように、LRF7A,8による多点距離情報と、INS10で取得した揺れによる移動量情報と、LRF7A,8の多点距離情報取得時における位置関係の情報と、作業装置5の形状情報が記録されるほか、油圧ショベル1の位置及び方向情報や作業装置5の姿勢情報が記録される。
In this embodiment, as shown in FIG. 6, the
そして、この実施形態において、図7に示すように、INS10を一体的に取り付けた主画像センサであるLRF7Aの画像UV及び従画像センサである他のLRF8の画像LVに、油圧ショベル1Aの作業装置5における形状情報が既知のアーム52の端部52a,52bが写り込むようにLRF7A,8を配置することで、LRF8の画像LVをLRF7Aの画像UVに関連付けている。
In this embodiment, as shown in FIG. 7, the image UV of the main image sensor LRF7A and the image LV of the other LRF8 that is the secondary image sensor to which the
つまり、この車載制御装置20における主コンピュータの画像処理手段40において、油圧ショベル1に搭載した2つLRF7A,8で周囲の多点距離情報を取得して、3D地図を作成する場合には、メモリ部41において、LRF7A,8により取得した多点距離情報と、INS10で取得した揺れによる移動量情報と、LRF7A,8の多点距離情報取得時における位置関係の情報と、作業装置5のアーム52の形状情報が記録される。
In other words, in the image processing means 40 of the main computer in the vehicle-mounted
そして、処理部42において、主画像センサであるLRF7Aの多点距離情報に含まれる揺れによる移動量がINS10で取得した情報により補正され、その一方で、主画像センサであるLRF7Aの画像UV及び従画像センサであるLRF8の画像LVにそれぞれ写り込む油圧ショベル1Aの作業装置5におけるアーム52の端部52a,52bの形状情報及び姿勢情報(空間位置情報)に基づいて、従画像センサであるLRF8の多点距離情報に含まれる揺れによる移動量が補正され、主画像センサであるLRF7A及び従画像センサであるLRF8からの補正後の各センサ出力(移動量)情報に基づいて3D地図情報の更新が成される。
Then, in the
具体的には、INS10の情報により補正された主画像センサであるLRF7Aの画像UVにおいて作業装置5のアーム52までの測定距離が、例えば、4mであり、INS10が一体化されていない従画像センサであるLRF8の画像LVにおけるマークMまでの測定距離が、例えば、3.8mである場合に、従画像センサであるLRF8で取得した画像LVに揺れによる、例えば、実際の距離よりもマイナス側に測定してしまうような0.1mの移動量があったとしても、主画像センサであるLRF7Aの画像UV及び従画像センサであるLRF8の画像LVにそれぞれ写り込む油圧ショベル1Aの作業装置5におけるアーム52の端部52a,52bの形状情報及び姿勢情報に基づいて、LRF8の作業装置5におけるアーム52までの測定距離が3.9mに補正され、主画像センサであるLRF7A及び従画像センサであるLRF8からの補正後の各センサ出力(移動量)情報に基づいて3D地図情報の更新が成される。
Specifically, the measurement distance to the
上記したように、この実施形態の油圧ショベル1Aにあっても、画像センサとしての2つのLRF7A,8の一方のLRF7AにINS10を剛性高く抱き合わせて一体化したうえで、従画像センサであるLRF8の画像LV及び主画像センサであるLRF7の画像UVに油圧ショベル1Aの作業装置5における形状情報が既知のアーム52が写り込むようにLRF7A,8を配置したので、他方のLRF8にINS10を一体で取り付けたり、LRF7A,8同士を高剛性の取り付け具を用いて連結したりすることなく、LRF8による正確な多点情報を取得することが可能である。
As described above, even in the
したがって、他方のLRF8にINS10を一体で取り付ける必要がない分だけ、情報取得コストを低く抑えることができ、LRF7A,8同士を高剛性の取り付け具を用いて連結しなくても済む分だけ、小型軽量化をも実現し得ることとなる。
Therefore, since the
図8は、本発明のさらに他の実施形態に係る画像センサの情報補正方法を採用した移動体としての油圧ショベルの作業装置5を示している。
FIG. 8 shows a working
図8に示すように、この実施形態では、INS10を一体で取り付けた主画像センサであるLRF7(図示省略)の画像UVに作業装置5におけるアーム52の一方の端部52aが写り込むようにLRF7を配置すると共に、作業装置5における形状情報が既知のアーム52の他方の端部52bに接続するバケット53に従画像センサとしてのLRF8Aを配置するようにしている。この際、アーム52の他方の端部52bに接続するバケット53の図示矢印方向の作動量は回転センサ12により得られるようになっている。
As shown in FIG. 8, in this embodiment, the LRF 7 (not shown), which is the main image sensor to which the
この実施形態では、処理部42(図示省略)において、主画像センサであるLRF7Aの多点距離情報に含まれる揺れによる移動量がINS10で取得した情報により補正される。その一方で、主画像センサであるLRF7の画像UVに一方の端部52aが写り込むアーム52の他方の端部52bに接続するバケット53の作動量が、回転センサ12により計測され、バケット53の形状情報,姿勢情報(空間位置情報)及び回転センサ12により得られるバケット53の作動量に基づいて、従画像センサであるLRF8Aの多点距離情報に含まれる揺れによる移動量を補正して、主画像センサであるLRF7及び従画像センサであるLRF8Aからの補正後の各センサ出力(移動量)情報に基づいて3D地図情報の更新が成されるようにしている。
In this embodiment, in the processing unit 42 (not shown), the amount of movement due to shaking included in the multi-point distance information of the
この実施形態にあっても、画像センサとしての2つのLRF7,8の一方のLRF7にINS10を剛性高く抱き合わせて一体化したうえで、主画像センサであるLRF7の画像UVに一方の端部52aが写り込む形状情報が既知のアーム52の他方の端部52bに接続するバケット53に従画像センサであるLRF8を配置したので、他方のLRF8にINS10を一体で取り付けたり、LRF7A,8同士を高剛性の取り付け具を用いて連結したりすることなく、LRF8による正確な多点情報を取得することが可能である。
Even in this embodiment, the
したがって、他方のLRF8にINS10を一体で取り付ける必要がない分だけ、情報取得コストを低く抑えることができ、LRF7A,8同士を高剛性の取り付け具を用いて連結しなくても済む分だけ、小型軽量化をも実現し得ることとなる。
Therefore, since the
なお、この実施形態では、作業装置5におけるバケット53の作動量を回転センサ12により得るようにしているが、これに限定されるものではなく、バケット53の作動量を他の画像センサや車載カメラで検出するようにしてもよい。
In this embodiment, the operation amount of the
上記した各実施形態では、複数の画像センサを搭載した移動体がいずれも油圧ショベルである場合を例に挙げて説明したが、移動体は油圧ショベルに限定されない。
また、上記した各実施形態では、周囲の多点距離情報を取得するLRF(画像センサ)をいずれも移動体に2個搭載して、一方のLRFにINS(慣性航法装置)を一体的に取り付けて主画像センサとし、他方のLRFを従画像センサとした構成としているが、この構成に限定されるものではなく、周囲の多点距離情報を取得するLRFを移動体に3個以上搭載して、そのうちの一つのLRFにINSを一体的に取り付けて主画像センサとする構成としてもよい。
本発明に係る画像センサの情報補正方法及び移動体の構成は、上記した実施形態の構成に限定されるものではなく、本発明の要旨を逸脱しなければ、構成の細部を適宜変更することが可能である。
In each of the above-described embodiments, a case in which the moving bodies equipped with a plurality of image sensors are all hydraulic excavators has been described as an example, but the moving bodies are not limited to hydraulic excavators.
Further, in each of the above-described embodiments, two LRFs (image sensors) for acquiring surrounding multi-point distance information are mounted on the moving body, and an INS (inertial navigation system) is integrally attached to one of the LRFs. One LRF is used as a main image sensor and the other LRF is used as a secondary image sensor, but the configuration is not limited to this. , and an INS may be integrally attached to one of the LRFs to form a main image sensor.
The image sensor information correction method and the structure of the moving body according to the present invention are not limited to the structure of the above-described embodiment, and the details of the structure may be changed as appropriate without departing from the gist of the present invention. It is possible.
1 油圧ショベル(移動体)
5 作業装置(作動機構)
7,7A LRF(主画像センサ)
8,8A LRF(従画像センサ)
10 INS(慣性航法装置)
12 回転センサ
42 処理部
51 ブーム
52 アーム(形状情報が既知の部材)
52a,52b アームの端部
53 バケット(可動部材)
LV 主画像センサの画像
M マーク
UV 従画像センサの画像
1 Hydraulic excavator (moving body)
5 Working device (actuating mechanism)
7,7A LRF (main image sensor)
8,8A LRF (slave image sensor)
10 INS (Inertial Navigation System)
12
52a,
LV image of main image sensor M mark UV image of secondary image sensor
Claims (8)
前記複数の画像センサのうちの少なくとも1つの画像センサに該画像センサが取得した多点距離情報に含まれる揺れによる移動量を補正する慣性航法装置を一体的に取り付けて主画像センサとすると共に、該主画像センサ以外の前記複数の画像センサのうちの少なくとも1つを従画像センサとして該従画像センサの画像が前記主画像センサの画像に関連付けられるように配置し、
前記主画像センサの画像に対する前記従画像センサの画像の関連付けにより前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正する画像センサの情報補正方法。 An image sensor information correcting method for correcting multi-point distance information of an image sensor that acquires surrounding multi-point distance information mounted in a plurality of moving bodies, comprising:
At least one image sensor of the plurality of image sensors is integrally attached with an inertial navigation device for correcting the amount of movement due to shaking included in the multi-point distance information acquired by the image sensor, and is used as a main image sensor; arranging at least one of the plurality of image sensors other than the main image sensor as a secondary image sensor such that an image of the secondary image sensor is associated with an image of the primary image sensor;
An image sensor information correcting method for correcting a movement amount due to shake included in the multi-point distance information of the slave image sensor by associating the image of the slave image sensor with the image of the master image sensor.
形状情報が既知の可動部材を有し、該可動部材の作動量を検出可能な作動機構を前記移動体が備えている場合において、
前記複数の画像センサのうちの少なくとも1つの画像センサに該画像センサが取得した多点距離情報に含まれる揺れによる移動量を補正する慣性航法装置を一体的に取り付けて主画像センサとし、
前記主画像センサに前記作動機構の前記可動部材が写り込むように該主画像センサを配置すると共に、前記作動機構の前記可動部材に前記主画像センサ以外の前記複数の画像センサのうちの少なくとも1つを従画像センサとして配置し、
前記作動機構の前記可動部材の作動量に基づいて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正する画像センサの情報補正方法。 An image sensor information correcting method for correcting multi-point distance information of an image sensor that acquires surrounding multi-point distance information mounted in a plurality of moving bodies, comprising:
When the movable body has a movable member whose shape information is known, and the moving body is provided with an actuation mechanism capable of detecting the amount of actuation of the movable member,
At least one of the plurality of image sensors is integrally attached with an inertial navigation device for correcting the amount of movement due to shaking included in the multi-point distance information acquired by the image sensor, and is used as a main image sensor;
The main image sensor is arranged so that the movable member of the operating mechanism is reflected on the main image sensor, and at least one of the plurality of image sensors other than the main image sensor is placed on the movable member of the operating mechanism. one as a slave image sensor,
An image sensor information correcting method for correcting the amount of movement due to shake included in the multi-point distance information of the slave image sensor based on the amount of operation of the movable member of the actuation mechanism.
前記複数の画像センサで取得した多点距離情報を処理して3D地図を作成する処理部を備えた移動体において、
前記複数の画像センサのうちの少なくとも1つの画像センサに該画像センサが取得した多点距離情報に含まれる揺れによる移動量を補正する慣性航法装置を一体的に取り付けて主画像センサとすると共に、該主画像センサ以外の前記複数の画像センサのうちの少なくとも1つを従画像センサとして該従画像センサの画像が前記主画像センサの画像に関連付けられるように配置し、
前記処理部では、前記主画像センサの画像に対する前記従画像センサの画像の関連付けにより前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正して、前記主画像センサ及び前記従画像センサからの補正後の各センサ出力情報に基づいて3D地図を作成する移動体。 a plurality of image sensors that acquire surrounding multi-point distance information;
In a mobile body comprising a processing unit that processes multi-point distance information acquired by the plurality of image sensors and creates a 3D map,
At least one image sensor of the plurality of image sensors is integrally attached with an inertial navigation device for correcting the amount of movement due to shaking included in the multi-point distance information acquired by the image sensor, and is used as a main image sensor; arranging at least one of the plurality of image sensors other than the main image sensor as a secondary image sensor such that an image of the secondary image sensor is associated with an image of the primary image sensor;
In the processing unit, the image of the secondary image sensor is associated with the image of the primary image sensor to correct the movement amount due to shaking included in the multi-point distance information of the secondary image sensor, and A moving object that creates a 3D map based on corrected sensor output information from an image sensor.
前記処理部では、前記主画像センサの画像内の場所に前記従画像センサで写し出した画像の場所を重ね合わせて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正して、前記主画像センサ及び前記従画像センサからの補正後の各センサ出力情報に基づいて3D地図を作成する請求項5に記載の移動体。 associating the image of the secondary image sensor with the image of the primary image sensor by positioning the secondary image sensor such that the image of the secondary image sensor reflects a location within the image of the primary image sensor;
The processing unit superimposes the location of the image captured by the secondary image sensor on the location in the image of the primary image sensor, and corrects the amount of movement due to shaking included in the multi-point distance information of the secondary image sensor. 6. The moving body according to claim 5, wherein a 3D map is created based on corrected sensor output information from the main image sensor and the slave image sensor.
前記処理部では、前記主画像センサ及び前記従画像センサにそれぞれ写り込む前記部材の既知の形状情報に基づいて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正して、前記主画像センサ及び前記従画像センサからの補正後の各センサ出力情報に基づいて3D地図を作成する請求項5に記載の移動体。 By arranging the main image sensor and the slave image sensor such that the member whose shape information of the moving body is known is reflected in the image of the main image sensor and the image of the slave image sensor, the image of the slave image sensor is to the image of the main image sensor,
The processing unit corrects the amount of movement due to shaking included in the multi-point distance information of the secondary image sensor based on known shape information of the member reflected in the primary image sensor and the secondary image sensor. 6. The moving body according to claim 5, wherein a 3D map is created based on corrected sensor output information from the main image sensor and the slave image sensor.
形状情報が既知の可動部材を有し、該可動部材の作動量を検出可能な作動機構と、
前記複数の画像センサで取得した多点距離情報を処理して3D地図を作成する処理部を備えた移動体において、
前記複数の画像センサのうちの少なくとも1つの画像センサに該画像センサが取得した多点距離情報に含まれる揺れによる移動量を補正する慣性航法装置を一体的に取り付けて主画像センサとし、
前記主画像センサに前記作動機構の前記可動部材が写り込むように該主画像センサを配置すると共に、前記作動機構の前記可動部材に前記主画像センサ以外の前記複数の画像センサのうちの少なくとも1つを従画像センサとして配置し、
前記処理部では、前記作動機構の前記可動部材の作動量に基づいて、前記従画像センサの前記多点距離情報に含まれる揺れによる移動量を補正して、前記主画像センサ及び前記従画像センサからの補正後の各センサ出力情報に基づいて3D地図を作成する移動体。 a plurality of image sensors that acquire surrounding multi-point distance information;
an actuation mechanism having a movable member whose shape information is known and capable of detecting an actuation amount of the movable member;
In a mobile body comprising a processing unit that processes multi-point distance information acquired by the plurality of image sensors and creates a 3D map,
At least one of the plurality of image sensors is integrally attached with an inertial navigation device for correcting the amount of movement due to shaking included in the multi-point distance information acquired by the image sensor, and is used as a main image sensor;
The main image sensor is arranged so that the movable member of the operating mechanism is reflected on the main image sensor, and at least one of the plurality of image sensors other than the main image sensor is placed on the movable member of the operating mechanism. one as a slave image sensor,
The processing unit corrects the amount of movement due to shake included in the multi-point distance information of the secondary image sensor based on the amount of operation of the movable member of the operating mechanism, and the main image sensor and the secondary image sensor are corrected. A moving body that creates a 3D map based on each sensor output information after correction from.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019028257A JP7206127B2 (en) | 2019-02-20 | 2019-02-20 | IMAGE SENSOR INFORMATION CORRECTION METHOD AND MOVING OBJECT |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019028257A JP7206127B2 (en) | 2019-02-20 | 2019-02-20 | IMAGE SENSOR INFORMATION CORRECTION METHOD AND MOVING OBJECT |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020134319A JP2020134319A (en) | 2020-08-31 |
JP7206127B2 true JP7206127B2 (en) | 2023-01-17 |
Family
ID=72262919
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019028257A Active JP7206127B2 (en) | 2019-02-20 | 2019-02-20 | IMAGE SENSOR INFORMATION CORRECTION METHOD AND MOVING OBJECT |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7206127B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023152870A1 (en) * | 2022-02-10 | 2023-08-17 | パイオニア株式会社 | Information processing device, control method, program, and storage medium |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003344045A (en) | 2002-05-29 | 2003-12-03 | Yaskawa Electric Corp | Image processing apparatus |
JP2013531237A (en) | 2010-06-21 | 2013-08-01 | ライカ ジオシステムズ アクチエンゲゼルシャフト | Optical measuring method and measuring system for obtaining three-dimensional coordinates on the surface of a measuring object |
JP2016540198A (en) | 2013-10-23 | 2016-12-22 | レーダー リミテッドLadar Limited | Laser detection and ranging device for detecting objects under water |
JP2018077196A (en) | 2016-11-11 | 2018-05-17 | スタンレー電気株式会社 | Monitoring system |
WO2018182737A1 (en) | 2017-03-31 | 2018-10-04 | Airbus Group Hq, Inc. | Systems and methods for calibrating vehicular sensors |
-
2019
- 2019-02-20 JP JP2019028257A patent/JP7206127B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003344045A (en) | 2002-05-29 | 2003-12-03 | Yaskawa Electric Corp | Image processing apparatus |
JP2013531237A (en) | 2010-06-21 | 2013-08-01 | ライカ ジオシステムズ アクチエンゲゼルシャフト | Optical measuring method and measuring system for obtaining three-dimensional coordinates on the surface of a measuring object |
JP2016540198A (en) | 2013-10-23 | 2016-12-22 | レーダー リミテッドLadar Limited | Laser detection and ranging device for detecting objects under water |
JP2018077196A (en) | 2016-11-11 | 2018-05-17 | スタンレー電気株式会社 | Monitoring system |
WO2018182737A1 (en) | 2017-03-31 | 2018-10-04 | Airbus Group Hq, Inc. | Systems and methods for calibrating vehicular sensors |
Also Published As
Publication number | Publication date |
---|---|
JP2020134319A (en) | 2020-08-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6777375B2 (en) | Work machine image display system, work machine remote control system and work machine | |
JP6794193B2 (en) | Image display system for work machines | |
WO2020241618A1 (en) | Map generation system and map generation method | |
KR102113414B1 (en) | Path generation device | |
KR102089454B1 (en) | Measuring system, working machine and measuring method | |
AU2021201894B2 (en) | Shape measuring system and shape measuring method | |
JP6616837B2 (en) | Work vehicle | |
WO2018043299A1 (en) | Work machine graphics display system, work machine remote control system, work machine, and work machine graphics display method | |
JP7197398B2 (en) | Systems, methods, and apparatus for calibrating work machines | |
WO2017056269A1 (en) | Image data generation method | |
WO2017056266A1 (en) | Imaging device | |
JP7206127B2 (en) | IMAGE SENSOR INFORMATION CORRECTION METHOD AND MOVING OBJECT | |
JP2024052764A (en) | Display control device and display method | |
JP7045926B2 (en) | Hydraulic excavator, and system | |
JP2021182001A (en) | Work vehicle | |
JP2021038649A (en) | Image display system for work machine, remote operation system for work machine, work machine, and image display method for work machine | |
WO2017056267A1 (en) | Imaging device | |
JP7128497B2 (en) | Image display system for working machines | |
JP7536580B2 (en) | Display control device and display method | |
JP7333551B2 (en) | Image display system for working machines | |
JP6923144B2 (en) | Image display system for work machines | |
WO2020241640A1 (en) | Display system and display method | |
CN118521636A (en) | Visual positioning and feature detection for implement tracking systems |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211216 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20221108 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20221108 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20221121 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221221 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230104 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7206127 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |