JP2021177123A - Information processing apparatus and information processing method, and program - Google Patents

Information processing apparatus and information processing method, and program Download PDF

Info

Publication number
JP2021177123A
JP2021177123A JP2018138483A JP2018138483A JP2021177123A JP 2021177123 A JP2021177123 A JP 2021177123A JP 2018138483 A JP2018138483 A JP 2018138483A JP 2018138483 A JP2018138483 A JP 2018138483A JP 2021177123 A JP2021177123 A JP 2021177123A
Authority
JP
Japan
Prior art keywords
pattern
calibration
feature points
captured image
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018138483A
Other languages
Japanese (ja)
Inventor
稜平 船越
Ryohei Funakoshi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Group Corp
Original Assignee
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Group Corp filed Critical Sony Group Corp
Priority to JP2018138483A priority Critical patent/JP2021177123A/en
Priority to PCT/JP2019/027262 priority patent/WO2020022056A1/en
Publication of JP2021177123A publication Critical patent/JP2021177123A/en
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

To provide an information processing apparatus, an information processing method, and a program capable of improving the calibration accuracy.SOLUTION: A plurality of feature points based on a pattern on a first pattern captured image obtained by imaging a calibration pattern 14 using a first imaging device 12-1, and a plurality of feature points based on a pattern on a second pattern captured image obtained by imaging a calibration pattern using a second imaging device 12-2 are detected. Then, the first imaging device and the second imaging device are calibrated using the plurality of feature points detected from the first pattern captured image and the plurality of feature points detected from the second pattern captured image. At this time, the calibration pattern is composed of a first pattern in which a plurality of first figures are arranged and a second pattern in which a plurality of second figures having a size different from that of the first figure are arranged.SELECTED DRAWING: Figure 1

Description

本開示は、情報処理装置および情報処理方法、並びにプログラムに関し、特に、キャリブレーション精度の向上を図ることができるようにした情報処理装置および情報処理方法、並びにプログラムに関する。 The present disclosure relates to an information processing apparatus, an information processing method, and a program, and more particularly to an information processing apparatus, an information processing method, and a program capable of improving calibration accuracy.

従来、複数台の撮像装置を使用する撮像システムは、それらの撮像装置どうしのキャリブレーションを行うことで、例えば、各撮像装置で撮像される画像が含む歪みを示す内部パラメータ、および、撮像装置どうしの位置関係を示す外部パラメータを取得する。 Conventionally, in an imaging system using a plurality of imaging devices, by calibrating the imaging devices, for example, internal parameters indicating distortion included in the image captured by each imaging device and the imaging devices are used. Acquires an external parameter indicating the positional relationship of.

例えば、非特許文献1には、チェッカのような、形状が既知のパターンを撮像し、画像内でパターンが検出された位置から撮像装置の歪み、および、撮像位置の推定を行う手法が開示されている。 For example, Non-Patent Document 1 discloses a method of imaging a pattern having a known shape, such as a checker, and estimating the distortion of the imaging device and the imaging position from the position where the pattern is detected in the image. ing.

ところで、この手法では、視野角や配置位置などの異なる複数台の撮像装置どうしでキャリブレーションを行うとき、その精度が低下することがあった。即ち、ある撮像装置において特徴点を検出するのに最適な大きさのパターンについては、その他の撮像装置にとっては、パターンが大き過ぎたり小さ過ぎたりしてしまい、それぞれの撮像装置でパターンから特徴点を検出する検出精度が低下するためである。 By the way, in this method, when calibration is performed between a plurality of imaging devices having different viewing angles and arrangement positions, the accuracy may be lowered. That is, with respect to a pattern having an optimum size for detecting a feature point in a certain image pickup device, the pattern is too large or too small for another image pickup device, and each image pickup device has a feature point from the pattern. This is because the detection accuracy for detecting the above is lowered.

そこで、特許文献1には、キャリブレーションに用いるパターンを撮像する際に、特徴点の位置は一定のまま大きさを時間ごとに変化させて、撮像された複数の大きさのキャリブレーションパターンから特徴点を推定することで、カメラキャリブレーションの精度を高めるカメラキャリブレーション方法が提案されている。 Therefore, in Patent Document 1, when a pattern used for calibration is imaged, the position of the feature point remains constant and the size is changed with time, and the feature is obtained from the imaged calibration patterns of a plurality of sizes. A camera calibration method has been proposed to improve the accuracy of camera calibration by estimating points.

特開2017−125772号公報JP-A-2017-125772

Z. Zhang, A Flexible New Technique for Camera Calibration, IEEE Transactions on Pattern Analysis and Machine Intelligence,Vol 22,pp 1330-1334, 2000.Z. Zhang, A Flexible New Technique for Camera Calibration, IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol 22,pp 1330-1334, 2000.

しかしながら、上述の特許文献1で提案されているカメラキャリブレーション方法では、複数のキャリブレーションパターンを表示、あるいは投影できる環境が必要であるため装置が大掛かりになってしまう。また。複数のパターンを表示するため、一つのキャリブレーションに時間が掛かってしまい、パターンの表示中に生じる表示ブレや揺れなどによって、パターンが少しでも動いてしまうとキャリブレーションの精度が低下してしまうことがあった。 However, the camera calibration method proposed in Patent Document 1 described above requires an environment in which a plurality of calibration patterns can be displayed or projected, so that the apparatus becomes large-scale. Also. Since multiple patterns are displayed, it takes time to calibrate one, and if the pattern moves even a little due to display blurring or shaking that occurs during pattern display, the calibration accuracy will deteriorate. was there.

本開示は、このような状況に鑑みてなされたものであり、キャリブレーション精度の向上を図ることができるようにするものである。 The present disclosure has been made in view of such a situation, and makes it possible to improve the calibration accuracy.

本開示の一側面の情報処理装置は、第1の撮像装置でキャリブレーションパターンを撮像して得られる第1のパターン撮像画像上のパターンに基づく複数の特徴点、および、第2の撮像装置で前記キャリブレーションパターンを撮像して得られる第2のパターン撮像画像上のパターンに基づく複数の特徴点を検出する特徴点検出部と、前記第1のパターン撮像画像から検出された複数の特徴点、および、前記第2のパターン撮像画像から検出された複数の特徴点を用いて、前記第1の撮像装置と前記第2の撮像装置とのキャリブレーションを行うキャリブレーション処理部とを備え、前記キャリブレーションパターンは、複数の第1の図形が配置された第1のパターン、および、前記第1の図形とはサイズが異なる複数の第2の図形が配置された第2のパターンにより構成される。 The information processing device on one aspect of the present disclosure includes a plurality of feature points based on a pattern on a first pattern captured image obtained by imaging a calibration pattern with the first imaging device, and a second imaging device. A feature point detection unit that detects a plurality of feature points based on a pattern on a second pattern captured image obtained by imaging the calibration pattern, and a plurality of feature points detected from the first pattern captured image. The calibration processing unit is provided with a calibration processing unit that calibrates the first imaging device and the second imaging device using a plurality of feature points detected from the second pattern captured image. The motion pattern is composed of a first pattern in which a plurality of first figures are arranged, and a second pattern in which a plurality of second figures having a size different from that of the first figure are arranged.

本開示の一側面の情報処理方法またはプログラムは、第1の撮像装置でキャリブレーションパターンを撮像して得られる第1のパターン撮像画像上のパターンに基づく複数の特徴点、および、第2の撮像装置で前記キャリブレーションパターンを撮像して得られる第2のパターン撮像画像上のパターンに基づく複数の特徴点を検出することと、前記第1のパターン撮像画像から検出された複数の特徴点、および、前記第2のパターン撮像画像から検出された複数の特徴点を用いて、前記第1の撮像装置と前記第2の撮像装置とのキャリブレーションを行うこととを含み、前記キャリブレーションパターンは、複数の第1の図形が配置された第1のパターン、および、前記第1の図形とはサイズが異なる複数の第2の図形が配置された第2のパターンにより構成される。 The information processing method or program of one aspect of the present disclosure includes a plurality of feature points based on a pattern on a first pattern captured image obtained by imaging a calibration pattern with a first imaging device, and a second imaging. Detection of a plurality of feature points based on a pattern on a second pattern captured image obtained by imaging the calibration pattern with an apparatus, a plurality of feature points detected from the first pattern captured image, and The calibration pattern includes calibrating the first imaging device and the second imaging device using a plurality of feature points detected from the second pattern captured image. It is composed of a first pattern in which a plurality of first figures are arranged, and a second pattern in which a plurality of second figures having a size different from that of the first figure are arranged.

本開示の一側面においては、第1の撮像装置でキャリブレーションパターンを撮像して得られる第1のパターン撮像画像上のパターンに基づく複数の特徴点、および、第2の撮像装置でキャリブレーションパターンを撮像して得られる第2のパターン撮像画像上のパターンに基づく複数の特徴点が検出され、第1のパターン撮像画像から検出された複数の特徴点、および、第2のパターン撮像画像から検出された複数の特徴点を用いて、第1の撮像装置と第2の撮像装置とのキャリブレーションが行われる。そして、キャリブレーションパターンは、複数の第1の図形が配置された第1のパターン、および、第1の図形とはサイズが異なる複数の第2の図形が配置された第2のパターンにより構成される。 In one aspect of the present disclosure, a plurality of feature points based on a pattern on a first pattern captured image obtained by imaging a calibration pattern with a first imaging device, and a calibration pattern with a second imaging device. A plurality of feature points based on the pattern on the second pattern captured image obtained by imaging the image are detected, and the plurality of feature points detected from the first pattern captured image and the plurality of feature points detected from the second pattern captured image are detected. The first image pickup apparatus and the second image pickup apparatus are calibrated using the plurality of feature points. The calibration pattern is composed of a first pattern in which a plurality of first figures are arranged and a second pattern in which a plurality of second figures having a size different from that of the first figure are arranged. NS.

本開示の一側面によれば、キャリブレーション精度の向上を図ることができる。 According to one aspect of the present disclosure, it is possible to improve the calibration accuracy.

なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。 The effects described here are not necessarily limited, and may be any of the effects described in the present disclosure.

本技術を適用した撮像システムについて説明する図である。It is a figure explaining the image pickup system which applied this technology. キャリブレーション装置の一実施の形態の構成例を示すブロック図である。It is a block diagram which shows the structural example of one Embodiment of a calibration apparatus. キャリブレーションパターンの第1の例を示す図である。It is a figure which shows the 1st example of the calibration pattern. キャリブレーションパターンの第2の例を示す図である。It is a figure which shows the 2nd example of the calibration pattern. キャリブレーションパターンの第3の例を示す図である。It is a figure which shows the 3rd example of the calibration pattern. キャリブレーション処理を説明するフローチャートである。It is a flowchart explaining the calibration process. チェッカパターンのバリエーションを説明する図である。It is a figure explaining the variation of a checker pattern. 本技術を適用したコンピュータの一実施の形態の構成例を示すブロック図である。It is a block diagram which shows the structural example of one Embodiment of the computer to which this technique is applied.

以下、本技術を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。 Hereinafter, specific embodiments to which the present technology is applied will be described in detail with reference to the drawings.

<撮像システムの構成例>
図1は、本技術を適用した撮像システムについて説明する図である。
<Configuration example of imaging system>
FIG. 1 is a diagram illustrating an imaging system to which the present technology is applied.

図1に示す撮像システム11は、2台の撮像装置12−1および12−2、並びに、キャリブレーション装置13を備えて構成され、キャリブレーションパターン14を使用してキャリブレーションを行うことができる。例えば、キャリブレーションパターン14は、図3乃至5を参照して後述するように、第1のパターンと第2のパターンとが組み合わされて構成される。 The imaging system 11 shown in FIG. 1 is configured to include two imaging devices 12-1 and 12-2, and a calibration device 13, and can perform calibration using the calibration pattern 14. For example, the calibration pattern 14 is configured by combining the first pattern and the second pattern, as will be described later with reference to FIGS. 3 to 5.

図1に示す例では、キャリブレーションパターン14は、9個の小さな円形が配置された第1のパターンと、4個の大きな円形が配置された第2のパターンとにより構成されている。例えば、第1のパターンは、撮像装置12−1により精度良く特徴点が求められる大きさで、第2のパターンは、撮像装置12−2により精度良く特徴点が求められる大きさで、それぞれ四隅の4カ所の円形の中心点が一致するように組み合わされている。 In the example shown in FIG. 1, the calibration pattern 14 is composed of a first pattern in which nine small circles are arranged and a second pattern in which four large circles are arranged. For example, the first pattern is the size for which the feature points are accurately obtained by the image pickup apparatus 12-1, and the second pattern is the size for which the feature points are accurately required by the image pickup apparatus 12-2. The four circular center points of are combined so as to coincide with each other.

撮像装置12−1および12−2は、それぞれ異なる視野角や撮像位置などでキャリブレーションパターン14を撮像して、パターン撮像画像を取得する。図示するように、撮像装置12−1は、撮像装置12−2よりもキャリブレーションパターン14に近い撮像位置であり、キャリブレーションパターン14を大きく撮像したパターン撮像画像を取得する。これに対し、撮像装置12−2は、キャリブレーションパターン14を小さく撮像したパターン撮像画像を取得する。 The imaging devices 12-1 and 12-2 capture the calibration pattern 14 at different viewing angles, imaging positions, and the like, and acquire the pattern captured image. As shown in the figure, the imaging device 12-1 has an imaging position closer to the calibration pattern 14 than the imaging device 12-2, and acquires a pattern captured image in which the calibration pattern 14 is largely captured. On the other hand, the imaging device 12-2 acquires a pattern captured image in which the calibration pattern 14 is captured in a small size.

キャリブレーション装置13は、それぞれのパターン撮像画像から複数の特徴点(白抜きの×印)を検出し、それらの特徴点の座標を示す特徴点情報を取得する。例えば、撮像装置12−1が取得したパターン撮像画像では、キャリブレーションパターン14が大きく写されており、キャリブレーション装置13は、第1のパターンの9個の小さな円形の中心を特徴点として検出する。これに対し、撮像装置12−2が取得したパターン撮像画像では、キャリブレーションパターン14が小さく写されており、キャリブレーション装置13は、第2のパターンの4個の大きな円形の中心を特徴点として検出する。 The calibration device 13 detects a plurality of feature points (white x marks) from each pattern captured image, and acquires feature point information indicating the coordinates of those feature points. For example, in the pattern captured image acquired by the imaging device 12-1, the calibration pattern 14 is largely captured, and the calibration device 13 detects nine small circular centers of the first pattern as feature points. .. On the other hand, in the pattern captured image acquired by the imaging device 12-2, the calibration pattern 14 is projected small, and the calibration device 13 features four large circular centers of the second pattern as feature points. To detect.

そして、キャリブレーション装置13は、第1のパターンの特徴点の座標を示す特徴点情報と、第2のパターンの特徴点の座標を示す特徴点情報とを用いて、撮像装置12−1および12−2のキャリブレーションを高精度に行うことができる。 Then, the calibration device 13 uses the feature point information indicating the coordinates of the feature points of the first pattern and the feature point information indicating the coordinates of the feature points of the second pattern, and uses the image pickup devices 12-1 and 12 -2 can be calibrated with high accuracy.

図2は、図1のキャリブレーション装置13の一実施の形態の構成例を示すブロック図である。 FIG. 2 is a block diagram showing a configuration example of an embodiment of the calibration device 13 of FIG.

図2に示すように、キャリブレーション装置13は、画像取得部21−1および21−2、特徴点検出部22−1および22−2、信頼度推定部23、キャリブレーション処理部24、並びに、データ格納部25を備えて構成される。 As shown in FIG. 2, the calibration device 13 includes image acquisition units 21-1 and 21-2, feature point detection units 22-1 and 22-2, reliability estimation unit 23, calibration processing unit 24, and It is configured to include a data storage unit 25.

画像取得部21−1は、撮像装置12−1がキャリブレーションパターン14を撮像して得られるパターン撮像画像を取得して、特徴点検出部22−1に供給する。同様に、画像取得部21−2は、撮像装置12−2がキャリブレーションパターン14を撮像して得られるパターン撮像画像を取得して、特徴点検出部22−2に供給する。 The image acquisition unit 21-1 acquires a pattern image obtained by the image pickup device 12-1 imaging the calibration pattern 14 and supplies it to the feature point detection unit 22-1. Similarly, the image acquisition unit 21-2 acquires a pattern image obtained by the image pickup device 12-2 imaging the calibration pattern 14 and supplies it to the feature point detection unit 22-2.

特徴点検出部22−1は、画像取得部21−1から供給されるパターン撮像画像に写されているキャリブレーションパターン14に含まれている複数の特徴点を検出し、例えば、それらの特徴点の座標を特徴点情報として取得して、信頼度推定部23に供給する。同様に、特徴点検出部22−2は、画像取得部21−2から供給されるパターン撮像画像に写されているキャリブレーションパターン14から取得される特徴点の座標を、信頼度推定部23に供給する。 The feature point detection unit 22-1 detects a plurality of feature points included in the calibration pattern 14 captured in the pattern captured image supplied from the image acquisition unit 21-1, and for example, those feature points. The coordinates of are acquired as feature point information and supplied to the reliability estimation unit 23. Similarly, the feature point detection unit 22-2 transmits the coordinates of the feature points acquired from the calibration pattern 14 captured in the pattern captured image supplied from the image acquisition unit 21-2 to the reliability estimation unit 23. Supply.

信頼度推定部23は、特徴点検出部22−1から供給される特徴点情報と、特徴点検出部22−2から供給される特徴点情報とに基づいて特徴点の信頼度を推定する。 The reliability estimation unit 23 estimates the reliability of the feature points based on the feature point information supplied from the feature point detection unit 22-1 and the feature point information supplied from the feature point detection unit 22-2.

例えば、信頼度推定部23は、特徴点検出部22−1により検出された特徴点の座標と、特徴点検出部22−2により検出された特徴点の座標とで、それぞれ対応する特徴点を検出することができている場合、それらの特徴点どうしの画像上の距離dを信頼度として推定する。例えば、図1に示す例では、第1のパターンの9個の円形の特徴点のうち、四隅の4カ所の特徴点と、第2のパターンの4個の円形の特徴点とが対応(キャリブレーションパターン14上で円形の中心が一致)している。 For example, the reliability estimation unit 23 uses the coordinates of the feature points detected by the feature point detection unit 22-1 and the coordinates of the feature points detected by the feature point detection unit 22-2 to obtain corresponding feature points. If it can be detected, the distance d on the image between those feature points is estimated as the reliability. For example, in the example shown in FIG. 1, among the nine circular feature points of the first pattern, the four feature points at the four corners correspond to the four circular feature points of the second pattern (calibration). The centers of the circles coincide on the calibration pattern 14).

そして、信頼度推定部23は、第1のパターンによるi番目の特徴点の座標(x1i,y1i)、および、第2のパターンによるi番目の特徴点の座標(x2i,y2i)を用いて、次の式(1)に従って、i番目の特徴点どうしの距離dを算出する。 Then, the reliability estimation unit 23 includes the coordinates of the i-th feature point according to the first pattern (x1 i , y1 i ) and the coordinates of the i-th feature point according to the second pattern (x2 i , y2 i ). Is used to calculate the distance d between the i-th feature points according to the following equation (1).

Figure 2021177123
Figure 2021177123

キャリブレーション処理部24は、特徴点検出部22−1および22−1で得られた特徴点情報、および、信頼度推定部23で得られた信頼度を用いて、撮像装置12−1および12−2の内部パラメータおよび外部パラメータを推定するキャリブレーション処理を行う。例えば、キャリブレーション処理部24は、信頼度の高い特徴点を優先的に用いて、または、全体として信頼度の高いパターン撮像画像を優先的に用いて、キャリブレーション処理を行うことができる。ここで、キャリブレーション処理部24は、上述した非特許文献1で開示されている手法に基づいて、キャリブレーション処理を行うことができる。 The calibration processing unit 24 uses the feature point information obtained by the feature point detection units 22-1 and 22-1 and the reliability obtained by the reliability estimation unit 23 to image images 12-1 and 12 Perform a calibration process to estimate the internal and external parameters of -2. For example, the calibration processing unit 24 can perform the calibration processing by preferentially using the feature points having high reliability or by preferentially using the pattern captured image having high reliability as a whole. Here, the calibration processing unit 24 can perform the calibration processing based on the method disclosed in Non-Patent Document 1 described above.

即ち、キャリブレーション処理部24は、例えば、形状が既知であるキャリブレーションパターン14を撮像したパターン撮像画像内で検出されたパターン形状と、実際のキャリブレーションパターン14のパターン形状とのマッチングを行うことで撮像装置12−1および12−2のパラメータを推定する。多くの場合、複数枚のパターン撮像画像を取得することで、パターン形状の誤差の合計が最小になるように非線形最適化を行うことによって推定の精度を高めることができる。 That is, the calibration processing unit 24, for example, matches the pattern shape detected in the pattern captured image obtained by imaging the calibration pattern 14 whose shape is known with the pattern shape of the actual calibration pattern 14. Estimates the parameters of the imaging devices 12-1 and 12-2. In many cases, by acquiring a plurality of pattern captured images, it is possible to improve the accuracy of estimation by performing nonlinear optimization so that the total error of the pattern shape is minimized.

ここで、本実施の形態では、それぞれの特徴点ごとの信頼度を非線形最適化時に重みとして用いることで、特徴点を精度高く検出できている点を優先的に用いた最適化を行う。 Here, in the present embodiment, by using the reliability of each feature point as a weight at the time of nonlinear optimization, optimization is performed by preferentially using the points at which the feature points can be detected with high accuracy.

例えば、キャリブレーション処理部24は、i番目のパターン撮像画像のmx個中、対応する特徴点を検出できたj番目の特徴点どうしの距離d(i,j)を用い、次の式(2)に従って、n枚のパターン撮像画像うちの、i番目のパターン撮像画像の中で、対応する特徴点を検出できたj番目の特徴点が持つ重みw(i,j)を算出することができる。 For example, the calibration processing unit 24, in m x number of i-th pattern captured image, using distance d j-th feature point each other which can be detected feature points corresponding (i, j), the following equation ( According to 2), it is possible to calculate the weight w (i, j) of the j-th feature point for which the corresponding feature point can be detected in the i-th pattern-captured image of the n pattern-captured images. can.

Figure 2021177123
Figure 2021177123

また、キャリブレーションパターン14の第1のパターンと第2のパターンとのうち、一方のパターンからのみ特徴点を検出できている点の重みは、式(2)によって求められる重みw(i,j)の平均値とする。 Further, the weight of the point at which the feature point can be detected only from one of the first pattern and the second pattern of the calibration pattern 14 is the weight w (i, j) obtained by the equation (2). ) Is the average value.

そして、キャリブレーション処理部24は、このような最適化の結果として、推定されたそれぞれの撮像装置12−1および12−2の内部パラメータと外部パラメータとを出力する。 Then, the calibration processing unit 24 outputs the estimated internal parameters and external parameters of the imaging devices 12-1 and 12-2 as a result of such optimization.

以上のようにキャリブレーション装置13は構成されており、キャリブレーションパターン14を用いて、第1のパターンの特徴点と第2のパターンの特徴点との信頼度を利用することにより、キャリブレーション精度の向上を図ることができる。 The calibration device 13 is configured as described above, and the calibration accuracy is obtained by using the calibration pattern 14 and using the reliability of the feature points of the first pattern and the feature points of the second pattern. Can be improved.

<キャリブレーションパターンの例>
図3乃至図5を参照して、撮像システム11で使用されるキャリブレーションパターン14について説明する。
<Example of calibration pattern>
The calibration pattern 14 used in the imaging system 11 will be described with reference to FIGS. 3 to 5.

図3に示すキャリブレーションパターン14Aは、小さな赤色の円形を等間隔に配置した第1のパターンと、この赤色の円形よりもサイズの大きな緑色の円形を等間隔に配置した第2のパターンとが組み合わされて構成される。そして、緑色の円形は、赤色の円形のうち、奇数行かつ奇数例にのみ中心点が一致するように配置される。 The calibration pattern 14A shown in FIG. 3 consists of a first pattern in which small red circles are arranged at equal intervals and a second pattern in which green circles having a size larger than the red circle are arranged at equal intervals. It is composed by combining. Then, the green circle is arranged so that the center points match only in the odd-numbered rows and odd-numbered examples of the red circles.

そして、撮像装置12−1は、パターン撮像画像のうちの赤色の成分のみを抽出することで、第1のパターンのみを検出することができる。同様に、撮像装置12−2は、パターン撮像画像のうちの緑色の成分のみを抽出することで、第2のパターンのみを検出することができる。 Then, the image pickup apparatus 12-1 can detect only the first pattern by extracting only the red component of the pattern captured image. Similarly, the image pickup apparatus 12-2 can detect only the second pattern by extracting only the green component of the pattern-captured image.

例えば、キャリブレーションパターン14Aは、撮像装置12−1および12−2の位置が離れていることや、視野角が大きくことなることなどに起因して、同じパターンを撮像したパターン撮像画像上でパターンのサイズが大きく異なってしまうような構成で使用することが想定される。即ち、キャリブレーションパターン14Aを大きく撮像することができる撮像装置12−1では、多数の赤色の円形によって特徴点の数を多く取得することができ、精度の高いキャリブレーションを行うことができる。また、キャリブレーションパターン14Aが小さく撮像される撮像装置12−2では、一つ一つのパターンが大きい緑色の円形を利用して特徴点を精度良く検出することができ、精度の高いキャリブレーションを行うことができる。 For example, the calibration pattern 14A is a pattern on a pattern captured image obtained by capturing the same pattern due to the positions of the imaging devices 12-1 and 12-2 being separated from each other and the viewing angle being large. It is assumed that it will be used in a configuration where the size of the is greatly different. That is, in the image pickup apparatus 12-1 capable of capturing a large calibration pattern 14A, a large number of feature points can be acquired by a large number of red circles, and highly accurate calibration can be performed. Further, in the image pickup apparatus 12-2 in which the calibration pattern 14A is imaged in a small size, the feature points can be detected with high accuracy by using the green circle in which each pattern is large, and the calibration is performed with high accuracy. be able to.

図4に示すキャリブレーションパターン14Bは、小さな黒色の円形を等間隔に配置した第1のパターンと、この黒色の円形よりもサイズの大きな再帰性反射材(ドットのハッチング)からなる円形を等間隔に配置した第2のパターンとが組み合わされて構成される。そして、再帰性反射材の円形は、黒色の円形のうち、奇数行かつ奇数例にのみ中心点が一致するように配置される。 The calibration pattern 14B shown in FIG. 4 consists of a first pattern in which small black circles are arranged at equal intervals and a circle composed of a retroreflective material (dot hatching) having a size larger than the black circle at equal intervals. It is configured by combining with the second pattern arranged in. Then, the circle of the retroreflective material is arranged so that the center points coincide only with the odd-numbered rows and the odd-numbered examples among the black circles.

例えば、キャリブレーションパターン14Bは、カラー画像を取得する撮像装置と、赤外線画像を取得する撮像装置とを同時に使用し、それぞれの視野角および解像度が異なるような構成で使用することが想定される。即ち、再帰性反射材は受けた光を受けた方向へと強く返す性質があるため、赤外線画像で見ると、カラー画像で見える色とは関係なく、白く光って見える。そのため、カラー画像では黒丸からなるパターンを、赤外線画像では再帰性反射材からなるパターンをそれぞれ検出することが可能である。また、赤外線画像では、黒丸からなるパターンも同様に検出が可能である。 For example, it is assumed that the calibration pattern 14B uses an imaging device that acquires a color image and an imaging device that acquires an infrared image at the same time, and is used in a configuration in which the viewing angles and resolutions of the imaging devices are different from each other. That is, since the retroreflective material has a property of strongly returning the received light in the direction in which it is received, when viewed in an infrared image, it appears to shine white regardless of the color seen in the color image. Therefore, it is possible to detect a pattern composed of black circles in a color image and a pattern composed of a retroreflective material in an infrared image. Further, in the infrared image, a pattern consisting of black circles can be detected in the same manner.

図5に示すキャリブレーションパターン14Cは、白黒の円形を等間隔に配置した第1のパターンを、白黒のチェッカからなる第2のパターンの上に重ねた構成となっている。そして、白黒の円形の中心点と、白黒のチェッカの交点とが、全てにおいて一致するように配置される。 The calibration pattern 14C shown in FIG. 5 has a configuration in which a first pattern in which black and white circles are arranged at equal intervals is superimposed on a second pattern composed of a black and white checker. Then, the center point of the black-and-white circle and the intersection of the black-and-white checkers are arranged so as to coincide with each other.

また、キャリブレーションパターン14Cも、キャリブレーションパターン14Aと同様に、撮像装置12−1および12−2の位置が離れていることや、視野角が大きく異なるような構成で使用することが想定される。例えば、キャリブレーションパターン14Cでは、パターンが大きく映る場合には円形からなる第1のパターンの特徴点を高精度に検出することができ、パターンが小さく映る場合にはチェッカからなる第2のパターンの特徴点を高精度に検出することができる。 Further, it is assumed that the calibration pattern 14C is also used in a configuration in which the imaging devices 12-1 and 12-2 are separated from each other and the viewing angles are significantly different from each other, as in the calibration pattern 14A. .. For example, in the calibration pattern 14C, when the pattern appears large, the feature points of the first pattern consisting of a circle can be detected with high accuracy, and when the pattern appears small, the feature points of the second pattern consisting of a checker can be detected. Feature points can be detected with high accuracy.

このように、撮像システム11では、撮像装置12−1および12−2それぞれで高精度に特徴点を抽出することができる第1および第2のパターンから構成されるキャリブレーションパターン14を用いることができる。また、キャリブレーションパターン14は、第1および第2のパターンが互いに他方の検出を妨害しないように、第1および第2のパターンを組み合わせた構成となっている。これにより、視野角などが異なる撮像装置12−1および12−2であっても、それぞれ高精度に特徴点を検することができ、キャリブレーションの精度を向上させることができる。 As described above, in the imaging system 11, it is possible to use the calibration pattern 14 composed of the first and second patterns capable of extracting the feature points with high accuracy by the imaging devices 12-1 and 12-2, respectively. can. Further, the calibration pattern 14 has a configuration in which the first and second patterns are combined so that the first and second patterns do not interfere with each other's detection. As a result, even if the imaging devices 12-1 and 12-2 have different viewing angles, the feature points can be inspected with high accuracy, and the calibration accuracy can be improved.

また、撮像システム11は、上述した特許文献1と異なり、時間方向でパターンを変化させることなくキャリブレーションパターン14の撮像を行うことができる。これにより、より簡易的な構成で、かつ、短時間でキャリブレーションパターン14の撮像を行うことができ、例えば、撮像中のブレによる影響を軽減することができる。 Further, unlike the above-mentioned Patent Document 1, the imaging system 11 can image the calibration pattern 14 without changing the pattern in the time direction. As a result, the calibration pattern 14 can be imaged with a simpler configuration and in a short time, and for example, the influence of blurring during imaging can be reduced.

また、撮像システム11では、撮像装置12−1および12−2によりキャリブレーションパターン14から同時に特徴点を検出することができる場合、第1および第2のパターンで特徴点が一致していることより、それぞれの特徴点の位置を比較することで特徴点検出の信頼度を推定することができる。これにより、信頼度が高いパターン撮像画像のみを用いてキャリブレーションを行うことで、キャリブレーションの精度を向上させることができる。 Further, in the image pickup system 11, when the feature points can be simultaneously detected from the calibration patterns 14 by the image pickup devices 12-1 and 12-2, the feature points are the same in the first and second patterns. , The reliability of feature point detection can be estimated by comparing the positions of each feature point. As a result, the accuracy of calibration can be improved by performing calibration using only highly reliable pattern-captured images.

<キャリブレーション処理>
図6のフローチャートを参照して、キャリブレーション装置13において実行されるキャリブレーション処理について説明する。
<Calibration process>
The calibration process executed in the calibration device 13 will be described with reference to the flowchart of FIG.

例えば、図1の撮像システム11を使用し始めるときに処理が開始される。ステップS11において、画像取得部21−1および21−2は、それぞれ撮像装置12−1および12−2がキャリブレーションパターン14を撮像して得られるパターン撮像画像を取得する。 For example, the process is started when the imaging system 11 of FIG. 1 is started to be used. In step S11, the image acquisition units 21-1 and 21-2 acquire a pattern captured image obtained by imaging the calibration pattern 14 by the imaging devices 12-1 and 12-2, respectively.

ステップS12において、キャリブレーション処理部24は、キャリブレーションを行うのに十分な必要枚数のパターン撮像画像を取得したか否かを判定し、十分な必要枚数のパターン撮像画像を取得するまで、ステップS11の処理を繰り返して行う。そして、ステップS12において、キャリブレーション処理部24が、キャリブレーションを行うのに十分な必要枚数のパターン撮像画像を取得したと判定した場合、処理はステップS13およびS14に進む。 In step S12, the calibration processing unit 24 determines whether or not a sufficient number of pattern-captured images for calibration has been acquired, and steps S11 until a sufficient number of pattern-captured images are acquired. Repeat the process of. Then, in step S12, when the calibration processing unit 24 determines that a sufficient number of pattern captured images for performing calibration have been acquired, the processing proceeds to steps S13 and S14.

ステップS13において、特徴点検出部22−1は、ステップS11で画像取得部21−1が取得したパターン撮像画像に写されているキャリブレーションパターン14を構成する第1のパターンの特徴点を検出し、特徴点情報を信頼度推定部23に供給する。 In step S13, the feature point detection unit 22-1 detects the feature points of the first pattern constituting the calibration pattern 14 captured in the pattern captured image acquired by the image acquisition unit 21-1 in step S11. , The feature point information is supplied to the reliability estimation unit 23.

ステップS14において、特徴点検出部22−2は、ステップS11で画像取得部21−2が取得したパターン撮像画像に写されているキャリブレーションパターン14を構成する第2のパターンの特徴点を検出し、特徴点情報を信頼度推定部23に供給する。 In step S14, the feature point detection unit 22-2 detects the feature points of the second pattern constituting the calibration pattern 14 captured in the pattern captured image acquired by the image acquisition unit 21-2 in step S11. , The feature point information is supplied to the reliability estimation unit 23.

ステップS13およびS14の処理は並列的に行われ、それぞれの処理が終了した後、ステップS15が行われる。ステップS15において、信頼度推定部23は、ステップS13で特徴点検出部22−1から供給された特徴点情報と、ステップS14で特徴点検出部22−2から供給される特徴点情報とに基づいて特徴点の信頼度を推定する。 The processes of steps S13 and S14 are performed in parallel, and after each process is completed, step S15 is performed. In step S15, the reliability estimation unit 23 is based on the feature point information supplied from the feature point detection unit 22-1 in step S13 and the feature point information supplied from the feature point detection unit 22-2 in step S14. Estimate the reliability of the feature points.

ステップS16において、キャリブレーション処理部24は、ステップS13で特徴点検出部22−1により検出された特徴点情報、ステップS14で特徴点検出部22−2により検出された特徴点情報、および、ステップS15で信頼度推定部23により推定された信頼度を用いて、撮像装置12−1および12−2それぞれの内部パラメータおよび外部パラメータを推定した後、処理は終了される。 In step S16, the calibration processing unit 24 has the feature point information detected by the feature point detection unit 22-1 in step S13, the feature point information detected by the feature point detection unit 22-2 in step S14, and the step. After estimating the internal and external parameters of the image pickup devices 12-1 and 12-2 using the reliability estimated by the reliability estimation unit 23 in S15, the process is terminated.

ここで、2台の撮像装置12aおよび12bについて、撮像装置12bが取得したパターン撮像画像の各特徴点が、撮像装置12aが取得したパターン撮像画像の各特徴点と一致するように、それぞれのパターン撮像画像の各特徴点どうしの距離を最小化するような変形を求める例について説明する。例えば、m個の特徴点を持つパターンを撮像したn枚のパターン撮像画像を用いる場合、撮像装置12x(xは、aまたはb)で撮像されたパターンの各特徴点mxij、撮像装置12xの内部パラメータIntx、撮像装置12xの外部パラメータExtxは、次の式(3)を最小化するパラメータの非線形最適化によって求められる。 Here, with respect to the two image pickup devices 12a and 12b, each pattern is matched so that each feature point of the pattern image pickup image acquired by the image pickup device 12b matches each feature point of the pattern image pickup image acquired by the image pickup device 12a. An example of finding a deformation that minimizes the distance between each feature point of the captured image will be described. For example, when using n pattern captured images obtained by capturing a pattern having m feature points, each feature point mx ij of the pattern captured by the imaging device 12x (x is a or b) and the imaging device 12x The internal parameter Int x and the external parameter Ext x of the image pickup apparatus 12x are obtained by non-linear optimization of the parameters that minimize the following equation (3).

Figure 2021177123
Figure 2021177123

以上のように、キャリブレーション装置13は、内部パラメータおよび外部パラメータを高精度に求めることができる。 As described above, the calibration device 13 can obtain the internal parameters and the external parameters with high accuracy.

<パターン撮像画像どうしの対応点の取得方法の他の例>
図7を参照して、キャリブレーション時に用いるパターン撮像画像どうしの対応点の取得方法の他の例について説明する。
<Another example of how to acquire the corresponding points between pattern captured images>
With reference to FIG. 7, another example of a method of acquiring corresponding points between the pattern captured images used at the time of calibration will be described.

上述の図3および図4を参照して説明したように、円形の中心点を特徴点として、パターン撮像画像どうしで対応する特徴点を用いたキャリブレーションが行われる。この他、例えば、図7のAに示すようなチェッカパターンの交点を特徴点として、パターン撮像画像どうしで対応する特徴点を用いたキャリブレーションを行うことができる。また、図7のBに示すように、三角形の重心点および交点を特徴点として、パターン撮像画像どうしで対応する特徴点を用いたキャリブレーションを行うことができる。 As described with reference to FIGS. 3 and 4 described above, calibration is performed using the circular center points as feature points and the corresponding feature points between the pattern captured images. In addition, for example, the intersection of the checker patterns as shown in FIG. 7A can be used as a feature point, and calibration can be performed using the feature points corresponding to each other in the pattern captured images. Further, as shown in B of FIG. 7, it is possible to perform calibration using the feature points corresponding to each other in the pattern captured images, with the center of gravity point and the intersection point of the triangle as the feature points.

このようにパターンの中心点や交点、重心点を特徴点として取得することで、例えば、パターンの線や面などで対応を取るような構成よりも、より正確にキャリブレーションを行うことができる。 By acquiring the center point, the intersection point, and the center of gravity point of the pattern as feature points in this way, it is possible to perform calibration more accurately than, for example, a configuration in which the lines and surfaces of the pattern correspond to each other.

<コンピュータの構成例>
次に、上述した一連の処理(情報処理方法)は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
<Computer configuration example>
Next, the series of processes (information processing method) described above can be performed by hardware or software. When a series of processes is performed by software, the programs constituting the software are installed on a general-purpose computer or the like.

図8は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示すブロック図である。 FIG. 8 is a block diagram showing a configuration example of an embodiment of a computer in which a program for executing the above-mentioned series of processes is installed.

プログラムは、コンピュータに内蔵されている記録媒体としてのハードディスク105やROM103に予め記録しておくことができる。 The program can be recorded in advance on the hard disk 105 or ROM 103 as a recording medium built in the computer.

あるいはまた、プログラムは、ドライブ109によって駆動されるリムーバブル記録媒体111に格納(記録)しておくことができる。このようなリムーバブル記録媒体111は、いわゆるパッケージソフトウェアとして提供することができる。ここで、リムーバブル記録媒体111としては、例えば、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto Optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリ等がある。 Alternatively, the program can be stored (recorded) in the removable recording medium 111 driven by the drive 109. Such a removable recording medium 111 can be provided as so-called package software. Here, examples of the removable recording medium 111 include a flexible disc, a CD-ROM (Compact Disc Read Only Memory), an MO (Magneto Optical) disc, a DVD (Digital Versatile Disc), a magnetic disc, and a semiconductor memory.

なお、プログラムは、上述したようなリムーバブル記録媒体111からコンピュータにインストールする他、通信網や放送網を介して、コンピュータにダウンロードし、内蔵するハードディスク105にインストールすることができる。すなわち、プログラムは、例えば、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送することができる。 The program can be installed on the computer from the removable recording medium 111 as described above, or can be downloaded to the computer via a communication network or a broadcasting network and installed on the built-in hard disk 105. That is, for example, the program transfers wirelessly from a download site to a computer via an artificial satellite for digital satellite broadcasting, or transfers to a computer by wire via a network such as LAN (Local Area Network) or the Internet. be able to.

コンピュータは、CPU(Central Processing Unit)102を内蔵しており、CPU102には、バス101を介して、入出力インタフェース110が接続されている。 The computer has a built-in CPU (Central Processing Unit) 102, and the input / output interface 110 is connected to the CPU 102 via the bus 101.

CPU102は、入出力インタフェース110を介して、ユーザによって、入力部107が操作等されることにより指令が入力されると、それに従って、ROM(Read Only Memory)103に格納されているプログラムを実行する。あるいは、CPU102は、ハードディスク105に格納されたプログラムを、RAM(Random Access Memory)104にロードして実行する。 When a command is input by the user by operating the input unit 107 or the like via the input / output interface 110, the CPU 102 executes a program stored in the ROM (Read Only Memory) 103 accordingly. .. Alternatively, the CPU 102 loads the program stored in the hard disk 105 into the RAM (Random Access Memory) 104 and executes it.

これにより、CPU102は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU102は、その処理結果を、必要に応じて、例えば、入出力インタフェース110を介して、出力部106から出力、あるいは、通信部108から送信、さらには、ハードディスク105に記録等させる。 As a result, the CPU 102 performs a process according to the above-mentioned flowchart or a process performed according to the above-mentioned block diagram configuration. Then, the CPU 102 outputs the processing result from the output unit 106, transmits it from the communication unit 108, and further records it on the hard disk 105, if necessary, via the input / output interface 110, for example.

なお、入力部107は、キーボードや、マウス、マイク等で構成される。また、出力部106は、LCD(Liquid Crystal Display)やスピーカ等で構成される。 The input unit 107 is composed of a keyboard, a mouse, a microphone, and the like. Further, the output unit 106 is composed of an LCD (Liquid Crystal Display), a speaker, or the like.

ここで、本明細書において、コンピュータがプログラムに従って行う処理は、必ずしもフローチャートとして記載された順序に沿って時系列に行われる必要はない。すなわち、コンピュータがプログラムに従って行う処理は、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含む。 Here, in the present specification, the processing performed by the computer according to the program does not necessarily have to be performed in chronological order in the order described as the flowchart. That is, the processing performed by the computer according to the program also includes processing executed in parallel or individually (for example, parallel processing or processing by an object).

また、プログラムは、1のコンピュータ(プロセッサ)により処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。 Further, the program may be processed by one computer (processor) or may be distributed by a plurality of computers. Further, the program may be transferred to a distant computer and executed.

さらに、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。 Further, in the present specification, the system means a set of a plurality of components (devices, modules (parts), etc.), and it does not matter whether or not all the components are in the same housing. Therefore, a plurality of devices housed in separate housings and connected via a network, and a device in which a plurality of modules are housed in one housing are both systems. ..

また、例えば、1つの装置(または処理部)として説明した構成を分割し、複数の装置(または処理部)として構成するようにしてもよい。逆に、以上において複数の装置(または処理部)として説明した構成をまとめて1つの装置(または処理部)として構成されるようにしてもよい。また、各装置(または各処理部)の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置(または処理部)の構成の一部を他の装置(または他の処理部)の構成に含めるようにしてもよい。 Further, for example, the configuration described as one device (or processing unit) may be divided and configured as a plurality of devices (or processing units). On the contrary, the configurations described above as a plurality of devices (or processing units) may be collectively configured as one device (or processing unit). Further, of course, a configuration other than the above may be added to the configuration of each device (or each processing unit). Further, if the configuration and operation of the entire system are substantially the same, a part of the configuration of one device (or processing unit) may be included in the configuration of another device (or other processing unit). ..

また、例えば、本技術は、1つの機能を、ネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。 Further, for example, the present technology can have a cloud computing configuration in which one function is shared and jointly processed by a plurality of devices via a network.

また、例えば、上述したプログラムは、任意の装置において実行することができる。その場合、その装置が、必要な機能(機能ブロック等)を有し、必要な情報を得ることができるようにすればよい。 Further, for example, the above-mentioned program can be executed in any device. In that case, the device may have necessary functions (functional blocks, etc.) so that necessary information can be obtained.

また、例えば、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。換言するに、1つのステップに含まれる複数の処理を、複数のステップの処理として実行することもできる。逆に、複数のステップとして説明した処理を1つのステップとしてまとめて実行することもできる。 Further, for example, each step described in the above-mentioned flowchart can be executed by one device or can be shared and executed by a plurality of devices. Further, when a plurality of processes are included in one step, the plurality of processes included in the one step can be executed by one device or shared by a plurality of devices. In other words, a plurality of processes included in one step can be executed as processes of a plurality of steps. On the contrary, the processes described as a plurality of steps can be collectively executed as one step.

なお、コンピュータが実行するプログラムは、プログラムを記述するステップの処理が、本明細書で説明する順序に沿って時系列に実行されるようにしても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで個別に実行されるようにしても良い。つまり、矛盾が生じない限り、各ステップの処理が上述した順序と異なる順序で実行されるようにしてもよい。さらに、このプログラムを記述するステップの処理が、他のプログラムの処理と並列に実行されるようにしても良いし、他のプログラムの処理と組み合わせて実行されるようにしても良い。 In the program executed by the computer, the processing of the steps for describing the program may be executed in chronological order in the order described in this specification, or may be executed in parallel or called. It may be executed individually at a necessary timing such as time. That is, as long as there is no contradiction, the processing of each step may be executed in an order different from the above-mentioned order. Further, the processing of the step for writing this program may be executed in parallel with the processing of another program, or may be executed in combination with the processing of another program.

なお、本明細書において複数説明した本技術は、矛盾が生じない限り、それぞれ独立に単体で実施することができる。もちろん、任意の複数の本技術を併用して実施することもできる。例えば、いずれかの実施の形態において説明した本技術の一部または全部を、他の実施の形態において説明した本技術の一部または全部と組み合わせて実施することもできる。また、上述した任意の本技術の一部または全部を、上述していない他の技術と併用して実施することもできる。 It should be noted that the present techniques described in the present specification can be independently implemented independently as long as there is no contradiction. Of course, any plurality of the present technologies can be used in combination. For example, some or all of the techniques described in any of the embodiments may be combined with some or all of the techniques described in other embodiments. It is also possible to carry out a part or all of any of the above-mentioned techniques in combination with other techniques not described above.

<構成の組み合わせ例>
なお、本技術は以下のような構成も取ることができる。
(1)
第1の撮像装置でキャリブレーションパターンを撮像して得られる第1のパターン撮像画像上のパターンに基づく複数の特徴点、および、第2の撮像装置で前記キャリブレーションパターンを撮像して得られる第2のパターン撮像画像上のパターンに基づく複数の特徴点を検出する特徴点検出部と、
前記第1のパターン撮像画像から検出された複数の特徴点、および、前記第2のパターン撮像画像から検出された複数の特徴点を用いて、前記第1の撮像装置と前記第2の撮像装置とのキャリブレーションを行うキャリブレーション処理部と
を備え、
前記キャリブレーションパターンは、複数の第1の図形が配置された第1のパターン、および、前記第1の図形とはサイズが異なる複数の第2の図形が配置された第2のパターンにより構成される
情報処理装置。
(2)
前記キャリブレーション処理部がキャリブレーションに用いる、前記第1のパターン撮像画像から検出された複数の特徴点、および、前記第2のパターン撮像画像から検出された複数の特徴点の信頼度を推定する信頼度推定部
をさらに備え、
前記キャリブレーションパターンにおいて、前記第1の図形の複数の特徴点と前記第2の図形の複数の特徴点との少なくとも一部が一致している
上記(1)に記載の情報処理装置。
(3)
前記キャリブレーションパターンは、複数の第1のサイズの円形が配置された第1のパターンと、複数の第2のサイズの円形が配置された第2のパターンとにより構成され、それぞれの円形が異なる色となっている
上記(1)または(2)に記載の情報処理装置。
(4)
前記キャリブレーションパターンは、複数の第1のサイズの円形が配置された第1のパターンと、複数の第2のサイズの円形が配置された第2のパターンとにより構成され、少なくとも一方の円形が再帰性反射材で形成される
上記(1)または(2)に記載の情報処理装置。
(5)
前記キャリブレーションパターンは、複数の円形が配置された第1のパターンと、格子状にチェッカが配置された第2のパターンとにより構成され、前記円形の中心点が、前記チェッカの交点に配置されている
上記(1)または(2)に記載の情報処理装置。
(6)
キャリブレーション処理を行う情報処理装置が、
第1の撮像装置でキャリブレーションパターンを撮像して得られる第1のパターン撮像画像上のパターンに基づく複数の特徴点、および、第2の撮像装置で前記キャリブレーションパターンを撮像して得られる第2のパターン撮像画像上のパターンに基づく複数の特徴点を検出することと、
前記第1のパターン撮像画像から検出された複数の特徴点、および、前記第2のパターン撮像画像から検出された複数の特徴点を用いて、前記第1の撮像装置と前記第2の撮像装置とのキャリブレーションを行うことと
を含み、
前記キャリブレーションパターンは、複数の第1の図形が配置された第1のパターン、および、前記第1の図形とはサイズが異なる複数の第2の図形が配置された第2のパターンにより構成される
情報処理方法。
(7)
キャリブレーション処理を行う情報処理装置のコンピュータに、
第1の撮像装置でキャリブレーションパターンを撮像して得られる第1のパターン撮像画像上のパターンに基づく複数の特徴点、および、第2の撮像装置で前記キャリブレーションパターンを撮像して得られる第2のパターン撮像画像上のパターンに基づく複数の特徴点を検出することと、
前記第1のパターン撮像画像から検出された複数の特徴点、および、前記第2のパターン撮像画像から検出された複数の特徴点を用いて、前記第1の撮像装置と前記第2の撮像装置とのキャリブレーションを行うことと
を含み、
前記キャリブレーションパターンは、複数の第1の図形が配置された第1のパターン、および、前記第1の図形とはサイズが異なる複数の第2の図形が配置された第2のパターンにより構成される
を含む情報処理を実行させるためのプログラム。
<Example of configuration combination>
The present technology can also have the following configurations.
(1)
A plurality of feature points based on a pattern on a first pattern captured image obtained by imaging a calibration pattern with a first imaging device, and a second image obtained by imaging the calibration pattern with a second imaging device. 2 Pattern A feature point detection unit that detects a plurality of feature points based on the pattern on the captured image, and
Using the plurality of feature points detected from the first pattern captured image and the plurality of feature points detected from the second pattern captured image, the first image pickup apparatus and the second image pickup apparatus are used. Equipped with a calibration processing unit that calibrates with
The calibration pattern is composed of a first pattern in which a plurality of first figures are arranged and a second pattern in which a plurality of second figures having a size different from that of the first figure are arranged. Information processing device.
(2)
The reliability of the plurality of feature points detected from the first pattern captured image and the plurality of feature points detected from the second pattern captured image used by the calibration processing unit for calibration is estimated. Equipped with a reliability estimation unit
The information processing apparatus according to (1) above, wherein at least a part of the plurality of feature points of the first figure and the plurality of feature points of the second figure match in the calibration pattern.
(3)
The calibration pattern is composed of a first pattern in which a plurality of circles of a first size are arranged and a second pattern in which a plurality of circles of a second size are arranged, and each circle is different. The information processing apparatus according to (1) or (2) above, which is colored.
(4)
The calibration pattern is composed of a first pattern in which a plurality of circles of a first size are arranged and a second pattern in which a plurality of circles of a second size are arranged, and at least one of the circles is formed. The information processing apparatus according to (1) or (2) above, which is formed of a retroreflective material.
(5)
The calibration pattern is composed of a first pattern in which a plurality of circles are arranged and a second pattern in which checkers are arranged in a grid pattern, and the center points of the circles are arranged at intersections of the checkers. The information processing apparatus according to (1) or (2) above.
(6)
The information processing device that performs the calibration process
A plurality of feature points based on a pattern on a first pattern captured image obtained by imaging a calibration pattern with a first imaging device, and a second image obtained by imaging the calibration pattern with a second imaging device. 2 Patterns Detecting multiple feature points based on patterns on captured images and
Using the plurality of feature points detected from the first pattern captured image and the plurality of feature points detected from the second pattern captured image, the first image pickup apparatus and the second image pickup apparatus are used. Including calibrating with
The calibration pattern is composed of a first pattern in which a plurality of first figures are arranged and a second pattern in which a plurality of second figures having a size different from that of the first figure are arranged. Information processing method.
(7)
To the computer of the information processing device that performs the calibration process
A plurality of feature points based on a pattern on a first pattern captured image obtained by imaging a calibration pattern with a first imaging device, and a second image obtained by imaging the calibration pattern with a second imaging device. 2 Patterns Detecting multiple feature points based on patterns on captured images and
Using the plurality of feature points detected from the first pattern captured image and the plurality of feature points detected from the second pattern captured image, the first image pickup apparatus and the second image pickup apparatus are used. Including calibrating with
The calibration pattern is composed of a first pattern in which a plurality of first figures are arranged, and a second pattern in which a plurality of second figures having a size different from that of the first figure are arranged. A program for executing information processing including.

なお、本実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。また、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。 The present embodiment is not limited to the above-described embodiment, and various modifications can be made without departing from the gist of the present disclosure. Further, the effects described in the present specification are merely examples and are not limited, and other effects may be obtained.

11 撮像システム, 12 撮像装置12, 13 キャリブレーション装置, 14 キャリブレーションパターン, 21 画像取得部, 22 特徴点検出部, 23 信頼度推定部, 24 キャリブレーション処理部 11 Imaging system, 12 Imaging device 12, 13 Calibration device, 14 Calibration pattern, 21 Image acquisition unit, 22 Feature point detection unit, 23 Reliability estimation unit, 24 Calibration processing unit

Claims (7)

第1の撮像装置でキャリブレーションパターンを撮像して得られる第1のパターン撮像画像上のパターンに基づく複数の特徴点、および、第2の撮像装置で前記キャリブレーションパターンを撮像して得られる第2のパターン撮像画像上のパターンに基づく複数の特徴点を検出する特徴点検出部と、
前記第1のパターン撮像画像から検出された複数の特徴点、および、前記第2のパターン撮像画像から検出された複数の特徴点を用いて、前記第1の撮像装置と前記第2の撮像装置とのキャリブレーションを行うキャリブレーション処理部と
を備え、
前記キャリブレーションパターンは、複数の第1の図形が配置された第1のパターン、および、前記第1の図形とはサイズが異なる複数の第2の図形が配置された第2のパターンにより構成される
情報処理装置。
A plurality of feature points based on a pattern on a first pattern captured image obtained by imaging a calibration pattern with a first imaging device, and a second image obtained by imaging the calibration pattern with a second imaging device. 2 Pattern A feature point detection unit that detects a plurality of feature points based on the pattern on the captured image, and
Using the plurality of feature points detected from the first pattern captured image and the plurality of feature points detected from the second pattern captured image, the first image pickup apparatus and the second image pickup apparatus are used. Equipped with a calibration processing unit that calibrates with
The calibration pattern is composed of a first pattern in which a plurality of first figures are arranged and a second pattern in which a plurality of second figures having a size different from that of the first figure are arranged. Information processing device.
前記キャリブレーション処理部がキャリブレーションに用いる、前記第1のパターン撮像画像から検出された複数の特徴点、および、前記第2のパターン撮像画像から検出された複数の特徴点の信頼度を推定する信頼度推定部
をさらに備え、
前記キャリブレーションパターンにおいて、前記第1の図形の複数の特徴点と前記第2の図形の複数の特徴点との少なくとも一部が一致している
請求項1に記載の情報処理装置。
The reliability of the plurality of feature points detected from the first pattern captured image and the plurality of feature points detected from the second pattern captured image used by the calibration processing unit for calibration is estimated. Equipped with a reliability estimation unit
The information processing apparatus according to claim 1, wherein in the calibration pattern, at least a part of the plurality of feature points of the first figure and the plurality of feature points of the second figure match.
前記キャリブレーションパターンは、複数の第1のサイズの円形が配置された第1のパターンと、複数の第2のサイズの円形が配置された第2のパターンとにより構成され、それぞれの円形が異なる色となっている
請求項1に記載の情報処理装置。
The calibration pattern is composed of a first pattern in which a plurality of circles of a first size are arranged and a second pattern in which a plurality of circles of a second size are arranged, and each circle is different. The information processing apparatus according to claim 1, which is colored.
前記キャリブレーションパターンは、複数の第1のサイズの円形が配置された第1のパターンと、複数の第2のサイズの円形が配置された第2のパターンとにより構成され、少なくとも一方の円形が再帰性反射材で形成される
請求項1に記載の情報処理装置。
The calibration pattern is composed of a first pattern in which a plurality of circles of a first size are arranged and a second pattern in which a plurality of circles of a second size are arranged, and at least one of the circles is formed. The information processing apparatus according to claim 1, which is formed of a retroreflective material.
前記キャリブレーションパターンは、複数の円形が配置された第1のパターンと、格子状にチェッカが配置された第2のパターンとにより構成され、前記円形の中心点が、前記チェッカの交点に配置されている
請求項1に記載の情報処理装置。
The calibration pattern is composed of a first pattern in which a plurality of circles are arranged and a second pattern in which checkers are arranged in a grid pattern, and the center points of the circles are arranged at intersections of the checkers. The information processing apparatus according to claim 1.
キャリブレーション処理を行う情報処理装置が、
第1の撮像装置でキャリブレーションパターンを撮像して得られる第1のパターン撮像画像上のパターンに基づく複数の特徴点、および、第2の撮像装置で前記キャリブレーションパターンを撮像して得られる第2のパターン撮像画像上のパターンに基づく複数の特徴点を検出することと、
前記第1のパターン撮像画像から検出された複数の特徴点、および、前記第2のパターン撮像画像から検出された複数の特徴点を用いて、前記第1の撮像装置と前記第2の撮像装置とのキャリブレーションを行うことと
を含み、
前記キャリブレーションパターンは、複数の第1の図形が配置された第1のパターン、および、前記第1の図形とはサイズが異なる複数の第2の図形が配置された第2のパターンにより構成される
情報処理方法。
The information processing device that performs the calibration process
A plurality of feature points based on a pattern on a first pattern captured image obtained by imaging a calibration pattern with a first imaging device, and a second image obtained by imaging the calibration pattern with a second imaging device. 2 Patterns Detecting multiple feature points based on patterns on captured images and
Using the plurality of feature points detected from the first pattern captured image and the plurality of feature points detected from the second pattern captured image, the first image pickup apparatus and the second image pickup apparatus are used. Including calibrating with
The calibration pattern is composed of a first pattern in which a plurality of first figures are arranged and a second pattern in which a plurality of second figures having a size different from that of the first figure are arranged. Information processing method.
キャリブレーション処理を行う情報処理装置のコンピュータに、
第1の撮像装置でキャリブレーションパターンを撮像して得られる第1のパターン撮像画像上のパターンに基づく複数の特徴点、および、第2の撮像装置で前記キャリブレーションパターンを撮像して得られる第2のパターン撮像画像上のパターンに基づく複数の特徴点を検出することと、
前記第1のパターン撮像画像から検出された複数の特徴点、および、前記第2のパターン撮像画像から検出された複数の特徴点を用いて、前記第1の撮像装置と前記第2の撮像装置とのキャリブレーションを行うことと
を含み、
前記キャリブレーションパターンは、複数の第1の図形が配置された第1のパターン、および、前記第1の図形とはサイズが異なる複数の第2の図形が配置された第2のパターンにより構成される
を含む情報処理を実行させるためのプログラム。
To the computer of the information processing device that performs the calibration process
A plurality of feature points based on a pattern on a first pattern captured image obtained by imaging a calibration pattern with a first imaging device, and a second image obtained by imaging the calibration pattern with a second imaging device. 2 Patterns Detecting multiple feature points based on patterns on captured images and
Using the plurality of feature points detected from the first pattern captured image and the plurality of feature points detected from the second pattern captured image, the first image pickup apparatus and the second image pickup apparatus are used. Including calibrating with
The calibration pattern is composed of a first pattern in which a plurality of first figures are arranged, and a second pattern in which a plurality of second figures having a size different from that of the first figure are arranged. A program for executing information processing including.
JP2018138483A 2018-07-24 2018-07-24 Information processing apparatus and information processing method, and program Pending JP2021177123A (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018138483A JP2021177123A (en) 2018-07-24 2018-07-24 Information processing apparatus and information processing method, and program
PCT/JP2019/027262 WO2020022056A1 (en) 2018-07-24 2019-07-10 Information processing apparatus, information processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018138483A JP2021177123A (en) 2018-07-24 2018-07-24 Information processing apparatus and information processing method, and program

Publications (1)

Publication Number Publication Date
JP2021177123A true JP2021177123A (en) 2021-11-11

Family

ID=69180460

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018138483A Pending JP2021177123A (en) 2018-07-24 2018-07-24 Information processing apparatus and information processing method, and program

Country Status (2)

Country Link
JP (1) JP2021177123A (en)
WO (1) WO2020022056A1 (en)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004354257A (en) * 2003-05-29 2004-12-16 Olympus Corp Calibration slippage correction device, and stereo camera and stereo camera system equipped with the device
JP4717863B2 (en) * 2007-09-28 2011-07-06 富士フイルム株式会社 Calibration method and apparatus for compound eye imaging apparatus and calibration chart used therefor
JP5210203B2 (en) * 2009-02-25 2013-06-12 ローランドディー.ジー.株式会社 High-precision stereo camera calibration based on image differences
JP5771423B2 (en) * 2011-03-17 2015-08-26 株式会社トプコン Image color correction apparatus and image color correction method
JP6537237B2 (en) * 2013-11-05 2019-07-03 キヤノン株式会社 INFORMATION PROCESSING APPARATUS AND METHOD

Also Published As

Publication number Publication date
WO2020022056A1 (en) 2020-01-30

Similar Documents

Publication Publication Date Title
CN109584307B (en) System and method for improving calibration of intrinsic parameters of a camera
EP2916535B1 (en) Image processing device, image processing method, and program
US20240169566A1 (en) Systems and methods for real-time multiple modality image alignment
JP2007129709A (en) Method for calibrating imaging device, method for calibrating imaging system including arrangement of imaging devices, and imaging system
JP2019530261A (en) Improved camera calibration system, target and process
TW201629909A (en) Three dimensional object recognition
EP3766644A1 (en) Workpiece picking device and workpiece picking method
EP3115741A1 (en) Position measurement device and position measurement method
JP2011133273A (en) Estimation apparatus and control method thereof, and program
JP2018147095A (en) Camera posture estimation device, method and program
US10207409B2 (en) Image processing method, image processing device, and robot system
US8547430B2 (en) System and method for marking discrepancies in image of object
JP5704909B2 (en) Attention area detection method, attention area detection apparatus, and program
JP2013187822A (en) Correction formula calculation method, correction method, correction apparatus, and imaging apparatus
US20170344857A1 (en) Shape detection
JP2009294109A (en) Calibration apparatus
WO2022147655A1 (en) Positioning method and apparatus, spatial information acquisition method and apparatus, and photographing device
JP2005140547A (en) 3-dimensional measuring method, 3-dimensional measuring device and computer program
JP2021177123A (en) Information processing apparatus and information processing method, and program
US8872832B2 (en) System and method for mesh stabilization of facial motion capture data
KR20140113449A (en) Drawing data generating method, drawing method, drawing data generating apparatus and drawing apparatus
US10967517B2 (en) Information processing apparatus, method, and storage medium for presenting information for calibration
JP6906177B2 (en) Intersection detection device, camera calibration system, intersection detection method, camera calibration method, program and recording medium
US9842402B1 (en) Detecting foreground regions in panoramic video frames
US9824455B1 (en) Detecting foreground regions in video frames