JP2018173275A - Notification device, notification processing program and notification processing method - Google Patents

Notification device, notification processing program and notification processing method Download PDF

Info

Publication number
JP2018173275A
JP2018173275A JP2017069432A JP2017069432A JP2018173275A JP 2018173275 A JP2018173275 A JP 2018173275A JP 2017069432 A JP2017069432 A JP 2017069432A JP 2017069432 A JP2017069432 A JP 2017069432A JP 2018173275 A JP2018173275 A JP 2018173275A
Authority
JP
Japan
Prior art keywords
plane
point group
stereo image
dimensional point
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017069432A
Other languages
Japanese (ja)
Inventor
古橋 幸人
Yukito Furuhashi
幸人 古橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2017069432A priority Critical patent/JP2018173275A/en
Publication of JP2018173275A publication Critical patent/JP2018173275A/en
Pending legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To provide a notification device, a notification processing program and a notification processing method allowing a user to promptly know whether or not imaging can be performed under the imaging condition before imaging for measurement.SOLUTION: A stereo image on which a reinforcing bar arrangement is imaged is acquired, three-dimensional point group coordinates are generated based on the stereo image obtained, a plane formed by reinforcing bars constituting the reinforcing bar arrangement is specified based on the three-dimensional point group coordinates generated, it is determined whether measurement of the reinforcing bars is possible or not at the time of generating the three-dimensional point group coordinates or specifying the plane, and information indicating that measurement is impossible is notified if the measurement is determined to be impossible. If a generation of the three-dimensional point group coordinates is impossible, or if an inclination angle of the specified plane or a distance to the plane does not satisfy the first condition stored in a determination condition storage section, the condition being related to an inclination angle of or a distance to a plane formed by the plural of reinforcing bars constituting the reinforcing bar arrangement, the measurement of reinforcing bars is determined to be impossible.SELECTED DRAWING: Figure 3

Description

本発明は、鉄筋の配置を検査するための撮像について、その撮像を適切に行うことが可能か否かを報知する報知装置、報知処理プログラムおよび報知処理方法に関する。   The present invention relates to an informing device, an informing processing program, and an informing processing method for informing whether or not the imaging for inspecting the arrangement of reinforcing bars can be appropriately performed.

従来、鉄筋コンクリート造の建築物の工事において、出来形が正当か(正しく鉄筋が配置されているか)否かを撮像画像に基づいて検査する配筋検査支援システムが知られている。このような配筋検査支援システムは、例えば、鉄筋を含む柱等の撮像対象部位をステレオカメラにより撮像する。その撮像したステレオ画像から3次元画像を生成する。そして、生成した3次元画像または3次元画像を正対変換(射影変換)した正対画像を設計図面情報と比較、照合することにより、出来形が正当か否かを判定している。   2. Description of the Related Art Conventionally, a bar arrangement inspection support system that inspects whether or not a completed shape is valid (whether a reinforcing bar is correctly arranged) in a construction of a reinforced concrete structure based on a captured image is known. Such a bar arrangement inspection support system images, for example, an imaging target region such as a column including a reinforcing bar with a stereo camera. A three-dimensional image is generated from the captured stereo image. Then, by comparing and collating the generated three-dimensional image or a confronting image obtained by direct conversion (projective conversion) of the three-dimensional image with design drawing information, it is determined whether or not the finished shape is valid.

このような配筋検査支援システムは、ステレオカメラで撮像し配筋計測を行うときに、計測対象の平面が規定値よりも傾斜していること、計測対象の平面が規定値から外れていること(遠方過ぎ、近接過ぎ)等の原因で、計測ができなかったり、計測精度が不十分になったり等の計測条件不適合になることがある。このような計測条件不適合は、撮像後に配筋計測結果として判明するため、配筋検査支援システムの利用者が再度現場へ戻って撮像を行う必要がある。そして、再度の撮像の必要性を前提に、最終確認まで現場の工事進行を止める必要があり、作業が非常に非効率である。また、工事を迅速に進行させた場合には、同じ現場状態を撮像できないことになってしまう。   In such a bar arrangement inspection support system, when performing a bar arrangement measurement using a stereo camera, the measurement target plane is inclined more than the specified value, and the measurement target plane is not within the specified value. There may be cases where measurement conditions are not suitable, such as measurement being impossible or measurement accuracy being insufficient due to reasons such as (too far, too close). Such a measurement condition incompatibility is found as a bar arrangement measurement result after imaging, and therefore the user of the bar arrangement inspection support system needs to return to the site and perform imaging. And on the premise of the need for re-imaging, it is necessary to stop the construction work on site until the final confirmation, and the work is very inefficient. In addition, if the construction is proceeded quickly, the same on-site state cannot be imaged.

したがって、現場で迅速に計測が行えるか否かの判断をするためには、リアルタイムで計測が可能であることを利用者が知る必要がある。そのため、撮像のやり直しを行わないようにする技術が開示されている。例えば、3次元形状再構成画像を様々な視点から眺めた画像として利用者に提示し、3次元形状再構成画像として取得画像の良否判定を簡易に、効果的に行える3次元形状取得装置の技術が開示されている(例えば、特許文献1参照。)。   Therefore, in order to determine whether or not measurement can be performed quickly on site, the user needs to know that measurement is possible in real time. For this reason, a technique for preventing re-imaging is disclosed. For example, a technology of a three-dimensional shape acquisition device that presents a three-dimensional shape reconstructed image to a user as an image viewed from various viewpoints and can easily and effectively determine the quality of the acquired image as a three-dimensional shape reconstructed image Is disclosed (for example, see Patent Document 1).

特開2002−352271号公報JP 2002-352271 A

しかしながら、上述のような従来の技術では、計測のための撮像条件での撮像後に撮像画像の良否を判定していたため、計測のための撮像前に撮像してよいのか否かを利用者が知ることができない、という問題点があった。   However, in the conventional technology as described above, since the quality of the captured image is determined after imaging under the imaging conditions for measurement, the user knows whether or not the imaging may be performed before imaging for measurement. There was a problem that it was not possible.

本発明は、前述のような実状に鑑みたものであり、計測のための撮像前にその撮像条件で撮像してよいのか否かを利用者が迅速に知ることが可能な報知装置、報知処理プログラムおよび報知処理方法を提供することを目的とする。   The present invention has been made in view of the above-described situation, and a notification device and a notification process that enable a user to quickly know whether or not an image may be captured under the imaging conditions before imaging for measurement. An object is to provide a program and a notification processing method.

本発明は、上記課題を解決するため、下記のような構成を採用した。
すなわち、本発明の一態様によれば、本発明の報知装置は、配筋を構成する鉄筋に係る計測に関する情報を報知する報知装置であって、前記配筋が撮像されたステレオ画像を取得する画像取得手段と、前記画像取得手段によって取得された前記ステレオ画像に基づいて、3次元点群座標を生成する3次元点群座標生成手段と、前記3次元点群座標生成手段によって生成された3次元点群座標に基づいて、前記配筋を構成する鉄筋で形成される平面を特定する平面特定手段と、前記3次元点群座標生成手段により3次元点群座標を生成する際、または、前記平面特定手段により平面を特定する際、前記鉄筋の計測が可能であるか否かを判断する判断手段と、前記判断手段によって前記計測が不可能であると判断された場合、前記計測が不可能であることを示す情報を報知する報知手段とを備え、前記判断手段は、前記3次元点群座標生成手段による3次元点群座標の生成が不可能である場合、前記鉄筋の計測が不可能であると判断し、前記平面特定手段により特定された前記平面の傾斜角または前記平面までの距離が、判断条件格納部に記憶されている、配筋を構成する複数の鉄筋で形成される平面の傾斜角または前記平面迄の距離に関する第1条件を満たさない場合、前記鉄筋の計測が不可能であると判断することを特徴とする。
The present invention employs the following configuration in order to solve the above problems.
That is, according to one aspect of the present invention, the notification device of the present invention is a notification device for notifying information related to measurement related to reinforcing bars constituting a reinforcing bar, and acquires a stereo image obtained by imaging the reinforcing bar. An image acquisition means, a 3D point cloud coordinate generation means for generating a 3D point cloud coordinate based on the stereo image acquired by the image acquisition means, and a 3 generated by the 3D point cloud coordinate generation means When generating the three-dimensional point group coordinates by the plane specifying means for specifying the plane formed by the reinforcing bars constituting the bar arrangement based on the three-dimensional point group coordinates and the three-dimensional point group coordinate generating means, or When specifying the plane by the plane specifying means, the determination means for determining whether or not the reinforcing bar can be measured, and the measurement is impossible when the determination means determines that the measurement is impossible so Informing information indicating that, when the three-dimensional point group coordinate generation unit cannot generate the three-dimensional point group coordinates, the rebar measurement is impossible. It is determined that there is a plane formed by a plurality of reinforcing bars constituting the bar arrangement, in which the inclination angle of the plane specified by the plane specifying unit or the distance to the plane is stored in the determination condition storage unit. When the first condition regarding the inclination angle or the distance to the plane is not satisfied, it is determined that the measurement of the reinforcing bar is impossible.

また、本発明の報知装置は、前記平面特定手段によって特定された平面の情報に基づいて、前記鉄筋を計測する計測手段をさらに備え、前記3次元点群座標生成手段が、前記画像取得手段によって取得された前記ステレオ画像を第1のステレオ画像として3次元点群座標を生成し、前記判断手段が、前記画像取得手段によって取得された前記第1のステレオ画像に起因して、前記計測が可能であると判断した場合、前記画像取得手段は、前記第1のステレオ画像よりも高解像度の第2のステレオ画像を新たに取得し、前記3次元点群座標生成手段は、前記画像取得手段によって新たに取得された前記第2のステレオ画像に基づいて、3次元点群座標を新たに生成し、前記平面特定手段は、前記3次元点群座標生成手段によって新たに生成された前記3次元点群座標に基づいて、前記配筋を構成する鉄筋で形成される平面を新たに特定し、前記計測手段は、前記平面特定手段によって新たに特定された前記平面の情報に基づいて、前記鉄筋の計測を行うことが望ましい。   Moreover, the notification device of the present invention further includes a measuring unit that measures the reinforcing bar based on the plane information specified by the plane specifying unit, and the three-dimensional point group coordinate generating unit is configured to be used by the image acquiring unit. Three-dimensional point cloud coordinates are generated using the acquired stereo image as a first stereo image, and the determination unit can perform the measurement due to the first stereo image acquired by the image acquisition unit The image acquisition means newly acquires a second stereo image having a resolution higher than that of the first stereo image, and the three-dimensional point cloud coordinate generation means is determined by the image acquisition means. Based on the newly acquired second stereo image, three-dimensional point group coordinates are newly generated, and the plane specifying means is newly generated by the three-dimensional point group coordinate generating means. Based on the three-dimensional point group coordinates, a plane formed by reinforcing bars constituting the bar arrangement is newly specified, and the measuring means is based on the information on the plane newly specified by the plane specifying means. It is desirable to measure the reinforcing bars.

また、本発明の報知装置は、前記画像取得手段が、第1の解像度で撮像されたステレオ画像を前記第1のステレオ画像として取得し、前記第2の解像度で撮像されたステレオ画像を前記第2のステレオ画像として取得する、または、前記第2のステレオ画像から前記第1のステレオ画像を生成して取得することが望ましい。   In the notification device of the present invention, the image acquisition unit acquires a stereo image captured at a first resolution as the first stereo image, and the stereo image captured at the second resolution is the first resolution. It is desirable to obtain two stereo images, or to generate and obtain the first stereo image from the second stereo image.

また、本発明の報知装置は、前記平面特定手段によって特定された平面の情報に基づいて、前記鉄筋を計測する計測手段をさらに備え、前記平面特定手段は、前記3次元点群座標生成手段によって生成された前記3次元点群座標を第1のサンプル数でサンプルするとともにサンプルした前記3次元点群座標から平面パラメータを算出する工程を複数回実施することで前記平面を特定し、前記判断手段が、前記平面パラメータの算出を複数回実施することで前記平面特定手段が特定した平面の情報に基づいて、前記計測が可能であると判断した場合、前記平面特定手段は、前記第1のサンプル数より多い第2のサンプル数で平面を新たに特定し、前記計測手段は、前記平面特定手段によって新たに特定された前記平面の情報に基づいて、前記鉄筋の計測を行うことが望ましい。   In addition, the notification device of the present invention further includes a measuring unit that measures the reinforcing bar based on the plane information specified by the plane specifying unit, and the plane specifying unit is provided by the three-dimensional point group coordinate generating unit. Sample the generated three-dimensional point group coordinates with a first number of samples and specify a plane by performing a step of calculating a plane parameter from the sampled three-dimensional point group coordinates a plurality of times. However, when it is determined that the measurement is possible based on the information of the plane specified by the plane specifying unit by performing the calculation of the plane parameter a plurality of times, the plane specifying unit A plane is newly specified with a second number of samples greater than the number, and the measuring means is configured to generate the iron based on the information on the plane newly specified by the plane specifying means. It is desirable to carry out the measurement.

また、本発明の報知装置は、前記平面特定手段によって特定された平面の情報に基づいて、前記鉄筋を計測する計測手段をさらに備え、前記平面特定手段は、前記3次元点群座標生成手段によって生成された前記3次元点群座標を所定のサンプル数でサンプルするとともにサンプルした前記3次元点群座標から平面パラメータを算出する工程を複数回である第1の回数実施することで前記平面を特定し、前記判断手段が、前記平面パラメータの算出を前記第1の回数実施することで前記平面特定手段が特定した平面の情報に基づいて、前記計測が可能であると判断した場合、前記平面特定手段は、前記工程を行う回数を、前記第1の回数よりも多い第2の回数実施して、平面を新たに特定し、前記計測手段は、前記平面特定手段によって新たに特定された前記平面の情報に基づいて、前記鉄筋の計測を行うことが望ましい。   In addition, the notification device of the present invention further includes a measuring unit that measures the reinforcing bar based on the plane information specified by the plane specifying unit, and the plane specifying unit is provided by the three-dimensional point group coordinate generating unit. The generated three-dimensional point group coordinates are sampled with a predetermined number of samples, and the plane parameter is calculated from the sampled three-dimensional point group coordinates, and the plane is identified by performing the process a plurality of times. When the determination unit determines that the measurement is possible based on the plane information specified by the plane specification unit by performing the calculation of the plane parameter for the first number of times, the plane specification is performed. The means performs a second number of times for performing the step, which is larger than the first number, to newly specify a plane, and the measuring means newly determines the plane by the plane specifying means. I based on the information for that the plane, it is preferable to perform the measurement of the rebar.

また、本発明の報知装置は、前記3次元点群座標生成手段が、前記画像取得手段によって取得された前記ステレオ画像を用いてステレオマッチング処理を行い、前記平面特定手段が、前記画像取得手段によって取得された前記ステレオ画像を第1のステレオ画像とした前記第1のステレオ画像に起因して、前記特定された前記平面に属する前記鉄筋が存在するエリアを特定し、前記判断手段が、前記画像取得手段によって取得された前記第1のステレオ画像に起因して、前記計測が可能であるか否かを判断した場合、前記画像取得手段は、第2のステレオ画像を新たに取得し、前記3次元点群座標生成手段は、前記第1のステレオ画像に基づいて既に特定されている前記エリアに基づいて、前記画像取得手段によって新たに取得された前記第2のステレオ画像に対して行うステレオマッチング処理の処理範囲を一部の処理範囲に設定し、前記新たに取得された前記第2のステレオ画像に対しては、設定された前記一部の処理範囲に対してのみ、前記ステレオマッチングの処理を行い、前記判断手段は、設定された前記一部の処理範囲に対してのみ前記ステレオマッチングの処理が行われて生成された前記3次元点群座標に基づいて、前記鉄筋の計測が可能か否かを新たに判断することが望ましい。   Further, in the notification device of the present invention, the three-dimensional point cloud coordinate generation unit performs a stereo matching process using the stereo image acquired by the image acquisition unit, and the plane specifying unit is operated by the image acquisition unit. An area where the reinforcing bars belonging to the specified plane are present due to the first stereo image obtained by using the acquired stereo image as a first stereo image, and the determination means includes the image When it is determined whether the measurement is possible due to the first stereo image acquired by the acquisition unit, the image acquisition unit newly acquires a second stereo image, and the 3 The dimension point group coordinate generation means is configured to acquire the first newly acquired image by the image acquisition means based on the area that has already been specified based on the first stereo image. The stereo matching processing range to be performed on the stereo image is set to a part of the processing range, and the newly acquired second stereo image is set to the set part of the processing range. The stereo matching process is performed only on the basis of the three-dimensional point cloud coordinates generated by performing the stereo matching process only on the set partial processing range. Therefore, it is desirable to newly determine whether or not the rebar can be measured.

また、本発明の報知装置は、前記平面特定手段が、前記3次元点群座標生成手段によって生成された前記3次元点群座標から平面パラメータを算出して前記平面を特定し、前記判断手段が、前記平面特定手段によって算出した平面パラメータを用いて特定した平面の情報に基づいて、前記鉄筋の計測が可能であるか否かを判断し、前記3次元点群座標生成手段が、前記ステレオ画像から、または、前記ステレオ画像より後に新たに取得された第2のステレオ画像から、前記平面特定手段によって既に算出されている前記平面パラメータから推定される前記平面から所定距離内に位置する一部の前記3次元点群を生成し、前記平面特定手段が、前記3次元点群座標生成手段によって生成された一部の前記3次元点群から平面を新たに特定することが望ましい。   Further, in the notification device of the present invention, the plane specifying unit specifies the plane by calculating plane parameters from the three-dimensional point group coordinates generated by the three-dimensional point group coordinate generation unit, and the determining unit Determining whether or not the rebar can be measured based on the plane information specified using the plane parameter calculated by the plane specifying means, and the three-dimensional point cloud coordinate generating means Or a part of the second stereo image newly acquired after the stereo image and located within a predetermined distance from the plane estimated from the plane parameter already calculated by the plane specifying unit. The three-dimensional point group is generated, and the plane specifying unit newly specifies a plane from a part of the three-dimensional point group generated by the three-dimensional point group coordinate generating unit. It is desirable

また、本発明の報知装置は、前記3次元点群座標生成手段が、前記画像取得手段によって取得された前記第1のステレオ画像を構成する2つの視点画像のうち、少なくとも一方の視点画像に基づいて、前記平面特定手段によって特定された前記平面上に存在する特徴点を検出し、前記判断手段が、前記画像取得手段によって取得された前記第1のステレオ画像に起因して、前記計測が可能であるか否かを判断し、前記画像取得手段が、第2のステレオ画像を新たに取得し、前記3次元点群座標生成手段が、前記画像取得手段によって新たに取得された前記第2のステレオ画像を構成する2つの視点画像のうち、前記特徴点を抽出した視点画像と同じ方の前記視点画像に基づいて、前記第1のステレオ画像に基づき既に検出されている前記特徴点に対応する特徴点を検出し、前記平面特定手段が、前記画像取得手段によって新たに取得された前記第2のステレオ画像において検出された前記特徴点に基づいて、平面を新たに特定することが望ましい。   In the notification device according to the present invention, the three-dimensional point cloud coordinate generation unit is based on at least one viewpoint image of two viewpoint images constituting the first stereo image acquired by the image acquisition unit. The feature point existing on the plane specified by the plane specifying unit is detected, and the determination unit can perform the measurement due to the first stereo image acquired by the image acquiring unit. The image acquisition means newly acquires a second stereo image, and the three-dimensional point group coordinate generation means newly acquires the second stereo image acquired by the image acquisition means. The feature that has already been detected based on the first stereo image based on the viewpoint image that is the same as the viewpoint image from which the feature points are extracted from the two viewpoint images constituting the stereo image. And the plane specifying means newly specifies a plane based on the feature points detected in the second stereo image newly acquired by the image acquisition means. desirable.

また、本発明の報知装置は、前記平面特定手段が、前記3次元点群座標生成手段によって生成された前記3次元点群座標をサンプルするとともにサンプルした前記3次元点群座標から平面パラメータを算出する工程を複数回実施することで前記平面を特定し、前記判断手段が、前記平面特定手段により特定された前記平面の傾斜角または前記平面までの距離が、前記第1条件と前記判断条件格納部に記憶されており前記第1条件とは異なる第2条件の何れか一方を満たし他方を満たさない場合、前記鉄筋の計測が不可能であると判断し、前記平面特定手段が、前記平面を特定する前記3次元点群のサンプル数を増やし、若しくは、前記工程の回数を増やし、再度、前記平面を特定し、前記判断手段が、前記平面特定手段によって再度特定された前記平面に基づいて、前記鉄筋の計測が可能であるか否かを判断することが望ましい。   In the notification device of the present invention, the plane specifying unit samples the 3D point group coordinates generated by the 3D point group coordinate generation unit and calculates plane parameters from the sampled 3D point group coordinates. The plane is identified by performing the step of performing a plurality of times, and the determination means stores the inclination angle of the plane specified by the plane specification means or the distance to the plane as the first condition and the determination condition. When the second condition different from the first condition is satisfied and the other is not satisfied, it is determined that the reinforcing bar cannot be measured, and the plane specifying means Increase the number of samples of the three-dimensional point group to be specified, or increase the number of steps, specify the plane again, and the determination means is specified again by the plane specification means. Based on the plane, it is desirable to determine whether it is possible to measure the rebar.

また、本発明の報知装置は、前記平面特定手段が、前記3次元点群座標生成手段によって生成された前記3次元点群座標をサンプルするとともにサンプルした前記3次元点群座標から平面パラメータを算出する工程を複数回実施することで前記平面を特定し、前記判断手段が、前記平面特定手段により特定された前記平面の傾斜角または前記平面までの距離が、前記第1条件をと前記判断条件格納部に記憶されており前記第1条件とは異なる第2条件の何れか一方を満たし他方を満たさない場合、前記鉄筋の計測が不可能であると判断し、前記画像取得手段が、既に取得された前記ステレオ画像を第1のステレオ画像として、前記第1のステレオ画像よりも高解像度の第2のステレオ画像を新たに取得し、前記判断手段が、前記画像取得手段によって新たに取得された前記第2のステレオ画像に起因して、前記鉄筋の計測が可能であるか否かを判断することが望ましい。   In the notification device of the present invention, the plane specifying unit samples the 3D point group coordinates generated by the 3D point group coordinate generation unit and calculates plane parameters from the sampled 3D point group coordinates. The plane is identified by performing the step of performing a plurality of times, and the determination means determines whether the inclination angle of the plane specified by the plane specification means or the distance to the plane satisfies the first condition. If any one of the second conditions different from the first condition that is stored in the storage unit is satisfied and the other is not satisfied, it is determined that the measurement of the reinforcing bar is impossible, and the image acquisition unit has already acquired The obtained stereo image is used as a first stereo image, a second stereo image having a higher resolution than the first stereo image is newly acquired, and the determination unit includes the image acquisition unit. Thus due to the newly acquired second stereo image, it is desirable to determine whether it is possible to measure the rebar.

また、本発明の報知装置は、前記画像取得手段が、第1の解像度で撮像されたステレオ画像を前記第1のステレオ画像として取得し、前記第2の解像度で撮像されたステレオ画像を前記第2のステレオ画像として取得する、または、前記第2の解像度よりも高解像度の第3の解像度で撮像されたステレオ画像を第3のステレオ画像として生成し、前記第3のステレオ画像から前記第1のステレオ画像と前記第2のステレオ画像を生成することが望ましい。   In the notification device of the present invention, the image acquisition unit acquires a stereo image captured at a first resolution as the first stereo image, and the stereo image captured at the second resolution is the first resolution. Or a stereo image captured at a third resolution higher than the second resolution is generated as a third stereo image, and the first stereo image is generated from the third stereo image. It is desirable to generate the stereo image and the second stereo image.

また、本発明の一態様によれば、本発明の報知処理プログラムは、配筋を構成する鉄筋に係る計測に関する情報を報知する報知装置のコンピュータを、前記配筋が撮像されたステレオ画像を取得する画像取得手段、前記画像取得手段によって取得された前記ステレオ画像に基づいて、3次元点群座標を生成する3次元点群座標生成手段、前記3次元点群座標生成手段によって生成された3次元点群座標に基づいて、前記配筋を構成する鉄筋で形成される平面を特定する平面特定手段、前記3次元点群座標生成手段により3次元点群座標を生成する際、または、前記平面特定手段により平面を特定する際、前記鉄筋の計測が可能であるか否かを判断する判断手段、前記判断手段によって前記計測が不可能であると判断された場合、前記計測が不可能であることを示す情報を報知する報知手段として機能させるための報知処理プログラムであって、前記判断手段が、前記3次元点群座標生成手段による3次元点群座標の生成が不可能である場合、前記鉄筋の計測が不可能であると判断し、前記平面特定手段により特定された前記平面の傾斜角または前記平面までの距離が、判断条件格納部に記憶されている、配筋を構成する複数の鉄筋で形成される平面の傾斜角または前記平面迄の距離に関する第1条件を満たさない場合、前記鉄筋の計測が不可能であると判断することを特徴とする報知処理プログラムである。   Moreover, according to one aspect of the present invention, the notification processing program of the present invention obtains a stereo image in which the reinforcement is imaged by using the computer of the notification device that notifies information related to the measurement related to the reinforcing bars constituting the reinforcement. 3D point group coordinate generation means for generating 3D point cloud coordinates based on the stereo image acquired by the image acquisition means, 3D generated by the 3D point cloud coordinate generation means Plane specifying means for specifying a plane formed by reinforcing bars constituting the bar arrangement based on point group coordinates, when generating three-dimensional point group coordinates by the three-dimensional point group coordinate generating means, or specifying the plane When the plane is specified by the means, the determination means for determining whether or not the rebar can be measured. If the determination means determines that the measurement is impossible, the measurement is not possible. A notification processing program for functioning as notification means for notifying information indicating that the three-dimensional point group coordinate generation means is not capable of generating the three-dimensional point group coordinates. In this case, it is determined that the reinforcing bar cannot be measured, and the inclination angle of the plane specified by the plane specifying unit or the distance to the plane is stored in the determination condition storage unit. When the first condition relating to the inclination angle of a plane formed by a plurality of reinforcing bars or the distance to the plane is not satisfied, it is determined that measurement of the reinforcing bars is impossible.

また、本発明の一態様によれば、本発明の報知処理方法は、配筋を構成する鉄筋に係る計測に関する情報を報知する報知装置において実行される報知処理方法であって、前記配筋が撮像されたステレオ画像を取得し、前記取得された前記ステレオ画像に基づいて、3次元点群座標を生成し、前記生成された3次元点群座標に基づいて、前記配筋を構成する鉄筋で形成される平面を特定し、前記3次元点群座標を生成する際、または、前記平面を特定する際、前記鉄筋の計測が可能であるか否かを判断し、前記計測が不可能であると判断された場合、前記計測が不可能であることを示す情報を報知し、前記判断において、前記3次元点群座標の生成が不可能である場合、前記鉄筋の計測が不可能であると判断し、前記特定された前記平面の傾斜角または前記平面までの距離が、判断条件格納部に記憶されている、配筋を構成する複数の鉄筋で形成される平面の傾斜角または前記平面迄の距離に関する第1条件を満たさない場合、前記鉄筋の計測が不可能であると判断することを特徴とする。   Moreover, according to one aspect of the present invention, the notification processing method of the present invention is a notification processing method that is executed in a notification device that notifies information related to measurement relating to a reinforcing bar constituting a reinforcement, and the reinforcement is A captured stereo image is acquired, a three-dimensional point cloud coordinate is generated based on the acquired stereo image, and a reinforcing bar constituting the bar arrangement is generated based on the generated three-dimensional point cloud coordinate. When the plane to be formed is specified and the three-dimensional point group coordinates are generated, or when the plane is specified, it is determined whether the rebar can be measured and the measurement is impossible. If it is determined, information indicating that the measurement is impossible is notified, and if the generation of the three-dimensional point group coordinates is impossible in the determination, the measurement of the reinforcing bar is impossible. Judgment and inclination of the identified plane Alternatively, when the distance to the plane does not satisfy the first condition relating to the inclination angle of the plane formed by a plurality of reinforcing bars constituting the reinforcement, or the distance to the plane, stored in the determination condition storage unit, It is judged that the measurement of the reinforcing bar is impossible.

本発明によれば、鉄筋の配置を検査するための撮像について、計測のための撮像前にその撮像条件で撮像してよいのか否かを利用者が迅速に知ることが可能となる。   According to the present invention, it is possible for a user to quickly know whether or not imaging for inspecting the arrangement of reinforcing bars may be performed under the imaging conditions before imaging for measurement.

実施の形態における報知装置のハードウェア構成図である。It is a hardware block diagram of the alerting | reporting apparatus in embodiment. 実施の形態における報知処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the alerting | reporting process in embodiment. 実施の形態における報知装置の機能ブロック図である。It is a functional block diagram of the alerting | reporting apparatus in embodiment. 表示画面例を示す図である。It is a figure which shows the example of a display screen. 他の実施の形態における報知処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the alerting | reporting process in other embodiment.

以下、本発明の実施の形態について、図面を参照しながら詳細に説明する。
図1は、実施の形態における報知装置のハードウェア構成図である。
図1において、報知装置100は、例えば、所謂スマートフォン端末やタブレット端末等の携帯情報端末装置、パーソナルコンピュータ等のコンピュータシステム上に実現される。
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
FIG. 1 is a hardware configuration diagram of a notification device according to an embodiment.
In FIG. 1, the notification device 100 is realized, for example, on a so-called smart phone terminal, a portable information terminal device such as a tablet terminal, or a computer system such as a personal computer.

報知装置100は、CPU(Central Processing Unit:中央演算処理装置)101と、ROM(Read Only Memory)102と、RAM(Random Access Memory)103を備える。また、報知装置100は、記憶部104と、通信インターフェース105と、入力部106と、表示部107を備える。また、報知装置100は、可搬記録媒体駆動部108を備える。さらに、報知装置100は、撮像部111を備えることもある。そして、上述の各機器101乃至108は、バス110によって相互に接続される。報知装置100が撮像部111を備えた場合には、撮像部111もバス110によって各機器101乃至108と相互に接続される。   The notification device 100 includes a CPU (Central Processing Unit) 101, a ROM (Read Only Memory) 102, and a RAM (Random Access Memory) 103. The notification device 100 includes a storage unit 104, a communication interface 105, an input unit 106, and a display unit 107. In addition, the notification device 100 includes a portable recording medium driving unit 108. Furthermore, the notification device 100 may include an imaging unit 111. The devices 101 to 108 are connected to each other via a bus 110. When the notification device 100 includes the imaging unit 111, the imaging unit 111 is also connected to the devices 101 to 108 via the bus 110.

ROM102は、報知装置100全体の一般的な動作を制御するプログラムおよびテーブルデータの他、後述する図2および図5のフローチャートで例示される報知処理の制御プログラム(報知処理プログラム)を格納する。RAM103は、表示部107用のフレームバッファや一部のアプリケーションプログラム等を格納する。CPU101は、ROM102から報知処理プログラムを読み出し、RAM103をワークメモリとして実行する。   The ROM 102 stores a control program (notification processing program) for notification processing exemplified in flowcharts of FIGS. 2 and 5 to be described later, in addition to a program and table data for controlling general operations of the notification device 100 as a whole. The RAM 103 stores a frame buffer for the display unit 107, some application programs, and the like. The CPU 101 reads the notification processing program from the ROM 102 and executes the RAM 103 as a work memory.

記憶部104は、各種プログラムやそれらのプログラムの実行に必要な情報を不揮発的に記憶するストレージである。記憶部104は、例えば、ハードディスク装置である。通信インターフェース105は、例えばLAN(ローカルエリアネットワーク)またはWAN(ワイドエリアネットワーク)の通信回線を接続するための装置である。   The storage unit 104 is a storage that stores various programs and information necessary for executing these programs in a nonvolatile manner. The storage unit 104 is, for example, a hard disk device. The communication interface 105 is a device for connecting, for example, a LAN (local area network) or WAN (wide area network) communication line.

入力部106は、例えば、キーボード、ジョイスティック、ライトペン、マウス、タッチパッド、タッチパネル、トラックボール等、各種のデータや信号等を入力する。表示部107は、例えば、LCD(Liquid Crystal Display)等の各種ディスプレイであり、画像やその他の情報を表示する。入力部106と表示部107は、例えば、携帯情報端末装置に備えられたタッチパネルディスプレイ装置として一体化されることも可能である。   The input unit 106 inputs various data and signals such as a keyboard, a joystick, a light pen, a mouse, a touch pad, a touch panel, and a trackball. The display unit 107 is various displays such as an LCD (Liquid Crystal Display), and displays images and other information. For example, the input unit 106 and the display unit 107 can be integrated as a touch panel display device provided in a portable information terminal device.

可搬記録媒体駆動部108は、SD/マイクロSDメモリーカード、USB(Universal Serial Bus)メモリーカード、CD−ROM、DVD、光磁気ディスクなどの可搬記録媒体109を収容し、可搬記録媒体109に記録されるプログラムや各種データを読出し、CPU101に出力する。可搬記録媒体109は、記憶部104と同様に、各種プログラムやそれらのプログラムの実行に必要な情報を不揮発的に記憶するストレージである。   The portable recording medium drive unit 108 accommodates a portable recording medium 109 such as an SD / micro SD memory card, a USB (Universal Serial Bus) memory card, a CD-ROM, a DVD, or a magneto-optical disk. Are read out and output to the CPU 101. Similar to the storage unit 104, the portable recording medium 109 is a storage that stores various programs and information necessary for executing these programs in a nonvolatile manner.

撮像部111は、2以上のデジタルカメラ機構で画像を撮像することのできるステレオカメラ機構であり、レンズ、オートフォーカス駆動制御装置、露出制御装置、撮像センサ等を備える。なお、報知装置100は、撮像部111を備えずに、外部のステレオカメラ等から画像を取得するようにしてもよい。   The imaging unit 111 is a stereo camera mechanism that can capture an image with two or more digital camera mechanisms, and includes a lens, an autofocus drive control device, an exposure control device, an imaging sensor, and the like. Note that the notification device 100 may acquire an image from an external stereo camera or the like without including the imaging unit 111.

本実施の形態における報知処理は、図2および図5のフローチャートで実現される機能を搭載した報知処理プログラムをCPU101が実行することで実現される。その報知処理プログラムは、例えば記憶部104や可搬記録媒体109に格納して配布してもよく、或いは通信インターフェース105によりネットワークから取得できるようにしてもよい。   The notification process in the present embodiment is realized by the CPU 101 executing a notification process program equipped with the functions realized by the flowcharts of FIGS. 2 and 5. The notification processing program may be stored and distributed, for example, in the storage unit 104 or the portable recording medium 109, or may be acquired from the network by the communication interface 105.

図2は、実施の形態における報知処理の流れを示すフローチャートである。
図2に例示した報知処理は、図1を用いて説明した報知装置100のハードウェア構成によって実現される。
FIG. 2 is a flowchart showing a flow of notification processing in the embodiment.
The notification process illustrated in FIG. 2 is realized by the hardware configuration of the notification apparatus 100 described with reference to FIG.

まず、ステップS201において、報知装置100のCPU101は、第1の画像取得を行う。例えば、撮像部111または外部のステレオカメラで撮像した撮像画像を、所定のフレームレートで逐次更新させたライブビュー画像を取得する。なお、第1の画像取得で取得する第1の画像は、ライブビュー画像に限らず、撮像した静止画像に対して解像度を低くする縮小処理を施した低解像度画像でもよい。   First, in step S201, the CPU 101 of the notification device 100 performs a first image acquisition. For example, a live view image obtained by sequentially updating a captured image captured by the imaging unit 111 or an external stereo camera at a predetermined frame rate is acquired. Note that the first image acquired by the first image acquisition is not limited to the live view image, but may be a low-resolution image obtained by performing a reduction process for reducing the resolution of the captured still image.

ステップS202において、CPU101は、第1の3次元再構成を行う。例えば、ステップS201で取得した第1の画像を対象にしたステレオマッチング処理を行い、そのステレオ画像から3次元データを生成する。   In step S202, the CPU 101 performs the first three-dimensional reconstruction. For example, stereo matching processing is performed on the first image acquired in step S201, and three-dimensional data is generated from the stereo image.

ステップS203において、CPU101は、ステップS202の第1の3次元再構成ができたか否か(OKかNGか)の第1の3次元再構成判定を行う。例えば、2次元でのステレオマッチング処理ができたか否か、2次元でのステレオマッチングにより3次元座標を生成できたか(3次元から2次元への投影行列が算出できたか)否かを判定する。   In step S203, the CPU 101 performs a first three-dimensional reconstruction determination as to whether or not the first three-dimensional reconstruction in step S202 has been completed (OK or NG). For example, it is determined whether or not two-dimensional stereo matching processing has been performed and whether or not three-dimensional coordinates have been generated by two-dimensional stereo matching (a projection matrix from three dimensions to two dimensions has been calculated).

判定の結果がNG(3次元再構成ができなかった)の場合、ステップS204において、CPU101は、表示部107に表示させるためのエラー情報を生成する。
他方、判定の結果がOK(3次元再構成ができた)の場合、ステップS205において、CPU101は、第1の平面検出を行う。例えば、ステップS202で生成した3次元データから表層の平面パラメータを推定する。既知の技術(RANSAC:RANdom SAmple Consensus)を用い、3次元の点群から最も多くの点が含まれる平面を推定する。
If the determination result is NG (three-dimensional reconstruction was not possible), the CPU 101 generates error information to be displayed on the display unit 107 in step S204.
On the other hand, if the determination result is OK (three-dimensional reconstruction is possible), in step S205, the CPU 101 performs first plane detection. For example, the surface layer plane parameter is estimated from the three-dimensional data generated in step S202. A known technique (RANdom AC: RANdom SAmple Consensus) is used to estimate a plane including the most points from a three-dimensional point group.

RANSACとは、ステレオマッチングの際に、ミスマッチングによる誤りを含んだ特徴点群から正しいフレームの揺れを表す変換行列を適切に推定するためのロバスト推定技術の1つである。RANSACは、特徴点群全体から、ランダムに特徴点ペアの一部をサンプリングして変換行列の算出を行い、特徴点全体に対してフレームの揺れをどの程度表しているかを評価する。この一連の処理を複数回繰り返し、その中から最も評価結果の良い変換行列を選択する。これにより、誤りを含んだ特徴点群からフレームの揺れを正しく表す変換行列を推定することができる。   RANSAC is one of robust estimation techniques for appropriately estimating a transformation matrix representing a correct frame fluctuation from a feature point group including an error due to mismatching in stereo matching. RANSAC samples a part of a feature point pair randomly from the entire feature point group to calculate a transformation matrix, and evaluates how much frame fluctuation is expressed for the entire feature point. This series of processes is repeated a plurality of times, and a conversion matrix having the best evaluation result is selected from the processes. As a result, it is possible to estimate a transformation matrix that correctly represents the fluctuation of the frame from the feature point group including an error.

このステップS205推定された平面の検出データ、例えば、推定した平面(3D)の入力画像(2D)上での領域、推定した平面パラメータなどの、3次元再構成および平面検出時に得られた諸データは、後述するステップS208の第2の3次元再構成、ステップS210の第2の平面検出で利用する。   Step S205 Estimated plane detection data, for example, areas on the input image (2D) of the estimated plane (3D), estimated plane parameters, and other data obtained during three-dimensional reconstruction and plane detection Is used in the second three-dimensional reconstruction in step S208 described later and the second plane detection in step S210.

ステップS206において、CPU101は、ステップS205の第1の平面検出ができたか否か(OKかNGか)の第1の平面条件判定を行う。例えば、推定した平面と撮像部111との距離および撮像部111のカメラ光軸とのなす角が計測条件内か判定する。   In step S206, the CPU 101 determines the first plane condition whether or not the first plane detection in step S205 has been completed (OK or NG). For example, it is determined whether the angle between the estimated plane and the imaging unit 111 and the angle formed by the camera optical axis of the imaging unit 111 are within the measurement conditions.

判定の結果がNG(平面検出ができなかった)の場合、ステップS204において、CPU101は、表示部107に表示させるためのエラー情報を生成する。例えば、推定した平面と撮像部111との距離が計測条件の距離より遠過ぎたり近過ぎたりした場合、または、推定した平面とカメラ光軸とのなす角が計測条件の角度に比べ傾き過ぎているような場合には、平面検出ができないと判定し、エラー情報を生成する。   If the determination result is NG (plane detection has not been performed), the CPU 101 generates error information to be displayed on the display unit 107 in step S204. For example, when the distance between the estimated plane and the imaging unit 111 is too far or too close to the distance of the measurement condition, or the angle formed by the estimated plane and the camera optical axis is too inclined compared to the angle of the measurement condition. In such a case, it is determined that the plane cannot be detected, and error information is generated.

他方、判定の結果がOK(平面検出ができた)の場合、ステップS207において、CPU101は、第2の画像取得を行う。例えば、第2の画像取得は、ステップS201でライブビュー画像を取得した場合には、新たに撮像した静止画像の取得を行う。また、ステップS201で低解像度画像を取得した場合には、その低解像度画像の元となった静止画像の取得を行う。   On the other hand, when the result of the determination is OK (plane detection has been performed), in step S207, the CPU 101 acquires a second image. For example, in the second image acquisition, when a live view image is acquired in step S201, a newly captured still image is acquired. If a low resolution image is acquired in step S201, a still image that is the source of the low resolution image is acquired.

ステップS208において、CPU101は、第2の3次元再構成を行う。例えば、ステップS207で取得した第2の画像を対象にしたステレオマッチング処理を行い、そのステレオ画像から3次元データを生成する。   In step S208, the CPU 101 performs the second three-dimensional reconstruction. For example, stereo matching processing is performed on the second image acquired in step S207, and three-dimensional data is generated from the stereo image.

ステップS209において、CPU101は、ステップS208の第2の3次元再構成ができたか否か(OKかNGか)の第2の3次元再構成判定を行う。例えば、2次元でのステレオマッチング処理ができたか否か、2次元でのステレオマッチングにより3次元座標を生成できたか否かを判定する。   In step S209, the CPU 101 determines whether or not the second three-dimensional reconstruction in step S208 has been completed (OK or NG). For example, it is determined whether or not two-dimensional stereo matching processing has been performed, and whether or not three-dimensional coordinates have been generated by two-dimensional stereo matching.

判定の結果がNG(3次元再構成ができなかった)の場合、ステップS204において、CPU101は、表示部107に表示させるためのエラー情報を生成する。
他方、判定の結果がOK(3次元再構成ができた)の場合、ステップS210において、CPU101は、第2の平面検出を行う。例えば、ステップS208で生成した3次元データから表層の平面パラメータを推定する。RANSACを用い、3次元の点群から最も多くの点が含まれる平面を推定する。
If the determination result is NG (three-dimensional reconstruction was not possible), the CPU 101 generates error information to be displayed on the display unit 107 in step S204.
On the other hand, if the determination result is OK (three-dimensional reconstruction is possible), in step S210, the CPU 101 performs second plane detection. For example, the surface layer plane parameter is estimated from the three-dimensional data generated in step S208. RANSAC is used to estimate a plane containing the most points from a three-dimensional point group.

ステップS211において、CPU101は、ステップS210の第2の平面検出ができたか否か(OKかNGか)の第2の平面条件判定を行う。例えば、推定した平面と撮像部111との距離および撮像部111のカメラ光軸とのなす角が計測条件内か判定する。   In step S211, the CPU 101 performs second plane condition determination as to whether or not the second plane detection in step S210 has been performed (OK or NG). For example, it is determined whether the angle between the estimated plane and the imaging unit 111 and the angle formed by the camera optical axis of the imaging unit 111 are within the measurement conditions.

判定の結果がNG(平面検出ができなかった)の場合、ステップS204において、CPU101は、表示部107に表示させるためのエラー情報を生成する。
他方、判定の結果がOK(平面検出ができた)の場合、本報知処理を終了し、従来の配筋検査支援システムと同様に、鉄筋コンクリート造の建築物の工事過程における出来形が正当か否かを、ステップS207で取得した撮像画像に基づいて検査する。
If the determination result is NG (plane detection has not been performed), the CPU 101 generates error information to be displayed on the display unit 107 in step S204.
On the other hand, if the result of the determination is OK (plane detection has been completed), this notification processing is terminated, and whether or not the finished shape in the construction process of the reinforced concrete building is valid, as in the conventional reinforcement inspection support system. Is inspected based on the captured image acquired in step S207.

図3は、実施の形態における報知装置の機能ブロック図であり、図4は、表示画面例を示す図である。
図1を用いて説明したように、CPU101は、ROM102から報知処理プログラムを読み出し、RAM103をワークメモリとして実行する。これにより、図3の機能ブロックで示される報知処理機能が実現される。
FIG. 3 is a functional block diagram of the notification device according to the embodiment, and FIG. 4 is a diagram illustrating an example of a display screen.
As described with reference to FIG. 1, the CPU 101 reads a notification processing program from the ROM 102 and executes the RAM 103 as a work memory. Thereby, the notification processing function shown by the functional block in FIG. 3 is realized.

図3において、報知装置100は、配筋を構成する鉄筋に係る計測に関する情報を報知する。報知装置100は、画像取得手段301、3次元点群座標生成手段302、平面特定手段303、判断手段304、報知手段305、および判断条件格納部306を備える。   In FIG. 3, the notification device 100 notifies information related to the measurement related to the reinforcing bars constituting the bar arrangement. The notification device 100 includes an image acquisition unit 301, a three-dimensional point group coordinate generation unit 302, a plane specifying unit 303, a determination unit 304, a notification unit 305, and a determination condition storage unit 306.

画像取得手段301は、配筋が撮像されたステレオ画像を取得する。3次元点群座標生成手段302は、画像取得手段301によって取得されたステレオ画像に基づいて、3次元点群座標を生成する。平面特定手段303は、3次元点群座標生成手段302によって生成された3次元点群座標に基づいて、配筋を構成する鉄筋で形成される平面を特定する。判断手段304は、3次元点群座標生成手段302により3次元点群座標を生成する際、または、平面特定手段303により平面を特定する際、鉄筋の計測が可能であるか否かを判断する。例えば、判断手段304は、3次元点群座標生成手段302による3次元点群座標の生成が不可能である場合、鉄筋の計測が不可能であると判断する。例えば、手ブレやノイズ、視差による照明環境の変化(ライトが見えたり隠れたりしたときの影響など)によってステレオマッチングできないときは、3次元点群座標の生成が不可能であるため、鉄筋の計測が不可能であると判断する。また、判断手段304は、平面特定手段303により特定された平面の傾斜角または平面までの距離が、判断条件格納部306に記憶されている、配筋を構成する複数の鉄筋で形成される平面の傾斜角または平面迄の距離に関する第1条件を満たさない場合、鉄筋の計測が不可能であると判断する。例えば、鉄筋間の間隔が明らかに不等間隔のときは、条件を満たさないとして、鉄筋の計測が不可能であると判断する。報知手段305は、判断手段304によって計測が不可能であると判断された場合、計測が不可能であることを示す情報を報知する。例えば、計測できないことを音(エラー音)で出力する。   The image acquisition unit 301 acquires a stereo image obtained by imaging the bar arrangement. The three-dimensional point group coordinate generation unit 302 generates a three-dimensional point group coordinate based on the stereo image acquired by the image acquisition unit 301. The plane specifying unit 303 specifies a plane formed by the reinforcing bars constituting the bar arrangement based on the three-dimensional point group coordinate generated by the three-dimensional point group coordinate generating unit 302. The judging unit 304 judges whether or not the reinforcing bar can be measured when the three-dimensional point group coordinate generating unit 302 generates the three-dimensional point group coordinates or when the plane specifying unit 303 specifies the plane. . For example, when the three-dimensional point group coordinate generation unit 302 cannot generate the three-dimensional point group coordinates, the determination unit 304 determines that the reinforcing bar cannot be measured. For example, if stereo matching cannot be performed due to changes in the lighting environment due to camera shake, noise, or parallax (such as the effect of when a light is visible or hidden), it is impossible to generate 3D point cloud coordinates. Is determined to be impossible. Further, the determination unit 304 is a plane formed by a plurality of reinforcing bars constituting the bar arrangement, in which the inclination angle of the plane specified by the plane specifying unit 303 or the distance to the plane is stored in the determination condition storage unit 306. If the first condition regarding the inclination angle or the distance to the plane is not satisfied, it is determined that the reinforcing bar cannot be measured. For example, when the intervals between the reinforcing bars are clearly unequal intervals, it is determined that the measurement of the reinforcing bars is not possible because the condition is not satisfied. When the determination unit 304 determines that measurement is impossible, the notification unit 305 notifies information indicating that measurement is impossible. For example, it outputs a sound (error sound) that it cannot be measured.

計測が不可能であることを示す情報が計測のための撮像前に報知されるので、その撮像条件で撮像してよいのか否かを迅速に知ることができる。   Since information indicating that measurement is impossible is notified before imaging for measurement, it is possible to quickly know whether or not imaging can be performed under the imaging conditions.

また、報知装置100は、以下のようにして、計測可否判断を行った画像よりも高解像度画像で鉄筋を検出して計測することができる。
3次元点群座標生成手段302が、画像取得手段301によって取得されたステレオ画像を第1のステレオ画像として3次元点群座標を生成する。判断手段304が、画像取得手段301によって取得された第1のステレオ画像に起因して、計測が可能であると判断した場合、画像取得手段301は、第1のステレオ画像よりも高解像度の第2のステレオ画像を新たに取得する。3次元点群座標生成手段302は、画像取得手段301によって新たに取得された第2のステレオ画像に基づいて、3次元点群座標を新たに生成する。平面特定手段303は、3次元点群座標生成手段302によって新たに生成された3次元点群座標に基づいて、配筋を構成する鉄筋で形成される平面を新たに特定する。計測手段307は、平面特定手段303によって新たに特定された平面の情報に基づいて、鉄筋の計測を行う。
In addition, the notification device 100 can detect and measure a reinforcing bar with a higher-resolution image than the image on which the measurement is determined as follows.
The three-dimensional point group coordinate generation unit 302 generates a three-dimensional point group coordinate using the stereo image acquired by the image acquisition unit 301 as the first stereo image. When the determination unit 304 determines that measurement is possible due to the first stereo image acquired by the image acquisition unit 301, the image acquisition unit 301 has a resolution higher than that of the first stereo image. 2 stereo images are newly acquired. The three-dimensional point group coordinate generation unit 302 newly generates a three-dimensional point group coordinate based on the second stereo image newly acquired by the image acquisition unit 301. The plane specifying unit 303 newly specifies a plane formed by the reinforcing bars constituting the bar arrangement based on the three-dimensional point group coordinates newly generated by the three-dimensional point group coordinate generating unit 302. The measuring unit 307 measures the reinforcing bar based on the plane information newly specified by the plane specifying unit 303.

図3に示したように、報知装置100は、計測手段307をさらに備える。
計測手段307は、平面特定手段303によって特定された平面の情報に基づいて、鉄筋を計測する。
As shown in FIG. 3, the notification device 100 further includes a measurement unit 307.
The measuring unit 307 measures the reinforcing bars based on the plane information specified by the plane specifying unit 303.

また、報知装置100は、低解像度画像を生成することもできる。
例えば、画像取得手段301は、第1の解像度で撮像されたステレオ画像を第1のステレオ画像として取得し、第2の解像度で撮像されたステレオ画像を第2のステレオ画像として取得する。または、第2のステレオ画像から第1のステレオ画像を生成して取得する。
The notification device 100 can also generate a low-resolution image.
For example, the image acquisition unit 301 acquires a stereo image captured at the first resolution as a first stereo image, and acquires a stereo image captured at the second resolution as a second stereo image. Alternatively, the first stereo image is generated from the second stereo image and acquired.

また、報知装置100は、以下のようにして、少ないサンプル数でエラー検出を行い、多いサンプルで鉄筋検出を行うことができる。
平面特定手段303は、3次元点群座標生成手段302によって生成された3次元点群座標を第1のサンプル数でサンプルするとともにサンプルした3次元点群座標から平面パラメータを算出する工程を複数回実施することで平面を特定する。判断手段304が、平面パラメータの算出を複数回実施することで平面特定手段303が特定した平面の情報に基づいて、計測が可能であると判断した場合、平面特定手段303は、第1のサンプル数より多い第2のサンプル数で平面を新たに特定する。そして、計測手段307は、平面特定手段303によって新たに特定された平面の情報に基づいて、鉄筋の計測を行う。
Further, the notification device 100 can perform error detection with a small number of samples and perform rebar detection with a large number of samples as follows.
The plane specifying unit 303 samples the 3D point group coordinates generated by the 3D point group coordinate generation unit 302 with the first number of samples and calculates the plane parameter from the sampled 3D point group coordinates a plurality of times. Implement to identify the plane. When the determination unit 304 determines that the measurement is possible based on the plane information specified by the plane specifying unit 303 by performing the calculation of the plane parameter a plurality of times, the plane specifying unit 303 sets the first sample. A plane is newly identified with a second number of samples greater than the number. Then, the measuring unit 307 measures the reinforcing bars based on the plane information newly specified by the plane specifying unit 303.

また、報知装置100は、以下のようにして、平面の推定のためのRANSAC処理における繰返し回数を増やすことができる。
平面特定手段303は、3次元点群座標生成手段302によって生成された3次元点群座標を所定のサンプル数でサンプルするとともにサンプルした3次元点群座標から平面パラメータを算出する工程を複数回である第1の回数実施することで平面を特定する。判断手段304が、平面パラメータの算出を第1の回数実施することで平面特定手段303が特定した平面の情報に基づいて、計測が可能であると判断した場合、平面特定手段303は、工程を行う回数を、第1の回数よりも多い第2の回数実施して、平面を新たに特定する。そして、計測手段307は、平面特定手段303によって新たに特定された平面の情報に基づいて、鉄筋の計測を行う。
Moreover, the alerting | reporting apparatus 100 can increase the frequency | count of repetition in the RANSAC process for plane estimation as follows.
The plane specifying unit 303 samples the 3D point group coordinates generated by the 3D point group coordinate generation unit 302 with a predetermined number of samples and calculates the plane parameters from the sampled 3D point group coordinates a plurality of times. The plane is specified by performing a certain first number of times. When the determination unit 304 determines that the measurement is possible based on the plane information specified by the plane specification unit 303 by performing the calculation of the plane parameter for the first time, the plane specification unit 303 performs the process. The number of times of execution is increased by a second number that is greater than the first number of times, and a new plane is specified. Then, the measuring unit 307 measures the reinforcing bars based on the plane information newly specified by the plane specifying unit 303.

また、報知装置100は、以下のようにして、ステレオマッチング処理を低減することができる。
3次元点群座標生成手段302は、画像取得手段301によって取得されたステレオ画像を用いてステレオマッチング処理を行う。平面特定手段303は、画像取得手段301によって取得されたステレオ画像を第1のステレオ画像とした第1のステレオ画像に起因して、特定された平面に属する鉄筋が存在するエリアを特定する。判断手段304が、画像取得手段301によって取得された第1のステレオ画像に起因して、計測が可能であるか否かを判断した場合、画像取得手段301は、第2のステレオ画像を新たに取得する。3次元点群座標生成手段302は、第1のステレオ画像に基づいて既に特定されているエリアに基づいて、画像取得手段301によって新たに取得された第2のステレオ画像に対して行うステレオマッチング処理の処理範囲を一部の処理範囲に設定し、新たに取得された第2のステレオ画像に対しては、設定された一部の処理範囲に対してのみ、ステレオマッチングの処理を行う。そして、判断手段304は、設定された一部の処理範囲に対してのみステレオマッチングの処理が行われて生成された3次元点群座標に基づいて、鉄筋の計測が可能か否かを新たに判断する。
Further, the notification device 100 can reduce stereo matching processing as follows.
The three-dimensional point group coordinate generation unit 302 performs a stereo matching process using the stereo image acquired by the image acquisition unit 301. The plane specifying unit 303 specifies an area where a reinforcing bar belonging to the specified plane exists due to the first stereo image in which the stereo image acquired by the image acquisition unit 301 is the first stereo image. When the determination unit 304 determines whether the measurement is possible due to the first stereo image acquired by the image acquisition unit 301, the image acquisition unit 301 newly sets the second stereo image. get. The three-dimensional point cloud coordinate generation unit 302 performs a stereo matching process to be performed on the second stereo image newly acquired by the image acquisition unit 301 based on the area already specified based on the first stereo image. This processing range is set to a part of the processing range, and the stereo matching process is performed only on the part of the set processing range for the newly acquired second stereo image. Then, the determination unit 304 newly determines whether or not the rebar can be measured based on the three-dimensional point cloud coordinates generated by performing the stereo matching process only on a part of the set processing range. to decide.

また、報知装置100は、以下のようにして、平面検出処理を低減することができる。
平面特定手段303は、3次元点群座標生成手段302によって生成された3次元点群座標から平面パラメータを算出して平面を特定する。判断手段304は、平面特定手段303によって算出した平面パラメータを用いて特定した平面の情報に基づいて、鉄筋の計測が可能であるか否かを判断する。3次元点群座標生成手段302は、ステレオ画像に基づき、平面特定手段303によって既に算出されている平面パラメータから推定される、平面から所定距離内に位置する一部の3次元点群を生成する。または、3次元点群座標生成手段302は、ステレオ画像より後に新たに取得された第2のステレオ画像に基づき、平面特定手段303によって既に算出されている平面パラメータから推定される、平面から所定距離内に位置する一部の3次元点群を生成する。そして、平面特定手段303は、3次元点群座標生成手段302によって生成された一部の3次元点群から平面を新たに特定する。
Moreover, the alerting | reporting apparatus 100 can reduce a plane detection process as follows.
The plane specifying unit 303 specifies a plane by calculating plane parameters from the 3D point group coordinate generated by the 3D point group coordinate generating unit 302. The determination unit 304 determines whether or not the reinforcing bar can be measured based on the plane information specified by using the plane parameter calculated by the plane specifying unit 303. The three-dimensional point group coordinate generation unit 302 generates a part of the three-dimensional point group located within a predetermined distance from the plane, which is estimated from the plane parameters already calculated by the plane specifying unit 303 based on the stereo image. . Alternatively, the three-dimensional point group coordinate generation unit 302 is based on the second stereo image newly acquired after the stereo image and is estimated from the plane parameter already calculated by the plane specifying unit 303, and is a predetermined distance from the plane. A part of the three-dimensional point group located inside is generated. The plane specifying unit 303 newly specifies a plane from a part of the three-dimensional point group generated by the three-dimensional point group coordinate generating unit 302.

また、報知装置100は、以下のようにして、平面検出処理を低減することができる。
3次元点群座標生成手段302は、画像取得手段301によって取得された第1のステレオ画像を構成する2つの視点画像のうち、少なくとも一方の視点画像に基づいて、平面特定手段303によって特定された平面上に存在する特徴点を検出する。判断手段304は、画像取得手段301によって取得された第1のステレオ画像に起因して、計測が可能であるか否かを判断する。画像取得手段301は、第2のステレオ画像を新たに取得する。3次元点群座標生成手段302は、画像取得手段301によって新たに取得された第2のステレオ画像を構成する2つの視点画像のうち、特徴点を抽出した視点画像と同じ方の視点画像に基づいて、第1のステレオ画像に基づき既に検出されている特徴点に対応する特徴点を検出する。そして、平面特定手段303は、画像取得手段301によって新たに取得された第2のステレオ画像において検出された特徴点に基づいて、平面を新たに特定する。
Moreover, the alerting | reporting apparatus 100 can reduce a plane detection process as follows.
The three-dimensional point cloud coordinate generation unit 302 is specified by the plane specifying unit 303 based on at least one viewpoint image of two viewpoint images constituting the first stereo image acquired by the image acquisition unit 301. A feature point existing on a plane is detected. The determination unit 304 determines whether or not measurement is possible due to the first stereo image acquired by the image acquisition unit 301. The image acquisition unit 301 newly acquires a second stereo image. The three-dimensional point cloud coordinate generation unit 302 is based on the viewpoint image that is the same as the viewpoint image from which the feature points are extracted from the two viewpoint images that form the second stereo image newly acquired by the image acquisition unit 301. Then, feature points corresponding to feature points already detected based on the first stereo image are detected. Then, the plane specifying unit 303 newly specifies a plane based on the feature points detected in the second stereo image newly acquired by the image acquisition unit 301.

また、報知装置100は、以下のようにして、平面の特定精度を上げることができる。
平面特定手段303は、3次元点群座標生成手段302によって生成された3次元点群座標をサンプルするとともにサンプルした3次元点群座標から平面パラメータを算出する工程を複数回実施することで平面を特定する。判断手段304は、平面特定手段303により特定された平面の傾斜角または平面までの距離が、第1条件と判断条件格納部306に記憶されており第1条件とは異なる第2条件の何れか一方を満たし他方を満たさない場合、鉄筋の計測が不可能であると判断する。平面特定手段303は、平面を特定する3次元点群のサンプル数を増やし、若しくは、工程の回数を増やし、再度、平面を特定する。そして、判断手段304は、平面特定手段303によって再度特定された平面に基づいて、鉄筋の計測が可能であるか否かを判断する。
Moreover, the alerting | reporting apparatus 100 can raise the specific precision of a plane as follows.
The plane specifying unit 303 samples the 3D point group coordinates generated by the 3D point group coordinate generation unit 302 and calculates a plane by performing the process of calculating plane parameters from the sampled 3D point group coordinates a plurality of times. Identify. The determination unit 304 stores the inclination angle of the plane specified by the plane specification unit 303 or the distance to the plane in the first condition and the determination condition storage unit 306 and is one of the second conditions different from the first condition. When one is satisfied and the other is not satisfied, it is determined that the reinforcing bar cannot be measured. The plane specifying unit 303 increases the number of samples of the three-dimensional point group that specifies the plane, or increases the number of steps, and specifies the plane again. Then, the determination unit 304 determines whether or not the reinforcing bar can be measured based on the plane specified again by the plane specifying unit 303.

また、報知装置100は、以下のようにして、高解像度の画像を用い計測可能性の判断精度を上げることができる。
平面特定手段303は、3次元点群座標生成手段302によって生成された3次元点群座標をサンプルするとともにサンプルした3次元点群座標から平面パラメータを算出する工程を複数回実施することで平面を特定する。判断手段304は、平面特定手段303により特定された平面の傾斜角または平面までの距離が、第1条件をと判断条件格納部306に記憶されており第1条件とは異なる第2条件の何れか一方を満たし他方を満たさない場合、鉄筋の計測が不可能であると判断する。画像取得手段301は、既に取得されたステレオ画像を第1のステレオ画像として、第1のステレオ画像よりも高解像度の第2のステレオ画像を新たに取得する。そして、判断手段304は、画像取得手段301によって新たに取得された第2のステレオ画像に起因して、鉄筋の計測が可能であるか否かを判断する。
In addition, the notification device 100 can increase the measurement accuracy of measurement possibility using a high-resolution image as follows.
The plane specifying unit 303 samples the 3D point group coordinates generated by the 3D point group coordinate generation unit 302 and calculates a plane by performing the process of calculating plane parameters from the sampled 3D point group coordinates a plurality of times. Identify. The determination unit 304 stores the first condition in the inclination angle of the plane specified by the plane specification unit 303 or the distance to the plane in the determination condition storage unit 306, and any of the second conditions different from the first condition. If one of them is satisfied and the other is not satisfied, it is determined that the reinforcing bar cannot be measured. The image acquisition unit 301 newly acquires a second stereo image having a higher resolution than that of the first stereo image, using the already acquired stereo image as the first stereo image. Then, the determination unit 304 determines whether or not the reinforcing bar can be measured due to the second stereo image newly acquired by the image acquisition unit 301.

上述したように、報知装置100は、ライブビュー画像を表示している状態、または撮像直後に短時間で、望ましくはリアルタイムに再撮像の要否がわかるよう、3次元再構成乃至平面パラメータ検出までの処理を縮小画像にて行う。そして、撮像条件の不備を確認して利用者へ報知することで、工事現場での作業処理時間を削減することができる。また、報知装置100は、ライブビュー画像を利用し、2回目以降は、ステレオマッチングの初期値および平面パラメータ検出時のRANSACの初期値として利用することで、処理時間を削減することができる。また、ライブビュー画像を利用しステレオマッチングを対象平面に含まれる一部の領域のみで実施することで、処理時間を更に削減することができる。また、前フレームで特定した対象フレーム付近の点のみを現フレームの平面パラメータ検出に使用することで、RANSACの実行回数を制限しても推定精度を維持することができる。   As described above, the notification device 100 can display a live view image, or can perform three-dimensional reconstruction or planar parameter detection so that the necessity of re-imaging can be recognized in a short time immediately after imaging, preferably in real time. Is performed on the reduced image. And it is possible to reduce the work processing time at the construction site by confirming incomplete imaging conditions and notifying the user. Further, the notification device 100 can reduce the processing time by using the live view image and using it as the initial value of stereo matching and the initial value of RANSAC at the time of detecting the plane parameter after the second time. Further, the processing time can be further reduced by using the live view image and performing stereo matching only on a part of the region included in the target plane. Further, by using only the points near the target frame specified in the previous frame for plane parameter detection of the current frame, the estimation accuracy can be maintained even if the number of RANSAC executions is limited.

なお、報知装置100は、条件が適合しなかったパラメータを表示部107に表示することも可能である。その際、適合範囲も表示することもできる。例えば、図4に例示するように、検出した平面を擬似的に表わした四角形の検出平面部401を表示画像400上に表示し、ずれ具合を視覚的に報知する。また、表示画像400上にガイド枠402で適合範囲を表示し、そのガイド枠402内に検出平面部401を表示させることができた場合には、鉄筋の計測が可能であるかと視覚的に利用者が知ることができる。   Note that the notification device 100 can also display on the display unit 107 a parameter for which the condition has not been met. At that time, the applicable range can also be displayed. For example, as illustrated in FIG. 4, a quadrangular detection plane portion 401 simulating the detected plane is displayed on the display image 400 to visually notify the degree of displacement. Further, when the compatible range is displayed on the display image 400 with the guide frame 402 and the detection plane portion 401 can be displayed in the guide frame 402, it is visually used as to whether or not the rebar can be measured. Can know.

図5は、他の実施の形態における報知処理の流れを示すフローチャートである。
図2を用いて説明した報知処理の各ステップと同じステップについては説明を簡略化する。
FIG. 5 is a flowchart showing a flow of notification processing in another embodiment.
The description of the same steps as those of the notification process described with reference to FIG. 2 is simplified.

まず、ステップS201において、報知装置100のCPU101は、第1の画像取得を行う。
ステップS202において、CPU101は、第1の3次元再構成を行う。
First, in step S201, the CPU 101 of the notification device 100 performs a first image acquisition.
In step S202, the CPU 101 performs the first three-dimensional reconstruction.

ステップS203において、CPU101は、ステップS202の第1の3次元再構成ができたか否か(OKかNGか)の第1の3次元再構成判定を行う。
ステップS204において、CPU101は、表示部107に表示させるためのエラー情報を生成する。
In step S203, the CPU 101 performs a first three-dimensional reconstruction determination as to whether or not the first three-dimensional reconstruction in step S202 has been completed (OK or NG).
In step S204, the CPU 101 generates error information to be displayed on the display unit 107.

ステップS205において、CPU101は、第1の平面検出を行う。
ステップS501において、CPU101は、ステップS205の第1の平面検出ができたか否か(OKかNGか)を、所定の第1条件を用いて判定する。例えば、第1条件を「傾斜角が15度未満であること」とした場合、推定した平面と撮像部111との距離および撮像部111のカメラ光軸とのなす角が、15度未満であるか否かを判定する。
In step S205, the CPU 101 performs first plane detection.
In step S501, the CPU 101 determines whether the first plane detection in step S205 has been performed (OK or NG) using a predetermined first condition. For example, when the first condition is “the inclination angle is less than 15 degrees”, the angle formed between the estimated plane and the imaging unit 111 and the camera optical axis of the imaging unit 111 is less than 15 degrees. It is determined whether or not.

第1の条件での判定の結果がOK(第1条件を満たす)の場合、ステップS502において、CPU101は、ステップS205の第1の平面検出ができたか否か(OKかNGか)を、所定の第2条件を用いて判定する。例えば、第2条件は、「傾斜角が15度に推定誤差量をプラスまたはマイナスした角度未満であること」とした場合、推定した平面と撮像部111との距離および撮像部111のカメラ光軸とのなす角が、「15度プラスまたはマイナス推定誤差量」未満であるか否かを判定する。なお、推定誤差量は、予め設定した量でもよいし、対象画像の条件によって変化させてもよい。対象画像の条件に対応するテーブルをもっておき、これを参照してもよい。例えば、解像度が320x240のときはプラスマイナス10度、640x480のときはプラスマイナス5度とする。また、繰り返し回数が1000回のときはプラスマイナス10度、100000回のときはプラスマイナス5度とする。   When the determination result under the first condition is OK (first condition is satisfied), in step S502, the CPU 101 determines whether or not the first plane detection in step S205 has been performed (OK or NG). The second condition is used for determination. For example, when the second condition is “the tilt angle is less than an angle obtained by adding or minus the estimated error amount to 15 degrees”, the distance between the estimated plane and the imaging unit 111 and the camera optical axis of the imaging unit 111 Is determined to be less than “15 degrees plus or minus estimated error amount”. Note that the estimated error amount may be a preset amount or may be changed depending on the condition of the target image. A table corresponding to the condition of the target image may be prepared and referred to. For example, when the resolution is 320 × 240, it is plus or minus 10 degrees, and when it is 640 × 480, it is plus or minus 5 degrees. Further, when the number of repetitions is 1000, it is plus or minus 10 degrees, and when it is 100,000 times, it is plus or minus 5 degrees.

第2の条件での判定の結果がOK(第2条件を満たす)の場合、ステップS207に進む。他方、第2の条件での判定の結果がNG(第2条件を満たさない)の場合、ステップS503において、CPU101は、第3の画像取得を行い、ステップS202に戻る。例えば、第3の画像取得は、ステップS201でライブビュー画像を取得した場合には、新たに撮像した静止画像の取得を行う。また、ステップS201で低解像度画像を取得した場合には、その低解像度画像の元となった静止画像の取得を行う。   If the determination result under the second condition is OK (the second condition is satisfied), the process proceeds to step S207. On the other hand, if the result of the determination under the second condition is NG (does not satisfy the second condition), in step S503, the CPU 101 performs a third image acquisition and returns to step S202. For example, in the third image acquisition, when a live view image is acquired in step S201, a newly captured still image is acquired. If a low resolution image is acquired in step S201, a still image that is the source of the low resolution image is acquired.

また、ステップS501で第1の条件での判定の結果がNG(第1条件を満たさない)であると判定した場合、ステップS504において、CPU101は、ステップS205の第1の平面検出ができたか否か(OKかNGか)を、上述の第2条件を用いて判定する。   If it is determined in step S501 that the result of the determination under the first condition is NG (does not satisfy the first condition), in step S504, the CPU 101 determines whether or not the first plane detection in step S205 has been performed. (OK or NG) is determined using the second condition described above.

第2の条件での判定の結果がOK(第2条件を満たす)の場合、ステップS503に進む。他方、第2の条件での判定の結果がNG(第2条件を満たさない)の場合、ステップS204において、CPU101は、表示部107に表示させるためのエラー情報を生成する。   When the result of the determination under the second condition is OK (the second condition is satisfied), the process proceeds to step S503. On the other hand, if the result of the determination under the second condition is NG (does not satisfy the second condition), the CPU 101 generates error information to be displayed on the display unit 107 in step S204.

これらステップS501、S502、S504での判定を纏めると以下のようになる。
「第1条件での判定がOK」「第2条件での判定がOK」の場合、平面条件判定全体としてはOKであるので、ステップS207の高解像度画像での詳細計測に進む。
The determinations in steps S501, S502, and S504 are summarized as follows.
If “determination under the first condition is OK” and “determination under the second condition is OK”, the entire plane condition determination is OK, so the process proceeds to detailed measurement with the high-resolution image in step S207.

「第1条件での判定がOK」「第2条件での判定がNG」の場合、平面条件判定全体としては判定が困難であるので、より高精度に計測できる条件、例えば、高解像度な画像の利用や平面検出パラメータの変更(利用点数の増加、繰り返し数の増加)を行い、再度判定を行う。   If “judgment under the first condition is OK” and “judgment under the second condition is NG”, it is difficult to make a judgment as a whole plane condition judgment. And change the plane detection parameter (increase the number of points used, increase the number of repetitions), and perform the determination again.

「第1条件での判定がNG」「第2条件での判定がOK」の場合、平面条件判定全体としては判定が困難であるので、より高精度に計測できる条件に変更して再度判定を行う。   If “determination under the first condition is NG” and “determination under the second condition is OK”, it is difficult to determine as a whole plane condition determination. Do.

「第1条件での判定がNG」「第2条件での判定がNG」の場合、平面条件判定全体としてはNGであるので、ステップS204のエラー情報の生成に進む。
ステップS207において、CPU101は、第2の画像取得を行う。
When “determination under the first condition is NG” and “determination under the second condition is NG”, since the overall plane condition determination is NG, the process proceeds to generation of error information in step S204.
In step S207, the CPU 101 acquires a second image.

ステップS208において、CPU101は、第2の3次元再構成を行う。
ステップS209において、CPU101は、ステップS208の第2の3次元再構成ができたか否か(OKかNGか)の第2の3次元再構成判定を行う。
In step S208, the CPU 101 performs the second three-dimensional reconstruction.
In step S209, the CPU 101 determines whether or not the second three-dimensional reconstruction in step S208 has been completed (OK or NG).

ステップS210において、CPU101は、第2の平面検出を行う。
ステップS211において、CPU101は、ステップS210の第2の平面検出ができたか否か(OKかNGか)の第2の平面条件判定を行う。
In step S210, the CPU 101 performs second plane detection.
In step S211, the CPU 101 performs second plane condition determination as to whether or not the second plane detection in step S210 has been performed (OK or NG).

他の実施の形態における報知処理においては、画像取得手段301は、第1の解像度で撮像されたステレオ画像を第1のステレオ画像として取得し、第2の解像度で撮像されたステレオ画像を第2のステレオ画像として取得する。または、画像取得手段301は、第2の解像度よりも高解像度の第3の解像度で撮像されたステレオ画像を第3のステレオ画像として生成し、第3のステレオ画像から第1のステレオ画像と第2のステレオ画像を生成する。   In the notification process in another embodiment, the image acquisition unit 301 acquires a stereo image captured at the first resolution as the first stereo image, and the stereo image captured at the second resolution is the second. Acquired as a stereo image. Alternatively, the image acquisition unit 301 generates a stereo image captured at a third resolution higher than the second resolution as a third stereo image, and the first stereo image and the first stereo image are generated from the third stereo image. 2 stereo images are generated.

また、他の実施の形態における報知処理においては、(1)最初の判断に使用する画像、(2)最初の判断でOKだった場合に計測に使用する画像、(3)最初の判断でNGだった場合に使用する画像、(4)最初の判断が曖昧であった場合に2回目の判断に使用する画像について、様々なケースが考えられる。例えば、下記のようなケース1、ケース2、ケース3が考えられる。   In the notification process in another embodiment, (1) an image used for the first determination, (2) an image used for measurement when the first determination is OK, and (3) NG for the first determination. Various cases are conceivable for the image to be used in the case of the first determination, and (4) the image to be used for the second determination when the first determination is ambiguous. For example, the following case 1, case 2, and case 3 are conceivable.

(ケース1)
(1)最初の判断に使用する画像が、ライブビュー画像を縦横4分の1に縮小した画像であり、(2)最初の判断でOKだった場合に計測に使用する画像が、撮像を行い取得したライブビュー画像よりも高解像度な撮像画像であり、(3)最初の判断でNGだった場合に使用する画像が、ライブビュー画像を縦横2分の1に縮小した画像であった場合、(4)最初の判断が曖昧であった場合に2回目の判断に使用する画像は、NGだった場合に使用する画像を段階的に複数回変化させる。
(Case 1)
(1) The image used for the first determination is an image obtained by reducing the live view image to 1/4 of the vertical and horizontal directions. (2) The image used for measurement is captured when the first determination is OK. When it is a captured image with a higher resolution than the acquired live view image, and (3) the image used when it is NG in the first determination is an image obtained by reducing the live view image to half the length and width, (4) The image used for the second determination when the first determination is ambiguous changes the image used for the second determination stepwise multiple times.

(ケース2)
(1)最初の判断に使用する画像が、ライブビュー画像であり、(2)最初の判断でOKだった場合に計測に使用する画像が、撮像を行い取得したライブビュー画像よりも高解像度な撮像画像であり、(3)最初の判断でNGだった場合に使用する画像が、撮像を行い取得したライブビュー画像よりも高解像度な撮像画像を縦横8分の1に縮小した画像(ライブビューよりは高解像度)であり、(4)最初の判断が曖昧であった場合に2回目の判断に使用する画像が、上記「NGだった場合に使用する画像」でも、再度NGだった場合は、縮小率を4分の1にし、段階的に複数回試行する。
(Case 2)
(1) The image used for the first determination is a live view image. (2) If the first determination is OK, the image used for measurement has a higher resolution than the live view image acquired by imaging. (3) An image used in the case of NG in the first determination is an image obtained by reducing a captured image having a resolution higher than that of a live view image acquired by imaging to 1/8 in length and width (live view) (4) When the first determination is ambiguous, the image used for the second determination is “NG” when the image used for the second determination is NG again. , Reduce the reduction ratio to a quarter and try multiple times step by step.

(ケース3)
(1)最初の判断に使用する画像が、撮像画像を縦横16分の1に縮小した画像であり、(2)最初の判断でOKだった場合に計測に使用する画像が、オリジナル解像度の撮像画像であり、(3)最初の判断でNGだった場合に使用する画像が、撮像画像を縦横8分の1に縮小した画像であり、(4)最初の判断が曖昧であった場合に2回目の判断に使用する画像が、上記「NGだった場合に使用する画像」でも、再度NGだった場合は、縮小率を4分の1にし、段階的に複数回試行できる。
(Case 3)
(1) The image used for the first determination is an image obtained by reducing the captured image to 1/16 of the vertical and horizontal directions. (2) If the first determination is OK, the image used for measurement is the original resolution. (3) The image used when the determination is NG in the first determination is an image obtained by reducing the captured image to 1/8 vertical and horizontal, and (4) 2 when the initial determination is ambiguous. Even if the image used for the determination at the second time is “NG” when the image is NG again, if the image is NG again, the reduction rate can be reduced to a quarter and multiple trials can be made step by step.

本発明の実施の形態について、図面を参照しながら詳細に説明したが、3次元座標生成時、3次元再構成では、ステレオマッチングが失敗することがある。これは、対象画像がぶれている場合、鮮明に対象物が写っていない場合、繰り返し模様のような対象領域の誤検出を誘発する場合などで生じる。この場合は、3次元座標生成時に鉄筋が計測不可であると判断する。   Although the embodiment of the present invention has been described in detail with reference to the drawings, stereo matching may fail in 3D reconstruction when generating 3D coordinates. This occurs when the target image is blurred, when the target object is not clearly captured, or when erroneous detection of the target region such as a repetitive pattern is induced. In this case, it is determined that the reinforcing bar cannot be measured when generating the three-dimensional coordinates.

以上、本発明の実施の形態を、図面を参照しながら説明してきたが、本発明が適用される報知装置は、前述の実施の形態に限定されない。
前述してきた本発明の実施の形態は、報知装置の一機能としてハードウェアまたはDSP(Digital Signal Processor)ボードやCPUボードでのファームウェアもしくはソフトウェアにより実現することができる。
As mentioned above, although embodiment of this invention has been described with reference to drawings, the alerting | reporting apparatus to which this invention is applied is not limited to the above-mentioned embodiment.
The embodiment of the present invention described above can be realized by hardware or firmware or software on a DSP (Digital Signal Processor) board or CPU board as one function of the notification device.

また、本発明が適用される報知装置は、その機能が実行されるのであれば、前述の実施の形態に限定されることなく、単体の装置であっても、複数の装置からなるシステムあるいは統合装置であっても、LAN、WAN等のネットワークを介して処理が行なわれるシステムであってもよいことは言うまでもない。   In addition, the notification device to which the present invention is applied is not limited to the above-described embodiment as long as the function is executed, and a single device or a system composed of a plurality of devices or an integrated device may be used. Needless to say, the apparatus may be a system that performs processing via a network such as a LAN or a WAN.

また、バスに接続されたCPU、ROMやRAMのメモリ、入力装置、出力装置、外部記録装置、媒体駆動装置、ネットワーク接続装置で構成されるシステムでも実現できる。すなわち、前述してきた実施の形態のシステムを実現するソフトェアのプログラムを記録したROMやRAMのメモリ、外部記録装置、可搬記録媒体を、報知装置に供給し、その報知装置のコンピュータがプログラムを読み出し実行することによっても、達成されることは言うまでもない。   It can also be realized by a system including a CPU, a ROM or RAM memory connected to a bus, an input device, an output device, an external recording device, a medium driving device, and a network connection device. That is, a ROM or RAM memory, an external recording device, or a portable recording medium that records a software program that implements the system of the above-described embodiment is supplied to the notification device, and the computer of the notification device reads the program. Needless to say, it can also be achieved through implementation.

この場合、可搬記録媒体等から読み出されたプログラム自体が本発明の新規な機能を実現することになり、そのプログラムを記録した可搬記録媒体等は本発明を構成することになる。   In this case, the program itself read from the portable recording medium or the like realizes the novel function of the present invention, and the portable recording medium or the like on which the program is recorded constitutes the present invention.

プログラムを供給するための可搬記録媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、DVD−ROM、DVD−RAM、磁気テープ、不揮発性のメモリーカード、ROMカード、電子メールやパソコン通信等のネットワーク接続装置(言い換えれば、通信回線)を介して記録した種々の記録媒体などを用いることができる。   Examples of portable recording media for supplying the program include flexible disks, hard disks, optical disks, magneto-optical disks, CD-ROMs, CD-Rs, DVD-ROMs, DVD-RAMs, magnetic tapes, and nonvolatile memory cards. Various recording media recorded via a network connection device (in other words, a communication line) such as a ROM card, electronic mail or personal computer communication can be used.

また、コンピュータ(情報処理装置)がメモリ上に読み出したプログラムを実行することによって、前述した実施の形態の機能が実現される他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが実際の処理の一部または全部を行ない、その処理によっても前述した実施の形態の機能が実現される。   The computer (information processing apparatus) executes the program read out on the memory, thereby realizing the functions of the above-described embodiment, and an OS running on the computer based on the instructions of the program. Performs part or all of the actual processing, and the functions of the above-described embodiments are also realized by the processing.

さらに、可搬型記録媒体から読み出されたプログラムやプログラム(データ)提供者から提供されたプログラム(データ)が、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行ない、その処理によっても前述した実施の形態の機能が実現され得る。   Furthermore, a program read from a portable recording medium or a program (data) provided by a program (data) provider is stored in a memory provided in a function expansion board inserted into the computer or a function expansion unit connected to the computer. After being written, the CPU of the function expansion board or function expansion unit performs part or all of the actual processing based on the instructions of the program, and the functions of the above-described embodiments are also realized by the processing. obtain.

すなわち、本発明は、以上に述べた実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内で種々の構成または形状を取ることができる。   That is, the present invention is not limited to the embodiment described above, and can take various configurations or shapes without departing from the gist of the present invention.

100 報知装置
101 CPU(Central Processing Unit:中央演算処理装置)
102 ROM(Read Only Memory)
103 RAM(Random Access Memory)
104 記憶部
105 通信インターフェース
106 入力部
107 表示部
108 可搬記録媒体駆動部
109 可搬記録媒体
110 バス
111 撮像部
301 画像取得手段
302 3次元点群座標生成手段
303 平面特定手段
304 判断手段
305 報知手段
306 判断条件格納部
307 計測手段
400 表示画像
401 検出平面部
402 ガイド枠
100 Notification Device 101 CPU (Central Processing Unit)
102 ROM (Read Only Memory)
103 RAM (Random Access Memory)
DESCRIPTION OF SYMBOLS 104 Memory | storage part 105 Communication interface 106 Input part 107 Display part 108 Portable recording medium drive part 109 Portable recording medium 110 Bus | bath 111 Image pick-up part 301 Image acquisition means 302 Three-dimensional point group coordinate generation means 303 Plane identification means 304 Judgment means 305 Information Means 306 Judgment condition storage unit 307 Measuring unit 400 Display image 401 Detection plane unit 402 Guide frame

Claims (13)

配筋を構成する鉄筋に係る計測に関する情報を報知する報知装置において、
前記配筋が撮像されたステレオ画像を取得する画像取得手段と、
前記画像取得手段によって取得された前記ステレオ画像に基づいて、3次元点群座標を生成する3次元点群座標生成手段と、
前記3次元点群座標生成手段によって生成された3次元点群座標に基づいて、前記配筋を構成する鉄筋で形成される平面を特定する平面特定手段と、
前記3次元点群座標生成手段により3次元点群座標を生成する際、または、前記平面特定手段により平面を特定する際、前記鉄筋の計測が可能であるか否かを判断する判断手段と、
前記判断手段によって前記計測が不可能であると判断された場合、前記計測が不可能であることを示す情報を報知する報知手段と、
を備え、
前記判断手段は、
前記3次元点群座標生成手段による3次元点群座標の生成が不可能である場合、前記鉄筋の計測が不可能であると判断し、
前記平面特定手段により特定された前記平面の傾斜角または前記平面までの距離が、判断条件格納部に記憶されている、配筋を構成する複数の鉄筋で形成される平面の傾斜角または前記平面迄の距離に関する第1条件を満たさない場合、前記鉄筋の計測が不可能であると判断する、
ことを特徴とする報知装置。
In a notification device for notifying information related to measurement related to reinforcing bars constituting the bar arrangement,
Image acquisition means for acquiring a stereo image in which the reinforcing bar is imaged;
3D point cloud coordinate generation means for generating 3D point cloud coordinates based on the stereo image acquired by the image acquisition means;
Plane specifying means for specifying a plane formed by reinforcing bars constituting the bar arrangement based on the three-dimensional point group coordinate generated by the three-dimensional point group coordinate generating means;
Determining means for determining whether or not the reinforcing bar can be measured when generating the three-dimensional point group coordinates by the three-dimensional point group coordinate generating means, or when specifying the plane by the plane specifying means;
An informing means for informing information indicating that the measurement is impossible when the determination means determines that the measurement is impossible;
With
The determination means includes
If it is impossible to generate the three-dimensional point group coordinates by the three-dimensional point group coordinate generating means, it is determined that the reinforcing bar cannot be measured;
The inclination angle of the plane specified by the plane specifying means or the distance to the plane is stored in the judgment condition storage unit, or the inclination angle of the plane formed by a plurality of reinforcing bars constituting the bar arrangement or the plane If the first condition related to the distance to is not satisfied, it is determined that measurement of the reinforcing bar is impossible.
A notification device characterized by the above.
前記平面特定手段によって特定された平面の情報に基づいて、前記鉄筋を計測する計測手段、
をさらに備え、
前記3次元点群座標生成手段が、前記画像取得手段によって取得された前記ステレオ画像を第1のステレオ画像として3次元点群座標を生成し、
前記判断手段が、前記画像取得手段によって取得された前記第1のステレオ画像に起因して、前記計測が可能であると判断した場合、
前記画像取得手段は、前記第1のステレオ画像よりも高解像度の第2のステレオ画像を新たに取得し、
前記3次元点群座標生成手段は、前記画像取得手段によって新たに取得された前記第2のステレオ画像に基づいて、3次元点群座標を新たに生成し、
前記平面特定手段は、前記3次元点群座標生成手段によって新たに生成された前記3次元点群座標に基づいて、前記配筋を構成する鉄筋で形成される平面を新たに特定し、
前記計測手段は、前記平面特定手段によって新たに特定された前記平面の情報に基づいて、前記鉄筋の計測を行う、
ことを特徴とする請求項1に記載の報知装置。
Measuring means for measuring the reinforcing bars based on information of the plane specified by the plane specifying means;
Further comprising
The three-dimensional point group coordinate generation unit generates a three-dimensional point group coordinate using the stereo image acquired by the image acquisition unit as a first stereo image;
When the determination unit determines that the measurement is possible due to the first stereo image acquired by the image acquisition unit,
The image acquisition means newly acquires a second stereo image having a higher resolution than the first stereo image,
The three-dimensional point group coordinate generation unit generates a new three-dimensional point group coordinate based on the second stereo image newly acquired by the image acquisition unit,
The plane specifying means newly specifies a plane formed by reinforcing bars constituting the bar arrangement based on the three-dimensional point group coordinates newly generated by the three-dimensional point group coordinate generation means,
The measuring means measures the reinforcing bar based on the information of the plane newly specified by the plane specifying means.
The notification device according to claim 1.
前記画像取得手段は、第1の解像度で撮像されたステレオ画像を前記第1のステレオ画像として取得し、前記第2の解像度で撮像されたステレオ画像を前記第2のステレオ画像として取得する、または、前記第2のステレオ画像から前記第1のステレオ画像を生成して取得する、ことを特徴とする請求項2に記載の報知装置。   The image acquisition means acquires a stereo image captured at a first resolution as the first stereo image and acquires a stereo image captured at the second resolution as the second stereo image; or The notification apparatus according to claim 2, wherein the first stereo image is generated and acquired from the second stereo image. 前記平面特定手段によって特定された平面の情報に基づいて、前記鉄筋を計測する計測手段、
をさらに備え、
前記平面特定手段は、前記3次元点群座標生成手段によって生成された前記3次元点群座標を第1のサンプル数でサンプルするとともにサンプルした前記3次元点群座標から平面パラメータを算出する工程を複数回実施することで前記平面を特定し、
前記判断手段が、前記平面パラメータの算出を複数回実施することで前記平面特定手段が特定した平面の情報に基づいて、前記計測が可能であると判断した場合、
前記平面特定手段は、前記第1のサンプル数より多い第2のサンプル数で平面を新たに特定し、
前記計測手段は、前記平面特定手段によって新たに特定された前記平面の情報に基づいて、前記鉄筋の計測を行う、
ことを特徴とする請求項1に記載の報知装置。
Measuring means for measuring the reinforcing bars based on information of the plane specified by the plane specifying means;
Further comprising
The plane specifying unit samples the three-dimensional point group coordinates generated by the three-dimensional point group coordinate generation unit with a first number of samples and calculates a plane parameter from the sampled three-dimensional point group coordinates. Identify the plane by performing multiple times,
When the determination unit determines that the measurement is possible based on the plane information specified by the plane specification unit by performing the calculation of the plane parameter a plurality of times,
The plane specifying means newly specifies a plane with a second number of samples larger than the first number of samples,
The measuring means measures the reinforcing bar based on the information of the plane newly specified by the plane specifying means.
The notification device according to claim 1.
前記平面特定手段によって特定された平面の情報に基づいて、前記鉄筋を計測する計測手段、
をさらに備え、
前記平面特定手段は、前記3次元点群座標生成手段によって生成された前記3次元点群座標を所定のサンプル数でサンプルするとともにサンプルした前記3次元点群座標から平面パラメータを算出する工程を複数回である第1の回数実施することで前記平面を特定し、
前記判断手段が、前記平面パラメータの算出を前記第1の回数実施することで前記平面特定手段が特定した平面の情報に基づいて、前記計測が可能であると判断した場合、
前記平面特定手段は、前記工程を行う回数を、前記第1の回数よりも多い第2の回数実施して、平面を新たに特定し、
前記計測手段は、前記平面特定手段によって新たに特定された前記平面の情報に基づいて、前記鉄筋の計測を行う、
ことを特徴とする請求項1に記載の報知装置。
Measuring means for measuring the reinforcing bars based on information of the plane specified by the plane specifying means;
Further comprising
The plane specifying means samples the three-dimensional point group coordinates generated by the three-dimensional point group coordinate generation means with a predetermined number of samples and calculates a plurality of plane parameters from the sampled three-dimensional point group coordinates. Identifying the plane by performing a first number of times,
When the determination unit determines that the measurement is possible based on the plane information specified by the plane specification unit by performing the calculation of the plane parameter for the first number of times,
The plane specifying means performs a second number of times that the step is performed more than the first number of times to newly specify a plane,
The measuring means measures the reinforcing bar based on the information of the plane newly specified by the plane specifying means.
The notification device according to claim 1.
前記3次元点群座標生成手段は、前記画像取得手段によって取得された前記ステレオ画像を用いてステレオマッチング処理を行い、
前記平面特定手段は、前記画像取得手段によって取得された前記ステレオ画像を第1のステレオ画像とした前記第1のステレオ画像に起因して、前記特定された前記平面に属する前記鉄筋が存在するエリアを特定し、
前記判断手段が、前記画像取得手段によって取得された前記第1のステレオ画像に起因して、前記計測が可能であるか否かを判断した場合、
前記画像取得手段は、第2のステレオ画像を新たに取得し、
前記3次元点群座標生成手段は、前記第1のステレオ画像に基づいて既に特定されている前記エリアに基づいて、前記画像取得手段によって新たに取得された前記第2のステレオ画像に対して行うステレオマッチング処理の処理範囲を一部の処理範囲に設定し、前記新たに取得された前記第2のステレオ画像に対しては、設定された前記一部の処理範囲に対してのみ、前記ステレオマッチングの処理を行い、
前記判断手段は、設定された前記一部の処理範囲に対してのみ前記ステレオマッチングの処理が行われて生成された前記3次元点群座標に基づいて、前記鉄筋の計測が可能か否かを新たに判断する、
ことを特徴とする請求項1に記載の報知装置。
The three-dimensional point cloud coordinate generation means performs a stereo matching process using the stereo image acquired by the image acquisition means,
The plane specifying means is an area where the reinforcing bars belonging to the specified plane exist due to the first stereo image in which the stereo image acquired by the image acquisition means is the first stereo image. Identify
When the determination unit determines whether the measurement is possible due to the first stereo image acquired by the image acquisition unit,
The image acquisition means newly acquires a second stereo image,
The three-dimensional point group coordinate generation unit performs the second stereo image newly acquired by the image acquisition unit based on the area that has already been specified based on the first stereo image. The processing range of the stereo matching process is set to a part of the processing range, and for the newly acquired second stereo image, the stereo matching is performed only for the set part of the processing range. Process
The determination means determines whether or not the reinforcing bar can be measured based on the three-dimensional point group coordinates generated by performing the stereo matching process only on the set partial processing range. Make a new decision,
The notification device according to claim 1.
前記平面特定手段は、前記3次元点群座標生成手段によって生成された前記3次元点群座標から平面パラメータを算出して前記平面を特定し、
前記判断手段は、前記平面特定手段によって算出した平面パラメータを用いて特定した平面の情報に基づいて、前記鉄筋の計測が可能であるか否かを判断し、
前記3次元点群座標生成手段は、前記ステレオ画像から、または、前記ステレオ画像より後に新たに取得された第2のステレオ画像から、前記平面特定手段によって既に算出されている前記平面パラメータから推定される前記平面から所定距離内に位置する一部の前記3次元点群を生成し、
前記平面特定手段は、前記3次元点群座標生成手段によって生成された一部の前記3次元点群から平面を新たに特定する、
ことを特徴とする請求項1に記載の報知装置。
The plane specifying means specifies a plane by calculating plane parameters from the three-dimensional point group coordinates generated by the three-dimensional point group coordinate generation means,
The determining means determines whether or not the reinforcing bar can be measured based on the plane information specified by using the plane parameter calculated by the plane specifying means,
The three-dimensional point group coordinate generation means is estimated from the plane parameter already calculated by the plane specifying means from the stereo image or from a second stereo image newly acquired after the stereo image. Generating a part of the three-dimensional point group located within a predetermined distance from the plane,
The plane specifying means newly specifies a plane from a part of the three-dimensional point group generated by the three-dimensional point group coordinate generating means;
The notification device according to claim 1.
前記3次元点群座標生成手段は、前記画像取得手段によって取得された前記第1のステレオ画像を構成する2つの視点画像のうち、少なくとも一方の視点画像に基づいて、前記平面特定手段によって特定された前記平面上に存在する特徴点を検出し、
前記判断手段は、前記画像取得手段によって取得された前記第1のステレオ画像に起因して、前記計測が可能であるか否かを判断し、
前記画像取得手段は、第2のステレオ画像を新たに取得し、
前記3次元点群座標生成手段は、前記画像取得手段によって新たに取得された前記第2のステレオ画像を構成する2つの視点画像のうち、前記特徴点を抽出した視点画像と同じ方の前記視点画像に基づいて、前記第1のステレオ画像に基づき既に検出されている前記特徴点に対応する特徴点を検出し、
前記平面特定手段は、前記画像取得手段によって新たに取得された前記第2のステレオ画像において検出された前記特徴点に基づいて、平面を新たに特定する、
ことを特徴とする請求項2に記載の報知装置。
The three-dimensional point group coordinate generation means is specified by the plane specifying means based on at least one viewpoint image of two viewpoint images constituting the first stereo image acquired by the image acquisition means. Detecting feature points existing on the plane,
The determination means determines whether the measurement is possible due to the first stereo image acquired by the image acquisition means;
The image acquisition means newly acquires a second stereo image,
The three-dimensional point group coordinate generation means is the same viewpoint as the viewpoint image from which the feature points are extracted, out of two viewpoint images constituting the second stereo image newly acquired by the image acquisition means. Detecting a feature point corresponding to the feature point already detected based on the first stereo image based on the image;
The plane specifying means newly specifies a plane based on the feature points detected in the second stereo image newly acquired by the image acquisition means;
The notification device according to claim 2.
前記平面特定手段は、前記3次元点群座標生成手段によって生成された前記3次元点群座標をサンプルするとともにサンプルした前記3次元点群座標から平面パラメータを算出する工程を複数回実施することで前記平面を特定し、
前記判断手段は、前記平面特定手段により特定された前記平面の傾斜角または前記平面までの距離が、前記第1条件と前記判断条件格納部に記憶されており前記第1条件とは異なる第2条件の何れか一方を満たし他方を満たさない場合、前記鉄筋の計測が不可能であると判断し、
前記平面特定手段は、前記平面を特定する前記3次元点群のサンプル数を増やし、若しくは、前記工程の回数を増やし、再度、前記平面を特定し、
前記判断手段は、前記平面特定手段によって再度特定された前記平面に基づいて、前記鉄筋の計測が可能であるか否かを判断する、
ことを特徴とする請求項1に記載の報知装置。
The plane specifying unit samples the 3D point group coordinates generated by the 3D point group coordinate generation unit and calculates a plane parameter from the sampled 3D point group coordinates a plurality of times. Identify the plane;
The determination means stores a tilt angle of the plane specified by the plane specifying means or a distance to the plane stored in the first condition and the determination condition storage unit and is different from the first condition. If one of the conditions is satisfied and the other is not satisfied, it is determined that the measurement of the reinforcing bar is impossible,
The plane specifying means increases the number of samples of the three-dimensional point group that specifies the plane, or increases the number of times of the process, and specifies the plane again,
The determining means determines whether or not the reinforcing bar can be measured based on the plane specified again by the plane specifying means.
The notification device according to claim 1.
前記平面特定手段は、前記3次元点群座標生成手段によって生成された前記3次元点群座標をサンプルするとともにサンプルした前記3次元点群座標から平面パラメータを算出する工程を複数回実施することで前記平面を特定し、
前記判断手段は、前記平面特定手段により特定された前記平面の傾斜角または前記平面までの距離が、前記第1条件をと前記判断条件格納部に記憶されており前記第1条件とは異なる第2条件の何れか一方を満たし他方を満たさない場合、前記鉄筋の計測が不可能であると判断し、
前記画像取得手段は、既に取得された前記ステレオ画像を第1のステレオ画像として、前記第1のステレオ画像よりも高解像度の第2のステレオ画像を新たに取得し、
前記判断手段は、前記画像取得手段によって新たに取得された前記第2のステレオ画像に起因して、前記鉄筋の計測が可能であるか否かを判断する、
ことを特徴とする請求項1に記載の報知装置。
The plane specifying unit samples the 3D point group coordinates generated by the 3D point group coordinate generation unit and calculates a plane parameter from the sampled 3D point group coordinates a plurality of times. Identify the plane;
The determination means stores an inclination angle of the plane specified by the plane specifying means or a distance to the plane in the determination condition storage unit according to the first condition, and is different from the first condition. If one of the two conditions is satisfied and the other is not satisfied, it is determined that the measurement of the reinforcing bar is impossible,
The image acquisition means newly acquires a second stereo image having a higher resolution than the first stereo image, using the already acquired stereo image as a first stereo image,
The determination unit determines whether or not the reinforcing bar can be measured due to the second stereo image newly acquired by the image acquisition unit.
The notification device according to claim 1.
前記画像取得手段は、第1の解像度で撮像されたステレオ画像を前記第1のステレオ画像として取得し、前記第2の解像度で撮像されたステレオ画像を前記第2のステレオ画像として取得する、または、前記第2の解像度よりも高解像度の第3の解像度で撮像されたステレオ画像を第3のステレオ画像として生成し、前記第3のステレオ画像から前記第1のステレオ画像と前記第2のステレオ画像を生成する、ことを特徴とする請求項10に記載の報知装置。   The image acquisition means acquires a stereo image captured at a first resolution as the first stereo image and acquires a stereo image captured at the second resolution as the second stereo image; or A stereo image captured at a third resolution higher than the second resolution is generated as a third stereo image, and the first stereo image and the second stereo are generated from the third stereo image. The notification device according to claim 10, wherein an image is generated. 配筋を構成する鉄筋に係る計測に関する情報を報知する報知装置のコンピュータを、
前記配筋が撮像されたステレオ画像を取得する画像取得手段、
前記画像取得手段によって取得された前記ステレオ画像に基づいて、3次元点群座標を生成する3次元点群座標生成手段、
前記3次元点群座標生成手段によって生成された3次元点群座標に基づいて、前記配筋を構成する鉄筋で形成される平面を特定する平面特定手段、
前記3次元点群座標生成手段により3次元点群座標を生成する際、または、前記平面特定手段により平面を特定する際、前記鉄筋の計測が可能であるか否かを判断する判断手段、
前記判断手段によって前記計測が不可能であると判断された場合、前記計測が不可能であることを示す情報を報知する報知手段、
として機能させるための報知処理プログラムであって、
前記判断手段は、
前記3次元点群座標生成手段による3次元点群座標の生成が不可能である場合、前記鉄筋の計測が不可能であると判断し、
前記平面特定手段により特定された前記平面の傾斜角または前記平面までの距離が、判断条件格納部に記憶されている、配筋を構成する複数の鉄筋で形成される平面の傾斜角または前記平面迄の距離に関する第1条件を満たさない場合、前記鉄筋の計測が不可能であると判断する、
ことを特徴とする報知処理プログラム。
A computer of a notification device that notifies information related to the measurement related to the reinforcing bars constituting the bar arrangement,
Image acquisition means for acquiring a stereo image in which the bar arrangement is imaged;
3D point cloud coordinate generation means for generating 3D point cloud coordinates based on the stereo image acquired by the image acquisition means;
Plane specifying means for specifying a plane formed by reinforcing bars constituting the bar arrangement based on the three-dimensional point group coordinate generated by the three-dimensional point group coordinate generating means;
Determining means for determining whether or not the reinforcing bar can be measured when generating the three-dimensional point group coordinates by the three-dimensional point group coordinate generating means or specifying the plane by the plane specifying means;
Informing means for informing information indicating that the measurement is impossible when the determination means determines that the measurement is impossible;
A notification processing program for functioning as
The determination means includes
If it is impossible to generate the three-dimensional point group coordinates by the three-dimensional point group coordinate generating means, it is determined that the reinforcing bar cannot be measured;
The inclination angle of the plane specified by the plane specifying means or the distance to the plane is stored in the judgment condition storage unit, or the inclination angle of the plane formed by a plurality of reinforcing bars constituting the bar arrangement or the plane If the first condition related to the distance to is not satisfied, it is determined that measurement of the reinforcing bar is impossible.
The information processing program characterized by the above-mentioned.
配筋を構成する鉄筋に係る計測に関する情報を報知する報知装置において実行される報知処理方法であって、
前記配筋が撮像されたステレオ画像を取得し、
前記取得された前記ステレオ画像に基づいて、3次元点群座標を生成し、
前記生成された3次元点群座標に基づいて、前記配筋を構成する鉄筋で形成される平面を特定し、
前記3次元点群座標を生成する際、または、前記平面を特定する際、前記鉄筋の計測が可能であるか否かを判断し、
前記計測が不可能であると判断された場合、前記計測が不可能であることを示す情報を報知し、
前記判断において、
前記3次元点群座標の生成が不可能である場合、前記鉄筋の計測が不可能であると判断し、
前記特定された前記平面の傾斜角または前記平面までの距離が、判断条件格納部に記憶されている、配筋を構成する複数の鉄筋で形成される平面の傾斜角または前記平面迄の距離に関する第1条件を満たさない場合、前記鉄筋の計測が不可能であると判断する、
ことを特徴とする報知処理方法。
A notification processing method that is executed in a notification device that notifies information related to measurement relating to a reinforcing bar constituting a bar arrangement,
Obtain a stereo image in which the reinforcement is imaged,
Based on the acquired stereo image, three-dimensional point cloud coordinates are generated,
Based on the generated three-dimensional point group coordinates, a plane formed by reinforcing bars constituting the reinforcement is specified,
When generating the three-dimensional point cloud coordinates, or when specifying the plane, determine whether the rebar can be measured,
When it is determined that the measurement is impossible, information indicating that the measurement is impossible is notified,
In the judgment,
If the generation of the three-dimensional point cloud coordinates is impossible, it is determined that the rebar measurement is impossible,
The specified inclination angle of the plane or the distance to the plane relates to the inclination angle of the plane formed by a plurality of reinforcing bars constituting the bar arrangement or the distance to the plane, which is stored in the determination condition storage unit. If the first condition is not satisfied, it is determined that measurement of the reinforcing bar is impossible.
A notification processing method characterized by the above.
JP2017069432A 2017-03-31 2017-03-31 Notification device, notification processing program and notification processing method Pending JP2018173275A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017069432A JP2018173275A (en) 2017-03-31 2017-03-31 Notification device, notification processing program and notification processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017069432A JP2018173275A (en) 2017-03-31 2017-03-31 Notification device, notification processing program and notification processing method

Publications (1)

Publication Number Publication Date
JP2018173275A true JP2018173275A (en) 2018-11-08

Family

ID=64108529

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017069432A Pending JP2018173275A (en) 2017-03-31 2017-03-31 Notification device, notification processing program and notification processing method

Country Status (1)

Country Link
JP (1) JP2018173275A (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019002737A (en) * 2017-06-13 2019-01-10 鹿島建設株式会社 Reinforcing bar inspection device and reinforcement bar inspection method
JP2020167531A (en) * 2019-03-29 2020-10-08 鹿島建設株式会社 Bar arrangement measurement system, bar arrangement measurement method, and bar arrangement measurement program
CN112033331A (en) * 2020-07-28 2020-12-04 成都飞机工业(集团)有限责任公司 Group hole measurement swing angle planning method based on three-coordinate measuring needle
JP7150290B1 (en) 2022-03-09 2022-10-11 エコモット株式会社 Information processing device, information processing method and program

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019002737A (en) * 2017-06-13 2019-01-10 鹿島建設株式会社 Reinforcing bar inspection device and reinforcement bar inspection method
JP2020167531A (en) * 2019-03-29 2020-10-08 鹿島建設株式会社 Bar arrangement measurement system, bar arrangement measurement method, and bar arrangement measurement program
JP7163238B2 (en) 2019-03-29 2022-10-31 鹿島建設株式会社 Bar arrangement measurement system, bar arrangement measurement method, bar arrangement measurement program
CN112033331A (en) * 2020-07-28 2020-12-04 成都飞机工业(集团)有限责任公司 Group hole measurement swing angle planning method based on three-coordinate measuring needle
CN112033331B (en) * 2020-07-28 2022-05-10 成都飞机工业(集团)有限责任公司 Group hole measurement swing angle planning method based on three-coordinate measuring needle
JP7150290B1 (en) 2022-03-09 2022-10-11 エコモット株式会社 Information processing device, information processing method and program
JP2022176077A (en) * 2022-03-09 2022-11-25 エコモット株式会社 Information processing device, information processing method and program

Similar Documents

Publication Publication Date Title
Liu et al. Concrete crack assessment using digital image processing and 3D scene reconstruction
TWI520078B (en) Optical flow tracking method and device
JP2018173275A (en) Notification device, notification processing program and notification processing method
KR101592798B1 (en) Resolving homography decomposition ambiguity based on orientation sensors
JP2002024807A (en) Object movement tracking technique and recording medium
WO2018180442A1 (en) Inspection support device, inspection support method, and program
US11928805B2 (en) Information processing apparatus, information processing method, and storage medium for defect inspection and detection
JP2018173276A (en) Measurement support apparatus, measurement support method and program
JP2011182397A (en) Method and apparatus for calculating shift length
JPWO2019021719A1 (en) Damage data editing device, damage data editing method, and program
WO2017221965A1 (en) State assessing device, state assessing method, and storage medium for storing program
JP2005137883A (en) Mtf measuring method and device
JP2020134242A (en) Measuring method, measuring device and program
US20200348168A1 (en) Measurement system, correction processing apparatus, correction processing method, and computer-readable recording medium
JP2015507736A (en) System and method for estimating target size
JP2018172849A (en) Information processing device, information processing method and program
JP2019219248A (en) Point group processor, method for processing point group, and program
JP5841760B2 (en) Reinforcing bar region extraction device, reinforcing bar region extraction method, and reinforcing bar region extraction program
WO2022157939A1 (en) Deterioration evaluation device, deterioration evaluation method, and program
JP7340434B2 (en) Reinforcement inspection system, reinforcement inspection method, and reinforcement inspection program
JP2014203162A (en) Inclination angle estimation device, mtf measuring apparatus, inclination angle estimation program and mtf measurement program
JP2022013433A (en) Information processing device and information processing method
JP2021009702A (en) Inspection support device, inspection support method and program
JP5620741B2 (en) Information processing apparatus, information processing method, and program
JP2007104296A (en) Method, apparatus, and program for measuring resolution

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190628

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20190628

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20190628

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20200323