JP7311963B2 - Information processing device, control method and program for information processing device - Google Patents
Information processing device, control method and program for information processing device Download PDFInfo
- Publication number
- JP7311963B2 JP7311963B2 JP2018234704A JP2018234704A JP7311963B2 JP 7311963 B2 JP7311963 B2 JP 7311963B2 JP 2018234704 A JP2018234704 A JP 2018234704A JP 2018234704 A JP2018234704 A JP 2018234704A JP 7311963 B2 JP7311963 B2 JP 7311963B2
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- parameters
- image
- photographing
- information processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Analysis (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Studio Devices (AREA)
Description
本発明は、情報処理装置、情報処理装置の制御方法及びプログラムに関する。 The present invention relates to an information processing device, a control method for an information processing device, and a program.
橋梁、ダム、トンネルなどの構造物のコンクリート壁面の点検では、調査技術者がコンクリート壁面に接近し、ひび割れなどの変状を目視で確認することが行われている。このような近接目視と呼ばれる点検作業は作業コストが高いため、近年、コンクリート壁面を撮影した画像から変状を自動的に検出する方法による点検が提案されている。特許文献1では、ウェーブレット変換を用いて、コンクリート壁面画像からひび割れを検知する技術が開示されている。
In inspections of concrete wall surfaces of structures such as bridges, dams, and tunnels, an investigative engineer approaches the concrete wall surface and visually confirms deformations such as cracks. Since such inspection work called close-up visual inspection is costly, in recent years, inspection by a method of automatically detecting deformation from images of concrete wall surfaces has been proposed.
また、ひび割れの伸展などの経年変化を確認するためには、数年ごとに点検を実施し、過去の点検結果との比較を行う必要がある。ここで、細いひび割れなどの見えづらいひび割れを確認できる画像を撮影するためには、フォーカスや露出などの撮影パラメータを適切に設定する必要がある。しかし、細いひび割れなどは、微妙な撮影パラメータの違いで、自動検知により検知できたり、できなかったりする。従って、微妙な撮影パラメータの調整が必要となり、撮影パラメータ調整が難しい。 In addition, in order to check aging such as extension of cracks, it is necessary to conduct inspections every few years and compare them with past inspection results. Here, in order to capture an image in which thin cracks and other hard-to-see cracks can be confirmed, it is necessary to appropriately set shooting parameters such as focus and exposure. However, thin cracks and the like may or may not be detected by automatic detection due to subtle differences in shooting parameters. Therefore, it is necessary to finely adjust the photographing parameters, and it is difficult to adjust the photographing parameters.
これに対して、特許文献2は、撮影パラメータを調整する方法を開示している。特許文献2では、まず、複数の異なる撮影パラメータで複数の画像を撮影し、撮影した複数の画像をディスプレイに表示する。ユーザは、複数の画像の中から、最も好ましいと判断する画像を選択する。この結果、選択された画像を撮影した撮影パラメータが設定される。
On the other hand,
しかし、構造物点検では微妙な撮影パラメータ調整が行われるため、構造物点検に特許文献2の方法を適用すると、画像間の変化が小さな複数の画像が表示されることになる。ユーザにとって、変化が小さな画像を比較して、最適な画像を選択することは難しい。さらに、画像は屋外で撮影するため、外光の影響や、利用可能なディスプレイサイズ等の影響で、画像の微妙な差を判断することが難しい。そのため、過去の結果との比較に適した画像の撮影を行うことが難しいという課題がある。
However, since delicate photographing parameter adjustments are performed in structural inspections, if the method of
本発明は、上記の課題に鑑みてなされたものであり、ユーザが撮影画像を確認することなく、過去の結果との比較に適した画像の撮影方法を推定するための技術を提供することを目的とする。 The present invention has been made in view of the above problems, and aims to provide a technique for estimating an image capturing method suitable for comparison with past results without the user checking the captured image. aim.
上記の目的を達成する本発明に係る情報処理装置は、
撮影範囲におけるターゲットの過去の情報を過去データとして格納する格納手段と、
撮影手段により所定の撮影パラメータで撮影された前記撮影範囲の画像から前記ターゲットを検知する検知手段と、
前記検知手段による検知結果と前記過去データとに基づいて評価値を取得し、当該評価値に基づいて前記ターゲットの撮影に適した撮影方法を推定する推定手段と、
を備え、
前記推定手段は、前記撮影範囲の過去画像と前記撮影範囲の現在画像との類似度と、前記検知手段による検知結果と、前記過去データとに基づいて前記評価値を取得することを特徴とする。
An information processing apparatus according to the present invention that achieves the above object includes:
a storage means for storing past information of the target in the shooting range as past data;
detection means for detecting the target from the image of the imaging range captured by the imaging means with predetermined imaging parameters;
an estimation means for obtaining an evaluation value based on the detection result of the detection means and the past data, and estimating a shooting method suitable for shooting the target based on the evaluation value;
with
The estimation means acquires the evaluation value based on the degree of similarity between the past image of the imaging range and the current image of the imaging range, the detection result of the detection means, and the past data. do.
本発明は、上記の課題に鑑みてなされたものであり、ユーザが撮影画像を確認することなく、過去の結果との比較に適した画像の撮影方法を推定するための技術を提供することを目的とする。 The present invention has been made in view of the above problems, and aims to provide a technique for estimating an image capturing method suitable for comparison with past results without the user checking the captured image. aim.
以下、図面を参照しながら実施形態を説明する。なお、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。 Hereinafter, embodiments will be described with reference to the drawings. Note that the configurations shown in the following embodiments are merely examples, and the present invention is not limited to the illustrated configurations.
(実施形態1)
実施形態1では、インフラ構造物の画像点検における撮影パラメータ調整を例にして説明を行う。インフラ構造物は、例えば、橋梁、ダム、トンネルなどであり、これらの構造物のコンクリート壁面を撮影して、画像点検のための画像を作成する。実施形態が対象とする画像はこれに限らず、他の構造物や、コンクリート以外の材質表面を対象とした画像であっても良い。例えば、点検対象を道路として、アスファルト表面の画像を撮影して点検画像を作成しても良い。
(Embodiment 1)
In the first embodiment, adjustment of photographing parameters in image inspection of an infrastructure structure will be described as an example. Infrastructure structures are, for example, bridges, dams, tunnels, etc. The concrete walls of these structures are photographed to create images for image inspection. The image targeted by the embodiment is not limited to this, and may be an image targeted for another structure or the surface of a material other than concrete. For example, an inspection image may be created by photographing an image of the asphalt surface, with the road being the inspection target.
実施形態1においては、点検対象はコンクリート壁面の変状であるとする。コンクリート壁面の変状には、例えば、ひび割れ、エフロレッセンス、ジャンカ、コールドジョイント、鉄筋露出などがあるが、実施形態1では特にひび割れを点検対象とする例を説明する。 In the first embodiment, it is assumed that the object to be inspected is deformation of a concrete wall surface. Deformation of a concrete wall surface includes, for example, cracks, efflorescence, junkers, cold joints, exposure of reinforcing bars, etc. In the first embodiment, an example in which cracks are particularly inspected will be described.
まず、本実施形態の概要について説明する。前提として、コンクリート壁面のひび割れは補修を行わない限り自然に回復することはない。従って、過去の点検結果に記録されているひび割れは、現在のコンクリート壁面でも観測できるはずである。本実施形態では、この前提に基づいて、過去の点検結果のひび割れが観測できるように撮影パラメータを調整する。このようにすることで、点検対象コンクリート壁面を適切に撮影する撮影パラメータを設定することができるようになる。より具体的には、複数の撮影パラメータで撮影した画像のそれぞれにひび割れ検知処理を実施し、各検知結果と過去の点検結果から、各撮影パラメータの評価値を算出する。そして、評価値に基づいて、撮影パラメータの選択や改善方法の推定を行う。以下、この処理の具体的な実施形態について説明する。 First, the outline of this embodiment will be described. As a premise, cracks in concrete walls will not recover naturally unless they are repaired. Therefore, the cracks recorded in the past inspection results should be observable even in the current concrete walls. In this embodiment, based on this premise, the imaging parameters are adjusted so that cracks in the past inspection results can be observed. By doing so, it is possible to set imaging parameters for appropriately imaging the concrete wall surface to be inspected. More specifically, crack detection processing is performed on each of the images photographed with a plurality of photographing parameters, and an evaluation value for each photographing parameter is calculated from each detection result and past inspection results. Then, based on the evaluation value, selection of imaging parameters and estimation of an improvement method are performed. A specific embodiment of this process will be described below.
<情報処理装置の構成>
図1は本発明の一実施形態に係る情報処理装置100の構成例を示す図である。情報処理装置100は、ネットワークまたは各種記録媒体を介して取得したソフトウェア(プログラム)を、CPU、メモリ、ストレージデバイス、入出力装置、バス、表示装置などにより構成される計算機によって実行することで実現できる。なお、計算機については、汎用の計算機を用いても良いし、本発明のソフトウェアに最適に設計されたハードウェアを用いても良い。また、情報処理装置100は、図1のように撮影部101と一体化して、カメラの筐体内に含まれる構成としても良い。或いは、情報処理装置100は、無線または有線により送信された撮影部101で撮影した画像を受信する、撮影部101を含むカメラとは異なる筐体(例えば、ノートPCやタブレット)として構成しても良い。
<Configuration of information processing device>
FIG. 1 is a diagram showing a configuration example of an
情報処理装置100は、撮影部101、撮影パラメータ設定部102、ターゲット検知部103、推定部104、操作部105、過去データ格納部106を含んで構成される。撮影部101は、点検対象物を撮影する。撮影パラメータ設定部102は、撮影部101が撮影する際の撮影パラメータを設定する。ターゲット検知部103は、ひび割れ等を点検ターゲットとして検知する。推定部104は、撮影パラメータを改善する方法を推定する。操作部105は、必要な情報をユーザに提示するとともに、さらにユーザからの操作入力を受け付ける。過去データ格納部106は、過去の点検結果を格納するストレージである。
The
まず、過去データ格納部106についてより詳細に説明する。過去データ格納部106は、図1のように情報処理装置の中に含む構成であっても良いし、遠隔のサーバを過去データ格納部106とする構成であっても良い。過去データ格納部106をサーバで構成する場合には、過去データ格納部106に保存された過去データを、情報処理装置100がネットワークを介して取得できるようにする。
First, the past
図2は、過去データ格納部106に格納されたデータを説明する図である。図2は、点検対象物である橋梁200の過去データを格納している様子を示している。過去データ格納部106には、橋梁200の図面と関連付けて過去の点検結果が記録されている。例えば、橋梁200のある橋脚201について、その図面202に過去の点検結果としてひび割れ210などの位置と形状が記録されている。実施形態1では、この点検結果は、過去の点検作業時に橋脚201の画像を撮影し、後述するターゲット検知部103の自動検知処理により検知された結果であるものとする。
FIG. 2 is a diagram for explaining data stored in the past
過去の点検結果は、この実施形態に限らず、例えば、自動検知処理により得られた結果を人間が修正したものであっても良いし、自動検知処理を介さずに人間が近接目視検査により記録した結果であっても良い。情報処理装置100は、点検対象構造物の任意の部分の点検結果を、過去データ記録部106に記録された過去の点検結果から呼び出すことができる。以下、過去の点検結果(実施形態1では、画像中のひび割れの位置、形状)を過去データと呼ぶ。
The past inspection results are not limited to this embodiment. For example, the results obtained by the automatic detection process may be corrected by a human, or recorded by a human by a close visual inspection without going through the automatic detection process. It may be the result of The
図2は、さらに、撮影部101で撮影する範囲と呼び出す過去データとの関係を示す。画像による点検では、幅が1mm以下のひび割れを確認するために、コンクリート壁面を高精細に撮影する必要がある。そのため、多くの場合、橋脚の壁面などを一度の撮影で全て撮影することはできず、撮影位置をずらしながら複数回の撮影を行い、画像をつなげて壁面全体の高精細画像を作成する。
FIG. 2 further shows the relationship between the range photographed by the photographing
図2には、橋脚の図面202において、一度の撮影で撮影できる範囲の例として、撮影範囲220を示している。このように橋脚壁面の部分的な撮影を繰り返し、橋脚201の全体を撮影する。本実施形態では、ある撮影範囲(例えば図2の撮影範囲220)に含まれる過去データを用いて、撮影パラメータの調整を行う。なお、橋脚201の撮影では、図2の撮影範囲220を用いて調整した撮影パラメータで、橋脚201の全体を撮影すればよい。
FIG. 2 shows a photographing
次に、過去データ格納部106から呼び出す過去データについて説明する。実施形態1では、撮影範囲の過去データは、画像として呼び出すものとする。図2には、撮影範囲220を撮影するときに呼び出す過去データ230を示している。過去データ230は、ひび割れ211を含む画像であり、撮影部101が撮影する画像サイズと同じサイズの画像である。より具体的には、ひび割れが存在する画素に1が記録され、それ以外の画素に0が記録された画像である。過去データ格納部106は、任意の撮影範囲が指定されたときに、このような過去データの画像を生成するものとする。実施形態1の説明では、このように撮影範囲に対応した画像中に、過去の点検結果のひび割れが描画された画像データを、過去データと呼ぶ。
Next, past data called from the past
<処理>
続いて、図3のフローチャートを参照して、本実施形態に係る情報処理装置100が実施する処理の手順を説明する。
<Processing>
Next, the procedure of processing performed by the
[ステップS301]
まず、ステップS301では、情報処理装置100は、点検対象構造物の撮影範囲を決定する。撮影範囲の決定方法は、例えば以下のようにして実施する。まず、1つ目の方法は、ユーザが図面から撮影する範囲を指定する方法である。例えば、図2の橋脚201を点検する場合、図面202を操作部105が備える表示部に表示し、ユーザが図面の撮影範囲220を指定する。ここで、ユーザは過去の点検結果のひび割れが含まれる領域を撮影範囲として選択するものとする。もし、ユーザが指定した撮影範囲の過去の点検結果にひび割れが含まれない場合、情報処理装置100は警告をユーザに通知し、撮影範囲の再設定を促すものとする。
[Step S301]
First, in step S301, the
ユーザは撮影範囲の指定を行った後に、実際の橋脚201に対する撮影部101の位置・姿勢を調整して、指定した撮影範囲が撮影できるようにする。ここで、ユーザが撮影範囲を選択する操作を補助するために、撮影範囲を決定するために表示した図面に、過去の点検結果のひび割れの位置を示す表示を行うようにしても良い。また、過去データ格納部106に記録されたひび割れにIDなどの情報を付与しておき、ユーザが任意のひび割れを含む領域を容易に検索や選択できるようにしても良い。
After specifying the imaging range, the user adjusts the position/orientation of the
例えば、ユーザが撮影範囲に含めたいひび割れのIDを操作部105に入力すると、過去データ格納部106から該当するIDのひび割れが選択される。そして、そのひび割れが含まれる領域が撮影範囲として自動的に設定される。この例では、ひび割れの検索のためにIDを用いる例を示したが、ひび割れの検索方法はこれに限らず、ひび割れの座標などの情報を用いてひび割れを検索するようにしても良い。このようにすることで、ユーザは特定のひび割れを含む撮影範囲を容易に設定できるようになる。
For example, when the user inputs the ID of a crack to be included in the imaging range to the
撮影範囲の決定方法の2つ目の方法としては、情報処理装置100が撮影範囲をユーザに推奨する実施形態である。過去の点検結果を用いて撮影パラメータを調整するため、撮影範囲に過去の点検結果が含まれている必要がある。従って、情報処理装置100は、点検対象構造物の過去の点検結果が含まれる撮影範囲を選択し、ユーザに撮影範囲として推奨する。撮影範囲の推奨の表示は、図2のように図面中に撮影範囲220を表示するようにすれば良い。ユーザは、推奨された撮影範囲を確認し、実際の橋脚201に対して撮影部101の位置・姿勢を調整して、推奨された撮影範囲が撮影できるようにする。情報処理装置100が推奨する撮影範囲は、1つの撮影範囲だけでなく、複数の撮影範囲をユーザに示し、ユーザが実際に撮影する撮影範囲を選択できるようにしても良い。
A second method of determining the imaging range is an embodiment in which the
また、過去の点検結果のひび割れに応じて、優先的に推奨する撮影範囲を決定するようにしても良い。例えば、過去の点検結果で、太く重要なひび割れや、構造上、重要な位置に発生しているひび割れを含む領域が、撮影範囲として優先的に推奨されるようにしても良い。一方、過去の点検以降に補修を行ったひび割れは、ひび割れが観測できなくなるため、補修を行ったひび割れを含む範囲を撮影範囲とすることは好ましくない。従って、過去の点検結果とともに補修の実施の情報が記録されている場合、その部分が撮影範囲として選択されないようにする。 Also, the photographing range to be preferentially recommended may be determined according to the cracks in the past inspection results. For example, past inspection results may preferentially recommend an area including a large and important crack or a crack occurring at a structurally important position as the imaging range. On the other hand, cracks that have been repaired after the past inspection cannot be observed, so it is not preferable to set the range including the repaired cracks as the shooting range. Therefore, when information on the execution of repair is recorded along with past inspection results, that portion is not selected as the photographing range.
また、上記の実施形態では、実際の構造物に対する撮影部101の位置・姿勢をユーザが調整する実施形態を説明したが、撮影部101の位置・姿勢を計測するセンサを用いて、ユーザの調整をサポートするようにしても良い。例えば、ユーザが選択した撮影範囲または情報処理装置100が推奨した撮影範囲に向けて撮影部101の位置・姿勢を合わせる時に、センサで計測した撮影部101の位置・姿勢に基づいて目標撮影範囲を撮影できる位置・姿勢への調整方法をユーザに知らせる。
Further, in the above embodiment, the user adjusts the position/orientation of the
撮影部101の位置・姿勢を計測するセンサとしては、加速度センサ、ジャイロセンサ、GPSなど様々な手法があるが、どのような手法を用いても良い。また、センサではなく、撮影部101が撮影している画像から、対象構造物のどの部分を撮影しているかを判定することで、撮影部101の位置・姿勢を判定するようにしても良い。これらの撮影部101の位置・姿勢を求める方法は、既存の手法を用いれば良いので、詳細な説明は省略する。
As a sensor for measuring the position/orientation of the
さらに、撮影部101の位置・姿勢を計測する構成を備える場合、撮影部101の位置・姿勢から撮影範囲を決定するようにしても良い。この場合、まず、ユーザが、実際の点検対象構造物に対して撮影部101を向ける。そして、撮影部101の位置・姿勢を計測して、撮影されている点検対象構造物の部分を撮影範囲とする。
Furthermore, when a configuration for measuring the position/orientation of the
さらに、上記の実施形態では、ユーザが撮影部101を操作して、撮影部101の位置・姿勢を決定する構成について説明した。しかし、撮影部101を含む情報処理装置100を自動雲台に設置し、所定の撮影範囲を撮影する姿勢をとるように自動的に雲台が動作するようにしても良い。また、例えば、ドローンのような移動体に情報処理装置100を設置し、所定の撮影範囲を撮影する位置・姿勢をとるように制御しても良い。
Furthermore, in the above embodiment, the configuration in which the user operates the
以上のステップS301により、点検対象構造物の撮影範囲が決定し、撮影部101は撮影範囲を撮影する位置・姿勢をとる状態となる。
By the above step S301, the photographing range of the structure to be inspected is determined, and the photographing
[ステップS302]
図3のステップS302では、情報処理装置100は、撮影範囲に対応する過去データを過去データ格納部106から呼び出す。この過去データは、図2を用いて説明したように、撮影範囲に含まれるひび割れを描画した画像データである。
[Step S302]
In step S<b>302 in FIG. 3 , the
[ステップS303]
次のステップS303では、情報処理装置100は、撮影パラメータの初期値(以下、初期撮影パラメータ)を決定する。初期撮影パラメータの設定は、例えば、過去データ格納部106に、過去に同一箇所を撮影したときの撮影パラメータを記録しておき、その撮影パラメータを呼び出して初期撮影パラメータとして設定すれば良い。あるいは、撮影装置の通常の撮影パラメータ調整方法(オートパラメータ調整)で決定した撮影パラメータを初期パラメータとして設定しても良い。
[Step S303]
In the next step S303, the
[ステップS304]
次のステップS304では、情報処理装置100は、初期撮影パラメータに基づいて、撮影パラメータ設定部102を用いて複数の撮影パラメータを設定する。図4には、初期撮影パラメータに基づいて、複数の撮影パラメータを設定する様子を示している。まず、図4(A)は、調整する撮影パラメータの例として、露出(EV)を調整する実施形態について説明する図である。図4(A)では、初期パラメータとしてEV0が設定されている様子を白三角401で示している。撮影パラメータ設定部102では、この初期パラメータを中心に、複数の撮影パラメータを設定する。
[Step S304]
In the next step S304, the
図4(A)では、EV0を中心にそれぞれ露出を1段変化させて、EV-1(図4の黒三角402)とEV+1(図4の黒三角403)を複数パラメータとして設定している。この例では、初期撮影パラメータと合わせて3つの撮影パラメータを設定している様子を示しているが、設定する撮影パラメータの数はこれに限らない。例えば、さらに2段異なる露出を設定して、合計5つの撮影パラメータを設定するようにしても良い。また、この例では、露出を1段変更するルールにより、複数の撮影パラメータを設定しているが、撮影パラメータの変更の刻みは、これ以外の設定方法としても良い。例えば、露出を1/2段刻みで設定するようにしても良いし、初期撮影パラメータ周辺でランダムに設定するようにしても良い。
In FIG. 4A, the exposure is changed by one step around EV0, and EV-1 (
上記は、撮影パラメータを露出(EV)とした場合についての実施形態を説明したが、設定する撮影パラメータは露出に限定されない。撮影部101を制御するパラメータであれば、撮影パラメータはどのようなものを用いても良く、例えば、フォーカス、ホワイトバランス(色温度)、シャッタースピード、絞り、ISO感度、画像の彩度や色合いなどを撮影パラメータとしても良い。
Although the embodiment has been described above in which exposure (EV) is used as the shooting parameter, the shooting parameter to be set is not limited to exposure. Any shooting parameters may be used as long as they are parameters for controlling the
また、図4(A)では、露出のみを、調整する撮影パラメータとする実施形態について説明したが、複数の撮影パラメータを同時に調整するようにしても良い。例えば、図4(B)は、露出とフォーカスとの組み合わせを、調整する撮影パラメータとした場合の実施形態について説明する図である。図4(B)では、ある露出とフォーカスのパラメータの組み合わせが初期パラメータとして設定されており、白丸411として示されている。この初期パラメータを中心に、例えば黒丸412のような撮影パラメータの組み合わせが、複数の撮影パラメータとして設定されている。
Also, in FIG. 4A, an embodiment has been described in which only the exposure is the shooting parameter to be adjusted, but a plurality of shooting parameters may be adjusted at the same time. For example, FIG. 4B is a diagram illustrating an embodiment in which a combination of exposure and focus is used as a shooting parameter to be adjusted. In FIG. 4B, a certain combination of exposure and focus parameters is set as an initial parameter, indicated by a
なお、調整する対象となる撮影パラメータの組み合わせは、図4(B)の露出とフォーカスとの組み合わせに限らず、他の撮影パラメータの組み合わせでも良い。また、上記の説明では、2つのパラメータの組み合わせを調整する実施形態について説明したが、撮影パラメータの組み合わせ数もこれに限らず、3つ以上の撮影パラメータの組み合わせを同時に調整するようにしても良い。 Note that the combination of shooting parameters to be adjusted is not limited to the combination of exposure and focus shown in FIG. 4B, and other combinations of shooting parameters may be used. Also, in the above description, an embodiment in which a combination of two parameters is adjusted has been described, but the number of combinations of imaging parameters is not limited to this, and combinations of three or more imaging parameters may be adjusted simultaneously. .
以上のようにして、撮影パラメータ設定部102で複数の撮影パラメータを設定する。以下では、図4(A)のように、調整する撮影パラメータを露出とした場合の実施形態について説明する。
As described above, the imaging
[ステップS305]
続いて、次のステップS305では、情報処理装置100は、ステップS304で設定した複数の撮影パラメータを用いて、撮影部101を用いて点検対象物の撮影範囲を撮影する。具体的には、図4(A)のように3つの露出を設定した場合には、露出を変更しながら3枚の画像を撮影する。
[Step S305]
Subsequently, in the next step S305, the
[ステップS306]
次のステップS306では、情報処理装置100は、ステップS305で撮影した複数の画像に対して、ターゲット検知部103を用いてターゲットの検知処理を実行する。本実施形態では、ターゲットはひび割れなので、各画像に対してひび割れ検知処理を実行する。画像からのひび割れの検知方法は、例えば、特許文献1のような方法を用いれば良い。ひび割れ検知の方法は特許文献1の方法に限らず、例えば、予めひび割れの位置、形状が既知の画像から、ひび割れの画像特徴を学習しておき、この学習結果に基づいて入力画像のひび割れの位置、形状を検知する方法を用いても良い。以下、ステップS306で検知したひび割れを検知結果と呼ぶ。
[Step S306]
In the next step S306, the
図3のステップS307以降の処理は主に推定部104で実行する処理で、最適な撮影パラメータを選択する処理、または、最適な撮影パラメータをさらに探索するための処理である。
Processing after step S307 in FIG. 3 is processing mainly executed by the
[ステップS307]
まず、ステップS307では、情報処理装置100は、推定部104を用いて複数の撮影パラメータそれぞれについて評価値を算出する。評価値は、撮影パラメータが点検画像を撮影するために適切であるほど高い値を示すものである。この評価値は、複数の撮影パラメータで撮影した画像それぞれについてのひび割れの検知結果と、過去データのひび割れとを比較することで算出する。
[Step S307]
First, in step S307, the
ステップS307の説明のため、まず、図5に過去データ及び検知結果の例を示す。図5(A)は、撮影範囲の過去データであり、過去の点検結果であるひび割れ501が含まれている。図5(B)は、ある撮影パラメータで撮影した画像に対してひび割れ検知を実施した検知結果であり、ひび割れ502が検知されている。図5(C)は、図5(A)の過去データと、図5(B)の検知結果とを重畳表示したものであり、過去データのひび割れを破線511、検知結果のひび割れを実線512で表している。理想的には、過去データのひび割れ511と検知結果のひび割れ512とは完全に重複するが、図面の都合上、ずらして表示している。
For explanation of step S307, first, FIG. 5 shows examples of past data and detection results. FIG. 5A shows past data of the photographing range, including
次に、図6を参照して評価値の概念を説明する。図6(A)~図6(C)は、同じ過去データのひび割れ511に対して、異なる撮影画像の検知結果のひび割れ601、602、603をそれぞれ重畳表示した図である。
Next, the concept of evaluation values will be described with reference to FIG. FIGS. 6A to 6C are diagrams in which cracks 601, 602, and 603, which are detection results of different captured images, are superimposed on a
まず、図6(A)は、過去データのひび割れ511と検知結果のひび割れ601とが一致しているケースである。このケースでは、過去の点検結果が完全に自動検知できる画像が撮影できていることを示している。従って、この撮影パラメータは適切なものであり、図6(A)のケースの評価値sAは高い値となる。
First, FIG. 6A shows a case where the
次に図6(B)は、過去データのひび割れ511よりも、検知結果のひび割れ602が長いケースである。ひび割れは経年変化により伸展するため、過去の点検結果よりも現在のひび割れの方が長い現象は起こりえるケースである。従って、図6(B)のケースも、過去のひび割れが確認できる画像を撮影できているので、点検画像を撮影する撮影パラメータとして適切なものであると考えられるため、図6(B)のケースの評価値sBも高い値となる。むしろ、ひび割れが経年により、ほぼ確実に伸展すると仮定すると、図6(A)のように、検知結果が過去データと完全に一致するよりも、図6(B)のように伸展したひび割れが検知できている方が適切と考えることができる。従って、評価値sAとsBは、両方とも高い評価値であるが、sBの方をさらに高い評価値とするようにしても良い。
Next, FIG. 6B shows a case where the crack 602 in the detection result is longer than the
このように、評価値は、検知結果であるひび割れと、過去データのひび割れとが一致するか、或いは、検知結果であるひび割れが過去データのひび割れを包含するより大きな領域に渡る場合に、高い値を示すようにする。 Thus, the evaluation value is a high value when the crack as the detection result matches the crack in the past data, or when the crack as the detection result extends over a larger area including the crack in the past data. to indicate
一方、図6(C)では、過去データのひび割れ511に対して、検知結果のひび割れ603が部分的にしか得られていないケースである。補修などを行わない限り、過去に記録されたひび割れが消失することはない。従って、過去データのひび割れ511の全体が検知できない画像を撮影した撮影パラメータは、点検画像の撮影パラメータとして適切でないため、図6(C)のケースの評価値sCは低い値となる。図6(C)のケースでは、撮影パラメータをさらに調整して、評価値が高く、点検画像撮影に適した撮影パラメータを得るために、さらに調整を行う必要がある。以上をまとめると、図6の各ケースでの評価値は、
On the other hand, FIG. 6C shows a case where a
という関係となる。 This is the relationship.
次に、図7を用いて、評価値sを算出する具体的な方法について説明する。図7は、図6(C)を拡大した図である過去データのひび割れを破線511で表しており、検知結果721~723を実線で表している。ここでの評価値sの算出方法では、過去データのひび割れ511上の各画素と、検知結果721~723の対応付けを行い、対応画素数に基づいて評価値sを算出する。過去データのひび割れと検知結果のひび割れの対応付けは、例えば、以下のようにして実施する。
Next, a specific method for calculating the evaluation value s will be described with reference to FIG. In FIG. 7, which is an enlarged view of FIG. 6(C), cracks in the past data are indicated by a dashed
まず、図7の画素701は過去データのひび割れ511上のある画素である。この画素701の所定の周辺範囲702を探索し、検知結果のひび割れが存在する場合は、画素701を検知結果と対応付けができた画素と判定する。なお、所定の周辺範囲702は、例えば画素701を中心とした5画素範囲などとして定義される。図7の例では、画素701の周辺702に検知結果のひび割れが含まれていないので、画素701は検知結果と対応付けができなかった画素となる。一方、別の過去データのひび割れ511上の画素711は、その周辺範囲712の範囲に検知結果のひび割れ721が存在するため、画素711は検知結果と対応付けができた画素となる。このような判定を、過去データの1本のひび割れ上の画素で繰り返し、1本のひび割れに基づく評価値sを算出する。このとき、評価値sは以下の式で表される。
First, a
ここで、Cはある過去データのひび割れを示し、p(C)はひび割れCの画素数を示す。iはひび割れC上の画素を示し、fiは画素iで検知結果と対応付けができた場合に1、対応付けができなかった場合に0となる。 Here, C indicates a crack in certain past data, and p(C) indicates the number of pixels of the crack C. i indicates a pixel on the crack C, f i is 1 when the pixel i can be associated with the detection result, and 0 when it cannot be associated.
なお、式(2)では、ある1本の過去データのひび割れに基づく評価値sの算出方法を示したが、撮影範囲中に複数の過去データひび割れがある場合、評価値sは、各ひび割れについて式(2)で評価値を算出し、その和や平均を最終的な評価値とすればよい。 Note that the formula (2) shows a method of calculating the evaluation value s based on a crack in one piece of past data. An evaluation value may be calculated by the formula (2), and the sum or average thereof may be used as the final evaluation value.
また、式(2)の方法で、図6(A)と図6(B)の評価値sA、sBを算出すると、 Also, when the evaluation values s A and s B in FIGS. 6A and 6B are calculated by the method of formula (2),
となり、それぞれ最大の評価値を出力することになる。ここで、過去のひび割れからの経年劣化を考慮して、図6(A)のように、検知結果が過去データと完全に一致するよりも、図6(B)のように伸展部分も検知できている方がよいとする場合、sB>sAとなるような評価値の算出方法が必要になる。このためには、例えば、過去データのひび割れ端点を伸展が予想される方向に所定の画素数を伸展させた上で、上記の評価値を算出するようにすればよい。 As a result, the maximum evaluation value is output for each. Here, considering aging deterioration from past cracks, as shown in FIG. 6(A), the extension part can also be detected as shown in FIG. If it is better to have s B >s A , a method of calculating an evaluation value is required. For this purpose, for example, the above evaluation value may be calculated after extending a predetermined number of pixels in the direction in which the crack end point of the past data is expected to be extended.
なお、ひび割れの経年変化が、ひび割れの伸展だけと見なせる場合は、以上のように評価値を算出すればよいが、ひび割れは経年変化により、見た目が大きく変化する場合がある。例えば、ひび割れからコンクリートの石灰成分が析出する場合に、ひび割れを覆うようにコンクリート表面で石灰成分が固まることがある。このような石灰成分の析出(以下、エフロレッセンス)が生じると、外観からではひび割れは完全に確認できず、エフロレッセンスの領域のみが確認される状態となる。このように、過去の点検結果から大きく変化したひび割れを撮影した画像からは、過去データと同様のひび割れを検知することは不可能である。従って、上記のように、過去データのひび割れとの対応付けを実施する方法では、撮影パラメータ選択のための評価値を正しく算出することができない。 If the aging of cracks can be regarded as the extension of cracks only, the evaluation value can be calculated as described above, but the appearance of cracks may change significantly due to aging. For example, when the lime component of concrete precipitates from cracks, the lime component may harden on the concrete surface so as to cover the cracks. When such precipitation of lime components (hereinafter referred to as efflorescence) occurs, cracks cannot be completely confirmed from the appearance, and only the efflorescence region is confirmed. Thus, it is impossible to detect cracks similar to past data from images of cracks that have changed significantly from past inspection results. Therefore, as described above, the method of associating past data with cracks cannot correctly calculate an evaluation value for selecting an imaging parameter.
そこで、このような問題に対処するために、ターゲット検知部103で、ひび割れだけでなくエフロレッセンスの検出も行い、過去データのひび割れに基づく評価値算出領域を限定するようにしても良い。図8は、この処理を説明する図である。まず、図8(A)は過去データである。図8(B)は、過去データと同一のコンクリート壁面の現在の実際の状態を示しており、経年劣化により、ひび割れ801からエフロレッセンス802が発生した状態を示している。このエフロレッセンス802は、過去データでは観測できていたひび割れの一部を覆い隠すように発生している。図8(C)は、図8(B)のコンクリート壁面をある撮影パラメータで撮影した画像に対して、ターゲット検知部103でひび割れ検知を実施した検知結果である。図8(B)のコンクリート壁面では、エフロレッセンス802が出現している領域のひび割れが見えなくなっているため、図8(C)の検知結果では、過去データのひび割れの一部のみが検知されている状態である。
Therefore, in order to deal with such a problem, the
図8(D)は、破線で示す過去データのひび割れ811及び812と、実線で示す検知結果のひび割れ803とを重畳表示した図である。図8(D)には、さらに、ターゲット検知部103で検知したエフロレッセンスの領域802を示している。また、過去データのひび割れを示す破線の内、破線811はエフロレッセンスの領域802と重なる部分で、破線812はエフロレッセンスと重ならない部分である。このような状況では、過去データのひび割れの内、エフロレッセンスと重ならない部分であるひび割れ812と、検知結果のひび割れ803とに基づいて評価値を算出する。すなわち、所定の経年変化(エフロレッセンス)が検知された領域を除いて評価値を算出する。
FIG. 8D is a diagram in which past data cracks 811 and 812 indicated by dashed lines and a
評価値の算出方法は、過去データのひび割れ812と検知結果のひび割れ803とを用いて前述した画素間の対応付け方法で算出することができる。このようにすることで、過去の点検からエフロレッセンスが発生して見た目が変化したひび割れを用いて、撮影パラメータの評価値を算出することができる。
The evaluation value can be calculated by the above-described inter-pixel correspondence method using the
なお、この実施形態では、ひび割れの見た目が変化する要因をエフロレッセンスとしたが、ひび割れの見た目が変化する要因はこれ以外も考えられる。例えば、ひび割れの劣化が進むと、ひび割れ表面の剥離や剥落が発生する。このようになると、過去の点検時のひび割れとは、見た目が大きく変化する場合がある。従って、エフロレッセンスのケースと同様に、剥離や剥落などの所定の経年変化が発生した領域を検知して、当該領域を、過去データのひび割れに基づく評価値算出領域から除外するようにしても良い。 In this embodiment, efflorescence is the factor that changes the appearance of cracks, but other factors that change the appearance of cracks are also conceivable. For example, as the deterioration of cracks progresses, peeling and spalling of crack surfaces occur. When this happens, the appearance of the cracks in the past inspection may change greatly. Therefore, as in the case of efflorescence, it is possible to detect a region where a predetermined aging such as peeling or peeling has occurred, and exclude the region from the evaluation value calculation region based on cracks in past data. .
また、過去の点検時のひび割れの見た目が完全に変化してしまう場合もある。例えば、経年変化により、ひび割れ全体がエフロレッセンスで覆われてしまうことがあり得る。このような見た目が完全に変化してしまったひび割れを含む撮影領域では、過去のひび割れとの比較ができないので、撮影パラメータ調整を実施することができない。従って、過去データのひび割れを消失させてしまうエフロレッセンスを検知したなど、ひび割れの見た目が完全に変化したと判断される場合には、現在の撮影範囲での撮影パラメータ調整を中止するようにしても良い。この場合、情報処理装置100は、他の過去データが含まれるコンクリート壁面の領域を撮影範囲とすることを推奨する。
Also, the appearance of cracks from previous inspections may be completely changed. For example, aging can cause the entire crack to become covered with efflorescence. In an imaging area including cracks whose appearance has completely changed, comparison with past cracks cannot be made, and therefore imaging parameter adjustment cannot be performed. Therefore, if it is determined that the appearance of cracks has changed completely, such as when efflorescence that erases cracks in past data is detected, shooting parameter adjustment in the current shooting range may be canceled. good. In this case, the
ステップS307では、以上のようにして、複数の撮影パラメータそれぞれについて評価値を算出する。 In step S307, an evaluation value is calculated for each of the plurality of shooting parameters as described above.
[ステップS308~S311]
次に、ステップS308では、情報処理装置100は、ステップS307で算出した評価値に基づいて撮影パラメータの評価を行う。ステップS309では、情報処理装置100は、評価結果に基づいて、撮影パラメータを再調整するか否かを判定する。再調整する場合、ステップS310へ進む。一方、再調整しない場合、ステップS311へ進む。ステップS310において、情報処理装置100は、撮影パラメータを改善する方法を推定する。その後、ステップS305に戻る。ステップS311において、情報処理装置100は、撮影パラメータを設定する。そして、撮影パラメータ調整の一連の処理を終了する。以下、これらの処理の詳細について説明する。
[Steps S308 to S311]
Next, in step S308, the
まず、ステップS308での撮影パラメータ評価では、複数の撮影パラメータの評価値から最大の評価値を選択し、所定の閾値と比較する。図9(A)は、各撮影パラメータの評価について説明する図である。本実施形態では、複数の撮影パラメータとして、露出(EV)を3つ設定した。図9(A)には、複数の撮影パラメータとして、露出-1、0、+1を設定している様子を、図4(A)と同様に、三角401、402、403で表している。また、図9(A)の下部には、各撮影パラメータで撮影した画像の検知結果から得られる評価値s-1、s0、s+1を示している。図9(A)では、+1の露出403の評価値s+1が最も高い評価値となっており、且つ、所定の閾値sthを超える値を示している。所定の閾値sthを超える評価値を示す撮影パラメータが存在する場合、その撮影パラメータが点検画像の撮影パラメータとして適した撮影パラメータであると判定する。
First, in the imaging parameter evaluation in step S308, the maximum evaluation value is selected from a plurality of imaging parameter evaluation values and compared with a predetermined threshold value. FIG. 9A is a diagram for explaining evaluation of each imaging parameter. In this embodiment, three exposures (EV) are set as a plurality of shooting parameters. In FIG. 9A, as in FIG. 4A,
図9(A)の場合、+1の露出403が最適パラメータとして選択され、ステップS309では、撮影パラメータの再調整は不要と判定し、撮影パラメータ設定のステップS311へ進む。ステップS311では、撮影パラメータ設定部102を介して、撮影部101に+1の露出を設定して処理を終了する。
In the case of FIG. 9A, +1
一方、図9(B)は、図9(A)と同様に、露出-1、0、+1を複数の撮影パラメータとして設定し、評価値を算出した例であるが、図9(A)とは異なる評価値が得られている状況を示す。図9(B)において、最大の評価値を示しているのは、評価値s+1であるがs+1でも所定の閾値sthを超えていない。これらの撮影パラメータで撮影した画像では、過去データのひび割れと十分一致する検知結果が得られておらず、これらの撮影パラメータは点検画像の撮影パラメータとして適していない。この場合、ステップS309では、撮影パラメータの再調整が必要と判定して、ステップS310で撮影パラメータの改善方法を推定する。 On the other hand, FIG. 9B shows an example of calculating an evaluation value by setting exposures of -1, 0, and +1 as a plurality of shooting parameters as in FIG. 9A. indicates a situation in which different evaluation values are obtained. In FIG. 9B, the maximum evaluation value is the evaluation value s +1 , but even s +1 does not exceed the predetermined threshold value s th . Images captured with these imaging parameters do not provide detection results that sufficiently match the cracks in the past data, and these imaging parameters are not suitable as imaging parameters for inspection images. In this case, in step S309, it is determined that the imaging parameters need to be readjusted, and in step S310, a method for improving the imaging parameters is estimated.
続いて、撮影パラメータの改善方法の推定について、図9(B)を用いて説明する。図9(B)では、+1の露出の評価値s+1は閾値sth未満ではあるが、評価値s-1~s+1の中では、最大の評価値を示している。従って、撮影パラメータの再調整では、この撮影パラメータ(+1の露出)の周辺の撮影パラメータから、複数の撮影パラメータを設定する。例えば、次の撮影パラメータ調整でも3つの撮影パラメータを設定する場合、図9(B)のように、+1の露出403の周辺の露出921、922、923を複数パラメータとして設定する。そして、ステップS305に戻り、これらの撮影パラメータを、撮影パラメータ設定部102を介して撮影部101に設定し、再び複数画像を撮影する。そして、図3のステップS306以降の処理(ターゲット検知処理、評価値算出処理)を再び実行し、最適な撮影パラメータを探索する。この撮影パラメータセットの評価でも、閾値sth以上となる評価値が得られなかった場合は、再び、最大評価値を示す撮影パラメータ周辺で、新しい複数の撮影パラメータを決定し、再度、撮影処理を実行する。このループは、閾値sthを超える評価値が得られる撮影パラメータが決定するまで繰り返し実行する。
Next, estimation of a method for improving imaging parameters will be described with reference to FIG. 9B. In FIG. 9B, the evaluation value s +1 of +1 exposure is less than the threshold value s th , but shows the maximum evaluation value among the evaluation values s −1 to s +1 . Therefore, in the readjustment of the shooting parameters, a plurality of shooting parameters are set from shooting parameters around this shooting parameter (exposure of +1). For example, when three shooting parameters are set in the next shooting parameter adjustment as well, as shown in FIG. 9B,
なお、最大の繰り返し回数を予め決めておき、それまでに最適な撮影パラメータ(閾値sth以上の評価値が得られる撮影パラメータ)が得られない場合は、処理を打ち切るようにしても良い。撮影パラメータの調整処理を打ち切った場合には、操作部105の表示部に警告を表示してユーザに撮影パラメータが十分に調整されなかったことを通知する。また、処理の打ち切りまでに得られた最大の評価値を算出した画像を撮影した撮影パラメータを、撮影パラメータ設定部102を介して撮影部101に設定しても良い。
Note that the maximum number of repetitions may be determined in advance, and the process may be aborted if the optimum imaging parameters (imaging parameters with which an evaluation value equal to or greater than the threshold value sth is obtained) are not obtained by then. When the shooting parameter adjustment processing is aborted, a warning is displayed on the display unit of the
以上の説明では、ステップS308で閾値sth以上の評価値が得られない場合に、改善撮影パラメータの推定と、繰り返し調整を行う実施形態について説明した。しかし、仮に閾値sth以上の評価値を示す撮影パラメータが見つかった場合でも、さらに高い評価値を示す撮影パラメータを探索するようにしても良い。この場合、最大評価値を示した撮影パラメータ周辺の撮影パラメータを改善撮影パラメータとして設定した上で、再び複数画像を撮影し、ひび割れの検知処理や評価値算出処理を繰り返し実行する。この繰り返し処理の終了条件は、予め決められた繰り返し回数に到達した場合や、最大評価値付近で撮影パラメータを変更しても評価値に変化が生じなくなった場合とする。 In the above description, an embodiment has been described in which, when an evaluation value equal to or greater than the threshold value s th is not obtained in step S308, estimation of improved imaging parameters and repeated adjustment are performed. However, even if a shooting parameter indicating an evaluation value equal to or higher than the threshold value sth is found, a search may be made for a shooting parameter indicating a higher evaluation value. In this case, after setting the shooting parameters around the shooting parameters showing the maximum evaluation value as improved shooting parameters, a plurality of images are shot again, and the crack detection processing and evaluation value calculation processing are repeatedly executed. The end condition of this repetition processing is when a predetermined number of repetitions is reached, or when the evaluation value does not change even if the imaging parameters are changed near the maximum evaluation value.
以上のようにループして撮影パラメータを調整する処理は、複数画像の撮影と評価、次のパラメータ推定を自動で繰り返しても良い。この場合、撮影部101を三脚などに固定して、撮影パラメータの調整が完了するまでユーザは待機すればよい。
In the process of looping and adjusting the imaging parameters as described above, the imaging and evaluation of a plurality of images and the next parameter estimation may be repeated automatically. In this case, the user may fix the
一方、ユーザが撮影パラメータや検知結果を確認し、撮影パラメータ調整のための繰り返し処理の終了を判断するようにしても良い。その場合、図3のステップS309において、評価値の閾値sthを用いた最適な撮影パラメータ判定は実施せずに、撮影パラメータの再調整の実行の判定をユーザが行うことになる。このために、操作部105では、ユーザに必要な情報を提示し、さらにユーザからの入力を受け付ける。ここで、図10は、ユーザ判定により撮影パラメータ調整を行う場合の操作部105の一例としての表示部1000について説明する図である。以下、図10を用いて、ユーザに提示する情報、及び、ユーザの操作について説明する。
On the other hand, the user may check the shooting parameters and detection results and determine whether to end the repeated processing for adjusting the shooting parameters. In this case, in step S309 of FIG. 3, the user determines whether or not to readjust the imaging parameters without performing optimum imaging parameter determination using the evaluation value threshold sth . For this purpose, the
まず、図10の表示部1000は、情報を表示するためのディスプレイである。例えば、情報処理装置100が撮影部101を含む撮影装置である場合、当該撮影装置の背面に設けられたタッチパネルディスプレイである。表示部1000に表示されている画像1001は、露出+1の撮影パラメータで撮影した画像上に、点線で表示した過去データのひび割れと、実線で表示した検知結果のひび割れとを重畳表示した画像である。この例では、点線と実線で、それぞれのひび割れを表示する例を示しているが、過去データと検知結果のひび割れとの表示方法は、異なる色で区別して表示しても良い。
First, a
また、画像1001に隠れている画像1002は、露出0の撮影パラメータで撮影した画像上に、過去データのひび割れと、検知結果のひび割れとを重畳表示した画像である。ユーザは、これらの画像を切り替えて表示することで、撮影パラメータの変化に伴う、ひび割れの検知結果の変化を確認することができる。また、重畳表示されたひび割れの表示、非表示をユーザが任意に実施できるようにしてもよい。ひび割れを非表示にすることで、ひび割れの表示に隠れた撮影画像の部分を確認できるようになる。
An
また、画像1001の下部には、撮影パラメータの調整のために複数設定した撮影パラメータを示している。図10には、複数の撮影パラメータの例として、3段階の露出(EV)を黒三角で示している。この内、最大の評価値を示した露出+1を示す黒三角1011は強調表示(大きく表示)されている。また、白抜きの三角1012などは、露出+1の撮影パラメータ1011に基づいてして設定した、撮影パラメータをさらに調整するときの複数の撮影パラメータ候補を示す。
Also, in the lower part of the
この実施形態では、ユーザは、操作部105としての表示部1000に表示されたこれらの情報を確認して、現在の撮影パラメータを採択するか、さらに撮影パラメータ調整の処理を実行するか、を判定する。具体的には、ユーザは、最大の評価値が得られた画像1001において、過去データのひび割れと検知結果のひび割れとを対比して、満足する一致度合いであれば、最大の評価値を示した撮影パラメータを採択すると判定することができる。ユーザは、最大の評価値を示す撮影パラメータを採択する場合、「set」と表示されているアイコン1021を押す。この操作により、最大の評価値を示す撮影パラメータを、撮影部101に設定し(図3のステップS311)、撮影パラメータ調整の処理が終了する。
In this embodiment, the user confirms these pieces of information displayed on the
一方、画像1001を確認するなどして、現在の最適撮影パラメータに不満があると判定した場合、ユーザは「再調整」と表示されたアイコン1022を押す。この指示により、次の複数の撮影パラメータ(例えば白抜きの三角1012で示される露出など)を用いて、図3のステップS306以降の処理(ターゲット検知処理、評価値算出処理)を再び実行する。その後、再び、各種の情報を図10の例ようにユーザに提示する。ユーザは提示された情報に基づいて、再び撮影パラメータを採択するか、さらに撮影パラメータを調整するかの判定を行う。
On the other hand, if it is determined by checking the
もし、撮影パラメータの調整を途中で辞める場合には、「終了」と表示されたアイコン1023を押す。この操作により、撮影パラメータを調整する処理(図3のフローチャートのループ)を終了させることができる。この時、それまでに撮影、評価した撮影パラメータの内、評価値が最大となる撮影パラメータを撮影部101に設定するようにしても良い。
If the adjustment of the shooting parameters is to be stopped halfway, the
このように、複数の撮影パラメータで撮影した画像、その画像から得られるひび割れ検知結果、過去データ、各撮影パラメータの評価結果、を表示することで、ユーザは点検に適した撮影パラメータを設定しやすくなる。 In this way, by displaying images shot with a plurality of shooting parameters, crack detection results obtained from the images, past data, and evaluation results of each shooting parameter, the user can easily set shooting parameters suitable for inspection. Become.
なお、この場合においても、予め評価値の閾値sthを設定しておき、閾値sthを超える評価値を得た撮影パラメータが存在することを表示するようにしても良い。例えば、図10において、黒三角1011により示される撮影パラメータで撮影した画像の評価値s1011が閾値sthを超える場合には、撮影パラメータを示す黒三角1011を点滅表示するようにしても良い。ユーザは、評価値に関わらず撮影パラメータを採択することができるが、このように評価値を超えた撮影パラメータの存在を視認可能に表示することで、撮影パラメータ採択の判定を補助することができるようになる。
Also in this case, a threshold value s- th for the evaluation value may be set in advance, and the presence of the imaging parameter having an evaluation value exceeding the threshold value s- th may be displayed. For example, in FIG. 10, when the evaluation value s 1011 of the image captured with the shooting parameters indicated by the
また、図10には不図示であるが、過去の点検結果を作成した時のコンクリート壁面画像を、図10の表示部1000の表示内容に加えて表示するようにしても良い。この場合、過去の点検時に撮影した画像を過去データ格納部106に格納しておき、図3のステップS302で、過去データ格納部106から過去データ(ひび割れ情報)を呼び出すと同時に、過去に撮影した画像も呼び出す。
Moreover, although not shown in FIG. 10, the concrete wall image when the past inspection result was created may be displayed in addition to the display contents of the
[変形例]
以下では、実施形態1の変形例について説明する。図3のステップS305の複数回撮影において、手持ちで撮影していたり、ドローンに搭載して撮影していたりすると、同じ撮影領域を狙って撮影しても複数の画像の撮影位置が微妙にずれることがある。実施形態1の説明では、この画像ずれについて特に言及しなかったが、過去データ、及び画像間で位置合わせを実行するようにしても良い。この処理は、ステップS305で複数画像を撮影した直後に実行する。
[Variation]
Below, the modification of
複数画像間の位置合わせは、既存の方法を利用すればよいので、詳細な説明は省略するが、画像間の特徴点のマッチングや画像のアフィン変換(並進、回転に限定しても良い)などの処理で実施できる。さらに、評価値を算出するために、過去データのひび割れとも位置合わせを行う必要がある。このためには、ステップS306で各画像から検知したひび割れの検知結果と、過去データのひび割れの位置と形状とが最も類似するように位置合わせを行う。この処理での位置合わせは、撮影画像そのものを変換するようにしても良いし、ひび割れ検知結果の画像を変換することで位置合わせをするようにしても良い。 Existing methods can be used to align multiple images, so a detailed explanation will be omitted, but matching of feature points between images, affine transformation of images (may be limited to translation and rotation), etc. It can be implemented by the processing of Furthermore, in order to calculate the evaluation value, it is necessary to align the cracks in the past data. For this purpose, alignment is performed so that the detection result of the crack detected from each image in step S306 and the position and shape of the crack in the past data are most similar. Positioning in this process may be performed by converting the photographed image itself, or by converting the image of the crack detection result.
また、実施形態1では、撮影パラメータを改善する方法を推定する例を説明したが、推定するひび割れの撮影に適した撮影方法は、撮影パラメータに限らず、他の撮影方法を推定しても良い。撮影パラメータ以外の撮影方法を推定する実施形態では、図3の処理フローのループを複数回実行しても、所定閾値以上の評価値が得られない場合に、さらに画像や撮影状況を分析して、適切な撮影方法を推奨する。 Further, in the first embodiment, an example of estimating a method for improving an imaging parameter has been described, but the imaging method suitable for imaging an estimated crack is not limited to the imaging parameter, and other imaging methods may be estimated. . In the embodiment for estimating the imaging method other than the imaging parameters, the image and the imaging situation are further analyzed when the evaluation value equal to or higher than the predetermined threshold is not obtained even if the loop of the processing flow in FIG. 3 is executed multiple times. , to recommend appropriate shooting methods.
例えば、画像の明るさが不足していると判定される場合や、ホワイトバランスの調整が撮影パラメータでは調整不可能と判定される場合には、ユーザに照明を利用することや、撮影時刻を変更してより明るい時刻での撮影を推奨する通知を行うようにしても良い。また別の例としては、撮影部101の位置・姿勢が取得できる場合、点検対象構造物との位置関係を分析し、撮影を改善する位置・姿勢を提案する。より具体的には、例えば、点検対象構造物の壁面に対するあおり角度が大きな位置・姿勢で撮影している場合、あおりを減少させる位置・姿勢で撮影することをユーザに推奨する。
For example, when it is determined that the brightness of the image is insufficient, or when it is determined that the white balance cannot be adjusted with the shooting parameters, the user is asked to use lighting or change the shooting time. Then, a notification recommending shooting at a brighter time may be issued. As another example, when the position/orientation of the
また、実施形態1では、点検のターゲットとしてひび割れを例に説明したが、点検のターゲットはひび割れに限らず、他の変状としても良い。この場合、撮影パラメータ調整に用いる点検のターゲットは、経年変化で過去に点検した結果の見え方の変化が少ない変状を用いることが好ましい。例えば、コンクリート打設時の不連続面であるコールドジョイントなどは、ひび割れと同様、過去に記録された部分の見え方は大きく変化しないため、好適なターゲットの例である。また、変状ではないが、コンクリート目地や打ちつなぎ目を点検のターゲットとすることができる。この場合、過去の点検時に観測したコンクリート目地や打ちつなぎ目の位置・形状と、現在撮影している画像から検知される目地や打ちつなぎ目の位置・形状とを比較することで、撮影パラメータの調整を行うようにしても良い。 Further, in the first embodiment, cracks are used as inspection targets, but inspection targets are not limited to cracks, and other deformations may be used. In this case, it is preferable to use, as a target of the inspection used for adjusting the imaging parameters, a deformation that causes little change in the appearance of the results of past inspections due to secular change. For example, a cold joint, which is a discontinuous surface during concrete placement, is an example of a suitable target because, like cracks, the appearance of previously recorded portions does not change significantly. Also, concrete joints and joints can be targeted for inspection, although they are not deformations. In this case, the photographing parameters can be adjusted by comparing the positions and shapes of concrete joints and joints observed during past inspections with the positions and shapes of joints and joints detected in images currently being captured. You can do it.
以上説明したように、本実施形態では、過去の点検結果が記録されている点検対象構造物を、複数の撮影パラメータで撮影して複数の画像を作成する。複数の画像それぞれに対して、点検ターゲットの検知処理を実施する。各画像の検知結果と、過去の点検結果とから、各撮影パラメータの評価値を算出する。そして、最大の評価値が閾値以上である場合、最大の評価値を示した撮影パラメータを、使用する撮影パラメータとして設定する。一方、最大の評価値が閾値以下である場合、評価値を改善する撮影パラメータを推定する。 As described above, in this embodiment, a structure to be inspected for which past inspection results are recorded is photographed with a plurality of photographing parameters to create a plurality of images. Inspection target detection processing is performed on each of the plurality of images. An evaluation value for each imaging parameter is calculated from the detection result of each image and the past inspection result. Then, if the maximum evaluation value is greater than or equal to the threshold, the imaging parameter indicating the maximum evaluation value is set as the imaging parameter to be used. On the other hand, if the maximum evaluation value is equal to or less than the threshold, the imaging parameters that improve the evaluation value are estimated.
本実施形態によれば、ユーザが撮影画像を確認することなく、過去の結果との比較に適した画像の撮影方法(例えば撮影パラメータ)を推定することが可能となる。 According to this embodiment, it is possible for the user to estimate an image capturing method (for example, capturing parameters) suitable for comparison with past results without checking the captured image.
(実施形態2)
実施形態1では、過去データ(過去のひび割れ点検結果)と撮影した画像のひび割れ検知結果とを比較して、撮影パラメータの調整を行った。これに加えて、過去に撮影した画像(以下、過去画像)と、現在、撮影パラメータ調整のために撮影した画像(以下、現在画像)とをさらに比較して、撮影パラメータの調整を行うようにしても良い。
(Embodiment 2)
In the first embodiment, photographing parameters are adjusted by comparing past data (past crack inspection results) with crack detection results in photographed images. In addition to this, an image taken in the past (hereafter referred to as the past image) is further compared with an image currently taken for shooting parameter adjustment (hereafter referred to as the current image) to adjust the shooting parameters. can be
実施形態2では、過去画像と現在画像とを比較して撮影パラメータを調整する例を説明する。 In the second embodiment, an example will be described in which a past image and a current image are compared to adjust shooting parameters.
過去の点検結果との比較を行うために、現在の点検で撮影する画像でも、少なくとも過去の点検結果に記録されているひび割れが観測できる画像を撮影する必要がある。この目的のために、実施形態1では、過去データと検知結果とを用いて撮影パラメータの調整を行った。ここで、過去の点検で撮影した画像が存在する場合、この過去画像と現在画像とを目視で比較して、変状の伸展などの経年変化を確認したい。この時、過去画像と現在画像との比較のためには、現在画像が過去の点検結果に記録されているひび割れが観測できる画像であるだけでなく、明るさやホワイトバランスなどの画像の見た目も過去画像に似ている方がよい。 In order to make a comparison with past inspection results, it is necessary to take images in which at least the cracks recorded in the past inspection results can be observed even in the images taken during the current inspection. For this purpose, in the first embodiment, shooting parameters are adjusted using past data and detection results. Here, if there is an image taken in the past inspection, it is desired to visually compare the past image and the current image to confirm the secular change such as extension of deformation. At this time, in order to compare the past image with the current image, not only is the current image an image in which the cracks recorded in the past inspection results can be observed, but the appearance of the image such as brightness and white balance must also be checked. It should be similar to the image.
従って、実施形態2では、過去画像と現在画像との類似度を算出し、この類似度も考慮した評価値を算出して撮影パラメータを調整する。これにより、過去画像と現在画像との見た目が類似した撮影を行うための撮影パラメータを設定することができるようになる。以下では、主に実施形態1との差分について説明する。それ以外の構成や処理は実施形態1と同様であるため説明を省略する。 Therefore, in the second embodiment, the degree of similarity between the past image and the current image is calculated, and an evaluation value is calculated in consideration of this degree of similarity to adjust the imaging parameters. Thus, it is possible to set the shooting parameters for performing shooting in which the past image and the current image are similar in appearance. Differences from the first embodiment will be mainly described below. Since other configurations and processes are the same as those of the first embodiment, description thereof is omitted.
まず、過去データ格納部106には、過去の点検結果だけでなく、過去に点検対象構造物を撮影した画像も格納しておく。そして、図3のステップS301において、点検対象構造物の任意の撮影範囲が設定されると、ステップS302で過去データと共に、撮影範囲に関する過去画像が呼び出される。ステップS305で複数パラメータによる撮影、ステップS306で各現在画像に対してひび割れ検知を実行した後に、ステップS307で評価値を算出する。実施形態2では、ある撮影パラメータで撮影した1枚の撮影画像(現在画像)と、過去画像と、過去データとに基づいて、評価値s'を以下のようにして算出する。
First, the past
式(4)の第一項は実施形態1の式(2)のひび割れに基づく評価値である。第二項のr(Io、In)は、過去画像Ioと現在画像Inとの類似度を示す。画像間の類似度はどのように求めても良いが、例えば輝度分布や色分布の類似性を示す値である。これ以外にも、何らかの画像特徴量空間での距離などを類似度とすればよいが、明るさ、色味、ホワイトバランスなど、画像の幾何的な特徴の類似性よりも人間の感性的に合った類似度を算出するべきである。なお、式(4)のα、βは第一項(ひび割れの評価値)と第二項(過去画像と現在画像の類似度)とのそれぞれに対する重み係数であり、いずれに重み付けて評価値s'を算出するかを決めるパラメータである。ここで、α≧0、β≧0である。 The first term of expression (4) is an evaluation value based on cracks in expression (2) of the first embodiment. The second term r(I o , In ) indicates the degree of similarity between the past image I o and the current image In . The degree of similarity between images may be obtained in any manner, but is, for example, a value indicating similarity in luminance distribution or color distribution. In addition to this, the distance in some image feature space may be used as the degree of similarity. similarity should be calculated. Note that α and β in Equation (4) are weighting factors for the first term (evaluation value of cracks) and the second term (similarity between the past image and the current image). ' is a parameter that determines whether to calculate '. Here, α≧0 and β≧0.
以上のようにして算出する評価値s'を使って、実施形態1の処理を実行することで、過去画像と現在画像が類似するような撮影パラメータを調整することができるようになる。 By executing the processing of the first embodiment using the evaluation value s′ calculated as described above, it is possible to adjust the shooting parameters so that the past image and the current image are similar.
(実施形態3)
実施形態1では、図2の橋脚201の、ある1つの撮影範囲220の過去データを用いて撮影パラメータを調整し、その撮影パラメータで橋脚201を撮影する例を説明した。橋脚201の撮影では、橋脚201の部分的な撮影を繰り返して複数の画像を撮影し、その複数画像を接続することで、高精細なコンクリート壁面画像を作成する。しかし、同一の橋脚201においても、部分によって適切な撮影パラメータで撮影した方がよい。
(Embodiment 3)
In the first embodiment, an example has been described in which the imaging parameters are adjusted using the past data of one
実施形態3では、点検対象構造物のある1つの広い壁面において、複数部分(複数の撮影範囲)で撮影パラメータの調整を行う例を説明する。 In the third embodiment, an example will be described in which imaging parameters are adjusted in a plurality of portions (a plurality of imaging ranges) on one wide wall surface of a structure to be inspected.
図11は、図2の橋脚251(実施形態1の説明で用いた橋脚201とは別の橋脚)の図面252を示す。撮影範囲1101、1102、1103、1104は、ひび割れを含む撮影範囲である。これらの撮影範囲について実施形態1の方法を用いて、各撮影範囲を撮影するために適した撮影パラメータを設定する。撮影範囲1101、1102、1103、1104は、実施形態1と同様に、ユーザが選択することや、情報処理装置100が過去データにひび割れを含む領域を推奨することで決定する。
FIG. 11 shows a drawing 252 of the
そして、実施形態3では、さらに、ある壁面の範囲(本実施形態では図11の図面252の範囲)で、できるだけ疎に分布、あるいは均等に分布するような位置から選択する。図11に示すように、これらの撮影範囲は隣接せず、図面252の全域に分布する位置に設定されている。情報処理装置100は、このように複数の撮影範囲が設定されるようにユーザに撮影範囲を推奨する。
Further, in the third embodiment, the positions are selected from the positions that are distributed as sparsely or as evenly as possible within the range of a certain wall surface (the range of drawing 252 in FIG. 11 in this embodiment). As shown in FIG. 11, these photographing ranges are not adjacent to each other and are set at positions distributed over the
なお、図11の例では、4つの撮影範囲を設定する例を説明しているが、ある壁面に対して設定する撮影範囲の数はこれに限定されない。撮影範囲の数が多い場合、壁面の各部位に適した撮影パラメータを設定することができるが、撮影パラメータ調整に時間を要することになる。これらはトレードオフの関係にあるので、設定する撮影範囲の数は、要求に合わせて設定すればよい。 In the example of FIG. 11, an example of setting four shooting ranges is described, but the number of shooting ranges set for a certain wall surface is not limited to this. If there are many imaging ranges, it is possible to set imaging parameters suitable for each portion of the wall surface, but it takes time to adjust the imaging parameters. Since these are in a trade-off relationship, the number of shooting ranges to be set may be set according to the request.
次に、実施形態1で説明した方法により、各撮影範囲の過去データを用いて、各撮影範囲を撮影するために適した撮影パラメータを決定する。これらの撮影範囲以外の部分の撮影パラメータについては、各撮影範囲で設定した撮影パラメータに基づいて、内挿や外挿で求める。例えば、範囲1120を撮影するための撮影パラメータは、周辺の撮影範囲の撮影パラメータ(例えば、撮影範囲1101と1102の撮影パラメータ)に基づいて、線形補間で求めた撮影パラメータとする。このようにすることで、壁面の各部位の撮影パラメータを設定することができる。
Next, by the method described in the first embodiment, the past data of each imaging range is used to determine imaging parameters suitable for imaging each imaging range. The imaging parameters for portions other than these imaging ranges are obtained by interpolation or extrapolation based on the imaging parameters set for each imaging range. For example, the shooting parameters for shooting the
さらに、実施形態3では、同一の撮影対象において撮影パラメータが大きく変化しないように、拘束条件を付けて撮影パラメータを調整するようにしても良い。例えば、図11の図面252に対応する図2の橋脚251を撮影するときに、橋脚251の部分によって撮影パラメータが大きく異なると、撮影した画像を接続した高精細画像に統一感がなくなる。従って、橋脚251のような連続した固まりの部分の撮影では、できるだけ類似した撮影パラメータで撮影を行った方がよい。このために、撮影パラメータを調整する評価値に対して、現在撮影中の撮影領域に隣接する撮影領域、または撮影中の壁面に含まれる他の撮影領域で決定した撮影パラメータとの差が大きいほどペナルティを与える構成にする。これにより、橋脚251のような連続した固まりの部分の撮影において、撮影パラメータの大きな変化を抑制することができるようになる。
Furthermore, in the third embodiment, the imaging parameters may be adjusted with a constraint condition so that the imaging parameters do not change significantly for the same imaging target. For example, when photographing the
本実施形態によれば、撮影範囲ごとに、過去の結果との比較に適した画像の撮影方法を推定することが可能となる。 According to this embodiment, it is possible to estimate an image capturing method suitable for comparison with past results for each capturing range.
(実施形態4)
上述の各実施形態では、評価値が所定の閾値未満の場合に、複数の評価値を用いて撮影パラメータの改善方法を推定する方法について説明した(例えば、図9(B))。しかし、撮影パラメータの改善方法を推定する方法は、複数の評価値を用いた処理に限らず、ある1つの評価値とその評価値に関わる撮影パラメータとに基づいて推定する方法でも良い。実施形態4では、この方法について、実施形態1との差を図3のフローチャートを用いて説明する。
(Embodiment 4)
In each of the above-described embodiments, a method of estimating a method of improving an imaging parameter using a plurality of evaluation values when the evaluation value is less than a predetermined threshold has been described (eg, FIG. 9B). However, the method of estimating the imaging parameter improvement method is not limited to processing using a plurality of evaluation values, and may be a method of estimating based on one evaluation value and imaging parameters related to that evaluation value. In Embodiment 4, differences from
まず、実施形態4では、複数の評価値を算出しないので、複数の撮影パラメータで撮影を行う必要がない。従って、実施形態1の図3のフローチャートでは、複数の撮影パラメータを設定するステップS304と、複数回撮影のステップS305とを実行しない。よって、実施形態4では、ある初期パラメータで、撮影範囲の画像を1枚撮影することになる。この1枚の画像に対して、ターゲット(ひび割れ)を検知する処理S306と、検知結果を過去データと比較して評価値を算出する処理S307とを実行する。これらは実施形態1と同様の処理である。さらに、算出した評価値が閾値以上の場合、パラメータ設定を終了する処理(図3のS308、S309、S311)も実施形態1と同様に実行すればよい。 First, since multiple evaluation values are not calculated in the fourth embodiment, there is no need to perform imaging with multiple imaging parameters. Therefore, in the flowchart of FIG. 3 of the first embodiment, step S304 for setting a plurality of shooting parameters and step S305 for shooting multiple times are not executed. Therefore, in the fourth embodiment, one image in the shooting range is shot with certain initial parameters. Processing S306 for detecting a target (crack) and processing S307 for comparing the detection result with past data and calculating an evaluation value are executed for this one image. These are processes similar to those of the first embodiment. Furthermore, when the calculated evaluation value is equal to or greater than the threshold, the process of ending parameter setting (S308, S309, and S311 in FIG. 3) may be executed in the same manner as in the first embodiment.
実施形態1と異なる処理は、評価値が閾値以下であった場合に、撮影パラメータの改善方法を推定するステップS310の処理である。実施形態4では、ある1つの評価値、及びその時の撮影パラメータとから、統計的な手法により改善撮影パラメータを推定する。このために実施形態4では、予め、評価値と改善撮影パラメータとの関係を学習しておく。この関係は、例えば、以下のようなデータを用いて学習することができる。 A process different from that of the first embodiment is the process of step S310 for estimating a method for improving the imaging parameter when the evaluation value is equal to or less than the threshold. In the fourth embodiment, improved imaging parameters are estimated by a statistical method from one evaluation value and the imaging parameters at that time. For this reason, in the fourth embodiment, the relationship between the evaluation value and the improved imaging parameter is learned in advance. This relationship can be learned using, for example, the following data.
ここで、式(5)のpnは撮影パラメータであり、snはpnで撮影した画像から得られた評価値である。snは閾値以下の評価値とする。式(6)のpdst_nは、(sn、pn)の状態から撮影パラメータを調整し、最終的に評価値が閾値以上となったときの撮影パラメータである。これらのデータの組をn個収集し、学習データ(X、Y)を作成する。この学習データを用いて、ある閾値未満の評価値sと撮影パラメータpとが入力された時に、改善パラメータpdstを出力するモデルMを学習する。 Here, pn in Equation (5) is a photographing parameter, and sn is an evaluation value obtained from an image photographed with pn . s n is an evaluation value below the threshold. p dst — n in equation (6) is the shooting parameter when the shooting parameter is adjusted from the state of (s n , p n ) and the final evaluation value becomes equal to or greater than the threshold. Collect n sets of these data to create learning data (X, Y). This learning data is used to learn a model M that outputs an improved parameter p_dst when an evaluation value s less than a certain threshold and a shooting parameter p are input.
このモデルの学習には、どのようなアルゴリズムを用いても良く、例えば、撮影パラメータを連続値であるとすると、線形回帰などの回帰モデルを適用することができる。 Any algorithm may be used for learning this model. For example, if the imaging parameters are continuous values, a regression model such as linear regression can be applied.
以上のようにして予め準備したモデルMを、ステップS310の改善撮影パラメータ推定処理で用いることにより、実施形態4では、1枚の画像から改善撮影パラメータを推定することができるようになる。 By using the model M prepared in advance as described above in the improved imaging parameter estimation processing in step S310, in the fourth embodiment, improved imaging parameters can be estimated from one image.
なお、改善撮影パラメータを求める手法として、学習したモデルを用いる構成は、実施形態1の複数の撮影パラメータで画像を撮影する方法で用いても良い。すなわち、モデルMは、1枚の画像から撮影パラメータを推定する構成に限定されず、複数の画像から撮影パラメータを推定する方法で用いても良い。この場合、実施形態1のように複数の撮影パラメータで撮影した複数の画像からそれぞれ評価値を算出し、複数の撮影パラメータと複数の評価値とを入力して改善撮影パラメータを求めるモデルMを学習する。このモデルMを学習するための学習データXは、撮影パラメータ調整で撮影する複数画像の枚数をm枚とすると、式(5)から以下の式(8)のように書き換えられる。なお、目的変数(あるいは教師データ)Yは、式(6)と同様である。 As a method for obtaining improved imaging parameters, the configuration using a learned model may be used in the method of capturing an image with a plurality of imaging parameters in the first embodiment. That is, the model M is not limited to the configuration for estimating imaging parameters from one image, and may be used in a method for estimating imaging parameters from a plurality of images. In this case, as in the first embodiment, evaluation values are calculated from a plurality of images captured with a plurality of imaging parameters, and a model M for obtaining improved imaging parameters by inputting the plurality of imaging parameters and the plurality of evaluation values is learned. do. The learning data X for learning this model M is rewritten from equation (5) as shown in the following equation (8), where m is the number of multiple images to be shot in the shooting parameter adjustment. Note that the target variable (or teacher data) Y is the same as in Equation (6).
本実施形態によれば、1枚の画像から改善撮影パラメータを推定することができるようになる。 According to this embodiment, it becomes possible to estimate an improved imaging parameter from one image.
(実施形態5)
上述の各実施形態では、コンクリート壁面を有する構造物の点検を例に説明を行った。しかし、本発明の適用例はこれに限定されず、他の目的で用いても良い。実施形態5では、工場等で製品の画像を撮影し、キズなどの欠陥を検知する装置(外観検査装置)を例に説明を行う。
(Embodiment 5)
In each of the above-described embodiments, inspection of a structure having concrete wall surfaces has been described as an example. However, application examples of the present invention are not limited to this, and may be used for other purposes. In the fifth embodiment, an apparatus (appearance inspection apparatus) that takes an image of a product in a factory or the like and detects defects such as scratches will be described as an example.
図12は、外観検査を説明するための図である。まず、物体1200は、部品や製品などの外観検査の対象である。外観検査では、これらを撮影部101で撮影し、物体1200の欠陥1201を検知する。撮影した画像から欠陥を検知するためには、欠陥を強調するための所定の画像処理のパラメータを予め調整しておく必要がある。また、機械学習を用いた外観検査では、正常な物体の画像や欠陥を含む物体の画像から欠陥の画像特徴を識別するモデルを学習しておく必要がある。
FIG. 12 is a diagram for explaining the appearance inspection. First, an
ここで、撮影部101(撮影部101には、照明装置を含んでも良い)をリプレイスにより交換するケースについて考える。もし、新しい撮影部101の仕様が古い撮影部1001の仕様と異なる場合、同一の撮影パラメータを設定したとしても撮影画像に微妙な変化が生じる。ここで、画像処理パラメータや欠陥識別モデルは、古い撮影部101で撮影した画像に基づいて決定しているので、再調整や再学習が要求される。再調整や再学習のためには、新しい撮影部101で大量の物体1200の画像を撮影する必要がある。このため、外観検査装置を用いた生産ラインを再稼働させるために時間を要することになる。
Here, consider a case in which the photographing unit 101 (the photographing
従って、本発明の撮影パラメータ調整方法を適用し、過去の撮影部101と同様の画像を撮影することができる撮影パラメータを、新しい撮影部101に設定する。このために、まず、欠陥を含む物体を準備しておく。以下、これをリファレンス物体と呼ぶ。リファレンス物体は、過去に古い撮影部101で検査されており、その欠陥の検知結果が過去データ格納部106に格納されているとする。そして、新しい撮影部101でリファレンス物体を異なる複数の撮影パラメータで撮影する。
Therefore, by applying the imaging parameter adjustment method of the present invention, imaging parameters are set for the
図12では、物体1200をリファレンス物体としたときに、新しい撮影部101のn個の撮影パラメータで撮影した画像1211~121nを示している。これらのn枚の画像に欠陥検知処理を行い、その検知結果と、過去データ格納部106に格納された古い撮影部での検知結果とを比較して、それぞれの撮影パラメータに関する評価値を算出する。そして、これらの評価値に基づいて、新しい撮影部101の撮影パラメータを調整する。以上の処理は、撮影対象が異なるだけで、処理内容は実施形態1と同様であるので、詳細な説明は省略する。
FIG. 12 shows
これにより、古い撮影部で検知された欠陥を検知することができる撮影パラメータを、新しい撮影部に対して容易に設定することができるようになる。 This makes it possible to easily set, for the new imaging unit, imaging parameters that can detect defects detected by the old imaging unit.
なお、上記では、外観検査装置の撮影部のリプレイス時に本発明を適用する例を説明したが、外観検査装置への適用方法はこれに限らない。例えば、工場の同一製品を製造する複数の製造ラインに外観検査装置を新規導入するケースについて考える。製造ラインが異なると、外光の影響が異なるなどの理由により、それぞれの製造ラインで最適な撮影パラメータを調整する必要がある。 In the above description, an example in which the present invention is applied when the imaging unit of the visual inspection apparatus is replaced has been described, but the method of applying the present invention to the visual inspection apparatus is not limited to this. For example, consider the case of newly introducing a visual inspection device to a plurality of production lines that manufacture the same product in a factory. Different production lines are affected by different external light, and for other reasons, it is necessary to adjust optimum imaging parameters for each production line.
この場合、まず、第一の製造ラインの外観検査装置の撮影部のパラメータを手動で調整する。そして、第一の製造ラインの外観検査装置で、物体の画像を撮影し、欠陥検知の画像処理パラメータ調整や欠陥識別モデル学習を行う。そして、欠陥を含む少なくとも一つの物体をリファレンス物体として、第一の製造ラインの外観検査装置でリファレンス物体の欠陥検知を実行する。この検知結果は、過去データとして過去データ格納部106に格納しておく。
In this case, first, the parameters of the photographing unit of the visual inspection apparatus of the first production line are manually adjusted. Then, an image of the object is photographed by the visual inspection apparatus of the first production line, and image processing parameter adjustment for defect detection and defect identification model learning are performed. Then, using at least one object including a defect as a reference object, the visual inspection apparatus of the first production line executes defect detection of the reference object. This detection result is stored in the past
次に、第一の製造ラインとは異なる第二の製造ラインでは、第一の製造ラインで設定した画像処理パラメータや欠陥識別モデルを流用する。そして、第一の製造ラインでの検知結果と同様の検知結果が得られるように、本発明の方法で第二の製造ラインの撮影部の撮影パラメータを調整する。この撮影パラメータ調整では、第二の製造ラインの撮影部でリファレンス物体を撮影し、それを、過去データ格納部106に格納した第一の製造ラインでのリファレンス物体の検知結果と比較することで、撮影パラメータの評価値を算出する。そして、評価値に基づいて、第二の製造ラインの撮影パラメータを調整する。
Next, in a second production line different from the first production line, the image processing parameters and defect identification model set in the first production line are diverted. Then, the photographing parameters of the photographing section of the second production line are adjusted by the method of the present invention so that detection results similar to those of the first production line can be obtained. In this photographing parameter adjustment, the reference object is photographed by the photographing unit of the second production line and compared with the detection result of the reference object in the first production line stored in the past
本実施形態によれば、外観検査装置において撮影部を交換する場合に、古い撮影部で検知された欠陥を検知することができる撮影パラメータを、新しい撮影部に対して容易に設定することができるようになる。 According to the present embodiment, when the imaging unit is replaced in the visual inspection apparatus, the imaging parameters capable of detecting defects detected by the old imaging unit can be easily set for the new imaging unit. become.
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
(Other embodiments)
The present invention supplies a program that implements one or more functions of the above-described embodiments to a system or device via a network or a storage medium, and one or more processors in the computer of the system or device reads and executes the program. It can also be realized by processing to It can also be implemented by a circuit (for example, ASIC) that implements one or more functions.
100:情報処理装置、101:撮影部、102:撮影パラメータ設定部、103:ターゲット検知部、104:推定部、105:操作部、106:過去データ格納部 100: information processing apparatus, 101: imaging unit, 102: imaging parameter setting unit, 103: target detection unit, 104: estimation unit, 105: operation unit, 106: past data storage unit
Claims (15)
撮影手段により所定の撮影パラメータで撮影された前記撮影範囲の画像から前記ターゲットを検知する検知手段と、
前記検知手段による検知結果と前記過去データとに基づいて評価値を取得し、当該評価値に基づいて前記ターゲットの撮影に適した撮影方法を推定する推定手段と、
を備え、
前記推定手段は、前記撮影範囲の過去画像と前記撮影範囲の現在画像との類似度と、前記検知手段による検知結果と、前記過去データとに基づいて前記評価値を取得することを特徴とする情報処理装置。 a storage means for storing past information of the target in the shooting range as past data;
detection means for detecting the target from the image of the imaging range captured by the imaging means with predetermined imaging parameters;
an estimation means for obtaining an evaluation value based on the detection result of the detection means and the past data, and estimating a shooting method suitable for shooting the target based on the evaluation value;
with
The estimation means acquires the evaluation value based on the degree of similarity between the past image of the imaging range and the current image of the imaging range, the detection result of the detection means, and the past data. information processing equipment.
前記検知手段は、前記撮影手段により複数の撮影パラメータで撮影された前記撮影範囲の複数の画像から前記ターゲットを検知し、
前記推定手段は、前記検知手段による複数の検知結果と前記過去データとに基づいて複数の評価値を取得し、当該複数の評価値に基づいて前記撮影方法を推定することを特徴とする請求項1に記載の情報処理装置。 further comprising setting means for setting a plurality of imaging parameters for the imaging means;
The detection means detects the target from a plurality of images of the imaging range captured by the imaging means with a plurality of imaging parameters,
3. The estimating means obtains a plurality of evaluation values based on a plurality of detection results by the detecting means and the past data, and estimates the photographing method based on the plurality of evaluation values. 1. The information processing device according to 1.
撮影手段により所定の撮影パラメータで撮影された前記撮影範囲の画像から前記ターゲットを検知する検知工程と、
前記検知工程による検知結果と前記過去データとに基づいて評価値を取得し、当該評価値に基づいて前記ターゲットの撮影に適した撮影方法を推定する推定工程と、
を有し、
前記推定工程では、前記撮影範囲の過去画像と前記撮影範囲の現在画像との類似度と、前記検知工程による検知結果と、前記過去データとに基づいて前記評価値を取得することを特徴とする情報処理装置の制御方法。 A control method for an information processing apparatus comprising storage means for storing past information of a target in an imaging range as past data,
a detection step of detecting the target from the image of the imaging range captured by the imaging means with predetermined imaging parameters;
an estimation step of obtaining an evaluation value based on the detection result of the detection step and the past data, and estimating an imaging method suitable for imaging the target based on the evaluation value;
has
In the estimating step, the evaluation value is obtained based on a degree of similarity between a past image of the imaging range and a current image of the imaging range, a detection result of the detection step, and the past data. A control method for an information processing device.
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018234704A JP7311963B2 (en) | 2018-12-14 | 2018-12-14 | Information processing device, control method and program for information processing device |
PCT/JP2019/042487 WO2020110576A1 (en) | 2018-11-27 | 2019-10-30 | Information processing device |
US17/327,892 US20210281748A1 (en) | 2018-11-27 | 2021-05-24 | Information processing apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018234704A JP7311963B2 (en) | 2018-12-14 | 2018-12-14 | Information processing device, control method and program for information processing device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020096325A JP2020096325A (en) | 2020-06-18 |
JP7311963B2 true JP7311963B2 (en) | 2023-07-20 |
Family
ID=71085143
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018234704A Active JP7311963B2 (en) | 2018-11-27 | 2018-12-14 | Information processing device, control method and program for information processing device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7311963B2 (en) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7564671B2 (en) | 2020-09-29 | 2024-10-09 | キヤノン株式会社 | Information processing device, control method, and program |
EP4024847A4 (en) * | 2020-10-23 | 2022-09-28 | NEC Corporation | Individual identification device |
JPWO2022114006A1 (en) | 2020-11-27 | 2022-06-02 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006108915A (en) | 2004-10-01 | 2006-04-20 | Canon Inc | Apparatus and method for image photographing |
JP2010026661A (en) | 2008-07-16 | 2010-02-04 | Noritsu Koki Co Ltd | Image processor, image forming apparatus, image processing method, and image processing program |
JP2015082830A (en) | 2013-10-24 | 2015-04-27 | 富士通株式会社 | Guide method, information processing apparatus, and guide program |
JP2015231101A (en) | 2014-06-04 | 2015-12-21 | パイオニア株式会社 | Imaging condition estimation apparatus and method, terminal device, computer program and recording medium |
-
2018
- 2018-12-14 JP JP2018234704A patent/JP7311963B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006108915A (en) | 2004-10-01 | 2006-04-20 | Canon Inc | Apparatus and method for image photographing |
JP2010026661A (en) | 2008-07-16 | 2010-02-04 | Noritsu Koki Co Ltd | Image processor, image forming apparatus, image processing method, and image processing program |
JP2015082830A (en) | 2013-10-24 | 2015-04-27 | 富士通株式会社 | Guide method, information processing apparatus, and guide program |
JP2015231101A (en) | 2014-06-04 | 2015-12-21 | パイオニア株式会社 | Imaging condition estimation apparatus and method, terminal device, computer program and recording medium |
Also Published As
Publication number | Publication date |
---|---|
JP2020096325A (en) | 2020-06-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2020110576A1 (en) | Information processing device | |
JP7311963B2 (en) | Information processing device, control method and program for information processing device | |
US8401274B2 (en) | Image processing apparatus and method | |
JP5082776B2 (en) | Image processing device | |
CN105979134B (en) | Image processing apparatus, image processing method, and image processing system | |
US8451335B2 (en) | Imaging device | |
JP7387261B2 (en) | Information processing device, information processing method and program | |
JP5181970B2 (en) | Image processing apparatus and image processing method | |
JP2004260785A (en) | Projector with distortion correction function | |
US9729798B2 (en) | Image-capturing apparatus which controls image-capturing direction | |
JP2010019868A (en) | System and method of measuring display at multi-angles | |
JP2005016991A (en) | Infrared structure diagnosis system | |
JP2005016995A (en) | Infrared structure diagnosis method | |
JP2009224971A (en) | Image processing device | |
JP5633733B2 (en) | Dark region noise correction device | |
JP2007010419A (en) | Three-dimensional shape of object verifying system | |
JP6921606B2 (en) | Image processing equipment, image processing methods and programs | |
JP7305509B2 (en) | Information processing device, its control method, program, and storage medium | |
JP2805897B2 (en) | Image quality inspection equipment | |
JPWO2011141972A1 (en) | Luminance correction apparatus, luminance correction system, and luminance correction method | |
JP7433623B2 (en) | Structure image management system | |
JP3755319B2 (en) | Main subject detection device and apparatus using the same | |
JP2007285753A (en) | Flaw detection method and flaw detector | |
JP7047475B2 (en) | Image processing equipment, image processing methods, and image processing programs | |
JP4464731B2 (en) | Image processing program, image processing method, and image processing apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211214 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221216 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230213 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230609 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230707 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7311963 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |