JP7311963B2 - Information processing device, control method and program for information processing device - Google Patents

Information processing device, control method and program for information processing device Download PDF

Info

Publication number
JP7311963B2
JP7311963B2 JP2018234704A JP2018234704A JP7311963B2 JP 7311963 B2 JP7311963 B2 JP 7311963B2 JP 2018234704 A JP2018234704 A JP 2018234704A JP 2018234704 A JP2018234704 A JP 2018234704A JP 7311963 B2 JP7311963 B2 JP 7311963B2
Authority
JP
Japan
Prior art keywords
imaging
parameters
image
photographing
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018234704A
Other languages
Japanese (ja)
Other versions
JP2020096325A (en
Inventor
敦史 野上
裕輔 御手洗
優和 真継
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018234704A priority Critical patent/JP7311963B2/en
Priority to PCT/JP2019/042487 priority patent/WO2020110576A1/en
Publication of JP2020096325A publication Critical patent/JP2020096325A/en
Priority to US17/327,892 priority patent/US20210281748A1/en
Application granted granted Critical
Publication of JP7311963B2 publication Critical patent/JP7311963B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Studio Devices (AREA)

Description

本発明は、情報処理装置、情報処理装置の制御方法及びプログラムに関する。 The present invention relates to an information processing device, a control method for an information processing device, and a program.

橋梁、ダム、トンネルなどの構造物のコンクリート壁面の点検では、調査技術者がコンクリート壁面に接近し、ひび割れなどの変状を目視で確認することが行われている。このような近接目視と呼ばれる点検作業は作業コストが高いため、近年、コンクリート壁面を撮影した画像から変状を自動的に検出する方法による点検が提案されている。特許文献1では、ウェーブレット変換を用いて、コンクリート壁面画像からひび割れを検知する技術が開示されている。 In inspections of concrete wall surfaces of structures such as bridges, dams, and tunnels, an investigative engineer approaches the concrete wall surface and visually confirms deformations such as cracks. Since such inspection work called close-up visual inspection is costly, in recent years, inspection by a method of automatically detecting deformation from images of concrete wall surfaces has been proposed. Patent Literature 1 discloses a technique of detecting cracks from a concrete wall image using wavelet transform.

また、ひび割れの伸展などの経年変化を確認するためには、数年ごとに点検を実施し、過去の点検結果との比較を行う必要がある。ここで、細いひび割れなどの見えづらいひび割れを確認できる画像を撮影するためには、フォーカスや露出などの撮影パラメータを適切に設定する必要がある。しかし、細いひび割れなどは、微妙な撮影パラメータの違いで、自動検知により検知できたり、できなかったりする。従って、微妙な撮影パラメータの調整が必要となり、撮影パラメータ調整が難しい。 In addition, in order to check aging such as extension of cracks, it is necessary to conduct inspections every few years and compare them with past inspection results. Here, in order to capture an image in which thin cracks and other hard-to-see cracks can be confirmed, it is necessary to appropriately set shooting parameters such as focus and exposure. However, thin cracks and the like may or may not be detected by automatic detection due to subtle differences in shooting parameters. Therefore, it is necessary to finely adjust the photographing parameters, and it is difficult to adjust the photographing parameters.

これに対して、特許文献2は、撮影パラメータを調整する方法を開示している。特許文献2では、まず、複数の異なる撮影パラメータで複数の画像を撮影し、撮影した複数の画像をディスプレイに表示する。ユーザは、複数の画像の中から、最も好ましいと判断する画像を選択する。この結果、選択された画像を撮影した撮影パラメータが設定される。 On the other hand, Patent Document 2 discloses a method of adjusting shooting parameters. In Patent Document 2, first, a plurality of images are captured with a plurality of different shooting parameters, and the captured images are displayed on a display. The user selects the most preferable image among the plurality of images. As a result, shooting parameters for shooting the selected image are set.

特開2014-228357号公報JP 2014-228357 A 特許第4534816号公報Japanese Patent No. 4534816

しかし、構造物点検では微妙な撮影パラメータ調整が行われるため、構造物点検に特許文献2の方法を適用すると、画像間の変化が小さな複数の画像が表示されることになる。ユーザにとって、変化が小さな画像を比較して、最適な画像を選択することは難しい。さらに、画像は屋外で撮影するため、外光の影響や、利用可能なディスプレイサイズ等の影響で、画像の微妙な差を判断することが難しい。そのため、過去の結果との比較に適した画像の撮影を行うことが難しいという課題がある。 However, since delicate photographing parameter adjustments are performed in structural inspections, if the method of Patent Document 2 is applied to structural inspections, a plurality of images with small changes between images will be displayed. It is difficult for the user to compare images with small changes and select the optimum image. Furthermore, since the images are taken outdoors, it is difficult to judge subtle differences in the images due to the effects of external light, the size of the available display, and the like. Therefore, there is a problem that it is difficult to capture an image suitable for comparison with past results.

本発明は、上記の課題に鑑みてなされたものであり、ユーザが撮影画像を確認することなく、過去の結果との比較に適した画像の撮影方法を推定するための技術を提供することを目的とする。 The present invention has been made in view of the above problems, and aims to provide a technique for estimating an image capturing method suitable for comparison with past results without the user checking the captured image. aim.

上記の目的を達成する本発明に係る情報処理装置は、
撮影範囲におけるターゲットの過去の情報を過去データとして格納する格納手段と、
撮影手段により所定の撮影パラメータで撮影された前記撮影範囲の画像から前記ターゲットを検知する検知手段と、
前記検知手段による検知結果と前記過去データとに基づいて評価値を取得し、当該評価値に基づいて前記ターゲットの撮影に適した撮影方法を推定する推定手段と、
を備え
前記推定手段は、前記撮影範囲の過去画像と前記撮影範囲の現在画像との類似度と、前記検知手段による検知結果と、前記過去データとに基づいて前記評価値を取得することを特徴とする。
An information processing apparatus according to the present invention that achieves the above object includes:
a storage means for storing past information of the target in the shooting range as past data;
detection means for detecting the target from the image of the imaging range captured by the imaging means with predetermined imaging parameters;
an estimation means for obtaining an evaluation value based on the detection result of the detection means and the past data, and estimating a shooting method suitable for shooting the target based on the evaluation value;
with
The estimation means acquires the evaluation value based on the degree of similarity between the past image of the imaging range and the current image of the imaging range, the detection result of the detection means, and the past data. do.

本発明は、上記の課題に鑑みてなされたものであり、ユーザが撮影画像を確認することなく、過去の結果との比較に適した画像の撮影方法を推定するための技術を提供することを目的とする。 The present invention has been made in view of the above problems, and aims to provide a technique for estimating an image capturing method suitable for comparison with past results without the user checking the captured image. aim.

一実施形態に係る情報処理装置の構成を示す図である。It is a figure which shows the structure of the information processing apparatus which concerns on one Embodiment. 点検対象構造物と、その図面、及び撮影範囲について説明する図である。It is a figure explaining an inspection object structure, its drawing, and a photography range. 実施形態1に係る情報処理装置が実施する処理の手順を示すフローチャートである。4 is a flowchart showing the procedure of processing performed by the information processing apparatus according to the first embodiment; 複数の撮影パラメータを説明する図である。FIG. 4 is a diagram for explaining a plurality of imaging parameters; FIG. 過去データ及びターゲットの検知結果について説明する図である。It is a figure explaining the past data and the detection result of a target. 評価値の概念について説明する図である。It is a figure explaining the concept of an evaluation value. 評価値の具体的な算出方法の例を説明する図である。It is a figure explaining the example of the concrete calculation method of an evaluation value. 過去の点検から変化したひび割れを用いた評価値算出について説明する図である。It is a figure explaining evaluation value calculation using the crack which changed from the past inspection. 撮影パラメータの選択、及び撮影パラメータの改善方法の推定を説明する図である。FIG. 5 is a diagram for explaining selection of imaging parameters and estimation of an improvement method for imaging parameters; 操作部の表示内容の例を示す図である。FIG. 4 is a diagram showing an example of display contents of an operation unit; 実施形態3に係る複数の撮影範囲を説明する図である。FIG. 11 is a diagram illustrating a plurality of imaging ranges according to Embodiment 3; FIG. 実施形態5に係る外観検査の一例を説明するための図である。FIG. 12 is a diagram for explaining an example of appearance inspection according to the fifth embodiment;

以下、図面を参照しながら実施形態を説明する。なお、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。 Hereinafter, embodiments will be described with reference to the drawings. Note that the configurations shown in the following embodiments are merely examples, and the present invention is not limited to the illustrated configurations.

(実施形態1)
実施形態1では、インフラ構造物の画像点検における撮影パラメータ調整を例にして説明を行う。インフラ構造物は、例えば、橋梁、ダム、トンネルなどであり、これらの構造物のコンクリート壁面を撮影して、画像点検のための画像を作成する。実施形態が対象とする画像はこれに限らず、他の構造物や、コンクリート以外の材質表面を対象とした画像であっても良い。例えば、点検対象を道路として、アスファルト表面の画像を撮影して点検画像を作成しても良い。
(Embodiment 1)
In the first embodiment, adjustment of photographing parameters in image inspection of an infrastructure structure will be described as an example. Infrastructure structures are, for example, bridges, dams, tunnels, etc. The concrete walls of these structures are photographed to create images for image inspection. The image targeted by the embodiment is not limited to this, and may be an image targeted for another structure or the surface of a material other than concrete. For example, an inspection image may be created by photographing an image of the asphalt surface, with the road being the inspection target.

実施形態1においては、点検対象はコンクリート壁面の変状であるとする。コンクリート壁面の変状には、例えば、ひび割れ、エフロレッセンス、ジャンカ、コールドジョイント、鉄筋露出などがあるが、実施形態1では特にひび割れを点検対象とする例を説明する。 In the first embodiment, it is assumed that the object to be inspected is deformation of a concrete wall surface. Deformation of a concrete wall surface includes, for example, cracks, efflorescence, junkers, cold joints, exposure of reinforcing bars, etc. In the first embodiment, an example in which cracks are particularly inspected will be described.

まず、本実施形態の概要について説明する。前提として、コンクリート壁面のひび割れは補修を行わない限り自然に回復することはない。従って、過去の点検結果に記録されているひび割れは、現在のコンクリート壁面でも観測できるはずである。本実施形態では、この前提に基づいて、過去の点検結果のひび割れが観測できるように撮影パラメータを調整する。このようにすることで、点検対象コンクリート壁面を適切に撮影する撮影パラメータを設定することができるようになる。より具体的には、複数の撮影パラメータで撮影した画像のそれぞれにひび割れ検知処理を実施し、各検知結果と過去の点検結果から、各撮影パラメータの評価値を算出する。そして、評価値に基づいて、撮影パラメータの選択や改善方法の推定を行う。以下、この処理の具体的な実施形態について説明する。 First, the outline of this embodiment will be described. As a premise, cracks in concrete walls will not recover naturally unless they are repaired. Therefore, the cracks recorded in the past inspection results should be observable even in the current concrete walls. In this embodiment, based on this premise, the imaging parameters are adjusted so that cracks in the past inspection results can be observed. By doing so, it is possible to set imaging parameters for appropriately imaging the concrete wall surface to be inspected. More specifically, crack detection processing is performed on each of the images photographed with a plurality of photographing parameters, and an evaluation value for each photographing parameter is calculated from each detection result and past inspection results. Then, based on the evaluation value, selection of imaging parameters and estimation of an improvement method are performed. A specific embodiment of this process will be described below.

<情報処理装置の構成>
図1は本発明の一実施形態に係る情報処理装置100の構成例を示す図である。情報処理装置100は、ネットワークまたは各種記録媒体を介して取得したソフトウェア(プログラム)を、CPU、メモリ、ストレージデバイス、入出力装置、バス、表示装置などにより構成される計算機によって実行することで実現できる。なお、計算機については、汎用の計算機を用いても良いし、本発明のソフトウェアに最適に設計されたハードウェアを用いても良い。また、情報処理装置100は、図1のように撮影部101と一体化して、カメラの筐体内に含まれる構成としても良い。或いは、情報処理装置100は、無線または有線により送信された撮影部101で撮影した画像を受信する、撮影部101を含むカメラとは異なる筐体(例えば、ノートPCやタブレット)として構成しても良い。
<Configuration of information processing device>
FIG. 1 is a diagram showing a configuration example of an information processing apparatus 100 according to one embodiment of the present invention. The information processing apparatus 100 can be realized by executing software (programs) acquired via a network or various recording media by a computer configured by a CPU, memory, storage device, input/output device, bus, display device, and the like. . As for the computer, a general-purpose computer may be used, or hardware optimally designed for the software of the present invention may be used. Further, the information processing apparatus 100 may be integrated with the photographing unit 101 as shown in FIG. 1 and included in the housing of the camera. Alternatively, the information processing apparatus 100 may be configured as a housing (for example, a notebook PC or a tablet) different from the camera including the imaging unit 101 and receiving an image captured by the imaging unit 101 transmitted wirelessly or by wire. good.

情報処理装置100は、撮影部101、撮影パラメータ設定部102、ターゲット検知部103、推定部104、操作部105、過去データ格納部106を含んで構成される。撮影部101は、点検対象物を撮影する。撮影パラメータ設定部102は、撮影部101が撮影する際の撮影パラメータを設定する。ターゲット検知部103は、ひび割れ等を点検ターゲットとして検知する。推定部104は、撮影パラメータを改善する方法を推定する。操作部105は、必要な情報をユーザに提示するとともに、さらにユーザからの操作入力を受け付ける。過去データ格納部106は、過去の点検結果を格納するストレージである。 The information processing apparatus 100 includes an imaging unit 101 , an imaging parameter setting unit 102 , a target detection unit 103 , an estimation unit 104 , an operation unit 105 and a past data storage unit 106 . The photographing unit 101 photographs an inspection object. The imaging parameter setting unit 102 sets imaging parameters when the imaging unit 101 performs imaging. A target detection unit 103 detects a crack or the like as an inspection target. An estimation unit 104 estimates a method for improving the imaging parameters. The operation unit 105 presents necessary information to the user and also receives operation input from the user. The past data storage unit 106 is a storage that stores past inspection results.

まず、過去データ格納部106についてより詳細に説明する。過去データ格納部106は、図1のように情報処理装置の中に含む構成であっても良いし、遠隔のサーバを過去データ格納部106とする構成であっても良い。過去データ格納部106をサーバで構成する場合には、過去データ格納部106に保存された過去データを、情報処理装置100がネットワークを介して取得できるようにする。 First, the past data storage unit 106 will be described in more detail. The past data storage unit 106 may be included in the information processing apparatus as shown in FIG. 1, or may be configured such that a remote server serves as the past data storage unit 106 . When the past data storage unit 106 is configured by a server, the information processing apparatus 100 can acquire past data stored in the past data storage unit 106 via a network.

図2は、過去データ格納部106に格納されたデータを説明する図である。図2は、点検対象物である橋梁200の過去データを格納している様子を示している。過去データ格納部106には、橋梁200の図面と関連付けて過去の点検結果が記録されている。例えば、橋梁200のある橋脚201について、その図面202に過去の点検結果としてひび割れ210などの位置と形状が記録されている。実施形態1では、この点検結果は、過去の点検作業時に橋脚201の画像を撮影し、後述するターゲット検知部103の自動検知処理により検知された結果であるものとする。 FIG. 2 is a diagram for explaining data stored in the past data storage unit 106. As shown in FIG. FIG. 2 shows how past data of a bridge 200, which is an object to be inspected, is stored. Past inspection results are recorded in the past data storage unit 106 in association with the drawing of the bridge 200 . For example, for a bridge pier 201 with a bridge 200, the drawing 202 records the positions and shapes of cracks 210 and the like as past inspection results. In the first embodiment, it is assumed that this inspection result is a result of capturing an image of the bridge pier 201 during past inspection work and detecting it by automatic detection processing of the target detection unit 103, which will be described later.

過去の点検結果は、この実施形態に限らず、例えば、自動検知処理により得られた結果を人間が修正したものであっても良いし、自動検知処理を介さずに人間が近接目視検査により記録した結果であっても良い。情報処理装置100は、点検対象構造物の任意の部分の点検結果を、過去データ記録部106に記録された過去の点検結果から呼び出すことができる。以下、過去の点検結果(実施形態1では、画像中のひび割れの位置、形状)を過去データと呼ぶ。 The past inspection results are not limited to this embodiment. For example, the results obtained by the automatic detection process may be corrected by a human, or recorded by a human by a close visual inspection without going through the automatic detection process. It may be the result of The information processing apparatus 100 can call the inspection results of any part of the inspection target structure from the past inspection results recorded in the past data recording unit 106 . Hereinafter, the past inspection results (in the first embodiment, the position and shape of the crack in the image) will be referred to as past data.

図2は、さらに、撮影部101で撮影する範囲と呼び出す過去データとの関係を示す。画像による点検では、幅が1mm以下のひび割れを確認するために、コンクリート壁面を高精細に撮影する必要がある。そのため、多くの場合、橋脚の壁面などを一度の撮影で全て撮影することはできず、撮影位置をずらしながら複数回の撮影を行い、画像をつなげて壁面全体の高精細画像を作成する。 FIG. 2 further shows the relationship between the range photographed by the photographing unit 101 and the past data to be recalled. In image inspection, it is necessary to take high-definition photographs of concrete walls in order to confirm cracks with a width of 1 mm or less. Therefore, in many cases, it is not possible to capture the entire wall surface of a bridge pier in one shot, so multiple shots are taken while shifting the shooting position, and the images are combined to create a high-definition image of the entire wall surface.

図2には、橋脚の図面202において、一度の撮影で撮影できる範囲の例として、撮影範囲220を示している。このように橋脚壁面の部分的な撮影を繰り返し、橋脚201の全体を撮影する。本実施形態では、ある撮影範囲(例えば図2の撮影範囲220)に含まれる過去データを用いて、撮影パラメータの調整を行う。なお、橋脚201の撮影では、図2の撮影範囲220を用いて調整した撮影パラメータで、橋脚201の全体を撮影すればよい。 FIG. 2 shows a photographing range 220 as an example of a range that can be photographed in one photographing in the bridge pier drawing 202 . In this way, partial photographing of the pier wall surface is repeated to photograph the entire pier 201 . In this embodiment, the shooting parameters are adjusted using the past data included in a certain shooting range (for example, the shooting range 220 in FIG. 2). In photographing the bridge pier 201, the entire bridge pier 201 may be photographed using the photographing parameters adjusted using the photographing range 220 in FIG.

次に、過去データ格納部106から呼び出す過去データについて説明する。実施形態1では、撮影範囲の過去データは、画像として呼び出すものとする。図2には、撮影範囲220を撮影するときに呼び出す過去データ230を示している。過去データ230は、ひび割れ211を含む画像であり、撮影部101が撮影する画像サイズと同じサイズの画像である。より具体的には、ひび割れが存在する画素に1が記録され、それ以外の画素に0が記録された画像である。過去データ格納部106は、任意の撮影範囲が指定されたときに、このような過去データの画像を生成するものとする。実施形態1の説明では、このように撮影範囲に対応した画像中に、過去の点検結果のひび割れが描画された画像データを、過去データと呼ぶ。 Next, past data called from the past data storage unit 106 will be described. In the first embodiment, it is assumed that the past data of the photographing range is called as an image. FIG. 2 shows past data 230 to be called up when photographing the photographing range 220 . The past data 230 is an image including the crack 211 and having the same size as the image captured by the imaging unit 101 . More specifically, it is an image in which 1's are recorded in pixels where cracks exist and 0's are recorded in other pixels. It is assumed that the past data storage unit 106 generates such an image of past data when an arbitrary shooting range is specified. In the description of the first embodiment, the image data in which the cracks of the past inspection results are drawn in the image corresponding to the imaging range is called past data.

<処理>
続いて、図3のフローチャートを参照して、本実施形態に係る情報処理装置100が実施する処理の手順を説明する。
<Processing>
Next, the procedure of processing performed by the information processing apparatus 100 according to the present embodiment will be described with reference to the flowchart of FIG.

[ステップS301]
まず、ステップS301では、情報処理装置100は、点検対象構造物の撮影範囲を決定する。撮影範囲の決定方法は、例えば以下のようにして実施する。まず、1つ目の方法は、ユーザが図面から撮影する範囲を指定する方法である。例えば、図2の橋脚201を点検する場合、図面202を操作部105が備える表示部に表示し、ユーザが図面の撮影範囲220を指定する。ここで、ユーザは過去の点検結果のひび割れが含まれる領域を撮影範囲として選択するものとする。もし、ユーザが指定した撮影範囲の過去の点検結果にひび割れが含まれない場合、情報処理装置100は警告をユーザに通知し、撮影範囲の再設定を促すものとする。
[Step S301]
First, in step S301, the information processing apparatus 100 determines the imaging range of the structure to be inspected. The method of determining the imaging range is implemented, for example, as follows. First, the first method is a method in which the user designates the range to be photographed from the drawing. For example, when inspecting the bridge pier 201 in FIG. 2, a drawing 202 is displayed on the display unit of the operation unit 105, and the user designates an imaging range 220 of the drawing. Here, it is assumed that the user selects an area including cracks in the past inspection result as the photographing range. If the past inspection results of the imaging range specified by the user do not include cracks, the information processing apparatus 100 notifies the user of a warning and prompts the user to reset the imaging range.

ユーザは撮影範囲の指定を行った後に、実際の橋脚201に対する撮影部101の位置・姿勢を調整して、指定した撮影範囲が撮影できるようにする。ここで、ユーザが撮影範囲を選択する操作を補助するために、撮影範囲を決定するために表示した図面に、過去の点検結果のひび割れの位置を示す表示を行うようにしても良い。また、過去データ格納部106に記録されたひび割れにIDなどの情報を付与しておき、ユーザが任意のひび割れを含む領域を容易に検索や選択できるようにしても良い。 After specifying the imaging range, the user adjusts the position/orientation of the imaging unit 101 with respect to the actual bridge pier 201 so that the specified imaging range can be captured. Here, in order to assist the user's operation of selecting the imaging range, the drawing displayed for determining the imaging range may display the positions of the cracks in the past inspection results. Information such as an ID may be added to the cracks recorded in the past data storage unit 106 so that the user can easily search for and select an area containing any cracks.

例えば、ユーザが撮影範囲に含めたいひび割れのIDを操作部105に入力すると、過去データ格納部106から該当するIDのひび割れが選択される。そして、そのひび割れが含まれる領域が撮影範囲として自動的に設定される。この例では、ひび割れの検索のためにIDを用いる例を示したが、ひび割れの検索方法はこれに限らず、ひび割れの座標などの情報を用いてひび割れを検索するようにしても良い。このようにすることで、ユーザは特定のひび割れを含む撮影範囲を容易に設定できるようになる。 For example, when the user inputs the ID of a crack to be included in the imaging range to the operation unit 105 , the crack with the corresponding ID is selected from the past data storage unit 106 . Then, the area including the crack is automatically set as the imaging range. In this example, an ID is used to search for cracks, but the crack search method is not limited to this, and information such as crack coordinates may be used to search for cracks. By doing so, the user can easily set an imaging range including a specific crack.

撮影範囲の決定方法の2つ目の方法としては、情報処理装置100が撮影範囲をユーザに推奨する実施形態である。過去の点検結果を用いて撮影パラメータを調整するため、撮影範囲に過去の点検結果が含まれている必要がある。従って、情報処理装置100は、点検対象構造物の過去の点検結果が含まれる撮影範囲を選択し、ユーザに撮影範囲として推奨する。撮影範囲の推奨の表示は、図2のように図面中に撮影範囲220を表示するようにすれば良い。ユーザは、推奨された撮影範囲を確認し、実際の橋脚201に対して撮影部101の位置・姿勢を調整して、推奨された撮影範囲が撮影できるようにする。情報処理装置100が推奨する撮影範囲は、1つの撮影範囲だけでなく、複数の撮影範囲をユーザに示し、ユーザが実際に撮影する撮影範囲を選択できるようにしても良い。 A second method of determining the imaging range is an embodiment in which the information processing apparatus 100 recommends the imaging range to the user. Since the imaging parameters are adjusted using the past inspection results, the imaging range must include the past inspection results. Therefore, the information processing apparatus 100 selects an imaging range that includes the past inspection results of the structure to be inspected, and recommends it to the user as the imaging range. The recommendation of the imaging range may be displayed by displaying the imaging range 220 in the drawing as shown in FIG. The user confirms the recommended imaging range and adjusts the position/orientation of the imaging unit 101 with respect to the actual bridge pier 201 so that the recommended imaging range can be captured. The shooting range recommended by the information processing apparatus 100 may be not only one shooting range, but also a plurality of shooting ranges may be presented to the user so that the user can select the shooting range to actually shoot.

また、過去の点検結果のひび割れに応じて、優先的に推奨する撮影範囲を決定するようにしても良い。例えば、過去の点検結果で、太く重要なひび割れや、構造上、重要な位置に発生しているひび割れを含む領域が、撮影範囲として優先的に推奨されるようにしても良い。一方、過去の点検以降に補修を行ったひび割れは、ひび割れが観測できなくなるため、補修を行ったひび割れを含む範囲を撮影範囲とすることは好ましくない。従って、過去の点検結果とともに補修の実施の情報が記録されている場合、その部分が撮影範囲として選択されないようにする。 Also, the photographing range to be preferentially recommended may be determined according to the cracks in the past inspection results. For example, past inspection results may preferentially recommend an area including a large and important crack or a crack occurring at a structurally important position as the imaging range. On the other hand, cracks that have been repaired after the past inspection cannot be observed, so it is not preferable to set the range including the repaired cracks as the shooting range. Therefore, when information on the execution of repair is recorded along with past inspection results, that portion is not selected as the photographing range.

また、上記の実施形態では、実際の構造物に対する撮影部101の位置・姿勢をユーザが調整する実施形態を説明したが、撮影部101の位置・姿勢を計測するセンサを用いて、ユーザの調整をサポートするようにしても良い。例えば、ユーザが選択した撮影範囲または情報処理装置100が推奨した撮影範囲に向けて撮影部101の位置・姿勢を合わせる時に、センサで計測した撮影部101の位置・姿勢に基づいて目標撮影範囲を撮影できる位置・姿勢への調整方法をユーザに知らせる。 Further, in the above embodiment, the user adjusts the position/orientation of the imaging unit 101 with respect to the actual structure. may be supported. For example, when adjusting the position/orientation of the imaging unit 101 toward the imaging range selected by the user or the imaging range recommended by the information processing apparatus 100, the target imaging range is determined based on the position/orientation of the imaging unit 101 measured by the sensor. To inform the user of the adjustment method to the position/posture that can be photographed.

撮影部101の位置・姿勢を計測するセンサとしては、加速度センサ、ジャイロセンサ、GPSなど様々な手法があるが、どのような手法を用いても良い。また、センサではなく、撮影部101が撮影している画像から、対象構造物のどの部分を撮影しているかを判定することで、撮影部101の位置・姿勢を判定するようにしても良い。これらの撮影部101の位置・姿勢を求める方法は、既存の手法を用いれば良いので、詳細な説明は省略する。 As a sensor for measuring the position/orientation of the imaging unit 101, there are various methods such as an acceleration sensor, a gyro sensor, and GPS, and any method may be used. Alternatively, the position/orientation of the imaging unit 101 may be determined by determining which part of the target structure is being imaged from the image captured by the imaging unit 101 instead of the sensor. Existing methods may be used for obtaining the position/orientation of the imaging unit 101, so detailed description thereof will be omitted.

さらに、撮影部101の位置・姿勢を計測する構成を備える場合、撮影部101の位置・姿勢から撮影範囲を決定するようにしても良い。この場合、まず、ユーザが、実際の点検対象構造物に対して撮影部101を向ける。そして、撮影部101の位置・姿勢を計測して、撮影されている点検対象構造物の部分を撮影範囲とする。 Furthermore, when a configuration for measuring the position/orientation of the imaging unit 101 is provided, the imaging range may be determined from the position/orientation of the imaging unit 101 . In this case, first, the user directs the photographing unit 101 toward the actual structure to be inspected. Then, the position/orientation of the photographing unit 101 is measured, and the photographed portion of the structure to be inspected is taken as the photographing range.

さらに、上記の実施形態では、ユーザが撮影部101を操作して、撮影部101の位置・姿勢を決定する構成について説明した。しかし、撮影部101を含む情報処理装置100を自動雲台に設置し、所定の撮影範囲を撮影する姿勢をとるように自動的に雲台が動作するようにしても良い。また、例えば、ドローンのような移動体に情報処理装置100を設置し、所定の撮影範囲を撮影する位置・姿勢をとるように制御しても良い。 Furthermore, in the above embodiment, the configuration in which the user operates the imaging unit 101 to determine the position/orientation of the imaging unit 101 has been described. However, the information processing apparatus 100 including the photographing unit 101 may be installed in an automatic pan head, and the pan head may be automatically operated so as to assume a posture for photographing a predetermined photographing range. Further, for example, the information processing apparatus 100 may be installed on a moving object such as a drone, and controlled to assume a position/orientation for photographing a predetermined photographing range.

以上のステップS301により、点検対象構造物の撮影範囲が決定し、撮影部101は撮影範囲を撮影する位置・姿勢をとる状態となる。 By the above step S301, the photographing range of the structure to be inspected is determined, and the photographing unit 101 assumes a position/posture for photographing the photographing range.

[ステップS302]
図3のステップS302では、情報処理装置100は、撮影範囲に対応する過去データを過去データ格納部106から呼び出す。この過去データは、図2を用いて説明したように、撮影範囲に含まれるひび割れを描画した画像データである。
[Step S302]
In step S<b>302 in FIG. 3 , the information processing apparatus 100 calls the past data corresponding to the shooting range from the past data storage unit 106 . This past data is image data in which cracks included in the photographing range are drawn, as described with reference to FIG.

[ステップS303]
次のステップS303では、情報処理装置100は、撮影パラメータの初期値(以下、初期撮影パラメータ)を決定する。初期撮影パラメータの設定は、例えば、過去データ格納部106に、過去に同一箇所を撮影したときの撮影パラメータを記録しておき、その撮影パラメータを呼び出して初期撮影パラメータとして設定すれば良い。あるいは、撮影装置の通常の撮影パラメータ調整方法(オートパラメータ調整)で決定した撮影パラメータを初期パラメータとして設定しても良い。
[Step S303]
In the next step S303, the information processing apparatus 100 determines initial values of imaging parameters (hereinafter referred to as initial imaging parameters). For setting the initial imaging parameters, for example, imaging parameters obtained when the same location was photographed in the past may be recorded in the past data storage unit 106, and the imaging parameters may be called and set as initial imaging parameters. Alternatively, shooting parameters determined by a normal shooting parameter adjusting method (automatic parameter adjustment) of the shooting apparatus may be set as initial parameters.

[ステップS304]
次のステップS304では、情報処理装置100は、初期撮影パラメータに基づいて、撮影パラメータ設定部102を用いて複数の撮影パラメータを設定する。図4には、初期撮影パラメータに基づいて、複数の撮影パラメータを設定する様子を示している。まず、図4(A)は、調整する撮影パラメータの例として、露出(EV)を調整する実施形態について説明する図である。図4(A)では、初期パラメータとしてEV0が設定されている様子を白三角401で示している。撮影パラメータ設定部102では、この初期パラメータを中心に、複数の撮影パラメータを設定する。
[Step S304]
In the next step S304, the information processing apparatus 100 sets a plurality of shooting parameters using the shooting parameter setting unit 102 based on the initial shooting parameters. FIG. 4 shows how a plurality of shooting parameters are set based on the initial shooting parameters. First, FIG. 4A is a diagram illustrating an embodiment in which exposure (EV) is adjusted as an example of shooting parameters to be adjusted. In FIG. 4A, a white triangle 401 indicates that EV0 is set as the initial parameter. The imaging parameter setting unit 102 sets a plurality of imaging parameters centering on these initial parameters.

図4(A)では、EV0を中心にそれぞれ露出を1段変化させて、EV-1(図4の黒三角402)とEV+1(図4の黒三角403)を複数パラメータとして設定している。この例では、初期撮影パラメータと合わせて3つの撮影パラメータを設定している様子を示しているが、設定する撮影パラメータの数はこれに限らない。例えば、さらに2段異なる露出を設定して、合計5つの撮影パラメータを設定するようにしても良い。また、この例では、露出を1段変更するルールにより、複数の撮影パラメータを設定しているが、撮影パラメータの変更の刻みは、これ以外の設定方法としても良い。例えば、露出を1/2段刻みで設定するようにしても良いし、初期撮影パラメータ周辺でランダムに設定するようにしても良い。 In FIG. 4A, the exposure is changed by one step around EV0, and EV-1 (black triangle 402 in FIG. 4) and EV+1 (black triangle 403 in FIG. 4) are set as multiple parameters. In this example, three shooting parameters are set together with the initial shooting parameters, but the number of shooting parameters to be set is not limited to this. For example, a total of five shooting parameters may be set by setting exposures that differ by two levels. Also, in this example, a plurality of shooting parameters are set according to the rule of changing the exposure by one step, but the steps of changing the shooting parameters may be set by other setting methods. For example, the exposure may be set in 1/2 step increments, or may be set randomly around the initial photographing parameters.

上記は、撮影パラメータを露出(EV)とした場合についての実施形態を説明したが、設定する撮影パラメータは露出に限定されない。撮影部101を制御するパラメータであれば、撮影パラメータはどのようなものを用いても良く、例えば、フォーカス、ホワイトバランス(色温度)、シャッタースピード、絞り、ISO感度、画像の彩度や色合いなどを撮影パラメータとしても良い。 Although the embodiment has been described above in which exposure (EV) is used as the shooting parameter, the shooting parameter to be set is not limited to exposure. Any shooting parameters may be used as long as they are parameters for controlling the shooting unit 101. For example, focus, white balance (color temperature), shutter speed, aperture, ISO sensitivity, image saturation and hue, and the like may be used. may be used as an imaging parameter.

また、図4(A)では、露出のみを、調整する撮影パラメータとする実施形態について説明したが、複数の撮影パラメータを同時に調整するようにしても良い。例えば、図4(B)は、露出とフォーカスとの組み合わせを、調整する撮影パラメータとした場合の実施形態について説明する図である。図4(B)では、ある露出とフォーカスのパラメータの組み合わせが初期パラメータとして設定されており、白丸411として示されている。この初期パラメータを中心に、例えば黒丸412のような撮影パラメータの組み合わせが、複数の撮影パラメータとして設定されている。 Also, in FIG. 4A, an embodiment has been described in which only the exposure is the shooting parameter to be adjusted, but a plurality of shooting parameters may be adjusted at the same time. For example, FIG. 4B is a diagram illustrating an embodiment in which a combination of exposure and focus is used as a shooting parameter to be adjusted. In FIG. 4B, a certain combination of exposure and focus parameters is set as an initial parameter, indicated by a white circle 411 . Centering on these initial parameters, a combination of shooting parameters such as a black circle 412 is set as a plurality of shooting parameters.

なお、調整する対象となる撮影パラメータの組み合わせは、図4(B)の露出とフォーカスとの組み合わせに限らず、他の撮影パラメータの組み合わせでも良い。また、上記の説明では、2つのパラメータの組み合わせを調整する実施形態について説明したが、撮影パラメータの組み合わせ数もこれに限らず、3つ以上の撮影パラメータの組み合わせを同時に調整するようにしても良い。 Note that the combination of shooting parameters to be adjusted is not limited to the combination of exposure and focus shown in FIG. 4B, and other combinations of shooting parameters may be used. Also, in the above description, an embodiment in which a combination of two parameters is adjusted has been described, but the number of combinations of imaging parameters is not limited to this, and combinations of three or more imaging parameters may be adjusted simultaneously. .

以上のようにして、撮影パラメータ設定部102で複数の撮影パラメータを設定する。以下では、図4(A)のように、調整する撮影パラメータを露出とした場合の実施形態について説明する。 As described above, the imaging parameter setting unit 102 sets a plurality of imaging parameters. In the following, an embodiment in which exposure is used as the shooting parameter to be adjusted as shown in FIG. 4A will be described.

[ステップS305]
続いて、次のステップS305では、情報処理装置100は、ステップS304で設定した複数の撮影パラメータを用いて、撮影部101を用いて点検対象物の撮影範囲を撮影する。具体的には、図4(A)のように3つの露出を設定した場合には、露出を変更しながら3枚の画像を撮影する。
[Step S305]
Subsequently, in the next step S305, the information processing apparatus 100 uses the photographing unit 101 to photograph the photographing range of the object to be inspected using the plurality of photographing parameters set in step S304. Specifically, when three exposures are set as shown in FIG. 4A, three images are shot while changing the exposure.

[ステップS306]
次のステップS306では、情報処理装置100は、ステップS305で撮影した複数の画像に対して、ターゲット検知部103を用いてターゲットの検知処理を実行する。本実施形態では、ターゲットはひび割れなので、各画像に対してひび割れ検知処理を実行する。画像からのひび割れの検知方法は、例えば、特許文献1のような方法を用いれば良い。ひび割れ検知の方法は特許文献1の方法に限らず、例えば、予めひび割れの位置、形状が既知の画像から、ひび割れの画像特徴を学習しておき、この学習結果に基づいて入力画像のひび割れの位置、形状を検知する方法を用いても良い。以下、ステップS306で検知したひび割れを検知結果と呼ぶ。
[Step S306]
In the next step S306, the information processing apparatus 100 uses the target detection unit 103 to perform target detection processing on the plurality of images captured in step S305. In this embodiment, the target is a crack, so crack detection processing is performed on each image. As a crack detection method from an image, for example, a method such as that disclosed in Patent Document 1 may be used. The crack detection method is not limited to the method of Patent Document 1. For example, the image features of cracks are learned from an image in which the positions and shapes of cracks are known in advance, and the positions of cracks in the input image are determined based on the learning results. , a method of detecting the shape may be used. The crack detected in step S306 is hereinafter referred to as a detection result.

図3のステップS307以降の処理は主に推定部104で実行する処理で、最適な撮影パラメータを選択する処理、または、最適な撮影パラメータをさらに探索するための処理である。 Processing after step S307 in FIG. 3 is processing mainly executed by the estimation unit 104, and is processing for selecting the optimum imaging parameter or processing for further searching for the optimum imaging parameter.

[ステップS307]
まず、ステップS307では、情報処理装置100は、推定部104を用いて複数の撮影パラメータそれぞれについて評価値を算出する。評価値は、撮影パラメータが点検画像を撮影するために適切であるほど高い値を示すものである。この評価値は、複数の撮影パラメータで撮影した画像それぞれについてのひび割れの検知結果と、過去データのひび割れとを比較することで算出する。
[Step S307]
First, in step S307, the information processing apparatus 100 uses the estimation unit 104 to calculate an evaluation value for each of a plurality of shooting parameters. The evaluation value indicates a value that is as high as the photographing parameters are appropriate for photographing an inspection image. This evaluation value is calculated by comparing crack detection results for each image captured with a plurality of shooting parameters and cracks in past data.

ステップS307の説明のため、まず、図5に過去データ及び検知結果の例を示す。図5(A)は、撮影範囲の過去データであり、過去の点検結果であるひび割れ501が含まれている。図5(B)は、ある撮影パラメータで撮影した画像に対してひび割れ検知を実施した検知結果であり、ひび割れ502が検知されている。図5(C)は、図5(A)の過去データと、図5(B)の検知結果とを重畳表示したものであり、過去データのひび割れを破線511、検知結果のひび割れを実線512で表している。理想的には、過去データのひび割れ511と検知結果のひび割れ512とは完全に重複するが、図面の都合上、ずらして表示している。 For explanation of step S307, first, FIG. 5 shows examples of past data and detection results. FIG. 5A shows past data of the photographing range, including cracks 501 that are past inspection results. FIG. 5B shows the result of crack detection performed on an image shot with certain shooting parameters, and a crack 502 is detected. FIG. 5C shows the past data of FIG. 5A superimposed on the detection results of FIG. represent. Ideally, the crack 511 of the past data and the crack 512 of the detection result are completely overlapped, but for the convenience of the drawing, they are shown shifted.

次に、図6を参照して評価値の概念を説明する。図6(A)~図6(C)は、同じ過去データのひび割れ511に対して、異なる撮影画像の検知結果のひび割れ601、602、603をそれぞれ重畳表示した図である。 Next, the concept of evaluation values will be described with reference to FIG. FIGS. 6A to 6C are diagrams in which cracks 601, 602, and 603, which are detection results of different captured images, are superimposed on a crack 511 of the same past data.

まず、図6(A)は、過去データのひび割れ511と検知結果のひび割れ601とが一致しているケースである。このケースでは、過去の点検結果が完全に自動検知できる画像が撮影できていることを示している。従って、この撮影パラメータは適切なものであり、図6(A)のケースの評価値sは高い値となる。 First, FIG. 6A shows a case where the crack 511 in the past data matches the crack 601 in the detection result. In this case, it shows that the past inspection results can be captured with images that can be fully automatically detected. Therefore, this imaging parameter is appropriate, and the evaluation value s A in the case of FIG. 6A is a high value.

次に図6(B)は、過去データのひび割れ511よりも、検知結果のひび割れ602が長いケースである。ひび割れは経年変化により伸展するため、過去の点検結果よりも現在のひび割れの方が長い現象は起こりえるケースである。従って、図6(B)のケースも、過去のひび割れが確認できる画像を撮影できているので、点検画像を撮影する撮影パラメータとして適切なものであると考えられるため、図6(B)のケースの評価値sも高い値となる。むしろ、ひび割れが経年により、ほぼ確実に伸展すると仮定すると、図6(A)のように、検知結果が過去データと完全に一致するよりも、図6(B)のように伸展したひび割れが検知できている方が適切と考えることができる。従って、評価値sとsは、両方とも高い評価値であるが、sの方をさらに高い評価値とするようにしても良い。 Next, FIG. 6B shows a case where the crack 602 in the detection result is longer than the crack 511 in the past data. Since cracks extend over time, it is possible that the current cracks are longer than the past inspection results. Therefore, in the case of FIG. 6B as well, since an image in which past cracks can be confirmed can be photographed, it is considered that the photographing parameters for photographing an inspection image are suitable. The evaluation value sB of is also a high value. Rather, assuming that cracks will almost certainly extend over time, cracks that have extended as shown in FIG. It can be considered appropriate to be able to do so. Therefore, although both the evaluation values s A and s B are high evaluation values, s B may be given a higher evaluation value.

このように、評価値は、検知結果であるひび割れと、過去データのひび割れとが一致するか、或いは、検知結果であるひび割れが過去データのひび割れを包含するより大きな領域に渡る場合に、高い値を示すようにする。 Thus, the evaluation value is a high value when the crack as the detection result matches the crack in the past data, or when the crack as the detection result extends over a larger area including the crack in the past data. to indicate

一方、図6(C)では、過去データのひび割れ511に対して、検知結果のひび割れ603が部分的にしか得られていないケースである。補修などを行わない限り、過去に記録されたひび割れが消失することはない。従って、過去データのひび割れ511の全体が検知できない画像を撮影した撮影パラメータは、点検画像の撮影パラメータとして適切でないため、図6(C)のケースの評価値sは低い値となる。図6(C)のケースでは、撮影パラメータをさらに調整して、評価値が高く、点検画像撮影に適した撮影パラメータを得るために、さらに調整を行う必要がある。以上をまとめると、図6の各ケースでの評価値は、 On the other hand, FIG. 6C shows a case where a crack 603 as a detection result is only partially obtained for a crack 511 in the past data. Cracks that have been recorded in the past will not disappear unless they are repaired. Therefore, since the imaging parameters for capturing an image in which the entire crack 511 in the past data cannot be detected are not suitable as the imaging parameters for the inspection image, the evaluation value s C in the case of FIG. 6C is a low value. In the case of FIG. 6C, it is necessary to further adjust the imaging parameters in order to obtain imaging parameters with a high evaluation value and suitable for inspection image imaging. To summarize the above, the evaluation values in each case in FIG.

Figure 0007311963000001
Figure 0007311963000001

という関係となる。 This is the relationship.

次に、図7を用いて、評価値sを算出する具体的な方法について説明する。図7は、図6(C)を拡大した図である過去データのひび割れを破線511で表しており、検知結果721~723を実線で表している。ここでの評価値sの算出方法では、過去データのひび割れ511上の各画素と、検知結果721~723の対応付けを行い、対応画素数に基づいて評価値sを算出する。過去データのひび割れと検知結果のひび割れの対応付けは、例えば、以下のようにして実施する。 Next, a specific method for calculating the evaluation value s will be described with reference to FIG. In FIG. 7, which is an enlarged view of FIG. 6(C), cracks in the past data are indicated by a dashed line 511, and detection results 721 to 723 are indicated by solid lines. In the calculation method of the evaluation value s here, each pixel on the crack 511 of the past data is associated with the detection results 721 to 723, and the evaluation value s is calculated based on the number of corresponding pixels. Correlation between cracks in past data and cracks in detection results is performed, for example, as follows.

まず、図7の画素701は過去データのひび割れ511上のある画素である。この画素701の所定の周辺範囲702を探索し、検知結果のひび割れが存在する場合は、画素701を検知結果と対応付けができた画素と判定する。なお、所定の周辺範囲702は、例えば画素701を中心とした5画素範囲などとして定義される。図7の例では、画素701の周辺702に検知結果のひび割れが含まれていないので、画素701は検知結果と対応付けができなかった画素となる。一方、別の過去データのひび割れ511上の画素711は、その周辺範囲712の範囲に検知結果のひび割れ721が存在するため、画素711は検知結果と対応付けができた画素となる。このような判定を、過去データの1本のひび割れ上の画素で繰り返し、1本のひび割れに基づく評価値sを算出する。このとき、評価値sは以下の式で表される。 First, a pixel 701 in FIG. 7 is a certain pixel on the crack 511 of the past data. A predetermined peripheral range 702 of this pixel 701 is searched, and if there is a crack in the detection result, the pixel 701 is determined to be a pixel associated with the detection result. Note that the predetermined peripheral range 702 is defined as, for example, a 5-pixel range centered on the pixel 701 . In the example of FIG. 7, since cracks in the detection result are not included in the periphery 702 of the pixel 701, the pixel 701 is a pixel that could not be associated with the detection result. On the other hand, since a pixel 711 on crack 511 of another past data has a crack 721 of the detection result in the peripheral range 712 thereof, the pixel 711 is a pixel that can be associated with the detection result. Such determination is repeated for pixels on one crack in the past data, and an evaluation value s based on one crack is calculated. At this time, the evaluation value s is represented by the following formula.

Figure 0007311963000002
Figure 0007311963000002

ここで、Cはある過去データのひび割れを示し、p(C)はひび割れCの画素数を示す。iはひび割れC上の画素を示し、fは画素iで検知結果と対応付けができた場合に1、対応付けができなかった場合に0となる。 Here, C indicates a crack in certain past data, and p(C) indicates the number of pixels of the crack C. i indicates a pixel on the crack C, f i is 1 when the pixel i can be associated with the detection result, and 0 when it cannot be associated.

なお、式(2)では、ある1本の過去データのひび割れに基づく評価値sの算出方法を示したが、撮影範囲中に複数の過去データひび割れがある場合、評価値sは、各ひび割れについて式(2)で評価値を算出し、その和や平均を最終的な評価値とすればよい。 Note that the formula (2) shows a method of calculating the evaluation value s based on a crack in one piece of past data. An evaluation value may be calculated by the formula (2), and the sum or average thereof may be used as the final evaluation value.

また、式(2)の方法で、図6(A)と図6(B)の評価値s、sを算出すると、 Also, when the evaluation values s A and s B in FIGS. 6A and 6B are calculated by the method of formula (2),

Figure 0007311963000003
Figure 0007311963000003

となり、それぞれ最大の評価値を出力することになる。ここで、過去のひび割れからの経年劣化を考慮して、図6(A)のように、検知結果が過去データと完全に一致するよりも、図6(B)のように伸展部分も検知できている方がよいとする場合、s>sとなるような評価値の算出方法が必要になる。このためには、例えば、過去データのひび割れ端点を伸展が予想される方向に所定の画素数を伸展させた上で、上記の評価値を算出するようにすればよい。 As a result, the maximum evaluation value is output for each. Here, considering aging deterioration from past cracks, as shown in FIG. 6(A), the extension part can also be detected as shown in FIG. If it is better to have s B >s A , a method of calculating an evaluation value is required. For this purpose, for example, the above evaluation value may be calculated after extending a predetermined number of pixels in the direction in which the crack end point of the past data is expected to be extended.

なお、ひび割れの経年変化が、ひび割れの伸展だけと見なせる場合は、以上のように評価値を算出すればよいが、ひび割れは経年変化により、見た目が大きく変化する場合がある。例えば、ひび割れからコンクリートの石灰成分が析出する場合に、ひび割れを覆うようにコンクリート表面で石灰成分が固まることがある。このような石灰成分の析出(以下、エフロレッセンス)が生じると、外観からではひび割れは完全に確認できず、エフロレッセンスの領域のみが確認される状態となる。このように、過去の点検結果から大きく変化したひび割れを撮影した画像からは、過去データと同様のひび割れを検知することは不可能である。従って、上記のように、過去データのひび割れとの対応付けを実施する方法では、撮影パラメータ選択のための評価値を正しく算出することができない。 If the aging of cracks can be regarded as the extension of cracks only, the evaluation value can be calculated as described above, but the appearance of cracks may change significantly due to aging. For example, when the lime component of concrete precipitates from cracks, the lime component may harden on the concrete surface so as to cover the cracks. When such precipitation of lime components (hereinafter referred to as efflorescence) occurs, cracks cannot be completely confirmed from the appearance, and only the efflorescence region is confirmed. Thus, it is impossible to detect cracks similar to past data from images of cracks that have changed significantly from past inspection results. Therefore, as described above, the method of associating past data with cracks cannot correctly calculate an evaluation value for selecting an imaging parameter.

そこで、このような問題に対処するために、ターゲット検知部103で、ひび割れだけでなくエフロレッセンスの検出も行い、過去データのひび割れに基づく評価値算出領域を限定するようにしても良い。図8は、この処理を説明する図である。まず、図8(A)は過去データである。図8(B)は、過去データと同一のコンクリート壁面の現在の実際の状態を示しており、経年劣化により、ひび割れ801からエフロレッセンス802が発生した状態を示している。このエフロレッセンス802は、過去データでは観測できていたひび割れの一部を覆い隠すように発生している。図8(C)は、図8(B)のコンクリート壁面をある撮影パラメータで撮影した画像に対して、ターゲット検知部103でひび割れ検知を実施した検知結果である。図8(B)のコンクリート壁面では、エフロレッセンス802が出現している領域のひび割れが見えなくなっているため、図8(C)の検知結果では、過去データのひび割れの一部のみが検知されている状態である。 Therefore, in order to deal with such a problem, the target detection unit 103 may detect not only cracks but also efflorescence, and limit the evaluation value calculation region based on the cracks in the past data. FIG. 8 is a diagram for explaining this processing. First, FIG. 8A shows past data. FIG. 8(B) shows the current actual state of the same concrete wall surface as the past data, showing a state in which efflorescence 802 is generated from cracks 801 due to aged deterioration. This efflorescence 802 occurs so as to cover up part of the cracks that were observable in the past data. FIG. 8C shows the detection result of crack detection performed by the target detection unit 103 on the image of the concrete wall surface of FIG. 8B photographed with certain photographing parameters. In the concrete wall surface of FIG. 8(B), the crack in the area where the efflorescence 802 appears is not visible, so in the detection result of FIG. 8(C), only part of the crack in the past data is detected. is in a state of

図8(D)は、破線で示す過去データのひび割れ811及び812と、実線で示す検知結果のひび割れ803とを重畳表示した図である。図8(D)には、さらに、ターゲット検知部103で検知したエフロレッセンスの領域802を示している。また、過去データのひび割れを示す破線の内、破線811はエフロレッセンスの領域802と重なる部分で、破線812はエフロレッセンスと重ならない部分である。このような状況では、過去データのひび割れの内、エフロレッセンスと重ならない部分であるひび割れ812と、検知結果のひび割れ803とに基づいて評価値を算出する。すなわち、所定の経年変化(エフロレッセンス)が検知された領域を除いて評価値を算出する。 FIG. 8D is a diagram in which past data cracks 811 and 812 indicated by dashed lines and a detection result crack 803 indicated by a solid line are superimposed. FIG. 8D further shows an efflorescence region 802 detected by the target detection unit 103 . Among the broken lines indicating cracks in the past data, a broken line 811 is a portion overlapping the efflorescence region 802, and a broken line 812 is a portion not overlapping the efflorescence region. In such a situation, the evaluation value is calculated based on the crack 812, which is a portion of the cracks in the past data that does not overlap with the efflorescence, and the crack 803 in the detection result. That is, the evaluation value is calculated by excluding a region where a predetermined aging change (efflorescence) is detected.

評価値の算出方法は、過去データのひび割れ812と検知結果のひび割れ803とを用いて前述した画素間の対応付け方法で算出することができる。このようにすることで、過去の点検からエフロレッセンスが発生して見た目が変化したひび割れを用いて、撮影パラメータの評価値を算出することができる。 The evaluation value can be calculated by the above-described inter-pixel correspondence method using the crack 812 of the past data and the crack 803 of the detection result. By doing so, it is possible to calculate the evaluation value of the photographing parameter using the crack whose appearance has changed due to efflorescence occurring in the past inspection.

なお、この実施形態では、ひび割れの見た目が変化する要因をエフロレッセンスとしたが、ひび割れの見た目が変化する要因はこれ以外も考えられる。例えば、ひび割れの劣化が進むと、ひび割れ表面の剥離や剥落が発生する。このようになると、過去の点検時のひび割れとは、見た目が大きく変化する場合がある。従って、エフロレッセンスのケースと同様に、剥離や剥落などの所定の経年変化が発生した領域を検知して、当該領域を、過去データのひび割れに基づく評価値算出領域から除外するようにしても良い。 In this embodiment, efflorescence is the factor that changes the appearance of cracks, but other factors that change the appearance of cracks are also conceivable. For example, as the deterioration of cracks progresses, peeling and spalling of crack surfaces occur. When this happens, the appearance of the cracks in the past inspection may change greatly. Therefore, as in the case of efflorescence, it is possible to detect a region where a predetermined aging such as peeling or peeling has occurred, and exclude the region from the evaluation value calculation region based on cracks in past data. .

また、過去の点検時のひび割れの見た目が完全に変化してしまう場合もある。例えば、経年変化により、ひび割れ全体がエフロレッセンスで覆われてしまうことがあり得る。このような見た目が完全に変化してしまったひび割れを含む撮影領域では、過去のひび割れとの比較ができないので、撮影パラメータ調整を実施することができない。従って、過去データのひび割れを消失させてしまうエフロレッセンスを検知したなど、ひび割れの見た目が完全に変化したと判断される場合には、現在の撮影範囲での撮影パラメータ調整を中止するようにしても良い。この場合、情報処理装置100は、他の過去データが含まれるコンクリート壁面の領域を撮影範囲とすることを推奨する。 Also, the appearance of cracks from previous inspections may be completely changed. For example, aging can cause the entire crack to become covered with efflorescence. In an imaging area including cracks whose appearance has completely changed, comparison with past cracks cannot be made, and therefore imaging parameter adjustment cannot be performed. Therefore, if it is determined that the appearance of cracks has changed completely, such as when efflorescence that erases cracks in past data is detected, shooting parameter adjustment in the current shooting range may be canceled. good. In this case, the information processing apparatus 100 recommends that the area of the concrete wall surface containing other past data is set as the imaging range.

ステップS307では、以上のようにして、複数の撮影パラメータそれぞれについて評価値を算出する。 In step S307, an evaluation value is calculated for each of the plurality of shooting parameters as described above.

[ステップS308~S311]
次に、ステップS308では、情報処理装置100は、ステップS307で算出した評価値に基づいて撮影パラメータの評価を行う。ステップS309では、情報処理装置100は、評価結果に基づいて、撮影パラメータを再調整するか否かを判定する。再調整する場合、ステップS310へ進む。一方、再調整しない場合、ステップS311へ進む。ステップS310において、情報処理装置100は、撮影パラメータを改善する方法を推定する。その後、ステップS305に戻る。ステップS311において、情報処理装置100は、撮影パラメータを設定する。そして、撮影パラメータ調整の一連の処理を終了する。以下、これらの処理の詳細について説明する。
[Steps S308 to S311]
Next, in step S308, the information processing apparatus 100 evaluates the shooting parameters based on the evaluation values calculated in step S307. In step S309, the information processing apparatus 100 determines whether or not to readjust the imaging parameters based on the evaluation result. When readjusting, the process proceeds to step S310. On the other hand, when not readjusting, the process proceeds to step S311. In step S310, the information processing apparatus 100 estimates a method for improving the imaging parameters. After that, the process returns to step S305. In step S311, the information processing apparatus 100 sets shooting parameters. Then, the series of processing for photographing parameter adjustment ends. The details of these processes will be described below.

まず、ステップS308での撮影パラメータ評価では、複数の撮影パラメータの評価値から最大の評価値を選択し、所定の閾値と比較する。図9(A)は、各撮影パラメータの評価について説明する図である。本実施形態では、複数の撮影パラメータとして、露出(EV)を3つ設定した。図9(A)には、複数の撮影パラメータとして、露出-1、0、+1を設定している様子を、図4(A)と同様に、三角401、402、403で表している。また、図9(A)の下部には、各撮影パラメータで撮影した画像の検知結果から得られる評価値s-1、s、s+1を示している。図9(A)では、+1の露出403の評価値s+1が最も高い評価値となっており、且つ、所定の閾値sthを超える値を示している。所定の閾値sthを超える評価値を示す撮影パラメータが存在する場合、その撮影パラメータが点検画像の撮影パラメータとして適した撮影パラメータであると判定する。 First, in the imaging parameter evaluation in step S308, the maximum evaluation value is selected from a plurality of imaging parameter evaluation values and compared with a predetermined threshold value. FIG. 9A is a diagram for explaining evaluation of each imaging parameter. In this embodiment, three exposures (EV) are set as a plurality of shooting parameters. In FIG. 9A, as in FIG. 4A, triangles 401, 402, and 403 indicate how exposures of -1, 0, and +1 are set as a plurality of shooting parameters. In the lower portion of FIG. 9A, evaluation values s −1 , s 0 , and s +1 obtained from detection results of images shot with each shooting parameter are shown. In FIG. 9A, the evaluation value s +1 of the exposure 403 of +1 is the highest evaluation value and indicates a value exceeding the predetermined threshold s th . If there is a photographing parameter showing an evaluation value exceeding a predetermined threshold value sth , it is determined that the photographing parameter is suitable as a photographing parameter for an inspection image.

図9(A)の場合、+1の露出403が最適パラメータとして選択され、ステップS309では、撮影パラメータの再調整は不要と判定し、撮影パラメータ設定のステップS311へ進む。ステップS311では、撮影パラメータ設定部102を介して、撮影部101に+1の露出を設定して処理を終了する。 In the case of FIG. 9A, +1 exposure 403 is selected as the optimum parameter, and in step S309 it is determined that readjustment of the shooting parameters is unnecessary, and the process advances to step S311 for setting shooting parameters. In step S311, an exposure of +1 is set for the photographing unit 101 via the photographing parameter setting unit 102, and the process ends.

一方、図9(B)は、図9(A)と同様に、露出-1、0、+1を複数の撮影パラメータとして設定し、評価値を算出した例であるが、図9(A)とは異なる評価値が得られている状況を示す。図9(B)において、最大の評価値を示しているのは、評価値s+1であるがs+1でも所定の閾値sthを超えていない。これらの撮影パラメータで撮影した画像では、過去データのひび割れと十分一致する検知結果が得られておらず、これらの撮影パラメータは点検画像の撮影パラメータとして適していない。この場合、ステップS309では、撮影パラメータの再調整が必要と判定して、ステップS310で撮影パラメータの改善方法を推定する。 On the other hand, FIG. 9B shows an example of calculating an evaluation value by setting exposures of -1, 0, and +1 as a plurality of shooting parameters as in FIG. 9A. indicates a situation in which different evaluation values are obtained. In FIG. 9B, the maximum evaluation value is the evaluation value s +1 , but even s +1 does not exceed the predetermined threshold value s th . Images captured with these imaging parameters do not provide detection results that sufficiently match the cracks in the past data, and these imaging parameters are not suitable as imaging parameters for inspection images. In this case, in step S309, it is determined that the imaging parameters need to be readjusted, and in step S310, a method for improving the imaging parameters is estimated.

続いて、撮影パラメータの改善方法の推定について、図9(B)を用いて説明する。図9(B)では、+1の露出の評価値s+1は閾値sth未満ではあるが、評価値s-1~s+1の中では、最大の評価値を示している。従って、撮影パラメータの再調整では、この撮影パラメータ(+1の露出)の周辺の撮影パラメータから、複数の撮影パラメータを設定する。例えば、次の撮影パラメータ調整でも3つの撮影パラメータを設定する場合、図9(B)のように、+1の露出403の周辺の露出921、922、923を複数パラメータとして設定する。そして、ステップS305に戻り、これらの撮影パラメータを、撮影パラメータ設定部102を介して撮影部101に設定し、再び複数画像を撮影する。そして、図3のステップS306以降の処理(ターゲット検知処理、評価値算出処理)を再び実行し、最適な撮影パラメータを探索する。この撮影パラメータセットの評価でも、閾値sth以上となる評価値が得られなかった場合は、再び、最大評価値を示す撮影パラメータ周辺で、新しい複数の撮影パラメータを決定し、再度、撮影処理を実行する。このループは、閾値sthを超える評価値が得られる撮影パラメータが決定するまで繰り返し実行する。 Next, estimation of a method for improving imaging parameters will be described with reference to FIG. 9B. In FIG. 9B, the evaluation value s +1 of +1 exposure is less than the threshold value s th , but shows the maximum evaluation value among the evaluation values s −1 to s +1 . Therefore, in the readjustment of the shooting parameters, a plurality of shooting parameters are set from shooting parameters around this shooting parameter (exposure of +1). For example, when three shooting parameters are set in the next shooting parameter adjustment as well, as shown in FIG. 9B, exposures 921, 922, and 923 around +1 exposure 403 are set as multiple parameters. Then, the process returns to step S305, these shooting parameters are set in the shooting unit 101 via the shooting parameter setting unit 102, and multiple images are shot again. Then, the processing (target detection processing, evaluation value calculation processing) after step S306 in FIG. 3 is executed again to search for the optimum shooting parameter. If an evaluation value equal to or greater than the threshold value sth is not obtained even after evaluating this imaging parameter set, a plurality of new imaging parameters are again determined around the imaging parameters showing the maximum evaluation value, and imaging processing is performed again. Execute. This loop is repeatedly executed until an imaging parameter that gives an evaluation value exceeding the threshold sth is determined.

なお、最大の繰り返し回数を予め決めておき、それまでに最適な撮影パラメータ(閾値sth以上の評価値が得られる撮影パラメータ)が得られない場合は、処理を打ち切るようにしても良い。撮影パラメータの調整処理を打ち切った場合には、操作部105の表示部に警告を表示してユーザに撮影パラメータが十分に調整されなかったことを通知する。また、処理の打ち切りまでに得られた最大の評価値を算出した画像を撮影した撮影パラメータを、撮影パラメータ設定部102を介して撮影部101に設定しても良い。 Note that the maximum number of repetitions may be determined in advance, and the process may be aborted if the optimum imaging parameters (imaging parameters with which an evaluation value equal to or greater than the threshold value sth is obtained) are not obtained by then. When the shooting parameter adjustment processing is aborted, a warning is displayed on the display unit of the operation unit 105 to notify the user that the shooting parameters have not been sufficiently adjusted. Further, the shooting parameters for shooting the image for which the maximum evaluation value obtained before the processing is terminated may be set in the shooting unit 101 via the shooting parameter setting unit 102 .

以上の説明では、ステップS308で閾値sth以上の評価値が得られない場合に、改善撮影パラメータの推定と、繰り返し調整を行う実施形態について説明した。しかし、仮に閾値sth以上の評価値を示す撮影パラメータが見つかった場合でも、さらに高い評価値を示す撮影パラメータを探索するようにしても良い。この場合、最大評価値を示した撮影パラメータ周辺の撮影パラメータを改善撮影パラメータとして設定した上で、再び複数画像を撮影し、ひび割れの検知処理や評価値算出処理を繰り返し実行する。この繰り返し処理の終了条件は、予め決められた繰り返し回数に到達した場合や、最大評価値付近で撮影パラメータを変更しても評価値に変化が生じなくなった場合とする。 In the above description, an embodiment has been described in which, when an evaluation value equal to or greater than the threshold value s th is not obtained in step S308, estimation of improved imaging parameters and repeated adjustment are performed. However, even if a shooting parameter indicating an evaluation value equal to or higher than the threshold value sth is found, a search may be made for a shooting parameter indicating a higher evaluation value. In this case, after setting the shooting parameters around the shooting parameters showing the maximum evaluation value as improved shooting parameters, a plurality of images are shot again, and the crack detection processing and evaluation value calculation processing are repeatedly executed. The end condition of this repetition processing is when a predetermined number of repetitions is reached, or when the evaluation value does not change even if the imaging parameters are changed near the maximum evaluation value.

以上のようにループして撮影パラメータを調整する処理は、複数画像の撮影と評価、次のパラメータ推定を自動で繰り返しても良い。この場合、撮影部101を三脚などに固定して、撮影パラメータの調整が完了するまでユーザは待機すればよい。 In the process of looping and adjusting the imaging parameters as described above, the imaging and evaluation of a plurality of images and the next parameter estimation may be repeated automatically. In this case, the user may fix the imaging unit 101 to a tripod or the like and wait until the adjustment of the imaging parameters is completed.

一方、ユーザが撮影パラメータや検知結果を確認し、撮影パラメータ調整のための繰り返し処理の終了を判断するようにしても良い。その場合、図3のステップS309において、評価値の閾値sthを用いた最適な撮影パラメータ判定は実施せずに、撮影パラメータの再調整の実行の判定をユーザが行うことになる。このために、操作部105では、ユーザに必要な情報を提示し、さらにユーザからの入力を受け付ける。ここで、図10は、ユーザ判定により撮影パラメータ調整を行う場合の操作部105の一例としての表示部1000について説明する図である。以下、図10を用いて、ユーザに提示する情報、及び、ユーザの操作について説明する。 On the other hand, the user may check the shooting parameters and detection results and determine whether to end the repeated processing for adjusting the shooting parameters. In this case, in step S309 of FIG. 3, the user determines whether or not to readjust the imaging parameters without performing optimum imaging parameter determination using the evaluation value threshold sth . For this purpose, the operation unit 105 presents necessary information to the user and accepts input from the user. Here, FIG. 10 is a diagram illustrating a display unit 1000 as an example of the operation unit 105 when adjusting shooting parameters based on user determination. Information presented to the user and user operations will be described below with reference to FIG. 10 .

まず、図10の表示部1000は、情報を表示するためのディスプレイである。例えば、情報処理装置100が撮影部101を含む撮影装置である場合、当該撮影装置の背面に設けられたタッチパネルディスプレイである。表示部1000に表示されている画像1001は、露出+1の撮影パラメータで撮影した画像上に、点線で表示した過去データのひび割れと、実線で表示した検知結果のひび割れとを重畳表示した画像である。この例では、点線と実線で、それぞれのひび割れを表示する例を示しているが、過去データと検知結果のひび割れとの表示方法は、異なる色で区別して表示しても良い。 First, a display unit 1000 in FIG. 10 is a display for displaying information. For example, when the information processing apparatus 100 is a photographing apparatus including the photographing unit 101, it is a touch panel display provided on the back surface of the photographing apparatus. An image 1001 displayed on the display unit 1000 is an image obtained by superimposing a crack in the past data indicated by a dotted line and a crack in the detection result indicated by a solid line on an image captured with a shooting parameter of +1 exposure. . In this example, each crack is displayed with a dotted line and a solid line, but past data and cracks in detection results may be displayed in different colors.

また、画像1001に隠れている画像1002は、露出0の撮影パラメータで撮影した画像上に、過去データのひび割れと、検知結果のひび割れとを重畳表示した画像である。ユーザは、これらの画像を切り替えて表示することで、撮影パラメータの変化に伴う、ひび割れの検知結果の変化を確認することができる。また、重畳表示されたひび割れの表示、非表示をユーザが任意に実施できるようにしてもよい。ひび割れを非表示にすることで、ひび割れの表示に隠れた撮影画像の部分を確認できるようになる。 An image 1002 that is hidden in the image 1001 is an image obtained by superimposing cracks in the past data and cracks in the detection results on an image captured with a shooting parameter of 0 exposure. By switching and displaying these images, the user can confirm the change in the detection result of the crack accompanying the change in the imaging parameter. In addition, the user may arbitrarily display or hide the superimposed cracks. By hiding the crack, it becomes possible to check the portion of the captured image that is hidden by the display of the crack.

また、画像1001の下部には、撮影パラメータの調整のために複数設定した撮影パラメータを示している。図10には、複数の撮影パラメータの例として、3段階の露出(EV)を黒三角で示している。この内、最大の評価値を示した露出+1を示す黒三角1011は強調表示(大きく表示)されている。また、白抜きの三角1012などは、露出+1の撮影パラメータ1011に基づいてして設定した、撮影パラメータをさらに調整するときの複数の撮影パラメータ候補を示す。 Also, in the lower part of the image 1001, a plurality of shooting parameters set for adjustment of the shooting parameters are shown. In FIG. 10, three levels of exposure (EV) are indicated by black triangles as examples of a plurality of shooting parameters. Among them, the black triangle 1011 indicating the exposure +1 indicating the maximum evaluation value is highlighted (displayed large). Also, white triangles 1012 and the like indicate a plurality of shooting parameter candidates for further adjustment of the shooting parameters set based on the shooting parameters 1011 of exposure +1.

この実施形態では、ユーザは、操作部105としての表示部1000に表示されたこれらの情報を確認して、現在の撮影パラメータを採択するか、さらに撮影パラメータ調整の処理を実行するか、を判定する。具体的には、ユーザは、最大の評価値が得られた画像1001において、過去データのひび割れと検知結果のひび割れとを対比して、満足する一致度合いであれば、最大の評価値を示した撮影パラメータを採択すると判定することができる。ユーザは、最大の評価値を示す撮影パラメータを採択する場合、「set」と表示されているアイコン1021を押す。この操作により、最大の評価値を示す撮影パラメータを、撮影部101に設定し(図3のステップS311)、撮影パラメータ調整の処理が終了する。 In this embodiment, the user confirms these pieces of information displayed on the display unit 1000 as the operation unit 105 and determines whether to adopt the current imaging parameters or to further execute imaging parameter adjustment processing. do. Specifically, the user compares the cracks in the past data with the cracks in the detection results in the image 1001 that gave the maximum evaluation value, and indicates the maximum evaluation value if the degree of matching is satisfactory. It can be determined to adopt the imaging parameters. The user presses an icon 1021 displaying "set" when adopting the shooting parameter showing the maximum evaluation value. By this operation, the imaging parameter indicating the maximum evaluation value is set in the imaging unit 101 (step S311 in FIG. 3), and the imaging parameter adjustment processing ends.

一方、画像1001を確認するなどして、現在の最適撮影パラメータに不満があると判定した場合、ユーザは「再調整」と表示されたアイコン1022を押す。この指示により、次の複数の撮影パラメータ(例えば白抜きの三角1012で示される露出など)を用いて、図3のステップS306以降の処理(ターゲット検知処理、評価値算出処理)を再び実行する。その後、再び、各種の情報を図10の例ようにユーザに提示する。ユーザは提示された情報に基づいて、再び撮影パラメータを採択するか、さらに撮影パラメータを調整するかの判定を行う。 On the other hand, if it is determined by checking the image 1001 that the current optimal imaging parameters are unsatisfactory, the user presses an icon 1022 displaying "readjustment". In response to this instruction, the processing (target detection processing, evaluation value calculation processing) after step S306 in FIG. 3 is executed again using the next plurality of shooting parameters (for example, exposure indicated by an outline triangle 1012). After that, various kinds of information are again presented to the user as in the example of FIG. Based on the presented information, the user determines whether to adopt the imaging parameters again or further adjust the imaging parameters.

もし、撮影パラメータの調整を途中で辞める場合には、「終了」と表示されたアイコン1023を押す。この操作により、撮影パラメータを調整する処理(図3のフローチャートのループ)を終了させることができる。この時、それまでに撮影、評価した撮影パラメータの内、評価値が最大となる撮影パラメータを撮影部101に設定するようにしても良い。 If the adjustment of the shooting parameters is to be stopped halfway, the icon 1023 displaying "end" is pressed. With this operation, the processing for adjusting the shooting parameters (the loop in the flow chart of FIG. 3) can be terminated. At this time, among the shooting parameters that have been shot and evaluated so far, the shooting parameter with the maximum evaluation value may be set in the shooting unit 101 .

このように、複数の撮影パラメータで撮影した画像、その画像から得られるひび割れ検知結果、過去データ、各撮影パラメータの評価結果、を表示することで、ユーザは点検に適した撮影パラメータを設定しやすくなる。 In this way, by displaying images shot with a plurality of shooting parameters, crack detection results obtained from the images, past data, and evaluation results of each shooting parameter, the user can easily set shooting parameters suitable for inspection. Become.

なお、この場合においても、予め評価値の閾値sthを設定しておき、閾値sthを超える評価値を得た撮影パラメータが存在することを表示するようにしても良い。例えば、図10において、黒三角1011により示される撮影パラメータで撮影した画像の評価値s1011が閾値sthを超える場合には、撮影パラメータを示す黒三角1011を点滅表示するようにしても良い。ユーザは、評価値に関わらず撮影パラメータを採択することができるが、このように評価値を超えた撮影パラメータの存在を視認可能に表示することで、撮影パラメータ採択の判定を補助することができるようになる。 Also in this case, a threshold value s- th for the evaluation value may be set in advance, and the presence of the imaging parameter having an evaluation value exceeding the threshold value s- th may be displayed. For example, in FIG. 10, when the evaluation value s 1011 of the image captured with the shooting parameters indicated by the black triangle 1011 exceeds the threshold s th , the black triangle 1011 indicating the shooting parameters may blink. The user can adopt the imaging parameter regardless of the evaluation value, and by visually displaying the existence of the imaging parameter exceeding the evaluation value in this way, it is possible to assist the determination of the adoption of the imaging parameter. become.

また、図10には不図示であるが、過去の点検結果を作成した時のコンクリート壁面画像を、図10の表示部1000の表示内容に加えて表示するようにしても良い。この場合、過去の点検時に撮影した画像を過去データ格納部106に格納しておき、図3のステップS302で、過去データ格納部106から過去データ(ひび割れ情報)を呼び出すと同時に、過去に撮影した画像も呼び出す。 Moreover, although not shown in FIG. 10, the concrete wall image when the past inspection result was created may be displayed in addition to the display contents of the display unit 1000 of FIG. In this case, images taken during past inspections are stored in the past data storage unit 106, and in step S302 of FIG. Also call the image.

[変形例]
以下では、実施形態1の変形例について説明する。図3のステップS305の複数回撮影において、手持ちで撮影していたり、ドローンに搭載して撮影していたりすると、同じ撮影領域を狙って撮影しても複数の画像の撮影位置が微妙にずれることがある。実施形態1の説明では、この画像ずれについて特に言及しなかったが、過去データ、及び画像間で位置合わせを実行するようにしても良い。この処理は、ステップS305で複数画像を撮影した直後に実行する。
[Variation]
Below, the modification of Embodiment 1 is demonstrated. When shooting multiple times in step S305 in FIG. 3, if the images are shot handheld or mounted on a drone, the shooting positions of the multiple images may slightly shift even if the same shooting area is shot. There is In the description of the first embodiment, no particular reference was made to this image misalignment, but alignment may be performed between past data and images. This process is executed immediately after the multiple images are captured in step S305.

複数画像間の位置合わせは、既存の方法を利用すればよいので、詳細な説明は省略するが、画像間の特徴点のマッチングや画像のアフィン変換(並進、回転に限定しても良い)などの処理で実施できる。さらに、評価値を算出するために、過去データのひび割れとも位置合わせを行う必要がある。このためには、ステップS306で各画像から検知したひび割れの検知結果と、過去データのひび割れの位置と形状とが最も類似するように位置合わせを行う。この処理での位置合わせは、撮影画像そのものを変換するようにしても良いし、ひび割れ検知結果の画像を変換することで位置合わせをするようにしても良い。 Existing methods can be used to align multiple images, so a detailed explanation will be omitted, but matching of feature points between images, affine transformation of images (may be limited to translation and rotation), etc. It can be implemented by the processing of Furthermore, in order to calculate the evaluation value, it is necessary to align the cracks in the past data. For this purpose, alignment is performed so that the detection result of the crack detected from each image in step S306 and the position and shape of the crack in the past data are most similar. Positioning in this process may be performed by converting the photographed image itself, or by converting the image of the crack detection result.

また、実施形態1では、撮影パラメータを改善する方法を推定する例を説明したが、推定するひび割れの撮影に適した撮影方法は、撮影パラメータに限らず、他の撮影方法を推定しても良い。撮影パラメータ以外の撮影方法を推定する実施形態では、図3の処理フローのループを複数回実行しても、所定閾値以上の評価値が得られない場合に、さらに画像や撮影状況を分析して、適切な撮影方法を推奨する。 Further, in the first embodiment, an example of estimating a method for improving an imaging parameter has been described, but the imaging method suitable for imaging an estimated crack is not limited to the imaging parameter, and other imaging methods may be estimated. . In the embodiment for estimating the imaging method other than the imaging parameters, the image and the imaging situation are further analyzed when the evaluation value equal to or higher than the predetermined threshold is not obtained even if the loop of the processing flow in FIG. 3 is executed multiple times. , to recommend appropriate shooting methods.

例えば、画像の明るさが不足していると判定される場合や、ホワイトバランスの調整が撮影パラメータでは調整不可能と判定される場合には、ユーザに照明を利用することや、撮影時刻を変更してより明るい時刻での撮影を推奨する通知を行うようにしても良い。また別の例としては、撮影部101の位置・姿勢が取得できる場合、点検対象構造物との位置関係を分析し、撮影を改善する位置・姿勢を提案する。より具体的には、例えば、点検対象構造物の壁面に対するあおり角度が大きな位置・姿勢で撮影している場合、あおりを減少させる位置・姿勢で撮影することをユーザに推奨する。 For example, when it is determined that the brightness of the image is insufficient, or when it is determined that the white balance cannot be adjusted with the shooting parameters, the user is asked to use lighting or change the shooting time. Then, a notification recommending shooting at a brighter time may be issued. As another example, when the position/orientation of the imaging unit 101 can be acquired, the position/orientation with respect to the structure to be inspected is analyzed, and the position/orientation for improving the imaging is proposed. More specifically, for example, when shooting in a position/orientation with a large tilt angle with respect to the wall surface of the structure to be inspected, the user is recommended to shoot in a position/orientation that reduces the tilt.

また、実施形態1では、点検のターゲットとしてひび割れを例に説明したが、点検のターゲットはひび割れに限らず、他の変状としても良い。この場合、撮影パラメータ調整に用いる点検のターゲットは、経年変化で過去に点検した結果の見え方の変化が少ない変状を用いることが好ましい。例えば、コンクリート打設時の不連続面であるコールドジョイントなどは、ひび割れと同様、過去に記録された部分の見え方は大きく変化しないため、好適なターゲットの例である。また、変状ではないが、コンクリート目地や打ちつなぎ目を点検のターゲットとすることができる。この場合、過去の点検時に観測したコンクリート目地や打ちつなぎ目の位置・形状と、現在撮影している画像から検知される目地や打ちつなぎ目の位置・形状とを比較することで、撮影パラメータの調整を行うようにしても良い。 Further, in the first embodiment, cracks are used as inspection targets, but inspection targets are not limited to cracks, and other deformations may be used. In this case, it is preferable to use, as a target of the inspection used for adjusting the imaging parameters, a deformation that causes little change in the appearance of the results of past inspections due to secular change. For example, a cold joint, which is a discontinuous surface during concrete placement, is an example of a suitable target because, like cracks, the appearance of previously recorded portions does not change significantly. Also, concrete joints and joints can be targeted for inspection, although they are not deformations. In this case, the photographing parameters can be adjusted by comparing the positions and shapes of concrete joints and joints observed during past inspections with the positions and shapes of joints and joints detected in images currently being captured. You can do it.

以上説明したように、本実施形態では、過去の点検結果が記録されている点検対象構造物を、複数の撮影パラメータで撮影して複数の画像を作成する。複数の画像それぞれに対して、点検ターゲットの検知処理を実施する。各画像の検知結果と、過去の点検結果とから、各撮影パラメータの評価値を算出する。そして、最大の評価値が閾値以上である場合、最大の評価値を示した撮影パラメータを、使用する撮影パラメータとして設定する。一方、最大の評価値が閾値以下である場合、評価値を改善する撮影パラメータを推定する。 As described above, in this embodiment, a structure to be inspected for which past inspection results are recorded is photographed with a plurality of photographing parameters to create a plurality of images. Inspection target detection processing is performed on each of the plurality of images. An evaluation value for each imaging parameter is calculated from the detection result of each image and the past inspection result. Then, if the maximum evaluation value is greater than or equal to the threshold, the imaging parameter indicating the maximum evaluation value is set as the imaging parameter to be used. On the other hand, if the maximum evaluation value is equal to or less than the threshold, the imaging parameters that improve the evaluation value are estimated.

本実施形態によれば、ユーザが撮影画像を確認することなく、過去の結果との比較に適した画像の撮影方法(例えば撮影パラメータ)を推定することが可能となる。 According to this embodiment, it is possible for the user to estimate an image capturing method (for example, capturing parameters) suitable for comparison with past results without checking the captured image.

(実施形態2)
実施形態1では、過去データ(過去のひび割れ点検結果)と撮影した画像のひび割れ検知結果とを比較して、撮影パラメータの調整を行った。これに加えて、過去に撮影した画像(以下、過去画像)と、現在、撮影パラメータ調整のために撮影した画像(以下、現在画像)とをさらに比較して、撮影パラメータの調整を行うようにしても良い。
(Embodiment 2)
In the first embodiment, photographing parameters are adjusted by comparing past data (past crack inspection results) with crack detection results in photographed images. In addition to this, an image taken in the past (hereafter referred to as the past image) is further compared with an image currently taken for shooting parameter adjustment (hereafter referred to as the current image) to adjust the shooting parameters. can be

実施形態2では、過去画像と現在画像とを比較して撮影パラメータを調整する例を説明する。 In the second embodiment, an example will be described in which a past image and a current image are compared to adjust shooting parameters.

過去の点検結果との比較を行うために、現在の点検で撮影する画像でも、少なくとも過去の点検結果に記録されているひび割れが観測できる画像を撮影する必要がある。この目的のために、実施形態1では、過去データと検知結果とを用いて撮影パラメータの調整を行った。ここで、過去の点検で撮影した画像が存在する場合、この過去画像と現在画像とを目視で比較して、変状の伸展などの経年変化を確認したい。この時、過去画像と現在画像との比較のためには、現在画像が過去の点検結果に記録されているひび割れが観測できる画像であるだけでなく、明るさやホワイトバランスなどの画像の見た目も過去画像に似ている方がよい。 In order to make a comparison with past inspection results, it is necessary to take images in which at least the cracks recorded in the past inspection results can be observed even in the images taken during the current inspection. For this purpose, in the first embodiment, shooting parameters are adjusted using past data and detection results. Here, if there is an image taken in the past inspection, it is desired to visually compare the past image and the current image to confirm the secular change such as extension of deformation. At this time, in order to compare the past image with the current image, not only is the current image an image in which the cracks recorded in the past inspection results can be observed, but the appearance of the image such as brightness and white balance must also be checked. It should be similar to the image.

従って、実施形態2では、過去画像と現在画像との類似度を算出し、この類似度も考慮した評価値を算出して撮影パラメータを調整する。これにより、過去画像と現在画像との見た目が類似した撮影を行うための撮影パラメータを設定することができるようになる。以下では、主に実施形態1との差分について説明する。それ以外の構成や処理は実施形態1と同様であるため説明を省略する。 Therefore, in the second embodiment, the degree of similarity between the past image and the current image is calculated, and an evaluation value is calculated in consideration of this degree of similarity to adjust the imaging parameters. Thus, it is possible to set the shooting parameters for performing shooting in which the past image and the current image are similar in appearance. Differences from the first embodiment will be mainly described below. Since other configurations and processes are the same as those of the first embodiment, description thereof is omitted.

まず、過去データ格納部106には、過去の点検結果だけでなく、過去に点検対象構造物を撮影した画像も格納しておく。そして、図3のステップS301において、点検対象構造物の任意の撮影範囲が設定されると、ステップS302で過去データと共に、撮影範囲に関する過去画像が呼び出される。ステップS305で複数パラメータによる撮影、ステップS306で各現在画像に対してひび割れ検知を実行した後に、ステップS307で評価値を算出する。実施形態2では、ある撮影パラメータで撮影した1枚の撮影画像(現在画像)と、過去画像と、過去データとに基づいて、評価値s'を以下のようにして算出する。 First, the past data storage unit 106 stores not only the results of past inspections but also images of structures to be inspected in the past. Then, in step S301 of FIG. 3, when an arbitrary imaging range of the structure to be inspected is set, in step S302, past data and past images relating to the imaging range are called. After shooting with multiple parameters in step S305 and crack detection for each current image in step S306, an evaluation value is calculated in step S307. In the second embodiment, the evaluation value s' is calculated as follows based on one photographed image (current image) photographed with certain photographing parameters, past images, and past data.

Figure 0007311963000004
Figure 0007311963000004

式(4)の第一項は実施形態1の式(2)のひび割れに基づく評価値である。第二項のr(I、I)は、過去画像Iと現在画像Iとの類似度を示す。画像間の類似度はどのように求めても良いが、例えば輝度分布や色分布の類似性を示す値である。これ以外にも、何らかの画像特徴量空間での距離などを類似度とすればよいが、明るさ、色味、ホワイトバランスなど、画像の幾何的な特徴の類似性よりも人間の感性的に合った類似度を算出するべきである。なお、式(4)のα、βは第一項(ひび割れの評価値)と第二項(過去画像と現在画像の類似度)とのそれぞれに対する重み係数であり、いずれに重み付けて評価値s'を算出するかを決めるパラメータである。ここで、α≧0、β≧0である。 The first term of expression (4) is an evaluation value based on cracks in expression (2) of the first embodiment. The second term r(I o , In ) indicates the degree of similarity between the past image I o and the current image In . The degree of similarity between images may be obtained in any manner, but is, for example, a value indicating similarity in luminance distribution or color distribution. In addition to this, the distance in some image feature space may be used as the degree of similarity. similarity should be calculated. Note that α and β in Equation (4) are weighting factors for the first term (evaluation value of cracks) and the second term (similarity between the past image and the current image). ' is a parameter that determines whether to calculate '. Here, α≧0 and β≧0.

以上のようにして算出する評価値s'を使って、実施形態1の処理を実行することで、過去画像と現在画像が類似するような撮影パラメータを調整することができるようになる。 By executing the processing of the first embodiment using the evaluation value s′ calculated as described above, it is possible to adjust the shooting parameters so that the past image and the current image are similar.

(実施形態3)
実施形態1では、図2の橋脚201の、ある1つの撮影範囲220の過去データを用いて撮影パラメータを調整し、その撮影パラメータで橋脚201を撮影する例を説明した。橋脚201の撮影では、橋脚201の部分的な撮影を繰り返して複数の画像を撮影し、その複数画像を接続することで、高精細なコンクリート壁面画像を作成する。しかし、同一の橋脚201においても、部分によって適切な撮影パラメータで撮影した方がよい。
(Embodiment 3)
In the first embodiment, an example has been described in which the imaging parameters are adjusted using the past data of one imaging range 220 of the bridge pier 201 in FIG. 2, and the bridge pier 201 is imaged using the imaging parameters. In photographing the bridge pier 201, a plurality of images are photographed by repeatedly photographing a portion of the bridge pier 201, and a high-definition concrete wall surface image is created by connecting the plurality of images. However, even in the same bridge pier 201, it is better to shoot with appropriate shooting parameters depending on the part.

実施形態3では、点検対象構造物のある1つの広い壁面において、複数部分(複数の撮影範囲)で撮影パラメータの調整を行う例を説明する。 In the third embodiment, an example will be described in which imaging parameters are adjusted in a plurality of portions (a plurality of imaging ranges) on one wide wall surface of a structure to be inspected.

図11は、図2の橋脚251(実施形態1の説明で用いた橋脚201とは別の橋脚)の図面252を示す。撮影範囲1101、1102、1103、1104は、ひび割れを含む撮影範囲である。これらの撮影範囲について実施形態1の方法を用いて、各撮影範囲を撮影するために適した撮影パラメータを設定する。撮影範囲1101、1102、1103、1104は、実施形態1と同様に、ユーザが選択することや、情報処理装置100が過去データにひび割れを含む領域を推奨することで決定する。 FIG. 11 shows a drawing 252 of the pier 251 of FIG. 2 (a pier different from the pier 201 used in the description of the first embodiment). Shooting ranges 1101, 1102, 1103, and 1104 are shooting ranges including cracks. For these imaging ranges, the method of the first embodiment is used to set imaging parameters suitable for imaging each imaging range. The imaging ranges 1101, 1102, 1103, and 1104 are determined by the user's selection or by the information processing apparatus 100 recommending an area including cracks in past data, as in the first embodiment.

そして、実施形態3では、さらに、ある壁面の範囲(本実施形態では図11の図面252の範囲)で、できるだけ疎に分布、あるいは均等に分布するような位置から選択する。図11に示すように、これらの撮影範囲は隣接せず、図面252の全域に分布する位置に設定されている。情報処理装置100は、このように複数の撮影範囲が設定されるようにユーザに撮影範囲を推奨する。 Further, in the third embodiment, the positions are selected from the positions that are distributed as sparsely or as evenly as possible within the range of a certain wall surface (the range of drawing 252 in FIG. 11 in this embodiment). As shown in FIG. 11, these photographing ranges are not adjacent to each other and are set at positions distributed over the entire drawing 252 . The information processing apparatus 100 recommends a shooting range to the user so that a plurality of shooting ranges are set in this way.

なお、図11の例では、4つの撮影範囲を設定する例を説明しているが、ある壁面に対して設定する撮影範囲の数はこれに限定されない。撮影範囲の数が多い場合、壁面の各部位に適した撮影パラメータを設定することができるが、撮影パラメータ調整に時間を要することになる。これらはトレードオフの関係にあるので、設定する撮影範囲の数は、要求に合わせて設定すればよい。 In the example of FIG. 11, an example of setting four shooting ranges is described, but the number of shooting ranges set for a certain wall surface is not limited to this. If there are many imaging ranges, it is possible to set imaging parameters suitable for each portion of the wall surface, but it takes time to adjust the imaging parameters. Since these are in a trade-off relationship, the number of shooting ranges to be set may be set according to the request.

次に、実施形態1で説明した方法により、各撮影範囲の過去データを用いて、各撮影範囲を撮影するために適した撮影パラメータを決定する。これらの撮影範囲以外の部分の撮影パラメータについては、各撮影範囲で設定した撮影パラメータに基づいて、内挿や外挿で求める。例えば、範囲1120を撮影するための撮影パラメータは、周辺の撮影範囲の撮影パラメータ(例えば、撮影範囲1101と1102の撮影パラメータ)に基づいて、線形補間で求めた撮影パラメータとする。このようにすることで、壁面の各部位の撮影パラメータを設定することができる。 Next, by the method described in the first embodiment, the past data of each imaging range is used to determine imaging parameters suitable for imaging each imaging range. The imaging parameters for portions other than these imaging ranges are obtained by interpolation or extrapolation based on the imaging parameters set for each imaging range. For example, the shooting parameters for shooting the range 1120 are the shooting parameters obtained by linear interpolation based on the shooting parameters of the surrounding shooting ranges (for example, the shooting parameters of the shooting ranges 1101 and 1102). By doing so, it is possible to set the imaging parameters for each portion of the wall surface.

さらに、実施形態3では、同一の撮影対象において撮影パラメータが大きく変化しないように、拘束条件を付けて撮影パラメータを調整するようにしても良い。例えば、図11の図面252に対応する図2の橋脚251を撮影するときに、橋脚251の部分によって撮影パラメータが大きく異なると、撮影した画像を接続した高精細画像に統一感がなくなる。従って、橋脚251のような連続した固まりの部分の撮影では、できるだけ類似した撮影パラメータで撮影を行った方がよい。このために、撮影パラメータを調整する評価値に対して、現在撮影中の撮影領域に隣接する撮影領域、または撮影中の壁面に含まれる他の撮影領域で決定した撮影パラメータとの差が大きいほどペナルティを与える構成にする。これにより、橋脚251のような連続した固まりの部分の撮影において、撮影パラメータの大きな変化を抑制することができるようになる。 Furthermore, in the third embodiment, the imaging parameters may be adjusted with a constraint condition so that the imaging parameters do not change significantly for the same imaging target. For example, when photographing the bridge pier 251 in FIG. 2 corresponding to the drawing 252 in FIG. 11, if the photographing parameters differ greatly depending on the portion of the bridge pier 251, the high-definition image obtained by connecting the photographed images will lose a sense of unity. Therefore, when photographing a continuous mass portion such as the bridge pier 251, it is better to photograph with similar photographing parameters as much as possible. For this reason, the larger the difference between the evaluation value for adjusting the imaging parameters and the imaging parameters determined in the imaging area adjacent to the imaging area currently being imaged or in another imaging area included in the wall surface being imaged, Make a configuration that gives a penalty. This makes it possible to suppress large changes in imaging parameters when imaging a continuous block portion such as the bridge pier 251 .

本実施形態によれば、撮影範囲ごとに、過去の結果との比較に適した画像の撮影方法を推定することが可能となる。 According to this embodiment, it is possible to estimate an image capturing method suitable for comparison with past results for each capturing range.

(実施形態4)
上述の各実施形態では、評価値が所定の閾値未満の場合に、複数の評価値を用いて撮影パラメータの改善方法を推定する方法について説明した(例えば、図9(B))。しかし、撮影パラメータの改善方法を推定する方法は、複数の評価値を用いた処理に限らず、ある1つの評価値とその評価値に関わる撮影パラメータとに基づいて推定する方法でも良い。実施形態4では、この方法について、実施形態1との差を図3のフローチャートを用いて説明する。
(Embodiment 4)
In each of the above-described embodiments, a method of estimating a method of improving an imaging parameter using a plurality of evaluation values when the evaluation value is less than a predetermined threshold has been described (eg, FIG. 9B). However, the method of estimating the imaging parameter improvement method is not limited to processing using a plurality of evaluation values, and may be a method of estimating based on one evaluation value and imaging parameters related to that evaluation value. In Embodiment 4, differences from Embodiment 1 will be described with reference to the flowchart of FIG.

まず、実施形態4では、複数の評価値を算出しないので、複数の撮影パラメータで撮影を行う必要がない。従って、実施形態1の図3のフローチャートでは、複数の撮影パラメータを設定するステップS304と、複数回撮影のステップS305とを実行しない。よって、実施形態4では、ある初期パラメータで、撮影範囲の画像を1枚撮影することになる。この1枚の画像に対して、ターゲット(ひび割れ)を検知する処理S306と、検知結果を過去データと比較して評価値を算出する処理S307とを実行する。これらは実施形態1と同様の処理である。さらに、算出した評価値が閾値以上の場合、パラメータ設定を終了する処理(図3のS308、S309、S311)も実施形態1と同様に実行すればよい。 First, since multiple evaluation values are not calculated in the fourth embodiment, there is no need to perform imaging with multiple imaging parameters. Therefore, in the flowchart of FIG. 3 of the first embodiment, step S304 for setting a plurality of shooting parameters and step S305 for shooting multiple times are not executed. Therefore, in the fourth embodiment, one image in the shooting range is shot with certain initial parameters. Processing S306 for detecting a target (crack) and processing S307 for comparing the detection result with past data and calculating an evaluation value are executed for this one image. These are processes similar to those of the first embodiment. Furthermore, when the calculated evaluation value is equal to or greater than the threshold, the process of ending parameter setting (S308, S309, and S311 in FIG. 3) may be executed in the same manner as in the first embodiment.

実施形態1と異なる処理は、評価値が閾値以下であった場合に、撮影パラメータの改善方法を推定するステップS310の処理である。実施形態4では、ある1つの評価値、及びその時の撮影パラメータとから、統計的な手法により改善撮影パラメータを推定する。このために実施形態4では、予め、評価値と改善撮影パラメータとの関係を学習しておく。この関係は、例えば、以下のようなデータを用いて学習することができる。 A process different from that of the first embodiment is the process of step S310 for estimating a method for improving the imaging parameter when the evaluation value is equal to or less than the threshold. In the fourth embodiment, improved imaging parameters are estimated by a statistical method from one evaluation value and the imaging parameters at that time. For this reason, in the fourth embodiment, the relationship between the evaluation value and the improved imaging parameter is learned in advance. This relationship can be learned using, for example, the following data.

Figure 0007311963000005
Figure 0007311963000005

Figure 0007311963000006
Figure 0007311963000006

ここで、式(5)のpは撮影パラメータであり、sはpで撮影した画像から得られた評価値である。sは閾値以下の評価値とする。式(6)のpdst_nは、(s、p)の状態から撮影パラメータを調整し、最終的に評価値が閾値以上となったときの撮影パラメータである。これらのデータの組をn個収集し、学習データ(X、Y)を作成する。この学習データを用いて、ある閾値未満の評価値sと撮影パラメータpとが入力された時に、改善パラメータpdstを出力するモデルMを学習する。 Here, pn in Equation (5) is a photographing parameter, and sn is an evaluation value obtained from an image photographed with pn . s n is an evaluation value below the threshold. p dst — n in equation (6) is the shooting parameter when the shooting parameter is adjusted from the state of (s n , p n ) and the final evaluation value becomes equal to or greater than the threshold. Collect n sets of these data to create learning data (X, Y). This learning data is used to learn a model M that outputs an improved parameter p_dst when an evaluation value s less than a certain threshold and a shooting parameter p are input.

Figure 0007311963000007
Figure 0007311963000007

このモデルの学習には、どのようなアルゴリズムを用いても良く、例えば、撮影パラメータを連続値であるとすると、線形回帰などの回帰モデルを適用することができる。 Any algorithm may be used for learning this model. For example, if the imaging parameters are continuous values, a regression model such as linear regression can be applied.

以上のようにして予め準備したモデルMを、ステップS310の改善撮影パラメータ推定処理で用いることにより、実施形態4では、1枚の画像から改善撮影パラメータを推定することができるようになる。 By using the model M prepared in advance as described above in the improved imaging parameter estimation processing in step S310, in the fourth embodiment, improved imaging parameters can be estimated from one image.

なお、改善撮影パラメータを求める手法として、学習したモデルを用いる構成は、実施形態1の複数の撮影パラメータで画像を撮影する方法で用いても良い。すなわち、モデルMは、1枚の画像から撮影パラメータを推定する構成に限定されず、複数の画像から撮影パラメータを推定する方法で用いても良い。この場合、実施形態1のように複数の撮影パラメータで撮影した複数の画像からそれぞれ評価値を算出し、複数の撮影パラメータと複数の評価値とを入力して改善撮影パラメータを求めるモデルMを学習する。このモデルMを学習するための学習データXは、撮影パラメータ調整で撮影する複数画像の枚数をm枚とすると、式(5)から以下の式(8)のように書き換えられる。なお、目的変数(あるいは教師データ)Yは、式(6)と同様である。 As a method for obtaining improved imaging parameters, the configuration using a learned model may be used in the method of capturing an image with a plurality of imaging parameters in the first embodiment. That is, the model M is not limited to the configuration for estimating imaging parameters from one image, and may be used in a method for estimating imaging parameters from a plurality of images. In this case, as in the first embodiment, evaluation values are calculated from a plurality of images captured with a plurality of imaging parameters, and a model M for obtaining improved imaging parameters by inputting the plurality of imaging parameters and the plurality of evaluation values is learned. do. The learning data X for learning this model M is rewritten from equation (5) as shown in the following equation (8), where m is the number of multiple images to be shot in the shooting parameter adjustment. Note that the target variable (or teacher data) Y is the same as in Equation (6).

Figure 0007311963000008
Figure 0007311963000008

本実施形態によれば、1枚の画像から改善撮影パラメータを推定することができるようになる。 According to this embodiment, it becomes possible to estimate an improved imaging parameter from one image.

(実施形態5)
上述の各実施形態では、コンクリート壁面を有する構造物の点検を例に説明を行った。しかし、本発明の適用例はこれに限定されず、他の目的で用いても良い。実施形態5では、工場等で製品の画像を撮影し、キズなどの欠陥を検知する装置(外観検査装置)を例に説明を行う。
(Embodiment 5)
In each of the above-described embodiments, inspection of a structure having concrete wall surfaces has been described as an example. However, application examples of the present invention are not limited to this, and may be used for other purposes. In the fifth embodiment, an apparatus (appearance inspection apparatus) that takes an image of a product in a factory or the like and detects defects such as scratches will be described as an example.

図12は、外観検査を説明するための図である。まず、物体1200は、部品や製品などの外観検査の対象である。外観検査では、これらを撮影部101で撮影し、物体1200の欠陥1201を検知する。撮影した画像から欠陥を検知するためには、欠陥を強調するための所定の画像処理のパラメータを予め調整しておく必要がある。また、機械学習を用いた外観検査では、正常な物体の画像や欠陥を含む物体の画像から欠陥の画像特徴を識別するモデルを学習しておく必要がある。 FIG. 12 is a diagram for explaining the appearance inspection. First, an object 1200 is an object of appearance inspection such as a part or a product. In the appearance inspection, these are photographed by the photographing unit 101 and defects 1201 of the object 1200 are detected. In order to detect a defect from a photographed image, it is necessary to adjust parameters of predetermined image processing for emphasizing the defect in advance. Also, in visual inspection using machine learning, it is necessary to learn a model that identifies image features of defects from images of normal objects and images of objects containing defects.

ここで、撮影部101(撮影部101には、照明装置を含んでも良い)をリプレイスにより交換するケースについて考える。もし、新しい撮影部101の仕様が古い撮影部1001の仕様と異なる場合、同一の撮影パラメータを設定したとしても撮影画像に微妙な変化が生じる。ここで、画像処理パラメータや欠陥識別モデルは、古い撮影部101で撮影した画像に基づいて決定しているので、再調整や再学習が要求される。再調整や再学習のためには、新しい撮影部101で大量の物体1200の画像を撮影する必要がある。このため、外観検査装置を用いた生産ラインを再稼働させるために時間を要することになる。 Here, consider a case in which the photographing unit 101 (the photographing unit 101 may include a lighting device) is replaced. If the specifications of the new imaging unit 101 are different from those of the old imaging unit 1001, even if the same imaging parameters are set, the captured image will be slightly changed. Here, since the image processing parameters and the defect identification model are determined based on the image captured by the old image capturing unit 101, readjustment and relearning are required. For readjustment and re-learning, it is necessary to capture a large number of images of the object 1200 with the new imaging unit 101 . Therefore, it takes time to restart the production line using the visual inspection apparatus.

従って、本発明の撮影パラメータ調整方法を適用し、過去の撮影部101と同様の画像を撮影することができる撮影パラメータを、新しい撮影部101に設定する。このために、まず、欠陥を含む物体を準備しておく。以下、これをリファレンス物体と呼ぶ。リファレンス物体は、過去に古い撮影部101で検査されており、その欠陥の検知結果が過去データ格納部106に格納されているとする。そして、新しい撮影部101でリファレンス物体を異なる複数の撮影パラメータで撮影する。 Therefore, by applying the imaging parameter adjustment method of the present invention, imaging parameters are set for the new imaging unit 101 that enable imaging of the same image as that of the previous imaging unit 101 . For this purpose, first an object containing defects is prepared. Hereinafter, this is called a reference object. It is assumed that the reference object has been inspected by the old imaging unit 101 in the past, and the detection result of the defect is stored in the past data storage unit 106 . Then, the new photographing unit 101 photographs the reference object with a plurality of different photographing parameters.

図12では、物体1200をリファレンス物体としたときに、新しい撮影部101のn個の撮影パラメータで撮影した画像1211~121nを示している。これらのn枚の画像に欠陥検知処理を行い、その検知結果と、過去データ格納部106に格納された古い撮影部での検知結果とを比較して、それぞれの撮影パラメータに関する評価値を算出する。そして、これらの評価値に基づいて、新しい撮影部101の撮影パラメータを調整する。以上の処理は、撮影対象が異なるだけで、処理内容は実施形態1と同様であるので、詳細な説明は省略する。 FIG. 12 shows images 1211 to 121n photographed with n photographing parameters of the new photographing unit 101 when the object 1200 is used as a reference object. Defect detection processing is performed on these n images, and the detection result is compared with the detection result of the old imaging unit stored in the past data storage unit 106 to calculate the evaluation value for each imaging parameter. . Then, the imaging parameters of the new imaging unit 101 are adjusted based on these evaluation values. The above processing is the same as that of the first embodiment except that the object to be photographed is different, so detailed description will be omitted.

これにより、古い撮影部で検知された欠陥を検知することができる撮影パラメータを、新しい撮影部に対して容易に設定することができるようになる。 This makes it possible to easily set, for the new imaging unit, imaging parameters that can detect defects detected by the old imaging unit.

なお、上記では、外観検査装置の撮影部のリプレイス時に本発明を適用する例を説明したが、外観検査装置への適用方法はこれに限らない。例えば、工場の同一製品を製造する複数の製造ラインに外観検査装置を新規導入するケースについて考える。製造ラインが異なると、外光の影響が異なるなどの理由により、それぞれの製造ラインで最適な撮影パラメータを調整する必要がある。 In the above description, an example in which the present invention is applied when the imaging unit of the visual inspection apparatus is replaced has been described, but the method of applying the present invention to the visual inspection apparatus is not limited to this. For example, consider the case of newly introducing a visual inspection device to a plurality of production lines that manufacture the same product in a factory. Different production lines are affected by different external light, and for other reasons, it is necessary to adjust optimum imaging parameters for each production line.

この場合、まず、第一の製造ラインの外観検査装置の撮影部のパラメータを手動で調整する。そして、第一の製造ラインの外観検査装置で、物体の画像を撮影し、欠陥検知の画像処理パラメータ調整や欠陥識別モデル学習を行う。そして、欠陥を含む少なくとも一つの物体をリファレンス物体として、第一の製造ラインの外観検査装置でリファレンス物体の欠陥検知を実行する。この検知結果は、過去データとして過去データ格納部106に格納しておく。 In this case, first, the parameters of the photographing unit of the visual inspection apparatus of the first production line are manually adjusted. Then, an image of the object is photographed by the visual inspection apparatus of the first production line, and image processing parameter adjustment for defect detection and defect identification model learning are performed. Then, using at least one object including a defect as a reference object, the visual inspection apparatus of the first production line executes defect detection of the reference object. This detection result is stored in the past data storage unit 106 as past data.

次に、第一の製造ラインとは異なる第二の製造ラインでは、第一の製造ラインで設定した画像処理パラメータや欠陥識別モデルを流用する。そして、第一の製造ラインでの検知結果と同様の検知結果が得られるように、本発明の方法で第二の製造ラインの撮影部の撮影パラメータを調整する。この撮影パラメータ調整では、第二の製造ラインの撮影部でリファレンス物体を撮影し、それを、過去データ格納部106に格納した第一の製造ラインでのリファレンス物体の検知結果と比較することで、撮影パラメータの評価値を算出する。そして、評価値に基づいて、第二の製造ラインの撮影パラメータを調整する。 Next, in a second production line different from the first production line, the image processing parameters and defect identification model set in the first production line are diverted. Then, the photographing parameters of the photographing section of the second production line are adjusted by the method of the present invention so that detection results similar to those of the first production line can be obtained. In this photographing parameter adjustment, the reference object is photographed by the photographing unit of the second production line and compared with the detection result of the reference object in the first production line stored in the past data storage unit 106. Calculate the evaluation value of the imaging parameter. Then, the imaging parameters of the second manufacturing line are adjusted based on the evaluation value.

本実施形態によれば、外観検査装置において撮影部を交換する場合に、古い撮影部で検知された欠陥を検知することができる撮影パラメータを、新しい撮影部に対して容易に設定することができるようになる。 According to the present embodiment, when the imaging unit is replaced in the visual inspection apparatus, the imaging parameters capable of detecting defects detected by the old imaging unit can be easily set for the new imaging unit. become.

(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
(Other embodiments)
The present invention supplies a program that implements one or more functions of the above-described embodiments to a system or device via a network or a storage medium, and one or more processors in the computer of the system or device reads and executes the program. It can also be realized by processing to It can also be implemented by a circuit (for example, ASIC) that implements one or more functions.

100:情報処理装置、101:撮影部、102:撮影パラメータ設定部、103:ターゲット検知部、104:推定部、105:操作部、106:過去データ格納部 100: information processing apparatus, 101: imaging unit, 102: imaging parameter setting unit, 103: target detection unit, 104: estimation unit, 105: operation unit, 106: past data storage unit

Claims (15)

撮影範囲におけるターゲットの過去の情報を過去データとして格納する格納手段と、
撮影手段により所定の撮影パラメータで撮影された前記撮影範囲の画像から前記ターゲットを検知する検知手段と、
前記検知手段による検知結果と前記過去データとに基づいて評価値を取得し、当該評価値に基づいて前記ターゲットの撮影に適した撮影方法を推定する推定手段と、
を備え
前記推定手段は、前記撮影範囲の過去画像と前記撮影範囲の現在画像との類似度と、前記検知手段による検知結果と、前記過去データとに基づいて前記評価値を取得することを特徴とする情報処理装置。
a storage means for storing past information of the target in the shooting range as past data;
detection means for detecting the target from the image of the imaging range captured by the imaging means with predetermined imaging parameters;
an estimation means for obtaining an evaluation value based on the detection result of the detection means and the past data, and estimating a shooting method suitable for shooting the target based on the evaluation value;
with
The estimation means acquires the evaluation value based on the degree of similarity between the past image of the imaging range and the current image of the imaging range, the detection result of the detection means, and the past data. information processing equipment.
前記撮影手段に対して複数の撮影パラメータを設定する設定手段をさらに備え、
前記検知手段は、前記撮影手段により複数の撮影パラメータで撮影された前記撮影範囲の複数の画像から前記ターゲットを検知し、
前記推定手段は、前記検知手段による複数の検知結果と前記過去データとに基づいて複数の評価値を取得し、当該複数の評価値に基づいて前記撮影方法を推定することを特徴とする請求項1に記載の情報処理装置。
further comprising setting means for setting a plurality of imaging parameters for the imaging means;
The detection means detects the target from a plurality of images of the imaging range captured by the imaging means with a plurality of imaging parameters,
3. The estimating means obtains a plurality of evaluation values based on a plurality of detection results by the detecting means and the past data, and estimates the photographing method based on the plurality of evaluation values. 1. The information processing device according to 1.
前記設定手段は、過去の撮影パラメータを初期パラメータとして、当該初期パラメータに基づいて前記複数の撮影パラメータを設定することを特徴とする請求項2に記載の情報処理装置。 3. The information processing apparatus according to claim 2, wherein said setting means sets said plurality of photographing parameters based on past photographing parameters as initial parameters. 前記評価値は、前記検知結果と前記過去データとが一致する場合、或いは、前記検知結果が前記過去データを包含するより大きな領域である場合に、そうでない場合よりも高い値を示すことを特徴とする請求項1乃至3の何れか1項に記載の情報処理装置。 The evaluation value indicates a higher value when the detection result and the past data match, or when the detection result is a larger area including the past data than otherwise. 4. The information processing apparatus according to any one of claims 1 to 3. 前記推定手段は、前記撮影範囲の経年変化と、前記検知手段による検知結果と、前記過去データとに基づいて前記評価値を取得することを特徴とする請求項1乃至4の何れか1項に記載の情報処理装置。 5. The apparatus according to any one of claims 1 to 4, wherein said estimation means obtains said evaluation value based on a secular change of said photographing range, a result of detection by said detection means, and said past data. The information processing device described. 前記推定手段は、前記経年変化が大きい領域を除外した上で、前記検知手段による検知結果と、前記過去データとに基づいて前記評価値を取得することを特徴とする請求項5に記載の情報処理装置。 6. The information according to claim 5, wherein the estimation means obtains the evaluation value based on the detection result of the detection means and the past data, after excluding the area where the secular change is large. processing equipment. 前記撮影方法は、前記撮影手段の撮影パラメータであることを特徴とする請求項1乃至6の何れか1項に記載の情報処理装置。 7. The information processing apparatus according to claim 1, wherein said photographing method is a photographing parameter of said photographing means. 前記検知結果と、前記過去データと、前記推定手段により推定された前記撮影方法とを表示するとともに、前記撮影方法の選択又は前記撮影方法の再調整を実行するユーザの操作を受け付ける操作部をさらに備えることを特徴とする請求項1乃至7の何れか1項に記載の情報処理装置。 an operation unit that displays the detection result, the past data, and the shooting method estimated by the estimation unit, and receives a user's operation for selecting the shooting method or readjusting the shooting method; 8. The information processing apparatus according to any one of claims 1 to 7, comprising: 前記ターゲットは、点検対象構造物の壁面の変状であることを特徴とする請求項1乃至8の何れか1項に記載の情報処理装置。 9. The information processing apparatus according to any one of claims 1 to 8, wherein the target is deformation of a wall surface of a structure to be inspected. 前記変状は、コンクリート壁面のひび割れであることを特徴とする請求項9に記載の情報処理装置。 10. An information processing apparatus according to claim 9, wherein said deformation is a crack in a concrete wall surface. 前記類似度は、前記過去画像および前記現在画像の輝度分布および色分布のうち少なくとも一方に関する情報を含むことを特徴とする請求項1に記載の情報処理装置。2. The information processing apparatus according to claim 1, wherein said similarity includes information on at least one of luminance distribution and color distribution of said past image and said current image. 前記撮影パラメータは、前記撮影手段の露出、前記撮影手段のフォーカス、前記撮影手段のホワイトバランス、前記撮影手段のシャッタースピード、前記撮影手段の感度、前記画像の彩度、前記画像の色合いのうち少なくとも1つに関するパラメータを含むことを特徴とする請求項7に記載の情報処理装置。The photographing parameters are at least exposure of the photographing means, focus of the photographing means, white balance of the photographing means, shutter speed of the photographing means, sensitivity of the photographing means, saturation of the image, and hue of the image. 8. An information processing apparatus according to claim 7, comprising parameters relating to one. 前記撮影手段をさらに備えることを特徴とする請求項1乃至12の何れか1項に記載の情報処理装置。 13. The information processing apparatus according to claim 1, further comprising said photographing means. 撮影範囲におけるターゲットの過去の情報を過去データとして格納する格納手段を備える情報処理装置の制御方法であって、
撮影手段により所定の撮影パラメータで撮影された前記撮影範囲の画像から前記ターゲットを検知する検知工程と、
前記検知工程による検知結果と前記過去データとに基づいて評価値を取得し、当該評価値に基づいて前記ターゲットの撮影に適した撮影方法を推定する推定工程と、
を有し、
前記推定工程では、前記撮影範囲の過去画像と前記撮影範囲の現在画像との類似度と、前記検知工程による検知結果と、前記過去データとに基づいて前記評価値を取得することを特徴とする情報処理装置の制御方法。
A control method for an information processing apparatus comprising storage means for storing past information of a target in an imaging range as past data,
a detection step of detecting the target from the image of the imaging range captured by the imaging means with predetermined imaging parameters;
an estimation step of obtaining an evaluation value based on the detection result of the detection step and the past data, and estimating an imaging method suitable for imaging the target based on the evaluation value;
has
In the estimating step, the evaluation value is obtained based on a degree of similarity between a past image of the imaging range and a current image of the imaging range, a detection result of the detection step, and the past data. A control method for an information processing device.
コンピュータを、請求項1乃至13の何れか1項に記載の情報処理装置として機能させるためのプログラム。 A program for causing a computer to function as the information processing apparatus according to any one of claims 1 to 13 .
JP2018234704A 2018-11-27 2018-12-14 Information processing device, control method and program for information processing device Active JP7311963B2 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018234704A JP7311963B2 (en) 2018-12-14 2018-12-14 Information processing device, control method and program for information processing device
PCT/JP2019/042487 WO2020110576A1 (en) 2018-11-27 2019-10-30 Information processing device
US17/327,892 US20210281748A1 (en) 2018-11-27 2021-05-24 Information processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018234704A JP7311963B2 (en) 2018-12-14 2018-12-14 Information processing device, control method and program for information processing device

Publications (2)

Publication Number Publication Date
JP2020096325A JP2020096325A (en) 2020-06-18
JP7311963B2 true JP7311963B2 (en) 2023-07-20

Family

ID=71085143

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018234704A Active JP7311963B2 (en) 2018-11-27 2018-12-14 Information processing device, control method and program for information processing device

Country Status (1)

Country Link
JP (1) JP7311963B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7564671B2 (en) 2020-09-29 2024-10-09 キヤノン株式会社 Information processing device, control method, and program
EP4024847A4 (en) * 2020-10-23 2022-09-28 NEC Corporation Individual identification device
JPWO2022114006A1 (en) 2020-11-27 2022-06-02

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006108915A (en) 2004-10-01 2006-04-20 Canon Inc Apparatus and method for image photographing
JP2010026661A (en) 2008-07-16 2010-02-04 Noritsu Koki Co Ltd Image processor, image forming apparatus, image processing method, and image processing program
JP2015082830A (en) 2013-10-24 2015-04-27 富士通株式会社 Guide method, information processing apparatus, and guide program
JP2015231101A (en) 2014-06-04 2015-12-21 パイオニア株式会社 Imaging condition estimation apparatus and method, terminal device, computer program and recording medium

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006108915A (en) 2004-10-01 2006-04-20 Canon Inc Apparatus and method for image photographing
JP2010026661A (en) 2008-07-16 2010-02-04 Noritsu Koki Co Ltd Image processor, image forming apparatus, image processing method, and image processing program
JP2015082830A (en) 2013-10-24 2015-04-27 富士通株式会社 Guide method, information processing apparatus, and guide program
JP2015231101A (en) 2014-06-04 2015-12-21 パイオニア株式会社 Imaging condition estimation apparatus and method, terminal device, computer program and recording medium

Also Published As

Publication number Publication date
JP2020096325A (en) 2020-06-18

Similar Documents

Publication Publication Date Title
WO2020110576A1 (en) Information processing device
JP7311963B2 (en) Information processing device, control method and program for information processing device
US8401274B2 (en) Image processing apparatus and method
JP5082776B2 (en) Image processing device
CN105979134B (en) Image processing apparatus, image processing method, and image processing system
US8451335B2 (en) Imaging device
JP7387261B2 (en) Information processing device, information processing method and program
JP5181970B2 (en) Image processing apparatus and image processing method
JP2004260785A (en) Projector with distortion correction function
US9729798B2 (en) Image-capturing apparatus which controls image-capturing direction
JP2010019868A (en) System and method of measuring display at multi-angles
JP2005016991A (en) Infrared structure diagnosis system
JP2005016995A (en) Infrared structure diagnosis method
JP2009224971A (en) Image processing device
JP5633733B2 (en) Dark region noise correction device
JP2007010419A (en) Three-dimensional shape of object verifying system
JP6921606B2 (en) Image processing equipment, image processing methods and programs
JP7305509B2 (en) Information processing device, its control method, program, and storage medium
JP2805897B2 (en) Image quality inspection equipment
JPWO2011141972A1 (en) Luminance correction apparatus, luminance correction system, and luminance correction method
JP7433623B2 (en) Structure image management system
JP3755319B2 (en) Main subject detection device and apparatus using the same
JP2007285753A (en) Flaw detection method and flaw detector
JP7047475B2 (en) Image processing equipment, image processing methods, and image processing programs
JP4464731B2 (en) Image processing program, image processing method, and image processing apparatus

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230609

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230707

R151 Written notification of patent or utility model registration

Ref document number: 7311963

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151