JP2023103459A - Data encoding program and data encoding device - Google Patents

Data encoding program and data encoding device Download PDF

Info

Publication number
JP2023103459A
JP2023103459A JP2023084086A JP2023084086A JP2023103459A JP 2023103459 A JP2023103459 A JP 2023103459A JP 2023084086 A JP2023084086 A JP 2023084086A JP 2023084086 A JP2023084086 A JP 2023084086A JP 2023103459 A JP2023103459 A JP 2023103459A
Authority
JP
Japan
Prior art keywords
displacement
time
reference signal
entire surface
plane displacement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2023084086A
Other languages
Japanese (ja)
Other versions
JP7485155B2 (en
Inventor
巡 高田
Meguri Takada
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2023084086A priority Critical patent/JP7485155B2/en
Publication of JP2023103459A publication Critical patent/JP2023103459A/en
Application granted granted Critical
Publication of JP7485155B2 publication Critical patent/JP7485155B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/30Measuring arrangements characterised by the use of optical techniques for measuring roughness or irregularity of surfaces

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

To reduce the cost required for transmission and accumulation while maintaining a sufficient spatial resolution when encoding or decoding data indicating in-plane displacement extracted from an image.SOLUTION: A data encoding device 20 comprises: a reference signal generation section 21 that generates a reference signal, whose level varies in accordance with stress generated on a specific surface of an object, from whole surface displacement on the specific surface of the object, which is measured from time series images of the object, and in-plane displacement in the specific surface of the object, which is measured from the whole surface displacement and the time series images; a regression coefficient calculation section 22 that calculates, using the reference signal and the in-plane displacement, regression coefficients that indicate an interlocking degree between time series variations at a level of the reference signal and time series variations in the in-plane displacement; and a data output section 23 that outputs the reference signal and the regression coefficient as data indicating the in-plane displacement.SELECTED DRAWING: Figure 1

Description

本発明は、対象物の画像から得られた面内変位のデータを符号化又は復号するための、データ符号化装置、データ復号装置、データ通信システム、及びデータ通信方法に関し、更には、これらを実現するためのプログラムに関する。 The present invention relates to a data encoding device, a data decoding device, a data communication system, and a data communication method for encoding or decoding in-plane displacement data obtained from an image of an object, and further to a program for realizing these.

従来から、橋梁などの構造物の状態を非接触によって判定する技術が提案されている(例えば、特許文献1参照)。このような判定技術によれば、点検員は、構造物に接触することなく、構造物の点検を行うことができる。このような判定技術は、点検員が容易に近づけない場所に接地されている構造物に対して特に有用である。 Conventionally, techniques have been proposed for non-contact determination of the state of a structure such as a bridge (see, for example, Patent Literature 1). According to such a determination technique, an inspector can inspect a structure without coming into contact with the structure. Such determination techniques are particularly useful for structures that are grounded in places that are not easily accessible to inspectors.

特許文献1は、橋梁等の構造物を被写体とした画像から、判定対象となっている部分の面内変位成分を導出し、導出した面内変位成分に基づいて、構造物の状態を判定する装置を開示している。 Patent Document 1 discloses an apparatus that derives an in-plane displacement component of a determination target portion from an image of a structure such as a bridge, and determines the state of the structure based on the derived in-plane displacement component.

具体的には、特許文献1に開示された装置は、まず、可視カメラから、複数の画像を時系列に沿って取得する。そして、特許文献1に開示された装置は、取得した画像のオプティカルフローから、又は画像相関法によって得た変位ベクトル場から、判定対象となる面全体の変位に起因する成分を差し引くことで、面内変位成分を導出する。 Specifically, the device disclosed in Patent Document 1 first acquires a plurality of images in time series from a visible camera. Then, the apparatus disclosed in Patent Document 1 derives an in-plane displacement component by subtracting a component caused by the displacement of the entire surface to be determined from the optical flow of the acquired image or from the displacement vector field obtained by the image correlation method.

次いで、特許文献1に開示された装置は、導出した面内変位成分から、面内変位分布を求め、求めた面内変位分布と、基準となる面内変位分布とを比較する。このとき、ひび割れによる開口などの損傷が発生していると、2つの面内分布に相違点が生じるため、特許文献1に開示された装置は、比較結果から、ひび割れ等の欠陥を検出する。 Next, the apparatus disclosed in Patent Document 1 obtains an in-plane displacement distribution from the derived in-plane displacement component, and compares the obtained in-plane displacement distribution with a reference in-plane displacement distribution. At this time, if there is damage such as an opening due to a crack, a difference occurs in the two in-plane distributions, so the apparatus disclosed in Patent Document 1 detects defects such as cracks from the comparison result.

国際公開第2016/152075号WO2016/152075

ところで、特許文献1に開示された装置によって導出された面内変位成分のデータは、記録のために、データサーバ等に、ネットワークを介して伝送され、そこで蓄積される。しかしながら、このようにして得られた面内変位成分のデータには、データ量が非常に大きいという特性があり、ネットワークを介した伝送及び蓄積を行うために多大なコストを要するという問題がある。 By the way, the in-plane displacement component data derived by the device disclosed in Patent Document 1 is transmitted to a data server or the like via a network for recording, and is accumulated there. However, the in-plane displacement component data obtained in this way has a characteristic that the amount of data is very large, and there is a problem that a large amount of cost is required for transmission and storage via a network.

例えば、構造物を撮影した動画像データの条件が、画素数2048×2048、フレームレート80fps、時間10秒間であるとする。この場合、各画素座標についてX方向及びY方向の変位(各32bit浮動小数点)が得られるとすると、面内変位成分のデータのデータ量は、約26GBとなる。 For example, let us say that the conditions for moving image data of a structure are 2048×2048 pixels, a frame rate of 80 fps, and a time of 10 seconds. In this case, if the X-direction and Y-direction displacements (each 32-bit floating point) are obtained for each pixel coordinate, the data amount of the in-plane displacement component data is approximately 26 GB.

また、従来から、動画像データの圧縮形式としては、MPEGが知られており、このような圧縮形式を用いて、面内変位成分のデータに対して圧縮を行えば、コストを削減できるとも考えられる。しかしながら、MPEGは、時系列の2次元データを効率的に圧縮するための圧縮方式であるのに対して、面内変位成分のデータは、浮動小数点形式の入力信号で構成されている。このため、コストを削減できても、高い圧縮率で圧縮した時に生じる歪みにより、損傷検知による状態の判断の際において精度が大きく低下する可能性がある。 Also, conventionally, MPEG is known as a compression format for moving image data, and if such a compression format is used to compress data of in-plane displacement components, it may be possible to reduce costs. However, MPEG is a compression method for efficiently compressing time-series two-dimensional data, whereas in-plane displacement component data is composed of input signals in floating-point format. Therefore, even if the cost can be reduced, there is a possibility that the accuracy in determining the state by damage detection will be greatly reduced due to the distortion that occurs when the compression is performed at a high compression rate.

また、解像度を間引く(縮小する)などの方法を用いて、データのサイズを削減することも可能ではあるが、損傷検知の際の十分な空間分解能を保ちつつ、コスト低減が可能な実用レベルまでデータのサイズを削減することは困難である。 Although it is possible to reduce the size of the data by using methods such as thinning (reducing) the resolution, it is difficult to reduce the size of the data to a practical level at which costs can be reduced while maintaining sufficient spatial resolution for damage detection.

本発明の目的の一例は、上記問題を解消し、画像から抽出した面内変位を示すデータの符号化又は復号において、十分な空間分解能を保ちつつ、伝送及び蓄積にかかるコストの低減を図り得る、データ符号化装置、データ復号装置、データ通信システム、データ通信方法、及びプログラムを提供することにある。 It is an object of the present invention to provide a data encoding device, a data decoding device, a data communication system, a data communication method, and a program capable of solving the above-described problems and reducing transmission and storage costs while maintaining sufficient spatial resolution when encoding or decoding data representing in-plane displacement extracted from an image.

上記目的を達成するため、本発明の一側面におけるデータ符号化装置は、
対象物の時系列画像から計測された、前記対象物の特定表面における面全体変位と、前記面全体変位及び前記時系列画像から計測された、前記対象物の特定表面における面内変位とから、前記対象物の特定表面に発生する応力に合わせてレベルが変化する、参照信号を生成する、参照信号生成部と、
前記参照信号と前記面内変位とを用いて、前記参照信号のレベルの時系列変化と前記面内変位の時系列変化との連動度を示す、回帰係数を算出する、回帰係数算出部と、
前記参照信号及び前記回帰係数を、前記面内変位を示すデータとして出力する、データ出力部と、
を備えている、ことを特徴とする。
In order to achieve the above object, a data encoding device according to one aspect of the present invention includes:
a reference signal generation unit that generates a reference signal whose level changes according to the stress generated on the specific surface of the object from the entire surface displacement on the specific surface of the object measured from the time-series images of the object and the in-plane displacement on the specific surface of the object measured from the whole surface displacement and the time-series images;
a regression coefficient calculation unit that calculates a regression coefficient that indicates the degree of interlocking between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement, using the reference signal and the in-plane displacement;
a data output unit that outputs the reference signal and the regression coefficient as data indicating the in-plane displacement;
characterized by comprising

上記目的を達成するため、本発明の一側面におけるデータ復号装置は、
対象物の特定表面に発生する応力に合わせてレベルが変化する参照信号、及び前記参照信号のレベルの時系列変化と前記対象物の特定表面における面内変位の時系列変化との連動度を示す回帰係数、を取得する、データ取得部と、
取得された、前記参照信号及び前記回帰係数を用いて、前記対象物の特定表面における面内変位を復元する、データ復号部と、
を備えている、
ことを特徴とする。
In order to achieve the above object, a data decoding device according to one aspect of the present invention includes:
a data acquisition unit that acquires a reference signal whose level changes according to the stress generated on a specific surface of an object, and a regression coefficient that indicates the degree of linkage between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement on the specific surface of the object;
a data decoding unit that restores an in-plane displacement on a specific surface of the object using the acquired reference signal and the regression coefficient;
is equipped with
It is characterized by

上記目的を達成するため、本発明の一側面におけるデータ通信システムは、データ符号化装置とデータ復号装置とを備え、
前記データ符号化装置は、
対象物の時系列画像から計測された、前記対象物の特定表面における面全体変位と、前記面全体変位及び前記時系列画像から計測された、前記対象物の特定表面における面内変位とから、前記対象物の特定表面に発生する応力に合わせてレベルが変化する、参照信号を生成する、参照信号生成部と、
前記参照信号と前記面内変位とを用いて、前記参照信号のレベルの時系列変化と前記面内変位の時系列変化との連動度を示す、回帰係数を算出する、回帰係数算出部と、
前記参照信号及び前記回帰係数を、前記面内変位を示すデータとして出力する、データ出力部と、を備え、
前記データ復号装置は、
対象物の特定表面に発生する応力に合わせてレベルが変化する参照信号、及び前記参照信号のレベルの時系列変化と前記対象物の特定表面における面内変位の時系列変化との連動度を示す回帰係数、を取得する、データ取得部と、
取得された、前記参照信号及び前記回帰係数を用いて、前記対象物の特定表面における面内変位を復元する、データ復号部と、を備えている、
ことを特徴とする。
To achieve the above object, a data communication system according to one aspect of the present invention comprises a data encoding device and a data decoding device,
The data encoding device is
a reference signal generation unit that generates a reference signal whose level changes according to the stress generated on the specific surface of the object from the entire surface displacement on the specific surface of the object measured from the time-series images of the object and the in-plane displacement on the specific surface of the object measured from the whole surface displacement and the time-series images;
a regression coefficient calculation unit that calculates a regression coefficient that indicates the degree of interlocking between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement, using the reference signal and the in-plane displacement;
a data output unit that outputs the reference signal and the regression coefficient as data indicating the in-plane displacement,
The data decoding device
a data acquisition unit that acquires a reference signal whose level changes according to the stress generated on a specific surface of an object, and a regression coefficient that indicates the degree of linkage between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement on the specific surface of the object;
a data decoding unit that restores an in-plane displacement on a specific surface of the object using the acquired reference signal and the regression coefficient;
It is characterized by

また、上記目的を達成するため、本発明の一側面におけるデータ通信方法は、データ符号化装置とデータ復号装置と用いたデータ通信方法であって、
(a)前記データ符号化装置によって、対象物の時系列画像から計測された、前記対象物の特定表面における面全体変位と、前記面全体変位及び前記時系列画像から計測された、前記対象物の特定表面における面内変位とから、前記対象物の特定表面に発生する応力に合わせてレベルが変化する、参照信号を生成する、ステップと、
(b)前記データ符号化装置によって、前記参照信号と前記面内変位とを用いて、前記参照信号のレベルの時系列変化と前記面内変位の時系列変化との連動度を示す、回帰係数を算出する、ステップと、
(c)前記データ符号化装置によって、前記参照信号及び前記回帰係数を、前記面内変位を示すデータとして出力する、ステップと、
(d)前記データ復号装置によって、対象物の特定表面に発生する応力に合わせてレベルが変化する参照信号、及び前記参照信号のレベルの時系列変化と前記対象物の特定表面における面内変位の時系列変化との連動度を示す回帰係数、を取得する、ステップと、
(e)前記データ復号装置によって、取得された、前記参照信号及び前記回帰係数を用いて、前記対象物の特定表面における面内変位を復元する、ステップと、
を有する、ことを特徴とする。
Further, in order to achieve the above object, a data communication method according to one aspect of the present invention is a data communication method using a data encoding device and a data decoding device,
(a) generating a reference signal, the level of which changes according to the stress generated on the specific surface of the object, from the entire surface displacement of the specific surface of the object measured from the time series images of the object and the in-plane displacement of the specific surface of the object measured from the whole surface displacement and the time series images by the data encoding device;
(b) using the reference signal and the in-plane displacement by the data encoding device to calculate a regression coefficient that indicates the degree of linkage between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement;
(c) outputting the reference signal and the regression coefficient as data indicative of the in-plane displacement by the data encoding device;
(d) obtaining, by the data decoding device, a reference signal whose level changes according to the stress generated on the specific surface of the object, and a regression coefficient that indicates the degree of linkage between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement on the specific surface of the object;
(e) reconstructing an in-plane displacement on a specific surface of the object using the reference signal and the regression coefficients obtained by the data decoding device;
characterized by having

更に、上記目的を達成するため、本発明の一側面における第1のプログラムは、
コンピュータに、
(a)対象物の時系列画像から計測された、前記対象物の特定表面における面全体変位と、前記面全体変位及び前記時系列画像から計測された、前記対象物の特定表面における面内変位とから、前記対象物の特定表面に発生する応力に合わせてレベルが変化する、参照信号を生成する、ステップと、
(b)前記参照信号と前記面内変位とを用いて、前記参照信号のレベルの時系列変化と前記面内変位の時系列変化との連動度を示す、回帰係数を算出する、ステップと、
(c)前記参照信号及び前記回帰係数を、前記面内変位を示すデータとして出力する、ステップと、
を実行させることを特徴とする。
Furthermore, in order to achieve the above object, the first program in one aspect of the present invention is
to the computer,
(a) generating a reference signal whose level changes according to the stress generated on the specific surface of the object from the entire surface displacement on the specific surface of the object measured from the time-series images of the object and the in-plane displacement on the specific surface of the object measured from the whole surface displacement and the time-series images;
(b) using the reference signal and the in-plane displacement to calculate a regression coefficient that indicates the degree of linkage between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement;
(c) outputting the reference signal and the regression coefficient as data indicative of the in-plane displacement;
is characterized by executing

更に、上記目的を達成するため、本発明の一側面における第2のプログラムは、
コンピュータに、
(a)対象物の特定表面に発生する応力に合わせてレベルが変化する参照信号、及び前記参照信号のレベルの時系列変化と前記対象物の特定表面における面内変位の時系列変化との連動度を示す回帰係数、を取得する、ステップと、
(b)取得された、前記参照信号及び前記回帰係数を用いて、前記対象物の特定表面における面内変位を復元する、ステップと、
を実行させることを特徴とする。
Furthermore, in order to achieve the above object, a second program in one aspect of the present invention is
to the computer,
(a) acquiring a reference signal whose level changes according to the stress generated on a specific surface of an object, and a regression coefficient indicating the degree of linkage between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement on the specific surface of the object;
(b) reconstructing an in-plane displacement at a particular surface of the object using the obtained reference signal and the regression coefficients;
is characterized by executing

以上のように、本発明によれば、画像から抽出した面内変位を示すデータの符号化又は復号において、十分な空間分解能を保ちつつ、伝送及び蓄積にかかるコストの低減を図ることができる。 As described above, according to the present invention, it is possible to reduce transmission and storage costs while maintaining sufficient spatial resolution in encoding or decoding data representing in-plane displacement extracted from an image.

図1は、本発明の実施の形態におけるデータ通信システムの構成を示すブロック図である。FIG. 1 is a block diagram showing the configuration of a data communication system according to an embodiment of the invention. 図2は、本発明の実施の形態におけるデータ通信システムの構成をより具体的に示すブロック図である。FIG. 2 is a block diagram more specifically showing the configuration of the data communication system according to the embodiment of the present invention. 図3は、対象物の計測対象領域を撮影した際に、ある点における撮像装置の撮像面上で観測される変位に含まれる成分を説明した図である。FIG. 3 is a diagram illustrating components included in the displacement observed on the imaging surface of the imaging device at a certain point when the measurement target region of the object is photographed. 図4は、計測対象領域を撮影した画像上の特定領域で観察される変位(δxij,δyij)の2次元空間分布の様子を模擬的に示した図である。FIG. 4 is a diagram schematically showing a two-dimensional spatial distribution of displacements (δx ij , δy ij ) observed in a specific region on an image of the measurement target region. 図5(a)~図5(c)は、それぞれ、本発明の実施の形態において回帰係数算出部によって行われる処理を説明するための図である。5(a) to 5(c) are diagrams for explaining the processing performed by the regression coefficient calculator in the embodiment of the present invention. 図6は、本発明の実施の形態におけるデータ符号化装置の動作を示すフロー図である。FIG. 6 is a flow chart showing the operation of the data encoding device according to the embodiment of the present invention. 図7は、本発明の実施の形態におけるデータ復号装置の動作を示すフロー図である。FIG. 7 is a flow chart showing the operation of the data decoding device according to the embodiment of the present invention. 図8は、本発明の実施の形態におけるデータ符号化装置又はデータ復号装置を実現するコンピュータの一例を示すブロック図である。FIG. 8 is a block diagram showing an example of a computer that implements the data encoding device or data decoding device according to the embodiment of the present invention.

(実施の形態)
以下、本発明の実施の形態における、データ符号化装置、データ復号装置、データ通信システム、データ通信方法、及びプログラムについて、図1~図8を参照しながら説明する。
(Embodiment)
A data encoding device, a data decoding device, a data communication system, a data communication method, and a program according to embodiments of the present invention will be described below with reference to FIGS. 1 to 8. FIG.

[システム構成]
最初に、図1を用いて、本実施の形態におけるデータ符号化装置、データ復号装置、及びデータ通信システムの構成について説明する。図1は、本発明の実施の形態におけるデータ通信システムの構成を示すブロック図である。
[System configuration]
First, using FIG. 1, configurations of a data encoding device, a data decoding device, and a data communication system according to this embodiment will be described. FIG. 1 is a block diagram showing the configuration of a data communication system according to an embodiment of the invention.

図1に示す本実施の形態におけるデータ通信システム10は、対象物の画像から得られた面内変位のデータのデータ通信を行うためのシステムである。図1に示すように、データ通信システム10は、データ符号化装置20と、データ復号装置30とを備えている。また、データ符号化装置20とデータ復号装置30とは、インターネット等のネットワーク40を介して接続されている。 A data communication system 10 according to the present embodiment shown in FIG. 1 is a system for performing data communication of in-plane displacement data obtained from an image of an object. As shown in FIG. 1, the data communication system 10 includes a data encoding device 20 and a data decoding device 30 . The data encoding device 20 and the data decoding device 30 are connected via a network 40 such as the Internet.

また、図1に示すデータ符号化装置20は、対象物の画像から得られた面内変位のデータを符号化する装置である。図1に示すように、データ符号化装置20は、参照信号生成部21と、回帰係数算出部22と、データ出力部23と、を備えている。 A data encoding device 20 shown in FIG. 1 is a device that encodes in-plane displacement data obtained from an image of an object. As shown in FIG. 1, the data encoding device 20 includes a reference signal generation section 21, a regression coefficient calculation section 22, and a data output section .

このうち、参照信号生成部21は、面全体変位と面内変位とから、対象物の特定表面に発生する応力に合わせてレベルが変化する、参照信号を生成する。 Among them, the reference signal generator 21 generates a reference signal whose level changes according to the stress generated on the specific surface of the object from the entire surface displacement and the in-plane displacement.

また、回帰係数算出部22は、参照信号と面内変位とを用いて、参照信号のレベルの時系列変化と面内変位の時系列変化との連動度を示す、回帰係数を算出する。データ出力部23は、参照信号及び回帰係数を、面内変位を示すデータとして、データ復号装置30に出力する。 The regression coefficient calculator 22 also uses the reference signal and the in-plane displacement to calculate a regression coefficient that indicates the degree of linkage between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement. The data output unit 23 outputs the reference signal and the regression coefficient to the data decoding device 30 as data indicating in-plane displacement.

また、図2に示すデータ復号装置30は、データ符号化装置20から出力された、面内変位を示すデータを復号する装置である。図2に示すデータ復号装置30は、データ取得部31と、データ復号部32とを備えている。 A data decoding device 30 shown in FIG. 2 is a device that decodes data indicating in-plane displacement output from the data encoding device 20 . The data decoding device 30 shown in FIG. 2 includes a data acquisition section 31 and a data decoding section 32 .

データ取得部31は、データ符号化装置20によって出力された、参照信号及び回帰係数を取得する。データ復号部32は、参照信号及び回帰係数を用いて、対象物の特定表面における面内変位を復元する。 The data acquisition unit 31 acquires the reference signal and regression coefficients output by the data encoding device 20 . The data decoding unit 32 uses the reference signal and the regression coefficient to restore the in-plane displacement on the specific surface of the object.

このように、本実施の形態では、面内変位を示すデータは、それ自体のサイズを削減するのではなく、参照信号と回帰係数とに変換されてから伝送される。従って、本実施の形態によれば、画像から抽出した面内変位を示すデータの符号化又は復号において、十分な空間分解能を保ちつつ、伝送及び蓄積にかかるコストの低減を図ることが可能となる。 As described above, in the present embodiment, the data indicating the in-plane displacement is not reduced in size but is transmitted after being converted into a reference signal and regression coefficients. Therefore, according to this embodiment, it is possible to reduce transmission and storage costs while maintaining sufficient spatial resolution in encoding or decoding data representing in-plane displacement extracted from an image.

次に、図2~図5を用いて、本実施の形態における、データ符号化装置20、データ復号装置30、及びデータ通信システム10の構成及び機能についてより詳細に説明する。図2は、本発明の実施の形態におけるデータ通信システムの構成をより具体的に示すブロック図である。 Next, the configurations and functions of data encoding device 20, data decoding device 30, and data communication system 10 according to the present embodiment will be described in more detail with reference to FIGS. 2 to 5. FIG. FIG. 2 is a block diagram more specifically showing the configuration of the data communication system according to the embodiment of the present invention.

図2に示すように、本実施の形態では、面内変位が計測される対象物は、橋梁60であり、橋梁60を通過する車両61による加重によって、橋梁60が撓んだときに、橋梁60に設定された計測対象領域における面内変位が計測される。計測対象領域としては、橋梁の桁、床版等が挙げられる。 As shown in FIG. 2, in the present embodiment, the object for which the in-plane displacement is measured is the bridge 60, and when the bridge 60 bends due to the weight of a vehicle 61 passing through the bridge 60, the in-plane displacement in the measurement target area set on the bridge 60 is measured. The measurement target area includes bridge girders, floor slabs, and the like.

また、図2に示すように、データ符号化装置20には、撮像装置50が接続されている。撮像装置50は、動画を撮影可能なカメラであり、時系列画像をフレーム毎に出力する。具体的には、撮像装置50は、設定間隔をおいて、撮影を行い、撮影した画像の画像データを連続的に出力する。本実施の形態では、図2に示すように、撮像装置50は、橋梁60の計測対象領域である床版(底面)を撮影できるように、配置されている。 Further, as shown in FIG. 2, the data encoding device 20 is connected with an imaging device 50 . The imaging device 50 is a camera capable of capturing moving images, and outputs time-series images for each frame. Specifically, the image capturing device 50 captures images at set intervals, and continuously outputs the image data of the captured images. In the present embodiment, as shown in FIG. 2, the imaging device 50 is arranged so as to capture an image of the floor slab (bottom surface), which is the measurement target area of the bridge 60 .

更に、図2に示すように、本実施の形態では、データ符号化装置20は、上述した、参照信号生成部21、回帰係数算出部22、及びデータ出力部23に加えて、画像データ取得部24と、面全体変位計測部25と、面内変位計測部26と、記憶部27とを備えている。 Furthermore, as shown in FIG. 2, in the present embodiment, the data encoding device 20 includes an image data acquisition unit 24, an entire plane displacement measurement unit 25, an in-plane displacement measurement unit 26, and a storage unit 27, in addition to the reference signal generation unit 21, the regression coefficient calculation unit 22, and the data output unit 23 described above.

画像データ取得部24は、撮像装置50から画像データが出力されると、出力された画像データを取得し、取得した画像データを、面全体変位計測部25と、面内変位計測部26とに出力する。 When image data is output from the imaging device 50, the image data acquisition unit 24 acquires the output image data, and outputs the acquired image data to the entire plane displacement measurement unit 25 and the in-plane displacement measurement unit 26.

面全体変位計測部25は、対象物の時系列画像から、対象物の特定表面における面全体変位を計測する。本実施の形態では、面全体変位計測部25は、撮像装置50が出力する時系列画像を取得し、任意の時刻に撮像された画像を基準画像とし、それ以外を処理画像とする。そして、面全体変位計測部25は、基準画像内での特定表面上の計測対象領域に対応する領域(以下「特定領域」と表記する)の各点について、処理画像毎に、処理画像内で対応する位置をそれぞれ探索して、変位を算出する。このようにして算出された処理画像毎の特定領域に対する変位が、変位分布となる。 The entire surface displacement measuring unit 25 measures the entire surface displacement on a specific surface of the object from the time-series images of the object. In the present embodiment, the entire surface displacement measuring unit 25 acquires the time-series images output by the imaging device 50, and uses an image captured at an arbitrary time as a reference image and the other images as processed images. Then, the entire surface displacement measuring unit 25 finds the corresponding position in each processed image for each point in the region corresponding to the measurement target region on the specific surface in the reference image (hereinafter referred to as “specific region”), and calculates the displacement. The displacement with respect to the specific region for each processed image calculated in this way is the displacement distribution.

具体的には、面全体変位計測部25は、特定領域内のある箇所(座標)に最も類似している処理画像における箇所(座標)を探索して、特定した箇所(座標)の変位を算出する。類似している箇所の特定手法としては、例えば、ある箇所(座標)、およびその周辺の座標の輝度値を用いて、SAD(Sum of Squared Difference)、SSD(Sum of Absolute Difference)、NCC(Normalized Cross-Correlation)、ZNCC(Zero-means Normalized Cross-Correlation)等の類似度相関関数を用いて、最も相関が高い位置(座標)を探索する手法が挙げられる。 Specifically, the entire surface displacement measuring unit 25 searches for a point (coordinates) in the processed image that is most similar to a certain point (coordinates) in the specific region, and calculates the displacement of the specified point (coordinates). Examples of a method for identifying similar locations include a method of searching for the position (coordinates) with the highest correlation using a similarity correlation function such as SAD (Sum of Squared Difference), SSD (Sum of Absolute Difference), NCC (Normalized Cross-Correlation), ZNCC (Zero-means Normalized Cross-Correlation), etc., using luminance values of a certain location (coordinates) and coordinates around it.

このような算出処理を、特定領域内の各座標に対して繰り返し実施することで、その処理画像における特定領域に対する変位の分布を得ることができる。また同様の処理を、処理画像毎に行うことで、処理画像毎に特定領域に対する変位分布を得ることができる。ここで、計測対象領域の特定の座標を(i,j))とし、算出される変位を(δxij, δyij)と表記することとする。 By repeatedly performing such calculation processing for each coordinate in the specific region, it is possible to obtain the displacement distribution for the specific region in the processed image. Further, by performing the same processing for each processed image, it is possible to obtain the displacement distribution for the specific region for each processed image. Here, the specific coordinates of the measurement target area are defined as (i, j)), and the calculated displacement is expressed as (Δx ij , Δy ij ).

続いて、面全体変位計測部25は、算出した変位(δxij,δyij)と、撮影情報とから、計測対象領域の面方向における移動量(Δx、Δy)と法線方向における移動量(Δz)とを算出する。また、面全体変位計測部25は、算出した変位(δxij,δyij)と、移動量(Δx、Δy、Δz)が、面全体変位となる。また、面全体変位計測部25は、算出した変位(δxij,δyij)と、移動量(Δx、Δy、Δz)とを、面全体変位情報として、記憶部27に格納する。撮影情報としては、撮像装置50における固体撮像素子の1画素のサイズ、レンズの焦点距離、撮像装置50から計測対象領域までの撮像距離、撮影フレームレート、等が挙げられる。 Next, from the calculated displacement (δx ij , δy ij ) and the imaging information, the entire surface displacement measuring unit 25 calculates the amount of movement (Δx, Δy) in the surface direction and the amount of movement (Δz) in the normal direction of the measurement target area. Further, the displacement (δx ij , δy ij ) and the amount of movement (Δx, Δy, Δz) calculated by the entire surface displacement measuring unit 25 become the displacement of the entire surface. Further, the entire surface displacement measuring unit 25 stores the calculated displacements (δx ij , δy ij ) and the movement amounts (Δx, Δy, Δz) in the storage unit 27 as the entire surface displacement information. The imaging information includes the size of one pixel of the solid-state imaging device in the imaging device 50, the focal length of the lens, the imaging distance from the imaging device 50 to the measurement target area, the imaging frame rate, and the like.

面内変位計測部26は、面全体変位計測部25によって計算された移動量(Δx、Δy、Δz)と時系列画像とから、橋梁60の特定表面における面内変位を計測する。ここで、面内変位については、(δδxij ,δδyij)と表記する。 The in-plane displacement measurement unit 26 measures the in-plane displacement on the specific surface of the bridge 60 from the movement amount (Δx, Δy, Δz) calculated by the entire surface displacement measurement unit 25 and the time-series images. Here, the in-plane displacement is expressed as (δδx ij , δδy ij ).

続いて、図3及び図4を用いて、面全体変位計測部25及び面内変位計測部26における処理について具体的に説明する。図3は、対象物の計測対象領域を撮影した際に、ある点における撮像装置の撮像面上で観測される変位に含まれる成分を説明した図である。また、図3では、対象物である橋梁60が、通過する車両61によって、負荷を受け、その結果、計測対象領域が3次元方向に移動量(Δx、Δy、Δz)分だけ移動した状態を示している。 Next, the processing in the entire surface displacement measuring unit 25 and the in-plane displacement measuring unit 26 will be specifically described with reference to FIGS. 3 and 4. FIG. FIG. 3 is a diagram illustrating components included in the displacement observed on the imaging surface of the imaging device at a certain point when the measurement target region of the object is photographed. FIG. 3 also shows a state in which a bridge 60, which is an object, receives a load from a passing vehicle 61, and as a result, the measurement target area moves in the three-dimensional direction by the amount of movement (Δx, Δy, Δz).

ここで、撮像装置50の撮像面の中心、つまりレンズの光軸と撮像面との交点となる撮像中心にあたる点を原点とした座標系を考える。この座標系において、撮像装置50の撮像面上の座標(i, j)の点Aにおいて観測される変位(δxij,δyij)について考える。なお、撮像装置50の撮像面上の座標(i, j)は、撮影された画像上の座標に置き換えることもできる。 Here, consider a coordinate system whose origin is the center of the imaging surface of the imaging device 50, that is, the point corresponding to the imaging center, which is the intersection of the optical axis of the lens and the imaging surface. In this coordinate system, consider the displacement (δx ij , δy ij ) observed at point A at coordinates (i, j) on the imaging surface of imaging device 50 . Note that the coordinates (i, j) on the imaging surface of the imaging device 50 can be replaced with the coordinates on the captured image.

図3の状態では、橋梁60の計測対象領域には、画面上の水平方向及び垂直方向(X,Y方向)と、法線方向(Z方向)において、移動量(Δx、Δy、Δz)が発生している。計測対象領域は、画面内の水平方向及び垂直方向(X,Y方向)に移動した分(Δx、Δy)だけ、撮像装置50の撮像面に対して平行に移動する。また、法線方向(Z方向)に移動した分(Δz)だけ撮像装置50に近づく。そのため、撮像距離は移動量Δzだけ短くなる。 In the state of FIG. 3, the measurement target area of the bridge 60 has movement amounts (Δx, Δy, Δz) in the horizontal and vertical directions (X, Y directions) and the normal direction (Z direction) on the screen. The measurement target area moves parallel to the imaging surface of the imaging device 50 by the amount (Δx, Δy) of movement in the horizontal direction and vertical direction (X, Y directions) within the screen. Also, it approaches the imaging device 50 by the amount (Δz) of movement in the normal direction (Z direction). Therefore, the imaging distance is shortened by the movement amount Δz.

これにより、図3に示すように、撮像装置50の撮像面に対して水平方向(X方向)における計測対象領域の移動量Δxによって生じる変位δxとは別に、移動量Δzによる変位δzxijが生じる。同様に、撮像装置50の撮像面には、画面に対して垂直方向(Y方向)における撮像装置50の移動量Δyによって生じる変位δyとは別に、移動量Δzによる変位δzyijも生じる。 As a result, as shown in FIG. 3, in addition to the displacement .delta.x caused by the movement amount .DELTA.x of the measurement target area in the horizontal direction (X direction) with respect to the imaging surface of the imaging device 50, a displacement .delta.zxij due to the movement amount .DELTA.z is generated. Similarly, on the imaging surface of the image pickup device 50, a displacement δzy ij due to the movement amount Δz is also generated in addition to the displacement δy caused by the movement amount Δy of the image pickup device 50 in the direction perpendicular to the screen (Y direction).

また、橋梁60が負荷を受けたことによって計測対象領域の表面が変形した場合(ΔΔXij,ΔΔYij)、それに伴って撮像装置50の撮像面には、面内変位(δδxij,δδyij)も重ね合わされる。 Further, when the surface of the measurement target area is deformed (ΔΔX ij , ΔΔY ij ) due to the load applied to the bridge 60, the in-plane displacement (δδx ij , δδy ij ) is also superimposed on the imaging plane of the imaging device 50 accordingly.

ここで、計測対象領域の表面の変形に伴う面内変位(δδxij ,δδyij)は、例えば、ひび割れのような欠陥がない健全な領域では、表面の変位は連続的に変化するのに対し、ひび割れをまたぐ領域では表面の変位は連続的に変化せずに不連続に変化する。このように、欠陥がない健全な領域と何らかの欠陥がある領域とでは、表面の変位の分布が異なるという特徴を示す。 Here, the in-plane displacement (δδx ij , δδy ij ) associated with the deformation of the surface of the measurement target region changes continuously in a healthy region without defects such as cracks, but does not change continuously but changes discontinuously in a region across cracks. In this way, a healthy region without defects and a region with some defects have different surface displacement distributions.

そして、計測対象領域では、発生する全ての変位が足し合わされて、合成ベクトルとなって観察される。すなわち、点A(i, j)で観測される変位(δxij,δyij)は、後述の図4に示すように、以下の数1及び数2によって表すことができる。 Then, in the measurement target area, all generated displacements are summed up and observed as a composite vector. That is, the displacement (δx ij , δy ij ) observed at the point A(i, j) can be expressed by the following Equations 1 and 2, as shown in FIG. 4 which will be described later.

Figure 2023103459000002
Figure 2023103459000002

Figure 2023103459000003
Figure 2023103459000003

ここで、レンズの主点から計測対象領域までの撮像距離をL、撮像装置50のレンズ焦点距離をf、撮像中心からの座標を(i,j)とすると、対象物60の面方向の移動(Δx, Δy)に伴う変位(δx, δy)、法線方向の移動(Δz)に伴う変位(δzxij,δzyij)は、それぞれ、下記の数3、数4で表される。 Let L be the imaging distance from the principal point of the lens to the measurement target area, f be the lens focal length of the imaging device 50, and (i, j ) be the coordinates from the imaging center.

Figure 2023103459000004
Figure 2023103459000004

Figure 2023103459000005
Figure 2023103459000005

計測対象領域がすべて同じ3次元の動きをしていると仮定すると、上記の数3及び数4で示される面方向の移動(Δx, Δy)に伴う変位(δx, δy)は、点Aの座標によらず一定であることがわかる。また、法線方向の移動(Δz)に伴う変位(δzxij ,δzyij)は、点Aの座標が原点から離れるほど大きくなることがわかる。一方、計測対象領域の面内変位(δδxij ,δδyij)は、点Aの座標の座標によらず、表面のひび割れなどの欠陥の位置などに応じて連続・不連続な変位の分布を示す。 Assuming that all the measurement target areas are moving in the same three-dimensional manner, the displacement (δx, δy) associated with the movement (Δx, Δy) in the plane direction shown by Equations 3 and 4 above is constant regardless of the coordinates of point A. Also, it can be seen that the displacement (δzx ij , δzy ij ) associated with the movement (Δz) in the normal direction increases as the coordinates of the point A move away from the origin. On the other hand, the in-plane displacement (δδx ij , δδy ij ) of the measurement target region shows a distribution of continuous/discontinuous displacements depending on the position of defects such as cracks on the surface, regardless of the coordinates of the point A.

図4は、計測対象領域を撮影した画像上の特定領域で観察される変位(δxij,δyij)の2次元空間分布(以下、変位分布とする)の様子を模擬的に示した図である。図4に示すように面全体変位計測部25が算出する特定領域の各座標の変位(δxij,δyij)を変位ベクトルとして表記する。この場合、変位ベクトルは、画面全体で一様な方向及び大きさで観察される面方向の移動(Δx, Δy)に伴う変位(δx, δy)と、画面の撮像中心から放射状のベクトル群として観察される法線方向の移動(Δz)に伴う変位(δzxij ,δzyij)と、計測対象領域の表面の変形に伴う面内変位(δδxij ,δδyij)との合成成分として表される。 FIG. 4 is a diagram schematically showing a two-dimensional spatial distribution (hereinafter referred to as a displacement distribution) of displacements (δx ij , δy ij ) observed in a specific region on an image of the measurement target region. As shown in FIG. 4, the displacement (δx ij , δy ij ) of each coordinate of the specific region calculated by the entire surface displacement measuring unit 25 is expressed as a displacement vector. In this case, the displacement vector is expressed as a composite component of displacement (δx, δy) accompanying movement in the plane direction (Δx, Δy) observed in a uniform direction and magnitude over the entire screen, displacement (δzx ij , δzy ij ) accompanying movement in the normal direction (Δz) observed as a vector group radially from the imaging center of the screen, and in-plane displacement (δδx ij , δδy ij ) accompanying deformation of the surface of the measurement target region.

続いて、面方向の移動(Δx,Δy)に伴う変位 (δx, δy)を算出する方法について説明する。図4に示すように、面方向の移動(Δx, Δy)に伴う変位(δx, δy)は、基本的には画面全体で一様な方向及び大きさで観察される。そこで、面全体変位計測部25によって、撮像中心を中心とした特定領域の各座標において算出された変位(δxij,δyij)に、変位の方向によってプラスマイナスを付加し、これを変位ベクトルとする。そして、対象となる各座標における変位ベクトルを全て足し合わせ、平均を算出することにより、面方向の移動(Δx, Δy)に伴う変位(δx,δy)が算出される。 Next, a method for calculating the displacement (δx, δy) associated with the movement (Δx, Δy) in the planar direction will be described. As shown in FIG. 4, the displacements (.delta.x, .delta.y) accompanying the movement (.DELTA.x, .DELTA.y) in the planar direction are basically observed in uniform directions and magnitudes over the entire screen. Therefore, plus or minus is added to the displacement (δx ij , δy ij ) calculated at each coordinate of the specific region around the imaging center by the entire surface displacement measuring unit 25 depending on the direction of displacement, and this is used as a displacement vector. Then, the displacement vectors (Δx, Δy) associated with the movement (Δx, Δy) in the plane direction are calculated by adding up all the displacement vectors at each target coordinate and calculating the average.

次に、法線方向の移動(Δz)に伴う変位ベクトル(δzxij ,δzyij)を算出する方法について述べる。まず、法線方向の移動(Δz)に伴う変位ベクトル(δzxij ,δzyij)のみが発生する状態を考える。そのベクトルの大きさR(i,j)は、特定領域の移動量Δzが特定領域内で一定であれば、下記の数5に示すように、撮像中心からの距離に比例した値となる。また、下記の数6に示すように比例定数をkと置けば、数5は、数7のようにも表される。 Next, a method for calculating the displacement vector (δzx ij , δzy ij ) associated with the movement (Δz) in the normal direction will be described. First, consider a state in which only displacement vectors (δzx ij , δzy ij ) are generated due to movement (Δz) in the normal direction. The magnitude R(i,j) of the vector becomes a value proportional to the distance from the imaging center, as shown in Equation 5 below, if the movement amount Δz of the specific region is constant within the specific region. Also, if k is a constant of proportionality as shown in Equation 6 below, Equation 5 can also be expressed as Equation 7.

Figure 2023103459000006
Figure 2023103459000006

Figure 2023103459000007
Figure 2023103459000007

Figure 2023103459000008
Figure 2023103459000008

一方、実際に、面全体変位計測部25によって最初に算出される変位(δxij,δyij)は、図4に示すように、合成ベクトル(図4:超太実線の矢印)で構成されている。そして、この合成ベクトル(δxij,δyij)は、図4からもわかるとおり、法線方向の移動(Δz)に伴う変位ベクトル(δzxij ,δzyij)(図3、図4:中実線の矢印)と、面内方向の移動(Δx, Δy)に伴う変位ベクトル(δx, δy)(図3、図4:太実線の矢印)と、計測対象領域の表面の変形及び変位に伴う面内変位(δδxij ,δδyij)(図3、図4:細実線の矢印)とを含んでいる。 On the other hand, actually, the displacements (δx ij , δy ij ) first calculated by the entire surface displacement measuring unit 25 are composed of composite vectors (FIG. 4: thick solid line arrows), as shown in FIG. As can be seen from FIG. 4, this combined vector (δx ij , δy ij ) is a displacement vector (δzx ij , δzy ij ) associated with movement (Δz) in the normal direction (FIGS. 3 and 4: medium solid line arrows), a displacement vector (δx, δy) associated with in-plane direction movement (Δx, Δy) (FIGS. 3 and 4: thick solid line arrows), and a displacement vector (δx, δy) associated with in-plane direction movement (Δx, Δy) (FIGS. 3 and 4: bold solid line arrows). displacements (δδx ij , δδy ij ) (FIGS. 3 and 4: thin solid line arrows).

従って、この合成ベクトル(δxij,δyij)から、面内方向の移動(Δx, Δy)に伴う変位ベクトル(δx, δy)を減算して得られたベクトルは、法線方向の移動(Δz)に伴う変位ベクトル(δzxij ,δzyij)と、面内変位(δδxij ,δδyij)との合成ベクトルに相当する。 Therefore, the vector obtained by subtracting the displacement vector ( δx , δy ) accompanying the in-plane movement (Δx, Δy) from the combined vector (δx ij , δy ij ) corresponds to the combined vector of the displacement vector (δzx ij , δzy ij ) accompanying the normal direction movement (Δz) and the in-plane displacement (δδx ij , δδy ij ).

よって、ある座標(i,j)における法線方向の移動(Δz)に伴う変位ベクトル(δzxij ,δzyijj)と面内変位(δδxij ,δδyij)との合成ベクトルをRmes(i ,j)とすると、これらは下記の数8で表すことができる。 Therefore, assuming that the combined vector of the displacement vector (δzx ij , δzy ij ) and the in-plane displacement (δδx ij , δδy ij ) associated with the normal direction movement (Δz) at the coordinates (i, j) is R mes (i, j), these can be expressed by Equation 8 below.

Figure 2023103459000009
Figure 2023103459000009

ところで、面内変位(δδxij ,δδyij)は、面内方向の移動(Δx, Δy)に伴う変位ベクトル(δx, δy)及び法線方向の移動(Δz)に伴う変位ベクトル(δzxij ,δzyij)に比べると、十分に小さいとみなせる。そのため、支配的な成分である面内方向の移動(Δx, Δy)に伴う変位ベクトル(δx, δy)及び法線方向の移動(Δz)に伴う変位ベクトル(δzxij ,δzyij)に着目すると、上記の数8は、下記の数9のように表すことができる。

Figure 2023103459000010
By the way, the in-plane displacement (δδx ij , δδy ij ) can be regarded as sufficiently small compared to the displacement vector (δx, δy) associated with the in-plane direction movement (Δx, Δy) and the displacement vector (δzx ij , δzy ij ) associated with the normal direction movement (Δz). Therefore, focusing on the displacement vector (δx, δy) accompanying the movement (Δx, Δy) in the in-plane direction and the displacement vector (δzx ij , δzy ij ) accompanying the movement (Δz) in the normal direction, which are the dominant components, Equation 8 above can be expressed as Equation 9 below.
Figure 2023103459000010

この場合、座標(i, j)におけるRmes(i ,j)は、法線方向の移動(Δz)に伴う変位ベクトル成分(δzxij ,δzyij)とほぼ等しいとして扱うことができる。このとき、法線方向の移動量Δzを与えた時の変位ベクトルは、数6~数8に示すR(i, j)で表される。 In this case, R mes (i , j) at coordinates (i, j) can be treated as approximately equal to the displacement vector components (δzx ij , δzy ij ) associated with movement (Δz) in the normal direction. At this time, the displacement vector when the amount of movement Δz in the normal direction is given is represented by R(i, j) shown in Equations 6-8.

このため、面全体変位計測部25は、数9によって求めた変位ベクトルの大きさRmes(i ,j)を用いて、法線方向の移動(Δz)に伴う変位ベクトル(δzxij ,δzyij)による変位ベクトルの大きさR(i ,j)の拡大・縮小の割合を推定する。具体的には、面全体変位計測部25は、下記の数10に示す評価関数E(k)を最少にする比例定数kを求めることによって、R(i ,j)の倍率を推定する。 Therefore, the entire surface displacement measuring unit 25 uses the displacement vector magnitude R mes (i , j) obtained by Equation 9 to estimate the expansion/reduction ratio of the displacement vector magnitude R(i, j) due to the displacement vector (δzx ij , δzy ij ) associated with the movement (Δz) in the normal direction. Specifically, the entire surface displacement measuring unit 25 estimates the magnification of R(i,j) by obtaining the proportional constant k that minimizes the evaluation function E(k) shown in Equation 10 below.

Figure 2023103459000011
Figure 2023103459000011

従って、面全体変位計測部25は、上記の数10に最小2乗法を適用して、比例定数kを算出する。また、評価関数E(k)としては、上記の数10に示したRmes(i ,j)とR(i ,j)との差の2乗和以外に、絶対値和、他の累乗和等が用いられていても良い。 Therefore, the entire surface displacement measuring unit 25 applies the method of least squares to Equation 10 to calculate the constant of proportionality k. Further, as the evaluation function E(k), in addition to the sum of squares of the difference between R mes (i ,j) and R(i ,j) shown in Equation 10, a sum of absolute values, a sum of powers, or the like may be used.

そして、面全体変位計測部25は、算出した比例定数kを、拡大・縮小の割合を示す定数として、上記数7に適用して、移動量Δzを算出する。そして、面全体変位計測部は、算出したΔzと、面方向の移動(Δx, Δy)に伴う変位(δx,δy)と、撮影情報とを、上記数3に適用することによって、移動量Δx及びΔyも算出する。 Then, the entire surface displacement measuring unit 25 applies the calculated proportionality constant k as a constant indicating the ratio of enlargement/reduction to Equation 7 to calculate the movement amount Δz. Then, the entire surface displacement measuring unit applies the calculated Δz, the displacement (δx, δy) accompanying the movement (Δx, Δy) in the surface direction, and the imaging information to Equation 3 above to calculate the movement amounts Δx and Δy.

また、面全体変位計測部25は、撮像装置50による撮影の毎、即ち、時系列画像のフレーム毎に、計測対象領域の面方向における移動量と、計測対象領域の法線方向における移動量とを算出する。そして、面全体変位計測部25は、時系列画像のフレーム毎に算出した移動量を、面全体変位情報として、記憶部27に格納する。また、この場合、面全体変位情報は、撮影の時間間隔をサンプリング間隔とした時系列信号として扱うことができる。 In addition, the entire surface displacement measuring unit 25 calculates the amount of movement of the measurement target area in the planar direction and the amount of movement of the measurement target area in the normal direction for each photographing by the imaging device 50, that is, for each frame of time-series images. Then, the entire surface displacement measuring unit 25 stores the movement amount calculated for each frame of the time-series images in the storage unit 27 as the entire surface displacement information. In this case, the entire surface displacement information can be handled as a time-series signal with sampling intervals equal to the imaging time intervals.

面内変位計測部26は、面全体変位と対象物の時系列画像とから、対象物の特定表面における面内変位を計測する。本実施の形態では、面内変位計測部26は、面全体変位計測部25によって算出された計測対象領域の面方向における移動量(Δx, Δy)、及び計測対象領域の法線方向における移動量(Δz)を用いて、最初に算出された変位(変位ベクトル(δxij,δyij)から、計測対象領域の面内変位(δδxij ,δδyij)を算出する。また、面内変位の算出は、時系列画像のフレーム毎に行われている。 The in-plane displacement measuring unit 26 measures the in-plane displacement on the specific surface of the object from the whole-plane displacement and the time-series images of the object. In the present embodiment, the in-plane displacement measurement unit 26 calculates the in-plane displacement (δδx ij , δδy ij ) of the measurement target region from the first calculated displacement (displacement vector (δx ij , δy ij ) using the movement amount (Δx, Δy) of the measurement target region in the plane direction calculated by the entire surface displacement measurement unit 25 and the movement amount (Δz ) of the measurement target region in the normal direction of the measurement target region. is performed for each frame of time-series images.

図4によると、面内変位(δδxij ,δδyij)を算出するためには、面内変位計測部26によって算出された変位ベクトル(δxij,δyij)から、計測対象領域の移動量(Δx ,Δy ,Δz)によって発生する変位成分を減算すれば良いことが分かる。つまり、面内変位計測部26は、下記の数11及び数12を用いることによって、面内変位(δδxij ,δδyij)を算出する。 According to FIG. 4, in order to calculate the in-plane displacement (δδx ij , δδy ij ), the displacement component generated by the movement amount (Δx, Δy, Δz) of the measurement target area can be subtracted from the displacement vector (δx ij , δy ij ) calculated by the in-plane displacement measuring unit 26. That is, the in-plane displacement measuring unit 26 calculates in-plane displacements (δδx ij , δδy ij ) by using Equations 11 and 12 below.

また、面内変位計測部26は、撮像装置50によって撮影が行われる度に、即ち、時系列に沿って、面内変位(δδxij ,δδyij)を算出する。そして、面内変位計測部26は、時系列画像のフレーム毎に算出した面内変位を、面内変位情報として、記憶部27に格納する。また、この場合、面内変位情報は、撮影の時間間隔をサンプリング間隔とした時系列信号として扱うことができる。なお、本明細書においては、面内変位情報は、「面内変位信号」とも表記する。 In addition, the in-plane displacement measuring unit 26 calculates the in-plane displacement (δδx ij , δδy ij ) every time the imaging device 50 takes an image, that is, along the time series. Then, the in-plane displacement measurement unit 26 stores the in-plane displacement calculated for each frame of the time-series image in the storage unit 27 as in-plane displacement information. In this case, the in-plane displacement information can be handled as a time-series signal with sampling intervals equal to the imaging time intervals. In this specification, the in-plane displacement information is also referred to as "in-plane displacement signal".

Figure 2023103459000012
Figure 2023103459000012

Figure 2023103459000013
Figure 2023103459000013

参照信号生成部21は、本実施の形態では、対象物の特定表面上の注目点の特定方向における面内変位から、注目点の特定方向における歪みの時系列変化ε(t)を算出し、算出した歪みの時系列変化ε(t)を示す信号を、参照信号として生成する。 In the present embodiment, the reference signal generation unit 21 calculates the time-series change ε(t) of the strain in a specific direction of the target point from the in-plane displacement in the specific direction of the target point on the specific surface of the object, and generates a signal indicating the calculated time-series change ε(t) of the strain as the reference signal.

具体的には、予め、データ通信システム10の操作者等によって、特定表面上の計測対象領域において注目点が指定される。図2に示すように、対象物が橋梁60であり、計測対象領域が床版である場合は、床版上の点が注目点として指定される。 Specifically, the operator or the like of the data communication system 10 designates a point of interest in the measurement target area on the specific surface in advance. As shown in FIG. 2, when the object is the bridge 60 and the measurement target area is the floor slab, a point on the floor slab is specified as the point of interest.

参照信号生成部21は、注目点が指定されると、注目点を取り囲む複数の点(例えば4点)を決定する。ここで、各点で囲まれた領域を「局所領域」とする。次に、参照信号生成部21は、記憶部27から、決定した点それぞれにおける面内変位情報を取得する。 When the point of interest is designated, the reference signal generator 21 determines a plurality of points (for example, four points) surrounding the point of interest. Here, the area surrounded by each point is called a "local area". Next, the reference signal generation unit 21 acquires in-plane displacement information at each determined point from the storage unit 27 .

そして、特定方向についても、注目点と同様に、予め指定されている場合は、参照信号生成部21は、取得した各点の面内変位情報を用いて、局所領域の特定方向における長さの変化率を求め、求めた変化率を歪みの時系列変化ε(t)とする。 Then, if the specific direction is also specified in advance, similarly to the point of interest, the reference signal generation unit 21 uses the in-plane displacement information of each acquired point to obtain the rate of change in the length of the local region in the specific direction, and the obtained rate of change is taken as the time-series change ε(t) of the strain.

一方、特定方向が予め指定されていない場合は、参照信号生成部21は、取得した各点の面内変位情報を用いて、特異値分解を実施することによって、局所領域の最も変化の大きい方向を特定する。そして、参照信号生成部21は、特定した方向における局所領域の長さの変化率を求め、求めた変化率を歪みの時系列変化ε(t)とする。 On the other hand, if a specific direction is not specified in advance, the reference signal generation unit 21 uses the acquired in-plane displacement information of each point to perform singular value decomposition, thereby specifying the direction in which the local region changes the most. Then, the reference signal generator 21 obtains the change rate of the length of the local region in the specified direction, and sets the obtained change rate as the time-series change ε(t) of the strain.

その後、参照信号生成部21は、算出した歪みの時系列変化から得られた参照信号を、参照信号情報として、記憶部27に格納する。 After that, the reference signal generation unit 21 stores the reference signal obtained from the calculated time-series variation of the distortion in the storage unit 27 as reference signal information.

回帰係数算出部22は、本実施の形態では、特定表面上の計測対象領域の点(i,j)毎に、回帰係数を算出する。回帰係数算出部22は、まず、記憶部27に格納されている面内変位情報から、面内変位の時系列変化を特定し、記憶部27に格納されている参照信号情報から、参照信号のレベルの時系列変化を特定する。そして、回帰係数算出部22は、特定表面上の計測対象領域の点(i,j)毎に、特定した参照信号のレベルの時系列変化と、同じく特定した面内変位の時系列変化とから、両者の連動度を示す回帰係数を算出する。 In this embodiment, the regression coefficient calculator 22 calculates a regression coefficient for each point (i, j) of the measurement target region on the specific surface. The regression coefficient calculator 22 first identifies the time-series change in in-plane displacement from the in-plane displacement information stored in the storage unit 27, and the time-series change in the level of the reference signal from the reference signal information stored in the storage unit 27. Then, the regression coefficient calculation unit 22 calculates a regression coefficient indicating the degree of interlocking between the specified time series change in the level of the reference signal and the similarly specified time series change in the in-plane displacement for each point (i, j) of the measurement target area on the specific surface.

ここで、図5を用いて、回帰係数算出部22による処理について説明する。図5(a)~図5(c)は、それぞれ、本発明の実施の形態において回帰係数算出部によって行われる処理を説明するための図である。 Here, processing by the regression coefficient calculation unit 22 will be described using FIG. 5(a) to 5(c) are diagrams for explaining the processing performed by the regression coefficient calculator in the embodiment of the present invention.

具体的には、最初に回帰係数算出部22は、図5(a)に示すように、参照信号のレベルの時系列変化と、特定の点(i,j)における面内変位(δδxij ,δδyij)の時系列変化とを特定する。また、このとき特定される面内変位は、x方向における面内変位δδxij 及びy方向における面内変位δδyijのうちいずれか一方であっても良いし、両方であっても良い。前者の場合、一方の面内変位としては、例えば、対象物が橋梁60であれば、橋梁60の長手方向における面内変位が挙げられる。また、後者の場合は、x方向における面内変位δδxij とy方向における面内変位δδyijとの平均の面内変位が、特定されても良い。 Specifically, as shown in FIG. 5(a), the regression coefficient calculator 22 first identifies the time-series change in the level of the reference signal and the time-series change in the in-plane displacement (δδx ij , δδy ij ) at the specific point (i, j). Moreover, the in-plane displacement specified at this time may be either one of the in-plane displacement δδx ij in the x direction and the in-plane displacement δδy ij in the y direction, or may be both. In the former case, one example of in-plane displacement is in-plane displacement in the longitudinal direction of the bridge 60 if the object is the bridge 60 . In the latter case, the average in-plane displacement of the in-plane displacement δδx ij in the x direction and the in-plane displacement δδy ij in the y direction may be specified.

次いで、回帰係数算出部22は、図5(b)に示すように、点(i,j)毎に、時系列に沿って、即ち、時系列画像のフレーム毎に、参照信号と面内変位とを比較する。そして、回帰係数算出部22は、図5(c)に示すように、点(i,j)毎に、参照信号のレベルの時系列変化と面内変位の時系列変化との関係を示す回帰直線を求め、更に、その傾きを回帰係数として算出する。また、回帰直線の算出、及び回帰係数の算出は、x方向及びy方向それぞれについて行われており、実際には、x方向における回帰係数と、y方向における回帰係数とが算出されている。 Next, the regression coefficient calculator 22 compares the reference signal and the in-plane displacement for each point (i, j) along the time series, that is, for each frame of the time-series image, as shown in FIG. 5(b). Then, as shown in FIG. 5(c), the regression coefficient calculation unit 22 obtains a regression line indicating the relationship between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement for each point (i, j), and further calculates the slope as the regression coefficient. Further, the calculation of the regression line and the calculation of the regression coefficient are performed in each of the x direction and the y direction. Actually, the regression coefficient in the x direction and the regression coefficient in the y direction are calculated.

データ出力部23は、本実施の形態では、記憶部27に格納されている参照信号情報と、点(i,j)毎に算出された回帰係数とを、面内変位を示すデータとして、ネットワーク40を介して、データ復号装置30へと出力する。 In the present embodiment, the data output unit 23 outputs the reference signal information stored in the storage unit 27 and the regression coefficient calculated for each point (i, j) to the data decoding device 30 via the network 40 as data indicating in-plane displacement.

データ復号装置30は、本実施の形態では、例えば、PC(Personal Computer)、スマートフォン、タブレット型端末、といった端末装置のオペレーティングシステム上に、プログラムによって構築されている。データ復号装置30は、端末装置の表示装置33に接続されている。 In this embodiment, the data decryption device 30 is constructed by a program on the operating system of a terminal device such as a PC (Personal Computer), a smart phone, or a tablet terminal. The data decoding device 30 is connected to the display device 33 of the terminal device.

データ復号装置30において、データ取得部31は、データ符号化装置20のデータ出力部23から出力されてきた、参照信号情報と、点(i,j)毎に算出された回帰係数とを取得する。 In the data decoding device 30 , the data acquisition unit 31 acquires the reference signal information and the regression coefficient calculated for each point (i, j) output from the data output unit 23 of the data encoding device 20 .

データ復号部32は、本実施の形態では、点(i,j)毎に、時系列に沿って、参照信号情報で特定される参照信号のレベルに、回帰係数を乗算することによって、橋梁60の計測対象領域での面内変位を復元する。また、データ復号部32は、復元した面内変位を表示するための画像データを生成し、生成した画像データを表示装置33に出力して、その画面上に面内変位を表示させる。 In the present embodiment, the data decoding unit 32 multiplies the level of the reference signal specified by the reference signal information by the regression coefficient along the time series for each point (i, j), thereby restoring the in-plane displacement in the measurement target area of the bridge 60. The data decoding unit 32 also generates image data for displaying the restored in-plane displacement, outputs the generated image data to the display device 33, and displays the in-plane displacement on its screen.

[装置動作]
次に、本発明の実施の形態におけるデータ通信システム10の動作について図6及び図7を用いて説明する。以下においては、適宜図1~図5を参照しながら、データ符号化装置20及びデータ復号装置30それぞれの動作を説明する。また、本実施の形態1では、データ通信システム10、即ち、データ符号化装置20及びデータ復号装置30を動作させることによって、データ通信方法が実施される。よって、本実施の形態におけるデータ通信方法の説明は、以下のデータ符号化装置20及びデータ復号装置30の動作説明に代える。
[Device operation]
Next, operations of the data communication system 10 according to the embodiment of the present invention will be described with reference to FIGS. 6 and 7. FIG. Hereinafter, operations of the data encoding device 20 and the data decoding device 30 will be described with reference to FIGS. 1 to 5 as appropriate. Further, in Embodiment 1, the data communication method is implemented by operating the data communication system 10, that is, the data encoding device 20 and the data decoding device 30. FIG. Therefore, the description of the data communication method in this embodiment is replaced with the description of the operations of data encoding device 20 and data decoding device 30 below.

最初に図6を用いて、データ符号化装置20の動作について説明する。図6は、本発明の実施の形態におけるデータ符号化装置の動作を示すフロー図である。 First, the operation of the data encoding device 20 will be described with reference to FIG. FIG. 6 is a flow chart showing the operation of the data encoding device according to the embodiment of the present invention.

図6に示すように、最初に、画像データ取得部24は、撮像装置50から時系列画像の画像データが出力されると、出力された画像データを取得し、取得した画像データを、フレーム毎に、面全体変位計測部25及び面内変位計測部26に出力する(ステップA1)。 As shown in FIG. 6, first, when image data of time-series images is output from the imaging device 50, the image data acquisition unit 24 acquires the output image data, and outputs the acquired image data to the entire surface displacement measurement unit 25 and the in-plane displacement measurement unit 26 for each frame (step A1).

次に、面全体変位計測部25は、ステップA1によって時系列画像の画像データが出力されてくると、フレーム毎に、対象物である橋梁60の計測対象領域の面全体変位を計測する(ステップA2)。また、面全体変位計測部25は、計測結果を、面全体変位情報として、記憶部27に格納する。 Next, when the image data of the time-series images is output in step A1, the entire surface displacement measuring unit 25 measures the entire surface displacement of the measurement target area of the bridge 60, which is the object, for each frame (step A2). Further, the entire surface displacement measuring unit 25 stores the measurement result in the storage unit 27 as the entire surface displacement information.

次に、面内変位計測部26は、ステップA1で出力されてきた時系列画像の画像データと、ステップA2で計測された面全体変位とを用いて、フレーム毎に、対象物である橋梁60の計測対象領域における面内変位を計測する(ステップA3)。また、面内変位計測部26は、計測結果を、面内変位情報として、記憶部27に格納する。 Next, the in-plane displacement measurement unit 26 uses the image data of the time-series images output in step A1 and the entire-plane displacement measured in step A2 to measure the in-plane displacement in the measurement target area of the bridge 60, which is the object, for each frame (step A3). The in-plane displacement measurement unit 26 also stores the measurement result in the storage unit 27 as in-plane displacement information.

次に、参照信号生成部21は、ステップA2で計測された面全体変位と、ステップA3で計測された面内変位とから、対象物の特定表面に発生する応力に合わせてレベルが変化する、参照信号を生成する(ステップA4)。また、参照信号生成部21は、生成した参照信号を、参照信号情報として、記憶部27に格納する。 Next, the reference signal generation unit 21 generates a reference signal whose level changes according to the stress generated on the specific surface of the object from the entire surface displacement measured in step A2 and the in-plane displacement measured in step A3 (step A4). Further, the reference signal generation unit 21 stores the generated reference signal in the storage unit 27 as reference signal information.

次に、回帰係数算出部22は、ステップA4で生成された参照信号と、ステップA3で計測された面内変位とを用いて、特定表面上の計測対象領域の点(i,j)毎に、参照信号のレベルの時系列変化と面内変位の時系列変化との連動度を示す、回帰係数を算出する(ステップA5)。 Next, the regression coefficient calculation unit 22 uses the reference signal generated in step A4 and the in-plane displacement measured in step A3 to calculate a regression coefficient indicating the degree of linkage between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement for each point (i, j) of the measurement target region on the specific surface (step A5).

次に、データ出力部23は、ステップA4で生成された参照信号と、ステップA5で算出された点(i,j)毎の回帰係数とを、面内変位を示すデータとして、ネットワーク40を介して、データ復号装置30に送信する(ステップA6)。ステップA6の実行により、データ符号化装置20での処理は終了する。 Next, the data output unit 23 transmits the reference signal generated in step A4 and the regression coefficient for each point (i, j) calculated in step A5 to the data decoding device 30 via the network 40 as data indicating in-plane displacement (step A6). By executing step A6, the processing in the data encoding device 20 ends.

続いて、図7を用いて、データ復号装置30の動作について説明する。図7は、本発明の実施の形態におけるデータ復号装置の動作を示すフロー図である。 Next, the operation of the data decoding device 30 will be described with reference to FIG. FIG. 7 is a flow chart showing the operation of the data decoding device according to the embodiment of the present invention.

図7に示すように、最初に、データ復号装置30において、データ取得部31は、データ符号化装置20から送信されてきた、面内変位を示すデータ、即ち、参照信号及び点(i,j)毎の回帰係数を取得する(ステップB1)。 As shown in FIG. 7, first, in the data decoding device 30, the data acquisition unit 31 acquires the data indicating the in-plane displacement transmitted from the data encoding device 20, that is, the reference signal and the regression coefficient for each point (i, j) (step B1).

次に、データ復号部32は、ステップB1で取得された参照信号及び点(i,j)毎の回帰係数を用いて、対象物の特定表面における面内変位を復元する(ステップB2)。 Next, the data decoding unit 32 restores the in-plane displacement on the specific surface of the object using the reference signal acquired in step B1 and the regression coefficient for each point (i, j) (step B2).

その後、データ復号部32は、復元した面内変位を表示するための画像データを生成し、生成した画像データを表示装置33に出力して、その画面上に面内変位を表示させる(ステップB3)。ステップB3の実行により、データ復号装置30における処理は終了する。 After that, the data decoding unit 32 generates image data for displaying the restored in-plane displacement, outputs the generated image data to the display device 33, and displays the in-plane displacement on its screen (step B3). By executing step B3, the processing in the data decoding device 30 ends.

(実施の形態における効果)
以上のように本実施の形態1によれば、面内変位を示すデータ自体を削減することなく、そのデータ量を小さくすることができる。本実施の形態によれば、画像から抽出した面内変位を示すデータの符号化又は復号において、十分な空間分解能を保ちつつ、伝送及び蓄積にかかるコストの低減を図ることが可能となる。
(Effects of Embodiment)
As described above, according to the first embodiment, the data amount can be reduced without reducing the data itself indicating the in-plane displacement. According to this embodiment, in encoding or decoding data representing in-plane displacement extracted from an image, it is possible to reduce transmission and storage costs while maintaining sufficient spatial resolution.

また、本実施の形態において、面内変位を示すデータとして送信される点(i,j)毎の回帰係数は、浮動小数点の画素表現に対応した画像圧縮方式(JPEC-XR等)を用いて圧縮することができる。この場合は、面内変位を示すデータを更に圧縮することができる。 Further, in the present embodiment, the regression coefficient for each point (i, j) transmitted as data indicating in-plane displacement can be compressed using an image compression method (JPEC-XR, etc.) compatible with floating-point pixel representation. In this case, the data representing the in-plane displacement can be further compressed.

加えて、面内変位を示すデータとして送信される参照信号は、浮動小数点に対応したオーディオ圧縮方式(MPEG4-ALS等)を用いて圧縮することができる。この場合も、面内変位を示すデータを更に圧縮することができる。 In addition, the reference signal, which is transmitted as data indicating in-plane displacement, can be compressed using a floating-point audio compression method (MPEG4-ALS, etc.). In this case also, the data representing the in-plane displacement can be further compressed.

[変形例1]
次に、本発明の実施の形態の変形例1~変形例4について説明する。まず、本変形例1では、面全体変位計測部25が、対象物の特定表面の面内方向、及び対象物に印加される外力の印加方向において、面全体変位を計測することが条件となる。なお、上述した実施の形態では、対象物が橋梁60であり、外力の印加方向が法線方向であるので、上記条件は満たされている。
[Modification 1]
Next, modified examples 1 to 4 of the embodiment of the present invention will be described. First, in Modification 1, it is a condition that the entire surface displacement measuring unit 25 measures the entire surface displacement in the in-plane direction of the specific surface of the object and in the application direction of the external force applied to the object. In the above-described embodiment, the object is the bridge 60, and the external force is applied in the normal direction, so the above conditions are satisfied.

そして、本変形例1においては、参照信号生成部21は、外力印加方向における面全体変位の時系列変化D(t)を算出し、算出した面全体変位の時系列変化を示す信号を、参照信号として生成する。具体的には、信号生成部13は、面全体変位情報から、面全体変位計測部25によって計測された、法線方向における移動量(Δz)の時系列変化を特定し、この特定した移動量(Δz)の時系列変化D(t)を参照信号とする。 In Modification 1, the reference signal generator 21 calculates the time-series change D(t) of the entire surface displacement in the external force application direction, and generates a signal indicating the calculated time-series change of the entire surface displacement as the reference signal. Specifically, the signal generation unit 13 identifies the time-series change in the movement amount (Δz) in the normal direction measured by the entire surface displacement measurement unit 25 from the entire surface displacement information, and uses the time-series change D(t) of the identified movement amount (Δz) as a reference signal.

本変形例1によれば、上述した実施の形態と異なり、注目点の指定、更には、特定方向の指定が必要ないため、橋梁60の点検員における負担が軽減される。なお、本変形例1は、撮像装置50が、外力の影響を受けにくいところに十分に固定されており、且つ、外力による応力変動と外力の印加方向における面全体変位とが連動している、場合に有用である。 According to Modification 1, unlike the above-described embodiment, it is not necessary to specify a point of interest and furthermore, to specify a specific direction, so the burden on the inspector of the bridge 60 is reduced. Note that Modification 1 is useful when the imaging device 50 is sufficiently fixed in a location that is not easily affected by external force, and stress fluctuation due to the external force and overall surface displacement in the direction in which the external force is applied are interlocked.

[変形例2]
本変形例2では、参照信号生成部21は、まず、面内変位を用いて、対象物の特定表面における局所歪みを算出し、更に、局所歪みを特定表面全体について積算して、対象物の特定表面全体における歪みの時系列変化を算出する。そして、参照信号生成部21は、算出した歪みの時系列変化を示す信号を、参照信号として生成する。
[Modification 2]
In Modification 2, the reference signal generation unit 21 first calculates the local strain on the specific surface of the object using the in-plane displacement, and then integrates the local strain over the entire specific surface to calculate the time-series change in strain on the entire specific surface of the object. Then, the reference signal generator 21 generates a signal indicating the calculated time-series variation of the distortion as a reference signal.

具体的には、参照信号生成部21は、画像データのフレーム毎に、計測対象領域の座標(i,j)での局所的な変形状態から局所歪みε(t,i,j)を求めるため、まず、座標(i,j)を取り囲む複数の点(例えば4点)を決定する。ここでの各点で囲まれた領域も「局所領域」とする。 Specifically, the reference signal generation unit 21 first determines a plurality of points (for example, four points) surrounding the coordinates (i, j) in order to obtain the local strain ε(t, i, j) from the local deformation state at the coordinates (i, j) of the measurement target region for each frame of the image data. A region surrounded by each point here is also referred to as a “local region”.

次いで、参照信号生成部21は、記憶部17から、決定した点それぞれにおける面内変位情報を取得し、取得した各点の面内変位情報を用いて、特異値分解を実施することによって、局所領域の最も変化の大きい方向を特定する。そして、参照信号生成部21は、特定した方向における局所領域の長さの変化率を求め、求めた変化率を局所歪みs(t,i,j)とする。 Next, the reference signal generation unit 21 acquires in-plane displacement information at each of the determined points from the storage unit 17, and performs singular value decomposition using the acquired in-plane displacement information of each point, thereby identifying the direction of the largest change in the local region. Then, the reference signal generation unit 21 obtains the change rate of the length of the local region in the specified direction, and sets the obtained change rate as the local strain s(t, i, j).

続いて、参照信号生成部21は、局所歪みs(t,i,j)を、計測対象領域全体に亘って積算して、計測対象領域の全体にわたる歪み量S(t)を算出し、算出した歪み量S(t)を参照信号とする。本変形例2では、参照信号は、局所歪みから求められるため、本変形例2は、撮像装置50の固定が不十分な場合、外力による応力変動と外力の印加方向における面全体変位との連動性が低い場合にも有用である。 Subsequently, the reference signal generation unit 21 integrates the local strain s(t, i, j) over the entire measurement target region, calculates the strain amount S(t) over the entire measurement target region, and uses the calculated strain amount S(t) as a reference signal. In Modification 2, the reference signal is obtained from the local strain. Therefore, Modification 2 is useful when the fixing of the imaging device 50 is insufficient, or when the interlocking between the stress fluctuation due to the external force and the displacement of the entire surface in the direction in which the external force is applied is low.

[変形例3]
本変形例3でも、変形例2と同様に、参照信号生成部21は、座標(i,j)を取り囲む複数の点(例えば4点)を決定し、記憶部17から、決定した点それぞれにおける面内変位情報を取得する。但し、本変形例3では、変形例2と異なり、参照信号生成部21は、取得した各点の面内変位情報を用いて、局所領域における局所変形を示す特異値σ1、σ2(σ1≧σ2)及び特異ベクトルv1を求める。なお、ここでの特異ベクトルv1は、特異値σ1に対応する左特異ベクトルとするが、本変形例3では、それ以外の特異ベクトルが選ばれるように決められていても良い。
[Modification 3]
In Modification 3, similarly to Modification 2, the reference signal generation unit 21 determines a plurality of points (for example, four points) surrounding the coordinates (i, j), and acquires in-plane displacement information at each of the determined points from the storage unit 17. However, in Modification 3, unlike Modification 2, the reference signal generation unit 21 uses the acquired in-plane displacement information of each point to obtain the singular values σ 1 and σ 21 ≥ σ 2 ) and the singular vector v 1 indicating the local deformation in the local region. Note that the singular vector v1 here is the left singular vector corresponding to the singular value σ1, but in the present modified example 3, it may be determined to select another singular vector.

次いで、参照信号生成部21は、数13を用いて、局所領域での局所的な開口方向及び大きさを表す局所開口ベクトルvop(t,i,j)を算出する。 Next, the reference signal generator 21 uses Equation 13 to calculate a local aperture vector v op (t, i, j) representing the local aperture direction and size in the local region.

Figure 2023103459000014
Figure 2023103459000014

次に、参照信号生成部21は、算出した局所開口ベクトルの主成分分析を行って、第1主成分を特定する。具体的には、参照信号生成部21は、時刻tにおけるvop(t,i,j)による点群の分布を入力として、点群の最大の広がり方向を、主成分分析により導出する。更に、参照信号生成部21は、主成分分析により得られた第1主成分軸の標準偏差をS(t)とし、これを参照信号とする。本変形例3では、主成分分析を用いることにより、面内変位に含まれるノイズに対して、より頑健な参照信号を得ることができる。 Next, the reference signal generator 21 performs principal component analysis on the calculated local aperture vector to identify the first principal component. Specifically, the reference signal generator 21 receives as input the distribution of the point group by v op (t, i, j) at time t, and derives the maximum spread direction of the point group by principal component analysis. Furthermore, the reference signal generator 21 sets the standard deviation of the first principal component axis obtained by the principal component analysis to S(t), and uses this as a reference signal. In Modification 3, by using principal component analysis, it is possible to obtain a reference signal that is more robust against noise contained in in-plane displacement.

[変形例4]
本変形例4では、変形例2と同様に、参照信号生成部21は、まず、座標(i,j)毎に局所歪みs(t,i,j)を算出する。また、参照信号生成部21は、変形例1と同様に、外力印加方向における面全体変位の時系列変化D(t)も算出する。続いて、参照信号生成部21は、座標(i,j)毎に、局所歪みs(t,i,j)と時系列変化D(t)との回帰係数w(i,j)を算出する。
[Modification 4]
In Modification 4, similarly to Modification 2, the reference signal generator 21 first calculates local strain s(t, i, j) for each coordinate (i, j). Further, the reference signal generator 21 also calculates the time-series change D(t) of the entire surface displacement in the external force application direction, as in the first modification. Subsequently, the reference signal generator 21 calculates a regression coefficient w(i,j) between the local strain s(t,i,j) and the time series change D(t) for each coordinate (i,j).

続いて、参照信号生成部21は、変形例3と同様に、上記数1を用いて、局所領域での局所的な開口方向及び大きさを表す局所開口ベクトルvop(t,i,j)を算出する。 Subsequently, the reference signal generation unit 21 calculates the local aperture vector v op (t, i, j) representing the local aperture direction and size in the local region using Equation 1 as in the third modification.

次に、参照信号生成部21は、第1主成分となる局所開口ベクトルvop(t,i,j)それぞれに、重みとして、回帰係数w(i,j)を乗算する。更に、参照信号生成部21は、時刻tにおける重み乗算後の局所開口ベクトルvop(t,i,j)に対して、変形例3と同様の主成分分析を行う。主成分分析により得られた第1主成分軸の標準偏差をS(t)とし、これを参照信号とする。本変形例4では、外力と連動度の低い点において、局所開口ベクトルの主成分分析への寄与度を下げることにより、面内変位に含まれるノイズに対してより頑健な参照信号を得ることができる。 Next, the reference signal generation unit 21 multiplies each local aperture vector v op (t, i, j), which is the first principal component, by the regression coefficient w(i, j) as a weight. Furthermore, the reference signal generator 21 performs the same principal component analysis as in Modification 3 on the weight-multiplied local aperture vector v op (t, i, j) at time t. Let S(t) be the standard deviation of the first principal component axis obtained by the principal component analysis, and use this as a reference signal. In Modified Example 4, by reducing the degree of contribution of the local aperture vector to the principal component analysis at points where the degree of interlocking with the external force is low, it is possible to obtain a reference signal that is more robust against noise contained in the in-plane displacement.

[プログラム]
本実施の形態における第1のプログラムは、コンピュータに、図6に示すステップA1~A6を実行させるプログラムであれば良い。このプログラムをコンピュータにインストールし、実行することによって、本実施の形態におけるデータ符号化装置20を実現することができる。この場合、コンピュータのプロセッサは、参照信号生成部21、回帰係数算出部22、データ出力部23、画像データ取得部24、面全体変位計測部25、及び面内変位計測部26として機能し、処理を行なう。
[program]
The first program in this embodiment may be any program that causes a computer to execute steps A1 to A6 shown in FIG. By installing this program in a computer and executing it, the data encoding device 20 in this embodiment can be realized. In this case, the processor of the computer functions as a reference signal generation unit 21, a regression coefficient calculation unit 22, a data output unit 23, an image data acquisition unit 24, an entire plane displacement measurement unit 25, and an in-plane displacement measurement unit 26, and performs processing.

また、本実施の形態における第1のプログラムは、複数のコンピュータによって構築されたコンピュータシステムによって実行されても良い。この場合は、例えば、各コンピュータが、それぞれ、参照信号生成部21、回帰係数算出部22、データ出力部23、画像データ取得部24、面全体変位計測部25、及び面内変位計測部26のいずれかとして機能しても良い。 Also, the first program in the present embodiment may be executed by a computer system constructed by a plurality of computers. In this case, for example, each computer may function as one of the reference signal generation unit 21, the regression coefficient calculation unit 22, the data output unit 23, the image data acquisition unit 24, the entire surface displacement measurement unit 25, and the in-plane displacement measurement unit 26.

本実施の形態における第2のプログラムは、コンピュータに、図7に示すステップB1~B3を実行させるプログラムであれば良い。このプログラムをコンピュータにインストールし、実行することによって、本実施の形態におけるデータ復号化装置30を実現することができる。この場合、コンピュータのプロセッサは、データ取得部31及びデータ復号部32として機能し、処理を行なう。 The second program in this embodiment may be any program that causes a computer to execute steps B1 to B3 shown in FIG. By installing this program in a computer and executing it, the data decoding device 30 in this embodiment can be realized. In this case, the processor of the computer functions as a data acquisition section 31 and a data decoding section 32 to perform processing.

また、本実施の形態における第2のプログラムは、複数のコンピュータによって構築されたコンピュータシステムによって実行されても良い。この場合は、例えば、各コンピュータが、それぞれ、データ取得部31及びデータ復号部32のいずれかとして機能しても良い。 Also, the second program in this embodiment may be executed by a computer system constructed by a plurality of computers. In this case, for example, each computer may function as either the data acquisition section 31 or the data decoding section 32 .

ここで、本実施の形態における第1のプログラムを実行することによって、データ符号化装置20を実現するコンピュータと、第本実施の形態における第2のプログラムを実行することによって、データ復号装置30を実現するコンピュータとについて図8を用いて説明する。 Here, a computer that implements the data encoding device 20 by executing the first program in the present embodiment and a computer that implements the data decoding device 30 by executing the second program in the present embodiment will be described with reference to FIG.

図8は、本発明の実施の形態におけるデータ符号化装置又はデータ復号装置を実現するコンピュータの一例を示すブロック図である。図8に示すように、コンピュータ110は、CPU(CentralProcessing Unit)111と、メインメモリ112と、記憶装置113と、入力インターフェイス114と、表示コントローラ115と、データリーダ/ライタ116と、通信インターフェイス117とを備える。これらの各部は、バス121を介して、互いにデータ通信可能に接続される。また、コンピュータ110は、CPU111に加えて、又はCPU111に代えて、GPU(Graphics Processing Unit)、又はFPGA(Field-Programmable Gate Array)を備えていても良い。 FIG. 8 is a block diagram showing an example of a computer that implements the data encoding device or data decoding device according to the embodiment of the present invention. As shown in FIG. 8, computer 110 includes CPU (Central Processing Unit) 111 , main memory 112 , storage device 113 , input interface 114 , display controller 115 , data reader/writer 116 , and communication interface 117 . These units are connected to each other via a bus 121 so as to be able to communicate with each other. Further, the computer 110 may include a GPU (Graphics Processing Unit) or an FPGA (Field-Programmable Gate Array) in addition to the CPU 111 or instead of the CPU 111 .

CPU111は、記憶装置113に格納された、本実施の形態におけるプログラム(コード)をメインメモリ112に展開し、これらを所定順序で実行することにより、各種の演算を実施する。メインメモリ112は、典型的には、DRAM(Dynamic Random Access Memory)等の揮発性の記憶装置である。また、本実施の形態におけるプログラムは、コンピュータ読み取り可能な記録媒体120に格納された状態で提供される。なお、本実施の形態におけるプログラムは、通信インターフェイス117を介して接続されたインターネット上で流通するものであっても良い。 The CPU 111 expands the programs (codes) of the present embodiment stored in the storage device 113 into the main memory 112 and executes them in a predetermined order to perform various calculations. The main memory 112 is typically a volatile storage device such as a DRAM (Dynamic Random Access Memory). Also, the program in the present embodiment is provided in a state stored in computer-readable recording medium 120 . It should be noted that the program in this embodiment may be distributed on the Internet connected via communication interface 117 .

また、記憶装置113の具体例としては、ハードディスクドライブの他、フラッシュメモリ等の半導体記憶装置が挙げられる。入力インターフェイス114は、CPU111と、キーボード及びマウスといった入力機器118との間のデータ伝送を仲介する。表示コントローラ115は、ディスプレイ装置119と接続され、ディスプレイ装置119での表示を制御する。 Further, as a specific example of the storage device 113, in addition to a hard disk drive, a semiconductor storage device such as a flash memory can be cited. Input interface 114 mediates data transmission between CPU 111 and input devices 118 such as a keyboard and mouse. The display controller 115 is connected to the display device 119 and controls display on the display device 119 .

データリーダ/ライタ116は、CPU111と記録媒体120との間のデータ伝送を仲介し、記録媒体120からのプログラムの読み出し、及びコンピュータ110における処理結果の記録媒体120への書き込みを実行する。通信インターフェイス117は、CPU111と、他のコンピュータとの間のデータ伝送を仲介する。 Data reader/writer 116 mediates data transmission between CPU 111 and recording medium 120 , reads programs from recording medium 120 , and writes processing results in computer 110 to recording medium 120 . Communication interface 117 mediates data transmission between CPU 111 and other computers.

また、記録媒体120の具体例としては、CF(Compact Flash(登録商標))及びSD(Secure Digital)等の汎用的な半導体記憶デバイス、フレキシブルディスク(Flexible Disk)等の磁気記録媒体、又はCD-ROM(Compact Disk Read Only Memory)などの光学記録媒体が挙げられる。 Specific examples of the recording medium 120 include general-purpose semiconductor storage devices such as CF (Compact Flash (registered trademark)) and SD (Secure Digital), magnetic recording media such as flexible disks, or optical recording media such as CD-ROMs (Compact Disk Read Only Memory).

なお、本実施の形態におけるデータ符号化装置20及びデータ復号装置30は、プログラムがインストールされたコンピュータではなく、各部に対応したハードウェアを用いることによっても実現可能である。更に、データ符号化装置20及びデータ復号装置30は、一部がプログラムで実現され、残りの部分がハードウェアで実現されていてもよい。 Note that the data encoding device 20 and the data decoding device 30 in the present embodiment can also be realized by using hardware corresponding to each part instead of a computer in which a program is installed. Furthermore, the data encoding device 20 and the data decoding device 30 may be partly realized by a program and the rest by hardware.

上述した実施の形態の一部又は全部は、以下に記載する(付記1)~(付記21)によって表現することができるが、以下の記載に限定されるものではない。 Some or all of the above-described embodiments can be expressed by (Appendix 1) to (Appendix 21) described below, but are not limited to the following descriptions.

(付記1)
対象物の時系列画像から計測された、前記対象物の特定表面における面全体変位と、前記面全体変位及び前記時系列画像から計測された、前記対象物の特定表面における面内変位とから、前記対象物の特定表面に発生する応力に合わせてレベルが変化する、参照信号を生成する、参照信号生成部と、
前記参照信号と前記面内変位とを用いて、前記参照信号のレベルの時系列変化と前記面内変位の時系列変化との連動度を示す、回帰係数を算出する、回帰係数算出部と、
前記参照信号及び前記回帰係数を、前記面内変位を示すデータとして出力する、データ出力部と、
を備えている、ことを特徴とするデータ符号化装置。
(Appendix 1)
a reference signal generation unit that generates a reference signal whose level changes according to the stress generated on the specific surface of the object from the entire surface displacement on the specific surface of the object measured from the time-series images of the object and the in-plane displacement on the specific surface of the object measured from the whole surface displacement and the time-series images;
a regression coefficient calculation unit that calculates a regression coefficient that indicates the degree of interlocking between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement, using the reference signal and the in-plane displacement;
a data output unit that outputs the reference signal and the regression coefficient as data indicating the in-plane displacement;
A data encoding device comprising:

(付記2)
付記1に記載のデータ符号化装置であって、
前記対象物の前記時系列画像から、前記面全体変位を計測する、面全体変位計測部と、
前記面全体変位及び前記時系列画像から、前記面内変位を計測する、面内変位計測部と、
を更に備えている、
ことを特徴とするデータ符号化装置。
(Appendix 2)
The data encoding device according to Supplementary Note 1,
an entire surface displacement measuring unit that measures the entire surface displacement from the time-series images of the object;
an in-plane displacement measuring unit that measures the in-plane displacement from the entire plane displacement and the time-series images;
further comprising
A data encoding device characterized by:

(付記3)
付記1または2に記載のデータ符号化装置であって、
前記面内変位が、前記対象物の特定表面上の点毎に、計測されている場合に、
前記回帰係数算出部が、前記点毎に、前記参照信号と当該点における前記面内変位とを用いて、前記回帰係数を算出し、
前記データ出力部が、前記点毎に、当該点における前記参照信号及び前記回帰係数を出力する、
ことを特徴とするデータ符号化装置。
(Appendix 3)
The data encoding device according to appendix 1 or 2,
When the in-plane displacement is measured for each point on the specific surface of the object,
wherein the regression coefficient calculation unit calculates the regression coefficient for each point using the reference signal and the in-plane displacement at the point;
The data output unit outputs the reference signal and the regression coefficient at each point,
A data encoding device characterized by:

(付記4)
付記1~3のいずれかに記載のデータ符号化装置であって、
前記参照信号生成部が、前記特定表面上の注目点の特定方向における前記面内変位から、前記注目点の前記特定方向における歪みの時系列変化を算出し、算出した前記歪みの時系列変化を示す信号を、前記参照信号として生成する、
ことを特徴とするデータ符号化装置。
(Appendix 4)
The data encoding device according to any one of Appendices 1 to 3,
The reference signal generation unit calculates a time series change in strain in the specific direction of the point of interest from the in-plane displacement in the specific direction of the point of interest on the specific surface, and generates a signal indicating the calculated time series change in strain as the reference signal.
A data encoding device characterized by:

(付記5)
付記1~3のいずれかに記載のデータ符号化装置であって、
前記面全体変位が、前記対象物の特定表面の面内方向、及び前記対象物に印加される外力の印加方向において、計測されている場合に、
前記参照信号生成部が、前記印加方向における前記面全体変位の時系列変化を算出し、算出した前記面全体変位の時系列変化を示す信号を、前記参照信号として生成する、
ことを特徴とするデータ符号化装置。
(Appendix 5)
The data encoding device according to any one of Appendices 1 to 3,
When the whole-plane displacement is measured in the in-plane direction of the specific surface of the object and in the application direction of the external force applied to the object,
The reference signal generation unit calculates a time-series change of the entire surface displacement in the application direction, and generates a signal indicating the calculated time-series change of the entire surface displacement as the reference signal.
A data encoding device characterized by:

(付記6)
付記1~3のいずれかに記載のデータ符号化装置であって、
前記参照信号生成部が、前記面内変位を用いて、前記対象物の特定表面における局所歪みを算出し、更に、前記局所歪みを前記特定表面全体について積算して、前記対象物の特定表面全体における歪みの時系列変化を算出し、算出した前記歪みの時系列変化を示す信号を、前記参照信号として生成する、
ことを特徴とするデータ符号化装置。
(Appendix 6)
The data encoding device according to any one of Appendices 1 to 3,
The reference signal generation unit uses the in-plane displacement to calculate a local strain on a specific surface of the object, further integrates the local strain over the entire specific surface, calculates a time-series change in strain on the entire specific surface of the object, and generates a signal indicating the calculated time-series change in the strain as the reference signal.
A data encoding device characterized by:

(付記7)
対象物の特定表面に発生する応力に合わせてレベルが変化する参照信号、及び前記参照信号のレベルの時系列変化と前記対象物の特定表面における面内変位の時系列変化との連動度を示す回帰係数、を取得する、データ取得部と、
取得された、前記参照信号及び前記回帰係数を用いて、前記対象物の特定表面における面内変位を復元する、データ復号部と、
を備えている、
ことを特徴とするデータ復号装置。
(Appendix 7)
a data acquisition unit that acquires a reference signal whose level changes according to the stress generated on a specific surface of an object, and a regression coefficient that indicates the degree of linkage between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement on the specific surface of the object;
a data decoding unit that restores an in-plane displacement on a specific surface of the object using the acquired reference signal and the regression coefficient;
is equipped with
A data decoding device characterized by:

(付記8)
データ符号化装置とデータ復号装置とを備え、
前記データ符号化装置は、
対象物の時系列画像から計測された、前記対象物の特定表面における面全体変位と、前記面全体変位及び前記時系列画像から計測された、前記対象物の特定表面における面内変位とから、前記対象物の特定表面に発生する応力に合わせてレベルが変化する、参照信号を生成する、参照信号生成部と、
前記参照信号と前記面内変位とを用いて、前記参照信号のレベルの時系列変化と前記面内変位の時系列変化との連動度を示す、回帰係数を算出する、回帰係数算出部と、
前記参照信号及び前記回帰係数を、前記面内変位を示すデータとして出力する、データ出力部と、を備え、
前記データ復号装置は、
対象物の特定表面に発生する応力に合わせてレベルが変化する参照信号、及び前記参照信号のレベルの時系列変化と前記対象物の特定表面における面内変位の時系列変化との連動度を示す回帰係数、を取得する、データ取得部と、
取得された、前記参照信号及び前記回帰係数を用いて、前記対象物の特定表面における面内変位を復元する、データ復号部と、を備えている、
ことを特徴とするデータ通信システム。
(Appendix 8)
comprising a data encoding device and a data decoding device,
The data encoding device is
a reference signal generation unit that generates a reference signal whose level changes according to the stress generated on the specific surface of the object from the entire surface displacement on the specific surface of the object measured from the time-series images of the object and the in-plane displacement on the specific surface of the object measured from the whole surface displacement and the time-series images;
a regression coefficient calculation unit that calculates a regression coefficient that indicates the degree of interlocking between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement, using the reference signal and the in-plane displacement;
a data output unit that outputs the reference signal and the regression coefficient as data indicating the in-plane displacement,
The data decoding device
a data acquisition unit that acquires a reference signal whose level changes according to the stress generated on a specific surface of an object, and a regression coefficient that indicates the degree of linkage between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement on the specific surface of the object;
a data decoding unit that restores an in-plane displacement on a specific surface of the object using the acquired reference signal and the regression coefficient;
A data communication system characterized by:

(付記9)
データ符号化装置とデータ復号装置と用いたデータ通信方法であって、
(a)前記データ符号化装置によって、対象物の時系列画像から計測された、前記対象物の特定表面における面全体変位と、前記面全体変位及び前記時系列画像から計測された、前記対象物の特定表面における面内変位とから、前記対象物の特定表面に発生する応力に合わせてレベルが変化する、参照信号を生成する、ステップと、
(b)前記データ符号化装置によって、前記参照信号と前記面内変位とを用いて、前記参照信号のレベルの時系列変化と前記面内変位の時系列変化との連動度を示す、回帰係数を算出する、ステップと、
(c)前記データ符号化装置によって、前記参照信号及び前記回帰係数を、前記面内変位を示すデータとして出力する、ステップと、
(d)前記データ復号装置によって、対象物の特定表面に発生する応力に合わせてレベルが変化する参照信号、及び前記参照信号のレベルの時系列変化と前記対象物の特定表面における面内変位の時系列変化との連動度を示す回帰係数、を取得する、ステップと、
(e)前記データ復号装置によって、取得された、前記参照信号及び前記回帰係数を用いて、前記対象物の特定表面における面内変位を復元する、ステップと、
を有する、ことを特徴とするデータ通信方法。
(Appendix 9)
A data communication method using a data encoding device and a data decoding device,
(a) generating a reference signal, the level of which changes according to the stress generated on the specific surface of the object, from the entire surface displacement of the specific surface of the object measured from the time series images of the object and the in-plane displacement of the specific surface of the object measured from the whole surface displacement and the time series images by the data encoding device;
(b) using the reference signal and the in-plane displacement by the data encoding device to calculate a regression coefficient that indicates the degree of linkage between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement;
(c) outputting the reference signal and the regression coefficient as data indicative of the in-plane displacement by the data encoding device;
(d) obtaining, by the data decoding device, a reference signal whose level changes according to the stress generated on the specific surface of the object, and a regression coefficient that indicates the degree of linkage between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement on the specific surface of the object;
(e) reconstructing an in-plane displacement on a specific surface of the object using the reference signal and the regression coefficients obtained by the data decoding device;
A data communication method characterized by comprising:

(付記10)
付記9に記載のデータ通信方法であって、
(f)前記データ符号化装置によって、前記対象物の前記時系列画像から、前記面全体変位を計測する、ステップと、
(g)前記データ符号化装置によって、前記面全体変位及び前記時系列画像から、前記面内変位を計測する、ステップと、
を更に有する、
ことを特徴とするデータ通信方法。
(Appendix 10)
The data communication method according to appendix 9,
(f) measuring the entire surface displacement from the time-series images of the object by the data encoding device;
(g) measuring the in-plane displacement from the whole-plane displacement and the time-series images by the data encoding device;
further comprising
A data communication method characterized by:

(付記11)
付記9または10に記載のデータ通信方法であって、
前記面内変位が、前記対象物の特定表面上の点毎に、計測されている場合に、
前記(b)のステップにおいて、前記点毎に、前記参照信号と当該点における前記面内変位とを用いて、前記回帰係数を算出し、
前記(c)のステップにおいて、前記点毎に、当該点における前記参照信号及び前記回帰係数を出力する、
ことを特徴とするデータ通信方法。
(Appendix 11)
The data communication method according to appendix 9 or 10,
When the in-plane displacement is measured for each point on the specific surface of the object,
In step (b), calculating the regression coefficient for each point using the reference signal and the in-plane displacement at the point;
In step (c), for each point, outputting the reference signal and the regression coefficient at the point;
A data communication method characterized by:

(付記12)
付記9~11のいずれかに記載のデータ通信方法であって、
前記(a)のステップにおいて、前記特定表面上の注目点の特定方向における前記面内変位から、前記注目点の前記特定方向における歪みの時系列変化を算出し、算出した前記歪みの時系列変化を示す信号を、前記参照信号として生成する、
ことを特徴とするデータ通信方法。
(Appendix 12)
The data communication method according to any one of Appendices 9 to 11,
In the step (a), from the in-plane displacement of the point of interest on the specific surface, a time-series change in strain in the specific direction is calculated, and a signal indicating the calculated time-series change in the strain is generated as the reference signal.
A data communication method characterized by:

(付記13)
付記9~11のいずれかに記載のデータ通信方法であって、
前記面全体変位が、前記対象物の特定表面の面内方向、及び前記対象物に印加される外力の印加方向において、計測されている場合に、
前記(a)のステップにおいて、前記印加方向における前記面全体変位の時系列変化を算出し、算出した前記面全体変位の時系列変化を示す信号を、前記参照信号として生成する、
ことを特徴とするデータ通信方法。
(Appendix 13)
The data communication method according to any one of Appendices 9 to 11,
When the whole-plane displacement is measured in the in-plane direction of the specific surface of the object and in the application direction of the external force applied to the object,
In step (a), calculating a time-series change in the entire surface displacement in the application direction, and generating a signal indicating the calculated time-series change in the entire surface displacement as the reference signal;
A data communication method characterized by:

(付記14)
付記9~11のいずれかに記載のデータ通信方法であって、
前記(a)のステップにおいて、前記面内変位を用いて、前記対象物の特定表面における局所歪みを算出し、更に、前記局所歪みを前記特定表面全体について積算して、前記対象物の特定表面全体における歪みの時系列変化を算出し、算出した前記歪みの時系列変化を示す信号を、前記参照信号として生成する、
ことを特徴とするデータ通信方法。
(Appendix 14)
The data communication method according to any one of Appendices 9 to 11,
In the step (a), using the in-plane displacement, local strain on a specific surface of the object is calculated, and the local strain is integrated over the entire specific surface to calculate a time-series change in strain on the entire specific surface of the object, and a signal indicating the calculated time-series change in the strain is generated as the reference signal.
A data communication method characterized by:

(付記15)
コンピュータに、
(a)対象物の時系列画像から計測された、前記対象物の特定表面における面全体変位と、前記面全体変位及び前記時系列画像から計測された、前記対象物の特定表面における面内変位とから、前記対象物の特定表面に発生する応力に合わせてレベルが変化する、参照信号を生成する、ステップと、
(b)前記参照信号と前記面内変位とを用いて、前記参照信号のレベルの時系列変化と前記面内変位の時系列変化との連動度を示す、回帰係数を算出する、ステップと、
(c)前記参照信号及び前記回帰係数を、前記面内変位を示すデータとして出力する、ステップと、
を実行させる、プログラム。
(Appendix 15)
to the computer,
(a) generating a reference signal whose level changes according to the stress generated on the specific surface of the object from the entire surface displacement on the specific surface of the object measured from the time-series images of the object and the in-plane displacement on the specific surface of the object measured from the whole surface displacement and the time-series images;
(b) using the reference signal and the in-plane displacement to calculate a regression coefficient that indicates the degree of linkage between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement;
(c) outputting the reference signal and the regression coefficient as data indicative of the in-plane displacement;
The program that causes the to run.

(付記16)
付記15に記載のプログラムであって、
前記コンピュータに、
(d)前記対象物の前記時系列画像から、前記面全体変位を計測する、ステップと、
(e)前記面全体変位及び前記時系列画像から、前記面内変位を計測する、ステップと、
を更に実行させる、
ことを特徴とするプログラム。
(Appendix 16)
The program according to Appendix 15,
to the computer;
(d) measuring the overall surface displacement from the time-series images of the object;
(e) measuring the in-plane displacement from the whole-plane displacement and the time-series images;
further execute
A program characterized by

(付記17)
付記15または16に記載のプログラムであって、
前記面内変位が、前記対象物の特定表面上の点毎に、計測されている場合に、
前記(b)のステップにおいて、前記点毎に、前記参照信号と当該点における前記面内変位とを用いて、前記回帰係数を算出し、
前記(c)のステップにおいて、前記点毎に、当該点における前記参照信号及び前記回帰係数を出力する、
ことを特徴とするプログラム。
(Appendix 17)
The program according to Appendix 15 or 16,
When the in-plane displacement is measured for each point on the specific surface of the object,
In step (b), calculating the regression coefficient for each point using the reference signal and the in-plane displacement at the point;
In step (c), for each point, outputting the reference signal and the regression coefficient at the point;
A program characterized by

(付記18)
付記15~17のいずれかに記載のプログラムであって、
前記(a)のステップにおいて、前記特定表面上の注目点の特定方向における前記面内変位から、前記注目点の前記特定方向における歪みの時系列変化を算出し、算出した前記歪みの時系列変化を示す信号を、前記参照信号として生成する、
ことを特徴とするプログラム。
(Appendix 18)
The program according to any one of Appendices 15 to 17,
In the step (a), from the in-plane displacement of the point of interest on the specific surface, a time-series change in strain in the specific direction is calculated, and a signal indicating the calculated time-series change in the strain is generated as the reference signal.
A program characterized by

(付記19)
付記15~17のいずれかに記載のプログラムであって、
前記面全体変位が、前記対象物の特定表面の面内方向、及び前記対象物に印加される外力の印加方向において、計測されている場合に、
前記(a)のステップにおいて、前記印加方向における前記面全体変位の時系列変化を算出し、算出した前記面全体変位の時系列変化を示す信号を、前記参照信号として生成する、
ことを特徴とするプログラム。
(Appendix 19)
The program according to any one of Appendices 15 to 17,
When the whole-plane displacement is measured in the in-plane direction of the specific surface of the object and in the application direction of the external force applied to the object,
In step (a), calculating a time-series change in the entire surface displacement in the application direction, and generating a signal indicating the calculated time-series change in the entire surface displacement as the reference signal;
A program characterized by

(付記20)
付記15~17のいずれかに記載のプログラムであって、
前記(a)のステップにおいて、前記面内変位を用いて、前記対象物の特定表面における局所歪みを算出し、更に、前記局所歪みを前記特定表面全体について積算して、前記対象物の特定表面全体における歪みの時系列変化を算出し、算出した前記歪みの時系列変化を示す信号を、前記参照信号として生成する、
ことを特徴とするプログラム。
(Appendix 20)
The program according to any one of Appendices 15 to 17,
In the step (a), using the in-plane displacement, local strain on a specific surface of the object is calculated, and the local strain is integrated over the entire specific surface to calculate a time-series change in strain on the entire specific surface of the object, and a signal indicating the calculated time-series change in the strain is generated as the reference signal.
A program characterized by

(付記21)
コンピュータに、
(a)対象物の特定表面に発生する応力に合わせてレベルが変化する参照信号、及び前記参照信号のレベルの時系列変化と前記対象物の特定表面における面内変位の時系列変化との連動度を示す回帰係数、を取得する、ステップと、
(b)取得された、前記参照信号及び前記回帰係数を用いて、前記対象物の特定表面における面内変位を復元する、ステップと、
を実行させる、プログラム。
(Appendix 21)
to the computer,
(a) acquiring a reference signal whose level changes according to the stress generated on a specific surface of an object, and a regression coefficient indicating the degree of linkage between the time-series change in the level of the reference signal and the time-series change in the in-plane displacement on the specific surface of the object;
(b) reconstructing an in-plane displacement at a particular surface of the object using the obtained reference signal and the regression coefficients;
The program that causes the to run.

以上、実施の形態を参照して本願発明を説明したが、本願発明は上記実施の形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。 Although the present invention has been described with reference to the embodiments, the present invention is not limited to the above embodiments. Various changes that can be understood by those skilled in the art can be made to the configuration and details of the present invention within the scope of the present invention.

以上のように、本発明によれば、画像から抽出した面内変位を示すデータの符号化又は復号において、十分な空間分解能を保ちつつ、伝送及び蓄積にかかるコストの低減を図ることができる。本発明は、本発明は、橋梁などの構造物の状態を画像から判定するシステムに有用である。 As described above, according to the present invention, it is possible to reduce transmission and storage costs while maintaining sufficient spatial resolution in encoding or decoding data representing in-plane displacement extracted from an image. INDUSTRIAL APPLICABILITY The present invention is useful for systems that determine the state of structures such as bridges from images.

10 データ通信システム
20 データ符号化装置
21 参照信号生成部
22 回帰係数算出部
23 データ出力部
24 画像データ取得部
25 面全体変位計測部
26 面内変位計測部
27 記憶部
30 データ復号装置
31 データ取得部
32 データ復号部
33 表示装置
40 ネットワーク
50 撮像装置
60 橋梁
110 コンピュータ
111 CPU
112 メインメモリ
113 記憶装置
114 入力インターフェイス
115 表示コントローラ
116 データリーダ/ライタ
117 通信インターフェイス
118 入力機器
119 ディスプレイ装置
120 記録媒体
121 バス

REFERENCE SIGNS LIST 10 data communication system 20 data encoding device 21 reference signal generation unit 22 regression coefficient calculation unit 23 data output unit 24 image data acquisition unit 25 entire plane displacement measurement unit 26 in-plane displacement measurement unit 27 storage unit 30 data decoding device 31 data acquisition unit 32 data decoding unit 33 display device 40 network 50 imaging device 60 bridge 110 computer 111 CPU
112 main memory 113 storage device 114 input interface 115 display controller 116 data reader/writer 117 communication interface 118 input device 119 display device 120 recording medium 121 bus

Claims (10)

1以上のコンピュータを、
対象物の時系列画像に基づいて、前記対象物の特定表面における面全体変位を、前記対象物に印加される外力の印加方向において計測する手段と、
前記対象物の時系列画像と前記対象物に印加される外力の印加方向における面全体変位とに基づいて、前記対象物の特定表面における面内変位を算出する手段と、
前記対象物に印加される外力の印加方向における面全体変位に基づいて、前記印加方向における面全体変位の時系列変化を算出する手段と、
前記印加方向における面全体変位の時系列変化と前記面内変位とに基づいて、前記印加方向における面全体変位の時系列変化と前記面内変位の時系列変化との相関を算出する手段と、
前記印加方向における面全体変位の時系列変化と前記相関に基づいた値を出力する手段として、動作させるデータ符号化プログラム。
one or more computers,
means for measuring the entire surface displacement of a specific surface of the object in the direction of application of the external force applied to the object, based on time-series images of the object;
means for calculating an in-plane displacement on a specific surface of the object based on the time-series images of the object and the entire surface displacement in the application direction of the external force applied to the object;
Means for calculating a time-series change of the entire surface displacement in the application direction of the external force applied to the object, based on the entire surface displacement in the application direction;
means for calculating a correlation between the time-series change in the entire surface displacement in the application direction and the time-series change in the in-plane displacement based on the time-series change in the entire surface displacement in the application direction and the in-plane displacement;
A data encoding program operated as means for outputting a value based on the time-series change of the entire surface displacement in the application direction and the correlation.
前記コンピュータを、更に、
前記印加方向における面全体変位の時系列変化に基づいて、対象物の特定表面に発生する応力に合わせてレベルが変化する参照信号を算出する手段として、
動作させる、請求項1に記載のデータ符号化プログラム。
the computer, further
As a means for calculating a reference signal whose level changes according to the stress generated on the specific surface of the object based on the time series change of the entire surface displacement in the application direction,
2. A data encoding program as claimed in claim 1, to run.
前記印加方向における面全体変位の時系列変化と前記面内変位の時系列変化との相関を算出する手段は、前記印加方向における面全体変位の時系列変化に基づいた前記参照信号のレベルの時系列変化と前記面内変位の時系列変化との相関を算出する、
請求項1に記載のデータ符号化プログラム。
The means for calculating the correlation between the time-series change in the entire surface displacement in the application direction and the time-series change in the in-plane displacement calculates the correlation between the time-series change in the level of the reference signal based on the time-series change in the entire surface displacement in the application direction and the time-series change in the in-plane displacement.
2. A data encoding program according to claim 1.
前記印加方向における面全体変位の時系列変化と前記相関に基づいた値を出力する手段は、前記印加方向における面全体変位の時系列変化と前記相関とに基づいた値を、当該値を前記対象物の特定表面における面内変位へ復号する復号装置へ出力する、
請求項1に記載のデータ符号化プログラム。
The means for outputting a value based on the time-series variation of the entire surface displacement in the application direction and the correlation outputs the value based on the time-series variation of the entire surface displacement in the application direction and the correlation to a decoding device that decodes the value into an in-plane displacement on a specific surface of the object.
2. A data encoding program according to claim 1.
前記前記相関に基づいた値は、回帰係数である、
請求項1に記載のデータ復号化プログラム。
wherein said correlation-based values are regression coefficients;
2. A data decoding program according to claim 1.
対象物の時系列画像に基づいて、前記対象物の特定表面における面全体変位を、前記対象物に印加される外力の印加方向において計測する手段と、
前記対象物の時系列画像と前記対象物に印加される外力の印加方向における面全体変位とに基づいて、前記対象物の特定表面における面内変位を算出する手段と、
前記対象物に印加される外力の印加方向における面全体変位に基づいて、前記印加方向における面全体変位の時系列変化を算出する手段と、
前記印加方向における面全体変位の時系列変化と前記面内変位とに基づいて、前記印加方向における面全体変位の時系列変化と前記面内変位の時系列変化との相関を算出する手段と、
前記印加方向における面全体変位の時系列変化と前記相関に基づいた値を出力する手段と、
を備えている、データ符号化装置。
means for measuring the entire surface displacement of a specific surface of the object in the direction of application of the external force applied to the object, based on time-series images of the object;
means for calculating an in-plane displacement on a specific surface of the object based on the time-series images of the object and the entire surface displacement in the application direction of the external force applied to the object;
Means for calculating a time-series change of the entire surface displacement in the application direction of the external force applied to the object, based on the entire surface displacement in the application direction;
means for calculating a correlation between the time-series change in the entire surface displacement in the application direction and the time-series change in the in-plane displacement based on the time-series change in the entire surface displacement in the application direction and the in-plane displacement;
means for outputting a value based on the time series change of the entire surface displacement in the application direction and the correlation;
A data encoding device comprising:
前記印加方向における面全体変位の時系列変化に基づいて、対象物の特定表面に発生する応力に合わせてレベルが変化する参照信号を算出する手段を、
更に備えている、請求項6に記載のデータ符号化装置。
Means for calculating a reference signal whose level changes according to the stress generated on the specific surface of the object based on the time series change of the entire surface displacement in the application direction,
7. The data encoding apparatus of Claim 6, further comprising:
前記印加方向における面全体変位の時系列変化と前記面内変位の時系列変化との相関を算出する手段は、前記印加方向における面全体変位の時系列変化に基づいた前記参照信号のレベルの時系列変化と前記面内変位の時系列変化との相関を算出する、
請求項6に記載のデータ符号化装置。
The means for calculating the correlation between the time-series change in the entire surface displacement in the application direction and the time-series change in the in-plane displacement calculates the correlation between the time-series change in the level of the reference signal based on the time-series change in the entire surface displacement in the application direction and the time-series change in the in-plane displacement.
7. A data encoding device according to claim 6.
前記印加方向における面全体変位の時系列変化と前記相関に基づいた値を出力する手段は、前記印加方向における面全体変位の時系列変化と前記相関とに基づいた値を、当該値を前記対象物の特定表面における面内変位へ復号する復号装置へ出力する、
請求項6に記載のデータ符号化装置。
The means for outputting a value based on the time-series variation of the entire surface displacement in the application direction and the correlation outputs the value based on the time-series variation of the entire surface displacement in the application direction and the correlation to a decoding device that decodes the value into an in-plane displacement on a specific surface of the object.
7. A data encoding device according to claim 6.
前記前記相関に基づいた値は、回帰係数である、
請求項6に記載のデータ符号化装置。

wherein said correlation-based values are regression coefficients;
7. A data encoding device according to claim 6.

JP2023084086A 2019-06-17 2023-05-22 Data encoding program and data encoding device Active JP7485155B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023084086A JP7485155B2 (en) 2019-06-17 2023-05-22 Data encoding program and data encoding device

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2021528082A JP7287463B2 (en) 2019-06-17 2019-06-17 DATA ENCODER, DATA COMMUNICATION SYSTEM, DATA COMMUNICATION METHOD, AND PROGRAM
PCT/JP2019/023983 WO2020255232A1 (en) 2019-06-17 2019-06-17 Data encoding device, data decoding device, data communication system, data communication method, and computer-readable recording medium
JP2023084086A JP7485155B2 (en) 2019-06-17 2023-05-22 Data encoding program and data encoding device

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2021528082A Division JP7287463B2 (en) 2019-06-17 2019-06-17 DATA ENCODER, DATA COMMUNICATION SYSTEM, DATA COMMUNICATION METHOD, AND PROGRAM

Publications (2)

Publication Number Publication Date
JP2023103459A true JP2023103459A (en) 2023-07-26
JP7485155B2 JP7485155B2 (en) 2024-05-16

Family

ID=74037607

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021528082A Active JP7287463B2 (en) 2019-06-17 2019-06-17 DATA ENCODER, DATA COMMUNICATION SYSTEM, DATA COMMUNICATION METHOD, AND PROGRAM
JP2023084086A Active JP7485155B2 (en) 2019-06-17 2023-05-22 Data encoding program and data encoding device

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2021528082A Active JP7287463B2 (en) 2019-06-17 2019-06-17 DATA ENCODER, DATA COMMUNICATION SYSTEM, DATA COMMUNICATION METHOD, AND PROGRAM

Country Status (2)

Country Link
JP (2) JP7287463B2 (en)
WO (1) WO2020255232A1 (en)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008232998A (en) 2007-03-23 2008-10-02 Osaka Univ Method and device for measuring stress fluctuation distribution of structure, defect detecting method of structure, and risk assessing method of structure
US8600147B2 (en) 2009-06-03 2013-12-03 The United States of America as represented by the Secreatary of the Navy System and method for remote measurement of displacement and strain fields
JP4948660B2 (en) 2010-05-14 2012-06-06 西日本旅客鉄道株式会社 Structure displacement measurement method
JP6511892B2 (en) 2015-03-20 2019-05-15 日本電気株式会社 State determination apparatus for a structure, state determination system, and state determination method
WO2019054419A1 (en) * 2017-09-12 2019-03-21 日本電気株式会社 State determining device, state determining method, and computer-readable recording medium
US10743257B2 (en) 2017-09-15 2020-08-11 Qualcomm Incorporated Techniques and apparatuses for wakeup signal transmission

Also Published As

Publication number Publication date
WO2020255232A1 (en) 2020-12-24
JP7485155B2 (en) 2024-05-16
JPWO2020255232A1 (en) 2020-12-24
JP7287463B2 (en) 2023-06-06

Similar Documents

Publication Publication Date Title
Jana et al. Computer vision‐based real‐time cable tension estimation in Dubrovnik cable‐stayed bridge using moving handheld video camera
JP6954368B2 (en) Displacement component detection device, displacement component detection method, and program
Khaloo et al. Pixel‐wise structural motion tracking from rectified repurposed videos
JP6813025B2 (en) Status determination device, status determination method, and program
Azimbeik et al. Improved image-based, full-field structural displacement measurement using template matching and camera calibration methods
JP7238984B2 (en) Vibration measuring device, vibration measuring method, and program
KR102026427B1 (en) Measurement System for concrete crack using smartphone
US11519780B2 (en) Measurement system, correction processing apparatus, correction processing method, and computer-readable recording medium
Merainani et al. Subspace-based modal identification and uncertainty quantification from video image flows
Hosseinzadeh et al. Pixel-based operating modes from surveillance videos for structural vibration monitoring: A preliminary experimental study
JP7156529B2 (en) Displacement measuring device, displacement measuring method, and program
US11846498B2 (en) Displacement amount measuring device, displacement amount measuring method, and recording medium
JP7287463B2 (en) DATA ENCODER, DATA COMMUNICATION SYSTEM, DATA COMMUNICATION METHOD, AND PROGRAM
US11365963B2 (en) State determination apparatus, state determination method, and computer-readable recording medium
CN110532725B (en) Engineering structure mechanical parameter identification method and system based on digital image
JP6996569B2 (en) Measurement system, correction processing device, correction processing method, and program
JP6954382B2 (en) Vibration reliability calculation device, vibration reliability calculation method, and program
JP6954452B2 (en) Vibration measurement system, vibration measurement device, vibration measurement method, and program
WO2016142965A1 (en) Video processing device, video processing method, and storage medium storing video processing program
Terán et al. Detection and magnification of bridge displacements using video images
JP7211271B2 (en) Image selection method, image selection program, and image selection device
Yang et al. A novel phase-based video motion magnification method for non-contact measurement of micro-amplitude vibration
Feng Switching from Vitamin K Antagonists to Non-vitamin K Oral Anticoagulants, Drug-Drug Interactions, and Health Outcomes among Working-Age Adults with Atrial Fibrillation

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230522

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240313

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240415