JP7229034B2 - measurement system - Google Patents

measurement system Download PDF

Info

Publication number
JP7229034B2
JP7229034B2 JP2019017452A JP2019017452A JP7229034B2 JP 7229034 B2 JP7229034 B2 JP 7229034B2 JP 2019017452 A JP2019017452 A JP 2019017452A JP 2019017452 A JP2019017452 A JP 2019017452A JP 7229034 B2 JP7229034 B2 JP 7229034B2
Authority
JP
Japan
Prior art keywords
sensor
light emitting
camera
measuring device
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019017452A
Other languages
Japanese (ja)
Other versions
JP2020125935A (en
Inventor
貴大 楠美
秀徳 平田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ono Sokki Co Ltd
Original Assignee
Ono Sokki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ono Sokki Co Ltd filed Critical Ono Sokki Co Ltd
Priority to JP2019017452A priority Critical patent/JP7229034B2/en
Publication of JP2020125935A publication Critical patent/JP2020125935A/en
Application granted granted Critical
Publication of JP7229034B2 publication Critical patent/JP7229034B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、姿勢が既知でないセンサを用いてセンサ外部の座標系と関連づけた計測を行う技術に関するものである。 TECHNICAL FIELD The present invention relates to a technique of performing measurement in association with a coordinate system outside the sensor using a sensor whose orientation is unknown.

姿勢が既知でないセンサを用いてセンサ外部の座標系と関連づけた計測を行う技術としては、加速度センサに対して地磁気センサを固定し、地磁気センサを用いて実空間の鉛直方向/水平方向を検出して鉛直方向/水平方向と加速度センサの座標系とを対応づけることにより、加速度センサの姿勢に関わらずに、鉛直方向の加速度と水平方向の加速度の計測を行えるようにした技術が知られている(たとえば、特許文献1)。 As a technology to perform measurement in relation to the coordinate system outside the sensor using a sensor whose orientation is unknown, a geomagnetic sensor is fixed to the acceleration sensor, and the vertical and horizontal directions in real space are detected using the geomagnetic sensor. There is known a technology that enables measurement of vertical and horizontal accelerations regardless of the orientation of the acceleration sensor by associating the vertical/horizontal direction with the coordinate system of the acceleration sensor. (For example, Patent Document 1).

特開2014-130107号公報JP 2014-130107 A

上述した技術によれば、センサを用いてセンサ外部の座標系と関連づけた計測を行うために、センサ毎に当該センサとは別種のセンサが必要となり、センサの構成の複雑化や大型化や高コスト化を招く。 According to the above-described technology, each sensor requires a different type of sensor from the sensor in order to perform measurement in association with a coordinate system outside the sensor. incur costs.

そこで、本発明は、より簡易な構成において、姿勢が既知でないセンサを用いてセンサ外部の座標系と関連づけた計測を行うことを課題とする。 Accordingly, an object of the present invention is to perform measurement in association with a coordinate system outside the sensor using a sensor whose orientation is not known in a simpler configuration.

前記課題達成のために、本発明は、計測装置に接続したセンサを用いて計測を行う計測システムにカメラを備え、前記センサに、相互に異なる色で発光する同一平面上にない3以上の発光部を設け、前記計測装置は、当該計測装置に接続したセンサの発光部を点灯させ、前記カメラで撮影した画像中に現れる3以上の各色発光部の配置パターンから、前記センサの傾きを算定するセンサ姿勢算定手段を備えたものである。 In order to achieve the above object, the present invention provides a measurement system that performs measurement using a sensor connected to a measurement device and includes a camera, and the sensor is provided with three or more lights that emit light in different colors and are not on the same plane. A unit is provided, and the measuring device turns on the light emitting part of the sensor connected to the measuring device, and calculates the inclination of the sensor from the arrangement pattern of the three or more color light emitting parts appearing in the image taken by the camera. It is provided with a sensor attitude calculation means.

このような計測システムは、前記センサ姿勢算定手段において、前記3以上の各色の発光部の配置パターンとして、前記カメラで撮影した画像中にある3以上の各色発光部の領域の中心を配置パターンとして用いてもよい。 In such a measurement system, in the sensor attitude calculation means, as the arrangement pattern of the three or more light emitting units of each color, the center of the area of the three or more color light emitting units in the image captured by the camera is used as the arrangement pattern. may be used.

また、前記センサを異なる方向を向いた3以上の面を備えた外形を有するものとし、前記3以上の発光部を、前記3以上の面の各々に配置してもよい。
また、前記センサを、直方体の外形を有するものとし、前記直方体の6つの面のうち、少なくとも5面に、相互に異なる色で発光する発光部を配置してもよい。
この場合には、前記センサ姿勢算定手段において、当該計測装置に接続したセンサの発光部を点灯し、前記カメラで撮影した画像中に2つの発光部のみが現れており、当該2つの発光部の領域の中心が水平方向にも垂直方向にも並んでいない場合にセンサのエラーを検出するようにしてもよい。
Further, the sensor may have an outer shape with three or more surfaces facing different directions, and the three or more light emitting portions may be arranged on each of the three or more surfaces.
Further, the sensor may have a rectangular parallelepiped outer shape, and light-emitting units that emit light in different colors may be arranged on at least five of the six surfaces of the rectangular parallelepiped.
In this case, in the sensor posture calculation means, the light emitting parts of the sensor connected to the measuring device are lit, and only two light emitting parts appear in the image taken by the camera, and the two light emitting parts A sensor error may be detected if the centers of the regions are neither horizontally nor vertically aligned.

また、以上の計測システムは、前記センサを、当該センサに対して固定された座標系であるセンサ座標系で表される測定値を検出するものとし、前記計測装置に、前記センサが検出した測定値を、前記センサ姿勢算定手段が算定した前記センサの傾きを用いて、前記センサ座標系と異なる座標系で表した測定値に変換する座標系変換手段を備えるようにしてもよい。 Further, in the above measurement system, the sensor detects a measurement value represented by a sensor coordinate system, which is a coordinate system fixed with respect to the sensor, and the measurement device detects the measurement value detected by the sensor. Coordinate system conversion means may be provided for converting the values into measured values expressed in a coordinate system different from the sensor coordinate system using the tilt of the sensor calculated by the sensor attitude calculation means.

また、以上の計測システムに、前記センサを複数備え、前記複数のセンサが各々接続される複数のチャンネルを備え、前記計測装置に、順次、前記各チャンネルについて、当該チャンネルに接続したセンサの発光部を所定の点灯パターンで点灯し、前記カメラで撮影した画像中に現れる前記点灯パターンを認識し、当該点灯パターンを認識した前記画像中の位置を、当該チャンネルに接続されたセンサに対応する前記画像中の位置として算定するセンサ位置算定手段を設けてよい。 Further, the above measurement system includes a plurality of the sensors, a plurality of channels to which the plurality of sensors are connected, and the measurement device is sequentially provided with the light emitting unit of the sensor connected to the channel for each of the channels. is lit in a predetermined lighting pattern, the lighting pattern appearing in the image captured by the camera is recognized, and the position in the image where the lighting pattern is recognized is detected in the image corresponding to the sensor connected to the channel. A sensor position calculation means may be provided which calculates the position in the middle.

または、以上の計測システムに、前記センサを複数備え、前記複数のセンサが各々接続される複数のチャンネルを備え、前記計測装置に、前記各チャンネルに接続したセンサの発光部を、当該チャンネルの識別を表す前記チャンネル毎に異なる点灯パターンで点灯し、前記カメラで撮影した画像中に現れる前記各点灯パターンを認識し、点灯パターンを認識した前記画像中の位置を、当該点灯パターンが識別を表すチャンネルに接続されたセンサに対応する前記画像中の位置として算定するセンサ位置算定手段を設けてよい。 Alternatively, the above measurement system may include a plurality of the sensors, a plurality of channels to which the plurality of sensors are connected respectively, and the measurement device may include a light-emitting portion of the sensor connected to each channel to identify the channel. each lighting pattern that is different for each of the channels, each lighting pattern appearing in the image captured by the camera is recognized, and the position in the image where the lighting pattern is recognized is identified by the channel that the lighting pattern represents identification Sensor position calculation means may be provided for calculating the position in the image corresponding to the sensor connected to the.

以上のような計測システムによれば、各センサに発光部を設けて、各センサをカメラで撮影するだけの簡易な構成でセンサの傾きを検出して、センサの外部の座標系と関連づけた計測を行うことができる。 According to the measurement system described above, each sensor is provided with a light-emitting unit, and the inclination of the sensor is detected with a simple configuration of simply photographing each sensor with a camera, and measurement is performed in association with the coordinate system outside the sensor. It can be performed.

本発明によれば、より簡易な構成において、姿勢が既知でないセンサを用いてセンサ外部の座標系と関連づけた計測を行うことができる。 According to the present invention, in a simpler configuration, it is possible to perform measurement in association with a coordinate system outside the sensor using a sensor whose orientation is unknown.

本発明の実施形態に係る計測システムの構成を示すブロック図である。1 is a block diagram showing the configuration of a measurement system according to an embodiment of the present invention; FIG. 本発明の実施形態に係るセンサを示す図である。Fig. 3 shows a sensor according to an embodiment of the invention; 本発明の実施形態に係るセンサとカメラの配置例を示す図である。It is a figure which shows the example of arrangement|positioning of the sensor and camera which concern on embodiment of this invention. 本発明の実施形態に係るセンサ姿勢算出処理を示すフローチャートである。4 is a flowchart showing sensor attitude calculation processing according to the embodiment of the present invention; 本発明の実施形態に係るセンサ姿勢算出の原理を示す図である。It is a figure which shows the principle of sensor attitude|position calculation which concerns on embodiment of this invention. 本発明の実施形態に係る計測装置の表示例を示す図である。It is a figure which shows the example of a display of the measuring device which concerns on embodiment of this invention. 本発明の実施形態に係るセンサの他の例を示す図である。It is a figure which shows the other example of the sensor which concerns on embodiment of this invention.

以下、本発明に係る計測システムの実施形態について説明する。
図1に、本実施形態に係る計測システムの構成を示す。
図示するように、計測システムは、複数のセンサ1、カメラ2、各々センサを接続することができる複数のチャンネルを備えた計測装置3を備えている。
センサ1は、加速度センサや振動センサや磁気センサや指向性マイクなどの、測定量の1または複数の方向毎の大きさを測定値として検出するセンサであり、検出する測定量の方向は、センサ1に対して固定された座標系で検出する。
An embodiment of a measurement system according to the present invention will be described below.
FIG. 1 shows the configuration of a measurement system according to this embodiment.
As shown, the metrology system comprises a plurality of sensors 1, a camera 2, a metrology device 3 with a plurality of channels to which each sensor can be connected.
The sensor 1 is a sensor, such as an acceleration sensor, a vibration sensor, a magnetic sensor, or a directional microphone, which detects the magnitude of a measured quantity in one or more directions as a measured value. Detect in a coordinate system fixed with respect to 1.

図2に、本実施形態に係るセンサ1の外観を示す。
ここで、図2aはセンサ1の前面を表し、図2bはセンサ1の上面を表し、図2cはセンサ1の右側面を表し、図2dはセンサ1の左側面を表し、図2eはセンサ1の下面を表し、図2fはセンサ1の斜視図を表している。
FIG. 2 shows the appearance of the sensor 1 according to this embodiment.
2a represents the front side of the sensor 1, FIG. 2b represents the top side of the sensor 1, FIG. 2c represents the right side of the sensor 1, FIG. 2d represents the left side of the sensor 1, and FIG. , and FIG. 2f represents a perspective view of the sensor 1 .

図示するように、センサ1は直方体形状を有し、測定値を検出するセンサ素子を収容している。またセンサ1の後部には、センサ1を計測装置3に接続するためのケーブル4が連結されている。 As shown, the sensor 1 has a cuboid shape and houses sensor elements for detecting measured values. A cable 4 for connecting the sensor 1 to the measuring device 3 is connected to the rear of the sensor 1 .

また、センサ1の前面、上面、下面、左側面、右側面には、矩形の発光部11が設けられており、各発光部11は人間やカメラ2によって互いに異なる色と認識される波長または波長の組み合わせで発光する。例えば、センサ1の前面、上面、下面、左側面、右側面の発光部11は、それぞれ、赤、青、緑、黄、シアンと人間やカメラ2によって認識される色で発光する。 Rectangular light-emitting portions 11 are provided on the front, top, bottom, left and right sides of the sensor 1, and each light-emitting portion 11 has a wavelength or wavelengths recognized by a person or the camera 2 as different colors. Lights up with a combination of For example, the light-emitting units 11 on the front, top, bottom, left, and right sides of the sensor 1 emit red, blue, green, yellow, and cyan in colors recognized by humans and the camera 2, respectively.

このような発光部11は、たとえば、長波長の光源、多波長の光源、異なる波長の複数の光源をセンサ1に収容し、センサ1の前面、上面、下面、左側面、右側面に、透過する波長が異なる、または、各波長の透過率の組み合わせが異なるカラーフィルタを、光源からの光が通過するように設けること等により構成することができる。また、このような発光部11の光源としては、LED等を用いることができる。 Such a light emitting unit 11 accommodates, for example, a long-wavelength light source, a multi-wavelength light source, and a plurality of light sources of different wavelengths in the sensor 1. Color filters having different wavelengths or different combinations of transmittances of the respective wavelengths can be provided so that the light from the light source passes therethrough. Moreover, an LED or the like can be used as the light source of such a light emitting unit 11 .

また、発光部11は、ケーブル4を介して計測装置3から点灯/消灯を行うことができる。
次に、計測時のセンサ1とカメラ2の配置例を図3に示す。
図示するように、試験者は、計測開始に先立って、複数のセンサ1を、計測対象物300の表面または表面近くの異なる位置に配置する。また、カメラ2を、計測対象物300と、撮影範囲内に配置した全てのセンサ1が含まれるように撮影する位置と向きに設置する。
Also, the light emitting unit 11 can be turned on/off from the measuring device 3 via the cable 4 .
Next, FIG. 3 shows an example of arrangement of the sensor 1 and the camera 2 during measurement.
As shown, the tester arranges multiple sensors 1 at different positions on or near the surface of the object 300 to be measured before starting measurement. In addition, the camera 2 is installed at a position and orientation for photographing so that the measurement object 300 and all the sensors 1 arranged within the photographing range are included.

試験者は、複数のセンサ1とカメラ2を配置し、各センサ1を計測装置3のチャンネルの各々に接続したならば、計測装置3にセンサ姿勢算出処理を行わせ、各センサ1の傾きを算出させる。 The tester arranges a plurality of sensors 1 and cameras 2, connects each sensor 1 to each channel of the measuring device 3, causes the measuring device 3 to perform sensor orientation calculation processing, and calculates the inclination of each sensor 1. Calculate.

図4に、この計測装置3が行うセンサ姿勢算出処理の手順を示す。ここでチャンネル番号をiとする。
図示するように、計測装置3は、センサ1を接続したチャンネルの数をnとして、1からnまでの各iについて、以下の処理を行う。
i番目のチャンネルに接続されているセンサ1の発光部11を点灯し(ステップ404)、カメラ2で撮影した画像中に高輝度領域として現れる発光部11を認識し(ステップ406)、発光部11を認識したならば、i番目のチャンネルに接続されているセンサ1の発光部11を消灯する(ステップ408)。
FIG. 4 shows the procedure of sensor orientation calculation processing performed by the measuring device 3 . Let the channel number be i.
As illustrated, the measuring device 3 performs the following processing for each i from 1 to n, where n is the number of channels to which the sensor 1 is connected.
The light-emitting section 11 of the sensor 1 connected to the i-th channel is turned on (step 404), the light-emitting section 11 appearing as a high luminance area in the image taken by the camera 2 is recognized (step 406), and the light-emitting section 11 is detected. is recognized, the light emitting unit 11 of the sensor 1 connected to the i-th channel is turned off (step 408).

そして、認識した発光部11の配置パターンから、i番目のチャンネルに接続されているセンサ1の傾きを算出する(ステップ410)。
ここで、センサ1の傾きの算出は以下のように行う。
まず、認識した発光部11の数が3未満であり、カメラ2が撮影した画像中に3つの発光部11が現れていない場合にはセンサ1の傾きの算出を失敗とする。
また、認識した発光部11の数が3であり、カメラ2が撮影した画像中に3つの発光部11が現れている場合には、認識した3つの発光部11の画像中の領域の色から、3つの発光部11がセンサ1のどの面の発光部11であるかを識別する。また、選定した3つの発光部11の画像中の領域の中心を求め、3つの発光部11について求めた3つの中心の配置パターンと、3つの発光部11が位置するセンサ1の面から、センサ1の傾きを算出する。
Then, the inclination of the sensor 1 connected to the i-th channel is calculated from the recognized layout pattern of the light emitting units 11 (step 410).
Here, the tilt of the sensor 1 is calculated as follows.
First, if the number of recognized light emitting units 11 is less than three, and three light emitting units 11 do not appear in the image captured by the camera 2, the calculation of the tilt of the sensor 1 fails.
Further, when the number of recognized light emitting units 11 is 3 and three light emitting units 11 appear in the image captured by the camera 2, the color of the area in the image of the recognized three light emitting units 11 , which surface of the sensor 1 the three light emitting units 11 are located on. In addition, the center of the area in the image of the selected three light emitting units 11 is obtained, and the three center arrangement patterns obtained for the three light emitting units 11 and the surface of the sensor 1 where the three light emitting units 11 are located are obtained. Calculate the slope of 1.

例えば、図5aに示すように、カメラ2が撮影した画像中にセンサ1の像が現れている場合には、まず、図5bに示すように、画像中の発光部11の領域を抽出する。
また、発光部11の発光色と発光部11が位置するセンサ1の面との対応に従って、3つの発光部11の領域の色より、画像中に現れた3つの発光部11がセンサ1のどの面の発光部11であるかを識別する。
For example, as shown in FIG. 5a, when the image of the sensor 1 appears in the image taken by the camera 2, first, as shown in FIG. 5b, the region of the light emitting unit 11 in the image is extracted.
In addition, according to the correspondence between the luminescent color of the light emitting unit 11 and the surface of the sensor 1 on which the light emitting unit 11 is located, the three light emitting units 11 appearing in the image are determined from the colors of the areas of the three light emitting units 11. It is identified whether it is the light emitting part 11 of the surface.

また、図5cに示すように、3つの発光部11について、画像中の発光部11の領域のエッジを抽出して発光部11の領域の頂点を求め、エッジ以外の頂点を結ぶ線である2つの対角線の交点を、発光部11の領域の中心として算定する。または、画像中の発光部11の領域の中心を、発光部11の領域の中心として算定することもできる。 Further, as shown in FIG. 5c, for the three light-emitting portions 11, the edges of the regions of the light-emitting portions 11 in the image are extracted to obtain the vertices of the regions of the light-emitting portions 11, and the line 2 that connects the vertices other than the edges. The intersection point of the two diagonal lines is calculated as the center of the area of the light-emitting portion 11 . Alternatively, the center of the area of the light emitting section 11 in the image can be calculated as the center of the area of the light emitting section 11 .

そして、図5dのように得られる発光部11の各色の領域の中心の配置パターンは、センサ1の異なる3面上の既知の3点をカメラ2に投影した配置パターンとなり、この配置パターンが得られる、センサ1のピッチ、ロール、ヨーの角度は一義的に定まるので、この発光部11の領域の中心の配置パターンより、センサ1の傾きのピッチ、ロール、ヨーの角度をセンサ1の傾きとして算出する。 Then, the arrangement pattern of the center of each color region of the light emitting unit 11 obtained as shown in FIG. Since the pitch, roll, and yaw angles of the sensor 1 are uniquely determined, the pitch, roll, and yaw angles of the inclination of the sensor 1 are defined as the inclination of the sensor 1 from the arrangement pattern of the center of the area of the light emitting unit 11. calculate.

具体的には、このセンサ1の傾きの算出は、次のように行う。
まず、画像中の3つの発光部11の領域の色より、抽出した3つの発光部11の領域に対応する現実の3つの発光部11を特定する。そして、画像中の3つの発光部11の中心の座標より、カメラ2に対する、特定した3つの発光部11の中心の方向を算定する。すなわち、カメラ2で撮影した画像の各座標と、その座標に映り込む被写体のカメラ2に対する方向との関係は一義的に定まるので、当該関係に従って、3つの発光部11の中心の画像中の座標から、現実の3つの発光部11の中心のカメラ2に対する方向を求めることができる。
Specifically, the tilt of the sensor 1 is calculated as follows.
First, from the colors of the regions of the three light emitting units 11 in the image, the actual three light emitting units 11 corresponding to the regions of the three light emitting units 11 extracted are specified. Then, from the coordinates of the centers of the three light emitting units 11 in the image, the directions of the centers of the three specified light emitting units 11 with respect to the camera 2 are calculated. That is, since the relationship between each coordinate of the image captured by the camera 2 and the direction of the subject reflected in that coordinate with respect to the camera 2 is uniquely determined, the coordinate in the image of the center of the three light emitting units 11 is determined according to this relationship. , the direction of the center of the actual three light emitting units 11 with respect to the camera 2 can be obtained.

また、カメラ2に対して算定した方向にある3点であって、3点間の距離が、特定した現実の3つの発光部11の中心間の距離と一致する3点の座標の組み合わせを算定する。そして、算定した3点の座標の各組み合わせが表すセンサ1の傾きのうち、特定した3つの発光部11が配置された面がカメラ2の方向を向き、特定した3つの発光部11の上下左右関係が画像中の上下左右関係と一致する傾きをセンサ1の傾きとして算定する。 Also, a combination of coordinates of three points in the calculated direction with respect to the camera 2, where the distance between the three points coincides with the distance between the centers of the three specified actual light emitting units 11, is calculated. do. Then, among the tilts of the sensor 1 represented by each combination of the calculated coordinates of the three points, the surface on which the three specified light emitting units 11 are arranged faces the direction of the camera 2, and the top, bottom, left, and right of the specified three light emitting units 11 The tilt of the sensor 1 is calculated as the tilt whose relation matches the vertical and horizontal relation in the image.

ただし、センサ1の傾きの算出は、予め、発光部11の各色の領域の中心の配置パターンと、センサの傾きとの対応を登録したテーブルを用意しておき、このテーブルに従って、図5dのように得られた発光部11の各色の領域の中心の配置パターンからセンサの傾きを算出してもよい。 However, the inclination of the sensor 1 is calculated by preparing a table in which correspondence between the arrangement pattern of the center of each color area of the light emitting unit 11 and the inclination of the sensor is registered in advance. The tilt of the sensor may be calculated from the arrangement pattern of the centers of the regions of each color of the light emitting unit 11 obtained in .

図4に戻り、以上のようにしてi番目のチャンネルに接続されているセンサ1の傾きの算出に成功したら(ステップ412)、算出したセンサ1の傾きをi番目のチャンネルに接続されているセンサ1の傾きとして登録する(ステップ414)。 Returning to FIG. 4, when the tilt of the sensor 1 connected to the i-th channel is successfully calculated (step 412), the tilt of the sensor 1 connected to the i-th channel is calculated. The slope is registered as 1 (step 414).

一方、i番目のチャンネルに接続されているセンサ1の傾きの算出に失敗した場合には、「不明」または「エラー」をi番目のチャンネルに接続されているセンサ1に対して登録する(ステップ416)。 On the other hand, if the calculation of the inclination of the sensor 1 connected to the i-th channel fails, "unknown" or "error" is registered for the sensor 1 connected to the i-th channel (step 416).

ステップ416では、まず、カメラで撮影した画像中に2つの発光部11が現れているかどうかを調べ、1つの発光部11のみが現れている場合や発光部11が現れていない場合には、「不明」をi番目のチャンネルに接続されているセンサ1に対して登録する。 In step 416, first, it is checked whether or not two light-emitting units 11 appear in the image captured by the camera. Unknown" is registered for sensor 1 connected to the i-th channel.

一方、2つの発光部11が現れている場合には、画像中において、2つの発光部11の領域の中心が水平方向と垂直方向といずれか方向に並んでいるかどうかを調べ、並んでいる場合には、「不明」をi番目のチャンネルに接続されているセンサ1に対して登録する。2つの発光部11の領域の中心が水平方向と垂直方向とのいずれの方向にも並んでいない場合には、センサ1に故障かセンサ1の発光部を遮蔽する物体があることを表す「エラー」をi番目のチャンネルに接続されているセンサ1に対して登録する。 On the other hand, when two light emitting units 11 appear, it is checked whether the centers of the regions of the two light emitting units 11 are aligned in either the horizontal direction or the vertical direction in the image. , "unknown" is registered for the sensor 1 connected to the i-th channel. If the centers of the areas of the two light-emitting units 11 are not aligned in either the horizontal or vertical direction, an "error" indicating that the sensor 1 is malfunctioning or that there is an object blocking the light-emitting unit of the sensor 1 is displayed. ” to the sensor 1 connected to the i-th channel.

ここで、2つの発光部11の領域の中心が水平方向と垂直方向とのいずれの方向にも並んでいない場合に「エラー」を登録するのは、この場合、センサ1は、いずれかの面がカメラ2と正対している姿勢から2軸または3軸回りに回転しており、センサ1の3つの面がカメラ2方向を向いて、3以上の発光部11がカメラ2によって撮影されなけらばならいからである。 Here, the reason for registering an "error" when the centers of the areas of the two light emitting units 11 are not aligned in either the horizontal direction or the vertical direction is that, in this case, the sensor 1 is rotated about two or three axes from a posture facing the camera 2, three surfaces of the sensor 1 face the direction of the camera 2, and three or more light emitting units 11 must be photographed by the camera 2. Because it must be.

そして、1からnまでの各iについて、ステップ404からステップ416の処理が終了したら、センサ姿勢算出処理を終了する。
試験者は、以上のように計測装置3が行うセンサ姿勢算出処理を行わせたら、「不明」や「エラー」が登録されているチャンネルに接続されているセンサ1が存在する場合には、そのセンサ1の傾きを3以上の発光部11がカメラ2に撮影されるように調整したり、「エラー」となった原因を取り除いた上で、再度、計測装置3にセンサ姿勢算出処理を実行させる。
Then, when the processing from step 404 to step 416 is completed for each i from 1 to n, the sensor orientation calculation processing is completed.
When the tester causes the measuring device 3 to perform the sensor orientation calculation processing as described above, if there is a sensor 1 connected to a channel in which "unknown" or "error" is registered, After adjusting the tilt of the sensor 1 so that three or more light-emitting units 11 are photographed by the camera 2, or removing the cause of the "error", the measuring device 3 is caused to execute the sensor orientation calculation process again. .

「不明」や「エラー」が登録されているチャンネルに接続されているセンサ1が存在しなくなったら、計測対象物300や環境の状態を計測用の状態に設定し計測装置3に計測の開始を指示する。 When there is no more sensor 1 connected to the channel in which "unknown" or "error" is registered, the state of the measurement object 300 and the environment is set to the state for measurement, and the measurement device 3 is instructed to start measurement. instruct.

計測において、計測装置3は、各チャンネルから入力する、センサ1がセンサ1に対して固定された座標系で検出した測定値を、そのチャンネルに接続されているセンサ1の傾きとして登録されている傾きを用いて、測定量の所定の1または複数の方向毎の大きさを表す測定値に補正(座標変換)する。ここで、所定の1または複数の方向とは、実空間または計測対象物300に対して固定された座標系の座標軸方向であり、例えば、実空間の鉛直方向や水平方向や、計測対象物300の面と垂直な方向や平行な方向などを、この所定の1または複数の方向として設定することができる。 In the measurement, the measuring device 3 inputs from each channel, the measured value detected by the sensor 1 in a coordinate system fixed with respect to the sensor 1, is registered as the inclination of the sensor 1 connected to that channel. The tilt is used to correct (coordinate transformation) to a measured value representing the magnitude of the measured quantity in one or more predetermined directions. Here, the predetermined one or more directions are coordinate axis directions of a coordinate system fixed with respect to the real space or the measurement object 300. For example, the vertical direction or horizontal direction of the real space, or A direction perpendicular to or parallel to the plane of the plane can be set as the predetermined one or more directions.

そして、計測装置3は、補正後の測定値の解析を行う。
図6は、計測装置3の解析結果の例を示しており、センサ1として加速度センサを用い、カメラ2で撮影した計測対象物300の画像のレイヤ上に、振動の画像上の分布を表す輝度マップまたはカラーマップの画像のレイヤを重畳し表示している。輝度マップまたはカラーマップは、各センサ1で検出した加速度を補正して求めた計測対象物300の面と垂直な方向の振動の大きさを、当該センサ1に対応する画像上の位置の振動の大きさとして、画像上の各位置の振動の大きさを、その位置の輝度またはカラーで表したものである。
Then, the measuring device 3 analyzes the corrected measured value.
FIG. 6 shows an example of the analysis result of the measurement device 3. An acceleration sensor is used as the sensor 1, and a luminance Overlaying layers of map or color map images. The brightness map or color map shows the magnitude of the vibration in the direction perpendicular to the surface of the measurement object 300 obtained by correcting the acceleration detected by each sensor 1 as the vibration at the position on the image corresponding to the sensor 1. As magnitude, the magnitude of vibration at each position on the image is represented by the brightness or color of that position.

以上、本発明の実施形態について説明した。
このように本実施形態によれば、各センサ1に発光部11を設けて、各センサ1をカメラ2で撮影するだけの、簡易な構成でセンサ1の傾きを検出し、外部の座標系と関連づけた計測を行うことができる。
The embodiments of the present invention have been described above.
As described above, according to the present embodiment, each sensor 1 is provided with the light emitting unit 11, and the tilt of the sensor 1 is detected with a simple configuration in which each sensor 1 is photographed by the camera 2. Associated measurements can be made.

ところで、図4に示したセンサ姿勢算出処理では、ステップ410で、認識した発光部11の数が3未満である場合にはセンサ1の傾きの算出を失敗としたが、これは、認識した発光部11の数が2であり、画像中において、2つの発光部11の領域の中心が水平方向と垂直方向といずれかの方向に並んでいる場合には、傾きの算出を失敗とせずに、画像中の2つの発光部11の色と画像中の2つの発光部11の領域の面積の比とからセンサ1の傾きを算出するようにしてもよい。すなわち、この場合には、センサ1は、カメラ2の上下方向または左右方向の1軸回りにのみ傾いており、傾きの方向は、2つの発光部11の色より求まる。また、傾きの角度と、2つの発光部11の領域の面積の比の関係は一義的に定まるので、当該関係に従って傾きの角度を求めることができる
また、実施形態では、図2に示したようにセンサ1の前面、上面、下面、左側面、右側面に矩形の発光部11を設けたが、発光部11の形状は矩形以外であってもよく、たとえば、図7に示すように、発光部11として点状の発光部11などを用いるようにしてよい。また、この場合、各発光部11は、共通の光源を用いて発光するものとしてもよいし、それぞれ個別の光源を用いて発光するものとしてもよいし、LEDなどの光源を、そのまま発光部11として用いるようにしてもよい。
By the way, in the sensor orientation calculation process shown in FIG. When the number of the portions 11 is 2 and the centers of the areas of the two light emitting portions 11 are aligned in either the horizontal direction or the vertical direction in the image, the calculation of the inclination is not regarded as a failure. The tilt of the sensor 1 may be calculated from the ratio of the areas of the two light emitting units 11 in the image to the colors of the two light emitting units 11 in the image. That is, in this case, the sensor 1 is tilted only around one axis in the vertical direction or the horizontal direction of the camera 2, and the direction of tilt is obtained from the colors of the two light emitting portions 11. FIG. In addition, since the relationship between the angle of inclination and the ratio of the areas of the two light emitting units 11 is uniquely defined, the angle of inclination can be obtained according to this relationship. Although the rectangular light-emitting portions 11 are provided on the front, top, bottom, left, and right sides of the sensor 1, the shape of the light-emitting portions 11 may be other than rectangular. A point-like light emitting portion 11 or the like may be used as the portion 11 . Further, in this case, each light emitting unit 11 may emit light using a common light source, or may emit light using an individual light source. It may be used as

また、実施形態では、図2に示したようにセンサ1の前面、上面、下面、左側面、右側面に発光部11を設けたが、これは、上面、下面、左側面、右側面のうちの方向が相互に異なる3面を含む3面以上の任意の面に発光部11を設けるようにしてもよい。 In the embodiment, as shown in FIG. 2, the light emitting units 11 are provided on the front, top, bottom, left, and right sides of the sensor 1. The light-emitting portions 11 may be provided on any three or more surfaces including three surfaces with mutually different directions.

また、実施形態では、センサ1の形状が直方体である場合について示したが、センサ1の形状は任意であってよい。この場合には、センサ1上の、同一平面上にない3つの位置を含む複数の位置に、相互に異なる色で発光する発光部11を設けるようにする。 Further, in the embodiment, the sensor 1 has a rectangular parallelepiped shape, but the sensor 1 may have any shape. In this case, light-emitting units 11 that emit light in different colors are provided at a plurality of positions on the sensor 1, including three positions that are not on the same plane.

また、実施形態において、計測装置3は、順次、各チャンネルに接続されたセンサ1の発光部11を点灯し、前記カメラ2で撮影した画像中に現れる点灯位置を認識し、認識した前記画像中の点灯位置を、当該チャンネルに接続されたセンサ1に対応する前記画像中の位置として算定してもよい。また、計測装置3は、各チャンネルに接続されたセンサ1の発光部11を相互に異なる点滅パターンで点灯し、前記カメラ2で撮影した画像中の各位置に現れる点滅パターンを認識し、点滅パターンを認識した前記画像中の位置を、当該点滅パターンで点灯したチャンネルに接続されたセンサ1に対応する前記画像中の位置として算定する処理を行ってもよい。 Further, in the embodiment, the measurement device 3 sequentially lights the light emitting units 11 of the sensors 1 connected to each channel, recognizes the lighting position appearing in the image captured by the camera 2, and detects the light in the recognized image. may be calculated as the position in the image corresponding to the sensor 1 connected to the channel. In addition, the measuring device 3 lights the light emitting unit 11 of the sensor 1 connected to each channel with mutually different blinking patterns, recognizes the blinking pattern appearing at each position in the image photographed by the camera 2, and recognizes the blinking pattern. may be calculated as the position in the image corresponding to the sensor 1 connected to the channel lit in the blinking pattern.

このようにすることにより、各センサ1の発光部11を用いて、センサ1の姿勢に加え、センサ1に対応する画像中の位置も検出できる。また、各センサ1毎に発光部11を点灯することで、画像上のセンサ1の検出領域が容易に判断できる。 By doing so, the position in the image corresponding to the sensor 1 can be detected in addition to the orientation of the sensor 1 using the light emitting section 11 of each sensor 1 . Further, by lighting the light emitting unit 11 for each sensor 1, the detection area of the sensor 1 on the image can be easily determined.

なお、この場合、解析装置は、算出した各チャンネルのセンサ1の画像中の位置を、当該チャンネルの測定値の発生位置に対応する画像中の位置としたり、算出した各チャンネルのセンサ1の画像中の位置に映り込む実空間上の位置を当該チャンネルの測定値の発生位置として測定値の解析を行う。 In this case, the analysis device sets the calculated position in the image of the sensor 1 of each channel to the position in the image corresponding to the position of occurrence of the measured value of the channel, or sets the calculated position of the sensor 1 in the image of each channel Measured values are analyzed using the position on the real space that is reflected in the middle position as the position where the measured value of the channel is generated.

また、実施形態において、計測装置3は、無入力や過大入力等の異常値が検出されたチャンネルのセンサ1の発光部11をエラーを示す所定の点灯パターンで点灯する処理も行ってもよい。 In the embodiment, the measuring device 3 may also perform a process of lighting the light-emitting portion 11 of the sensor 1 of the channel in which an abnormal value such as no input or excessive input is detected in a predetermined lighting pattern indicating an error.

1…センサ、2…カメラ、3…計測装置、4…ケーブル、11…発光部、300…計測対象物。 DESCRIPTION OF SYMBOLS 1... Sensor, 2... Camera, 3... Measuring device, 4... Cable, 11... Light-emitting part, 300... Measurement object.

Claims (8)

計測装置に接続したセンサを用いて計測を行う計測システムであって、
カメラを備え、
前記センサは、相互に直交する3面を外面として有すると共に、当該直交する3面にそれぞれ配置された相互に異なる色で発光する発光部を有し、
前記計測装置は、当該計測装置に接続したセンサの前記直交する3面にそれぞれ配置された発光部の全てを点灯し、前記カメラで撮影した画像中に現れる3色の発光部の配置パターンから、前記センサの傾きを算定するセンサ姿勢算定手段を有することを特徴とする計測システム。
A measurement system that performs measurement using a sensor connected to a measurement device,
equipped with a camera,
The sensor has three surfaces orthogonal to each other as outer surfaces, and has light emitting units arranged on the three surfaces orthogonal to each other and emitting light in mutually different colors,
The measuring device turns on all of the light emitting units arranged on the three orthogonal surfaces of the sensor connected to the measuring device, and from the arrangement pattern of the three color light emitting units appearing in the image captured by the camera, A measurement system comprising sensor attitude calculation means for calculating an inclination of the sensor.
請求項1記載の計測システムであって、
前記センサ姿勢算定手段は、前記3色の発光部の配置パターンとして、前記カメラで撮影した画像中の3色の発光部それぞれの領域の中心の配置パターンを用いることを特徴とする計測システム。
The measurement system according to claim 1,
The measurement system according to claim 1, wherein the sensor orientation calculation means uses, as the arrangement pattern of the three-color light-emitting sections, the arrangement pattern of the centers of the areas of the three-color light-emitting sections in the image captured by the camera.
請求項1または2記載の計測システムであって、
前記センサは直方体の外形を有し、前記直方体の6つの外面のうちの相互に直交する3面を少なくとも含む3以上の面にそれぞれ相互に異なる色で発光する発光部が配置されていることを特徴とする計測システム。
The measurement system according to claim 1 or 2,
The sensor has a rectangular parallelepiped outer shape, and light-emitting units that emit light in different colors are arranged on three or more surfaces including at least three mutually orthogonal surfaces out of six outer surfaces of the rectangular parallelepiped. A measurement system characterized by:
計測装置に接続したセンサを用いて計測を行う計測システムであって、
カメラを備え、
前記センサは直方体の外形を有し、前記直方体の6つの面のうち、少なくとも5面に、相互に異なる色で発光する発光部が配置されており、
前記計測装置は、当該計測装置に接続したセンサの発光部を点灯し、前記カメラで撮影した画像中に現れる3以上の各色の発光部の配置パターンから、前記センサの傾きを算定するセンサ姿勢算定手段を有することを特徴とする計測システム。
A measurement system that performs measurement using a sensor connected to a measurement device,
equipped with a camera,
The sensor has a rectangular parallelepiped outer shape, and at least five of the six faces of the rectangular parallelepiped are provided with light emitting units that emit light in different colors,
The measuring device turns on the light emitting part of the sensor connected to the measuring device, and calculates the inclination of the sensor from the arrangement pattern of the light emitting parts of three or more colors appearing in the image captured by the camera. A measuring system characterized by having means.
請求項4記載の計測システムであって、
前記センサ姿勢算定手段は、当該計測装置に接続したセンサの発光部を点灯し、前記カメラで撮影した画像中に2つの発光部のみが現れており、当該2つの発光部の領域の中心が水平方向にも垂直方向にも並んでいない場合にセンサのエラーを検出することを特徴とする計測システム。
The measurement system according to claim 4,
The sensor attitude calculation means turns on the light emitting parts of the sensor connected to the measuring device, only two light emitting parts appear in the image taken by the camera, and the center of the area of the two light emitting parts is horizontal. A metrology system characterized by detecting sensor errors when they are neither directional nor vertically aligned.
請求項1、2、3、4または5記載の計測システムであって、
前記センサは、当該センサに対して固定された座標系であるセンサ座標系で表される測定値を検出し、
前記計測装置は、前記センサが検出した測定値を、前記センサ姿勢算定手段が算定した前記センサの傾きを用いて、前記センサ座標系と異なる座標系で表した測定値に変換する座標系変換手段を有することを特徴とする計測システム。
The measurement system according to claim 1, 2, 3, 4 or 5,
The sensor detects measurements expressed in a sensor coordinate system, which is a coordinate system fixed with respect to the sensor;
The measuring device includes coordinate system conversion means for converting the measured value detected by the sensor into a measured value expressed in a coordinate system different from the sensor coordinate system using the tilt of the sensor calculated by the sensor attitude calculation means. A measurement system comprising:
計測装置に接続したセンサを用いて計測を行う計測システムであって、
カメラを備えると共に、
前記センサを複数備え、
前記センサは、相互に異なる色で発光する同一平面上にない3以上の発光部を有し、
前記計測装置は、当該計測装置に接続したセンサの発光部を点灯し、前記カメラで撮影した画像中に現れる3以上の各色の発光部の配置パターンから、前記センサの傾きを算定するセンサ姿勢算定手段を有し、
前記計測装置は、前記複数のセンサが各々接続される複数のチャンネルを備え、
前記計測装置は、順次、前記各チャンネルについて、当該チャンネルに接続したセンサの発光部を所定の点灯パターンで点灯し、前記カメラで撮影した画像中に現れる前記点灯パターンを認識し、当該点灯パターンを認識した前記画像中の位置を、当該チャンネルに接続されたセンサに対応する前記画像中の位置として算定するセンサ位置算定手段を有することを特徴とする計測システム。
A measurement system that performs measurement using a sensor connected to a measurement device,
Equipped with a camera,
A plurality of the sensors,
The sensor has three or more non-coplanar light-emitting portions that emit light in mutually different colors;
The measuring device turns on the light emitting part of the sensor connected to the measuring device, and calculates the inclination of the sensor from the arrangement pattern of the light emitting parts of three or more colors appearing in the image captured by the camera. have the means
The measuring device comprises a plurality of channels to which the plurality of sensors are respectively connected,
The measuring device sequentially turns on the light emitting unit of the sensor connected to each channel in a predetermined lighting pattern, recognizes the lighting pattern appearing in the image captured by the camera, and recognizes the lighting pattern. A measurement system comprising sensor position calculation means for calculating the recognized position in the image as a position in the image corresponding to the sensor connected to the channel.
計測装置に接続したセンサを用いて計測を行う計測システムであって、
カメラを備えると共に、
前記センサを複数備え、
前記センサは、相互に異なる色で発光する同一平面上にない3以上の発光部を有し、
前記計測装置は、当該計測装置に接続したセンサの発光部を点灯し、前記カメラで撮影した画像中に現れる3以上の各色の発光部の配置パターンから、前記センサの傾きを算定するセンサ姿勢算定手段を有し、
前記計測装置は、前記複数のセンサが各々接続される複数のチャンネルを備え、
前記計測装置は、前記各チャンネルに接続したセンサの発光部を、当該チャンネルの識別を表す前記チャンネル毎に異なる点灯パターンで点灯し、前記カメラで撮影した画像中に現れる前記各点灯パターンを認識し、点灯パターンを認識した前記画像中の位置を、当該点灯パターンが識別を表すチャンネルに接続されたセンサに対応する前記画像中の位置として算定するセンサ位置算定手段を有することを特徴とする計測システム。
A measurement system that performs measurement using a sensor connected to a measurement device,
Equipped with a camera,
A plurality of the sensors,
The sensor has three or more non-coplanar light-emitting portions that emit light in mutually different colors;
The measuring device turns on the light emitting part of the sensor connected to the measuring device, and calculates the inclination of the sensor from the arrangement pattern of the light emitting parts of three or more colors appearing in the image captured by the camera. have the means
The measuring device comprises a plurality of channels to which the plurality of sensors are respectively connected,
The measuring device lights the light-emitting part of the sensor connected to each channel with a different lighting pattern for each channel, which indicates the identification of the channel, and recognizes each lighting pattern appearing in the image captured by the camera. a sensor position calculating means for calculating a position in the image where the lighting pattern is recognized as a position in the image corresponding to a sensor connected to a channel in which the lighting pattern indicates identification; .
JP2019017452A 2019-02-01 2019-02-01 measurement system Active JP7229034B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019017452A JP7229034B2 (en) 2019-02-01 2019-02-01 measurement system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019017452A JP7229034B2 (en) 2019-02-01 2019-02-01 measurement system

Publications (2)

Publication Number Publication Date
JP2020125935A JP2020125935A (en) 2020-08-20
JP7229034B2 true JP7229034B2 (en) 2023-02-27

Family

ID=72083802

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019017452A Active JP7229034B2 (en) 2019-02-01 2019-02-01 measurement system

Country Status (1)

Country Link
JP (1) JP7229034B2 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001241928A (en) 2000-03-01 2001-09-07 Sanyo Electric Co Ltd Shape measuring apparatus
JP2003254716A (en) 2002-03-04 2003-09-10 Sony Corp Instrument and method for measuring three-dimensional position and posture, storage medium, and computer program
JP2010122777A (en) 2008-11-18 2010-06-03 Seiko Epson Corp Workpiece identifying method and workpiece identifying device
JP2010217093A (en) 2009-03-18 2010-09-30 Kddi Corp Positioning system
JP2017198563A (en) 2016-04-27 2017-11-02 株式会社キーエンス Three-dimensional coordinate measuring instrument

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001241928A (en) 2000-03-01 2001-09-07 Sanyo Electric Co Ltd Shape measuring apparatus
JP2003254716A (en) 2002-03-04 2003-09-10 Sony Corp Instrument and method for measuring three-dimensional position and posture, storage medium, and computer program
JP2010122777A (en) 2008-11-18 2010-06-03 Seiko Epson Corp Workpiece identifying method and workpiece identifying device
JP2010217093A (en) 2009-03-18 2010-09-30 Kddi Corp Positioning system
JP2017198563A (en) 2016-04-27 2017-11-02 株式会社キーエンス Three-dimensional coordinate measuring instrument

Also Published As

Publication number Publication date
JP2020125935A (en) 2020-08-20

Similar Documents

Publication Publication Date Title
US10401143B2 (en) Method for optically measuring three-dimensional coordinates and controlling a three-dimensional measuring device
US9879975B2 (en) Method for optically measuring three-dimensional coordinates and calibration of a three-dimensional measuring device
WO2004011876A1 (en) Apparatus and method for automatically arranging three dimensional scan data using optical marker
US20170339400A1 (en) Registering cameras in a multi-camera imager
JP2009284188A (en) Color imaging apparatus
US20180068462A1 (en) Camera parameter calculation apparatus, camera parameter calculation method, and recording medium
CN106767526A (en) A kind of colored multi-thread 3-d laser measurement method based on the projection of laser MEMS galvanometers
US20130314533A1 (en) Data deriving apparatus
US7302093B2 (en) Color vision vehicle wheel alignment system
JPH0886613A (en) Apparatus for calibrating stereo camera
JP7229034B2 (en) measurement system
CN108093618A (en) Inspecting mounting contents by comparing 3D height profile with reference height profile
US6788412B2 (en) Process and device for the optical marking of a target region of a color measuring device on a measurement surface
JP7119584B2 (en) Three-dimensional measuring device, position display method and program for three-dimensional measuring device
US20210156677A1 (en) Three-dimensional measurement apparatus and method
US20020031261A1 (en) Matching device
JP6322798B2 (en) Camera inspection device and camera inspection method using the inspection device
JP2012216981A (en) Calibration method for stereo camera and information processing device
US11195290B2 (en) Apparatus and method for encoding in structured depth camera system
CN113870146A (en) Method for correcting false color of image edge of color camera
KR102017949B1 (en) Apparatus and method for calibrating camera using rectangular parallelepiped with led
JP3608305B2 (en) Camera posture detection device
US11906288B2 (en) Three-dimensional shape measuring method and three-dimensional shape measuring device
JP7448824B2 (en) 3D measurement system and 3D measurement method
US11610324B2 (en) Three-dimensional shape measuring method and three-dimensional shape measuring device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211203

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220915

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230214

R150 Certificate of patent or registration of utility model

Ref document number: 7229034

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150