JP2022030356A - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JP2022030356A
JP2022030356A JP2020134335A JP2020134335A JP2022030356A JP 2022030356 A JP2022030356 A JP 2022030356A JP 2020134335 A JP2020134335 A JP 2020134335A JP 2020134335 A JP2020134335 A JP 2020134335A JP 2022030356 A JP2022030356 A JP 2022030356A
Authority
JP
Japan
Prior art keywords
reinforcing bar
intersection
image data
intersections
reinforcing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020134335A
Other languages
English (en)
Other versions
JP7469987B2 (ja
Inventor
隆 中野
Takashi Nakano
拓巳 柿市
Takumi Kakiichi
浩一郎 田村
Koichiro Tamura
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ACES Inc
JFE Engineering Corp
Original Assignee
ACES Inc
JFE Engineering Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ACES Inc, JFE Engineering Corp filed Critical ACES Inc
Priority to JP2020134335A priority Critical patent/JP7469987B2/ja
Publication of JP2022030356A publication Critical patent/JP2022030356A/ja
Application granted granted Critical
Publication of JP7469987B2 publication Critical patent/JP7469987B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)

Abstract

【課題】配筋検査において、処理すべきデータを低減でき、省人化を実現しつつ信頼性を向上すること。【解決手段】複数の鉄筋が交差して設けられる鉄筋構造物における鉄筋が撮像されて得られた配筋画像データに対して画像処理を施す制御部を備える情報処理装置であって、制御部は、撮像された配筋画像データを取得して記憶部に記憶させ、記憶部から読み出した配筋画像データに対して、鉄筋が交差した部分の交点を複数識別し、識別された複数の交点の座標情報を含む交点データを生成する。記憶部から配筋画像データを入力パラメータとして取得して、記憶部から読み出した配筋画像データを交点識別学習モデルに入力し、配筋画像データに対して交点を抽出した検出枠が付加された交点画像データを出力パラメータとして出力し、出力した交点画像データに基づいて、交点データを生成する。【選択図】図1

Description

本発明は、配筋検査に用いる情報処理装置、情報処理方法、およびプログラムに関する。
従来、鉄筋コンクリート構造物の工事において、鉄筋が正しく配置されているかどうかを確認する配筋検査が行われる。配筋検査における検査項目には、鉄筋径種、表面加工種、配置本数、配筋ピッチなどがある。この配筋検査においては、配筋位置でスケールを用いて配筋ピッチなどを計測している。具体的に、土木工事施工管理基準においては、鉄筋間隔を規格値として±20mm、測定基準は、1径間当たり両端および中央の3ヶ所測定し、1ヶ所の測定は、橋軸方向の鉄筋を全数、橋軸方向に対して直角方向の鉄筋を加工形状ごとに2mの範囲で測定している。従来の配筋検査方法においては、これらの指定区間および指定範囲において、複数の作業者が1本ずつ鉄筋の間隔を測定している。
また、特許文献1には、鉄筋の長さおよび太さの基準となる基準データを付与して撮影範囲を設定し、設定された撮影範囲で配筋状態を撮影して配筋状態の撮影データに対して、パターンマッチングまたは機械学習の少なくとも一方の手法を用いて配筋状態を認識して配筋状態データを生成する技術が開示されている。
特開2020-27058号公報
上述した従来の配筋検査方法においては、測定対象外の範囲における鉄筋の状態については、測定できないという問題がある。また、鉄筋の間隔を作業者がメジャーなどを用いて手作業で測定していることから、多大な労力を要し、手作業による測定ミスなどの発生する可能性がある。さらに、測定した結果のデータを作業者が手作業で情報処理装置に入力しているため、データの入力ミスなどの問題も生じる可能性があった。そこで、上述した特許文献1に記載の技術を採用しようとすると、処理すべきデータが大きくなってしまい、画像処理などに時間を要するという問題が新たに生じる。そのため、配筋検査において、処理すべきデータを低減でき、省人化を実現しつつ信頼性を向上できる技術が求められていた。
本発明は、上記に鑑みてなされたものであって、その目的は、配筋検査において、処理すべきデータを低減でき、省人化を実現しつつ信頼性を向上することができる情報処理装置、情報処理方法、およびプログラムを提供することにある。
上述した課題を解決し、目的を達成するために、本発明の一態様に係る情報処理装置は、複数の鉄筋が交差して設けられる鉄筋構造物における前記鉄筋が撮像されて得られた配筋画像データに対して画像処理を施す制御部を備える情報処理装置であって、前記制御部は、前記撮像された配筋画像データを取得して記憶部に記憶させ、前記記憶部から読み出した前記配筋画像データに対して、前記鉄筋が交差した部分の交点を複数識別し、前記識別された複数の交点の座標情報を含む交点データを生成する。
本発明の一態様に係る情報処理装置は、上記の発明において、前記制御部は、前記記憶部から前記配筋画像データを入力パラメータとして取得して、前記記憶部から読み出した前記配筋画像データを交点識別学習モデルに入力し、前記配筋画像データに対して前記交点を抽出した検出枠が付加された交点画像データを出力パラメータとして出力し、出力した前記交点画像データに基づいて、前記交点データを生成し、前記交点識別学習モデルは、前記配筋画像データを学習用入力パラメータとし、前記配筋画像データに対して前記交点を示す検出枠が付加された交点画像データを学習用出力パラメータとして、機械学習によって生成された学習モデルである。
本発明の一態様に係る情報処理装置は、上記の発明において、前記鉄筋構造物は、連続した鉄筋を複数本備え、前記連続した鉄筋に固有の鉄筋番号が、前記連続した鉄筋ごとに設定され、前記制御部は、前記交点データに含まれる複数の交点の座標情報に基づいてクラスタリングを実行することにより、前記識別された複数の交点に対して、互いに同一の鉄筋番号であると判定した複数の交点を分割して部分集合化する。
本発明の一態様に係る情報処理装置は、この構成において、前記鉄筋構造物は、連続した鉄筋を複数本備え、前記連続した鉄筋に固有の鉄筋番号が、前記連続した鉄筋ごとに設定され、前記制御部は、前記識別された複数の交点に対して、互いに同一の鉄筋番号であると判定した複数の交点を抽出して、前記同一の鉄筋番号であると判定した複数の交点に近似する鉄筋式を、前記鉄筋番号ごとに導出し、前記鉄筋番号ごとに導出した複数の鉄筋式と、前記互いに同一の鉄筋番号であると判定した複数の交点のそれぞれの座標情報とに基づいて、前記互いに同一の鉄筋番号であると判定した複数の交点における該交点ごとに鉄筋番号の正否を判定する。
本発明の一態様に係る情報処理装置は、この構成において、前記制御部は、前記交点の鉄筋番号が異なると判定した場合、該交点が判定された鉄筋番号に対して前または後の鉄筋番号の鉄筋式に基づいて、該交点の鉄筋番号を補正する。
本発明の一態様に係る情報処理装置は、上記の発明において、前記制御部は、識別した複数の交点においてそれぞれの交点間の距離を算出し、前記交点間の距離が所定距離以下の2つの交点を抽出し、前記2つの交点を前記鉄筋の継手部分の交点であると判定する。
本発明の一態様に係る情報処理装置は、この構成において、前記鉄筋構造物は、連続した鉄筋を備え、前記連続した鉄筋は少なくとも2本の鉄筋が長さ方向に沿って固着された継手部分を有し、前記継手部分に固有の継手番号が、前記継手部分ごとに設定され、前記制御部は、複数の前記継手部分の交点の座標情報に基づいてクラスタリングを実行することにより、複数の前記継手部分の交点に対して、互いに同一の継手番号であると判定した複数の交点を抽出して集合化し、前記継手番号ごとに継手長を導出する。
本発明の一態様に係る情報処理方法は、複数の鉄筋が交差して設けられる鉄筋構造物における前記鉄筋が撮像されて得られた配筋画像データに対して画像処理を施す制御部を備える情報処理装置が実行する情報処理方法であって、前記撮像された配筋画像データを取得して記憶部に記憶させ、前記記憶部から読み出した前記配筋画像データに対して、前記鉄筋が交差した部分の交点を複数識別し、前記識別された複数の交点の座標情報を含む交点データを生成する。
本発明の一態様に係るプログラムは、複数の鉄筋が交差して設けられる鉄筋構造物における前記鉄筋が撮像されて得られた配筋画像データに対して画像処理を施す制御部に、前記撮像された配筋画像データを取得して記憶部に記憶させ、前記記憶部から読み出した前記配筋画像データに対して、前記鉄筋が交差した部分の交点を複数識別し、前記識別された複数の交点の座標情報を含む交点データを生成することを実行させる。
本発明に係る情報処置装置、情報処理方法、およびプログラムによれば、配筋検査において、処理すべきデータを低減でき、省人化を実現しつつ信頼性を向上することが可能になる。
図1は、本発明の一実施形態による情報処理装置を適用した配筋検査システムを模式的に示す全体構成図である。 図2は、本発明の一実施形態による撮像装置が撮像した鉄筋構造体の全体の配筋画像データを示す平面図(a)、およびアノテーションが実施された交点画像データを示す平面拡大図(b)である。 図3は、本発明の一実施形態による情報処理方法を説明するためのフローチャートである。 図4Aは、本発明の一実施形態による配筋検査方法において、鉄筋式による推論結果の補正を説明するための平面図である。 図4Bは、本発明の一実施形態による配筋検査方法において、鉄筋式による推論結果の補正を説明するための平面図である。 図5Aは、本発明の一実施形態による配筋検査方法において、継手の検出方法を説明するための平面図である。 図5Bは、本発明の一実施形態による配筋検査方法において、継手の検出方法を説明するための平面図である。 図5Cは、本発明の一実施形態による配筋検査方法において、継手の検出方法を説明するための平面図である。 図6は、本発明の一実施形態による配筋検査装置から出力されたCIMモデルの出来形帳票の一例を示す斜視図である。
以下、本発明の一実施形態について図面を参照しつつ説明する。なお、以下の一実施形態の全図においては、同一または対応する部分には同一の符号を付す。また、本発明は以下に説明する一実施形態によって限定されるものではない。
(配筋検査システム)
図1は、本発明の一実施形態による情報処理装置を適用した配筋検査システム1を模式的に示す全体構成図である。図1に示す配筋検査システム1は、床版配筋の画像を撮影し、画像認識処理が可能な情報処理装置を用いて、鉄筋間隔、鉄筋本数、継手長などの測定を行うシステムである。なお、配筋とは、鉄筋コンクリート構造物における鉄筋の配置を意味し、配筋検査とは、それぞれの鉄筋の配置、寸法、数量、および種別などを示した配筋図に基づいて、鉄筋が正確に配置されているか否かの検査を意味する。
図1に示すように、配筋検査システム1は、配筋検査装置10および撮像装置20を備え、配力筋である縦鉄筋31および主筋である横鉄筋32が格子状に並べられて構成された鉄筋構造物30を検査可能に構成される。
配筋検査装置10と撮像装置20とは、ネットワーク2を介して接続されている。ネットワーク2は、例えば、専用線、近距離無線通信装置、インターネットなどの公衆通信網、例えばLAN(Local Area Network)、WAN(Wide Area Network)、および携帯電話などの電話通信網や公衆回線、VPN(Virtual Private Network)などの一または複数の組み合わせからなる。
情報処理装置としての配筋検査装置10は、制御部11、記憶部12、入力部13、および出力部14を備える。
図1に示すように、配筋検査制御部としての制御部11は、具体的に、CPU(Central Processing Unit)、DSP(Digital Signal Processor)、FPGA(Field-Programmable Gate Array)などのプロセッサ、およびRAM(Random Access Memory)やROM(Read Only Memory)などの主記憶部(いずれも図示せず)を備える。
記憶部12は、RAMなどの揮発性メモリ、ROMなどの不揮発性メモリ、EPROM(Erasable Programmable ROM)、ハードディスクドライブ(HDD、Hard Disk Drive)、およびリムーバブルメディアなどから選ばれた記憶媒体から構成される。なお、リムーバブルメディアは、例えば、USB(Universal Serial Bus)メモリ、または、CD(Compact Disc)、DVD(Digital Versatile Disc)、もしくはBD(Blu-ray(登録商標) Disc)のようなディスク記録媒体である。また、外部から装着可能なメモリカードなどのコンピュータ読み取り可能な記録媒体を用いて記憶部12を構成してもよい。
記憶部12には、配筋検査装置10の動作を実行するための、オペレーティングシステム(Operating System:OS)、各種プログラム、各種テーブル、各種データベースなどが記憶可能である。ここで、各種プログラムには、本実施形態による学習モデルや学習済みモデルなどのモデルに基づいた処理を実現する、情報処理プログラムも含まれる。これらの各種プログラムは、ハードディスク、フラッシュメモリ、CD-ROM、DVD-ROM、フレキシブルディスクなどのコンピュータ読み取り可能な記録媒体に記録して広く流通させることも可能である。
記憶部12には、配筋検査装置10の動作を実行するためのOS、各種プログラム、各種テーブル、各種データベースなどが記憶可能である。ここで、各種プログラムには、本実施形態による交点識別学習モデル121を用いた情報処理プログラムや、階層的クラスタリングを実現する情報処理プログラムが含まれる。具体的に、記憶部12には、交点識別学習モデル121、クラスタリングコード122、画像データ123、推論データ124、および交点データ125が格納されている。交点識別学習モデル121は、必要に応じて更新可能なモデルであるが、更新を行わない場合には、学習済みの配筋検査学習済みモデルとなる。また、記憶部12はネットワーク2を介して通信可能な他のサーバに設けてもよい。すなわち、画像データ123を格納する記憶部や、推論データ124や交点データ125を格納する記憶部を、配筋検査装置10とネットワーク2を介して通信可能な他のサーバに設けてもよい。これらの各種プログラムや各種データは、ハードディスク、フラッシュメモリ、CD-ROM、DVD-ROM、フレキシブルディスクなどのコンピュータ読み取り可能な記録媒体に記録して広く流通させることも可能である。
制御部11は、記憶部12に記憶されたプログラムを主記憶部の作業領域にロードして実行し、プログラムの実行を通じて各構成部などを制御することによって、所定の目的に合致した機能を実現できる。本実施形態においては、制御部11は、記憶部12に格納されたプログラムの実行によって、画像取得部111、画像処理部112、交点検出部113、継手検出部114、クラスタリング処理部115、および学習部116の機能を実行する。
具体的に例えば、制御部11は、記憶部12からプログラムである交点識別学習モデル121を読み込むことによって、画像取得部111、画像処理部112、交点検出部113、および継手検出部114の全部または少なくとも一部の機能を実行できる。制御部11は、記憶部12からクラスタリングコード122を読み込むことによって、取得したデータに対してクラスタリング処理部115の機能を実現できる。なお、画像処理部112、交点検出部113、および継手検出部114のそれぞれに対応する学習モデルまたは学習済みモデルを生成して、記憶部12に格納することも可能である。画像取得部111、画像処理部112、交点検出部113、継手検出部114、クラスタリング処理部115、および学習部116の機能の詳細については、後述する。
入力手段としての入力部13は、キーボードや入力用のボタン、レバーや、液晶などのディスプレイに重畳して設けられる手入力のためのタッチパネル、または音声認識のためのマイクロホンなどの、ユーザインターフェースを用いて構成される。ユーザなどが入力部13を操作することによって、制御部11に所定の情報を入力可能に構成される。出力手段としての出力部14は、所定の情報を外部に通知可能に構成される。出力部14は、制御部11による制御に従って、ディスプレイモニタに鉄筋構造物30の廃棄物の画像などを表示したり、タッチパネルディスプレイの画面上に文字や図形などを表示したり、スピーカから音声を出力したりする。なお、入力部13および出力部14を一体とした入出力部とし、入出力部をタッチパネルディスプレイやスピーカマイクロホンなどから構成してもよい。
(撮像装置)
撮像手段としての撮像装置20は、鉄筋構造物30の上方から、格子状に並べられた縦鉄筋31および横鉄筋32を撮像可能に構成される。撮像装置20は、典型的には、撮像部21が移動体に搭載されて構成されるが、必ずしも移動体に限定されるものではない。なお、移動体は例えば、ドローンなどの無人航空機(Unmanned Aerial Vehicle:UAV)や、ヘリコプター、飛行機、または飛行船などの有人航空機などの大気圏内を移動する移動体や、人工衛星や探査機などの大気圏外を移動する宇宙移動体である。撮像部21は、例えば高解像度の撮像カメラから構成されるが、鉄筋構造物30における複数の縦鉄筋31や複数の横鉄筋32を互いに識別可能であれば、種々のカメラを使用することが可能である。また、撮像装置20は、撮像部21と撮影対象との距離を計測可能な測距センサを備えてもよい。撮像装置20が測距センサを備える場合、鉄筋構造物30が、格子状に配列された縦鉄筋31および横鉄筋32からなる鉄筋の層を複数層有していた場合であっても、撮像装置20によって、複数の鉄筋のそれぞれの層までの距離の情報を取得できる。
(交点識別学習モデルおよびその生成方法)
次に、記憶部12に記憶されているプログラムである交点識別学習モデル121およびその生成方法について説明する。すなわち、交点識別学習モデル121は、撮像装置20が鉄筋構造物30を撮像した画像データ(以下、配筋画像データ)に対して、縦鉄筋31と横鉄筋32との交差部(以下、交点33)を抽出する処理を実行可能な学習モデルである。図2(a)は、撮像部21により撮像された鉄筋構造物30の配筋画像データの一例を示す平面図である。図2(b)は、配筋画像データに対して、縦鉄筋31と横鉄筋32との交点33の部分に画像アノテーションが実施された状態の例を示す平面図である。
交点識別学習モデル121を生成する際の入出力データセットとしては、学習用入力パラメータとして、図2(a)に示す撮像装置20が撮像した配筋画像データが用いられ、学習用出力パラメータとして、図2(b)に示す交点33の検出枠33aが付加された状態の画像データ(以下、交点画像データ)が用いられる。
ここで、配筋画像データを取得するための撮像装置20による撮像の条件の一例を挙げると、撮像時における撮像装置20の高さ、すなわち鉄筋構造物30との距離は、測定誤差の低減のために、取得する配筋画像データの1画素が実寸法の1mm未満になる高さになるように決定することができる。また、配筋画像データとしては、日射条件、背景、または鉄筋状態などの条件を変えた配筋画像データを用いることが好ましい。また、撮像装置20が撮像した複数の画像データをつなぎ合わせて、鉄筋構造物30の全体の配筋画像データを得るために、撮像した画像データのリサイズや、所定の被り量が設定された画像データの分割などを行ってもよい。画像データの分割を行う場合、所定の被り量としては、鉄筋31,32の幅の途中で分割されることを考慮して、鉄筋31,32の径の半分以上の大きさが好ましい。さらに、配筋画像データに対して、色の標準化処理、スケール変換処理、フリップ処理(反転処理)などの画像処理を行うことによって、撮像した配筋画像データに比して、学習用入力パラメータとして用いられる配筋画像データの数を増やすことも可能である。このように、学習用入力パラメータの数を増加させることによって、種々の環境下で撮像された配筋画像データに対しても、交点33の抽出を高精度に行うことが可能になる。
交点画像データとしては、図2(b)に示すように、配筋画像データに対して交点33を抽出する画像アノテーションが実行された画像データが用いられる。図2(b)に示す例においては、画像アノテーションとして、配筋画像データに対して交点33を囲ったバウンディングボックスと言われる検出枠33aが描画されている。検出枠33aは、左上の座標(x1,y1)および右下の座標(x2,y2)が指定される。検出枠33aの左上の座標(x1,y1)および右下の座標(x2,y2)が導出できれば、検出枠33aの中心座標、すなわち交点33の中心座標(x0,y0)を導出可能である。これにより、交点画像データから、交点33の例えば中心座標などの座標情報が導出でき、交点33ごとの座標情報を含む交点データ125を得ることができる。なお、交点データ125に、交点画像データを含めても含めなくてもよい。また、図示省略するが、画像アノテーションとして、縦鉄筋31や横鉄筋32における継手長部分の四隅の座標を指定する作業も併せて実行してもよい。また、本実施形態において、鉄筋どうしの間隔をミリオーダーで算出する場合には、配筋画像データにおける算出も画素単位で測定する必要が生じる。そのため、交点33のアノテーションにおいては、検出枠33aの画素の誤差が3画素以内に収まることが好ましい。
制御部11の学習部116は、上述した学習用入力パラメータおよび学習用出力パラメータを教師データとして、例えばニューラルネットワークを用いたディープラーニング(深層学習)などの機械学習によって、交点識別学習モデル121を生成する。制御部11は、学習部116により学習された内容に基づいて、配筋画像データから交点画像データを生成する。また、学習部116は、必要に応じて、入力された配筋画像データおよび、作業者が検出枠33aを修正した交点画像データを用いて、交点識別学習モデル121を適宜更新してもよい。
また、同一の縦鉄筋31と横鉄筋32との交点33に対して、複数の推論結果(認識結果ともいう)として得られた複数の検出枠33aに対して、NMS(Non-Maximum Suppression)を実行することによって、交点33の検出精度を向上させる。すなわち、画像の重なりの割合を表す値であるIoU値が所定値以上の確信度が最も高い推論結果の検出枠33aを残し、他の確信度が低い検出枠33aを除去する。IoU値の所定値は、例えば0.63~0.65程度に設定できる。これにより、交点33の検出枠33aの信頼性を向上できる。
(配筋検査方法)
次に、本実施形態による情報処理方法としての配筋検査方法について説明する。図3は、一実施形態による配筋検査方法を説明するためのフローチャートである。なお、ステップST1は撮像装置20、ステップST2~ST11は配筋検査装置10が行う処理である。
図3に示すように、ステップST1において撮像装置20は、鉄筋構造物30を撮像する。撮像装置20は、視野内における鉄筋構造物30の状況を複数の画像からなる映像として撮像する。これにより、撮像装置20は、図2(a)に示す配筋画像データを撮像できる。制御部11の画像取得部111は、撮像装置20が撮像した配筋画像データを、ネットワーク2を介して取得する。なお、撮像装置20において外部記録媒体に配筋画像データを格納して、外部記録媒体を用いて記憶部12に画像データ123として格納してもよい。
次に、ステップST2に移行して制御部11の画像処理部112は、取得した配筋画像データに対して、所定の画像処理を行う。画像処理部112は、具体的に例えば、取得した配筋画像データに対して、リサイズ処理、分割処理、色の標準化処理、スケール変換処理、およびフリップ処理などから必要な処理を実行する。なお、ステップST2を実行せずに、配筋画像データに対する画像処理を実行しないことも可能である。
次に、ステップST3に移行して制御部11の交点検出部113は、交点識別学習モデル121に基づいて、取得した配筋画像データに対して鉄筋構造物30における縦鉄筋31と横鉄筋32との交点33を抽出する。具体的に、交点検出部113は、交点識別学習モデル121に基づいて、抽出した交点33のそれぞれに対して、検出枠33aを付与する。交点検出部113は、付与した検出枠33aに基づいて、それぞれの検出枠33aの中心点の座標(x0,y0)(図2参照)を導出して、記憶部12に交点データ125として格納する。
次に、ステップST4に移行して制御部11のクラスタリング処理部115は、導出された複数の検出枠33aの中心点の座標(x0,y0)の座標情報を含む交点データ125を記憶部12から読み出す。クラスタリング処理部115は、読み出した交点データ125の座標情報に基づいて、例えば凝集型階層的クラスタリング(agglomerative hierarchical clustering)などの階層クラスタリングを用いて、それぞれの交点33が所属する鉄筋番号(以下、所属鉄筋番号)を判定する。すなわち、まず、縦鉄筋31の交点33をx軸方向に射影し、横鉄筋32の交点33をy軸方向に射影する。なお、個々の座標データはそれぞれ、孤立したクラスタを形成している状態である。すなわち、初期状態では個々の座標データの数は、クラスタの数と一致する。次に、例えば単リンク法や最小距離法などによって、x軸方向に沿った交点33のx座標x0どうしの距離を算出して、それらの中の最小値をクラスタ間の距離とする。同様に、y軸方向に沿った交点33のy座標y0についても同様にクラスタ間の距離を算出する。次に、距離の近いクラスタどうしをまとめて新たなクラスタを作成する。以上の処理を繰り返し行うことによって、デンドログラムを取得できる。その後、鉄筋31,32の鉄筋径を閾値としてクラスタを分割して部分集合化させる。最終的に分割されたクラスタに含まれる推論結果を、同一の鉄筋31,32上の交点であると判定して、それらの交点33は同一の所属鉄筋番号jであると判定する。同一の鉄筋31,32の交点33と判定された検出枠33aの座標情報は、所属鉄筋番号jに関連付けされて、推論データ124として記憶部12に格納される。
次に、ステップST5に移行して交点検出部113は、同一の所属鉄筋番号jに関連付けされた複数の交点33のそれぞれの中心座標(xi,yi)(i=1,2,…,n)に基づいて、例えば、以下の(1)式および(1-1)式に示す最小二乗法などによって鉄筋式f(x)を導出する。なお、個数nは、同一の所属鉄筋番号jに関連付けされた交点33の個数nである。また、鉄筋式f(x)は、所属鉄筋番号jの数だけ導出される。すなわち、鉄筋式f(x)は、継手された鉄筋31,32を1本の鉄筋31,32とした場合に、少なくとも鉄筋31,32の本数分導出される。
f(x)=ax+b …(1)
Figure 2022030356000002
なお、(x0,y0)は、中心座標の平均値である。
次に、ステップST6に移行して交点検出部113は、ステップST4において判定された同一の所属鉄筋番号jの検出枠33aの中心座標(xji,yji)と、ステップST5において導出された鉄筋31,32における、所属鉄筋番号jの鉄筋式fj(x)、および前後の所属鉄筋番号j+1,j-1のそれぞれの鉄筋式fj-1(x),fj+1(x)との比較を行う。図4Aおよび図4Bは、本実施形態による配筋検査方法において、鉄筋式による推論結果の補正を説明するための平面図である。
図4Aに示すように、交点検出部113は、所属鉄筋番号j(図4A中、ラインL1)のm番目の検出枠33aの中心座標(xjm,yjm)と鉄筋式fj(x)との距離d0 j,mを算出する。また、交点検出部113は、検出枠33aの中心座標(xjm,yjm)と所属鉄筋番号j-1の鉄筋式fj-1(x)との距離d-1 j,mを算出する。さらに、交点検出部113は、検出枠33aの中心座標(xjm,yjm)と所属鉄筋番号j+1(図4A中、ラインL2)の鉄筋式fj+1(x)との距離d+1 j,mを算出する。なお、図4A中、ラインL2を鉄筋式fj(x)とした場合、ラインL1が鉄筋式fj-1(x)となる。
次に、ステップST7に移行して交点検出部113は、ステップST6において算出した種々の距離に基づいて、検出枠33aが正確であるか否か、換言すると交点識別学習モデル121に基づいて推論された交点33の推論結果が正確であるか否かを判定する。交点検出部113は、具体的に例えば、以下の(2)式または(3)式が成立するか否かを判定する。交点検出部113は、(2)式または(3)式が成立した場合に、交点33の検出枠33aの推論結果は正確ではない(ステップST7:No)と判定する。交点検出部113は、(2)式および(3)式がいずれも成立しなかった場合に、交点33の検出枠33aの推論結果は正確である(ステップST7:Yes)と判定する。なお、以下の(2)式および(3)式は推論結果の判定式の一例であり、その他の数式や条件を用いてもよい。
Figure 2022030356000003
Figure 2022030356000004
交点検出部113が、交点識別学習モデル121に基づいて推論された検出枠33aの推論結果は正確ではないと判定した場合(ステップST7:No)、ステップST8に移行する。ステップST8において交点検出部113は、検出枠33aの推論結果に対して、所属鉄筋番号jの補正を行う。具体的に例えば、交点検出部113は、正確ではないと判定された検出枠33aの中心座標(xjm,yjm)において、(2)式および(3)式のいずれが成立するかに基づいて、所属鉄筋番号jの補正を行う。すなわち、検出枠33aの中心座標(xjm,yjm)において(2)式が成立した場合、この検出枠33aの交点33の所属鉄筋番号jを所属鉄筋番号j-1に補正する。同様に、検出枠33aの中心座標(xjm,yjm)において(3)式が成立した場合、この検出枠33aの交点33の所属鉄筋番号jを所属鉄筋番号j+1に補正する。これにより、図4Bに示すように、鉄筋式f(x)と検出枠33aとが統合される。なお、鉄筋式fj-1(x),fj(x),fj+1(x)と検出枠33aの中心座標(xjm,yjm)との比較を行うことによって、検出枠33aが生成されていない交点33、すなわち未検出の交点33を検出することができる。推論された検出枠33aの座標情報は、交点データ125の一部として記憶部12に格納される。その後、ステップST9に移行する。
また、交点検出部113が、交点識別学習モデル121に基づいて推論された交点33の推論結果が正確であると判定した場合(ステップST7:Yes)、ステップST9に移行する。
ステップST9に移行すると制御部11の継手検出部114は、クラスタリング処理部115によってクラスタリングされた検出枠33aのなかから、継手部分の検出枠33aを抽出して、継手の位置および継手長を導出する。図5A、図5B、および図5Cはそれぞれ、本実施形態による配筋検査方法において、継手の検出方法を説明するための平面図である。
すなわち、図5Aに示すように、継手の交点33には一般の交点には見られない連続する検出枠33aが存在する。図5Aに示す例では、縦鉄筋31と横鉄筋32aとの交点部分に検出枠33aaが付与され、縦鉄筋31と横鉄筋32bとの交点部分に検出枠33abが付与されている。継手検出部114は、交点33と推論されたそれぞれの検出枠33a(33aa,33ab)の中心座標(x0,y0)に対して、中心間距離dcを算出する。なお、中心間距離dcの算出は、推論された全ての検出枠33aに対して行うことが可能である。次に、継手検出部114は、複数の検出枠33aの中から、算出した中心間距離dcが所定距離以下、具体的には鉄筋31,32の鉄筋径の約2倍以下、すなわち2本程度以下になる少なくとも2つの検出枠33aa,33abを抽出する。
次に、図5Bに示すように、クラスタリング処理部115によってクラスタリングされて推論された交点33の連続する検出枠33aa,33abに対して、継手検出部114は、所属する継手番号(以下、所属継手番号)を判定する。図5Bに示す例では、所属継手番号として「1」,「2」が設定されている。推論された検出枠33aa,33abのそれぞれの座標データは、所属継手番号に関連付けされて、記憶部12に推論データ124として格納される。
次に、図5Cに示すように、継手検出部114は、同じ所属継手番号に関連付けされた検出枠33aa,33abに基づいて、継手部分を抽出する。図5Cに示す例では、所属継手番号が「1」の領域A1と所属継手番号が「2」の領域A2とが、継手部分として抽出される。継手検出部114は、具体的に、例えば所属継手番号が「1」の検出枠33aの座標のうちから、最大のx座標およびy座標(例えば、座標(x11,y11))と、最小のx座標およびy座標(例えば、座標(x12,y12))によって規定された領域A1を抽出する。継手検出部114は、領域A1を、所属継手番号が「1」の継手部分と推論する。これにより、継手部分の検出誤差を、鉄筋31,32どうしの間隔未満にすることが可能になる。
次に、ステップST10に移行して交点検出部113は、ステップST2~ST9によって得られた複数の交点画像データの座標情報を含む交点データ125を記憶部12から読み出して、相互に結合させる。交点検出部113は、結合させた座標情報を含む交点データ125を記憶部12に格納する。また、交点検出部113は、鉄筋構造物30における複数の交点33の座標情報として、出力部14から出力してもよい。
その後、ステップST11に移行して画像処理部112は、交点33の座標情報に基づいて、設計データとしてのCIM(Construction Information Modeling/Management)モデルに対して誤差量の属性を付与する。図6は、本実施形態による配筋検査装置10から出力されたCIMモデルの出来形帳票の一例を示す斜視図である。図6に示すように、画像処理部112は、交点データ125の座標情報とCIMモデルの情報とに基づいて、CIMモデルにおける鉄筋31,32の設計上の配置からの誤差量を算出する。画像処理部112は、誤差量の大きさに応じて、鉄筋31,32を区別可能にCIMモデルに描画する。図6に示す例では、誤差量が極めて小さい正常値である場合には「細実線」、誤差量が小さい微ずれの場合には「一点鎖線」、誤差量がやや大きいずれの場合には「二点鎖線」、誤差量が極めて大きい異常値である場合には「太線」などとしている。また、例えば、正常値の「細実線」を灰色、微ずれの「一点鎖線」を緑色、ずれの「二点鎖線」を黄色、異常値の「太線」を赤色などにして、誤差量の大きさに応じてCIMモデルにおける鉄筋の色を変更することで、出来形管理することも可能である。これにより、鉄筋31,32の出来形帳票によって、鉄筋の配筋検査の結果を作業者が視覚的に認識することが可能になる。
さらに、撮像装置20が測距センサを備えている場合においては、格子状に配置された鉄筋31,32を1つの鉄筋層として複数の鉄筋層が設けられていた場合、画像処理部112が出来形帳票を作成する場合においても、深さ方向に沿った複数の鉄筋層を描画可能になる。
従来、配筋検査においては、配筋位置において複数の作業者がスケールを用いて配筋ピッチなどの鉄筋31,32の検査項目を1本ずつ測定していた。これに対し、以上説明した一実施形態においては、撮像装置20が撮像した配筋画像データを取得して、交点識別学習モデル121に基づいて交点33を抽出した検出枠33aを配筋画像データに付与して交点画像データを生成し、交点画像データにおける交点33の座標情報を導出して鉄筋31,32の配置情報を確定している。すなわち、一実施形態によれば、作業者が手動で計測を行う必要がなく、撮像装置20によって撮像した配筋画像データに基づいて、鉄筋31,32において交差する交点33を全体に亘って抽出して座標情報を導出し、交点33の座標情報に基づいて、鉄筋31,32に関する各種の項目を測定可能になるので、配筋検査において、処理すべきデータを低減でき、省人化を実現しつつ信頼性を向上することが可能となる。また、本発明者が上述した一実施形態による配筋検査装置10を用いて配筋検査処理を行ったところ、75%の時間短縮および省人化効果が確認された。
以上、本発明の一実施形態について具体的に説明したが、本発明は、上述の一実施形態に限定されるものではなく、本発明の技術的思想に基づく各種の変形が可能である。例えば、上述の一実施形態において挙げた数値はあくまでも例に過ぎず、必要に応じてこれと異なる数値を用いてもよく、本実施形態による本発明の開示の一部をなす記述および図面により本発明は限定されることはない。
例えば、上述した一実施形態においては、記憶部12に交点識別学習モデル121を格納しているが、交点識別学習モデル121を、ネットワーク2を介して配筋検査装置10と通信可能な配筋画像サーバの記憶部に格納しておくことも可能である。この場合、撮像装置20が撮像した配筋画像データは、ネットワーク2を介して配筋画像サーバに送信されて記憶部に格納される。その後、配筋画像サーバの制御部は、配筋検査装置10からの要求に対応して、配筋画像データに対して検出枠33aを付与して交点画像データを生成して、配筋検査装置10に送信する。配筋検査装置10においては、受信した配筋画像データに対して、上述した配筋検査処理を実行することができる。
記憶部12を、ネットワーク2を介して通信可能な記憶サーバに格納することも可能である。この場合、配筋検査装置10から記憶サーバへの要求に対応して、配筋画像データや交点画像データ、交点データや推論データを配筋検査装置10に送信することができる。
配筋検査装置10の制御部11における、画像取得部111、画像処理部112、交点検出部113、継手検出部114、クラスタリング処理部115、および学習部116のそれぞれを、互いにネットワーク2を介して通信可能な個別の装置に設けてもよく、必要な処理部を組み合わせて、ネットワーク2を介して別々の装置に設けてもよい。
また、例えば、上述した一実施形態においては、交点識別学習モデル121を生成するための機械学習の一例として、ニューラルネットワークを用いたディープラーニング(深層学習)を用いたが、それ以外の方法に基づく機械学習を行ってもよい。例えば、サポートベクターマシン、決定木、単純ベイズ、k近傍法など、他の教師あり学習を用いてもよい。また、教師あり学習に代えて半教師あり学習を用いてもよい。また、クラスタリング処理は、階層クラスタリング以外にも、k-means法などの公知のクラスタリング処理手法を用いることが可能である。
(記録媒体)
上述の一実施形態において、配筋検査装置10、または配筋検査装置10が実行する処理方法を実行させるプログラムを、コンピュータその他の機械やウェアラブルデバイスなどの装置(以下、コンピュータなど、という)が読み取り可能な記録媒体に記録することができる。コンピュータなどに、この記録媒体のプログラムを読み込ませて実行させることにより、当該コンピュータなどが移動体制御装置として機能する。ここで、コンピュータなどが読み取り可能な記録媒体とは、データやプログラムなどの情報を電気的、磁気的、光学的、機械的、または化学的作用によって蓄積し、コンピュータなどから読み取ることができる非一時的な記録媒体をいう。このような記録媒体のうちのコンピュータ等から取り外し可能なものとしては、例えばフレキシブルディスク、光磁気ディスク、CD-ROM、CD-R/W、DVD、BD、DAT、磁気テープ、フラッシュメモリなどのメモリカードなどがある。また、コンピュータなどに固定された記録媒体としてハードディスク、ROMなどがある。さらに、SSDは、コンピュータなどから取り外し可能な記録媒体としても、コンピュータなどに固定された記録媒体としても利用可能である。
また、一実施形態による配筋検査装置10、および配筋検査装置10に実行させるプログラムは、インターネットなどのネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。
(その他の実施形態)
一実施形態においては、上述した「部」を、「回路」などに読み替えることができる。例えば、制御部は、制御回路に読み替えることができる。
なお、本明細書におけるフローチャートの説明では、「まず」、「その後」、「続いて」などの表現を用いてステップ間の処理の前後関係を明示していたが、本実施の形態を実施するために必要な処理の順序は、それらの表現によって一意的に定められるわけではない。すなわち、本明細書で記載したフローチャートにおける処理の順序は、矛盾のない範囲で変更することができる。
さらなる効果や変形例は、当業者によって容易に導き出すことができる。本開示のより広範な態様は、以上のように表しかつ記述した特定の詳細および代表的な実施形態に限定されるものではない。したがって、添付のクレームおよびその均等物によって定義される総括的な発明の概念の精神または範囲から逸脱することなく、様々な変更が可能である。
1 配筋検査システム
2 ネットワーク
10 配筋検査装置
11 制御部
12 記憶部
13 入力部
14 出力部
20 撮像装置
21 撮像部
30 鉄筋構造物
31 縦鉄筋
32,32a,32b 横鉄筋
33 交点
33a,33aa,33ab 検出枠
111 画像取得部
112 画像処理部
113 交点検出部
114 継手検出部
115 クラスタリング処理部
116 学習部
121 交点識別学習モデル
122 クラスタリングコード
123 画像データ
124 推論データ
125 交点データ

Claims (9)

  1. 複数の鉄筋が交差して設けられる鉄筋構造物における前記鉄筋が撮像されて得られた配筋画像データに対して画像処理を施す制御部を備える情報処理装置であって、
    前記制御部は、
    前記撮像された配筋画像データを取得して記憶部に記憶させ、
    前記記憶部から読み出した前記配筋画像データに対して、前記鉄筋が交差した部分の交点を複数識別し、
    前記識別された複数の交点の座標情報を含む交点データを生成する
    情報処理装置。
  2. 前記制御部は、
    前記記憶部から前記配筋画像データを入力パラメータとして取得して、前記記憶部から読み出した前記配筋画像データを交点識別学習モデルに入力し、
    前記配筋画像データに対して前記交点を抽出した検出枠が付加された交点画像データを出力パラメータとして出力し、
    出力した前記交点画像データに基づいて、前記交点データを生成し、
    前記交点識別学習モデルは、前記配筋画像データを学習用入力パラメータとし、前記配筋画像データに対して前記交点を示す検出枠が付加された交点画像データを学習用出力パラメータとして、機械学習によって生成された学習モデルである
    請求項1に記載の情報処理装置。
  3. 前記鉄筋構造物は、連続した鉄筋を複数本備え、
    前記連続した鉄筋に固有の鉄筋番号が、前記連続した鉄筋ごとに設定され、
    前記制御部は、
    前記交点データに含まれる複数の交点の座標情報に基づいてクラスタリングを実行することにより、前記識別された複数の交点に対して、互いに同一の鉄筋番号であると判定した複数の交点を分割して部分集合化する
    請求項1または2に記載の情報処理装置。
  4. 前記鉄筋構造物は、連続した鉄筋を複数本備え、
    前記連続した鉄筋に固有の鉄筋番号が、前記連続した鉄筋ごとに設定され、
    前記制御部は、
    前記識別された複数の交点に対して、互いに同一の鉄筋番号であると判定した複数の交点を抽出して、前記同一の鉄筋番号であると判定した複数の交点に近似する鉄筋式を、前記鉄筋番号ごとに導出し、
    前記鉄筋番号ごとに導出した複数の鉄筋式と、前記互いに同一の鉄筋番号であると判定した複数の交点のそれぞれの座標情報とに基づいて、前記互いに同一の鉄筋番号であると判定した複数の交点における該交点ごとに鉄筋番号の正否を判定する
    請求項3に記載の情報処理装置。
  5. 前記制御部は、
    前記交点の鉄筋番号が異なると判定した場合、該交点が判定された鉄筋番号に対して前または後の鉄筋番号の鉄筋式に基づいて、該交点の鉄筋番号を補正する
    請求項4に記載の情報処理装置。
  6. 前記制御部は、
    識別した複数の交点においてそれぞれの交点間の距離を算出し、
    前記交点間の距離が所定距離以下の2つの交点を抽出し、
    前記2つの交点を前記鉄筋の継手部分の交点であると判定する
    請求項1~5のいずれか1項に記載の情報処理装置。
  7. 前記鉄筋構造物は、連続した鉄筋を備え、
    前記連続した鉄筋は少なくとも2本の鉄筋が長さ方向に沿って固着された継手部分を有し、
    前記継手部分に固有の継手番号が、前記継手部分ごとに設定され、
    前記制御部は、
    複数の前記継手部分の交点の座標情報に基づいてクラスタリングを実行することにより、複数の前記継手部分の交点に対して、互いに同一の継手番号であると判定した複数の交点を抽出して集合化し、
    前記継手番号ごとに継手長を導出する
    請求項6に記載の情報処理装置。
  8. 複数の鉄筋が交差して設けられる鉄筋構造物における前記鉄筋が撮像されて得られた配筋画像データに対して画像処理を施す制御部を備える情報処理装置が実行する情報処理方法であって、
    前記撮像された配筋画像データを取得して記憶部に記憶させ、
    前記記憶部から読み出した前記配筋画像データに対して、前記鉄筋が交差した部分の交点を複数識別し、
    前記識別された複数の交点の座標情報を含む交点データを生成する
    情報処理方法。
  9. 複数の鉄筋が交差して設けられる鉄筋構造物における前記鉄筋が撮像されて得られた配筋画像データに対して画像処理を施す制御部に、
    前記撮像された配筋画像データを取得して記憶部に記憶させ、
    前記記憶部から読み出した前記配筋画像データに対して、前記鉄筋が交差した部分の交点を複数識別し、
    前記識別された複数の交点の座標情報を含む交点データを生成する
    ことを実行させるプログラム。
JP2020134335A 2020-08-07 2020-08-07 情報処理装置、情報処理方法、およびプログラム Active JP7469987B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020134335A JP7469987B2 (ja) 2020-08-07 2020-08-07 情報処理装置、情報処理方法、およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020134335A JP7469987B2 (ja) 2020-08-07 2020-08-07 情報処理装置、情報処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2022030356A true JP2022030356A (ja) 2022-02-18
JP7469987B2 JP7469987B2 (ja) 2024-04-17

Family

ID=80324134

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020134335A Active JP7469987B2 (ja) 2020-08-07 2020-08-07 情報処理装置、情報処理方法、およびプログラム

Country Status (1)

Country Link
JP (1) JP7469987B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115203801A (zh) * 2022-07-15 2022-10-18 中国建筑西南设计研究院有限公司 一种基于交线识别的板钢筋动态关联方法和装置
WO2024084673A1 (ja) * 2022-10-21 2024-04-25 三菱電機株式会社 配筋検査装置、学習装置、配筋検査システムおよび配筋検査方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5628364B2 (ja) 2013-03-25 2014-11-19 潤弘精密工程事業股▲ふん▼有限公司 鉄筋の溶接方法および鉄筋の溶接調節システム
US10810734B2 (en) 2018-07-02 2020-10-20 Sri International Computer aided rebar measurement and inspection system
JP7283904B2 (ja) 2019-01-18 2023-05-30 株式会社トプコン 測定装置及び測定装置の制御方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115203801A (zh) * 2022-07-15 2022-10-18 中国建筑西南设计研究院有限公司 一种基于交线识别的板钢筋动态关联方法和装置
WO2024084673A1 (ja) * 2022-10-21 2024-04-25 三菱電機株式会社 配筋検査装置、学習装置、配筋検査システムおよび配筋検査方法

Also Published As

Publication number Publication date
JP7469987B2 (ja) 2024-04-17

Similar Documents

Publication Publication Date Title
JP6069489B2 (ja) 物体認識装置および物体認識方法並びにプログラム
EP2688040B1 (en) 3D registration of tomographic models using particularly chosen points
JP2022030356A (ja) 情報処理装置、情報処理方法、およびプログラム
JP2017182302A (ja) 画像処理プログラム、画像処理装置、及び画像処理方法
JP2016179534A (ja) 情報処理装置、情報処理方法、プログラム
JP6651702B2 (ja) 物体検出装置、物体検出方法および情報処理プログラム
Mirzaei et al. End-to-end point cloud-based segmentation of building members for automating dimensional quality control
CN114387317A (zh) Ct图像和mri三维图像的配准方法、装置
CN113920254A (zh) 一种基于单目rgb的室内三维重建方法及其系统
US20220382928A1 (en) Centerline correction apparatus, centerline correction method, and spatial network data generation system and program
JP5930808B2 (ja) 画像処理装置、画像処理装置の制御方法、およびプログラム
JP7329951B2 (ja) 画像処理装置およびその制御方法
JP2011258036A (ja) 3次元形状検索装置、3次元形状検索方法、及びプログラム
JP7093680B2 (ja) 構造物差分抽出装置、構造物差分抽出方法およびプログラム
JP2021157607A (ja) 破断面解析装置及び破断面解析方法
JP6546385B2 (ja) 画像処理装置及びその制御方法、プログラム
CN114299192B (zh) 定位建图的方法、装置、设备和介质
CN114140608B (zh) 一种光伏板标记方法、装置、电子设备及存储介质
US11887387B2 (en) Mesh structure equipment detection apparatus, mesh structure equipment detection method and program
US11074670B2 (en) Image processing apparatus, control method thereof, recording medium, and information processing system
US11922659B2 (en) Coordinate calculation apparatus, coordinate calculation method, and computer-readable recording medium
JP2020113247A (ja) 画像処理装置およびその制御方法、情報処理システム
US20240104765A1 (en) Estimation device, estimation method, and storage medium
JP2020123064A (ja) 画像マッチング判定方法、画像マッチング判定装置、および画像マッチング判定方法をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP7290780B1 (ja) 情報処理方法、コンピュータプログラム及び情報処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230706

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240308

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240405

R150 Certificate of patent or registration of utility model

Ref document number: 7469987

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150