JP2024033803A - 角度計測装置、角度計測方法、角度計測プログラム - Google Patents

角度計測装置、角度計測方法、角度計測プログラム Download PDF

Info

Publication number
JP2024033803A
JP2024033803A JP2022137636A JP2022137636A JP2024033803A JP 2024033803 A JP2024033803 A JP 2024033803A JP 2022137636 A JP2022137636 A JP 2022137636A JP 2022137636 A JP2022137636 A JP 2022137636A JP 2024033803 A JP2024033803 A JP 2024033803A
Authority
JP
Japan
Prior art keywords
image
needle
measuring device
angle measuring
angle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2022137636A
Other languages
English (en)
Other versions
JP7231877B1 (ja
Inventor
宏明 ▲高▼木
智之 本吉
良輔 三浦
魁 新倉
裕樹 廣岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Iwatsu Electric Co Ltd
Original Assignee
Iwatsu Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Iwatsu Electric Co Ltd filed Critical Iwatsu Electric Co Ltd
Priority to JP2022137636A priority Critical patent/JP7231877B1/ja
Priority to JP2023009291A priority patent/JP2024035023A/ja
Application granted granted Critical
Publication of JP7231877B1 publication Critical patent/JP7231877B1/ja
Publication of JP2024033803A publication Critical patent/JP2024033803A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】針が指す角度を求めるために、針の輪郭に対応する線分を容易に抽出できる角度計測装置、角度計測方法及び角度計測プログラムを提供する。【解決手段】角メータの針が指す角度を求める角度計測装置400であって、抽出部110、検出部120及び算出部130を備える。抽出部110は、取得した画像である取得画像から、針の所定部分を含む領域である処理対象領域を抽出し、処理対象領域に基づいた処理対象画像を得る。検出部120は、処理対象画像から、EDPF処理によって針の輪郭に対応する線分である輪郭線分を検出する。算出部130は、輪郭線分から、針の角度を算出する。【選択図】図1

Description

本発明は、メータの針が指す角度を求める角度計測装置、角度計測方法、角度計測プログラムに関する。
指針を検出する技術、もしくは画像中の直線を検出する技術、角度を検出する技術として特許文献1~5などが知られている。特許文献1の要約には、『検出部は、取得した画像からエッジを検出する。抽出部は、検出部により検出したエッジに対しハフ変換を行い複数の線を抽出する。算出部は抽出部により抽出した複数の線に基づき、各線の角度を算出する。算出部は、各線の角度から、メータの針の角度を算出する。』のように記載されている。特許文献2の段落0058には、『指針検出処理(ステップS6)は、本実施形態における指針検出手段であり、携帯端末30で撮像した画像から形状解析用画像を生成し、線分を検出し、アナログメータ20の指針の線形状(指針21のエッジ)を抽出する処理である。』と示されている。特許文献3の要約には、『濃淡画像に対して微分処理を行うことによりエッジ画像を求め、ハフ変換により直線を検出する方法において、・・・』のように記載されている。特許文献4の要約には、『外形が円形である検査対象物の2値化画像を生成する(S1)。次に、2値化画像内で検査対象物に外接する外接矩形を設定する(S2)。この外接矩形の中心座標を検査対象物の中心座標として求め(S3)、次に2値化画像内でエッジとなる画素をエッジ点として抽出した後に(S4)、中心座標と各エッジ点とを結ぶ直線が水平方向に対してなす角度を求める(S5)。さらに、各角度の発生度数のヒストグラムを生成し(S6)、基準となる検査対象物から生成したヒストグラムと、比較する検査対象物から生成したヒストグラムを規定の角度分ずつシフトさせたヒストグラムとの相関係数を演算し、相関係数のうちの最大値を両検査対象物の一致度として用いる(S7)。』と記載されている。特許文献5の要約には、『測定対象画像からエッジ点を抽出し、そのエッジ点列の配置から直線を抽出する画像計測アルゴリズムにおける特徴抽出方法であって、エッジ点の妥当性を評価するためのテンプレート画像を決定し、抽出されたエッジ点の周辺の画像と前記テンプレート画像の正規化相互相関係数を計算し、計算したその数値を直線推定時に当該エッジ点の重み付けに用いる、ように構成される。』と記載されている。なお、画像から直線、円および楕円を求める技術として、非特許文献1~5に示されたEDPF(Edge Drawing Parameter Free)技術も知られている。
特開2011-196713号公報 特開2020-118484号公報 特開平11-66302号公報 特開2001-357401号公報 特開2009-48292号公報
C. Akinlar, C. Topal, EDPF: A Real-time Parameter-free Edge Segment Detector with a False Detection Control, International Journal of Pattern Recognition and Artificial Intelligence, 26 (1) (2012),[令和4年8月5日検索]、インターネット<http://c-viz.eskisehir.edu.tr/pdfs/EDPF.pdf>. C. Topal, C. Akinlar, Edge Drawing: A Combined Real-Time Edge and Segment Detector, Journal of Visual Communication and Image Representation, vol.23, no.6, pp.862-872, August 2012,[令和4年8月5日検索]、インターネット<https://www.sciencedirect.com/science/article/pii/S1047320312000831>. C. Akinlar, C. Topal, EDLines: A real-time line segment detector with a false detection control, Pattern Recognition Letters, vol.32, iss.13, pg. 1633-1642, October 2011,[令和4年8月5日検索]、インターネット<https://www.sciencedirect.com/science/article/pii/S0167865511001772>. C. Akinlar, C. Topal, EDCircles: A Real-time Circle Detector with a False Detection Control, Pattern Recognition, 46(3), 725-740, March 2013,[令和4年8月5日検索]、インターネット<https://www.sciencedirect.com/science/article/pii/S0031320312004268>. C. Akinlar, C. Topal, ColorED: Color edge and segment detection by Edge Drawing (ED), Journal of Visual Communication and Image Representation, vol.44, pp.82-94, April 2017,[令和4年8月5日検索]、インターネット<https://www.sciencedirect.com/science/article/pii/S1047320317300305>.
画像から直線を抽出する処理においては、エッジを抽出した後に直線を検出する技術を用いることが一般的である。特許文献1などに示された技術は、エッジ検出を行い、ハフ変換を行って、複数の線を検出し、複数の線の角度を求め、該角度の平均、中間値などを求め、針の角度とする方法である。エッジ検出およびハフ変換を適切に使用するためには、詳細な動作を規定するパラメタ設定が必要であるが、一般の利用者には技術的に高度なため、適切なパラメタを設定することは困難であるなどの問題がある。本発明では、針が指す角度を求めるために、針の輪郭に対応する線分を容易に抽出できる技術を組み合わせることを目的とする。
本発明の角度計測装置は、メータの針が指す角度を求める。本発明の角度計測装置は、抽出部、検出部、算出部を備える。抽出部は、取得した画像である取得画像から、針の所定部分を含む領域である処理対象領域を抽出し、処理対象領域に基づいた処理対象画像を得る。検出部は、処理対象画像から、EDPF処理によって針の輪郭に対応する線分である輪郭線分を検出する。算出部は、輪郭線分から、針の角度を算出する。
本発明の角度計測装置によれば、EDPF処理を利用して針の輪郭に対応する線分を求めるので、針の輪郭に対応する線分である輪郭線分を容易に抽出できる。また、算出部では、検出された輪郭線分から針の角度を求めることができる。したがって、針が指す角度を求めるために、針の輪郭に対応する線分を容易に抽出できる技術を組み合わせている。
実施例1の角度計測装置の機能構成例を示す図。 実施例1の角度計測装置の処理フローを示す図。 撮像装置900が長方形メータの正面に配置できていない場合と、正面に配置できている場合の違いを示す図。 撮像装置900が円形メータの正面に配置できていない場合と、正面に配置できている場合の違いを示す図。 初期撮影画像と現在の撮影画像の例を示す図。 メータの例と処理対象領域に含めない領域の例を示す図。 針の形状の例を示す図。 ステップS120の検出の詳細フローチャートを示す図。 針が文字盤に記載された「V」の文字と重なった例を示す図。 検出された線分が分割された例を示す図。 線分接続処理のフローを示す図。 直線の式を求める処理フローを示す図。 針の輪郭に対応する線分について説明するための図。 針の輪郭に対応する線分と軸との関係を示す図。 一つのメータに複数の針がある例を示す図。 図15の複数の針の部分を上記の方法で針の直線の式を求め、その交点を求めた例を示す図。 円形メータの軸を求める方法を説明するための図。 角度算出のイメージを示す図。 変形例1の角度計測装置の機能構成例を示す図。 変形例1の角度計測装置の処理フローを示す図。 変形例2の角度計測装置の機能構成例を示す図。 変形例2の角度計測装置の処理フローを示す図。 変形例3の角度計測装置の機能構成例を示す図。 変形例3の角度計測装置の処理フローを示す図。 コンピュータの機能構成例を示す図。
以下、本発明の実施の形態について、詳細に説明する。なお、同じ機能を有する構成部には同じ番号を付し、重複説明を省略する。
図1に実施例1の角度計測装置の機能構成例を、図2に実施例1の角度計測装置の処理フローを示す。角度計測装置400は、特定点指定部360、変換条件取得部370、画像変換部380、特徴関連部240、撮影画像補正部250、抽出部110、検出部120、算出部130、記録部190を備える。実施例1では、記録部190は、画像記録部390と初期記録部290を含んでいる。角度計測装置400は、撮像装置900,…,900とネットワークを介して接続される。撮像装置900は、撮影したメータの画像を角度計測装置400に送信する。なお、1つの撮像装置900が撮影する画像に複数のメータが含まれていてもよい。Mは1以上の整数、mは1以上M以下の整数である。
まず、メータの外枠が長方形の場合について説明する。図3は、撮像装置900が長方形メータの正面に配置できていない場合と、正面に配置できている場合の違いを示す図である。図3(A)は撮像装置900がメータの正面に配置できていない場合のメータの映像のイメージを示す図である。図3(B)は撮像装置900を正面に配置できている場合のメータの映像のイメージを示す図である。特定点361は、メータを正面から見たときには長方形の頂点366となる点である。
特定点指定部360は、長方形メータの初期状態を撮影した初期撮影画像を表示し、利用者にメータを正面から見たときには長方形の頂点366となる初期撮影画像上の4点を指定させ、特定点361とする(S360)。変換条件取得部370は、特定点361が長方形の頂点となるように初期撮影画像を変換するための変換条件を求め、画像記録部390に記録する(S370)。なお、正確に特定点361が頂点366と一致するように変換する必要はなく、特定点361が似た長方形の頂点となるように変換すれば十分である。具体的には、次式のような変換式(射影変換)を変換条件として求めればよい。次式の(x,y)は特定点361の座標であり、(x’,y’)は代表点の座標である。
Figure 2024033803000002

4つの特定点361を対応する代表点366に変換できるように、行列の要素を求めればよい。また、行列の代わりに、以下の式を用いてもよい。
Figure 2024033803000003

なお、変換条件は上記の変換方法に限定する必要はない。適宜、変換方法を決めればよい。ステップS360とS370をすべての撮像装置900,…,900に対して行い、画像記録部390に変換条件を記録する。また、角度計測装置400を使用開始した後に撮像装置を追加したときは、追加した撮像装置に対してもステップS360とS370を実行する。
次に、メータの外枠が円形の場合について説明する。図4は、撮像装置900が円形メータの正面に配置できていない場合と、正面に配置できている場合の違いを示す図である。図4(A)は撮像装置900がメータの正面に配置できていない場合のメータの映像のイメージを示す図である。図4(B)は撮像装置900を正面に配置できている場合のメータの映像のイメージを示す図である。
特定点指定部360は、メータの初期状態を撮影した初期撮影画像に含まれる楕円形の輪郭をEDPF処理によって検出し、検出した楕円形の中心、短軸長、長軸長、変形角度を特定する(S360)。EDPF(Edge Drawing Parameter Free)技術は、非特許文献1~5などで開示された既存の技術であり、画像から輪郭(エッジ)などを検出する技術である。特定点指定部360は、楕円形を検出することで、メータの外枠を検出する。ここでは、メータの外枠は円形(中心からの距離が一定)であることが前提であり、メータ自体が回転していることとカメラが回転していることは想定していない。このような前提であっても、メータがカメラの正面に位置していない場合はメータを斜めから撮影することになるので、初期撮影画像ではメータの外枠は楕円形になる。そこで、特定点指定部360は、EDPF処理によって楕円形を検出し、検出した楕円形の中心、短軸長、長軸長、変形角度を特定する。短軸がどのような角度(変形角度)になるかは、メータとカメラとの位置関係に依存する。短くなる方向はメータとカメラとの位置関係に依存するので、針の角度もメータとカメラとの位置関係に依存して変わってしまう。そこで、変換条件取得部370は、短軸と長軸が同じ長さとなるように初期撮影画像を変換するための変換条件を求め、画像記録部390に記録する(S370)。変形条件は、上述の行列でもよいし、他の変換方法を用いてもよい。なお、短軸長と長軸長との差があらかじめ定めた範囲以内の場合には、変換しないことを変換条件として記憶してもよい。
初期記録部290は、メータの初期状態を撮影した初期撮影画像から求めた特徴量である初期特徴量を記録しておく(S350)。図5は、初期撮影画像と現在の撮影画像の例を示す図である。図5(A)と図5(B)には、初期撮影画像241と現在の撮影画像242の例が示されている。図5の例では、撮影画像242は、縮小し、回転している。事後的に地震、作業者の接触などによって撮像装置900の設置位置が移動した場合は、図5(A)と図5(B)のように、初期撮影画像と撮影画像が異なる画像になる。
撮像装置900が撮影した画像である撮影画像は、角度計測装置400に入力される。特徴関連部240は、撮影画像から求めた特徴量である取得特徴量と初期特徴量を対比し、特徴量が一致する初期撮影画像内の点と撮影画像の点とを、特徴点として関連付ける(S240)。図5(A)に示されている白い点が特徴点である。図5(B)に示されている白い線は、特徴点同士の関連付けを示している。画像内の特徴量を同一画像内で複数求める必要があるので、特徴関連部240は、画像に拡大縮小や回転があり濃淡パターンが変化しても影響を受けない特徴量を抽出する必要がある。このような特徴量を取得する手法として、SIFT(Scale Invariant Feature Transform),SURF(Speeded-Up Robust Features),ORB(Oriented FAST and Rotated BRIEF),AKAZE(Accelerated-KAZE),BRIEF(Binary Robust Independent Elementary Features),BRISK(Binary Robust Invariant Scalable Keypoints)などがある。ただし、これらの手法に限らなくてもよい。あらかじめ撮影画像から特徴量を求め、初期記録部290に初期特徴量として記録しておく。
特徴関連部240は、初期記録部290に記録された特徴量と、現在の撮影画像242の特徴量の中で一致する特徴量を求める。一致した特徴量を求める際には、初期特徴量の複数のベクトルが一番距離的に近い現在の撮影画像242の特徴点を一致する仮の特徴量とする。次に、今回の撮影画像242の特徴量に一番近い初期特徴量を求め、仮の特徴量の組み合わせと同じものだけを一致した特徴量とする。一致した特徴量の数が、あらかじめ決められた値以上であれば、一致した特徴量から射影変換を行う3×3の変換行列を求める。変換行列には、変換条件取得部370の説明で示した行列を用いればよい。
撮影画像補正部250は、関連付けされた特徴点同士が一致するように撮影画像を補正し、補正後の画像を撮影画像として出力する(S250)。上述の3×3の変換行列で補正すればよい。ステップS240,250によって、事後的に撮像装置900の設置位置が移動した場合であっても、初期状態で撮影した画像に相当する撮影画像を取得できる。なお、特徴関連部240は、あらかじめ定めておいた変換量が大きいことを示す基準を満たすときには利用者に通知する機能も有してもよい。利用者は、通知があったときはステップS350,S360,S370を再度実行すればよい。
画像変換部380は、撮影画像補正部250が補正した撮影画像を、画像記録部390に記録された変換条件にしたがって変換し、変換後の画像を取得画像として出力する(S380)。ステップS380によって、撮影画像を、正面から撮影した画像に近い取得画像に変換できる。
抽出部110は、取得した画像である取得画像から、針の所定部分を含む領域である処理対象領域を抽出し、処理対象領域に基づいた処理対象画像を得る(S110)。処理対象画像は、グレースケール画像もしくは二値化画像が適しているが、カラー画像のままでもよい。「針の所定部分を含む領域」とは、針の全長でもよいし、針の中からあらかじめ定めた一部でもよい。例えば、メータの盤面の目盛り、文字などと重なることの無い部分を、針の所定部分とすればよい。この場合、抽出部110は、針の軸を中心とするあらかじめ定めた同心円状の領域を、処理対象領域に含めないようにすればよい。図6にメータの例と処理対象領域に含めない領域の例を示す。図6(A)はメータの例である。円周に近い部分に目盛りがあり、中心に近い部分に「V」の文字がある。このような場合に、目盛りのある同心円状の領域と文字のある同心円状の領域にマスクを使用することで、針の所定部分を含む領域を抽出できる。マスクを使用する部分は、例えば、盤面の色と同じ色にすればよい。図6(B)は取得画像にマスクを施した図である。図6(B)の例では、針の軸の中心から、半径がRS1以上RE1以下の同心円状の領域111と、半径がRS2以上RE2以下の同心円状の領域112にマスクが施されている。図6(B)の例では、マスクする領域は2つだが、盤面の状況に応じてマスクする領域の数は決めればよい。後述するEDPF処理は、2つの線分が重なった場合に互いの線分を分割することがある。マスクを使用することは、2つの線分を重なりにくくできるので、針の輪郭に対応した線分が分割されることを防ぐ効果がある。
抽出部110は、処理対象領域を、あらかじめ定めた数値範囲で特定される色に基づいて抽出してもよい。針の色を特定することで、針の画像だけを抽出しやすくなる。また、同一のメータ上に指示値の異なる針が複数ある場合で、針の色が異なる場合には、角度計測の対象となる針を、色で指定できる。例えば、取得画像上でフィルタリングする色を指定すればよい。例えば、まず、指定された色を、HSV(Hue, Saturation, Value)空間またはRGB(Red, Green, Blue)空間に変換する。
HSV空間の場合には、検出したHの値に対してあらかじめ決められた値を加算した上限および減算した下限を求め、この値の範囲に入っているかを確認する。ただし、Hの値はサイクリックであるため、加算または減算した結果、オーバーフローまたはアンダーフローが発生する可能性がある。オーバーフローまたはアンダーフローが発生した場合には、正しいHの値の最大値、最小値から折り返す。RGB空間の場合には、例えば、最も値が大きいRGB(Max(R,G,B))を求める。そして、その値でそれぞれのRGBの値を除算した値(R/Max(R,G,B),G/Max(R,G,B),B/Max(R,G,B))の範囲を指定してフィルタリングすればよい。
次に、処理対象領域に基づいてグレースケール画像または二値化画像を得る。例えば、指定した色などでフィルタリングした場合には、画像を二値化する。取得画像にマスクを施した場合には、画像をグレースケール化する。取得画像にマスクを施し、その後、指定した色などでフィルタリングした場合には、画像を二値化する。なお、抽出処理で指定した色などでフィルタリングせず、かつ取得画像にマスクを施さなかった場合には、カラー画像のままとすることもできる。
図7は、メータの針の形状を表している。EDPF処理を用いた本発明においては、図7の針51と針52のように、直線の輪郭を有する針の角度を検出することを前提とする。例えば、針53のように針の方向(角度)を示す輪郭が丸みを帯びた針は、本発明の対象とはしていない。
検出部120は、処理対象画像から、EDPF処理によって針の輪郭に対応する線分である輪郭線分を検出する(S120)。図8は、ステップS120の検出の詳細フローチャートである。ここでは、処理対象画像内の輪郭(エッジ)の検出について説明する。ステップS1201では処理対象画像が、ステップS110でグレースケール化または二値化されていなければ、グレースケール化もしくは二値化してもよい。ただし、抽出処理で無処理の場合または針と盤面のコントラストに差がない場合には、カラー画像のままでも良い。ステップS1202でこの画像を、EDPFを使用してエッジ検出を行う。ステップS1203で、エッジ検出の結果からEDPFで線分を検出する。なお、処理対象画像がカラー画像の場合には、ステップS1202でEDPFのカラー画像用のエッジ検出を行い、その結果からEDPFで線分を検出する。直線検出した結果として、線分の端点の座標を得る。通常は、針の輪郭(エッジ)は針の両側に2本検出される。このようにEDPF処理を使用することで、針の輪郭線分を容易に検出できる。
ここで、針の輪郭(エッジ)に対応する線分を検出するため、検出部120に持たせた方がよい特徴について説明する。EDPFを使用して直線検出を行った際には、例えば、文字盤に記載されている文字と針が重なった場合に、検出される線分は重なった部分で分割される。針が文字盤に記載された「V」の文字と重なった例を図9に示す。針と文字が重なった場合に検出される線分は、重なった部分で分割され、複数の線分として検出されることがある。図10に検出された線分が分割された例を示す。黒丸は、線分の端点を示し、交差した部分で線分が分割されている。本来は1本の線分として検出されるものが、文字盤の文字などと重なった場合には、複数の線分として検出されてしまう。この場合、あたかも針の長さが変化したように検出される。針の輪郭としての特徴を有する線分かを判断するためには、分割された線分を本来の1本の線分に戻すことが望ましい。
図11に線分接続処理のフローを示す。図12に直線の式を求める処理フローを示す。ステップS1401からS1403において、EDPFが検出したすべての線分について、ステップS1402で直線の式y=ax+bを求める。ステップS1402での直線の式を求める方法については、図12を参照して説明する。ステップS1501では、直線を構成する2つの端点の座標値(x,y)について比較する。ステップS1502では、xの値が変化していない場合には、垂直の直線であるため、x=「xの値」という式が求まる(S1506)。ステップS1503ではyの値が変化していない場合には、直線は水平線なのでy=「yの値」となり、a=0、b=yの値となる(S1507)。それ以外の場合には、ステップS1504でxの値の差分とyの値の差分から線分の傾きを求める。ステップS1505では、求めた傾きをy=ax+bに代入し、どちらからの端点の座標をb=y-axに代入し、bの値を得る。
検出部120は、EDPF処理によって検出された線分である検出線分に対して、同一の線分が分割されているか否かを判断し、同一の線分が分割されている場合は1つの線分に結合して検出線分とする処理を含む方が望ましい。具体的には以下のとおりである。ステップS1405で2つの線分の式のaとbの値があらかじめ決められた範囲の誤差に収まっており、それぞれの直線の近い方の端点の距離があらかじめ決められた範囲に収まっているかを判定する。決められた範囲とは、基準となる値をVとした場合には、V±(V×決められた割合)とする。Vの値に決められた割合を乗算しているのは、Vの取りうる範囲が極めて大きいためである。次に、細い針の左右の直線を、たすき掛けしないことを次の方法で確認する。一方の線分の式y=ax+bに別の線分の端点の座標のxまたはyの座標値を代入し、端点の座標のyまたはx座標値を得る。得た座標値があらかじめ決めた範囲に収まっているかを判定する。ステップS1405の条件が成立すれば、2つの線分と近い端点を記録する(S1406)。ステップS1404からS1407の処理を繰り返し実行し、ステップS1408からS1410の処理に進む。ステップS1408からS1410において、全てのステップS1406で記録した2つの線分について、線分を結合し、1本の線分として記憶する。この処理を行うことで、EDPF処理を利用すると1つの線分が検出時に分割されることがあるという課題を解決でき、輪郭を検出しやすいEDPF技術を針が指す角度を求める目的と組み合わせやすくなる。
検出部120は、あらかじめ定めた針の特徴と一致する検出線分を、針の輪郭に対応する線分である輪郭線分とする。例えば、針の輪郭として適切な範囲の長さを有する線分を、「針の輪郭に対応する線分(輪郭線分)」とする。もしくは、記録部190は、あらかじめ針の軸の位置を記録しておく。そして、検出部120は、針の軸の近傍領域を延長線が通過しない線分は「針の輪郭に対応する線分(輪郭線分)」としない。このような条件を「あらかじめ定めた針の特徴」とすればよい。ただし、これらの条件に限定する必要はない。別の条件も付加してもよい。なお、「近傍領域」は針の形状を考慮して定めればよい。例えば、三角形の針の場合の近傍領域は、棒状の針の場合の近傍領域よりも広くすればよい。
アナログメータの盤面には、製造業者名、計測する値の単位、目盛り、メータの外枠など複数の印刷や輪郭などがあり、アナログメータの針の輪郭を表す直線を、これらの要素と識別する必要がある。そのため、あらかじめ利用者にメータの針の輪郭を識別するための要素を設定してもらい、その情報に基づいて線分を識別し、正しい線分のみを使用して針の角度を求める。図13は、針の輪郭に対応する線分について説明するための図である。図13(A)の1は三角形のアナログメータの針を、2は針の軸、3は針の輪郭が通る範囲を針の軸を中心として描いた円(近傍領域)を示す。図13(B)の4は棒状のアナログメータの針を、5は針の軸、6は針の輪郭が通る範囲を針の軸を中心として描いた円(近傍領域)を示す。針1,4は、軸2,5を中心に回転する。あらかじめ利用者におおよその針の長さと、円の中心となる軸の位置と円の大きさを設定してもらう。検出部120は、検出した線分を、まず指定された長さでフィルタリングし、残った線分のうち、線分自体もしくは線分の延長線が円3,6の内部を通過する線分を「針の輪郭に対応する線分」とする。針が三角形の場合には円3の大きさは図13(A)のようになる。針が棒状の場合には円6は図13(B)のようになる。
針の軸を求める方法としては、利用者に指定してもらう方法に限る必要はない。例えば、針が複数本同じ軸から出ている場合は1つの処理対象画像から軸の位置を求めればよい。また、同地点から撮像した針の角度が異なる複数枚の処理対象画像を使用して複数の針の式を求め、複数の式の交点を求めることで針の軸の位置が求めてもよい。図14に針の輪郭に対応する線分と軸との関係を示す。針の形状が、図14(A)のような三角形の場合には、針ごとに得た二つの線分から線分の傾きと二つの線分が交差する座標を得る。そして、交差する座標を通る針の中心線の式を得る。図14(A)の点線の直線が針の中心線である。針の形状が、図14(B)のような棒状の場合には、それぞれの線分の式を求める。求めた式は、y=ax+bの形式であり、二つの線分の式のaの値は等しい。二つのbの値の平均値を求め、これを針の中心線の式のbの値とすることで、針の中心線の式y=ax+bが得られる。
図15は一つのメータに複数の針がある例である。図15(A)は針の軸が目視できる丸形のメータの例である。図15(B)は針の軸が見えない長方形のメータの例である。図15の複数の針の部分を上記の方法で針の直線の式を求め、その交点を求めた例を図16に示す。図16(A)は丸形のメータの例を示し、複数の針の直線から交点である軸の位置を求めることができる。図16(B)は長方形のメータの例を示し、複数の針の直線から交点である軸の位置を求めることができる。
外枠が丸形のメータの軸を求める方法としては、メータの外枠の円形部分の中心が針の中心となっていることを利用することも可能である。つまり、EDPF処理によって円もしくは楕円を検出し、軸の座標を求めることができる。図17に円形メータの軸を求める方法を説明するための図を示す。図17(A)は丸形メータの処理対象画像例を示す。図17(B)は、図17(A)の処理対象画像に対してEDPFのエッジ検出を行い、さらに円を検出した例を示している。円を検出することで、円の中心の座標を得ている。検出した円を実線で、検出した円の中心を黒丸で示す。元々の図形は点線で表している。検出した黒丸の座標が軸の座標となる。円および楕円検出は、円または楕円を検出することができるので、斜めから撮像した丸形メータも楕円として検出でき、軸の位置を検出することができる。
算出部130は、輪郭線分から、針の角度を算出する(S130)。算出部130は、まず、検出した輪郭線分の始点と終点を用いて輪郭成分の角度を算出すればよい。図18に角度算出のイメージを示す。図18では、始点の座標は(x’,y’)、終点の座標は(x,y)である。図18の例の場合、以下のように角度θを求めればよい。
(ア) a=x’-x
(イ) b=y-y’
(ウ) θ=tan-1(b/a)
なお、aが0の場合は垂直、bが0の場合は水平の線分とする。
算出部130は、輪郭線分が2つの場合には、平均値を針の角度とすればよい。輪郭線分が1つの場合には針の軸の位置と針の形状を考慮して針の角度を求めればよい。針の軸の位置と針の形状を考慮して針の中心線を求めるために、あらかじめ針の輪郭に対応する線分自体もしくはその延長線と軸との位置関係を記録しておけばよい。針の形状が図14(A)のような三角形の場合には、左右の線分の角度は等しくない。左右の線分の角度が異なる針の場合には、角度の差分の2分の1を針の形状とともに初期記録部に記録しておく。つまり、線分自体もしくはその延長線と、中心線との角度(傾きa)の違いを記録しておく。そして、検出した輪郭線分のどちら側に軸が存在するかを考慮して、針の角度を算出すればよい。針の形状が図14(B)のような棒状の場合には、角度(傾きa)は検出した線分と同じである。なお、検出した針の線分が針の左右どちらの線分かは、見つかった線分の端点の位置と軸の位置から判断すればよい。軸の位置は、上述した方法で求めてもよいし、あらかじめ利用者に指定させてもよい。算出部130にこのような工夫をほどこすことで、針の左右の線分の片方しか検出できなかった場合でも、正しい針の角度を算出できる。なお、軸の位置は、針が指している角度を算出する際に、針の軸を原点として針の位置が第三象限または第四象限にあることが分かれば、針の角度を180度加算することで正しい角度を求めることができる。
角度計測装置400によれば、EDPF処理を利用して針の輪郭に対応する線分を求めるので、容易に針の輪郭に対応する線分である輪郭線分を抽出できる。また、画像の二値化やグレースケール化も必須ではなく、ハフ変換を行う必要がない。したがって、詳細な動作を規定するパラメタ設定も必要ないため、一般の利用者にも利用しやすい。
[変形例1]
図19に変形例1の角度計測装置の機能構成例を、図20に変形例1の角度計測装置の処理フローを示す。角度計測装置100は、抽出部110、検出部120、算出部130、記録部190を備える。角度計測装置100は、撮像装置900,…,900とネットワークを介して接続される。撮像装置900は、撮影したメータの画像を角度計測装置100に送信する。
実施例1では、撮像装置900がメータの正面に配置できない場合も想定していた。しかし、すべての撮像装置900,…,900をメータの正面に配置でき、かつ、地震などによって移動しないような安定した設備に固定できる場合であれば、特定点指定部360、変換条件取得部370、画像変換部380、特徴関連部240、撮影画像補正部250を備えていなくても処理を行える。この場合は、撮像装置900が撮影し、角度計測装置100に送信した画面が取得画面になる。
抽出部110、検出部120、算出部130の処理は、実施例1と同じである。したがって、実施例1と同様の効果を得ることができる。
[変形例2]
図21に変形例2の角度計測装置の機能構成例を、図22に変形例2の角度計測装置の処理フローを示す。角度計測装置200は、特徴関連部240、撮影画像補正部250、抽出部110、検出部120、算出部130、記録部190を備える。変形例2では、記録部190は、初期記録部290を含んでいる。角度計測装置200は、撮像装置900,…,900とネットワークを介して接続される。撮像装置900は、撮影したメータの画像を角度計測装置200に送信する。
実施例1では、撮像装置900がメータの正面に配置できない場合も想定していた。変形例2では、すべての撮像装置900,…,900をメータの正面に配置できるが、地震などによって移動する場合があり得ることを前提としている。この場合は、初期状態ではメータを正面から撮影したときの画面にできるので、特定点指定部360、変換条件取得部370、画像変換部380を備えていなくても処理を行える。この場合は、撮像装置900が撮影し、角度計測装置200に送信した画面が取得画面になる。
抽出部110、検出部120、算出部130の処理は、実施例1と同じである。したがって、実施例1と同様の効果を得ることができる。
[変形例3]
図23に変形例3の角度計測装置の機能構成例を、図24に変形例3の角度計測装置の処理フローを示す。角度計測装置300は、特定点指定部360、変換条件取得部370、画像変換部380、抽出部110、検出部120、算出部130、記録部190を備える。変形例3では、記録部190は、画像記録部390を含んでいる。角度計測装置300は、撮像装置900,…,900とネットワークを介して接続される。撮像装置900は、撮影したメータの画像を角度計測装置300に送信する。
実施例1では、撮像装置900が地震、利用者との接触などで移動する場合も想定していた。変形例3では、すべての撮像装置900,…,900をメータの正面に配置することはできないが、地震などによってメータが移動しないようにできることを前提としている。この場合は、ステップS360~S380の処理を行うことで取得画像を得ることができる。
抽出部110、検出部120、算出部130の処理は、実施例1と同じである。したがって、実施例1と同様の効果を得ることができる。
[プログラム、記録媒体]
上述の各種の処理は、図25に示すコンピュータ2000の記録部2020に、上記方法の各ステップを実行させるプログラムを読み込ませ、制御部2010、入力部2030、出力部2040、表示部2050などを動作させることで実施できる。
この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。
また、このプログラムの流通は、例えば、そのプログラムを記録したDVD、CD-ROM等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させる構成としてもよい。
このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の記憶装置に格納する。そして、処理の実行時、このコンピュータは、自己の記録媒体に格納されたプログラムを読み取り、読み取ったプログラムに従った処理を実行する。また、このプログラムの別の実行形態として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。また、サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるASP(Application Service Provider)型のサービスによって、上述の処理を実行する構成としてもよい。なお、本形態におけるプログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるもの(コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータ等)を含むものとする。
また、この形態では、コンピュータ上で所定のプログラムを実行させることにより、本装置を構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。
1,4,51,52,53 針
2,5 軸 3,6 円
100,200,300,400 角度計測装置
110 抽出部 111,112 同心円状の領域
120 検出部 130 算出部
190 記録部 200 角度計測装置
240 特徴関連部 241 初期撮影画像
242 撮影画像 243 処理対象画像
250 撮影画像補正部 290 初期記録部
360 特定点指定部 361 特定点
366 頂点 370 変換条件取得部
380 画像変換部 390 画像記録部
900 撮像装置 2000 コンピュータ
2010 制御部 2020 記録部
2030 入力部 2040 出力部
2050 表示部

Claims (13)

  1. メータの針が指す角度を求める角度計測装置であって、
    取得した画像である取得画像から、前記針の所定部分を含む領域である処理対象領域を抽出し、前記処理対象領域に基づいた処理対象画像を得る抽出部と、
    前記処理対象画像から、EDPF処理によって前記針の輪郭に対応する線分である輪郭線分を検出する検出部と、
    前記輪郭線分から、前記針の角度を算出する算出部と
    を備える角度計測装置。
  2. 請求項1記載の角度計測装置であって、
    前記メータは、外枠が長方形であり、
    画像記録部と、
    前記メータの初期状態を撮影した初期撮影画像を表示し、利用者に前記メータを正面から見たときには長方形の頂点となる前記初期撮影画像上の4点を指定させ、特定点とする特定点指定部と、
    前記特定点が長方形の頂点となるように前記初期撮影画像を変換するための変換条件を求め、前記画像記録部に記録する変換条件取得部と、
    前記メータを撮影した撮影画像を、前記変換条件にしたがって変換し、変換後の画像を取得画像として出力する画像変換部
    も備えることを特徴とする角度計測装置。
  3. 請求項1記載の角度計測装置であって、
    前記メータは、外枠が円形であり、
    画像記録部と、
    前記メータの初期状態を撮影した初期撮影画像に含まれる楕円形の輪郭をEDPF処理によって検出し、検出した楕円形の中心、短軸長、長軸長、変形角度を特定する特定点指定部と、
    前記短軸と長軸が同じ長さとなるように前記初期撮影画像を変換するための変換条件を求め、前記画像記録部に記録する変換条件取得部と、
    前記メータを撮影した撮影画像を、前記変換条件にしたがって変換し、変換後の画像を取得画像として出力する画像変換部
    も備えることを特徴とする角度計測装置。
  4. 請求項1記載の角度計測装置であって、
    前記メータの初期状態を撮影した初期撮影画像から求めた特徴量である初期特徴量を記録する初期記録部と、
    前記メータを撮影した撮影画像から求めた特徴量である取得特徴量と前記初期特徴量を対比し、特徴量が一致する前記初期取得画像内の点と前記取得画像の点とを、特徴点として関連付ける特徴関連部と、
    関連付けされた特徴点同士が一致するように前記撮影画像を補正し、補正後の画像を撮影画像として出力する撮影画像補正部
    も備えることを特徴とする角度計測装置。
  5. 請求項4記載の角度計測装置であって、
    画像記録部と、
    前記メータの初期状態を撮影した初期撮影画像を表示し、利用者に前記メータを正面から見たときには長方形の頂点となる前記初期撮影画像上の4点を指定させ、特定点とする特定点指定部と、
    前記特定点が長方形の頂点となるように前記初期撮影画像を変換するための変換条件を求め、前記画像記録部に記録する変換条件取得部と、
    前記撮影画像補正部が出力した撮影画像を、前記変換条件にしたがって変換し、変換後の画像を取得画像として出力する画像変換部
    も備えることを特徴とする角度計測装置。
  6. 請求項4記載の角度計測装置であって、
    前記メータは、外枠が円形であり、
    画像記録部と、
    前記メータの初期状態を撮影した初期撮影画像に含まれる楕円形の輪郭をEDPF処理によって検出し、検出した楕円形の中心、短軸長、長軸長、変形角度を特定する特定点指定部と、
    前記短軸と長軸が同じ長さとなるように前記初期撮影画像を変換するための変換条件を求め、前記画像記録部に記録する変換条件取得部と、
    前記撮影画像補正部が出力した撮影画像を、前記変換条件にしたがって変換し、変換後の画像を取得画像として出力する画像変換部
    も備えることを特徴とする角度計測装置。
  7. 請求項1記載の角度計測装置であって、
    前記抽出部は、前記処理対象領域を、あらかじめ定めた数値範囲で特定される色に基づいて抽出する
    ことを特徴とする角度計測装置。
  8. 請求項1記載の角度計測装置であって、
    前記抽出部は、前記針の軸を中心とするあらかじめ定めた同心円状の領域を、前記処理対象領域に含めない
    ことを特徴とする角度計測装置。
  9. 請求項1記載の角度計測装置であって、
    前記検出部は、前記EDPF処理によって検出された線分である検出線分に対して、同一の線分が分割されているか否かを判断し、同一の線分が分割されている場合は1つの線分に結合して検出線分とし、
    前記検出部は、あらかじめ定めた針の特徴と一致する検出線分を、前記輪郭線分とする
    ことを特徴とする角度計測装置。
  10. 請求項9記載の角度計測装置であって、
    前記記録部は、前記針の軸の位置を記録しており、
    前記検出部は、前記針の軸の近傍領域を延長線が通過しない線分は前記輪郭線分としない
    ことを特徴とする角度計測装置。
  11. 請求項9記載の角度計測装置であって、
    前記算出部は、前記輪郭線分が2つの場合には2つの輪郭線分の角度の平均を前記針の角度とし、前記輪郭線分が1つの場合には前記針の軸の位置と前記針の形状を考慮して前記針の角度を算出する
    ことを特徴とする角度計測装置。
  12. メータの針が指す角度を求める角度計測方法であって、
    取得した画像である取得画像から、前記針の所定部分を含む領域である処理対象領域を抽出し、前記処理対象領域に基づいた処理対象画像を得る抽出ステップと、
    前記処理対象画像から、EDPF処理によって前記針の輪郭に対応する線分である輪郭線分を検出する検出ステップと、
    前記輪郭線分から、前記針の角度を算出する算出ステップと
    を実行する角度計測方法。
  13. 請求項1から11のいずれかに記載の角度計測装置としてコンピュータを機能させるための角度計測プログラム。
JP2022137636A 2022-08-31 2022-08-31 角度計測装置、角度計測方法、角度計測プログラム Active JP7231877B1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022137636A JP7231877B1 (ja) 2022-08-31 2022-08-31 角度計測装置、角度計測方法、角度計測プログラム
JP2023009291A JP2024035023A (ja) 2022-08-31 2023-01-25 角度計測装置、角度計測方法、角度計測プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022137636A JP7231877B1 (ja) 2022-08-31 2022-08-31 角度計測装置、角度計測方法、角度計測プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023009291A Division JP2024035023A (ja) 2022-08-31 2023-01-25 角度計測装置、角度計測方法、角度計測プログラム

Publications (2)

Publication Number Publication Date
JP7231877B1 JP7231877B1 (ja) 2023-03-02
JP2024033803A true JP2024033803A (ja) 2024-03-13

Family

ID=85382457

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2022137636A Active JP7231877B1 (ja) 2022-08-31 2022-08-31 角度計測装置、角度計測方法、角度計測プログラム
JP2023009291A Pending JP2024035023A (ja) 2022-08-31 2023-01-25 角度計測装置、角度計測方法、角度計測プログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023009291A Pending JP2024035023A (ja) 2022-08-31 2023-01-25 角度計測装置、角度計測方法、角度計測プログラム

Country Status (1)

Country Link
JP (2) JP7231877B1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7441989B1 (ja) 2023-03-15 2024-03-01 三菱電機インフォメーションシステムズ株式会社 メータ読取装置、メータ読取方法及びメータ読取プログラム
CN116206094B (zh) * 2023-04-28 2023-07-21 尚特杰电力科技有限公司 风机扇叶角度测量方法、装置、系统及电子设备
CN116883503A (zh) * 2023-09-07 2023-10-13 山东千颐科技有限公司 一种立井提升机尾绳缠绕ai视觉识别检测方法

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09327037A (ja) * 1996-06-03 1997-12-16 Canon Inc 輪郭抽出方法及び画像抽出方法及び装置
JP2004304822A (ja) * 2004-04-26 2004-10-28 Canon Inc 画像処理システム及び画像処理システムの画像処理方法
JP2008243103A (ja) * 2007-03-29 2008-10-09 Yamaguchi Univ 画像処理装置、画像処理方法及び画像処理プログラム
JP2017208014A (ja) * 2016-05-20 2017-11-24 日本電気株式会社 針式メータ検出装置、方法およびプログラム
JP6236600B1 (ja) * 2017-06-02 2017-11-29 株式会社Gpro 飛行パラメータ測定装置及び飛行パラメータ測定方法
CN109034170A (zh) * 2018-07-18 2018-12-18 东南大学 一种开关柜检测装置的圆形指针式仪表读数方法
JP2019169116A (ja) * 2018-03-23 2019-10-03 株式会社東芝 読取システム、読取方法、プログラム、及び記憶媒体
JP2020118484A (ja) * 2019-01-21 2020-08-06 株式会社ソルネット アナログメータの指針の指示値の自動読み取りシステム及び自動読み取り方法
JP2020154486A (ja) * 2019-03-19 2020-09-24 株式会社明電舎 変更点検出装置、変更点検出方法及び変更点検出プログラム
JP6763559B1 (ja) * 2019-10-31 2020-09-30 株式会社Gpro ボール追跡装置及びボール追跡方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09327037A (ja) * 1996-06-03 1997-12-16 Canon Inc 輪郭抽出方法及び画像抽出方法及び装置
JP2004304822A (ja) * 2004-04-26 2004-10-28 Canon Inc 画像処理システム及び画像処理システムの画像処理方法
JP2008243103A (ja) * 2007-03-29 2008-10-09 Yamaguchi Univ 画像処理装置、画像処理方法及び画像処理プログラム
JP2017208014A (ja) * 2016-05-20 2017-11-24 日本電気株式会社 針式メータ検出装置、方法およびプログラム
JP6236600B1 (ja) * 2017-06-02 2017-11-29 株式会社Gpro 飛行パラメータ測定装置及び飛行パラメータ測定方法
JP2019169116A (ja) * 2018-03-23 2019-10-03 株式会社東芝 読取システム、読取方法、プログラム、及び記憶媒体
CN109034170A (zh) * 2018-07-18 2018-12-18 东南大学 一种开关柜检测装置的圆形指针式仪表读数方法
JP2020118484A (ja) * 2019-01-21 2020-08-06 株式会社ソルネット アナログメータの指針の指示値の自動読み取りシステム及び自動読み取り方法
JP2020154486A (ja) * 2019-03-19 2020-09-24 株式会社明電舎 変更点検出装置、変更点検出方法及び変更点検出プログラム
JP6763559B1 (ja) * 2019-10-31 2020-09-30 株式会社Gpro ボール追跡装置及びボール追跡方法

Also Published As

Publication number Publication date
JP2024035023A (ja) 2024-03-13
JP7231877B1 (ja) 2023-03-02

Similar Documents

Publication Publication Date Title
JP7231877B1 (ja) 角度計測装置、角度計測方法、角度計測プログラム
JP5542889B2 (ja) 画像処理装置
US7127107B2 (en) Land partition data generating method and apparatus
US8805077B2 (en) Subject region detecting apparatus
CN110866871A (zh) 文本图像矫正方法、装置、计算机设备及存储介质
JP2018198053A (ja) 情報処理装置、情報処理方法、及びプログラム
US8923610B2 (en) Image processing apparatus, image processing method, and computer readable medium
CN110059702B (zh) 一种物体轮廓识别方法及装置
CN109002823B (zh) 一种感兴趣区域确定方法、装置、设备及可读存储介质
CN114520894B (zh) 投影区域确定方法、装置、投影设备及可读存储介质
JP2007128373A (ja) 画像処理方法、画像処理用のプログラムならびにその記憶媒体、および画像処理装置
CN112396050B (zh) 图像的处理方法、设备以及存储介质
JP2016212784A (ja) 画像処理装置、画像処理方法
JP5747733B2 (ja) 対象検出装置、対象検出方法、分類器作成装置及び分類器作成方法
JP3661635B2 (ja) 画像処理方法およびその装置
KR101010904B1 (ko) 마커를 사용하지 않는 증강공간 제공 장치
JPH1196372A (ja) 画像処理方法およびその装置、ならびに画像処理用の制御プログラムの記録媒体
CN112102378A (zh) 图像配准方法、装置、终端设备及计算机可读存储介质
JP7219413B1 (ja) 角度計測装置、角度計測方法、角度計測プログラム
JP6702118B2 (ja) 診断支援装置、及び診断支援装置における画像処理方法、並びにプログラム
JP7337557B2 (ja) 情報処理装置、システム、情報処理方法及びプログラム
JP7183020B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JPH10214349A (ja) 撮影パラメータ測定方法及び装置並びに記録媒体
JP2005309717A (ja) マーカ処理方法、マーカ処理装置、プログラム、および、記録媒体
JPH11211440A (ja) 三次元形状復元装置及び方法並びに三次元形状復元プログラムを記録したコンピュータ読取り可能な記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220831

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20220831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221011

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221021

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230130

R150 Certificate of patent or registration of utility model

Ref document number: 7231877

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150