JP6672673B2 - 情報処理装置、制御方法、及びプログラム - Google Patents

情報処理装置、制御方法、及びプログラム Download PDF

Info

Publication number
JP6672673B2
JP6672673B2 JP2015191786A JP2015191786A JP6672673B2 JP 6672673 B2 JP6672673 B2 JP 6672673B2 JP 2015191786 A JP2015191786 A JP 2015191786A JP 2015191786 A JP2015191786 A JP 2015191786A JP 6672673 B2 JP6672673 B2 JP 6672673B2
Authority
JP
Japan
Prior art keywords
information
image
meter
information processing
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015191786A
Other languages
English (en)
Other versions
JP2017068465A (ja
Inventor
光男 小林
光男 小林
俊輔 山崎
俊輔 山崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2015191786A priority Critical patent/JP6672673B2/ja
Publication of JP2017068465A publication Critical patent/JP2017068465A/ja
Application granted granted Critical
Publication of JP6672673B2 publication Critical patent/JP6672673B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、情報処理装置、制御方法、及びプログラムに関する。
種々の設備を管理するために、設備を管理する機器から計測値を読み取る作業が行われている。例えば、ガスメータや電力メータの読み取り作業が挙げられる。
このような機器の計測値の読み取り作業を容易にするための技術が開発されている。特許文献1は、メータを撮像した画像から、メータの計測値を表す文字列情報を抽出する技術を開示している。
特開2011−81715号公報
特許文献1の発明は、メータの計測値を表す部分を特定するために、画像に対して種々の画像処理を適用している。そのため、メータの計測値を表す部分を画像から特定する処理に要する計算コストが多い。つまり、この処理に長い計算時間や多くの計算機資源を要する。
本発明は、上記課題に鑑みてなされたものである。本発明の目的は、画像から少ない計算コストでメータの計測値を表す画像を抽出する技術を提供することである。
本発明の情報処理装置は、1)画像を処理することにより、その画像に写っている機器の特徴量を算出する特徴量算出手段と、2)機器の種類ごとに、その種類の機器において、計測値を外部から視認可能に表示する表示部が配置されている機器上の位置を示す機器情報を記憶している機器情報記憶手段から、前記算出された特徴量に対応する種類の機器の機器情報を取得する機器情報取得手段と、3)前記取得された機器情報を用いて、前記画像から前記表示部を表す第1の部分画像を抽出する第1抽出手段と、を有する。
本発明の制御方法は、コンピュータによって実行される。当該制御方法は、1)画像を処理することにより、その画像に写っている機器の特徴量を算出する特徴量算出ステップと、2)機器の種類ごとに、その種類の機器において、計測値を外部から視認可能に表示する表示部が配置されている機器上の位置を示す機器情報を記憶している機器情報記憶手段から、前記算出された特徴量に対応する種類の機器の機器情報を取得する機器情報取得ステップと、3)前記取得された機器情報を用いて、前記画像から前記表示部を表す第1の部分画像を抽出する第1抽出ステップと、を有する。
本発明のプログラムは、コンピュータに、本発明の制御方法が有する各ステップを実行させる。
本発明によれば、画像から少ない計算コストでメータの計測値を表す画像を抽出する技術が提供される。
実施形態1に係る情報処理装置を例示するブロック図である。 情報処理装置の動作を概念的に説明するための図である。 情報処理装置を実現する計算機の構成を例示する図である。 実施形態1の情報処理装置によって実行される処理の流れを例示するフローチャートである。 機器情報をテーブル形式で例示する図である。 メータ領域を定める4つの値を説明するための図である。 1つの撮像画像から複数の部分画像を抽出する様子を例示する図である。 実施形態2に係る情報処理装置を例示するブロック図である。 抽出情報をテーブル形式で例示する図である。 メータ値特定部を有する実施形態2の情報処理装置を例示するブロック図である。 修正受付部を有する実施形態2の情報処理装置を例示する図である。 実施形態3に係る情報処理装置を例示するブロック図である。 実施形態3の情報処理装置の動作を概念的に説明するための図である。 本実施形態における機器情報を例示する図である。 第2部分画像に関する情報をさらに含む抽出情報を例示する図である。 識別子特定部を有する実施形態3の情報処理装置を例示するブロック図である。 実施例1の情報処理装置を実現する計算機を例示する図である。 ユーザの点検作業のスケジュールがタッチパネルに表示される様子を例示する図である。 点検場所の一覧がタッチパネルに表示される様子を例示する図である。 機器の一覧がタッチパネ4に表示される様子を例示する図である。 電気メータ1に関する情報がタッチパネルに表示される様子を例示する図である。 電気メータ1に関する情報が更新された様子を例示する図である。 実施例2における情報処理装置の利用方法を例示する図である。
以下、本発明の実施の形態について、図面を用いて説明する。尚、すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。
[実施形態1]
図1は、実施形態1に係る情報処理装置2000を例示するブロック図である。図1において、各ブロックは、ハードウエア単位の構成ではなく、機能単位の構成を表している。
実施形態1の情報処理装置2000は、特徴量算出部2020、機器情報取得部2040、及び第1抽出部2060を有する。特徴量算出部2020は、画像を処理することにより、その画像に写っている機器の特徴量を算出する。ここでいう機器は、設備などに関する種々の計測値(使用された電力、水、又はガスの量など)を外部から視認可能に表示するものである。情報処理装置2000によって処理される画像は、機器を撮像したカメラによって生成される。以下、情報処理装置2000によって処理される画像を、撮像画像と表記する。
機器情報取得部2040は、特徴量算出部2020によって算出された特徴量に対応する種類の機器に関する機器情報を取得する。機器情報は、機器の種類ごとに、その種類の機器においてメータが配置されている場所を表す。メータは、アナログメータであってもよいしデジタルメータであってもよい。ここでいうメータは、上述した機器全体のうち、計測値を外部から視認可能に表示している表示部を意味する。
第1抽出部2060は、機器情報取得部2040によって取得された機器情報を用いて、撮像画像から、メータが写っている第1の部分画像を抽出する。
図2は、情報処理装置2000の動作を概念的に説明するための図である。撮像画像22は、機器30を撮像したカメラ20によって生成された画像である。機器30は、メータ32を有している。情報処理装置2000は、撮像画像22から、メータ32が含まれる領域であるメータ領域40内の画像を、部分画像24として抽出する。
ここで、機器30のどこにメータ32が配置されているかが事前に分かっていない場合、情報処理装置2000は、部分画像24を抽出するために、機器30が写っている領域全体に対して画像処理を行ってメータ32を表すメータ領域40を特定しなければならない。そのため、部分画像24の抽出に要する計算時間や計算機リソース量が多くなる。
これに対し、本実施形態の情報処理装置2000は、まず撮像画像22に写っている機器30の形状などの特徴から算出される特徴量を用いて、機器30の種類に対応する機器情報を取得する。この機器情報は、機器30のどこにメータ32が設けられているかを示す。そのため情報処理装置2000は、機器情報を用いて容易にメータ領域40を特定することができる。よって、本実施形態の情報処理装置2000によれば、部分画像24の抽出に要する計算時間を短くしたり、計算機リソース量を少なくしたりすることができるという利点がある。
なお、図2を用いて説明した情報処理装置2000の動作は、以降で説明する情報処理装置2000の詳細の理解を容易にするための例示であり、情報処理装置2000の動作は上述の例に限定されるわけではない。情報処理装置2000の動作の詳細やバリエーションについては、以降の記載で説明する。
<情報処理装置2000のハードウエア構成の例>
情報処理装置2000の各機能構成部は、各機能構成部を実現するハードウエア(例:ハードワイヤードされた電子回路など)で実現されてもよいし、ハードウエアとソフトウエアとの組み合わせ(例:電子回路とそれを制御するプログラムの組み合わせなど)で実現されてもよい。以下、情報処理装置2000の各機能構成部がハードウエアとソフトウエアとの組み合わせで実現される場合について、さらに説明する。
計算機1000は、タブレット端末、スマートフォン、Personal Computer(PC)、又はサーバマシンなど、種々の計算機である。計算機1000は、情報処理装置2000を実現するために設計された種々の計算機であってもよいし、汎用の計算機であってもよい。
図3は、情報処理装置2000を実現する計算機1000の構成を例示する図である。計算機1000は、バス1020、プロセッサ1040、メモリ1060、ストレージ1080、及び入出力インタフェース1100を有する。バス1020は、プロセッサ1040、メモリ1060、及びストレージ1080が、相互にデータを送受信するためのデータ伝送路である。ただし、プロセッサ1040などを互いに接続する方法は、バス接続に限定されない。プロセッサ1040は、CPU (Central Processing Unit) や GPU (Graphics Processing Unit) などの演算処理装置である。メモリ1060は、RAM (Random Access Memory) や ROM (Read Only Memory) などのメモリである。ストレージ1080は、ハードディスク、SSD (Solid State Drive)、又はメモリカードなどの記憶装置である。また、ストレージ1080は、RAM や ROM などのメモリであってもよい。
入出力インタフェース1100は、計算機1000と入出力デバイスとを接続するためのインタフェースである。図3では、入出力インタフェース1100に対してカメラ20及びディスプレイ装置1300が接続されている。カメラ20は、機器30の撮像に用いることができる任意のカメラである。ディスプレイ装置1300は、ユーザに対して種々の情報を提示する装置であり、例えば液晶ディスプレイやタッチパネルなどである。
ここで、カメラ20は、計算機1000と一体として設けられていてもよいし、別体として設けられていてもよい。前者の場合、例えば計算機1000はタブレット端末やスマートフォンであり、カメラ20はこれらに搭載されているカメラである。後者の場合、例えばカメラ20は汎用のデジタルカメラである。
ストレージ1080は情報処理装置2000の各機能を実現するプログラムモジュールを記憶している。プロセッサ1040は、これら各プログラムモジュールを実行することで、そのプログラムモジュールに対応する各機能を実現する。ここでプロセッサ1040は、上記各モジュールを実行する際、これらのモジュールをメモリ1060上に読み出してから実行してもよいし、メモリ1060上に読み出さずに実行してもよい。
計算機1000のハードウエア構成は図3に示した構成に限定されない。例えば、各プログラムモジュールはメモリ1060に格納されてもよい。この場合、計算機1000は、ストレージ1080を備えていなくてもよい。
<処理の流れ>
図4は、実施形態1の情報処理装置2000によって実行される処理の流れを例示するフローチャートである。情報処理装置2000は、撮像画像22を取得する(S102)。特徴量算出部2020は、撮像画像22を処理して、その撮像画像22に写っている機器30の特徴量を算出する(S104)。機器情報取得部2040は、特徴量算出部2020によって算出された特徴量を用いて、機器30の種類に対応する機器情報を取得する(S106)。第1抽出部2060は、取得された機器情報を用いて、撮像画像22から、メータ32が写っている部分画像24を抽出する(S108)。
<撮像画像22の取得方法>
情報処理装置2000は、撮像画像を取得する(S104)。情報処理装置2000が撮像画像を取得する方法は様々である。例えば情報処理装置2000は、カメラ20から撮像画像を取得する。この場合、情報処理装置2000とカメラ20とは通信可能に接続されている。
また、カメラ20が外部の記憶装置に撮像画像を記憶する場合、情報処理装置2000は、この記憶装置から撮像画像を取得する。この場合、情報処理装置2000は、この記憶装置と通信可能に接続されている。
<特徴量算出部2020の詳細>
特徴量算出部2020は、撮像画像22に写っている機器30の特徴量を算出する(S104)。例えば機器30の特徴量は、機器30の形態(形状、模様、若しくは色彩又はこれらの結合)の特徴を示す特徴量である。ここで、画像に写っているオブジェクトの特徴量を算出する技術は既知の技術であるため、機器30の特徴量の算出方法に関する詳細な説明は省略する。
<機器情報の詳細>
機器情報は、機器の種類ごとに、その機器においてメータが設けられている場所を示す情報を含む。図5は、機器情報をテーブル形式で例示する図である。機器情報300は、種類ID302、特徴量304、及びメータ領域306という3つの列を有する。種類ID302は、メータの種類ごとに定められている識別子(ID: Identifier)である。特徴量304は、種類ID302で特定される種類の機器の特徴量を表す。メータ領域306は、種類ID302で特定される種類の機器においてメータが配置されている領域を表す。
メータ領域306は、水平位置308、垂直位置310、幅312、及び高さ314という4つの値の組み合わせからなる。図6は、メータ領域306を定める4つの値を説明するための図である。水平位置308は、メータ領域306の左端の水平方向の位置(図6の x1)を表す。垂直位置310は、メータ領域306の上端の垂直方向の位置(図6の y1)を表す。なお、図6において水平位置308及び垂直位置310は、機器30の上端を通る水平方向の線を X 軸とし、機器30の左端を通る垂直方向の線を Y 軸とし、機器30の幅と高さをそれぞれ1とする相対位置で表されている。よって、x1 と y1 は1未満の値となる。
幅312はメータ領域306の幅(図6の w1)を表す。高さ314はメータ領域306の高さ(図6の h1)を表す。なお、図5において幅312と高さ314はそれぞれ、機器30の幅と高さを1とした相対値で表されている。よって、w1 と h1 は1未満の値となる。
なお、メータ領域306を定める各値は、機器30上におけるメータ領域40の位置を特定できればよく、各値の定め方は上述した方法に限定されない。
ここで、特徴量304とメータ領域306に示す情報は、図6のように機器30を正面から撮像した場合の情報に限定されない。例えば機器情報は、1つの種類の機器30について、複数の角度から撮像した場合それぞれの特徴量304とメータ領域306を定めておいてもよい。こうすることで、カメラ20が機器30を正面以外の方向から撮像した場合でも、情報処理装置2000は、その撮像方向に応じたメータ領域306を用いて、機器30上のメータの位置を精度よく把握することができる。
<機器情報取得部2040の詳細>
機器情報取得部2040は、特徴量算出部2020によって算出された機器30の特徴量を用いて、機器30の種類に対応する機器情報を取得する(S106)。ここで、機器情報は、機器情報記憶部2050に記憶されている。機器情報記憶部2050は、情報処理装置2000の内部に設けられてもよいし、外部に設けられてもよい。
機器情報取得部2040が特徴量を用いて取得すべき機器情報を特定する方法は様々である。例えば機器情報取得部2040は、特徴量算出部2020によって算出された特徴量との一致度合いが最も高い特徴量を示す機器情報を取得する。また例えば、機器情報取得部2040は、特徴量算出部2020によって算出された特徴量との一致度合いが所定値以上である機器情報を取得する。この場合、機器情報取得部2040は、複数の機器情報を取得してもよい。
なお、機器情報取得部2040は、特徴量算出部2020によって算出された特徴量との一致度合いが所定値以上である特徴量を示す機器情報が存在しない場合、その旨をユーザに報知してもよい。例えば機器情報取得部2040は、その旨を示す警告をディスプレイ装置1300に出力する。こうすることで、ユーザに、再度機器30をカメラ20で撮像し直すことを促すことができる。
<第1抽出部2060の詳細>
第1抽出部2060は、取得された機器情報を用いて、撮像画像22から、メータ32が写っている部分画像24を抽出する(S108)。具体的には、第1抽出部2060は、取得した機器情報を用いて、機器30が写っている領域の中からメータ領域40を特定する。そして、第1抽出部2060は、メータ領域40を抽出することで部分画像24を生成する。なお、画像の所定位置からその一部を抽出して新たな画像を生成する技術は既知の技術であるため、その具体的な説明は省略する。
<複数の機器30の扱い方>
撮像画像22には、複数の機器30が写っていてもよい。この場合、特徴量算出部2020は、撮像画像22に写っている各機器30について特徴量を算出する。機器情報取得部2040は、各機器30について機器情報を取得する。そして、第1抽出部2060は、各機器情報に基づいて、各機器30について部分画像24を生成する。
図7は、1つの撮像画像22から複数の部分画像24を抽出する様子を例示する図である。図7では、メータを管理する複数の機器30が、壁面に並べて取り付けられている。このように、カメラ20の撮像範囲内に複数の機器30が設置されている場合がある。そのため、1つの撮像画像22から複数の部分画像24を抽出するようにすることで、複数のメータの画像を効率よく抽出することができる。
[実施形態2]
図8は、実施形態2に係る情報処理装置2000を例示するブロック図である。図8において、各ブロックは、ハードウエア単位の構成ではなく、機能単位の構成を表している。特に説明する場合を除き、実施形態2の情報処理装置2000は、実施形態1の情報処理装置2000と同様の機能を有する。
実施形態2の情報処理装置2000は抽出情報生成部2080を有する。抽出情報生成部2080は抽出情報を生成する。抽出情報は、第1抽出部2060によって抽出された部分画像24に関する情報である。具体的には、抽出情報は、部分画像24に写っているメータが示す値(以下、メータ値)、撮像画像22が生成された日時、撮像画像22が生成された場所(撮像された機器30が設置されている場所)、又は部分画像24を含む。
図9は、抽出情報をテーブル形式で例示する図である。抽出情報200は、メータ値202、日時204、場所206及び部分画像208という4つの列を有する。部分画像208には、部分画像24そのもの(画像ファイル)や部分画像24の識別子(画像ファイルのパス名など)が格納される。
<メータ値202の設定方法>
メータ値202は、ユーザによって手動で入力される値であってもよいし、情報処理装置2000によって自動で設定される値であってもよい。前者の場合、情報処理装置2000のユーザは、実際のメータ又は撮像画像22に写っているメータから値を読み取って、読み取った値を手動で情報処理装置2000に入力する。例えばユーザは、タッチパネルやキーボードなどを用いて情報処理装置2000に対してメータの値を入力する。
一方、メータ値202を情報処理装置2000が自動で設定する場合、情報処理装置2000は、部分画像24を用いてメータ値を特定する。そして、この特定したメータ値をメータ値202に設定する。部分画像24を用いてメータ値を特定する機能構成部を、メータ値特定部2100と呼ぶ。図10は、メータ値特定部2100を有する実施形態2の情報処理装置2000を例示するブロック図である。
部分画像24に写っているメータがアナログメータである場合、例えばメータ値特定部2100は、部分画像24を画像解析することで、メータの針の角度を割り出す。そして、メータ値特定部2100は、その角度から、メータ値を特定する。針の角度とメータ値との対応関係は、例えば機器30の種類ごとに、機器情報記憶部2050に記憶されている機器情報で予め定めておく。
部分画像24に写っているメータがデジタルメータである場合、例えばメータ値特定部2100は、部分画像24に対して文字認識処理を行うことで、メータが示すデジタル値を特定する。ここで、メータ値特定部2100は、部分画像24に写っているメータの値を特定するための補助的な情報(以下、補助情報)を取得して利用してもよい。例えば補助情報は、デジタルメータの桁数を示す。また例えば、デジタルメータの値が小数点で区切られている値の場合、補助情報は小数点の位置を示す。
補助情報は、各機器の種類ごとに、機器情報300に示されているものとする。メータ値特定部2100は、機器情報取得部2040によって取得された機器情報300に示されている補助情報を利用して、メータ値の特定を行う。補助情報を用いることにより、メータ値特定部2100によるメータ値の特定の精度を向上させたり、メータ値特定部2100が処理に要する時間を短くしたりすることができる。
<日時204の設定方法>
日時204には、例えば撮像画像22の生成日時が設定される。撮像画像22の生成日時は、例えば撮像画像22のメタデータに含まれている。撮像画像22のメタデータは、撮像画像22を生成したカメラ20によって撮像画像22に設定される情報である。また、日時204は、ユーザによって手動で入力されてもよい。
<場所206の設定方法>
場所206には、機器30が設置されている場所の部屋番号、建物名、部屋や建物内の区画に付けられた名称、住所、又は Global Positioning System(GPS)座標など、場所を表す任意の情報が設定される。例えば GPS 座標は、撮像画像22のメタデータに含まれている。また例えば、抽出情報生成部2080は、撮像画像22のメタデータに含まれている GPS 座標を、部屋番号、建物名、部屋や建物内の区画に付けられた名称、又は住所などに変換してもよい。この場合、GPS 座標と部屋番号等との対応関係が、情報処理装置2000の内部又は外部の記憶装置に予め格納されているものとする。
<抽出情報の修正>
情報処理装置2000は、生成した抽出情報をユーザに提示し、その修正を受け付ける機能を有してもよい。この機能を有する機能構成部を、修正受付部2160と呼ぶ。図11は、修正受付部2160を有する実施形態2の情報処理装置2000を例示する図である。
例えば修正受付部2160は、情報処理装置2000を実現する計算機1000に接続されているディスプレイ装置1300に、抽出情報を示すウインドウを表示する。このウインドウを見たユーザは、例えば抽出情報の誤っている箇所を修正する入力を行う。例えばメータ値202が情報処理装置2000によって自動で設定された場合に、この設定されたメータ値202に誤りがあったとする。この場合、ユーザは、正しいメータ値の入力を行う。
ユーザは、抽出情報に対して情報を追加する入力を行ってもよい。例えばユーザは、情報処理装置2000によって建物名が自動で設定された場所206に対して、機器30が設置されている場所の部屋番号や区画名などの情報を追加する入力を行う。
<ハードウエア構成例>
実施形態2の情報処理装置2000は、実施形態1の情報処理装置2000と同様に、計算機1000で実現される。実施形態2の計算機1000のストレージ1080は、上述した情報処理装置2000の各機能を実現するプログラムモジュールをさらに有する。
<作用・効果>
本実施形態によれば、部分画像24に写っているメータの値などを示す抽出情報200が生成される。こうすることで、メータに関する情報を記憶したり、ユーザに提示したりすることができる。特に、メータ値特定部2100によって部分画像24からメータ値が自動で特定される場合、メータを読み取る作業に要するユーザの労力を軽減することができる。また、撮像画像22に複数の機器30が写っている場合、メータ値特定部2100によって各機器30のメータ値を自動で特定することにより、複数のメータの値を短い時間で把握できる。
さらに、情報処理装置2000が修正受付部2160を有する場合、情報処理装置2000によって自動で生成された抽出情報200をユーザが修正したり、抽出情報200に対してユーザが情報を追加したりすることができる。そのため、抽出情報200が示す情報をより正確なものにすることができる。
[実施形態3]
図12は、実施形態3に係る情報処理装置2000を例示するブロック図である。図12において、各ブロックは、ハードウエア単位の構成ではなく、機能単位の構成を表している。特に説明する場合を除き、実施形態3の情報処理装置2000は、実施形態1又は2の情報処理装置2000と同様の機能を有する。図12に示す情報処理装置2000は、実施形態2と同様の機能を有する。
実施形態3の情報処理装置2000は、撮像画像22から、機器30の識別子(ID)を表す部分画像(以下、第2部分画像)をさらに抽出する。図13は、実施形態3の情報処理装置2000の動作を概念的に説明するための図である。情報処理装置2000は、撮像画像22から、機器30の識別子が表示されている領域(ID領域42)内の画像を、第2部分画像26として抽出する。
上述の機能を実現するために、本実施形態の機器情報は、機器の種類ごとに、ID領域42の位置をさらに示す。また、実施形態3の情報処理装置2000は第2抽出部2120をさらに有する。第2抽出部2120は、機器情報取得部2040によって取得された機器情報を用いて、撮像画像22から、機器30の識別子が写っている第2部分画像26を抽出する。
図14は、本実施形態における機器情報300を例示する図である。本実施形態の機器情報300は、ID領域316をさらに有する。また、ID領域316は、水平位置318、垂直位置320、幅322、及び高さ324で構成される。ID領域316を水平位置318、垂直位置320、幅322、及び高さ324で定める方法は、メータ領域306を水平位置308、垂直位置310、幅312、及び高さ314で定める方法と同様である。なお、ID領域316の定め方は、メータ領域306の定め方と同様に、水平位置318などを用いる方法に限定されない。
撮像画像22に機器30が複数写っている場合、第2抽出部2120は、複数の機器30それぞれについて、第2部分画像26を抽出する。
<抽出情報200について>
本実施形態の情報処理装置2000が抽出情報生成部2080を有する場合、抽出情報は、第2部分画像26に関する情報をさらに含む。図15は、第2部分画像26に関する情報をさらに含む抽出情報200を例示する図である。抽出情報200は、機器ID210及び第2部分画像212という2つの列をさらに有する。
機器ID210は、メータ値202と同様に、手動で設定されてもよいし、自動で設定されてもよい。後者の場合、実施形態3の情報処理装置2000は識別子特定部2140をさらに有する。図16は、識別子特定部2140を有する実施形態3の情報処理装置2000を例示するブロック図である。例えば識別子特定部2140は、第2部分画像26に対して文字認識処理を行うことで、第2部分画像26に写っている機器30のIDを特定する。
ここで、識別子特定部2140は、第2部分画像26に写っているIDを特定するための補助的な情報(以下、第2補助情報)を取得して利用してもよい。例えば第2補助情報は、機器30のIDの桁数を示す。また例えば、第2補助情報は、機器30のIDの各桁の文字の種類(数値、英字、又は固定文字など)を示す。機器30のIDの各桁の文字の種類は、例えば正規表現を用いて表すことができる。
第2補助情報は、各機器の種類ごとに、機器情報300に示されているものとする。識別子特定部2140は、機器情報取得部2040によって取得された機器情報300に示されている第2補助情報を利用して、機器30のIDの特定を行う。第2補助情報を用いることにより、識別子特定部2140による機器30のIDの特定の精度を向上させたり、識別子特定部2140が処理に要する時間を短くしたりすることができる。
第2部分画像212は、部分画像208と同様に、第2部分画像26そのもの又は第2部分画像26のIDなどを示す。
本実施形態の情報処理装置2000が修正受付部2160を有する場合、修正受付部2160は、機器ID210の修正をさらに受け付けてもよい。
<ハードウエア構成例>
実施形態3の情報処理装置2000は、実施形態1の情報処理装置2000と同様に、計算機1000で実現される。実施形態3の計算機1000のストレージ1080は、上述した情報処理装置2000の各機能を実現するプログラムモジュールをさらに有する。
<作用・効果>
本実施形態の情報処理装置2000によれば、実施形態1の情報処理装置2000によってメータを表す部分画像24の抽出に要する計算時間や計算機リソース量を少なくすることができる理由と同様の理由により、機器30のIDを表す第2部分画像26の抽出に要する計算時間や計算機リソース量を少なくすることができる。
また、識別子特定部2140によって部分画像24から機器30のIDが自動で特定される場合、機器30のIDを読み取る作業に要するユーザの労力を軽減することができる。また、撮像画像22に複数の機器30が写っている場合、識別子特定部2140によって各機器30のIDを自動で特定することにより、各機器30のIDを短い時間で把握できる。
以下、情報処理装置2000の具体的な利用方法を実施例として示す。以下の実施例は、あくまで情報処理装置2000の具体的な利用形態の一例であり、情報処理装置2000の利用形態を限定するものではない。
[実施例1]
図17は、実施例1の情報処理装置2000を実現する計算機を例示する図である。本実施例の情報処理装置2000を実現する計算機はタブレット端末50である。タブレット端末50は、カメラ52及びタッチパネル54を備える。カメラ52は、前述したカメラ20に相当し、機器30の撮像に利用される。タッチパネル54は、ユーザに対する情報の表示、及びユーザによる入力操作の認識に利用される。
本実施例において、タブレット端末50のユーザは、タブレット端末50を操作しながら、建物に備えられている機器の点検を行う。タブレット端末50には、機器30の点検作業に用いるアプリケーション(以下、点検アプリケーション)がインストールされている。また、タブレット端末50には、ユーザが行う検作業の一覧がスケジュールとして登録されている。以下、タブレット端末50を用いた点検作業の手順を複数例示する。
<点検作業の手順1>
ユーザが点検アプリケーションを起動すると、ユーザの点検作業のスケジュールがタッチパネル54に表示される。図18は、ユーザの点検作業のスケジュールがタッチパネル54に表示される様子を例示する図である。ユーザは、選択エリア60をタッチすることで、これから行う点検作業を選択する。
ユーザが、物件ABCの点検作業を行うために、選択エリア60の1行目を選択したとする。この結果、物件ABCにおける点検場所の一覧が表示される。図19は、点検場所の一覧がタッチパネル54に表示される様子を例示する図である。ユーザは、選択エリア62をタップすることで、これから点検を行う場所を選択する。
ユーザが、エントランスに設置されている機器30の点検を行うために、選択エリア62の1行目を選択したとする。この結果、物件ABCのエントランスに設置されている機器30の一覧が表示される。図20は、機器30の一覧がタッチパネル54に表示される様子を例示する図である。ユーザは、選択エリア64をタップすることで、点検を行う機器30を選択する。
ユーザが、電気メータ1の点検を行うために、選択エリア64の1行目を選択したとする。この結果、電気メータ1に関する情報がタッチパネル54に表示される。図21は、電気メータ1に関する情報がタッチパネル54に表示される様子を例示する図である。図21において、今回メータ値66及び確証写真68は空欄となっている。今回メータ値66は、今回の点検作業で読み取るメータの値を示す欄である。確証写真68は、機器30のメータ部分の画像を示す欄である。
ユーザは、今回の点検作業における電気メータ1の状態を記憶するため、電気メータ1をカメラ52で撮像する。すると、まず特徴量算出部2020が、カメラ52が生成した撮像画像を用いて、電気メータ1の全体の形態の特徴量を算出する。そして、機器情報取得部2040が、算出した特徴量に基づいて、電気メータ1の種類に対応する機器情報を取得する。この機器情報は、電気メータ1について、メータ領域40及びID領域42を示す。
次に、第2抽出部2120は、機器情報が示すID領域42を用いて、撮像画像から機器のIDが写っている第2部分画像を抽出する。そして、識別子特定部2140が、その第2部分画像を用いて、撮像画像に写っている機器のIDを特定する。
ここで、情報処理装置2000は、上記特定したIDが、図21に示されている電気メータ1のIDと一致するか否かを判定する。これらが一致しない場合、撮像画像に写っている機器30は電気メータ1ではないため、ユーザが撮像対象を誤った可能性がある。そこで、情報処理装置2000は、機器のIDが一致しない旨のエラーメッセージをタッチパネル54に出力する。
一方、識別子特定部2140によって特定されたIDが電気メータ1のIDと一致する場合、第1抽出部2060は、機器情報が示すメータ領域40を用いて、電気メータ1の撮像画像からメータ部分の部分画像を抽出する。さらに、メータ値特定部2100は、メータ部分の抽出画像から、電気メータ1のメータ値を特定する。
上述した各処理の結果、タッチパネル54に表示されている電気メータ1に関する情報が更新される。図22は、電気メータ1に関する情報が更新された様子を例示する図である。図22において、第1抽出部2060によって抽出された部分画像が、確証写真68に表示されている。さらに、メータ値特定部2100によって特定されたメータ値が、今回メータ値66に表示されている。
ユーザは、今回メータ値66と確証写真68に写っているメータの部分画像とを比較して、今回メータ値66の値が正しいか否かを判断する。もし今回メータ値66の値が誤っている場合、ユーザは、今回メータ値66をタップして、正しい値を入力する。
ここで、本実施例において、機器情報300は、各実施形態で説明した種々の情報に加え、メータの種類ごとに、1)メータ値の単位、及び2)メータ値の正常値の範囲をさらに示している。図22において、タブレット端末50は、前回メータ値65及び今回メータ値66の欄に、メータ値に加え、メータ値の単位(kWh)を表示している。
またタブレット端末50は、今回メータ値66が、機器情報300に示されているメータ値の正常値の範囲に含まれているか否かを判定する。ここで、機器情報300に示されているメータ値の正常値の範囲が「前回メータ値65と今回メータ値との差分が 3,000 以上 6,000 以下」であったとする。図22に示されている例では、前回メータ値65と今回メータ値66との差分が 9,192 であるため、今回メータ値66がメータ値の正常値の範囲に含まれていない。そのため、タブレット端末50は、コメント欄70に、「異常なメータ値です」というメッセージを自動で入力する。一方、今回メータ値66がメータ値の正常値の範囲内であれば、タブレット端末50は、コメント欄70に「正常なメータ値です」というメッセージを自動で入力する。
なおユーザは、タブレット端末50によって自動入力されるメッセージの他に、任意のコメントをコメント欄70に入力することができる。
ユーザは、上述した方法と同様の方法で、他の機器30についても点検を行う。
<点検作業の流れ2>
ユーザは、点検アプリケーションを起動する。次にユーザは、カメラ52で点検対象の機器30を撮像する。するとタブレット端末50は、撮像された機器30について、機器30のIDの特定、機器30のメータ部分の部分画像の抽出、及び機器30のメータ値の特定などが行う。そして、タブレット端末50は、特定した機器30のIDに対応づけて、部分画像やメータ値を記憶する。つまりタブレット端末50は、前述した抽出情報を生成して記憶する。
情報処理装置2000によって自動で生成及び記憶された機器30に関する情報を確認したい場合、例えばユーザは、図19から図21で示した画面を順にたどって、タッチパネル54に、点検対象の機器30に関する情報を表示させる。例えば点検対象の機器30が電気メータ1である場合、図22で例示した画面がタッチパネル54に表示される。この画面を見ることで、ユーザは、点検対象の機器30に関する情報が自動で生成されたことを確認する。
なおユーザは、点検アプリケーションを起動してすぐに機器30を撮像するのではなく、点検対象の機器30の候補の絞り込みを行ってから機器30を撮像してもよい。例えばユーザは、タッチパネル54でスケジュールや点検場所などを途中まで選択した後で機器30を撮像する。例えばユーザは、図20で点検場所を選択した後、機器30の撮像を行う。こうすることで、点検対象の機器30の候補が、選択された点検場所に設置されている機器30に絞られる。そのため、機器情報取得部2040が機器30の特徴量から機器の種類を特定する際に、その特徴量との一致度合いを計算しなければならない機器の種類の数を減らすことができる。
例えば機器情報記憶部2050に登録されている機器の種類が100種類あっても、選択した点検対象の場所に設置されている機器の種類が3種類であれば、機器情報取得部2040は、算出された機器の特徴量と、この3種類の機器の特徴量との一致度合いをそれぞれ比較すればよい。そのため、機器の種類の特定に要する計算時間が短くなる。
点検対象の機器30の候補の絞り込みは、上述した方法に限定されない。例えば、タブレット端末50は、タブレット端末50の位置情報(GPS 座標など)を用いて、点検対象の機器30の候補を絞り込む。具体的には、タブレット端末50は、点検対象の機器30の候補を、タブレット端末50との距離が所定値以下である機器30に絞り込む。この場合、機器情報記憶部2050に記憶されている機器情報は、機器の種類ごとに、その種類の機器が設置されている場所を示す。或る種類の機器が複数の場所に設置されている場合、機器情報は、その種類に対応づけてそれら複数の場所を示す。
また例えば、タブレット端末50は、点検対象の機器30の候補を、点検作業を行っているユーザに基づいて絞り込んでもよい。例えば各ユーザが点検を担当する機器30や点検場所が決まっている場合、タブレット端末50は、点検対象の機器30の候補を、現在点検作業を行っているユーザが担当している機器30や、そのユーザが担当している点検場所に設置されている機器30に絞り込む。
点検作業を行っているユーザを特定する方法は様々である。例えば点検アプリケーションやタブレット端末50にログイン機能があるとする。この場合、タブレット端末50は、点検作業を行っているユーザを、タブレット端末50や上記アプリケーションにログインしているユーザとする。また、タブレット端末50がユーザごとに用意されている場合、タブレット端末50は、点検作業を行っているユーザを、タブレット端末50の所有者とする。
[実施例2]
図23は、実施例2における情報処理装置2000の利用方法を例示する図である。実施例2において、機器30は、監視カメラ80によって撮像される。情報処理装置2000は、この監視カメラ80によって生成される撮像画像を取得して処理する。例えば情報処理装置2000は、1つ又は複数の監視カメラ80によって撮像された撮像画像を収集して処理するサーバ装置である。
上記監視カメラ80は、1つ又は複数の機器30を撮像できる場所に固定で設置される。なお、上記監視カメラ80は、機器30の撮像のみを行ってもよいし、機器30の撮像に加えてその他の場所の撮像を行ってもよい。
情報処理装置2000は、定期的又は不定期に、監視カメラ80によって生成された撮像画像を取得する。そして情報処理装置2000は、この撮像画像を対象として各実施形態で説明した処理を行うことにより、抽出情報の生成及び記憶を自動的に行う。こうすることで、機器30を遠隔で監視することができるようになり、ユーザの点検作業の負担が軽減される。
以上、図面を参照して本発明の実施形態について述べたが、これらは本発明の例示であり、上記各実施形態の組み合わせ、及び上記実施形態以外の様々な構成を採用することもできる。
以下、参考形態の例を付記する。
1. 画像を処理することにより、その画像に写っている機器の特徴量を算出する特徴量算出手段と、
機器の種類ごとに、その種類の機器においてメータが配置されている機器上の位置を示す機器情報を記憶している機器情報記憶手段から、前記算出された特徴量に対応する種類の機器の機器情報を取得する機器情報取得手段と、
前記取得された機器情報を用いて、前記画像からメータが写っている第1の部分画像を抽出する第1抽出手段と、を有する情報処理装置。
2. 前記特徴量算出手段は、前記画像に写っている機器の形態の特徴量を算出する、1.に記載の情報処理装置。
3. 前記抽出された第1の部分画像に写っているメータの値を特定するメータ値特定手段を有する、2.に記載の情報処理装置。
4. 前記メータの値と、前記画像が生成された日時又は場所を表す情報とを対応付けた抽出情報を生成する抽出情報生成手段を有する、1.乃至3.いずれか一つに記載の情報処理装置。
5. 前記機器情報はさらに、機器の種類ごとに、機器の識別子が表示されている機器上の位置を示し、
前記取得された機器情報を用いて、前記画像から機器の識別子が写っている第2の部分画像を抽出する第2抽出手段を有する、1.乃至4.いずれか一つに記載の情報処理装置。
6. 前記抽出された第2の部分画像に写っている識別子を特定する機器識別子特定手段を有する、5.に記載の情報処理装置。
7. 前記機器の識別子と、前記画像が生成された日時又は場所を表す情報とを対応付けた第2の抽出情報を生成する第2抽出情報生成手段を有する、5.又は6.に記載の情報処理装置。
8. コンピュータによって実行される制御方法であって、
画像を処理することにより、その画像に写っている機器の特徴量を算出する特徴量算出ステップと、
機器の種類ごとに、その種類の機器においてメータが配置されている機器上の位置を示す機器情報を記憶している機器情報記憶手段から、前記算出された特徴量に対応する種類の機器の機器情報を取得する機器情報取得ステップと、
前記取得された機器情報を用いて、前記画像からメータが写っている第1の部分画像を抽出する第1抽出ステップと、を有する制御方法。
9. 前記特徴量算出ステップは、前記画像に写っている機器の形態の特徴量を算出する、8.に記載の制御方法。
10. 前記抽出された第1の部分画像に写っているメータの値を特定するメータ値特定ステップを有する、9.に記載の制御方法。
11. 前記メータの値と、前記画像が生成された日時又は場所を表す情報とを対応付けた抽出情報を生成する抽出情報生成ステップを有する、8.至10いずれか一つに記載の制御方法。
12. 前記機器情報はさらに、機器の種類ごとに、機器の識別子が表示されている機器上の位置を示し、
前記取得された機器情報を用いて、前記画像から機器の識別子が写っている第2の部分画像を抽出する第2抽出ステップを有する、8.乃至11.いずれか一つに記載の制御方法。
13. 前記抽出された第2の部分画像に写っている識別子を特定する機器識別子特定ステップを有する、12.に記載の制御方法。
14. 前記機器の識別子と、前記画像が生成された日時又は場所を表す情報とを対応付けた第2の抽出情報を生成する第2抽出情報生成ステップを有する、12.又は13.に記載の制御方法。
15. コンピュータに、8.乃至14.いずれか一つに記載の制御方法が有する各ステップを実行させるプログラム。
20 カメラ
22 撮像画像
24 部分画像
26 第2部分画像
30 機器
32 メータ
40 メータ領域
42 ID領域
50 タブレット端末
52 カメラ
54 タッチパネル
60、62、64 選択領域
65 前回メータ値
66 今回メータ値
68 確証写真
70 コメント欄
80 監視カメラ
200 抽出情報
202 メータ値
204 日時
206 場所
208 部分画像
210 機器ID
212 第2部分画像
300 機器情報
302 種類ID
304 特徴量
306 メータ領域
308 水平位置
310 垂直位置
312 幅
314 高さ
316 ID領域
318 水平位置
320 垂直位置
322 幅
324 高さ
1000 計算機
1020 バス
1040 プロセッサ
1060 メモリ
1080 ストレージ
1100 入出力インタフェース
1300 ディスプレイ装置
2000 情報処理装置
2020 特徴量算出部
2040 機器情報取得部
2050 機器情報記憶部
2060 第1抽出部
2080 抽出情報生成部
2100 メータ値特定部
2120 第2抽出部
2140 識別子特定部
2160 修正受付部

Claims (9)

  1. 画像を処理することにより、その画像に写っている機器の特徴量を算出する特徴量算出手段と、
    機器の種類ごとに、その種類の機器において、計測値を外部から視認可能に表示する表示部が配置されている機器上の位置を示す機器情報を記憶している機器情報記憶手段から、前記算出された特徴量に対応する種類の機器の機器情報を取得する機器情報取得手段と、
    前記取得された機器情報を用いて、前記画像から前記表示部を表す第1の部分画像を抽出する第1抽出手段と、を有する情報処理装置。
  2. 前記特徴量算出手段は、前記画像に写っている機器の形態の特徴量を算出する、請求項1に記載の情報処理装置。
  3. 前記抽出された第1の部分画像によって表される前記表示部計測値を特定する計測値特定手段を有する、請求項2に記載の情報処理装置。
  4. 前記表示部計測値と、前記画像が生成された日時又は場所を表す情報とを対応付けた抽出情報を生成する抽出情報生成手段を有する、請求項1乃至3いずれか一項に記載の情報処理装置。
  5. 前記機器情報はさらに、機器の種類ごとに、機器の識別子が表示されている機器上の位置を示し、
    前記取得された機器情報を用いて、前記画像から機器の識別子が写っている第2の部分画像を抽出する第2抽出手段を有する、請求項1乃至4いずれか一項に記載の情報処理装置。
  6. 前記抽出された第2の部分画像に写っている識別子を特定する機器識別子特定手段を有する、請求項5に記載の情報処理装置。
  7. 前記機器の識別子と、前記画像が生成された日時又は場所を表す情報とを対応付けた第2の抽出情報を生成する第2抽出情報生成手段を有する、請求項5又は6に記載の情報処理装置。
  8. コンピュータによって実行される制御方法であって、
    画像を処理することにより、その画像に写っている機器の特徴量を算出する特徴量算出ステップと、
    機器の種類ごとに、その種類の機器において、計測値を外部から視認可能に表示する表示部が配置されている機器上の位置を示す機器情報を記憶している機器情報記憶手段から、前記算出された特徴量に対応する種類の機器の機器情報を取得する機器情報取得ステップと、
    前記取得された機器情報を用いて、前記画像から前記表示部を表す第1の部分画像を抽出する第1抽出ステップと、を有する制御方法。
  9. コンピュータに、請求項8に記載の制御方法が有する各ステップを実行させるプログラム。
JP2015191786A 2015-09-29 2015-09-29 情報処理装置、制御方法、及びプログラム Active JP6672673B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015191786A JP6672673B2 (ja) 2015-09-29 2015-09-29 情報処理装置、制御方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015191786A JP6672673B2 (ja) 2015-09-29 2015-09-29 情報処理装置、制御方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2017068465A JP2017068465A (ja) 2017-04-06
JP6672673B2 true JP6672673B2 (ja) 2020-03-25

Family

ID=58492527

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015191786A Active JP6672673B2 (ja) 2015-09-29 2015-09-29 情報処理装置、制御方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP6672673B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7032957B2 (ja) * 2018-03-05 2022-03-09 メタウォーター株式会社 対象状態情報報管理システム及び対象状態情報管理方法
JP6514390B1 (ja) * 2018-05-08 2019-05-15 株式会社東芝 情報処理装置、情報処理方法及びコンピュータプログラム
JP2020077045A (ja) * 2018-11-05 2020-05-21 Necフィールディング株式会社 情報処理装置、判定方法及びプログラム
JP7144809B2 (ja) * 2019-03-08 2022-09-30 高砂熱学工業株式会社 計器読み取りシステム、計器読み取り方法及び計器読み取りプログラム
JP7261416B2 (ja) * 2019-03-08 2023-04-20 高砂熱学工業株式会社 計器読み取りシステム、計器読み取り方法及び計器読み取りプログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5805813A (en) * 1996-07-26 1998-09-08 Schweitzer Engineering Laboratories, Inc. System for visual monitoring of operational indicators in an electric power system
JP3649278B2 (ja) * 2000-12-21 2005-05-18 日本電気株式会社 画像認識による指針式メーター測定システム及び指針式メーター測定方法
JP4592311B2 (ja) * 2004-03-23 2010-12-01 中国電力株式会社 指示値認識方法、指示値認識システム、指示値認識プログラム、指示値認識プログラムを記録した記録媒体
JP4787584B2 (ja) * 2004-09-27 2011-10-05 財団法人電力中央研究所 アナログメータの自動読取方法および装置およびプログラム
JP2011081715A (ja) * 2009-10-09 2011-04-21 Toshiba Corp 監視システム及び監視方法
JP5626864B2 (ja) * 2010-08-10 2014-11-19 Necソリューションイノベータ株式会社 電力遠隔計測装置、電力遠隔計測システム、電力遠隔計測方法およびプログラム
JP6241152B2 (ja) * 2013-09-06 2017-12-06 日本電気株式会社 情報入力装置、制御方法、及びプログラム

Also Published As

Publication number Publication date
JP2017068465A (ja) 2017-04-06

Similar Documents

Publication Publication Date Title
JP6672673B2 (ja) 情報処理装置、制御方法、及びプログラム
JP2016018463A (ja) 状態変化管理システム及び状態変化管理方法
CN109931906B (zh) 摄像机测距方法、装置以及电子设备
CN113418543A (zh) 自动驾驶传感器的检测方法、装置、电子设备及存储介质
KR101968850B1 (ko) 정보 처리 장치, 정보 처리 시스템 및 기록 매체
JP2019159739A (ja) 画像処理装置、画像処理方法およびプログラム
JP7186833B2 (ja) 情報処理装置、情報処理方法及びコンピュータプログラム
CN113111827A (zh) 施工监控方法、装置、电子设备和存储介质
WO2015096824A1 (zh) 分析装置和分析方法
WO2018158815A1 (ja) 点検支援装置、点検支援方法および記録媒体
JP2019106008A (ja) 推定装置、推定方法、及び推定プログラム
CN109813283B (zh) 手持装置、利用手持装置进行的基于图像的测量的方法
JP6478849B2 (ja) メータ取付支援システム、メータ取付支援装置及びプログラム
CN107102794B (zh) 操作处理方法及装置
JP6818795B2 (ja) 情報処理装置、情報処理方法及びコンピュータプログラム
JP2019087156A (ja) 計測値読取りシステム、計測値読取り装置及び計測値読取方法
JP7069076B2 (ja) 情報処理装置、情報処理システム、及びプログラム
JP6000069B2 (ja) 検査システム
US20220036107A1 (en) Calculation device, information processing method, and storage medium
CN112700510A (zh) 一种热力图构建方法及装置
JP2019158519A (ja) 測定装置、測定方法及び測定プログラム
JP7013612B2 (ja) 情報処理装置、情報処理方法、コンピュータプログラム、及びコンピュータ装置
JP2011150555A (ja) 環境情報収集システム及び方法
JP7223198B1 (ja) メータ読取装置、メータ読取方法、及びメータ読取プログラム
JP6552461B2 (ja) 不動産情報提供システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180803

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190625

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190822

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200217

R150 Certificate of patent or registration of utility model

Ref document number: 6672673

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150