JP6957679B1 - 情報処理装置およびコンピュータプログラム - Google Patents

情報処理装置およびコンピュータプログラム Download PDF

Info

Publication number
JP6957679B1
JP6957679B1 JP2020084648A JP2020084648A JP6957679B1 JP 6957679 B1 JP6957679 B1 JP 6957679B1 JP 2020084648 A JP2020084648 A JP 2020084648A JP 2020084648 A JP2020084648 A JP 2020084648A JP 6957679 B1 JP6957679 B1 JP 6957679B1
Authority
JP
Japan
Prior art keywords
meter
unit
image
meter reading
measured value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020084648A
Other languages
English (en)
Other versions
JP2021179796A (ja
Inventor
強一 櫻井
有之 岸本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Infrastructure Systems and Solutions Corp
Original Assignee
Toshiba Corp
Toshiba Infrastructure Systems and Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Infrastructure Systems and Solutions Corp filed Critical Toshiba Corp
Priority to JP2020084648A priority Critical patent/JP6957679B1/ja
Priority to JP2021154603A priority patent/JP2022000973A/ja
Application granted granted Critical
Publication of JP6957679B1 publication Critical patent/JP6957679B1/ja
Publication of JP2021179796A publication Critical patent/JP2021179796A/ja
Priority to JP2023222514A priority patent/JP2024028353A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Arrangements For Transmission Of Measured Signals (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • User Interface Of Digital Computer (AREA)
  • Studio Devices (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】メータの計測値を機器で読み取る検針作業において、検針員の作業負荷を軽減することが可能な情報処理装置およびコンピュータプログラムを提供する。【解決手段】実施形態の情報処理装置は、検出部と、検針部とを備える。検出部は、画像データに基づいて、計測値を表示した部分の画像を検出し、検針部は、検出部が計測値を表示した部分の画像を検出した場合に、画像から計測値を求める。【選択図】 図3

Description

この発明の実施形態は、情報処理装置およびコンピュータプログラムに関する。
従来より、オフィスビルや工場、公共施設などに設置されている設備機器に対する検針業務として、点検員は、それら設備機器の稼働状態が示されているメータを検針し設備の保全を行っている。また近年は、人手による検針作業を不要とすべく、稼働状態を示す計測データをネットワークを介してサーバへ送信し、このサーバで保存・管理ができるシステムに対応した高性能な設備機器が投入されつつある。
しかし、このようなシステムに対応する設備機器は高価であることから普及するまでには至らず、未だに点検員による検針を行う設備機器は多数存在し、点検員の目視による検針作業は依然として行われている。また一般家屋のガス、電気、水道の検針作業にいたっては、検針員が個々に赴いて検針を行うのが一般的である。
近時、メータの検針作業を支援するサービスが提供されている。このサービスでは、AI(Artificial Intelligence)を活用してメータ値を機器で読み取るが、検針の作業現場において、点検員や検針員は、1)メータの撮影、2)AIによる画像認識、3)画像認識の結果の確認、4)帳票への入力を行う必要がある。
これらの作業ルーチンは、従前の紙帳票による検針よりも、時間がかかる場合がある。時間がかかると、例えば屋外での作業の場合、季節や天候によっては検針員への身体的負荷は大きくなるおそれがある。
特許第6514390号公報
本発明が解決しようとする課題は、メータの計測値を機器で読み取る検針作業において、検針員の作業負荷を軽減することが可能な情報処理装置およびコンピュータプログラムを提供することを目的とする。
実施形態の情報処理装置は、検出部と、検針部とを備える。検出部は、画像データに基づいて、計測値を表示した部分の画像を検出し、検針部は、検出部が計測値を表示した部分の画像を検出した場合に、画像から計測値を求める。
この発明に係わる情報処理装置を含む情報処理システムの概略を示す図。 図1に示した携帯型端末装置の構成を示す回路ブロック図。 図2に示した携帯型端末装置の動作を説明するためのフローチャート。 図2に示した動作の2次元バーコード読み取り時の表示例を示す図。 図2に示した動作の計測値の読み取り時の表示例を示す図。 図2に示した動作の2次元バーコード読み取り時の警告表示例を示す図。 図2に示した動作の計測値の読み取り時の表示例を示す図。 図2に示した動作の検針値の修正時の表示例を示す図。 図2に示した動作の帳票の入力時の表示例を示す図。
以下、図面を参照して、一実施形態について説明する。
図1は、一実施形態に係わる情報処理装置およびコンピュータプログラムを含む情報処理システムの構成を示すものでる。この情報処理システムは、メータが計測した値を読み取る検針にかかるものである。検針によって得られた検針値は、帳票の作成などに利用される。帳票は、例えば、利用料金の請求などに関わるものが考えられる。
なお、以下の説明では、上記情報処理装置およびコンピュータプログラムを、オフィスビルや工場、公共施設、一般家屋などに設置されたガス、電気、水道などのメータの検針作業に適用した場合を例に挙げて説明する。
この例では特に、検針員(あるいは点検員)が個々の家屋やビルディング、施設などを訪問し、それらもしくはそれらの近傍にそれぞれ設置された電気メータを検針する場合を例挙げてに説明する。以下、設置された場所を検針現場と称する。
この情報処理システムは、図1に示すように、携帯型端末装置100、無線基地局200、クライアント端末300、サーバ400、ネットワーク500を備える。そして、サーバ400が、携帯型端末装置100あるいはクライアント端末300と通信し、これらに代わって情報処理などを行って、メータの検針に関わるクラウドコンピューティングを実現する。このシステムでは、検針現場に設置されたメータMT1〜MTnから得られる情報を処理し、例えば使用量の請求などに関わる帳票の作成を行う。
メータMT1〜MTnは、例えば、電気の使用量、上水道の使用量、下水道への排水量、ガスの使用量などの数値やそれらを利用する機器の稼働状態を示す数値を計測し、表示する機器である。メータMT1〜MTnは、インフラやライフラインに関する数値を計測するものが想定されるが、これら以外を計測するものであってもよい。
なお、以下の説明では、各メータMT1〜MTnが計測した数値を計測値と称する。また、この計測値を検針員が携帯型端末装置100を操作して読み取り、記録あるいは報告する値を、検針値と称する。すなわち、計測値と検針値は、実質的には同じ値になる。
また各メータは、計測値を表示する面あるいは近傍に、2次元バーコードが印刷されたシールが付与されている。この2次元バーコードは、付与されているメータを他のメータと区別するためのマスターコードを含んでいる。以下の説明では、2次元バーコードとして、QRコード(登録商標)を適用した場合を例に説明する。
このマスターコードは、例えば複数の英数字であって、付与されるメータに固有のものであってもよいし、同一施設内の他のメータと区別するレベルで固有のものでもよいし、特定の地域(例えば、行政区画など)内で他のメータと区別するレベルで固有のものであってもよい。
その他、2次元バーコードには、属性(電気、ガス、水道、供給事業体、設置場所、製造日時、設置日時、性能を示す諸元など)を示す属性情報や、検針値を集計するために使用するアプリケーションソフトウェアや、そのアプリケーションソフトウェアが作成する集計表の入力欄を指定する入力指定情報などを含めるようにしてもよい。
また2次元バーコードは、所定のアルゴリズムによって解読されることで、上記マスターコードが得られる。なお、このマスターコードを示す文字列を、2次元バーコードとともに上記シールなどに印刷するようにしてもよい。
また各メータは、その表示部分において、回転式またはデジタル式のいずれの方式で計測値を示す。デジタル式の場合は、例えば、0〜9までの数字が表示される7セグメントディスプレイを複数使用し、前述した電気などの使用量や設備機器の稼働状態に応じて、数値(計測値)を示す構成が考えられる。回転式の場合は、例えば、0〜9までの数字が記載された数字車を複数用いたメカ式であって、使用量に応じて数字車が回転することで複数桁の数値(計測値)を示す直読式の構成が考えられる。
携帯型端末装置100は、検針にあたって検針員が携帯し、検針現場に設置されたメータMT1〜MTnの計測値を光学的に読み取って自動入力し、サーバ400に送信するための情報処理装置である。詳細については、後述する。
無線基地局200は、携帯型端末装置100と無線通信し、携帯型端末装置100をネットワーク500に接続するものである。例えば、ネットワーク500が事業所内に構築されたLANの場合、通信方式として無線LAN(IEEE802.11シリーズ)を採用したアクセスポイントである。またネットワーク500が通信事業者の移動通信網の場合、3G、3.9G(LTE(登録商標)など)、4G、5G等の規格に対応した無線通信を行う基地局装置である。
すなわち、無線LANや携帯電話網は例に過ぎず、携帯型端末装置100を無線通信によりネットワーク500に接続できるものであれば、これらの方式に限定されるものではなく、Bluetooth(登録商標)を含め、いずれの通信方式であっても適用可能である。また1つのネットワークに限らず、複数のネットワーク(例えば、構内LANと移動通信網)が相互に接続されたものであってもよい。
クライアント端末300は、当該システムの検針サービスの利用者の管理部門に設置され、その部門のオペレータが使用する端末であって、例えば、デスクトップ型あるいはラップトップ型のパーソナルコンピュータ等の情報処理装置である。
そして、クライアント端末300は、携帯型端末装置100によってサーバ400にアップロードされたデータファイルをダウンロードし、参照・閲覧、編集・集計、データ変換・ファイル作成、帳票の発行などを行う機能を備える。
またクライアント端末300は、携帯型端末装置100の全ての機能または一部のデータ処理機能を備えて、携帯型端末装置100と同様の処理を実行してもよい。すなわち、クライアント端末300は、検針現場での撮影を除いて、携帯型端末装置100でのデータ処理を代わりに行うように同様の機能を備えてもよい。
サーバ400は、当該システムが提供するクラウドコンピューティングの中枢をなすものであって、携帯型端末装置100やクライアント端末300からアップロードされる情報の保存や管理、上記情報に所定のデータ処理を施したり、あるいはこの保存した情報やデータ処理した情報を携帯型端末装置100やクライアント端末300に提供(ダウンロード)し、システムの利用者間でのデータ共有を実現する。
また、サーバ400は、携帯型端末装置100やクライアント端末300によるデータ処理の一部または全部を各装置に代わって担うことで、各装置のコンピュータ資源の節約を可能にする。そしてまたサーバ400は、携帯型端末装置100、クライアント端末300が使用するOSやアプリケーションソフトウェアを各装置に提供したり、最新の情報にアップデートしてサービスを実現する。
したがって、サーバ400のデータベースには、携帯型端末装置100からアップロードされた検針データを保存し、携帯型端末装置100やクライアント端末300の各種プログラムが保存される。
サーバ400によって提供されるサービスは、サービスの提供を受けるクライアントが所有する(あるいは貸与された)携帯型端末装置100やクライアント端末300に対して、サブスクリプション方式で提供することも考えられる。
次に、図2を参照して、携帯型端末装置100について説明する。
携帯型端末装置100は、メータの検針員が検針現場まで携帯し、オペレータとして使用する端末であって、スマートフォン、タブレット型コンピュータまたはラップトップ型のパーソナルコンピュータ等の携帯可能な情報処理装置である。
また携帯型端末装置100は、図2に示すように、一般的なコンピュータと同様のハードウェア構成であり、バスで接続された、少なくとも通信部101、入力部102、表示部103、カメラ104、GNSS(Global Navigation Satellite System)受信部105、記憶部106、制御部110を備える。
通信部101は、無線基地局200との間で無線通信リンクを確立して通信を行う無線通信インターフェースであって、無線基地局200およびネットワーク500を介して、サーバ400と通信を行う。無線通信は、無線基地局200の仕様に合わせた通信方式に対応する。この通信方式の例としては、無線LAN(IEEE802.11シリーズ)、3G、3.9G(LTE(登録商標)など)、4G、5G、Bluetooth(登録商標)等、様々な規格が考えられるが、いずれでもかまわないし、これらに限定されるものでもない。
入力部102は、後述する表示部103上に載置されたタッチパネルや、携帯型端末装置の筐体上に設けられたキースイッチなどの入力デバイスを備え、検針員から種々の情報の入力や指示を検出する。上記タッチパネルは、尖筆(スタイラス)や指を使って入力が行えるものであり、静電容量方式や抵抗膜方式、投影型赤外線方式など種々の方式が適用可能である。
表示部103は、検針員に対して視覚的に情報を提供するものであり、例えば、情報の入力欄やソフトウェアキー、各種画像(写真、CG(コンピュータグラフィックス)画像)を表示する。
情報の入力欄やソフトウェアキーは、後述する制御部110の制御により、前述の入力部102に対する操作と対応するように表示がなされる。表示のために使用されるデバイスとしては、液晶パネルや有機EL(Electro Luminescence)パネル、電子ペーパーなど種々の表示デバイスが適用可能である。
カメラ104は、複数枚のレンズやこれらのレンズ間の距離を可変するズーム機構などを備えた光学系と、例えばCMOS(Complementary MOS)などのイメージセンサを備えた撮像部と、撮像部によって得られた撮像信号から所定の形式(例えば、JPEG(Joint Photographic Experts Group))の画像データを生成する信号処理部とを備えたデジタルカメラである。
なお、カメラ104によって得られた画像データには、上記時刻が撮影した日時や場所、撮影条件(シャッター速度や絞り値、画角、緯度や経度など)を示す付加情報(例えば、Exif(Exchangeable image file format)データ)が、制御部110によって付加されて記録される。
GNSS受信部105は、複数のGNSS衛星や地上の基準局などから発射される信号を用いて位置測定(測位)を行ったり、現在時刻の受信などを行うものである。
記憶部106は、後述する制御部110のOS(Operating System)やアプリケーションソフトウェア、アプリケーションソフトウェアの運用に伴って生成されたデータ、各種パラメータ、検針員から入力されたデータ、カメラ104によって撮像された画像データ(メータMT1〜MTnの計測値を撮影したものなど)、サーバ400から取得(ダウンロード)したデータ、その他、情報処理のための一時的なデータなどを記憶するものであり、RAM(Random Access Memory)やROM(Read Only Memory)、SSD(Solid State Drive)などのフラッシュメモリ、HDD(Hard Disk Drive)などの記録デバイスがデータの特性に合わせて、組み合わせて設けられる。
また記憶部106は、帳票データ106aと、設定情報データ106bと、メータ画像データ106cほか、様々なデータを記憶する。
帳票データ106aは、所定の検針期間毎に、各メータの検針値を集計するために作成されるデータであって、新しいデータが作成されるとサーバ400にアップロードされる。具体的には、帳票データ106aは、検針現場ごとに作成されるデータである。帳票データ106aは、メータ情報、メータ画像、今回の検針値、今回の使用量、前回の検針値、前回の使用量などの情報が対応付けられたデータであって、検針現場に複数のメータが設置されている場合には、各メータについて上記情報を含んでいる。
ここで、メータ情報は、メータを識別するためのマスターコード、メータが計測する対象を示す情報(テナント、駐車場、共有スペースなど)、種別(ガス、電気、水道など)を含む。メータ画像は、検針値の根拠となる画像、すなわち、検針の際に撮影した画像である。
今回の検針値は、今回の検針で読み取った値である。今回の使用量は、今回の検針値と前回の検針値の差分である。前回の検針値は、前回の検針で読み取った値である。前回の使用量は、前回の検針値と前々回の検針値の差分である。
設定情報データ106bは、各メータの検針値を集計するために必要な設定情報である。具体的には、帳票データ106aと同様に、各検針現場の各メータ毎に作成されるものである。ここで、各メータ毎の設定情報データを、エントリデータと呼ぶことにする。
エントリデータは、そのメータのマスターコード、メータタイプ、メータの桁数、表示桁数、四捨五入の有無、小数点の位置、撮影条件(タイマの設定時間など)、使用すべき認識エンジンと解析エンジンの種別などを含む。
メータ画像データ106cは、検針のために、メータの検針値をカメラ104が撮影した画像データであり、実際に検針値を得るために使用された場合、その画像から計測値を表示する部分が切り取られ、メータ画像として上記帳票データ106aに記録される。
制御部110は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)などのプロセッサ、チップセット、RAMやROMなどを備え、携帯型端末装置100の各部を統括して制御する。
ROMは、ファームウェアや設定値(各種パラメータ)を記憶する。CPUは、上記ファームウェアにしたがって、記憶部106からOSやアプリケーションソフトウェアをRAMに読み込んで、OSやアプリケーションソフトウェアを実行し、またRAMをワークエリア(作業領域)として使用することで、各種制御機能を実現する。
制御部110は、OSやアプリケーションソフトウェアを実行することで、少なくとも以下の制御機能を実現する。すなわち、制御部110は、ソフトウェア(プログラム)を実行することにより、通信制御部111、入力制御部112、表示制御部113、画像処理部114、位置情報処理部115、検針データ集計処理部116として機能し、これらの機能が互いに連携して機能することができる。
なお、これらの各機能の一部または全部を他の機能と統合したり、あるいは111〜116の各機能を別の観点で複数の機能ブロックに切り分けて別の表現で説明することも可能である。
通信制御部111は、通信部101を制御して、所定の通信プロトコルに従って無線基地局200と無線通信リンクを確立し、さらにネットワーク500を通じてサーバ400と通信を行うもので、例えば、サーバ400からのデータダウンロードおよびサーバ400へのデータアップロードを行う。
入力制御部112は、入力部102を制御し、入力部102が検出した結果から、入力部102に対する検針員の操作から検針員の要求を解釈したり、情報(文字列など)の入力、データの取り込みや紐づけの変更を受け付けたり、カメラ104によって撮像された画像データの取り込みなどを行う。
表示制御部113は、表示部103を制御して、文字や画像を含む種々の情報や、グラフィカルユーザインタフェイス(以下、GUI(Graphical User Interface))を表示させる。GUIの例としては、前述した情報の入力欄やソフトウェアキーであり、これらの表示は、入力部102のタッチパネルを通じた入力に対応している。その他、画像の取り込み位置を示したりするガイド表示を行う。
画像処理部114は、カメラ104によって撮像された画像データに対して画像処理を施すものであって、例えば、認識エンジンとしての機能と、解析エンジンとしての機能を備える。
認識エンジンは、カメラ104によって得られた画像データに対して、例えばAI(Artificial Intelligence)などによるパターン認識によって、上記画像データに基づく画像から、QRコードを検出したり、各種メータの計測値を表示する部分(以下、メータ部分と称する)に位置を検出する機能を備える。
一方、解析エンジンは、認識エンジンによって検出された部分の画像について、QRコードの解読や、光学的文字認識などの文字認識処理(OCR(Optical Character Recognition))を実施する。解析エンジンは、文字認識処理については、複数種類が準備される。各解析エンジンは、特定のタイプのメータに対応し、それぞれの計測値の表示に合った解析アルゴリズムを用いて、表示される計測値をテキスト化する。
具体的には、メータによって、アラビア数字の書体が異なっていたり、数字と背景色の組み合わせが異なるため、それぞれのメータの表示に合った解析アルゴリズムを有する解析エンジンが準備されている。
位置情報処理部115は、加速度センサ、ジャイロセンサなどを備え、これらの検出結果と、GNSS受信部105による測位結果、および/または通信制御部111によって無線基地局200から得た測位情報に基づいて、携帯型端末装置100の位置を測位する。
検針データ集計処理部116は、検針データの集計に関わる種々の処理を統括して制御するものであって、帳票作成部116a、QRコード処理部116b、メータ検針部116c、修正処理部116dを備える。
帳票作成部116aは、検針によって得たデータに基づいて、帳票データ106aを作成する処理を行う。
QRコード処理部116bは、カメラ104によって得られた画像に含まれるQRコードを検出し、この検出したQRコードを解析する処理を行う。
メータ検針部116cは、QRコード処理部116bの解析結果に基づいて、メータMT1〜MTnの計測値を撮影し、画像解析により計測値をテキスト化して、検針値を得る処理を行う。
修正処理部116dは、メータ検針部116cによって得た検針値について、オペレータからの修正要求に応じて上記検針値を修正する処理を行う。
なお、特許請求の範囲の検出部、検針部、タイマ始動部は、メータ検針部116cに対応する。また、特許請求の範囲の表示制御部は、表示制御部113とメータ検針部116cに対応する。
次に、上記構成の情報処理システムの動作について説明する。以下の説明では、携帯型端末装置100における処理のうち、特に、検針データの集計処理(以下、検針データ集計処理と称する)について説明する。
この検針データ集計処理は、検針データ集計処理部116によってなされ、検針員によるメータMT1〜MTnに対する検針作業を支援し、メータMT1〜MTnに表示される計測値を読み取って、これを集計した帳票データ106aを作成するものである。
図3は、上記検針データ集計処理を説明するためのフローチャートである。この検針データ集計処理は、アプリケーションソフトウェア(プログラム)を実行した制御部110が検針データ集計処理部116として機能することにより実現される。なお、以下の説明では、1つのアプリケーションソフトウェアとして説明するが、複数のアプリケーションソフトウェアが連携、あるいは連続して動作することで実現するようにしてもよい。
アプリケーションソフトウェアが実行されると、ステップ301において帳票作成部116aは、帳票データ106aのひな形を表示して、ステップ302に移行する。具体的には、帳票作成部116aは、記憶部106に記憶される帳票データ106aのひな形データを読み出し、読み出したひな形データを表示制御部113に出力する。これに対して、表示制御部113は、上記ひな形データに基づいて、表示部103に帳票を表示する。
ステップ302において帳票作成部116aは、オペレータから検針の要求が与えられたか、それ以外の要求が与えられたかを判定する。ここで、検針の要求が与えられた場合には、ステップ304に移行し、一方、それ以外の要求が与えられた場合には、ステップ303に移行して、要求に応じた他の処理を実行する。
具体的には、表示部103に表示される帳票の入力欄をオペレータがタッチすると、この操作を入力部102が検出して入力制御部112に通知する。入力制御部112は、タッチされた位置が入力欄であることより、オペレータが検針値の入力を要求していると判断する。そしてこの判断に応じて、帳票作成部116aは、QRコード処理部116bに検針の要求の発生を通知し、ステップ304に移行する。
ステップ304においてQRコード処理部116bは、カメラ104を起動し、ステップ305に移行する。起動されたカメラ104は、後述するステップ320に移行するまで、所定の周期で繰り返し撮影を行って、撮影によって得た画像データを画像処理部114に出力し続ける。
ステップ305においてQRコード処理部116bは、表示部103に、QRコードの読み取りを促す案内表示を行い、ステップ306に移行する。
具体的には、QRコード処理部116bは、表示制御部113に上記案内表示を行うように指示し、これを受けた表示制御部113が、表示部103に、例えば、図4に示すような読み取りを促すGUI(Graphical User Interface)を表示する。
図4の例では、撮影ガイド枠Fqを表示するとともに、撮影ガイド枠Fq内は、カメラ104によって撮影された映像をそのまま表示し、撮影ガイド枠Fq外では、例えば透過率を下げたグレーのマスク表示を行うことで、操作する検針員に対して、QRコードが撮影ガイド枠Fq内に入るように促している。これを見た検針員は、携帯型端末装置100のカメラ104を、メータMT1〜MTn上に貼られたQRコードにかざしながら、前後、左右、上下に移動させて、撮影ガイド枠Fq内の構図に上記QRコードが収まるように調整する。
なお、図4の例では、GUIとして、ズームキーZと、ソフトウェアキーS1〜S4を設けている。ズームキーZは、カメラ104によって撮影した画像データに対して、画像処理部114が拡大処理を施すための指示を受け付けるものである。
例えば、「1X」は拡大処理なし、「2X」は「1X」比で画角を2倍にする処理、「3X」は「1X」比で画角を3倍にする処理、「最大」は「1X」比で画角を性能上の最大にする処理に対応し、操作されたズームキーZに応じた処理を画像処理部114が行って、カメラ104によって撮影した画像を表示する。
上記では、画像処理部114の画像処理によって画角を変えるデジタルズームを例に説明したが、カメラ104が備える光学的なズーミング機構を駆動制御して、操作されたソフトウェアキーに応じて画角を変更するようにしてもよいし、あるいは、画像処理部114によるデジタルズームと組み合わせるようにしてもよい。
また図4に示すソフトウェアキーS1の「帳票」は、例えばステップ301に移行するなどして、帳票を編集などするための処理に移行するためものである。ソフトウェアキーS2の「QR」は、例えばステップ303に移行するなどして、QRコードを読み取るための処理に移行するためのものである。ステップ305の時点では、QRコードを読み取るための処理の最中であるため、図4の例では、他のソフトウェアキーS1,S3,S4よりもS2を濃く表示して、現在アクティブであることを示している。
ソフトウェアキーS3の「再撮影」は、メータの計測値を一度読み取った後のステップ(例えば、後述するステップ320以降)において、例えばステップ312に移行するなどして、メータの計測値を再撮影するための処理に移行するためのものである。ソフトウェアキーS4の「登録」は、メータから読み取った計測値を検針値として帳票に入力するためのものである。
ステップ306においてQRコード処理部116bは、カメラ104によって撮影した画像データに含まれるQRコードの画像を探すトラッキング処理を行い、ステップ307に移行する。
具体的には、QRコード処理部116bは、画像処理部114に、撮影ガイド枠Fq内に相当する画像データに対して、QRコードを探す処理を実行するように指示を与える。これに対して、画像処理部114は、認識エンジンを利用して、撮影ガイド枠Fq内に相当する画像データに対してQRコードの探索を行う。
ステップ307においてQRコード処理部116bは、カメラ104によって撮影した画像データから、QRコードが検出できたか否かを判定する。ここで、QRコードが検出できた場合には、ステップ308に移行し、一方、検出できない場合には、ステップ306に移行して、再度、QRコードの検出を試みる。
具体的には、QRコード処理部116bは、画像処理部114によるQRコードの探索結果を待機する。これに対して、画像処理部114は、上記認識エンジンを利用して、撮影ガイド枠Fq内に相当する画像データからQRコードを検出すると、この旨をQRコード処理部116bに通知し、これに応じてQRコード処理部116bはステップ308に移行する。
一方、画像処理部114は、上記認識エンジンを利用して、撮影ガイド枠Fq内に相当する画像データからQRコードを検出できない場合には、この旨をQRコード処理部116bに通知し、これによりQRコード処理部116bはステップ306に移行する。
ステップ308においてQRコード処理部116bは、ステップ307で検出したQRコードからマスターコードを検出し、ステップ309に移行する。
具体的には、QRコード処理部116bは、画像処理部114に対してQRコードの解析を行わせ、解析結果を待機する。これに対して、画像処理部114は、解析エンジンを利用して、認識エンジンがステップ307で検出したQRコードの画像に対して、QRコードの解読を行い、QRコードに含まれるマスターコードを検出する。
検出されたマスターコードは、画像処理部114からQRコード処理部116bに通知され、QRコード処理部116bは、マスターコードが通知されたことにより、ステップ309に移行する。またステップ305で開始したQRコードの読み取り案内表示を終了し、例えば図5に示すような表示に切り替える。すなわち、カメラ104に撮影した画像を、そのまま表示する。
ステップ309においてQRコード処理部116bは、ステップ308で検出したマスターコードを含むエントリデータを設定情報データ106bから検出し、この検出したエントリデータを制御部110のワークエリアに読み出し、ステップ310に移行する。
ステップ310においてQRコード処理部116bは、ステップ308で検出したマスターコードに基づいて、上記ワークエリア内に別途保存されている検針履歴のデータを参照し、直近で同じメータについて検針済みか否かを判定する。ここで、検針済みの(検針履歴がある)場合には、ステップ311に移行し、一方、検針済みでない(検針履歴がない)場合には、メータ検針部116cに通知した後、ステップ312に移行する。
ステップ311においてQRコード処理部116bは、すでに検針を行ったメータのQRコードが読み込まれたことを説明する警告表示を行い、メータ検針部116cに通知した後、ステップ312に移行する。
具体的には、QRコード処理部116bは、表示制御部113に対して、例えば図6に示すような警告表示Alを表示部103に表示させる。
ステップ312では、ステップ310あるいはステップ311で通知を受けたメータ検針部116cが、ステップ309で検出したエントリデータに基づいて、カメラ104によって撮影した画像データの画像に含まれるメータ部分の画像を探す処理を開始し、ステップ313に移行する。
具体的には、メータ検針部116cは、ステップ309で検出したエントリデータを参照して、このエントリデータに含まれる、画像処理部114で用いる認識エンジンと解析エンジンの識別情報を画像処理部114に通知する。
これに対して、画像処理部114は、通知された識別情報に対応する認識エンジンを利用して、カメラ104によって撮影した画像データに基づく画像を解析し、この画像に含まれるメータ部分の画像を探索するメータ部分探索処理を開始する。
ここで開始されたメータ部分探索処理は、後述するステップ320に移行するまで、所定の周期で繰り返し実行される。すなわち、カメラ104によって撮影した画像データに基づいて、上記所定の周期毎にメータ部分の画像の範囲を示す座標が求められる。
なお、メータ部分は、メータの種類や機種などのタイプによって、形状や表記、配色などが多種多様で異なっており、その認識や解析には、メータのタイプに対応した認識エンジンと解析エンジンを利用する必要がある。このため、エントリデータには、前述したように、マスターコードに対応付けて、認識エンジンと解析エンジンの種別を示す識別情報が含まれている。
ステップ313においてメータ検針部116cは、カメラ104によって撮影した画像データから、メータ部分が検出できたか否かを判定する。ここで、メータ部分が検出できた場合には、ステップ314に移行し、一方、検出できない場合には、ステップ312に移行して、メータ部分の検出を継続する。
具体的には、メータ検針部116cは、画像処理部114によるメータ部分の探索結果を待機する。これに対して、画像処理部114は、上記認識エンジンを利用して、カメラ104によって撮影した画像データからメータ部分の位置(画像上の座標)を検出すると、この旨をメータ検針部116cに通知し、これに応じてメータ検針部116cはステップ314に移行する。
一方、画像処理部114は、上記認識エンジンを利用して、画像データからメータ部分を検出できない場合には、この旨をメータ検針部116cに通知し、これによりメータ検針部116cはステップ312に移行する。
ステップ314においてメータ検針部116cは、ステップ313で検出したメータ部分の位置を示す表示を、表示部103に表示しているメータの画像上に行うとともに、タイマを始動させ、ステップ315に移行する。
具体的には、メータ検針部116cは、画像処理部114から通知されたメータ部分の座標を表示制御部113に通知するとともに、タイマを始動する。これに対して表示制御部113は、メータ検針部116cから通知された座標の情報に基づいて、例えば図7に示すように、メータ部分の読み取り位置を示すメータ枠Fを表示する。これにより検針員は、携帯型端末装置100が画像上のどの部分をメータ部分として読み取りを行うかを認識できる。
ステップ315においてメータ検針部116cは、カメラ104の焦点距離の自動調整(オートフォーカス調整)を開始し、ステップ316に移行する。
具体的には、メータ検針部116cは、カメラ104を制御して、カメラ104によって得られた画像データのうち、画像処理部114から通知されたメータ部分の座標について、焦点距離の調整や露出などの調整を開始する。
ステップ316においてメータ検針部116cは、ステップ314で始動したタイマが所定の時間Tを計時した(時間Tが経過した)か否かを判定する。ここで、所定の時間Tが経過した場合には、ステップ320に移行し、一方、経過していない場合には、ステップ317に移行する。
なお、この所定の時間Tは、検針員が予め任意に設定することができ、例えば、0.1秒、0.5秒、1秒、3秒のように複数から選択できる。あるいは、エントリデータに時間Tの設定を含ませるようにして、ステップ316で、その値に従うようにしてもよい。
ステップ317においてメータ検針部116cは、カメラ104によって得られた画像データのうち、メータ枠F内のメータ部分のピントが合った(焦点が合った)か否かを判定する。ここで、ピントが合った場合には、ステップ320に移行し、一方、ピントが合っていない場合には、ステップ318に移行する。
ステップ318においてメータ検針部116cは、検針員によって、シャッタ操作が行われたか否かを判定する。ここで、シャッタ操作が行われた場合には、ステップ320に移行し、一方、シャッタ操作が行われていない場合には、ステップ319に移行する。
具体的には、メータ検針部116cは、入力制御部112からの通知を監視する。入力部102に対して検針員がシャッタ操作を行うと、この操作を入力制御部112が検出し、メータ検針部116cに通知する。
ステップ319においてメータ検針部116cは、メータ部分を見失ったか否かを判定する。ここで、メータ部分を見失った場合には、ステップ312に移行して、再度、メータ部分の探索を開始する。一方、メータ部分を見失っていない場合には、ステップ316に移行して、前述したように、ステップ316のタイムアウト、ステップ317の合焦、ステップ318のシャッタ操作を順に監視する。
具体的には、メータ検針部116cは、画像処理部114の認識エンジンがメータ部分を見失った(検出できなくなった状態が所定時間続いた)か否かを判定する。見失った場合は、画像処理部114からメータ部分の座標の通知が停止するため、表示制御部113によるメータ枠Fの表示も停止される。
ステップ320においてメータ検針部116cは、ステップ320に移行した時点でカメラ104によって得られた最新の画像データを、計測値の読み取りの対象のデータ(メータ画像データ106c)として、記憶部106に保存し、ステップ321に移行する。
具体的には、メータ検針部116cは、上記最新の画像データについて、この画像データの画像のうち、メータ枠Fに対応する部分の画像を画像処理部114の認識エンジンから通知された座標に基づいて切り取って、記憶部106にメータ画像データ106cとして保存する。
ステップ321においてメータ検針部116cは、ステップ320で保存したメータ画像データ106cに対して文字認識処理を実施し、メータ部分に表示された計測値を読み取って、テキスト化し、ステップ322に移行する。
具体的には、メータ検針部116cは、画像処理部114に対して、解析エンジンによる文字認識処理を実施するように指示する。これに対して画像処理部114は、ステップ312で決定した解析エンジンを利用して、メータ画像データ106cに対して文字認識処理を実施し、テキスト化した数字列を得る。この数字列は、メータ検針部116cに送られる。
ステップ322においてメータ検針部116cは、ステップ309で特定したエントリデータを参照し、ステップ321で求めた数字列に対して、小数点の位置を決定して、仮の検針値を生成する。この仮の検針値は、修正処理部116dに通知され、ステップ323に移行する。
具体的には、メータ検針部116cは、ステップ309で特定したエントリデータを参照し、このデータに含まれるメータの桁数、表示桁数、四捨五入の有無、小数点の位置の各情報に基づいて、ステップ321で求められた数字列に対して、必要に応じて四捨五入を行うとともに、小数点の位置を決定して、仮の検針値を生成する。
ステップ323において修正処理部116dは、表示部103に、仮の検針値を調整するためのGUIを表示し、ステップ324に移行する。
具体的には、修正処理部116dは、表示制御部113に、ステップ322で生成された仮の検針値を出力し、上記GUIを表示させる。このGUIでは、例えば図8に示すように、ステップ320で保存したメータ画像データ106cをメータ部分表示Pとして表示するとともに、この表示Pに桁が合うように並べて、仮の検針値を表示および修正するための修正ウインドウMを表示する。
図8の例では、修正ウインドウMは、実際のメータ部分の外観に似せて、仮想的に、各桁を回転式のリールで表示し、初期値としては、仮の検針値の値を表示する。そして、各リールの表示を指などで上あるいは下になぞることで仮想的に回転させた表示を行う。
このような、なぞる操作を入力部102を通じて入力制御部112が検出し、この検出結果に応じて表示制御部113がリールを回転表示させることで、検針員は、直感的な修正を行うことができる。
なお、修正ウインドウMについて、複数種類の表示様式のデータを予め記憶部106に保存しておくようにする。また、マスターコードに対応付けて、上記表示様式を指定する様式コードをエントリデータに含めるようにする。そして、修正処理部116dが、エントリデータに含まれる様式コードの表示様式のデータを記憶部106から読み出して表示させることで、修正ウインドウMの表示様式を、メータ画像データ106cに合ったものとすることができる。
ステップ324において修正処理部116dは、検針員からの操作に応じた処理に移行する。ここで、再撮影を求める操作(前述のソフトウェアキーS3への操作)があった場合には、ステップ312に移行し、仮の検針値を修正するための操作(前述の修正ウインドウMへの操作)が行われた場合には、ステップ325に移行し、仮の検針値を検針値として確定することを求める操作(前述のソフトウェアキーS4への操作)があった場合には、ステップ326に移行する。具体的には、修正処理部116dは、入力制御部112から入力部102に対する操作の検出結果を待機し、通知される検出結果に応じた処理に移行する。
ステップ325において修正処理部116dは、検針員からの要求に応じて、仮の検針値の値を修正し、ステップ324に移行する。このとき、検針員は、メータ部分表示Pと修正ウインドウMを表示部103上で対比しながら、修正する指示を入力することができる。
具体的には、図8の例では、修正ウインドウMに仮想的に表示されるリールに対して、検針員が指などで回転させる操作を行うと、この操作を入力部102を通じて入力制御部112が検出し、この検出結果に応じて、表示制御部113が、操作されたリールを仮想的に回転させて表示する。
ステップ326において修正処理部116dは、修正ウインドウMに表示されている数値を検針値として検出し、この値を、ステップ302で操作された帳票の入力欄に入力した帳票データ106aを作成し、ステップ304に移行する。
具体的には、修正処理部116dは、図8の例では、修正ウインドウMに仮想的に表示されるリールのうち、中心列に表示される値を、検針値として修正処理部116dが検出し、例えば、図9に示すように、帳票Xの入力欄(「今月」の「検針値」の欄)に上記検針値を入力する。またワークエリア内の検針の履歴を更新し、検針済みと保存する。
その他、修正処理部116dは、図9に示すように、「今月」の「増加量」の入力欄には「今月」の「検針値」の欄の値から、「前月」の「検針値」の欄の値を引いた値を計算して入力するとともに、「メータ画像」の欄には、メータ画像データ106cに基づく画像を表示する。
以後、検査作業の終了を要求する操作が入力部102を通じて検針員から行われると、図3には示さない割り込み処理によって、ワークエリア内の帳票データ106aを記憶部106に保存し、当該処理を終了する。この保存された帳票データ106aは、通信部101を通じて、所定のタイミングで、サーバ400にアップロードされる。
以上のように、上記構成の情報処理システムでは、携帯型端末装置100において、メータMT1〜MTnのメータ部分を検出すると、以後は、その際に始動したタイマがタイムアウトしたり、あるいは、カメラ104のピントが合うと、シャッタ操作を行わなくても、カメラ104が撮像した画像からメータ部分を検出して、計測値を読み取るようにしている。
したがって、上記構成の情報処理システムによれば、検針員は、メータ部分が検出された後は、シャッタ操作を行わなくても、カメラ104が撮像した画像からメータ部分を読み取ることができる。このため、検針員は、メータ値を機器で読み取る検針作業の負荷を軽減することができる。
なお、この発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また上記実施形態に開示されている複数の構成要素を適宜組み合わせることによって種々の発明を形成できる。また例えば、実施形態に示される全構成要素からいくつかの構成要素を削除した構成も考えられる。さらに、異なる実施形態に記載した構成要素を適宜組み合わせてもよい。
例えば、上記実施の形態では、ステップ313でメータ部分を検出した後、その部分をメータ枠Fで示し、始動したタイマがタイムアウトしたり、あるいは、カメラ104のピントが合うと、計測値を読み取るようにしたが、これに代わって例えば、ステップ313でメータ部分を検出した場合に、即座に、計測値を読み取るようにしてもよい。すなわち、ステップ313からステップ320に即座に移行するようにしてもよい。
その他、この発明の要旨を逸脱しない範囲で種々の変形を施しても同様に実施可能であることはいうまでもない。
以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
[C1]
コンピュータを、
画像データに基づいて、計測値を表示した部分の画像を検出する検出部と、
前記検出部が前記計測値を表示した部分の画像を検出した場合に、画像から前記計測値を求める検針部と
して機能させることを特徴とするプログラム。
[C2]
前記検出部が前記計測値を表示した部分の画像を検出した場合に、タイマを始動するタイマ始動部として、さらにコンピュータを機能させ、
前記検針部は、前記タイマが所定時間を計時した場合に、画像から前記計測値を求めることを特徴とするC1に記載のプログラム。
[C3]
前記検針部は、前記検出部が前記計測値を表示した部分の画像を検出し、かつ、前記画像のフォーカスが合っている場合に、画像から前記計測値を求めることを特徴とするC1に記載のプログラム。
[C4]
前記画像データに基づく画像を表示するとともに、この表示した画像上で、前記検出部が検出した計測値を表示した部分の画像を識別するための表示を行う表示制御部として、さらにコンピュータを機能させることを特徴とするC1に記載のプログラム。
[C5]
画像データに基づいて、計測値を表示した部分の画像を検出する検出部と、
前記検出部が前記計測値を表示した部分の画像を検出した場合に、画像から前記計測値を求める検針部と
を備える情報処理装置。
100…携帯型端末装置、101…通信部、102…入力部、103…表示部、104…カメラ、105…GNSS受信部、106…記憶部、106a…帳票データ、106b…設定情報データ、106c…メータ画像データ、110…制御部、111…通信制御部、112…入力制御部、113…表示制御部、114…画像処理部、115…位置情報処理部、116…検針データ集計処理部、116a…帳票作成部、116b…QRコード処理部、116c…メータ検針部、116d…修正処理部、200…無線基地局、300…クライアント端末、400…サーバ、500…ネットワーク、MT1〜MTn…メータ。

Claims (4)

  1. コンピュータを、
    画像を連続的に撮影する撮像部から取得した画像データに基づいて、計測値を表示した部分の画像を検出する検出部と、
    前記検出部が前記計測値を表示した部分の画像を検出した場合に、タイマの計時を始動するタイマ始動部と、
    前記タイマ計時により所定時間が経過し場合前記撮像部から取得した画像データから前記計測値を求める検針部と
    して機能させることを特徴とするプログラム。
  2. 前記検針部は、前記タイマの計時による前記所定時間が経過するに、前記計測値を表示した部分の画像のフォーカスが合っ場合に前記撮像部から取得した画像データから前記計測値を求めることを特徴とする請求項1に記載のプログラム。
  3. 前記画像データに基づく画像を表示するとともに、この表示した画像上で、前記検出部が検出した計測値を表示した部分の画像を識別するための表示を行う表示制御部として、さらにコンピュータを機能させることを特徴とする請求項1に記載のプログラム。
  4. 画像を連続的に撮影する撮像部から取得した画像データに基づいて、計測値を表示した部分の画像を検出する検出部と、
    前記検出部が前記計測値を表示した部分の画像を検出した場合に、タイマの計時を始動するタイマ始動部と、
    前記タイマの計時により所定時間が経過した場合、前記撮像部から取得した画像データから前記計測値を求める検針部と
    を備える情報処理装置。
JP2020084648A 2020-05-13 2020-05-13 情報処理装置およびコンピュータプログラム Active JP6957679B1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020084648A JP6957679B1 (ja) 2020-05-13 2020-05-13 情報処理装置およびコンピュータプログラム
JP2021154603A JP2022000973A (ja) 2020-05-13 2021-09-22 情報処理装置およびコンピュータプログラム
JP2023222514A JP2024028353A (ja) 2020-05-13 2023-12-28 情報処理装置およびコンピュータプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020084648A JP6957679B1 (ja) 2020-05-13 2020-05-13 情報処理装置およびコンピュータプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021154603A Division JP2022000973A (ja) 2020-05-13 2021-09-22 情報処理装置およびコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP6957679B1 true JP6957679B1 (ja) 2021-11-02
JP2021179796A JP2021179796A (ja) 2021-11-18

Family

ID=78282032

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2020084648A Active JP6957679B1 (ja) 2020-05-13 2020-05-13 情報処理装置およびコンピュータプログラム
JP2021154603A Pending JP2022000973A (ja) 2020-05-13 2021-09-22 情報処理装置およびコンピュータプログラム
JP2023222514A Pending JP2024028353A (ja) 2020-05-13 2023-12-28 情報処理装置およびコンピュータプログラム

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2021154603A Pending JP2022000973A (ja) 2020-05-13 2021-09-22 情報処理装置およびコンピュータプログラム
JP2023222514A Pending JP2024028353A (ja) 2020-05-13 2023-12-28 情報処理装置およびコンピュータプログラム

Country Status (1)

Country Link
JP (3) JP6957679B1 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6073193B2 (ja) * 2013-07-02 2017-02-01 三菱電機ビルテクノサービス株式会社 検針用携帯端末
JP5879455B1 (ja) * 2015-10-16 2016-03-08 株式会社ネフロンジャパン 水道検針装置
JP2018046337A (ja) * 2016-09-12 2018-03-22 キヤノン株式会社 情報処理装置、プログラム及び制御方法
JP6130088B1 (ja) * 2017-02-10 2017-05-17 株式会社東芝 点検支援端末、点検支援方法及びプログラム

Also Published As

Publication number Publication date
JP2024028353A (ja) 2024-03-04
JP2022000973A (ja) 2022-01-04
JP2021179796A (ja) 2021-11-18

Similar Documents

Publication Publication Date Title
US11710205B2 (en) Image capturing method and display method for recognizing a relationship among a plurality of images displayed on a display screen
KR101617111B1 (ko) 무선 통신 디바이스들에 대한 핸즈-프리 증강 현실
CN105637530B (zh) 一种使用众包视频的3d模型更新的方法及系统
JP2014527188A (ja) 地図画像を収集及び提供するためのシステム及び方法
CN102750554A (zh) 信息处理装置、对象识别方法、程序和终端装置
CN107656962B (zh) 电子地图中的全景显示方法、服务器及计算机可读介质
WO2017133147A1 (zh) 一种实景地图的生成方法、推送方法及其装置
WO2021136386A1 (zh) 数据处理方法、终端和服务器
CN110210045B (zh) 目标区域的人数估算方法、装置及存储介质
CN110457571B (zh) 获取兴趣点信息的方法、装置、设备及存储介质
US20230284000A1 (en) Mobile information terminal, information presentation system and information presentation method
US11368612B1 (en) Venue operated camera system for automated capture of images
KR20130126532A (ko) 피사체의 촬영을 통한 피사체 소스정보의 제공방법 및 이를 위한 서버와 휴대용 단말기
JP6957679B1 (ja) 情報処理装置およびコンピュータプログラム
JP6989643B2 (ja) 情報処理装置およびコンピュータプログラム
JP7242795B1 (ja) 情報処理装置、情報処理方法およびコンピュータプログラム
KR20210090484A (ko) 촬영영상을 이용한 계량기 무인 원격 검침 시스템
JP6892528B1 (ja) 情報処理装置およびコンピュータプログラム
JP2012208558A (ja) 表示制御装置、端末装置、通信システムおよびプログラム
KR102366773B1 (ko) 모바일 단말기를 이용한 전자명함 교환 시스템 및 방법
CN113382207A (zh) 一种人员定位方法、装置及系统
JP2023010338A (ja) 情報処理装置およびコンピュータプログラム
JP5275573B2 (ja) 壁面情報収集装置及び壁面情報収集プログラム
JP2024002740A (ja) メータ読み取り装置、メータ読み取り方法、およびプログラム
Chen et al. CellMate: A Responsive and Accurate Vision-based Appliance Identification System

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200619

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210427

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210624

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210706

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210819

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210907

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211006

R150 Certificate of patent or registration of utility model

Ref document number: 6957679

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150