JP2020160799A - 建設機械アタッチメントの管理システム及び管理サーバ - Google Patents

建設機械アタッチメントの管理システム及び管理サーバ Download PDF

Info

Publication number
JP2020160799A
JP2020160799A JP2019059456A JP2019059456A JP2020160799A JP 2020160799 A JP2020160799 A JP 2020160799A JP 2019059456 A JP2019059456 A JP 2019059456A JP 2019059456 A JP2019059456 A JP 2019059456A JP 2020160799 A JP2020160799 A JP 2020160799A
Authority
JP
Japan
Prior art keywords
attachment
information
image data
identified
management server
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019059456A
Other languages
English (en)
Other versions
JP6961641B2 (ja
Inventor
雄輝 長岡
Yuki Nagaoka
雄輝 長岡
高志 三枝
Takashi Saegusa
高志 三枝
淳 上原
Jun Uehara
淳 上原
甲斐 賢
Masaru Kai
賢 甲斐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Construction Machinery Co Ltd
Original Assignee
Hitachi Construction Machinery Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Construction Machinery Co Ltd filed Critical Hitachi Construction Machinery Co Ltd
Priority to JP2019059456A priority Critical patent/JP6961641B2/ja
Publication of JP2020160799A publication Critical patent/JP2020160799A/ja
Application granted granted Critical
Publication of JP6961641B2 publication Critical patent/JP6961641B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)

Abstract

【課題】各建設機械に装着されたアタッチメントの識別情報を過度な労力を費やすことなく収集してアタッチメントの各種情報をメーカ側で管理可能なデータベースを構築することができる建設機械アタッチメントの管理システム及び管理サーバを提供する。【解決手段】管理システムは、建設機械に装着されたアタッチメントを識別するための識別情報を含むアタッチメントに関する複数種の情報を格納するデータベースを有する管理サーバ10と、識別対象のアタッチメントの画像データを取得して管理サーバへ送信する画像データ取得装置と、管理サーバと情報の授受が可能な情報処理装置とを備える。管理サーバは、画像データ取得装置から送信された識別対象のアタッチメントの画像データを基に識別対象のアタッチメントの識別情報を取得し、識別情報をデータベースに照合して識別対象のアタッチメントの識別を行い、照合結果に応じてデータベースを更新する。【選択図】図20

Description

本発明は、建設機械アタッチメントの管理システム及び管理サーバに係り、更に詳しくは、建設機械に装着されたアタッチメントに関する各種情報を格納するデータベースを備える管理サーバ及びそれを備える管理システムに関する。
油圧ショベルやホイルローダ等の建設機械では、バケットやブレーカ、カッターなど、作業用途に応じて様々な種類のアタッチメントが存在する。アタッチメントとして、建設機械メーカ製の純正品以外に、アタッチメントメーカ製の市販品や改造品が使用されることがある。しかし、市販品や改造品のアタッチメントの中には、建設機械の車体仕様に適合しないものがある。建設機械の操作は、一般的に、車体仕様に合わせて最適化された制御パラメータを用いて制御されている。アタッチメントの寸法や重量等の仕様が車体仕様に適合していない場合(純正品のアタッチメントの仕様と大幅に異なる場合)、その最適な制御パラメータは純正品用に最適化された制御パラメータと異なるものとなる。純正品用に最適化された制御パラメータをそのまま用いて市販品や改造品のアタッチメントを操作すると、操作性の低下や作業効率の低下が懸念される。
これらの不具合をサービス員が修理により改善しようとすると、メーカ側として各建設機械に使用されているアタッチメントを識別して当該アタッチメントの各種情報を把握した上で不具合の原因を特定する必要がある。しかし、建設機械に装着されているアタッチメントの製造元や型式、重量、寸法等の諸元情報をメーカ側で把握することは非常に手間が掛かる作業であり、サービス員にとって大きな負担となっている。
建設機械に装着されているアタッチメントを識別する技術として、例えば、特許文献1に記載のものがある。特許文献1に記載のアタッチメント認識装置は、姿勢センサ及び距離センサの検出結果を基に抽出したアタッチメントの特徴量とデータベースに予め記憶されている参照アタッチメントの特徴量とを照合することで、装着されているアタッチメントの認識を行うものである。
特開2017-157016号公報
しかしながら、特許文献1に記載の技術では、アタッチメントの形状や種類以外の情報を収集することは難しい。このようなことから、アタッチメントの形状や種類以外に、アタッチメントの型式や製造元等のアタッチメントを識別するための識別情報を過度な労力を費やすことなく収集する新たな方法が求められている。
さらに、特許文献1は車体内でアタッチメントの認識作業が行われているので、メーカ側で個々の車体のアタッチメントの装着状況を管理することは難しい。
本発明は、上記の問題点を解消するためになされたものであり、その目的は、各建設機械に装着されたアタッチメントの識別情報を過度な労力を費やすことなく収集してアタッチメントの各種情報をメーカ側で管理することができるデータベースを構築することができる建設機械アタッチメントの管理システム及び管理サーバを提供することである。
本願は上記課題を解決する手段を複数含んでいるが、その一例を挙げるならば、建設機械に装着されたアタッチメントを識別するための識別情報を含むアタッチメントに関する複数種の情報を格納するデータベースを有する管理サーバと、識別対象のアタッチメントの画像データを取得して前記管理サーバへ送信するように構成されている画像データ取得装置と、前記管理サーバと情報の授受が可能な情報処理装置とを備える建設機械アタッチメントの管理システムにおいて、前記管理サーバは、前記画像データ取得装置から送信された識別対象のアタッチメントの画像データを基に前記識別対象のアタッチメントの識別情報を取得し、取得した識別情報を前記データベースに照合して前記識別対象のアタッチメントの識別を行い、照合結果に応じて前記データベースを更新するように構成されていることを特徴とする。
本発明によれば、管理サーバが、画像データ取得装置から送信された識別対象のアタッチメントの画像データを基に識別情報を取得してデータベースと照合することで識別対象のアタッチメントを識別し、照合結果に応じてデータベースを更新するので、各建設機械に装着されたアタッチメントの識別情報を過度な労力を費やすことなく収集してアタッチメントの各種情報をメーカ側で管理できるデータベースを構築することができる。
上記した以外の課題、構成及び効果は、以下の実施形態の説明により明らかにされる。
本発明の建設機械アタッチメントの管理システムの一実施の形態を示す構成図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の管理対象であるアタッチメントの一例のバケットの構造を示す斜視図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の管理対象であるアタッチメントに取り付けられた銘板の一例を示す図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置のハードウェアの構成図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置の機能ブロック図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置によって取得される識別対象のアタッチメントの全体画像の一例を示す図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置によって取得される識別対象のアタッチメントの銘板・打刻画像の一例を示す図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置によって取得される識別対象のアタッチメントのメーカロゴ画像の一例を示す図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置によって取得される識別対象のアタッチメントの破損画像の一例を示す図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置における識別対象のアタッチメントの画像データの取得のための処理手順の一例を示すフローチャート図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置に表示される建設機械の機体情報画面の一例を示す図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置に表示されるアタッチメント全体画像の撮像のための表示画面の一例を示す図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置に表示される銘板・打刻の有無の入力画面の一例を示す図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置に表示される銘板・打刻の撮像のための表示画面の一例を示す図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置に表示されるメーカロゴの有無の入力画面の一例を示す図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置に表示されるメーカロゴの撮像のための表示画面の一例を示す図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置に表示される破損箇所の有無の入力画面の一例を示す図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置に表示される破損箇所の撮像のための表示画面の一例を示す図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する管理サーバのハードウェアの構成図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する管理サーバの機能ブロック図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する管理サーバにおけるアタッチメント情報データベースに格納されている情報の構成の一例を示す図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する管理サーバにおけるアタッチメントの識別のための処理手順の一例を示すフローチャート図である。 図22に示すフローチャート図のステップS30の詳細な処理手順の一例を示すフローチャート図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する管理サーバのアタッチメント識別部の処理を示す説明図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置に表示される識別対象のアタッチメントに関する情報の確認画面の一例を示す図である。 本発明の建設機械アタッチメントの管理システムの一実施の形態における管理サーバとコンピュータ(クライアント)間の授受可能な情報を示す説明図である。
以下、本発明の建設機械アタッチメントの管理システム及び管理サーバの実施の形態について図面を用いて説明する。
[一実施の形態]
まず、本発明の建設機械アタッチメントの管理システムの一実施の形態の構成について図1を用いて説明する。図1は本発明の建設機械アタッチメントの管理システムの一実施の形態を示す構成図である。本実施の形態においては、建設機械の一例として油圧ショベルを例に説明する。
図1において、油圧ショベル100は、建設機械製造業者(建設機械メーカ)の工場から出荷され、土木作業や解体作業、竣工作業などの作業現場で稼働する。図1では、図面の簡略化のために、1台の油圧ショベル100のみを示しているが、実際には、複数の油圧ショベル100が様々な作業現場で稼働している。油圧ショベル100は、自走可能な下部走行体101と、下部走行体101上に搭載された上部旋回体102と、上部旋回体102の前側に設けられた作業装置103とを備えている。作業装置103は、上部旋回体102に回動可能に取り付けられたブーム105と、ブーム105の先端部に回動可能に取り付けられたアーム106と、アーム106の先端部に回動可能に取り付けられたアタッチメント110とで構成されている。
各油圧ショベル100は、作業内容に応じて異なる種類のアタッチメント110を装着することが可能である。アタッチメント110には、主に掘削に用いられるバケット(図1で図示したもの)、瓦礫などのふるい分けが可能なスケルトンバケット、法面造成のための法面バケット、解体作業で用いられるカッターやブレーカなどの多種多様なものが存在する。アタッチメント110には、建設機械メーカが当該建設機械のために製造した純正品以外に、建設機械メーカ以外の製造業者が製造する市販品が存在する。作業現場で稼働する建設機械100には、建設機械100を使用する顧客の要望等により、純正品以外のアタッチメント110が装着されることもある。そのため、建設機械100に装着されているアタッチメント110に関する各種情報、例えば、種類や製造メーカ、型式等を建設機械メーカ側で把握することが求められている。
そこで、本実施の形態に係る建設機械アタッチメントの管理システム(以下、管理システムという)は、各建設機械100に装着されているアタッチメント110の各種情報を収集して建設機械メーカ側で管理可能なデータベースを構築し、当該データベースに格納されたアタッチメント110の各種情報を建設機械100の関係者に対して提供するものである。管理システムは、アタッチメント110の情報を含む建設機械100に関する各種情報を格納したデータベース20を備える管理サーバ10と、建設機械100に装着された識別対象のアタッチメント110の画像データを取得して管理サーバ10へ送信する画像データ取得装置50と、管理サーバ10と建設機械100の各種情報の授受が可能な情報処理装置としてのコンピュータ(クライアント)80とを備えている。コンピュータ80は、例えば、建設機械メーカの設計者やサービス員、建設機械100のオペレータ、施工管理者等が使用するものである。コンピュータ80を利用可能な建設機械100の関係者及びその閲覧可能な情報の詳細については後述する。
管理サーバ10は、建設機械メーカによって管理されるものであり、例えば、管理センタ1に設置されている。管理センタ1は、基地局とも呼ばれ、建設機械メーカの本社や支社、生産工場等に設置されている。なお、管理サーバ10は、サーバの運営保守を専門的に扱うデータセンタに設置することも可能である。
管理センタ1は、例えば、無線通信アンテナ121と専用回線131を介して接続されている。画像データ取得装置50は、例えば、移動体通信基地局122を介した無線通信132により無線通信アンテナ121と接続可能であると共に、インターネット回線133を介して管理センタ1に接続可能である。また、画像データ取得装置50は、無線通信134により油圧ショベル100と接続可能である。コンピュータ80は、インターネット回線133を介して管理センタ1に接続可能である。建設機械100は、通信衛星123を介した衛星通信135より無線通信アンテナ121と接続可能である。
次に、本発明の建設機械アタッチメントの管理システムの一実施の形態の管理対象であるアタッチメントについて図2及び図3を用いて説明する。図2は本発明の建設機械アタッチメントの管理システムの一実施の形態の管理対象であるアタッチメントの一例のバケットの構造を示す斜視図である。図3は本発明の建設機械アタッチメントの管理システムの一実施の形態の管理対象であるアタッチメントに取り付けられた銘板の一例を示す図である。
アタッチメント110の一例であるバケットは、例えば図2に示すように、底部側から開口側に向けて湾曲した底板111と、底板111の左右両側にそれぞれ設けられた側板112と、底板111の一方側端縁に側板112の並び方向に間隔をあけて設けられた複数の爪113と、底板111の他方側端部に設けられ、アーム106(図1を参照)とアタッチメント110を接続するピン(図示せず)が挿入されるヒンジ114とを備えている。
アタッチメント110には、例えば、銘板115が取り付けられている。銘板115は、アタッチメント110を識別するための識別情報やアタッチメント110の物理的特性を示す物理情報など、アタッチメント110に関する各種情報が文字列で記されたものである。識別情報として、製造メーカや型式、製造番号等がある。物理情報として、容量や重量、寸法等がある。銘板115は、例えば図3に示すように、上から順に、容量を示す文字列115a、重量を示す文字列115b、型式を示す文字列115c、製造番号を示す文字列115dが記されている。なお、図3に示す銘板115に記された文字列(情報)は、英数字のみで構成されているが、英数字に加えて、日本語やその他の言語及び記号を含む文字列で構成することも可能である。
銘板115に代えて、アタッチメント110の各種情報が記されたラベルが貼付されることもある。また、銘板115に代えて、アタッチメント110の底板111や側板112等の部材にアタッチメント110の各種情報を直接刻む打刻形式の場合もある。すなわち、銘板やラベル、打刻は、アタッチメント110の識別情報や物理情報等の各種情報を示す文字列を記した文字列情報表示部として機能する。
次に、本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置について説明する。まず、画像データ取得装置のハードウェアの構成について図4を用いて説明する。図4は画像データ取得装置のハードウェアの構成図である。
画像データ取得装置50は、建設機械に装着された識別対象のアタッチメント110(図1参照)の画像データを取得して管理サーバ10(図1参照)へ送信するように構成されている。画像データ取得装置50は、例えば、そのハードウェアの構成として、マイクロコンピュータ51、通信モジュール52、撮像モジュール53、ユーザインターフェース54、GPSセンサ55を備えている。
マイクロコンピュータ51は、RAMやROM等からなる記憶装置57と、処理装置(例えば、CPU)58とを有している。記憶装置57には、処理装置58の演算に必要なプラグラムや各種情報が予め記憶されている。記憶装置57として、ROM及びRAMの半導体メモリに代えて又は加えて、ハードディスクドライブ等の磁気記憶装置を備える構成も可能である。処理装置58は、記憶装置57からプログラムや各種情報を適宜読み込み、当該プログラムに従って処理を実行する。
通信モジュール52は、移動体通信基地局122(図1参照)や無線通信アンテナ121(図1参照)を介して管理サーバ10に対して各種情報を送受信するものである。また、インターネット回線133(図1参照)を介して管理サーバ10に対して各種情報を送受信するものである。さらに、無線通信134により建設機械と各種情報を送受信するものである。
撮像モジュール53は、識別対象のアタッチメント110を直接撮像してアタッチメント110の画像データを取得するものであり、例えば、カメラである。なお、画像データ取得装置は、撮像モジュール53を省略し、外部の撮像装置が撮像したアタッチメント110の画像データを外部の記憶媒体(例えば、USBメモリやSDメモリカード)を介して記憶装置57に取り込むようにした構成も可能である。
ユーザインターフェース54は、ユーザ(画像データ取得装置50を操作するサービス員等)とマイクロコンピュータ51の間で情報の授受を行う部分である。ユーザインターフェース54は、例えば、各種の画面を表示する表示装置とユーザからの入力が可能な入力装置とを組み合わせたタッチパネルや操作ボタン等を含んでいる。
GPS(グローバル・ポジショニング・システム)センサ55は、GPS衛星からの信号を受信するアンテナ55aを備えている。GPSセンサ55は、複数のGPS衛星から受信した信号の時間差に基づき地球座標系におけるアンテナ55aの位置座標を演算するものである。
画像データ取得装置50として、例えば、スマートフォンやタブレット端末を用いることが可能である。また、マイクロコンピュータ及び通信機能を備える建設機械内のシステムを用いることも可能である。
次に、画像データ取得装置の機能を図5〜図9を用いて説明する。図5は画像データ取得装置の機能ブロック図である。図6は画像データ取得装置によって取得される識別対象のアタッチメントの全体画像の一例を示す図である。図7は画像データ取得装置によって取得される識別対象のアタッチメントの銘板・打刻画像の一例を示す図である。図8は画像データ取得装置によって取得される識別対象のアタッチメントのメーカロゴ画像の一例を示す図である。図9は画像データ取得装置によって取得される識別対象のアタッチメントの破損画像の一例を示す図である。
以下で説明する画像データ取得装置50の各機能は、所定のアプリケーションのプログラムがマイクロコンピュータ51で実行されることにより実現される。図5において、画像データ取得装置50は、機体情報取得部61と、全体画像取得部62と、銘板・打刻画像取得部63と、メーカロゴ画像取得部64と、破損画像取得部65と、位置情報取得部66と、時刻情報取得部67と、記憶部69と、情報送信処理部71として機能する構成を備えている。
機体情報取得部61は、識別対象のアタッチメント110が装着された建設機械100の機体に関する各種情報を示す機体情報を建設機械100から通信モジュール52(図4を参照)を介して取得して記憶部69に一時的に記憶させるものである。また、機体情報取得部61は、建設機械100から取得した機体情報をユーザインターフェース54(図4を参照)の表示装置に表示させるものである。具体的な処理は後述する。
全体画像取得部62は、ユーザの所定の操作に基づき撮像モジュール53(図4を参照)を介して識別対象のアタッチメント110の全体画像を撮像することで全体画像の画像データを取得し、取得した全体画像の画像データを記憶部69に一時的に記憶させるものである。全体画像は、識別対象のアタッチメントの全体形状を写した画像であり、例えば、図6に示す全体画像621である。具体的な処理は後述する。
銘板・打刻画像取得部63は、ユーザの入力操作に基づき識別対象のアタッチメント110に銘板115または打刻が有るか否かを判別するものである。加えて、銘板115または打刻が有ると判別した場合には、ユーザの所定の操作に基づき撮像モジュール53を介して識別対象のアタッチメント110の銘板・打刻画像を撮像することで銘板・打刻画像の画像データを取得し、取得した銘板・打刻画像の画像データを一時的に記憶部69に記憶させるものである。銘板・打刻画像は、銘板やラベル、打刻など、アタッチメント110の各種情報を示す文字列が記された文字列情報表示部を撮像したものであり、例えば、図7に示す銘板・打刻画像631である。具体的な処理は後述する。
メーカロゴ画像取得部64は、ユーザの入力操作に基づき識別対象のアタッチメント110にメーカロゴが有るか否かを判別するものである。加えて、メーカロゴが有ると判別した場合には、ユーザの所定の操作に基づき撮像モジュール53を介して識別対象のアタッチメント110のメーカロゴ画像を撮像することでメーカロゴ画像の画像データを取得し、取得したメーカロゴ画像の画像データを一時的に記憶部69に記憶させるものである。メーカロゴ画像は、アタッチメント110に記されたアタッチメント製造業者を示す文字や記号、図形などを記したロゴを撮像したものであり、例えば、図8に示すメーカロゴ画像641である。具体的な処理は後述する。
破損画像取得部65は、ユーザの入力操作に基づき識別対象のアタッチメント110に破損箇所が有るか否かを判別するものである。加えて、破損箇所が有ると判別した場合には、ユーザの所定の操作に基づき撮像モジュール53を介して識別対象のアタッチメント110の破損画像を撮像することで破損画像の画像データを取得し、取得した破損画像の画像データを一時的に記憶部69に記憶させるものである。破損画像は、アタッチメント110の破損箇所を撮像したものであり、例えば、図9に示すクラック651aや爪の欠損651bを含む破損画像651である。具体的な処理は後述する。
位置情報取得部66は、各画像取得部62、63、64、65がそれぞれ各画像621、631、641、651を撮像する際に、GPSセンサ55を介して位置座標(位置情報)を取得し、取得した各位置情報を各画像取得部62、63、64、65が撮像した各画像621、631、641、651の画像データに紐付けて一時的に記憶部69に記憶させるものである。すなわち、位置情報取得部66は、各画像621、631、641、651の撮像場所の位置座標を取得し、各画像621、631、641、651の画像データに対して撮像場所の位置情報を紐付けるものである。
時刻情報取得部67は、各画像取得部62、63、64、65がそれぞれ各画像621、631、641、651を撮像する際の現在時刻を取得し、取得した各時刻情報を各画像取得部62、63、64、65が撮像した各画像621、631、641、651の画像データに紐付けて一時的に記憶部69に記憶させるものである。すなわち、時刻情報取得部67は、各画像621、631、641、651の撮像時刻を取得し、各画像621、631、641、651の画像データに対して撮像時刻を紐付けるものである。時刻情報取得部67は、例えば、移動体通信基地局122から通信モジュール52を介して現在時刻を取得することが可能である。また、より高精度の時刻を取得したい場合には、通信衛星123から送られてくる現在時刻を通信モジュール52を介して取得することも可能である。また、処理装置58(図4参照)に内蔵した内部タイマ(図示せず)に基づき現在時刻を取得することも可能である。
情報送信処理部71は、記憶部69に一時的に記憶した全体画像621、銘板・打刻画像631、メーカロゴ画像641、及び破損画像651の識別対象のアタッチメント110の各画像データを、当該アタッチメント110を装着している建設機械100の機体情報と共に、管理サーバ10へ通信モジュール52を介して送信するものである。なお、送信する各画像データには、撮像場所を示す位置情報及び撮像時刻を示す時間情報が付加されている。
画像データ取得装置50は、さらに、情報修正部72の機能を備えている。情報修正部72は、管理サーバ10から送信された識別対象のアタッチメント110に関する情報(画像データ取得装置50が送信した識別対象のアタッチメント110の画像データを基に管理サーバ10が後述の処理によって得た結果)をユーザの操作を介して修正し、修正した情報を管理サーバ10へ通信モジュール52を介して送信(返信)するものである。具体的な処理は後述する。
次に、本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置におけるアタッチメントの画像データを取得するための処理手順の一例を図5及び図10〜図18を用いて説明する。図10は本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置における識別対象のアタッチメントの画像データの取得のための処理手順の一例を示すフローチャート図である。
各アタッチメント110の画像を取得する時期は、例えば、アタッチメント110の定期点検時や交換時である。アタッチメント110の定期点検等を行うサービス員が画像データ取得装置50に対して所定の操作を行うことで、画像データ取得装置50が識別対象のアタッチメント110の画像データを取得して管理サーバ10へ送信するためのアプリケーションを起動する(画像データ取得装置50が所定の処理を開始する)。
先ず、図5に示す画像データ取得装置50では、機体情報取得部61が建設機械100の機体情報を建設機械100から取得し、取得した機体情報をユーザインターフェース54(図4参照)の表示装置に機体情報画面として表示する(図10に示すステップS11)。図11は本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する画像データ取得装置に表示される建設機械の機体情報画面の一例を示す図である。図11に示す機体情報画面611は、機種や号機番号、稼働時間の機体情報を示す機体情報表示部611aを含んでいる。また、機体情報画面611は、「アタッチメントの登録」というパネル611bを含んでいる。画像データ取得装置50を操作するサービス員は、機体情報画面611を確認することで、アタッチメント110が装着されている建設機械100の機体情報を確認することができる。機体情報画面611の「アタッチメントの登録」のパネル611bがサービス員によりタッチ操作されることで、図5に示す機体情報取得部61は、建設機械100から取得した機体情報を一時的に記憶部69に記憶する。
また、「アタッチメントの登録」のパネル611bがサービス員により操作されることで、識別対象のアタッチメント110の各種の画像データを取得するための処理を開始する。具体的には、画像データ取得装置50の全体画像取得部62は、撮影可能な状態に待機し、アタッチメント110の全体画像の撮像を促す第1表示画面を表示する。図12は画像データ取得装置に表示されるアタッチメント全体画像の撮像のための表示画面の一例を示す図である。図12に示す第1表示画面622は、「アタッチメント全体画像を撮影してください」という表記を含んでいる。第1表示画面622の表示中にサービス員が所定の操作を行うことで、図5に示す全体画像取得部62がアタッチメント110の全体画像621(図6参照)を撮像して全体画像621の画像データを取得する(図10に示すステップS12)。さらに、取得した全体画像621の画像データを記憶部69に一時的に記憶する。
なお、全体画像取得部62の全体画像621の撮像時に、位置情報取得部66がGPSセンサ55から位置座標を取得し、取得した位置座標を撮影の位置情報として全体画像621の画像データに紐付けて記憶部69に記憶する。加えて、時刻情報取得部67が移動体通信基地局122から現在時刻を取得し、取得した現在時刻を撮影の時刻情報として全体画像621の画像データに紐付けて記憶部69に記憶する。
次に、画像データ取得装置50の銘板・打刻画像取得部63がサービス員の入力に基づきアタッチメント110の銘板115及び打刻の有無を判定する(図10に示すステップS13)。具体的には、銘板・打刻画像取得部63は、アタッチメント110に銘板115または打刻が有るか否かの判定を入力可能な第1入力画面を表示装置に表示する。図13は画像データ取得装置に表示される銘板・打刻の有無の入力画面の一例を示す図である。図13に示す第1入力画面632は、「アタッチメントに銘板または打刻がありますか?」という表示632a、並びに、「はい(打刻・銘板撮影)」及び「いいえ」という表記の選択パネル632b、632cを含んでいる。第1入力画面632で「はい(打刻・銘板撮影)」の選択パネル632bがサービス員によりタッチ操作される場合、銘板・打刻画像取得部63は、アタッチメント110に銘板115又は打刻が有る(YES)と判定する。一方、「いいえ」の選択パネル632cがタッチ操作される場合、銘板・打刻画像取得部63は、アタッチメント110に銘板115及び打刻が無い(NO)と判定する。
ステップS13においてYESと判定した場合、銘板・打刻画像取得部63は、撮影可能な状態に待機し、アタッチメント110の銘板・打刻画像の撮像を促す第2表示画面を表示する。図14は画像データ取得装置に表示される銘板・打刻の撮像のための表示画面の一例を示す図である。図14に示す第2表示画面633は、「銘板または打刻を撮影してください」という表記を含んでいる。第2表示画面633の表示中にサービス員が所定の操作を行うことで、銘板・打刻画像取得部63はアタッチメント110の銘板・打刻画像631(図7参照)を撮像して銘板・打刻画像631の画像データを取得する(ステップ図10に示すステップS14)。サービス員の第1入力画面632を介したタッチ操作による「はい」の入力後に撮像された画像の画像データに対しては、銘板・打刻画像631である旨の情報を付加する。さらに、取得した銘板・打刻画像631の画像データを記憶部69に一時的に記憶し、ステップS15に進む。一方、ステップS13においてNOと判定した場合、銘板・打刻画像631を撮像することなく銘板・打刻画像取得部63の処理を終了し、ステップS15に進む。
なお、図5に示す位置情報取得部66及び時刻情報取得部67は、銘板・打刻画像取得部63が銘板・打刻画像631を撮像した際に、全体画像取得部62が全体画像621を撮像した場合と同様に、位置座標及び現在時刻を銘板・打刻画像631の画像データに紐付けて記憶部69に記憶する。
次いで、画像データ取得装置50のメーカロゴ画像取得部64がサービス員の入力に基づきメーカロゴの有無を判定する(図10に示すステップS15)。具体的には、メーカロゴ画像取得部64は、アタッチメント110にメーカロゴが有るか否かの判定を入力可能な第2入力画面を表示装置に表示する。図15は画像データ取得装置に表示されるメーカロゴの有無の入力画面の一例を示す図である。図15に示す第2入力画面642は、「アタッチメントにメーカロゴがありますか?」という表示642a、並びに、「はい(メーカロゴ撮影)」及び「いいえ」という表記の選択パネル642b、642cを含んでいる。第2入力画面642で「はい(メーカロゴ撮影)」の選択パネル642bがサービス員によりタッチ操作される場合、メーカロゴ画像取得部64は、アタッチメント110にメーカロゴが有る(YES)と判定する。一方、「いいえ」の選択パネル642cがタッチ操作される場合、メーカロゴ画像取得部64は、アタッチメント110にメーカロゴが無い(NO)と判定する。
ステップS15においてYESと判定した場合、メーカロゴ画像取得部64は、撮影可能な状態に待機し、アタッチメント110のメーカロゴ画像の撮像を促す第3表示画面を表示する。図16は画像データ取得装置に表示されるメーカロゴの撮像のための表示画面の一例を示す図である。図16に示す第3表示画面643は、「メーカロゴを撮影してください」という表記を含んでいる。第3表示画面643の表示中にサービス員が所定の操作を行うことで、メーカロゴ画像取得部64はアタッチメント110のメーカロゴ画像641(図8参照)を撮像してメーカロゴ画像641の画像データを取得する(図10に示すステップS16)。サービス員の第2入力画面642を介したタッチ操作による「はい」の入力後に撮像された画像の画像データに対しては、メーカロゴ画像641である旨の情報を付加する。さらに、取得したメーカロゴ画像641の画像データを記憶部69に一時的に記憶し、ステップS17に進む。一方、ステップS15においてNOと判定した場合、メーカロゴ画像641を撮像することなくメーカロゴ画像取得部64の処理を終了し、ステップS17に進む。
なお、図5に示す位置情報取得部66及び時刻情報取得部67は、メーカロゴ画像取得部64がメーカロゴ画像641を撮像した際に、全体画像取得部62が全体画像621を撮像した場合と同様に、位置座標及び現在時刻をメーカロゴ画像641の画像データに紐付けて記憶部69に記憶する。
続いて、画像データ取得装置50の破損画像取得部65がサービス員の入力に基づき破損箇所の有無を判定する(ステップ17)。具体的には、破損画像取得部65は、アタッチメント110に破損箇所が有るか否かの判定を入力可能な第3入力画面を表示装置に表示する。図17は画像データ取得装置に表示される破損箇所の有無の入力画面の一例を示す図である。図17に示す第3入力画面652は、「アタッチメントに破損箇所がありますか?」という表示652a、並びに、「はい(破損箇所撮影)」及び「いいえ」という表記の選択パネル652b、652cを含んでいる。第3入力画面652で「はい(破損箇所撮影)」の選択パネル652bがサービス員によりタッチ操作される場合、破損画像取得部65は、アタッチメント110に破損箇所が有る(YES)と判定する。一方、「いいえ」の選択パネル652cがタッチ操作される場合、破損画像取得部65は、アタッチメント110に破損箇所が無い(NO)と判定する。
ステップS17においてYESと判定した場合、破損画像取得部65は、撮影可能な状態に待機し、アタッチメント110の破損画像の撮像を促す第4表示画面を表示する。図18は画像データ取得装置に表示される破損箇所の撮像のための表示画面の一例を示す図である。図18に示す第4表示画面653は、「破損箇所を撮影してください」という表記を含んでいる。第4表示画面653の表示中にサービス員が所定の操作を行うことで、破損画像取得部65はアタッチメント110の破損画像651(図9参照)を撮像して破損画像651の画像データを取得する(図10に示すステップS18)。サービス員の第3入力画面652を介したタッチ操作による「はい」の入力後に撮像された画像の画像データに対しては、破損画像651である旨の情報を付加する。さらに、取得した破損画像651の画像データを記憶部69に一時的に記憶し、ステップS19に進む。一方、ステップS17においてNOと判定した場合、破損画像651を撮像することなく破損画像取得部65の処理を終了し、ステップS19に進む。
なお、図5に示す位置情報取得部66及び時刻情報取得部67は、破損画像取得部65が破損画像651を撮像した際に、全体画像取得部62が全体画像621を撮像した場合と同様に、位置座標及び現在時刻を破損画像651の画像データに紐付けて記憶部69に記憶する。
それから、画像データ取得装置50の情報送信処理部71が、記憶部69に記憶されているアタッチメント110の全体画像621、銘板・打刻画像631、メーカロゴ画像641、破損画像651の各画像データを、識別対象のアタッチメント110を装着している建設機械100の機体情報と共に、管理サーバ10へ送信する(図10に示すステップS19)。各画像データには、位置情報取得部66によって取得された撮像場所の位置情報及び時刻情報取得部67によって取得された撮像時刻の時間情報が付加されている。
このように、本実施の形態においては、識別対象のアタッチメント110の全体画像621、銘板・打刻画像631、メーカロゴ画像641、破損画像651の画像データを取得して管理サーバ10へ送信するように画像データ取得装置50が構成されている。
次に、本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する管理サーバについて説明する。まず、管理サーバのハードウェアの構成について図19を用いて説明する。図19は管理サーバのハードウェアの構成図である。
管理サーバ10は、そのハードウェアの構成として、入力インターフェース11、記憶装置12、処理装置13、出力インターフェース14を備えている。
入力インターフェース11は、画像データ取得装置50から送信される識別対象のアタッチメント110の各種の画像データを建設機械の機体情報と共に入力する。また、入力インターフェース11は、建設機械の関係者側のコンピュータ(クライアント)80から送信される情報閲覧要求を入力する。情報閲覧要求は、管理サーバ10のデータベース20に格納された情報の閲覧を要求するものである。
記憶装置12は、RAMやROM等の半導体メモリやハードディスクドライブ等の磁気メモリ等で構成されている。記憶装置12には、アタッチメント110の情報を含む建設機械に関する各種情報で構成されたデータベース20が記憶されている。また、記憶装置12には、識別対象のアタッチメント110の画像データを基にアタッチメント110の識別情報を取得してデータベース20を更新するための所定のプログラムが予め記憶されている。
処理装置13は、例えば、CPU(Central Processing Unit)16及びGPU(Graphics Processing Unit)17を有している。GPU17は、画像処理専用の演算処理装置であり、CPU16によって制御される。なお、処理装置13は、GPU17がCPU16の主演算機能を有するGPGPUを備える構成も可能である。処理装置13は、記憶装置12から読み出した所定のプログラムに従って、識別対象のアタッチメント110の各種の画像データを処理する。
出力インターフェース14は、処理装置13の処理結果を画像データ取得装置50へ出力する。また、出力インターフェース14は、コンピュータ80の情報閲覧要求に対する応答としての情報をコンピュータ80へ出力する。
次に、管理サーバの機能について図20を用いて説明する。図20は管理サーバの機能ブロック図である。
以下で説明する管理サーバ10の各機能は、CPU16及びGPU17を含む処理装置13(図19参照)が所定のプログラムを実行することにより実現される。図20において、管理サーバ10は、建設機械に関する各種情報を格納するデータベース20と、画像データ取得装置50から送信された識別対象のアタッチメント110の各種の画像データを基にアタッチメント110の識別情報を取得し、取得した識別情報をデータベース20に照合して識別対象のアタッチメント110の識別を行うアタッチメント識別部30とを備えている。
データベース20は、建設機械の機体情報を格納する機体情報データベース(以下、機体情報DBという)21と、建設機械に装着されたアタッチメント110に関する複数種の情報を格納するアタッチメント情報データベース(以下、アタッチメント情報DBという)22とを備えている。機体情報DB21は、例えば、建設機械の機種情報、号機番号情報、稼働時間情報を含んでいる。アタッチメント情報DB22は、画像データ取得装置50から送信された各種の画像データ等を基に収集されたアタッチメント110の各種情報によって建設機械メーカ側で管理できるように構築されるものである。アタッチメント情報DB22の構成の詳細について後述するが、アタッチメント情報DB22はアタッチメント110の識別情報24や物理情報25等を含んでいる。
アタッチメント識別部30は、識別情報認識部31と、識別情報推定部32とを有している。識別情報認識部31は、画像データ取得装置50から送信された識別対象のアタッチメント110の各種の画像データのうち「銘板・打刻画像631(図7参照)」の画像データからアタッチメント110の識別情報を認識する。さらに、認識した識別情報をアタッチメント情報DB22と照合して識別対象のアタッチメント110の識別を行い、照合結果に応じてアタッチメント情報DB22を更新する。識別情報推定部32は、画像データ取得装置50から送信された識別対象のアタッチメント110の各種の画像データのうち「全体画像621(図6参照)」及び「メーカロゴ画像641(図8参照)」の画像データから学習済みモデル34を用いてアタッチメント110の識別情報を推定する。さらに、推定した識別情報をアタッチメント情報DB22と照合して識別対象のアタッチメント110の識別を行い、照合結果に応じてアタッチメント情報DB22を更新する。識別情報推定部32で用いられる学習済みモデル34は、例えば、アタッチメント110の各種画像の画像データを学習データとして、畳み込みニューラルネットワーク(Convolution Neural Network;CNN)などの多層ニューロンネットワークを用いた機械学習アルゴリズムによって生成された訓練の終了したモデルである。
更に、アタッチメント識別部30は、画像データ取得装置50から送信された各種の画像データを基に取得した識別対象のアタッチメント110の識別情報を画像データ取得装置50へ送信する。アタッチメント識別部30の処理の詳細については後述する。
管理サーバ10は、さらに、モデル更新部40を備えている。モデル更新部40は、画像データ取得装置50から送信された識別対象のアタッチメント110の各種の画像データをニューラルネットワークに更に学習させることで、識別情報推定部32で用いられている学習済みモデル34を更新する。
次に、本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する管理サーバにおけるアタッチメント情報DBの構成の詳細について図21を用いて説明する。図21は管理サーバのアタッチメント情報DBに格納されている情報の構成の一例を示す図である。
アタッチメント情報DB22は、例えば図21に示すにように、アタッチメント110の仕様に関する各種情報を示す諸元情報23と、アタッチメント110の複数種の画像で構成された画像情報26と、アタッチメント110のサービスに関する各種情報を示すサービス情報27と、アタッチメント110の販売に関する各種情報を示す販売情報28と、アタッチメント110の各画像を撮像した時刻を示す撮像時刻情報29とに分類されている。以下に示す各種情報は、互いに紐付けられている。
諸元情報23は、アタッチメント110を識別するための情報を示す識別情報24と、アタッチメント110の物理的特性を示す物理情報25とで構成されている。識別情報24は、バケットやカッター、ブレーカ等のアタッチメント110の種類を示す種類情報241と、アタッチメント110の製造メーカを示す製造メーカ情報242と、アタッチメント110の型式を示す型式情報243とを含んでいる。物理情報25は、アタッチメント110の重量を示す重量情報251と、アタッチメント110の容量を示す容量情報252と、アタッチメント110の寸法を示す寸法情報253とを含んでいる。
画像情報26は、全体画像情報261、銘板・打刻画像情報262、メーカロゴ画像情報263、破損画像情報264を含んでいる。全体画像情報261は、アタッチメント110の全体画像621(図6参照)の画像データを蓄積したものである。銘板画像情報262は、銘板・打刻画像631(図7参照)の画像データを蓄積したものである。メーカロゴ画像情報263は、メーカロゴ画像641(図8参照)の画像データを蓄積したものである。破損画像情報264は、破損画像651(図9参照)の画像データを蓄積したものである
サービス情報27は、破損有無情報271、使用場所情報272、使用者情報273、作業モード警告情報274、契約情報275を含んでいる。破損有無情報271は、アタッチメント110の破損箇所の有無を示すものである。使用場所情報272は、アタッチメント110の各画像を撮像した位置座標を示すものであり、アタッチメントが使用されている場所と想定される。使用者情報273は、建設機械を使用している施工業者を示すものである。作業モード警告情報274は、例えば、法令で定められたアタッチメント以外の種類のアタッチメント110を使用している場合に、実施不可能な作業を示す情報である。契約情報275は、建設機械メーカが保証する契約に関して、例えば、建設機械メーカ製の純正品以外のアタッチメントを使用した場合のリスクや保証範囲に関する情報である。
販売情報28は、価格情報281、在庫情報282、販売者情報283を含んでいる。価格情報281は、アタッチメント110の販売価格やレンタル価格を示すものである。在庫情報282は、アタッチメント110の販売用やレンタル用の在庫を示すものである。販売者情報283は、アタッチメント110の販売会社やレンタル会社を示すものである。
次に、本発明の建設機械アタッチメントの管理システムの一実施の形態の一部を構成する管理サーバにおけるアタッチメントの識別の処理手順の一例を図20及び図22〜図24を用いて説明する。図22は管理サーバにおけるアタッチメントの識別のための処理手順の一例を示すフローチャート図である。図23は図22に示すフローチャート図のステップS30の詳細な処理手順の一例を示すフローチャート図である。図24は管理サーバのアタッチメント識別部の処理を示す説明図である。
図20に示す管理サーバ10が画像データ取得装置50から送信された識別対象のアタッチメント110の各種の画像データを受信すると、管理サーバ10のアタッチメント識別部30は、画像データ取得装置50から送信された各種の画像データの中に銘板・打刻画像631の画像データが含まれているか否かを判定する(図22に示すステップS21)。本実施の形態においては、画像データ取得装置50から送信される画像データには、画像データ取得装置50の処理の説明で述べたように、「全体画像621(図6参照)」、「銘板・打刻画像631(図7参照)」、「メーカロゴ画像641(図8参照)」、「破損画像651(図9参照)」の何れの画像であるかを示す情報が付加されている。この付加情報に基づき、アタッチメント識別部30は銘板・打刻画像631の画像データが含まれているか否かを判定する。銘板・打刻画像631が含まれている(YES)と判定した場合には、ステップS22に進む。銘板・打刻画像631が含まれていない(NO)と判定した場合には、ステップS30に進む。ステップS30の詳細は後述する。
ステップS22において、アタッチメント識別部30の識別情報認識部31が、銘板・打刻画像631の画像データから型式を示す文字列を認識することで識別対象のアタッチメント110の型式情報を取得する。具体的には、識別情報認識部31は、図24に示すように、光学的文字認識(OCR:Optical Character Recognition)を用いることで、入力された銘板・打刻画像631の画像データから銘板115に記されている型式を示す文字列を認識する。図24に示す例では、上から順に容量を示す文字列115a、重量を示す文字列115b、型式を示す文字列115c、製造番号を示す文字列115dが記された銘板115(図3参照)の銘板・打刻画像631が識別情報認識部31に入力されると、識別情報認識部31のOCRの型式認識結果31aとして「01234567」を出力する。
なお、OCRとしては、従来型のOCRやAI−OCRを用いることができる。ただし、従来型のOCRを使用する場合、銘板や打刻で記された複数の文字列の配列順とアタッチメントの各種情報の対応関係を予め指定する必要がある。一方、AI−OCRを使用する場合、複数の文字列の配列順とアタッチメントの各種情報の対応関係をAI−OCRが自ら自動的に判別するので、当該対応関係を予め指定する必要がない。
次いで、識別情報認識部31は、認識結果31aの型式情報をアタッチメント情報DB22における識別情報24の型式情報243と照合し、認識結果31aの型式情報がアタッチメント情報DB22に既に登録されているか否かを判定する(図22に示すステップS23)。照合の結果、認識結果31aの型式情報がアタッチメント情報DB22に既に登録されている(YES)と判定した場合には、ステップS24に進む。一方、照合の結果、認識結果31aの型式情報がアタッチメント情報DB22に未登録である(NO)と判定した場合には、ステップS27に進む。
ステップS23においてYESと判定した場合、識別情報認識部31は、識別対象のアタッチメント110の各種の画像データをアタッチメント情報DB22に新規に登録する(図22に示すステップS24)。さらに、識別情報認識部31は、図24に示すように、ステップS22においてアタッチメント情報DB22に既に登録されていると判定した型式情報に紐付けられている種類情報241や製造メーカ情報242、重量情報251、容量情報252等の諸元情報23をアタッチメント情報DB22から抽出する(図22に示すステップS25)。
続いて、アタッチメント識別部30は、ステップS22において取得した型式情報及び当該型式情報に紐付いている諸元情報23を画像データ取得装置50へ送信し(図22に示すステップS26)、アタッチメント識別部30の処理を終了する。この場合、識別対象のアタッチメント110は、ステップS22において取得した型式情報及び当該型式情報に紐付いている種類情報241や製造メーカ情報242により識別可能となる。
一方、ステップS23においてNOと判定した場合、アタッチメント識別部30の識別情報推定部32がアタッチメント110の全体画像621の画像データからアタッチメント110の種類(バケット、カッター、ブレーカ等)を推定する(図22に示すステップS27)。具体的には、識別情報推定部32は、図24に示すように、種類判別学習済みモデル35を用いることで、入力されたアタッチメント110の全体画像621の画像データからアタッチメント110の種類を推定する。種類判別学習済みモデル35は、多数のアタッチメント110の全体画像621を学習データとして機械学習によってアタッチメント110の種類情報を推定するように生成されたモデルである。図24に示す例では、種類判別学習済みモデル35に全体画像621が入力されると、種類判別結果35aとして「バケット」を出力する。
次に、識別情報推定部32は、アタッチメント110のメーカロゴ画像641の画像データからアタッチメント110の製造メーカを推定する(図22に示すステップS28)。具体的には、識別情報推定部32は、図24に示すように、製造メーカ判別学習済みモデル36を用いることで、入力されたメーカロゴ画像641の画像データからアタッチメント110の製造メーカを推定する。種類判別学習済みモデル35は、多数のアタッチメント110のメーカロゴ画像641を学習データとして機械学習によってアタッチメント110の製造メーカ情報を推定するように生成されたモデルである。図24に示す例では、製造メーカ判別学習済みモデル36にメーカロゴ画像641が入力されると、製造メーカ判別結果36aとして「・・・株式会社」を出力する。
なお、ステップS27及びS28の順序を逆にする処理も可能である。ステップS27及びS28で得られた推定結果(種類判別結果35a及び製造メーカ判別結果36a)は、一時的に記憶装置12(図19参照)に記憶される。
次いで、アタッチメント識別部30は、ステップS22において取得した型式情報(銘板・打刻画像631の画像データから認識した型式情報)を新規に登録すると共に、識別対象のアタッチメント110の各種の画像データをアタッチメント情報DB22に新規に登録する(図22に示すステップS29)。このとき、アタッチメント識別部30は、新規に登録する型式情報をステップS27及びS28の推定結果の種類情報241及び製造メーカ情報242と紐付けておく。これにより、識別対象のアタッチメント110は、新規に登録する型式情報並びに推定結果の種類情報241及び製造メーカ情報242によって識別可能となる。
続いて、アタッチメント識別部30は、アタッチメント情報DB22に新規に登録した型式情報並びに推定結果のアタッチメント110の種類情報及び製造メーカ情報を画像データ取得装置50へ送信し(図22に示すステップS26)、アタッチメント識別部30の処理を終了する。
また、アタッチメント識別部30がステップS21においてNOと判定してステップS30に進んだ場合、アタッチメント識別部30は、アタッチメント110の全体画像621及びメーカロゴ画像641の画像データを基に識別対象のアタッチメント110を識別してアタッチメント情報DB22を更新する。
詳細には、図23に示すように、アタッチメント識別部30の識別情報推定部32がアタッチメント110の全体画像621の画像データからアタッチメント110の種類(バケット、カッター、ブレーカ等)を推定する(ステップS31)。具体的には、ステップS27と同様で図24に示すように、識別情報推定部32が種類判別学習済みモデル35を用いてアタッチメント110の全体画像621からアタッチメント110の種類を推定する。図24に示す例では、種類判別結果35aは「バケット」である。
次に、識別情報推定部32は、アタッチメント110のメーカロゴ画像641の画像データからアタッチメント110の製造メーカを推定する(図23に示すステップS32)。具体的には、ステップS28と同様で図24に示すように、識別情報推定部32が製造メーカ判別学習済みモデル36を用いてメーカロゴ画像641からアタッチメント110の製造メーカを推定する。図24に示す例では、製造メーカ判別結果36aは「・・・株式会社」である。
なお、ステップS31及びS32の順序を逆にする処理も可能である。ステップS31及びS32で得られた種類推定結果35a及び製造メーカ推定結果36aは、一時に記憶装置12に記憶される。
次いで、識別情報推定部32は、推定結果の種類情報及び製造メーカ情報をアタッチメント情報DB22と照合し、アタッチメント110の型式候補の有無を判定する(図23に示すステップS33)。例えば、種類推定結果35aが「バケット」であり、製造メーカ推定結果36aが「・・・株式会社」であった場合、両条件に合致するアタッチメント110の型式を型式候補としてアタッチメント情報DB22から抽出する。照合の結果、単一または複数の型式候補をアタッチメント情報DB22から抽出できる場合には、型式候補が存在する(YES)と判定し、ステップS34に進む。一方、照合の結果、アタッチメント情報DB22から型式候補を抽出できない場合には、型式候補が存在しない(NO)と判定し、ステップS36に進む。
ステップS33においてYESと判定した場合、識別情報推定部32は、識別対象のアタッチメント110の各種の画像データをアタッチメント情報DB22に新規に登録する(図23に示すステップS34)。この場合、識別対象のアタッチメント110は、アタッチメント情報DB22から抽出した型式候補並びにステップS31及びS32の推定結果の種類情報241及び製造メーカ情報242によって識別可能となる。続いて、識別情報推定部32は、型式候補並びに推定結果の種類情報及び製造メーカ情報を画像データ取得装置50へ送信し(図23に示すステップS35)、アタッチメント識別部30の処理を終了する。
一方、ステップS33においてNOと判定した場合、識別情報推定部32は、新たな型式を発行してアタッチメント情報DB22に新規に登録すると共に、識別対象のアタッチメント110の各種の画像データをアタッチメント情報DB22に新規に登録する(図23に示すステップS36)。このとき、識別情報推定部32は、新規に登録する型式情報をステップS31及びS32の推定結果の種類情報241及び製造メーカ情報242と紐付けておく。これにより、識別対象のアタッチメント110は、新規に登録する型式情報並びに推定結果の種類情報241及び製造メーカ情報242によって識別可能となる。
続いて、アタッチメント識別部30は、型式候補が存在しないことを示す照合結果を画像データ取得装置50へ送信し(図23に示すステップS37)、アタッチメント識別部30の処理を終了する。
本実施の形態においては、画像データ取得装置50から送信されたアタッチメント110の銘板・打刻画像631の画像データからアタッチメント識別部30が文字列を認識してアタッチメント110の識別情報の型式情報を取得する。さらに、アタッチメント識別部30は取得した型式情報をアタッチメント情報DB22と照合して識別対象のアタッチメントの識別を行い、照合結果に応じてアタッチメント情報DB22を更新する。
また、本実施の形態においては、画像データ取得装置50から送信されたアタッチメント110の全体画像621及びメーカロゴ画像641の画像データからアタッチメント識別部30の学習済みモデル34を用いた推定によりアタッチメント110の識別情報である種類情報及び製造メーカ情報を取得する。さらに、アタッチメント識別部30は取得した種類情報及び製造メーカ情報をアタッチメント情報DB22と照合して識別対象のアタッチメントの識別を行い、照合結果に応じてアタッチメント情報DB22を更新する。
このように、管理サーバ10は、画像データ取得装置50から送信された各種の画像データを基にアタッチメント110の識別情報を収集してアタッチメント情報DB22を自動的に構築する。したがって、建設機械メーカ側で管理可能なアタッチメント情報DB22の構築に過度な労力を費やすことがない。
次に、本発明の建設機械アタッチメントの管理システムの一実施の形態を構成する管理サーバによる識別対象のアタッチメントの識別結果を修正する処理手順の一例を図5及び図25を用いて説明する。図25は画像データ取得装置に表示される識別対象のアタッチメントの各種情報の確認画面の一例を示す図である。本実施の形態においては、画像データ取得装置50を操作するユーザ(サービス員)に管理サーバ10のアタッチメント識別部30による識別結果を提示し、識別結果に誤りが有る場合に画像データ取得装置50を介して修正するものである。
図5に示す画像データ取得装置50の情報修正部72は、管理サーバ10から送信された識別対象のアタッチメント110の識別結果を示す確認画面を表示装置に表示する。確認画面721は、例えば図25に示すように、画像データ取得装置50が管理サーバ10へ送信したアタッチメント110の画像(例えば、全体画像621及びメーカロゴ画像641)を示す画像部721aと、管理サーバ10のアタッチメント識別部30による識別結果(例えば、アタッチメント110の種類、製造メーカ、型式等)を示す識別結果表721bとで構成されている。確認画面721は、識別結果表721bに記された各情報に対して修正を行うための修正パネル721cと、識別結果表721bに対して情報を入力するための入力パネル721dと、修正情報または入力情報を確定させて管理サーバ10へ送信するための確定パネル721fとを含んでいる。すなわち、画像データ取得装置50は、ユーザによる修正パネル721c及び入力パネル721dの操作により情報の修正及び入力を受け付けると共に、受け付けた修正情報及び入力情報をユーザによる確定パネル721fの操作により管理サーバ10へ送信する。管理サーバ10では、画像データ取得装置50から送信された入力情報又は修正情報に基づいてアタッチメント情報DB22を修正する。
本実施の形態においては、確認画面721には画像データ取得装置50が取得した画像と管理サーバ10による識別対象のアタッチメント110の識別結果が同時に示されているので、画像データ取得装置50の識別結果に誤りがあるとユーザが判断した場合、ユーザが修正パネル721cを操作することで管理サーバ10の識別結果を正しい情報に修正することができる。また、画像データからは取得することができないアタッチメント110の重量や寸法、容量等の物理情報及びアタッチメント110の使用者等のサービス情報を追加入力したい場合には、ユーザが入力パネル721dを操作することで入力が可能である。なお、確認画面721の識別結果表721bに追加する情報が不明の場合、情報入力は不要である。
次に、本発明の建設機械アタッチメントの管理システムの一実施の形態における管理サーバと各関係者のコンピュータ(クライアント)間の情報の授受の関係ついて図26を用いて説明する。図26は本発明の建設機械アタッチメントの管理システムの一実施の形態における管理サーバとコンピュータ(クライアント)間の授受可能な情報を示す説明図である。
建設機械のサービス員81、建設機械100のオペレータ82、建設機械を現場で使用する施工管理者83、建設機械製造業者(設計者等)84、アタッチメント製造業者85、アタッチメント110のレンタル会社86等の建設機械のアタッチメント110の関係者が使用するコンピュータ(クライアント)は、インターネット回線133を介して管理サーバ10のデータベース20にアクセス可能であり、データベース20に格納された建設機械100の各種情報を閲覧可能である。各関係者81、82、83、84、85、86のコンピュータがインターネット回線133を介して管理サーバ10に情報閲覧要求を送信すると、管理サーバ10は許可可能な関係者81、82、83、84、85、86のコンピュータに対してのみアタッチメント情報DB22から情報閲覧要求に応じた情報を返信する。各関係者81、82、83、84、85、86のコンピュータは、管理サーバ10のアタッチメント情報DB22に対して、予め設定された範囲内で情報の閲覧が可能であると共に、予め設定された範囲内で情報の入力が可能となっている。
各関係者81、82、83、84、85、86のアタッチメント情報DB22に対する閲覧可能な範囲は、例えば、以下のとおりである。管理サーバ10は、アタッチメント情報DB22(図21参照)に格納されているサービス情報27及び販売情報28をサービス員81及び施工管理者83に対して提供可能である。これにより、サービス員81及び施工管理者83は、サービス情報27に含まれるアタッチメント110の破損有無情報271や使用場所情報272(アタッチメント110の破損画像651の撮像場所)、使用者情報273を把握することができる。また、販売情報28の価格情報281からアタッチメント110の交換時の価格又はレンタル時の価格を把握することができる。また、サービス員81及び施工管理者83は、破損画像情報264や撮像時刻情報29の提供を受けることが可能である。
また、管理サーバ10は、サービス情報27のうち作業モード警告情報274をオペレータ82に提供可能である。オペレータ82には、例えば、アタッチメント110の交換後に起こりえるリスクが通知される。
さらに、管理サーバ10は、アタッチメント情報DB22に格納されている物理情報25及びサービス情報27を建設機械製造業者84の設計者に対して提供可能である。これにより、設計者は、サービス情報27に含まれる使用者情報272(使用者は誰か)や使用場所情報273(どこで使用されているか)に加えて、種類情報241及び全体画像情報261(どの種類のアタッチメントを使用しているか)、撮像時刻情報29を把握することができる。
また、管理サーバ10は、アタッチメント情報DB22に格納されている販売情報28をレンタル会社86に対して提供可能である。レンタル会社86は、アタッチメント110のレンタル価格を把握することができる。
一方、各関係者81、82、83、84、85、86のコンピュータのアタッチメント情報DB22に対する情報の入力が可能な範囲は、例えば、以下のとおりである。サービス員81及びオペレータ82は、アタッチメント情報DB22に対して、物理情報及びサービス情報の入力が可能である。建設機械製造業84及びアタッチメント製造業者85は、型式情報243に紐付けられる情報のうち不足する物理情報、例えば画像データから正確な情報を取得できない寸法情報等の入力が可能である。また、アタッチメント110の販売価格や在庫、販売者等の販売情報を入力することも可能である。施工管理者83は、サービス員81またはオペレータ82が提供できない情報、例えば型式情報やアタッチメント110の製造メーカを入力することが可能である。レンタル会社86は、アタッチメント110のレンタル価格や在庫、納期情報などの販売情報を入力可能である。
なお、管理サーバ10のアタッチメント情報DB22には、アタッチメント製造業者85が公開するアタッチメントカタログから取得されたアタッチメント110の画像データや建設機械製造業者84が有するアタッチメント110の画像データを新規に登録することも可能である。
上述した本発明の建設機械アタッチメントの管理システム及び管理サーバの一実施の形態によれば、管理サーバ10が、画像データ取得装置50から送信された識別対象のアタッチメント110の画像データを基に識別情報を取得してアタッチメント情報DB(データベース)22と照合することで識別対象のアタッチメント110を識別し、照合結果に応じてアタッチメント情報DB(データベース)22を更新するので、各建設機械に装着されたアタッチメント110の識別情報を過度な労力を費やすことなく収集してアタッチメントの各種情報をメーカ側で管理できるアタッチメント情報DB(データベース)22を構築することができる。
また、本実施の形態においては、管理サーバが、識別対象のアタッチメント110の画像データから文字列を認識することで識別対象のアタッチメント110の型式情報を取得し、取得した型式情報をアタッチメント情報DB22と照合し、取得した型式情報がアタッチメント情報DB22に未登録であると判定した場合に取得した型式情報をアタッチメント情報DB22に新規に登録するように構成されている。この構成では、識別対象のアタッチメント110の型式情報を画像データから直接的に取得することができるので、アタッチメント110の識別情報の収集が容易である。
また、本実施の形態においては、管理サーバ10が、アタッチメント110の画像データを学習データとする機械学習によって生成された学習済みモデル34を用いて識別対象のアタッチメント110の画像データから識別対象のアタッチメント110の種類情報及びアタッチメント110の製造メーカ情報を推定し、推定した種類情報及び製造メーカ情報をアタッチメント情報DB22と照合して識別対象のアタッチメント110の型式候補の有無を判別し、識別対象のアタッチメント110の型式候補が無い場合、識別対象のアタッチメント110に対して新たな型式情報を発行してアタッチメント情報DB22に新規に登録するように構成されている。この構成では、画像データから文字列を認識できない場合でも、識別対象のアタッチメント110の型式候補を画像データに基づきアタッチメント情報DB22から抽出することが可能となる。
また、本実施の形態においては、管理サーバ10が、画像データ取得装置50から送信された識別対象のアタッチメント110の画像データを用いて学習済みモデル34を更新する。これにより、学習済みモデル34の推定精度を向上させることができる。
また、本実施の形態においては、管理サーバ10が取得した識別情報を画像データ取得装置50へ送信し、画像データ取得装置50が管理サーバ10から送信された識別情報を画像データ取得装置50が表示し、表示された識別情報を修正する修正情報のユーザ操作による入力を受け付け、受け付けた修正情報を管理サーバ10へ送信し、管理サーバ10が画像データ取得装置50から送信された修正情報に基づきアタッチメント情報DB22に格納されている識別情報を修正する。この構成では、管理サーバ10が取得した識別情報を画像データ取得装置50に表示させるので、識別対象のアタッチメント110の画像データの送信側のユーザに当該識別情報の正誤を判定させることができる。また、当該識別情報が誤りであった場合にはアタッチメント情報DB22を修正するので、アタッチメント情報DB22に格納された情報の正確性を担保することができる。
[その他の実施の形態]
なお、本発明は上述した一実施の形態に限られるものではなく、様々な変形例が含まれる。上記した実施形態は本発明をわかり易く説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。例えば、ある実施形態の構成の一部を他の実施の形態の構成に置き換えることが可能であり、また、ある実施形態の構成に他の実施の形態の構成を加えることも可能である。また、各実施形態の構成の一部について、他の構成の追加、削除、置換をすることも可能である。
例えば、上述した本発明の建設機械アタッチメントの管理システムの一実施の形態においては、建設機械100から取得した機体情報を表示装置に表示させることでサービス員に報知するように画像データ取得装置50を構成した例を示した。しかし、建設機械100から取得した機体情報を音声によりサービス員に報知するように画像データ取得装置を構成することも可能である。
また、上述した一実施の形態においては、識別情報推定部32の学習済みモデル34として、ニューラルネットワークを用いた機械学習アルゴリズムを用いて生成されたモデルを利用した例を説明した。しかし、識別情報推定部32の学習済みモデル34として、ニューラルネットワークを用いた機械学習アルゴリズムとは異なる、学習用の画像データを多数用意する必要のない他の機械学習のアルゴリズムを用いて生成された学習済みモデルを利用することが可能である。
10…管理サーバ、 22…アタッチメント情報DB(データベース)、30…アタッチメント識別部、 34…学習済みモデル、 40…モデル更新部、 50…画像データ取得装置、54…ユーザインターフェース、 80…コンピュータ(情報処理装置)、 100…建設機械、 110…アタッチメント

Claims (6)

  1. 建設機械に装着されたアタッチメントを識別するための識別情報を含むアタッチメントに関する複数種の情報を格納するデータベースを有する管理サーバと、
    識別対象のアタッチメントの画像データを取得して前記管理サーバへ送信するように構成されている画像データ取得装置と、
    前記管理サーバと情報の授受が可能な情報処理装置とを備える建設機械アタッチメントの管理システムにおいて、
    前記管理サーバは、
    前記画像データ取得装置から送信された識別対象のアタッチメントの画像データを基に前記識別対象のアタッチメントの識別情報を取得し、
    取得した識別情報を前記データベースに照合して前記識別対象のアタッチメントの識別を行い、
    照合結果に応じて前記データベースを更新するように構成されている
    ことを特徴とする建設機械アタッチメントの管理システム。
  2. 請求項1に記載の建設機械アタッチメントの管理システムにおいて、
    前記データベースの前記識別情報は、アタッチメントの型式を示す型式情報を含み、
    前記管理サーバは、
    前記識別対象のアタッチメントの画像データから文字列を認識することで前記識別対象のアタッチメントの型式情報を取得し、
    取得した型式情報を前記データベースと照合し、取得した型式情報が前記データベースに未登録であると判定した場合に取得した型式情報を前記データベースに新規に登録する
    ことを特徴とする建設機械アタッチメントの管理システム。
  3. 請求項1に記載の建設機械アタッチメントの管理システムにおいて、
    前記データベースの前記識別情報は、互いに紐付けられたアタッチメントの型式を示す型式情報とアタッチメントの種類を示す種類情報とアタッチメントの製造メーカを示す製造メーカ情報とを含み、
    前記管理サーバは、
    アタッチメントの画像データを学習データとする機械学習によって生成された学習済みモデルを用いて前記識別対象のアタッチメントの画像データから前記識別対象のアタッチメントの種類情報及びアタッチメントの製造メーカ情報を推定し、
    推定した種類情報及び製造メーカ情報を前記データベースと照合して前記識別対象のアタッチメントの型式候補の有無を判別し、前記識別対象のアタッチメントの型式候補が無い場合、前記識別対象のアタッチメントに対して新たな型式情報を発行して前記データベースに新規に登録する
    ことを特徴とする建設機械アタッチメントの管理システム。
  4. 請求項3に記載の建設機械アタッチメントの管理システムにおいて、
    前記管理サーバは、前記画像データ取得装置から送信された前記識別対象のアタッチメントの画像データを用いて前記学習済みモデルを更新する
    ことを特徴とする建設機械アタッチメントの管理システム。
  5. 請求項1に記載の建設機械アタッチメントの管理システムにおいて、
    前記管理サーバは、取得した識別情報を前記画像データ取得装置へ送信し、
    前記画像データ取得装置は、
    前記管理サーバから送信された識別情報を表示し、
    表示された識別情報を修正する修正情報のユーザ操作による入力を受け付け、
    受け付けた修正情報を前記管理サーバへ送信し、
    前記管理サーバは、前記画像データ取得装置から送信された修正情報に基づき前記データベースを修正する
    ことを特徴とする建設機械アタッチメントの管理システム。
  6. 建設機械に装着されたアタッチメントを識別するための識別情報を含むアタッチメントに関する複数種の情報を格納するデータベースを備える管理サーバにおいて、
    前記管理サーバは、
    画像データ取得装置から送信される識別対象のアタッチメントの画像データを基に前記識別対象のアタッチメントの識別情報を取得し、
    取得した識別情報を前記データベースに照合して前記識別対象のアタッチメントの識別を行い、
    照合結果に応じて前記データベースを更新するように構成されている
    ことを特徴とする建設機械アタッチメントの管理サーバ。
JP2019059456A 2019-03-26 2019-03-26 建設機械アタッチメントの管理システム及び管理サーバ Active JP6961641B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019059456A JP6961641B2 (ja) 2019-03-26 2019-03-26 建設機械アタッチメントの管理システム及び管理サーバ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019059456A JP6961641B2 (ja) 2019-03-26 2019-03-26 建設機械アタッチメントの管理システム及び管理サーバ

Publications (2)

Publication Number Publication Date
JP2020160799A true JP2020160799A (ja) 2020-10-01
JP6961641B2 JP6961641B2 (ja) 2021-11-05

Family

ID=72643507

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019059456A Active JP6961641B2 (ja) 2019-03-26 2019-03-26 建設機械アタッチメントの管理システム及び管理サーバ

Country Status (1)

Country Link
JP (1) JP6961641B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10207980A (ja) * 1997-01-21 1998-08-07 Toshiba Corp 文字認識装置及び文字認識方法
JP2017043885A (ja) * 2015-08-24 2017-03-02 株式会社小松製作所 ホイールローダ
JP2017157016A (ja) * 2016-03-02 2017-09-07 株式会社神戸製鋼所 アタッチメント認識装置
JP2018074207A (ja) * 2016-10-24 2018-05-10 株式会社日本総合研究所 制御装置
JP2018068131A (ja) * 2016-10-24 2018-05-10 株式会社日本総合研究所 制御装置
WO2019008942A1 (ja) * 2017-07-03 2019-01-10 富士フイルム株式会社 医療画像処理装置、内視鏡装置、診断支援装置、医療業務支援装置、及び、レポート作成支援装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10207980A (ja) * 1997-01-21 1998-08-07 Toshiba Corp 文字認識装置及び文字認識方法
JP2017043885A (ja) * 2015-08-24 2017-03-02 株式会社小松製作所 ホイールローダ
JP2017157016A (ja) * 2016-03-02 2017-09-07 株式会社神戸製鋼所 アタッチメント認識装置
JP2018074207A (ja) * 2016-10-24 2018-05-10 株式会社日本総合研究所 制御装置
JP2018068131A (ja) * 2016-10-24 2018-05-10 株式会社日本総合研究所 制御装置
WO2019008942A1 (ja) * 2017-07-03 2019-01-10 富士フイルム株式会社 医療画像処理装置、内視鏡装置、診断支援装置、医療業務支援装置、及び、レポート作成支援装置

Also Published As

Publication number Publication date
JP6961641B2 (ja) 2021-11-05

Similar Documents

Publication Publication Date Title
CN109690570B (zh) 一种机房管理方法及动环系统
Son et al. Automated schedule updates using as-built data and a 4D building information model
US20140313334A1 (en) Technique for image acquisition and management
US20140350708A1 (en) Work process management system, work process management terminal device, computer program, and work process management method
JP2002206925A (ja) 変化検出装置、変化検出方法及び該方法に係るプログラムを記憶した記憶媒体並びにシステム
US20150312773A1 (en) Systems and methods for providing site acquisition services
JP2014078122A (ja) 点検システム及び点検方法
JP2019139316A (ja) 識別システム、識別装置、識別方法及び識別プログラム
US20130266228A1 (en) Automatic part identification and workflow generation
JPWO2019107420A1 (ja) 設備管理システム
WO2018189820A1 (ja) 物品管理支援装置、物品管理支援システムおよび物品管理支援方法
US20220412048A1 (en) Work assist server, work assist method, and work assist system
EP1215612A1 (en) System for estimating car repair expense and estimating method
JP6961641B2 (ja) 建設機械アタッチメントの管理システム及び管理サーバ
US20240046581A1 (en) Systems and methods for dynamic interaction with an augmented reality environment
CN109412858B (zh) 一种光分配网络的管理方法、智能移动终端及管理系统
JP2021131831A (ja) 情報処理装置、情報処理方法及びプログラム
US11640425B2 (en) Inspection support system for construction machine, management server, and inspection report creation system
JP2023065371A (ja) 製造支援システム,方法,プログラム
JP3844299B2 (ja) 事故車の修理状況管理装置
EP2164037A1 (en) Methods and systems for monitoring technical objects
JP7368937B2 (ja) 設備管理システム
CN113807797A (zh) 融入bim与智能算法的地下工程施工管理与监控系统
US20210407109A1 (en) Visual product identification
JP3908069B2 (ja) ジョブネットの関連近傍ジョブネットの導出及びその表示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201106

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210924

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211005

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211013

R150 Certificate of patent or registration of utility model

Ref document number: 6961641

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150