JP2022083497A - 動作把握システム - Google Patents
動作把握システム Download PDFInfo
- Publication number
- JP2022083497A JP2022083497A JP2020194835A JP2020194835A JP2022083497A JP 2022083497 A JP2022083497 A JP 2022083497A JP 2020194835 A JP2020194835 A JP 2020194835A JP 2020194835 A JP2020194835 A JP 2020194835A JP 2022083497 A JP2022083497 A JP 2022083497A
- Authority
- JP
- Japan
- Prior art keywords
- information
- identification
- time
- output
- grasping system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 239000013598 vector Substances 0.000 claims abstract description 102
- 238000013145 classification model Methods 0.000 claims abstract description 56
- 230000008859 change Effects 0.000 claims abstract description 47
- 230000033001 locomotion Effects 0.000 claims description 169
- 238000000034 method Methods 0.000 claims description 111
- 230000008569 process Effects 0.000 claims description 81
- 238000004364 calculation method Methods 0.000 claims description 53
- 238000003860 storage Methods 0.000 claims description 10
- 238000004519 manufacturing process Methods 0.000 abstract description 6
- 230000004044 response Effects 0.000 abstract description 2
- 230000001186 cumulative effect Effects 0.000 description 58
- 238000004891 communication Methods 0.000 description 49
- 230000006854 communication Effects 0.000 description 49
- 238000012986 modification Methods 0.000 description 40
- 230000004048 modification Effects 0.000 description 40
- 230000036544 posture Effects 0.000 description 39
- 230000006870 function Effects 0.000 description 28
- 238000010586 diagram Methods 0.000 description 27
- 238000000605 extraction Methods 0.000 description 22
- 230000005484 gravity Effects 0.000 description 15
- 238000012545 processing Methods 0.000 description 12
- 238000005070 sampling Methods 0.000 description 9
- 238000009412 basement excavation Methods 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 8
- 238000004458 analytical method Methods 0.000 description 6
- 239000000284 extract Substances 0.000 description 6
- 239000010720 hydraulic oil Substances 0.000 description 6
- 230000006866 deterioration Effects 0.000 description 5
- 230000015654 memory Effects 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 4
- 238000012423 maintenance Methods 0.000 description 4
- 238000005259 measurement Methods 0.000 description 4
- 238000012360 testing method Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000005520 cutting process Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000003550 marker Substances 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 239000004576 sand Substances 0.000 description 2
- VZSRBBMJRBPUNF-UHFFFAOYSA-N 2-(2,3-dihydro-1H-inden-2-ylamino)-N-[3-oxo-3-(2,4,6,7-tetrahydrotriazolo[4,5-c]pyridin-5-yl)propyl]pyrimidine-5-carboxamide Chemical class C1C(CC2=CC=CC=C12)NC1=NC=C(C=N1)C(=O)NCCC(N1CC2=C(CC1)NN=N2)=O VZSRBBMJRBPUNF-UHFFFAOYSA-N 0.000 description 1
- AFCARXCZXQIEQB-UHFFFAOYSA-N N-[3-oxo-3-(2,4,6,7-tetrahydrotriazolo[4,5-c]pyridin-5-yl)propyl]-2-[[3-(trifluoromethoxy)phenyl]methylamino]pyrimidine-5-carboxamide Chemical class O=C(CCNC(=O)C=1C=NC(=NC=1)NCC1=CC(=CC=C1)OC(F)(F)F)N1CC2=C(CC1)NN=N2 AFCARXCZXQIEQB-UHFFFAOYSA-N 0.000 description 1
- 230000007175 bidirectional communication Effects 0.000 description 1
- 230000037237 body shape Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 239000000498 cooling water Substances 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000012530 fluid Substances 0.000 description 1
- 238000007429 general method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000013403 standard screening design Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/264—Sensors and their calibration for indicating the position of the work tool
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T13/00—Animation
- G06T13/20—3D [Three Dimensional] animation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/762—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using clustering, e.g. of similar faces in social networks
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/2025—Particular purposes of control systems not otherwise provided for
- E02F9/2054—Fleet management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Medical Informatics (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Structural Engineering (AREA)
- Civil Engineering (AREA)
- Mining & Mineral Resources (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- Operation Control Of Excavators (AREA)
- Testing Or Calibration Of Command Recording Devices (AREA)
- General Factory Administration (AREA)
- Component Parts Of Construction Machinery (AREA)
Abstract
【課題】製造コストの低減を図ることのできる動作把握システムを提供する。【解決手段】動作把握システム10は、時系列で変化する稼働に伴う機械の情報を特徴量とする特徴ベクトルを時分割で演算し、複数の特徴ベクトルを複数のクラスタに分類して識別IDを付与することにより分類モデル175を作成し、分類モデル175に基づいて時分割で演算された複数の特徴ベクトルに識別IDを付与し、機械の所定の動作に対応して時系列で変化する識別IDのパターンを所定の動作の識別情報と対応付けることによりIDパターンモデル184を作成し、識別IDの時系列の変化及びIDパターンモデル184に基づいて、所定の動作を把握するための出力情報を生成し、出力情報を表示装置165によって出力させる制御装置150を備える。【選択図】図2
Description
本発明は、動作把握システムに関する。
機械を効率的に動作させるためには、機械の動作を適切に把握することが有効である。動作を把握するシステムとしては、複数の加速度センサからの情報に基づいて動きを認識する動き認識システムが知られている(特許文献1参照)。
特許文献1に記載のシステムでは、複数の加速度センサからのデータを所定の時間幅で切り出し、予め用意されている複数の標準変化パターンとの類似度を要素とする特徴量ベクトルを求め、各特徴量ベクトルを合成したベクトルを特徴データとし、特徴データと動作辞書中の部分動作に属するサンプル観測の特徴データを代表するデータとの類似度を求め、類似度の高い代表データに付与されているラベルを特徴データに付与する。特許文献1に記載のシステムでは、特徴データにラベルが付与される度に、それまでの実観測の特徴データに付与されたラベル列と動作辞書中の部分動作のラベル列との間でマッチングを行って、動作辞書中の尤度の高いサンプル動作をその時の環境における動きとして認識する。
特許文献1に記載のシステムでは、サンプル観測の特徴データの列からサンプル動作に含まれる部分動作を抽出し、抽出した部分動作に自然言語的名称のラベル(移動、着席、離席等)を付与する。特許文献1に記載のシステムでは、部分動作に自然言語的名称のラベルを付与するためのテーブルを予め作成しておく必要があるが、部分動作ごとにラベルを設定する場合、テーブルの作成に手間がかかり、システムの製造コストが増加してしまうおそれがある。
本発明は、製造コストの低減を図ることのできる動作把握システムを提供することを目的とする。
本発明の一態様による動作把握システムは、情報を出力する表示装置と、時系列で変化する稼働に伴う機械の情報を取得し、前記機械の情報に基づいて、前記機械の動作を把握するための出力情報を生成し、前記表示装置によって前記出力情報を出力させる制御装置と、を備える。前記制御装置は、時系列で変化する機械の情報を特徴量とする特徴ベクトルを時分割で演算し、前記時分割で演算された複数の特徴ベクトルを複数のクラスタに分類し、前記複数のクラスタに識別IDを付与することにより、分類モデルを作成する分類モデル作成処理と、時系列で変化する機械の情報を特徴量とする特徴ベクトルを時分割で演算し、前記分類モデルに基づいて、前記時分割で演算された複数の特徴ベクトルに前記識別IDを付与し、前記機械の所定の動作に対応して時系列で変化する前記識別IDのパターンを前記所定の動作の識別情報と対応付けて記憶することにより、IDパターンモデルを作成するIDパターンモデル作成処理と、時系列で変化する機械の情報を特徴量とする特徴ベクトルを時分割で演算し、前記分類モデルに基づいて、前記時分割で演算された複数の特徴ベクトルに前記識別IDを付与し、前記識別IDの時系列の変化及び前記IDパターンモデルに基づいて、前記所定の動作を把握するための出力情報を生成し、前記出力情報を前記表示装置によって出力させる情報出力処理と、を実行可能である。
本発明によれば、製造コストの低減を図ることのできる動作把握システムを提供することができる。
図面を参照して、本発明の実施形態に係る動作把握システムについて説明する。
<第1実施形態>
図1~図15を参照して、本発明の第1実施形態に係る動作把握システム10について説明する。図1は、作業機械の管理システム1の構成を示す図である。管理システム1は、作業現場で作業を行う作業機械101を管理する管理装置105と、作業現場で作業を行う油圧ショベル101A、ダンプトラック101B、及び作業ロボット101C等の作業機械101を含む。
図1~図15を参照して、本発明の第1実施形態に係る動作把握システム10について説明する。図1は、作業機械の管理システム1の構成を示す図である。管理システム1は、作業現場で作業を行う作業機械101を管理する管理装置105と、作業現場で作業を行う油圧ショベル101A、ダンプトラック101B、及び作業ロボット101C等の作業機械101を含む。
油圧ショベル101Aは、走行体2と、走行体2上に旋回可能に設けられた旋回体3と、旋回体3に取り付けられる多関節型の作業装置4と、を備える作業機械101である。作業装置4は、ブーム11、アーム12及びバケット13、並びにこれらを駆動する油圧シリンダ(ブームシリンダ11a、アームシリンダ12a及びバケットシリンダ13a)を有する。ダンプトラック101Bは、走行体と、走行体上に設けられ積荷が積み込まれる荷台(ベッセル)及び荷台を上下方向に回動(起伏動)させる油圧シリンダを有する作業装置と、を備えた作業機械101である。作業ロボット101Cは、多関節型のアーム及び物を把持する把持部を有する作業装置を備えた作業機械101である。
管理装置105は、作業機械101の状態を遠隔で管理(把握、監視)する外部装置である。管理装置105は、例えば、作業機械101の製造業者(メーカー)の本社、支社、工場等の施設、作業機械101のレンタル会社、サーバの運営を専門的に行うデータセンタ、作業機械101を所有するオーナーの施設等に設置される。
第1実施形態では、管理装置105が、作業機械101からの情報に基づいて作業機械101の動作を把握する動作把握システム10を構成する。以下では、主に、動作把握システム10によって動作が把握される作業機械101が、油圧ショベル101Aである場合を例に説明する。
管理システム1は、作業現場で作業を行う油圧ショベル101Aと、作業現場から離れた場所に設置される管理装置105との間で広域ネットワークの通信回線109を介して双方向通信を行うことができるように構成されている。すなわち、油圧ショベル101Aと管理装置105とは、通信回線109を介して情報(データ)の送信及び受信を行うことができる。通信回線109は、携帯電話事業者等が展開する携帯電話通信網(移動通信網)、インターネット等である。例えば、図示するように、油圧ショベル101Aと無線基地局108とが携帯電話通信網(移動通信網)で接続されている場合、無線基地局108は、油圧ショベル101Aから所定の情報を受信すると、受信した情報をインターネットを介して管理装置105に送信する。
油圧ショベル101Aは、油圧ショベル101Aの各部を制御する制御装置である車体コントローラ110と、車体コントローラ110に所定の情報を入力するための入力装置120と、複数のセンサ121~125と、通信装置128と、を備える。通信装置128は、通信回線109に接続される無線基地局108と無線通信可能な無線通信装置であって、例えば2.1GHz帯等の帯域を感受帯域とする通信アンテナを含む通信インタフェースを有する。通信装置128は、無線基地局108及び通信回線109を介して、管理サーバ150等と情報の授受を行う。
管理装置105は、管理サーバ150と、管理サーバ150へ所定の情報を入力するための入力装置161と、油圧ショベル101Aから送信される情報(時系列で変化する油圧ショベル101Aの稼動に伴う情報)を受信する通信装置162と、管理サーバ150からの制御信号に基づいて所定の情報を出力する出力装置である表示装置165と、を備える。表示装置165は、例えば、液晶ディスプレイ装置であり、管理サーバ150からの表示制御信号に基づいて、油圧ショベル101Aの状態に関する情報の表示画像を表示画面165aに表示する。
管理サーバ150は、時系列で変化する油圧ショベル101Aの情報を取得し、油圧ショベル101Aの情報に基づいて、油圧ショベル101Aの動作を把握するための出力情報を生成し、表示装置(出力装置)165を制御することにより、表示装置(出力装置)165によって出力情報を出力させる制御装置として機能する。
車体コントローラ110及び管理サーバ150は、動作回路としてのCPU(Central Processing Unit)111,151、記憶装置としてのROM(Read Only Memory)112,152、記憶装置としてのRAM(Random Access Memory)113,153、入力インタフェース114,154、出力インタフェース115,155、及びその他の周辺回路を備えたコンピュータで構成される。なお、管理サーバ150及び車体コントローラ110は、それぞれ1つのコンピュータで構成してもよいし、複数のコンピュータで構成してもよい。
ROM112,152は、EEPROM等の不揮発性メモリであり、各種演算が実行可能なプログラムが格納されている。すなわち、ROM112,152は、本実施形態の機能を実現するプログラムを読み取り可能な記憶媒体である。RAM113,153は揮発性メモリであり、CPU111,151との間で直接的にデータの入出力を行うワークメモリである。RAM113,153は、CPU111,151がプログラムを演算実行している間、必要なデータを一時的に記憶する。管理サーバ150及び車体コントローラ110は、記憶装置としてのHDD(Hard Disk Drive)116,156をさらに備えている。HDD116,156は、不揮発性の大容量記憶装置であり、種々の情報(データ)を記憶する。なお、後述において、各種データ(多次元収集データテーブル117、動作データテーブル118、分類モデル175、IDパターンモデル184)をHDD116,156に記憶させる例について説明するが、HDD116,156に代えて、SSD(Solid State Drive)、フラッシュメモリ等の種々の記憶装置に各種データを記憶させることも可能である。
CPU111,151は、ROM112,152に記憶された制御プログラムをRAM113,153に展開して演算実行する処理装置であって、制御プログラムに従って入力インタフェース114,154及びROM112,152,RAM113,153、HDD115,156等から取り入れた情報(データ)に対して所定の演算処理を行う。入力インタフェース114,154には、各種装置からの信号が入力される。入力インタフェース114,154は、入力された信号をCPU111,151で演算可能なように変換する。出力インタフェース115,155は、CPU111,151での演算結果に応じた出力用の信号を生成し、その信号を各種装置に出力する。
図2は、本発明の第1実施形態に係る動作把握システム10の機能ブロック図である。上述したように、第1実施形態では、管理装置105が動作把握システム10として機能する。動作把握システム10は、油圧ショベル101Aで収集される情報(以下、収集情報とも記す)を取得し、時系列で変化する油圧ショベル101Aの動作を把握するための処理を行う。
油圧ショベル101Aの収集情報には、油圧ショベル101Aが備える各種センサ121~125で検出されるセンサ情報、油圧ショベル101Aの車体コントローラ110の制御情報が含まれる。車体コントローラ110は、油圧ショベル101Aのセンサ情報及び制御情報を所定のサンプリング周期で繰り返し取得し、HDD116に記憶し、多次元収集データテーブル117を作成する。多次元収集データテーブル117は、時系列に変化する複数種類のデータ(多次元の収集情報)からなる。
図3は、多次元収集データテーブル117の一例について示す図である。図3に示すように、多次元収集データテーブル117は、時系列で変化する油圧ショベル101Aの収集情報で構成される。具体的には、多次元収集データテーブル117は、時系列に、同一時刻、同一サンプリング周期で取得された多次元の収集情報が、取得した時刻とともにHDD116に記憶されることにより作成される。なお、説明をわかりやすくするため、サンプリング周期を1[sec]としているが、実際には、数[msec]~数十[msec]程度である。
図3に示すように、多次元収集データテーブル117を構成する複数の収集情報には、センサ情報として、例えば、以下で説明するブームシリンダ11aのボトム圧力Pb、ブームシリンダ11aのロッド圧力Pr、ブーム操作量Lb、ブーム角度α、及び外気温度Toが含まれる。
図1に示すように、ブームシリンダ11aは、ブーム11を駆動させる油圧シリンダである。油圧シリンダは、一端が閉塞された有底筒状のシリンダチューブと、シリンダチューブの他端の開口を塞ぐヘッドカバーと、ヘッドカバーを貫通し、シリンダチューブに挿入されるシリンダロッドと、シリンダロッドの先端に設けられ、シリンダチューブ内をロッド側室とボトム側室とに区画するピストンと、を備える。ブームシリンダ11aは、その一端側がブーム11に接続され他端側が旋回体3のフレームに接続されている。
油圧ショベル101Aは、ブームシリンダ11aのボトム側室の圧力を検出する圧力センサ(ボトム圧センサ)121を有する。車体コントローラ110は、ボトム圧センサ121で検出されたブームシリンダ11aのボトム圧力Pbを取得する。油圧ショベル101Aは、ブームシリンダ11aのロッド側室の圧力を検出する圧力センサ(ロッド圧センサ)122を有する。車体コントローラ110は、ロッド圧センサ122で検出されたブームシリンダ11aのロッド圧力Prを取得する。なお、図示しないが、車体コントローラ110は、同様に、アームシリンダ12a及びバケットシリンダ13aのロッド圧力及びボトム圧力を取得する。
油圧ショベル101Aは、ブーム11(ブームシリンダ11a)を操作するブーム操作レバー、及びブーム操作レバーの操作量を検出するブーム操作センサ123を有する。車体コントローラ110は、ブーム操作センサ123で検出されたブーム操作量を取得する。なお、図示しないが、車体コントローラ110は、同様に、アーム12(アームシリンダ12a)及びバケット13(バケットシリンダ13a)の操作量を取得する。
油圧ショベル101Aは、旋回体3に対するブーム11の回動角度を検出するブーム角度センサ124を有する。車体コントローラ110は、ブーム角度センサ124で検出されたブーム角度αを取得する。なお、図示しないが、車体コントローラ110は、同様に、ブーム11に対するアーム12の回動角度(アーム角度)及びアーム12に対するバケット13の回動角度(バケット角度)を取得する。ブーム角度α、アーム角度及びバケット角度を検出するセンサは、作業装置4の姿勢を検出するための姿勢センサを構成する。
油圧ショベル101Aは、外気温度Toを検出する温度センサ125を有する。車体コントローラ110は、温度センサ125で検出された外気温度Toを取得する。なお、図示しないが、車体コントローラ110は、エンジン冷却水の温度、及び作動油の温度を取得する。
さらに、図示しないが、多次元収集データテーブル117を構成する複数の情報には、油圧ショベル101Aを制御するための制御情報が含まれる。制御情報には、例えば、油圧ポンプの吐出容量の目標値(油圧ポンプを制御する制御信号)が含まれる。油圧ショベル101Aは、エンジンにより駆動され、作業装置4の油圧シリンダ、旋回体3の旋回用油圧モータ、及び走行体2の走行用油圧モータ等の油圧アクチュエータに作動流体としての作動油を供給する油圧ポンプと、油圧ポンプから油圧アクチュエータに供給される作動油の方向及び流量を制御する流量制御弁と、を備える。
流量制御弁は、操作レバーの操作に応じて動作する。例えば、ブームシリンダ11aに供給される作動油の流れを制御する流量制御弁は、ブーム操作レバーの操作に応じて動作する。流量制御弁が動作することにより、ブームシリンダ11aのボトム側室(またはロッド側室)に油圧ポンプから吐出された作動油が導かれ、ロッド側室(またはボトム側室)から作動油がタンクに排出されることにより、ブームシリンダ11aが伸長(または収縮)する。これにより、ブーム11が上方(または下方)に回動する。
油圧ポンプは、一対の入出力ポートを有する傾転斜板機構(不図示)と、斜板の傾斜角を調整して吐出容量(押しのけ容積)を調整するレギュレータと、を備えている。車体コントローラ110は、吐出圧センサで検出される油圧ポンプの吐出圧に基づいて、油圧ポンプの吐出容量の目標値を演算する。なお、吐出圧センサは、油圧ポンプと流量制御弁との間に設けられる。車体コントローラ110は、油圧ポンプの吐出容量を目標値とするための制御信号をレギュレータに出力する。また、車体コントローラ110は、油圧ポンプの吐出容量の目標値を制御情報の一つとしてHDD116に記憶する。
以上のように、車体コントローラ110は、油圧ショベル101Aの計測部位に取り付けられたセンサからのセンサ情報及び制御情報を時系列で取得し、HDD116に蓄積する。なお、車体コントローラ110は、CAN(Controller Area Network)等の車載ネットワークで接続される別のコントローラから油圧ショベル101Aのセンサ情報を取得し、HDD116に蓄積してもよい。例えば、車体コントローラ110は、エンジンコントローラからエンジン回転数センサで検出された情報を車載ネットワークを介して取得し、HDD116に蓄積してもよい。
図2に示すように、油圧ショベル101Aの車体コントローラ110は、ROM112に記憶されているプログラムを実行することにより、データ送信部129として機能する。データ送信部129は、HDD116に記憶されている多次元収集データテーブル117を通信装置128によって管理装置105に送信する。
管理サーバ150は、通信装置162によって通信回線109を介して、油圧ショベル101Aから多次元収集データテーブル117を取得し、HDD156に記憶する。動作把握システム(管理装置)10の管理サーバ150は、取得した多次元収集データテーブル117と、予め作成される分類モデル175と、予め作成されるIDパターンモデル184と、に基づいて、動作を把握(認識)するための処理を行い、その結果を表示装置165の表示画面165aに表示させる。
動作把握システム(管理装置)10の管理サーバ150は、ROM152に記憶されているプログラムを実行することにより、データ取得部171、特徴ベクトル生成部172、分類部173、識別ID付与部174、識別ID列生成部181、IDパターン抽出部182、類似度演算部191及び表示制御部192として機能する。以下、分類モデル175の作成処理、IDパターンモデル184の作成処理、及び、動作の把握処理のそれぞれについて詳しく説明する。
まず、図2~図6を参照して、管理サーバ150による分類モデル175の作成処理について詳しく説明する。管理サーバ150は、時系列で変化する油圧ショベル101Aの情報を特徴量とする特徴ベクトルVを時分割で演算し、時分割で演算された複数の特徴ベクトルVを複数のクラスタに分類し、複数のクラスタに識別IDを付与することにより、分類モデル175を作成する分類モデル作成処理を実行可能である。
図2に示すように、データ取得部171は、通信装置162によって、油圧ショベル101Aから多次元収集データテーブル117を取得し、学習用の多次元収集データテーブル117aとしてHDD156に記憶する。特徴ベクトル生成部172は、学習用の多次元収集データテーブル117aに基づいて、特徴量データテーブル176(図5参照)を作成する。特徴量データテーブル176は、時分割された複数の特徴ベクトルVで構成されるデータテーブルである。分類部173は、時分割された複数の特徴ベクトルVを複数のクラスタに分類する。識別ID付与部174は、分類部173で分類された複数のクラスタのそれぞれの代表特徴ベクトルに識別IDを付与する。これにより、分類モデル175が作成される。つまり、特徴ベクトル生成部172、分類部173及び識別ID付与部174は、多次元収集データテーブル117aに基づいて分類モデル175を作成する分類モデル作成部170として機能する。
図4は、管理サーバ150により実行される分類モデル作成処理について示すフローチャートである。図4に示すフローチャートは、例えば、管理装置105の入力装置161を用いて、分類モデルの作成指示が管理サーバ150に入力されることにより開始される。
図4に示すように、ステップS110において、データ取得部171は、油圧ショベル101Aから通信回線109を介して多次元収集データテーブル117を取得し、学習用の多次元収集データテーブル117aとしてHDD156に記憶して、ステップS115へ進む。
学習用の多次元収集データテーブル117aとして取得する多次元収集データテーブル117は、作業現場で想定される油圧ショベル101Aの動作の把握に必要な情報を網羅できるように作成しておくことが望ましい。このため、予め試験場などで、様々な状況における様々な作業内容を想定して油圧ショベル101Aを動作させることにより収集した情報によって多次元収集データテーブル117を作成しておく。
ステップS115において、特徴ベクトル生成部172は、ステップS110で取得した多次元収集データテーブル117aを構成する所定の情報を特徴量に変換し、特徴量データテーブル176(図5参照)を作成する。センサ情報(物理量)の中には、別の情報(物理量)へ変換した方が後述する分類処理に都合がよい場合がある。また、センサ情報に雑音成分が含まれている場合、それを取り除いた方が、分類処理の精度が向上する場合がある。そこで、所定の収集情報については、別の情報に変換し、変換した値を特徴量とすることが好ましい。
図5は、特徴量データテーブル176の一例について示す図である。具体的には、特徴ベクトル生成部172は、多次元収集データテーブル117a(図3参照)を構成する所定の収集情報(物理量)に基づいて、別の情報(物理量)を算出し、算出した情報(物理量)を特徴量として、HDD156に記憶する。特徴ベクトル生成部172は、特徴量と、その特徴量の演算に用いた収集情報が油圧ショベル101Aにおいて取得された時刻とを対応付けて記憶することにより、特徴量データテーブル176を作成する。
例えば、特徴ベクトル生成部172は、時刻12:25:32に取得したブームシリンダ11aのボトム圧力Pb及びブームシリンダ11aのロッド圧力Prに基づいて、同一時刻(時刻12:25:32)におけるブームシリンダ11aのシリンダ出力(シリンダ推力)Fbを演算する。シリンダ出力Fbは、ブームシリンダ11aのボトム圧力Pbにピストンのボトム側の受圧面積を乗じたものからブームシリンダ11aのロッド圧力Prにピストンのロッド側の受圧面積を乗じたものを差し引くことにより算出される。なお、特徴ベクトル生成部172は、シリンダ出力Fbの雑音成分を取り除くためのフィルタリング処理を行うことが好ましい。
さらに、特徴ベクトル生成部172は、シリンダ出力Fbの時系列波形から周波数分析を行い、その時刻における卓越周波数fを特徴量としてHDD156に記憶する。なお、ブーム角度α及び外気温度Toは、そのまま特徴量として、HDD156に記憶する。つまり、特徴ベクトル生成部172は、多次元収集データテーブル117を構成する所定の収集情報(例えば、ブーム角度α、外気温度To)についてはそのまま特徴量としてHDD156に記憶し、多次元収集データテーブル117を構成する複数の所定の収集情報(例えば、ボトム圧力Pb、ロッド圧力Pr)については別の情報(物理量)に変換し、変換した値を特徴量としてHDD156に記憶することにより、特徴量データテーブル176を作成する。
なお、各特徴量の大きさに偏りがあると、後述する分類処理(ステップS125)を適切に行えなくなる場合がある。偏りがあるとは、例えば、特徴量Aが0~1の範囲で変化するものであるのに対し、特徴量Bが0~100の範囲で変化するものである場合のことをいう。このような偏りがあると、特徴量Aに比べて特徴量Bの重みが大きくなる。その結果、後述する分類処理(ステップS125)において、特徴量Bの影響が大きくなり、特徴量Aの影響が小さくなってしまう。このため、特徴ベクトル生成部172は、各特徴量の重みを均一にするためのスケール変換処理を行うことが好ましい。スケール変換処理は、例えば、多次元収集データテーブル117を構成する収集情報の最小値と最大値で正規化する処理である。なお、後述する分類処理(ステップS125)の精度の向上のために、適宜、重みの調整を行ってもよい。
特徴ベクトル生成部172は、特徴量データテーブル176の作成処理(ステップS115)が完了すると、ステップS120へ進む。ステップS120において、特徴ベクトル生成部172は、ステップS115において生成された特徴量データテーブル(図5参照)から特徴ベクトルVの切り出し処理を行う。特徴ベクトルVとは、図5の破線t2aで示すように、特徴量データテーブル176を構成する所定時刻における多次元特徴量(Fb,f,α,To)を切り出したものである。特徴ベクトル生成部172は、多次元特徴量を時刻ごとに輪切りにするようにして、特徴ベクトルV(Fb,f,α,To)を切り出す。特徴ベクトルV(Fb,f,α,To)は、要素数(図5に示す例では4つ)を次元数とする特徴量空間の位置座標を示している。以下、この位置座標を「特徴量位置」とも記す。
このように、特徴ベクトル生成部172は、時系列で変化する油圧ショベル101Aの情報を特徴量とする特徴ベクトルVを時分割で演算する(ステップS115,S120)。特徴ベクトル生成部172による特徴ベクトルVの切り出し処理(ステップS120)が完了すると、ステップS125へ進む。
ステップS125において、分類部173は、時分割で演算された複数の特徴ベクトルVを複数のクラスタに分類する分類処理を実行する。特徴ベクトルVの分類処理は、特徴量位置が接近している集団を一つの集まり(クラスタ)として分類する処理である。特徴量位置が接近しているということは、特徴ベクトルVの各要素(特徴量)が類似した値であり、油圧ショベル101Aが同じような状態になっていることを意味している。分類の方法には、種々の方法が存在するが、本実施形態では、クラスタリング手法の一つであるk平均法(k-means法)を用いる。k平均法(k-means法)は、多次元データを教示なしで分類する方法であり、それぞれの入力データを多次元空間における点とみなし、その各点のユークリッド距離を基準としてデータのクラスタ(塊)を見つける方法である。
分類部173は、ステップS120において切り出された各時刻の特徴ベクトルVに対してk-means法によるクラスタリング処理を行う。分類部173は、まず、全ての特徴量位置に対してランダムに予め定められたk個のクラスタに割り当て、各クラスタに割り当てられた特徴量位置についての重心座標値を演算する。
分類部173は、次に、演算された重心座標値と全ての特徴量位置との距離を演算し、各特徴量位置を最も距離が近い重心座標値と同じクラスタに割り当てる。分類部173は、各クラスタに割り当てられた特徴量位置についての重心座標値を演算する。分類部173は、重心座標値が変化しなくなるまで、クラスタの割り当てと重心座標値の演算を繰り返す。分類部173は、重心座標値が変化しなくなると分類が完了したと判定し、クラスタリング処理を終了して、ステップS130へ進む。
ステップS130において、識別ID付与部174は、各クラスタの重心座標値を識別するための識別ID(i=1,2,3,…,k)を生成し、各クラスタの重心座標値に付与する。識別ID付与部174は、重心座標値と、その重心座標値を識別するための識別IDとを対応付けてHDD156に記憶することにより、分類モデル175を作成する。
図6は、分類モデル作成部170により作成された分類モデル175の一例について示す図である。分類モデル175は、識別IDと、識別IDに対応付けて記憶される重心座標値(すなわち、各特徴量の代表値)とで構成される。なお、重心座標値は、代表特徴ベクトルVi(i=1,2,3,…,k)で表される。例えば、識別ID「1」の重心座標値は、代表特徴ベクトルV1(3.0,20.2,45,20.5)で表される。識別ID付与処理(ステップS130)が完了すると、図4のフローチャートに示す処理を終了する。
図2、図6~図11を参照して、管理サーバ150によるIDパターンモデル184の作成処理について詳しく説明する。管理サーバ150は、時系列で変化する油圧ショベル101Aの情報を特徴量とする特徴ベクトルVを時分割で演算し、分類モデル175に基づいて、時分割で演算された複数の特徴ベクトルVに識別IDを付与し、油圧ショベル101Aの所定の動作に対応して時系列で変化する識別IDのパターンを所定の動作の識別情報と対応付けて記憶することにより、IDパターンモデル184を作成するIDパターンモデル作成処理を実行可能である。
図2に示すように、データ取得部171は、油圧ショベル101Aから多次元収集データテーブル117を取得し、学習用の多次元収集データテーブル117bとしてHDD156に記憶する。また、データ取得部171は、油圧ショベル101Aから動作データテーブル118を取得し、HDD116に記憶する。特徴ベクトル生成部172は、学習用の多次元収集データテーブル117bに基づいて、特徴量データテーブル176(図5参照)を作成する。識別ID列生成部181は、特徴量データテーブル176及び分類モデル175に基づいて、時系列に識別IDが並ぶ識別ID列のデータテーブルである識別IDテーブル185(図8参照)を作成する。IDパターン抽出部182は、動作データテーブル118に基づいて、識別IDテーブル185から所定の動作の区間(動作開始時刻及び動作終了時刻)内の識別ID列を識別IDパターンとして抽出し、動作を識別するための識別情報としての動作名を付与する。IDパターン抽出部182は、抽出した識別IDパターンと動作名とを対応づけて記憶することにより、IDパターンモデル184を作成する。つまり、特徴ベクトル生成部172、識別ID列生成部181及びIDパターン抽出部182は、多次元収集データテーブル117b、分類モデル175及び動作データテーブル118に基づいて、IDパターンモデル184を作成するIDパターンモデル作成部180として機能する。
図7は、管理サーバ150により実行されるIDパターンモデル作成処理について示すフローチャートである。図7に示すフローチャートは、例えば、管理装置105の入力装置161を用いて、IDパターンモデル184の作成指示が管理サーバ150に入力されることにより開始される。
図7のステップS110~S120の処理は、図4のステップS110~S120の処理と同様の処理であるので、説明を省略する。なお、ステップS110において、学習用の多次元収集データテーブル117bとして取得する多次元収集データテーブル117は、図2のステップS110で取得する学習用の多次元収集データテーブル117aとして取得する多次元収集データテーブル117と同じデータとしてもよいが、異なるデータとしてもよい。例えば、分類モデル175の作成には、試験場で油圧ショベル101Aに試験用の動作を行わせることにより収集した多次元収集データテーブル117を用い、IDパターンモデル184の作成には、作業現場で実際に作業を行う油圧ショベル101Aの動作により収集した多次元収集データテーブル117を用いるようにしてもよい。図7に示すように、特徴ベクトルVの切り出し処理(ステップS120)が完了するとステップS240へ進む。
ステップS240において、識別ID列生成部181は、分類モデル175(図6参照)を参照し、ステップS120で切り出された特徴ベクトルVに最も類似する代表特徴ベクトルVi(i=1~k)を抽出し、抽出した代表特徴ベクトルViの識別IDを特徴ベクトルVの時刻と対応付けて記憶する。具体的には、識別ID列生成部181は、ステップS120で切り出された所定時刻tiにおける特徴ベクトルVで表される特徴量位置(図5参照)と、分類モデル175の代表特徴ベクトルViで表される全ての重心座標値(図6参照)との特徴量空間における距離を演算し、最も距離が近い重心座標値の識別IDと、上記所定時刻tiとを対応付けて記憶する。ステップS240において、識別ID列生成部181は、特徴量データテーブル176(図5参照)の全ての時刻に対して、識別IDを設定することにより、時系列に並ぶ識別ID列で構成される識別IDテーブル185(図8参照)を作成し、ステップS245へ進む。このように、識別ID列生成部181は、分類モデル175に基づいて、時分割で演算された複数の特徴ベクトルVに識別IDを付与することにより、識別IDテーブル185を作成する。
図8は識別IDテーブル185の一例について示す図である。図8に示すように、識別IDテーブル185は、時刻と識別IDとが対応付けられたデータテーブルである。図示しないが、識別IDテーブル185は、HDD156に記憶される。
図7に示すように、識別IDテーブル185の作成処理(ステップS240)が完了するとステップS245へ進む。ステップS245において、データ取得部171は、油圧ショベル101Aから通信回線109を介して動作データテーブル118(図9参照)を取得し、HDD156に記憶して、ステップS250へ進む。
図9は、動作データテーブル118の一例について示す図である。図9に示すように、動作データテーブル118は、動作名と、その動作の開始時刻及び終了時刻と、が対応付けられたデータテーブルである。
動作データテーブル118は、油圧ショベル101Aの車体コントローラ110によって、多次元収集データテーブル117(117b)とともに作成される。油圧ショベル101Aのオペレータは、入力装置120に対して所定の操作(動作名入力操作)を行うことにより、「動作名(例えば、動作A)」を車体コントローラ110に入力する。次に、油圧ショベル101Aのオペレータは、その「動作名(例えば、動作A)」に対応する動作を開始する際、入力装置120に対して所定の操作(開始時刻入力操作)を行う。これにより、車体コントローラ110は、そのときの時刻を「開始時刻」として、「動作名(例えば、動作A)」と対応付けてHDD116に記憶する。油圧ショベル101Aのオペレータは、「動作名(例えば、動作A)」に対応する動作を終了する際、入力装置120に対して所定の操作(終了時刻入力操作)を行う。これにより、車体コントローラ110は、そのときの時刻を「終了時刻」として、「動作名(例えば、動作A)」と対応付けてHDD116に記憶する。
動作名入力操作とは、例えば、タッチパネル(入力装置120)に表示される複数の動作名の中から一の動作名を選択する操作、あるいは、キーボード(入力装置120)を操作して、文字列を入力する操作である。開始時刻入力操作及び終了時刻入力操作は、例えば、タッチパネル(入力装置120)に対するタッチ操作、あるいは、スイッチ(入力装置120)の押し込み操作である。このように、油圧ショベル101Aのオペレータによって所定の操作が行われることにより、車体コントローラ110は、「動作名」、「開始時刻」及び「終了時刻」を対応付けて記憶することにより、動作データテーブル118を作成する。
なお、動作データテーブル118は、多次元収集データテーブル117の作成とともに作成せずに、多次元収集データテーブル117の作成が完了した後、多次元収集データテーブル117を観察しながら作成してもよい。動作名は、油圧ショベル101Aの一連の状態変化について付与される自然言語的名称である。例えば、土砂を掘削し、その土砂をダンプトラックに積み込むまでの動作に対応する動作名として「掘削積込動作」が入力される。また、「掘削積込動作」を「掘削動作」と「積込動作」に分離して、それぞれの動作に対応する動作名としてもよい。
図7に示すように、動作データテーブル取得処理(ステップS245)が完了すると、ステップS250へ進む。ステップS250において、IDパターン抽出部182は、動作データテーブル(図9参照)を参照し、時系列に並ぶ全ての識別IDによって構成される識別ID列(図8参照)から所定の動作を行っている区間内の複数の識別IDからなる識別ID列を識別IDパターンとして抽出するIDパターン抽出処理を行う。
図10は、IDパターン抽出処理について説明する図である。図10に示すように、IDパターン抽出処理(図7のステップS250)において、IDパターン抽出部182は、動作データテーブル118(図9参照)を参照し、識別IDテーブル185の中から「動作名」ごとに「開始時刻」から「終了時刻」までの複数の識別IDを時系列で抽出する。なお、IDパターン抽出部182は、複数の同じ識別IDが連続して抽出された場合、一の識別IDのみを残す。これは、後述するDPマッチング手法において、重複する識別IDが無視されるためである。
例えば、IDパターン抽出部182は、動作データテーブル118を参照し、動作Aの動作区間(開始時刻12:25:33から終了時刻12:25:39)に含まれる複数の識別IDを時系列で抽出する。なお、連続する複数の同じ識別IDについては、一の識別IDのみを抽出する。このため、IDパターン抽出部182は、動作Aの動作区間内の識別IDパターンとして、「203」,「70」,「203」を抽出する。IDパターン抽出部182は、時系列で抽出した識別IDパターンを動作名である「動作A」と対応付けて記憶する。
IDパターン抽出部182は、動作データテーブル118に記憶されている全ての「動作名(動作A、動作B、動作C、・・・)」に対して、識別IDパターンを対応付けてHDD156に記憶することにより、IDパターンモデル184を作成する。IDパターン抽出処理(ステップS250)が完了すると、図7のフローチャートに示す処理を終了する。このように、IDパターン抽出部182は、油圧ショベル101Aの所定の動作に対応して時系列で変化する識別IDのパターンを所定の動作の動作名(識別情報)と対応付けて記憶することにより、IDパターンモデル184を作成する。以下の説明では、動作名に対応付けて記憶(登録)される識別IDパターンを登録IDパターンとも記す。なお、図10では、各動作の登録IDパターンが3つの要素で構成される(例えば、動作Aの登録IDパターンは「203」,「70」,「203」の3つの要素で構成される)例について示しているが、登録IDパターンは動作に応じて、2つの要素、あるいは4つ以上の要素で構成してもよい。
図11は、特徴量及び識別IDの時間変化を示すグラフである。図11に示すように、時間の経過により各特徴量A~Fの値が変化することに伴い、識別IDが変化する。識別IDが変化するということは油圧ショベル101Aの状態が変化しているということを表している。動作Aを行っている区間では、識別IDが「203」→「70」→「203」と変化している。
図2、図12~図15を参照して、管理サーバ150による情報出力処理について詳しく説明する。管理サーバ150は、時系列で変化する油圧ショベル101Aの情報を特徴量とする特徴ベクトルVを時分割で演算し、分類モデル175に基づいて、時分割で演算された複数の特徴ベクトルVに識別IDを付与し、識別IDの時系列の変化及びIDパターンモデル184に基づいて、所定の動作を把握するための出力情報を生成し、生成した出力情報を出力装置としての表示装置165によって出力させる情報出力処理を実行可能である。
図2に示すように、データ取得部171は、油圧ショベル101Aから多次元収集データテーブル117を取得し、油圧ショベル101Aの動作把握用の多次元収集データテーブル117cとしてHDD156に記憶する。特徴ベクトル生成部172は、動作把握用の多次元収集データテーブル117cに基づいて、特徴量データテーブル176を生成する(図5参照)。識別ID列生成部181は、特徴量データテーブル176及び分類モデル175に基づいて、時系列に識別IDが並ぶ識別ID列のデータテーブルである識別IDテーブル185(図14参照)を生成する。類似度演算部191は、識別IDテーブル185の識別ID列とIDパターンモデル184の登録IDパターンとの類似度を演算する。表示制御部192は、類似度演算部191で演算された類似度を表す表示画像の情報(データ)を生成し、表示装置165に出力する。表示装置165は、入力された表示画像の情報(データ)に基づいて、表示装置165の表示画面165aに類似度を表す表示画像を表示させる。つまり、表示制御部192は、表示装置(出力装置)165を制御して、油圧ショベル101Aの所定の動作を把握するための出力情報(本実施形態では、動作の類似度を表す表示画像の情報)を表示装置(出力装置)165によって出力させる。このように、特徴ベクトル生成部172、識別ID列生成部181、類似度演算部191及び表示制御部192は、多次元収集データテーブル117c、分類モデル175及びIDパターンモデル184に基づいて、油圧ショベル101Aの動作を把握するための出力情報を生成し、出力装置によって出力させる出力制御部190として機能する。
図12は、管理サーバ150により実行される情報出力処理について示すフローチャートである。図12に示すフローチャートは、例えば、管理装置105の入力装置161を用いて、情報出力処理の実行指示が管理サーバ150に入力されることにより開始される。
図12に示すように、ステップS110において、データ取得部171は、油圧ショベル101Aから通信回線109を介して多次元収集データテーブル117を取得し、動作把握用の多次元収集データテーブル117cとしてHDD156に記憶して、ステップS115へ進む。
ステップS110において、動作把握用の多次元収集データテーブル117cとして取得する多次元収集データテーブル117は、図2のステップS110、図7のステップS110で取得する学習用の多次元収集データテーブル117a,117bとして取得する多次元収集データテーブル117と異なるデータである。動作把握用の多次元収集データテーブル117cとして取得する多次元収集データテーブル117は、作業現場で実際に種々の作業を行った油圧ショベル101Aの動作を把握するために作成される。つまり、動作把握用の多次元収集データテーブル117cは、作業現場で作業を行っている間に収集された情報によって作成されたデータテーブルである。
図12のステップS115,S120の処理は、図4のステップS115~S120の処理と同様の処理であり、図12のステップS240の処理は、図7のステップS240の処理と同様の処理であるので、説明を省略する。図12に示すように、識別IDテーブル185の作成処理(ステップS240)が完了するとステップS360へ進む。
ステップS360において、類似度演算部191は、IDパターンモデル184に登録されている「動作名」ごとに、識別IDテーブル185の識別ID列とIDパターンモデル184の登録IDパターンとの類似度を表すコストを演算する。
本実施形態では、IDパターンモデル184の登録IDパターンと、識別IDテーブル185の識別ID列とのDPマッチングを行って、コストを演算する。DPマッチングとはパターンの時間軸上での伸縮を考慮するために、パターンを非線形伸縮させてマッチングさせる弾性マッチング手法の一種である。なお、DPマッチングは、一般的な手法であるため、詳細なアルゴリズムはここでは述べない。油圧ショベル101Aのように人が操作する機械では、パターンの一部が時間軸上で伸縮する場合がある。DPマッチングは、弾性マッチング手法の一種であるので、パターンの一部が時間軸上で伸縮する場合でも類似性を評価することができるので好適である。
図13は、DPマッチングの特徴を説明する図である。図13(a)に示すように、識別IDが「5」→「7」→「10」の順で変化する識別IDパターンがIDパターンモデル184に登録されている場合について説明する。図13(b)に示すように、DPマッチングでは、連続して重複する識別IDが存在する識別ID列(例えば識別ID「5」及び「7」が連続して重複している識別ID列)と、重複が無い識別ID列とは、同じように取り扱われる。
類似度は、パターンの始点から終点までの移動コスト(コスト)で表される。図13(c)~図13(e)は、コスト演算の例について示す。図13(c)に示す例では、識別ID列が、「5」→「7」→「10」であり、図13(a)に示す登録IDパターンと完全に一致するため、コストは最小値C0(=0.0)となる。図13(d)に示す例では、識別ID列の中に、図13(a)に示す登録IDパターンに含まれていない識別ID「8」が含まれている。このため、演算されるコストは最小値C0よりも大きいC1となる(C1>C0)。図13(e)に示す例では、識別ID列が図13(a)に示す登録IDパターン「5」→「7」→「10」の識別ID「7」に代えて識別ID「9」が設定されている。このため、演算されるコストは最小値C0及びC1よりも大きいC2となる(C2>C1>C0)。
このように、コストは、その値が低ければ類似度が高いことを表し、その値が高ければ類似度が低いことを表している。また、コストの最小値は0(ゼロ)であり、コストが0(ゼロ)の場合には識別ID列と、IDパターンモデル184に登録されている識別IDパターン(登録IDパターン)とが一致していることを意味する。
コストの計算方法としては、例えば、識別ID列と登録IDパターンとの比較によるコスト計算方法(以下、計算方法Aと記す)及び識別IDの特徴量位置間の距離によるコスト計算方法(以下、計算方法Bと記す)を採用することができる。
計算方法Aでは、識別ID列と登録IDパターンとを比較し、一致する場合には、コストを0(ゼロ)とし、一致しない場合には、予め定められた条件式に基づいて、コストを0(ゼロ)よりも大きい値に設定する。なお、登録IDパターンの要素数により始点と終点の累積コストが異なるので要素数で正規化してもよい。
計算方法Aでは、特徴量空間における識別ID間の距離が考慮されていない。このため、例えば、図13(e)に示す例において、識別ID列の識別ID「9」と登録IDパターンの識別ID「7」とが、特徴量空間におけるユークリッド距離が近い場合と遠い場合とで同じコストとなる。
これに対して、計算方法Bでは、識別IDテーブル185の識別IDに対応する特徴量位置と、登録IDパターンの識別IDに対応する特徴量位置との距離に基づいてコストを演算する。図2の破線の矢印で示すように、計算方法Bによって類似度を演算する場合、類似度演算部191は、登録IDパターンの識別IDに対応する特徴量位置を分類モデル175から取得する。特徴量空間において距離が近い場合には低コストとなり、距離が遠い場合には高コストとなる。なお、近接する特徴量を分離するために、ユークリッド距離の対数値など、近接する距離を強調するような関数を用いたコスト表現を行っても構わない。
図14は、動作Aに対応する登録IDパターン(「203」→「70」→「203」)と、識別IDテーブル185の識別ID列との類似度(コスト)について示す図である。図14に示すように、コストは、時系列で演算されるため、識別ID列に登録IDパターンの識別ID「203」が現れるまでは大きなコストとなっている。識別ID列において、時刻「13:00:02」で登録IDパターンの最初の識別ID「203」が出現するとコストが小さくなり、時刻「13:00:04」で登録IDパターンの識別ID「70」が出現するとさらにコストが小さくなり、時刻「13:00:07」で登録IDパターンの最後の識別ID「203」が出現するとコストは最小値となる。その後、時刻「13:00:09」で登録IDパターンに含まれない識別ID「16」が出現すると、コストは大きくなる。したがって、コストが小さくなる区間(時刻)を検出することにより、登録IDパターンが識別ID列に含まれているか否かの判定を行うことができる。
このように、類似度演算部191は、識別IDの時系列の変化と、IDパターンモデル184の識別IDのパターン(登録IDパターン)との類似度を演算する。図12に示すように、ステップS360において、類似度演算部191が時系列で類似度(コスト)を演算する処理を、動作ごと(動作A、動作B、動作C、…)に行い、全ての動作に関して類似度(コスト)の演算が完了すると、ステップS370へ進む。
ステップS370において、表示制御部192は、ステップS360で演算された時系列の類似度(コスト)を表す表示画像の情報(データ)を出力情報として生成し、出力情報を表示装置165によって出力させ(すなわち、類似度を表す表示画像を表示装置165によって表示させ)、図12のフローチャートに示す処理を終了する。
図15は、表示装置165の表示画面165aに表示される類似度画像166の一例について示す図である。類似度画像166は、縦軸がコストを表し、横軸が時間を表すグラフの画像であり、複数の動作に対して、コストの時間変化が表されている。点線は動作名「動作A」の時系列類似度166aを表し、破線は動作名「動作B」の時系列類似度166bを示し、太い実線は動作名「動作C」の時系列類似度166cを表している。また、線種ごとに、動作名を表すグラフ凡例画像166fが表示画面165aに表示されている。さらに、所定の動作が行われたか否かの目安として、コストの基準線(閾値Ct)を示す画像166hが表示画面165aに表示されている。
このように、本実施形態によれば、時間の経過に応じて変化する動作ごとの類似度が表示装置165の表示画面に表示されるため、油圧ショベル101Aがどのタイミング(時刻)でどのような動作を行ったのかを容易に把握することができ、油圧ショベル101Aの作業効率の向上を図ることができる。
なお、図12のステップS110において、油圧ショベル101Aから多次元収集データテーブル117を取得する例について説明したが、時々刻々と収集されるデータを逐次取得し、類似度を演算して出力するようにしてもよい。
上述した実施形態によれば、次の作用効果を奏する。
(1)動作把握システム(管理装置105)10は、情報を出力する表示装置(出力装置)165と、時系列で変化する稼働に伴う油圧ショベル(機械)101Aの情報を取得し、油圧ショベル101Aの情報に基づいて、油圧ショベル101Aの動作を把握するための出力情報を生成し、表示装置165によって出力情報を出力させる管理サーバ(制御装置)150と、を備える。管理サーバ150は、時系列で変化する油圧ショベル101Aの情報を特徴量とする特徴ベクトルVを時分割で演算し、時分割で演算された複数の特徴ベクトルVを複数のクラスタに分類し、複数のクラスタに識別IDを付与することにより、分類モデル175を作成する分類モデル作成処理(図4参照)を実行可能である。管理サーバ150は、時系列で変化する油圧ショベル101Aの情報を特徴量とする特徴ベクトルVを時分割で演算し、分類モデル175に基づいて、時分割で演算された複数の特徴ベクトルVに識別IDを付与し、油圧ショベル101Aの所定の動作(掘削動作、積込動作等)に対応して時系列で変化する識別IDのパターンを所定の動作の識別情報(動作名)と対応付けて記憶することにより、IDパターンモデル184を作成するIDパターンモデル作成処理(図7参照)を実行可能である。管理サーバ150は、時系列で変化する油圧ショベル101Aの情報を特徴量とする特徴ベクトルVを時分割で演算し、分類モデル175に基づいて、時分割で演算された複数の特徴ベクトルVに識別IDを付与し、識別IDの時系列の変化及びIDパターンモデル184に基づいて、所定の動作を把握するための出力情報を生成し、出力情報を表示装置165によって出力させる情報出力処理(図12参照)を実行可能である。
この構成によれば、予め分類モデル175及びIDパターンモデル184を作成しておくことにより、作業現場において油圧ショベル101Aによる作業を行った場合に、所定の動作を把握するための出力情報(類似度を表す情報)が表示装置165に表示される。したがって、油圧ショベル101Aのオペレータ、及び作業現場の監督者等、表示装置165の閲覧者は、表示装置165の表示画面165aに表示される出力情報(類似度を表す情報)から、油圧ショベル101Aの動作を容易に把握することができ、油圧ショベル101Aの作業効率の向上を図ることができる。
また、この構成によれば、所定の動作(掘削動作、積込動作等)を構成する複数の微小な動き(部分動作)に対して識別IDが自動的に付与される。このため、部分動作ごとに識別情報(動作名)を設定する必要がない。部分動作ごとに自然言語で部分動作名を設定する場合、部分動作の数が多くなると、部分動作の識別情報(部分動作名)と、油圧ショベル101Aの情報とを対応付けたテーブルの作成に手間がかかり、動作把握システムの製造コストの増加をまねくおそれがある。本実施形態では、上述のとおり、部分動作に対して識別IDが自動的に付与されるので、動作把握システム10の製造コストの低減を図ることができる。
(2)本実施形態では、特徴量のサンプリング周期ごとに識別IDが付与される。このため、識別ID列の時間分解能は特徴量のサンプリング周期と同一となる。したがって、サンプリング周期よりも長い所定の時間幅で収集情報を切り出し、部分動作を抽出する場合に比べて、高い時間分解能を得ることができる。
(3)管理サーバ150は、油圧ショベル101Aのセンサで検出された複数の異なる種類の物理量(例えば、ブームシリンダ11aのボトム圧力Pb及びロッド圧力Pr)から算出される物理量(例えば、シリンダ出力Fb)を特徴量とする。複数の情報(物理量)から別の一つの情報(物理量)への変換を行う場合、特徴量の数の低減を図ることができる。
<第2実施形態>
図16及び図17を参照して、第2実施形態に係る動作把握システムについて説明する。なお、図中、第1実施形態と同一もしくは相当部分には同一の参照番号を付し、相違点を主に説明する。第2実施形態に係る動作把握システムは、類似度(コスト)に基づいて、所定の動作の回数を計測し、累積回数を表示装置165の表示画面165aに表示させる。以下、詳しく説明する。
図16及び図17を参照して、第2実施形態に係る動作把握システムについて説明する。なお、図中、第1実施形態と同一もしくは相当部分には同一の参照番号を付し、相違点を主に説明する。第2実施形態に係る動作把握システムは、類似度(コスト)に基づいて、所定の動作の回数を計測し、累積回数を表示装置165の表示画面165aに表示させる。以下、詳しく説明する。
図16は、本発明の第2実施形態に係る動作把握システムの出力制御部290及び出力制御部290が用いるデータについて示す図である。図16に示すように、出力制御部290は、動作認識部293を有している。動作認識部293は、類似度演算部191で演算されたコストに基づいて、IDパターンモデル184に登録されている動作名の動作が行われたか否かを判定する。動作認識部293は、時間の経過により、コストCが予め定められた閾値Ctよりも大きい状態から閾値Ct以下の状態に変化した場合に動作が行われたと判定する。なお、閾値Ctは、ROM152に予め記憶されている。
動作認識部293は、例えば、動作AのコストCが閾値Ctよりも大きい状態から閾値Ct以下の状態に変化した場合、動作認識部293は、動作Aが行われたと判定し、動作Aの回数を計測する。動作認識部293は、所定の動作が行われたと判定された回数を動作の発生回数として計測し、その累積値(累積発生回数)をHDD156に記憶させる。動作認識部293は、動作の発生時刻と、動作の累積発生回数とを対応付けてHDD156に記憶することにより、累積発生回数テーブルを作成する。累積発生回数テーブルは、動作の累積発生回数と、油圧ショベル101Aの稼働時間との関係を表すデータテーブルである。
表示制御部192は、累積発生回数テーブルに基づいて、動作の累積発生回数を表す表示画像を出力情報として生成し、生成した出力情報を表示装置165によって出力させる。
図17は、表示装置165の表示画面165aに表示される動作の累積発生回数を表す画像の一例について示す図である。横軸は、油圧ショベル101Aの稼働時間を示し、縦軸は、動作の累積発生回数を示している。図中、実線は、「動作A」の累積発生回数の時間変化を示し、破線は「動作B」の累積発生回数の時間変化を示し、一点鎖線は「動作C」の累積発生回数の時間変化を示している。このように、本実施形態によれば、表示装置165によって、油圧ショベル101Aの動作の累積発生回数の表示が可能になる。したがって、サービス員は、累積発生回数の多い動作に関わる部品の劣化を容易に推測することができるので、部品の交換のタイミング、部品の調整のタイミング等を適切に設定することができる。また、オペレータは、累積発生回数の情報から無駄な動作の有無、あるいは所定の動作の不足等を確認することができ、それ以降の作業での動作の回数を調整することにより、作業効率の向上を図ることができる。
このように、第2実施形態では、管理サーバ150が、情報出力処理において、識別IDの時系列の変化及びIDパターンモデル184に基づいて、所定の動作が行われた回数を演算し、その演算結果に基づいて出力情報(動作の累積発生回数の時間変化を表す表示画像の情報)として生成し、出力情報を出力装置(表示装置165)によって出力させる。したがって、第2実施形態によれば、上記第1実施形態と同様の作用効果に加え、表示装置165に表示される動作の累積発生回数の情報を分析することにより、メンテナンス作業の効率及び油圧ショベル101Aによる作業の効率の向上を図ることができる。
なお、管理サーバ150は、累積発生回数の表示画像に代えて、累積疲労損傷度、または寿命消費量に関する表示画像を表示装置165の表示画面165aに表示させるようにしてもよい。
<第2実施形態の変形例1>
上記第2実施形態では、動作認識部293が動作の累積発生回数を演算し、表示制御部192がその演算結果を表す表示画像を生成する例について説明したが、本発明はこれに限定されない。動作認識部293が、識別IDの時系列の変化及びIDパターンモデル184に基づいて、所定の動作の時間軸上での発生頻度を演算し、表示制御部192が、その演算結果に基づいて出力情報を生成し、生成した出力情報を表示装置165によって出力させるようにしてもよい。
上記第2実施形態では、動作認識部293が動作の累積発生回数を演算し、表示制御部192がその演算結果を表す表示画像を生成する例について説明したが、本発明はこれに限定されない。動作認識部293が、識別IDの時系列の変化及びIDパターンモデル184に基づいて、所定の動作の時間軸上での発生頻度を演算し、表示制御部192が、その演算結果に基づいて出力情報を生成し、生成した出力情報を表示装置165によって出力させるようにしてもよい。
動作認識部293は、所定の動作が行われたと判定された回数を動作の発生回数として計測し、所定の時間幅当たりの発生回数を発生頻度として演算する。動作認識部293は、時間軸を所定の時間幅で分割し、所定の時間幅内での動作の発生回数を発生頻度としてHDD156に記憶することにより、発生頻度テーブルを作成する。発生頻度テーブルは、動作の発生頻度と、油圧ショベル101Aの稼働時間との関係を表すデータテーブルである。
表示制御部192は、発生頻度テーブルに基づいて、動作の発生頻度を表す表示画像を出力情報として生成し、生成した出力情報を表示装置165によって出力させる。
図18は、表示装置165の表示画面165aに表示される動作の発生頻度を表す画像の一例について示す図である。横軸は、油圧ショベル101Aの稼働時間を示し、縦軸は、動作の発生頻度を示している。図中、実線は、「動作A」の発生頻度の時間変化を示し、破線は「動作B」の発生頻度の時間変化を示し、一点鎖線は「動作C」の発生頻度の時間変化を示している。このように、本変形例によれば、表示装置165によって、油圧ショベル101Aの所定の動作の時間軸上での発生頻度の表示が可能になる。したがって、油圧ショベル101Aによる作業の監督者は、どの時刻にどのような動作を油圧ショベル101Aが行っているかを確認することができ、それ以降の作業計画を調整することにより、作業効率の向上を図ることができる。また、オペレータは、発生頻度の情報から無駄な動作の有無、あるいは所定の動作の不足等を確認することができ、それ以降の作業での動作の回数を調整することにより、作業効率の向上を図ることができる。
<第2実施形態の変形例2>
動作認識部293が、識別IDの時系列の変化及びIDパターンモデル184に基づいて、所定の動作の所定領域内での発生頻度を演算し、表示制御部192が、その演算結果に基づいて出力情報を生成し、生成した出力情報を表示装置165によって出力させるようにしてもよい。
動作認識部293が、識別IDの時系列の変化及びIDパターンモデル184に基づいて、所定の動作の所定領域内での発生頻度を演算し、表示制御部192が、その演算結果に基づいて出力情報を生成し、生成した出力情報を表示装置165によって出力させるようにしてもよい。
油圧ショベル101Aは、複数のGNSS(Global Navigation Satellite System:全地球衛星測位システム)用のアンテナ(以下、GNSSアンテナと記す)と、GNSSアンテナで受信された複数の測位衛星からの衛星信号(GNSS電波)に基づいて、地理座標系(グローバル座標系)における油圧ショベル101Aの位置を演算する測位演算装置を有する。
動作認識部293は、所定の動作が行われたと判定されると、測位演算装置で演算された油圧ショベル101Aの位置を動作の発生場所としてHDD156に記憶する。動作認識部293は、地理座標系における作業現場の地図をメッシュ状に分割し、複数の分割領域を生成する。動作認識部293は、分割領域と、その分割領域内での動作の発生頻度とを対応付けてHDD156に記憶することにより、発生頻度マップを作成する。発生頻度マップは、動作の発生場所(分割領域)と動作の発生頻度との関係を表すマップである。
このように、本変形例によれば、表示装置165によって、油圧ショベル101Aの所定の動作の所定領域内(作業現場内)での発生頻度(発生分布)の表示が可能になる。したがって、油圧ショベル101Aによる作業の監督者は、油圧ショベル101Aがどの場所でどのような動作を行っているかを確認することができ、それ以降の作業計画を調整することにより、作業効率の向上を図ることができる。
<第2実施形態の変形例3>
動作認識部293が、動作の累積発生回数に基づいて、各動作を行うために用いる部品(例えば、掘削動作を行うために用いる油圧シリンダのシール部材)の劣化度合いを演算し、表示制御部192が、その演算結果を表す表示画像を生成し、表示装置165の表示画面165aに部品の劣化度合いを表す画像を表示させるようにしてもよい。なお、動作認識部293は、一種類の動作(例えば、動作A)の累積発生回数に基づいて所定の部品の劣化度合いを演算してもよいし、複数種類の動作(例えば、動作A及び動作B)のそれぞれの累積発生回数に基づいて所定の部品の劣化度合いを演算してもよい。
動作認識部293が、動作の累積発生回数に基づいて、各動作を行うために用いる部品(例えば、掘削動作を行うために用いる油圧シリンダのシール部材)の劣化度合いを演算し、表示制御部192が、その演算結果を表す表示画像を生成し、表示装置165の表示画面165aに部品の劣化度合いを表す画像を表示させるようにしてもよい。なお、動作認識部293は、一種類の動作(例えば、動作A)の累積発生回数に基づいて所定の部品の劣化度合いを演算してもよいし、複数種類の動作(例えば、動作A及び動作B)のそれぞれの累積発生回数に基づいて所定の部品の劣化度合いを演算してもよい。
<第3実施形態>
図19及び図20を参照して、第3実施形態に係る動作把握システムについて説明する。なお、図中、第1及び第2実施形態と同一もしくは相当部分には同一の参照番号を付し、相違点を主に説明する。第3実施形態に係る動作把握システムは、類似度画像166とともに、動作名に付加される付加情報及び動作のアニメーション367を表示装置165の表示画面165aに表示させる。以下、詳しく説明する。
図19及び図20を参照して、第3実施形態に係る動作把握システムについて説明する。なお、図中、第1及び第2実施形態と同一もしくは相当部分には同一の参照番号を付し、相違点を主に説明する。第3実施形態に係る動作把握システムは、類似度画像166とともに、動作名に付加される付加情報及び動作のアニメーション367を表示装置165の表示画面165aに表示させる。以下、詳しく説明する。
図19は、本発明の第3実施形態に係る動作把握システムの出力制御部390及び出力制御部390が用いるデータについて示す図である。図20は、本発明の第3実施形態に係る動作把握システムの表示装置165の表示画面165aに表示される画像の一例について示す図である。図19に示すように、出力制御部390は、付加情報選択部394及び動作表示画像生成部395を有している。また、管理サーバ150のHDD156には、付加情報データテーブル396及び動作表示用データベース397が格納されている。
第2実施形態と同様、動作認識部293は、類似度(コスト)に基づいて、所定の動作が行われたか否かを判定する。所定の動作が行われたと判定されると、動作認識部293は、所定の動作が行われた時刻と、所定の動作とを対応付けてHDD156に記憶する。
また、付加情報選択部394は、動作認識部293によって所定の動作が行われたと判定されると、所定の動作に対応する付加情報を付加情報データテーブル396から選択する。付加情報データテーブル396は、「動作名」と「付加情報」とが対応付けられて記憶されているデータテーブルである。
動作表示画像生成部395は、3次元のアニメーション(動画)を表示装置165に表示させるためのモーション画像を生成する。動作表示用データベース397には、油圧ショベル101Aの各部材(走行体2、旋回体3、ブーム11、アーム12及びバケット13)を表示するための形状及び色の情報を含む部材形状データ、及び部材形状データの接続部(回動支点)等のデータが含まれる。なお、部材形状データ及び接続部のデータ等は、油圧ショベル101Aの型式ごとのデータとして動作表示用データベース397に登録しておいてもよい。この場合、入力装置161を用いて、油圧ショベル101Aの型式を管理サーバ150に入力することにより、動作表示画像生成部395が、入力された型式に対応する部材形状データ及び接続部のデータを選択してモーション画像を生成する。
本実施形態では、油圧ショベル101Aは、ブーム角度センサ124、アーム角度センサ、バケット角度センサ、及び、車体前後傾斜角センサ、車体左右傾斜角センサ、旋回角センサ等の姿勢センサの信号に基づいて、ブーム角度α、アーム角度β、バケット角度γ、走行体2の基準面(例えば水平面)に対する前後方向の傾斜角θ、走行体2の基準面に対する左右方向の傾斜角φ、走行体2と旋回体3との相対角度(旋回角度)ψ等の姿勢情報を演算する姿勢演算装置を備えている。
本実施形態では、多次元収集データテーブル117に、姿勢演算装置で演算された姿勢情報(α,β,γ,θ,φ,ψ)が含まれている。動作表示画像生成部395は、多次元収集データテーブル117cに含まれる姿勢情報(α,β,γ,θ,φ,ψ)をモーションデータとして抽出し、抽出したモーションデータと、動作表示用データベース397の部材形状データ及び接続部のデータに基づいて、油圧ショベル101Aのモーション画像を生成する。より具体的には、動作表示画像生成部395は、部材形状データ及び接続部のデータ、並びにサンプリング周期毎の姿勢情報に基づいて、サンプリング周期毎に油圧ショベル101Aの3次元コンピュータグラフィックス(3DCG)を用いたモーション画像を生成する。3DCGとは油圧ショベル101Aの形状データをもとに、車体形状を幾何学的に表現し、それを、見る方向に応じて投影面に投影変換し2次元画像を得る手法である。したがって、様々な視点から油圧ショベル101Aの様子を可視化することができる。また、姿勢情報(モーションデータ)をもとに油圧ショベル101Aの各構成要素(ブームやアームなど)をその接続部を回動中心として回動させることにより、様々な姿勢の表現も可能になる。
表示制御部392は、動作表示画像生成部395で生成された複数のモーション画像を時系列で変化させることにより、図20に示すように、油圧ショベル101Aのアニメーション(動画)367を表示装置165の表示画面165aに表示させる。また、表示制御部392は、類似度画像166の横軸(時間軸)に、アニメーション367を構成するモーション画像に対応付けられる時刻を表す時刻マーカ366dを表示装置165の表示画面165aに表示させる。したがって、時刻マーカ366dは、アニメーション367を構成する画像の変化とともに、時間軸に沿って図示右側に移動する。
表示制御部392は、所定の動作が行われた時刻のアニメーション367を表示する際、所定の動作の動作名を表す画像(動作名画像)366fと、所定の動作が行われた時刻を表す画像(時刻画像)366hを表示装置165の表示画面165aに表示させる。さらに、表示制御部392は、付加情報選択部394で選択された付加情報を表す画像(付加情報画像)366gを表示装置165の表示画面165aに表示させる。
図20に示す例では、時刻「13:24:26」に、所定の動作としてジャッキアップ動作が行われた場合の画面について示している。ジャッキアップ動作とは、バケット13が地面を押すように作業装置4が動作することにより、地面からの反力によって、油圧ショベル101Aが持ち上げられ、走行体2の後部を支点に走行体2の前部が地面から浮き上がる姿勢となる動作のことを指す。ジャッキアップ操作では、バケットシリンダ13aに大きな負荷がかかる。このため、図示する例では、表示画面165aに「バケットシリンダに損傷の可能性あり」といった注意事項を表すメッセージ画像が付加情報画像366gとして表示されている。また、表示画面165aには、動作名画像366fとして動作名を表す「禁止されたジャッキアップ動作」が表示されている。
このように、第3実施形態では、管理サーバ150が、情報出力処理において、特徴ベクトルVの演算に用いた油圧ショベル101Aの情報(多次元収集データテーブル117cに含まれる姿勢情報)と油圧ショベル101Aの形状データ(走行体2、旋回体3、ブーム11、アーム12及びバケット13の形状データ)に基づいて、油圧ショベル101Aのモーション画像を生成し、モーション画像に基づいて表示装置165の表示画面165aに油圧ショベル101Aのアニメーション367を表示させる。
これにより、表示装置165の閲覧者に対して、どのような動作がどの時刻において発生したのかを、視覚的に分かりやすく伝えることができる。特に、油圧ショベル101Aのように多くの関節を持つ作業機械の動作を把握する際、類似度画像166のようなグラフだけを見ても、どのような動作が行われたのかを把握するのに時間を要する場合がある。本実施形態によれば、類似度画像166とともに、油圧ショベル101Aのアニメーション367が表示装置165の表示画面165aに表示される。このため、表示装置165の閲覧者は、短時間で油圧ショベル101Aによって行われた動作を把握することができるため、作業計画の調整等の効率の向上を図ることができる。
また、管理装置105は、動作名(識別情報)に対応して付加情報が記憶された記憶装置(HDD156)を備え、管理サーバ150が、情報出力処理において、動作名(識別情報)及び付加情報に基づいて出力情報(「バケットシリンダに損傷の可能性あり」といった注意を喚起させるためのメッセージに関する情報)を生成し、出力情報を表示装置165によって出力させる。これにより、所定の時刻に行われた動作が、所定の部品に対して損傷を与える可能性がある動作であることなど、閲覧者に対して、動作に関する付加情報を通知することができ、所定の動作の回数を低減するように注意を喚起させることができる。
<第3実施形態の変形例1>
第3実施形態では、出力制御部390が多次元収集データテーブル117に含まれる姿勢情報に基づいてアニメーションを生成する例について説明したが、本発明はこれに限定されない。出力制御部390Bは、識別IDの時系列の変化に基づいて、アニメーションを生成してもよい。
第3実施形態では、出力制御部390が多次元収集データテーブル117に含まれる姿勢情報に基づいてアニメーションを生成する例について説明したが、本発明はこれに限定されない。出力制御部390Bは、識別IDの時系列の変化に基づいて、アニメーションを生成してもよい。
図21は、本発明の第3実施形態の変形例1に係る動作把握システムの出力制御部390B及び出力制御部390Bが用いるデータについて示す図である。動作表示画像生成部395Bは、識別ID列生成部181で生成された識別IDテーブル185を構成する時系列の識別IDに対応する代表特徴ベクトルViを分類モデル175から選択する。動作表示画像生成部395Bは、選択した代表特徴ベクトルViを構成する特徴量に含まれる姿勢情報(α,β,γ,θ,φ,ψ)を抽出し、抽出した特徴量(姿勢情報)と、動作表示用データベース397の部材形状データ及び接続部のデータに基づいて、油圧ショベル101Aの画像を生成し、生成した画像を表示装置165に時系列で表示させる。
ただし、識別IDからは1つの代表特徴ベクトルViが選択されるため、多次元収集データテーブル117の姿勢情報に基づいてアニメーション367を生成する場合(第3実施形態)に比べて動きが荒くなってしまう。多次元収集データテーブル117を用いてアニメーション367を生成する場合、時間分解能が高いため、アニメーション367によって滑らかな動きを表現できる。一方、時系列の識別IDに対応する代表特徴ベクトルViを構成する姿勢情報に対応する画像を順次表示する場合、ギクシャクした動きとなってしまう。そこで、本変形例では、コンピュータアニメーションの分野で利用されているキーフレーム法を用いる。
キーフレーム法とは、キーになる姿勢間の姿勢を補間して生成する手法である(キーフレーム補間ともいわれる)。キーフレーム法を用いてキーになる姿勢間の姿勢情報(すなわち、α,β,γ,θ,φ,ψ等のモーションデータ)を補間して生成することにより滑らかなアニメーションを表現することができる。動作表示画像生成部395Bは、識別IDに対応する代表特徴ベクトルViを構成する姿勢情報(モーションデータ)を制御点として、識別IDの時系列の変化に応じて生成される制御点間の姿勢情報(モーションデータ)を補間生成し、モーション画像を生成する。表示制御部392は、動作表示画像生成部395Bにより生成されたモーション画像に基づいて、アニメーション367を表示装置165の表示画面165aに表示させる。
図22を参照して、キーフレーム法を用いてモーションデータを補間生成する一例について説明する。図22は、識別IDが「5」→「7」→「10」の順に変化したときに補間生成されるモーションデータについて説明する図である。なお、説明の簡単化のため、傾斜角θ,φ及び旋回角ψは、所定の角度(0°)で時間変化していないものとして説明する。
ここで、識別ID「5」に対応する姿勢368a、識別ID「7」に対応する姿勢368c、及び識別ID「10」に対応する姿勢368eを表す画像が順番に表示装置165に表示されると、ギクシャクした動きとなってしまう。本変形例では、上述したように、識別ID「5」,「7」,「10」に対応する代表特徴ベクトルViの姿勢情報をキーフレームとしたキーフレーム補間法を用いて、キーフレーム間のモーション画像を生成する。動作表示画像生成部395Bは、識別IDに紐づいている各特徴量(ブーム角度α、アーム角度β、バケット角度γ)を制御点(キーとなるモーションデータ)としてスプライン関数などの補間関数を用いて、キーフレーム間の時刻におけるモーションデータ(ブーム角度α、アーム角度β、バケット角度γ)を補間演算する。つまり、動作表示画像生成部395Bは、識別ID「5」,「7」,「10」の3点のモーションデータ(α,β,γ)に基づいて、識別ID「5」における姿勢368aと識別ID「7」における姿勢368cとの間の姿勢368bを表すモーションデータ(α,β,γ)、及び、識別ID「7」における姿勢368cと識別ID「10」における姿勢368eとの間の姿勢368dを表すモーションデータ(α,β,γ)を生成する。
動作表示画像生成部395Bは、識別ID「5」と識別ID「7」の間の時刻におけるモーションデータ(補間演算により得られたモーションデータ)に基づいて、姿勢368bのモーション画像を生成する。同様に、動作表示画像生成部395Bは、識別ID「7」と識別ID「10」の間の時刻におけるモーションデータ(補間演算により得られたモーションデータ)に基づいて、姿勢368dのモーション画像を生成する。なお、図22では、キーフレーム間の姿勢が1つの場合について示しているが、実際には、複数の姿勢を表すためのモーションデータを補間により生成する。アニメーションは一般的に1秒当たり30枚の画像で構成される。このため、識別IDが「5」→「7」→「10」の順に変化する時間が10秒である場合、300枚(10秒×30枚/秒)の画像が必要になる。つまり、動画表示画像生成部395Bは、10秒程度のアニメーションを生成する場合、時系列に変化するブーム角度α,アーム角度β及びバケット角度γ(モーションデータ)をそれぞれ300個程度生成する。次に、動作表示画像生成部395Bは、補間した各時刻におけるモーション画像を3DCGの手法で生成する(つまり、形状の投影変換を行う)。これにより、300枚程度のモーション画像が生成される。表示制御部392は、300枚程度の画像を30枚/秒程度の速度で順次切り替えて表示装置165の表示画面165aに表示させる。これにより、アニメーションによる滑らかな動作表現が可能になる。なお、スプライン関数を補間関数として用いてモーションデータを補間生成する方法について説明したが、これに限らず、種々の補間方法によってモーションデータを生成してもよい。
このように、本変形例では、管理サーバ150が、情報出力処理において、識別IDに対応する代表特徴ベクトルViを構成する特徴量(姿勢情報)をキーフレームとして、識別IDの時系列の変化に応じて生成されるキーフレーム間を補間してモーションデータを生成し、モーションデータに基づいて表示装置165に油圧ショベル101Aのアニメーション367を表示させる。このような本変形例によれば、上記第3実施形態と同様、アニメーション367によって滑らかな動きを表現できるので、表示装置165の閲覧者は、油圧ショベル101Aの動作を容易に把握することができる。
また、キーフレーム法でアニメーション367を生成する場合、キーフレームは人手で作成するのが一般的であり、モーションデータの作成に手間がかかる。これに対して、本変形例では、クラスタリングにより生成される代表特徴ベクトルViに基づいて、モーションデータが自動生成される。したがって、人手で作成する手間を省略することができ、かつ、視覚的に分かり易い油圧ショベル101Aの動作のアニメーション表示が可能になる。
なお、管理サーバ150は、キーフレーム法により、キーフレーム間を補間するモーションデータを生成することなく、識別IDに対応する代表特徴ベクトルViに基づいて生成されるイラスト画像(例えば、姿勢368a、姿勢368c、姿勢368eの静止画像)を表示装置165の表示画面165aに順次表示させるようにしてもよい。ギクシャクした動作表現となるが、イラスト画像を表示装置165に表示させない場合に比べて、動作の把握を容易に行うことができる。また、キーフレーム法でアニメーション367を生成する場合に比べて、管理サーバ150に廉価なCPU151を採用することができるので、管理サーバ150の低コスト化を図ることができる。
<第3実施形態の変形例2>
第3実施形態では、出力制御部390は、類似度画像166、動作名画像366f、付加情報画像366g、時刻画像366h、及びアニメーション367を表示装置165の表示画面165aに表示させる例について説明したが、本発明はこれに限定されない。出力制御部390は、図23に示すように、所定の動作の累積発生回数の時間変化を表す画像(累積発生回数画像)366jと、累積発生回数に基づいて演算される故障リスクを表す画像(故障リスク画像)366iと、所定の動作の特徴的な姿勢の静止画像366kを表示装置165の表示画面165aに表示させるようにしてもよい。
第3実施形態では、出力制御部390は、類似度画像166、動作名画像366f、付加情報画像366g、時刻画像366h、及びアニメーション367を表示装置165の表示画面165aに表示させる例について説明したが、本発明はこれに限定されない。出力制御部390は、図23に示すように、所定の動作の累積発生回数の時間変化を表す画像(累積発生回数画像)366jと、累積発生回数に基づいて演算される故障リスクを表す画像(故障リスク画像)366iと、所定の動作の特徴的な姿勢の静止画像366kを表示装置165の表示画面165aに表示させるようにしてもよい。
図19に示す動作認識部293は、第2実施形態と同様、類似度(コスト)に基づいて、所定の動作が行われたか否かを判定し、その判定結果に基づいて累積発生回数テーブルを作成する。所定の動作の累積発生回数が多くなるほど、所定の部品の故障の可能性が高くなる場合がある。本変形例では、出力制御部390は、所定の動作の累積発生回数に応じた故障の可能性の度合い(故障リスクのレベル)を表す画像を故障リスク画像366iとして表示装置165の表示画面165aに表示させる(図23参照)。
動作認識部293は、累積発生回数が第1閾値未満では、故障リスクのレベルを1に設定し、累積発生回数が第1閾値以上第2閾値未満では、故障リスクのレベルを2に設定し、累積発生回数が第3閾値以上では、故障リスクのレベルを3に設定する。表示制御部392は、動作認識部293により設定された故障リスクのレベルを表す画像を故障リスク画像366iとして表示装置165の表示画面165aに表示させる(図23参照)。また、表示制御部392は、所定の動作の特徴的な姿勢の静止画像366kを表示装置165の表示画面165aに表示させる。静止画像366kは、付加情報として、所定の動作に対応付けられて記憶されている。なお、静止画像366kは、多次元収集データテーブル117に含まれる、所定の動作が行われているときの姿勢情報から作成してもよいし、所定の動作に対応する登録IDパターンを構成する識別IDに基づいて作成してもよい。
第2実施形態では、累積発生回数の時間変化を表す画像が表示装置165に表示されるのみであったため、閲覧者が、所定の部品の故障の可能性の度合いを判断する必要があった。これに対して、第3実施形態の変形例2では、管理サーバ150が所定の部品の故障の可能性の度合い(故障リスクのレベル)を演算し、その演算結果に基づいて故障の可能性の度合いを表す画像(故障リスク画像)366iを表示装置165に表示させるようにした。このため、閲覧者は、故障の可能性の度合いを容易に判断することができる。また、累積発生回数の時間変化を表す累積発生回数画像366jから、故障の可能性が高まる動作の発生頻度を将来的な時間変化との相関関係で把握することができる。
なお、故障リスクのレベルの設定方法は、一の動作の累積発生回数に基づいて設定する場合に限らず、複数の動作の累積発生回数に基づいて設定してもよい。この場合、動作に応じた重みを付与してもよい。また、累積発生回数に代えて、累積疲労損傷度、または寿命消費量に基づいて、故障リスクのレベルを設定してもよい。なお故障リスクのレベルは例えば低い順から高い順に1から3など、少なくとも2以上の段階であればよい。
図23は、本発明の第3実施形態の変形例2に係る動作把握システムの表示装置165の表示画面165aに表示される画像の一例について示す図である。図23に示す例では、累積発生回数画像366jは、累積発生回数が時間の経過とともに増加するように表示される。上図に示す表示画面165aには、所定時刻t1までの動作の発生回数の累積値を表す累積発生回数画像366jが表示される。累積発生回数画像366jは、累積発生回数と回数に対応する故障リスクのレベルが関連付けられた画像であってもよい。図に示す例では、累積発生回数画像366jに、故障リスクのレベルの設定に用いられる第1閾値を表す基準線366ma及び第2閾値を表す基準線366mbが含まれている。また、表示画面165aには、時刻t1における故障リスクのレベルが1であることを表す故障リスク画像366iが表示される。時間の経過とともに累積発生回数が増加すると、下図に示すように、所定の時刻t2までの動作の発生回数の累積値を表す累積発生回数画像366jが表示画面165aに表示される。また、表示画面165aには、時刻t2における故障リスクのレベルが3であることを表す故障リスク画像366iが表示される。なお、図示するように、故障リスクのレベルが3である場合に、「お近くの代理店にご連絡ください」といった代理店等への連絡を促すメッセージ画像366nを表示画面165aに表示させてもよい。
なお、図23では、故障リスクのレベルを表示する例について図示しているが、故障リスクの変化を表すメッセージ(例えば、部品Aの故障リスクのレベルが1から2に上昇しました)を表示装置165の表示画面165aに表示させてもよい。通知の態様は表示に限られるものではなく、例えば外部の端末へのメールであってもよい。これにより、所定の部品の故障リスクが高まったことを閲覧者に通知することができ、所定の動作の回数を低減するように注意を喚起させることができる。また、故障リスクのレベルに応じて故障リスク画像366iの背景色を異ならせてもよい。例えば、故障リスクのレベルが1の場合には故障リスク画像366iの背景色を青色とし、故障リスクのレベルが2の場合には故障リスク画像366iの背景色を黄色とし、故障リスクのレベルが3の場合には故障リスク画像366iの背景色を赤色としてもよい。
さらに、作業機械101の部位と、その部位の累積損傷度(または故障リスク)とを関連付けた画像が、表示装置165の表示画面165aに表示されるようにしてもよい。例えば、静止画像366kにおいて、該当部位が特定できるように、丸などの図形で該当部位を囲む枠画像を表示してもよい。その際、故障リスクの高い部位(レベル3)のみを赤い丸で囲って明示してもよく、あるいはレベルごとの複数の色分けを組み合わせて表示してもよい。組み合わせは任意に設定可能である。なお表示対象の部位が多く、静止画像366kの表示領域が不足する場合は、動作名画像366f、付加情報画像366g、故障リスク画像366i、メッセージ画像366nを表示せず、それらが表示されていた領域を含む領域において、静止画像366kを拡大表示してもよい。こうすることで閲覧者は作業機械101の全体像(静止画像366k)からどの部位の損傷度が高くなっているかを直感的かつ視覚的に把握することができる。
<第4実施形態>
図24を参照して、第4実施形態に係る動作把握システムについて説明する。なお、図中、第1及び第2実施形態と同一もしくは相当部分には同一の参照番号を付し、相違点を主に説明する。第4実施形態に係る動作把握システムでは、所定の動作の継続時間の測定を行う。継続時間とは、例えば、「掘削動作」、「積込動作」、「掘削積込動作」等、所定の動作が開始されてから終了するまでの作業時間に相当する。
図24を参照して、第4実施形態に係る動作把握システムについて説明する。なお、図中、第1及び第2実施形態と同一もしくは相当部分には同一の参照番号を付し、相違点を主に説明する。第4実施形態に係る動作把握システムでは、所定の動作の継続時間の測定を行う。継続時間とは、例えば、「掘削動作」、「積込動作」、「掘削積込動作」等、所定の動作が開始されてから終了するまでの作業時間に相当する。
図24は、本発明の第4実施形態に係る動作把握システムの出力制御部490及び出力制御部490が用いるデータについて示す図である。図24に示すように、出力制御部490は、継続時間計測部498を有している。継続時間計測部498は、識別ID列生成部181で生成された識別IDテーブル185の識別ID列から登録IDパターンの始点(所定の動作の開始時刻)と終点(所定の動作の終了時刻)を探索し、所定の動作の開始時刻から終了時刻までの時間を、所定の動作の継続時間として算出する。動作認識部293は、上述と同様、類似度に基づいて所定の動作が行われたか否かを判定する。
継続時間計測部498は、識別IDテーブル185を参照し、所定の動作が行われたと判定された時刻の識別IDが、その時刻以降においても連続して設定されているか否かを判定する。識別IDが連続して設定されていると判定されると、継続時間計測部498は、識別IDが連続して設定されている同じ識別IDの最後の時刻を、所定の動作の終了時刻として設定する。識別IDが連続して設定されていないと判定されると、継続時間計測部498は、所定の動作が行われたと判定された時刻を、所定の動作の終了時刻として設定する。
継続時間計測部498は、識別IDテーブル185を参照し、所定の動作が行われたと判定された時刻よりも前の時刻において、所定の動作に対応する登録IDパターンの最初の識別IDが出現した時刻を、所定の動作の開始時刻として設定する。
図14を参照して、継続時間の計測方法の具体例について説明する。図14に示す例では、動作認識部293は、時刻「13:00:07」において、動作Aが行われたと判定する。継続時間計測部498は、時刻「13:00:07」の識別ID203が時刻13:00:08においても設定されているか否かを判定する。時刻「13:00:08」においても識別ID203が設定されているため、継続時間計測部498は、識別IDが連続して設定されている同じ識別IDの最後の時刻「13:00:08」を、動作Aの終了時刻として設定する。継続時間計測部498は、動作Aが行われたと判定された時刻「13:00:07」よりも前の時刻において、動作Aに対応する登録IDパターン「203」→「70」→「203」の最初の識別IDが出現した時刻「13:00:02」を、動作Aの開始時刻として設定する。継続時間計測部498は、動作Aの終了時刻「13:00:08」から開始時刻「13:00:02」を差し引くことにより、継続時間「6sec」を算出する。
図24に示す表示制御部492は、所定期間内における動作ごとの継続時間の平均値、積算値等を表す表示画像を表示装置165の表示画面165aに表示させる。なお、動作の継続時間、動作の開始時刻及び終了時刻は、油圧ショベル101Aの動作の分析を行うアプリケーションを搭載した機器(例えば、メンテナンス作業員が所持する携帯端末)に送信してもよい。
本実施形態に係る管理サーバ150は、情報出力処理において、識別IDの時系列の変化及びIDパターンモデル184に基づいて、所定の動作の継続時間を演算し、その演算結果に基づいて継続時間を表す出力情報を生成し、出力情報を表示装置(出力装置)165によって出力させる。なお、本実施形態では、油圧ショベル101Aの動作の継続時間、開始時刻及び終了時刻を計測して、それらの情報を表示装置165に表示させる。したがって、表示装置165を閲覧する閲覧者は、表示装置165に表示されている動作の継続時間、開始時刻及び終了時刻を、油圧ショベル101Aの作業の分析に役立てることができる。
次のような変形例も本発明の範囲内であり、変形例に示す構成と上述の実施形態で説明した構成を組み合わせたり、上述の異なる実施形態で説明した構成同士を組み合わせたり、以下の異なる変形例で説明する構成同士を組み合わせることも可能である。
<変形例1>
上記実施形態では、管理装置105が、油圧ショベル101Aの動作把握システム10として機能する例について説明したが、本発明はこれに限定されない。油圧ショベル101Aのみによって動作把握システム10を構成するようにしてもよいし、油圧ショベル101Aと管理装置105によって、動作把握システム10B,10C(図25、図26参照)を構成するようにしてもよい。
上記実施形態では、管理装置105が、油圧ショベル101Aの動作把握システム10として機能する例について説明したが、本発明はこれに限定されない。油圧ショベル101Aのみによって動作把握システム10を構成するようにしてもよいし、油圧ショベル101Aと管理装置105によって、動作把握システム10B,10C(図25、図26参照)を構成するようにしてもよい。
<変形例1-1>
図25は、図2と同様の図であり、変形例1-1に係る動作把握システム10Bの機能ブロック図である。本変形例は、油圧ショベル101Aの車体コントローラ510が、分類モデル175を作成する機能、及び、識別IDテーブル185を作成する機能を有し、管理サーバ550が、それらの機能を有していない点が第1実施形態と異なる。
図25は、図2と同様の図であり、変形例1-1に係る動作把握システム10Bの機能ブロック図である。本変形例は、油圧ショベル101Aの車体コントローラ510が、分類モデル175を作成する機能、及び、識別IDテーブル185を作成する機能を有し、管理サーバ550が、それらの機能を有していない点が第1実施形態と異なる。
図25に示すように、油圧ショベル101Aの車体コントローラ510は、ROM112に記憶されているプログラムを実行することにより、特徴ベクトル生成部172、分類部173、識別ID付与部174、識別ID列生成部181及びデータ送信部129として機能する。識別ID列生成部181は、特徴量データテーブル176及び分類モデル175に基づいて、識別IDテーブル185を生成し、HDD116に記憶する。データ送信部129は、HDD116に記憶されている識別IDテーブル185を通信装置128により、通信回線109を介して管理装置105に送信する。
管理装置105の管理サーバ550は、ROM152に記憶されているプログラムを実行することにより、データ取得部171、IDパターン抽出部182、類似度演算部191及び表示制御部192として機能する。
データ取得部171は、通信装置162によって、油圧ショベル101Aから通信回線109を介して識別IDテーブル185及び動作データテーブル118を取得し、HDD156に記憶する。なお、IDパターン抽出部182、類似度演算部191及び表示制御部192は、第1実施形態と同様の機能を有するため、詳細な説明を省略する。
このように、本変形例に係る動作把握システム10Bは、油圧ショベル101Aが有する車体コントローラ(第1制御装置)510と、油圧ショベル101Aの外部に配置される管理装置(外部装置)105が有する管理サーバ(第2制御装置)550と、を有する。車体コントローラ510は、時系列で変化する油圧ショベル101Aの情報を特徴量とする特徴ベクトルVを時分割で演算し、分類モデル175に基づいて、時分割で演算された複数の特徴ベクトルVに識別IDを付与し、識別IDの時系列の変化を表す識別ID列の情報を管理装置105に送信する第1の情報出力処理を実行可能である。また、管理サーバ550は、識別IDの時系列の変化及びIDパターンモデル184に基づいて、所定の動作を把握するための出力情報を生成し、出力情報を表示装置(出力装置)165によって出力させる第2の情報出力処理を実行可能である。
第1実施形態では、サンプリング周期ごとに取得された複数種類の収集情報(物理量)からなる多次元収集データテーブル117を通信回線109を介して油圧ショベル101Aから管理装置105に送信していた。これに対して、本変形例では、油圧ショベル101Aの車体コントローラ510が識別IDの時系列の変化のデータテーブルである識別IDテーブル185を生成し、生成した識別IDテーブル185を、通信回線109を介して管理装置105に送信する。識別IDテーブル185は、多次元収集データテーブル117に比べてデータ量が小さい。したがって、本変形例によれば、第1実施形態に比べて、通信量の低減を図ることができる。
なお、識別IDの特徴量位置間の距離によるコスト計算方法(計算方法B)により、コストを計算する場合には、予め分類モデル175を、油圧ショベル101Aの車体コントローラ510から通信回線109を介して管理装置105の管理サーバ550に送信し、HDD156に記憶させておけばよい。また、類似度演算部191での演算結果を通信回線109を介して、メンテナンス作業員が所持する携帯端末に送信し、携帯端末のアプリケーションによって類似度画像166を携帯端末の表示画面に表示させるようにしてもよい。
<変形例1-2>
図26は、図2と同様の図であり、変形例1-2に係る動作把握システム10Cの機能ブロック図である。本変形例は、油圧ショベル101Aの車体コントローラ610が、分類モデル175を作成する機能、識別IDテーブル185を作成する機能、IDパターンモデル184を作成する機能を有し、管理サーバ650が、それらの機能を有していない点が第1実施形態と異なる。
図26は、図2と同様の図であり、変形例1-2に係る動作把握システム10Cの機能ブロック図である。本変形例は、油圧ショベル101Aの車体コントローラ610が、分類モデル175を作成する機能、識別IDテーブル185を作成する機能、IDパターンモデル184を作成する機能を有し、管理サーバ650が、それらの機能を有していない点が第1実施形態と異なる。
図26に示すように、油圧ショベル101Aの車体コントローラ610は、ROM112に記憶されているプログラムを実行することにより、特徴ベクトル生成部172、分類部173、識別ID付与部174、識別ID列生成部181、IDパターン抽出部182、類似度演算部191及びデータ送信部129として機能する。識別ID列生成部181は、特徴量データテーブル176及び分類モデル175に基づいて、識別IDテーブル185(図8参照)を生成し、HDD116に記憶する。また、IDパターン抽出部182は、識別IDテーブル185及び動作データテーブル118に基づいて、IDパターンモデル184を生成し、HDD116に記憶する。データ送信部129は、類似度演算部191での演算結果を通信装置128により、通信回線109を介して管理装置105に送信する。
管理装置105の管理サーバ650は、ROM152に記憶されているプログラムを実行することにより、データ取得部171、分析部693及びデータ送信部692として機能する。
データ取得部171は、通信装置162によって、油圧ショベル101Aから通信回線109を介して類似度演算部191での演算結果(データ)を取得し、HDD156に記憶する。
分析部693は、例えば、第2実施形態及び第2実施形態の変形例1で説明した動作認識部293であり、動作の累積発生回数及び動作の発生頻度等、油圧ショベル101Aの動作を分析するための分析用データを生成する。データ送信部692は、分析用データを通信装置162により、通信回線109を介してメンテナンス作業員等、油圧ショベル101Aの動作の分析を行うユーザが所有する通信端末91,92,93に送信する。通信端末91,92,93は、所定のアプリケーションが実行されることにより、分析用データに関する表示画像(例えば、累積発生回数画像、発生頻度画像)を通信端末91,92,93の表示画面に表示させる。
このように、本変形例に係る動作把握システム10Cは、油圧ショベル101Aが有する車体コントローラ(第1制御装置)610と、油圧ショベル101Aの外部に配置される管理装置(外部装置)105が有する管理サーバ(第2制御装置)650と、を有する。車体コントローラ610は、時系列で変化する油圧ショベル101Aの情報を特徴量とする特徴ベクトルVを時分割で演算し、分類モデル175に基づいて、時分割で演算された複数の特徴ベクトルVに識別IDを付与し、識別IDの時系列の変化及びIDパターンモデル184に基づいて、所定の動作を把握するための出力情報を生成し、出力情報を管理装置105に送信する第1の情報出力処理を実行可能である。また、管理サーバ650は、出力情報を通信装置(出力装置)162によって通信端末91,92,93に出力させる第2の情報出力処理を実行可能である。このような変形例によれば、第1実施形態に比べて、通信量の低減を図ることができる。なお、管理サーバ650は、第2の情報出力処理において、出力情報を表示装置(出力装置)165によって出力させてもよい。
<変形例1-3>
図示しないが、油圧ショベル101Aの車体コントローラ110が、第3実施形態の変形例1で説明した出力制御部390Bの機能を有していてもよい。この場合、出力制御部390Bは、通信回線109を介して油圧ショベル101Aのモーションデータを管理装置105に送信する。管理装置105は、取得したモーションデータに基づいて、油圧ショベル101Aのアニメーション367を表示装置165の表示画面165aに表示させる。ここで、油圧ショベル101Aから送信するモーションデータは、図22の姿勢368a,368c,368eに対応するモーションデータとして、管理装置105側で、キーフレーム法により、姿勢368b,368dに対応するモーションデータを補間演算して表示装置165の表示画面165aに表示することが好ましい。これにより、油圧ショベル101Aから管理装置105に送信するデータ量の低減を図ることができる。
図示しないが、油圧ショベル101Aの車体コントローラ110が、第3実施形態の変形例1で説明した出力制御部390Bの機能を有していてもよい。この場合、出力制御部390Bは、通信回線109を介して油圧ショベル101Aのモーションデータを管理装置105に送信する。管理装置105は、取得したモーションデータに基づいて、油圧ショベル101Aのアニメーション367を表示装置165の表示画面165aに表示させる。ここで、油圧ショベル101Aから送信するモーションデータは、図22の姿勢368a,368c,368eに対応するモーションデータとして、管理装置105側で、キーフレーム法により、姿勢368b,368dに対応するモーションデータを補間演算して表示装置165の表示画面165aに表示することが好ましい。これにより、油圧ショベル101Aから管理装置105に送信するデータ量の低減を図ることができる。
<変形例2>
上記実施形態では、作業機械101の情報を通信回線109を介して管理装置105に送信する例について説明したが、本発明はこれに限定されない。作業機械101の情報をメモリーカード等の可搬可能な記憶媒体に記憶し、管理装置105に記憶媒体の情報を読み込ませるようにしてもよい。
上記実施形態では、作業機械101の情報を通信回線109を介して管理装置105に送信する例について説明したが、本発明はこれに限定されない。作業機械101の情報をメモリーカード等の可搬可能な記憶媒体に記憶し、管理装置105に記憶媒体の情報を読み込ませるようにしてもよい。
<変形例3>
第1実施形態では、管理装置105は、油圧ショベル101Aの所定の動作を把握するための出力情報として表示画像の情報を生成し、表示装置165の表示画面165aに表示画像を表示させる例について説明したが、本発明はこれに限定されない。管理サーバ150は、油圧ショベル101Aの所定の動作を把握するための出力情報として印刷画像の情報を生成し、出力装置としての印刷装置によって出力情報を出力させる、すなわち紙媒体に印刷画像を印刷させるようにしてもよい。また、管理サーバ150は、油圧ショベル101Aの所定の動作を把握するための出力情報を、出力装置としての通信装置162を介して、スマートフォン、タブレットPC、携帯電話等の携帯端末に送信(出力)するようにしてもよい。これにより、携帯端末の所有者は、携帯端末を操作することにより、油圧ショベル101Aの所定の動作を把握するための情報を表示画面に表示させることができる。
第1実施形態では、管理装置105は、油圧ショベル101Aの所定の動作を把握するための出力情報として表示画像の情報を生成し、表示装置165の表示画面165aに表示画像を表示させる例について説明したが、本発明はこれに限定されない。管理サーバ150は、油圧ショベル101Aの所定の動作を把握するための出力情報として印刷画像の情報を生成し、出力装置としての印刷装置によって出力情報を出力させる、すなわち紙媒体に印刷画像を印刷させるようにしてもよい。また、管理サーバ150は、油圧ショベル101Aの所定の動作を把握するための出力情報を、出力装置としての通信装置162を介して、スマートフォン、タブレットPC、携帯電話等の携帯端末に送信(出力)するようにしてもよい。これにより、携帯端末の所有者は、携帯端末を操作することにより、油圧ショベル101Aの所定の動作を把握するための情報を表示画面に表示させることができる。
<変形例4>
第3実施形態の変形例1では、動作表示画像生成部395Bが、識別IDテーブル185を構成する全ての識別IDに対応するモーション画像を生成し、アニメーション367を生成する例について説明したが、本発明はこれに限定されない。動作認識部293で認識された動作のみ、モーション画像を生成してもよい。なお、動作認識部293によって、識別ID列生成部181で生成された識別ID列「5」→「7」→「8」→「10」に対して、登録IDパターン「5」→「7」→「10」の動作が行われたと判定された場合、動作表示画像生成部395Bは、登録IDパターン「5」→「7」→「10」に基づいてモーション画像を生成してもよい。つまり、識別ID「8」のモーション画像を省いたアニメーションを生成してもよい。
第3実施形態の変形例1では、動作表示画像生成部395Bが、識別IDテーブル185を構成する全ての識別IDに対応するモーション画像を生成し、アニメーション367を生成する例について説明したが、本発明はこれに限定されない。動作認識部293で認識された動作のみ、モーション画像を生成してもよい。なお、動作認識部293によって、識別ID列生成部181で生成された識別ID列「5」→「7」→「8」→「10」に対して、登録IDパターン「5」→「7」→「10」の動作が行われたと判定された場合、動作表示画像生成部395Bは、登録IDパターン「5」→「7」→「10」に基づいてモーション画像を生成してもよい。つまり、識別ID「8」のモーション画像を省いたアニメーションを生成してもよい。
<変形例5>
上記実施形態では、学習用の多次元収集データテーブル117a,117bが、油圧ショベル101Aの実機データによって作成される例について説明したが、本発明はこれに限定されない。油圧ショベル101Aの動作を模擬したシミュレータを用いて模擬操作を行い、そのときに得られるシミュレーションデータによって学習用の多次元収集データテーブル117a,117bを作成してもよい。
上記実施形態では、学習用の多次元収集データテーブル117a,117bが、油圧ショベル101Aの実機データによって作成される例について説明したが、本発明はこれに限定されない。油圧ショベル101Aの動作を模擬したシミュレータを用いて模擬操作を行い、そのときに得られるシミュレーションデータによって学習用の多次元収集データテーブル117a,117bを作成してもよい。
<変形例6>
上記実施形態では、作業機械101が油圧ショベル101A、ダンプトラック101B及び作業ロボット101Cである例について説明したが、本発明はこれに限定されない。ホイールローダ、クローラクレーンなどの作業機械に本発明を適用してもよい。また、作業機械101に限定されることもなく、動作が時系列で変化する機械であれば、本発明の適用が可能である。
上記実施形態では、作業機械101が油圧ショベル101A、ダンプトラック101B及び作業ロボット101Cである例について説明したが、本発明はこれに限定されない。ホイールローダ、クローラクレーンなどの作業機械に本発明を適用してもよい。また、作業機械101に限定されることもなく、動作が時系列で変化する機械であれば、本発明の適用が可能である。
以上、本発明の実施形態について説明したが、上記実施形態は本発明の適用例の一部を示したに過ぎず、本発明の技術的範囲を上記実施形態の具体的構成に限定する趣旨ではない。
4…作業装置、10,10B,10C…動作把握システム、101…作業機械、101A…油圧ショベル(機械)、101B…ダンプトラック(機械)、101C…作業ロボット(機械)、105…管理装置(外部装置)、109…通信回線、110…車体コントローラ(第1制御装置、制御装置)、117…多次元収集データテーブル、118…動作データテーブル、121…ボトム圧センサ(センサ)、122…ロッド圧センサ(センサ)、123…ブーム操作センサ(センサ)、124…ブーム角度センサ(姿勢センサ、センサ)、125…温度センサ(センサ)、128…通信装置(出力装置)、150…管理サーバ(第2制御装置、制御装置)、162…通信装置(出力装置)、165…表示装置(出力装置)、166…類似度画像、170…分類モデル作成部、172…特徴ベクトル生成部、173…分類部、174…識別ID付与部、175…分類モデル、176…特徴量データテーブル、180…IDパターンモデル作成部、181…識別ID列生成部、182…IDパターン抽出部、184…IDパターンモデル、185…識別IDテーブル、190…出力制御部、191…類似度演算部、192…表示制御部(出力制御部)、290…出力制御部、293…動作認識部、366g…付加情報画像、366i…故障リスク画像、366j…累積発生回数画像、366k…静止画像、367…アニメーション(動画)、390,390B…出力制御部、392…表示制御部、394…付加情報選択部、395,395B…動作表示画像生成部、396…付加情報データテーブル、397…動作表示用データベース、490…出力制御部、492…表示制御部、498…継続時間計測部、510…車体コントローラ(第1制御装置)、550…管理サーバ(第2制御装置)、610…車体コントローラ(第1制御装置)、650…管理サーバ(第2制御装置)、693…分析部、C…コスト(類似度)
Claims (12)
- 情報を出力する表示装置と、
時系列で変化する稼動に伴う機械の情報を取得し、前記機械の情報に基づいて、前記機械の動作を把握するための出力情報を生成し、前記表示装置によって前記出力情報を出力させる制御装置と、を備えた動作把握システムにおいて、
前記制御装置は、
時系列で変化する機械の情報を特徴量とする特徴ベクトルを時分割で演算し、前記時分割で演算された複数の特徴ベクトルを複数のクラスタに分類し、前記複数のクラスタに識別IDを付与することにより、分類モデルを作成する分類モデル作成処理と、
時系列で変化する機械の情報を特徴量とする特徴ベクトルを時分割で演算し、前記分類モデルに基づいて、前記時分割で演算された複数の特徴ベクトルに前記識別IDを付与し、前記機械の所定の動作に対応して時系列で変化する前記識別IDのパターンを前記所定の動作の識別情報と対応付けて記憶することにより、IDパターンモデルを作成するIDパターンモデル作成処理と、
時系列で変化する機械の情報を特徴量とする特徴ベクトルを時分割で演算し、前記分類モデルに基づいて、前記時分割で演算された複数の特徴ベクトルに前記識別IDを付与し、前記識別IDの時系列の変化及び前記IDパターンモデルに基づいて、前記所定の動作を把握するための出力情報を生成し、前記出力情報を前記表示装置によって出力させる情報出力処理と、を実行可能である、
ことを特徴とする動作把握システム。 - 請求項1に記載の動作把握システムにおいて、
前記制御装置は、前記情報出力処理において、前記識別IDの時系列の変化と、前記IDパターンモデルの前記識別IDのパターンとの類似度を演算し、前記類似度を表す情報を前記出力情報として生成し、前記出力情報を前記表示装置によって出力させる、
ことを特徴とする動作把握システム。 - 請求項1に記載の動作把握システムにおいて、
前記識別情報に対応して付加情報が記憶された記憶装置を備え、
前記制御装置は、前記情報出力処理において、前記識別情報及び前記付加情報に基づいて前記出力情報を生成し、前記出力情報を前記表示装置によって出力させる、
ことを特徴とする動作把握システム。 - 請求項1に記載の動作把握システムにおいて、
前記制御装置は、前記情報出力処理において、前記識別IDの時系列の変化及び前記IDパターンモデルに基づいて、前記所定の動作が行われた回数を演算し、その演算結果に基づいて前記出力情報を生成し、前記出力情報を前記表示装置によって出力させる、
ことを特徴とする動作把握システム。 - 請求項1に記載の動作把握システムにおいて、
前記制御装置は、前記情報出力処理において、前記識別IDの時系列の変化及び前記IDパターンモデルに基づいて、少なくとも前記所定の動作の時間軸上での発生頻度及び所定領域内での発生頻度のいずれかを演算し、その演算結果に基づいて前記出力情報を生成し、前記出力情報を前記表示装置によって出力させる、
ことを特徴とする動作把握システム。 - 請求項1に記載の動作把握システムにおいて、
前記制御装置は、前記情報出力処理において、前記特徴ベクトルの演算に用いた前記機械の姿勢情報と前記機械の形状データに基づいて、前記機械のモーションデータを生成し、前記モーションデータに基づいて前記機械のアニメーションを前記表示装置に表示させる、
ことを特徴とする動作把握システム。 - 請求項1に記載の動作把握システムにおいて、
前記制御装置は、前記情報出力処理において、前記識別IDに対応する特徴ベクトルをキーフレームとして、前記識別IDの時系列の変化に応じて生成される前記キーフレーム間を補間してモーションデータを生成し、前記モーションデータに基づいて前記機械のアニメーションを前記表示装置に表示させる、
ことを特徴とする動作把握システム。 - 請求項1に記載の動作把握システムにおいて、
前記制御装置は、前記情報出力処理において、前記識別IDに対応する特徴ベクトルに基づいて生成される静止画像を前記表示装置に表示させる、
ことを特徴とする動作把握システム。 - 請求項1に記載の動作把握システムにおいて、
前記制御装置は、前記情報出力処理において、前記識別IDの時系列の変化及び前記IDパターンモデルに基づいて、前記所定の動作の継続時間を演算し、その演算結果に基づいて前記出力情報を生成し、前記出力情報を前記表示装置によって出力させる、
ことを特徴とする動作把握システム。 - 請求項1に記載の動作把握システムにおいて、
前記機械は、作業装置を有する作業機械であり、複数のセンサを有し、
前記制御装置は、前記センサで検出された複数の異なる種類の物理量から算出される物理量を特徴量とする、
ことを特徴とする動作把握システム。 - 請求項1に記載の動作把握システムにおいて、
前記機械は、作業装置を有する作業機械であり、
前記制御装置は、前記作業機械が有する第1制御装置と、前記作業機械の外部に配置される外部装置が有する第2制御装置と、を有し、
前記第1制御装置は、時系列で変化する機械の情報を特徴量とする特徴ベクトルを時分割で演算し、前記分類モデルに基づいて、前記時分割で演算された複数の特徴ベクトルに前記識別IDを付与し、前記識別IDの時系列の変化を表す識別ID列の情報を前記外部装置に送信する第1の前記情報出力処理を実行可能であり、
前記第2制御装置は、前記識別IDの時系列の変化及び前記IDパターンモデルに基づいて、前記所定の動作を把握するための出力情報を生成し、前記出力情報を前記表示装置によって出力させる第2の前記情報出力処理を実行可能である、
ことを特徴とする動作把握システム。 - 請求項1に記載の動作把握システムにおいて、
前記機械は、作業装置を有する作業機械であり、
前記制御装置は、前記作業機械が有する第1制御装置と、前記作業機械の外部に配置される外部装置が有する第2制御装置と、を有し、
前記第1制御装置は、時系列で変化する機械の情報を特徴量とする特徴ベクトルを時分割で演算し、前記分類モデルに基づいて、前記時分割で演算された複数の特徴ベクトルに前記識別IDを付与し、前記識別IDの時系列の変化及び前記IDパターンモデルに基づいて、前記所定の動作を把握するための出力情報を生成し、前記出力情報を前記外部装置に送信する第1の前記情報出力処理を実行可能であり、
前記第2制御装置は、前記出力情報を前記表示装置によって出力させる第2の前記情報出力処理を実行可能である、
ことを特徴とする動作把握システム。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020194835A JP7016936B1 (ja) | 2020-11-25 | 2020-11-25 | 動作把握システム |
PCT/JP2021/041628 WO2022113764A1 (ja) | 2020-11-25 | 2021-11-11 | 動作把握システム |
CN202180051904.5A CN116096968A (zh) | 2020-11-25 | 2021-11-11 | 动作掌握系统 |
EP21897738.7A EP4253918A1 (en) | 2020-11-25 | 2021-11-11 | Motion recognition system |
US18/023,199 US20230316711A1 (en) | 2020-11-25 | 2021-11-11 | Action Recognition System |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020194835A JP7016936B1 (ja) | 2020-11-25 | 2020-11-25 | 動作把握システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP7016936B1 JP7016936B1 (ja) | 2022-02-07 |
JP2022083497A true JP2022083497A (ja) | 2022-06-06 |
Family
ID=80817811
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020194835A Active JP7016936B1 (ja) | 2020-11-25 | 2020-11-25 | 動作把握システム |
Country Status (5)
Country | Link |
---|---|
US (1) | US20230316711A1 (ja) |
EP (1) | EP4253918A1 (ja) |
JP (1) | JP7016936B1 (ja) |
CN (1) | CN116096968A (ja) |
WO (1) | WO2022113764A1 (ja) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005202653A (ja) * | 2004-01-15 | 2005-07-28 | Canon Inc | 動作認識装置及び方法、動物体認識装置及び方法、機器制御装置及び方法、並びにプログラム |
JP2017156978A (ja) * | 2016-03-02 | 2017-09-07 | 株式会社日立製作所 | 作業動作認識システム |
US20170328031A1 (en) * | 2016-05-16 | 2017-11-16 | Caterpillar Inc. | Operation identification of a work machine |
JP2019087200A (ja) * | 2017-11-10 | 2019-06-06 | 株式会社小松製作所 | 作業車両の動作を推定するための方法、システム、学習済みの分類モデルの製造方法、学習データ、及び学習データの製造方法 |
JP2020038440A (ja) * | 2018-09-03 | 2020-03-12 | 国立大学法人 東京大学 | 動作認識方法及び装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4690203B2 (ja) | 2006-01-13 | 2011-06-01 | 日本電信電話株式会社 | 動き認識システムおよび動き認識方法 |
-
2020
- 2020-11-25 JP JP2020194835A patent/JP7016936B1/ja active Active
-
2021
- 2021-11-11 US US18/023,199 patent/US20230316711A1/en active Pending
- 2021-11-11 CN CN202180051904.5A patent/CN116096968A/zh active Pending
- 2021-11-11 EP EP21897738.7A patent/EP4253918A1/en active Pending
- 2021-11-11 WO PCT/JP2021/041628 patent/WO2022113764A1/ja unknown
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005202653A (ja) * | 2004-01-15 | 2005-07-28 | Canon Inc | 動作認識装置及び方法、動物体認識装置及び方法、機器制御装置及び方法、並びにプログラム |
JP2017156978A (ja) * | 2016-03-02 | 2017-09-07 | 株式会社日立製作所 | 作業動作認識システム |
US20170328031A1 (en) * | 2016-05-16 | 2017-11-16 | Caterpillar Inc. | Operation identification of a work machine |
JP2019087200A (ja) * | 2017-11-10 | 2019-06-06 | 株式会社小松製作所 | 作業車両の動作を推定するための方法、システム、学習済みの分類モデルの製造方法、学習データ、及び学習データの製造方法 |
JP2020038440A (ja) * | 2018-09-03 | 2020-03-12 | 国立大学法人 東京大学 | 動作認識方法及び装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2022113764A1 (ja) | 2022-06-02 |
EP4253918A1 (en) | 2023-10-04 |
CN116096968A (zh) | 2023-05-09 |
JP7016936B1 (ja) | 2022-02-07 |
US20230316711A1 (en) | 2023-10-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Lee et al. | Challenges, tasks, and opportunities in teleoperation of excavator toward human-in-the-loop construction automation | |
CN101057043B (zh) | 自主装载铲系统 | |
Rashid et al. | Window-warping: A time series data augmentation of IMU data for construction equipment activity identification | |
US8485822B2 (en) | Simulation system implementing historical machine data | |
JP4175296B2 (ja) | 建設機械のデータ処理装置及び建設機械のデータ処理方法 | |
JP5566892B2 (ja) | 追跡および観測用ロボット | |
EP3879036A1 (en) | Shovel, information processing device, information processing method, information processing program, terminal device, display method, and display program | |
EP4082726A1 (en) | Training data selection device, robot system, and training data selection method | |
CN108780526A (zh) | 基于资产定位的预测模型的处置 | |
WO2005001757A1 (ja) | 情報処理装置,状態判定装置及び診断装置,並びに情報処理方法,状態判定方法及び診断方法 | |
WO2020209076A1 (ja) | 情報処理装置、情報処理方法、学習済モデルの生成方法、システム、および学習用データセット | |
JP2013191163A (ja) | 情報処理装置、情報処理方法、及び、プログラム | |
US20220366244A1 (en) | Modeling Human Behavior in Work Environment Using Neural Networks | |
CN113412177A (zh) | 机器人控制装置、机器人系统以及机器人控制方法 | |
EP4050892A1 (en) | Work assist server, work assist method, and work assist system | |
CN111435440A (zh) | 使用生物识别的机器控制 | |
JP7016936B1 (ja) | 動作把握システム | |
Altuntaş et al. | Comparison of 3-dimensional SLAM systems: RTAB-Map vs. Kintinuous | |
WO2021241487A1 (ja) | タイミング予測方法、タイミング予測装置、タイミング予測システム、プログラム及び建設機械システム | |
US20060041845A1 (en) | Systems and methods for exchanging display data between machines | |
US11948264B2 (en) | Systems and methods for dynamic interaction with an augmented reality environment | |
JPH07218611A (ja) | 移動体のトラッキング装置 | |
JP7149078B2 (ja) | 情報提示装置および情報提示方法 | |
JP2021155995A (ja) | ショベルの支援装置、ショベルの管理装置 | |
KR102541215B1 (ko) | Vr 영상을 이용한 수중생물 모니터링 장치와 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211111 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220118 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220126 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7016936 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |