JP7079896B2 - 学習機能付き建設機械 - Google Patents
学習機能付き建設機械 Download PDFInfo
- Publication number
- JP7079896B2 JP7079896B2 JP2021522270A JP2021522270A JP7079896B2 JP 7079896 B2 JP7079896 B2 JP 7079896B2 JP 2021522270 A JP2021522270 A JP 2021522270A JP 2021522270 A JP2021522270 A JP 2021522270A JP 7079896 B2 JP7079896 B2 JP 7079896B2
- Authority
- JP
- Japan
- Prior art keywords
- unit
- command
- data
- learning
- work
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000010276 construction Methods 0.000 title claims description 131
- 230000006870 function Effects 0.000 title claims description 82
- 238000012937 correction Methods 0.000 claims description 299
- 238000013500 data storage Methods 0.000 claims description 105
- 238000006243 chemical reaction Methods 0.000 claims description 98
- 238000001514 detection method Methods 0.000 claims description 67
- 238000012546 transfer Methods 0.000 claims description 65
- 239000010720 hydraulic oil Substances 0.000 claims description 43
- 238000010801 machine learning Methods 0.000 claims description 43
- 238000003860 storage Methods 0.000 claims description 29
- 230000001133 acceleration Effects 0.000 claims description 22
- 238000012545 processing Methods 0.000 description 44
- 238000010586 diagram Methods 0.000 description 42
- 238000013528 artificial neural network Methods 0.000 description 31
- 230000036544 posture Effects 0.000 description 30
- 238000005070 sampling Methods 0.000 description 26
- 239000004576 sand Substances 0.000 description 21
- 238000000034 method Methods 0.000 description 13
- 238000011156 evaluation Methods 0.000 description 12
- 238000005553 drilling Methods 0.000 description 10
- 238000012549 training Methods 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 8
- 230000004044 response Effects 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 230000007423 decrease Effects 0.000 description 5
- 101100189609 Caenorhabditis elegans pdi-1 gene Proteins 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 4
- 238000009434 installation Methods 0.000 description 4
- 210000002569 neuron Anatomy 0.000 description 4
- 239000013049 sediment Substances 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000005096 rolling process Methods 0.000 description 3
- 238000007790 scraping Methods 0.000 description 3
- 230000032683 aging Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 210000000078 claw Anatomy 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000013641 positive control Substances 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 239000002689 soil Substances 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 241000287107 Passer Species 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 239000003921 oil Substances 0.000 description 1
Images
Classifications
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/264—Sensors and their calibration for indicating the position of the work tool
- E02F9/265—Sensors and their calibration for indicating the position of the work tool with follow-up actions (e.g. control signals sent to actuate the work tool)
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F3/00—Dredgers; Soil-shifting machines
- E02F3/04—Dredgers; Soil-shifting machines mechanically-driven
- E02F3/28—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
- E02F3/30—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets with a dipper-arm pivoted on a cantilever beam, i.e. boom
- E02F3/32—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets with a dipper-arm pivoted on a cantilever beam, i.e. boom working downwardly and towards the machine, e.g. with backhoes
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F3/00—Dredgers; Soil-shifting machines
- E02F3/04—Dredgers; Soil-shifting machines mechanically-driven
- E02F3/28—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
- E02F3/36—Component parts
- E02F3/42—Drives for dippers, buckets, dipper-arms or bucket-arms
- E02F3/425—Drive systems for dipper-arms, backhoes or the like
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F3/00—Dredgers; Soil-shifting machines
- E02F3/04—Dredgers; Soil-shifting machines mechanically-driven
- E02F3/28—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
- E02F3/36—Component parts
- E02F3/42—Drives for dippers, buckets, dipper-arms or bucket-arms
- E02F3/43—Control of dipper or bucket position; Control of sequence of drive operations
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F3/00—Dredgers; Soil-shifting machines
- E02F3/04—Dredgers; Soil-shifting machines mechanically-driven
- E02F3/28—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
- E02F3/36—Component parts
- E02F3/42—Drives for dippers, buckets, dipper-arms or bucket-arms
- E02F3/43—Control of dipper or bucket position; Control of sequence of drive operations
- E02F3/435—Control of dipper or bucket position; Control of sequence of drive operations for dipper-arms, backhoes or the like
- E02F3/437—Control of dipper or bucket position; Control of sequence of drive operations for dipper-arms, backhoes or the like providing automatic sequences of movements, e.g. linear excavation, keeping dipper angle constant
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F3/00—Dredgers; Soil-shifting machines
- E02F3/04—Dredgers; Soil-shifting machines mechanically-driven
- E02F3/28—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
- E02F3/36—Component parts
- E02F3/42—Drives for dippers, buckets, dipper-arms or bucket-arms
- E02F3/43—Control of dipper or bucket position; Control of sequence of drive operations
- E02F3/435—Control of dipper or bucket position; Control of sequence of drive operations for dipper-arms, backhoes or the like
- E02F3/438—Memorising movements for repetition, e.g. play-back capability
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/2025—Particular purposes of control systems not otherwise provided for
- E02F9/205—Remotely operated machines, e.g. unmanned vehicles
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/22—Hydraulic or pneumatic drives
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/22—Hydraulic or pneumatic drives
- E02F9/2221—Control of flow rate; Load sensing arrangements
- E02F9/2225—Control of flow rate; Load sensing arrangements using pressure-compensating valves
- E02F9/2228—Control of flow rate; Load sensing arrangements using pressure-compensating valves including an electronic controller
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/22—Hydraulic or pneumatic drives
- E02F9/2221—Control of flow rate; Load sensing arrangements
- E02F9/2232—Control of flow rate; Load sensing arrangements using one or more variable displacement pumps
- E02F9/2235—Control of flow rate; Load sensing arrangements using one or more variable displacement pumps including an electronic controller
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/22—Hydraulic or pneumatic drives
- E02F9/2221—Control of flow rate; Load sensing arrangements
- E02F9/2239—Control of flow rate; Load sensing arrangements using two or more pumps with cross-assistance
- E02F9/2242—Control of flow rate; Load sensing arrangements using two or more pumps with cross-assistance including an electronic controller
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/22—Hydraulic or pneumatic drives
- E02F9/2278—Hydraulic circuits
- E02F9/2282—Systems using center bypass type changeover valves
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/22—Hydraulic or pneumatic drives
- E02F9/2278—Hydraulic circuits
- E02F9/2285—Pilot-operated systems
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/261—Surveying the work-site to be treated
- E02F9/262—Surveying the work-site to be treated with follow-up actions to control the work tool, e.g. controller
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/264—Sensors and their calibration for indicating the position of the work tool
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0055—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots with safety arrangements
- G05D1/0061—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots with safety arrangements for transition from automatic pilot to manual pilot and vice versa
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
- G05D1/0221—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory involving a learning process
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Mining & Mineral Resources (AREA)
- Civil Engineering (AREA)
- Structural Engineering (AREA)
- Physics & Mathematics (AREA)
- Mechanical Engineering (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Fluid Mechanics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Aviation & Aerospace Engineering (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Computational Linguistics (AREA)
- Automation & Control Theory (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Paleontology (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Life Sciences & Earth Sciences (AREA)
- Operation Control Of Excavators (AREA)
Description
図1は、本発明の実施形態に係る学習機能付き建設機械の概念を示す機能ブロック図である。
{概要}
まず、実施形態1の学習機能付き建設機械の概要を説明する。
図2は、本発明の実施形態1に係る学習機能付き建設機械の制御系統の構成を示す機能ブロック図である。図2において矢印は、指令、動力、情報、データの流れを示す。実線の矢印は、自動制御時における指令又はデータの流れを示し、破線は学習時における指令又はデータの流れを示す。なお、後述するように過去の予測基礎データが学習に用いられる場合には、自動制御時においても破線で示されるデータの流れが生じる。このことは、図6、11、13においても同様である。
学習時において、熟練した操作者が学習機能付き建設機械100を操作して、所定の作業を行う。すると、操作に応じた動作指令201に対応する指令データ211と、作業部104による作業の状況を表す作業状況データ212、動作部の動作状態を表す動作状態データ213、及び作業部104の作業により動作部103又は本体部102が作業対象から受ける反作用を表す反作用データ214を含む予測基礎データとが、学習データ記憶部115に記憶される。上記所定作業は、例えば、比較的簡単な定型作業である。このような定型作業として、穴掘り作業、整地作業、転圧作業等が例示される。
次に、学習機能付き建設機械100の具体的な構成を、建設機械の一例である油圧ショベル10を例に取って説明する。
<全体構成>
まず、学習機能付き油圧ショベル10の全体構成を説明する。
次に、油圧ショベル10を動作させる油圧駆動システム1を説明する。
次に、学習機能付き油圧ショベル10の制御系統の構成を説明する。
図6は、学習機能付き油圧ショベル10の制御系統の構成を示す機能ブロック図である。図6には、本実施形態における学習機能と関連する油圧ショベル10の制御系統が示されている。従って、本実施形態における学習機能と関連しない走行体19の制御系統は省略されている。また、学習機能付き油圧ショベル10は、図示されない全体制御部及び動作モード切替操作部を有し、操作者による動作モード切替操作部の操作に応じて、全体制御部が学習機能付き油圧ショベル10の動作モードを学習モード又は自動制御モードに切り替える。
最初に各時系列データの時間的関係を説明する。
図8を参照すると、学習部118は、例えば、ニューラルネットワーク1400と、学習データ及び教師データ生成部1401と、データ入力部1402と、学習評価部1403と、を備える。
次に、以上のように構成された学習機能付き油圧ショベル10の動作を説明する。以下では、油圧ショベル10が、所定作業として穴掘り作業を行う場合を例に挙げて、油圧ショベル10の動作を説明する。
次いで、熟練の操作者が油圧ショベル10を操作して穴掘り作業を行う。操作者は、例えば、この穴掘り作業を、概略、以下のようにして行う。
この一連の動作において、操作者は、目視で穴掘りの状況を確認し、バケット18及びブーム16,17の姿勢を目視で認識するとともに各操作装置51,54,57,71の操作レバーの現在の操作位置によって、バケット18、ブーム及び運転席(旋回体15)が現在どのように動作しようとしているかを直観する。また、バケット18が地面に作用する(地面を掘る、土を掻き込む等する)と、その反作用を体感することによって、意図した作業(アクション)の当否を判断する。そして、これらを瞬時に勘案して次の操作を決定する。ここで、反作用とは、例えば、運転席の傾き及び振動(加振力、加速度、角加速度等を含む)である。また、操作者は、次の操作を決定する際に駆動源であるエンジン26の状態(回転量、音等)を重視する。
一方、これらの一連の動作において、以下のように学習用のデータが取得される。
学習用動作が終了した後、学習データ記憶部に記憶された学習データを用いて、ニューラルネットワークが機械学習させられる。この際、上述のように、各サンプリング時刻tiにおける学習データの時系列データPdiを入力する際に、それ以前の時系列データPdi-1~Pdi-n(nは所定の正数)が入力される。
機械学習を終えた油圧ショベル10が、上述の初期状態に設定される。次いで、油圧ショベル10が、自動制御モードに切り替えられる。そして、油圧ショベル10の自動制御が開始される。この自動制御時には、予測基礎データPd(作業状況データ212、指令データ211、動作状態データ(受音データ)213、及び反作用データ214が学習部118(正確にはニューラルネットワークのデータ入力部402)に入力されるとともに予測基礎データ記憶部117に記憶される。そして、データ入力部402が、各サンプリング時刻tjにおいて、現在の予測基礎データPdjとともに、予測基礎データ記憶部117に記憶された時系列データPd0~Pdj-1のうちの過去の予測基礎データPdj-1~Pdj-nを入力する。これにより、学習部118が予測動作指令Pfを出力する。
本発明の実施形態2は、実施形態1の油圧ショベル10において、動作状態検知部113が、さらに、第2撮像器331及び画像処理部333を備える形態を例示する。
本発明の実施形態3は、実施形態1の油圧ショベル10において、動作状態検知部113が、さらに、センサ部341を備える形態を例示する。
{概要}
まず、実施形態4の技能伝承建設機械の概要を説明する。
図14は、本発明の実施形態4に係る技能伝承建設機械の制御系統の構成を示す機能ブロック図である。図14において矢印は、指令、動力、情報、データの流れを示す。実線の矢印は、動作部103の動作時における指令又はデータの流れを示し、破線は学習時における指令又はデータの流れを示す。なお、後述するように過去の予測基礎データが学習に用いられる場合には、動作部の動作時においても破線で示されるデータの流れが生じる。このことは、図18、26、28においても同様である。
上記所定作業は、例えば、比較的簡単な定型作業である。このような定型作業として、穴掘り作業、整地作業、転圧作業等が例示される。このような所定作業が、技能伝承建設機械200によって、作業場所を変えながら、複数回、繰り返し行われると仮定する。この場合、互いに前後する2回の所定作業の合間に、前の回の所定作業における動作修正指令Pm’が学習部118によって学習され、後の回の所定作業において、学習部118に予測基礎データPdが入力されると、前記の学習結果を反映した自動動作修正指令404を学習部118が出力する。
次に、技能伝承建設機械200の具体的な構成を、建設機械の一例である油圧ショベル20を例に取って説明する。
<全体構成>
まず、技能伝承油圧ショベル20の全体構成を説明する。この技能伝承油圧ショベル20の全体構成は、基本的に実施形態1の学習機能付き油圧ショベル10と同じであるが、一部において異なる。
次に、油圧ショベル20を動作させる油圧駆動システム1を説明する。
次に、技能伝承油圧ショベル20の制御系統の構成を説明する。
図18は、技能伝承油圧ショベル20の制御系統の構成を示す機能ブロック図である。図18には、本実施形態における学習機能と関連する油圧ショベル20の制御系統が示されている。従って、本実施形態における学習機能と関連しない走行体19の制御系統は省略されている。また、技能伝承油圧ショベル20は、図示されない全体制御部及び動作モード切替操作部を有し、操作者による動作モード切替操作部の操作に応じて、全体制御部が技能伝承油圧ショベル20の動作モードを手動モード又は半自動モードに切り替える。
図18を参照すると、アクセル装置50、アーム操作装置51、旋回操作装置54、バケット操作装置57、及びブーム操作装置71が操作部101を構成する。操作部101は、旋回体15の運転席に設けられる。
*手動モード*
手動モードでは、操作者がアクセル装置50のアクセルペダルを踏み込むと、アクセル装置50がアクセルペダルの踏み込み量に応じたアクセル修正指令75を出力する。すると、エンジン26が、このアクセル修正指令75に対応する個別動作指令75’に応じた出力でポンプ部107を駆動する。すると、ポンプ部107が、油圧回路106に、ポンプ部107の出力に応じた吐出量で作動油を吐出する。
半自動モードでは、基本動作指令部2119から出力される基本動作指令402及び学習部118から出力される自動動作修正指令404に従って、動作部103(15-18)が動作し、操作者が、操作部101(50,51,54,57,71)を操作すると、その操作に応じて動作部103の動作が修正される。
上述のように、第1撮像器311がバケット18による作業の状況を撮像する。すると、画像処理部312が、第1撮像器311によって撮像された撮像画像を画像処理することによって、所定の作業状況を表すデータを生成し、これを作業状況データ212として出力する。従って、第1撮像器311及び画像処理部312が作業状況検知部112を構成する。
制御部401、画像処理部312、及び上述の図示されない全体制御部は、例えば、プロセッサとメモリとを有する演算器で構成される。動作修正指令生成部2110、学習部118、基本動作指令部2119、動作指令生成部2120、全体制御部、及び画像処理部312は、この演算器のメモリに格納された所定のプログラムをプロセッサが実行することによって実現される機能ブロックである。学習データ記憶部115は、このメモリによって構成される。この演算器は、具体的には、例えば、マイクロコントローラ、MPU、FPGA(Field Programmable Gate Array)、PLC(Programmable Logic Controller)等で構成される。制御部401、画像処理部312、及び上述の図示されない全体制御部は、集中制御を行う単独の演算器で構成されてもよく、分散制御を行う複数の演算器で構成されてもよい。これらの単独の演算器又は複数の演算器は、例えば、油圧ショベル20の旋回体15に設けられる。
基本動作指令部2119は、上述の演算器のメモリに格納された所定作業用の制御プログラムに従って、基本動作指令402を出力する。
動作指令生成部2120は、ここでは、上述のように、アーム操作装置51から出力される一対の個別手動動作修正指令52,53と、基本動作指令部2119から出力される基本動作指令402のうちのアーム操作装置51に対応する一対の個別基本動作指令(不図示)と、学習部118から出力される自動動作修正指令404のうちのアーム操作装置51に対応する一対の個別自動動作修正指令(不図示)とを合算して、アーム操作装置51に対応する一対の個別動作指令52’,53’を生成する。
動作修正指令生成部2110は、ここでは、アーム操作装置51から出力される一対の個別手動動作修正指令52,53と、学習部118から出力される自動動作修正指令404のうちのアーム操作装置51に対応する一対の個別自動動作修正指令(不図示)とを合算して、アーム操作装置51に対応する一対の個別動作修正指令(不図示。以下、アーム動作修正指令という)を生成する。
学習データ記憶部115の動作修正指令記憶部2116が、この動作修正指令Pmを時系列で記憶する。
学習部118は、上述のように、学習時において、動作修正記憶部2116から読み出した動作修正指令(以下、学習用動作修正指令と呼ぶ)Pm’及び予測基礎データ記憶部17から読み出した予測基礎データ(以下、学習用予測基礎データと呼ぶ)Pd’からなる学習データを機械学習し、当該機械学習を終えた後、動作部103の動作時において、予測基礎データPdが入力されると、自動動作修正指令404を出力する。
最初に各時系列データの時間的関係を説明する。
図21を参照すると、学習部118は、例えば、ニューラルネットワーク500と、学習データ及び教師データ生成部501と、データ入力部502と、学習評価部503と、を備える。
次に、以上のように構成された技能伝承油圧ショベル20の動作を説明する。以下では、油圧ショベル20が、所定作業として穴掘り作業を行う場合を例に挙げて、油圧ショベル20の動作を説明する。
*修正操作なしの場合*
次いで、熟練の操作者が油圧ショベル20を修正操作しながら穴掘り作業を行う。ここでは、まず、操作者が油圧ショベル20の基本動作を確認するために、修正操作をしない。この動作を、以下、初回動作と呼ぶ。この初回動作では、穴掘り作業は、基本動作指令部2119が、基本動作指令402を出力して動作部103を操作することによって行われる。ここでは、基本動作指令部2119を規定する(実現する)所定作業用の制御プログラムでは、穴掘り予定地の地質(地盤の組成、硬さ等)が所定の地質であると想定されている。この穴掘り作業は、例えば、概略以下のようにして行われる。
次に、操作者は、修正操作の一例としての第1の態様の修正操作を行う。図23(a)~(c)は、油圧ショベル20による穴掘り作業が隅部の掘り下げ作業における修正操作によって改善される過程を模式的に示す断面図である。図23(a)~(c)において、実線は、実際に形成された穴131の断面形状を示し、二点鎖線は、所定作業用の制御プログラムにおいて想定されている穴131の所定の断面形状を示す。
この修正の際、操作者は、目視で穴掘りの状況を確認し、バケット18、アーム17、及びブーム16の姿勢を目視で認識することによって、バケット18、アーム17、ブーム16及び運転席(旋回体15)が現在どのように動作しようとしているかを直観する。また、バケット18が地面に作用する(地面を掘る、土を掻き込む等する)と、その反作用を体感することによって、現在の作業(アクション)の当否を判断する。そして、これらを瞬時に勘案して次の操作を決定する。ここで、反作用とは、例えば、運転席の傾き及び振動(加振力、加速度、角加速度等を含む)である。また、操作者は、次の操作を決定する際に駆動源であるエンジン26の状態(回転量、音等)を重視する。
学習データ記憶部115の動作修正指令記憶部2116が、上述の各操作に対応する動作修正指令Pmを記憶する。
油圧ショベル20による所定作業が完了すると、制御部401は、学習データ記憶部115に記憶された学習データを用いて、ニューラルネットワーク500が機械学習させられる。この際、上述のように、各サンプリング時刻tiにおける学習データの時系列データPdiを入力する際に、それ以前の時系列データPdi-1~Pdi-n(nは所定の正数)が入力される。
次に、操作者が第2の態様の修正操作を行う場合を例示する。
以上に説明したように、実施形態4によれば、基本動作指令部2119による作業部104の基本的な動作を操作者が修正操作するようにして、建設機械200が行う作業を学習し、学習した作業を自動的に行うことが可能な建設機械200を提供することできる。
本発明の実施形態5は、実施形態4の油圧ショベル20において、動作状態検知部113が、さらに、第2撮像器331及び画像処理部333を備える形態を例示する。
本発明の実施形態6は、実施形態4の油圧ショベル20において、動作状態検知部113が、さらに、センサ部341を備える形態を例示する。
本発明の実施形態は、実施形態4乃至6のいずれかの油圧ショベル20において、操作装置がパイロット圧を発生し、制御弁がパイロット圧によって制御される構成である形態を例示する。
実施形態2の油圧ショベル10が、動作状態検知部113において、さらに、実施形態3のセンサ部341を備えてもよい。
8 流量制御装置
10 学習機能付き油圧ショベル(油圧ショベル)
11 ブームシリンダ
12 アームシリンダ
13 バケットシリンダ
14 旋回モータ
15 旋回体
16 ブーム
17 アーム
18 バケット
19 走行体
20 油圧ショベル
21 第1主ポンプ
22 第1流量調整装置
23 第2主ポンプ
24 第2流量調整装置
25 副ポンプ
40 アーム制御弁
43 旋回制御弁
44 バケット制御弁
47 ブーム制御弁
50 アクセル装置
51 アーム操作装置
54 旋回操作装置
57 バケット操作装置
71 ブーム操作装置
81~86,91,92 圧力センサ
100 学習機能付き建設機械(建設機械)
101 操作部
102 本体部
103 動作部
104 作業部
105 油圧駆動システム
106 油圧回路
107 ポンプ部
110 動作指令検知部
112 作業状況検知部
113 動作状態検知部
114 反作用検知部
115 学習データ記憶部
116 指令データ記憶部
117 予測基礎データ記憶部
118 学習部
119 操作部駆動部
120 予測動作指令変換部
131 穴
200 技能伝承建設機械
201 動作指令
202 駆動力
211,211’ 指令データ
212 作業状況データ
213 動作状態データ
214 反作用データ
311 第1撮像器
312 画像処理部
313 マイク
314 ジャイロセンサ
321 光軸
331 第2撮像器
332 光軸
333 画像処理部
341 センサ部
1400 ニューラルネットワーク
1401 学習データ及び教師データ生成部
1402 データ入力部
1403 学習評価部
500 ニューラルネットワーク
501 学習データ及び教師データ生成部
502 データ入力部
503 学習評価部
1000 学習機能付き建設機械
1101 指令データ生成部
1102 指令記憶部
1103 予測指令
2110 動作修正指令生成部
2116 動作修正指令記憶部
2119 基本動作指令部
2120 動作指令生成部
A1~A4 第1乃至第4回動軸線
M1~M5 サーボモータ
Pd 予測基礎データ
Pd’ 学習用予測基礎データ
Pf 予測動作指令
Pf’ 学習用指令データ
S1~S4 センサ
Claims (11)
- 作業部を有し、前記作業部を、作業を行うよう動かす動作部と、
操作者の操作に応じた指令を出力する操作部と、
前記作業部による前記作業の状況を検知し、検知した作業状況を作業状況データとして出力する作業状況検知部と、
前記動作部の動作状態を検知し、検知した動作状態を動作状態データとして出力する動作状態検知部と、
前記作業部の作業により前記動作部が作業対象から受ける反作用を検知し、検知した反作用を反作用データとして出力する反作用検知部と、
前記指令を時系列で指令データとして記憶するとともに、前記作業状況データ、前記動作状態データ、及び前記反作用データを含む予測基礎データを時系列で記憶する学習データ記憶部と、
前記学習データ記憶部に記憶された前記予測基礎データを用いて前記学習データ記憶部に記憶された前記指令データを機械学習し、機械学習を終えた後、前記動作部の動作時に前記予測基礎データが入力され、前記指令の予測指令を出力する学習部と、
前記指令、前記予測指令、又は前記指令及び前記予測指令に基づいて前記動作部を駆動する油圧駆動システムと、を備える、学習機能付き建設機械。 - 前記操作部が、前記指令として、前記操作者の操作に応じた動作指令を出力するよう構成され、
学習データ記憶部が、前記動作指令を時系列で指令データとして記憶するとともに、前記作業状況データ、前記動作状態データ、及び前記反作用データを含む予測基礎データを時系列で記憶するよう構成され、
前記学習部が、学習時において、前記学習データ記憶部に記憶された前記予測基礎データを用いて前記学習データ記憶部に記憶された前記指令データを機械学習し、前記機械学習を終えた後の自動制御時において、前記予測基礎データが入力され、前記予測指令である予測動作指令を出力するよう構成され、且つ、
油圧駆動システムが、前記動作指令又は前記予測動作指令に従って前記動作部を駆動するよう構成されている、請求項1に記載の学習機能付き建設機械。 - 前記動作部が設けられた本体部を備え、
前記反作用検知部が、前記動作部又は前記本体部の傾き、加速度、及び角加速度の少なくともいずれかを含む前記反作用を検知し、検知した反作用を前記反作用データとして出力する、請求項2に記載の学習機能付き建設機械。 - 前記動作状態検知部が、前記油圧駆動システムの作動油を加圧するポンプを駆動する駆動源の出力及び動作音の少なくともいずれかを含む駆動源の状態を検知し、検知した駆動源の状態を駆動源状態データとして出力する駆動源状態検知部を含み、
前記動作状態データが、前記駆動源状態データを含む、請求項2又は3に記載の学習機能付き建設機械。 - 前記動作状態データが、前記指令データを含む、請求項2乃至4のいずれかに記載の学習機能付き建設機械。
- 動作状態検知部が、前記動作部の姿勢を検知し、検知した姿勢を姿勢データとして出力する姿勢検知部をさらに備え、
前記動作状態データが、前記姿勢データを含む、請求項2乃至5のいずれかに記載の学習機能付き建設機械。 - 前記学習機能付き建設機械が、制御部を備える技能伝承建設機械であり、
前記操作部が、前記指令として、前記操作者の操作に応じた手動動作修正指令を出力するよう構成され、
前記油圧駆動システムが、基本動作指令と自動動作修正指令と前記手動動作修正指令とに従って前記動作部を駆動するよう構成され、且つ、
前記制御部が、
前記動作部によって前記作業部に基本的な動きをさせる前記基本動作指令を出力する基本動作指令部と、
前記自動動作修正指令に前記手動動作修正指令を加えて動作修正指令を生成する動作修正指令生成部と、
前記動作修正指令を前記指令データとして時系列で記憶する動作修正指令記憶部と前記予測基礎データを時系列で記憶する予測基礎データ記憶部とを含む前記学習データ記憶部と、
前記学習部と、を備え、
前記学習部が、前記予測基礎データ記憶部に記憶された前記予測基礎データを用いて前記動作修正指令記憶部に記憶された前記動作修正指令を機械学習し、機械学習を終えた後、前記動作部の動作時に前記予測基礎データが入力され、前記予測指令である前記自動動作修正指令を出力するよう構成されている、請求項1に記載の学習機能付き建設機械。 - 前記動作部が設けられた本体部を備え、
前記反作用検知部が、前記動作部又は前記本体部の傾き、加速度、及び角加速度の少なくともいずれかを含む前記反作用を検知し、検知した反作用を前記反作用データとして出力する、請求項7に記載の学習機能付き建設機械。 - 前記動作状態検知部が、前記油圧駆動システムの作動油を加圧するポンプを駆動する駆動源の出力及び動作音の少なくともいずれかを含む駆動源の状態を検知し、検知した駆動源の状態を駆動源状態データとして出力する駆動源状態検知部を含み、
前記動作状態データが、前記駆動源状態データを含む、請求項7又は8に記載の学習機能付き建設機械。 - 前記動作状態検知部が、前記動作部の姿勢を検知し、検知した姿勢を姿勢データとして出力する姿勢検知部をさらに備え、
前記動作状態データが、前記姿勢データを含む、請求項7乃至9のいずれかに記載の学習機能付き建設機械。 - 前記手動動作修正指令が電気指令信号であり、
前記動作部が、前記作業部を駆動する油圧アクチュエータと、前記基本動作指令、前記自動動作修正指令、及び前記手動動作修正指令に従って前記油圧アクチュエータの動作を油圧制御する制御弁と、を備え、
前記制御弁が、電磁弁である、請求項7乃至10のいずれかに記載の学習機能付き建設機械。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019097382 | 2019-05-24 | ||
JP2019097381 | 2019-05-24 | ||
JP2019097382 | 2019-05-24 | ||
JP2019097381 | 2019-05-24 | ||
PCT/JP2020/019977 WO2020241419A1 (ja) | 2019-05-24 | 2020-05-20 | 学習機能付き建設機械 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2020241419A1 JPWO2020241419A1 (ja) | 2021-11-18 |
JP7079896B2 true JP7079896B2 (ja) | 2022-06-02 |
Family
ID=73552205
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021522270A Active JP7079896B2 (ja) | 2019-05-24 | 2020-05-20 | 学習機能付き建設機械 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20220220709A1 (ja) |
JP (1) | JP7079896B2 (ja) |
CN (2) | CN113228139A (ja) |
WO (1) | WO2020241419A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7481908B2 (ja) * | 2020-05-29 | 2024-05-13 | 株式会社小松製作所 | 掘削計画作成装置、作業機械および掘削計画作成方法 |
WO2023021776A1 (ja) * | 2021-08-18 | 2023-02-23 | Soinn株式会社 | 情報処理装置、情報処理方法及びプログラムが格納された非一時的なコンピュータ可読媒体 |
US20230106822A1 (en) * | 2021-10-04 | 2023-04-06 | Caterpillar Trimble Control Technologies Llc | Implement-on-ground detection using vibration signals |
KR20240039049A (ko) * | 2022-03-31 | 2024-03-26 | 히다치 겡키 가부시키 가이샤 | 작업 기계 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016130409A (ja) | 2015-01-13 | 2016-07-21 | 株式会社小松製作所 | 掘削機械、掘削機械の制御方法及び掘削システム |
JP2016156193A (ja) | 2015-02-25 | 2016-09-01 | 株式会社日立製作所 | 操作支援システムおよび操作支援システムを備えた作業機械 |
JP6360583B1 (ja) | 2017-03-29 | 2018-07-18 | 大成建設株式会社 | 建設機械用機械学習装置、建設機械および建設機械用機械学習方法 |
WO2018203091A1 (en) | 2017-05-05 | 2018-11-08 | J.C. Bamford Excavators Ltd | Working machine |
US20190031237A1 (en) | 2016-04-18 | 2019-01-31 | Robo Industries, Inc. | Vehicle automatic power and driving control |
WO2019189888A1 (ja) | 2018-03-30 | 2019-10-03 | 住友重機械工業株式会社 | 建設機械の運転支援システム、建設機械 |
JP2020004096A (ja) | 2018-06-28 | 2020-01-09 | 株式会社小松製作所 | 作業車両による作業を判定するためのシステム、方法、及び学習済みモデルの製造方法 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS59168755A (ja) * | 1983-03-14 | 1984-09-22 | Sanyo Electric Co Ltd | 自動ダイアル装置 |
US5493798A (en) * | 1994-06-15 | 1996-02-27 | Caterpillar Inc. | Teaching automatic excavation control system and method |
JP2002202716A (ja) * | 2000-12-28 | 2002-07-19 | Shin Caterpillar Mitsubishi Ltd | 機械の電気・電子回路研修方法 |
JP2003184131A (ja) * | 2001-12-19 | 2003-07-03 | Hitachi Constr Mach Co Ltd | 建設機械の操作装置 |
JP5217250B2 (ja) * | 2007-05-28 | 2013-06-19 | ソニー株式会社 | 学習装置および学習方法、情報加工装置および情報加工方法、並びにプログラム |
JP4427759B2 (ja) * | 2007-06-29 | 2010-03-10 | アイシン・エィ・ダブリュ株式会社 | 車両挙動学習装置及び車両挙動学習プログラム |
JP6159955B1 (ja) * | 2016-04-14 | 2017-07-12 | 株式会社大都技研 | 遊技台 |
JP6517762B2 (ja) * | 2016-08-23 | 2019-05-22 | ファナック株式会社 | 人とロボットが協働して作業を行うロボットの動作を学習するロボットシステム |
JP6710644B2 (ja) * | 2017-01-05 | 2020-06-17 | 株式会社東芝 | 動作解析装置、動作解析方法およびプログラム |
CN206789176U (zh) * | 2017-04-15 | 2017-12-22 | 沈阳建筑大学 | 一种多功能组合式工程机械教具 |
JP7316052B2 (ja) * | 2019-01-29 | 2023-07-27 | 株式会社小松製作所 | 作業機械を含むシステム、およびコンピュータによって実行される方法 |
JP7419348B2 (ja) * | 2019-04-04 | 2024-01-22 | 株式会社小松製作所 | 作業機械を含むシステム、コンピュータによって実行される方法、および学習済みの姿勢推定モデルの製造方法 |
-
2020
- 2020-05-20 US US17/612,641 patent/US20220220709A1/en active Pending
- 2020-05-20 JP JP2021522270A patent/JP7079896B2/ja active Active
- 2020-05-20 CN CN202080007109.1A patent/CN113228139A/zh active Pending
- 2020-05-20 CN CN202211163884.3A patent/CN115467382A/zh active Pending
- 2020-05-20 WO PCT/JP2020/019977 patent/WO2020241419A1/ja active Application Filing
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016130409A (ja) | 2015-01-13 | 2016-07-21 | 株式会社小松製作所 | 掘削機械、掘削機械の制御方法及び掘削システム |
JP2016156193A (ja) | 2015-02-25 | 2016-09-01 | 株式会社日立製作所 | 操作支援システムおよび操作支援システムを備えた作業機械 |
US20190031237A1 (en) | 2016-04-18 | 2019-01-31 | Robo Industries, Inc. | Vehicle automatic power and driving control |
JP6360583B1 (ja) | 2017-03-29 | 2018-07-18 | 大成建設株式会社 | 建設機械用機械学習装置、建設機械および建設機械用機械学習方法 |
WO2018203091A1 (en) | 2017-05-05 | 2018-11-08 | J.C. Bamford Excavators Ltd | Working machine |
WO2019189888A1 (ja) | 2018-03-30 | 2019-10-03 | 住友重機械工業株式会社 | 建設機械の運転支援システム、建設機械 |
JP2020004096A (ja) | 2018-06-28 | 2020-01-09 | 株式会社小松製作所 | 作業車両による作業を判定するためのシステム、方法、及び学習済みモデルの製造方法 |
Also Published As
Publication number | Publication date |
---|---|
CN113228139A (zh) | 2021-08-06 |
US20220220709A1 (en) | 2022-07-14 |
WO2020241419A1 (ja) | 2020-12-03 |
JPWO2020241419A1 (ja) | 2021-11-18 |
CN115467382A (zh) | 2022-12-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7079896B2 (ja) | 学習機能付き建設機械 | |
CN101903839B (zh) | 持续的作业机具角度控制 | |
JP6676825B2 (ja) | 作業機械 | |
CN102041824B (zh) | 一种挖掘机工作装置的自动控制系统及控制方法 | |
US20210215483A1 (en) | Controlling movement of a machine using sensor fusion | |
CN111042245B (zh) | 一种挖掘机辅助作业控制方法及系统 | |
CN108055855A (zh) | 作业机械 | |
US20170328031A1 (en) | Operation identification of a work machine | |
CN113167054B (zh) | 包括作业机械的系统、由计算机执行的方法及学习用数据 | |
CN108779614A (zh) | 作业机械 | |
CN109778941B (zh) | 一种基于强化学习的半自主挖掘系统和方法 | |
WO2021020464A1 (ja) | ショベル | |
CN109511267A (zh) | 作业机械以及作业机械的控制方法 | |
US20210025133A1 (en) | Anticipatory modification of machine settings based on predicted operational state transition | |
US11920321B2 (en) | System and method for automatically performing an earthmoving operation | |
JP2023174887A (ja) | 作業機械、情報処理装置 | |
US20230243130A1 (en) | Excavation plan creation device, working machine, and excavation plan creation method | |
JP6762881B2 (ja) | 掘削機 | |
JPH09256405A (ja) | 建設機械の干渉防止装置 | |
JP2020002751A (ja) | 作業機械 | |
CN114428483B (zh) | 作业机械遥控端力反馈控制方法、装置及系统 | |
JP6816783B2 (ja) | クレーン | |
WO2023100689A1 (ja) | 建設機械の駆動装置、これを備えた建設機械及び建設機械システム | |
JP7134024B2 (ja) | 建設機械 | |
CN115387426B (zh) | 作业机械的控制方法、装置、设备及作业机械 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210331 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211210 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220426 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220523 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7079896 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |