JP2020184341A - 機械学習システム、並びに、機械学習システムを構成する方法、コンピュータプログラム及び装置 - Google Patents
機械学習システム、並びに、機械学習システムを構成する方法、コンピュータプログラム及び装置 Download PDFInfo
- Publication number
- JP2020184341A JP2020184341A JP2020081985A JP2020081985A JP2020184341A JP 2020184341 A JP2020184341 A JP 2020184341A JP 2020081985 A JP2020081985 A JP 2020081985A JP 2020081985 A JP2020081985 A JP 2020081985A JP 2020184341 A JP2020184341 A JP 2020184341A
- Authority
- JP
- Japan
- Prior art keywords
- learning system
- machine learning
- filter
- sequence
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 21
- 238000004590 computer program Methods 0.000 title claims abstract description 11
- 230000002123 temporal effect Effects 0.000 claims abstract description 31
- 238000010801 machine learning Methods 0.000 claims description 80
- 238000013528 artificial neural network Methods 0.000 claims description 26
- 230000006870 function Effects 0.000 claims description 10
- 238000012549 training Methods 0.000 claims description 9
- 238000011176 pooling Methods 0.000 claims description 5
- 238000013139 quantization Methods 0.000 description 33
- 238000001914 filtration Methods 0.000 description 18
- 230000004913 activation Effects 0.000 description 9
- 238000001994 activation Methods 0.000 description 9
- 230000008901 benefit Effects 0.000 description 9
- 238000005265 energy consumption Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 238000012545 processing Methods 0.000 description 7
- 238000001514 detection method Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 3
- 238000009826 distribution Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 238000000227 grinding Methods 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0088—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Neurology (AREA)
- Game Theory and Decision Science (AREA)
- Business, Economics & Management (AREA)
- Aviation & Aerospace Engineering (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Automation & Control Theory (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
Description
未公開の独国特許出願第102017218889.8号明細書は、1つ以上の入力変数を、内部処理チェーンによって1つ以上の出力変数に処理するように構成されている人工知能モジュールを開示している。この内部処理チェーンは、1つ以上のパラメータによって確定されている。ここでは、少なくとも1つの統計的分布に依存してパラメータを算出するように構成されている分布モジュールが想定されている。
第1の態様においては、逐次処理/時系列処理のための特にメモリ効率及びエネルギー効率に優れた機械学習システムが提案される。
Claims (13)
- 機械学習システム(10)、特に、畳み込み層を備えたディープニューラルネットワークであって、
少なくとも1つのフィルタ(21)を含み、
前記機械学習システム(10)は、前記フィルタ(21)を使用して入力変数(12)に依存して出力変数を算出するように構成されており、
前記入力変数(12)は、画像の時間的シーケンスを含み、
前記機械学習システム(10)は、すべてが前記画像のそれぞれ同一座標上に存在する又は前記機械学習システム(10)の中間結果のそれぞれ同一座標上に存在する画素のシーケンスに、前記フィルタ(21)を適用するように構成されており、
前記フィルタ(21)のフィルタ係数は、量子化されている、
機械学習システム(10)。 - 前記フィルタ(21)は、多次元であり、前記機械学習システム(10)は、前記フィルタ(21)を、すべてが前記画像のそれぞれ同一座標上に存在する又は前記中間結果のそれぞれ同一座標上に存在するセクションのシーケンスに適用するように構成されている、
請求項1に記載の機械学習システム(10)。 - 前記機械学習システム(10)は、さらに付加的に、前記フィルタ(21)を、それぞれが前記画像の内部の異なる座標上に存在する又はそれぞれが前記中間結果の内部の異なる座標上に存在するさらなるセクションのシーケンスに適用するように構成されている、
請求項2に記載の機械学習システム(10)。 - 前記フィルタ係数の他に、前記中間結果も、量子化されている、
請求項1から3までのいずれか1項に記載の機械学習システム(10)。 - 前記フィルタ係数及び/又は前記中間結果は、2進数又は3進数である、
請求項4に記載の機械学習システム(10)。 - 前記フィルタ(21)は、前記フィルタ(21)の使用の際に、前記画像又は中間結果の個々の画素を省略するように構成されている、
請求項1から5までのいずれか1項に記載の機械学習システム(10)。 - 前記機械学習システム(10)は、前記フィルタ(21)の直後に配置されているプーリング演算(pooling)を含む、
請求項1から6までのいずれか1項に記載の機械学習システム(10)。 - 前記画像は、予め定められた順序で相前後して配置されており、前記フィルタ(21)は、それぞれが同一座標上に存在する画素又はセクションのシーケンスに適用され、前記シーケンスの画素又はセクションは、前記順序で配置されている、
請求項1から7までのいずれか1項に記載の機械学習システム(10)。 - 請求項1から8までのいずれか1項に記載の機械学習システム(10)を動作させる方法であって、
画像のシーケンスを、前記機械学習システム(10)の入力変数に対してグループ化するステップと、
フィルタ(21)を使用して出力変数を入力変数に依存して算出するステップと、
を含む方法。 - 前記画像は、それぞれ直接後続する時点で相前後して検出され、次いで、出力変数が算出された場合、新たに検出された画像が入力変数に追加され、前記入力変数に含まれている画像のうちの1つ、特に時間的に最も長く含まれていた画像が前記入力変数から削除され、これに続いて、さらなる出力変数がフィルタを使用して前記入力変数に依存して算出される、
請求項9に記載の方法。 - 請求項1から8までのいずれか1項に記載の機械学習システム(10)を学習させる方法であって、
少なくとも複数の画像のシーケンスと割り当てられたトレーニング出力変数とを含むトレーニングデータを提供するステップと、
それぞれ少なくとも1つの出力変数を、前記画像のシーケンスの各々に対して算出するステップと、
損失関数を、算出された出力変数と前記トレーニング出力変数とに依存して算出するステップと、
前記機械学習システム(10)のパラメータを、損失関数に依存して適応化させ、それによって、前記損失関数が予め設定可能な基準に関して最適にされるステップと、
前記機械学習システム(10)のパラメータ、特にフィルタ係数を量子化するステップと、
を含む方法。 - コンピュータを用いて命令を実行させるときに、当該コンピュータに請求項9乃至11のいずれか一項に記載の方法を実施させるために構成されている命令を含むコンピュータプログラム。
- 請求項12に記載のコンピュータプログラムが記憶されている機械可読メモリ要素。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102019206621.6 | 2019-05-08 | ||
DE102019206621.6A DE102019206621A1 (de) | 2019-05-08 | 2019-05-08 | Maschinelles Lernsystem, sowie ein Verfahren, ein Computerprogramm und eine Vorrichtung zum Erstellen des maschinellen Lernsystems |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2020184341A true JP2020184341A (ja) | 2020-11-12 |
JP2020184341A5 JP2020184341A5 (ja) | 2023-08-29 |
JP7493380B2 JP7493380B2 (ja) | 2024-05-31 |
Family
ID=
Also Published As
Publication number | Publication date |
---|---|
KR20200130153A (ko) | 2020-11-18 |
US20200356845A1 (en) | 2020-11-12 |
CN111914990A (zh) | 2020-11-10 |
DE102019206621A1 (de) | 2020-11-12 |
US11790218B2 (en) | 2023-10-17 |
EP3736742A1 (de) | 2020-11-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102302725B1 (ko) | 룸 레이아웃 추정 방법들 및 기술들 | |
US11331800B2 (en) | Adaptive predictor apparatus and methods | |
KR102023149B1 (ko) | 로봇 파지를 위한 심층 기계 학습 방법 및 장치 | |
EP3319016B1 (en) | Control systems using deep reinforcement learning | |
KR102068576B1 (ko) | 합성곱 신경망 기반 이미지 처리 시스템 및 방법 | |
KR102023588B1 (ko) | 로봇 파지용 심층 기계 학습 방법 및 장치 | |
US9008840B1 (en) | Apparatus and methods for reinforcement-guided supervised learning | |
US11717959B2 (en) | Machine learning methods and apparatus for semantic robotic grasping | |
Lee et al. | SubFlow: A dynamic induced-subgraph strategy toward real-time DNN inference and training | |
US10853646B1 (en) | Generating and utilizing spatial affordances for an object in robotics applications | |
Bai et al. | Pointnet on fpga for real-time lidar point cloud processing | |
KR20200130153A (ko) | 기계 학습 시스템, 그리고 기계 학습 시스템을 생성하기 위한 방법, 컴퓨터 프로그램 및 장치 | |
US20230333816A1 (en) | Signal processing device, imaging device, and signal processing method | |
Hundhausen et al. | Fast reactive grasping with in-finger vision and in-hand fpga-accelerated cnns | |
CN114298289A (zh) | 一种数据处理的方法、数据处理设备及存储介质 | |
JP7493380B2 (ja) | 機械学習システム、並びに、機械学習システムを構成する方法、コンピュータプログラム及び装置 | |
CN109542513B (zh) | 一种卷积神经网络指令数据存储系统及方法 | |
CN108376283B (zh) | 用于神经网络的池化装置和池化方法 | |
Permana et al. | Hand movement identification using single-stream spatial convolutional neural networks | |
JP2018055570A (ja) | 演算処理装置、演算処理方法及びプログラム | |
CN117377560A (zh) | 在使用互补性约束进行避碰的情况下的物体操纵 | |
CN114615505A (zh) | 基于深度熵编码的点云属性压缩方法、装置和存储介质 | |
CN110389649B (zh) | 用于环境感知的训练方法和系统 | |
US11938638B2 (en) | Simulation driven robotic control of real robot(s) | |
CN116295356A (zh) | 一种单目检测与测距方法、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230206 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230821 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20230821 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231127 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240226 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240514 |