JP6671515B2 - 比較セットを使用する入力例の分類 - Google Patents
比較セットを使用する入力例の分類 Download PDFInfo
- Publication number
- JP6671515B2 JP6671515B2 JP2018560875A JP2018560875A JP6671515B2 JP 6671515 B2 JP6671515 B2 JP 6671515B2 JP 2018560875 A JP2018560875 A JP 2018560875A JP 2018560875 A JP2018560875 A JP 2018560875A JP 6671515 B2 JP6671515 B2 JP 6671515B2
- Authority
- JP
- Japan
- Prior art keywords
- label
- comparative example
- neural network
- new
- comparative
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000000052 comparative effect Effects 0.000 claims description 107
- 238000013528 artificial neural network Methods 0.000 claims description 71
- 238000000034 method Methods 0.000 claims description 47
- 239000013598 vector Substances 0.000 claims description 29
- 230000008569 process Effects 0.000 claims description 25
- 230000007246 mechanism Effects 0.000 claims description 19
- 238000012545 processing Methods 0.000 claims description 14
- 238000012549 training Methods 0.000 claims description 13
- 238000013527 convolutional neural network Methods 0.000 claims description 6
- 230000007787 long-term memory Effects 0.000 claims 1
- 238000004590 computer program Methods 0.000 description 15
- 230000009471 action Effects 0.000 description 8
- 239000003795 chemical substances by application Substances 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 230000015654 memory Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 2
- 238000013515 script Methods 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000001143 conditioned effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 230000026676 system process Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Image Analysis (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
本出願は、全内容が参照により本明細書に組み込まれる、2016年5月20日に出願された米国仮特許出願第62/339,782号の非仮出願であり、その優先権を主張する。
102 入力例
104 比較例データ
112 分類器
114 ニューラルネットワーク注意機構
116 出力
Claims (12)
- 比較例の比較セットを使用して新規例を分類するために1つまたは複数のコンピュータによって実行される方法であって、
比較セットを維持するステップであって、前記比較セットが、複数の比較例および前記複数の比較例の各々に対するそれぞれのラベルベクトルを含み、各ラベルベクトルが、所定のラベルセット内の各ラベルに対するそれぞれのスコアを含む、ステップと、
新規例を受信するステップと、
ニューラルネットワーク注意機構を前記新規例および前記比較例に適用することによって、各比較例に対するそれぞれの注意の重みを決定するステップと、
前記比較例の各々に対して、前記比較例に対する前記それぞれの注意の重みおよび前記比較例に対する前記それぞれのラベルベクトルから前記所定のラベルセット内の各ラベルに対するそれぞれのラベルスコアを生成するステップであって、前記ラベルの各々に対する前記それぞれのラベルスコアが、前記ラベルが前記新規例に対する正しいラベルである尤度を表す、ステップと
を含む、方法。 - 前記所定のラベルセット内の各ラベルに対する前記それぞれのスコアを生成するステップが、
各比較例に対して、前記比較例に対する重み付きラベルベクトルを生成するために、前記比較例に対する前記ラベルベクトルと前記比較例に対する前記注意の重みとを乗算するステップと、
前記所定のラベルセット内の各ラベルに対するそれぞれのラベルスコアを含む結合されたラベルベクトルを生成するために、前記重み付きラベルベクトルを合計するステップと
を含む、請求項1に記載の方法。 - 各比較例に対する前記それぞれの注意の重みを決定するステップが、
前記比較例の数値埋め込みを決定するために、比較例ニューラルネットワークを使用して前記比較例を処理するステップと、
前記新規例の数値埋め込みを決定するために、新規例ニューラルネットワークを使用して前記新規例を処理するステップと、
前記比較例の前記数値埋め込みと前記新規例の前記数値埋め込みとの間の類似性メトリックを決定することによって前記それぞれの注意の重みを決定するステップと
を含む、請求項1または2に記載の方法。 - 前記類似性メトリックがコサイン距離である、請求項3に記載の方法。
- 前記比較例ニューラルネットワークが、前記比較例の前記数値埋め込みを生成するために、前記比較セット内の前記比較例からの比較例のシーケンスの文脈において、前記比較例を処理するように構成される、双方向長短期記憶(LSTM)ニューラルネットワークである、請求項3または4に記載の方法。
- 前記新規例ニューラルネットワークが、前記比較例の前記数値埋め込みを生成するために、前記新規例のK個のインスタンスを含むシーケンスを処理するように構成される前記複数の比較例に対する前記数値埋め込みにわたる読み取り注意を有するLSTMニューラルネットワークである、請求項3から5のいずれか一項に記載の方法。
- 前記比較例ニューラルネットワークが、入力比較例を受信し、かつ前記比較例の前記数値埋め込みを生成するように構成される畳み込みニューラルネットワークである、請求項3または4に記載の方法。
- 前記新規例ニューラルネットワークが、入力新規例を受信し、前記新規例の前記数値埋め込みを生成するように構成される畳み込みニューラルネットワークである、請求項3、4または7のいずれか一項に記載の方法。
- 前記新規例ニューラルネットワークおよび前記比較例ニューラルネットワークが、少なくともいくつかのパラメータを共有する、請求項3から8のいずれか一項に記載の方法。
- 前記ニューラルネットワーク注意機構が、前記比較セットと異なる例のトレーニングセット上のトレーニングによって学習されている、請求項1から9のいずれか一項に記載の方法。
- 1つまたは複数のコンピュータと、命令を記憶する1つまたは複数の記憶デバイスとを含むシステムであって、前記命令が、前記1つまたは複数のコンピュータによって実行されたとき、請求項1から10のいずれか一項に記載の方法を前記1つまたは複数のコンピュータに実行させるように動作可能である、システム。
- 命令によって符号化されるコンピュータ記憶媒体であって、前記命令が、1つまたは複数のコンピュータによって実行されたとき、請求項1から10のいずれか一項に記載の方法を前記1つまたは複数のコンピュータに実行させる、コンピュータ記憶媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662339782P | 2016-05-20 | 2016-05-20 | |
US62/339,782 | 2016-05-20 | ||
PCT/US2017/033604 WO2017201444A1 (en) | 2016-05-20 | 2017-05-19 | Classifying input examples using a comparison set |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019517075A JP2019517075A (ja) | 2019-06-20 |
JP6671515B2 true JP6671515B2 (ja) | 2020-03-25 |
Family
ID=59009793
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018560875A Active JP6671515B2 (ja) | 2016-05-20 | 2017-05-19 | 比較セットを使用する入力例の分類 |
Country Status (6)
Country | Link |
---|---|
US (3) | US10997472B2 (ja) |
EP (1) | EP3459016B1 (ja) |
JP (1) | JP6671515B2 (ja) |
KR (1) | KR102170199B1 (ja) |
CN (2) | CN109478248B (ja) |
WO (1) | WO2017201444A1 (ja) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP4156033A1 (en) | 2017-05-23 | 2023-03-29 | Google LLC | Attention-based sequence transduction neural networks |
JP7172067B2 (ja) * | 2018-03-09 | 2022-11-16 | 富士通株式会社 | 学習プログラム、学習方法および学習装置 |
CN108846048A (zh) * | 2018-05-30 | 2018-11-20 | 大连理工大学 | 基于循环神经网络和注意力机制的音乐流派分类方法 |
EP3591572B1 (en) * | 2018-07-06 | 2021-09-01 | Tata Consultancy Services Limited | Method and system for automatic chromosome classification |
JP7041018B2 (ja) * | 2018-07-25 | 2022-03-23 | ヤフー株式会社 | 学習装置、学習方法及び学習プログラム |
EP3850548A1 (en) * | 2018-09-11 | 2021-07-21 | NVIDIA Corporation | Future object trajectory predictions for autonomous machine applications |
US11164329B2 (en) * | 2018-11-01 | 2021-11-02 | Inpixon | Multi-channel spatial positioning system |
CN113366495B (zh) * | 2018-12-21 | 2024-03-22 | 伟摩有限责任公司 | 搜索自主车辆传感器数据存储库 |
US11941531B1 (en) * | 2019-02-07 | 2024-03-26 | Google Llc | Attention-based prototypical learning |
KR102073873B1 (ko) * | 2019-03-22 | 2020-02-05 | 주식회사 루닛 | 시맨틱 세그먼테이션 방법 및 그 장치 |
KR102222640B1 (ko) | 2019-06-07 | 2021-03-04 | 고려대학교 산학협력단 | 기호 인식 장치 및 방법 |
US11531863B1 (en) * | 2019-08-08 | 2022-12-20 | Meta Platforms Technologies, Llc | Systems and methods for localization and classification of content in a data set |
WO2021058663A1 (en) | 2019-09-25 | 2021-04-01 | Deepmind Technologies Limited | Augmenting attention-based neural networks to selectively attend to past inputs |
KR102204956B1 (ko) * | 2020-01-30 | 2021-01-19 | 주식회사 루닛 | 시맨틱 세그먼테이션 방법 및 그 장치 |
KR102563376B1 (ko) * | 2020-11-25 | 2023-08-02 | 연세대학교 산학협력단 | 문장 데이터 클래스 분류 및 클래스 사전 생성을 위한 신경망 학습 방법 |
CN112597328B (zh) * | 2020-12-28 | 2022-02-22 | 推想医疗科技股份有限公司 | 标注方法、装置、设备及介质 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8165407B1 (en) * | 2006-10-06 | 2012-04-24 | Hrl Laboratories, Llc | Visual attention and object recognition system |
US8676574B2 (en) * | 2010-11-10 | 2014-03-18 | Sony Computer Entertainment Inc. | Method for tone/intonation recognition using auditory attention cues |
CN102567731B (zh) * | 2011-12-06 | 2014-06-04 | 北京航空航天大学 | 一种感兴趣区域提取方法 |
US9519858B2 (en) * | 2013-02-10 | 2016-12-13 | Microsoft Technology Licensing, Llc | Feature-augmented neural networks and applications of same |
US10769191B2 (en) * | 2013-12-20 | 2020-09-08 | Google Llc | Classifying data objects |
US10289962B2 (en) * | 2014-06-06 | 2019-05-14 | Google Llc | Training distilled machine learning models |
CN104050685B (zh) * | 2014-06-10 | 2017-05-31 | 西安理工大学 | 基于粒子滤波视觉注意力模型的运动目标检测方法 |
CN106462802B (zh) * | 2014-11-14 | 2019-08-06 | 谷歌有限责任公司 | 生成映像的自然语言描述 |
US20170148487A1 (en) * | 2015-11-25 | 2017-05-25 | Dell Products L.P. | Video Manipulation for Privacy Enhancement |
US10354168B2 (en) * | 2016-04-11 | 2019-07-16 | A2Ia S.A.S. | Systems and methods for recognizing characters in digitized documents |
-
2017
- 2017-05-19 CN CN201780031165.7A patent/CN109478248B/zh active Active
- 2017-05-19 US US16/303,510 patent/US10997472B2/en active Active
- 2017-05-19 CN CN202210285592.0A patent/CN114819137A/zh active Pending
- 2017-05-19 WO PCT/US2017/033604 patent/WO2017201444A1/en active Search and Examination
- 2017-05-19 EP EP17728007.0A patent/EP3459016B1/en active Active
- 2017-05-19 KR KR1020187035966A patent/KR102170199B1/ko active IP Right Grant
- 2017-05-19 JP JP2018560875A patent/JP6671515B2/ja active Active
-
2021
- 2021-04-06 US US17/223,523 patent/US11714993B2/en active Active
-
2023
- 2023-06-16 US US18/211,085 patent/US20230334288A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
US20200327359A1 (en) | 2020-10-15 |
US20230334288A1 (en) | 2023-10-19 |
CN114819137A (zh) | 2022-07-29 |
EP3459016A1 (en) | 2019-03-27 |
CN109478248A (zh) | 2019-03-15 |
CN109478248B (zh) | 2022-04-05 |
JP2019517075A (ja) | 2019-06-20 |
EP3459016B1 (en) | 2023-07-05 |
KR102170199B1 (ko) | 2020-10-26 |
US10997472B2 (en) | 2021-05-04 |
WO2017201444A1 (en) | 2017-11-23 |
KR20190007468A (ko) | 2019-01-22 |
US20210224578A1 (en) | 2021-07-22 |
US11714993B2 (en) | 2023-08-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6671515B2 (ja) | 比較セットを使用する入力例の分類 | |
KR102208989B1 (ko) | 강화 학습을 통한 디바이스 배치 최적화 | |
US20230244933A1 (en) | Training neural networks using a prioritized experience memory | |
US20200251099A1 (en) | Generating Target Sequences From Input Sequences Using Partial Conditioning | |
JP6758406B2 (ja) | ワイドアンドディープマシンラーニングモデル | |
US11263514B2 (en) | Processing and generating sets using recurrent neural networks | |
US10860928B2 (en) | Generating output data items using template data items | |
US10691997B2 (en) | Augmenting neural networks to generate additional outputs | |
CN109313719B (zh) | 使用神经网络生成文本段的依存性解析 | |
US20200226446A1 (en) | Augmenting neural networks with external memory | |
CN109074517B (zh) | 全局归一化神经网络 | |
JP2018537788A (ja) | 外部メモリを用いたニューラルネットワークの拡張 | |
US11080594B2 (en) | Augmenting neural networks with external memory using reinforcement learning | |
US20220138531A1 (en) | Generating output sequences from input sequences using neural networks | |
US10755171B1 (en) | Hiding and detecting information using neural networks |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190201 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190201 |
|
TRDD | Decision of grant or rejection written | ||
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200129 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200203 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200303 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6671515 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |