JP2018500708A - ニューラルネットワーク構造とその方法 - Google Patents
ニューラルネットワーク構造とその方法 Download PDFInfo
- Publication number
- JP2018500708A JP2018500708A JP2017547076A JP2017547076A JP2018500708A JP 2018500708 A JP2018500708 A JP 2018500708A JP 2017547076 A JP2017547076 A JP 2017547076A JP 2017547076 A JP2017547076 A JP 2017547076A JP 2018500708 A JP2018500708 A JP 2018500708A
- Authority
- JP
- Japan
- Prior art keywords
- layer
- function
- neural network
- network structure
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 88
- 238000000034 method Methods 0.000 title claims abstract description 19
- 230000006870 function Effects 0.000 claims abstract description 183
- 239000013598 vector Substances 0.000 description 11
- 238000010801 machine learning Methods 0.000 description 10
- 239000011159 matrix material Substances 0.000 description 6
- 238000013507 mapping Methods 0.000 description 5
- 238000004590 computer program Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 238000003909 pattern recognition Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 238000002939 conjugate gradient method Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 238000012886 linear function Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 230000002087 whitening effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/02—Computing arrangements based on specific mathematical models using fuzzy logic
- G06N7/04—Physical realisation
- G06N7/046—Implementation by means of a neural network
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Automation & Control Theory (AREA)
- Fuzzy Systems (AREA)
- Algebra (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Image Analysis (AREA)
Abstract
Description
y=s(Wx+b)
であって、Wとbは符号化関数のパラメータであり、sはシグモイド又は双曲線正接関数等の非線形関数であり、ニューラルネットワークをトレーニングするとき、コスト関数が最小になるようにWとbが求められる。Wとbはコンピュータメモリ又は記憶装置に記憶された数値の行列又はベクトルであり、yの式はコンピュータ上で評価される。
fi=r(Aixi−bi)
として選択され、rは整流器(rectifier)関数、Aiとbiはパラメータ行列、xiは符号化関数への入力、iはレイヤ数を表し、この例では、ベースレイヤの復号化関数g0は、
g0=B´x´+B0h0+b0
となるように選択され、ここでx´は破損した入力であり、h0はg1の出力であり、B´、B0及びb0はパラメータ行列であり、この例では、追加のレイヤの復号化関数giは、
gi=hi*s(Bixi+bi)
として選択され、ここで、*は要素単位の乗算を示し、Bi及びbiはパラメータ行列を示し、コスト関数Cは、
Claims (7)
- ベースレイヤと第2レイヤとを有するトレーニング可能なニューラルネットワーク構造であって、
前記ベースレイヤは、
前記ニューラルネットワーク構造の入力データを破損するための破損関数と、
復号化関数と、
コスト関数と、
を有し、
前記第2レイヤは、
符号化関数と、
復号化関数と、
を有し、
破損した入力データは、前記第2レイヤの前記符号化関数への入力として供給されるように構成され、
符号化された破損した入力データは、前記第2レイヤの前記復号化関数への入力として供給されるように構成され、
前記ニューラルネットワーク構造の前記破損した入力データと前記第2レイヤの前記復号化関数の出力とは、前記ベースレイヤの前記復号化関数への入力として供給されるように構成され、
前記ベースレイヤの前記復号化関数の出力と前記ニューラルネットワーク構造の前記入力データとは、前記ベースレイヤの前記コスト関数への入力として供給されるように構成される、ことを特徴とするニューラルネットワーク構造。 - 前記第2レイヤは、コスト関数を更に有し、
前記第2レイヤの前記復号化関数の出力と前記第2レイヤの前記符号化関数を用いて符号化された前記ニューラルネットワーク構造の前記入力データとは、前記コスト関数への入力として供給されるように構成される、ことを特徴とする請求項1に記載のニューラルネットワーク構造。 - 前記ニューラルネットワーク構造は、少なくとも1つの追加第2レイヤを更に有し、
前記少なくとも1つの追加第2レイヤのそれぞれは、前の前記第2レイヤに接続されるように配置され、
前の前記第2レイヤの前記符号化関数の出力は、前記少なくとも1つの追加第2レイヤの符号化関数への入力として供給されるように構成され、
前記少なくとも1つの追加第2レイヤの前記符号化関数の出力と上位レイヤの復号化関数の出力とは、前記少なくとも1つの追加第2レイヤの復号化関数への入力として供給されるように構成される、ことを特徴とする請求項1又は2に記載のニューラルネットワーク構造。 - 前記少なくとも1つの追加第2レイヤは、コスト関数を更に有し、
同じ前記少なくとも1つの追加第2レイヤの前記復号関数の出力と、問題としている前記少なくとも1つの追加第2レイヤの前の各レイヤの符号化関数で符号化された前記ニューラルネットワーク構造の前記入力データとは、 前記少なくとも1つの追加第2レイヤの前記少なくとも1つのコスト関数への入力として供給されるように構成される、ことを特徴とする請求項3に記載のニューラルネットワーク構造。 - 請求項1〜4のいずれか1項に記載のニューラルネットワーク構造をトレーニングするための方法であって、
前記構造に入力データを入力することによって前記ニューラルネットワークがトレーニングされるとき、前記ニューラルネットワーク構造に対して定義されたコスト関数が最小化されるように、少なくとも1つのレイヤの少なくとも1つの関数の少なくとも1つのパラメータを調整するステップ、を有する方法。 - レイヤ固有のコスト関数の入力データが比較されること、を特徴とする請求項5に記載の方法。
- 前記構造に対して定義されるコスト関数は、ニューラルネットワーク構造内の少なくとも1つのレイヤに対して定義されたレイヤ固有のコスト関数の合計であること、を特徴とする請求項5又は6に記載の方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/FI2014/050911 WO2016083657A1 (en) | 2014-11-26 | 2014-11-26 | Neural network structure and a method thereto |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018500708A true JP2018500708A (ja) | 2018-01-11 |
JP6564049B2 JP6564049B2 (ja) | 2019-08-21 |
Family
ID=52021228
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017547076A Expired - Fee Related JP6564049B2 (ja) | 2014-11-26 | 2014-11-26 | ニューラルネットワーク構造とその方法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US11720795B2 (ja) |
EP (1) | EP3224767A1 (ja) |
JP (1) | JP6564049B2 (ja) |
KR (1) | KR102291454B1 (ja) |
CN (1) | CN107111782B (ja) |
WO (1) | WO2016083657A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020005202A (ja) * | 2018-06-29 | 2020-01-09 | 日本放送協会 | 映像処理装置 |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10769531B2 (en) * | 2015-06-05 | 2020-09-08 | Cisco Technology, Inc. | Methods and systems for counting people |
US11068781B2 (en) * | 2016-10-07 | 2021-07-20 | Nvidia Corporation | Temporal ensembling for semi-supervised learning |
FI20196098A1 (fi) | 2017-05-19 | 2019-12-19 | Curious Ai Oy | Neuroverkkoon perustuva ratkaisu |
KR101992739B1 (ko) * | 2017-10-30 | 2019-06-26 | (주)한국플랫폼서비스기술 | 딥러닝을 이용한 암호화 방법 |
CN107844828B (zh) * | 2017-12-18 | 2021-07-30 | 南京地平线机器人技术有限公司 | 神经网络中的卷积计算方法和电子设备 |
US11775814B1 (en) | 2019-07-31 | 2023-10-03 | Automation Anywhere, Inc. | Automated detection of controls in computer applications with region based detectors |
US11176443B1 (en) | 2017-12-21 | 2021-11-16 | Automation Anywhere, Inc. | Application control and text detection from application screen images |
US10769427B1 (en) | 2018-04-19 | 2020-09-08 | Automation Anywhere, Inc. | Detection and definition of virtual objects in remote screens |
CN110971915B (zh) * | 2018-09-28 | 2022-07-01 | 杭州海康威视数字技术股份有限公司 | 滤波方法和设备 |
CN109359727B (zh) * | 2018-12-07 | 2022-01-11 | 北京字节跳动网络技术有限公司 | 神经网络的结构确定方法、装置、设备及可读介质 |
WO2020149511A1 (ko) * | 2019-01-17 | 2020-07-23 | 삼성전자주식회사 | 전자 장치 및 이의 제어 방법 |
DE102019201702A1 (de) * | 2019-02-11 | 2020-08-13 | Conti Temic Microelectronic Gmbh | Modulares inpainting Verfahren |
KR102225024B1 (ko) * | 2019-10-24 | 2021-03-08 | 연세대학교 산학협력단 | 이미지 채움 장치 및 방법 |
US11513670B2 (en) | 2020-04-27 | 2022-11-29 | Automation Anywhere, Inc. | Learning user interface controls via incremental data synthesis |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6560349B1 (en) * | 1994-10-21 | 2003-05-06 | Digimarc Corporation | Audio monitoring using steganographic information |
US6518892B2 (en) * | 2000-11-06 | 2003-02-11 | Broadcom Corporation | Stopping criteria for iterative decoding |
FI20070159A0 (fi) * | 2007-02-23 | 2007-02-23 | Teknillinen Korkeakoulu | Menetelmä informaation integrointiin, valintaan ja esityksen oppimiseen |
US20090110062A1 (en) * | 2007-10-30 | 2009-04-30 | The Hong Kong University Of Science And Technology | Optimal heegard-berger coding schemes |
US8290096B2 (en) * | 2008-04-14 | 2012-10-16 | Qualcomm Incorporated | Radius adaptive sphere decoding with probabilistic noise constraint |
CN101795344B (zh) | 2010-03-02 | 2013-03-27 | 北京大学 | 数字全息图像压缩、解码方法及系统、传输方法及系统 |
CN104050507B (zh) | 2014-06-30 | 2018-03-09 | 南京理工大学 | 基于多层神经网络的超光谱图像分类方法 |
-
2014
- 2014-11-26 US US15/531,212 patent/US11720795B2/en active Active
- 2014-11-26 EP EP14809913.8A patent/EP3224767A1/en not_active Withdrawn
- 2014-11-26 WO PCT/FI2014/050911 patent/WO2016083657A1/en active Application Filing
- 2014-11-26 JP JP2017547076A patent/JP6564049B2/ja not_active Expired - Fee Related
- 2014-11-26 CN CN201480084419.8A patent/CN107111782B/zh active Active
- 2014-11-26 KR KR1020177017402A patent/KR102291454B1/ko active IP Right Grant
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020005202A (ja) * | 2018-06-29 | 2020-01-09 | 日本放送協会 | 映像処理装置 |
JP7202087B2 (ja) | 2018-06-29 | 2023-01-11 | 日本放送協会 | 映像処理装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2016083657A1 (en) | 2016-06-02 |
JP6564049B2 (ja) | 2019-08-21 |
KR102291454B1 (ko) | 2021-08-19 |
EP3224767A1 (en) | 2017-10-04 |
US20170330076A1 (en) | 2017-11-16 |
CN107111782B (zh) | 2021-05-14 |
CN107111782A (zh) | 2017-08-29 |
KR20170092595A (ko) | 2017-08-11 |
US11720795B2 (en) | 2023-08-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6564049B2 (ja) | ニューラルネットワーク構造とその方法 | |
EP3869385B1 (en) | Method for extracting structural data from image, apparatus and device | |
Laishram et al. | A novel minimal distortion-based edge adaptive image steganography scheme using local complexity: (BEASS) | |
US11501108B2 (en) | Adding a fingerprint to a machine learning model | |
KR102287407B1 (ko) | 이미지 생성을 위한 학습 장치 및 방법과 이미지 생성 장치 및 방법 | |
KR102028825B1 (ko) | 워터마킹 공격을 식별하는 인공신경망을 이용한 워터마킹을 처리하기 위한 장치, 이를 위한 방법 및 이 방법을 수행하기 위한 프로그램이 기록된 컴퓨터 판독 가능한 기록매체 | |
CN112418345B (zh) | 细粒度小目标快速识别的方法和装置 | |
KR102127571B1 (ko) | 자기회귀 생성모델 기반의 은닉 데이터 제거 방법 및 장치 | |
CN112088378A (zh) | 图像隐藏信息检测器 | |
US20210304364A1 (en) | Method and system for removing noise in documents for image processing | |
CN114065771A (zh) | 一种预训练语言处理方法及设备 | |
CN112750065B (zh) | 载体对象处理和水印嵌入方法、装置及电子设备 | |
KR102612625B1 (ko) | 신경망 기반의 특징점 학습 장치 및 방법 | |
US20180359378A1 (en) | System, method, and non-transitory computer readable storage medium for image recognition based on convolutional neural networks | |
KR102028824B1 (ko) | 객체를 식별하는 인공신경망을 이용한 워터마킹을 처리하기 위한 장치, 이를 위한 방법 및 이 방법을 수행하기 위한 프로그램이 기록된 컴퓨터 판독 가능한 기록매체 | |
CN115034255A (zh) | 一种具有注意力机制时间卷积网络的信号调制识别算法 | |
Kartik et al. | Decoding of graphically encoded numerical digits using deep learning and edge detection techniques | |
CN113055546A (zh) | 处理图像的系统和方法 | |
KR102322927B1 (ko) | 인공신경망을 이용한 진단 영상을 구분하기 위한 장치, 이를 위한 방법 및 이 방법을 수행하기 위한 프로그램이 기록된 컴퓨터 판독 가능한 기록매체 | |
CN111275603A (zh) | 一种基于风格转换的安全图像隐写方法与电子装置 | |
KR102676919B1 (ko) | 인공지능을 이용한 이미지 생성 방법 및 이를 실행하기 위하여 기록매체에 기록된 컴퓨터 프로그램 | |
CN117710763B (zh) | 图像噪声识别模型训练方法、图像噪声识别方法及装置 | |
KR102615055B1 (ko) | 적대적 이미지 복원 시스템 및 적대적 이미지 복원 방법 | |
KR102045140B1 (ko) | 인공신경망을 이용한 워터마킹 공격 기법을 도출하기 위한 장치, 이를 위한 방법 및 이 방법을 수행하기 위한 프로그램이 기록된 컴퓨터 판독 가능한 기록매체 | |
Dong et al. | Implicit Neural Representation Steganography by Neuron Pruning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20171101 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181031 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181113 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190123 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190625 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190725 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6564049 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |