JP6561004B2 - ニューラルネットワークシステム、端末装置、管理装置およびニューラルネットワークにおける重みパラメータの学習方法 - Google Patents
ニューラルネットワークシステム、端末装置、管理装置およびニューラルネットワークにおける重みパラメータの学習方法 Download PDFInfo
- Publication number
- JP6561004B2 JP6561004B2 JP2016061926A JP2016061926A JP6561004B2 JP 6561004 B2 JP6561004 B2 JP 6561004B2 JP 2016061926 A JP2016061926 A JP 2016061926A JP 2016061926 A JP2016061926 A JP 2016061926A JP 6561004 B2 JP6561004 B2 JP 6561004B2
- Authority
- JP
- Japan
- Prior art keywords
- learning
- weight parameter
- terminal device
- neural network
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Analysis (AREA)
Description
畳み込み層からの出力から画像データを復元するのは困難であるため、プライバシーを保護できる。
これにより、2層目以降の畳み込み層の重みパラメータを精度よく学習できる。
検証用データは端末装置に保存された画像データではないため、プライバシーを保護しつつ、学習によって得られた重みパラメータを検証でき、最適な重みパラメータの選択に利用できる。
これにより、他の端末でも最適な重みパラメータを用いることができるようになる。
傾向が近い端末装置どうしをグループ化することで、端末装置に応じてグループごとに適切な重みパラメータを選択できる。
が提供される。
(第1の実施形態)
図1は、一実施形態に係るニューラルネットワークシステムの概略構成を示すブロック図である。このニューラルネットワークシステムは畳み込みニューラルネットワーク(Convolution Neural Network;以下、CNNという)における重みパラメータを学習することが可能であり、学習用の画像データを収集して利用する2以上の端末装置1と、各端末装置1での学習結果を共有、統合、送信するための管理装置2から構成される。
画像識別器13には、他の端末装置1とも共通するCNN構成が設定され、CNNにおける重みパラメータの学習や、所定の重みパラメータが設定されたCNNによる画像の識別を行うことができる。
また、画像識別器13は、画像の識別時には、入力される任意の画像データを処理して、全結合層ネットワーク40から識別結果を出力する。
記憶部21は、CNN構成、初期重みパラメータ、最適重みパラメータ、事前学習用データ、検証用データセットなどを記憶している。
まず、次のステップS1,S11およびS2の処理によって、初期設定を行う。
この要求に応答して、管理装置2の制御部22はCNN構成および重みパラメータを記憶部21から読み出す。重みパラメータとして、初めて学習を行う場合には初期重みパラメータを読み出し、以前に学習を行って最適重みパラメータが記憶されている場合には最適重みパラメータを読み出せばよい。そして、制御部22はCNN構成および重みパラメータを端末装置1に送信する(ステップS11)。
まず、画像識別器13は、自身の端末装置1内の記憶部12に保存された画像データを用いて、1層目の畳み込み層における重みパラメータの更新(「1層目の事前学習」という、以下同じ)を行う(ステップS21)。
端末装置1の制御部14は、教師なし事前学習が完了した旨を管理装置2に通知する(ステップS41)。この通知は検証用データセットの要求と考えることもできる。
以上のような分散学習が完了すると、管理装置2の制御部22は最適重みパラメータを各端末装置1に送信する(図3のステップS12)。
端末装置1がスマートフォンやタブレットである場合、各端末装置1に保存されている画像データには、ユーザの利用環境や思考に応じて何らかの傾向が存在することが多い。例えば、ユーザによって、日々の食事を多く撮影したり、風景を多く撮影したり、乗り物を多く撮影したりすることがある。また、ユーザの年齢や性別といった属性によって傾向が異なることもある。
11 カメラ
12 記憶部
13 画像識別器
14 制御部
2 管理装置
21 記憶部
22 制御部
30 畳み込み層ネットワーク
31 畳み込み層
32 プーリング層
40 全結合層ネットワーク
41 全結合層
Claims (9)
- 複数の端末装置と、管理装置と、を備えるニューラルネットワークシステムであって、
前記複数の端末装置のそれぞれは、
画像データが保存された記憶部と、
ニューラルネットワークにおける、画像識別を行うための重みパラメータを学習する画像識別器と、
学習によって得られた重みパラメータを前記管理装置に送信することと、前記画像データに基づいて生成される学習用データを他の端末装置または前記管理装置に送信することと、他の端末装置によって生成された前記学習用データを受信することと、を行う第1制御部と、を備え、
前記画像識別器は、自身の記憶部に保存された画像データのみならず、他の端末装置によって生成された前記学習用データを用いて前記重みパラメータを学習し、
前記管理装置は、前記学習によって得られた重みパラメータを前記複数の端末装置から受信し、最適な重みパラメータを選択する第2制御部を備える、ニューラルネットワークシステム。 - ニューラルネットワークは、複数の畳み込み層を有し、
前記第1制御部は、前記畳み込み層からの出力を、前記画像データに基づいて生成される学習用データとして送信する、請求項1に記載のニューラルネットワークシステム。 - 前記画像識別器は、自身の記憶部に保存された画像データを用いて1層目の畳み込み層における学習を行い、自身の記憶部に保存された画像データと、他の端末装置によって生成された前記学習用データとを用いて2層目以降の畳み込み層における学習を行う、請求項2に記載のニューラルネットワークシステム。
- 前記第1制御部または前記第2制御部は、前記画像データとは異なる検証用データを用いて、前記学習によって得られた重みパラメータの検証を行う、請求項1乃至3のいずれかに記載のニューラルネットワークシステム。
- 前記第2制御部は、前記複数の端末装置から受信した前記学習によって得られた重みパラメータのうち、最も認識精度が高い重みパラメータを最適な重みパラメータとして選択する、請求項1乃至4のいずれかに記載のニューラルネットワークシステム。
- 前記第2制御部は、前記複数の端末装置から受信した前記学習によって得られた重みパラメータに基づいて前記複数の端末装置をグループ化し、グループごとに最適な重みパラメータを選択する、請求項1乃至5のいずれかに記載のニューラルネットワークシステム。
- 画像データが保存された記憶部と、
ニューラルネットワークにおける、画像識別を行うための重みパラメータを学習する画像識別器と、
学習によって得られた重みパラメータを管理装置に送信することと、前記画像データに基づいて生成される学習用データを他の端末装置または前記管理装置に送信することと、他の端末装置によって生成された前記学習用データを受信することと、を行う第1制御部と、を備え、
前記画像識別器は、自身の記憶部に保存された画像データのみならず、他の端末装置によって生成された前記学習用データを用いて前記重みパラメータを学習する、端末装置。 - 複数の端末装置から、学習によって得られた重みパラメータと、認識精度と、を受信し、前記認識精度に基づいて、前記複数の端末装置から受信した重みパラメータから最適な重みパラメータを選択する第2制御部を備える、管理装置。
- 端末装置が、ニューラルネットワークにおける、画像識別を行うための重みパラメータを学習する学習ステップと、
前記端末装置が、学習によって得られた重みパラメータを管理装置に送信ステップと、
前記管理装置が、前記学習によって得られた重みパラメータを複数の端末装置から受信し、最適な重みパラメータを選択する選択ステップと、を備え、
前記学習ステップは、前記端末装置が、
自身の記憶部に保存された画像データに基づいて生成される学習用データを他の端末装置または前記管理装置に送信することと、
他の端末装置によって生成された前記学習用データを受信することと、
自身の記憶部に保存された画像データのみならず、他の端末装置によって生成された前記学習用データを用いて前記重みパラメータを学習することと、を含む、ニューラルネットワークにおける重みパラメータの学習方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016061926A JP6561004B2 (ja) | 2016-03-25 | 2016-03-25 | ニューラルネットワークシステム、端末装置、管理装置およびニューラルネットワークにおける重みパラメータの学習方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016061926A JP6561004B2 (ja) | 2016-03-25 | 2016-03-25 | ニューラルネットワークシステム、端末装置、管理装置およびニューラルネットワークにおける重みパラメータの学習方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017174298A JP2017174298A (ja) | 2017-09-28 |
JP6561004B2 true JP6561004B2 (ja) | 2019-08-14 |
Family
ID=59971278
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016061926A Active JP6561004B2 (ja) | 2016-03-25 | 2016-03-25 | ニューラルネットワークシステム、端末装置、管理装置およびニューラルネットワークにおける重みパラメータの学習方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6561004B2 (ja) |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6727176B2 (ja) * | 2017-09-27 | 2020-07-22 | 富士フイルム株式会社 | 学習支援装置、学習支援装置の作動方法、学習支援プログラム、学習支援システム、および端末装置 |
JP7058440B2 (ja) * | 2018-01-10 | 2022-04-22 | 国立研究開発法人情報通信研究機構 | 学習システム及び学習方法 |
KR102097442B1 (ko) * | 2018-03-27 | 2020-04-06 | 주식회사 제니스텍 | 전력 계통 운용을 위한 상호작용형 실시간 제어 및 진단 시스템 업데이트 방법 및 장치 |
JP7228961B2 (ja) * | 2018-04-02 | 2023-02-27 | キヤノン株式会社 | ニューラルネットワークの学習装置およびその制御方法 |
JP6742565B2 (ja) * | 2018-05-02 | 2020-08-19 | 三菱電機株式会社 | 学習装置、検証装置、データ処理システムおよびデータ処理方法 |
JP2021181124A (ja) * | 2018-07-19 | 2021-11-25 | ソニーグループ株式会社 | 制御装置、制御方法、およびプログラム |
CN112912901A (zh) | 2018-10-18 | 2021-06-04 | 富士通株式会社 | 学习程序、学习方法以及学习装置 |
KR102126795B1 (ko) * | 2018-11-30 | 2020-06-26 | 서울대학교 산학협력단 | 딥러닝 기반의 이미지 개인정보 가공장치 시스템, 장치 및 그 방법 |
JP7279368B2 (ja) * | 2019-01-17 | 2023-05-23 | 富士通株式会社 | 学習方法、学習プログラムおよび学習装置 |
JP7171477B2 (ja) * | 2019-03-14 | 2022-11-15 | ヤフー株式会社 | 情報処理装置、情報処理方法および情報処理プログラム |
EP3951709A4 (en) | 2019-03-29 | 2022-09-07 | Sony Group Corporation | INFORMATION PROCESSING DEVICE AND INFORMATION PROCESSING METHOD |
JP7374202B2 (ja) * | 2019-09-26 | 2023-11-06 | 富士フイルム株式会社 | 機械学習システムおよび方法、統合サーバ、プログラムならびに推論モデルの作成方法 |
CN113688424A (zh) * | 2021-08-31 | 2021-11-23 | 福建师范大学 | 基于权重社会网络的个性化差分隐私保护方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10540587B2 (en) * | 2014-04-11 | 2020-01-21 | Google Llc | Parallelizing the training of convolutional neural networks |
-
2016
- 2016-03-25 JP JP2016061926A patent/JP6561004B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017174298A (ja) | 2017-09-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6561004B2 (ja) | ニューラルネットワークシステム、端末装置、管理装置およびニューラルネットワークにおける重みパラメータの学習方法 | |
JP6656376B2 (ja) | 顔認証方法、装置及びコンピュータ記憶媒体 | |
KR102144707B1 (ko) | 인공지능 학습을 위한 모바일 기기의 터치 기반 어노테이션과 이미지 생성 방법 및 그 장치 | |
KR102545128B1 (ko) | 뉴럴 네트워크를 수반한 클라이언트 장치 및 그것을 포함하는 시스템 | |
JP6756037B2 (ja) | ユーザ本人確認の方法、装置及びシステム | |
CN108491805B (zh) | 身份认证方法和装置 | |
JP6594329B2 (ja) | 顔表現のためのシステムおよび方法 | |
EP3255586A1 (en) | Method, program, and apparatus for comparing data graphs | |
CN109840530A (zh) | 训练多标签分类模型的方法和装置 | |
CN111477290A (zh) | 保护用户隐私的联邦学习和图像分类方法、系统及终端 | |
JP6731529B1 (ja) | 単一画素攻撃サンプルの生成方法、装置、設備及び記憶媒体 | |
CN109840477A (zh) | 基于特征变换的受遮挡人脸识别方法及装置 | |
US11575502B2 (en) | Homomorphic encryption processing device, system including the same and method of performing homomorphic encryption processing | |
CN110675458B (zh) | 用于摄像头标定的方法、装置及存储介质 | |
CN110263909A (zh) | 图像识别方法及装置 | |
US8417047B2 (en) | Noise suppression in low light images | |
KR20180004898A (ko) | 딥러닝 기반의 이미지 처리 기술 및 그 방법 | |
WO2020258902A1 (zh) | 图像生成和神经网络训练方法、装置、设备和介质 | |
US20220067888A1 (en) | Image processing method and apparatus, storage medium, and electronic device | |
US20220368877A1 (en) | Image processing method, image processing apparatus, storage medium, manufacturing method of learned model, and image processing system | |
CN106373112B (zh) | 图像处理方法、装置和电子设备 | |
CN106664372B (zh) | 图像处理装置、图像处理方法及记录介质 | |
JP6935868B2 (ja) | 画像認識装置、画像認識方法、およびプログラム | |
US20220116198A1 (en) | Homomorphic operation accelerator and homomorphic operation performing device including the same | |
US11800235B2 (en) | Dual exposure control in a camera system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180726 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190606 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190709 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190722 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6561004 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |