JP6954004B2 - 畳み込みニューラルネットワークモデルの決定装置及び決定方法 - Google Patents
畳み込みニューラルネットワークモデルの決定装置及び決定方法 Download PDFInfo
- Publication number
- JP6954004B2 JP6954004B2 JP2017209284A JP2017209284A JP6954004B2 JP 6954004 B2 JP6954004 B2 JP 6954004B2 JP 2017209284 A JP2017209284 A JP 2017209284A JP 2017209284 A JP2017209284 A JP 2017209284A JP 6954004 B2 JP6954004 B2 JP 6954004B2
- Authority
- JP
- Japan
- Prior art keywords
- cnn model
- database
- candidate
- cnn
- classification ability
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/51—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/10—Interfaces, programming languages or software development kits, e.g. for simulating neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Molecular Biology (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Probability & Statistics with Applications (AREA)
- Databases & Information Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
ここで、0≦n、m、bd、ib、cdの重み≦1となり、nの重み+mの重み+bdの重み+ibの重み+cdの重み=1となる。
本発明の実施例では、決定部120は、データベースの複雑度に基づいて、データベースに適するCNNモデルの分類能力の数値範囲を決定してもよい。例えば、上記の実施例のようにデータベースに適するCNNモデルの分類能力xkを決定した後に、該分類能力の左隣接領域Δl及び右隣接領域Δrを決定し、該データベースに適するCNNモデルの分類能力の数値範囲が[xk−Δl,xk+Δr]であると決定してもよい。分類能力の左隣接領域及び右隣接領域は経験値に基づいて設定されてもよく、好ましくは、Δl=0.5、Δr=0.5となる。
ここで、Nは該候補CNNモデルの第2パラメータを表し、sは該候補CNNモデルの第3パラメータを表し、g(N,s)はN及びsを変数とする関数を表し、Gは該候補CNNモデルの第1パラメータを表す。
(付記1)
畳み込みニューラルネットワーク(CNN)モデルの決定装置であって、
複数のサンプルを含むデータベースの複雑度を決定する第1決定手段と、
前記データベースの複雑度に基づいて、前記データベースに適するCNNモデルの分類能力を決定する第2決定手段と、
複数の候補CNNモデルのうち各候補CNNモデルの分類能力を取得する第3決定手段と、
前記各候補CNNモデルの分類能力及び前記データベースに適するCNNモデルの分類能力に基づいて、前記データベースに適するCNNモデルを決定するマッチング手段と、を含む、装置。
(付記2)
前記第1決定手段は、パラメータ群から複数のパラメータを選択し、選択された複数のパラメータに基づいて前記データベースの複雑度を決定し、
前記パラメータ群は、
前記データベースにおける複数のサンプルの種類の数を表す種類数、
前記データベースにおける各種類のサンプルの平均数を表すサンプル平均数、
前記データベースにおける各種類のサンプル数の分散度を表すサンプル分散度、
前記データベースにおけるサンプルの画像背景の複雑度を表す背景複雑度、及び
前記データベースにおけるサンプルから対象を認識することの難易度を表す対象鮮明度を含む、付記1に記載の装置。
(付記3)
前記第1決定手段は、前記複数のパラメータの各パラメータの重み及びスコアを決定し、前記複数のパラメータの各パラメータを重み付け加算して前記データベースの複雑度を決定する、付記2に記載の装置。
(付記4)
前記第1決定手段は、
階層分析法を用いて、前記複数のパラメータのうち各2つのパラメータ間の相対的な重要度に基づいて比較行列を構築し、
前記比較行列に基づいて、前記複数のパラメータの各パラメータの重みを決定する、付記3に記載の装置。
(付記5)
前記第2決定手段は、前記データベースの複雑度に基づいて、前記データベースに適するCNNモデルの分類能力の数値範囲を決定する、付記1に記載の装置。
(付記6)
前記第3決定手段は、前記候補CNNモデルの第1パラメータを決定し、前記候補CNNモデルの第1パラメータに基づいて前記候補CNNモデルの分類能力を算出し、
前記第1パラメータは、前記候補CNNモデルの訓練度合いを表すためのものである、付記1に記載の装置。
(付記7)
前記第3決定手段は、前記候補CNNモデルの第1パラメータ、第2パラメータ及び第3パラメータに基づいて、前記候補CNNモデルの分類能力を算出し、
前記第2パラメータは前記候補CNNモデルの畳み込み層の層数を表し、
前記第3パラメータは前記候補CNNモデルの幅パラメータであり、前記幅パラメータは前記候補CNNモデルの特徴マップの数の乗算因子を表す、付記6に記載の装置。
(付記8)
前記第3決定手段は、候補CNNモデルと分類能力との対応関係を構築し、
前記マッチング手段は、前記データベースに適するCNNモデルの分類能力に対応する候補CNNモデルを、前記データベースに適するCNNモデルとして決定する、付記1に記載の装置。
(付記9)
前記第3決定手段は、
同一又は類似の分類能力を有する候補CNNモデルが同一のグループに分けられるように、前記複数の候補CNNモデルに対してグループ分けを行い、
同一のグループに属する候補CNNモデルを、該グループの同一又は類似の分類能力のうち代表的な分類能力に対応付ける、付記8に記載の装置。
(付記10)
複数の候補CNNモデルを選択する選択手段、をさらに含む、付記7に記載の装置。
(付記11)
前記選択手段は、
複数のサンプルCNNモデルを構築し、
第2パラメータ及び第3パラメータが所定条件を満たしている複数のサンプルCNNモデルを前記複数の候補CNNモデルとして選択する、付記10に記載の装置。
(付記12)
前記選択手段は、前記サンプルCNNモデルの1つ又は複数のプーリング層のうち各プーリング層の後の特徴マップの数が前記プーリング層の前の特徴マップの数の2倍であるように、前記複数のサンプルCNNモデルの各サンプルCNNモデルを構築する、付記11に記載の装置。
(付記13)
前記選択手段は、前記サンプルCNNモデルの1つ又は複数の畳み込み層の各畳み込み層の畳み込みテンプレート及び前記各プーリング層のプーリングテンプレートを固定することで、前記複数のサンプルCNNモデルの各サンプルCNNモデルを構築する、付記10に記載の装置。
(付記14)
前記選択手段は、前記サンプルCNNモデルの活性化関数をReLU関数に固定することで、前記複数のサンプルCNNモデルの各サンプルCNNモデルを構築する、付記10に記載の装置。
(付記15)
畳み込みニューラルネットワーク(CNN)モデルの決定方法であって、
複数のサンプルを含むデータベースの複雑度を決定するステップと、
前記データベースの複雑度に基づいて、前記データベースに適するCNNモデルの分類能力を決定するステップと、
複数の候補CNNモデルのうち各候補CNNモデルの分類能力を取得するステップと、
前記各候補CNNモデルの分類能力及び前記データベースに適するCNNモデルの分類能力に基づいて、前記データベースに適するCNNモデルを決定するステップと、を含む、方法。
(付記16)
前記複数のサンプルを含むデータベースの複雑度を決定するステップは、パラメータ群から複数のパラメータを選択し、選択された複数のパラメータに基づいて前記データベースの複雑度を決定するステップを含み、
前記パラメータ群は、
前記データベースにおける複数のサンプルの種類の数を表す種類数、
前記データベースにおける各種類のサンプルの平均数を表すサンプル平均数、
前記データベースにおける各種類のサンプル数の分散度を表すサンプル分散度、
前記データベースにおけるサンプルの画像背景の複雑度を表す背景複雑度、及び
前記データベースにおけるサンプルから対象を認識することの難易度を表す対象鮮明度を含む、付記15に記載の方法。
(付記17)
前記複数のサンプルを含むデータベースの複雑度を決定するステップは、
前記複数のパラメータの各パラメータの重み及びスコアを決定するステップと、
前記複数のパラメータの各パラメータを重み付け加算して前記データベースの複雑度を決定するステップと、を含む、付記16に記載の方法。
(付記18)
前記複数のサンプルを含むデータベースの複雑度を決定するステップは、
階層分析法を用いて、前記複数のパラメータのうち各2つのパラメータ間の相対的な重要度に基づいて比較行列を構築するステップと、
前記比較行列に基づいて、前記複数のパラメータの各パラメータの重みを決定するステップと、を含む、付記17に記載の方法。
(付記19)
前記データベースの複雑度に基づいて、前記データベースに適するCNNモデルの分類能力を決定するステップは、
前記データベースの複雑度に基づいて、前記データベースに適するCNNモデルの分類能力の数値範囲を決定するステップを含む、付記15に記載の方法。
(付記20)
機器が読み取り可能な命令コードを含むプログラムプロダクトを記憶する機器読み取り可能な記憶媒体であって、前記命令コードがコンピュータにより読み取られ、実行される際に、前記コンピュータに、付記15乃至19の何れかに記載の方法を実行させることができる、記憶媒体。
Claims (10)
- 畳み込みニューラルネットワーク(CNN)モデルの決定装置であって、
複数のサンプルを含むデータベースの複雑度を決定する第1決定手段と、
前記データベースの複雑度に基づいて、前記データベースに適するCNNモデルの分類能力を決定する第2決定手段と、
複数の候補CNNモデルのうち各候補CNNモデルの分類能力を取得する第3決定手段と、
前記各候補CNNモデルの分類能力及び前記データベースに適するCNNモデルの分類能力に基づいて、前記データベースに適するCNNモデルを決定するマッチング手段と、を含む、装置。 - 前記第2決定手段は、前記データベースの複雑度に基づいて、前記データベースに適するCNNモデルの分類能力の数値範囲を決定する、請求項1に記載の装置。
- 前記第3決定手段は、前記候補CNNモデルの第1パラメータを決定し、前記候補CNNモデルの第1パラメータに基づいて前記候補CNNモデルの分類能力を算出し、
前記第1パラメータは、前記候補CNNモデルの訓練度合いを表すためのものである、請求項1に記載の装置。 - 前記第3決定手段は、前記候補CNNモデルの第1パラメータ、第2パラメータ及び第3パラメータに基づいて、前記候補CNNモデルの分類能力を算出し、
前記第2パラメータは前記候補CNNモデルの畳み込み層の層数を表し、
前記第3パラメータは前記候補CNNモデルの幅パラメータであり、前記幅パラメータは前記候補CNNモデルの特徴マップの数の乗算因子を表す、請求項3に記載の装置。 - 前記第3決定手段は、候補CNNモデルと分類能力との対応関係を構築し、
前記マッチング手段は、前記データベースに適するCNNモデルの分類能力に対応する候補CNNモデルを、前記データベースに適するCNNモデルとして決定する、請求項1に記載の装置。 - 前記第3決定手段は、
同一又は類似の分類能力を有する候補CNNモデルが同一のグループに分けられるように、前記複数の候補CNNモデルに対してグループ分けを行い、
同一のグループに属する候補CNNモデルを、該グループの同一又は類似の分類能力のうち代表的な分類能力に対応付ける、請求項5に記載の装置。 - 複数の候補CNNモデルを選択する選択手段、をさらに含む、請求項4に記載の装置。
- 前記選択手段は、
複数のサンプルCNNモデルを構築し、
第2パラメータ及び第3パラメータが所定条件を満たしている複数のサンプルCNNモデルを前記複数の候補CNNモデルとして選択する、請求項7に記載の装置。 - 前記選択手段は、前記サンプルCNNモデルの1つ又は複数のプーリング層のうち各プーリング層の後の特徴マップの数が前記プーリング層の前の特徴マップの数の2倍であるように、前記複数のサンプルCNNモデルの各サンプルCNNモデルを構築する、請求項8に記載の装置。
- 畳み込みニューラルネットワーク(CNN)モデルの決定方法であって、コンピュータが、
複数のサンプルを含むデータベースの複雑度を決定するステップと、
前記データベースの複雑度に基づいて、前記データベースに適するCNNモデルの分類能力を決定するステップと、
複数の候補CNNモデルのうち各候補CNNモデルの分類能力を取得するステップと、
前記各候補CNNモデルの分類能力及び前記データベースに適するCNNモデルの分類能力に基づいて、前記データベースに適するCNNモデルを決定するステップと、を実行する、方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611095600.6 | 2016-12-01 | ||
CN201611095600.6A CN108133223B (zh) | 2016-12-01 | 2016-12-01 | 确定卷积神经网络cnn模型的装置和方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018092615A JP2018092615A (ja) | 2018-06-14 |
JP6954004B2 true JP6954004B2 (ja) | 2021-10-27 |
Family
ID=62243977
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017209284A Active JP6954004B2 (ja) | 2016-12-01 | 2017-10-30 | 畳み込みニューラルネットワークモデルの決定装置及び決定方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11049017B2 (ja) |
JP (1) | JP6954004B2 (ja) |
CN (1) | CN108133223B (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11810340B2 (en) * | 2017-11-29 | 2023-11-07 | International Business Machines Corporation | System and method for consensus-based representation and error checking for neural networks |
JP7042210B2 (ja) * | 2018-12-27 | 2022-03-25 | Kddi株式会社 | 学習モデル生成装置、学習モデル生成方法、及びプログラム |
EP3915048A4 (en) | 2019-06-03 | 2022-03-30 | Samsung Electronics Co., Ltd. | ELECTRONIC OBJECT RECOGNITION APPARATUS AND METHOD FOR OPERATING IT |
US20210064987A1 (en) * | 2019-09-03 | 2021-03-04 | Nvidia Corporation | Processor and system to convert tensor operations in machine learning |
WO2021057690A1 (zh) * | 2019-09-24 | 2021-04-01 | 华为技术有限公司 | 构建神经网络的方法与装置、及图像处理方法与装置 |
US10699002B1 (en) | 2019-11-22 | 2020-06-30 | Capital One Services, Llc | Identification of database intrusion by changes in data tables |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2798793B2 (ja) * | 1990-07-12 | 1998-09-17 | 三菱電機株式会社 | 神経回路網装置 |
US20040012576A1 (en) * | 2002-07-16 | 2004-01-22 | Robert Cazier | Digital image display method and system |
JP2008021805A (ja) * | 2006-07-12 | 2008-01-31 | Sharp Corp | テスト結果予測装置、テスト結果予測方法、半導体テスト装置、半導体テスト方法、システム、プログラム、および記録媒体 |
CN102479329A (zh) * | 2010-11-22 | 2012-05-30 | 索尼公司 | 分类器生成装置和方法,检测图像中的对象的装置和方法 |
US9463334B2 (en) * | 2013-03-15 | 2016-10-11 | Varian Medical Systems International Ag | Radiation therapy planing using integrated model |
CN103177265B (zh) * | 2013-03-25 | 2016-09-14 | 中山大学 | 基于核函数与稀疏编码的高清图像分类方法 |
JP6236296B2 (ja) * | 2013-11-14 | 2017-11-22 | 株式会社デンソーアイティーラボラトリ | 学習装置、学習プログラム、及び学習方法 |
CN104794527B (zh) * | 2014-01-20 | 2018-03-27 | 富士通株式会社 | 基于卷积神经网络的分类模型构建方法和设备 |
US9734425B2 (en) * | 2015-02-11 | 2017-08-15 | Qualcomm Incorporated | Environmental scene condition detection |
WO2016109884A1 (en) * | 2015-01-05 | 2016-07-14 | Valorbec Limited Partnership | Automated recommendation and virtualization systems and methods for e-commerce |
US20160239736A1 (en) * | 2015-02-17 | 2016-08-18 | Qualcomm Incorporated | Method for dynamically updating classifier complexity |
US11423311B2 (en) * | 2015-06-04 | 2022-08-23 | Samsung Electronics Co., Ltd. | Automatic tuning of artificial neural networks |
CN105975992A (zh) * | 2016-05-18 | 2016-09-28 | 天津大学 | 一种基于自适应升采样的不平衡数据集分类方法 |
CN106228185B (zh) * | 2016-07-20 | 2019-10-15 | 武汉盈力科技有限公司 | 一种基于神经网络的通用图像分类识别系统及方法 |
-
2016
- 2016-12-01 CN CN201611095600.6A patent/CN108133223B/zh active Active
-
2017
- 2017-10-03 US US15/723,457 patent/US11049017B2/en active Active
- 2017-10-30 JP JP2017209284A patent/JP6954004B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
US11049017B2 (en) | 2021-06-29 |
US20180157976A1 (en) | 2018-06-07 |
CN108133223B (zh) | 2020-06-26 |
JP2018092615A (ja) | 2018-06-14 |
CN108133223A (zh) | 2018-06-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6954004B2 (ja) | 畳み込みニューラルネットワークモデルの決定装置及び決定方法 | |
JP6954003B2 (ja) | データベースのための畳み込みニューラルネットワークモデルの決定装置及び決定方法 | |
TWI689871B (zh) | 梯度提升決策樹(gbdt)模型的特徵解釋方法和裝置 | |
WO2018227800A1 (zh) | 一种神经网络训练方法及装置 | |
US20190018838A1 (en) | Electronic device and method for text processing | |
CN108287857B (zh) | 表情图片推荐方法及装置 | |
US20140074758A1 (en) | Self organizing maps for visualizing an objective space | |
CN107506617B (zh) | 半局部社交信息miRNA-疾病关联性预测方法 | |
JP2009519543A (ja) | コンパクト類似性構造体を構築する方法及び装置並びにかかるコンパクト類似性構造体をドキュメントの関連性の解析に用いる方法 | |
US10983786B2 (en) | Automatically evaluating software project requirements | |
Yildiz et al. | A machine learning framework for full-reference 3D shape quality assessment | |
CN114298851A (zh) | 基于图表征学习的网络用户社交行为分析方法、装置及存储介质 | |
WO2019187696A1 (ja) | ベクトル化装置、言語処理方法及びプログラム | |
TW201407526A (zh) | 用於藝術指數之自動發展之方法 | |
US20220414936A1 (en) | Multimodal color variations using learned color distributions | |
US20140324524A1 (en) | Evolving a capped customer linkage model using genetic models | |
US20220300836A1 (en) | Machine Learning Techniques for Generating Visualization Recommendations | |
CN117015789A (zh) | 基于sns文本的用户的装修风格分析模型提供装置及方法 | |
CN113850632A (zh) | 用户类别确定方法、装置、设备及存储介质 | |
JP2020140674A (ja) | 回答選択装置及びプログラム | |
CN117235286B (zh) | 强化注意力的实体关系抽取模型及其构建方法、存储介质 | |
CN117786234B (zh) | 一种基于两阶段对比学习的多模态资源推荐方法 | |
Machado et al. | GP-based generative adversarial models | |
US11907280B2 (en) | Text adjusted visual search | |
JP7294384B2 (ja) | 情報処理装置、情報処理方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200807 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210630 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210713 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210816 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210831 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210913 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6954004 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |