CN109635949A - 一种神经网络生成方法与装置 - Google Patents
一种神经网络生成方法与装置 Download PDFInfo
- Publication number
- CN109635949A CN109635949A CN201811650291.3A CN201811650291A CN109635949A CN 109635949 A CN109635949 A CN 109635949A CN 201811650291 A CN201811650291 A CN 201811650291A CN 109635949 A CN109635949 A CN 109635949A
- Authority
- CN
- China
- Prior art keywords
- neuron
- neural network
- newly
- increased
- parameter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供了一种神经网络生成方法与装置,包括:获取神经网络生成参数,所述生成参数包括神经元聚类数、神经元密集程度参数、分布空间大小参数和神经元总数;根据所述神经元聚类数得到基础神经元;根据预设生成规则以所述基础神经元为聚类中心生成神经网络,所述神经网络中神经元的个数与所述神经元总数相同,所述神经网络中每个神经元与其相邻的神经元均双向互联,所述神经网络中每个神经元以预设概率与自身连接;设置与所述神经网络连接的输入节点和输出节点。本发明生成的神经网络能够自聚类,内部的动力学特性能够增强,并且神经元之间的耦合度较低,其连接结构相较于现有技术得到的神经网络与生物学网络更为近似。
Description
技术领域
本发明涉及数据处理领域,尤其涉及一种神经网络生成方法与装置。
背景技术
神经网络的构建是基于神经网络应用的前提,近十年来,模拟生物神经网络的类生物神经网络系统在辨识、决断和预测等领域均有卓越的表现。类生物神经网络通过模拟生物神经网络而具备较好的智能性和自适应性,但是通常神经网络中个神经元的完全随机连接导致了神经网络内部的耦合度高,动力学特性不足,从而导致了神经网络的自适应性难移提高并且输出误差难移减小。
发明内容
为了解决上述技术问题,本发明提出了一种神经网络生成方法与装置。本发明具体是以如下技术方案实现的:
一种神经网络生成方法,包括:
获取神经网络生成参数,所述生成参数包括神经元聚类数、神经元密集程度参数、分布空间大小参数和神经元总数;
根据所述神经元聚类数得到基础神经元;
根据预设生成规则以所述基础神经元为聚类中心生成神经网络,所述神经网络中神经元的个数与所述神经元总数相同,所述神经网络中每个神经元与其相邻的神经元均双向互联,所述神经网络中每个神经元以预设概率与自身连接;
设置与所述神经网络连接的输入节点和输出节点。
进一步地,所述所述神经元聚类数得到基础神经元包括:
获取矩形布局图的左上角边界A和右下角边界B;
连接所述左上角边界A和右下角边界B得到斜对角线;
对所述斜对角线进行N等分,其中N即为神经元聚类数,等分点即为基础神经元。
进一步地,所述所述根据预设生成规则以所述基础神经元为聚类中心生成神经网络包括:
在所述矩形布局图内随机生成新增神经元,并将所述新增神经元pnew主动与其周围的已存在神经元pi按照某种概率进行连接;
同时其周围的已存在神经元pi按照所述概率主动与新增神经元pnew连接,
判断所述新增神经元pnew是否与至少一个所述已存在神经元pi生成双向互连,若是,则保留所述新增神经元,所述新增神经元成为已存在神经元;若否,则删除所述新增神经元。
进一步地,新增神经元与其附近神经元的连接概率与距离负相关。
进一步地,所述概率按照P(new,i)=κe-μd(new,i)计算而得,其中κ,μ分别为神经元密集程度参数和分布空间大小参数,d(new,i)为新增神经元与已存在神经元之间的欧氏距离。
一种神经网络生成装置,包括:
参数获取模块,用于获取神经网络生成参数,所述生成参数包括神经元聚类数、神经元密集程度参数、分布空间大小参数和神经元总数;
基础神经元获取模块,用于根据所述神经元聚类数得到基础神经元;
生成模块,用于根据预设生成规则以所述基础神经元为聚类中心生成神经网络,所述神经网络中神经元的个数与所述神经元总数相同,所述神经网络中每个神经元与其相邻的神经元均双向互联,所述神经网络中每个神经元以预设概率与自身连接;
设置模块,用于设置与所述神经网络连接的输入节点和输出节点。
进一步地,所述基础神经元获取模块包括:
角点获取单元,用于获取矩形布局图的左上角边界A和右下角边界B;
连接单元,用于连接所述左上角边界A和右下角边界B得到斜对角线;
等分单元,用于对所述斜对角线进行N等分,其中N即为神经元聚类数,等分点即为基础神经元。
进一步地,所述生成模块包括:
第一连接单元,用于在所述矩形布局图内随机生成新增神经元,并将所述新增神经元pnew主动与其周围的已存在神经元pi按照某种概率进行连接;
第二连接单元,用于同时其周围的已存在神经元pi按照所述概率主动与新增神经元pnew连接,
判断出来单元,用于判断所述新增神经元pnew是否与至少一个所述已存在神经元pi生成双向互连,若是,则保留所述新增神经元,所述新增神经元成为已存在神经元;若否,则删除所述新增神经元。
本发明实施例提供本发明实施例公开了一种神经网络生成方法与装置,其生成的神经网络能够自聚类,并且在相邻神经元间均能够双向互连,还存在一定比例的自连接神经元,这种神经网络生成方法得到神经网络显然内部的动力学特性能够增强,并且神经元之间的耦合度较低,其连接结构与生物学网络相较于现有技术更为近似,在神经网络的学习、训练和决断上也能够有更加智能化的表现。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它附图。
图1是本发明实施例提供的一种神经网络生成方法流程图;
图2是本发明实施例提供的根据所述神经元聚类数得到基础神经元的方法流程图;
图3是本发明实施例提供的根据预设生成规则以所述基础神经元为聚类中心生成神经网络流程图;
图4是本发明实施例提供的一种神经网络生成装置框图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
本发明实施例公开了一种神经网络生成方法,如图1所示,所述方法包括:
S101.获取神经网络生成参数,所述生成参数包括神经元聚类数、神经元密集程度参数、分布空间大小参数和神经元总数。
具体地,所述神经元聚类数、神经元密集程度参数、分布空间大小参数和神经元总数均属于已知参量,其具体内容视用户的需求而定。
S102.根据所述神经元聚类数得到基础神经元。
S103.根据预设生成规则以所述基础神经元为聚类中心生成神经网络,所述神经网络中神经元的个数与所述神经元总数相同,所述神经网络中每个神经元与其相邻的神经元均双向互联,所述神经网络中每个神经元以预设概率与自身连接。
其中,所述神经网络中每个神经元以预设概率与自身连接的含义为:所述神经网络中存在自反馈连接的神经元个数与占总神经元个数的比值为预设概率。
S104.设置与所述神经网络连接的输入节点和输出节点。
进一步地,为了便于神经网络的生成,本发明实施例可以首先在智能设备上生成神经网络的布局图,用所述布局图表现所述神经网络的各个神经元的互连关系。因此,本发明实施例从布局图的角度进一步公开了一种根据所述神经元聚类数得到基础神经元的方法,如图2所示,包括:
S1021.获取矩形布局图的左上角边界A和右下角边界B。
S1022.连接所述左上角边界A和右下角边界B得到斜对角线。
S1023.对所述斜对角线进行N等分,其中N即为神经元聚类数,等分点即为基础神经元。
进一步地,所述根据预设生成规则以所述基础神经元为聚类中心生成神经网络如图3所示,包括:
S1031.在所述矩形布局图内随机生成新增神经元,并将所述新增神经元pnew主动与其周围的已存在神经元pi按照概率P(new,i)=κe-μd(new,i)进行连接,其中κ,μ分别为神经元密集程度参数和分布空间大小参数,d(new,i)为新增神经元与已存在神经元之间的欧氏距离。
S1032.同时其周围的已存在神经元pi按照概率P(new,i)=κe-μd(new,i)主动与新增神经元pnew连接。
S1033.判断所述新增神经元pnew是否与至少一个所述已存在神经元pi生成双向互连,若是,则保留所述新增神经元,所述新增神经元成为已存在神经元;若否,则删除所述新增神经元。
双向互连的神经元的构建过程中,新增神经元与其附近神经元的连接概率与距离负相关,从而能够构成距离基础神经元近的神经元个数多,距离基础神经元远的神经元个数少的神经网络。
本发明实施例公开了一种神经网络生成方法,其生成的神经网络能够自聚类,并且在相邻神经元间均能够双向互连,还存在一定比例的自连接神经元,这种神经网络生成方法得到神经网络显然内部的动力学特性能够增强,并且神经元之间的耦合度较低,其连接结构与生物学网络相较于现有技术更为近似,在神经网络的学习、训练和决断上也能够有更加智能化的表现。
本发明实施例公开一种神经网络生成装置,如图4所示,包括:
参数获取模块,用于获取神经网络生成参数,所述生成参数包括神经元聚类数、神经元密集程度参数、分布空间大小参数和神经元总数;
基础神经元获取模块,用于根据所述神经元聚类数得到基础神经元;
生成模块,用于根据预设生成规则以所述基础神经元为聚类中心生成神经网络,所述神经网络中神经元的个数与所述神经元总数相同,所述神经网络中每个神经元与其相邻的神经元均双向互联,所述神经网络中每个神经元以预设概率与自身连接;
设置模块,用于设置与所述神经网络连接的输入节点和输出节点。
进一步地,所述基础神经元获取模块包括:
角点获取单元,用于获取矩形布局图的左上角边界A和右下角边界B;
连接单元,用于连接所述左上角边界A和右下角边界B得到斜对角线;
等分单元,用于对所述斜对角线进行N等分,其中N即为神经元聚类数,等分点即为基础神经元。
进一步地,所述生成模块包括:
第一连接单元,用于在所述矩形布局图内随机生成新增神经元,并将所述新增神经元pnew主动与其周围的已存在神经元pi按照某种概率进行连接;
第二连接单元,用于同时其周围的已存在神经元pi按照所述概率主动与新增神经元pnew连接,
判断出来单元,用于判断所述新增神经元pnew是否与至少一个所述已存在神经元pi生成双向互连,若是,则保留所述新增神经元,所述新增神经元成为已存在神经元;若否,则删除所述新增神经元。
本发明实施例公开的一种神经网络生成装置与方法实施例基于相同的发明构思。
应当理解的是,在本文中提及的“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (8)
1.一种神经网络生成方法,其特征在于,包括:
获取神经网络生成参数,所述生成参数包括神经元聚类数、神经元密集程度参数、分布空间大小参数和神经元总数;
根据所述神经元聚类数得到基础神经元;
根据预设生成规则以所述基础神经元为聚类中心生成神经网络,所述神经网络中神经元的个数与所述神经元总数相同,所述神经网络中每个神经元与其相邻的神经元均双向互联,所述神经网络中每个神经元以预设概率与自身连接;
设置与所述神经网络连接的输入节点和输出节点。
2.根据权利要求1所述的方法,其特征在于:
所述所述神经元聚类数得到基础神经元包括:
获取矩形布局图的左上角边界A和右下角边界B;
连接所述左上角边界A和右下角边界B得到斜对角线;
对所述斜对角线进行N等分,其中N即为神经元聚类数,等分点即为基础神经元。
3.根据权利要求1所述的方法,其特征在于:
所述所述根据预设生成规则以所述基础神经元为聚类中心生成神经网络包括:
在所述矩形布局图内随机生成新增神经元,并将所述新增神经元pnew主动与其周围的已存在神经元pi按照某种概率进行连接;
同时其周围的已存在神经元pi按照所述概率主动与新增神经元pnew连接,
判断所述新增神经元pnew是否与至少一个所述已存在神经元pi生成双向互连,若是,则保留所述新增神经元,所述新增神经元成为已存在神经元;若否,则删除所述新增神经元。
4.根据权利要求1所述的方法,其特征在于:
新增神经元与其附近神经元的连接概率与距离负相关。
5.根据权利要求4所述的方法,其特征在于:
所述概率按照P(new,i)=κe-μd(new,i)计算而得,其中κ,μ分别为神经元密集程度参数和分布空间大小参数,d(new,i)为新增神经元与已存在神经元之间的欧氏距离。
6.一种神经网络生成装置,其特征在于,包括:
参数获取模块,用于获取神经网络生成参数,所述生成参数包括神经元聚类数、神经元密集程度参数、分布空间大小参数和神经元总数;
基础神经元获取模块,用于根据所述神经元聚类数得到基础神经元;
生成模块,用于根据预设生成规则以所述基础神经元为聚类中心生成神经网络,所述神经网络中神经元的个数与所述神经元总数相同,所述神经网络中每个神经元与其相邻的神经元均双向互联,所述神经网络中每个神经元以预设概率与自身连接;
设置模块,用于设置与所述神经网络连接的输入节点和输出节点。
7.根据权利要求6所述的装置,其特征在于:
所述基础神经元获取模块包括:
角点获取单元,用于获取矩形布局图的左上角边界A和右下角边界B;
连接单元,用于连接所述左上角边界A和右下角边界B得到斜对角线;
等分单元,用于对所述斜对角线进行N等分,其中N即为神经元聚类数,等分点即为基础神经元。
8.根据权利要求6所述的装置,其特征在于:
所述生成模块包括:
第一连接单元,用于在所述矩形布局图内随机生成新增神经元,并将所述新增神经元pnew主动与其周围的已存在神经元pi按照某种概率进行连接;
第二连接单元,用于同时其周围的已存在神经元pi按照所述概率主动与新增神经元pnew连接,
判断出来单元,用于判断所述新增神经元pnew是否与至少一个所述已存在神经元pi生成双向互连,若是,则保留所述新增神经元,所述新增神经元成为已存在神经元;若否,则删除所述新增神经元。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811650291.3A CN109635949A (zh) | 2018-12-31 | 2018-12-31 | 一种神经网络生成方法与装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811650291.3A CN109635949A (zh) | 2018-12-31 | 2018-12-31 | 一种神经网络生成方法与装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109635949A true CN109635949A (zh) | 2019-04-16 |
Family
ID=66055035
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811650291.3A Withdrawn CN109635949A (zh) | 2018-12-31 | 2018-12-31 | 一种神经网络生成方法与装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109635949A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111656370A (zh) * | 2019-04-18 | 2020-09-11 | 深圳市大疆创新科技有限公司 | 加速器的检测方法和验证平台 |
WO2021189209A1 (zh) * | 2020-03-23 | 2021-09-30 | 深圳市大疆创新科技有限公司 | 加速器的检测方法和验证平台 |
-
2018
- 2018-12-31 CN CN201811650291.3A patent/CN109635949A/zh not_active Withdrawn
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111656370A (zh) * | 2019-04-18 | 2020-09-11 | 深圳市大疆创新科技有限公司 | 加速器的检测方法和验证平台 |
WO2020211037A1 (zh) * | 2019-04-18 | 2020-10-22 | 深圳市大疆创新科技有限公司 | 加速器的检测方法和验证平台 |
WO2021189209A1 (zh) * | 2020-03-23 | 2021-09-30 | 深圳市大疆创新科技有限公司 | 加速器的检测方法和验证平台 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Hu et al. | Language-conditioned graph networks for relational reasoning | |
KR20180004898A (ko) | 딥러닝 기반의 이미지 처리 기술 및 그 방법 | |
CN109685110A (zh) | 图像分类网络的训练方法、图像分类方法及装置、服务器 | |
CN112684700B (zh) | 一种群体机器人的多目标搜索与围捕控制方法及系统 | |
CN110781406A (zh) | 一种基于变分自动编码器的社交网络用户多属性推断方法 | |
Purohit et al. | Construction of classifier with feature selection based on genetic programming | |
CN107316308A (zh) | 一种基于改进的多路谱聚类算法的清洁机器人地图分割方法 | |
CN109616102A (zh) | 声学模型的训练方法、装置及存储介质 | |
CN104715024A (zh) | 一种多媒体热点分析方法 | |
CN109635949A (zh) | 一种神经网络生成方法与装置 | |
CN107169566A (zh) | 动态神经网络模型训练方法和装置 | |
US20200372371A1 (en) | System and a method for optimizing multiple solution identification in a search space | |
CN117114250B (zh) | 一种基于大模型的智能决策系统 | |
CN113254491A (zh) | 一种信息推荐的方法、装置、计算机设备及存储介质 | |
CN109743286A (zh) | 一种基于图卷积神经网络的ip类型标记方法及设备 | |
CN112748941A (zh) | 基于反馈信息的目标应用程序的更新方法和装置 | |
CN114677754A (zh) | 行为识别方法、装置、电子设备及计算机可读存储介质 | |
CN113011167A (zh) | 基于人工智能的作弊识别方法、装置、设备及存储介质 | |
CN108632386B (zh) | 一种区块链节点集群搭建方法及装置 | |
CN109740753A (zh) | 一种神经网络构建方法 | |
CN104732522A (zh) | 一种基于多态蚁群算法的图像分割方法 | |
Reif et al. | Meta2-features: Providing meta-learners more information | |
Diappi et al. | Improved understanding of urban sprawl using neural networks | |
CN114358186A (zh) | 一种数据处理方法、装置及计算机可读存储介质 | |
CN114329099A (zh) | 重叠社区识别方法、装置、设备、存储介质及程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20190416 |