CN1311880A - 采用人造神经网络和遗传算法的高速公路事件自动检测系统 - Google Patents
采用人造神经网络和遗传算法的高速公路事件自动检测系统 Download PDFInfo
- Publication number
- CN1311880A CN1311880A CN99809212A CN99809212A CN1311880A CN 1311880 A CN1311880 A CN 1311880A CN 99809212 A CN99809212 A CN 99809212A CN 99809212 A CN99809212 A CN 99809212A CN 1311880 A CN1311880 A CN 1311880A
- Authority
- CN
- China
- Prior art keywords
- neural network
- candidate scheme
- traffic
- colony
- design
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
- G06V20/54—Surveillance or monitoring of activities, e.g. for recognising suspicious objects of traffic, e.g. cars on the road, trains or boats
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/086—Learning methods using evolutionary algorithms, e.g. genetic algorithms or genetic programming
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Software Systems (AREA)
- Physiology (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- General Engineering & Computer Science (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Databases & Information Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种用于高速公路上自动检测事件的神经网络的设计。一个神经网络利用基于后向繁殖和遗传算法方法的组合被训练,以优化神经网络的设计。在神经网络设计中,后向繁殖和遗传算法按照合作方式一起工作。训练开始于基于即时误差的增量学习,全局总误差累积起来用于在神经网络的数据训练末期的成批更新。遗传算法直接地并行评估多组神经网络的性能,然后利用分析结果养育新的神经网络,它趋向于更适合处理手中的问题。
Description
发明领域
本发明一般涉及人造神经网络,更具体地说涉及一种采用人造神经网络和遗传算法的高速公路事件自动检测系统的实现。
本发明背景
在高速公路上的交通管理中,许多努力已经集中到:通过使交通流量均匀以及避免对司机造成险情,来提高交通安全性和现有公路网的使用效率。在现有的公路网中,通常由诸如交通延迟,意外事件,残废车辆,超载,维修以及其它事件引起的意外的干扰会破坏正常的交通流动。这导致公路网容量的减少。“事件”定义为恶化公路安全条件的非再现事件。为了使一个交通管理系统是有效的,它必须能够检测意外的干扰,例如,通过一个事件自动检测系统,在某种意义上是可靠的和快速反应的。
事件自动检测系统通常包括两个主要的部分,一个是交通检测系统和另一个是事件检测算法。交通检测系统作为交通管理系统的一部分,可以获得当前的交通数据。事件检测算法整理由交通检测系统取得的数据并确定事件或非再现堵塞存在或者不存在。通常,交通事件的检测是基于观察交通数据中的特殊中断,并且事件检测算法高度地依靠交通检测系统。因此,作为用于整理被检测的交通数据的检测算法的神经网络的设计,意外的交通流动干扰的发生和位置的精确和快速的检测对于交通监视是重要的。具体地说,在这些领域内不断地寻求提高,以便驾驶员可以通过使用这项技术的实时旅行者信息服务,从而,能够进行交通路线的变换和紧急状况服务的及时派遣。
在最近二十年里,从各种理论基础上,已经建议了许多种事件检测算法。它们涉及从比较算法或模式比较算法到人造智能型的范围。然而,它们的构成在不同的混合程度、复杂性以及数据要求方面是不同的。现有的算法诸如加利福尼亚,MacMaster和Minnesota算法被归类为比较方法,而它们具有一些设计的不确定性和难度,尤其当缺少启发式的知识时要决定临界值具有不确定性和难度。人工智能型神经网络的提出已经显示成一个有希望的方法,除了这些类型要以特定的方式经受大部分的手动设计之外。
因此,需要一种高速公路事故自动检测系统,把改良的神经网络设计性能组合到事件检测软件里,以对高速公路事件进行更有效和精确的检测。
发明的概述
本发明涉及在高速公路上用于事件自动检测的神经网络(“NN”)的设计。采用一个基于后向繁殖(back-propagation)和遗传算法的组合来对NN进行训练。在NN设计中,后向繁殖和遗传算法按照合作方式一起工作。梯度引导后向繁殖方法(gradient-guide back-propagation method)采用了快速学习技术,该快速学习技术应用了增量和成批学习技术。训练开始于增量学习,该增量学习基于即时误差;全局总误差累积起来用于在训练数据送到NN的末期进行成批更新。遗传算法直接同时评估多组NN的性能,然后利用分析结果培养新的NN,它趋向于更适合处理手中的问题。全局和局部搜索性能在本混合系统中被增强,系统中后向繁殖训练提供局部搜索,而遗传算法探索全局。正是这样的体系和可重复使用的人工智能计算范例集中于设计自动化上。
在一个实施例中,在选定的时间实例中交通阻塞事件的存在或不存在通过首先获得和存储交通数据被识别出来。至少一个神经网络被用于评估交通数据,以确定一个特定的时间实例(instance)的事件状态。利用优化神经网络设计的后向繁殖和遗传算法技术来更新神经网络。
在另一方面,交通数据储存在一个数据服务器里,从数据服务器中产生模拟的交通数据,该模拟的交通数据中带有预定义的发生事件,这样模拟的交通数据用作为优化被更新的神经网络设计的输入。
所用的交通数据可以被格式化为一排排数据集实例(instance),包括事件状态、在上游交通测量站收集的时间实例时的交通量、在上游交通测量站收集的时间实例时的占有量、在下游测量点所收集的时间实例的交通量、和在下游测量点所收集的时间实例的占有量。
可以通过首先产生一个按照染色体编码的神经网络设计候选方案的最初群体而实现神经网络的更新,每个候选方案分配有一个从性能估算中获得的适合值(fitness value)。最初的神经网络设计候选方案从最佳到最坏分级排列,并且,全局记录中保留一个最适合的神经网络设计候选方案。群体交配选择操作被执行,并且随后对选定的神经网络设计候选方案进行交叉(crossover)和突变(mutation),以产生新的神经网络设计候选方案群体,从而通过基于分等级的选择、交叉和突变来进行一个全局搜索。然后关于神经网络设计候选方案的后向繁殖训练操作被执行,从而完成一个局部搜索,并且改进了神经网络的连接权重(weight),以产生新的神经网络设计候选方案群体。后向繁殖神经网络设计候选方案的适当性(fitness)被评估并且一个适当值被分配给它。然后代沟(generation gap)操作被执行,它从神经网络设计候选方案的新群体和以前的群体中选择一个候选方案,它将存在于下一进化过程中。遗传繁殖的进化过程不断重复,直至达到停止的标准。
本发明的一个技术优点是,与传统的神经遗传设计方法相比,减少了NN的设计时间,传统的神经遗传设计不具有多样化探索的能力。另一个优点是,邻式搜索能力采用梯度引导的局部搜索技术,通过具备这种邻式搜索能力,而能够处理更长的染色体长度,这从传统的训练,即后向繁殖训练而自然地衍生出。这改善以下情况,即随着染色体长度的增加,搜索空间成指数地增加,从而导致搜索时间更长,或者不能找到近乎最佳的解决办法。
本发明的另一个技术优点是,使用了实数编码,从而避免了与通常使用于传统的神经-遗传设计方法的二进制编码关联的“HammingCliffs”问题。灵活性也来源于多-模式编码能力的实数编码,多-模式编码能力表示整数、符号以及实数值。因此在遗传进化中,NN的结构和连接性在值、类型以及存在形式方面得到优化。
另外,本发明的一个技术优点是,NN的每个输入变量的适当性也在遗传进化中得到优化。
附图简要描述
图1是本发明的交通事件自动检测系统的系统方框图。
图2表示图1系统的一个NN的结构。
图3表示图1系统的输入和输出数据的格式。
图4是采用遗传算法的图1系统所使用的NN设计的示意方框图。
图5是按照本发明采用遗传算法的图4的NN优化方法的流程图。
图6是按照本发明采用后向繁殖的图4的NN优化方法的流程图。
图7表示采用图5所示的方法对图4中NN进行优化的结构。
发明的详细描述
众所周知,神经网络(“NN”)在不同的条件下能够表现数据的非线性变换。NN能够通过提供优于传统的事件检测算法,来识别空间的和时间的交通模式,而不需要交通模式的数学模型。参见,例如,R.L.Cheu的论文:“用于高速公路车道-阻塞事件的自动检测的神经网络模型”,加利福尼亚大学,Irvine,1994,以及R.L.Cheu和S.G.Ritchie的文章:“采用人造神经网络的高速公路事件车道-阻塞自动检测”,Transp.Res.-C,1996,这两篇文章中的全部内容在此作为参考。
图1是一个交通事件自动检测系统100的系统方框图,该系统100使用了本发明的神经网络和神经网络设计技术。
如图1所示,交通事件检测系统100通过检测摄象机101和/或红外线探测器102获得当前交通数据。在大多数情况下,环路探测器将由于它的低安装费用而被使用。此种交通数据可以包括,例如,容量、占有量以及速度。通过摄象机101和探测器102取得的交通数据由数据服务器104或其等效物收集,并且被实时储存在它的数据库里。数据服务器104随后将格式化的交通数据提供给事件检测系统106,该事件检测系统106包含一个或更多个配置好的NN。每个NN随后评估当前收集的交通数据,以将此时间实例的事件状态进行解码。在此期间,历史的交通数据将明确的表述在数据服务器104上并且送至一个通常称为“FRESIM”108的高速公路仿真模型,它包含一个校准系统,以获得当前交通状况的更精确的模型。任选地,FRESIM系统108使用历史交通数据的输入来产生带有预定义事件发生的交通数据。通过FRESIM108产生的模拟数据然后被格式化,以输入到带有合并的遗传算法的NN设计系统110。
不言而喻,系统100的部件,即服务器104,FRESIM108,NN设计系统110以及NN事件检测系统106,可以用商业上可获得的硬件来实现,这些硬件已经与计算机程序结合,以实现其功能。这些硬件包括处理器、含有计算机-可读介质的存储器、输入/输出设备(包括外围设备如显示器或打印机)以及其它单元,这一点对本领域的普通技术人员来说将很好理解。此外,只要合适,这些部件同样也可以配置成一个或多个不同的机器或作为单一机器来操作。系统100的程序设计方面可以以各种不同的方式组织和执行,采用熟知的程序设计语言,这些都在本
发明的范围之内。
象下面对有关NN设计系统110的更详细的描述那样,通过系统用合作的方式工作来更新一个新的NN,从而适应后来的交通状况的事件检测,后向繁殖设计技术和遗传算法过程被执行。一般地,一种歪斜的定时(skewed timing)被用于新NN的设计,以适应于新的交通状况。
在交通事件检测系统100的NN的应用中,一种簇方法被采用,其中,如果在交通指标落入事件-发生簇内,则一个警告将被激活。一般地,使用两个簇,即,事件和无事件。在上游和下游,所选的交通指标可以包括下列因素:容量、占有量和速度。过去的交通信息也考虑在该设计中。
交通事件检测系统100的NN的一种典型结构如图2所示,并且用标号200表示。如图所示,NN 200包括输入层(layer)201、一个或多个隐藏层202以及输出层204。对本领域的普通技术人员来说很明显,层201,202,204的每一个都包含一个或多个神经元。交通数据206,比如容量、占有量以及速度,输入到NN 200,并通过输入层201和决定部分208,即,“事件”或“无事件”,在输出层204从NN200输出。
对于对本领域的普通技术人员来说,可以看出,输入层201通常具有一个神经元,该神经元用于每个被提供的输入变量。输入层201中的神经元通常除了作为输入变量值的缓冲区外没有其它功能。每个隐藏层202处理来自输入层或前面的隐藏层的信息,并且把结果提供给下一层。在操作时,NN 200的每个神经元把在它的输入端提供的信号求和,把总和乘以一组权重值,权重值是选定的或NN训练时确定的,并且给下一层的每一个神经元提供一个加权的总和信号。这些加法和乘法步骤在每个层的神经元中同时进行,始于输入层201并且通过隐藏层以前向馈送方式进行到输出层204以产生NN的输出值。对于一个受过良好训练的NN,输出值包括一个处理的输出变量的预知值,这里的处理是基于所提供的输入变量值。
一种NN训练方法是后向繁殖算法。由于后向繁殖算法操作对本领域的普通技术人员来说是熟知的,它的细节不必讨论,除非它有助于本发明的理解。后向繁殖算法使连接到输出层204的权重值可以由输出误差信号进行调整。该误差是后向繁殖的,并且权重值是以倒序从输出层204到输入层201一层接一层地后向调整的。这个过程重复一个“世代(epoch)”,即,直到所有的训练数据都被使用。一个完整的训练过程一般需要许多世代以便获得最佳的连接强度和相关的临界值。成批和增量的学习方法使用于这样的后向繁殖训练。采用成批学习方法的优势是以低的学习速度换取高的建模准确度的能力,而增量的学习方法可以提供一个更好的学习速度,又有更高的建模准确度。学习动力和学习速率也在后向繁殖训练中合并成学习效率。然而,采用后向繁殖作为设计的一种训练方法有一些缺点,包括:
(a)梯度指导(guidance)被嵌入后向繁殖训练中,并且它只被动地调整参数来消除误差;因此,它不允许反映实际工程要求的修改误差项。
(b)训练过的网络参数可能在局部为最佳,而不引起多模式设计空间的全局汇聚。
(c)如果算术引导的最佳化被使用,则网络的结构和单种激活函数的使用(一般为S形功能)则必须在参数训练之前固定;以及
(d)将设计人员拥有的关于NN的知识与专家的意见结合是困难的。
构造最佳的NN是有问题的,因为每个NN的结构随着不同的数据和应用的类型而不同。简单地说,一个程序员理解一个复杂的NN是很难的。因此,组织NN的结构经常通过试验和误差实现,采用知识表示的直觉的理解。在许多工程应用中,通常需要一个专家来训练启发式过程的固定结构的NN,更不用说同时优化该结构。为了NN设计的具体化,采用事件检测的后向繁殖,在设计过程中会遇见一些不确定性,包括:
(a)用于NN的隐藏层数目;
(b)用于每个隐藏层的神经元数目;
(c)每个隐藏层的每个特定的神经元的存在;
(d)用于NN的每个神经元的激活函数的类型选择;
(e)在包含偏置结点的神经元之间每个连接的权重和存在;
(f)每个输入变量对于该网络的适当性;以及
(g)设计搜索的全局性。
在进化计算最近的发展中,如A.Haeeussler等人的文章:“利用遗传算法设计的神经控制器”,在Eng.Sys.召开的关于GA的第一次IEE/IEEE国际会议:创新和应用,第536-542页,(1995);Y.Li等人的文章:“根据进化计算的线性和非线性控制系统设计的自动化”,IFAC青年自动化会议,中国,北京,(1995);以及Y.Li等人的文章:“根据神经计算的英国GDP宏观经济模型的建立(Modeling)”,IFAC/IFIP/IFORS/SEDC讨论会的预印本,国家和地区经济模型的建立和控制,澳大利亚(1995),所有的这些都被结合进来作为整体参考,它们描述了可用于解决上述缺点和不确定性的遗传算法技术。如在下面详细描述的,为了解决如此复杂的设计问题,系统100利用一个体系的和可重复使用的进化计算范例,并将精力集中在利用遗传算法的设计自动化上。
NN设计的训练数据在下面有详细描述,首先描述输入数据,然后描述输出数据。输入数据
离线(off-line)训练和测试数据集首先从一个称为FRESIM的校准的微观高速公路交通仿真模型中产生,此模型即形式上所称的INTRAS(“集成的交通仿真”),它被描述在D.A.Wicks和E.B.Lieberman的文章中:“INTRAS的发展和测试,一种微观的高速公路仿真模型”,联邦的公路管理,1980(在下文中称之为“INTRAS报告”),参数校准和高速公路动力学组件开发,报告编号FHWA/AD-80/106,卷1,程序设计;它被结合于此作为参考。数据集包括几百个交通测量数据块。具体而言,两个数据集将被格式化为一排排的数据集实例。这些数据集实例是在时间实例t,t-1,t-2,t-3和t-4中在一个上游交通测量站收集的主要交通量(交通工具/小时/车道),在时间实例t,t-1,t-2,t-3和t-4中在上游交通测量站收集的占有量(%),在时间实例t,t-1和t-2下游交通测量站收集的交通量(交通工具/小时/车道),在时间实例中t,t-1和t-2中下游交通测量站收集的占有量(%)。如上所述,历史交通数据被考虑进来。在某些情况下,占有量、速度和容量的不同函数也被考虑,例如:
occ_dif(t)=occ(t)-occ(t-1)或
occ_UpDn_dif=occup(t)-occdn(t)。
对于每个数据集有几百个事件情况被模拟和产生。每个事件数据块将持续一个合理的持续时间,该时间应该考虑事件出现前后的正常交通状况。事件的发生将考虑在上游和下游交通测量站之间的1车道和2车道中途阻塞的情形。在上游和下游交通测量站收集的数据实例将考虑分别出现在上游和下游交通测量站前后的场所的事件。在这些情况下,无事件状态将分配给收集的数据实例。至于事件发生,车道阻塞将在一条高速公路的极左、中央、以及极右车道上考虑。
图3表示输入和输出数据格式300,其中有序列号、下游和上游交通测量站号、数据块号、时间标志、交通数据实例以及用于简单数据检索和复原的事件状态。
在每个30或60秒的时间实例中,一排数据集由上游和下游交通测量站的数据组成,其中平均交通量,占有量以及速度将被馈送至NN,以用于设计。在采用遗传算法的NN设计的训练阶段,将使用总数为几千排的数据集。一个相似大小的新建数据集也将被用于事件检测性能的验证或测试;然而,训练和测试数据的大小是主观的并取决于网络设计要求的范围和准确性。
在线(on-line)设计中,微观的高速公路交通仿真模型,FRESIM,可以自动地校准,以产生带有预定义事件情况的训练和测试数据集。或者,如果训练目标是可达到的,则人工筛选的(manually screened)实际交通数据也可以被收集,并使用于NN设计。输出数据
从图3中可以看出,NN的输出数据将与表示每个交通数据实例事件状态的事件状态列相比较。此数据列将被用作NN训练的目标值,尤其在离线设计中。因此,这种格式的NN设计有利于将目标和网络输出值之间的误差最小化。
现在将开始描述采用遗传算法的NN200的设计自动化和最佳化。遗传算法,它基于在自然过程中用于生物学的繁殖和突变的达尔文的适者生存原理,用来使NN设计过程自动化。与自然的进化相比,此仿真过程是更有效的和可控制的,而对于人为最佳化也更有灵活性。这个方法已经被证明在搜索时特别有效,尽管其贫乏地被理解以及设计空间不规则,并且该设计空间采用有限长度的字串表示法编码的染色体。
一般地,本领域的普通技术人员可以意识到,对于一种功能的遗传算法的应用,第一步是将参数空间作为字串或数字的“染色体”(通常为二进制)进行编码。对应于该功能的参数的此种表示法的子串被优化,而且每个染色体代表解决该具体问题的NN的“设计图”。一个特定的单独串代表功能参数空间的一个点。遗传算法考虑到此种个体的群体。群体,加上对于每个个体(通常称为“适当性”)的功能值,代表搜索最佳字串的状态。一个具体的NN的适当性是在该问题上对其性能的一种组合量度,其中可以考虑学习速度、准确度、以及如NN大小和容量之类的成本因素。
遗传算法是通过对群体的统计信息功能进行暗含(implicitly)编码而进行的,并且利用该信息创建新个体。群体根据生殖计划而循环地更新。通过首先按照适当性从以前的一代取样而产生每个群体的新的“一代”;差别选择所用的方法是一种已知的对搜索空间取样的几乎最佳方法。新近的字串是通过改变带有遗传算子的所选定的个体而建立的。其中,突出之处是通过把两个取样的个体段拼接在一起来合成新字串的交叉算子。
在许多实际问题中产生令人满意结果的遗传算法包括下列过程中的三个主要操作,它们是生殖、交叉和突变。
t←0
产生最初的群体。
重复
t←t+1
从群体中选择父母;
选定的父母产生根据它们的个体适当性而加权的孩子
(通过交叉和突变);
扩展带有孩子的群体;
选择扩展群体的最适当的个体以在下一循环中生存。
直至找到满意的一代
输出群体的最适宜情况(最终的解决办法)
交叉操作在父母对之间交换内部表示部分,而突变改变基因的值。从最初的群体开始,遗传算法从一代到另一代评估进化中每个可行的解决方法的适当性,直至满足停止标准为止。每个可行的解决方法作为用字串表示法的染色体被编码。遗传算法已经用来解决NN研究中不同类型的问题。一个典型的问题是确定保持NN拓扑结构时克服局部最适宜的连接权重。遗传算法的另一应用是搜索NN的结构。使用于与本发明连接的特定的遗传算法将优化连接权重和NN的结构,而且建立连接和偏置结点的存在、输入数据的适当性、以及激活函数的选择。因此,建议的遗传算法将在搜索过程中使用实数(基因)编码的染色体。基于选择方案的等级、多个交叉点、适合的突变方案、以及代沟假设也适用于遗传算法。例如,减少的基于准则的和直接的实现或模糊逻辑控制系统,在下述文章中已有描述,即K.C.Ng的博士论文:“切换控制系统和通过遗传算法的设计自动化”,Glasgow大学,UK,1995,其全部内容在此作为参考,并且它图示了所需的方案和假说。
采用交通事件检测系统100(图1)的遗传算法的NN设计的示意图如图4所示。参考图4以及如图1所示,FRESEM系统108产生模拟输入/输出数据400给NN设计系统110,系统110至少包括一个NN,如NN200(图2),以及用于训练NN的遗传算法402。
NN200通过结合成批和增量学习方案的混合组合的后向繁殖算法来训练,而遗传算法用来优化设计。采用的学习方案用来实现高学习速度和良好的建模准确度。
在此附上一个附录,包括只用来做例证的程序设计代码的表示法,可以用于执行关于下面图5和6中更完整描述的本发明的设计最佳化技术。对本领域的普通技术人员来说,可以知道,在本发明的范围内可以采用其它的代码表示法。
注意每个设计参数只由一个没有分解(resolution)限制的基因代表。
然而,还有其它编码方法可用,例如,无符号整数编码,就象K.C.Ng,的博士论文“切换控制系统和通过遗传算法的设计自动化”,Glasgou大学,UK,1995,所描述的那样,其全部内容结合在此作为参考,也可以用传统的二进制编码。对于两种编码方法表示法的例子给定如下:无符号整数编码(基数n):注意该给定的实例采用10进制(base-10)编码。每个设计参数通常由一个或多个基因代表,以符合分解要求。二进制编码:注意每个设计参数通常由许多基因代表,以符合分解要求。
从上面的例子可以看出,与无符号整数编码和实数编码相比,因为每个编码了的参数可以由一组采用1或0的基因代表,所以,二进制编码可以轻易地增加染色体的长度。另外,“hamming cliffs”和分解问题容易在二进制和无符号整数编码中遇见。为了避免扩展的染色体长度、“hamming cliffs”和分解问题,我们在利用接受染色体中的符号、整数和实数表示法的附加优点时,采用了实数编码技术。设计参数,尤其是神经网络设计的参数,包括:(a)用于NN中的隐藏层数目;(b)用于每个隐藏层的神经元数目;(c)每个隐藏层的每个具体神经元的存在;(d)用于NN的每个神经元的激活函数的类型选择;(e)在包含偏置结点的神经元之间每个连接的权重和存在;以及(f)每个输入变量对于该网络的适当性。用实数编码的染色体的详细表示法将稍后给出和讨论。
在步骤502中,在步骤501中建立的群体居住者(inhabitants)依照它们的由(1)或(7)中功能度量的适当性分等级。在步骤503中(参见附录),分等级的居住者产生一个最佳候选方案,其在步骤512中被输入至评估过程BB(图6),其中,它将经历后向繁殖训练操作的一个时期,以单独探索局部搜索。
在步骤504中,一个选择模块被执行,以找到用于繁殖的染色体的一组父母对。在繁殖中,第一对父母根据其适当性从顶端25%的群体中选定。第二对父母从由适当性排列的顶端50%和底端50%的群体中随机地选定。如果第一和第二对父母是完全相同的,则第二对父母的重新选择将被激活。在这种繁殖方法中,第一对父母将使用两次,用于交叉操作的成对处理。在步骤506中,交叉模块利用每个父母对来执行,以交换它们的遗传基因部分。遗传基因部分是指在一些交叉点交换的一些小组基因,如5个点,带有染色体的预定义段长度。预定义段内的一个交叉点的位置是带有一种可能性(如0.8)而随机选定的。经过这个操作,不同于它们的父母对的两个新的染色体产生了。在步骤508中,突变模块被执行,以改变在步骤506中产生的两个新的染色体的基因值。基因是根据概率(如0.05)而随机选定的,以经历基因值随机增减的突变。在步骤510中,最终的染色体被解码成神经网络设计参数,以构造用于稍后网络性能评估的网络。染色体指神经网络设计候选方案。解码的细节稍后描述。在步骤512中,神经网络设计候选方案通过对等式(1)或(7)所描述的适当性的全局量度来评估。它按照下列方式执行。在评估期间,一组神经网络训练数据馈送至网络,并且把网络的输出与目标输出相比较。在这个过程中,后向繁殖训练也适当地确定权重增加的数量,并且采用成批和增加权重更新的连接权重的调整。采用后向繁殖的局部训练之后,利用性能度量的训练数据组对网络重新进行评估。网络输出和目标输出之间的累积的设计误差信息,如等式(2),(3),(4),(5)和(6)所表示的那样,将被得到,并用于等式(1)或(7)。评估之后,每个神经网络设计候选方案或染色体被分配有各自的适当值。
在步骤514中,因为连接权重已经在训练期间改变了,染色体利用后向繁殖训练之后的改变的神经网络设计参数编码。编码通过把网络设计参数值重新写入染色体的各自的基因而被完成。它包括连接权重、隐藏层数目、每个隐藏层神经元的数目、使用的激活函数类型、以及输入数据的适当性等等。编码细节稍后描述。
在步骤516中,确定是否已经满足停止标准。例如,世代(generations)的指定数目已经达到或最佳记录的适当值比世代的规定数目没有更多提高,如20代。如果这样,执行结束;否则,执行进入步骤518,其中代沟模块518被执行。
代沟模块518允许优良的遗传基因传递到下一代,使得潜在地更好的解决办法保留下来,并从而改进遗传算法的集中率。该方案包括:(a)如果与全局记录的最佳适当性相比,新一代的适当性有提高,则把新一代最坏的染色体更换为老一代最佳的染色体;以及(b)当没有提高时,把一组新一代染色体更换成根据其适当性分等级的老一代中相同大小的组,然后返回步骤502。
“最佳候选方案”是全局记录的适当性最高的染色体。它的适当值用来确定代沟操作是否把新一代的一个染色体或一组染色体替换为老一代的。
图6是一个时期内采用后向繁殖的NN设计的流程图600。在步骤601中,由FRESIM产生的输入数据被提供,FRESIM是由McTrans中心(佛罗里达大学,512 Well Hall,PO Box 116585,Gainesville,佛罗里达32611-6585)提供的商用系统。FRESIM的输出数据以文本形式储存在文件中,文件的格式在下面进行描述。
在步骤602,604,606和608中,分别执行前向传递(forward pass)模块、误差模块、后向传递(backward pass)模块、和权重增加更新模块。前向传递模块使得网络的每个神经元能够把输入端提供的信号加起来,把总信号乘以一组关联的权重,然后把加权的总信号提供给下一层的每一个神经元。信号以前向馈送方式繁殖,通过隐藏层到输出层,以产生网络的输出值。在前向传递模块中,如每一个神经元所做的,一种激活函数被选定,以产生输出,繁殖到下一层。误差模块用来当与目标值相比较时,在输出层执行误差计算。计算的误差将被后向繁殖到前面的层,直到第一隐藏层。后向传递模块执行与前向传递模块相似的任务,但传递模式相反,其中总误差信号后向繁殖到每一隐藏层。权重增加更新模块在每个神经元执行一种计算,以确定输入端加权连接所要求的改变数量。在步骤610中,确定是否时期的结束已经到达。
对于训练方式,时期是用户预定义的数,定义训练数据的大小,它用于决定什么时候执行成批权重更新模块614或增加权重更新模块612。如果不这样,执行过程进行到步骤612,增加权重更新模块612重新执行并且执行过程返回到步骤600。如果在610,时期的结束已经到达,执行过程进行到步骤614,其中成批权重更新模块被执行。
成批权重更新模块614用来行使每个连接权重所要求的数量改变,它在时期的结束时被执行。当权重增加更新已经计算了由通过每个数据输入产生的每个误差产生的改变数量时,增加权重更新模块612立即改变连接权重。在步骤616中,类似于用于训练的输入数据再次输入到网络,以在成批权重更新和增加权重更新模块完成改进之后,评估实际的网络性能。在步骤618和620中,前向传递模块和全局误差模块分别地执行。
前向传递和全局误差模块618,620用来执行实际的实现任务,以利用新的连接权重计算网络性能。在步骤622中,确定是否时期的结束点已经到达。如果没有,执行返回步骤616;否则,执行结束。
通常在采用遗传算法的神经网络的设计中,过程包括下列遗传算法准备设计步骤:1)选择染色体编码方案的适当类型;2)定义在染色体中被编码的参数;3)对于最佳化目标制订适当的输入/输出数据格式或评估模型;4)选择适当的目标函数或适当性函数;5)定义适当的遗传算法以控制参数,比如突变速率、交叉速率、交叉点数、群体大小数、停止标准;6)选择适当的选择方案、突变方案和交叉方案以及代沟假设;7)应用适当的搜索/最优化方法;以及8)使最初的群体适当地初始化,例如,用现有的设计候选方案或染色体进行初始化。
对于准备阶段,采用适当性的全局量度,它类似于最佳化的逆成本函数(inverse of a cost-function)。它是自定义的,并在设计人员和搜索算法之间提供接口,以获得有效和最佳的设计。在对于编码设计问题的进化过程中,染色体的群体根据反映评估性能指数的相对的个体适当性来更新。通常,分配有较高适当值的设计候选方案会具有在下一代中贡献一个或多个子孙(“孩子”)的较高可能性。
因此,一种简单的适当性函数反映:所测假警报数与总事件数之比的低假警报率(“FAR1”)、所测假警报与总的无事件间隔之比的低假警报率(“FAR2”)、高检测速率(“DR”)、总绝对误差与总的最大绝对误差之比的好的建模准确度(“MA”)、以及所有的检测时间间隔之和与总给定状态之比的高正确的输出状态性能(“CSP”),它由下式给出:
(1) f(Pi)=a*FAR1+b*FAR2+c*DR+d*MA+e*CSP
这里,常数a,b,c,d和e用来依据优先级或重点给每个个体因子分等级,比如FAR、DR、MA和CSP。a,b,c,d和e的典型值都是1.0。FARI,FAR2,DR,MA和CSP的等式如下:(2)FAR1=1-[∑假警报数(False_Alarm_cases)/∑实际事件数
(Actual_Incident_cases)](3)FAR2=1-[∑假警报间隔(False_A1arm_intervals)/∑实际无事
件间隔(Actual_Incident_Free_intervals)](4)DR=∑检测到的事件数(Detected_incidents_cases)/∑实际
事件数(actual_Incident_cases)(5)MA=1-∑|err|/∑|errmax|(6)CSP=∑正确的输出状态(Correct_Output_State)/∑给定
状态(Given_Output_State)
同样地,为了相同的目标,不换算系数a,b,c,d和e,等式(1)可以重新定义如下:(7)f(Pi)=a*FAR1*FAR2*DR+b*MA*CSP
现在将详细描述染色体的编码。为了算法应用和操作的简易性,染色体的连接实数编码被用于遗传算法。因此编码了的参数包括如下:
(a)用于NN的隐藏层数目;
(b)用于每个隐藏层的神经元数目;
(c)连接神经元的权重,包含偏链(biased links);
(d)输入变量或输入结点的存在的选择;
(e)每个隐藏层中每个具体的神经元的存在;
(f)用于NN每个神经元的三种类型激活函数的选择;以及
(g)神经元之间每个连接存在的选择,包含偏链。
染色体长度的选择将考虑具有要被优化的参数的全部网络配置。例如,假设隐藏层的最大数目是2,并且每个隐藏层神经元的数目是30,那么,在大多数情况下,两个隐藏层的最大数目对于许多应用是正好够的。为了使染色体的长度最小化,染色体的每个基因用来确定每个网络参数,比如一个链的权重、一个链的存在、一种激活函数的选择、每个隐藏层结点的数目等等。
因此,其基因被用于事件检测系统设计的格式化(formulated)染色体将需要一种编码和一种解码功能,如下面所示:解码:
FloatG1 | FloatG2 | FloatG3 | FloatG4 | FloatG5 | FloatG6 | FloatG7 |
G1-用于确定隐藏层的数目。将实数值规范成1或2。上界是用户定义的。C编码的例子如下:
hiddenlayer=1+((int)fabs(chrom[p]*100.0))%MAX_H_LAYER; /*decoding*/chrom[p]=(hiddenlayer-1)*0.01;/*encoding*/
注意MAX_H_LAYER=2,p是基因位置的增量计数器。为了防止基因的实数值分解,染色体基因的编码也在这里执行。
G2-用于确定每个隐藏层神经元的数目。将实数值规范成1到30的整数。上界是用户定义的。一个C编码的例子如下:
for(i=1;i<=MAX_H_LAYER;i++{neuron_in_layer[i]=1+((int)fabs (chrom[p]*1000.0))%MAXNEURON:/* decoding*/ chrom[p]=(neuron_in_layer[i]-1)*0.001; /*encoding*/}
注意MAX_H_LAYER=2,p是基因位置的增量计数器。为了防止基因的实数值分解,染色体基因的编码也在一个里执行。
G3-用于确定包含偏链的从输入层到输出层的每个连接的权重。范围=-3.4×10+38至3.4×10+38
G4-用于确定NN所用的输入变量的选择。将实数值规范成1或0的整数值。一个C编码的例子如下:
for (I=1;i<=Input_Size;i++){neuron_in_layer[i]=((int) fabs(chrom[p]*100.0))%2;/* decoding*/ chrom[p]=neuron_in_layer[i]* 0.01;/* encoding*/}
注意Input_Size=24,p是基因位置的增量计数器。为防止基因的实数值分解,染色体基因的编码也在这里执行。
G5-用于确定每个隐藏层中每个特定的神经元的存在。将实数值规范成1或0的整数值。C编码的例子为上面给出的G4的例子。
G6-用于确定在S形、高斯和正切双曲线形的激活函数中的选择,这些激活函数用于每个神经元中。将实数值规范成0、1或2的整数值。C编码的例子如上面给出的G4的例子,其模数操作的值被设置为3。所使用的激活函数如下:其中,x表示结点的输入,y表示结点的输出,θ表示偏值,w表示前面的结点i和当前结点j之间链接的权重。
(9)正切双曲线形:
其中,x,y,θ和2如等式(8)中的定义
(10)高斯形:
其中α,β,θ和w如等式(8)中的定义,并且α和β分别表示定义长度基数和高斯函数形状的比例值。α和β值的解码也在与结点位置相关的组G6中完成。
G7-用于确定包含偏链的从输入层到输出层的每个连接存在的选择。将实数值规范成1或0的整数值。C编码的例子为上面给出的G4的例子。
注意1和0的整数值分别代表网络参数的存在和不存在。也要注意解码染色体顺序,以利用如下步骤形成网络:
(ⅰ)确定染色体隐藏层的数目;
(ⅱ)利用(ⅰ),确定使用于每个隐藏层的神经元的数目;
(ⅲ)利用(ⅰ)和(ⅱ),确定每个隐藏层的每个具体神经元的存在;
(ⅳ)利用(ⅰ)和(ⅱ),确定在每个神经元中使用的,在S形、高斯和正切双曲线形的激活函数之间的选择;
(ⅴ)利用(ⅰ)和(ⅱ),确定包含偏链的从输入层到输出层的每个连接的存在的选择;
(ⅵ)利用(ⅰ)和(ⅱ),确定包含偏链的从输入层到输出层的每个连接的权重;以及
(ⅶ)确定用于NN的输入变量的选择。编码:
FloatG1 | FloatG2 | FloatG3 | FloatG4 | FloatG5 | FloatG6 | FloatG7 |
组G3(连接权重)在该值由后向繁殖训练算法改变之后,将被重新编码到关联的染色体。参数组的剩余部分也将被重新编码但被修改到由它们各自的因子100或1000分级的它们各自的实际表示值,如解码函数所给出的。
现在将描述进化。在进化期间,两个最佳化过程同时进行;即,利用后向繁殖训练的遗传生殖过程和为了最佳记录的设计候选方案的独立的后向繁殖训练。在这种采用遗传算法的自动设计方法中,如上所述,有必要规定群体大小和适当性函数。NN事件检测设计的一个小的群体大小通常被选定,例如4,考虑到研究中的设计问题的数据大小和复杂性,并且这里描述的遗传算法也具有一个微遗传算法的相似性能。交叉率固定为0.8,适合的突变率范围约从0.025到0.25,取决于父母和孩子之间的相似性。NN设计的动力和学习速率也分别地固定为0.7和0.01。
在NN的离线和在线设计中,现有的设计作为先验知识,遗传算法可以提供从现有的设计开始搜索的能力。采用先验知识,系统设计人员可以首先进行具有编码染色体的最初群体的设计,其余的最初群体可以利用随机产生的染色体或由现有的设计突变的染色体补充。这保证了遗传算法的良好开端,并且减少了设计时间。整个遗传算法设计过程是可以选择某一代比如20代完成,因此不改善最后的几代,基操作是容易的并且自动化的。
图7表示由遗传算法推荐和优化的NN结构的一个例子。
在事件监视中,选定的高速公路通常包括按探测站划分的一些区域。结果,为了监视高速公路的每个区域,需要具有不同结构和参数的不同NN。在具有后向繁殖的NN的传统的设计中,启发式的知识和过去的经验是必需的,尤其是对于每个隐藏层所用的激活函数的类型、隐藏层的数目、和每个隐藏层神经元的数目。另外,在每个层的神经元之间的完整的连接配置通常假定从输入层到输出层。此种设计方法是特设的,并通过试验-与-误差过程而产生,而且消耗时间,尤其对于被监视的高速公路的每个区域而设计多个不同的NN。
因此,采用人造的、多层的前向馈送的NN的事件自动检测系统的开发成果被公开了,所述的NN是基于遗传算法进化计算技术而设计的。采用这种“离线”计算范例,遗传算法可以自动地推荐网络配置、权重、存在、连接性隐藏层数目、每个隐藏层神经元的数目、激活函数的类型以及输入数据的选择。比较的结果已经说明这个被引导的进化导致全局最佳网络以及更精确的结果。在适应性应用的NN在线设计中,遗传算法将利用采用现有设计的先验知识开始搜索过程。随后,NN参数的歪斜时间更新将被用于自适应。
再次参考图1,通过从用遗传算法优化的编码的染色体中得到神经网络设计参数,事件检测系统106实现一个指定的神经网络。具有其关联的连接权重和其它设计参数的神经网络的每个配置被储存在染色体中。因此,每个神经网络通过重新采用解码函数可以重新构造。在用于事件检测的神经网络的执行过程中,例如,通过采用前向传递和误差计算模块618,620,每个时间实例的交通数据将被评估,以认定事件状态。
事件检测系统106中的每个个体神经网络被周期性地更新。在染色体中编码的神经网络设计参数通过遗传算法优化之后,储存在一个二进制文件中。通过更换一个具体神经网络中的现有染色体,储存的染色体稍后被传送到事件检测系统106,以重新更新神经网络。
虽然本发明的实施例已经被显示和描述了,更宽范围的修改、改变和替换都将包括在本发明所要保护的范围之内。在某些实例中,可以使用本发明的一些特征,而不使用其它特征。
Claims (20)
1.一种用于识别交通阻塞事件存在或不存在的交通事件自动检测系统,包括:
用于获得交通数据的传感器;
用于收集和存储由传感器取得的交通数据的数据服务器;
连接到数据服务器的事件检测处理器,该事件检测处理器包括至少一个用于评估交通数据以确定时间实例的事件状态的神经网络;以及
一个神经网络设计系统,用于更新至少一个在事件确定过程中由事件检测处理器使用的神经网络,该神经网络设计系统接收交通数据作为输入,并利用后向繁殖和遗传算法技术来优化更新的神经网络的设计。
2.根据权利要求1所述的交通事件自动检测系统,其中,进一步包括一个仿真系统,用于接收储存在数据服务器的交通数据,并且从此产生具有预定义事件发生的模拟交通数据,因此,在优化更新的神经网络设计中,该神经网络设计系统接收模拟交通数据作为输入。
3.根据权利要求1所述的交通事件自动检测系统,其中,输入到该神经网络设计系统的交通数据被格式化为一排排的数据集实例,包括事件状态、在上游交通测量站收集的时间实例的交通量、在上游交通测量站收集的时间实例的占有量、在下游测量场所收集的时间实例的交通量、以及在下游测量场所收集的时间实例的占有量。
4.根据权利要求1所述的交通事件自动检测系统,其中,神经网络设计系统产生一个以染色体编码的神经网络设计候选方案的最初群体,每个候选方案被分配有从性能评估中获得的适当值,执行关于该候选方案的遗传生殖的遗传进化过程,直至达到停止标准,以产生一个更新的神经网络。
5.根据权利要求1所述的交通事件自动检测系统,其中,通过从一个由神经网络设计系统优化的编码的染色体中得到神经网络参数,事件检测处理器实现一个神经网络,具有其关联的连接权重的每个神经网络的配置被储存在染色体中,于是解码功能被实现,以重建神经网络,而且,通过执行前向传递和误差计算功能,每个时间实例的交通数据被评估,以认定其事件状态。
6.根据权利要求5所述的事件自动检测系统,其中,编码的染色体的神经网络设计参数在被优化之后储存在一个二进制文件中,随后输入到事件检测系统,以通过更换神经网络的已有染色体来更新神经网络。
7.根据权利要求1所述的交通事件自动检测系统,其中,神经网络设计系统产生一个以染色体编码的神经网络设计候选方案的最初群体,每个候选方案被分配有从性能评估获得的适当值,执行关于该候选方案的遗传生殖的遗传的进化过程,直至达到停止标准,以产生一个更新的神经网络;遗传的进化过程由计算机程序指令执行,包括:
(ⅰ)用于产生以染色体编码的神经网络设计候选方案的最初群体的指令,每个候选方案被分配有一个从性能评估获得的适当值;
(ⅱ)用于把最初的神经网络设计候选方案从最佳到最坏分等级以及将迄今为止保留的最佳适当神经网络设计候选方案的全局记录进行保持的指令;
(ⅲ)指令,用于执行群体交配选择操作,随后对选定的神经网络设计候选方案的交叉和突变操作,以产生新的神经网络设计候选方案群体,从而全局搜索通过基于分等级的选择、交叉和突变操作被执行;
(ⅳ)指令,用于解码新群体中的每个染色体,以构造一个神经网络,并且用于执行至少一个后向繁殖训练操作的时期,从而执行一个局部搜索,神经网络连接权重被改进;
(ⅴ)指令,用于评估后向繁殖神经网络设计候选方案的适当性,并且对于预先解码的染色体,编码设计参数回到每个都有一个与之关联的指定适当值的染色体,从而产生一个神经网络设计候选方案的新群体;
(ⅵ)指令,用于执行从以前的和新的神经网络设计候选方案群体中选择候选方案的代沟操作,该群体将生存至下一次进化;以及
(ⅶ)指令,用于重复遗传生殖的进化过程,直至达到停止标准。
8.根据权利要求7的神经网络设计系统,其中,用于执行至少一个后向繁殖训练操作的指令包括用于执行成批和增量学习方案的指令。
9.根据权利要求7的神经网络设计系统,其中,用于执行至少一个后向繁殖训练操作的指令包括用于进行至少一个时期的后向繁殖训练的指令,该后向繁殖训练用于从以前的群体到新的群体迄今为止保留的最佳神经网络设计候选方案。
10.根据权利要求7的神经网络设计系统,其中,用于评估后向繁殖的神经网络设计候选方案的适当性的指令包括用于执行一个实际的实现任务以为该神经网络候选方案计算具有新连接权重的性能的指令。
11.一个具体记录在计算机可读介质中的计算机程序,用于在一个计算机系统上实现自动地识别给定的时间实例的交通阻塞事件的存在或不存在,该程序优化神经网络的设计,使其评估交通数据来确定事件状态,该程序包括执行下列步骤的指令:
(ⅰ)产生以染色体编码的神经网络设计候选方案的最初群体,每个候选方案被分配一个从性能评估获得的适当值;
(ⅱ)把最初的神经网络设计候选方案从最佳到最坏分等级以及保持迄今为止保留的最佳适当神经网络设计候选方案的全局记录;
(ⅲ)执行群体交配选择操作,并且随后对选定的神经网络设计候选方案进行交叉和突变操作,以产生新的神经网络设计候选方案群体,从而一个全局搜索通过基于分等级的选择、交叉和突变操作被执行;
(ⅳ)执行对神经网络设计候选方案的后向繁殖训练操作,从而完成一个局部搜索,并且神经网络的连接权重被改进,以产生新的神经网络设计候选方案群体。
(ⅴ)评估后向繁殖的神经网络设计候选方案的适当性并对其分配一个适当值;
(ⅵ)执行代沟操作,该代沟操作从新的和以前的神经网络设计候选方案群体中选择候选方案,该群体将生存至下一次进化;以及
(ⅶ)重复步骤(ⅱ)到步骤(ⅵ)的遗传生殖进化过程,直至达到停止标准。
12.根据权利要求11的程序,其中,执行至少一个后向繁殖训练操作的步骤包括执行成批和增量学习方案。
13.根据权利要求11所述的程序,其中,执行至少一个后向繁殖训练操作的步骤包括执行至少一个时期的后向繁殖训练,后向繁殖训练用于从以前的群体到新的群体迄今为止保留的最佳神经网络设计候选方案。
14.根据权利要求11所述的程序,其中,评估后向繁殖的神经网络设计候选方案的适当性的步骤包括执行一个实际的实现任务以为该神经网络候选方案计算具有新连接权重的性能。
15.一种为了识别在选定的时间实例中交通阻塞事件存在或不存在的方法,包括下列步骤:
获得交通数据;
存储取得的交通数据;
采用至少一个神经网络来评估交通数据,以确定一个具体的时间实例的事件状态;以及
更新至少一个利用后向繁殖和遗传算法技术的神经网络,以优化神经网络设计。
16.根据权利要求15所述的方法,进一步包括一个接收储存在数据服务器中的交通数据并从此产生具有预定义事件发生的模拟交通数据的步骤,因此,在优化更新的神经网络设计中,模拟的交通数据被用作为输入。
17.根据权利要求15所述的方法,其中,输入到该神经网络设计系统的交通数据被格式化为一排排的数据集实例,包括事件状态、在上游交通测量站收集的时间实例的交通量、在上游交通测量站收集的时间实例的占有量、在下游测量场所收集的时间实例的交通量、和在下游测量场所收集的时间实例的占有量。
18.根据权利要求15所述的方法,其中,更新神经网络的步骤进一步包括下列步骤:
(ⅰ)产生以染色体编码的神经网络设计候选方案的最初群体,每个候选方案被分配一个从性能评估获得的适当值;
(ⅱ)把最初的神经网络设计候选方案从最佳到最坏分等级,以及保持迄今为止保留的最佳适当神经网络设计候选方案的全局记录;
(ⅲ)执行群体交配选择操作,随后对选定的神经网络设计候选方案进行交叉和突变操作,以产生新的神经网络设计候选方案群体,从而一个全局搜索通过基于分等级的选择、交叉和突变操作被执行;
(ⅳ)执行关于神经网络设计候选方案的后向繁殖训练操作,从而完成一个局部搜索,并且神经网络的连接权重被改进,以产生新的神经网络设计候选方案群体;
(ⅴ)评估后向繁殖的神经网络设计候选方案的适当性,并对其分配一个适当值;
(ⅵ)执行代沟操作,该代沟操作从新的和以前的神经网络设计候选方案群体中选择候选方案,该群体将生存至下一次进化;以及
(ⅶ)重复步骤(ⅱ)到步骤(ⅵ)的遗传生殖进化过程,直至达到停止标准。
19.一种构造染色体字串的方法,该方法用于对交通事件自动检测系统中所使用的神经网络的结构进行编码,以识别交通阻塞事件的存在或不存在,并且该方法还用于确定神经网络的神经元之间的每个连接的权重,这种方法包括下列步骤:
ⅰ)确定一个在神经网络中用于多个隐藏层的染色体内的最大数目的基因;
ⅱ)确定每个隐藏层中用于多个神经元的染色体内的最大数目的基因;
ⅲ)确定每个隐藏层中用于每个具体的神经元存在的染色体内的最大数目的基因;
ⅳ)确定神经网络的每个神经元中用于激活函数三种类型之间选择的染色体内的最大数目的基因;
ⅴ)确定用于神经元连接权重的染色体内的最大数目的基因;
ⅵ)确定用于神经元之间每个连接的存在的选择的染色体内的最大数目的基因;
ⅶ)确定用于输入变量或输入结点的存在的选择的染色体内的最大数目的基因;以及
ⅷ)把最大的网络配置和参数编码至一个染色体。
20.一种用于识别在选定的时间实例中交通阻塞事件存在或不存在的方法,其包括步骤:
存储取得的交通数据;
利用遗传算法技术以在评估交通数据中优化神经网络的设计;
利用神经网络来评估交通数据,以确定具体时间实例的事件状态,通过由遗传算法技术优化的编码的染色体得到神经网络参数,神经网络被实现,执行解码功能来重建神经网络,并执行前向传递和误差计算功能,以认定事件状态。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
SG1998028301 | 1998-07-31 | ||
SG98028301 | 1998-07-31 | ||
SG9802830-1 | 1998-07-31 | ||
SG9828301 | 1999-07-06 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN1311880A true CN1311880A (zh) | 2001-09-05 |
CN1311880B CN1311880B (zh) | 2010-04-14 |
Family
ID=20430058
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN998092126A Expired - Fee Related CN1311880B (zh) | 1998-07-31 | 1999-07-06 | 采用人造神经网络和遗传算法的高速公路事件自动检测系统 |
Country Status (5)
Country | Link |
---|---|
US (1) | US6470261B1 (zh) |
CN (1) | CN1311880B (zh) |
AU (1) | AU4950899A (zh) |
HK (1) | HK1041059A1 (zh) |
WO (1) | WO2000007113A1 (zh) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1776739A (zh) * | 2004-11-16 | 2006-05-24 | 微软公司 | 使用对概率相关性和环境数据的建模与分析的交通预报 |
CN1317676C (zh) * | 2003-02-19 | 2007-05-23 | 株式会社东芝 | 广域设备的最佳运行控制装置 |
CN102436740A (zh) * | 2011-09-29 | 2012-05-02 | 东南大学 | 一种高速公路交通事件自动检测方法 |
CN102831476A (zh) * | 2012-08-22 | 2012-12-19 | 中国科学院上海光学精密机械研究所 | 脉冲神经网络模式探测装置和模式探测方法 |
CN102713944B (zh) * | 2009-11-10 | 2015-01-14 | 吉信真之 | 最优方法搜索方法以及最优方法搜索系统 |
CN104537033A (zh) * | 2014-12-23 | 2015-04-22 | 清华大学 | 基于贝叶斯网络和极限学习机的区间型指标预报方法 |
CN106406082A (zh) * | 2015-07-27 | 2017-02-15 | 华为技术有限公司 | 一种系统控制方法、装置,控制器及控制系统 |
CN107293120A (zh) * | 2017-07-24 | 2017-10-24 | 重庆大学 | 一种基于遗传算法的交通事件检测算法的参数自整定方法 |
CN108351940A (zh) * | 2015-09-03 | 2018-07-31 | 策安保安有限公司 | 用于信息安全事件的高频启发式数据获取与分析的系统和方法 |
CN109274539A (zh) * | 2018-11-14 | 2019-01-25 | 中国人民解放军陆军工程大学 | 基于遗传算法的网络安全配置自动生成系统 |
CN111971694A (zh) * | 2018-04-04 | 2020-11-20 | 诺基亚技术有限公司 | 用于深度神经网络的训练数据的协同异构处理 |
CN113780558A (zh) * | 2021-09-22 | 2021-12-10 | 创新奇智(广州)科技有限公司 | 数据衍生方法、模型训练方法、装置及电子设备 |
Families Citing this family (45)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100360266B1 (ko) * | 2000-12-09 | 2002-11-09 | 엘지전자 주식회사 | 여행 정보 서비스를 위한 교통 정보 시스템 및 그의서비스 방법 |
US7110525B1 (en) | 2001-06-25 | 2006-09-19 | Toby Heller | Agent training sensitive call routing system |
FR2842637B1 (fr) * | 2002-07-22 | 2004-10-01 | Citilog | Procede pour detecter un incident ou analogue sur une portion de voie |
EP1586076A2 (en) | 2003-01-15 | 2005-10-19 | Bracco Imaging S.p.A. | System and method for optimization of a database for the training and testing of prediction algorithms |
US9818136B1 (en) | 2003-02-05 | 2017-11-14 | Steven M. Hoffberg | System and method for determining contingent relevance |
US8712942B2 (en) * | 2003-03-24 | 2014-04-29 | AEMEA Inc. | Active element machine computation |
US8010467B2 (en) * | 2003-03-24 | 2011-08-30 | Fiske Software Llc | Active element machine computation |
US8019705B2 (en) * | 2003-03-24 | 2011-09-13 | Fiske Software, LLC. | Register and active element machines: commands, programs, simulators and translators |
US7398260B2 (en) * | 2003-03-24 | 2008-07-08 | Fiske Software Llc | Effector machine computation |
US20040254902A1 (en) * | 2003-06-11 | 2004-12-16 | Von Klleeck David Lawrence | Second Opinion Selection System |
US20050151846A1 (en) * | 2004-01-14 | 2005-07-14 | William Thornhill | Traffic surveillance method and system |
WO2006062483A1 (en) * | 2004-12-06 | 2006-06-15 | St Electronics (Info-Comm Systems) Pte. Ltd. | Method and system for intelligent traffic incident management |
US20060247798A1 (en) * | 2005-04-28 | 2006-11-02 | Subbu Rajesh V | Method and system for performing multi-objective predictive modeling, monitoring, and update for an asset |
US8050854B1 (en) | 2007-11-26 | 2011-11-01 | Rhythm Engineering, LLC | Adaptive control systems and methods |
US20090182693A1 (en) * | 2008-01-14 | 2009-07-16 | Halliburton Energy Services, Inc. | Determining stimulation design parameters using artificial neural networks optimized with a genetic algorithm |
US9026768B2 (en) | 2009-09-14 | 2015-05-05 | AEMEA Inc. | Executing machine instructions comprising input/output pairs of execution nodes |
US9152779B2 (en) | 2011-01-16 | 2015-10-06 | Michael Stephen Fiske | Protecting codes, keys and user credentials with identity and patterns |
US10268843B2 (en) | 2011-12-06 | 2019-04-23 | AEMEA Inc. | Non-deterministic secure active element machine |
US8954414B2 (en) | 2011-11-22 | 2015-02-10 | Microsoft Technology Licensing, Llc | Search model updates |
CN102880934A (zh) * | 2012-09-07 | 2013-01-16 | 中国标准化研究院 | 一种食品企业诚信评价方法 |
US9207105B2 (en) | 2013-06-26 | 2015-12-08 | Globalfoundries U.S. 2 Llc | System and method for incident detection with spatiotemporal thresholds estimated via nonparametric quantile regression |
CN103426027B (zh) * | 2013-07-24 | 2016-01-20 | 浙江大学 | 一种基于遗传神经网络模型的正常蓄水位智能优选方法 |
CN103530688B (zh) * | 2013-10-10 | 2016-04-20 | 东北大学 | 一种磨削加工工艺检测系统及方法 |
US9200910B2 (en) | 2013-12-11 | 2015-12-01 | Here Global B.V. | Ranking of path segments based on incident probability |
US9240123B2 (en) | 2013-12-13 | 2016-01-19 | Here Global B.V. | Systems and methods for detecting road congestion and incidents in real time |
CN104504442A (zh) * | 2014-12-30 | 2015-04-08 | 湖南强智科技发展有限公司 | 神经网络优化方法 |
US9286797B1 (en) | 2015-01-09 | 2016-03-15 | International Business Machines Corporation | Traffic incident location identification |
CN105389614B (zh) * | 2015-12-09 | 2018-04-03 | 天津大学 | 一种神经网络自更新过程的实现方法 |
CN106529671A (zh) * | 2016-10-28 | 2017-03-22 | 国网福建省电力有限公司 | 一种基于神经网络的原煤全水分软测量方法 |
US11100932B2 (en) * | 2017-02-10 | 2021-08-24 | Synaptics Incorporated | Robust start-end point detection algorithm using neural network |
US10762891B2 (en) * | 2017-02-10 | 2020-09-01 | Synaptics Incorporated | Binary and multi-class classification systems and methods using connectionist temporal classification |
US11087213B2 (en) * | 2017-02-10 | 2021-08-10 | Synaptics Incorporated | Binary and multi-class classification systems and methods using one spike connectionist temporal classification |
US11080600B2 (en) * | 2017-02-10 | 2021-08-03 | Synaptics Incorporated | Recurrent neural network based acoustic event classification using complement rule |
US10762417B2 (en) * | 2017-02-10 | 2020-09-01 | Synaptics Incorporated | Efficient connectionist temporal classification for binary classification |
US11853884B2 (en) * | 2017-02-10 | 2023-12-26 | Synaptics Incorporated | Many or one detection classification systems and methods |
US10762427B2 (en) * | 2017-03-01 | 2020-09-01 | Synaptics Incorporated | Connectionist temporal classification using segmented labeled sequence data |
US11074503B2 (en) | 2017-09-06 | 2021-07-27 | SparkCognition, Inc. | Execution of a genetic algorithm having variable epoch size with selective execution of a training algorithm |
WO2020027864A1 (en) * | 2018-07-31 | 2020-02-06 | Didi Research America, Llc | System and method for point-to-point traffic prediction |
CN109189825B (zh) * | 2018-08-10 | 2022-03-15 | 深圳前海微众银行股份有限公司 | 横向数据切分联邦学习建模方法、服务器及介质 |
US10332245B1 (en) | 2018-12-11 | 2019-06-25 | Capital One Services, Llc | Systems and methods for quality assurance of image recognition model |
CN110807525B (zh) * | 2019-10-29 | 2023-04-14 | 中国民航大学 | 基于改进遗传算法的神经网络航班保障服务时间估计方法 |
CN112884118A (zh) * | 2019-11-30 | 2021-06-01 | 华为技术有限公司 | 神经网络的搜索方法、装置及设备 |
CN113094822A (zh) * | 2021-03-12 | 2021-07-09 | 华中科技大学 | 一种机械设备剩余寿命预测方法和系统 |
CN115130483B (zh) * | 2022-07-13 | 2023-07-18 | 湘潭大学 | 一种基于多目标群体智能算法的神经架构搜索方法及用途 |
CN116504069B (zh) * | 2023-06-26 | 2023-09-05 | 中国市政工程西南设计研究总院有限公司 | 城市道路网络容量优化方法、装置、设备及可读存储介质 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE4138053A1 (de) * | 1991-11-19 | 1993-05-27 | Siemens Ag | Hybrides lernverfahren fuer kuenstliche neuronale netze |
US5668717A (en) * | 1993-06-04 | 1997-09-16 | The Johns Hopkins University | Method and apparatus for model-free optimal signal timing for system-wide traffic control |
US6553130B1 (en) * | 1993-08-11 | 2003-04-22 | Jerome H. Lemelson | Motor vehicle warning and control system and method |
US5983161A (en) * | 1993-08-11 | 1999-11-09 | Lemelson; Jerome H. | GPS vehicle collision avoidance warning and control system and method |
US5557533A (en) * | 1994-04-19 | 1996-09-17 | Lsi Logic Corporation | Cell placement alteration apparatus for integrated circuit chip physical design automation system |
JP3305940B2 (ja) * | 1996-01-11 | 2002-07-24 | 株式会社東芝 | 交通状況予測装置 |
JP3212868B2 (ja) * | 1996-03-13 | 2001-09-25 | 株式会社東芝 | 交通状況監視装置 |
US5832466A (en) * | 1996-08-12 | 1998-11-03 | International Neural Machines Inc. | System and method for dynamic learning control in genetically enhanced back-propagation neural networks |
JPH10312497A (ja) * | 1997-05-13 | 1998-11-24 | Toshiba Corp | 交通状況予測装置 |
-
1999
- 1999-07-06 WO PCT/SG1999/000067 patent/WO2000007113A1/en active Application Filing
- 1999-07-06 CN CN998092126A patent/CN1311880B/zh not_active Expired - Fee Related
- 1999-07-06 AU AU49508/99A patent/AU4950899A/en not_active Abandoned
- 1999-07-06 US US09/743,992 patent/US6470261B1/en not_active Expired - Lifetime
-
2002
- 2002-03-05 HK HK02101673.0A patent/HK1041059A1/zh unknown
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1317676C (zh) * | 2003-02-19 | 2007-05-23 | 株式会社东芝 | 广域设备的最佳运行控制装置 |
CN1776739A (zh) * | 2004-11-16 | 2006-05-24 | 微软公司 | 使用对概率相关性和环境数据的建模与分析的交通预报 |
CN102713944B (zh) * | 2009-11-10 | 2015-01-14 | 吉信真之 | 最优方法搜索方法以及最优方法搜索系统 |
CN102436740A (zh) * | 2011-09-29 | 2012-05-02 | 东南大学 | 一种高速公路交通事件自动检测方法 |
CN102831476A (zh) * | 2012-08-22 | 2012-12-19 | 中国科学院上海光学精密机械研究所 | 脉冲神经网络模式探测装置和模式探测方法 |
CN102831476B (zh) * | 2012-08-22 | 2015-02-18 | 中国科学院上海光学精密机械研究所 | 脉冲神经网络模式探测装置和模式探测方法 |
CN104537033B (zh) * | 2014-12-23 | 2017-08-11 | 清华大学 | 基于贝叶斯网络和极限学习机的区间型指标预报方法 |
CN104537033A (zh) * | 2014-12-23 | 2015-04-22 | 清华大学 | 基于贝叶斯网络和极限学习机的区间型指标预报方法 |
CN106406082A (zh) * | 2015-07-27 | 2017-02-15 | 华为技术有限公司 | 一种系统控制方法、装置,控制器及控制系统 |
US11385602B2 (en) | 2015-07-27 | 2022-07-12 | Huawei Technologies Co., Ltd. | System control method and apparatus, controller, and control system |
CN108351940A (zh) * | 2015-09-03 | 2018-07-31 | 策安保安有限公司 | 用于信息安全事件的高频启发式数据获取与分析的系统和方法 |
CN108351940B (zh) * | 2015-09-03 | 2021-05-07 | 策安保安有限公司 | 用于信息安全事件的高频启发式数据获取与分析的系统和方法 |
CN107293120A (zh) * | 2017-07-24 | 2017-10-24 | 重庆大学 | 一种基于遗传算法的交通事件检测算法的参数自整定方法 |
CN111971694A (zh) * | 2018-04-04 | 2020-11-20 | 诺基亚技术有限公司 | 用于深度神经网络的训练数据的协同异构处理 |
CN109274539A (zh) * | 2018-11-14 | 2019-01-25 | 中国人民解放军陆军工程大学 | 基于遗传算法的网络安全配置自动生成系统 |
CN109274539B (zh) * | 2018-11-14 | 2019-08-13 | 中国人民解放军陆军工程大学 | 基于遗传算法的网络安全配置自动生成系统 |
CN113780558A (zh) * | 2021-09-22 | 2021-12-10 | 创新奇智(广州)科技有限公司 | 数据衍生方法、模型训练方法、装置及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
US6470261B1 (en) | 2002-10-22 |
WO2000007113A1 (en) | 2000-02-10 |
CN1311880B (zh) | 2010-04-14 |
AU4950899A (en) | 2000-02-21 |
HK1041059A1 (zh) | 2002-06-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN1311880A (zh) | 采用人造神经网络和遗传算法的高速公路事件自动检测系统 | |
Del Ser et al. | Bio-inspired computation: Where we stand and what's next | |
Babayan et al. | A hippocampo-cerebellar centred network for the learning and execution of sequence-based navigation | |
CN106355334A (zh) | 农田建设区域判定方法 | |
CN107292383B (zh) | 基于深度学习算法与混合整数线性规划相结合的水质波动区间预测方法 | |
González-Recio et al. | L2-Boosting algorithm applied to high-dimensional problems in genomic selection | |
CN105868775A (zh) | 基于pso算法的不平衡样本分类方法 | |
CN109376955B (zh) | 一种基于生态服务功能的农业非点源最佳管理措施组合优化配置方法 | |
CN110135502A (zh) | 一种基于强化学习策略的图像细粒度识别方法 | |
CN1571982A (zh) | 存在仪器噪声和测量误差时人工神经网络模型改进的性能 | |
CN110176274A (zh) | 一种基于全基因组snp信息划分种猪血统的方法 | |
Swaminathan et al. | Multi-objective golden flower optimization algorithm for sustainable reconfiguration of power distribution network with decentralized generation | |
Burdsall et al. | Evolving fuzzy prototypes for efficient data clustering | |
Pellegrino et al. | Deep learning architecture optimization with metaheuristic algorithms for predicting BRCA1/BRCA2 pathogenicity NGS analysis | |
Roussel et al. | Mapping of morpho-electric features to molecular identity of cortical inhibitory neurons | |
Chetty et al. | Studies in swarm intelligence techniques for annual crop planning problem in a new irrigation scheme: case study | |
Bailey et al. | Modeling of user design preferences in multiobjective optimization of roof trusses | |
Kim et al. | Probabilistic Modeling of Fish Growth in Smart Aquaculture Systems | |
CN117824497B (zh) | 一种青贮体积的智能测量方法及系统 | |
Hasibuan et al. | Bootstrap aggregating of classification and regression trees in identification of single nucleotide polymorphisms | |
CN114512185B (zh) | 一种变异数据降维输入的驴种群自然选择分类系统 | |
Melendez | The Implementation of Machine Learning Tools to Select Potential Depot Locations for the Supply Chain of Biomass Co-Firing | |
CN102346872A (zh) | 一种智能集成文化方法 | |
Wijaya et al. | Predictions of Duck Egg Production in 34 Indonesian Provinces Using Backpropagation Algorithm | |
Zhao et al. | Integrating counts from rigorous surveys and participatory science to better understand spatiotemporal variation in population processes |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: WD Ref document number: 1041059 Country of ref document: HK |
|
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20100414 Termination date: 20170706 |