CN111897399A - 一种基于嵌入式可扩展算力的服务器 - Google Patents

一种基于嵌入式可扩展算力的服务器 Download PDF

Info

Publication number
CN111897399A
CN111897399A CN201910367190.3A CN201910367190A CN111897399A CN 111897399 A CN111897399 A CN 111897399A CN 201910367190 A CN201910367190 A CN 201910367190A CN 111897399 A CN111897399 A CN 111897399A
Authority
CN
China
Prior art keywords
embedded
board
algorithm
based server
main control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910367190.3A
Other languages
English (en)
Inventor
刘若鹏
栾琳
季春霖
杨亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xi'an Guangqi Intelligent Technology Co ltd
Original Assignee
Xi'an Guangqi Future Technology Research Institute
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xi'an Guangqi Future Technology Research Institute filed Critical Xi'an Guangqi Future Technology Research Institute
Priority to CN201910367190.3A priority Critical patent/CN111897399A/zh
Publication of CN111897399A publication Critical patent/CN111897399A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/18—Packaging or power distribution
    • G06F1/183—Internal mounting support structures, e.g. for printed circuit boards, internal connecting means
    • G06F1/185—Mounting of expansion boards
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/20—Cooling means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Abstract

本发明提供了一种基于嵌入式可扩展算力的服务器，包括：嵌入式主控板，算法单板，万兆三层交换机电路，万兆三层交换机电路设有算法单板的插槽，插槽设有ID号，ID号写在插槽的EEPROM里，ID号与内网IP地址配对；算法单板插入插槽后，读取EEPROM里的ID号，算法单板通过千兆网口把ID号、MAC地址、内网IP地址、计算载荷比上报给嵌入式主控板，嵌入式主控板动态监控ID号下的算法单板的工作情况。采用本发明的基于嵌入式可扩展算力的服务器，服务器架构软硬件具有可扩展性，可大幅度增删减算力；能根据算法单板的数量动态调整算法单板算力负荷，使整个系统各个模块硬件工作均衡，散热均衡，提高了服务器的使用寿命。

Description

一种基于嵌入式可扩展算力的服务器
【技术领域】
本发明涉及一种服务器，尤其涉及一种基于嵌入式可扩展算力的服务器。
【背景技术】
早期平安城市、智慧城市等项目里有大量的高清摄像头用作图像采集，经图像压缩成H.264、H.265走网络传输至后台NVR储存或显示。当有警情出现后，需要大量人工查阅调取录像查阅，工程量巨大，耗费人力巨大。在人工智能融入安防行业后，人脸识别、车牌识别、人车结构化、大数据分析等已经渐渐成为安防项目标配。人工智能平台能把图像里出现的人、车等特征检测识别出来，及时给执法者提供关键信息，分类存储或显示。同时人工智能平台能预防案件发生，对于已经发生的案情也能提供高效快捷的关键信息帮助警员破案。
主流高清网络摄像头的智能化需要经过预处理服务器及算法服务器。预处理服务器的主要功能是将多路前端摄像头过来的图像解码、抽帧、转码后成JPEG图片，再把JPEG流送至算法服务器做人脸识别、车牌识别、轨迹跟踪、大数据分析等业务。
目前市面上绝大多数的预处理服务器采用的是intelx86架构服务器，该服务器以软解码为主，成本昂贵，且无法扩展解码性能；而算法服务器则是在x86架构服务器上添加GPU显卡做深度学习计算，一般一台服务器最大只有4个PCIE插槽，插满后无法继续增加算力，当有算力提升需求时不能胜任。
【发明内容】
本发明所要解决的技术问题是提供一种基于嵌入式可扩展算力的服务器，服务器架构软硬件具有可扩展性，可大幅度增删减算力；能根据算法单板的数量动态调整算法单板算力负荷，使整个系统各个模块硬件工作均衡，散热均衡，提高了服务器的使用寿命。
为解决上述技术问题，本发明一实施例提供了一种基于嵌入式可扩展算力的服务器，包括：嵌入式主控板，算法单板，万兆三层交换机电路，所述万兆三层交换机电路设有算法单板的插槽，所述插槽设有ID号，所述ID号写在所述插槽的EEPROM里，所述ID号与内网IP地址配对；所述算法单板插入所述插槽后，读取所述EEPROM里的所述ID号，所述算法单板通过千兆网口把所述ID号、MAC地址、内网IP地址、计算载荷比上报给所述嵌入式主控板，所述嵌入式主控板动态监控所述ID号下的所述算法单板的工作情况。
优选地，所述算法单板为多块。
优选地，所述算法单板的CPU为嵌入式多核ARM芯片。
优选地，所述万兆三层交换机电路WAN口为两个万兆口。
优选地，所述万兆三层交换机电路LAN口为千兆网口。
优选地，所述千兆网口为大于或者等于40口千兆网口。
优选地，所述嵌入式主控板根据计算总量以及算法单板的负荷情况，动态调整所述算法单板算力。
优选地，所述算法单板为36块。
优选地，所述嵌入式主控板根据计算总量以及算法单板的负荷情况，动态调整所述算法单板算力之后，将前端监控画面中的信息通过所述万兆三层交换机电路发送至公安综合管理平台。
优选地，所述前端监控画面中的信息包括：面部特征信息、车牌识别信息、图片信息。
与现有技术相比，上述技术方案具有以下优点：服务器架构软硬件具有可扩展性，可大幅度增删减算力；能根据算法单板的数量动态调整算法单板算力负荷，使整个系统各个模块硬件工作均衡，散热均衡，提高了服务器的使用寿命。
【附图说明】
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其它的附图。
图1是本发明基于嵌入式可扩展算力的服务器硬件架构图。
图2是本发明基于嵌入式可扩展算力的服务器的工作流程图。
【具体实施方式】
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。
图1是本发明基于嵌入式可扩展算力的服务器硬件架构图。如图1所示，本发明基于嵌入式可扩展算力的服务器，硬件关键器件如下：1块嵌入式主控板，CPU型号为ARM Main系列；1-36块算法单板即算法核心板或计算核心板，算法单板CPU为嵌入式多核ARM芯片，ARM芯片型号为ARM AI系列；万兆三层交换机电路(或者性能超过万兆三层交换机电路的交换机电路)，其中WAN口为两个万兆口，LAN口为40口千兆网口，在此架构基础上进行扩展。
工作原理：嵌入式主控板上主要器件包含型号为Hi3536的CPU，三层交换机电路，以及预留有36块算法核心板的插槽，预留插槽数量可根据集成的千兆网口数量来增加，计算公式如下：节点插槽数量＝N-4。其中N为集成万兆交换机网口数量，4可以拆分为2个万兆对外网口，1个对内连接嵌入式主控板ARM1的网口，以及一个对内预留网口以36个算法核心板为例，这36个算法核心板和CPU在交换机内网中(即LAN口)。每个插槽有固定的ID号，ID号放在对应插槽下面的EEPROM芯片里，每个ID号对应一个内网IP地址。计算核心板插入插槽后主动读取EEPROM里的ID号，明确自己ID号后通过千兆网口把自己的ID号、MAC地址、内网IP地址、计算载荷比间断上报给主控CPU，CPU动态监控此ID号下的算法核心板工作情况；以此类推，CPU可根据计算总量以及各计算核心板的负荷情况动态调整，使36路计算核心板达到最优算力性能。计算完成后由CPU统一调配将所有前端监控画面中的人、车等结构化识别信息、图片等通过三层交换机的WAN口发送至公安综合管理平台。
图2是本发明基于嵌入式可扩展算力的服务器的工作流程图。如图2所示，执行本发明基于嵌入式可扩展算力的服务器的工作流程为：
步骤S11、根据算力需求换算所需计算核心板数量；
步骤S12、计算核心板插入主控板预留插槽；通过执行步骤S13：通过主板EEPROM确定自己的ID号，配好主控内网IP地址来执行步骤S12；
步骤S14、各个计算核心板上报自己的ID号、IP地址、工作状态给主控板CPU；
步骤S15、主控CPU汇总各路计算节点状态，根据算力要求均衡分布；
步骤S16、主控CPU将各个计算核心板分析出来的人脸、车牌识别结果、图片信息等打包，映射至WAN口输出；
步骤S17、系统询问是否有后续任务；
如果是，则执行步骤S14，否则则执行步骤S18、结束该流程。
FLOPS，即每秒浮点运算次数(亦称每秒峰值速度)是每秒所执行的浮点运算次数(英文：Floating-point operations per second；缩写：FLOPS)的简称，被用来评估电脑效能，尤其是在使用到大量浮点运算的科学计算领域中。FLOPS字尾的那个S，代表秒。一个TFLOPS(teraFLOPS)等於每秒万亿(1012)次的浮点运算。根据实测，单路1080P每秒25帧高清图像做人脸识别、轨迹跟踪功能需要1TFLOPS算力，那么服务器完成40路1080P高清图像的人脸识别加轨迹跟踪需要40TFLOPS算力。
以某平安城市智能人脸抓拍识别项目举例说明，假定项目初期需完成40路前端1080P高清摄像头的人脸识别、车牌识别、轨迹跟踪功能。已知经过验证，单路1080P高清摄像头需1T FLOPS算力。那么40路人脸识别加轨迹跟踪功能则需要40T FLOPS算力。
实施例一
采用本发明服务器，已知计算核心板ARM AI单板算力为4TFLOPS，完成40T总算力要求只需10块核心板，此时服务器主板上尚有26块核心板插槽空置。
实施例二
假设某平安城市智能人脸抓拍识别项目项目需求在实施中期发生变更，40路前端1080P高清摄像头清晰度偏低，需改完40路400万像素高清摄像头，由于像素数翻倍，等效算力需80TFLOPS。那么新增10块计算核心板ARM AI计算核心板插入，总计20块计算核心板ARMAI即可完成80T FLOPS计算，很轻松的实现了算力升级。此时主控板仍然有16块算力插槽空余。
实施例三
假设该平安城市智能人脸抓拍识别项目项目需求在实施中期发生变更，40路前端1080P高清摄像头清晰度偏低，需改完40路600万像素高清摄像头，由于像素数是原设计方案的3倍，等效算力需120TFLOPS。那么把计算核心板ARM AI插槽扩展到30块即可完成120TFLOPS计算，很轻松的实现了算力升级。此时主控板仍然有6块算力插槽空余。
由上述说明可知，使用根据本发明的基于嵌入式可扩展算力的服务器，服务器架构软硬件具有可扩展性，可大幅度增删减算力；能根据算法单板的数量动态调整算法单板算力负荷，使整个系统各个模块硬件工作均衡，散热均衡，提高了服务器的使用寿命。
以上对本发明实施例进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (10)

1.一种基于嵌入式可扩展算力的服务器，其特征在于，包括：嵌入式主控板，算法单板，万兆三层交换机电路，所述万兆三层交换机电路设有算法单板的插槽，所述插槽设有ID号，所述ID号写在所述插槽的EEPROM里，所述ID号与内网IP地址配对；所述算法单板插入所述插槽后，读取所述EEPROM里的所述ID号，所述算法单板通过千兆网口把所述ID号、MAC地址、内网IP地址、计算载荷比上报给所述嵌入式主控板，所述嵌入式主控板动态监控所述ID号下的所述算法单板的工作情况。
2.根据权利要求1所述的基于嵌入式可扩展算力的服务器，其特征在于，所述算法单板为多块。
3.根据权利要求1所述的基于嵌入式可扩展算力的服务器，其特征在于，所述算法单板的CPU为嵌入式多核ARM芯片。
4.根据权利要求1所述的基于嵌入式可扩展算力的服务器，其特征在于，所述万兆三层交换机电路WAN口为两个万兆口。
5.根据权利要求1所述的基于嵌入式可扩展算力的服务器，其特征在于，所述万兆三层交换机电路LAN口为千兆网口。
6.根据权利要求1所述的基于嵌入式可扩展算力的服务器，其特征在于，所述千兆网口为大于或者等于40口千兆网口。
7.根据权利要求1所述的基于嵌入式可扩展算力的服务器，其特征在于，所述嵌入式主控板根据计算总量以及算法单板的负荷情况，动态调整所述算法单板算力。
8.根据权利要求2所述的基于嵌入式可扩展算力的服务器，其特征在于，所述算法单板为36块。
9.根据权利要求7所述的基于嵌入式可扩展算力的服务器，其特征在于，所述嵌入式主控板根据计算总量以及算法单板的负荷情况，动态调整所述算法单板算力之后，将前端监控画面中的信息通过所述万兆三层交换机电路发送至公安综合管理平台。
10.根据权利要求9所述的基于嵌入式可扩展算力的服务器，其特征在于，所述前端监控画面中的信息包括：面部特征信息、车牌识别信息、图片信息。
CN201910367190.3A 2019-05-05 2019-05-05 一种基于嵌入式可扩展算力的服务器 Pending CN111897399A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910367190.3A CN111897399A (zh) 2019-05-05 2019-05-05 一种基于嵌入式可扩展算力的服务器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910367190.3A CN111897399A (zh) 2019-05-05 2019-05-05 一种基于嵌入式可扩展算力的服务器

Publications (1)

Publication Number Publication Date
CN111897399A true CN111897399A (zh) 2020-11-06

Family

ID=73169114

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910367190.3A Pending CN111897399A (zh) 2019-05-05 2019-05-05 一种基于嵌入式可扩展算力的服务器

Country Status (1)

Country Link
CN (1) CN111897399A (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103616935A (zh) * 2013-12-06 2014-03-05 江南大学 一种嵌入式计算机主板
CN105005363A (zh) * 2015-07-14 2015-10-28 深圳市英飞云智能技术有限公司 基于通用型arm架构的服务器平台
CN204833071U (zh) * 2015-07-14 2015-12-02 深圳市英飞云智能技术有限公司 基于通用型arm架构的服务器平台
CN107102699A (zh) * 2017-04-20 2017-08-29 广东浪潮大数据研究有限公司 一种高密度机架式服务器集中管理系统
CN206894803U (zh) * 2017-07-14 2018-01-16 深圳市深网视界科技有限公司 一种嵌入式人脸布控服务器

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103616935A (zh) * 2013-12-06 2014-03-05 江南大学 一种嵌入式计算机主板
CN105005363A (zh) * 2015-07-14 2015-10-28 深圳市英飞云智能技术有限公司 基于通用型arm架构的服务器平台
CN204833071U (zh) * 2015-07-14 2015-12-02 深圳市英飞云智能技术有限公司 基于通用型arm架构的服务器平台
CN107102699A (zh) * 2017-04-20 2017-08-29 广东浪潮大数据研究有限公司 一种高密度机架式服务器集中管理系统
CN206894803U (zh) * 2017-07-14 2018-01-16 深圳市深网视界科技有限公司 一种嵌入式人脸布控服务器

Similar Documents

Publication Publication Date Title
CN103810016A (zh) 实现虚拟机迁移的方法、装置和集群系统
CN102194320A (zh) 高清网络智能摄像机及高清网络智能抓拍方法
US20210312587A1 (en) Distributed image analysis method and system, and storage medium
CN104580194A (zh) 面向视频应用的虚拟化资源管理方法及装置
CN113608869A (zh) 任务调度方法、装置、电子设备和计算机存储介质
CN202771495U (zh) 嵌入式智能交通控制收费终端
CN111209119A (zh) 一种人脸抓拍枪机负载均衡方法
CN111897399A (zh) 一种基于嵌入式可扩展算力的服务器
CN112669353B (zh) 数据处理方法、装置、计算机设备和存储介质
CN115150767A (zh) 一种基于边缘计算的无线传感网络数据传输方法
CN105550245A (zh) 基于Android平台网络图片加载及缓存的优化系统及方法
CN113886081A (zh) 一种基于负载均衡的车站多刷脸阵列人脸库分割方法
CN111160283B (zh) 一种数据接入方法、装置、设备和介质
CN209216091U (zh) 一种用于高速通信的ai智能计算卡
CN114253710A (zh) 计算请求的处理方法、智能终端、云服务器、设备及介质
Yan et al. Predicting software aging with a hybrid weight-based method
US20230132786A1 (en) Artificial intelligence based power consumption optimization
CN117319716B (zh) 基板管理控制芯片的资源调度方法及基板管理控制芯片
US20200351179A1 (en) Methods, Network Function Entities and Computer Readable Media for Providing IoT Services
CN116743589B (zh) 云主机迁移方法、装置及电子设备
CN109558245A (zh) 一种基于微服务器架构的业务处理方法、装置及服务器
CN117785464A (zh) 一种板上分布式计算方法及系统
CN117519996B (zh) 一种数据处理方法、装置、设备以及存储介质
TWI802388B (zh) 基於雲平台之儲存服務系統、方法及電腦可讀媒介
CN115495231B (zh) 一种高并发任务复杂场景下的动态资源调度方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20221209

Address after: 710000 second floor, building B3, yunhuigu, No. 156, Tiangu 8th Road, software new town, high tech Zone, Xi'an, Shaanxi

Applicant after: Xi'an Guangqi Intelligent Technology Co.,Ltd.

Address before: 710003 2nd floor, B3, yunhuigu, 156 Tiangu 8th Road, software new town, Xi'an City, Shaanxi Province

Applicant before: Xi'an Guangqi Future Technology Research Institute

TA01 Transfer of patent application right