CN112698942B - 一种人工智能服务系统、主控装置和从控装置 - Google Patents

一种人工智能服务系统、主控装置和从控装置 Download PDF

Info

Publication number
CN112698942B
CN112698942B CN202011599477.8A CN202011599477A CN112698942B CN 112698942 B CN112698942 B CN 112698942B CN 202011599477 A CN202011599477 A CN 202011599477A CN 112698942 B CN112698942 B CN 112698942B
Authority
CN
China
Prior art keywords
target
pcie
slave
message
control device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011599477.8A
Other languages
English (en)
Other versions
CN112698942A (zh
Inventor
金跃伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Hikvision Digital Technology Co Ltd
Original Assignee
Hangzhou Hikvision Digital Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Hikvision Digital Technology Co Ltd filed Critical Hangzhou Hikvision Digital Technology Co Ltd
Priority to CN202011599477.8A priority Critical patent/CN112698942B/zh
Publication of CN112698942A publication Critical patent/CN112698942A/zh
Application granted granted Critical
Publication of CN112698942B publication Critical patent/CN112698942B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/5044—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering hardware capabilities
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/38—Information transfer, e.g. on bus
    • G06F13/42—Bus transfer protocol, e.g. handshake; Synchronisation
    • G06F13/4282—Bus transfer protocol, e.g. handshake; Synchronisation on a serial bus, e.g. I2C bus, SPI bus

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer And Data Communications (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本申请实施例提供一种人工智能服务系统、主控装置和从控装置，涉及通信领域，能够在不更新人工智能服务系统的中主控装置的硬件和软件情况下，灵活拓展人工智能服务系统的算力。该系统包括主控装置和与主控装置连接的至少一个从控装置。其中，主控装置和与主控装置连接的至少一个从控装置。其中，主控装置用于响应于用户操作，利用主控装置的独立硬件资源生成目标报文，并将目标报文发送给目标报文的目的地址对应的目标从控装置；目标报文为套接字数据流；目标从控装置为至少一个从控装置中的一个；目标从控装置，用于接收主控装置发送的目标报文，并利用目标从控装置的独立硬件资源对目标报文进行处理。

Description

一种人工智能服务系统、主控装置和从控装置
技术领域
本发明涉及通信领域，尤其涉及一种人工智能服务系统、主控装置和从控装置。
背景技术
现有嵌入式AI(artificial intelligence，人工智能)平台，大都采用单主控SOC(system on chip，系统级芯片)方案。以安防智能监控领域中的嵌入式AI平台为例，其视频监控业务和智能分析业务(大多为第三方AI程序)都集成在一个主控SOC上，由主控SOC提供第三方AI程序的运行环境。但是这样一来，因为硬件的限制，嵌入式AI平台中的智能分析业务所需的智能算力有限，如果需要扩展，则必须更新整个嵌入式AI平台的主控SOC，开发周期会很长。
发明内容
本申请的实施例提供一种人工智能服务系统、主控装置和从控装置，能够在不更新人工智能服务系统中主控装置的硬件和软件的情况下，灵活拓展人工智能服务系统的算力。
为达到上述目的，本申请的实施例采用如下技术方案：
第一方面，提供一种人工智能服务系统，包括：主控装置和与主控装置连接的至少一个从控装置。其中，主控装置用于响应于用户操作，利用主控装置的独立硬件资源生成目标报文，并将目标报文发送给目标报文的目的地址对应的目标从控装置；目标报文为套接字数据流；目标从控装置为至少一个从控装置中的一个；目标从控装置，用于接收主控装置发送的目标报文，并利用目标从控装置的独立硬件资源对目标报文进行处理。
基于上述技术方案，主控装置和从控装置可以使用自身独立的硬件资源完成目标报文的传输和处理，建立有效的连接，因为其中的从控装置可以有多个，而且均具备独立的硬件资源，所以可以使得人工智能服务系统，在不更改自身平台中主控装置的硬件和软件的情况下，自由的拓展其算力。
可选的，主控装置包括主服务单元和主通信单元；目标从控装置包括从服务单元和从通信单元；主服务单元，用于响应于用户操作生成目标报文；主通信单元，用于获取主服务单元生成的目标报文，并向从通信单元发送目标报文；从通信单元，用于接收主通信单元发送的目标报文，并向从服务单元发送目标报文；从服务单元，用于对从通信单元发送的目标报文进行处理。
可选的，主通信单元包括主PCIe虚拟网卡、主PCIe虚拟网卡驱动和主PCIe控制器；从通信单元包括从PCIe虚拟网卡、从PCIe虚拟网卡驱动和从PCIe控制器；
主PCIe虚拟网卡驱动，用于通过主PCIe虚拟网卡获取主服务单元生成的目标报文；主PCIe控制器，用于将主PCIe虚拟网卡驱动获取的目标报文存储在共享存储区中；从PCIe控制器，用于从共享存储区中获取目标报文；共享存储区为主控装置和目标从控装置的共享的存储区；从PCIe虚拟网卡驱动，用于通过从PCIe虚拟网卡将从PCIe控制器获取到的目标报文发送给从服务单元；
或者，
主PCIe虚拟网卡驱动，用于通过主PCIe虚拟网卡获取主服务单元生成的目标报文，并将目标报文的转换为目标PCIe报文；主PCIe控制器，用于将主PCIe虚拟网卡驱动转换的目标PCIe报文存储在主控装置中，并将目标PCIe报文的报文信息存储在共享存储区中；报文信息至少包括目标PCIe报文的存储地址；从PCIe控制器，用于从共享存储区获取目标PCIe报文的报文信息；从PCIe控制器还用于根据报文信息从主控装置获取目标PCIe报文；从PCIe虚拟网卡驱动，用于通过从PCIe虚拟网卡将从PCIe控制器获取的目标PCIe报文发送给从服务单元；
或者，
主PCIe虚拟网卡驱动，用于通过主PCIe虚拟网卡获取主服务单元生成的目标报文，并将目标报文的转换为目标PCIe报文；主PCIe控制器，用于向从PCIe控制器发送第三指示信息；第三指示信息用于指示从PCIe控制器在共享存储区中存入目的存储地址；从PCIe控制器，用于在接收到主控装置发送的第三指示信息的情况下，在共享存储区中存储目的存储地址；主PCIe控制器还用于，在确定共享存储区中存在目的存储地址的情况下，将目标PCIe报文发送给从PCIe控制器；从PCIe控制器，还用于接收主PCIe控制器发送的目标PCIe报文并存储在目标从控装置中对应目的存储地址的存储区中；从PCIe虚拟网卡驱动，用于通过从PCIe虚拟网卡将从PCIe控制器获取的目标PCIe报文发送给从服务单元；
本申请中，共享存储区为主控装置和目标从控装置的共享的存储区。
进一步可选的，主PCIe控制器，还用于在将目标报文存储在共享存储区中后，向从PCIe控制器发送第一指示信息；第一指示信息用于指示从PCIe控制器从共享存储区中获取目标报文；从PCIe控制器，具体用于在接收主PCIe控制器发送的第一指示信息后，从共享存储区中获取目标报文。
进一步可选的，主PCIe控制器还用于，在将目标PCIe报文的报文信息存储在共享存储区中后，向从PCIe控制器发送第二指示信息；第二指示信息用于指示从PCIe控制器从共享存储区中读取报文信息；从PCIe控制器具体用于：在接收到主PCIe控制器发送的第二指示信息的后，从共享存储区获取目标PCIe报文的报文信息。
可选的，从服务单元包括智能服务子单元和第三方容器子单元，第三方容器子单元中设置有至少一个容器，容器用于安装至少一个第三方应用；从PCIe虚拟网卡驱动，还用于根据目标报文或目标PCIe报文中的目的地址，确定目标报文的目的子单元；目的子单元为智能服务子单元或第三方容器子单元；从PCIe虚拟网卡驱动，还用于通过从PCIe虚拟网卡将目标报文或目标PCIe报文发送给目的子单元。
进一步可选的，通信单元还包括虚拟桥接网卡，虚拟桥接网卡由第一从PCIe虚拟网卡和第二从PCIe虚拟网卡桥接组成，第一从PCIe虚拟网卡设置在第三方容器子单元内，第二从PCIe虚拟网卡设置在第三方容器子单元外；从PCIe虚拟网卡驱动具体用于：在确定目的子单元为第三方容器子单元的情况下，依次通过从PCIe虚拟网卡、第一从PCIe虚拟网卡和第二从虚拟网卡将目标报文或目标PCIe报文发送给第三方容器子单元；在确定目的子单元为智能服务子单元的情况下，通过从PCIe虚拟网卡将目标报文或目标PCIe报文发送给智能服务子单元。
第二方面，提供一种主控装置，应用于人工智能服务系统，主控装置与人工智能服务系统中的至少一个从控装置连接，包括主服务单元和主通信单元。其中，主服务单元，用于响应于用户操作利用主控装置的独立硬件资源生成目标报文；目标报文为套接字数据流；目标报文的目的地址对应目标从控装置；目标从控装置为至少一个从控装置中的一个；主通信单元，用于获取主服务单元生成的目标报文，并向从控装置发送目标报文，以使目标从控装置利用目标从控装置的独立硬件资源对目标报文处理。
可选的，主通信单元包括主虚拟高速串行计算机扩展总线标准PCIe虚拟网卡、主PCIe虚拟网卡驱动和主PCIe控制器；
主PCIe虚拟网卡驱动，用于通过主PCIe虚拟网卡获取主服务单元生成的目标报文；主PCIe控制器，用于将主PCIe虚拟网卡驱动获取的目标报文存储在共享存储区中，以使目标从控装置从共享存储区中获取目标报文并利用自身的独立硬件资源进行处理；
或者，
主PCIe虚拟网卡驱动，用于通过主PCIe虚拟网卡获取主服务单元生成的目标报文，并将目标报文的转换为目标PCIe报文；主PCIe控制器，用于将主PCIe虚拟网卡驱动转换的目标PCIe报文存储在主控装置，并将目标PCIe报文的报文信息存储在共享存储区中，以使目标从控装置从共享存储区中获取该报文信息后根据该报文信息从主控装置中获取目标PCIe报文并利用自身的独立硬件资源进行处理；报文信息至少包括目标PCIe报文的存储地址；
或者，
主PCIe虚拟网卡驱动，用于通过主PCIe虚拟网卡获取主服务单元生成的目标报文，并将目标报文的转换为目标PCIe报文；主PCIe控制器，用于向目标从控装置发送第三指示信息；第三指示信息用于指示目标从控装置在共享存储区中存入目的存储地址；主PCIe控制器还用于，在确定共享存储区中存在目的存储地址的情况下，将目标PCIe报文发送给目标从控装置，以使目标从控装置将目标PCIe报文存储在目标从控装置中对应目的存储地址的存储区中后，利用目标从控装置的独立硬件资源对目标PCIe报文进行处理；
本申请中，共享存储区为主控装置和从控装置共享的存储区。
进一步可选的，主PCIe控制器，还用于在将目标报文存储在共享存储区中后，向目标从控装置发送第一指示信息；第一指示信息用于指示目标从控装置从共享存储区中获取目标报文。
进一步可选的，主PCIe控制器还用于，在将目标PCIe报文的报文信息存储在共享存储区中后，向目标从控装置发送第二指示信息；第二指示信息用于指示目标从控装置从共享存储区中读取报文信息。
第三方面，提供一种从控装置，应用于人工智能服务系统，从控装置与人工智能服务系统中的主控装置连接，该从控装置包括从通信单元和从服务单元。其中，从通信单元，用于接收主控装置发送的目标报文，并将目标报文发送给从服务单元；目标报文中的数据为套接字数据流；目标报文中的目标地址对应从控装置；从服务单元，用于利用从控装置的独立硬件资源对从通信单元发送的目标报文进行处理。
可选的，从通信单元包括从PCIe虚拟网卡、从PCIe虚拟网卡驱动和从PCIe控制器；
从PCIe控制器，用于从共享存储区中获取目标报文；从PCIe虚拟网卡驱动，用于通过从PCIe虚拟网卡将从PCIe控制器获取到的目标报文发送给从服务单元；
或者，从PCIe控制器，用于从共享存储区获取目标PCIe报文的报文信息；目标PCIe报文对应目标报文；报文信息至少包括目标PCIe报文的存储地址；从PCIe控制器还用于根据报文信息从主控装置获取目标PCIe报文；从PCIe虚拟网卡驱动，用于通过从PCIe虚拟网卡将从PCIe控制器获取的目标PCIe报文发送给从服务单元；
或者，从PCIe控制器，用于在接收到主控装置发送的第三指示信息的情况下，在共享存储区中存储目的存储地址；从PCIe控制器，还用于接收主控装置发送的目标PCIe报文并存储在对应目的存储地址的主控装置中；目标PCIe报文对应目标报文；从PCIe虚拟网卡驱动，用于通过从PCIe虚拟网卡将从PCIe控制器获取的目标PCIe报文发送给从服务单元；
本申请中，共享存储区为主控装置和从控装置共享的存储区。
进一步可选的，从PCIe控制器，具体用于在接收主控装置发送的第一指示信息后，从共享存储区中获取目标报文；第一指示信息用于指示从控装置从共享存储区中获取目标报文。
进一步可选的，从PCIe控制器具体用于：在接收到主控装置发送的第二指示信息的情况下，从共享存储区获取目标PCIe报文的存储地址；第二指示信息用于指示从控装置从共享存储区中读取报文信息。
可选的，从服务单元包括智能服务子单元和第三方容器子单元，第三方容器子单元中安装有至少一个容器，容器用于安装至少一个第三方应用；从PCIe虚拟网卡驱动，还用于根据从PCIe控制器获取的目标报文或目标PCIe报文中的目的地址，确定目标报文或目标PCIe报文的目的子单元；目的子单元为智能服务子单元或第三方容器子单元；从PCIe虚拟网卡驱动，还用于通过从PCIe虚拟网卡将目标报文或目标PCIe报文发送给目的子单元。
进一步可选的，从通信单元还包括虚拟桥接网卡，虚拟桥接网卡由第一从PCIe虚拟网卡和第二从PCIe虚拟网卡桥接组成，第一从PCIe虚拟网卡设置在第三方容器子单元内，第二从PCIe虚拟网卡设置在第三方容器子单元外；从PCIe虚拟网卡驱动具体用于：在确定目的子单元为第三方容器子单元的情况下，依次通过从PCIe虚拟网卡第一从PCIe虚拟网卡和第二从虚拟网卡将目标报文或目标PCIe报文发送给第三方容器子单元；在确定目的子单元为智能服务子单元的情况下，通过从PCIe虚拟网卡将目标报文或目标PCIe报文发送给智能服务子单元。
第四方面，提供一种通信方法，应用于人工智能服务系统的主控装置，主控装置与人工智能服务系统中的至少一个从控装置连接，该方法包括：响应于用户操作利用主控装置的独立硬件资源生成目标报文；目标报文为套接字数据流；目标报文的目的地址对应目标从控装置；目标从控装置为至少一个从控装置中的一个；向从控装置发送目标报文，以使目标从控装置利用目标从控装置的独立硬件资源对目标报文处理。
可选的，向目标从控装置发送目标报文包括：
将目标报文存储在共享存储区中，以使目标从控装置从共享存储区中获取目标报文；共享存储区为主控装置和目标从控装置的共享的存储区；
或者，将目标报文的转换为目标PCIe报文；将目标PCIe报文存储在主控装置，并将目标PCIe报文的报文信息存储在共享存储区中，以使目标从控装置从共享存储区中获取该报文信息；报文信息至少包括目标PCIe报文的存储地址；
或者，将目标报文的转换为目标PCIe报文；向从控装置发送第三指示信息；第三指示信息用于指示目标从控装置在共享存储区中存入目的存储地址；共享存储区为主控装置和目标从控装置共享的存储区；在确定共享存储区中存在目的存储地址的情况下，将目标PCIe报文发送给目标从控装置。
可选的，将目标报文存储在共享存储区中之后还包括：向目标从控装置发送第一指示信息；第一指示信息用于指示目标从控装置从共享存储区中获取目标报文。
可选的，将目标PCIe报文的报文信息存储在共享存储区中之后，还包括：向目标从控装置发送第二指示信息；第二指示信息用于指示目标从控装置从共享存储区中读取报文信息。
第五方面，提供一种通信方法，应用于人工智能服务系统中的从控装置，从控装置与人工智能服务系统中的主控装置连接，该方法包括：接收主控装置发送的目标报文；目标报文中的数据为套接字数据流；目标报文中的目标地址对应从控装置；利用从控装置的独立硬件资源对目标报文进行处理。
可选的，接收主控装置发送的目标报文包括：从共享存储区中获取目标报文；共享存储区为主控装置和从控装置的共享的存储区；
或者，从共享存储区获取目标PCIe报文的报文信息；目标PCIe报文对应目标报文；报文信息至少包括目标PCIe报文的存储地址；根据报文信息从主控装置获取目标PCIe报文；
或者，在接收到主控装置发送的第三指示信息的情况下，在共享存储区中存储目的存储地址；接收主控装置发送的目标PCIe报文并存储在对应目的存储地址的主控装置中；目标PCIe报文对应目标报文。
可选的，从共享存储区中获取目标报文具体包括：在接收主控装置发送的第一指示信息后，从共享存储区中获取目标报文；第一指示信息用于指示从控装置从共享存储区中获取目标报文。
可选的，从共享存储区获取目标PCIe报文的报文信息具体包括：在接收到主控装置发送的第二指示信息后，从共享存储区获取目标PCIe报文的报文信息；第二指示信息用于指示从控装置从共享存储区中读取报文信息。
进一步可选的，在从控装置包括智能服务子单元和设置有多个安装有多个第三方应用的第三方容器子单元的情况下，利用从控装置的独立硬件资源对目标报文进行处理包括：根据目标报文或目标PCIe报文中的目的地址，确定目标报文或目标PCIe报文的目的子单元；目的子单元为智能服务子单元或第三方容器子单元；利用目的子单元对应的硬件资源对目标报文或目标PCIe报文进行处理。
第六方面，提供一种主控装置，包括处理器和用于存储处理可执行指令的存储器；其中，处理器被配置为执行所述指令，以实现如第四方面提供的通信方法。
第七方面，提供一种从控装置，包括处理器和用于存储处理可执行指令的存储器；其中，处理器被配置为执行所述指令，以实现如第五方面提供的通信方法。
第八方面，提供一种计算机可读存储介质，计算机可读存储介质包括计算机执行指令，当计算机执行指令在计算机上运行时，使得计算机执行如第四方面提供的通信方法。
第九方面，提供一种计算机可读存储介质，计算机可读存储介质包括计算机执行指令，当计算机执行指令在计算机上运行时，使得计算机执行如第五方面提供的通信方法。
第十方面，提供一种计算程序产品，包含指令，当其在计算机上运行时，使得计算机执行如第四方面提供的通信方法。
第十一方面，提供一种计算程序产品，包含指令，当其在计算机上运行时，使得计算机执行如第五方面提供的通信方法。
可以理解地，上述提供的第二方面至第十一方面的方案，均对应第一方面的人工智能服务系统，因此，其所能达到的有益效果可参考上文所提供的对应的人工智能服务系统中的有益效果，此处不再赘述。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种人工智能服务系统的结构示意图；
图2为本申请实施例提供的一种人工智能服务系统对应的软件结构图；
图3为本申请实施例提供的另一种人工智能服务系统的结构示意图；
图4为本申请实施例提供的一种主控装置和从控装置之间的通信示意图；
图5为本申请实施例提供的又一种人工智能服务系统的结构示意图；
图6为本申请实施例提供的另一种人工智能服务系统对应的软件结构图；
图7为本申请实施例提供的又一种人工智能服务系统对应的软件结构图；
图8为本申请实施例提供的再一种人工智能服务系统的结构示意图；
图9为本申请实施例提供的一种通信方法的流程示意图一；
图10为本申请实施例提供的一种通信方法的流程示意图二；
图11为本申请实施例提供的一种通信方法的流程示意图三；
图12为本申请实施例提供的一种通信方法的流程示意图四；
图13为本申请实施例提供的一种通信方法的流程示意图五；
图14为本申请实施例提供的一种通信方法的流程示意图六；
图15为本申请实施例提供的一种通信方法的流程示意图七；
图16为本申请实施例提供的一种通信装置的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
需要说明的是，本申请实施例中，“示例性的”或者“例如”等词用于表示作例子、例证或说明。本申请实施例中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其它实施例或设计方案更优选或更具优势。确切而言，使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。
还需要说明的是，本申请实施例中，“的(英文：of)”，“相应的(英文：corresponding，relevant)”和“对应的(英文：corresponding)”有时可以混用，应当指出的是，在不强调其区别时，其所要表达的含义是一致的。
为了便于清楚描述本申请实施例的技术方案，在本申请的实施例中，采用了“第一”、“第二”等字样对功能和作用基本相同的相同项或相似项进行区分，本领域技术人员可以理解“第一”、“第二”等字样并不是在对数量和执行次序进行限定。
为了便于理解本发明，下面先对本发明涉及到的相关术语进行解释。
硬盘录像机：数字硬盘录像机(DVR，digital video recoder)和网络硬盘录像机(NVR，net video recoder)的统称，采用硬盘录像，是一套图像存储处理的计算机系统。
嵌入式AI(artificial intelligence，人工智能)开放平台：这里指的是一种在基于带智能分析功能的硬盘录像机上通过开放智能分析单元上部分智能算力让用户的AI程序可以嵌入到上面自由运行的软硬件平台。该开放平台的集成方案能快速帮助客户开发针对场景定制需求的AI算法。在本申请中，为人工智能服务系统。
第三方应用：指的是和嵌入式AI开放平台生产厂商合作的AI生态合作伙伴自己开发的运行在嵌入式AI开放平台上的AI程序。
PCIe：全称为peripheral component interconnect express，即虚拟高速串行计算机扩展总线标准，是一种高速串行计算机扩展总线标准，其主要的目的是为了连接对传输速度和带宽有更高要求的外部设备。PCIe是新一代的总线接口，用于取代PCI总线，与PCI总线的共享并行架构不同，PCIe总线使用高速串行传送方式，能够支持更高的频率，连接的设备不再像PCI总线那样共享总线带宽。此外，PCIe总线还引入了一些新特性，如流量控制机制、服务质量管理、热插拔支持、数据完整性和新型错误处理机制等。
PCIe虚拟网卡：指的是硬件底层基于PCIe通信的网卡驱动，为了实现无缝适配PCIe级联设备间的网络套接字通信，省去上层设备间通信原先采用的网络套接字通信，改为PCIe共享内存通信方案的目的，开发出的针对PCIe通信方式的虚拟网卡。站在应用视角，就是把PCIe共享内存和DMA通道看作网络PHY(物理层，physical layer)，实现基于PCIe共享内存和DMA的网卡设备驱动程序，这样就等同提供了TCP/IP(transmission controlprotocol/internet protocol，传输控制协议/网际协议)模型中的数据链路层。因为操作系统内核与网卡驱动程序之间的交互，每次处理的是一个网络数据包，底层通信协议隐藏在驱动程序之下，所以让应用程序可以通过TCP/IP协议与对端PCIe设备完成通信。
LXC：Linux下的容器，使用内核中的命名空间namespaces和源自控制组群cgroups实现进程组之间的隔离，由一些内核补丁和用户控件的工具构成，特点：1、更小的虚拟化开销，适合嵌入式Linux；2、快速部署，只需要安装LXC工具，就可以利用LXC的相关命令来创建并且启动容器，为应用提供虚拟执行环境。
目前由硬盘录像机和智能AI模块组成的嵌入式AI开放平台，大都共用同一主控芯片(SOC，system on chip),所以算力有限。
针对上述问题，本申请实施例提供一种人工智能服务系统，采用具备独立硬件资源的从控装置与主控装置连接，达到自由拓展算力的目的。
参照图1所示，本申请实施例提供的人工智能服务系统包括：主控装置01和与主控装置01连接的至少一个从控装置02(02-1和02-2)。示例性的，主控装置01可以为硬盘录像机，该硬盘录像机具备独立的主控SOC，该硬盘录像机的主控SOC可以包括DDR(double datarate，双倍速率同步动态随机存储器)、FLASH(固态存储器与动画编辑器)、以太网、USB(universal serial bus，通用串行总线)、SATA(serial advanced technologyattachment，串行高级技术附件)、UART(universal asynchronous receiver/transmitter，通用异步收发传输器)、I2C(inter－integrated circuit，两线式串行总线)、音视频A/D(analog to digital converter，模拟数字转换器)、VGA(adapter,videographics，视频图像配接器)、HDMI(high definition multimedia interface，高清多媒体接口)、报警、蜂鸣器等接口、外设等。
示例性的，以硬盘录像机和智能AI模块组成的人工智能平台为例，参照图2所示，其软件架构中，硬盘录像机具体具备服务接口、通过服务接口向外界设备提供的网络服务、多媒体的服务和AI服务等服务。其中，网络服务至少包括SDK(software development kit，软件开发工具包)协议和网络协议，多媒体服务至少包括：数据帧获取、图像处理、图片编码和内存管理，AI服务至少包括：AI引擎和AI算法库。智能AI模块则主要具备嵌入式容器(例如LXC)，以及需要在嵌入式容器中隔离运行的第三方APP(人脸抓拍APP、人脸计数APP等)。另外，为了方便对第三方APP管理，硬盘录像机和智能AI模块中均安装有APP管理软件，在用户需要对第三方APP管理时，可以通过对硬盘录像机上的APP管理软件进行操作，以使其通过智能AI模块上的APP管理软件对第三方APP进行管理。当然实际中还可以是其他形式，此处仅为示例，不做具体限制。
具体的，主控装置01用于响应于用户操作利用主控装置01的独立硬件资源生成目标报文，并将目标报文发送给目标报文的目的地址对应的目标从控装置；目标报文为套接字数据流；目标从控装置为至少一个从控装置02中的一个；目标从控装置，用于接收主控装置01发送的目标报文，并利用目标从控装置的独立硬件资源对目标报文进行处理。
示例性的，以主控装置为硬盘录像机，目标从控装置为智能AI模块为例，主控装置的独立硬件资源可以为任一种类型的SOC，其具备有硬盘录像机正常使用需要的所有硬件(可以是包括存储器、处理器、总线、通信接口、控制器(例如后续实施例中的主PCIe控制器)以及各类外设接口等，还可以如前述对SOC的相关表述)，同时其内还会存在有硬盘录像机正常使用需要的各类软件模块，以及需要和目标从控装置进行交互的；主控装置的独立硬件资源可以通过软硬件结合的方式为主控装置的正常使用提供支持。目标从控装置的独立硬件资源也也可以为任一类型的SOC，其具备有目标从控装置正常使用需要的所有硬件(可以是包括存储器、处理器、总线、通信接口、控制器(例如后续实施例中的从PCIe控制器)，还可以如前述对SOC的相关表述)，另外，其内会存在有用于对目标从控装置从主控装置接收到的各类数据进行AI分析的AI引擎(主要用于提供算力)，以及通过调用AI引擎能力的AI软件，同时为了保证AI软件在目标从控装置内占用限定好的资源(CPU资源、内存资源等)以及数据的安全性，目标从控装置内还会设置有用于安装AI软件的容器。当然，实际中主控装置对应的独立硬件资源和目标从控装置对应的独立硬件资源还可以包括其他任意可行的硬件或依托硬件实现的软件，本申请对此不做具体限制。
这里的目标报文可以是用户通过对主控装置中相应服务控件的操作生成的，也可以是主控装置在自身获取获从其他设备获取的数据(例如图片或视频)后，需要对获取的数据进行需要较大算力的分析时生成。例如用户对如图2中的硬盘录像机(相当于本申请中的主控装置)中APP管理软件的操作生成需要智能AI模块(相当于本申请中的从控装置)处理的报文。又例如如图2中的硬盘录像机在拍摄到人脸图像后，如果认为设定需要实时对人脸图像识别，则该硬盘录像机会生成待AI智能模块处理的携带有该人脸图像的目标报文。再例如，当用户通过对如图2中的硬盘录像机中的APP管理软件进行操作，以使得硬盘录像机需要实时对其拍摄范围内的目标物体(例如车辆)进行计数时，硬盘录像机会在拍摄其拍摄范围内的录像的情况下，生成待AI智能模块处理的携带有其拍摄录像的目标报文。当然，实际中还可以是其他任意情况，本申请对此不做具体限制。
这样一来，主控装置和从控装置可以使用自身独立的硬件资源完成目标报文的传输和处理，建立有效的连接，因为其中的从控装置可以有多个，而且均具备独立的硬件资源，所以可以使得人工智能服务系统，在不更改自身平台中主控装置的硬件和软件的情况下，自由的拓展其算力。
可选的，参照图3所示，主控装置01包括主服务单元11和主通信单元12；目标从控装置包括从服务单元21和从通信单元22；主服务单元11，用于响应于用户操作生成目标报文；主通信单元12，用于获取主服务单元11生成的目标报文，并向从通信单元22发送目标报文；从通信单元22，用于接收主通信单元12发送的目标报文，并向从服务单元21发送目标报文；从服务单元21，用于对从通信单元22发送的目标报文进行处理。
示例性的，主通信单元可以是主控装置中的用于实现通信功能的硬件，可以是其独立硬件资源中用于实现通信功能的硬件和/或软件，例如通信接口、控制器(USB控制器、以外网控制器、PCIe控制器等)、总线等。主服务单元可以是主控装置中的能够对数据进行分析处理以及存储的硬件和/或软件，硬件例如处理器、存储器等，软件可以如前述实施例中提到的网络服务、多媒体的服务、AI服务以及APP管理等对应的软件，也可以如后续图8所示的编解码服务、存储服务、相机管理、UI(user interface，用户界面)管理和码流管理等对应的软件。从通信单元可以是从控装置中的用于实现通信功能的硬件，可以是其独立硬件资源中用于实现通信功能的硬件和/或软件，例如通信接口、控制器(USB控制器、以外网控制器、PCIe控制器等)、总线等。从服务单元可以是从控装置中的能够对数据进行分析处理以及存储的硬件和/或软件，硬件例如处理器、存储器、AI引擎、AI接口等，软件可以如前述实施例中提到的容器以及容器内的第三方应用等。
示例性的，主通信单元和从通信单元之间的信息交互，可以是常用的以太网通信方式或者USB通信方式，但是这两种方式均需要占用主控装置的以外网接口或USB接口，但是实际中主控装置的以外网接口和USB接口是优先的，大多都提前预备好了用处，不一定存在可用的接口。如果非要使用这两种通信方式，则需要增加硬件接口，也就提高了主控装置的生产成本。因而，这两种通信方式均存在一定缺陷，所以本申请中使用主控装置和从控装置在出厂时一定会存在的PCIe控制器完成两者的通信。具体可示意图可参照图4所示。
但是，如果采用PCIe控制器直接对接的方式，虽然不需要增加硬件接口，不会增加生产成本，但是因为主控装置模块和从控装置的上层通信都属于网络通信，是采用网络套接字数据流进行通信的，不符合PCIe控制器对应的PCIe通信协议，所以如果采用这种方案生产的人工智能服务系统提供给用户后，还需要用户自身开发额外的软件以完成网络套接字数据流到PCIe数据流的转换，给用户增加了极大的开发成本，使得用户体验度不高。因而，本申请实施例采用在主控装置和目标从控装置中均设置PCIe虚拟网卡和PCIe虚拟网卡驱动，以配合该PCIe控制器完成物理层面上数据的传输，保证主控装置和目标从控装置之间仅需要使用原有的网络套接字数据流便可以进行信息交互。参照图5所示，主通信单元12包括主PCIe虚拟网卡121、主PCIe虚拟网卡驱动122和主PCIe控制器123；从通信单元22包括从PCIe虚拟网卡221、从PCIe虚拟网卡驱动222和从PCIe控制器223；结合图5，主通信单元12和从通信单元22之间的通信具体存在如下三种可行方案：
第一种方案：
主PCIe虚拟网卡驱动122，用于通过主PCIe虚拟网卡121获取主服务单元11生成的目标报文；主PCIe控制器123，用于将主PCIe虚拟网卡驱动122获取的目标报文存储在共享存储区中；其中，共享存储区为主控装置01和目标从控装置的共享的存储区；从PCIe控制器223，用于从共享存储区中获取目标报文；共享存储区为主控装置01和目标从控装置的共享的存储区；从PCIe虚拟网卡驱动222，用于通过从PCIe虚拟网卡221将从PCIe控制器223获取到的目标报文发送给从服务单元21。
其中，共享存储区具体为共享内存。
具体的，本申请中人工智能服务系统的具体软件架构可参照图6所示，其具体分为四层，其中设备驱动层主要用于注册主控装置01和目标从控装置中的PCIe虚拟网卡和PCIe虚拟网卡驱动。收发实现层作为实现具体通信功能的一层，其主要通过接收对端的消息终端后进行相应的收发数据(图中skb为linux系统中规定的一种数据结构)主控装置01和目标从控装置，收发数据具体需要通过DMA(direct memory access，直接存储器访问)实现。DMA具体的软硬件(驱动、网卡、控制器等)可以设置在主控装置01中，也可以设置在目标从控装置中，图6中以设置在从控装置中为例。另外收发实现层之间的收发数据也可以直接通过共享内存(相当于本申请中的共享存储区)实现，共享内存可以设置在主控装置01中，也可以设置在目标从控装置中，图6以设置在目标从控装置中为例。硬件接口适配层用于给收发实现层提供相应的底层调用资源，以使收发实现层的功能稳定实现。平台驱动注册用于对主控装置01和目标从控装置进行注册，以使主控装置01和不同的目标从控装置组成一个人工智能服务系统，完成更上层的功能。
基于上述方案，主控装置和从控装置之间可以使用PCIe控制器规定的共享内存，快捷的进行目标报文的传输，达到主控装置和从控装置之间的通信，建立了有效的连接。进而可以在不更新人工智能服务系统的中主控装置的硬件和软件情况下自由的拓展人工智能服务系统的算力。
进一步可选的，为了避免从PCIe控制器不断的从共享存储区(共享内存)中查询报文，造成查询资源的浪费，主PCIe控制器123，还用于在将目标报文存储在共享存储区中后，向从PCIe控制器223发送第一指示信息；第一指示信息用于指示从PCIe控制器223从共享存储区中获取目标报文；从PCIe控制器223，具体用于在接收主PCIe控制器123发送的第一指示信息后，从共享存储区中获取目标报文。
第二种方案：
主PCIe虚拟网卡驱动122，用于通过主PCIe虚拟网卡121获取主服务单元11生成的目标报文，并将目标报文的转换为目标PCIe报文；主PCIe控制器123，用于将主PCIe虚拟网卡驱动122转换的目标PCIe报文存储在主控装置，并将目标PCIe报文的报文信息存储在共享存储区中；报文信息至少包括目标PCIe报文的存储地址；共享存储区为主控装置01和目标从控装置的共享的存储区；从PCIe控制器223，用于从共享存储区获取目标PCIe报文的报文信息；从PCIe控制器223还用于根据报文信息从主控装置01获取目标PCIe报文；从PCIe虚拟网卡驱动222，用于通过从PCIe虚拟网卡221将从PCIe控制器223获取的目标PCIe报文发送给从服务单元21。
示例性的，为了使得目标从控装置可以获取更多关于目标报文的信息，以方便后续的处理，本申请实施例中，报文信息还可以包括：报文长度、处理状态等能够体现目标报文的相关信息的参数。对此，本申请不做具体限制。
基于上述第二种方案，主控装置和目标从控装置之间需要传输的目标报文在转换为PCIe能够传输的目标PCIe报文并存储后，通过共享存储区传输包括其存储地址的报文信息，而后使得从PCIe控制器根据该存储地址从主控装置的内存中获取该目标PCIe报文。实现了主控装置和目标从控装置之间的通信，建立了有效的连接。进而可以在不更新人工智能服务系统的中主控装置的硬件和软件情况下自由的拓展人工智能服务系统的算力。进一步的，因为第二种方案中数据的具体传输是通过两个PCIe控制器之间的PCIe总线完成的，也就避免了第一种方案中使用共享内存传输大数据对主控装置和目标从控装置中处理资源的大量占用(具体指对CPU资源的占用)。
进一步可选的，为了避免从PCIe控制器不断的从共享存储区(共享内存)中查询报文信息，造成查询资源的浪费，主PCIe控制器123还用于，在将目标PCIe报文的报文信息存储在共享存储区中后，向目标从控装置发送第二指示信息；第二指示信息用于指示从PCIe控制器223从共享存储区中读取报文信息；从PCIe控制器223具体用于：在接收到主控装置01发送的第二指示信息后，从共享存储区获取目标PCIe报文的报文信息。
需要说明的是，上述第二种方案中，PCIe控制器之间传输数据需要的DMA相应的软硬件是设置在从控装置中的(参照图6所示)。后续的第三种方案则是将该DMA相应的软硬件设置在主控装置中的，具体可参照图7所示。
第三种方案：
主PCIe虚拟网卡驱动122，用于通过主PCIe虚拟网卡121获取主服务单元11生成的目标报文，并将目标报文的转换为目标PCIe报文；主PCIe控制器123，用于向目标从控装置发送第三指示信息；第三指示信息用于指示从PCIe控制器223在共享存储区中存入目的存储地址；共享存储区为主控装置01和目标从控装置共享的存储区；从PCIe控制器223，用于在接收到主控装置01发送的第三指示信息的情况下，在共享存储区中存储目的存储地址；主PCIe控制器123还用于，在确定共享存储区中存在目的存储地址的情况下，将目标PCIe报文发送给从PCIe控制器223；从PCIe控制器223，还用于接收主PCIe控制器123发送的目标PCIe报文并存储在对应目的存储地址的主控装置中；目标PCIe报文对应目标报文；从PCIe虚拟网卡驱动222，用于通过从PCIe虚拟网卡221将从PCIe控制器223获取的目标PCIe报文发送给从服务单元21。
基于上述第三种方案，主控装置和目标从控装置之间需要传输的目标报文在转换为PCIe能够传输的目标PCIe报文并存储后，通过共享存储区传输其需要在从控装置中的存储的目的存储地址，而后使得主PCIe控制器在共享内存中确定存在该目的存储地址后，根据该目的存储地址从主控装置的内存中获取该目标PCIe报文并发送给目标从控装置的内存。实现了主控装置和目标从控装置之间的通信，建立了有效的连接。进而可以在不更新人工智能服务系统的中主控装置的硬件和软件情况下，自由的拓展人工智能服务系统的算力。进一步的，因为第三种方案中数据的具体传输是通过两个PCIe控制器之间的PCIe总线完成的，也就避免了第一种方案中使用共享内存传输大数据对主控装置和目标从控装置中处理资源的大量占用(具体指对CPU资源的占用)。
可选的，因为从控装置往往会因为用户的不同需求在其中安装能够实现不同功能的第三方应用，第三方应用在使用过程中对从控装置中资源(内存资源、CPU资源等)的需求是会因为其使用状态随时变化的，而且有些应用数据是需要保密的，而容器技术是能够将从控装置中的资源合理分配给不同的第三方应用，且可以保证其相互之间以及和其他业务(容器外的业务)之间的数据保证其独立和安全，所以结合图5，参照图8所示，本申请实施例中，从服务单元21包括智能服务子单元211和第三方容器子单元212，第三方容器子单元212中设置有至少一个容器，容器中用于安装有至少一个第三方应用；从PCIe虚拟网卡驱动222，还用于根据目标报文或目标PCIe报文中的目的地址，确定目标报文的目的子单元；目的子单元为智能服务子单元211或第三方容器子单元212；从PCIe虚拟网卡驱动222，还用于通过从PCIe虚拟网卡221将目标报文或目标PCIe报文发送给目的子单元。其中，目的地址具体可以由在主控装置根据其接收到的操作生成目标报文时，根据操作具体内容(例如对什么软件或控件的操作)的参考预存的IP列表查找相应的IP作为目的地址。
其中，参照图8所示，智能服务子单元可以是从控装置中通过其硬件和软件的结合实现的从控装置本身自带的一些业务功能，例如APP管理、码流管理、码流接收、AI接口(用于供第三方应用调用，以使用从控装置中的AI引擎提供的算力)等。第三方容器子单元则可以为从控装置中通过其硬件和软件的结合能够实现一个能够完全独立的运行第三方应用的运行环境的软件。
这样一来，主控装置发送的目标报文便可以顺利的进入从控装置中对应的单元中完成对应的业务，保证目标报文的传输正确。
进一步可选的，因为容器子单元之内与容器子单元之外是隔离的，所以为了建立容器内的第三方应用和容器外的业务进行相关信息交互，参照图8所示，通信单元还包括虚拟桥接网卡bro，虚拟桥接网卡bro由第一从PCIe虚拟网卡lxc-eth0和第二从PCIe虚拟网卡lxc-eth0’桥接组成，第一从PCIe虚拟网卡221设置在第三方容器子单元内，第二从PCIe虚拟网卡221设置在第三方容器子单元外；从PCIe虚拟网卡驱动222具体用于：在确定目的子单元为第三方容器子单元212的情况下，依次通过从PCIe虚拟网卡221和第一从PCIe虚拟网卡lxc-eth0和第二从虚拟网卡lxc-eth0’将目标报文或目标PCIe报文发送给第三方容器子单元212；在确定目的子单元为智能服务子单元211的情况下，通过从PCIe虚拟网卡221将目标报文或目标PCIe报文发送给智能服务子单元211。
需要说明的是，前述方案中阐述了目标报文如何从主控装置发送至从控装置的流程，从控装置如何在处理完该目标报文后给主控装置发送处理结果时，数据传输可以依据上述实施例中提供的传输路径，此处不再赘述。另外，在本申请实施例中，为了方便数据传输，需要互相传输数据的虚拟网卡之间需要处于同一局域网，为了实现这一目的，主控装置和从控装置中需要互相传输数据的虚拟网卡的互联网协议地址ip需要配置为同一网络。例如图8中主控装置01的主PCIe虚拟网卡121的ip可以为10.254.254.254，从控装置02的从PCIe虚拟网卡221的ip则可以为10.254.254.1；第一从PCIe虚拟网卡lxc-eth0的ip可以为10.0.1.2，第二从PCIe虚拟网卡lxc-eth0’的ip则可以为10.0.1.1。
另外，可选的，参照图8所示，为了实现主控装置01外界设备的通信，需要使用主控装置中的物理网卡etho和物理网卡驱动结合以太网控制器和以太网口完成；进一步的，为了完成从控装置02与外界设备的通信，则需要在主PCIe虚拟网卡121和物理网卡etho之间使用NAT服务完成网络地址的转换，而后结合物理网卡驱动、以太网控制器和以太网口完成。
本申请实施例还提供一种主控装置，应用于人工智能服务系统，主控装置与人工智能服务系统中的至少一个从控装置连接，其具体可以为上述实施例中人工智能服务系统中的主控装置01；相关技术特征可参照前述实施例中的表述，此处不再赘述。
本申请实施例还提供一种从控装置，应用于人工智能服务系统，从控装置与人工智能服务系统中的主控装置连接，其具体可以为上述实施例中人工智能服务系统中的目标从控装置；相关技术特征可参照前述实施例中的表述，此处不再赘述。
上述实施例中的主控装置和从控装置具被和前述实施例中人工智能服务系统中的主控装置和目标从控装置相同的技术特征，所以其有益效果可参照上述实施例，此处不再赘述。
基于上述实施例中的人工智能服务系统、主控装置和从控装置，参照图9所示，本申请实施例还提供一种应用在人工智能服务系统中的通信方法，该方法包括101-104：
101、主控装置响应于用户操作利用主控装置的独立硬件资源生成目标报文。
其中，目标报文为套接字数据流；目标报文的目的地址为目标从控装置的地址。目标从控装置为人工智能服务系统中的所有从控装置中的一个。
102、主控装置向目标从控装置发送目标报文。
可选的，结合图9，参照图10所示，102步骤具体包括S1：
S1、主控装置将目标报文存储在共享存储区中。
其中，共享存储区为主控装置和目标从控装置的共享的存储区。
可选的，结合图10，参照图11所示，S1之后还包括S2：
S2、主控装置向目标从控装置发送第一指示信息。
其中，第一指示信息用于指示目标从控装置从共享存储区中获取目标报文。
可选的，结合图9，参照图12所示，102步骤具体包括X1和X2：
X1、主控装置将目标报文的转换为目标PCIe报文。
X2、主控装置将目标PCIe报文存储在主控装置，并将目标PCIe报文的报文信息存储在共享存储区中。
其中，报文信息至少包括目标PCIe报文的存储地址。
可选的，结合图12，参照图13所示，X2步骤后还包括X3：
X3、主控装置向目标从控装置发送第二指示信息。
其中，第二指示信息用于指示目标从控装置从共享存储区中读取存储地址。
可选的，结合图9，参照图14所示，102步骤具体包括L1-L3:
L1、主控装置将目标报文的转换为目标PCIe报文。
L2、主控装置向目标从控装置发送第三指示信息。
其中，第三指示信息用于指示目标从控装置在共享存储区中存入目的存储地址。
L3、主控装置在确定共享存储区中存在目的存储地址的情况下，将目标PCIe报文发送给目标从控装置。
103、目标从控装置接收主控装置发送的目标报文。
可选的，参照图10所示，103步骤具体包括S3：
S3、目标从控装置从共享存储区中获取目标报文。
可选的，参照图11所示，S3步骤具体为：在接收主控装置发送的第一指示信息后，从共享存储区中获取目标报文。
可选的，参照图12所示，103步骤具体包括X4和X5：
X4、目标从控装置从共享存储区获取目标PCIe报文的报文信息。
X5、目标从控装置根据报文信息从主控装置获取目标PCIe报文。
可选的，参照图13所示，X4具体为：目标从控装置在接收到主控装置发送的第二指示信息的情况下，从共享存储区获取目标PCIe报文的报文信息。
可选的，参照图14所示，103步骤具体包括L4和L5：
L4、在接收到主控装置发送的第三指示信息的情况下，在共享存储区中存储目的存储地址。
L5、接收主控装置发送的目标PCIe报文并存储在对应目的存储地址的主控装置中。
104、目标从控装置利用目标从控装置的独立硬件资源对目标报文进行处理。
其中，在103步骤包括X1-X5或者L1-L5的情况下，目标报文可以为对应目标报文的目标PCIe报文。
可选的，在目标从控装置包括智能服务子单元和设置有多个安装有多个第三方应用的第三方容器子单元的情况下，结合图9，参照图15所示，104步骤具体包括1041和1042：
1041、根据目标报文或目标PCIe报文中的目的地址，确定目标报文的目的子单元；目的子单元为智能服务子单元或第三方容器子单元。
1042、利用目的子单元对应的硬件资源对目标报文或目标PCIe报文进行处理。
上述实施例提供的通信方法，其各个步骤的执行依赖于前述实施例中人工智能服务系统中各个模块和单元，两者具备相同的技术特征，所以其有益效果可参照前述实施例的表述，此处不再赘述。
参照图16所示，本申请实施例还提供另一种通信装置，该通信装置可以为上述实施例中的主控装置或从控装置。该通信装置包括存储器41、处理器42、总线43和通信接口44；存储器41用于存储计算机执行指令，处理器42与存储器41通过总线43连接；当通信装置运行时，处理器42执行存储器41存储的计算机执行指令，以使通信装置执行如上述实施例提供的通信方法。
在具体的实现中，作为一种实施例，处理器42(42-1和42-2)可以包括一个或多个CPU，例如图16中所示的CPU0和CPU1。且作为一种实施例，通信装置可以包括多个处理器42，例如图16中所示的处理器42-1和处理器42-2。这些处理器42中的每一个CPU可以是一个单核处理器(Single-CPU)，也可以是一个多核处理器(Multi-CPU)。这里的处理器42可以指一个或多个设备、电路、和/或用于处理数据(例如计算机程序指令)的处理核。
存储器41可以是只读存储器41(Read-Only Memory，ROM)或可存储静态信息和指令的其他类型的静态存储设备，随机存取存储器(random access memory，RAM)或者可存储信息和指令的其他类型的动态存储设备，也可以是电可擦可编程只读存储器(electrically erasable programmable read-only memory，EEPROM)、只读光盘(compactdisc read-only memory，CD-ROM)或其他光盘存储、光碟存储(包括压缩光碟、激光碟、光碟、数字通用光碟、蓝光光碟等)、磁盘存储介质或者其他磁存储设备、或者能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质，但不限于此。存储器41可以是独立存在，通过总线43与处理器42相连接。存储器41也可以和处理器42集成在一起。
在具体的实现中，存储器41，用于存储本申请中的数据和执行本申请的软件程序对应的计算机执行指令。处理器42可以通过运行或执行存储在存储器41内的软件程序，以及调用存储在存储器41内的数据，通信装置的各种功能。
通信接口44，使用任何收发器一类的装置，用于与其他设备或通信网络通信，如控制系统、无线接入网(radio access network，RAN)，无线局域网(wireless local areanetworks，WLAN)等。通信接口44可以包括接收单元实现接收功能，以及发送单元实现发送功能。
总线43，可以是工业标准体系结构(industry standard architecture，ISA)总线、外部设备互连(peripheral component interconnect，PCI)总线或扩展工业标准体系结构(extended industry standard architecture，EISA)总线等。该总线43可以分为地址总线、数据总线、控制总线等。为便于表示，图16中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
本申请实施例还提供一种计算机可读存储介质，计算机可读存储介质包括计算机执行指令，当计算机执行指令在计算机上运行时，使得计算机执行如上述实施例提供的通信方法中对应主控装置的部分或对应从控装置的部分。
本申请实施例还提供一种计算程序产品，包含指令，当其在计算机上运行时，使得计算机执行如第四方面提供的通信方法中对应主控装置的部分或对应从控装置的部分。
本领域技术人员应该可以意识到，在上述一个或多个示例中，本发明所描述的功能可以用硬件、软件、固件或它们的任意组合来实现。当使用软件实现时，可以将这些功能存储在计算机可读介质中或者作为计算机可读介质上的一个或多个指令或代码进行传输。计算机可读介质包括计算机可读存储介质和通信介质，其中通信介质包括便于从一个地方向另一个地方传送计算机程序的任何介质。存储介质可以是通用或专用计算机能够存取的任何可用介质。
通过以上的实施方式的描述，所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将装置的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。
在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。例如多个单元或组件可以结合或者可以集成到另一个装置，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是一个物理单元或多个物理单元，即可以位于一个地方，或者也可以分布到多个不同地方。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个可读取存储介质中。基于这样的理解，本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该软件产品存储在一个存储介质中，包括若干指令用以使得一个设备(可以是单片机，芯片等)或处理器(processor)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。

Claims (8)

1.一种人工智能服务系统，其特征在于，包括：
主控装置与至少一个从控装置连接,所述主控装置包括主服务单元和主通信单元；
所述主控装置用于响应于用户操作，利用所述主控装置的独立硬件资源生成目标报文，并将所述目标报文发送给所述目标报文的目的地址对应的目标从控装置；所述目标报文为套接字数据流；所述目标从控装置为所述至少一个从控装置中的一个,所述目标从控装置包括从服务单元和从通信单元；
所述目标从控装置，用于接收所述主控装置发送的目标报文，并利用所述目标从控装置的独立硬件资源对所述目标报文进行处理;
所述主通信单元包括主虚拟高速串行计算机扩展总线标准PCIe虚拟网卡、主PCIe虚拟网卡驱动和主PCIe控制器；所述从通信单元包括从PCIe虚拟网卡、从PCIe虚拟网卡驱动和从PCIe控制器；
所述主PCIe虚拟网卡驱动，用于通过所述主PCIe虚拟网卡获取所述主服务单元生成的目标报文；所述主PCIe控制器，用于将所述主PCIe虚拟网卡驱动获取的所述目标报文存储在共享存储区中；所述从PCIe控制器，用于从所述共享存储区中获取所述目标报文；所述从PCIe虚拟网卡驱动，用于通过所述从PCIe虚拟网卡将所述从PCIe控制器获取到的所述目标报文发送给所述从服务单元；
或者，
所述主PCIe虚拟网卡驱动，用于通过所述主PCIe虚拟网卡获取所述主服务单元生成的目标报文，并将所述目标报文的转换为目标PCIe报文；所述主PCIe控制器，用于将所述主PCIe虚拟网卡驱动转换的目标PCIe报文存储在所述主控装置中，并将所述目标PCIe报文的报文信息存储在所述共享存储区中；所述报文信息至少包括所述目标PCIe报文的存储地址；所述从PCIe控制器，用于从所述共享存储区获取所述目标PCIe报文的报文信息；所述从PCIe控制器还用于根据所述报文信息从所述主控装置获取所述目标PCIe报文；所述从PCIe虚拟网卡驱动，用于通过所述从PCIe虚拟网卡将所述从PCIe控制器获取的所述目标PCIe报文发送给所述从服务单元；
或者，
所述主PCIe虚拟网卡驱动，用于通过所述主PCIe虚拟网卡获取所述主服务单元生成的目标报文，并将所述目标报文的转换为目标PCIe报文；所述主PCIe控制器，用于向所述从PCIe控制器发送第三指示信息；所述第三指示信息用于指示所述从PCIe控制器在所述共享存储区中存入目的存储地址；所述从PCIe控制器，用于在接收到所述主控装置发送的第三指示信息的情况下，在所述共享存储区中存储所述目的存储地址；所述主PCIe控制器还用于，在确定所述共享存储区中存在所述目的存储地址的情况下，将所述目标PCIe报文发送给从PCIe控制器；所述从PCIe控制器，还用于接收所述主PCIe控制器发送的目标PCIe报文并存储在所述目标从控装置中对应所述目的存储地址的存储区中；所述从PCIe虚拟网卡驱动，用于通过所述从PCIe虚拟网卡将所述从PCIe控制器获取的所述目标PCIe报文发送给所述从服务单元；
其中，所述共享存储区为所述主控装置和所述目标从控装置的共享的存储区。
2.根据权利要求1所述的人工智能服务系统，其特征在于，所述主服务单元，用于响应于用户操作，利用所述主控装置的独立硬件资源生成所述目标报文；
所述主通信单元，用于获取所述主服务单元生成的目标报文，并向所述从通信单元发送所述目标报文；
所述从通信单元，用于接收所述主通信单元发送的目标报文，并向所述从服务单元发送所述目标报文；
所述从服务单元，用于对所述从通信单元发送的所述目标报文进行处理。
3.根据权利要求1所述的人工智能服务系统，其特征在于，所述主PCIe控制器，还用于在将所述目标报文存储在共享存储区中后，向从PCIe控制器发送第一指示信息；所述第一指示信息用于指示所述从PCIe控制器从所述共享存储区中获取所述目标报文；
所述从PCIe控制器，具体用于在接收所述主PCIe控制器发送的第一指示信息后，从所述共享存储区中获取所述目标报文。
4.根据权利要求1所述的人工智能服务系统，其特征在于，
所述主PCIe控制器还用于，在将所述目标PCIe报文的报文信息存储在所述共享存储区中后，向所述从PCIe控制器发送第二指示信息；所述第二指示信息用于指示所述从PCIe控制器从所述共享存储区中读取所述报文信息；
所述从PCIe控制器具体用于：在接收到所述主PCIe控制器发送的第二指示信息后，从所述共享存储区获取所述目标PCIe报文的报文信息。
5.根据权利要求1-4任一项所述的人工智能服务系统，其特征在于，所述从服务单元包括智能服务子单元和第三方容器子单元，所述第三方容器子单元中设置有至少一个容器，所述容器用于安装至少一个第三方应用；
所述从PCIe虚拟网卡驱动，还用于根据所述目标报文或所述目标PCIe报文中的目的地址，确定所述目标报文的目的子单元；所述目的子单元为所述智能服务子单元或所述第三方容器子单元；
所述从PCIe虚拟网卡驱动，还用于通过从PCIe虚拟网卡将所述目标报文或所述目标PCIe报文发送给所述目的子单元。
6.根据权利要求5所述的人工智能服务系统，其特征在于，所述从通信单元还包括虚拟桥接网卡，所述虚拟桥接网卡由第一从PCIe虚拟网卡和第二从PCIe虚拟网卡桥接组成，所述第一从PCIe虚拟网卡设置在所述第三方容器子单元内，所述第二从PCIe虚拟网卡设置在所述第三方容器子单元外；
所述从PCIe虚拟网卡驱动具体用于：
在确定所述目的子单元为所述第三方容器子单元的情况下，依次通过所述从PCIe虚拟网卡、所述第一从PCIe虚拟网卡和所述第二从PCIe虚拟网卡将所述目标报文或所述目标PCIe报文发送给所述第三方容器子单元；
在确定所述目的子单元为所述智能服务子单元的情况下，通过所述从PCIe虚拟网卡将所述目标报文或所述目标PCIe报文发送给所述智能服务子单元。
7.一种主控装置，应用于人工智能服务系统，所述主控装置与所述人工智能服务系统中的至少一个从控装置连接，其特征在于，包括：
主服务单元，用于响应于用户操作，利用所述主控装置的独立硬件资源生成目标报文；所述目标报文为套接字数据流；所述目标报文的目的地址对应为目标从控装置；所述目标从控装置为所述至少一个从控装置中的一个；
主通信单元，用于获取所述主服务单元生成的目标报文，并向所述目标从控装置发送所述目标报文，以使所述目标从控装置利用所述目标从控装置的独立硬件资源对所述目标报文处理；
所述主通信单元包括主虚拟高速串行计算机扩展总线标准PCIe虚拟网卡、主PCIe虚拟网卡驱动和主PCIe控制器；
所述主PCIe虚拟网卡驱动，用于通过所述主PCIe虚拟网卡获取所述主服务单元生成的目标报文；所述主PCIe控制器，用于将所述主PCIe虚拟网卡驱动获取的所述目标报文存储在共享存储区中；所述主PCIe控制器还用于在将所述目标报文存储在所述共享存储区后，向所述目标从控装置发送第一指示信息，以使所述目标从控装置从所述共享存储区中获取所述目标报文；所述第一指示信息用于指示所述目标从控装置的从PCIe控制器从所述共享存储区中获取所述目标报文；
或者，
所述主PCIe虚拟网卡驱动，用于通过所述主PCIe虚拟网卡获取所述主服务单元生成的目标报文，并将所述目标报文的转换为目标PCIe报文；所述主PCIe控制器，用于将所述主PCIe虚拟网卡驱动转换的所述目标PCIe报文存储在所述主控装置，并将所述目标PCIe报文的报文信息存储在所述共享存储区中；所述主PCIe控制器还用于在将所述报文信息存储在所述共享存储区后，向所述目标从控装置的从PCIe控制器发送第二指示信息，以使所述目标从控装置从所述共享存储区中获取所述报文信息后根据所述报文信息从所述主控装置中获取所述目标PCIe报文，并利用自身的独立硬件资源进行处理；报文信息至少包括目标PCIe报文的存储地址；所述第二指示信息用于指示所述从PCIe控制器从所述共享存储区中读取所述报文信息；
或者，
所述主PCIe虚拟网卡驱动，用于通过所述主PCIe虚拟网卡获取所述主服务单元生成的目标报文，并将所述目标报文的转换为目标PCIe报文；所述主PCIe控制器，用于向所述目标从控装置发送第三指示信息；所述第三指示信息用于指示所述目标从控装置在所述共享存储区中存入目的存储地址；所述主PCIe控制器还用于，在确定所述共享存储区中存在所述目的存储地址的情况下，将所述目标PCIe报文发送给所述目标从控装置，以使所述目标从控装置将所述目标PCIe报文存储在所述目标从控装置中对应所述目的存储地址的存储区中后，利用所述目标从控装置的独立硬件资源对目标PCIe报文进行处理；
其中，所述共享存储区为所述主控装置和所述目标从控装置的共享的存储区。
8.一种从控装置，应用于人工智能服务系统，所述从控装置与所述人工智能服务系统中的主控装置连接，其特征在于，包括：
从通信单元，用于接收主控装置发送的目标报文，并将所述目标报文发送给从服务单元；所述目标报文中的数据为套接字数据流；所述目标报文中的目标地址对应所述从控装置；
从服务单元，用于利用所述从控装置的独立硬件资源对所述从通信单元发送的所述目标报文进行处理；
所述从服务单元包括智能服务子单元和第三方容器子单元，所述第三方容器子单元中设置有至少一个容器，所述容器用于安装至少一个第三方应用；所述从通信单元包括从PCIe虚拟网卡、从PCIe虚拟网卡驱动、从PCIe控制器和虚拟桥接网卡；所述虚拟桥接网卡由第一从PCIe虚拟网卡和第二从PCIe虚拟网卡桥接组成，所述第一从PCIe虚拟网卡设置在所述第三方容器子单元内，所述第二从PCIe虚拟网卡设置在所述第三方容器子单元外；
所述从PCIe控制器，用于在接收到所述主控装置发送的第一指示信息后，从共享存储区中获取目标报文；所述第一指示信息用于指示所述从PCIe控制器从所述共享存储区中获取所述目标报文；所述从PCIe虚拟网卡驱动，用于根据所述从PCIe控制器获取的目标报文中的目的地址，确定所述目标报文的目的子单元；所述目的子单元为所述智能服务子单元或所述第三方容器子单元；所述从PCIe虚拟网卡驱动还用于在确定所述目的子单元为所述第三方容器子单元的情况下，依次通过所述从PCIe虚拟网卡、所述第一从PCIe虚拟网卡和所述第二从PCIe虚拟网卡将所述目标报文发送给所述第三方容器子单元；所述从PCIe虚拟网卡驱动还用于在确定所述目的子单元为所述智能服务子单元的情况下，通过所述从PCIe虚拟网卡将所述目标报文发送给所述智能服务子单元；
或者，
所述从PCIe控制器，用于在接收到所述主控装置发送的第二指示信息后，从所述共享存储区获取目标PCIe报文的报文信息；所述第二指示信息用于指示所述从PCIe控制器从所述共享存储区中读取所述报文信息；所述目标PCIe报文对应目标报文；报文信息至少包括所述目标PCIe报文的存储地址；所述从PCIe控制器还用于根据所述报文信息从所述主控装置获取所述目标PCIe报文；所述从PCIe虚拟网卡驱动，用于根据所述从PCIe控制器获取的目标PCIe报文中的目的地址，确定所述目标PCIe报文的目的子单元；所述目的子单元为所述智能服务子单元或所述第三方容器子单元；所述从PCIe虚拟网卡驱动还用于在确定所述目的子单元为所述第三方容器子单元的情况下，依次通过所述从PCIe虚拟网卡、所述第一从PCIe虚拟网卡和所述第二从PCIe虚拟网卡将所述目标PCIe报文发送给所述第三方容器子单元；所述从PCIe虚拟网卡驱动还用于在确定所述目的子单元为所述智能服务子单元的情况下，通过所述从PCIe虚拟网卡将所述目标PCIe报文发送给所述智能服务子单元；
或者，
所述从PCIe控制器，用于在接收到所述主控装置发送的第三指示信息的情况下，在所述共享存储区中存储目的存储地址；从PCIe控制器，还用于接收主控装置发送的目标PCIe报文并存储在对应目的存储地址的主控装置中；目标PCIe报文对应目标报文；从PCIe虚拟网卡驱动，用于根据所述从PCIe控制器获取的目标PCIe报文中的目的地址，确定所述目标PCIe报文的目的子单元；所述目的子单元为所述智能服务子单元或所述第三方容器子单元；所述从PCIe虚拟网卡驱动还用于在确定所述目的子单元为所述第三方容器子单元的情况下，依次通过所述从PCIe虚拟网卡、所述第一从PCIe虚拟网卡和所述第二从PCIe虚拟网卡将所述目标PCIe报文发送给所述第三方容器子单元；所述从PCIe虚拟网卡驱动还用于在确定所述目的子单元为所述智能服务子单元的情况下，通过所述从PCIe虚拟网卡将所述目标PCIe报文发送给所述智能服务子单元；
其中，所述共享存储区为所述主控装置和所述从控装置的共享的存储区。
CN202011599477.8A 2020-12-29 2020-12-29 一种人工智能服务系统、主控装置和从控装置 Active CN112698942B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011599477.8A CN112698942B (zh) 2020-12-29 2020-12-29 一种人工智能服务系统、主控装置和从控装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011599477.8A CN112698942B (zh) 2020-12-29 2020-12-29 一种人工智能服务系统、主控装置和从控装置

Publications (2)

Publication Number Publication Date
CN112698942A CN112698942A (zh) 2021-04-23
CN112698942B true CN112698942B (zh) 2023-10-27

Family

ID=75511537

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011599477.8A Active CN112698942B (zh) 2020-12-29 2020-12-29 一种人工智能服务系统、主控装置和从控装置

Country Status (1)

Country Link
CN (1) CN112698942B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115982081A (zh) * 2021-10-14 2023-04-18 华为技术有限公司 一种与PCIe设备通信的方法、装置及系统
CN114401418B (zh) * 2021-12-30 2023-09-12 北京北广科技股份有限公司 基于多个arm芯片架构的嵌入式音视频服务器
CN116743587B (zh) * 2023-08-11 2024-01-26 太初(无锡)电子科技有限公司 一种基于异构计算加速卡的虚拟网络接口实现方法及装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2357939A1 (en) * 2001-09-27 2003-03-27 Alcatel Canada Inc. Master-slave communications system and method for a network element
WO2006069532A1 (fr) * 2004-12-30 2006-07-06 Huawei Technologies Co., Ltd. Procede et systeme de mise en oeuvre de multidiffusion utilisant un module d'acces esclave pour acceder a une ligne d'abonne numerique
CN106533890A (zh) * 2016-12-30 2017-03-22 华为技术有限公司 一种报文处理方法、装置及系统
CN206489484U (zh) * 2017-02-28 2017-09-12 江西华东电气有限公司 一种嵌入式硬件平台主从架构布局设计
WO2019148563A1 (zh) * 2018-01-30 2019-08-08 网宿科技股份有限公司 一种数据发送方法、接收方法及装置
DE102018001574A1 (de) * 2018-02-28 2019-08-29 WAGO Verwaltungsgesellschaft mit beschränkter Haftung Master-Slave Bussystem und Verfahren zum Betrieb eines Bussystems
CN111447094A (zh) * 2020-03-27 2020-07-24 深圳融安网络科技有限公司 双机的主从切换方法、终端设备及计算机可读存储介质

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2357939A1 (en) * 2001-09-27 2003-03-27 Alcatel Canada Inc. Master-slave communications system and method for a network element
WO2006069532A1 (fr) * 2004-12-30 2006-07-06 Huawei Technologies Co., Ltd. Procede et systeme de mise en oeuvre de multidiffusion utilisant un module d'acces esclave pour acceder a une ligne d'abonne numerique
CN106533890A (zh) * 2016-12-30 2017-03-22 华为技术有限公司 一种报文处理方法、装置及系统
CN206489484U (zh) * 2017-02-28 2017-09-12 江西华东电气有限公司 一种嵌入式硬件平台主从架构布局设计
WO2019148563A1 (zh) * 2018-01-30 2019-08-08 网宿科技股份有限公司 一种数据发送方法、接收方法及装置
DE102018001574A1 (de) * 2018-02-28 2019-08-29 WAGO Verwaltungsgesellschaft mit beschränkter Haftung Master-Slave Bussystem und Verfahren zum Betrieb eines Bussystems
CN111447094A (zh) * 2020-03-27 2020-07-24 深圳融安网络科技有限公司 双机的主从切换方法、终端设备及计算机可读存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
"A Message Passing Interface to Support Fast Data Access in Distributed Cloud Environment along with Master and Slave Communication";Dr.V.Kumar etc;《Second International Conference on Current Trends In Engineering and Technology - ICCTET 2014》;全文 *
以太网及集总帧在两级主从控制系统的应用;李小敏;俞承芳;李旦;;信息与电子工程(04);全文 *

Also Published As

Publication number Publication date
CN112698942A (zh) 2021-04-23

Similar Documents

Publication Publication Date Title
CN112698942B (zh) 一种人工智能服务系统、主控装置和从控装置
US11789889B2 (en) Mechanism for device interoperability of switches in computer buses
JP6276408B2 (ja) 画像表示方法および装置
US20220358075A1 (en) Pcie-based data transmission method and apparatus
CN115344226B (zh) 一种虚拟化管理下的投屏方法、装置、设备及介质
CN105472291A (zh) 多处理器集群的数字硬盘录像机及其实现方法
US20220368781A1 (en) PCIe-Based Data Transmission Method and Apparatus
CN110990319B (zh) 同步串行总线复用方法、装置、终端和非临时性计算机可读存储介质
CN116860391A (zh) Gpu算力资源调度方法、装置、设备和介质
US20170185546A1 (en) Remote Resource Access Method and Switching Device
CN103092676A (zh) 虚拟机集群的模拟输入输出方法、装置及系统
CN106959881B (zh) 发送数据的方法和装置
CN113342457A (zh) 基于Eureka服务注册与发现的Kubernetes调度方法
US10372632B2 (en) Information processing system, information processing method and information processing device
CN112383617B (zh) 进行长连接的方法、装置、终端设备以及介质
CN112367362B (zh) 一种数据处理方法、装置、设备及计算机存储介质
JP2024500483A (ja) 構成方法および装置
CN110730126B (zh) 链路汇聚系统、数据帧的发送或接收方法及其装置
CN111274184B (zh) 串行接口设备驱动器、嵌入式处理器和视频控制器
CN114816651A (zh) 一种通信方法、装置以及系统
TWI659632B (zh) 物聯網的區域資料採集與設備控制系統與方法
CN115686748B (zh) 虚拟化管理下的服务请求响应方法、装置、设备及介质
CN104519359A (zh) 进行视频码流处理的设备及方法
CN115442239B (zh) 带宽资源分配方法、PCIe通道切换器及电子设备
KR20230072342A (ko) 가시성이 향상된 클라우드 네이티브 애플리케이션 시스템

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant