CN115878629B - 一种gpu跟踪数据服务系统、电子设备和存储介质 - Google Patents
一种gpu跟踪数据服务系统、电子设备和存储介质 Download PDFInfo
- Publication number
- CN115878629B CN115878629B CN202310005194.3A CN202310005194A CN115878629B CN 115878629 B CN115878629 B CN 115878629B CN 202310005194 A CN202310005194 A CN 202310005194A CN 115878629 B CN115878629 B CN 115878629B
- Authority
- CN
- China
- Prior art keywords
- tracking
- gpu
- trace
- service
- file
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Abstract
本公开涉及计算机技术领域,公开了一种GPU跟踪数据服务系统、电子设备和存储介质,所述系统包括:客户端用于确定待上传的GPU跟踪文件对应的多个跟踪数据块;公有云服务集群用于接收多个跟踪数据块,并对多个跟踪数据块进行加密处理,得到多个加密跟踪数据块进行存储,不同跟踪数据块之间独立加密;私有云服务集群用于从公有云服务集群获取多个加密跟踪数据块,以及对多个加密跟踪数据块进行解密合并处理,得到GPU跟踪文件。本公开实施例能够实现海量GPU跟踪数据端到端高效、稳定、安全的获取、存储和查询,降低GPU跟踪数据传输过程的安全隐患,以及降低复杂网络环境导致GPU跟踪数据传输过程数据丢失或停滞造成的传输质量问题。
Description
技术领域
本公开涉及计算机技术领域,尤其涉及一种GPU跟踪数据服务系统、电子设备和存储介质。
背景技术
图形处理器(Graphics Processing Unit,GPU)的终端用户在运行GPU应用程序时,GPU应用程序会产生GPU跟踪(Trace)数据。基于GPU跟踪数据,可以对GPU的性能及其稳定性进行分析,以提高GPU的终端用户的用户使用体验。然而,一方面GPU跟踪数据本身尺寸较大,从几百MB到几十GB不等,并会随着游戏业的对于游戏体验的提升而持续增大;一方面,GPU跟踪数据的产生具有高度的迸发性,比如一款游戏同一时间同一场景可能很多用户会遇到相同的游戏逻辑漏洞进而在有限时间内产生众多跟踪数据有待上传;一方面,游戏终端在移动使用场景之下会出现网络带宽抖动甚至中断等极端现象,导致大文件传输存在严重的失败风险而浪费移动流量;另一方面,GPU跟踪数据包含了大量的用户个人信息,如何保护用户信息在云端的安全也就尤为重要。因此,构建一种GPU跟踪数据服务系统,以支撑海量GPU跟踪数据端到端高效、稳定、安全的获取、存储和查询,是当前亟需解决的问题。
发明内容
本公开提出了一种GPU跟踪数据服务系统、电子设备和存储介质技术方案。
根据本公开的一方面,提供了一种GPU跟踪数据服务系统,包括:客户端,用于确定待上传的GPU跟踪文件对应的多个跟踪数据块;公有云服务集群,用于接收所述多个跟踪数据块,并对所述多个跟踪数据块进行加密处理,得到多个加密跟踪数据块进行存储,其中,不同所述跟踪数据块之间独立加密;私有云服务集群,用于从所述公有云服务集群获取所述多个加密跟踪数据块,以及对所述多个加密跟踪数据块进行解密合并处理,得到所述GPU跟踪文件。
在一种可能的实现方式中,所述客户端,用于确定所述GPU跟踪文件对应的文件元数据,以及确定每个所述跟踪数据块对应的块信息;所述客户端,用于根据所述GPU跟踪文件对应的文件元数据和每个所述跟踪数据块对应的块信息,创建所述GPU跟踪文件对应的跟踪上传任务,以及将所述跟踪上传任务发送至所述公有云服务集群。
在一种可能的实现方式中,所述公有云服务集群包括:跟踪上传服务、公有云关系型数据库;所述跟踪上传服务,用于接收所述跟踪上传任务,创建每个所述跟踪数据块对应的块元数据,以及将所述跟踪上传任务和每个所述跟踪数据块对应的块元数据发送至所述公有云关系型数据库进行存储。
在一种可能的实现方式中,所述客户端,用于采用断点续传以及自适应网络带宽的方式,将所述多个跟踪数据块并发上传至所述跟踪上传服务。
在一种可能的实现方式中,所述公有云服务集群包括:公有云分布式数据流平台、跟踪加密服务、公有云分布式对象系统;所述跟踪上传服务,用于生成所述多个跟踪数据块对应的第一数据流,以及将所述第一数据流发送至所述公有云分布式数据流平台;所述跟踪加密服务,用于从所述公有云分布式数据流平台获取所述第一数据流,并对所述第一数据流中的所述多个跟踪数据块进行加密,得到所述多个加密跟踪数据块对应的第二数据流,以及将所述第二数据流发送至所述公有云分布式对象系统进行存储。
在一种可能的实现方式中,所述跟踪加密服务,用于针对任意一个所述跟踪数据块,生成所述跟踪数据块对应的随机密码,以及基于所述随机密码对所述跟踪数据块进行加密,得到对应的所述加密跟踪数据块;所述跟踪加密服务,用于基于非对称加密算法对所述随机密码进行加密,得到所述跟踪数据块对应的加密密码;所述跟踪加密服务,用于根据所述跟踪数据块对应的加密密码,以及所述跟踪数据块对应的块信息,确定所述跟踪数据块对应的块加密信息,并将所述跟踪数据块对应的块加密信息发送至所述跟踪上传服务。
在一种可能的实现方式中,所述跟踪上传服务,用于将所述跟踪数据块对应的块加密信息,发送至所述公有云关系型数据库中的所述跟踪数据块对应的块元数据中进行存储。
在一种可能的实现方式中,所述公有云服务集群包括:公有云消息中心;所述跟踪上传服务,用于监测所述GPU跟踪文件对应的全部跟踪数据块是否存储在所述公有云分布式对象系统中,以及在确定所述GPU跟踪文件对应的全部跟踪数据块已经存储在所述公有云分布式对象系统中时,向所述公有云消息中心发送第一提示信息;所述公有云消息中心,用于将所述第一提示信息发送至所述客户端。
在一种可能的实现方式中,所述公有云服务集群包括:跟踪传输服务、高并发任务队列;所述跟踪传输服务,用于在确定所述GPU跟踪文件上传完成时,接收所述跟踪上传服务创建的所述GPU跟踪文件对应的跟踪传输任务,以及将所述跟踪传输任务发送至所述高并发任务队列。
在一种可能的实现方式中,所述私有云服务集群包括:跟踪任务订阅服务、跟踪元数据服务、私有云关系型数据库;所述跟踪任务订阅服务,用于从所述高并发任务队列中获取所述跟踪传输任务,以及根据所述跟踪传输任务,确定所述GPU跟踪文件对应的文件元数据,并将所述GPU跟踪文件对应的文件元数据发送至所述跟踪元数据服务;所述跟踪元数据服务,用于将所述GPU跟踪文件对应的文件元数据发送至所述私有云关系型数据库进行存储。
在一种可能的实现方式中,所述私有云服务集群包括:私有云分布式数据流平台、跟踪数据块消费服务;所述跟踪任务订阅服务,用于为所述GPU跟踪文件对应的每个跟踪数据块创建跟踪数据块任务,以及将多个跟踪数据块任务对应的第三数据流发送至所述私有云分布式数据流平台;所述跟踪数据块消费服务,用于从所述私有云分布式数据流平台获取所述第三数据流,并从所述公有云分布式对象系统中获取每个所述跟踪数据块任务对应的加密跟踪数据块,得到多个加密跟踪数据块对应的第四数据流,以及将所述第四数据流发送至所述私有云分布式数据流平台。
在一种可能的实现方式中,所述私有云服务集群包括:跟踪解密服务、私有云分布式文件系统;所述跟踪解密服务,用于从所述私有云分布式数据流平台获取所述第四数据流,并对所述第四数据流中的所述多个加密跟踪数据块进行解密,得到解密后的多个跟踪数据块对应的第五数据流,以及将所述第五数据流发送至所述私有云分布式文件系统进行存储。
在一种可能的实现方式中,所述私有云服务集群包括:私有云分布式对象系统;所述跟踪任务订阅服务,用于监测所述GPU跟踪文件对应的解密后的全部跟踪数据块是否存储在所述私有云分布式文件系统中;所述跟踪数据块消费服务,用于在确定所述GPU跟踪文件对应的解密后的全部跟踪数据块已经存储在所述私有云分布式文件系统中时,按照预设顺序对所述GPU跟踪文件对应的解密后的全部跟踪数据块进行合并处理,得到合并后的所述GPU跟踪文件;所述跟踪数据块消费服务,用于将所述GPU跟踪文件发送至所述私有云分布式对象系统中进行存储。
在一种可能的实现方式中,所述跟踪数据块消费服务,用于确定所述GPU跟踪文件的文件背景信息,以及将所述GPU跟踪文件的文件背景信息发送至所述私有云关系型数据库中所述GPU跟踪文件对应的文件元数据中进行存储。
在一种可能的实现方式中,所述私有云服务集群包括:私有云消息中心;所述跟踪数据块消费服务,用于在将所述GPU跟踪文件存储至所述私有云分布式对象系统中之后,向所述私有云消息中心发送第二提示信息;所述私有云消息中心,用于将所述第二提示信息发送至技术支持用户。
在一种可能的实现方式中,所述跟踪元数据服务,用于接收所述技术支持用户发送的数据获取请求,以及向所述技术支持用户返回所述GPU跟踪文件对应的文件元数据和文件下载链接。
在一种可能的实现方式中,所述GPU跟踪文件为基于第一版本GPU驱动产生的数据;所述私有云消息中心,用于接收所述技术支持用户发送的第二版本GPU驱动对应的版本信息;所述私有云消息中心,用于向所述客户端发送第三提示信息,其中,所述第三提示信息用于指示所述第二版本GPU驱动对应的版本信息。
根据本公开的一方面,提供了一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为调用所述存储器存储的指令,以运行上述系统。
根据本公开的一方面,提供了一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时运行上述系统。
在本公开实施例中,GPU跟踪数据服务系统包括:客户端,用于确定待上传的GPU跟踪文件对应的多个跟踪数据块;公有云服务集群,用于接收多个跟踪数据块,并对多个跟踪数据块进行加密处理,得到多个加密跟踪数据块进行存储,其中,不同跟踪数据块之间独立加密;私有云服务集群,用于从公有云服务集群获取多个加密跟踪数据块,以及对多个加密跟踪数据块进行解密合并处理,得到GPU跟踪文件。基于本公开实施例的GPU跟踪数据服务系统,能够实现海量GPU跟踪数据端到端高效、稳定、安全的获取、存储和查询,降低GPU跟踪数据传输过程的安全隐患,以及降低复杂网络环境导致GPU跟踪数据传输过程数据丢失或停滞造成的传输质量问题。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本公开。根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。
图1示出根据本公开实施例的一种GPU跟踪数据服务系统的框图。
图2示出根据本公开实施例的客户端确定GPU跟踪文件对应的多个跟踪数据块的流程图。
图3示出根据本公开实施例的公有云服务集群接收客户端上传的GPU跟踪文件对应的多个跟踪数据块的流程图。
图4示出根据本公开实施例的私有云服务集群从公有云服务集群获取GPU跟踪文件的流程图。
图5示出根据本公开实施例的一种电子设备的框图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括A、B、C中的至少一种,可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。
另外,为了更好地说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
相关技术中,GPU跟踪数据的获取、存储和查询,采用传统的人力接力的方式,从客户到技术客服、到产品、到软件、到驱动、到硬件、到设计的层次递进关系进行数据递送、分析和解决。但是,由于一个GPU跟踪数据的生命周期内,需要经过数据上传、递送、获取、流转、分析、修复、审批、信息发布等众多业务节点,而这需要多个团队、多种工具进行协同工作,从而导致一方面会增加流程监管的难度,另一方面降低了流程管理的效率。因此,虽然构建一个统一的GPU跟踪数据服务系统工程巨大,但是却能从根本上解决流程监管的难度以及提高流程管理的效率。
GPU的终端用户在运行流行的GPU应用程序,例如,3A游戏或主流3D应用程序时,存在软件崩溃的风险。并且,由于普遍性的GPU驱动版本更新,GPU应用程序还可能出现短时间内迸发性的GPU跟踪数据的产生和上传。每个GPU跟踪数据的尺寸从几百MB到几个GB不等,并会随着GPU应用程序逐渐增长的资源耗费状况而逐渐膨胀其尺寸。由于GPU的终端用户运行GPU应用程序(例如,3A游戏)时间的碎片化,且运行过程中网络环境的复杂性(例如,居家无线网络,旅行中蜂窝移动网络,公共网络等)。因此,如何在复杂网络环境下实现数据量较大的GPU跟踪数据的完整上传,并且不影响GPU应用程序的用户使用体验是个极大的挑战。
相关技术中,GPU跟踪数据需要经历众多业务节点的操作,并且操作会在不同的工具平台上进行,各个平台的数据安全、账户安全和权限管理方式、方法和策略各不相同,导致无法实现对GPU跟踪数据的统一管理,安全隐患较大。此外,由于GPU跟踪数据本身包含众多用户软硬件等隐私信息,任何安全漏洞都会出现难以想象的恶劣后果,进而给企业造成难以挽回的重大经济损失。因此,如何解决和减少安全隐患是个GPU跟踪数据服务系统面临的挑战性很强的课题。
本公开实施例提供了一种GPU跟踪数据服务系统,可以应用于上述GPU跟踪数据服务场景,下面对本公开实施例提供的GPU跟踪数据服务系统进行详细描述。
图1示出根据本公开实施例的一种GPU跟踪数据服务系统的框图。该GPU跟踪数据服务系统采用了微服务架构,如图1所示,GPU跟踪数据服务系统包括:
客户端,用于确定待上传的GPU跟踪文件对应的多个跟踪数据块。
客户端对GPU应用程序产生的待上传的GPU跟踪文件(Trace File)进行分割,得到GPU跟踪文件对应的多个跟踪数据块(Trace Blocks),为后续将GPU跟踪文件上传至公有云服务集群做准备。后文会结合本公开可能的实现方式,对客户端确定GPU跟踪文件对应的多个跟踪数据块的具体过程进行详细描述,此处不作赘述。
公有云服务集群,用于接收多个跟踪数据块,并对多个跟踪数据块进行加密处理,得到多个加密跟踪数据块进行存储,其中,不同跟踪数据块之间独立加密。
公有云服务集群接收客户端上传的GPU跟踪文件对应的多个跟踪数据块,并对接收到的每个跟踪数据块分别进行独立加密处理后存储到云端,为后续将GPU跟踪文件从公有云服务集群转向更加安全的私有云服务集群做准备。后文会结合本公开可能的实现方式,对公有云服务集群接收客户端上传的GPU跟踪文件对应的多个跟踪数据块的具体过程进行详细描述,此处不作赘述。
私有云服务集群,用于从公有云服务集群获取多个加密跟踪数据块,以及对多个加密跟踪数据块进行解密合并处理,得到GPU跟踪文件。
私有云服务集群从公有云服务集群获取GPU跟踪文件对应的多个加密跟踪数据块,以及对多个加密跟踪数据块进行解密合并处理,得到GPU跟踪文件。私有云服务集群还可以对合并得到的完整GPU跟踪文件进行存储,以及通知相关技术支持团队进行处理,以完成基于GPU跟踪数据对运行GPU应用程序的GPU的性能及其稳定性进行分析,以及对其存在的技术问题进行修复改进。后文会结合本公开可能的实现方式,对私有云服务集群从公有云服务集群获取GPU跟踪文件的具体过程进行详细描述,此处不作赘述。
基于本公开实施例的GPU跟踪数据服务系统,能够实现海量GPU跟踪数据端到端高效、稳定、安全的获取、存储和查询,降低GPU跟踪数据传输过程的安全隐患,以及降低复杂网络环境导致GPU跟踪数据传输过程数据丢失或停滞造成的传输质量问题。
在一种可能的实现方式中,客户端,用于确定GPU跟踪文件对应的文件元数据,以及确定每个跟踪数据块对应的块信息;客户端,用于根据GPU跟踪文件对应的文件元数据和每个跟踪数据块对应的块信息,创建GPU跟踪文件对应的跟踪上传任务,以及将跟踪上传任务发送至公有云服务集群。
客户端根据GPU应用程序运行产生的GPU跟踪文件及其运行环境,确定GPU跟踪文件对应的文件元数据(Trace Meta)。其中,文件元数据可以包括:unit64 id、unit64trace_binary_id、Creation、Update、string name、Category、App、Env、Tool Kit、CPU、GPU、Hard Disk、Memory、OS、Graphics API、Compute API、string description等,还可以根据实际情况,包括其它参数,本公开对此不作具体限定。
客户端可以通过预设分割算法,对GPU跟踪文件进行分割,得到GPU跟踪文件对应的多个跟踪数据块,为后续上传至公有云服务集群做准备。其中,预设分割算法可以是基于二分搜索算法的并行数据分割算法,还可以采用其它分割算法,本公开对此不作具体限定。
图2示出根据本公开实施例的客户端确定GPU跟踪文件对应的多个跟踪数据块的流程图。客户端包括:跟踪前端页面(Trace Front Page)。其中,跟踪前端页面是客户端中的重要组件,用于进行登录、数据分割、数据上传、接收系统消息等。GPU跟踪数据服务系统包括:授权服务(Auth)。其中,授权服务用于提供单点登录(Single Sign On,SSO)权限管理服务。
如图2所示,前端用户在客户端中的跟踪前端页面,通过用户名和密码登录公有云服务集群,以及从授权服务中获取有效的访问令牌。其中,有效的访问令牌是标识前端用户的身份和访问权限的全局唯一的标识,可以用来追踪前端用户的用户行为。
客户端中的跟踪前端页面包括:跟踪文件选择组件(Trace File Selection)、文件元数据生成组件(Trace Meta Generation)、跟踪文件分割组件(Trace File Split)。如图2所示,在客户端中的跟踪前端页面中基于跟踪文件选择组件,确定待上传的GPU跟踪文件,进而基于文件元数据生成组件,确定GPU跟踪文件对应的文件元数据,以及基于跟踪文件分割组件,采用预设分割算法对GPU跟踪文件进行分割,得到GPU跟踪文件对应的多个跟踪数据块,以及确定每个跟踪数据块对应的块信息。
在客户端中的跟踪前端页面,根据GPU跟踪文件对应的文件元数据和每个跟踪数据块对应的块信息,创建GPU跟踪文件对应的跟踪上传任务,以及将跟踪上传任务发送至公有云服务集群。
在一种可能的实现方式中,公有云服务集群包括:跟踪上传服务、公有云关系型数据库;跟踪上传服务,用于接收跟踪上传任务,创建每个跟踪数据块对应的块元数据,以及将跟踪上传任务和每个跟踪数据块对应的块元数据发送至公有云关系型数据库进行存储。
图3示出根据本公开实施例的公有云服务集群接收客户端上传的GPU跟踪文件对应的多个跟踪数据块的流程图。公有云服务集群包括:跟踪上传服务(Trace UploadService)、公有云关系型数据库(Relational Data Base,RDB)。其中,跟踪上传服务用于接收高并发大吞吐的用户提交的GPU跟踪数据。关系型数据库用于高效获取具有复杂数据关系的数据信息。
如图3所示,客户端中的跟踪前端页面,将用于上传GPU跟踪文件的跟踪上传任务初始化至跟踪上传服务。跟踪上传服务将跟踪上传任务发送至公有云关系型数据库中进行持久化存储。
此外,如图3所示,跟踪上传服务在公有云关系型数据库中创建GPU跟踪文件中每个跟踪数据块对应的块元数据(Trace Block Meta)。其中,每个跟踪数据块对应的块元数据用于记录跟踪数据块上传过程的信息。
在一种可能的实现方式中,客户端,用于采用断点续传以及自适应网络带宽的方式,将多个跟踪数据块并发上传至跟踪上传服务。
客户端中的跟踪前端页面在确定跟踪上传任务已经初始化至公有云关系型数据库中后,如图3所示,将GPU跟踪文件对应的多个跟踪数据块并发上传至跟踪上传服务。为了确保数据快速上传的同时不影响用户使用其它系统资源的应用程序,并发上传时可以采用基于自适应网络带宽的算法来控制并发度,以实现利用可用带宽完成高速上传。此外,为了避免网络异常导致的数据传输失败,可以采用断点续传方式进行数据传输。
在一种可能的实现方式中,公有云服务集群包括:公有云分布式数据流平台、跟踪加密服务、公有云分布式对象系统;跟踪上传服务,用于生成多个跟踪数据块对应的第一数据流,以及将第一数据流发送至公有云分布式数据流平台;跟踪加密服务,用于从公有云分布式数据流平台获取第一数据流,并对第一数据流中的多个跟踪数据块进行加密,得到多个加密跟踪数据块对应的第二数据流,以及将第二数据流发送至公有云分布式对象系统进行存储。
公有云服务集群包括:公有云分布式数据流平台(Steaming Platform)。其中,分布式数据流平台,用于缓冲高并发大吞吐的数据量。跟踪上传服务在并发接收到客户端中的跟踪前端页面上传的多个跟踪数据块之后,会产生对应的第一数据流并发送至公有云分布式数据流平台,以进行流量和并发度可控的大数据处理。如图3所示,跟踪上传服务异步产生第一数据流发送至公有云分布式数据流平台。
公有云服务集群包括:跟踪加密服务(Trace Encryption Service),其中,跟踪加密服务用于在检测到公有云分布式数据流平台的第一数据流中存在尚未执行加密处理的跟踪数据块时,以预定的并发度从公有云分布式数据流平台中异步消费第一数据流。跟踪加密服务将第一数据流下载至当前磁盘存储空间,进而对第一数据流中的多个跟踪数据块进行加密。如图3所示,跟踪加密服务异步下载并加密第一数据流。
公有云服务集群包括:公有云分布式对象系统(Distributed Object System)。其中,分布式对象系统用于云端文件存储。跟踪加密服务加密后得到多个加密跟踪数据块之后,生成对应的第二数据流,如图3所示,跟踪加密服务将第二数据流发送至公有云分布式对象系统进行存储。
在一种可能的实现方式中,跟踪加密服务,用于针对任意一个跟踪数据块,生成跟踪数据块对应的随机密码,以及基于随机密码对跟踪数据块进行加密,得到对应的加密跟踪数据块;跟踪加密服务,用于基于非对称加密算法对随机密码进行加密,得到跟踪数据块对应的加密密码;跟踪加密服务,用于根据跟踪数据块对应的加密密码,以及跟踪数据块对应的块信息,确定跟踪数据块对应的块加密信息,并将跟踪数据块对应的块加密信息发送至跟踪上传服务。
跟踪加密服务加密过程包括,针对任意一个跟踪数据块,为该跟踪数据块生成一个随机密码,以及用该随机密码对该跟踪数据块进行加密,得到该跟踪数据块对应的加密跟踪数据块。进而,针对任意一个跟踪数据块,跟踪加密服务基于非对称加密算法的公有密钥,对该跟踪数据块对应的随机密码进行加密,得到该跟踪数据块对应的加密密码。进一步地,针对任意一个跟踪数据块,跟踪加密服务根据该跟踪数据块对应的加密密码,以及该跟踪数据块对应的块信息,确定该跟踪数据块对应的块加密信息,并将该跟踪数据块对应的块加密信息发送至跟踪上传服务,以为后续解密做准备。如图3所示,跟踪加密服务向跟踪上传服务发送跟踪数据块对应的块加密信息。
在一种可能的实现方式中,跟踪上传服务,用于将跟踪数据块对应的块加密信息,发送至公有云关系型数据库中的跟踪数据块对应的块元数据中进行存储。
如图3所示,跟踪上传服务将跟踪数据块对应的块加密信息,发送至公有云关系型数据库中的跟踪数据块对应的块元数据中进行持久化存储。
由于GPU跟踪文件对应的每个跟踪数据块,在公有云服务集群内被独立加密,且每个跟踪数据块加密时使用的随机密码均被独立的非对称加密算法的公有密钥进行加密,以使得针对任意一个加密跟踪数据块,只有在私有云服务集群内存有其对应的非对称加密的私有秘钥时,才能够解密得到该跟踪数据块。因此,即使GPU跟踪文件对应的所有加密跟踪数据块均被盗用,所有加密跟踪数据块被破解并整合成完整GPU跟踪文件都需要极大的算力支撑,这将极大降低有效数据被破解的风险。
在一种可能的实现方式中,公有云服务集群包括:公有云消息中心;跟踪上传服务,用于监测跟踪文件对应的全部跟踪数据块是否存储在公有云分布式对象系统中,以及在确定跟踪文件对应的全部跟踪数据块已经存储在公有云分布式对象系统中时,向公有云消息中心发送第一提示信息;公有云消息中心,用于将第一提示信息发送至客户端。
公有云服务集群中包括:公有云消息中心(Notification Center)。其中,消息中心用于消息事件的接收和信息发布。
在跟踪上传服务中会启动一个线程池周期性并发处理跟踪上传任务,统计已经上传完成的跟踪数据块,以及监测跟踪文件对应的全部跟踪数据块是否存储在公有云分布式对象系统中,在确定跟踪文件对应的全部跟踪数据块已经存储在公有云分布式对象系统中时,如图3所示,跟踪上传服务向公有云消息中心发送第一提示信息,公有云消息中心将第一提示信息推送至客户端中的跟踪前端页面。其中,第一提示信息用于指示GPU跟踪文件已经完全上传并存储至公有云服务集群。
在一种可能的实现方式中,公有云服务集群包括:跟踪传输服务、高并发任务队列;跟踪传输服务,用于在确定GPU跟踪文件上传完成时,接收跟踪上传服务创建的GPU跟踪文件对应的跟踪传输任务,以及将跟踪传输任务发送至高并发任务队列。
公有云服务集群包括:跟踪传输服务(Trace Transfer Service)、高并发任务队列(Concurrent Task Queue)。其中,跟踪传输服务用于把GPU跟踪文件从公有云服务集群递送到安全等级相对更高的私有云服务集群,以便技术支持团队在相对安全的环境下对GPU跟踪数据进行整合、分析、评估、解决问题和信息发布。高并发任务队列允许任务队列的消费者在高并发环境下并行处理队列中的任务。
为了实现后续将GPU跟踪文件从公有云服务集群递送至私有云服务集群,跟踪上传服务在确定GPU跟踪文件上传完成后,创建GPU跟踪件对应的跟踪传输任务并发送至跟踪传输服务,以使得跟踪传输服务将跟踪传输任务发送至支持高并发处理的高并发任务队列。如图3所示,跟踪上传服务向跟踪传输服务发送GPU跟踪件对应的跟踪传输任务,跟踪传输服务将跟踪传输任务发送至高并发任务队列。
在一种可能的实现方式中,私有云服务集群包括:跟踪任务订阅服务、跟踪元数据服务、私有云关系型数据库;跟踪任务订阅服务,用于从高并发任务队列中获取跟踪传输任务,以及根据跟踪传输任务,确定GPU跟踪文件对应的文件元数据,并将GPU跟踪文件对应的文件元数据发送至跟踪元数据服务;跟踪元数据服务,用于将GPU跟踪文件对应的文件元数据发送至私有云关系型数据库进行存储。
公有云服务集群和私有云服务集群之间通过虚拟私有云网络的安全通道,保证私有云服务集群和公有云服务集群之间的交互安全。私有云服务集群包括:跟踪任务订阅服务(Trace Task Subscription Service)。其中,跟踪任务订阅服务用于跟踪传输任务的订阅服务。跟踪任务订阅服务使用API key从授权服务中获取有效的访问令牌,以便于执行后续数据递送服务。图4示出根据本公开实施例的私有云服务集群从公有云服务集群获取GPU跟踪文件的流程图。如图4所示,跟踪任务订阅服务从授权服务获取访问令牌。
为了及时把GPU跟踪数据从公有云服务集群递送到私有云服务集群对应的技术支持团队,跟踪任务订阅服务会启动一个多线程池,周期性的并发从高并发任务队列中获取跟踪传输任务。如图4所示,跟踪任务订阅服务从高并发任务队列中获取跟踪传输任务。
私有云服务集群中包括:跟踪元数据服务(Trace Meta Service)、私有云关系型数据库。为了及时备案已经从高并发任务队列中获取的跟踪传输任务,跟踪任务订阅服务将从跟踪传输任务中获取的GPU跟踪文件对应的文件元数据,发送至跟踪元数据服务。如图4所示,跟踪任务订阅服务向跟踪元数据服务发送GPU跟踪文件对应的文件元数据,跟踪元数据服务将GPU跟踪文件对应的文件元数据持久化存储至私有云关系型数据库,以作为后续技术支持团队数据查询只用。
在一种可能的实现方式中,私有云服务集群包括:私有云分布式数据流平台、跟踪数据块消费服务;跟踪任务订阅服务,用于为GPU跟踪文件对应的每个跟踪数据块创建跟踪数据块任务,以及将多个跟踪数据块任务对应的第三数据流发送至私有云分布式数据流平台;跟踪数据块消费服务,用于从私有云分布式数据流平台获取第三数据流,并从公有云分布式对象系统中获取每个跟踪数据块任务对应的加密跟踪数据块,得到多个加密跟踪数据块对应的第四数据流,以及将第四数据流发送至私有云分布式数据流平台。
私有云服务集群包括:私有云分布式数据流平台。跟踪任务订阅服务从高并发任务队列中获取到GPU跟踪文件对应的跟踪传输任务之后,从跟踪传输任务中可以确定GPU跟踪文件对应的每个跟踪数据的块信息,进而,基于每个跟踪数据的块信息,为每个跟踪数据块创建跟踪数据块任务,以及将多个跟踪数据块任务对应的第三数据流发送至私有云分布式数据流平台。如图4所示,跟踪任务订阅服务向私有云分布式数据流平台发送第三数据流。
私有云服务集群包括:跟踪数据块消费服务(Trace Block Consumer Service)。其中,跟踪数据块消费服务用于支持GPU跟踪文件对应的跟踪数据块的消费服务,从公有云服务集群下载加密跟踪数据块,而后在私有云服务集群内部进行解码以及对解密后的跟踪数据块进行合并操作。
如图4所示,跟踪数据块消费服务从私有云数据流平台获取第三数据流,进而从公有云分布式对象系统获取每个跟踪数据块任务对应的加密跟踪数据块。即为了进行后续解密,跟踪数据块消费服务将加密跟踪数据块从公有云分布式对象系统下载到本地。
为了缓解高并发大吞吐的数据流,跟踪数据块消费服务生成多个加密跟踪数据块对应的第四数据流,以及将第四数据流发送至私有云分布式数据流平台。如图4所示,跟踪数据块消费服务向私有云分布式数据流平台发送第四数据流进行解密。
在一种可能的实现方式中,私有云服务集群包括:跟踪解密服务、私有云分布式文件系统;跟踪解密服务,用于从私有云分布式数据流平台获取第四数据流,并对第四数据流中的多个加密跟踪数据块进行解密,得到解密后的多个跟踪数据块对应的第五数据流,以及将第五数据流发送至私有云分布式文件系统进行存储。
私有云服务集群包括:跟踪解密服务(Trace Decryption Service)。其中,跟踪解密服务用于加密跟踪数据块的解密服务。如图4所示,跟踪解密服务从私有云分布式数据流平台获取并解密第四数据流。针对第四数据流中的任意一个加密跟踪数据块,跟踪解密服务在获取到该加密跟踪数据块的完整数据之后,根据该加密跟踪数据块对应的块信息,确定其对应的非对称加密的私有秘钥,进而基于该私有秘钥对该加密跟踪数据块对应的块加密信息进行解码,得到该加密跟踪数据块对应的随机密码,以使得可以基于该随机密码对该加密跟踪数据块进行解密,得到解密后的跟踪数据块。每个加密跟踪数据块的解密过程与此相同,此处不作赘述。
跟踪解密服务将解密后的多个跟踪数据块对应的第五数据流,发送至私有云分布式文件系统进行存储,为后续文件合并处理做准备。如图4所示,跟踪解密服务将第五数据流发送至私有云分布式文件系统进行缓存。
在一种可能的实现方式中,私有云服务集群包括:私有云分布式对象系统;跟踪任务订阅服务,用于监测GPU跟踪文件对应的解密后的全部跟踪数据块是否存储在私有云分布式文件系统中;跟踪数据块消费服务,用于在确定GPU跟踪文件对应的解密后的全部跟踪数据块已经存储在私有云分布式文件系统中时,按照预设顺序对GPU跟踪文件对应的解密后的全部跟踪数据块进行合并处理,得到合并后的GPU跟踪文件;跟踪数据块消费服务,用于将GPU跟踪文件发送至私有云分布式对象系统中进行存储。
跟踪任务订阅服务扫描GPU跟踪文件,监测GPU跟踪文件对应的全部加密跟踪数据块是否全部从公有云服务集群递送到私有云服务集群,以及监测对应的解密后的全部跟踪数据块是否已经存储在私有云分布式文件系统中。
跟踪数据块消费服务在确定GPU跟踪文件对应的解密后的全部跟踪数据块已经存储在私有云分布式文件系统中时,按照预设顺序对GPU跟踪文件对应的解密后的全部跟踪数据块进行合并处理,得到合并后的GPU跟踪文件。如图4所示,跟踪数据块消费服务对解密后的跟踪数据块进行合并处理。合并处理时跟踪数据块之间的预设顺序为客户端中对GPU跟踪文件进行分割得到多个跟踪数据块时确定的。合并处理可以采用基于并行归并排序的分块数据合并算法,还可以采用其它合并算法,本公开对此不作具体限定。
私有云服务集群包括:私有云分布式对象系统。跟踪数据块消费服务合并处理得到GPU跟踪文件之后,将GPU跟踪文件发送至私有云分布式对象系统中进行存储,以使得后续用户可以通过私有云分布式对象系统直接获得GPU跟踪文件的下载链接。如图4所示,跟踪数据块消费服务将GPU跟踪文件发送至私有云分布式对象系统进行存储。
在一种可能的实现方式中,跟踪数据块消费服务,用于确定GPU跟踪文件的文件背景信息,以及将GPU跟踪文件的文件背景信息发送至私有云关系型数据库中GPU跟踪文件对应的文件元数据中进行存储。
跟踪数据块消费服务确定GPU跟踪文件的文件背景信息,文件背景信息可以包括GPU跟踪文件整个数据传输流程的各种信息,跟踪数据块消费服务将GPU跟踪文件的文件背景信息发送至私有云关系型数据库中GPU跟踪文件对应的文件元数据中进行存储,以使得后续用户可以获得GPU跟踪文件整个数据传输流程的各种信息。
在一种可能的实现方式中,私有云服务集群包括:私有云消息中心;跟踪数据块消费服务,用于在将GPU跟踪文件存储至私有云分布式对象系统中之后,向私有云消息中心发送第二提示信息;私有云消息中心,用于将第二提示信息发送至技术支持用户。
私有云服务集群中包括:私有云消息中心。在跟踪数据块消费服务将GPU跟踪文件存储至私有云分布式对象系统中之后,如图4所示,跟踪数据块服务向私有云消息中心发送第二提示信息,私有云消息中心将第二提示信息推送至技术支持用户。其中,第二提示信息用于提示技术支持用户可以从私有云服务集群下载GPU跟踪数据进行处理。如图4所示,私有云消息中心向技术支持用户发送第二提示信息。
GPU跟踪数据服务系统将整个服务分为公有云服务集群和私有云服务集群,以实现数据及其支撑的服务之间的物理隔绝,进而,前端用户访问公有云服务集群,以及技术支持用户访问私有云服务集群,各自使用全局唯一的账号及其访问权限管控,从而有效提高了数据安全性。如图4所示,技术支持用户通过用户名和密码登录私有云服务集群中的跟踪元数据服务,以及从授权服务获取有效的访问令牌。
在一种可能的实现方式中,跟踪元数据服务,用于接收技术支持用户发送的数据获取请求,以及向技术支持用户返回GPU跟踪文件对应的文件元数据和文件下载链接。
技术支持用户在跟踪元数据服务的前端页面浏览以及选择需要处理的GPU跟踪数据,基于技术支持用户的选择,跟踪元数据服务的后端服务接收到数据获取请求。跟踪元数据服务的后端服务根据技术支持用户的数据获取请求,确定技术支持用户需要获取的GPU跟踪文件对应的文件元数据和文件下载链接,并将GPU跟踪文件对应的文件元数据和文件下载链接返回跟踪元数据服务的前端页面,以向技术支持用户展示。如图4所示,跟踪元数据服务接收技术支持用户发送的数据获取请求,以及向技术支持用户返回GPU跟踪文件对应的文件元数据和文件下载链接。
在一种可能的实现方式中,GPU跟踪文件为第一版本GPU驱动产生的数据;私有云消息中心,用于接收技术支持用户发送的第二版本GPU驱动对应的版本信息;私有云消息中心,用于向客户端发送第三提示信息,其中,第三提示信息用于指示第二版本GPU驱动对应的版本信息。
技术支持用户可以在跟踪元数据服务的前端页面通过点击下载链接,实现对GPU跟踪文件的成功下载。由于GPU跟踪文件为基于第一版本GPU驱动运行GPU应用程序产生,因此,技术支持用户可以根据GPU跟踪文件,分析并解决第一版本GPU驱动存在的问题,并在解决问题之后,生成更新后的第二版本GPU驱动。如图4所示,技术支持用户将第二版本GPU驱动对应的版本信息发送至私有云消息中心。私有云消息中心按照预设消息发送策略,向客户端发送第三提示信息,以使得客户端基于第三提示信息,将第二版本GPU驱动对应的版本信息在客户端中的跟踪前端页面进行展示,以使得前端用户可以查看到第二版本GPU驱动对应的版本信息,以及执行后续的驱动更新操作。
基于本公开实施例的GPU跟踪数据服务系统,能够实现海量GPU跟踪数据端到端高效、稳定、安全的获取、存储和查询,降低GPU跟踪数据传输过程的安全隐患,以及降低复杂网络环境导致GPU跟踪数据传输过程数据丢失或停滞造成的传输质量问题。
可以理解,本公开提及的上述各个方法实施例,在不违背原理逻辑的情况下,均可以彼此相互结合形成结合后的实施例,限于篇幅,本公开不再赘述。本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
此外,本公开还提供了电子设备、计算机可读存储介质、程序,上述均可用来实现本公开提供的GPU跟踪数据服务系统,相应技术方案和描述和参见方法部分的相应记载,不再赘述。
该方法与计算机系统的内部结构存在特定技术关联,且能够解决如何提升硬件运算效率或执行效果的技术问题(包括减少数据存储量、减少数据传输量、提高硬件处理速度等),从而获得符合自然规律的计算机系统内部性能改进的技术效果。
在一些实施例中,本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
本公开实施例还提出一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时运行上述系统。计算机可读存储介质可以是易失性或非易失性计算机可读存储介质。
本公开实施例还提出一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为调用所述存储器存储的指令,以运行上述系统。
本公开实施例还提供了一种计算机程序产品,包括计算机可读代码,或者承载有计算机可读代码的非易失性计算机可读存储介质,当所述计算机可读代码在电子设备的处理器中运行时,所述电子设备中的处理器运行上述系统。
电子设备可以被提供为服务器或其它形态的设备。
图5示出根据本公开实施例的一种电子设备的框图。参照图5,电子设备1900可以被提供为一服务器或终端设备。参照图5,电子设备1900包括处理组件1922,其进一步包括一个或多个处理器,以及由存储器1932所代表的存储器资源,用于存储可由处理组件1922的执行的指令,例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1922被配置为执行指令,以运行上述系统。
电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理,一个有线或无线网络接口1950被配置为将电子设备1900连接到网络,和一个输入输出接口1958。电子设备1900可以操作基于存储在存储器1932的操作系统,例如微软服务器操作系统(Windows ServerTM),苹果公司推出的基于图形用户界面操作系统(Mac OS XTM),多用户多进程的计算机操作系统(UnixTM),自由和开放原代码的类Unix操作系统(LinuxTM),开放原代码的类Unix操作系统(FreeBSDTM)或类似。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器1932,上述计算机程序指令可由电子设备1900的处理组件1922执行以运行上述系统。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是(但不限于)电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中,所述计算机程序产品具体体现为计算机存储介质,在另一个可选实施例中,计算机程序产品具体体现为软件产品,例如软件开发包(Software Development Kit,SDK)等等。
上文对各个实施例的描述倾向于强调各个实施例之间的不同之处,其相同或相似之处可以互相参考,为了简洁,本文不再赘述。
本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
若本申请技术方案涉及个人信息,应用本申请技术方案的产品在处理个人信息前,已明确告知个人信息处理规则,并取得个人自主同意。若本申请技术方案涉及敏感个人信息,应用本申请技术方案的产品在处理敏感个人信息前,已取得个人单独同意,并且同时满足“明示同意”的要求。例如,在摄像头等个人信息采集装置处,设置明确显著的标识告知已进入个人信息采集范围,将会对个人信息进行采集,若个人自愿进入采集范围即视为同意对其个人信息进行采集;或者在个人信息处理的装置上,利用明显的标识/信息告知个人信息处理规则的情况下,通过弹窗信息或请个人自行上传其个人信息等方式获得个人授权;其中,个人信息处理规则可包括个人信息处理者、个人信息处理目的、处理方式以及处理的个人信息种类等信息。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (19)
1.一种GPU跟踪数据服务系统,其特征在于,所述系统包括:
客户端,用于确定待上传的GPU跟踪文件对应的多个跟踪数据块,其中,所述GPU跟踪文件为基于第一版本GPU驱动产生的数据;
公有云服务集群,用于接收所述多个跟踪数据块,并对所述多个跟踪数据块进行加密处理,得到多个加密跟踪数据块进行存储,其中,不同所述跟踪数据块之间独立加密;
私有云服务集群,用于从所述公有云服务集群获取所述多个加密跟踪数据块,以及对所述多个加密跟踪数据块进行解密合并处理,得到所述GPU跟踪文件;
所述私有云服务集群,用于将第二版本GPU驱动对应的版本信息发送至所述客户端,其中,所述第二版本GPU驱动是技术支持用户基于所述GPU跟踪文件分析并解决所述第一版本GPU驱动存在的问题后得到的。
2.根据权利要求1所述的系统,其特征在于,所述客户端,用于确定所述GPU跟踪文件对应的文件元数据,以及确定每个所述跟踪数据块对应的块信息;
所述客户端,用于根据所述GPU跟踪文件对应的文件元数据和每个所述跟踪数据块对应的块信息,创建所述GPU跟踪文件对应的跟踪上传任务,以及将所述跟踪上传任务发送至所述公有云服务集群。
3.根据权利要求2所述的系统,其特征在于,所述公有云服务集群包括:跟踪上传服务、公有云关系型数据库;
所述跟踪上传服务,用于接收所述跟踪上传任务,创建每个所述跟踪数据块对应的块元数据,以及将所述跟踪上传任务和每个所述跟踪数据块对应的块元数据发送至所述公有云关系型数据库进行存储。
4.根据权利要求3所述的系统,其特征在于,所述客户端,用于采用断点续传以及自适应网络带宽的方式,将所述多个跟踪数据块并发上传至所述跟踪上传服务。
5.根据权利要求4所述的系统,其特征在于,所述公有云服务集群包括:公有云分布式数据流平台、跟踪加密服务、公有云分布式对象系统;
所述跟踪上传服务,用于生成所述多个跟踪数据块对应的第一数据流,以及将所述第一数据流发送至所述公有云分布式数据流平台;
所述跟踪加密服务,用于从所述公有云分布式数据流平台获取所述第一数据流,并对所述第一数据流中的所述多个跟踪数据块进行加密,得到所述多个加密跟踪数据块对应的第二数据流,以及将所述第二数据流发送至所述公有云分布式对象系统进行存储。
6.根据权利要求5所述的系统,其特征在于,所述跟踪加密服务,用于针对任意一个所述跟踪数据块,生成所述跟踪数据块对应的随机密码,以及基于所述随机密码对所述跟踪数据块进行加密,得到对应的所述加密跟踪数据块;
所述跟踪加密服务,用于基于非对称加密算法对所述随机密码进行加密,得到所述跟踪数据块对应的加密密码;
所述跟踪加密服务,用于根据所述跟踪数据块对应的加密密码,以及所述跟踪数据块对应的块信息,确定所述跟踪数据块对应的块加密信息,并将所述跟踪数据块对应的块加密信息发送至所述跟踪上传服务。
7.根据权利要求6所述的系统,其特征在于,所述跟踪上传服务,用于将所述跟踪数据块对应的块加密信息,发送至所述公有云关系型数据库中的所述跟踪数据块对应的块元数据中进行存储。
8.根据权利要求5至7中任意一项所述的系统,其特征在于,所述公有云服务集群包括:公有云消息中心;
所述跟踪上传服务,用于监测所述GPU跟踪文件对应的全部跟踪数据块是否存储在所述公有云分布式对象系统中,以及在确定所述GPU跟踪文件对应的全部跟踪数据块已经存储在所述公有云分布式对象系统中时,向所述公有云消息中心发送第一提示信息;
所述公有云消息中心,用于将所述第一提示信息发送至所述客户端。
9.根据权利要求8所述系统,其特征在于,所述公有云服务集群包括:跟踪传输服务、高并发任务队列;
所述跟踪传输服务,用于在确定所述GPU跟踪文件上传完成时,接收所述跟踪上传服务创建的所述GPU跟踪文件对应的跟踪传输任务,以及将所述跟踪传输任务发送至所述高并发任务队列。
10.根据权利要求9所述的系统,其特征在于,所述私有云服务集群包括:跟踪任务订阅服务、跟踪元数据服务、私有云关系型数据库;
所述跟踪任务订阅服务,用于从所述高并发任务队列中获取所述跟踪传输任务,以及根据所述跟踪传输任务,确定所述GPU跟踪文件对应的文件元数据,并将所述GPU跟踪文件对应的文件元数据发送至所述跟踪元数据服务;
所述跟踪元数据服务,用于将所述GPU跟踪文件对应的文件元数据发送至所述私有云关系型数据库进行存储。
11.根据权利要求10所述的系统,其特征在于,所述私有云服务集群包括:私有云分布式数据流平台、跟踪数据块消费服务;
所述跟踪任务订阅服务,用于为所述GPU跟踪文件对应的每个跟踪数据块创建跟踪数据块任务,以及将多个跟踪数据块任务对应的第三数据流发送至所述私有云分布式数据流平台;
所述跟踪数据块消费服务,用于从所述私有云分布式数据流平台获取所述第三数据流,并从所述公有云分布式对象系统中获取每个所述跟踪数据块任务对应的加密跟踪数据块,得到多个加密跟踪数据块对应的第四数据流,以及将所述第四数据流发送至所述私有云分布式数据流平台。
12.根据权利要求11所述的系统,其特征在于,所述私有云服务集群包括:跟踪解密服务、私有云分布式文件系统;
所述跟踪解密服务,用于从所述私有云分布式数据流平台获取所述第四数据流,并对所述第四数据流中的所述多个加密跟踪数据块进行解密,得到解密后的多个跟踪数据块对应的第五数据流,以及将所述第五数据流发送至所述私有云分布式文件系统进行存储。
13.根据权利要求12所述的系统,其特征在于,所述私有云服务集群包括:私有云分布式对象系统;
所述跟踪任务订阅服务,用于监测所述GPU跟踪文件对应的解密后的全部跟踪数据块是否存储在所述私有云分布式文件系统中;
所述跟踪数据块消费服务,用于在确定所述GPU跟踪文件对应的解密后的全部跟踪数据块已经存储在所述私有云分布式文件系统中时,按照预设顺序对所述GPU跟踪文件对应的解密后的全部跟踪数据块进行合并处理,得到合并后的所述GPU跟踪文件;
所述跟踪数据块消费服务,用于将所述GPU跟踪文件发送至所述私有云分布式对象系统中进行存储。
14.根据权利要求13所述的系统,其特征在于,所述跟踪数据块消费服务,用于确定所述GPU跟踪文件的文件背景信息,以及将所述GPU跟踪文件的文件背景信息发送至所述私有云关系型数据库中所述GPU跟踪文件对应的文件元数据中进行存储。
15.根据权利要求14所述的系统,其特征在于,所述私有云服务集群包括:私有云消息中心;
所述跟踪数据块消费服务,用于在将所述GPU跟踪文件存储至所述私有云分布式对象系统中之后,向所述私有云消息中心发送第二提示信息;
所述私有云消息中心,用于将所述第二提示信息发送至技术支持用户。
16.根据权利要求15所述的系统,其特征在于,所述跟踪元数据服务,用于接收所述技术支持用户发送的数据获取请求,以及向所述技术支持用户返回所述GPU跟踪文件对应的文件元数据和文件下载链接。
17.根据权利要求16所述的系统,其特征在于,所述GPU跟踪文件为基于第一版本GPU驱动产生的数据;
所述私有云消息中心,用于接收所述技术支持用户发送的第二版本GPU驱动对应的版本信息;
所述私有云消息中心,用于向所述客户端发送第三提示信息,其中,所述第三提示信息用于指示所述第二版本GPU驱动对应的版本信息。
18.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为调用所述存储器存储的指令,以运行权利要求1至17中任意一项所述的系统。
19.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时运行权利要求1至17中任意一项所述的系统。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310005194.3A CN115878629B (zh) | 2023-01-04 | 2023-01-04 | 一种gpu跟踪数据服务系统、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310005194.3A CN115878629B (zh) | 2023-01-04 | 2023-01-04 | 一种gpu跟踪数据服务系统、电子设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115878629A CN115878629A (zh) | 2023-03-31 |
CN115878629B true CN115878629B (zh) | 2023-05-12 |
Family
ID=85757997
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310005194.3A Active CN115878629B (zh) | 2023-01-04 | 2023-01-04 | 一种gpu跟踪数据服务系统、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115878629B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116521379A (zh) * | 2023-07-04 | 2023-08-01 | 摩尔线程智能科技(北京)有限责任公司 | 一种gpu数据分析系统、电子设备和存储介质 |
CN117057974B (zh) * | 2023-08-14 | 2024-04-09 | 摩尔线程智能科技(北京)有限责任公司 | 一种gpu大数据平台、电子设备和存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111030967A (zh) * | 2018-10-10 | 2020-04-17 | 千寻位置网络有限公司 | 基于云的数据传输系统、数据传输及获取方法 |
CN111314385A (zh) * | 2020-03-23 | 2020-06-19 | 郑州悉知信息科技股份有限公司 | 数据访问方法及装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107330337B (zh) * | 2017-07-19 | 2022-05-24 | 腾讯科技(深圳)有限公司 | 混合云的数据存储方法、装置、相关设备及云系统 |
CN113642014A (zh) * | 2021-07-23 | 2021-11-12 | 广州有信科技有限公司 | 一种基于混合云的数据访问系统及公有云服务器 |
CN114726643B (zh) * | 2022-04-27 | 2024-04-16 | 中国银行股份有限公司 | 云平台上的数据存储、访问方法及装置 |
CN115102973B (zh) * | 2022-08-26 | 2022-11-18 | 北京蔚领时代科技有限公司 | 混合云的数据存储系统及数据存储方法 |
-
2023
- 2023-01-04 CN CN202310005194.3A patent/CN115878629B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111030967A (zh) * | 2018-10-10 | 2020-04-17 | 千寻位置网络有限公司 | 基于云的数据传输系统、数据传输及获取方法 |
CN111314385A (zh) * | 2020-03-23 | 2020-06-19 | 郑州悉知信息科技股份有限公司 | 数据访问方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN115878629A (zh) | 2023-03-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115878629B (zh) | 一种gpu跟踪数据服务系统、电子设备和存储介质 | |
EP3916604B1 (en) | Method and apparatus for processing privacy data of block chain, device, storage medium and computer program product | |
US9509737B2 (en) | Client side encryption with recovery method | |
JP2019061694A (ja) | データ転送最適化 | |
CN109474423A (zh) | 数据加解密方法、服务器及存储介质 | |
CN111034146B (zh) | 用于两步认证的方法、计算机存储介质以及计算机系统 | |
US9118645B2 (en) | Distributed authentication using persistent stateless credentials | |
US10218512B2 (en) | Robot mitigation | |
CN110768787A (zh) | 一种数据加密、解密方法及装置 | |
US20220083911A1 (en) | Enhanced Privacy Federated Learning System | |
Arora et al. | Evaluation and comparison of security issues on cloud computing environment | |
US9246890B2 (en) | PGP encrypted data transfer | |
CN111258602A (zh) | 信息更新方法和装置 | |
CN111934872A (zh) | 密钥处理方法、装置、电子设备以及存储介质 | |
KR20210102121A (ko) | 정보 처리 방법, 장치, 기기 및 판독 가능 저장매체 | |
CN111464297A (zh) | 基于区块链的事务处理方法、装置、电子设备和介质 | |
US9755832B2 (en) | Password-authenticated public key encryption and decryption | |
CN111611606B (zh) | 文件加密、解密方法和装置 | |
US10540522B2 (en) | Storing data securely in a database | |
CN115442164B (zh) | 多用户日志加解密方法、装置、设备及存储介质 | |
US20190229912A1 (en) | Seamless abort and reinstatement of tls sessions | |
CN115567596A (zh) | 云服务资源部署方法、装置、设备及存储介质 | |
CN115688165A (zh) | 一种节点文件处理方法、装置、设备及存储介质 | |
CN108985109A (zh) | 一种数据存储方法及装置 | |
US10313315B2 (en) | Ensuring information security in data transfers by utilizing proximity keys |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |