CN116595011A - 一种大数据管理方法及系统 - Google Patents
一种大数据管理方法及系统 Download PDFInfo
- Publication number
- CN116595011A CN116595011A CN202310639376.6A CN202310639376A CN116595011A CN 116595011 A CN116595011 A CN 116595011A CN 202310639376 A CN202310639376 A CN 202310639376A CN 116595011 A CN116595011 A CN 116595011A
- Authority
- CN
- China
- Prior art keywords
- index
- big data
- data
- retrieval
- catalog
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 51
- 238000013523 data management Methods 0.000 title claims abstract description 26
- 238000013507 mapping Methods 0.000 claims abstract description 30
- 238000004364 calculation method Methods 0.000 claims abstract description 8
- 238000007781 pre-processing Methods 0.000 claims description 11
- 238000012549 training Methods 0.000 claims description 10
- 238000007726 management method Methods 0.000 abstract description 13
- 206010033799 Paralysis Diseases 0.000 abstract description 8
- 238000012545 processing Methods 0.000 description 15
- 238000004891 communication Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 6
- 230000008878 coupling Effects 0.000 description 4
- 238000010168 coupling process Methods 0.000 description 4
- 238000005859 coupling reaction Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2228—Indexing structures
- G06F16/2272—Management thereof
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种大数据管理方法及系统。其中,该方法包括:获取大数据索引信息和原始索引目录;根据大数据索引信息,生成检索侧重数据;将所述检索侧重数据利用映射换算,得到索引调整参数;根据所述索引调整参数,调整所述原始索引目录,得到优化索引目录。本发明解决了现有技术中的大数据管理方法仅仅是将索引存储或者部署方式进行改变,或者增加索引占用的空间或者计算资源,是表面上看起来索引效率有所提升,但实际遇到复杂索引任务的时候还是会降低索引效率,甚至导致整个大数据平台陷入瘫痪状态,大大降低了大数据平台管理的稳定性和可靠性的技术问题。
Description
技术领域
本发明涉及大数据平台管理领域,具体而言,涉及一种大数据管理方法及系统。
背景技术
随着智能化科技的不断发展,人们的生活、工作、学习之中越来越多地用到了智能化设备,使用智能化科技手段,提高了人们生活的质量,增加了人们学习和工作的效率。
目前,大数据平台的管理通常会用到对大数据平台中涉及到的索引目录或者索引算法进行规定和优化,并在大数据平台进行数据检索和数据计算的时候,利用索引算法的变化而改变索引效率,提高用户体验。但是现有技术中的大数据管理方法仅仅是将索引存储或者部署方式进行改变,或者增加索引占用的空间或者计算资源,是表面上看起来索引效率有所提升,但实际遇到复杂索引任务的时候还是会降低索引效率,甚至导致整个大数据平台陷入瘫痪状态,大大降低了大数据平台管理的稳定性和可靠性。
针对上述的问题,目前尚未提出有效的解决方案。
发明内容
本发明实施例提供了一种大数据管理方法及系统,以至少解决现有技术中的大数据管理方法仅仅是将索引存储或者部署方式进行改变,或者增加索引占用的空间或者计算资源,是表面上看起来索引效率有所提升,但实际遇到复杂索引任务的时候还是会降低索引效率,甚至导致整个大数据平台陷入瘫痪状态,大大降低了大数据平台管理的稳定性和可靠性的技术问题。
根据本发明实施例的一个方面,提供了一种大数据管理方法,包括:获取大数据索引信息和原始索引目录;根据大数据索引信息,生成检索侧重数据;将所述检索侧重数据利用映射换算,得到索引调整参数;根据所述索引调整参数,调整所述原始索引目录,得到优化索引目录。
可选的,在所述获取大数据索引信息和原始索引目录之前,所述方法还包括:利用大数据平台将完整索引目录进行预处理,得到所述原始索引目录。
可选的,所述根据大数据索引信息,生成检索侧重数据包括:获取索引识别模型,其中,所述索引识别模型利用大数据平台的历史数据训练得到;将所述大数据索引信息输入至所述索引识别模型中,得到检索侧重数据。
可选的,所述将所述检索侧重数据利用映射换算,得到索引调整参数包括:利用公式
;
计算所述索引调整参数,其中,F(s)是索引调整参数,k和n是检索侧重数据的层级参数,Data是检索侧重数据,a是映射因子,其中,a取大于1的自然数。
根据本发明实施例的另一方面,还提供了一种大数据管理方法及系统,包括:获取模块,用于获取大数据索引信息和原始索引目录;生成模块,用于根据大数据索引信息,生成检索侧重数据;映射模块,用于将所述检索侧重数据利用映射换算,得到索引调整参数;调整模块,用于根据所述索引调整参数,调整所述原始索引目录,得到优化索引目录。
可选的,所系统还包括:预处理模块,用于利用大数据平台将完整索引目录进行预处理,得到所述原始索引目录。
可选的,所述生成模块包括:获取单元,用于获取索引识别模型,其中,所述索引识别模型利用大数据平台的历史数据训练得到;输入单元,用于将所述大数据索引信息输入至所述索引识别模型中,得到检索侧重数据。
可选的,所述映射模块包括:计算单元,用于利用公式
;
计算所述索引调整参数,其中,F(s)是索引调整参数,k和n是检索侧重数据的层级参数,Data是检索侧重数据,a是映射因子,其中,a取大于1的自然数。
根据本发明实施例的另一方面,还提供了一种非易失性存储介质,所述非易失性存储介质包括存储的程序,其中,所述程序运行时控制非易失性存储介质所在的设备执行一种大数据管理方法。
根据本发明实施例的另一方面,还提供了一种电子系统,包含处理器和存储器;所述存储器中存储有计算机可读指令,所述处理器用于运行所述计算机可读指令,其中,所述计算机可读指令运行时执行一种大数据管理方法。
在本发明实施例中,采用获取大数据索引信息和原始索引目录;根据大数据索引信息,生成检索侧重数据;将所述检索侧重数据利用映射换算,得到索引调整参数;根据所述索引调整参数,调整所述原始索引目录,得到优化索引目录的方式,解决了现有技术中的大数据管理方法仅仅是将索引存储或者部署方式进行改变,或者增加索引占用的空间或者计算资源,是表面上看起来索引效率有所提升,但实际遇到复杂索引任务的时候还是会降低索引效率,甚至导致整个大数据平台陷入瘫痪状态,大大降低了大数据平台管理的稳定性和可靠性的技术问题。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1是根据本发明实施例的一种大数据管理方法及系统的流程图;
图2是根据本发明实施例的一种大数据管理方法及系统的结构框图;
图3是根据本发明实施例的用于执行根据本发明的方法的终端设备的框图;
图4是根据本发明实施例的用于保持或者携带实现根据本发明的方法的程序代码的存储单元。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
根据本发明实施例,提供了一种大数据管理方法及系统的方法实施例,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
实施例一
图1是根据本发明实施例的一种大数据管理方法及系统的流程图,如图1所示,该方法包括如下步骤:
步骤S102,获取大数据索引信息和原始索引目录。
具体的,本发明实施例为了解决现有技术中的大数据管理方法仅仅是将索引存储或者部署方式进行改变,或者增加索引占用的空间或者计算资源,是表面上看起来索引效率有所提升,但实际遇到复杂索引任务的时候还是会降低索引效率,甚至导致整个大数据平台陷入瘫痪状态,大大降低了大数据平台管理的稳定性和可靠性的技术问题,在本发明实施例实施的时候需要首先采集大数据平台的大数据索引信息和原始索引目录,其中,大数据索引信息使用户根据大数据平台的使用需求而输入的索引信息,原始索引目录是大数据平台中所有数据的总索引目录。可选的,在所述获取大数据索引信息和原始索引目录之前,所述方法还包括:利用大数据平台将完整索引目录进行预处理,得到所述原始索引目录。
步骤S104,根据大数据索引信息,生成检索侧重数据。
可选的,所述根据大数据索引信息,生成检索侧重数据包括:获取索引识别模型,其中,所述索引识别模型利用大数据平台的历史数据训练得到;将所述大数据索引信息输入至所述索引识别模型中,得到检索侧重数据。
具体的,为了将大数据索引信息进行进一步的处理,识别生成以大数据索引信息为主的检索侧重数据,需要获取索引识别模型,其中,所述索引识别模型利用大数据平台的历史数据训练得到;将所述大数据索引信息输入至所述索引识别模型中,得到检索侧重数据。
步骤S106,将所述检索侧重数据利用映射换算,得到索引调整参数。
可选的,所述将所述检索侧重数据利用映射换算,得到索引调整参数包括:利用公式
;
计算所述索引调整参数,其中,F(s)是索引调整参数,k和n是检索侧重数据的层级参数,Data是检索侧重数据,a是映射因子,其中,a取大于1的自然数。
可选的,所述索引调整参数用于kubernetes平台的大数据架构构建操作,其中,所述大数据架构属于BS架构,并利用所述映射因子来调整所述kubernetes平台构成元素的操作值的应用范围。
步骤S108,根据所述索引调整参数,调整所述原始索引目录,得到优化索引目录。
具体的,本发明实施例在获取到了换算生成的索引调整参数之后,便可以对原始索引目录进行调整,无论是分层、精简、缩小索引范围,都可以极大幅度地增加大数据平台索引操作的效率和准确度,降低过多占用系统资源,并产生众多错误检索内容的情况。
可选的,在所述据所述索引调整参数,调整所述原始索引目录,得到优化索引目录之后,所述方法还包括:根据所述优化索引目录,将大数据平台中的索引信息进行更新,并向用户终端发出索引优化提示信息。
通过上述实施例,解决了现有技术中的大数据管理方法仅仅是将索引存储或者部署方式进行改变,或者增加索引占用的空间或者计算资源,是表面上看起来索引效率有所提升,但实际遇到复杂索引任务的时候还是会降低索引效率,甚至导致整个大数据平台陷入瘫痪状态,大大降低了大数据平台管理的稳定性和可靠性的技术问题。
实施例二
图2是根据本发明实施例的一种大数据管理方法及系统的结构框图,如图2所示,该系统包括:
获取模块20,用于获取大数据索引信息和原始索引目录。
具体的,本发明实施例为了解决现有技术中的大数据管理方法仅仅是将索引存储或者部署方式进行改变,或者增加索引占用的空间或者计算资源,是表面上看起来索引效率有所提升,但实际遇到复杂索引任务的时候还是会降低索引效率,甚至导致整个大数据平台陷入瘫痪状态,大大降低了大数据平台管理的稳定性和可靠性的技术问题,在本发明实施例实施的时候需要首先采集大数据平台的大数据索引信息和原始索引目录,其中,大数据索引信息使用户根据大数据平台的使用需求而输入的索引信息,原始索引目录是大数据平台中所有数据的总索引目录。可选的,所系统还包括:预处理模块,用于利用大数据平台将完整索引目录进行预处理,得到所述原始索引目录。
生成模块22,用于根据大数据索引信息,生成检索侧重数据。
可选的,所述生成模块包括:获取单元,用于获取索引识别模型,其中,所述索引识别模型利用大数据平台的历史数据训练得到;输入单元,用于将所述大数据索引信息输入至所述索引识别模型中,得到检索侧重数据。
具体的,为了将大数据索引信息进行进一步的处理,识别生成以大数据索引信息为主的检索侧重数据,需要获取索引识别模型,其中,所述索引识别模型利用大数据平台的历史数据训练得到;将所述大数据索引信息输入至所述索引识别模型中,得到检索侧重数据。
映射模块24,用于将所述检索侧重数据利用映射换算,得到索引调整参数。
可选的,所述映射模块包括:计算单元,用于利用公式
;
计算所述索引调整参数,其中,F(s)是索引调整参数,k和n是检索侧重数据的层级参数,Data是检索侧重数据,a是映射因子,其中,a取大于1的自然数。
调整模块26,用于根据所述索引调整参数,调整所述原始索引目录,得到优化索引目录。
具体的,本发明实施例在获取到了换算生成的索引调整参数之后,便可以对原始索引目录进行调整,无论是分层、精简、缩小索引范围,都可以极大幅度地增加大数据平台索引操作的效率和准确度,降低过多占用系统资源,并产生众多错误检索内容的情况。
通过上述实施例,解决了现有技术中的大数据管理方法仅仅是将索引存储或者部署方式进行改变,或者增加索引占用的空间或者计算资源,是表面上看起来索引效率有所提升,但实际遇到复杂索引任务的时候还是会降低索引效率,甚至导致整个大数据平台陷入瘫痪状态,大大降低了大数据平台管理的稳定性和可靠性的技术问题。
根据本发明实施例的另一方面,还提供了一种非易失性存储介质,所述非易失性存储介质包括存储的程序,其中,所述程序运行时控制非易失性存储介质所在的设备执行一种大数据管理方法及系统。
具体的,上述方法包括:获取大数据索引信息和原始索引目录;根据大数据索引信息,生成检索侧重数据;将所述检索侧重数据利用映射换算,得到索引调整参数;根据所述索引调整参数,调整所述原始索引目录,得到优化索引目录。可选的,在所述获取大数据索引信息和原始索引目录之前,所述方法还包括:利用大数据平台将完整索引目录进行预处理,得到所述原始索引目录。可选的,所述根据大数据索引信息,生成检索侧重数据包括:获取索引识别模型,其中,所述索引识别模型利用大数据平台的历史数据训练得到;将所述大数据索引信息输入至所述索引识别模型中,得到检索侧重数据。可选的,所述将所述检索侧重数据利用映射换算,得到索引调整参数包括:利用公式
;
计算所述索引调整参数,其中,F(s)是索引调整参数,k和n是检索侧重数据的层级参数,Data是检索侧重数据,a是映射因子,其中,a取大于1的自然数。
根据本发明实施例的另一方面,还提供了一种电子系统,包含处理器和存储器;所述存储器中存储有计算机可读指令,所述处理器用于运行所述计算机可读指令,其中,所述计算机可读指令运行时执行一种大数据管理方法及系统。
具体的,上述方法包括:获取大数据索引信息和原始索引目录;根据大数据索引信息,生成检索侧重数据;将所述检索侧重数据利用映射换算,得到索引调整参数;根据所述索引调整参数,调整所述原始索引目录,得到优化索引目录。可选的,在所述获取大数据索引信息和原始索引目录之前,所述方法还包括:利用大数据平台将完整索引目录进行预处理,得到所述原始索引目录。可选的,所述根据大数据索引信息,生成检索侧重数据包括:获取索引识别模型,其中,所述索引识别模型利用大数据平台的历史数据训练得到;将所述大数据索引信息输入至所述索引识别模型中,得到检索侧重数据。可选的,所述将所述检索侧重数据利用映射换算,得到索引调整参数包括:利用公式
;
计算所述索引调整参数,其中,F(s)是索引调整参数,k和n是检索侧重数据的层级参数,Data是检索侧重数据,a是映射因子,其中,a取大于1的自然数。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
在本发明的上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的技术内容,可通过其它的方式实现。其中,以上所描述的系统实施例仅仅是示意性的,例如所述单元的划分,可以为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,图3为本申请一实施例提供的终端设备的硬件结构示意图。如图3所示,该终端设备可以包括输入设备30、处理器31、输出设备32、存储器33和至少一个通信总线34。通信总线34用于实现元件之间的通信连接。存储器33可能包含高速RAM存储器,也可能还包括非易失性存储NVM,例如至少一个磁盘存储器,存储器33中可以存储各种程序,用于完成各种处理功能以及实现本实施例的方法步骤。
可选的,上述处理器31例如可以为中央处理器(Central Processing Unit,简称CPU)、应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,该处理器31通过有线或无线连接耦合到上述输入设备30和输出设备32。
可选的,上述输入设备30可以包括多种输入设备,例如可以包括面向用户的用户接口、面向设备的设备接口、软件的可编程接口、摄像头、传感器中至少一种。可选的,该面向设备的设备接口可以是用于设备与设备之间进行数据传输的有线接口、还可以是用于设备与设备之间进行数据传输的硬件插入接口(例如USB接口、串口等);可选的,该面向用户的用户接口例如可以是面向用户的控制按键、用于接收语音输入的语音输入设备以及用户接收用户触摸输入的触摸感知设备(例如具有触摸感应功能的触摸屏、触控板等);可选的,上述软件的可编程接口例如可以是供用户编辑或者修改程序的入口,例如芯片的输入引脚接口或者输入接口等;可选的,上述收发信机可以是具有通信功能的射频收发芯片、基带处理芯片以及收发天线等。麦克风等音频输入设备可以接收语音数据。输出设备32可以包括显示器、音响等输出设备。
在本实施例中,该终端设备的处理器包括用于执行各设备中数据处理系统各模块的功能,具体功能和技术效果参照上述实施例即可,此处不再赘述。
图4为本申请另一实施例提供的终端设备的硬件结构示意图。图4是对图3在实现过程中的一个具体的实施例。如图4所示,本实施例的终端设备包括处理器41以及存储器42。
处理器41执行存储器42所存放的计算机程序代码,实现上述实施例中的方法。
存储器42被配置为存储各种类型的数据以支持在终端设备的操作。这些数据的示例包括用于在终端设备上操作的任何应用程序或方法的指令,例如消息,图片,视频等。存储器42可能包含随机存取存储器(random access memory,简称RAM),也可能还包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。
可选地,处理器41设置在处理组件40中。该终端设备还可以包括:通信组件43,电源组件44,多媒体组件45,音频组件46,输入/输出接口47和/或传感器组件48。 终端设备具体所包含的组件等依据实际需求设定,本实施例对此不作限定。
处理组件40通常控制终端设备的整体操作。处理组件40可以包括一个或多个处理器41来执行指令,以完成上述方法的全部或部分步骤。此外,处理组件40可以包括一个或多个模块,便于处理组件40和其他组件之间的交互。例如,处理组件40可以包括多媒体模块,以方便多媒体组件45和处理组件40之间的交互。
电源组件44为终端设备的各种组件提供电力。电源组件44可以包括电源管理系统,一个或多个电源,及其他与为终端设备生成、管理和分配电力相关联的组件。
多媒体组件45包括在终端设备和用户之间的提供一个输出接口的显示屏。在一些实施例中,显示屏可以包括液晶显示器(LCD)和触摸面板(TP)。如果显示屏包括触摸面板,显示屏可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。
音频组件46被配置为输出和/或输入音频信号。例如,音频组件46包括一个麦克风(MIC),当终端设备处于操作模式,如语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器42或经由通信组件43发送。在一些实施例中,音频组件46还包括一个扬声器,用于输出音频信号。
输入/输出接口47为处理组件40和外围接口模块之间提供接口,上述外围接口模块可以是点击轮,按钮等。这些按钮可包括但不限于:音量按钮、启动按钮和锁定按钮。
传感器组件48包括一个或多个传感器,用于为终端设备提供各个方面的状态评估。例如,传感器组件48可以检测到终端设备的打开/关闭状态,组件的相对定位,用户与终端设备接触的存在或不存在。传感器组件48可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在,包括检测用户与终端设备间的距离。在一些实施例中,该传感器组件48还可以包括摄像头等。
通信组件43被配置为便于终端设备和其他设备之间有线或无线方式的通信。终端设备可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个实施例中,该终端设备中可以包括SIM卡插槽,该SIM卡插槽用于插入SIM卡,使得终端设备可以登录GPRS网络,通过互联网与服务端建立通信。
由上可知,在图4实施例中所涉及的通信组件43、音频组件46以及输入/输出接口47、传感器组件48均可以作为图3实施例中的输入设备的实现方式。
在本申请所提供的几个实施例中,应该理解到,所揭露的技术内容,可通过其它的方式实现。其中,以上所描述的系统实施例仅仅是示意性的,例如所述单元的划分,可以为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (10)
1.一种大数据管理方法,其特征在于,包括:
获取大数据索引信息和原始索引目录;
根据大数据索引信息,生成检索侧重数据;
将所述检索侧重数据利用映射换算,得到索引调整参数;
根据所述索引调整参数,调整所述原始索引目录,得到优化索引目录。
2.根据权利要求1所述的方法,其特征在于,在所述获取大数据索引信息和原始索引目录之前,所述方法还包括:
利用大数据平台将完整索引目录进行预处理,得到所述原始索引目录。
3.根据权利要求1所述的方法,其特征在于,所述根据大数据索引信息,生成检索侧重数据包括:
获取索引识别模型,其中,所述索引识别模型利用大数据平台的历史数据训练得到;
将所述大数据索引信息输入至所述索引识别模型中,得到检索侧重数据。
4. 根据权利要求1所述的方法,其特征在于,所述将所述检索侧重数据利用映射换算,得到索引调整参数包括:
利用公式
;
计算所述索引调整参数,其中,F(s)是索引调整参数,k和n是检索侧重数据的层级参数,Data是检索侧重数据,a是映射因子,其中,a取大于1的自然数。
5.一种大数据管理系统,其特征在于,包括:
获取模块,用于获取大数据索引信息和原始索引目录;
生成模块,用于根据大数据索引信息,生成检索侧重数据;
映射模块,用于将所述检索侧重数据利用映射换算,得到索引调整参数;
调整模块,用于根据所述索引调整参数,调整所述原始索引目录,得到优化索引目录。
6.根据权利要求5所述的系统,其特征在于,所系统还包括:
预处理模块,用于利用大数据平台将完整索引目录进行预处理,得到所述原始索引目录。
7.根据权利要求5所述的系统,其特征在于,所述生成模块包括:
获取单元,用于获取索引识别模型,其中,所述索引识别模型利用大数据平台的历史数据训练得到;
输入单元,用于将所述大数据索引信息输入至所述索引识别模型中,得到检索侧重数据。
8. 根据权利要求5所述的系统,其特征在于,所述映射模块包括:
计算单元,用于利用公式
;
计算所述索引调整参数,其中,F(s)是索引调整参数,k和n是检索侧重数据的层级参数,Data是检索侧重数据,a是映射因子,其中,a取大于1的自然数。
9.一种非易失性存储介质,其特征在于,所述非易失性存储介质包括存储的程序,其中,所述程序运行时控制非易失性存储介质所在的设备执行权利要求1至4中任意一项所述的方法。
10.一种电子系统,其特征在于,包含处理器和存储器;所述存储器中存储有计算机可读指令,所述处理器用于运行所述计算机可读指令,其中,所述计算机可读指令运行时执行权利要求1至4中任意一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310639376.6A CN116595011A (zh) | 2023-06-01 | 2023-06-01 | 一种大数据管理方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310639376.6A CN116595011A (zh) | 2023-06-01 | 2023-06-01 | 一种大数据管理方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116595011A true CN116595011A (zh) | 2023-08-15 |
Family
ID=87606172
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310639376.6A Pending CN116595011A (zh) | 2023-06-01 | 2023-06-01 | 一种大数据管理方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116595011A (zh) |
-
2023
- 2023-06-01 CN CN202310639376.6A patent/CN116595011A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115426525A (zh) | 一种基于高速动帧联动图像拆分方法及装置 | |
CN115170818A (zh) | 一种动态帧画面特征提取方法及装置 | |
CN115375582A (zh) | 一种基于低阶泰勒分解的摩尔纹消解方法及装置 | |
CN116614453B (zh) | 一种基于云端互联的图像传输带宽选择方法及装置 | |
CN116595069A (zh) | 一种基于大数据的过滤展示方法及系统 | |
CN116595011A (zh) | 一种大数据管理方法及系统 | |
CN116302041B (zh) | 一种光场相机接口模块优化方法及装置 | |
CN116468883B (zh) | 一种高精度图像数据体积雾识别方法及装置 | |
CN116389915B (zh) | 一种降低光场相机闪烁的方法及装置 | |
CN115187570B (zh) | 一种基于dnn深度神经网络的奇异遍历检索方法及装置 | |
CN116723419B (zh) | 一种用于十亿级高精度相机的采集速度优化方法及装置 | |
CN115345808B (zh) | 一种基于多元信息采集的画面生成方法及装置 | |
CN115809006B (zh) | 一种画面控制人工指令的方法及装置 | |
CN116389887A (zh) | 一种基于动态优化的光场相机配置方法及装置 | |
CN115205313B (zh) | 一种基于最小二乘算法的画面优化方法及装置 | |
CN116228593B (zh) | 一种基于分级抗锯齿的图像完善方法及装置 | |
CN116664413B (zh) | 一种基于阿贝尔收敛算子的图像体积雾消除方法及装置 | |
CN117367455A (zh) | 一种深度学习算法的光伏电站无人机航线设计方法及装置 | |
CN116088580B (zh) | 一种飞行物体跟踪方法及装置 | |
CN118096648A (zh) | 一种场景深度测量方法及装置 | |
CN115546053B (zh) | 一种用于复杂地形雪地的图形漫反射消除方法及装置 | |
CN116485912B (zh) | 一种光场相机多模组协调方法及装置 | |
CN116797479B (zh) | 一种图像垂直畸变转换方法 | |
CN116466905A (zh) | 一种基于OpenHarmony的窗口分屏操作交互方法及装置 | |
CN116405732A (zh) | 一种动态视频流解码转换方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |