CN114386506A - 特征筛选方法、装置、电子设备及存储介质 - Google Patents
特征筛选方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN114386506A CN114386506A CN202210031311.9A CN202210031311A CN114386506A CN 114386506 A CN114386506 A CN 114386506A CN 202210031311 A CN202210031311 A CN 202210031311A CN 114386506 A CN114386506 A CN 114386506A
- Authority
- CN
- China
- Prior art keywords
- sample
- sample set
- features
- label
- labels
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/211—Selection of the most significant subset of features
- G06F18/2113—Selection of the most significant subset of features by ranking or filtering the set of features, e.g. using a measure of variance or of feature cross-correlation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
- G06F18/2155—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the incorporation of unlabelled data, e.g. multiple instance learning [MIL], semi-supervised techniques using expectation-maximisation [EM] or naïve labelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/243—Classification techniques relating to the number of classes
- G06F18/24323—Tree-organised classifiers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/03—Credit; Loans; Processing thereof
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Business, Economics & Management (AREA)
- Evolutionary Biology (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Mathematical Physics (AREA)
- Development Economics (AREA)
- Technology Law (AREA)
- General Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Strategic Management (AREA)
- Marketing (AREA)
- Economics (AREA)
- Medical Informatics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种特征筛选方法、装置、电子设备以及存储介质,涉及数据处理技术领域,尤其涉及机器学习技术领域。具体实现方案为:获取第一样本集,所述第一样本集为第一样本构成的集合,所述第一样本包括至少一个特征;从数据安全域获取所述第一样本集的样本标签,所述样本标签用于反映所述第一样本集中的样本的指标等级;依据所述第一样本集和所述样本标签,通过机器学习方式确定目标特征集,所述目标特征集是从所述第一样本集的特征中筛选出的对所述样本标签重要性高的特征的集合。根据本公开,提高了对样本集中重要性高的特征的筛选准确度。
Description
技术领域
本公开涉及数据处理技术领域,尤其涉及机器学习技术领域,具体涉及一种特征筛选方法、装置、电子设备及存储介质。
背景技术
用户信用评级在风险控制场景(如下简称风控场景)中尤为重要,用户信用评级越高,则风险越低。比如,该风控场景的一种情况可以是:给用户提供信用卡的额度,需要根据用户信用评级来提供该信用卡的额度。
随着人工智能技术的发展,可以基于人工智能技术进行大数据统计分析,从而提高对用户信用评级评估的准确度。
发明内容
本公开提供了一种特征筛选方法、装置、电子设备以及存储介质。
根据本公开的一方面,提供了一种特征筛选方法,包括:
获取第一样本集,所述第一样本集为第一样本构成的集合,所述第一样本包括至少一个特征;
从数据安全域获取所述第一样本集的样本标签,所述样本标签用于反映所述第一样本集中的样本的指标等级;
依据所述第一样本集和所述样本标签,通过机器学习方式确定目标特征集,所述目标特征集是从所述第一样本集的特征中筛选出的对所述样本标签重要性高的特征的集合。
根据本公开的另一方面,提供了一种特征筛选装置,包括:
第一获取单元,用于获取第一样本集,所述第一样本集为第一样本构成的集合,所述第一样本包括至少一个特征;
第二获取单元,用于从数据安全域获取所述第一样本集的样本标签,所述样本标签用于反映所述第一样本集中的样本的指标等级;
确定单元,用于依据所述第一样本集和所述样本标签,通过机器学习方式确定目标特征集,所述目标特征集是从所述第一样本集的特征中筛选出的对所述样本标签重要性高的特征的集合。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本公开以上的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,该计算机指令用于使计算机执行本公开以上的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现本公开以上的方法。
根据本公开,针对获取到的第一样本集,从数据安全域中获取第一样本集的样本标签;依据第一样本集和样本标签,通过机器学习方式筛选出了第一样本集中的重要性高的特征,提高了对样本集中重要性高的样本数据的筛选准确度,进而可保证对用户信用评级评估的准确度。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开特征筛选方法的一整体实现示意图;
图2是根据本公开特征筛选方法第一实施例的实现流程示意图;
图3是根据本公开特征筛选方法中获取第一样本集的样本标签的第一实施例的实现流程示意图;
图4是根据本公开特征筛选方法获取第一样本集的样本标签的第二实施例的实现流程示意图;
图5是根据本公开特征筛选方法第三实施例的实现流程示意图;
图6是根据本公开特征筛选方法第四实施例的实现流程示意图;
图7是根据本公开特征筛选方法的具体实现示意图;
图8是根据本公开特征筛选装置的结构组成示意图;
图9是用来实现本公开的特征筛选方法实施例的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
应用人工智能技术,多数情况下需要样本集,样本集中包括多个样本数据。理论上,样本集中的样本数据越多越好,样本数据越多越能体现样本数据的丰富性和多样性,使用这样的样本数据得到的人工智能模型会越精准。但是,在实际应用中,对人工智能模型影响大的样本数据通常是样本集中重要性高的样本数据,如何从样本集中筛选出重要性高的样本数据成为了亟待解决的问题。
以样本集包括用户的各种资料信息(用户特征)的样本为例,基于人工智能技术进行大数据统计分析,以提高对用户信用评级计算或评价的准确度,比如,可以根据用户的各种资料信息对用户的信用评级进行打分后根据打分结果再筛选,可得到用户资料信息中对用户信用评级来说重要性高的用户特征。可以理解,利用重要性高的用户特征对用户信用进行计算可保证对用户信用评级的计算准确性。本公开技术方案至少在于解决如何准确或精准地从样本集中筛选出对标签如用户信用评级来说重要性高的样本数据。
结合图1所示,对于H公司来说,其能够获取到第一样本集(图1中自有数据样本如己方特征集合A),并基于数据安全域和第一样本集实现对第一样本集的样本标签的获取。即,本公开实施例中的第一样本集的样本标签是未知的,是利用数据安全域和第一样本集构建出的。其中,样本标签可基于由第一样本集(或第一样本集的子集)和数据安全域中的第二样本训练而得的第一模型而得到。样本标签还可以是基于由第一样本集和数据安全域中的第二样本数据训练而得的第二模型而得到的。具体的样本标签的获得过程请参见后续描述。第一样本集的已知、第一样本集的样本标签未知(由构建而得),本公开实施例的方案为一种采用半监督学习模型的半监督学习方案。本方案可基于第一样本集和为第一样本集构建出的样本标签,进行半监督学习模型的建模,并基于建模结果实现对第一样本集中的重要性高的用户特征的筛选,提高了对样本集中重要性高的样本数据的筛选准确度。其中,半监督学习模型包括以下所示的第三模型和第四模型。具体的建模及基于建模结果实现的对重要性高的特征的筛选过程请参见后续的描述。基于数据安全域和第一样本集实现对第一样本集的样本标签的获取的具体方案也请参见后续描述。
再来看图1,在利用半监督学习模型筛选出重要性高的特征的情况下,将被筛选出的重要性高的特征进行集合,形成目标特征集。可将目标特征集中包括的一个或多个重要性高的特征以及第三方提供的第三方数据样本如对方特征集合B联合,实现对待评估对象的待评价标签的评价,如对用户的信用进行评级或评估。
示例性地,以利用本公开的方案实现是对重要性高的用户特征筛选的情况下,将筛选出的重要性高的用户特征应用在风控场景、具体是金融风控场景中。在该场景中,利用重要性高的用户特征和第三方提供的对方特征集合B实现对用户信用度的评级或评估。
基于对用户信用评级的结果可执行各类风险管控,如基于对用户信用评级的结果确定是否向用户进行放贷、或者向用户进行放贷时可向其放贷的额度、或者确定需向用户发放与其信用评级结果匹配的小额贷款、理财产品等。基于前述内容,本公开方案需实现对第一样本集中重要性高的特征的准确筛选。在风控场景中,基于准确筛选出的重要性高的特征可实现第三方对风险的精准控制,以避免第三方的经济损失。
下面对本公开方案做详细说明。
本公开实施例中涉及到的样本集包括第一样本集,第一样本集为第一样本构成的集合,所述第一样本包括至少一个特征。简言之,第一样本集为样本特征的集合。本公开实施例提供的特征筛选方案能够实现从第一样本集中筛选出重要性高的特征。具体请参见以下描述:
本公开实施例提供的特征筛选方法,应用于特征筛选装置中。如图2所示,该方法包括以下步骤:
S201:获取第一样本集,第一样本集为第一样本构成的集合,第一样本包括至少一个特征;
本步骤中,通过读取记录的各第一样本而得到第一样本集。第一样本集中的各第一样本包括的特征可以是任何合理的反映用户的习惯、喜好、个人信息的(特征)。即,第一样本集为反映用户特征信息的(第一)样本的集合,如反映不同用户的用户特征信息的集合、和/或反映同一用户的不同用户特征信息的集合。其中,反映用户个人习惯、喜好的特征信息可以是在用户上网冲浪过程中产生的诸如购买产品类型、价位、购买频次等网购特征数据。网购特征信息可基于用户的网购数据而产生。基于网购数据还可以分析出诸如用户所处的年龄段、性别等数据,这些数据即可作为用户个人信息。第一样本集中的各第一样本包括一个或两个及以上的用户特征信息。不同第一样本中包括的用户特征信息可全部不同,也可部分不同。
S202:从数据安全域获取第一样本集的样本标签,样本标签用于反映第一样本集中的样本的指标等级;
本步骤中,数据安全域为任何合理的安全域,如为一个安全运行环境。可将第一样本集输入至具有该安全运行环境的设备中。安全运行环境运行第一样本集并处理以得到第一样本集的样本标签。具有该安全运行环境的设备可以为特征筛选装置,还可以为不同于特征筛选装置且能够与特征筛选装置进行通信的其他装置或设备中。特征筛选装置将从数据安全域中读取出的数据作为第一样本集的样本标签。
本步骤的方案也可以看成是在仅具有(第一)样本集的情况下,实现对该样本集的样本标签构建的方案。由于数据安全域能够保证数据的安全性,从数据安全域中获取到的样本标签具有安全性,不易被篡改,准确性也得到了保障。
在第一样本集为反映用户特征信息的样本的集合的情况下,样本标签可以为用户标签。该用户标签具体为用户的信用等级、可信度等指标数据。该指标数据可以是等级值如信用等级为一级或二级,还可以是具体的数值,如可信度为90分或70分。
S203:依据第一样本集和样本标签,通过机器学习方式确定目标特征集,目标特征集是从第一样本集的特征中筛选出的对样本标签的重要性高的特征的集合。
本步骤中,将第一样本集和第一样本标签输入至机器学习模型,机器学习模型输出第一样本集中对样本标签来说重要性高的特征。机器学习模型输出的特征的集合即可作为目标特征集。利用机器学习方式实现了第一样本集中的重要性高的一个或两个及以上特征的筛选或挑选。
在第一样本集为反映用户特征信息的样本的集合的情况下,依据第一样本集和用户标签,通过机器学习方式确定目标特征集,所述目标特征集是从所述第一样本集的特征中筛选出的对用户标签重要性高的特征的集合。如此可实现对重要性高的用户特征信息的筛选。
其中,机器学习模型可以是任何合理的模型,如树模型和/或回归模型。
S201~S203中,针对获取到的第一样本集,从数据安全域中获取第一样本集的样本标签,可保证样本标签的安全性和准确性。依据第一样本集和样本标签,通过机器学习方式筛选出了第一样本集中的重要性高的特征,实现了对样本集中有效样本数据的精准筛选,提高了对样本集中重要性高的特征的筛选准确度。
此外,本公开实施例的机器学习方式所采用的机器学习模型具有强鲁棒性和稳定性,依据从数据安全域中获取到的样本标签、(第一)样本集和机器学习方式实现的有效样本数据的筛选,可大大保证有效样本数据的筛选精准性。
本公开实施例中的第一样本集的样本标签可通过以下几种方案中的其中一种来实现:
其中,第一种方案如图3所示,第一样本集的样本标签的获得方案由特征筛选装置来执行,包括以下步骤:
S301:将第一样本集或第一样本集的子集输入至数据安全域;
S302:获取在数据安全域中由第一样本集和第二样本集、或者第一样本集的子集和第二样本集训练获得的第一模型而生成的标签信息;
S303:将第一模型生成的标签信息作为第一样本集的样本标签。
在S302和S303中的第一模型为回归模型。第二样本集为数据安全域中存在的用于反映样本的指标等级的数据,如用户信用等级数据。在运行有数据安全域的其他设备或特征筛选装置中,利用第一样本集和数据安全域中存在的第二样本集、或者第一样本集的子集和第二样本集对回归模型进行训练。在回归模型训练结束后,将数据安全域中存在的多个用户样本特征数据输入至回归模型。其中用户样本特征数据包括各样本用户在输入至数据安全域中的各个特征上的取值,回归模型基于该输入数据输出或生成各样本用户的标签信息,如样本用户的信用等级。特征筛选装置读取由回归模型生成或输出的标签信息,并将其作为第一样本集的样本标签。
简言之,S301-S303的方案为:第一样本集的样本标签是由第一样本集和数据安全域中的第二样本集训练获得的第一模型而生成的;或者,由第一样本集的子集和数据安全域中的第二样本集训练获得的第一模型而生成的。
前述的S301-S303的方案可视为利用数据安全域和第一样本集或第一样本集的子集,对第一样本集的样本标签进行构建的第一种方案。数据安全域能够保证数据的安全性,从数据安全域中获取到的第一样本集的样本标签具有安全性,不易被篡改。前述方案中的第一模型作为机器学习模型的一种,具有强大的鲁棒性和稳定性,将由第一模型生成或输出的标签作为第一样本集的样本标签,可保证样本标签的计算准确性。
第一样本集的样本标签的第二种获得方案如图4所示,由特征筛选装置来执行,包括以下步骤:
S401:将第一样本集或第一样本集的子集输入至数据安全域;
S402:获取在数据安全域中对由第一样本集和第二样本集、或者第一样本集的子集和第二样本集训练获得的第二模型生成的标签;
S403:将对第二模型生成的标签进行变换而得到的标签信息作为第一样本集的样本标签。
在S402和S403中的第二模型为分类模型。第二样本集为数据安全域中存在的用于反映样本的指标等级的数据,如用户信用等级数据。在运行有数据安全域的其他设备或特征筛选装置中,利用第一样本集和数据安全域中存在的第二样本集、或者第一样本集的子集和第二样本集对分类模型进行训练。在训练结束后,将数据安全域中存在的多个用户样本数据输入至分类模型。其中用户样本数据包括各用户在输入至数据安全域中的各个特征上的取值,分类模型基于该输入数据输出或生成各样本用户的标签信息score,如样本用户的信用等级,并将该标签信息进行如下的数学变换:newscore=log(score/(1-score));其中,log为对数运算。特征筛选装置读取分类模型输出的score并经变换后得到标签信息newscore,将其作为第一样本集的样本标签。
简言之,S401-S403的方案为:第一样本集的样本标签是由第一样本集和数据安全域中的第二样本集训练获得的第二模型生成、并对生成的标签进行变换而得到的;或者,是由第一样本集的子集和数据安全域中的第二样本集训练获得的第二模型生成、并对生成的标签进行变换而得到的。
前述的S401-S403的方案可视为利用数据安全域和第一样本集或第一样本集的子集,对第一样本集的样本标签进行构建的第二种方案。数据安全域能够保证数据的安全性,从数据安全域中获取到的第一样本集的样本标签具有安全性,不易被篡改。前述方案中的第二模型作为机器学习模型的一种,具有强大的鲁棒性和稳定性,将对第二模型生成或输出的标签进行如上数学变换后的标签信息作为第一样本集的样本标签,可保证样本标签的计算准确性。
在前述的S301和S401中,第一样本集的子集可以为第一样本集中的随机样本,即第一样本集包括的全部特征中的随机选定的特征。第一样本集中的子集还可以从第一样本集中预先选定的一个或两个及以上的特征。子集中包括的特征的数量可以为两个或两个以上。其中,随机样本具有一定的随机性,利用随机样本进行第一样本集的样本标签的获取,可提高样本标签的稳定性。
在前述的S301和S401中,数据安全域可运行于与特征筛选装置进行通信的其他装置或设备上。特征筛选装置发送第一样本集或第一样本集的子集到所述其他装置或设备上,以实现将第一样本集或第一样本集的子集输入至数据安全域的步骤。还可以,数据安全域运行于特征筛选装置中。其中,在数据安全域运行于其他装置或设备上的情况下,S302中,特征筛选装置通过从读取、或接收在其他装置或设备上的训练获得的第一模型而生成的标签信息而得到第一样本集中的样本的标签。S402中,特征筛选装置通过从读取、或接收在其他装置或设备上的训练获得的第二模型而生成的标签信息,并对其进行变换而得到第一样本集中的样本标签。
在S301和S401中可将第一样本集中的全部特征输入至数据安全域,还可将第一样本集中的部分特征(第一样本集中的子集)输入至运行有数据安全域的其他设备或特征筛选装置中。优选将第一样本集的子集输入运行有数据安全域的其他设备或特征筛选装置中。将第一样本集的子集输入至运行有数据安全域的其他设备或特征筛选装置中,可避免数据安全域的输入数据量大而带来的资源处理负担重的问题。
作为本公开实施例的一种实现方式,如图5所示,特征筛选方法中的S203可以为S503:依据第一样本集和样本标签,通过机器学习方式确定目标特征集,目标特征集是从第一样本集的特征中筛选出的对样本标签的重要性高的特征的集合;其中,重要性高的特征是基于第一样本集和第一样本集的样本标签训练获得的第三模型而得到的。
其中,图5中的S501、S502请参见图2中的S201、S202的相关描述,重复之处不赘述。
在具体实现上,第三模型为机器学习方式中的树模型。可以理解,在训练第三模型的过程中,输入至第三模型中的数据之一是第一样本集中的全部特征,利用该全部特征和第一样本集的样本标签进行第三模型的训练。在训练完成后,第三模型可自动将输入的全部特征中对样本标签的重要性高的特征输出。
在图5所示的方案中,从第一样本集的特征中筛选出的对样本标签的重要性高的特征是基于第一样本集和第一样本集的样本标签训练获得的第三模型而得到的,目标特征的确定方案在工程上易于实现,容易被推广。此外,第三模型为一种机器学习模型,由于机器学习模型具有很强的鲁棒性和稳定性,所以基于第三模型而得到的重要性高的特征是从第一样本集的全部特征中筛选出的精准特征,实现了目标特征集的确定准确性。
在前述的S201~S203所示的方案中,作为本公开实施例的一种实现方式,如图6所示,特征筛选方法中的S203可以为S603:依据第一样本集和样本标签,通过机器学习方式确定目标特征集,目标特征集是从第一样本集的特征中筛选出的对样本标签的重要性高的特征的集合;其中,重要性高的特征是基于第一样本集和第一样本集的样本标签训练获得的第四模型为第一样本集中的特征分配的权重参数值而确定的。
图6中的S601、S602请参见图2中的S201、S202的相关描述,重复之处不赘述。
在具体实现上,第四模型为机器学习方式中的回归模型。可以理解,在训练第四模型的过程中,输入至第四模型中的数据之一是第一样本集中的全部特征,利用该全部特征和第一样本集的样本标签进行第四模型的训练。第四模型中包括有多个权重参数,为第一样本集中的每个特征分配一个权重参数。训练的过程就是在计算为第一样本集中的各个特征分配的相应权重参数的取值(权重参数值)。可基于第四模型训练完成后各个权重参数的取值来确定第一样本集中的重要性高的特征,如将第一样本集中为特征分配的权重参数值大的特征如权重参数值大于或等于预先设定的第一阈值的特征筛选出,并作为第一样本集中的重要性高的特征。
在图6所示的方案中,从第一样本集的特征中筛选出的对样本标签的重要性高的特征是基于第四模型为第一样本集中的特征分配的权重参数值而确定的,这种目标特征的确定方案在工程上易于实现,容易被推广。此外,基于为特征分配的权重参数值而确定可保证目标特征的确定准确性。
再有,第四模型为一种机器学习模型,由于机器学习模型具有很强的鲁棒性和稳定性,所以基于第四模型为第一样本集中的各个特征分配的权重参数值而得到的重要性高的特征是从第一样本集的全部特征中筛选出的精准特征,实现了目标特征集的确定准确性。
作为本公开实施例的一种实现,重要性高的特征是基于第四模型为第一样本集中的特征分配的权重参数值、并对权重参数值进行合理性检验得到的检验结果而确定的。对权重参数值进行合理性检验得到检验值,可依据合理性检验而得到的检验值确定出第一样本集重要性高的特征。其中,在第四模型为回归模型的情况下,合理性检验即为对回归模型的模型系数如权重参数值执行显著性检验-t检验。检验值能反映出第一样本集中的特征哪些/个特征对样本标签来说是显著或重要性高的特征,哪些/个特征不是显著或重要性不高的特征。依据检验结果进行重要性高的特征的确定,能够准确地从第一样本集中筛选出重要性高的特征。
前述方案中,在得到为第一样本集中的各个特征分配的权重参数值的检验值的情况下,筛选或挑选出低于预设阈值的检测值,第一样本集中能够得到这些/个检验值的特征即为第一样本集中的重要性高的特征。或者,筛选或挑选出高于或等于预设阈值的检测值,第一样本集中能够得到这些/个检验值的特征即为第一样本集中的重要性不高或重要低的特征,从第一样本集中删除这些/个重要性不高的特征,即得到了重要性高的特征。简言之,前述方案为对为重要性高的特征分配的权重参数值的合理性检验而得到的检验结果需低于预设阈值。对于回归模型而言,检验值低于预设阈值的特征为显著特征或重要性高的特征。这种从第一样本集中筛选出检验结果低于预设阈值的重要性特征的方案,基于检验结果进行目标特征的筛选,可保证目标特征的筛选准确性。
作为本公开实施例的一种实现,在从第一样本集中筛选出重要性高的特征的情况下,所述方法还包括:基于目标特征集,对待评估对象的待评估标签进行评估;其中待评估标签用于反映所述待评估对象的指标等级。考虑到目标特征集中的特征是对待评估对象的指标等级来说重要性高的特征,利用重要性高的特征对待评估对象的待评估标签进行评估,可有效提高对待评估对象的待评估标签的评估准确性。
如果待评估标签为金融行业中的用户可信度或可信等级,那么对可信度或可信等级的准确评估,可有效避免因评估不准确而为金融机构带来的较大风险的问题。
下面以金融风控场景为例,对本公开实施例的方案做进一步说明。
在风控场景、具体是金融风控场景中,金融机构如银行会使用机器学习模型对信贷产品的风险进行把控。对金融风险的这种风险把控取决于是否能够实现对预贷款对象的标签如预贷款用户A的可信度的准确预测,以避免其无法正常还贷情况的出现。通常情况下,机器学习模型会依据银行获取到的用户A的薪资、存储情况、支出能力等不同维度的用户个人信息实现对用户A的可信度的预测。可以理解,除了银行自身可获取到的以上几种用户个人信息,如果还能够获取到H公司监控到的其他维度的用户特征数据如用户网购特征数据,那么利用银行自身可获取到的用户个人信息和H公司监控到的其他维度的用户特征数据、这两部分数据的联合势必会得到对用户可信度的更加准确预测。
其中,H公司可在用户上网冲浪过程中产生的购买产品类型、价位、购买频次等网购特征数据进行监控。还可对监控到的网购特征数据进行分析得到各被监控用户所处的年龄段、性别等数据。将网购特征数据和基于网购特征信息而分析出的各被监控用户所处年龄段、性别等能够反映各被监控用户(样本)的特征的数据进行集合,得到第一样本集。
可以理解,第一样本集中的各特征数据/信息是从不同维度来反映各被监控用户的个人情况的数据/信息。在实际应用中,第一样本集中的特征数据并非每个特征均能够对精准实现对用户可信度的预测起到作用,即第一样本集中的特征数据并非是对用户可信度的预测来说全部是重要性高的特征,第一样本集中会存在有对用户可信度预测来说重要性不高或重要性低的特征。本公开实施例的以下技术方案就在于实现从第一样本集中筛选出对用户可信度的预测或评级来说较为重要的特征(重要性高的特征)。如果将第一样本集中重要性高的特征视为有效特征,那么以下方案为实现有效特征的筛选方案,该方案的具体实现可参见图7所示。执行该筛选方案的装置或设备为特征筛选装置。第一样本集的样本标签为用户可信度数据/信息。
可以理解,对于H公司来说,第一样本集可为己方特征集合A,金融机构如银行自身获取到的几种用户个人信息可视为对方特征集合B。
将已方特征集合A划分出训练集和验证集。可以理解,被划分出的训练集和验证集中所包括的用户特征为第一样本集中的部分特征,为第一样本集的子集。示例性地,如训练集中包括被监控对象1、3、5等奇数位标识被监控对象的用户特征数据。验证集中包括被监控对象2、4、6等偶数位标识的被监控对象的用户特征数据。
其中,对于H公司来说,获取用户特征数据的方案即获取到第一样本集的方案易于实现。
在第一模型为机器学习模型中的回归模型且数据安全域运行在不同于特征筛选装置的其他设备的情况下,特征筛选装置将第一样本集的子集-前述的训练集发送至该其他设备。数据安全域为一安全运行环境,该其他设备运行该安全运行环境。运行该安全运行环境的该其他设备中存在有多个样本用户的可信度数据,利用该数据和特征筛选装置的训练集中的用户特征数据在安全运行环境中对回归模型进行训练。可以理解,回归模型具有损失函数,该损失函数为均方差函数、模值函数、平均值函数等。对回归模型进行训练的过程实际上就是利用回归模型的前述输入数据进行数据的迭代,并使计算出的损失函数为低于预设损失值的过程。
在回归模型训练结束后,运行安全运行环境的设备中存在的多个用户样本特征数据。其中用户样本特征数据包括各样本用户在输入至运行安全运行环境的设备中的各个特征上的取值,回归模型基于该输入数据输出或生成各样本用户的标签信息,如样本用户的可信度数据/信息。特征筛选装置从运行有数据安全域的设备处读取或接收由回归模型生成或输出的标签信息,并将其作为第一样本集的用户标签。
或者,在回归模型训练结束后,特征筛选装置将验证集中的用户特征数据输入至回归模型中。回归模型基于该输入数据输出或生成偶数位标识的被监控用户的可信度数据/信息。特征筛选装置从运行有数据安全域的设备处读取由回归模型生成或输出的标签信息,并将其作为第一样本集的用户标签。
前述方案中,是以第一模型为回归模型为例进行的说明。可以理解,假定回归模型基于前述的两种不同输入数据得到的输出是用户可信度数据score,那么特征筛选装置将score赋值给newscore,即newscore=score。newscore即可作为第一样本集的用户可信度。
在第二模型为机器学习模型中的分类模型且数据安全域运行在不同于特征筛选装置的其他设备的情况下,特征筛选装置将第一样本集的子集-前述的训练集发送至该其他设备。运行有该安全运行环境的设备中存在有多个样本用户的可信度数据,利用该设备中存在的前述信息和特征筛选装置的训练集中的用户特征数据在运行有该安全运行环境的设备中对分类模型进行训练。可以理解,分类模型具有损失函数,该损失函数为均方差函数、模值函数、平均值函数等。对分类模型进行训练的过程实际上就是利用分类模型的前述输入数据进行数据的迭代,并使计算出的损失函数为低于预设损失值的过程。
在分类模型训练结束后,运行有该安全运行环境的设备中存在多个用户样本特征数据。其中用户样本特征数据包括各样本用户在输入至运行有该安全运行环境的设备中的各个特征上的取值,分类模型基于该输入数据输出或生成各样本用户的标签信息,如样本用户的可信度数据/信息。特征筛选装置从运行有该安全运行环境的设备处读取、或接收由分类模型生成或输出的标签信息,并将其进行数学变换,将经数学变换后的标签信息作为第一样本集的用户标签。
或者,在分类模型训练结束后,特征筛选装置将验证集中的用户特征数据输入至运行有该安全运行环境的设备中,以令分类模型基于该输入数据输出或生成偶数位标识的被监控用户的可信度数据/信息。特征筛选装置读取、或接收分类模型的输出,并将其进行数学变换,将经数学变换后的标签信息作为第一样本集的用户标签。
前述方案中,是以第一模型为分类模型为例进行的说明。可以理解,假定分类模型基于前述的两种不同输入数据得到的输出是用户可信度数据score,那么特征筛选装置从分类模型中读出的是score。将score进行数学变换newscore=log(score/(1-score)),得到的newscore为第一样本集的用户标签。
以上方案可视为依据第一样本集的子集和数据安全域进行第一样本集的用户标签的构建的方案。此外,还可以依据第一样本集和数据安全域进行第一样本集的用户标签的构建。即不对第一样本集进行训练集和验证集的划分,将整个样本集输入至数据安全域中。与将整个样本集输入至数据安全域中的方案相比,将样本集的子集输入至数据安全域可大大减轻数据安全域的资源处理负担。
前述方案为数据安全域运行在不同于特征筛选装置的其他设备处。数据安全域还可以运行在特征筛选装置中,如此前述的在运行有数据安全域的其他设备中执行的方法或步骤均可在特征筛选装置中执行。具体的执行过程参见相关描述而理解,不赘述。
以上方案可视为依据第一样本集的子集和数据安全域、以及两种模型(第一模型和第二模型)进行第一样本集的用户标签构建的方案。数据安全域能够保证数据的安全性,从数据安全域中获取到的第一样本集的样本标签具有安全性,不易被篡改。此外,由于第一模型和第二模型均为机器学习模型,具有强大的鲁棒性和稳定性,基于两个模型得到的对用户可信度的打分值newscore更加合理、准确,符合实际。合理、准确的打分值newscore可为准确筛选出有效特征提供一定的保障。
在前述方案中,第一样本集的子集和第二样本集可视为用户的各种资料信息,依据第一样本集和数据安全域可实现根据用户的各种资料信息对用户的信用度进行打分,得到打分结果newscore。在后续方案中,可根据打分结果newscore和第一样本集实现对用户信用度评价来说重要性高的用户特征的筛选,具体请参见后续描述。
在具体实现上,第三模型可以为机器学习模型中的树模型,第四模型可以为回归模型。第一模型和第四模型可以均为逻辑回归模型。
以第三模型为树模型为例,特征筛选装置将己方特征集合A中的全部用户特征和基于前述方案构建出的用户标签输入至树模型中,以对树模型进行模型训练。可以理解,树模型具有损失函数,该损失函数为均方差函数(mean square error)。对树模型进行训练的过程实际上就是利用输入数据进行模型的迭代,每次迭代计算出的一个损失函数值,多次迭代直至树模型的损失函数值低于预设损失值,树模型的训练过程结束。在训练完成后,树模型可自动将输入的全部用户特征中对用户可信度来说的重要性高的特征输出,如输出年龄段、性别等用户特征,这些输出的用户特征即为第一样本集中的有效特征,第一样本集中除这些目标特征之外的其它特征或者第一样本集中树模型未输出的特征均为无效特征。
在具体实现上,第四模型为机器学习方式中的回归模型。特征筛选装置将己方特征集合A中的全部用户特征和基于前述方案构建出的用户标签输入至回归模型中,以对回归模型进行模型训练。可以理解,回归模型具有损失函数,该损失函数为均方差函数。对回归模型进行训练的过程参见前述对树模型的描述而理解,不赘述。可以理解,回归模型中包括有多个权重参数,训练的过程就是在为第一样本集中的各个用户特征分配的相应权重参数的取值(权重参数值)。在回归模型训练完成后,将第一样本集中为各用户特征分配的权重参数值大的特征如权重参数值大于或等于预先设定的第一阈值如0.6的特征筛选出。示例性地,在回归模型中为年龄段分配的权重参数值为0.65,为其他用户特征如购买频次这个用户特征分配的权重参数值为0.1、小于0.65,则筛选出年龄段这个用户特征,将其作为目标特征(有效特征)。
在为第一样本集中各用户特征分配有权重参数值的情况下,对回归模型中的各个权重参数值进行合理性检验而得到的检验值。具体的,可采用回归模型的显著性检验方法-t检验对权重参数值进行合理性检验。在t检验中,某个用户特征的权重参数值的检验值越小、该权重参数值越不接近于零,说明该用户特征越重要。反之,某个用户特征的权重参数值的检验值越大,该权重参数值越接近于零,说明该用户特征越不重要。本实施例中,可筛选或挑选出低于预设阈值如0.15的检测值,第一样本集中的各用户特征中、权重参数值能够取得这些/个检验值的用户特征即为第一样本集中的重要性高的用户特征。
前述方案中,依据己方特征集合A、构建出的用户标签以及机器学习模型实现了对己方特征集合A中的有效特征的筛选。其中,机器学习模型具有很强的鲁棒性和稳定性,利用机器学习模型进行筛选,可提高有效特征的筛选准确性。
可以理解,在对己方特征集合A中的有效特征进行筛选的方案中,第一样本集是已知的,但第一样本集的用户标签是未知的、是通过本公开中的相关方案来构建出的,基于此可认为本公开实施例的特征筛选方案为一种半监督的特征筛选方案,是一种特征的自动筛选方案。
本公开实施例中的特征筛选方案可以在没有用户标签的情况下,筛选出对用户可信度评价影响最大的用户特征。
在金融风控场景如信贷风控场景中,以对待评估对象为预贷款用户A、待评估标签为用户A的可信度、从己方特征集合A中筛选出的目标特征为年龄、性别、购买频次为例,金融机构如银行、具体是银行设备获取用户A年龄、性别、购买频次。用户A的前述特征数据/信息是银行设备从H公司处得到的、为H公司监控到或者基于监控到的信息而分析出的。银行设备将获取到的用户A的前述信息输入至机器学习模型如采用神经网络或深度学习网络的风险评估模型,得到风险评估模型为该用户A预测出的可信度的结果、如用户A的可信度为良好,或用户A的可信度为90分、良好,实现了对用户信用评级的评价。鉴于风险评估模型对用户A的信用良好的评估结果,银行可借款给该用户A。
还可以,银行设备将获取到的用户A的前述信息、连同银行可获取到的该用户在对方特征集合B中所示的用户个人信息上的取值输入至风险评估模型,得到风险评估模型为该用户A预测出的可信度的结果。在这种方式下,本公开实施例的特征筛选方案是在两个或多个单位或公司(如互联网和金融机构)联合建模的场景下、设计出的金融风控场景中的半监督特征筛选方案,该方案可保证用户特征中的有效特征的筛选准确性,进而可提高风险评估模型的评估精确性。
前述方案可视为银行设备执行的风险控制方案。可以理解,执行前述风险控制方案的设备还可以是本公开实施例中的特征筛选装置。如有必要,特征筛选装置可基于目标特征集对待评估对象的待评估标签进行评估,或者基于目标特征集和银行提供的另一特征集如前述的对方特征集合B,对待评估对象的待评估标签进行评估,并发送评估结果至银行,以令银行决定是否批贷。在这种情况下,本公开实施例中的特征筛选装置不仅可实现对有效用户特征的准确筛选,还可以实现对金融风控场景中风险的准确评估。
本公开还提供一种特征筛选装置的实施例,如图8所示,所述装置包括:第一获取单元801、第二获取单元802、以及确定单元803;其中,
第一获取单元801,用于获取第一样本集,所述第一样本集为第一样本构成的集合,所述第一样本包括至少一个特征;
第二获取单元802,用于从数据安全域获取所述第一样本集的样本标签,所述样本标签用于反映所述第一样本集中的样本的指标等级;
确定单元803,用于依据所述第一样本集和所述样本标签,通过机器学习方式确定目标特征集,所述目标特征集是从所述第一样本集的特征中筛选出的对所述样本标签重要性高的特征的集合。
其中,所述第二获取单元802所获取的所述第一样本集的样本标签是由所述第一样本集和所述数据安全域中的第二样本集训练获得的第一模型而生成的;
或者,所述第二获取单元802所获取的所述第一样本集的样本标签是由所述第一样本集的子集和所述数据安全域中的第二样本集训练获得的第一模型而生成的。
上述方案中,所述第二获取单元802所获取的所述第一样本集的样本标签是由所述第一样本集和所述数据安全域中的第二样本集训练获得的第二模型生成、并对生成的标签进行变换而得到的;
或者,所述第二获取单元802所获取的所述第一样本集的样本标签是由所述第一样本集的子集和所述数据安全域中的第二样本集训练获得的第二模型生成、并对生成的标签进行变换而得到的。
上述方案中,从第一样本集的特征中筛选出的对所述样本标签的重要性高的特征是基于所述第一样本集和所述样本标签训练获得的第三模型而得到的。
上述方案中,所述重要性高的特征是基于所述第三模型为所述第一样本集中的特征分配的权重参数值而确定的。
上述方案中,从第一样本集的特征中筛选出的对所述样本标签的重要性高的特征是基于所述第一样本集和所述样本标签训练获得的第四模型为所述第一样本集中的特征分配的权重参数值而确定的。
上述方案中,所述重要性高的特征是基于所述第四模型为所述第一样本集中的特征分配的权重参数值、并对权重参数值进行合理性检验得到的检验结果而确定的。
上述方案中,对为所述重要性高的特征分配的权重参数值的合理性检验而得到的检验结果低于预设阈值。
上述方案中,所述第一样本集的子集为所述第一样本集中的随机样本。
上述方案中,特征筛选装置还包括:
评估单元(在图8中未示意出),用于基于所述目标特征集,对待评估对象的待评估标签进行评估;其中所述待评估标签用于反映所述待评估对象的指标等级。
需要说明的是,本公开实施例的特征筛选装置,由于其解决问题的原理与前述的特征筛选方法相似,因此,特征筛选装置的实施过程及实施原理均可以参见前述方法的实施过程及实施原理描述,重复之处不再赘述。
本公开的技术方案中,所涉及的用户个人信息、用户特征信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
其中,所述可读存储介质存储有计算机命令,所述计算机命令用于使所述计算机执行本公开实施例的特征筛选方法。所述可读存储介质包括但不限于随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)。所述计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现的本公开实施例的特征筛选方法。
其中,所述电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的命令,所述命令被所述至少一个处理器执行,以使所述至少一个处理器能够执行前述的手势方法。所述处理器包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。
图9示出了可以用来实施本公开的特征筛选方法实施例的示例电子设备900的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开特征筛选方法的实现。
如图9所示,设备900包括计算单元901,其可以根据存储在只读存储器(ROM)902中的计算机程序或者从存储单元908加载到随机访问存储器(RAM)903中的计算机程序,来执行各种适当的动作和处理。在RAM 903中,还可存储设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
设备900中的多个部件连接至I/O接口905,包括:输入单元906,例如键盘、鼠标等;输出单元907,例如各种类型的显示器、扬声器等;存储单元908,例如磁盘、光盘等;以及通信单元909,例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理,例如特征筛选方法的一个或多个步骤。例如,在一些实施例中,特征筛选方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元908。在一些实施例中,计算机程序的部分或者全部可以经由ROM902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序加载到RAM 903并由计算单元901执行时,可以执行上文描述的特征筛选方法的一个或多个步骤。备选地,在其他实施例中,计算单元901可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行特征筛选方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、RAM、ROM、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入、或者触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (21)
1.一种特征筛选方法,包括:
获取第一样本集,所述第一样本集为第一样本构成的集合,所述第一样本包括至少一个特征;
从数据安全域获取所述第一样本集的样本标签,所述样本标签用于反映所述第一样本集中的样本的指标等级;
依据所述第一样本集和所述样本标签,通过机器学习方式确定目标特征集,所述目标特征集是从所述第一样本集的特征中筛选出的对所述样本标签重要性高的特征的集合。
2.根据权利要求1所述的方法,其中,所述第一样本集的样本标签是由所述第一样本集和所述数据安全域中的第二样本集训练获得的第一模型而生成的;或者,
所述第一样本集的样本标签是由所述第一样本集的子集和所述数据安全域中的第二样本集训练获得的第一模型而生成的。
3.根据权利要求1所述的方法,其中,所述第一样本集的样本标签是由所述第一样本集和所述数据安全域中的第二样本集训练获得的第二模型生成、并对生成的标签进行变换而得到的;或者,
所述第一样本集的样本标签是由所述第一样本集的子集和所述数据安全域中的第二样本集训练获得的第二模型生成、并对生成的标签进行变换而得到的。
4.根据权利要求1所述的方法,其中,从第一样本集的特征中筛选出的对所述样本标签的重要性高的特征是基于所述第一样本集和所述样本标签训练获得的第三模型而得到的。
5.根据权利要求1所述的方法,其中,从第一样本集的特征中筛选出的对所述样本标签的重要性高的特征是基于第四模型为所述第一样本集中的特征分配的权重参数值而确定的;其中所述第四模型基于所述第一样本集和所述样本标签的训练而得到。
6.根据权利要求5所述的方法,其中,所述重要性高的特征是基于对所述权重参数值进行合理性检验得到的检验结果而确定的。
7.根据权利要求6所述的方法,其中,对为所述重要性高的特征分配的权重参数值的合理性检验而得到的检验结果低于预设阈值。
8.根据权利要求2或3所述的方法,其中,所述第一样本集的子集为所述第一样本集中的随机样本。
9.根据权利要求1所述的方法,还包括:
基于所述目标特征集,对待评估对象的待评估标签进行评估;其中所述待评估标签用于反映所述待评估对象的指标等级。
10.一种特征筛选装置,包括:
第一获取单元,用于获取第一样本集,所述第一样本集为第一样本构成的集合,所述第一样本包括至少一个特征;
第二获取单元,用于从数据安全域获取所述第一样本集的样本标签,所述样本标签用于反映所述第一样本集中的样本的指标等级;
确定单元,用于依据所述第一样本集和所述样本标签,通过机器学习方式确定目标特征集,所述目标特征集是从所述第一样本集的特征中筛选出的对所述样本标签重要性高的特征的集合。
11.根据权利要求10所述的装置,其中,所述第二获取单元所获取的所述第一样本集的样本标签是由所述第一样本集和所述数据安全域中的第二样本集训练获得的第一模型而生成的;
或者,所述第二获取单元所获取的所述第一样本集的样本标签是由所述第一样本集的子集和所述数据安全域中的第二样本集训练获得的第一模型而生成的。
12.根据权利要求10所述的装置,其中,所述第二获取单元所获取的所述第一样本集的样本标签是由所述第一样本集和所述数据安全域中的第二样本集训练获得的第二模型生成、并对生成的标签进行变换而得到的;
或者,所述第二获取单元所获取的所述第一样本集的样本标签是由所述第一样本集的子集和所述数据安全域中的第二样本集训练获得的第二模型生成、并对生成的标签进行变换而得到的。
13.根据权利要求10所述的装置,其中,从第一样本集的特征中筛选出的对所述样本标签的重要性高的特征是基于所述第一样本集和所述样本标签训练获得的第三模型而得到的。
14.根据权利要求10所述的装置,其中,从第一样本集的特征中筛选出的对所述样本标签的重要性高的特征是基于第四模型为所述第一样本集中的特征分配的权重参数值而确定的;其中所述第四模型基于所述第一样本集和所述样本标签的训练而得到。
15.根据权利要求14所述的装置,其中,所述重要性高的特征是基于对所述权重参数值进行合理性检验得到的检验结果而确定的。
16.根据权利要求15所述的装置,其中,对为所述重要性高的特征分配的权重参数值的合理性检验而得到的检验结果低于预设阈值。
17.根据权利要求11或12所述的装置,其中,所述第一样本集的子集为所述第一样本集中的随机样本。
18.根据权利要求10所述的装置,还包括:
评估单元,用于基于所述目标特征集,对待评估对象的待评估标签进行评估;其中所述待评估标签用于反映所述待评估对象的指标等级。
19.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1至9中任一项所述的方法。
20.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1至9中任一项所述的方法。
21.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1至9中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210031311.9A CN114386506A (zh) | 2022-01-12 | 2022-01-12 | 特征筛选方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210031311.9A CN114386506A (zh) | 2022-01-12 | 2022-01-12 | 特征筛选方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114386506A true CN114386506A (zh) | 2022-04-22 |
Family
ID=81202483
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210031311.9A Pending CN114386506A (zh) | 2022-01-12 | 2022-01-12 | 特征筛选方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114386506A (zh) |
-
2022
- 2022-01-12 CN CN202210031311.9A patent/CN114386506A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112270547A (zh) | 基于特征构造的金融风险评估方法、装置和电子设备 | |
CN113837596A (zh) | 一种故障确定方法、装置、电子设备及存储介质 | |
CN113034046A (zh) | 一种数据风险计量方法、装置、电子设备及存储介质 | |
CN113127365A (zh) | 确定网页质量的方法、装置、电子设备和计算机可读存储介质 | |
CN110348999B (zh) | 金融风险敏感用户识别方法、装置及电子设备 | |
CN112328869A (zh) | 一种用户贷款意愿的预测方法、装置及计算机系统 | |
CN113610625A (zh) | 逾期风险警示方法、装置及电子设备 | |
CN116664306A (zh) | 风控规则的智能推荐方法、装置、电子设备及介质 | |
CN114327802B (zh) | 区块链访问链外数据的方法、装置、设备和介质 | |
CN115545481A (zh) | 一种风险等级确定方法、装置、电子设备及存储介质 | |
CN115601042A (zh) | 信息识别方法、装置、电子设备及存储介质 | |
CN114386506A (zh) | 特征筛选方法、装置、电子设备及存储介质 | |
CN113807391A (zh) | 任务模型的训练方法、装置、电子设备及存储介质 | |
CN114254028A (zh) | 事件属性抽取方法、装置、电子设备和存储介质 | |
CN114116688A (zh) | 数据处理与数据质检方法、装置及可读存储介质 | |
CN113052512A (zh) | 风险预测方法、装置和电子设备 | |
CN113010782A (zh) | 需求量获取方法、装置、电子设备以及计算机可读介质 | |
CN114565030B (zh) | 特征筛选方法、装置、电子设备和存储介质 | |
CN109634868A (zh) | 金融数据分析系统自动化测试结果的处理方法及装置 | |
CN113239296B (zh) | 小程序的展示方法、装置、设备和介质 | |
CN115034893A (zh) | 深度学习模型的训练方法、风险评估方法和装置 | |
CN115865409A (zh) | 一种代码风险检测方法、装置、设备及介质 | |
CN115757961A (zh) | 评价推荐算法模型的方法、装置、设备以及存储介质 | |
CN115904976A (zh) | 小程序的审核方法、装置、电子设备与可读存储介质 | |
CN114818892A (zh) | 一种信用等级确定方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |