CN117648931A - 一种代码审查方法、装置、电子设备及介质 - Google Patents
一种代码审查方法、装置、电子设备及介质 Download PDFInfo
- Publication number
- CN117648931A CN117648931A CN202311685210.4A CN202311685210A CN117648931A CN 117648931 A CN117648931 A CN 117648931A CN 202311685210 A CN202311685210 A CN 202311685210A CN 117648931 A CN117648931 A CN 117648931A
- Authority
- CN
- China
- Prior art keywords
- code
- model
- defect
- target
- inspected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 80
- 230000007547 defect Effects 0.000 claims abstract description 116
- 239000013598 vector Substances 0.000 claims abstract description 65
- 238000000605 extraction Methods 0.000 claims abstract description 31
- 230000008713 feedback mechanism Effects 0.000 claims abstract description 27
- 238000012549 training Methods 0.000 claims description 50
- 238000007689 inspection Methods 0.000 claims description 29
- 238000004590 computer program Methods 0.000 claims description 16
- 238000011156 evaluation Methods 0.000 claims description 14
- 238000004458 analytical method Methods 0.000 claims description 10
- 238000012545 processing Methods 0.000 claims description 10
- 238000012550 audit Methods 0.000 claims description 9
- 238000005516 engineering process Methods 0.000 claims description 7
- 238000012552 review Methods 0.000 claims description 5
- 238000012216 screening Methods 0.000 claims description 4
- 238000004891 communication Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 230000002787 reinforcement Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 238000005206 flow analysis Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000012634 fragment Substances 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 230000035772 mutation Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/092—Reinforcement learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/094—Adversarial learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Machine Translation (AREA)
Abstract
本发明公开了一种代码审查方法、装置、电子设备及介质，所述方法包括：对待审查代码的多模态数据进行语义提取，得到所述待审查代码对应的目标语义向量；将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果，所述代码审查模型由缺陷代码集对预设语言模型训练，并通过人类反馈机制进行优化得到。该方法通过将目标语义向量和待审查代码输入至代码审查模型中，直接得到待审查代码对应的目标审查结果，实现了对代码中缺陷的自动审查，同时提高了代码审查的适用范围。
Description
技术领域
本发明涉及计算机技术领域，尤其涉及一种代码审查方法、装置、电子设备及介质。
背景技术
代码审查的目的主要是确保代码具备一定的质量水平。
然而传统的代码审查方法通常以人工结合工具的方式开展，这一过程往往是持续的、耗时费力的，需要投入一定人力，且主要检测特定类型的缺陷，存在较大局限性。
发明内容
本发明提供了一种代码审查方法、装置、电子设备及介质，以实现自动审查代码中的缺陷，提高代码审查的适用范围。
根据本发明的一方面，提供了一种代码审查方法，所述方法包括：
对待审查代码的多模态数据进行语义提取，得到所述待审查代码对应的目标语义向量；
将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果，所述代码审查模型由缺陷代码集对预设语言模型训练，并通过人类反馈机制进行优化得到。
根据本发明的另一方面，提供了一种代码审查装置，包括：
语义提取模块，用于对待审查代码的多模态数据进行语义提取，得到所述待审查代码对应的目标语义向量；
输入模块，用于将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果，所述代码审查模型由缺陷代码集对预设语言模型训练，并通过人类反馈机制进行优化得到。
根据本发明的另一方面，提供了一种电子设备，所述电子设备包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例所述的代码审查方法。
根据本发明的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本发明任一实施例所述的代码审查方法。
本发明实施例提供了一种代码审查方法、装置、电子设备及介质，所述方法包括：对待审查代码的多模态数据进行语义提取，得到所述待审查代码对应的目标语义向量；将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果，所述代码审查模型由缺陷代码集对预设语言模型训练，并通过人类反馈机制进行优化得到。利用上述技术方案，通过将目标语义向量和待审查代码输入至代码审查模型中，直接得到待审查代码对应的目标审查结果，实现了对代码中缺陷的自动审查，同时提高了代码审查的适用范围。
应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是根据本发明实施例一提供的一种代码审查方法的流程图；
图2是根据本发明实施例一提供的一种提取目标语义向量的流程图；
图3是根据本发明实施例二提供的一种代码审查方法的流程图；
图4是根据本发明实施例二提供的一种生成缺陷代码集的流程图；
图5是根据本发明实施例二提供的一种优化代码审查模型的流程图；
图6是根据本发明实施例二提供的一种代码审查方法的整体流程图；
图7是根据本发明实施例三提供的一种代码审查装置的结构示意图；
图8是根据本发明实施例四提供的一种电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。
需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“原始”、“目标”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1是根据本发明实施例一提供的一种代码审查方法的流程图，本实施例可适用于对代码进行审查的情况，该方法可以由代码审查装置来执行，该代码审查装置可以采用硬件和/或软件的形式实现，该代码审查装置可配置于电子设备中。
可以认为的是，由于代码调试对于程序开发至关重要，因为几乎所有大型软件都需要不断调试，才能最大程度上避免出错。但是对于绝大多数开发人员来说，这个过程不仅非常耗时，而且大部分调试只能手工作业。因为修复一个软件缺陷可能需要几天、几周甚至几个月的时间，据估计，多达50％的软件开发时间花在调试程序上。这是因为大多数错误都需要语义分析来识别、评估根本原因，即使是最先进的调试系统也难以有效执行这种分析。故代码审查的目的是确保代码具备一定的质量水平。
传统的代码审查方法主要是静态分析法，如污点分析、取值分析、数据流分析等，强依赖于专家经验和检验规则。往往采用数据流分析、机器学习、语义精简等技术，以人工配合静态程序分析工具来进行，对源代码进行分析找出死锁、空指针、资源泄露、缓冲区溢出、安全漏洞、竞态条件等缺陷。即此类审查方法通常以人工结合工具的方式开展，这一过程往往是持续的、耗时费力的，需要投入一定人力，且往往局限于检测特定类型的缺陷。
此外，采用基于频谱的方法和基于变异测试的方法，需要针对程序编写测试用例，存在较大局限性。现有的基于深度学习的方法，需要大规模的有标注缺陷代码数据集，然而缺陷代码数据的收集较为困难，标注时需要较强的专业性、难度较大。无论是采用有监督学习、自监督学习、小样本学习等训练方式或技巧，也难以缓解数据集缺乏带来的问题；同时，得到的模型往往不能反映人类的偏好，只能从数据中学习到特定范围内的模式，并且严重受限于数据的质量。
基于此，本发明提出一种代码审查方法，能够自动审查出代码中存在的缺陷，不受编程语言类型的限制；相比于人工收集能够增加训练数据的多样性和丰富性，增强了审查能力；此外，通过人类反馈强化学习、对抗训练，迫使审查模块能够模拟代码专家的审查偏好，检测结果更符合实际需求；线上运行阶段获取用户反馈，通过强化学习持续不断改善系统审查能力。如图1所示，该方法包括：
S110、对待审查代码的多模态数据进行语义提取，得到所述待审查代码对应的目标语义向量。
目标语义向量可以是指待审查代码对应的语义向量。
本步骤可以通过对待审查代码的多模态数据进行语义提取，来得到目标语义向量，具体语义提取的方式不限，如可以通过将待审查代码的多模态数据输入至提取模型中来得到对应的语义向量，也可以通过其他方式来得到待审查代码对应的目标语义向量。
在一个实施例中，所述对待审查代码的多模态数据进行语义提取，得到所述待审查代码对应的目标语义向量，包括：
对待审查代码的多模态数据进行词法语法分析，生成所述待审查代码的抽象语法树；
分别采用Code2Vec技术和图注意力模型对所述抽象语法树进行处理，得到第一语义特征和第二语义特征；
将所述第一语义特征和所述第二语义特征进行融合，得到所述待审查代码对应的语义向量。
第一语义特征和第二语义特征可以认为是分别采用Code2Vec技术和图注意力模型对述抽象语法树进行处理，得到的不同语义特征。
图2是根据本发明实施例一提供的一种提取目标语义向量的流程图，如图2所示，首先可以对待审查代码进行程序切片、代码格式化等前处理操作得到待审查代码的多模态数据，再通过词法分析、语法分析，生成抽象语法树、控制流图、程序依赖图，然后利用Code2Vec技术和图注意力模型分别得到不同的语义特征，通过进行语义特征融合来得到包含代码语义信息的语义向量，该向量可以作为后续模块的补充输入。
S120、将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果，所述代码审查模型由缺陷代码集对预设语言模型训练，并通过人类反馈机制进行优化得到。
代码审查模型可以用于对待审查代码进行审查，得到对应的目标审查结果，在本实施例中，代码审查模型可以由缺陷代码集对预设语言模型训练，并通过人类反馈机制进行优化得到，此处不对生成代码审查模型的具体步骤作进一步展开。
通过对待审查代码的多模态数据进行语义提取，得到目标语义向量之后，可以将所得到的目标语义向量和待审查代码一同输入至代码审查模型中，以得到待审查代码对应的目标审查结果，
在一个实施例中，在所述将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果之后，还包括：
收集所述目标审查结果的用户评分信息，并基于所述用户评分信息优化所述代码审查模型。
在一个实施方式中，可以持续收集用户对目标审查结果的评分信息，从而可以通过所收集的用户评分信息来进一步优化代码审查模型，在此基础上，通过持续引入人类反馈信息来优化代码审查模块，进一步完善了代码审查模块的审查能力。
本发明实施例一提供的一种代码审查方法，对待审查代码的多模态数据进行语义提取，得到所述待审查代码对应的目标语义向量；将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果，所述代码审查模型由缺陷代码集对预设语言模型训练，并通过人类反馈机制进行优化得到。利用该方法，通过将目标语义向量和待审查代码输入至代码审查模型中，直接得到待审查代码对应的目标审查结果，实现了对代码中缺陷的自动审查，同时提高了代码审查的适用范围。
实施例二
图3是根据本发明实施例二提供的一种代码审查方法的流程图，本实施例二在上述各实施例的基础上进行优化。在本实施例中，将在所述将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果之前的情况进一步具体化为：基于缺陷代码集对预设语言模型进行训练，生成初步审查模型；通过人类反馈机制对所述初步审查模型进行优化，得到代码审查模型。
本实施例尚未详尽的内容请参考实施例一。
如图3所示，该方法包括：
S210、对待审查代码的多模态数据进行语义提取，得到所述待审查代码对应的目标语义向量。
S220、基于缺陷代码集对预设语言模型进行训练，生成初步审查模型。
初步审查模型可以是指基于缺陷代码集对预设语言模型进行初步训练来生成的审查模型；缺陷代码集可以为包含多个缺陷代码的集合，具体来源不作限定，如可以由人工生成，也可以是通过缺陷代码生成模型批量所得。
在一个实施例中，所述基于缺陷代码集对预设语言模型进行训练，生成初步审查模型，包括：
对缺陷代码集进行语义提取，得到所述缺陷代码集对应的原始语义向量；
基于所述原始语义向量、原始缺陷类型和所述缺陷代码集对预设语言模型进行训练，生成初步审查模型，并输出所述缺陷代码集的初步审查结果。
原始缺陷类型可以为预先指定的缺陷类型，由相关人员进行配置。
S230、通过人类反馈机制对所述初步审查模型进行优化，得到代码审查模型。
通过上述步骤得到初步审查模型后，可以通过引入人类反馈机制来对初步审查模型进行优化，以此得到代码审查模型。
在一个实施例中，所述通过人类反馈机制对所述初步审查模型进行优化，得到代码审查模型，包括：
通过人类反馈机制对所述初步审查结果进行评价打分，得到评价结果；
采用对抗训练方法根据所述评价结果对所述初步审查模型进行优化，得到代码审查模型。
在一个实施方式中，可以通过人类反馈机制对上步骤的初步审查结果进行评价打分，并采用对抗训练方法根据评价结果对初步审查模型进行优化，从而得到代码审查模型。
S240、将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果。
本发明实施例二提供的一种代码审查方法，对待审查代码的多模态数据进行语义提取，得到所述待审查代码对应的目标语义向量；基于缺陷代码集对预设语言模型进行训练，生成初步审查模型；通过人类反馈机制对所述初步审查模型进行优化，得到代码审查模型；将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果。利用该方法，通过基于缺陷代码集对预设语言模型进行初步训练，并通过人类反馈机制对初步审查模型进行优化，得到最终的代码审查模型，为后续准确得到目标审查结果提供了基础，进一步提高了目标审查结果的准确性。
在一个实施例中，在所述基于缺陷代码集对预设语言模型进行训练，生成初步审查模型之前，还包括：
利用从基于原始代码段生成缺陷代码集，所述缺陷代码生成模型由transformer构建的语言模型组成。
缺陷代码生成模型可以是指由transformer构建的语言模型组成的模型，用于生成缺陷代码。原始代码段可以从各种代码库中获取的原始代码，具体来源不限。
可以认为的是，在生成初步审查模型之前需要获取大量的训练数据，如本实施例可以利用缺陷代码生成模型基于原始代码段来生成所需要的缺陷代码集，示例性的，可以通过提取原始代码段的语义向量，并将所提取的语义向量、随机的缺陷类型和原始代码段输入至缺陷代码生成模型，以此得到一系列的缺陷代码。
进一步地，本实施例还可以引入人类反馈机制和对抗训练方法来对缺陷代码生成模型进行持续优化，以增强缺陷代码生成模型的可靠性。
在一个实施例中，在所述利用缺陷代码生成模型基于原始代码段生成缺陷代码集之后，还包括：
通过人类反馈机制对所述缺陷代码集进行评价打分，得到打分结果；
采用对抗训练方法根据所述打分结果对所述缺陷代码生成模型进行优化，得到优化后的缺陷代码生成模型。
图4是根据本发明实施例二提供的一种生成缺陷代码集的流程图，如图4所示，首先可以在大型代码文本数据集上进行预训练，得到N个初始模型T1...N，然后使用人工收集标注的缺陷数据集对初始模型进行有监督训练精调，得到M个精调模型A1...M，用于参与后续模块中的网络模型的训练。
预训练的训练目标可以使用下一句预测任务、给定K个单词预测下一个单词任务、代码问答任务、替换Token检测任务。预训练数据集可以收集自github、web和行内自有代码库，无需人工标注。
有监督训练可以使用改进的掩码语言建模任务作为训练目标，给定屏蔽掉缺陷代码语句的代码段和缺陷类型，模型填充相应语句使代码段存在目标类型的缺陷。有监督训练采用的缺陷代码数据集可以收集自github问题、提交等场景，由代码专家进行标注。
在得到一组预训练模型和有监督精调模型后，可以从github库采样代码段，通过代码语义提取模块提取语义向量，与随机的缺陷类型、编程语言类型一同构成模块输入文本，模块中的M个微调模型A1...M和N个预训练模型T1...N共生成N+M个缺陷代码段。由此得到N+M个<语义向量+缺陷类型+编程语言类型，缺陷代码段>问答文本，参与标注的代码专家从生成代码的合理性、缺陷正确性等维度对其进行筛选、评分排序，并加入专家填写的标准问答文本答案，得到L个问答文本(L<＝N+M+1)。重复这一过程，收集得到评分排序数据集1。
图5是根据本发明实施例二提供的一种优化代码审查模型的流程图，如图5所示，代码审查模型可以包含基于Transformer构建的语言模型，同样可以经过上述图4的预训练和有监督精调。进一步地，该模块的输入可以包括：根据缺陷代码生成模型生成的缺陷代码段提取的语义向量、缺陷类型、缺陷代码段，输出可以为对缺陷代码即时生成模块生成的缺陷代码的评分r1、K组预测的缺陷代码位置。K表示缺陷种类。
代码审查模块输出的K组预测的缺陷代码位置和类型，可以由标注专家就定位准确性、类准确性等方面评分、排序，并收集得到评分排序数据集2。对抗训练时，L个问答文本每两个为一组，对于缺陷代码生成及其评分可以采用对抗损失和Pair-wise损失进行训练。
其中，审查评价模块，可以对代码审查模块所做的缺陷位置、缺陷类型预测进行打分，得到r2。同时，对抗训练时，对于代码缺陷定位、分类和审查评价可以采用对抗损失和Point-wise损失进行训练。
图6是根据本发明实施例二提供的一种代码审查方法的整体流程图，如图6所示，代码审查方法可以由基于Transformer和RLHF的自动化代码审查系统所执行，该系统可以包含五个模块：代码语义提取模块、缺陷代码即时生成模块、代码审查模块、审查评价模块、用户反馈模块。其中，缺陷代码即时生成模块和审查评价模块可以应用于在线训练阶段，用户反馈模块可以应用于线上运行阶段，代码语义提取模块和代码审查模块作为核心模块可以应用于全阶段。
具体的，代码语义提取模块可以从经过代码预处理流程获取的多模态数据中提取代码语义向量，该向量将作为缺陷代码即时生成模块和代码审查模块的补充输入信息。在线训练阶段，本发明可以通过缺陷代码即时生成模块随机生成大量缺陷代码，用于训练代码审查模块；代码审查模块学习从生成的缺陷代码中定位和分类缺陷的能力，并对生成的缺陷代码进行评分。审查评价模块可以对代码审查模块的审查结果进行评分。缺陷代码即时生成模块可以与代码审查模块、代码审查模块与审查评价模块，形成两组对抗关系，在训练过程中互相促进提升，并且两个评分模块处可以均引入了人类反馈机制，通过强化学习来迫使模型学习人类代码专家的代码偏好。在线应用阶段，缺陷代码即时生成模块可以下线，用户反馈模块替代审查评价模块可以上线，该模块收集用户对代码审查模块的反馈评分，可以通过强化学习持续不断优化代码审查模块的缺陷检测能力。
通过上述描述可以发现，本发明实施例二提供的一种代码审查方法，能够将代码视为对话文本的内容，采用Code2Vec和图注意力模型融合抽象语法树、控制流图和程序依赖图等编程语言语法特性无关的多模态信息，从而提取语义向量来表征与特定编程语言无关的代码片段语义特征，不针对特定编程语言，具有较好的可拓展性和通用性。
同时，通过使用缺陷代码生成模型来自动生成代码审查模块的训练数据，解决了训练阶段缺陷代码数据集获取难、标注难的问题，大大减轻了缺陷代码数据收集和标注的工作量，并且相比于人工收集能够增加训练数据的多样性和丰富性，增强系统审查能力。
此外，本实施例还通过人类反馈强化学习、对抗训练，迫使审查模块能够模拟代码专家的审查偏好，检测结果更符合实际需求。线上运行阶段获取用户反馈，通过强化学习持续不断改善系统审查能力。
实施例三
图7是根据本发明实施例三提供的一种代码审查装置的结构示意图。如图7所示，该装置包括：
语义提取模块310，用于对待审查代码的多模态数据进行语义提取，得到所述待审查代码对应的目标语义向量；
输入模块320，用于将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果，所述代码审查模型由缺陷代码集对预设语言模型训练，并通过人类反馈机制进行优化得到。
本发明实施例三提供的一种代码审查装置，通过语义提取模块对待审查代码的多模态数据进行语义提取，得到所述待审查代码对应的目标语义向量；通过输入模块将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果，所述代码审查模型由缺陷代码集对预设语言模型训练，并通过人类反馈机制进行优化得到。利用该装置，通过将目标语义向量和待审查代码输入至代码审查模型中，直接得到待审查代码对应的目标审查结果，实现了对代码中缺陷的自动审查，同时提高了代码审查的适用范围。
可选的，本发明实施例三提供的一种代码审查装置，还包括：
审查模型生成模块，用于在所述将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果之前，基于缺陷代码集对预设语言模型进行训练，生成初步审查模型；
第一优化模块，用于在所述将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果之前，通过人类反馈机制对所述初步审查模型进行优化，得到代码审查模型。
可选的，审查模型生成模块具体用于：
对缺陷代码集进行语义提取，得到所述缺陷代码集对应的原始语义向量；
基于所述原始语义向量、原始缺陷类型和所述缺陷代码集对预设语言模型进行训练，生成初步审查模型，并输出所述缺陷代码集的初步审查结果。
可选的，优化模块具体用于：
通过人类反馈机制对所述初步审查结果进行评价打分，得到评价结果；
采用对抗训练方法根据所述评价结果对所述初步审查模型进行优化，得到代码审查模型。
可选的，本发明实施例三提供的一种代码审查装置，还包括：
代码生成模块，用于在所述基于缺陷代码集对预设语言模型进行训练，生成初步审查模型之前，利用缺陷代码生成模型基于原始代码段生成缺陷代码集，所述缺陷代码生成模型由transformer构建的语言模型组成。
可选的，语义提取模块310具体用于：
对待审查代码的多模态数据进行词法语法分析，生成所述待审查代码的抽象语法树；
分别采用Code2Vec技术和图注意力模型对所述抽象语法树进行处理，得到第一语义特征和第二语义特征；
将所述第一语义特征和所述第二语义特征进行融合，得到所述待审查代码对应的语义向量。
可选的，本发明实施例三提供的一种代码审查装置，还包括：
第二优化模块，用于在所述将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果之后，收集所述目标审查结果的用户评分信息，并基于所述用户评分信息优化所述代码审查模型。
本发明实施例所提供的代码审查装置可执行本发明任意实施例所提供的代码审查方法，具备执行方法相应的功能模块和有益效果。
实施例四
图8是根据本发明实施例四提供的一种电子设备的结构示意图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图8所示，电子设备10包括至少一个处理器11，以及与至少一个处理器11通信连接的存储器，如只读存储器(ROM)12、随机访问存储器(RAM)13等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序，来执行各种适当的动作和处理。在RAM 13中，还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15，包括：输入单元16，例如键盘、鼠标等；输出单元17，例如各种类型的显示器、扬声器等；存储单元18，例如磁盘、光盘等；以及通信单元19，例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理，例如代码审查方法。
在一些实施例中，代码审查方法可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元18。在一些实施例中，计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时，可以执行上文描述的代码审查方法的一个或多个步骤。备选地，在其他实施例中，处理器11可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行代码审查方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在电子设备上实施此处描述的系统和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。
Claims (10)
1.一种代码审查方法，其特征在于，所述方法包括：
对待审查代码的多模态数据进行语义提取，得到所述待审查代码对应的目标语义向量；
将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果，所述代码审查模型由缺陷代码集对预设语言模型训练，并通过人类反馈机制进行优化得到。
2.根据权利要求1所述的方法，其特征在于，在所述将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果之前，还包括：
基于缺陷代码集对预设语言模型进行训练，生成初步审查模型；
通过人类反馈机制对所述初步审查模型进行优化，得到代码审查模型。
3.根据权利要求2所述的方法，其特征在于，所述基于缺陷代码集对预设语言模型进行训练，生成初步审查模型，包括：
对缺陷代码集进行语义提取，得到所述缺陷代码集对应的原始语义向量；
基于所述原始语义向量、原始缺陷类型和所述缺陷代码集对预设语言模型进行训练，生成初步审查模型，并输出所述缺陷代码集的初步审查结果。
4.根据权利要求3所述的方法，其特征在于，所述通过人类反馈机制对所述初步审查模型进行优化，得到代码审查模型，包括：
通过人类反馈机制对所述初步审查结果进行评价打分，得到评价结果；
采用对抗训练方法根据所述评价结果对所述初步审查模型进行优化，得到代码审查模型。
5.根据权利要求2所述的方法，其特征在于，在所述基于缺陷代码集对预设语言模型进行训练，生成初步审查模型之前，还包括：
利用缺陷代码生成模型基于原始代码段生成缺陷代码集，所述缺陷代码生成模型由transformer构建的语言模型组成。
6.根据权利要求1所述的方法，其特征在于，所述对待审查代码的多模态数据进行语义提取，得到所述待审查代码对应的目标语义向量，包括：
对待审查代码的多模态数据进行词法语法分析，生成所述待审查代码的抽象语法树；
分别采用Code2Vec技术和图注意力模型对所述抽象语法树进行处理，得到第一语义特征和第二语义特征；
将所述第一语义特征和所述第二语义特征进行融合，得到所述待审查代码对应的语义向量。
7.根据权利要求1所述的方法，其特征在于，在所述将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果之后，还包括：
收集所述目标审查结果的用户评分信息，并基于所述用户评分信息优化所述代码审查模型。
8.一种代码审查装置，其特征在于，包括：
语义提取模块，用于对待审查代码的多模态数据进行语义提取，得到所述待审查代码对应的目标语义向量；
输入模块，用于将所述目标语义向量和所述待审查代码输入至代码审查模型中，得到所述待审查代码对应的目标审查结果，所述代码审查模型由缺陷代码集对预设语言模型训练，并通过人类反馈机制进行优化得到。
9.一种电子设备，其特征在于，所述电子设备包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的代码审查方法。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的代码审查方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311685210.4A CN117648931A (zh) | 2023-12-08 | 2023-12-08 | 一种代码审查方法、装置、电子设备及介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311685210.4A CN117648931A (zh) | 2023-12-08 | 2023-12-08 | 一种代码审查方法、装置、电子设备及介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN117648931A true CN117648931A (zh) | 2024-03-05 |
Family
ID=90049271
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202311685210.4A Pending CN117648931A (zh) | 2023-12-08 | 2023-12-08 | 一种代码审查方法、装置、电子设备及介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN117648931A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN118069111A (zh) * | 2024-04-12 | 2024-05-24 | 南京感动科技有限公司 | 一种基于llm的代码优化系统及方法 |
| CN118246556A (zh) * | 2024-05-28 | 2024-06-25 | 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) | 一种基于强化学习的类型推断方法及装置 |
-
2023
- 2023-12-08 CN CN202311685210.4A patent/CN117648931A/zh active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN118069111A (zh) * | 2024-04-12 | 2024-05-24 | 南京感动科技有限公司 | 一种基于llm的代码优化系统及方法 |
| CN118246556A (zh) * | 2024-05-28 | 2024-06-25 | 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) | 一种基于强化学习的类型推断方法及装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10830817B2 (en) | Touchless testing platform | |
| CN109766540B (zh) | 通用文本信息提取方法、装置、计算机设备和存储介质 | |
| CN111459799B (zh) | 一种基于Github的软件缺陷检测模型建立、检测方法及系统 | |
| CN117648931A (zh) | 一种代码审查方法、装置、电子设备及介质 | |
| Levin et al. | The co-evolution of test maintenance and code maintenance through the lens of fine-grained semantic changes | |
| CN110781673B (zh) | 文档验收方法、装置、计算机设备及存储介质 | |
| CN112416778A (zh) | 测试用例推荐方法、装置和电子设备 | |
| CN113138920A (zh) | 基于知识图谱与语义角色标注的软件缺陷报告分派方法及装置 | |
| CN117331836A (zh) | 一种基于代码语法树分析的评测方法 | |
| CN112989797B (zh) | 模型训练、文本扩展方法，装置，设备以及存储介质 | |
| CN113778875A (zh) | 一种系统测试缺陷分类方法、装置、设备及存储介质 | |
| CN117724980A (zh) | 软件框架性能的测试方法、装置、电子设备和存储介质 | |
| CN116150394A (zh) | 用于知识图谱的知识抽取方法、装置、存储介质和设备 | |
| CN115830419A (zh) | 一种数据驱动式人工智能技术评测系统及方法 | |
| CN115983191A (zh) | 测试点验证方法及相关装置 | |
| CN112507082B (zh) | 一种智能识别不当文本交互的方法、装置和电子设备 | |
| CN111209214B (zh) | 代码测试处理方法、装置、电子设备及介质 | |
| Abbruzzese et al. | REMOAC: A retroactive explainable method for OCR anomalies correction in legal domain | |
| CN117931657A (zh) | 一种静态代码性能分析方法、装置、电子设备及存储介质 | |
| CN117688441A (zh) | 代码缺陷分类方法、装置、电子设备及存储介质 | |
| CN116225933A (zh) | 程序代码审查方法及审查装置 | |
| CN117290242A (zh) | 测试用例评审报告的生成方法、装置及电子设备 | |
| North et al. | Code Gradients: Towards Automated Traceability of LLM-Generated Code | |
| CN117992341A (zh) | 测试报告的缺陷补充方法、设备及存储介质 | |
| CN118051439A (zh) | Api自动测试用例生成方法、装置、电子设备及可读介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |