CN113419727A - 一种深度学习训练过程数据转化为可视化数据方法和系统 - Google Patents

一种深度学习训练过程数据转化为可视化数据方法和系统 Download PDF

Info

Publication number
CN113419727A
CN113419727A CN202110691724.5A CN202110691724A CN113419727A CN 113419727 A CN113419727 A CN 113419727A CN 202110691724 A CN202110691724 A CN 202110691724A CN 113419727 A CN113419727 A CN 113419727A
Authority
CN
China
Prior art keywords
data
training process
visual
protobuf
visual data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110691724.5A
Other languages
English (en)
Inventor
胡胜健
杨非
王宏升
单海军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang Lab
Original Assignee
Zhejiang Lab
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang Lab filed Critical Zhejiang Lab
Priority to CN202110691724.5A priority Critical patent/CN113419727A/zh
Publication of CN113419727A publication Critical patent/CN113419727A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/30Creation or generation of source code
    • G06F8/38Creation or generation of source code for implementing user interfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/904Browsing; Visualisation therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Human Computer Interaction (AREA)
  • Electrically Operated Instructional Devices (AREA)

Abstract

本发明涉及深度学习技术领域,具体涉及一种深度学习训练过程数据转化为可视化数据方法和系统,该方法包括:步骤一,定义可视化数据类型:基于Protobuf以自定义或编写的文件名为xxx的Proto文件,生成包含同一文件名的xxx_pb2.py代码;步骤二,数据转化:Python端通过调用summary_xxx.py将相应的训练过程数据转化为可视化数据,并组装成Protobuf类型的message对象或者Json字符串,C++端通过调用event_writer_helper组件或者summary_converter.h将获取的训练过程数据根据不同的需求进行处理后转化为可视化数据,并组装成Protobuf类型的message对象;步骤三,数据生成:将Python端或C++端生成的可视化数据写入日志文件。本发明极大地方便了模型训练过程中对于训练中间结果的数据分析和异常处理,提高了模型训练的效率。

Description

一种深度学习训练过程数据转化为可视化数据方法和系统
技术领域
本发明涉及深度学习技术领域,具体涉及一种深度学习训练过程数据转化为可视化数据方法和系统。
背景技术
可视化(visualization),是指将一些格式化或者非格式化的数据,利用图、 表等方式,形象地呈现给用户的过程。可视化呈现的结果,可以形象地反映出数据的分布、演化、规模大小等特征,在计算机科学的数据处理,数据分析,深度学习等方面有着广泛的应用。在深度学习训练过程中,涉及并生成大量的训练相关数据,通过可视化的方式,可以直观的将训练过程的数据分布,深度神经网络特征,训练结果评估等信息呈现给深度学习开发者和用户。在深度学习训练过程中,数据由深度学习框架生成并管理,为了在一个可视化的前端对这些数据进行展示,我们需要对深度学习框架中产生的数据赋予相应的格式,并进行序列化处理,然后将序列化的数据交给可视化系统的后台解析,再将相应的数据展示到可视化系统的前端。
发明内容
为了解决现有技术中存在的上述技术问题,本发明提出了一种深度学习训练过程数据转化为可视化数据方法和系统,其具体技术方案如下:
一种深度学习训练过程数据转化为可视化数据方法,包括如下步骤:
步骤一,定义可视化数据类型:基于Protobuf以自定义或编写的文件名为xxx的Proto文件, 生成包含同一文件名的xxx_pb2.py代码;
步骤二,数据转化:Python端通过调用summary_xxx.py将相应的训练过程数据转化为可视化数据,并组装成Protobuf类型的message对象或者Json字符串,C++端通过调用event_writer_helper组件或者summary_converter.h将获取的训练过程数据根据不同的需求进行处理后转化为可视化数据,并组装成Protobuf类型的message对象;
步骤三,数据生成:将Python端或C++端处理完成的可视化数据,经过Protobuf的message对象首尾字符串的编码之后写入到日志文件。
优选的,所述Proto文件包括:summary.proto、graph.proto、tensor.proto、projector.proto和event.proto。
优选的,所述Python端通过调用summary_xxx.py将相应的训练过程数据转化为可视化数据,具体包括:
Python端调用summary_graph.py将从C++端获取到的计算图和结构图转化为对应的可视化数据;
Python端调用summary_hparams.py将用户输入的超参数转化为对应的可视化数据,并传到 C++端;
Python端调用summary_projector.py将C++端获取的训练过程数据转化为对应的降维分析和异常检测可视化数据;
所述C++端通过调用event_writer_helper组件或者summary_converter.h将获取的训练过程数据根据不同的需求进行处理后转化为可视化数据,具体包括:
C++端调用histogram.h将Python端传来的Tensor转化为对应的统计分析可视化数据;
C++端直接将其从Python端获取或者用户输入的标量数据和文本数据组装成Protobuf格式的消息转化为可视化数据;
C++端通过调用event_writer_helper组件,将图像数据的格式转换成NHWC的格式,然后将图像数据按batch维进行切割得到多个单独的Image并写入Protobuf,生成相应的可视化数据。
优选的,所述C++端通过调用summary_converter.h文件中的ConvertProtobufMsg2Json方法,将从C++端生成的计算图和结构图按字段进行筛选和简化重组,利用Protobuf的reflection特性,从Protobuf格式转换成对应的Json格式,并将转化的可视化数据传到Python端。
优选的,所述超参数包括:IntegerRange、RealRange、ValueSet以及 Metric,且超参数支持string、int、 double等内置类型。
优选的,所述步骤三,具体包括: Python端直接将message对象或者Json字符串写到可视化日志文件中;C++端将可视化数据的message对象,通过events_writer日志持久化组件写到可视化日志文件中。
一种深度学习训练过程数据转化为可视化数据系统,包括:
自定义或编写组件,用于自定义或编写 Proto文件xxx.proto,并基于Protobuf以Proto文件 xxx.proto为输入,生成包含同一文件名的xxx_pb2.py代码;
可视化数据转化组件,用于Python端通过调用summary_xxx.py将相应的训练过程数据转化为可视化数据,并组装成Protobuf类型的message对象或者Json字符串,C++端通过调用event_writer_helper组件或者summary_converter.h将获取到的训练过程数据根据不同的需求进行处理之后转化为可视化数据,并组装成Protobuf类型的message对象;
日志持久化组件,将Python端或C++端出来完成的可视化数据,经过Protobuf的message对象首尾字符串的编码之后写入到日志文件。
优选的,所述日志持久化组件还用于提供可视化日志文件的存储路径、来接收存储来自C++端多个线程处理生成的可视化数据的队列、mutex互斥量以及日志文件的创建、打开、刷新和关闭操作。
本发明的有益效果:
本发明能够将深度学习框架训练过程的数据进行筛选,分类,重组或计算,得到格式化的数据,从而可以提供给可视化前端进行训练过程数据实时可视化展示的效果,极大地方便了模型训练过程中对于训练中间结果的数据分析和异常处理,提高了模型训练的效率。
附图说明
图1是本发明系统的组件化结构示意图;
图2是本发明的系统原理示意图;
图3是本发明方法的详细流程示意图;
图4是本发明深度学习训练过程数据转化为可视化数据的数据格式示意图。
具体实施方式
为了使本发明的目的、技术方案和技术效果更加清楚明白,以下结合说明书附图,对本发明作进一步详细说明。
序列化(serialization)在计算机科学的资料处理中,是指将数据结构或对象状态转换成可取用格式(例如存成文件,存于缓冲,或经由网络中发送),以留待后续在相同或另一台计算机环境中,能恢复原先状态的过程。依照序列化格式重新获取字节的结果时,可以利用它来产生与原始对象相同语义的副本。现有主流序列化工具,类似 Protobuf 等工具,其支持跨平台、 跨语言,这些序列化工具已经在时间和空间上做了足够多的优化,具有空间开销小以及高解析性能等亮点。因此本发明中的数据采用 Protobuf作为格式化定义工具。
本发明提供了一种 Protobuf 中定义不同深度学习中格式化数据的数据格式,简称“Summary”,概括而言,其以 Protobuf 做为语言翻译中间工具,在数据结构定义文件(.proto文件)中定义Summary相关的数据结构。并且在深度学习框架例如OneFlow、TensorFlow等等中实现生成Summary所需的Op、Kernel和Python接口。
本发明提供了 Summary 格式的基于 Protobuf 的定义,即涉及到的深度学习框架中生成的数据格式,包括:神经网络结构图、计算图、标量数据、图像数据、文本数据、统计分析数据、超参数数据、降维分析数据以及异常检测数据的Summary格式Protobuf定义。
如图1所示,一种深度学习训练过程数据转化为可视化数据系统,包括:
自定义或编写组件,用于自定义或编写 Proto文件xxx.proto,并基于Protobuf以Proto文件 xxx.proto为输入,生成包含同一文件名的xxx_pb2.py代码。其中,所述Proto文件包括:summary.proto、graph.proto、tensor.proto、projector.proto和event.proto。
可视化数据转化组件,用于Python端通过调用summary_xxx.py将相应的训练过程数据转化为可视化数据,并组装成Protobuf类型的message对象或者Json字符串,C++端通过调用event_writer_helper组件或者summary_converter.h将获取到的训练过程数据根据不同的需求进行处理之后转化为可视化数据,并组装成Protobuf类型的message对象。
日志持久化组件,用于将C++端处理完成的可视化结构数据,经过Protobuf的message对象首尾字符串的编码之后写入到日志文件。所述日志持久化组件还用于提供一个可视化日志文件的存储路径logdir,一个队列queue即利用队列方式,来接收存储来自C++端多个线程处理生成的可视化数据,采用mutex互斥量来保证多线程读写可视化日志文件的正确性和一致性,及日志文件的创建、打开、刷新和关闭操作。
具体的,如图2和图3所示,一种深度学习训练过程数据转化为可视化数据方法和原理为:
C++端生成训练过程数据之后,组装成Protobuf格式的message传到Python端,Python端获取到训练过程数据后,可以:(1)直接将训练数据传回C++端,C++端利用event_writer_helper组件进行数据转化,然后利用events_writer日志持久化组件将数据写入可视化日志文件中;(2)利用summary_xxx.py将数据转化为格式化数据以Json或者Protobuf格式直接从python端写入可视化日志文件或者传到C++端,由events_writer日志持久化组件写入可视化日志文件。
Python端自定义数据,例如超参数,通过summary_xxx.py将数据转化为格式化数据以Json或者Protobuf格式直接从Python端写入可视化日志文件,或者传到C++端,由日志可视化组件写入可视化日志文件。
更具体的,静态图编译完成后,Python端调用summary_graph.py将从C++端获取到的计算图和结构图转化为对应的可视化数据,即:C++端生成计算图和结构图,调用summary_converter.h文件中的ConvertProtobufMsg2Json方法,将从C++端生成的计算图和结构图按字段进行筛选和简化重组,利用Protobuf的reflection特性,从Protobuf格式转换成对应的Json格式,并将转化的可视化数据传到Python端;
训练开始以后,Python端调用summary_hparams.py将用户输入的超参数转化为对应的可视化数据,并传到 C++端,即:通过调用summary_hparams.py创建神经网络需要的超参数,然后传到C++端组装成Protobuf格式的消息,再通过events_writer 组件将数据写入可视化日志文件;所述超参数包括:IntegerRange、RealRange、ValueSet以及 Metric,除此之外,超参数默认也支持string、int、 double等内置类型。
同时,Python端调用summary_projector.py将C++端获取的训练过程数据转化为对应的降维分析和异常检测可视化数据:C++端生成训练过程数据,Python端获取到该数据,即拿到Projector所需的降维或异常检测数据和标注,以及数据库名称、类型和内容,针对降维数据和异常数据,通过Python端拿到C++端生成的Tensor数据,分别重组成embedding_projector和exception_projector类型的数据,将数据、标注和数据库名称、类型和内容转化为二进制串,并组成 Protobuf类型的消息;
其它类型的数据传到C++端,C++端通过调用event_writer_helper组件处理数据,所述其他类型按照数据类型的不同,区分处理,具体为:
针对图像数据,通过Python端拿到C++端处理生成的图像数据:首先C++端接受到指向需要写入summary的某个batch的图像的指针,其中要求将PNG类型的图像数据转换成NHWC的格式;然后利用libpng库,将图像数据按batch维进行分割成得到多个单独的Image并序列化,组成Protobuf格式的消息。图像分割过程中,通过图像大小及batch大小,计算出图像在内存中存储的地址和长度,并将相应长度的数据转化为二进制串。
针对统计分析数据,C++端调用histogram.h将Python端传来的Tensor转化为对应的统计分析可视化数据,即:首先设置一个默认的数值分组方式,通过Python端拿到C++端生成的Tensor数据,然后组装成Protobuf对象后传入C++端处理,C++端通过遍历Tensor中的每个数据,即通过将Tensor中的每一个元素,根据默认设置的分组方式,分配到相应的分组,得到该Tensor中所有数据在各个分组中的所占的数量,从而统计得到该Tensor中所有数据在各个分组中的分布情况,最后将所有的分组以及 Tensor 中的值分布在这些分组内的数目统计完成后写入 Protobuf 中。
针对标量数据和文本数据,直接组装成Protobuf格式的消息,最后将通过events_writer组件写入到日志文件中。
如图4所示,本发明的Summary数据格式包括:SummaryNet,SummaryValue和SummaryProjector三个子类,分别表示计算图或结构图,简单数据和降维分析或异常检测数据格式。其中,SummaryNet格式包括:一个NetMetaData表示网络的元数据和一个或多个OperatorConf,每个OperatorConf表示一个神经网络计算图或结构图中的Op, 并保存该Op的相关信息。
SummaryValue格式包括:一个或多个Value类型的数据,其中,每个Value类型的数据包括一个ValueMetaData,表示该数据的元数据和一种类型的Value。 本发明支持四种类型的Value,包括:Image数据,用于图像数据格式存储;SimpleValue数据,用于标量数据格式存储;TensorProto数据,用于文本数据格式存储;HistogramProto数据,用于统计分析数据格式存储。
SummaryProjector格式包括:一个ProjectorMetaData表示Projector的元数据;一个可选的Sample数据,用于表示Sample的信息并包含一个人TensorProto用于Sample数据的存储;以及一个Projector类型的数据。
本发明支持两种类型的Projector,包括:Embedding,用于降维分析数据格式存储;Exception,用于异常检测数据格式存储。
以上所述,仅为本发明的优选实施案例,并非对本发明做任何形式上的限制。虽然前文对本发明的实施过程进行了详细说明,对于熟悉本领域的人员来说,其依然可以对前述各实例记载的技术方案进行修改,或者对其中部分技术特征进行同等替换。凡在本发明精神和原则之内所做修改、同等替换等,均应包含在本发明的保护范围之内。

Claims (8)

1.一种深度学习训练过程数据转化为可视化数据方法,其特征在于,包括如下步骤:
步骤一,定义可视化数据类型:基于Protobuf以自定义或编写的文件名为xxx的Proto文件, 生成包含同一文件名的xxx_pb2.py代码;
步骤二,数据转化:Python端通过调用summary_xxx.py将相应的训练过程数据转化为可视化数据,并组装成Protobuf类型的message对象或者Json字符串,C++端通过调用event_writer_helper组件或者summary_converter.h将获取的训练过程数据根据不同的需求进行处理后转化为可视化数据,并组装成Protobuf类型的message对象;
步骤三,数据生成:将Python端或C++端处理完成的可视化数据,经过Protobuf的message对象首尾字符串的编码之后写入到日志文件。
2.如权利要求1所述的一种深度学习训练过程数据转化为可视化数据方法,其特征在于,所述Proto文件包括:summary.proto、graph.proto、tensor.proto、projector.proto和event.proto。
3.如权利要求1所述的一种深度学习训练过程数据转化为可视化数据方法,其特征在于,所述python端通过调用summary_xxx.py将相应的训练过程数据转化为可视化数据,具体包括:
Python端调用summary_graph.py将从C++端获取到的计算图和结构图转化为对应的可视化数据;
Python端调用summary_hparams.py将用户输入的超参数转化为对应的可视化数据,并传到 C++端;
Python端调用summary_projector.py将C++端获取的训练过程数据转化为对应的降维分析和异常检测可视化数据;
所述C++端通过调用event_writer_helper组件或者summary_converter.h将获取的训练过程数据根据不同的需求进行处理后转化为可视化数据,具体包括:
C++端调用histogram.h将Python端传来的Tensor转化为对应的统计分析可视化数据;
C++端直接将其从Python端获取或者用户输入的标量数据和文本数据组装成Protobuf格式的消息转化为可视化数据;
C++端通过调用event_writer_helper组件,将图像数据的格式转换成NHWC的格式,然后将图像数据按batch维进行切割得到多个单独的Image并写入Protobuf,生成相应的可视化数据。
4.如权利要求3所述的一种深度学习训练过程数据转化为可视化数据方法,其特征在于,所述C++端通过调用summary_converter.h文件中的ConvertProtobufMsg2Json方法,将从C++端生成的计算图和结构图按字段进行筛选和简化重组,利用Protobuf的reflection特性,从Protobuf格式转换成对应的Json格式,并将转化的可视化数据传到Python端。
5. 如权利要求3所述的一种深度学习训练过程数据转化为可视化数据方法,其特征在于,所述超参数包括:IntegerRange、RealRange、ValueSet以及 Metric,且超参数支持string、int、 double等内置类型。
6. 如权利要求1所述的一种深度学习训练过程数据转化为可视化数据方法,其特征在于,所述步骤三,具体包括: Python端直接将message对象或者Json字符串写到可视化日志文件中;C++端将可视化数据的message对象,通过events_writer日志持久化组件写到可视化日志文件中。
7.一种深度学习训练过程数据转化为可视化数据系统,其特征在于,包括:
自定义或编写组件,用于自定义或编写 Proto文件xxx.proto,并基于Protobuf以Proto文件 xxx.proto为输入,生成包含同一文件名的xxx_pb2.py代码;
可视化数据转化组件,用于Python端通过调用summary_xxx.py将相应的训练过程数据转化为可视化数据,并组装成Protobuf类型的message对象或者Json字符串,C++端通过调用event_writer_helper组件或者summary_converter.h将获取到的训练过程数据根据不同的需求进行处理之后转化为可视化数据,并组装成Protobuf类型的message对象;
日志持久化组件,将Python端或C++端处理完成的可视化数据,经过Protobuf的message对象首尾字符串的编码之后写入到日志文件。
8.如权利要求7所述的一种深度学习训练过程数据转化为可视化数据系统,其特征在于,所述日志持久化组件还用于提供可视化日志文件的存储路径、来接收存储来自C++端多个线程处理生成的可视化数据的队列、mutex互斥量以及日志文件的创建、打开、刷新和关闭操作。
CN202110691724.5A 2021-06-22 2021-06-22 一种深度学习训练过程数据转化为可视化数据方法和系统 Pending CN113419727A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110691724.5A CN113419727A (zh) 2021-06-22 2021-06-22 一种深度学习训练过程数据转化为可视化数据方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110691724.5A CN113419727A (zh) 2021-06-22 2021-06-22 一种深度学习训练过程数据转化为可视化数据方法和系统

Publications (1)

Publication Number Publication Date
CN113419727A true CN113419727A (zh) 2021-09-21

Family

ID=77789893

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110691724.5A Pending CN113419727A (zh) 2021-06-22 2021-06-22 一种深度学习训练过程数据转化为可视化数据方法和系统

Country Status (1)

Country Link
CN (1) CN113419727A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114707654A (zh) * 2022-06-06 2022-07-05 浙江大学 基于人工智能框架的算法训练推理性能可视化方法及装置
CN114840597A (zh) * 2022-07-04 2022-08-02 杭州安恒信息技术股份有限公司 一种组件参数格式转换方法、装置、设备及存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109241141A (zh) * 2018-09-04 2019-01-18 北京百度网讯科技有限公司 深度学习的训练数据处理方法和装置
CN110460591A (zh) * 2019-07-26 2019-11-15 南京理工大学 基于改进分层时间记忆网络的cdn流量异常检测装置及方法
CN112199345A (zh) * 2020-10-28 2021-01-08 上海大学 深度学习训练实时可视化方法及装置
CN112379886A (zh) * 2020-11-30 2021-02-19 北京一流科技有限公司 数据格式转换系统及其方法
CN112667221A (zh) * 2020-11-10 2021-04-16 中国科学院计算技术研究所 基于深度学习开发ide的深度学习模型构建方法及系统
CN112685026A (zh) * 2020-12-25 2021-04-20 厦门渊亭信息科技有限公司 一种基于多语言的可视化建模平台和方法
CN112884021A (zh) * 2021-01-29 2021-06-01 之江实验室 一种面向深度神经网络可解释性的可视分析系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109241141A (zh) * 2018-09-04 2019-01-18 北京百度网讯科技有限公司 深度学习的训练数据处理方法和装置
CN110460591A (zh) * 2019-07-26 2019-11-15 南京理工大学 基于改进分层时间记忆网络的cdn流量异常检测装置及方法
CN112199345A (zh) * 2020-10-28 2021-01-08 上海大学 深度学习训练实时可视化方法及装置
CN112667221A (zh) * 2020-11-10 2021-04-16 中国科学院计算技术研究所 基于深度学习开发ide的深度学习模型构建方法及系统
CN112379886A (zh) * 2020-11-30 2021-02-19 北京一流科技有限公司 数据格式转换系统及其方法
CN112685026A (zh) * 2020-12-25 2021-04-20 厦门渊亭信息科技有限公司 一种基于多语言的可视化建模平台和方法
CN112884021A (zh) * 2021-01-29 2021-06-01 之江实验室 一种面向深度神经网络可解释性的可视分析系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
JACKALCOOPER: "oneflow-v0.4.0源码", 《HTTPS://GITHUB.COM/ONEFLOW-INC/ONEFLOW/RELEASES/TAG/V0.4.0》 *
佚名: "我不知道如何在ubuntu tensorflow-gpu上执行此操作", 《HTTPS://WWW.PYTHONHEIDONG.COM/BLOG/ARTICLE/361114/3C47A969A5A76D4DE59A/》 *
夜雨飘零1: "可视化工具VisualDL的使用", 《HTTPS://BLOG.CSDN.NET/QQ_33200967/ARTICLE/DETAILS/79127175》 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114707654A (zh) * 2022-06-06 2022-07-05 浙江大学 基于人工智能框架的算法训练推理性能可视化方法及装置
CN114707654B (zh) * 2022-06-06 2022-08-23 浙江大学 基于人工智能框架的算法训练推理性能可视化方法及装置
CN114840597A (zh) * 2022-07-04 2022-08-02 杭州安恒信息技术股份有限公司 一种组件参数格式转换方法、装置、设备及存储介质

Similar Documents

Publication Publication Date Title
Patel et al. Gestalt: integrated support for implementation and analysis in machine learning
CN113419727A (zh) 一种深度学习训练过程数据转化为可视化数据方法和系统
KR20120080572A (ko) 데이터세트 요소의 매핑
US20100050159A1 (en) System and process for debugging object-oriented programming code leveraging runtime metadata
JP2023509405A (ja) 翻訳方法、装置、電子機器及びコンピュータプログラム
CN111353754A (zh) 流程模板的生成方法、装置、电子设备及可读存储介质
Müller et al. Enhancing the visualization process with principal component analysis to support the exploration of trends
CN116775183A (zh) 基于大语言模型的任务生成方法、系统、设备及存储介质
Fachada et al. micompr: An R package for multivariate independent comparison of observations
CN117236677A (zh) 一种基于事件抽取的rpa流程挖掘方法及装置
Tenenberg et al. Students designing software: a multi-national, multi-institutional study
CN114270313A (zh) 一种计算机实现的方法、计算机程序以及物理计算环境
CN117236676A (zh) 一种基于多模态事件抽取的rpa流程挖掘方法和装置
US11775271B1 (en) Annotations for developers
JPH0916382A (ja) プログラム開発支援システム
US10186058B2 (en) Visualization of cross-pivoted data
CN114297052A (zh) 测试数据生成方法及装置
Denwood et al. Package ‘runjags’
CN117520209B (zh) 代码评审方法、装置、计算机设备和存储介质
CN117648430B (zh) 对话式大语言模型监督训练评价系统
CN117151117B (zh) 电网轻量级非结构化文档内容自动识别方法、装置及介质
CN111190872B (zh) 一种可继承可扩展的数据处理方法及其对解析日志的应用
Nuryadi et al. Sales Mobile Application Design in Handphone Store
WO2023157074A1 (ja) 教師データ生成補助装置、教師データ生成補助システム、教師データ生成方法及び非一時的なコンピュータ可読媒体
CN117407513A (zh) 基于大语言模型的提问处理方法、装置、设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20210921