CN112199345A - 深度学习训练实时可视化方法及装置 - Google Patents

深度学习训练实时可视化方法及装置 Download PDF

Info

Publication number
CN112199345A
CN112199345A CN202011174990.2A CN202011174990A CN112199345A CN 112199345 A CN112199345 A CN 112199345A CN 202011174990 A CN202011174990 A CN 202011174990A CN 112199345 A CN112199345 A CN 112199345A
Authority
CN
China
Prior art keywords
visualization
data
data file
real
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011174990.2A
Other languages
English (en)
Inventor
丁雪海
张庆杰
童维勤
支小莉
庄万德
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Shanghai for Science and Technology
Original Assignee
University of Shanghai for Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Shanghai for Science and Technology filed Critical University of Shanghai for Science and Technology
Priority to CN202011174990.2A priority Critical patent/CN112199345A/zh
Publication of CN112199345A publication Critical patent/CN112199345A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10File systems; File servers
    • G06F16/18File system types
    • G06F16/1805Append-only file systems, e.g. using logs or journals to store data
    • G06F16/1815Journaling file systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/80Information retrieval; Database structures therefor; File system structures therefor of semi-structured data, e.g. markup language structured data such as SGML, XML or HTML
    • G06F16/83Querying
    • G06F16/838Presentation of query results
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

一种深度学习训练实时可视化方法及装置,所述方法包括:在完成神经网络的当前次模型训练后,将所述当前次模型训练使用的网络模型参数写入至json数据文件日志;读取所述json数据文件日志中的数据;采用预设的可视化工具实时展示所述json数据文件日志中最新更新的数据。上述方案能够在深度学习训练过程中实时可视化地展示网络模型参数。

Description

深度学习训练实时可视化方法及装置
技术领域
本发明涉及数据处理技术领域,尤其涉及一种深度学习训练实时可视化方法及装置。
背景技术
近年来,随着深度学习的发展,深度神经网络对机器学习研究和应用领域产生了巨大的影响,深度学习也被广泛应用在各种产品中。与此同时,深度学习模型仍然有着“黑盒”的特性,人们一直致力于更透彻地去理解其中复杂的过程。因此,现有技术中,研究人员提出了可视化的方法并且开发了相应的可视化工具,便于研发人员和用户理解神经网络。
然而,现有的可视化方法无法实时展示深度学习训练过程中的参数。
发明内容
本发明解决的技术问题是无法在深度学习训练过程中实时可视化地展示网络模型参数。
为解决上述技术问题,本发明实施例提供一种深度学习训练实时可视化方法,包括:在完成神经网络的当前次模型训练后,将所述当前次模型训练使用的网络模型参数写入至json数据文件日志;读取所述json数据文件日志中的数据;采用预设的可视化工具实时展示所述json数据文件日志中最新更新的数据。
可选的,所述网络模型参数包括神经元特征图;所述采用预设的可视化工具实时展示所述json数据文件日志中最新更新的数据,包括:从所述json数据文件日志中最新更新的数据中,获取所述神经网络每一层的输出层输出的相应高维度张量;采用预设的可视化工具,对所述相应高维度张量对应的特征图进行实时可视化展示。
可选的,所述网络模型参数包括标量数据;所述采用预设的可视化工具实时展示所述json数据文件日志中最新更新的数据,包括:从所述json数据文件日志中最新更新的数据中,获取待可视化的目标标量数据;将所述目标标量数据转换为json格式数据,并将所述json格式数据写入至指定目录;采用所述可视化工具读取所述指定目录中的数据文件,并将所述数据文件转换为指定格式数据;通过所述可视化工具展示所述指定格式数据,以将所述目标标量数据可视化。
可选的,所述深度学习训练实时可视化方法还包括:采用预设的可视化工具实时展示当前次模型训练过程中的资源占用。
可选的,所述采用预设的可视化工具实时展示当前次模型训练过程中的资源占用,包括:计算所述神经网络中每个神经元变量的大小;根据所述每个神经元变量的大小,计算在当前次模型训练过程中所占用的显存大小;采用所述可视化工具实时展示所述当前次模型训练过程中所占用的显存大小。
可选的,所述可视化工具基于Express框架构建,且所述可视化工具包括以下至少一种显示界面:迭代过程可视化、标量数据可视化页面以及数据降维可视化页面。
可选的,所述可视化工具由多个子模块组成,不同子模块分别对应不同的实现功能。
可选的,所述将所述当前次模型训练使用的网络模型参数写入至json数据文件日志,包括:将所述当前次模型训练使用的网络模型参数存放至目标目录,所述目标目录包括以下至少一种:特征图存放目录、滤波器可视化存放目录、标量数据存放目录以及降维数据存放目录。
为解决上述技术问题,本发明实施例还提供了一种深度学习训练实时可视化装置,包括:文件生成单元,用于在完成神经网络的当前次模型训练后,将所述当前次模型训练使用的网络模型参数写入至json数据文件日志;读取单元,用于读取所述json数据文件日志中的数据;可视化控制单元,采用预设的可视化工具实时展示所述json数据文件日志中最新更新的数据。
与现有技术相比,本发明实施例的技术方案具有以下有益效果:
在完成一次神经网络的模型训练后,将当前次模型训练使用的网络模型参数写入至json数据文件日志中,对json数据文件日志进行更新。读取json数据文件日志,从中获取最新更新的数据,并采用可视化工具实时展示最新更新的数据,从而能够将当前次模型训练过程的网络模型参数进行实时的可视化展示。
附图说明
图1是本发明实施例一种深度学习训练实时可视化方法的流程图;
图2是本发明实施例一种深度学习训练实时可视化装置的结构示意图。
具体实施方式
现有技术中,神经网络的可视化主要集中在训练结果的可视化、网络结构的可视化等领域。在进行模型训练的过程中,无法实时地实时展示深度学习训练过程中的参数变化。
在本发明实施例中,在完成一次神经网络的模型训练后,将当前次模型训练使用的网络模型参数写入至json数据文件日志中,对json数据文件日志进行更新。读取json数据文件日志,从中获取最新更新的数据,并采用可视化工具实时展示最新更新的数据,从而能够将当前次模型训练过程的网络模型参数进行实时的可视化展示。
为使本发明的上述目的、特征和优点能够更为明显易懂,下面结合附图对本发明的具体实施例做详细的说明。
本发明实施例提供了一种深度学习训练实时可视化方法,参照图1,以下通过具体步骤进行详细说明。
步骤S101,在完成神经网络的当前次模型训练后,将当前次模型训练使用的网络模型参数写入至json数据文件日志。
在具体实施中,神经网络的训练过程通常包括多轮训练。在本发明实施例中,在神经网络的训练过程中,在完成一次模型训练后,即可获取当前次模型训练使用的网络模型参数。在获取到当前次模型训练使用的网络模型参数之后,可以将其写入至json数据文件日志中。
在本发明实施例中,可以调用tensor board的参数提取功能,将当前次模型训练训练使用的网络模型参数写入至json数据文件日志中。
步骤S102,读取所述json数据文件日志中的数据。
在具体实施中,服务器可以定时轮询的方式读取json数据文件日志。例如,预先设定服务器轮询json数据文件日志的周期为100ms。服务器也可以在检测到当前次模型训练完成后读取json数据文件日志。
在具体实施中,每次模型训练完成后,在该次模型训练过程中所使用的网络模型参数均可以写入至json数据文件日志中。因此,json数据文件日志中可以包括多次模型训练对应的网络模型参数。
在本发明实施例中,由于所要可视化的是当前次模型训练过程中的网络模型参数,因此,可以仅从json数据文件日志中读取当前次模型训练使用的网络模型参数。由于每一次模型训练完成后都可以将使用的网络模型参数写入至json数据文件日志,因此,可以从json数据文件日志读取最新更新的数据,json数据文件日志中最新更新的数据也即为当前次模型训练使用的网络模型参数。
步骤S103,采用预设的可视化工具实时展示所述json数据文件日志中最新更新的数据。
在具体实施中,服务器可以为基于Express框架的Web服务器。Web服务器可以在前端的浏览器中调用预设的可视化工具,对json数据文件日志中最新更新的数据进行可视化展示。
在具体实施中,Web服务器的前端可以基于Express框架构建而成。可视化工具可以包括以下三个主要页面中的至少之一,该三个主要页面依次为:迭代过程可视化页面、标量数据可视化页面以及数据降维可视化页面。
在本发明实施例中,迭代过程可视化页面可以呈现网络结构可视化、特征图可视化、卷积核可视化以及资源占用情况可视化。标量数据可视化页面可以呈现二维数据可视化。数据降维可视化页面可以呈现三维数据降维后的结果。
在实际应用中可知,二维数据通常可以包括预先设计的网络损失函数、准确率等。三维数据通常可以包括核函数特征图、每一层的神经元特征图等。
在具体实施中,可视化工具可以采用模块化的设计方式,将该可视化工具按照功能划分为多个小程序模块并分别封装成库,每一个小程序模块对应一个完整的功能,并且不同的小程序模块之间可以存在相互的关联。通过多个小程序模块的互相协助,实现可视化工具的整体功能。
在具体实施中,可视化工具的功能主要包括以下:1)创建数据存放目录;2)可视化功能模块。针对上述功能1),其目的是为了将一次模型训练中的网络模型参数均存放至同一个目录中,方便后续对数据文件的读取。针对上述功能2),该可视化功能模块中封装了多个小程序模块,研发人员可以通过调用该可视化模块来实现相应网络模型参数的可视化。
在具体实施中,神经网络在运算过程中,每一个样本在经过每一层输出的时候都会产生特征图,这些特征图是经过卷积运算之后得到的结果,在不同通道特征图中可以看到不同类别样本的不同特征。
由于神经网络中数据都是以张量形式存在,可以通过在每一层的输出层获取相应高维度的张量,通过展示不同通道的特征图来实现特征图可视化。
在具体实施中,在当前次模型训练过程中,可以计算神经网络中每个神经元变量的大小。根据每个神经元变量的大小,可以计算得到在当前次模型训练过程中所占用的显存大小,进而采用可视化工具实时展示在当前次模型训练过程中所占用的显存大小。
在具体应用中,还可以根据time库来确定神经网络中每一层计算所花费的时间,通过可视化工具将每一层计算所花费的时间与每一层计算所占用的资源进行可视化展示,从而实现神经网络模型训练所占用的资源与时间效率的可视化。
在具体实施中,在实现标量数据可视化时,可以先将调用Python函数将待可视化的目标标量数据存储为数据文件。由于目标标量数据为二维数据或三维数据,且在本发明实施例中标量数据的可视化主要应用于准确率以及损失函数的可视化。因此,设计函数主要针对于二维标量数据,该函数主要功能是将目标标量数据转换为json格式数据并且写入指定目录。输入数据的格式可以是Python原生数组numpy数组。
在将json格式数据写入至指定目录后,可以采用可视化工具读取指定目录的数据文件,通过计算将数据文件转换为指定格式数据。可视化工具接收到json格式数据格式数据后,可以通过数据可视化插件显示标量的图表,实现将目标标量数据可视化。
由此可见,在完成一次神经网络的模型训练后,将当前次模型训练使用的网络模型参数写入至json数据文件日志中,对json数据文件日志进行更新。读取json数据文件日志,从中获取最新更新的数据,并采用可视化工具实时展示最新更新的数据,从而能够将当前次模型训练过程的网络模型参数进行实时的可视化展示。
本发明实施例还提供了一种深度学习训练实时可视化装置,包括:文件生成单元201、读取单元202以及可视化控制单元203,其中:
文件生成单元201,用于在完成神经网络的当前次模型训练后,将所述当前次模型训练使用的网络模型参数写入至json数据文件日志;
读取单元202,用于读取所述json数据文件日志中的数据;
可视化控制单元203,用于采用预设的可视化工具实时展示所述json数据文件日志中最新更新的数据。
在具体实施中,上述单元的具体执行流程可以执行上述的对应步骤S101~S103,本发明实施例不做赘述。
虽然本发明披露如上,但本发明并非限定于此。任何本领域技术人员,在不脱离本发明的精神和范围内,均可作各种更动与修改,因此本发明的保护范围应当以权利要求所限定的范围为准。

Claims (9)

1.一种深度学习训练实时可视化方法,其特征在于,包括:
在完成神经网络的当前次模型训练后,将所述当前次模型训练使用的网络模型参数写入至json数据文件日志;
读取所述json数据文件日志中的数据;
采用预设的可视化工具实时展示所述json数据文件日志中最新更新的数据。
2.如权利要求1所述的深度学习训练实时可视化方法,其特征在于,所述网络模型参数包括神经元特征图;所述采用预设的可视化工具实时展示所述json数据文件日志中最新更新的数据,包括:
从所述json数据文件日志中最新更新的数据中,获取所述神经网络每一层的输出层输出的相应高维度张量;
采用预设的可视化工具,对所述相应高维度张量对应的特征图进行实时可视化展示。
3.如权利要求1所述的深度学习训练实时可视化方法,其特征在于,所述网络模型参数包括标量数据;所述采用预设的可视化工具实时展示所述json数据文件日志中最新更新的数据,包括:
从所述json数据文件日志中最新更新的数据中,获取待可视化的目标标量数据;
将所述目标标量数据转换为json格式数据,并将所述json格式数据写入至指定目录;
采用所述可视化工具读取所述指定目录中的数据文件,并将所述数据文件转换为指定格式数据;
通过所述可视化工具展示所述指定格式数据,以将所述目标标量数据可视化。
4.如权利要求1所述的深度学习训练实时可视化方法,其特征在于,还包括:
采用预设的可视化工具实时展示当前次模型训练过程中的资源占用。
5.如权利要求4所述的深度学习训练实时可视化方法,其特征在于,所述采用预设的可视化工具实时展示当前次模型训练过程中的资源占用,包括:
计算所述神经网络中每个神经元变量的大小;
根据所述每个神经元变量的大小,计算在当前次模型训练过程中所占用的显存大小;
采用所述可视化工具实时展示所述当前次模型训练过程中所占用的显存大小。
6.如权利要求1所述的深度学习训练实时可视化方法,其特征在于,所述可视化工具基于Express框架构建,且所述可视化工具包括以下至少一种显示界面:迭代过程可视化、标量数据可视化页面以及数据降维可视化页面。
7.如权利要求6所述的深度学习训练实时可视化方法,其特征在于,所述可视化工具由多个子模块组成,不同子模块分别对应不同的实现功能。
8.如权利要求1所述的深度学习训练实时可视化方法,其特征在于,所述将所述当前次模型训练使用的网络模型参数写入至json数据文件日志,包括:
将所述当前次模型训练使用的网络模型参数存放至目标目录,所述目标目录包括以下至少一种:特征图存放目录、滤波器可视化存放目录、标量数据存放目录以及降维数据存放目录。
9.一种深度学习训练实时可视化装置,其特征在于,包括:
文件生成单元,用于在完成神经网络的当前次模型训练后,将所述当前次模型训练使用的网络模型参数写入至json数据文件日志;
读取单元,用于读取所述json数据文件日志中的数据;
可视化控制单元,用于采用预设的可视化工具实时展示所述json数据文件日志中最新更新的数据。
CN202011174990.2A 2020-10-28 2020-10-28 深度学习训练实时可视化方法及装置 Pending CN112199345A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011174990.2A CN112199345A (zh) 2020-10-28 2020-10-28 深度学习训练实时可视化方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011174990.2A CN112199345A (zh) 2020-10-28 2020-10-28 深度学习训练实时可视化方法及装置

Publications (1)

Publication Number Publication Date
CN112199345A true CN112199345A (zh) 2021-01-08

Family

ID=74011809

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011174990.2A Pending CN112199345A (zh) 2020-10-28 2020-10-28 深度学习训练实时可视化方法及装置

Country Status (1)

Country Link
CN (1) CN112199345A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113419727A (zh) * 2021-06-22 2021-09-21 之江实验室 一种深度学习训练过程数据转化为可视化数据方法和系统
CN113592017A (zh) * 2021-08-10 2021-11-02 菲特(天津)检测技术有限公司 一种深度学习模型标准化训练方法、管理系统、处理终端
CN114707654A (zh) * 2022-06-06 2022-07-05 浙江大学 基于人工智能框架的算法训练推理性能可视化方法及装置
CN113592017B (zh) * 2021-08-10 2024-05-31 菲特(天津)检测技术有限公司 一种深度学习模型标准化训练方法、管理系统、处理终端

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109254830A (zh) * 2018-09-04 2019-01-22 郑州云海信息技术有限公司 深度学习系统中可视化管理方法和装置
CN109726232A (zh) * 2018-12-29 2019-05-07 北京航天数据股份有限公司 一种模型可视化计算方法及系统
CN110399352A (zh) * 2019-06-18 2019-11-01 平安科技(深圳)有限公司 处理svn日志文件的方法、装置、设备及存储介质
CN111125467A (zh) * 2019-12-22 2020-05-08 广东浪潮大数据研究有限公司 一种日志文件输出的方法、系统、设备及可读存储介质
CN111177100A (zh) * 2020-01-02 2020-05-19 腾讯科技(深圳)有限公司 一种训练数据处理方法、装置及存储介质
CN111797294A (zh) * 2020-07-09 2020-10-20 上海商汤智能科技有限公司 可视化方法及相关设备

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109254830A (zh) * 2018-09-04 2019-01-22 郑州云海信息技术有限公司 深度学习系统中可视化管理方法和装置
CN109726232A (zh) * 2018-12-29 2019-05-07 北京航天数据股份有限公司 一种模型可视化计算方法及系统
CN110399352A (zh) * 2019-06-18 2019-11-01 平安科技(深圳)有限公司 处理svn日志文件的方法、装置、设备及存储介质
CN111125467A (zh) * 2019-12-22 2020-05-08 广东浪潮大数据研究有限公司 一种日志文件输出的方法、系统、设备及可读存储介质
CN111177100A (zh) * 2020-01-02 2020-05-19 腾讯科技(深圳)有限公司 一种训练数据处理方法、装置及存储介质
CN111797294A (zh) * 2020-07-09 2020-10-20 上海商汤智能科技有限公司 可视化方法及相关设备

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113419727A (zh) * 2021-06-22 2021-09-21 之江实验室 一种深度学习训练过程数据转化为可视化数据方法和系统
CN113592017A (zh) * 2021-08-10 2021-11-02 菲特(天津)检测技术有限公司 一种深度学习模型标准化训练方法、管理系统、处理终端
CN113592017B (zh) * 2021-08-10 2024-05-31 菲特(天津)检测技术有限公司 一种深度学习模型标准化训练方法、管理系统、处理终端
CN114707654A (zh) * 2022-06-06 2022-07-05 浙江大学 基于人工智能框架的算法训练推理性能可视化方法及装置
CN114707654B (zh) * 2022-06-06 2022-08-23 浙江大学 基于人工智能框架的算法训练推理性能可视化方法及装置

Similar Documents

Publication Publication Date Title
CN106909931B (zh) 一种用于机器学习模型的特征生成方法、装置和电子设备
CN112507806B (zh) 智慧课堂信息交互方法、装置及电子设备
CN112199345A (zh) 深度学习训练实时可视化方法及装置
CN108717547A (zh) 样本数据生成方法及装置、训练模型的方法及装置
Ayer et al. Why scientists should learn to program in Python
CN107657666A (zh) 一种机械课程设计的虚拟实验系统
CN104574461A (zh) 图形建模方法和装置
Mourtzis et al. An intelligent framework for modelling and simulation of artificial neural networks (ANNs) based on augmented reality
CN112308910A (zh) 一种数据生成方法、装置及存储介质
CN111126358A (zh) 人脸检测方法、装置、存储介质及设备
CN117437365A (zh) 医学三维模型的生成方法、装置、电子设备及存储介质
CN112911266A (zh) 基于增强现实技术的物联网实训系统的实现方法及系统
CN112036843A (zh) 基于rpa及ai的流程元素定位方法、装置、设备和介质
EP4357934A1 (en) Classroom activity courseware producing method and apparatus, and storage medium and electronic device
CN111179382A (zh) 一种图像的排版方法、装置、介质及电子设备
CN111209530A (zh) 基于张量分解的异构大数据因子特征提取的方法及系统
CN115373658A (zh) 一种基于Web图片的前端代码自动生成方法和装置
CN110472345B (zh) 基于abaqus的后处理系统及实现方法
CN115018975A (zh) 数据集生成方法、装置、电子设备及存储介质
CN109766795B (zh) 基于循环神经网络的虚拟现实场景下人机交互方法及系统
CN113010687A (zh) 一种习题标签预测方法、装置、存储介质以及计算机设备
CN113805977A (zh) 测试取证方法及模型训练方法、装置、设备、存储介质
CN113111280B (zh) 流程图形式显示日志内容的方法、存储介质
CN117130946B (zh) 一种测试场景生成方法、装置、电子设备和可读存储介质
CN116383095B (zh) 基于rpa机器人的冒烟测试方法、系统和可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20210108