CN115767202A - 虚拟人物视频生成的唇语同步优化方法和系统 - Google Patents
虚拟人物视频生成的唇语同步优化方法和系统 Download PDFInfo
- Publication number
- CN115767202A CN115767202A CN202211403806.6A CN202211403806A CN115767202A CN 115767202 A CN115767202 A CN 115767202A CN 202211403806 A CN202211403806 A CN 202211403806A CN 115767202 A CN115767202 A CN 115767202A
- Authority
- CN
- China
- Prior art keywords
- video
- resolution
- lip language
- lip
- voice data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 58
- 238000005457 optimization Methods 0.000 title claims abstract description 30
- 230000001360 synchronised effect Effects 0.000 title claims abstract description 19
- 230000009471 action Effects 0.000 claims abstract description 8
- 238000009877 rendering Methods 0.000 claims abstract description 8
- 238000004590 computer program Methods 0.000 claims description 10
- 238000012550 audit Methods 0.000 claims description 6
- 230000008569 process Effects 0.000 abstract description 18
- 238000004422 calculation algorithm Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000012795 verification Methods 0.000 description 3
- 241000282414 Homo sapiens Species 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000010420 art technique Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000007635 classification algorithm Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000033001 locomotion Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Images
Landscapes
- Processing Or Creating Images (AREA)
Abstract
本发明提供了一种虚拟人物视频生成的唇语同步优化方法和系统,包括:获取针对用户请求的回答内容的语音数据;根据所述回答内容的语音数据,生成不包含唇语同步部分的低分辨率肖像视频;根据所述回答内容的语音数据、所述低分辨率肖像视频,生成高分辨率唇语同步部分视频;将所述低分辨率肖像视频的分辨率调整为与所述高分辨率唇语同步部分视频一致,然后与所述高分辨率唇语同步部分视频进行拼接,形成虚拟人形象视频。本发明能够实现优化虚拟人物视频唇部动作,达到视频、音频协调一致,并利用自适应裁剪方法与3D人脸的重建渲染方法对视频中的唇语部分单独处理,使得虚拟人视频生成的时间得以大大缩减的同时又保证了整体虚拟人视频的质量。
Description
技术领域
本发明涉及,具体地,涉及虚拟人物视频生成的唇语同步优化方法。
本发明涉及深度神经网络、意图识别、多模态、视频生成、流程机器人等领域,更具体的说是一种虚拟人物视频生成的唇语同步优化方法。
背景技术
随着信息技术、计算机技术以及人工智能技术的不断发展,元宇宙逐渐被人熟知。然而现有元宇宙虚拟人物没有考虑到视频的细节特征,比如唇语同步,导致其形象存在着脸谱化、机械化的问题。唇语的视频细节与声音不同步会降低视频质量,还会削弱人类对虚拟人的信任程度。当前业界主流的办法包括两类:第一类是语音驱动的3D虚拟人模型(AudioDVP),第一类模型存在录制成本高、可拓展性低的问题。第二类是2D的语音-口型联合生成模型(Wav2lip)。第二类模型存在视频清晰度低、生成的视频质量差的问题。这些现有技术需要投入大量人力和时间才能达到逼真、拟人的效果。
发明内容
针对现有技术中的缺陷,本发明的目的是提供一种虚拟人物视频生成的唇语同步优化方法和系统。
根据本发明提供的一种虚拟人物视频生成的唇语同步优化方法,包括:
语音数据获取步骤:获取针对用户请求的回答内容的语音数据;
低分辨率视频生成步骤:根据所述回答内容的语音数据,生成不包含唇语同步部分的低分辨率肖像视频;
高分辨率视频生成步骤:根据所述回答内容的语音数据、所述低分辨率肖像视频,生成高分辨率唇语同步部分视频;
视频拼接步骤:将所述低分辨率肖像视频的分辨率调整为与所述高分辨率唇语同步部分视频一致,然后与所述高分辨率唇语同步部分视频进行拼接,形成虚拟人形象视频。
优选地,还包括:
审核步骤:对低分辨率肖像视频、高分辨率唇语同步部分视频进行内容审核,若满足审核条件,则触发视频拼接步骤进行视频的拼接。
优选地,还包括:
虚拟人展示步骤:将虚拟人形象视频,以及与虚拟人形象视频匹配的文本、语音作为三种模态展示给观看者,其中,文本数据与语音数据保持相同的语意信息,虚拟人形象视频中的唇语动作和语音数据保持动态协调。
优选地,所述回答内容为对用户请求的语音数据进行意图识别得到的问题所预先存储的匹配的内容;对唇语同步部分单独进行自适应裁剪与3D重建渲染。
根据本发明提供的一种虚拟人物视频生成的唇语同步优化系统,包括:
语音数据获取模块:获取针对用户请求的回答内容的语音数据;
低分辨率视频生成模块:根据所述回答内容的语音数据,生成不包含唇语同步部分的低分辨率肖像视频;
高分辨率视频生成模块:根据所述回答内容的语音数据、所述低分辨率肖像视频,生成高分辨率唇语同步部分视频;
视频拼接模块:将所述低分辨率肖像视频的分辨率调整为与所述高分辨率唇语同步部分视频一致,然后与所述高分辨率唇语同步部分视频进行拼接,形成虚拟人形象视频。
优选地,还包括:
审核模块:对低分辨率肖像视频、高分辨率唇语同步部分视频进行内容审核,若满足审核条件,则触发视频拼接模块进行视频的拼接。
优选地,还包括:
虚拟人展示模块:将虚拟人形象视频,以及与虚拟人形象视频匹配的文本、语音作为三种模态展示给观看者,其中,文本数据与语音数据保持相同的语意信息,虚拟人形象视频中的唇语动作和语音数据保持动态协调。
优选地,所述回答内容为对用户请求的语音数据进行意图识别得到的问题所预先存储的匹配的内容;对唇语同步部分单独进行自适应裁剪与3D重建渲染。
根据本发明提供的一种存储有计算机程序的计算机可读存储介质,所述计算机程序被处理器执行时实现所述的虚拟人物视频生成的唇语同步方法的步骤。
根据本发明提供的一种电子设备,包括存储器、处理器以及存储在存储器上可在处理器上运行的计算机程序,所述计算机程序被处理器执行时实现所述的虚拟人物视频生成的唇语同步方法的步骤。
与现有技术相比,本发明具有如下的有益效果:
1、本发明能够实现优化虚拟人物视频唇部动作,达到视频、音频协调一致,保证了视频质量。
2、本发明利用自适应裁剪方法与3D人脸的重建渲染方法对视频中的唇语部分单独处理,使得虚拟人视频生成的时间得以大大缩减的同时又保证了整体虚拟人视频的质量。
3、本发明利用智能流程机器人的特性,实现全流程不间断的自动化操作,节约人力成本且通用性高,又能避免人为操作失误。
4、本发明考虑到生成视频是否包含敏感信息或令人不适的画面所导致的对生成画面控制,在尤其要求安全可靠的高风险行业,如银行柜台应用的时候会造成不可靠不可控的负面影响,因此对视频进行风控检验,从而使得虚拟人视频在银行业界等实际应用的时候达到了安全可靠、风险可控的要求。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显:
图1为本发明虚拟人物视频生成的唇语同步优化方法的流程步骤示意图的第一局部图。
图2为本发明虚拟人物视频生成的唇语同步优化方法的流程步骤示意图的第二局部图。
图3为本发明虚拟人物视频生成的唇语同步优化方法的流程步骤示意图的第三局部图。
具体实施方式
下面结合具体实施例对本发明进行详细说明。以下实施例将有助于本领域的技术人员进一步理解本发明,但不以任何形式限制本发明。应当指出的是,对本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变化和改进。这些都属于本发明的保护范围。
本发明实例的目的在于克服现有技术的不足,提供一种虚拟人物视频生成的唇语同步优化方法,该方法可以实现优化虚拟人物视频唇部动作,达到视频、音频协调一致;同时使用自适应裁剪的方法,对优化部分单独处理,大幅减少视频生成时间,同时保证视频质量;利用智能流程机器人的特性,实现全流程不间断的自动化操作,节约人力成本且通用性高,又能避免人为操作失误。
如图1、图2、图3所述,根据本发明提供的一种虚拟人物视频生成的唇语同步优化方法,包括:
步骤S1:启动流程机器人主程序,初始化参数;
步骤S2:在步骤S1的基础之上,流程机器人获取用户交互数据,从用户交互数据中获取用户请求的语音数据。
步骤S3:流程机器人调用步骤S2中收集到的用户请求的语音数据作为输入,对语音数据进行意图识别,该意图识别算法基于深度神经网络(Deep Neural Network)的分类算法(长短时记忆模块:Long-Short Term Memory,LSTM)实现,以此筛选与当前用户的用户请求适配的回答内容作为输出数据。
步骤S4:流程机器人对步骤S3的自动意图识别的输出数据,判断是否属于当前可处理的类别,如果满足条件可以处理,则执行步骤S5,如果不满足则进入步骤S14。
步骤S5:流程机器人根据用户意图对应找到所述回答内容,其中,所述回答内容为预先存储在流程机器人存储器中的语音数据和文本数据,其中,语音数据将作为多模态虚拟人的输入数据。
步骤S6:流程机器人调用步骤S5中得到的回答内容的语音数据,传递给多模态虚拟人的形象生成器作为输入数据。该形象生成器的算法部分可以由一种逼真的音频驱动视频肖像算法(AudioDVP)实现,该算法的输入为流程机器人从步骤S5返回的回答内容的语音数据,输出数据为一段分辨率为256*256,时长不超过3分钟的带有虚拟人形象(不包含唇语同步功能)的低分辨率视频数据。
步骤S7:在步骤S6后,流程机器人进入视频查验环节,假如多模态虚拟人的形象生成器生成出的视频满足审核条件,则执行步骤S8,否则如果视频包含暴力、血腥等不良信息将进入步骤S14。
步骤S8:流程机器人将步骤S5返回的回答内容的语音数据与步骤S6输出的低分辨率视频数据共同作为输入数据,通过以声音到唇语(Wav2Lip)改进的一种声音-表达(A2E)网络执行多模态虚拟人的视频唇语优化操作。该程序的输出为一段带有唇语同步功能的高分辨率视频(唇语同步部分)(1024*1024),时长不超过3分钟,视频支持的格式为mkv、mp4、avi、mov、wmv等格式。
步骤S9:在步骤S8后,流程机器人进入视频查验环节,假如多模态虚拟人生成器生成出的视频满足审核条件,则执行步骤S10,否则如果视频质量不合格将进入步骤S14。
步骤S10:步骤S6中生成的不含唇语同步部分的低分辨率视频将经过3D人脸模型重建和渲染模块的优化,形成与步骤S8输出的相同分辨率的视频。随后,步骤S8的视频输出(唇语同步部分)的视频将与步骤S6经过优化侯的输出进行拼接,形成最终的虚拟人形象视频。
步骤S11:流程机器人将通过流程步骤S5中流程机器人存储器中获取的文本数据制作多模态虚拟人视频展示字幕,该视频展示字幕将和流程步骤S10中输出的视频共同作为输出。
步骤S12:流程机器人启动多模态虚拟人展示界面,多模态虚拟人将步骤S11中结合语音、文本、视频的三种模态的输出展示给用户,其中语音数据将和文本数据保持相同的语意信息,视频数据中的唇语动作和语音数据保持动态协调。
步骤S13:流程机器人展示多模态虚拟人视频结束后,由用户对流程体验进行评价,评价分数为1-5内的整数评分。
步骤S14:流程机器人对包括:用户意图识别失败、视频审核不通过等情况,分别在指定文件内记录工单号、失败时间、失败原因等信息;
步骤S15:流程机器人完成工作后,整理多模态虚拟人服务结果,多模态虚拟人服务流程结束。
本发明还提供一种虚拟人物视频生成的唇语同步优化系统,可以通过执行所述虚拟人物视频生成的唇语同步优化方法的步骤流程实现所述虚拟人物视频生成的唇语同步优化系统,即本领域技术人员可以将所述虚拟人物视频生成的唇语同步优化方法理解为所述虚拟人物视频生成的唇语同步优化系统的优选实施方式。具体地,根据本发明提供的一种虚拟人物视频生成的唇语同步优化系统,包括:
语音数据获取模块:获取针对用户请求的回答内容的语音数据;
低分辨率视频生成模块:根据所述回答内容的语音数据,生成不包含唇语同步部分的低分辨率肖像视频;
高分辨率视频生成模块:根据所述回答内容的语音数据、所述低分辨率肖像视频,生成高分辨率唇语同步部分视频;
视频拼接模块:将所述低分辨率肖像视频的分辨率调整为与所述高分辨率唇语同步部分视频一致,然后与所述高分辨率唇语同步部分视频进行拼接,形成虚拟人形象视频;
审核模块:对低分辨率肖像视频、高分辨率唇语同步部分视频进行内容审核,若满足审核条件,则触发视频拼接模块进行视频的拼接;
虚拟人展示模块:将虚拟人形象视频,以及与虚拟人形象视频匹配的文本、语音作为三种模态展示给观看者,其中,文本数据与语音数据保持相同的语意信息,虚拟人形象视频中的唇语动作和语音数据保持动态协调。所述回答内容为对用户请求的语音数据进行意图识别得到的问题所预先存储的匹配的内容;对唇语同步部分单独进行自适应裁剪与3D重建渲染。
本领域技术人员知道,除了以纯计算机可读程序代码方式实现本发明提供的系统、装置及其各个模块以外,完全可以通过将方法步骤进行逻辑编程来使得本发明提供的系统、装置及其各个模块以逻辑门、开关、专用集成电路、可编程逻辑控制器以及嵌入式微控制器等的形式来实现相同程序。所以,本发明提供的系统、装置及其各个模块可以被认为是一种硬件部件,而对其内包括的用于实现各种程序的模块也可以视为硬件部件内的结构;也可以将用于实现各种功能的模块视为既可以是实现方法的软件程序又可以是硬件部件内的结构。
根据本发明提供的一种存储有计算机程序的计算机可读存储介质,所述计算机程序被处理器执行时实现所述的虚拟人物视频生成的唇语同步方法的步骤。
根据本发明提供的一种电子设备,包括存储器、处理器以及存储在存储器上可在处理器上运行的计算机程序,所述计算机程序被处理器执行时实现所述的虚拟人物视频生成的唇语同步方法的步骤。
以上对本发明的具体实施例进行了描述。需要理解的是,本发明并不局限于上述特定实施方式,本领域技术人员可以在权利要求的范围内做出各种变化或修改,这并不影响本发明的实质内容。在不冲突的情况下,本申请的实施例和实施例中的特征可以任意相互组合。
Claims (10)
1.一种虚拟人物视频生成的唇语同步优化方法,其特征在于,包括:
语音数据获取步骤:获取针对用户请求的回答内容的语音数据;
低分辨率视频生成步骤:根据所述回答内容的语音数据,生成不包含唇语同步部分的低分辨率肖像视频;
高分辨率视频生成步骤:根据所述回答内容的语音数据、所述低分辨率肖像视频,生成高分辨率唇语同步部分视频;
视频拼接步骤:将所述低分辨率肖像视频的分辨率调整为与所述高分辨率唇语同步部分视频一致,然后与所述高分辨率唇语同步部分视频进行拼接,形成虚拟人形象视频。
2.根据权利要求1所述的虚拟人物视频生成的唇语同步优化方法,其特征在于,还包括:
审核步骤:对低分辨率肖像视频、高分辨率唇语同步部分视频进行内容审核,若满足审核条件,则触发视频拼接步骤进行视频的拼接。
3.根据权利要求1所述的虚拟人物视频生成的唇语同步优化方法,其特征在于,还包括:
虚拟人展示步骤:将虚拟人形象视频,以及与虚拟人形象视频匹配的文本、语音作为三种模态展示给观看者,其中,文本数据与语音数据保持相同的语意信息,虚拟人形象视频中的唇语动作和语音数据保持动态协调。
4.根据权利要求1所述的虚拟人物视频生成的唇语同步优化方法,其特征在于,所述回答内容为对用户请求的语音数据进行意图识别得到的问题所预先存储的匹配的内容;对唇语同步部分单独进行自适应裁剪与3D重建渲染。
5.一种虚拟人物视频生成的唇语同步优化系统,其特征在于,包括:
语音数据获取模块:获取针对用户请求的回答内容的语音数据;
低分辨率视频生成模块:根据所述回答内容的语音数据,生成不包含唇语同步部分的低分辨率肖像视频;
高分辨率视频生成模块:根据所述回答内容的语音数据、所述低分辨率肖像视频,生成高分辨率唇语同步部分视频;
视频拼接模块:将所述低分辨率肖像视频的分辨率调整为与所述高分辨率唇语同步部分视频一致,然后与所述高分辨率唇语同步部分视频进行拼接,形成虚拟人形象视频。
6.根据权利要求5所述的虚拟人物视频生成的唇语同步优化系统,其特征在于,还包括:
审核模块:对低分辨率肖像视频、高分辨率唇语同步部分视频进行内容审核,若满足审核条件,则触发视频拼接模块进行视频的拼接。
7.根据权利要求5所述的虚拟人物视频生成的唇语同步优化系统,其特征在于,还包括:
虚拟人展示模块:将虚拟人形象视频,以及与虚拟人形象视频匹配的文本、语音作为三种模态展示给观看者,其中,文本数据与语音数据保持相同的语意信息,虚拟人形象视频中的唇语动作和语音数据保持动态协调。
8.根据权利要求5所述的虚拟人物视频生成的唇语同步优化系统,其特征在于,所述回答内容为对用户请求的语音数据进行意图识别得到的问题所预先存储的匹配的内容;对唇语同步部分单独进行自适应裁剪与3D重建渲染。
9.一种存储有计算机程序的计算机可读存储介质,其特征在于,所述计算机程序被处理器执行时实现权利要求1至4中任一项所述的虚拟人物视频生成的唇语同步方法的步骤。
10.一种电子设备,包括存储器、处理器以及存储在存储器上可在处理器上运行的计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至4中任一项所述的虚拟人物视频生成的唇语同步方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211403806.6A CN115767202A (zh) | 2022-11-10 | 2022-11-10 | 虚拟人物视频生成的唇语同步优化方法和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211403806.6A CN115767202A (zh) | 2022-11-10 | 2022-11-10 | 虚拟人物视频生成的唇语同步优化方法和系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115767202A true CN115767202A (zh) | 2023-03-07 |
Family
ID=85368110
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211403806.6A Pending CN115767202A (zh) | 2022-11-10 | 2022-11-10 | 虚拟人物视频生成的唇语同步优化方法和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115767202A (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20000009490A (ko) * | 1998-07-24 | 2000-02-15 | 윤종용 | 음성 합성을 위한 립싱크 방법 및 그 장치 |
CN113192161A (zh) * | 2021-04-22 | 2021-07-30 | 清华珠三角研究院 | 一种虚拟人形象视频生成方法、系统、装置及存储介质 |
CN114201596A (zh) * | 2021-12-14 | 2022-03-18 | 思必驰科技股份有限公司 | 虚拟数字人使用方法、电子设备和存储介质 |
CN114401431A (zh) * | 2022-01-19 | 2022-04-26 | 中国平安人寿保险股份有限公司 | 一种虚拟人讲解视频生成方法及相关装置 |
CN114663962A (zh) * | 2022-05-19 | 2022-06-24 | 浙江大学 | 一种基于图像补全的唇形同步人脸伪造生成方法及系统 |
-
2022
- 2022-11-10 CN CN202211403806.6A patent/CN115767202A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20000009490A (ko) * | 1998-07-24 | 2000-02-15 | 윤종용 | 음성 합성을 위한 립싱크 방법 및 그 장치 |
CN113192161A (zh) * | 2021-04-22 | 2021-07-30 | 清华珠三角研究院 | 一种虚拟人形象视频生成方法、系统、装置及存储介质 |
CN114201596A (zh) * | 2021-12-14 | 2022-03-18 | 思必驰科技股份有限公司 | 虚拟数字人使用方法、电子设备和存储介质 |
CN114401431A (zh) * | 2022-01-19 | 2022-04-26 | 中国平安人寿保险股份有限公司 | 一种虚拟人讲解视频生成方法及相关装置 |
CN114663962A (zh) * | 2022-05-19 | 2022-06-24 | 浙江大学 | 一种基于图像补全的唇形同步人脸伪造生成方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10628486B2 (en) | Partitioning videos | |
CN109902630B (zh) | 一种注意力判断方法、装置、系统、设备和存储介质 | |
CN108632530B (zh) | 一种车辆定损的数据处理方法、装置、设备及客户端、电子设备 | |
US11917288B2 (en) | Image processing method and apparatus | |
CN111696176B (zh) | 图像处理方法、装置、电子设备及计算机可读介质 | |
US20210042504A1 (en) | Method and apparatus for outputting data | |
CN111654715B (zh) | 直播的视频处理方法、装置、电子设备及存储介质 | |
CN112527115B (zh) | 用户形象生成方法、相关装置及计算机程序产品 | |
CN114494815B (zh) | 神经网络训练方法、目标检测方法、装置、设备和介质 | |
US11017253B2 (en) | Liveness detection method and apparatus, and storage medium | |
WO2021019342A1 (en) | Synchronized sound generation from videos | |
TW201947455A (zh) | 車輛損傷識別的處理方法、處理設備、客戶端及伺服器 | |
KR102187741B1 (ko) | 메타데이터 크라우드 소싱 시스템 및 방법 | |
CN114092759A (zh) | 图像识别模型的训练方法、装置、电子设备及存储介质 | |
US20230036338A1 (en) | Method and apparatus for generating image restoration model, medium and program product | |
CN113223121A (zh) | 视频生成方法、装置、电子设备及存储介质 | |
CN114035447B (zh) | 用于中小学人工智能教育图形化编程软件的硬件仿真器 | |
CN114051116A (zh) | 一种驾考车辆的视频监控方法、装置以及系统 | |
CN113221846A (zh) | 图像识别方法、装置、设备、存储介质以及程序产品 | |
CN111144374B (zh) | 人脸表情识别方法及装置、存储介质和电子设备 | |
CN111260756B (zh) | 用于发送信息的方法和装置 | |
CN115767202A (zh) | 虚拟人物视频生成的唇语同步优化方法和系统 | |
US20220058779A1 (en) | Inpainting method and apparatus for human image, and electronic device | |
CN112508772B (zh) | 图像生成方法、装置及存储介质 | |
CN111901673B (zh) | 一种视频预测方法、装置、存储介质及终端 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |