CN115797479B - 地标图像的生成方法、装置、计算机设备和存储介质 - Google Patents

地标图像的生成方法、装置、计算机设备和存储介质 Download PDF

Info

Publication number
CN115797479B
CN115797479B CN202111057911.4A CN202111057911A CN115797479B CN 115797479 B CN115797479 B CN 115797479B CN 202111057911 A CN202111057911 A CN 202111057911A CN 115797479 B CN115797479 B CN 115797479B
Authority
CN
China
Prior art keywords
image
landmark
model
noise data
classification
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111057911.4A
Other languages
English (en)
Other versions
CN115797479A (zh
Inventor
蔡剑成
刘新民
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Sankuai Online Technology Co Ltd
Original Assignee
Beijing Sankuai Online Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Sankuai Online Technology Co Ltd filed Critical Beijing Sankuai Online Technology Co Ltd
Priority to CN202111057911.4A priority Critical patent/CN115797479B/zh
Publication of CN115797479A publication Critical patent/CN115797479A/zh
Application granted granted Critical
Publication of CN115797479B publication Critical patent/CN115797479B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)

Abstract

本申请提供了一种地标图像的生成方法、装置、计算机设备和存储介质,属于计算机技术领域。方法包括:基于图像生成模型中的图像生成网络和图像分类模型中的图像分类网络,确定地标生成网络;将地标生成网络中的图像生成网络和图像分类网络的模型参数分别设置为图像生成模型的第一模型参数和图像分类模型的第二模型参数,得到地标生成模型;将第一噪声数据输入地标生成模型,输出第一噪声数据的分类结果;在分类结果与第一噪声数据的期望分类结果不匹配的情况下,则基于分类结果,对第一噪声数据进行优化,得到第二噪声数据,以使第二噪声数据的分类结果与期望分类结果相匹配;基于第二噪声数据,生成地标图像。该方法提高了生成地标图像的效率。

Description

地标图像的生成方法、装置、计算机设备和存储介质
技术领域
本申请涉及计算机技术领域,特别涉及一种地标图像的生成方法、装置、计算机设备和存储介质。
背景技术
在使用无人机进行配送时,需要在无人机降落的位置放置图像;无人机拍摄该图像后,通过无人机机载的图像分类模型对该图像进行分类,若图像分类模型输出的分类结果为该图像是地标图像,则无人机进行降落。因此,如何生成图像分类模型能够正确分类的地标图像对无人机的降落十分重要。
相关技术中,通常是人为手工设计生成预设地标图像,再通过图像分类模型对这种预设地标图像进行模型训练,以得到能够被图像分类模型正确分类的地标图像。显然,通过这种方法生成地标图像,需要采集大量预设地标图像对图像分类模型进行模型训练,费时费力,从而降低了生成地标图像的效率。
发明内容
本申请实施例提供了一种地标图像的生成方法、装置、计算机设备和存储介质,提高了生成地标图像的效率。所述技术方案如下:
一方面,提供了一种地标图像的生成方法,所述方法包括
基于图像生成模型中的图像生成网络和图像分类模型中的图像分类网络,确定地标生成网络;
获取已训练完成的所述图像生成模型的第一模型参数和已训练完成的所述图像分类模型的第二模型参数;
将所述地标生成网络中的所述图像生成网络的模型参数设置为所述第一模型参数,将所述地标生成网络中的所述图像分类网络的模型参数设置为所述第二模型参数,得到地标生成模型;
将第一噪声数据输入所述地标生成模型,输出所述第一噪声数据的分类结果,所述第一噪声数据用于生成地标图像;
在所述分类结果与所述第一噪声数据的期望分类结果不匹配的情况下,则基于所述分类结果,对所述第一噪声数据进行优化,得到第二噪声数据,以使所述第二噪声数据的分类结果与所述期望分类结果相匹配;
基于所述第二噪声数据,生成地标图像。
在一种可能的实现方式中,所述将所述地标生成网络中的所述图像分类网络的模型参数设置为所述第二模型参数,包括:
所述第二模型参数包括图像分类参数和分类结果参数,将所述地标生成模型中的图像分类网络的模型参数设置为所述图像分类参数,且将所述地标生成模型中的图像分类网络输出的分类结果的模型参数设置为所述分类结果参数,所述图像分类参数用于对图像进行分类,所述分类结果参数用于将所述地标生成模型输出的分类结果设置为one-hot向量表示的分类结果。
在一种可能的实现方式中,所述基于所述分类结果,对所述第一噪声数据进行优化,得到第二噪声数据,包括:
基于所述分类结果,利用梯度下降法,对所述第一噪声数据进行优化,得到所述第二噪声数据。
在一种可能的实现方式中,所述基于所述分类结果,利用梯度下降法,对所述第一噪声数据进行优化,得到所述第二噪声数据,包括:
获取所述第一噪声数据的期望分类结果;
确定所述期望分类结果与所述分类结果之间的差异信息;
基于所述差异信息,利用梯度下降法,对所述第一噪声数据进行优化,得到所述第二噪声数据。
在一种可能的实现方式中,所述将所述地标生成网络中的所述图像生成网络的模型参数设置为所述第一模型参数,将所述地标生成网络中的所述图像分类网络的模型参数设置为所述第二模型参数,得到地标生成模型,包括:
将所述图像生成模型包括的图像生成器的输出端与所述图像分类模型中的图像分类器的输入端连接,得到所述地标生成模型;
其中,所述图像生成器为模型参数为所述第一模型参数的图像生成网络,所述图像分类器为模型参数为所述第二模型参数的图像分类网络。
另一方面,提供了一种地标图像的生成装置,所述装置包括:
确定模块,用于基于图像生成模型中的图像生成网络和图像分类模型中的图像分类网络,确定地标生成网络;
获取模块,用于获取已训练完成的所述图像生成模型的第一模型参数和已训练完成的所述图像分类模型的第二模型参数;
设置模块,用于将所述地标生成网络中的所述图像生成网络的模型参数设置为所述第一模型参数,将所述地标生成网络中的所述图像分类网络的模型参数设置为所述第二模型参数,得到地标生成模型;
输入输出模块,用于将第一噪声数据输入所述地标生成模型,输出所述第一噪声数据的分类结果,所述第一噪声数据用于生成地标图像;
优化模块,用于在所述分类结果与所述第一噪声数据的期望分类结果不匹配的情况下,则基于所述分类结果,对所述第一噪声数据进行优化,得到第二噪声数据,以使所述第二噪声数据的分类结果与所述期望分类结果相匹配;
生成模块,用于基于所述第二噪声数据,生成地标图像。
在一种可能的实现方式中,所述设置模块,用于所述第二模型参数包括图像分类参数和分类结果参数,将所述地标生成模型中的图像分类网络的模型参数设置为所述图像分类参数,且将所述地标生成模型中的图像分类网络输出的分类结果的模型参数设置为所述分类结果参数,所述图像分类参数用于对图像进行分类,所述分类结果参数用于将所述地标生成模型输出的分类结果设置为one-hot向量表示的分类结果。
在一种可能的实现方式中,所述优化模块,包括:
优化单元,用于基于所述分类结果,利用梯度下降法,对所述第一噪声数据进行优化,得到所述第二噪声数据。
在一种可能的实现方式中,所述优化单元,用于:
获取所述第一噪声数据的期望分类结果;
确定所述期望分类结果与所述分类结果之间的差异信息;
基于所述差异信息,利用梯度下降法,对所述第一噪声数据进行优化,得到所述第二噪声数据。
在一种可能的实现方式中,所述设置模块,用于:
将所述图像生成模型包括的图像生成器的输出端与所述图像分类模型中的图像分类器的输入端连接,得到所述地标生成模型;
其中,所述图像生成器为模型参数为所述第一模型参数的图像生成网络,所述图像分类器为模型参数为所述第二模型参数的图像分类网络。
另一方面,提供了一种计算机设备,所述计算机设备包括一个或多个处理器和一个或多个存储器,所述一个或多个存储器中存储有至少一条指令,所述至少一条指令由所述一个或多个处理器加载并执行以实现上述任一实现方式所述的地标图像的生成方法所执行的操作。
另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储至少一条指令,所述至少一条指令由处理器加载并执行,以实现上述任一实现方式所述的地标图像的生成方法所执行的操作。
另一方面,提供了一种计算机程序产品或计算机程序,所述计算机程序产品或所述计算机程序包括计算机程序代码,所述计算机程序代码存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取所述计算机程序代码,处理器执行所述计算机程序代码,使得所述计算机设备执行上述的地标图像的生成方法所执行的操作。
本申请实施例提供的技术方案的有益效果至少包括:
本申请提供了一种地标图像的生成方法,由于该方法通过图像生成模型和图像分类模型得到地标生成模型,这样,将第一噪声数据输入地标生成模型后,就能够直接得到第一噪声数据的分类结果,提高了获取分类结果的效率。并且,该方法通过第一噪声数据的分类结果,对第一噪声数据进行优化,能够得到分类结果与期望分类结果匹配的第二噪声数据;这样使第二噪声数据生成的地标图像能够直接被图像分类模型分类到期望分类结果,避免了采集大量图像对图像分类模型进行模型训练的过程,省时省力,从而提高了生成地标图像的效率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种实施环境的流程图;
图2是本申请实施例提供的一种地标图像的生成方法的流程图;
图3是本申请实施例提供的一种图像生成模型的示意图;
图4是本申请实施例提供的一种图像分类模型的示意图;
图5是本申请实施例提供的一种地标生成模型的示意图;
图6是本申请实施例提供的一种地标图像的示意图;
图7是本申请实施例提供的一种地标图像的生成装置的框图;
图8是本申请实施例提供的一种计算机设备的框图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
本申请的说明书和权利要求书及所述附图中的术语“第一”、“第二”、“第三”和“第四”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们的任意变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。
本申请实施例提供了一种地标图像的实施环境,参加图1,该实施环境包括地标识别设备10和计算机设备20,地标识别设备10为任一能够对地标图像进行分类的设备。计算机设备20上存储有地标生成模型,该地标生成模型用于生成地标图像。地标识别设备10上存储有图像分类模型,该图像分类模型用于确定图像的分类结果,分类结果包括图像是否是地标图像。在本申请实施例中,计算机设备20上的地标生成模型生成的地标图像能够被地标识别设备10的图像分类模型分类到地标图像。
在一些实施例中,地标识别设备10可以为无人机,无人机用于提供配送服务;相关人员将地标生成模型生成的地标图像放置在指定的位置,无人机在空中拍摄到该位置的地标图像,确定该地标图像的分类结果为该地标图像是地标图像后进行降落,将物品配送到该位置,进而实现了该地标图像在无人机配送中的应用。
在一些实施例中,地标识别设备10可以为移动机器人,移动机器人用于提供配送服务;相关人员将地标生成模型生成的地标图像放置在指定的位置,移动机器人在移动过程中拍摄到该位置的地标图像,确定该地标图像的分类结果为该地标图像是地标图像后,将物品配送到该位置,进而实现了该地标图像在移动机器人配送中的应用。
本申请实施例提供一种地标图像的生成方法,参见图2,方法包括:
步骤201:计算机设备基于图像生成模型中的图像生成网络和图像分类模型中的图像分类网络,确定地标生成网络。
在该步骤中,计算机设备将图像生成模型中的图像生成网络的输出端与图像分类模型中的图像分类网络的输入端连接,得到地标生成网络,地标生成网络具有原始的模型参数。
其中,图像生成模型中除包括图像生成网络外,还包括图像判别网络。参见图3,图3为图像生成模型的示意图。其中,图像生成网络中包括图像生成器,用字母G表示;图像判别网络中包括图像判别器,用字母D表示。在未基于图像生成模型中的图像生成网络和图像分类模型中的图像分类网络确定地标生成网络之前,将第一噪声数据输入图像生成模型后,通过图像生成网络生成地标图像,通过图像辨别网络对生成的地标图像进行真实性辨别,输出判定结果,判定结果用于表示生成的地标图像的真实性,通过该图像生成模型能够生成真实性高和准确性高的地标图像。
参见图4,图4为图像分类模型的示意图,包括图像分类网络,图像分类网络中包括图像分类器。在未基于图像生成模型中的图像生成网络和图像分类模型中的图像分类网络确定地标生成网络之前,将地标图像输入图像分类模型后,图像分类网络用于对地标图像进行分类,输出对地标图像的分类结果。
步骤202:计算机设备获取已训练完成的图像生成模型的第一模型参数和已训练完成的图像分类模型的第二模型参数。
其中,图像生成模型的训练过程通过以下方式实现:
计算机设备获取样本噪声数据和样本地标图像;计算机设备基于样本噪声数据和样本地标图像,对图像生成模型进行模型训练,得到图像生成模型中的图像生成网络的第一模型参数和图像辨别网络的第三模型参数。
其中,样本噪声数据可以从高斯噪声中获取,每个样本噪声数据为高斯噪声中的一个样本向量。
需要说明的是,计算机设备基于生成对抗网络对图像生成模型进行训练。生成对抗网络可以为DC-GAN(一种生成对抗网络)网络。在对图像生成模型训练的过程中,将样本噪声数据输入图像生成网络,生成地标图像;图像辨别网络基于样本地标图像对该地标图像的真实性进行判别,基于判别的结果不断调整图像生成网络的参数,直到图像辨别网络难以识别地标图像的真实性,则固定图像生成网络的参数为第一模型参数,图像辨别网络的参数为第三模型参数。
在本申请实施例中,基于样本噪声数据和样本地标图像通过生成对抗网络训练图像生成模型,使图像生成网络生成地标图像的能力尽可能强大,使图像判别网络难以判定生成的地标图像为真地标图像还是假地标图像,即提高了生成的地标图像的真实性和准确性,以及提高了第一模型参数的准确性。
其中,图像分类模型的训练过程通过以下方式实现:
计算机设备获取多个样本图像,每个样本图像中已标注标签,标签用于表示样本图像的分类结果;计算机设备基于多个样本图像,对图像分类模型进行模型训练,得到第二模型参数。
其中,计算机设备基于分类网络对图像分类模型进行模型训练。分类网络可以为ResNet18(一种分类网络)网络。多个样本图像可以从ImageNet(一种图像库)中获取;ImageNet中包括多个可供训练的标注标签的图像。通过多个样本图像对图像分类模型进行模型训练,能够在图像分类模型中生成多个类别不同的分类空间,每个分类空间的语义特征不同。例如,对于分别包含花的图像、包含鸟的图像、包含虫的图像、包含鱼的图像的4类样本图像,进行模型训练,可以得到4类具有不同语义特征的分类空间。需要说明的是,图像分类模型进行模型训练后,会生成模型参数,将该模型参数确定为第二模型参数。
在本申请实施例中,通过分类网络对多个标注标签的图像进行训练,得到的第二模型参数中可以包括多个分类空间的参数,进而基于图像分类模型能够对多个地标图像进行分类,分类到多个分类空间中,得到多个类别结果。
步骤203:计算机设备将地标生成网络中的图像生成网络的模型参数设置为第一模型参数,将地标生成网络中的图像分类网络的模型参数设置为第二模型参数,得到地标生成模型。
在一种实现方式中,计算机设备将图像生成模型包括的图像生成器的输出端与图像分类模型中的图像分类器的输入端连接,得到地标生成模型;其中,图像生成器为模型参数为第一模型参数的图像生成网络,图像分类器为模型参数为第二模型参数的图像分类网络。
参见图5,地标生成模型中包括图像生成器和图像分类器,将图像生成模型的第一模型参数和图像分类模型的第二模型参数分别作为地标生成网络的图像生成网络的训练参数和图像分类网络的训练参数,使得得到的地标生成模型能够直接基于训练好的图像生成网络生成地标图像,以及基于训练好的图像分类网络对地标图像进行分类,提高了生成地标图像和对地标图像分类的效率。
需要说明的是,计算机设备基于图像生成模型和图像分类模型得到地标生成模型后,则将该地标生成模型的图像生成网络的训练参数和图像分类网络的训练参数固定,任一噪声数据均通过该地标生成模型生成地标图像,无需对该地标生成模型进行重复确定。
需要说明的是,第二模型参数包括图像分类参数和分类结果参数。计算机设备将地标生成网络中的图像分类网络的模型参数设置为第二模型参数可以通过以下方式实现:
计算机设备将地标生成模型中的图像分类网络的模型参数设置为图像分类参数,且将地标生成模型中的图像分类网络输出的分类结果的模型参数设置为分类结果参数,图像分类参数用于对图像进行分类,分类结果参数用于将地标生成模型输出的分类结果设置为one-hot(独热码)向量表示的分类结果。
其中,分类结果通过one-hot向量来表示。one-hot向量是保证每个向量中的单个特征只有1位处于状态1,其他的都是0的编码。例如,有100个分类结果,每个分类结果用1个维数为1×100的向量表示,则每个向量中仅有一个数字为1,其他99个数字都是0;例如[1,0,0,0,0,0…]、[0,1,0,0,0,0…]、[0,0,1,0,0,0…]等向量。
需要说明的是,图像分类参数不仅包括图像是否是地标图像的参数,还包括图像具体为哪种地标图像的参数,还包括是否是目标类别图像的参数。
在本申请实施例中,通过图像生成模型和图像分类模型得到地标生成模型,这样,基于地标生成模型不仅能够生成地标图像,还能对地标图像进行分类,得到第一噪声数据的分类结果,进而提高了确定第一噪声数据的分类结果的效率。
步骤204:计算机设备将第一噪声数据输入地标生成模型,输出第一噪声数据的分类结果。
在该步骤中,计算机设备将第一噪声数据输入地标生成模型后,通过地标生成模型中的图像生成网络生成地标图像,且将地标图像输入地标生成模型中的图像分类网络,通过地标生成模型中的图像分类网络对地标图像进行分类,得到第一噪声数据的分类结果。
其中,第一噪声数据用于生成地标图像。第一噪声数据可以从高斯噪声中获取;高斯噪声为多维的样本数据库,包括多个随机的样本向量,每个样本向量代表一个第一噪声数据。例如,对于维数为100×100的高斯噪声,其包括100个维数为1×100的第一噪声数据。
在一种实现方式中,计算机设备从高斯噪声中随机获取第一噪声数据;在另一种实现方式中,计算机设备中存储有不同类型的第一噪声数据;在本步骤中,计算机设备确定待获取的第一噪声数据的数据类型,基于该数据类型,从已存储的第一噪声数据中获取该数据类型对应的第一噪声数据。第一噪声数据的数据类型可以根据需要进行设定并更改;例如,数据类型可以包括复杂类、简单类等;复杂类的第一噪声数据用于生成复杂性高的地标图像,简单类的第一噪声数据用于生成复杂性低的地标图像。
在一种实现方式中,分类结果包括图像是否是地标图像。在另一种实现方式中,分类结果包括图像是否是地标图像,且是哪种地标图像,是否是目标类别图像。
在本申请实施例中,从高斯噪声中获取第一噪声数据,高斯噪声通过高斯分布法可以随机生成多个样本向量,能够获取数量足够多的第一噪声数据,且能够保证获取的第一噪声数据具有随机性和多样性,进而基于第一噪声数据可以生成多种地标图像。
步骤205:计算机设备在分类结果与第一噪声数据的期望分类结果不匹配的情况下,则基于分类结果,对第一噪声数据进行优化,得到第二噪声数据,以使第二噪声数据的分类结果与期望分类结果相匹配。
在一种实现方式中,计算机设备基于分类结果,利用梯度下降法,对第一噪声数据进行优化,得到第二噪声数据。
其中,第二噪声数据用于生成能够被图像分类模型识别的地标图像。
该实现方式可以通过以下步骤(1)-(3)实现:
(1)计算机设备获取第一噪声数据的期望分类结果。
在一种实现方式中,分类结果包括图像是否是地标图像,期望分类结果为图像是地标图像。
在另一种实现方式中,分类结果包括图像是否是地标图像,且是哪种地标图像,是否是目标类别图像;期望分类结果为图像是地标图像,且是目标类别图像。
在该实现方式中,地标生成模型的类别结果中包括多个类别结果,每个第一噪声数据的期望分类结果均为地标生成模型中的一个类别结果,且是对第一噪声数据的分类结果进行指定的一个类别结果,该类别结果用于指示该地标图像具体为哪种地标图像。例如,对于第一噪声数据A,指定其期望分类结果为多个类别结果中的第一类;对于第一噪声数据B,指定其期望分类结果为多个类别结果中的第二类。
在一种可能的实现方式中,计算机设备可以事先建立第一噪声数据与期望分类结果之间的对应关系;计算机设备基于第一噪声数据和对应关系,获取第一噪声数据的期望分类结果。
(2)计算机设备确定期望分类结果与分类结果之间的差异信息。
其中,差异信息用于指示期望分类结果与分类结果是否匹配。差异信息包括期望分类结果与分类结果之间的误差值。若误差值为0,则说明期望分类结果与分类结果相同,差异信息指示期望分类结果与分类结果匹配;若误差值不为0,则说明期望分类结果与分类结果不同,差异信息指示期望分类结果与分类结果不匹配。
例如,对应第一噪声数据A,其期望分类结果为类别结果中的第一类,其分类结果为类别结果中的第二类,则误差值不为0,图像不是目标类别图像,即期望分类结果与分类结果不同,差异信息指示期望分类结果与分类结果不匹配。
(3)计算机设备基于差异信息,利用梯度下降法,对第一噪声数据进行优化,得到第二噪声数据。
在该步骤中,计算机设备基于差异信息,利用梯度下降法,对第一噪声数据进行优化;在优化后的第一噪声数据的分类结果与期望分类结果相匹配的情况下,将优化后的第一噪声数据确定为第二噪声数据。
需要说明的是,在差异信息指示期望分类结果与分类结果匹配的情况下,则不必对第一噪声数据进行优化,直接将第一噪声数据作为第二噪声数据。在差异信息指示期望分类结果与分类结果不匹配的情况下,则基于差异信息中的误差值对第一噪声数据进行优化。其中,计算机设备利用梯度下降法,通过误差值对第一噪声数据进行迭代,得到优化后的第一噪声数据。
计算机设备将优化后的第一噪声数据输入地标生成模型,得到优化后的第一噪声数据的分类结果;在优化后的第一噪声数据的分类结果与期望分类结果相匹配的情况下,将优化后的第一噪声数据确定为第二噪声数据;在优化后的第一噪声数据的分类结果与期望分类结果不匹配的情况下,则基于优化后的第一噪声数据的期望分类结果与分类结果的误差值,利用梯度下降法,对优化后的第一噪声数据进行优化,重复上述步骤,直到优化后的第一噪声数据的期望分类结果与分类结果匹配,将优化后的第一噪声数据作为第二噪声数据。
需要说明的是,第二噪声数据生成的地标图像的语义特征与期望分类结果中对应的类别图像的语义特征相同或相似,因此第二噪声数据生成的地标图像的分类结果与期望分类结果相同,能够直接被图像分类模型分类到期望分类结果中。
在本申请实施例中,由于地标生成模型是基于图像生成模型和图像分类模型生成的,地标生成模型中的图像分类网络的训练参数为图像分类模型中的训练参数,则基于地标生成模型输出的分类结果与图像分类模型的分类结果是相同的,进而若优化后的第一噪声数据的分类结果与期望分类结果相匹配,则图像分类模型能够将优化后的第一噪声数据的地标图像直接分类到第一噪声数据的期望分类结果中。
步骤206:计算机设备基于第二噪声数据,生成地标图像。
在一种实现方式中,计算机设备将第二噪声数据输入地标生成模型,生成地标图像,地标图像为能够被图像分类模型分类到期望分类结果的地标图像。在另一种实现方式中,计算机设备将第二噪声数据输入图像生成模型,生成地标图像。
其中,地标图像可以以二维码的形式呈现;参见图6,图6为一些地标图像的示意图,为64×64像素的二维码图像,这些二维码图像可直接被图像分类模型识别。
在本申请实施例中,重复上述步骤204-206,可以直接得到大量的能够被图像分类模型分类到期望分类结果的地标图像,避免了图像分类模型对地标图像进行训练的过程。
需要说明的是,在本申请实施例中,通过计算机设备获取第一噪声数据后,可以通过计算机设备执行上述步骤204-206,计算机设备也可以将获取的第一噪声数据发送给服务器,通过服务器执行上述步骤204-206,服务器生成地标图像后,发送给计算机设备,通过计算机设备输出地标图像。
需要说明的是,通过本申请提供的方法生成地标图像,避免了地标图像种类繁杂时,采集大量的可供图像分类模型训练的地标图像的过程。并且,通过本申请实施例提供的方法,若需临时对地标图像进行扩充,可直接基于地标生成模型生成能够被图像分类模型分类到期望分类结果的地标图像,避免了重新采集图像进行模型训练的过程,省时省力,提高了扩充地标图像的效率。
本申请提供了一种地标图像的生成方法,由于该方法通过图像生成模型和图像分类模型得到地标生成模型,这样,将第一噪声数据输入地标生成模型后,就能够直接得到第一噪声数据的分类结果,提高了获取分类结果的效率。并且,该方法通过第一噪声数据的分类结果,对第一噪声数据进行优化,能够得到分类结果与期望分类结果匹配的第二噪声数据;这样使第二噪声数据生成的地标图像能够直接被图像分类模型分类到期望分类结果,避免了采集大量图像对图像分类模型进行模型训练的过程,省时省力,从而提高了生成地标图像的效率。
本申请实施例还提供了一种地标图像的生成装置,参见图7,装置包括:
确定模块701,用于基于图像生成模型中的图像生成网络和图像分类模型中的图像分类网络,确定地标生成网络;
获取模块702,用于获取已训练完成的图像生成模型的第一模型参数和已训练完成的图像分类模型的第二模型参数;
设置模块703,用于将地标生成网络中的图像生成网络的模型参数设置为第一模型参数,将地标生成网络中的图像分类网络的模型参数设置为第二模型参数,得到地标生成模型;
输入输出模块704,用于将第一噪声数据输入地标生成模型,输出第一噪声数据的分类结果,第一噪声数据用于生成地标图像;
优化模块705,用于在分类结果与第一噪声数据的期望分类结果不匹配的情况下,则基于分类结果,对第一噪声数据进行优化,得到第二噪声数据,以使第二噪声数据的分类结果与期望分类结果相匹配;
生成模块706,用于基于第二噪声数据,生成地标图像。
在一种可能的实现方式中,设置模块703,用于:
第二模型参数包括图像分类参数和分类结果参数,将地标生成模型中的图像分类网络的模型参数设置为图像分类参数,且将地标生成模型中的图像分类网络输出的分类结果的模型参数设置为分类结果参数,图像分类参数用于对图像进行分类,分类结果参数用于将地标生成模型输出的分类结果设置为one-hot向量表示的分类结果。
在一种可能的实现方式中,优化模块705,包括:
优化单元,用于基于分类结果,利用梯度下降法,对第一噪声数据进行优化,得到第二噪声数据。
在一种可能的实现方式中,优化单元,用于:
获取第一噪声数据的期望分类结果;
确定期望分类结果与分类结果之间的差异信息;
基于差异信息,利用梯度下降法,对第一噪声数据进行优化,得到第二噪声数据。
在一种可能的实现方式中,设置模块703,用于:
将图像生成模型包括的图像生成器的输出端与图像分类模型中的图像分类器的输入端连接,得到地标生成模型;
其中,图像生成器为模型参数为第一模型参数的图像生成网络,图像分类器为模型参数为第二模型参数的图像分类网络。
图8示出了本申请一个示例性实施例提供的计算机设备800的结构框图。该计算机设备800可以是便携式移动计算机设备,比如:智能手机、平板电脑、MP3播放器(MovingPicture Experts Group Audio Layer III,动态影像专家压缩标准音频层面3)、MP4(Moving Picture Experts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。计算机设备800还可能被称为用户设备、便携式计算机设备、膝上型计算机设备、台式计算机设备等其他名称。
通常,计算机设备800包括有:处理器801和存储器802。
处理器801可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。处理器801可以采用DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器801也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(Central ProcessingUnit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器801可以集成有GPU(Graphics Processing Unit,图像处理器),GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器801还可以包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
存储器802可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器802还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器802中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器801所执行以实现本申请中方法实施例提供的地标图像的生成方法。
在一些实施例中,计算机设备800还可选包括有:外围设备接口803和至少一个外围设备。处理器801、存储器802和外围设备接口803之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口803相连。具体地,外围设备包括:射频电路804、显示屏805、摄像头组件806、音频电路807、定位组件808和电源809中的至少一种。
外围设备接口803可被用于将I/O(Input/Output,输入/输出)相关的至少一个外围设备连接到处理器801和存储器802。在一些实施例中,处理器801、存储器802和外围设备接口803被集成在同一芯片或电路板上;在一些其他实施例中,处理器801、存储器802和外围设备接口803中的任意一个或两个可以在单独的芯片或电路板上实现,本实施例对此不加以限定。
射频电路804用于接收和发射RF(Radio Frequency,射频)信号,也称电磁信号。射频电路804通过电磁信号与通信模块以及其他通信设备进行通信。射频电路804将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路804包括:天线系统、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路804可以通过至少一种无线通信协议来与其它计算机设备进行通信。该无线通信协议包括但不限于:万维网、城域网、内联网、各代移动通信模块(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity,无线保真)模块。在一些实施例中,射频电路804还可以包括NFC(Near Field Communication,近距离无线通信)有关的电路,本申请对此不加以限定。
显示屏805用于显示UI(User Interface,用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏805是触摸显示屏时,显示屏805还具有采集在显示屏805的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器801进行处理。此时,显示屏805还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏805可以为一个,设置在计算机设备800的前面板;在另一些实施例中,显示屏805可以为至少两个,分别设置在计算机设备800的不同表面或呈折叠设计;在另一些实施例中,显示屏805可以是柔性显示屏,设置在计算机设备800的弯曲表面上或折叠面上。甚至,显示屏805还可以设置成非矩形的不规则图形,也即异形屏。显示屏805可以采用LCD(Liquid Crystal Display,液晶显示屏)、OLED(Organic Light-EmittingDiode,有机发光二极管)等材质制备。
摄像头组件806用于采集图像或视频。可选地,摄像头组件806包括前置摄像头和后置摄像头。通常,前置摄像头设置在计算机设备的前面板,后置摄像头设置在计算机设备的背面。在一些实施例中,后置摄像头为至少两个,分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种,以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality,虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中,摄像头组件806还可以包括闪光灯。闪光灯可以是单色温闪光灯,也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合,可以用于不同色温下的光线补偿。
音频电路807可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波,并将声波转换为电信号输入至处理器801进行处理,或者输入至射频电路804以实现语音通信。出于立体声采集或降噪的目的,麦克风可以为多个,分别设置在计算机设备800的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器801或射频电路804的电信号转换为声波。扬声器可以是传统的薄膜扬声器,也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时,不仅可以将电信号转换为人类可听见的声波,也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中,音频电路807还可以包括耳机插孔。
定位组件808用于定位计算机设备800的当前地理位置,以实现导航或LBS(Location Based Service,基于位置的服务)。定位组件808可以是基于美国的GPS(GlobalPositioning System,全球定位系统)、中国的北斗系统或俄罗斯的伽利略系统的定位组件。
电源809用于为计算机设备800中的各个组件进行供电。电源809可以是交流电、直流电、一次性电池或可充电电池。当电源809包括可充电电池时,该可充电电池可以是有线充电电池或无线充电电池。有线充电电池是通过有线线路充电的电池,无线充电电池是通过无线线圈充电的电池。该可充电电池还可以用于支持快充技术。
在一些实施例中,计算机设备800还包括有一个或多个传感器810。该一个或多个传感器810包括但不限于:加速度传感器811、陀螺仪传感器812、压力传感器813、指纹传感器814、光学传感器815以及接近传感器816。
加速度传感器811可以检测以计算机设备800建立的坐标系的三个坐标轴上的加速度大小。比如,加速度传感器811可以用于检测重力加速度在三个坐标轴上的分量。处理器801可以根据加速度传感器811采集的重力加速度信号,控制显示屏805以横向视图或纵向视图进行用户界面的显示。加速度传感器811还可以用于游戏或者用户的运动数据的采集。
陀螺仪传感器812可以检测计算机设备800的机体方向及转动角度,陀螺仪传感器812可以与加速度传感器811协同采集用户对计算机设备800的3D动作。处理器801根据陀螺仪传感器812采集的数据,可以实现如下功能:动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。
压力传感器813可以设置在计算机设备800的侧边框和/或显示屏805的下层。当压力传感器813设置在计算机设备800的侧边框时,可以检测用户对计算机设备800的握持信号,由处理器801根据压力传感器813采集的握持信号进行左右手识别或快捷操作。当压力传感器813设置在显示屏805的下层时,由处理器801根据用户对显示屏805的压力操作,实现对UI界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器814用于采集用户的指纹,由处理器801根据指纹传感器814采集到的指纹识别用户的身份,或者,由指纹传感器814根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时,由处理器801授权该用户执行相关的敏感操作,该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器814可以被设置在计算机设备800的正面、背面或侧面。当计算机设备800上设置有物理按键或厂商Logo时,指纹传感器814可以与物理按键或厂商Logo集成在一起。
光学传感器815用于采集环境光强度。在一个实施例中,处理器801可以根据光学传感器815采集的环境光强度,控制显示屏805的显示亮度。具体地,当环境光强度较高时,调高显示屏805的显示亮度;当环境光强度较低时,调低显示屏805的显示亮度。在另一个实施例中,处理器801还可以根据光学传感器815采集的环境光强度,动态调整摄像头组件806的拍摄参数。
接近传感器816,也称距离传感器,通常设置在计算机设备800的前面板。接近传感器816用于采集用户与计算机设备800的正面之间的距离。在一个实施例中,当接近传感器816检测到用户与计算机设备800的正面之间的距离逐渐变小时,由处理器801控制显示屏805从亮屏状态切换为息屏状态;当接近传感器816检测到用户与计算机设备800的正面之间的距离逐渐变大时,由处理器801控制显示屏805从息屏状态切换为亮屏状态。
本领域技术人员可以理解,图8中示出的结构并不构成对计算机设备800的限定,可以包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
本申请实施例还提供了一种计算机可读存储介质,计算机可读存储介质中存储至少一条指令,至少一条指令由处理器加载并执行,以实现上述任一实现方式的地标图像的生成方法所执行的操作。
本申请实施例还提供了一种计算机程序产品或计算机程序,计算机程序产品或计算机程序包括计算机程序代码,计算机程序代码存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取计算机程序代码,处理器执行计算机程序代码,使得计算机设备执行上述的地标图像的生成方法所执行的操作。
在一些实施例中,本申请实施例所涉及的计算机程序可被部署在一个计算机设备上执行,或者在位于一个地点的多个计算机设备上执行,又或者,在分布在多个地点且通过通信模块互连的多个计算机设备上执行,分布在多个地点且通过通信模块互连的多个计算机设备可以组成区块链系统。
本申请提供了一种地标图像的生成方法,由于该方法通过图像生成模型和图像分类模型得到地标生成模型,这样,将第一噪声数据输入地标生成模型后,就能够直接得到第一噪声数据的分类结果,提高了获取分类结果的效率。并且,该方法通过第一噪声数据的分类结果,对第一噪声数据进行优化,能够得到分类结果与期望分类结果匹配的第二噪声数据;这样使第二噪声数据生成的地标图像能够直接被图像分类模型分类到期望分类结果,避免了采集大量图像对图像分类模型进行模型训练的过程,省时省力,从而提高了生成地标图像的效率。
以上仅为本申请的可选实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

Claims (10)

1.一种地标图像的生成方法,其特征在于,所述方法包括:
基于图像生成模型中的图像生成网络和图像分类模型中的图像分类网络,确定地标生成网络;
获取已训练完成的所述图像生成模型的第一模型参数和已训练完成的所述图像分类模型的第二模型参数;
将所述地标生成网络中的所述图像生成网络的模型参数设置为所述第一模型参数,将所述地标生成网络中的所述图像分类网络的模型参数设置为所述第二模型参数,得到地标生成模型;
将第一噪声数据输入所述地标生成模型,输出所述第一噪声数据的分类结果,所述第一噪声数据用于生成地标图像;
在所述分类结果与所述第一噪声数据的期望分类结果不匹配的情况下,则基于所述分类结果,对所述第一噪声数据进行优化,得到第二噪声数据,以使所述第二噪声数据的分类结果与所述期望分类结果相匹配;
基于所述第二噪声数据,生成地标图像。
2.根据权利要求1所述的方法,其特征在于,所述将所述地标生成网络中的所述图像分类网络的模型参数设置为所述第二模型参数,包括:
所述第二模型参数包括图像分类参数和分类结果参数,将所述地标生成模型中的图像分类网络的模型参数设置为所述图像分类参数,且将所述地标生成模型中的图像分类网络输出的分类结果的模型参数设置为所述分类结果参数,所述图像分类参数用于对图像进行分类,所述分类结果参数用于将所述地标生成模型输出的分类结果设置为one-hot向量表示的分类结果。
3.根据权利要求1所述的方法,其特征在于,所述基于所述分类结果,对所述第一噪声数据进行优化,得到第二噪声数据,包括:
基于所述分类结果,利用梯度下降法,对所述第一噪声数据进行优化,得到所述第二噪声数据。
4.根据权利要求3所述的方法,其特征在于,所述基于所述分类结果,利用梯度下降法,对所述第一噪声数据进行优化,得到所述第二噪声数据,包括:
获取所述第一噪声数据的期望分类结果;
确定所述期望分类结果与所述分类结果之间的差异信息;
基于所述差异信息,利用梯度下降法,对所述第一噪声数据进行优化,得到所述第二噪声数据。
5.根据权利要求1所述的方法,其特征在于,所述将所述地标生成网络中的所述图像生成网络的模型参数设置为所述第一模型参数,将所述地标生成网络中的所述图像分类网络的模型参数设置为所述第二模型参数,得到地标生成模型,包括:
将所述图像生成模型包括的图像生成器的输出端与所述图像分类模型中的图像分类器的输入端连接,得到所述地标生成模型;
其中,所述图像生成器为模型参数为所述第一模型参数的图像生成网络,所述图像分类器为模型参数为所述第二模型参数的图像分类网络。
6.一种地标图像的生成装置,其特征在于,所述装置包括:
确定模块,用于基于图像生成模型中的图像生成网络和图像分类模型中的图像分类网络,确定地标生成网络;
获取模块,用于获取已训练完成的所述图像生成模型的第一模型参数和已训练完成的所述图像分类模型的第二模型参数;
设置模块,用于将所述地标生成网络中的所述图像生成网络的模型参数设置为所述第一模型参数,将所述地标生成网络中的所述图像分类网络的模型参数设置为所述第二模型参数,得到地标生成模型;
输入输出模块,用于将第一噪声数据输入所述地标生成模型,输出所述第一噪声数据的分类结果,所述第一噪声数据用于生成地标图像;
优化模块,用于在所述分类结果与所述第一噪声数据的期望分类结果不匹配的情况下,则基于所述分类结果,对所述第一噪声数据进行优化,得到第二噪声数据,以使所述第二噪声数据的分类结果与所述期望分类结果相匹配;
生成模块,用于基于所述第二噪声数据,生成地标图像。
7.根据权利要求6所述的装置,其特征在于,
所述设置模块,用于所述第二模型参数包括图像分类参数和分类结果参数,将所述地标生成模型中的图像分类网络的模型参数设置为所述图像分类参数,且将所述地标生成模型中的图像分类网络输出的分类结果的模型参数设置为所述分类结果参数,所述图像分类参数用于对图像进行分类,所述分类结果参数用于将所述地标生成模型输出的分类结果设置为one-hot向量表示的分类结果。
8.根据权利要求6所述的装置,其特征在于,所述优化模块,包括:
优化单元,用于基于所述分类结果,利用梯度下降法,对所述第一噪声数据进行优化,得到所述第二噪声数据。
9.一种计算机设备,其特征在于,所述计算机设备包括一个或多个处理器和一个或多个存储器,所述一个或多个存储器中存储有至少一条指令,所述至少一条指令由所述一个或多个处理器加载并执行以实现如权利要求1至权利要求5任一项所述的地标图像的生成方法所执行的操作。
10.一种计算机可读存储介质,其特征在于,所述存储介质中存储有至少一条指令,所述至少一条指令由处理器加载并执行,以实现如权利要求1至权利要求5任一项所述的地标图像的生成方法所执行的操作。
CN202111057911.4A 2021-09-09 2021-09-09 地标图像的生成方法、装置、计算机设备和存储介质 Active CN115797479B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111057911.4A CN115797479B (zh) 2021-09-09 2021-09-09 地标图像的生成方法、装置、计算机设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111057911.4A CN115797479B (zh) 2021-09-09 2021-09-09 地标图像的生成方法、装置、计算机设备和存储介质

Publications (2)

Publication Number Publication Date
CN115797479A CN115797479A (zh) 2023-03-14
CN115797479B true CN115797479B (zh) 2024-05-24

Family

ID=85416996

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111057911.4A Active CN115797479B (zh) 2021-09-09 2021-09-09 地标图像的生成方法、装置、计算机设备和存储介质

Country Status (1)

Country Link
CN (1) CN115797479B (zh)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109190665A (zh) * 2018-07-30 2019-01-11 国网上海市电力公司 一种基于半监督生成对抗网络的通用图像分类方法和装置
CN111047658A (zh) * 2019-11-29 2020-04-21 武汉大学 面向深度神经网络的抗压缩对抗性图像生成方法
CN111475797A (zh) * 2020-03-26 2020-07-31 深圳先进技术研究院 一种对抗图像生成方法、装置、设备以及可读存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107767408B (zh) * 2017-11-09 2021-03-12 京东方科技集团股份有限公司 图像处理方法、处理装置和处理设备

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109190665A (zh) * 2018-07-30 2019-01-11 国网上海市电力公司 一种基于半监督生成对抗网络的通用图像分类方法和装置
CN111047658A (zh) * 2019-11-29 2020-04-21 武汉大学 面向深度神经网络的抗压缩对抗性图像生成方法
CN111475797A (zh) * 2020-03-26 2020-07-31 深圳先进技术研究院 一种对抗图像生成方法、装置、设备以及可读存储介质

Also Published As

Publication number Publication date
CN115797479A (zh) 2023-03-14

Similar Documents

Publication Publication Date Title
CN110807361B (zh) 人体识别方法、装置、计算机设备及存储介质
CN110222789B (zh) 图像识别方法及存储介质
CN111182453A (zh) 定位方法、装置、电子设备及存储介质
CN110059652B (zh) 人脸图像处理方法、装置及存储介质
CN110991457B (zh) 二维码处理方法、装置、电子设备及存储介质
CN110705614A (zh) 模型训练方法、装置、电子设备及存储介质
CN110942046A (zh) 图像检索方法、装置、设备及存储介质
CN110675473B (zh) 生成gif动态图的方法、装置、电子设备及介质
CN110738185B (zh) 表单对象的识别方法、装置及存储介质
CN111192072A (zh) 用户分群方法及装置、存储介质
CN110853124B (zh) 生成gif动态图的方法、装置、电子设备及介质
CN110737692A (zh) 一种检索数据的方法、建立索引库的方法及装置
CN111428551B (zh) 密度检测方法、密度检测模型训练方法和装置
CN111611414B (zh) 车辆检索方法、装置及存储介质
CN111241869B (zh) 物料盘点的方法、装置及计算机可读存储介质
CN113343709B (zh) 意图识别模型的训练方法、意图识别方法、装置及设备
CN115797479B (zh) 地标图像的生成方法、装置、计算机设备和存储介质
CN112989198B (zh) 推送内容的确定方法、装置、设备及计算机可读存储介质
CN113051485B (zh) 群组搜索方法、装置、终端及存储介质
CN112905328B (zh) 任务处理方法、装置及计算机可读存储介质
CN112990424B (zh) 神经网络模型训练的方法和装置
CN109388732B (zh) 音乐地图的生成和显示方法、装置及存储介质
CN113936240A (zh) 确定样本图像的方法、装置、设备及存储介质
CN115221888A (zh) 实体提及的识别方法、装置、设备及存储介质
CN111258673A (zh) 快应用显示方法及终端设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant