CN113111627A - 一种文本合成点云的方法和装置 - Google Patents

一种文本合成点云的方法和装置 Download PDF

Info

Publication number
CN113111627A
CN113111627A CN202010032974.3A CN202010032974A CN113111627A CN 113111627 A CN113111627 A CN 113111627A CN 202010032974 A CN202010032974 A CN 202010032974A CN 113111627 A CN113111627 A CN 113111627A
Authority
CN
China
Prior art keywords
data layer
layer
point cloud
preset
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010032974.3A
Other languages
English (en)
Inventor
李艳丽
杨恒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jingdong Qianshi Technology Co Ltd
Original Assignee
Beijing Jingdong Qianshi Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jingdong Qianshi Technology Co Ltd filed Critical Beijing Jingdong Qianshi Technology Co Ltd
Priority to CN202010032974.3A priority Critical patent/CN113111627A/zh
Publication of CN113111627A publication Critical patent/CN113111627A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00—Indexing scheme for image data processing or generation, in general
    • G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data

Abstract

本发明公开了文本合成点云的方法和装置，涉及计算机技术领域。该方法的一具体实施方式包括获取语义文本，对每个单词进行编码，以生成数据层；其中，所述数据层包括有对应单词数量的层数；将数据层转成时空一致性的顺序，以得到级联输出和最终输出；对级联输出进行卷积，再对卷积后的级联输出的每个横向通道取最大值，得到第一数据层；将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层；对第二数据层通过预设的感知单元进行处理，以得到对应的点云。从而，本发明的实施方式能够解决现有无法实现将文本合成点云的问题。

Description

一种文本合成点云的方法和装置
技术领域
本发明涉及计算机技术领域，尤其涉及一种文本合成点云的方法和装置。
背景技术
目前，文本合成图像的方法一般包括生成网络和对抗网络，其中生成网络将编码后的文本反卷积成图像，对抗网络将卷积图像和编码文本级联一个数据层，进而判定该图像是否由该文本合成。当然，也有各种改进策略，例如用多层生成网络来提升分辨率、引入注意力机制来提升精度以及引入动态存储机制来提升精度等等。
在实现本发明过程中，发明人发现现有技术中至少存在如下问题：
虽然目前文本合成图像的方法较多，然而鲜有文本合成点云方法，并且从理论分析来看难于将文本合成图像的方法直接应用到点云上。
发明内容
有鉴于此，本发明实施例提供一种文本合成点云的方法和装置，能够解决现有无法实现将文本合成点云的问题。
为实现上述目的，根据本发明实施例的一个方面，提供了一种文本合成点云的方法，包括获取语义文本，对每个单词进行编码，以生成数据层；其中，所述数据层包括有对应单词数量的层数；将数据层转成时空一致性的顺序，以得到级联输出和最终输出；对级联输出进行卷积，再对卷积后的级联输出的每个横向通道取最大值，得到第一数据层；将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层；对第二数据层通过预设的感知单元进行处理，以得到对应的点云。
可选地，对每个单词进行编码，以生成数据层，包括：
将语义文本表示为一段单词序列，以根据预设的单词库通过独热编码方法对每个单词进行编码，进而基于编码后的单词生成数据层。
可选地，将数据层转成时空一致性的顺序，以得到级联输出和最终输出之后，包括：
对级联输出通过预设的第二全连接层进行卷积，再通过最大池化层对卷积后的级联输出的每个横向通道取最大值，得到第一数据层；
对最终输出进行条件增强。
可选地，将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层之后，包括：
对第二数据层通过预设的转置层进行处理，以将第二数据层的层数和维度进行对调。
可选地，对第二数据层通过预设的感知单元进行处理，以得到对应的点云，包括：
将第二数据层的每层通过预设的单层感知单元进行卷积，得到第三数据层；
基于预设的多层感知单元，对第三数据层进行卷积，再将卷积后的第三数据层在点云上采样，进而得到对应的点云。
另外，本发明还提供了一种文本合成点云的装置，包括获取模块，用于获取语义文本，对每个单词进行编码，以生成数据层；其中，所述数据层包括有对应单词数量的层数；处理模块，用于将数据层转成时空一致性的顺序，以得到级联输出和最终输出；对级联输出进行卷积，再对卷积后的级联输出的每个横向通道取最大值，得到第一数据层；将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层；合成模块，用于对第二数据层通过预设的感知单元进行处理，以得到对应的点云。
还有，本发明还提供了一种文本合成点云的判别方法，包括：
获取语义文本，对每个单词进行编码，以生成数据层；其中，所述数据层包括有对应单词数量的层数；将数据层转成时空一致性的顺序，以得到级联输出和最终输出；对级联输出进行卷积，再对卷积后的级联输出的每个横向通道取最大值，得到第一数据层；将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层，进而对第二数据层扩展n倍；其中，n为点云点数；通过将编码后的输入点云与扩展后的第二数据层级联，再对级联后的每个通道点云数据取最大值，得到第三数据层；基于预设的概率归一化层，对第三数据层计算真假概率，以判别所述的输入点云由该语义文本合成。
以及，本发明还提供了一种文本合成点云的判别装置，其特征在于，包括：
获取模块，用于获取语义文本，对每个单词进行编码，以生成数据层；其中，所述数据层包括有对应单词数量的层数；
处理模块，用于将数据层转成时空一致性的顺序，以得到级联输出和最终输出；对级联输出进行卷积，再对卷积后的级联输出的每个横向通道取最大值，得到第一数据层；将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层，进而对第二数据层扩展n倍；其中，n为点云点数；
判别模块，用于通过将编码后的输入点云与扩展后的第二数据层级联，再对级联后的每个通道点云数据取最大值，得到第三数据层；基于预设的概率归一化层，对第三数据层计算真假概率，以判别所述的输入点云由该语义文本合成。
上述发明中的一个实施例具有如下优点或有益效果：因为采用获取语义文本，对每个单词进行编码，以生成数据层；其中，所述数据层包括有对应单词数量的层数；将数据层转成时空一致性的顺序，以得到级联输出和最终输出；对级联输出进行卷积，再对卷积后的级联输出的每个横向通道取最大值，得到第一数据层；将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层；对第二数据层通过预设的感知单元进行处理，以得到对应的点云。的技术手段，所以克服了现有无法实现将文本合成点云的技术问题，进而达到基于生成对抗网络的文本合成点云的技术效果。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明，不构成对本发明的不当限定。其中：
图1是根据本发明第一实施例的文本合成点云的方法的主要流程的示意图；
图2是根据本发明第二实施例的文本合成点云的方法的主要流程的示意图；
图3是根据本发明实施例的文本合成点云的装置的主要模块的示意图；
图4是根据本发明第一实施例的文本合成点云的判别方法的主要流程的示意图；
图5是根据本发明第二实施例的文本合成点云的判别方法的主要流程的示意图；
图6是根据本发明实施例的文本合成点云的判别装置的主要模块的示意图；
图7是本发明实施例可以应用于其中的示例性系统架构图；
图8是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明，其中包括本发明实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本发明的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
图1是根据本发明第一实施例的文本合成点云的方法的主要流程的示意图，如图1所示，所述文本合成点云的方法包括：
步骤S101，获取语义文本，对每个单词进行编码，以生成数据层；其中，所述数据层包括有对应单词数量的层数。
在一些实施例中，在生成数据层的时候，可以将语义文本表示为一段单词序列，以根据预设的单词库通过独热编码方法对每个单词进行编码，进而基于编码后的单词生成数据层。
步骤S102，将数据层转成时空一致性的顺序，以得到级联输出和最终输出。
在一些实施例中，在得到最终输出之后，可以对最终输出进行条件增强。
步骤S103，对级联输出进行卷积，再对卷积后的级联输出的每个横向通道取最大值，得到第一数据层。
在一些实施例中，可以对级联输出通过预设的第二全连接层进行卷积，再通过最大池化层对卷积后的级联输出的每个横向通道取最大值，得到第一数据层。
步骤S104，将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层。
在一些实施例中，可以在得到第二数据层之后，对第二数据层通过预设的转置层进行处理，以将第二数据层的层数和维度进行对调。
步骤S105，对第二数据层通过预设的感知单元进行处理，以得到对应的点云。
在一些实施例中，在对第二数据层通过预设的感知单元进行处理时，可以先将第二数据层的每层通过预设的单层感知单元进行卷积，得到第三数据层。然后，基于预设的多层感知单元，对第三数据层进行卷积，再将卷积后的第三数据层在点云上采样，进而得到对应的点云。
图2是根据本发明第二实施例的文本合成点云的方法的主要流程的示意图，所述文本合成点云的方法可以包括：
步骤S201，获取语义文本，将语义文本表示为一段单词序列。
步骤S202，根据预设的单词库通过独热编码方法对每个单词进行编码，进而基于编码后的单词生成数据层。
在一些实施例中，输入为一组单词组成的语义文本，假设文本库为固定单词库，例如1024个单词{W1,W2,......,W1024}，可以将输入文本描述为一段单词序列{L1,L2,......,LN}。其中，由一维独热编码方法(One-Hot Encoding)来编码每个单词，即如果单词序列中第i个单词Li是单词库的第j个单词Wj，则定义Li＝[0,0,...,1,...,0]在第j位编码为1，其他位均编码为0。输出点云为三维坐标系下的点集合，每个点均带有空间坐标(X,Y,Z)属性，点云个数为给定数目，例如4096。
例如，可以从一段文本(“a chair with four legs”)，这样5个单词组合成5x1024数据层。
步骤S203，将数据层转成时空一致性的顺序，以得到级联输出和最终输出。
在一些实施例中，可以设置一个循环神经网络层LSTM，例如单层或者多层，单向或者多向LSTM层等等(例如：单层多向LSTM和多层单向LSTM等等)，进而可以将数据层顺序输入成时空一致性的顺序输出，例如数据层中为1x1024维的一层，转成时空一致性的顺序为1x512维。为了提升编码的全面性，保留两套输出，一套为顺序输出的级联，例如5x512，一套为最终输出，例如1x512。
步骤S204，对级联输出通过预设的第二全连接层进行卷积，再通过最大池化层对卷积后的级联输出的每个横向通道取最大值，得到第一数据层。
在一些实施例中，对级联输出(例如5x512)通过预设的第二全连接层(例如512x512)进行卷积操作，再通过最大池化层MaxPool对卷积后的级联输出的每个横向通道取最大值，得到第一数据层(例如1x512)。
步骤S205，对最终输出进行条件增强。
在一些实施例中，对最终输出引入条件数据增强层Conditional Augmentation，条件数据增强层首先分别对最终输出用全连接计算均值μ0和方差σ0，然后采样一组高斯噪声ε并和σ0点乘，最后再跟μ0相加即可。
步骤S206，将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层。
在一些实施例中，可以设置级联层concat，目的是将第一数据层(例如1x512)和最终输出(例如1x512)按通道级联起来得到第二数据层(例如1x1024)。其中，级联层concat为将两个及以上的特征图进行拼接。
步骤S207，对第二数据层通过预设的转置层进行处理，以将第二数据层的层数和维度进行对调。
在一些实施例中，第二数据层(例如1x1024)可以通过一个全连接层(例如1024x512)先进行处理，然后再通过预设的转置层进行处理，以将第二数据层的层数和维度进行对调。
较佳的，可以设置转置层Transport，将第二数据层(例如1x512)转置为512x1。从而，将数据层数和维度进行对调，便于后续的感知单元的操作，而感知单元主要对数据通道进行增补。
步骤S208，将第二数据层的每层通过预设的单层感知单元进行卷积，得到第三数据层。
例如，可以设置Mlp(3)为单层感知(Single-Layer Perceptron)，Mlp(3)为输出维度为3的一层感知单元1x3，每层感知单元均为卷积操作，共享权重独立作用到每个点云点，一层感知单元1x3和第二数据层512x1进行卷积操作得到第三数据层512x3。
步骤S209，基于预设的多层感知单元，对第三数据层进行卷积，再将卷积后的第三数据层在点云上采样，进而得到对应的点云。
例如，可以设置Mlp(3,3)为多层感知(Multi-Layer Perceptron)，Mlp(3,3)分别为输出维度为3和3的两层感知单元3x3和3x3。
在一些实施例中，可以设置Upsampling为点云上采样，进行2倍上采样，例如将第三数据层512x3点云上采样到1024x3。进一步地，点云上采样方法包括而不限于2018CVPRPu-net:Point cloud upsampling network和2019CVPR Patch-Based Progressive 3DPoint Set Upsampling等等。
例如：可以从一段文本(“a chair with four legs”)提取三维点云(4096x3)。
需要说明的是，步骤S204和步骤S205可以同时执行，也可以先执行步骤S204再执行步骤S205，当然也可以先执行步骤S205再执行步骤S204。
图3是根据本发明实施例的文本合成点云的装置的主要模块的示意图，如图3所示，所述文本合成点云的装置300包括获取模块301、处理模块302和合成模块303。其中，获取模块301获取语义文本，对每个单词进行编码，以生成数据层。其中，所述数据层包括有对应单词数量的层数。处理模块302将数据层转成时空一致性的顺序，以得到级联输出和最终输出；对级联输出进行卷积，再对卷积后的级联输出的每个横向通道取最大值，得到第一数据层；将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层。合成模块303对第二数据层通过预设的感知单元进行处理，以得到对应的点云。
在一些实施例中，获取模块301对每个单词进行编码，以生成数据层，包括：
将语义文本表示为一段单词序列，以根据预设的单词库通过独热编码方法对每个单词进行编码，进而基于编码后的单词生成数据层。
另外，作为较佳的实施例，所述处理模块302将数据层转成时空一致性的顺序，以得到级联输出和最终输出之后，包括：
对级联输出通过预设的第二全连接层进行卷积，再通过最大池化层对卷积后的级联输出的每个横向通道取最大值，得到第一数据层；
对最终输出进行条件增强。
作为另一个实施例，所述处理模块302将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层之后，包括：
对第二数据层通过预设的转置层进行处理，以将第二数据层的层数和维度进行对调。
还值得说明的是，所述的合成模块303对第二数据层通过预设的感知单元进行处理，以得到对应的点云，包括：
将第二数据层的每层通过预设的单层感知单元进行卷积，得到第三数据层；
基于预设的多层感知单元，对第三数据层进行卷积，再将卷积后的第三数据层在点云上采样，进而得到对应的点云。
需要说明的是，在本发明所述文本合成点云的方法和所述文本合成点云的装置在具体实施内容上具有相应关系，故重复内容不再说明。
图4是根据本发明第一实施例的文本合成点云的判别方法的主要流程的示意图，所述文本合成点云的判别方法可以包括：
步骤S401，获取语义文本，对每个单词进行编码，以生成数据层。
其中，所述数据层包括有对应单词数量的层数。
在一些实施例中，在生成数据层的时候，可以将语义文本表示为一段单词序列，以根据预设的单词库通过独热编码方法对每个单词进行编码，进而基于编码后的单词生成数据层。
步骤S402，将数据层转成时空一致性的顺序，以得到级联输出和最终输出。
在一些实施例中，在得到最终输出之后，可以对最终输出进行条件增强。
步骤S403，对级联输出进行卷积，再对卷积后的级联输出的每个横向通道取最大值，得到第一数据层。
在一些实施例中，可以对级联输出通过预设的第二全连接层进行卷积，再通过最大池化层对卷积后的级联输出的每个横向通道取最大值，得到第一数据层。
步骤S404，将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层，进而对第二数据层扩展n倍。
其中，n为点云点数。
步骤S405，通过将编码后的输入点云与扩展后的第二数据层级联，再对级联后的每个通道点云数据取最大值，得到第三数据层。
步骤S406，基于预设的概率归一化层，对第三数据层计算真假概率，以判别所述的输入点云由该语义文本合成。
在一些实施例中，在对第二数据层通过预设的感知单元进行处理时，可以先将第二数据层的每层通过预设的单层感知单元进行卷积，得到第三数据层。然后，基于预设的多层感知单元，对第三数据层进行卷积，再将卷积后的第三数据层在点云上采样，进而得到对应的点云。
图5是根据本发明第二实施例的文本合成点云的判别方法的主要流程的示意图，所述文本合成点云的判别方法可以包括：
步骤S501，获取语义文本，将语义文本表示为一段单词序列。
步骤S502，根据预设的单词库通过独热编码方法对每个单词进行编码，进而基于编码后的单词生成数据层。
步骤S503，将数据层转成时空一致性的顺序，以得到级联输出和最终输出。
步骤S504，对级联输出通过预设的第二全连接层进行卷积，再通过最大池化层对卷积后的级联输出的每个横向通道取最大值，得到第一数据层。
步骤S505，对最终输出进行条件增强。
步骤S506，将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层，进而对第二数据层扩展n倍。
其中，n为点云点数。
步骤S507，通过将编码后的输入点云与扩展后的第二数据层级联。
在一些实施例中，将输入点云通过PointNet的网络结构进行编码，例如：输入点云nx3通过PointNet的网络结构编码成nx1024特征。其中，PointNet的网络结构为目标分类、部分分割和场景语义解析的应用提供了一个统一的架构。
例如：将两个nx1024级联成2nx1024。
作为较佳的实施例，编码后的输入点云与扩展后的第二数据层可以通过级联层concat进行级联。其中，级联层concat为将两个及以上的特征图进行拼接。
步骤S508，对级联后的数据层通过预设的第三全连接层和第四全连接层进行处理，得到处理后的数据层。
例如：级联后的2nx1024数据层通过分别为1024x512和512x512的第三全连接层和第四全连接层，得到处理后的2nx512数据层。
步骤S509，对处理后的数据层的每个通道点云数据取最大值，得到第三数据层。
在一些实施例中，设置池化层Pooling为下采样层，在每个通道下点云数据取最大值，例如处理后的2nx512数据层下采样层成1x512。
步骤S510，基于预设的概率归一化层，对第三数据层计算真假概率，以判别所述的输入点云由该语义文本合成。
在一些实施例中，预设的概率归一化层为Softmax层，定义为softmax(xi)＝exp(xi)/(exp(x0)+exp(x1))。其变量为第三数据层，即1xn的数据，n为输出数据的维度。
例如：第三数据层为1x2的数据[1.0,2.0]，则概率归一化后为：
[exp(1.0)/(exp(1.0)+exp(2.0)，exp(2.0)/(exp(1.0)+exp(2.0))]＝[0.2689,0.7311]
进一步地，可以通过预设的第五全连接层和第六全连接层对第三数据层进行处理，以方便概率归一化的处理。例如：第五全连接层和第六全连接层分别为512x256、256x2，对1x512第三数据层进行处理转换成1x2。
值得说明的是，文本合成点云的判别对虚假样本和真实样本进行真假预测，在实施例中给出了一段文本和点云，判定该点云是否由该文本合成的。
需要说明的是，步骤S504和步骤S505可以同时执行，也可以先执行步骤S504再执行步骤S505，当然也可以先执行步骤S505再执行步骤S504。
图6是根据本发明实施例的文本合成点云的判别装置的主要模块的示意图，如图6所示，所述文本合成点云的装置600包括获取模块601、处理模块602和判别模块603。其中，获取模块601获取语义文本，对每个单词进行编码，以生成数据层。其中，所述数据层包括有对应单词数量的层数。处理模块602将数据层转成时空一致性的顺序，以得到级联输出和最终输出；对级联输出进行卷积，再对卷积后的级联输出的每个横向通道取最大值，得到第一数据层；将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层，进而对第二数据层扩展n倍。其中，n为点云点数。判别模块603通过将编码后的输入点云与扩展后的第二数据层级联，再对级联后的每个通道点云数据取最大值，得到第三数据层；基于预设的概率归一化层，对第三数据层计算真假概率，以判别所述的输入点云由该语义文本合成。
在一些实施例中，获取模块601在生成数据层的时候，可以将语义文本表示为一段单词序列，以根据预设的单词库通过独热编码方法对每个单词进行编码，进而基于编码后的单词生成数据层。
另外，在一些实施例中，处理模块602在得到最终输出之后，可以对最终输出进行条件增强。
还有，作为实施例，判别模块603将输入点云通过PointNet的网络结构进行编码。
作为又一个实施例，判别模块603对级联后的数据层通过预设的第三全连接层和第四全连接层进行处理，得到处理后的数据层。
值得说明的是，预设的概率归一化层为Softmax层，定义为softmax(xi)＝exp(xi)/(exp(x0)+exp(x1))。进一步地，判别模块603可以通过预设的第五全连接层和第六全连接层对第三数据层进行处理，以方便概率归一化的处理。
需要说明的是，在本发明所述文本合成点云的判别方法和所述文本合成点云的判别装置在具体实施内容上具有相应关系，故重复内容不再说明。
图7示出了可以应用本发明实施例的文本合成点云的方法或文本合成点云的装置，文本合成点云的判别或文本合成点云的判别装置的示例性系统架构700。
如图7所示，系统架构700可以包括终端设备701、702、703，网络704和服务器705。网络704用以在终端设备701、702、703和服务器705之间提供通信链路的介质。网络704可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备701、702、703通过网络704与服务器705交互，以接收或发送消息等。终端设备701、702、703上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备701、702、703可以是具有文本合成点云的屏或者文本合成点云的判别屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器705可以是提供各种服务的服务器，例如对用户利用终端设备701、702、703所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理，并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。
需要说明的是，本发明实施例所提供的文本合成点云的方法或文本合成点云的判别方法一般由服务器705执行，相应地，计算装置一般设置于服务器505中。
应该理解，图7中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
下面参考图8，其示出了适于用来实现本发明实施例的终端设备的计算机系统800的结构示意图。图8示出的终端设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图8所示，计算机系统800包括中央处理单元(CPU)801，其可以根据存储在只读存储器(ROM)802中的程序或者从存储部分808加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。在RAM803中，还存储有计算机系统800操作所需的各种程序和数据。CPU801、ROM802以及RAM803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
以下部件连接至I/O接口805：包括键盘、鼠标等的输入部分806；包括诸如阴极射线管(CRT)、液晶文本合成点云的器(LCD)等以及扬声器等的输出部分807；包括硬盘等的存储部分808；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器810也根据需要连接至I/O接口805。可拆卸介质811，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器810上，以便于从其上读出的计算机程序根据需要被安装入存储部分808。
特别地，根据本发明公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分809从网络上被下载和安装，和/或从可拆卸介质811被安装。在该计算机程序被中央处理单元(CPU)801执行时，执行本发明的系统中限定的上述功能。
需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中，例如，可以描述为：一种处理器包括获取模块、处理模块和合成模块。其中，这些模块的名称在某种情况下并不构成对该模块本身的限定。
作为另一方面，本发明还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该设备包括获取语义文本，对每个单词进行编码，以生成数据层；其中，所述数据层包括有对应单词数量的层数；将数据层转成时空一致性的顺序，以得到级联输出和最终输出；对级联输出进行卷积，再对卷积后的级联输出的每个横向通道取最大值，得到第一数据层；将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层；对第二数据层通过预设的感知单元进行处理，以得到对应的点云。
根据本发明实施例的技术方案，能够解决现有无法实现将文本合成点云的问题。
上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，取决于设计要求和其他因素，可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (10)

1.一种文本合成点云的方法，其特征在于，包括：
获取语义文本，对每个单词进行编码，以生成数据层；其中，所述数据层包括有对应单词数量的层数；
将数据层转成时空一致性的顺序，以得到级联输出和最终输出；
对级联输出进行卷积，再对卷积后的级联输出的每个横向通道取最大值，得到第一数据层；
将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层；
对第二数据层通过预设的感知单元进行处理，以得到对应的点云。
2.根据权利要求1所述的方法，其特征在于，对每个单词进行编码，以生成数据层，包括：
将语义文本表示为一段单词序列，以根据预设的单词库通过独热编码方法对每个单词进行编码，进而基于编码后的单词生成数据层。
3.根据权利要求1所述的方法，其特征在于，将数据层转成时空一致性的顺序，以得到级联输出和最终输出之后，包括：
对级联输出通过预设的第二全连接层进行卷积，再通过最大池化层对卷积后的级联输出的每个横向通道取最大值，得到第一数据层；
对最终输出进行条件增强。
4.根据权利要求1所述的方法，其特征在于，将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层之后，包括：
对第二数据层通过预设的转置层进行处理，以将第二数据层的层数和维度进行对调。
5.根据权利要求1-4任一所述的方法，其特征在于，对第二数据层通过预设的感知单元进行处理，以得到对应的点云，包括：
将第二数据层的每层通过预设的单层感知单元进行卷积，得到第三数据层；
基于预设的多层感知单元，对第三数据层进行卷积，再将卷积后的第三数据层在点云上采样，进而得到对应的点云。
6.一种文本合成点云的装置，其特征在于，包括：
获取模块，用于获取语义文本，对每个单词进行编码，以生成数据层；其中，所述数据层包括有对应单词数量的层数；
处理模块，用于将数据层转成时空一致性的顺序，以得到级联输出和最终输出；对级联输出进行卷积，再对卷积后的级联输出的每个横向通道取最大值，得到第一数据层；将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层；
合成模块，用于对第二数据层通过预设的感知单元进行处理，以得到对应的点云。
7.一种文本合成点云的判别方法，其特征在于，包括：
获取语义文本，对每个单词进行编码，以生成数据层；其中，所述数据层包括有对应单词数量的层数；
将数据层转成时空一致性的顺序，以得到级联输出和最终输出；
对级联输出进行卷积，再对卷积后的级联输出的每个横向通道取最大值，得到第一数据层；
将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层，进而对第二数据层扩展n倍；其中，n为点云点数；
通过将编码后的输入点云与扩展后的第二数据层级联，再对级联后的每个通道点云数据取最大值，得到第三数据层；
基于预设的概率归一化层，对第三数据层计算真假概率，以判别所述的输入点云由该语义文本合成。
8.一种文本合成点云的判别装置，其特征在于，包括：
获取模块，用于获取语义文本，对每个单词进行编码，以生成数据层；其中，所述数据层包括有对应单词数量的层数；
处理模块，用于将数据层转成时空一致性的顺序，以得到级联输出和最终输出；对级联输出进行卷积，再对卷积后的级联输出的每个横向通道取最大值，得到第一数据层；将第一数据层和最终输出通过预设的第一全连接层，按通道进行级联得到第二数据层，进而对第二数据层扩展n倍；其中，n为点云点数；
判别模块，用于通过将编码后的输入点云与扩展后的第二数据层级联，再对级联后的每个通道点云数据取最大值，得到第三数据层；基于预设的概率归一化层，对第三数据层计算真假概率，以判别所述的输入点云由该语义文本合成。
9.一种电子设备，其特征在于，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-5或7中任一所述的方法。
10.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-5或7中任一所述的方法。
CN202010032974.3A 2020-01-13 2020-01-13 一种文本合成点云的方法和装置 Pending CN113111627A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010032974.3A CN113111627A (zh) 2020-01-13 2020-01-13 一种文本合成点云的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010032974.3A CN113111627A (zh) 2020-01-13 2020-01-13 一种文本合成点云的方法和装置

Publications (1)

Publication Number Publication Date
CN113111627A true CN113111627A (zh) 2021-07-13

Family

ID=76708810

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010032974.3A Pending CN113111627A (zh) 2020-01-13 2020-01-13 一种文本合成点云的方法和装置

Country Status (1)

Country Link
CN (1) CN113111627A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220335654A1 (en) * 2021-04-15 2022-10-20 Sensetime International Pet Ltd. Method and apparatus for generating point cloud encoder, method and apparatus for generating point cloud data, electronic device and computer storage medium

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104298998A (zh) * 2014-09-28 2015-01-21 北京理工大学 一种3d点云的数据处理方法
US20190056779A1 (en) * 2017-08-17 2019-02-21 International Business Machines Corporation Dynamic content generation for augmented reality assisted technology support
CN110379020A (zh) * 2018-07-04 2019-10-25 北京京东尚科信息技术有限公司 一种基于生成对抗网络的激光点云上色方法和装置
CN110428504A (zh) * 2019-07-12 2019-11-08 北京旷视科技有限公司 文本图像合成方法、装置、计算机设备和存储介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104298998A (zh) * 2014-09-28 2015-01-21 北京理工大学 一种3d点云的数据处理方法
US20190056779A1 (en) * 2017-08-17 2019-02-21 International Business Machines Corporation Dynamic content generation for augmented reality assisted technology support
CN110379020A (zh) * 2018-07-04 2019-10-25 北京京东尚科信息技术有限公司 一种基于生成对抗网络的激光点云上色方法和装置
CN110428504A (zh) * 2019-07-12 2019-11-08 北京旷视科技有限公司 文本图像合成方法、装置、计算机设备和存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220335654A1 (en) * 2021-04-15 2022-10-20 Sensetime International Pet Ltd. Method and apparatus for generating point cloud encoder, method and apparatus for generating point cloud data, electronic device and computer storage medium

Similar Documents

Publication Publication Date Title
US20200293905A1 (en) Method and apparatus for generating neural network
CN110136744B (zh) 一种音频指纹生成方法、设备及存储介质
CN111709240A (zh) 实体关系抽取方法、装置、设备及其存储介质
US9977818B2 (en) Local extrema based data sampling system
CN113822428A (zh) 神经网络训练方法及装置、图像分割方法
CN114429552A (zh) 对象属性识别方法、装置、可读存储介质及电子设备
CN111274341A (zh) 一种网点选址方法和装置
CN112990219A (zh) 用于图像语义分割的方法和装置
CN111368551A (zh) 一种确定事件主体的方法和装置
CN116030792A (zh) 用于转换语音音色的方法、装置、电子设备和可读介质
CN110188113B (zh) 一种利用复杂表达式进行数据比对的方法、装置及存储介质
CN115409855A (zh) 图像处理方法、装置、电子设备和存储介质
CN113468344B (zh) 实体关系抽取方法、装置、电子设备和计算机可读介质
CN113076756A (zh) 一种文本生成方法和装置
CN113111627A (zh) 一种文本合成点云的方法和装置
CN114328898A (zh) 文本摘要生成方法及其装置、设备、介质、产品
CN110555204A (zh) 情绪判断的方法和装置
CN113642654B (zh) 图像特征的融合方法、装置、电子设备和存储介质
CN112070888B (zh) 图像生成方法、装置、设备和计算机可读介质
CN111444331B (zh) 基于内容的分布式特征提取方法、装置、设备及介质
CN114707638A (zh) 模型训练、对象识别方法及装置、设备、介质和产品
CN111737572B (zh) 搜索语句生成方法、装置和电子设备
CN113379503A (zh) 推荐信息展示方法、装置、电子设备和计算机可读介质
CN113989152A (zh) 图像增强方法、装置、设备以及存储介质
CN114092773A (zh) 信号处理方法、信号处理装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination