CN103873741A - 一种用于替换视频中感兴趣区域的方法及装置 - Google Patents
一种用于替换视频中感兴趣区域的方法及装置 Download PDFInfo
- Publication number
- CN103873741A CN103873741A CN201410132556.6A CN201410132556A CN103873741A CN 103873741 A CN103873741 A CN 103873741A CN 201410132556 A CN201410132556 A CN 201410132556A CN 103873741 A CN103873741 A CN 103873741A
- Authority
- CN
- China
- Prior art keywords
- interest
- area
- frame
- target video
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Analysis (AREA)
Abstract
本发明实施例公开了一种用于替换视频中感兴趣区域的方法及装置，涉及视频处理技术领域，所述方法包括：确定目标视频帧中感兴趣区域的位置；在三维坐标系中，根据所述目标视频帧中感兴趣区域的位置，确定预设的待替换图像的映射图像；将所述目标视频帧中感兴趣区域替换为所述映射图像。应用本发明实施例，替换目标视频帧中的感兴趣区域后，可以与其周围像素自然过渡，提高用户体验效果。
Description
技术领域
本发明涉及视频处理技术领域，特别涉及一种用于替换视频中感兴趣区域的方法及装置。
背景技术
视频具有信息量大、内容丰富等特点，但是，视频的拍摄往往受拍摄时间、拍摄位置、场景等因素的影响，不可重复拍摄到相同的内容，例如，体育比赛视频、晚会表演视频等等，因此，实际应用中，若想获得与已有视频相比，只有某些区域不同的视频时，只能通过视频处理技术实现，例如，获得与已有体育比赛视频相比，只有场地周边的广告内容不同的视频等等。
现有技术中，对视频中的特定区域进行替换时，往往是针对视频中的静止区域或者运动缓慢的区域进行替换，运动中这些区域一般没有形变或者形变较小，而对运动幅度较大的区域进行替换时，由于这些区域运动中形变较大，此时应用现有技术进行替换时，可能会使得替换后的区域与周围像素不协调甚至替换失败，影响用户的体验效果。
发明内容
本发明实施例公开了一种用于替换视频中感兴趣区域的方法及装置，以使得用户能够得到视觉效果较佳的替换感兴趣区域后的视频。
为达到上述目的，本发明实施例公开了一种用于替换视频中感兴趣区域的方法，所述方法包括：
确定目标视频帧中感兴趣区域的位置；
在三维坐标系中，根据所述目标视频帧中感兴趣区域的位置，确定预设的待替换图像的映射图像；
将所述目标视频帧中感兴趣区域替换为所述映射图像。
较佳的，所述将所述目标视频帧中感兴趣区域替换为所述映射图像，包括：
在向用户展示所述目标视频帧时，将所述映射图像覆盖在所述目标视频帧中的感兴趣区域向用户展示，以替换所述目标视频帧中感兴趣区域。
较佳的，所述确定目标视频帧中感兴趣区域的位置，包括：
在目标视频的各帧中分别检测感兴趣区域的位置；
根据检测结果，确定目标视频帧中感兴趣区域的位置；
或
在目标视频帧中确定该帧中感兴趣区域的位置。
较佳的，所述在目标视频的各帧中分别检测感兴趣区域的位置，包括：
逐帧检测目标视频帧的各帧在制作过程中经过预设处理的区域；
根据检测结果确定所述目标视频的各帧中感兴趣区域的位置。
较佳的，所述预设处理，包括：单色处理或顶点设置预设图形标记处理。
较佳的，所述在目标视频的各帧中分别检测感兴趣区域的位置，包括：
确定感兴趣区域在目标视频中的初始位置；
根据所述感兴趣区域的初始位置，提取所述感兴趣区域的第一图像特征；
根据所述第一图像特征，通过图像跟踪技术确定所述感兴趣区域的初始位置所在帧之后的各帧中所述感兴趣区域的位置。
较佳的，所述确定感兴趣区域在目标视频中的初始位置，包括：
根据用户在目标视频的某一帧中的选择操作，确定感兴趣区域的初始位置；或
在目标视频的各帧中逐帧搜索满足预设的第二图像特征的区域，将搜索到的第一个满足预设的第二图像特征的区域确定为感兴趣区域的初始位置。
较佳的，所述在三维坐标系中，根据所述目标视频帧中感兴趣区域的位置，确定预设的待替换图像的映射图像，包括：
在三维坐标系中，根据所述目标视频帧中感兴趣区域的位置，确定所述目标视频帧中感兴趣区域在三维坐标系中的坐标；
根据所确定的坐标，通过纹理贴图的方式确定预设的待替换图像在三维场景中的映射图像。
较佳的，所述预设的待替换图像，包括：
预设的待替换图像的原始图像或由所述预设的待替换图像的原始图像压缩得到的视频经解码后得到的视频帧。
较佳的，所述预设的待替换图像，其宽高比与所述目标视频帧中感兴趣区域的宽高比相同。
较佳的，所述感兴趣区域，包括：广告区域。
为达到上述目的，本发明实施例公开了一种用于替换视频中感兴趣区域的装置，所述装置包括：
感兴趣区域确定模块，用于确定目标视频帧中感兴趣区域的位置；
映射图像确定模块，用于在三维坐标系中，根据所述目标视频帧中感兴趣区域的位置，确定预设的待替换图像的映射图像；
感兴趣区域替换模块，用于将所述目标视频帧中感兴趣区域替换为所述映射图像。
较佳的，所述感兴趣区域替换模块，具体用于在向用户展示所述目标视频帧时，将所述映射图像覆盖在所述目标视频帧中的感兴趣区域向用户展示，以替换所述目标视频帧中感兴趣区域。
较佳的，所述感兴趣区域确定模块，包括：
感兴趣区域检测子模块，用于在目标视频的各帧中分别检测感兴趣区域的位置；
第一感兴趣区域确定子模块，用于根据所述感兴趣区域检测子模块的检测结果，确定目标视频帧中感兴趣区域的位置；
或
第二感兴趣区域确定子模块，用于在目标视频帧中确定该帧中感兴趣区域的位置。
较佳的，所述感兴趣区域检测子模块，包括：
预设处理区域检测单元，用于逐帧检测目标视频帧的各帧在制作过程中经过预设处理的区域；
第一感兴趣区域确定单元，用于根据检测结果确定所述目标视频的各帧中感兴趣区域的位置。
较佳的，所述预设处理，包括：单色处理或顶点设置预设图形标记处理。
较佳的，所述感兴趣区域检测子模块，包括：
初始位置确定单元，用于确定感兴趣区域在目标视频中的初始位置；
第一图像特征提取单元，用于根据所述感兴趣区域的初始位置，提取所述感兴趣区域的第一图像特征；
第二感兴趣区域确定单元，用于根据所述第一图像特征，通过图像跟踪技术确定所述感兴趣区域的初始位置所在帧之后的各帧中所述感兴趣区域的位置。
较佳的，所述初始位置确定单元，
具体用于根据用户在目标视频的某一帧中的选择操作，确定感兴趣区域的初始位置；或
具体用于在目标视频的各帧中逐帧搜索满足预设的第二图像特征的区域，将搜索到的第一个满足预设的第二图像特征的区域确定为感兴趣区域的初始位置。
较佳的，所述映射图像确定模块，包括：
坐标确定子模块，用于在三维坐标系中，根据所述目标视频帧中感兴趣区域的位置，确定所述目标视频帧中感兴趣区域在三维坐标系中的坐标；
映射图像确定子模块，用于根据所述坐标确定子模块确定的坐标，通过纹理贴图的方式确定预设的待替换图像在三维场景中的映射图像。
较佳的，所述预设的待替换图像，包括：
预设的待替换图像的原始图像或由所述预设的待替换图像的原始图像压缩得到的视频经解码后得到的视频帧。
较佳的，所述预设的待替换图像，其宽高比与所述目标视频帧中感兴趣区域的宽高比相同。
较佳的，所述感兴趣区域，包括：广告区域。
由以上可见，本发明实施例提供的方案中，用预设的待替换图像在三维坐标系中的映射图像替换目标视频帧中的感兴趣区域，由于预设的待替换图像在三维坐标系中经处理后得到的映射图像，考虑了运动中感兴趣区域的形变信息，因此，替换目标视频帧中的感兴趣区域后，可以与其周围像素自然过渡，提高了用户体验效果。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的用于替换视频中感兴趣区域的方法的第一种流程示意图；
图2为本发明实施例提供的用于替换视频中感兴趣区域的方法的第二种流程示意图；
图3为本发明实施例提供的用于替换视频中感兴趣区域的方法的第三种流程示意图；
图4为本发明实施例提供的用于替换视频中感兴趣区域的方法的第四种流程示意图；
图5为本发明实施例提供的用于替换视频中感兴趣区域的装置的第一种结构示意图；
图6为本发明实施例提供的用于替换视频中感兴趣区域的装置的第二种结构示意图；
图7为本发明实施例提供的用于替换视频中感兴趣区域的装置的第三种结构示意图；
图8为本发明实施例提供的用于替换视频中感兴趣区域的装置的第四种结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
图1为本发明实施例提供的用于替换视频中感兴趣区域的方法的第一种流程示意图，该方法包括：
S101：确定目标视频帧中感兴趣区域的位置。
其中，感兴趣区域，可以是视频帧中用户感兴趣的任何区域。
近年来，随着植入式广告的兴起，各种广告频频出现在用户收看的视频中，由于视频可被重复播放，因此，这些植入式广告也一并被重复播放，随着广告合约的到期，视频提供商可将植入到视频中的广告替换为其他广告，由此，在本发明的一个优选实施例中，感兴趣区域可以是广告区域。
另外，感兴趣区域还可以是视频中的某一物体如：球、箱子等等所在区域、视频中的人所在区域等。
实际应用中，确定目标视频帧中感兴趣区域的位置时，可以通过实时方式确定，也可以通过离线方式确定。其中，通过实时方式确定是指，直接在目标视频帧中确定该帧中感兴趣区域的位置，由于视频帧中包含的信息较多，实时的从目标视频帧中确定感兴趣区域需要一定时间，因此，从减小系统时延的角度考虑，通过实时方式确定感兴趣区域的位置时，对硬件的性能要求较高。
在本发明的一个具体实施例中，参见图2，提供了一种通过离线方式确定目标视频帧中感兴趣区域的位置的具体实现方法，包括：
S1011：在目标视频的各帧中分别检测感兴趣区域的位置。
需要说明的是，本步骤，是在开始替换视频中的感兴趣区域之前，离线状态下进行的逐帧检测，获得目标视频的各帧中感兴趣区域的位置，具体的，例如可以将获得的各帧中感兴趣区域的位置信息存储在一个数据文件中。
S1012：根据检测结果，确定目标视频帧中感兴趣区域的位置。
在S1011获得检测结果后，可以根据目标视频帧的帧号，从检测结果中对应获得该目标视频帧中感兴趣区域的位置信息。具体的，例如可以从存储各帧中感兴趣区域位置信息的数据文件中，读取目标视频帧的帧号对应的感兴趣区域的位置信息。
由以上可见，应用图2所示实施例提供的方法，确定目标视频帧中感兴趣区域的位置时，只需预先检测出目标视频的各个帧中感兴趣区域的位置信息，而替换过程中，直接从检测结果中获得相应的位置信息即可，因此，系统时延较小。
S102：在三维坐标系中，根据所述目标视频帧中感兴趣区域的位置，确定预设的待替换图像的映射图像。
实际应用中，感兴趣区域在目标视频的各帧中的位置可以是变化的，也可以是不变的，且各帧中的感兴趣区域也可能会由于拍摄时摄像机的角度等因素被拉伸、扭转、缩放等等，本实施例中，将目标视频帧中的感兴趣区域映射到三维坐标系中，这样可以很好的模拟感兴趣区域的实际运动，以获得与感兴趣区域的周围像素较协调的映射图像。
其中，预设的待替换图像可以是预设的待替换图像的原始图像，也可以是将预设的待替换图像的原始图像进行压缩生成待替换图像对应的视频，在替换目标视频帧中的感兴趣区域时，对待替换图像对应的视频进行解码，得到的视频帧。
另外，图像一般是通过图像的分辨率来表示的，例如，720x576等等，因此，通常情况下图像是矩形的，预设的待替换图像和目标视频帧中感兴趣区域均为矩形时，在本发明的一个优选实施例中，预设的待替换图像的宽高比可以与目标视频帧中感兴趣区域的宽高比相同，以使得替换后的图像比例协调。
具体的，在三维坐标系中，根据所述目标视频帧中感兴趣区域的位置，确定预设的待替换图像的映射图像时，可以先在三维坐标系中，根据所述目标视频帧中感兴趣区域的位置，确定所述目标视频帧中感兴趣区域在三维坐标系中的坐标；再根据所确定的坐标，通过纹理贴图的方式确定预设的待替换图像在三维场景中的映射图像。
其中，纹理贴图是在三维坐标系中进行图像处理的常用技术，应用该技术可以减少纹理衔接错误、生成的图像具有更真实的效果、能够提高变换视角看物的真实性等，由于纹理贴图技术属于现有技术，这里不再赘述。
需要说明的是，实际应用中，二维坐标系可以认为是特殊的三维坐标系，因此，本申请中的三维坐标系可以是包括二维坐标系和三维坐标系的坐标系，也即获得映射图像可以是在二维坐标系中获得映射图像。
具体的，可以通过线性差值的方式确定预设的待替换图像在二维场景中的映射图像，应用该方法确定映射图像时，需采用blending的方式输出映射图像。
S103：将所述目标视频帧中感兴趣区域替换为所述映射图像。
在用映射图像替换目标视频帧中的感兴趣区域时，可以是用映射图像中各点的像素值替换目标视频帧中的对应像素值，生成新的目标视频帧，该新的目标视频帧即为向用户显示的视频帧。
也可以是在向用户展示所述目标视频帧时，将所述映射图像覆盖在所述目标视频帧中的感兴趣区域向用户展示，以替换所述目标视频帧中感兴趣区域，而并不将感兴趣区域的像素值替换为映射图像中的像素值。
由以上可见，本发明实施例提供的方案中，用预设的待替换图像在三维坐标系中的映射图像替换目标视频帧中的感兴趣区域，由于预设的待替换图像在三维坐标系中经处理后得到的映射图像，考虑了运动中感兴趣区域的形变信息，因此，替换目标视频帧中的感兴趣区域后，可以与其周围像素自然过渡，提高了用户体验效果。
在本发明的一个具体实施例中，参见图3，提供了一种在目标视频的各帧中分别检测感兴趣区域的位置（S1011）的具体实现方式，包括：
S1011A：逐帧检测目标视频帧的各帧在制作过程中经过预设处理的区域。
在目标视频制作过程中，可以预先对目标视频中的感兴趣区域进行预设处理，这样通过检测目标视频的各帧中经过预设处理的区域即可确定感兴趣区域的位置。
其中，预设处理可以包括：单色处理或顶点设置预设图形标记处理等等。当然本申请只是以上述为例进行说明，实际应用中预设处理的类型并不仅限于此，可以根据实际情况设置。
具体的，预设处理为单色处理，例如，绿色处理，即将视频帧中感兴趣区域设置为绿色；
预设处理为顶点设置预设图形标记处理，例如，顶点设置圆形、三角形等等标记，即在视频帧中感兴趣区域的顶点处设圆形、三角形等等。
S1011B：根据检测结果确定所述目标视频的各帧中感兴趣区域的位置。
下面以预设处理为绿色处理为例对S1011A和S1011B再进行说明。
在目标视频制作过程中，将各帧中的感兴趣区域设置为绿色，即其对应像素点的RGB值为（0，255，0），在目标视频帧中检测各个像素点的RGB值是否接近（0，255，0），若接近可判定该像素点为属于绿色区域的像素点，其中，在判定当前像素点是否属于绿色区域时，还可以同时考虑当前像素点周围的像素点的RGB值，以减少误判。按照上述的步骤逐帧检测目标视频的各帧中的绿色区域，上述的绿色区域的位置即为感兴趣区域的位置。
需要说明的是，本实施例提供的在目标视频的各帧中检测感兴趣区域位置的方法，不仅可以应用于离线方式获得感兴趣区域的位置，也可以应用于实时方式获得感兴趣区域的位置中，应用于实时方式中时，只需在当前待替换的视频帧中检测感兴趣区域即可。
由以上可见，本发明实施例提供的方案中，在视频制作过程中对视频的各帧中的感兴趣区域进行预设处理，使得替换视频中的感兴趣区域时，获得感兴趣区域的位置更简单、准确。
在本发明的一个具体实施例中，参见图4，提供了另一种在目标视频的各帧中分别检测感兴趣区域的位置（S1011）的具体实现方式，包括：
S1011C：确定感兴趣区域在目标视频中的初始位置。
本步骤中，可以根据用户在目标视频的某一帧中的选择操作，确定感兴趣区域的初始位置；也可以在目标视频的各帧中逐帧搜索满足预设的第二图像特征的区域，将搜索到的第一个满足预设的第二图像特征的区域确定为感兴趣区域的初始位置。
其中，第二图像特征可以是图像的边缘信息、梯度信息、SIFT特征、SURF特征等等，当然，本申请并不对图像特征的具体形式进行限定。
搜索满足预设的第二图像特征的区域，可以是检测目标视频帧中的各个区域的图像特征与预设的第二图像特征的相似度是否大于某一预设的阈值，若大于则可判定该区域为满足预设的第二图像特征的区域。
S1011D：根据所述感兴趣区域的初始位置，提取所述感兴趣区域的第一图像特征。
第一图像特征可以与上述的第二图像特征相同，这里不在重复。
S1011E：根据所述第一图像特征，通过图像跟踪技术确定所述感兴趣区域的初始位置所在帧之后的各帧中所述感兴趣区域的位置。
图像跟踪技术，是指根据图像的特征信息，在其它图像中自动识别与图像的特征信息相匹配的区域的技术，该技术中需要的图像特征信息比图像识别技术少，且搜索范围较小，处理速度快。现有技术中已有多种实现图像跟踪技术的方法，这里不再赘述。
需要说明的是，本实施例提供的在目标视频的各帧中检测感兴趣区域位置的方法，不仅可以应用于离线方式获得感兴趣区域的位置，也可以应用于实时方式获得感兴趣区域的位置中，应用于实时方式中时，只需利用当前待替换的视频帧的前面帧中感兴趣区域的位置信息以及图像跟踪技术在当前待替换的视频帧中检测感兴趣区域即可。
由以上可见，本发明实施例提供的方案中，通过图像识别和图像跟踪技术获得视频帧中的感兴趣区域，使得替换目标视频中的感兴趣区域时，在不对目标视频进行预先处理的情况下，即可自动获得感兴趣区域的位置信息，方便用户操作，提高了用户的体验效果。
图5为本发明实施例提供的用于替换视频中感兴趣区域的装置的第一种结构示意图，该装置包括：感兴趣区域确定模块501、映射图像确定模块502和感兴趣区域替换模块503。
其中，感兴趣区域确定模块501，用于确定目标视频帧中感兴趣区域的位置；
映射图像确定模块502，用于在三维坐标系中，根据所述目标视频帧中感兴趣区域的位置，确定预设的待替换图像的映射图像；
感兴趣区域替换模块503，用于将所述目标视频帧中感兴趣区域替换为所述映射图像。
优选的，所述感兴趣区域替换模块503，具体用于在向用户展示所述目标视频帧时，将所述映射图像覆盖在所述目标视频帧中的感兴趣区域向用户展示，以替换所述目标视频帧中感兴趣区域。
优选的，所述映射图像确定模块502可以包括：坐标确定子模块和映射图像确定子模块（图中未示出）。
其中，坐标确定子模块，用于在三维坐标系中，根据所述目标视频帧中感兴趣区域的位置，确定所述目标视频帧中感兴趣区域在三维坐标系中的坐标；
映射图像确定子模块，用于根据所述坐标确定子模块确定的坐标，通过纹理贴图的方式确定预设的待替换图像在三维场景中的映射图像。
具体的，所述预设的待替换图像，可以包括：
预设的待替换图像的原始图像或由所述预设的待替换图像的原始图像压缩得到的视频经解码后得到的视频帧。
优选的，所述预设的待替换图像，其宽高比与所述目标视频中感兴趣区域的宽高比相同。
优选的，所述感兴趣区域，可以包括：广告区域。
由以上可见，本发明实施例提供的方案中，用预设的待替换图像在三维坐标系中的映射图像替换目标视频帧中的感兴趣区域，由于预设的待替换图像在三维坐标系中经处理后得到的映射图像，考虑了运动中感兴趣区域的形变信息，因此，替换目标视频帧中的感兴趣区域后，可以与其周围像素自然过渡，提高了用户体验效果。
在本发明的一个具体实施例中，参见图6，提供了一种感兴趣区域确定模块501的具体结构，其中感兴趣区域确定模块501包括：感兴趣区域检测子模块5011和第一感兴趣区域确定子模块5012。
其中，感兴趣区域检测子模块5011，用于在目标视频的各帧中分别检测感兴趣区域的位置；
第一感兴趣区域确定子模块5012，用于根据所述感兴趣区域检测子模块5011的检测结果，确定目标视频帧中感兴趣区域的位置。
在本发明的一个具体实施例中，感兴趣区域确定模块501还可以包括：第二感兴趣区域确定子模块（图中未示出）。
其中，第二感兴趣区域确定子模块，用于在目标视频帧中确定该帧中感兴趣区域的位置。
由以上可见，应用本实施例提供的方案，确定目标视频帧中感兴趣区域的位置时，只需预先检测出目标视频的各个帧中感兴趣区域的位置信息，而替换过程中，直接从检测结果中获得相应的位置信息即可，因此，系统时延较小。
在本发明的一个具体实施例中，参见图7，提供了一种感兴趣区域检测子模块5011的具体结构，其中，感兴趣区域检测子模块5011包括：预设处理区域检测单元50111和第一感兴趣区域确定单元50112。
其中，预设处理区域检测单元50111，用于逐帧检测目标视频帧的各帧在制作过程中经过预设处理的区域；
第一感兴趣区域确定单元50112，用于根据检测结果确定所述目标视频的各帧中感兴趣区域的位置。
优选的，所述预设处理，包括：单色处理或顶点设置预设图形标记处理。
由以上可见，本发明实施例提供的方案中，在视频制作过程中对视频的各帧中的感兴趣区域进行预设处理，使得替换视频中的感兴趣区域时，获得感兴趣区域的位置更简单、准确。
在本发明的一个具体实施例中，参见图8，提供了另一种感兴趣区域检测子模块5011的具体结构，其中，感兴趣区域检测子模块5011包括：初始位置确定单元50113、第一图像特征提取单元50114和第二感兴趣区域确定单元50115。
初始位置确定单元50113，用于确定感兴趣区域在目标视频中的初始位置；
第一图像特征提取单元50114，用于根据所述感兴趣区域的初始位置，提取所述感兴趣区域的第一图像特征；
第二感兴趣区域确定单元50115，用于根据所述第一图像特征，通过图像跟踪技术确定所述感兴趣区域的初始位置所在帧之后的各帧中所述感兴趣区域的位置。
优选的，所述初始位置确定单元50113，
具体用于根据用户在目标视频的某一帧中的选择操作，确定感兴趣区域的初始位置；或
具体用于在目标视频的各帧中逐帧搜索满足预设的第二图像特征的区域，将搜索到的第一个满足预设的第二图像特征的区域确定为感兴趣区域的初始位置。
由以上可见，本发明实施例提供的方案中，通过图像识别和图像跟踪技术获得视频帧中的感兴趣区域，使得替换视频中的感兴趣区域时，在不对视频进行预先处理的情况下，即可自动获得感兴趣区域的位置信息，方便用户操作，提高了用户的体验效果。
对于装置实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本领域普通技术人员可以理解实现上述方法实施方式中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，所述的程序可以存储于计算机可读取存储介质中，这里所称得的存储介质，如：ROM/RAM、磁碟、光盘等。
以上所述仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。
Claims (22)
1.一种用于替换视频中感兴趣区域的方法，其特征在于，所述方法包括：
确定目标视频帧中感兴趣区域的位置；
在三维坐标系中，根据所述目标视频帧中感兴趣区域的位置，确定预设的待替换图像的映射图像；
将所述目标视频帧中感兴趣区域替换为所述映射图像。
2.根据权利要求1所述的方法，其特征在于，所述将所述目标视频帧中感兴趣区域替换为所述映射图像，包括：
在向用户展示所述目标视频帧时，将所述映射图像覆盖在所述目标视频帧中的感兴趣区域向用户展示，以替换所述目标视频帧中感兴趣区域。
3.根据权利要求1所述的方法，其特征在于，所述确定目标视频帧中感兴趣区域的位置，包括：
在目标视频的各帧中分别检测感兴趣区域的位置；
根据检测结果，确定目标视频帧中感兴趣区域的位置；
或
在目标视频帧中确定该帧中感兴趣区域的位置。
4.根据权利要求3所述的方法，其特征在于，所述在目标视频的各帧中分别检测感兴趣区域的位置，包括：
逐帧检测目标视频帧的各帧在制作过程中经过预设处理的区域；
根据检测结果确定所述目标视频的各帧中感兴趣区域的位置。
5.根据权利要求4所述的方法，其特征在于，所述预设处理，包括：单色处理或顶点设置预设图形标记处理。
6.根据权利要求3所述的方法，其特征在于，所述在目标视频的各帧中分别检测感兴趣区域的位置，包括：
确定感兴趣区域在目标视频中的初始位置；
根据所述感兴趣区域的初始位置，提取所述感兴趣区域的第一图像特征；
根据所述第一图像特征，通过图像跟踪技术确定所述感兴趣区域的初始位置所在帧之后的各帧中所述感兴趣区域的位置。
7.根据权利要求6所述的方法，其特征在于，所述确定感兴趣区域在目标视频中的初始位置，包括：
根据用户在目标视频的某一帧中的选择操作，确定感兴趣区域的初始位置；或
在目标视频的各帧中逐帧搜索满足预设的第二图像特征的区域，将搜索到的第一个满足预设的第二图像特征的区域确定为感兴趣区域的初始位置。
8.根据权利要求1所述的方法，其特征在于，所述在三维坐标系中，根据所述目标视频帧中感兴趣区域的位置，确定预设的待替换图像的映射图像，包括：
在三维坐标系中，根据所述目标视频帧中感兴趣区域的位置，确定所述目标视频帧中感兴趣区域在三维坐标系中的坐标；
根据所确定的坐标，通过纹理贴图的方式确定预设的待替换图像在三维场景中的映射图像。
9.根据权利要求1～8中任一项所述的方法，其特征在于，所述预设的待替换图像，包括：
预设的待替换图像的原始图像或由所述预设的待替换图像的原始图像压缩得到的视频经解码后得到的视频帧。
10.根据权利要求9所述的方法，其特征在于，所述预设的待替换图像，其宽高比与所述目标视频帧中感兴趣区域的宽高比相同。
11.根据权利要求10所述的方法，其特征在于，所述感兴趣区域，包括：广告区域。
12.一种用于替换视频中感兴趣区域的装置，其特征在于，所述装置包括：
感兴趣区域确定模块，用于确定目标视频帧中感兴趣区域的位置；
映射图像确定模块，用于在三维坐标系中，根据所述目标视频帧中感兴趣区域的位置，确定预设的待替换图像的映射图像；
感兴趣区域替换模块，用于将所述目标视频帧中感兴趣区域替换为所述映射图像。
13.根据权利要求12所述的装置，其特征在于，所述感兴趣区域替换模块，具体用于在向用户展示所述目标视频帧时，将所述映射图像覆盖在所述目标视频帧中的感兴趣区域向用户展示，以替换所述目标视频帧中感兴趣区域。
14.根据权利要求12所述的装置，其特征在于，所述感兴趣区域确定模块，包括：
感兴趣区域检测子模块，用于在目标视频的各帧中分别检测感兴趣区域的位置；
第一感兴趣区域确定子模块，用于根据所述感兴趣区域检测子模块的检测结果，确定目标视频帧中感兴趣区域的位置；
或
第二感兴趣区域确定子模块，用于在目标视频帧中确定该帧中感兴趣区域的位置。
15.根据权利要求14所述的装置，其特征在于，所述感兴趣区域检测子模块，包括：
预设处理区域检测单元，用于逐帧检测目标视频帧的各帧在制作过程中经过预设处理的区域；
第一感兴趣区域确定单元，用于根据检测结果确定所述目标视频的各帧中感兴趣区域的位置。
16.根据权利要求15所述的装置，其特征在于，所述预设处理，包括：单色处理或顶点设置预设图形标记处理。
17.根据权利要求14所述的装置，其特征在于，所述感兴趣区域检测子模块，包括：
初始位置确定单元，用于确定感兴趣区域在目标视频中的初始位置；
第一图像特征提取单元，用于根据所述感兴趣区域的初始位置，提取所述感兴趣区域的第一图像特征；
第二感兴趣区域确定单元，用于根据所述第一图像特征，通过图像跟踪技术确定所述感兴趣区域的初始位置所在帧之后的各帧中所述感兴趣区域的位置。
18.根据权利要求17所述的装置，其特征在于，所述初始位置确定单元，
具体用于根据用户在目标视频的某一帧中的选择操作，确定感兴趣区域的初始位置；或
具体用于在目标视频的各帧中逐帧搜索满足预设的第二图像特征的区域，将搜索到的第一个满足预设的第二图像特征的区域确定为感兴趣区域的初始位置。
19.根据权利要求12所述的装置，其特征在于，所述映射图像确定模块，包括：
坐标确定子模块，用于在三维坐标系中，根据所述目标视频帧中感兴趣区域的位置，确定所述目标视频帧中感兴趣区域在三维坐标系中的坐标；
映射图像确定子模块，用于根据所述坐标确定子模块确定的坐标，通过纹理贴图的方式确定预设的待替换图像在三维场景中的映射图像。
20.根据权利要求12～19中任一项所述的装置，其特征在于，所述预设的待替换图像，包括：
预设的待替换图像的原始图像或由所述预设的待替换图像的原始图像压缩得到的视频经解码后得到的视频帧。
21.根据权利要求20所述的装置，其特征在于，所述预设的待替换图像，其宽高比与所述目标视频帧中感兴趣区域的宽高比相同。
22.根据权利要求21所述的装置，其特征在于，所述感兴趣区域，包括：广告区域。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201410132556.6A CN103873741A (zh) | 2014-04-02 | 2014-04-02 | 一种用于替换视频中感兴趣区域的方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201410132556.6A CN103873741A (zh) | 2014-04-02 | 2014-04-02 | 一种用于替换视频中感兴趣区域的方法及装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN103873741A true CN103873741A (zh) | 2014-06-18 |
Family
ID=50911835
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201410132556.6A Pending CN103873741A (zh) | 2014-04-02 | 2014-04-02 | 一种用于替换视频中感兴趣区域的方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN103873741A (zh) |
Cited By (31)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104618745A (zh) * | 2015-02-17 | 2015-05-13 | 北京影谱互动传媒科技有限公司 | 一种在视频中动态植入广告的方法及装置 |
| CN104735465A (zh) * | 2015-03-31 | 2015-06-24 | 北京奇艺世纪科技有限公司 | 在视频画面中植入平面图案广告的方法及装置 |
| CN104735467A (zh) * | 2015-03-31 | 2015-06-24 | 北京奇艺世纪科技有限公司 | 视频画中画广告生成方法及装置 |
| CN104901939A (zh) * | 2014-12-30 | 2015-09-09 | 腾讯科技（北京）有限公司 | 多媒体文件播放方法和终端及服务器 |
| CN104933674A (zh) * | 2015-06-29 | 2015-09-23 | 网易传媒科技（北京）有限公司 | 一种图像处理方法及装置 |
| CN105163188A (zh) * | 2015-08-31 | 2015-12-16 | 小米科技有限责任公司 | 视频内容处理方法、装置及设备 |
| CN105245784A (zh) * | 2014-06-26 | 2016-01-13 | 深圳锐取信息技术股份有限公司 | 一种多媒体教室中投影区域的拍摄处理方法及装置 |
| CN105261001A (zh) * | 2014-07-14 | 2016-01-20 | 王科 | 图像处理方法和装置 |
| CN105513098A (zh) * | 2014-09-26 | 2016-04-20 | 腾讯科技（北京）有限公司 | 一种图像处理的方法和装置 |
| CN105657446A (zh) * | 2015-12-30 | 2016-06-08 | 北京奇艺世纪科技有限公司 | 一种视频中贴片广告的检测方法和装置 |
| CN106454155A (zh) * | 2016-09-26 | 2017-02-22 | 新奥特（北京）视频技术有限公司 | 一种视频的遮罩特技处理方法和装置 |
| CN106686405A (zh) * | 2016-12-28 | 2017-05-17 | 深圳市奥拓电子股份有限公司 | 一种视频转播方法及系统 |
| CN106991641A (zh) * | 2017-03-10 | 2017-07-28 | 北京小米移动软件有限公司 | 植入图片的方法及装置 |
| CN107507216A (zh) * | 2017-08-17 | 2017-12-22 | 北京觅己科技有限公司 | 图像中局部区域的替换方法、装置及存储介质 |
| CN108076373A (zh) * | 2017-02-14 | 2018-05-25 | 北京市商汤科技开发有限公司 | 视频图像的处理方法、装置和电子设备 |
| WO2018133011A1 (zh) * | 2017-01-19 | 2018-07-26 | 深圳市奥拓电子股份有限公司 | 一种视频转播方法及系统 |
| CN108334878A (zh) * | 2018-02-07 | 2018-07-27 | 北京影谱科技股份有限公司 | 视频图像检测方法和装置 |
| CN108401112A (zh) * | 2018-04-23 | 2018-08-14 | Oppo广东移动通信有限公司 | 图像处理方法、装置、终端及存储介质 |
| CN109429084A (zh) * | 2017-08-24 | 2019-03-05 | 北京搜狗科技发展有限公司 | 视频处理方法和装置、用于视频处理的装置 |
| CN109523297A (zh) * | 2018-10-17 | 2019-03-26 | 成都索贝数码科技股份有限公司 | 一种体育比赛中实现虚拟广告的方法 |
| WO2019154035A1 (zh) * | 2018-02-12 | 2019-08-15 | 华为技术有限公司 | 一种在视频中植入广告的方法及计算机设备 |
| CN110188645A (zh) * | 2019-05-22 | 2019-08-30 | 北京百度网讯科技有限公司 | 用于车载场景的人脸检测方法、装置、车辆及存储介质 |
| CN110310374A (zh) * | 2019-06-06 | 2019-10-08 | 南京泓众电子科技有限公司 | 全景照片中三脚架自动消除方法及装置 |
| CN110521212A (zh) * | 2017-04-27 | 2019-11-29 | 西安诺瓦星云科技股份有限公司 | 视频录制及处理系统以及方法 |
| CN110582019A (zh) * | 2019-09-02 | 2019-12-17 | 北京网聘咨询有限公司 | 基于手机端的视频简化处理系统 |
| CN111182338A (zh) * | 2020-01-13 | 2020-05-19 | 上海极链网络科技有限公司 | 一种视频处理方法、装置、存储介质及电子设备 |
| WO2020172826A1 (zh) * | 2019-02-27 | 2020-09-03 | 华为技术有限公司 | 一种视频处理方法和移动设备 |
| CN112019879A (zh) * | 2019-05-31 | 2020-12-01 | 阿里巴巴集团控股有限公司 | 视频处理方法、装置、计算设备及介质 |
| CN112135191A (zh) * | 2020-09-28 | 2020-12-25 | 广州酷狗计算机科技有限公司 | 视频编辑方法、装置、终端及存储介质 |
| CN113393477A (zh) * | 2020-03-13 | 2021-09-14 | 上海哔哩哔哩科技有限公司 | 图像处理方法和系统 |
| CN113852757A (zh) * | 2021-09-03 | 2021-12-28 | 维沃移动通信（杭州）有限公司 | 视频处理方法、装置、设备和存储介质 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7230653B1 (en) * | 1999-11-08 | 2007-06-12 | Vistas Unlimited | Method and apparatus for real time insertion of images into video |
| CN101388067A (zh) * | 2007-09-12 | 2009-03-18 | 中国科学院自动化研究所 | 一种互动娱乐商标广告的植入方法 |
| CN101398829A (zh) * | 2007-09-30 | 2009-04-01 | 国际商业机器公司 | 标记、修改视频的方法和设备,及视频处理方法和设备 |
| US20130063561A1 (en) * | 2011-09-14 | 2013-03-14 | Karel Paul Stephan | Virtual advertising platform |
| US20140033250A1 (en) * | 2008-04-15 | 2014-01-30 | Disney Enterprises, Inc. | Preprocessing Video to Insert Visual Elements and Applications Thereof |
-
2014
- 2014-04-02 CN CN201410132556.6A patent/CN103873741A/zh active Pending
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7230653B1 (en) * | 1999-11-08 | 2007-06-12 | Vistas Unlimited | Method and apparatus for real time insertion of images into video |
| CN101388067A (zh) * | 2007-09-12 | 2009-03-18 | 中国科学院自动化研究所 | 一种互动娱乐商标广告的植入方法 |
| CN101398829A (zh) * | 2007-09-30 | 2009-04-01 | 国际商业机器公司 | 标记、修改视频的方法和设备,及视频处理方法和设备 |
| US20140033250A1 (en) * | 2008-04-15 | 2014-01-30 | Disney Enterprises, Inc. | Preprocessing Video to Insert Visual Elements and Applications Thereof |
| US20130063561A1 (en) * | 2011-09-14 | 2013-03-14 | Karel Paul Stephan | Virtual advertising platform |
Cited By (41)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105245784A (zh) * | 2014-06-26 | 2016-01-13 | 深圳锐取信息技术股份有限公司 | 一种多媒体教室中投影区域的拍摄处理方法及装置 |
| CN105261001A (zh) * | 2014-07-14 | 2016-01-20 | 王科 | 图像处理方法和装置 |
| CN105513098A (zh) * | 2014-09-26 | 2016-04-20 | 腾讯科技（北京）有限公司 | 一种图像处理的方法和装置 |
| CN105513098B (zh) * | 2014-09-26 | 2020-01-21 | 腾讯科技（北京）有限公司 | 一种图像处理的方法和装置 |
| CN104901939A (zh) * | 2014-12-30 | 2015-09-09 | 腾讯科技（北京）有限公司 | 多媒体文件播放方法和终端及服务器 |
| CN104901939B (zh) * | 2014-12-30 | 2019-01-08 | 腾讯科技（北京）有限公司 | 多媒体文件播放方法和终端及服务器 |
| CN104618745A (zh) * | 2015-02-17 | 2015-05-13 | 北京影谱互动传媒科技有限公司 | 一种在视频中动态植入广告的方法及装置 |
| CN104735465A (zh) * | 2015-03-31 | 2015-06-24 | 北京奇艺世纪科技有限公司 | 在视频画面中植入平面图案广告的方法及装置 |
| CN104735467A (zh) * | 2015-03-31 | 2015-06-24 | 北京奇艺世纪科技有限公司 | 视频画中画广告生成方法及装置 |
| CN104933674A (zh) * | 2015-06-29 | 2015-09-23 | 网易传媒科技（北京）有限公司 | 一种图像处理方法及装置 |
| CN105163188A (zh) * | 2015-08-31 | 2015-12-16 | 小米科技有限责任公司 | 视频内容处理方法、装置及设备 |
| CN105657446B (zh) * | 2015-12-30 | 2018-06-22 | 北京奇艺世纪科技有限公司 | 一种视频中贴片广告的检测方法和装置 |
| CN105657446A (zh) * | 2015-12-30 | 2016-06-08 | 北京奇艺世纪科技有限公司 | 一种视频中贴片广告的检测方法和装置 |
| CN106454155A (zh) * | 2016-09-26 | 2017-02-22 | 新奥特（北京）视频技术有限公司 | 一种视频的遮罩特技处理方法和装置 |
| CN106686405A (zh) * | 2016-12-28 | 2017-05-17 | 深圳市奥拓电子股份有限公司 | 一种视频转播方法及系统 |
| CN106686405B (zh) * | 2016-12-28 | 2019-12-10 | 深圳市奥拓电子股份有限公司 | 一种视频转播方法及系统 |
| WO2018133011A1 (zh) * | 2017-01-19 | 2018-07-26 | 深圳市奥拓电子股份有限公司 | 一种视频转播方法及系统 |
| CN108076373A (zh) * | 2017-02-14 | 2018-05-25 | 北京市商汤科技开发有限公司 | 视频图像的处理方法、装置和电子设备 |
| CN106991641A (zh) * | 2017-03-10 | 2017-07-28 | 北京小米移动软件有限公司 | 植入图片的方法及装置 |
| CN110521212A (zh) * | 2017-04-27 | 2019-11-29 | 西安诺瓦星云科技股份有限公司 | 视频录制及处理系统以及方法 |
| CN107507216B (zh) * | 2017-08-17 | 2020-06-09 | 北京觅己科技有限公司 | 图像中局部区域的替换方法、装置及存储介质 |
| CN107507216A (zh) * | 2017-08-17 | 2017-12-22 | 北京觅己科技有限公司 | 图像中局部区域的替换方法、装置及存储介质 |
| CN109429084A (zh) * | 2017-08-24 | 2019-03-05 | 北京搜狗科技发展有限公司 | 视频处理方法和装置、用于视频处理的装置 |
| CN108334878A (zh) * | 2018-02-07 | 2018-07-27 | 北京影谱科技股份有限公司 | 视频图像检测方法和装置 |
| CN108334878B (zh) * | 2018-02-07 | 2021-01-05 | 北京影谱科技股份有限公司 | 视频图像检测方法、装置、设备及可读存储介质 |
| WO2019154035A1 (zh) * | 2018-02-12 | 2019-08-15 | 华为技术有限公司 | 一种在视频中植入广告的方法及计算机设备 |
| US11595737B2 (en) | 2018-02-12 | 2023-02-28 | Huawei Technologies Co., Ltd. | Method for embedding advertisement in video and computer device |
| CN108401112B (zh) * | 2018-04-23 | 2021-10-22 | Oppo广东移动通信有限公司 | 图像处理方法、装置、终端及存储介质 |
| CN108401112A (zh) * | 2018-04-23 | 2018-08-14 | Oppo广东移动通信有限公司 | 图像处理方法、装置、终端及存储介质 |
| CN109523297A (zh) * | 2018-10-17 | 2019-03-26 | 成都索贝数码科技股份有限公司 | 一种体育比赛中实现虚拟广告的方法 |
| CN109523297B (zh) * | 2018-10-17 | 2022-02-22 | 成都索贝数码科技股份有限公司 | 一种体育比赛中实现虚拟广告的方法 |
| WO2020172826A1 (zh) * | 2019-02-27 | 2020-09-03 | 华为技术有限公司 | 一种视频处理方法和移动设备 |
| CN110188645A (zh) * | 2019-05-22 | 2019-08-30 | 北京百度网讯科技有限公司 | 用于车载场景的人脸检测方法、装置、车辆及存储介质 |
| CN110188645B (zh) * | 2019-05-22 | 2022-10-21 | 阿波罗智联(北京)科技有限公司 | 用于车载场景的人脸检测方法、装置、车辆及存储介质 |
| CN112019879A (zh) * | 2019-05-31 | 2020-12-01 | 阿里巴巴集团控股有限公司 | 视频处理方法、装置、计算设备及介质 |
| CN110310374A (zh) * | 2019-06-06 | 2019-10-08 | 南京泓众电子科技有限公司 | 全景照片中三脚架自动消除方法及装置 |
| CN110582019A (zh) * | 2019-09-02 | 2019-12-17 | 北京网聘咨询有限公司 | 基于手机端的视频简化处理系统 |
| CN111182338A (zh) * | 2020-01-13 | 2020-05-19 | 上海极链网络科技有限公司 | 一种视频处理方法、装置、存储介质及电子设备 |
| CN113393477A (zh) * | 2020-03-13 | 2021-09-14 | 上海哔哩哔哩科技有限公司 | 图像处理方法和系统 |
| CN112135191A (zh) * | 2020-09-28 | 2020-12-25 | 广州酷狗计算机科技有限公司 | 视频编辑方法、装置、终端及存储介质 |
| CN113852757A (zh) * | 2021-09-03 | 2021-12-28 | 维沃移动通信（杭州）有限公司 | 视频处理方法、装置、设备和存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN103873741A (zh) | 一种用于替换视频中感兴趣区域的方法及装置 | |
| Hu et al. | Revisiting single image depth estimation: Toward higher resolution maps with accurate object boundaries | |
| Senst et al. | Crowd violence detection using global motion-compensated lagrangian features and scale-sensitive video-level representation | |
| CN106447721B (zh) | 图像阴影检测方法和装置 | |
| CN106875431B (zh) | 具有移动预测的图像追踪方法及扩增实境实现方法 | |
| CN106355153A (zh) | 一种基于增强现实的虚拟对象显示方法、装置以及系统 | |
| CN109063123B (zh) | 全景视频的标注添加方法及系统 | |
| CN109102530B (zh) | 运动轨迹绘制方法、装置、设备和存储介质 | |
| CN102713938A (zh) | 用于均匀和非均匀照明变化中的改善的特征检测的尺度空间正规化技术 | |
| CN110163831B (zh) | 三维虚拟沙盘的物体动态展示方法、装置及终端设备 | |
| CN102859535A (zh) | 从预先计算的尺度空间产生Daisy描述符 | |
| Rambach et al. | [poster] augmented things: Enhancing ar applications leveraging the internet of things and universal 3d object tracking | |
| WO2008139465A2 (en) | Bidirectional similarity of signals | |
| CN108133454B (zh) | 空间几何模型图像切换方法、装置、系统及交互设备 | |
| CN110021000B (zh) | 基于图层变形的发际线修复方法及装置 | |
| Xue et al. | Boundary-induced and scene-aggregated network for monocular depth prediction | |
| CN111491187A (zh) | 视频的推荐方法、装置、设备及存储介质 | |
| CN106407978B (zh) | 一种结合似物度的无约束视频中显著物体检测方法 | |
| CN102843617A (zh) | 一种实现全景视频动态热点的方法 | |
| CN105160561A (zh) | 一种情景式图片广告方法及装置 | |
| CN113220251A (zh) | 物体显示方法、装置、电子设备及存储介质 | |
| CN105531740A (zh) | 扩展物理平面的数字表示 | |
| CN110751668B (zh) | 图像处理方法、装置、终端、电子设备及可读存储介质 | |
| US20120321199A1 (en) | Object identification system and method of identifying an object using the same | |
| CN112101344A (zh) | 一种视频文本跟踪方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20140618 |