CN116668734A - 标识方法、装置、电子设备及存储介质 - Google Patents

标识方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN116668734A
CN116668734A CN202310644943.7A CN202310644943A CN116668734A CN 116668734 A CN116668734 A CN 116668734A CN 202310644943 A CN202310644943 A CN 202310644943A CN 116668734 A CN116668734 A CN 116668734A
Authority
CN
China
Prior art keywords
identification
video
live video
style
content type
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310644943.7A
Other languages
English (en)
Inventor
张继丰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202310644943.7A priority Critical patent/CN116668734A/zh
Publication of CN116668734A publication Critical patent/CN116668734A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21—Server components or server architectures
    • H04N21/218—Source of audio or video content, e.g. local disk arrays
    • H04N21/2187—Live feed
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/233—Processing of audio elementary streams
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/439—Processing of audio elementary streams
    • H04N21/4394—Processing of audio elementary streams involving operations for analysing the audio stream, e.g. detecting features or characteristics in audio streams
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开提供了一种标识方法、装置、电子设备及存储介质。本公开涉及计算机技术领域，具体涉及视频处理、视频标识等人工智能技术领域。具体实现方案为：获取直播视频及直播视频的内容类型；对直播视频进行分析，得到视频流与音频流；基于内容类型识别视频流中的目标画面；基于音频流中目标画面对应的位置，标识出解说位置。根据本公开的方案，能够提高视频标识的效率。

Description

标识方法、装置、电子设备及存储介质
技术领域
本公开涉及计算机技术领域，具体涉及视频处理、视频标识等人工智能技术领域。
背景技术
随着互联网技术的进步，网络直播也得到了快速发展和广泛应用。例如，各大游戏厂商将游戏和直播结合起来，以提高游戏产品的宣传和推广。目前各大游戏主播大多是通过分享自己的操作和搞笑解说剪辑视频来吸引粉丝的眼球。相关技术中，主播端通过第三方录制软件录制游戏直播内容，在下播后通过第三方视频剪辑软件将精彩片段进行剪辑，并在合适的位置手动添加解说内容，导致视频制作过程较为繁琐。
发明内容
本公开提供了一种标识方法、装置、电子设备及存储介质。
根据本公开的第一方面，提供了一种标识方法，包括：
获取直播视频及直播视频的内容类型；
对直播视频进行分析，得到视频流与音频流；
基于内容类型识别视频流中的目标画面；
基于音频流中目标画面对应的位置，标识出解说位置。
根据本公开的第二方面，提供了一种标识装置，包括：
第一获取模块，用于获取直播视频及直播视频的内容类型；
分析模块，用于对直播视频进行分析，得到视频流与音频流；
识别模块，用于基于内容类型识别视频流中的目标画面；
标识模块，用于基于音频流中目标画面对应的位置，标识出解说位置。
根据本公开的第三方面，提供了一种电子设备，包括：
至少一个处理器；
与至少一个处理器通信连接的存储器；
存储器存储有可以被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行本公开中任一实施例的方法。
根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行根据本公开中任一实施例的方法。
根据本公开的第五方面，提供了一种计算机程序产品，包括存储在存储介质上的计算机程序，计算机程序在被处理器执行时实现根据本公开中任一实施例的方法。
根据本公开的方案，能够提高视频标识的效率。
上述概述仅仅是为了说明书的目的，并不意图以任何方式进行限制。除上述描述的示意性的方面、实施方式和特征之外，通过参考附图和以下的详细描述，本申请进一步的方面、实施方式和特征将会是容易明白的。
附图说明
在附图中，除非另外规定，否则贯穿多个附图相同的附图标记表示相同或相似的部件或元素。这些附图不一定是按照比例绘制的。应该理解，这些附图仅描绘了根据本申请公开的一些实施方式，而不应将其视为是对本申请范围的限制。
图1是根据本公开实施例的标识方法的流程示意图；
图2是根据本公开实施例的基于标识风格标识出解说位置的示意图；
图3是根据本公开实施例的确定标识风格的架构示意图；
图4是根据本公开实施例的解析直播视频的流程示意图；
图5是根据本公开实施例的确定直播视频的内容类型的示意图；
图6是根据本公开实施例的直播视频的处理流程示意图；
图7是根据本公开实施例的标识装置的结构示意图；
图8是根据本公开实施例的标识方法的场景示意图；
图9是用来实现本公开实施例的标识方法的电子设备的结构示意图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
本公开的说明书实施例和权利要求书及上述附图中的术语“第一”、“第二”和“第三”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元。方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
相关技术中，用户端通过第三方录制软件将游戏直播内容进行录制，在下播后通过第三方视频剪辑软件将精彩片段进行剪辑，并输出视频，通过拖动视频帧，在对应的画面帧中添加搞笑解说片段，得到剪辑视频。
相关技术中，用户需要将录制的视频进行重新剪辑和制作，并且需要找合适的位置和合适的物料，导致视频标识过程过于繁琐。并且在视频标识中消耗了大量的操作成本和时间成本。
本公开为了至少部分地解决上述问题以及其他潜在问题中的一个或者多个问题，提出了一种标识方法，不仅可以降低视频标识的操作成本和时间成本，提高视频标识的效率，还能够实现更加智能化的视频标识，进而大幅度地提高解说视频的制作效率。
本公开实施例提供了一种标识方法，图1是根据本公开实施例的标识方法的流程示意图，该标识方法可以应用于标识装置。该标识装置位于电子设备。该电子设备包括但不限于固定设备和/或移动设备。例如，固定设备包括但不限于服务器，服务器可以是云服务器或普通服务器。例如，移动设备包括但不限于：手机、平板电脑、车载终端。在一些可能的实现方式中，该标识方法还可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。如图1所示，该标识方法包括：
S101：获取直播视频及直播视频的内容类型；
S102：对直播视频进行分析，得到视频流与音频流；
S103：基于内容类型识别视频流中的目标画面；
S104：基于音频流中目标画面对应的位置，标识出解说位置。
在一些实施方式中，该直播视频可以包括：游戏直播视频、购物直播视频和旅游讲解视频等。以上仅为示例性说明，不作为对直播视频包括的全部可能的类型的限定，只是这里不做穷举。
在一些实施方式中，该直播视频的内容类型可以是指直播视频包括的内容类型。示例性地，直播视频为游戏直播视频，直播视频的内容类型可以包括游戏的类型，例如王者荣耀、和平精英。又示例性地，直播视频为购物直播视频，直播视频的内容类型可以包括商品的类型，例如服装、小商品、电子产品。以上仅为示例性说明，不作为对直播视频的内容类型包括的全部可能的限定，只是这里不做穷举。
在一些实施方式中，可以通过第三方软件将待剪辑视频进行分解得到视频流和音频流。还可以通过第三方软件录制的待剪辑视频进行分解得到视频流和音频流。
在一些实施方式中，该解说位置是用于供用户添加目标素材的位置。该目标素材至少包括解说音频。该目标素材还可进一步包括：背景音乐和贴纸等。
在一些实施方式中，目标画面与直播视频的内容类型相适应。示例性地，直播视频为游戏直播视频，该目标画面可以是游戏开始前、游戏中场休息和一场游戏和下一场游戏的间隔的界面，可称为操作界面。具体理解可以为游戏尚未打开前的等待画面。操作界面包括血量(Health Point，HP)值、魔法值(Magic Point，MP)、地图按钮、帮助按钮、装备按钮和系统按钮等操作按钮。该操作界面可以是根据游戏的整体风格而专门设置的，还可以是游戏公司根据界面进行定制的画面。又示例性地，该直播视频为购物直播视频，该目标画面是直播开始前或中场休息的界面。
在一些实施方式中，基于被标识出的解说位置输入解说音频，通过合成软件将解说音频和直播视频合成为目标视频。该目标视频是添加有解说的视频。具体地，不对标识的用途作具体限定。
本公开实施例的技术方案，获取直播视频及直播视频的内容类型；对直播视频进行分析，得到视频流与音频流；基于内容类型识别视频流中的目标画面；基于音频流中目标画面对应的位置，标识出解说位置。相对于人工标识出解说位置来说，基于内容类型识别视频流中的目标画面；基于音频流中目标画面对应的位置，自动标识出解说位置，能够在降低操作成本和时间成本的基础上，提高视频标识的效率。同时使得视频标识更加的智能化，从而大幅度地提高了用户体验感视频制作的效率。
在一些实施例中，该标注方法还可包括：获取用户解说特征；基于用户解说特征确定直播视频的标识风格。图2示出了基于标识风格标识出解说位置的示意图，如图2所示，基于音频流中目标画面对应的位置，标识出解说位置，可包括：在音频流中目标画面对应的位置，基于标识风格标识出解说位置。
在一些实施方式中，该用户解说特征可以根据用户画像特征确定。其中，该用户画像特征可以是对用户在预设时间段内的解说视频进行分析，得到用户画像特征。示例性地，该用户画像特征可以是用户的解说风格，例如：搞笑。
在一些实施方式中，该用户解说特征还可以根据用户输入的解说风格指示信息确定。为用户提供多款解说风格，供用户进行选择。具体地，不同解说风格对应的解说位置不同。示例性地，用户指定解说风格为搞笑，则为用户推荐搞笑的解说风格。例如，搞笑的背景音乐、搞笑的贴纸等。
在一些实施方式中，该标识风格可以是对应有不同的标识代码的标识主题。具体地，该标识主题可以包括：游戏人物解说主题、游戏技能解说主题和游戏对战策略主题。该标识风格是指与用户的解说特征相适应或最匹配的标识风格。其中，可以通过排序模型获取与标识风格匹配的标识风格。这里，不对排序模型的类型进行限定。
在一些实施方式中，该解说位置可以在待剪辑视频的任意一帧。优选地，该解说位置在待剪辑视频的可操作页面，即游戏尚未开始前的等待画面。
本公开实施例的技术方案，基于用户解说特征确定直播视频的标识风格；在音频流中目标画面对应的位置，基于标识风格标识出解说位，能够基于用户解说特征，为用户推荐相适应的标识风格，提高视频标识的定制化。
本公开实施例中，基于用户解说特征确定直播视频的标识风格，包括以下至少之一：在直播视频对应多个预设风格的情况下，按照多个预设风格的热度值，将多个预设风格中热度值最大的预设风格作为标识风格；在直播视频对应多个预设风格的情况下，按照多个预设风格的优先级，将多个预设风格中优先级最高的预设风格作为标识风格。
在一些实施方式中，该预设风格可以包括搞笑风格、爆笑风格、多互动风格和放松风格等。以上仅为示例性说明，不作为对预设风格的内容包括的全部可能的限定，只是这里不做穷举。
在一些实施方式中，该将多个预设风格中热度值最大的预设风格作为标识风格。具体地，获取多个预设风格的身份标识号(Identity document，ID)和热度值；将该多个预设风格输入排序模型中，得到热度值最大的预设风格；将该预设风格作为待剪辑视频的标识风格。其中，热度值可以通过用户点击量得到。
在一些实施方式中，将多个预设风格中优先级最高的预设风格作为标识风格。具体地，获取多个预设风格的优先级；将该多个预设风格输入排序模型中，得到热优先级最大的预设风格；将该预设风格作为待剪辑视频的标识风格。其中，优先级可以根据用户画像特征得到。
图3示出了确定标识风格的架构示意图，如图3所示，该直播视频是游戏视频，该游戏直播视频对应4个预设风格，分别为搞笑风格1、搞笑风格2、爆笑风格A和爆笑风格B。获取该4个预设风格的热度值，即搞笑风格1的热度值为0.3、搞笑风格2的热度值为0.4、爆笑风格A的热度值为0.8和爆笑风格B的热度值为0.4；将该4个预设风格输入到排序模型中，得到最高热度值的预设风格为爆笑风格A。将该爆笑风格A作为该游戏直播视频的标识风格。
本公开实施例的技术方案，根据预设风格的热度值或优先级对预设风格进行排序，得到标识风格，能为用户选择标识风格提供不同维度的选择，使得视频标识更加的智能化，有助于提高生成的解说视频的多样性。
在一些实施例中，基于内容类型识别视频流中的目标画面，包括：通过第一深度学习模型识别视频流中与内容类型相适应的目标画面。
在一些实施方式中，该第一深度学习模型是预先训练好的模型。该第一深度学习模型的输入的内容可以包括：直播视频、内容类型。该第一深度学习模型的输出的内容可以包括：与内容类型相适应的目标画面。
需要说明的是，可采用训练集对待训练模型进行训练，得到第一深度学习模型。第一深度学习模型的具体训练方式、具体训练过程，本申请并不对其进行限定。
以直播视频为游戏直播视频、内容类型为游戏类型为例，图4示出了解析直播视频的流程示意图，如图4所示，该流程包括以下步骤：
S401：获取游戏直播媒体流，然后执行步骤S402；
S402：解码分析该游戏直播媒体流，得到视频流与音频流，然后执行步骤S403；
S403：通过类型匹配模型匹配该游戏直播媒体流的游戏类型，然后执行步骤S404；
S404：通过深度学习模型识别与该游戏类型匹配的等待对话画面，执行步骤S405；
S405：判断是否存在等待对话画面，如果是，执行步骤S406；如果否，结束该流程；
S406：设置解说音频轨道，并进行标记。
这里，深度学习模型既可以是输入包括直播视频和内容类型的深度学习模型，还可以是输入包括直播视频、内容类型和用户画像特征的第二深度学习模型。
在一些实施方式中，获取训练集，该训练集可以包括大量的游戏开启图像与声音训练集；根据该训练集对待训练模型进行训练，得到类型匹配模型。通过解码模块将视频流转化成图像帧，实时获取每一视频帧对应的音频。通过类型匹配模块对连续视频帧与音频联合判断，输出游戏类型的分类标签。
本公开实施例的技术方案，通过深度学习模型识别视频流中与内容类型相适应的目标画面，能够在降低视频标识的操作成本和时间成本的基础上，提高视频标识的效率和准确性。
本公开实施例中，基于内容类型识别视频流中的目标画面，包括：通过第二深度学习模型识别视频流中与内容类型以及用户画像特征相适应的目标画面。
在一些实施方式中，该第二深度学习模型是预先训练好的模型。该第二深度学习模型的输入内容可以包括：直播视频、内容类型、用户画像特征。该第二深度学习模型输出内容可以包括：视频流中与内容类型以及用户画像特征相适应的目标画面。
在一些实施方式中，通过人工智能(Artificial Intelligence，AI)大数据分析，分析主播的视频解说特征，根据解说特征产出对应特征模型。该特征模型可以用于构建用户画像特征。
在一些实施方式中，将游戏的图像特征与特征模型进行对比，识别出具有特征匹配的图像内容。识别指定的区域，根据目标图像出现的先后顺序，进行解说位置标识。以供后续在该解说位置添加标识风格。
本公开实施例的技术方案，通过第二深度学习模型识别视频流中与内容类型以及用户画像特征相适应的目标画面，能够解决视频标识过程繁琐的问题，有助于生成定制化的解说位置标识。
图5示出了确定直播视频的内容类型的示意图，如图5所示，获取直播视频的内容类型，包括：将直播视频输入类型匹配模型，获取类型匹配模型输出的直播视频的内容类型；其中，类型匹配模型是基于多个样本视频的图像与声音训练集对待训练模型进行训练得到的。
在一些实施方式中，该将直播视频输入类型匹配模型，获取类型匹配模型输出的直播视频的内容类型。示例性地，若该直播视频为游戏直播视频，则直播视频的内容类型可以包括：王者荣耀、和平精英。若该直播视频为商品讲解直播视频，则直播视频的内容类型可以包括：生活用品类、美妆类、家居类等。
在一些实施方式中，该类型匹配模型是基于多个样本视频的图像与声音训练集对待训练模型进行训练得到的。具体地，获取训练集，该训练集可以包括：多个样本视频的图像与声音。基于该训练集对待训练模型进行训练，得到类型匹配模型。其中，该类型匹配模型用于指示该直播视频的内容类型。
在一些实施方式中，该直播视频为游戏直播视频。该训练集可以包括游戏等待的画面、游戏的等待时间以及游戏的音效等。将游戏直播视频的游戏等待的画面、游戏的等待时间以及游戏的音效输入类型匹配模型；获取类型匹配模型输出的该游戏直播视频的内容为王者荣耀。
本公开实施例的技术方案，将直播视频输入类型匹配模型，获取类型匹配模型输出的直播视频的内容类型。如此，根据类型匹配模型可以准确地获取直播视频的内容类型。根据该内容类型可以有助于确定标注位置和标注风格，从而有助于提高视频标注的效率，进而大幅度地提高标识定制化服务。
本公开实施例中，该标识方法还可包括：获取在解说位置添加的目标素材；基于目标素材和直播视频合成目标视频；其中，目标素材至少包括解说音频。
在一些实施方式中，该目标素材可以包括：背景音乐、贴纸、文字素材和图片素材等。以上仅为示例性说明，不作为对目标素材的全部可能的获取方式的限定，只是这里不做穷举。
图6示出了直播视频的处理流程示意图，如图6所示，该流程包括以下步骤：
S601：导入录制视频，然后执行步骤S602；
S602：解析视频资源，然后执行步骤S603；
S603：提供解说位置以供用户添加音频解说，然后执行步骤S604；
S604：获取在解说位置添加的解说音频，合成目标视频。
本公开实施例的技术方案，获取在解说位置添加的目标素材；基于目标素材和直播视频自动合成目标视频。如此，能够在降低操作成本和时间成本的基础上，提高目标视频的生成效率。
应理解，图2、图3、图4、图5和图6所示的示意图仅仅是示例性而不是限制性的，并且其是可扩展的，本领域技术人员可以基于图2、图3、图4、图5和图6的例子进行各种显而易见的变化和/或替换，得到的技术方案仍属于本公开实施例的公开范围。
本公开实施例提供了一种标识装置，如图7所示，该标识装置可以包括：第一获取模块701，用于获取直播视频及直播视频的内容类型；分析模块702，用于对直播视频进行分析，得到视频流与音频流；识别模块703，用于基于内容类型识别视频流中的目标画面；标识模块704，用于基于音频流中目标画面对应的位置，标识出解说位置。
在一些实施例中，该标识装置还包括：第二获取模块705(图7中未示出)，用于获取用户解说特征；确定模块706(图7中未示出)，用于基于用户解说特征确定直播视频的标识风格；其中，标识模块704，包括：标识子模块，用于在音频流中目标画面对应的位置，基于标识风格标识出解说位置。
在一些实施例中，该确定模块706(图7中未示出)，包括以下至少之一：第一确定子模块，用于在直播视频对应多个预设风格的情况下，按照多个预设风格的热度值，将多个预设风格中热度值最大的预设风格作为标识风格；第二确定子模块，用于在直播视频对应多个预设风格的情况下，按照多个预设风格的优先级，将多个预设风格中优先级最高的预设风格作为标识风格。
在一些实施例中，该识别模块703，包括：第一识别子模块，用于通过第一深度学习模型识别视频流中与内容类型相适应的目标画面。
在一些实施例中，该识别模块703，包括：第二识别子模块，用于通过第二深度学习模型识别视频流中与内容类型以及用户画像特征相适应的目标画面。
在一些实施例中，该第一获取模块701，包括：第一获取子模块，用于将直播视频输入类型匹配模型，获取类型匹配模型输出的直播视频的内容类型；其中，类型匹配模型是基于多个样本视频的图像与声音训练集对待训练模型进行训练得到的。
在一些实施例中，该标识装置还包括：第三获取模块707(图7中未示出)，用于获取在解说位置添加的目标素材；合成模块708(图7中未示出)，用于基于目标素材和直播视频合成目标视频；其中，目标素材至少包括解说音频。
本领域技术人员应当理解，本公开实施例的标识装置中各处理模块的功能，可参照前述的标识方法的相关描述而理解，本公开实施例的标识装置中各处理模块，可通过实现本公开实施例该的功能的模拟电路而实现，也可以通过执行本公开实施例该的功能的软件在电子设备上的运行而实现。
本公开实施例的标识装置，能够在降低操作成本和时间成本的基础上，提高视频标识的效率。同时，由于使得视频标识更加的智能化，提高解说视频制作的效率，从而提高了视频制作体验。
本公开实施例提供了一种标识方法的场景示意图，如图8所示。
如前所述的，本公开实施例提供的标识方法应用于电子设备。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。
具体地，电子设备可具体执行以下操作：
获取直播视频及直播视频的内容类型；
对直播视频进行分析，得到视频流与音频流；
基于内容类型识别视频流中的目标画面；
基于音频流中目标画面对应的位置，标识出解说位置。
其中，直播视频及直播视频的内容类型可以从数据源获取。数据源可以是各种形式的数据存储设备，例如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机和其它适合的计算机。数据源还可以表示各种形式的移动装置，诸如，个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。此外，数据源与用户终端可以是同一设备。
应理解，图8所示的场景图仅仅是示意性而非限制性的，本领域技术人员可以基于图8的例子进行各种显而易见的变化和/或替换，得到的技术方案仍属于本公开实施例的公开范围。
本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质、一种计算机程序产品。
图9示出了可以用来实施本公开的实施例的示例电子设备900的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系，以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图9所示，设备900包括计算单元901，其可以根据存储在只读存储器(Read-OnlyMemory，ROM)902中的计算机程序或者从存储单元908加载到随机访问存储器(RandomAccess Memory，RAM)903中的计算机程序，来执行各种适当的动作和处理。在RAM903中，还可存储设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(Input/Output，I/O)接口905也连接至总线904。
设备900中的多个部件连接至I/O接口905，包括：输入单元906，例如键盘、鼠标等；输出单元907，例如各种类型的显示器、扬声器等；存储单元908，例如磁盘、光盘等；以及通信单元909，例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于中央处理单元CPU、图形处理单元(Graphics ProcessingUnit，GPU)、各种专用的人工智能(Artificial Intelligence，AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(Digital Signal Processor，DSP)，以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理，例如标识方法。例如，在一些实施例中，标识方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元908。在一些实施例中，计算机程序的部分或者全部可以经由ROM 902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序加载到RAM903并由计算单元901执行时，可以执行上文描述的标识方法的一个或多个步骤。备选的，在其他实施例中，计算单元901可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行标识方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(Field Programmable Gate Array，FPGA)、专用集成电路(Application Specific Integrated Circuit，ASIC)、专用标准产品(Application-Specific Standard Products，ASSP)、芯片上系统的系统(System on Chip，SOC)、复杂可编程逻辑设备(Complex Programmable Logic Device，CPLD)、计算机硬件、固件、软件和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的，或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器、只读存储器、可擦除可编程只读存储器(ErasableProgrammable Read-Only Memory，EPROM)、快闪存储器、光纤、便捷式紧凑盘只读存储器(Compact Disk Read Only Memory，CD-ROM)、光学储存设备、磁储存设备，或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，阴极射线管(Cathode Ray Tube，CRT)或者液晶显示器(Liquid Crystal Display，LCD)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈，或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入，或者触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)，或者包括中间件部件的计算系统(例如，应用服务器)，或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)，或者包括这种后台部件、中间件部件，或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(Local Area Network，LAN)、广域网(Wide Area Network，WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端和服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (17)

1.一种标识方法，包括：
获取直播视频及所述直播视频的内容类型；
对所述直播视频进行分析，得到视频流与音频流；
基于所述内容类型识别所述视频流中的目标画面；
基于所述音频流中所述目标画面对应的位置，标识出解说位置。
2.根据权利要求1所述的方法，还包括：
获取用户解说特征；
基于所述用户解说特征确定所述直播视频的标识风格；
其中，所述基于所述音频流中所述目标画面对应的位置，标识出解说位置，包括：
在所述音频流中所述目标画面对应的位置，基于所述标识风格标识出所述解说位置。
3.根据权利要求2所述的方法，其中，所述基于所述用户解说特征确定所述直播视频的标识风格，包括以下至少之一：
在所述直播视频对应多个预设风格的情况下，按照所述多个预设风格的热度值，将所述多个预设风格中热度值最大的预设风格作为所述标识风格；
在所述直播视频对应多个预设风格的情况下，按照所述多个预设风格的优先级，将所述多个预设风格中优先级最高的预设风格作为所述标识风格。
4.根据权利要求1所述的方法，其中，所述基于所述内容类型识别所述视频流中的目标画面，包括：
通过第一深度学习模型识别所述视频流中与所述内容类型相适应的目标画面。
5.根据权利要求1所述的方法，其中，所述基于所述内容类型识别所述视频流中的目标画面，包括：
通过第二深度学习模型识别所述视频流中与所述内容类型以及用户画像特征相适应的目标画面。
6.根据权利要求1所述的方法，其中，获取所述直播视频的内容类型，包括：
将所述直播视频输入类型匹配模型，获取所述类型匹配模型输出的所述直播视频的所述内容类型；其中，所述类型匹配模型是基于多个样本视频的图像与声音训练集对待训练模型进行训练得到的。
7.根据权利要求1所述的方法，还包括：
获取在所述解说位置添加的目标素材；
基于所述目标素材和所述直播视频合成目标视频；其中，所述目标素材至少包括解说音频。
8.一种标识装置，包括：
第一获取模块，用于获取直播视频及所述直播视频的内容类型；
分析模块，用于对所述直播视频进行分析，得到视频流与音频流；
识别模块，用于基于所述内容类型识别所述视频流中的目标画面；
标识模块，用于基于所述音频流中所述目标画面对应的位置，标识出解说位置。
9.根据权利要求8所述的装置，还包括：
第二获取模块，用于获取用户解说特征；
确定模块，用于基于所述用户解说特征确定所述直播视频的标识风格；
其中，所述标识模块，包括：
标识子模块，用于在所述音频流中所述目标画面对应的位置，基于所述标识风格标识出所述解说位置。
10.根据权利要求9所述的装置，其中，所述确定模块，包括以下至少之一：
第一确定子模块，用于在所述直播视频对应多个预设风格的情况下，按照所述多个预设风格的热度值，将所述多个预设风格中热度值最大的预设风格作为所述标识风格；
第二确定子模块，用于在所述直播视频对应多个预设风格的情况下，按照所述多个预设风格的优先级，将所述多个预设风格中优先级最高的预设风格作为所述标识风格。
11.根据权利要求8所述的装置，其中，所述识别模块，包括：
第一识别子模块，用于通过第一深度学习模型识别所述视频流中与所述内容类型相适应的目标画面。
12.根据权利要求8所述的装置，其中，所述识别模块，包括：
第二识别子模块，用于通过第二深度学习模型识别所述视频流中与所述内容类型以及用户画像特征相适应的目标画面。
13.根据权利要求8所述的装置，其中，所述第一获取模块，包括：
第一获取子模块，用于将所述直播视频输入类型匹配模型，获取所述类型匹配模型输出的所述直播视频的所述内容类型；其中，所述类型匹配模型是基于多个样本视频的图像与声音训练集对待训练模型进行训练得到的。
14.根据权利要求8所述的装置，还包括：
第三获取模块，用于获取在所述解说位置添加的目标素材；
合成模块，用于基于所述目标素材和所述直播视频合成目标视频；其中，所述目标素材至少包括解说音频。
15.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法。
17.一种计算机程序产品，包括存储在存储介质上的计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-7中任一项所述的方法。
CN202310644943.7A 2023-06-01 2023-06-01 标识方法、装置、电子设备及存储介质 Pending CN116668734A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310644943.7A CN116668734A (zh) 2023-06-01 2023-06-01 标识方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310644943.7A CN116668734A (zh) 2023-06-01 2023-06-01 标识方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN116668734A true CN116668734A (zh) 2023-08-29

Family

ID=87714872

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310644943.7A Pending CN116668734A (zh) 2023-06-01 2023-06-01 标识方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN116668734A (zh)

Similar Documents

Publication Publication Date Title
JP6711500B2 (ja) 声紋識別方法及び装置
US11158102B2 (en) Method and apparatus for processing information
US20240107127A1 (en) Video display method and apparatus, video processing method, apparatus, and system, device, and medium
JP7123122B2 (ja) 認知的洞察を使用したビデオ・シーンの移動
CN114578969B (zh) 用于人机交互的方法、装置、设备和介质
CN107481720B (zh) 一种显式声纹识别方法及装置
CN110134931B (zh) 媒介标题生成方法、装置、电子设备及可读介质
CN107153496B (zh) 用于输入表情图标的方法和装置
JP7394809B2 (ja) ビデオを処理するための方法、装置、電子機器、媒体及びコンピュータプログラム
KR102488530B1 (ko) 동영상을 생성하기 위한 방법 및 장치
US8972265B1 (en) Multiple voices in audio content
CN112399258B (zh) 直播回放视频生成播放方法、装置、存储介质及电子设备
CN110602516A (zh) 基于视频直播的信息交互方法、装置及电子设备
CN109582825B (zh) 用于生成信息的方法和装置
CN109754783A (zh) 用于确定音频语句的边界的方法和装置
CN109660865B (zh) 为视频自动打视频标签的方法及装置、介质和电子设备
WO2022170848A1 (zh) 人机交互方法、装置、系统、电子设备以及计算机介质
CN112287168A (zh) 用于生成视频的方法和装置
CN109710799B (zh) 语音交互方法、介质、装置和计算设备
WO2024099171A1 (zh) 视频生成方法和装置
WO2021088468A1 (zh) 信息推送方法和装置
JP2022538702A (ja) 音声パケット推薦方法、装置、電子機器およびプログラム
CN105760420B (zh) 实现与多媒体文件内容互动的方法及装置
CN111859970B (zh) 用于处理信息的方法、装置、设备和介质
WO2024022473A1 (zh) 在直播间发送评论和接收评论的方法及相关设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination