CN111901668B - 视频播放方法和装置 - Google Patents

视频播放方法和装置 Download PDF

Info

Publication number
CN111901668B
CN111901668B CN202010926469.3A CN202010926469A CN111901668B CN 111901668 B CN111901668 B CN 111901668B CN 202010926469 A CN202010926469 A CN 202010926469A CN 111901668 B CN111901668 B CN 111901668B
Authority
CN
China
Prior art keywords
feature
video data
video
playing
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010926469.3A
Other languages
English (en)
Other versions
CN111901668A (zh
Inventor
赵洋洋
俞江
谢根英
张曼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics China R&D Center
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics China R&D Center
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics China R&D Center, Samsung Electronics Co Ltd filed Critical Samsung Electronics China R&D Center
Priority to CN202010926469.3A priority Critical patent/CN111901668B/zh
Publication of CN111901668A publication Critical patent/CN111901668A/zh
Application granted granted Critical
Publication of CN111901668B publication Critical patent/CN111901668B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/433Content storage operation, e.g. storage operation in response to a pause request, caching operations
    • H04N21/4334Recording operations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47217End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for controlling playback functions for recorded or on-demand content, e.g. using progress bars, mode or play-point indicators or bookmarks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8549Creating video summaries, e.g. movie trailer

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Human Computer Interaction (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请公开了视频播放方法和装置,涉及视频处理技术领域。方法的一具体实施方式包括:基于包括当前视频帧的视频数据的特征信息,确定当前视频帧是否为关键帧,响应于识别当前视频帧为关键帧,对视频数据进行标注并生成特征标签,将视频数据及所对应的特征标签进行存储,响应于接收到用户发送的视频播放请求,播放与特征标签对应的视频数据。该实施方式使得当用户在观看视频数据的过程中错过某些精彩镜头时,可以快速、精准的找到想要观看的镜头,同时避免了对全部视频数据进行存储,提升了对存储空间的利用率。

Description

视频播放方法和装置
技术领域
本申请涉及计算机技术领域,具体视频处理技术领域,尤其涉及一种视频播放方法和装置。
背景技术
目前,用户在智能设备(如电视、手机、平板等)上观看比赛直播时,无法手动回放内容,只有被动的由内容提供商进行部分镜头回放,而部分电视已经支持直播电视进行回放该功能,但是基本上都是将整场比赛或者整个直播视频进行录制下来,然后供用户进行回放观看。
发明内容
本申请实施例提供了一种视频播放方法、装置、设备以及存储介质。
根据第一方面,本申请实施例提供了一种视频播放方法,该方法包括:基于包括当前视频帧的视频数据的特征信息,识别当前视频帧是否为关键帧;响应于识别当前视频帧为关键帧,对视频数据进行标注并生成特征标签,特征标签与特征信息相对应;将视频数据及所对应的特征标签进行存储;响应于接收到用户发送的视频播放请求,视频播放请求包括特征标签,播放与所述特征标签对应的视频数据。
在一些实施例中,基于包括当前视频帧的视频数据的特征信息,识别当前视频帧是否为关键帧,包括:提取视频数据所包括的音频数据的特征信息,得到第一特征;根据预设的评分规则,对第一特征进行评分;基于第一特征的评分以及预设的第一分数阈值,识别当前视频帧是否为关键帧。
在一些实施例中,基于第一特征的评分以及预设的第一分数阈值,识别当前视频帧是否为关键帧,包括:响应于第一特征的评分小于预设的第一分数阈值,分别获取视频数据所包括的视频序列的特征信息以及当前视频帧的特征信息,得到第二特征和第三特征;将第一特征、第二特征及第三特征进行融合,得到融合特征;基于预设的评分规则对所述融合特征进行评分;基于所述融合特征的评分以及预设的第二分数阈值,确定当前视频帧是否为关键帧。
在一些实施例中,在将所述视频数据及所对应的特征标签进行存储之后,该方法还包括:对存储的视频数据进行三维建模,生成三维视频数据。
在一些实施例中,播放与所述特征标签对应的视频数据,包括:播放与特征标签对应的三维视频数据。
在一些实施例中,在播放与所述特征标签对应的三维视频数据之后,该方法还包括:响应于接收用户发送的切换播放视角的指令,基于所述指令调整所述三维视频数据的播放视角。
根据第二方面,本申请实施例提供了一种视频播放装置,包括:识别模块,被配置成基于包括当前视频帧的视频数据的特征信息,识别当前视频帧是否为关键帧;标注模块,被配置成响应于识别当前视频帧为关键帧,对视频数据进行标注并生成特征标签,特征标签与所述特征信息相对应;存储模块,被配置成将视频数据及所对应的特征标签进行存储;播放模块,被配置成响应于接收到用户发送的视频播放请求,视频播放请求包括特征标签,播放与特征标签对应的视频数据。
在一些实施例中,识别模块进一步包括:提取单元,被配置成提取视频数据所包括的音频数据的特征信息,得到第一特征;评分单元,被配置成根据预设的评分规则,对第一特征进行评分;识别单元,被配置成基于所述第一特征的评分以及预设的第一分数阈值,识别当前视频帧是否为关键帧。
在一些实施例中,识别单元进一步被配置成:响应于第一特征的评分小于预设的第一分数阈值,分别获取视频数据所包括的视频序列的特征信息以及当前视频帧的特征信息,得到第二特征和第三特征;将第一特征、第二特征及第三特征进行融合,得到融合特征;基于预设的评分规则对所述融合特征进行评分;基于融合特征的评分以及预设的第二分数阈值,确定当前视频帧是否为关键帧。
在一些实施例中,该装置还包括:建模模块,被配置成对存储的视频数据进行三维建模,生成三维视频数据。
在一些实施例中,播放模块进一步被配置成播放与所述特征标签对应的三维视频数据。
在一些实施例中,该装置还包括:调整模块,被配置成响应于接收用户发送的切换播放视角的指令,基于所述指令调整所述三维视频数据的播放视角。
根据第三方面,本申请实施例提供了一种电子设备,该电子设备包括一个或多个处理器;存储装置,其上存储有一个或多个程序,当一个或多个程序被该一个或多个处理器执行,使得一个或多个处理器实现如第一方面的任一实施例的视频播放方法。
根据第四方面,本申请实施例提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如第一方面的任一实施例的视频播放方法。
本申请通过基于包括当前视频帧的视频数据的特征信息,确定当前视频帧是否为关键帧,响应于识别当前视频帧为关键帧,对视频数据进行标注并生成特征标签,将视频数据及所对应的特征标签进行存储,响应于接收到用户发送的视频播放请求,播放与特征标签对应的视频数据,使得当用户在观看视频数据的过程中错过某些精彩镜头时,可以快速、精准的找到想要观看的镜头,同时避免了对全部视频数据进行存储,提升了对存储空间的利用率。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其他特征将通过以下的说明书而变得容易理解。
附图说明
图1是本申请可以应用于其中的示例性系统架构图;
图2是根据本申请的视频播放方法的一个实施例的流程图;
图3是根据本申请的视频播放方法的一个应用场景的示意图;
图4是根据本申请的视频播放方法的另一个实施例的流程图;
图5是根据本申请的视频播放方法的又一个实施例的流程图;
图6是根据本申请的视频播放装置的一个实施例的示意图;
图7是适于用来实现本申请实施例的服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的视频播放方法的实施例的示例性系统架构100。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用软件,例如,搜索类应用软件、视频播放类应用软件等。
终端设备101、102、103可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供视频播放服务),也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器,例如,基于包括当前视频帧的视频数据的特征信息,识别当前视频帧是否为关键帧,响应于识别当前视频帧为关键帧,对视频数据进行标注并生成特征标签,将视频数据及所对应的特征标签进行存储,响应于接收到用户发送的视频播放请求,通过终端设备101、102、103播放与特征标签对应的视频数据。
需要说明的是,本申请实施例所提供的视频播放方法一般由终端设备101、102、103执行,相应地,用于视频播放装置一般设置于终端设备101、102、103中。
需要说明的是,服务器105可以是硬件,也可以是软件。当服务器105为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器为软件时,可以实现成多个软件或软件模块(例如用来提供视频播放服务),也可以实现成单个软件或软件模块。在此不做具体限定。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图2示出了可以应用于本申请的视频播放方法的实施例的流程示意图200。视频播放方法包括以下步骤:
步骤201,基于包括当前视频帧的视频数据的特征信息,识别当前视频帧是否为关键帧。
在本实施例中,执行主体(例如图1中所示的终端设备101、102、103)可以首先从远端或本地获取视频数据,这里,视频数据可以包括视频帧、视频帧组成的视频序列以及视频帧组成的视频序列对应的音频数据等。然后,执行主体可以指定视频数据中由预设数量个视频帧组成的视频帧序列中的任一帧为当前帧,例如,视频帧序列中的第一帧、最后一帧或中间帧等。其中,预设数量可以为一个也可以为多个,本申请对此不作限定。
这里,视频数据可以是任意类型的视频数据,例如,影视剧、体育比赛、游戏比赛等等,本申请对此不作限定。
具体地,执行主体可以预先缓存预设时长,例如,10s,的足球直播视频数据,视频数据包括由100个视频帧组成的视频帧序列,执行主体可以指定视频帧序列中的第一帧为当前帧。
进一步地,执行主体可以根据包括当前视频帧的视频数据的特征信息,识别当前视频帧是否为关键帧。
这里,执行主体可以根据特征信息是否满足预设要求来识别当前视频帧是否为关键帧,也可以根据预设的评分规则来确定特征信息的评分,进而根据特征信息的评分来确定当前视频帧是否为关键帧,本申请对此不作限定。
具体地,执行主体可以首先提取视频数据的特征信息,然后对特征信息进行评分,判断评分是否大于等于预设的分数阈值,若分数大于等于预设的分数阈值,当可确定当前视频帧为关键帧,若分数小于预设的分数阈值,则可确定当前视频帧不是关键帧。
这里,视频数据的特征信息可以是视频数据所包括的音频数据的特征信息,可以是视频数据所包括的视频帧序列的特征信息,可以是视频数据所包括的当前视频帧的特征信息,也可以是视频数据所包括的音频数据的特征信息、视频帧序列的特征信息、当前视频帧的特征信息中的至少两项特征信息的融合特征信息,本申请对此不作限定。
此外,执行主体对上述特征信息进行评分的方式可以包括多种,例如,执行主体可以将上述特征信息输入预设的评分模型得到特征信息的评分,其中,预设的评分模型基于标注有评分的特征信息训练样本得到,也可以根据上述特征信息在预设的特征信息评分对照表中查找与上述特征信息对应的评分,本申请对此不作限定。
这里,上述特征信息可以与频数据的类型有关。例如,若当前视频数据为足球比赛直播的视频数据,则特征信息可以是包括犯规、得分等动作的图像信息,也可以是包括解说员关于得分、犯规等的解说词的语音信息;若当前视频数据为游戏比赛的视频数据,则预设的特征信息可以是包括击杀、胜利等动作的图像信息。
步骤202,响应于识别当前视频帧为关键帧,对视频数据进行标注并生成特征标签。
在本实施例中,若执行主体识别当前视频帧为关键帧,则执行主体可以对包括当前视频帧的视频数据进行标注并生成特征标签。
这里,特征标签与上述特征信息相对应。
具体地,若视频数据为足球比赛直播的视频数据,提取的特征信息为包括违规动作的图像信息,执行主体基于特征信息确定当前视频帧为关键帧,则对包括当前视频帧的视频数据进行标注并生成特征标签“违规”;若视频数据为游戏直播的视频数据,提取的特征信息为包括击杀动作的图像信息,执行主体基于特征信息确定当前视频帧为关键帧,则对包括当前视频帧的视频数据进行标注并生成特征标签“击杀”。
步骤203,将视频数据及所对应的特征标签进行存储。
在本实施例中,执行主体在将视频数据进行标注并生成特征标签后,可以将特征标签和视频数据进行存储。
这里,执行主体可以将视频数据以二维模式进行存储,也可以以三维模式进行存储,本申请对此不作限定。
在一些可选的方式中,执行主体在将视频数据及所对应的特征标签进行存储之后,还包括:对存储的视频数据进行三维建模,生成三维视频数据。
在本实现方式中,执行主体可以对存储的二维视频数据进行三维建模,生成三维视频数据并存储。
这里,执行主体将二维视频数据转换为三维视频数据的方式可以为现有技术或未来发展技术中的转换方式,例如,根据二维视频数据中相邻视频帧的差异直接生成三维视频数据,根据对二维视频数据的深度估计,生成三维视频数据等等,本申请对此不作限定。
具体地,执行主体可以首先提取视频数据的图像数据和音频数据,然后对图像数据进行特征提取,再对提取的特征进行场景识别、目标主体识别以及姿态估计,根据场景识别的结果以及识别主体的姿态估计结果进行隐空间编码和三维解码,进而生成三维图像数据,此时可以将三维图像数据与视频数据进行同步,得到三维视频数据并存储。
该实现方式通过对存储的二维视频数据进行三维建模,生成三维视频数据,有助于用户后续获取特征标签对应的三维视频数据。
步骤204,响应于接收到用户发送的视频播放请求,播放与特征标签对应的视频数据。
在本实施例中,执行主体在接收到用户发送的视频播放请求后,可以根据视频播放请求所包括的特征标签播放与特征标签对应的视频数据。
这里,执行主体接收用户发送的视频播放请求的方式可以包括多张,例如,执行主体可以接收用户在显示界面输入的包括特征标签的视频播放请求信息,可以接收用户对显示的包括特征标签的菜单栏的选择操作,也可以接收用户发出的包括特征标签的语音信息。
在一些可选的方式中,视频播放请求为语音请求。
在本实现方式中,视频播放请求为语音请求,执行主体可以首先对接收的语音请求进行解析得到语义文本,然后识别语义文本是否包括特征标签,若包括特征标签,则播放与特征标签相对应的视频数据。
具体地,用户由于某些原因错过了足球直播比赛中的一个违规判罚,则用户可以对播放设备说“回放刚才的违规”,执行主体在接收到用户的语音请求后,分析语音请求中包括特征标签“违规”,则执行主体播放特征标签“违规”对应的视频数据。
该实现方式通过接收用户的语音请求并播放语音请求所包括的特征标签对应的视频数据,可有效提升人机交互的灵活性,提升用户体验。
在一些可选的方式中,播放与特征标签对应的视频数据包括播放与特征标签对应的三维视频数据。
在本实现方式中,执行主体接收的用户发送的视频播放请求中还可以包括播放模式信息,例如,二维模式、三维模式等,若播放模式信息为三维模式,则执行主体可以播放与特征标签对应的三维视频数据。
该实现方式通过播放与特征标签对应的三维视频数据,使得用户可以观看三维视角下的视频画面,有助于提升用户的观看体验。
在一些可选的方式中,在播放与特征标签对应的三维视频数据之后,该方法还包括响应于接收用户发送的切换播放视角的指令,基于指令调整三维视频数据的播放视角。
在本实现方式中,执行主体在接收到用户发送的切换播放视角的指令后,按照指令调整三维视频数据的播放视角。
这里,执行主体接收用户发送的切换播放视角的指令的方式可以包括多种,例如,接收用户通过显示界面输入的切换播放视角的指令,接收用户发出的切换播放视角的语音指令等。
具体地,在某场游戏世界赛直播中,用户错过了某个击杀画面,则用户可以要求以三维模式回放刚才的击杀画面,执行主体在接收到用户发送的视频播放请求后回放之前击杀的三维视频数据。同时,用户还可以发送切换播放视角的指令,以从任意视角观看职业选手的精彩操作。执行主体在接收到用户的切换播放视角的指令后,按照指令调整三维视频数据的播放视角。
该实现方式通过响应于接收到用户发送的切换播放视角的指令,基于指令调整三维视频数据的播放视角,有助于用户从不同视角观看三维视频数据,提升用户的观看体验。
继续参见图3,图3是根据本实施例的视频播放方法的应用场景的一个示意图。
在图3的应用场景中,执行主体301正在直播一场足球比赛,在播放过程中执行主体301不断从远端获取即将播放的预设时长的视频数据,例如,10s的视频数据,并缓存。在对预设时长的视频数据进行缓存后,执行主体进一步基于视频数据的特征信息,判断当前缓存的视频数据中的当前视频帧是否为关键帧,即识别关键帧302,这里,执行主体可以指定上述视频数据所包括的视频帧序列中的第一帧为当前视频帧。若提取的特征信息,例如,包括进球动作的图像信息,的评分大于等于预设的分数阈值,则可确定当前帧为关键帧,并对包括当前帧的视频数据进行标注并生成特征标签“进球”。进一步地,执行主体301将上述视频数据和特征标签进行存储,一段时间后,执行主体存储的视频数据及特征标签包括视频数据1-“进球”及视频数据2-“违规”303。此外,若视频数据的特征信息的评分小于预设的分数阈值,即当前视频帧不是关键帧,则执行主体301可不对包括当前视频帧的视频数据进行存储。
若当前正在观看足球比赛直播的用户304由于某些原因暂时离开了一会儿,回来后发现比赛的比分发生了变化,即离开期间发生了进球,若用户想要回看刚才的进球,则可以发送包括特征标签的视频播放请求,例如,“回放刚才的进球”305,执行主体响应于接收到用户发送的视频播放请求,从视频播放请求中解析出特征标签“进球”306,进而播放与特征标签“进球”对应的视频数据1 307。
本公开的实施例提供的视频播放方法,通过基于包括当前视频帧的视频数据的特征信息,确定当前视频帧是否为关键帧,响应于识别当前视频帧为关键帧,对视频数据进行标注并生成特征标签,将视频数据及所对应的特征标签进行存储,响应于接收到用户发送的视频播放请求,播放与特征标签对应的视频数据,使得当用户在观看视频数据的过程中错过某些精彩镜头时,可以快速、精准的找到想要观看的镜头,同时避免了对全部视频数据进行存储,提升了对存储空间的利用率。
进一步参考图4,其示出了视频播放方法的又一个实施例的流程400。在本实施例中,视频播放方法的流程400,可包括以下步骤:
步骤401,提取视频数据所包括的音频数据的特征信息,得到第一特征。
在本实施例中,视频数据包括包括当前视频帧的视频序列以及音频数据。执行主体在获取到视频数据后,可以对视频数据进行图像解码得到视频帧序列,对视频数据进行音频解码得到音频数据。
进一步地,执行主体提取音频数据的特征信息,得到第一特征。
这里,执行主体提取音频数据的特征信息的过程可以包括获取音频数据对应的语义文本、对语义文本进行分词、去停止词、词性分析等操作。
步骤402,根据预设的评分规则,对第一特征进行评分。
在本实施例中,预设的评分规则可以根据经验、实际需求和具体的应用场景进行设定,本申请对此不作限定。
具体地,执行主体可以将第一特征数据预设的第一评分模型,得到第一特征的评分,这里第一评分模型可以基于标注有评分的第一特征样本训练得到,也可以在预设的第一特征评分对照表中查找第一特征对应的评分。
步骤403,基于第一特征的评分以及预设的第一分数阈值,识别当前视频帧是否为关键帧。
在本实施例中,执行主体在获取到第一特征的评分后,可以将第一特征的评分与预设的第一分数阈值进行比较,若第一特征的评分大于等于预设的第一分数阈值,则确定当前视频帧为关键帧。
这里,预设的第一分数阈值可以根据经验、实际需求和具体的应用场景进行设定,本申请对此不作限定。
在一些可选的方式中,基于所述第一特征的评分以及预设的第一分数阈值,识别当前视频帧是否为关键帧,包括:响应于第一特征的评分小于预设的第一分数阈值,分别获取视频数据所包括的视频序列的特征信息以及当前视频帧的特征信息,得到第二特征和第三特征;将第一特征、第二特征及第三特征进行融合,得到融合特征;基于预设的评分规则对融合特征进行评分;基于融合特征的评分以及预设的第二分数阈值,确定当前视频帧是否为关键帧。
在本实现方式中,执行主体将第一特征的评分与预设的第一分数阈值进行比较,若第一特征的评分小于预设的第一分数阈值,则执行主体可以进一步提取视频数据所包括的视频序列的特征信息,得到第二特征,提取当前视频帧的特征信息,得到第三特征。
其中,执行主体提取第二特征的过程可以包括,提取视频序列的特征,对视频序列进行分类等。这里,执行主体对视频序列进行分类的方式可以为判断视频序列是否包括预设动作的图像信息。
这里,预设动作可以根据视频数据的类型确定,例如,若视频数据的类型为足球比赛直播,则预设动作可以包括“进球”、“违规”等,若视频数据的类型为游戏比赛直播,则预设动作可以包括“击杀”、“胜利”等。
执行主体提取第三特征的过程可以包括,对当前视频帧进行特征提取、目标检测、目标跟踪、动作识别、以及根据提取特征进行图像分类等。
这里,执行主体根据提取特征进行图像分类主要根据视频数据的场景确定,如判断当前视频数据的场景是否为足球比赛场景、是否为游戏赛场景、是否为影视剧场景等。
需要指出的是,应当理解,执行主体在对当前帧进行目标检测、目标跟踪、动作识别的过程中需借助与当前视频帧相邻的视频帧进行共同分析。
进一步地,执行主体在获取第一特征、第二特征和第三特征之后,可以将第一特征、第二特征和第三特征进行融合,得到融合特征。
这里,执行主体将第一特征、第二特征及第三特征进行融合的方式可以包括多种。具体地,若第一特征、第二特征及第三特征均为序列形式,则可以将第一特征、第二特征及第三特征直接进行拼接,将拼接后得到的序列作为融合特征。
进而,执行主体可以个根据预设的评分规则对融合特征进行评分,响应于融合特征的评分大于等于预设的第二分数阈值,确定当前视频帧为关键帧。
这里,执行主体根据预设的评分规则对融合特征进行评分的方式可以包括将融合特征输入预设的第二评分模型,得到融合特征的评分,其中,预设的第二评分模型可以根据标注有评分的融合特征样本训练得到;在预设的融合特征评分对照表中查找融合特征对应的评分。
具体地,如图5所示,执行主体获取视频数据并提取视频数据包括的音频数据501的特征信息,得到第一特征。响应于第一特征的评分小于预设的第一分数阈值,执行主体进一步提取视频数据所包括的视频帧序列502的特征信息,得到第二特征,提取当前视频帧503的特征信息,得到第三特征。其中,提取第一特征的操作包括特征提取504及语义理解505,提取第二特征的操作包括特征提取506及视频分类507,提取第三特征的操作包括特征提取508、图像分类509、目标检测510、目标跟踪511及动作识别512。在获取第一特征、第二特征及第三特征后,执行主体将第一特征、第二特征及第三特征进行融合后得到融合特征513,并对融合特征进行评分514,若融合特征513的评分大于等于预设的第二分数阈值,则确定当前帧为关键帧。若融合特征513的评分小于预设的第二分数阈值,则继续获取下一预设时长的视频数据。
该实现方式,通过提取视频数据的第一特征、第二特征和第三特征,并将第一特征、第二特征和第三特征进行融合,得到融合特征,对融合特征进行评分,若融合特征的评分大于等于预设的第二分数阈值,则确定当前帧为关键帧,有效提升了关键帧的识别精度,进而有助于提升响应于接收到用户发送的视频播放请求,播放与特征标签对应的视频数据的准确率,进一步提升用户的观看体验。
步骤404,响应于识别所述当前视频帧为关键帧,对视频数据进行标注并生成特征标签。
在本实施例中,步骤404的实现细节和技术效果,可以参考对步骤202的描述,在此不再赘述。
步骤405,将所述视频数据及所对应的特征标签进行存储。
在本实施例中,步骤405的实现细节和技术效果,可以参考对步骤203的描述,在此不再赘述。
步骤406,响应于接收到用户发送的视频播放请求,播放与特征标签对应的视频数据。
在本实施例中,步骤406的实现细节和技术效果,可以参考对步骤204的描述,在此不再赘述。
在本实施例中,通过根据视频数据所包括的音频数据的特征的评分是否大于等于预设的第一分数阈值来确定当前视频帧是否为关键帧,提升了关键帧的识别效率,进而有助于提升响应于接收到用户发送的视频播放请求,播放与特征标签对应的视频数据的效率,进一步提升用户的观看体验。
进一步参考图6,作为对上述各图所示方法的实现,本申请提供了一种视频播放装置的一个实施例,该装置实施例与图1所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例的视频播放装置600包括:识别模块601、标注模块602、存储模块603和播放模块604。
其中,识别模块601,可被配置成基于包括当前视频帧的视频数据的特征信息,识别当前视频帧是否为关键帧。
标注模块602,可被配置成响应于识别当前视频帧为关键帧,对视频数据进行标注并生成特征标签,特征标签与所述特征信息相对应。
存储模块603,可被配置成将视频数据及所对应的特征标签进行存储。
播放模块604,可被配置成响应于接收到用户发送的视频播放请求,视频播放请求包括特征标签,播放与特征标签对应的视频数据。
在本实施例的一些可选的方式中,识别模块进一步包括:提取单元,被配置成提取视频数据所包括的音频数据的特征信息,得到第一特征;评分单元,被配置成根据预设的评分规则,对第一特征进行评分;识别单元,被配置成基于所述第一特征的评分以及预设的第一分数阈值,识别当前视频帧是否为关键帧。
在本实施例的一些可选的方式中,识别单元进一步被配置成:响应于第一特征的评分小于预设的第一分数阈值,分别获取视频数据所包括的视频序列的特征信息以及当前视频帧的特征信息,得到第二特征和第三特征;将第一特征、第二特征及第三特征进行融合,得到融合特征;基于预设的评分规则对所述融合特征进行评分;基于融合特征的评分以及预设的第二分数阈值,确定当前视频帧是否为关键帧。
在本实施例的一些可选的方式中,该装置还包括:建模模块,被配置成对存储的视频数据进行三维建模,生成三维视频数据。
在本实施例的一些可选的方式中,播放模块进一步被配置成播放与所述特征标签对应的三维视频数据。
在本实施例的一些可选的方式中,该装置还包括:调整模块,被配置成响应于接收用户发送的切换播放视角的指令,基于所述指令调整所述三维视频数据的播放视角。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图7所示,是根据本申请实施例的视频播放方法的电子设备的框图。
700是根据本申请实施例的视频播放方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图7所示,该电子设备包括:一个或多个处理器701、存储器702,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图7中以一个处理器701为例。
存储器702即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的视频播放方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的视频播放方法。
存储器702作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的视频播放方法对应的程序指令/模块(例如,附图6所示的识别模块601、标注模块602、存储模块603和播放模块604)。处理器701通过运行存储在存储器702中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的视频播放方法。
存储器702可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储视频播放的电子设备的使用所创建的数据等。此外,存储器702可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器702可选包括相对于处理器701远程设置的存储器,这些远程存储器可以通过网络连接至视频播放的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
视频播放方法的电子设备还可以包括:输入装置703和输出装置704。处理器701、存储器702、输入装置703和输出装置704可以通过总线或者其他方式连接,图6中以通过总线连接为例。
输入装置703可接收输入的数字或字符信息,以及产生与直播视频流的质量监控的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置704可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,使得用户可以快速精确的找到想要观看的视频数据,提升了用户体验,同时提升了存储空间的利用率。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。

Claims (10)

1.一种视频播放方法,所述方法包括:
提取视频数据所包括的音频数据的特征信息,得到第一特征,根据预设的评分规则,对所述第一特征进行评分,响应于所述第一特征的评分小于预设的第一分数阈值,分别获取视频数据所包括的视频序列的特征信息以及当前视频帧的特征信息,得到第二特征和第三特征,将第一特征、第二特征及第三特征进行融合,得到融合特征,基于预设的评分规则,对所述融合特征进行评分,基于所述融合特征的评分以及预设的第二分数阈值,确定当前视频帧是否为关键帧;
响应于识别所述当前视频帧为关键帧,对所述视频数据进行标注并生成特征标签,所述特征标签与所述特征信息相对应;
将所述视频数据及所对应的特征标签进行存储;
响应于接收到用户发送的视频播放请求,所述视频播放请求包括特征标签,播放与所述特征标签对应的视频数据。
2.根据权利要求1所述的方法,在所述将所述视频数据及所对应的特征标签进行存储之后,所述方法还包括:
对存储的视频数据进行三维建模,生成三维视频数据。
3.根据权利要求2所述的方法,其特征在于,所述播放与所述特征标签对应的视频数据,包括:
播放与所述特征标签对应的三维视频数据。
4.根据权利要求3所述的方法,在所述播放与所述特征标签对应的三维视频数据之后,所述方法还包括:
响应于接收用户发送的切换播放视角的指令,基于所述指令调整所述三维视频数据的播放视角。
5.一种视频播放装置,所述装置包括:
识别模块,所述识别模块包括:提取单元,被配置成提取视频数据所包括的音频数据的特征信息,得到第一特征;评分单元,被配置成根据预设的评分规则,对所述第一特征进行评分;识别单元,被配置成响应于所述第一特征的评分小于预设的第一分数阈值,分别获取视频数据所包括的视频序列的特征信息以及当前视频帧的特征信息,得到第二特征和第三特征;将第一特征、第二特征及第三特征进行融合,得到融合特征;基于预设的评分规则,对所述融合特征进行评分;基于所述融合特征的评分以及预设的第二分数阈值,确定当前视频帧是否为关键帧;
标注模块,被配置成响应于识别所述当前视频帧为关键帧,对所述视频数据进行标注并生成特征标签,所述特征标签与所述特征信息相对应;
存储模块,被配置成将所述视频数据及所对应的特征标签进行存储;
播放模块,被配置成响应于接收到用户发送的视频播放请求,所述视频播放请求包括特征标签,播放与所述特征标签对应的视频数据。
6.根据权利要求5所述的装置,所述装置还包括:
建模模块,被配置成对存储的视频数据进行三维建模,生成三维视频数据。
7.根据权利要求6所述的装置,其中,所述播放模块进一步被配置成播放与所述特征标签对应的三维视频数据。
8.根据权利要求7所述的装置,所述装置还包括:
调整模块,被配置成响应于接收用户发送的切换播放视角的指令,基于所述指令调整所述三维视频数据的播放视角。
9.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-4中任一项所述的方法。
10.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-4中任一项所述的方法。
CN202010926469.3A 2020-09-07 2020-09-07 视频播放方法和装置 Active CN111901668B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010926469.3A CN111901668B (zh) 2020-09-07 2020-09-07 视频播放方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010926469.3A CN111901668B (zh) 2020-09-07 2020-09-07 视频播放方法和装置

Publications (2)

Publication Number Publication Date
CN111901668A CN111901668A (zh) 2020-11-06
CN111901668B true CN111901668B (zh) 2022-06-24

Family

ID=73225795

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010926469.3A Active CN111901668B (zh) 2020-09-07 2020-09-07 视频播放方法和装置

Country Status (1)

Country Link
CN (1) CN111901668B (zh)

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101631257A (zh) * 2009-08-06 2010-01-20 中兴通讯股份有限公司 一种实现二维视频码流立体播放的方法及装置
CN101834982B (zh) * 2010-05-28 2012-04-25 上海交通大学 基于多模态的暴力视频分层筛选方法
US9225879B2 (en) * 2013-12-27 2015-12-29 TCL Research America Inc. Method and apparatus for video sequential alignment
CN104023181B (zh) * 2014-06-23 2018-08-31 联想(北京)有限公司 信息处理方法及装置
CN105677735B (zh) * 2015-12-30 2020-04-21 腾讯科技(深圳)有限公司 一种视频搜索方法及装置
CN108388583A (zh) * 2018-01-26 2018-08-10 北京览科技有限公司 一种基于视频内容的视频搜索方法和视频搜索装置
CN109117777B (zh) * 2018-08-03 2022-07-01 百度在线网络技术(北京)有限公司 生成信息的方法和装置
CN109257622A (zh) * 2018-11-01 2019-01-22 广州市百果园信息技术有限公司 一种音视频处理方法、装置、设备及介质
CN109640112B (zh) * 2019-01-15 2021-11-23 广州虎牙信息科技有限公司 视频处理方法、装置、设备及存储介质
CN110263217A (zh) * 2019-06-28 2019-09-20 北京奇艺世纪科技有限公司 一种视频片段标签识别方法及装置
CN110751030A (zh) * 2019-09-12 2020-02-04 厦门网宿有限公司 一种视频分类方法、设备及系统
CN111263186A (zh) * 2020-02-18 2020-06-09 中国传媒大学 视频生成、播放、搜索以及处理方法、装置和存储介质
CN111488489B (zh) * 2020-03-26 2023-10-24 腾讯科技(深圳)有限公司 视频文件的分类方法、装置、介质及电子设备
CN111488807B (zh) * 2020-03-29 2023-10-10 复旦大学 基于图卷积网络的视频描述生成系统
CN111626202B (zh) * 2020-05-27 2023-08-29 北京百度网讯科技有限公司 用于识别视频的方法及装置

Also Published As

Publication number Publication date
CN111901668A (zh) 2020-11-06

Similar Documents

Publication Publication Date Title
US11581021B2 (en) Method and apparatus for locating video playing node, device and storage medium
US11830241B2 (en) Auto-curation and personalization of sports highlights
CN111935491B (zh) 直播的特效处理方法、装置以及服务器
CN108683937B (zh) 智能电视的语音交互反馈方法、系统及计算机可读介质
CN111107392B (zh) 视频处理方法、装置和电子设备
CN111901615A (zh) 直播视频的播放方法和装置
CN112233210A (zh) 生成虚拟人物视频的方法、装置、设备和计算机存储介质
CN111726682B (zh) 视频片段生成方法、装置、设备和计算机存储介质
JP7223056B2 (ja) 画像審査方法、装置、電子機器及び記憶媒体
CN111538862B (zh) 用于解说视频的方法及装置
CN110458130B (zh) 人物识别方法、装置、电子设备及存储介质
CN111277861B (zh) 提取视频中热点片段的方法以及装置
CN111770375B (zh) 视频处理方法、装置、电子设备及存储介质
CN111954077A (zh) 针对直播的视频流处理方法和装置
CN112182297A (zh) 训练信息融合模型、生成集锦视频的方法和装置
CN111309357A (zh) 云游戏软件的更新方法、装置、存储介质和云游戏系统
CN105979388A (zh) 视频评论的发布方法及系统
CN111770376A (zh) 信息展示方法、装置、系统、电子设备及存储介质
CN111954078A (zh) 针对直播的视频生成方法和装置
CN111694983A (zh) 信息显示方法、装置、电子设备以及存储介质
CN111949820B (zh) 视频关联兴趣点的处理方法、装置及电子设备
CN112383825B (zh) 视频推荐方法、装置、电子设备和介质
CN111770388B (zh) 内容处理方法、装置、设备及存储介质
CN111918073B (zh) 直播间的管理方法和装置
CN111970560A (zh) 视频获取方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant