JP6828133B1 - コンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラム - Google Patents

コンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラム Download PDF

Info

Publication number
JP6828133B1
JP6828133B1 JP2019237967A JP2019237967A JP6828133B1 JP 6828133 B1 JP6828133 B1 JP 6828133B1 JP 2019237967 A JP2019237967 A JP 2019237967A JP 2019237967 A JP2019237967 A JP 2019237967A JP 6828133 B1 JP6828133 B1 JP 6828133B1
Authority
JP
Japan
Prior art keywords
video data
content
unit
moving image
start frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019237967A
Other languages
English (en)
Other versions
JP2021106363A (ja
Inventor
尚 小嶋
尚 小嶋
一臣 丹羽
一臣 丹羽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dwango Co Ltd
Original Assignee
Dwango Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dwango Co Ltd filed Critical Dwango Co Ltd
Priority to JP2019237967A priority Critical patent/JP6828133B1/ja
Priority to JP2020207399A priority patent/JP7534205B2/ja
Priority to US17/765,017 priority patent/US12120403B2/en
Priority to PCT/JP2020/048350 priority patent/WO2021132428A1/ja
Priority to CN202080063772.3A priority patent/CN114556963B/zh
Application granted granted Critical
Publication of JP6828133B1 publication Critical patent/JP6828133B1/ja
Publication of JP2021106363A publication Critical patent/JP2021106363A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/232Content retrieval operation locally within server, e.g. reading video streams from disk arrays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/262Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/262Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists
    • H04N21/26208Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists the scheduling operation being performed under constraints
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/478Supplemental services, e.g. displaying phone caller identification, shopping application
    • H04N21/4781Games
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Computer Security & Cryptography (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

【課題】 興趣性の高い動画コンテンツを生成するコンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラムを提供する。【解決手段】 実施形態によるコンテンツ生成装置は、複数の動画データを蓄積した蓄積部へ所定の条件を満たす動画データを要求し、前記条件を満たす複数の動画データを取得する取得部25と、取得部25にて取得された複数の動画データの再生画像それぞれにおいて、所定のアクションが開始される開始フレームを特定する開始フレーム特定部26と、特定された開始フレームのタイミングを揃えて複数の動画データを合成したマルチ動画データを生成する生成部27と、を備える。【選択図】 図2

Description

本発明は、コンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラムに関する。
従来、ネットワークを介して様々な動画コンテンツを配信する技術が提供されている。また、携帯通信端末が普及したこと及び高速通信が可能となったこと等に伴い、より多くの人が自身で撮影した動画を配信することが可能となり、その結果、多くの過去の動画コンテンツが蓄積されている。
例えば、新たな動画データと過去の動画コンテンツのデータとを組み合わせて新たな動画コンテンツを作成することも可能である。また、リアルタイムの動画データを組み合わせて、動画コンテンツを作成することも可能である。例えば、特許文献1には、複数の撮影装置にて撮影された動画像データを用いて、複数の撮影装置それぞれの撮影位置に基づいて配列した状態の動画コンテンツを作成するライブ動画配信システムが開示されている。
特開2015−220743号公報
特許文献1に開示された技術は、同時刻に撮影された複数の動画を切り替えてライブ動画を配信するための動画配信システムに関する。一方で、上述のように過去には多くの動画コンテンツが配信されており、これらを上手く組み合わせることができれば、興趣性の高い新たな動画コンテンツが生まれる可能性がある。
例えば、過去の動画コンテンツを含む複数の動画コンテンツのデータを組み合わせて新たな動画コンテンツを作成する際、コンテンツ作成者は、膨大な数の過去のコンテンツの中から適切なものを選択して、複数の動画コンテンツのデータを合成した画像データを生成するための編集作業を行う必要があった。
しかしながら、蓄積された過去の動画コンテンツは膨大な数であり、コンテンツ作成者が適切な動画コンテンツを選び出すことは時間および手間のかかる作業である。また、コンテンツ作成者にとって既知の過去のコンテンツを利用すれば、新たな動画コンテンツを探す時間と手間とを省くことが可能であるが、コンテンツ作成者が全く意図しないような意外性のある動画コンテンツは生成され難い。
本発明は上記事情を鑑みて成されたものであって、興趣性の高い動画コンテンツを生成するコンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラムを提供することを目的とする。
本発明の第1態様によるコンテンツ生成装置は、過去に配信した複数の動画データを蓄積した蓄積部から、受信した動画データまたは前記受信した動画データに含まれるタグを検索条件として、複数の動画データを取得する取得部と、前記取得部にて取得された複数の前記動画データの再生画像それぞれにおいて、前記再生画像に含まれる画像または音を識別することにより、前記検索条件に応じて所定のアクションを特定し、前記所定のアクションが開始される開始フレームを特定する開始フレーム特定部と、特定された前記開始フレームのタイミングを揃えて複数の前記動画データを合成したマルチ動画データを生成する生成部と、を備える。
本発明の第2態様によるコンテンツ配信サーバは、第1態様によるコンテンツ生成装置と、前記コンテンツ生成装置により生成されたマルチ動画データを配信する配信部と、視聴者端末に対して前記マルチ動画データを配信するよう前記配信部を制御する配信制御部と、を備える。
本発明の第3態様によるコンテンツ生成方法は、過去に配信した複数の動画データを蓄積した蓄積部へ、受信した動画データまたは前記受信した動画データに含まれるタグを検索条件として、動画データを要求し、前記条件を満たす複数の動画データを取得し、取得された複数の前記動画データの再生画像それぞれにおいて、前記再生画像に含まれる画像または音を識別することにより、前記検索条件に応じて所定のアクションを特定し、前記所定のアクションが開始される開始フレームを特定し、特定された前記開始フレームのタイミングを揃えて複数の前記動画データを合成したマルチ動画データを生成する、コンテンツ生成方法。
本発明の第4態様によるコンテンツ生成プログラムは、コンピュータを、過去に配信した複数の動画データを蓄積した蓄積部へ、受信した動画データまたは前記受信した動画データに含まれるタグを検索条件として、動画データを要求し、前記条件を満たす複数の動画データを取得する手段と、取得された複数の前記動画データの再生画像それぞれにおいて、前記再生画像に含まれる画像または音を識別することにより、前記検索条件に応じて所定のアクションを特定し、前記所定のアクションが開始される開始フレームを特定する手段と、特定された前記開始フレームのタイミングを揃えて複数の前記動画データを合成したマルチ動画データを生成する手段と、して機能させるコンテンツ生成プログラム。
本発明によれば、興趣性の高い動画コンテンツを生成するコンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラムを提供することができる。
図1は、一実施形態のコンテンツ生成装置およびコンテンツ配信サーバを含むコンテンツ配信システムの一構成例を概略的に示す図である。 図2は、図1に示すコンテンツ配信サーバの一構成例を概略的に示す図である。 図3は、図1に示すコンテンツ記憶サーバの一構成例を概略的に示す図である。 図4は、一実施形態のコンテンツ配信サーバの動作の一例を説明するためのフローチャートである。 図5は、一実施形態のコンテンツ配信サーバより配信されたマルチ動画データの再生画像の一例を概略的に示す図である。 図6は、一実施形態のコンテンツ配信サーバより配信されたマルチ動画データの再生画像の一例を概略的に示す図である。 図7は、一実施形態のコンテンツ配信サーバより配信されたマルチ動画データの再生画像の一例を概略的に示す図である。 図8は、図1に示すコンテンツ配信サーバの他の構成例を概略的に示す図である。 図9は、一実施形態のコンテンツ配信サーバの動作の一例を説明するためのフローチャートである。 図10は、一実施形態のコンテンツ配信サーバより配信されたマルチ動画データの再生画像の一例を概略的に示す図である。
以下、本発明の複数の実施形態について、図面を参照して詳細に説明する。なお、以下の説明において、既に説明済みである構成と同一又は類似した構成および要素については、同一の符号を付して説明を省略する。
第1実施形態のコンテンツ生成装置およびコンテンツ配信サーバを含むコンテンツ配信システムの一例について、図面を参照して以下に説明する。
図1は、一実施形態のコンテンツ生成装置およびコンテンツ配信サーバを含むコンテンツ配信システムの一構成例を概略的に示す図である。
本実施形態のコンテンツ配信システムは、コンテンツ配信端末10と、コンテンツ配信サーバ20と、コンテンツ記憶サーバ(蓄積部)30と、を備えている。
コンテンツ配信端末10は、ネットワークを介してコンテンツ配信サーバ20と通信可能に接続することができる。コンテンツ配信端末10は、例えばビデオカメラなどの動画ソースに接続されたコンピュータなどの電子デバイス、例えば、テレビ受像機(インターネットテレビを含む)、PC(Personal Computer)、モバイル端末(例えば、タブレット、スマートフォン、ラップトップ、フィーチャーフォン、ポータブルゲーム機、デジタルミュージックプレイヤー、電子書籍リーダなど)、VR(Virtual Reality)端末、AR(Augmented Reality)端末などであり得るが、これらに限られない。コンテンツ配信端末10は、動画ソースから出力されるエンコード済みの映像データをコンテンツ配信サーバ20へ逐次送信することができる。
コンテンツ配信サーバ20は、ネットワークを介して、コンテンツ配信端末10、コンテンツ記憶サーバ30、および、視聴者端末40と通信可能に接続することができる。コンテンツ配信サーバ20は、後述する種々の機能を実現するプログラムを実行するプロセッサおよびプロフラムを格納したメモリ、を備え得る。プロセッサは、典型的にはCPU(Central Processing Unit)および/またはGPU(Graphics Processing Unit)であるが、マイコン、FPGA(Field Programmable Gate Array)、またはDSP(Digital Signal Processor)、などであってもよい。また、メモリは、コンテンツ配信サーバ20の動作を実現するためにプロセッサによって実行されるプログラムおよび当該プロセッサによって使用されるデータなどを一時的に格納する。本実施形態のコンテンツ配信サーバ20は、コンテンツ生成装置を含み得る。
コンテンツ記憶サーバ30は、ネットワークを介して、コンテンツ配信端末10と通信可能に接続することができる。コンテンツ記憶サーバ30は、例えば、コンテンツ配信サーバ20により配信された種々のコンテンツのデータを記憶可能な記憶部(図3に示す)、記憶部に蓄積された複数のコンテンツのデータの中から条件を満たすものを検索する検索部(図3に示す)、種々の機能を実現するプログラムを実行するプロセッサおよびプロフラムを格納したメモリ、を備え得る。
プロセッサは、典型的にはCPU(Central Processing Unit)および/またはGPU(Graphics Processing Unit)であるが、マイコン、FPGA(Field Programmable Gate Array)、またはDSP(Digital Signal Processor)、などであってもよい。また、メモリは、コンテンツ記憶サーバ30の動作を実現するためにプロセッサによって実行されるプログラムおよび当該プロセッサによって使用されるデータなどを一時的に格納する。また、コンテンツ記憶サーバ30の記憶部に記憶されているコンテンツのデータは、コンテンツ配信サーバ20により配信されたコンテンツのデータに限定されるものではなく、例えば配信されたコンテンツのデータを編集したものや、配信前のコンテンツのデータが記憶されても構わない。
なお、コンテンツ配信サーバ20とコンテンツ記憶サーバ30とは一体に構成されていてもよく、コンテンツ配信サーバ20とコンテンツ記憶サーバ30とはネットワークを介することなく直接接続されていてもよい。
視聴者端末40は、ネットワークを介してコンテンツ配信サーバ20と通信可能に接続することができる。なお、視聴者端末40は、コンピュータなどの電子デバイスであって、例えば、テレビ受像機(インターネットテレビを含む)、PC(Personal Computer)、モバイル端末(例えば、タブレット、スマートフォン、ラップトップ、フィーチャーフォン、ポータブルゲーム機、デジタルミュージックプレイヤー、電子書籍リーダなど)、VR(Virtual Reality)端末、AR(Augmented Reality)端末などであり得るが、これらに限られない。なお、ネットワークに接続している視聴者端末40の数はゼロであることもあり得るし、随時増減し得る。
図2は、図1に示すコンテンツ配信サーバの一構成例を概略的に示す図である。
コンテンツ配信サーバ20は、第1取得部21と、第2取得部25と、第1生成部22と、配信部23と、配信制御部24と、開始フレーム特定部26と、第2生成部27と、を備えている。なお、本実施形態のコンテンツ生成装置は、第2取得部25と、開始フレーム特定部26と、第2生成部27とを含み、コンテンツ配信サーバ20と一体に構成されていてもよく、コンテンツ配信サーバ20の外部にてコンテンツ配信サーバ20と通信可能に接続される構成であっても構わない。
また、コンテンツ配信サーバ20は、さらに、ネットワークに接続可能な通信部と、大容量のデータを蓄積するためのデータ記憶部(図示せず)を備え得る。
データ記憶部は、コンテンツ配信サーバ20に内蔵されてもよいし、コンテンツ配信サーバ20に外付けされてもよい。データ記憶部は、例えば、HDD(Hard Disk Drive)、SSD(Solid State Drive)などの不揮発性記憶媒体を含み得る。なお、データ記憶部は、過去に配信された複数の動画コンテンツのうち、所定の条件を満たすコンテンツのデータを蓄積する蓄積部を含んでいてもよい。データ記憶部は、コンテンツ配信サーバ20とコンテンツ生成装置とに共有されてもよく、コンテンツ配信サーバ20とコンテンツ生成装置とのそれぞれにデータ記憶部が設けられてもよい。
通信部は、ネットワークを介して、コンテンツ配信端末10、コンテンツ記憶サーバ30、および、視聴者端末40と、通信可能であり、第1取得部21と、第2取得部25と、を含み得る。例えば、通信部は、コンテンツ配信端末10から動画データを受信したり、コンテンツ記憶サーバ30に対するコンテンツデータの要求を送信したり、コンテンツ記憶サーバ30からコンテンツデータを受信したり、視聴者端末40からの配信要求を受信したりする。通信部は、視聴者端末40から受信した配信要求を配信制御部24へ送信する。
第1取得部21は、ネットワークを介してコンテンツ配信端末10から逐次送信されるコンテンツデータを受信可能である。例えば、第1取得部21は、コンテンツ配信端末10からリアルタイム配信用の動画データを受信する。また、第1取得部21は、ネットワークを介して視聴者端末40から逐次送信されるコメントなどの入力情報を受信可能である。第1取得部21は、受信した動画データを第1生成部22へ送信する。
第2取得部25は、ネットワークを介してコンテンツ記憶サーバ30へ、所定の条件を満たす複数の動画コンテンツのデータを要求するとともに、コンテンツ記憶サーバ30から動画コンテンツのデータを受信する。第2取得部25は、受信した複数の動画コンテンツのデータを開始フレーム特定部26と第2生成部27とへ送信する。
なお、コンテンツ配信サーバ20のデータ記憶部に記憶された動画コンテンツのデータに所定の条件を満たすものがある場合には、第2取得部25は、データ記憶部に記憶された動画コンテンツのデータを取得し、開始フレーム特定部26と第2生成部27とへ送信してもよい。
例えば第2取得部25は、周期的にコンテンツ記憶サーバ30へ所定の条件を満たす動画コンテンツのデータを要求してもよく、コンテンツ配信端末10や視聴者端末40から要求に応じてコンテンツ記憶サーバ30へ所定の条件を満たす動画コンテンツのデータを要求してもよい。
第2取得部25からコンテンツ記憶サーバ30へ要求する動画コンテンツが満たす条件は、予め設定された条件であってもよく、例えばコンテンツ配信サーバの入力手段(図示せず)により入力された条件であってもよく、コンテンツ配信端末10や視聴者端末40から要求された条件であってもよい。また、第2取得部25は、予め設定された又は入力された複数の条件の少なくとも1つを満たす動画コンテンツをコンテンツ記憶サーバ30へ要求することができる。
第2取得部25にて予め設定された又は入力された動画コンテンツの条件は、ジャンル、配信者、タグ情報、配信期間、コメント数、配信時の視聴者数、などを含んでいてもよく、予め設定された又は入力された動画コンテンツのデータを含んでいてもよく、ジャンル、配信者、タグ情報、配信期間、コメント数、配信時の視聴者数などと動画コンテンツのデータとを関連付けて設定されてもよい。
第2取得部25は、設定された条件により、例えば同じ音楽を演奏している複数の動画を取得したり、競馬や競輪の中継動画を複数取得したり、マラソンや水泳などの競技スポーツの動画を複数取得したり、同じ曲に合わせた複数のダンス動画を取得したり、同じゲームの画面を撮影した複数の動画を取得したり、遊戯機で遊ぶ様子を撮影した複数の動画を取得したりすることができる。
配信制御部24は、画像データの配信を制御する。配信制御部24は、例えば図示しない時計を含み、時計から得られる時間情報と、画像データの配信に割り当てられた時間枠とを比較し、画像データの配信の開始および終了を管理する。また、配信制御部24は、視聴者端末40による配信要求を通信部から受け取り、視聴者端末40へ画像データが配信されるように配信部23を制御する。
第1生成部22は、第1取得部21から動画データと入力情報とを受信し、例えば動画データに入力情報を重畳して配信用動画データを生成することができる。第1生成部22は、例えば、アルファブレンド、ピクチャーインピクチャーなどの公知の技法を用いて、動画データに入力情報を合成してもよい。第1生成部22は、生成した配信用動画データを配信部23へ送信する。
第1生成部22は、例えば、動画データの再生映像の画面の一部または全部をリサイズして、または画面の一部をトリミングして入力情報と合成してもよいし、動画データの再生映像の画面の一部が露出し、残部が隠れるように入力情報と合成してもよい。また、第1生成部22は、視聴者端末40からの配信要求に応じて複数の配信用動画データを切り替えて配信可能とするために、表示する画像が異なる複数の配信用画像データを生成して配信部23へ送信してもよい。第1生成部22は、例えば、入力情報を画像データに重畳せずに生成した配信用動画データと、入力情報を画像データに重畳して生成した配信用動画データとを生成して、配信部23へ送信することができる。
開始フレーム特定部26は、第2取得部25から複数の動画データを受信する。開始フレーム特定部26は、受信した複数の動画データそれぞれについて、再生映像にて所定のアクションが開始するタイミングのフレーム(開始フレーム)を特定する。ここで、所定のアクションとは、例えば、所定の音楽の演奏や、歌唱や、ダンスなどの動作や、競馬や競輪などのレースや、マラソンや競泳などのスポーツや、RPG、アクションゲーム、戦闘ゲームなどのゲームや、パチスロやパチンコなど遊戯機の動作などを採用することができる。
開始フレーム特定部26は、第2取得部25から受信した複数の動画データに、所定のアクションが開始するタイミングのフレームを示すフラグが含まれているときには、フラグの位置を開始フレームと特定することができる。
また、開始フレーム特定部26は、第2取得部25から受信した複数の動画データが満たす条件に応じて、所定のアクションを特定し、所定のアクションの開始フレームを特定することが可能である。
また、開始フレーム特定部26は、第2取得部25から受信した複数の動画データを互いに比較することにより、開始フレームを特定してもよい。例えば、開始フレーム特定部26は、複数の動画データの再生画像において共通の曲が始まるタイミングや、アクションの開始タイミングに発生する共通の音等により、開始フレームを特定することが可能である。また、例えば、開始フレーム特定部26は、複数の動画データの再生画像において、所定の部分の色彩が変化するタイミングや、所定の部分の明るさが変化するタイミング等の画像の共通の変化により、開始フレームを特定することが可能である。
開始フレーム特定部26は、入力された動画データの開始フレームを特定する学習済みモデルを備えていてもよい。学習済みモデルは、例えば、畳み込みニューラルネットワーク(CNN:Convolution Neural Network)などの深層学習により、所定の条件を満たす動画データを入力とし、動画データの再生画像において所定のアクションが開始されるタイミングに対応するフレームを特定する学習済みのモデルである。動画データを検索する条件が複数想定される場合には、開始フレーム特定部26は、複数の条件のそれぞれに対応する複数の学習済みモデルを備え得る。
開始フレーム特定部26は、複数の画像データのそれぞれについて特定した開始フレームを示す情報を第2生成部27へ送信する。開始フレーム特定部26は、特定した開始フレームを示すフラグを複数の動画データそれぞれに付した後に、複数の動画データを第2生成部27へ送信してもよい。その場合には、第2取得部25から第2生成部27へ複数の動画データを送信することを省略することができる。
第2生成部27は、第2取得部25から複数の動画データを受信し、開始フレーム特定部26から開始フレームを示す情報を受信する。第2生成部27は、受信した複数の画像データの再生画像が画面に並んで表示されるように構成し、開始フレームのタイミングが揃うように編集をしたマルチ動画データを生成する。
なお、第2生成部27およびその他、今まで言及をした各構成は、はめ込み合成をする対象である動画データについて、たとえば、レースのスタートのタイミングが開始フレームとなる競馬の中継画像であればレースのスタートからレースのゴールまでを切り出してはめ込み合成をするのではなく、たとえばレースのスタート前の数十秒から開始してレース前の緊張感やレース結果の予想を伝えたり、あるいはレースのゴール後の数十秒までをはめ込み対象として、レースの振り返りやレース後の各馬のクールダウン走行を画像として含めたりするように構成してもよい。競馬に限らず、他の動画分野でも同様である。複数の動画の開始フレームのタイミングが揃っていればよく、動画の再生開始フレームと再生終了フレームとはアクションの開始タイミングと終了タイミングとに限定されるものではない。
第2生成部27は、例えば、アルファブレンド、ピクチャーインピクチャーなどの公知の技法を用いて、複数の動画データを合成してもよい。第2生成部27は、生成したマルチ動画データを配信部23へ送信する。なお、マルチ動画データの再生画像において、複数の再生画像の大きさは同じである必要はない。第2生成部27は、生成したマルチ動画データを配信部23へ送信する。
配信部23は、ネットワークと通信可能に接続し、第1生成部22から配信用画像データを受信し、第2生成部27からマルチ動画データを受信し、配信用画像データとマルチ動画データとのそれぞれについて配信要求を受けた視聴者端末40へ配信することができる。配信部23は、例えば配信用動画データの配信先などを配信制御部24によって制御される。
なお、配信部23は、配信済みの配信用動画データおよびマルチ動画データを直ちに破棄してもよいが、例えばリプレイまたはスローモーション再生を可能とするために所定期間バッファリングしていてもよい。
また、配信部23は、配信した配信用動画データおよびマルチ動画データを、コンテンツ記憶サーバ30へ送信する。このとき、配信部23は、配信用動画データおよびマルチ動画データに対する入力情報(コメント数など)や、視聴要求をした視聴者端末40の数や、配信用動画データおよびマルチ動画データを識別するための情報(タグ情報、配信者情報、配信期間、ジャンル等)などを、配信用動画データおよびマルチ動画データそれぞれに対応付けて配信制御部24から受信し、受信した情報を合わせてコンテンツ記憶サーバ30へ送信することができる。
図3は、図1に示すコンテンツ記憶サーバの一構成例を概略的に示す図である。
コンテンツ記憶サーバ30は、通信部31と、検索部32と、記憶部33とを備えている。
通信部31は、ネットワークを介してコンテンツ配信サーバ20と通信可能に接続することができる。通信部31は、コンテンツ配信サーバ20から配信用動画データおよびマルチ動画データを受信し、記憶部33へ送信する。通信部31は、配信用動画データおよびマルチ動画データに対する入力情報(コメント数など)や、視聴要求をした視聴者端末40の数や、配信用動画データおよびマルチ動画データを識別するための情報(タグ情報、配信者情報、配信期間、ジャンル等)などを受信したときには、配信用動画データおよびマルチ動画データそれぞれに対応付けて配信制御受信した情報を記憶部33へ送信することができる。
また、通信部31は、コンテンツ配信サーバ20からコンテンツの検索条件を受信し、検索部32へ送信し、検索部32から受信した検索結果(複数の動画データ)をコンテンツ配信サーバ20へ送信する。
記憶部33には、例えば、コンテンツデータ(配信用動画データおよびマルチ動画データを含む)と、コンテンツに対する入力情報(コメント数など)、コンテンツを視聴した端末数、および、その他コンテンツを識別するための情報(タグ情報、配信者情報、配信期間、ジャンル等)等とが関連付けられて記憶され得る。
検索部32は、通信部31から検索条件を受信し、記憶部33に蓄積された複数のコンテンツデータの中から検索条件を満たすものを複数読み出して、通信部31へ送信する。検索部32は、例えば画像解析手段を備えていてもよい。例えば、通信部31から受信した検索条件として動画データが含まれている場合には、検索部32は画像解析手段により受信した動画データを解析した結果を検索条件として、記憶部33に蓄積された複数のコンテンツデータの中から類似する複数の動画データを検索することができる。
以下に、上記コンテンツ配信システムの動作の複数の例について図面を参照して説明する。
図4は、一実施形態のコンテンツ配信サーバの動作の一例を説明するためのフローチャートである。
図5は、一実施形態のコンテンツ配信サーバより配信されたマルチ動画データの再生画像の一例を概略的に示す図である。
ここでは、図4および図5を参照して、競馬の中継をした複数の動画データを用いてマルチ動画データを生成する際のコンテンツ配信サーバ20の動作について説明する。
まず、コンテンツ配信サーバ20の第2取得部25は、所定の条件を満たす複数の動画コンテンツのデータをコンテンツ記憶サーバ30へ要求し、コンテンツ記憶サーバ30から複数の動画データを受信する(ステップSA1)。
このとき、第2取得部25は、例えば、競馬中継のコンテンツを識別するためのタグ情報、過去に競馬中継のコンテンツを配信したことがある配信者情報、競走馬の名前や、騎手の名前、競馬場の名称、レースの日付、レースの名称、過去に競馬中継をしたときの動画データ、要求する動画データの数などを検索条件として、コンテンツ記憶サーバ30へ送信し得る。
第2取得部25は、コンテンツ記憶サーバ30から受信した複数の競馬中継の動画データを、開始フレーム特定部26および第2生成部27へ送信する。
開始フレーム特定部26は、第2取得部25から受信した複数の競馬中継の動画データのそれぞれについて、競走馬がスタートするタイミングに対応するフレームを開始フレームとして特定する。開始フレーム特定部26は、例えば、スターティングゲートが開くタイミングを画像により識別して開始フレームを特定してもよく、ゲートが開く際の音の情報が動画データに付されている場合にはゲートが開く音を識別して開始フレームを特定してもよい(ステップSA2)。
開始フレーム特定部26は、複数の動画データのそれぞれについて、動画データの識別情報と、開始フレームの情報とを関連付けて、第2生成部27へ送信する。
第2生成部27は、第2取得部25から複数の競馬中継の動画データを受信し、開始フレーム特定部26から動画データの識別情報に関連付けられた開始フレームの情報を受信し、開始フレームのタイミングが揃うように、複数の競馬中継の動画データを合成したマルチ動画データによるコンテンツを生成する(ステップSA3)。第2生成部27は、生成したマルチ動画データを配信部23へ送信する。
配信部23は、受信したマルチ動画データを、配信要求を受けた視聴者端末40へ配信する(ステップSA4)。
図5では、4つの競馬中継動画MA1−MA4が合成されたマルチ動画データの再生画面の一例を概略的に示している。この例によれば、例えば競馬中継動画MA1−MA4が異なる競馬レースを中継する動画であったとしても、競走馬がスタートするタイミングが揃うようにマルチ動画データを生成することにより、競馬中継動画MA1−MA4において出場している競走馬同士が競い合っているかのようなコンテンツを作成することができる。したがって、例えば過去の名馬のレースを中継する動画MA1−MA4を集めて、名馬同士があたかも競い合っているかのようなコンテンツを生成することも可能である。また、特定の競走馬が出場している異なるレースを中継する複数の動画MA1−MA4を集めて、特定の競走馬のレースを比較するコンテンツを生成することも可能である。
なお、図5では、複数の動画MA1−MA4が重ならない状態で並んで配置されている例を示しているが、複数の動画MA1−MA4は少なくとも一部が重なるように配置されていてもよく、動画MA1−MA4の少なくとも1つを透過させて他の動画上に重なるように配置してもよい。
図6は、一実施形態のコンテンツ配信サーバより配信されたマルチ動画データの再生画像の一例を概略的に示す図である。
ここでは、図4および図6を参照して、同じ曲に合わせてダンスをする人やアバターの様子を表示する複数の動画データを用いてマルチ動画データを生成する際のコンテンツ配信サーバ20の動作について説明する。
まず、コンテンツ配信サーバ20の第2取得部25は、所定の条件を満たす複数の動画コンテンツのデータをコンテンツ記憶サーバ30へ要求し、コンテンツ記憶サーバ30から複数の動画データを受信する(ステップSA1)。
このとき、第2取得部25は、例えば、ダンス動画のコンテンツを識別するためのタグ情報、過去にダンス動画のコンテンツを配信したことがある配信者情報、曲名、ダンスのジャンル、ダンサー名、ダンサーの性別、配信された日付、過去のダンス動画データ、要求する動画データの数などを検索条件として、コンテンツ記憶サーバ30へ送信し得る。
第2取得部25は、コンテンツ記憶サーバ30から受信した複数のダンス動画データを、開始フレーム特定部26および第2生成部27へ送信する。
開始フレーム特定部26は、第2取得部25から受信した複数のダンス動画データのそれぞれについて、ダンスがスタートするタイミングに対応するフレームを開始フレームとして特定する。開始フレーム特定部26は、例えば、曲や歌が始まるタイミングを画像により識別して開始フレームを特定してもよく、ダンサーの動きが始まるタイミングを識別して開始フレームを特定してもよい(ステップSA2)。
開始フレーム特定部26は、複数の動画データのそれぞれについて、動画データの識別情報と、開始フレームの情報とを関連付けて、第2生成部27へ送信する。
第2生成部27は、第2取得部25から複数のダンス動画データを受信し、開始フレーム特定部26から動画データの識別情報に関連付けられた開始フレームの情報を受信し、開始フレームのタイミングが揃うように、複数のダンス動画データを合成したマルチ動画データによるコンテンツを生成する(ステップSA3)。第2生成部27は、生成したマルチ動画データを配信部23へ送信する。
なお、例えば、ダンス動画MB1とダンス動画MB2とにおいて曲のテンポ(拍の時間)が異なっている場合には、第2生成部27は、一つの動画における曲のテンポに合わせて他の動画の再生速度を調整してもよく、全ての動画における曲のテンポが所定の速度となるように全ての動画の再生速度を調整してもよい。
配信部23は、受信したマルチ動画データを、配信要求を受けた視聴者端末40へ配信する(ステップSA4)。
図6では、2つのダンス動画MB1−MB2が合成されたマルチ動画データの再生画面の一例を概略的に示している。この例によれば、例えば手本とするダンス動画MB1と、ダンスを練習している者のダンス動画MB2とを並べて配置し、ダンスがスタートするタイミングが揃うようにマルチ動画データを生成することにより、手本と練習者とのダンスを比較するようなコンテンツを作成することができる。また、異なるダンサーの動画を並べて表示することにより、あたかも複数のダンサーが共演しているかのようなコンテンツを作成することも可能である。したがって、例えば、著名なダンサーによるダンス動画MB1−MB2を集めて、ダンサー同士があたかも共演しているかのようなコンテンツを生成することも可能である。
なお、図6では、複数の動画MB1−MB2が重ならない状態で並んで配置されている例を示しているが、複数の動画MB1−MB2は少なくとも一部が重なるように配置されていてもよく、動画MB1−MB2の少なくとも1つを透過させて他の動画上に重なるように配置してもよい。
また、曲が開始される開始フレームを揃えたマルチ動画データは複数のダンス動画を組み合わせたものに限定されるものではなく、例えば、プレイヤーが演奏する音とともに演奏する姿を表示する動画を複数組み合わせることも可能である。例えば、異なる複数の楽器を演奏する様子を表示する複数の動画を組み合わせたマルチ動画データを再生することにより、あたかもバンド演奏やオーケストラの演奏をしているかのようなコンテンツを生成することも可能である。
図7は、一実施形態のコンテンツ配信サーバより配信されたマルチ動画データの再生画像の一例を概略的に示す図である。
ここでは、図4および図7を参照して、遊戯機でのゲームを行う様子を表示する複数の動画データを用いてマルチ動画データを生成する際のコンテンツ配信サーバ20の動作について説明する。
まず、コンテンツ配信サーバ20の第2取得部25は、所定の条件を満たす複数の動画コンテンツのデータをコンテンツ記憶サーバ30へ要求し、コンテンツ記憶サーバ30から複数の動画データを受信する(ステップSA1)。
このとき、第2取得部25は、例えば、遊戯機でのゲーム動画のコンテンツを識別するためのタグ情報、過去に遊戯機でのゲーム動画のコンテンツを配信したことがある配信者情報、遊戯機の種類、遊戯者名、配信された日付、過去の遊戯機でのゲーム動画データ、要求する動画データの数などを検索条件として、コンテンツ記憶サーバ30へ送信し得る。
第2取得部25は、コンテンツ記憶サーバ30から受信した複数の遊戯機でのゲーム動画データを、開始フレーム特定部26および第2生成部27へ送信する。
開始フレーム特定部26は、第2取得部25から受信した複数の遊戯機でのゲーム動画データのそれぞれについて、ゲームがスタートするタイミングに対応するフレームを開始フレームとして特定する。開始フレーム特定部26は、例えば、ゲームがスタートする際に遊戯機から発せられる音を識別して開始フレームを特定してもよく、ゲームがスタートする際に点灯する遊戯機の照明を画像により識別して開始フレームを特定してもよく、遊戯者の動作を識別して開始フレームを特定してもよい(ステップSA2)。
開始フレーム特定部26は、複数の動画データのそれぞれについて、動画データの識別情報と、開始フレームの情報とを関連付けて、第2生成部27へ送信する。
第2生成部27は、第2取得部25から複数の遊戯機でのゲーム動画データを受信し、開始フレーム特定部26から動画データの識別情報に関連付けられた開始フレームの情報を受信し、開始フレームのタイミングが揃うように、複数の動画データを合成したマルチ動画データによるコンテンツを生成する(ステップSA3)。第2生成部27は、生成したマルチ動画データを配信部23へ送信する。
配信部23は、受信したマルチ動画データを、配信要求を受けた視聴者端末40へ配信する(ステップSA4)。
図7では、2つのゲーム動画MC1−MC2が合成されたマルチ動画データの再生画面の一例を概略的に示している。この例によれば、例えば全く異なる時間に異なる人がゲームをしている動画MC1−MC2を並べて配置し、ゲームがスタートするタイミングが揃うようにマルチ動画データを生成することにより、あたかも複数の遊戯者がゲームを競っているかのようなコンテンツを作成することができる。したがって、例えば、著名な遊戯者によるゲーム動画MC1−MC2を集めて、遊戯者同士があたかも競っているかのようなコンテンツを生成することも可能である。
なお、図7では、複数の動画MC1−MC2が重ならない状態で並んで配置されている例を示しているが、複数の動画MC1−MC2は少なくとも一部が重なるように配置されていてもよく、動画MC1−MC2の少なくとも1つを透過させて他の動画上に重なるように配置してもよい。
上記のように、本実施形態によれば、コンテンツ配信サーバ20は、所定の条件を満たす複数の動画データを取得し、所定のアクションが開始されるタイミングが揃うように複数の動画データを合成したマルチ動画データによるコンテンツを自動的に生成することができる。したがって、例えば、過去の動画コンテンツを含む複数の動画コンテンツを組み合わせて新たな動画コンテンツを作成する際に、膨大な数の過去のコンテンツの中から適切なものを選択したり、新たな動画コンテンツに過去の動画コンテンツを組み込むための編集作業を行ったりする手間を省くことが可能である。
また、マルチ動画データの生成に用いられる動画データは、所定の条件を満たすものの中から自動的に抽出されるため、コンテンツ作成者や視聴者が意図しないような、意外性のある組み合わせの複数の動画データが抽出される可能性があり、興趣性の高い動画コンテンツが生成され得る。
すなわち、本実施形態によれば、興趣性の高い動画コンテンツを生成するコンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラムを提供することが可能である。
次に、第2実施形態のコンテンツ配信サーバを含むコンテンツ配信システムの一例について、図面を参照して以下に説明する。
図8は、図1に示すコンテンツ配信サーバの他の構成例を概略的に示す図である。
コンテンツ配信サーバ20は、第1取得部21と、第2取得部25と、第1生成部22と、配信部23と、配信制御部24と、開始フレーム特定部26と、第2生成部27と、を備えている。本実施形態のコンテンツ配信サーバ20では、第1取得部21と、第2取得部25と、開始フレーム特定部26と、第2生成部27と、の構成が上述の第1実施形態と異なっている。以下では、第1実施形態と異なる構成について主に説明し、重複する説明は省略する。
本実施形態のコンテンツ生成装置は、第2取得部25と、開始フレーム特定部26と、第2生成部27とを含み、コンテンツ配信サーバ20と一体に構成されていてもよく、コンテンツ配信サーバ20の外部にてコンテンツ配信サーバ20と通信可能に接続される構成であっても構わない。
第1取得部21は、ネットワークを介してコンテンツ配信端末10から逐次送信されるコンテンツデータを受信可能である。例えば、第1取得部21は、コンテンツ配信端末10からリアルタイム配信用の動画データを受信する。また、第1取得部21は、ネットワークを介して視聴者端末40から逐次送信されるコメントなどの入力情報を受信可能である。第1取得部21は、受信した動画データを第1生成部22および第2取得部25へ送信する。
なお、第1取得部21は、受信した全ての動画データを第2取得部25へ送信してもよく、例えば予め設定されたタグ情報を含む動画データのみを第2取得部25へ送信してもよく、予め設定された配信者の画像データのみを第2取得部25へ送信してもよく、例えばオンライン上で開催されている所定のイベントに参加している配信者の画像データのみを第2取得部25へ送信してもよい。配信者がイベントに参加しているか否かは、例えば動画データに付されているタグ情報に含めることが可能であるし、事前にイベントに参加する配信者を登録しておくことも可能である。
第2取得部25は、第1取得部21から動画データを受信し、例えば受信した動画データやタグ情報などを検索条件としてコンテンツ記憶サーバ30へ送信することができる。第2取得部25は、ネットワークを介してコンテンツ記憶サーバ30へ、所定の条件を満たす少なくとも1つの動画コンテンツのデータを要求するとともに、コンテンツ記憶サーバ30から少なくとも1つの動画コンテンツのデータを受信する。第2取得部25は、第1取得部21から受信した動画データ(第1動画データ)と、コンテンツ記憶サーバ30から受信した少なくとも1つの動画コンテンツのデータ(第2動画データ)とを開始フレーム特定部26と第2生成部27とへ送信する。このとき、第2取得部25は、第1動画データと第2動画データとを識別可能とするための情報(フラグ等)をそれぞれに付して、開始フレーム特定部26と第2生成部27とへ送信することができる。
なお、コンテンツ配信サーバ20のデータ記憶部に記憶された動画コンテンツのデータに所定の条件を満たすものがある場合には、第2取得部25は、データ記憶部に記憶された動画コンテンツのデータを取得し、第1取得部21から受信した動画データとともに開始フレーム特定部26と第2生成部27とへ送信してもよい。
第2取得部25は、第1取得部21から受信した動画データに応じて、例えば同じ音楽を演奏している複数の動画を取得したり、競馬や競輪の中継動画を複数取得したり、マラソンや水泳などの競技スポーツの動画を複数取得したり、同じ曲に合わせた複数のダンス動画を取得したり、同じゲームの画面を撮影した複数の動画を取得したり、遊戯機で遊ぶ様子を撮影した複数の動画を取得したりすることができる。
開始フレーム特定部26は、第2取得部25から複数の動画データを受信する。開始フレーム特定部26は、受信した複数の動画データそれぞれについて、再生映像にて所定のアクションが開始するタイミングのフレーム(開始フレーム)を特定する。ここで、所定のアクションとは、例えば、所定の音楽の演奏や、歌唱や、ダンスなどの動作や、競馬や競輪などのレースや、マラソンや競泳などのスポーツや、RPG、アクションゲーム、戦闘ゲームなどのゲームや、パチスロやパチンコなど遊戯機の動作などを採用することができる。
開始フレーム特定部26は、第2取得部25から受信した複数の動画データに、所定のアクションが開始するタイミングのフレームを示すフラグが含まれているときには、フラグの位置を開始フレームと特定することができる。
また、開始フレーム特定部26は、第2取得部25から受信した複数の動画データが満たす条件に応じて、所定のアクションを特定し、所定のアクションの開始フレームを特定することが可能である。
また、開始フレーム特定部26は、第2取得部25から受信した複数の動画データを互いに比較することにより、開始フレームを特定してもよい。例えば、開始フレーム特定部26は、複数の動画データの再生画像において共通の曲が始まるタイミングや、アクションの開始タイミングに発生する共通の音等により、開始フレームを特定することが可能である。また、例えば、開始フレーム特定部26は、複数の動画データの再生画像において、所定の部分の色彩が変化するタイミングや、所定の部分の明るさが変化するタイミング等の画像の共通の変化により、開始フレームを特定することが可能である。
開始フレーム特定部26は、入力された動画データの開始フレームを特定する学習済みモデルを備えていてもよい。学習済みモデルは、例えば、畳み込みニューラルネットワーク(CNN:Convolution Neural Network)などの深層学習により、所定の条件を満たす動画データを入力とし、動画データの再生画像において所定のアクションが開始されるタイミングに対応するフレームを特定する学習済みのモデルである。動画データを検索する条件が複数想定される場合には、開始フレーム特定部26は、複数の条件のそれぞれに対応する複数の学習済みモデルを備え得る。
開始フレーム特定部26は、複数の画像データのそれぞれについて特定した開始フレームを示す情報を第2生成部27へ送信する。開始フレーム特定部26は、特定した開始フレームを示すフラグを複数の動画データそれぞれに付した後に、複数の動画データを第2生成部27へ送信してもよい。その場合には、第2取得部25から第2生成部27へ複数の動画データを送信することを省略することができる。
第2生成部27は、第2取得部25から複数の動画データを受信し、開始フレーム特定部26から開始フレームを示す情報を受信する。第2生成部27は、受信した複数の画像データの再生画像が画面に並んで表示されるように構成し、開始フレームのタイミングが揃うように編集をしたマルチ動画データを生成する。
第2生成部27は、例えば、アルファブレンド、ピクチャーインピクチャーなどの公知の技法を用いて、複数の動画データを合成してもよい。第2生成部27は、生成したマルチ動画データを配信部23へ送信する。なお、マルチ動画データの再生画像において、複数の再生画像の大きさは同じである必要はない。第2生成部27は、生成したマルチ動画データを配信部23へ送信する。
配信部23は、ネットワークと通信可能に接続し、第1生成部22から配信用画像データを受信し、第2生成部27からマルチ動画データを受信し、配信用画像データとマルチ動画データとのそれぞれについて配信要求を受けた視聴者端末40へ配信することができる。配信部23は、例えば配信用動画データの配信先などを配信制御部24によって制御される。
なお、配信部23は、配信済みの配信用動画データおよびマルチ動画データを直ちに破棄してもよいが、例えばリプレイまたはスローモーション再生を可能とするために所定期間バッファリングしていてもよい。
また、配信部23は、配信した配信用動画データおよびマルチ動画データを、コンテンツ記憶サーバ30へ送信する。このとき、配信部23は、配信用動画データおよびマルチ動画データに対する入力情報(コメント数など)や、視聴要求をした視聴者端末40の数や、配信用動画データおよびマルチ動画データを識別するための情報(タグ情報、配信者情報、配信期間、ジャンル等)などを、配信用動画データおよびマルチ動画データそれぞれに対応付けて第1生成部22および第2生成部27から受信し、受信した情報を合わせてコンテンツ記憶サーバ30へ送信することができる。
図9は、一実施形態のコンテンツ配信サーバの動作の一例を説明するためのフローチャートである。
図10は、一実施形態のコンテンツ配信サーバより配信されたマルチ動画データの再生画像の一例を概略的に示す図である。
ここでは、図9および図10を参照して、同じ曲に合わせてダンスをする人やアバターの様子を表示する複数の動画データを用いてマルチ動画データを生成する際のコンテンツ配信サーバ20の動作について説明する。
まず、コンテンツ配信サーバ20の第2取得部25は、第1取得部21から受信した動画データに対応する所定の条件を満たす少なくとも1つの動画コンテンツのデータをコンテンツ記憶サーバ30へ要求し、コンテンツ記憶サーバ30から少なくとも1つの動画データを受信する(ステップSB1)。
ここでは、第2取得部25は、第1取得部21からダンス動画を受信し、例えば、受信したダンス動画のコンテンツを識別するためのタグ情報、過去にダンス動画のコンテンツを配信したことがある配信者情報、曲名、ダンスのジャンル、ダンサー名、ダンサーの性別、配信された日付、第1取得部21から受信したダンス動画データ、要求する動画データの数などを検索条件として、コンテンツ記憶サーバ30へ送信し得る。
第2取得部25は、第1取得部21から受信したダンス動画データ(第1動画データ)と、コンテンツ記憶サーバ30から受信した少なくとも1つのダンス動画データ(第2動画データ)とを、開始フレーム特定部26および第2生成部27へ送信する。このとき、第2取得部25は、第1動画データと第2動画データとを識別可能とするための情報(フラグ等)をそれぞれに付して、開始フレーム特定部26および第2生成部27へ送信する。
開始フレーム特定部26は、第2取得部25から受信した第1動画データおよび第2動画データのそれぞれについて、再生画像においてダンスがスタートするタイミングに対応するフレームを開始フレームとして特定する。開始フレーム特定部26は、例えば、曲や歌が始まるタイミングを画像により識別して開始フレームを特定してもよく、ダンサーの動きが始まるタイミングを識別して開始フレームを特定してもよい(ステップSB2)。
開始フレーム特定部26は、第1動画データおよび第2動画データのそれぞれについて、動画データの識別情報と、開始フレームの情報とを関連付けて、第2生成部27へ送信する。
第2生成部27は、第2取得部25から第1動画データと第2動画データとを受信し、開始フレーム特定部26から動画データの識別情報に関連付けられた開始フレームの情報を受信し、開始フレームのタイミングが揃うように、第1動画データと第2動画データとを合成したマルチ動画データによるコンテンツを生成する(ステップSB3)。第2生成部27は、生成したマルチ動画データを配信部23へ送信する。
なお、例えば、ダンス動画MD1とダンス動画MD2とにおいて曲のテンポ(拍の時間)が異なっている場合には、第2生成部27は、一つの動画における曲のテンポに合わせて他の動画の再生速度を調整してもよく、全ての動画における曲のテンポが所定の速度となるように全ての動画の再生速度を調整してもよい。
配信部23は、受信したマルチ動画データを、配信要求を受けた視聴者端末40へ配信する(ステップSB4)。なお、配信制御部24は、第1動画データに対する配信要求をコンテンツ配信サーバ20へ送信した視聴者端末40に対して、第1動画データに替えてマルチ動画データを配信するように配信部23を制御してもよい。また、第1動画データに対する配信要求を送信した視聴者端末40に対して、第1動画データとマルチ動画データとのいずれを配信するか選択する要求をし、配信制御部24は、視聴者端末40にて選択された動画データを配信するように配信部23を制御してもよい。
図10では、2つのダンス動画MD1−MD2が合成されたマルチ動画データの再生画面の一例を概略的に示している。この例では、例えばコンテンツ配信端末10から送信されたダンス動画MD1と、手本とするダンス動画MD2とを並べて配置している。例えばダンス動画MD1とダンス動画MD2とのダンスがスタートするタイミングが揃うようにマルチ動画データを生成することにより、コンテンツ配信者のダンスと手本のダンスとを比較するようなコンテンツや、コンテンツ配信者と著名なダンサーとがあたかも共演しているかのようなコンテンツを作成することができる。
なお、図10では、複数の動画MD1−MD2が重ならない状態で並んで配置されている例を示しているが、複数の動画MD1−MD2は少なくとも一部が重なるように配置されていてもよく、動画MD1−MD2の少なくとも1つを透過させて他の動画上に重なるように配置してもよい。また、図6では、画面上にてダンス動画MD1がダンス動画MD2よりも大きく表示されているが、複数の動画が表示される大きさはこれに限定されるものではなく、画面上に表示される動画の数により適宜調整可能である。
また、第1動画データと第2動画データとを用いて生成されるマルチ動画データは複数のダンス動画を組み合わせたものに限定されるものではなく、例えば、ゲームの実況する動画を複数組み合わせてもよく、陸上競技や水泳などのスポーツを実況する動画を複数組み合わせてもよく、プレイヤーが演奏する音とともに演奏する姿を表示する動画を複数組み合わせることも可能である。
例えば、異なる複数の楽器を演奏する様子を表示する複数の動画を組み合わせたマルチ動画データを再生することにより、あたかもバンド演奏やオーケストラの演奏をしているかのようなコンテンツを生成することも可能である。
また、配信者(若しくはアバター)が歌謡曲を歌唱する様子を表示する動画データを第1動画とし、その歌謡曲を歌唱する歌手本人を表示する動画データを第2動画データとしてもよい。その場合には、配信者が歌手本人とあたかもデュエットしているかのような表示を行うことができる。
上記のように、本実施形態によれば、コンテンツ配信サーバ20は、コンテンツ配信端末10から受信した第1動画データと、第1動画データに対応する所定の条件を満たす少なくとも1つの第2動画データを取得し、所定のアクションが開始されるタイミングが揃うように第1動画データと第2動画データとを合成したマルチ動画データによるコンテンツを自動的に生成することができる。したがって、例えば、過去の動画コンテンツを含む複数の動画コンテンツを組み合わせて新たな動画コンテンツを作成する際に、膨大な数の過去のコンテンツの中から適切なものを選択したり、新たな動画コンテンツに過去の動画コンテンツを組み込むための編集作業を行ったりする手間を省くことが可能である。
また、マルチ動画データの生成に用いられる第2動画データは、所定の条件を満たすものの中から自動的に抽出されるため、コンテンツ作成者や視聴者が意図しないような、意外性のある組み合わせの第2動画データが抽出される可能性があり、興趣性の高い動画コンテンツが生成され得る。
すなわち、本実施形態によれば、興趣性の高い動画コンテンツを生成するコンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラムを提供することが可能である。
なお、本発明は、上記実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。また、各実施形態は適宜組み合わせて実施してもよく、その場合組み合わせた効果が得られる。更に、上記実施形態には種々の発明が含まれており、開示される複数の構成要件から選択された組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、課題が解決でき、効果が得られる場合には、この構成要件が削除された構成が発明として抽出され得る。
10…コンテンツ配信端末、20…コンテンツ配信サーバ、21…第1取得部、22…第1生成部、23…配信部、24…配信制御部、25…第2取得部、26…開始フレーム特定部、27…第2生成部、30…コンテンツ記憶サーバ、31…通信部、32…検索部、33…記憶部、40…視聴者端末。

Claims (5)

  1. 過去に配信した複数の動画データを蓄積した蓄積部から、受信した動画データまたは前記受信した動画データに含まれるタグを検索条件として、複数の動画データを取得する取得部と、
    前記取得部にて取得された複数の前記動画データの再生画像それぞれにおいて、前記再生画像に含まれる画像または音を識別することにより、前記検索条件に応じて所定のアクションを特定し、前記所定のアクションが開始される開始フレームを特定する開始フレーム特定部と、
    特定された前記開始フレームのタイミングを揃えて複数の前記動画データを合成したマルチ動画データを生成する生成部と、を備えたコンテンツ生成装置。
  2. 請求項1記載のコンテンツ生成装置と、
    前記コンテンツ生成装置により生成されたマルチ動画データを配信する配信部と、
    視聴者端末に対して前記マルチ動画データを配信するよう前記配信部を制御する配信制御部と、を備えたコンテンツ配信サーバ。
  3. コンテンツ配信端末から配信用の第1動画データを取得する第1取得部を更に備え、
    前記取得部は、前記第1取得部より前記第1動画データを取得し、前記第1動画データに対応する前記条件を満たす少なくとも1つの前記動画データである第2動画データを前記蓄積部へ要求し、前記第1動画データと前記第2動画データとを複数の前記動画データとして取得する、請求項2記載のコンテンツ配信サーバ。
  4. 過去に配信した複数の動画データを蓄積した蓄積部へ、受信した動画データまたは前記受信した動画データに含まれるタグを検索条件として、動画データを要求し、前記条件を満たす複数の動画データを取得し、
    取得された複数の前記動画データの再生画像それぞれにおいて、前記再生画像に含まれる画像または音を識別することにより、前記検索条件に応じて所定のアクションを特定し、前記所定のアクションが開始される開始フレームを特定し、
    特定された前記開始フレームのタイミングを揃えて複数の前記動画データを合成したマルチ動画データを生成する、コンテンツ生成方法。
  5. コンピュータを、
    過去に配信した複数の動画データを蓄積した蓄積部へ、受信した動画データまたは前記受信した動画データに含まれるタグを検索条件として、動画データを要求し、前記条件を満たす複数の動画データを取得する手段と、
    取得された複数の前記動画データの再生画像それぞれにおいて、前記再生画像に含まれる画像または音を識別することにより、前記検索条件に応じて所定のアクションを特定し、前記所定のアクションが開始される開始フレームを特定する手段と、
    特定された前記開始フレームのタイミングを揃えて複数の前記動画データを合成したマルチ動画データを生成する手段と、して機能させるコンテンツ生成プログラム。
JP2019237967A 2019-12-27 2019-12-27 コンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラム Active JP6828133B1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2019237967A JP6828133B1 (ja) 2019-12-27 2019-12-27 コンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラム
JP2020207399A JP7534205B2 (ja) 2019-12-27 2020-12-15 コンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラム
US17/765,017 US12120403B2 (en) 2019-12-27 2020-12-24 Content generation device, content distribution server, content generation method, and content generation program
PCT/JP2020/048350 WO2021132428A1 (ja) 2019-12-27 2020-12-24 コンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラム
CN202080063772.3A CN114556963B (zh) 2019-12-27 2020-12-24 内容生成装置、内容分发服务器、内容生成方法以及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019237967A JP6828133B1 (ja) 2019-12-27 2019-12-27 コンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020207399A Division JP7534205B2 (ja) 2019-12-27 2020-12-15 コンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラム

Publications (2)

Publication Number Publication Date
JP6828133B1 true JP6828133B1 (ja) 2021-02-10
JP2021106363A JP2021106363A (ja) 2021-07-26

Family

ID=74529613

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019237967A Active JP6828133B1 (ja) 2019-12-27 2019-12-27 コンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラム
JP2020207399A Active JP7534205B2 (ja) 2019-12-27 2020-12-15 コンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2020207399A Active JP7534205B2 (ja) 2019-12-27 2020-12-15 コンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラム

Country Status (4)

Country Link
US (1) US12120403B2 (ja)
JP (2) JP6828133B1 (ja)
CN (1) CN114556963B (ja)
WO (1) WO2021132428A1 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008199557A (ja) * 2007-02-16 2008-08-28 Nec Corp ストリーム同期再生システム、ストリーム同期再生装置、同期再生方法、及び同期再生用プログラム
JP2011059619A (ja) * 2009-09-14 2011-03-24 Xing Inc カラオケシステム、中央装置及びコンテンツデータ生成方法
JP2012209856A (ja) * 2011-03-30 2012-10-25 Xing Inc 動画情報配信システム
JP2014064135A (ja) * 2012-09-20 2014-04-10 Casio Comput Co Ltd 撮像制御装置、撮像制御方法、再生制御装置、再生制御方法及びプログラム
JP2014109657A (ja) * 2012-11-30 2014-06-12 Daiichikosho Co Ltd 合成動画コンテンツの生成システム
JP2014186177A (ja) * 2013-03-25 2014-10-02 Brother Ind Ltd 再生装置

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3811055B2 (ja) 2001-11-30 2006-08-16 東日本電信電話株式会社 音・映像同期合成配信方法、演奏者端末用装置、本装置用プログラムおよび本装置用プログラムを記録した記録媒体並びに、サービス提供装置、本装置用プログラムおよび本装置用プログラムを記録した記録媒体
JP2003204535A (ja) 2002-09-17 2003-07-18 Netbreak Inc 音楽と同期する映像の配信装置及び音楽と同期する映像の配信方法
JP4584568B2 (ja) 2003-11-07 2010-11-24 ヤマハ株式会社 映像処理装置及びプログラム
CN101179484A (zh) 2006-11-09 2008-05-14 华为技术有限公司 一种不同媒体流间的同步方法及系统
JP4380694B2 (ja) 2006-12-13 2009-12-09 ヤマハ株式会社 コンテンツ再生装置
JP5706718B2 (ja) 2011-03-02 2015-04-22 Kddi株式会社 動画合成システム及び方法並びに動画合成プログラム及びその記憶媒体
MX2013014269A (es) * 2011-06-08 2014-02-19 Sling Media Pvt Ltd Aparatos, sistemas y metodos para presentar un resumen de un evento de contenido de medios.
EP2800365B1 (en) 2011-12-29 2019-02-27 Sony Interactive Entertainment Inc. Video playback system
US9654813B2 (en) * 2012-09-04 2017-05-16 Wickr Inc. Method and system for synchronized multi-venue experience and production
JP6427902B2 (ja) * 2014-03-17 2018-11-28 富士通株式会社 抽出プログラム、方法、及び装置
US9715901B1 (en) * 2015-06-29 2017-07-25 Twitter, Inc. Video preview generation
US10516911B1 (en) * 2016-09-27 2019-12-24 Amazon Technologies, Inc. Crowd-sourced media generation
KR101843025B1 (ko) * 2016-12-30 2018-03-28 (주)잼투고 카메라워크 기반 영상합성 시스템 및 영상합성방법
US10419384B2 (en) * 2017-01-06 2019-09-17 Sony Interactive Entertainment LLC Social network-defined video events
JP2018155936A (ja) 2017-03-17 2018-10-04 ヤマハ株式会社 音データ編集方法
CA3002470A1 (en) * 2017-04-24 2018-10-24 Evertz Microsystems Ltd. Systems and methods for media production and editing
JP6355878B1 (ja) 2017-07-24 2018-07-11 三菱電機株式会社 表示器および表示方法
US10740620B2 (en) * 2017-10-12 2020-08-11 Google Llc Generating a video segment of an action from a video
CN108234825A (zh) * 2018-01-12 2018-06-29 广州市百果园信息技术有限公司 视频处理方法及计算机存储介质、终端
CN110222551B (zh) * 2018-03-02 2021-07-09 杭州海康威视数字技术股份有限公司 识别动作类别的方法、装置、电子设备及存储介质
CN109462776B (zh) * 2018-11-29 2021-08-20 北京字节跳动网络技术有限公司 一种视频特效添加方法、装置、终端设备及存储介质
CN109886165A (zh) * 2019-01-23 2019-06-14 中国科学院重庆绿色智能技术研究院 一种基于运动目标检测的动作视频提取和分类方法
CN109922373B (zh) * 2019-03-14 2021-09-28 上海极链网络科技有限公司 视频处理方法、装置及存储介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008199557A (ja) * 2007-02-16 2008-08-28 Nec Corp ストリーム同期再生システム、ストリーム同期再生装置、同期再生方法、及び同期再生用プログラム
JP2011059619A (ja) * 2009-09-14 2011-03-24 Xing Inc カラオケシステム、中央装置及びコンテンツデータ生成方法
JP2012209856A (ja) * 2011-03-30 2012-10-25 Xing Inc 動画情報配信システム
JP2014064135A (ja) * 2012-09-20 2014-04-10 Casio Comput Co Ltd 撮像制御装置、撮像制御方法、再生制御装置、再生制御方法及びプログラム
JP2014109657A (ja) * 2012-11-30 2014-06-12 Daiichikosho Co Ltd 合成動画コンテンツの生成システム
JP2014186177A (ja) * 2013-03-25 2014-10-02 Brother Ind Ltd 再生装置

Also Published As

Publication number Publication date
CN114556963B (zh) 2024-10-01
CN114556963A (zh) 2022-05-27
JP7534205B2 (ja) 2024-08-14
JP2021108449A (ja) 2021-07-29
JP2021106363A (ja) 2021-07-26
WO2021132428A1 (ja) 2021-07-01
US20220377435A1 (en) 2022-11-24
US12120403B2 (en) 2024-10-15

Similar Documents

Publication Publication Date Title
US20200222803A1 (en) Virtual playbook with user controls
JP6947985B2 (ja) ゲーム動画編集プログラムならびにゲーム動画編集システム
US11679333B2 (en) Methods and systems for generating a video game stream based on an obtained game log
US20230082513A1 (en) Creating and distributing interactive addressable virtual content
CN111447979B (zh) 游戏运行装置及终端服务器
US8665374B2 (en) Interactive video insertions, and applications thereof
JP2021516087A (ja) eスポーツイベントでのスケーリングされたVRエンゲージメント及びビュー
JP7123520B2 (ja) 動画記録装置、動画生成方法、及びプログラム
JP7521779B2 (ja) 映像配信システム、それに用いるコンピュータプログラム、及び制御方法
KR20130137320A (ko) 시뮬레이션을 이용한 스포츠 경기 중계 방법, 시스템 및 컴퓨터 판독 가능한 매체
JP6828133B1 (ja) コンテンツ生成装置、コンテンツ配信サーバ、コンテンツ生成方法、および、コンテンツ生成プログラム
WO2023063133A1 (ja) 動画生成システム、コンピュータプログラム及び制御方法
JP2022185001A (ja) 観戦システム、観戦システム用のコンピュータプログラム、及び観戦システムの制御方法
JP2022117505A (ja) コンテンツ修正装置、コンテンツ配信サーバ、コンテンツ修正方法、コンテンツ修正プログラム、および、記録媒体
JP7162387B1 (ja) 興行映像表示プログラム
JP6789581B2 (ja) サーバ装置、動画配信システム、それに用いられる制御方法及びコンピュータプログラム
JP7072282B2 (ja) サーバ装置、動画配信システム、それに用いられる制御方法及びコンピュータプログラム
US20220314130A1 (en) Watching system, computer program for watching system, and control method for watching system
WO2024142674A1 (ja) コンテンツ生成装置、コンテンツ生成方法、プログラム、および記録媒体
JP4444069B2 (ja) カラオケ映像作品の投稿を受け付けてカラオケ演奏時に再生可能とする通信カラオケシステム
JP2024112399A (ja) 情報処理装置、情報処理方法、及びプログラム
JP2005062897A (ja) カラオケ映像作品のコンテスト方法、カラオケ映像作品のコンテストを実施するカラオケシステム、カラオケ演奏装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191227

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20191227

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200414

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200611

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200915

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201215

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20201215

C876 Explanation why request for accelerated appeal examination is justified

Free format text: JAPANESE INTERMEDIATE CODE: C876

Effective date: 20201215

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20201223

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20210105

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210120

R150 Certificate of patent or registration of utility model

Ref document number: 6828133

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250