JP7345812B1 - 映像処理のためのシステム、方法、及びコンピュータ可読媒体 - Google Patents

映像処理のためのシステム、方法、及びコンピュータ可読媒体 Download PDF

Info

Publication number
JP7345812B1
JP7345812B1 JP2023011798A JP2023011798A JP7345812B1 JP 7345812 B1 JP7345812 B1 JP 7345812B1 JP 2023011798 A JP2023011798 A JP 2023011798A JP 2023011798 A JP2023011798 A JP 2023011798A JP 7345812 B1 JP7345812 B1 JP 7345812B1
Authority
JP
Japan
Prior art keywords
video
gift
distributor
timing
user terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023011798A
Other languages
English (en)
Inventor
范宇承
徐永吉
蔡幸祐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
17Live Japan Inc
Original Assignee
17Live Japan Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 17Live Japan Inc filed Critical 17Live Japan Inc
Priority to JP2023011798A priority Critical patent/JP7345812B1/ja
Application granted granted Critical
Publication of JP7345812B1 publication Critical patent/JP7345812B1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

【課題】視聴者と配信者を分析し、配信者によるコンテンツ配信に最適な時間または最も収益性の高い時間を特定する映像処理システム、方法及び非一時的なコンピュータ可読媒体を提供する。【解決手段】方法は、ユーザ端末から贈り物信号を受信する工程と、当該贈り物信号の受信に応答して、第1のタイミングから配信者の第1の映像を取得する工程と、当該第1のタイミングよりも後の第2のタイミングにおいて当該贈り物信号に対応するエフェクトを当該第1の映像に重ねることにより第2の映像を生成する工程と、を含む。【選択図】図7

Description

本発明は、ストリーミング分野における映像処理に関する。
ライブストリーミングサービスに代表されるように、インターネット上におけるリアルタイムの交流が日常生活に浸透している。さまざまなプラットフォームやプロバイダーがライブストリーミングサービスを提供しており、競争も激しい。ユーザのニーズを満たし、より良い交流体験を実現することがプラットフォームにとって重要である。
中国特許出願公開第113824984号は、ライブストリームにおいて贈り物情報を表示する方法を開示している。
中国特許出願公開第113824984号明細書
本発明の一実施態様による方法は、1以上のコンピュータによって実行される映像処理のための方法であって、当該方法が、ユーザ端末から贈り物信号を受信する工程と、当該贈り物信号の受信に応答して、第1のタイミングから配信者の第1の映像を取得する工程と、当該第1のタイミングよりも後の第2のタイミングにおいて当該贈り物信号に対応するエフェクトを当該第1の映像に重ねることにより第2の映像を生成する工程と、を含む。
本発明の一実施態様によるシステムは、1以上のプロセッサを含む映像処理のためのシステムであって、当該1以上のコンピュータプロセッサが、機械可読命令を実行して、ユーザ端末から贈り物信号を受信する工程と、当該贈り物信号の受信に応答して、第1のタイミングから配信者の第1の映像を取得する工程と、当該第1のタイミングよりも後の第2のタイミングにおいて当該贈り物信号に対応するエフェクトを当該第1の映像に重ねることにより第2の映像を生成する工程と、を実行する。
本発明の一実施態様によるコンピュータ可読媒体は、映像処理のためのプログラムを含む非一時的なコンピュータ可読媒体であって、当該プログラムが1以上のコンピュータに、ユーザ端末から贈り物信号を受信する工程と、当該贈り物信号の受信に応答して、第1のタイミングから配信者の第1の映像を取得する工程と、当該第1のタイミングよりも後の第2のタイミングにおいて当該贈り物信号に対応するエフェクトを当該第1の映像に重ねることにより第2の映像を生成する工程と、を実行させる。
本発明の一部の実施態様に基づくライブストリーミングシステム1の構成を示す概略図である。 本発明の一部の実施態様に基づく、図1のユーザ端末30の機能と構成を示すブロック図である。 本発明の一部の実施態様に基づく、図1のサーバの機能と構成を示すブロック図である。 図3のストリームDB310の例示的データ構造を示す表である。 図3のユーザDB312の例示的データ構造を示す表である。 図3の贈り物DB314の例示的データ構造を示す表である。 本発明の一部の実施態様に基づく混合映像の生成例を示す概略図である。 本発明の一部の実施態様に基づく方法を示す例示的なフローチャートである。 本発明の一部の実施態様に基づくカウントダウンメッセージの例を示す概略図である。 本発明の一部の実施態様に基づく贈り物エフェクトの例を示す概略図である。 図11(a)、(b)は、本発明の一部の実施態様に基づく混合映像の例を示す概略図である。 本発明の一部の実施態様に基づく混合映像の表示例を示す概略図である。 本発明の一部の実施態様に基づく情報処理装置のハードウェア構成例を示すブロック図である。 図3の混合映像DB352の例示的データ構造を示す表である。 本発明の一部の実施態様に基づく方法を示す例示的なフローチャートである。 本発明の一部の実施態様に基づく混合映像の表示例を示す概略図である。 本発明の一部の実施態様に基づくユーザインターフェイス例の概略図である。 本発明の一部の実施態様に基づくユーザインターフェイス例の概略図である。
以下、各図面に示す同一または類似の構成要素、部材、手順または信号には、すべての図面において同様の符号を付し、それによって重複する説明は適宜省略される。また、各図面の説明において重要でない一部部材は省略される。
従来、インターネット(ストリーミングプラットフォームやライブストリーミングプラットフォームなど)上のコンテンツプロバイダー(配信者、放送者、ストリーマー、ライバー、アンカーなど)は、コンテンツ配信を行う時間(例:タイミングや時間範囲)を特定できる良いツールを持っていない。配信者は、より高い報酬(収益など)を効率的に達成するために、配信を行うタイミングを知ることができない。
本発明は、視聴者と配信者を分析し、配信者によるコンテンツ配信に最適な時間、または最も収益性の高い時間を特定するためのシステムまたは方法を提供するものである。
図1に、本発明の一部の実施態様に基づくライブストリーミングシステム1の構成を示す概略図を示す。当該ライブストリーミングシステム1は、ストリーミングの配信者(ライバー、アンカー、ストリーマーとも呼ばれる)LVと視聴者(オーディエンスとも呼ばれる)AU(AU1、AU2...)に、リアルタイムで交流または通信するためのライブストリーミングサービスを提供する。図1に示すように、当該ライブストリーミングシステム1は、サーバ10と、ユーザ端末20と、ユーザ端末30(30a、30b...)を含む。一部の実施態様において、当該ストリーマーと視聴者は、集合的にユーザと呼ばれてもよい。当該サーバ10は、ネットワークNWに接続された、1以上の情報処理装置を含むことができる。当該ユーザ端末20、30は、例えば、スマートフォン、タブレット、ノートPC、レコーダー、携帯ゲーム機、ウェアラブル端末などのモバイル端末装置、あるいはデスクトップPCなどの据え置き型装置であってもよい。当該サーバ10、当該ユーザ端末20及び当該ユーザ端末30は、各種有線または無線ネットワークNWを介して相互に通信可能に接続される。
当該ライブストリーミングシステム1には、配信者LV、視聴者AU、及び当該サーバ10を管理する管理者(またはアプリプロバイダー、図示せず)が参加する。当該配信者LVは、自身のユーザ端末20でコンテンツを記録し、当該サーバ10に直接または間接的にアップロードすることにより、リアルタイムで当該コンテンツを配信する者である。当該コンテンツの例としては、当該配信者自身の歌、トーク、パフォーマンス、ゲームプレイ、その他あらゆるコンテンツであってもよい。当該管理者は、当該サーバ10上で当該コンテンツをライブストリーミングするためのプラットフォームを提供するとともに、当該配信者LVと当該視聴者AU間のリアルタイムの交流を仲介または管理する。当該視聴者AUは、自分のユーザ端末30で当該プラットフォームにアクセスし、所望のコンテンツを選択して視聴する。当該視聴者AUは、選択したコンテンツのライブストリーミング中に、当該ユーザ端末30を介してコメントや応援、贈り物の送信などの操作を実行する。当該コンテンツを配信している当該配信者LVは、それらのコメント、応援、または贈り物に対して応答してもよい。当該応答が、映像および(または)音声で当該視聴者AUに送信され、双方向のコミュニケーションが確立される。
「ライブストリーミング」という用語は、当該配信者LVのユーザ端末20で記録したコンテンツを、当該視聴者AUのユーザ端末30で実質的にリアルタイムに再生・視聴することを可能にするデータ伝送モードを指しても、そのような伝送モードにより実現されるライブブロードキャストを指してもよい。当該ライブストリーミングは、HTTPライブストリーミング、CMAF(Common Media Application Format)、WebRTC(Web Real-Time Communications)、RTMP(Real-Time Messaging Protocol)、MPEG DASHなどの既存のライブストリーミング技術を利用して実現されてもよい。ライブストリーミングには、当該配信者LVによるコンテンツの記録と同時に、当該視聴者AUが所定の遅延をもって当該コンテンツを視聴でき伝送モードを含む。当該遅延の長さについては、当該配信者LVと当該視聴者AUの交流が成立可能な程度の遅延であってもよい。なお、当該ライブストリーミングは、当該コンテンツの全記録データを一度当該サーバに格納し、その後ユーザの要求に応じて当該サーバから当該ユーザに提供する、いわゆるオンデマンド配信と区別される。
ここでいう「映像データ」とは、当該ユーザ端末20または30の撮像機能を用いて生成された画像データ(映像データとも呼ばれる)と、当該ユーザ端末20または30の音声入力機能を用いて生成された音声データを含むデータを指す。当該映像データは、当該ユーザがコンテンツを視聴できるように、当該ユーザ端末20、30で再生される。一部の実施態様において、当該配信者のユーザ端末における映像データの生成と当該視聴者のユーザ端末における映像データの再生との間に、当該映像データに対して圧縮、展開、符号化、復号化、トランスコーディングなど、その形式、サイズ、またはデータの仕様を変更する処理が行われると想定される。しかし、そのような処理の前後で、当該映像データが表す当該コンテンツ(例えば、映像や音声)は実質的に変化しないため、本明細書においては、そのような処理後の当該映像データを、そのような処理前の当該映像データと同一ものと表現している。すなわち、当該配信者のユーザ端末で映像データが生成された後、当該サーバ10を介して当該視聴者のユーザ端末で再生される場合、当該配信者のユーザ端末で生成された当該映像データ、当該サーバ10を通過する当該映像データ、および当該視聴者のユーザ端末で受信して再生される当該映像データは、いずれも同一の映像データである。
図1に示す例において、当該配信者LVは、ライブストリーミングデータを提供する。当該配信者LVのユーザ端末20は、当該配信者LVの映像や音声を記録して当該ストリーミングデータを生成し、生成された当該データは当該ネットワークNWを介して当該サーバ10に送信される。同時に、当該ユーザ端末20は、当該配信者LVの記録された映像VDを当該ユーザ端末20のディスプレイに表示し、当該配信者LVが現在行っているライブストリーミングコンテンツを確認できるようにする。
当該プラットフォームに当該配信者LVのライブストリーミングを視聴することを要求した当該視聴者AU1、AU2のそれぞれのユーザ端末30a、30bは、当該ネットワークNWを介して当該ライブストリーミングに関連する映像データ(以下、「ライブストリーミングの映像データ」と呼ばれてもよい)を受信し、受信した当該映像データを再生して当該映像VD1、VD2をディスプレイに表示し、スピーカーから音声を出力する。当該ユーザ端末30a、30bでそれぞれ表示される映像VD1、VD2は、当該配信者LVの当該ユーザ端末20により撮像された映像VDと実質的に同じであり、当該ユーザ端末30a、30bで出力される音声は、当該配信者LVの当該ユーザ端末20で記録された音声と実質的に同じである。
当該配信者LVの当該ユーザ端末20での映像・音声の記録と、当該視聴者AU1、AU2の当該ユーザ端末30a、30bでの映像データの再生は、実質的に同時に行われる。当該視聴者AU1が、当該配信者LVにより提供される当該コンテンツに関するコメントを当該ユーザ端末30aに入力すると、当該サーバ10は当該コメントを配信者LVの当該ユーザ端末30aにリアルタイムで表示するとともに、当該視聴者AU1とAU2の当該ユーザ端末30aと30bにも当該コメントをそれぞれ表示する。当該配信者LVが当該コメントを読み、当該コメントに対応するトークを展開すると、そのトークの映像と音声が、それぞれ当該視聴者AU1、AU2のユーザ端末30a、30bに表示される。このインタラクティブな動作は、当該配信者LVと当該視聴者AU1間で会話が成立していると認識される。これにより、当該ライブストリーミングシステム1では、一方的なコミュニケーションではなく、双方向のコミュニケーションを可能にするライブストリーミングを実現する。
図2は、本発明の一部の実施態様に基づく、図1のユーザ端末30の機能と構成を示すブロック図である。当該ユーザ端末20は、当該ユーザ端末30と同じまたは類似した機能と構成を有する。図2の各ブロックと以降のブロック図は、ハードウェアがコンピュータのCPUや機械装置などの要素によって実現されてもよく、ソフトウェアがコンピュータプログラムなどによって実現されてもよい。機能ブロックは、これらの要素間の連携動作により実現されてもよい。したがって、これらの機能ブロックは、ハードウェアとソフトウェアの組み合わせによる多様な形態で実現され得ることが、当業者には理解されよう。
当該配信者LV及び当該視聴者AUは、当該ネットワークNWを介してダウンロードサイトからライブストリーミングアプリケーションプログラム(以下、ライブストリーミングアプリケーションという)をダウンロードし、当該ユーザ端末20、30にインストールしてもよい。あるいは、当該ライブストリーミングアプリケーションは、当該ユーザ端末20と30に予めインストールされていてもよい。当該ライブストリーミングアプリケーションが当該ユーザ端末20、30上で実行されると、当該ユーザ端末20、30は、当該ネットワークNWを介して当該サーバ10と通信し、各種機能を実装または実行する。以下、当該ライブストリーミングアプリケーションが実行されるユーザ端末20、30(CPUなどのプロセッサ)によって実装される機能を、当該ユーザ端末20、30の機能として説明する。これらの機能は、実際には、当該ユーザ端末20、30上で当該ライブストリーミングアプリケーションにより実現される。一部の実施態様において、これらの機能は、HTML(HyperText Markup Language)などのプログラミング言語で記述され、当該サーバ10から当該ネットワークNWを介して当該ユーザ端末20、30のウェブブラウザに送信され、当該ウェブブラウザにより実行されるコンピュータプログラムによって実現されてもよい。
当該ユーザ端末30は、配信ユニット100と視聴ユニット200を含む。当該配信ユニット100は、当該ユーザ(またはユーザ側)の映像と音声が記録された映像データを生成し、当該映像データを当該サーバ10に提供する。当該視聴ユニット200は、当該サーバ10から映像データを受信し、当該映像データを再生する。当該ユーザは、ライブストリーミングを行う際に、当該配信ユニット100を起動し、当該ユーザが映像を視聴する際に、当該視聴ユニット200を起動する。当該配信ユニット100が起動される当該ユーザ端末は、当該配信者の端末、すなわち、当該映像データを生成する当該ユーザ端末である。当該視聴ユニット200が起動される当該ユーザ端末は、当該視聴者の端末、即ち、当該映像データが再現され、再生される当該ユーザ端末である。
当該配信ユニット100は、撮像コントロールユニット102と、オーディオコントロールユニット104と、映像送信ユニット106と、配信者側UIコントロールユニット108を含む。当該撮像コントロールユニット102は、カメラ(図2に表示せず)に接続され、当該カメラで実行される撮像を制御する。当該撮像コントロールユニット102は、当該カメラからの画像データを取得する。当該オーディオコントロールユニット104は、マイク(図2に表示せず)に接続され、当該マイクからの音声入力を制御する。当該オーディオコントロールユニット104は、当該マイクから当該オーディオデータを取得する。当該映像送信ユニット106は、当該撮像コントロールユニット102により取得された当該画像データと、当該オーディオコントロールユニット104により取得された当該オーディオデータを含む映像データを、当該ネットワークNWを介して当該サーバ10に送信する。当該映像データは、当該映像送信ユニット106によりリアルタイムに送信される。すなわち、当該撮像コントロールユニット102と当該オーディオコントロールユニット104による当該映像データの生成と、生成された当該映像データの当該映像送信ユニット106による送信とは、実質的に同時に実行される。当該配信者側UIコントロールユニット108は、当該配信者のUI(ユーザインターフェイス)をコントロールする。当該配信者側UIコントロールユニット108は、ディスプレイ(図2に表示せず)に接続されてもよく、当該映像送信ユニット106により送信される当該映像データを再生することにより、当該ディスプレイに映像を表示する。当該配信者側UIコントロールユニット108は、操作オブジェクトや指示許諾オブジェクトを当該ディスプレイに表示し、当該オブジェクトをタップした当該配信者からの入力を受け付けてもよい。
当該視聴ユニット200は、視聴者側UIコントロールユニット202と、重ね合わせ情報生成ユニット204と、入力情報送信ユニット206を含む。当該視聴ユニット200は、当該ネットワークNWを介して当該サーバ10から、当該配信者、当該ユーザ端末30のユーザである視聴者、及び他の視聴者が参加する、ライブストリーミングに関連する映像データを受信する。当該視聴者側UIコントロールユニット202は、当該視聴者のUIを制御する。当該視聴者側UIコントロールユニット202は、ディスプレイとスピーカー(図2に表示せず)に接続され、受信した映像データを再生して、当該ディスプレイに映像を表示し、当該スピーカーから音声を出力する。当該映像が当該ディスプレイに出力され、当該音声が当該スピーカーから出力されている状態を「映像データが再生されている」状態と呼ぶことができる。当該視聴者側UIコントロールユニット202は、タッチパネル、キーボード、ディスプレイ等の入力手段(図2に表示せず)にも接続され、当該入力手段を介してユーザの入力を取得する。当該重ね合わせ情報生成ユニット204は、当該サーバ10からの映像データから生成された画像上に、所定のフレーム画像を重ねる。当該フレーム画像には、当該ユーザからの入力を受け付けるためのさまざまなユーザインターフェイスオブジェクト(以下、単に「オブジェクト」という)、当該視聴者により入力されたコメント、及び(または)当該サーバ10から取得した情報などが含まれる。当該入力情報送信ユニット206は、当該ネットワークNWを介して、当該視聴者側UIコントロールユニット202により取得された当該ユーザ入力を当該サーバ10に送信する。
図3に、本発明の一部の実施態様に基づく、図1の当該サーバ10の機能と構成を示すブロック図を示す。当該サーバ10は、配信情報提供ユニット302と、中継ユニット304と、贈り物処理ユニット306と、支払い処理ユニット308と、ストリームDB310と、ユーザDB312と、贈り物DB314と、映像処理ユニット330と、エフェクトDB350と、混合映像DB352を含む。当該サーバ10は、CDN(Content Delivery Network)382及びCDN384と通信する。
当該配信者側の当該ユーザ端末20から当該ネットワークNWを介してライブストリーミングの開始通知または要求を受信すると、当該配信情報提供ユニット302は、このライブストリーミングを識別するためのストリームIDと当該ライブストリーミングを行う配信者の配信者IDをストリームDB310に登録する。
当該配信情報提供ユニット302が、当該ネットワークNWを介して当該視聴者側の当該ユーザ端末30の当該視聴ユニット200からライブストリームに関する情報の提供要求を受信すると、当該配信情報提供ユニット302は、当該ストリームDB310から現在利用可能なライブストリームを取得または確認し、利用可能なライブストリームのリストを作成する。当該配信情報提供ユニット302は、作成したリストを当該ネットワークNW経由で要求元の当該ユーザ端末30に送信する。要求元の当該ユーザ端末30の当該視聴者側UIコントロールユニット202は、受信したリストに基づいてライブストリーム選択画面を生成し、当該ユーザ端末30のディスプレイ上に表示する。
当該ユーザ端末30の当該入力情報送信ユニット206が、当該ライブストリーム選択画面上で当該視聴者の選択結果を受信すると、当該入力情報送信ユニット206は、選択されたライブストリームのストリームIDを含む配信要求を生成し、当該ネットワークNWを介して当該サーバ10に当該要求を送信する。当該配信情報提供ユニット302は、要求元の当該ユーザ端末30に対して、受信した当該配信要求に含まれる当該ストリームIDで指定されるライブストリームの提供を開始する。当該配信情報提供ユニット302は、当該ストリームIDの(または対応する)視聴者IDに、要求元の当該ユーザ端末30の当該視聴者のユーザIDを含めるように当該ストリームDB310を更新する。
当該中継ユニット304は、当該配信情報提供ユニット302により開始された当該ライブストリーミングにおいて、配信者側の当該ユーザ端末20から視聴者側の当該ユーザ端末30に当該映像データを中継する。当該中継ユニット304は、当該ライブストリーミング中または当該映像データの再生中に、当該入力情報送信ユニット206から視聴者によるユーザ入力を表す信号を受信する。当該ユーザ入力を表す信号は、当該ユーザ端末30のディスプレイに表示されたオブジェクトを指定するオブジェクト指定信号であってもよい。当該オブジェクト指定信号は、当該視聴者の視聴者ID、当該視聴者が視聴しているライブストリームの配信者の配信者ID、及び当該オブジェクトを特定するオブジェクトIDを含んでもよい。当該オブジェクトが贈り物であるとき、当該オブジェクトIDは贈り物IDである。同様に、当該中継ユニット304は、当該ユーザ端末20の当該配信ユニット100から、当該映像データの再生中(またはライブストリーミング中)に配信者により行われたユーザ入力を表す信号を受信する。当該信号は、オブジェクト指定信号であってもよい。
また、当該ユーザ入力を表す信号は、視聴者が当該ユーザ端末30に入力したコメントと当該視聴者の視聴者IDを含むコメント入力信号であってもよい。当該コメント入力信号を受信すると、当該中継ユニット304は、当該コメントと信号に含まれる当該視聴者IDを、当該配信者の当該ユーザ端末20と他の視聴者の当該ユーザ端末30に送信する。これらユーザ端末20、30において、当該視聴者側UIコントロールユニット202と、当該重ね合わせ情報生成ユニット204は、同じく受信した当該視聴者IDと関連付けられたディスプレイ上に受信したコメントを表示する。
当該贈り物処理ユニット306は、当該オブジェクト指定信号に含まれる贈り物IDによって特定される贈り物のポイントに基づき、当該配信者のポイントを増加させ、当該ユーザDB312を更新する。具体的には、当該贈り物処理ユニット306は、当該贈り物DB314を参照して、受信した当該オブジェクト指定信号に含まれる当該贈り物IDに対して付与するポイントを特定する。その後、当該贈り物処理ユニット306は、当該ユーザDB312を更新し、当該オブジェクト指定信号に含まれる当該配信者IDの(または当該配信者IDに対応する)ポイントに、特定されたポイントを追加する。
当該支払い処理ユニット308は、当該オブジェクト指定信号の受信に応答して、視聴者からの贈り物の代金の支払いを処理する。具体的には、当該支払い処理ユニット308は、当該贈り物DB314を参照して、当該オブジェクト指定信号に含まれる当該贈り物IDにより特定される当該贈り物の価格ポイントを特定する。その後、当該支払い処理ユニット308は、当該ユーザDB312を更新し、当該オブジェクト指定信号に含まれる当該視聴者IDにより特定される当該視聴者のポイントから、特定された当該価格ポイントを差し引く。
当該CDN382と当該CDN384は、映像データを格納するように構成される。一部の実施態様において、当該CDN382は、配信者からのストリームデータ(または映像データ)を格納するように構成される。例えば、当該配信情報提供ユニット302(または一部の実施態様においては当該中継ユニット304)は、当該ライブストリームの当該ストリームデータが格納(またはアップロード)されているCDN382内の空間を指定するアドレスを提供することにより、要求元の当該ユーザ端末30にライブストリームを提供してもよい。
一部の実施態様において、当該CDN384は、当該映像処理ユニット330により生成された映像データを格納するように構成される。詳細は後述する。当該配信情報提供ユニット302(または一部の実施態様においては当該中継ユニット304)は、当該映像データが格納されている当該CDN384内の空間を指定するアドレスを提供することにより、ユーザ端末30に映像を提供してもよい。当該CDN382及び(または)当該CDN384は、サーバまたはデータベースであっても、あるいはそれらを含んでもよい。
図4は、図3のストリームDB310の例示的データ構造を示す表である。当該ストリームDB310は、現在行われているライブストリームに関する情報を保持する。当該ストリームDB310は、当該ストリームID、当該配信者ID、当該視聴者ID、当該アドレスを相互に関連付けて格納する。当該ストリームIDは、当該ライブストリーミングシステム1により提供されるライブストリーミングプラットフォームにおけるライブストリームを識別するためのIDである。当該配信者IDは、当該ライブストリームを提供する配信者を識別するためのユーザIDである。当該視聴者IDは、当該ライブストリームの視聴者を識別するためのユーザIDである。一部の実施態様による当該ライブストリーミングシステム1により提供されるライブストリーミングプラットフォームにおいて、ユーザがライブストリームを開始すると、当該ユーザは配信者となり、同じユーザが別のユーザによりブロードキャストされるライブストリームを視聴すると、当該ユーザは視聴者にもなる。したがって、配信者と視聴者の区別は固定されておらず、あるとき配信者IDとして登録されたユーザIDが、別のときに視聴者IDとして登録されることもあり得る。当該アドレスは、対応するストリームが格納されている空間を指定する。当該空間は、当該サーバ10外部のサーバまたはCDNに存在してもよい。一部の実施態様において、当該アドレスは、URLアドレスであってもよい。
図5は、図3のユーザDB312の例示的データ構造を示す表である。当該ユーザDB312は、ユーザに関する情報を保持する。当該ユーザDB312は、当該ユーザIDと当該ポイントを、相互に関連付けて格納する。当該ユーザIDは、ユーザを識別する。当該ポイントは、対応する当該ユーザが保持するポイントに相当する。当該ポイントは、当該ライブストリーミングプラットフォーム内で流通する電子的な価値である。一部の実施態様において、配信者がライブストリーム中に視聴者から贈り物を受け取ると、当該配信者のポイントは当該贈り物に対応する価値だけ増加する。当該ポイントは、例えば、当該配信者が当該ライブストリーミングプラットフォームの管理者から受け取る報酬(金銭など)の量を決定するために使用される。一部の実施態様において、当該配信者が視聴者から贈り物を受け取る際に、当該ポイントに代えて、当該贈り物に対応する金額を付与してもよい。
図6は、図3の贈り物DB314の例示的データ構造を示す表である。当該贈り物DB314は、当該ライブストリーミング中に当該視聴者が利用できる贈り物についての情報を保持する。贈り物は、電子データである。贈り物は、ポイントまたは金銭で購入するか、無償で提供することができてもよい。贈り物は、視聴者が配信者に贈ることができる。配信者に贈り物を贈ることは、贈り物を使う、贈り物を送る、贈り物を投げるなどとも呼ばれる。贈り物の中には、購入と同時に使用できるものと、購入後、購入した視聴者が後から任意のタイミングで使用できるものとがある。視聴者が配信者に贈り物を贈ると、当該贈り物に対応する量のポイントが当該配信者に付与される。贈り物が使用されると、その使用によって当該贈り物に関連するエフェクトが発生してもよい。例えば、ライブストリーミング画面に当該贈り物に対応したエフェクト(視覚的効果や聴覚的効果など)が表示される。
当該贈り物DB314は、当該贈り物ID、当該付与ポイント、当該価格ポイント、ベストモーメントタグ、エフェクトリンクを、相互に関連付けて格納する。当該贈り物IDは、贈り物を識別するためのものである。当該付与ポイントは、配信者に贈り物が贈られたときに当該配信者に付与されるポイントの量である。当該価格ポイントは、贈り物の使用(購入)に対して支払われるポイントの量である。視聴者は、ライブストリームを視聴しているときに、所望の贈り物の当該価格ポイントを支払うことで、配信者に当該所望の贈り物を贈ることができる。当該価格ポイントの支払いは、適宜の電子決済手段により行うことができる。例えば、視聴者が管理者に当該価格ポイントを支払うことにより、支払いが行われてもよい。あるいは、銀行振り込みやクレジットカードによる支払いが利用されてもよい。当該管理者は、当該付与ポイントと当該価格ポイントとの関係を任意に設定することができる。例えば、付与ポイント=価格ポイントとして設定してもよい。あるいは、当該付与ポイントに1.2などの所定の係数を乗じたポイントを当該価格ポイントとして設定しても、当該付与ポイントに所定の手数料ポイントを加算したポイントを当該価格ポイントとして設定してもよい。
当該ベストモーメントタグは、贈り物がベストモーメントタイプに属するか否かを示す。一部の実施態様において、「ベストモーメント」の贈り物が視聴者から配信者に送信されると、当該映像処理ユニット330が、当該贈り物のベストモーメントタグを識別し、当該配信者の当該映像と当該贈り物ギフトに対応するエフェクトを含む映像を生成する。詳細は後述する。
当該エフェクトリンクは、贈り物に対応するエフェクト(視覚的効果や聴覚的効果など)のリンク(またはアドレス)を格納する。当該エフェクトリンクによりリンクされたエフェクトデータは、当該エフェクトDB350に格納される。一部の実施態様において、当該エフェクトDB350は、当該サーバ10外部に実装されてもよい。
当該映像処理ユニット330は、配信者の映像(または配信者映像)と、視聴者から当該配信者に送られる贈り物のエフェクトとを含む映像(または映像データ)を生成するように構成される。当該配信者映像は、当該配信者のライブストリーム(からの)映像であってもよい。例えば、当該サーバ10が当該視聴者から当該配信者への贈り物信号(贈り物送信リクエスト)を受信すると、当該映像処理ユニット330は、当該CDN382を参照し、当該配信者映像を取得(または抽出、クリップ、コピー)する。当該映像処理ユニット330は、当該贈り物信号を受信した直後(または実質的に同時)のタイミングから、またはそのタイミングで、当該配信者映像を取得してもよい。当該映像処理ユニット330は、当該贈り物信号の受信から数秒など所定の時間後のタイミングから、またはそのタイミングで、当該配信者映像を取得してもよい。
当該配信者映像を取得した後、当該映像処理ユニット330は、取得した当該配信者映像に当該贈り物信号に対応するエフェクト(または贈り物エフェクト)を重ねることにより、混合映像を生成する。例えば、当該映像処理ユニット330は、当該贈り物信号に含まれる贈り物IDにより、当該エフェクトリンクについて当該贈り物DB314を参照した後、当該エフェクトDB350を参照して当該エフェクトデータ(映像データであってもよい)を取得してもよい。当該映像処理ユニット330は、当該配信者映像を取得したタイミングよりも後のタイミング、例えば数秒後(例えば5秒後)に、当該配信者映像に当該贈り物エフェクトを重畳してもよい。
一部の実施態様において、当該混合映像の生成は、当該贈り物エフェクトが当該配信者の所定の部分に重ならないようにすることを含む。例えば、当該配信者映像(または当該配信者映像のフレーム)における当該配信者の顔部分が、当該映像処理ユニット330(または当該サーバ10内の別の画像識別ユニット)により検出または識別されてもよい。その後、当該映像処理ユニット330は、当該配信者映像に当該贈り物エフェクトを重ねる際に、当該配信者の顔を覆わないようにする。例えば、当該映像処理ユニット330は、当該混合映像において当該配信者の顔が常に見えるように、当該配信者の顔の位置に応じて、当該贈り物エフェクトの位置を移動させたり、当該贈り物エフェクトの形状を調整したりしてもよい。一部の実施態様において、当該映像処理ユニット330は、映像処理用のFFmpegライブラリを含んでもよい。
一部の実施態様において、当該配信者映像に当該贈り物エフェクトを重ねる際に、当該映像処理ユニット330(または当該サーバ10内の他の画像/映像識別ユニット)は、当該配信者の所定の部分に重なる、またはそれを覆う当該贈り物エフェクトの部分を判定または検出し、当該贈り物エフェクトの当該部分の透明度を高める。例えば、当該映像処理ユニット330は、当該贈り物エフェクトのある部分が配信者の顔を覆っていることを検出した場合、当該混合映像において当該配信者の顔を視認できるように、当該贈り物エフェクトの当該部分を半透明にしてもよい。
当該映像処理ユニット330は、生成された当該混合映像を、当該配信者映像を取得した空間(またはアドレス)とは異なる空間(またはアドレス)に格納してもよい。例えば、当該混合映像は、当該CDN384内の空間またはアドレスに格納されてもよい。したがって、当該混合映像の生成が、当該CDN382内の空間への当該配信者の当該映像データ格納またはアップロードに影響したり、干渉したりすることはない。
当該混合動画の生成及び保存後、当該サーバ10(または当該配信情報提供ユニット302など)は、当該視聴者(例えば、当該贈り物を送った当該視聴者)及び(または)当該配信者に、当該混合動画が格納されている当該空間(または当該アドレス)を通知してもよい。したがって、当該視聴者または当該配信者は、それぞれのユーザ端末で当該混合映像にアクセスし、表示することができる。
図14は、図3の混合映像DB352の例示的データ構造を示す表である。当該混合映像DB352は、混合映像に関する情報を保持する。当該混合映像DB352は、混合映像ID、当該配信者ID、贈り物送信視聴者ID、共有ユーザID、混合映像ファイルリンク、有効期限を、相互に関連付けて格納する。
当該混合映像IDは、混合映像を識別するためのものである。当該配信者IDは、当該混合映像に対応する当該贈り物(またはベストモーメントギフト)を受け取る当該配信者のユーザIDである。当該贈り物送信視聴者IDは、当該混合映像に対応する当該贈り物(またはベストモーメントギフト)を送る当該視聴者のユーザIDである。当該共有ユーザIDは、当該混合映像を共有する当該ユーザ(視聴者など)の当該ユーザIDを保持する。例えば、当該共有ユーザIDは、当該混合映像に対応する当該贈り物を受け取る当該配信者のフォロワーのユーザIDを保持してもよい。当該混合映像ファイルリンクは、当該CDN384内の空間など、当該混合映像が格納される空間へ誘導するリンクを保持する。一部の実施態様において、各混合映像には有効期限があってもよい。当該有効期限は、当該CDN384上または当該配信者に関連するデータベース上で、当該混合映像が期限切れとなる日付を示してもよい。
図7は、本発明の一部の実施態様に基づく混合映像の生成例を示す概略図である。
当該配信者のストリームデータ(またはライブストリームデータ)は、t0、t1、t2、t3の各タイミングを通じて継続される。
タイミングt0では、視聴者から当該配信者に贈り物を送るための贈り物信号が取得される。当該映像処理ユニット330は、当該CDN382を参照し、当該配信者映像を取得(または抽出、クリップ、コピー)する。配信者映像を取得する。当該映像処理ユニット330は、当該混合映像の生成を開始する。タイミングt0~t1の間、当該混合映像は当該配信者映像と同じコンテンツを含む。
タイミングt1において、当該映像処理ユニット330は、当該エフェクトDB350から取得した当該贈り物エフェクトを当該配信者映像に重畳(または挿入)し、当該混合映像の生成を開始する。
タイミングt2において、当該贈り物エフェクトが終了する。当該贈り物エフェクトの時間の長さはt2-t1である。当該時間t1~t2の間、当該混合映像は当該配信者映像と当該贈り物エフェクトを含む。
タイミングt3において、当該配信者映像が終了する。当該混合映像が終了する。タイミングt2~t3の間、当該混合映像は当該配信者映像と同じコンテンツを含む。
一部の実施態様において、当該配信者映像と当該混合映像は同じ時間の長さを有する。一部の実施態様において、当該配信者映像はt0~t3の間、当該配信者のストリームデータのコンテンツを含む。一部の実施態様において、タイミングt1はタイミングt0よりも数秒後、例えば5秒後である。一部の実施態様において、タイミングt3はタイミングt2と同じであってもよく、これは当該贈り物エフェクトの終了と同時に当該混合映像が終了することを意味する。一部の実施態様において、当該混合映像は、ベストモーメントビデオまたはベストモーメントアーカイブビデオと呼ばれてもよい。一部の実施態様において、当該映像処理ユニット330は、ベストモーメント生成器と呼ばれてもよい。
図8に、本発明の一部の実施態様に基づく方法を示す例示的なフローチャートを示す。
工程S800において、クライアントが当該サーバ10に贈り物信号を送信する。当該クライアントは、視聴者のユーザ端末であってもよい。当該贈り物信号は、当該視聴者から配信者に送られる贈り物を示す。当該贈り物信号は、当該視聴者が当該配信者のライブストリームを視聴している間に送信されてもよい。
工程S802において、当該サーバ10は、当該贈り物信号に含まれる当該贈り物(またはギフトID)が、ベストモーメントギフトに該当するか否か(すなわち、そのベストモーメントタグが「はい」となっているか否か)を判断する。「はい」の場合、フローは工程S804に進む。「いいえ」の場合、フローは工程S814に進む。この判断のプロセスは、例えば、当該配信情報提供ユニット302または当該贈り物処理ユニット306により実行されてもよい。
工程S804において、当該サーバ10(または当該映像処理ユニット330)は、当該配信者映像と当該贈り物エフェクトを取得する。当該配信者映像は、当該CDN382から取得されてもよい。当該贈り物エフェクトは、当該エフェクトDB350から取得されてもよい。
工程S806において、当該サーバ10(または当該映像処理ユニット330)は、当該配信者映像と当該贈り物エフェクトを含む当該混合映像または当該ベストモーメントビデオを生成する。当該サーバ10は、当該混合映像を当該CDN384に格納する。その後当該サーバ10は、当該クライアントに応答信号を送信する。当該応答信号は、当該ベストモーメントギフトの贈り物IDと、当該混合映像が格納されている当該CDN384内の空間アドレスとを含んでもよい。一部の実施態様において、当該応答信号は、パブリッシュ/サブスクライブ(「Pub/Sub」)サービスなどの通知サービスに送信されてから、当該クライアントに送信されてもよい。
工程S808において、当該クライアントは、当該応答信号に含まれる当該贈り物IDがベストモーメントギフトに該当するか否かを判断する。「はい」の場合、フローは工程S810に進む。「いいえ」の場合、フローは工程S814に進む。一部の実施態様において、当該クライアントは、当該通知サービスからの信号を処理する処理ユニット(Pub/Subハンドラなど)を含んでもよい。
工程S810において、当該クライアントは、ベストモーメントギフトに該当する贈り物IDを含む当該応答信号を受信すると、カウントダウンメッセージを表示する(例えば、当該視聴者のユーザ端末のディスプレイに表示する)。一部の実施態様において、当該応答信号に当該ベストモーメントギフト情報を含めることにより、当該サーバ10は当該クライアントが当該贈り物エフェクトの発生を示す当該カウントダウンメッセージを表示することを可能にする。
工程S814において当該クライアントは、当該配信者の当該ライブストリームにおいて当該贈り物エフェクトを表示する。当該贈り物エフェクトは、当該配信者の当該ライブストリーム映像上に重ねられてもよい。一部の実施態様において、当該贈り物エフェクトは、当該ユーザ端末のディスプレイの所定位置または固定位置に表示される。当該贈り物エフェクトが当該配信者の顔に重なったり、顔を隠したりして、当該配信者の反応がよく見えない場合がある。
工程S812において、当該クライアントは当該混合映像を表示する。具体的に、当該クライアントは当該応答信号に含まれる当該アドレスで当該CDN384内の当該混合映像にアクセスする。当該混合映像は、当該配信者の当該ライブストリーム内に表示されてもよい。一部の実施態様において、当該混合映像は、当該配信者の当該ライブストリームとは別に表示されてもよい。例えば、当該混合映像は、当該配信者の当該ライブストリームの後に表示されてもよい。
工程S816において、当該クライアントは、当該配信者に当該混合映像を共有するか否かを当該視聴者が選択できるようにする。例えば、当該クライアントは、当該視聴者が選択するための選択オブジェクトを表示してもよい。選択が「はい」である場合、フローは工程S818に進む。選択が「いいえ」である場合、フローは工程S820に進む。
工程S818において、当該クライアントは、当該混合映像を配信者データベースに更新または格納する。当該クライアントは、当該サーバ10に要求信号を送信してもよく、当該サーバ10はそれに応じて、当該混合映像を当該配信者データベースに格納する。当該配信者データベースは、当該配信者に関連付けられたデータベースであり、当該配信者がアクセスすることができる。例えば、当該配信者データベースには、当該配信者のクリップページ、投稿ページ、プライベートメッセージページのデータが格納される。当該配信者は、当該クリップページ、当該投稿ページ、または当該プライベートメッセージページにアクセスして、当該混合映像を含むまたは当該混合映像にリンクされたクリップ(例えば、ビデオクリップ)、投稿、プライベートメッセージを見ることができる。
工程S820において、フローは終了する。
一部の実施態様において、当該カウントダウンメカニズムは、当該贈り物エフェクトが表示されたときに当該視聴者が当該配信者の反応を受け取るための準備をすることを可能にしてもよい。一部の実施態様において、当該混合映像は、当該混合映像において当該贈り物エフェクトが当該配信者の顔を覆っていない、または顔に重なっていないため、当該視聴者が当該配信者の反応を明確に受け取ることを可能にする。一部の実施態様において、当該共有メカニズムは、当該視聴者と当該配信者間の交流を向上させることができる。例えば、当該共有メカニズムにより、当該配信者は当該クリップページ、投稿ページ、プライベートメッセージページの当該ベストモーメントビデオを保存またはアーカイブすることができる。一部の実施態様において、当該共有メカニズムは、当該配信者の当該投稿ページでお礼投稿の自動生成をトリガーすることができる。当該お礼投稿は、当該贈り物送信視聴者の贈り物に対する当該配信者の感謝の気持ちを表すものであり、当該贈り物送信視聴者及び他の視聴者が見ることができる。当該お礼投稿は、当該配信者の評判を高め、他の視聴者が当該配信者とより交流を行うことを促進することができる。投稿の生成は、例えば、当該サーバ10内の投稿生成ユニットにより実行されてもよい。
一部の実施態様において、一部の工程を省略したり、入れ替えたりしてもよい。例えば、当該視聴者が送信したいベストモーメントギフトを選択した後、当該ユーザ端末はそれがベストモーメントギフトであることを検出し、当該カウントダウンメッセージを開始してもよい。例えば、工程S800は、工程S802、S804、S806と並行して、直接工程S808(または工程S810)に進んでもよい。
図15に、本発明の一部の実施態様に基づく方法を示す例示的なフローチャートを示す。
図8のフローとは異なり、工程S1508において、それがベストモーメントギフトあると判断する(工程S800で当該クライアント自身が開始したものであり、そのため、その贈り物信号が否かを当該クライアントによるベストモーメントギフトであるか否かを再び判断する必要がない)と、フローは工程S810に進み、当該カウントダウンメッセージが表示される。工程S802において、当該贈り物信号がベストモーメントギフトに関連していないと当該サーバが判断すると、フローは工程S1514と工程S820に進む。つまり、当該クライアントが当該贈り物エフェクトを当該ライブストリーム内で表示して、フローが終了する。
図9は、本発明の一部の実施態様に基づくカウントダウンメッセージの例を示す概略図である。図9は、図8に示す工程S810の例を表していてもよい。S1は、当該視聴者または当該配信者の当該ユーザ端末の画面である。当該カウントダウンメッセージCDは、5から0にカウントダウンしてもよい。一部の実施態様において、当該カウントダウンメッセージは、図7のタイミングt0の直後に開始してもよい。当該カウントダウンは、タイミングt0からタイミングt1まで継続してもよい。当該カウントダウンが終了したとき、当該贈り物エフェクトが開始する。
一部の実施態様において、当該カウントダウンメッセージは、当該配信者(当該ベストモーメントギフトを受け取った人)や当該配信者のライブストリーミングの他の視聴者に表示され、当該配信者及び(または)他の視聴者が当該ベストモーメントギフトに対して反応する準備ができるようにする。当該カウントダウンメッセージは、当該配信者、当該贈り物送信視聴者、その他の視聴者に同期して表示されてもよい。当該同期は、当該サーバ10の当該配信情報提供ユニット302、または当該サーバ10内の他の同期ユニットが実行してもよい。一部の実施態様において、当該配信情報提供ユニット302は、当該カウントダウンメッセージに関する通知要求を、Pub/Subサービスなどの通知サービスに転送してもよい。そして当該通知サービスは、当該配信者のユーザ端末、当該贈り物送信視聴者のユーザ端末、および他の視聴者のユーザ端末に、当該カウントダウンメッセージの表示を通知する際の同期処理を管理する。一部の実施態様において、同期状態とは、当該配信者のユーザ端末、当該贈り物送信視聴者のユーザ端末、および他の視聴者のユーザ端末に当該カウントダウンメッセージを表示する際の時間差が、1秒、3秒、または5秒未満であることを意味する。
一部の実施態様において、当該混合映像メカニズム/機能により、当該配信者、当該贈り物送信視聴者及び/またはその他の視聴者は、互いのユーザ端末における当該贈り物エフェクトまたは当該カウントダウンメッセージの表示に時間差があっても、当該贈り物送信中の当該配信者の明確な反応を再確認する、及び(または)得ることができるよう確約される。
図10は、本発明の一部の実施態様に基づく贈り物エフェクトの例を示す概略図である。図10は、図8に示す工程S814の例を表していてもよい。図10に示すように、当該配信者のライブストリーム中に表示される当該贈り物エフェクトGFが、当該配信者の顔を覆ったり、当該配信者の顔に重なったりすることがある。当該視聴者は、当該贈り物エフェクトが表示されたときの当該配信者の反応がわかりにくい場合がある。
図11(a)と図11(b)は、本発明の一部の実施態様に基づく混合映像の例を示す概略図である。図11(a)に示すように、当該贈り物エフェクトGFは、当該配信者の顔を覆わないように移動される。当該贈り物エフェクトの一部を収縮、回転、または変形させることができる。図11(b)に示すように、当該贈り物エフェクトGFのうち、当該配信者の顔に重なる部分が透明化され、当該配信者の顔を覆わないようにされる。上述の処理は、当該映像処理ユニット330によって実行されてもよい。
図12は、本発明の一部の実施態様に基づく混合映像の表示例を示す概略図である。図12は、当該視聴者のユーザ端末の画面であってもよい。図12は、図8に示す工程S812とS816の例を表していてもよい。当該混合映像MVは、当該配信者の当該ライブストリーム内に表示される。当該選択オブジェクトO1は、当該視聴者が当該混合映像を当該配信者に共有するか否かを選択することを可能にする。当該混合映像は、図7におけるタイミングt3の前、タイミングt3で、またはタイミングt3の後に表示されてもよい。当該混合映像は、図7におけるタイミングt2の前、タイミングt2で、またはタイミングt2の後に表示されてもよい。なお、当該視聴者は、t0~t3の全時間を通して、当該配信者の当該ライブストリームを視聴し続けることができる。
図16は、本発明の一部の実施態様に基づく混合映像の表示例を示す概略図である。図16は、当該配信者のユーザ端末の画面であってもよい。当該混合映像MVは、当該配信者の当該ライブストリーム内に表示される。当該選択オブジェクトO2は、当該配信者が当該混合映像を自身のフォロワー(または一部の実施態様においては他の視聴者)に共有するか否かを選択することを可能にする。当該混合映像は、図7におけるタイミングt3の前、タイミングt3で、またはタイミングt3の後に表示されてもよい。当該混合映像は、図7におけるタイミングt2の前、タイミングt2で、またはタイミングt2の後に表示されてもよい。一部の実施態様において、当該共有は、当該フォロワーへの(当該混合映像に関する)通知の送信を実行させてもよい。これにより、当該フォロワーは当該ライブストリームに参加したり、同様の贈り物を送ったりすることが奨励される場合がある。
図17は、本発明の一部の実施態様に基づくユーザインターフェイス例の概略図である。図17は、当該贈り物送信視聴者のユーザ端末の画面であってもよい。本実施態様において、当該ベストモーメントギフトが送信されると、当該配信者、当該贈り物送信視聴者及び他の視聴者が当該贈り物エフェクトを見ることができるように、当該贈り物エフェクトを起動する(または、一部の実施態様においては、当該カウントダウンメッセージを表示する)タイミングを決定するための選択オブジェクトO3が当該贈り物送信視聴者に対して表示される。このメカニズムにより、当該配信者が他の視聴者との交流に気を取られているタイミングで当該贈り物エフェクトが起動されることを防止することができる。
図18は、本発明の一部の実施態様に基づくユーザインターフェイス例の概略図である。図18は、当該配信者のユーザ端末の画面であってもよい。本実施態様において、当該ベストモーメントギフトが受信されると、当該配信者、当該贈り物送信視聴者及び他の視聴者が当該贈り物エフェクトを見ることができるように、当該贈り物エフェクトを起動する(または、一部の実施態様においては、当該カウントダウンメッセージを表示する)タイミングを決定するための選択オブジェクトO4が当該配信者に対して表示される。このメカニズムにより、当該配信者が当該ベストモーメントギフトに視聴者の注目を集めるベストなタイミングを選択することができる。
図13を参照しながら、当該情報処理装置のハードウェア構成について説明する。図13は、本発明の一部の実施態様に基づく情報処理装置のハードウェア構成例を示すブロック図である。図に示された情報処理装置900は、例えば、一部の実施態様における、当該サーバ10及び(または)当該ユーザ端末20、30を実現することができる。
当該情報処理装置900は、CPU901と、ROM(リードオンリーメモリ)903と、RAM(ランダムアクセスメモリ)905を含む。また、当該情報処理装置900は、ホストバス907、ブリッジ909、外部バス911、インターフェイス913、入力装置915、出力装置917、ストレージ装置919、ドライブ921、接続ポート925、通信装置929を含んでもよい。さらに、当該情報処理装置900は、カメラ(図示せず)などの撮像装置を含む。また、当該情報処理装置900は、当該CPU901に加えて、あるいは当該CPU901の代わりに、DSP(デジタルシグナルプロセッサ)やASIC(特定用途向け集積回路)を含んでもよい。
当該CPU901は、演算処理装置および制御装置として機能し、当該ROM903、当該RAM905、当該ストレージ装置919、または当該リムーバブル記録媒体923に格納された各種プログラムに従って、当該情報処理装置900のすべてまたは一部の動作を制御する。例えば、当該CPU901は、一部の実施態様における当該サーバ10及び当該ユーザ端末20、30に含まれる各機能ユニットの動作全般を制御する。当該ROM903は、当該CPU901が使用するプログラムや演算パラメータなどを格納する。当該RAM905は、当該CPU901の実行時に使用されるプログラムや、実行時に適宜変化するパラメータなどを格納する主記憶装置として機能する。当該CPU901、ROM903、RAM905は、ホストバス907によって相互接続され、当該ホストバス907は、CPUバスなどの内部バスであってもよい。さらに、当該ホストバス907は、ブリッジ909を介してPCI(ペリフェラルコンポーネントインターコネクト/インターフェイス)バスなどの外部バス911に接続される。
当該入力装置915は、マウス、キーボード、タッチパネル、ボタン、スイッチ、レバーなどのユーザが操作する装置、あるいはマイクに代表される音センサ、加速度センサ、傾斜センサ、赤外線センサ、深度センサ、温度センサ、湿度センサなど物理量を電気信号に変換する装置であってもよい。当該入力装置915は、例えば、赤外線等の電波を利用したリモコン装置や、当該情報処理装置900の操作に対応した携帯電話等の外部接続装置927であってもよい。当該入力装置915は、当該ユーザが入力した情報または検出された物理量に基づいて入力信号を生成し、当該CPU901に出力する入力制御回路を含む。当該ユーザは、当該入力装置915を操作することにより、当該情報処理装置900に各種データを入力し、動作を指示する。
当該出力装置917は、取得した情報を視覚的または聴覚的に当該ユーザに通知することができる装置である。当該出力装置917は、例えば、LCD、PDP、OLED等のディスプレイ、スピーカーやヘッドフォン等の音声出力装置、プリンタなどであってもよい。当該出力装置917は、当該情報処理装置900による処理結果を、テキスト、画像などの映像、または音声などのオーディオとして出力する。
当該ストレージ装置919は、データストレージ用装置であり、当該情報処理装置900のストレージユニットの一例として構成される。当該ストレージ装置919は、例えば、ハードディスクドライブ(HDD)などの磁気記憶装置、半導体記憶装置、光記憶装置、または光磁気記憶装置である。このストレージ装置919は、当該CPU901が実行するプログラム、各種データ、外部から取得した各種データなどを格納する。
当該ドライブ921は、磁気ディスク、光ディスク、光磁気ディスク、半導体メモリなどのリムーバブル記録媒体923のリーダー/ライターであり、当該情報処理装置900に内蔵または外付けされる。当該ドライブ921は、装着されたリムーバブル記録媒体923に記録された情報を読み出し、当該RAM905にそれを出力する。さらに、当該ドライブ921は、装着された当該リムーバブル記録媒体923に記録を書き込む。
当該接続ポート925は、当該情報処理装置900に機器を直接接続するためのポートである。当該接続ポート925は、例えば、USB(ユニバーサルシリアルバス)ポート、IEEE1394ポート、またはSCSI(小型計算機システムインターフェイス)ポートなどであってもよい。さらに、当該接続ポート925は、RS-232Cポート、光オーディオ端子、HDMI(登録商標)(高精細度マルチメディアインターフェイス)ポートなどであってもよい。当該接続ポート925に当該外部接続装置927を接続することにより、当該情報処理装置900と当該外部接続装置927との間で様々なデータのやり取りを行うことができる。
当該通信装置929は、例えば、当該ネットワークNWに接続するための通信装置で形成された通信インターフェイスである。当該通信装置929は、例えば、有線または無線のローカルエリアネットワーク(LAN)、Bluetooth(商標)、または、無線USB(WUSB)用の通信カードであってもよい。さらに、当該通信装置929は、光通信用のルータ、ADSL(非対称デジタル加入者線)用のルータ、または、各種通信用のモデムなどであってもよい。当該通信装置929は、TCP/IPなどの所定のプロトコルを用いて、インターネット上や他の通信装置との間で信号等の送受信を行う。当該通信装置929に接続される当該通信ネットワークNWは、有線または無線で接続されるネットワークであり、例えば、インターネット、家庭内LAN、赤外線通信、電波通信、衛星通信などである。当該通信装置929は、通信装置としての機能を実現する。
当該撮像装置(図示せず)は、CCD(電荷結合デバイス)やCMOS(相補型金属酸化膜半導体)などの撮像素子と、当該撮像素子上の被写体像の結像を制御するためのレンズなど各種部材を用いて現実空間の画像を撮像し、撮像画像を生成する装置である。当該撮像装置は、静止画を撮像しても、動画を撮像してもよい。
以上、本実施態様に係る当該ライブストリーミングシステム1の構成及び動作について説明した。本実施態様は単なる一例であり、各構成要素や各処理の組み合わせについてさまざまな変更が可能であり、それらの変更も本発明の範囲内であることは当業者には理解されるところである。
本発明は、ベストモーメントタイプの贈り物で贈り物をする行動を動機付けることができる。当該ベストモーメントギフトは、当該ライブストリームにリアルタイムで当該贈り物エフェクトを表示することができるだけでなく、ベストモーメントビデオの生成も可能にする。当該ベストモーメントビデオは、当該ベストモーメントギフトの当該贈り物エフェクト中の当該配信者の反応(または当該配信者と当該視聴者との間の交流)を向上して記録することを可能にする。当該ベストモーメントビデオにより、その後の当該配信者と当該贈り物送信視聴者との間の交流(または当該配信者と他の視聴者との間の交流)をさらに向上させることができる。
上述の実施態様においては、ライブストリーム中に贈り物のエフェクトがある方法で表示され、同じ贈り物のエフェクトが対応する混合映像に別の異なる方法で表示される。これを達成するために、一部の実施態様において、当該贈り物DBは、贈り物ID、付与ポイント、価格ポイント、ベストモーメントタグ、第1エフェクトリンク、第2エフェクトリンクを関連付けて格納してもよい。当該ライブストリーム中に表示されるエフェクトを探すために当該贈り物DBが参照された場合、当該第1エフェクトリンクが提供される。当該混合映像に表示されるエフェクトを探すために当該贈り物DBが参照された場合、当該第2のエフェクトリンクが提供される。当該第1エフェクトリンクで提供される当該エフェクトと、当該第2エフェクトリンクで提供される当該エフェクトは、いずれも同じ贈り物を対象とするが、前者は後者とは外観及び(または)持続時間が異なる可能性がある。
本発明で説明した処理及び手順は、明示的に説明したものに加えて、ソフトウェア、ハードウェア、またはそれらの任意の組み合わせにより実現することができる。例えば、本明細書で説明した処理および手順は、その処理および手順に対応するロジックを集積回路、揮発性メモリ、不揮発性メモリ、非一時的なコンピュータ可読媒体、磁気ディスクなどの媒体に実装することにより実現することができる。さらに、本明細書に記載された処理および手順は、その処理および手順に対応するコンピュータプログラムとして実現することができ、各種のコンピュータにより実行することができる。
さらに、上記実施態様で説明したシステムまたは方法は、固体記憶装置、光ディスク記憶装置、磁気ディスク記憶装置などの非一時的なコンピュータ可読媒体に格納されたプログラムに統合されてもよい。あるいは、プログラムは、インターネットを介してサーバからダウンロードされ、プロセッサにより実行されるものとしてもよい。
以上、本発明の技術的内容及び特徴を説明したが、本発明の属する技術分野において通常の知識を有する者であれば、本発明の教示及び開示から逸脱することなく、なお多くの変形及び修正を行うことができる。したがって、本発明の範囲は、既に開示された実施態様に限定されず、本発明から逸脱しない別の変形や修正を含む、特許請求の範囲に含まれる範囲である。
1 通信システム
10 サーバ
20 ユーザ端末
30、30a、30b ユーザ端末
LV 配信者
AU1、AU2 視聴者
VD、VD1、VD2 映像
NW ネットワーク
30 ユーザ端末
100 配信ユニット
102 撮像コントロールユニット
104 オーディオコントロールユニット
106 映像送信ユニット
108 配信者側UIコントロールユニット
200 視聴ユニット
202 視聴者側UIコントロールユニット
204 重ね合わせ情報生成ユニット
206 入力情報送信ユニット
302 配信情報提供ユニット
304 中継ユニット
306 贈り物処理ユニット
308 支払い処理ユニット
310 ストリームDB
312 ユーザDB
314 贈り物DB
330 映像処理ユニット
350 エフェクトDB
352 混合映像DB
382、384 CDN
CD カウントダウンメッセージ
S1 画面
GF 贈り物エフェクト
MV 混合映像
O1、O2、O3、O4 選択オブジェクト
S800、S802、S804、S806、S808、S810、S812、S814、S816、S818、S820 工程
S1508、S1514 工程
900 情報処理装置
901 CPU
903 ROM
905 RAM
907 ホストバス
909 ブリッジ
911 外部バス
913 インターフェイス
915 入力装置
917 出力装置
919 ストレージ装置
921 ドライブ
923 リムーバブル記録媒体
925 接続ポート
927 外部接続装置
929 通信装置

Claims (10)

  1. サーバによって実行される映像処理方法であって、
    ユーザ端末から贈り物信号を受信する工程と、
    前記贈り物信号の受信に応答して、第1のタイミングから配信者の第1の映像を取得する工程と、
    前記贈り物信号に対応するエフェクトを第2のタイミングで前記第1の映像に重ねることにより、第2の映像を生成する工程と、を含み、
    前記第2のタイミングが前記第1のタイミングより後であり、
    前記映像処理方法はさらに、前記贈り物信号の受信に応答して、前記エフェクトの発生を示すカウントダウンメッセージを前記ユーザ端末が表示することを可能にする工程を含む、ことを特徴とする、映像処理方法。
  2. 前記第2の映像を生成する工程が、前記配信者の所定部分に前記エフェクトが重なることを防止することを含む、ことを特徴とする、請求項1に記載の映像処理方法。
  3. 前記第2の映像の長さが、前記第1の映像の長さと同じである、ことを特徴とする、請求項1に記載の映像処理方法。
  4. さらに、
    前記第1の映像が取得された第1のアドレスと異なる第2のアドレスに前記第2の映像を格納する工程と、
    前記第2のアドレスを前記ユーザ端末に通知する工程と、
    を含むことを特徴とする、請求項1に記載の映像処理方法。
  5. さらに、
    前記配信者の所定部分と重なる前記エフェクトの部分を判断する工程と、
    前記エフェクトの前記部分の透明度を上げる工程と、
    を含むことを特徴とする、請求項1に記載の映像処理方法。
  6. さらに、前記第2の映像を前記配信者のライブストリーム内で前記ユーザ端末上に表示する工程を含む、ことを特徴とする、請求項1に記載の映像処理方法。
  7. 映像処理システムであって、1以上のプロセッサを備え、前記1以上のプロセッサが機械可読命令を実行して、
    ユーザ端末から贈り物信号を受信する工程と、
    前記贈り物信号の受信に応答して、第1のタイミングから配信者の第1の映像を取得する工程と、
    前記贈り物信号に対応するエフェクトを第2のタイミングで前記第1の映像に重ねることにより、第2の映像を生成する工程と、を実行し、
    前記第2のタイミングが前記第1のタイミングより後であり、
    前記1以上のプロセッサが機械可読命令を実行してさらに、前記第2の映像を前記配信者と関連付けてデータベースに格納する工程を実行し、
    そのうち、前記データベースが、前記配信者のクリップページ、投稿ページ、またはプライベートメッセージページのデータを格納する、ことを特徴とする、映像処理システム
  8. サーバによって実行される映像処理方法であって、
    ユーザ端末から贈り物信号を受信する工程と、
    前記贈り物信号の受信に応答して、第1のタイミングから配信者の第1の映像を取得する工程と、
    前記贈り物信号に対応するエフェクトを第2のタイミングで前記第1の映像に重ねることにより、第2の映像を生成する工程と、を含み、
    前記第2のタイミングが前記第1のタイミングより後であり、
    前記映像処理方法はさらに、前記第2の映像を前記配信者と関連付けてデータベースに格納する工程を含み、
    そのうち、前記データベースが、前記配信者のクリップページ、投稿ページ、またはプライベートメッセージページのデータを格納する、ことを特徴とする、映像処理方法。
  9. 映像処理システムであって、1以上のプロセッサを備え、前記1以上のプロセッサが機械可読命令を実行して、
    ユーザ端末から贈り物信号を受信する工程と、
    前記贈り物信号の受信に応答して、第1のタイミングから配信者の第1の映像を取得する工程と、
    前記贈り物信号に対応するエフェクトを第2のタイミングで前記第1の映像に重ねることにより、第2の映像を生成する工程と、を実行し、
    前記第2のタイミングが前記第1のタイミングより後であり、
    前記1以上のプロセッサが機械可読命令を実行してさらに、前記贈り物信号の受信に応答して、前記エフェクトの発生を示すカウントダウンメッセージを前記ユーザ端末が表示することを可能にする工程を実行する、ことを特徴とする、映像処理システム。
  10. 映像処理のためのプログラムを含む非一時的なコンピュータ可読媒体であって、前記プログラムが、1以上のコンピュータに、
    ユーザ端末から贈り物信号を受信する工程と、
    前記贈り物信号の受信に応答して、第1のタイミングから配信者の第1の映像を取得する工程と、
    前記贈り物信号に対応するエフェクトを第2のタイミングで前記第1の映像に重ねることにより、第2の映像を生成する工程と、を実行させ、
    前記第2のタイミングが前記第1のタイミングより後であり、
    前記プログラムが前記1以上のコンピュータにさらに、前記贈り物信号の受信に応答して、前記エフェクトの発生を示すカウントダウンメッセージを前記ユーザ端末が表示することを可能にする工程を実行させる、ことを特徴とする、非一時的なコンピュータ可読媒体。
JP2023011798A 2023-01-30 2023-01-30 映像処理のためのシステム、方法、及びコンピュータ可読媒体 Active JP7345812B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023011798A JP7345812B1 (ja) 2023-01-30 2023-01-30 映像処理のためのシステム、方法、及びコンピュータ可読媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2023011798A JP7345812B1 (ja) 2023-01-30 2023-01-30 映像処理のためのシステム、方法、及びコンピュータ可読媒体

Publications (1)

Publication Number Publication Date
JP7345812B1 true JP7345812B1 (ja) 2023-09-19

Family

ID=88021782

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023011798A Active JP7345812B1 (ja) 2023-01-30 2023-01-30 映像処理のためのシステム、方法、及びコンピュータ可読媒体

Country Status (1)

Country Link
JP (1) JP7345812B1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7442112B1 (ja) 2023-09-21 2024-03-04 17Live株式会社 ストリーム配信のためのシステム、方法及び非一時的なコンピュータ可読媒体

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020017870A (ja) * 2018-07-25 2020-01-30 株式会社ミクシィ 情報処理装置、動画配信方法及び動画配信プログラム
JP2020107264A (ja) * 2018-12-28 2020-07-09 グリー株式会社 配信ユーザの動きに基づいて生成されるキャラクタオブジェクトのアニメーションを含む動画をライブ配信する動画配信システム、動画配信方法及び動画配信プログラム
JP2022102152A (ja) * 2020-12-25 2022-07-07 株式会社コナミデジタルエンタテインメント 配信システム、配信システムのコンピュータプログラム及び制御方法
JP7129666B1 (ja) * 2022-04-27 2022-09-02 17Live株式会社 コンピュータプログラム及び端末

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020017870A (ja) * 2018-07-25 2020-01-30 株式会社ミクシィ 情報処理装置、動画配信方法及び動画配信プログラム
JP2020107264A (ja) * 2018-12-28 2020-07-09 グリー株式会社 配信ユーザの動きに基づいて生成されるキャラクタオブジェクトのアニメーションを含む動画をライブ配信する動画配信システム、動画配信方法及び動画配信プログラム
JP2022102152A (ja) * 2020-12-25 2022-07-07 株式会社コナミデジタルエンタテインメント 配信システム、配信システムのコンピュータプログラム及び制御方法
JP7129666B1 (ja) * 2022-04-27 2022-09-02 17Live株式会社 コンピュータプログラム及び端末

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7442112B1 (ja) 2023-09-21 2024-03-04 17Live株式会社 ストリーム配信のためのシステム、方法及び非一時的なコンピュータ可読媒体

Similar Documents

Publication Publication Date Title
JP7071718B1 (ja) サーバ及び方法
JP7313643B1 (ja) 配信時間提案のためのシステム、方法およびコンピュータ可読媒体
JP7290260B1 (ja) サーバ、端末及びコンピュータプログラム
US20230353841A1 (en) Terminal and method
JP7345812B1 (ja) 映像処理のためのシステム、方法、及びコンピュータ可読媒体
TW202341038A (zh) 電腦程式、終端及伺服器
JP7371844B1 (ja) レコメンデーションのためのシステム、方法、及びコンピュータ可読媒体
JP7161715B1 (ja) ストリーミングデータを取り扱う方法及びサーバ
JP7246055B1 (ja) サーバ及び方法
JP2023090606A (ja) コンピュータプログラム、端末及び方法
JP7442112B1 (ja) ストリーム配信のためのシステム、方法及び非一時的なコンピュータ可読媒体
JP7423020B1 (ja) プレイリスト生成のためのシステム及び方法
JP7376036B1 (ja) 配信者分析のためのシステム及び方法
JP7423024B1 (ja) データアクセスのためのシステム及び方法
JP7228174B1 (ja) アプリケーションプログラム及び端末
JP7469771B1 (ja) サーバおよび方法
JP7239123B1 (ja) コンピュータプログラム及び端末
JP7345814B1 (ja) サーバ、コンピュータプログラム及び端末
JP7385205B1 (ja) ストリーム分析のためのシステム及び方法
JP7302801B1 (ja) ストリーミングデータを取り扱う方法、システム及びコンピュータプログラム
US20230388604A1 (en) Terminal and server
JP7469766B1 (ja) ストリーム配信のためのシステム及び方法
JP7094510B1 (ja) コンピュータプログラム及びサーバ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230404

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20230404

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230627

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230714

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230822

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230829

R150 Certificate of patent or registration of utility model

Ref document number: 7345812

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531