JP2020107271A - Information processing device, information processing system, control method, and program - Google Patents

Information processing device, information processing system, control method, and program Download PDF

Info

Publication number
JP2020107271A
JP2020107271A JP2018248348A JP2018248348A JP2020107271A JP 2020107271 A JP2020107271 A JP 2020107271A JP 2018248348 A JP2018248348 A JP 2018248348A JP 2018248348 A JP2018248348 A JP 2018248348A JP 2020107271 A JP2020107271 A JP 2020107271A
Authority
JP
Japan
Prior art keywords
data
streaming
information processing
room
communication
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018248348A
Other languages
Japanese (ja)
Other versions
JP7319513B2 (en
Inventor
良平 土谷
Ryohei Tsuchiya
良平 土谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Marketing Japan Inc
Canon IT Solutions Inc
Original Assignee
Canon Marketing Japan Inc
Canon IT Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Marketing Japan Inc, Canon IT Solutions Inc filed Critical Canon Marketing Japan Inc
Priority to JP2018248348A priority Critical patent/JP7319513B2/en
Publication of JP2020107271A publication Critical patent/JP2020107271A/en
Application granted granted Critical
Publication of JP7319513B2 publication Critical patent/JP7319513B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

To provide a mechanism that enables effective communication among users.SOLUTION: When a client terminal 100 sends a streaming delivery start command to an entered room, a data generation device 105 writes video data and voice data generated by communication between the client terminal 100 and a client terminal 101 into a file, converts the written file into streaming data, and uploads the streaming data to a data management system 104. Then, a client terminal 107 with just reference authority acquires and plays the streaming data uploaded to the data management system 104.SELECTED DRAWING: Figure 8

Description

本発明は、データのやり取りにより行うコミュニケーションの方法に関する。 The present invention relates to a communication method performed by exchanging data.

動画(映像、音声)を双方向に送受信してコミュニケーションをとることができるシステム(以後、本システム)がある(例えば、特許文献1参照)。 2. Description of the Related Art There is a system (hereinafter referred to as the present system) capable of bidirectionally transmitting and receiving moving images (video and audio) (see, for example, Patent Document 1).

特開2008−210417号公報JP, 2008-210417, A

このようなシステムにおいて、コミュニケーションを行う端末同士は、サーバを経由して通信することで、複数人による動画(映像、音声)のやりとりを行うことができるようなものも存在する(例えば、WebRTC等)。 In such a system, there are terminals that can communicate with each other via a server so that a plurality of people can exchange moving images (video, audio) (for example, WebRTC, etc.). ).

このようなシステムでは、サーバに接続するクライアントはサーバに対して映像または音声のストリームを送信する必要がある。 In such a system, a client connecting to the server needs to send a video or audio stream to the server.

サーバは、複数のクライアントから送信された映像または音声を1つのストリームにまとめ、接続しているすべてのクライアントにまとめたストリームを送信することで、複数人による動画(映像、音声)のやり取りを実現している。 The server collects video or audio sent from multiple clients into one stream and sends the combined stream to all connected clients, enabling multiple people to exchange video (video, audio). doing.

また、ユーザAとユーザBとが動画(映像、音声)によるコミュニケーションを行い、複数人の閲覧のみのユーザが、ユーザAとユーザBとのコミュニケーションの内容を閲覧するというような場合であっても、ユーザAとユーザBとのコミュニケーションに必要のない、閲覧のみのユーザの映像または音声が、すべてのユーザに配信されるため、通信量が増大する。 Further, even in a case where the user A and the user B communicate with each other by a moving image (video, audio), and a plurality of browsing-only users browse the contents of the communication between the user A and the user B. Since the video or audio of the user who is browsing only, which is not necessary for the communication between the user A and the user B, is distributed to all the users, the communication amount increases.

これにより、システムによっては、通信回線の状況に応じて、映像の画質を自動的に調整し、双方向通信を行うという特性を有するものがあり、通信量の増大により、通信回線のデータ転送速度が低い、通信帯域が狭い場合には、映像の画質が落ち、ブロックノイズが発生して、やり取りしている映像が見えづらくなることがある。 As a result, some systems have the characteristic of automatically adjusting the image quality of video according to the status of the communication line and performing bidirectional communication. Due to the increase in communication volume, the data transfer rate of the communication line is increased. When the communication bandwidth is low and the communication band is narrow, the image quality of the image may be deteriorated, block noise may occur, and the exchanged image may be difficult to see.

そこで、本発明では、ユーザのコミュニケーションを効果的に行うことが可能な仕組みを提供することを目的とする。 Therefore, it is an object of the present invention to provide a mechanism that enables effective user communication.

上記目的を達成するための本発明は、端末間で通信データを中継する通信サーバと情報処理装置とが通信可能なように接続された情報処理システムであって、前記通信サーバは、前記端末間で行われている通信データを情報処理装置へ送信する送信手段を備え、前記情報処理装置は、前記端末以外の所定の条件を満たす端末に対して、前記送信手段により送信された通信データの要求を受け付ける受付手段を備えたことを特徴とする。 The present invention for achieving the above object is an information processing system in which a communication server that relays communication data between terminals and an information processing apparatus are communicably connected to each other, wherein the communication server And a request for communication data transmitted by the transmitting unit to a terminal other than the terminal that satisfies a predetermined condition. It is characterized by comprising a receiving means for receiving

本発明によれば、ユーザのコミュニケーションを効果的に行うことができる、という効果を奏する。 According to the present invention, there is an effect that user communication can be effectively performed.

情報処理システムの概略の構成図である。It is a schematic block diagram of an information processing system. ハードウェア構成の一例を示すブロック図であるIt is a block diagram showing an example of hardware constitutions. 情報処理システムの機能ブロック図である。It is a functional block diagram of an information processing system. コミュニケーション通信処理の流れを示すフローチャートである。Communication is a flowchart showing a flow of communication processing. コミュニケーション通信処理の流れを示すフローチャートである。Communication is a flowchart showing a flow of communication processing. ストリーミング配信処理の流れを示すフローチャートである。It is a flow chart which shows a flow of streaming distribution processing. ストリーミング再生処理の流れを示すフローチャートである。It is a flowchart which shows the flow of a streaming reproduction process. ストリーミング配信終了処理の流れを示すフローチャートである。It is a flow chart which shows a flow of streaming distribution end processing. ストリーミングデータ変換処理の流れを示すフローチャートである。It is a flow chart which shows a flow of streaming data conversion processing. 各APIの構成を示す構成図である。It is a block diagram which shows the structure of each API. ストリーミング配信開始/終了コマンドの構成を示す構成図である。It is a block diagram which shows the structure of a streaming delivery start/end command. データファイルの一例を示す図である。It is a figure which shows an example of a data file. ログイン画面の構成を示す構成図である。It is a block diagram which shows the structure of a login screen. コミュニケーション画面の構成を示す構成図である。It is a block diagram which shows the structure of a communication screen. ログイン画面の構成を示す構成図である。It is a block diagram which shows the structure of a login screen. ルーム選択画面の構成を示す構成図である。It is a block diagram which shows the structure of a room selection screen. コミュニケーション画面の構成を示す構成図である。It is a block diagram which shows the structure of a communication screen. ストリーミング配信映像画面の構成を示す構成図である。It is a block diagram which shows the structure of a streaming delivery video screen.

図1を利用して本実施形態における情報処理システムの概略構成について記述する。 A schematic configuration of the information processing system according to the present embodiment will be described with reference to FIG.

本発明に関わる情報処理システムの概略構成の一例として、情報処理システムは、クライアント端末100、クライアント端末101、ネットワーク102、通信サーバ103、データ管理システム104、クライアント端末107で構成されており、それぞれネットワーク102を介して、通信可能なように接続されている。 As an example of a schematic configuration of an information processing system according to the present invention, the information processing system includes a client terminal 100, a client terminal 101, a network 102, a communication server 103, a data management system 104, and a client terminal 107. It is communicatively connected via 102.

また、データ管理システム104は、データ生成装置105、及び記憶装置106を備えている。 The data management system 104 also includes a data generation device 105 and a storage device 106.

クライアント端末100は、本情報処理システムのクライアント機能を提供し、ログイン画面(詳細後述)、及びコミュニケーション画面(詳細後述)を出力する。 The client terminal 100 provides a client function of the information processing system, and outputs a login screen (details described later) and a communication screen (details described later).

クライアント端末101は、本情報処理システムのクライアント機能を提供し、ログイン画面(詳細後述)、ルーム選択画面(詳細後述)、及びコミュニケーション画面(詳細後述)を出力する。 The client terminal 101 provides a client function of the information processing system, and outputs a login screen (details described later), a room selection screen (details described later), and a communication screen (details described later).

通信サーバ103は、外部のプラットフォームであり、WebRTC技術を利用した複数人での音声、映像などのリアルタイム通信機能を提供する。 The communication server 103 is an external platform and provides a real-time communication function such as audio and video for a plurality of people using the WebRTC technology.

データ管理システム104は、本情報処理システムで利用するデータを管理するシステムであり、例えば、クラウド基盤が想定される。 The data management system 104 is a system that manages data used in this information processing system, and is assumed to be a cloud platform, for example.

データ生成装置105は、データ管理システム104上で動作し、本情報処理システムのストリーミング配信機能を持つ。 The data generation device 105 operates on the data management system 104 and has a streaming distribution function of the information processing system.

記憶装置106は、データ管理システム104上で動作し、本除法処理システムのストリーミングデータ用ストレージ機能を持つ。 The storage device 106 operates on the data management system 104 and has a streaming data storage function of the division processing system.

クライアント端末107は、本情報処理システムのストリーミング再生用のクライアント機能を提供し、ログイン画面(詳細後述)、及びストリーミング再生画面(詳細後述)を出力する。 The client terminal 107 provides a client function for streaming reproduction of the information processing system, and outputs a login screen (details described later) and a streaming reproduction screen (details described later).

次に、図2を用いて、クライアント端末100、クライアント端末101、及びクライアント端末107のハードウェアの概略構成について説明を行う。 Next, a schematic configuration of hardware of the client terminal 100, the client terminal 101, and the client terminal 107 will be described with reference to FIG.

図2に示すように、各装置は、システムバス204を介してCPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203、入力コントローラ205、ビデオコントローラ206、メモリコントローラ207、よび通信I/Fコントローラ208が接続される。 As shown in FIG. 2, each device includes a CPU (Central Processing Unit) 201, a ROM (Read Only Memory) 202, a RAM (Random Access Memory) 203, an input controller 205, a video controller 206, and a memory via a system bus 204. A controller 207 and a communication I/F controller 208 are connected.

CPU201は、システムバス204に接続される各デバイスやコントローラを統括的に制御する。 The CPU 201 centrally controls each device and controller connected to the system bus 204.

ROM202あるいは外部メモリ211は、CPU201が実行する制御プログラムであるBIOS(Basic Input/Output System)やOS(Operating System)や、本情報処理方法を実現するためのコンピュータ読み取り実行可能なプログラムおよび必要な各種データ(データテーブルを含む)を保持している。 The ROM 202 or the external memory 211 is a control program executed by the CPU 201, such as a BIOS (Basic Input/Output System), an OS (Operating System), a computer-readable executable program for implementing this information processing method, and various necessary programs. Holds data (including data table).

RAM203は、CPU201の主メモリ、ワークエリア等として機能する。CPU201は、処理の実行に際して必要なプログラム等をROM202あるいは外部メモリ211からRAM203にロードし、ロードしたプログラムを実行することで各種動作を実現する。 The RAM 203 functions as a main memory, a work area, etc. of the CPU 201. The CPU 201 loads various programs necessary for executing the processing from the ROM 202 or the external memory 211 into the RAM 203, and executes the loaded programs to realize various operations.

入力コントローラ205は、キーボードや不図示のマウス等のポインティングデバイス等の入力デバイス209からの入力を制御する。 The input controller 205 controls input from an input device 209 such as a keyboard or a pointing device such as a mouse (not shown).

入力装置がタッチパネルの場合、ユーザがタッチパネルに表示されたアイコンやカーソルやボタンに合わせて押下(指等でタッチ)することにより、各種の指示を行うことができることとする。 When the input device is a touch panel, the user can give various instructions by pressing (touching with a finger or the like) in accordance with an icon, a cursor, or a button displayed on the touch panel.

また、タッチパネルは、マルチタッチスクリーンなどの、複数の指でタッチされた位置を検出することが可能なタッチパネルであってもよい。 Further, the touch panel may be a touch panel such as a multi-touch screen capable of detecting a position touched by a plurality of fingers.

ビデオコントローラ206は、ディスプレイ210などの外部出力装置への表示を制御する。 The video controller 206 controls display on an external output device such as the display 210.

ディスプレイは本体と一体になったノート型パソコンのディスプレイも含まれるものとする。 The display shall include the display of a laptop computer integrated with the main body.

なお、外部出力装置はディスプレイに限ったものははく、例えばプロジェクタであってもよい。また、前述のタッチ操作を受け付け可能な装置については、入力装置も提供する。 The external output device is not limited to the display, and may be a projector, for example. An input device is also provided for the device that can accept the touch operation described above.

なお、ビデオコントローラ206は、表示制御を行うためのビデオメモリ(VRAM)を制御することが可能で、ビデオメモリ領域としてRAM203の一部を利用することもできるし、別途専用のビデオメモリを設けることも可能である。 Note that the video controller 206 can control a video memory (VRAM) for performing display control, can use part of the RAM 203 as a video memory area, or can be provided with a dedicated video memory separately. Is also possible.

メモリコントローラ207は、外部メモリ211へのアクセスを制御する。外部メモリとしては、ブートプログラム、各種アプリケーション、フォントデータ、ユーザファイル、編集ファイル、および各種データ等を記憶する外部記憶装置(ハードディスク)、フレキシブルディスク(FD)、或いはPCMCIAカードスロットにアダプタを介して接続されるコンパクトフラッシュ(登録商標)メモリ等を利用可能である。 The memory controller 207 controls access to the external memory 211. The external memory is connected to an external storage device (hard disk), a flexible disk (FD), or a PCMCIA card slot that stores a boot program, various applications, font data, user files, edit files, and various data via an adapter. A compact flash (registered trademark) memory or the like can be used.

通信I/Fコントローラ208は、ネットワークを介して外部機器と接続・通信するものであり、ネットワークでの通信制御処理を実行する。例えば、TCP/IPを用いた通信やISDNなどの電話回線、および携帯電話の3G回線を用いた通信が可能である。 The communication I/F controller 208 connects and communicates with an external device via a network, and executes communication control processing on the network. For example, communication using TCP/IP, communication using a telephone line such as ISDN, and communication using a 3G line of a mobile phone are possible.

尚、CPU201は、例えばRAM203内の表示情報用領域へアウトラインフォントの展開(ラスタライズ)処理を実行することにより、ディスプレイ210上での表示を可能としている。また、CPU201は、ディスプレイ210上の不図示のマウスカーソル等でのユーザ指示を可能とする。 Note that the CPU 201 enables display on the display 210, for example, by executing outline font rasterization processing in the display information area in the RAM 203. Further, the CPU 201 enables a user instruction using a mouse cursor or the like (not shown) on the display 210.

カメラコントローラ212は、カメラ214による撮影を制御する。カメラ214によって撮影することにより得られた画像は、外部メモリ211やROM202等の記憶領域へ記憶される。 The camera controller 212 controls shooting by the camera 214. The image obtained by shooting with the camera 214 is stored in a storage area such as the external memory 211 or the ROM 202.

音声コントローラ213は、マイク/スピーカ215による発音や集音の制御を行う。マイク/スピーカ215に対して発せられた音を取得して、音声データとして外部メモリ211やROM202等の記憶領域へ記憶したり、音量を調節して発音することができる。 The voice controller 213 controls sound generation and sound collection by the microphone/speaker 215. The sound emitted to the microphone/speaker 215 can be acquired and stored as sound data in a storage area such as the external memory 211 or the ROM 202, or can be produced by adjusting the volume.

尚、通信サーバ103、及びデータ管理システム104も、ほぼ同様な構成を備えるため、説明は省略する。 Note that the communication server 103 and the data management system 104 also have substantially the same configuration, and thus description thereof will be omitted.

次に、図3を用いて情報処理システムにおける各機能の概略について説明を行うが、各機能について、後述するフローチャートと合わせて説明を行う。 Next, an outline of each function in the information processing system will be described with reference to FIG. 3, and each function will be described together with a flowchart described later.

クライアント端末100は、ログイン部300、ルーム管理部301、及び送受信部302を備えており、ログイン部300は、クライアント端末100における本情報処理システムへのログイン機能を備えている。 The client terminal 100 includes a login unit 300, a room management unit 301, and a transmission/reception unit 302, and the login unit 300 includes a login function of the client terminal 100 to the information processing system.

ルーム管理部301は、通信サーバ103を利用した音声、映像などをリアルタイムでやり取りしコミュニケーションを行う空間(以後、ルーム)への入室および退室機能を備えている。 The room management unit 301 has a function of entering and leaving a space (hereinafter referred to as a room) in which voice and video are exchanged in real time using the communication server 103 for communication.

送受信部302は、他の装置等と種々のデータのやり取りを行う機能を備えている。 The transmission/reception unit 302 has a function of exchanging various data with other devices.

また、クライアント端末100を起動したユーザが発した声などの音声を、入室したルームへ配信する機能を備えている。、データ配信起動API900(図10参照)を生成し、データ管理システム104に対して送信する機能を備えている
ログイン部310は、クライアント端末101における本情報処理システムへのログイン機能を備えている。
Further, it has a function of delivering a voice such as a voice uttered by a user who has activated the client terminal 100 to a room in which the user has entered. The login unit 310 having a function of generating the data delivery activation API 900 (see FIG. 10) and transmitting the API to the data management system 104 has a login function of the client terminal 101 to the information processing system.

ルーム管理部311は、ルームへの入室および退室機能を備え、また、クライアント端末101を起動したユーザが発した声などの音声を、入室したルームへ配信する機能を備えている。 The room management unit 311 has a function of entering and leaving a room, and also has a function of delivering a voice such as a voice uttered by a user who has activated the client terminal 101 to the room.

データ生成装置105は、ログイン部320、ルーム管理部321、映像/音声データ保存部322、映像/音声データ変換部323、変換データアップロード部324、データ削除部325、及び送受信部326を備えている。 The data generation device 105 includes a login unit 320, a room management unit 321, a video/audio data storage unit 322, a video/audio data conversion unit 323, a conversion data upload unit 324, a data deletion unit 325, and a transmission/reception unit 326. ..

ログイン部320は、データ生成装置105における本情報処理システムへのログイン機能を備えている。 The login unit 320 has a function of logging in to the information processing system in the data generation device 105.

ルーム管理部321は、ルームへの入室および退室機能を備え、映像/音声データ保存部322は、ルームに配信されている映像/音声データを取得し、保存する機能を備えている。 The room management unit 321 has a function of entering and leaving the room, and the video/audio data storage unit 322 has a function of acquiring and saving the video/audio data distributed to the room.

映像/音声データ変換部323は、映像/音声データ保存部322によって保存したデータをストリーミング再生可能なデータに変換する機能を持つ。 The video/audio data conversion unit 323 has a function of converting the data stored by the video/audio data storage unit 322 into streaming reproducible data.

変換データアップロード部324は、ストリーミングデータアップロードAPI920を生成し、ストリーミングデータアップロードAPI920を利用して、映像/音声データ変換部323によって変換したストリーミングデータを記憶装置106へ送信する機能を備えている。 The conversion data upload unit 324 has a function of generating the streaming data upload API 920 and using the streaming data upload API 920, transmitting the streaming data converted by the video/audio data conversion unit 323 to the storage device 106.

データ削除部325は、映像/音声データ変換部323および変換データアップロード部324で保存、変換したデータを削除する機能を備えている
送受信部326は、他の装置等と種々のデータのやり取りを行う機能を備えている。
The data deleting unit 325 has a function of deleting the data saved and converted by the video/audio data converting unit 323 and the converted data uploading unit 324. The transmitting/receiving unit 326 exchanges various data with other devices. It has a function.

データ管理システム104は、起動部330、データストレージ部331、及び送受信部332を備えている。 The data management system 104 includes an activation unit 330, a data storage unit 331, and a transmission/reception unit 332.

起動部330は、クライアント端末100のルーム管理部301において送信されたデータ配信起動API900を受信し、ストリーミング配信準備API910(図10参照)を生成し、データ生成装置105に対してストリーミング配信準備API910を送信する機能を備えている。 The activation unit 330 receives the data distribution activation API 900 transmitted from the room management unit 301 of the client terminal 100, generates the streaming distribution preparation API 910 (see FIG. 10), and transmits the streaming distribution preparation API 910 to the data generation device 105. It has a function to send.

データストレージ部331は、本情報処理システムにおいて生成されたストリーミングデータを保存する機能を備えている。 The data storage unit 331 has a function of saving streaming data generated in the information processing system.

送受信部332は、他の装置等と種々のデータのやり取りを行う機能を備えている。 The transmission/reception unit 332 has a function of exchanging various data with other devices.

クライアント端末107は、ログイン部340、及びストリーミング再生部341を備えている。 The client terminal 107 includes a login unit 340 and a streaming reproduction unit 341.

ログイン部340は、クライアント端末101における本情報処理システムへのログイン機能を備えている。 The login unit 340 has a function of logging in to the information processing system in the client terminal 101.

ストリーミング再生部341は、記憶装置106に保存されているストリーミングデータを再生する機能を備えている。 The streaming reproduction unit 341 has a function of reproducing the streaming data stored in the storage device 106.

図4に示すフローチャートを用いて、コミュニケーション通信処理の流れを説明する。 The flow of communication communication processing will be described using the flowchart shown in FIG.

ステップS400では、ログイン部300は、ログイン画面1200(図13参照)を出力し、ログイン画面1200に対して入力されたユーザID及びパスワード等のユーザ情報を取得して認証を行い、認証がなされると、情報処理システムへのログインがなされる。 In step S400, the login unit 300 outputs the login screen 1200 (see FIG. 13), acquires the user information such as the user ID and password input to the login screen 1200, performs authentication, and is authenticated. Then, login to the information processing system is performed.

図13には、クライアント端末100に出力されるログイン画面1200の構成が示されており、ログイン画面1200は、ユーザIDを入力するためのユーザID入力欄1201、パスワードを入力するためのパスワード入力欄1202、及びログインの指示を行うために押下するためのログインボタン1203を備えている。 FIG. 13 shows the configuration of a login screen 1200 output to the client terminal 100. The login screen 1200 includes a user ID input field 1201 for inputting a user ID and a password input field for inputting a password. 1202 and a login button 1203 that is pressed to issue a login instruction.

ユーザは、ログインボタン1203を押下すると、ユーザID入力欄1201及びパスワード入力欄1202に入力されたユーザID及びパスワードを用いて認証を行い、認証がなされると、情報処理システムへのログインがなされる。 When the user presses the login button 1203, the user authenticates using the user ID and the password input in the user ID input field 1201 and the password input field 1202, and when the authentication is performed, the user is logged in to the information processing system. ..

ステップS401では、ルーム管理部301は、コミュニケーション画面1300(図13参照)を出力する。 In step S401, the room management unit 301 outputs the communication screen 1300 (see FIG. 13).

図14には、クライアント端末100に出力されるコミュニケーション画面1300の構成が示されており、コミュニケーション画面1300は、ストリーミング配信開始/終了ボタン1311、ルーム選択リストボックス1312、ルーム入室ボタン1313、及びルーム退室ボタン1314を備えている。 FIG. 14 shows the configuration of a communication screen 1300 output to the client terminal 100. The communication screen 1300 includes a streaming distribution start/end button 1311, a room selection list box 1312, a room entry button 1313, and a room exit. A button 1314 is provided.

ストリーミング配信開始/終了ボタン1311を押下することにより、ストリーミング配信を開始することができる。ストリーミング配信が開始するとボタンが紫色に変わる。 By pressing the streaming distribution start/end button 1311, streaming distribution can be started. When streaming distribution starts, the button turns purple.

一方、ストリーミング配信実行中の状態でストリーミング配信開始/終了ボタン1311を押下して、ストリーミング配信を終了することができる。ストリーミング配信が終了するとボタンが黄色に変わる。 On the other hand, the streaming distribution start/end button 1311 can be pressed while the streaming distribution is being executed to end the streaming distribution. The button turns yellow when the streaming distribution is completed.

ルーム選択リストボックス1312には、入室するルームを出力選択することができ、ルーム入室ボタン1313を押下して、選択したルームへの入室ができ、ルーム退室ボタン1314を押下すると、入室しているルームから退室することができる。 In the room selection list box 1312, it is possible to output and select a room to enter, press the room entry button 1313 to enter the selected room, and press the room exit button 1314 to enter the room. You can leave the room.

本ステップでは、ルーム選択リストボックス1312に出力されたルームが選択された状態で、ルーム入室ボタン1313が押下されたことを検知すると、選択されたルームへユーザを入室させる。 In this step, when it is detected that the room entry button 1313 is pressed while the room output to the room selection list box 1312 is selected, the user is allowed to enter the selected room.

ステップS402では、ルーム管理部301は、クライアント端末100で取得した音声をルームに対して配信する。 In step S402, the room management unit 301 distributes the sound acquired by the client terminal 100 to the room.

ステップS403では、ルーム管理部301は、データ配信起動API900(図10参照)を生成し、データ管理システム104に送信する。 In step S403, the room management unit 301 generates the data distribution activation API 900 (see FIG. 10) and transmits it to the data management system 104.

図10には、データ配信起動API900の構成が示されており、データ配信起動API900は、ユーザID、及びルームIDで構成される。 FIG. 10 shows the configuration of the data distribution activation API 900, and the data distribution activation API 900 includes a user ID and a room ID.

データ配信起動API900は、クライアント端末100からデータ管理システム104に対して、データ生成装置105の起動要求を行うためのAPIである。 The data distribution activation API 900 is an API for requesting activation of the data generation device 105 from the client terminal 100 to the data management system 104.

ステップS404では、起動部330は、ステップS503においてクライアント端末100から送信されたデータ配信起動API900を受信する。 In step S404, the activation unit 330 receives the data distribution activation API 900 transmitted from the client terminal 100 in step S503.

ステップS405では、起動部330は、ストリーミング配信準備API910(図10参照)を生成し、データ生成装置105に送信する。 In step S405, the activation unit 330 generates the streaming distribution preparation API 910 (see FIG. 10) and transmits it to the data generation device 105.

図10には、ストリーミング配信準備API910の構成が示されており、ストリーミング配信準備API910は、ドメイン(例えば、ユーザIDの@以降の文字列)、及びルームIDで構成される。 FIG. 10 shows the configuration of the streaming delivery preparation API 910. The streaming delivery preparation API 910 is composed of a domain (for example, a character string after @ of the user ID) and a room ID.

ストリーミング配信準備API910は、データ管理システム104からデータ生成装置105に対して、ストリーミング配信準備要求を行うためのAPIである。 The streaming distribution preparation API 910 is an API for making a streaming distribution preparation request from the data management system 104 to the data generation device 105.

ストリーミング配信準備は、データ生成装置105が、本情報処理システムへのログインおよびクライアント端末100と同じルームへの入室処理を指す。 The streaming distribution preparation refers to the process of the data generation device 105 logging in to the information processing system and entering the same room as the client terminal 100.

ドメイン、及びルームIDの情報を利用することでストリーミング配信準備処理の実行ができる。 The streaming delivery preparation process can be executed by using the information of the domain and the room ID.

ステップS406では、送受信部326は、ステップS405においてデータ管理システム104からストリーミング配信準備API910を受信する。 In step S406, the transmission/reception unit 326 receives the streaming delivery preparation API 910 from the data management system 104 in step S405.

ステップS407では、ログイン部320は、ストリーミング配信準備API910のパラメーターを利用して、本情報処理システムにログインする。 In step S407, the login unit 320 logs in to the information processing system using the parameters of the streaming delivery preparation API 910.

ステップS408では、ルーム管理部321は、ストリーミング配信準備API910のパラメーターを利用して、クライアント端末101と同じルームにデータ生成装置105を入室させる。 In step S408, the room management unit 321 uses the parameter of the streaming delivery preparation API 910 to enter the data generation device 105 in the same room as the client terminal 101.

ステップS409では、ルーム管理部321は、ストリーミング配信準備APIレスポンス911(図10参照)を生成し、送受信部326によってデータ管理システム104に返す。 In step S409, the room management unit 321 generates a streaming delivery preparation API response 911 (see FIG. 10), and the transmission/reception unit 326 returns it to the data management system 104.

図10には、ストリーミング配信準備APIレスポンス911の構成が示されており、ストリーミング配信準備APIレスポンス911は、ストリーミング配信準備がなされた旨等を示すメッセージで構成される。 FIG. 10 shows the configuration of the streaming delivery preparation API response 911. The streaming delivery preparation API response 911 is composed of a message indicating that the streaming delivery preparation has been made.

ステップS410では、送受信部332は、ステップS409においてデータ生成装置105から送信されたストリーミング配信準備APIレスポンス911を受信する。 In step S410, the transmission/reception unit 332 receives the streaming delivery preparation API response 911 transmitted from the data generation device 105 in step S409.

ステップS411では、起動部330は、データ配信起動APIレスポンス901(図10参照)を生成し、送受信部332によって、クライアント端末100に返す。 In step S411, the activation unit 330 generates the data distribution activation API response 901 (see FIG. 10), and the transmission/reception unit 332 returns it to the client terminal 100.

図10には、データ配信起動APIレスポンス901の構成が示されており、データ配信起動APIレスポンス901は、ストリーミング配信準備がなされた旨等を示すメッセージで構成される。 FIG. 10 shows the configuration of the data distribution activation API response 901. The data distribution activation API response 901 is composed of a message indicating that streaming distribution preparation is completed.

ステップS412では、送受信部302は、ステップS411においてデータ管理システム104から送信されたデータ配信起動APIレスポンス901を受信する。 In step S412, the transmission/reception unit 302 receives the data distribution activation API response 901 transmitted from the data management system 104 in step S411.

また、同様に、クライアント端末101においても、コミュニケーション通信処理を行うため、その処理の流れを図5に示すフローチャートで説明する
ステップS500では、ログイン部310によって、ログイン画面1400(図14参照)を出力し、ログイン画面1400に対して入力されたユーザID及びパスワード等のユーザ情報を取得して認証を行い、認証がなされると、情報処理システムへのログインがなされる。
Similarly, since the client terminal 101 also performs communication communication processing, the flow of the processing will be described with the flowchart shown in FIG. 5. In step S500, the login unit 310 outputs the login screen 1400 (see FIG. 14). Then, the user information such as the user ID and password input on the login screen 1400 is acquired and authenticated, and when the authentication is performed, the user logs in to the information processing system.

図15には、クライアント端末101に出力されるログイン画面1400の構成が示されており、ログイン画面1400は、ユーザIDを入力するためのユーザID入力欄1401、パスワードを入力するためのパスワード入力欄1402、及びログインの指示を行うために押下するためのログインボタン1403を備えている。 FIG. 15 shows the configuration of a login screen 1400 output to the client terminal 101. The login screen 1400 includes a user ID input field 1401 for inputting a user ID and a password input field for inputting a password. 1402 and a login button 1403 that is pressed to issue a login instruction.

ユーザは、ログインボタン1403を押下すると、ユーザID入力欄1401及びパスワード入力欄1402に入力されたユーザID及びパスワードを用いて認証を行い、認証がなされると、情報処理システムへのログインがなされる。 When the user presses the login button 1403, the user authenticates using the user ID and the password input in the user ID input field 1401 and the password input field 1402, and when the authentication is performed, the user is logged in to the information processing system. ..

ステップS501では、ルーム管理部311は、ルーム選択画面1500(図16参照)を出力する。 In step S501, the room management unit 311 outputs the room selection screen 1500 (see FIG. 16).

図16には、ルーム選択画面1500の構成が示されており、ルーム選択画面1500は、ルーム選択リストボックス1501で入室するルームを選択し、ルーム入室ボタン1504を押下して、選択したルームへの入室ができる。 FIG. 16 shows the configuration of the room selection screen 1500. The room selection screen 1500 selects a room to enter in the room selection list box 1501 and presses the room entry button 1504 to enter the selected room. You can enter the room.

また、録画データアップロードボタン1503を押下して、映像データのアップロードをすることができる。 Also, the video data upload button 1503 can be pressed to upload the video data.

また、戻るボタン1502を押下すると、前に表示されていたログイン画面1400が表示される。 When the return button 1502 is pressed, the login screen 1400 displayed previously is displayed.

入室がなされると、コミュニケーション画面1600(図17参照)が表示される。 When the user enters the room, a communication screen 1600 (see FIG. 17) is displayed.

図17には、コミュニケーション画面1600の構成が示されており、コミュニケーション画面1600は、ルームを退室する際に押下するためのルーム退室ボタン1601、写真撮影を行う撮影ボタン1602、録画開始/終了ボタン1603を押下すると、録画を開始することができ、再度、録画開始/終了ボタン1603を押下すると録画が終了する。 FIG. 17 shows the configuration of the communication screen 1600. The communication screen 1600 includes a room exit button 1601 to be pressed when leaving a room, a shooting button 1602 for taking a picture, and a recording start/end button 1603. When is pressed, recording can be started, and when the recording start/end button 1603 is pressed again, recording is ended.

ステップS502では、ルーム管理部311は、クライアント端末101で取得した映像、音声をルームに対して配信する。 In step S502, the room management unit 311 distributes the video and audio acquired by the client terminal 101 to the room.

図6に示すフローチャートを用いて、ストリーミング配信処理について説明を行う。 The streaming distribution process will be described with reference to the flowchart shown in FIG.

ステップS600では、コミュニケーション画面1300のストリーミング配信開始/終了ボタン1311が押下されると、ストリーミング配信開始./終了コマンド1000(図11参照)を生成し、送受信部302は、入室しているルームに対してストリーミング配信開始/終了コマンド1000を送信する。ここでは、開始を示すコマンドが送信される。 In step S600, when the streaming distribution start/end button 1311 on the communication screen 1300 is pressed, a streaming distribution start/end command 1000 (see FIG. 11) is generated, and the transmission/reception unit 302 sets the room entering the room. And transmits a streaming distribution start/end command 1000. Here, a command indicating start is transmitted.

図11には、ストリーミング配信開始/終了コマンド1000の構成が示されており、ストリーミング配信開始/終了コマンド1000は、開始あるいは終了を示すコマンド、配信フラグ、及び配信IDで構成される。 FIG. 11 shows the structure of the streaming distribution start/end command 1000. The streaming distribution start/end command 1000 is composed of a command indicating the start or end, a distribution flag, and a distribution ID.

ストリーミング配信開始/終了コマンド1000は、クライアント端末100からデータ生成装置105に対して、ストリーミング配信の開始/終了を指示するコマンドである。 The streaming distribution start/end command 1000 is a command for instructing the data generation device 105 from the client terminal 100 to start/end streaming distribution.

配信IDは、ストリーミングデータ変換処理の入力データとなる映像データおよび音声データ、また出力データとなるストリーミングデータを一意に識別するための情報である。 The distribution ID is information for uniquely identifying video data and audio data that are input data of the streaming data conversion process, and streaming data that is output data.

配信IDを入力データ、及び出力データのファイル名として利用することで、一意に管理することができる。。 By using the distribution ID as the file name of the input data and the output data, it is possible to manage uniquely. ..

ステップS601では、送受信部326は、ステップS600においてクライアント端末100から送信されたストリーミング配信開始/終了コマンド1000を受信する。 In step S601, the transmission/reception unit 326 receives the streaming distribution start/end command 1000 transmitted from the client terminal 100 in step S600.

ステップS602は、後続のステップS603からS614の処理を、ストリーミング配信開始./終了コマンド1000を再度受信するまで、所定間隔、例えば5秒間隔で繰り返す。 A step S602 repeats the processes of the subsequent steps S603 to S614 at a predetermined interval, for example, an interval of 5 seconds, until the streaming distribution start/end command 1000 is received again.

ステップS603では、ルーム管理部321は、入室しているルームの映像/音声配信のモードを判定する。フレームレート優先モードの場合、ステップS604へ処理を進め、画質優先モードの場合、ステップS606へ処理を進める。 In step S603, the room management unit 321 determines the video/audio distribution mode of the room that has been entered. In the frame rate priority mode, the process proceeds to step S604, and in the image quality priority mode, the process proceeds to step S606.

ここで、フレームレート優先モードとは、映像(動画、音声)データによりコミュニケーションを行うモードを示しており、画質優先モードとは、音声と映像は切り離して、静止画データと音声データとによりコミュニケーションを行う。 Here, the frame rate priority mode refers to a mode in which communication is performed by video (moving image, audio) data, and the image quality priority mode separates audio and video, and communicates by still image data and audio data. To do.

ステップS604では、映像/音声データ保存部322は、ルームに配信されている映像./音声データをブラウザのバッファ領域に保存する。 In step S604, the video/audio data storage unit 322 saves the video/audio data distributed to the room in the buffer area of the browser.

ステップS605では、映像/音声データ保存部322は、ブラウザのバッファ領域に保存された5秒分のデータをファイルに書き出し、保存する。 In step S605, the video/audio data storage unit 322 writes the data for 5 seconds saved in the buffer area of the browser to a file and saves it.

ステップS606では、映像/音声データ保存部322は、ルームに配信されている静止画/音声データを別々にブラウザのバッファ領域に保存する。 In step S606, the video/audio data storage unit 322 separately stores the still image/audio data distributed to the room in the buffer area of the browser.

「画質優先モード」の場合、静止画データと音声データとが分かれてルームに配信されているため、それぞれ保存する必要がある。 In the case of the “image quality priority mode”, still image data and audio data are separately delivered to the room, and thus need to be saved respectively.

ステップS607では、映像/音声データ保存部322は、ブラウザのバッファ領域に保存された5秒分のデータをファイルに書き出し、保存する。 In step S607, the video/audio data storage unit 322 writes the data for 5 seconds saved in the buffer area of the browser to a file and saves it.

ステップS608では、映像/音声データ保存部322は、静止画データと音声データとを合成し、ファイルに保存する。 In step S608, the video/audio data storage unit 322 synthesizes the still image data and the audio data and saves them in a file.

ステップS609では、映像/音声データ変換部323は、ファイルに保存されたデータをストリーミングデータに変換する(図9にて、詳細は後述)。 In step S609, the video/audio data conversion unit 323 converts the data stored in the file into streaming data (details will be described later with reference to FIG. 9).

ステップS610では、変換データアップロード部324は、ストリーミングデータアップロードAPI920(図10参照)を生成し、ストリーミングデータアップロードAPI920を利用して、ストリーミングデータをデータ管理システム104に送信する。 In step S610, the conversion data upload unit 324 generates the streaming data upload API 920 (see FIG. 10) and transmits the streaming data to the data management system 104 using the streaming data upload API 920.

図10には、ストリーミングデータアップロードAPI920の構成が示されており、ストリーミングデータアップロードAPI920は、テナントID、ルームID、ファイルID、及びファイル自体のバイナリデータで構成される。 FIG. 10 shows the configuration of the streaming data upload API 920. The streaming data upload API 920 is composed of a tenant ID, a room ID, a file ID, and binary data of the file itself.

データ生成装置105からデータ管理システム104に対して、記憶装置106へストリーミングデータアップロード要求を行うためのAPIである。 This is an API for making a streaming data upload request from the data generation device 105 to the data management system 104 to the storage device 106.

テナントID、ルームID、及びファイルID(相手との通信を行うために、IDが一意となるように発行される。)を利用することで、記憶装置106に保存されたストリーミングデータを一意に管理することができる。 By using the tenant ID, the room ID, and the file ID (issued so that the ID is unique in order to communicate with the other party), the streaming data stored in the storage device 106 is uniquely managed. can do.

ステップS611では、送受信部332は、ステップS610においてデータ生成装置105から送信されたストリーミングデータアップロードAPI920を受信する。 In step S611, the transmission/reception unit 332 receives the streaming data upload API 920 transmitted from the data generation device 105 in step S610.

ステップS612では、データストレージ部331は、ストリーミングデータアップロードAPI920からストリーミングデータを取得し、記憶装置106に保存する。 In step S612, the data storage unit 331 acquires the streaming data from the streaming data upload API 920 and stores it in the storage device 106.

ステップS613では、データストレージ部331は、ストリーミングアップロードAPIレスポンス921(図10参照)をデータ生成装置105に返す。 In step S613, the data storage unit 331 returns the streaming upload API response 921 (see FIG. 10) to the data generation device 105.

図10には、ストリーミングアップロードAPIレスポンス921の構成が示されており、ストリーミングアップロードAPIレスポンス921は、ストリーミングデータのアップロード結果を示すステータスコードで構成されている。 FIG. 10 shows the structure of the streaming upload API response 921, and the streaming upload API response 921 is composed of a status code indicating the upload result of streaming data.

ステップ614では、送受信部326は、ストリーミングアップロードAPIレスポンス921を受信する。 In step 614, the transmission/reception unit 326 receives the streaming upload API response 921.

図6のストリーミング配信処理と同時に、図7のフローチャートに示すストリーミング再生処理が行われる。 Simultaneously with the streaming distribution process of FIG. 6, the streaming reproduction process shown in the flowchart of FIG. 7 is performed.

ステップS650は、クライアント端末107は、ストリーミングデータ内に終了メッセージが存在しない間、ステップS651及びステップS652の処理を繰り返すことを示している。 Step S650 indicates that the client terminal 107 repeats the processing of steps S651 and S652 while the end message does not exist in the streaming data.

ステップS651では、ストリーミング再生部341は、記憶装置106からストリーミングデータを取得する。 In step S651, the streaming reproduction unit 341 acquires streaming data from the storage device 106.

ステップS652では、ストリーミング再生部341は、ステップS651において取得したストリーミングデータをストリーミング配信映像画面1700(図18参照)に表示し、再生する。 In step S652, the streaming reproduction unit 341 displays the streaming data acquired in step S651 on the streaming distribution video screen 1700 (see FIG. 18) and reproduces it.

図18には、クライアント端末107においてストリーミングデータを再生するための画面であるストリーミング配信映像画面1700の構成が示されており、ストリーミング配信映像画面1700は、ストリーミングデータを表示するストリーミング再生エリア1701、及び表示されているストリーミングデータを最新のものに更新する更新ボタン1702を備えている。 FIG. 18 shows the configuration of a streaming distribution video screen 1700 which is a screen for reproducing streaming data on the client terminal 107. The streaming distribution video screen 1700 includes a streaming reproduction area 1701 for displaying streaming data, and An update button 1702 for updating the displayed streaming data to the latest one is provided.

更新ボタン1702を押下することにより、ネットワーク遅延によって、ストリーミングデータが遅れてしまった場合でも、すぐに最新の映像に更新することができる。 By pressing the update button 1702, even if the streaming data is delayed due to network delay, the latest video can be immediately updated.

図8に示すフローチャートを用いて、ストリーミング配信終了処理について説明を行う。 The streaming distribution end processing will be described with reference to the flowchart shown in FIG.

ステップS700では、コミュニケーション画面1300のストリーミング配信開始/終了ボタン1311が押下されると、ストリーミング配信開始./終了コマンド1000(図11参照)を生成し、送受信部302は、入室しているルームに対してストリーミング配信開始/終了コマンド1000を送信する。ここでは、終了を示すコマンドが送信される。 In step S700, when the streaming distribution start/end button 1311 on the communication screen 1300 is pressed, the streaming distribution start/end command 1000 (see FIG. 11) is generated, and the transmission/reception unit 302 sends the received room to the room. And transmits a streaming distribution start/end command 1000. Here, the command indicating the end is transmitted.

ステップS701では、送受信部326は、ステップS700において送信されたストリーミング配信開始./終了コマンド1000を受信する。 In step S701, the transmission/reception unit 326 receives the streaming distribution start/end command 1000 transmitted in step S700.

ステップS702では、ルーム管理部321は、図6のS602のループ処理を停止する。 In step S702, the room management unit 321 stops the loop processing of S602 in FIG.

ステップS703では、ルーム管理部321は、ルームに配信されている映像/音声データをブラウザのバッファ領域に保存する。 In step S703, the room management unit 321 saves the video/audio data distributed to the room in the buffer area of the browser.

ステップS704では、ルーム管理部321は、ブラウザのバッファ領域に保存された5秒分のデータをファイルに書き出し、保存する。 In step S704, the room management unit 321 writes the data for 5 seconds saved in the buffer area of the browser to a file and saves it.

ステップS705では、ルーム管理部321は、ストリーミングの終了を示すテキストファイルを書き出し、保存する。 In step S705, the room management unit 321 writes and saves a text file indicating the end of streaming.

このストリーミングの終了を示すテキストファイルは、ストリーミングデータの変換処理において利用する(図9にて、詳細は後述)。 The text file indicating the end of this streaming is used in the conversion process of streaming data (details will be described later with reference to FIG. 9).

ステップS706では、映像/音声データ変換部323は、ファイルに保存されたデータをストリーミングデータに変換する。 In step S706, the video/audio data conversion unit 323 converts the data stored in the file into streaming data.

ステップS707は、変換データアップロード部324は、ストリーミングデータアップロードAPI920を生成し、ストリーミングデータアップロードAPI920を利用して、ストリーミングデータをデータ管理システム104に送信する。 In step S707, the conversion data upload unit 324 generates the streaming data upload API 920, and uses the streaming data upload API 920 to transmit the streaming data to the data management system 104.

ステップS708では、送受信部332は、ステップS707においてデータ生成装置105から送信されたストリーミングデータアップロードAPI920を受信する。 In step S708, the transmission/reception unit 332 receives the streaming data upload API 920 transmitted from the data generation device 105 in step S707.

ステップS709では、データストレージ部331は、ステップS708で受信したストリーミングデータアップロードAPI920からストリーミングデータ取得し、記憶装置106に保存する。 In step S709, the data storage unit 331 acquires streaming data from the streaming data upload API 920 received in step S708, and stores the streaming data in the storage device 106.

ステップS710では、データストレージ部331は、ストリーミングアップロードAPIレスポンス921を生成し、送受信部332によって、データ生成装置105へ送信する。 In step S710, the data storage unit 331 generates the streaming upload API response 921, and the transmission/reception unit 332 transmits the streaming upload API response 921 to the data generation device 105.

ステップS711では、送受信部326は、ストリーミングアップロードAPIレスポンス921を受信する。 In step S711, the transmission/reception unit 326 receives the streaming upload API response 921.

図9に示すフローチャートを用いてストリーミングデータ変換処理について説明する。 The streaming data conversion process will be described with reference to the flowchart shown in FIG.

ステップS800では、映像/音声データ変換部323は、ファイルに保存した映像/音声データをHttpLiveStreaming(以下、HLS)形式に変換する。 In step S800, the video/audio data conversion unit 323 converts the video/audio data stored in the file into the HttpLiveStreaming (hereinafter, HLS) format.

ファイルに保存した映像/音声データのファイルの一例として、図12の映像・音声データ1100に示すようにファイル名をテナントID、ルームID、配信ID、及び連続した番号で構成する。 As an example of the video/audio data file stored in the file, as shown in the video/audio data 1100 of FIG. 12, the file name is composed of a tenant ID, a room ID, a distribution ID, and a continuous number.

変換によって、一定の再生時間に分割された映像/音声データのMPEG2-TS形式のファイル(以下、tsファイル)群とtsファイルの再生順など、再生するための設定情報が記述されたM3U形式のファイル(以下、m3u8ファイル)が生成される。 A M3U format file that describes setting information for playback, such as a group of MPEG2-TS format files (hereinafter referred to as ts files) of video/audio data that have been divided into fixed playback times by conversion and the playback order of ts files. A file (hereinafter, m3u8 file) is generated.

M3U形式のファイルの一例として、図12の変換データ1101に示すようにファイル名をテナントID、ルームID、及び配信IDで構成する。 As an example of the M3U format file, the file name is composed of a tenant ID, a room ID, and a distribution ID as shown in the conversion data 1101 of FIG.

ステップS801では、映像/音声データ変換部323は、m3u8ファイルに記述されている「#EXT-X-MEDIA-SEQUENCE」、「#EXT-X-DISCOUNTINUITYSEQUENCE」命令の値を1足した値に変更する。 In step S801, the video/audio data conversion unit 323 changes the value of the “#EXT-X-MEDIA-SEQUENCE” and “#EXT-X-DISCOUNTINUITYSEQUENCE” commands described in the m3u8 file to one. ..

この2つの命令は、m3u8ファイルに記述されているtsファイル群が、ストリーミングデータの何番目であるかを示す命令である。 These two commands are commands that indicate the order of the streaming data in the ts file group described in the m3u8 file.

「#EXT-X-MEDIA-SEQUENCE」の値は、データ変換時に更新されるが、「#EXT-X-DISCOUNTINUITYSEQUENCE」は、命令自体がデータ変換時に記述されない。 The value of "#EXT-X-MEDIA-SEQUENCE" is updated at the time of data conversion, but the instruction itself of "#EXT-X-DISCOUNTINUITYSEQUENCE" is not described at the time of data conversion.

本実施形態では、ストリーミング配信をリアルタイム行うために、細かく分割した映像/音声データをストリーミングデータに変換する必要がある。 In this embodiment, in order to perform streaming distribution in real time, it is necessary to convert the finely divided video/audio data into streaming data.

分割した映像/音声データを含むファイルの一例として、図12の変換データ1102に示すようにファイル名をテナントID、、ルームID、配信ID、及び連続した番号で構成する。 As an example of the file including the divided video/audio data, as shown in the conversion data 1102 in FIG. 12, the file name is composed of a tenant ID, a room ID, a distribution ID, and a continuous number.

細かく分割した映像/音声データに変換する場合には、「#EXT-X-DISCOUNTINUITYSEQUENCE」命令がHLS形式のファイルとして必須となるため、独自に追加、更新する必要がある。 When converting to finely divided video/audio data, the “#EXT-X-DISCOUNTINUITYSEQUENCE” command is required as an HLS format file, so it is necessary to add or update it independently.

ステップS802では、、映像/音声データ変換部323は、図8のS705で生成される、ストリーミングの終了を示すテキストファイルが存在するか判定を行う。 In step S802, the video/audio data conversion unit 323 determines whether there is a text file generated in step S705 of FIG. 8 and indicating the end of streaming.

ステップS803では、、映像/音声データ変換部323は、m3u8ファイルに記述されているデータの終了を示す「#EXT-X-ENDLIST」命令を削除する。 In step S803, the video/audio data conversion unit 323 deletes the “#EXT-X-ENDLIST” command indicating the end of the data described in the m3u8 file.

生成されたm3u8ファイルには、データの終了を示す「#EXT-X-ENDLIST」命令が記述される。この命令が記述されていると、ストリーミングが終了とみなされるため、クライアント端末107でのストリーミング再生が停止してしまう。 In the generated m3u8 file, the “#EXT-X-ENDLIST” command indicating the end of data is described. If this command is described, it is considered that the streaming has ended, so that the streaming reproduction on the client terminal 107 is stopped.

本実施形態では、細かく分割した映像/音声データを繰り返し変換し、m3u8ファイルを更新することで、クライアント端末107での再生を実現する。 In the present embodiment, reproduction in the client terminal 107 is realized by repeatedly converting finely divided video/audio data and updating the m3u8 file.

そのため、本実施形態におけるストリーミング配信終了の処理が行われるまでの間、ストリーミング再生を継続させるには、独自の処理によって、「#EXT-X-ENDLIST」命令をm3u8ファイルから消去する必要がある。 Therefore, in order to continue the streaming reproduction until the processing of ending the streaming distribution in this embodiment is performed, it is necessary to delete the “#EXT-X-ENDLIST” command from the m3u8 file by a unique process.

m3u8ファイルの構造の一例として、図12のm3u8ファイルの構造1103に示されており、図12では、m3u8ファイルのファイル構造の一例とm3u8ファイルを形成する各命令の説明である。 An example of the structure of the m3u8 file is shown in the m3u8 file structure 1103 in FIG. 12. In FIG. 12, an example of the file structure of the m3u8 file and each instruction that forms the m3u8 file are described.

ステップS804では、データ削除部325は、ストリーミングデータのアップロードが完了後、本実施形態のストリーミングデータ変換の入力ファイル、出力ファイルを削除する。データ生成装置105のハードディスク容量を圧迫しないための処理である。 In step S804, the data deletion unit 325 deletes the input file and the output file of the streaming data conversion of this embodiment after the upload of the streaming data is completed. This is processing for preventing the hard disk capacity of the data generator 105 from being pressed.

以上、実施形態について示したが、本発明は、例えば、システム、方法、プログラムもしくは記録媒体等としての実施態様をとることが可能である。 Although the embodiment has been described above, the present invention can be implemented as a system, a method, a program, a recording medium, or the like.

具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。 Specifically, it may be applied to a system composed of a plurality of devices, or may be applied to an apparatus composed of one device.

また、本発明におけるプログラムは、図4乃至9に示すフローチャートの処理方法をコンピュータが実行可能なプログラムであり、本発明の記憶媒体は図4乃至9の処理方法をコンピュータが実行可能なプログラムが記憶されている。なお、本発明におけるプログラムは図4乃至9の各装置の処理方法ごとのプログラムであってもよい。 Further, the program according to the present invention is a program that allows the computer to execute the processing method of the flowcharts shown in FIGS. 4 to 9, and the storage medium according to the present invention stores the program to which the computer can execute the processing method shown in FIGS. Has been done. The program in the present invention may be a program for each processing method of each device in FIGS.

以上のように、前述した実施形態の機能を実現するプログラムを記録した記録媒体を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムを読み出し、実行することによっても本発明の目的が達成されることは言うまでもない。 As described above, the recording medium recording the program that realizes the functions of the above-described embodiments is supplied to the system or apparatus, and the computer (or CPU or MPU) of the system or apparatus executes the program stored in the recording medium. It goes without saying that the object of the present invention can also be achieved by reading and executing.

この場合、記録媒体から読み出されたプログラム自体が本発明の新規な機能を実現することになり、そのプログラムを記録した記録媒体は本発明を構成することになる。 In this case, the program itself read from the recording medium realizes the novel function of the present invention, and the recording medium recording the program constitutes the present invention.

プログラムを供給するための記録媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、DVD−ROM、磁気テープ、不揮発性のメモリカード、ROM、EEPROM、シリコンディスク等を用いることが出来る。 As a recording medium for supplying the program, for example, a flexible disk, hard disk, optical disk, magneto-optical disk, CD-ROM, CD-R, DVD-ROM, magnetic tape, non-volatile memory card, ROM, EEPROM, silicon. A disk or the like can be used.

また、コンピュータが読み出したプログラムを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。 Further, not only the functions of the above-described embodiments are realized by executing the program read by the computer, but also the OS (operating system) running on the computer is actually executed based on the instructions of the program. It goes without saying that a case where a part or all of the processing is performed and the functions of the above-described embodiments are realized by the processing is also included.

さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。 Furthermore, after the program read from the recording medium is written in the memory provided in the function expansion board inserted in the computer or the function expansion unit connected to the computer, the function expansion board is instructed based on the instruction of the program code. Needless to say, this also includes the case where the CPU or the like included in the function expansion unit performs some or all of the actual processing and the functions of the above-described embodiments are realized by the processing.

また、本発明は、複数の機器から構成されるシステムに適用しても、ひとつの機器から成る装置に適用しても良い。 Further, the present invention may be applied to a system including a plurality of devices or an apparatus including a single device.

また、本発明は、システムあるいは装置にプログラムを供給することによって達成される場合にも適用できることは言うまでもない。 Further, it goes without saying that the present invention can be applied to the case where it is achieved by supplying a program to a system or an apparatus.

この場合、本発明を達成するためのプログラムを格納した記録媒体を該システムあるいは装置に読み出すことによって、そのシステムあるいは装置が、本発明の効果を享受することが可能となる。 In this case, by reading the recording medium storing the program for achieving the present invention into the system or device, the system or device can enjoy the effects of the present invention.

さらに、本発明を達成するためのプログラムをネットワーク上のサーバ、データベース等から通信プログラムによりダウンロードして読み出すことによって、そのシステムあるいは装置が、本発明の効果を享受することが可能となる。 Furthermore, by downloading and reading a program for achieving the present invention from a server, a database or the like on a network using a communication program, the system or apparatus can enjoy the effects of the present invention.

なお、上述した各実施形態およびその変形例を組み合わせた構成も全て本発明に含まれるものである。 It should be noted that the present invention also includes all configurations that combine the above-described embodiments and modifications thereof.

100 クライアント端末
101 クライアント端末
102 ネットワーク
103 通信サーバ
104 データ管理システム
105 データ生成装置
106 記憶装置
107 クライアント端末
100 Client Terminal 101 Client Terminal 102 Network 103 Communication Server 104 Data Management System 105 Data Generation Device 106 Storage Device 107 Client Terminal

Claims (2)

端末間で通信データを中継する通信サーバと情報処理装置とが通信可能なように接続された情報処理システムであって、
前記通信サーバは、
前記端末間で行われている通信データを情報処理装置へ送信する送信手段
を備え、
前記情報処理装置は、
前記端末以外の所定の条件を満たす端末に対して、前記送信手段により送信された通信データの要求を受け付ける受付手段
を備えたことを特徴とする情報処理システム。
An information processing system in which a communication server that relays communication data between terminals and an information processing apparatus are communicably connected to each other,
The communication server is
A transmission means for transmitting the communication data between the terminals to the information processing device,
The information processing device,
An information processing system comprising: a reception unit that receives a request for communication data transmitted by the transmission unit to a terminal that satisfies a predetermined condition other than the terminal.
端末間で通信データを中継する通信サーバと情報処理装置とが通信可能なように接続された情報処理システムの制御方法であって、
前記通信サーバは、
前記端末間で行われている通信データを情報処理装置へ送信する送信ステップ
を実行し、
前記情報処理装置は、
前記端末以外の所定の条件を満たす端末に対して、前記送信ステップにより送信された通信データの要求を受け付ける受付ステップ
を実行することを特徴とする情報処理システムの制御方法。
A method for controlling an information processing system in which a communication server relaying communication data between terminals and an information processing device are connected so as to be communicable,
The communication server is
Performing a transmitting step of transmitting communication data performed between the terminals to the information processing device,
The information processing device,
A method of controlling an information processing system, comprising: executing a receiving step of receiving a request for communication data transmitted in the transmitting step, to a terminal that satisfies a predetermined condition other than the terminal.
JP2018248348A 2018-12-28 2018-12-28 Information processing device, information processing system, control method, and program Active JP7319513B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018248348A JP7319513B2 (en) 2018-12-28 2018-12-28 Information processing device, information processing system, control method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018248348A JP7319513B2 (en) 2018-12-28 2018-12-28 Information processing device, information processing system, control method, and program

Publications (2)

Publication Number Publication Date
JP2020107271A true JP2020107271A (en) 2020-07-09
JP7319513B2 JP7319513B2 (en) 2023-08-02

Family

ID=71449227

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018248348A Active JP7319513B2 (en) 2018-12-28 2018-12-28 Information processing device, information processing system, control method, and program

Country Status (1)

Country Link
JP (1) JP7319513B2 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015166573A1 (en) * 2014-05-01 2015-11-05 貴弘 市橋 Live broadcast system
US20160266730A1 (en) * 2013-10-29 2016-09-15 Nec Europe Ltd. Method and system for recording a multiuser web session and replaying a multiuser web session

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160266730A1 (en) * 2013-10-29 2016-09-15 Nec Europe Ltd. Method and system for recording a multiuser web session and replaying a multiuser web session
WO2015166573A1 (en) * 2014-05-01 2015-11-05 貴弘 市橋 Live broadcast system

Also Published As

Publication number Publication date
JP7319513B2 (en) 2023-08-02

Similar Documents

Publication Publication Date Title
US10887657B2 (en) Message transmission method, device and storage medium for media files
US9055193B2 (en) System and method of a remote conference
CN107534704A (en) Message processing device, information processing method and message handling program
WO2015117513A1 (en) Video conference control method and system
JP2014075116A (en) Information processor, program and conference system
JP7453576B2 (en) Information processing system, its control method and program.
EP1708456A1 (en) Media burst control system for multimedia, program, recording medium, media server and terminal
JP6802477B2 (en) Information processing system, information processing device, its control method and program
JP7319513B2 (en) Information processing device, information processing system, control method, and program
EP3952302A1 (en) Communication system, method for communicating to share images, and carrier means
JP7307306B2 (en) Information processing device, information processing system, control method, and program
JP4413114B2 (en) Electronic conference record data processing method
JP6442749B2 (en) Information processing apparatus, information processing system, control method thereof, and program
JP6703259B2 (en) Information processing system, conference server, control method thereof, and program
JP5322094B2 (en) VoD system for client-controlled video communication terminals
JP7138217B2 (en) TERMINAL DEVICE, COMMUNICATION SYSTEM, CONTROL METHOD AND PROGRAM THEREOF
US9525901B2 (en) Distribution management apparatus for distributing data content to communication devices, distribution system, and distribution management method
JP7141143B2 (en) online meeting system
JP7024628B2 (en) Conference system, terminal device, conference system control method, terminal device control method
KR102402600B1 (en) Method for creating multidedia content through reconstruction of sound and content managing server
JP2020108105A (en) Information processing apparatus, information processing system, control method, and program
JP6912440B2 (en) Communication system, its control method and program
KR101983837B1 (en) A method and system for producing an image based on a user-feedbackable bots, and a non-transient computer-readable recording medium
JP2017151889A (en) Information processing device and server device used in web conference system, control method for those, and program
JP2019021248A (en) Information processing device, information processing system, control method thereof and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211209

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220920

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230410

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230620

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230703

R151 Written notification of patent or utility model registration

Ref document number: 7319513

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151