JP2020107271A - Information processing device, information processing system, control method, and program - Google Patents
Information processing device, information processing system, control method, and program Download PDFInfo
- Publication number
- JP2020107271A JP2020107271A JP2018248348A JP2018248348A JP2020107271A JP 2020107271 A JP2020107271 A JP 2020107271A JP 2018248348 A JP2018248348 A JP 2018248348A JP 2018248348 A JP2018248348 A JP 2018248348A JP 2020107271 A JP2020107271 A JP 2020107271A
- Authority
- JP
- Japan
- Prior art keywords
- data
- streaming
- information processing
- room
- communication
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims description 37
- 238000000034 method Methods 0.000 title claims description 17
- 230000006854 communication Effects 0.000 claims abstract description 62
- 238000004891 communication Methods 0.000 claims abstract description 61
- 230000005540 biological transmission Effects 0.000 claims description 21
- 238000013523 data management Methods 0.000 abstract description 20
- 238000012384 transportation and delivery Methods 0.000 abstract description 15
- 230000007246 mechanism Effects 0.000 abstract description 2
- 238000009826 distribution Methods 0.000 description 56
- 230000006870 function Effects 0.000 description 37
- 238000006243 chemical reaction Methods 0.000 description 23
- 238000012545 processing Methods 0.000 description 22
- 238000007726 management method Methods 0.000 description 18
- 238000002360 preparation method Methods 0.000 description 18
- 230000004913 activation Effects 0.000 description 17
- 238000013500 data storage Methods 0.000 description 15
- 230000004044 response Effects 0.000 description 15
- 238000003860 storage Methods 0.000 description 14
- 230000008569 process Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 11
- 238000003672 processing method Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000003825 pressing Methods 0.000 description 3
- 238000012217 deletion Methods 0.000 description 2
- 230000037430 deletion Effects 0.000 description 2
- 230000007175 bidirectional communication Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000005315 distribution function Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Abstract
Description
本発明は、データのやり取りにより行うコミュニケーションの方法に関する。 The present invention relates to a communication method performed by exchanging data.
動画(映像、音声)を双方向に送受信してコミュニケーションをとることができるシステム(以後、本システム)がある(例えば、特許文献1参照)。 2. Description of the Related Art There is a system (hereinafter referred to as the present system) capable of bidirectionally transmitting and receiving moving images (video and audio) (see, for example, Patent Document 1).
このようなシステムにおいて、コミュニケーションを行う端末同士は、サーバを経由して通信することで、複数人による動画(映像、音声)のやりとりを行うことができるようなものも存在する(例えば、WebRTC等)。 In such a system, there are terminals that can communicate with each other via a server so that a plurality of people can exchange moving images (video, audio) (for example, WebRTC, etc.). ).
このようなシステムでは、サーバに接続するクライアントはサーバに対して映像または音声のストリームを送信する必要がある。 In such a system, a client connecting to the server needs to send a video or audio stream to the server.
サーバは、複数のクライアントから送信された映像または音声を1つのストリームにまとめ、接続しているすべてのクライアントにまとめたストリームを送信することで、複数人による動画(映像、音声)のやり取りを実現している。 The server collects video or audio sent from multiple clients into one stream and sends the combined stream to all connected clients, enabling multiple people to exchange video (video, audio). doing.
また、ユーザAとユーザBとが動画(映像、音声)によるコミュニケーションを行い、複数人の閲覧のみのユーザが、ユーザAとユーザBとのコミュニケーションの内容を閲覧するというような場合であっても、ユーザAとユーザBとのコミュニケーションに必要のない、閲覧のみのユーザの映像または音声が、すべてのユーザに配信されるため、通信量が増大する。 Further, even in a case where the user A and the user B communicate with each other by a moving image (video, audio), and a plurality of browsing-only users browse the contents of the communication between the user A and the user B. Since the video or audio of the user who is browsing only, which is not necessary for the communication between the user A and the user B, is distributed to all the users, the communication amount increases.
これにより、システムによっては、通信回線の状況に応じて、映像の画質を自動的に調整し、双方向通信を行うという特性を有するものがあり、通信量の増大により、通信回線のデータ転送速度が低い、通信帯域が狭い場合には、映像の画質が落ち、ブロックノイズが発生して、やり取りしている映像が見えづらくなることがある。 As a result, some systems have the characteristic of automatically adjusting the image quality of video according to the status of the communication line and performing bidirectional communication. Due to the increase in communication volume, the data transfer rate of the communication line is increased. When the communication bandwidth is low and the communication band is narrow, the image quality of the image may be deteriorated, block noise may occur, and the exchanged image may be difficult to see.
そこで、本発明では、ユーザのコミュニケーションを効果的に行うことが可能な仕組みを提供することを目的とする。 Therefore, it is an object of the present invention to provide a mechanism that enables effective user communication.
上記目的を達成するための本発明は、端末間で通信データを中継する通信サーバと情報処理装置とが通信可能なように接続された情報処理システムであって、前記通信サーバは、前記端末間で行われている通信データを情報処理装置へ送信する送信手段を備え、前記情報処理装置は、前記端末以外の所定の条件を満たす端末に対して、前記送信手段により送信された通信データの要求を受け付ける受付手段を備えたことを特徴とする。 The present invention for achieving the above object is an information processing system in which a communication server that relays communication data between terminals and an information processing apparatus are communicably connected to each other, wherein the communication server And a request for communication data transmitted by the transmitting unit to a terminal other than the terminal that satisfies a predetermined condition. It is characterized by comprising a receiving means for receiving
本発明によれば、ユーザのコミュニケーションを効果的に行うことができる、という効果を奏する。 According to the present invention, there is an effect that user communication can be effectively performed.
図1を利用して本実施形態における情報処理システムの概略構成について記述する。 A schematic configuration of the information processing system according to the present embodiment will be described with reference to FIG.
本発明に関わる情報処理システムの概略構成の一例として、情報処理システムは、クライアント端末100、クライアント端末101、ネットワーク102、通信サーバ103、データ管理システム104、クライアント端末107で構成されており、それぞれネットワーク102を介して、通信可能なように接続されている。
As an example of a schematic configuration of an information processing system according to the present invention, the information processing system includes a
また、データ管理システム104は、データ生成装置105、及び記憶装置106を備えている。
The
クライアント端末100は、本情報処理システムのクライアント機能を提供し、ログイン画面(詳細後述)、及びコミュニケーション画面(詳細後述)を出力する。
The
クライアント端末101は、本情報処理システムのクライアント機能を提供し、ログイン画面(詳細後述)、ルーム選択画面(詳細後述)、及びコミュニケーション画面(詳細後述)を出力する。
The
通信サーバ103は、外部のプラットフォームであり、WebRTC技術を利用した複数人での音声、映像などのリアルタイム通信機能を提供する。
The
データ管理システム104は、本情報処理システムで利用するデータを管理するシステムであり、例えば、クラウド基盤が想定される。
The
データ生成装置105は、データ管理システム104上で動作し、本情報処理システムのストリーミング配信機能を持つ。
The
記憶装置106は、データ管理システム104上で動作し、本除法処理システムのストリーミングデータ用ストレージ機能を持つ。
The
クライアント端末107は、本情報処理システムのストリーミング再生用のクライアント機能を提供し、ログイン画面(詳細後述)、及びストリーミング再生画面(詳細後述)を出力する。
The
次に、図2を用いて、クライアント端末100、クライアント端末101、及びクライアント端末107のハードウェアの概略構成について説明を行う。
Next, a schematic configuration of hardware of the
図2に示すように、各装置は、システムバス204を介してCPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203、入力コントローラ205、ビデオコントローラ206、メモリコントローラ207、よび通信I/Fコントローラ208が接続される。
As shown in FIG. 2, each device includes a CPU (Central Processing Unit) 201, a ROM (Read Only Memory) 202, a RAM (Random Access Memory) 203, an
CPU201は、システムバス204に接続される各デバイスやコントローラを統括的に制御する。
The
ROM202あるいは外部メモリ211は、CPU201が実行する制御プログラムであるBIOS(Basic Input/Output System)やOS(Operating System)や、本情報処理方法を実現するためのコンピュータ読み取り実行可能なプログラムおよび必要な各種データ(データテーブルを含む)を保持している。
The
RAM203は、CPU201の主メモリ、ワークエリア等として機能する。CPU201は、処理の実行に際して必要なプログラム等をROM202あるいは外部メモリ211からRAM203にロードし、ロードしたプログラムを実行することで各種動作を実現する。
The
入力コントローラ205は、キーボードや不図示のマウス等のポインティングデバイス等の入力デバイス209からの入力を制御する。
The
入力装置がタッチパネルの場合、ユーザがタッチパネルに表示されたアイコンやカーソルやボタンに合わせて押下(指等でタッチ)することにより、各種の指示を行うことができることとする。 When the input device is a touch panel, the user can give various instructions by pressing (touching with a finger or the like) in accordance with an icon, a cursor, or a button displayed on the touch panel.
また、タッチパネルは、マルチタッチスクリーンなどの、複数の指でタッチされた位置を検出することが可能なタッチパネルであってもよい。 Further, the touch panel may be a touch panel such as a multi-touch screen capable of detecting a position touched by a plurality of fingers.
ビデオコントローラ206は、ディスプレイ210などの外部出力装置への表示を制御する。
The
ディスプレイは本体と一体になったノート型パソコンのディスプレイも含まれるものとする。 The display shall include the display of a laptop computer integrated with the main body.
なお、外部出力装置はディスプレイに限ったものははく、例えばプロジェクタであってもよい。また、前述のタッチ操作を受け付け可能な装置については、入力装置も提供する。 The external output device is not limited to the display, and may be a projector, for example. An input device is also provided for the device that can accept the touch operation described above.
なお、ビデオコントローラ206は、表示制御を行うためのビデオメモリ(VRAM)を制御することが可能で、ビデオメモリ領域としてRAM203の一部を利用することもできるし、別途専用のビデオメモリを設けることも可能である。
Note that the
メモリコントローラ207は、外部メモリ211へのアクセスを制御する。外部メモリとしては、ブートプログラム、各種アプリケーション、フォントデータ、ユーザファイル、編集ファイル、および各種データ等を記憶する外部記憶装置(ハードディスク)、フレキシブルディスク(FD)、或いはPCMCIAカードスロットにアダプタを介して接続されるコンパクトフラッシュ(登録商標)メモリ等を利用可能である。
The
通信I/Fコントローラ208は、ネットワークを介して外部機器と接続・通信するものであり、ネットワークでの通信制御処理を実行する。例えば、TCP/IPを用いた通信やISDNなどの電話回線、および携帯電話の3G回線を用いた通信が可能である。
The communication I/
尚、CPU201は、例えばRAM203内の表示情報用領域へアウトラインフォントの展開(ラスタライズ)処理を実行することにより、ディスプレイ210上での表示を可能としている。また、CPU201は、ディスプレイ210上の不図示のマウスカーソル等でのユーザ指示を可能とする。
Note that the
カメラコントローラ212は、カメラ214による撮影を制御する。カメラ214によって撮影することにより得られた画像は、外部メモリ211やROM202等の記憶領域へ記憶される。
The
音声コントローラ213は、マイク/スピーカ215による発音や集音の制御を行う。マイク/スピーカ215に対して発せられた音を取得して、音声データとして外部メモリ211やROM202等の記憶領域へ記憶したり、音量を調節して発音することができる。
The
尚、通信サーバ103、及びデータ管理システム104も、ほぼ同様な構成を備えるため、説明は省略する。
Note that the
次に、図3を用いて情報処理システムにおける各機能の概略について説明を行うが、各機能について、後述するフローチャートと合わせて説明を行う。 Next, an outline of each function in the information processing system will be described with reference to FIG. 3, and each function will be described together with a flowchart described later.
クライアント端末100は、ログイン部300、ルーム管理部301、及び送受信部302を備えており、ログイン部300は、クライアント端末100における本情報処理システムへのログイン機能を備えている。
The
ルーム管理部301は、通信サーバ103を利用した音声、映像などをリアルタイムでやり取りしコミュニケーションを行う空間(以後、ルーム)への入室および退室機能を備えている。
The
送受信部302は、他の装置等と種々のデータのやり取りを行う機能を備えている。
The transmission/
また、クライアント端末100を起動したユーザが発した声などの音声を、入室したルームへ配信する機能を備えている。、データ配信起動API900(図10参照)を生成し、データ管理システム104に対して送信する機能を備えている
ログイン部310は、クライアント端末101における本情報処理システムへのログイン機能を備えている。
Further, it has a function of delivering a voice such as a voice uttered by a user who has activated the
ルーム管理部311は、ルームへの入室および退室機能を備え、また、クライアント端末101を起動したユーザが発した声などの音声を、入室したルームへ配信する機能を備えている。
The
データ生成装置105は、ログイン部320、ルーム管理部321、映像/音声データ保存部322、映像/音声データ変換部323、変換データアップロード部324、データ削除部325、及び送受信部326を備えている。
The
ログイン部320は、データ生成装置105における本情報処理システムへのログイン機能を備えている。
The
ルーム管理部321は、ルームへの入室および退室機能を備え、映像/音声データ保存部322は、ルームに配信されている映像/音声データを取得し、保存する機能を備えている。
The
映像/音声データ変換部323は、映像/音声データ保存部322によって保存したデータをストリーミング再生可能なデータに変換する機能を持つ。
The video/audio
変換データアップロード部324は、ストリーミングデータアップロードAPI920を生成し、ストリーミングデータアップロードAPI920を利用して、映像/音声データ変換部323によって変換したストリーミングデータを記憶装置106へ送信する機能を備えている。
The conversion data upload
データ削除部325は、映像/音声データ変換部323および変換データアップロード部324で保存、変換したデータを削除する機能を備えている
送受信部326は、他の装置等と種々のデータのやり取りを行う機能を備えている。
The
データ管理システム104は、起動部330、データストレージ部331、及び送受信部332を備えている。
The
起動部330は、クライアント端末100のルーム管理部301において送信されたデータ配信起動API900を受信し、ストリーミング配信準備API910(図10参照)を生成し、データ生成装置105に対してストリーミング配信準備API910を送信する機能を備えている。
The
データストレージ部331は、本情報処理システムにおいて生成されたストリーミングデータを保存する機能を備えている。
The
送受信部332は、他の装置等と種々のデータのやり取りを行う機能を備えている。
The transmission/
クライアント端末107は、ログイン部340、及びストリーミング再生部341を備えている。
The
ログイン部340は、クライアント端末101における本情報処理システムへのログイン機能を備えている。
The
ストリーミング再生部341は、記憶装置106に保存されているストリーミングデータを再生する機能を備えている。
The streaming
図4に示すフローチャートを用いて、コミュニケーション通信処理の流れを説明する。 The flow of communication communication processing will be described using the flowchart shown in FIG.
ステップS400では、ログイン部300は、ログイン画面1200(図13参照)を出力し、ログイン画面1200に対して入力されたユーザID及びパスワード等のユーザ情報を取得して認証を行い、認証がなされると、情報処理システムへのログインがなされる。
In step S400, the
図13には、クライアント端末100に出力されるログイン画面1200の構成が示されており、ログイン画面1200は、ユーザIDを入力するためのユーザID入力欄1201、パスワードを入力するためのパスワード入力欄1202、及びログインの指示を行うために押下するためのログインボタン1203を備えている。
FIG. 13 shows the configuration of a
ユーザは、ログインボタン1203を押下すると、ユーザID入力欄1201及びパスワード入力欄1202に入力されたユーザID及びパスワードを用いて認証を行い、認証がなされると、情報処理システムへのログインがなされる。
When the user presses the
ステップS401では、ルーム管理部301は、コミュニケーション画面1300(図13参照)を出力する。
In step S401, the
図14には、クライアント端末100に出力されるコミュニケーション画面1300の構成が示されており、コミュニケーション画面1300は、ストリーミング配信開始/終了ボタン1311、ルーム選択リストボックス1312、ルーム入室ボタン1313、及びルーム退室ボタン1314を備えている。
FIG. 14 shows the configuration of a
ストリーミング配信開始/終了ボタン1311を押下することにより、ストリーミング配信を開始することができる。ストリーミング配信が開始するとボタンが紫色に変わる。
By pressing the streaming distribution start/
一方、ストリーミング配信実行中の状態でストリーミング配信開始/終了ボタン1311を押下して、ストリーミング配信を終了することができる。ストリーミング配信が終了するとボタンが黄色に変わる。
On the other hand, the streaming distribution start/
ルーム選択リストボックス1312には、入室するルームを出力選択することができ、ルーム入室ボタン1313を押下して、選択したルームへの入室ができ、ルーム退室ボタン1314を押下すると、入室しているルームから退室することができる。
In the room
本ステップでは、ルーム選択リストボックス1312に出力されたルームが選択された状態で、ルーム入室ボタン1313が押下されたことを検知すると、選択されたルームへユーザを入室させる。
In this step, when it is detected that the
ステップS402では、ルーム管理部301は、クライアント端末100で取得した音声をルームに対して配信する。
In step S402, the
ステップS403では、ルーム管理部301は、データ配信起動API900(図10参照)を生成し、データ管理システム104に送信する。
In step S403, the
図10には、データ配信起動API900の構成が示されており、データ配信起動API900は、ユーザID、及びルームIDで構成される。 FIG. 10 shows the configuration of the data distribution activation API 900, and the data distribution activation API 900 includes a user ID and a room ID.
データ配信起動API900は、クライアント端末100からデータ管理システム104に対して、データ生成装置105の起動要求を行うためのAPIである。
The data distribution activation API 900 is an API for requesting activation of the
ステップS404では、起動部330は、ステップS503においてクライアント端末100から送信されたデータ配信起動API900を受信する。
In step S404, the
ステップS405では、起動部330は、ストリーミング配信準備API910(図10参照)を生成し、データ生成装置105に送信する。
In step S405, the
図10には、ストリーミング配信準備API910の構成が示されており、ストリーミング配信準備API910は、ドメイン(例えば、ユーザIDの@以降の文字列)、及びルームIDで構成される。 FIG. 10 shows the configuration of the streaming delivery preparation API 910. The streaming delivery preparation API 910 is composed of a domain (for example, a character string after @ of the user ID) and a room ID.
ストリーミング配信準備API910は、データ管理システム104からデータ生成装置105に対して、ストリーミング配信準備要求を行うためのAPIである。
The streaming distribution preparation API 910 is an API for making a streaming distribution preparation request from the
ストリーミング配信準備は、データ生成装置105が、本情報処理システムへのログインおよびクライアント端末100と同じルームへの入室処理を指す。
The streaming distribution preparation refers to the process of the
ドメイン、及びルームIDの情報を利用することでストリーミング配信準備処理の実行ができる。 The streaming delivery preparation process can be executed by using the information of the domain and the room ID.
ステップS406では、送受信部326は、ステップS405においてデータ管理システム104からストリーミング配信準備API910を受信する。
In step S406, the transmission/
ステップS407では、ログイン部320は、ストリーミング配信準備API910のパラメーターを利用して、本情報処理システムにログインする。
In step S407, the
ステップS408では、ルーム管理部321は、ストリーミング配信準備API910のパラメーターを利用して、クライアント端末101と同じルームにデータ生成装置105を入室させる。
In step S408, the
ステップS409では、ルーム管理部321は、ストリーミング配信準備APIレスポンス911(図10参照)を生成し、送受信部326によってデータ管理システム104に返す。
In step S409, the
図10には、ストリーミング配信準備APIレスポンス911の構成が示されており、ストリーミング配信準備APIレスポンス911は、ストリーミング配信準備がなされた旨等を示すメッセージで構成される。 FIG. 10 shows the configuration of the streaming delivery preparation API response 911. The streaming delivery preparation API response 911 is composed of a message indicating that the streaming delivery preparation has been made.
ステップS410では、送受信部332は、ステップS409においてデータ生成装置105から送信されたストリーミング配信準備APIレスポンス911を受信する。
In step S410, the transmission/
ステップS411では、起動部330は、データ配信起動APIレスポンス901(図10参照)を生成し、送受信部332によって、クライアント端末100に返す。
In step S411, the
図10には、データ配信起動APIレスポンス901の構成が示されており、データ配信起動APIレスポンス901は、ストリーミング配信準備がなされた旨等を示すメッセージで構成される。 FIG. 10 shows the configuration of the data distribution activation API response 901. The data distribution activation API response 901 is composed of a message indicating that streaming distribution preparation is completed.
ステップS412では、送受信部302は、ステップS411においてデータ管理システム104から送信されたデータ配信起動APIレスポンス901を受信する。
In step S412, the transmission/
また、同様に、クライアント端末101においても、コミュニケーション通信処理を行うため、その処理の流れを図5に示すフローチャートで説明する
ステップS500では、ログイン部310によって、ログイン画面1400(図14参照)を出力し、ログイン画面1400に対して入力されたユーザID及びパスワード等のユーザ情報を取得して認証を行い、認証がなされると、情報処理システムへのログインがなされる。
Similarly, since the
図15には、クライアント端末101に出力されるログイン画面1400の構成が示されており、ログイン画面1400は、ユーザIDを入力するためのユーザID入力欄1401、パスワードを入力するためのパスワード入力欄1402、及びログインの指示を行うために押下するためのログインボタン1403を備えている。
FIG. 15 shows the configuration of a
ユーザは、ログインボタン1403を押下すると、ユーザID入力欄1401及びパスワード入力欄1402に入力されたユーザID及びパスワードを用いて認証を行い、認証がなされると、情報処理システムへのログインがなされる。
When the user presses the
ステップS501では、ルーム管理部311は、ルーム選択画面1500(図16参照)を出力する。
In step S501, the
図16には、ルーム選択画面1500の構成が示されており、ルーム選択画面1500は、ルーム選択リストボックス1501で入室するルームを選択し、ルーム入室ボタン1504を押下して、選択したルームへの入室ができる。
FIG. 16 shows the configuration of the
また、録画データアップロードボタン1503を押下して、映像データのアップロードをすることができる。 Also, the video data upload button 1503 can be pressed to upload the video data.
また、戻るボタン1502を押下すると、前に表示されていたログイン画面1400が表示される。
When the return button 1502 is pressed, the
入室がなされると、コミュニケーション画面1600(図17参照)が表示される。 When the user enters the room, a communication screen 1600 (see FIG. 17) is displayed.
図17には、コミュニケーション画面1600の構成が示されており、コミュニケーション画面1600は、ルームを退室する際に押下するためのルーム退室ボタン1601、写真撮影を行う撮影ボタン1602、録画開始/終了ボタン1603を押下すると、録画を開始することができ、再度、録画開始/終了ボタン1603を押下すると録画が終了する。
FIG. 17 shows the configuration of the
ステップS502では、ルーム管理部311は、クライアント端末101で取得した映像、音声をルームに対して配信する。
In step S502, the
図6に示すフローチャートを用いて、ストリーミング配信処理について説明を行う。 The streaming distribution process will be described with reference to the flowchart shown in FIG.
ステップS600では、コミュニケーション画面1300のストリーミング配信開始/終了ボタン1311が押下されると、ストリーミング配信開始./終了コマンド1000(図11参照)を生成し、送受信部302は、入室しているルームに対してストリーミング配信開始/終了コマンド1000を送信する。ここでは、開始を示すコマンドが送信される。
In step S600, when the streaming distribution start/
図11には、ストリーミング配信開始/終了コマンド1000の構成が示されており、ストリーミング配信開始/終了コマンド1000は、開始あるいは終了を示すコマンド、配信フラグ、及び配信IDで構成される。
FIG. 11 shows the structure of the streaming distribution start/
ストリーミング配信開始/終了コマンド1000は、クライアント端末100からデータ生成装置105に対して、ストリーミング配信の開始/終了を指示するコマンドである。
The streaming distribution start/
配信IDは、ストリーミングデータ変換処理の入力データとなる映像データおよび音声データ、また出力データとなるストリーミングデータを一意に識別するための情報である。 The distribution ID is information for uniquely identifying video data and audio data that are input data of the streaming data conversion process, and streaming data that is output data.
配信IDを入力データ、及び出力データのファイル名として利用することで、一意に管理することができる。。 By using the distribution ID as the file name of the input data and the output data, it is possible to manage uniquely. ..
ステップS601では、送受信部326は、ステップS600においてクライアント端末100から送信されたストリーミング配信開始/終了コマンド1000を受信する。
In step S601, the transmission/
ステップS602は、後続のステップS603からS614の処理を、ストリーミング配信開始./終了コマンド1000を再度受信するまで、所定間隔、例えば5秒間隔で繰り返す。
A step S602 repeats the processes of the subsequent steps S603 to S614 at a predetermined interval, for example, an interval of 5 seconds, until the streaming distribution start/
ステップS603では、ルーム管理部321は、入室しているルームの映像/音声配信のモードを判定する。フレームレート優先モードの場合、ステップS604へ処理を進め、画質優先モードの場合、ステップS606へ処理を進める。
In step S603, the
ここで、フレームレート優先モードとは、映像(動画、音声)データによりコミュニケーションを行うモードを示しており、画質優先モードとは、音声と映像は切り離して、静止画データと音声データとによりコミュニケーションを行う。 Here, the frame rate priority mode refers to a mode in which communication is performed by video (moving image, audio) data, and the image quality priority mode separates audio and video, and communicates by still image data and audio data. To do.
ステップS604では、映像/音声データ保存部322は、ルームに配信されている映像./音声データをブラウザのバッファ領域に保存する。
In step S604, the video/audio
ステップS605では、映像/音声データ保存部322は、ブラウザのバッファ領域に保存された5秒分のデータをファイルに書き出し、保存する。
In step S605, the video/audio
ステップS606では、映像/音声データ保存部322は、ルームに配信されている静止画/音声データを別々にブラウザのバッファ領域に保存する。
In step S606, the video/audio
「画質優先モード」の場合、静止画データと音声データとが分かれてルームに配信されているため、それぞれ保存する必要がある。 In the case of the “image quality priority mode”, still image data and audio data are separately delivered to the room, and thus need to be saved respectively.
ステップS607では、映像/音声データ保存部322は、ブラウザのバッファ領域に保存された5秒分のデータをファイルに書き出し、保存する。
In step S607, the video/audio
ステップS608では、映像/音声データ保存部322は、静止画データと音声データとを合成し、ファイルに保存する。
In step S608, the video/audio
ステップS609では、映像/音声データ変換部323は、ファイルに保存されたデータをストリーミングデータに変換する(図9にて、詳細は後述)。
In step S609, the video/audio
ステップS610では、変換データアップロード部324は、ストリーミングデータアップロードAPI920(図10参照)を生成し、ストリーミングデータアップロードAPI920を利用して、ストリーミングデータをデータ管理システム104に送信する。
In step S610, the conversion data upload
図10には、ストリーミングデータアップロードAPI920の構成が示されており、ストリーミングデータアップロードAPI920は、テナントID、ルームID、ファイルID、及びファイル自体のバイナリデータで構成される。
FIG. 10 shows the configuration of the streaming data upload
データ生成装置105からデータ管理システム104に対して、記憶装置106へストリーミングデータアップロード要求を行うためのAPIである。
This is an API for making a streaming data upload request from the
テナントID、ルームID、及びファイルID(相手との通信を行うために、IDが一意となるように発行される。)を利用することで、記憶装置106に保存されたストリーミングデータを一意に管理することができる。
By using the tenant ID, the room ID, and the file ID (issued so that the ID is unique in order to communicate with the other party), the streaming data stored in the
ステップS611では、送受信部332は、ステップS610においてデータ生成装置105から送信されたストリーミングデータアップロードAPI920を受信する。
In step S611, the transmission/
ステップS612では、データストレージ部331は、ストリーミングデータアップロードAPI920からストリーミングデータを取得し、記憶装置106に保存する。
In step S612, the
ステップS613では、データストレージ部331は、ストリーミングアップロードAPIレスポンス921(図10参照)をデータ生成装置105に返す。
In step S613, the
図10には、ストリーミングアップロードAPIレスポンス921の構成が示されており、ストリーミングアップロードAPIレスポンス921は、ストリーミングデータのアップロード結果を示すステータスコードで構成されている。 FIG. 10 shows the structure of the streaming upload API response 921, and the streaming upload API response 921 is composed of a status code indicating the upload result of streaming data.
ステップ614では、送受信部326は、ストリーミングアップロードAPIレスポンス921を受信する。
In step 614, the transmission/
図6のストリーミング配信処理と同時に、図7のフローチャートに示すストリーミング再生処理が行われる。 Simultaneously with the streaming distribution process of FIG. 6, the streaming reproduction process shown in the flowchart of FIG. 7 is performed.
ステップS650は、クライアント端末107は、ストリーミングデータ内に終了メッセージが存在しない間、ステップS651及びステップS652の処理を繰り返すことを示している。
Step S650 indicates that the
ステップS651では、ストリーミング再生部341は、記憶装置106からストリーミングデータを取得する。
In step S651, the streaming
ステップS652では、ストリーミング再生部341は、ステップS651において取得したストリーミングデータをストリーミング配信映像画面1700(図18参照)に表示し、再生する。
In step S652, the streaming
図18には、クライアント端末107においてストリーミングデータを再生するための画面であるストリーミング配信映像画面1700の構成が示されており、ストリーミング配信映像画面1700は、ストリーミングデータを表示するストリーミング再生エリア1701、及び表示されているストリーミングデータを最新のものに更新する更新ボタン1702を備えている。
FIG. 18 shows the configuration of a streaming
更新ボタン1702を押下することにより、ネットワーク遅延によって、ストリーミングデータが遅れてしまった場合でも、すぐに最新の映像に更新することができる。 By pressing the update button 1702, even if the streaming data is delayed due to network delay, the latest video can be immediately updated.
図8に示すフローチャートを用いて、ストリーミング配信終了処理について説明を行う。 The streaming distribution end processing will be described with reference to the flowchart shown in FIG.
ステップS700では、コミュニケーション画面1300のストリーミング配信開始/終了ボタン1311が押下されると、ストリーミング配信開始./終了コマンド1000(図11参照)を生成し、送受信部302は、入室しているルームに対してストリーミング配信開始/終了コマンド1000を送信する。ここでは、終了を示すコマンドが送信される。
In step S700, when the streaming distribution start/
ステップS701では、送受信部326は、ステップS700において送信されたストリーミング配信開始./終了コマンド1000を受信する。
In step S701, the transmission/
ステップS702では、ルーム管理部321は、図6のS602のループ処理を停止する。
In step S702, the
ステップS703では、ルーム管理部321は、ルームに配信されている映像/音声データをブラウザのバッファ領域に保存する。
In step S703, the
ステップS704では、ルーム管理部321は、ブラウザのバッファ領域に保存された5秒分のデータをファイルに書き出し、保存する。
In step S704, the
ステップS705では、ルーム管理部321は、ストリーミングの終了を示すテキストファイルを書き出し、保存する。
In step S705, the
このストリーミングの終了を示すテキストファイルは、ストリーミングデータの変換処理において利用する(図9にて、詳細は後述)。 The text file indicating the end of this streaming is used in the conversion process of streaming data (details will be described later with reference to FIG. 9).
ステップS706では、映像/音声データ変換部323は、ファイルに保存されたデータをストリーミングデータに変換する。
In step S706, the video/audio
ステップS707は、変換データアップロード部324は、ストリーミングデータアップロードAPI920を生成し、ストリーミングデータアップロードAPI920を利用して、ストリーミングデータをデータ管理システム104に送信する。
In step S707, the conversion data upload
ステップS708では、送受信部332は、ステップS707においてデータ生成装置105から送信されたストリーミングデータアップロードAPI920を受信する。
In step S708, the transmission/
ステップS709では、データストレージ部331は、ステップS708で受信したストリーミングデータアップロードAPI920からストリーミングデータ取得し、記憶装置106に保存する。
In step S709, the
ステップS710では、データストレージ部331は、ストリーミングアップロードAPIレスポンス921を生成し、送受信部332によって、データ生成装置105へ送信する。
In step S710, the
ステップS711では、送受信部326は、ストリーミングアップロードAPIレスポンス921を受信する。
In step S711, the transmission/
図9に示すフローチャートを用いてストリーミングデータ変換処理について説明する。 The streaming data conversion process will be described with reference to the flowchart shown in FIG.
ステップS800では、映像/音声データ変換部323は、ファイルに保存した映像/音声データをHttpLiveStreaming(以下、HLS)形式に変換する。
In step S800, the video/audio
ファイルに保存した映像/音声データのファイルの一例として、図12の映像・音声データ1100に示すようにファイル名をテナントID、ルームID、配信ID、及び連続した番号で構成する。 As an example of the video/audio data file stored in the file, as shown in the video/audio data 1100 of FIG. 12, the file name is composed of a tenant ID, a room ID, a distribution ID, and a continuous number.
変換によって、一定の再生時間に分割された映像/音声データのMPEG2-TS形式のファイル(以下、tsファイル)群とtsファイルの再生順など、再生するための設定情報が記述されたM3U形式のファイル(以下、m3u8ファイル)が生成される。 A M3U format file that describes setting information for playback, such as a group of MPEG2-TS format files (hereinafter referred to as ts files) of video/audio data that have been divided into fixed playback times by conversion and the playback order of ts files. A file (hereinafter, m3u8 file) is generated.
M3U形式のファイルの一例として、図12の変換データ1101に示すようにファイル名をテナントID、ルームID、及び配信IDで構成する。 As an example of the M3U format file, the file name is composed of a tenant ID, a room ID, and a distribution ID as shown in the conversion data 1101 of FIG.
ステップS801では、映像/音声データ変換部323は、m3u8ファイルに記述されている「#EXT-X-MEDIA-SEQUENCE」、「#EXT-X-DISCOUNTINUITYSEQUENCE」命令の値を1足した値に変更する。
In step S801, the video/audio
この2つの命令は、m3u8ファイルに記述されているtsファイル群が、ストリーミングデータの何番目であるかを示す命令である。 These two commands are commands that indicate the order of the streaming data in the ts file group described in the m3u8 file.
「#EXT-X-MEDIA-SEQUENCE」の値は、データ変換時に更新されるが、「#EXT-X-DISCOUNTINUITYSEQUENCE」は、命令自体がデータ変換時に記述されない。 The value of "#EXT-X-MEDIA-SEQUENCE" is updated at the time of data conversion, but the instruction itself of "#EXT-X-DISCOUNTINUITYSEQUENCE" is not described at the time of data conversion.
本実施形態では、ストリーミング配信をリアルタイム行うために、細かく分割した映像/音声データをストリーミングデータに変換する必要がある。 In this embodiment, in order to perform streaming distribution in real time, it is necessary to convert the finely divided video/audio data into streaming data.
分割した映像/音声データを含むファイルの一例として、図12の変換データ1102に示すようにファイル名をテナントID、、ルームID、配信ID、及び連続した番号で構成する。 As an example of the file including the divided video/audio data, as shown in the conversion data 1102 in FIG. 12, the file name is composed of a tenant ID, a room ID, a distribution ID, and a continuous number.
細かく分割した映像/音声データに変換する場合には、「#EXT-X-DISCOUNTINUITYSEQUENCE」命令がHLS形式のファイルとして必須となるため、独自に追加、更新する必要がある。 When converting to finely divided video/audio data, the “#EXT-X-DISCOUNTINUITYSEQUENCE” command is required as an HLS format file, so it is necessary to add or update it independently.
ステップS802では、、映像/音声データ変換部323は、図8のS705で生成される、ストリーミングの終了を示すテキストファイルが存在するか判定を行う。
In step S802, the video/audio
ステップS803では、、映像/音声データ変換部323は、m3u8ファイルに記述されているデータの終了を示す「#EXT-X-ENDLIST」命令を削除する。
In step S803, the video/audio
生成されたm3u8ファイルには、データの終了を示す「#EXT-X-ENDLIST」命令が記述される。この命令が記述されていると、ストリーミングが終了とみなされるため、クライアント端末107でのストリーミング再生が停止してしまう。
In the generated m3u8 file, the “#EXT-X-ENDLIST” command indicating the end of data is described. If this command is described, it is considered that the streaming has ended, so that the streaming reproduction on the
本実施形態では、細かく分割した映像/音声データを繰り返し変換し、m3u8ファイルを更新することで、クライアント端末107での再生を実現する。
In the present embodiment, reproduction in the
そのため、本実施形態におけるストリーミング配信終了の処理が行われるまでの間、ストリーミング再生を継続させるには、独自の処理によって、「#EXT-X-ENDLIST」命令をm3u8ファイルから消去する必要がある。 Therefore, in order to continue the streaming reproduction until the processing of ending the streaming distribution in this embodiment is performed, it is necessary to delete the “#EXT-X-ENDLIST” command from the m3u8 file by a unique process.
m3u8ファイルの構造の一例として、図12のm3u8ファイルの構造1103に示されており、図12では、m3u8ファイルのファイル構造の一例とm3u8ファイルを形成する各命令の説明である。 An example of the structure of the m3u8 file is shown in the m3u8 file structure 1103 in FIG. 12. In FIG. 12, an example of the file structure of the m3u8 file and each instruction that forms the m3u8 file are described.
ステップS804では、データ削除部325は、ストリーミングデータのアップロードが完了後、本実施形態のストリーミングデータ変換の入力ファイル、出力ファイルを削除する。データ生成装置105のハードディスク容量を圧迫しないための処理である。
In step S804, the
以上、実施形態について示したが、本発明は、例えば、システム、方法、プログラムもしくは記録媒体等としての実施態様をとることが可能である。 Although the embodiment has been described above, the present invention can be implemented as a system, a method, a program, a recording medium, or the like.
具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。 Specifically, it may be applied to a system composed of a plurality of devices, or may be applied to an apparatus composed of one device.
また、本発明におけるプログラムは、図4乃至9に示すフローチャートの処理方法をコンピュータが実行可能なプログラムであり、本発明の記憶媒体は図4乃至9の処理方法をコンピュータが実行可能なプログラムが記憶されている。なお、本発明におけるプログラムは図4乃至9の各装置の処理方法ごとのプログラムであってもよい。 Further, the program according to the present invention is a program that allows the computer to execute the processing method of the flowcharts shown in FIGS. 4 to 9, and the storage medium according to the present invention stores the program to which the computer can execute the processing method shown in FIGS. Has been done. The program in the present invention may be a program for each processing method of each device in FIGS.
以上のように、前述した実施形態の機能を実現するプログラムを記録した記録媒体を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムを読み出し、実行することによっても本発明の目的が達成されることは言うまでもない。 As described above, the recording medium recording the program that realizes the functions of the above-described embodiments is supplied to the system or apparatus, and the computer (or CPU or MPU) of the system or apparatus executes the program stored in the recording medium. It goes without saying that the object of the present invention can also be achieved by reading and executing.
この場合、記録媒体から読み出されたプログラム自体が本発明の新規な機能を実現することになり、そのプログラムを記録した記録媒体は本発明を構成することになる。 In this case, the program itself read from the recording medium realizes the novel function of the present invention, and the recording medium recording the program constitutes the present invention.
プログラムを供給するための記録媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、DVD−ROM、磁気テープ、不揮発性のメモリカード、ROM、EEPROM、シリコンディスク等を用いることが出来る。 As a recording medium for supplying the program, for example, a flexible disk, hard disk, optical disk, magneto-optical disk, CD-ROM, CD-R, DVD-ROM, magnetic tape, non-volatile memory card, ROM, EEPROM, silicon. A disk or the like can be used.
また、コンピュータが読み出したプログラムを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。 Further, not only the functions of the above-described embodiments are realized by executing the program read by the computer, but also the OS (operating system) running on the computer is actually executed based on the instructions of the program. It goes without saying that a case where a part or all of the processing is performed and the functions of the above-described embodiments are realized by the processing is also included.
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。 Furthermore, after the program read from the recording medium is written in the memory provided in the function expansion board inserted in the computer or the function expansion unit connected to the computer, the function expansion board is instructed based on the instruction of the program code. Needless to say, this also includes the case where the CPU or the like included in the function expansion unit performs some or all of the actual processing and the functions of the above-described embodiments are realized by the processing.
また、本発明は、複数の機器から構成されるシステムに適用しても、ひとつの機器から成る装置に適用しても良い。 Further, the present invention may be applied to a system including a plurality of devices or an apparatus including a single device.
また、本発明は、システムあるいは装置にプログラムを供給することによって達成される場合にも適用できることは言うまでもない。 Further, it goes without saying that the present invention can be applied to the case where it is achieved by supplying a program to a system or an apparatus.
この場合、本発明を達成するためのプログラムを格納した記録媒体を該システムあるいは装置に読み出すことによって、そのシステムあるいは装置が、本発明の効果を享受することが可能となる。 In this case, by reading the recording medium storing the program for achieving the present invention into the system or device, the system or device can enjoy the effects of the present invention.
さらに、本発明を達成するためのプログラムをネットワーク上のサーバ、データベース等から通信プログラムによりダウンロードして読み出すことによって、そのシステムあるいは装置が、本発明の効果を享受することが可能となる。 Furthermore, by downloading and reading a program for achieving the present invention from a server, a database or the like on a network using a communication program, the system or apparatus can enjoy the effects of the present invention.
なお、上述した各実施形態およびその変形例を組み合わせた構成も全て本発明に含まれるものである。 It should be noted that the present invention also includes all configurations that combine the above-described embodiments and modifications thereof.
100 クライアント端末
101 クライアント端末
102 ネットワーク
103 通信サーバ
104 データ管理システム
105 データ生成装置
106 記憶装置
107 クライアント端末
100
Claims (2)
前記通信サーバは、
前記端末間で行われている通信データを情報処理装置へ送信する送信手段
を備え、
前記情報処理装置は、
前記端末以外の所定の条件を満たす端末に対して、前記送信手段により送信された通信データの要求を受け付ける受付手段
を備えたことを特徴とする情報処理システム。 An information processing system in which a communication server that relays communication data between terminals and an information processing apparatus are communicably connected to each other,
The communication server is
A transmission means for transmitting the communication data between the terminals to the information processing device,
The information processing device,
An information processing system comprising: a reception unit that receives a request for communication data transmitted by the transmission unit to a terminal that satisfies a predetermined condition other than the terminal.
前記通信サーバは、
前記端末間で行われている通信データを情報処理装置へ送信する送信ステップ
を実行し、
前記情報処理装置は、
前記端末以外の所定の条件を満たす端末に対して、前記送信ステップにより送信された通信データの要求を受け付ける受付ステップ
を実行することを特徴とする情報処理システムの制御方法。 A method for controlling an information processing system in which a communication server relaying communication data between terminals and an information processing device are connected so as to be communicable,
The communication server is
Performing a transmitting step of transmitting communication data performed between the terminals to the information processing device,
The information processing device,
A method of controlling an information processing system, comprising: executing a receiving step of receiving a request for communication data transmitted in the transmitting step, to a terminal that satisfies a predetermined condition other than the terminal.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018248348A JP7319513B2 (en) | 2018-12-28 | 2018-12-28 | Information processing device, information processing system, control method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018248348A JP7319513B2 (en) | 2018-12-28 | 2018-12-28 | Information processing device, information processing system, control method, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020107271A true JP2020107271A (en) | 2020-07-09 |
JP7319513B2 JP7319513B2 (en) | 2023-08-02 |
Family
ID=71449227
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018248348A Active JP7319513B2 (en) | 2018-12-28 | 2018-12-28 | Information processing device, information processing system, control method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7319513B2 (en) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015166573A1 (en) * | 2014-05-01 | 2015-11-05 | 貴弘 市橋 | Live broadcast system |
US20160266730A1 (en) * | 2013-10-29 | 2016-09-15 | Nec Europe Ltd. | Method and system for recording a multiuser web session and replaying a multiuser web session |
-
2018
- 2018-12-28 JP JP2018248348A patent/JP7319513B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160266730A1 (en) * | 2013-10-29 | 2016-09-15 | Nec Europe Ltd. | Method and system for recording a multiuser web session and replaying a multiuser web session |
WO2015166573A1 (en) * | 2014-05-01 | 2015-11-05 | 貴弘 市橋 | Live broadcast system |
Also Published As
Publication number | Publication date |
---|---|
JP7319513B2 (en) | 2023-08-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10887657B2 (en) | Message transmission method, device and storage medium for media files | |
US9055193B2 (en) | System and method of a remote conference | |
CN107534704A (en) | Message processing device, information processing method and message handling program | |
WO2015117513A1 (en) | Video conference control method and system | |
JP2014075116A (en) | Information processor, program and conference system | |
JP7453576B2 (en) | Information processing system, its control method and program. | |
EP1708456A1 (en) | Media burst control system for multimedia, program, recording medium, media server and terminal | |
JP6802477B2 (en) | Information processing system, information processing device, its control method and program | |
JP7319513B2 (en) | Information processing device, information processing system, control method, and program | |
EP3952302A1 (en) | Communication system, method for communicating to share images, and carrier means | |
JP7307306B2 (en) | Information processing device, information processing system, control method, and program | |
JP4413114B2 (en) | Electronic conference record data processing method | |
JP6442749B2 (en) | Information processing apparatus, information processing system, control method thereof, and program | |
JP6703259B2 (en) | Information processing system, conference server, control method thereof, and program | |
JP5322094B2 (en) | VoD system for client-controlled video communication terminals | |
JP7138217B2 (en) | TERMINAL DEVICE, COMMUNICATION SYSTEM, CONTROL METHOD AND PROGRAM THEREOF | |
US9525901B2 (en) | Distribution management apparatus for distributing data content to communication devices, distribution system, and distribution management method | |
JP7141143B2 (en) | online meeting system | |
JP7024628B2 (en) | Conference system, terminal device, conference system control method, terminal device control method | |
KR102402600B1 (en) | Method for creating multidedia content through reconstruction of sound and content managing server | |
JP2020108105A (en) | Information processing apparatus, information processing system, control method, and program | |
JP6912440B2 (en) | Communication system, its control method and program | |
KR101983837B1 (en) | A method and system for producing an image based on a user-feedbackable bots, and a non-transient computer-readable recording medium | |
JP2017151889A (en) | Information processing device and server device used in web conference system, control method for those, and program | |
JP2019021248A (en) | Information processing device, information processing system, control method thereof and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211209 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220920 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220927 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221128 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230221 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230410 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230620 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230703 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7319513 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |