JP7196951B2 - Information processing device, program, method, system - Google Patents

Information processing device, program, method, system Download PDF

Info

Publication number
JP7196951B2
JP7196951B2 JP2021085494A JP2021085494A JP7196951B2 JP 7196951 B2 JP7196951 B2 JP 7196951B2 JP 2021085494 A JP2021085494 A JP 2021085494A JP 2021085494 A JP2021085494 A JP 2021085494A JP 7196951 B2 JP7196951 B2 JP 7196951B2
Authority
JP
Japan
Prior art keywords
screen
terminal
information processing
transmission
recording
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021085494A
Other languages
Japanese (ja)
Other versions
JP2021122151A (en
Inventor
赳 井上
喜永 加藤
淳広 藤井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Publication of JP2021122151A publication Critical patent/JP2021122151A/en
Priority to JP2022200069A priority Critical patent/JP2023026478A/en
Application granted granted Critical
Publication of JP7196951B2 publication Critical patent/JP7196951B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、情報処理装置、プログラム、方法、システムに関する。 The present invention relates to an information processing device, program, method, and system.

インターネット等のネットワークを介して複数の端末装置間でビデオ会議等を行う伝送システムが知られている。このような伝送システムでは、一方の伝送端末でビデオ会議中に収集された画像データ及び音声データを他方の伝送端末に送信する。他方の伝送端末はこの画像データ及び音声データを受信し、ディスプレイ等に画像を表示したり、スピーカから音声を出力したりすることで、これらの伝送端末間でビデオ会議を行うことができる。 2. Description of the Related Art A transmission system is known in which a video conference or the like is held between a plurality of terminal devices via a network such as the Internet. In such a transmission system, one transmission terminal transmits image data and audio data collected during a video conference to the other transmission terminal. The other transmission terminal receives the image data and audio data, displays the image on a display or the like, and outputs audio from a speaker, thereby allowing a videoconference to be held between these transmission terminals.

このような伝送システムにおいては、会議に参加する伝送端末は2台とは限らず、ビデオ会議に参加する伝送端末が3台以上となる多拠点間でビデオ会議が開催される場合も少なくない。 In such a transmission system, the number of transmission terminals participating in the conference is not limited to two, and videoconferences are often held between multiple sites with three or more transmission terminals participating in the videoconference.

また、上記のように各拠点は映像を表示したり音声を出力したりすることができるが、各拠点の伝送端末が映像を録画したり音声を録音したりする機能を有する場合がある(例えば、特許文献1参照。)。これは、ビデオ会議に参加できなった者が後に会議の内容を把握したり確認したりするためである。 Also, as described above, each base can display video and output audio, but the transmission terminal at each base may have a function to record video and audio (for example, , see Patent Document 1). This is because those who cannot participate in the videoconference can grasp or check the content of the conference later.

しかしながら、ビデオ会議で送信される画像や音声は秘匿性が高い情報が多いため、録画や録音されることを好まない参加者も少なくない。あるいは画像に含まれる自分の肖像が記録されることを好まない参加者も存在する。この点に関し、特許文献1に開示された通信システムは、各拠点が同じ記録装置に通信情報を記録する技術であり、任意の拠点が録画又は録音している場合に、録画又は録音している拠点を他の拠点の参加者が特定しにくいという問題がある。 However, since most of the images and voices transmitted in the videoconference are highly confidential information, many participants do not like to be video-recorded. Alternatively, there are participants who do not like their portrait included in the image to be recorded. Regarding this point, the communication system disclosed in Patent Document 1 is a technology in which each site records communication information in the same recording device, and when any site is recording or recording, it is recording or recording There is a problem that it is difficult for participants of other bases to identify the base.

例えば、拠点A~Cでビデオ会議が行われており、拠点Cが画像の録画又は音声の録音を行っている場合、拠点Aの参加者は、拠点BとCのどちらが録画又は録音しているのか分からず、拠点Bの参加者は、拠点AとCのどちらが録画又は録音しているのか分からない。このため、どの拠点に対し録画や録音の停止を要求すべきか判断しにくいし、秘匿性の高い情報を提示してよいかどうかを判断しにくい。 For example, if a video conference is being held at sites A to C and site C is recording images or voices, the participant at site A will be asked which of site B or C is recording or recording. Therefore, the participant at site B does not know whether site A or site C is recording or recording. For this reason, it is difficult to determine which site should be requested to record or stop recording, and it is difficult to determine whether highly confidential information may be presented.

本発明は、上記課題に鑑み、画像データ又は音声データを記録している他の情報処理装置を報知する情報処理装置を提供することを目的とする。 SUMMARY OF THE INVENTION An object of the present invention is to provide an information processing apparatus that notifies another information processing apparatus that is recording image data or audio data.

本発明は、ネットワークを介して接続された他の情報処理装置と画像データを送受信する情報処理装置であって、前記他の情報処理装置と送受信する画像データの記録を開始する記録開始通知を受信する受信手段と、前記他の情報処理装置から受信した画像データを表示可能なビデオ会議UI画面と、手書きされたストローク画像を表示可能な電子黒板UI画面とを、切り替え可能に表示画面に表示させる表示制御手段と、を有し、前記表示制御手段は、前記ビデオ会議UI画面が前記表示画面に表示されている際に、前記記録開始通知を受信した場合には、前記送受信する画像データを記録中である旨を前記ビデオ会議UI画面に表示させ、前記電子黒板UI画面が前記表示画面に表示されている際に、前記記録開始通知を受信した場合には、前記送受信する画像データを記録中である旨を前記電子黒板UI画面に表示させる
The present invention provides an information processing apparatus that transmits/receives image data to/from another information processing apparatus connected via a network, wherein a recording start notification for starting recording of image data transmitted/received to/from the other information processing apparatus is received. a video conference UI screen capable of displaying image data received from the other information processing apparatus, and an electronic whiteboard UI screen capable of displaying handwritten stroke images are displayed on a display screen in a switchable manner. display control means, wherein when the videoconference UI screen is displayed on the display screen and the recording start notification is received, the display control means records the transmitted/received image data. When the recording start notification is received while the electronic whiteboard UI screen is being displayed on the display screen, the image data to be sent and received is being recorded. is displayed on the electronic blackboard UI screen .

画像データ又は音声データを記録している他の情報処理装置を報知する情報処理装置を提供することができる。 It is possible to provide an information processing device that notifies another information processing device that is recording image data or audio data.

伝送システムの動作の概略を説明する図の一例である。FIG. 3 is an example of a diagram explaining an outline of the operation of the transmission system; 伝送システムの概略図の一例である。1 is an example of a schematic diagram of a transmission system; FIG. 伝送システムにおける画像データ、音声データ及び各種管理情報の送受信の状態を示した概念図である。FIG. 2 is a conceptual diagram showing the state of transmission and reception of image data, audio data, and various types of management information in a transmission system; 伝送端末のハードウェア構成図の一例である。1 is an example of a hardware configuration diagram of a transmission terminal; FIG. 伝送管理装置、UI提供装置、中継装置又はプログラム提供装置のハードウェア構成図である。3 is a hardware configuration diagram of a transmission management device, a UI providing device, a relay device, or a program providing device; FIG. 伝送システムに含まれる各端末の機能ブロック図の一例である。1 is an example of a functional block diagram of each terminal included in a transmission system; FIG. 情報処理端末の機能ブロック図の一例である。1 is an example of a functional block diagram of an information processing terminal; FIG. 伝送端末が準備状態になる例が示されている。An example is shown in which the transmission terminal is ready. 伝送端末がビデオ会議に参加する参加状態になるまでの会議参加動作を示すシーケンス図の一例である。FIG. 10 is an example of a sequence diagram showing a conference participation operation until a transmission terminal enters a participation state for participating in a video conference; 情報処理端末が録画を開始したり終了したりした場合の動作を示すシーケンス図の一例である。FIG. 10 is an example of a sequence diagram showing operations when an information processing terminal starts and ends recording. 図8のステップS32で表示される宛先リスト画面の一例を示す図である。FIG. 9 is a diagram showing an example of a destination list screen displayed in step S32 of FIG. 8; FIG. ユーザが録画拠点マークの宛先を選択した場合に表示される確認ダイアログ画面を説明する図の一例である。FIG. 10 is an example of a diagram for explaining a confirmation dialog screen displayed when the user selects the destination of the recording site mark; 全画面表示モードでディスプレイに表示された画面例を示す図である。FIG. 10 is a diagram showing an example of a screen displayed on the display in full screen display mode; 簡易表示の補助領域の一例を示す図である。FIG. 11 is a diagram showing an example of an auxiliary area for simple display; 補助領域が表示されない場合の他拠点録画マーク及びラベルの表示例を示す図である。FIG. 10 is a diagram showing a display example of the other-base recording mark and label when the auxiliary area is not displayed; 参加拠点のうち録画している拠点がない場合の全画面表示画面の一例である。It is an example of a full-screen display screen when none of the participating sites is recording. 会議中の伝送端末が録画通知情報の表示を制御する手順を示すフローチャート図の一例である。FIG. 10 is an example of a flowchart showing a procedure for a transmission terminal in a meeting to control display of recording notification information; セッションが途切れたことを伝送管理装置が検出した場合の伝送システム1の動作手順を示すシーケンス図の一例である。FIG. 10 is an example of a sequence diagram showing an operation procedure of the transmission system 1 when the transmission management device detects that the session has been interrupted; 伝送端末が端末状態変更情報を受信した場合の処理を説明するフローチャート図の一例である。FIG. 10 is an example of a flowchart illustrating processing when a transmission terminal receives terminal state change information; 情報表示モードでディスプレイに表示された情報表示画面の一例を示す図である。It is a figure which shows an example of the information display screen displayed on the display in information display mode. 伝送端末が情報表示モードに切り替えられた際に、端末情報表示領域に端末情報を表示させる端末情報表示動作を示したシーケンス図の一例である。FIG. 10 is an example of a sequence diagram showing a terminal information display operation for displaying terminal information in a terminal information display area when a transmission terminal is switched to an information display mode; 伝送端末の機能を有する電子黒板を説明する図の一例である。BRIEF DESCRIPTION OF THE DRAWINGS FIG. 1 is an example of a diagram illustrating an electronic blackboard having a function of a transmission terminal; 電子黒板の動作の概略を説明する図の一例である。It is an example of the figure explaining the outline of operation|movement of an electronic blackboard. 電子黒板アプリが生成する電子黒板UI画面が表示された電子黒板のディスプレイを示す図の一例である。FIG. 10 is an example of a display of an electronic blackboard on which an electronic blackboard UI screen generated by an electronic blackboard application is displayed; ビデオ会議アプリが生成するビデオ会議UI画面が表示された電子黒板のディスプレイを示す図の一例である。FIG. 11 is an example of a diagram showing a display of an electronic blackboard on which a videoconference UI screen generated by a videoconference application is displayed; 電子黒板のハードウェア構成図である。It is a hardware block diagram of an electronic blackboard. 電子黒板の機能ブロック図の一例である。It is an example of a functional block diagram of an electronic blackboard. 各画像レイヤの構成図の一例である。It is an example of the block diagram of each image layer. ページデータを概念的に示す図である。FIG. 4 is a diagram conceptually showing page data; ストローク配列データを概念的に示す図である。FIG. 4 is a diagram conceptually showing stroke array data; 座標配列データを概念的に示す図である。It is a figure which shows notionally coordinate array data. メディアデータを概念的に示す図である。1 is a diagram conceptually showing media data; FIG. 電子黒板で動作するビデオ会議アプリが録画開始通知を受信した場合の動作手順を示すシーケンス図の一例である。FIG. 10 is an example of a sequence diagram showing an operation procedure when a video conference application operating on an electronic blackboard receives a recording start notification; 他の拠点が録画している旨が表示された電子黒板UI画面の一例である。It is an example of an electronic blackboard UI screen displaying that another site is recording. インタフェース部が電子黒板UI画面とビデオ会議UI画面の表示順を変更する手順を示すシーケンス図の一例である。FIG. 10 is an example of a sequence diagram showing a procedure for the interface unit to change the display order of the electronic blackboard UI screen and the videoconference UI screen;

以下、本発明を実施するための形態について図面を参照しながら説明する。 EMBODIMENT OF THE INVENTION Hereinafter, it demonstrates, referring drawings for the form for implementing this invention.

図1は、本実施形態の伝送システム1の動作の概略を説明する図の一例である。伝送端末10aaは、伝送端末10ba及び情報処理端末40bdとビデオ会議を行っている。伝送端末10aaは、伝送端末10ba及び情報処理端末40bdからの画像を合成してディスプレイ120に表示する(このような画面を全画面表示画面501という)。同様の画像を、伝送端末10ba及び情報処理端末40bdも表示している。 FIG. 1 is an example of a diagram for explaining the outline of the operation of the transmission system 1 of this embodiment. The transmission terminal 10aa is having a videoconference with the transmission terminal 10ba and the information processing terminal 40bd. The transmission terminal 10aa synthesizes the images from the transmission terminal 10ba and the information processing terminal 40bd and displays them on the display 120 (such a screen is called a full screen display screen 501). A similar image is also displayed on the transmission terminal 10ba and the information processing terminal 40bd.

(1)本実施形態の情報処理端末40bdはビデオ会議中に画像の録画を開始すると、録画開始通知(記録通知の一例)を伝送端末10aa、10baに送信する。以下では、説明の便宜上、伝送端末10aaに着目して説明する。 (1) When the information processing terminal 40bd of the present embodiment starts recording an image during a video conference, it transmits a recording start notification (an example of a recording notification) to the transmission terminals 10aa and 10ba. In the following, for convenience of explanation, the transmission terminal 10aa will be focused on.

(2)伝送端末10aaは録画開始通知に含まれる情報処理端末40bdの通信ID(04bd)を保持しておく。 (2) The transmission terminal 10aa holds the communication ID (04bd) of the information processing terminal 40bd included in the recording start notification.

(3)伝送端末10aaのユーザが録画している拠点を確認するため情報表示画面601を表示させると、保持しておいた通信IDを用いて録画している拠点を強調して表示する。図1では、端末名と通信IDが表示されているが、録画している情報処理端末40bdの端末名の先頭に録画拠点マーク71が表示されている。伝送端末10aaのユーザはこの録画拠点マーク71により複数の拠点の内どの拠点で録画されているかを判断できる。 (3) When the information display screen 601 is displayed in order for the user of the transmission terminal 10aa to check the location where the recording is being made, the location where the recording is being made is emphasized using the communication ID that has been held. Although the terminal name and communication ID are displayed in FIG. 1, the recording base mark 71 is displayed at the beginning of the terminal name of the information processing terminal 40bd that is recording. The user of the transmission terminal 10aa can use the recording site mark 71 to determine which of the plurality of sites is recording.

このように、本実施形態の伝送システム1では、他拠点で会議を行っている場合に、どの拠点が録画しているかを他の拠点の参加者がリアルタイムに把握、確認又は特定等することができる。 As described above, in the transmission system 1 of the present embodiment, when a conference is being held at other sites, the participants at the other sites can grasp, confirm, or specify in real time which site is recording. can.

<用語について>
情報処理装置の識別情報は、情報処理装置を他の情報処理装置等が特定するための情報である。具体的には通信IDが挙げられる。この他、端末名、MACアドレス、メールアドレス、ユーザ名、ユーザID等で特定されてもよい。
<Terms>
The identification information of the information processing device is information for identifying the information processing device by another information processing device or the like. A specific example is a communication ID. In addition, it may be specified by a terminal name, MAC address, mail address, user name, user ID, or the like.

また、情報処理装置は画像データ又は音声データの少なくとも一方を送受信することができる装置である。本実施形態では伝送端末10又は情報処理端末40という用語で説明する。 An information processing device is a device capable of transmitting and receiving at least one of image data and audio data. In this embodiment, the term "transmission terminal 10" or "information processing terminal 40" will be used.

記録中であることを他の情報処理装置に対応付けて通知するとは、情報処理装置の端末名や通信IDなど情報処理装置を特定できる情報と共に、画像データ又は音声データの少なくとも一方を記録中である旨を出力することをいう。出力には、表示の他、音声による通知も含まれる。本実施形態では、例えば録画拠点マーク71が端末名と通信IDに対応付けて表示されることを例にする。 Notifying that recording is being performed in association with another information processing apparatus means that at least one of image data and audio data is being recorded together with information that can identify the information processing apparatus, such as the terminal name and communication ID of the information processing apparatus. It means to output something. The output includes not only display but also audio notification. In this embodiment, for example, the recording site mark 71 is displayed in association with the terminal name and the communication ID.

また、画像データ又は音声データの記録とは、保存、保持、格納又は記憶等で表される処理をいう。記録された画像データ又は音声データは再生することができる。また、記録を、録画又は録音と称する場合がある。 Also, the recording of image data or audio data refers to processing represented by saving, holding, storing, storing, or the like. The recorded image data or audio data can be played back. Recording may also be referred to as video recording or sound recording.

他の情報処理装置に関する情報とは、参加者が会議に参加している他の参加者を把握可能な情報をいう。例えば、端末名と通信IDの少なくとも一方である。 Information about other information processing devices means information that enables a participant to grasp other participants participating in the conference. For example, it is at least one of a terminal name and a communication ID.

通信中とは、2つ以上の伝送端末10及び情報処理端末40が画像データ又は音声データを送受信していることをいう。具体的には、ビデオ会議の会議中、ビデオ会議に参加中であることをいう。 During communication means that two or more transmission terminals 10 and information processing terminals 40 are transmitting and receiving image data or audio data. Specifically, it means that the person is participating in the video conference during the video conference.

記録通知とは記録を開始すること、記録していること、を通知することをいい、記録終了通知とは記録を終了した旨を通知することをいう。 The recording notification means to notify that recording is started or being recorded, and the recording end notification means to notify that recording has ended.

<実施形態の全体構成>
図2は、本実施形態に係る伝送システム1の概略図である。図3は、伝送システム1における画像データ、音声データ及び各種管理情報の送受信の状態を示した概念図である。伝送システム1には、伝送管理装置50を介して一方の伝送端末から複数の伝送端末に一方向でコンテンツデータを伝送するデータ提供システムが含まれる。また、伝送管理装置50を介して複数の伝送端末間で情報や感情等を相互に伝達するコミュニケーションシステムが含まれる。コミュニケーションシステムは、コミュニケーション管理装置(「伝送管理装置50」に相当)を介して複数のコミュニケーション端末(「伝送端末」に相当)間で情報や感情等を相互に伝達するためのシステムである。ビデオ会議システムやビデオ電話システム等が例として挙げられる。
<Overall Configuration of Embodiment>
FIG. 2 is a schematic diagram of the transmission system 1 according to this embodiment. FIG. 3 is a conceptual diagram showing the state of transmission and reception of image data, audio data, and various types of management information in the transmission system 1. As shown in FIG. The transmission system 1 includes a data providing system that unidirectionally transmits content data from one transmission terminal to a plurality of transmission terminals via a transmission management device 50 . Also included is a communication system in which information, emotions, etc. are mutually transmitted between a plurality of transmission terminals via the transmission management device 50 . A communication system is a system for mutually transmitting information, emotions, etc. between a plurality of communication terminals (corresponding to "transmission terminals") via a communication management device (corresponding to "transmission management device 50"). Examples include video conferencing systems and video telephony systems.

本実施形態では、コミュニケーションシステムの一例としてのビデオ会議システム、コミュニケーション管理装置の一例としてのビデオ会議管理装置及びコミュニケーション端末の一例としてのビデオ会議端末を想定した上で、伝送システム1、伝送管理装置50及び伝送端末10について説明する。即ち、本発明の伝送端末及び伝送管理装置50は、ビデオ会議システムに適用されるだけでなく、コミュニケーションシステム、又はデータ伝送システムにも適用される。 In this embodiment, assuming a video conference system as an example of a communication system, a video conference management device as an example of a communication management device, and a video conference terminal as an example of a communication terminal, a transmission system 1 and a transmission management device 50 are assumed. and the transmission terminal 10 will be described. That is, the transmission terminal and transmission management device 50 of the present invention are applied not only to video conference systems, but also to communication systems or data transmission systems.

図2に示すように、伝送システム1は、複数の伝送端末10aa、10ab、・・・と、各伝送端末10aa、10ab、・・・用のディスプレイ120aa、120ab、・・・と、UI提供装置20と、情報処理端末40bd、beと、中継装置30と、伝送管理装置50と、プログラム提供装置90と、を備えている。伝送端末10aa、10ab、・・・は、コンテンツデータとして、例えば、画像データ及び音声データの送受信による伝送を行うようになっている。 2, the transmission system 1 includes a plurality of transmission terminals 10aa, 10ab, . . . , displays 120aa, 120ab, . 20, information processing terminals 40bd and 40be, a relay device 30, a transmission management device 50, and a program providing device 90. The transmission terminals 10aa, 10ab, . . . transmit and receive, for example, image data and audio data as content data.

UI提供装置20は、伝送端末10aa、10ab、・・・に主に拠点数を表示するための後述するレイアウト情報を送信する装置である。UI提供装置20は例えば伝送管理装置50や中継装置30が兼ねてもよい。 The UI providing device 20 is a device that transmits layout information (to be described later) mainly for displaying the number of bases to the transmission terminals 10aa, 10ab, . . . . For example, the transmission management device 50 or the relay device 30 may serve as the UI providing device 20 .

また、情報処理端末40は、伝送端末10の機能がソフトウェアで実現された装置である。具体的には、例えば、PC(Personal Computer)、タブレット型端末、スマートフォン、携帯電話、PDA(Personal Digital Assistant)、ゲーム機、カーナビゲーション装置、又は、電子書籍用端末などである。 Further, the information processing terminal 40 is a device in which the functions of the transmission terminal 10 are realized by software. Specifically, for example, it is a PC (Personal Computer), a tablet terminal, a smart phone, a mobile phone, a PDA (Personal Digital Assistant), a game machine, a car navigation device, or an electronic book terminal.

なお、以下の説明において、複数の伝送端末10aa、10ab、・・・のうち、任意の伝送端末は、「伝送端末10」と表され、複数のディスプレイ120aa、120ab、・・・のうち、任意のディスプレイは、「ディスプレイ120」と表される。複数の情報処理端末40bd,beのうち、任意の情報処理端末は、「情報処理端末40」と表される。また、ビデオ会議の開始を要求する要求元の伝送端末10は、「要求元端末」と表され、要求先の伝送端末10は、「宛先端末」と表される。 In the following description, an arbitrary transmission terminal among the plurality of transmission terminals 10aa, 10ab, . is denoted as "display 120". An arbitrary information processing terminal among the plurality of information processing terminals 40bd and be is represented as "information processing terminal 40". Also, the transmission terminal 10 that is the source of the request to start the videoconference is referred to as the "source terminal", and the transmission terminal 10 that is the destination of the request is referred to as the "destination terminal".

また、ビデオ会議に参加している伝送端末10又は伝送端末10が設置されていることが想定される場所を「拠点」と称する。あるいは、伝送端末10を使用する相手のユーザと称してもよい。ビデオ会議に参加している伝送端末10が特定されれば、ユーザは伝送端末10が設置されていることが想定される場所や相手のユーザを推定できる。後述する端末名により、ユーザは相手や伝送端末10が設置されていることが想定される場所を推定できる。また、相手の居場所がどこであるかを特定する必要はなく、相手がいる場所が拠点である。また、相手とは個人を特定する必要はなく、企業名などの属性が分かればよい。例えば企業ユースでは、相手の伝送端末10が特定されれば、ユーザは相手や相手の居場所も推定できる。拠点の数は、ビデオ会議に参加している伝送端末10の数と同じであるが、1つと見なせる空間に(例えば1つの会議室)に複数の伝送端末10が存在してもよい。 In addition, the transmission terminal 10 participating in the video conference or a place where the transmission terminal 10 is assumed to be installed is called a "site". Alternatively, it may be referred to as the other user who uses the transmission terminal 10 . If the transmission terminals 10 participating in the video conference are specified, the user can estimate the place where the transmission terminals 10 are assumed to be installed and the other user. From the terminal name, which will be described later, the user can estimate the location where the other party or the transmission terminal 10 is assumed to be installed. Also, it is not necessary to specify where the other party is, and the location where the other party is is the base. In addition, it is not necessary to specify the individual with the other party, and it is sufficient to know the attribute such as the company name. For example, in corporate use, if the transmission terminal 10 of the other party is specified, the user can also estimate the other party and the location of the other party. The number of bases is the same as the number of transmission terminals 10 participating in the videoconference, but a plurality of transmission terminals 10 may exist in a space that can be regarded as one (for example, one conference room).

図3に示すように、伝送システム1において、要求元端末である伝送端末10aaと宛先端末である伝送端末10ab(符号は一例)との間では、伝送管理装置50を介して、各種の管理情報を送受信するための管理情報用セッションseiが確立される。 As shown in FIG. 3, in the transmission system 1, various kinds of management information are exchanged between a transmission terminal 10aa as a request source terminal and a transmission terminal 10ab (an example of a symbol) as a destination terminal via a transmission management device 50. A session sei for management information is established for transmitting and receiving.

また、管理情報用セッションseiが確立した伝送端末10間では、中継装置30を介して、高解像度の画像データsed1、中解像度の画像データsed2、低解像度の画像データsed3及び音声データsed4の4つの各データを送受信するための4つのセッションが確立される。なお、本実施形態において、これら4つのセッションは、まとめて、「画像・音声データ用セッションsed」と表される。 In addition, between the transmission terminals 10 with which the management information session sei has been established, four transmissions of high-resolution image data sed1, medium-resolution image data sed2, low-resolution image data sed3, and audio data sed4 are transmitted via the relay device 30. Four sessions are established for sending and receiving each data. In the present embodiment, these four sessions are collectively referred to as "image/audio data session sed".

図2において、中継装置30は、複数の伝送端末10の間で、コンテンツデータの中継を行うようになっている。伝送管理装置50は、伝送端末10からのログイン認証、伝送端末10の伝送状態の管理、宛先リストの管理等及び中継装置30の伝送状態等を一元的に管理するようになっている。なお、画像データが表す画像は、動画であっても静止画であってもよく、動画と静止画との両方であってもよい。 In FIG. 2 , the relay device 30 relays content data among a plurality of transmission terminals 10 . The transmission management device 50 centrally manages login authentication from the transmission terminal 10, management of the transmission status of the transmission terminal 10, management of the destination list, etc., and management of the transmission status of the relay device 30 and the like. An image represented by image data may be a moving image, a still image, or both a moving image and a still image.

複数のルータ70a、70b、70c、70d、70ab、70cdは、画像データ及び音声データの最適な経路の選択を行う。なお、以下の説明において、ルータ70a、70b、70c、70d、70ab、70cdのうち、任意のルータは、「ルータ70」と表される。 A plurality of routers 70a, 70b, 70c, 70d, 70ab, and 70cd select the optimum route for image data and audio data. In the following description, an arbitrary router among the routers 70a, 70b, 70c, 70d, 70ab, and 70cd is referred to as "router 70".

プログラム提供装置90は、後述するHD(Hard Disk)204を備えており、伝送端末10に各種機能を実現させるための伝送端末制御プログラム1000aが記憶され、伝送端末制御プログラム1000aを伝送端末10に送信することができる。 The program providing device 90 includes an HD (Hard Disk) 204, which will be described later, stores a transmission terminal control program 1000a for realizing various functions of the transmission terminal 10, and transmits the transmission terminal control program 1000a to the transmission terminal 10. can do.

また、プログラム提供装置90のHD204には、中継装置30に各種機能を実現させるための中継装置用プログラムも記憶されており、中継装置用プログラムを中継装置30に送信することができる。 The HD 204 of the program providing apparatus 90 also stores a relay apparatus program for realizing various functions in the relay apparatus 30 , and can transmit the relay apparatus program to the relay apparatus 30 .

更に、プログラム提供装置90のHD204には、伝送管理装置50に各種機能を実現させるための伝送管理プログラム5000aも記憶されており、伝送管理プログラム5000aを伝送管理装置50に送信することができる。 Furthermore, the HD 204 of the program providing device 90 also stores a transmission management program 5000a for allowing the transmission management device 50 to implement various functions, and the transmission management program 5000a can be sent to the transmission management device 50. FIG.

また、プログラム提供装置90のHD204には、UI提供装置20に各種機能を実現させるためのUI提供装置用プログラムも記憶されており、UI提供装置用プログラムをUI提供装置20に送信することができる。 The HD 204 of the program providing device 90 also stores a UI providing device program for enabling the UI providing device 20 to implement various functions, and can transmit the UI providing device program to the UI providing device 20 . .

また、プログラム提供装置90のHD204には、情報処理端末40に各種機能を実現させるための情報処理端末用プログラム1000cも記憶されており、情報処理端末用プログラム1000cを情報処理端末40に送信することができる。 The HD 204 of the program providing apparatus 90 also stores an information processing terminal program 1000c for realizing various functions of the information processing terminal 40, and the information processing terminal program 1000c can be transmitted to the information processing terminal 40. can be done.

伝送端末10aa、10ab、10ac、・・・及びルータ70aは、LAN2aによって伝送可能に接続されている。伝送端末10ba、10bb、10bc、・・・及びルータ70bは、LAN2bによって伝送可能に接続されている。 The transmission terminals 10aa, 10ab, 10ac, . The transmission terminals 10ba, 10bb, 10bc, .

また、LAN2a及びLAN2bは、ルータ70abが含まれた専用線2abによって伝送可能に接続されており、所定の地域A内に設けられている。例えば、地域Aは、日本であり、LAN2aは東京の事業所内に設けられ、LAN2bは大阪の事業所内に設けられている。 Also, the LAN 2a and the LAN 2b are connected by a dedicated line 2ab including a router 70ab so as to be capable of transmission, and are provided within a predetermined area A. For example, area A is Japan, LAN 2a is provided in the office in Tokyo, and LAN 2b is provided in the office in Osaka.

一方、伝送端末10ca、10cb、10cc、・・・及びルータ70cは、LAN2cによって伝送可能に接続されている。伝送端末10da、10db、10dc、・・・及びルータ70dは、LAN2dによって伝送可能に接続されている。 On the other hand, the transmission terminals 10ca, 10cb, 10cc, . The transmission terminals 10da, 10db, 10dc, .

また、LAN2c及びLAN2dは、ルータ70cdが含まれた専用線2cdによって伝送可能に接続されており、所定の地域B内に設けられている。例えば、地域Bはアメリカ合衆国であり、LAN2cはニューヨークの事業所内に設けられ、LAN2dはワシントンD.C.の事業所内に設けられている。地域A及び地域Bは、それぞれルータ70ab、70cdからインターネット2iを介して相互に伝送可能に接続されている。 Also, the LAN 2c and the LAN 2d are connected by a dedicated line 2cd including a router 70cd so as to be capable of transmission, and are provided within a predetermined area B. FIG. For example, Region B is the United States of America, LAN2c is located in the New York office, and LAN2d is in Washington DC. C. is located in the office of Region A and region B are connected to each other via the Internet 2i from routers 70ab and 70cd so as to be able to transmit to each other.

また、中継装置30、伝送管理装置50、UI提供装置20、情報処理端末40、及びプログラム提供装置90は、インターネット2iを介して、各伝送端末10と伝送可能に接続されている。ここで、中継装置30、伝送管理装置50、UI提供装置20、情報処理端末40及びプログラム提供装置90は、地域A又は地域Bに設置されていてもよいし、これら以外の地域に設置されていてもよい。 Also, the relay device 30, the transmission management device 50, the UI providing device 20, the information processing terminal 40, and the program providing device 90 are connected to each transmission terminal 10 via the Internet 2i so that transmission is possible. Here, the relay device 30, the transmission management device 50, the UI providing device 20, the information processing terminal 40, and the program providing device 90 may be installed in area A or area B, or may be installed in areas other than these. may

なお、本実施形態では、LAN2a、LAN2b、専用線2ab、インターネット2i、専用線2cd、LAN2c及びLAN2dによって、本実施形態の伝送ネットワーク2が構成されている。伝送ネットワーク2には、有線だけでなく、WiFi(Wireless Fidelity)や、Bluetooth(登録商標)等の無線による伝送が行われる箇所があってもよい。 In this embodiment, the transmission network 2 of this embodiment is configured by LAN 2a, LAN 2b, dedicated line 2ab, Internet 2i, dedicated line 2cd, LAN 2c and LAN 2d. The transmission network 2 may include not only wired but also wireless transmission sites such as WiFi (Wireless Fidelity) and Bluetooth (registered trademark).

また、図2において、各伝送端末10、中継装置30、伝送管理装置50、各ルータ70、UI提供装置20、情報処理端末40及びプログラム提供装置90の下に示されている4組の数字は、一般的なIPv4におけるIPアドレスを簡易的に示している。例えば、伝送端末10aaのIPアドレスは「1.2.1.3」である。また、IPv4ではなく、IPv6を用いてもよいが、説明を簡略化するため、IPv4を用いて説明する。 Also, in FIG. 2, the four sets of numbers shown under each transmission terminal 10, relay device 30, transmission management device 50, each router 70, UI providing device 20, information processing terminal 40, and program providing device 90 are , simply shows an IP address in general IPv4. For example, the IP address of the transmission terminal lOaa is "1.2.1.3". Also, IPv6 may be used instead of IPv4, but IPv4 will be used to simplify the description.

なお、各伝送端末10は、複数の事業所間でのビデオ会議や、同じ事業所内の異なる部屋間でのビデオ会議だけでなく、同じ部屋内でのビデオ会議や、屋外と屋内又は屋外と屋外でのビデオ会議で使われてもよい。各伝送端末10が屋外で使われる場合には、携帯電話伝送網等の無線による伝送が行われる。 Note that each transmission terminal 10 can be used not only for video conferences between multiple offices and between different rooms in the same office, but also for video conferences in the same room, between outdoors and indoors, or between outdoors and outdoors. May be used for video conferencing at When each transmission terminal 10 is used outdoors, wireless transmission such as a mobile phone transmission network is performed.

<伝送端末のハードウェア構成>
図4は、伝送端末のハードウェア構成図の一例である。図4に示すように、伝送端末10は、伝送端末10全体の動作を制御するCPU(Central Processing Unit)101と、IPL(Initial Program Loader)等のCPU101の駆動に用いられるプログラムを記憶したROM(Read Only Memory)102とを有する。また、CPU101のワークエリアとして使用されるRAM(Random Access Memory)103と、伝送端末制御プログラム1000a、画像データ及び音声データ等の各種データを記憶するフラッシュメモリ104と、を有する。また、CPU101の制御に従ってフラッシュメモリ104に対する各種データの読み出し又は書き込みを制御するSSD(Solid State Drive)105を有する。また、フラッシュメモリ等の記録メディア106に対するデータの読み出し又は書き込み(記憶)を制御するメディアドライブ107と、伝送端末10の宛先を選択する場合などに操作される操作ボタン108と、を有する。また、伝送端末10の電源のON/OFFを切り換えるための電源スイッチ109と、伝送ネットワーク2を利用してデータ伝送をするためのネットワークI/F(Interface)111と、を備えている。
<Hardware configuration of transmission terminal>
FIG. 4 is an example of a hardware configuration diagram of a transmission terminal. As shown in FIG. 4, the transmission terminal 10 includes a CPU (Central Processing Unit) 101 that controls the overall operation of the transmission terminal 10, and a ROM (ROM) that stores programs such as an IPL (Initial Program Loader) used to drive the CPU 101. Read Only Memory) 102 . It also has a RAM (Random Access Memory) 103 that is used as a work area for the CPU 101, and a flash memory 104 that stores a transmission terminal control program 1000a and various data such as image data and audio data. It also has an SSD (Solid State Drive) 105 that controls reading or writing of various data to/from the flash memory 104 under the control of the CPU 101 . It also has a media drive 107 that controls reading or writing (storage) of data to a recording medium 106 such as a flash memory, and an operation button 108 that is operated when selecting a destination of the transmission terminal 10 or the like. It also has a power switch 109 for switching ON/OFF the power of the transmission terminal 10 and a network I/F (Interface) 111 for data transmission using the transmission network 2 .

また、伝送端末10は、CPU101の制御に従って被写体を撮像して画像データを得る内蔵型のカメラ112と、カメラ112の駆動を制御する撮像素子I/F113と、音を入力する内蔵型の集音装置としてのマイク114と、を有する。また、音を出力する内蔵型のスピーカ115と、CPU101の制御に従ってマイク114及びスピーカ115との間で音信号の入出力を処理する音入出力I/F116と、を有する。また、CPU101の制御に従って外付けのディスプレイ120に画像データを伝送するディスプレイI/F117と、を有する。また、各種の外部機器を接続するための外部機器接続I/F118と、上記各構成要素を電気的に接続するためのアドレスバスやデータバス等のバスライン110と、を備えている。 Further, the transmission terminal 10 includes a built-in camera 112 that captures an image of a subject and obtains image data under the control of the CPU 101, an image sensor I/F 113 that controls driving of the camera 112, and a built-in sound collector that inputs sound. and a microphone 114 as a device. It also has a built-in speaker 115 that outputs sound, and a sound input/output I/F 116 that processes input/output of sound signals between the microphone 114 and the speaker 115 under the control of the CPU 101 . It also has a display I/F 117 that transmits image data to an external display 120 under the control of the CPU 101 . It also has an external device connection I/F 118 for connecting various external devices, and a bus line 110 such as an address bus and a data bus for electrically connecting the components described above.

ディスプレイ120は、被写体の画像や操作用アイコン等を表示する液晶や有機ELによって構成された表示装置を構成する。ディスプレイ120は、ケーブル120cによってディスプレイI/F117に接続されている。ケーブル120cは、アナログRGB(VGA)信号用のケーブルであってもよいし、コンポーネントビデオ用のケーブルであってもよいし、HDMI(登録商標)(High-Definition Multimedia Interface)やDVI(Digital Video Interactive)信号用のケーブルであってもよい。 The display 120 constitutes a display device configured by liquid crystal or organic EL for displaying an image of a subject, icons for operation, and the like. The display 120 is connected to the display I/F 117 by a cable 120c. The cable 120c may be a cable for analog RGB (VGA) signals, a cable for component video, HDMI (registered trademark) (High-Definition Multimedia Interface) or DVI (Digital Video Interactive Interface). ) may be a signal cable.

カメラ112は、レンズと、光を電荷に変換して被写体の像を電子化する固体撮像素子とを含み、固体撮像素子として、CMOS(Complementary Metal Oxide Semiconductor)又はCCD(Charge Coupled Device)等が用いられる。 The camera 112 includes a lens and a solid-state imaging device that converts light into electric charge and digitizes an image of an object. be done.

外部機器接続I/F118には、USB(Universal Serial Bus)ケーブル等によって、外付けカメラ、外付けマイク及び外付けスピーカ等の外部機器を接続できるようになっている。 External devices such as an external camera, an external microphone, and an external speaker can be connected to the external device connection I/F 118 via a USB (Universal Serial Bus) cable or the like.

外部機器接続I/F118に外付けカメラが接続された場合には、CPU101は、内蔵型のカメラ112に優先して、外付けカメラを駆動するようになっている。また、外部機器接続I/F118に外付けマイクや外付けスピーカが接続された場合には、CPU101は、内蔵型のマイク114や内蔵型のスピーカ115にそれぞれ優先して、外付けマイクや外付けスピーカを駆動するようになっている。 When an external camera is connected to the external device connection I/F 118 , the CPU 101 drives the external camera prior to the built-in camera 112 . Further, when an external microphone or an external speaker is connected to the external device connection I/F 118, the CPU 101 gives priority to the built-in microphone 114 or the built-in speaker 115, respectively. It is designed to drive a speaker.

なお、記録メディア106は、伝送端末10に対して着脱自在に構成されている。また、伝送端末10は、CPU101の制御に従ってデータの読み出し又は書き込みを行う不揮発性メモリであれば、フラッシュメモリ104に代えて、EEPROM(Electrically Erasable and Programmable ROM)等を用いてもよい。 Note that the recording medium 106 is detachably attached to the transmission terminal 10 . Further, the transmission terminal 10 may use an EEPROM (Electrically Erasable and Programmable ROM) or the like instead of the flash memory 104 as long as it is a non-volatile memory that reads or writes data under the control of the CPU 101 .

また、伝送端末制御プログラム1000aは、インストール可能な形式又は実行可能な形式のファイルで、記録メディア106等のような、コンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。また、伝送端末制御プログラム1000aは、フラッシュメモリ104ではなくROM102に記憶させるようにしてもよい。 Also, the transmission terminal control program 1000a may be recorded in a computer-readable recording medium such as the recording medium 106 in an installable format or executable format and distributed. Also, the transmission terminal control program 1000 a may be stored in the ROM 102 instead of the flash memory 104 .

情報処理端末40は、伝送端末10と同様のハードウェア構成を有しているか、差異があるとしても少なくとも本実施形態の説明においては支障がないものとする。但し、SSD105には、情報処理端末40を制御するための情報処理端末用プログラム1000cが記録されている。 It is assumed that the information processing terminal 40 has the same hardware configuration as the transmission terminal 10, or that there is no problem in the description of the present embodiment even if there is a difference. However, an information processing terminal program 1000 c for controlling the information processing terminal 40 is recorded in the SSD 105 .

<<伝送管理装置50、UI提供装置、中継装置、プログラム提供装置のハードウェア構成図>>
図5は、伝送管理装置50、UI提供装置20、中継装置又はプログラム提供装置のハードウェア構成図である。図5に示すように、伝送管理装置50は、伝送管理装置50全体の動作を制御するCPU201と、IPL等のCPU201の駆動に用いられるプログラムを記憶したROM202と、CPU201のワークエリアとして使用されるRAM203と、を有する。また、伝送管理プログラム等の各種データを記憶するHD204と、CPU201の制御に従ってHD204に対する各種データの読み出し又は書き込みを制御するHDD(Hard Disk Drive)205と、を有する。また、フラッシュメモリ等の記録メディア206に対するデータの読み出し又は書き込み(記憶)を制御するメディアドライブ207と、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示するディスプレイ208と、を有する。また、伝送ネットワーク2を利用してデータ伝送をするためのネットワークI/図2809と、文字、数値、各種指示などの入力のための複数のキーを備えたキーボード211と、を有する。また、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行うマウス212と、を有する。また、着脱可能な記録媒体の一例としての光記憶媒体(Compact Disc Read Only Memory)213に対する各種データの読み出し又は書き込みを制御する光学ドライブ214と、を有する。また、上記各構成要素を電気的に接続するためのアドレスバスやデータバス等のバスライン210と、を備えている。
<<Hardware configuration diagram of transmission management device 50, UI providing device, relay device, and program providing device>>
FIG. 5 is a hardware configuration diagram of the transmission management device 50, UI providing device 20, relay device or program providing device. As shown in FIG. 5, the transmission management device 50 includes a CPU 201 that controls the overall operation of the transmission management device 50, a ROM 202 that stores programs such as IPL used to drive the CPU 201, and a work area for the CPU 201. and a RAM 203 . It also has an HD 204 that stores various data such as a transmission management program, and an HDD (Hard Disk Drive) 205 that controls reading and writing of various data to and from the HD 204 under the control of the CPU 201 . It also has a media drive 207 that controls reading or writing (storage) of data to a recording medium 206 such as a flash memory, and a display 208 that displays various information such as cursors, menus, windows, characters, and images. It also has a network I/diagram 2809 for data transmission using the transmission network 2, and a keyboard 211 having a plurality of keys for inputting characters, numerical values, various instructions, and the like. It also has a mouse 212 for selecting and executing various instructions, selecting a processing target, moving a cursor, and the like. It also has an optical drive 214 that controls reading or writing of various data to an optical storage medium (Compact Disc Read Only Memory) 213 as an example of a removable recording medium. It also has a bus line 210 such as an address bus and a data bus for electrically connecting the components.

なお、伝送管理プログラムは、インストール可能な形式又は実行可能な形式のファイルで、記録メディア206や光記憶媒体213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。また、伝送管理プログラムは、HD204ではなくROM202に記憶されていてもよい。 The transmission management program may be recorded in a computer-readable recording medium such as the recording medium 206 or the optical storage medium 213 in an installable format or executable format and distributed. Also, the transmission management program may be stored in the ROM 202 instead of the HD 204 .

また、中継装置30は、伝送管理装置50と同様のハードウェア構成を有しているため、その説明を省略する。但し、HD204には、中継装置30を制御するための中継装置用プログラムが記録されている。 Also, since the relay device 30 has the same hardware configuration as the transmission management device 50, the description thereof will be omitted. However, the HD 204 stores a relay device program for controlling the relay device 30 .

この場合も、中継装置用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、記録メディア206や光記憶媒体213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。また、中継装置用プログラムは、HD204ではなくROM202に記憶されていてもよい。 In this case as well, the relay device program may be recorded in a computer-readable recording medium such as the recording medium 206 or the optical storage medium 213 as an installable or executable file and distributed. good. Also, the relay device program may be stored in the ROM 202 instead of the HD 204 .

また、プログラム提供装置90は、伝送管理装置50と同様のハードウェア構成を有しているため、その説明を省略する。但し、HD204には、プログラム提供装置90を制御するためのプログラム提供装置用プログラムが記録されている。 Also, since the program providing device 90 has the same hardware configuration as the transmission management device 50, the description thereof will be omitted. However, the HD 204 stores a program providing device program for controlling the program providing device 90 .

この場合も、プログラム提供装置用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、記録メディア206や光記憶媒体213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。また、プログラム提供装置用プログラムは、HD204ではなくROM202に記憶されていてもよい。 In this case as well, the program for the program providing device is recorded in a computer-readable recording medium such as the recording medium 206 or the optical storage medium 213 in an installable format or executable format and distributed. good too. Also, the program for the program providing apparatus may be stored in the ROM 202 instead of the HD 204 .

また、UI提供装置20は、伝送管理装置50と同様のハードウェア構成を有しているため、その説明を省略する。但し、HD204には、UI提供装置20を制御するためのUI提供装置用プログラム及び後述するレイアウト情報が記録されている。 Also, since the UI providing device 20 has the same hardware configuration as the transmission management device 50, the description thereof will be omitted. However, the HD 204 records a UI providing device program for controlling the UI providing device 20 and layout information, which will be described later.

この場合も、UI提供装置用プログラム及びレイアウト情報は、インストール可能な形式又は実行可能な形式のファイルで、記録メディア206や光記憶媒体213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。また、UI提供装置用プログラム及びレイアウト情報は、HD204ではなくROM202に記憶されていてもよい。 Also in this case, the program for the UI providing device and the layout information are files in an installable format or an executable format, and are recorded in a computer-readable recording medium such as the recording medium 206 or the optical storage medium 213 and distributed. You may do so. Also, the UI providing device program and layout information may be stored in the ROM 202 instead of the HD 204 .

なお、上記したコンピュータで読み取り可能な記録媒体として、CD-R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、ブルーレイディスク等を適用してもよい。 As the computer-readable recording medium, a CD-R (Compact Disc Recordable), a DVD (Digital Versatile Disk), a Blu-ray Disc, or the like may be applied.

なお、図示する伝送管理装置50等のハードウェア構成は、1つの筐体に収納されていたりひとまとまりの装置として備えられていたりする必要はなく、伝送管理装置50等が備えていることが好ましいハード的な要素を示す。また、クラウドコンピューティングに対応するため、本実施例の伝送管理システム50等の物理的な構成は固定的でなくてもよく、負荷に応じてハード的なリソースが動的に接続・切断されることで構成されてよい。 The hardware configuration of the illustrated transmission management device 50 and the like does not need to be housed in one housing or provided as a set of devices, and it is preferable that the transmission management device 50 etc. Show hardware elements. Also, in order to support cloud computing, the physical configuration of the transmission management system 50 and the like of this embodiment does not have to be fixed, and hardware resources are dynamically connected/disconnected according to the load. It may be configured by

<伝送システム1の機能構成>
図6は、伝送システム1に含まれる各端末の機能ブロック図である。伝送端末10、中継装置30、情報処理端末40,UI提供装置20及び伝送管理装置50は、伝送ネットワーク2を介してデータを伝送することができるように接続されている。なお、図2に示した、中継装置30及びプログラム提供装置90は、必要に応じて説明される。情報処理端末40については、図7にて説明される。
<Functional Configuration of Transmission System 1>
FIG. 6 is a functional block diagram of each terminal included in the transmission system 1. As shown in FIG. The transmission terminal 10, the relay device 30, the information processing terminal 40, the UI providing device 20, and the transmission management device 50 are connected via the transmission network 2 so that data can be transmitted. Note that the relay device 30 and the program providing device 90 shown in FIG. 2 will be described as necessary. The information processing terminal 40 will be described with reference to FIG.

<<伝送端末の機能構成>>
伝送端末10は、送受信部11、操作入力受付部12、ログイン要求部13、撮像部14、音入力部15a、音出力部15b、宛先リスト表示部16、表示制御部17、及び記憶・読出処理部19を有している。これら各部は、図4のフラッシュメモリ104からRAM103上に展開された伝送端末制御プログラム1000aを実行するCPU101によって実現される機能である。また、伝送端末10は、RAM103及びフラッシュメモリ104によって構成される記憶部1000を有している。記憶部1000には伝送端末制御プログラム1000a及び録画中管理テーブル1000bが記憶されている。
<<Functional configuration of transmission terminal>>
The transmission terminal 10 includes a transmission/reception unit 11, an operation input reception unit 12, a login request unit 13, an imaging unit 14, a sound input unit 15a, a sound output unit 15b, a destination list display unit 16, a display control unit 17, and storage/read processing. It has a part 19 . These units are functions realized by CPU 101 that executes transmission terminal control program 1000a developed on RAM 103 from flash memory 104 in FIG. Also, the transmission terminal 10 has a storage unit 1000 configured by a RAM 103 and a flash memory 104 . The storage unit 1000 stores a transmission terminal control program 1000a and a recording management table 1000b.

Figure 0007196951000001
表1は録画中管理テーブル1000bの一例を示す。録画中管理テーブル1000bには録画中の伝送端末10及び情報処理端末40の通信IDが登録されている。すなわち、録画を開始した伝送端末10及び情報処理端末40は録画開始通知(通信IDを含む)を他の伝送端末10及び情報処理端末40に送信するので、録画開始通知を受信した伝送端末10及び情報処理端末40は通信IDを録画中管理テーブル1000bに登録する。複数の伝送端末10及び情報処理端末40が録画している場合は、録画開始通知を送信した全ての伝送端末10及び情報処理端末40の通信IDが送信した録画開始通知が録画中管理テーブル1000bによって保持される。
Figure 0007196951000001
Table 1 shows an example of the recording management table 1000b. The communication IDs of the transmission terminal 10 and the information processing terminal 40 during recording are registered in the recording management table 1000b. That is, the transmission terminal 10 and the information processing terminal 40 that have started recording transmit the recording start notification (including the communication ID) to the other transmission terminal 10 and the information processing terminal 40. Therefore, the transmission terminal 10 that received the recording start notification and The information processing terminal 40 registers the communication ID in the recording management table 1000b. When a plurality of transmission terminals 10 and information processing terminals 40 are recording, the recording start notification transmitted by the communication IDs of all the transmission terminals 10 and information processing terminals 40 that have transmitted the recording start notification is received by the recording management table 1000b. retained.

なお、説明の便宜上、「01」で始まる通信IDは伝送端末10の通信IDを意味し、「04」で始まる通信IDは情報処理端末40の通信IDを意味しているものとして説明する。 For convenience of explanation, it is assumed that the communication ID starting with "01" means the communication ID of the transmission terminal 10, and the communication ID starting with "04" means the communication ID of the information processing terminal 40. FIG.

(伝送端末の各機能構成)
送受信部11は、CPU101及びネットワークI/F111等によって構成され、伝送ネットワーク2を介して他の伝送端末10、情報処理端末40、中継装置30、伝送管理装置50、又は、プログラム提供装置90と各種データや情報の送受信を行うようになっている。
(Each functional configuration of the transmission terminal)
The transmission/reception unit 11 includes a CPU 101, a network I/F 111, and the like, and communicates with other transmission terminals 10, information processing terminals 40, relay devices 30, transmission management devices 50, or program providing devices 90 via the transmission network 2. Data and information are sent and received.

送受信部11は、所望の宛先端末とビデオ会議を開始する前から、伝送管理装置50より、ビデオ会議の接続先の候補としての各伝送端末10の状態を示す各状態情報の受信を開始するようになっている。状態情報は、各伝送端末10がオンラインかオフラインかの稼動状態を表すだけでなく、オンラインで伝送可能であるか、オンラインで伝送中であるか等の詳細な稼動状態も表す。 The transmitting/receiving unit 11 starts receiving status information indicating the status of each transmission terminal 10 as a connection destination candidate for the videoconference from the transmission management device 50 before starting a videoconference with a desired destination terminal. It has become. The status information not only indicates whether each transmission terminal 10 is on-line or off-line, but also indicates detailed operating states such as whether online transmission is possible or is being transmitted online.

また、状態情報は、各伝送端末10の稼動状態だけでなく、伝送端末10でケーブル120cが伝送端末10から外れていたり、音を出力するが画像は出力させなかったり、音を出力させないようにする(MUTE)等、様々な状態を表す。以下の説明においては、本発明を理解しやすくするために、状態情報が各伝送端末10の稼動状態を表す場合について説明する。 The status information includes not only the operating status of each transmission terminal 10, but also the cable 120c of the transmission terminal 10 being disconnected from the transmission terminal 10, outputting sound but not outputting images, and not outputting sound. Represents various states such as (MUTE). In the following description, in order to facilitate understanding of the present invention, a case will be described in which the status information represents the operating status of each transmission terminal 10. FIG.

操作入力受付部12は、CPU101、操作ボタン108及び電源スイッチ109等によって構成され、ユーザによる各種入力を受け付けるようになっている。例えば、ユーザが、電源スイッチ109をONにすると、操作入力受付部12が電源ONを受け付けて、伝送端末10の電源をONにするようになっている。 The operation input reception unit 12 is configured by the CPU 101, the operation button 108, the power switch 109, and the like, and receives various inputs from the user. For example, when the user turns on the power switch 109 , the operation input reception unit 12 receives the power on and turns on the power of the transmission terminal 10 .

ログイン要求部13は、CPU101等によって構成される。電源ONの受け付けを契機として、送受信部11から伝送ネットワーク2を介して伝送管理装置50に、ログインを要求する旨を示すログイン要求情報及び現時点の自端末のIPアドレスを送信するようになっている。 The login request unit 13 is configured by the CPU 101 and the like. When the power supply is turned on, the transmission/reception unit 11 transmits login request information indicating a request for login and the current IP address of the own terminal to the transmission management apparatus 50 via the transmission network 2 . .

また、ユーザが電源スイッチ109をONの状態からOFFの状態にすると、送受信部11が伝送管理装置50に電源をOFFする旨の状態情報を送信した後に、操作入力受付部12が伝送端末10の電源を完全にOFFにするようになっている。これにより、伝送管理装置50側では、伝送端末10が電源ONから電源OFFになったことを把握することができる。 Further, when the user turns the power switch 109 from the ON state to the OFF state, after the transmission/reception unit 11 transmits the state information indicating that the power is to be turned OFF to the transmission management device 50, the operation input reception unit 12 turns off the transmission terminal 10. The power is turned off completely. As a result, the transmission management device 50 side can grasp that the power of the transmission terminal 10 has changed from ON to OFF.

撮像部14は、CPU101、カメラ112及び撮像素子I/F113等によって構成され、被写体を撮像し、撮像して得られた画像データを送受信部11に出力するようになっている。 The imaging unit 14 is configured by the CPU 101 , the camera 112 , the imaging element I/F 113 , and the like, and is configured to capture an image of a subject and output image data obtained by imaging to the transmission/reception unit 11 .

音入力部15aは、CPU101及び音入出力I/F116等によって構成され、マイク114によって集音されて得られた音を表す音信号が入力され、入力された音信号を音声データに変換するようになっている。 The sound input unit 15a is configured by the CPU 101, the sound input/output I/F 116, and the like, receives a sound signal representing sound collected by the microphone 114, and converts the input sound signal into sound data. It has become.

音出力部15bは、CPU101及び音入出力I/F116等によって構成され、音声データを音信号に変換し、変換した音信号をスピーカ115に出力することにより、スピーカ115に音を出力させるようになっている。 The sound output unit 15b is configured by the CPU 101, the sound input/output I/F 116, etc., converts sound data into a sound signal, and outputs the converted sound signal to the speaker 115, thereby causing the speaker 115 to output sound. It's becoming

表示制御部17は、CPU101及びディスプレイI/F117等によって構成される。表示制御部17は、送受信部11に受信された解像度の異なる画像データを組み合わせ、組み合わせた画像データをディスプレイ120に送信することにより、画像データが表す画像をディスプレイ120に表示させるようになっている(全画面表示モード)。また、他の拠点の詳細な情報を表示することができる(情報表示モード)。 The display control unit 17 is configured by the CPU 101, the display I/F 117, and the like. The display control unit 17 combines image data with different resolutions received by the transmission/reception unit 11 and transmits the combined image data to the display 120, thereby causing the display 120 to display an image represented by the image data. (Full screen mode). Also, detailed information on other bases can be displayed (information display mode).

表示制御部17は補助領域表示部18a及び拠点リスト表示部18bを有している。補助領域表示部18aは、伝送端末10が後述する全画面表示モードの場合に、全画面表示画面501の補助領域に会議に参加している拠点数や録画通知情報(記録通知情報)などを表示する。拠点リスト表示部18bは、伝送端末10が後述する情報表示モードの場合に、情報表示画面601に会議に参加している拠点の名称、通信ID、及び、録画中管理テーブル1000bを参照し録画拠点マーク71などを表示する。 The display control section 17 has an auxiliary area display section 18a and a base list display section 18b. The auxiliary area display unit 18a displays the number of bases participating in the conference, recording notification information (recording notification information), etc. in the auxiliary area of the full screen display screen 501 when the transmission terminal 10 is in a full screen display mode, which will be described later. do. When the transmission terminal 10 is in an information display mode, which will be described later, the site list display unit 18b displays the names and communication IDs of the sites participating in the conference on the information display screen 601, and displays the recording site by referring to the recording management table 1000b. A mark 71 or the like is displayed.

宛先リスト表示部16は、伝送管理装置50から送信される宛先状態情報に基づき宛先リスト画面をディスプレイ120に表示する。宛先状態情報には録画会議中か否かの稼動状態が含まれ、宛先リスト画面には宛先の伝送端末10及び情報処理端末40ごとに会議中か否かが表示される。 The destination list display unit 16 displays a destination list screen on the display 120 based on the destination status information transmitted from the transmission management device 50 . The destination state information includes an operating state indicating whether or not the recording conference is in progress, and the destination list screen displays whether or not the destination transmission terminal 10 and information processing terminal 40 are in a conference.

記憶・読出処理部19は、CPU101及びSSD105等によって構成され、記憶部1000に各種データを記憶したり、記憶部1000に記憶された各種データを読み出したりするようになっている。 The storage/read processing unit 19 is configured by the CPU 101, the SSD 105, etc., and stores various data in the storage unit 1000 and reads out various data stored in the storage unit 1000. FIG.

記憶部1000には、伝送端末10を通信先(他の拠点から見て)として識別するための通信ID及びパスワード等が記憶されている。更に、記憶部1000は、宛先端末とビデオ会議を行う際に受信される画像データ及び音声データの受信バッファとしても用いられる。なお、本実施形態の通信IDは、伝送端末10を一意に識別するために使われる言語、文字、記号又は各種の標し等の情報を示す。また、通信IDは、言語、文字、記号及び各種の標しのうち、少なくとも2つが組み合わされた情報であってもよい。 The storage unit 1000 stores a communication ID, a password, and the like for identifying the transmission terminal 10 as a communication destination (as viewed from other bases). Furthermore, the storage unit 1000 is also used as a reception buffer for image data and audio data received when a video conference is held with a destination terminal. Note that the communication ID in this embodiment indicates information such as language, characters, symbols, or various marks used to uniquely identify the transmission terminal 10 . Also, the communication ID may be information in which at least two of language, characters, symbols, and various marks are combined.

<伝送管理装置50の機能構成>
伝送管理装置50は、送受信部51、端末認証部52、状態管理部53、端末抽出部54、端末状態取得部55、セッション管理部56、及び記憶・読出処理部59を有している。これら各部は、図5に示したHD204からRAM203上に展開された伝送管理プログラム5000aを実行するCPU201によって実現される機能である。また、伝送管理装置50は、HD204により構成される記憶部5000を有している。以下、記憶部5000に記憶されたデータベースについて説明する。
<Functional Configuration of Transmission Management Device 50>
The transmission management device 50 has a transmission/reception section 51 , a terminal authentication section 52 , a state management section 53 , a terminal extraction section 54 , a terminal state acquisition section 55 , a session management section 56 and a storage/read processing section 59 . These units are functions realized by the CPU 201 that executes the transmission management program 5000a developed on the RAM 203 from the HD 204 shown in FIG. The transmission management device 50 also has a storage unit 5000 configured by the HD 204 . The database stored in the storage unit 5000 will be described below.

Figure 0007196951000002
記憶部5000には、表2に示すような端末認証管理テーブルを有する端末認証管理DB5001が構築されている。端末認証管理テーブルでは、伝送管理装置50によって管理される全ての伝送端末10の各通信IDに対して、各パスワードが関連付けられて管理される。例えば、表1に示した端末認証管理テーブルは、伝送端末10aaの通信IDが「01aa」で、パスワードが「aaaa」であることを示している。
Figure 0007196951000002
A terminal authentication management DB 5001 having a terminal authentication management table as shown in Table 2 is constructed in the storage unit 5000 . In the terminal authentication management table, each communication ID of all the transmission terminals 10 managed by the transmission management device 50 is managed in association with each password. For example, the terminal authentication management table shown in Table 1 indicates that the communication ID of the transmission terminal 10aa is "01aa" and the password is "aaaa".

Figure 0007196951000003
また、記憶部5000には、表3に示すような端末管理テーブルを有する端末管理DB5002が構築されている。端末管理テーブルでは、各伝送端末10の通信ID毎に、各伝送端末10又は情報処理端末40の端末名と、各伝送端末10の稼動状態と、伝送端末10のIPアドレスとが関連付けられて管理されている。端末名は、予め通信IDと対応づけて伝送管理装置50に登録されており、通信IDが分かると端末名が判明する。
Figure 0007196951000003
A terminal management DB 5002 having a terminal management table as shown in Table 3 is constructed in the storage unit 5000 . In the terminal management table, for each communication ID of each transmission terminal 10, the terminal name of each transmission terminal 10 or information processing terminal 40, the operating state of each transmission terminal 10, and the IP address of each transmission terminal 10 are associated and managed. It is The terminal name is registered in advance in the transmission management device 50 in association with the communication ID, and the terminal name can be identified when the communication ID is known.

例えば、表3(a)に示した端末管理テーブルは、通信IDが「01aa」の伝送端末10aaに対して、端末名が「日本 東京事業所 AA端末」で、稼動状態が「オンライン(伝送中)」で、伝送端末10aaのIPアドレスが「1.2.1.3」であることを表している。 For example, in the terminal management table shown in Table 3(a), for a transmission terminal 10aa with a communication ID of "01aa", the terminal name is "Japan Tokyo office AA terminal" and the operation status is "online (transmitting)". )” indicates that the IP address of the transmission terminal 10aa is “1.2.1.3”.

なお、表3(a)の端末管理テーブルは、通信IDが01aaの伝送端末10aa、通信IDが01baの伝送端末10ba、及び、通信IDが04bdの情報処理端末40bdが会議に参加中となった状態を示している(オンライン(伝送中))。これよりも前の稼動状態としてオンライン(伝送可能)となる状態がある。 In the terminal management table of Table 3(a), the transmission terminal 10aa with the communication ID of 01aa, the transmission terminal 10ba with the communication ID of 01ba, and the information processing terminal 40bd with the communication ID of 04bd are participating in the conference. Indicates status (online (transmitting)). As an operation state prior to this, there is a state of being online (transmittable).

また、表3(b)は録画会議中の情報処理端末40が会議に参加している場合の端末管理テーブルを示す。通信IDが「04db」の情報処理端末40dbに対し、稼動状態が「録画会議中」となっている。この稼動状態が「録画会議中」であることが、情報処理端末40bdが録画中であることを表している。通信IDが「01aa」「01ba」の稼動状態も「録画会議中」である。これは、情報処理端末40と同じ会議に参加している伝送端末10及び情報処理端末40の稼動状態も「録画会議中」に変更されるためである(伝送端末10及び情報処理端末40が実際に録画していなくても)。 Table 3(b) shows the terminal management table when the information processing terminal 40 participating in the recording conference is participating in the conference. The operation status of the information processing terminal 40db with the communication ID of "04db" is "recording meeting in progress". The fact that the operating state is "recording meeting" indicates that the information processing terminal 40bd is recording. The operating statuses of the communication IDs "01aa" and "01ba" are also "recording conference in progress". This is because the operation states of the transmission terminal 10 and the information processing terminal 40 participating in the same conference as the information processing terminal 40 are also changed to "recording conference" (the transmission terminal 10 and the information processing terminal 40 are actually (even if you are not recording to

ここで、端末管理テーブルの通信IDは、伝送端末10及び情報処理端末40が伝送システム1に登録される際にユニークに割り当てられ、端末名は、伝送管理装置50の管理者によって登録又は変更される。なお、端末名は、伝送端末10から伝送管理装置50に対してなされる要求に応じて、登録又は変更されてもよい。すなわち、通信IDと端末名は予め登録されているものとして説明する。 Here, the communication ID in the terminal management table is uniquely assigned when the transmission terminal 10 and the information processing terminal 40 are registered in the transmission system 1, and the terminal name is registered or changed by the administrator of the transmission management device 50. be. Note that the terminal name may be registered or changed according to a request made from the transmission terminal 10 to the transmission management device 50 . That is, the communication ID and terminal name are assumed to be registered in advance.

また、稼動状態が「オンライン(伝送可能)」とは、伝送端末10が伝送システム1にログインした状態で、ビデオ会議に参加していない状態であることを表す。「オンライン(伝送中)」とは、伝送端末10が伝送システム1にログインした状態で、ビデオ会議に参加している状態(会議中という意味)であることを表す。稼動状態が「オフライン」とは、伝送端末10が伝送システム1にログインしていない状態であることを表す。ビデオ会議に参加している又は会議中の伝送端末10とは、稼動状態が「オンライン(伝送中)」の伝送端末10である。 Also, the operation state "online (transmittable)" means that the transmission terminal 10 is logged into the transmission system 1 and is not participating in the video conference. “Online (during transmission)” means that the transmission terminal 10 is logged into the transmission system 1 and participating in a video conference (meaning that the conference is in progress). When the operating state is “offline”, it means that the transmission terminal 10 is not logged into the transmission system 1 . The transmission terminal 10 participating in the videoconference or in the middle of the conference is the transmission terminal 10 whose operation status is "online (transmitting)".

Figure 0007196951000004
更に、記憶部5000には、表4に示すような宛先リスト管理テーブルを有する宛先リスト管理DB5003が構築されている。宛先リスト管理テーブルでは、ビデオ会議の開始を要求する要求元端末の通信IDに対して、宛先端末の候補として登録されている宛先端末の通信IDが全て関連付けられて管理されている。
Figure 0007196951000004
Furthermore, in the storage unit 5000, a destination list management DB 5003 having a destination list management table as shown in Table 4 is constructed. In the destination list management table, all the communication IDs of the destination terminals registered as destination terminal candidates are associated with the communication ID of the request source terminal requesting the start of the videoconference and managed.

例えば、通信IDが「01aa」である伝送端末10aaからビデオ会議の開始を要求できる宛先端末の候補は、通信IDが「01ab」~「01dc」の伝送端末10ab~10dc及び通信IDが「04bd」「04be」である情報処理端末40bd、beであることが示されている。宛先端末の通信IDは、伝送端末10又は情報処理端末40から伝送管理装置50に対してなされる要求に応じて、宛先となる伝送端末10又は情報処理端末40からの許可通知(承諾)が返送されると追加される。また、伝送端末10又は情報処理端末40から伝送管理装置50に対して削除されることもできる。 For example, the candidates for the destination terminal to which the transmission terminal 10aa with the communication ID "01aa" can request the start of the videoconference are the transmission terminals 10ab to 10dc with the communication IDs "01ab" to "01dc" and the communication ID "04bd". Information processing terminals 40bd and be with "04be" are indicated. The communication ID of the destination terminal is returned by a permission notification (approval) from the destination transmission terminal 10 or information processing terminal 40 in response to a request from the transmission terminal 10 or information processing terminal 40 to the transmission management device 50. added when done. Also, it can be deleted from the transmission terminal 10 or the information processing terminal 40 to the transmission management device 50 .

Figure 0007196951000005
また、記憶部5000には、セッション管理テーブルによって構成されているセッション管理DB5004が構築されている。このセッション管理テーブルでは、中継装置30を選択するためのセッションの実行に用いられるセッションID毎に、画像データ及び音声データの中継に使用される中継装置30の中継装置ID、要求元端末の通信ID、宛先端末の通信ID、及び、会議ID、が関連付けられて管理される。セッションIDはセッションを識別するためのIDであり同じ会議に参加する伝送端末10が同じセッションに含まれるとは限らない。これに対し会議IDは同じ会議に参加する伝送端末10に同じものが付与される。
Figure 0007196951000005
A session management DB 5004 configured by a session management table is constructed in the storage unit 5000 . In this session management table, the relay device ID of the relay device 30 used for relaying image data and audio data and the communication ID of the request source terminal are stored for each session ID used to execute a session for selecting the relay device 30. , the communication ID of the destination terminal, and the conference ID are associated and managed. A session ID is an ID for identifying a session, and transmission terminals 10 participating in the same conference are not necessarily included in the same session. On the other hand, the same conference ID is assigned to transmission terminals 10 participating in the same conference.

(UI提供装置のURI)
更に、記憶部5000には、UI提供装置20のURI(Uniform Resource Identifier)5005が記憶されている。UI提供装置20のURI5005は、伝送管理装置50又はUI提供装置20の管理者などにより設定されている。
(URI of UI providing device)
Furthermore, the storage unit 5000 stores a URI (Uniform Resource Identifier) 5005 of the UI providing device 20 . The URI 5005 of the UI providing device 20 is set by the transmission management device 50 or the manager of the UI providing device 20 or the like.

(録画中管理テーブル)
記憶部5000には録画中管理テーブル5006が記憶されている。伝送管理装置50が保持する録画中管理テーブル5006には、会議ごとに録画中の伝送端末10及び情報処理端末40の通信IDが全て登録されている。
(recording management table)
A recording management table 5006 is stored in the storage unit 5000 . In the recording management table 5006 held by the transmission management device 50, all the communication IDs of the transmission terminal 10 and the information processing terminal 40 that are being recorded for each conference are registered.

(伝送管理装置50の各機能構成)
送受信部51は、CPU201及びネットワークI/図2809等によって構成され、伝送ネットワーク2を介して他の伝送端末10又は中継装置30、プログラム提供装置90と各種データや情報の送受信を行うようになっている。
(Each functional configuration of the transmission management device 50)
The transmitting/receiving unit 51 is composed of the CPU 201, the network I/diagram 2809, and the like, and transmits/receives various data and information to/from other transmission terminals 10, the relay device 30, and the program providing device 90 via the transmission network 2. there is

端末認証部52は、CPU101等によって構成され、送受信部51を介して受信されたログイン要求情報に含まれている通信ID及びパスワードを検索キーとして、端末認証管理DB5001を検索する。そして、端末認証管理DB5001に同一の通信ID及びパスワードが管理されているかを判定することによって端末認証を行うようになっている。なお、認証方法はこれに限られず、クライアント証明書(公開鍵と秘密鍵を用いた認証方法)を用いてもよい。 The terminal authentication unit 52 is configured by the CPU 101 and the like, and searches the terminal authentication management DB 5001 using the communication ID and password included in the login request information received via the transmission/reception unit 51 as search keys. Terminal authentication is performed by determining whether the same communication ID and password are managed in the terminal authentication management DB 5001 . Note that the authentication method is not limited to this, and a client certificate (an authentication method using a public key and a private key) may be used.

状態管理部53は、CPU101等によって構成され、ログイン要求してきた要求元端末の稼動状態を管理する。すなわち、端末管理DB5002に、要求元端末の通信IDに対して、稼動状態、及びIPアドレスを関連付けて記憶して管理するようになっている。 The state management unit 53 is composed of the CPU 101 and the like, and manages the operating state of the request source terminal that has requested the login. That is, the terminal management DB 5002 stores and manages the communication ID of the requesting terminal in association with the operating state and IP address.

また、ユーザが伝送端末10の電源スイッチ109の状態をONからOFFにする。状態管理部53は、これにより、伝送端末10から送られてきた、電源をOFFする旨の状態情報に基づいて、端末管理DB5002における伝送端末10の稼動状態をオンラインからオフラインに変更するようになっている。また、状態管理部53は定期的に(不定期でもよい)伝送端末10及び情報処理端末40の死活を監視するための通信を行う。 Also, the user turns the power switch 109 of the transmission terminal 10 from ON to OFF. Accordingly, the state management unit 53 changes the operating state of the transmission terminal 10 in the terminal management DB 5002 from online to offline based on the state information sent from the transmission terminal 10 indicating that the power is to be turned off. ing. Also, the state management unit 53 periodically (or irregularly) performs communication for monitoring the life and death of the transmission terminal 10 and the information processing terminal 40 .

端末抽出部54は、CPU101等によって構成され、ログイン要求した要求元端末の通信IDを検索キーとして、宛先リスト管理DB5003を検索し、要求元端末に対する宛先端末の候補の通信IDを抽出するようになっている。 The terminal extracting unit 54 is configured by the CPU 101 or the like, searches the destination list management DB 5003 using the communication ID of the requesting terminal that requested the login as a search key, and extracts the communication IDs of candidate destination terminals for the requesting terminal. It's becoming

また、端末抽出部54は、ログイン要求してきた要求元端末の通信IDを検索キーとして、宛先リスト管理DB5003を検索し、要求元端末の通信IDを宛先端末の候補として登録している他の要求元端末の通信IDも抽出するようになっている。 In addition, the terminal extraction unit 54 searches the destination list management DB 5003 using the communication ID of the request source terminal that has made the login request as a search key, and retrieves other requests registered with the communication ID of the request source terminal as destination terminal candidates. The communication ID of the source terminal is also extracted.

端末状態取得部55は、CPU101等によって構成され、端末抽出部54によって抽出された宛先端末の候補の通信IDを検索キーとして、端末管理DB5002を検索し、検出された通信ID毎に稼動状態を読み出すようになっている。 The terminal status acquisition unit 55 is configured by the CPU 101 or the like, searches the terminal management DB 5002 using the communication ID of the destination terminal candidate extracted by the terminal extraction unit 54 as a search key, and obtains the operation status for each detected communication ID. It is designed to read out.

これにより、端末状態取得部55は、ログイン要求してきた要求元端末に対する宛先端末の候補の稼動状態を取得することができる。また、端末状態取得部55は、端末抽出部54によって抽出された通信IDを検索キーとして、端末管理DB5002を検索し、ログイン要求してきた要求元端末の稼動状態も取得するようになっている。 As a result, the terminal status acquiring unit 55 can acquire the operating status of the destination terminal candidate for the request source terminal that has issued the login request. In addition, the terminal state acquisition unit 55 searches the terminal management DB 5002 using the communication ID extracted by the terminal extraction unit 54 as a search key, and also acquires the operation state of the request source terminal that has made the login request.

セッション管理部56は、伝送端末10と伝送端末10、伝送端末10と情報処理端末40、又は、情報処理端末40と情報処理端末40の間でセッションが確立すると、セッション管理テーブルでセッションを管理する。すでにセッションが確立している伝送端末10又は情報処理端末40に対し別のセッションが確立した場合、セッション管理部56は同じ会議IDを付与するので、同じ会議に参加している伝送端末10及び情報処理端末40が会議IDで紐付けられる。 When a session is established between the transmission terminal 10 and the transmission terminal 10, between the transmission terminal 10 and the information processing terminal 40, or between the information processing terminal 40 and the information processing terminal 40, the session management unit 56 manages the session using a session management table. . When another session is established for the transmission terminal 10 or the information processing terminal 40 with which a session has already been established, the session management unit 56 assigns the same conference ID. The processing terminal 40 is associated with the conference ID.

記憶・読出処理部59は、CPU101及びHDD205等によって構成され、記憶部5000に各種データを記憶したり、記憶部5000に記憶された各種データを読み出したりするようになっている。 The storage/read processing unit 59 is configured by the CPU 101, the HDD 205, etc., and stores various data in the storage unit 5000 and reads out various data stored in the storage unit 5000. FIG.

<<UI提供装置の各機能構成>>
UI提供装置20は、送受信部81、サーバ部82及び記憶・読出処理部89を有している。これら各部は、HD204からRAM203上に展開されたUI提供装置用プログラム2000aを実行するCPU201によって実現される機能である。また、伝送管理装置50は、HD204により構成される記憶部2000を有している。記憶部2000にはレイアウト情報lotが記憶されている。
<<Each functional configuration of the UI providing device>>
The UI providing device 20 has a transmission/reception section 81 , a server section 82 and a storage/read processing section 89 . These units are functions realized by the CPU 201 that executes the UI providing apparatus program 2000a developed on the RAM 203 from the HD 204 . The transmission management device 50 also has a storage unit 2000 configured by the HD 204 . The storage unit 2000 stores layout information lot.

(UI提供装置の各機能構成)
送受信部81は、CPU201及びネットワークI/図2809等によって構成され、伝送ネットワーク2を介して伝送端末10と各種データや情報の送受信を行うようになっている。
(Functional configuration of UI providing device)
The transmitting/receiving unit 81 is composed of the CPU 201 and the network I/diagram 2809 and the like, and transmits/receives various data and information to/from the transmission terminal 10 via the transmission network 2 .

サーバ部82は、CPU101等によって構成され、伝送端末10からレイアウト情報要求信号を取得し、記憶・読出処理部29が記憶部2000から読み出したレイアウト情報lotを、送受信部81を介して伝送端末10に送信する。 The server unit 82 is configured by the CPU 101 and the like, acquires a layout information request signal from the transmission terminal 10 , and sends the layout information lot read from the storage unit 2000 by the storage/read processing unit 29 to the transmission terminal 10 via the transmission/reception unit 81 . Send to

記憶・読出処理部89は、CPU101等によって構成され、記憶部2000に各種データを記憶したり、記憶部2000に記憶された各種データを読み出したりするようになっている。記憶部2000は、ROM202、RAM203、HDD205等によって構成され、主にUI提供装置用プログラム2000aとレイアウト情報lotを記憶している。 The storage/read processing unit 89 is configured by the CPU 101 and the like, and stores various data in the storage unit 2000 and reads out various data stored in the storage unit 2000 . The storage unit 2000 includes a ROM 202, a RAM 203, an HDD 205, and the like, and mainly stores a UI providing device program 2000a and layout information lot.

<<情報処理端末の機能構成>>
図7は、情報処理端末40の機能ブロック図の一例である。情報処理端末40の機能については伝送端末10との相違を主に説明する。情報処理端末40の機能は伝送端末10と同様であるが、情報処理端末40は画像録画部41を有する点が伝送端末10と異なっている。情報処理端末40が有する各機能は、図4に示したフラッシュメモリ104からRAM103上に展開された情報処理端末用プログラム1000cを実行するCPU101によって実現される機能である。また、情報処理端末40は記憶部1000に、情報処理端末用プログラム1000c及び録画データ1000dを記憶している。
<<Functional configuration of information processing terminal>>
FIG. 7 is an example of a functional block diagram of the information processing terminal 40. As shown in FIG. As for the functions of the information processing terminal 40, differences from the transmission terminal 10 will be mainly described. The functions of the information processing terminal 40 are the same as those of the transmission terminal 10, but differ from the transmission terminal 10 in that the information processing terminal 40 has an image recording section 41. FIG. Each function of the information processing terminal 40 is implemented by the CPU 101 that executes the information processing terminal program 1000c developed on the RAM 103 from the flash memory 104 shown in FIG. In addition, the information processing terminal 40 stores an information processing terminal program 1000c and recorded data 1000d in the storage unit 1000. FIG.

画像録画部41は、ディスプレイ120に表示される画像データ及び音声データを録画データ1000dとして記録する。録画データは、表示制御部17がディスプレイ120に表示した全画面表示画面501や情報表示画面601が録画されたデータである。全画面表示画面501や情報表示画面601に限らず、ディスプレイ120に表示された画面は保存することが可能である。また、音出力部15bがスピーカ115から出力した音声データも録音(記録)することが可能である。本実施形態では、画像録画部41が録画することで音声データも録音されているものとする。一方、画像録画部41は、画像データのみ又は音声データのみを記録することが可能である。 The image recording unit 41 records image data and audio data displayed on the display 120 as recording data 1000d. The recorded data is data in which the full-screen display screen 501 and the information display screen 601 displayed on the display 120 by the display control unit 17 are recorded. It is possible to save not only the full screen display screen 501 and the information display screen 601 but also the screen displayed on the display 120 . Audio data output from the speaker 115 by the sound output unit 15b can also be recorded. In this embodiment, it is assumed that audio data is also recorded by recording by the image recording unit 41 . On the other hand, the image recording unit 41 can record only image data or only audio data.

なお、本実施形態では情報処理端末40が録画する機能を有し、伝送端末10が録画する機能を有していないが、これは説明のための区別に過ぎず、伝送端末10が録画する機能を有することも可能である。 In this embodiment, the information processing terminal 40 has a recording function, and the transmission terminal 10 does not have a recording function. It is also possible to have

また、録画データ1000dを記憶部1000でなくネットワーク上のNAS(Network Attached Storage)などに記憶してもよい。 Also, the recorded data 1000d may be stored in NAS (Network Attached Storage) or the like on the network instead of the storage unit 1000. FIG.

<実施形態の処理又は動作>
次に、本実施形態に係る伝送システム1の動作について説明する。図8は、伝送端末10がビデオ会議に参加する準備状態になるまでの準備段階動作を示すシーケンス図である。なお、図8は、伝送端末10aaが準備状態になる例が示されている。準備段階動作においては、管理情報用セッションseiで各種情報が送受信される。また、情報処理端末40がビデオ会議に参加する処理も伝送端末10と同様である。
<Processing or operation of the embodiment>
Next, the operation of the transmission system 1 according to this embodiment will be described. FIG. 8 is a sequence diagram showing preparatory stage operations until the transmission terminal 10 is ready to participate in the video conference. Note that FIG. 8 shows an example in which the transmission terminal 10aa is in a ready state. In the preparatory stage operation, various types of information are transmitted and received in the management information session sei. Also, the processing for the information processing terminal 40 to participate in the video conference is the same as that for the transmission terminal 10 .

まず、伝送端末10aaのユーザが、伝送端末10aaの電源スイッチ109をONにすると、操作入力受付部12が電源ONを受け付けて、電源をONにする(ステップS21)。そして、ログイン要求部13は、電源ONの受け付けを契機とし、伝送端末10aaの送受信部11から伝送ネットワーク2を介して伝送管理装置50にログイン要求を表すログイン要求情報を送信する(ステップS22)。 First, when the user of the transmission terminal 10aa turns on the power switch 109 of the transmission terminal 10aa, the operation input receiving unit 12 receives the power ON and turns on the power (step S21). Triggered by the reception of power ON, the login request unit 13 transmits login request information indicating a login request from the transmission/reception unit 11 of the transmission terminal lOaa to the transmission management apparatus 50 via the transmission network 2 (step S22).

ログイン要求情報には、ログイン要求元の伝送端末10aaを識別するための通信ID及びパスワードが含まれている。これら通信ID及びパスワードは、記憶・読出処理部19によって記憶部1000から読み出される。 The login request information includes a communication ID and a password for identifying the transmission terminal 10aa that requested the login. These communication ID and password are read from the storage section 1000 by the storage/read processing section 19 .

なお、伝送端末10aaから送信されたログイン要求情報が伝送管理装置50に受信された際には、伝送管理装置50は、送信側である伝送端末10aaのIPアドレスを把握することができる。 When the login request information transmitted from the transmission terminal lOaa is received by the transmission management device 50, the transmission management device 50 can grasp the IP address of the transmission terminal lOaa on the transmission side.

次に、伝送管理装置50の端末認証部52は、送受信部51を介して受信したログイン要求情報に含まれている通信ID及びパスワードを検索キーとして、記憶部5000の端末認証管理DB5001を検索する。そして、端末認証管理DB5001に検索キーと同一の通信ID及びパスワードが管理されているかを判定することによって端末認証を行う(ステップS23)。 Next, the terminal authentication unit 52 of the transmission management device 50 searches the terminal authentication management DB 5001 of the storage unit 5000 using the communication ID and password included in the login request information received via the transmission/reception unit 51 as search keys. . Then, terminal authentication is performed by determining whether or not the same communication ID and password as the search key are managed in the terminal authentication management DB 5001 (step S23).

ここで、端末認証部52によって、検索キーと同一の通信ID及びパスワードが管理されていないと判定された場合、すなわち、正当な利用権限を有する伝送端末10からのログイン要求でないと判定された場合がある。この場合、送受信部51は、端末認証部52によって得られた認証結果を表す認証結果情報をログイン要求してきた伝送端末10aaに伝送ネットワーク2を介して送信し、準備段階の動作は終了することとなる。 Here, when the terminal authentication unit 52 determines that the communication ID and password that are the same as the search key are not managed, that is, when it is determined that the login request is not from the transmission terminal 10 that has valid use authority. There is In this case, the transmitting/receiving unit 51 transmits the authentication result information representing the authentication result obtained by the terminal authentication unit 52 to the transmission terminal 10aa that requested the login via the transmission network 2, and the operation in the preparatory stage is completed. Become.

一方、端末認証部52によって、検索キーと同一の通信ID及びパスワードが管理されていると判定された場合、すなわち、正当な利用権限を有する伝送端末10からのログイン要求であると判定された場合がある。この場合、状態管理部53は、端末管理DB5002に、伝送端末10aaの通信ID、稼動状態、及び伝送端末10aaのIPアドレスを関連付けて記憶する(ステップS24)。 On the other hand, if the terminal authentication unit 52 determines that the same communication ID and password as the search key are managed, that is, if it is determined that the login request is from the transmission terminal 10 that has valid use authority. There is In this case, the state management unit 53 associates and stores the communication ID, operating state, and IP address of the transmission terminal 10aa in the terminal management DB 5002 (step S24).

これにより、端末管理テーブルは、通信ID「01aa」、稼動状態「オンライン(伝送可能)」、及び伝送端末10aaのIPアドレス「1.2.1.3」を関連付けて管理することになる。 As a result, the terminal management table associates and manages the communication ID "01aa", the operating state "online (transmittable)", and the IP address "1.2.1.3" of the transmission terminal 10aa.

次に、伝送管理装置50の送受信部51は、端末認証部52によって得られた認証結果を表す認証結果情報をログイン要求してきた伝送端末10aaに伝送ネットワーク2を介して送信する(ステップS25)。また、伝送管理装置50は、認証結果情報と共に又は前後して、UI提供装置20のURI5005を伝送端末10に送信する。これにより、伝送端末10はUI提供装置20にアクセスできるようになる。 Next, the transmitting/receiving unit 51 of the transmission management device 50 transmits authentication result information representing the authentication result obtained by the terminal authentication unit 52 to the transmission terminal 10aa requesting login via the transmission network 2 (step S25). In addition, the transmission management device 50 transmits the URI 5005 of the UI providing device 20 to the transmission terminal 10 together with or before or after the authentication result information. This allows the transmission terminal 10 to access the UI providing device 20 .

このUI提供装置20のURI5005は伝送ネットワーク2におけるレイアウト情報lotの保存場所を示す。例えば「IPアドレス(又はドメイン名)+フォルダ名+ファイル名」のような形式を有するが、UI提供装置20にアクセス可能であればよい。 The URI 5005 of this UI providing device 20 indicates the storage location of the layout information lot in the transmission network 2 . For example, it has a format such as “IP address (or domain name)+folder name+file name”, but it is sufficient if the UI providing device 20 can be accessed.

URI5005を各伝送端末10が保持しないことによって、UI提供装置20が置き換えられたり、URIが変更になったりしても、伝送管理装置50の管理者が伝送管理装置50に記憶しているURIを変更するだけでよい。すなわち、全ての伝送端末10に対する変更が必要でなくなるため、管理の負荷を低減できる。 Since each transmission terminal 10 does not hold the URI 5005, even if the UI providing device 20 is replaced or the URI is changed, the administrator of the transmission management device 50 can use the URI stored in the transmission management device 50. Just change it. That is, since it is not necessary to change all the transmission terminals 10, the management load can be reduced.

次に、伝送管理装置50の端末抽出部54は、ログイン要求してきた伝送端末10aaの通信ID「01aa」を検索キーとして、宛先リスト管理DB5003を検索し、伝送端末10aaに対する宛先端末の候補の通信IDを抽出する(ステップS26)。 Next, the terminal extracting unit 54 of the transmission management apparatus 50 searches the destination list management DB 5003 using the communication ID "01aa" of the transmission terminal 10aa that has requested the login as a search key, and searches the destination list management DB 5003 for communication of destination terminal candidates for the transmission terminal 10aa. ID is extracted (step S26).

ここでは、伝送端末10aaの通信ID「01aa」に対する宛先端末として通信IDが「01ab、01ac、01ba、01bb、01bc、04bd、04be、01ca、01cb、01ca、01da、01db、01dc」が抽出されることになる。 Here, the communication IDs "01ab, 01ac, 01ba, 01bb, 01bc, 04bd, 04be, 01ca, 01cb, 01ca, 01da, 01db, 01dc" are extracted as the destination terminals for the communication ID "01aa" of the transmission terminal 10aa. It will be.

次に、伝送管理装置50の端末状態取得部55は、端末抽出部54によって抽出された宛先端末の候補の通信ID「01ab、01ac、01ba、01bb、01bc、04bd、04be、01ca、01cb、01ca、01da、01db、01dc」を検索キーとして、端末管理DB5002を検索する。そして、端末抽出部54によって抽出された通信ID毎に稼動状態「オフライン」、「オンライン(伝送可能)」、「オンライン(伝送中)」「録画会議中」を読み出すことにより、伝送端末10と情報処理端末40の各稼動状態を取得する(ステップS27)。 Next, the terminal status acquisition unit 55 of the transmission management device 50 extracts the destination terminal candidate communication IDs “01ab, 01ac, 01ba, 01bb, 01bc, 04bd, 04be, 01ca, 01cb, 01ca” from the destination terminal candidates extracted by the terminal extraction unit 54. , 01da, 01db, 01dc" as search keys, the terminal management DB 5002 is searched. Then, by reading out the operation status "offline", "online (transmittable)", "online (transmitting)", and "recording meeting in progress" for each communication ID extracted by the terminal extracting unit 54, the transmission terminal 10 and the information Each operating state of the processing terminal 40 is obtained (step S27).

次に、伝送管理装置50の送受信部51は、ステップS27で使用された検索キーである通信ID「01ab、01ac、01ba、01bb、01bc、04bd、04be、01ca、01cb、01ca、01da、01db、01dc」と、各伝送端末10及び情報処理端末40の稼動状態「オフライン」、「オンライン(伝送可能)」、「オンライン(伝送中)」「録画会議中」を宛先状態情報に含める。そして、伝送ネットワーク2を介して伝送端末10aaに送信する(ステップS28)。 Next, the transmission/reception unit 51 of the transmission management device 50 retrieves the communication ID "01ab, 01ac, 01ba, 01bb, 01bc, 04bd, 04be, 01ca, 01cb, 01ca, 01da, 01db," which is the search key used in step S27. 01dc", and the operating states of each transmission terminal 10 and information processing terminal 40, "offline", "online (transmittable)", "online (transmitting)", and "recording meeting in progress" are included in the destination status information. Then, it is transmitted to the transmission terminal 10aa via the transmission network 2 (step S28).

これにより、伝送端末10aaは、宛先端末の候補である伝送端末10ab、10ac、10ba、10bb、10bc、10ca、10cb、10ca、10da、10db、10dc、情報処理端末40bd、40beの現時点のそれぞれの稼動状態「オフライン」、「オンライン(伝送可能)」、「オンライン(伝送中)」「録画会議中」を把握することができる。 As a result, the transmission terminal 10aa determines the current operation status of each of the transmission terminals 10ab, 10ac, 10ba, 10bb, 10bc, 10ca, 10cb, 10ca, 10da, 10db, and 10dc, and the information processing terminals 40bd and 40be, which are destination terminal candidates. The status "offline", "online (transmittable)", "online (transmitting)", and "recorded meeting in progress" can be grasped.

更に、伝送管理装置50の端末抽出部54は、ログイン要求してきた伝送端末10aaの通信ID「01aa」を検索キーとして、宛先リスト管理DB5003を検索する。そして、伝送端末10aaの通信ID「01aa」を宛先端末の候補として登録している他の伝送端末の通信IDを抽出する(ステップS29)。表4の宛先リスト管理テーブルによれば、「01ba」、「01ca」「04bd」が抽出される。 Further, the terminal extraction unit 54 of the transmission management device 50 searches the destination list management DB 5003 using the communication ID "01aa" of the transmission terminal 10aa that has requested the login as a search key. Then, the communication IDs of other transmission terminals in which the communication ID "01aa" of the transmission terminal lOaa is registered as a destination terminal candidate are extracted (step S29). According to the destination list management table of Table 4, "01ba", "01ca" and "04bd" are extracted.

次に、伝送管理装置50の状態管理部53は、ログイン要求して来た伝送端末10aaの通信ID「01aa」を検索キーとして、端末管理DB5002を検索する。そして、ログイン要求してきた伝送端末10aaの稼動状態「オンライン(伝送可能)」(ログイン直後はオンライン(伝送可能)である)を取得する(ステップS30)。 Next, the state management unit 53 of the transmission management device 50 searches the terminal management DB 5002 using the communication ID "01aa" of the transmission terminal 10aa that requested the login as a search key. Then, the operation status of the transmission terminal 10aa requesting the login is "online (transmittable)" (online (transmittable) immediately after login) is obtained (step S30).

次に、伝送管理装置50の送受信部51は、ステップS29で抽出された通信ID「01ba」、「01ca」「04bd」で識別されるそれぞれの伝送端末10ba、10ca、及び情報処理端末40dbのうち、端末管理DB5002で稼動状態が「オンライン」となっている伝送端末10baと情報処理端末40bdを特定する。オンラインでなければ宛先状態情報を受け取れないためである。そして、ステップS30で取得された伝送端末10aaの通信ID「01aa」と稼動状態「オンライン(伝送可能)」とが含まれる宛先状態情報を送信する(ステップS31-1、31-2)。 Next, the transmission/reception unit 51 of the transmission management device 50 selects the transmission terminals 10ba and 10ca identified by the communication IDs "01ba", "01ca" and "04bd" extracted in step S29, and the information processing terminal 40db. , the transmission terminal 10ba and the information processing terminal 40bd whose operation status is "online" in the terminal management DB 5002 are specified. This is because the destination status information cannot be received unless the system is online. Then, the destination status information including the communication ID "01aa" of the transmission terminal 10aa acquired in step S30 and the operating status "online (transmittable)" is transmitted (steps S31-1, 31-2).

伝送端末10aaの宛先リスト表示部16は、ステップS28で受信した宛先状態情報を用いて、宛先リスト画面をディスプレイ120aaに表示させる(S32)。宛先リスト画面を図11に示す。 The destination list display unit 16 of the transmission terminal lOaa uses the destination status information received in step S28 to display the destination list screen on the display 120aa (S32). FIG. 11 shows the destination list screen.

なお、伝送端末10ba、情報処理端末40bdに宛先状態情報を送信する際には、送受信部51は、各通信ID「01ba」、「04bd」に基づいて、端末管理テーブルで管理されている伝送端末のIPアドレスを参照する。 When transmitting the destination status information to the transmission terminal 10ba and the information processing terminal 40bd, the transmitting/receiving unit 51 uses the communication IDs "01ba" and "04bd" to transmit the transmission terminals managed in the terminal management table. refer to the IP address of

これにより、ログイン要求してきた伝送端末10aaを宛先として伝送することができる伝送端末10db、情報処理端末40bdに、ログイン要求してきた伝送端末10aaの通信ID「01aa」及び稼動状態「オンライン(伝送可能)」を伝えることができる。 As a result, the communication ID "01aa" of the transmission terminal 10aa requesting the login and the operating status "online (transmittable)" are sent to the transmission terminal 10db and the information processing terminal 40bd, which can transmit to the transmission terminal 10aa requesting the login. ” can be conveyed.

また、準備段階動作のステップS28が完了した際に、伝送端末10aaの表示制御部17は、ディスプレイ120に表示させた宛先リスト画面から、ビデオ会議に参加中の端末をディスプレイ120に強調表示させる。すなわち、稼動状態が「オンライン(伝送中)」や「オンライン(伝送可能)」である伝送端末10ba、情報処理端末40bdの情報をディスプレイ120に強調表示させる等して、ビデオ会議に参加している伝送端末10又は参加可能な伝送端末10をユーザに認識させることができる。 Further, when step S28 of the preparatory stage operation is completed, the display control unit 17 of the transmission terminal lOaa causes the display 120 to highlight the terminals participating in the video conference from the destination list screen displayed on the display 120. FIG. That is, the information of the transmission terminal 10ba and the information processing terminal 40bd whose operating status is "online (transmitting)" or "online (transmitting possible)" is highlighted on the display 120 to participate in the video conference. The user can be made to recognize the transmission terminal 10 or the transmission terminal 10 that can participate.

図9は、伝送端末10がビデオ会議に参加する参加状態になるまでの会議参加動作を示すシーケンス図である。なお、図9は、伝送端末10aaが情報処理端末40bdとビデオ会議を行う例が示されている。会議参加動作においては、管理情報用セッションseiで各種情報が送受信される。 FIG. 9 is a sequence diagram showing the conference participation operation until the transmission terminal 10 enters the participation state of participating in the video conference. Note that FIG. 9 shows an example in which the transmission terminal 10aa conducts a videoconference with the information processing terminal 40bd. In the conference participation operation, various types of information are transmitted and received in the management information session sei.

まず、ユーザが操作ボタン108を押下して例えば情報処理端末40bdを選択することでビデオ会議の参加を選択すると、操作入力受付部12は、情報処理端末40bdとビデオ会議に参加する旨の要求を受け付ける(ステップS41)。なお、伝送端末10aaが情報処理端末40の場合、操作ボタン108の代わりに、情報処理端末40のハードキーやタッチパネルに表示されたソフトキーの押下により、ビデオ会議を参加する旨の要求を受け付ける。 First, when the user presses the operation button 108 and selects, for example, the information processing terminal 40bd to select participation in the videoconference, the operation input reception unit 12 requests participation in the videoconference with the information processing terminal 40bd. Accept (step S41). When the transmission terminal 10aa is the information processing terminal 40, a request to participate in the video conference is accepted by pressing a hard key of the information processing terminal 40 or a soft key displayed on the touch panel instead of the operation button 108. FIG.

この要求に応じて、伝送端末10aaの送受信部11は、伝送端末10aaの通信ID「01aa」及び情報処理端末40bdの通信ID「04bd」が含まれ、ビデオ会議に参加する旨を表す参加要求情報を伝送管理装置50に送信する(ステップS42)。 In response to this request, the transmitting/receiving unit 11 of the transmission terminal 10aa transmits participation request information including the communication ID "01aa" of the transmission terminal 10aa and the communication ID "04bd" of the information processing terminal 40bd, indicating participation in the video conference. is sent to the transmission management device 50 (step S42).

これにより、伝送管理装置50の送受信部51は、参加要求情報を受信すると共に、送信元である伝送端末10aaのIPアドレス「1.2.1.3」を確認することができる。 As a result, the transmission/reception unit 51 of the transmission management device 50 can receive the participation request information and confirm the IP address "1.2.1.3" of the transmission terminal 10aa that is the transmission source.

次に、伝送管理装置50の状態管理部53は、参加要求情報に含まれる伝送端末10aaの通信ID「01aa」を検索キーとする。そして、端末管理DB5002を検索し、参加要求してきた伝送端末10aaの稼動状態を「オンライン(伝送中)」に設定する(ステップS43)。これにより、表3(a)に示すように端末管理テーブルの稼動状態が更新される。 Next, the state management unit 53 of the transmission management device 50 uses the communication ID "01aa" of the transmission terminal 10aa included in the participation request information as a search key. Then, the terminal management DB 5002 is searched, and the operating state of the transmission terminal 10aa that has requested participation is set to "online (transmitting)" (step S43). As a result, the operation status of the terminal management table is updated as shown in Table 3(a).

次に、伝送管理装置50の送受信部51は、伝送ネットワーク2を介して伝送端末10aaの通信ID「01aa」が含まれる開始要求情報を情報処理端末40bdに送信する(ステップS44)。これにより、情報処理端末40bdは、どの伝送端末10からビデオ会議に参加したいとの要求があったのかを把握することができる。 Next, the transmission/reception unit 51 of the transmission management device 50 transmits start request information including the communication ID "01aa" of the transmission terminal 10aa to the information processing terminal 40bd via the transmission network 2 (step S44). Thereby, the information processing terminal 40bd can grasp which transmission terminal 10 requested to participate in the video conference.

次に、情報処理端末40bdは、送受信部11から伝送ネットワーク2を介して伝送管理装置50に開始要求情報の受信が完了した旨を示す受信完了情報を送信する(ステップS45)。セッション管理部56は、要求元である伝送端末10aaと宛先端末である情報処理端末40bdとの間のセッションに重複しないセッションIDを付与する(採番する)。また、重複しない会議IDを採番してセッション管理テーブルにセッションID、中継装置ID、要求元通信ID、宛先通信ID及び会議IDを登録する。 Next, the information processing terminal 40bd transmits reception completion information indicating completion of reception of the start request information from the transmission/reception unit 11 to the transmission management device 50 via the transmission network 2 (step S45). The session management unit 56 assigns (numbers) a unique session ID to the session between the transmission terminal 10aa that is the source of the request and the information processing terminal 40bd that is the destination terminal. Also, a unique meeting ID is numbered, and the session ID, relay device ID, request source communication ID, destination communication ID, and meeting ID are registered in the session management table.

次に、伝送管理装置50の送受信部51は、伝送ネットワーク2を介して中継装置30に中継を開始する旨の要求を表す中継開始要求情報を送信する(ステップS46)。中継開始要求情報には、伝送端末10aa及び情報処理端末40bdの各IPアドレス「1.2.1.3」、「1.3.1.3」、セッションID及び会議IDが含まれている。 Next, the transmission/reception unit 51 of the transmission management device 50 transmits relay start request information indicating a request to start relaying to the relay device 30 via the transmission network 2 (step S46). The relay start request information includes the IP addresses "1.2.1.3" and "1.3.1.3" of the transmission terminal 10aa and the information processing terminal 40bd, the session ID, and the conference ID.

これにより、中継装置30は、伝送端末10aa、情報処理端末40bdの間で、低解像度、中解像度及び高解像度の3つ画像データ、並びに、音声データを伝送するためのセッションを確立する(ステップS47)。このように、伝送端末10aaは、情報処理端末40bdとのビデオ会議に参加することができるようになる。 As a result, the relay device 30 establishes a session between the transmission terminal 10aa and the information processing terminal 40bd for transmitting the low-resolution, medium-resolution, and high-resolution image data and the audio data (step S47). ). Thus, the transmission terminal 10aa can participate in the video conference with the information processing terminal 40bd.

また、図9と同様の処理により同じセッションで通信する伝送端末10又は情報処理端末40に対する開始要求が伝送管理装置50に送信された場合、伝送管理装置50のセッション管理部56はセッションを開始している伝送端末10及び情報処理端末40の会議IDを付与する。従って、セッションIDが変わっても同じ会議に参加する伝送端末10又は情報処理端末40には同じ会議IDが付与される。中継装置30は同じ会議IDに対応付けられた伝送端末10又は情報処理端末40に対し画像データ及び音声データを転送する。 Further, when a start request to the transmission terminal 10 or the information processing terminal 40 communicating in the same session is transmitted to the transmission management device 50 by the same processing as in FIG. 9, the session management unit 56 of the transmission management device 50 starts the session. The conference IDs of the transmission terminal 10 and the information processing terminal 40 are given. Therefore, even if the session ID changes, the same conference ID is given to the transmission terminal 10 or the information processing terminal 40 participating in the same conference. The relay device 30 transfers the image data and the audio data to the transmission terminal 10 or the information processing terminal 40 associated with the same conference ID.

一方で、伝送管理装置50の送受信部51は、伝送端末10aaの通信ID「01aa」と稼動状態「オンライン(伝送中)」とが含まれる端末状態変更情報(稼動状態の変更情報)を、端末管理DB5002に登録されている各伝送端末10に送信する(ステップS48)。これにより、端末状態変更情報を受信した各伝送端末は、必要に応じて、通信ID「01aa」の伝送端末10aaの稼動状態を記憶及び表示することができる。 On the other hand, the transmitting/receiving unit 51 of the transmission management apparatus 50 transmits terminal state change information (operation state change information) including the communication ID “01aa” of the transmission terminal 10aa and the operation state “online (transmitting)” to the terminal 10aa. It is transmitted to each transmission terminal 10 registered in the management DB 5002 (step S48). As a result, each transmission terminal that has received the terminal state change information can store and display the operating state of the transmission terminal 10aa with the communication ID "01aa" as necessary.

セッションが確立することで、伝送端末10aaは、情報処理端末40bdから送信された画像データを表示し音声データを出力できる。情報処理端末40bdは、伝送端末10aaから送信された画像データを表示し音声データを出力できる。ビデオ会議に参加している伝送端末10が3つ以上であっても画像データ及び音声データは、2台の場合と同様に伝送される。あるいは、2台の場合には中継装置30を介さず、3台以上の場合に中継装置30を介する通信プロトコルで画像データ及び音声データが伝送されてもよい。 By establishing a session, the transmission terminal 10aa can display the image data transmitted from the information processing terminal 40bd and output the audio data. The information processing terminal 40bd can display the image data transmitted from the transmission terminal 10aa and output the audio data. Even if the number of transmission terminals 10 participating in the video conference is three or more, image data and audio data are transmitted in the same manner as in the case of two terminals. Alternatively, the image data and the audio data may be transmitted using a communication protocol that does not use the relay device 30 in the case of two devices and that uses the relay device 30 in the case of three or more devices.

<録画に関する動作>
図10を用いて情報処理端末40が録画を行った場合の動作について説明する。図10は、情報処理端末40bdが録画を開始したり終了したりした場合の動作を示すシーケンス図の一例である。
<Operations related to recording>
The operation when the information processing terminal 40 performs recording will be described with reference to FIG. FIG. 10 is an example of a sequence diagram showing operations when the information processing terminal 40bd starts and ends recording.

S1:ビデオ会議中の情報処理端末40bdのユーザ(会議の参加者)が画像データの録画を行う操作を行う。情報処理端末40bdの操作入力受付部12はこの操作を受け付ける。まず、情報処理端末40bdの送受信部11は情報処理端末40bdの通信ID(04bd)と共に録画開始通知を伝送管理装置50に送信する。 S1: A user (conference participant) of the information processing terminal 40bd during the videoconference performs an operation for recording image data. The operation input reception unit 12 of the information processing terminal 40bd receives this operation. First, the transmission/reception unit 11 of the information processing terminal 40bd transmits a recording start notification to the transmission management device 50 together with the communication ID (04bd) of the information processing terminal 40bd.

S2:伝送管理装置50の送受信部51は録画開始通知を受信する。これにより、状態管理部53は端末管理テーブルの情報処理端末40bdの通信ID(04bd)に対応付けられている稼動状態を「録画会議中」に設定する。 S2: The transmission/reception unit 51 of the transmission management device 50 receives the recording start notification. As a result, the state management unit 53 sets the operating state associated with the communication ID (04bd) of the information processing terminal 40bd in the terminal management table to "recording conference in progress".

また、状態管理部53は、情報処理端末40bdとビデオ会議を行っている全ての伝送端末10及び情報処理端末40の稼動状態を「録画会議中」に設定する。これは、同じ会議に参加する全ての伝送端末10及び情報処理端末40の参加者や資料などが録画されるおそれがあり、これから伝送端末10aaと情報処理端末40bdのビデオ会議に参加する伝送端末10及び情報処理端末40の参加者に、画像データや音声データが録画されている会議に宛先端末が参加中であることを知らせるためである。 In addition, the state management unit 53 sets the operating states of all the transmission terminals 10 and the information processing terminals 40 that are in videoconference with the information processing terminal 40bd to "recorded conference". This is because there is a risk that the participants, materials, etc. of all transmission terminals 10 and information processing terminals 40 participating in the same conference will be recorded. It is also for notifying participants of the information processing terminal 40 that the destination terminal is participating in a conference in which image data and audio data are being recorded.

情報処理端末40bdとビデオ会議を行っている伝送端末10及び情報処理端末40は、セッション管理テーブルに登録されている。端末抽出部54は、セッション管理テーブルにおいて情報処理端末40bdの通信ID(04bd)に対応付けられている会議IDを抽出し、更にこの会議IDに対応付けられている通信IDを全て取得する。表5のセッション管理テーブルでは、情報処理端末40bdと同じ会議に参加しているのは、通信IDが01aaの伝送端末10aa、10baである。従って、状態管理部53は、情報処理端末40bd、伝送端末10aa、10baの稼動状態を「録画会議中」に設定する。 The transmission terminal 10 and the information processing terminal 40 having a videoconference with the information processing terminal 40bd are registered in the session management table. The terminal extraction unit 54 extracts the conference ID associated with the communication ID (04bd) of the information processing terminal 40bd in the session management table, and further acquires all communication IDs associated with this conference ID. In the session management table of Table 5, the transmission terminals 10aa and 10ba with the communication ID of 01aa participate in the same conference as the information processing terminal 40bd. Accordingly, the state management unit 53 sets the operating states of the information processing terminal 40bd and the transmission terminals 10aa and 10ba to "recording conference in progress".

なお、状態管理部53は録画中管理テーブル5006に情報処理端末40bdの通信ID(04bd)を登録しておく。伝送端末10aa、10baの通信IDは登録しなくてよい(録画していないため)。 The state management unit 53 registers the communication ID (04bd) of the information processing terminal 40bd in the recording management table 5006 in advance. The communication IDs of the transmission terminals 10aa and 10ba do not need to be registered (because they are not recorded).

S3:伝送管理装置50の送受信部51は、情報処理端末40bdとビデオ会議を行っている伝送端末10及び情報処理端末40に録画開始通知を送信する。情報処理端末40bdとビデオ会議を行っている伝送端末10及び情報処理端末40の判定方法はステップS2と同様である。情報処理端末40bd、伝送端末10aa、10baが特定されるが、図10では伝送端末10baが省略されているため、伝送管理装置50の送受信部51はこの伝送端末10aaに録画開始通知を送信する。 S3: The transmitting/receiving unit 51 of the transmission management device 50 transmits a recording start notification to the transmission terminal 10 and the information processing terminal 40 that are in videoconference with the information processing terminal 40bd. The determination method of the transmission terminal 10 and the information processing terminal 40 that are conducting a videoconference with the information processing terminal 40bd is the same as in step S2. Although the information processing terminal 40bd and the transmission terminals 10aa and 10ba are specified, since the transmission terminal 10ba is omitted in FIG.

S4:伝送端末10aaの送受信部11は録画開始通知を受信して、表示制御部17が録画通知表示を行う。詳細は図17にて説明する。 S4: The transmission/reception unit 11 of the transmission terminal 10aa receives the recording start notification, and the display control unit 17 displays the recording notification. Details will be described with reference to FIG.

S5:情報処理端末40bdの画像録画部41は、操作入力受付部12が録画開始の操作を受け付けることで、画像データと音声データの記録を開始する。 S5: The image recording unit 41 of the information processing terminal 40bd starts recording image data and audio data when the operation input reception unit 12 receives an operation to start recording.

S6:続いて、情報処理端末40bdのユーザ(会議の参加者)が画像データの録画を終了する操作を行う。情報処理端末40bdの操作入力受付部12はこの操作を受け付ける。なお、情報処理端末40bdの画像録画部41は、操作入力受付部12が録画終了の操作を受け付けることで、画像データと音声データの記録を終了する。 S6: Subsequently, the user of the information processing terminal 40bd (participant in the conference) performs an operation to finish recording the image data. The operation input reception unit 12 of the information processing terminal 40bd receives this operation. Note that the image recording unit 41 of the information processing terminal 40bd ends the recording of the image data and the audio data when the operation input reception unit 12 receives an operation for ending recording.

S7:情報処理端末40bdの送受信部11は情報処理端末40bdの通信ID(04bd)と共に録画終了通知(記録終了通知の一例)を伝送管理装置50に送信する。 S7: The transmitting/receiving unit 11 of the information processing terminal 40bd transmits a recording end notification (an example of recording end notification) to the transmission management device 50 together with the communication ID (04bd) of the information processing terminal 40bd.

S8:伝送管理装置50の送受信部51は録画終了通知を受信する。状態管理部53は録画中管理テーブル5006から情報処理端末40bdの通信ID(04bd)を削除する。そして、録画中管理テーブル5006に1つも通信IDがない場合、端末管理テーブルの「録画会議中」を「オンライン(伝送中)」に設定する。こうすることで、1つでも録画中の伝送端末10又は情報処理端末40が残っている場合、会議に参加している全ての伝送端末10又は情報処理端末40の稼動状態を「録画会議中」にしたままにできる。 S8: The transmission/reception unit 51 of the transmission management device 50 receives the recording end notification. The state management unit 53 deletes the communication ID (04bd) of the information processing terminal 40bd from the recording management table 5006. FIG. Then, if there is no communication ID in the recording management table 5006, "recording meeting in progress" in the terminal management table is set to "online (transmitting)". By doing so, if even one transmission terminal 10 or information processing terminal 40 remains in the recording state, the operating status of all the transmission terminals 10 or information processing terminals 40 participating in the conference is changed to "recording conference". can be left on.

S9:伝送管理装置50の送受信部51は、情報処理端末40bdとビデオ会議を行っている伝送端末10及び情報処理端末40に録画終了通知を送信する。従って、録画終了通知は伝送端末10aaに送信される(図10では伝送端末10baが省略されている)。 S9: The transmitting/receiving unit 51 of the transmission management device 50 transmits a recording end notification to the transmission terminal 10 and the information processing terminal 40 that are in videoconference with the information processing terminal 40bd. Accordingly, the recording end notification is transmitted to the transmission terminal 10aa (the transmission terminal 10ba is omitted in FIG. 10).

S10:伝送端末10aaの送受信部11は録画終了通知を受信して、表示制御部17が録画通知を非表示にする。詳細は図17にて説明する。 S10: The transmission/reception unit 11 of the transmission terminal 10aa receives the recording end notification, and the display control unit 17 hides the recording notification. Details will be described with reference to FIG.

なお、ユーザが録画を終了する操作をした場合に録画終了通知が送信されるが、この他、録画を終了する間接的な操作(例えば、情報処理端末40bdの電源がOFFにされる)が行われた場合に録画終了通知が送信されてもよい。 Note that the recording end notification is transmitted when the user performs an operation to end recording, but in addition, an indirect operation to end recording (for example, the power of the information processing terminal 40bd is turned off) is performed. A recording end notification may be sent when the recording is terminated.

また、伝送管理装置50を介することなく、情報処理端末40bdが伝送端末10aaに直接、録画開始通知及び録画終了通知を送信してもよい。また、録画開始通知は録画の開始時に通知されるが、録画開始後の録画開始中に録画中通知のような通知が定期的又は不定期に通知されてもよい。 Alternatively, the information processing terminal 40bd may directly transmit the recording start notification and the recording end notification to the transmission terminal 10aa without going through the transmission management device 50. FIG. Also, although the recording start notification is notified at the start of recording, a notification such as a recording in progress notification may be notified periodically or irregularly during the start of recording after the start of recording.

<表示例>
伝送端末10がディスプレイ120に表示する画面について説明する。
<Display example>
A screen displayed on the display 120 by the transmission terminal 10 will be described.

<<宛先リスト画面>>
図11は、図8のステップS32で表示される宛先リスト画面の一例を示す。宛先リスト画面には、ステップS28で送信された宛先状態情報に基づき稼動状態と端末名が表示される。ここでは説明の便宜上、表3(b)の端末管理テーブルに基づいて伝送端末10aaが表示する宛先リスト画面を説明する。なお、図8のステップS28では伝送端末10aaがこれからビデオ会議に参加するため表3(b)の端末管理テーブルは処理内容と整合しない。図11は端末管理テーブルに基づいて宛先リスト画面が作成されることを説明するための図である。
<<Address list screen>>
FIG. 11 shows an example of the destination list screen displayed in step S32 of FIG. The operating status and terminal name are displayed on the destination list screen based on the destination status information transmitted in step S28. Here, for convenience of explanation, the destination list screen displayed by the transmission terminal 10aa will be explained based on the terminal management table of Table 3(b). Incidentally, in step S28 of FIG. 8, the terminal management table of Table 3(b) does not match the processing contents because the transmission terminal 10aa is about to participate in the video conference. FIG. 11 is a diagram for explaining how the destination list screen is created based on the terminal management table.

宛先リスト管理テーブルで伝送端末10aaの宛先端末の通信IDは「01ab、01ac、01ba、01bb、01bc、04bd、04be、01ca、01cb、01ca、01da、01db、01dc」である。このうち、録画会議中なのは通信IDが04bdの情報処理端末40bd、通信IDが01baの伝送端末10baなので、宛先リスト表示部16は通信IDが04bdと01baの稼動状態に録画拠点マーク71を表示する。その他の伝送端末10及び情報処理端末40はオフラインなので、宛先リスト表示部16は稼動状態にオフラインマークを表示する。 In the destination list management table, the communication IDs of the destination terminals of the transmission terminal 10aa are "01ab, 01ac, 01ba, 01bb, 01bc, 04bd, 04be, 01ca, 01cb, 01ca, 01da, 01db, 01dc". Since the information processing terminal 40bd with the communication ID of 04bd and the transmission terminal 10ba with the communication ID of 01ba are in the recording conference among these, the destination list display unit 16 displays the recording base mark 71 in the operating state of the communication IDs of 04bd and 01ba. . Since the other transmission terminal 10 and information processing terminal 40 are offline, the destination list display section 16 displays an offline mark in the operating state.

このように、宛先候補の1つ1つが稼動状態(録画拠点マーク71)を表示するので、これから参加しようとするユーザはビデオ会議に参加することで、自分や自分の資料が録画されてしまうことを把握できる。その結果、参加しないなどの判断が可能になる。 In this way, since the operation status (recording base mark 71) is displayed for each of the destination candidates, a user who is about to participate in the video conference will not have himself/herself or his/her materials recorded. can be grasped. As a result, it becomes possible to decide whether or not to participate.

図12は、ユーザが録画拠点マーク71の宛先を選択した場合に表示される確認ダイアログ画面510を説明する図の一例である。録画拠点マーク71が表示された宛先をユーザが選択すると、操作入力受付部12が選択を受け付ける。録画拠点マーク71が表示されている宛先が選択されると、宛先リスト表示部16は確認ダイアログ画面510を表示させる。 FIG. 12 is an example of a diagram for explaining a confirmation dialog screen 510 displayed when the user selects the destination of the recording site mark 71. As shown in FIG. When the user selects a destination on which the recording site mark 71 is displayed, the operation input receiving section 12 receives the selection. When a destination with the recording site mark 71 displayed is selected, the destination list display unit 16 displays a confirmation dialog screen 510 .

確認ダイアログ画面510には、「録画実行中の会議に参加します。よろしいでしょうか?」というメッセージ511、OKボタン512及びキャンセルボタン513が表示される。ユーザがOKボタン512を押下すると、図9のステップS41の開始要求情報が送信され、ユーザがキャンセルボタン513を押下すると、開始要求情報が送信されない。従って、ユーザは事前に確認してから録画中のビデオ会議に参加することができる。 On the confirmation dialog screen 510, a message 511 saying "I will participate in the conference being recorded. Are you sure?", an OK button 512 and a cancel button 513 are displayed. When the user presses the OK button 512, the start request information in step S41 of FIG. 9 is transmitted, and when the user presses the cancel button 513, the start request information is not transmitted. Therefore, the user can confirm in advance before participating in the video conference being recorded.

<<会議中の画面>>
本実施形態において、表示制御部17は、全画面表示モードと情報表示モードとの2つの表示モードを有する。
<<Meeting screen>>
In this embodiment, the display control unit 17 has two display modes, a full screen display mode and an information display mode.

図13は全画面表示モードでディスプレイ120に表示された画面例を示す図である。この画面を全画面表示画面501という。全画面表示モードは、図9のステップS47でセッションが確立し、画像データと音声データの送信又は受信が開始されることで表示される。すなわち、2つの表示モードのうち、ビデオ会議の間、主に使用される表示モードである。 FIG. 13 is a diagram showing a screen example displayed on the display 120 in the full screen display mode. This screen is called a full screen display screen 501 . The full-screen display mode is displayed when a session is established in step S47 of FIG. 9 and transmission or reception of image data and audio data is started. That is, which of the two display modes is primarily used during video conferencing.

全画面表示モードにおいて、伝送端末10の表示制御部17は、ビデオ会議に参加している各伝送端末10から送信された全ての画像をディスプレイ120に表示させる。全ての画像を表示することで1つの画像領域が小さくなってしまう場合、予め定められた上限値(最大値)の画像が表示される。 In the full-screen display mode, the display control unit 17 of the transmission terminal 10 causes the display 120 to display all images transmitted from each transmission terminal 10 participating in the video conference. When one image area becomes small by displaying all the images, an image of a predetermined upper limit value (maximum value) is displayed.

図13に示す全画面表示画面501には、比較的広い1つの第1画像領域502と、比較的狭い複数の第2画像領域503とが割り当てられている。例えば、各第2画像領域503には、ビデオ会議に参加している各伝送端末10から送信された画像データが表す画像が表示され、第1画像領域502には、ビデオ会議に参加している伝送端末10及び情報処理端末40の中から主要な伝送端末10又は情報処理端末40の画像データが表す画像が表示される。 A single relatively wide first image area 502 and a plurality of relatively narrow second image areas 503 are allocated to the full screen display screen 501 shown in FIG. For example, each second image area 503 displays an image represented by the image data transmitted from each transmission terminal 10 participating in the video conference, and the first image area 502 displays an image representing the image data transmitted from each transmission terminal 10 participating in the video conference. An image represented by the image data of the main transmission terminal 10 or information processing terminal 40 from among the transmission terminals 10 and information processing terminals 40 is displayed.

表示制御部17は、例えば、ビデオ会議に参加している伝送端末10のなかで、受信した音声データの中で発話がある伝送端末を主要な端末として特定する。また、発話がある伝送端末10が、音量が大きい順にソートされる。表示制御部17はこの順に第1画像領域502に画像を割り当てて表示する。 For example, among the transmission terminals 10 participating in the video conference, the display control unit 17 identifies a transmission terminal having an utterance in the received audio data as a main terminal. Also, the transmission terminals 10 that have spoken are sorted in descending order of volume. The display control unit 17 assigns and displays the images in the first image area 502 in this order.

なお、図13に示す全画面表示画面501は一例に過ぎず、全画面表示モードでは、複数の全ての画像領域を同じサイズにして各画像を表示することや、上記の主要な端末の画像のみをディスプレイ120の全体に表示することなどが可能である。 Note that the full-screen display screen 501 shown in FIG. 13 is merely an example. can be displayed on the entire display 120, for example.

そして、全画面表示画面501は、補助領域173を有する。補助領域表示部18aは、全画面表示モードでは補助領域173を表示することができる。図13では、補助領域173は、全画面表示画面501の上部の帯状の余白部分であるが、右端、左端、下部の帯状の余白部分などでもよいし、画像と重複して表示されてもよい。 The full screen display screen 501 has an auxiliary area 173 . The auxiliary area display unit 18a can display the auxiliary area 173 in the full screen display mode. In FIG. 13 , the auxiliary area 173 is a band-shaped blank portion at the top of the full-screen display screen 501 , but it may be a band-shaped blank portion at the right end, left end, or bottom, or may be displayed overlapping the image. .

補助領域173は、第1領域ar1~第6領域ar6に区分されている。
第1領域ar1…自端末の通信IDが表示される。この伝送端末10と同じビデオ会議に参加しようとする伝送端末10のユーザは、この通信IDを問い合わせ操作している伝送端末10に入力又は選択することでビデオ会議に参加できる。
第2領域ar2…拠点数が表示される。
第3領域ar3…セッションが確立してからの会議時間が表示される。
第4領域ar4…任意の情報が表示される。
第5領域ar5…ネットワーク帯域情報(上り・下りそれぞれの通信速度)が表示される。
第6領域ar6…カーソルボタンが表示される。カーソルボタン1736は上の三角ボタン1736uと下の三角ボタン1736dを有しているが、上の三角ボタン1736uは黒色で下の三角ボタン1736dは白抜きである。上の三角ボタン1736uは操作可能であることを示しており、下の三角ボタン1736dは操作できないことを示している。上の三角ボタン1736uが操作されると、後述する簡易表示の補助領域173が表示される。
The auxiliary area 173 is divided into a first area ar1 to a sixth area ar6.
First area ar1: The communication ID of the own terminal is displayed. A user of the transmission terminal 10 who wants to participate in the same videoconference as this transmission terminal 10 can participate in the videoconference by inputting or selecting this communication ID to the transmission terminal 10 that is inquiring and operating.
Second area ar2: The number of bases is displayed.
3rd area ar3 -- The conference time since the session was established is displayed.
Fourth area ar4 -- arbitrary information is displayed.
Fifth area ar5: Network band information (uplink/downlink communication speed) is displayed.
Sixth area ar6 -- cursor buttons are displayed. The cursor button 1736 has an upper triangular button 1736u and a lower triangular button 1736d. The upper triangular button 1736u is black and the lower triangular button 1736d is white. The upper triangular button 1736u indicates that it can be operated, and the lower triangular button 1736d indicates that it cannot be operated. When the upper triangular button 1736u is operated, a simple display auxiliary area 173, which will be described later, is displayed.

なお、補助領域173は半透明で表示されることが好ましい。これにより、拠点間で送受信される画像データに補助領域173が重なっても視認性を維持しやすい。 It should be noted that the auxiliary area 173 is preferably displayed translucent. This makes it easy to maintain visibility even when the auxiliary area 173 overlaps image data transmitted and received between bases.

ここで、第6領域ar6のカーソルボタン1736は、簡易表示の補助領域173への切り替えが可能であることをユーザに知らせるアイコンとなっている。以下、図13の補助領域を「標準の補助領域」と称して後述する「簡易表示の補助領域」と区別する。 Here, the cursor button 1736 of the sixth area ar6 is an icon that informs the user that switching to the auxiliary area 173 for simplified display is possible. Hereinafter, the auxiliary area in FIG. 13 will be referred to as a "standard auxiliary area" to distinguish it from a "simple display auxiliary area" to be described later.

カーソルボタン1736は、いくつかある操作ボタン108のうち2つと対応している。対応している操作ボタン108は上下に揺動可能であることが好ましく、操作ボタン108の上方向の操作と上の三角ボタン1736uが、操作ボタン108の下方向の操作と下の三角ボタン1736dがそれぞれ対応している。 Cursor buttons 1736 correspond to two of several operation buttons 108 . The corresponding operation buttons 108 are preferably capable of swinging up and down, and the upward operation of the operation button 108 and the upper triangular button 1736u, and the downward operation of the operation button 108 and the lower triangular button 1736d. They correspond to each other.

また、補助領域表示部18aは、録画開始通知を受信すると、補助領域173を拡張して録画通知情報80を表示する。録画通知情報80も半透明で表示されることが好ましい。図13では補助領域173の右下部分が拡張され、録画通知情報80に他拠点録画マーク72が表示されている。また、他拠点録画マーク72の右に「他拠点録画中」という文字が記載されたラベル73が表示される。他拠点録画マーク72とラベル73は少なくとも一方が表示されればよい。参加者は他拠点録画マーク72又はラベル73により、他の拠点で画像データが録画されていることを把握できる。図10の処理から明らかなように、参加拠点のうち1拠点以上が録画している場合、補助領域表示部18aは録画通知情報80を表示する。 Further, when receiving the recording start notification, the auxiliary area display unit 18a expands the auxiliary area 173 and displays the recording notification information 80. FIG. It is preferable that the recording notification information 80 is also displayed semi-transparently. In FIG. 13 , the lower right portion of the auxiliary area 173 is expanded, and the other site recording mark 72 is displayed in the recording notification information 80 . Also, a label 73 with the text "Recording at another site" is displayed to the right of the recording mark 72 at another site. At least one of the other site recording mark 72 and the label 73 may be displayed. A participant can understand that image data is being recorded at another site by the other site recording mark 72 or label 73 . As is clear from the processing of FIG. 10, when one or more participating sites are recording, the auxiliary area display unit 18a displays the recording notification information 80. FIG.

なお、図示された他拠点録画マーク72は赤又はオレンジの円形であるが、他拠点録画マーク72の外観(色、形、サイズなど)は、例えば、三角や四角などの多角形でもよいし、色も青やグリーンなどでもよい。また、サイズも図示するより小さくても大きくてもよい。また、録画通知情報80の場所も、右下部分の他、左下部分、右上部分、左上部分、又は、補助領域173の中央部の上側や下側などでもよい。また、補助領域173にスペースがある場合、該スペースに他拠点録画マーク72又はラベル73の少なくとも一方が配置されてよい。 Although the illustrated other-site recording mark 72 is circular in red or orange, the appearance (color, shape, size, etc.) of the other-site recording mark 72 may be, for example, a polygon such as a triangle or a square. The color may also be blue or green. Also, the size may be smaller or larger than shown. Also, the location of the recording notification information 80 may be the lower left portion, the upper right portion, the upper left portion, or the upper side or lower side of the central portion of the auxiliary area 173, in addition to the lower right portion. Also, if there is a space in the auxiliary area 173, at least one of the other site recording mark 72 and the label 73 may be arranged in the space.

図14は、簡易表示の補助領域173の一例を示す図である。図14では、図13と拠点数は同じだが、第1領域ar1~第6領域ar6の伝送状態の情報が簡易的に表示されている。簡易表示の補助領域173では、各領域に何が表示されているかの情報が表示されず、主に、第1領域ar1には通信IDの値のみが、第2領域ar2には拠点数のみが、第3領域ar3には時刻のみが、第5領域ar5には帯域のみが表示される。 FIG. 14 is a diagram showing an example of the auxiliary area 173 for simple display. In FIG. 14, the number of bases is the same as in FIG. 13, but the information on the transmission state of the first area ar1 to the sixth area ar6 is simply displayed. In the simple display auxiliary area 173, information about what is displayed in each area is not displayed. Mainly, only the value of the communication ID is displayed in the first area ar1, and only the number of bases is displayed in the second area ar2. , only the time is displayed in the third area ar3, and only the band is displayed in the fifth area ar5.

第6領域ar6のカーソルボタン1736は、標準の補助領域173と表示形態が変わっている。簡易表示の補助領域173では、上の三角ボタン1736uも下の三角ボタン1736dも黒色である。ユーザは、上の三角ボタン1736uに対応する操作ボタン108も、下の三角ボタン1736dに対応する操作ボタン108も操作できる。 The cursor button 1736 in the sixth area ar6 is different from the standard auxiliary area 173 in display form. In the simplified display auxiliary area 173, both the upper triangular button 1736u and the lower triangular button 1736d are black. The user can operate both the operation button 108 corresponding to the upper triangle button 1736u and the operation button 108 corresponding to the lower triangle button 1736d.

カーソルボタン1736の操作により補助領域173の表示は以下のように制御される。
下の三角ボタン:標準の補助領域173へ切り替える。
上の三角ボタン:簡易表示の補助領域173を表示しない(標準の補助領域173も表示しない)。
By operating the cursor button 1736, the display of the auxiliary area 173 is controlled as follows.
Lower triangular button: Switch to standard auxiliary area 173 .
Upper triangular button: Does not display the simple display auxiliary area 173 (does not display the standard auxiliary area 173 either).

簡易表示の補助領域173では、標準の補助領域173よりもディスプレイ120を占める面積が少なくなるので、補助領域173に伝送状態の情報を表示しながら、画像データの視認性をよくすることができる。 The simplified display auxiliary area 173 occupies a smaller area of the display 120 than the standard auxiliary area 173 , so that the visibility of the image data can be improved while the transmission status information is displayed in the auxiliary area 173 .

なお、簡易表示の補助領域173も、標準の補助領域173と同様に半透明で表示されることが好ましい。 It should be noted that the simplified display auxiliary area 173 is also preferably displayed translucent like the standard auxiliary area 173 .

簡易表示の補助領域173において他拠点録画マーク72又はラベル73の表示態様は、標準の補助領域173と変わらない。一方、他拠点録画マーク72又はラベル73のいずれか一方を非表示にするなど、補助領域表示部18aが表示態様を変更してもよい。このように、標準の補助領域173と簡易表示の補助領域173で常に録画通知情報80が表示されるので、参加者はリアルタイムに録画状況を把握できる。 The display mode of the other site recording mark 72 or the label 73 in the simplified display auxiliary area 173 is the same as that of the standard auxiliary area 173 . On the other hand, the display mode of the auxiliary area display unit 18a may be changed, such as by hiding either the other site recording mark 72 or the label 73. FIG. Since the recording notification information 80 is always displayed in the standard auxiliary area 173 and the simple display auxiliary area 173 in this way, the participants can grasp the recording status in real time.

図15は、補助領域173が表示されない場合の他拠点録画マーク72及びラベル73の表示例を示す図である。補助領域173が表示されない場合でも補助領域表示部18aは録画通知情報80を表示する。すなわち、他拠点が録画中かどうかは重要な情報なので、補助領域表示部18aは補助領域173が表示されなくても録画通知情報80を常に表示する。従って、参加者はリアルタイムに録画状況を把握できる。 FIG. 15 is a diagram showing a display example of the other site recording mark 72 and the label 73 when the auxiliary area 173 is not displayed. Even when the auxiliary area 173 is not displayed, the auxiliary area display section 18a displays the recording notification information 80. FIG. That is, since it is important information whether or not another site is recording, the auxiliary area display unit 18a always displays the recording notification information 80 even if the auxiliary area 173 is not displayed. Therefore, the participants can grasp the recording status in real time.

図16は、参加拠点のうち録画している拠点がない場合の全画面表示画面501の一例を示す。なお、図16では標準の補助領域173が表示されている場合を説明する。図16に示すように、録画している拠点がなくなると、補助領域表示部18aは録画通知情報80を非表示にする(消去する)。従って、参加者は録画している拠点がないことをリアルタイムに把握できる。なお、簡易表示の補助領域173の場合も同様であり録画通知情報80が表示されない。補助領域173が表示されない場合も、録画通知情報80が表示されない。 FIG. 16 shows an example of the full-screen display screen 501 when none of the participating sites is recording. Note that FIG. 16 describes a case where the standard auxiliary area 173 is displayed. As shown in FIG. 16, when there is no recording site left, the auxiliary area display unit 18a hides (deletes) the recording notification information 80. FIG. Therefore, the participants can grasp in real time that there is no recording site. It should be noted that the recording notification information 80 is not displayed in the case of the simple display auxiliary area 173 as well. Also when the auxiliary area 173 is not displayed, the recording notification information 80 is not displayed.

<<会議中の録画通知情報の表示制御>>
図17は、会議中の伝送端末10aaが録画通知情報80の表示を制御する手順を示すフローチャート図の一例である。全画面表示画面501では常に録画通知情報80が表示されるので、図17の手順では補助領域は表示されていてもされていなくてもよい。
<<Display control of recording notification information during a meeting>>
FIG. 17 is an example of a flowchart showing a procedure for controlling the display of the recording notification information 80 by the transmission terminal 10aa during the meeting. Since the recording notification information 80 is always displayed on the full screen display screen 501, the auxiliary area may or may not be displayed in the procedure of FIG.

まず、補助領域表示部18aは、録画開始通知又は録画終了通知を受信したか否かを判定する(S10)。 First, the auxiliary area display unit 18a determines whether or not a recording start notification or a recording end notification has been received (S10).

録画開始通知を受信した場合、補助領域表示部18aは録画中管理テーブル1000bに、録画開始通知と共に送信された通信IDを追加する(S20)。従って、録画中管理テーブル1000bには、録画中の伝送端末10及び情報処理端末40の全ての通信IDが記録されている。 When receiving the recording start notification, the auxiliary area display unit 18a adds the communication ID transmitted together with the recording start notification to the recording management table 1000b (S20). Therefore, all the communication IDs of the transmission terminal 10 and the information processing terminal 40 during recording are recorded in the recording management table 1000b.

補助領域表示部18aは、すでに録画通知情報80を表示しているか否かを判定する(S30)。すでに録画通知情報80を表示している場合とは、ビデオ会議に参加中の伝送端末10又は情報処理端末40が録画開始通知を送信した後に、別の伝送端末10又は情報処理端末40が録画開始通知を送信した場合である。 The auxiliary area display unit 18a determines whether or not the recording notification information 80 has already been displayed (S30). When the recording notification information 80 is already displayed, another transmission terminal 10 or information processing terminal 40 starts recording after the transmission terminal 10 or information processing terminal 40 participating in the video conference transmits a recording start notification. This is the case when a notification is sent.

ステップS30の判定がYesの場合、すでに録画通知情報80を表示中なので図17の処理は終了する。 If the determination in step S30 is Yes, the recording notification information 80 is already being displayed, so the process of FIG. 17 ends.

ステップS30の判定がNoの場合、補助領域表示部18aは録画通知情報80を表示する(S40)。 If the determination in step S30 is No, the auxiliary area display section 18a displays the recording notification information 80 (S40).

ステップS10で録画終了通知を受信した場合、補助領域表示部18aは録画開始通知と共に送信された通信IDを録画中管理テーブル1000bから削除する(S50)。従って、録画中管理テーブル1000bには、録画を継続している伝送端末10及び情報処理端末40の通信IDのみが記録されている。 When the recording end notification is received in step S10, the auxiliary area display unit 18a deletes the communication ID transmitted together with the recording start notification from the recording management table 1000b (S50). Therefore, only the communication IDs of the transmission terminal 10 and the information processing terminal 40 that continue recording are recorded in the recording management table 1000b.

補助領域表示部18aは、録画中管理テーブル1000bが1つも通信IDが登録されていないかどうかを判定する(S60)。 The auxiliary area display unit 18a determines whether or not even one communication ID is registered in the recording management table 1000b (S60).

ステップS60の判定がNoの場合、録画を継続している伝送端末10及び情報処理端末40がいるので録画通知情報80を非表示にする必要が無く、図17の処理は終了する。 If the determination in step S60 is No, there is a transmission terminal 10 and an information processing terminal 40 that are continuing recording, so there is no need to hide the recording notification information 80, and the processing in FIG. 17 ends.

ステップS60の判定がYesの場合、録画を継続している伝送端末10及び情報処理端末40がいないので、補助領域表示部18aは録画通知情報80を非表示にする(S70)。 If the determination in step S60 is Yes, there is no transmission terminal 10 or information processing terminal 40 continuing recording, so the auxiliary area display unit 18a hides the recording notification information 80 (S70).

このような手順により、録画を開始した伝送端末10及び情報処理端末40がいればリアルタイムに録画通知情報80を表示し、録画を継続している伝送端末10及び情報処理端末40がいなくなると録画通知情報80を非表示にできる。また、録画中管理テーブル1000bに1つでも通信IDが記憶されている場合、常に録画通知情報80を表示できる。 With such a procedure, if there is a transmission terminal 10 and an information processing terminal 40 that started recording, the recording notification information 80 is displayed in real time. Information 80 can be hidden. Further, when even one communication ID is stored in the recording management table 1000b, the recording notification information 80 can always be displayed.

<<ネットワークの切断が発生した場合>>
会議中にネットワークの帯域低下などによりセッションが途切れる場合がある。あるいは、参加者が誤って通信のために必要なケーブルを抜いてしまう場合もある。セッションが途切れた伝送端末10又は情報処理端末40が録画中である場合、他の拠点の伝送端末10又は情報処理端末40が録画通知情報80を表示したままになってしまう。このため、録画終了情報が送信されなくてもセッションが途切れた伝送端末10又は情報処理端末40を伝送管理装置50が検出して他の拠点の伝送端末10又は情報処理端末40に通知することが好ましい。
<<In case of network disconnection>>
A session may be interrupted due to a drop in network bandwidth during a meeting. Alternatively, a participant may accidentally unplug a cable needed for communication. When the transmission terminal 10 or the information processing terminal 40 whose session has been interrupted is recording, the recording notification information 80 remains displayed by the transmission terminal 10 or the information processing terminal 40 at another site. Therefore, even if the recording end information is not transmitted, the transmission management device 50 can detect the transmission terminal 10 or the information processing terminal 40 whose session has been interrupted and notify the transmission terminal 10 or the information processing terminal 40 at another site. preferable.

図18は、セッションが途切れたことを伝送管理装置50が検出した場合の伝送システム1の動作手順を示すシーケンス図の一例である。なお、図18のステップS1~S5までの処理は図10と同様である。 FIG. 18 is an example of a sequence diagram showing the operation procedure of the transmission system 1 when the transmission management device 50 detects that the session has been interrupted. Note that the processing from steps S1 to S5 in FIG. 18 is the same as in FIG.

S6:伝送管理装置50のセッション管理部56は、セッションを確立した伝送端末10及び情報処理端末40の死活を定期的に監視する。すなわち、セッション管理テーブルに登録されている通信IDの伝送端末10及び情報処理端末40に対しPing応答などを要求する。 S6: The session management unit 56 of the transmission management device 50 periodically monitors whether the transmission terminal 10 and the information processing terminal 40 that have established the session are alive. That is, a Ping response or the like is requested from the transmission terminal 10 and the information processing terminal 40 of the communication ID registered in the session management table.

S7:何らかの原因で情報処理端末40と伝送管理装置50の間の通信が切断されると、セッション管理部56はセッションが途切れたことを検知できる。 S7: When communication between the information processing terminal 40 and the transmission management device 50 is cut off for some reason, the session management unit 56 can detect that the session has been interrupted.

S8:セッションが途切れたことをセッション管理部56が検知すると、状態管理部53はセッションが途切れた情報処理端末40bdの通信IDの稼動状態をオフラインに変更する。なお、状態管理部53は録画中管理テーブル5006から情報処理端末40bdの通信IDを削除し、録画終了通知を受信した場合と同様に端末管理テーブルの稼動状態を更新する。 S8: When the session management unit 56 detects that the session has been interrupted, the state management unit 53 changes the operating state of the communication ID of the information processing terminal 40bd whose session has been interrupted to offline. The status management unit 53 deletes the communication ID of the information processing terminal 40bd from the recording management table 5006, and updates the operating status of the terminal management table in the same manner as when receiving the recording end notification.

S9:また、伝送管理装置50の送受信部51は、会議中の伝送端末10及び情報処理端末40に対し参加拠点の稼動状態変更情報を送信する。端末状態変更情報には情報処理端末40bdの通信IDと稼動状態が含まれる。 S9: Further, the transmitting/receiving unit 51 of the transmission management device 50 transmits the operation state change information of the participating sites to the transmission terminal 10 and the information processing terminal 40 in the conference. The terminal status change information includes the communication ID and operating status of the information processing terminal 40bd.

S10:伝送端末10aaの送受信部11は端末状態変更情報を受信し、録画通知情報80の表示制御を行う。すなわち、セッションが途切れた情報処理端末40bd以外に録画中管理テーブル1000bに伝送端末10及び情報処理端末40の通信IDが登録されていない場合、録画通知情報80を非表示にする。 S10: The transmission/reception unit 11 of the transmission terminal 10aa receives the terminal state change information and controls the display of the recording notification information 80. FIG. That is, when the communication IDs of the transmission terminal 10 and the information processing terminal 40 are not registered in the recording management table 1000b other than the information processing terminal 40bd whose session has been interrupted, the recording notification information 80 is hidden.

図19を用いて図18のステップS10の処理を説明する。図19は、伝送端末10aaが端末状態変更情報を受信した場合の処理を説明するフローチャート図の一例である。図19の処理はビデオ会議中、繰り返し実行されている。 The process of step S10 in FIG. 18 will be described with reference to FIG. FIG. 19 is an example of a flowchart illustrating processing when the transmission terminal 10aa receives terminal state change information. The process of FIG. 19 is repeatedly executed during the video conference.

伝送端末10aaの送受信部11は伝送管理装置50から端末状態変更情報を受信したか否かを判定する(S10)。 The transmitting/receiving unit 11 of the transmission terminal lOaa determines whether or not terminal state change information has been received from the transmission management device 50 (S10).

ステップS10の判定がYesの場合、伝送端末10aaの補助領域表示部18aは退室した(オフライン)になった伝送端末10及び情報処理端末40を確認する(S20)。すなわち、伝送端末10aaは宛先状態情報や端末状態変更情報を受信しているので、最後に受信した宛先状態情報や端末状態変更情報の各伝送端末10又は情報処理端末40の稼動状態を参照し、ステップS10で受信した端末状態変更情報と比較する。比較により、稼動状態が「録画会議中」から「オフライン」になった各伝送端末10又は情報処理端末40の通信IDを特定する。 If the determination in step S10 is Yes, the auxiliary area display unit 18a of the transmission terminal 10aa confirms the transmission terminal 10 and the information processing terminal 40 that have left the room (offline) (S20). That is, since the transmission terminal 10aa has received the destination status information and the terminal status change information, it refers to the operating status of each transmission terminal 10 or the information processing terminal 40 in the last received destination status information or terminal status change information, It is compared with the terminal state change information received in step S10. Through the comparison, the communication ID of each transmission terminal 10 or information processing terminal 40 whose operating status has changed from "recording meeting" to "offline" is specified.

そして、補助領域表示部18aは、特定した通信IDが録画拠点IDテーブルに存在するかどうかを判定する(S30)。 Then, the auxiliary area display unit 18a determines whether or not the specified communication ID exists in the recording site ID table (S30).

通信IDが録画拠点IDテーブルに存在しない場合(S30のNo)、セッションが途切れた情報処理端末40bdは録画していなかったので、図19の処理は終了する。 If the communication ID does not exist in the recording site ID table (No in S30), the information processing terminal 40bd whose session was interrupted was not recording, and the process of FIG. 19 ends.

通信IDが録画拠点IDテーブルに存在した場合(S30のYes)、セッションが途切れた情報処理端末40bdは録画していたので、補助領域表示部18aは端末状態変更情報に含まれる通信IDを録画中管理テーブル1000bから削除する(S40)。 If the communication ID exists in the recording site ID table (Yes in S30), the information processing terminal 40bd whose session was interrupted was recording, so the auxiliary area display unit 18a indicates that the communication ID included in the terminal state change information is being recorded. Delete from the management table 1000b (S40).

補助領域表示部18aは、録画中管理テーブル1000bが1つも通信IDが登録されていないかどうかを判定する(S50)。 The auxiliary area display unit 18a determines whether or not even one communication ID is registered in the recording management table 1000b (S50).

ステップS50の判定がNoの場合、録画を継続している伝送端末10及び情報処理端末40がいるので録画通知情報80を非表示にする必要が無く、図19の処理は終了する。 If the determination in step S50 is No, there is the transmission terminal 10 and the information processing terminal 40 that are continuing recording, so there is no need to hide the recording notification information 80, and the processing in FIG. 19 ends.

ステップS50の判定がYesの場合、録画を継続している伝送端末10及び情報処理端末40がいないので、補助領域表示部18aは録画通知情報80を非表示にする(S70)。 If the determination in step S50 is Yes, there is no transmission terminal 10 or information processing terminal 40 continuing recording, so the auxiliary area display unit 18a hides the recording notification information 80 (S70).

このような手順により、参加拠点に変更があっても、伝送端末10aaは録画通知情報80をリアルタイムに更新できる。 With this procedure, the transmission terminal 10aa can update the recording notification information 80 in real time even if there is a change in the participating bases.

<情報表示画面における録画通知情報>
情報表示画面601に表示される録画拠点マーク71について説明する。ユーザが、例えば、操作ボタン108を操作することで、2つの表示モードを交互に切り替えることができる。なお、伝送端末10が情報処理端末40の場合、操作ボタン108の代わりに、情報処理端末40のハードキーやタッチパネルに表示されたソフトキーの押下により、2つの表示モードを交互に切り替えることができる。
<Recording notification information on the information display screen>
The recording site mark 71 displayed on the information display screen 601 will be described. The user can alternately switch between the two display modes by operating the operation button 108, for example. If the transmission terminal 10 is the information processing terminal 40, the two display modes can be alternately switched by pressing a hard key of the information processing terminal 40 or a soft key displayed on the touch panel instead of the operation button 108. .

図20は、情報表示モードでディスプレイ120に表示された情報表示画面601の一例を示す図である。図20は伝送端末10aaが表示した情報表示画面601である。図20に示すように、情報表示モードにおいて、伝送端末10の拠点リスト表示部18bは、ビデオ会議に参加している各伝送端末10の連番614、端末名615及び通信ID616を含む端末情報をディスプレイ120に表示させる。連番614は参加順などで各端末に割り当てられる番号であり、連番614の最も大きい数字が参加している拠点の拠点数(端末数)を表す。 FIG. 20 is a diagram showing an example of an information display screen 601 displayed on display 120 in the information display mode. FIG. 20 shows an information display screen 601 displayed by the transmission terminal 10aa. As shown in FIG. 20, in the information display mode, the site list display unit 18b of the transmission terminal 10 displays terminal information including the serial number 614, terminal name 615, and communication ID 616 of each transmission terminal 10 participating in the video conference. display on the display 120. A serial number 614 is a number assigned to each terminal in order of participation, etc., and the largest number in the serial number 614 represents the number of bases (number of terminals) participating.

また、情報処理端末40bdには録画拠点マーク71が表示されている。拠点リスト表示部18bは後述するように稼動状態が録画会議中の伝送端末10及び情報処理端末40の連番の前に録画拠点マーク71を表示する。録画拠点マーク71の表示態様は、他拠点録画マーク72と同様に図示したものには限られない。 A recording base mark 71 is displayed on the information processing terminal 40bd. As will be described later, the site list display unit 18b displays a recording site mark 71 in front of the serial numbers of the transmission terminals 10 and the information processing terminals 40 whose operating status is the recording conference. The display mode of the recording base mark 71 is not limited to the one shown in the figure, similarly to the other base recording mark 72 .

図20に示す情報表示画面601には、画像を表示するための画像表示領域520と、端末情報を表示するための端末情報表示領域530とが割り当てられている。例えば、端末情報表示領域530には、ビデオ会議に参加している伝送端末10の端末情報がリスト表示されている。 An image display area 520 for displaying images and a terminal information display area 530 for displaying terminal information are allocated to the information display screen 601 shown in FIG. For example, in the terminal information display area 530, a list of terminal information of the transmission terminals 10 participating in the video conference is displayed.

なお、リスト表示されている端末情報のなかで端末名が表示されていないものは、宛先リスト管理DB5003において、自端末の宛先端末の候補として登録されていない伝送端末10を表している。例えば、通信IDが01dbの伝送端末10dbは、表3に示すように伝送端末10aaの宛先端末の候補として宛先リスト管理DB5003に登録されているため端末名が表示されている。通信IDが01cdの伝送端末10cdは、伝送端末10aaの宛先端末の候補として宛先リスト管理DB5003に登録されていないため端末名が表示されていない。 Among the terminal information displayed in the list, those whose terminal names are not displayed represent transmission terminals 10 that are not registered as destination terminal candidates for the own terminal in the destination list management DB 5003 . For example, the transmission terminal 10db with the communication ID of 01db is registered in the destination list management DB 5003 as a destination terminal candidate for the transmission terminal 10aa as shown in Table 3, so the terminal name is displayed. Since the transmission terminal 10cd with the communication ID of 01cd is not registered in the destination list management DB 5003 as a destination terminal candidate for the transmission terminal 10aa, the terminal name is not displayed.

画像表示領域520には、ビデオ会議に参加している伝送端末10の中から主要な伝送端末の画像データが表す画像が表示される。例えば、音声データの音量が最も大きい伝送端末10又は情報処理端末40の画像データが表示される。 In the image display area 520, an image represented by the image data of the main transmission terminal among the transmission terminals 10 participating in the videoconference is displayed. For example, the image data of the transmission terminal 10 or the information processing terminal 40 with the loudest voice data volume is displayed.

また、図20に示すように、会議に参加している拠点が1画面に収まらない場合はスクロールバー613が表示される。ユーザは操作ボタン108を操作することで情報表示画面601の画面外に隠れていた拠点の情報を表示させることができる。これにより、画面外に隠れていた拠点が録画中の場合は録画拠点マーク71が表示され、参加者が録画している伝送端末10又は情報処理端末40を特定できる。 Also, as shown in FIG. 20, a scroll bar 613 is displayed when the bases participating in the conference do not fit on one screen. By operating the operation button 108, the user can display the information of the base hidden outside the screen of the information display screen 601. FIG. As a result, when the site hidden outside the screen is recording, the recording site mark 71 is displayed, and the participant can identify the transmission terminal 10 or the information processing terminal 40 that is recording.

(情報表示画面601の表示手順)
図21は、伝送端末10aaが情報表示モードに切り替えられた際に、端末情報表示領域530に端末情報を表示させる端末情報表示動作を示したシーケンス図である。なお、図21に示す端末情報表示動作においては、管理情報用セッションseiで各種情報が送受信される。
(Display Procedure of Information Display Screen 601)
FIG. 21 is a sequence diagram showing a terminal information display operation for displaying terminal information in the terminal information display area 530 when the transmission terminal lOaa is switched to the information display mode. In addition, in the terminal information display operation shown in FIG. 21, various types of information are transmitted and received in the management information session sei.

まず、伝送端末10aaは、ビデオ会議に参加している伝送端末及び情報処理端末40の端末情報の要求を表す端末情報要求信号を伝送管理装置50に送信する(ステップS70)。すなわち、ユーザが操作ボタン108を操作して全画面表示モードを情報表示モードに切り替えると、操作入力受付部12がこの操作受け付けて端末情報要求信号が伝送管理装置50に送信される。 First, the transmission terminal 10aa transmits a terminal information request signal representing a request for terminal information of the transmission terminals participating in the video conference and the information processing terminal 40 to the transmission management apparatus 50 (step S70). That is, when the user operates the operation button 108 to switch the full screen display mode to the information display mode, the operation input reception unit 12 receives this operation and transmits a terminal information request signal to the transmission management device 50 .

端末情報要求信号を受信した伝送管理装置50の端末状態取得部55は、端末情報要求信号の送信元のIPアドレスを検索キーとして、記憶部5000の端末管理DB5002を検索し、端末情報要求信号を送信した伝送端末10aaの通信IDを取得する(ステップS71)。なお、伝送端末10aaが通信IDを送信してよい。 Terminal status acquisition unit 55 of transmission management device 50 that has received the terminal information request signal searches terminal management DB 5002 of storage unit 5000 using the IP address of the transmission source of the terminal information request signal as a search key, and obtains the terminal information request signal. The communication ID of the transmitting terminal lOaa is obtained (step S71). Note that the transmission terminal lOaa may transmit the communication ID.

次に、端末状態取得部55は、セッション管理テーブルを参照し伝送端末10aaと同じ会議に参加している伝送端末10及び情報処理端末40の通信IDを特定する。次に、端末管理DB5002を検索し、稼動状態が「オンライン(伝送中)」又は「録画会議中」になっている通信IDと端末名とを検索する(ステップS72)。 Next, the terminal state acquisition unit 55 refers to the session management table to identify the communication IDs of the transmission terminal 10 and the information processing terminal 40 participating in the same conference as the transmission terminal 10aa. Next, the terminal management DB 5002 is searched for communication IDs and terminal names whose operating status is "online (transmitting)" or "recording meeting in progress" (step S72).

次に、端末状態取得部55は、ステップS71で検出した通信ID(本実施形態においては、「01aa」)を検索キーとして、記憶部5000の宛先リスト管理DB5003を検索し、端末情報要求信号の送信元を宛先端末とする伝送端末10及び情報処理端末40の通信IDを取得する(ステップS73)。 Next, the terminal status acquisition unit 55 searches the destination list management DB 5003 of the storage unit 5000 using the communication ID (“01aa” in this embodiment) detected in step S71 as a search key, and retrieves the terminal information request signal. The communication IDs of the transmission terminal 10 and the information processing terminal 40 whose transmission source is the destination terminal are acquired (step S73).

次に、端末状態取得部55は、ステップS72で取得した各通信IDが端末情報要求信号の送信元の通信ID(01aa)又はステップS73で取得した通信IDに含まれているか否かを判定する。含まれていると判定した場合には、通信IDと端末名とを送受信部51に端末情報要求信号の送信元に応答させ、含まれていないと判定した場合には、通信IDだけを送受信部51に端末情報要求信号の送信元に応答させる(ステップS74)。 Next, the terminal status acquisition unit 55 determines whether each communication ID acquired in step S72 is included in the communication ID (01aa) of the transmission source of the terminal information request signal or the communication ID acquired in step S73. . If it is determined that the communication ID and the terminal name are included, the transmitting/receiving section 51 is caused to respond to the sender of the terminal information request signal with the communication ID and the terminal name. 51 to respond to the sender of the terminal information request signal (step S74).

この応答を受信した伝送端末10の表示制御部17の拠点リスト表示部18bは、図20に示す情報表示画面601のように、端末情報表示領域530に応答内容を表示する(ステップS75)。まず、端末名と(端末名はない場合がある)と通信IDの組に連番を付す。次に、録画中管理テーブル1000bの通信IDを全て取得する。そして、録画中管理テーブル1000bの通信IDを読み出し、この通信IDの伝送端末10又は情報処理端末40に対応付けて録画拠点マーク71を配置する。 The site list display unit 18b of the display control unit 17 of the transmission terminal 10 that has received this response displays the content of the response in the terminal information display area 530, like the information display screen 601 shown in FIG. 20 (step S75). First, a serial number is attached to a set of a terminal name (which may not be the terminal name) and a communication ID. Next, all the communication IDs in the recording management table 1000b are acquired. Then, the communication ID of the recording management table 1000b is read, and the recording base mark 71 is arranged in association with the transmission terminal 10 or the information processing terminal 40 of this communication ID.

このような処理により、情報表示画面601において録画拠点マーク71を表示することができる。また、録画拠点マーク71を表示するだけでなく、又は、録画拠点マーク71を表示せずに、伝送端末10aaが音声で録画中の端末名を読み上げてもよい。この場合、録画開始通知が送信されたタイミングで伝送端末10aaが音声で録画中の端末名を読み上げる。あるいは、ユーザが伝送端末10aaを操作した任意のタイミングで伝送端末10aaが音声で録画中の端末名を読み上げる。 Through such processing, the recording site mark 71 can be displayed on the information display screen 601 . In addition to displaying the recording site mark 71 or without displaying the recording site mark 71, the transmission terminal 10aa may read out the name of the terminal being recorded by voice. In this case, the transmission terminal 10aa reads out the name of the terminal being recorded by voice at the timing when the recording start notification is transmitted. Alternatively, at an arbitrary timing when the user operates the transmission terminal 10aa, the transmission terminal 10aa reads aloud the name of the terminal being recorded.

なお、情報表示画面601の表示中、録画開始通知、録画終了通知、又は端末状態変更情報を伝送端末10aaが受信した場合、表示制御部17の拠点リスト表示部18bはリアルタイムに録画拠点マーク71を表示し、また、非表示にする。 Note that when the transmission terminal 10aa receives a recording start notification, a recording end notification, or terminal state change information while the information display screen 601 is being displayed, the base list display unit 18b of the display control unit 17 displays the recording base mark 71 in real time. Show and hide.

また、情報表示画面601において録画拠点マーク71だけでなくラベル73を表示してもよい。また、情報表示画面601においてラベル73だけを表示してもよい。 Also, in the information display screen 601, not only the recording base mark 71 but also the label 73 may be displayed. Also, only the label 73 may be displayed on the information display screen 601 .

従って、伝送端末10aaが複数の拠点とビデオ会議を行っている間、伝送端末10aaのユーザは録画している拠点(伝送端末10及び情報処理端末40)ごとに録画中かどうかを判断できる。録画拠点マーク71はリアルタイムに更新されるので、ユーザは録画を開始した拠点を録画の開始後、早期に判断できる。全画面表示画面501と情報表示画面601のどちらでも録画している拠点がいることをユーザが把握できる。 Therefore, while the transmission terminal 10aa is conducting a video conference with a plurality of bases, the user of the transmission terminal 10aa can determine whether recording is being performed for each recording base (transmission terminal 10 and information processing terminal 40). Since the recording site mark 71 is updated in real time, the user can quickly determine the site where the recording started after the recording starts. The user can recognize that there is a recording site on both the full-screen display screen 501 and the information display screen 601 .

本実施例では、伝送端末10の機能が搭載された電子黒板8について説明する。従来から大型ディスプレイに表示させた背景画像に文字や数字、図形等のストローク画像を描画可能な電子黒板8が知られている。電子黒板8は、企業や教育機関、行政機関等、及びこれら以外でも広く利用されている。 In this embodiment, an electronic blackboard 8 equipped with the functions of the transmission terminal 10 will be described. 2. Description of the Related Art Conventionally, an electronic blackboard 8 capable of drawing stroke images such as characters, numbers, and figures on a background image displayed on a large display has been known. The electronic blackboard 8 is widely used in companies, educational institutions, government agencies, and others.

外部から入力された画像を電子黒板8がディスプレイに重畳して表示させる機能を有する場合がある。また、電子黒板8に伝送端末10の機能を搭載することが検討されている。電子黒板8に伝送端末10の機能が搭載されると、電子黒板8に手書きされたストローク画像を他の拠点の伝送端末10に送信できる。 In some cases, the electronic blackboard 8 has a function of superimposing and displaying an image input from the outside on the display. In addition, it is being considered to mount the function of the transmission terminal 10 on the electronic blackboard 8 . When the function of the transmission terminal 10 is installed in the electronic blackboard 8, the stroke image handwritten on the electronic blackboard 8 can be transmitted to the transmission terminal 10 at another site.

図22は、伝送端末10の機能を有する電子黒板8を説明する図の一例である。電子黒板8は一般的な電子黒板の機能と伝送端末10の機能を有し、伝送端末10ddとビデオ会議を行うことができる。電子黒板8は電子黒板アプリのストローク画像と、ビデオ会議アプリの画像とを切り替えて表示する。 FIG. 22 is an example of a diagram illustrating an electronic blackboard 8 having the functions of the transmission terminal 10. As shown in FIG. The electronic blackboard 8 has the function of a general electronic blackboard and the function of the transmission terminal 10, and can hold a video conference with the transmission terminal 10dd. The electronic blackboard 8 switches and displays the stroke image of the electronic blackboard application and the image of the video conference application.

しかし、電子黒板8ではディスプレイ3の多くの部分をストローク画像などで占有してしまい、起動しているが画面が表示されない例えばビデオ会議アプリの状態変化が分かりにくい。このため、ユーザU2がビデオ会議アプリの状態変化に気がつきにくいという問題があった。 However, in the electronic blackboard 8, a large part of the display 3 is occupied by stroke images, etc., and it is difficult to understand the state change of, for example, a video conference application that is activated but does not display the screen. Therefore, there is a problem that it is difficult for the user U2 to notice the state change of the video conference application.

例えば、電子黒板8の電子黒板アプリが生成するストローク画像はビデオ会議アプリが伝送端末10ddに送信する。伝送端末10ddのユーザU1は実施例1のように録画を開始することができる。しかし、電子黒板8のビデオ会議アプリが他の拠点から録画開始通知を受信しても、電子黒板8のユーザU2が気づかない場合があり得る。このため、非公開情報が気づかないままに録画されるおそれがある。 For example, the stroke image generated by the electronic blackboard application of the electronic blackboard 8 is transmitted by the video conference application to the transmission terminal 10dd. The user U1 of the transmission terminal 10dd can start recording as in the first embodiment. However, even if the video conference application of the electronic blackboard 8 receives a recording start notification from another site, the user U2 of the electronic blackboard 8 may not notice it. Therefore, there is a risk that non-public information will be recorded without being noticed.

図22では、電子黒板8に手書きされた「秘密事項」が伝送端末10ddと共有されている。伝送端末10ddのユーザU1は画像データを録画しているため、電子黒板8のビデオ会議アプリは録画拠点マーク71又は他拠点録画マーク72を表示中であるが、ユーザU2は見ることができない。このような非公開情報の記録は、例えば、インサイダーやインシデントのリスク、又はなんらかのコミュニケーション上の不都合をもたらすおそれがある。 In FIG. 22, "confidential matter" handwritten on the electronic blackboard 8 is shared with the transmission terminal 10dd. Since the user U1 of the transmission terminal 10dd is recording image data, the video conference application of the electronic whiteboard 8 is displaying the recording base mark 71 or the other base recording mark 72, but the user U2 cannot see it. Recording such non-public information may, for example, pose an insider or incident risk, or some communication inconvenience.

そこで、本実施例では、伝送端末10の機能を有する電子黒板8に記録開始通知が送信された場合に、ビデオ会議アプリ710の情報を電子黒板アプリがディスプレイ3に表示することで、ユーザU2に気づかせる伝送システム1について説明する。 Therefore, in this embodiment, when a recording start notification is transmitted to the electronic blackboard 8 having the function of the transmission terminal 10, the electronic blackboard application displays the information of the video conference application 710 on the display 3 so that the user U2 can A transmission system 1 for making the user aware will be described.

<電子黒板8の動作の概略>
図23は、本実施例の電子黒板8の動作の概略を説明する図の一例である。図23(a)に示すように、電子黒板8はビデオ会議アプリ710、電子黒板アプリ720、及び、インタフェースアプリ730を有する。これらはOS(Operating System)700上で動作するアプリケーションソフトウェアである。OS700としては適切なものであればよく、特定のOS700であることを要請するものではないが、例えばWindows(登録商標)、Linux(登録商標)、Andoroid(登録商標)などがある。
<Overview of Operation of Electronic Blackboard 8>
FIG. 23 is an example of a diagram for explaining the outline of the operation of the electronic blackboard 8 of this embodiment. As shown in FIG. 23( a ), the electronic blackboard 8 has a video conference application 710 , an electronic blackboard application 720 and an interface application 730 . These are application software running on an OS (Operating System) 700 . Any OS 700 may be used as long as it is appropriate, and it is not required to be a specific OS 700, but examples include Windows (registered trademark), Linux (registered trademark), and Android (registered trademark).

ビデオ会議アプリ710は実施例1にて説明した伝送端末10又は情報処理端末40が有する機能を提供する。電子黒板アプリ720の機能については後述する。 The video conference application 710 provides the functions of the transmission terminal 10 or the information processing terminal 40 described in the first embodiment. Functions of the electronic blackboard application 720 will be described later.

図23(b)はインタフェースアプリ730の動作を説明する図である。インタフェースアプリ730は、独立した2つのビデオ会議アプリ710と電子黒板アプリ720のインタフェースを提供するアプリである。インタフェースアプリ730と通信するためにビデオ会議アプリ710はインタフェース処理部710aを有しており、電子黒板アプリ720はインタフェース処理部720aを有している。 FIG. 23(b) is a diagram for explaining the operation of the interface application 730. As shown in FIG. The interface application 730 is an application that provides an interface for two independent video conference applications 710 and an electronic blackboard application 720 . The video conference application 710 has an interface processing section 710a for communicating with the interface application 730, and the electronic blackboard application 720 has an interface processing section 720a.

インタフェースアプリ730は、インタフェース処理部710aを介してビデオ会議アプリ710と通信し、インタフェース処理部720aを介して電子黒板アプリ720と通信する。例えば、インタフェースアプリ730は、ビデオ会議アプリ710が録画開始通知の受信したこと又は録画会議中という稼動状態、録画中管理テーブルなどを検出し、電子黒板アプリ720に通知する。これにより、電子黒板アプリ720は、他拠点が録画中である旨を表示できる。 The interface application 730 communicates with the video conference application 710 via the interface processing unit 710a, and communicates with the electronic blackboard application 720 via the interface processing unit 720a. For example, the interface application 730 detects that the videoconference application 710 has received a recording start notification, an operating state such as a videoconference in progress, a management table during recording, and the like, and notifies the electronic whiteboard application 720 . Thereby, the electronic blackboard application 720 can display that the other site is recording.

<電子黒板8のディスプレイの画面例>
図24は、電子黒板アプリ720が生成する電子黒板UI画面740が表示された電子黒板8のディスプレイ3を示す図の一例である。電子黒板UI画面740は、主にユーザが手書きするストローク画像が表示される画面である(第二の画面)。また、アイコン部701を有しており、ユーザはストロークの線種や色を選んだり、図形やスタンプの描画を行ったりすることができる。
<Screen example of the display of the electronic blackboard 8>
FIG. 24 is an example of a diagram showing the display 3 of the electronic blackboard 8 on which the electronic blackboard UI screen 740 generated by the electronic blackboard application 720 is displayed. The electronic blackboard UI screen 740 is a screen that mainly displays stroke images handwritten by the user (second screen). It also has an icon section 701, and the user can select the line type and color of the stroke, and draw figures and stamps.

このアイコン部701にはビデオ会議アイコン702aが表示される。ユーザがビデオ会議アイコン702aを選択すると、電子黒板8はビデオ会議アプリ710が生成する次述のビデオ会議UI画面750をディスプレイ3に表示する。なお、このような処理はアプリの切り替えに相当し、OS700により制御される。 This icon portion 701 displays a videoconference icon 702a. When the user selects the videoconference icon 702a, the electronic blackboard 8 displays the following videoconference UI screen 750 generated by the videoconference application 710 on the display 3. FIG. Note that such processing corresponds to switching between applications, and is controlled by the OS 700 .

図25は、ビデオ会議アプリ710が生成するビデオ会議UI画面750が表示された電子黒板8のディスプレイ3を示す図の一例である。ビデオ会議UI画面750は、図11の宛先リスト画面と同等の情報に加え、電子黒板アイコン703を有する(第一の画面)。ユーザが電子黒板アイコン703を選択すると、電子黒板8は電子黒板アプリ720が生成する電子黒板UI画面740をディスプレイ3に表示する。なお、このような処理はアプリの切り替えに相当し、OSにより制御される。従って、ユーザは、ビデオ会議UI画面750と電子黒板UI画面740を任意に切り替えることができる。 FIG. 25 is an example of a diagram showing the display 3 of the electronic blackboard 8 on which the videoconference UI screen 750 generated by the videoconference application 710 is displayed. A videoconference UI screen 750 has an electronic blackboard icon 703 in addition to the same information as the destination list screen in FIG. 11 (first screen). When the user selects the electronic blackboard icon 703 , the electronic blackboard 8 displays an electronic blackboard UI screen 740 generated by the electronic blackboard application 720 on the display 3 . Note that such processing corresponds to switching between applications, and is controlled by the OS. Therefore, the user can arbitrarily switch between the video conference UI screen 750 and the electronic whiteboard UI screen 740 .

なお、ビデオ会議UI画面750と電子黒板UI画面740はどちらか一方が表示されるだけでなく、一部が重複するようにしてビデオ会議UI画面750と電子黒板UI画面740の両方が表示されてもよい。この場合、ビデオ会議UI画面750の他拠点録画マークが電子黒板UI画面740により隠れている場合は、本実施例が有効である。 Note that not only one of the videoconference UI screen 750 and the electronic blackboard UI screen 740 is displayed, but both the videoconference UI screen 750 and the electronic blackboard UI screen 740 are displayed so as to partially overlap. good too. In this case, this embodiment is effective when the other site recording mark on the videoconference UI screen 750 is hidden by the electronic blackboard UI screen 740 .

<電子黒板8のハードウェア構成>
図26は、電子黒板8のハードウェア構成図である。図26に示されているように、電子黒板8は、電子黒板8全体の動作を制御するCPU301、IPL等のCPU301の駆動に用いられるプログラムを記憶したROM302、CPU301のワークエリアとして使用されるRAM303、電子黒板8用のプログラム等の各種データを記憶するSSD304、伝送ネットワーク2との通信を制御するネットワークコントローラ305、及び、USBメモリ5との通信を制御する外部記憶コントローラ306を備えている。
<Hardware Configuration of Electronic Blackboard 8>
FIG. 26 is a hardware configuration diagram of the electronic blackboard 8. As shown in FIG. As shown in FIG. 26, the electronic blackboard 8 includes a CPU 301 that controls the overall operation of the electronic blackboard 8, a ROM 302 that stores programs such as IPL used to drive the CPU 301, and a RAM 303 that is used as a work area for the CPU 301. , an SSD 304 for storing various data such as programs for the electronic blackboard 8 , a network controller 305 for controlling communication with the transmission network 2 , and an external storage controller 306 for controlling communication with the USB memory 5 .

また、電子黒板8は、ノートPC6のディスプレイ3に対して映像情報を静止画又は動画として表示させるキャプチャデバイス309、グラフィクスを専門に扱うGPU(Graphics Processing Unit)308、及び、GPU308からの出力画像をディスプレイ3等へ出力するために画面表示の制御及び管理を行うディスプレイコントローラ313を備えている。 The electronic blackboard 8 also includes a capture device 309 for displaying video information as a still image or moving image on the display 3 of the notebook PC 6, a GPU (Graphics Processing Unit) 308 that specializes in graphics, and an output image from the GPU 308. A display controller 313 is provided for controlling and managing screen display in order to output to the display 3 or the like.

更に、電子黒板8は、接触センサ312の処理を制御するセンサコントローラ307、ディスプレイ3上に電子ペン4やユーザの手H等が接触したことを検知する接触センサ312を備えている。この接触センサ312は、赤外線遮断方式による座標の入力及び座標の検出を行う。この座標の入力及び座標の検出する方法は、ディスプレイ3の上側両端部に設置された2つ受発光装置が、ディスプレイ3に平行して複数の赤外線を放射し、ディスプレイ3の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する方法である。接触センサ312は、物体によって遮断された2つの受発光装置が放射した赤外線のID(Identification)をセンサコントローラ307に出力し、センサコントローラ307が、物体の接触位置である座標位置を特定する。 Further, the electronic blackboard 8 includes a sensor controller 307 that controls processing of the contact sensor 312 and a contact sensor 312 that detects that the electronic pen 4 or the user's hand H or the like touches the display 3 . The contact sensor 312 performs coordinate input and coordinate detection using an infrared shielding method. In this method of inputting coordinates and detecting coordinates, two light emitting/receiving devices installed at both ends of the upper side of the display 3 radiate a plurality of infrared rays parallel to the display 3, and are provided around the display 3. This is a method of receiving light that is reflected by a reflecting member and returns along the same optical path as that of light emitted by a light receiving element. The contact sensor 312 outputs to the sensor controller 307 the ID (Identification) of the infrared rays emitted by the two light emitting/receiving devices blocked by the object, and the sensor controller 307 specifies the coordinate position, which is the contact position of the object.

また、接触センサ312としては、赤外線遮断方式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネル、対向する2つの抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルなどの種々の検出手段を用いてもよい。 In addition, the contact sensor 312 is not limited to the infrared blocking type, and may be a capacitive type touch panel that identifies the contact position by detecting a change in capacitance, or a contact position by detecting a voltage change between two opposing resistive films. Various detection means may be used, such as a resistive touch panel for specifying, an electromagnetic induction touch panel for specifying a contact position by detecting electromagnetic induction generated when a contact object touches the display unit, and the like.

また、電子黒板8は、電子ペンコントローラ310を備えている。この電子ペンコントローラ310は、電子ペン4と通信することで、ディスプレイ3へのペン先のタッチやペン尻のタッチの有無を判定する。なお、電子ペンコントローラ310が、電子ペン4のペン先及びペン尻だけでなく、電子ペン4のユーザが握る部分や、その他の電子ペンの部分のタッチの有無を判定するようにしてもよい。 The electronic blackboard 8 also includes an electronic pen controller 310 . The electronic pen controller 310 communicates with the electronic pen 4 to determine whether or not the display 3 has been touched with the tip of the pen or the bottom of the pen. It should be noted that the electronic pen controller 310 may determine whether or not a portion of the electronic pen 4 gripped by the user or other portions of the electronic pen 4 is touched, in addition to the tip and butt end of the electronic pen 4 .

更に、電子黒板8は、CPU301、ROM302、RAM303、SSD304、ネットワークコントローラ305、外部記憶コントローラ306、キャプチャデバイス309、GPU308、センサコントローラ307、及び電子ペンコントローラ310を、図26に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン320を備えている。 Furthermore, the electronic blackboard 8 includes a CPU 301, a ROM 302, a RAM 303, an SSD 304, a network controller 305, an external storage controller 306, a capture device 309, a GPU 308, a sensor controller 307, and an electronic pen controller 310 as shown in FIG. It has a bus line 320 such as an address bus and a data bus for electrical connection.

<電子黒板アプリ720の機能構成>
次に、図27~図32を用いて、電子黒板8の機能構成について説明する。図27は、電子黒板8の機能ブロック図である。
<Functional Configuration of Electronic Blackboard Application 720>
Next, the functional configuration of the electronic blackboard 8 will be described with reference to FIGS. 27 to 32. FIG. FIG. 27 is a functional block diagram of the electronic blackboard 8. As shown in FIG.

電子黒板8は、図26に示されているハードウェア構成及びプログラムの実行によって、映像取得部21、座標検知部22、自動調整部23、接触検知部24、イベント振分部25、操作処理部26、ジェスチャ処理部27、映像重畳部28、及び、画像処理部9を有する。これら点線で囲まれた機能がビデオ会議アプリ710の機能である。 The electronic whiteboard 8 has the hardware configuration and program execution shown in FIG. 26 , a gesture processing unit 27 , a video superimposition unit 28 , and an image processing unit 9 . Functions surrounded by these dotted lines are functions of the video conference application 710 .

このうち、映像取得部21は、ケーブルに接続されたノートPC6等の映像出力機器の出力映像を取得する。映像取得部21は、映像出力機器から画像信号を受信すると、この画像信号を解析して、この画像信号によって形成される映像出力機器の表示画像である画像フレームの解像度や、この画像フレームの更新頻度などの画像情報を導出し、後述の画像取得部31に出力する。 Among these, the video acquisition unit 21 acquires the output video of the video output device such as the notebook PC 6 connected to the cable. When an image signal is received from the image output device, the image acquisition unit 21 analyzes the image signal, and determines the resolution of the image frame, which is the display image of the image output device formed by the image signal, and the update of the image frame. Image information such as frequency is derived and output to the image acquisition unit 31, which will be described later.

座標検知部22は、ディスプレイ3上でユーザによって生じたイベント(ディスプレイ3上にユーザの手Hがタッチされた動作等)の座標位置を検出する。また、座標検知部22は、タッチされた面積も検出する。 The coordinate detection unit 22 detects the coordinate position of an event caused by the user on the display 3 (such as an action of touching the display 3 with the user's hand H). The coordinate detection unit 22 also detects the touched area.

自動調整部23は、電子黒板8の起動時に起動され、接触センサ312が座標検知部22に適切な値を出力できるように、接触センサ312の光センサ方式におけるセンサーカメラの画像処理のパラメータを調整する。 The automatic adjustment unit 23 is activated when the electronic whiteboard 8 is activated, and adjusts the image processing parameters of the sensor camera in the optical sensor method of the contact sensor 312 so that the contact sensor 312 can output an appropriate value to the coordinate detection unit 22. do.

接触検知部24は、ユーザによって生じたイベント(ディスプレイ3上に電子ペン4のペン先又は電子ペン4のペン尻が押下(タッチ)された動作等)を検出する。 The contact detection unit 24 detects an event caused by the user (such as an operation in which the tip of the electronic pen 4 or the tip of the electronic pen 4 is pressed (touched) on the display 3).

イベント振分部25は、座標検知部22によって検知されたイベントの座標位置と接触検知部24によって検出された検出結果を、ストローク描画、UI操作、及びジェスチャ操作の各イベントに振り分ける。ここで、図28を用い、ストローク描画、UI操作、及びジェスチャ操作について説明する。なお、図28は、各画像レイヤの構成図である。 The event distribution unit 25 distributes the coordinate position of the event detected by the coordinate detection unit 22 and the detection result detected by the contact detection unit 24 to stroke drawing, UI operation, and gesture operation events. Here, stroke drawing, UI operation, and gesture operation will be described with reference to FIG. 28 . Note that FIG. 28 is a configuration diagram of each image layer.

まず、「ストローク描画」は、ユーザがディスプレイ3上で電子ペン4を押下し、この押下した状態で電子ペン4を移動させ、最終的にディスプレイ3上から電子ペン4を離すまでのイベントにより描画される。このストローク描画により、例えば、アルファベット「S」や「T」等がディスプレイ3上に描画される。なお、この「ストローク描画」には、画像を描画するだけでなく、既に描画された画像を削除したり、描画された画像を編集したりするイベントも含まれる。 First, "stroke drawing" is drawn by the event that the user presses down the electronic pen 4 on the display 3, moves the electronic pen 4 in this pressed state, and finally releases the electronic pen 4 from the display 3. be done. By this stroke drawing, for example, alphabets such as “S” and “T” are drawn on the display 3 . Note that this "stroke drawing" includes not only events for drawing an image, but also events for deleting an already drawn image and editing a drawn image.

「UI操作」は、ディスプレイ3上に図28に示されている後述のUI画像(A)が表示されている場合に、ユーザが電子ペン4又は手Hによって所定の位置を押下したイベントである。このUI操作により、例えば、電子ペン4により描画される線の色や幅等が設定される。 "UI operation" is an event in which the user presses a predetermined position with the electronic pen 4 or hand H when a UI image (A) shown in FIG. 28, which will be described later, is displayed on the display 3. . By this UI operation, for example, the color, width, etc. of a line drawn with the electronic pen 4 are set.

「ジェスチャ操作」は、ディスプレイ3上に図28に示されている後述のストローク画像(B)が表示されている場合に、ユーザが手Hでディスプレイ3上をタッチしたり移動したりするイベントである。このジェスチャ操作により、例えば、ユーザがディスプレイ3に手Hをタッチさせた状態で手Hを移動させることで、画像の拡大(若しくは縮小)、表示領域の変更、又は、ページ切り換え等を行うことができる。 "Gesture operation" is an event in which the user touches or moves the display 3 with the hand H when a stroke image (B) shown in FIG. 28, which will be described later, is displayed on the display 3. be. With this gesture operation, for example, by moving the hand H while the user touches the display 3, the image can be enlarged (or reduced), the display area can be changed, or the page can be switched. can.

続いて、図27に戻り、操作処理部26は、イベント振分部25によってUI操作と判定されたものから、イベントが発生されたUIの要素に従って、各種操作を実行する。このUIの要素としては、例えば、ボタン、リスト、チェックボックス、テキストボックスが挙げられる。 Subsequently, returning to FIG. 27 , the operation processing unit 26 executes various operations according to the UI element for which the event is generated, based on the UI operation determined by the event distribution unit 25 . Elements of this UI include, for example, buttons, lists, check boxes, and text boxes.

ジェスチャ処理部27は、イベント振分部25によってジェスチャ操作と判定されたものに対応した操作を実行する。 The gesture processing unit 27 executes an operation corresponding to the gesture operation determined by the event allocation unit 25 .

映像重畳部28は、後述の表示重畳部36で重畳された画像を映像として映像出力機器(ディスプレイ3等)に対して表示する。また、映像重畳部28は、映像出力機器(ノートPC6等)からの映像に対して、他の映像出力機器(カメラ7等)から送られて来た映像をピクチャ・イン・ピクチャする。更に、映像重畳部28は、ピクチャ・イン・ピクチャされてディスプレイ3の一部に表示された映像を、ディスプレイ3の全体に表示させるための切り替えを行う。 The video superimposing unit 28 displays the image superimposed by the display superimposing unit 36, which will be described later, as video on a video output device (display 3, etc.). Also, the video superimposing unit 28 picture-in-pictures the video sent from another video output device (camera 7, etc.) with respect to the video from the video output device (notebook PC 6, etc.). Furthermore, the image superimposing unit 28 performs switching for displaying the image that has been picture-in-picture and displayed on a part of the display 3 on the entire display 3 .

(画像処理部の機能構成)
続いて、画像処理部9の機能構成について、詳細に説明する。画像処理部9は、図28に示されているような各画像レイヤの重畳処理等を行う。
(Functional configuration of image processing unit)
Next, the functional configuration of the image processing section 9 will be described in detail. The image processing unit 9 performs superimposition processing and the like for each image layer as shown in FIG.

そのため、画像処理部9は、画像取得部31、ストローク処理部32、UI画像生成部33、背景生成部34、レイアウト管理部35、表示重畳部36、ページ処理部37、ファイル処理部42、及びページデータ記憶部300を有している。 Therefore, the image processing unit 9 includes an image acquisition unit 31, a stroke processing unit 32, a UI image generation unit 33, a background generation unit 34, a layout management unit 35, a display superimposition unit 36, a page processing unit 37, a file processing unit 42, and It has a page data storage unit 300 .

このうち、画像取得部31は、映像取得部21で取得された映像から、各フレームを画像として取得する。この画像は、図28に示されている出力画像(C)に相当する。 Of these, the image acquisition section 31 acquires each frame as an image from the video acquired by the video acquisition section 21 . This image corresponds to the output image (C) shown in FIG.

ストローク処理部32は、イベント振分部25によって割り振られたストローク描画に係るイベントに基づいて、画像を描画したり、描画された画像を削除したり、描画された画像を編集する。このストローク描画による画像は、図28に示されているストローク画像(B)に相当する。 The stroke processing unit 32 draws an image, deletes the drawn image, or edits the drawn image based on the stroke drawing event assigned by the event distribution unit 25 . This stroke-drawn image corresponds to the stroke image (B) shown in FIG.

UI画像生成部33は、電子黒板8に予め設定されているUI(ユーザインターフェース)画像を生成する。このUI画像は、図28に示されているUI画像(A)に相当する。 The UI image generator 33 generates a UI (user interface) image preset on the electronic blackboard 8 . This UI image corresponds to the UI image (A) shown in FIG.

背景生成部34は、ディスプレイ3上に表示される背景画像を生成する。この背景画像は、図28に示されている背景画像(D)に相当する。背景画像のパターンは、無地、グリッド表示等である。 Background generator 34 generates a background image displayed on display 3 . This background image corresponds to the background image (D) shown in FIG. The pattern of the background image is solid color, grid display, or the like.

レイアウト管理部35は、表示重畳部36に対して、画像取得部31、ストローク処理部32、UI画像生成部33、及び背景生成部34から出力された各画像のレイアウトを示すレイアウト情報を管理している。これにより、レイアウト管理部35は、表示重畳部36に対して、出力画像(C)及びストローク画像(B)を、UI画像(A)及び背景画像(D)中のどの位置に表示させるか又は非表示にさせるかを指示することができる。 The layout management unit 35 manages layout information indicating the layout of each image output from the image acquisition unit 31, the stroke processing unit 32, the UI image generation unit 33, and the background generation unit 34 for the display superimposition unit 36. ing. Thereby, the layout management unit 35 instructs the display superimposition unit 36 to display the output image (C) and the stroke image (B) in the UI image (A) and the background image (D), or You can specify whether to hide it.

表示重畳部36は、画像取得部31からの出力画像(C)、ストローク処理部32からのストローク画像(B)、UI画像生成部33からのUI画像(A)、及び、背景生成部34からの背景画像(D)を、レイアウト管理部35によって指定されたレイアウトに従って重畳する。これにより、図28に示されているように、各画像が重なってもユーザが見える順に、UI画像(A)、ストローク画像(B)、出力画像(C)、及び背景画像(D)の各レイヤの構成となっている。 The display superimposing unit 36 receives the output image (C) from the image acquisition unit 31, the stroke image (B) from the stroke processing unit 32, the UI image (A) from the UI image generation unit 33, and the background generation unit 34. background image (D) is superimposed according to the layout specified by the layout management unit 35 . As a result, as shown in FIG. 28, the UI image (A), the stroke image (B), the output image (C), and the background image (D) are displayed in the order that the user can see even if the images overlap. It is made up of layers.

また、表示重畳部36は、図28に示されている画像(C)と画像(D)を切り替えて、画像(A)及び画像(B)に対して排他的に重畳することも可能である。例えば、当初に、画像(A)、画像(B)及び画像(C)が表示されている状態で、電子黒板8と映像出力機器(ノートPC6等)との間のケーブルが抜かれた場合には、レイアウト管理部35の指定によって、画像(C)を重畳対象から外し、画像(D)を表示させることができる。この場合に、また、表示重畳部36は、表示の拡大、表示の縮小、表示領域の移動処理も行う。 In addition, the display superimposing unit 36 can switch between the image (C) and the image (D) shown in FIG. 28 and superimpose exclusively on the image (A) and the image (B). . For example, when the cable between the electronic blackboard 8 and the video output device (notebook PC 6, etc.) is pulled out while the image (A), image (B), and image (C) are being displayed at first, , the image (C) can be removed from the superimposition target and the image (D) can be displayed according to the designation of the layout management unit 35 . In this case, the display superimposing unit 36 also performs display enlargement, display reduction, and display area movement processing.

ページ処理部37は、ストローク画像(B)のデータと出力画像(C)のデータを、1つのページデータにまとめてページデータ記憶部300に記憶する。また、ページ処理部37は、画像取得部31を介して記憶したページデータを表示重畳部36に送信することで、映像重畳部28がページデータをディスプレイ3に再表示させることができる。 The page processing unit 37 combines the data of the stroke image (B) and the data of the output image (C) into one page data and stores it in the page data storage unit 300 . Further, the page processing unit 37 transmits the page data stored via the image acquiring unit 31 to the display superimposing unit 36, so that the video superimposing unit 28 can cause the display 3 to display the page data again.

更に、ページ処理部37は、画像取得部31を介して記憶したページデータをビデオ会議アプリ710に送信することで、ビデオ会議アプリ710から他の電子黒板8や伝送端末10にページデータ(ストローク配列データ、メディアデータ)を送信することができる。また、ページ処理部37は、ページデータをストローク処理部32に送信することで、ストロークの再編集ができる状態にすることができる。更に、ページ処理部37は、ページデータを削除したり複製したりすることもできる。 Further, the page processing unit 37 transmits the page data stored via the image acquisition unit 31 to the video conference application 710, thereby transmitting the page data (stroke array) from the video conference application 710 to the other electronic blackboard 8 or the transmission terminal 10. data, media data) can be sent. Further, the page processing unit 37 can transmit the page data to the stroke processing unit 32 so that strokes can be re-edited. Furthermore, the page processing unit 37 can also delete or duplicate page data.

また、ページ処理部37は、ページデータ記憶部300からページデータを読み出す場合には、1つにまとめたページデータから、ストローク画像(B)を示すストローク配列データ、及び背景画像(D)を示すメディアデータに分ける。即ち、ページ処理部37がページデータ記憶部300に記憶する時点でディスプレイ3上に表示されている出力画像(C)のデータは、一旦、ページデータ記憶部300に記憶され、その後にページデータ記憶部300から読み出される際には、背景画像(D)を示すメディアデータとして読みされる。そして、ページ処理部37は、ページデータ記憶部300から読み出したページデータのうち、ストローク画像(B)を示すストローク配列データを、ストローク処理部32に出力する。また、ページ処理部37は、ページデータ記憶部300から読み出したページデータのうち、背景画像(D)を示すメディアデータを、画像取得部31に出力する。 Further, when reading page data from the page data storage unit 300, the page processing unit 37 indicates stroke array data indicating the stroke image (B) and the background image (D) from the combined page data. Divide into media data. That is, the data of the output image (C) displayed on the display 3 at the time when the page processing section 37 stores it in the page data storage section 300 is temporarily stored in the page data storage section 300, and then stored in the page data storage section 300. When read from the unit 300, it is read as media data representing the background image (D). Then, the page processing unit 37 outputs stroke array data indicating the stroke image (B) among the page data read from the page data storage unit 300 to the stroke processing unit 32 . The page processing unit 37 also outputs the media data indicating the background image (D) among the page data read from the page data storage unit 300 to the image acquiring unit 31 .

ページデータ記憶部300は、図29に示されているようなページデータを記憶する。図12は、ページデータを示す概念図である。ページデータは、ディスプレイ3に表示される1ページ分のデータ(ストロークデータ及び画像データ)である。なお、ページデータに含まれるパラメータの種類が多いため、ここでは、図29~図31に分けて、ページデータの内容を説明する。 Page data storage unit 300 stores page data as shown in FIG. FIG. 12 is a conceptual diagram showing page data. The page data is data (stroke data and image data) for one page displayed on the display 3 . Since there are many types of parameters included in the page data, the contents of the page data will be described separately for FIGS. 29 to 31. FIG.

ファイル処理部42は、電子黒板8が異常終了した後に、異常終了を検知し、未保存のページデータを復旧する。例えば、正常終了の場合は、ファイル処理部42が、ページデータ記憶部300からページデータを取得し、PDFファイルとしてUSB5に記録する。しかし、電源がダウンした等の異常終了の場合は、ページデータがページデータ記憶部300に記録されたままになっている。そのため、再び、電源オンになった際に、ファイル処理部42が、ページデータ記憶部300からページデータを読み出すことで復旧させる。また、ファイル処理部42は、USBメモリ5から、PDFファイルを読み込み、各ページをページデータとしてページデータ記憶部300に記憶する。 After the electronic blackboard 8 is abnormally terminated, the file processing unit 42 detects the abnormal termination and recovers the unsaved page data. For example, in the case of normal termination, the file processing unit 42 acquires page data from the page data storage unit 300 and records it in the USB 5 as a PDF file. However, in the case of an abnormal termination such as power failure, the page data remains recorded in the page data storage unit 300 . Therefore, when the power is turned on again, the file processing unit 42 reads out the page data from the page data storage unit 300 for restoration. The file processing unit 42 also reads a PDF file from the USB memory 5 and stores each page in the page data storage unit 300 as page data.

ここで、ページデータについて、詳細に説明する。ページデータは、図29に示されているように、任意の1ページを識別するためのページデータID、このページの表示を開始した時刻を示す開示時刻、ストロークやジェスチャ等によるページの内容の書き換えが行われなくなった時刻を示す終了時刻、電子ペン4やユーザの手Hによるストロークによって生じたストローク配列データを識別するためのストローク配列データID、及びメディアデータを識別するためのメディアデータIDが関連付けて記憶されている。ストローク配列データは、後述の図11に示されているストローク画像(B)がディスプレイ3上に表示されるためのデータである。メディアデータは、後述の図28に示されている背景画像(D)がディスプレイ3上に表示されるためのデータである。 Here, page data will be described in detail. As shown in FIG. 29, the page data includes a page data ID for identifying an arbitrary page, a disclosure time indicating the time when the display of this page was started, and rewriting of the contents of the page by strokes, gestures, etc. is associated with an end time indicating the time when the operation is no longer performed, a stroke array data ID for identifying stroke array data generated by strokes made by the electronic pen 4 or the user's hand H, and a media data ID for identifying media data. are stored. The stroke array data is data for displaying a stroke image (B) shown in FIG. 11 to be described later on the display 3 . The media data is data for displaying a background image (D) shown in FIG. 28 which will be described later on the display 3 .

このようなページデータにより、例えば、ユーザが電子ペン4によってアルファベット「S」を描く場合は一筆書きとなるため、ストロークデータIDが1つで一文字のアルファベット[S]が示される。ところが、ユーザが電子ペン4によってアルファベット「T」を描く場合、二筆書きとなるため、ストロークデータIDが2つで一文字のアルファベット「T」が示されることになる。 With such page data, for example, when the user draws the alphabet "S" with the electronic pen 4, it is written in one stroke, so one stroke data ID indicates one alphabet [S]. However, when the user draws the alphabet "T" with the electronic pen 4, it is written in two strokes, so two stroke data IDs indicate one alphabet "T".

また、ストローク配列データは、図30に示されているように詳細な情報を示している。図30は、ストローク配列データを示す概念図である。図30に示されているように、1つのストローク配列データは、複数のストロークデータによって表される。そして、1つのストロークデータは、このストロークデータを識別するためのストロークデータID、1つのストロークの書き始めの時刻を示す開始時刻、1つのストロークの書き終わりの時刻を示す終了時刻、ストロークの色、ストロークの幅、及び、ストロークの通過点の配列を識別するための座標配列データIDを示している。 Also, the stroke array data indicates detailed information as shown in FIG. FIG. 30 is a conceptual diagram showing stroke arrangement data. As shown in FIG. 30, one piece of stroke array data is represented by multiple pieces of stroke data. One stroke data includes a stroke data ID for identifying this stroke data, a start time indicating the time at which writing of one stroke began, an end time indicating the time at which writing of one stroke ended, the color of the stroke, The width of the stroke and the coordinate array data ID for identifying the array of passing points of the stroke are shown.

更に、この座標配列データは、図31に示されているように詳細な情報を示している。図31は、座標配列データを示す概念図である。図31に示されているように、座標配列データは、ディスプレイ3上の1点(X座標値、Y座標値)、この1点を通過したときのストロークの開示時刻からの差分の時刻(ms)、及び、この1点における電子ペン4の筆圧の各情報を示している。即ち、図31に示されている1点の集まりが、図30に示されている1つの座標配列データで示されている。例えば、ユーザが電子ペン4によってアルファベット「S」を描く場合、一筆書きとなるが、「S」を描き終えるまでに、複数の通過点を通過するため、座標配列データは、これら複数の通過点の情報を示している。 Furthermore, this coordinate array data indicates detailed information as shown in FIG. FIG. 31 is a conceptual diagram showing coordinate array data. As shown in FIG. 31, the coordinate array data consists of one point (X coordinate value, Y coordinate value) on the display 3 and the difference time (ms ), and the writing pressure of the electronic pen 4 at this one point. That is, the collection of one point shown in FIG. 31 is represented by one coordinate array data shown in FIG. For example, when the user draws the alphabet "S" with the electronic pen 4, it is written in one stroke. information.

また、図29に示されているページデータのうちのメディアデータは、図30に示されているように詳細な情報を示している。図32は、メディアデータを示す概念図である。図32に示されているように、メディアデータは、図29に示されているページデータにおけるメディアデータID、メディアデータのデータ種類、ページ処理部37からページデータ記憶部300にページデータが記憶された記録時刻、ページデータによってディスプレイ3上に表示される画像の位置(X座標値、Y座標値)及び画像のサイズ(幅、高さ)、並びにメディアデータの内容を示すデータが関連付けられて示されている。このうち、ページデータによってディスプレイ3上に表示される画像の位置は、ディスプレイ3の左上端の座標を(X座標値,Y座標値)=(0,0)とした場合に、ページデータによって表示される画像の左上端の位置を示している。 Also, the media data in the page data shown in FIG. 29 indicates detailed information as shown in FIG. FIG. 32 is a conceptual diagram showing media data. As shown in FIG. 32, the media data includes the media data ID in the page data shown in FIG. The recorded time, the position (X coordinate value, Y coordinate value) and size (width, height) of the image displayed on the display 3 by the page data, and the data indicating the contents of the media data are displayed in association with each other. It is Among them, the position of the image displayed on the display 3 by the page data is displayed by the page data when the coordinates of the upper left corner of the display 3 are (X coordinate value, Y coordinate value)=(0, 0). It indicates the position of the upper left corner of the image to be displayed.

(ビデオ会議アプリの機能構成)
続いて、ビデオ会議アプリ710の機能構成について詳細に説明する。ビデオ会議アプリ710は、電子黒板8が、外部の装置等(伝送端末10、UI提供装置20,他の電子黒板8、伝送管理装置50、中継装置30、及びプログラム提供装置90)と通信するための処理を制御する。
(Functional configuration of the video conferencing app)
Next, the functional configuration of the video conference application 710 will be described in detail. The video conference application 710 is used for the electronic blackboard 8 to communicate with external devices (the transmission terminal 10, the UI providing device 20, another electronic whiteboard 8, the transmission management device 50, the relay device 30, and the program providing device 90). control the processing of

そのため、ビデオ会議アプリ710は、送受信部61、操作入力受付部62、ログイン要求部63、加工部64、出力重畳部65、表示制御部66、宛先リスト作成部67、判断部68、及び記憶・読出処理部69を有している。更に、ビデオ会議アプリ710は、図26に示されているSSD304によって構築される記憶部6000を有している。 Therefore, the video conference application 710 includes a transmission/reception unit 61, an operation input reception unit 62, a login request unit 63, a processing unit 64, an output superimposition unit 65, a display control unit 66, a destination list creation unit 67, a determination unit 68, and a storage/ It has a read processing unit 69 . Furthermore, the video conferencing application 710 has a storage unit 6000 built by the SSD 304 shown in FIG.

また、ビデオ会議アプリ710は、図6に示されている伝送端末10の機能構成の一部を有している。即ち、ビデオ会議アプリ710の送受信部61、操作入力受付部62、ログイン要求部63、表示制御部66、宛先リスト作成部67、及び記憶・読出処理部69は、それぞれ伝送端末10の送受信部11、操作入力受付部12、ログイン要求部13、宛先リスト表示部16、表示制御部17、及び記憶・読出処理部19と同様の処理を行う。また、ビデオ会議アプリ710の記憶部6000は、伝送端末10の記憶部1000と同様の役割を果たす。このため、これらの説明は省略する。 Also, the video conference application 710 has a part of the functional configuration of the transmission terminal 10 shown in FIG. That is, the transmitting/receiving unit 61, the operation input receiving unit 62, the login requesting unit 63, the display control unit 66, the destination list creating unit 67, and the storage/reading processing unit 69 of the video conference application 710 are respectively connected to the transmitting/receiving unit 11 of the transmission terminal 10. , operation input reception unit 12 , login request unit 13 , destination list display unit 16 , display control unit 17 , and storage/read processing unit 19 . Also, the storage unit 6000 of the video conference application 710 plays the same role as the storage unit 1000 of the transmission terminal 10 . Therefore, description of these will be omitted.

一方、加工部64は、送受信部61によって受信された表示能力情報(他の伝送端末10の画面サイズ、解像度など)が、他の伝送端末に所定の画像を表示する能力がない旨を示す場合には、画像データを加工する。具体的には、加工部64は、電子黒板8に対する操作を行うためのUI画像(A)を含む複数の階層の画像が重畳された画像データのうち、トリミングによってUI画像に係る操作画像データを切り取った後、トリミング後の画像データをトリミング前の画像データに拡大するリサイズを行う。なお、加工部64は、画像データを拡大するリサイズを行った後に、トリミングを行ってもよい。 On the other hand, if the display capability information (the screen size, resolution, etc. of the other transmission terminal 10) received by the transmission/reception unit 61 indicates that the other transmission terminal is not capable of displaying a predetermined image, to process the image data. Specifically, the processing unit 64 trims the operation image data related to the UI image from the image data in which the images of a plurality of layers including the UI image (A) for operating the electronic blackboard 8 are superimposed. After cutting, resizing is performed by enlarging the image data after trimming to the image data before trimming. Note that the processing unit 64 may perform trimming after performing resizing to enlarge the image data.

出力重畳部65は、表示重畳部36のように画像データと画像データを重畳させる。 The output superimposing unit 65 superimposes the image data and the image data like the display superimposing unit 36 does.

判断部68は、送受信部61によって受信された表示能力情報が、他の伝送端末に所定の画像を表示する能力がない旨を示す場合には、画像データを加工すると判断する。これにより、加工部64が画像データの加工を行う。 If the display capability information received by the transmitting/receiving unit 61 indicates that the other transmission terminal is not capable of displaying a predetermined image, the determination unit 68 determines to process the image data. Thereby, the processing unit 64 processes the image data.

(インタフェースアプリ730)
図27に示すように、電子黒板8はインタフェース部730aを有する。インタフェース部730aはインタフェースアプリ730を電子黒板8のCPU301が実行し図26に示した各種のハードウェアと協働することで実現される機能又は手段である。インタフェース部730aは、インタフェース処理部710aを介してビデオ会議アプリ710の記憶・読出処理部69に「記録開始通知を受信した旨」が記憶されているか否かを一定時間(例えば1秒~1分の間などでよい)に監視している。また、インタフェース部730aは、OS700にディスプレイ3の最前面に表示するアプリケーションを指示する信号を送信する。
(Interface application 730)
As shown in FIG. 27, the electronic blackboard 8 has an interface section 730a. The interface unit 730a is a function or means implemented by the CPU 301 of the electronic whiteboard 8 executing the interface application 730 and cooperating with various hardware shown in FIG. The interface unit 730a determines whether or not the "reception of the recording start notification" is stored in the storage/readout processing unit 69 of the video conference application 710 via the interface processing unit 710a for a predetermined period of time (for example, 1 second to 1 minute). ) is monitored. The interface unit 730 a also transmits a signal to the OS 700 to instruct an application to be displayed on the front of the display 3 .

また、ビデオ会議アプリ710はインタフェース処理部710aを有する。インタフェース処理部710aはビデオ会議アプリ710を電子黒板8のCPU301が実行し図26に示した各種のハードウェアと協働することで実現される機能又は手段である。インタフェース処理部710aは、電子黒板アイコン703が押下されると、インタフェース部730aに、電子黒板アプリ720が選択された旨を示す電子黒板UI画面切替信号を送信する。これにより、インタフェース部730aは、OS700に電子黒板UI画面740を表示させる。 The video conference application 710 also has an interface processing unit 710a. The interface processing unit 710a is a function or means implemented by the CPU 301 of the electronic whiteboard 8 executing the video conference application 710 and cooperating with various hardware shown in FIG. When the electronic blackboard icon 703 is pressed, the interface processing unit 710a transmits an electronic blackboard UI screen switching signal indicating that the electronic blackboard application 720 has been selected to the interface unit 730a. As a result, the interface unit 730 a causes the OS 700 to display the electronic whiteboard UI screen 740 .

また、電子黒板アプリ720はインタフェース処理部720aを有する。インタフェース処理部720aは電子黒板アプリ720を電子黒板8のCPU201が実行し図26に示した各種のハードウェアと協働することで実現される機能又は手段である。インタフェース処理部720aは、ビデオ会議アイコン702aが押下されると、インタフェース部730aに、ビデオ会議アプリ710が選択された旨を示すビデオ会議UI画面切替信号を送信する。これにより、インタフェース部730aは、OS700にビデオ会議UI画面750を表示させる。 Further, the electronic blackboard application 720 has an interface processing section 720a. The interface processing unit 720a is a function or means realized by the CPU 201 of the electronic blackboard 8 executing the electronic blackboard application 720 and cooperating with various hardware shown in FIG. When the videoconference icon 702a is pressed, the interface processing unit 720a transmits a videoconference UI screen switching signal indicating that the videoconference application 710 has been selected to the interface unit 730a. As a result, the interface unit 730 a causes the OS 700 to display the video conference UI screen 750 .

<動作手順>
図33は、電子黒板8で動作するビデオ会議アプリ710が録画開始通知を受信した場合の動作手順を示すシーケンス図の一例である。図33では、図8、9の処理によりすでにビデオ会議が開催されているものとする。
<Operation procedure>
FIG. 33 is an example of a sequence diagram showing an operation procedure when the video conference application 710 operating on the electronic whiteboard 8 receives a recording start notification. In FIG. 33, it is assumed that a video conference has already been held by the processing of FIGS.

S1:伝送端末10ddから伝送管理装置50に録画開始通知が送信される。録画開始通知については図10にて説明した。 S1: A recording start notification is transmitted from the transmission terminal 10dd to the transmission management device 50. FIG. The recording start notification has been described with reference to FIG.

S2:伝送管理装置50の送受信部51は、伝送端末10ddとビデオ会議を行っている電子黒板8に録画開始通知を送信する。 S2: The transmitting/receiving unit 51 of the transmission management device 50 transmits a recording start notification to the electronic blackboard 8 that is in videoconference with the transmission terminal 10dd.

S3、S4:インタフェース部730aは一定時間ごとに、インタフェース処理部710aを介して、ビデオ会議アプリ710の記憶・読出処理部69に対し、録画開始通知を受信したか否かを監視する。 S3, S4: The interface unit 730a monitors whether or not a recording start notification has been received from the storage/read processing unit 69 of the video conference application 710 via the interface processing unit 710a at regular intervals.

S5:録画開始通知を受信した場合、インタフェース部730aはビデオ会議アプリ710が始めて録画開始通知を受信したか否かを判定する。ビデオ会議アプリ710の記憶部6000も録画中管理テーブルを有するので、録画中管理テーブルの通信IDがゼロの状態で通信IDが登録された場合、インタフェース部730aはビデオ会議アプリ710が始めて録画開始通知を受信したと判定する。これにより、録画開始通知を受信するたびに、ビデオ会議アプリ710に通知する必要がない。 S5: When receiving the recording start notification, the interface unit 730a determines whether or not the video conference application 710 has received the recording start notification for the first time. Since the storage unit 6000 of the videoconference application 710 also has a recording management table, when a communication ID is registered in the recording management table while the communication ID is zero, the interface unit 730a notifies the videoconference application 710 of the start of recording. is determined to have been received. This eliminates the need to notify the video conference application 710 each time a recording start notification is received.

S6,S7:ビデオ会議アプリ710が始めて録画開始通知を受信したと判定すると、インタフェース部730aは、インタフェース処理部720aを介してUI画像生成部33にUI変更要求を行う。UI変更要求は、電子黒板UI画面740に伝送端末10ddの稼動状態の表示を要求することをいう。具体的には伝送端末10ddが録画していることを表示する。 S6, S7: When determining that the video conference application 710 has received the recording start notification for the first time, the interface section 730a requests the UI image generation section 33 to change the UI via the interface processing section 720a. The UI change request is to request display of the operating state of the transmission terminal 10dd on the electronic blackboard UI screen 740 . Specifically, it displays that the transmission terminal 10dd is recording.

S8:これにより、電子黒板アプリ720のUI画像生成部33は、伝送端末10ddが録画している旨が表示された電子黒板UI画面740を表示する。この電子黒板UI画面740の一例を図34にて説明する。 S8: As a result, the UI image generator 33 of the electronic blackboard application 720 displays the electronic blackboard UI screen 740 indicating that the transmission terminal 10dd is recording. An example of this electronic blackboard UI screen 740 will be described with reference to FIG.

なお、この時点で、インタフェース部730aはOS700にビデオ会議UI画面切替信号を送信する必要はない。まず、電子黒板8のディスプレイ3に電子黒板UI画面740が表示されている状況では、ステップS8で伝送端末10ddが録画している旨が表示されるため、ユーザが他の拠点で録画されていることに気づくことができる。電子黒板8のディスプレイ3にビデオ会議UI画面750が表示されている状況では、実施例1で説明した録画拠点マーク71又は他拠点録画マーク72が全画面表示画面501又は情報表示画面601に表示されるため、ユーザが他の拠点で録画していることに気づくことができる。 At this point, the interface unit 730a does not need to transmit the videoconference UI screen switching signal to the OS700. First, in a situation where the electronic blackboard UI screen 740 is displayed on the display 3 of the electronic blackboard 8, it is displayed that the transmission terminal 10dd is recording in step S8, so that the user is being recorded at another site. can notice. In a situation where the video conference UI screen 750 is displayed on the display 3 of the electronic blackboard 8, the recording base mark 71 or the other base recording mark 72 described in the first embodiment is displayed on the full screen display screen 501 or the information display screen 601. Therefore, the user can notice that recording is being performed at another site.

インタフェース部730aは、同様に、ビデオ会議アプリ710が録画終了通知を受信したことを検知できる。この場合、インタフェース部730aは、電子黒板アプリ720のUI画像生成部33にUI変更要求を行う。このUI変更要求は、伝送端末10ddが録画している旨の消去の要求である。 Interface unit 730a can similarly detect that video conference application 710 has received a recording end notification. In this case, the interface unit 730a requests the UI image generation unit 33 of the electronic blackboard application 720 to change the UI. This UI change request is a request to erase that the transmission terminal 10dd is recording.

図34は、他の拠点が録画している旨が表示された電子黒板UI画面740の一例である。図34では、ティッカー部760に「録画会議中」という文字761が表示されている。ティッカー部760とは、画面の一部に設けられた画像などのコンテンツとは関係ない情報が表示される領域である。一般に、コンテンツ部分のアスペクト比を維持したままコンテンツ部分が縮小されてできる領域である。こうすることで、コンテンツに重複せずに他の拠点が録画している旨を表示できる。 FIG. 34 is an example of an electronic whiteboard UI screen 740 displaying that another site is recording. In FIG. 34, a ticker portion 760 displays characters 761 of “recording meeting in progress”. The ticker portion 760 is an area in which information unrelated to content such as an image provided in a portion of the screen is displayed. In general, it is an area created by reducing a content portion while maintaining the aspect ratio of the content portion. By doing so, it is possible to display that other bases are recording without duplicating the content.

ただし、図34で電子黒板UI画面740を特に縮小しなくてよく、例えば、電子黒板UI画面740のコンテンツ(手書きされたストロークなど)の四隅や中央などに重畳して表示してよい。 However, the electronic blackboard UI screen 740 in FIG. 34 does not have to be particularly reduced, and for example, the contents (handwritten strokes, etc.) of the electronic blackboard UI screen 740 may be superimposed on the four corners or the center.

また、UI画像生成部33は図34のように文字で録画中である旨を表示する他、ビデオ会議アイコン702aの点滅、色変更などで録画中である旨を表示してもよい。また、文字761でなく録画中である旨を示すアイコンを表示してもよい。 Further, the UI image generation unit 33 may indicate that recording is in progress by using text as shown in FIG. 34, or by blinking or changing the color of the videoconference icon 702a. Alternatively, instead of the characters 761, an icon indicating that recording is in progress may be displayed.

<表示順の変更>
次に、図35を用いて電子黒板UI画面740とビデオ会議UI画面750の表示順の変更手順を説明する。図35は、インタフェース部730aが電子黒板UI画面740とビデオ会議UI画面750の表示順を変更する手順を示すシーケンス図の一例である。図35は、ビデオ会議の開催中に実行される。電子黒板8のディスプレイ3にはビデオ会議UI画面750が表示されているものとして説明する。
<Change display order>
Next, a procedure for changing the display order of the electronic blackboard UI screen 740 and the videoconference UI screen 750 will be described with reference to FIG. FIG. 35 is an example of a sequence diagram showing a procedure for changing the display order of the electronic blackboard UI screen 740 and the videoconference UI screen 750 by the interface unit 730a. FIG. 35 is executed during the videoconference. It is assumed that the videoconference UI screen 750 is displayed on the display 3 of the electronic blackboard 8 .

S1:ユーザがビデオ会議UI画面750の電子黒板アイコン703を押下する。操作入力受付部62はこの操作を受け付けインタフェース処理部710aに通知する。 S1: The user presses the electronic blackboard icon 703 on the videoconference UI screen 750 . The operation input reception unit 62 notifies the reception interface processing unit 710a of this operation.

S2:インタフェース処理部710aはこの通知を受けてインタフェース部730aに電子黒板UI画面切替信号を送信する。 S2: The interface processing unit 710a receives this notification and transmits an electronic blackboard UI screen switching signal to the interface unit 730a.

S3:インタフェース部730aは、電子黒板UI画面切替信号をOS700に送信する。 S3: The interface unit 730a transmits an electronic blackboard UI screen switching signal to the OS700.

S4:OS700は電子黒板アプリ720の映像重畳部28が生成する電子黒板UI画面740をディスプレイ3の最前面に表示する。また、電子黒板UI画面740をアクティブにする。すなわち、電子黒板UI画面740を作成した電子黒板アプリ720をユーザの操作の対象にする。また、OS700は、電子黒板アプリ720を他のアプリよりも若干高い優先順位を割り当てる。これにより、ビデオ会議アプリ710も動作したまま、電子黒板UI画面740がディスプレイ3の最前面に表示される。 S4: The OS 700 displays the electronic blackboard UI screen 740 generated by the video superimposing unit 28 of the electronic blackboard application 720 on the foreground of the display 3 . Also, the electronic blackboard UI screen 740 is activated. That is, the electronic blackboard application 720 that created the electronic blackboard UI screen 740 is the target of the user's operation. Also, the OS 700 assigns the electronic blackboard application 720 a slightly higher priority than other applications. As a result, the electronic whiteboard UI screen 740 is displayed in the foreground of the display 3 while the video conference application 710 is also operating.

なお、電子黒板アプリ720が最前面に表示された状態で、ビデオ会議アプリ710を最前面に表示するには図35の逆の手順が実行されればよい。 In order to display the video conference application 710 in the foreground while the electronic blackboard application 720 is displayed in the foreground, the procedure in FIG. 35 is reversed.

このように、ユーザは電子黒板アプリ720とビデオ会議アプリ710を任意に切り替えることができる。 Thus, the user can arbitrarily switch between the electronic blackboard application 720 and the video conference application 710 .

<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
<Other application examples>
Although the best mode for carrying out the present invention has been described above using examples, the present invention is by no means limited to such examples, and various modifications can be made without departing from the scope of the present invention. and substitutions can be added.

例えば、中継装置30、伝送管理装置50及びプログラム提供装置90は、それぞれが独立に存在するのでなく、単一のコンピュータによって構築されてもよい。また、伝送端末10、伝送管理装置50及びプログラム提供装置90が有する各手段及び記憶部1000,2000,5000を、複数のコンピュータに任意に割り当ててもよい。この場合、UI提供装置20はどのコンピュータの機能として含まれてもよい。 For example, the relay device 30, the transmission management device 50, and the program providing device 90 may not exist independently of each other, but may be constructed by a single computer. Further, the means and storage units 1000, 2000, 5000 of the transmission terminal 10, the transmission management device 50, and the program providing device 90 may be arbitrarily assigned to a plurality of computers. In this case, the UI providing device 20 may be included as a function of any computer.

また、上記実施形態では、伝送システム1の一例として、ビデオ会議システムの場合について説明したが、これに限るものではなく、IP(Internet Protocol)電話や、インターネット電話等の電話システムであってもよい。 Further, in the above embodiment, the case of the video conference system was explained as an example of the transmission system 1, but the present invention is not limited to this, and may be a telephone system such as an IP (Internet Protocol) telephone or an Internet telephone. .

また、各伝送端末10は伝送管理装置50を介さずに通信してもよい。このような通信プロトコルの一例として、WebRTCが知られている。 Also, each transmission terminal 10 may communicate without using the transmission management device 50 . WebRTC is known as an example of such a communication protocol.

また、伝送システム1は、移動体に搭載されたカーナビゲーション装置を含むシステムであってもよい。また、伝送端末10に画面共有用のPCが接続されてもよい。 Also, the transmission system 1 may be a system including a car navigation device mounted on a moving object. Also, a PC for screen sharing may be connected to the transmission terminal 10 .

また、上記実施形態では、コンテンツデータの一例として、画像データ及び音声データについて説明したが、これに限るものではなく、触覚(touch)データであってもよい。この場合、一方の伝送端末側でユーザが接触した感覚が、他方の伝送端末側に伝達される。 Also, in the above embodiment, image data and audio data have been described as examples of content data, but the content data is not limited to this, and may be touch data. In this case, the user's touch feeling on one transmission terminal side is transmitted to the other transmission terminal side.

更に、コンテンツデータは、嗅覚(smell)データであってもよい。この場合、一方の伝送端末側の匂い(臭い)が、他の伝送端末側に伝達される。また、コンテンツデータは、画像データ、音声データ、触覚データ及び嗅覚データのうち、少なくとも1つのデータであればよい。 Further, the content data may be smell data. In this case, the smell (smell) on one transmission terminal side is transmitted to the other transmission terminal side. Also, the content data may be at least one of image data, audio data, tactile data, and olfactory data.

また、上記実施形態では、伝送システム1によってビデオ会議をする場合について説明したが、これに限るものではなく、打ち合わせ、家族間や友人間等の一般的な会話、又は、一方向での情報の提示に使用されても構わない。 Also, in the above embodiment, the case of holding a video conference by the transmission system 1 has been described, but the present invention is not limited to this, and is used for meetings, general conversations between family members or friends, or one-way communication of information. May be used for presentation.

また、上記実施形態では、主に画像データが録画されていることを参加者に通知したが、音声データのみが送受信されている状態で音声データが録音されていることが参加者に通知されてもよい。 In the above embodiment, the participants were mainly notified that the image data was being recorded. good too.

送受信部11は受信手段の一例であり、拠点リスト表示部18bは記録端末通知手段の一例であり、録画中管理テーブル1000bは識別情報記憶手段の一例であり、全画面表示画面501は第一の画面の一例であり、情報表示画面601は第二の画面の一例である。伝送管理装置50は外部装置の一例であり、宛先リスト表示部16は宛先リスト表示手段の一例であり、ディスプレイ120は表示装置の一例である。表示制御部17は表示制御手段の一例であり、操作入力受付部12は選択受付手段の一例であり、補助領域表示部18aは記録中通知手段の一例である。宛先リスト管理DB5003は宛先リスト記憶手段の一例であり、端末管理DB5002は端末状態記憶手段の一例であり、画像録画部41は記録手段の一例であり、送受信部51は送信手段の一例である。伝送端末10は第一の情報処理装置(又は第二の情報処理装置)の一例であり、伝送管理装置50は第二の情報処理装置の一例である。表示制御部66は第一の表示制御手段の一例であり。UI画像生成部33と映像重畳部28は第二の表示制御手段の一例であり、インタフェース部703aは通知手段の一例である。 The transmission/reception unit 11 is an example of reception means, the site list display unit 18b is an example of recording terminal notification means, the recording management table 1000b is an example of identification information storage means, and the full screen display screen 501 is the first It is an example of the screen, and the information display screen 601 is an example of the second screen. The transmission management device 50 is an example of an external device, the destination list display section 16 is an example of a destination list display means, and the display 120 is an example of a display device. The display control section 17 is an example of display control means, the operation input reception section 12 is an example of selection reception means, and the auxiliary area display section 18a is an example of recording notification means. The destination list management DB 5003 is an example of a destination list storage unit, the terminal management DB 5002 is an example of a terminal state storage unit, the image recording unit 41 is an example of a recording unit, and the transmission/reception unit 51 is an example of a transmission unit. The transmission terminal 10 is an example of a first information processing device (or a second information processing device), and the transmission management device 50 is an example of a second information processing device. The display control unit 66 is an example of first display control means. The UI image generation unit 33 and the video superimposition unit 28 are examples of second display control means, and the interface unit 703a is an example of notification means.

1 伝送システム
10 伝送端末
12 操作入力受付部
17 表示制御部
18a 補助領域表示部
18b 拠点リスト表示部
50 伝送管理装置
52 端末認証部
53 状態管理部
54 端末抽出部
55 端末状態取得部
120 ディスプレイ
1 transmission system 10 transmission terminal 12 operation input reception unit 17 display control unit 18a auxiliary area display unit 18b location list display unit 50 transmission management device 52 terminal authentication unit 53 state management unit 54 terminal extraction unit 55 terminal state acquisition unit 120 display

特開2011-216984号公報JP 2011-216984 A

Claims (16)

ネットワークを介して接続された他の情報処理装置と画像データを送受信する情報処理装置であって、
前記他の情報処理装置と送受信する画像データの記録を開始する記録開始通知を受信する受信手段と、
前記他の情報処理装置から受信した画像データを表示可能なビデオ会議UI画面と、手書きされたストローク画像を表示可能な電子黒板UI画面とを、切り替え可能に表示画面に表示させる表示制御手段と、を有し、
前記表示制御手段は、
前記ビデオ会議UI画面が前記表示画面に表示されている際に、前記記録開始通知を受信した場合には、前記送受信する画像データを記録中である旨を前記ビデオ会議UI画面に表示させ、
前記電子黒板UI画面が前記表示画面に表示されている際に、前記記録開始通知を受信した場合には、前記送受信する画像データを記録中である旨を前記電子黒板UI画面に表示させる、
情報処理装置。
An information processing device that transmits and receives image data to and from another information processing device connected via a network,
receiving means for receiving a recording start notification for starting recording of image data transmitted/received to/from the other information processing apparatus;
display control means for switchably displaying on a display screen a video conference UI screen capable of displaying image data received from the other information processing apparatus and an electronic blackboard UI screen capable of displaying handwritten stroke images; has
The display control means is
when the recording start notification is received while the videoconference UI screen is displayed on the display screen, displaying on the videoconference UI screen that the image data to be transmitted and received is being recorded;
When the recording start notification is received while the electronic blackboard UI screen is displayed on the display screen, displaying on the electronic blackboard UI screen that the image data to be transmitted and received is being recorded;
Information processing equipment.
前記表示制御手段は、前記送受信する画像データを記録中である旨を、前記電子黒板UI画面に重畳させて表示させる、請求項1に記載の情報処理装置。 2. The information processing apparatus according to claim 1, wherein said display control means superimposes a message indicating that said image data to be transmitted and received is being recorded on said electronic blackboard UI screen . 前記表示制御手段は、前記送受信する画像データを記録中である旨を文字又はアイコンにて表示させる請求項1または2に記載の情報処理装置。 3. The information processing apparatus according to claim 1 , wherein said display control means causes characters or icons to indicate that said image data to be transmitted and received is being recorded. 前記表示制御手段は、前記送受信する画像データを記録中である旨を半透明で表示させる請求項1~3のいずれか1項に記載の情報処理装置。 4. The information processing apparatus according to any one of claims 1 to 3, wherein said display control means displays in a translucent manner that said image data to be transmitted and received is being recorded. 前記受信手段は、前記送受信する画像データの記録が行われている際に、該送受信する画像データの記録を終了する記録終了通知をさらに受信し、
前記表示制御手段は、前記ビデオ会議UI画面又は前記電子黒板UI画面に前記送受信する画像データを記録中である旨が表示されている間に、前記受信手段が前記記録終了通知を受信した場合、前記ビデオ会議UI画面又は前記電子黒板UI画面に表示されている、前記送受信する画像データを記録中である旨の表示を、非表示にさせる請求項1~4のいずれか1項に記載の情報処理装置。
The receiving means further receives a recording end notification for ending recording of the transmitted/received image data while the transmitted/received image data is being recorded,
When the display control means receives the recording end notification while the video conference UI screen or the electronic blackboard UI screen is displaying that the image data to be transmitted and received is being recorded, 5. The method according to any one of claims 1 to 4, wherein a display indicating that the image data to be transmitted and received is being recorded, which is displayed on the video conference UI screen or the electronic blackboard UI screen, is hidden. information processing equipment.
前記表示制御手段は、画面を切り替える操作の受け付けに応じて、前記ビデオ会議UI画面と前記電子黒板UI画面とを切り替えて前記表示画面に表示させる、請求項1~5のいずれか1項に記載の情報処理装置。The display control means according to any one of claims 1 to 5, wherein the display control means switches between the video conference UI screen and the electronic blackboard UI screen and displays them on the display screen in response to an operation for switching between screens. information processing equipment. 前記情報処理装置は、前記画像データに加えて音声データを前記他の情報処理装置と送受信する、請求項1~6のいずれか1項に記載の情報処理装置。 7. The information processing apparatus according to any one of claims 1 to 6, wherein said information processing apparatus transmits/receives audio data to/from said other information processing apparatus in addition to said image data. ネットワークを介して接続された他の情報処理装置と画像データを送受信する情報処理装置を、
前記他の情報処理装置と送受信する画像データの記録を開始する記録開始通知を受信する受信手段と、
前記他の情報処理装置から受信した画像データを表示可能なビデオ会議UI画面と、手書きされたストローク画像を表示可能な電子黒板UI画面とを、切り替え可能に表示画面に表示させる表示制御手段、として機能させ、
前記表示制御手段は、
前記ビデオ会議UI画面が前記表示画面に表示されている際に、前記記録開始通知を受信した場合には、前記送受信する画像データを記録中である旨を前記ビデオ会議UI画面に表示させ、
前記電子黒板UI画面が前記表示画面に表示されている際に、前記記録開始通知を受信した場合には、前記送受信する画像データを記録中である旨を前記電子黒板UI画面に表示させる、プログラム。
An information processing device that transmits and receives image data to and from other information processing devices connected via a network,
receiving means for receiving a recording start notification for starting recording of image data transmitted/received to/from the other information processing apparatus;
Display control means for switchably displaying on a display screen a video conference UI screen capable of displaying image data received from the other information processing apparatus and an electronic whiteboard UI screen capable of displaying handwritten stroke images. make it work,
The display control means is
when the recording start notification is received while the videoconference UI screen is displayed on the display screen, displaying on the videoconference UI screen that the image data to be transmitted and received is being recorded;
A program for displaying on the electronic blackboard UI screen that the image data to be transmitted and received is being recorded when the recording start notification is received while the electronic blackboard UI screen is displayed on the display screen. .
前記表示制御手段は、前記送受信する画像データを記録中である旨を、前記電子黒板UI画面に重畳させて表示させる、請求項8に記載のプログラム。 9. The program according to claim 8 , wherein said display control means superimposes a message indicating that said image data to be transmitted and received is being recorded on said electronic whiteboard UI screen . 前記表示制御手段は、前記送受信する画像データを記録中である旨を文字又はアイコンにて表示させる請求項8または9に記載のプログラム。 10. The program according to claim 8 , wherein said display control means displays a message indicating that said image data to be transmitted and received is being recorded by means of characters or an icon. 前記表示制御手段は、前記送受信する画像データを記録中である旨を半透明で表示させる請求項8~10のいずれか1項に記載のプログラム。 11. The program according to any one of claims 8 to 10 , wherein said display control means causes a semi-transparent display to indicate that said transmitted/received image data is being recorded. 前記受信手段は、前記送受信する画像データの記録が行われている際に、該送受信する画像データの記録を終了する記録終了通知をさらに受信し、
前記表示制御手段は、前記ビデオ会議UI画面又は前記電子黒板UI画面に前記送受信する画像データを記録中である旨が表示されている間に、前記受信手段が前記記録終了通知を受信した場合、前記ビデオ会議UI画面又は前記電子黒板UI画面に表示されている、前記送受信する画像データを記録中である旨の表示を、非表示にさせる請求項8~11のいずれか1項に記載のプログラム。
The receiving means further receives a recording end notification for ending recording of the transmitted/received image data while the transmitted/received image data is being recorded,
When the display control means receives the recording end notification while the video conference UI screen or the electronic blackboard UI screen is displaying that the image data to be transmitted and received is being recorded, 12. The method according to any one of claims 8 to 11 , wherein the display indicating that the transmitted and received image data is being recorded, which is displayed on the video conference UI screen or the electronic whiteboard UI screen, is hidden. program.
前記表示制御手段は、画面を切り替える操作の受け付けに応じて、前記ビデオ会議UI画面と前記電子黒板UI画面とを切り替えて前記表示画面に表示させる、請求項8~12のいずれか1項に記載のプログラム。The display control means according to any one of claims 8 to 12, wherein the display control means switches between the video conference UI screen and the electronic blackboard UI screen and displays them on the display screen in response to acceptance of an operation for switching screens. program. 前記情報処理装置は、前記画像データに加えて音声データを前記他の情報処理装置と送受信する、請求項8~13のいずれか1項に記載のプログラム。14. The program according to any one of claims 8 to 13, wherein said information processing device transmits/receives audio data to/from said other information processing device in addition to said image data. ネットワークを介して接続された他の情報処理装置と画像データを送受信する情報処理装置で実行される方法であって、
前記他の情報処理装置から受信した画像データを表示可能なビデオ会議UI画面と、手書きされたストローク画像を表示可能な電子黒板UI画面とを、切り替え可能に表示画面に表示させるステップと、
前記他の情報処理装置と送受信する画像データの記録を開始する記録開始通知を受信するステップと、
前記ビデオ会議UI画面が前記表示画面に表示されている際に、前記記録開始通知を受信した場合には、前記送受信する画像データを記録中である旨を前記ビデオ会議UI画面に表示させ、
前記電子黒板UI画面が前記表示画面に表示されている際に、前記記録開始通知を受信した場合には、前記送受信する画像データを記録中である旨を前記電子黒板UI画面に表示させるステップと、を有する方法。
A method performed by an information processing device that transmits and receives image data to and from another information processing device connected via a network,
a step of switchably displaying on a display screen a video conference UI screen capable of displaying image data received from the other information processing apparatus and an electronic whiteboard UI screen capable of displaying handwritten stroke images;
a step of receiving a recording start notification for starting recording of image data to be transmitted/received to/from the other information processing device;
when the recording start notification is received while the videoconference UI screen is displayed on the display screen, displaying on the videoconference UI screen that the image data to be transmitted and received is being recorded;
When the recording start notification is received while the electronic blackboard UI screen is being displayed on the display screen, displaying on the electronic blackboard UI screen that the image data to be transmitted and received is being recorded. , the method of having
情報処理装置が、ネットワークを介して接続された他の情報処理装置と画像データを送受信するシステムであって、
前記情報処理装置が
前記他の情報処理装置と送受信する画像データの記録を開始する記録開始通知を受信する受信手段と、
前記他の情報処理装置から受信した画像データを表示可能なビデオ会議UI画面と、手書きされたストローク画像を表示可能な電子黒板UI画面とを、切り替え可能に表示画面に表示させる表示制御手段と、を有し、
前記表示制御手段は、
前記ビデオ会議UI画面が前記表示画面に表示されている際に、前記記録開始通知を受信した場合には、前記送受信する画像データを記録中である旨を前記ビデオ会議UI画面に表示させ、
前記電子黒板UI画面が前記表示画面に表示されている際に、前記記録開始通知を受信した場合には、前記送受信する画像データを記録中である旨を前記電子黒板UI画面に表示させる、システム。
A system in which an information processing device transmits and receives image data to and from another information processing device connected via a network,
receiving means for receiving a recording start notification for starting recording of image data transmitted/received by the information processing apparatus to/from the other information processing apparatus;
display control means for switchably displaying on a display screen a video conference UI screen capable of displaying image data received from the other information processing apparatus and an electronic blackboard UI screen capable of displaying handwritten stroke images; has
The display control means is
when the recording start notification is received while the videoconference UI screen is displayed on the display screen, displaying on the videoconference UI screen that the image data to be transmitted and received is being recorded;
When the recording start notification is received while the electronic blackboard UI screen is displayed on the display screen, the system causes the electronic blackboard UI screen to display that the image data to be transmitted and received is being recorded. .
JP2021085494A 2016-05-20 2021-05-20 Information processing device, program, method, system Active JP7196951B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022200069A JP2023026478A (en) 2016-05-20 2022-12-15 Information processing device, program, method, and system

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016101311 2016-05-20
JP2016101311 2016-05-20
JP2020105598A JP6888716B2 (en) 2016-05-20 2020-06-18 Information processing equipment, programs, methods, systems

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2020105598A Division JP6888716B2 (en) 2016-05-20 2020-06-18 Information processing equipment, programs, methods, systems

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022200069A Division JP2023026478A (en) 2016-05-20 2022-12-15 Information processing device, program, method, and system

Publications (2)

Publication Number Publication Date
JP2021122151A JP2021122151A (en) 2021-08-26
JP7196951B2 true JP7196951B2 (en) 2022-12-27

Family

ID=60476240

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2016123948A Active JP6720722B2 (en) 2016-05-20 2016-06-22 Information processing device, transmission system, program
JP2020105598A Active JP6888716B2 (en) 2016-05-20 2020-06-18 Information processing equipment, programs, methods, systems
JP2021085494A Active JP7196951B2 (en) 2016-05-20 2021-05-20 Information processing device, program, method, system
JP2022200069A Pending JP2023026478A (en) 2016-05-20 2022-12-15 Information processing device, program, method, and system

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2016123948A Active JP6720722B2 (en) 2016-05-20 2016-06-22 Information processing device, transmission system, program
JP2020105598A Active JP6888716B2 (en) 2016-05-20 2020-06-18 Information processing equipment, programs, methods, systems

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022200069A Pending JP2023026478A (en) 2016-05-20 2022-12-15 Information processing device, program, method, and system

Country Status (1)

Country Link
JP (4) JP6720722B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7164856B1 (en) 2022-01-21 2022-11-02 17Live株式会社 Server and method

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007267337A (en) 2006-03-30 2007-10-11 Kyocera Corp Communication terminal device, communication control apparatus, and speech recording and reproducing method
JP2008005199A (en) 2006-06-22 2008-01-10 Sony Corp Information processor, method, and program
JP2010529738A (en) 2007-05-31 2010-08-26 イーストマン コダック カンパニー Home video communication system
JP2013077059A (en) 2011-09-29 2013-04-25 Ricoh Co Ltd Dialogue system

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08297624A (en) * 1995-02-28 1996-11-12 Toshiba Corp Electronic conference system
US5619555A (en) * 1995-07-28 1997-04-08 Latitude Communications Graphical computer interface for an audio conferencing system
JP2002344917A (en) * 2001-05-11 2002-11-29 Canotec Kk Two-way communication device, two-way communication method, network server device, information processing system and program
JP2003167856A (en) * 2001-11-30 2003-06-13 Pioneer Electronic Corp Network conference system, authentication method thereof, and terminal for network conference system, authentication system thereof
JP2007003667A (en) * 2005-06-22 2007-01-11 Murata Mach Ltd Image reader
JP2007025946A (en) * 2005-07-14 2007-02-01 Sharp Corp Multi-point electronic conference system and communication terminal
JP2007286711A (en) * 2006-04-13 2007-11-01 Fuji Xerox Co Ltd Information processor and information processing method, and computer program
JP2010081265A (en) * 2008-09-25 2010-04-08 Fuji Xerox Co Ltd Information processing apparatus, remote instruction system, and program
JP2011054039A (en) * 2009-09-03 2011-03-17 Sharp Corp Teleconference system, conference relay device, and computer program
JP6051782B2 (en) * 2012-10-31 2016-12-27 株式会社リコー Communication system and program
US9077850B1 (en) * 2013-01-15 2015-07-07 Google Inc. Recording multi-party video calls
JP2015011630A (en) * 2013-07-01 2015-01-19 株式会社リコー Image processing device and image processing method
CN106233267B (en) * 2014-04-23 2020-02-14 株式会社理光 Access management system, communication system, recording medium, and access management method
JP6484934B2 (en) * 2014-06-10 2019-03-20 株式会社リコー COMMUNICATION DEVICE, COMMUNICATION SYSTEM, COMMUNICATION MANAGEMENT SYSTEM, COMMUNICATION CONTROL METHOD, AND PROGRAM

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007267337A (en) 2006-03-30 2007-10-11 Kyocera Corp Communication terminal device, communication control apparatus, and speech recording and reproducing method
JP2008005199A (en) 2006-06-22 2008-01-10 Sony Corp Information processor, method, and program
JP2010529738A (en) 2007-05-31 2010-08-26 イーストマン コダック カンパニー Home video communication system
JP2013077059A (en) 2011-09-29 2013-04-25 Ricoh Co Ltd Dialogue system

Also Published As

Publication number Publication date
JP2017212712A (en) 2017-11-30
JP2023026478A (en) 2023-02-24
JP2021122151A (en) 2021-08-26
JP6888716B2 (en) 2021-06-16
JP2020171030A (en) 2020-10-15
JP6720722B2 (en) 2020-07-08

Similar Documents

Publication Publication Date Title
JP6343897B2 (en) Transmission terminal, transmission method, and program
JP5962098B2 (en) Transmission terminal, transmission system, display control method, and program
JP6379521B2 (en) Transmission terminal, transmission system, transmission method and program
JP2015097070A (en) Communication system, information processor, and program
JP6171303B2 (en) Transmission terminal, transmission method, and program
US20230066450A1 (en) Communication management system, communication system, communication management device, image processing method, and non-transitory computer-readable medium
JP5942364B2 (en) Transmission management system, transmission system, and program
JP2017046192A (en) Information processing device, program, and information processing method
JP6720513B2 (en) Communication terminal, communication system, communication control method, and program
JP6260201B2 (en) Transmission terminal, transmission method, and program
JP2017142610A (en) Server device, transmission system and program
US10033966B2 (en) Information processing apparatus, communication system, and information processing method
JP6361728B2 (en) Transmission control system, transmission system, transmission control method, and recording medium
JP2015225400A (en) Communication system, transfer control device, communication method, and program
JP6314539B2 (en) Transmission terminal, transmission system, transmission method and program
JP2023026478A (en) Information processing device, program, method, and system
JP5754117B2 (en) External input device, display data creation method, program
JP2019193279A (en) Transmission management system, transmission system, program, program providing system, and maintenance system
JP2016152505A (en) Image management system, communication terminal, communication system, image management method and program
JP6631643B2 (en) Image processing apparatus, image processing system, and image processing method
WO2015151958A1 (en) Transmission terminal, transmission system, and selection method for relay device
JP2023022034A (en) Terminal device, communication system, communication method and program
JP2017027561A (en) Terminal, communication system, communication method, and program
JP6589621B2 (en) Display device, camera position control method, and program
JP7388159B2 (en) Display device, display method

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210618

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210618

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220520

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220628

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220825

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221027

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221128

R151 Written notification of patent or utility model registration

Ref document number: 7196951

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151