JP2005080121A - データ通信システム、データ送信端末およびプログラム - Google Patents

データ通信システム、データ送信端末およびプログラム Download PDF

Info

Publication number
JP2005080121A
JP2005080121A JP2003310632A JP2003310632A JP2005080121A JP 2005080121 A JP2005080121 A JP 2005080121A JP 2003310632 A JP2003310632 A JP 2003310632A JP 2003310632 A JP2003310632 A JP 2003310632A JP 2005080121 A JP2005080121 A JP 2005080121A
Authority
JP
Japan
Prior art keywords
information
generating
control information
sound effect
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003310632A
Other languages
English (en)
Other versions
JP4102928B2 (ja
Inventor
Naohiro Emoto
直博 江本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yamaha Corp
Original Assignee
Yamaha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yamaha Corp filed Critical Yamaha Corp
Priority to JP2003310632A priority Critical patent/JP4102928B2/ja
Publication of JP2005080121A publication Critical patent/JP2005080121A/ja
Application granted granted Critical
Publication of JP4102928B2 publication Critical patent/JP4102928B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

【課題】 送信元の臨場感を伝えることのできるデータ通信システムを提供する。
【解決手段】 本発明のデータ送信端末は、音声情報を生成する音声情報生成手段と、筆記具で描画可能なボードと、ボード表面を移動する筆記具の位置を検出する位置検出手段と、位置検出手段が検出した位置に応じて画像を描画するための画像制御情報を生成する画像描画情報生成手段と、位置検出手段によって検出された位置の変化に基づいて、効果音の制御を指示する効果音制御情報を生成する効果音制御情報生成手段と、音声情報、画像制御情報、および効果音制御情報を送信する送信手段とを有する。
【選択図】 図4

Description

本発明は、遠隔地間での聴講に好適なデータ通信システム、データ送信端末およびプログラムに関する。
遠隔地で行われる講義を聴講する方法として、電子黒板システムを利用した方法が知られている。電子黒板システムは、講義室で黒板(あるいはホワイトボード)上に書かれた文字や図形を電子データとして遠隔地の教室、自宅等に送信するものである。電子データを受信した遠隔地の教室では、送信された電子データに基づいて板書が例えばPDP(Plasma Display Panel)等の表示装置に再現される。受講生は、表示装置に再現された板書を見ながら講義の音声を聴くことにより、遠隔地で行われている講義を聴講することができる。
ここで、講義をリアルタイムで聴講するには、講義の音声と板書の電子データを同期させて送信する必要があった。そのための技術として、例えば特許文献1〜3に記載されている電子黒板システムが提案されている。
特開2002−77858号公報 特開2001−292138号公報 特開平11−338339号公報
しかし、特許文献1に記載の技術では、講義の画像/音声情報はISDN回線を通じて情報管理センタに送信され、講義の聴講者は情報管理センタと情報のやりとりをするため、講義の講師とリアルタイムで質問等のやりとりを行うことができないという問題があった。また、特許文献2および3に記載の技術では、ネットワーク接続をして遠隔会議を行った場合に、黒板(ホワイトボード)に書かれた板書のデータのみを送信するため、字を書いている雰囲気が伝わらず、話者(講師)の熱気が伝わらないという問題があった。
本発明は上記の事情に鑑みてなされたものであり、送信元の臨場感を伝えることのできるデータ通信システム、データ送信端末およびプログラムを提供することを目的とする。
上記の課題を解決するため、本発明は、データ送信端末およびデータ受信端末を有するデータ通信システムにおいて、データ送信端末は、音声を集音し、音声情報を生成する音声情報生成手段と、筆記具で描画可能なボードと、ボード表面を移動する筆記具の位置を検出する位置検出手段と、位置検出手段が検出した位置に応じて画像を描画するための画像制御情報を生成する画像描画情報生成手段と、位置検出手段によって検出された位置の変化に基づいて、効果音の制御を指示する効果音制御情報を生成する効果音制御情報生成手段と、音声情報、画像制御情報、および効果音制御情報を送信する送信手段とを有し、データ受信端末は、音声情報、画像制御情報、および効果音制御情報を受信する受信手段と、受信手段が受信した画像制御情報に基づいて、画像を表示する画像表示手段と、受信手段が受信した効果音制御情報に基づいて効果音を生成する効果音生成手段と、受信手段が受信した音声情報に基づいて音声を出力する音声出力手段とを有することを特徴とするデータ通信システムを提供する。
このデータ通信システムによれば、データ送信端末のパネル上に圧力が加えられた場合に、圧力が加えられた軌跡に対応する画像と、圧力が加えられた軌跡に対応する効果音とを遠隔地のデータ受信端末で再生することができる。
また、本発明は、音声を集音し、音声情報を生成する音声情報生成手段と、筆記具で描画可能なボードと、ボード表面を移動する筆記具の位置を検出する位置検出手段と、位置検出手段が検出した位置に応じて画像を描画するための画像制御情報を生成する画像描画情報生成手段と、位置検出手段によって検出された位置の変化に基づいて、効果音の制御を指示する効果音制御情報を生成する効果音制御情報生成手段と、音声情報、画像制御情報、および効果音制御情報を送信する送信手段とを有するデータ送信端末を提供する。
このデータ送信端末によれば、データ送信端末のパネル上に圧力が加えられた場合に、圧力が加えられた軌跡に対応する画像と、圧力が加えられた軌跡に対応する効果音の情報を送信できる。
ここで、データ送信端末は、筆記具によりボードに加えられる圧力を示す圧力情報を生成する圧力情報生成手段をさらに有し、効果音生成手段は、位置検出手段によって検出された位置の変化および圧力情報に基づいて効果音制御情報を生成してもよい。
また、データ送信端末において、音声情報は、VoIPプロトコルに基づいて送信されてもよい。
さらに、本発明は、筆記具で描画可能なボードを有するコンピュータに、音声を集音し、音声情報を生成する音声情報生成処理と、ボード表面を移動する筆記具の位置を検出する位置検出処理と、位置検出処理が検出した位置に応じて画像を描画するための画像制御情報を生成する画像描画情報生成処理と、位置検出処理によって検出された位置の変化に基づいて、効果音の制御を指示する効果音制御情報を生成する効果音制御情報生成処理と、音声情報、画像制御情報、および効果音制御情報を送信する送信処理とを実行させるプログラムを提供する。
本発明によれば、データ送信端末のパネル上に圧力が加えられた場合に、圧力が加えられた軌跡に対応する画像と、圧力が加えられた軌跡に対応する効果音とを遠隔地のデータ受信端末で再生することができるため、遠隔地の者に送信元の臨場感を伝えることができる。
以下、図面を参照しながら本発明の実施形態について説明する。
[1 電子黒板システムの構成]
[1−1 システムの全体構成]
まず、本実施形態における電子黒板システム1の全体構成について説明する。図1は本実施形態における電子黒板システム1の構成を示すブロック図である。図1に示されるように、本実施形態における電子黒板システム1は、A大学10に設けられた装置、B大学20に設けられた装置、およびSIPサーバ40から構成される。各装置は、インターネット50を介して相互に接続されている。なお、各装置を接続する通信網はインターネットに限られず、専用線、無線通信網などIP(Internet Protocol)通信可能な他の通信網であってもよい。
本実施形態において、A大学10は、講義を行う送信元の講義室10Aおよび講義室10Aとは別の部屋である研究室10Bを有する。講義室10Aには、電子黒板100が設置されている。講義室10Aには講師がおり、講師は電子黒板100を使用して講義を行う。電子黒板100は、学内LAN(Local Area Network)11、ルータ14を介してインターネット50に接続されており、講師は、講義をインターネット50を介して他の教室等に配信可能である。
講義室10Aには、学内LAN11にパーソナルコンピュータ(以下PCと略称する)を接続するための接続ポート(図示略)が設置されている。接続ポートは、講義室10Aの各座席に1つずつ設置されている。講義室10Aには複数の学生がおり、学生は、接続ポートが設置してある座席に着席して講義を受講する。学生は、各自のPC12を接続ポートを介して学内LAN11に接続することができる。後述するように、学生はPC12を用いて、テキストあるいは音声により講師に質問をすることができる。本実施形態においては、講義室10A内にいる学生Aが自分のPC12を学内LAN11に接続している。
また、A大学10において、学内LAN11にはIP電話機13が接続されている。IP電話機13は、講義室10Aとは別の部屋である研究室10Bに設置されている。研究室10Bには学生Bがおり、後述するように学生BはIP電話機13を使用して講義室10Aで行われている講義の様子を知ることができる。
B大学20は、A大学とは別の大学である。B大学20の教室には、電子黒板100Bが設置されている。電子黒板100Bは装置構成自体は電子黒板100と同一である。A大学に設置されている電子黒板とB大学に設置されている電子黒板を区別するため、B大学に設置されている電子黒板およびその構成要素には、参照番号の末尾にBをつけて区別するものとする。電子黒板100Bはルータ24を介してインターネット50に接続されており、A大学10から配信される講義のデータを受信することができる。B大学20の教室には複数の学生がおり、電子黒板100Bに表示される板書および電子黒板100Bから出力される講義の音声を見たり聴いたりすることにより講義を受講できる。また、学生は、電子黒板100Bを介してA大学10の講義室10Aにいる講師に質問をすることができる。
本実施形態においては、A大学10およびB大学20はインターネット50を介してSIPプロトコルに準拠したVoIP(Voice over Internet Protocol)通信を行う。ここで、SIP(Session Initiation Protocol)とは、IPネットワーク上でマルチメディアセッションを開始/変更/終了するためのアプリケーション層のシグナリングプロトコルである。SIP自体は、「セッションの開始/変更/終了」といった基本的な機能のみしか提供せず、音声通話などマルチメディアデータの取り扱いは、従来用いられてきたRTP(Real Time Protocol)などを使用する。SIPは、HTTP(HyperText Transfer Protocol)ライクに開発されたテキストベースのプロトコルであり、シンプルで処理が軽く、インターネットとの親和性に優れているという特徴を有し、本実施形態における電子黒板システム1のアプリケーション層のプロトコルとして好適である。
SIPサーバ40は、SIPプロトコルに準拠したVoIP通信を提供するためのサーバである。図2に示されるように、SIPサーバ40は、電話番号登録処理部41、SIPプロトコル解釈部42、電話番号−IPアドレスデータベース43、システム統括部44を有する。本実施形態においては、各端末はあらかじめSIPサーバ40に登録されている。登録は例えば以下のように行われる。各端末は、自らのIPアドレスと電話番号と共に登録要求をSIPサーバ40に送信する。SIPサーバ40は、電話番号登録処理部41において端末の登録処理を行う。電話番号登録処理部41は、登録要求と共に送信された電話番号およびIPアドレスを読み出し、これらを対応付けて電話番号−IPアドレスデータベース43に登録する。電話番号−IPアドレスデータベース43には、このようにして電話番号とIPアドレスの組が複数登録されている。SIPプロトコル解釈部42は、SIPプロトコルに準拠したパケットのヘッダを解釈する機能を有する。システム統括部44は、以上の構成要素を統括する機能を有する。
本実施形態において、A大学10の電子黒板100およびB大学20の電子黒板100BにはVoIP通信の通信回線の確立を行うための電話番号があらかじめ割り当てられている。それぞれの番号の意味は後述するが、電子黒板100には、講義用、質問用、モニタ用の3種類の電話番号が割り当てられている。
[1−2 電子黒板の構成]
図3は電子黒板100の外観図であり、図4は電子黒板100の構成を示すブロック図である。表示制御部102は、PDP101を駆動するための装置であり、表示する画像に関するデータあるいは信号を中央制御部110との間で送受信する。PDP101の表面には、タッチパネル103が設置されている。使用者が、例えばスタイラスペンを用いてタッチパネル103に触れると、後述する方法によりタッチパネル103のタッチパネル制御部104は触れられた位置の座標および触れた圧力を算出する。中央制御部110は、例えばその位置の直下のPDP101の画素の色を変化させることによりPDP101上に接触位置の軌跡を描くことができる。なお、表示装置はPDPに限られず、LCD、LEDディスプレイ、あるいはブラウン管ディスプレイなど他の表示装置を用いてもよい。
本実施形態において、タッチパネル103は、周知の抵抗膜方式タッチパネルである。タッチパネル103は、タッチパネル制御部104を有する。タッチパネル制御部104は、使用者がタッチした位置のxy座標を算出したり、タッチした圧力を算出したり、算出したデータを中央制御部110に送信したりする機能を有する。なお、タッチパネル103は抵抗膜方式タッチパネルに限られず、赤外線方式、アナログ容量結合方式、超音波表面弾性波方式など他の方式のタッチパネルでもよい。
また本実施形態において、タッチパネル103の周辺部には、複数の歪ゲージが密に配置されている。タッチパネル制御部104は、算出したx座標に最も近い位置に位置する歪ゲージ(上下1つずつ計2つ)から、弾性体フィルムのy軸方向の変位を算出する。同様に、算出したy座標に最も近い位置に位置する歪ゲージ(左右1つずつ計2つ)から、弾性体フィルムのx軸方向の変位を算出する。タッチパネル制御部104は、弾性体フィルムの変位の値と、その変位を引き起こす圧力値とが対応付けられている変位−圧力テーブルをあらかじめ記憶している。タッチパネル制御部104は、変位−圧力テーブルから、算出された変位に最も近い変位の値と対応付けられている圧力値を算出し、タッチした圧力とする。タッチパネル制御部104は算出した圧力を中央制御部110に送信する。
なお、圧力を算出する方法は上記の方法に限られず、あらかじめ変位と圧力の関係を示す関数を求めておき、その関数に変位を入力して圧力値を求める方法でもよい。あるいは、タッチパネル103に圧力を計測する手段を設けず、スタイラスペンに圧力センサを設け、無線または有線で中央制御部110に送信してもよい。
マイク105は、音声を集音し、音声信号に変換する。音声信号は音声CODEC(COder DECoder)107に送信され、音声データに変換される。音声データは音声データ生成部108を介して中央制御部110に送信され、VoIPプロトコル制御部111/ネットワークプロトコル制御部112を介してネットワークに送信される。音声データ生成部108は、中央制御部110から送信されるデータに基づいて音声データを生成することができる。音声データ生成部108は生成した音声データを音声CODEC107に送信する。音声CODEC107は、音声データを音声信号に変換し、スピーカ106を介して音声として出力する。
テンキー113は、使用者が主として電話番号の操作入力を行うための装置である。テンキー113は使用者の操作入力に応じた信号を中央制御部110に出力する。
効果音発生部109は、中央制御部110から送信される、効果音の生成を指示するデータに基づいて効果音データを生成し、音声データ生成部108に送信する。効果音発生部109は、効果音の生成のために、後述する波形データベース、圧力−音量テーブル、および速度−音程テーブルを記憶している。音声データ生成部108は、効果音データおよび音声データを重ね合わせ、1つの音声データとして音声CODEC107に送信する。スピーカ106からは、音声および効果音が重ね合わせられて出力される。
図5は、VoIPプロトコル制御部111/ネットワークプロトコル制御部112におけるVoIPソフトウェアモジュールの構成を示すブロック図である。図5に示されるように、VoIPソフトウェアモジュールは、IPv4およびICMP(Internet Control Message Protocol)v4並びにIPv6およびICMPv6のデュアルスタックからなる、ネットワーク層のプロトコルであるIPと、トランスポート層のプロトコルであるTCP(Transmission Control Protocol)およびUDP(User Datagram Protocol)と、アプリケーション層以上のHTTPD、DNS(Domain Name System)、DHCP(Dynamic Host Configuration Protocol)v4、Neighbor Discovery(v6)、TFTP(Trivial File Transfer Protocol)、NTP(Network Time Protocol)と、VoIPモジュールであるSIPスタックおよびRTP/RTCPと、ユーザアプリケーションからなる。
中央制御部110は、CPU(Central Processing Unit)、メモリ、外部記憶装置を有するコンピュータ装置であり、以上の各構成要素との間でデータをやりとりし、各種制御および演算処理を行う機能を有する。
[2 電子黒板システムの動作]
以下、本実施形態における電子黒板システム1の動作について説明する。最初に、遠隔地でA大学の講義室10Aの講義を受講しようとするB大学の教室の電子黒板100BとA大学の電子黒板100の間で通信回線を確立する動作について図6を参照しながら説明する。
まず、B大学の教室にいる誰かが、電子黒板100Bのテンキー113Bを操作し、講義室10Aの講義用の電話番号を入力する。あるいは、電子黒板100Bが、講義の開始/終了時間と、講義の送信元を対応付けた時間割テーブルを記憶していて、講義の開始時刻になると自動的に講義の送信元の電話番号が入力される構成としてもよい。電話番号が入力されると、電子黒板100Bの中央制御部110Bは、テンキー113Bから入力された電話番号を含むINVITE要求を生成し、SIPサーバ40に送信する。
INVITE要求を受信したSIPサーバ40は、電話番号−IPアドレスデータベース43内を検索し、そのINVITE要求と共に送信された電話番号に対応付けられたIPアドレスを抽出する。本実施形態においては、講義室10Aの講義用の電話番号に対応付けられた講義室10AのIPアドレスを抽出する。SIPサーバ40は、抽出した講義室10AのIPアドレスで特定されるノードにINVITE要求を転送する。
INVITE要求を受信した講義室10Aの電子黒板100は、PDP101にB大学から接続要求がある旨を示すポップアップウインドウ等を表示し、その状態を示すステータスRingingをSIPサーバ40を介して電子黒板100Bに送信する。なお、接続要求の通知方法はポップアップウインドウの表示に限られず、スピーカ106から呼び出し音を鳴らすなど他の方法を用いてもよい。
B大学からの接続要求に気付いたA大学の講師が電子黒板100上のOFFHOOKボタンを押し接続要求に応じると、その旨を示すステータスOKが電子黒板100のIPアドレスと共に電子黒板100Bに対して送信される。ステータスOKを受信した電子黒板100Bは、ステータスACKをSIPサーバ40を介して電子黒板100に送信する。以上の手順で、電子黒板100と電子黒板100Bとの間に通信回線が確立される。電子黒板100はINVITE要求のヘッダから、要求元がB大学の黒板100Bであると認識し、音声データおよび板書の板書データ(画像データ)を送受信するモードに切り替わる。前述のように、SIPサーバ40は通信回線の確立のみに関与し、音声データおよび板書データの送受信には関与せず、音声データおよび板書データの送受信にはRTPプロトコルが使用される。すなわち、音声データおよび板書データはSIPサーバ40を介さず電子黒板100と電子黒板100Bとの間で送受信される。
[2−1 電子黒板の各種動作]
次に、電子黒板100の動作について説明する。本実施形態における電子黒板100は、(1)ネットワークを介して音声通信を行う機能と、(2)ネットワークを介して板書の通信を行う機能と、(3)板書に同期して筆跡音を発生させる機能とを有する。
(1) 音声の通信
次に、音声データの送受信について説明する。A大学の講師の話した音声は、電子黒板100のマイク105で集音され、音声信号として音声CODEC107に送信される。音声CODEC107は、例えば8kbpsのPCM(Pulse Code Modulation)方式を使用して音声信号を符号化し音声データとする。なお、符号化の帯域は8kbpsに限られず、64kbps、6.3kbps等他の帯域でもよい。音声データは音声データ生成部108を介して中央制御部110に送信される。中央制御部110はメモリに音声データを保存し、例えば20m秒分の音声データが貯まると、その20m秒分の音声データを含むパケット(以下、音声パケットという)を生成し、VoIPプロトコル制御部111/ネットワークプロトコル制御部112を介してネットワークに送信する。
音声パケットは、VoIPプロトコル制御部111/ネットワークプロトコル制御部112において、RTPヘッダ、UDPヘッダ、IPヘッダ等が付加されて送出される。音声パケットの送受信にはリアルタイム性が要求されるため、Webアクセスや電子メールの送受信で用いるTCPではなく、UDPを用いる。UDPを使ってパケットを送る場合でも、パケットを再生するタイミングを制御する必要がある。そのために、RTPヘッダには、タイムスタンプ情報が記録され、データをどのタイミングで再生すべきかを受信端末に伝えるようにしている。
音声パケットを受信した電子黒板100Bは、音声パケットのRTPヘッダに付加されたタイムスタンプ情報を元に適切な順番で音声データを中央制御部110のメモリに記憶する。中央制御部110は、メモリから音声データを読み出し、読み出した音声データを、タイムスタンプ情報に基づくタイミングで音声データ生成部108を介して音声CODEC107に送信する。音声CODEC107は、音声データを音声信号に復号化し、スピーカ106Bに出力する。スピーカ106Bは、入力された音声信号を音声として出力する。こうして、B大学の教室にいる学生はA大学における講義の音声を聴くことができる。
(2) 板書の通信
次に、電子黒板100上に描かれた画像の送受信について説明する。前述のように、PDP101の表面には、タッチパネル103が設置されている。講師がスタイラスペン等を用いてタッチパネル103に触れると、前述のようにタッチパネル制御部104は講師が触れた位置を示す位置情報であるxy座標データおよびタッチの圧力を中央制御部110に出力する。中央制御部110は、そのxy座標に対応する画素の色を変化させる旨を指令する描画データを画像制御情報として表示制御部102に出力する。
描画データを受信した表示制御部102は、PDP101上のそのxy座標に対応する画素の色を変化させる。例えば、未入力状態では白だった画素を黒に変化させる。これにより、講師がタッチパネル103上をなぞった通りの軌跡がPDP101上に表示される。すなわち、講師は、従来の黒板とチョークによる板書と同様に、電子黒板100に板書をすることができる。なお、電子黒板に字/図形を書くモードと書いた字/図形を消すモード(黒板消しモード)とを切りかえるスイッチ等の手段を設け、黒板消しモードでは、PDP101に表示された画像を消すようにしてもよい。
中央制御部110は、描画データを表示制御部102に送信すると同時に、電子黒板100Bにも送信する。すなわち、中央制御部110は、その描画データを含むパケット(以下、描画パケットという)を生成し、VoIPプロトコル制御部111/ネットワークプロトコル制御部112を介してネットワークに送信する。描画パケットは、音声パケットと同様に、VoIPプロトコル制御部111/ネットワークプロトコル制御部112において、RTPヘッダ、UDPヘッダ、IPヘッダ等が付加されて送出される。
描画パケットを受信した電子黒板100Bは、描画パケットのRTPヘッダに付加されたタイムスタンプ情報を元に適切な順番で音声データを中央制御部110のメモリに記憶する。中央制御部110は、メモリから描画データを読み出し、読み出した音声データを音声データ生成部108を介して音声CODEC107にタイムスタンプ情報に基づいたタイミングで送信する。音声CODEC107は、音声データを音声信号に復号化し、スピーカ106Bに出力する。スピーカ106Bは、入力された音声信号を音声として出力する。描画データを受信した表示制御部102Bは、PDP101B上のそのxy座標に対応する画素の色を変化させる。すなわち、A大学の講義室10Aに設置された電子黒板100上に描かれた板書が、B大学の教室の電子黒板100Bで再現される。B大学の学生は、電子黒板100Bの板書を見ながら講義を聴くことができる。
なお、以上の説明では、xy座標および圧力データを画像の描画を指示する描画データに変換してから画像制御情報として送信する態様について説明したが、xy座標の位置情報をそのまま画像制御情報として送信し、それを受信した電子黒板100Bが位置情報に基づいて描画を行ってもよい。あるいは、描画データに基づいて表示された画像のビットマップデータを送信してもよい。
(3) 筆跡音の発生
次に、筆跡音の発生動作について説明する。筆跡音は、大きくアタック音と摩擦音に分けられる。ここで、アタック音とは、従来の黒板とチョークで言うと、チョークが黒板に触れた瞬間の「トン」という音を指す。本実施形態においては、スタイラスペンをタッチパネル103に触れた瞬間にこのアタック音を発生させる。一方、摩擦音とは、チョークで黒板に線を描くときの「キュー」という音を指す。本実施形態においては、タッチパネル103に触れているスタイラスペンを触れたまま移動するときにこの摩擦音を発生させる。
まず、アタック音の発生動作について説明する。電子黒板100の中央制御部110は、タッチパネル103のタッチパネル制御部104がxy座標を出力しているかを監視している。あらかじめ決められた時間以上xy座標が出力されない場合(すなわち、一定時間の間タッチパネル103が触れられない場合)、中央制御部110は、電子黒板100が非板書状態にあると判断する。一方、xy座標が出力されている場合は、板書状態にあると判断する。非板書状態から板書状態に移行した瞬間、すなわち、講師がスタイラスペンをタッチパネル103に触れた瞬間、中央制御部110は、効果音発生部109に対し、タッチの圧力値データを送信すると共にアタック音の生成を指示する。
アタック音の生成を指示された効果音発生部109は、効果音の生成を指示する楽音制御情報であるMIDI(Musical Instrument Digital Interface)データを生成する。具体的には、発生させる音の長さ、音程を指定するノートオン、ノートオフメッセージと、「トン」というアタック音の音色を指定するプログラムチェンジメッセージと、タッチの圧力値に基づいて決定される音量を指定するコントロールメッセージとを含むMIDIデータを生成する。生成されたMIDIデータは、音声データ生成部108に送信される。MIDIデータを受信した音声データ生成部108は、自身の保有する波形データベースから、MIDIデータで指定されたアタック音の波形を抽出し、MIDIデータで指定された長さ、音程となるように加工されたアタック音の音声データを生成する。生成されたアタック音の音声データは、音声CODEC107に送信される。音声CODEC107は音声データを音声信号に変換し、スピーカ106に出力する。スピーカ106は音声信号を音声として出力する。すなわち、講師がタッチパネル103に触れた動作と同期してスピーカ106から「トン」というアタック音が出力される。なお、楽音制御データはMIDIデータに限られず、他の規格によるデータでもよい。
効果音発生部109は、生成したアタック音のMIDIデータを、中央制御部110にも送信する。中央制御部110は、前述の音声データや描画データと同様にMIDIデータをパケット化し(以下、MIDIパケットという)、ネットワークに送信する。MIDIパケットは、VoIPプロトコル制御部111/ネットワークプロトコル制御部112において、RTPヘッダ、UDPヘッダ、IPヘッダ等が付加されて送出される。
MIDIパケットを受信したB大学の電子黒板100Bは、前述の音声パケットや描画パケットの場合と同様に、MIDIパケットからMIDIデータを復元する。MIDIデータは音声データ生成部108Bに送信され、以下電子黒板100で説明したのと同様に、スピーカ106Bから「トン」というアタック音が出力される。
続いて、摩擦音の発生動作について説明する。電子黒板100が板書状態にあると判断された場合、中央制御部110は、例えば20m秒という所定の時間の経過前後のxy座標から、スタイラスペンのペン先の移動速度を算出する。中央制御部110はさらに、20m秒の平均のペン先圧力を算出する。中央制御部110は、このペン先の移動速度と圧力とをパラメータとして摩擦音を生成するよう効果音発生部109に指令する。
効果音発生部109は、ペン先の圧力と摩擦音の音量を対応付けた圧力−音量テーブルと、ペン先の速度と摩擦音の音程を対応付けた速度−音程テーブルとをあらかじめ記憶している。効果音発生部109は、パラメータとして与えられた圧力値に最も近い圧力値を圧力−音量テーブルから探し、その圧力値に対応付けられている音量を生成する摩擦音の音量とする。また、効果音発生部109は、パラメータとして与えられた速度に最も近い音程を速度−音程テーブルから抽出し、摩擦音の音程とする。効果音発生部109は、その音程の音を20m秒発生させるノートオン、ノートオフメッセージと、摩擦音の音色を示すプログラムチェンジメッセージと、摩擦音の音量を示すコントロールチェンジメッセージとを含むMIDIデータを生成する。生成されたMIDIデータは、音声データ生成部108に送信される。MIDIデータを受信した音声データ生成部108は、自身の保有する波形データベースから、MIDIデータで指定された摩擦音の波形を抽出し、MIDIデータで指定された長さ、音程となるように加工されたアタック音の音声データを生成する。以下、アタック音の場合と同様に、摩擦音はスピーカ106から出力される。
以上で説明した板書および筆跡音の発生動作により、講師がタッチパネル103上でスタイラスペンを動かす動作と同期して、電子黒板100のPDP101には図形や文字(板書)が表示され、また同時にスピーカ106からは板書に同期して「トン、キュッ、キュッ」という筆跡音が再生される。一方B大学においては、電子黒板100BのPDP101にはA大学の電子黒板100の板書が再現され、スピーカ106Bからは板書と同期して筆跡音および講師の講義音声が再生される。これによりB大学においても、臨場感のある講義を聴くことが可能となる。
(4) 受講側黒板からの板書の追加動作
B大学の電子黒板100BはA大学の講義を受講する受講側の電子黒板であるが、講義の送信元の電子黒板100と同じ機能を有している。したがって、電子黒板100Bのマイク105Bを介して音声で質問をしたり、タッチパネル103Bを利用して板書を追加することができる。すなわち、A大学の講師は、B大学の学生を指名して問題に音声で答えさせたり、電子黒板100に書いた数学の問題を電子黒板100B上に解答を書かせることにより答えさせることができる。音声および板書を送受信する方法は、電子黒板100の場合と同様である。
なお、以上の説明では、筆跡音をMIDIデータとしてB大学の電子黒板100Bに送信する態様について述べたが、電子黒板100で生成した筆跡音データ(PCMデータ)を電子黒板100Bに送信する態様としてもよい。この場合、筆跡音データを受信した電子黒板100Bは、講義の音声データの再生と同様に筆跡音を再生する。あるいは、電子黒板100はxy座標および圧力値をデータとして電子黒板100Bに送信し、電子黒板100Bがxy座標および圧力値のデータを基に筆跡音を生成してもよい。
[2−2 質問動作]
前述のように、A大学の講義室10Aにいる学生Aは、自らの所有するPC12を学内LAN11に接続している。学生Aは、講義に解らないことがある場合、手を挙げて質問をすればよいのであるが、これを行うと講義を中断してしまうためついつい質問を躊躇してしまう。しかしながら、本実施形態においては、学生Aは、以下の方法によりPC12から学内LAN11を介して質問をする。
学生Aは、PC12にあらかじめインストールされているインスタントメッセージングソフトを起動する。PC12は、SIPプロトコルに準拠したVoIP通信が可能なコンピュータである。学生Aは、インスタントメッセージングソフトに電子黒板100の質問用電話番号を入力し、電子黒板100とPC12との間で通信回線を確立する。通信回線を確立する動作は、前述の電子黒板100と電子黒板100Bとの間の通信回線の確立動作とほぼ同様である。ただし、質問用電話番号に電話した場合は、講師に接続要求があった旨を通知する動作は行われず、自動応答で質問をしてきた端末と接続する。通信回線が確立されたのを確認した後、学生Aは、インスタントメッセージングソフトに質問を入力する。PC12は、質問のテキストデータに対応するパケット(以下、テキストパケットという)を生成し、電子黒板100に送信する。
中央制御部110は、質問用の通信回線を介してテキストパケットを受信しテキストデータを得ると、質問がある旨を通知するメッセージをPDP101に表示させる。講義が一段落したところで、講師はそのメッセージに気付き、メッセージが表示されている部分にタッチする。メッセージはPDP101上の所定の位置に表示され、メッセージ表示中はその旨を示す信号がタッチパネル制御部104に出力される。メッセージ表示中に、タッチパネル103上でPDP101のメッセージ表示位置に対応する領域に属するxy座標が出力されると、中央制御部110は、テキストデータで示される文字を表示するようにPDP101に指令する。こうしてPDP101には、学生AがPC12から入力した質問が文字として表示される。質問のテキストデータは電子黒板100からB大学の電子黒板100Bにも送信され、質問は電子黒板100Bにも表示される。
A大学の講師は、こうして表示された質問を読み上げ、この質問に回答する。こうしてA大学およびB大学で講義を受けている学生は、質問の内容を確実に共有でき、また、それに対する回答もリアルタイムに聴くことができる。
なお、以上ではテキスト入力により質問をする態様について説明したが、学生AはPC12を介して音声により質問をすることもできる。この場合、学生Aは通信回線が確立された後、PC12に備えられているマイクを介して音声で質問をする。質問の音声は講義の音声と同様の方法でスピーカ106から再生される。すなわち、A大学およびB大学の学生はともに質問の音声を聴くことができる。これにより、例えば講義室10Aが数百人の学生を収容する大教室であって、学生Aが後方の席に座っている場合でも、学生Aは質問を行うことができる。
[2−3 呼び出し音による講義室のモニタ動作]
本発明の電子黒板システムは、IP電話の呼び出し音(Ring Back Tone、以下RBTという)によって、講義室の様子をモニタする機能を提供する。前述のように、講義室10Aとは別の部屋である研究室10Bには、IP電話機13が設置されており、IP電話機13は、学内LAN11に接続されている。講義室10Aでは既に講義が始まっているが、学生Bはまだ研究室10Bにいるとする。
図7は、講義の音声をRBTとして送信する手順を説明するフローである。学生Bは、IP電話機13のプッシュボタンを操作し、電子黒板100のモニタ用電話番号を入力する。IP電話機13は、SIPサーバ40に対し電子黒板100のモニタ用電話番号を含むINVITE要求を送信する。SIPサーバ40は、自身の保有する電話番号−IPアドレスデータベース43から受信したモニタ用電話番号に対応するIPアドレスを抽出する。SIPサーバ40は、抽出した電子黒板100のIPアドレスで特定されるノードにINVITE要求を転送する。
モニタ用電話番号を含むINVITE要求を受信した電子黒板100は、呼び出し中を示すステータスRingingをSIPサーバ40に送信する。SIPサーバ40は、受信したステータスRingingをIP電話機13に転送する。通常ステータスRingingを受信したIP電話機13は「プルルルル…」というRBTを鳴らすが、INVITE要求の宛先が電子黒板100の場合には、「プルルルル…」というRBTは鳴らさないようになっている。電子黒板100は、ステータスRingingをSIPサーバ40に送信すると同時に、INVITE要求からそのINVITE要求の送信元を特定し、講義の音声パケットをINVITE要求の送信元であるIP電話機13に送信する。講義の音声パケットを受信したIP電話機13は、通常のRBTに代えて、講義の音声パケットから再生される講義の音声をRBTとしてスピーカから出力する。
以上のようにしてIP電話機13からRBTとして出力される講義の音声を聴くことにより、学生Bは研究室10Bにいながら講義の様子を知ることができる。例えば研究室10Bでの実験が長引き講義の開始に間に合わなかった場合でも、まだ講義が重要な部分まで進んでいないことを知ることができ、学生Bは途中からでも講義に出席する判断をすることができる。
[3 変形]
前述の実施形態においては、電子黒板100と電子黒板100Bとの2つの装置間で音声+板書データの通信を行う態様について説明したが、電子黒板100と、複数の装置との間で通信回線を確立し、複数の装置で講義を受信するようにしてもよい。例えば学内LAN11に接続しているPC12で板書データを受信するようにしてもよい。このような態様によれば、板書データをPC12に保存することができるので学生はノートをとる必要がなくなる。また、自宅等のPC等からインターネット50を介して電子黒板100に接続し、自宅等で講義の音声+板書データを受信するようにしてもよい。このような態様によれば、学生は大学まで行かなくても講義を受講することができる。
また、電子黒板100に代えて、いわゆるホワイトボードを使用し、このホワイトボードにマーカーペン等で直接筆記するように構成してもよい。この場合においては、マーカーペン等の筆記具の軌跡を検出する装置をタッチパネル機構の代わりに設ければよい。
本発明の実施形態における電子黒板システムの構成を示す図である。 同実施形態におけるSIPサーバの構成を示すブロック図である。 同実施形態における電子黒板の外観図である。 同実施形態における電子黒板の構成を示すブロック図である。 同実施形態における電子黒板のVoIPプロトコル制御部/ネットワークプロトコル制御部におけるVoIPソフトウェアモジュールの構成を示すブロック図である。 同実施形態における電子黒板と講義用の通信回線を確立する手順を示すフロー図である。 同実施形態における電子黒板が講義の音声をRBTとして送信する手順を示すフロー図である。
符号の説明
1…電子黒板システム、10…A大学、11…学内LAN、12…PC、13…IP電話機、20…B大学、40…SIPサーバ、50…インターネット、100…電子黒板、101…PDP、103…タッチパネル、105…マイク、106…スピーカ、108…音声データ生成部、109…効果音発生部、110…中央制御部、113…テンキー

Claims (5)

  1. データ送信端末およびデータ受信端末を有するデータ通信システムにおいて、
    前記データ送信端末は、
    音声を集音し、音声情報を生成する音声情報生成手段と、
    筆記具で描画可能なボードと、
    前記ボード表面を移動する前記筆記具の位置を検出する位置検出手段と、
    前記位置検出手段が検出した位置に応じて画像を描画するための画像制御情報を生成する画像描画情報生成手段と、
    前記位置検出手段によって検出された位置の変化に基づいて、効果音の制御を指示する効果音制御情報を生成する効果音制御情報生成手段と、
    前記音声情報、前記画像制御情報、および前記効果音制御情報を送信する送信手段と
    を有し、
    前記データ受信端末は、
    前記音声情報、前記画像制御情報、および前記効果音制御情報を受信する受信手段と、
    前記受信手段が受信した画像制御情報に基づいて、画像を表示する画像表示手段と、
    前記受信手段が受信した効果音制御情報に基づいて効果音を生成する効果音生成手段と、
    前記受信手段が受信した音声情報に基づいて音声を出力する音声出力手段と
    を有する
    ことを特徴とするデータ通信システム。
  2. 音声を集音し、音声情報を生成する音声情報生成手段と、
    筆記具で描画可能なボードと、
    前記ボード表面を移動する前記筆記具の位置を検出する位置検出手段と、
    前記位置検出手段が検出した位置に応じて画像を描画するための画像制御情報を生成する画像描画情報生成手段と、
    前記位置検出手段によって検出された位置の変化に基づいて、効果音の制御を指示する効果音制御情報を生成する効果音制御情報生成手段と、
    前記音声情報、前記画像制御情報、および前記効果音制御情報を送信する送信手段と
    を有するデータ送信端末。
  3. 前記筆記具により前記ボードに加えられる圧力を示す圧力情報を生成する圧力情報生成手段をさらに有し、
    前記効果音生成手段は、前記位置検出手段によって検出された位置の変化および前記圧力情報に基づいて前記効果音制御情報を生成する
    ことを特徴とする請求項2に記載のデータ送信端末。
  4. 前記音声情報は、VoIPプロトコルに基づいて送信されることを特徴とする請求項2または3のいずれかに記載のデータ送信端末。
  5. 筆記具で描画可能なボードを有するコンピュータに、
    音声を集音し、音声情報を生成する音声情報生成処理と、
    前記ボード表面を移動する前記筆記具の位置を検出する位置検出処理と、
    前記位置検出処理が検出した位置に応じて画像を描画するための画像制御情報を生成する画像描画情報生成処理と、
    前記位置検出処理によって検出された位置の変化に基づいて、効果音の制御を指示する効果音制御情報を生成する効果音制御情報生成処理と、
    前記音声情報、前記画像制御情報、および前記効果音制御情報を送信する送信処理と
    を実行させるプログラム。
JP2003310632A 2003-09-02 2003-09-02 データ通信システム、データ送信端末およびプログラム Expired - Fee Related JP4102928B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003310632A JP4102928B2 (ja) 2003-09-02 2003-09-02 データ通信システム、データ送信端末およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003310632A JP4102928B2 (ja) 2003-09-02 2003-09-02 データ通信システム、データ送信端末およびプログラム

Publications (2)

Publication Number Publication Date
JP2005080121A true JP2005080121A (ja) 2005-03-24
JP4102928B2 JP4102928B2 (ja) 2008-06-18

Family

ID=34412449

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003310632A Expired - Fee Related JP4102928B2 (ja) 2003-09-02 2003-09-02 データ通信システム、データ送信端末およびプログラム

Country Status (1)

Country Link
JP (1) JP4102928B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008211400A (ja) * 2007-02-23 2008-09-11 Nec Corp 定型メッセージ機能付きPoCシステム、通信方法、通信プログラム、端末、PoCサーバ
WO2013057907A1 (ja) * 2011-10-17 2013-04-25 Necカシオモバイルコミュニケーションズ株式会社 入力装置、表示処理方法及び表示処理プログラムが格納された記憶媒体
JP2013176087A (ja) * 2007-06-28 2013-09-05 Voxer Ip Llc マルチメディア通信方法
WO2014048064A1 (zh) * 2012-09-29 2014-04-03 Li Keqiang 电子教学系统
CN104616544A (zh) * 2015-03-12 2015-05-13 马盼盼 一种智能教学系统
CN105118342A (zh) * 2015-09-09 2015-12-02 唐敏君 一种农村数学教学系统及其方法
WO2018155234A1 (ja) * 2017-02-24 2018-08-30 ソニー株式会社 制御装置、制御方法、プログラム、および投影システム
JP2020091780A (ja) * 2018-12-07 2020-06-11 シャープ株式会社 筆記入力装置及び筆記入力システム

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008211400A (ja) * 2007-02-23 2008-09-11 Nec Corp 定型メッセージ機能付きPoCシステム、通信方法、通信プログラム、端末、PoCサーバ
JP2013176087A (ja) * 2007-06-28 2013-09-05 Voxer Ip Llc マルチメディア通信方法
WO2013057907A1 (ja) * 2011-10-17 2013-04-25 Necカシオモバイルコミュニケーションズ株式会社 入力装置、表示処理方法及び表示処理プログラムが格納された記憶媒体
WO2014048064A1 (zh) * 2012-09-29 2014-04-03 Li Keqiang 电子教学系统
CN104616544A (zh) * 2015-03-12 2015-05-13 马盼盼 一种智能教学系统
CN105118342A (zh) * 2015-09-09 2015-12-02 唐敏君 一种农村数学教学系统及其方法
WO2018155234A1 (ja) * 2017-02-24 2018-08-30 ソニー株式会社 制御装置、制御方法、プログラム、および投影システム
JPWO2018155234A1 (ja) * 2017-02-24 2019-12-19 ソニー株式会社 制御装置、制御方法、プログラム、および投影システム
US20200050355A1 (en) * 2017-02-24 2020-02-13 Sony Corporation Control device, control method, program, and projection system
US10860205B2 (en) 2017-02-24 2020-12-08 Sony Corporation Control device, control method, and projection system
JP2020091780A (ja) * 2018-12-07 2020-06-11 シャープ株式会社 筆記入力装置及び筆記入力システム
JP7299693B2 (ja) 2018-12-07 2023-06-28 シャープ株式会社 筆記入力装置及び筆記入力システム

Also Published As

Publication number Publication date
JP4102928B2 (ja) 2008-06-18

Similar Documents

Publication Publication Date Title
US8064817B1 (en) Multimode recording and transmitting apparatus and its use in an interactive group response system
JP4555365B2 (ja) 遠隔教育システムおよびマルチメディアコンテンツの表示制御方法
US8242344B2 (en) Method and apparatus for composing and performing music
JP4102928B2 (ja) データ通信システム、データ送信端末およびプログラム
US7786366B2 (en) Method and apparatus for universal adaptive music system
CN105118347A (zh) 一种教学互动投影系统
JP6548045B2 (ja) 会議システム、会議システム制御方法、およびプログラム
JP2006302047A (ja) 会議支援プログラム、会議支援装置、および会議支援方法
KR20220104772A (ko) 인터랙션 방법 및 전자기기
US20210225192A1 (en) Piano teaching system
US7723603B2 (en) Method and apparatus for composing and performing music
WO2006039863A1 (fr) Systeme de tableau blanc sur reseau a base de papier et procede de fabrication correspondant
JP2004333525A (ja) 双方向通信システム、サーバ、電子講義方法、ならびに、プログラム
WO2013151286A1 (ko) 전자노트 기능을 갖는 시스템 및 그 운용방법
US20230196632A1 (en) Information processing device and information processing method
JP2008032787A (ja) 語学学習システム及び語学学習システム用プログラム
Smith et al. Experiments comparing face-to-face with virtual collaborative learning
JP4632132B2 (ja) 語学学習システム
JP2006238251A (ja) 会議システム
JP5003706B2 (ja) 情報処理装置、情報処理システム及びプログラム
KR100198715B1 (ko) 컴퓨터 기반의 통합 멀티미디어 원격 교육 시스템 및 그 방법
EP0848879A1 (en) Phone based dynamic image annotation
JP2003339034A (ja) ネットワーク会議システム、ネットワーク会議方法およびネットワーク会議プログラム
JP2002139983A (ja) 教育システムおよび教育システムのデータ処理方法
KR20180134318A (ko) 온/오프라인 학습컨텐츠와 학습도구 동시 활용 원격 라이브 강의학습 방법 및 그 제어장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060323

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071018

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071023

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080226

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080310

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110404

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120404

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130404

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140404

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees