JP2016134014A - 電子情報ボード装置、情報処理方法およびプログラム - Google Patents

電子情報ボード装置、情報処理方法およびプログラム Download PDF

Info

Publication number
JP2016134014A
JP2016134014A JP2015008608A JP2015008608A JP2016134014A JP 2016134014 A JP2016134014 A JP 2016134014A JP 2015008608 A JP2015008608 A JP 2015008608A JP 2015008608 A JP2015008608 A JP 2015008608A JP 2016134014 A JP2016134014 A JP 2016134014A
Authority
JP
Japan
Prior art keywords
image
unit
display
writing area
stroke
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015008608A
Other languages
English (en)
Inventor
剣持 栄治
Eiji Kenmochi
栄治 剣持
笠谷 潔
Kiyoshi Kasatani
潔 笠谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2015008608A priority Critical patent/JP2016134014A/ja
Priority to CN201680006397.2A priority patent/CN107209633A/zh
Priority to PCT/JP2016/000207 priority patent/WO2016117321A1/en
Priority to EP16739931.0A priority patent/EP3248094A4/en
Publication of JP2016134014A publication Critical patent/JP2016134014A/ja
Priority to US15/632,578 priority patent/US10572779B2/en
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B43WRITING OR DRAWING IMPLEMENTS; BUREAU ACCESSORIES
    • B43LARTICLES FOR WRITING OR DRAWING UPON; WRITING OR DRAWING AIDS; ACCESSORIES FOR WRITING OR DRAWING
    • B43L1/00Repeatedly-usable boards or tablets for writing or drawing
    • B43L1/04Blackboards
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/32Digital ink
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/32Digital ink
    • G06V30/36Matching; Classification

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)
  • Drawing Aids And Blackboards (AREA)

Abstract

【課題】手書き時の使い易さを向上し、かつ、文字認識の対象となるストローク画像の入力精度を向上する電子情報ボード装置、情報処理方法及びプログラムを提供する。
【解決手段】電子黒板は、表示画面の一部に指示体による筆記軌跡の入力を可能とする筆記領域を表示するOCRガイド生成部333と、筆記領域内を移動する指示体の筆記座標を検知する座標検知部と、筆記座標に基づいて、ストローク画像を生成して筆記領域内に表示する表示合成部36と、を備える。
【選択図】図19

Description

本発明は、電子情報ボード装置に筆記した文字や記号を文字認識する際に好適な入力補助機能を提供する技術に関する。
従来、企業や教育機関、行政機関等における会議等において、ディスプレイに背景画像を表示させ、この背景画像の上にユーザが文字や数字、図形等のストローク画像を描画可能な電子黒板が利用されている。
このような電子黒板の一例として、特許文献1には、電子情報ボード装置で最前面に表示されている常駐表示コンテンツ上に手書き入力を行ったときに、手書き入力内容と常駐表示コンテンツの両方の視認性を落とすことなく表示可能とすることを目的とし、表示コンテンツのサイズに基づいて、表示コンテンツを収容可能な空白領域を探索し、探索できなかった場合に、探索するサイズを縮小し、探索できるまでサイズの縮小を繰り返し、探索できた空白領域に表示コンテンツを移動して表示するという技術が開示されている。
ところで、従来の電子黒板にあっては、ユーザが表示画面上に手書きした文字や記号等のストローク画像に対して、OCR認識処理を用いて直接にテキスト化することができなかった。
このため、電子黒板に接続されているコンピュータ装置を利用し、コンピュータ装置に搭載されているオペレーティングシステムOSの1つであるWindows(登録商標)7に標準でサポートされているOCR機能を利用することが考えられる。
しかしながら、電子黒板は、ユーザが画面上に直接手書きしたストローク画像を編集、保存、読み込みできることが大きな特徴であるため、電子黒板に接続されたタブレットPCに搭載されたタブレットPC入力パネルを介してOCR入力することは、手間がかかり、ユーザの使い易さが低下するといった問題があった。
また、電子黒板上に文字や記号などを複数手書きした場合、それを筆記したユーザによって夫々の文字の大きさが不揃いであったり、文字列の方向が上方又は下方に向いていたりする場合がある。このため、このような画像を文字認識すると認識精度が低下することが考えられる。
そこで、電子黒板の画面上に手書きした文字や記号等のストローク画像を文字認識してテキスト化する際に、手書き時の使い易さを向上することができ、且つ文字認識の対象となるストローク画像の入力精度を向上することができる補助機能の提供が切望されている。
本発明は、上記に鑑みてなされたもので、その目的は、手書き時の使い易さを向上することができ、且つ文字認識の対象となるストローク画像の入力精度を向上することができることにある。
請求項1記載の発明は、上記課題を解決するため、画面の筆記領域を移動する指示体の座標を検知する座標検知手段と、前記座標に基づいて、ストローク画像を生成して前記筆記領域に表示する画像描画手段と、を備えることを特徴とする。
本発明によれば、手書き時の使い易さを向上することができ、且つ文字認識の対象となるストローク画像の入力精度を向上することができる。
本実施形態の画像処理システムの全体構成図である。 電子黒板のハードウェア構成図である。 電子黒板の機能ブロック図である。 ファイル処理部の機能ブロック図である。 サーバ部及び送信制御部の機能ブロック図である。 ページデータを示す概念図である。 ストロークデータを示す概念図である。 座標配列データを示す概念図である。 メディアデータを示す概念図である。 遠隔ライセンス管理テーブルを示す概念図である。 アドレス帳管理テーブルを示す概念図である。 バックアップデータを示す概念図である。 接続先管理テーブルを示す概念図である。 参加拠点管理テーブルを示す概念図である。 操作データを示す概念図である。 各画像レイヤの構成図である。 各電子黒板の処理を示したシーケンス図である。 各電子黒板の処理を示したシーケンス図である。 図3に示すストローク処理部とUI画像生成部の詳細な構成を示す図である。 ディスプレイ上に表示されたUI画像の一例を示す図である。 図20に示すサイズ選択ボタンが押下されたときの画面例を示す図である。 グリッド表示ボタンが押下されグリッドが表示されたことを示す図である。 グリッド表示ボタンが押下されてなく、グリッドが非表示になっていることを示す図である。 筆記領域の変形例の一例を示す図である。 OCR処理が実行され、文字認識の結果を表すテキストデータが表示されている様子を示す図である。 図20、図21におけるOCR入力時においてグリッドも表示した一例を示す図である。 本発明の実施形態に係る電子情報ボード装置の動作を示すフローチャートである。
以下、本発明を図面に示した実施の形態により詳細に説明する。
本発明は、手書き時の使い易さを向上することができ、且つ文字認識の精度を向上するために、以下の構成を有する。
すなわち、本発明の電子情報ボード装置は、画面の筆記領域を移動する指示体の座標を検知する座標検知手段と、前記座標に基づいて、ストローク画像を生成して前記筆記領域に表示する画像描画手段と、を備えることを特徴とする。
以上の構成を備えることにより、手書き時の使い易さを向上することができ、且つ文字認識の対象となるストローク画像の入力精度を向上することができる。
上記の本発明の特徴に関して、以下、図面を用いて詳細に説明する。
<システムの概要>
図1は、本実施形態の画像処理システムの全体構成図である。なお、図1では、説明を簡略化するために、2台の電子黒板2a、2b及びこれに付随する電子ペン4a、4b等を示しているだけであって、3台以上の電子黒板や電子ペン等を利用してもよい。
図1に示されているように、画像処理システム1は、複数の電子黒板2a、2b、複数の電子ペン4a、4b、USBメモリ5a、5b、ノートPC(Personal Computer)6a、6b、テレビ(ビデオ)会議端末7a、7b、及びPC8を有する。また、電子黒板2a、2b、及びPC8は、通信ネットワーク9を介して通信可能に接続されている。更に、複数の電子黒板2a、2bには、それぞれディスプレイ3a、3bが設けられている。
また、電子黒板2aには、電子ペン4aによって生じたイベント(ディスプレイ3aに電子ペン4aのペン先、又は、電子ペン4aのペン尻のタッチ)による描画された画像を、ディスプレイ3aに表示させることができる。なお、電子ペン4aだけでなく、ユーザの手Ha等によって生じたイベント(拡大、縮小、ページめくり等のジェスチャ)に基づいて、ディスプレイ3a上に表示されている画像を変更させることもできる。
また、電子黒板2aには、USBメモリ5aが接続可能であり、電子黒板2aはUSBメモリ5aからPDF等の電子ファイルを読み出したり、電子黒板2aはUSBメモリ5aに電子ファイルを記録することができる。また、電子黒板2aには、DisplayPort、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)及びVGA(Video Graphics Array)等の規格による通信が可能なケーブル10a1を介して、ノートPC6aが接続されている。そして、電子黒板2aは、ディスプレイ3aに対する接触によってイベントを発生させ、このイベントを示すイベント情報を、マウスやキーボード等の入力装置からのイベントと同様に、ノートPC6aに送信する。同じく、電子黒板2aには、上記規格による通信が可能なケーブル10a2を介して、テレビ(ビデオ)会議端末7aが接続されている。なお、ノートPC6a、及びテレビ会議端末7aは、Bluetooth(登録商標)等の各種無線通信プロトコルに準拠した無線通信により、電子黒板2aと通信してもよい。
一方、電子黒板2bが設置されている他の拠点では、上記と同様に、ディスプレイ3bを備えた電子黒板2b、電子ペン4b、USBメモリ5b、ノートPC6b、テレビ会議端末7b、ケーブル10b1、ケーブル10b2が利用される。更に、ユーザの手Hb等によって生じたイベントに基づいて、ディスプレイ3b上に表示されている画像を変更させることもできる。
これにより、一の拠点で電子黒板2aのディスプレイ3a上に描画された画像は、他の拠点で電子黒板2bのディスプレイ3b上にも表示され、逆に他の拠点で電子黒板2bのディスプレイ3b上に描画された画像は、一の拠点で電子黒板2aのディスプレイ3a上に表示される。このように、画像処理システム1では、遠隔地において同じ画像を共有する遠隔共有処理を行うことができるため、遠隔地での会議等に用いると、非常に便利である。
なお、以下では、複数の電子黒板のうち任意の電子黒板を示す場合には「電子黒板2」と示す。複数のディスプレイのうち任意のディスプレイを示す場合には「ディスプレイ3」と示す。複数の電子ペンのうち任意の電子ペンを示す場合には「電子ペン4」と示す。複数のUSBメモリのうち任意のUSBメモリを示す場合には「USBメモリ5」と示す。複数のノートPCのうち任意のノートPCを示す場合には「ノードPC6」と示す。複数のテレビ会議端末のうち任意のテレビ会議端末を示す場合には「テレビ会議端末7」と示す。また、複数のユーザの手のうち任意の手を示す場合には「手H」と示す。複数のケーブルのうち任意のケーブルを示す場合には「ケーブル10」と示す。
また、本実施形態では、画像処理装置の一例として、電子黒板を説明するが、これに限るものではなく、画像処理装置の他の例として、電子看板(デジタルサイネージ)、スポーツや天気予報等で利用されるテレストレータ、又は、遠隔画像(映像)診断装置等であってもよい。また、情報処理端末の一例として、ノートPC6を説明するが、これに限るものではなく、情報処理端末の他の例として、デスクトップ型PCやタブレット型PC、PDA、デジタルビデオカメラ、デジタルカメラ、ゲーム機等の画像フレームを供給可能な端末であってもよい。更に、通信ネットワークには、インターネット、LAN(Local Area Network)、携帯電話通信網等が含まれる。また、本実施形態では、記録媒体の一例として、USBメモリを説明するが、これに限るものではなく、記録媒体の他の例として、SDカード等の各種記録メディアであってもよい。
<電子黒板のハードウェア構成>
続いて、図2を用いて、本実施形態の電子黒板のハードウェア構成を説明する。なお、図2は、電子黒板のハードウェア構成図である。
図2に示されているように、電子黒板2は、電子黒板2全体の動作を制御するCPU101、IPL等のCPU101の駆動に用いられるプログラムを記憶したROM102、CPU101のワークエリアとして使用されるRAM103、電子黒板2用のプログラム等の各種データを記憶するSSD204、通信ネットワーク9との通信を制御するネットワークコントローラ105、及び、USBメモリ5との通信を制御する外部記憶コントローラ106を備えている。
また、電子黒板2は、ノートPC6のディスプレイに対して映像情報を静止画または動画として表示させるキャプチャデバイス111、グラフィクスを専門に扱うGPU(Graphics Processing Unit)112、及び、GPUからの出力画像をディスプレイ3やテレビ会議端末7へ出力するために画面表示の制御及び管理を行うディスプレイコントローラ105を備えている。
更に、電子黒板2は、接触センサ115の処理を制御するセンサコントローラ114、ディスプレイ3上に電子ペン4やユーザの手H等が接触したことを検知する接触センサ115を備えている。この接触センサ115は、赤外線遮断方式による座標の入力及び座標の検出を行う。この座標の入力及び座標の検出する方法は、ディスプレイ3の上側両端部に設置された2つ受発光装置(不図示)が、ディスプレイ3に平行して複数の赤外線を放射し、ディスプレイ3の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する方法である。接触センサ115は、物体によって遮断された2つの受発光装置が放射した赤外線のID(Identification)をセンサコントローラ114に出力し、センサコントローラ114が、物体の接触位置である座標位置を特定する。なお、以下に示す全ての各IDは、識別情報の一例である。
また、接触センサ115としては、赤外線遮断方式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネル、対向する2の抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルなどの種々の検出手段を用いてもよい。
また、電子黒板2は、電子ペンコントローラ116を備えている。この電子ペンコントローラ116は、電子ペン4と通信することで、ディスプレイ3へのペン先のタッチやペン尻のタッチの有無を判断する。なお、電子ペンコントローラ116が、電子ペン4のペン先及びペン尻だけでなく、電子ペン4のユーザが握る部分や、その他の電子ペンの部分のタッチの有無を判断するようにしてもよい。
更に、電子黒板2は、CPU101、ROM102、RAM103、SSD104、ネットワークコントローラ105、外部記憶コントローラ106、キャプチャデバイス111、GPU112、センサコントローラ114、及び電子ペンコントローラ116を、図2に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン120を備えている。
なお、電子黒板2用のプログラムは、CD−ROM等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
<電子黒板の機能構成>
続いて、図3乃至図16を用いて、電子黒板の機能構成について説明する。なお、先ずは、図3を用いて、電子黒板2の全体的な機能構成について説明する。図3は、電子黒板の機能ブロック図である。
電子黒板2は、図2に示されているハードウェア構成及びプログラムによって、図3にされている各機能構成を有する。電子黒板2は、最初に遠隔共有処理を開始する「主催装置」となり得ると共に、既に開始されている遠隔共有処理に後から参加する「参加装置」にもなり得る。
また、電子黒板2は、大きく分けて、クライアント部20及びサーバ部90の両方によって構成されている。クライアント部20及びサーバ部90は、電子黒板2の1台の筐体内で実現される機能である。そして、電子黒板2が主催装置となる場合には、この電子黒板2では、クライアント部20とサーバ部90が実現される。
また、電子黒板2が参加装置となる場合には、この電子黒板2では、クライアント部20は実現されるが、サーバ部90は実現されない。即ち、図1において、電子黒板2aが主催装置で、電子黒板2bが参加装置となる場合、電子黒板2aのクライアント部20は、同じ電子黒板2a内に実現されたサーバ部90を介して、他の電子黒板2bのクライアント部20と通信を行う。一方、電子黒板2bのクライアント部20は、他の電子黒板2a内に実現されたサーバ部90を介して、他の電子黒板2aのクライアント部と通信を行う。
〔クライアント部20の機能構成〕
続いて、主に図3乃至図5を用いて、クライアント部20の機能構成について説明する。クライアント部20は、映像取得部21、座標検知部22、自動調整部23、接触検知部24、イベント振分部25、操作処理部26、ジェスチャ処理部27、映像重畳部28、画像処理部30、及び通信制御部60を有する。
このうち、映像取得部21は、ケーブル10に接続された映像出力機器の出力映像を取得する。映像取得部21は、映像出力機器から画像信号を受信すると、この画像信号を解析して、この画像信号によって形成される映像出力機器の表示画像である画像フレームの解像度や、この画像フレームの更新頻度などの画像情報を導出し、画像取得部31に出力する。
座標検知部22は、ディスプレイ3上でユーザによって生じたイベント(ディスプレイ3上にユーザの手Hがタッチされた動作等)の座標位置を検出する。また、座標検知部22は、タッチされた面積も検出する。
自動調整部23は、電子黒板2の起動時に起動され、接触センサ115が座標検知部22に適切な値を出力できるように、接触センサ115の光センサ方式におけるセンサーカメラの画像処理のパラメータを調整する。
接触検知部24は、ユーザによって生じたイベント(ディスプレイ3上に電子ペン4のペン先又は電子ペン3のペン尻が押下(タッチ)された動作等)を検出する。
イベント振分部25は、座標検知部22によって検知されたイベントの座標位置と接触検知部24によって検出された検出結果を、ストローク描画、UI操作、及びジェスチャ操作の各イベントに振り分ける。
ここで、「ストローク描画」は、ディスプレイ3上に図16に示されている後述のストローク画像(B)が表示されている場合に、ユーザがディスプレイ3上で電子ペン4を押下し、この押下した状態で電子ペン4を移動させ、最終的にディスプレイ3上から電子ペン4を離すまでのイベントである。このストローク描画により、例えば、アルファベット「S」や「T」等がディスプレイ3上に描画される。なお、この「ストローク描画」には、画像を描画するだけでなく、既に描画された画像を削除したり、描画された画像を編集するイベントも含まれる。
「UI操作」は、ディスプレイ3上に図16に示されている後述のUI画像(A)が表示されている場合に、ユーザが電子ペン4又は手Hによって所定の位置を押下したイベントである。このUI操作により、例えば、電子ペン4により描画される線の色や幅等が設定される。
「ジェスチャ操作」は、ディスプレイ3上に図16に示されている後述のストローク画像(B)が表示されている場合に、ユーザが手Hでディスプレイ3上をタッチしたり移動させるイベントである。このジェスチャ操作により、例えば、ユーザがディスプレイ3に手Hをタッチさせた状態で手Hを移動させることで、画像の拡大(若しくは縮小)、表示領域の変更、又は、ページ切り換え等を行うことができる。
操作処理部26は、イベント振分部25によってUI操作と判断されたものから、イベントが発生されたUIの要素に従って、各種操作を実行する。このUIの要素としては、例えば、ボタン、リスト、チェックボックス、テキストボックスが挙げられる。
ジェスチャ処理部27は、イベント振分部25によってジェスチャ操作と判断されたものに対応した操作を実行する。
映像重畳部28は、後述の表示重畳部36で重畳された画像を映像として映像出力機器(ディスプレイ3等)に対して表示する。また、映像重畳部28は、映像出力機器(ノートPC6等)からの映像に対して、他の映像出力機器(テレビ会議端末7等)から送られて来た映像をピクチャ・イン・ピクチャする。更に、映像重畳部28は、ピクチャ・イン・ピクチャされてディスプレイ3の一部に表示された映像を、ディスプレイ3の全体に表示させるための切り替えを行う。
画像処理部30は、図16に示されているような各画像レイヤの重畳処理等を行う。この画像処理部30は、画像取得部31、ストローク処理部32、UI画像生成部33、背景生成部34、レイアウト管理部35、表示重畳部36、ページ処理部37、ファイル処理部40、ページデータ記憶部300、及び遠隔ライセンス管理テーブル310を有している。
このうち、画像取得部31は、映像取得部21で取得された映像から、各フレームを画像として取得する。画像取得部31は、この画像のデータを、ページ処理部37に出力する。この画像は、図16に示されている映像出力機器(ノートPC6等)からの出力画像(C)に相当する。
ストローク処理部32は、イベント振分部25によって割り振られたストローク描画に係るイベントに基づいて、画像を描画したり、描画された画像を削除したり、描画された画像を編集する。このストローク描画による画像は、図16に示されているストローク画像(B)に相当する。また、このストローク描画に基づいた画像の描画、削除、編集の各結果は、後述の操作データとして、操作データ記憶部840に記憶される。
UI画像生成部33は、電子黒板2に予め設定されているUI(ユーザインターフェース)画像を生成する。このUI画像は、図16に示されているUI画像(A)に相当する。
背景生成部34は、ページ処理部37がページデータ記憶部300から読み出したページデータのうちのメディアデータを、ページ処理部37から受信する。背景生成部34は、この受信したメディアデータを表示重畳部36に出力する。また、このメディアデータによる画像は、図16に示されている背景画像(D)に相当する。背景画像(D)のパターンは、無地、グリッド表示等である。
レイアウト管理部35は、表示重畳部36に対して、画像取得部31、ストローク処理部32、及びUI画像生成部33(又は背景生成部34)から出力された各画像のレイアウトを示すレイアウト情報を管理している。これにより、レイアウト管理部35は、表示重畳部36に対して、出力画像(C)及びストローク画像(B)を、UI画像(A)及び背景画像(D)中のどの位置に表示させるか又は非表示にさせるかを指示することができる。
表示重畳部36は、レイアウト管理部35から出力されたレイアウト情報に基づき、画像取得部31、ストローク処理部32、及びUI画像生成部33(背景生成部34)から出力された各画像のレイアウトを行う。
ページ処理部37は、ストローク画像(B)のデータと出力画像(C)のデータを、1つのページデータにまとめてページデータ記憶部300に記憶する。ストローク画像(B)のデータは、図6に示されているストローク配列データIDで示されるストローク配列データ(各ストロークデータ)として、ページデータの一部を成す。出力画像(C)のデータは、図6に示されているメディアデータIDで示されているメディアデータとして、ページデータの一部を成す。そして、このメディアデータは、ページデータ記憶部300から読み出されると、背景画像(D)のデータとして取り扱われる。
また、ページ処理部37は、一旦記憶されたページデータのうちのメディアデータを、背景生成部34を介して表示重畳部36に送信することで、映像重畳部28が背景画像(D)をディスプレイ3に再表示させることができる。また、ページ処理部37は、ページデータのうちのストローク配列データ(各ストロークデータ)を、ストローク処理部32に戻すことで、ストロークの再編集ができる状態にすることができる。更に、ページ処理部37は、ページデータを削除したり複製することもできる。
即ち、ページ処理部37がページデータ記憶部300にページデータを記憶する時点でディスプレイ3上に表示されている出力画像(C)のデータは、一旦、ページデータ記憶部300に記憶され、その後にページデータ記憶部300から読み出される際には、背景画像(D)を示すメディアデータとして読みされる。そして、ページ処理部37は、ページデータ記憶部300から読み出したページデータのうち、ストローク画像(B)を示すストローク配列データを、ストローク処理部32に出力する。また、ページ処理部37は、ページデータ記憶部300から読み出したページデータのうち、背景画像(D)を示すメディアデータを、背景生成部34に出力する。
表示重畳部36は、 画像取得部31からの出力画像(C)、ストローク処理部32からのストローク画像(B)、UI画像生成部33からのUI画像(A)、及び、背景生成部34からの背景画像(D)を、レイアウト管理部35によって指定されたレイアウトに従って重畳する。これにより、図16に示されているように、各画像が重なってもユーザが見える順に、UI画像(A)、ストローク画像(B)、出力画像(C)、及び背景画像(D)の各レイアの構成となっている。
また、表示重畳部36は、図16に示されている画像(C)と画像(D)を切り替えて、画像(A)及び画像(B)に対して排他的に重畳することも可能である。例えば、当初、画像(A)、画像(B)及び画像(C)が表示されている状態で、電子黒板2と映像出力機器(ノートPC6等)との間のケーブル10が抜かれた場合には、レイアウト管理部35の指定によって、画像(C)を重畳対象から外し、画像(D)を表示させることができる。この場合に、また、表示重畳部36は、表示の拡大、表示の縮小、表示領域の移動処理も行う。
ページデータ記憶部300は、図6に示されているようなページデータを記憶する。図6は、ページデータを示す概念図である。ページデータは、ディスプレイ3に表示される1ページ分のデータ(ストローク配列データ(各ストロークデータ)及びメディアデータ)である。なお、ページデータに含まれるパラメータの種類が多いため、ここでは、図6乃至9に分けて、ページデータの内容を説明する。
ページデータは、図6に示されているように、任意の1ページを識別するためのページデータID、このページの表示を開始した時刻を示す開示時刻、ストロークやジェスチャ等によるページの内容の書き換えが行われなくなった時刻を示す終了時刻、電子ペン4やユーザの手Hによるストロークによって生じたストローク配列データを識別するためのストローク配列データID、及びメディアデータを識別するためのメディアデータIDが関連付けて記憶されている。ストローク配列データは、後述の図16に示されているストローク画像(B)がディスプレイ3上に表示されるためのデータである。メディアデータは、後述の16に示されている背景画像(D)がディスプレイ3上に表示されるためのデータである。
このようなページデータにより、例えば、ユーザが電子ペン4によってアルファベット「S」を描く場合は一筆書きとなるため、ストロークデータIDが1つで一文字のアルファベット[S]が示される。ところが、ユーザが電子ペン4によってアルファベット「T」を描く場合、二筆書きとなるため、ストロークデータIDが2つで一文字のアルファベット「T」が示されることになる。
また、ストローク配列データは、図7に示されているように詳細な情報を示している。図7は、ストローク配列データを示す概念図である。図7に示されているように、1つのストローク配列データは、複数のストロークデータによって表される。そして、1つのストロークデータは、このストロークデータを識別するためのストロークデータID、1つのストロークの書き始めの時刻を示す開始時刻、1つのストロークの書き終わりの時刻を示す終了時刻、ストロークの色、ストロークの幅、及び、ストロークの通過点の配列を識別するための座標配列データIDを示している。
更に、この座標配列データは、図8に示されているように詳細な情報を示している。図8は、座標配列データを示す概念図である。図8に示されているように、座標配列データは、ディスプレイ3上の1点(X座標値、Y座標値)、この1点を通過したときのストロークの開示時刻からの差分の時刻(ms)、及び、この1点における電子ペン4の筆圧の各情報を示している。即ち、図8に示されている1点の集まりが、図7に示されている1つの座標配列データで示されている。例えば、ユーザが電子ペン4によってアルファベット「S」を描く場合、一筆書きとなるが、「S」を描き終えるまでに、複数の通過点を通過するため、座標配列データは、これら複数の通過点の情報を示している。
また、図6に示されているページデータのうちのメディアデータは、図9に示されているように詳細な情報を示している。図9は、メディアデータを示す概念図である。図9に示されているように、メディアデータは、図6に示されているページデータにおけるメディアデータID、メディアデータのデータ種類、ページ処理部37からページデータ記憶部300にページデータが記憶された記録時刻、ページデータによってディスプレイ3上に表示される画像の位置(X座標値、Y座標値)及び画像のサイズ(幅、高さ)、並びにメディアデータの内容を示すデータが関連付けられて示されている。このうち、ページデータによってディスプレイ3上に表示される画像の位置は、ディスプレイ3の左上端の座標を(X座標値,Y座標値)=(0,0)とした場合に、ページデータによって表示される画像の左上端の位置を示している。
また、図3に戻り、遠隔ライセンス管理テーブル310は、遠隔共有処理を実行するために必要なライセンスデータを管理する。この遠隔ライセンス管理テーブル310では、図10に示されているように、電子黒板3のプロダクトID、認証に用いられるライセンスID、及びライセンスの有効期限が関連付けて管理されている。
(ファイル処理部40の機能構成)
続いて、図4を用いて、図3に示されているファイル処理部40の機能構成を説明する。なお、図4は、ファイル処理部の機能ブロック図である。
ファイル処理部40は、リカバリ部41、ファイル入力部42a、ファイル出力部42b、ファイル変換部43、ファイル送信部44、アドレス帳入力部45、バックアップ処理部46、バックアップ出力部47、設定管理部48、設定ファイル入力部49a、及び設定ファイル出力部49bを有している。更に、ファイル処理部40は、アドレス帳管理テーブル410、バックアップデータ記憶部420、設定ファイル記憶部430、及び接続先管理テーブル440を有している。
このうち、リカバリ処理部41は、電子黒板2が異常終了した後に、異常終了を検知し、未保存のページデータを復旧する。例えば、正常終了の場合は、ページデータがPDFファイルとしてファイル処理部40を介してUSB5に記録されるが、電源がダウンした等の異常終了の場合は、ページデータがページデータ記憶部300に記録されたままになっている。そのため、再び、電源オンになった際に、リカバリ処理部41は、ページデータ記憶部300からページデータを読み出すことで復旧させる。
ファイル入力部42aは、USBメモリ5から、PDFファイルを読み込み、各ページをページデータとしてページデータ記憶部300に記憶する。
ファイル変換部43は、ページデータ記憶部300に記憶されているページデータを、PDF形式のファイルに変換する。
ファイル出力部42bは、ファイル変換部42によって出力されたPDFファイルをUSBメモリ5に記録する。
ファイル送信部44は、ファイル変換部43によって生成されたPDFファイルを、電子メールに添付して送信する。このファイルの送信先は、表示重畳部36によってディスプレイ3上にアドレス帳管理テーブル410の内容を表示し、ファイル送信部44がユーザによるタッチパネル等の入力装置の操作により、宛先の選択を受け付けることによって決定される。アドレス帳管理テーブル410には、図11に示されているように、宛先の名前及び宛先の電子メールのメールアドレスが関連付けて管理されている。また、ファイル送信部44が、ユーザによるタッチパネル等の入力装置の操作により、宛先としてのメールアドレスの入力を受け付けることもできる。
アドレス帳入力部45は、USBメモリ5から電子メールアドレスの一覧ファイルを読み込み、アドレス帳管理テーブル410に管理する。
バックアップ処理部46は、ファイル出力部42bによって出力されたファイルや、ファイル送信部44によって送信されたファイルを、バックアップデータ記憶部420に記憶することでバックアップする。なお、ユーザがバックアップ設定しない場合は、バックアップの処理は行われない。バックアップデータは、図12に示されているように、PDF形式で記憶される。
バックアップ出力部47は、バックアップされたファイルをUSBメモリ5に記憶する。この記憶の際には、ユーザによるタッチパネル等の入力装置の操作により、セキュリティーのためにパスワードが入力される。
設定管理部48は、電子黒板2の各種設定情報を設定ファイル記憶部430に記憶したり読み出したりして管理する。この各種設定情報としては、例えば、ネットワーク設定、日付や時刻の設定、地域や言語の設定、メールサーバの設定、アドレス帳の設定、接続先リストの設定、バックアップに関する設定が挙げられる。なお、ネットワーク設定は、例えば、電子黒板2のIPアドレスの設定、ネットマスクの設定、デフォルトゲートウェイの設定、又はDNS(Domain Name System)の設定等である。
設定ファイル出力部49bは、電子黒板2の各種設定情報を、設定ファイルとしてUSBメモリ5に記録させる。なお、設定ファイルはセキュリティーによって、ユーザは中身を見ることができない。
設定ファイル入力部49aは、USBメモリ5に記憶されている設定ファイルを読み込み、各種設定情報を電子黒板の各種設定に反映させる。
アドレス帳入力部50は、USBメモリ5から遠隔共有処理の接続先IPアドレスの一覧ファイルを読み込み、接続先管理テーブル440に管理する。なお、図13に示されているように、接続先管理テーブル440は、電子黒板2が遠隔共有処理に参加しようとする参加装置である場合、この参加装置のユーザが主催装置としての役割を果たす電子黒板のIPアドレスを入力する手間を削減するために、予め管理しておくためのテーブルである。この接続先管理テーブル440では、参加されることが可能な主催装置としての電子黒板2が設置されている拠点の名称、及び主催装置としての電子黒板2のIPアドレスが関連付けて管理されている。
なお、接続先管理テーブル440は、無くてもよい。但し、この場合には、参加装置のユーザは、主催装置との間で遠隔要求処理の開始するために、タッチパネル等の入力装置によって、主催装置のIPアドレスを入力する必要がある。そのため、参加装置のユーザは、電話や電子メール等によって、主催装置のユーザから、主催装置のIPアドレスを知得する。
(通信制御部60の機能構成)
次に、図5を用いて、通信制御部60の機能構成について説明する。
通信制御部60は、通信ネットワーク9を介して、他の電子黒板2と行う通信や、サーバ部90における後述の通信制御部70と行う通信を制御する。そのため、通信制御部60は、遠隔開始処理部61、遠隔参加処理部62、遠隔画像送信部63、遠隔画像受信部64、遠隔操作送信部63、遠隔操作受信部66、及び参加拠点管理テーブル610を有している。
このうち、遠隔開始処理部61は、同じ電子黒板2のサーバ部90に対して、新たに遠隔共有処理を開始する要求を行い、サーバ部90から要求の結果を受信する。この場合、遠隔開始処理部61は、遠隔ライセンス管理テーブル310を参照し、ライセンス情報(プロダクトID、ライセンスID、及び有効期限)が管理されている場合には、遠隔共有処理を開始する要求を行うことができる。但し、ライセンス情報が管理されていない場合には遠隔共有処理を開始する要求を行うことができない。
参加拠点管理テーブル610は、電子黒板が主催装置である場合、現在、遠隔共有処理に参加している参加装置としての電子黒板を管理するテーブルである。この参加拠点管理テーブル610では、図14に示されているように、参加中の電子黒板2が設置されている拠点の名称及び当該電子黒板2のIPアドレスが関連付けて管理されている。
遠隔参加処理部62は、通信ネットワーク9を介して、既に遠隔共有処理を開始している主催装置としての電子黒板2のサーバ部90における遠隔接続要求受信部71に対して、遠隔共有処理への参加要求を行う。この場合も、遠隔参加処理部62は、遠隔ライセンス管理テーブル310を参照する。また、遠隔参加処理部62が、既に開始されている遠隔共有処理に参加する場合には、接続先管理テーブル440を参照して、参加先の電子黒板2のIPアドレスを取得する。なお、遠隔参加処理部62によって接続先管理テーブルが参照されず、ユーザによるタッチパネル等の入力装置の操作により参加先の電子黒板2のIPアドレスが入力されてもよい。
遠隔画像送信部63は、映像取得部21から画像取得部31を介して送られて来た出力画像(C)を、サーバ部90に送信する。
遠隔画像受信部64は、サーバ部90から、他の電子黒板2に接続された映像出力機器からの画像データを受信し、表示重畳部36に出力することで、遠隔共有処理を可能にする。
遠隔操作送信部65は、遠隔共有処理に必要な各種操作データをサーバ部90に送信する。この各種操作データとしては、例えば、ストロークの追加、ストロークの削除、ストロークの編集(拡大、縮小、移動)、ページデータの記憶、ページデータの作成、ページデータの複製、ページデータの削除、表示されているページの切り替え等に関するデータが挙げられる。また、遠隔操作受信部66は、サーバ部90から、他の電子黒板2で入力された操作データを受信し、画像処理部30に出力することで、遠隔共有処理を行う。
〔サーバ部の機能構成〕
続いて、図5を用いて、サーバ部90の機能構成について説明する。サーバ部90は、各電子黒板2に設けられており、いずれの電子黒板2であっても、サーバ部としての役割を果たすことができる。そのため、サーバ部90は、通信制御部70、及びデータ管理部80を有している。
(通信制御部70の機能構成)
次に、図5を用いて、通信制御部70の機能構成について説明する。
通信制御部70は、同じ電子黒板2内のクライアント部20における通信制御部70、及び通信ネットワーク9を介して他の電子黒板2内のクライアント部20における通信制御部70との通信を制御する。データ管理部80は、操作データや画像データ等を管理する。
更に詳細に説明すると、通信制御部70は、遠隔接続要求受信部71、遠隔接続結果送信部72、遠隔画像受信部73、遠隔画像送信部74、遠隔操作受信部75、及び遠隔操作送信部75を有している。
このうち、遠隔接続要求受信部71は、遠隔開始処理部61からの遠隔共有処理の開始要求を受信したり、遠隔参加処理部62からの遠隔共有処理に対する参加要求を受信する。遠隔接続結果送信部72は、遠隔開始処理部61へ遠隔共有処理の開始要求の結果を送信したり、遠隔参加処理部62へ遠隔共有処理に対する参加要求の結果を送信する。
遠隔画像受信部73は、遠隔画像送信部63からの画像データ(出力画像(C)のデータ)を受信し、後述の遠隔画像処理部82に送信する。遠隔画像送信部74は、遠隔画像処理部82から画像データを受信し、遠隔画像受信部64に対して、この画像データを送信する。
遠隔操作受信部75は、遠隔操作送信部65からの操作データ(ストローク画像(B)等のデータ)を受信し、後述の遠隔操作処理部83に送信する。遠隔操作送信部76は、遠隔操作処理部83から操作データを受信し、遠隔操作受信部66に対して、この操作データを送信する。
(データ管理部の機能構成)
次に、図5を用いて、データ管理部80の機能構成について説明する。
データ管理部80は、遠隔接続処理部81、遠隔画像処理部82、遠隔操作処理部83、操作合成処理部84、及びページ処理部85を有している。更に、サーバ部90は、パスコード管理部810、参加拠点管理テーブル820、画像データ記憶部830、操作データ記憶部840、及びページデータ記憶部850を有している。
このうち、遠隔接続処理部81は、遠隔共有処理の開始、及び遠隔共有処理の終了を行う。また、遠隔接続処理部81は、遠隔接続要求受信部71が、遠隔開始処理部61から遠隔共有処理の開始要求と共に受信したライセンス情報、又は、遠隔参加処理部62から遠隔共有処理の参加要求と共に受信したライセンス情報に基づいて、ライセンスの有無やライセンスの期間内であるかを確認する。更に、遠隔接続処理部81は、クライアント部としての他の電子黒板2からの参加要求が予め定められた参加可能数を超えていないかを確認する。
更に、遠隔接続処理部81は、他の電子黒板2から遠隔共有処理に対する参加要求があった際に送られて来たパスコードが、パスコード管理部810で管理されているパスコードと同じであるか否かを判断し、同じである場合には、遠隔共有処理の参加を許可する。なお、このパスコードは、新たに遠隔共有処理を開始する際に、遠隔接続処理部81によって発行され、遠隔共有処理に参加しようとする参加装置としての電子黒板2のユーザが、主催装置としての電子黒板2のユーザから、電話や電子メール等により伝えられる。これにより、遠隔共有処理に参加しようとする参加装置のユーザが、タッチパネル等の入力装置によって参加装置にパスコードを入力して参加要求することで、参加が許可されることになる。なお、セキュリティーよりもユーザの使い勝手を優先して、ライセンス状況の確認だけで、パスコードの確認を省略してもよい。
また、電子黒板2が主催装置の場合、遠隔接続処理部81は、参加装置の遠隔参加処理部62から通信ネットワーク9を介して送られて来た参加要求に含まれる参加拠点情報を、サーバ部90の参加拠点管理テーブル820に記憶する。そして、遠隔接続処理部81は、参加拠点管理テーブル820に記憶されている遠隔拠点情報を読み出し、遠隔接続結果送信部72に送信する。遠隔接続結果送信部72は、同じ主催装置のクライアント部20における遠隔開始処理部61に遠隔拠点情報を送信する。遠隔開始処理部61は、参加拠点管理テーブルに610に、遠隔拠点情報を記憶する。これにより、主催装置では、クライアント部20及びサーバ部90の両方で、遠隔拠点情報を管理することになる。
遠隔画像処理部82は、遠隔共有処理中の各電子黒板2のクライアント部(主催装置である自己の電子黒板のクライアント部を含む)に接続された映像出力機器(ノートPC6等)からの画像データ(出力画像(C))を受信して画像データ記憶部830に記憶すると共に、主催装置である自己の電子黒板2のサーバ部90に届いた時間順で遠隔共有処理すべき画像データの表示順を判定する。また、遠隔画像処理部82は、参加拠点管理テーブル820を参照し、遠隔共有処理に参加中の全ての電子黒板2のクライアント部20(主催装置である自己の電子黒板のクライアント部を含む)に、通信制御部70(遠隔画像送信部74)を介して、上記判定した順番で画像データを送信する。
遠隔操作処理部83は、遠隔共有処理中の各電子黒板2のクライアント部(主催装置である自己の電子黒板のクライアント部を含む)で描画されたストローク画像等の各種操作データ(ストローク画像(B)等)を受信し、主催装置である自己の電子黒板2のサーバ部90に届いた時間順で遠隔共有処理すべき画像の表示順を判定する。なお、各種操作データは、上述の各種操作データと同じである。また、遠隔操作処理部83は、参加拠点管理テーブル820を参照し、遠隔共有処理中の全ての電子黒板2のクライアント部20(主催装置である自己の電子黒板のクライアント部を含む)に操作データを送信する。
操作合成処理部84は、遠隔操作処理部83から出力された各電子黒板2の操作データを合成し、この合成結果としての操作データを、操作データ記憶部840に記憶するとともに遠隔操作処理部83に戻す。
この操作データは、遠隔操作送信部76から、主催装置である電子黒板のクライアント部、及び参加装置である電子黒板のクライアント部のそれぞれに送信されることで、各電子黒板2で同じ操作データに係る画像が表示される。そのために、操作データは、図15に示されているように、EQ(Sequence)、操作データの操作名、操作データの送信元である電子黒板2のIPアドレス及びクライアント部(サーバ部)のPort No.、操作データの送信先である電子黒板2のIPアドレス及びクライアント部(サーバ部)のPort No.、操作データの操作種類、操作データの操作対象、並びに操作データの内容を示すデータが関連付けられて示されている。
例えば、SEQ1では、主催装置である電子黒板(IPアドレス:192.0.0.1)のクライアント部(Port No.:50001)でストロークが描画されると、同じ主催装置である電子黒板(IPアドレス:192.0.0.1)のサーバ部(Port No.:50000)に操作データが送られたことが示されている。
この場合の操作種類は「STROKE」、操作対象はページデータID「p005」、及び、操作データの内容を示すデータはストロークを示すデータである。また、SEQ2では、主催装置である電子黒板(IPアドレス:192.0.0.1)のサーバ部(Port No.:50000)から、参加装置である他の電子黒板(IPアドレス:192.0.0.1)のクライアント部(Port No.:50001)に、操作データが送られたことが示されている。
なお、操作合成処理部84は、この操作合成処理部84に操作データが入力された順に合成を行うため、通信ネットワーク9が混雑していなければ、各電子黒板2のユーザによるストローク順に、遠隔共有処理中の全ての電子黒板2のディスプレイ3にストローク画像(B)が表示される。
ページ処理部85は、クライアント部20の画像処理部30におけるページ処理部37と同様の機能を有し、サーバ部90でも、図6乃至図8に示されているページデータを、ページデータ記憶部850に記憶する。なお、ページデータ記憶部850は、画像処理部30におけるページデータ記憶部300と同じ内容であるため、その説明を省略する。
<実施形態の処理又は動作>
続いて、図17及び図18を用いて、本実施形態の処理又は動作について説明する。なお、図17及び図18は、各電子黒板の処理を示したシーケンス図である。
図17及び図18に示す実施形態では、電子黒板2aが遠隔共有処理を主催する主催装置(サーバ部及びクライアント部)としての役割を果たしており、電子黒板2b、2cが遠隔共有処理に参加する参加装置(クライアント部)としての役割を果たす場合について説明する。また、ここでは、電子黒板2a、2b、2cには、それぞれディスプレイ3a、3b、3cが接続され、更に、それぞれノートPC6a、6b、6cが接続されている。また、電子黒板2a、2b、2cでは、それぞれ電子ペン4a、4b、4cが使用される。
(参加の処理)
まずは、図17を用いて、電子黒板2b、2cが遠隔共有処理に参加するための処理について説明する。
ユーザが電子黒板2aの電源スイッチをオンにすると、電子黒板2aのクライアント部20が起動する。そして、ユーザがタッチパネル等の入力装置によってサーバ部90を起動させる操作をすると、クライアント部20の遠隔開始処理部61から同じ電子黒板2aのサーバ部90における遠隔接続要求受信部71に、サーバ部90の処理を開始させる指示を出力する。これにより、電子黒板2aでは、クライアント部20だけでなくサーバ部90も各種処理を開始可能となる(ステップS21)。
次に、電子黒板2aのクライアント部20におけるUI画像生成部33が電子黒板2aとの接続を確立するための接続情報を生成し、映像重畳部28が、UI画像生成部28から表示重畳部36を介して得た接続情報をディスプレイ3aに表示させる(ステップS22)。この接続情報には、主催装置のIPアドレス、及び今回の遠隔共有処理のために生成されたパスコードが含まれている。この場合、パスコード管理部810に記憶されているパスコードは、図5に示されている遠隔接続処理部81によって読み出され、遠隔接続結果送信部72、遠隔開始処理部61の順に送信される。更に、パスコードは、遠隔開始処理部61を含む通信制御部60から、図3に示されている画像処理部30に送信され、最終的にUI画像生成部33に入力される。これにより、接続情報には、パスコードが含まれる。そして、接続情報は、電子黒板2aのユーザによって、電話や電子メールにより、電子黒板2b、2cのユーザに伝えられる。なお、接続先管理テーブル440があれば、接続情報には、主催装置のIPアドレスが含まれていなくても、参加装置は参加要求を行うことができる。
次に、電子黒板2b、2cでは、各ユーザによるタッチパネル等の入力装置の操作によって接続情報の入力を受け付けると、各電子黒板2a、2bのクライアント部20における遠隔参加処理部62が、接続情報のIPアドレスに基づき、通信ネットワーク9を介して、電子黒板2aのサーバ部90における通信制御部70に対してパスコードを送信して参加要求を行う(ステップS23、S24)。これにより、通信制御部70の遠隔接続要求受信部71は、各電子黒板2b、2cから、参加要求(パスコードを含む)を受信し、このパスコードを遠隔接続処理部81に出力する。
次に、遠隔接続処理部81は、各電子黒板2b、2cのから受信したパスコードに対し、パスコード管理部810で管理されているパスコードを用いて認証する(ステップS25)。そして、遠隔接続結果送信部72が、各電子黒板2b、2cのクライアント部20に認証結果を通知する(ステップS26、S27)。ステップS25の認証により、各電子黒板2b、2cが正当な電子黒板であると判断されていた場合には、主催装置である電子黒板2aと、参加装置である電子黒板2b、2cとの遠隔共有処理の通信が確立され、各電子黒板2b、2cのクライアント部20における遠隔参加処理部62が、それぞれ他の電子黒板との間の遠隔共有処理の開始を可能にする(ステップS28、S29)。
(出力画像の表示)
続いて、図17を用いて、遠隔共有処理における出力画像(C)が表示される処理について説明する。
まず、電子黒板2bは、ディスプレイ3bに出力画像(C)を表示する(ステップS30)。具体的には、電子黒板2bの画像取得部31が、ノートPC6bから映像取得部21を介して、ノートPC6bで表示されている出力画像(C)のデータを受信し、表示重畳部36及び映像重畳部28を介してディスプレイ3bに送信することで、ディスプレイ3bは出力画像(C)を表示する。
次に、電子黒板2bの画像取得部31を含む画像処理部30が、遠隔画像送信部63に出力画像(C)のデータを送信することで、遠隔画像送信部63を含む通信制御部60が通信ネットワーク9を介して、主催装置である電子黒板2aの通信制御部70に出力画像(C)のデータを送信する(ステップS31)。これにより、電子黒板2aの遠隔画像受信部73は、出力画像(C)のデータを受信し、遠隔画像処理部82に出力することで、遠隔画像処理部82が画像データ記憶部830に出力画像(C)のデータを記憶する。
次に、主催装置である電子黒板2aは、ディスプレイ3aに出力画像(C)を表示する(ステップS32)。具体的には、電子黒板2aの遠隔画像処理部82は、遠隔画像受信部73から受信した出力画像(C)のデータを、遠隔画像送信部74に出力する。遠隔画像送信部74は、同じ主催装置である電子黒板2aのクライアント部20における遠隔画像受信部64に、出力画像(C)のデータを出力する。遠隔画像受信部64は、表示重畳部36に出力画像(C)のデータを出力する。表示重畳部36は、映像重畳部28に出力画像(C)のデータを出力する。映像重畳部28はディスプレイ3aに出力画像(C)のデータを出力する。これにより、ディスプレイ3aは、出力画像(C)を表示する。
次に、主催装置としての電子黒板2aのサーバ部90における遠隔画像送信部74を含む通信制御部70は、通信ネットワーク9を介して、出力画像(C)のデータの送信元である電子黒板2b以外の電子黒板2cの通信制御部60に出力画像(C)のデータを送信する(ステップS33)。これにより、参加装置である電子黒板2cの遠隔画像受信部64は、出力画像(C)のデータを受信する。
次に、電子黒板2cは、ディスプレイ3cに出力画像(C)を表示する(ステップS34)。具体的には、電子黒板2cの遠隔画像受信部64が、上記ステップS33によって受信された出力画像(C)のデータを、電子黒板2cの表示重畳部36に出力する。表示重畳部36は、映像重畳部28に出力画像(C)のデータを出力する。映像重畳部28はディスプレイ3cに出力画像(C)のデータを出力する。これにより、ディスプレイ3cは、出力画像(C)を表示する。
なお、出力画像(C)のデータだけでなく、UI画像(A)、及びストローク画像(B)の各データが、表示合成部28に入力されている場合には、表示重畳部36により、重畳画像(A、B、C)が生成され、映像重畳部28はディスプレイ3cに重畳画像(A、B、C)のデータを出力する。また、テレビ会議端末7から映像重畳部28に、テレビ会議用の映像(E)のデータが送られて来ている場合には、映像重畳部28は、重畳画像(A、B、C)にピクチャ・イン・ピクチャによりテレビ会議用の映像(E)のデータを重畳して、ディスプレイ3cに出力する。
(重畳画像の表示)
続いて、図18を用いて、遠隔共有処理における重畳画像が表示される処理について説明する。
まず、電子黒板2bは、ユーザが電子ペン4bを用いて電子黒板2bにストローク画像(B)を描画する(ステップS41)。
次に、電子黒板2bの表示重畳部36は、図16に示されているように、UI画像(A)、及び出力画像(C)に対して、ストローク画像(B)を重畳し、映像重畳部28が電子黒板2bのディスプレイ3b上に、重畳された重畳画像(A、B、C)を表示させる(ステップS42)。具体的には、電子黒板2bのストローク処理部32が座標検知部21及び接触検知部24からイベント振分部25を介して、操作データとしてのストローク画像(B)のデータを受信し、表示重畳部36に送信する。これにより、表示重畳部36は、UI画像(A)、及び出力画像(C)に対して、ストローク画像(B)を重畳することができ、映像重畳部28が電子黒板2bのディスプレイ3b上に重畳画像(A、B、C)を表示させることができる。
次に、電子黒板2bのストローク処理部32を含む画像処理部30が、遠隔操作送信部65にストローク画像(B)のデータを送信することで、電子黒板2bの遠隔操作送信部65は、通信ネットワーク2を介して、主催装置である電子黒板2aの通信制御部70にストローク画像(B)のデータを送信する(ステップS43)。これにより、電子黒板2aの遠隔操作受信部75は、ストローク画像(B)のデータを受信し、遠隔操作処理部83に出力することで、遠隔操作処理部83が操作合成処理部84にストローク画像(B)のデータを出力する。このようにして、電子黒板2bで描画されたストローク画像(B)のデータは、描画される度に、主催装置である電子黒板2aの遠隔操作処理部83に順次送信される。このストローク画像(B)のデータは、図7に示されているストロークデータID毎に示されるデータである。よって、例えば、上述したように、ユーザが電子ペン4によってアルファベット「T」を描く場合は二筆書きとなるため、2つのストロークデータIDのそれぞれで示されるストローク画像(B)のデータが順次送信される。
次に、主催装置である電子黒板2aは、ディスプレイ3aに、電子黒板2bから送られて来たストローク画像(B)のデータが含まれた重畳画像(A、B、C)を表示する(ステップS44)。具体的には、電子黒板2aの操作合成処理部84は、遠隔操作処理部83を介して順次送られて来た複数のストローク画像(B)のデータを合成して、操作データ記憶部840に記憶するとともに遠隔操作処理部83に戻す。これにより、隔操作処理部83は、操作合成処理部84から受信した、合成後のストローク画像(B)のデータを、遠隔操作送信部76に出力する。遠隔操作送信部76は、同じ主催装置である電子黒板2aのクライアント部20における遠隔操作受信部66に、合成後のストローク画像(B)のデータを出力する。遠隔操作受信部66は、画像処理部30における表示重畳部36に、合成後のストローク画像(B)のデータを出力する。よって、表示重畳部36は、UI画像(A)、及び出力画像(C)に対して、合成後のストローク画像(B)を重畳する。最後に、映像重畳部28が、表示重畳部36によって重畳された重畳画像(A、B、C)をディスプレイ3a上に表示させる。
次に、主催装置としての電子黒板2aのサーバ部90における遠隔操作送信部76を含む通信制御部70は、通信ネットワーク9を介して、ストローク画像(B)のデータの送信元である電子黒板2b以外の電子黒板2cの通信制御部60に、合成後のストローク画像(B)のデータを送信する(ステップS45)。これにより、参加装置である電子黒板2cの遠隔操作受信部66は、合成後のストローク画像(B)のデータを受信する。
次に、電子黒板2cは、ディスプレイ3cに重畳画像(A、B、C)を表示する(ステップS34)。具体的には、電子黒板2cの遠隔操作受信部66が、上記ステップS45によって受信された合成後のストローク画像(B)のデータを、電子黒板2cの画像処理部30に出力する。画像処理部30の表示重畳部36は、UI画像(A)、及び出力画像(C)の各データと、合成後のストローク画像(B)のデータを重畳し、映像重畳部28に重畳画像(A、B、C)のデータを出力する。映像重畳部28は、ディスプレイ3cに重畳画像(A、B、C)のデータを出力する。これにより、ディスプレイ3cは、重畳画像(A、B、C)を表示する。
なお、上記処理では、ディスプレイ3上に出力画像(C)が表示されているが、この出力画像(C)に代えて、背景画像(D)を表示してもよい。また、出力画像(C)と背景画像(D)との排他的な関係をやめて、出力画像(C)と背景画像(D)との両方を同時にディスプレイ3上に表示させてもよい。
(参加の終了)
続いて、図18を用いて、参加装置が遠隔共有処理への参加を終了する処理について説明する。図18に示す実施形態では、電子黒板2cが参加を終了する処理が示されている。
まず、電子黒板2cでは、ユーザによるタッチパネル等の入力装置の操作によって参加の終了要求を受け付けると、遠隔参加処理部62は、主催装置としての電子黒板2aのサーバ部90における通信制御部70に、参加の終了要求を行う(ステップS47)。これにより、通信制御部70の遠隔接続要求受信部71は、電子黒板2cから、参加の終了要求を受信し、遠隔接続処理部81に、電子黒板2cのIPアドレスとともに参加の終了要求を出力する。そして、電子黒板2aの遠隔接続処理部81は、遠隔接続要求受信部71から送られて来たIPアドレスに基づいて、参加拠点管理テーブル820から、参加の終了要求を行った電子黒板2cのIPアドレス及び電子黒板2cが設置されている拠点の名称を削除し、遠隔接続結果送信部72に、電子黒板2cのIPアドレス及び削除した旨の通知を出力する。
次に、遠隔接続結果送信部72を含んだ通信制御部70が、通信ネットワーク9を介して、電子黒板2cのクライアント部20における通信制御部60に、参加の終了を指示する(ステップS48)。これにより、電子黒板2cにおける通信制御部60の遠隔参加処理部62が、遠隔共有処理の通信を切断することで、参加の終了処理を行うことで、参加が終了する(ステップS49)。
図19は、図3に示すストローク処理部32とUI画像生成部33の詳細な構成を示す図である。
図19に示すストローク処理部32は、ストロークOCR処理部322を備えている。
上述したように、ストローク処理部32は、イベント振分部25によって割り振られたストローク描画に係るイベントに基づいて、画像を描画したり、描画された画像を削除したり、描画された画像を編集する。これに加えて、ストロークOCR処理部322は、イベント振分部25によって割り振られたストローク描画に係るイベントに基づいて、描画された画像をOCR処理してテキストを出力する。
ストロークOCR処理部322は、OCR入力の認識精度を向上するため、OCRガイド生成部333により画面内の一部に筆記領域(図22)を表示させ、筆記領域内に手書き入力された文字や記号を表す画像をテキスト化する。ストロークOCR処理部322は、OCRのための手書き認識エンジンとして、例えばタブレットPC入力パネルで使用されているマイクロソフト社の手書き認識エンジン(Ink API)を使用すればよい。
また、図19に示すUI画像生成部33は、グリッド生成部332、OCRガイド生成部333を備えている。
上述したように、UI画像生成部33は、電子黒板2に予め設定されているUI(ユーザインターフェース)画像を生成する。このUI画像は、図20に示されているUI画像(A)に相当する。UI画像生成部33は、電子黒板2aとの接続を確立するための接続情報を生成し、映像重畳部28が、UI画像生成部33から表示合成部36を介して得た接続情報をディスプレイ3aに表示させる。
グリッド生成部332は、予め設定されているサイズのグリッドを生成し、表示合成部36を介して得た接続情報をディスプレイ3aに表示させる。グリッド生成部332は、表示画面に所定の間隔を置いた縦線及び横線をグリッドとして生成して表示する。
OCRガイド生成部333は、グリッドの縦線及び横線に筆記領域が重なるように筆記領域を生成する。OCRガイド生成部333は、筆記領域のサイズを他のサイズに変更した場合でも、グリッドの縦線及び横線に筆記領域が重なるように筆記領域を生成する。OCRガイド生成部333は、OCR入力時にユーザの入力操作を支援するために、表示画面の一部に指示体による筆記軌跡の入力を可能とする筆記領域を生成し、表示合成部36を介して得た接続情報をディスプレイ3aに表示させる。
図20は、ディスプレイ3上に表示されたUI画像の一例を示す図である。
図20に示すツールバー200内のツールボタン202を押下すると、ツールボックス204がUI画像(A)として表示される。図20に示すように、ツールボックス204には、OCR入力ボタン210、サイズ1選択ボタン211、サイズ2選択ボタン212、サイズ3選択ボタン213、サイズ4選択ボタン214が表示されている。
OCR入力ボタン210が押下されると、OCRガイド生成部333により筆記領域が生成され、画面上に外枠で囲まれた筆記領域220(図22)が表示される。この筆記領域220内に対して、ユーザのペン操作により筆記されると、この筆記に応じて文字や記号を表すストローク画像がストローク画像(B)のレイヤに描画され、さらに、ペンアップイベントがあってからT1秒経過してもペンダウンイベントがなかった場合には、ストロークOCR処理部322が筆記領域220内に手書きされた文字や記号を表すストローク画像をテキスト化する。
また、テキストのサイズは、サイズ1選択ボタン211、サイズ2選択ボタン212、サイズ3選択ボタン213、もしくはサイズ4選択ボタン214を押下して選択する。図20ではサイズ2が選択されている。またOCR以外の入力モード(例えば、手書きモード)が選択されると筆記領域220は非表示になる。
図21は、図20に示すサイズ4選択ボタン214が押下されたときの画面例を示す図である。図20に示すグリッドのサイズ選択ボタンの内、サイズ1が最小でありサイズ4が最大である。図21ではテキストのサイズに応じて筆記領域も大きくなる。テキストに対する筆記領域のサイズは固定値であり、各サイズを選択するボタンを押下する度にボタンに対応するサイズで描画する。
OCR入力時に認識精度を上げるために筆記領域内に手書き入力をする必要がある。このため、OCR入力ボタン210を押下し、OCRガイド生成部333により筆記領域220を表示する場合に、アニメーション付きで表示することで筆記領域220の存在をユーザに意識させる。すなわち、OCRガイド生成部333は、筆記領域220の外周部を表す外枠に対して、表示と非表示とを繰り返すようにすればよい。
このように、筆記領域220の表示と非表示とを交互に繰り返すことで、ユーザが筆記する際の意識を筆記領域220へ向けさせることができる。このため、手書き時の使い易さを向上することができ、且つ後続する文字認識の対象となるストローク画像の入力精度を向上することができる。
図22は、グリッド表示ボタン224が押下されグリッドが表示されたことを示す図である。
グリッド表示ボタン224を押下すると、グリッド生成部332により画面上にグリッド228(図22)が生成され表示合成部36から表示される。また、グリッド非表示ボタン226を押下すると、グリッド生成部332により、図23に示すようにグリッドが非表示になる。
また、筆記ボタン230を押下すると、筆記領域220へ手書きストロークを入力できる状態になる。
図20において、OCR入力ボタン210が押下されると、図22に示すように、筆記領域220とグリッドが同時に表示される。このとき、筆記領域220に対してグリッドが交差すると、筆記領域220とグリッドと見難くなるため、ユーザが正確に筆記領域220内に手書きストロークを入力できず、その結果、OCRの認識精度が低下する場合がある。
図24(a)(b)は、筆記領域の変形例の一例を示す図である。
筆記領域220、通常、図24(a)に示すように等幅で表示されてもよい。一方、OCR入力に用いる筆記領域は、入力領域の外縁線を示すものであるため、等幅で表示するとは限らない。例えば、日本語や中国語においては、縦方向が長い筆記領域の方が容易に入力できる場合がある。
図24(b)に筆記領域220のサイズの縦横比を3:2にした場合の一例を示す。図24(b)ではサイズ1が筆記領域の1単位(例えば、1文字分の筆記が可能な領域)とすると、筆記領域220aの縦幅が3、横幅が2の割合となる。筆記領域220b(サイズ2)、筆記領域220c(サイズ3)、筆記領域220d(サイズ4)では、それぞれサイズ1の2倍、3倍、4倍に設定する。筆記領域220a〜220dは、長方形状の内部領域を筆記領域としている。
筆記領域220a〜220dがグリッドの縦線及び横線に重なる(交差することなく)ように配置され、筆記領域220の外周を示す枠部がグリッド線の太さよりも太く表示され、筆記領域220の内部領域に筆記することを促している。
グリッド生成部332は、表示画面に所定の間隔を置いた縦線及び横線をグリッドとして生成して表示し、ガイド生成部332は、グリッドの縦線及び横線に筆記領域220が重なるように筆記領域220を生成する。これにより、ユーザが筆記する際の意識を筆記領域220内のグリッドへ向けさせることができる。このため、手書き時の使い易さを向上することができ、且つ後続する文字認識の対象となるストローク画像の入力精度を向上することができる。
OCRガイド生成部333は、筆記領域220のサイズを他のサイズに変更した場合でも、グリッドの縦線及び横線に筆記領域220が重なるように筆記領域220を生成するので、ユーザが筆記する際の意識を筆記領域220内のグリッドへ向けさせることができる。このため、手書き時の使い易さを向上することができ、且つ後続する文字認識の対象となるストローク画像の入力精度を向上することができる。
グリッド生成部332は、グリッドの縦線同士の間隔、及び横線同士の間隔が夫々に他の間隔に変更された場合でも、OCRガイド生成部333は、グリッドの縦線及び横線に筆記領域220が重なるように筆記領域220を生成することができる。これにより、グリッドの縦線同士の間隔、及び横線同士の間隔が夫々に他の間隔に変更されたことに関わりなく、ユーザが筆記する際の意識を筆記領域220内のグリッドへ向けさせることができる。このため、手書き時の使い易さを向上することができ、且つ後続する文字認識の対象となるストローク画像の入力精度を向上することができる。
また、筆記領域220が長方形状の内部領域であるので、表示画面の縦方向及び横方向に沿った筆記領域220となる。このため、手書き時の使い易さを向上することができ、且つ後続する文字認識の対象となるストローク画像の入力精度を向上することができる。
図25は、筆記領域内に「本日の議題」という文字が筆記された後にOCR処理が実行され、文字認識の結果を表すテキストデータが表示されている様子を示す図である。
図26は、それぞれ図20、図21におけるOCR入力時においてグリッドも表示した一例を示す図である。サイズ1とサイズ2の筆記領域の外縁線がそれぞれグリッドと交差しないため、筆記領域とグリッドともに見やすく、その結果、ユーザが手書き入力を効率的に行えるようになる。
なお、図示しないが、上述した規則で筆記領域とグリッドを表示することで、サイズ2とサイズ3でも筆記領域がグリッドと重なるように表示することができる。
図27は、本発明の実施形態に係る電子情報ボード装置の動作を示すフローチャートである。
まず、ステップS5では、イベント振分部25は、OCR入力ボタン210が押下されたか否かを判断する。OCR入力ボタンが押下された場合にはステップS10に進む。
次いで、ステップS10では、OCRガイド生成部333は、筆記領域220を間欠的に表示する間欠表示モードに設定する。これにより、OCRガイド生成部333は、筆記領域220の表示と非表示とを交互に繰り返す。
次いで、ステップS15では、イベント振分部25はグリッド表示ボタン224が押下されたか否かを判断する。グリッド表示ボタン224が押下された場合にはステップS20に進む。一方、グリッド表示ボタン224が押下されていない場合にはステップS30に進む。
ステップS20では、サイズ選択ボタンに応じたサイズのグリッドを表示する
次いで、ステップS25では、イベント振分部25は、サイズ選択ボタンが押下されたか否かを判断する。サイズ選択ボタンが押下された場合にはステップS20に戻る。一方、サイズ選択ボタンが押下されていない場合にはステップS30に進む。
ステップS30では、座標検知部22及び接触検知部24からイベント振分部25を介して、操作データとしての筆記座標を検知する。この際、ユーザが電子ペン4bを用いて電子黒板2bにストローク画像(B)を描画する。
ステップS35では、筆記座標に基づいて、筆記画像を生成して筆記領域内のストローク画像(B)のレイヤに表示する。すなわち、表示合成部36は、図16に示すように、UI画像(A)、及び出力画像(C)に対して、ストローク画像(B)を重畳し、映像重畳部28が電子黒板2のディスプレイ3上に、重畳された重畳画像(A、B、C)を表示させる。具体的には、電子黒板2のストローク処理部32が座標検知部21及び接触検知部24からイベント振分部25を介して、操作データとしてのストローク画像(B)のデータを受信し、表示合成部36に送信する。これにより、表示合成部36は、UI画像(A)、及び出力画像(C)に対して、ストローク画像(B)を重畳することができ、映像重畳部28が電子黒板2のディスプレイ3上に重畳画像(A、B、C)を表示させることができる。
このように、表示画面の一部に指示体による筆記軌跡の入力を可能とする筆記領域220を表示しておき、筆記領域220内を移動する指示体の筆記座標を検知し、筆記座標に基づいて、ストローク画像を生成して筆記領域220内に表示する。これにより、手書き時の使い易さを向上することができ、且つ後続する文字認識の対象となるストローク画像の入力精度を向上することができる。
次いで、ステップS40では、ストロークOCR処理部322は、イベント処理部25から取得したイベントにペンアップイベントがあってからT1秒経過してもペンダウンイベントがない状態か否かを判断する。ペンアップイベントがあってからT1秒経過する以前にペンダウンイベントがあった場合にはステップS30に戻り、上述した処理を繰り返す。なお、T1秒については、実験的に求めた値を最適値としてデフォルト値に設定しておき、ユーザの必要に応じて変更できるようにしてもよい。
一方、ペンアップイベントがあってからT1秒経過してもペンダウンイベントがなかった場合にはステップS45に進む。
ステップS45では、ストロークOCR処理部322は、筆記領域220内に描画されたストローク画像(B)に対して文字認識を行ってテキストデータを表示合成部36に出力する。
ステップS50では、表示合成部36は、テキストデータをテキストデータに対応したキャラクタ画像に変換し、キャラクタ画像を筆記領域220内に筆記された筆記画像と略同一の位置、且つストローク画像(B)のレイヤとは異なる出力画像(C)のレイヤの表示画面に表示する。
ステップS55では、表示合成部36は、表示画面のUI画像(A)のレイヤに表示されている筆記領域220、ストローク画像(B)のレイヤに表示されている筆記画像を削除する。
このように、筆記領域220内に筆記された筆記画像に基づいて、文字認識を行ってテキストデータを出力し、このテキストデータを、筆記領域220内に筆記された筆記画像の略同一の位置、且つ筆記画像のレイヤとは異なるレイヤの表示画面に表示することで、筆記画像の略同一の位置に文字認識結果であるテキストデータの表示位置を合わせることができ、テキストデータに表示精度を向上することができる。
このように、テキストデータを表示画面に表示した場合に、表示画面に表示されている筆記領域220を削除し、且つ表示画面に表示されている筆記画像を削除するので、削除された筆記領域220内の位置にテキストデータのみが表示さ、手書き時の使い易さを向上することができる。
以上のように、OCR入力時に筆記領域を表示する場合に、筆記領域の外縁線の表示、非表示を交互に繰り返すアニメーション表示を行うことで、ユーザに筆記領域を意識付けることができ、手書きストロークを筆記領域内に書き込むことを促進できるので、その結果、手書きストロークをテキスト化した際の認識精度を向上することができる。
筆記領域のサイズを変更した場合でも、筆記領域の外縁線とグリッドとが重なるように縦横サイズを定めることで、筆記領域の外縁線とグリッドとの視認性が向上し、その結果、手書きストローク画像をテキスト化する際の認識精度と手書き時の使い易さを向上することができる。
<本発明の実施態様例の構成、作用、効果>
<第1態様>
本態様の電子黒板2(電子情報ボード装置)は、画面の筆記領域を移動する指示体の筆記座標を検知する座標検知部22(座標検知手段)と、筆記座標に基づいて、ストローク画像を生成して筆記領域220内に表示する表示合成部36(画像描画手段)と、を備えることを特徴とする。
本態様によれば、表示画面の一部に指示体による筆記軌跡の入力を可能とする筆記領域220を表示しておき、筆記領域220内を移動する指示体の筆記座標を検知し、筆記座標に基づいて、ストローク画像を生成して筆記領域220内に表示する。これにより、手書き時の使い易さを向上することができ、且つ後続する文字認識の対象となるストローク画像の入力精度を向上することができる。
<第2態様>
本態様の筆記領域220は、表示と非表示とを交互に繰り返すことを特徴とする。
本態様によれば、筆記領域220が表示と非表示とを交互に繰り返すことで、ユーザが筆記する際の意識を筆記領域220へ向けさせることができる。このため、手書き時の使い易さを向上することができ、且つ後続する文字認識の対象となるストローク画像の入力精度を向上することができる。
<第3態様>
本態様の電子黒板2(電子情報ボード装置)は、表示画面に所定の間隔を置いた縦線及び横線をグリッドとして生成し、筆記領域220は、グリッドの縦線及び横線に筆記領域220が重なるように生成されることを特徴とする。
本態様によれば、表示画面に所定の間隔を置いた縦線及び横線をグリッドとして生成し、筆記領域220は、グリッドの縦線及び横線に筆記領域220が重なるように生成されることで、ユーザが筆記する際の意識を筆記領域220内のグリッドへ向けさせることができる。このため、手書き時の使い易さを向上することができ、且つ後続する文字認識の対象となるストローク画像の入力精度を向上することができる。
<第4態様>
本態様の筆記領域220は、サイズが他のサイズに変更した場合でも、グリッドの縦線及び横線に筆記領域220が重なるように筆記領域220を生成することを特徴とする。
本態様によれば、筆記領域220は、サイズが他のサイズに変更した場合でも、グリッドの縦線及び横線に筆記領域220が重なるように筆記領域220を生成することで、ユーザが筆記する際の意識を筆記領域220内のグリッドへ向けさせることができる。このため、手書き時の使い易さを向上することができ、且つ後続する文字認識の対象となるストローク画像の入力精度を向上することができる。
<第5態様>
本態様のグリッドは、縦線同士の間隔、及び横線同士の間隔が夫々に他の間隔に変更された場合でも、OCRガイド生成部333(ガイド生成手段)は、グリッドの縦線及び横線に筆記領域220が重なるように筆記領域220を生成することを特徴とする。
本態様によれば、グリッドの縦線同士の間隔、及び横線同士の間隔が夫々に他の間隔に変更された場合でも、グリッドの縦線及び横線に筆記領域220が重なるように筆記領域220を生成することで、
グリッドの縦線同士の間隔、及び横線同士の間隔が夫々に他の間隔に変更されたことに関わりなく、ユーザが筆記する際の意識を筆記領域220内のグリッドへ向けさせることができる。このため、手書き時の使い易さを向上することができ、且つ後続する文字認識の対象となるストローク画像の入力精度を向上することができる。
<第6態様>
本態様の電子黒板2(電子情報ボード装置)は、筆記領域220内に筆記された筆記画像に基づいて、文字認識を行ってテキストデータを出力するストロークOCR処理部322(文字認識手段)と、ストロークOCR処理部322から取得したテキストデータを、筆記領域220内に筆記された筆記画像の略同一の位置、且つ筆記画像のレイヤとは異なるレイヤの表示画面に表示する表示合成部36(表示合成手段)と、を備えることを特徴とする。
本態様によれば、筆記領域220内に筆記された筆記画像に基づいて、文字認識を行ってテキストデータを出力し、このテキストデータを、筆記領域220内に筆記された筆記画像の略同一の位置、且つ筆記画像のレイヤとは異なるレイヤの表示画面に表示することで、筆記画像の略同一の位置に文字認識結果であるテキストデータの表示位置を合わせることができ、テキストデータに表示精度を向上することができる。
<第7態様>
本態様の電子黒板2(電子情報ボード装置)は、ストロークOCR処理部322(文字認識手段)から取得したテキストデータを表示画面に表示した場合に、筆記領域220を削除し、筆記画像を削除することを特徴とする。
本態様によれば、テキストデータを表示画面に表示した場合に、筆記領域220を削除し、筆記画像を削除するので、削除された筆記領域220内の位置にテキストデータのみが表示さ、手書き時の使い易さを向上することができる。
<第8態様>
本態様の第1態様乃至第7態様の何れか1つに記載の電子黒板2(電子情報ボード装置)による情報処理方法であって、表示画面の一部に指示体による筆記軌跡の入力を可能とする筆記領域220を表示するガイド生成ステップ(S10)と、筆記領域220内を移動する指示体の筆記座標を検知する座標検知ステップ(S30)と、筆記座標に基づいて、ストローク画像を生成して筆記領域220内に表示する画像描画ステップ(S35)と、を実行することを特徴とする。
本態様によれば、表示画面の一部に指示体による筆記軌跡の入力を可能とする筆記領域220を表示しておき、筆記領域220内を移動する指示体の筆記座標を検知し、筆記座標に基づいて、ストローク画像を生成して筆記領域220内に表示することで、手書き時の使い易さを向上することができ、且つ後続する文字認識の対象となるストローク画像の入力精度を向上することができる。
<第9態様>
本態様の第8態様記載の各ステップをプロセッサに実行させることを特徴とする。
本態様によれば、各ステップをプロセッサに実行させることができる。
2…電子黒板、3…ディスプレイ、21…座標検知部、24…接触検知部25…イベント振分部、28…映像重畳部、32…ストローク処理部、33…UI画像生成部、36…表示合成部、200…ツールバー、202…ツールボタン、204…ツールボックス、210…OCR入力ボタン、211…サイズ1選択ボタン、212…サイズ2選択ボタン、213…サイズ3選択ボタン、214…サイズ4選択ボタン、220…筆記領域、224…グリッド表示ボタン、226…グリッド非表示ボタン、228…グリッド、230…筆記ボタン、322…ストロークOCR処理部、333…OCRガイド生成部、332…グリッド生成部
特許第5625615号

Claims (9)

  1. 画面の筆記領域を移動する指示体の座標を検知する座標検知手段と、
    前記座標に基づいて、ストローク画像を生成して前記筆記領域に表示する画像描画手段と、を備えることを特徴とする電子情報ボード装置。
  2. 前記筆記領域は、表示と非表示とを交互に繰り返すことを特徴とする請求項1に記載の電子情報ボード装置。
  3. 前記画面に所定の間隔を置いた縦線及び横線をグリッドとして生成し、
    前記筆記領域は、前記グリッドの縦線及び横線に前記筆記領域が重なるように生成されることを特徴とする請求項1又は2に記載の電子情報ボード装置。
  4. 前記筆記領域は、サイズが他のサイズに変更した場合でも、前記グリッドの縦線及び横線に前記筆記領域が重なるように前記筆記領域を生成することを特徴とする請求項3に記載の電子情報ボード装置。
  5. 前記グリッドは、縦線同士の間隔、及び横線同士の間隔が夫々に他の間隔に変更された場合でも、前記ガイド生成手段は、前記グリッドの縦線及び横線に前記筆記領域が重なるように前記筆記領域を生成することを特徴とする請求項3に記載の電子情報ボード装置。
  6. 前記筆記領域内に筆記された筆記画像に基づいて、文字認識を行ってテキストデータを出力する文字認識手段と、
    前記文字認識手段から取得したテキストデータを、前記筆記領域内に筆記された筆記画像の略同一の位置、且つ前記筆記画像のレイヤとは異なるレイヤの画面に表示する表示合成手段と、を備えることを特徴とする請求項1乃至5の何れか1項に記載の電子情報ボード装置。
  7. 前記文字認識手段から取得したテキストデータを前記画面に表示した場合に、前記筆記領域を削除し、前記筆記画像を削除することを特徴とする請求項6に記載の電子情報ボード装置。
  8. 請求項1乃至7の何れか1項に記載の電子情報ボード装置による情報処理方法であって、
    表示画面の一部に指示体による筆記軌跡の入力を可能とする筆記領域を表示するガイド生成ステップと、
    前記筆記領域内を移動する指示体の筆記座標を検知する座標検知ステップと、
    前記筆記座標に基づいて、ストローク画像を生成して前記筆記領域内に表示する画像描画ステップと、を実行することを特徴とする情報処理方法。
  9. 請求項8に記載の各ステップをプロセッサに実行させることを特徴とするプログラム。
JP2015008608A 2015-01-20 2015-01-20 電子情報ボード装置、情報処理方法およびプログラム Pending JP2016134014A (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2015008608A JP2016134014A (ja) 2015-01-20 2015-01-20 電子情報ボード装置、情報処理方法およびプログラム
CN201680006397.2A CN107209633A (zh) 2015-01-20 2016-01-15 电子信息板设备和方法
PCT/JP2016/000207 WO2016117321A1 (en) 2015-01-20 2016-01-15 Electronic information board apparatus and method
EP16739931.0A EP3248094A4 (en) 2015-01-20 2016-01-15 Electronic information board apparatus and method
US15/632,578 US10572779B2 (en) 2015-01-20 2017-06-26 Electronic information board apparatus, information processing method, and computer program product

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015008608A JP2016134014A (ja) 2015-01-20 2015-01-20 電子情報ボード装置、情報処理方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2016134014A true JP2016134014A (ja) 2016-07-25

Family

ID=56416875

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015008608A Pending JP2016134014A (ja) 2015-01-20 2015-01-20 電子情報ボード装置、情報処理方法およびプログラム

Country Status (5)

Country Link
US (1) US10572779B2 (ja)
EP (1) EP3248094A4 (ja)
JP (1) JP2016134014A (ja)
CN (1) CN107209633A (ja)
WO (1) WO2016117321A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108241861A (zh) * 2018-01-05 2018-07-03 新华智云科技有限公司 一种数据可视化方法及设备
CN112990134A (zh) * 2021-04-29 2021-06-18 北京世纪好未来教育科技有限公司 图像仿真方法、装置、电子设备及存储介质
US11687232B2 (en) 2021-03-10 2023-06-27 Ricoh Company, Ltd. Display apparatus, display method, and non-transitory recording medium
US11816327B2 (en) 2021-03-03 2023-11-14 Ricoh Company, Ltd. Display apparatus, method for displaying, and non-transitory recording medium

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106462142B (zh) * 2014-06-19 2019-03-29 株式会社牧野铣床制作所 机床的控制装置
JP6387207B1 (ja) * 2016-12-30 2018-09-05 株式会社ワコム デジタルインクの符号化方法、復号化方法
JP6957918B2 (ja) 2017-03-22 2021-11-02 カシオ計算機株式会社 情報表示装置、情報表示方法、及びプログラム
JP6888357B2 (ja) * 2017-03-22 2021-06-16 カシオ計算機株式会社 情報表示装置、情報表示方法、及びプログラム
JP6911432B2 (ja) 2017-03-23 2021-07-28 カシオ計算機株式会社 情報表示装置、情報表示装置の制御方法、及び情報表示装置の制御プログラム
JP6958226B2 (ja) * 2017-10-23 2021-11-02 富士フイルムビジネスイノベーション株式会社 情報処理装置及びプログラム
US11132122B2 (en) 2019-04-11 2021-09-28 Ricoh Company, Ltd. Handwriting input apparatus, handwriting input method, and non-transitory recording medium
US11551480B2 (en) 2019-04-11 2023-01-10 Ricoh Company, Ltd. Handwriting input apparatus, handwriting input method, program, and input system
CN110221801A (zh) * 2019-06-05 2019-09-10 京东方科技集团股份有限公司 电子桌牌终端及控制方法、系统、操作终端及控制方法
US11733830B2 (en) 2019-11-20 2023-08-22 Ricoh Company, Ltd. Display apparatus for displaying handwritten data with displayed operation menu
CN111147880A (zh) * 2019-12-30 2020-05-12 广州华多网络科技有限公司 视频直播的互动方法、装置、系统、电子设备及存储介质
CN114092945B (zh) * 2022-01-21 2022-04-19 广州文石信息科技有限公司 一种基于墨水屏的手写输入方法及装置
TW202344979A (zh) * 2022-05-09 2023-11-16 日商和冠股份有限公司 電腦

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06284240A (ja) * 1993-03-25 1994-10-07 Matsushita Electric Ind Co Ltd 伝言型電子黒板装置
JP2000043485A (ja) * 1998-07-31 2000-02-15 Ricoh Co Ltd 電子黒板システム
JP2001026195A (ja) * 2000-01-01 2001-01-30 Fujitsu Ltd 電子黒板および電子黒板の表示制御装置
US20060012561A1 (en) * 2004-07-13 2006-01-19 International Business Machines Corporation Electronic whiteboard
JP2013097737A (ja) * 2011-11-04 2013-05-20 Sharp Corp 表示装置および表示プログラム

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7194471B1 (en) 1998-04-10 2007-03-20 Ricoh Company, Ltd. Document classification system and method for classifying a document according to contents of the document
JP2000285140A (ja) 1998-12-24 2000-10-13 Ricoh Co Ltd 文書処理装置、文書分類装置、文書処理方法、文書分類方法およびそれらの方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体
US20110179531A1 (en) * 2000-05-09 2011-07-21 Kovalic David K Nucleic acid molecules and other molecules associated with plants and uses thereof for plant improvement
US20050175242A1 (en) 2003-04-24 2005-08-11 Fujitsu Limited Online handwritten character input device and method
CN1689028A (zh) * 2003-04-24 2005-10-26 富士通株式会社 联机手写字符输入装置和方法
JP4717743B2 (ja) 2005-08-23 2011-07-06 株式会社リコー 情報処理装置
US7958135B2 (en) 2005-09-06 2011-06-07 Ricoh Company, Ltd. Information processing apparatus, information recording system, information recording method, and computer-readable medium storing program
JP2008102911A (ja) 2006-09-19 2008-05-01 Ricoh Co Ltd 情報処理装置、情報処理方法、プログラム及び記録媒体
JP2009245418A (ja) 2008-03-13 2009-10-22 Ricoh Co Ltd 画像読取蓄積システム、画像読取蓄積方法、プログラム及び記憶媒体
JP4385169B1 (ja) * 2008-11-25 2009-12-16 健治 吉田 手書き入出力システム、手書き入力シート、情報入力システム、情報入力補助シート
JP2010239469A (ja) 2009-03-31 2010-10-21 Oki Networks Co Ltd 手書き入力表示装置及びホワイトボード共用システム
US9213446B2 (en) * 2009-04-16 2015-12-15 Nec Corporation Handwriting input device
JP5488082B2 (ja) * 2010-03-17 2014-05-14 セイコーエプソン株式会社 情報認識システム及びその制御方法
JP5625615B2 (ja) 2010-08-20 2014-11-19 株式会社リコー 電子情報ボード装置
JP5644266B2 (ja) 2010-08-30 2014-12-24 株式会社リコー 電子黒板システム、電子黒板装置、電子黒板システムの制御方法及びプログラム
CN102156609B (zh) 2010-12-10 2012-12-19 上海合合信息科技发展有限公司 一种重叠书写的手写输入方法
CN102141892B (zh) * 2011-03-28 2013-01-02 安徽科大讯飞信息科技股份有限公司 叠加手写输入显示方法及系统
JP5849673B2 (ja) 2011-12-09 2016-02-03 株式会社リコー 電子情報ボード装置
JP5935456B2 (ja) 2012-03-30 2016-06-15 株式会社リコー 画像処理装置
JP2013239147A (ja) 2012-04-20 2013-11-28 Ricoh Co Ltd 表示制御装置
US20140040767A1 (en) * 2012-08-03 2014-02-06 Oracle International Corporation Shared digital whiteboard
JP5991281B2 (ja) 2013-03-01 2016-09-14 株式会社リコー 画像処理装置、画像処理システム、画像処理方法及びプログラム
JP6109625B2 (ja) * 2013-04-04 2017-04-05 株式会社東芝 電子機器およびデータ処理方法
US9423890B2 (en) * 2013-06-28 2016-08-23 Lenovo (Singapore) Pte. Ltd. Stylus lexicon sharing

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06284240A (ja) * 1993-03-25 1994-10-07 Matsushita Electric Ind Co Ltd 伝言型電子黒板装置
JP2000043485A (ja) * 1998-07-31 2000-02-15 Ricoh Co Ltd 電子黒板システム
JP2001026195A (ja) * 2000-01-01 2001-01-30 Fujitsu Ltd 電子黒板および電子黒板の表示制御装置
US20060012561A1 (en) * 2004-07-13 2006-01-19 International Business Machines Corporation Electronic whiteboard
JP2013097737A (ja) * 2011-11-04 2013-05-20 Sharp Corp 表示装置および表示プログラム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108241861A (zh) * 2018-01-05 2018-07-03 新华智云科技有限公司 一种数据可视化方法及设备
US11816327B2 (en) 2021-03-03 2023-11-14 Ricoh Company, Ltd. Display apparatus, method for displaying, and non-transitory recording medium
US11687232B2 (en) 2021-03-10 2023-06-27 Ricoh Company, Ltd. Display apparatus, display method, and non-transitory recording medium
CN112990134A (zh) * 2021-04-29 2021-06-18 北京世纪好未来教育科技有限公司 图像仿真方法、装置、电子设备及存储介质
CN112990134B (zh) * 2021-04-29 2021-08-20 北京世纪好未来教育科技有限公司 图像仿真方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
US10572779B2 (en) 2020-02-25
EP3248094A1 (en) 2017-11-29
EP3248094A4 (en) 2018-01-24
WO2016117321A1 (en) 2016-07-28
US20170293826A1 (en) 2017-10-12
CN107209633A (zh) 2017-09-26

Similar Documents

Publication Publication Date Title
JP2016134014A (ja) 電子情報ボード装置、情報処理方法およびプログラム
JP6094550B2 (ja) 情報処理装置、プログラム
JP6447066B2 (ja) 画像処理装置、画像処理方法、及びプログラム
EP3251055B1 (en) Information processing apparatus and program
JP6724358B2 (ja) 電子黒板、プログラム、データ表示方法、画像処理システム
JP6493546B2 (ja) 電子黒板、記憶媒体、及び情報表示方法
JP5846270B2 (ja) 画像処理システム、情報処理装置
JP6402826B2 (ja) 情報処理装置、画像表示方法、プログラム
JP6504256B2 (ja) 電子黒板、電子黒板の画像処理方法、及び電子黒板のプログラムを記録した記録媒体
JP2016139322A (ja) 画像処理装置及びそれを備えた電子黒板
JP2017076207A (ja) 画像処理装置及び画像処理システム
JP6631643B2 (ja) 画像処理装置、画像処理システム及び画像処理方法
JP6036621B2 (ja) システム、情報処理装置
WO2016121403A1 (en) Information processing apparatus, image processing system, and program
WO2015186453A1 (ja) 座標検知装置、画像処理装置、及び座標検知方法
JP7388159B2 (ja) 表示装置、表示方法
JP7363064B2 (ja) 画像処理装置、方法、およびプログラム
JP7383959B2 (ja) 表示装置、使用方法提供方法、プログラム、画像処理システム
JP2016076775A (ja) 画像処理装置、画像処理システム、画像処理方法、及びプログラム
JP2015056038A (ja) 画像処理装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180925

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190319