JP2019046310A - 情報処理システム、端末装置、情報処理方法及び情報処理プログラム - Google Patents

情報処理システム、端末装置、情報処理方法及び情報処理プログラム Download PDF

Info

Publication number
JP2019046310A
JP2019046310A JP2017170472A JP2017170472A JP2019046310A JP 2019046310 A JP2019046310 A JP 2019046310A JP 2017170472 A JP2017170472 A JP 2017170472A JP 2017170472 A JP2017170472 A JP 2017170472A JP 2019046310 A JP2019046310 A JP 2019046310A
Authority
JP
Japan
Prior art keywords
information
stroke image
predetermined instruction
information processing
attribute information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017170472A
Other languages
English (en)
Other versions
JP6977408B2 (ja
Inventor
香川 正明
Masaaki Kagawa
正明 香川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2017170472A priority Critical patent/JP6977408B2/ja
Priority to US16/104,363 priority patent/US10593077B2/en
Publication of JP2019046310A publication Critical patent/JP2019046310A/ja
Application granted granted Critical
Publication of JP6977408B2 publication Critical patent/JP6977408B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/20Drawing from basic elements, e.g. lines or circles
    • G06T11/203Drawing of straight lines or curves
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)
  • Facsimiles In General (AREA)
  • Drawing Aids And Blackboards (AREA)

Abstract

【課題】操作性を向上させることを目的としている。【解決手段】端末装置を含む情報処理システムであって、所定の指示を受け付ける入力部と、前記所定の指示を受けて、前記所定の指示と対応付けられたストローク画像の属性情報を、前記ストローク画像が示す領域内の情報を抽出対象の情報として識別させる特定の属性情報に変更する属性制御部と、前記所定の指示と対応付けられたストローク画像を、前記特定の属性情報のストローク画像として前記端末装置の有する表示装置に表示させる表示制御部と、を有する。【選択図】図9

Description

本発明は、情報処理システム、端末装置、情報処理方法及び情報処理プログラムに関する。
従来から、コンピュータに表示された画面の映像や、ファイル、文字や数字、図形等を、会議中等の参加者に共有させるシステムが知られている。
このようなシステムでは、例えば、端末装置から入力される指示マークに対し、強調を示す入力がされた場合に、参加者に共有される画面上においてこの指示マークを強調表示させる。
しかしながら、上述した従来のようなシステムでは、指示マークの強調を入力する場合には、指示マークを強調表示とするための設定画面を表示させ、強調表示のさせ方を選択する操作等が必要となり、会議等の円滑な遂行に支障をきたす可能性がある。
本発明は、上記事情に鑑みてなされたものであり、操作性を向上させることを目的としている。
本発明は、端末装置を含む情報処理システムであって、所定の指示を受け付ける入力部と、前記所定の指示を受けて、前記所定の指示と対応付けられたストローク画像の属性情報を、前記ストローク画像が示す領域内の情報を抽出対象の情報として識別させる特定の属性情報に変更する属性制御部と、前記所定の指示と対応付けられたストローク画像を、前記特定の属性情報のストローク画像として前記端末装置の有する表示装置に表示させる表示制御部と、を有する情報処理システムである。
操作性を向上させることができる。
第一の実施形態の情報処理システムのシステム構成の一例を示す図である。 電子黒板のハードウェア構成の一例を示す図である。 サーバ装置のハードウェア構成の一例を示す図である。 利用者が電子黒板を利用する状態を示したイメージ図である。 第一の実施形態の情報処理システムの有する各装置の機能構成を説明する図である。 第一の実施形態のコンテンツデータベースの一例を示す図である。 第一の実施形態の属性データベースの一例を示す図である。 第一の実施形態の重要事項データベースの一例を示す図である。 第一の実施形態の情報処理システムの動作を示すシーケンス図である。 第一の実施形態の所定の指示を説明する図である。 第一の実施形態の重要事項情報の一例を示す図である。 第二の実施形態の情報処理システムの有する各装置の機能構成を説明する図である。 第二の実施形態の情報処理システムの動作を示すシーケンス図である。 第二の実施形態の所定の指示を説明する図である。 第三の実施形態の情報処理システムの有する各装置の機能構成を説明する図である。 第四の実施形態の情報処理システムの有する各装置の機能構成を説明する図である。 第五の実施形態の情報処理システムを説明する図である。 情報処理システムの変形例を示す第一の図である。 情報処理システムの変形例を示す第二の図である。 情報処理システムの変形例を示す第三の図である。
(第一の実施形態)
以下に図面を参照して、第一の実施形態について説明する。図1は、第一の実施形態の情報処理システムのシステム構成の一例を示す図である。
本実施形態の情報処理システム100は、電子黒板(電子情報ボード)200と、サーバ装置300と、を有する。情報処理システム100において、電子黒板200とサーバ装置300とは、ネットワークNを介して接続される。つまり、本実施形態の情報処理システム100は、電子黒板200を含む複数の装置を有する情報処理システムである。
本実施形態の情報処理システム100において、電子黒板200は、手書き入力された文字や画像等を示すストローク情報、電子黒板200の画面をキャプチャした画像データ、マイク等の集音装置よって集音された音声データ等を、サーバ装置300に送信する。尚、本実施形態の電子黒板200は、ストローク情報や画像データ、音声データを取得したときの日時を、取得した情報と対応付けてサーバ装置300に送信しても良い。
また、電子黒板200は、複数の端末装置と通信が可能であり、各端末装置から画像データや音声データを取得しても良い。この場合、電子黒板200に表示される画像は、複数の端末装置によって共有されても良く、電子黒板200は、複数の端末装置に共有される画面を表示させる共有端末となる。
以下の説明では、電子黒板200からサーバ装置300に送信される各種のデータをコンテンツデータと呼ぶ。したがって、本実施形態のコンテンツデータは、音声データ、画像データ、動画データ、ストローク情報と、それぞれの情報を受信した日時を示す情報等を含む。尚、本実施形態のストローク情報とは、タッチパネルに対して手書き入力が行われた場合における、利用者による一画毎の軌跡を示す点群の座標情報である。本実施形態では、一画毎の軌跡を示す点群によって描画される画像がストローク画像となる。
また、例えば、ある会議において使用された場合、本実施形態の電子黒板200は、会議名を特定する情報と、会議中に電子黒板200が取得したコンテンツデータとを対応付けてサーバ装置300へ送信しても良い。
本実施形態のサーバ装置300は、受信したコンテンツデータを格納する。このとき、サーバ装置300では、電子黒板200から取得したコンテンツデータが、会議毎に格納されても良い。また、本実施形態の電子黒板200は、サーバ装置300の有する音声認識機能を用いて、発話データに基づく操作指示(コマンド)を受け付ける音声操作が行われても良い。
尚、本実施形態の音声データは、電子黒板200の周辺で発話した人の声や、人の声以外の様々な音等、集音装置が集音した全ての音を示す波形をデジタル化したデータである。したがって、本実施形態では、電子黒板200の周辺で発話した人の声を示す発話データは、音声データの一部である。
さらに、本実施形態のサーバ装置300は、電子黒板200から受信したコンテンツデータから、電子黒板200を用いて行われた会議等における重要事項を示す重要事項情報を抽出する。
具体的には、サーバ装置300は、サーバ装置300が所定の指示を受け付けると、電子黒板200に入力されるストローク情報に基づき描画される画像を、特定の属性の画像し、特定の属性の画像によって指定される領域の画像データを重要事項情報として抽出する。
以下の説明では、ストローク情報に基づき描画される一画の画像をストローク画像と呼ぶ。また、以下の説明では、電子黒板200に対する手書き入力を受け付けることを、ストローク画像の入力を受け付ける、と表現する。言い換えれば、以下の説明では、電子黒板200が、ディスプレイに対する利用者の手又は電子ペン等の接触を検出してから、利用者の手又は電子ペン等が離れたことを検出するまでの間は、ストローク画像が入力されている状態となる。
また、本実施形態において、特定の属性は、予め設定された属性であり、所定の指示と、特定の属性によって描画されるストローク画像とは、予め対応付けられている。
本実施形態の所定の指示とは、例えば、電子黒板200のディスプレイ上の特定の位置をタップすることや、所定の形状のストローク画像を描画すること、等である。つまり、本実施形態の所定の指示とは、ストローク画像の属性を変更するための特別な操作により受け付けられるものではなく、電子黒板200に対する特定の手書き入力によって受け付けられるものである。尚、ここで言う特別な操作は、ストローク画像の属性を変更するための画面を開いてストローク画像の属性の一覧を表示させ、一覧の中からストローク画像の属性を選択し、一覧が表示された画面を閉じて元の画面を表示させる、といった操作である。
サーバ装置300は、電子黒板200の画面をキャプチャした画像データから、特定の属性のストローク画像によって指定された領域内の画像データを抽出し、抽出された画像データを重要事項情報として保持する。
したがって、本実施形態は、電子黒板200に入力されたストローク画像を強調させる際に、強調表示させるための煩雑な操作が不要となり、操作性を向上させることができる。尚、本実施形態の所定の指示の詳細は、後述される。
また、本実施形態のサーバ装置300は、例えば、電子黒板200からの重要事項情報の表示要求を受けて、重要事項情報を電子黒板200に表示させる。
本実施形態では、コンテンツデータか重要事項情報を抽出して保持しておくことで、電子黒板200を用いた会議の途中や、会議終了時等の任意のタイミングで、会議の参加者に、会議で決定された重要事項を迅速に提示することができる。
つまり、本実施形態のサーバ装置300は、電子黒板200から送信されたコンテンツデータに含まれる重要事項情報を抽出し、電子黒板200に提供する重要事項抽出サービスを提供するものと言える。
以下に、図2及び図3を参照して、本実施形態の情報処理システム100の有する各装置のハードウェア構成について説明する。図2は、電子黒板のハードウェア構成の一例を示す図である。
図2に示されているように、電子黒板200は、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203、SSD(Solid State Drive)204、ネットワークI/F(Interface)205、及び、外部機器接続I/F206を備えた端末装置である。
これらのうち、CPU201は、電子黒板200全体の動作を制御する。尚、CPU201は、例えば、複数のCPUを含んでいても良い。
ROM202は、CPU201やIPL(Initial Program Loader)等のCPU201の駆動に用いられるプログラムを記憶する。RAM203は、CPU201のワークエリアとして使用される。SSD204は、電子黒板用のプログラム等の各種データを記憶する。ネットワークI/F205は、通信ネットワークとの通信を制御する。外部機器接続I/F206は、USB(Universal Serial Bus)メモリ2600、外付け機器(カメラ2400、スピーカ2300、マイク2200)との通信を制御する。
また、電子黒板200は、キャプチャデバイス211、GPU212、ディスプレイコントローラ213、接触センサ214、センサコントローラ215、電子ペンコントローラ216、近距離通信回路219、近距離通信回路219のアンテナ219a、及び電源スイッチ222を備えている。
これらのうち、キャプチャデバイス211は、PC400−1のディスプレイに対して映像情報を静止画または動画として表示させる。GPU(Graphics Processing Unit)212は、グラフィクスを専門に扱う半導体チップである。ディスプレイコントローラ213は、GPU212からの出力画像をディスプレイ230等へ出力するために画面表示の制御及び管理を行う。接触センサ214は、ディスプレイ230上に電子ペン2500や利用者の手H等が接触したことを検知する。
センサコントローラ215は、接触センサ214の処理を制御する。接触センサ214は、赤外線遮断方式による座標の入力及び座標の検出を行う。この座標の入力及び座標の検出する方法は、ディスプレイ230の上側両端部に設置された2つ受発光装置が、ディスプレイ230に平行して複数の赤外線を放射し、ディスプレイ230の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する方法である。接触センサ214は、物体によって遮断された2つの受発光装置が放射した赤外線のIDをセンサコントローラ215に出力し、センサコントローラ215が、物体の接触位置である座標位置を特定する。
電子ペンコントローラ216は、電子ペン2500と通信することで、ディスプレイ230へのペン先のタッチやペン尻のタッチの有無を判断する。近距離通信回路219は、NFC、Bluetooth(登録商標)等の通信回路である。
電源スイッチ222は、電子黒板200の電源のON/OFFを切り換えるためのスイッチである。
また、電子黒板200は、バスライン210を備えている。バスライン210は、図2に示されているCPU201等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
更に、電子黒板200は、RS−232Cポート223、変換コネクタ224、Bluetoothコントローラ225を有する。
RS−232Cポート223は、バスライン210と接続されており、PC400−2等をCPU201等に接続する。変換コネクタ224は、PC400−2のUSB(Universal Serial Bus)ポートに電子黒板200を接続するためのコネクタである。
Bluetoothコントローラ225は、例えば、PC400−1等と、Bluetoothによる通信を行うためのコントローラである。
尚、接触センサ214は、赤外線遮断方式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネル、対向する2つの抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルなどの種々の検出手段を用いてもよい。また、電子ペンコントローラ216が、電子ペン2500のペン先及びペン尻だけでなく、電子ペン2500の利用者が握る部分や、その他の電子ペンの部分のタッチの有無を判断するようにしてもよい。
次に、図3を参照して、本実施形態のサーバ装置300のハードウェア構成について説明する。図3は、サーバ装置のハードウェア構成の一例を示す図である。
サーバ装置300は、コンピュータによって構築されており、図3に示されているように、CPU301、ROM302、RAM303、HD304、HDD(Hard Disk Drive)305、記録メディア306、メディアI/F307、ディスプレイ308、ネットワークI/F309、キーボード311、マウス312、CD−ROMドライブ314、及び、バスライン310を備えた情報処理装置である。
これらのうち、CPU301は、サーバ装置300全体の動作を制御する。また、本実施形態では、CPU301は、複数のCPUを含んでいても良い。
ROM302は、IPL等のCPU301の駆動に用いられるプログラムを記憶する。RAM303は、CPU301のワークエリアとして使用される。HD304は、プログラム等の各種データを記憶する。HDD(Hard Disk Drive)305は、CPU301の制御にしたがってHD304に対する各種データの読み出し又は書き込みを制御する。メディアI/F307は、フラッシュメモリ等の記録メディア306に対するデータの読み出し又は書き込み(記憶)を制御する。ディスプレイ308は、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示する。ネットワークI/F309は、通信ネットワークを利用してデータ通信をするためのインターフェースである。キーボード311は、文字、数値、各種指示などの入力のための複数のキーを備えた入力手段の一種である。マウス312は、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行う入力手段の一種である。CD−ROMドライブ314は、着脱可能な記録媒体の一例としてのCD−ROM(Compact Disc Read Only Memory)313に対する各種データの読み出し又は書き込みを制御する。
また、サーバ装置300は、バスライン310を備えている。バスライン310は、図3に示されているCPU301等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
次に、図4を参照して、本実施形態の電子黒板200を利用する状態について説明する。図4は、利用者が電子黒板を利用する状態を示したイメージ図である。
例えば、利用者Aが電子黒板200を利用する場合、電源スイッチ222を押下すると、後述する表示制御部が、ディスプレイ230上にログイン画面を表示させる。このとき、利用者Aが、電子黒板200の近距離通信回路219に、自身のICカード10を近接させると、電子黒板200は、ICカード10からICカード10の識別情報を読み取る。そして、電子黒板200は、サーバ装置300に対して、ICカード10の識別情報を含む認証要求を送信する。そして、電子黒板200は、サーバ装置300から、利用者Aが認証されたことを示す通知を受けると、利用者Aによって入力された情報をICカード10の識別情報と対応付けてサーバ装置300に保存することができるようになる。
次に、図5を参照して、情報処理システム100の有する各装置の機能について説明する。図5は、第一の実施形態の情報処理システムの有する各装置の機能を説明する図である。
始めに、電子黒板200の機能について説明する。以下に説明する電子黒板200の各部は、電子黒板200の有する1又は複数のCPU201がROM202等に格納されたプログラムを読み出して実行することで実現される。
本実施形態の電子黒板200は、表示制御部260、入力部261、集音部262、ページ記録部263、通信部264、カード読取部265、カード情報対応付け部266、属性設定部267を有する。
本実施形態の表示制御部260は、例えば電子黒板200と接続されたコンピュータから出力される映像や、電子黒板200に入力された各種のファイル、遠隔地に設置された他の電子黒板200に表示されている画像等を、ディスプレイ230に表示させる。また、本実施形態の表示制御部260は、サーバ装置300から受信した属性情報にしたがって、ストローク画像を表示させる。
本実施形態の入力部261は、ディスプレイ230に対して手書き入力された文字や画像を示すストローク画像や、ディスプレイ230に設けられたタッチパネルに表示された画像の画像データ等を取得する。
また、入力部261は、カメラ2400により撮影された動画データ等を取得する。本実施形態では、動画データは、画像データに含まれる。また、入力部261は、電子黒板200に対する所定の指示を受け付ける。
本実施形態の集音部262は、マイク2200に入力された音声を音声データとして取得する。また、集音部262は、映像と共に入力される音声データを取得する。
本実施形態のページ記録部263は、ディスプレイ230に表示された画面の画像と、入力部261が受け付けたストローク画像等をまとめて1つのページデータとして記録する。本実施形態では、ページデータは、画像データに含まれる。尚、ページ記録部263により記録されたページデータは、コンテンツデータの一部としてサーバ装置300に送信される。
本実施形態の通信部264は、入力部261が受け付けた各種のデータや、集音部262が取得した音声データ等を含むコンテンツデータをサーバ装置300へ送信する。また、通信部264は、入力部261が所定の指示を受け付けると、サーバ装置300に対して所定の指示を受け付けたことを示す通知を送信する。また、通信部264は、サーバ装置300から送信される属性情報を受信する。
本実施形態のカード読取部265は、アンテナ219aにICカード等が翳されると、ICカードに記録されている識別情報(カードID)を読み取る。本実施形態のカードIDは、例えば、ICカードの所有者(電子黒板200の利用者)を特定するためのカード識別情報である。
カード情報対応付け部266は、カード読取部265が読み取ったカードIDと、コンテンツデータとを対応付ける。具体的には、カード情報対応付け部266は、例えば、カード読取部265によりカードIDが読み取られてから所定時間内に取得したコンテンツデータを、読み取ったカードIDと対応付けても良い。
このようにすれば、本実施形態では、例えば、会議の参加者が、発話する前や文字や数字等を書き込む前等に、自身が所持しているICカードをアンテナ219aに翳すだけで、文字、画像、音声等のコンテンツデータと、コンテンツデータを入力した参加者とを対応付けることができる。
本実施形態の通信部264は、コンテンツデータを送信する際に、コンテンツデータに対応付けられたカードIDと共に、サーバ装置300へ送信する。
本実施形態の属性設定部267は、所定の指示を受け付けた場合に、所定の指示と対応付けられたストローク画像に対し、特定の属性情報を設定する。
本実施形態において、所定の指示と対応付けられたストローク画像に設定される特定の属性情報とは、このストローク画像が重要事項を特定する画像であることを示す識別情報でもある。
また、本実施形態の特定の属性情報は、属性設定部267によって、予め設定されたものである。特定の属性情報の設定の詳細は、後述される。
次に、本実施形態のサーバ装置300の機能について説明する。本実施形態のサーバ装置300は、コンテンツデータベース330、属性データベース340、重要事項データベース350を有する。図5では、これらの各データベースは、サーバ装置300に設けられるものとしているが、これに限定されない。これらの各データベースは、サーバ装置300の外部の記憶装置等に設けられていても良い。
また、本実施形態のサーバ装置300は、通信部361、音声認識部362、コンテンツ格納部363、属性制御部364、重要事項抽出部365、重要事項格納部366を有する。本実施形態のサーバ装置300の有する各部は、サーバ装置300が有する1又は複数のCPU301が、ROM302等に格納されたプログラムを読み出して実行することで実現される。
コンテンツデータベース330は、電子黒板200から受信した各種のデータ(コンテンツ)が格納される。本実施形態のコンテンツとは、音声データ、画像データ、動画データ、ストローク情報を含む。属性データベース340は、ストローク画像に対して設定される各種の属性情報が格納される。属性情報とは、例えば、ストローク画像の色や、線の太さ等を示す情報である。重要事項データベース350は、重要事項抽出部365により抽出された重要事項情報が格納される。各データベースの詳細は、後述される。
本実施形態の通信部361は、サーバ装置300から外部装置に対して各種の情報を送信する。具体的には、通信部361は、属性データベース340に格納された属性情報の一覧を電子黒板200に送信する。
本実施形態の音声認識部362は、コンテンツデータに含まれる音声データを、音声認識機能によってテキストデータに変換する。音声認識部362の音声認識機能は、例えば、人工知能等によって実現されても良い。
本実施形態のコンテンツ格納部363は、通信部361がコンテンツデータを受信すると、このコンテンツデータをコンテンツデータベース330に格納する。
属性制御部364は、属性データ370を保持しており、通信部361が、電子黒板200から、所定の指示を受け付けたことを示す通知を受信すると、属性データ370を読み出して通信部361に渡す。言い換えれば、属性制御部364は、電子黒板200が所定の指示を受け付けると、所定の指示と対応付けられたストローク画像の属性情報を、属性データ370が示す属性情報に変更する。
本実施形態の属性データ370は、所定の指示と対応付けられたストローク画像に設定される特定の属性情報であり、重要事項抽出部365によって抽出されるべき重要事項情報であることを示す識別情報として機能する。言い換えれば、属性データ370は、ストローク画像が示す領域内の情報を重要事項情報(抽出対象の情報)と識別させるための識別情報である。
また、本実施形態の属性制御部364は、例えば、属性制御部364が電子黒板200から属性データ370の設定要求を受け付けると、属性データベース340に格納された属性情報の一覧を電子黒板200のディスプレイ230に表示させる。そして、属性制御部364は、電子黒板200において選択された属性情報を、属性データ370として保持しても良い。
重要事項抽出部365は、コンテンツデータベース330を参照し、コンテンツデータから、重要事項情報を抽出する。より具体的には、重要事項抽出部365は、コンテンツデータに含まれるページデータから、属性データ370が設定されたストローク画像によって囲われた領域内の画像データを、重要事項情報として抽出する。
したがって、本実施形態では、ページデータにおいて、属性データ370が設定されたストローク画像によって特定された領域内の画像データ(情報)が示す内容が重要事項となる。また、本実施形態の重要事項情報は、属性データ370が設定されたストローク画像が示す領域内の画像データ(情報)である。
重要事項格納部366は、重要事項抽出部365により抽出された重要事項情報を重要事項データベース350に格納する。尚、本実施形態の重要事項格納部366は、重要事項情報を格納する際に、重要事項情報を、重要事項情報が抽出されたコンテンツデータが取得された日時や、コンテンツデータと対応付けられた会議の名称等と対応付けて格納しても良い。
次に、図6乃至図8を参照して、本実施形態のサーバ装置300の有する各データベースについて説明する。図6は、第一の実施形態のコンテンツデータベースの一例を示す図である。
本実施形態のコンテンツデータベース330は、情報の項目として、会議ID、日付、カードID、時刻、コンテンツデータを有する。
項目「会議ID」の値は、電子黒板200を用いて開催されている会議を特定するための識別情報である。項目「日付」の値は、対応する会議IDで特定される会議が開催された日付を示す。項目「カードID」の値は、ICカードに格納されたカード識別情報を示す。項目「時刻」の値は、対応するコンテンツデータが取得された時刻を示す。項目「コンテンツデータ」の値は、電子黒板200から受信したコンテンツデータである。
図6の例では、2017年2月10日に開催された会議ID「001」の会議において、電子黒板200は、10:00に、カードID「100」と対応付けられた音声データ01.mpgを取得したことがわかる。同様に、電子黒板200は、10:01に、カードID「100」と対応付けられたページデータ01.jmpgを取得し、10:03、カードID「100」と対応付けられたストローク画像データ01.jpgを取得したことがわかる。
また、コンテンツデータベース330には、音声認識部362によって音声データから変換されたテキストデータがコンテンツデータとして格納されても良い。また、コンテンツデータベース330には、描画データが示す画像を形成するストローク情報がコンテンツデータとして格納されていても良い。
また、コンテンツデータベース330には、会議IDと対応付けられた会議名等が含まれても良い。
図7は、第一の実施形態の属性データベースの一例を示す図である。本実施形態の属性データベース340は、情報の項目として、線種、線色、線幅を有し、それぞれが対応付けられている。尚、図7に示す「線」とは、直線と曲線を含み、ストローク画像である一画の画像を示す。つまり、本実施形態では、「線」と「ストローク画像」とは、同義である。
項目「線種」の値は、線の種類を示す。項目「線色」の値は、線の色を示す。項目「線幅」の値は、線の太さを示す。
図7では、例えば、線種として、実線、点線1、点線2、・・と行った線種が存在することがわかる。また、図7では、例えば、線色として、赤、橙、黄等といった色が存在することがわかる。また、図7では、例えば、線幅として、××mm、○○mmといった線幅が存在することがわかる。
以下の説明では、属性データベース340の有する各項目と、項目の値とを含む情報を属性情報と呼ぶ。
ここで、本実施形態の属性データ370の設定について説明する。本実施形態の情報処理システム100において、電子黒板200は、電子黒板200がストローク画像の属性情報の設定要求を受け付けると、この設定要求をサーバ装置300へ通知する。サーバ装置300は、この設定要求を受けて、属性制御部364により、属性データベース340に格納された属性情報を選択させるための画面を電子黒板200に表示させる。
属性情報を選択させるための画面とは、例えば、属性データベース340の有する項目毎に、項目の値を設定させる画面等である。
電子黒板200は、ディスプレイ230に表示された画面において、項目「線種」、「線色」、「線幅」毎の値が選択されると、属性設定部267により、項目毎の選択内容をサーバ装置300に通知する。
サーバ装置300は、この通知を受けて、項目毎に選択された値を、属性データ370として、属性制御部364に保持させる。したがって、本実施形態の属性データ370は、ストローク画像を描画する際の線種と、線色と、線幅を示す情報である。例えば、電子黒板200において、項目「線種」の値に点線1、項目「線色」に橙、項目「線幅」に0.8mmが選択された場合、属性データ370は、「点線1、橙、0.8mm」となる。
図8は、第一の実施形態の重要事項データベースの一例を示す図である。本実施形態の重要事項データベース350は、情報の項目として、会議ID、日付、重要事項、ページデータを有し、それぞれの項目が対応付けられている。以下の説明では、重要事項データベース350において、項目「会議ID」、「日付」、「カードID」、「重要事項」、「ページデータ」の値を含む情報を重要事項情報と呼ぶ。
項目「日付」は、「重要事項」が含まれるコンテンツデータが取得された日付を示す。項目「重要事項」の値は、コンテンツデータから抽出された重要事項を示す。項目「ページデータ」の値は、重要事項として抽出された重要事項の画像データを示す。
尚、重要事項データベース350は、情報の項目として、コンテンツデータが取得された時刻を含んでいても良い。また、本実施形態の重要事項情報には、項目「ページデータ」の値は含まれなくても良い。重要事項情報には、項目「会議ID」と項目「重要事項」の値が含まれれば良い。
図8の例では、2017年2月10日に開催された会議ID「001」の会議において、カードID「100」と対応付けられた画像データ11.jpgが重要事項として抽出されたことがわかる。
尚、本実施形態のサーバ装置300では、OCR(Optical Character Recognition)を有し、重要事項情報として抽出された画像データによって示される画像の文字認識を行っても良い。その場合、サーバ装置300は、重要事項情報に、画像データから文字認識されたテキストデータを含めてもよい。本実施形態では、この処理を行うことで、重要事項をテキストデータとして記憶することができる。
尚、上述した情報処理システム100では、サーバ装置300を一台のサーバ装置としたが、これに限定されない。情報処理システム100の有するサーバ装置300は複数台であっても良く、その場合、どのサーバ装置にどの機能やどのデータベースを備えさせても良い。さらに、本実施形態で説明する電子黒板200と、サーバ装置300とが接続された情報処理システム100のシステム構成は一例であり、用途や目的に応じて様々なシステム構成例があることは言うまでもない。
次に、図9を参照して、本実施形態の情報処理システム100の動作について説明する。図9は、第一の実施形態のサーバ装置の処理を説明するシーケンス図である。
尚、本実施形態では、電子黒板200のディスプレイ230上の特定の位置に対するタップを、所定の指示として受け付け、所定の指示を受け付けた直後のストローク画像に対し、属性データ370が示す属性情報で表示させるものとした。つまり、本実施形態では、所定の指示と対応付けられたストローク画像とは、所定の指示の直後に入力されるストローク画像である。
本実施形態の情報処理システム100において、電子黒板200は、表示制御部260により、コンテンツデータをディスプレイ230に表示させる(ステップS901)。続いて、電子黒板200は、入力部261により、手書き入力で入力されるストローク画像の属性の変更の指示の入力を受け付ける(ステップS902)。言い換えれば、電子黒板200は、入力部261により、ディスプレイ230上の特定の位置に対するタップ(所定の指示)を受け付ける。尚、本実施形態のストローク画像は、例えば、電子ペン2500や利用者の手H等によって入力される。
電子黒板200は、入力部261が所定の指示を受け付けると、通信部264により、所定の指示を受け付けたことを示す通知をサーバ装置300へ送信する(ステップS903)。尚、このとき、電子黒板200は、通知と共に、現在のストローク画像に設定された属性情報をサーバ装置300へ送信する。
サーバ装置300は、通信部361により、通知を受けると、属性制御部364により、通知と共に受け付けた属性情報を保持する(ステップS904)。続いて、サーバ装置300は、属性制御部364により、属性データ370を読み出す(ステップS905)。続いて、サーバ装置300は、通信部361により、属性データ370を電子黒板200へ送信する(ステップS906)。
次に、電子黒板200は、入力部261がストローク画像の入力を受け付けると(ステップS907)、表示制御部260により、入力されたストローク画像を属性データ370が示す特定の属性情報のストローク画像として描画する(ステップS908)。
続いて、電子黒板200は、ストローク画像の入力が終了すると(ステップS909)、ストローク画像の属性情報の変更指示を電子黒板200へ送信する(ステップS910)。尚、本実施形態では、ディスプレイ230から電子ペン2500又は手Hが離れてから、所定時間が経過した場合に、ストローク画像の入力が終了したものと判定しても良い。
サーバ装置300は、通信部361が属性情報の変更指示を受け付けると、ステップS904で保持した属性情報を読み出し(ステップS911)、通信部361に、この属性情報を電子黒板200へ送信させる(ステップS912)。
電子黒板200は、入力部261が次にストローク画像の入力を受け付けると(ステップS913)、表示制御部260により、このストローク画像を、ステップS913で受信した属性情報の画像として描画する(ステップS914)。つまり、本実施形態の情報処理システム100では、所定の指示を受け付けた直後に、ストローク画像の属性情報を属性データ370が示す属性情報に変更し、このストローク画像の入力が終了すると、次のストローク画像の属性情報を変更前の属性情報に戻す。
次に、電子黒板200は、例えば、入力部261がディスプレイ230に表示させる画像の切り替えの指示を受け付けると(ステップS915)、ページ記録部263により、ページデータをサーバ装置300へ送信する(ステップS916)。尚、このとき、電子黒板200は、ページデータと共に、会議ID、日付、対応付けられたカードID、時刻等をサーバ装置300に送信しても良い。
サーバ装置300は、ページデータを受信すると、コンテンツ格納部363により、受信したページデータを、会議ID、日付、対応付けられたカードID、時刻等と対応づけた、コンテンツデータベース330に格納する(ステップS917)。
続いて、サーバ装置300は、重要事項抽出部365により、受信したページデータから、属性データ370が設定されたストローク画像によって囲われた領域の画像を重要事項情報として抽出する(ステップS918)。
続いて、サーバ装置300は、重要事項格納部366により、抽出された重要事項情報を重要事項データベース350に格納する(ステップS919)。
尚、図9の例では、電子黒板200のディスプレイ230に表示させる画像の切り替え指示を受ける度に、重要事項情報を抽出するものとしたが、これに限定されない。本実施形態では、例えば、会議が終了した後に、受信したページデータ毎に、重要事項情報の抽出を行っても良い。
以下に、図10を参照して、本実施形態の情報処理システム100の動作について、さらに具体的に説明する。
図10は、第一の実施形態の所定の指示を説明する図である。図10(A)は、所定の指示を受ける前のディスプレイ230の表示例を示す図である。図10(B)は、所定の指示を受けた後のディスプレイ230の表示例を示す第一の図である。図10(C)は、所定の指示を受け付けた後のディスプレイ230の表示例を示す第二の図である。
図10(A)に示すように、ディスプレイ230には、指示ボタン281が表示されている。本実施形態の電子黒板200は、ディスプレイ230において、指示ボタン281がタップされると、所定の指示を受け付けたことを示す通知をサーバ装置300へ通知する。サーバ装置300は、この通知を受けると、属性データ370を電子黒板200に送信する。
電子黒板200は、属性データ370を受信すると、図10(B)に示すように、次に入力されるストローク画像282を、属性データ370が示す属性情報にしたがって描画する。図10(B)の例では、ストローク画像282は、ディスプレイ230に表示された画像と線色及び線幅が異なっていることがわかる。
本実施形態では、このように、重要事項であることを示す属性データ370にしたがってストローク画像282を描画することで、ディスプレイ230に表示されたページデータのうち、重要事項情報として抽出すべき領域を特定することができる。
また、電子黒板200は、ストローク画像282の入力が終了すると、入力の終了をサーバ装置300へ通知する。サーバ装置300は、この通知を受けて、指示ボタン281がタップされる前の属性情報を電子黒板200へ送信する。
電子黒板200は、図10(C)に示すように、ストローク画像282の次に、ストローク画像283が入力されると、ストローク画像283は、指示ボタン281がタップされる前の属性情報にしたがって描画する。
次に、図11を参照して、本実施形態の重要事項情報について説明する。図11は、第一の実施形態の重要事項情報の一例を示す図である。
図11では、図10(C)の状態で、電子黒板200に画像の切り替え指示が与えられ、図10(C)に示す画面の画像がページデータとしてサーバ装置300に格納された場合に、抽出された重要事項情報の例を示している。
本実施形態のサーバ装置300は、重要事項抽出部365により、ページデータにおいて、属性データ370にしたがって描画されたストローク画像282によって囲われた領域の画像285の画像データを、重要事項情報として抽出する。
このように、本実施形態によれば、所定の指示を行うことで、所定の指示と対応付けられたストローク画像に対して重要事項であることを示す識別情報を付与することができる。このため、本実施形態によれば、ページデータにおいて、所定の指示と対応付けられたストローク画像によって囲われた領域を重要事項情報として抽出させることができる。
より具体的には、本実施形態によれば、ディスプレイ230上の所定の位置をタップするだけで、その直後に入力されるストローク画像に対して、重要事項であることを示す識別情報を付与することできる。このため、本実施形態では、所定の位置をタップした後に、入力されたストローク画像によって囲われた領域を、重要事項情報として抽出させることができる。
また、本実施形態では、一画のストローク画像の入力が終了すると、属性情報が、元の属性情報に戻されるため、属性情報を元に戻す操作が不要となる。
以上のように、本実施形態によれば、ディスプレイ230において、利用者が重要事項情報を特定する際に、重要事項であることを示す表示をさせるための煩雑な操作をなくすことができ、抽出すべき重要事項を特定する際の操作性を向上させることができる。
尚、本実施形態では、所定の指示と対応付けられたストローク画像を、所定の指示が受け付けられた直後に入力されたストローク画像としたが、これに限定されない。
本実施形態のおける所定の指示と対応付けられたストローク画像は、例えば、所定の指示を受け付けてから、所定時間以内に入力されたストローク画像であっても良いし、所定の指示を受け付けた後に入力される所定画数のストローク画像であっても良い。また、所定の指示と対応付けられたストローク画像は、所定の指示を受け付けた前後のストローク画像であっても良い。つまり、本実施形態では、所定の指示を受け付けたタイミングに応じて設定された特定の期間に入力されたストローク画像の属性情報を属性データ370が示す特定の属性情報にすれば良い。
所定の指示と対応付けられるストローク画像は、情報処理システム100の利用者が任意に設定することができる。
(第二の実施形態)
以下に図面を参照して、第二の実施形態について説明する。第二の実施形態では、電子黒板に対する所定の指示の与えられ方が第一の実施形態と相違する。よって、以下の第二の実施形態の説明では、第一の実施形態との相違点についてのみ説明し、第一の実施形態と同様の機能構成を有するものには、第一の実施形態の説明で用いた符号と同様の符号を付与し、その説明を省略する。
図12は、第二の実施形態の情報処理システムの有する各装置の機能構成を説明する図である。
本実施形態の情報処理システム100Aは、電子黒板200Aとサーバ装置300とを有する。
本実施形態の電子黒板200Aは、表示制御部260、入力部261、集音部262、ページ記録部263、通信部264、カード読取部265、カード情報対応付け部266、属性設定部267、形状検出部268を有する。
本実施形態の形状検出部268は、形状データ269を保持しており、形状データ269が示す形状のストローク画像を検出する。
また、形状検出部268は、形状データ269が示す形状のストローク画像を検出すると、通信部264により、所定の指示を受け付けたことを示す通知をサーバ装置300へ送信させる。
つまり、本実施形態では、形状データ269が示す形状のストローク画像の検出を、所定の指示として受け付ける。そして、本実施形態では、所定の指示を受け付ける直前に入力されたストローク画像を、所定の指示と対応付けられたストローク画像とし、このストローク画像の属性情報を、属性データ370が示す属性情報とする。
また、本実施形態の形状データ269が示す形状は、任意の形状であって良いが、一画で表すことができる形状であることが好ましい。具体的には、例えば、矩形や円形等である。また、本実施形態の形状データ269は、例えば、特定の形状を示す画像として保持されていても良いし、特定の形状を示す点群の座標情報として保持されていても良い。
また、本実施形態の形状データ269は、例えば、機械学習等によって学習された結果の情報であっても良い。この場合、形状検出部268は、予め保持された重要事項とされる画像(マークや図形)の画像データに基づき、コンテンツデータから重要事項情報が抽出される度に、抽出結果に基づく機械学習によって形状データ269を更新しても良い。
以下に、図13を参照して、本実施形態の情報処理システム100Aの動作について説明する。
図13は、第二の実施形態の情報処理システムの動作を示すシーケンス図である。
本実施形態の情報処理システム100Aにおいて、電子黒板200Aは、表示制御部260により、コンテンツデータをディスプレイ230に表示させる(ステップS1301)。続いて、電子黒板200Aは、入力部261により入力されたストローク画像を描画する(ステップS1302)。
続いて、電子黒板200Aは、形状検出部268により、形状データ269と一致するストローク画像を検出する(ステップS1303)。このとき、形状検出部268が検出するストローク画像は、例えば、形状データ269と完全に一致する形状でなくても良く、類似した形状であっても良い。
電子黒板200Aは、形状データ269と一致するストローク画像が入力されると、所定の指示を受けたことを示す通知をサーバ装置300へ送信する(ステップS1304)。言い換えれば、電子黒板200Aは、サーバ装置300に対して、ストローク画像の属性情報の変更指示を行う。
尚、図13では、形状検出部268によって検出されるストローク画像が存在するものとしているが、該当するストローク画像が検出される前に画像の切り替え指示が行われた場合には、後述するステップS1315へ進む。
また、本実施形態では、例えば、サーバ装置300は、ステップS1304において、属性情報の変更指示を受けると、電子黒板200Aに対して、形状データ269が検出したストローク画像が示す範囲の画像データが、重要事項情報であるか否かを問い合わせても良い。
そして、サーバ装置300は、電子黒板200Aからの問い合わせの結果に応じて、属性データ370を電子黒板200Aに送信するか否かを判定しても良い。具体的には、例えば、問い合わせに対して、電子黒板200Aから、形状検出部268が検出したストローク画像が示す範囲の画像データを重要事項情報とする、という回答が得られた場合にのみ、属性データ370を電子黒板200Aへ送信すれば良い。
本実施形態では、このようにして、属性データ370を電子黒板200Aに送信することで、形状検出部268の検出結果に基づく重要事項情報の抽出の精度を向上させることができる。
ステップS1314からステップS1307までの処理は、図9のステップSストレスチェック903からステップS906までの処理と同様であるから、説明を省略する。
電子黒板200Aは、属性データ370を受信すると、形状検出部268によって検出されたストローク画像の属性情報を、属性データ370が示す属性情報に変更する(ステップS1308)。つまり、電子黒板200Aは、所定の指示を受け付けた直前に入力されたストローク画像の属性情報を属性データ370が示す属性情報に変更する。
続いて、電子黒板200Aは、属性情報の変更指示をサーバ装置300へ送信する(ステップS1309)。
図13のステップS1309からステップS1318までの処理は、図9のステップS910からステップS919までの処理と同様であるから、説明を省略する。
次に、図14を参照して、本実施形態の情報処理システム100Aの動作について、さらに説明する。
図14は、第二の実施形態の所定の指示を説明する図である。図14(A)は、所定の指示を受ける前のディスプレイ230の表示例を示す図である。図14(B)は、所定の指示を受けた後のディスプレイ230の表示例を示す第一の図である。図14(C)は、所定の指示を受け付けた後のディスプレイ230の表示例を示す第二の図である。また、図14では、形状データ269が示す形状を矩形としている。
図14(A)に示すように、ディスプレイ230には、ストローク画像282Aが入力された状態を示している。本実施形態の電子黒板200は、入力されたストローク画像282Aが形状データ269と一致する形状であることを検出すると、サーバ装置300に対し、所定の指示を受け付けたことを通知する。
サーバ装置300は、この通知を受けて、属性データ370を電子黒板200Aに送信する。電子黒板200Aは、属性データ370を受信すると、ストローク画像282Aの属性情報を属性データ370が示す属性情報に変更する。
したがって、ストローク画像282Aは、図14(B)に示すようにストローク画像282となる。
また、電子黒板200Aは、ストローク画像282Aの属性情報を変更した後に、サーバ装置300に対し、属性情報の変更の終了を通知する。言い換えれば、電子黒板200Aは、サーバ装置300に対し、属性情報を変更前に戻すための指示を通知する。
サーバ装置300は、この通知を受けて、図14(A)の状態において保持していた属性情報を電子黒板200Aに送信する。
次に、図14(C)に示すようなストローク画像283が入力される。このストローク画像283は、形状データ269と一致しない。したがって、ストローク画像283は、図14(A)に示すストローク画像282と同じ属性情報で描画される。
このように、本実施形態によれば、予め決められた形状のストローク画像で特定の領域を囲むだけで、このストローク画像に対して重要事項を示す識別情報(属性データ370)を付与することができ、囲われた領域を重要事項情報として抽出させることができる。
このため、本実施形態によれば、ディスプレイ230において、利用者が重要事項情報を特定する際に、重要事項であることを示す表示をさせるための煩雑な操作をなくすことができ、抽出すべき重要事項を特定する際の操作性を向上させることができる。
尚、本実施形態では、所定の指示と対応付けられたストローク画像を、所定の指示が受け付けられた直前に入力されたストローク画像としたが、これに限定されない。本実施形態において、所定の指示と対応付けられたストローク画像は、例えば、所定の指示を受け付けた時刻から所定時間を遡った間に入力されたストローク画像であっても良いし、所定の指示を受け付ける前に入力される所定画数のストローク画像であっても良い。また、所定の指示と対応付けられたストローク画像は、所定の指示を受け付けた前後のストローク画像であっても良い。所定の指示と対応付けられるストローク画像は、情報処理システム100Aの利用者が任意に設定することができる。
(第三の実施形態)
以下に図面を参照して、第三の実施形態について説明する。第三の実施形態は、電子黒板が属性データを保持している点が、第一の実施形態と相違する。よって、以下の第三の実施形態の説明では、第一の実施形態との相違点についてのみ説明し、第一の実施形態と同様の機能構成を有するものには、第一の実施形態の説明で用いた符号と同様の符号を付与し、その説明を省略する。
図15は、第三の実施形態の情報処理システムの有する各装置の機能構成を説明する図である。
本実施形態の情報処理システム100Bは、電子黒板200Bとサーバ装置300Aとを有する。
電子黒板200Bは、表示制御部260、入力部261、集音部262、ページ記録部263、通信部264、カード読取部265、カード情報対応付け部266、属性設定部267、属性制御部364を有する。属性制御部364は、属性データ370を保持している。
また、本実施形態のサーバ装置300Aは、コンテンツデータベース330、属性データベース340、重要事項データベース350、通信部361、音声認識部362、コンテンツ格納部363、重要事項抽出部365、重要事項格納部366を有する。
本実施形態の情報処理システム100Bでは、電子黒板200Bにおいて、所定の指示が行われると、属性制御部364が、表示制御部260に対して、次に入力されるストローク画像の属性情報を属性データ370が示す属性情報とするように、指示する。
そして、電子黒板200Bは、所定の指示と対応付けられたストローク画像の入力が終了すると、属性制御部364は、次に入力されるストローク画像の属性情報を元の属性情報に戻すように、表示制御部260に対して指示する。
尚、本実施形態の電子黒板200Bは、第一の実施形態の電子黒板200が属性制御部364を有するものとしたが、第二の実施形態の電子黒板200Aが属性制御部364を有する構成としても良い。
この場合、属性制御部364は、形状検出部268が、入力されたストローク画像が形状データ269と一致する形状であることを検出すると、表示制御部260に対して、このストローク画像を属性データ370が示す属性情報の画像として描画させれば良い。
本実施形態によれば、所定の指示が行われてから、属性データ370を取得するまでの間に、電子黒板200Bとサーバ装置300Aとの間の通信が不要となるため、情報処理システム100Bにおける通信の負荷を軽減させることができる。
(第四の実施形態)
以下に図面を参照して、第四の実施形態について説明する。第四の実施形態は、電子黒板が重要事項の抽出まで行う点が、第三の実施形態と相違する。よって、以下の第四の実施形態の説明では、第三の実施形態との相違点についてのみ説明し、第三の実施形態と同様の機能構成を有するものには、第三の実施形態の説明で用いた符号と同様の符号を付与し、その説明を省略する。
図16は、第四の実施形態の情報処理システムの有する各装置の機能構成を説明する図である。
本実施形態の情報処理システム100Cは、電子黒板200Cとサーバ装置300Aとを有する。
電子黒板200Cは、表示制御部260、入力部261、集音部262、ページ記録部263、通信部264、カード読取部265、カード情報対応付け部266、属性設定部267、属性制御部364、重要事項抽出部365を有する。
重要事項抽出部365は、ページ記録部263が記録したページデータから、属性データ370が示す属性情報のストローク画像で囲われた領域内の画像データを重要事項情報として抽出する。
電子黒板200Cにおいて、重要事項抽出部365により抽出された重要事項情報は、通信部264によって、サーバ装置300Bへ送信される。
本実施形態のサーバ装置300Bは、コンテンツデータベース330、属性データベース340、重要事項データベース350、通信部361、音声認識部362、コンテンツ格納部363、重要事項格納部366を有する。
サーバ装置300Bは、電子黒板200Cから重要事項情報を受信すると、重要事項格納部366により、重要事項データベース350へ格納する。
このように、本実施形態では、重要事項情報の抽出まで電子黒板200Cで行うため、サーバ装置300Cの処理負荷を軽減することができる。
(第五の実施形態)
以下に図面を参照して、第五の実施形態について説明する。第五の実施形態は、情報処理システムにおいて、電子黒板の代わりに、画像投影装置を用いた点が、第一の実施形態と相違する。よって、以下の第五の実施形態の説明では、第一の実施形態との相違点についてのみ説明し、第一の実施形態と同様の機能構成を有するものには、第一の実施形態の説明で用いた符号と同様の符号を付与し、その説明を省略する。
図17は、第五の実施形態の情報処理システムを説明する図である。図17に示す情報処理システム100Cは、画像投影装置(プロジェクタ)700とサーバ装置300とを有する。
画像投影装置700は、例えば、画像投影装置700と接続された端末装置から入力された画像データを、スクリーン800に投影する。スクリーン800は、例えば、ホワイトボードや壁面等が代用されても良く、ディスプレイ230に相当するものとなる。
また、画像投影装置700は、電子ペンや利用者の手等の動作を検出することで、スクリーン800に対する手書き入力を検出し、スクリーン800にストローク画像を投影させる。
本実施形態の画像投影装置700は、第一乃至第四の実施形態と同様に、所定の指示を受けると、所定の指示を受け付けたことを示す通知をサーバ装置300へ送信する。
具体的には、例えば、画像投影装置700は、スクリーン800に表示された指示ボタン281に対する操作を検出すると、次に入力されるストローク画像281をサーバ装置300から受信した属性データ370が示す属性情報で描画させる。
また、画像投影装置700は、例えば、スクリーン800に表示された保存ボタン285が操作されると、スクリーン800に投影されている画像の画像データを、コンテンツの一部として、サーバ装置300へ送信する。画像投影装置700からサーバ装置300へ送信される画像データには、手書き入力されたストローク画像も含まれる。
また、画像投影装置700は、例えば、保存ボタン285が操作された場合に、サーバ装置300に画像データを送信する以外に、例えば、USBメモリ等の可搬型の記録媒体に画像データを出力し、保存させても良い。
以上のように、本実施形態では、画像投影装置700とサーバ装置300のシステムにおいても、利用者が重要事項情報を特定する際に、重要事項であることを示す表示をさせるための煩雑な操作をなくすことができ、抽出すべき重要事項を特定する際の操作性を向上させることができる。
次に、図18乃至図20を参照して、上述した各実施形態の情報処理システムの変形例について説明する。
図18は、情報処理システムの変形例を示す第一の図である。図18の例では、電子黒板200の代わりに、端末装置600、画像投影装置700A、ペン動作検出装置810を有する。
端末装置600は、画像投影装置700A及びペン動作検出装置810と有線で接続されている。
画像投影装置700Aは、端末装置600により入力された画像データをスクリーン800に投影させる。
ペン動作検出装置810は、電子ペン820と通信を行っており、スクリーン800の近傍における電子ペン820の動作を検出する。具体的には、電子ペン820は、スクリーン800上において、電子ペン820が示している点を示す座標情報を検出し、端末装置600へ送信する。
端末装置600は、ペン動作検出装置810から受信した座標情報に基づき、電子ペン820によって入力されるストローク画像の画像データを生成し、画像投影装置700Aによってストローク画像をスクリーン800に描画させる。
また、端末装置600は、第一の乃至四の実施形態と同様に、端末装置600が所定の指示を受け付けると、所定の指示と対応付けられたストローク画像の属性情報を、属性データ370が示す特定の属性情報のストローク画像とする。
さらに、端末装置600は、画像投影装置700Aに投影させている画像の画像データを、コンテンツデータの一部として、サーバ装置300に送信する。
図19は、情報処理システムの変形例を示す第二の図である。図19の例では、電子黒板200の代わりに、端末装置600とディスプレイ800Aと、ペン動作検出装置810とを有する。
ペン動作検出装置810は、ディスプレイ800Aの近傍に配置され、ディスプレイ800A上に、電子ペン820Aが示している点を示す座標情報を検出し、端末装置600へ送信する。尚、図19の例では、電子ペン820Aは、端末装置600によってUSBコネクタを介して充電されても良い。
端末装置600は、ペン動作検出装置810から受信した座標情報に基づき、電子ペン820Aによって入力されるストローク画像の画像データを生成し、ディスプレイ800Aに表示させる。
また、端末装置600は、第一の乃至四の実施形態と同様に、端末装置600が所定の指示を受け付けると、所定の指示と対応付けられたストローク画像の属性情報を、属性データ370が示す特定の属性情報のストローク画像とする。
さらに、端末装置600は、ディスプレイ800Aに投影させている画像の画像データを、コンテンツデータの一部として、サーバ装置300に送信する。
図20は、情報処理システムの変形例を示す第三の図である。図20の例では、電子黒板200の代わりに、端末装置600と、画像投影装置700Aとを有する。
端末装置600は、電子ペン820Bと無線通信(Bluetooth等)を行って、スクリーン800上において電子ペン820Bが示す点の座標情報を受信する。そして、端末装置600は、受信した座標情報に基づき、電子ペン820Bにより入力されるストローク画像の画像データを生成し、画像投影装置700Aにストローク画像を投影させる。
また、端末装置600は、第一の乃至四の実施形態と同様に、端末装置600が所定の指示を受け付けると、所定の指示と対応付けられたストローク画像の属性情報を、属性データ370が示す特定の属性情報のストローク画像とする。
さらに、端末装置600は、画像投影装置700Aに投影させている画像の画像データを、コンテンツデータの一部として、サーバ装置300に送信する。
以上のように、上述した各実施形態は、様々なシステム構成において適用することができる。
尚、上述した各実施形態では、所定の指示は、ディスプレイ230の特定の位置がタップされることや、特定の形状のストローク画像を検出することにより行われるものとしたが、これに限定されない。
所定の指示は、例えば、マイク2200を介して集音部262が集音した音声データから、特定の音声データ(ボイスコマンド)を検出することにより、行われても良い。
また、所定の指示は、例えば、カメラ2400が撮像した画像データから、特定の利用者の顔や、利用者の特定の動作等を検出することにより、行われても良い。また、所定の指示は、例えば、利用者に脳波計等を装着させ、脳波計と電子黒板200との間で行った結果に応じて行われるものであっても良い。
また、所定の指示は、例えば、利用者に、HMD(Head Mounted Display)や、アイカメラ等を装着させ、利用者の視線を検出した結果に応じて行われるものであっても良い。
また、上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(Field Programmable Gate Array)、SOC(System on a chip)、GPU(Graphics Processing Unit)や従来の回路モジュール等のデバイスを含むものとする。
以上、各実施形態に基づき本発明の説明を行ってきたが、上記実施形態に示した要件に本発明が限定されるものではない。これらの点に関しては、本発明の主旨をそこなわない範囲で変更することができ、その応用形態に応じて適切に定めることができる。
100、100A〜100C 情報処理システム
200、200A〜200C 電子黒板
230 ディスプレイ
260 表示制御部
261 入力部
263 ページ記録部
264 通信部
265 カード読取部
266 カード情報対応付け部
267 属性設定部
268 形状検出部
269 形状データ
300、300A〜300C サーバ装置
330 コンテンツデータベース
340 属性データベース
350 重要事項データベース
361 通信部
362 音声認識部
363 コンテンツ格納部
364 属性制御部
365 重要事項抽出部
366 重要事項格納部
370 属性データ
特開2011−180948号公報

Claims (11)

  1. 端末装置を含む情報処理システムであって、
    所定の指示を受け付ける入力部と、
    前記所定の指示を受けて、前記所定の指示と対応付けられたストローク画像の属性情報を、前記ストローク画像が示す領域内の情報を抽出対象の情報として識別させる特定の属性情報に変更する属性制御部と、
    前記所定の指示と対応付けられたストローク画像を、前記特定の属性情報のストローク画像として前記端末装置の有する表示装置に表示させる表示制御部と、を有する情報処理システム。
  2. 前記属性制御部は、
    前記所定の指示と対応付けられたストローク画像の入力が終了すると、前記特定の属性情報を、変更前の属性情報に戻す、請求項1記載の情報処理システム。
  3. 前記表示装置に表示された画面のページを示すページデータから、前記抽出対象の情報を重要事項情報として抽出する重要事項抽出部と、
    前記重要事項情報を重要事項データベースに格納する重要事項格納部と、を有し、
    前記重要事項情報は、前記特定の属性情報のストローク画像によって指定された領域内の画像データである、請求項1又は2記載の情報処理システム。
  4. 前記所定の指示は、
    前記表示装置の特定の位置がタップされたときに受け付けられ、
    前記所定の指示と対応付けられたストローク画像は、前記所定の指示が受け付けられた直後に入力されるストローク画像である、請求項1乃至3の何れか一項に記載の情報処理システム。
  5. 入力されたストローク画像が、予め記憶された形状データが示す形状であることを検出する形状検出部を有し、
    前記所定の指示は、
    前記形状検出部により、前記入力されたストローク画像が、前記形状データが示す形状であることが検出されたときに受け付けられ、
    前記所定の指示と対応付けられたストローク画像は、前記所定の指示が受け付けられた直前に入力されたストローク画像である、請求項1乃至3の何れか一項に記載の情報処理システム。
  6. 前記所定の指示と対応付けられたストローク画像は、
    前記所定の指示を受け付けてから所定時間以内に入力されたストローク画像である、請求項1乃至3の何れか一項に記載の情報処理システム。
  7. 前記属性情報は、
    前記ストローク画像の線種、線色、線幅を含む、請求項1乃至6の何れか一項に記載の情報処理システム。
  8. 端末装置と、前記端末装置と通信を行う情報処理装置とを有する情報処理システムであって、
    前記情報処理装置は、
    前記端末装置が所定の指示を受けたことを示す通知を受けて、前記所定の指示と対応付けられたストローク画像の属性情報を、前記ストローク画像が示す領域内の情報を抽出対象の情報として識別させる特定の属性情報に変更する属性制御部と、
    前記特定の属性情報を前記端末装置へ送信する通信部と、を有し、
    前記端末装置は、
    前記所定の指示を受け付ける入力部と、
    前記特定の属性情報を受信すると、前記所定の指示と対応付けられたストローク画像を、前記特定の属性情報のストローク画像として前記端末装置の有する表示装置に表示させる表示制御部と、を有する情報処理システム。
  9. 所定の指示を受け付ける入力部と、
    前記所定の指示を受けて、前記所定の指示と対応付けられたストローク画像の属性情報を、前記ストローク画像が示す領域内の情報を抽出対象の情報として識別させる特定の属性情報に変更する属性制御部と、
    前記所定の指示と対応付けられたストローク画像を、前記特定の属性情報のストローク画像として表示装置に表示させる表示制御部と、を有する端末装置。
  10. 端末装置を含む情報処理システムによる情報処理方法であって、
    所定の指示を受け付け、
    前記所定の指示を受けて、前記所定の指示と対応付けられたストローク画像の属性情報を、前記ストローク画像が示す領域内の情報を抽出対象の情報として識別させる特定の属性情報に変更し、
    前記所定の指示と対応付けられたストローク画像を、前記特定の属性情報のストローク画像として前記端末装置の有する表示装置に表示させる、情報処理方法。
  11. 所定の指示を受け付ける処理と、
    前記所定の指示を受けて、前記所定の指示と対応付けられたストローク画像の属性情報を、前記ストローク画像が示す領域内の情報を抽出対象の情報として識別させる特定の属性情報に変更する処理と、
    前記所定の指示と対応付けられたストローク画像を、前記特定の属性情報のストローク画像として表示装置に表示させる処理と、を端末装置に実行させる情報処理プログラム。
JP2017170472A 2017-09-05 2017-09-05 情報処理システム、端末装置、情報処理方法及び情報処理プログラム Active JP6977408B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017170472A JP6977408B2 (ja) 2017-09-05 2017-09-05 情報処理システム、端末装置、情報処理方法及び情報処理プログラム
US16/104,363 US10593077B2 (en) 2017-09-05 2018-08-17 Associating digital ink markups with annotated content

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017170472A JP6977408B2 (ja) 2017-09-05 2017-09-05 情報処理システム、端末装置、情報処理方法及び情報処理プログラム

Publications (2)

Publication Number Publication Date
JP2019046310A true JP2019046310A (ja) 2019-03-22
JP6977408B2 JP6977408B2 (ja) 2021-12-08

Family

ID=65518144

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017170472A Active JP6977408B2 (ja) 2017-09-05 2017-09-05 情報処理システム、端末装置、情報処理方法及び情報処理プログラム

Country Status (2)

Country Link
US (1) US10593077B2 (ja)
JP (1) JP6977408B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7009904B2 (ja) * 2017-10-17 2022-01-26 株式会社リコー 端末装置、情報処理システム、情報処理方法及びプログラム
US11900568B2 (en) 2020-09-29 2024-02-13 Boe Technology Group Co., Ltd. Writing trajectory processing method, touch control device, writing system and storage medium

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008027082A (ja) * 2006-07-19 2008-02-07 Fujitsu Ltd 手書き入力装置、手書き入力方法、及びコンピュータプログラム
JP2013125488A (ja) * 2011-12-16 2013-06-24 Konica Minolta Business Technologies Inc 手書き入力装置及び情報編集プログラム並びに情報編集方法
JP2013175189A (ja) * 2012-02-24 2013-09-05 Samsung Electronics Co Ltd ディスプレイウィンドーに対するキャプチャイメージ生成方法及びその装置
JP2013246733A (ja) * 2012-05-28 2013-12-09 Toshiba Corp 文書検索装置、方法およびプログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7174339B1 (en) * 2000-03-07 2007-02-06 Tririga Llc Integrated business system for the design, execution, and management of projects
US7284192B2 (en) * 2004-06-24 2007-10-16 Avaya Technology Corp. Architecture for ink annotations on web documents
US8181103B2 (en) * 2005-12-29 2012-05-15 Microsoft Corporation Annotation detection and anchoring on ink notes
JP2011180948A (ja) 2010-03-03 2011-09-15 Brother Industries Ltd 端末装置、会議サーバおよび処理プログラム
JP5869179B2 (ja) * 2013-03-18 2016-02-24 株式会社東芝 電子機器および手書き文書処理方法
US10691878B2 (en) * 2014-02-28 2020-06-23 Ricoh Co., Ltd. Presenting associations of strokes with content
US9781176B2 (en) * 2015-02-12 2017-10-03 Smart Technologies Ulc Managing permissions in collaborative workspaces using visual representations of clients
US9641563B1 (en) 2015-11-10 2017-05-02 Ricoh Company, Ltd. Electronic meeting intelligence

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008027082A (ja) * 2006-07-19 2008-02-07 Fujitsu Ltd 手書き入力装置、手書き入力方法、及びコンピュータプログラム
JP2013125488A (ja) * 2011-12-16 2013-06-24 Konica Minolta Business Technologies Inc 手書き入力装置及び情報編集プログラム並びに情報編集方法
JP2013175189A (ja) * 2012-02-24 2013-09-05 Samsung Electronics Co Ltd ディスプレイウィンドーに対するキャプチャイメージ生成方法及びその装置
JP2013246733A (ja) * 2012-05-28 2013-12-09 Toshiba Corp 文書検索装置、方法およびプログラム

Also Published As

Publication number Publication date
US10593077B2 (en) 2020-03-17
JP6977408B2 (ja) 2021-12-08
US20190073808A1 (en) 2019-03-07

Similar Documents

Publication Publication Date Title
US10438080B2 (en) Handwriting recognition method and apparatus
US20200201446A1 (en) Apparatus, method and recording medium for controlling user interface using input image
JP6591217B2 (ja) 音声認識テキスト化システムの制御方法
CN102906671B (zh) 手势输入装置及手势输入方法
WO2016206279A1 (zh) 触控显示装置及其触控方法
CN103870804A (zh) 具有脸部识别功能的移动装置和控制该移动装置的方法
KR102625254B1 (ko) 입력기를 통해 이미지와 관련된 정보를 어플리케이션에 제공하는 전자 장치 및 방법
US11620414B2 (en) Display apparatus, display method, and image processing system
JP6977408B2 (ja) 情報処理システム、端末装置、情報処理方法及び情報処理プログラム
US20190114477A1 (en) Terminal apparatus, information processing system, and method of processing information
JP2018156060A (ja) 情報処理装置、プログラム及び情報処理方法
JP2022145191A (ja) 表示装置、プログラム、表示方法、表示システム
US20150339538A1 (en) Electronic controller, control method, and control program
US11978252B2 (en) Communication system, display apparatus, and display control method
JP2019164232A (ja) 共有端末、方法、プログラム、共有システム及び方法
JP6256545B2 (ja) 情報処理装置、その制御方法、及びプログラム、並びに、情報処理システム、その制御方法、及びプログラム
KR20150026382A (ko) 전자 장치 및 전자 장치에서 연락처 관리 방법
JP7480608B2 (ja) 表示装置、表示方法、プログラム
JP7331578B2 (ja) 表示装置、画像表示方法、プログラム
JP2024006703A (ja) 情報処理システム、検索方法、プログラム
JP2022147675A (ja) 表示装置、表示方法、プログラム
JP2024025003A (ja) 記録情報作成システム、情報処理システム、プログラム
JP2022143788A (ja) 表示装置、表示方法、プログラム
JP2022143517A (ja) 表示装置、表示方法、プログラム
JP2024008632A (ja) 情報処理システム、表示方法、プログラム、記録情報作成システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200707

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210430

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210518

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210716

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210803

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210927

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211012

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211025

R151 Written notification of patent or utility model registration

Ref document number: 6977408

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151