JP2012049969A - Electronic conference device, information display method, and program - Google Patents

Electronic conference device, information display method, and program Download PDF

Info

Publication number
JP2012049969A
JP2012049969A JP2010192263A JP2010192263A JP2012049969A JP 2012049969 A JP2012049969 A JP 2012049969A JP 2010192263 A JP2010192263 A JP 2010192263A JP 2010192263 A JP2010192263 A JP 2010192263A JP 2012049969 A JP2012049969 A JP 2012049969A
Authority
JP
Japan
Prior art keywords
image
storage
trajectory image
trajectory
agenda
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010192263A
Other languages
Japanese (ja)
Other versions
JP5678521B2 (en
Inventor
Shiro Ikegami
史郎 池上
Eiji Kenmochi
栄治 剣持
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2010192263A priority Critical patent/JP5678521B2/en
Publication of JP2012049969A publication Critical patent/JP2012049969A/en
Application granted granted Critical
Publication of JP5678521B2 publication Critical patent/JP5678521B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an electronic conference device capable of structuring and managing screen shots for each presently discussed topic.SOLUTION: An electronic conference device 100 comprises: first trail image storage reception means 35 which receives a storage instruction of a trail image; second trail image storage reception means 36 and 39 which receive the storage instruction of the trail image; trail image storage means 19 which adds unique identification information to a trail image being displayed on display means and stores the trail image in a first storage unit 20; identification information storage means 17 which stores, in a third storage unit 22, the identification information added by the trail image storage means; and associated information storage means 18 which stores, in a second storage unit 21, the identification information which is stored in the identification information storage means when the second trail image storage reception means receives the storage instruction as master image identification information and the identification information which is added by the trail image storage means when the second trail image storage reception means receives the storage instruction as slave image identification information, in association with each other.

Description

本発明は、手書き情報を電子的に画像化して参加者に提示する電子会議装置に関し、特に、画像化された手書き情報を関連付けて記憶する電子会議装置に関する。   The present invention relates to an electronic conference apparatus that electronically images handwritten information and presents it to participants, and more particularly to an electronic conference apparatus that stores imaged handwritten information in association with each other.

電子情報ボードが学校の授業や会議のプレゼンテーションで使用されるようになってきた。電子情報ボードとは、黒板や電子情報ボードに相当するボード上にコンピュータ画面を表示し、タッチパネル等の入力装置によりユーザの操作を受け付け、操作結果をコンピュータ画面に反映させる入出力装置である。   Electronic information boards have been used in school classes and conference presentations. The electronic information board is an input / output device that displays a computer screen on a board corresponding to a blackboard or an electronic information board, receives a user operation by an input device such as a touch panel, and reflects the operation result on the computer screen.

コンピュータ画面の表示にはいくつかの方法があり、液晶やプラズマなどのフラットパネルを用いるタイプ、フロント型プロジェクタを用いるタイプ、リア型のプロジェクタを用いるタイプ等がある。いずれも、40インチ〜60インチ程度のサイズの大型の画面にコンピュータ画面を表示することができる。   There are several methods for displaying a computer screen, such as a type using a flat panel such as liquid crystal or plasma, a type using a front projector, a type using a rear projector, and the like. In either case, the computer screen can be displayed on a large screen having a size of about 40 inches to 60 inches.

図1は、フロントプロジェクタ型の電子会議装置の外観例を示す図である。PC300には電子情報ボード400とフロント型のプロジェクタ200が接続されている。プロジェクタ200は、PC300の表示画面と同じ画面を電子情報ボードに大きく映すことができる。   FIG. 1 is a diagram showing an example of the external appearance of a front projector type electronic conference apparatus. An electronic information board 400 and a front projector 200 are connected to the PC 300. The projector 200 can greatly project the same screen as the display screen of the PC 300 on the electronic information board.

話し手が電子情報ボード400のタッチパネル機能を用いて、映されているコンピュータ画面に直接タッチすることで、タッチした位置に応じてPC300を操作することが可能である。   When the speaker directly touches the computer screen displayed using the touch panel function of the electronic information board 400, the PC 300 can be operated according to the touched position.

例えば、接続したPC300上で動かす、電子情報ボード400のアプリケーションソフトウエアがこれらの機器と一緒に提供されている。このアプリケーションソフトウエアは、
(1)黒板の役割をする画面を表示してタッチパネルを介して手書き文字などの描画を受け付ける機能
(2)受け付けた手書き文字をコンピュータ画面に重畳して描く機能
などを提供する。
For example, application software for the electronic information board 400 that runs on the connected PC 300 is provided together with these devices. This application software
(1) A function of displaying a screen serving as a blackboard and receiving drawing of a handwritten character or the like via a touch panel. (2) A function of drawing an accepted handwritten character on a computer screen.

このような電子情報ボード400を用いた会議などでは、共通の資料が表示される画面を多数の参加者が目視しながら会議が進行する。すなわち参加者が共通の問題として認識している議題を中心にその解決方法を見つけるため議論を行う形態を取ることが多い。もし議題が複数あるのなら、司会者(以下、単にユーザという)が議題を1つ選び、その議題を中心に議論を進めることになる。   In such a conference using the electronic information board 400, the conference proceeds while a large number of participants view a screen on which common materials are displayed. In other words, it often takes a form of discussion in order to find a solution centering on the agenda that participants recognize as a common problem. If there are multiple agenda items, a moderator (hereinafter simply referred to as a user) selects one agenda item, and the discussion is centered on that agenda item.

会議においてユーザは、電子情報ボード400を用いてスクリーンショットをとりながら議論を進めることができるが、各スクリーンショットの関連が分かりにくくなるという問題がある。また、複数の議論がある場合、参加者は1つの議論に集中しがちで他の議題を忘れがちである。   In the meeting, the user can proceed with the discussion while taking a screen shot using the electronic information board 400, but there is a problem that the relationship between the screen shots becomes difficult to understand. Also, when there are multiple discussions, participants tend to concentrate on one discussion and forget other topics.

この点について、議論に関連して残しておきたいメモ等の画面イメージを、当該議論に関する表示内容と関連付けて管理可能にする技術が提案されている(例えば、特許文献1参照。)。特許文献1には、参加者が表示部分を選択すると、選択した部分だけを表示する画面を生成し、参加者のメモ書きの入力を受け付ける電子会議装置が開示されている。   With regard to this point, a technique has been proposed that enables management of a screen image such as a memo that is desired to remain in relation to a discussion in association with display contents related to the discussion (see, for example, Patent Document 1). Patent Document 1 discloses an electronic conference apparatus that generates a screen that displays only a selected portion when a participant selects a display portion and receives an input of a participant's memo.

しかしながら、特許文献1に記載の電子会議装置では、資料の一部とメモを関連付けることしかできず、メモが会議の全体とどのよう関わるのかが分かりにくいという問題がある。例えば、議題というのはいくつかの項目が階層構造をなしていることが多いが、特許文献1に開示された方法では、メモが階層のどの資料と関わるのか分からない。   However, the electronic conference apparatus described in Patent Document 1 can only associate a part of a document with a memo and has a problem that it is difficult to understand how the memo relates to the entire conference. For example, the agenda often has a hierarchical structure in which some items have a hierarchical structure. However, in the method disclosed in Patent Document 1, it is not known to which material in the hierarchy a memo relates.

本発明は、上記課題に鑑み、電子情報ボードを使用して議論をする際、途中で記憶した電子情報ボード上のスクリーンショットを、現在議論している議題毎に構造化して管理することができる電子会議装置、情報表示方法及びプログラムを提供することを目的とする。   In view of the above problems, the present invention can structure and manage screenshots on the electronic information board stored in the middle for each agenda currently being discussed when discussing using the electronic information board. An object is to provide an electronic conference device, an information display method, and a program.

本発明は、情報入力領域に対する入力位置を検出する位置検出手段(例えば、位置検出部12)と、時系列の前記位置情報の軌跡を軌跡画像として可視化する軌跡画像生成手段(例えば、軌跡画像処理部14)と、前記軌跡画像を表示する表示手段(例えば、プロジェクタ200)と、を有する電子会議装置であって、前記軌跡画像(例えば、起点議題画像)の記憶命令を受け付ける第一の軌跡画像記憶受け付け手段(例えば、議題ページ指定ボタン35)と、前記軌跡画像(例えばスクリーンショット)の記憶命令を受け付ける第二の軌跡画像記憶受け付け手段(例えば、スクリーンショットボタン34)と、前記第一又は第二の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記表示手段が表示している軌跡画像に一意の識別情報を付与して第一記憶部(例えば、画像記憶部20)に記憶する軌跡画像記憶手段(例えば、画像データ登録部19)と、前記第一の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記軌跡情報記憶手段が付与した識別情報を第三記憶部(例えば、親画像ID一次記憶部22)に記憶する識別情報記憶手段(例えば、親画像ID更新部17)と、前記第二の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記識別情報記憶手段に記憶されていた識別情報を親画像として、前記第二の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記軌跡画像記憶手段が付与した識別情報を子画像として両者を対応づけて第二記憶部(例えば、画像構造記憶部21)に記憶する対応情報記憶手段(例えば、構造登録部18)と、を有することを特徴とする。   The present invention includes a position detection unit (for example, the position detection unit 12) that detects an input position with respect to an information input area, and a trajectory image generation unit (for example, a trajectory image process) that visualizes the trajectory of the time-series position information as a trajectory image. Unit 14) and a display unit (for example, projector 200) for displaying the trajectory image, the electronic conference device having a first trajectory image for receiving a storage command for the trajectory image (for example, the origin agenda image) Storage accepting means (for example, agenda page designation button 35), second trajectory image storage accepting means (for example, screen shot button 34) for accepting an instruction to store the trajectory image (for example, screen shot), and the first or second Unique identification information in the trajectory image displayed by the display means when the second trajectory image storage accepting means accepts the storage command. When the storage command is received by the trajectory image storage means (for example, the image data registration section 19) and the first trajectory image storage reception means that stores the first storage section (for example, the image storage section 20). Identification information storage means (for example, parent image ID update section 17) for storing the identification information given by the locus information storage means in a third storage section (for example, parent image ID primary storage section 22), and the second locus The identification information stored in the identification information storage means when the image storage acceptance means accepts a storage command is used as a parent image, and the trajectory image storage means when the second trajectory image storage acceptance means accepts a storage command. Correspondence information storage means (for example, the structure registration unit 18) for storing the assigned identification information as a child image in association with each other in the second storage unit (for example, the image structure storage unit 21). And wherein the Rukoto.

また、本発明の一形態において、前記軌跡画像の一部である一部軌跡画像(例えば、議題画像)の選択と該一部軌跡画像の記憶命令を受け付ける第三の軌跡画像記憶受け付け手段(例えば、議題指定開始ボタン36,議題指定終了ボタン39)、を有し、前記軌跡画像記憶手段は、前記第三の軌跡画像記憶受け付け手段が記憶命令を受け付けた一部軌跡画像に一意の識別情報を付与して記憶し、前記対応情報記憶手段は、前記第三の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記識別情報記憶手段に記憶されていた識別情報と、前記第三の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記軌跡画像記憶手段が付与した識別情報を対応づけて記憶し、前記識別情報記憶手段は、前記第三の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記軌跡情報記憶手段が付与した識別情報を記憶する、ことを特徴とする。   In one embodiment of the present invention, a third trajectory image storage receiving unit (for example, a part trajectory image (for example, an agenda image) that is a part of the trajectory image and a command for storing the partial trajectory image are received. , An agenda designation start button 36, and an agenda designation end button 39), and the trajectory image storage means assigns unique identification information to the partial trajectory image received by the third trajectory image storage accepting means. And the correspondence information storage means stores the identification information stored in the identification information storage means when the third trajectory image storage acceptance means accepts a storage command, and the third trajectory image storage. The identification information given by the trajectory image storage means is stored in association with the accepting means when the accepting instruction is received, and the identification information storage means is recorded by the third trajectory image storage acceptance means. The trace information storage means for storing the granted identification information upon receiving the instruction, characterized in that.

電子情報ボードを使用して議論をする際、途中で記憶した電子情報ボード上のスクリーンショットを、現在議論している議題毎に構造化して管理することができる電子会議装置、情報表示方法及びプログラムを提供することができる。   Electronic conference device, information display method, and program capable of structuring and managing screen shots on electronic information board stored in the middle for each agenda currently being discussed when discussing using electronic information board Can be provided.

フロントプロジェクタ型の電子情報ボードの外観例を示す図である。It is a figure which shows the example of an external appearance of a front projector type electronic information board. PCのハードウェア構成図の一例である。It is an example of the hardware block diagram of PC. 電子会議装置の機能ブロック図の一例である。It is an example of the functional block diagram of an electronic conference apparatus. ユーザ情報の一例を示す図である。It is a figure which shows an example of user information. 軌跡画像が表示されていない初期状態の画面の一例を示す図である。It is a figure which shows an example of the screen of the initial state in which the locus | trajectory image is not displayed. ユーザにより議題が描画された画面の一例を示す図である。It is a figure which shows an example of the screen where the agenda was drawn by the user. ユーザが議題を選択した際の画面の一例を示す図である。It is a figure which shows an example of the screen when a user selects the agenda. スクリーンショットが表示された画面の一例を示す図である。It is a figure which shows an example of the screen as which the screenshot was displayed. 描画欄に閉曲線が描かれた画面の一例を示す図である。It is a figure which shows an example of the screen on which the closed curve was drawn in the drawing column. ユーザが新たに描画欄に手書きした軌跡画像の一例を示す図である。It is a figure which shows an example of the locus image which the user newly handwritten in the drawing column. 「議題AAAAAAAAAA」が記述された議題画像の下層のスクリーンショットが表示された画面の一例を示す図である。It is a figure which shows an example of the screen on which the screen shot of the lower layer of the agenda image in which "Agenda AAAAAAAAA" was described was displayed. 初期状態の画像記憶部、画像構造記憶部及び親画像ID一次記憶部を模式的に示す図の一例である。It is an example of the figure which shows typically the image memory | storage part of an initial state, an image structure memory | storage part, and a parent image ID primary memory | storage part. 画像記憶部、画像構造記憶部及び親画像ID一次記憶部を模式的に示す図の一例である。3 is an example of a diagram schematically illustrating an image storage unit, an image structure storage unit, and a parent image ID primary storage unit. FIG. 画像記憶部、画像構造記憶部及び親画像ID一次記憶部を模式的に示す図の一例である。3 is an example of a diagram schematically illustrating an image storage unit, an image structure storage unit, and a parent image ID primary storage unit. FIG. 画像記憶部、画像構造記憶部及び親画像ID一次記憶部を模式的に示す図の一例である。3 is an example of a diagram schematically illustrating an image storage unit, an image structure storage unit, and a parent image ID primary storage unit. FIG. 画像記憶部、画像構造記憶部及び親画像ID一次記憶部を模式的に示す図の一例である。3 is an example of a diagram schematically illustrating an image storage unit, an image structure storage unit, and a parent image ID primary storage unit. FIG. 画像記憶部、画像構造記憶部及び親画像ID一次記憶部を模式的に示す図の一例である。3 is an example of a diagram schematically illustrating an image storage unit, an image structure storage unit, and a parent image ID primary storage unit. FIG. 画像記憶部、画像構造記憶部及び親画像ID一次記憶部を模式的に示す図の一例である。3 is an example of a diagram schematically illustrating an image storage unit, an image structure storage unit, and a parent image ID primary storage unit. FIG. 画像構造記憶部に記憶された階層構造の一例を示す。An example of the hierarchical structure memorize | stored in the image structure memory | storage part is shown. 電子会議で画像記憶部に記憶された画像データの階層構造を模式的に示す図の一例である。It is an example of the figure which shows typically the hierarchical structure of the image data memorize | stored in the image memory | storage part by the electronic conference. スクリーンショットボタンが押下された際の電子会議装置の処理手順を示すフローチャート図の一例である。It is an example of the flowchart figure which shows the process sequence of the electronic conference apparatus when a screen shot button is pressed down. 議題指定開始ボタンが押下された際の電子会議装置の処理手順を示すフローチャート図の一例である。It is an example of the flowchart figure which shows the process sequence of the electronic conference apparatus when an agenda designation | designated start button is pressed down. 画像追加フローの処理手順を示すフローチャート図の一例である。It is an example of the flowchart figure which shows the process sequence of an image addition flow. 議題画像表示フローの処理手順を示すフローチャート図の一例である。It is an example of the flowchart figure which shows the process sequence of an agenda image display flow. 議題一覧ボタンが押下された際の制御部の処理手順を示すフローチャート図の一例である。It is an example of the flowchart figure which shows the process sequence of the control part when an agenda list button is pressed down. 議題画像の変形例を示す図の一例である。It is an example of the figure which shows the modification of an agenda image. 画像情報を位置情報とした画像記憶部の一例を示す図である。It is a figure which shows an example of the image memory | storage part which used image information as positional information.

以下、本発明を実施するための形態について図面を参照しながら説明する。なお、全体構成図については図1と同様であるので省略する。図1に示したように、PC300には電子情報ボード400とフロント型のプロジェクタ200が接続されている。プロジェクタ200は、フラットパネルディスプレイでもリア型のプロジェクタでもよい。電子情報ボード400とPC300とが接続されることで電子会議装置100を構成している。なお、プロジェクタ200とPC300は汎用的なものを使用できる。   Hereinafter, embodiments for carrying out the present invention will be described with reference to the drawings. The overall configuration diagram is the same as that in FIG. As shown in FIG. 1, an electronic information board 400 and a front projector 200 are connected to the PC 300. The projector 200 may be a flat panel display or a rear type projector. The electronic conference board 100 is configured by connecting the electronic information board 400 and the PC 300. Note that general-purpose projectors 200 and PCs 300 can be used.

〔電子会議装置100の概略〕
説明を容易にするため、本実施形態の電子会議装置100の概略的な特徴部を、図20を用いて説明しておく。電子会議装置100は、ユーザが手書きした軌跡画像を階層的に管理することを特徴の1つとする。なお、本実施形態のユーザとは電子情報ボード400に手書きする者をいう。
[Outline of electronic conference apparatus 100]
For ease of explanation, a schematic feature of the electronic conference apparatus 100 according to the present embodiment will be described with reference to FIG. One feature of the electronic conferencing apparatus 100 is that it hierarchically manages locus images handwritten by the user. In addition, the user of this embodiment means a person who writes by hand on the electronic information board 400.

図20では、ユーザが4つの議題が記述された起点議題画像(ID=1)を4つの議題画像(ID=2,7,8,9)に仕分けている。そして、ユーザは4つの議題画像の1つ(ID=2)の下層に別の4つの議題が記述された起点議題画像(ID=4)を対応づけている。また、電子会議装置100は、4つの画像データの1つ(ID=2)の下層にスクリーンショット(ID=3)を対応づけている。   In FIG. 20, the user classifies the starting agenda image (ID = 1) in which four agendas are described into four agenda images (ID = 2, 7, 8, 9). The user associates a starting agenda image (ID = 4) in which another four agendas are described below one of the four agenda images (ID = 2). In addition, the electronic conference apparatus 100 associates the screen shot (ID = 3) with the lower layer of one of the four image data (ID = 2).

さらに、ユーザは、起点議題画像(ID=4)を4つの議題画像(ID=5,10,11,12)に仕分け、4つの議題画像の1つ(ID=5)の下層にスクリーンショット(ID=6)を対応づけている。   Further, the user sorts the starting agenda image (ID = 4) into four agenda images (ID = 5, 10, 11, 12), and screen shots (shown below) of one of the four agenda images (ID = 5). ID = 6).

このように電子会議装置100は、ユーザが議題を展開させても各画像データの親子関係を連鎖的に記憶している。したがって、本実施形態の電子会議装置100は、手書きされた画像を階層的に管理することができる。例えば会議では1つの議題が議論される過程で細分化されたり、細分化の前後で様々な画像が手書きされるが、電子会議装置100はこれらの手書きされた内容を階層的に管理でき、全ての画像を互いに対応づけて管理することが可能になる。   As described above, the electronic conference apparatus 100 stores the parent-child relationship of each image data in a chained manner even when the user develops the agenda. Therefore, the electronic conference apparatus 100 according to the present embodiment can manage handwritten images hierarchically. For example, in a meeting, a single agenda is subdivided in the process of being discussed, or various images are handwritten before and after the subdivision, but the electronic conference apparatus 100 can manage these handwritten contents hierarchically, Can be managed in association with each other.

〔構成〕
図2は、PC(Personal Computer)300のハードウェア構成図の一例である。PC300は、コンピュータと同様、それぞれバスで相互に接続されているCPU301、RPM302、RAM303、外部I/F304、通信装置305、入力装置306、表示制御部307及び記憶装置308を有する。CPU301は、OS(Operating System)及びプログラム310を記憶装置308から読み出して、RAM303を作業メモリにして実行する。
〔Constitution〕
FIG. 2 is an example of a hardware configuration diagram of a PC (Personal Computer) 300. Like the computer, the PC 300 includes a CPU 301, an RPM 302, a RAM 303, an external I / F 304, a communication device 305, an input device 306, a display control unit 307, and a storage device 308 that are connected to each other via a bus. The CPU 301 reads an OS (Operating System) and a program 310 from the storage device 308, and executes them using the RAM 303 as a working memory.

プログラム310は、電子会議システムの一般的な機能である、ユーザがタッチパネルを操作した位置の位置情報を取得する機能、一連の位置情報を軌跡として表示する機能、等を提供する。また、プログラム310は後述する電子会議装置100の特徴部を提供する。プログラム310は、一般的なワープロアプリやプレゼンアプリと連携して、アドインプログラムのように実行されることもできる。この場合、プレゼンアプリが生成した画面が電子情報ボード400に表示され、プレゼンアプリの画面に対し文字などが表示される。以下、プログラム310と一般的なアプリケーションの機能を区別しないで説明する。   The program 310 provides a general function of the electronic conference system, such as a function of acquiring position information of a position where the user has operated the touch panel, a function of displaying a series of position information as a locus, and the like. Further, the program 310 provides a characteristic part of the electronic conference apparatus 100 described later. The program 310 can be executed like an add-in program in cooperation with a general word processing application or presentation application. In this case, the screen generated by the presentation application is displayed on the electronic information board 400, and characters and the like are displayed on the screen of the presentation application. Hereinafter, the program 310 and general application functions will be described without distinction.

RAM303は必要なデータを一時保管する作業メモリ(主記憶メモリ)になり、ROM302にはBIOSや初期設定されたデータ、起動用のプログラム等が記憶されている。   The RAM 303 is a work memory (main storage memory) for temporarily storing necessary data, and the ROM 302 stores BIOS, initially set data, a startup program, and the like.

外部I/F304はUSBケーブル等のケーブルや、可搬型の記憶媒体320を装着するインタフェースである。記憶媒体20は、USBメモリ等のフラッシュメモリ、CD−ROM等の光記憶媒体等である。本実施形態では外部I/F304に電子情報ボード側のタッチパネルが接続されている。なお、外部I/F304は有線でなく無線で電子情報ボード400と接続されてもよい。この場合、外部I/F304はBluetoothや無線LANの通信装置である。   The external I / F 304 is an interface for mounting a cable such as a USB cable or a portable storage medium 320. The storage medium 20 is a flash memory such as a USB memory, an optical storage medium such as a CD-ROM, or the like. In this embodiment, a touch panel on the electronic information board side is connected to the external I / F 304. The external I / F 304 may be connected to the electronic information board 400 wirelessly instead of wired. In this case, the external I / F 304 is a Bluetooth or wireless LAN communication device.

通信装置305は、LANカードやイーサネット(登録商標)カードと呼ばれ、CPU301からの指示によりネットワークを介して接続されたコンピュータにデータを送信する。   The communication device 305 is called a LAN card or an Ethernet (registered trademark) card, and transmits data to a computer connected via a network according to an instruction from the CPU 301.

入力装置306は、キーボード、マウスなど、ユーザの様々な操作指示を受け付けるユーザインターフェイスである。また、本実施形態では、電子情報ボード400のタッチパネルも入力装置である。   The input device 306 is a user interface that accepts various user operation instructions such as a keyboard and a mouse. In the present embodiment, the touch panel of the electronic information board 400 is also an input device.

表示制御部307は、プログラム310が指示する画面情報に基づき所定の解像度や色数等でプロジェクタ200に画面情報を出力している。この画面情報は、PC300にプロジェクタ200を接続しない場合にディスプレイに表示される画面を描画するためのものである。グラフィックボードや分配器を使用することで、プロジェクタ200とディスプレイの両方に同時に画面を表示することもできる。   The display control unit 307 outputs screen information to the projector 200 with a predetermined resolution, number of colors, and the like based on screen information instructed by the program 310. This screen information is for drawing a screen displayed on the display when the projector 200 is not connected to the PC 300. By using a graphic board or distributor, the screen can be displayed on both the projector 200 and the display at the same time.

記憶装置308は、HDD(Hard Disk Drive)やフラッシュメモリなどの不揮発メモリを実体とし、OS及びプログラム310等、を記憶している。プログラム310は、記憶媒体320に記憶された状態又は不図示のサーバからダウンロードされる態様で配布される。   The storage device 308 has a nonvolatile memory such as an HDD (Hard Disk Drive) or a flash memory as an entity, and stores an OS, a program 310, and the like. The program 310 is distributed in a state stored in the storage medium 320 or downloaded from a server (not shown).

図3は、電子会議装置100の機能ブロック図の一例を示す。電子会議装置100は、CPU301がプログラム310を実行することで実現される、映像出力部11、位置検出部12、アプリ画面生成部13、軌跡画像処理部14、制御部15、議題画像取得部16、画像データ登録部19、構造登録部18,親画像ID更新部17、を有する。また、電子会議装置100は、RAM303や記憶装置308を実体とする、親画像ID一次記憶部22、画像記憶部20、画像構造記憶部21及びユーザ情報記憶部23を有する。   FIG. 3 shows an example of a functional block diagram of the electronic conference apparatus 100. The electronic conference apparatus 100 is realized by the CPU 301 executing the program 310. The video output unit 11, the position detection unit 12, the application screen generation unit 13, the trajectory image processing unit 14, the control unit 15, and the agenda image acquisition unit 16 are realized. An image data registration unit 19, a structure registration unit 18, and a parent image ID update unit 17. In addition, the electronic conference apparatus 100 includes a parent image ID primary storage unit 22, an image storage unit 20, an image structure storage unit 21, and a user information storage unit 23, each having a RAM 303 or a storage device 308.

位置検出部12は、ユーザがスタイラスペン500等で接触した(タッチした)電子情報ボード400のタッチパネル上の位置を、静電容量、圧力や形状の変化として検出する。位置検出部12が所定のサイクル時間毎に、位置を検出することで、スタイラスペン500の先端の軌跡が得られる。この位置は、例えば電子情報ボード400の左上角を原点としたピクセル単位のX,Y座標である。なお、ユーザはスタイラスペン500を使用しなくても指先などで電子情報ボード400を操作することができる。また、位置検出部12はタッチパネル側が有していてもよい。なお、映像とスタイラスペン500の位置が一致するように、予め位置合わせが行われている。   The position detection unit 12 detects the position on the touch panel of the electronic information board 400 that the user has touched (touched) with the stylus pen 500 or the like as a change in capacitance, pressure, or shape. The position detecting unit 12 detects the position at every predetermined cycle time, whereby the locus of the tip of the stylus pen 500 is obtained. This position is, for example, X and Y coordinates in pixel units with the upper left corner of the electronic information board 400 as the origin. Note that the user can operate the electronic information board 400 with a fingertip or the like without using the stylus pen 500. Further, the position detection unit 12 may be provided on the touch panel side. In addition, alignment is performed in advance so that the position of the video and the stylus pen 500 coincide.

また、電子情報ボード400の描画位置は、接触位置でなく光学的なペンの光点の照射位置(接触しても非接触でもよい)として検出してもよい。また、ペンの先頭の軌跡をカメラで撮影して位置情報を検出することもできる。   Further, the drawing position of the electronic information board 400 may be detected not as a contact position but as an irradiation position of a light spot of an optical pen (may be contacted or non-contacted). Further, the position information can also be detected by photographing the trajectory of the top of the pen with a camera.

制御部15は、電子会議装置100の全体を制御する。例えば、位置検出部12が検出した位置情報を筆跡とするか又はコマンドの操作として受け付けるかを判断したり、画像データの記憶等を制御する。   The control unit 15 controls the entire electronic conference apparatus 100. For example, it is determined whether the position information detected by the position detection unit 12 is a handwriting or a command operation, and storage of image data is controlled.

軌跡画像処理部14は、位置検出部12が検出した位置情報を、所定の線幅で時系列に連結することにより軌跡画像を生成し、映像出力部11に出力する。線幅や線の色はユーザが選択できるようになっている。   The trajectory image processing unit 14 generates a trajectory image by connecting the position information detected by the position detection unit 12 in time series with a predetermined line width, and outputs the trajectory image to the video output unit 11. The line width and line color can be selected by the user.

アプリ画面生成部13は、プログラム310が生成する電子会議用のアプリ画面情報を生成し、映像出力部11に出力する。電子会議用の画面は種々あるが、ここでは、後述する描画欄31、議題表示欄32、スクリーンショット表示欄33及びコマンドボタン欄30が表示されるとする。   The application screen generation unit 13 generates application screen information for an electronic conference generated by the program 310 and outputs the application screen information to the video output unit 11. There are various types of electronic conference screens. Here, it is assumed that a drawing column 31, an agenda display column 32, a screen shot display column 33, and a command button column 30, which will be described later, are displayed.

映像出力部11は、軌跡画像とアプリ画面情報を合成して画面の画像データを生成し、プロジェクタ200に送出する。例えば、軌跡画像のレイヤをアプリ画面のレイヤに重畳させればよい。   The video output unit 11 combines the trajectory image and the application screen information to generate screen image data, and sends the screen image data to the projector 200. For example, the locus image layer may be superimposed on the application screen layer.

画像データ登録部19は、映像出力部11がプロジェクタ200に表示している映像のうち、軌跡画像の全体又は一部を画像記憶部20に保存する。より具体的には、プログラム310が表示しているコマンドボタンにユーザがタッチしたことを、制御部15が位置情報に基づき検出し、軌跡画像の全体又は一部を画像記憶部20に保存する。これにより、画像記憶部20には後述する描画欄31の軌跡画像のスクリーンショットや議題画像、起点議題画像が記憶される。なお、スクリーンショットや議題画像、起点議題画像を区別しない場合、単に「画像データ」という。   The image data registration unit 19 stores the whole or a part of the trajectory image in the image storage unit 20 among the videos displayed on the projector 200 by the video output unit 11. More specifically, the control unit 15 detects that the user has touched the command button displayed by the program 310 based on the position information, and stores all or a part of the trajectory image in the image storage unit 20. As a result, a screen shot, agenda image, and a starting point agenda image of a trajectory image in a drawing field 31 to be described later are stored in the image storage unit 20. Note that when the screen shot, the agenda image, and the starting agenda image are not distinguished, they are simply referred to as “image data”.

構造登録部18は、画像記憶部20に登録されたスクリーンショット、議題画像、及び、起点議題画像の階層構造を画像構造記憶部21に登録する。構造登録部18の処理については後述する。   The structure registration unit 18 registers the screen shot, the agenda image, and the hierarchical structure of the starting agenda image registered in the image storage unit 20 in the image structure storage unit 21. The processing of the structure registration unit 18 will be described later.

親画像ID更新部17は、親画像ID一次記憶部22に記憶された、現在の軌跡画像の親画像の画像IDを更新する。すなわち、現在の軌跡画像が記憶された場合、その画像データは、親画像ID一次記憶部22に記憶された画像IDの画像データの子画像として画像記憶部20に記憶される。   The parent image ID update unit 17 updates the image ID of the parent image of the current trajectory image stored in the parent image ID primary storage unit 22. That is, when the current trajectory image is stored, the image data is stored in the image storage unit 20 as a child image of the image data of the image ID stored in the parent image ID primary storage unit 22.

画像記憶部20は、上記のように、映像出力部11が表示しているスクリーンショット、議題画像及び起点議題画像を保存する。画像構造記憶部21は、画像記憶部20に保存されている画像データの階層構造を保存する。親画像ID一時記憶部22は、現在の軌跡画像の親画像の画像IDを記憶する。図12以下に画像記憶部20、画像構造記憶部21及び親画像ID一次記憶部22の一例を示すが詳細は後述する。   As described above, the image storage unit 20 stores the screen shot, the agenda image, and the starting agenda image displayed by the video output unit 11. The image structure storage unit 21 stores a hierarchical structure of image data stored in the image storage unit 20. The parent image ID temporary storage unit 22 stores the image ID of the parent image of the current trajectory image. An example of the image storage unit 20, the image structure storage unit 21, and the parent image ID primary storage unit 22 is shown below in FIG.

ユーザ情報記憶部23は、ユーザ情報を記憶する。図4(a)は、ユーザ情報の一例を示す図である。ユーザ情報は対になったユーザ名とパスワードを有する。電子会議装置100の利用開始前に、ユーザが電子情報ボードを操作してユーザ名とパスワードを入力する。   The user information storage unit 23 stores user information. FIG. 4A illustrates an example of user information. The user information has a paired user name and password. Before starting to use the electronic conference apparatus 100, the user operates the electronic information board and inputs the user name and password.

図4(b)は電子情報ボードに表示された入力画面の一例を示す。制御部15は、入力されたユーザ名とパスワードの組がユーザ情報記憶部23に記憶されているか否かに基づき、ユーザを認証する。認証が成立した場合、制御部15はそのユーザに当該電子会議装置100の使用を許可する。   FIG. 4B shows an example of an input screen displayed on the electronic information board. The control unit 15 authenticates the user based on whether or not the set of the input user name and password is stored in the user information storage unit 23. When authentication is established, the control unit 15 permits the user to use the electronic conference device 100.

〔初期画面〕
図5は、軌跡画像が表示されていない初期状態の画面一例を示す。映像出力部11は、プロジェクタ200を介して、アプリ画面生成部13が生成したアプリ画面情報に従い図示する画面を電子情報ボード400に表示する。
〔initial screen〕
FIG. 5 shows an example of a screen in an initial state where no trajectory image is displayed. The video output unit 11 displays an illustrated screen on the electronic information board 400 according to the application screen information generated by the application screen generation unit 13 via the projector 200.

この画面は、描画欄31、議題表示欄32、スクリーンショット表示欄33及びコマンドボタン欄30を有する。描画欄31は、ユーザが文字等を手書きする領域である。特に、本実施形態では、ユーザは議論の際、描画欄31に議題及び議論に必要な情報を描く。描画欄31に表示される画像はその一部か全体かを問わずに軌跡画像と呼ぶ。   This screen has a drawing field 31, an agenda display field 32, a screen shot display field 33, and a command button field 30. The drawing column 31 is an area where the user handwrites characters and the like. In particular, in the present embodiment, the user draws the agenda and information necessary for the discussion in the drawing column 31 during the discussion. Regardless of whether the image displayed in the drawing field 31 is a part or the whole, it is called a trajectory image.

議題表示欄32には、ユーザによって指定された議題画像が表示される。議題画像とは、議題指定開始ボタン36が押下されてから議題指定終了ボタン39が押下されるまでにユーザが指定した軌跡画像の一部をいう。本実施形態では、ユーザが指定するのは議題が含まれる軌跡画像となるので、「議題画像」と呼ぶが、議題以外の軌跡画像を指定することもできる。議題表示欄32には、複数の議題画像を表示することができる。   The agenda image designated by the user is displayed in the agenda display field 32. The agenda image is a part of a trajectory image designated by the user from when the agenda designation start button 36 is pressed to when the agenda designation end button 39 is pressed. In this embodiment, since the user designates a trajectory image including the agenda, it is called “agenda image”, but a trajectory image other than the agenda can also be designated. In the agenda display field 32, a plurality of agenda images can be displayed.

スクリーンショット表示欄33は、スクリーンショットボタン34が押下された際の描画欄31の軌跡画像の縮小画像が表示される。すなわち、描画欄31の全体の軌跡画像が表示されるが、本実施形態ではスクリーンショットボタン34により記憶される画像データを「スクリーンショット」という。スクリーンショット表示欄33には複数のスクリーンショットを表示することができる。   The screen shot display field 33 displays a reduced image of the trajectory image in the drawing field 31 when the screen shot button 34 is pressed. That is, the entire trajectory image of the drawing field 31 is displayed. In this embodiment, the image data stored by the screen shot button 34 is referred to as “screen shot”. In the screen shot display field 33, a plurality of screen shots can be displayed.

コマンドボタン欄30は、スクリーンショットボタン34、議題ページ指定ボタン35、議題指定開始ボタン36、全消去ボタン37、及び、議題一覧ボタン38を有する。スクリーンショットボタン34が選択されると、画像データ登録部19は描画欄31の軌跡画像の全体を1つの画像に変換し、画像記憶部20に登録する。画像データのフォーマットは主にjpeg、html、pdf、bmp等であるが、位置情報の生データを記憶してもよい。   The command button column 30 includes a screen shot button 34, an agenda page designation button 35, an agenda designation start button 36, an all deletion button 37, and an agenda list button 38. When the screen shot button 34 is selected, the image data registration unit 19 converts the entire locus image in the drawing field 31 into one image and registers it in the image storage unit 20. The format of the image data is mainly jpeg, html, pdf, bmp, etc., but raw data of position information may be stored.

議題ページ指定ボタン35が選択されると、画像データ登録部19は描画欄31の軌跡画像の全体を1つの画像に変換し、画像記憶部20に登録する。議題ページ指定ボタン35が押下された描画欄31の画像データは階層構造の親画像となる。   When the agenda page designation button 35 is selected, the image data registration unit 19 converts the entire locus image in the drawing column 31 into one image and registers it in the image storage unit 20. The image data in the drawing field 31 where the agenda page designation button 35 is pressed becomes a parent image having a hierarchical structure.

本実施形態では、ユーザが議題ページ指定ボタン35を押下するのは議論すべき内容が多岐に渡る1つ以上の議題が手書きされた際であるので、この時の描画欄31の画像を「起点議題画像」と呼ぶ。当然ながら、ユーザは、描画欄31に議題が含まれていない状態で、議題ページ指定ボタン35を押下することもできる。   In the present embodiment, the user presses the agenda page designation button 35 when one or more agenda items that have various contents to be discussed are handwritten. Called “Agenda Image”. Naturally, the user can also press the agenda page designation button 35 in a state where the agenda is not included in the drawing column 31.

なお、議題ページ指定ボタン35を押下することで画像データの登録構造の階層が深くなっていく。   Note that pressing the agenda page designation button 35 deepens the hierarchy of the image data registration structure.

議題指定開始ボタン36が押下されてから議題指定終了ボタン39が押下されるまで、制御部15は、映像出力部11を議題指定開始モードに切り替える。議題指定開始モードに切り替わった映像出力部11は、軌跡画像処理部14が生成した線画像が囲む閉曲線の中の軌跡画像を、画像データ登録部19に出力する。画像データ登録部19は、議題画像を画像記憶部20に記憶する。   The control unit 15 switches the video output unit 11 to the agenda specification start mode until the agenda specification end button 39 is pressed after the agenda specification start button 36 is pressed. The video output unit 11 switched to the agenda designation start mode outputs a trajectory image in a closed curve surrounded by the line image generated by the trajectory image processing unit 14 to the image data registration unit 19. The image data registration unit 19 stores the agenda image in the image storage unit 20.

全消去ボタン37は、描画欄31に表示されている全ての軌跡を消去するためのボタンである。この場合、議題表示欄32の議題画像とスクリーンショット表示欄33のスクリーンショットは消去されない。   The all delete button 37 is a button for deleting all the trajectories displayed in the drawing field 31. In this case, the agenda image in the agenda display field 32 and the screen shot in the screen shot display field 33 are not deleted.

議題一覧表示ボタン38は、記憶部20に記憶された画像データを、階層構造を再現して表示するためのボタンである。議題一覧表示ボタン38の押下により図20のように画像データが階層構造に従って表示される。   The agenda list display button 38 is a button for reproducing and displaying the image data stored in the storage unit 20 with a hierarchical structure. By pressing the agenda list display button 38, the image data is displayed according to the hierarchical structure as shown in FIG.

〔画面遷移〕
以下、画面の遷移を用いて電子会議装置100の動作を説明する。
図6(a)は、ユーザにより議題が描画された画面の一例を示す図である。ユーザはスタイラスペン500を使用して4つの議題を手書きした。
1.議題AAAAAAAAAA
2.議題BBBBBBBBBB
3.議題CCCCCCCCCC
4.議題DDDDDDDDDD
図6(a)の状態で、ユーザが議題ページ指定ボタン35を押下した。したがって、図6の描画欄31の画像データは起点議題画像となる。制御部15は、位置情報に基づき議題ページ指定ボタン35が押下されたことを検出し、アプリ画面生成部13に描画欄31の強調表示を要求する。この強調表示は、描画欄31の現在の軌跡画像が、起点議題画像であることを示すためのものである。なお、起点議題画像は画像記憶部20に記憶される。
〔Screen transition〕
Hereinafter, the operation of the electronic conference apparatus 100 will be described using screen transitions.
FIG. 6A is a diagram illustrating an example of a screen on which an agenda is drawn by the user. The user handwritten four agenda items using the stylus pen 500.
1. Agenda AAAAAAAAAA
2. Agenda BBBBBBBBBBB
3. Agenda CCCCCCCCCC
4). Agenda DDDDDDDDDDD
In the state of FIG. 6A, the user presses the agenda page designation button 35. Therefore, the image data in the drawing column 31 of FIG. 6 is the origin agenda image. The control unit 15 detects that the agenda page designation button 35 has been pressed based on the position information, and requests the application screen generation unit 13 to highlight the drawing field 31. This highlighting is for indicating that the current trajectory image in the drawing column 31 is the origin agenda image. The origin agenda image is stored in the image storage unit 20.

図6(b)では、強調表示として、描画欄31の右上に「議題ページ」と表示されている。描画欄31の枠の色を変えたり、背景色を変えるなど、描画欄31の軌跡画像が起点議題画像であることがわかればよい。   In FIG. 6B, “Agenda page” is displayed at the upper right of the drawing field 31 as highlighting. It is only necessary to know that the trajectory image of the drawing column 31 is the origin agenda image, such as changing the color of the frame of the drawing column 31 or changing the background color.

次に、ユーザが描画欄31の4つの議題から議論する議題を指定する。このため、ユーザは議題指定開始ボタン36を押下し、指定対象の議題を囲む閉曲線を手書きするので、軌跡画像処理部16は閉曲線の軌跡画像を生成する。   Next, the user designates the agenda for discussion from the four agenda items in the drawing column 31. For this reason, the user presses the agenda designation start button 36 and writes a closed curve surrounding the agenda to be designated, so that the trajectory image processing unit 16 generates a trajectory image of the closed curve.

図6(c)は、閉曲線41が描かれた描画欄31の一例を示す。図6(c)では1番目の「議題AAAAAAAAAA」が閉曲線41で囲まれている。   FIG. 6C shows an example of the drawing column 31 in which the closed curve 41 is drawn. In FIG. 6C, the first “Agenda AAAAAAAAA” is surrounded by a closed curve 41.

なお、ユーザが議題指定開始ボタン36を押下すると、議題指定開始ボタン36は不要になり終了を受け付けるボタンが必要になるので制御部15はアプリ画面生成部13に、議題指定開始ボタン36を議題指定終了ボタン39に切り替えて表示するよう要求する。   When the user presses the agenda designation start button 36, the agenda designation start button 36 becomes unnecessary, and a button for accepting the end is required. Therefore, the control unit 15 instructs the app screen generation unit 13 to specify the agenda designation start button 36. Request to switch to the end button 39 for display.

閉曲線41を手書きすると次に、ユーザは議題指定終了ボタン39を押下する。制御部15は議題指定終了ボタン39の押下を検出すると、閉曲線41が描かれたか否かを判定する。例えば、軌跡が所定長以上であることを条件に、軌跡の最初の位置情報と最後の位置情報を比較し、両者が所定の距離内であれば閉曲線41が描かれたと判定する。そして、制御部15は閉曲線41が議題を囲んでいるか否かを判定する。例えば、閉曲線41の外接矩形と議題の外接矩形を生成し、閉曲線41の外接矩形が議題の外接矩形を完全に囲んでいる場合に、制御部15は閉曲線41が議題を囲んでいると判定する。また、ユーザの操作性を考慮して、2つの外接矩形が9割程度の面積において重畳していれば、閉曲線41が議題を囲んでいると判定してもよいし、2つの外接矩形が一部でも重畳していれば、閉曲線41が議題を囲んでいると判定してもよい。なお、両者の位置情報は位置検出部12により明らかである。   Next, when the closed curve 41 is handwritten, the user presses the agenda designation end button 39. When detecting that the agenda designation end button 39 is pressed, the control unit 15 determines whether or not the closed curve 41 is drawn. For example, on the condition that the locus is longer than a predetermined length, the first position information and the last position information of the locus are compared, and if both are within a predetermined distance, it is determined that the closed curve 41 is drawn. Then, the control unit 15 determines whether or not the closed curve 41 surrounds the agenda. For example, when the circumscribed rectangle of the closed curve 41 and the circumscribed rectangle of the agenda are generated and the circumscribed rectangle of the closed curve 41 completely surrounds the circumscribed rectangle of the agenda, the control unit 15 determines that the closed curve 41 surrounds the agenda. . In consideration of user operability, if the two circumscribed rectangles overlap in an area of about 90%, it may be determined that the closed curve 41 surrounds the agenda, and the two circumscribed rectangles are one. If even the part overlaps, it may be determined that the closed curve 41 surrounds the agenda. The position information of both is clear by the position detector 12.

閉曲線41が議題を囲んでいる場合、制御部15は軌跡画像処理部14が生成した閉曲線41が含む議題の軌跡画像を画像記憶部20に記憶し、その軌跡画像を議題表示欄32に表示するようアプリ画面生成部13に要求する。これにより、画面の議題表示欄32にユーザが選択した議題画像が表示される。   When the closed curve 41 surrounds the agenda, the control unit 15 stores the trajectory image of the agenda included in the closed curve 41 generated by the trajectory image processing unit 14 in the image storage unit 20, and displays the trajectory image in the agenda display field 32. The application screen generation unit 13 is requested. As a result, the agenda image selected by the user is displayed in the agenda display field 32 of the screen.

図7(a)は、ユーザが議題を選択した際の画面の一例を示す図である。これまで説明したように1番目の「議題AAAAAAAAAA」が閉曲線41で囲まれているとともに、議題表示欄32に「議題AAAAAAAAAA」と記述された議題画像42が表示されている。この議題画像42は、議題表示欄32の「議題AAAAAAAAAA」は点線の閉曲線で囲まれているが、この点線の閉曲線は、ユーザが手書きした閉曲線41と同じ形状である。制御部15が議題だけでなく閉曲線41も議題表示欄32に表示するのは議題の区切りを明示するためであるが、閉曲線を表示しなくてもよいし、表示した際の閉曲線を点線にしなくてもよい。   FIG. 7A is a diagram illustrating an example of a screen when the user selects an agenda item. As described above, the first “Agenda AAAAAAAAA” is surrounded by the closed curve 41 and the agenda image 42 described as “Agenda AAAAAAAAA” is displayed in the agenda display field 32. In this agenda image 42, “Agenda AAAAAAAAAAA” in the agenda display field 32 is surrounded by a dotted closed curve, which has the same shape as the closed curve 41 handwritten by the user. The reason why the control unit 15 displays not only the agenda but also the closed curve 41 in the agenda display field 32 is to clearly indicate the delimiter of the agenda. May be.

なお、ユーザが議題指定終了ボタン39を押下すると、議題指定終了ボタン39は不要になり議題の指定を受け付けるボタンが必要になるので、制御部15はアプリ画像生成部に、議題指定終了ボタン39を議題指定開始ボタン36に切り替えて表示するよう要求する。   When the user presses the agenda designation end button 39, the agenda designation end button 39 becomes unnecessary, and a button for accepting the agenda designation is necessary. Therefore, the control unit 15 provides the agenda designation end button 39 to the application image generation unit. A request is made to switch to the agenda designation start button 36 for display.

続いて、ユーザが議論を進めるために、描画欄31を消去したとする。電子会議装置100において描画欄31を消去するため、ユーザは全消去ボタン37を押下する。制御部15は、位置情報に基づき、全消去ボタン37が押下されたことを検出し、アプリ画面生成部13に描画欄31の軌跡画像を全て消去するよう要求する。これにより、描画欄31の軌跡画像は全て消去される。なお、議題表示欄32の議題画像42は消去されない。また、画像記憶部20の議題画像も消去されない。   Subsequently, it is assumed that the drawing column 31 is deleted for the user to proceed with the discussion. In order to delete the drawing field 31 in the electronic conference apparatus 100, the user presses the all delete button 37. Based on the position information, the control unit 15 detects that the all deletion button 37 has been pressed, and requests the application screen generation unit 13 to delete all the trajectory images in the drawing field 31. Thereby, all the trajectory images in the drawing column 31 are deleted. The agenda image 42 in the agenda display field 32 is not deleted. Also, the agenda image in the image storage unit 20 is not deleted.

図7(b)は全消去ボタン37が押下された画面の一例を示す図である。描画欄31の4つの議題と1番目の議題を指定した閉曲線が全て消去されている。このような状態にすることで、これから描画欄31に表示される軌跡画像が、議題表示欄32に表示されている議題画像についてのものであることをユーザが一目で把握することができる。すなわち、議論の対象となる議題を表示したまま、参加者がより詳細な項目について議論できるようになる。   FIG. 7B shows an example of a screen on which the all deletion button 37 is pressed. All the closed curves that specify the four agenda items and the first agenda item in the drawing column 31 are deleted. In such a state, the user can grasp at a glance that the trajectory image displayed in the drawing field 31 is about the agenda image displayed in the agenda display field 32. That is, participants can discuss more detailed items while displaying the agenda subject to discussion.

図7(c)は、ユーザが新たに描画欄31に手書きした軌跡画像の一例を示す図である。ユーザは「議題AAAAAAAAA」について下位の項目となる「ABC」を描画欄31に手書きした。この描画欄31の軌跡画像をユーザが保存したいと考えた場合、ユーザはスクリーンショットボタン34を押下する。   FIG. 7C is a diagram illustrating an example of a trajectory image newly handwritten in the drawing field 31 by the user. The user handwritten “ABC”, which is a subordinate item of “Agenda AAAAAAAAA”, in the drawing column 31. When the user wants to save the trajectory image in the drawing field 31, the user presses the screen shot button 34.

制御部15は、位置情報に基づきスクリーンショットボタン34の押下を検出し、映像出力部11が描画欄31に表示している軌跡画像を画像データ登録部19に記憶するよう要求し、また、アプリ画面生成部13にスクリーンショットをスクリーンショット表示欄33に表示するよう要求する。これにより、「ABC」と手書きされた軌跡画像の画像データが画像記憶部20に記憶される。また、画面のスクリーンショット表示欄33に「ABC」と手書きされた軌跡画像のスクリーンショット43が表示される。   The control unit 15 detects pressing of the screenshot button 34 based on the position information, requests that the video output unit 11 store the trajectory image displayed in the drawing field 31 in the image data registration unit 19, and The screen generator 13 is requested to display a screen shot in the screen shot display field 33. Thus, the image data of the locus image handwritten as “ABC” is stored in the image storage unit 20. Also, a screen shot 43 of the locus image handwritten with “ABC” is displayed in the screen shot display field 33 of the screen.

図8(a)はスクリーンショット43が表示された画面の一例を示す。スクリーンショットボタン34が押下されたことによって、スクリーンショット表示欄33にスクリーンショット43が表示されている。   FIG. 8A shows an example of a screen on which a screen shot 43 is displayed. When the screen shot button 34 is pressed, a screen shot 43 is displayed in the screen shot display field 33.

図8(a)によれば、議題画像42が議題表示欄32に、その議題の項目がスクリーンショット表示欄33に表示されている。ユーザが全消去ボタン37を押下してもスクリーンショット表示欄33のスクリーンショット43は消えないので、描画欄31に過去のスクリーンショット43を表示したまま、ユーザは描画欄31に次々と項目を手書きすることができる。そして、常に議題が表示されているので、その描画欄31の軌跡画像がどの議題についてのものかを容易に把握できる。   According to FIG. 8A, the agenda image 42 is displayed in the agenda display field 32, and the agenda item is displayed in the screen shot display field 33. Even if the user presses the delete all button 37, the screen shot 43 in the screen shot display field 33 does not disappear. Therefore, the user writes items one after another in the drawing field 31 while displaying the past screen shot 43 in the drawing field 31. can do. Since the agenda is always displayed, it is possible to easily grasp which agenda the trajectory image of the drawing field 31 is for.

続いて、ユーザが全消去ボタン37を押下して、新たな議題を手書きしたとする。制御部15は、位置情報に基づき、全消去ボタン37が押下されたことを検出し、アプリ画面生成部13に描画欄31の軌跡画像を全て消去するよう要求する。これにより、描画欄31の軌跡画像は全て消去される。なお、議題表示欄32の議題画像42とスクリーンショット表示欄33のスクリーンショット43は消去されない。   Subsequently, it is assumed that the user presses the delete all button 37 and handwrites a new agenda item. Based on the position information, the control unit 15 detects that the all deletion button 37 has been pressed, and requests the application screen generation unit 13 to delete all the trajectory images in the drawing field 31. Thereby, all the trajectory images in the drawing column 31 are deleted. The agenda image 42 in the agenda display field 32 and the screen shot 43 in the screen shot display field 33 are not deleted.

図8(b)は新たな議題の一例を示す。ユーザは4つの議題を手書きしている。
1.議題AAAAAaaaaa
2.議題BBBBBbbbbb
3.議題CCCCCccccc
4.議題DDDDDddddd
図8(b)の状態で、ユーザが議題ページ指定ボタン35を押下した。これにより、図8(b)の描画欄31の画像データが起点軌跡画像となる。制御部15は、位置情報に基づき議題ページ指定ボタン35が押下されたことを検出し、アプリ画面生成部13に描画欄31の強調表示を要求する。この起点軌跡画像も画像記憶部20に記憶される。
FIG. 8B shows an example of a new agenda item. The user has handwritten four agenda items.
1. Agenda AAAAAaaaaaa
2. Agenda BBBBBbbbb
3. Agenda CCCCCcccccc
4). Agenda DDDDDdddddd
In the state of FIG. 8B, the user presses the agenda page designation button 35. As a result, the image data in the drawing field 31 in FIG. 8B becomes the starting locus image. The control unit 15 detects that the agenda page designation button 35 has been pressed based on the position information, and requests the application screen generation unit 13 to highlight the drawing field 31. This starting point locus image is also stored in the image storage unit 20.

図8(c)は新たに起点議題画像が指定された画面の一例を示す。議題表示欄32に表示された議題画像42は消去されない。これにより、ユーザは過去に議論された議題を確認することができる。また、議題ページ指定ボタン35が押下されたことにより、描画欄31の右上に「議題ページ」と表示されている。   FIG. 8C shows an example of a screen in which a starting point agenda image is newly specified. The agenda image 42 displayed in the agenda display field 32 is not deleted. Thereby, the user can confirm the agenda discussed in the past. Further, when the agenda page designation button 35 is pressed, “Agenda Page” is displayed in the upper right of the drawing field 31.

一方、スクリーンショット表示欄33に表示されたスクリーンショット43は消去される。スクリーンショット43は議題と関連付けられているので、議題が変わればスクリーンショット43も初期化すべきだからである。ただし、画像記憶部20にはスクリーンショット43が記憶されている。このため、制御部15は、位置情報に基づき、議題ページ指定ボタン35が押下されたことを検出し、アプリ画面生成部13に、スクリーンショット表示欄33のスクリーンショットの表示を終了するよう要求する。   On the other hand, the screen shot 43 displayed in the screen shot display field 33 is deleted. This is because the screen shot 43 is associated with the agenda, so that the screen shot 43 should be initialized if the agenda changes. However, a screen shot 43 is stored in the image storage unit 20. Therefore, the control unit 15 detects that the agenda page designation button 35 has been pressed based on the position information, and requests the application screen generation unit 13 to end the display of the screen shot in the screen shot display field 33. .

次に、ユーザが描画欄31の4つの議題から議論する議題を指定する。上記のように、ユーザは議題指定開始ボタン36を押下し、指定対象の議題を囲む閉曲線を手書きする。また、ユーザは、閉曲線の手書きの後、議題指定終了ボタン39を押下する。   Next, the user designates the agenda for discussion from the four agenda items in the drawing column 31. As described above, the user presses the agenda designation start button 36 and handwrites a closed curve surrounding the agenda to be designated. In addition, the user presses the agenda designation end button 39 after the closed curve is handwritten.

図9(a)は、描画欄31に閉曲線44が描かれた画面の一例を示す。図9(a)では1番目の「議題AAAAAaaaaa」が閉曲線44で囲まれている。制御部15は、上述したように、閉曲線44が描かれたか否かを判定する。閉曲線44が手書きされた場合、制御部15は軌跡画像処理部14が生成した閉曲線44に含まれる議題画像を画像記憶部20に記憶し、その議題画像を議題表示欄32に表示するようアプリ画面生成部13に要求する。これにより、画面の議題表示欄32にユーザが選択した議題が表示される。   FIG. 9A shows an example of a screen in which a closed curve 44 is drawn in the drawing field 31. In FIG. 9A, the first “Agenda AAAAAaaaaaa” is surrounded by a closed curve 44. As described above, the control unit 15 determines whether or not the closed curve 44 is drawn. When the closed curve 44 is handwritten, the control unit 15 stores the agenda image included in the closed curve 44 generated by the trajectory image processing unit 14 in the image storage unit 20, and displays the agenda image in the agenda display field 32. Request to the generation unit 13. As a result, the agenda selected by the user is displayed in the agenda display field 32 of the screen.

ここで、議題表示欄32にはすでに議題「AAAAAAAAAA」と記述された議題画像42が表示されている。このためアプリ画面生成部13は、議題「AAAAAAAAAA」と議題「AAAAAaaaaa」の階層構造を明示する。具体的には、2つの議題画像42と45を線で結ぶ。図9(b)は、議題表示欄32の2つの議題画像42,45が線で結ばれた画面の一例を示す。こうすることで、ユーザは、議題「AAAAAaaaaa」が議題「AAAAAAAAAA」の下の階層の議題であることを把握できる。階層構造の検出については、後述する。   Here, the agenda image 42 on which the agenda “AAAAAAAAAAA” has already been described is already displayed in the agenda display field 32. Therefore, the application screen generation unit 13 specifies the hierarchical structure of the agenda “AAAAAAAAA” and the agenda “AAAAAaaaaaa”. Specifically, the two agenda images 42 and 45 are connected by a line. FIG. 9B shows an example of a screen in which two agenda images 42 and 45 in the agenda display field 32 are connected by a line. By doing so, the user can grasp that the agenda item “AAAAAAAaaa” is an agenda item below the agenda item “AAAAAAAAAAA”. The detection of the hierarchical structure will be described later.

続いて、ユーザが全消去ボタン37で押下したとする。制御部15は、位置情報に基づき、全消去ボタン37が押下されたことを検出し、アプリ画面生成部13に描画欄31の軌跡画像を全て消去するよう要求する。これにより、描画欄31の軌跡画像は全て消去される。なお、議題表示欄32の議題画像42,45は消去されない。   Subsequently, it is assumed that the user presses the delete all button 37. Based on the position information, the control unit 15 detects that the all deletion button 37 has been pressed, and requests the application screen generation unit 13 to delete all the trajectory images in the drawing field 31. Thereby, all the trajectory images in the drawing column 31 are deleted. The agenda images 42 and 45 in the agenda display field 32 are not deleted.

図9(c)は、描画欄31が全消去された画面の一例を示す。議題表示欄32には議題の階層構造が表示されているので、これから描画欄31に表示される軌跡画像が、議題表示欄32に表示されている議題についてのものであることをユーザが一目で把握することができる。   FIG. 9C shows an example of a screen from which the drawing column 31 has been completely erased. Since the agenda display column 32 displays the hierarchical structure of the agenda, the user can easily see that the trajectory image displayed in the drawing column 31 is for the agenda displayed in the agenda display column 32. I can grasp it.

図10は、ユーザが新たに描画欄31に手書きした軌跡画像の一例を示す図である。ユーザは「議題AAAAAaaaaa」について下位の項目となる「abc」を描画欄31に手書きした。この描画欄31の軌跡画像をユーザが保存したいと考えた場合、ユーザはスクリーンショットボタン34を押下する。   FIG. 10 is a diagram illustrating an example of a trajectory image newly handwritten in the drawing field 31 by the user. The user has handwritten “abc”, which is a subordinate item of “Agenda AAAAAaaaaaa”, in the drawing column 31. When the user wants to save the trajectory image in the drawing field 31, the user presses the screen shot button 34.

制御部15は、位置情報に基づきスクリーンショットボタン34の押下を検出し、映像出力部11が描画欄31に表示している軌跡画像を画像データ登録部19に記憶するよう要求し、また、アプリ画面生成部13にスクリーンショットをスクリーンショット表示欄33に表示するよう要求する。これにより、「abc」と手書きされた軌跡画像のスクリーンショット46が画像記憶部20に記憶される。また、画面のスクリーンショット表示欄33に「abc」と手書きされた軌跡画像のスクリーンショット46が表示される。   The control unit 15 detects pressing of the screenshot button 34 based on the position information, requests that the video output unit 11 store the trajectory image displayed in the drawing field 31 in the image data registration unit 19, and The screen generator 13 is requested to display a screen shot in the screen shot display field 33. Thereby, the screen shot 46 of the locus image handwritten as “abc” is stored in the image storage unit 20. Further, a screen shot 46 of the locus image handwritten with “abc” is displayed in the screen shot display field 33 of the screen.

続いて、ユーザが「議題AAAAAAAAAA」の議論を反芻するため、議題表示欄32の「議題AAAAAAAAAA」を押下した。制御部15は、位置情報に基づき議題表示欄32の「議題AAAAAAAAAA」が選択されたことを検出し、アプリ画面生成部13に「議題AAAAAAAAAA」が記述された議題画像の下層のスクリーンショット43をスクリーンショット表示欄33に表示するよう要求する。また、制御部15は、アプリ画面生成部13に「議題AAAAAAAAAA」が記述された議題画像の下層のスクリーンショット43のいずれか(例えば、一番最初のスクリーンショット)を描画欄31に表示するよう要求する。   Subsequently, the user presses “Agenda AAAAAAAAAAA” in the agenda display field 32 in order to refute the argument of “Agenda AAAAAAAAA”. The control unit 15 detects that “Agenda AAAAAAAAA” in the agenda display field 32 is selected based on the position information, and displays a screen shot 43 below the agenda image in which “Agenda AAAAAAAAA” is described in the application screen generation unit 13. It requests to be displayed in the screen shot display field 33. Further, the control unit 15 causes the application screen generation unit 13 to display one of the screen shots 43 (for example, the first screen shot) below the agenda image in which “Agenda AAAAAAAAA” is described in the drawing field 31. Request.

図11は、「議題AAAAAAAAAA」が記述された議題画像の下層のスクリーンショットが表示された画面の一例を示す。議題表示欄32の「議題AAAAAAAAAA」が記述された議題画像42が強調表示(反転)されている。これにより、ユーザは現在のスクリーンショット43や描画欄31の軌跡画像が「議題AAAAAAAAAA」に関するものであることを一目で把握できる。   FIG. 11 shows an example of a screen on which a screen shot of the lower layer of the agenda image describing “Agenda AAAAAAAAA” is displayed. The agenda image 42 describing “Agenda AAAAAAAAA” in the agenda display field 32 is highlighted (inverted). Thereby, the user can grasp at a glance that the current screen shot 43 and the trajectory image of the drawing field 31 relate to “Agenda AAAAAAAAA”.

また、ユーザがスクリーンショット表示欄33のスクリーンショット43を押下すれば、制御部15は、位置情報に基づきスクリーンショット43が選択されたことを検出し、アプリ画面生成部13にそのスクリーンショット43を描画欄31に表示するよう要求する。このように、ユーザはいつでも過去の議題のスクリーンショットを呼び出すことができる。   When the user presses the screen shot 43 in the screen shot display field 33, the control unit 15 detects that the screen shot 43 is selected based on the position information, and displays the screen shot 43 in the application screen generation unit 13. Request to display in the drawing field 31. In this way, the user can recall screen shots of past agendas at any time.

このようにして会議への参加者は議題だけでなく、議題と議題の階層構造を把握できる。会議において複数の議論がある場合、参加者が1つの議題に集中して議論することを繰り替え、次々と議題を消化していく。しかし、過去の議題については意識から離れてしまうこともある。議題がいくつかの小さな議題に細分化できるような場合、過去の議題が密接に関係するので、過去の関連する議題を把握しながら議論したい場合がある。   In this way, participants in the conference can grasp not only the agenda but also the agenda and the hierarchical structure of the agenda. When there are multiple discussions in a meeting, participants repeatedly concentrate on one agenda and digest the agenda one after another. However, past agendas can be left out of consciousness. If the agenda can be subdivided into several smaller agendas, the past agendas are closely related, so it may be desirable to discuss the relevant agendas in the past.

本実施形態の電子会議装置100は、過去の議題を可視化したまま現在の議題を表示し、また、議題について手書きされたスクリーンショットを見ながら参加者が議論できるので、各スクリーンショットがどの議題を議論している際のスクリーンショットか一目で把握できる。   The electronic conferencing apparatus 100 of the present embodiment displays the current agenda while visualizing past agendas, and the participants can discuss while looking at the screen shots handwritten on the agenda. You can see at a glance whether the screenshot is being discussed.

〔階層構造の記憶〕
上記のような画面を実現するための階層構造の記憶について、図6〜図10の画面を参照しながら説明する。
[Memory of hierarchical structure]
Storage of the hierarchical structure for realizing the above screen will be described with reference to the screens of FIGS.

図12(a)は何も記憶されていない画像記憶部20を模式的に示し、図12(b)は何も記憶されていない画像構造記憶部21を模式的に示し、図12(c)は何も記憶されていない親画像ID一次記憶部22を模式的に示す。例えば、電子会議装置100が起動した直後はこのような状態になる。   12A schematically shows the image storage unit 20 in which nothing is stored, FIG. 12B schematically shows the image structure storage unit 21 in which nothing is stored, and FIG. Schematically shows the parent image ID primary storage unit 22 in which nothing is stored. For example, such a state is obtained immediately after the electronic conference apparatus 100 is activated.

画像記憶部20の画像IDは画像記憶部20に登録される各画像データを識別するIDであり、議題フラグはその画像データが議題画像であることを示すフラグであり、画像情報には手書きされた各種の画像データが登録される。   The image ID of the image storage unit 20 is an ID for identifying each image data registered in the image storage unit 20, the agenda flag is a flag indicating that the image data is an agenda image, and is handwritten in the image information. Various image data are registered.

図6(a)にてユーザが議題ページ指定ボタン35を押下すると、制御部15が位置情報に基づき議題ページ指定ボタン35の押下を検出し、画像データ登録部19は、アプリ画面生成部13が生成している描画欄31の軌跡画像(起点議題画像)を画像記憶部20に記憶する。   When the user presses the agenda page designation button 35 in FIG. 6A, the control unit 15 detects the press of the agenda page designation button 35 based on the position information, and the image data registration unit 19 is displayed by the application screen generation unit 13. The generated locus image (starting agenda image) of the drawing field 31 is stored in the image storage unit 20.

図13(a)の画像記憶部20に示すように、画像情報に描画欄31の軌跡画像である4つの議題が記述された起点議題画像の画像データが登録されている。制御部15は、この画像データに画像IDを付与する。画像IDは重複しなければよいが、ここでは数字の「1」からの整数値であるとする。数字以外にアルファベットや記号など、一意に識別できれば何を画像IDとしてもよい。   As shown in the image storage unit 20 of FIG. 13A, image data of a starting agenda image in which four agendas that are trajectory images of the drawing field 31 are described in the image information is registered. The control unit 15 assigns an image ID to this image data. The image IDs do not have to overlap, but here it is assumed to be an integer value from the number “1”. Anything other than numbers, such as alphabets and symbols, can be used as the image ID as long as it can be uniquely identified.

また、制御部15が位置情報に基づき議題ページ指定ボタン35の押下を検出すると、親画像ID更新部17が、議題ページ指定ボタン35が押下された際の画像データの画像IDを、親画像ID一次記憶部22に登録する。これにより、階層構造を記憶することが可能になる。図13(a)では親画像ID一次記憶部22に「1」と記述されている。   When the control unit 15 detects that the agenda page designation button 35 is pressed based on the position information, the parent image ID update unit 17 sets the image ID of the image data when the agenda page designation button 35 is pressed as the parent image ID. Register in the primary storage unit 22. This makes it possible to store a hierarchical structure. In FIG. 13A, “1” is described in the parent image ID primary storage unit 22.

なお、図13等では画像記憶部20に"画像データ"が登録されるとしたが、軌跡画像を構成する時系列な位置情報を画像記憶部20に登録してもよい。図27は、画像情報を位置情報とした画像記憶部20の一例を示す図である。位置情報が時系列に登録されていれば、軌跡画像処理部14はいつでも可視化(軌跡画像に変換する)ことができる。一般に、位置情報のような数値データは画像データよりもサイズが小さいので、PC300の記憶装置308の容量を節約できる。   Although “image data” is registered in the image storage unit 20 in FIG. 13 and the like, time-series position information constituting a trajectory image may be registered in the image storage unit 20. FIG. 27 is a diagram illustrating an example of the image storage unit 20 using the image information as position information. If the position information is registered in time series, the trajectory image processing unit 14 can be visualized (converted into a trajectory image) at any time. In general, numerical data such as position information is smaller in size than image data, so that the capacity of the storage device 308 of the PC 300 can be saved.

次に、図6(c)にてユーザが議題指定終了ボタン39を押下すると、制御部15が位置情報に基づき議題指定終了ボタン39の押下を検出し、画像データ登録部19は軌跡画像処理部14が生成した閉曲線と議題が含まれる軌跡画像の画像データを画像記憶部20に記憶する。   Next, when the user presses the agenda specification end button 39 in FIG. 6C, the control unit 15 detects the press of the agenda specification end button 39 based on the position information, and the image data registration unit 19 detects the trajectory image processing unit. The image data of the trajectory image including the closed curve and the agenda generated by 14 is stored in the image storage unit 20.

図14(a)の画像記憶部20の画像情報に、議題画像42である「議題AAAAAAAAAA」が記述された画像データが登録されている。画像データ登録部19は、この画像データに「2」という画像IDを付与する。   Image data in which “Agenda AAAAAAAAA”, which is the agenda image 42, is registered in the image information of the image storage unit 20 in FIG. The image data registration unit 19 assigns an image ID “2” to this image data.

また、画像データ登録部19は、議題指定終了ボタン39が押下された際の画像データの議題フラグをTRueに設定する。こうすることでこの画像データが、ユーザが閉曲線41で指定した議題画像であることが明かとなる。   Further, the image data registration unit 19 sets the agenda flag of the image data when the agenda designation end button 39 is pressed to TRue. This makes it clear that this image data is the agenda image designated by the user with the closed curve 41.

また、構造登録部18は、画像記憶部20に2つめ以降の画像データが登録されると、画像データを画像記憶部20に登録する毎にその画像データの親子関係を画像構造記憶部21に登録する。ここでは、議題指定終了ボタン39の押下により議題画像42が指定されると、構造登録部18は議題画像42の親画像がどの画像データか画像構造記憶部21に記憶する。   Further, when the second and subsequent image data are registered in the image storage unit 20, the structure registration unit 18 stores the parent-child relationship of the image data in the image structure storage unit 21 each time the image data is registered in the image storage unit 20. sign up. Here, when the agenda image 42 is designated by pressing the agenda designation end button 39, the structure registration unit 18 stores in the image structure storage unit 21 which image data is the parent image of the agenda image 42.

図14(b)に示すように、具体的には、構造登録部18は、親画像ID一次記憶部22に登録されている画像IDを画像構造記憶部21の「親画像ID」に登録し、議題画像42に付与した「2」という画像IDを、画像構造記憶部21の「子画像ID」に登録する。   As shown in FIG. 14B, specifically, the structure registration unit 18 registers the image ID registered in the parent image ID primary storage unit 22 in “parent image ID” of the image structure storage unit 21. The image ID “2” assigned to the agenda image 42 is registered in the “child image ID” of the image structure storage unit 21.

また、親画像ID更新部17は、議題指定終了ボタン39が押下されたことで、画像記憶部20に登録された画像データの画像IDを、親画像ID一次記憶部22に登録する。図14(c)に示すように、親画像ID一次記憶部22に「2」が登録される。これにより、以降において議題画像42とスクリーンショットを関連付けることができ、画像記憶部20に登録される全ての画像データの親子関係を登録できる。   The parent image ID update unit 17 registers the image ID of the image data registered in the image storage unit 20 in the parent image ID primary storage unit 22 when the agenda designation end button 39 is pressed. As illustrated in FIG. 14C, “2” is registered in the parent image ID primary storage unit 22. Thereby, the agenda image 42 and the screen shot can be associated thereafter, and the parent-child relationship of all the image data registered in the image storage unit 20 can be registered.

次に、図7(c)にて、ユーザがスクリーンショットボタン34を押下すると、制御部15は、位置情報に基づきスクリーンショットボタン34の押下を検出し、画像データ登録部19は、映像出力部11が描画欄31に表示している軌跡画像を画像記憶部20に記憶する。   Next, in FIG. 7C, when the user presses the screen shot button 34, the control unit 15 detects the press of the screen shot button 34 based on the position information, and the image data registration unit 19 displays the video output unit. 11 stores the trajectory image displayed in the drawing column 31 in the image storage unit 20.

図15(a)の画像記憶部20に示すように、画像情報にスクリーンショット43の画像データが登録されている。画像データ登録部19は、この画像データに「3」という画像IDを付与する。   As shown in the image storage unit 20 in FIG. 15A, the image data of the screen shot 43 is registered in the image information. The image data registration unit 19 assigns an image ID “3” to the image data.

また、構造登録部18は上述したように、スクリーンショット43の画像データと、親画像である議題画像42との親子関係を画像構造記憶部21に登録する。すなわち、構造登録部18は、親画像ID一次記憶部22に登録されている画像IDを画像構造記憶部21の「親画像ID」に登録し、スクリーンショット43の画像データに付与された「3」という画像IDを、画像構造記憶部21の「子画像ID」に登録する。   Further, as described above, the structure registration unit 18 registers the parent-child relationship between the image data of the screen shot 43 and the agenda image 42 that is the parent image in the image structure storage unit 21. That is, the structure registration unit 18 registers the image ID registered in the parent image ID primary storage unit 22 in the “parent image ID” of the image structure storage unit 21, and “3” added to the image data of the screen shot 43. Is registered in the “child image ID” of the image structure storage unit 21.

次に、図8(b)にて、ユーザが議題ページ指定ボタン35を押下すると、制御部15は、位置情報に基づき議題ページ指定ボタン35の押下を検出し、画像データ登録部19は、映像出力部11が生成している描画欄31の軌跡画像(起点議題画像)を画像記憶部20に記憶する。   Next, in FIG. 8B, when the user presses the agenda page designation button 35, the control unit 15 detects the press of the agenda page designation button 35 based on the position information, and the image data registration unit 19 The trajectory image (starting agenda image) of the drawing field 31 generated by the output unit 11 is stored in the image storage unit 20.

図16(a)の画像記憶部20に示すように、画像情報に起点議題画像の画像データが登録されている。画像データ登録部19は、この画像データに「4」という画像IDを付与する。   As shown in the image storage unit 20 in FIG. 16A, the image data of the starting agenda image is registered in the image information. The image data registration unit 19 assigns an image ID “4” to the image data.

また、構造登録部18は、起点議題画像の画像データと、「議題AAAAAAAAAA」が記述された議題画像42との親子関係を画像構造記憶部21に登録する。すなわち、構造登録部18は、制御部15が議題ページ指定ボタン35の押下を検出すると、親画像ID一次記憶部22に登録されている画像IDを画像構造記憶部21の「親画像ID」に登録し、起点議題画像に付与した「4」という画像IDを、画像構造記憶部21の「子画像ID」に登録する。図8(b)の描画欄31の4つの議題は「議題AAAAAAAAAA」と関連のある議題なので、図8(b)の起点議題画像の画像データと「議題AAAAAAAAAA」の議題画像42との親子関係を登録することで、議題の階層構造を記憶できる。   Further, the structure registration unit 18 registers the parent-child relationship between the image data of the starting agenda image and the agenda image 42 in which “Agenda AAAAAAAAA” is described in the image structure storage unit 21. That is, when the control unit 15 detects that the agenda page designation button 35 is pressed, the structure registration unit 18 sets the image ID registered in the parent image ID primary storage unit 22 as the “parent image ID” of the image structure storage unit 21. The image ID “4” registered and assigned to the origin agenda image is registered in the “child image ID” of the image structure storage unit 21. Since the four agenda items in the drawing field 31 of FIG. 8B are related to “Agenda AAAAAAAAA”, the parent-child relationship between the image data of the starting agenda image of FIG. 8B and the agenda image 42 of “Agenda AAAAAAAAA” By registering, the hierarchical structure of the agenda can be stored.

また、親画像ID更新部17は、議題ページ指定ボタン35が押下された際の画像記憶部20の画像データの画像IDを、親画像ID一次記憶部22に登録する。したがって、図16(c)では親画像ID一次記憶部22に「4」が登録される。これにより、画像IDが「4」の起点議題画像に、下位層の画像データを関連付けることができる。   Further, the parent image ID update unit 17 registers the image ID of the image data in the image storage unit 20 when the agenda page designation button 35 is pressed in the parent image ID primary storage unit 22. Accordingly, “4” is registered in the parent image ID primary storage unit 22 in FIG. Thereby, lower-layer image data can be associated with the origin agenda image with the image ID “4”.

次に、図9(a)にて議題「AAAAAaaaa」が閉曲線で囲まれた後、議題指定終了ボタン39が押下された場合、制御部15は、位置情報に基づき議題指定終了ボタン39が押下されたことを検出し、画像データ登録部19は、軌跡画像処理部14が生成した閉曲線に含まれる議題画像を画像記憶部20に記憶する。   Next, when the agenda designation end button 39 is pressed after the agenda “AAAAAaaa” is surrounded by a closed curve in FIG. 9A, the control unit 15 presses the agenda specification end button 39 based on the position information. The image data registration unit 19 stores the agenda image included in the closed curve generated by the trajectory image processing unit 14 in the image storage unit 20.

図17(a)の画像記憶部20に示すように、画像情報に「議題AAAAAaaaaa」が記述された議題画像45が登録されている。画像データ登録部19は、この画像データに「5」という画像IDを付与する。   As shown in the image storage unit 20 in FIG. 17A, the agenda image 45 in which “agenda AAAAAaaaaaa” is described in the image information is registered. The image data registration unit 19 assigns an image ID “5” to the image data.

また、画像データ登録部19は、議題指定終了ボタン39が押下された際の画像データの議題フラグをTRueに設定する。図17(b)では画像IDが5の画像データの議題フラグがTRueなる。   Further, the image data registration unit 19 sets the agenda flag of the image data when the agenda designation end button 39 is pressed to TRue. In FIG. 17B, the agenda flag of the image data with the image ID 5 is TRue.

また、構造登録部18は、親画像ID一次記憶部22に登録されている画像IDを画像構造記憶部21の「親画像ID」に登録し、議題画像45の画像データに付与した「5」という画像IDを、画像構造記憶部21の「子画像ID」に登録する。   Further, the structure registration unit 18 registers the image ID registered in the primary image ID primary storage unit 22 in the “parent image ID” of the image structure storage unit 21 and adds “5” to the image data of the agenda image 45. Is registered in the “child image ID” of the image structure storage unit 21.

また、親画像ID更新部17は、議題指定終了ボタン39が押下された際の画像データの画像IDを、親画像ID一次記憶部22に登録する。これにより、議題画像に下位の画像データを関連付けることができ、画像記憶部20に登録される全ての画像データの親子関係を登録できる。   In addition, the parent image ID update unit 17 registers the image ID of the image data when the agenda designation end button 39 is pressed in the parent image ID primary storage unit 22. Thereby, the lower-order image data can be associated with the agenda image, and the parent-child relationship of all the image data registered in the image storage unit 20 can be registered.

次に、図10(a)にて、ユーザがスクリーンショットボタン34を押下すると、制御部15は、位置情報に基づきスクリーンショットボタン34の押下を検出し、画像データ登録部19は、映像出力部11が描画欄31に表示している軌跡画像を画像記憶部20に記憶する。   Next, in FIG. 10A, when the user presses the screen shot button 34, the control unit 15 detects the press of the screen shot button 34 based on the position information, and the image data registration unit 19 displays the video output unit. 11 stores the trajectory image displayed in the drawing column 31 in the image storage unit 20.

図18(a)の画像記憶部20に示すように、画像情報にスクリーンショット46の画像データが登録されている。画像データ登録部19は、この画像データに「6」という画像IDを付与する。   As shown in the image storage unit 20 in FIG. 18A, the image data of the screen shot 46 is registered in the image information. The image data registration unit 19 assigns an image ID “6” to the image data.

また、構造登録部18は、親画像ID一次記憶部22に登録されている画像IDを画像構造記憶部21の「親画像ID」に登録し、スクリーンショット46の画像データに付与した「6」という画像IDを、画像構造記憶部21の「子画像ID」に登録する。   The structure registration unit 18 registers the image ID registered in the parent image ID primary storage unit 22 in the “parent image ID” of the image structure storage unit 21 and adds “6” to the image data of the screen shot 46. Is registered in the “child image ID” of the image structure storage unit 21.

このように、画像記憶部20、画像構造記憶部21及び親画像ID一次記憶領域に画像データや画像IDを登録していくことで、各画像データの階層構造を記憶することができる。画像構造記憶部21を参照することで、例えば画像ID=6の画像データの親画像は画像ID=5の画像データであること、画像ID=5の画像データの親画像は画像ID=4の画像データであること、画像ID=4の画像データの親画像は画像ID=2の画像データであることが判明する。制御部15は、このように画像IDを辿ることで、あるスナップショットが手書きされた議題だけでなく、その議題の親の議題を特定することができる。   In this way, by registering image data and image IDs in the image storage unit 20, the image structure storage unit 21, and the parent image ID primary storage area, the hierarchical structure of each image data can be stored. By referring to the image structure storage unit 21, for example, the parent image of the image data with the image ID = 6 is the image data with the image ID = 5, and the parent image of the image data with the image ID = 5 is the image ID = 4. It is found that the image data is the image data, and the parent image of the image data with the image ID = 4 is the image data with the image ID = 2. By tracing the image ID in this way, the control unit 15 can specify not only the agenda in which a certain snapshot is handwritten but also the agenda of the parent of the agenda.

また、図9(b)に示した、議題画像42、45同士(議題「AAAAAaaaaa」と議題「AAAAAAAAAA」の接続)は、画像記憶部20において議題フラグがTrueの画像データを抽出し、順番に線で接続すればよいことになる。   Also, the agenda images 42 and 45 (connection of the agenda “AAAAAAAAA” and the agenda “AAAAAAAAAAA”) shown in FIG. 9B are extracted in the image storage unit 20 with the agenda flag set to True. What is necessary is just to connect with a line.

〔画像データの階層構造〕
さらに会議が進行すると、画像記憶部20や画像構造記憶部21には画像データや画像IDが記憶されていく。図19は、画像構造記憶部21に記憶された階層構造の一例を示す。このような状態で、画面の議題一覧ボタン38が押下されると、制御部15が階層構造を表示する。
[Hierarchical structure of image data]
As the conference further proceeds, image data and image ID are stored in the image storage unit 20 and the image structure storage unit 21. FIG. 19 shows an example of a hierarchical structure stored in the image structure storage unit 21. When the agenda list button 38 on the screen is pressed in such a state, the control unit 15 displays the hierarchical structure.

図20は電子会議で画像記憶部20に記憶された画像データの階層構造を模式的に示す図の一例である。制御部15は、画像構造記憶部21を参照して、図20のような階層構造の全体をプロジェクタ200から表示する。表示手順については後述する。   FIG. 20 is an example of a diagram schematically showing a hierarchical structure of image data stored in the image storage unit 20 in the electronic conference. The control unit 15 refers to the image structure storage unit 21 and displays the entire hierarchical structure as shown in FIG. The display procedure will be described later.

〔動作手順〕
以下、画面の表示や画像記憶部20等への画像データの登録についてフローチャート図を用いて説明する。
[Operation procedure]
Hereinafter, display of a screen and registration of image data in the image storage unit 20 will be described with reference to flowcharts.

図21(a)は、スクリーンショットボタン34が押下された際の電子会議装置100の処理手順を示すフローチャート図の一例である。   FIG. 21A is an example of a flowchart illustrating a processing procedure of the electronic conference apparatus 100 when the screen shot button 34 is pressed.

スクリーンショットボタン34が押下されると制御部15は画像追加フローを実行する(S10)。この処理により画像記憶部20には、スクリーンショットの画像データが登録される。   When the screen shot button 34 is pressed, the control unit 15 executes an image addition flow (S10). By this processing, the image data of the screen shot is registered in the image storage unit 20.

次に、制御部15は、アプリ画面生成部13にスクリーンショットをスクリーンショット表示欄33に表示させる(S20)。   Next, the control unit 15 causes the application screen generation unit 13 to display a screen shot in the screen shot display field 33 (S20).

図21(b)は、議題ページ指定ボタン35が押下された際の電子会議装置100の処理手順を示すフローチャート図の一例である。   FIG. 21B is an example of a flowchart illustrating a processing procedure of the electronic conference apparatus 100 when the agenda page designation button 35 is pressed.

議題ページ指定ボタン35が押下されると制御部15は画像追加フローを実行する(S10)。この処理により画像記憶部20には、議題画像の画像データが登録される。   When the agenda page designation button 35 is pressed, the control unit 15 executes an image addition flow (S10). By this processing, the image data of the agenda image is registered in the image storage unit 20.

次に、親画像ID更新部17は、議題ページ指定ボタン35が押下されたことで画像データに付与された画像IDを、親画像ID一次記憶部22に登録する(S30)。   Next, the parent image ID update unit 17 registers the image ID given to the image data when the agenda page designation button 35 is pressed in the parent image ID primary storage unit 22 (S30).

図22(a)は、議題指定開始ボタン36が押下された際の電子会議装置100の処理手順を示すフローチャート図の一例である。   FIG. 22A is an example of a flowchart illustrating a processing procedure of the electronic conference apparatus 100 when the agenda designation start button 36 is pressed.

議題指定開始ボタン36が押下されると制御部15は、アプリ画面生成部13に、議題指定開始ボタン36を議題指定終了ボタン39に切り替えて表示するよう要求する(S40)。   When the agenda designation start button 36 is pressed, the control unit 15 requests the application screen generation unit 13 to switch the agenda designation start button 36 to the agenda designation end button 39 for display (S40).

図22(b)は、議題指定終了ボタン39が押下された際の電子会議装置100の処理手順を示すフローチャート図の一例である。   FIG. 22B is an example of a flowchart illustrating a processing procedure of the electronic conference apparatus 100 when the agenda designation end button 39 is pressed.

制御部15が議題指定終了ボタン39の押下を検出すると、制御部15は閉曲線か否かを判定し、閉曲線の場合は手書きされた議題と閉曲線の外接矩形が重なっているか否かを判定する(S50)。   When the control unit 15 detects that the agenda designation end button 39 is pressed, the control unit 15 determines whether or not the closed curve is a closed curve, and in the case of a closed curve, determines whether or not the handwritten agenda and the circumscribed rectangle of the closed curve overlap. S50).

議題を指定する閉曲線が検出された場合、制御部15は画像追加フローを実行する(S10)。この処理により画像記憶部20には、議題画像が登録される。   When a closed curve designating the agenda is detected, the control unit 15 executes an image addition flow (S10). By this process, the agenda image is registered in the image storage unit 20.

次に、親画像ID更新部17は、議題ページ指定ボタン35が押下されることで画像データに付与された画像IDを、親画像ID一次記憶部22に登録する(S30)。   Next, the parent image ID updating unit 17 registers the image ID given to the image data when the agenda page designation button 35 is pressed in the parent image ID primary storage unit 22 (S30).

次に、制御部15は、議題画像表示フローを実行する(S200)。これにより、制御部15は、議題表示欄32に表示される全ての画像データ(議題画像ID)を特定できる。   Next, the control unit 15 executes the agenda image display flow (S200). Thereby, the control part 15 can specify all the image data (agenda image ID) displayed on the agenda display column 32. FIG.

画像データ登録部19は、画像記憶部20に登録した議題画像の画像データの議題フラグをTrueに設定する(S60)。   The image data registration unit 19 sets the agenda flag of the image data of the agenda image registered in the image storage unit 20 to True (S60).

次に、制御部15は、議題画像IDにて特定される全ての議題の議題画像を表示する(S70)。   Next, the control unit 15 displays the agenda images of all the agendas specified by the agenda image ID (S70).

図23は、画像追加フローの処理手順を示すフローチャート図の一例である。
まず、画像データ登録部19は、画像データを画像記憶部20に登録する(S110)。登録される画像データは以下の2つである。
・スクリーンショットボタン34又は議題ページ指定ボタン35が押下された場合:描画欄31の全体の軌跡画像の画像データ
・議題指定終了ボタン39が押下された場合:閉曲線で囲まれた議題画像
次に、画像データ登録部19は、新たに画像記憶部20に登録した画像データに画像IDを付与する(S120)。この画像IDは例えば整数の連番である。
FIG. 23 is an example of a flowchart showing the processing procedure of the image addition flow.
First, the image data registration unit 19 registers image data in the image storage unit 20 (S110). The following two image data are registered.
When the screen shot button 34 or the agenda page designation button 35 is pressed: image data of the entire trajectory image in the drawing field 31 When the agenda designation end button 39 is pressed: the agenda image surrounded by a closed curve The image data registration unit 19 assigns an image ID to the image data newly registered in the image storage unit 20 (S120). This image ID is, for example, an integer serial number.

次に、画像データ登録部19は、親画像ID一次記憶部22に画像IDが記憶されているか否かを判定する(S130)。親画像ID一次記憶部22に画像IDが記憶されている場合(S130のYes)、画像データ登録部19が登録した画像データに親画像が存在することになるので、構造登録部18は画像構造記憶部21に親子関係(レコード)を登録する(S140)。具体的には、「親画像ID」は、親画像ID一次記憶部22に記憶された画像IDであり、「子画像ID」はステップS120で画像データ登録部19が新たに付与した画像IDである。   Next, the image data registration unit 19 determines whether or not the image ID is stored in the parent image ID primary storage unit 22 (S130). When the image ID is stored in the parent image ID primary storage unit 22 (Yes in S130), since the parent image exists in the image data registered by the image data registration unit 19, the structure registration unit 18 determines the image structure. The parent-child relationship (record) is registered in the storage unit 21 (S140). Specifically, “parent image ID” is an image ID stored in the parent image ID primary storage unit 22, and “child image ID” is an image ID newly added by the image data registration unit 19 in step S 120. is there.

図24は、議題画像表示フローの処理手順を示すフローチャート図の一例である。この処理では、画像データに付与された画像IDを入力値として利用する。   FIG. 24 is an example of a flowchart showing a processing procedure of the agenda image display flow. In this process, the image ID assigned to the image data is used as an input value.

まず、議題画像取得部16は、入力値である画像IDを検索キーに設定する(S210)。
そして、議題画像取得部16は、画像記憶部20からレコードを1つずつ読み出す(S220)。
First, the agenda image acquisition unit 16 sets an image ID, which is an input value, as a search key (S210).
Then, the agenda image acquisition unit 16 reads records one by one from the image storage unit 20 (S220).

まず、そのレコードの議題フラグがTrueか否かを判定する(S230)。議題フラグがTrueの場合(S230のYes)、その画像データは議題画像の画像データになるので、議題画像取得部16は検索キーを戻り値配列に格納する(S240)。   First, it is determined whether or not the agenda flag of the record is True (S230). If the agenda flag is True (Yes in S230), the image data becomes image data of the agenda image, and the agenda image acquisition unit 16 stores the search key in the return value array (S240).

次に、議題画像取得部16は、検索キーを不図示の議題画像ID記憶部の配列の先頭に格納する(S250)。   Next, the agenda image acquisition unit 16 stores the search key at the top of the array of the agenda image ID storage unit (not shown) (S250).

次に、議題画像取得部16は、検索キーに一致する「子画像ID」を画像構造記憶部21から検索する(S260)。   Next, the agenda image acquisition unit 16 searches the image structure storage unit 21 for a “child image ID” that matches the search key (S260).

検索キーに一致する「子画像ID」が画像構造記憶部21に登録されている場合(S270のYes)、議題画像取得部16は、「子画像ID」に対応づけられた「親画像ID」を新たに検索キーに設定する(S280)。   When the “child image ID” that matches the search key is registered in the image structure storage unit 21 (Yes in S270), the agenda image acquisition unit 16 sets the “parent image ID” associated with the “child image ID”. Is newly set as a search key (S280).

そして、議題画像取得部16は、ステップS230以下の処理を繰り返す。例えば、次の検索キーの画像IDの議題フラグがTrueでない場合(S230のNo)、その画像データは議題画像でないので、処理はステップS260に進み、検索キーに一致する「子画像ID」を画像構造記憶部21から検索する(S260)。そして、議題画像取得部16は、その「子画像ID」に対応づけられた「親画像ID」を新たに検索キーに設定し(S280)、ステップS230以下の処理を繰り返す。   And the agenda image acquisition part 16 repeats the process after step S230. For example, when the agenda flag of the image ID of the next search key is not True (No in S230), since the image data is not an agenda image, the process proceeds to step S260, and the “child image ID” that matches the search key is set as the image. A search is made from the structure storage unit 21 (S260). Then, the agenda image acquisition unit 16 newly sets the “parent image ID” associated with the “child image ID” as a search key (S280), and repeats the processing from step S230 onward.

この処理により、議題画像ID記憶部には、画像データの画像IDが階層構造に従って、記憶される。図19の画像構造記憶部21を例にすると、ステップS210の画像IDを「5」とすれば、議題画像ID記憶部には「5」「2」が格納され、ステップS210の画像IDを「10」とすれば、議題画像ID記憶部には「10」「2」が格納される(画像ID10の画像データは議題「AAAAAbbbbb」の画像である)。   By this processing, the image ID of the image data is stored in the agenda image ID storage unit according to the hierarchical structure. Taking the image structure storage unit 21 in FIG. 19 as an example, if the image ID in step S210 is “5”, “5” and “2” are stored in the agenda image ID storage unit, and the image ID in step S210 is “ If “10”, “10” and “2” are stored in the agenda image ID storage unit (the image data of the image ID 10 is an image of the agenda “AAAAAbbbbbb”).

よって、アプリ画面生成部13は画像IDが「5」と「2」の画像データ、又は、画像IDが「10」と「2」の画像データを議題表示欄32に関連付けて表示することができる。   Therefore, the application screen generation unit 13 can display the image data with the image IDs “5” and “2” or the image data with the image IDs “10” and “2” in association with the agenda display field 32. .

なお、ステップS240の戻り値を利用すれば、直接の階層構造だけでなく、ステップS210の画像IDよりも上位の全ての階層構造を取得できる。例えば、ステップS210の画像IDを「10」とすれば、議題画像ID記憶部には「10」「2」が格納され、戻り値配列には「10」「2」が格納される。   If the return value in step S240 is used, not only the direct hierarchical structure but also all hierarchical structures higher than the image ID in step S210 can be acquired. For example, if the image ID in step S210 is “10”, “10” and “2” are stored in the agenda image ID storage unit, and “10” and “2” are stored in the return value array.

制御部15は、戻り値配列の最も大きい値「10」を1つ小さくし、ステップ230からの処理を繰り返す。すると、議題画像ID記憶部には「10」「2」に続き「5」「2」が格納され、戻り値配列には「5」「2」が格納される。したがって、いずれも議題画像の画像データとして、画像ID=2の画像データには、画像ID=5、10の画像データが下位の階層として関連していることがわかる。制御部15は、これを利用して図26のような議題画像を議題表示欄32に表示することができる。   The control unit 15 decreases the largest value “10” in the return value array by one, and repeats the processing from step 230. Then, “5” “2” is stored after “10” “2” in the agenda image ID storage unit, and “5” “2” is stored in the return value array. Therefore, it can be seen that both are the image data of the agenda image, and the image data of image ID = 2 is associated with the image data of image ID = 5, 10 as a lower hierarchy. Using this, the control unit 15 can display the agenda image as shown in FIG. 26 in the agenda display field 32.

図25は、議題一覧ボタン38が押下された際の制御部15の処理手順を示すフローチャート図の一例である。これにより図20の階層構造が表示される。   FIG. 25 is an example of a flowchart illustrating a processing procedure of the control unit 15 when the agenda list button 38 is pressed. Thereby, the hierarchical structure of FIG. 20 is displayed.

制御部15は、位置情報に基づき議題一覧ボタン38が押下されたことを検出し、画像ID=1に対応づけられた全ての「子画像ID」を第1テーブルに登録する(S310)。図19を例にすると、第1テーブルには{2,7,8,9}の画像IDが登録される。これは第1層の画像データの画像IDとなる。   The control unit 15 detects that the agenda list button 38 is pressed based on the position information, and registers all “child image IDs” associated with the image ID = 1 in the first table (S310). Taking FIG. 19 as an example, image IDs {2, 7, 8, 9} are registered in the first table. This is the image ID of the first layer image data.

次に、制御部15は、第1テーブルに登録された画像IDを順番に取り出し、画像IDに対応づけられた全ての「子画像ID」を画像ID毎に第2テーブルに登録する(S320)。第2テーブルは4つ生成され、画像ID=2の第2テーブルには{3,4}が、画像ID=7の第2テーブルには{−(なし)}が、画像ID=8の第2テーブルには{−}が、画像ID=9の第2テーブルには{−}が、登録される。第2テーブルの画像IDは、第2層の画像データの画像IDとなる。   Next, the control unit 15 sequentially extracts the image IDs registered in the first table, and registers all “child image IDs” associated with the image IDs in the second table for each image ID (S320). . Four second tables are generated. {3, 4} is in the second table with the image ID = 2, {-(none)} is in the second table with the image ID = 7, and the second table with the image ID = 8. {−} Is registered in the second table, and {−} is registered in the second table with the image ID = 9. The image ID of the second table is the image ID of the second layer image data.

次に、制御部15は、第2テーブルに登録された画像IDを順番に取り出し、画像IDに対応づけられた全ての画像IDを画像ID毎に第3テーブルに登録する(S330)。第3テーブルは2つ生成され、画像ID=3の第3テーブルには{−}が、画像ID=4の第3テーブルには{5,10,11,12}が、登録される。第3テーブルの画像IDは、第3層の画像データの画像IDとなる。   Next, the control unit 15 sequentially extracts the image IDs registered in the second table, and registers all the image IDs associated with the image IDs in the third table for each image ID (S330). Two third tables are generated, and {−} is registered in the third table with the image ID = 3, and {5, 10, 11, 12} is registered in the third table with the image ID = 4. The image ID of the third table is the image ID of the third layer image data.

次に、制御部15は、第3テーブルに登録された画像IDを順番に取り出し、画像IDに対応づけられた全ての画像IDを画像ID毎に第4テーブルに登録する(S340)。第4テーブルは1つ生成され、画像ID=5の第4テーブルには{6}が、登録される。第4テーブルの画像IDは、第4層の画像データの画像IDとなる。   Next, the control unit 15 sequentially extracts the image IDs registered in the third table, and registers all the image IDs associated with the image IDs in the fourth table for each image ID (S340). One fourth table is generated, and {6} is registered in the fourth table with the image ID = 5. The image ID of the fourth table is the image ID of the fourth layer image data.

制御部15は、同様の処理を「親画像ID」に対応づけられた画像IDがなくなるまで繰り返す(S350)。   The control unit 15 repeats the same processing until there is no image ID associated with the “parent image ID” (S350).

以上の処理で各テーブルには階層毎の画像IDが登録されるので、階層順にテーブルを参照し、テーブル内の画像IDを展開することで、図20の階層構造が得られる。すなわち、制御部15は、画像IDに基づき画像記憶部20から画像データを読み出し、サムネイル画像等を生成すると共に、画像間を線で結ぶなどすることで、図20のような階層構造を表示することができる。   Since the image ID for each hierarchy is registered in each table by the above processing, the hierarchical structure shown in FIG. 20 is obtained by referring to the tables in the hierarchical order and expanding the image IDs in the table. That is, the control unit 15 reads out image data from the image storage unit 20 based on the image ID, generates thumbnail images and the like, and displays a hierarchical structure as shown in FIG. 20 by connecting the images with lines. be able to.

11 映像出力部
12 位置検出部
13 アプリ画面生成部
14 軌跡画像処理部
15 制御部
16 議題画像取得部
17 親画像ID更新部
18 構造登録部
19 画像データ登録部
20 画像記憶部
21 画像構造記憶部
22 親画像ID一次記憶部
23 ユーザ情報記憶部
100 電子会議装置
200 プロジェクタ
300 PC
400 電子情報ボード
500 スタイラスペン
DESCRIPTION OF SYMBOLS 11 Image | video output part 12 Position detection part 13 Application screen generation part 14 Trajectory image processing part 15 Control part 16 Agenda image acquisition part 17 Parent image ID update part 18 Structure registration part 19 Image data registration part 20 Image storage part 21 Image structure storage part 22 Parent image ID primary storage unit 23 User information storage unit 100 Electronic conference device 200 Projector 300 PC
400 Electronic information board 500 Stylus pen

特開2007−280235号公報JP 2007-280235 A

Claims (12)

情報入力領域に対する入力位置を検出する位置検出手段と、
時系列の前記位置情報の軌跡を軌跡画像として可視化する軌跡画像生成手段と、
軌跡画像を表示する表示手段と、を有する電子会議装置であって、
軌跡画像の記憶命令を受け付ける第一の軌跡画像記憶受け付け手段と、
軌跡画像の記憶命令を受け付ける第二の軌跡画像記憶受け付け手段と、
前記第一又は第二の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記表示手段が表示している軌跡画像に一意の識別情報を付与して第一記憶部に記憶する軌跡画像記憶手段と、
前記第一の軌跡画像記憶受け付け手段が記憶命令を受け付けることで前記軌跡情報記憶手段が付与した前記識別情報を第三記憶部に記憶する識別情報記憶手段と、
前記第二の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記識別情報記憶手段に記憶されていた前記識別情報を親画像識別情報とし、前記第二の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記軌跡画像記憶手段が付与した前記識別情報を子画像識別情報とし、親画像識別情報と子画像識別情報を対応づけて第二記憶部に記憶する対応情報記憶手段と、
を有することを特徴とする電子会議装置。
Position detecting means for detecting an input position with respect to the information input area;
A trajectory image generating means for visualizing the trajectory of the position information in time series as a trajectory image;
An electronic conference apparatus having display means for displaying a trajectory image,
First trajectory image storage receiving means for receiving a trajectory image storage command;
Second trajectory image storage receiving means for receiving a trajectory image storage command;
A trajectory image storage unit that assigns unique identification information to the trajectory image displayed on the display unit and stores it in the first storage unit when the first or second trajectory image storage reception unit receives a storage command; ,
An identification information storage means for storing the identification information given by the locus information storage means in a third storage section when the first locus image storage acceptance means accepts a storage command;
The identification information stored in the identification information storage means when the second trajectory image storage acceptance means accepts a storage command is used as parent image identification information, and the second trajectory image storage acceptance means accepts a storage command. Correspondence information storage means for storing the identification information given by the trajectory image storage means as child image identification information and storing the parent image identification information and the child image identification information in the second storage unit in association with each other,
An electronic conferencing apparatus comprising:
前記軌跡画像の一部である一部軌跡画像の選択と該一部軌跡画像の記憶命令を受け付ける第三の軌跡画像記憶受け付け手段、を有し、
前記軌跡画像記憶手段は、前記第三の軌跡画像記憶受け付け手段が記憶命令を受け付けた一部軌跡画像に一意の前記識別情報を付与して前記第一記憶部に記憶し、
前記対応情報記憶手段は、前記第三の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記識別情報記憶手段に記憶されていた前記識別情報と、前記第三の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記軌跡画像記憶手段が付与した前記識別情報を対応づけて前記第二記憶部に記憶し、
前記識別情報記憶手段は、前記第三の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記軌跡情報記憶手段が付与した前記識別情報を前記第三記憶部に記憶する、
ることを特徴とする請求項1記載の電子会議装置。
A third trajectory image storage accepting unit that accepts a selection of a partial trajectory image that is a part of the trajectory image and a command to store the partial trajectory image;
The trajectory image storage means assigns the identification information unique to the partial trajectory image for which the third trajectory image storage acceptance means accepts a storage command and stores the partial identification information in the first storage unit,
The correspondence information storage means includes the identification information stored in the identification information storage means when the third trajectory image storage accepting means accepts a storage command, and the third trajectory image storage accepting means stores the command. Is stored in the second storage unit in association with the identification information provided by the trajectory image storage means when receiving,
The identification information storage means stores the identification information given by the trajectory information storage means in the third storage unit when the third trajectory image storage acceptance means accepts a storage command.
The electronic conference apparatus according to claim 1.
前記軌跡画像生成手段が可視化した軌跡画像をリアルタイムに表示する第一の欄と、
前記第二の軌跡画像記憶受け付け手段が記憶命令を受け付けたことで、前記第一記憶部に記憶された軌跡画像を表示する第二の欄と、を含む画面情報を生成する画面生成手段、を有することを特徴とする請求項1又は2記載の電子会議装置。
A first column for displaying the trajectory image visualized by the trajectory image generation means in real time;
Screen generating means for generating screen information including: a second field for displaying a trajectory image stored in the first storage unit by receiving a storage command by the second trajectory image storage receiving means; The electronic conference apparatus according to claim 1, wherein the electronic conference apparatus is provided.
前記第三の軌跡画像記憶受け付け手段が記憶命令を受け付けたことで、前記第一記憶部に記憶された一部軌跡画像を表示する第三の欄、を含む画面情報を生成する画面生成手段、を有することを特徴とする請求項2記載の電子会議装置。   Screen generating means for generating screen information including a third field for displaying a partial trajectory image stored in the first storage unit by receiving a storage command by the third trajectory image storage receiving means; The electronic conference apparatus according to claim 2, further comprising: 前記軌跡画像記憶手段は、一部軌跡画像に所定のフラグを対応づけて前記第一記憶部に記憶しておき、
前記画面生成手段は、前記第三の欄に一部軌跡画像を表示する際、前記フラグが対応づけられた一部軌跡画像を互いに関連付けて表示する、
ことを特徴とする請求項4記載の電子会議装置。
The trajectory image storage means associates a predetermined flag with a partial trajectory image and stores it in the first storage unit,
The screen generation means displays the partial trajectory images associated with the flags when displaying the partial trajectory images in the third field,
The electronic conference apparatus according to claim 4.
前記第一記憶部に記憶された画像データの一覧表示の命令を受け付ける一覧表示受け付け手段、を有し、
前記画面生成手段は、前記第二記憶部に記憶された親画像識別情報と子画像識別情報の対応付けにより得られる階層を再現して、複数の前記画像データの一覧をツリー状に表示する、ことを特徴とする請求項2記載の電子会議装置。
A list display receiving means for receiving a command for displaying a list of image data stored in the first storage unit,
The screen generation means reproduces a hierarchy obtained by associating parent image identification information and child image identification information stored in the second storage unit, and displays a list of a plurality of the image data in a tree shape. The electronic conference apparatus according to claim 2.
ユーザ毎の認証情報を記憶したユーザ情報記憶手段を有し、
ユーザの認証が成立した場合に、使用を許可することを特徴とする請求項1から6いずれか1項記載の電子会議装置。
Having user information storage means storing authentication information for each user;
The electronic conferencing apparatus according to claim 1, wherein use is permitted when user authentication is established.
前記第一記憶部に記憶される軌跡画像又は一部軌跡画像は、前記位置検出手段が検出した時系列の位置情報である、ことを特徴とする請求項4から7いずれか1項記載の電子会議装置。   8. The electronic device according to claim 4, wherein the trajectory image or the partial trajectory image stored in the first storage unit is time-series position information detected by the position detection unit. Conference equipment. 前記第一の軌跡画像記憶受け付け手段が記憶命令を受け付ける軌跡画像は、1つ以上の議題が手書きされた軌跡画像であり、
前記第二の軌跡画像記憶受け付け手段が記憶命令を受け付ける軌跡画像は、議題について手書きされた軌跡画像である、
ことを特徴とする請求項1から8いずれか1項記載の電子会議装置。
The trajectory image in which the first trajectory image storage receiving unit receives a storage command is a trajectory image in which one or more agenda items are handwritten.
The trajectory image that the second trajectory image storage accepting unit accepts the storage command is a trajectory image handwritten on the agenda.
The electronic conferencing apparatus according to claim 1, wherein the electronic conferencing apparatus is any one of claims 1 to 8.
前記第三の軌跡画像記憶受け付け手段が記憶命令を受け付ける一部軌跡画像は、1つ以上の議題が手書きされた軌跡画像から選択された1つの議題が記述されている軌跡画像である、
ことを特徴とする請求項9記載の電子会議装置。
The partial trajectory image in which the third trajectory image storage accepting unit accepts a storage command is a trajectory image in which one agenda selected from trajectory images in which one or more agenda items are handwritten is described.
The electronic conference apparatus according to claim 9.
位置検出手段が、情報入力領域に対する入力位置を検出するステップと、
軌跡画像生成手段が、時系列の前記位置情報の軌跡を軌跡画像として可視化するステップと、
表示手段が、前記軌跡画像を表示するステップと、を有する情報表示方法であって、
第一の軌跡画像記憶受け付け手段が前記軌跡画像の記憶命令を受け付けるステップと、
第二の軌跡画像記憶受け付け手段が、前記軌跡画像の記憶命令を受け付けるステップと、
軌跡画像記憶手段が、前記第一又は第二の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記表示手段が表示している軌跡画像に一意の識別情報を付与して第一記憶部に記憶するステップと、
識別情報記憶手段が、前記第一の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記軌跡情報記憶手段が付与した前記識別情報を第三記憶部に記憶するステップと、
対応情報記憶手段が、前記第二の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記識別情報記憶手段に記憶されていた前記識別情報を親画像識別情報とし、前記第二の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記軌跡画像記憶手段が付与した前記識別情報を子画像識別情報とし、親画像識別情報と子画像識別情報を対応づけて第二記憶部に記憶するステップと、
を有することを特徴とする情報表示方法。
A position detecting means for detecting an input position for the information input area;
A step of visualizing a trajectory of the position information in time series as a trajectory image by a trajectory image generation unit;
A display means for displaying the trajectory image, and an information display method comprising:
A first trajectory image storage receiving unit receiving a trajectory image storage command;
A second trajectory image storage receiving means for receiving a trajectory image storage command;
The trajectory image storage means assigns unique identification information to the trajectory image displayed by the display means when the first or second trajectory image storage acceptance means accepts a storage command and stores it in the first storage unit. And steps to
A step of storing, in a third storage unit, the identification information provided by the trajectory information storage means when the first trajectory image storage acceptance means accepts a storage command;
Corresponding information storage means uses the identification information stored in the identification information storage means when the second trajectory image storage acceptance means accepts a storage command as parent image identification information, and accepts the second trajectory image storage acceptance. Storing the identification information given by the trajectory image storage means when the means accepts a storage command as child image identification information, associating the parent image identification information with the child image identification information in the second storage unit;
An information display method characterized by comprising:
情報入力領域に対する入力位置を検出する位置検出手段と、
時系列の前記位置情報の軌跡を軌跡画像として可視化する軌跡画像生成手段と、
前記軌跡画像を表示する表示手段と、を有するコンピュータに、
前記軌跡画像の記憶命令を受け付ける第一の軌跡画像記憶受け付けステップと、
前記軌跡画像の記憶命令を受け付ける第二の軌跡画像記憶受け付けステップと、
前記第一又は第二の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記表示手段が表示している軌跡画像に一意の識別情報を付与して第一記憶部に記憶する軌跡画像記憶ステップと、
前記第一の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記軌跡情報記憶手段が付与した前記識別情報を第三記憶部に記憶する識別情報記憶ステップと、
前記第二の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記識別情報記憶手段に記憶されていた前記識別情報を親画像識別情報とし、前記第二の軌跡画像記憶受け付け手段が記憶命令を受け付けた時に前記軌跡画像記憶手段が付与した前記識別情報を子画像識別情報とし、親画像識別情報と子画像識別情報を対応づけて第二記憶部に記憶する対応情報記憶ステップと、
を実行させるプログラム。
Position detecting means for detecting an input position with respect to the information input area;
A trajectory image generating means for visualizing the trajectory of the position information in time series as a trajectory image;
A computer having display means for displaying the locus image;
A first trajectory image storage receiving step for receiving the trajectory image storage command;
A second trajectory image storage receiving step for receiving the trajectory image storage command;
A trajectory image storage step of adding unique identification information to the trajectory image displayed by the display means when the first or second trajectory image storage accepting means accepts a storage command and storing it in the first storage unit; ,
An identification information storage step of storing the identification information given by the trajectory information storage means in a third storage unit when the first trajectory image storage reception means accepts a storage command;
The identification information stored in the identification information storage means when the second trajectory image storage acceptance means accepts a storage command is used as parent image identification information, and the second trajectory image storage acceptance means accepts a storage command. A corresponding information storage step of storing the identification information given by the trajectory image storage means as child image identification information and associating the parent image identification information with the child image identification information in the second storage unit;
A program that executes
JP2010192263A 2010-08-30 2010-08-30 Electronic conference device, information display method, program Expired - Fee Related JP5678521B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010192263A JP5678521B2 (en) 2010-08-30 2010-08-30 Electronic conference device, information display method, program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010192263A JP5678521B2 (en) 2010-08-30 2010-08-30 Electronic conference device, information display method, program

Publications (2)

Publication Number Publication Date
JP2012049969A true JP2012049969A (en) 2012-03-08
JP5678521B2 JP5678521B2 (en) 2015-03-04

Family

ID=45904292

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010192263A Expired - Fee Related JP5678521B2 (en) 2010-08-30 2010-08-30 Electronic conference device, information display method, program

Country Status (1)

Country Link
JP (1) JP5678521B2 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014238667A (en) * 2013-06-06 2014-12-18 株式会社リコー Information terminal, information processing program, information processing system, and information processing method
JP2016048398A (en) * 2015-12-09 2016-04-07 カシオ計算機株式会社 Information display device, server, and program
JP2018073096A (en) * 2016-10-28 2018-05-10 シャープ株式会社 Information display device
JP2019036336A (en) * 2013-09-27 2019-03-07 昭 宮田 Action evocation program and portable terminal device
CN113552976A (en) * 2021-07-31 2021-10-26 深圳市华鼎星科技有限公司 Control system and method of electromagnetic touch display device

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003111042A (en) * 2001-09-28 2003-04-11 Ricoh Co Ltd Conference support apparatus, information processor, electronic conference system and program
JP2004015456A (en) * 2002-06-07 2004-01-15 Hitachi Ltd Multimedia information exchange system and server apparatus
JP2005092158A (en) * 2003-09-19 2005-04-07 Ricoh Co Ltd Pseudo electronic white board device, pseudo electronic white board projection method, and pseudo electronic white board projection program
JP2006099414A (en) * 2004-09-29 2006-04-13 Casio Comput Co Ltd Electronic conference device and electronic conference device control program
JP2007280235A (en) * 2006-04-11 2007-10-25 Fuji Xerox Co Ltd Electronic conference support program, electronic conference suppot method, and information terminal for electronic conference system
JP2010026701A (en) * 2008-07-17 2010-02-04 Hitachi Software Eng Co Ltd Information sharing system
JP2010113610A (en) * 2008-11-07 2010-05-20 Nec Corp Meeting support system, associated information registration method, associated information retrieval method, server and program

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003111042A (en) * 2001-09-28 2003-04-11 Ricoh Co Ltd Conference support apparatus, information processor, electronic conference system and program
JP2004015456A (en) * 2002-06-07 2004-01-15 Hitachi Ltd Multimedia information exchange system and server apparatus
JP2005092158A (en) * 2003-09-19 2005-04-07 Ricoh Co Ltd Pseudo electronic white board device, pseudo electronic white board projection method, and pseudo electronic white board projection program
JP2006099414A (en) * 2004-09-29 2006-04-13 Casio Comput Co Ltd Electronic conference device and electronic conference device control program
JP2007280235A (en) * 2006-04-11 2007-10-25 Fuji Xerox Co Ltd Electronic conference support program, electronic conference suppot method, and information terminal for electronic conference system
JP2010026701A (en) * 2008-07-17 2010-02-04 Hitachi Software Eng Co Ltd Information sharing system
JP2010113610A (en) * 2008-11-07 2010-05-20 Nec Corp Meeting support system, associated information registration method, associated information retrieval method, server and program

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CSND200300893010; 大柴 滋: 'アウトラインプロセッサーでPalmを第二の頭脳に' Palm Magazine vol.6 第6巻, 20010723, 第81-87頁, 株式会社アスキー *
JPN6014051378; 大柴 滋: 'アウトラインプロセッサーでPalmを第二の頭脳に' Palm Magazine vol.6 第6巻, 20010723, 第81-87頁, 株式会社アスキー *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014238667A (en) * 2013-06-06 2014-12-18 株式会社リコー Information terminal, information processing program, information processing system, and information processing method
JP2019036336A (en) * 2013-09-27 2019-03-07 昭 宮田 Action evocation program and portable terminal device
JP2016048398A (en) * 2015-12-09 2016-04-07 カシオ計算機株式会社 Information display device, server, and program
JP2018073096A (en) * 2016-10-28 2018-05-10 シャープ株式会社 Information display device
CN113552976A (en) * 2021-07-31 2021-10-26 深圳市华鼎星科技有限公司 Control system and method of electromagnetic touch display device
CN113552976B (en) * 2021-07-31 2024-04-02 深圳市华鼎星科技有限公司 Control system and method of electromagnetic touch display device

Also Published As

Publication number Publication date
JP5678521B2 (en) 2015-03-04

Similar Documents

Publication Publication Date Title
JP6447066B2 (en) Image processing apparatus, image processing method, and program
US20200301647A1 (en) Information processing apparatus, information processing method, and information processing system
WO2016117321A1 (en) Electronic information board apparatus and method
JP6142580B2 (en) Information processing system, information registration method, conference apparatus, and program
US20100077333A1 (en) Method and apparatus for non-hierarchical input of file attributes
WO2016121401A1 (en) Information processing apparatus and program
WO2017138223A1 (en) Image processing device, image processing system, and image processing method
WO2017056487A1 (en) Communication system, information processing apparatus, and method for communication
US10725653B2 (en) Image processing device, image processing system, and image processing method
JP5678521B2 (en) Electronic conference device, information display method, program
JP5991281B2 (en) Image processing apparatus, image processing system, image processing method, and program
JP2013239147A (en) Display control device
US20160231905A1 (en) Multimedia apparatus and method for providing content
JP5935456B2 (en) Image processing device
JP2017167888A (en) Information processing apparatus, system, information processing method, and program
JP2018026185A (en) Electronic information board, image processing method, and program
JP2011054096A (en) Information processing apparatus
JP2020516983A (en) Live ink for real-time collaboration
CN111665984A (en) Information processing method and device, electronic equipment and readable storage medium
JP2015135596A (en) Information processing apparatus and information processing program
JP2015095066A (en) Information processing apparatus and information processing program
JP6369598B2 (en) Information processing system, information registration method, conference apparatus, and program
JP2021165905A (en) Communication device, control method of communication device, and program
US9912834B2 (en) Document camera device and cutout assistance method
US11675496B2 (en) Apparatus, display system, and display control method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130621

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140401

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140530

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141222

R151 Written notification of patent or utility model registration

Ref document number: 5678521

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees