WO2017051687A1 - 電子黒板、電子黒板の画像処理方法、及び電子黒板のプログラムを記録した記録媒体 - Google Patents

電子黒板、電子黒板の画像処理方法、及び電子黒板のプログラムを記録した記録媒体 Download PDF

Info

Publication number
WO2017051687A1
WO2017051687A1 PCT/JP2016/075903 JP2016075903W WO2017051687A1 WO 2017051687 A1 WO2017051687 A1 WO 2017051687A1 JP 2016075903 W JP2016075903 W JP 2016075903W WO 2017051687 A1 WO2017051687 A1 WO 2017051687A1
Authority
WO
WIPO (PCT)
Prior art keywords
event
electronic blackboard
unit
image
display
Prior art date
Application number
PCT/JP2016/075903
Other languages
English (en)
French (fr)
Inventor
中村 滋
佑一 河崎
Original Assignee
株式会社リコー
中村 滋
佑一 河崎
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社リコー, 中村 滋, 佑一 河崎 filed Critical 株式会社リコー
Priority to JP2017541500A priority Critical patent/JP6504256B2/ja
Priority to EP16848475.6A priority patent/EP3355177A4/en
Priority to US15/761,615 priority patent/US10761718B2/en
Publication of WO2017051687A1 publication Critical patent/WO2017051687A1/ja
Priority to US16/924,191 priority patent/US11294495B2/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545Pens or stylus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/04104Multi-touch detection in digitiser, i.e. details about the simultaneous detection of a plurality of touching locations, e.g. multiple fingers or pen and finger
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04808Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen

Definitions

  • the present invention relates to an electronic blackboard, an image processing method for the electronic blackboard, and a recording medium on which the program for the electronic blackboard is recorded.
  • an electronic blackboard device in which a touch panel is mounted on a flat panel display such as a liquid crystal display or a projection screen of a projector, has been utilized in ordinary meetings and remote meetings.
  • Patent Document 1 discloses an image processing system in which a plurality of information processing apparatuses that share an image displayed on a display unit are connected via a network.
  • the present invention includes a display unit that displays a plurality of images in a superimposed manner, an event acquisition unit that acquires an event for the display unit, a determination unit that determines the type of the event with reference to device information, and the determination unit It is an electronic blackboard provided with the processing means which performs the said event according to the discrimination result in.
  • the user's setting work is reduced and the user's usability can be improved.
  • FIG. 1 is a schematic configuration diagram of an image processing system according to an embodiment.
  • FIG. 2 is a hardware configuration diagram of the electronic blackboard.
  • FIG. 3 is a block diagram for explaining functions of the electronic blackboard.
  • FIG. 4 is a diagram for explaining a table in which the model number of the display is associated with the model name of the electronic blackboard.
  • FIG. 5 is a diagram illustrating an example of “stroke drawing” with the electronic pen.
  • FIG. 6 is a diagram illustrating an example of “UI operation” using the electronic pen.
  • FIG. 7 is a diagram illustrating an example of a “gesture operation” by hand.
  • FIG. 8 is a diagram illustrating an example of an image processing flow executed by the CPU of the electronic blackboard.
  • FIG. 9 is a flowchart for explaining processing in the event distribution unit.
  • FIG. 10 is a diagram for explaining page data.
  • FIG. 11 is a diagram for explaining superposition of a plurality of images.
  • FIG. 12 is a diagram for explaining stroke data.
  • FIG. 13 is a diagram for explaining the coordinate array data.
  • FIG. 14 is a diagram for explaining media data.
  • FIG. 15 is a diagram for explaining a remote license management table.
  • FIG. 16 is a block diagram for explaining the function of the file processing unit.
  • FIG. 17 is a diagram for explaining the address book management table.
  • FIG. 18 is a diagram for explaining backup data.
  • FIG. 19 is a diagram for explaining the connection destination management table.
  • FIG. 20 is a block diagram for explaining the functions of the server unit and the transmission control unit.
  • FIG. 21 is a diagram for explaining the participating base management table.
  • FIG. 21 is a diagram for explaining the participating base management table.
  • FIG. 22 is a diagram for explaining the operation data.
  • FIG. 23 is a sequence diagram (part 1) for explaining the remote sharing process.
  • FIG. 24 is a sequence diagram (part 2) for explaining the remote sharing process.
  • FIG. 25 is a diagram illustrating an example of device configuration information.
  • FIG. 26 is a hardware configuration diagram of an electronic blackboard capable of reading an information recording medium.
  • FIG. 1 shows a schematic configuration of an image processing system 1 according to an embodiment.
  • the image processing system 1 includes a plurality of electronic blackboards, a PC (personal computer) 8, and the like connected to each other via a communication network (network line) 9.
  • a communication network network line
  • the plurality of electronic blackboards may be three or more electronic blackboards. Note that the plurality of electronic blackboards are provided at different bases.
  • the PC 8 is a PC for browsing the shared image.
  • a notebook PC 6a is connected to the electronic blackboard 2a via a cable 10a1, and a video conference terminal 7a is connected via a cable 10a2.
  • a notebook PC 6b is connected to the electronic blackboard 2b via a cable 10b1, and a video conference terminal 7b is connected via a cable 10b2.
  • Each cable is a cable that can communicate according to standards such as DisplayPort, DVI (Digital Visual Interface), HDMI (registered trademark) (High-Definition Multimedia Interface), VGA (Video Graphics Array), and the like.
  • DVI Digital Visual Interface
  • HDMI registered trademark
  • VGA Video Graphics Array
  • each notebook PC and each video conference terminal may be connected to a corresponding electronic blackboard by wireless communication conforming to a wireless communication standard such as Bluetooth (registered trademark).
  • the electronic blackboard 2a has a display 3a.
  • the electronic blackboard 2b has a display 3b.
  • the display 3a and the display 3b have different model numbers.
  • the model number of the display 3a is “A0001”
  • the model number of the display 3b is “B0001”.
  • the image processing system 1 includes an electronic pen 4a and a USB memory 5a corresponding to the electronic blackboard 2a, and includes an electronic pen 4b and a USB memory 5b corresponding to the electronic blackboard 2b.
  • each electronic pen When the pen tip of each electronic pen is pressed against the display, it is pushed into the electronic pen by the repulsive force from the display. Then, each electronic pen notifies the corresponding electronic blackboard when the pen tip is pushed into the electronic pen.
  • communication between the electronic pen and the corresponding electronic blackboard is performed by infrared rays.
  • symbol Ha in FIG. 1 is a user's hand of the electronic blackboard 2a
  • symbol Hb is a user's hand of the electronic blackboard 2b.
  • the electronic pen 4a or the hand Ha can be used to draw on the display 3a.
  • drawing using the hand Hb cannot be performed, and drawing can be performed on the display 3b only using the electronic pen 4b. That is, the electronic blackboard 2a and the electronic blackboard 2b are different in model.
  • the model name of the electronic blackboard 2a is “EA800”
  • the model name of the electronic blackboard 2b is “EB700”.
  • the image drawn on the display 3a of the electronic blackboard 2a at the one base is also displayed on the display 3b of the electronic blackboard 2b at the other base, and conversely the display of the electronic blackboard 2b at the other base.
  • the image drawn on 3b is displayed on the display 3a of the electronic blackboard 2a at one base.
  • the image processing system 1 can perform remote sharing processing for sharing the same image at a remote location, and thus is very convenient when used for a conference or the like at a remote location.
  • the shared image is also displayed on the display of the PC 8.
  • the image displayed on the display can be changed based on gestures such as enlargement, reduction, and page turning that the user uses.
  • a USB memory 5a can be connected to the electronic blackboard 2a, and the electronic blackboard 2a can read an electronic file from the USB memory 5a or record an electronic file in the USB memory 5a.
  • a USB memory 5b can be connected to the electronic blackboard 2b, and the electronic blackboard 2b can read an electronic file from the USB memory 5b or record an electronic file in the USB memory 5b.
  • the electronic blackboard 2a and the electronic blackboard 2b when it is not necessary to distinguish between the electronic blackboard 2a and the electronic blackboard 2b, they are collectively referred to simply as “electronic blackboard 2”.
  • the display corresponding to the electronic blackboard 2 corresponds to “display 3”
  • the corresponding electronic pen corresponds to “electronic pen 4”
  • the corresponding USB memory corresponds to “USB memory 5”
  • the corresponding notebook PC corresponds to “note PC 6”.
  • the video conference terminal is described as “video conference terminal 7”, the corresponding hand as “hand H”, and the corresponding cable as “cable 10”.
  • FIG. 1 An example of the hardware configuration of the electronic blackboard 2 is shown in FIG. 1
  • the electronic blackboard 2 includes a display 3, a CPU 101, a ROM 102, a RAM 103, an SSD (Solid State Drive) 104, a network controller 105, an external storage controller 106, a capture device 111, a GPU (Graphics Processing Unit) 112, a display controller 113, and a sensor controller 114. , A contact sensor 115, an electronic pen controller 116, and the like.
  • the contact sensor 115 is integrated with the display 3.
  • the CPU 101 executes a program stored in the SSD 104 and controls the overall operation of the electronic blackboard 2.
  • the ROM 102 is a memory that stores a plurality of programs and various data. Among the plurality of programs and various data, a program executed by the CPU 101 and data used in the program are copied from the ROM 102 to the SSD 104 when executed by the CPU 101.
  • the RAM 103 is a working memory.
  • the network controller 105 controls communication with other electronic blackboards via the communication network 9.
  • the external storage controller 106 controls communication with the USB memory 5.
  • the capture device 111 acquires video information displayed on the display of the notebook PC 6 as a still image or a moving image.
  • the GPU 112 performs data processing related to graphics.
  • the display controller 113 controls and manages the display screen of the display 3, and displays an image output from the GPU 112 and an image output from the video conference terminal 7 on the display 3.
  • the contact sensor 115 is an infrared cut-off type touch panel, and detects that the electronic pen 4, the user's hand H, or the like is in contact with the display 3.
  • the contact sensor 115 detects information related to the contact position on the display 3.
  • two light emitting / receiving devices (not shown) installed at both upper ends of the display 3 emit a plurality of infrared rays in parallel with the display 3 and are reflected around the display 3. The light reflected by the member and returning is received.
  • the contact sensor 115 outputs an infrared ID (Identification) blocked by the electronic pen 4 or the user's hand H touching the display 3 to the sensor controller 114 as information on the contact position. Then, the sensor controller 114 specifies the coordinates of the contact position of the electronic pen 4 or the user's hand H based on the information related to the contact position from the contact sensor 115.
  • an infrared ID Identity
  • the sensor controller 114 specifies the coordinates of the contact position of the electronic pen 4 or the user's hand H based on the information related to the contact position from the contact sensor 115.
  • the contact sensor 115 is not limited to an infrared shielding touch panel, but is a capacitive touch panel that identifies a contact position by detecting a change in electrostatic capacitance, or a contact based on a voltage change between two opposing resistance films.
  • Various detection means such as a resistive film type touch panel for specifying a position and an electromagnetic induction type touch panel for detecting electromagnetic induction caused by contact of a contact object with the display unit and specifying a contact position may be used.
  • the electronic pen controller 116 communicates with the electronic pen 4 and determines whether or not the electronic pen 4 is pressed against the display 3.
  • the CPU 101, ROM 102, RAM 103, SSD 104, network controller 105, external storage controller 106, capture device 111, GPU 112, sensor controller 114, and electronic pen controller 116 are a bus 120 including an address bus and a data bus. It is connected to the.
  • the electronic blackboard 2 can be a “host device” that starts the remote sharing process first, and can also be a “participating device” that participates in the remote sharing process that has already started.
  • the functions of the electronic blackboard 2 are shown in FIG.
  • the functions of the electronic blackboard 2 are roughly divided into a client unit 20 and a server unit 90.
  • the function of the electronic blackboard 2 is realized by the above-described hardware, a plurality of programs, and various data. Specifically, it is realized by the CPU 101 executing various programs stored in the ROM 102, the SSD 104, or the like.
  • the client unit 20 and the server unit 90 are functions realized in one housing of the electronic blackboard 2.
  • the electronic blackboard 2 becomes the “sponsorship device”
  • the electronic blackboard 2 realizes the function as the client unit 20 and the function as the server unit 90.
  • the electronic blackboard 2 is a “participating device”
  • the client unit 20 is realized in the electronic blackboard 2, but the server unit 90 is not realized.
  • the client unit 20 of the electronic blackboard 2a receives other information via the server unit 90 implemented in the same electronic blackboard 2a. Communicate with the client unit 20 of the electronic blackboard 2b.
  • the client unit 20 of the electronic blackboard 2b communicates with the client units of the other electronic blackboard 2a via the server unit 90 realized in the other electronic blackboard 2a.
  • the client unit 20 includes a video acquisition unit 21, a coordinate detection unit 22, an automatic adjustment unit 23, a contact detection unit 24, an event distribution unit 25, an operation processing unit 26, a gesture processing unit 27, a video.
  • a superimposing unit 28, an image processing unit 30, a device information determining unit 38, and a communication control unit 60 are provided.
  • the image processing unit 30 includes an image acquisition unit 31, a stroke processing unit 32, a UI image generation unit 33, a background generation unit 34, a layout management unit 35, a display superimposition unit 36, a page processing unit 37, a page data storage unit 300, a remote license.
  • a management table 310 and a file processing unit 40 are included.
  • the video acquisition unit 21 acquires a video output from the notebook PC 6 connected to the electronic blackboard 2 via the cable 10 (hereinafter also referred to as “PC output video”). In addition, the video acquisition unit 21 analyzes the acquired PC output video and extracts image information including the resolution of the image frame, which is a display image on the notebook PC 6, the update frequency of the image frame, and the like. The PC output video and image information acquired here are output to the image acquisition unit 31.
  • the coordinate detection unit 22 detects the position coordinates of the contact as an event occurrence position.
  • the coordinate detection unit 22 also detects the area of the contacted area on the display 3. These detection results are output to the event distribution unit 25.
  • the automatic adjustment unit 23 is activated when the electronic blackboard 2 is turned on, and adjusts various parameters in the contact sensor 115 so that the contact sensor 115 can output appropriate values to the coordinate detection unit 22.
  • the contact detection unit 24 detects whether or not the electronic pen 4 is pressed against the display 3 by communication with the electronic pen 4. The detection result is output to the event distribution unit 25.
  • the device information determination unit 38 acquires the model number of the display 3 from the display 3 and determines the model name of the electronic blackboard 2 from the model number. Then, the device information determination unit 38 outputs the model name of the electronic blackboard 2 to the event distribution unit 25 as a determination result.
  • the device information determination unit 38 has a table (model name information) in which the model number of the display 3 and the model name of the electronic blackboard 2 are associated with each other, as shown in FIG. ing.
  • the event distribution unit 25 determines the event type based on the position coordinates detected by the coordinate detection unit 22, the detection result by the contact detection unit 24, and the determination result by the device information determination unit 38.
  • the events here include “stroke drawing”, “UI operation (user interface operation)”, and “gesture operation”.
  • UI operation user interface operation
  • gesture operation the position coordinates detected by the coordinate detection unit 22 and the detection result by the contact detection unit 24 are also referred to as “event information”.
  • FIG. 5 shows an example of “stroke drawing” using an electronic pen.
  • an operation when the electronic pen 4 is pressed against the display 3 and is slid to draw an alphabet “S” on the display 3 with the electronic pen 4 in this state is shown.
  • the alphabet “S” is drawn on the movement path h3 of the electronic pen on the display 3.
  • stroke drawing includes not only drawing a stroke image but also an event of deleting a stroke image that has already been drawn or editing the stroke image.
  • UI operation is an event in which a user presses a predetermined position with the electronic pen 4 or the hand H when a UI (user interface) image is displayed on the display 3.
  • UI operation for example, the color and line width of a drawn line are set.
  • FIG. 6 shows an example of “UI operation” using an electronic pen.
  • an operation when the electronic pen 4 is touched on a user interface element 360b of a UI area (user interface image display area) 360a displayed on the display 3 is shown.
  • the elements of the user interface are, for example, a button, a list, a check box, a text box, and the like.
  • event processing of the element 360b is performed, and for example, a line color, a line width, and the like are set.
  • “Gesture operation” is an event in which the user touches the display 3 with the hand H or moves the hand H on the display 3.
  • “gesture operation” for example, when the user moves the hand H while the hand 3 is touching the display 3, the image can be enlarged or reduced, the display area can be changed, or the page can be switched.
  • FIG. 7 shows an example of a “gesture operation” by hand.
  • a pinch-out operation is shown in which two fingers are pressed against the display 3 and the fingers slide on the display 3 in the directions of arrows x1 and x2 where the fingers are separated from each other. Dotted lines h1 and h2 indicate contact on the display 3 by two fingers.
  • there are operations such as pinch-in.
  • the event distribution unit 25 outputs the event information to any of the stroke processing unit 32, the operation processing unit 26, and the gesture processing unit 27 according to the determination result.
  • FIG. 8 is a diagram illustrating an example of an image processing flow executed by the CPU 101 of the electronic blackboard 2.
  • the electronic blackboard 2 (CPU 101) acquires an event for the display 3 (S1). Subsequently, the electronic blackboard 2 (CPU 101) determines the type of the event with reference to device information (S2). Subsequently, the electronic blackboard 2 (CPU 101) performs event processing according to the determination result (S3).
  • event distribution processing processing in the event distribution unit 25 in the image processing flow (hereinafter also referred to as “event distribution processing”) will be described with reference to a flowchart of FIG.
  • the position coordinates (event occurrence position) are acquired from the coordinate detection unit 22.
  • step S403 it is determined whether or not the position overlaps with the UI area 360a (see FIG. 11).
  • the UI area 360a refers to an area where user interface elements (for example, buttons, lists, check boxes, text boxes, etc.) 360b (see FIG. 11) are displayed on the display screen. If the position does not overlap with the UI area 360a, the determination here is denied and the process proceeds to step S405.
  • step S405 the model name of the electronic blackboard 2 is acquired from the device information determination unit 38.
  • step S407 it is determined whether or not the model name of the electronic blackboard 2 is “EA800”. If the model name of the electronic blackboard 2 is “EA800”, stroke drawing by the user's hand is effective, so the determination here is affirmed, and the routine proceeds to step S409.
  • step S409 it is determined whether or not there are two or more coordinate detections. If there are two or more coordinate detections, the determination here is affirmed and the process proceeds to step S411.
  • step S411 it is determined that the event is a “gesture operation”.
  • step S413 event information is output to the gesture processing unit 27. Then, the event distribution process ends.
  • step S409 if one point of coordinate is detected, the determination in step S409 is denied and the process proceeds to step S415.
  • step S415 it is determined that the event is “stroke drawing”.
  • step S413 event information is output to the stroke processing unit 32. Then, the event distribution process ends.
  • step S407 if the model name of the electronic blackboard 2 is not “EA800”, stroke drawing by the user's hand is invalid, so the determination in step S407 is denied and the process proceeds to step S419.
  • step S419 it is determined from the detection result of the contact detection unit 24 whether or not the electronic pen 4 is pressed. If the electronic pen 4 is not pressed, the determination here is denied and the process proceeds to step S411. On the other hand, if the electronic pen 4 is pressed, the determination here is affirmed, and the process proceeds to step S415.
  • step S403 if the position overlaps with the UI area 360a, the determination in step S403 is affirmed, and the process proceeds to step S421.
  • step S421 it is determined that the event is a “UI operation”.
  • step S423 event information is output to the operation processing unit 26. Then, the event distribution process ends.
  • the operation processing unit 26 receives the event information determined as “UI operation” by the event distribution unit 25, and executes an operation according to the element of the UI in which the event has occurred.
  • the gesture processing unit 27 receives the event information determined as “gesture operation” by the event distribution unit 25 and executes an operation corresponding to the event information.
  • the stroke processing unit 32 receives event information determined as “stroke drawing” by the event distribution unit 25, draws an image (stroke image) by a stroke, deletes an already drawn stroke image, and draws an already drawn image. Edit the stroke image.
  • the results of drawing, deleting, and editing the stroke image are output to the display superimposing unit 36 and the page processing unit 37, and stored as operation data in the operation data storage unit 840 (see FIG. 20) of the data management unit 80.
  • the video superimposing unit 28 displays the image superimposed on the display superimposing unit 36 (hereinafter abbreviated as “superimposed image”) on the display 3.
  • the video superimposing unit 28 displays the superimposed image on the entire display 3 and displays the video sent from the video conference terminal 7 separately on a part of the display 3 (picture-in-picture).
  • the video superimposing unit 28 performs display switching for displaying the separately displayed video on the entire display 3.
  • the image acquisition unit 31 acquires frame information included in the PC output video from the video acquisition unit 21 as an image, and outputs it to the display superimposing unit 36 and the page processing unit 37.
  • the image acquired by the image acquisition unit 31 is also referred to as a “PC output image”.
  • the UI image generation unit 33 generates a preset UI image and outputs it to the display superimposing unit 36.
  • the background generation unit 34 receives media data included in the page data read from the page data storage unit 300 by the page processing unit 37 from the page processing unit 37, and outputs the media data to the display superimposing unit 36.
  • the pattern of the background image is plain or grid display.
  • the layout management unit 35 receives information (hereinafter abbreviated as “layout information”) regarding the layout of each image output from the image acquisition unit 31, the stroke processing unit 32, and the UI image generation unit 33 or the background generation unit 34. to manage.
  • the layout information is output to the display superimposing unit 36.
  • the layout management unit 35 can instruct the display superimposing unit 36 at which position in the UI image and the background image the PC output image and the stroke image are to be displayed or hidden. it can.
  • the display superimposing unit 36 performs layout of each image output from the image acquisition unit 31, the stroke processing unit 32, the UI image generation unit 33, or the background generation unit 34 based on the layout information from the layout management unit 35.
  • the page processing unit 37 stores the data related to the stroke image and the data related to the PC output image into one page data and stores it in the page data storage unit 300.
  • the page data includes a page data ID, a disclosure time, an end time, a stroke arrangement data ID, and a media data ID.
  • the page data ID is an ID for identifying a page.
  • the disclosure time is the time when the display of the page is started.
  • the end time is the time when the update of the page data ends.
  • the stroke array data ID is an ID for identifying stroke array data generated by a stroke event using the electronic pen 4 or the hand H.
  • the media data ID is an ID for identifying media data.
  • the stroke arrangement data is data for displaying a stroke image on the display 3.
  • the media data is data for displaying a background image on the display 3.
  • the data related to the stroke image is part of the page data as the stroke arrangement data associated with the stroke arrangement data ID.
  • Data relating to the PC output image forms part of page data as media data associated with the media data ID.
  • the video superimposing unit 28 redisplays the background image on the display 3. be able to.
  • the page processing unit 37 when the page processing unit 37 returns the stroke arrangement data of the page data once stored to the stroke processing unit 32, the stroke can be re-edited. Further, the page processing unit 37 can delete or duplicate page data.
  • the data of the PC output image displayed on the display 3 when the page processing unit 37 stores the page data in the page data storage unit 300 is temporarily stored in the page data storage unit 300 and then the page data When read from the storage unit 300, it is read as media data indicating a background image.
  • the page processing unit 37 outputs stroke arrangement data indicating a stroke image among the page data read from the page data storage unit 300 to the stroke processing unit 32. Further, the page processing unit 37 outputs media data indicating a background image among the page data read from the page data storage unit 300 to the background generation unit 34.
  • the display superimposing unit 36 displays the PC output image from the image acquisition unit 31, the stroke image from the stroke processing unit 32, the UI image from the UI image generation unit 33, and the background image from the background generation unit 34, the layout management unit 35. Superimpose according to the layout specified by.
  • the layer structure is in the order of the PC output image layer 36c and the background image layer 36d.
  • the display superimposing unit 36 can also superimpose exclusively on the UI image and the stroke image by switching between the PC output image and the background image. For example, when the cable 10 is disconnected between the electronic blackboard 2 and the notebook PC 6 while the UI image, the stroke image, and the PC output image are initially displayed, the PC is instructed by the layout management unit 35 according to an instruction. The output image can be removed from the superimposition target and the background image can be displayed.
  • the display superimposing unit 36 also performs display enlargement, display reduction, and display area movement processing.
  • One stroke arrangement data is composed of a plurality of stroke data. Each stroke data is generated for each stroke event.
  • Each stroke data includes a stroke data ID, start time, end time, color, width, and coordinate array data ID.
  • the stroke data ID is an ID for identifying the stroke data.
  • the start time is the start time of writing the stroke.
  • the end time is the time when the stroke is written.
  • the color is the color of the stroke, and the width is the width of the stroke.
  • the coordinate array data ID is an ID for identifying coordinate array data including information related to a passing point of the stroke.
  • the coordinate array data includes a plurality of points (passing points) through which the stroke has passed, a position (X coordinate value, Y coordinate value) on the display 3 for each passing point, and disclosure of the stroke when passing through the position.
  • the information includes the time (m seconds) of the difference from the time and the writing pressure of the electronic pen 4 at the position. For example, when the user draws the alphabet “S” with the electronic pen 4, it is drawn with a single stroke, but passes through a plurality of passing points before drawing “S”. Contains point information.
  • Each media data includes a media data ID, data type, recording time, X coordinate value, Y coordinate value, width, height, and data.
  • Media data ID is an ID for identifying media data.
  • the data type is the type of media data.
  • the recording time is the time when page data is stored in the page data storage unit 300 from the page processing unit 37.
  • the X coordinate value and the Y coordinate value are the positions of images displayed on the display 3 by page data. Width and height are image sizes. Data indicates the contents of the media data.
  • the position of the upper left corner of the image to be displayed is shown.
  • the remote license management table 310 manages license data necessary for executing the remote sharing process.
  • the remote license management table includes a product ID, a license ID, and an expiration date.
  • the product ID is the product ID of the electronic blackboard 2.
  • the license ID is an ID used for authentication, and the expiration date is the expiration date of the license.
  • FIG. 16 is a functional block diagram of the file processing unit 40.
  • the file processing unit 40 includes a recovery processing unit 41, a file input unit 42a, a file output unit 42b, a file conversion unit 43, a file transmission unit 44, an address book input unit 45, a backup processing unit 46, a backup output unit 47, and setting management. Section 48, setting file output section 49b, setting file input section 49a, and address book input section 50.
  • the file processing unit 40 includes an address book management table 410, a backup data storage unit 420, a setting file storage unit 430, and a connection destination management table 440.
  • the recovery processing unit 41 detects the abnormal termination and restores page data when the power is turned on next time.
  • the page data is recorded as a PDF file on the USB 5 via the file processing unit 40, but when abnormally ended, the page data is recorded in the page data storage unit 300. It is left. Therefore, when the power is turned on next time, the recovery processing unit 41 recovers by reading page data from the page data storage unit 300.
  • the file conversion unit 43 converts the page data stored in the page data storage unit 300 into a PDF file.
  • the plurality of page data may be converted into a plurality of PDF files individually, that is, in units of pages, or collectively 1 It may be converted into one PDF file.
  • the converted PDF file is output to the backup processing unit 46.
  • the file input unit 42a reads a PDF file from the USB memory 5 and stores each page in the page data storage unit 300 as page data. When a plurality of PDF files are stored in the USB memory 5, the file input unit 42a reads all of them.
  • the file output unit 42 b stores the PDF file output from the file conversion unit 43 in the USB memory 5.
  • the file transmission unit 44 transmits the PDF file output from the file conversion unit 43 by attaching it to an e-mail.
  • the file transmission unit 44 accepts the selection of the transmission destination by the operation of the input device such as a touch panel by the user for the contents of the address book management table 410 displayed on the display 3 by the display superimposing unit 36. The destination of the file is determined.
  • An example of the address book management table 410 is shown in FIG.
  • a destination name and a destination mail address are stored in association with each other.
  • the file transmission unit 44 can accept an input of a mail address as a transmission destination by an operation of an input device such as a touch panel by the user.
  • the address book input unit 45 reads a mail address list file (address book) from the USB memory 5 and stores it in the address book management table 410.
  • the backup processing unit 46 performs backup processing by storing the file output from the file output unit 42b and the file transmitted from the file transmission unit 44 in the backup data storage unit 420.
  • FIG. 1 An example of backup data is shown in FIG.
  • the backup data is stored as a PDF file (PDF file). Note that this backup processing is performed when “backup is valid” is set by the user, and is not performed when it is not set.
  • PDF file PDF file
  • the backup output unit 47 stores the backed up file in the USB memory 5. At the time of this storage, in order to ensure security, the user is required to input a password by operating an input device such as a touch panel.
  • the file stored in the USB memory 5 can be read by the file input unit 42a.
  • the setting management unit 48 stores various setting information of the electronic blackboard 2 in the setting file storage unit 430 and reads out various setting information from the setting file storage unit 430.
  • the various setting information includes, for example, information on the network, date and time, region and language, information on the mail server, address book, connection destination list, information on backup, and the like.
  • the information regarding the network includes, for example, the IP address of the electronic blackboard 2, a net mask, a default gateway, DNS (Domain Name System), and the like.
  • the setting file output unit 49b stores the various setting information of the electronic blackboard 2 in the USB memory 5 as a setting file. From the viewpoint of ensuring security, the user cannot view the contents of the setting file.
  • the setting file input unit 49 a reads the setting file from the USB memory 5 and outputs the contents to the setting management unit 48. Thereby, various setting information is reflected in the various setting contents of the electronic blackboard 2.
  • the address book input unit 50 reads a connection destination list (for example, an electronic file in CVS format) that is a list of connection destination IP addresses for remote sharing processing from the USB memory 5 and stores it in the connection destination management table 440.
  • a connection destination list for example, an electronic file in CVS format
  • the connection destination management table 440 indicates that the host device (the electronic blackboard that has started the remote sharing processing) This is a table in which the IP address of the electronic blackboard 2 is stored in advance in order to save the trouble of inputting the IP address.
  • connection destination management table 440 An example of the connection destination management table 440 is shown in FIG.
  • the name and IP address of the electronic blackboard 2 that functions as the host apparatus are associated and collected.
  • the place where the electronic blackboard 2 is installed is used as the name of the electronic blackboard 2.
  • the user of the participating device may input the IP address of the sponsoring device by operating the input device such as the touch panel one by one. In this case, the user of the participating device needs to know the IP address by telephone, e-mail, etc. from the user of the sponsoring device.
  • the communication control unit 60 controls communication with another electronic blackboard 2 performed via the communication network 9 and communication with the communication control unit 70 of the server unit 90.
  • the communication control unit 60 includes a remote start processing unit 61, a remote participation processing unit 62, a remote image transmission unit 63, a remote image reception unit 64, a remote operation transmission unit 65, a remote operation reception unit 66, And a participation base management table 610.
  • the remote start processing unit 61 requests the server unit 90 of the same electronic blackboard 2 to newly start remote sharing processing, and receives the request result from the server unit 90. Prior to the request, the remote start processing unit 61 refers to the remote license management table 310 and confirms whether the license information (product ID, license ID, and expiration date of the electronic blackboard 2) is managed. . If the license information is managed, the remote start processing unit 61 can make a request for starting the remote sharing process. If the license information is not managed, the remote start processing unit 61 makes a request for starting the remote sharing process. Can not do.
  • the participation base management table 610 is a table for managing the electronic blackboard as a participating device that is currently participating in the remote sharing process when the electronic blackboard is the sponsoring device.
  • An example of the participating base management table 610 is shown in FIG.
  • the name and the IP address of the electronic blackboard 2 which is a participation device are associated and collected.
  • a place where the electronic blackboard 2 is installed is used as the name of the electronic blackboard 2.
  • the remote participation processing unit 62 requests the remote connection request receiving unit 71 of the server unit 90 in the hosting device (the electronic blackboard 2 that has started the remote sharing processing) to participate in the remote sharing processing via the communication network 9, and The result of the request is received from the server unit 90.
  • the remote participation processing unit 62 refers to the remote license management table 310 prior to the request.
  • the remote participation processing unit 62 refers to the connection destination management table 440 and acquires the IP address of the host device.
  • the user may input an IP address of the sponsoring device by operating an input device such as a touch panel.
  • the remote image transmission unit 63 transmits the PC output image from the image acquisition unit 31 to the remote image reception unit 73 of the server unit 90.
  • the remote image receiving unit 64 receives the PC output image data on the other electronic blackboard 2 from the remote image transmitting unit 74 of the server unit 90 and outputs it to the display superimposing unit 36. This enables remote sharing processing.
  • the remote operation transmitting unit 65 transmits various operation data necessary for remote sharing processing to the remote operation receiving unit 75 of the server unit 90.
  • Examples of the various operation data include, for example, addition of a stroke image, deletion of a stroke image, editing (enlargement, reduction, movement) of a stroke image, storage of page data, creation of page data, duplication of page data, deletion of page data And data relating to switching of displayed pages.
  • the remote operation reception unit 66 receives the operation data input on the other electronic blackboard 2 from the remote operation transmission unit 76 of the server unit 90 and outputs it to the image processing unit 30. Thereby, remote sharing processing is performed.
  • the server unit 90 is provided in each electronic blackboard 2, and any electronic blackboard 2 can serve as a server unit.
  • the server unit 90 can be broadly divided into a communication control unit 70 and a data management unit 80 as shown in FIG.
  • the server unit 90 includes a passcode management unit 810 that stores and manages various data, a participating site management table 820, an image data management unit 830, an operation data storage unit 840, and a page data storage unit 850.
  • the communication control unit 70 (1) communicates with the communication control unit 60 of the client unit 20 in the same electronic blackboard 2 and (2) communicates the communication network 9 with the communication control unit 60 of the client unit 20 in the other electronic blackboard 2. And control communication through the network.
  • the communication control unit 70 includes a remote connection request receiving unit 71, a remote connection result transmitting unit 72, a remote image receiving unit 73, a remote image transmitting unit 74, a remote operation receiving unit 75, and a remote operation transmitting unit 76.
  • the remote connection request receiving unit 71 receives a request for starting a remote sharing process from the remote start processing unit 61 or sends a request for participation in the remote sharing process from the remote participation processing unit 62 of another electronic blackboard 2 via the communication network 9. Receive.
  • the remote connection result transmission unit 72 transmits the result of the remote sharing processing start request to the remote start processing unit 61 or communicates the result of the remote sharing processing participation request to the remote participation processing unit 62 of the other electronic blackboard 2. It transmits via the network 9.
  • the remote image receiving unit 73 receives the PC output image data from the remote image transmitting unit 63 and transmits it to the remote image processing unit 82.
  • the remote image transmission unit 74 receives PC output image data from the remote image processing unit 82 and transmits the data to the remote image reception unit 64.
  • the remote operation receiving unit 75 receives the operation data from the remote operation transmitting unit 65 and transmits it to the remote operation processing unit 83.
  • the remote operation transmitting unit 76 transmits the operation data to the remote operation receiving unit 66.
  • the data management unit 80 includes a remote connection processing unit 81, a remote image processing unit 82, a remote operation processing unit 83, an operation composition processing unit 84, and a page processing unit 85.
  • the remote connection processing unit 81 starts and ends the remote sharing process. Further, the remote connection processing unit 81 receives the license information received by the remote connection request receiving unit 71 from the remote start processing unit 61 together with the remote sharing processing start request or the remote sharing processing unit 62 together with the remote sharing processing participation request. Based on the license information thus obtained, it is confirmed whether there is a license and whether it is within the validity period of the license.
  • the remote connection processing unit 81 confirms whether or not the predetermined number of participations has been exceeded in response to a participation request from another electronic blackboard 2 as a client unit.
  • the remote connection processing unit 81 refuses to participate in the remote sharing process when it does not have a valid license or when the participation request exceeds the number of possible participations.
  • the remote connection processing unit 81 determines whether or not the passcode sent together with the request for participation in the remote sharing processing from another electronic blackboard 2 matches the passcode managed by the passcode management unit 810, Allow participation in remote sharing process only if they match.
  • the passcode is issued by the remote connection processing unit 81 when a new remote sharing process is started, and is managed by the passcode management unit 810.
  • a user of a participating device who intends to participate in the remote sharing process acquires a passcode from the user of the sponsoring device by telephone or e-mail.
  • the user of the participating device can request participation in the remote sharing process by inputting the acquired passcode to the participating device using an input device such as a touch panel. If priority is given to user usability over security, only the license status may be confirmed, and confirmation of the passcode may be omitted.
  • the remote connection processing unit 81 stores the participation site information included in the participation request sent from the remote participation processing unit 62 of the participation device via the communication network 9 in the participation site management table 820. To do.
  • the remote connection processing unit 81 reads out the remote site information stored in the participating site management table 820 and transmits it to the remote connection result transmission unit 72.
  • the remote connection result transmission unit 72 transmits the remote site information to the remote start processing unit 61 in the client unit 20 of the same host device.
  • the remote start processing unit 61 stores the remote site information in 610 in the participating site management table. As a result, the host device manages remote site information in both the client unit 20 and the server unit 90.
  • the remote image processing unit 82 When the remote image processing unit 82 receives the data of the PC output image on the electronic blackboard 2 (including both the sponsoring device and the participating device) participating in the remote sharing process, the remote image processing unit 82 stores the data in the image data management unit 830 and organizes it.
  • the display order of the image data to be remotely shared is determined in the order of time when it arrives at the server unit 90 of its own electronic blackboard 2 as the apparatus.
  • the remote image processing unit 82 refers to the participating site management table 820, and refers to all the client units 20 of the electronic blackboard 2 participating in the remote sharing process (including the client unit of its own electronic blackboard that is the host device). Then, the image data is transmitted in the determined order via the remote image transmission unit 74 of the communication control unit 70.
  • the remote operation processing unit 83 receives various operation data on the electronic blackboard 2 (including both the sponsoring device and the participating device) participating in the remote sharing process, and the server unit of its own electronic blackboard 2 that is the sponsoring device
  • the display order of the images to be remotely shared is determined in the order of the time of arrival at 90.
  • the various operation data is the same as the various operation data described above.
  • the remote operation processing unit 83 refers to the participating site management table 820 and sends the operation data to the client units 20 of all the electronic blackboards 2 (including both the sponsor device and the participating device) participating in the remote sharing process. Send.
  • the operation synthesis processing unit 84 synthesizes the operation data of each electronic blackboard 2 output from the remote operation processing unit 83, stores the operation data as a synthesis result in the operation data storage unit 840, and stores the operation data in the remote operation processing unit 83. return.
  • the operation data returned to the remote operation processing unit 83 is transmitted to the host device and the client unit 20 of the participating device via the remote operation transmission unit 76, respectively. Thereby, on each electronic blackboard 2, the image which concerns on the same operation data is displayed.
  • the operation data includes SEQ (Sequence), the operation name of the operation data, the IP address of the electronic blackboard 2 that is the transmission source of the operation data, the port number of the client unit or the server unit, and the electronic blackboard 2 that is the transmission destination of the operation data ,
  • SEQ Sequence
  • the port number of the client unit or the server unit, the operation type of the operation data, the operation target of the operation data, and the data indicating the operation content are associated with each other.
  • a stroke image is drawn by the client unit (port number: 50001) of the electronic blackboard (IP address: 192.0.0.1) that is the hosting device, and the electronic blackboard ( It is shown that the operation data is sent to the server part (port number: 50000) of the IP address: 192.0.0.1).
  • the operation type at this time is “STROKE”, the operation target is “page data ID: p005”, and the data indicating the operation content is “stroke data”.
  • the operation data SEQ2 includes the electronic blackboard (IP address: 192.0.0.1) that is the hosting device and the other electronic blackboard (IP address: 192.0.1) that is the participating device from the server unit (port number: 50000). It is shown that operation data has been sent to the client part (port number: 50001) of 0.0.
  • the operation composition processing unit 84 synthesizes the operation data in the input order, if the communication network 9 is not congested, all the operations participating in the remote sharing process are performed in the order of the strokes by the user of each electronic blackboard 2. A stroke image is displayed on the display 3 of the electronic blackboard 2.
  • the page processing unit 85 has the same function as the page processing unit 37 in the image processing unit 30 of the client unit 20, and stores page data in the page data storage unit 850.
  • the page data storage unit 850 has the same function as the page data storage unit 300 in the image processing unit 30, and thus the description thereof is omitted.
  • the image processing system 1 includes three electronic blackboards (2a, 2b, 2c), and the electronic blackboard 2a is an organizer that hosts remote sharing processing.
  • the electronic blackboard 2b and the electronic blackboard 2c It is assumed that the blackboard 2a is a participating device that participates in the remote sharing process started.
  • the electronic blackboard 2a has a display 3a
  • the electronic blackboard 2b has a display 3b
  • the electronic blackboard 2c has a display 3c.
  • a notebook PC 6a is connected to the electronic blackboard 2a
  • a notebook PC 6b is connected to the electronic blackboard 2b
  • a notebook PC 6c is connected to the electronic blackboard 2c.
  • the electronic blackboard 2a uses the electronic pen 4a
  • the electronic blackboard 2b uses the electronic pen 4b
  • the electronic blackboard 2c uses the electronic pen 4c.
  • each of the electronic blackboard 2a, the electronic blackboard 2b, and the electronic blackboard 2c is turned on by the user and the client unit 20 is activated.
  • the remote connection request receiving unit 71 in the server unit 90 of the same electronic blackboard 2a is transmitted from the remote start processing unit 61 of the client unit 20.
  • an instruction to start the processing of the server unit 90 is output.
  • various processes in the server unit 90 can be started (step S21).
  • the UI image generating unit 33 in the client unit 20 of the electronic blackboard 2a generates connection information for establishing a connection with the electronic blackboard 2a, and the video superimposing unit 28 transmits the display superimposing unit 36 from the UI image generating unit 33.
  • the connection information obtained through is displayed on the display 3a (step S22).
  • the above connection information includes the host device's IP address and the passcode generated for this remote sharing process.
  • the passcode stored in the passcode management unit 810 is read by the remote connection processing unit 81 and transmitted in the order of the remote connection result transmission unit 72 and the remote start processing unit 61. Further, the passcode is transmitted from the communication control unit 60 including the remote start processing unit 61 to the image processing unit 30 and finally input to the UI image generation unit 33. Thereby, the connection information includes the passcode.
  • connection information is transmitted to the users of the electronic blackboard 2b and the electronic blackboard 2c by telephone or electronic mail by the user of the electronic blackboard 2a. If there is the connection destination management table 440, even if the connection information does not include the IP address of the hosting device, the participating device can make a participation request.
  • the remote participation processing unit 62 in the client unit 20 of the electronic blackboard 2b performs communication based on the IP address of the connection information.
  • a passcode is transmitted to the communication control unit 70 in the server unit 90 of the electronic blackboard 2a via the network 9 to make a participation request (step S23).
  • the remote participation processing unit 62 in the client unit 20 of the electronic blackboard 2c performs communication based on the IP address of the connection information.
  • a passcode is transmitted to the communication control unit 70 in the server unit 90 of the electronic blackboard 2a via the network 9 to make a participation request (step S24).
  • the remote connection request receiving unit 71 of the communication control unit 70 receives a participation request (including a passcode) from the electronic blackboard 2b and the electronic blackboard 2c, it outputs the passcode to the remote connection processing unit 81. .
  • the remote connection processing unit 81 authenticates the passcode received from the electronic blackboard 2b and the electronic blackboard 2c using the passcode managed by the passcode management unit 810 (step S25). ).
  • the remote connection result transmission unit 72 notifies the authentication result to the electronic blackboard 2b and the client unit 20 of the electronic blackboard 2c (steps S26 and S27).
  • step S25 if it is determined that the electronic blackboard 2b and the electronic blackboard 2c are valid electronic blackboards, the electronic blackboard 2a that is the sponsoring device, and the electronic blackboard 2b and the electronic blackboard 2c that are the participating devices.
  • Remote sharing processing communication with the electronic blackboard 2b and the remote participation processing unit 62 in the client unit 20 of the electronic blackboard 2c enables the remote sharing processing to start with each of the other electronic blackboards (steps). S28, S29).
  • the electronic blackboard 2b displays a PC output image on the display 3b (step S30).
  • the image acquisition unit 31 of the electronic blackboard 2b acquires a PC output image from the output video (PC output video) of the notebook PC 6b and transmits it to the display 3b via the display superimposing unit 36 and the video superimposing unit 28.
  • the display 3b displays the PC output image.
  • the image processing unit 30 including the image acquisition unit 31 of the electronic blackboard 2b transmits the data of the PC output image to the remote image transmission unit 63, whereby the communication control unit 60 including the remote image transmission unit 63 is communicated with the communication network.
  • the PC output image data is transmitted to the communication control unit 70 of the electronic blackboard 2a, which is the host device (step S31).
  • the remote image receiving unit 73 of the electronic blackboard 2a receives the PC output image data on the electronic blackboard 2b and outputs it to the remote image processing unit 82, so that the remote image processing unit 82 outputs the PC output to the image data management unit 830. Store image data.
  • the electronic blackboard 2a that is the hosting apparatus displays the PC output image on the electronic blackboard 2b on the display 3a (step S32).
  • the remote image processing unit 82 of the electronic blackboard 2 a outputs the PC output image data received from the remote image receiving unit 73 to the remote image transmitting unit 74.
  • the remote image transmission unit 74 outputs the data of the PC output image to the remote image reception unit 64 in the client unit 20 of the electronic blackboard 2a which is the same host device.
  • the remote image receiving unit 64 outputs PC output image data to the display superimposing unit 36.
  • the display superimposing unit 36 outputs the PC output image data to the video superimposing unit 28.
  • the video superimposing unit 28 outputs the data of the PC output image to the display 3a. Thereby, the display 3a displays the PC output image on the electronic blackboard 2b.
  • the communication control unit 70 including the remote image transmission unit 74 in the server unit 90 of the electronic blackboard 2a as the hosting device via the communication network 9 other than the electronic blackboard 2b that is the transmission source of the PC output image data.
  • the data of the PC output image on the electronic blackboard 2b is transmitted to the communication control unit 60 of the electronic blackboard 2c (step S33).
  • the remote image receiving unit 64 of the electronic blackboard 2c which is a participating device, receives the data of the PC output image on the electronic blackboard 2b.
  • the electronic blackboard 2c displays the PC output image on the electronic blackboard 2b on the display 3c (step S34).
  • the remote image receiving unit 64 of the electronic blackboard 2c outputs the PC output image data received in step S33 to the display superimposing unit 36 of the electronic blackboard 2c.
  • the display superimposing unit 36 outputs the PC output image data to the video superimposing unit 28.
  • the video superimposing unit 28 outputs PC output image data to the display 3c. Thereby, the display 3c displays the PC output image on the electronic blackboard 2b.
  • the display superimposing unit 36 When not only PC output image data but also UI image data and stroke image data are input to the display superimposing unit 36, the display superimposing unit 36 performs the UI image, stroke image, and PC output image. The superimposed image is generated, and the video superimposing unit 28 outputs the data of the superimposed image to the display 3c.
  • conference video (hereinafter also referred to as “conference video”) data is sent from the video conference terminal 7 to the video superimposing unit 28, the video superimposing unit 28 The video of the conference video is superimposed on the image by picture-in-picture and output to the display 3c.
  • the user draws a stroke image on the electronic blackboard 2b using the electronic pen 4b (step S41).
  • the display superimposing unit 36 of the electronic blackboard 2b superimposes the stroke image on the UI image and the PC output image. Then, the superimposed image on which the UI image, the stroke image, and the PC output image are superimposed is displayed on the display 3b of the electronic blackboard 2b (step S42).
  • the stroke processing unit 32 of the electronic blackboard 2 b receives the stroke image data from the event distribution unit 25 and transmits it to the display superimposing unit 36.
  • the display superimposing unit 36 can superimpose the stroke image on the UI image and the PC output image
  • the video superimposing unit 28 can display the superimposed image on the display 3b of the electronic blackboard 2b.
  • the image processing unit 30 including the stroke processing unit 32 of the electronic blackboard 2 b transmits the stroke image data to the remote operation transmission unit 65, so that the remote operation transmission unit 65 of the electronic blackboard 2 b uses the communication network 9. Then, the stroke image data is transmitted to the communication control unit 70 of the electronic blackboard 2a which is the hosting device (step S43).
  • the remote operation receiving unit 75 of the electronic blackboard 2a receives the stroke image data on the electronic blackboard 2b and outputs the data to the remote operation processing unit 83, so that the remote operation processing unit 83 receives the operation composition processing unit 84. Outputs stroke image data.
  • the data of the stroke image drawn on the electronic blackboard 2b is sequentially transmitted to the remote operation processing unit 83 of the electronic blackboard 2a that is the host device every time it is drawn.
  • the stroke image data is data indicated for each stroke data ID. Therefore, for example, when the user draws the alphabet “T” with the electronic pen 4, the stroke image data indicated by each of the two stroke data IDs is sequentially transmitted.
  • the electronic blackboard 2a which is the hosting apparatus, displays a superimposed image including the stroke image data sent from the electronic blackboard 2b on the display 3a (step S44).
  • the operation composition processing unit 84 of the electronic blackboard 2a combines the data of a plurality of stroke images sequentially sent via the remote operation processing unit 83 and stores them in the operation data storage unit 840. Return to the remote operation processing unit 83.
  • the remote operation processing unit 83 outputs the combined stroke image data received from the operation synthesis processing unit 84 to the remote operation transmission unit 76.
  • the remote operation transmitting unit 76 outputs the combined stroke image data to the remote operation receiving unit 66 in the client unit 20 of the electronic blackboard 2a which is the same hosting device.
  • the remote operation receiving unit 66 outputs the combined stroke image data to the display superimposing unit 36 in the image processing unit 30. Therefore, the display superimposing unit 36 superimposes the combined stroke image on the UI image and the PC output image. Finally, the video superimposing unit 28 displays the superimposed image superimposed by the display superimposing unit 36 on the display 3a.
  • the communication control unit 70 including the remote operation transmission unit 76 in the server unit 90 of the electronic blackboard 2a as the hosting device sends the combined stroke image to the communication control unit 60 of the electronic blackboard 2c via the communication network 9. Is transmitted (step S45).
  • the remote operation receiving unit 66 of the electronic blackboard 2c which is a participating device receives the data of the combined stroke image.
  • the electronic blackboard 2c displays a superimposed image on the electronic blackboard 2b on the display 3c (step S46).
  • the remote operation receiving unit 66 of the electronic blackboard 2c outputs the combined stroke image data received in step S45 to the image processing unit 30 of the electronic blackboard 2c.
  • the display superimposing unit 36 of the image processing unit 30 superimposes each data of the UI image and the PC output image and the data of the combined stroke image, and outputs the data of the superimposed image to the video superimposing unit 28.
  • the video superimposing unit 28 outputs superimposed image data to the display 3c. Thereby, the display 3c displays a superimposed image on the electronic blackboard 2b.
  • the PC output image is displayed on the display 3, but a background image may be displayed instead of the PC output image.
  • the exclusive relationship between the PC output image and the background image may be stopped, and both the PC output image and the background image may be simultaneously displayed on the display 3.
  • the remote participation processing unit 62 sends a communication control unit 70 in the server unit 90 of the electronic blackboard 2a as a host device to the communication control unit 70.
  • a request to end participation is made (step S47).
  • the remote connection request receiving unit 71 of the communication control unit 70 receives the participation end request from the electronic blackboard 2c, and outputs the participation end request to the remote connection processing unit 81 together with the IP address of the electronic blackboard 2c.
  • the remote connection processing unit 81 of the electronic blackboard 2a based on the IP address sent from the remote connection request receiving unit 71, from the participation base management table 820, the IP of the electronic blackboard 2c that has requested participation.
  • the address and the name of the base where the electronic blackboard 2c is installed are deleted, and the remote connection result transmission unit 72 outputs the IP address of the electronic blackboard 2c and a notification of the deletion.
  • the communication control unit 70 including the remote connection result transmission unit 72 instructs the communication control unit 60 in the client unit 20 of the electronic blackboard 2c to end participation via the communication network 9 (step S48).
  • the remote participation processing unit 62 of the communication control unit 60 in the electronic blackboard 2c disconnects the communication of the remote sharing processing and performs the participation end processing, whereby the participation ends (step S49).
  • the coordinate detection unit 22 and the contact detection unit 24 perform a process of acquiring an event in the electronic blackboard image processing method of the present invention, and the event distribution unit 25.
  • the step of determining the type of event in the electronic blackboard image processing method of the present invention is performed by the operation processing unit 26, the gesture processing unit 27, and the image processing unit 30 in the electronic blackboard image processing method of the present invention.
  • a step of controlling the display means is performed.
  • the image processing system 1 includes a plurality of electronic blackboards connected to each other via the communication network 9 so as to communicate with each other. Further, a notebook PC 6 and a video conference terminal 7 are connected to each electronic blackboard.
  • the electronic blackboard 2 includes a display 3, a CPU 101, a ROM 102, a RAM 103, an SSD 104, a network controller 105, an external storage controller 106, a capture device 111, a GPU 112, a display controller 113, a sensor controller 114, a contact sensor 115, an electronic pen controller 116, and the like. I have.
  • the electronic blackboard 2 has a function as the client unit 20 and a function as the server unit 90.
  • the electronic blackboard 2 becomes the “sponsorship device”, both functions are realized. In the case of “participating device”, only the function as the client unit 20 is realized.
  • the function as the client unit 20 includes a video acquisition unit 21, a coordinate detection unit 22, an automatic adjustment unit 23, a contact detection unit 24, an event distribution unit 25, an operation processing unit 26, a gesture processing unit 27, a video superimposition unit 28, an image.
  • the processing unit 30, the device information determination unit 38, and the communication control unit 60 can be divided.
  • the coordinate detection unit 22 detects the position coordinates when the electronic pen 4 or the user's hand H comes into contact with the display 3, and the contact detection unit 24 detects whether the electronic pen 4 is in contact.
  • the device information determination unit 38 acquires the model number of the display 3 from the display 3 and determines the model name of the electronic blackboard 2 from the model number.
  • the event distribution unit 25 determines that the event is “stroke drawing”, It is determined whether it is “UI operation” or “gesture operation”. If it is “stroke drawing”, the image processing unit 30 is determined. If it is “UI operation”, the operation processing unit 26 is determined. If so, event information is output to the gesture processing unit 27.
  • the user has to set whether or not “stroke drawing” by the user's hand H is possible. In this case, the user is forced to perform complicated work, which is not very convenient. Further, if there is a setting omission or a setting error, there is a possibility that the electronic blackboard cannot fully exhibit its performance.
  • the electronic blackboard 2 of the present embodiment since the electronic blackboard 2 determines whether or not “stroke drawing” by the user's hand H is possible, it is not necessary for the user to set, and usability can be improved. . In addition, it is possible to share the event distribution unit 25 among different models, thereby reducing costs and shortening the development period.
  • the present invention is not limited to this, and for example, device configuration information shown as an example in FIG. 25 may be used.
  • the event distribution unit 25 may use, for example, the presence or absence of the electronic pen controller 116 as one of the conditions for determining the event type.
  • the electronic pen 4a may not be used on the electronic blackboard 2a.
  • the electronic blackboard 2a may not have the electronic pen controller 116.
  • the communication network 9 may be a network including a LAN (Local Area Network), the Internet, a mobile phone communication network, and the like as a part thereof.
  • LAN Local Area Network
  • the Internet a mobile phone communication network, and the like as a part thereof.
  • an electronic blackboard was used as an example of an image processing apparatus as an example of an image processing apparatus as an example of an image processing apparatus, it is not limited to this, It utilizes by an electronic signboard (digital signage), sports, a weather forecast, etc.
  • a telestrator, a remote image (video) diagnostic device, or the like can also be used.
  • the present invention is not limited to this, and instead of the USB memory or together with the USB memory, Other recording media such as an SD card may be used.
  • a notebook PC is used as an example of a video output device.
  • the present invention is not limited to this, and is not limited to this.
  • a desktop PC, a tablet PC, a PDA, a digital video camera, a digital camera A game machine or the like may be used.
  • any terminal that can supply image frames can be used.
  • various programs may be stored in the information recording medium 11 (see FIG. 26) such as a CD or a DVD.
  • the electronic blackboard has a drive device 117 (see FIG. 26) for reading various programs from the information recording medium.
  • the coordinate detection unit 22 and the contact detection unit 24 execute a procedure for acquiring the event indicated by the program on the recording medium on which the electronic blackboard program of the present invention is recorded.
  • the event distribution unit 25 executes the program.
  • the procedure for discriminating the type of the event is executed, and the procedure for controlling the display means shown in the program is executed by the operation processing unit 26, the gesture processing unit 27, and the image processing unit 30.
  • a part of processing according to the program by the CPU 101 may be configured by hardware.
  • Network controller (communication control unit) 106 ... External storage controller 111 ... Capture device 112 ... GPU 113 ... Display controller 114 ... Sensor controller 115 ... Contact sensor 116 ... Electronic pen Controller, 300 ... page data storage unit, 310 ... Remote license management table.

Abstract

電子黒板の、ユーザの設定作業等の使い勝手の向上を目的とし、本発明の電子黒板(2)は、ディスプレイ(3、115)に接触したものを示す情報や、接触位置の座標などのイベント情報を取得するイベント取得手段(22、24)と、接触したものが電子ペン(4)かユーザの手かを判別し、接触位置の座標や電子黒板の機種名などから、ストローク描画や、UI操作や、ジェスチャ操作などのイベントの種類を判別する判別手段(25、38)と、判別された種類のイベントを処理する処理手段(26、27、32)とを備える。

Description

電子黒板、電子黒板の画像処理方法、及び電子黒板のプログラムを記録した記録媒体
 本発明は、電子黒板、電子黒板の画像処理方法、及び電子黒板のプログラムを記録した記録媒体に関する。
 近年、液晶ディスプレイなどのフラットパネル・ディスプレイ又はプロジェクタの投影スクリーンにタッチパネルを搭載した、電子情報ボードと呼ばれる電子黒板装置が、通常の会議や遠隔会議で活用されている。
 例えば、特許文献1には、表示手段に表示された画像を共有する複数の情報処理装置がネットワークを介して接続された画像処理システムが開示されている。
 しかしながら、特許文献1に開示されている画像処理システムの情報処理装置では、ユーザが各種設定を行う必要があり、ユーザの使い勝手に関して改善する余地があった。
 本発明は、複数の画像を重畳して表示する表示手段と、前記表示手段に対するイベントを取得するイベント取得手段と、前記イベントの種類を機器情報を参照して判別する判別手段と、前記判別手段での判別結果に応じて前記イベントを行う処理手段とを備える電子黒板である。
 本発明の電子黒板によれば、ユーザの設定作業が軽減され、ユーザの使い勝手を向上させることができる。
図1は、一実施形態に係る画像処理システムの概略構成図である。 図2は、電子黒板のハードウェア構成図である。 図3は、電子黒板の機能を説明するためのブロック図である。 図4は、ディスプレイの型番と電子黒板の機種名とが関係付けられたテーブルを説明するための図である。 図5は、電子ペンによる「ストローク描画」の一例を示す図である。 図6は、電子ペンによる「UI操作」の一例を示す図である。 図7は、手による「ジェスチャ操作」の一例を示す図である。 図8は、電子黒板のCPUが実行する画像処理フローの一例を示す図である。 図9は、イベント振分部での処理を説明するためのフローチャートである。 図10は、ページデータを説明するための図である。 図11は、複数の画像の重畳を説明するための図である。 図12は、ストロークデータを説明するための図である。 図13は、座標配列データを説明するための図である。 図14は、メディアデータを説明するための図である。 図15は、遠隔ライセンス管理テーブルを説明するための図である。 図16は、ファイル処理部の機能を説明するためのブロック図である。 図17は、アドレス帳管理テーブルを説明するための図である。 図18は、バックアップデータを説明するための図である。 図19は、接続先管理テーブルを説明するための図である。 図20は、サーバ部及び送信制御部の機能を説明するためのブロック図である。 図21は、参加拠点管理テーブルを説明するための図である。 図22は、操作データを説明するための図である。 図23は、遠隔共有処理を説明するためのシーケンス図(その1)である。 図24は、遠隔共有処理を説明するためのシーケンス図(その2)である。 図25は、機器構成情報の一例を示す図である。 図26は、情報記録媒体の読み取りが可能な電子黒板のハードウェア構成図である。
 以下、本発明の一実施形態を図1~図26に基づいて説明する。図1には、一実施形態に係る画像処理システム1の概略構成が示されている。
 この画像処理システム1は、通信ネットワーク(ネットワーク回線)9を介して相互に通信可能に接続された複数の電子黒板、及びPC(パーソナルコンピュータ)8等を有している。ここでは、便宜上、複数の電子黒板が2つの電子黒板(2a,2b)である場合について説明するが、これに限定されるものではない。複数の電子黒板が3つ以上の電子黒板であっても良い。なお、複数の電子黒板は、互いに異なる拠点に設けられているものとする。そして、PC8は、共有される画像を閲覧するためのPCである。
 電子黒板2aには、ケーブル10a1を介してノートPC6aが接続され、ケーブル10a2を介してテレビ会議端末7aが接続されている。同様に、電子黒板2bには、ケーブル10b1を介してノートPC6bが接続され、ケーブル10b2を介してテレビ会議端末7bが接続されている。
 各ケーブルは、DisplayPort、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)、VGA(Video Graphics Array)等の規格による通信が可能なケーブルである。
 なお、各ノートPC及び各テレビ会議端末は、Bluetooth(登録商標)等の無線通信規格に準拠した無線通信によって対応する電子黒板と接続されていても良い。
 電子黒板2aは、ディスプレイ3aを有している。同様に、電子黒板2bは、ディスプレイ3bを有している。ディスプレイ3aとディスプレイ3bとは、型番が異なっている。ここでは、一例として、ディスプレイ3aの型番を「A0001」とし、ディスプレイ3bの型番を「B0001」とする。
 さらに、画像処理システム1は、電子黒板2aに対応して、電子ペン4a、及びUSBメモリ5aを含み、電子黒板2bに対応して、電子ペン4b、及びUSBメモリ5bを含んでいる。
 各電子ペンのペン先は、ディスプレイに押しつけられると、ディスプレイからの反発力で電子ペンの中に押し込まれるようになっている。そして、各電子ペンは、ペン先が電子ペンの中に押し込まれると、対応する電子黒板に通知する。ここでは、電子ペンと対応する電子黒板との間の通信は、赤外線によって行われる。なお、図1における符号Haは、電子黒板2aのユーザの手であり、符号Hbは、電子黒板2bのユーザの手である。
 電子黒板2aでは、電子ペン4aあるいは手Haを用いてディスプレイ3a上に描画することができる。一方、電子黒板2bでは、手Hbを用いた描画はできず、電子ペン4bを用いてのみディスプレイ3b上に描画することができる。すなわち、電子黒板2aと電子黒板2bとは、機種が異なっている。ここでは、電子黒板2aの機種名を「EA800」とし、電子黒板2bの機種名を「EB700」とする。
 そして、一の拠点にある電子黒板2aのディスプレイ3a上に描画された画像は、他の拠点にある電子黒板2bのディスプレイ3b上にも表示され、逆に他の拠点にある電子黒板2bのディスプレイ3b上に描画された画像は、一の拠点にある電子黒板2aのディスプレイ3a上に表示される。このように、画像処理システム1では、遠隔地において同じ画像を共有する遠隔共有処理を行うことができるため、遠隔地での会議等に用いると、非常に便利である。なお、共有される画像は、PC8のディスプレイ上にも表示される。
 また、各電子黒板では、ユーザが手を用いた、例えば、拡大、縮小、ページめくり等のジェスチャに基づいて、ディスプレイ上に表示されている画像を変更させることもできる。
 また、電子黒板2aには、USBメモリ5aが接続可能であり、電子黒板2aは、USBメモリ5aから電子ファイルを読み出したり、USBメモリ5aに電子ファイルを記録することができる。
 同様に、電子黒板2bには、USBメモリ5bが接続可能であり、電子黒板2bは、USBメモリ5bから電子ファイルを読み出したり、USBメモリ5bに電子ファイルを記録することができる。
 なお、以下の説明では、電子黒板2aと電子黒板2bを区別する必要がない場合、それらを総称して、単に「電子黒板2」と記述する。そして、該電子黒板2に対応するディスプレイを「ディスプレイ3」、対応する電子ペンを「電子ペン4」、対応するUSBメモリを「USBメモリ5」、対応するノートPCを「ノートPC6」、対応するテレビ会議端末を「テレビ会議端末7」、対応する手を「手H」、対応するケーブルを「ケーブル10」と記述する。
 次に、電子黒板2のハードウェア構成について説明する。電子黒板2のハードウェア構成の一例が図2に示されている。
 電子黒板2は、ディスプレイ3、CPU101、ROM102、RAM103、SSD(Solid State Drive)104、ネットワークコントローラ105、外部記憶コントローラ106、キャプチャデバイス111、GPU(Graphics Processing Unit)112、ディスプレイコントローラ113、センサコントローラ114、接触センサ115、及び電子ペンコントローラ116等を備えている。なお、接触センサ115は、ディスプレイ3と一体化されている。
 CPU101は、SSD104に格納されているプログラムを実行し、電子黒板2の全体の動作を制御する。ROM102は、複数のプログラム及び各種データが格納されているメモリである。該複数のプログラム及び各種データのうち、CPU101で実行されるプログラム及び該プログラムで用いられるデータは、CPU101で実行される際にROM102からSSD104にコピーされる。RAM103は、作業用のメモリである。
 ネットワークコントローラ105は、通信ネットワーク9を介した他の電子黒板等との通信を制御する。外部記憶コントローラ106は、USBメモリ5との通信を制御する。キャプチャデバイス111は、ノートPC6のディスプレイ上に表示されている映像情報を静止画又は動画として取得する。GPU112は、グラフィックスに関するデータ処理を行う。
 ディスプレイコントローラ113は、ディスプレイ3の表示画面の制御及び管理を行い、GPU112から出力される画像、及びテレビ会議端末7から出力される画像をディスプレイ3に表示する。
 接触センサ115は、赤外線遮断方式のタッチパネルであり、ディスプレイ3上に電子ペン4やユーザの手H等が接触したことを検知する。また、接触センサ115は、ディスプレイ3上における接触位置に関する情報を検出する。ところで、赤外線遮断方式では、ディスプレイ3の上側両端部に設置された2つ受発光装置(不図示)が、ディスプレイ3に平行して複数の赤外線を放射し、ディスプレイ3の周囲に設けられた反射部材によって反射されて、戻ってくる光を受光する。
 接触センサ115は、電子ペン4やユーザの手Hがディスプレイ3に接触することによって遮断された赤外線のID(Identification)を、接触位置に関する情報としてセンサコントローラ114に出力する。そして、センサコントローラ114は、接触センサ115からの接触位置に関する情報に基づいて、電子ペン4やユーザの手Hの接触位置の座標を特定する。
 なお、接触センサ115としては、赤外線遮断方式のタッチパネルに限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネル、対向する2の抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルなどの種々の検出手段を用いても良い。
 電子ペンコントローラ116は、電子ペン4と通信し、電子ペン4がディスプレイ3に押しつけられたか否かを判断する。
 上記の構成各部のうち、CPU101、ROM102、RAM103、SSD104、ネットワークコントローラ105、外部記憶コントローラ106、キャプチャデバイス111、GPU112、センサコントローラ114、及び電子ペンコントローラ116は、アドレスバス及びデータバスを含むバス120に接続されている。
 次に、電子黒板2の機能について説明する。電子黒板2は、最初に遠隔共有処理を開始する「主催装置」となりうるとともに、既に開始されている遠隔共有処理に後から参加する「参加装置」にもなりうる。
 電子黒板2の機能が図3に示されている。電子黒板2の機能は、クライアント部20とサーバ部90とに大別される。電子黒板2の機能は、前述したハードウェア、複数のプログラム及び各種データによって実現される。具体的には、CPU101がROM102やSSD104などに記憶されている各種プログラムを実行するなどして実現する。
 クライアント部20及びサーバ部90は、電子黒板2の1台の筐体内で実現される機能である。そして、電子黒板2が「主催装置」となる場合には、該電子黒板2では、クライアント部20としての機能とサーバ部90としての機能とが実現される。また、電子黒板2が「参加装置」となる場合には、該電子黒板2では、クライアント部20は実現されるが、サーバ部90は実現されない。
 すなわち、電子黒板2aが「主催装置」で、電子黒板2bが「参加装置」となる場合、電子黒板2aのクライアント部20は、同じ電子黒板2a内に実現されたサーバ部90を介して、他の電子黒板2bのクライアント部20と通信を行う。一方、電子黒板2bのクライアント部20は、他の電子黒板2a内に実現されたサーバ部90を介して、他の電子黒板2aのクライアント部と通信を行う。
 クライアント部20の機能について説明する。クライアント部20は、図3に示されるように、映像取得部21、座標検知部22、自動調整部23、接触検知部24、イベント振分部25、操作処理部26、ジェスチャ処理部27、映像重畳部28、画像処理部30、機器情報判定部38、及び通信制御部60を有している。
 画像処理部30は、画像取得部31、ストローク処理部32、UI画像生成部33、背景生成部34、レイアウト管理部35、表示重畳部36、ページ処理部37、ページデータ記憶部300、遠隔ライセンス管理テーブル310、及びファイル処理部40を有している。
 映像取得部21は、ケーブル10を介して電子黒板2に接続されているノートPC6から出力される映像(以下では、「PC出力映像」ともいう)を取得する。また、映像取得部21は、取得したPC出力映像を解析して、ノートPC6における表示画像である画像フレームの解像度や、画像フレームの更新頻度等を含む画像情報を抽出する。ここで取得されたPC出力映像及び画像情報は、画像取得部31に出力される。
 座標検知部22は、ディスプレイ3に電子ペン4あるいはユーザの手Hが接触すると、該接触の位置座標をイベントの発生位置などとして検知する。また、座標検知部22は、ディスプレイ3における接触された領域の面積も検出する。これらの検知結果は、イベント振分部25に出力される。
 自動調整部23は、電子黒板2に電源が投入された時に起動され、接触センサ115が座標検知部22に適切な値を出力できるように、接触センサ115における各種パラメータを調整する。
 接触検知部24は、電子ペン4との通信によって、電子ペン4がディスプレイ3に押しつけられたか否か検知する。その検知結果は、イベント振分部25に出力される。
 機器情報判定部38は、ディスプレイ3から該ディスプレイ3の型番を取得し、該型番から電子黒板2の機種名を判定する。そして、機器情報判定部38は、電子黒板2の機種名を判定結果としてイベント振分部25に出力する。なお、機器情報判定部38は、「機器情報」の一例として図4に示されるように、ディスプレイ3の型番と電子黒板2の機種名とが関係付けられたテーブル(機種名情報)を有している。
 イベント振分部25は、座標検知部22で検知された位置座標と、接触検知部24での検知結果と、機器情報判定部38での判定結果とに基づいて、イベントの種別を判断する。ここでのイベントとしては、「ストローク描画」、「UI操作(ユーザインターフェース操作)」、及び「ジェスチャ操作」がある。なお、以下では、座標検知部22で検知された位置座標と接触検知部24での検知結果を「イベント情報」ともいう。
 「ストローク描画」は、ユーザが電子ペン4をディスプレイ3に押しつけ、この状態で電子ペン4を移動させ、最終的にディスプレイ3から電子ペン4を離すまでのイベントである。このストローク描画により、例えば、アルファベットの「S」や「T」等がディスプレイ3に描画される。例えば図5に電子ペンによる「ストローク描画」の一例を示している。この例では、電子ペン4をディスプレイ3に押し当て、その状態でディスプレイ3上を電子ペン4でアルファベット「S」を描くように滑走移動させたときの操作を示している。この操作により、ディスプレイ3上の電子ペンの移動軌跡h3にアルファベット「S」が描画される。
 なお、「ストローク描画」には、ストローク画像を描画するだけでなく、すでに描画されているストローク画像を削除したり、該ストローク画像を編集するイベントも含まれる。
 「UI操作」は、ディスプレイ3にUI(ユーザインターフェース)画像が表示されているときに、ユーザが電子ペン4又は手Hによって所定の位置を押したイベントである。この「UI操作」により、例えば、描画される線の色や線幅等が設定される。例えば図6に電子ペンによる「UI操作」の一例を示している。この例では、電子ペン4をディスプレイ3に表示されたUI領域(ユーザインターフェース画像の表示領域)360aのユーザインタフェースの要素360bをタッチしたときの操作を示している。ユーザインターフェースの要素は、例えば、ボタン、リスト、チェックボックス、テキストボックス等である。この操作により、要素360bのイベント処理が行われ、例えば線の色や線幅等が設定される。
 「ジェスチャ操作」は、ユーザが手Hでディスプレイ3に接触したり、手Hをディスプレイ3上で移動させるイベントである。「ジェスチャ操作」により、例えば、ユーザがディスプレイ3に手Hをタッチさせた状態で手Hを移動させることで、画像の拡大若しくは縮小、表示領域の変更、又は、ページ切り換え等を行うことができる。例えば図7に手による「ジェスチャ操作」の一例を示している。この例では、2本の指をディスプレイ3に押し当てて互いの指が離れる矢印x1、x2の方向へディスプレイ3上を指を滑走移動させるピンチアウト操作を示している。点線部分h1、h2は2本の指によるディスプレイ3上の接触を示したものである。この他、2本の指を使う場合は、ピンチインなどの操作がある。
 そして、イベント振分部25は、その判断結果に応じて、イベント情報を、ストローク処理部32、操作処理部26及びジェスチャ処理部27のいずれかに出力する。
 図8は、電子黒板2のCPU101が実行する画像処理フローの一例を示す図である。先ず、電子黒板2(CPU101)は、ディスプレイ3に対するイベントを取得する(S1)。続いて、電子黒板2(CPU101)は、上記イベントの種類を機器情報を参照して判別する(S2)。続いて、電子黒板2(CPU101)は、上記判別の結果に応じてイベント処理を行う(S3)。
 続いて、上記画像処理フローの内のイベント振分部25での処理(以下では、「イベント振分処理」ともいう)について図9のフローチャートを用いて説明する。最初のステップS401では、座標検知部22から位置座標(イベントの発生位置)を取得する。
 次のステップS403では、位置がUI領域360a(図11参照)と重なっているか否かを判断する。なお、UI領域360aとは、ディスプレイ画面において、ユーザインターフェースの要素(例えば、ボタン、リスト、チェックボックス、テキストボックス等)360b(図11参照)が表示されている領域をいう。位置がUI領域360aとは重なっていないならば、ここでの判断は否定され、ステップS405に移行する。
 このステップS405では、機器情報判定部38から電子黒板2の機種名を取得する。
 次のステップS407では、電子黒板2の機種名が「EA800」であるか否かを判断する。電子黒板2の機種名が「EA800」であれば、ユーザの手によるストローク描画が有効なので、ここでの判断は肯定され、ステップS409に移行する。
 このステップS409では、2点以上の座標検知があるか否かを判断する。2点以上の座標検知があれば、ここでの判断は肯定され、ステップS411に移行する。
 このステップS411では、イベントは「ジェスチャ操作」であると判断する。
 次のステップS413では、イベント情報をジェスチャ処理部27に出力する。そして、イベント振分処理を終了する。
 一方、上記ステップS409において、1点の座標検知であれば、ステップS409での判断は否定され、ステップS415に移行する。
 このステップS415では、イベントは「ストローク描画」であると判断する。
 次のステップS413では、イベント情報をストローク処理部32に出力する。そして、イベント振分処理を終了する。
 また、上記ステップS407において、電子黒板2の機種名が「EA800」でなければ、ユーザの手によるストローク描画が無効なので、ステップS407での判断は否定され、ステップS419に移行する。
 このステップS419では、接触検知部24の検知結果から電子ペン4が押しつけられているか否か判断する。電子ペン4が押しつけられていなければ、ここでの判断は否定され、上記ステップS411に移行する。一方、電子ペン4が押しつけられていれば、ここでの判断は肯定され、上記ステップS415に移行する。
 また、上記ステップS403において、位置がUI領域360aと重なっていれば、ステップS403での判断は肯定され、ステップS421に移行する。
 このステップS421では、イベントは「UI操作」であると判断する。
 次のステップS423では、イベント情報を操作処理部26に出力する。そして、イベント振分処理を終了する。
 図3に戻り、操作処理部26は、イベント振分部25によって「UI操作」と判断されたイベント情報を受信し、そのイベントが生じたUIの要素に応じた操作を実行する。
 ジェスチャ処理部27は、イベント振分部25によって「ジェスチャ操作」と判断されたイベント情報を受信し、それに対応する操作を実行する。
 ストローク処理部32は、イベント振分部25によって「ストローク描画」と判別されたイベント情報を受信し、ストロークによる画像(ストローク画像)の描画、すでに描画されているストローク画像の削除、及びすでに描画されているストローク画像の編集を行う。ストローク画像の描画、削除、編集の各結果は、表示重畳部36及びページ処理部37に出力されるとともに、操作データとして、データ管理部80の操作データ記憶部840(図20参照)に記憶される。
 映像重畳部28は、表示重畳部36で重畳された画像(以下では、「重畳画像」と略述する)をディスプレイ3に表示する。また、映像重畳部28は、重畳画像をディスプレイ3の全体に表示するとともに、テレビ会議端末7から送られる映像をディスプレイ3の一部に別表示(ピクチャ・イン・ピクチャ)する。また、映像重畳部28は、別表示された映像をディスプレイ3の全体に表示するための表示の切り換えを行う。
 画像取得部31は、映像取得部21からのPC出力映像に含まれるフレーム情報を画像として取得し、表示重畳部36及びページ処理部37に出力する。なお、以下では、便宜上、画像取得部31で取得された画像を「PC出力画像」ともいう。
 UI画像生成部33は、予め設定されているUI画像を生成し、表示重畳部36に出力する。
 背景生成部34は、ページ処理部37がページデータ記憶部300から読み出したページデータに含まれるメディアデータを、ページ処理部37から受信し、該メディアデータを表示重畳部36に出力する。背景画像のパターンは、無地、グリッド表示等である。
 レイアウト管理部35は、画像取得部31、ストローク処理部32、及びUI画像生成部33又は背景生成部34から出力される各画像のレイアウトに関する情報(以下、「レイアウト情報」と略述する)を管理する。そのレイアウト情報は、表示重畳部36に出力される。
 これにより、レイアウト管理部35は、表示重畳部36に対して、PC出力画像及びストローク画像を、UI画像及び背景画像中のどの位置に表示させるか、または非表示にさせるかを指示することができる。
 表示重畳部36は、レイアウト管理部35からのレイアウト情報に基づいて、画像取得部31、ストローク処理部32、及びUI画像生成部33又は背景生成部34から出力された各画像のレイアウトを行う。
 ページ処理部37は、ストローク画像に関するデータとPC出力画像に関するデータを、1つのページデータにまとめてページデータ記憶部300に記憶する。
 ページデータの一例が図10に示されている。ページデータは、ページデータID、開示時刻、終了時刻、ストローク配列データID、及びメディアデータIDを含んでいる。
 ページデータIDは、ページを識別するためのIDである。開示時刻は、そのページの表示を開始した時刻である。終了時刻は、ページデータの更新が終了した時刻である。ストローク配列データIDは、電子ペン4や手Hを用いたストロークイベントによって生成されたストローク配列データを識別するためのIDである。メディアデータIDは、メディアデータを識別するためのIDである。ストローク配列データは、ストローク画像をディスプレイ3上に表示するためのデータである。メディアデータは、背景画像をディスプレイ3上に表示するためのデータである。
 ストローク画像に関するデータは、ストローク配列データIDと関連付けされているストローク配列データとして、ページデータの一部を成している。PC出力画像に関するデータは、メディアデータIDと関連付けされているメディアデータとして、ページデータの一部を成している。そして、このメディアデータは、ページデータ記憶部300から読み出されると、背景画像のデータとして取り扱われる。
 また、ページ処理部37が、一旦記憶されたページデータのうちのメディアデータを、背景生成部34を介して表示重畳部36に送信すると、映像重畳部28は背景画像をディスプレイ3に再表示させることができる。
 また、ページ処理部37が、一旦記憶されたページデータのうちのストローク配列データを、ストローク処理部32に戻すと、ストロークの再編集ができる状態にすることができる。更に、ページ処理部37は、ページデータを削除したり複製したりすることもできる。
 すなわち、ページ処理部37がページデータ記憶部300にページデータを記憶する時点でディスプレイ3上に表示されているPC出力画像のデータは、一旦、ページデータ記憶部300に記憶され、その後にページデータ記憶部300から読み出される際には、背景画像を示すメディアデータとして読み出される。
 そして、ページ処理部37は、ページデータ記憶部300から読み出したページデータのうち、ストローク画像を示すストローク配列データを、ストローク処理部32に出力する。また、ページ処理部37は、ページデータ記憶部300から読み出したページデータのうち、背景画像を示すメディアデータを、背景生成部34に出力する。
 表示重畳部36は、画像取得部31からのPC出力画像、ストローク処理部32からのストローク画像、UI画像生成部33からのUI画像、及び背景生成部34からの背景画像を、レイアウト管理部35によって指定されたレイアウトに従って重畳する。ここでは、図11に示されるように、各画像が重なってもユーザが見える順に、UI画像、ストローク画像、PC出力画像、背景画像となるようなUI画像のレイヤ36a、ストローク画像のレイヤ36b、PC出力画像のレイヤ36c、背景画像のレイヤ36dの順のレイヤ構成となっている。
 また、表示重畳部36は、PC出力画像と背景画像を切り替えて、UI画像及びストローク画像に対して排他的に重畳することも可能である。例えば、当初、UI画像、ストローク画像、及びPC出力画像が表示されている状態で、電子黒板2とノートPC6との間のケーブル10が抜かれた場合には、レイアウト管理部35の指示によって、PC出力画像を重畳対象から外し、背景画像を表示させることができる。また、表示重畳部36は、表示の拡大、表示の縮小、表示領域の移動処理も行う。
 ストローク配列データの一例が図12に示されている。1つのストローク配列データは、複数のストロークデータから構成されている。各ストロークデータは、ストロークイベント毎に生成される。
 例えば、ユーザが電子ペン4によってアルファベットの「S」を描く場合は一筆書きとなるため、1つのストロークデータIDで、一文字のアルファベットの[S]が示される。ところが、ユーザが電子ペン4によってアルファベットの「T」を描く場合、二筆書きとなるため、2つのストロークデータIDで、一文字のアルファベットの「T」が示されることになる。
 各ストロークデータは、ストロークデータID、開始時刻、終了時刻、色、幅、及び座標配列データIDを含んでいる。
 ストロークデータIDは、そのストロークデータを識別するためのIDである。開始時刻は、そのストロークの書き始めの時刻である。終了時刻は、そのストロークの書き終わりの時刻である。色は、そのストロークの色であり、幅は、そのストロークの幅である。座標配列データIDは、そのストロークの通過点に関する情報が含まれる座標配列データを識別するためのIDである。
 座標配列データの一例が図13に示されている。座標配列データは、ストロークが通過した複数の点(通過点)について、通過点毎に、ディスプレイ3上での位置(X座標値、Y座標値)、該位置を通過したときの、ストロークの開示時刻からの差分の時刻(m秒)、及び該位置における電子ペン4の筆圧を情報として含んでいる。例えば、ユーザが電子ペン4でアルファベットの「S」を描く場合、一筆書きとなるが、「S」を描き終えるまでに、複数の通過点を通過するため、座標配列データは、これら複数の通過点の情報を含んでいる。
 メディアデータの一例が図14に示されている。各メディアデータは、メディアデータID、データの種類、記録時刻、X座標値、Y座標値、幅、高さ、及びデータを含んでいる。
 メディアデータIDは、メディアデータを識別するためのIDである。データの種類は、メディアデータの種類である。記録時刻は、ページ処理部37からページデータ記憶部300にページデータが記憶された時刻である。X座標値とY座標値は、ページデータによってディスプレイ3上に表示される画像の位置である。幅と高さは、画像のサイズである。データは、メディアデータの内容を示している。
 このうち、ページデータによってディスプレイ3上に表示される画像の位置は、ディスプレイ3の左上端の座標を(X座標値,Y座標値)=(0,0)とした場合に、ページデータによって表示される画像の左上端の位置を示している。
 図3に戻り、遠隔ライセンス管理テーブル310は、遠隔共有処理を実行するために必要なライセンスデータを管理する。
 遠隔ライセンス管理テーブルの一例が図15に示されている。遠隔ライセンス管理テーブルは、プロダクトID、ライセンスID、及び有効期限を含んでいる。プロダクトIDは、電子黒板2のプロダクトIDである。ライセンスIDは、認証に用いられるIDであり、有効期限は、ライセンスの有効期限である。
 次に、ファイル処理部40の機能について説明する。図16は、ファイル処理部40の機能ブロック図である。
 このファイル処理部40は、リカバリ処理部41、ファイル入力部42a、ファイル出力部42b、ファイル変換部43、ファイル送信部44、アドレス帳入力部45、バックアップ処理部46、バックアップ出力部47、設定管理部48、設定ファイル出力部49b、設定ファイル入力部49a、及びアドレス帳入力部50を有している。
 ファイル処理部40は、アドレス帳管理テーブル410、バックアップデータ記憶部420、設定ファイル記憶部430、及び接続先管理テーブル440を有している。
 リカバリ処理部41は、電子黒板2が電源の遮断等により異常終了した場合、次に電源が投入されたときに、異常終了を検知し、ページデータを復旧させる。
 例えば、電子黒板2が正常に終了する場合は、ページデータがPDFファイルとしてファイル処理部40を介してUSB5に記録されるが、異常終了の場合は、ページデータがページデータ記憶部300に記録されたままになっている。そのため、次に電源オンになった際に、リカバリ処理部41は、ページデータ記憶部300からページデータを読み出すことで復旧させる。
 ファイル変換部43は、ページデータ記憶部300に記憶されているページデータをPDFファイルに変換する。なお、ページデータ記憶部300に複数のページデータが記憶されている場合、該複数のページデータは、それぞれ個別に、すなわちページ単位で複数のPDFファイルに変換されても良いし、あるいはまとめて1つのPDFファイルに変換されても良い。ここで変換されたPDFファイルは、バックアップ処理部46に出力される。
 ファイル入力部42aは、USBメモリ5からPDFファイルを読み込み、各ページをページデータとして、ページデータ記憶部300に記憶する。なお、USBメモリ5に複数のPDFファイルが記憶されている場合、ファイル入力部42aは、それらのすべてを読み込む。
 ファイル出力部42bは、ファイル変換部43から出力されるPDFファイルをUSBメモリ5に保存する。
 ファイル送信部44は、ファイル変換部43から出力されるPDFファイルを電子メールに添付して送信する。ここでは、表示重畳部36によってディスプレイ3上に表示されるアドレス帳管理テーブル410の内容に対して、ファイル送信部44がユーザによるタッチパネル等の入力装置の操作により、送信先の選択を受け付けることによって、ファイルの送信先が決定される。
 アドレス帳管理テーブル410の一例が図17に示されている。アドレス帳管理テーブル410には、送信先の名前と送信先のメールアドレスとが関連付けて格納されている。
 また、ファイル送信部44が、ユーザによるタッチパネル等の入力装置の操作により、送信先としてのメールアドレスの入力を受け付けることもできる。
 アドレス帳入力部45は、USBメモリ5からメールアドレスの一覧ファイル(アドレス帳)を読み込み、アドレス帳管理テーブル410に保存する。
 バックアップ処理部46は、ファイル出力部42bから出力されたファイルや、ファイル送信部44から送信されたファイルを、バックアップデータ記憶部420に記憶することでバックアップ処理を行う。
 バックアップデータの一例が図18に示されている。バックアップデータは、PDF形式のファイル(PDFファイル)として記憶される。なお、このバックアップ処理は、ユーザにより「バックアップが有効」に設定されている場合に行われ、設定されていない場合には行われない。
 バックアップ出力部47は、バックアップされたファイルをUSBメモリ5に記憶する。なお、この記憶の際に、セキュリティ確保のため、ユーザに対してタッチパネル等の入力装置の操作によるパスワードの入力が求められる。また、USBメモリ5に記憶されたファイルは、ファイル入力部42aにより読み取ることができる。
 設定管理部48は、電子黒板2の各種設定情報を設定ファイル記憶部430に記憶するとともに、設定ファイル記憶部430から各種設定情報を読み出す。各種設定情報としては、例えば、ネットワークに関する情報、日付及び時刻、地域及び言語、メールサーバに関する情報、アドレス帳、接続先リスト、バックアップに関する情報等がある。なお、ネットワークに関する情報には、例えば、電子黒板2のIPアドレス、ネットマスク、デフォルトゲートウェイ、DNS(Domain Name System)等が含まれる。
 設定ファイル出力部49bは、電子黒板2の上記各種設定情報を設定ファイルとしてUSBメモリ5に保存する。なお、セキュリティ確保の観点から、ユーザは設定ファイルの内容を見ることができない。
 設定ファイル入力部49aは、USBメモリ5から設定ファイルを読み込み、その内容を設定管理部48に出力する。これにより、各種設定情報が電子黒板2の各種設定内容に反映される。
 アドレス帳入力部50は、USBメモリ5から遠隔共有処理の接続先IPアドレスの一覧である接続先リスト(例えばCVS形式の電子ファイル)を読み込み、接続先管理テーブル440に保存する。
 接続先管理テーブル440は、電子黒板2が参加装置(既に開始されている遠隔共有処理に後から参加する電子黒板)である場合に、ユーザが主催装置(遠隔共有処理を開始した電子黒板)のIPアドレスを入力する手間を省くために、前もって電子黒板2のIPアドレスが保存されたテーブルである。
 接続先管理テーブル440の一例が図19に示されている。接続先管理テーブル440には、主催装置として機能する電子黒板2の名称とIPアドレスとが関連付けてまとめられている。図19の例では、電子黒板2の名称として、該電子黒板2が設置されている場所を用いている。
 なお、接続先管理テーブル440を使用することに代えて、参加装置のユーザが、逐一、タッチパネル等の入力装置を操作して主催装置のIPアドレスを入力することとしても良い。この場合、参加装置のユーザは、主催装置のユーザから電話や電子メール等によってそのIPアドレスを知る必要がある。
 次に、通信制御部60の機能について説明する。
 通信制御部60は、通信ネットワーク9を介して行われる他の電子黒板2との通信や、サーバ部90の通信制御部70との通信を制御する。通信制御部60は、図20に示されるように、遠隔開始処理部61、遠隔参加処理部62、遠隔画像送信部63、遠隔画像受信部64、遠隔操作送信部65、遠隔操作受信部66、及び参加拠点管理テーブル610を有している。
 遠隔開始処理部61は、同じ電子黒板2のサーバ部90に対して、新たに遠隔共有処理を開始することを要求し、その要求の結果をサーバ部90から受信する。なお、遠隔開始処理部61は、要求に先立って、遠隔ライセンス管理テーブル310を参照し、ライセンス情報(電子黒板2のプロダクトID、ライセンスID、及び有効期限)が管理されているか否かを確認する。そして、遠隔開始処理部61は、ライセンス情報が管理されている場合には、遠隔共有処理の開始要求を行うことができるが、ライセンス情報が管理されていない場合には、遠隔共有処理の開始要求を行うことができない。
 参加拠点管理テーブル610は、電子黒板が主催装置である場合に、現在、遠隔共有処理に参加している参加装置としての電子黒板を管理するためのテーブルである。参加拠点管理テーブル610の一例が図21に示されている。この参加拠点管理テーブル610には、参加装置である電子黒板2の名称とIPアドレスとが関連付けてまとめられている。図21の例では、電子黒板2の名称として、該電子黒板2が設置されている場所を用いている。
 遠隔参加処理部62は、通信ネットワーク9を介して、主催装置(遠隔共有処理を開始した電子黒板2)におけるサーバ部90の遠隔接続要求受信部71に遠隔共有処理への参加を要求し、その要求の結果をサーバ部90から受信する。なお、遠隔参加処理部62は、要求に先立って遠隔ライセンス管理テーブル310を参照する。
 また、遠隔参加処理部62は、既に開始されている遠隔共有処理に参加する場合に、接続先管理テーブル440を参照して、主催装置のIPアドレスを取得する。なお、遠隔参加処理部62が接続先管理テーブル440を参照することに代えて、ユーザが、逐一タッチパネル等の入力装置を操作して主催装置のIPアドレスを入力することとしても良い。
 遠隔画像送信部63は、画像取得部31からのPC出力画像をサーバ部90の遠隔画像受信部73に送信する。
 遠隔画像受信部64は、サーバ部90の遠隔画像送信部74から、他の電子黒板2におけるPC出力画像のデータを受信し、表示重畳部36に出力する。これにより、遠隔共有処理が可能になる。
 遠隔操作送信部65は、遠隔共有処理に必要な各種操作データをサーバ部90の遠隔操作受信部75に送信する。この各種操作データとしては、例えば、ストローク画像の追加、ストローク画像の削除、ストローク画像の編集(拡大、縮小、移動)、ページデータの記憶、ページデータの作成、ページデータの複製、ページデータの削除、表示されているページの切り替え等に関するデータが挙げられる。
 遠隔操作受信部66は、サーバ部90の遠隔操作送信部76から、他の電子黒板2において入力された操作データを受信し、画像処理部30に出力する。これにより、遠隔共有処理が行われる。
 次に、サーバ部90の機能について説明する。サーバ部90は、各電子黒板2に設けられており、いずれの電子黒板2であっても、サーバ部としての役割を果たすことができる。サーバ部90は、図20に示されるように、通信制御部70とデータ管理部80とに大別することができる。
 サーバ部90は、各種データを保存、管理するパスコード管理部810、参加拠点管理テーブル820、画像データ管理部830、操作データ記憶部840、及びページデータ記憶部850を有している。
 先ず、通信制御部70の機能について説明する。通信制御部70は、(1)同じ電子黒板2におけるクライアント部20の通信制御部60との通信と、(2)他の電子黒板2におけるクライアント部20の通信制御部60との通信ネットワーク9を介しての通信と、を制御する。
 通信制御部70は、遠隔接続要求受信部71、遠隔接続結果送信部72、遠隔画像受信部73、遠隔画像送信部74、遠隔操作受信部75、及び遠隔操作送信部76を有している。
 遠隔接続要求受信部71は、遠隔開始処理部61から遠隔共有処理の開始要求を受信したり、他の電子黒板2の遠隔参加処理部62から遠隔共有処理への参加要求を通信ネットワーク9を介して受信する。
 遠隔接続結果送信部72は、遠隔開始処理部61へ遠隔共有処理の開始要求に対する結果を送信したり、他の電子黒板2の遠隔参加処理部62へ遠隔共有処理への参加要求に対する結果を通信ネットワーク9を介して送信する。
 遠隔画像受信部73は、遠隔画像送信部63からPC出力画像のデータを受信し、遠隔画像処理部82に送信する。遠隔画像送信部74は、遠隔画像処理部82からPC出力画像のデータを受信し、遠隔画像受信部64に送信する。
 遠隔操作受信部75は、遠隔操作送信部65から操作データを受信し、遠隔操作処理部83に送信する。遠隔操作送信部76は、遠隔操作処理部83から操作データを受信すると、該操作データを遠隔操作受信部66に送信する。
 次に、データ管理部80の機能について説明する。データ管理部80は、図20に示されるように、遠隔接続処理部81、遠隔画像処理部82、遠隔操作処理部83、操作合成処理部84、及びページ処理部85を有している。
 遠隔接続処理部81は、遠隔共有処理の開始及び終了を行う。また、遠隔接続処理部81は、遠隔接続要求受信部71が遠隔開始処理部61から遠隔共有処理の開始要求とともに受信したライセンス情報、又は、遠隔参加処理部62から遠隔共有処理の参加要求とともに受信したライセンス情報に基づいて、ライセンスの有無やライセンスの有効期間内であるかを確認する。
 また、遠隔接続処理部81は、他の電子黒板2からのクライアント部としての参加要求に対して、予め定められた参加可能数を超えていないかを確認する。
 遠隔接続処理部81は、有効なライセンスを有していない場合や、参加要求が参加可能数を超える場合には、遠隔共有処理への参加を拒否する。
 また、遠隔接続処理部81は、他の電子黒板2から遠隔共有処理への参加要求とともに送られるパスコードが、パスコード管理部810で管理されているパスコードに一致するか否か判断し、一致する場合のみ遠隔共有処理への参加を許可する。
 パスコードは、新たに遠隔共有処理が開始される際に遠隔接続処理部81によって発行され、パスコード管理部810で管理される。遠隔共有処理に参加しようとする参加装置のユーザは、主催装置のユーザから電話や電子メール等によりパスコードを取得する。参加装置のユーザは、取得したパスコードをタッチパネル等の入力装置によって参加装置に入力することで、遠隔共有処理への参加を要求することができる。なお、セキュリティよりもユーザの使い勝手を優先する場合は、ライセンス状況のみを確認し、パスコードの確認を省略しても良い。
 電子黒板2が主催装置の場合、遠隔接続処理部81は、参加装置の遠隔参加処理部62から通信ネットワーク9を介して送られる参加要求に含まれる参加拠点情報を、参加拠点管理テーブル820に記憶する。
 また、遠隔接続処理部81は、参加拠点管理テーブル820に記憶されている遠隔拠点情報を読み出し、遠隔接続結果送信部72に送信する。
 遠隔接続結果送信部72は、同じ主催装置のクライアント部20における遠隔開始処理部61に遠隔拠点情報を送信する。
 遠隔開始処理部61は、参加拠点管理テーブルに610に、遠隔拠点情報を記憶する。これにより、主催装置では、クライアント部20及びサーバ部90の両方で、遠隔拠点情報を管理することになる。
 遠隔画像処理部82は、遠隔共有処理に加わっている電子黒板2(主催装置と参加装置との両方を含む)におけるPC出力画像のデータを受信すると、画像データ管理部830に記憶するとともに、主催装置である自己の電子黒板2のサーバ部90に届いた時間順で遠隔共有処理すべき画像データの表示順を判定する。
 また、遠隔画像処理部82は、参加拠点管理テーブル820を参照し、遠隔共有処理に参加中の全ての電子黒板2のクライアント部20(主催装置である自己の電子黒板のクライアント部を含む)に、通信制御部70の遠隔画像送信部74を介して、上記判定した順番で画像データを送信する。
 遠隔操作処理部83は、遠隔共有処理に加わっている電子黒板2(主催装置と参加装置との両方を含む)での各種操作データを受信し、主催装置である自己の電子黒板2のサーバ部90に届いた時間順で遠隔共有処理すべき画像の表示順を決定する。
 なお、各種操作データは、前述の各種操作データと同じである。また、遠隔操作処理部83は、参加拠点管理テーブル820を参照し、遠隔共有処理に加わっている全ての電子黒板2(主催装置と参加装置との両方を含む)のクライアント部20に操作データを送信する。
 操作合成処理部84は、遠隔操作処理部83から出力された各電子黒板2の操作データを合成し、合成結果としての操作データを操作データ記憶部840に記憶するとともに、遠隔操作処理部83に戻す。遠隔操作処理部83に戻された操作データは、遠隔操作送信部76を介して、主催装置及び参加装置のクライアント部20にそれぞれ送信される。これにより、各電子黒板2において、同じ操作データに係る画像が表示される。
 操作データの一例が図22に示されている。操作データには、SEQ(Sequence)、操作データの操作名、操作データの送信元である電子黒板2のIPアドレス、及びクライアント部又はサーバ部のポート番号、操作データの送信先である電子黒板2のIPアドレス、及びクライアント部又はサーバ部のポート番号、操作データの操作種類、操作データの操作対象、並びに操作内容を示すデータが関連付けされている。
 例えば、操作データSEQ1には、主催装置である電子黒板(IPアドレス:192.0.0.1)のクライアント部(ポート番号:50001)でストローク画が描画され、同じ主催装置である電子黒板(IPアドレス:192.0.0.1)のサーバ部(ポート番号:50000)に操作データが送られたことが示されている。このときの操作種類は「STROKE」、操作対象は「ページデータID:p005」、操作内容を示すデータは「ストロークデータ」である。
 また、操作データSEQ2には、主催装置である電子黒板(IPアドレス:192.0.0.1)のサーバ部(ポート番号:50000)から参加装置である他の電子黒板(IPアドレス:192.0.0.2)のクライアント部(ポート番号:50001)に、操作データが送られたことが示されている。
 なお、操作合成処理部84は、入力された順に操作データを合成するため、通信ネットワーク9が混雑していなければ、各電子黒板2のユーザによるストロークの順に、遠隔共有処理に加わっている全ての電子黒板2のディスプレイ3にストローク画像が表示される。
 ページ処理部85は、クライアント部20の画像処理部30におけるページ処理部37と同様の機能を有し、ページデータをページデータ記憶部850に記憶する。なお、ページデータ記憶部850は、画像処理部30内のページデータ記憶部300と同じ機能であるため、その説明を省略する。
 次に、本実施形態の画像処理システム1を構成する複数の電子黒板間での遠隔共有処理における各電子黒板の動作について図23及び図24を用いて説明する。
 ここでは、一例として、画像処理システム1は3つの電子黒板(2a,2b,2c)を含み、電子黒板2aが遠隔共有処理を主催する主催装置であり、電子黒板2b及び電子黒板2cは、電子黒板2aが開始した遠隔共有処理に参加する参加装置であるものとする。
 電子黒板2aはディスプレイ3aを有し、電子黒板2bはディスプレイ3bを有し、電子黒板2cはディスプレイ3cを有している。また、電子黒板2aにはノートPC6aが接続され、電子黒板2bにはノートPC6bが接続され、電子黒板2cにはノートPC6cが接続されている。さらに、電子黒板2aでは電子ペン4aが使用され、電子黒板2bでは電子ペン4bが使用され、電子黒板2cでは電子ペン4cが使用される。
1.参加の処理
 まず、電子黒板2b,2cが遠隔共有処理に参加するための処理について説明する。
 なお、電子黒板2a、電子黒板2b、電子黒板2cのそれぞれは、ユーザにより電源が入れられ、それによりクライアント部20が起動しているものとする。
 電子黒板2aのユーザが、タッチパネル等の入力装置を介してサーバ部90を起動させる操作をすると、クライアント部20の遠隔開始処理部61から同じ電子黒板2aのサーバ部90における遠隔接続要求受信部71に、サーバ部90の処理を開始させる指示を出力する。これにより、電子黒板2aでは、サーバ部90での各種処理が開始可能となる(ステップS21)。
 次に、電子黒板2aのクライアント部20におけるUI画像生成部33が電子黒板2aとの接続を確立するための接続情報を生成し、映像重畳部28が、UI画像生成部33から表示重畳部36を介して得た接続情報をディスプレイ3aに表示させる(ステップS22)。
 上記接続情報には、主催装置のIPアドレス、及び今回の遠隔共有処理のために生成されたパスコードが含まれている。
 この場合、パスコード管理部810に記憶されているパスコードは、遠隔接続処理部81によって読み出され、遠隔接続結果送信部72、遠隔開始処理部61の順に送信される。更に、パスコードは、遠隔開始処理部61を含む通信制御部60から、画像処理部30に送信され、最終的にUI画像生成部33に入力される。これにより、接続情報には、パスコードが含まれる。
 そして、接続情報は、電子黒板2aのユーザによって、電話や電子メールにより、電子黒板2b及び電子黒板2cのユーザに伝えられる。なお、接続先管理テーブル440があれば、接続情報には、主催装置のIPアドレスが含まれていなくても、参加装置は参加要求を行うことができる。
 次に、電子黒板2bでは、ユーザによるタッチパネル等の入力装置の操作によって接続情報の入力を受け付けると、電子黒板2bのクライアント部20における遠隔参加処理部62が、接続情報のIPアドレスに基づき、通信ネットワーク9を介して、電子黒板2aのサーバ部90における通信制御部70に対してパスコードを送信して参加要求を行う(ステップS23)。
 同様に、電子黒板2cでは、ユーザによるタッチパネル等の入力装置の操作によって接続情報の入力を受け付けると、電子黒板2cのクライアント部20における遠隔参加処理部62が、接続情報のIPアドレスに基づき、通信ネットワーク9を介して、電子黒板2aのサーバ部90における通信制御部70に対してパスコードを送信して参加要求を行う(ステップS24)。
 電子黒板2aでは、通信制御部70の遠隔接続要求受信部71は、電子黒板2b及び電子黒板2cから参加要求(パスコードを含む)を受信すると、該パスコードを遠隔接続処理部81に出力する。
 次に、電子黒板2aでは、遠隔接続処理部81は、電子黒板2b及び電子黒板2cから受信したパスコードに対し、パスコード管理部810で管理されているパスコードを用いて認証する(ステップS25)。
 そして、電子黒板2aでは、遠隔接続結果送信部72が、電子黒板2b及び電子黒板2cのクライアント部20に認証結果を通知する(ステップS26,S27)。
 上記ステップS25での認証において、電子黒板2b及び電子黒板2cが正当な電子黒板であると判断された場合には、主催装置である電子黒板2aと、参加装置である電子黒板2b及び電子黒板2cとの遠隔共有処理の通信が確立され、電子黒板2b及び電子黒板2cのクライアント部20における遠隔参加処理部62が、それぞれ他の電子黒板との間の遠隔共有処理の開始を可能にする(ステップS28,S29)。
2.PC出力画像の表示
 続いて、遠隔共有処理におけるPC出力画像が表示される処理について説明する。ここでは、一例として、電子黒板2bにおけるPC出力画像が、電子黒板2aのディスプレイ3a、及び電子黒板2cのディスプレイ3cに表示される場合について説明する。
 まず、電子黒板2bは、ディスプレイ3bにPC出力画像を表示する(ステップS30)。
 具体的には、電子黒板2bの画像取得部31が、ノートPC6bの出力映像(PC出力映像)からPC出力画像を取得し、表示重畳部36及び映像重畳部28を介してディスプレイ3bに送信することで、ディスプレイ3bはPC出力画像を表示する。
 次に、電子黒板2bの画像取得部31を含む画像処理部30が、遠隔画像送信部63にPC出力画像のデータを送信することで、遠隔画像送信部63を含む通信制御部60が通信ネットワーク9を介して、主催装置である電子黒板2aの通信制御部70にPC出力画像のデータを送信する(ステップS31)。
 電子黒板2aの遠隔画像受信部73は、電子黒板2bにおけるPC出力画像のデータを受信し、遠隔画像処理部82に出力することで、遠隔画像処理部82が画像データ管理部830に該PC出力画像のデータを記憶する。
 次に、主催装置である電子黒板2aは、ディスプレイ3aに電子黒板2bにおけるPC出力画像を表示する(ステップS32)。
 具体的には、電子黒板2aの遠隔画像処理部82は、遠隔画像受信部73から受信したPC出力画像のデータを、遠隔画像送信部74に出力する。遠隔画像送信部74は、同じ主催装置である電子黒板2aのクライアント部20における遠隔画像受信部64に、該PC出力画像のデータを出力する。
 遠隔画像受信部64は、表示重畳部36にPC出力画像のデータを出力する。表示重畳部36は、映像重畳部28に該PC出力画像のデータを出力する。映像重畳部28はディスプレイ3aに該PC出力画像のデータを出力する。これにより、ディスプレイ3aは、電子黒板2bにおけるPC出力画像を表示する。
 次に、主催装置としての電子黒板2aのサーバ部90における遠隔画像送信部74を含む通信制御部70は、通信ネットワーク9を介して、PC出力画像のデータの送信元である電子黒板2b以外の電子黒板2cの通信制御部60に、電子黒板2bにおけるPC出力画像のデータを送信する(ステップS33)。
 これにより、参加装置である電子黒板2cの遠隔画像受信部64は、電子黒板2bにおけるPC出力画像のデータを受信する。
 次に、電子黒板2cは、ディスプレイ3cに電子黒板2bにおけるPC出力画像を表示する(ステップS34)。
 具体的には、電子黒板2cの遠隔画像受信部64が、上記ステップS33において受信されたPC出力画像のデータを、電子黒板2cの表示重畳部36に出力する。表示重畳部36は、映像重畳部28に該PC出力画像のデータを出力する。
 映像重畳部28はディスプレイ3cにPC出力画像のデータを出力する。これにより、ディスプレイ3cは、電子黒板2bにおけるPC出力画像を表示する。
 なお、PC出力画像のデータだけでなく、UI画像及びストローク画像の各データが、表示重畳部36に入力されている場合には、該表示重畳部36により、UI画像とストローク画像とPC出力画像の重畳画像が生成され、映像重畳部28はディスプレイ3cに該重畳画像のデータを出力する。
 また、テレビ会議端末7から映像重畳部28に、テレビ会議用の映像(以下では、「会議映像」ともいう)のデータが送られて来ている場合には、映像重畳部28は、上記重畳画像にピクチャ・イン・ピクチャにより会議映像のデータを重畳して、ディスプレイ3cに出力する。
3.重畳画像の表示
 続いて、遠隔共有処理における重畳画像が表示される処理について説明する。ここでは、一例として、電子黒板2bにおける重畳画像が、電子黒板2aのディスプレイ3a、及び電子黒板2cのディスプレイ3cに表示される場合について説明する。
 まず、電子黒板2bにおいて、ユーザが電子ペン4bを用いて電子黒板2bにストローク画像を描画する(ステップS41)。
 次に、電子黒板2bの表示重畳部36は、UI画像及びPC出力画像に対して、ストローク画像を重畳する。そして、UI画像とストローク画像とPC出力画像が重畳された重畳画像を、映像重畳部28が電子黒板2bのディスプレイ3b上に表示させる(ステップS42)。
 具体的には、電子黒板2bのストローク処理部32が、イベント振分部25から、ストローク画像のデータを受信し、表示重畳部36に送信する。これにより、表示重畳部36は、UI画像及びPC出力画像に対して、ストローク画像を重畳することができ、映像重畳部28が電子黒板2bのディスプレイ3b上に重畳画像を表示させることができる。
 次に、電子黒板2bのストローク処理部32を含む画像処理部30が、遠隔操作送信部65にストローク画像のデータを送信することで、電子黒板2bの遠隔操作送信部65は、通信ネットワーク9を介して、主催装置である電子黒板2aの通信制御部70にストローク画像のデータを送信する(ステップS43)。
 これにより、電子黒板2aの遠隔操作受信部75は、電子黒板2bにおけるストローク画像のデータを受信し、遠隔操作処理部83に出力することで、遠隔操作処理部83が操作合成処理部84に該ストローク画像のデータを出力する。
 このようにして、電子黒板2bで描画されたストローク画像のデータは、描画される度に、主催装置である電子黒板2aの遠隔操作処理部83に順次送信される。このストローク画像のデータは、ストロークデータID毎に示されるデータである。よって、例えば、ユーザが電子ペン4によってアルファベットの「T」を描く場合は二筆書きとなるため、2つのストロークデータIDのそれぞれで示されるストローク画像のデータが順次送信される。
 次に、主催装置である電子黒板2aは、ディスプレイ3aに、電子黒板2bから送られて来たストローク画像のデータが含まれた重畳画像を表示する(ステップS44)。
 具体的には、電子黒板2aの操作合成処理部84は、遠隔操作処理部83を介して順次送られて来た複数のストローク画像のデータを合成して、操作データ記憶部840に記憶するとともに遠隔操作処理部83に戻す。
 これにより、遠隔操作処理部83は、操作合成処理部84から受信した、合成後のストローク画像のデータを、遠隔操作送信部76に出力する。遠隔操作送信部76は、同じ主催装置である電子黒板2aのクライアント部20における遠隔操作受信部66に、合成後のストローク画像のデータを出力する。
 遠隔操作受信部66は、画像処理部30における表示重畳部36に、合成後のストローク画像のデータを出力する。よって、表示重畳部36は、UI画像、及びPC出力画像に対して、合成後のストローク画像を重畳する。最後に、映像重畳部28が、表示重畳部36によって重畳された重畳画像をディスプレイ3a上に表示させる。
 次に、主催装置としての電子黒板2aのサーバ部90における遠隔操作送信部76を含む通信制御部70は、通信ネットワーク9を介して、電子黒板2cの通信制御部60に、合成後のストローク画像のデータを送信する(ステップS45)。
 これにより、参加装置である電子黒板2cの遠隔操作受信部66は、合成後のストローク画像のデータを受信する。
 次に、電子黒板2cは、ディスプレイ3cに電子黒板2bにおける重畳画像を表示する(ステップS46)。
 具体的には、電子黒板2cの遠隔操作受信部66が、上記ステップS45において受信された合成後のストローク画像のデータを、電子黒板2cの画像処理部30に出力する。画像処理部30の表示重畳部36は、UI画像、及びPC出力画像の各データと、合成後のストローク画像のデータを重畳し、映像重畳部28に該重畳画像のデータを出力する。
 映像重畳部28は、ディスプレイ3cに重畳画像のデータを出力する。これにより、ディスプレイ3cは、電子黒板2bにおける重畳画像を表示する。
 なお、上記処理では、ディスプレイ3上にPC出力画像が表示されているが、このPC出力画像に代えて、背景画像を表示してもよい。また、PC出力画像と背景画像との排他的な関係をやめて、PC出力画像と背景画像との両方を同時にディスプレイ3上に表示させてもよい。
4.参加の終了
 続いて、参加装置が遠隔共有処理への参加を終了する処理について説明する。ここでは、一例として電子黒板2cが参加を終了する場合について説明する。
 まず、電子黒板2cでは、ユーザによるタッチパネル等の入力装置の操作によって参加の終了要求を受け付けると、遠隔参加処理部62は、主催装置としての電子黒板2aのサーバ部90における通信制御部70に、参加の終了要求を行う(ステップS47)。
 これにより、通信制御部70の遠隔接続要求受信部71は、電子黒板2cから参加の終了要求を受信し、遠隔接続処理部81に、電子黒板2cのIPアドレスとともに参加の終了要求を出力する。
 そして、電子黒板2aの遠隔接続処理部81は、遠隔接続要求受信部71から送られて来たIPアドレスに基づいて、参加拠点管理テーブル820から、参加の終了要求を行った電子黒板2cのIPアドレス及び電子黒板2cが設置されている拠点の名称を削除し、遠隔接続結果送信部72に、電子黒板2cのIPアドレス及び削除した旨の通知を出力する。
 次に、遠隔接続結果送信部72を含んだ通信制御部70が、通信ネットワーク9を介して、電子黒板2cのクライアント部20における通信制御部60に、参加の終了を指示する(ステップS48)。
 これにより、電子黒板2cにおける通信制御部60の遠隔参加処理部62が、遠隔共有処理の通信を切断し、参加の終了処理を行うことで、参加が終了する(ステップS49)。
 これまでの説明から明らかなように、本実施形態では、座標検知部22と接触検知部24によって、本発明の電子黒板の画像処理方法におけるイベントを取得する工程が実施され、イベント振分部25によって、本発明の電子黒板の画像処理方法におけるイベントの種類を判別する工程が実施され、操作処理部26とジェスチャ処理部27と画像処理部30とによって、本発明の電子黒板の画像処理方法における表示手段を制御する工程が実施されている。
 以上説明したように、本実施形態に係る画像処理システム1は、通信ネットワーク9を介して相互に通信可能に接続された複数の電子黒板を有している。さらに、各電子黒板には、ノートPC6及びテレビ会議端末7が接続されている。
 電子黒板2は、ディスプレイ3、CPU101、ROM102、RAM103、SSD104、ネットワークコントローラ105、外部記憶コントローラ106、キャプチャデバイス111、GPU112、ディスプレイコントローラ113、センサコントローラ114、接触センサ115、及び電子ペンコントローラ116等を備えている。
 そして、電子黒板2は、クライアント部20としての機能とサーバ部90としての機能とを有し、電子黒板2が「主催装置」となる場合は、両方の機能が実現され、電子黒板2が「参加装置」となる場合は、クライアント部20としての機能のみが実現される。
 クライアント部20としての機能は、映像取得部21、座標検知部22、自動調整部23、接触検知部24、イベント振分部25、操作処理部26、ジェスチャ処理部27、映像重畳部28、画像処理部30、機器情報判定部38、及び通信制御部60に分けることができる。
 座標検知部22は、ディスプレイ3に電子ペン4あるいはユーザの手Hが接触したときの位置座標を検知する、接触検知部24は、接触したのが電子ペン4であるか否かを検知する。機器情報判定部38は、ディスプレイ3から該ディスプレイ3の型番を取得し、該型番から電子黒板2の機種名を判定する。
 イベント振分部25は、座標検知部22で検知された位置座標と、接触検知部24での検知結果と、機器情報判定部38での判定結果とに基づいて、イベントが「ストローク描画」、「UI操作」、及び「ジェスチャ操作」のいずれかであるかを判断し、「ストローク描画」であれば画像処理部30に、「UI操作」であれば操作処理部26に、「ジェスチャ操作」であればジェスチャ処理部27に、イベント情報を出力する。
 従来の電子黒板では、ユーザの手Hによる「ストローク描画」が可能か否かは、ユーザが設定する必要があった。この場合は、ユーザに煩雑な作業を強いることとなり使い勝手があまりよくなかった。また、設定漏れや設定ミスがあると、該電子黒板において、その性能を十分に発揮できないおそれもあった。
 一方、本実施形態の電子黒板2では、ユーザの手Hによる「ストローク描画」が可能か否かは、電子黒板2が判断するので、ユーザが設定する必要がなく、使い勝手を向上させることができる。また、異なる機種間でイベント振分部25を共通化することが可能となり、コスト低減、開発期間の短縮化を図ることができる。
 なお、上記実施形態では、機器情報が機種名である場合について説明したが、これに限定されるものではなく、例えば、図25に一例として示す機器構成情報であっても良い。この場合、イベント振分部25では、イベントの種別を判断する際の条件の1つとして、例えば、電子ペンコントローラ116の有無を用いても良い。
 また、上記実施形態において、電子黒板2aでは、電子ペン4aの使用が不可であっても良い。この場合、電子黒板2aでは、電子ペンコントローラ116がなくても良い。
 また、上記実施形態において、通信ネットワーク9は、LAN(Local Area Network)、インターネット、携帯電話通信網等をその一部に含むネットワークであっても良い。
 また、上記実施形態では、画像処理装置の一例として、電子黒板が用いられる場合について説明したが、これに限定されるものではなく、電子看板(デジタルサイネージ)、スポーツ、天気予報等で利用されるテレストレータ、遠隔画像(映像)診断装置等を用いることもできる。
 また、上記実施形態では、設定ファイル、バックアップファイル、アドレス帳等が、USBメモリに格納される場合について説明したが、これに限定されるものではなく、USBメモリに代えて、あるいはUSBメモリとともに、SDカード等の他の記録メディアを用いても良い。
 また、上記実施形態では、映像出力機器の一例として、ノートPCが用いられる場合について説明したが、これに限定されるものではなく、デスクトップ型PCやタブレット型PC、PDA、デジタルビデオカメラ、デジタルカメラ、ゲーム機等を用いても良い。要するに、画像フレームを供給可能な端末であれば用いることが可能である。
 また、上記実施形態では、各種プログラムが、ROM102に格納されている場合について説明したが、これに限定されるものではない。例えば、各種プログラムが、CDやDVD等の情報記録媒体11(図26参照)に格納されていても良い。この場合、電子黒板は、情報記録媒体から各種プログラムを読み出すためのドライブ装置117(図26参照)を有することとなる。
 座標検知部22と接触検知部24によって、本発明の電子黒板のプログラムが記録された記録媒体の、当該プログラムに示されたイベントを取得する手順が実行され、イベント振分部25によって、当該プログラムに示されたイベントの種類を判別する手順が実行され、操作処理部26とジェスチャ処理部27と画像処理部30とによって、当該プログラムに示された表示手段を制御する手順が実行される。
 また、上記実施形態において、CPU101によるプログラムに従う処理の一部をハードウェアによって構成することとしても良い。
1…画像処理システム、2a…電子黒板(画像処理装置)、2b…電子黒板(画像処理装置)、3a…ディスプレイ(表示手段)、3b…ディスプレイ(表示手段)、4a…電子ペン、4b…電子ペン、5a…USBメモリ、5b…USBメモリ、6a…ノートPC、6b…ノートPC、8…PC、9…通信ネットワーク、10a1…ケーブル、10a2…ケーブル、10b1…ケーブル、10b2…ケーブル、20…クライアント部、21…映像取得部、22…座標検知部(イベント取得手段の一部)、23…自動調整部、24…接触検知部(イベント取得手段の一部)、25…イベント振分部(判別手段)、26…操作処理部(処理手段の一部)、27…ジェスチャ処理部(処理手段の一部)、28…映像重畳部、30…画像処理部、31…画像取得部、32…ストローク処理部(処理手段の一部)、33…UI画像生成部、34…背景生成部、35…レイアウト管理部、36…表示重畳部、37…ページ処理部、38…機器情報判定部、40…ファイル処理部、60…通信制御部、70…通信制御部、80…データ管理部、90…サーバ部、101…CPU、102…ROM(記録媒体)、103…RAM、104…SSD、105…ネットワークコントローラ(通信制御部)、106…外部記憶コントローラ、111…キャプチャデバイス、112…・GPU、113…ディスプレイコントローラ、114…センサコントローラ、115…接触センサ、116…電子ペンコントローラ、300…ページデータ記憶部、310…遠隔ライセンス管理テーブル。
特開2015-084211号公報

Claims (15)

  1.  画像を表示する表示手段と、
     前記表示手段に対するイベントを取得するイベント取得手段と、
     前記イベントの種類を機器情報を参照して判別する判別手段と、
     前記判別手段での判別結果に応じて前記イベントを行う処理手段とを備える電子黒板。
  2.  前記表示手段にはタッチパネルが設けられ、
     前記イベントは、「ストローク描画」及び「ジェスチャ操作」のいずれかであり、
     前記判別手段は、前記機器情報に基づいて、ユーザの手による「ストローク描画」が有効であるか否かを判断し、その判断結果が有効である場合、前記表示手段に対して2点以上の接触があるときには、前記イベントは「ジェスチャ操作」であると判別し、前記表示手段に対して1点の接触があるときには、前記イベントは「ストローク描画」であると判別することを特徴とする請求項1に記載の電子黒板。
  3.  前記判別手段は、前記判断結果が無効である場合、前記イベントがユーザの手によるイベントであれば、前記イベントは「ジェスチャ操作」であると判別し、前記イベントが電子ペンによるイベントであれば、前記イベントは「ストローク描画」であると判別することを特徴とする請求項2に記載の電子黒板。
  4.  前記イベントは、「ストローク描画」、「ジェスチャ操作」、及び「ユーザインターフェース操作」のいずれかであり、
     前記判別手段は、前記表示手段における前記イベントの発生位置が、ユーザインターフェース画像の表示領域と重なる場合、前記イベントは「ユーザインターフェース操作」であると判別することを特徴とする請求項2に記載の電子黒板。
  5.  前記機器情報は、機種名情報であることを特徴とする請求項1に記載の電子黒板。
  6.  前記機器情報は、機器構成情報であることを特徴とする請求項1に記載の電子黒板。
  7.  ネットワーク回線に接続して用いられ、
     前記ネットワーク回線を介した通信を制御する通信制御部を有することを特徴とする請求項6に記載の電子黒板。
  8.  画像が表示される表示手段を有する電子黒板の画像処理方法であって、
     前記表示手段に対するイベントを取得する工程と、
     前記イベントの種類を機器情報を参照して判別する工程と、
     前記判別する工程での判別結果に応じて前記イベントを行う工程と、を含む電子黒板の画像処理方法。
  9.  前記表示手段にはタッチパネルが設けられ、
     前記イベントは、「ストローク描画」及び「ジェスチャ操作」のいずれかであり、
     前記判別する工程では、前記機器情報に基づいて、ユーザの手による「ストローク描画」が有効であるか否かを判断し、その判断結果が有効である場合、前記表示手段に対して2点以上の接触があるときには、前記イベントは「ジェスチャ操作」であると判別し、前記表示手段に対して1点の接触があるときには、前記イベントは「ストローク描画」であると判別することを特徴とする請求項8に記載の電子黒板の画像処理方法。
  10.  前記判別する工程では、前記判断結果が無効である場合、前記イベントがユーザの手によるイベントであれば、前記イベントは「ジェスチャ操作」であると判別し、前記イベントが電子ペンによるイベントであれば、前記イベントは「ストローク描画」であると判別することを特徴とする請求項9に記載の電子黒板の画像処理方法。
  11.  前記イベントは、「ストローク描画」、「ジェスチャ操作」、及び「ユーザインターフェース操作」のいずれかであり、
     前記判別する工程では、前記表示手段における前記イベントの発生位置が、ユーザインターフェース画像の表示領域と重なる場合、前記イベントは「ユーザインターフェース操作」であると判別することを特徴とする請求項9に記載の電子黒板の画像処理方法。
  12.  複数の画像が重畳して表示される表示手段を有する電子黒板のプログラムを記録したコンピュータ読み取り可能な記録媒体であって、
     前記表示手段に対するイベントを取得する手順と、
     前記イベントの種類を機器情報を参照して判別する手順と、
     前記判別する手順での判別結果に応じて前記イベントを行う手順と、
     をコンピュータに実行させるための電子黒板のプログラムを記録した記録媒体。
  13.  前記表示手段にはタッチパネルが設けられ、
     前記イベントは、「ストローク描画」及び「ジェスチャ操作」のいずれかであり、
     前記判別する手順では、前記機器情報に基づいて、ユーザの手による「ストローク描画」が有効であるか否かを判断し、その判断結果が有効である場合、前記表示手段に対して2点以上の接触があるときには、前記イベントは「ジェスチャ操作」であると判別し、前記表示手段に対して1点の接触があるときには、前記イベントは「ストローク描画」であると判別することを特徴とする請求項12に記載の電子黒板のプログラムを記録した記録媒体。
  14.  前記判別する手順では、前記判断結果が無効である場合、前記イベントがユーザの手によるイベントであれば、前記イベントは「ジェスチャ操作」であると判別し、前記イベントが電子ペンによるイベントであれば、前記イベントは「ストローク描画」であると判別することを特徴とする請求項13に記載の電子黒板のプログラムを記録した記録媒体。
  15.  前記イベントは、「ストローク描画」、「ジェスチャ操作」、及び「ユーザインターフェース操作」のいずれかであり、
     前記判別する手順では、前記表示手段における前記イベントの発生位置が、ユーザインターフェース画像の表示領域と重なる場合、前記イベントは「ユーザインターフェース操作」であると判別することを特徴とする請求項14に記載の電子黒板のプログラムを記録した記録媒体。
PCT/JP2016/075903 2015-09-25 2016-09-02 電子黒板、電子黒板の画像処理方法、及び電子黒板のプログラムを記録した記録媒体 WO2017051687A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017541500A JP6504256B2 (ja) 2015-09-25 2016-09-02 電子黒板、電子黒板の画像処理方法、及び電子黒板のプログラムを記録した記録媒体
EP16848475.6A EP3355177A4 (en) 2015-09-25 2016-09-02 Digital blackboard, digital blackboard image processing method, and recording medium whereupon digital blackboard program is recorded
US15/761,615 US10761718B2 (en) 2015-09-25 2016-09-02 Electronic whiteboard, method for image processing in electronic whiteboard, and recording medium containing computer program of electronic whiteboard
US16/924,191 US11294495B2 (en) 2015-09-25 2020-07-09 Electronic whiteboard, method for image processing in electronic whiteboard, and recording medium containing computer program of electronic whiteboard

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015187576 2015-09-25
JP2015-187576 2015-09-25

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US15/761,615 A-371-Of-International US10761718B2 (en) 2015-09-25 2016-09-02 Electronic whiteboard, method for image processing in electronic whiteboard, and recording medium containing computer program of electronic whiteboard
US16/924,191 Continuation US11294495B2 (en) 2015-09-25 2020-07-09 Electronic whiteboard, method for image processing in electronic whiteboard, and recording medium containing computer program of electronic whiteboard

Publications (1)

Publication Number Publication Date
WO2017051687A1 true WO2017051687A1 (ja) 2017-03-30

Family

ID=58386616

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2016/075903 WO2017051687A1 (ja) 2015-09-25 2016-09-02 電子黒板、電子黒板の画像処理方法、及び電子黒板のプログラムを記録した記録媒体

Country Status (4)

Country Link
US (2) US10761718B2 (ja)
EP (1) EP3355177A4 (ja)
JP (2) JP6504256B2 (ja)
WO (1) WO2017051687A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110851097A (zh) * 2019-10-18 2020-02-28 北京字节跳动网络技术有限公司 一种笔迹数据一致的控制方法、装置、介质和电子设备

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11126325B2 (en) * 2017-10-23 2021-09-21 Haworth, Inc. Virtual workspace including shared viewport markers in a collaboration system
US11934637B2 (en) 2017-10-23 2024-03-19 Haworth, Inc. Collaboration system including markers identifying multiple canvases in multiple shared virtual workspaces
WO2024019713A1 (en) * 2022-07-20 2024-01-25 Google Llc Copresence system

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07288878A (ja) * 1994-04-14 1995-10-31 Kenwood Corp 車載音響システム
JP2008102339A (ja) * 2006-10-19 2008-05-01 Seiko Epson Corp プロジェクタ
JP2015084211A (ja) * 2013-09-17 2015-04-30 株式会社リコー 情報処理装置、情報処理システム、プログラム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7870496B1 (en) * 2009-01-29 2011-01-11 Jahanzeb Ahmed Sherwani System using touchscreen user interface of a mobile device to remotely control a host computer
WO2011136783A1 (en) * 2010-04-29 2011-11-03 Hewlett-Packard Development Company L. P. System and method for providing object information
US9065876B2 (en) 2011-01-21 2015-06-23 Qualcomm Incorporated User input back channel from a wireless sink device to a wireless source device for multi-touch gesture wireless displays
JP5537458B2 (ja) * 2011-02-10 2014-07-02 シャープ株式会社 タッチ入力可能な画像表示装置、表示装置の制御装置、及びコンピュータプログラム
JP5589909B2 (ja) * 2011-03-14 2014-09-17 株式会社リコー 表示装置、表示装置のイベント切替え制御方法及びプログラム
CN102298477B (zh) * 2011-09-19 2013-07-03 深圳市汇顶科技股份有限公司 触摸控制器自适应电容式触摸传感器的方法及系统
US9535720B2 (en) * 2012-11-13 2017-01-03 International Business Machines Corporation System for capturing and replaying screen gestures
KR101495591B1 (ko) 2013-10-08 2015-02-25 원투씨엠 주식회사 정전식 터치 인증 방법
JP6392361B2 (ja) 2013-09-27 2018-09-19 センセル インコーポレイテッドSensel,Inc. 容量式タッチセンサシステム及び方法
CN105573536B (zh) * 2014-10-16 2018-09-07 华为技术有限公司 触控交互的处理方法、装置和系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07288878A (ja) * 1994-04-14 1995-10-31 Kenwood Corp 車載音響システム
JP2008102339A (ja) * 2006-10-19 2008-05-01 Seiko Epson Corp プロジェクタ
JP2015084211A (ja) * 2013-09-17 2015-04-30 株式会社リコー 情報処理装置、情報処理システム、プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3355177A4 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110851097A (zh) * 2019-10-18 2020-02-28 北京字节跳动网络技术有限公司 一种笔迹数据一致的控制方法、装置、介质和电子设备
CN110851097B (zh) * 2019-10-18 2023-09-29 北京字节跳动网络技术有限公司 一种笔迹数据一致的控制方法、装置、介质和电子设备

Also Published As

Publication number Publication date
US20190065041A1 (en) 2019-02-28
US20200341631A1 (en) 2020-10-29
JP2019096367A (ja) 2019-06-20
JPWO2017051687A1 (ja) 2018-04-26
US10761718B2 (en) 2020-09-01
US11294495B2 (en) 2022-04-05
EP3355177A1 (en) 2018-08-01
JP6885416B2 (ja) 2021-06-16
JP6504256B2 (ja) 2019-04-24
EP3355177A4 (en) 2018-09-05

Similar Documents

Publication Publication Date Title
JP6583432B2 (ja) 画像処理装置、画像表示方法、プログラム
JP6620494B2 (ja) 通信システム、情報処理装置、通信方法、プログラム
JP2015069284A (ja) 画像処理装置
JP6885416B2 (ja) 電子黒板、電子黒板の画像処理方法、及びプログラム
JP6493546B2 (ja) 電子黒板、記憶媒体、及び情報表示方法
JP6402826B2 (ja) 情報処理装置、画像表示方法、プログラム
JP2019186946A (ja) 電子黒板
CN107037939B (zh) 电子黑板和图像处理方法
JP2016139322A (ja) 画像処理装置及びそれを備えた電子黒板
JP2015070345A (ja) 画像処理装置及び画像処理システム
US10489049B2 (en) Image processing apparatus, image processing system, and image processing method
CN113495708A (zh) 输出装置及系统、格式信息变更方法、记录介质、控制器
JP6036621B2 (ja) システム、情報処理装置
JP2017091559A (ja) 装置及び方法
JP7298224B2 (ja) 表示装置、及び表示方法
JP7363064B2 (ja) 画像処理装置、方法、およびプログラム
JP2017129890A (ja) 座標検知装置、画像処理装置、座標検知方法及びプログラム
JP2015056038A (ja) 画像処理装置及びプログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 16848475

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2017541500

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2016848475

Country of ref document: EP