JPWO2017138223A1 - 画像処理装置、画像処理システム及び画像処理方法 - Google Patents

画像処理装置、画像処理システム及び画像処理方法 Download PDF

Info

Publication number
JPWO2017138223A1
JPWO2017138223A1 JP2017566528A JP2017566528A JPWO2017138223A1 JP WO2017138223 A1 JPWO2017138223 A1 JP WO2017138223A1 JP 2017566528 A JP2017566528 A JP 2017566528A JP 2017566528 A JP2017566528 A JP 2017566528A JP WO2017138223 A1 JPWO2017138223 A1 JP WO2017138223A1
Authority
JP
Japan
Prior art keywords
screen
image
display
image processing
notebook
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017566528A
Other languages
English (en)
Other versions
JP7042622B2 (ja
Inventor
綾子 渡邉
綾子 渡邉
中村 滋
滋 中村
及川 辰幸
辰幸 及川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Publication of JPWO2017138223A1 publication Critical patent/JPWO2017138223A1/ja
Application granted granted Critical
Publication of JP7042622B2 publication Critical patent/JP7042622B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545Pens or stylus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0486Drag-and-drop
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • G06F3/1462Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay with means for detecting differences between the image stored in the host and the images displayed on the remote displays
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0421Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means by interrupting or reflecting a light beam, e.g. optical touch-screen
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/04Exchange of auxiliary data, i.e. other than image data, between monitor and graphics controller

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Digital Computer Display Output (AREA)

Abstract

手書きデータを表示画像に重畳した視覚情報を表示する画像表示装置に接続される画像処理装置が、第1画面及び前記第1画面とは異なる第2画面の複数の画面を表示し、かつ、前記第1画面及び前記第2画面のうち、いずれか一方の画面を前記画像表示装置に表示させ、前記第1画面又は前記第2画面のいずれかを選択して前記表示画像を生成し、前記画像処理では、前記第1画面及び前記第2画面のうち、いずれかの画面を選択する操作、又は、前記表示画像の生成を指示する操作を入力するグラフィックユーザインタフェースに基づいて、選択された画面の前記表示画像を生成する。

Description

本発明は、画像処理装置、画像処理システム及び画像処理方法に関する。
従来、企業、教育機関又は行政機関等における会議等において、大型ディスプレイに背景画像を表示させ、この背景画像の上に、ユーザが文字、数字又は図形等のストローク画像を描画することができる電子黒板が利用されている。
このような電子黒板に係るシステムの一例として、例えば、システム全体の小型化及び一体化を図ると共に、操作性、取扱性及び利便性の向上を図る方法が知られている。具体的には、まず、文字及び画像を表示する表示装置、表示装置の前面にタッチパネル面を配設したタッチ入力装置、印刷装置、タッチ入力装置からの入力に基づいて表示装置による表示並びに印刷装置による印刷を制御する制御装置を電子黒板システムが備える。この電子黒板システムでは、デジタルカメラ、DVDプレイヤ又はビデオ機器等の情報処理装置を接続する複数の接続端子を用いるため、表示装置が、大画面モニタとして使用できる。ゆえに、この電子黒板システムでは、ユーザは、パーソナルコンピュータを介さず、情報処理装置を接続させたり、情報処理装置に対して操作を行うことができ、操作性、取扱性及び利便性の向上を図ることができる方法が知られている(例えば、特許文献1等)。
しかしながら、電子黒板等である画像表示装置に接続され、かつ、ディスプレイを有する画像処理装置は、画像表示装置と、画像処理装置が有するディスプレイとに、それぞれ異なる画面を表示させる場合等がある。すなわち、複数の画面が存在する場合がある。このような場合において、画面を示す表示画像を生成する、いわゆるキャプチャを行うには、どの画面がキャプチャの対象であるかが不明となり、ユーザが望む表示画像が生成されないことが問題である。
本発明は、上記課題に鑑み、ユーザが表示画像にしたい画面を選択することができ、ユーザが望む表示画像が生成できる画像処理装置を提供することを目的とする。
上記課題に鑑み、本発明の一態様における、手書きデータを表示画像に重畳した視覚情報を表示する画像表示装置に接続される画像処理装置は、第1画面及び前記第1画面とは異なる第2画面の複数の画面を表示し、かつ、前記第1画面及び前記第2画面のうち、いずれか一方の画面を前記画像表示装置に表示させる表示部と、前記第1画面又は前記第2画面のいずれかを選択して前記表示画像を生成する画像処理部とを備え、前記画像処理部は、前記第1画面及び前記第2画面のうち、いずれかの画面を選択する操作、又は、前記表示画像の生成を指示する操作を入力するグラフィックユーザインタフェースに基づいて、選択された画面の前記表示画像を生成することを特徴とする。
ユーザが表示画像にしたい画面を選択することができ、ユーザが望む表示画像が生成できる画像処理装置を提供することができる。
本実施形態の画像処理システムの全体構成図の一例である。 本実施形態の画像処理システムの使用例を示す概念図の一例である。 本実施形態の画像処理システムの別の使用例を示す概念図の一例である。 本実施形態の画像表示装置のハードウェア構成図の一例である。 本実施形態の画像処理装置のハードウェア構成図の一例である。 本実施形態の画像処理装置の機能構成図の一例である。 本実施形態の画像処理装置によって表示される画面を示す図の一例である。 本実施形態の画像処理装置に対して「複製」の設定がされた場合の画面を示す図の一例である。 本実施形態の画像処理装置が表示するアプリケーション画面及びGUIを示す図の一例である。 本実施形態の画像処理装置が表示するGUIを示す図の一例である。 本実施形態の画像処理装置に対して「拡張」の設定がされた場合の画面を示す図の一例である。 本実施形態の画像処理装置による判定処理を示すフローチャートの一例である。 本実施形態の画像処理装置によるGUIが有する所定の箇所を用いる判定処理を示す図の一例である。 本実施形態の画像処理装置によって表示されるGUIが有する所定の箇所を示す図の一例である。 本実施形態の画像処理装置によって表示されるGUIの面積を利用する判定処理を示す図の一例である。 本実施形態の画像処理装置によって表示されるY座標値を使用する場合の画面を示す図の一例である。 本実施形態の画像処理装置による条件判定処理を示すフローチャートの一例である。
以下、本発明を実施するための形態について図面を参照しながら説明する。
<システム例の概要>
図1は、本実施形態の画像処理システム1の全体構成図である。なお、図1では、説明を簡略化するために、画像表示装置の例である2台の電子黒板2a,2b及びこれに付随する電子ペン4a,4b等を示しているだけであって、画像処理システム1では、3台以上の電子黒板や電子ペン等が利用されてもよい。図示されているように、画像処理システム1は、複数の電子黒板2a,2b、複数の電子ペン4a,4b、USBメモリ5a,5b、画像処理装置の例であるノートPC(Personal Computer)6a,6b、テレビ(ビデオ)会議端末7a,7b、アカウントサーバ11及びPC8を有する。また、電子黒板2a,2b、及びPC8は、通信ネットワーク9を介して通信可能に接続されている。更に、複数の電子黒板2a,2bには、それぞれディスプレイ3a,3bが設けられている。
また、電子黒板2aには、電子ペン4aによって生じたイベント(ディスプレイ3aに電子ペン4aのペン先、又は、電子ペン4aのペン尻のタッチ)による描画された画像を、ディスプレイ3aに表示させることができる。なお、電子ペン4aだけでなく、ユーザの手Ha等によって生じたイベント(拡大、縮小、ページめくり等のジェスチャ)に基づいて、ディスプレイ3a上に表示されている画像を変更させることもできる。イベントにより、電子ペン4a又は手Haなどが指示する位置情報が電子黒板2aに入力される。
また、電子黒板2aには、USBメモリ5aが接続可能であり、電子黒板2aはUSBメモリ5aからPDF(Portable Document Format)等の電子ファイルを読み出したり、電子黒板2aはUSBメモリ5aに電子ファイルを記録したりすることができる。また、電子黒板2aには、DisplayPort(登録商標)、DVI(Digital Visual Interface)、HDMI(登録商標。High−Definition Multimedia Interface)及びVGA(Video Graphics Array)等の規格による通信が可能なケーブル10a1を介して、ノートPC6aが接続されている。そして、電子黒板2aは、ディスプレイ3aに対する接触によってイベントを発生させ、このイベントを示すイベント情報を、マウスやキーボード等の入力装置からのイベントと同様に、ノートPC6aに送信することでノートPC6aを制御することができる。同じく、電子黒板2aには、上記規格による通信が可能なケーブル10a2を介して、テレビ(ビデオ)会議端末7aが接続されている。なお、ノートPC6a、及びテレビ会議端末7aは、Bluetooth(登録商標)等の各種無線通信プロトコルに準拠した無線通信により、電子黒板2aと通信してもよい。
一方、電子黒板2bが設置されている他の拠点では、上記と同様に、ディスプレイ3bを備えた電子黒板2b、電子ペン4b、USBメモリ5b、ノートPC6b、テレビ会議端末7b、ケーブル10b1、ケーブル10b2が利用される。更に、ユーザの手Hb等によって生じたイベントに基づいて、ディスプレイ3b上に表示されている画像を変更させることもできる。
これにより、一の拠点で電子黒板2aのディスプレイ3a上に描画された画像は、他の拠点で電子黒板2bのディスプレイ3b上にも表示され、逆に他の拠点で電子黒板2bのディスプレイ3b上に描画された画像は、一の拠点で電子黒板2aのディスプレイ3a上に表示される。このように、画像処理システム1では、遠隔地において同じ画像を共有する遠隔共有処理を行うことができるため、遠隔地での会議等に用いると、非常に便利である。
<用語について>
以下では、複数の電子黒板のうち任意の電子黒板を示す場合には「電子黒板2」と示す。複数の電子黒板2が有するディスプレイのうち任意のディスプレイを示す場合には「ディスプレイ3」と示す。複数の電子ペンのうち任意の電子ペンを示す場合には「電子ペン4」と示す。複数のUSBメモリのうち任意のUSBメモリを示す場合には「USBメモリ5」と示す。複数のノートPCのうち任意のノートPCを示す場合には「ノートPC6」と示す。複数のテレビ会議端末のうち任意のテレビ会議端末を示す場合には「テレビ会議端末7」と示す。また、複数のユーザの手のうち任意の手を示す場合には「手H」と示す。複数のケーブルのうち任意のケーブルを示す場合には「ケーブル10」と示す。
また、本実施形態では、画像表示装置の一例として、電子黒板を説明するが、これに限るものではなく、画像表示装置の他の例として、電子看板(デジタルサイネージ)、スポーツや天気予報等で利用されるテレストレータ、又は、遠隔画像(映像)診断装置等であってもよい。また、画像処理装置の一例として、ノートPC6を説明するが、これに限るものではなく、画像処理装置の他の例として、デスクトップ型PCやタブレット型PC、PDA、デジタルビデオカメラ、デジタルカメラ、ゲーム機等の画像フレームを供給可能な端末であってもよい。更に、通信ネットワークには、インターネット、LAN(Local Area Network)、携帯電話通信網等が含まれる。また、本実施形態では、記録媒体の一例として、USBメモリを説明するが、これに限るものではなく、記録媒体の他の例として、SDカード等の各種記録メディアであってもよい。
視覚情報とは、人が視認できる情報をいう。なお、情報には意味がなくてもよいが、多くの場合は、例えば、文字、図形、記号又はこれらの組み合わせ等の当人にとっては有効性がある情報をいう。
また、ユーザが電子黒板に手書きしたデータをストローク画像という。
<画像処理システムの使用例>
例えば、以下のように、ユーザは、画像処理システムを使用する。
図2は、本実施形態の画像処理システムの使用例を示す概念図の一例である。以下、図示するように、ノートPC6と、電子黒板2とが接続される例で説明する。具体的には、この例では、ノートPC6と、電子黒板2とは、2つのケーブル10で接続されるとする。例えば、このケーブル10のうち、一方のケーブルがUSBケーブル10USBであり、他方のケーブルが映像表示用ケーブル10IMGである。
USBケーブル10USBは、タッチパネル用のケーブルの一例である。すなわち、電子黒板2に対して電子ペン4等を用いてユーザが描画すると、描画の際に電子黒板2がタッチされた位置等を示すデータが、USBケーブル10USBによって、電子黒板2からノートPC6に送られる。
映像表示用ケーブル10IMGは、ノートPC6が表示する資料等を電子黒板2に表示させるためのデータを送る。すなわち、映像表示用ケーブル10IMGは、ノートPC6から電子黒板2に画像データを送る。
したがって、図示する構成では、ノートPC6に表示される画面と、電子黒板2に表示される2つの画面がある。以下、このように、2つの画面がある例で説明する。
電子黒板2を利用するのに、例えば、セキュリティを重視するユーザは、セキュリティポリシが適用された装置でないと使用することができない場合がある。具体的には、通信機能を持つ装置には、特定のセキュリティソフトがインストールされていないと、ユーザは装置を使用できない等である。このような場合において、ユーザは、電子黒板2を利用するのに用いるアプリケーションプログラム(以下単に「アプリケーション」という。)をPCにインストールして電子黒板2を利用する。
すなわち、図示する例では、セキュリティポリシが適用された装置がノートPC6であるとすると、ノートPC6にアプリケーションをインストールすることで、ユーザは、電子黒板2が有する各機能を利用できる。例えば、アプリケーションに取り込まれた画像は、アプリケーションによって、電子黒板に表示される。なお、アプリケーションによって提供される各機能を利用するため、ノートPCは、アプリケーション画面を表示する。そして、ユーザがアプリケーション画面に対して操作を入力すると、ノートPCは、電子黒板に表示させる画面を変更する等ができる。
このようにして、利用できるようになる機能は、例えば、キャプチャの機能である。例えば、ユーザは、真っ白な画面の電子黒板2に対して描画することができる。一方で、ユーザが用意した資料をノートPC6がキャプチャして、電子黒板2に表示させ、表示された資料に対して、ユーザは、電子黒板2上で描画することができる。なお、資料は、例えば、パワーポイント(登録商標)等のプレゼンテーションプログラムで生成されたデータ等である。
また、画像処理システムは、以下に示すような構成で使用されてもよい。
図3は、本実施形態の画像処理システムの別の使用例を示す概念図の一例である。図2と比較すると、図3に示す例では、ノートPC6が、いわゆるデスクトップPCである点が異なる。すなわち、画像処理装置は、ノートPCに限られず、タブレット等又は図示するようなデスクトップPC等の他の情報処理装置でもよい。
<ハードウェア構成例>
電子黒板2は、例えば、以下に示すハードウェア構成である。
図4は、本実施形態の画像表示装置のハードウェア構成図の一例である。図示するように、電子黒板2は、例えば、GPU(Graphics Processing Unit)112、ディスプレイコントローラ113、ディスプレイ3、接触センサ115及びセンサコントローラ114を有する。
GPU112は、画像処理に係る演算及び制御を行う演算装置及び制御装置である。
ディスプレイコントローラ113は、GPU112から出力される出力画像をディスプレイ3に表示するための画面表示の制御及び演算を行う演算装置及び制御装置である。
ディスプレイ3は、ノートPC6等から入力される画像等の表示画像を表示する出力装置である。
センサコントローラ114は、接触センサ115から入力されるセンサデータから座標値を算出する等の演算を行う演算装置である。
接触センサ115は、手H等が接触したこと及び手Hが接触した位置等を検出するセンサである。例えば、接触センサ115は、赤外線遮断方式によって、手Hが接触した位置を検出して、手Hが接触した位置を座標値で示すセンサデータを出力する。具体的には、赤外線遮断方式では、まず、ディスプレイ3のそれぞれの上側両端部に設置される2つの受発光装置が、ディスプレイ3に対して平行に複数の赤外線を照射する。次に、照射された赤外線は、ディスプレイ3の周辺に設けられる反射部材によって反射する。続いて、受光素子が、反射する赤外線を受光する。そして、接触センサ115は、手H等の物体によって遮断された受発光装置が照射した赤外線のID(Identification)をセンサコントローラ114に出力する。このようにすると、センサコントローラ114は、赤外線のIDに基づいて、物体が接触した位置を座標値で示すことができる。
バス120は、各ハードウェアを電気的に接続する。すなわち、バス120は、いわゆるアドレスバス及びデータバス等である。
なお、電子黒板2は、図示するハードウェア構成に限られない。例えば、電子黒板2は、演算装置、制御装置及び記憶装置等の装置を更に有してもよい。
また、ノートPC6は、例えば、以下に示すハードウェア構成である。
図5は、本実施形態の画像処理装置のハードウェア構成図の一例である。
ノートPC6は、主要な構成として、CPU(Central Processing Unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103、補助記憶装置104、記録媒体読取装置105、入力装置106、表示装置107及び通信装置108を含む構成である。以下、簡潔に説明する。
CPU101は、マイクロプロセッサ及びその周辺回路から構成され、ノートPC6全体を制御する回路である。また、ROM102は、CPU101で実行される所定の制御プログラム(ソフトウェア部品)を格納するメモリであり、RAM103は、CPU101がROM102に格納された所定の制御プログラム(ソフトウェア部品)を実行して各種の制御を行うときの作業エリア(ワーク領域)として使用するメモリである。
補助記憶装置104は、汎用のOS、機器情報及びファイアウォールに関する設定情報を含む各種情報を格納する装置であり、不揮発性の記憶装置であるHDD(Hard Disk Drive)等が用いられる。なお、上記各種情報は、補助記憶装置104以外にも、CD−ROM(Compact Disk − Read−Only Memory)若しくはDVD(Digital Versatile Disk)等の記録媒体又はその他のメディアを記憶されてもよい。これらの記録媒体に格納された各種情報は、記録媒体読取装置105等のドライブ装置を介して、コンピュータが読み取ることが可能である。また、必要に応じて記録媒体を記録媒体読取装置105にセットすることで、コンピュータは、各種情報が得られる。
入力装置106は、ユーザが各種入力操作を行うための装置である。入力装置106は、マウス、キーボード及び表示装置107の表示画面上に重畳するように設けられたタッチパネルスイッチ等を含む。また、入力装置106は、電子黒板等の外部装置からケーブル等を介してデータを取得するコネクタ等のインタフェースである。表示装置107は、例えば、LCD(Liquid Crystal Display)又はCRT(Cathode Ray Tube)等から構成される。通信装置108は、ネットワークを介して、外部装置との通信を行う装置である。通信装置108は、有線ネットワーク及び無線ネットワーク等を含む各種ネットワーク形態に応じた通信をサポートする。
<機能構成例>
ノートPC6にアプリケーションがインストールされると、例えば、ノートPC6は、以下のような機能構成となる。
図6は、本実施形態の画像処理装置の機能構成図の一例である。図示するように、ノートPC6は、クライアント部20及び表示部29を備える。また、クライアント部20は、座標検出部22、イベント振分部25、操作処理部26、ジェスチャ処理部27、画像処理部30及び通信制御部60を備える。
座標検出部22は、電子黒板2から入力される座標値を示すデータを取得する。例えば、座標検出部22は、入力装置106(図5)又は通信装置108(図5)等によって実現される。
イベント振分部25は、座標検出部22によって取得されるデータ、すなわち、座標値に基づいて、電子黒板2に対して入力された操作をストローク描画、UI(User Intefface)操作又はジェスチャ操作のいずれかのイベントに振り分ける。例えば、イベント振分部25は、CPU101(図5)等によって実現される。
なお、ストローク描画は、電子黒板2上にストローク画像が表示されている場合において、ユーザが電子黒板2を手H等で押してから、押した状態で手Hを電子黒板2上で移動させ、その後、押した手Hを電子黒板2から離すまでのイベントである。例えば、ストローク描画によって、アルファベットの「S」又は「T」等の文字が、電子黒板2上に描画される。なお、ストローク描画には、描画した文字等の画像を削除したり、編集したりするイベントが含まれる。
また、ジェスチャ操作は、電子黒板2上にストローク画像が表示されている場合において、ユーザが表示されている画像に対して、手Hで変更するイベントである。例えば、ジェスチャ操作によって、表示されている画像の拡大、縮小、表示領域の変更、ページ切り替え又はこれらの組み合わせ等が行われる。
さらに、UI操作は、電子黒板2上に表示されるUIに対する操作である。
操作処理部26は、イベント振分部25によって、UI操作に振り分けられるイベントが発生すると、操作の対象となるUIの種類に基づいて処理を行う。なお、UIの種類は、例えば、ボタン、リスト、チェックボックス又はテキストボックス等である。例えば、操作処理部26は、CPU101(図5)等によって実現される。
ジェスチャ処理部27は、イベント振分部25によって、ジェスチャ操作に振り分けられるイベントが発生すると、ジェスチャの種類に基づいて処理を行う。具体的には、拡大のジェスチャ操作が入力された場合には、ジェスチャ処理部27は、ジェスチャの対象となる画像を拡大する処理を行う。例えば、ジェスチャ処理部27は、CPU101(図5)等によって実現される。
画像処理部30は、画像取得部31、ストローク処理部32、UI画像生成部33、背景生成部34、レイアウト管理部35、表示重畳部36、ページデータ記憶部300、ファイル処理部40及び遠隔ライセンス管理テーブル310を備える。
画像取得部31は、外部装置から取得される映像が示す各フレームを画像として取得する。また、画像取得部31は、画像データをページ処理部37に出力する。この画像は、映像出力機器(ノートPC6等)からの出力画像である。
ストローク処理部32は、イベント振分部25によってストローク描画に振り分けられるイベントが発生すると、ストロークに基づいて、画像を描画したり、削除したり、編集したりする。このストローク描画に基づいて生成される画像が、ストローク画像となる。
UI画像生成部33は、電子黒板2にあらかじめ設定されるUI、すなわち、アイコン等の画像を生成する。
背景生成部34は、ページ処理部37によってページデータ記憶部300から読み出されるページデータのうち、メディアデータをページ処理部37から受信する。そして、背景生成部34は、受信するメディアデータを表示重畳部36に出力する。なお、背景は、例えば、無地又はグリッド等である。
レイアウト管理部35は、画像取得部31、ストローク処理部32、UI画像生成部33又は背景生成部34から表示重畳部36に出力される各画像のレイアウトを管理する。このように、レイアウト管理部35がレイアウトを管理することによって、レイアウト管理部35は、出力画像及びストローク画像を、UI画像及び背景画像のうち、どこに表示させるか又は非表示とするか等を指示することができる。
表示重畳部36は、レイアウト管理部35からのレイアウトに基づく指示に従って、画像取得部31、ストローク処理部32、UI画像生成部33又は背景生成部34から出力される各画像のレイアウトを行う。
また、ページ処理部37は、記憶されるページデータのうち、ストローク配列データ(各ストロークデータ)をストローク処理部32に出力することで、ストロークを再び編集できる状態にする。さらに、ページ処理部37は、記憶されるページデータを削除したり、複製したりする。
まず、ページ処理部37がページデータ記憶部300にページデータを記憶すると、ディスプレイ上に表示される出力画像のデータは、ページデータ記憶部300に記憶される。そして、ページデータ記憶部300から読み出される場合には、出力画像のデータは、背景を示すメディアデータとして読み出される。次に、ページ処理部37は、ページデータ記憶部300から読み出されるページデータのうち、ストローク画像を示すストローク配列データをストローク処理部32に出力する。また、ページ処理部37は、ページデータ記憶部300から読み出されるページデータのうち、背景を示すメディアデータを背景生成部34に出力する。
表示重畳部36は、画像取得部31から出力される出力画像、ストローク処理部32から出力されるストローク画像、UI画像生成部33から出力されるUI画像及び背景生成部34から出力される背景画像を、レイアウト管理部35からのレイアウトに基づく指示に従って重畳する。このようにすると、表示重畳部36は、各画像が重畳されてもユーザが各画像を見ることができる順に出力画像、ストローク画像、UI画像及び背景画像を重畳するレイヤとすることができる。
ファイル処理部40は、USBメモリ5等の外部装置から入力されるデータ又はUSBメモリ5等の外部装置に対してデータを出力する処理を行う。すなわち、ファイル処理部40は、USBメモリ5等に対してファイルを入出力する。なお、入力されるファイルは、ページデータ記憶部300に記憶される。また、出力されるファイルは、ページデータ記憶部300から読み出される。例えば、ファイル処理部40は、入力装置106(図5)等によって実現される。
遠隔ライセンス管理テーブル310は、通信ネットワーク9等を介して接続される外部装置と通信を行うのに用いるライセンスを管理する。例えば、遠隔ライセンス管理テーブル310は、補助記憶装置104(図5)等によって実現される。
表示部29は、ディスプレイ等の出力装置又は接続される外部装置に対して、表示重畳部36が生成する画像を表示する。例えば、表示部29は、表示装置107(図5)等によって実現される。
通信制御部60は、通信ネットワーク9を介して、外部装置と通信を行い、データを送受信する。例えば、通信制御部60は、通信装置108(図5)等によって実現される。
<画面例及び設定例>
以下、ノートPCのOS(Operating System)がWindows(登録商標)である例で説明する。なお、実施形態は、OSがWindows(登録商標)である場合に限られない。すなわち、OSは、Windows(登録商標)以外の種類でもよい。
以下の説明は、ノートPCに対して複数のディスプレイが接続される場合であるとする。例えば、図2に示すように、ノートPC6に対して電子黒板2が接続される場合である。すなわち、ノートPC6は、ノートPC6が有する表示装置107(図5)と、電子黒板2が有するディスプレイ3(図4)とを認識し、どちらの画面に対しても画面を表示する。そして、ノートPCには、各ディスプレイに同一の画面をそれぞれ表示する(以下「複製」という。)か又は各ディスプレイに異なる画面をそれぞれ表示する(以下「拡張」という。)かが設定できる。具体的には、OSがWindows7(登録商標)である場合には、「画面の解像度」の設定における「複数のディスプレイ」のプルダウンメニューにある「表示画面を拡張する」及び「表示画面を複製する」をユーザが選んで設定することができる。例えば、設定と、各ディスプレイに表示される画面とは、以下のような関係となる。
図7は、本実施形態の画像処理装置によって表示される画面を示す図の一例である。図示する表において、上段(図内では「複製」と示す段である。)は、ノートPCに「複製」の設定がされる場合に、各ディスプレイに表示される画面の例を示す。一方で、図示する表において、下段(図内では「拡張」と示す段である。)は、ノートPCに「拡張」の設定がされる場合に、各ディスプレイに表示される画面の例を示す。
以下、ノートPCが有するディスプレイに表示される画面を「第1画面」という。一方で、図2のように、ノートPCに対して電子黒板2が接続される場合の例において、電子黒板2が有するディスプレイ3に表示される画面を「第2画面」という。
図2で説明するように、ノートPCにアプリケーションがインストールされると、ノートPCは、例えば、図7に示すようなアプリケーション画面APPを表示することができる。このアプリケーション画面APPに対してユーザが操作を入力すると、ユーザは、ノートPCに対して操作を入力することで、電子黒板2を利用することができる。
図7に戻り、図示するように、設定によって、ノートPCは、第1画面と、第2画面とに表示される画面を同一とするか異なる画面とするかを変えることができる。具体的には、図示する例において「複製」の設定では、ノートPCは、第1画面及び第2画面にそれぞれアプリケーション画面APPをそれぞれ表示する。この設定では、第1画面と、第2画面とに表示される画面が同一とされるため、例えば、第1画面が表示するアプリケーション画面APPが操作を入力すると、同様の操作が行われた画面が、第2画面にも表示される。
一方で、図示する例において「拡張」の設定では、ノートPCは、第1画面には、デスクトップ画面DSKを表示し、第2画面には、アプリケーション画面APPをそれぞれ表示する。以下、図示するような「拡張」の設定が、ノートPCに対してされた場合を例に説明する。
この例では、第1画面には、デスクトップ画面DSKが表示され、ユーザは、デスクトップ画面DSKに対して操作を入力することで、インストールされているプログラム等を用いて、文書を作成したり、画像を編集したりする等の操作を行うことができる。なお、第1画面に表示される画面は、電子黒板2が有するディスプレイ3には表示されない。そのため、ノートPCに接するユーザは、第1画面において、作業中の画面又は秘密のデータ等が表示されている画面等をノートPCに接するユーザ以外の者に見られることなく操作を行うことができる。
一方で、第2画面に表示される画面は、ノートPCに接するユーザも、電子黒板2を見る会議の参加者等にもアプリケーション画面APPによって表示される。そのため、第2画面にアプリケーション画面APPによって情報を表示して情報共有等を行うことができる。
また、「拡張」の設定では、ツールバー等のGUI(Graphical User Interface、以下「グラフィックユーザインタフェース」という場合もある。)は、ユーザの操作に基づいて、第1画面と、第2画面との間を移動することができる。すなわち、「拡張」の設定では、ユーザは、第1画面と、第2画面とがつながった1つの画面のように操作することができる。例えば、ユーザは、デスクトップ画面DSK側で表示されるアイコンをいわゆるドラッグアンドドロップ等の操作によって、アプリケーション画面APP側に移動させることができる。
そして、ノートPCを操作するユーザが用意した資料をキャプチャし、キャプチャした画像を電子黒板に表示させる場合がある。以下、「複製」の設定がされた場合と、「拡張」の設定がされた場合のそれぞれの例を説明する。
図8は、本実施形態の画像処理装置に対して「複製」の設定がされた場合の画面を示す図の一例である。図は、ノートPCに対して「複製」の設定がされた場合に、各画面に表示される画面の例を示す。
以下、ユーザがノートPCから電子黒板を利用する、すなわち、アプリケーション画面APPが表示される場合を「ホワイトボードモード」という。一方で、ユーザがノートPCにおいて電子黒板を利用する以外の操作を行う、すなわち、アプリケーション画面APPが最小化され、かつ、デスクトップ画面DSKが表示される場合を「デスクトップモード」という。
また、ノートPCは、キャプチャによって、電子黒板に表示される画像(以下「表示画像」という。)を生成する。そして、表示画像を生成する指示、すなわち、キャプチャを実行させる操作をユーザが入力すると、ノートPCは、キャプチャを行う。そのため、ノートPCは、この指示をユーザに入力させるGUIを表示する。例えば、このGUIは、以下に示すようなツールバーCAPである。以下、ホワイトボードモードにおいて表示されるツールバーCAPの例を説明する。
図9は、本実施形態の画像処理装置が表示するGUIを示す図の一例である。図示する例は、ホワイトボードモードでは、アプリケーション画面APP上に、ツールバーCAPがノートPCによって表示される例である。なお、ツールバーCAPは、ユーザによるドラッグアンドドロップ等の操作によって、表示する位置を変更することができる。また、ツールバーCAPは、アプリケーション画面APP上に表示される、いわゆる、最前面に表示されるのが望ましい。以下、ツールバーCAPの詳細を説明する。
図10は、本実施形態の画像処理装置が表示するツールバーを示す図の一例である。すなわち、図10は、図9におけるツールバーCAPを大きくして示す図である。図示するように、ツールバーCAPは、例えば、最小化ボタンBMIN、終了ボタンBEND、キャプチャボタンBCAP、ホワイトボードボタンBWBM及びデスクトップモードボタンBDTMを有する。
以下、ツールバーCAPに対してユーザが操作を行うと、下記の処理が行われる例で説明する。
(1)デスクトップ画面DSK(図7等)に表示される画面をキャプチャして表示画面を生成し、生成された表示画面がアプリケーション画面APPに取り込まれる処理
(2)ホワイトボードモードと、デスクトップモードとを切り替える処理
(3)ツールバーCAPを最小化させる(タスクバーに入れる)処理
(4)アプリケーションを終了させる処理
ツールバーCAPが有するボタンが押下されると、ノートPCは、上記(1)乃至(4)の処理を以下のようにして実行する。
最小化ボタンBMINが押下されると、ノートPCは、ツールバーCAPと、アプリケーション画面APPとを最小化させる。すなわち、ノートPCは、ツールバーCAPと、アプリケーション画面APPとをいわゆるタスクバーに収納する。このようにして、最小化ボタンBMINが押下されると、ノートPCは、上記(3)の処理を行う。
終了ボタンBENDが押下されると、ノートPCは、アプリケーションを終了させる。このようにして、終了ボタンBENDが押下されると、ノートPCは、上記(4)の処理を行う。
ホワイトボードボタンBWBM又はデスクトップモードボタンBDTMのどちらかが押下されると、ノートPCは、ホワイトボードモードと、デスクトップモードとを切り替える。具体的には、ホワイトボードモードにおいて、デスクトップモードボタンBDTMが押下されると、ノートPCは、ホワイトボードモードからデスクトップモードに切り替える。一方で、デスクトップモードにおいて、ホワイトボードボタンBWBMが押下されると、ノートPCは、デスクトップモードからホワイトボードモードに切り替える。このようにして、ホワイトボードボタンBWBM又はデスクトップモードボタンBDTMが押下されると、ノートPCは、上記(2)の処理を行う。
キャプチャボタンBCAPが押下されると、ノートPCは、第1画面又は第2画面(図7及び図8)のいずれか一方の画面を選択して、選択された画面を示す表示画像を生成する。すなわち、キャプチャボタンBCAPが押下されると、ノートPCは、上記(1)の処理を行う。なお、図8に示すように、「複製」である場合には、第1画面と、第2画面とは、ホワイトボードモードであっても、デスクトップモードであっても同一の画面であるため、どちらの画面が選択されても、表示画像は、同様の画像となる。
一方で、以下のように、「拡張」の設定がされる場合がある。
図11は、本実施形態の画像処理装置に対して「拡張」の設定がされた場合の画面を示す図の一例である。図は、ノートPCに対して「拡張」の設定がされた場合に、各画面に表示される画面の例を示す。図7で説明するように、「拡張」の設定がされると、ノートPCは、第1画面と、第2画面とでそれぞれ異なる画面を表示する。図示するように、ホワイトボードモードでは、例えば、第1画面に、デスクトップ画面DSKが表示され、第2画面に、アプリケーション画面APPが表示される。
一方で、図示するように、デスクトップモードでは、例えば、第1画面にも、第2画面にもデスクトップ画面が表示される。ただし、第1画面に表示されるデスクトップ画面(以下「第1デスクトップ画面DSK1」という。)と、第2画面に表示されるデスクトップ画面(以下「第2デスクトップ画面DSK2」という。)とは、異なる画面である。すなわち、「拡張」の設定がされ、かつ、デスクトップモードであると、ユーザの操作に基づいて、ノートPCは、第1デスクトップ画面DSK1と、第2デスクトップ画面DSK2とに異なる資料をノートPCにそれぞれ表示させること等ができる。特に、「拡張」の設定がされ、かつ、デスクトップモードでは、ユーザは、キャプチャの対象を第1デスクトップ画面DSK1又は第2デスクトップ画面DSK2から選択したい場合が多い。
そこで、ノートPCは、第1画面又は第2画面のうち、どちらの画面を選択する、すなわち、キャプチャの対象とするかを、例えば、ツールバーCAP(図10)が表示される位置等で判定する。具体的には、ノートPCは、以下のような処理で判定を行う。
図12は、本実施形態の画像処理装置による判定処理を示すフローチャートの一例である。図示する判定処理は、例えば、ツールバーCAP(図10)がドラッグアンドドロップの操作によって移動されたり、設定又はモードが切り替えられたりすると、ノートPCによって行われる処理である。
ステップS01では、ノートPCは、設定が「複製」であるか「拡張」であるかを判断する。例えば、ノートPCは、ユーザがあらかじめOS等に設定するディスプレイに係る設定値等を取得して、取得される設定値等から設定が「複製」であるか「拡張」であるかを判断する。次に、設定が「複製」であると、ノートPCは、ステップS02に進む。一方で、設定が「拡張」であると、ノートPCは、ステップS05に進む。
ステップS02では、ノートPCは、「ホワイトボードモード」であるか「デスクトップモード」であるかを判断する。例えば、図10に示すホワイトボードボタンBWBM又はデスクトップモードボタンBDTMのうち、直近に押下されたボタンがどちらであるか又はOS等の設定等に基づいて、ノートPCは、判断する。次に、「デスクトップモード」であると判断されると、ノートPCは、ステップS03に進む。一方で、「ホワイトボードモード」であると判断されると、ノートPCは、ステップS04に進む。
ステップS03では、ノートPCは、第1画面に基づいて表示画像を生成する。すなわち、「複製」で設定であり、かつ、「デスクトップモード」である場合に、キャプチャボタンBCAP(図10)が押下されると、ノートPCは、デスクトップ画面DSK(図8)をキャプチャする。より具体的には、ノートPCは、デスクトップ画面DSKを示す画像をRAM103(図5)に記憶する。
ステップS04では、ノートPCは、キャプチャを制限する。例えば、ノートPCは、キャプチャボタンBCAPをグレーアウトさせたりして使用できなくしたり、キャプチャボタンBCAPが押下されてもキャプチャが行われないようにする。
設定が「複製」であっても、「拡張」であっても、「ホワイトボードモード」では、ユーザがキャプチャしたいのは、デスクトップ画面DSKであることが多い。それは、アプリケーション画面APP(図7及び図8)に表示されている画面は、既に電子黒板に表示されている画面であるため、再度キャプチャし、電子黒板に表示させる作業を行うことは、少ないためである。
ステップS05では、ノートPCは、ツールバーの座標値を取得する。例えば、ノートPCは、ツールバーCAPが有する所定の箇所が、どこに表示されているかを取得する。
図13は、本実施形態の画像処理装置によるGUIが有する所定の箇所を用いる判定処理を示す図の一例である。以下、図示するような第1画面及び第2画面の例で説明する。
まず、この例では、第1画面が、「1280×800」の解像度(いわゆるWXGA)に設定されるとする。一方で、この例では、第2画面が、「1920×1080」の解像度(いわゆるFHD)に設定されるとする。そして、図示するように、第1画面の左上が原点(0,0)に設定されるとする。また、この例では、「拡張」の設定において、第1画面及び第2画面は、図示するように、第1画面の右端と第2画面の左端とがつながっているように設定されるとする。さらに、この例では、ユーザは、ツールバーCAPをドラッグする操作によって、ツールバーCAPを第1画面内、第2画面内及び第1画面と第2画面の間で移動させることができる。なお、第1画面及び第2画面の配置は、図示する配置に限られず、例えば第1画面と第2画面とは逆に配置される等でもよい。
ステップS05(図12)では、ノートPCは、ツールバーCAPが有する所定の箇所の図13上における座標値を取得する。所定の箇所は、あらかじめ設定される。例えば、所定の箇所は、左上ULの点等である。なお、所定の箇所は、左上ULの点以外でもよい。例えば、所定の箇所は、以下のような点でもよい。
図14は、本実施形態の画像処理装置によって表示されるGUIが有する所定の箇所を示す図の一例である。例えば、取得される座標値の対象となる所定の箇所は、左上UL以外の四隅の点等である。具体的には、図示するように、所定の箇所は、左下UDの点、右上RLの点又は右下RDの点等である。他にも、所定の箇所は、図心ICの点又はユーザが設定する点等でもよい。
ステップS06では、ノートPCは、各画面に係るデータを取得する。例えば、図13に示す例では、ノートPCは、第1画面及び第2画面の解像度(領域情報)等を示すデータを取得する。これにより、図13に示す例では、ノートPCは、X軸の座標値が「0」乃至「1279」、すなわち、X軸の座標値が「1279」以下の領域は、第1画面であると判定できる。一方で、図13に示す例では、ノートPCは、X軸の座標値が「1280」乃至「3200」、すなわち、X軸の座標値が「1280」以上の領域は、第2画面であると判定できる。
ステップS07では、ノートPCは、キャプチャの対象が第1画面か第2画面かを判断する。例えば、ノートPCは、ステップS05で取得される座標値が、ステップS06で取得されるデータに基づいて、どちらの画面にあるかで判断する。
具体的には、図13に示す例では、ノートPCは、ステップS05で、左上ULの点の座標値(1158,356)を取得する。次に、ノートPCは、ステップS06で取得されるデータに基づいて、左上ULの点のX座標の座標値が「1279」以下であるか「1280」以上であるか判断する。この場合には、「1158」の座標値は、「1279」以下であるため、第1画面にあると判断される。すなわち、左上ULの点が、図13に示す左側の領域にあると、ノートPCは、第1画面にあると判断する(ステップS07で「第1画面」)。一方で、左上ULの点が、図13に示す右側の領域にあると、ノートPCは、第2画面にあると判断する(ステップS07で「第2画面」)。
なお、キャプチャの対象が第1画面か第2画面かを判断する方法は、所定の箇所の座標値に限られない。例えば、判断する方法は、以下のようなツールバーCAPの面積を利用する方法でもよい。
図15は、本実施形態の画像処理装置によって表示されるGUIの面積を利用する判定処理を示す図の一例である。以下、図13に示す例において、ツールバーCAPが表示される面積のうち、第1画面に表示されるツールバーCAPの面積を「第1面積AR1」という。一方で、ツールバーCAPが表示される面積のうち、第2画面に表示されるツールバーCAPの面積を「第2面積AR2」という。例えば、第1面積AR1及び第2面積AR2は、図15のように示せる。図示する例では、第1面積AR1と、第2面積AR2とを比較すると、第2面積AR2の方が、第1面積AR1の方より広い。そのため、ノートPCは、第2画面にあると判断する(図12に示すステップS07で「第2画面」)。
また、判断する方法は、ユーザにどちらをキャプチャ対象とするか入力させる方法でもよい。例えば、キャプチャの際に、ノートPCは、図13に示すいずれかの領域をクリックするようにユーザにメッセージを表示する。次に、この表示に従って、ユーザが、図13に示すいずれかの位置をクリックする操作を入力する。続いて、ステップS05(図12)では、ノートPCは、クリックされた点の座標値を取得する。そして、ステップS07(図12)では、ノートPCは、クリックされた点の座標値がステップS06(図12)で取得されるデータに基づいて、どちらの画面にあるかで判断してもよい。すなわち、ユーザがキャプチャ対象に希望する方の画面の領域をクリックし、クリックされた点の座標値に基づいて、キャプチャ対象が、ノートPCによって判断されてもよい。
他にも、ユーザにどちらをキャプチャ対象とするか入力させる方法は、例えば、キャプチャの際に、キャプチャ対象を選択するボタンを表示し、ユーザに入力させる方法でもよい。すなわち、キャプチャの際に、ノートPCは、「キャプチャ対象を第1画面とする」ボタンと、「キャプチャ対象を第2画面とする」ボタンとをそれぞれ表示する。そして、ノートPCは、ボタンが押下された方の画面をキャプチャ対象と判断してもよい。
さらに、判断する方法は、X座標値を使用する方法に限られない。例えば、設定等によって、以下のように第1画面及び第2画面がつながる場合がある。
図16は、本実施形態の画像処理装置によって表示されるY座標値を使用する場合の画面を示す図の一例である。図示するように、第1画面及び第2画面は、図における縦方向、すなわち、Y軸方向につながるような設定がされる場合がある。このような場合等では、ステップS07(図12)では、ノートPCは、ステップS05(図12)で取得される座標値のうち、Y座標値を用いて判断する。
図12に戻り、ステップS08では、「ホワイトボードモード」であるか「デスクトップモード」であるかを判断する。例えば、ステップS08では、ノートPCは、ステップS02と同様の判断を行う。次に、「デスクトップモード」であると判断されると、ノートPCは、ステップS09に進む。一方で、「ホワイトボードモード」であると判断されると、ノートPCは、ステップS04に進む。
ステップS09では、ノートPCは、第2画面に基づいて表示画像を生成する。すなわち、「拡張」で設定であり、かつ、「デスクトップモード」である場合に、キャプチャボタンBCAP(図10)が押下されると、ノートPCは、ステップS07で判断された方のデスクトップ画面をキャプチャする。具体的には、ステップS09では、ノートPCは、第2デスクトップ画面DSK2(図11)をキャプチャする、すなわち、第2デスクトップ画面DSK2を示す画像をRAM103(図5)に記憶する。
ステップS10では、ノートPCは、第1画面に基づいて表示画像を生成する。すなわち、「拡張」で設定であり、かつ、「デスクトップモード」である場合に、キャプチャボタンBCAP(図10)が押下されると、ノートPCは、ステップS07で判断された方のデスクトップ画面をキャプチャする。より具体的には、ステップS10では、ノートPCは、第1デスクトップ画面DSK1(図11)をキャプチャする。例えば、ステップS10は、ステップS03と同様の処理を行う。
このように判定処理が行われると、ユーザは、ツールバーCAPを移動させて、キャプチャしたい画面を選択することができる。なお、ユーザが、キャプチャ対象と判断される画面の方に資料等を移動させる操作を入力しても同様である。特に、図11に示す下段のように、「拡張」で設定であり、かつ、「デスクトップモード」である場合には、ユーザは、キャプチャ対象を第1デスクトップ画面DSK1(図11)とするか第2デスクトップ画面DSK2(図11)とするか選択したい場合が多い。そこで、図13に示す例等では、ユーザは、キャプチャ対象とした画面の領域に左上ULの点があるようにツールバーCAPを移動させる操作を入力する。次に、ノートPCが、図12に示す判定処理を行うと、ノートPCは、ユーザがキャプチャしたい画面、すなわち、ユーザが表示画像としたい画面がどちらであるか判定することができる。
したがって、ノートPCが複数の画面を表示する場合であっても、ノートPCは、ユーザが表示画像としたい画面をキャプチャして、表示画像を生成することができる。このようにしてキャプチャされ、生成された表示画像が画像表示装置に取り込まれると、ユーザによってノートPC上で用意された資料等が、画像表示装置によって、表示させることができる。
<第2実施形態>
第2実施形態は、例えば、第1実施形態と同様の全体構成及びハードウェア構成によって実現される。以下、第1実施形態と同様の全体構成及びハードウェア構成である例で説明し、重複する説明を省略する。第2実施形態では、以下のような条件判定処理が行われる点が異なる。
<条件判定処理例>
ノートPCは、例えば、以下のような画面判定処理を行う条件判定部を備える。なお、条件判定部は、例えば、CPU101(図5)等によって実現される。
図17は、本実施形態の画像処理装置による条件判定処理を示すフローチャートの一例である。なお、条件判定処理は、アプリケーションを起動する際又は画面に係る設定を変更する際等に行われる処理である。
ステップS21では、ノートPCは、複数の画面のうち、所定の条件を満たす画面があるか否か判断する。例えば、図2に示すように、ノートPC6が、ノートPC6が有するディスプレイと、電子黒板2が有するディスプレイとに画面を表示する例で説明する。このような場合において、電子黒板2の仕様等によって、電子黒板2が有するディスプレイに表示させる画面は、所定の条件を満たしていないと、表示できない場合等がある。
例えば、所定の条件は、所定の解像度であるか又は所定の解像度以上の解像度の画面等である。以下、電子黒板2が有するディスプレイに表示させる画面は、「1920×1080」の解像度(以下「FHD」という。)でないと、電子黒板2が有するディスプレイに表示させることができない場合であるとする例で説明する。この例では、所定の条件が「FHDの解像度の画面である」とあらかじめノートPCにユーザによって設定される。また、以下の説明は、図11に示すように、「拡張」の設定がノートPCに設定される例で説明する。
この例では、ステップS21では、ノートPCは、第1画面及び第2画面のうち、どちらか一方又は双方の解像度がFHDであるか否か判断する。なお、各画面の解像度は、ノートPCによって、図12に示すステップS06等のように取得される。例えば、図13に示す例の場合には、第2画面が「1920×1080」の解像度であるため、第2画面がFHDであると判断される。そのため、図13に示す例では、ノートPCは、ステップS21において所定の条件を満たす画面があると判断する(ステップS21でYES)。
次に、複数の画面のうち、所定の条件を満たす画面があると(ステップS21でYES)、ノートPCは、ステップS22に進む。一方で、複数の画面のうち、所定の条件を満たす画面がないと(ステップS21でNO)、ノートPCは、ステップS24に進む。
ステップS22では、ノートPCは、画像表示装置がノートPCに接続されているか否か判断する。例えば、ノートPCは、図2に示すケーブル10が電気的に接続されているか否か等をチェックし、電子黒板2が接続されているか否かを判断する。
この例では、ケーブル10が電気的に接続されていないと、ノートPCは、電子黒板2から各種データを受信するのが難しい。そのため、電子黒板2上に書き込みが行われても、アプリケーションにデータが送信されない場合が多い。そこで、ステップS22のようにケーブル10が電気的に接続されている状態であるか否かが判断されると、ノートPCは、電子黒板2上の書き込みがアプリケーションに反映されないのを少なくできる。
次に、画像表示装置がノートPCに接続されていると(ステップS22でYES)、ノートPCは、ステップS23に進む。一方で、画像表示装置がノートPCに接続されていないと(ステップS22でNO)、ノートPCは、ステップS24に進む。
なお、ステップS21及びステップS22は、図示するように、別々に行われてもよく、ステップS21の所定の条件にステップS22の判断が含まれてもよい。
ステップS23では、ノートPCは、アプリケーション画面を所定の条件を満たす画面に表示する。例えば、図13に示す例では、第2画面が、所定の条件を満たす画面である。そこで、ステップS23では、ノートPCは、アプリケーション画面APP(図7)を第2画面に表示する。このようにすると、例えば、ノートPCは、図7の下段(「拡張」の段)のように各画面を表示することとなる。
ステップS24では、ノートPCは、アプリケーションの起動を中止する。
このような条件判定処理が行われると、ノートPCは、複数の画面のうち、所定の条件、特に解像度に係る条件を満たす画面を判定することができる。画像表示装置には、所定の条件を満たした画面でないと、画像表示装置の仕様等によって、表示できない場合がある。そのため、アプリケーション画面APP(図7)は、所定の条件を満たす画面に表示されるのが望ましい。そこで、ノートPCは、まず、所定の条件を満たす画面があるか否か判断する。そして、所定の条件を満たす画面がある場合には、ノートPCは、所定の条件を満たす画面に、アプリケーション画面APPを表示する。
このように、所定の条件を満たす画面にアプリケーション画面APPが表示されると、以降、ユーザは、所定の条件を満たす画面において、アプリケーション画面APPに対して操作を行う場合が多い。そのため、画像表示装置には、アプリケーションを介して、表示することができる画面が、ノートPCによって表示される。
ユーザは、複数の画面のうち、どちらが所定の条件を満たす画面であるか知らない場合がある。そのため、画像表示装置を利用するのに、アプリケーション画面APPをどの画面に表示させて使用すればよいかわからない場合がある。そこで、ノートPCが所定の条件を満たす画面を判定して、アプリケーションを起動すると、ユーザは、アプリケーションを用いて画像表示装置を利用することができる。
なお、「複製」の設定がノートPCに設定される場合であっても、例えば、画面が所定の解像度以上でないと、アプリケーション画面APPが画面からはみ出す場合等がある。そこで、上記の方法は、「複製」の設定がノートPCに設定される場合に行われてもよい。
<その他の変形例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
なお、本実施形態では、電子黒板2(図2)という呼称で説明したが、電子黒板2は、電子情報ボード、電子ホワイトボード又はインタラクティブホワイトボード等のように呼ばれていてもよい。
また、本実施形態では電子黒板2を例にして説明したが、不特定多数のものに使用され、データを作成し、該データを継続的に使用する機器に適用されてもよい。
また、図示する構成例は、電子黒板2による処理の理解を容易にするために、主な機能に応じて分割して示した構成である。そのため、処理単位の分割の仕方又は名称によって本願発明は、限定されない。例えば、電子黒板2の処理は、処理内容に応じて更に多くの処理単位に分割してもよい。また、1つの処理単位は、更に多くの処理を含むように分割されてもよい。
他にも、画像表示装置及び画像処理装置は、1つの情報処理装置によって実現される構成に限られない。すなわち、画像表示装置及び画像処理装置は、2つ以上の情報処理装置を有する情報処理システムであってもよい。なお、画像表示装置又は画像処理装置では、各処理の一部又は全部が分散、冗長、並列又はこれらを組み合わせるように、処理が行われてもよい。
なお、本発明に係る各処理の全部又は一部は、アセンブラ、C、C++、C#及びJava(登録商標)等のプログラミング言語等で記述されたコンピュータに画像処理方法を実行させるためのプログラムによって実現されてもよい。すなわち、プログラムは、画像処理装置等のコンピュータに画像処理方法を実行させるためのコンピュータプログラムである。
また、プログラムは、ROM又はEEPROM(Electrically Erasable Programmable ROM)等のコンピュータが読み取り可能な記録媒体に格納して頒布することができる。さらに、記録媒体は、EPROM(Erasable Programmable ROM)、フラッシュメモリ、フレキシブルディスク、光学ディスク、SD(登録商標)カード又はMO等でもよい。さらにまた、プログラムは、電気通信回線を通じて頒布することができる。
本国際出願は、2016年2月12日に出願された日本国特許出願2016−025359号に基づく優先権を主張するものであり、その全内容を本国際出願に援用する。
1 画像処理システム
2 電子黒板
3 ディスプレイ
4 電子ペン
6 ノートPC
特開2000−43484号公報

Claims (8)

  1. 手書きデータを表示画像に重畳した視覚情報を表示する画像表示装置に接続される画像処理装置であって、
    第1画面及び前記第1画面とは異なる第2画面の複数の画面を表示し、かつ、前記第1画面及び前記第2画面のうち、いずれか一方の画面を前記画像表示装置に表示させる表示部と、
    前記第1画面又は前記第2画面のいずれかを選択して前記表示画像を生成する画像処理部とを備え、
    前記画像処理部は、前記第1画面及び前記第2画面のうち、いずれかの画面を選択する操作、又は、前記表示画像の生成を指示する操作を入力するグラフィックユーザインタフェースに基づいて、選択された画面の前記表示画像を生成する
    画像処理装置。
  2. 前記画像処理部は、前記グラフィックユーザインタフェースが有する所定の箇所が前記第1画面又は前記第2画面のどちらに表示されているかに基づいて前記表示画像を生成する請求項1に記載の画像処理装置。
  3. 前記画像処理部は、前記第1画面に表示される前記グラフィックユーザインタフェースの第1面積と、前記第2画面に表示される前記グラフィックユーザインタフェースの第2面積とを比較して前記表示画像を生成する請求項2に記載の画像処理装置。
  4. 前記表示部は、前記第1画面と、前記第2画面とが異なる画面となるように表示する画面を拡張する請求項1乃至3のいずれか一項に記載の画像処理装置。
  5. 前記複数の画面が、所定の条件を満たしているか否か判定する条件判定部を更に備え、
    前記判定によって前記所定の条件を満たしていると判断される画面に、前記画像表示装置を利用するのに用いるアプリケーション画面を表示する請求項1乃至4のいずれか一項に記載の画像処理装置。
  6. 前記条件判定部は、前記複数の画面が、所定の解像度又は前記所定の解像度以上の解像度であるか否かを判定する請求項5に記載の画像処理装置。
  7. 手書きデータを表示画像に重畳した視覚情報を表示する1以上の画像表示装置と、前記画像表示装置に接続される1以上の画像処理装置とを有する画像処理システムであって、
    第1画面及び前記第1画面とは異なる第2画面の複数の画面を表示し、かつ、前記第1画面及び前記第2画面のうち、いずれか一方の画面を前記画像表示装置に表示させる表示部と、
    前記第1画面又は前記第2画面のいずれかを選択して前記表示画像を生成する画像処理部とを備え、
    前記画像処理部は、前記第1画面及び前記第2画面のうち、いずれかの画面を選択する操作、又は、前記表示画像の生成を指示する操作を入力するグラフィックユーザインタフェースに基づいて、選択された画面の前記表示画像を生成する
    画像処理システム。
  8. 手書きデータを表示画像に重畳した視覚情報を表示する画像表示装置に接続される画像処理装置が行う画像処理方法であって、
    前記画像処理装置が、第1画面及び前記第1画面とは異なる第2画面の複数の画面を表示し、かつ、前記第1画面及び前記第2画面のうち、いずれか一方の画面を前記画像表示装置に表示させる表示手順と、
    前記画像処理装置が、前記第1画面又は前記第2画面のいずれかを選択して前記表示画像を生成する画像処理手順とを含み、
    前記画像処理手順では、前記第1画面及び前記第2画面のうち、いずれかの画面を選択する操作、又は、前記表示画像の生成を指示する操作を入力するグラフィックユーザインタフェースに基づいて、選択された画面の前記表示画像を前記画像処理装置が生成する
    画像処理方法。
JP2017566528A 2016-02-12 2016-11-29 画像処理装置、画像処理システム、画像処理方法、及び、プログラム Active JP7042622B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016025359 2016-02-12
JP2016025359 2016-02-12
PCT/JP2016/085280 WO2017138223A1 (ja) 2016-02-12 2016-11-29 画像処理装置、画像処理システム及び画像処理方法

Publications (2)

Publication Number Publication Date
JPWO2017138223A1 true JPWO2017138223A1 (ja) 2018-11-29
JP7042622B2 JP7042622B2 (ja) 2022-03-28

Family

ID=59563264

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017566528A Active JP7042622B2 (ja) 2016-02-12 2016-11-29 画像処理装置、画像処理システム、画像処理方法、及び、プログラム

Country Status (5)

Country Link
US (1) US10719228B2 (ja)
EP (1) EP3416039A4 (ja)
JP (1) JP7042622B2 (ja)
CN (1) CN108604173A (ja)
WO (1) WO2017138223A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108469945A (zh) * 2018-03-26 2018-08-31 广州视源电子科技股份有限公司 一种显示终端及其控制方法、装置和存储介质
JP6707621B1 (ja) 2018-12-28 2020-06-10 株式会社ラムダシステムズ 情報処理装置、情報処理方法および情報処理プログラム
JP7310546B2 (ja) 2019-10-30 2023-07-19 株式会社リコー 表示装置、表示方法、プログラム、画像処理システム
US11042222B1 (en) 2019-12-16 2021-06-22 Microsoft Technology Licensing, Llc Sub-display designation and sharing
US11404028B2 (en) 2019-12-16 2022-08-02 Microsoft Technology Licensing, Llc Sub-display notification handling
US11487423B2 (en) * 2019-12-16 2022-11-01 Microsoft Technology Licensing, Llc Sub-display input areas and hidden inputs
US11093046B2 (en) 2019-12-16 2021-08-17 Microsoft Technology Licensing, Llc Sub-display designation for remote content source device
CN116324689A (zh) * 2020-10-30 2023-06-23 海信视像科技股份有限公司 显示设备、几何图形识别方法及多图层叠加显示方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003069767A (ja) * 2001-08-27 2003-03-07 Ricoh Co Ltd 表示システムおよび表示プログラム
JP2008193402A (ja) * 2007-02-05 2008-08-21 Sumitomo Electric Ind Ltd 画像表示/処理用端末、システム、プログラム、及び、記憶媒体

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5790114A (en) * 1996-10-04 1998-08-04 Microtouch Systems, Inc. Electronic whiteboard with multi-functional user interface
JP2000043484A (ja) 1998-07-30 2000-02-15 Ricoh Co Ltd 電子黒板システム
JP2002118738A (ja) * 2000-10-10 2002-04-19 Canon Inc 画像表示装置及び方法、該画像表示装置を用いた情報処理装置、並びに記憶媒体
JP4517827B2 (ja) * 2004-11-22 2010-08-04 株式会社日立製作所 画面共有システム及び情報処理装置
JP2007249476A (ja) * 2006-03-15 2007-09-27 Ricoh Co Ltd 情報処理装置および情報処理方法
US8707176B2 (en) * 2007-04-25 2014-04-22 Canon Kabushiki Kaisha Display control apparatus and display control method
JP2012084122A (ja) 2010-09-15 2012-04-26 Ricoh Co Ltd 画像表示装置、画像表示システム、画像表示方法、プログラムおよび記録媒体
CN102446054B (zh) * 2010-09-30 2014-09-10 国际商业机器公司 用于显示网页的方法和系统
CN102147986A (zh) * 2011-04-14 2011-08-10 华中师范大学 一种基于电子双板的远程同步教学系统
CN102413128A (zh) * 2011-11-10 2012-04-11 青岛海信移动通信技术股份有限公司 一种共享电子白板的方法及网络会议系统
JP2013239147A (ja) * 2012-04-20 2013-11-28 Ricoh Co Ltd 表示制御装置
US20130307796A1 (en) * 2012-05-16 2013-11-21 Chi-Chang Liu Touchscreen Device Integrated Computing System And Method
US9870115B2 (en) * 2013-06-07 2018-01-16 Apple Inc. User interfaces for multiple displays
TWI616808B (zh) * 2014-06-30 2018-03-01 緯創資通股份有限公司 分享顯示畫面的方法及裝置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003069767A (ja) * 2001-08-27 2003-03-07 Ricoh Co Ltd 表示システムおよび表示プログラム
JP2008193402A (ja) * 2007-02-05 2008-08-21 Sumitomo Electric Ind Ltd 画像表示/処理用端末、システム、プログラム、及び、記憶媒体

Also Published As

Publication number Publication date
EP3416039A1 (en) 2018-12-19
EP3416039A4 (en) 2019-01-16
US10719228B2 (en) 2020-07-21
US20180321840A1 (en) 2018-11-08
JP7042622B2 (ja) 2022-03-28
CN108604173A (zh) 2018-09-28
WO2017138223A1 (ja) 2017-08-17

Similar Documents

Publication Publication Date Title
JP7042622B2 (ja) 画像処理装置、画像処理システム、画像処理方法、及び、プログラム
US10572779B2 (en) Electronic information board apparatus, information processing method, and computer program product
US20170249294A1 (en) Image processing device, image processing method, and computer-readable storage medium
US11209921B2 (en) Electronic blackboard, storage medium, and information display method
JP6988060B2 (ja) 画像処理装置、画像処理システム、画像処理方法及びプログラム
US10649754B2 (en) Image processing device and electronic whiteboard
JP6160305B2 (ja) 画像処理装置、プログラム、画像処理システムおよび画像処理方法
US20180082663A1 (en) Information processing apparatus, image displaying method, and non-transitory computer readable medium
JP2015158900A (ja) 情報処理装置、情報処理方法および情報処理プログラム
JP6540367B2 (ja) 表示制御装置、通信端末、通信システム、表示制御方法、及びプログラム
US10489049B2 (en) Image processing apparatus, image processing system, and image processing method
JP5678521B2 (ja) 電子会議装置、情報表示方法、プログラム
JP2022087633A (ja) 表示装置、消去方法切替方法、プログラム
JP6225724B2 (ja) 情報共有システムおよび情報共有方法、ならびに、情報処理装置および情報処理方法
JP2020154660A (ja) 表示装置、及び表示方法
JP7306190B2 (ja) 表示装置、表示方法、プログラム
US11675496B2 (en) Apparatus, display system, and display control method
WO2016121403A1 (en) Information processing apparatus, image processing system, and program
JP7363064B2 (ja) 画像処理装置、方法、およびプログラム
JP2022036704A (ja) 表示装置、表示方法、プログラム
JP2023106170A (ja) 名刺管理システム及び名刺管理プログラム
JP2023106171A (ja) 名刺管理システム及び名刺管理プログラム
JP2021057843A (ja) 表示装置、使用方法提供方法、プログラム、画像処理システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190910

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191029

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200310

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200414

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200923

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201221

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20201221

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20210104

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20210105

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20210319

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20210323

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20210629

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20210817

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20210921

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20211116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211118

C302 Record of communication

Free format text: JAPANESE INTERMEDIATE CODE: C302

Effective date: 20211214

C302 Record of communication

Free format text: JAPANESE INTERMEDIATE CODE: C302

Effective date: 20220119

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20220201

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20220308

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20220308

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220315

R150 Certificate of patent or registration of utility model

Ref document number: 7042622

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150