JP2022147675A - 表示装置、表示方法、プログラム - Google Patents
表示装置、表示方法、プログラム Download PDFInfo
- Publication number
- JP2022147675A JP2022147675A JP2021049023A JP2021049023A JP2022147675A JP 2022147675 A JP2022147675 A JP 2022147675A JP 2021049023 A JP2021049023 A JP 2021049023A JP 2021049023 A JP2021049023 A JP 2021049023A JP 2022147675 A JP2022147675 A JP 2022147675A
- Authority
- JP
- Japan
- Prior art keywords
- data
- parts
- component
- display device
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 30
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000007726 management method Methods 0.000 description 146
- 238000010586 diagram Methods 0.000 description 67
- 238000013500 data storage Methods 0.000 description 28
- 238000001514 detection method Methods 0.000 description 27
- 230000006870 function Effects 0.000 description 17
- 238000012545 processing Methods 0.000 description 15
- 238000004891 communication Methods 0.000 description 12
- 239000013598 vector Substances 0.000 description 11
- 230000008569 process Effects 0.000 description 4
- 239000003086 colorant Substances 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000010365 information processing Effects 0.000 description 3
- 230000001174 ascending effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000000052 comparative effect Effects 0.000 description 2
- 230000005674 electromagnetic induction Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000002194 synthesizing effect Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011017 operating method Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/42—Document-oriented image-based pattern recognition based on the type of document
- G06V30/422—Technical drawings; Geographical maps
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
- G06F3/03545—Pens or stylus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
- G06F3/03542—Light pens for emitting or receiving light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
- G06V30/414—Extracting the geometrical structure, e.g. layout tree; Block segmentation, e.g. bounding boxes for graphics or text
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B43—WRITING OR DRAWING IMPLEMENTS; BUREAU ACCESSORIES
- B43L—ARTICLES FOR WRITING OR DRAWING UPON; WRITING OR DRAWING AIDS; ACCESSORIES FOR WRITING OR DRAWING
- B43L13/00—Drawing instruments, or writing or drawing appliances or accessories not otherwise provided for
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Human Computer Interaction (AREA)
- Artificial Intelligence (AREA)
- Multimedia (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
【課題】保存してある描画部品に基づいてこの描画部品を含む描画データを表示することができる表示装置を提供すること。【解決手段】ストロークデータの入力を受け付ける受付手段と、所定の条件で区分された複数の前記ストロークデータを描画部品として保存し、1つ以上の前記描画部品を含む描画データを保存する保存手段と、前記受付手段が前記描画部品の入力を受け付けた場合、入力された前記描画部品と、前記保存手段が保存した前記描画部品とに基づいて、保存されている前記描画部品を含む前記描画データを表示する表示制御手段と、を有する表示装置を提供する。【選択図】図1
Description
本発明は、表示装置、表示方法、及び、プログラムに関する。
タッチパネル式のディスプレイにユーザーが専用の電子ペンや指などの入力手段でストロークを描画し、いくつかのストロークで形成される手書きデータを表示する電子黒板などの表示装置が知られている。比較的大型のタッチパネルを備えた表示装置は会議室や公共施設などに配置され、複数のユーザーにより電子黒板などとして利用される。
手書きによる入力を支援する技術が知られている(例えば、特許文献1参照。)。特許文献1には、手書き文字をストロークデータとして蓄積しておき、新たな入力に対して、特徴に共通点があるストロークデータを検索して、候補として表示する装置が開示されている。
しかしながら、従来の技術では、描画部品を保存していないという問題があった。すなわち、特許文献1では、手書き入力された描画データを描画部品に区分して保存しないため、描画データの多い図の場合には、多くの手書き描画をしないと類似した候補を表示できない。
本発明は、保存してある描画部品に基づいてこの描画部品を含む描画データを表示することができる表示装置を提供することを目的とする。
上記課題に鑑み、本発明は、ストロークデータの入力を受け付ける受付手段と、所定の条件で区分された複数の前記ストロークデータを描画部品として保存し、1つ以上の前記描画部品を含む描画データを保存する保存手段と、前記受付手段が前記描画部品の入力を受け付けた場合、入力された前記描画部品と、前記保存手段が保存した前記描画部品とに基づいて、保存されている前記描画部品を含む前記描画データを表示する表示制御手段と、を有する表示装置を提供する。
保存してある描画部品に基づいてこの描画部品を含む描画データを表示することができる表示装置を提供することができる。
以下、本発明を実施するための形態の一例として、表示装置と表示装置が行う表示方法について実施例を挙げながら説明する。
<比較技術について>
まず、本実施例の表示装置を説明するにあたって、参考となる比較技術を説明する。表示装置ではユーザーがよく使う図であっても、ユーザーが、毎回、同じ図を手書きしなければならない。例えば、ユーザーがよく使う図を保存しておき、ユーザーが保存しておいた一覧から選択することで図を再利用する方法があるが、選択までの操作のわずらわしさや事前に図を保存しておかなければならないわずらわしさがある。
まず、本実施例の表示装置を説明するにあたって、参考となる比較技術を説明する。表示装置ではユーザーがよく使う図であっても、ユーザーが、毎回、同じ図を手書きしなければならない。例えば、ユーザーがよく使う図を保存しておき、ユーザーが保存しておいた一覧から選択することで図を再利用する方法があるが、選択までの操作のわずらわしさや事前に図を保存しておかなければならないわずらわしさがある。
<本実施例の表示装置の概略>
そこで、本実施例の表示装置では、ユーザーが過去に手書きした全体図の一部と類似した図の部品をユーザーが手書きした場合、保存してある全体図を表示する。ユーザーは全体図を選択することで以前の会議で手書きした全体図を表示できる。これにより、ユーザーは事前に全体図を保存するなどの操作や、メニューから保存しておいた全体図の一覧を開くなどの操作が不要となる。
そこで、本実施例の表示装置では、ユーザーが過去に手書きした全体図の一部と類似した図の部品をユーザーが手書きした場合、保存してある全体図を表示する。ユーザーは全体図を選択することで以前の会議で手書きした全体図を表示できる。これにより、ユーザーは事前に全体図を保存するなどの操作や、メニューから保存しておいた全体図の一覧を開くなどの操作が不要となる。
なお、本実施形態の図とは、手書きデータがなす任意の形状である。図の具体例は、ユーザーが手書きするものによるので、様々である。また、全体図とは複数の図の部品を有する図であり、図の部品とは所定の条件で区分された複数の手書きデータである。図の部品は意味がある形状を有する場合もあるし、区分によっては意味が不明なものがあってもよい。以下では、図の部品を「描画部品」と称する。
図1は、本実施形態の表示装置が、過去にユーザーが手書きした全体図を表示する流れを説明する図である。図1(a)は、1回目の会議でユーザーが手書きした全体図121を示す。表示装置は、全体図121を保存する際、全体図121が有する描画部品121a~121eも保存する。
図1(b)に示すように、ユーザーは2回目の会議で、1回目の会議で手書きした全体図の一部にある描画部品120を手書きし始めた。この描画部品120はPCの形状を有している。
表示装置は、図1(b)の描画部品120を1回目の会議で保存した描画部品121a~121eと比較することで検索する。描画部品120は描画部品121aと類似すると判断される。このため、表示装置は、2回目の会議で手書きした描画部品120と類似する、1回目の会議の描画部品121aを有する全体図121を候補として表示する(図1(c))。ユーザーは1回目の会議で手書きした全体図121を表示するかどうかを選択できる。
ユーザーが1回目の会議で手書きした全体図を表示する操作を入力すると、表示装置は書きかけの描画部品120を削除し、全体図121を表示する(図1(d))。
このように、本実施形態の表示装置は、全体図、及び、全体図が有する描画部品を保存しておく。その後、ユーザーが手書きで描画部品を手書きすると、その描画部品と保存している描画部品とを照合して、類似度が高いものがあれば、その描画部品を持つ全体図を表示する。したがって、ユーザーは全体図の一部を手書きすれば、過去に手書きした全体図を呼び出して再利用することができる。
<用語について>
入力手段とはタッチパネルに座標を指定して手書きが可能な手段であればよい。例えば、ペン、人の指や手、棒状部材などがある。
入力手段とはタッチパネルに座標を指定して手書きが可能な手段であればよい。例えば、ペン、人の指や手、棒状部材などがある。
ユーザーがディスプレイに入力手段を押しつけてから連続的に移動させた後、ディスプレイから離すという一連の操作をストロークという。ストロークデータとは、入力手段により入力される座標の軌跡に基づいてディスプレイに表示される情報である。ストロークデータは適宜、補間されてよい。手書きデータとは、1つ以上のストロークデータを有するデータである。手書き入力とは、ユーザーによって、手書きデータが入力されることを示している。
ストロークデータに基づいてディスプレイに表示される表示物をオブジェクトという。オブジェクトとは対象という意味であるが、本実施形態では表示対象などの意味である。
手書きデータが文字認識して変換された文字列には、テキストデータの他、「済」などの決まった文字やマークとして表示されるスタンプ、円や星などの図形、直線等、ユーザーの操作に基づいて表示されたデータも含まれてよい。
手書きデータが文字認識して変換された文字列には、テキストデータの他、「済」などの決まった文字やマークとして表示されるスタンプ、円や星などの図形、直線等、ユーザーの操作に基づいて表示されたデータも含まれてよい。
文字列とは手書きデータから文字認識により変換された1つ以上の文字コード(フォント)である。文字列は、コンピュータで扱われる1つ以上の文字でよい。文字には、数字、アルファベット、及び、記号等が含まれる。文字列はテキストデータとも言われる。
全体描画データとは、画面に表示された手書きデータの全体をいう。図として意味があるかどうかは問われない。画面とは、ディスプレイ全体又は定義された表示範囲をいう。1画面をページという場合がある。本実施形態では、全体描画データを全体図と称する。
描画部品は全体図のうち、所定の条件で区分された複数のストロークデータである。所定の条件は、最後に入力されたストロークデータから所定の距離以上離れた位置に次のストロークデータの入力を受け付けるか、又は、最後に入力されたストロークデータから一定時間以内に次のストロークデータを受け付けない場合などである。
<構成例>
図2は、表示装置2の概略斜視図の一例を示す。表示装置2をユーザー(利用者)が利用している。本実施形態の表示装置2は、ユーザーが手又は電子ペン2500などの入力手段291でディスプレイ220上に手書きを行うことができる。
図2は、表示装置2の概略斜視図の一例を示す。表示装置2をユーザー(利用者)が利用している。本実施形態の表示装置2は、ユーザーが手又は電子ペン2500などの入力手段291でディスプレイ220上に手書きを行うことができる。
図2の表示装置2は横置きされているが、縦置きすることも可能である。ユーザーは表示装置2をディスプレイ220の中心を軸に回転させて、横置きと縦置きを切り替えることができる。
<ハードウェア構成例>
図3は、表示装置2のハードウェア構成の一例を示す図である。本実施形態の表示装置2は、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203、SSD(Solid State Drive)204、ネットワークコントローラ205、及び、外部機器接続I/F206(Interface)を備えており、複数の利用者により情報を共有するための共有端末である。
図3は、表示装置2のハードウェア構成の一例を示す図である。本実施形態の表示装置2は、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203、SSD(Solid State Drive)204、ネットワークコントローラ205、及び、外部機器接続I/F206(Interface)を備えており、複数の利用者により情報を共有するための共有端末である。
これらのうち、CPU201は、表示装置2全体の動作を制御する。ROM202は、CPU201やIPL(Initial Program Loader)等のCPU201の駆動に用いられるプログラムを記憶する。RAM203は、CPU201のワークエリアとして使用される。
SSD204は、表示装置2用のプログラム等の各種データを記憶する。このプログラムは汎用的なOS(Windows(登録商標)、Mac OS(登録商標)、Android(登録商標)、iOS(登録商標)等)を搭載した情報処理装置で動作するアプリケーションプログラムでもよい。
ネットワークコントローラ205は、ネットワークを介して他の機器との通信を制御する。外部機器接続I/F206は、USB(Universal Serial Bus)メモリ2600、外付け機器(カメラ2400、スピーカ2300、マイク2200)との通信を制御する。
また、表示装置2は、キャプチャデバイス211、GPU212、ディスプレイコントローラ213、接触センサ214、センサコントローラ215、電子ペンコントローラ216、近距離通信部219、及び近距離通信部219のアンテナ219aを備えている。
これらのうち、キャプチャデバイス211は、PC10のディスプレイ220に対して映像情報を静止画又は動画として表示させる。GPU(Graphics Processing Unit)212は、グラフィクスを専門に扱う半導体チップである。ディスプレイコントローラ213は、GPU212からの出力画像をディスプレイ220等へ出力するために画面表示の制御及び管理を行う。
接触センサ214は、ディスプレイ220上に電子ペン2500やユーザーの手H等が接触したことを検知する。電子ペン2500と手Hを区別しない場合、入力手段291という。
センサコントローラ215は、接触センサ214の処理を制御する。接触センサ214は、赤外線遮断方式による座標の入力及び座標の検出を行う。この座標の入力及び座標の検出する方法は、ディスプレイ220の上側両端部に設置された2つ受発光装置が、ディスプレイ220に平行して複数の赤外線を放射し、ディスプレイ220の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する方法であっても良い。
接触センサ214は、物体によって遮断された2つの受発光装置が放射した赤外線のIDをセンサコントローラ215に出力し、センサコントローラ215が、物体の接触位置である座標位置を特定する。電子ペンコントローラ216は、電子ペン2500とBluetooth(登録商標)通信することで、ディスプレイ220へのペン先のタッチやペン尻のタッチの有無を判断する。近距離通信部219は、NFC、Bluetooth(登録商標)等の通信回路である。
更に、表示装置2は、バスライン210を備えている。バスライン210は、CPU201等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
なお、接触センサ214は、赤外線遮断方式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネル、対向する2つの抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルなどの種々の検出手段を用いても良い。また、電子ペンコントローラ216が、電子ペン2500のペン先及びペン尻だけでなく、電子ペン2500のユーザーが握る部分や、その他の電子ペンの部分についてタッチの有無を判断するようにしても良い。
<機能について>
図4は、表示装置2の機能をブロック状に分けて説明する機能ブロック図の一例を示す図である。図4に示す、表示装置2が有する各機能部は、図4に示されている各構成要素のいずれかが、SSD204からRAM203上に展開されたプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。
図4は、表示装置2の機能をブロック状に分けて説明する機能ブロック図の一例を示す図である。図4に示す、表示装置2が有する各機能部は、図4に示されている各構成要素のいずれかが、SSD204からRAM203上に展開されたプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。
表示装置2は、接触位置検出部21、描画データ生成部22、描画図管理部23、描画部品管理部24、描画比較部25、表示制御部26、会議データ記憶部27、及び、ネットワーク通信部28を有している。
接触位置検出部21は、入力手段291が接触センサ214に接触した位置の座標点を検出し、ユーザーによる手書き入力を受け付ける。手書き入力とは、入力手段291が接触センサ214に接触している座標の軌跡を用いた入力である。接触位置検出部21は座標点列を離散値として求めてもよい。離散値間の座標は補間計算される。
描画データ生成部22は、接触位置検出部21が検出した座標点列からストロークデータを生成する。また、描画データ生成部22は接触位置検出部21が求めた座標点列から、円、矩形、吹き出し、及び矢印などのオブジェクトを生成する。例えばユーザーは入力手段291の操作によって、円、矩形、吹き出し、及び矢印など、元となる形状を手書きする。描画データ生成部22は、手書きデータと類似するオブジェクトを生成する。
描画図管理部23は、ユーザーが手書きした全体図のデータをファイルとして全体図データ記憶部31に保存したり、全体図データ記憶部31に保存された全体図を読み出したりする。描画図管理部23は、全体図とそれを構成する描画部品との対応を管理する。
描画部品管理部24は、描画部品を部品データ記憶部32に保存したり、部品データ記憶部32から保存されている描画部品を読み出したりする。
描画比較部25は、ユーザーが手書きした手書きデータ(保存してある描画部品と類似する場合はこの手書きデータが描画部品である)と描画部品とを比較して、手書きデータと類似する描画部品があるか否かを判断する。
表示制御部26は、手書きデータ、文字列、図形、画像、操作のためのボタンやアイコンなどをディスプレイ220に表示するための制御を行う。会議データ記憶部27は会議で使用された資料データ、ファイル等をSSD204などの記憶媒体に記憶する。
ネットワーク通信部28はLANやインターネット等のネットワークに接続して、他の機器とネットワークを介したデータの送受信を行う。
<全体図、描画部品について>
図5は、全体図と描画部品の関係を模式的に示す。描画図管理部23は会議終了時に全体図を全体図データ記憶部31に保存する。描画部品管理部24は会議終了前に全体図を構成する描画部品に所定の条件で区分しておき、部品データ記憶部32に保存しておく。描画部品管理部24は会議終了時に描画部品を保存してもよい。
図5は、全体図と描画部品の関係を模式的に示す。描画図管理部23は会議終了時に全体図を全体図データ記憶部31に保存する。描画部品管理部24は会議終了前に全体図を構成する描画部品に所定の条件で区分しておき、部品データ記憶部32に保存しておく。描画部品管理部24は会議終了時に描画部品を保存してもよい。
図5に示すように、ユーザー(図作成者)のIDにそのユーザーが作成した全体図が対応付けられて保存される。また、全体図に含まれる描画部品がその全体図と対応付けられて保存されている。
なお、図5では、ユーザー(図作成者)のIDに全体図が対応付けられているが、ユーザーに対応付けるか否かはユーザーが選択できてよい。
描画部品の区分方法は種々、考えられるが、一例としては、入力される複数のストロークデータに関して、時間と空間の少なくとも一方を用いて区分する方法がある。
図6は、描画部品の区分方法のイメージ図である。描画部品管理部24は、電子ペン2500などの入力手段291の先端がディスプレイ220に接触して書き込みを行い、ディスプレイ220から離れてから次の接触が無い時間が、一定時間を超えるとそれまでに手書きされた複数のストロークデータを1つの描画部品として保存する。あるいは、描画部品管理部24は、2つのストロークデータの間の距離が所定の値以上の場合、この2つのストロークデータの間で別の描画部品に区分されたと判断してもよい。
ただし、文字や矢印のような手書きデータはどの全体図においても含まれる可能性があるため、描画部品として保存されるとユーザーが文字や矢印を手書きするたびに意図しない全体図が表示されるおそれがある。このため、描画部品管理部24は、画像認識により文字又は矢印と判断した場合は、描画部品として保存しないことが好ましい。
<描画部品の詳細>
次に、図7を参照して、描画部品について詳細に説明する。まず、ディスプレイ220上の画素の位置は、ディスプレイ220の表示領域における左上の角にある画素位置を原点として、右方向をX軸の正の方向、下方向をY軸の正の方向とした表示座標で表現する。すなわち、
表示座標=(原点位置の画素からのX軸方向の画素数,原点位置の画素からのY軸方向の画素数)
である。
次に、図7を参照して、描画部品について詳細に説明する。まず、ディスプレイ220上の画素の位置は、ディスプレイ220の表示領域における左上の角にある画素位置を原点として、右方向をX軸の正の方向、下方向をY軸の正の方向とした表示座標で表現する。すなわち、
表示座標=(原点位置の画素からのX軸方向の画素数,原点位置の画素からのY軸方向の画素数)
である。
ユーザーが表示装置2のディスプレイ220上で描いた電子黒板の描画部品のストロークデータを保存する処理について説明する。会議などで、ユーザーは表示装置2のディスプレイ220上で、電子黒板の描画部品101を手書きした。図7(a)は、ストロークの方向と書き順を示している。ストローク2-1とストローク2-2は、入力手段291がディスプレイ220に接触したまま移動していることを示す。
描画部品管理部24は、ストロークの始点座標と終点座標を記憶すると共に、ストロークと他のストロークとの距離を計算する。距離は、2つのストローク間(2つのストロークデータ間)の距離が最小となる線分の長さである。
そして、描画部品管理部24はこの距離が所定の値以下で、かつ、前記2つのストロークの方向が成す角度が所定の値以上である場合、2つのストローク間の中点(距離が最小となる線分の中点)をコーナーとして、このコーナーの座標を部品データ記憶部32に記憶する。角度が所定の値以上とは、ユーザーが直線でなく角度を付けたと判断される値でよく、例えば10~20°以上である。つまり、2つのストロークが角を形成する部分がコーナーである。
なお、コーナーBのように、一筆書きで形成されるコーナーについては、ストロークの方向が変化した座標点を角と仮定し、この角までのストロークと角から後のストロークの成す角度(ストロークデータの方向が変化した点の前後のストロークデータの方向が成す角度)を算出し、しきい値以上の場合はこの変化した点をコーナーとする。
図7(b)は、図7(a)の描画部品101から検出されるコーナーA~Lを示す。コーナーA~Lは、表1に示すテーブル(配列)状のコーナー座標データとして保存される。コーナー座標データにはコーナーの座標が記録される。
また、描画部品管理部24は、隣接している各コーナー間の距離を求めて表2に示すようなテーブル(配列)状のコーナー間距離データとして保存する。コーナー間距離データにはコーナー間の距離が記録される。
なお、表2の対象コーナーのペアは、以下の優先ルールにしたがって抽出される。つまり、描画部品管理部24は水平線又は垂直線を構成するペアで、ストロークの端点を構成するペアを優先的に抽出する。
・Y座標の値の差が所定の範囲内であり、ストロークの始点又は終点である。
⇒(A, B)(C, D)(C, E)(E, F)(F, I)(I, J)(G, H)(K, L)のペア
・X座標の値の差が所定の範囲内であり、ストロークの始点又は終点である。
⇒(A, C)(B, D)(E, G)(F, H)(I, K)(J, L)のペア
そして、描画部品管理部24は、コーナーのY座標の値が昇順(小→大)になるように、また、複数のコーナーが有するY座標の値の差が所定の範囲内である場合には、コーナーのX座標の値が昇順(小→大)になるようにコーナーをソートする。つまり、描画部品管理部24は左上から右下の方向にコーナーをソートする。表2ではこのようにソートされたコーナーペアが順番に登録されている。
なお、3つ以上のコーナーが有するY座標の値の差が所定の範囲内である場合には、コーナー間の距離が最大となるペアを最優先とする。表2では、このルールにしたがって、コーナーのペアが並べられている。
図8は、ユーザーが手書きしたノートPCの描画部品102で検出されるコーナーを説明する図である。ユーザーは、表示装置2のディスプレイにノートPCの描画部品102を手書きした。図8(a)はストロークの方向と書き順を示している。ストローク2-1とストローク2-2は、入力手段291がディスプレイ220に接触したまま移動していることを示す。
描画部品管理部24は、ストロークの始点座標と終点座標を記憶すると共に、ストロークの始点座標または終点座標と他のストロークの始点座標または終点座標との距離を計算する。そして、描画部品管理部24はこの距離が所定の値以下で、かつ、前記2つのストロークの方向が成す角度が所定の値以上である場合、距離が所定の値以下である2つの座標の中点をコーナーとして検出する。描画部品管理部24はこのコーナーの座標を部品データ記憶部32に記憶する。
図8(b)は、図8(a)の描画部品102から検出されるコーナーO~Tを示す。コーナーO~Tは、表3に示すコーナー座標データとして保存される。
また、描画部品管理部24は、隣接している各コーナー間の距離を求めて表4に示すようなコーナー間距離データとして保存する。表4の求め方は表2と同様である。
次に、図9に示すように、図7に示した電子黒板の描画部品101の横に(図9(a))、図8のノートPCの描画部品102(図9(b))をユーザーが手書きしたとする。図9では、1つのディスプレイに電子黒板の描画部品101とノートPCの描画部品102が手書きされている。点A~点L及び点O~点Tはコーナーを示している。
ユーザーがノートPCの描画部品102を手書きするために最初のストローク103(点Oが始点で点Qが終点)を手書きすると、描画部品管理部24はストローク103の始点(点O)と先に描画された電子黒板の描画部品101が有するコーナーの中で点Oに最も近いコーナー(点B)との距離を求める。描画部品管理部24は、また、ストローク103の終点(点Q)と先に描画された電子黒板の描画部品101が有するコーナーの中で点Qに最も近いコーナー(点D)との距離を求める。そして、両方の距離が所定の値以上の場合は(すなわち、描画部品101のストロークデータと描画部品102のストロークデータの間の距離が所定の値以上)、描画部品管理部24は電子黒板の描画部品101とノートPCの描画部品102は別の描画部品であると判断する。つまり、描画部品管理部24は複数のストロークデータから描画部品101と描画部品102を区分した。
描画部品管理部24は電子黒板の描画部品101のストロークデータ(接触位置検出部21から入力される座標点列、線の太さ、色等の描画属性データ)をファイルとして部品データ記憶部32に保存する。このファイル名は、例えば、「fig_parts_1.data」とする。描画部品管理部24は、また、電子黒板の描画部品101に対して描画部品ID=1を付する。
描画部品管理部24は、この描画部品ID、表1に示したコーナー座標データ、表2に示したコーナー間距離データ、及び、電子黒板の描画部品101のストロークデータファイル(「fig_parts_1.data」)を対応付けた描画部品管理テーブルを生成する(表5参照)。
描画部品管理部24は、この描画部品管理テーブルをファイルとして部品データ記憶部32に保存する。この描画部品管理ファイルのファイル名は、例えば、「fig_parts_table_1.data」とする。
なお、電子黒板の描画部品101の最後のストローク104(点Kが始点で点Lが終点)が手書きされてから一定時間以内に次のストロークが手書きされない場合も、描画部品管理部24は最後のストローク104までを1つの描画部品101と判断する。
続いて、図9において、ユーザーがノートPCの描画部品102の手書きを終えた。ユーザーが最後のストローク105(点Sが始点で点Tが終点)を手書きしてから、描画部品102のコーナーから所定の距離以上離れた位置に次のストロークを描画するか、又は、一定時間以内に次のストロークの手書きがない場合、描画部品管理部24は最後のストローク105までを1つの描画部品102と判断する。
そして、描画部品管理部24は、ノートPCの描画部品102のストロークデータ(接触位置検出部21から入力される座標点列、線の太さ、色等の描画属性データ)をファイルとして部品データ記憶部32に保存する。このファイル名は、例えば、「fig_parts_2.data」とする。
描画部品管理部24は、また、このノートPCの描画部品102に対して描画部品ID=2を付与する。描画部品管理部24は、この描画部品ID、表3に示したコーナー座標データ、表4に示したコーナー間距離データ、及び、ノートPCの描画部品102のストロークデータファイル(「fig_parts_2.data」)を対応付けた描画部品管理テーブルを生成する(表5参照)。
描画部品管理部24は描画部品102の描画部品管理テーブルを、描画部品101について生成した描画部品管理テーブル(ファイル名は「fig_parts_table_1.data」)に追加して、部品データ記憶部32に上書き保存する。
生成された描画部品管理テーブルを表5に示す。これまで説明したように、描画部品管理テーブルは、1つの画面内(ページ内)の全ての描画部品について、描画部品ID、描画部品のストロークデータファイル名、コーナー座標データ、及び、コーナー間距離データを有する。
<全体図の保存>
続いて、図10等を参照して全体図の保存方法を説明する。図10は、電子黒板の描画部品101とノートPCの描画部品102を接続する線106を示す。ユーザーがノートPCの描画部品102を手書きしてから所定の時間が経過した後に、ユーザーは電子黒板の描画部品101とノートPCの描画部品102とを結ぶ線106を手書きする。点Mが始点で点Nが終点を示している。
続いて、図10等を参照して全体図の保存方法を説明する。図10は、電子黒板の描画部品101とノートPCの描画部品102を接続する線106を示す。ユーザーがノートPCの描画部品102を手書きしてから所定の時間が経過した後に、ユーザーは電子黒板の描画部品101とノートPCの描画部品102とを結ぶ線106を手書きする。点Mが始点で点Nが終点を示している。
その後、一定時間以内に次のストロークの手書きがない場合、描画部品管理部24はこの線106を1つの描画部品と判断するが、1つのストロークのみの場合、描画部品管理部24はファイルの保存処理を実行しない。1つのストロークは全ての描画部品に含まれるため、保存済みの多くの描画部品が検索に適合するためである。
次に、ユーザーが表示装置2のディスプレイ220に表示された全体図の保存ボタンを押下する。全体図の保存とは、ディスプレイ全体を1ページとして、表示されているオブジェクト(ストロークデータ、画像、図形等)を表示装置2がページ単位で保存するボタンである。したがって、新規ページの表示ボタンなども含まれる。なお、画像や図形を除いて、ストロークデータのみが保存されてもよい。
描画図管理部23は、図10に示した全てのストロークデータ(接触位置検出部21から入力される座標点列、線の太さ、色等の描画属性データ)をファイルとして全体図データ記憶部31に保存する。このファイル名は、例えば、「figure_1.data」とする。そして、描画図管理部23は、この全体図に対して描画図ID(描画図ID=1001)を付与して、この描画図ID、描画部品管理ファイルのファイル名「fig_parts_table_1.data」、及び、全体図のストロークデータファイル名「figure_1.data」を対応付けた描画図管理テーブルを生成する。
描画図管理部23は、描画図管理テーブルのデータをファイルとして全体図データ記憶部31に保存する。この描画図管理ファイルのファイル名は、例えば、「figure_table.data」とする。この描画図管理テーブルを表6に示す。
<プリンターの描画部品とノートPCの描画部品>
続いて、例えば、プリンターについての打ち合わせにおいて、ユーザーが表示装置2のディスプレイ220に、まず、プリンターの描画部品を手書きする。
続いて、例えば、プリンターについての打ち合わせにおいて、ユーザーが表示装置2のディスプレイ220に、まず、プリンターの描画部品を手書きする。
図11は、プリンターの描画部品111を示す。図11の点a~点kは描画部品111のコーナーを示しており、描画部品管理部24は表7に示す各コーナー座標データを部品データ記憶部32に保存する。描画部品管理部24は、また、各コーナー間の距離を求めて表8に示すコーナー間距離データを部品データ記憶部32に保存する。表7の求め方は、表1、表3と同様でよく、表8の求め方は表2,表4と同様でよい。
図12に示すように、ユーザーは、次に、プリンターの描画部品111の横にノートPCの描画部品112を手書きした。図12(b)のノートPCの描画部品112は、図9(b)に示したものと同様である。
ユーザーがノートPCの描画部品112を描くために最初のストローク107(点Oが始点で点Qが終点)を描くと、描画部品管理部24はストローク107の始点(点O)と先に描画されたプリンターの描画部品111が有するコーナーの中で点Oに最も近いコーナー(点f)との距離を求める。描画部品管理部24は、また、ストローク107の終点(点Q)とプリンターの描画部品111が有するコーナーの中で点Qに最も近いコーナー(点i)との距離を求める。そして、両方の距離が所定の値以上の場合は、描画部品管理部24は、プリンターの描画部品111とノートPCの描画部品112は別の図であると判断する。
そして、描画部品管理部24は、プリンターの描画部品111のストロークデータ(接触位置検出部21から入力される座標点列、線の太さ、色等の描画属性データ)をファイルとして部品データ記憶部32に保存する。このファイル名は、例えば、「fig_parts_3.data」とする。描画部品管理部24は、また、このプリンターの描画部品111に対して描画部品ID=3を付与する。描画部品管理部24は、この描画部品ID、表7に示したコーナー座標データ、表8に示したコーナー間距離データ、及び、プリンターの描画部品111のストロークデータファイル名「fig_parts_3.data」を対応付けた描画部品管理テーブルを生成する。
描画部品管理部24は、描画部品管理テーブルのデータをファイルとして部品データ記憶部32に保存する。この描画部品管理ファイルのファイル名は、例えば、「fig_parts_table_2.data」とする(表9参照)。
続いて、ユーザーがノートPCの描画部品112を手書きする。ユーザーが最後のストローク105(点Sが始点で点Tが終点)を描いてから、描画部品112のコーナーから所定の距離以上離れた位置に次のストロークを描画するか、又は、一定時間以内に次のストロークが手書きされない場合、描画図管理部23は、ストローク107からストローク105までを1つの描画部品と判断する。
そして、描画部品管理部24はノートPCの描画部品112のストロークデータ(接触位置検出部21から入力される座標点列、線の太さ、色等の描画属性データ)をファイルとして部品データ記憶部32に保存する。このファイル名は、例えば、「fig_parts_4.data」とする。描画部品管理部24は、また、ノートPCの描画部品112に対して描画部品ID=4を付与する。描画部品管理部24は、描画部品ID、表3に示したコーナー座標データ、表4に示したコーナー間距離データ、及び、ノートPCの描画部品112のストロークデータファイル(「fig_parts_4.data」)を対応付けた描画部品管理テーブルを生成する(表9参照)。
描画部品管理部24は、この描画部品管理テーブルのデータを先に生成した描画部品管理ファイル(ファイル名は「fig_parts_table_2.data」)に追加して、部品データ記憶部32に上書き保存する。この描画部品管理テーブルを表9に示す。
<全体図の保存>
図13に示すように、ユーザーがノートPCの描画部品112を手書きしてから所定の時間が経過した後に、ユーザーが電子黒板の描画部品111とノートPCの描画部品112とを結ぶ線108を手書きする。点mが始点で点nが終点を示している。その後、一定時間以内に次のストロークが手書きされない場合、この線108を1つの図と判断するが、描画図管理部23は、1つのストロークについてはファイルの保存処理は実行しない。
図13に示すように、ユーザーがノートPCの描画部品112を手書きしてから所定の時間が経過した後に、ユーザーが電子黒板の描画部品111とノートPCの描画部品112とを結ぶ線108を手書きする。点mが始点で点nが終点を示している。その後、一定時間以内に次のストロークが手書きされない場合、この線108を1つの図と判断するが、描画図管理部23は、1つのストロークについてはファイルの保存処理は実行しない。
そして、ユーザーが表示装置2のディスプレイ220に表示された全体図の保存ボタンを押下した。描画図管理部23は、図13に示した全てのストロークデータ(接触位置検出部21から入力される座標点列、線の太さ、色等の描画属性データ)をファイルとして全体図データ記憶部31に保存する。このファイル名は、例えば、「figure_2.data」とする。そして、描画図管理部23は、図13の全体図に対して描画図ID=1002を採番する。描画図管理部23は、描画図ID、描画部品管理ファイルのファイル名「fig_parts_table_2.data」、及び、全体図のストロークデータファイル名「figure_2.data」を対応付けて、既に存在する描画図管理テーブルに追加する。
描画図管理部23は、描画図管理テーブルのデータを表6の描画図管理ファイル(ファイル名は「figure_table.data」)に上書き保存する。上書きされた描画図管理テーブルを表10に示す。
したがって、表10には、図10の全体図と全体図が有する2つの描画部品101,102が描画図ID=1001で対応付けられる。また、表10には、図13の全体図と全体図が有する2つの描画部品111,112が描画図ID=1002で対応付けられる。
なお、会議の終了時(ユーザーが会議の終了ボタンを押下した時)に、上記した全体図の保存処理を描画図管理部23が実行するようにしてもよい。
また、表示装置2がページ切り替え機能を持っている場合、ユーザーがページの切り替え操作を行った場合に、描画図管理部23が、上記した全体図の保存処理を実行するようにしてもよい。
<描画部品の検索>
次に、ユーザーが表示装置2のディスプレイ220上で図を描き始めると、描画比較部25が、手書き中の描画部品と保存されている描画部品とを比較して類似性の判断を行い、類似した描画部品を有する全体図を表示する。以下、描画部品の検索と全体図の表示処理について説明する。
次に、ユーザーが表示装置2のディスプレイ220上で図を描き始めると、描画比較部25が、手書き中の描画部品と保存されている描画部品とを比較して類似性の判断を行い、類似した描画部品を有する全体図を表示する。以下、描画部品の検索と全体図の表示処理について説明する。
ユーザーにより別の描画部品が手書きされると、上記と同様にして、描画部品管理部24が新たな描画部品IDを付与して(描画部品ID=5)、ストロークデータ、コーナー座標データ、及び、コーナー間距離データとの対応付けを行う。すなわち、描画部品管理部24は、表5及び表9に示した描画部品管理テーブルの1行分を作成する。
そして、描画部品管理部24は全体図データ記憶部31に保存されている描画図管理ファイル(ファイル名は「figure_table.data」)のデータをRAM203に読み出す。そして、描画部品管理部24は更に、描画図管理ファイルに含まれている描画部品管理ファイルのファイル名を使用して、部品データ記憶部32に保存されている全ての描画部品管理ファイルのデータ(描画部品管理テーブルのデータ)をRAM203に読み出す。
続いて、描画部品管理部24は、描画部品5(描画部品ID=5)のコーナー座標データとコーナー間距離データを、RAM203に読み出した描画部品管理テーブルのデータと比較する処理を描画比較部25に依頼する。
描画比較部25はコーナー座標データとコーナー間距離データを用いて、この描画部品5(描画部品ID=5)と部品データ記憶部32に記憶されていた描画部品との類似性を判断する。描画比較部25は、例えば、まず、コーナー間距離データの要素数が一致しているかどうかで比較対象を絞る。描画比較部25は、完全に一致するだけでなく、要素数が近いかどうかで絞ってもよい。
次に、描画比較部25は、コーナー間距離データに載っているコーナーのペアをベクトルの始点、終点とみなして、コーナー間距離データに記載の順に2つの描画部品それぞれのベクトルに対してコサイン類似度を計算する。
コサイン類似度とは、2本のベクトルがどれくらい同じ向きを向いているのかを表す指標である。コサイン類似度は、そのまま、ベクトル同士の成す角度の近さを表現するため、三角関数のコサインの通り、1に近ければ類似しており、0に近ければ似ていないことになる。
描画比較部25は、コーナー間距離データにある全てのベクトルについてコサイン類似度がしきい値(例えば0.7)以上であれば類似性があると判断する。なお、描画比較部25は、コーナー間距離データの全てのコーナーペア同士についてコサイン類似度の平均を求めてその値がしきい値(例えば0.7)以上であれば、類似性があると判断しても良い。
以下では、コサイン類似度に基づく類似性の判断例を説明する。
下記の表11、表12は、保存されている描画部品1(描画部品ID=1)のコーナー座標データとコーナー間距離データの各先頭部分のデータを示す(表1,2の先頭部分)。表13、表14は、現在、ユーザーが手書きした描画部品のコーナー座標データとコーナー間距離データの各先頭部分のデータである。
描画比較部25は、表11~表14を使って、ユーザーが手書きした描画部品5(描画部品ID=5)と、描画部品1(描画部品ID=1)を比較する。なお、以下では、2つのコーナーを括弧[ ]で囲うことで、ベクトルを表す。
描画部品1が有する1つ目のコーナーペアのベクトルは[AB]=(x2-x1,y2-y1)、
2つ目のコーナーペアのベクトルは[AC]=(x3-x1,y3-y1)
描画部品5が有する1つ目のコーナーペアのベクトルは[αβ]=(x101-x100,y101-y100 )、
2つ目のコーナーペアのベクトルは[αγ]=(x102-x100,y102-y100 )である。
2つ目のコーナーペアのベクトルは[AC]=(x3-x1,y3-y1)
描画部品5が有する1つ目のコーナーペアのベクトルは[αβ]=(x101-x100,y101-y100 )、
2つ目のコーナーペアのベクトルは[αγ]=(x102-x100,y102-y100 )である。
1つ目のコーナーペア同士のコサイン類似度は式(1)で与えられる。同様に2つ目のコーナーペア同士のコサイン類似度は式(2)で与えられる。
このような描画部品5との比較を、描画比較部25が、描画部品(描画部品ID=1~4)と行う。描画部品5がノートPCの描画部品である場合、描画部品ID=2と4の描画部品と類似していると判断できる。
描画比較部25は類似性があると判断した描画部品ID=2と4を描画部品管理部24に通知する。描画部品管理部24は、この通知された描画部品IDを持つ描画部品管理ファイルのファイル名を描画図管理部23へ通知する。
描画図管理部23は描画図管理テーブルにあるこのファイル名に紐付いた全体図のストロークデータファイル(「figure_1.data」「figure_2.data」)を読み出して、描画データ生成部22が線の太さや色等の描画属性に従ったストロークの描画線を生成する。そして、描画データ生成部22は、この全体図を縮小してリストダイアログ130に入れ、表示制御部26がこのリストダイアログ130をディスプレイ220に表示する。
ユーザーがノートPCの描画部品を手書きした場合、図10及び図13の2つの全体図が検索に適合するため、表示制御部26は2つの全体図をリストダイアログ130に入れて表示する。この表示例を図14に示す。
図14(a)は、リストダイアログ130の表示例を示す。図14(a)では、現在、手書きされたノートPCの描画部品140とリストダイアログ130が表示されている。また、リストダイアログ130は、ノートPCの描画部品140と類似する描画部品を有する2つの全体図131,132を有している。
ユーザーがリストダイアログ130に表示された電子黒板とノートPCの全体図131を選択すると、描画図管理部23はリストダイアログ130を消去して、電子黒板とノートPCの全体図131(描画図ID=1001)を表示する(図14(b))。
<表示装置2の動作手順>
図15は、ユーザーが手書きした手書きデータに基づく描画部品と全体図の保存を説明するシーケンス図の一例である。
図15は、ユーザーが手書きした手書きデータに基づく描画部品と全体図の保存を説明するシーケンス図の一例である。
S1:ユーザーが入力手段291の先端をディスプレイ220に接触した状態で移動させると、接触位置検出部21がストロークデータの入力を受け付ける。
S2:接触位置検出部21は検出した座標点列を描画データ生成部22に通知する。
S3:描画データ生成部22は座標点列を補間したりスムージングしたりして、手書きデータ(ストロークデータ)を生成する。描画データ生成部22は生成したストロークデータを表示制御部26に通知する。表示制御部26はストロークデータをディスプレイ220に表示する。
S4:また、描画データ生成部22はストロークデータを描画部品管理部24に通知する。
S5:描画部品管理部24は、コーナーの座標が登録されたコーナー座標データと、コーナー間距離データを生成する。
S6:描画部品管理部24は、手書きされた描画部品のコーナーから所定の距離以上離れた位置に次のストロークが手書きされたか、又は、最後のストロークが手書きされてから一定時間以内に次のストロークが手書きされない場合(所定の条件を満たす場合)、描画部品管理テーブルを生成する。描画部品管理部24は、所定の条件を最後に満たしてから次に満たすまでに、接触位置検出部21が受け付けたストロークデータを1つの描画部品と判断する。
描画部品管理テーブルには、描画部品ID、コーナー座標データ、コーナー間距離データ、及び、描画部品のストロークデータファイル名が対応付けられる。描画部品管理部24はこの描画部品管理テーブルをファイルとして部品データ記憶部32に保存する。
S7:ユーザーが表示装置2のディスプレイ220に表示された全体図の保存ボタンを押下した。
S8:接触位置検出部21は、保存ボタンが押下された旨を描画図管理部23に通知する。
S9:描画図管理部23は、ディスプレイ220の全てのストロークデータをファイルとして全体図データ記憶部31に保存する。描画図管理部23は、全体図に対して描画図IDを付与して、描画図ID、描画部品管理ファイルのファイル名、及び、全体図のストロークデータファイル名を対応付けて、描画図管理ファイルに保存する(既に描画図管理ファイルがある場合は上書きする)。
図16は、ユーザーが手書きした描画部品と類似する描画部品を有する全体図を表示装置2が表示する手順を示すシーケンス図の一例である。
S11~S16:S11~S16は、図15のステップS1~S6と同様でよい。
S17:描画部品管理部24は、ステップS16で保存した描画部品と、部品データ記憶部32に保存されている描画部品との比較を描画比較部25に要求する。描画比較部25は例えばコサイン類似度によりステップS16で保存した描画部品と類似する描画部品の描画部品IDを描画部品管理部24に返す。
S18:描画部品管理部24は、類似していると判断された描画部品IDの描画部品管理ファイルのファイル名を描画図管理部23に通知する。
S19,S20:描画図管理部23は、描画部品管理ファイルのファイル名を有する描画図管理ファイル(全体図)を全体図データ記憶部31から読み出す。
S21:描画図管理部23は読み出した描画図管理ファイルを描画データ生成部22に通知する。
S22:描画データ生成部22は描画図管理ファイルに含まれるストロークデータで全体図を生成し、全体図を含むリストダイアログ130の表示を表示制御部26に要求する。これにより、表示制御部26は全体図をサムネイル等の縮小された状態で含むリストダイアログ130をディスプレイ220に表示する。
S23:ユーザーが全体図を入力手段291で押下する。
S24:接触位置検出部21は入力手段291の先端が接触する座標により、選択された全体図を特定する。接触位置検出部21はこの全体図を描画データ生成部22に通知する。
S25:描画データ生成部22はこの全体図の表示を表示制御部26に要求する。これにより、表示制御部26は全体図をディスプレイ220に表示する。
図17は、図16の流れをフローチャートで示すフローチャート図の一例である。
描画部品管理部24は、手書きされた描画部品のコーナーから所定の距離以上離れた位置に次のストロークが手書きされたか、又は、最後のストロークが手書きされてから一定時間以内に次のストロークが手書きされない場合、ユーザーが描画部品を書き終えたと判断する(S101)。
次に、描画比較部25は、ユーザーが書き終えた描画部品と、全体図データ記憶部31に保存されている全体図の描画部品とを比較する(S102)。
全体図の描画部品にユーザーが書き終えた描画部品と類似している描画部品がある場合(S103のYes)、表示制御部26はリストダイアログ130をディスプレイ220に表示する(S104)。リストダイアログ130は、類似する描画部品を含む全体図をサムネイル等の縮小された状態で含む。
そして、ユーザーが全体図を入力手段291で押下した場合(S105のYes)、接触位置検出部21は入力手段291の先端が接触する座標により、選択された全体図を受け付け、表示制御部26が全体図をディスプレイ220に表示する(S106)。
<主な効果>
本実施形態の表示装置2は、全体図、及び、全体図が有する描画部品を保存しておく。その後、ユーザーが手書きで描画部品を手書きすると、その描画部品と保存している描画部品とを照合して、類似度が高いものがあれば、その描画部品を持つ全体図を表示する。したがって、ユーザーは全体図の一部を手書きすれば、過去に手書きした全体図を呼び出して再利用することができる。
本実施形態の表示装置2は、全体図、及び、全体図が有する描画部品を保存しておく。その後、ユーザーが手書きで描画部品を手書きすると、その描画部品と保存している描画部品とを照合して、類似度が高いものがあれば、その描画部品を持つ全体図を表示する。したがって、ユーザーは全体図の一部を手書きすれば、過去に手書きした全体図を呼び出して再利用することができる。
実施例1では、ユーザーが手書きした図と、全ての保存されている全体図との類似性が比較された。しかし、保存されている全体図の量が多くなると比較する時間がかかるため検索対象をしぼることが好ましい。また、全体図の内容の機密性が高い場合、全体図を保存したユーザーがその全体図にアクセスできる人を制限したいことがある。
本実施例では、これを実現するためにユーザーIDを用いてそのユーザーが過去に作成した全体図のみを検索する表示装置2について説明する。
<機能について>
図18は、本実施例の表示装置2が有する機能をブロック状に示す機能ブロック図の一例である。なお、図18の説明では、主に図4との相違を説明する。
図18は、本実施例の表示装置2が有する機能をブロック状に示す機能ブロック図の一例である。なお、図18の説明では、主に図4との相違を説明する。
本実施例の表示装置2はログイン管理部29を有している。ログイン管理部29は、ICカード読取装置(図3では近距離通信部219が相当する)がNFCで受信した、ユーザーのICカードが保持するユーザーIDをもとにSSD204内に構成した認証データベースへ問い合わせて認証を行う。描画図管理部23と描画部品管理部24は認証されたユーザーIDに対応付けて描画部品と全体図を保存する。
なお、ログイン管理部29は、ICカードに書き込まれたユーザーIDをもとに認証するのでなく、ハードウェアキーボードや、タッチパネル上に表示したソフトウェアキーボードでユーザーが入力したユーザーIDとパスワードで認証してもよい。また、ログイン管理部29は生体認証してもよく、認証の形式は問わない。
また、ユーザーIDの問い合わせ先も表示装置2の内蔵のSSDではなく、表示装置2が別の認証サーバーに問い合わせてもよい。
<動作手順>
図19は、ユーザーが手書きした手書きデータに基づく描画部品と全体図の保存を説明するシーケンス図の一例である。なお、図19の説明では主に図15との相違を説明する。
図19は、ユーザーが手書きした手書きデータに基づく描画部品と全体図の保存を説明するシーケンス図の一例である。なお、図19の説明では主に図15との相違を説明する。
S31:ユーザーがICカードをICカードリーダーにかざす。
S32:ICカード読取装置(近距離通信部219)はICカードからユーザーIDを受信する。ログイン管理部29は近距離通信部219からユーザーIDを取得する。
S33:ログイン管理部29はユーザーIDに基づいてユーザー認証を行う。
S34:認証が成功した場合、ログイン管理部29はユーザーIDを描画部品管理部24に通知する。
以降の処理は図15と同様になるが、ステップS40で、描画部品管理部24はユーザーIDに対応付けて、描画部品管理テーブルをファイルとして部品データ記憶部32に保存する。
ユーザーIDが0001で描画部品が2つの場合の例として表15に示す描画部品管理テーブルとなる。
表5又は表9と比較すると、表15の描画部品管理テーブルには、ユーザーIDの項目が追加されている。描画比較部25は、現在、ログインしているユーザーのユーザーIDと同じユーザーIDに対応付けられている描画部品を検索対象にできる。
図20は、ユーザーが手書きした図と類似する描画部品を有する全体図を表示装置2が表示する手順を示すシーケンス図の一例である。図20の説明では主に図16との相違を説明する。
S51~S54:ログイン手順は図19と同様でよい。
S55~S60:ステップS55~S60は、図19のステップS35~S40と同様でよい。
S61:描画部品管理部24は、ログインしているユーザーのユーザーIDに対応付けられている描画部品のみを、ユーザーが手書きしている図と比較するように描画比較部25に要求する。
こうすることで、ログインしているユーザーのユーザーIDに対応付けられている描画部品のみと、ユーザーが手書きした描画部品とを描画比較部25が比較できる。表示装置2は、比較する時間を低減でき、全体図の内容の機密性が高い場合でも、全体図を閲覧できるユーザーを制限できる。
以降の処理は図16と同様でよい。
<主な効果>
本実施例の表示装置2は、実施例1の効果に加え、表示装置2が描画部品を検索する時間を低減でき、全体図の内容の機密性が高い場合でも、全体図を閲覧できるユーザーを制限できる。
本実施例の表示装置2は、実施例1の効果に加え、表示装置2が描画部品を検索する時間を低減でき、全体図の内容の機密性が高い場合でも、全体図を閲覧できるユーザーを制限できる。
なお、表示装置2は、ユーザーIDに基づいて描画部品を検索するのでなく、部署やチーム等、同じグループに所属するユーザーの描画部品を検索対象としてもよい。あるいは、描画部品にセキュリティレベルをユーザーが付与しておき、表示装置はセキュリティレベルが一定以下の描画部品を検索してもよい。
以下の実施例では表示装置2の別の構成例について説明する。
<<表示装置の別の構成例1>>
本実施形態の表示装置2は大型のタッチパネルを有するものとして説明されているが、表示装置2はタッチパネルを有するものに限られない。
本実施形態の表示装置2は大型のタッチパネルを有するものとして説明されているが、表示装置2はタッチパネルを有するものに限られない。
図21は、表示装置2の他の構成例を示す図である。図21では、スクリーン413の上辺にプロジェクター411が設置されている。このプロジェクター411が表示装置2に相当する。なお、スクリーンは黒板でもよく、映像を投影するだけの広さの平面であればよい。
プロジェクター411は超短焦点の光学系を有しており、10cm程度から歪みの少ない映像をスクリーン413に投影できる。この映像は、無線又は有線で接続されたPCから送信されてもよいし、プロジェクター411が記憶していてもよい。
ユーザーは専用の電子ペン2501を使ってスクリーン413に手書きする。電子ペン2501は、ユーザーが手書きのためにスクリーン413に押しつけるとスイッチがONになり発光する発光部を例えば先端部に有している。光の波長は近赤外や赤外なのでユーザーの目には見えない。プロジェクター411はカメラを有しており、発光部を撮像して画像を解析し電子ペン2501の方向を特定する。また、電子ペン2501は発光と共に音波を発信しており、プロジェクター411は音波の到達時間により距離を算出する。プロジェクター411は、方向と距離により電子ペン2501の位置を特定できる。電子ペン2501の位置には手書きされたデータが描画(投影)される。
プロジェクター411はメニュー430を投影するので、ユーザーが電子ペン2501でボタンを押下すると、プロジェクター411が電子ペン2501の位置とスイッチのON信号により押下されたボタンを特定する。例えば、保存ボタン431が押下されると、ユーザーが手書きしたデータ(座標点列)がプロジェクター411で保存される。プロジェクター411は、予め定められたサーバー412又はUSBメモリ2600等に手書き情報を保存する。
<<表示装置の別の構成例2>>
図22は、表示装置2の他の構成例を示す図である。図22の例では、表示装置2が、端末装置600、画像投影装置700A、及び、ペン動作検出装置810を有する。
図22は、表示装置2の他の構成例を示す図である。図22の例では、表示装置2が、端末装置600、画像投影装置700A、及び、ペン動作検出装置810を有する。
端末装置600は、画像投影装置700A及びペン動作検出装置810と有線で接続されている。画像投影装置700Aは、端末装置600により入力された画像データをスクリーン800に投影させる。
ペン動作検出装置810は、電子ペン820と通信を行っており、スクリーン800の近傍における電子ペン820の動作を検出する。具体的には、ペン動作検出装置810は、スクリーン800上において、電子ペン820が示している点を示す座標情報を検出し(検出方法は図21と同様でよい)、端末装置600へ送信する。
端末装置600は、ペン動作検出装置810から受信した座標情報に基づき、電子ペン820によって入力される手書きデータの画像データを生成し、画像投影装置700Aによって手書きデータの画像をスクリーン800に描画させる。
また、端末装置600は、画像投影装置700Aに投影させている背景画像と、電子ペン820によって入力された手書データの画像とを合成した重畳画像を示す重畳画像データを生成する。
<<表示装置の別の構成例3>>
図23は、表示装置2の構成例を示す図である。図23の例では、表示装置2が、端末装置600と、ディスプレイ800Aと、ペン動作検出装置810Aとを有する。
図23は、表示装置2の構成例を示す図である。図23の例では、表示装置2が、端末装置600と、ディスプレイ800Aと、ペン動作検出装置810Aとを有する。
ペン動作検出装置810Aは、ディスプレイ800Aの近傍に配置され、ディスプレイ800A上に、電子ペン820Aが示している点を示す座標情報を検出し(検出方法は図21と同様でよい)、端末装置600へ送信する。なお、図23の例では、電子ペン820Aは、端末装置600によってUSBコネクタを介して充電されても良い。
端末装置600は、ペン動作検出装置810Aから受信した座標情報に基づき、電子ペン820Aによって入力される手書データの画像データを生成し、ディスプレイ800Aに表示させる。
<<表示装置の別の構成例4>>
図24は、表示装置2の構成例を示す図である。図24の例では、表示装置2が、端末装置600と、画像投影装置700Aとを有する。
図24は、表示装置2の構成例を示す図である。図24の例では、表示装置2が、端末装置600と、画像投影装置700Aとを有する。
端末装置600は、電子ペン820Bと無線通信(Bluetooth(登録商標)等)を行って、スクリーン800上において電子ペン820Bが示す点の座標情報を受信する。座標情報は、スクリーン800に形成された微小な位置情報を電子ペン820Bが読み取ってもよいし、スクリーン800から座標情報を受信してもよい。
そして、端末装置600は、受信した座標情報に基づき、電子ペン820Bにより入力される手書データの画像データを生成し、画像投影装置700Aに手書データの画像を投影させる。
また、端末装置600は、画像投影装置700Aに投影させている背景画像と、電子ペン820Bによって入力された手書データの画像とを合成した重畳画像を示す重畳画像データを生成する。
以上のように、上記した各実施形態は、様々なシステム構成において適用することができる。
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
例えば、本実施形態では、描画比較部25がコサイン類似度で描画部品のコーナーのペアのベクトルに対して類似度を評価したが、類似度は描画部品の画像データのパターンマッチングなどで求めてもよい。
また、本実施形態では、電子黒板として使用できる表示装置を説明したが、表示装置は画像を表示できればよく、例えばデジタルサイネージなどでもよい。また、ディスプレイでなくプロジェクターの表示データを表示してもよい。この場合、本実施形態ではペン先の座標をタッチパネルで検知する方法でペンの座標を検出したが、表示装置2は、ペン先の座標を超音波により検出してもよい。ペンは発光と共に超音波を発信しており、表示装置2は超音波の到達時間により距離を算出する。表示装置2は、方向と距離によりペンの位置を特定できる。ペンの軌跡をストロークとしてプロジェクターが描画(投影)する。
また、本実施形態では電子黒板を一例として説明したが、タッチパネルを有する情報処理装置であれば好適に適用できる。電子黒板と同様の機能を有する装置を、電子ホワイトボード、電子情報ボード、インタラクティブボードなどともいう。タッチパネルを搭載した情報処理装置としては、例えば、PJ(Projector:プロジェクター)、デジタルサイネージ等の出力装置、HUD(Head Up Display)装置、産業機械、撮像装置、集音装置、医療機器、ネットワーク家電、ノートPC(Personal Computer)、携帯電話、スマートフォン、タブレット端末、ゲーム機、PDA、デジタルカメラ、ウェアラブルPC又はデスクトップPC等であってもよい。
また、図4などの構成例は、表示装置2による処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。表示装置2の処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
また、表示装置2が単体で本実施形態の機能を有する場合を説明したが、表示装置2の機能をサーバーが提供してもよい。この場合、表示装置2とサーバーがネットワークを介して通信する。表示装置2は手書きデータを表示すると共にサーバーに送信し、サーバーが文字認識や表機能などを提供する。
また、本実施形態において、比較の対象としてしきい値が例示されていたとしても、しきい値は例示された値には限定されない。このため、本実施形態では、全てのしきい値に関し、しきい値未満としきい値以下という記載は同等の意味を持ち、しきい値超過としきい値以上という記載は同等の意味を持つ。例えば、しきい値を11とした場合のしきい値未満という記載はしきい値が10である場合のしきい値以下と同等の意味を持つ。また、しきい値を10とした場合のしきい値超過という記載はしきい値が11である場合のしきい値以上と同等の意味を持つ。
また、上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
なお、接触位置検出部21は受付手段の一例である。ログイン管理部29は認証手段の一例である。描画部品管理部24は保存手段の一例である。表示制御部26は表示制御手段の一例である。描画比較部25は類似度算出手段の一例である。
2 表示装置
Claims (9)
- ストロークデータの入力を受け付ける受付手段と、
所定の条件で区分された複数の前記ストロークデータを描画部品として保存し、1つ以上の前記描画部品を含む描画データを保存する保存手段と、
前記受付手段が前記描画部品の入力を受け付けた場合、入力された前記描画部品と、前記保存手段が保存した前記描画部品とに基づいて、保存されている前記描画部品を含む前記描画データを表示する表示制御手段と、
を有する表示装置。 - 前記受付手段が入力を受け付けた前記描画部品と、前記保存手段が保存した前記描画部品との類似度を算出する類似度算出手段を有し、
前記表示制御手段は、前記類似度がしきい値以上又はしきい値超過と判断された前記描画部品を含む前記描画データを表示することを特徴とする請求項1に記載の表示装置。 - 前記表示制御手段は、前記受付手段が入力を受け付けた前記描画部品と、前記保存手段が保存した前記描画部品とに基づいて、保存されている前記描画部品を含む前記描画データのリストを表示し、
前記描画データのリストにおいて選択を受け付けた前記描画データを表示することを特徴とする請求項1又は2に記載の表示装置。 - 前記所定の条件は、前記受付手段が最後に受け付けたストロークデータから所定の距離以上離れた位置に次のストロークデータの入力を受け付けるか、又は、
前記受付手段が最後にストロークデータを受け付けてから一定時間以内に次のストロークデータを受け付けない場合、であり、
保存手段は、前記所定の条件を最後に満たしてから次に満たすまでに、受付手段が受け付けたストロークデータを1つの前記描画部品と判断する請求項1~3のいずれか1項に記載の表示装置。 - 前記保存手段は、前記描画部品が有する2つのストロークデータ間の距離が所定の値以下で、かつ、前記2つのストロークデータの方向が成す角度がしきい値以上又はしきい値超過である場合、前記2つのストロークデータ間の距離が最小となる線分の中点をコーナーとして検出し、または、ストロークデータの方向が変化した点の前後のストロークデータの方向が成す角度がしきい値以上又はしきい値超過である場合に前記変化した点をコーナーとして検出し、前記描画データに対応づけて前記描画部品の前記コーナーの座標を保存しておき、
前記類似度算出手段は、前記コーナーの座標に基づいて、前記受付手段が入力を受け付けた前記描画部品と、前記保存手段が保存した前記描画部品との類似度を算出することを特徴とする請求項2に記載の表示装置。 - 前記類似度算出手段は、前記受付手段が入力を受け付けた前記描画部品が有する、隣接する前記コーナーの座標と、前記保存手段が保存した前記描画部品が有する、隣接する前記コーナーの座標とからコサイン類似度を算出し、
前記コサイン類似度としきい値を比較することで、前記受付手段が入力を受け付けた前記描画部品と、前記保存手段が保存した前記描画部品が類似しているか否かを判断することを特徴とする請求項5に記載の表示装置。 - ユーザーを認証する認証手段を有し、
前記保存手段は前記ユーザーに対応付けて前記描画部品及び前記描画データを保存しておき、
前記受付手段が前記ユーザーにより前記描画部品の入力を受け付けた場合、入力された前記描画部品と、前記保存手段が前記ユーザーに対応付けて保存した前記描画部品とに基づいて、保存されている前記描画部品を含む前記描画データを表示する請求項1~6のいずれか1項に記載の表示装置。 - 受付手段が、ストロークデータの入力を受け付けるステップと、
保存手段が、所定の条件で区分された複数の前記ストロークデータを描画部品として保存し、1つ以上の前記描画部品を含む描画データを保存するステップと、
前記受付手段が前記描画部品の入力を受け付けた場合、入力された前記描画部品と、前記保存手段が保存した前記描画部品とに基づいて、表示制御手段が、保存されている前記描画部品を含む前記描画データを表示するステップと、
を有する表示方法。 - 表示装置を、
ストロークデータの入力を受け付ける受付手段と、
所定の条件で区分された複数の前記ストロークデータを描画部品として保存し、1つ以上の前記描画部品を含む描画データを保存する保存手段と、
前記受付手段が前記描画部品の入力を受け付けた場合、入力された前記描画部品と、前記保存手段が保存した前記描画部品とに基づいて、保存されている前記描画部品を含む前記描画データを表示する表示制御手段、
として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021049023A JP2022147675A (ja) | 2021-03-23 | 2021-03-23 | 表示装置、表示方法、プログラム |
US17/695,832 US11734940B2 (en) | 2021-03-23 | 2022-03-16 | Display apparatus, display method, and non-transitory recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021049023A JP2022147675A (ja) | 2021-03-23 | 2021-03-23 | 表示装置、表示方法、プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022147675A true JP2022147675A (ja) | 2022-10-06 |
Family
ID=83364854
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021049023A Pending JP2022147675A (ja) | 2021-03-23 | 2021-03-23 | 表示装置、表示方法、プログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US11734940B2 (ja) |
JP (1) | JP2022147675A (ja) |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000165577A (ja) | 1998-11-30 | 2000-06-16 | Ricoh Co Ltd | 会議支援装置 |
WO2006137078A1 (en) * | 2005-06-20 | 2006-12-28 | Hewlett-Packard Development Company, L.P. | Method, article, apparatus and computer system for inputting a graphical object |
JP2007265171A (ja) | 2006-03-29 | 2007-10-11 | Toshiba Corp | 入力装置およびその方法 |
JP6668598B2 (ja) | 2014-05-19 | 2020-03-18 | 株式会社リコー | システム、及び通信方法 |
JP7205386B2 (ja) | 2019-05-31 | 2023-01-17 | 株式会社リコー | 撮像装置、画像処理方法、プログラム |
JP7310546B2 (ja) | 2019-10-30 | 2023-07-19 | 株式会社リコー | 表示装置、表示方法、プログラム、画像処理システム |
JP2022019426A (ja) | 2020-07-17 | 2022-01-27 | 株式会社リコー | 表示装置、制御方法、プログラム |
-
2021
- 2021-03-23 JP JP2021049023A patent/JP2022147675A/ja active Pending
-
2022
- 2022-03-16 US US17/695,832 patent/US11734940B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US11734940B2 (en) | 2023-08-22 |
US20220309818A1 (en) | 2022-09-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Panwar | Hand gesture based interface for aiding visually impaired | |
US11132122B2 (en) | Handwriting input apparatus, handwriting input method, and non-transitory recording medium | |
US11551480B2 (en) | Handwriting input apparatus, handwriting input method, program, and input system | |
US11907466B2 (en) | Apparatus and method which displays additional information along with a display component in response to the display component being selected | |
JP2016099643A (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP7452155B2 (ja) | 手書き入力装置、手書き入力方法、プログラム | |
US11048408B2 (en) | Display apparatus, recording medium, and display method | |
Liang et al. | Turn any display into a touch screen using infrared optical technique | |
JP6977408B2 (ja) | 情報処理システム、端末装置、情報処理方法及び情報処理プログラム | |
JP2022147675A (ja) | 表示装置、表示方法、プログラム | |
JP2022138285A (ja) | 表示装置、表示方法、プログラム | |
JP2021082274A (ja) | 表示装置、表示方法、プログラム | |
CN112416121A (zh) | 基于物体和手势感应的智能交互方法、装置及存储介质 | |
JP7480608B2 (ja) | 表示装置、表示方法、プログラム | |
JP7404958B2 (ja) | 入力装置、入力方法、及びプログラム | |
US20230315283A1 (en) | Display apparatus, display method, display system, and recording medium | |
US11816327B2 (en) | Display apparatus, method for displaying, and non-transitory recording medium | |
US20230229380A1 (en) | Input display control device, input display control method, and input display system | |
US20230298367A1 (en) | Display apparatus, formatting method, and non-transitory computer-executable medium | |
US11675496B2 (en) | Apparatus, display system, and display control method | |
JP7268479B2 (ja) | 表示装置、プログラム、表示方法 | |
WO2016121403A1 (en) | Information processing apparatus, image processing system, and program | |
EP3882757A1 (en) | Display device, display method, and program | |
US20230070034A1 (en) | Display apparatus, non-transitory recording medium, and display method | |
US20230266875A1 (en) | Display apparatus, input method, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240119 |