JP2022143788A - 表示装置、表示方法、プログラム - Google Patents
表示装置、表示方法、プログラム Download PDFInfo
- Publication number
- JP2022143788A JP2022143788A JP2021044492A JP2021044492A JP2022143788A JP 2022143788 A JP2022143788 A JP 2022143788A JP 2021044492 A JP2021044492 A JP 2021044492A JP 2021044492 A JP2021044492 A JP 2021044492A JP 2022143788 A JP2022143788 A JP 2022143788A
- Authority
- JP
- Japan
- Prior art keywords
- display
- icon
- function
- display device
- display control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 38
- 230000008569 process Effects 0.000 claims description 10
- 230000006870 function Effects 0.000 abstract description 156
- 238000010586 diagram Methods 0.000 description 26
- 238000012545 processing Methods 0.000 description 15
- 238000001514 detection method Methods 0.000 description 14
- 238000003825 pressing Methods 0.000 description 13
- 238000013500 data storage Methods 0.000 description 11
- 238000003909 pattern recognition Methods 0.000 description 10
- 238000006243 chemical reaction Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 8
- 230000004044 response Effects 0.000 description 8
- 230000010365 information processing Effects 0.000 description 5
- 238000010801 machine learning Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000005674 electromagnetic induction Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000002194 synthesizing effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
- G06F3/03542—Light pens for emitting or receiving light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
- G06F3/03545—Pens or stylus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/255—Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/32—Digital ink
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- User Interface Of Digital Computer (AREA)
- Facsimiles In General (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
Description
本発明は、表示装置、表示方法、及び、プログラムに関する。
手書き認識技術を利用し、手書きデータを文字に変換して、ディスプレーに表示する表示装置が知られている。比較的大型のタッチパネルを備えた表示装置は会議室や公共施設などに配置され、複数のユーザーにより電子黒板などとして利用される。
このような表示装置は高機能化が進んでおり、操作手順が分からない場合が生じる。従来から操作手順を案内するガイダンスを表示する技術が知られている(例えば、特許文献1参照。)。特許文献1には、ユーザーの習熟度などに応じた適切な内容のガイダンス情報を表示して、個々のユーザーに適した作業環境を実現する情報処理装置が開示されている。
しかしながら、従来の技術は、手書きデータに対応した表示部品を表示することができないという問題があった。ここで、表示部品とは、ユーザーの操作を受け付けることで所定の処理を実行するアイコン等を示す。なお、表示部品の定義については、発明を実施するための形態にて記載している。
例えば、特許文献1では、手書き文字をストロークデータで囲むことによりコマンドメニューを表示させることができる。しかし、機能があることに気づいていないユーザーは、手書き文字をストロークデータで囲むことでコマンドメニューを表示できることを知らないので、コマンドメニューを表示させることさえできない。
例えば、特許文献1では、手書き文字をストロークデータで囲むことによりコマンドメニューを表示させることができる。しかし、機能があることに気づいていないユーザーは、手書き文字をストロークデータで囲むことでコマンドメニューを表示できることを知らないので、コマンドメニューを表示させることさえできない。
本発明は、上記課題に鑑み、手書きデータに対応した表示部品を表示することができる表示装置を提供することを目的とする。
上記課題に鑑み、本発明は、手書きデータの入力を受け付ける第一受付手段と、前記手書きデータの形状に対応する1つ以上の表示部品を記憶する記憶手段と、前記第一受付手段が受け付けた前記手書きデータに対応する前記表示部品を1つ以上、表示する表示制御手段と、を有する表示装置を提供する。
手書きデータに対応した表示部品を表示することができる表示装置を提供できる。
以下、本発明を実施するための形態の一例として表示装置2と、表示装置2が行う表示方法について図面を参照しながら説明する。
<表示装置の動作の概略>
ユーザーが表示装置2の操作手順が分からない場合、表示装置2はユーザーのボタン操作等に応じて、ユーザーが望む機能のガイダンスを表示することができる。しかし、表示装置2の機能の存在に気づいていないユーザーの場合、ガイダンスを表示しようとすることもできない。
ユーザーが表示装置2の操作手順が分からない場合、表示装置2はユーザーのボタン操作等に応じて、ユーザーが望む機能のガイダンスを表示することができる。しかし、表示装置2の機能の存在に気づいていないユーザーの場合、ガイダンスを表示しようとすることもできない。
そこで、本実施形態では、ユーザーが予め定まっている形状を手書きした場合に、その形状に関連する機能のガイダンスを表示する。
表示装置2の機能として、図形変換機能、表機能、及び、付箋機能等がある。
・図形変換機能とは、ユーザーが画面に図形を手書きした場合、表示装置2が清書する機能である。清書とは、手描きで生じるブレなどがない直線や曲線の図形に変換することをいう。図形変換機能は、ユーザーが図形変換機能をオンにした場合に実行される。手書きデータの状態を維持したい場合があるためである。
・表機能とは、図形に変換された四角の中に縦又は横にユーザーが手書きで線を書き足すと、表示装置2が表に変換する機能である。更に、表機能は、行と列の数の指定を受け付けて、表を作成できる。
・付箋機能とは、図形に変換された四角にユーザーが斜めに手書きで線を書き足すことで、付箋を作成する機能である。
・スタンプ作成機能とはユーザーがスタンプを作成する機能である。スタンプとは、画像(イラスト)の一種であり、文字を使わずに何らかの意味を表すために使用される。
・定規機能とは、ユーザーが直接、手描きで生じるブレのない直線を手書きするための機能である。
・図形変換機能とは、ユーザーが画面に図形を手書きした場合、表示装置2が清書する機能である。清書とは、手描きで生じるブレなどがない直線や曲線の図形に変換することをいう。図形変換機能は、ユーザーが図形変換機能をオンにした場合に実行される。手書きデータの状態を維持したい場合があるためである。
・表機能とは、図形に変換された四角の中に縦又は横にユーザーが手書きで線を書き足すと、表示装置2が表に変換する機能である。更に、表機能は、行と列の数の指定を受け付けて、表を作成できる。
・付箋機能とは、図形に変換された四角にユーザーが斜めに手書きで線を書き足すことで、付箋を作成する機能である。
・スタンプ作成機能とはユーザーがスタンプを作成する機能である。スタンプとは、画像(イラスト)の一種であり、文字を使わずに何らかの意味を表すために使用される。
・定規機能とは、ユーザーが直接、手描きで生じるブレのない直線を手書きするための機能である。
したがって、図形変換機能で表示装置2が四角を表示した後、そのまま四角を表示する場合、そこから更にユーザーが表又は付箋を作成する場合がある。マニュアルを読んでいないユーザーは表機能又は付箋機能があることに気づいていない場合がある。
そこで、本実施形態の表示装置2は、ユーザーが図形変換機能で四角を表示させた場合に、表又は付箋も作成できることをユーザーに知らせるガイダンスを表示する。
図1~図3は、ガイダンス60の表示例を説明する図である。図1(a)では、ユーザーが四角を手書きしたことで、表示装置2が図形変換機能により清書された四角301を表示した。
図1(a)の状態では、図形変換機能が四角301を表示した場合、表示装置2が表又は付箋を作成できる状態であるため、表機能及び付箋機能の存在を知らせるガイダンス60を表示する。図1(b)では、ガイダンス60として、四角301の右上に表機能の表アイコン50と付箋機能の付箋アイコン51が表示されている。
ユーザーは表アイコン50と付箋機能の付箋アイコン51に気づくことで、四角301の図形から表又は付箋を作成できることを知ることができた。まず、ユーザーが付箋アイコン51を押下した場合を説明する。
図2(a)は、ユーザーが付箋アイコン51を押下した状態を示す。付箋アイコン51は選択により色や輝度が変わり、押下を受け付けた旨をユーザーに知らせる。表示装置2は四角を付箋302に変換して表示する。図2(b)は付箋302の表示例である。付箋302の大きさは、四角301の大きさと同じでよい。付箋302の色は最後に作成した付箋302の色と同じである。ユーザーが過去に付箋302を作成していない場合、付箋302の色はデフォルトの色でよい。
なお、ユーザーは付箋302にメモ書きなどを手書きできる。そして、ユーザーは付箋302を任意の場所に移動できる。
次に、ユーザーが表アイコン50を押下した場合を説明する。
図3(a)は、図1(b)でユーザーが表アイコン50を押下した状態を示す。表アイコン50は選択により色や輝度が変わり、押下を受け付けた旨をユーザーに知らせる。表示装置2は表の行と列を指定するダイアログボックス303を表示する。
図3(b)は表の行と列の指定例である。ユーザーは電子ペン290などの入力手段でストロークデータを描く要領で行と列を指定する。ユーザーは、入力手段で任意のセルを指定する。指定されたセルの色が例えばオレンジに変わる。ユーザーが入力手段をディスプレーに押しつけた状態でスライドさせることで自由に行と列を選択できる。ユーザーがディスプレーから入力手段を離すと、表の行と列の数が決定する。表示装置2は四角301を削除し、表304を表示する。図3(c)は表示された表304を示す。
このように、本実施形態の表示装置2は、ユーザーが手書きデータで予め定まっている形状を手書きした場合(より詳細には図形変換機能が手書きデータをある図形に変換した場合)、手書きデータの形状に関連する機能のガイダンス60を表示するので、ユーザーが存在に気づいていない機能があっても、機能を使用できる。また、新しい機能を使用する場合も、ユーザーがマニュアルを探す又は調べる手間を低減できる。
<用語について>
入力手段とはタッチパネルに座標を指定して手書きが可能な手段であればよい。例えば、ペン、人の指や手、棒状部材などがある。
入力手段とはタッチパネルに座標を指定して手書きが可能な手段であればよい。例えば、ペン、人の指や手、棒状部材などがある。
ユーザーがディスプレーに入力手段を押しつけてから連続的に移動させた後、ディスプレーから離すという一連の操作をストロークという。ストロークデータとは、入力手段により入力される座標の軌跡に基づいてディスプレーに表示される情報である。ストロークデータは適宜、補間されてよい。手書きデータとは、1つ以上のストロークデータを有するデータである。手書き入力とは、ユーザーによって、手書きデータが入力されることを示している。
ストロークデータに基づいてディスプレーに表示される表示物をオブジェクトという。オブジェクトとは対象という意味であるが、本実施形態では表示対象などの意味である。
手書きデータが文字認識して変換された文字列には、テキストデータの他、「済」などの決まった文字やマークとして表示されるスタンプ、円や星などの図形、直線等、ユーザーの操作に基づいて表示されたデータも含まれてよい。
手書きデータが文字認識して変換された文字列には、テキストデータの他、「済」などの決まった文字やマークとして表示されるスタンプ、円や星などの図形、直線等、ユーザーの操作に基づいて表示されたデータも含まれてよい。
文字列とは手書きデータから文字認識により変換された1つ以上の文字コード(フォント)である。文字列は、コンピュータで扱われる1つ以上の文字でよい。文字には、数字、アルファベット、及び、記号等が含まれる。文字列はテキストデータとも言われる。
ガイダンス60とは入門的説明をいう。ヘルプ機能と呼ばれる場合もある。本実施形態では、ガイダンス60の一例として、手書きデータの形状に対応したアイコンが表示される。アイコンで表示することでユーザーが一目で機能を判断できる。ガイダンス60は機能を表す文字や音声などでもよい。
表示部品とは、画面を構成する表示用の要素の1つであり、直接又は間接的にユーザーの操作を受け付けることで所定の処理を実行するものである。
本実施形態では、上記のアイコンが表示部品であるが、表示部品は操作を提示する文字、チェックボックス、テキストエントリ、ボタン等でもよい。また、表示部品は、ユーザーが入力手段を使う場合に押下の対象になってもよく、押下によって所定の処理が実行されるように実装されていてもよい。
本実施形態では、上記のアイコンが表示部品であるが、表示部品は操作を提示する文字、チェックボックス、テキストエントリ、ボタン等でもよい。また、表示部品は、ユーザーが入力手段を使う場合に押下の対象になってもよく、押下によって所定の処理が実行されるように実装されていてもよい。
手書きデータの形状に関連する機能とは、手書きデータの形状に対しユーザーが使用することができる機能である。
<装置の構成例>
図4を用いて、本実施形態に係る表示装置2の全体構成を説明する。図4は、表示装置2の全体構成図を示した図である。図4(a)は、表示装置2の一例として、横置きされることで横長の電子黒板として使用される表示装置2を示している。
図4を用いて、本実施形態に係る表示装置2の全体構成を説明する。図4は、表示装置2の全体構成図を示した図である。図4(a)は、表示装置2の一例として、横置きされることで横長の電子黒板として使用される表示装置2を示している。
図4(a)に示されているように、表示装置2の上部には表示装置2の一例としてのディスプレー280が設置されている。ユーザーUは、入力手段を用いて、ディスプレー280に文字等を手書きする(入力、描画ともいう)ことができる。
図4(b)は縦置きされることで縦長の電子黒板として使用される表示装置2を示している。
図4(c)は机230に平置きされた表示装置2を示す。表示装置2は厚みが薄いので、一般の机に平置きしても机の高さを調整する必要がない。また、ユーザーが表示装置2を容易に移動できる。
なお、入力手段が接触する座標の入力方式には、電磁誘導方式、アクティブ静電結合方式などがある。また、電子ペン290は、筆圧検知、傾き検知、ホバー機能(ペンが触れる前にカーソルを表示)、などの機能を有していてよい。
<装置のハードウェア構成>
続いて、図5を用いて、表示装置2のハードウェア構成を説明する。表示装置2は図示するように情報処理装置又はコンピュータの構成を有している。図5は、表示装置2のハードウェア構成図の一例である。図5に示されているように、表示装置2は、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203、SSD(Solid State Drive)204、ネットワークI/F205、及び、外部機器接続I/F(Interface)206を備えている。
続いて、図5を用いて、表示装置2のハードウェア構成を説明する。表示装置2は図示するように情報処理装置又はコンピュータの構成を有している。図5は、表示装置2のハードウェア構成図の一例である。図5に示されているように、表示装置2は、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203、SSD(Solid State Drive)204、ネットワークI/F205、及び、外部機器接続I/F(Interface)206を備えている。
これらのうち、CPU201は、表示装置2全体の動作を制御する。ROM202は、CPU201やIPL(Initial Program Loader)等のCPU201の駆動に用いられるプログラムを記憶する。RAM203は、CPU201のワークエリアとして使用される。
SSD204は、表示装置2用のプログラム等の各種データを記憶する。このプログラムは汎用的なOS(Windows(登録商標)、Mac OS(登録商標)、Android(登録商標)、iOS(登録商標)等)を搭載した情報処理装置で動作するアプリケーションプログラムでもよい。
ネットワークI/F205は、通信ネットワーク100との通信を制御する。外部機器接続I/F206は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USB(Universal Serial Bus)メモリ224、外付け機器(マイク240、スピーカ250、カメラ260)である。
また、表示装置2は、キャプチャデバイス211、GPU212、ディスプレイコントローラ213、接触センサ214、センサコントローラ215、電子ペンコントローラ216、近距離通信回路219、及び近距離通信回路219のアンテナ219a、電源スイッチ222及び選択スイッチ類223を備えている。
これらのうち、キャプチャデバイス211は、外付けのPC(Personal Computer))270のディスプレーに対して映像情報を静止画又は動画として表示させる。GPU(Graphics Processing Unit)212は、グラフィクスを専門に扱う半導体チップである。
ディスプレイコントローラ213は、GPU212からの出力画像をディスプレー280等へ出力するために画面表示の制御及び管理を行う。
接触センサ214は、ディスプレー280上に電子ペン290やユーザーの手H等が接触したことを検知する。電子ペン290とユーザーの手Hを区別しない場合は、入力手段291という。
センサコントローラ215は、接触センサ214の処理を制御する。接触センサ214は、赤外線遮断方式による座標の入力及び座標の検出を行う。この座標の入力及び座標の検出する方法は、ディスプレー280の上側両端部に設置された2つ受発光装置が、ディスプレー280に平行して複数の赤外線を放射し、ディスプレー280の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する方法である。接触センサ214は、物体によって遮断された2つの受発光装置が放射した赤外線のIDをセンサコントローラ215に出力し、センサコントローラ215が、物体の接触位置である座標位置を特定する。
電子ペンコントローラ216は、電子ペン290と通信することで、ディスプレー280へのペン先のタッチやペン尻のタッチの有無を判断する。
近距離通信回路219は、NFC(Near Field Communication)やBluetooth(登録商標)等の通信回路である。
電源スイッチ222は、表示装置2の電源のON/OFFを切り換えるためのスイッチである。
選択スイッチ類223は、例えば、ディスプレー280の表示の明暗や色合い等を調整するためのスイッチ群である。
更に、表示装置2は、バスライン210を備えている。バスライン210は、図5に示されているCPU201等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
なお、接触センサ214は、赤外線遮断方式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネル、対向する2つの抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルなどの種々の検出手段を用いてもよい。また、電子ペンコントローラ216が、電子ペン290のペン先及びペン尻だけでなく、電子ペン290のユーザーが握る部分や、その他の電子ペン290の部分がディスプレー280にタッチしたか否かを判断してもよい。
<機能について>
次に、図6を用いて表示装置2の機能について説明する。図6は、表示装置2が有する機能をブロック状に分けて説明する機能ブロック図の一例である。表示装置2は、受付部21、描画データ生成部22、文字認識部23、表示制御部24、図形認識部25、データ記録部26、操作受付部27、表機能部28、付箋機能部29、スタンプ作成機能部30、及び、定規機能部31、を有している。表示装置2が有する各機能は、図5に示されている各構成要素のいずれかが、SSD204からRAM203上に展開されたプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。
次に、図6を用いて表示装置2の機能について説明する。図6は、表示装置2が有する機能をブロック状に分けて説明する機能ブロック図の一例である。表示装置2は、受付部21、描画データ生成部22、文字認識部23、表示制御部24、図形認識部25、データ記録部26、操作受付部27、表機能部28、付箋機能部29、スタンプ作成機能部30、及び、定規機能部31、を有している。表示装置2が有する各機能は、図5に示されている各構成要素のいずれかが、SSD204からRAM203上に展開されたプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。
受付部21は接触センサ214に対し入力手段291が接触した位置の座標を検出する。描画データ生成部22は入力手段291の先端が接触した座標を受付部21から取得する。描画データ生成部22は、この座標点列を補間することで接続してストロークデータを生成する。
表示制御部24は手書きデータ、手書きデータから変換された文字列、図形、及び、ユーザーが操作するための操作メニューなどをディスプレーに表示する。
文字認識部23はユーザーが手書きした1つ以上のストロークデータ(手書きデータ)に対し、文字認識処理を行い、文字コードに変換する。文字認識部23は、ユーザーの入力手段291の操作と並行して文字(日本語だけでなく英語などの多国語)、数字、記号(%、$、&など)、図形(線、丸、三角など)等を認識していく。認識方法については様々なアルゴリズムが考案されているが、本実施形態では公知の技術を利用できるとして詳細を割愛する。
図形認識部25は、ユーザーが手書きしたストロークデータに対し図形認識(線、丸、三角、四角など)を行い、図形に変換する。認識方法については様々なアルゴリズムが考案されているが、本実施形態では公知の技術を利用できるとして詳細を割愛する。
データ記録部26は、表示装置2に手書きされた手書きデータ、手書きデータから変換された文字列、又は、図形データ等を記憶部39の表示データ記憶部393に記憶する。表示データについては後述する。
操作受付部27は、受付部21が受け付ける入力手段291が接触した位置の座標に基づいて、表示制御部24がディスプレーに表示した、ユーザーが操作するためのメニューの操作を受け付ける。
表機能部28は、図形に変換された四角301の中に、ユーザーがストロークデータを縦又は横に手描きした場合に、表の作成として受け付ける。後述する「関連機能アイコンを設定する」がオンになっている場合は、図形認識部25がストロークデータを四角301に変換し、表示制御部24が表アイコンを表示する。表機能部28は表アイコンの押下に応じて、表の作成等を行う。
付箋機能部29は、付箋の作成を行う。後述する「関連機能アイコンを設定する」がオンになっている場合は、図形認識部25がストロークデータを四角301に変換し、表示制御部24が付箋アイコンを表示する。付箋機能部29はまた、付箋アイコンの押下に応じて付箋の作成等を行う。
スタンプ作成機能部30は、スタンプの作成を行う。後述する「関連機能アイコンを設定する」がオンになっている場合は、図形認識部25がストロークデータを四角301に変換し、表示制御部24がスタンプアイコンを表示する。スタンプ作成機能部30はまた、スタンプアイコンの押下に応じて、スタンプの作成等を行う。
定規機能部31は、定規の作成等を行う。後述する「関連機能アイコンを設定する」がオンになっている場合は、図形認識部25がストロークデータを直線に変換し、表示制御部24が定規アイコンを表示する。定規機能部31はまた、定規アイコンの押下に応じて定規の作成等を行う。
表1は、記憶部39が有する関連機能記憶部391に記憶されている関連機能情報を模式的に示す。関連機能記憶部391は、図形の種類と関連する関連機能を記憶している。図形認識部25がストロークデータを図形に変換すると、この図形に表1で関連づけられる機能のガイダンス60を表示制御部24が表示する。
表1は、記憶部39が有する関連機能記憶部391に記憶されている関連機能情報を模式的に示す。関連機能記憶部391は、図形の種類と関連する関連機能を記憶している。図形認識部25がストロークデータを図形に変換すると、この図形に表1で関連づけられる機能のガイダンス60を表示制御部24が表示する。
例えば表1などの明細書中の対応テーブル(表)は、機械学習の学習効果によって生成されたものでもよい。また、ユーザーが手書きした図形の種類とユーザーが選択した関連機能とを機械学習にて分類付けすることで、対応テーブルを使用しなくてもよい。
ここで、機械学習とは、コンピュータに人のような学習能力を獲得させるための技術であり、コンピュータが,データ識別等の判断に必要なアルゴリズムを、事前に取り込まれる学習データから自律的に生成し、新たなデータについてこれを適用して予測を行う技術のことをいう。機械学習のための学習方法は、教師あり学習、教師なし学習、半教師学習、強化学習、深層学習のいずれかの方法でもよく、さらに、これらの学習方法を組み合わせた学習方法でもよく、機械学習のための学習方法は問わない。
表2は、記憶部39が有するアイコン記憶部392に記憶されているアイコン情報を模式的に示す。アイコン記憶部392は、関連機能に対応するアイコン画像を記憶する。表示制御部24は、関連機能のガイダンス60を表示する場合、表2のアイコン画像を表示する。
表3は、記憶部39が有する表示データ記憶部393に記憶されている表示データを模式的に示す。表示データ記憶部393は、表示装置2に手書きされた手書きデータ、変換された文字列、画像(PCから取り込んだ画面)、及び、ファイル等を記憶する。表3ではストロークデータのみを示した。また、ストロークデータが図形に変換された場合、図形の種類が保持される。ストロークデータや図形の元データ(座標点列、図形の位置、色、太さなど)は別途、記録されている。
表2は、記憶部39が有するアイコン記憶部392に記憶されているアイコン情報を模式的に示す。アイコン記憶部392は、関連機能に対応するアイコン画像を記憶する。表示制御部24は、関連機能のガイダンス60を表示する場合、表2のアイコン画像を表示する。
表3は、記憶部39が有する表示データ記憶部393に記憶されている表示データを模式的に示す。表示データ記憶部393は、表示装置2に手書きされた手書きデータ、変換された文字列、画像(PCから取り込んだ画面)、及び、ファイル等を記憶する。表3ではストロークデータのみを示した。また、ストロークデータが図形に変換された場合、図形の種類が保持される。ストロークデータや図形の元データ(座標点列、図形の位置、色、太さなど)は別途、記録されている。
<ガイダンスの表示例>
以下では、いくつかの機能のガイダンス60の表示例を説明する。
以下では、いくつかの機能のガイダンス60の表示例を説明する。
<<付箋機能のガイダンス>>
図7は、四角301の図形に基づいて表示された付箋アイコン51の操作に応じて、付箋が表示されるまでを説明する図である。なお、後述する図11A,図11Bのフローチャート図との対応を明確にするため、フローチャート図のステップ番号を付記する。
図7は、四角301の図形に基づいて表示された付箋アイコン51の操作に応じて、付箋が表示されるまでを説明する図である。なお、後述する図11A,図11Bのフローチャート図との対応を明確にするため、フローチャート図のステップ番号を付記する。
図7(a)は、ユーザーが手描きした手描きデータの一例を示す(図11:ステップS1)である。ユーザーは四角300を手描きした。表示データ記憶部393には表3に示すように、ストロークIDが記憶される。
図7(b)は、手書きデータが図形認識部25よって変換された四角301の一例を示す(図11:ステップS2、S3)。表示データ記憶部393には表3に示すように、ストロークIDに対応付けて図形が記憶される。
図7(c)は、関連機能アイコン表示設定がオンの場合、図形が四角301であるため表示される付箋アイコン51と表アイコン50を示す(付箋アイコン又は表アイコンの少なくとも一方を表示する)。表示制御部24は、表示データの四角301の図形に対応する付箋機能と表機能を表1の関連機能記憶部から取得する。表示制御部24は、付箋機能と表機能に対応するアイコン画像を表2のアイコン記憶部392から取得する。表示制御部24は、付箋アイコン51、及び、表アイコン50をボタンとして四角301の右上等に表示する(図11:ステップS4、S5、S6)。付箋アイコン51、及び、表アイコン50の位置は四角301の周囲であればよい。付箋アイコン51及び表アイコン50の表示により、ユーザーが四角301から付箋機能又は表機能を利用できることを把握できる。
図7(d)は、一定時間が経過する前に、ユーザーが付箋アイコン51を押下したため、選択された付箋アイコン51を示す(図11:ステップS7、S9)。表示制御部24は付箋アイコン51の色や輝度を変えて、選択された旨をユーザーに知らせる。一定時間が経過した場合は、図7(b)に示すように、付箋アイコン51と表アイコン50が非表示になる(図11:ステップS8)。
図7(e)は、付箋アイコン51が押下された場合に表示される付箋302の一例を示す。操作受付部27は付箋アイコン51の押下を受け付けて、付箋機能部29が四角301を付箋302に変更し、表示制御部24が付箋302を表示する(図11:ステップS10)。
<<表機能のガイダンス>>
図8は、四角301の図形に基づいて表示された表アイコン50の操作に応じて、表が表示されるまでを説明する図である。まず、図7(a)~図7(c)までの処理がすでに終了している。
図8は、四角301の図形に基づいて表示された表アイコン50の操作に応じて、表が表示されるまでを説明する図である。まず、図7(a)~図7(c)までの処理がすでに終了している。
図8(a)は、一定時間が経過する前に、ユーザーが表アイコン50を押下したため、選択された表アイコン50を示す(図11:ステップS7、S11)。操作受付部27が表アイコン50の押下を受け付けて、表機能部28が表作成のダイアログボックス303を作成し、表示制御部24がダイアログボックス303を表示する(図11:ステップS12)。
図8(b)は、ユーザーが表作成のダイアログボックス303において、行と列を指定した状態のダイアログボックス303を示す(図11:ステップS15)。操作受付部27は入力手段291が検出する入力手段291の座標に応じて、行と列の範囲を検出する。表示制御部24はこの範囲の色を変えて選択範囲を表示する。
図8(c)は、表機能部28が作成した表の一例を示す。ユーザーが作成する表の行と列を指定した後、入力手段291をディスプレーから離すと、操作受付部27が行と列を受け付ける。表機能部28は指定された行と列の表304を四角301から表304に変換し、表示制御部24が表304を表示する(図11:ステップS16)。
表304の各セルに対し、ユーザーは手書きデータを手書きできる。手書きデータはセルに対応付けて保持される。表機能部28は、行単位、列単位、又は、セル単位に、コピー、移動、削除など、手書きデータを操作できる。手書きデータは文字認識されることも可能である。この他、表機能部28は行ごと、列ごとの合計の算出など、表計算ソフトで可能な一般的な処理を行うことができる。
<<定規機能のガイダンス>>
続いて、図9と表1,2,4を参照して、手書きデータが図形認識部25によって直線に図形変換された場合に表示される定規アイコン52について説明する。
続いて、図9と表1,2,4を参照して、手書きデータが図形認識部25によって直線に図形変換された場合に表示される定規アイコン52について説明する。
図9(a)は、ユーザーが手書きした直線310の手書きデータを示す(図11:ステップS1)。これにより、表示データ記憶部393にはストロークID(s010)が記憶される(表4)。
図9(b)は、手書きデータが図形認識部25よって変換された直線311の一例を示す(図11:ステップS17、S18)。これにより、表示データ記憶部393にはストロークID(s010)に対応付けて、直線が記憶される。
表4は、記憶部39が有する表示データ記憶部393に記憶されている表示データを模式的に示す。定規機能の説明のため、表4では、ストロークデータと直線が対応付けられている。
表4は、記憶部39が有する表示データ記憶部393に記憶されている表示データを模式的に示す。定規機能の説明のため、表4では、ストロークデータと直線が対応付けられている。
図9(c)は、関連機能アイコン表示設定がオンの場合、図形が直線311であるため表示される定規アイコン52を示す。表示制御部24は、表示データの直線の図形に対応する定規機能を表1の関連機能記憶部から取得する。表示制御部24は、定規機能に対応するアイコン画像を表2のアイコン記憶部392から取得する。表示制御部24は、定規アイコン52をボタンとして直線311の右上に表示する(図11:ステップS4、S19、S20)。定規アイコン52の位置は直線311の周囲であればよい。定規アイコン52の表示により、ユーザーが直線311から定規機能を利用できることを把握できる。
図9(d)は、一定時間が経過する前に、ユーザーが押下した状態の定規アイコン52を示す(図11:ステップS21、S23)。表示制御部24は定規アイコン52の色や輝度を変えて、選択された旨をユーザーに知らせる。一定時間が経過した場合、図9(b)に示すように、定規アイコン52が非表示になる(図11:ステップS22)。
図9(e)は、定規アイコン52の押下により表示された定規を示す。定規アイコン52の押下を操作受付部27が受け付ける。定規機能部31は直線311を定規312に変更し、表示制御部24が図9(e)に示すように定規312を表示する(図11:ステップS24)。
定規機能は、定規に沿ってユーザーが手書きすると、手書きデータが直線に清書される機能である。ユーザーは手書きデータを直線に変換する操作をしなくても、所望の場所に、直接、直線を手描きできる。
<<スタンプ作成機能のガイダンス>>
続いて、図10と表1,2,5を参照して、手書きデータが図形認識部25によって丸に図形変換された場合に表示されるスタンプアイコン53について説明する。
続いて、図10と表1,2,5を参照して、手書きデータが図形認識部25によって丸に図形変換された場合に表示されるスタンプアイコン53について説明する。
図10(a)は、ユーザーが手書きした丸320の手書きデータを示す(図11:ステップS1)。これにより、表示データ記憶部393にはストロークID(s100)が記憶される(表5)。
図10(b)は、手書きデータが図形認識部25よって変換された丸321の一例を示す(図11:ステップS25、S26)。これにより、表示データ記憶部393にはストロークID(s100)に対応付けて、丸が記憶される。
表5は、記憶部39が有する表示データ記憶部393に記憶されている表示データを模式的に示す。スタンプ作成機能の説明のため、表5では、ストロークデータと丸が対応付けられている。
表5は、記憶部39が有する表示データ記憶部393に記憶されている表示データを模式的に示す。スタンプ作成機能の説明のため、表5では、ストロークデータと丸が対応付けられている。
図10(c)は、関連機能アイコン表示設定がオンの場合、図形が丸321であるため表示されるスタンプアイコン53を示す。表示制御部24は、表示データの丸の図形に対応するスタンプ作成機能を表1の関連機能記憶部から取得する。表示制御部24は、スタンプ作成機能に対応するアイコン画像を表2のアイコン記憶部392から取得する。表示制御部24は、スタンプアイコン53を丸321の右上に表示する(図11:ステップS4、S27、S28)。スタンプアイコン53の位置は丸321の周囲であればよい。スタンプアイコン53の表示により、ユーザーが丸321からスタンプ作成機能を利用できることを把握できる。
図10(d)は、一定時間が経過する前に、ユーザーが押下した状態のスタンプアイコン53を示す(図11:ステップS29、S31)。表示制御部24はスタンプアイコン53の色や輝度を変えて、選択された旨をユーザーに知らせる。一定時間が経過した場合、図10(b)に示すように、定規アイコン52が非表示になる(図11:ステップS30)。
図10(e)は、スタンプアイコン53の押下により表示されたスタンプ作成画面322を示す。スタンプアイコン53の押下を操作受付部27が受け付ける。スタンプ作成機能部30はスタンプ作成画面322を表示し、表示制御部24が丸321の右上にスタンプ作成画面322を表示する(図11:ステップS32)。スタンプ作成画面322の位置は丸321の周囲であればよい。
図10(f)は、作成されたスタンプ324を示す。ユーザーがスタンプ作成画面322の円内に任意の文字又は図形(図では!323)を手描きし(図11:ステップS33)、登録ボタン325を押下する。これにより、スタンプ作成機能部30はスタンプ324を登録する(図11:ステップS34)。ユーザーは作成したスタンプを、ボタン等を押下することで呼び出して、任意の場所に表示させることができる。
スタンプ作成画面322に手書きされた手書きデータは、文字認識部23により文字認識されても、図形認識部25により図形認識されてもよい。
<動作手順>
図11は、ユーザーが手描きした手書きデータの形状に対応する機能のガイダンス60を表示装置2が表示する手順を説明するフローチャート図の一例である。
図11は、ユーザーが手描きした手書きデータの形状に対応する機能のガイダンス60を表示装置2が表示する手順を説明するフローチャート図の一例である。
ユーザーがストロークデータを手書きすると、受付部21が受け付ける。描画データ生成部22は座標点を連結して手書きデータを表示する(S1)。
図形認識機能がオンの場合、図形認識部25は手書きデータを図形に変換する。四角301が手書きされたと図形認識部25が判断した場合(S2のYes)、図形認識部25は四角301を生成して、表示制御部24が四角301を表示する(S3)。なお、表示制御部24は四角301に変換された手書きデータを消去する。
四角301が手書きされていない場合(S2のNo)、図形認識部25は直線が手描きされたかを判断する(S17)。
直線が手描きされた場合(S17のYes)、図形認識部25は直線を生成して、表示制御部24が直線を表示する(S18)。なお、表示制御部24は直線に変換された手書きデータを消去する。
直線が手書きされていない場合(S17のNo)、図形認識部25は丸が手描きされたかを判断する(S25)。
丸が手描きされた場合(S25のYes)、図形認識部25は丸を生成して、表示制御部24が丸を表示する(S26)。なお、表示制御部24は丸に変換された手書きデータを消去する。なお、丸が手描きされていない場合(S25のNo)、図11の処理は終了する。
次に、表示制御部24は関連機能アイコンを表示する設定がオンか否かを判断する(S4)。
関連機能アイコンを表示する設定がオンの場合(S4のYes)、表示制御部24は手書きデータが四角301に変換されたか否かを判断する(S5)。
手書きデータが四角301に変換された場合(S5のYes)、表示制御部24は表1の四角301に対応付けられている付箋機能と表機能を関連機能記憶部391から取得し、表2のアイコン記憶部392から付箋アイコン51の画像と表アイコン50の画像を取得する。表示制御部24は付箋アイコン51と表アイコン50を四角301の右上等に表示する(S6)。
表示制御部24は付箋アイコン51と表アイコン50の表示から一定時間(例えば数秒)が経過したか否かを判断する(S7)。表示制御部24が付箋アイコン51と表アイコン50を消去するためである。
一定時間が経過した場合(S7のYes)、表示制御部24は付箋アイコン51と表アイコン50を消去する(S8)。
一定時間が経過するまでの間(S7のNo)、操作受付部27は受付部21が受け付ける入力手段291のディスプレーへの接触座標に基づいて、付箋アイコン51が押下されたか否かを判断する(S9)。
付箋アイコン51が押下された場合(S9のYes)、付箋機能部29は四角301を付箋に変換して、表示制御部24が付箋を表示する(S10)。
付箋アイコン51が押下されない場合(S9のNo)、操作受付部27は受付部21が受け付ける入力手段291のディスプレーへの接触座標に基づいて、表アイコン50が押下されたか否かを判断する(S11)。
表アイコン50が押下された場合(S11のYes)、表機能部28は表作成のダイアログボックス303を作成し、表示制御部24がダイアログボックス303を表示する(S12)。
表示制御部24は表作成のダイアログボックス303の表示から一定時間(例えば数秒)が経過したか否かを判断する(S13)。表示制御部24が表作成のダイアログボックス303を消去するためである。
一定時間が経過した場合(S13のYes)、表示制御部24は表作成のダイアログボックスを消去する(S14)。
一定時間が経過するまでの間(S13のNo)、操作受付部27は受付部21が受け付ける入力手段291のディスプレーへの接触座標に基づいて、表の行と列が選択及び決定されたか否かを判断する(S15)。
表の行と列が選択及び決定された場合(S15のYes)、表機能部28は四角301を表に変換して、表示制御部24が表を表示する(S16)。
ステップS5に戻り、手書きデータが四角301に変換されていない場合(S5のNo)、表示制御部24は手書きデータが直線に変換されたか否かを判断する(S19)。
手書きデータが直線に変換された場合(S19のYes)、表示制御部24は表1の直線に対応付けられている定規機能を関連機能記憶部391から取得し、表2のアイコン記憶部392から定規アイコン52の画像を取得する。表示制御部24は定規アイコン52を直線の右上等に表示する(S20)。
表示制御部24は定規アイコン52の表示から一定時間(例えば数秒)が経過したか否かを判断する(S21)。表示制御部24が定規アイコン52を消去するためである。
一定時間が経過した場合(S21のYes)、表示制御部24は定規アイコン52を消去する(S22)。
一定時間が経過するまでの間(S21のNo)、操作受付部27は受付部21が受け付ける入力手段291のディスプレーへの接触座標に基づいて、定規アイコン52が押下されたか否かを判断する(S23)。
定規アイコン52が押下された場合(S23のYes)、定規機能部31は直線を定規に変換して、表示制御部24が定規を表示する(S24)。
手書きデータが直線に変換されていない場合(S19のNo)、表示制御部24は手書きデータが丸に変換されたか否かを判断する(S27)。
手書きデータが丸に変換された場合(S27のYes)、表示制御部24は表1の丸に対応付けられているスタンプ作成機能を関連機能記憶部391から取得し、表2のアイコン記憶部392からスタンプアイコン53の画像を取得する。表示制御部24はスタンプアイコン53を丸の右上等に表示する(S28)。
表示制御部24はスタンプアイコン53の表示から一定時間(例えば数秒)が経過したか否かを判断する(S29)。表示制御部24がスタンプアイコン53を消去するためである。
一定時間が経過した場合(S29のYes)、表示制御部24はスタンプアイコン53を消去する(S30)。
一定時間が経過するまでの間(S29のNo)、操作受付部27は受付部21が受け付ける入力手段291のディスプレーへの接触座標に基づいて、スタンプアイコン53が押下されたか否かを判断する(S31)。
スタンプアイコン53が押下された場合(S31のYes)、表示制御部24はスタンプ作成画面322を表示する(S32)。
ユーザーがスタンプ作成画面322に任意の手書きデータを手書きすると、受付部21が受け付ける(S33)。
スタンプ作成機能部30は、受付部21が受け付けた手書きデータと操作受付部27が受け付けた登録ボタン325の押下に基づいて、スタンプを作成する(S34)。
<関連機能アイコンを表示する設定について>
図12に示すように、ユーザーは関連機能アイコンを表示するか否かを設定できる。図12は、関連機能アイコンを表示するか否かの設定を受け付ける設定画面350の一例である。ユーザーは所定のボタン等を押下して、表示装置2に設定画面350を表示させる。
図12に示すように、ユーザーは関連機能アイコンを表示するか否かを設定できる。図12は、関連機能アイコンを表示するか否かの設定を受け付ける設定画面350の一例である。ユーザーは所定のボタン等を押下して、表示装置2に設定画面350を表示させる。
設定画面350は、関連機能アイコンの表示機能に対し「利用する」というメッセージ351とラジオボタン352を表示する。
操作受付部27は受付部21が受け付ける入力手段291のディスプレーへの接触座標に基づいて、ラジオボタン352が押下されたか否かを判断する。押下された場合、表示制御部24は、関連機能アイコンを表示する設定がオンであることを保持する。
このように、関連機能アイコンを表示する設定をユーザーがオン又はオフに設定できるので、表示装置2の機能をよく知っているユーザーが操作する場合は関連機能アイコンを表示しないように設定できる。したがって、ユーザーが煩わしく感じることを抑制できる。
<主な効果>
以上説明したように、本実施形態の表示装置2は、ユーザーが手書きデータで予め定まっている形状を手書きした場合(より詳細には図形変換機能が手書きデータをある図形に変換した場合)、手書きデータの形状に関連する機能のガイダンス60を表示するので、ユーザーが存在に気づいていない機能があっても、機能を使用できる。また、新しい機能を使用する場合も、ユーザーがマニュアルを探す又は調べる手間を低減できる。
以上説明したように、本実施形態の表示装置2は、ユーザーが手書きデータで予め定まっている形状を手書きした場合(より詳細には図形変換機能が手書きデータをある図形に変換した場合)、手書きデータの形状に関連する機能のガイダンス60を表示するので、ユーザーが存在に気づいていない機能があっても、機能を使用できる。また、新しい機能を使用する場合も、ユーザーがマニュアルを探す又は調べる手間を低減できる。
以下の実施例では表示装置2の別の構成例について説明する。
<<表示装置の別の構成例1>>
本実施形態の表示装置2は大型のタッチパネルを有するものとして説明されているが、表示装置2はタッチパネルを有するものに限られない。
本実施形態の表示装置2は大型のタッチパネルを有するものとして説明されているが、表示装置2はタッチパネルを有するものに限られない。
図13は、表示装置2の他の構成例を示す図である。図13では、通常のホワイトボード413の上辺にプロジェクター411が設置されている。このプロジェクター411が表示装置2に相当する。通常のホワイトボード413とは、タッチパネルと一体のフラットパネルディスプレーではなく、ユーザーがマーカーで直接、手書きするホワイトボードである。なお、ホワイトボードは黒板でもよく、映像を投影するだけの広さの平面であればよい。
プロジェクター411は超短焦点の光学系を有しており、10cm程度から歪みの少ない映像をホワイトボード413に投影できる。この映像は、無線又は有線で接続されたPCから送信されてもよいし、プロジェクター411が記憶していてもよい。
ユーザーは専用の電子ペン2501を使ってホワイトボード413に手書きする。電子ペン2501は、ユーザーが手書きのためにホワイトボード413に押しつけるとスイッチがONになり発光する発光部を例えば先端部に有している。光の波長は近赤外や赤外なのでユーザーの目には見えない。プロジェクター411はカメラを有しており、発光部を撮像して画像を解析し電子ペン2501の方向を特定する。また、電子ペン2501は発光と共に音波を発信しており、プロジェクター411は音波の到達時間により距離を算出する。プロジェクター411は、方向と距離により電子ペン2501の位置を特定できる。電子ペン2501の位置には手書きされたデータが描画(投影)される。
プロジェクター411はメニュー430を投影するので、ユーザーが電子ペン2501でボタンを押下すると、プロジェクター411が電子ペン2501の位置とスイッチのON信号により押下されたボタンを特定する。例えば、保存ボタン431が押下されると、ユーザーが手書きした手書きされたデータ(座標点列)がプロジェクター411で保存される。プロジェクター411は、予め定められたサーバー412又はUSBメモリ2600等に手書き情報を保存する。手書き情報はページごとに保存されている。画像データではなく座標のまま保存されるので、ユーザーが再編集することができる。ただし、本実施形態では操作コマンドを手書きで呼び出せるのでメニュー430は表示されなくてもよい。
<<表示装置の別の構成例2>>
図14は、表示装置2の他の構成例を示す図である。図14の例では、表示装置2が、端末装置600、画像投影装置700A、及び、ペン動作検出装置810を有する。
図14は、表示装置2の他の構成例を示す図である。図14の例では、表示装置2が、端末装置600、画像投影装置700A、及び、ペン動作検出装置810を有する。
端末装置600は、画像投影装置700A及びペン動作検出装置810と有線で接続されている。画像投影装置700Aは、端末装置600により入力された画像データをスクリーン800に投影させる。
ペン動作検出装置810は、電子ペン820と通信を行っており、スクリーン800の近傍における電子ペン820の動作を検出する。具体的には、電子ペン820は、スクリーン800上において、電子ペン820が示している点を示す座標情報を検出し(検出方法は図13と同様でよい)、端末装置600へ送信する。
端末装置600は、ペン動作検出装置810から受信した座標情報に基づき、電子ペン820によって入力される手書きデータの画像データを生成する。端末装置600は、画像投影装置700Aによって手書きデータの画像をスクリーン800に描画させる。
また、端末装置600は、画像投影装置700Aに投影させている背景画像と、電子ペン820によって入力された手書データの画像とを合成した重畳画像を示す重畳画像データを生成する。
また、端末装置600は、画像投影装置700Aに投影させている背景画像と、電子ペン820によって入力された手書データの画像とを合成した重畳画像を示す重畳画像データを生成する。
<<表示装置の別の構成例3>>
図15は、表示装置2の構成例を示す図である。図15の例では、表示装置2が、端末装置600と、ディスプレー800Aと、ペン動作検出装置810Aとを有する。
図15は、表示装置2の構成例を示す図である。図15の例では、表示装置2が、端末装置600と、ディスプレー800Aと、ペン動作検出装置810Aとを有する。
ペン動作検出装置810Aは、ディスプレー800Aの近傍に配置され、ディスプレー800A上に、電子ペン820Aが示している点を示す座標情報を検出し(検出方法は図13と同様でよい)、端末装置600へ送信する。なお、図15の例では、電子ペン820Aは、端末装置600によってUSBコネクタを介して充電されても良い。
端末装置600は、ペン動作検出装置810Aから受信した座標情報に基づき、電子ペン820Aによって入力される手書データの画像の画像データを生成する。端末装置600は手書データの画像をディスプレー800Aに表示させる。
<<表示装置の別の構成例4>>
図16は、表示装置2の構成例を示す図である。図16の例では、表示装置2が、端末装置600と、画像投影装置700Aとを有する。
図16は、表示装置2の構成例を示す図である。図16の例では、表示装置2が、端末装置600と、画像投影装置700Aとを有する。
端末装置600は、電子ペン820Bと無線通信(Bluetooth(登録商標)等)を行って、スクリーン800上において電子ペン820Bが示す点の座標情報を受信する。座標情報は、スクリーン800に形成された微小な位置情報を電子ペン820Bが読み取ってもよいし、スクリーン800から座標情報を受信してもよい。
そして、端末装置600は、受信した座標情報に基づき、電子ペン820Bにより入力される手書データの画像の画像データを生成する。端末装置600は、画像投影装置700Aに手書データの画像を投影させる。
また、端末装置600は、画像投影装置700Aに投影させている背景画像と、電子ペン820Bによって入力された手書データの画像とを合成した重畳画像を示す重畳画像データを生成する。
以上のように、上記した各実施形態は、様々なシステム構成において適用することができる。
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
例えば、本実施形態では、手書きデータの入力を主に説明したが、文字認識部23が手書きデータを文字認識することができる。例えば、付箋内に手書きされた手書きデータ、表のセルに手書きされた手書きデータ、又は、スタンプ作成画面に手書きされた手書きデータ、を文字認識部23が文字認識できる。
また、本実施形態では、電子黒板として使用できる表示装置を説明したが、表示装置は画像を表示できればよく、例えばデジタルサイネージなどでもよい。また、ディスプレーでなくプロジェクターが表示データを表示してもよい。この場合、本実施形態ではペン先の座標をタッチパネルで検知する方法でペンの座標を検出したが、表示装置2は、ペン先の座標を超音波により検出してもよい。ペンは発光と共に超音波を発信しており、表示装置2は超音波の到達時間により距離を算出する。方向と距離によりペンの位置を特定できる。ペンの軌跡をストロークとしてプロジェクターが描画(投影)する。
また、本実施形態では電子黒板を一例として説明したが、タッチパネルを有する情報処理装置であれば好適に適用できる。電子黒板と同様の機能を有する装置を、電子ホワイトボード、電子情報ボード、インタラクティブボードなどともいう。タッチパネルを搭載した情報処理装置としては、例えば、PJ(Projector:プロジェクター)、デジタルサイネージ等の出力装置、HUD(Head Up Display)装置、産業機械、撮像装置、集音装置、医療機器、ネットワーク家電、ノートPC(Personal Computer)、携帯電話、スマートフォン、タブレット端末、ゲーム機、PDA、デジタルカメラ、ウェアラブルPC又はデスクトップPC等であってもよい。
また、図6などの構成例は、表示装置2による処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。表示装置2の処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
また、表示装置2が単体で本実施形態の機能を有する場合を説明したが、表示装置2の機能をサーバーが提供してもよい。この場合、表示装置2とサーバーがネットワークを介して通信する。表示装置2は手書きデータを表示すると共にサーバーに送信し、サーバーが文字認識や表機能などを提供する。
また、上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
なお、受付部21は第一受付手段の一例である。記憶部39は記憶手段の一例である。表示制御部24は表示制御手段の一例である。図形認識部25は図形認識手段の一例である。操作受付部27は第二受付手段の一例である。表機能部28、付箋機能部29,スタンプ作成機能部30及び定規機能部31の少なくとも1つは制御手段の一例である。
2 表示装置
Claims (10)
- 手書きデータの入力を受け付ける第一受付手段と、
前記手書きデータの形状に対応する1つ以上の表示部品を記憶する記憶手段と、
前記第一受付手段が受け付けた前記手書きデータの形状に対応する前記表示部品を1つ以上、表示する表示制御手段と、
を有する表示装置。 - 更に、前記表示制御手段が表示した前記表示部品に対する操作を受け付ける第二受付手段と、
前記第二受付手段が操作を受け付けた前記表示部品に対応する処理を実行する制御手段と、
を有することを特徴とする請求項1に記載の表示装置。 - 前記第一受付手段が受け付けた前記手書きデータを図形に変換する図形認識手段を有し、
前記表示制御手段は、前記図形認識手段が変換した前記図形に対応する前記表示部品を1つ以上、表示することを特徴とする請求項1又は2に記載の表示装置。 - 前記図形認識手段が変換した前記図形が四角である場合、前記表示制御手段は前記四角に対応する前記表示部品として、付箋アイコン又は表アイコンの少なくとも一方を表示することを特徴とする請求項3に記載の表示装置。
- 前記図形認識手段が変換した前記図形が直線である場合、前記表示制御手段は前記直線に対応する前記表示部品として、定規機能のアイコンを表示することを特徴とする請求項3に記載の表示装置。
- 前記図形認識手段が変換した前記図形が丸である場合、前記表示制御手段は前記丸に対応する前記表示部品として、スタンプ作成機能のアイコンを表示することを特徴とする請求項3に記載の表示装置。
- 前記表示制御手段は、前記表示部品を表示するか否かの設定を受け付ける設定画面を表示し、
前記設定画面において前記表示部品を表示するという設定を受け付けた場合、前記表示制御手段が、前記手書きデータに対応する前記表示部品を1つ以上、表示することを特徴とする請求項1~6のいずれか1項に記載の表示装置。 - 前記表示制御手段は、前記表示部品を表示した後、前記表示部品が操作されずに、一定時間が経過した場合、消去することを特徴とする請求項1~7のいずれか1項に記載の表示装置。
- 第一受付手段が、手書きデータの入力を受け付けるステップと、
表示制御手段が、前記第一受付手段が受け付けた前記手書きデータの形状に対応する表示部品を、記憶手段から取得して1つ以上、表示するステップと、
を有する表示方法。 - 表示装置を、
手書きデータの入力を受け付ける第一受付手段と、
前記手書きデータの形状に対応する1つ以上の表示部品を記憶する記憶手段と、
前記第一受付手段が受け付けた前記手書きデータの形状に対応する前記表示部品を1つ以上、表示する表示制御手段、
として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021044492A JP2022143788A (ja) | 2021-03-18 | 2021-03-18 | 表示装置、表示方法、プログラム |
US17/680,367 US11726654B2 (en) | 2021-03-18 | 2022-02-25 | Display apparatus capable of displaying icon corresponding to shape of hand-drafted input, display method, and non-transitory computer-executable medium storing program thereon |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021044492A JP2022143788A (ja) | 2021-03-18 | 2021-03-18 | 表示装置、表示方法、プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022143788A true JP2022143788A (ja) | 2022-10-03 |
Family
ID=83284666
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021044492A Pending JP2022143788A (ja) | 2021-03-18 | 2021-03-18 | 表示装置、表示方法、プログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US11726654B2 (ja) |
JP (1) | JP2022143788A (ja) |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000348022A (ja) | 1999-06-02 | 2000-12-15 | Ricoh Co Ltd | 情報処理装置 |
KR100981931B1 (ko) * | 2007-09-28 | 2010-09-13 | 한국전자통신연구원 | 지능형 스케쥴 보드 |
US9256588B1 (en) * | 2011-09-28 | 2016-02-09 | Amazon Technologies, Inc. | Transferring content to a substantially similar location in a virtual notebook using a stylus enabled device |
CN105408851A (zh) * | 2013-07-31 | 2016-03-16 | 索尼公司 | 信息处理设备,信息处理方法和程序 |
US10534528B2 (en) * | 2013-12-31 | 2020-01-14 | Barnes & Noble College Booksellers, Llc | Digital flash card techniques |
US20150220504A1 (en) * | 2014-02-04 | 2015-08-06 | Adobe Systems Incorporated | Visual Annotations for Objects |
US9927963B2 (en) * | 2014-07-17 | 2018-03-27 | Barnes & Noble College Booksellers, Llc | Digital flash cards including links to digital content |
JP6971671B2 (ja) | 2016-07-28 | 2021-11-24 | シャープ株式会社 | 画像表示装置、画像表示システム及びプログラム |
JP7155781B2 (ja) * | 2018-09-13 | 2022-10-19 | 富士フイルムビジネスイノベーション株式会社 | 情報処理装置及び情報処理プログラム |
-
2021
- 2021-03-18 JP JP2021044492A patent/JP2022143788A/ja active Pending
-
2022
- 2022-02-25 US US17/680,367 patent/US11726654B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US11726654B2 (en) | 2023-08-15 |
US20220300150A1 (en) | 2022-09-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7275885B2 (ja) | 表示装置、方向特定方法、プログラム | |
US11907466B2 (en) | Apparatus and method which displays additional information along with a display component in response to the display component being selected | |
US11687232B2 (en) | Display apparatus, display method, and non-transitory recording medium | |
US11782594B2 (en) | Display apparatus, display system, and display method | |
WO2022071448A1 (en) | Display apparatus, display method, and program | |
JP2022143788A (ja) | 表示装置、表示方法、プログラム | |
JP2021197024A (ja) | 表示装置、表示方法及びプログラム | |
US11816327B2 (en) | Display apparatus, method for displaying, and non-transitory recording medium | |
JP7480608B2 (ja) | 表示装置、表示方法、プログラム | |
EP4064020B1 (en) | Display system, display method, and carrier means | |
JP2022147297A (ja) | 表示装置、表示方法、プログラム | |
US20220300147A1 (en) | Display apparatus, display method, and non-transitory recording medium | |
JP7467842B2 (ja) | 表示装置、表示方法、表示プログラム | |
US11868607B2 (en) | Display apparatus, display method, and non-transitory recording medium | |
US20230315283A1 (en) | Display apparatus, display method, display system, and recording medium | |
US20230070034A1 (en) | Display apparatus, non-transitory recording medium, and display method | |
EP4064019A1 (en) | Display system, display method, and carrier means | |
US20230333731A1 (en) | Display apparatus, display system, display method, and non-transitory recording medium | |
JP7331578B2 (ja) | 表示装置、画像表示方法、プログラム | |
JP6523509B1 (ja) | ゲームプログラム、方法、および情報処理装置 | |
JP2022146853A (ja) | 表示装置、プログラム、表示方法、表示システム | |
JP2023133110A (ja) | 表示装置、表示方法、プログラム | |
JP2023137822A (ja) | 表示装置、清書方法、プログラム、情報共有システム | |
JP2021149662A (ja) | 表示装置、表示方法、プログラム | |
JP2022147675A (ja) | 表示装置、表示方法、プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240119 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240826 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240910 |