JP2013012134A - 手書き入力機能付表示装置 - Google Patents

手書き入力機能付表示装置 Download PDF

Info

Publication number
JP2013012134A
JP2013012134A JP2011145657A JP2011145657A JP2013012134A JP 2013012134 A JP2013012134 A JP 2013012134A JP 2011145657 A JP2011145657 A JP 2011145657A JP 2011145657 A JP2011145657 A JP 2011145657A JP 2013012134 A JP2013012134 A JP 2013012134A
Authority
JP
Japan
Prior art keywords
line
handwriting
gesture
locus
handwritten
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011145657A
Other languages
English (en)
Other versions
JP5723697B2 (ja
Inventor
Kiyokazu Tanaka
紀代一 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2011145657A priority Critical patent/JP5723697B2/ja
Publication of JP2013012134A publication Critical patent/JP2013012134A/ja
Application granted granted Critical
Publication of JP5723697B2 publication Critical patent/JP5723697B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】直感的かつ簡便な操作で表示部に表示された線の消去をユーザーが指示できる表示装置を提供する。
【解決手段】手書き文字、および手書き線画を表示し得る表示部と、前記表示部に触れられた位置が時間とともに移動するときその位置を手書き軌跡として検出する検出部と、前記検出部および前記表示部を制御し、前記手書き軌跡に対応する線を前記表示部に表示させかつジェスチャーとして予め定められたパターンとその手書き軌跡が一致すると判断したとき、そのジェスチャーに対応付けられた処理を実行する制御部とを備え、前記制御部は、手書き軌跡が新たに検出されたとき、その手書き軌跡が、消去ジェスチャーのパターンと一致すると判断したときにその手書き軌跡に重なる線を消去し、異なるパターンであると判断したときは、前記手書き軌跡に重なる線を表示させることを特徴とする手書き入力機能付表示装置。
【選択図】図4

Description

この発明は、表示部に触れられた位置の変化を手書き軌跡として検出し、対応する箇所に線を表示する手書き入力機能付表示装置に関する。
近年、液晶表示装置を代表例とする表示装置の薄型化、高画質化、大型化および低コスト化が進み、新たな用途が生まれている。
例えば、携帯情報端末の発展形ともいえるスマートフォンや電子書籍端末への用途がある。また、従来のポスターや看板の発展形ともいえるインフォメーションあるいはデジタルサイネージへの用途がある。さらに、タッチパネル等を備えた大型の表示装置を用いた、いわゆる電子黒板の発展形といえるシステムが提案されている。
ここで挙げたように、表示装置上にタッチパネル等のセンサを用いて入力を検出することで、ユーザーの直感的な操作を実現する種々の用途がある。その中には、電子黒板等のように、手書き入力に対応したものがある。また、インフォメーションディスプレイやデジタルサイネージ用の表示装置でも、単に画面に表示されたボタンへのタッチを検出するだけでなく、指で手書き文字入力を行うといった用途が考えられる。
このような手書き入力では、表示部に触れられた箇所に対応した線を表示させて、ユーザーの入力が受付けられたことを示すことが通常である。さらに、書き間違いがあった場合に消去または修正を行うための、いわゆる消しゴム機能を備えるのが通常である。しかし、この消しゴム機能を使うために、従来は入力のモードを切り換える必要があった。
手書き入力に関する技術としては、携帯情報端末の分野において種々の提案がなされている。消しゴム機能に関しては、ジェスチャーを対象となる文字上に書くことでその文字の削除を実行する技術点が知られている(例えば、特許文献1参照)。
また、表示部に触れられた領域の大きさを検出し、入力用の専用ペンのペン先の大きさより大きい場合は、ペンとして線を描く機能から消しゴムとして線を消去する機能に切り換える技術がある。
特開平6−149467号公報
電子黒板等、大型の表示装置を用いた手書き入力において、ユーザーが文字等を書き間違えた場合、使い慣れた黒板や白板の感覚で、手や指で間違えた箇所をこすって消そうとしがちである。ところが、従来は消しゴム機能を使用するためにモードを切り換える操作を必要とする。それを知らずに、あるいは知っていてもとっさの場合に手指でこすって消そうとすると、表示装置は、その指でこする操作を書き込みのアクションとして認識する。その結果、ユーザーがこすった箇所に線が描かれてしまい、文字等を消すというユーザーの意図に沿った処理がなされない。
このように、電子黒板等は、誰もが簡単に使えるように直感的で簡便な操作が重視されるべきところ、消しゴム機能を使う際には、いちいち機能切り替える必要がある。即ち、消去を指示する操作が直感的でないため、使い手に知識および慣れが必要である。また、たとえその操作を覚えたとしても、指示に係る操作が煩雑であるという問題があった。
この発明は、以上のような事情を考慮してなされたものであって、直感的かつ簡便な操作で表示部に表示された線の消去をユーザーが指示できる表示装置を提供するものである。
この発明は、手書き文字、および手書き線画を表示し得る表示部と、前記表示部に触れられた位置が時間とともに移動するときその位置を手書き軌跡として検出する検出部と、前記検出部および前記表示部を制御し、前記手書き軌跡に対応する線を前記表示部に表示させかつジェスチャーとして予め定められたパターンとその手書き軌跡が一致すると判断したとき、そのジェスチャーに対応付けられた処理を実行する制御部とを備え、前記ジェスチャーは、表示部に既に表示されている線を消去する消去ジェスチャーを含み、前記制御部は、手書き軌跡が新たに検出されたとき、その手書き軌跡が、消去ジェスチャーのパターンと一致すると判断したときにその手書き軌跡に重なる線を消去し、前記手書き軌跡が消去ジェスチャーと異なるパターンであると判断したときは、前記手書き軌跡に重なる線を表示させることを特徴とする手書き入力機能付表示装置を提供する。
この発明において、制御部は、手書き軌跡が新たに検出されたとき、その手書き軌跡が、消去ジェスチャーのパターンと一致すると判断したときにその手書き軌跡に重なる線を消去し、前記手書き軌跡が消去ジェスチャーと異なるパターンであると判断したときは、前記手書き軌跡に重なる線を表示させるので、ジェスチャーという直感的な指示態様によって、表示部に既に表示されている線を消去することができる。従来のように、消しゴム機能のモードに切り換える操作をいちいち行う必要がないので、操作が簡便である。
即ち、従来の黒板や白板と同様に、表示部に既に表示されている線を指でこするという操作によってユーザーが消したい線を消去することができ、ユーザーの意図に沿った処理が実現される。
この発明において、手書き文字は、ユーザーがフリーハンドで入力した文字である。表示部に表示される態様が、ユーザーがフリーハンドで描いた通りの線からなる文字か、あるいは手書き文字認識を行って所定のフォントにより表示される文字かを問わない。
また、手書き線画は、ユーザーがフリーハンドで入力した線で構成される画像である。表示部に表示される態様が、ユーザーがフリーハンドで描いた通りの線か、あるいはゆがみの補正などある程度整形を行って表示される線であるかを問わない。
また、表示部は、情報を表示するものであり、少なくとも前述の手書き文字および手書き線画を表示する。その他、入力された信号やメモリに格納されたデータに応じた映像や画像を表示してもよい。その具体的な態様は、例えば、液晶パネルを用いたインフォメーションディスプレイや液晶パネルを用いた電子黒板である。
また、検出部は、表示部に触れられたことおよび触れられた箇所を検出し、前記箇所の経時的変化を検出するものである。その具体的な態様は、例えば、タッチパネルセンサとその信号を処理する処理回路である。検出の原理は静電式、光学式などの方式を問わない。
また、手書き軌跡は、ユーザーの手指やタッチペンなどで表示部に触れられた位置の履歴である。軌跡という文言を用いているが、手書き軌跡それ自体は目視できるものでない。ただし、この発明に係る制御部は、表示部のうち手書き軌跡が描かれた箇所に線を表示させることができる。その場合、表示された線が手書き軌跡を示す。ただし、手書き文字認識を行って所定のフォントによる文字を表示する態様において、制御部は、手書き入力後文字認識までの期間は表示部のうち手書き軌跡に対応する箇所に線を表示させる。しかし、文字認識後はその線に代えて所定のフォントによる文字を表示させる。フリーハンドで描いた線の整形を行う場合も同様である。
また、ジェスチャーは、情報携帯端末など手書き入力機能を備える装置において、予め特定のパターンと特定の指示とを対応付けておくものである。そして、該当するパターンが描かれたときにそのパターンに対応付けられた指示がなされたものとして処理するものである。
また、軌跡に対応する箇所とは、具体的には、表示部が縦横に並ぶ複数の画素から構成されるとき、表示部に触れられた箇所に該当する画素を指す。軌跡は表示部に触れられた箇所が時間とともに移動した跡といえる。しかし、一つの画素がカバーする領域は微少であるため、ある時点において触れられた箇所には複数の画素が対応する。さらに、その箇所が時間と共に移動した跡としての軌跡には、より多くの画素が対応する。
この発明の表示装置の外観を示す説明図である。 図1に示す表示装置11の電気的な構成を示すブロック図である。 この発明に係る制御部が、操作に応じて液晶ディスプレイに表示させる内容示す第1の説明図である。 この発明に係る制御部が、操作に応じて液晶ディスプレイに表示させる内容示す第2の説明図である。 この発明に係る制御部が実行する処理を示す第1のフローチャートである。 この発明に係る制御部が実行する処理を示す第2のフローチャートである。 この発明に係る制御部が実行する処理を示す第3のフローチャートである。 この発明に係る制御部が実行する処理を示す第4のフローチャートである。 この発明に係る制御部が消去対象を決定する態様の例を示す第1の説明図である。 この発明に係る制御部が消去対象を決定する態様の例を示す第2の説明図である。
以下、この発明の好ましい態様について説明する。
前記制御部は、前記手書き軌跡が描き始めてから描き終えるまでの期間が所定の時間内であるときに限りその手書き軌跡が消去ジェスチャーのパターンと一致するかを判断し、所定時間内に描かれていないときは消去ジェスチャーとしないようにしてもよい。このようにすれば、消去ジェスチャーとパターンが一致し、かつ、その線が描かれてから所定の時間内に描かれたものであると判断したときにその線を消去することができる。即ち、形態的、時間的条件を組みあわせた判定により通常の書き込みと判別しているので、よりユーザーの意図に沿った処理が実現される。
前記消去ジェスチャーのパターンは、所定数以上の折り返しを有する屈曲線であってもよい。このようにすれば、従来の黒板や白板と同様、消したい部分の表示部を指でこするという操作を一筆書きされた屈曲線、即ち、折り返し点を含む折り返し線として検出し、消去ジェスチャーと判断することができる。即ち、従来の白板や黒板に描かれた線を消そうとするときは通常、その線が既に描かれている白板や黒板のうえを鋸歯状の屈曲線を描くようにユーザーがこするところ、制御部は、そのようなユーザーによる直感的あるいは反射的な操作の検出に応答して、ユーザーの意図に沿った線の消去を行うことができる。
あるいは、前記検出部は、太さを有する手書き軌跡を検出し、前記制御部は、前記手書き軌跡と交差すると判断された線のうち、前記太さを有する手書き軌跡と重なる部分を消去し重ならない部分は消去しないようにしてもよい。このようにすれば、ユーザーは、既に描かれた線の一部分に交差するように消去ジェスチャーの手書き軌跡を描くことによって、その手書き軌跡と重なる部分を消去し他の部分は残すように線を消去することができる。よって、従来の白板や黒板と同様の間隔で線の消去を行うことができる。
また、前記制御部は、前記手書き軌跡と重なると判断された部分に連結する線の全体を消去してもよい。このようにすれば、既に描かれた線の全体にわたって消去ジェスチャーの手書き軌跡が描かれなくても、制御部は手書き軌跡と重なる部分に連結する線の全体を消去するので、ユーザーにとって簡便な操作で線の全体を消去することができる。
あるいはまた、前記検出部は、前記手書き軌跡と重なると判断された線のうち、前記太さを有する手書き軌跡と重なる部分を消去し重ならない部分は消去しない態様か、あるいは、前記手書き軌跡と重なると判断された部分に連結する線の全体を消去する態様かの選択を受付け、選択された態様で線を消去するようにしてもよい。このようにすれば、制御部は、その線が手書き軌跡と重なる部分のみを消去するか、消去ジェスチャーにより線の全体を消去するかを、ユーザーの選択に応じて切り換えることができる。
また、前記制御部は、前記手書き軌跡が描き始められてから描き終えられるまでの時間が、予め定められた期間より短いときに限ってその手書き軌跡が消去ジェスチャーと一致するかを判断し、前記期間より長いときは前記手書き軌跡に対応する箇所に線を表示させてもよい。このようにすれば、手書き軌跡が描き始められてから描き終えられるまでの時間に基づいて、反射的に線を消そうとする操作と線を描く操作とをより確実に判別することができる。
この発明の好ましい態様は、ここで示した複数の態様のうち何れかを組み合わせたものも含む。
以下、図面を用いてこの発明をさらに詳述する。なお、以下の説明は、すべての点で例示であって、この発明を限定するものと解されるべきではない。
≪表示装置の構成≫
図1は、この発明の表示装置の外観を示す説明図である。図1に示すように、この発明の表示装置11は、表示部としての液晶ディスプレイ13、液晶ディスプレイ13上に配置された検出部としてのタッチパネル15を備える。さらに、液晶ディスプレイ13を指示するスタンド17、制御部および記憶部としてのコントロール・ユニット(図1に図示せず)を備える。前記コントロール・ユニットは、液晶ディスプレイ13の背面に配置されている。
タッチパネルは、液晶ディスプレイ13の画面にユーザー指あるいは入力ペンが触れたとき、その位置を検出する。複数の位置が同時に触れられた場合は、それぞれの位置を検出することができる。位置が時間的に変化するとき、それを手書き軌跡として検出する。広がりのある領域が触れられたとき、その領域を検出する。例えば、入力ペンのペン先の太さに応じた領域を検出する。よって、ペン先の太さが異なると手書き軌跡の太さが異なる。
スタンド17は、必要に応じて移動できるようにキャスターが付いている。ただし、異なる態様として表示装置11はスタンドを備えず、壁や柱に固定されてもよい。
図2は、図1に示す表示装置11の電気的な構成を示すブロック図である。図2に示すように、表示装置11は、液晶ディスプレイ13、タッチパネル15、制御部19および記憶部21を備える。制御部19のハードウェア構成としては、記憶部21に格納された制御プログラムを実行するCPU、前記CPUのワークエリアを提供するRAMおよび液晶ディスプレイ13への映像信号を生成する表示制御回路を含んでなる。さらに、液晶ディスプレイ13およびタッチパネル15との間の信号が接続される入出力回路やタイマーを含んでなる。記憶部21のハードウェア構成は、前記CPUが実行すべき制御プログラム、ジェスチャーに係るパターンと処理の定義および液晶ディスプレイ13の表示データ、その他のデータを格納する不揮発性メモリである。
また、制御部19の機能的構成として、表示制御部19a、入力検出部19bを備える。前記表示制御部19aは、液晶ディスプレイ13に情報を表示させる制御を行なう。例えば、ウェブページを構成するHTMLデータが入力されると、そのHTMLデータに応じた文字や画像を液晶ディスプレイ13に表示させる。より詳細には、表示制御部19aは図形描画部、位置決定部を含む。図形描画部は、液晶ディスプレイ13に表示させるべき図形を作成および消去する。位置決定部は、手書き線等のオブジェクトを表示させる位置、サイズ、範囲を決定する。
入力検出部19bは、タッチパネル15からの検出信号に基づいて、ユーザーの操作を検出する。より詳細には、入力検出部19bは位置検出部、接触検出部、サイズ検出部、ジェスチャー検出部および時間測定部即ちタイマーを含む。位置検出部は、タッチパネル15がタッチされた位置の座標を取得する。接触検出部は、タッチパネル15へのタッチの有無を検出する。サイズ検出部は、タッチされた領域のサイズを検出する。ジェスチャー検出部は、手書き軌跡が予め定められたジェスチャーのパターンと一致する場合にその一致を検出する。時間測定部は、タッチパネルへのタッチがなされたときに時間測定を開始し、そのタッチが継続している間は測定を続け、タッチがなくなったときに測定を停止する。
記憶部21の機能的構成として、入力座標記憶部21a、図形描画情報記憶部21bおよび時間記憶部21cを備える。入力座標記憶部21aは、タッチパネル15へのタッチがなされた位置の座標を入力座標として格納する。タッチされた位置の移動に伴って、複数の入力座標が関連づけられて格納される。一連の入力座標が手書き軌跡の形状を表す。図形描画情報記憶部21bは、液晶ディスプレイ13に表示させるオブジェクトに係る情報を格納する。時間記憶部21cは、前記時間測定部により測定された時間のデータを格納する。
≪表示の制御≫
図3および図4は、制御部19がユーザーの操作に応じて液晶ディスプレイ13に表示させる内容の例を示す説明図である。図3および図4に示すように、液晶ディスプレイ13の表示領域は、ツールバー33と作業領域35に大別される。ツールバー33は、表示装置が受付ける指示が複数のボタンとして表示されている。前記ボタンの例は次のとおりである。電子黒板としてのアプリケーションの終了を指示する「終了」ボタンがある。また、電子黒板アプリケーションのファイルを開く「開く」ボタンがある。さらに、前記ファイルを保存する「保存」ボタンがある。そして、線を描く「ペン」ボタンがある。さらに、描かれた線を消す「消しゴム」ボタンがある。また、描かれたオブジェクトを選択する「選択」ボタンがある。そして、作業領域35を印刷する「印刷」ボタンがある。また各種設定を行うための「設定」ボタンがある。ユーザーにより各ボタンがタッチされると、制御部19は、タッチパネル15の検出信号に基づいてタッチされたボタンを認識し、そのボタンに対して予め定義された指示を実行する。
ユーザーが「ペン」ボタンをタッチした後、図示しない入力ペンを用いて作業領域35に文字を書くと、タッチパネル15は入力ペンのペン先が触れた位置と時間に伴う位置の変化を検出する。タッチパネル15からの信号を受領した制御部19は、検出された位置の変化、即ち、手書き軌跡を決定する。そして、手書き軌跡が予め定められたジェスチャーとしてのパターンと一致するか否かを判断する。
ジェスチャーと一致する場合、制御部19は、そのジェスチャーに対して予め定義された処理を実行する。ジェスチャーの一例は、後述するように線の消去である。一方、手書き軌跡がどのジェスチャーとも一致しない場合、制御部19は、手書き軌跡に対応する線を液晶ディスプレイ13に表示させるように制御する。その結果、手書きの線として文字が描かれる。好ましくは、制御部19は、各線すなわち各手書き軌跡をオブジェクトとして記憶部21にそれぞれ格納する。
また、ユーザーが「消しゴム」ボタンをタッチした後、前記入力ペンあるいは手指で作業領域35が拭かれたことをタッチパネル15からの検出信号に基づいて認識すると、制御部19は、拭かれた部分に線が描かれている場合はその部分の線を消去する。即ち、拭かれた部分の画素のデータを初期化して何も描かれていない状態にする。
図3の(a)は、制御部19が、手書き軌跡に対応する手書きの文字を作業領域35に表示させた例を示している。(b)は、ユーザーがさらに「と」の文字を書いた状態を示している。このときユーザーは、最後に書いた「と」の文字は誤りであることに気づいたものとする。勿論、「消しゴム」ボタンにタッチした後に「と」の文字を拭けば、制御部19はその部分を消去する。しかしこの場合、ユーザーは、慌てて「消しゴム」ボタンにタッチすることなく「と」の文字を拭いたものとする。
図3(c)、図4(a)、(b)は、そのときの作業領域35の表示を示している。図3(c)は、ユーザーが「と」の文字をなぞる直前の状態であり、手指31は、「と」の文字のすぐ上方にある。図4(a)は、上方から下方へ向かう矢印Aの方向に手指31の先が移動して「と」の文字が拭かれた直後の状態を示している。このとき、制御部19は、手指31の先が触れた部分をタッチパネル15からの検出信号に基づいて認識し、手書き軌跡に対応する線を液晶ディスプレイ13に表示させる。図4(b)は、その後、下方から上方へ向かう矢印A’の方向に手指31が移動し、「と」の文字が拭かれた直後の状態を示している。
図4(c)は、その後さらに、上方から下方へ向かう矢印Aの方向に手指31の先が移動して「と」の文字が拭かれた直後の状態を示している。このとき、制御部19は、ほぼ同じ位置で往復往が繰り返されて触れられたことを、タッチパネル15からの検出信号に基づいて認識する。そして、このパターンが記憶部21に格納された消去ジェスチャーのパターンに該当すると判断する。制御部19は、その判断に基づいて、図4(a)および(b)のタイミングで「と」の文字に重ねて描いた線およびその線に重なる「と」の文字の線を消去する。即ち、図4(a)および(b)のタイミングで拭かれた部分の線を消去する。
ここで制御部19は、拭かれていない部分を消去せずに残してもよい。しかし、別の態様として拭かれた部分と少なくとも一部が重なる手書きの線のオブジェクトを、オブジェクト単位で消去してもよい。さらに別の態様として、拭かれた部分と少なくとも一部が重なる手書き線と連続する線を消去してもよい。この態様によれば例えば、「と」の文字は、文字を構成する線が連続しているので「と」の文字全体を消去する。これに対して例えば「ど」の文字の場合は「と」と濁点の2本の線は連続しておらず孤立しているため、「と」の部分のみが拭かれた場合は濁点の2本の線を消去せずに残す。
なお、ユーザーの選択によっていずれかの態様を選択できるようにしてもよい。選択を行う手段としては、次のものが考えられる。ツールバー33中の「設定」ボタンがタッチされると、それに応答して制御部19は、設定メニューを実行する。その設定メニューに、前記選択を受付けるメニューが用意されている。ユーザーが、作業領域35に表示されるメニューの画面を見ながら選択を行うと、制御部19は、タッチパネル15からの検出信号に基づいてユーザーの選択を認識する。ユーザーの指示により設定メニューを終了した後、制御部19は、選択された態様に従って消去の処理を行う。
≪フローチャート≫
図5〜図8は、制御部19が実行する処理を示すフローチャートである。フローチャートに沿って、処理の手順を説明する。なお、フローチャートは、同時に触れられる箇所が1箇所のみの態様を示しているが、これを複数箇所に拡張する場合は、図5〜図8の処理をそれらの箇所の数だけ並列に処理すればよい。また、フローチャートはこの発明の特徴を分かり易くするために描画処理のみを逐次処理的に記載しているが、制御部19は、ツールバー33のボタンが押されたか否かのモニタ等、他の処理をマルチタスクで行っている。
まず図5で、制御部19は、タッチパネルからの検出信号に基づいて、新たな線が描かれ始めたか否かをモニタする(ステップS11)。新たな線が描かれたとは、いずれの手書き軌跡とも連続しない新たな位置に触れられたと制御部19が判断したということである。
新たな線が描かれ始めたと判断すると(ステップS11のYes)、次に制御部19は、折り返し線が描かれるとき、折り返し点で区分される線数を数えるための変数nに初期値として1をセットする(ステップS13)。変数nは、ワークエリアを提供するRAMに、特定の記憶領域として確保される。そして、折り返し線が描かれるときに描画の開始から終了までの時間を得るためのタイマーをスタートさせる(ステップS15)。
さらに制御部19は、前記ステップS11の判断を行った時点でタッチパネルから得た検出信号に基づいて、タッチされた位置を求める(ステップS17)。その位置を、始点座標として記憶部21に格納する(ステップS19)。
続いて、制御部19は、タッチパネルからの検出信号に基づいて、現時点でタッチが継続されているか否かを調べる(ステップS21)。タッチが継続されていない場合(ステップS21のNo)、ルーチンはステップS11に戻り、新たな線が描き始められるのを待つ。一方、タッチが継続されている場合(ステップS21のYes)、現時点でタッチされている位置の座標を求める(ステップS23)。タッチされている位置が変化している場合に、その位置を追跡するためである。求めた座標が前の座標と異なる場合、求めた座標を一つ前の座標と関連づけて記憶部21に格納する(ステップS25)。記憶部21に格納される一連の座標が手書き軌跡になる。そして、一つ前の座標との間を結ぶ線を作業領域35に表示させる(ステップS27)。表示される一連の線が、手書き軌跡に対応する線になる。
続いて、制御部19は、スイッチバックにより区分される線の数(折り返し線数)を格納する変数nの値が3か否かを調べる(ステップS29)。変数nが3の場合は、消去ジェスチャーの可能性があると判断する(ステップS29のYes)。そして、ルーチンは図7に示すステップS41に進み、消去ジェスチャーか否かの判断に係る処理を実行する。勿論、変数nの値「3」は閾値の一例である。折れ線の描画と描いた線を消そうとする動作とを区別できればよく、前記閾値は「3」以外の値であってもよい。なお、このフローチャートでは、この発明の特徴に係る消去ジェスチャーの処理のみを示し、他のジェスチャーに係る処理を省略している。ただし、他のジェスチャーを認識する場合、そのパターンと手書き軌跡が一致するか否かの判断もこの部分で行うべきである。
一方、前記ステップS29で、変数nの値が3でなければ(ステップS29のNo)、制御部19は、一つ前の座標との移動の方向が、それ以前の移動の方向と反対方向になっているか否かを調べる(ステップS31)。即ち、新たなスイッチバックが行われたか否かを調べる。ここで、反対方向は、真逆の方向でなくても角度が一定の範囲にあればスイッチバックと判断する。一例は、135°以上、225°以下の範囲である。
スイッチバックでないと判断した場合(ステップS31のNo)、ルーチンは前述のステップS21へ戻ってループする。このループ処理で制御部19は、手書き軌跡を記憶部21に格納していき、対応する線を表示させていく。一方、新たなスイッチバックであると判断した場合(ステップS31のYes)、ルーチンは図6のステップS33へ進む。
ステップS33で、制御部19は、折り返しの線数を格納する変数nの値を確認する。変数nが2の場合、折り返し点で区分される2本の線、即ち、一往復の線が描かれたことになるので、現時点の座標と始点座標とを比較する(ステップS35)。もし、始点座標から所定の範囲内になく、離れた位置であれば、消去ジェスチャーに該当しないと判断し(ステップS35のYes)、ルーチンは前述のステップS11へ戻る。即ち、消去ジェスチャーの判定をリセットし、手書き軌跡を得る処理を始める。始点座標から所定の範囲内にあれば、変数nの値を1増加させて(ステップS39)、前述のステップS21へ戻り、手書き軌跡を得る処理を継続する。
一方、前記ステップS33で、変数nの値が2でないと判断した場合、即ち、変数nの値が1と判断した場合は、最初にスイッチバックが行われた座標を折り返し点の座標として記憶部21に格納する(ステップS37)。そして、変数nの値を1増加させて(ステップS39)、前述のステップS21へ戻り、手書き軌跡を得る処理を継続する。
また、前述のステップS29で、変数nの値が3であると判断した場合、制御部19は、以下の処理を実行する。まず、現在の座標を、終点座標として記憶部に格納する(ステップS40)。そして、終点座標を最初のスイッチバックの時点で記憶部21に格納されている折り返し点座標の位置と比較する(ステップS41)。この比較は、前述のステップS35に対応している。もし、終点座標が折り返し点座標から所定の範囲内になく、離れた位置であれば、消去ジェスチャーに該当しないと判断し(ステップS41のNo)、ルーチンは前述のステップS21へ戻る。即ち、消去ジェスチャーでないと判断し、手書き軌跡を得る処理を継続する。
折り返し点座標から所定の範囲内にあれば(ステップS41のYes)、制御部19は、タイマーを調べ、線が描き始められてから所定時間内か否かを確認する(ステップS43)。所定時間内でなければ、消去ジェスチャーでないと判断して、ルーチンは前述のステップS11へ戻る。即ち、消去ジェスチャーの判定をリセットし、手書き軌跡を得る処理を新たに始める。
一方、所定時間内であれば、制御部19は、現在の座標を終点座標として記憶部21に格納する(ステップS44)。次に制御部19は、始点座標と終点座標の間の距離を求め、所定の距離と比較する。所定距離未満の場合(ステップS45のNo)、消去ジェスチャーが楕円状であると判断する。そして、ルーチンは図8のステップS53へ進む。前記所定距離は、例えば、始点と終点の距離の10%といったように予め定めておけばよい。
一方、両者が所定距離以上の場合(ステップS45のYes)、制御部19は、消去ジェスチャーが折り返し線状であると判断し、折り返し線状の消去ジェスチャーに対応付けられた処理を実行する。即ち、始点と終点を結ぶ直線を基準方向とし、それに直行する方向を幅方向として定める。そして、消去ジェスチャーと判断した折り返し線の各部、即ち記憶部21に記憶された各座標の幅方向の分布を求める。各座標が幅方向において所定距離内にあれば、折り返し線は同じ箇所をなぞるものであり最終的に真の消去ジェスチャーであると判断する(ステップS47のYes)。そして、ルーチンはステップS49へ進む。
一方、各座標が前記幅方向において所定距離内になければ、描かれた折り返し線は同じ箇所をなぞるものでないと判断し、ルーチンはステップS11へ戻る。ここで、消去ジェスチャーでないと判断した旨のメッセージを表示装置11に表示させるようにしてもよい。この場合、制御部19は、消去ジェスチャーに応答した消去の処理は行わない。そうすると、前述のステップS27で線を表示しているので折り返し線の描画がなされる。
なお、ルーチンがステップS11へ戻った後もなお、折り返し線が描き続けられていると、制御部19は新たに消去ジェスチャーの判定を行う。
ステップS49で、制御部19は、始点と折り返し点を結んでこれまで描かれた手書き軌跡に属する領域を抽出する。前記領域の具体的な抽出のやり方はいくつかの態様が考えられる。これについては、後述する。制御部19は、抽出された領域に描かれている線を消去する。即ち、前記手書き軌跡を削除し、さらに、その手書き軌跡と交わるように描かれた線を消去する(ステップS51)。そして、ルーチンはステップS11へ戻る。
一方、前述のステップS45で、消去ジェスチャーが楕円状であると判断した場合、制御部19は次の処理を実行する。まず、制御部19は、記憶部に記憶された手書き軌跡の座標のうちで、最も外側に描かれた位置を探す。処理を簡単にするため、最も外側の領域の代表として最上、最下、最左、最右の各点の座標を得る(ステップS53)。さらに、記憶部に記憶された線の座標のうち、描かれた線の最も内側の領域を示す上下左右の座標を得る(ステップS55)。処理を簡単にするため、前述のステップS53で求めた最上、最下、最左、最右の各点に対応する上、下、左、右の4つの内側の点を代表として求める。そして、上、下、左、右の4組の代表点の座標に基づいて、最も外側の領域と最も内側の
領域の大きさの差異が閾値以内かを判断する(ステップS57)。
前記閾値は、例えば、最上点と最下点の距離に対する内側の上下点間距離の割合として予め定めおけばよい。あるいは、最左点と最右点の距離に対する内側の左右点間の距離の割合として予め定めておいてもよい。両者の組み合わせとして予め定めておいてもよい。
前記判断の結果、最も外側の領域と最も内側の領域の大きさの差異が閾値以内でなければ、描かれた楕円状の線は同じ箇所をなぞるものでないと判断し、ルーチンはステップS11へ戻る。ここで、消去ジェスチャーでないと判断した旨のメッセージを表示装置11に表示させるようにしてもよい。この場合、制御部19は、消去ジェスチャーに応答した消去の処理は行わない。そうすると、前述のステップS27で線を表示しているので楕円状の線の描画がなされる。
一方、前記ステップS57の判断で、最も外側の領域と最も内側の領域の大きさの差異が閾値以内の場合、制御部19は、描かれた線で囲まれた領域を抽出し(ステップS59)、抽出された領域に既に描かれている線を消去する(ステップS61)。
≪消去すべき線の決定≫
ここでは、手書き軌跡が消去ジェスチャーであると判断した場合、制御部19が消去すべき線を決定するいくつかの態様を説明する。
まず、折り返し線状の消去ジェスチャーの場合について説明する。
制御部19は、前述した図7のステップS49で述べたように、手書き軌跡がカバーする領域を抽出する。この領域を決定する第1の態様は、2つの折り返し点で区分される3本の線が重なる部分を前記領域として抽出するものである。つまり、3回ともなぞった部分を抽出する態様である。
第2の態様は、3本の線のいずれかが描かれた領域を前記領域として抽出するものである。つまり、手書き軌跡のいずれかの線が描かれた部分を前記領域として抽出するものである。
何れの態様を適用するかを、ユーザーが設定メニューを用いて選択できるようにしてもよい。
このようにして手書き軌跡がカバーする領域を抽出したら、制御部19は、ステップS51で述べたごとく、前記領域との関係に基づいて消去すべき線を決定する。手書き軌跡が描かれたとき既に描かれている線が消去の対象となる。
制御部19が消去対象を決定するに際して、いくつかの態様が挙げられる。第1の態様は、前記ステップS49の処理で抽出された領域と交わる部分の画素みを消去する態様である。
図9は、この発明に係る制御部が消去対象を決定する態様の例を示す説明図である。図9(a)は、すでに描かれている「と」の文字の上に描かれた折れ線状の消去ジェスチャーから手書き軌跡がカバーする領域(カバー領域)が抽出された様子を示している。カバー領域37は、灰色で示す領域である。図9(b)は、前述の第1の態様の場合に制御部19が決定する消去対象を示している。「と」の文字を構成する線のうちカバー領域37と交わる部分の画素のみを消去の対象とする。
第2の態様は、カバー領域37と交わる部分に連結された線をすべて消去する態様である。この態様によれば、図9(a)のカバー領域37と交わる「と」の文字全体が消去の対象となる。
ただし、この態様によれば、一文字が複数の孤立した線(連結成分)で構成される場合は文字の一部が消去される。
図10は、この発明に係る制御部が消去対象を決定する態様の異なる例を示す説明図である。図10(a)は、すでに描かれている「は」の文字の上にカバー領域37が位置する場合を示している。図10(b)は、前述の第1の態様を示しており、「は」の文字を構成する線のうちカバー領域37と交わる画素のみが消去の対象となる。図10(c)は、第2の態様を示しており、「は」の文字を構成する線のうちカバー領域37と交わる右側の連結成分が消去の対象となるが、左側の連結成分は消去対象とならずに残る。
第3の態様は、消去対象をオブジェクト単位で判断する態様である。たとえば、図10で「は」の文字が一つのオブジェクトであれば、カバー領域37と交わるオブジェクトの「は」の文字全体が消去の対象となる。ここでいうオブジェクトは、ツールバー33の「選択」ボタンを用いて選択される単位を指す。即ち、作業領域35に手書き軌跡が描かれる際に、制御部19が一連の手書き軌跡として処理する単位がオブジェクトである。例えば、ツールバー33の「ペン」ボタンがタッチされた後に他のボタンがタッチされるまで描かれる一連の手書き軌跡が一つのオブジェクトである。
これら第1〜3の態様の何れを適用するかを、ユーザーが設定メニューを用いて選択できるようにしてもよい。
次に、楕円状の消去ジェスチャーの場合について説明する。
制御部19は、前述した図8のステップS59で、楕円に囲まれた領域を抽出する。この際、手書き軌跡の始点と終点が少し離れており完全な閉鎖領域が形成されていなくても、それを結ぶ直線または曲線で補完して閉鎖領域を決定する。また、楕円の最も外側の領域により構成される閉鎖領域を、前記領域の境界とすればよい。異なる態様として、最も内側の領域により構成される閉鎖領域を前記領域の境界とすることもできる。何れを適用するかを、ユーザーが設定メニューを用いて選択できるようにしてもよい。
このようにして手書き軌跡で囲まれる領域を抽出したら、制御部19は、ステップS61で述べたごとく、前記領域との関係に基づいて消去すべき線を決定する。この処理については、折り返し線におけるステップS51と同様に、(1)抽出された領域と交わる部分の画素みを消去する態様、(2)前記領域と交わる部分に連結された線をすべて消去する態様、(3)オブジェクト単位で消去対象を判断する態様が適用可能である。何れを適用するかを、ユーザーが設定メニューを用いて選択できるようにしてもよい。
≪変形例≫
これまでに述べた実施形態の変形例を幾つか挙げておく。
まず、消去ジェスチャーの折り返し点は2つに限定されず、3つや4つなど異なる自然数であってもよい。折り返し点の数をユーザーが設定できるようにしてもよい。
また、制御部19は、消去ジェスチャーと判断された手書き軌跡と交わる線が、いずれも手書き軌跡が描かれた時点から遡って所定時間より前に描かれたものである場合、手書き軌跡を消去ジェスチャーでないと判断し、通常の書き込みとして扱うようにしてもよい。これは、線を描いた直後にそれを消そうとしてとっさにその線の上をなぞったアクションでないと判断するためである。
また、折り返し線状の消去ジェスチャーと楕円状の消去ジェスチャーを挙げたが、異なるジェスチャーとして、エックス字(Xあるいは×印)状のジェスチャーが考えられる。そして、X字状の前記ジェスチャーに対して消去ジェスチャーでなく、アンドゥーの処理を対応付けてもよい。アンドゥー機能は、前記ジェスチャーが描かれる前に行った処理を元に戻す機能である。
前述した実施の形態の他にも、この発明について種々の変形例があり得る。それらの変形例は、この発明の範囲に属さないと解されるべきものではない。この発明には、請求の範囲と均等の意味および前記範囲内でのすべての変形とが含まれるべきである。
11:表示装置
13:液晶ディスプレイ
15:タッチパネル
17:スタンド
19:制御部
21:記憶部
19a:表示制御部
19b:入力検出部
21a:入力座標記憶部
21b:図形描画情報記憶部
21c:時間記憶部
31:手指
33:ツールバー
35:作業領域
37:カバー領域

Claims (7)

  1. 手書き文字、および手書き線画を表示し得る表示部と、
    前記表示部に触れられた位置が時間とともに移動するときその位置を手書き軌跡として検出する検出部と、
    前記検出部および前記表示部を制御し、前記手書き軌跡に対応する線を前記表示部に表示させかつジェスチャーとして予め定められたパターンとその手書き軌跡が一致すると判断したとき、そのジェスチャーに対応付けられた処理を実行する制御部とを備え、
    前記ジェスチャーは、表示部に既に表示されている線を消去する消去ジェスチャーを含み、
    前記制御部は、手書き軌跡が新たに検出されたとき、
    その手書き軌跡が、消去ジェスチャーのパターンと一致すると判断したときにその手書き軌跡に重なる線を消去し、前記手書き軌跡が消去ジェスチャーと異なるパターンであると判断したときは、前記手書き軌跡に重なる線を表示させることを特徴とする手書き入力機能付表示装置。
  2. 前記制御部は、前記手書き軌跡が描き始めてから描き終えるまでの期間が所定の時間内であるときに限りその手書き軌跡が消去ジェスチャーのパターンと一致するかを判断し、所定時間内に描かれていないときは消去ジェスチャーとしない請求項1に記載の表示装置。
  3. 前記消去ジェスチャーのパターンは、所定数以上の折り返しを有する屈曲線である請求項1または2に記載の表示装置。
  4. 前記検出部は、太さを有する手書き軌跡を検出し、
    前記制御部は、前記手書き軌跡と重なると判断された線のうち、前記太さを有する手書き軌跡と重なる部分を消去し重ならない部分は消去しない請求項1〜3のいずれか一つに記載の表示装置。
  5. 前記制御部は、前記手書き軌跡と重なると判断された部分に連結する線の全体を消去する請求項1〜3のいずれか一つに記載の表示装置。
  6. 前記検出部は、太さを有する手書き軌跡を検出し、
    前記制御部は、前記手書き軌跡と重なると判断された線のうち、前記太さを有する手書き軌跡と重なる部分を消去し重ならない部分は消去しない態様か、あるいは、前記手書き軌跡と重なると判断された部分に連結する線の全体を消去する態様かの選択を受付け、選択された態様で線を消去する請求項1〜3のいずれか一つに記載の表示装置。
  7. 前記制御部は、前記手書き軌跡が描き始められてから描き終えられるまでの時間が、予め定められた期間より短いときに限ってその手書き軌跡が消去ジェスチャーと一致するかを判断し、前記期間より長いときは前記手書き軌跡に対応する箇所に線を表示させる請求項1〜6のいずれか一つに記載の表示装置。
JP2011145657A 2011-06-30 2011-06-30 手書き入力機能付表示装置 Active JP5723697B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011145657A JP5723697B2 (ja) 2011-06-30 2011-06-30 手書き入力機能付表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011145657A JP5723697B2 (ja) 2011-06-30 2011-06-30 手書き入力機能付表示装置

Publications (2)

Publication Number Publication Date
JP2013012134A true JP2013012134A (ja) 2013-01-17
JP5723697B2 JP5723697B2 (ja) 2015-05-27

Family

ID=47685944

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011145657A Active JP5723697B2 (ja) 2011-06-30 2011-06-30 手書き入力機能付表示装置

Country Status (1)

Country Link
JP (1) JP5723697B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015001751A (ja) * 2013-06-13 2015-01-05 コニカミノルタ株式会社 手書き入力装置及び制御プログラム並びに制御方法
WO2015041004A1 (ja) * 2013-09-19 2015-03-26 シャープ株式会社 認識装置および認識装置の制御方法
KR20150041708A (ko) * 2013-10-08 2015-04-17 엘지전자 주식회사 이동 단말기 및 이의 제어방법
JP2015176522A (ja) * 2014-03-18 2015-10-05 富士ゼロックス株式会社 情報処理装置及び情報処理プログラム
JP2018092676A (ja) * 2018-03-14 2018-06-14 シャープ株式会社 入力表示装置および入力表示方法
JP2019028722A (ja) * 2017-07-31 2019-02-21 富士通株式会社 判定プログラム、判定方法および判定装置
CN110716678A (zh) * 2019-10-08 2020-01-21 江苏集萃有机光电技术研究所有限公司 一种显示画面的局部删除方法及处理系统、显示设备
US11209921B2 (en) 2015-09-30 2021-12-28 Ricoh Company, Ltd. Electronic blackboard, storage medium, and information display method
KR20220114729A (ko) * 2021-02-09 2022-08-17 박규선 전자 칠판의 스트로크 삭제 기능 제공 방법
EP4047465A1 (en) * 2021-02-23 2022-08-24 MyScript Modifying digital content

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0713686A (ja) * 1993-06-28 1995-01-17 Sony Corp 手書き情報入力装置
JP2008027082A (ja) * 2006-07-19 2008-02-07 Fujitsu Ltd 手書き入力装置、手書き入力方法、及びコンピュータプログラム
JP2008250374A (ja) * 2007-03-29 2008-10-16 Toshiba Corp 筆跡判定装置、方法およびプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0713686A (ja) * 1993-06-28 1995-01-17 Sony Corp 手書き情報入力装置
JP2008027082A (ja) * 2006-07-19 2008-02-07 Fujitsu Ltd 手書き入力装置、手書き入力方法、及びコンピュータプログラム
JP2008250374A (ja) * 2007-03-29 2008-10-16 Toshiba Corp 筆跡判定装置、方法およびプログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CSNB201200600001; クラーク ジョシュ: iPhoneアプリ設計の極意 第1版, 20110620, p.222-225, 株式会社オライリー・ジャパン オライリー ティム *
JPN6014053807; クラーク ジョシュ: iPhoneアプリ設計の極意 第1版, 20110620, p.222-225, 株式会社オライリー・ジャパン オライリー ティム *

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015001751A (ja) * 2013-06-13 2015-01-05 コニカミノルタ株式会社 手書き入力装置及び制御プログラム並びに制御方法
WO2015041004A1 (ja) * 2013-09-19 2015-03-26 シャープ株式会社 認識装置および認識装置の制御方法
JP2015060470A (ja) * 2013-09-19 2015-03-30 シャープ株式会社 認識装置
KR102135354B1 (ko) * 2013-10-08 2020-07-17 엘지전자 주식회사 이동 단말기 및 이의 제어방법
KR20150041708A (ko) * 2013-10-08 2015-04-17 엘지전자 주식회사 이동 단말기 및 이의 제어방법
JP2015176522A (ja) * 2014-03-18 2015-10-05 富士ゼロックス株式会社 情報処理装置及び情報処理プログラム
US11209921B2 (en) 2015-09-30 2021-12-28 Ricoh Company, Ltd. Electronic blackboard, storage medium, and information display method
JP2019028722A (ja) * 2017-07-31 2019-02-21 富士通株式会社 判定プログラム、判定方法および判定装置
JP2018092676A (ja) * 2018-03-14 2018-06-14 シャープ株式会社 入力表示装置および入力表示方法
CN110716678A (zh) * 2019-10-08 2020-01-21 江苏集萃有机光电技术研究所有限公司 一种显示画面的局部删除方法及处理系统、显示设备
CN110716678B (zh) * 2019-10-08 2022-09-23 江苏集萃有机光电技术研究所有限公司 一种显示画面的局部删除方法及处理系统、显示设备
KR20220114729A (ko) * 2021-02-09 2022-08-17 박규선 전자 칠판의 스트로크 삭제 기능 제공 방법
KR102458811B1 (ko) * 2021-02-09 2022-10-28 주식회사 에듀프레임 전자 칠판의 스트로크 삭제 기능 제공 방법
EP4047465A1 (en) * 2021-02-23 2022-08-24 MyScript Modifying digital content

Also Published As

Publication number Publication date
JP5723697B2 (ja) 2015-05-27

Similar Documents

Publication Publication Date Title
JP5723697B2 (ja) 手書き入力機能付表示装置
EP2461237B1 (en) Portable display device, control method for the same, program for the same, and storage medium for the same
JP5158014B2 (ja) 表示制御装置、表示制御方法およびコンピュータプログラム
JP4602166B2 (ja) 手書き情報入力装置。
US8633906B2 (en) Operation control apparatus, operation control method, and computer program
US20140210797A1 (en) Dynamic stylus palette
KR20100130671A (ko) 터치 인터페이스에서 선택 영역의 제공 장치 및 그 방법
US20080129712A1 (en) Pen-based computer system having variable automatic scroll
JP5664164B2 (ja) 電子情報ボード装置、情報表示方法、プログラム
JP2010218286A (ja) 情報処理装置およびプログラムおよび表示方法
WO2012169189A1 (ja) タッチパネル入力装置
CN103513884A (zh) 信息处理装置、信息处理方法
JP2018163684A (ja) 情報処理装置、情報処理プログラムおよび情報処理方法
JP6352801B2 (ja) 情報処理装置、情報処理プログラムおよび情報処理方法
TW201423563A (zh) 手寫輸入識別系統及方法
JP6622837B2 (ja) 入力表示装置および入力表示方法
JP6087602B2 (ja) 電子黒板
JP6003566B2 (ja) オブジェクト操作装置及びオブジェクト操作制御プログラム
JP6670345B2 (ja) 情報処理装置、情報処理プログラムおよび情報処理方法
JP6408273B2 (ja) 情報処理装置、情報処理プログラムおよび情報処理方法
CN111144192A (zh) 信息处理设备、信息处理方法以及存储介质
JP6584876B2 (ja) 情報処理装置、情報処理プログラムおよび情報処理方法
JP2013246482A (ja) 操作入力装置
JP6473680B2 (ja) 入力表示装置および入力表示方法
JP6309346B2 (ja) 入力表示装置および入力表示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140319

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141224

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150303

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150330

R150 Certificate of patent or registration of utility model

Ref document number: 5723697

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150