JP7299693B2 - 筆記入力装置及び筆記入力システム - Google Patents

筆記入力装置及び筆記入力システム Download PDF

Info

Publication number
JP7299693B2
JP7299693B2 JP2018229850A JP2018229850A JP7299693B2 JP 7299693 B2 JP7299693 B2 JP 7299693B2 JP 2018229850 A JP2018229850 A JP 2018229850A JP 2018229850 A JP2018229850 A JP 2018229850A JP 7299693 B2 JP7299693 B2 JP 7299693B2
Authority
JP
Japan
Prior art keywords
writing
sound
pseudo
writing pressure
input device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018229850A
Other languages
English (en)
Other versions
JP2020091780A (ja
Inventor
直紀 田村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2018229850A priority Critical patent/JP7299693B2/ja
Priority to US16/700,643 priority patent/US10908709B2/en
Priority to CN201911243429.2A priority patent/CN111290638B/zh
Publication of JP2020091780A publication Critical patent/JP2020091780A/ja
Application granted granted Critical
Publication of JP7299693B2 publication Critical patent/JP7299693B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545Pens or stylus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • G06F3/0383Signal control means within the pointing device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10KSOUND-PRODUCING DEVICES; METHODS OR DEVICES FOR PROTECTING AGAINST, OR FOR DAMPING, NOISE OR OTHER ACOUSTIC WAVES IN GENERAL; ACOUSTICS NOT OTHERWISE PROVIDED FOR
    • G10K15/00Acoustics not otherwise provided for
    • G10K15/02Synthesis of acoustic waves
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10KSOUND-PRODUCING DEVICES; METHODS OR DEVICES FOR PROTECTING AGAINST, OR FOR DAMPING, NOISE OR OTHER ACOUSTIC WAVES IN GENERAL; ACOUSTICS NOT OTHERWISE PROVIDED FOR
    • G10K15/00Acoustics not otherwise provided for
    • G10K15/04Sound-producing devices

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Acoustics & Sound (AREA)
  • General Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Description

本発明は、タッチパネルに対して筆記入力が可能な筆記入力装置及び筆記入力システムに関する。
スタイラスペンなどの電子ペンによりタッチパネルなどの電子ボード(電子黒板、電子ホワイトボードなど)に筆記入力するシステムが知られている。電子ペンでタッチパネルに記入する方式は、チョークで黒板に記入する従来の方式に比べて、電子ペン及び入力面の材質がチョーク及び黒板の材質と異なるため、筆記する際にほとんど筆記音が発生しない。ここで、教育現場、会議などにおいて、筆記者による筆記音が参加者の集中力の向上に寄与することが知られている。従来、前記システムにおいて、チョークで黒板に筆記する際に生じるような筆記音の疑似音声を発生させる技術が提案されている。例えば特許文献1には、ペンの速度に基づいて前記擬似音声を発生させる技術が開示されている。
特開平8-190450号公報
しかし、前記従来の技術は、ペンの速度に応じて前記擬似音声を発生させる構成であり、前記疑似音声は、前記ペンで線を描画する際に当該ペンが入力面を擦る(移動する)ことにより発生する音(摩擦音)である。ここで、通常、前記ペンで筆記する際には当該ペンが入力面に接触することにより打撃音(ファーストタッチ音)が発生する。前記ファーストタッチ音は、筆記が行われる度に発生するものである。この点、前記従来の技術では、前記ファーストタッチ音を再現することが難しい。このため、筆記音の再現性が劣り、違和感が生じてしまう。
本発明の目的は、電子ペンなどの筆記入力装置が入力面などの被接触部に接触することにより生じるファーストタッチ音の疑似音声を出力させることが可能な筆記入力装置及び筆記入力システムを提供することにある。
本発明の一の態様に係る筆記入力装置は、タッチパネルに対して筆記入力が可能な筆記入力装置であって、前記筆記入力装置の先端部が被接触部に接触することによる筆圧を検出する筆圧検出部と、前記筆圧検出部により検出される前記筆圧に基づいて、疑似音声を生成する音声生成部と、前記音声生成部により生成される前記疑似音声を出力させる音声出力部と、を備える。
本発明の他の態様に係る筆記入力システムは、タッチパネルと、当該タッチパネルに筆記入力が可能な筆記入力装置と、を含み、前記筆記入力装置の先端部が被接触部に接触することによる筆圧を検出する筆圧検出部と、前記筆圧検出部により検出される前記筆圧に基づいて、疑似音声を生成する音声生成部と、前記音声生成部により生成される前記疑似音声を出力させる音声出力部と、を備える。
本発明によれば、電子ペンなどの筆記入力装置が入力面などの被接触部に接触することにより生じるファーストタッチ音の疑似音声を出力させることが可能となる。
図1は、本発明の実施形態に係る筆記入力システムの構成を示す外観図である。 図2は、本発明の実施形態に係る電子ボードの構成を示すブロック図である。 図3は、本発明の実施形態に係るタッチペンの構成を示すブロック図である。 図4は、本発明の実施形態に係るタッチペンの具体的な構成を示すブロック図である。 図5は、本発明の実施形態に係るタッチペンの記憶部に記憶される筆記モード情報の一例を示す図である。 図6は、本発明の実施形態に係るタッチペンの記憶部に記憶される音声データ情報の一例を示す図である。 図7は、本発明の実施形態に係るタッチペンの記憶部に記憶される判定用データの一例を示す図である。 図8は、本発明の実施形態に係るタッチペンの記憶部に記憶されるサンプル音声データの一例を示す図である。 図9は、本発明の実施形態に係る筆記入力システムで実行される音声出力処理の手順の一例を示すフローチャートである。
以下、添付図面を参照しながら、本発明の実施形態について説明する。なお、以下の実施形態は、本発明を具体化した一例であって、本発明の技術的範囲を限定する性格を有さない。
図1に示すように、本発明の実施形態に係る筆記入力システム100は、電子ボード1と、電子ボード1に対して手書き文字などを筆記入力が可能なタッチペン2とを備えている。電子ボード1は、後述する表示パネル13及びタッチパネル14を備え、タッチパネル14の入力面(タッチ面)にタッチペン2のペン先20(図3参照)が接触することにより、接触位置を検出し、当該接触位置に基づいて表示パネル13の表示面に情報(手書き文字など)を描画する。筆記入力システム100は本発明の筆記入力システムの一例であり、タッチペン2は本発明の筆記入力装置の一例である。
[電子ボード1]
本発明では、公知の構成を備える電子ボードを適用することができる。ここでは、一例として、電子ボード1の概略構成を説明し、詳細な説明は省略する。
電子ボード1は、制御部11、記憶部12、表示パネル13、タッチパネル14、及び通信部15を備えている。
表示パネル13は、画像を表示するディスプレイであり、例えば液晶ディスプレイである。
タッチパネル14は、タッチパネル14に対するユーザのタッチペン2によるタッチ入力を受け付ける。タッチパネル14は、静電容量方式のタッチパネルであってもよいし、感圧式のタッチパネルであってもよい。すなわち、タッチパネル14は、タッチ等、ユーザのタッチ入力を受け付けることが可能な装置であればよい。タッチパネル14は、表示パネル13の前面に配置されてもよいし、表示パネル13に内蔵されてもよい。また、タッチパネル14及び表示パネル13は、互いに離れた場所に配置され、互いに通信可能に構成されてもよい。ここでは、タッチパネル14が表示パネル13の前面に配置され、タッチパネル14及び表示パネル13が一体に形成された一体型のタッチパネルディスプレイを例に挙げて説明する。
通信部15は、電子ボード1を有線又は無線でネットワークに接続し、ネットワークを介してタッチペン2などの外部機器との間で所定の通信プロトコルに従ったデータ通信を実行するための通信インターフェースである。
記憶部12は、各種の情報を記憶するHDD(Hard Disk Drive)又はSSD(Solid State Drive)などの不揮発性の記憶部である。記憶部12には、各種の制御プログラムが記憶されている。制御プログラムは、USB、CD又はDVD(何れも登録商標)などのコンピュータ読取可能な記録媒体に非一時的に記録されており、電子ボード1に電気的に接続されるUSBドライブ、CDドライブ又はDVDドライブなどの読取装置(不図示)で読み取られて記憶部12に記憶される。前記制御プログラムは、ネットワークを介して外部機器からダウンロードされて記憶部12に記憶されてもよい。
制御部11は、CPU、ROM、及びRAMなどの制御機器を有する。前記CPUは、各種の演算処理を実行するプロセッサーである。前記ROMは、前記CPUに各種の演算処理を実行させるためのBIOS及びOSなどの制御プログラムが予め記憶される不揮発性の記憶部である。前記RAMは、各種の情報を記憶する揮発性又は不揮発性の記憶部であり、前記CPUが実行する各種の処理の一時記憶メモリー(作業領域)として使用される。そして、制御部11は、前記ROM又は記憶部12に予め記憶された各種の制御プログラムを前記CPUで実行することにより電子ボード1を制御する。
具体的に、制御部11は、図2に示すように、入力検出部111及び描画処理部112などの各種の処理部を含む。なお、制御部11は、前記CPUで前記制御プログラムに従った各種の処理を実行することによって前記各種の処理部として機能する。また、制御部11に含まれる一部又は全部の処理部が電子回路で構成されていてもよい。なお、前記制御プログラムは、複数のプロセッサーを前記各種の処理部として機能させるためのプログラムであってもよい。
入力検出部111は、タッチパネル14に対する前記タッチ入力を検出する。具体的には、入力検出部111は、被接触部(例えばタッチパネル14の入力面)においてタッチペン2によって入力(指定)された位置座標を検出する。例えば、入力検出部111は、タッチペン2と前記入力面との間の静電容量の変化を検出することにより前記位置座標を検出する。前記位置座標を検出する方式は、静電容量方式に限定されず、公知の種々の方式を適用することができる。
描画処理部112は、入力検出部111により検出される前記タッチ入力に応じた情報を表示パネル13に描画する。例えば、描画処理部112は、入力検出部111により検出される前記タッチ入力の位置情報に基づいて、前記タッチ入力に応じた手書き文字を表示パネル13の所定の位置に描画する。
[タッチペン2]
タッチペン2は、ユーザが電子ボード1に対してタッチ入力するための電子ペン(スタイラスペンともいう。)である。例えば、ユーザは、タッチペン2により、タッチパネル14の入力面(被接触部)に対してタッチ入力を行う。
図3は、タッチペン2の概略構成を模式的に示すブロック図であり、図4は、タッチペン2の具体的な構成を示すブロック図である。タッチペン2は、制御部21、記憶部22、感圧センサ23、加速度センサ24、スピーカー25、通信部26、モードスイッチ27、及び音声スイッチ28を備えている。感圧センサ23は、タッチペン2の一端であるペン先20の近傍に設けられ、スピーカー25は、タッチペン2の他端に設けられる。
感圧センサ23は、タッチペン2のペン先20がタッチパネル14の入力面などの被接触部に接触した場合に、ペン先20に加わる筆圧を検知する。前記被接触部は、タッチパネル14の入力面に限定されず、机などであってもよい。タッチパネル14の入力面及び机は、本発明の被接触部の一例である。またペン先20は、本発明の筆記入力装置の先端部の一例である。感圧センサ23には、例えば圧電素子を用いた公知の圧力センサを適用することができる。感圧センサ23は、筆圧を検知すると検知信号を制御部21に出力する。
加速度センサ24は、重力方向に対する傾きを検出する。具体的には、加速度センサ24は、タッチペン2の傾斜角度を検出する。加速度センサ24は、必要に応じてタッチペン2に設けられ、省略されてもよい。
スピーカー25は、制御部21の命令に従って所定の音声を出力する。スピーカー25は、本発明のスピーカーの一例である。例えば、スピーカー25は、筆記を開始する際にペン先20がタッチパネル14の入力面に接触することにより生じる打撃音(ファーストタッチ音)の疑似音声、筆記中にペン先20が前記入力面を擦る(移動する)ことにより生じる摩擦音の疑似音声などを外部に報知する。前記ファーストタッチ音は、ペン先20が前記入力面を叩く音である。前記摩擦音は、ペン先20と前記入力面との接触開始後にペン先20が前記入力面に接触した状態で移動する際に生じる音である。前記ファーストタッチ音の疑似音声は、本発明の第1疑似音声の一例であり、前記摩擦音の疑似音声は、本発明の第2疑似音声の一例である。
なお、スピーカー25は、タッチペン2の外部に設けられてもよい。例えば、スピーカー25は、電子ボード1に設けられてもよいし、タッチペン2及び電子ボード1の外部の機器に設けられてもよい。例えば、スピーカー25は、筆記入力システム100が導入される会議室に設置されたスピーカーであってもよい。
通信部26は、タッチペン2を有線又は無線でネットワークに接続し、ネットワークを介して電子ボード1などの外部機器との間で所定の通信プロトコルに従ったデータ通信を実行するための通信インターフェースである。
モードスイッチ27は、前記疑似音声の種類(音質、音色など)に応じた筆記モードを切り替えるためのスイッチである。前記筆記モードには、例えば、黒板にチョークで筆記する際に生じる音に対応する黒板筆記モードM1と、紙に鉛筆で筆記する際に生じる音に対応する鉛筆筆記モードM2と、紙にボールペンで筆記する際に生じる音に対応するボールペン筆記モードM3とが含まれる。ユーザがモードスイッチ27を押下する度に、前記筆記モードが黒板筆記モードM1、鉛筆筆記モードM2、及びボールペン筆記モードM3に順に切り替われる。
音声スイッチ28は、前記疑似音声を出力させる音声モードと、前記疑似音声を出力させない非音声モードとを切り替えるためのスイッチである。音声スイッチ28をON状態にすると、前記音声モードに切り替わり、音声スイッチ28をOFF状態にすると、前記非音声モードに切り替わる。ユーザは、前記疑似音声を出力させたい場合に、音声スイッチ28をON状態にして前記音声モードに設定する。
記憶部22は、各種の情報を記憶する半導体メモリ、HDD(Hard Disk Drive)又はSSD(Solid State Drive)などを含む不揮発性の記憶部である。例えば、記憶部22には、制御部21に後述の音声出力処理(図9参照)を実行させるための音声出力プログラムなどの制御プログラムが記憶されている。例えば、前記音声出力プログラムは、USB、CD又はDVD(何れも登録商標)などのコンピュータ読取可能な記録媒体に非一時的に記録されており、タッチペン2に電気的に接続されるUSBドライブ、CDドライブ又はDVDドライブなどの読取装置(不図示)で読み取られて記憶部22に記憶される。前記音声出力プログラムは、ネットワークを介して外部機器からダウンロードされて記憶部22に記憶されてもよい。
また、記憶部22には、筆記モード情報221、音声データ情報222、判定用データ223、及びサンプル音声データ224が含まれる。
図5は、筆記モード情報221の一例を示す図である。筆記モード情報221には、前記筆記モードM1,M2,M3などの情報が登録される。筆記モード情報221には、予め1又は複数の筆記モードの情報が登録されている。なお、タッチペン2は、タッチペン2のユーザが適宜、前記筆記モードを追加したり削除したりすることが可能な構成であってもよい。
図6は、音声データ情報222の一例を示す図である。音声データ情報222には、筆記モードの情報と、判定用データの情報と、サンプル音声データの情報と、音声加工情報(例えば後述する「音量係数」)とが互いに関連付けられて登録されている。前記筆記モードは、図5に示す筆記モード情報221に登録される前記筆記モードである。
前記判定用データは、感圧センサ23により検知される筆圧からファーストタッチを特定するためのデータであり、具体的には波形照合によりファーストタッチを特定するための波形データ(筆圧波形データ)、あるいは筆圧の特徴量によりファーストタッチを特定するための判定条件についての情報である。前記判定用データは、図7に示す判定用データ223に記憶されている。
例えば、波形照合によりファーストタッチを特定する場合、判定用データ223には、筆圧が大きいファーストタッチ音の判定用データDF11の筆圧波形データと、筆圧が小さいファーストタッチ音の判定用データDF12の筆圧波形データと、筆圧が大きい摩擦音の判定用データDR11の筆圧波形データと、筆圧が小さい摩擦音の判定用データDR12の筆圧波形データとが登録されている。なお、ファーストタッチ音に対応する判定用データには、筆圧の変化を微分処理した波形データも登録されている。音声データ情報222(図6参照)には、図7に示す判定用データ223に登録される判定用データ(筆圧波形データ)の識別情報が登録される。
また音声データ情報222において、前記判定用データには、音声加工情報が関連付けられている。前記音声加工情報は、前記判定用データの筆圧に応じて予め設定される。例えば筆圧が大きいファーストタッチ音の判定用データDF11には、値が大きい音声加工情報が関連付けられ、筆圧が小さいファーストタッチ音の判定用データDF12には、値が小さい音声加工情報が関連付けられる。
前記サンプル音声データは、前記疑似音声を生成するための基準となる波形データ(音声波形データ)である。前記サンプル音声データは、図8に示すサンプル音声データ224に記憶されている。例えば、サンプル音声データ224には、ファーストタッチ音のサンプル音声データ(以下、「第1サンプル音声データSF1」という。)の音声波形データと、摩擦音のサンプル音声データ(以下、「第2サンプル音声データSR1」という。)の音声波形データとが登録されている。音声データ情報222(図6参照)には、図8に示すサンプル音声データ224に登録されるサンプル音声データ(音声波形データ)の識別情報が登録される。
記憶部22の筆記モード情報221、音声データ情報222、判定用データ223、及びサンプル音声データ224の少なくとも何れか1つは、タッチペン2の外部に設置されたデータサーバ(図示せず)に記憶されてもよい。前記データサーバは、1つの物理サーバで構成されてもよいし、複数の物理サーバで構築されたクラウドサーバで構成されてもよい。
制御部21は、CPU、ROM、及びRAMなどの制御機器を有する。前記CPUは、各種の演算処理を実行するプロセッサーである。前記ROMは、前記CPUに各種の演算処理を実行させるためのBIOS及びOSなどの制御プログラムが予め記憶された不揮発性の記憶部である。前記RAMは、各種の情報を記憶する揮発性又は不揮発性の記憶部であり、前記CPUが実行する各種の処理の一時記憶メモリー(作業領域)として使用される。そして、制御部21は、前記ROM又は記憶部22に予め記憶された各種の制御プログラムを前記CPUで実行することによりタッチペン2を制御する。
具体的に、制御部21は、図4に示すように、筆圧検出部211、音声生成部212、及び音声出力部213などの各種の処理部を含む。なお、制御部21は、前記CPUで前記音声出力プログラムに従った各種の処理を実行することによって前記各種の処理部として機能する。また、制御部21に含まれる一部又は全部の処理部が電子回路で構成されていてもよい。なお、前記音声出力プログラムは、複数のプロセッサーを前記各種の処理部として機能させるためのプログラムであってもよい。
以上については、波形照合によりファーストタッチを特定する場合について説明したが、筆圧の特徴量によりファーストタッチを特定する場合においては、前記判定用データとして、前記波形データに代えて、判定を行うための条件や数値のデータなどの判定条件を用いてもよい。判定用データに判定条件を用いる場合、判定用データに波形データを用いる場合に比べて、判定用データのデータ量を低減することができ、また、判定処理における演算処理を軽減することができる。
上記における判定を行うための条件や数値のデータとは、具体的には、判定を行うための筆圧の量あるいは筆圧の変化量の閾値、及び上記の閾値を用いて判定を行うための判定条件についての情報である。本方式により判定を行う方法について以下に例を用いて説明する。
筆圧検出部211は、タッチペン2のペン先20が被接触部に接触することによる筆圧を検出する。筆圧検出部211は、本発明の筆圧検出部の一例である。具体的には、筆圧検出部211は、ペン先20がタッチパネル14の入力面に接触した場合に感圧センサ23から取得する検知信号に基づいて前記筆圧を検出する。例えば、筆圧検出部211は、筆記を開始する際にペン先20がタッチパネル14の入力面に接触するとき(接触開始時:ファーストタッチ)の筆圧(以下「第1筆圧」という。)と、筆記中にペン先20が前記入力面を擦るとき(接触開始後)の筆圧(以下「第2筆圧」という。)とを検出する。
例えば、筆圧検出部211は、前記筆圧の変化量が第1閾値以上である場合に、ペン先20と前記入力面との接触開始時であると判定して前記第1筆圧を検出する。また筆圧検出部211は、前記筆圧の変化量が前記第1閾値未満である場合に、ペン先20と前記入力面との接触開始後であると判定して前記第2筆圧を検出する。
また例えば、筆圧検出部211は、前記筆圧が第2閾値未満の状態から第3閾値以上に変化した場合に、ペン先20と前記入力面との接触開始時であると判定して前記第1筆圧を検出してもよい。このように、筆圧検出部211は、筆圧の変化量に基づいて前記第1筆圧を検出してもよいし、筆圧値に基づいて前記第1筆圧を検出してもよい。
なお、本実施形態において、前記第2閾値未満の状態とは、筆圧値がほとんどゼロであり、ペン先20が入力面に接触していないと判定できる状態である。また前記第3閾値以上の状態とは、筆圧値がゼロよりも大きく、ペン先20が入力面に接触していると判定できる状態である。前記第2閾値と前記第3閾値の間はどちらとも判定できない中間状態である。つまり、筆圧検出部211は、筆圧値がほとんどゼロでありペン先20が入力面に接触していないと判定される状態から、筆圧値がある程度大きい値でありペン先20が入力面に接触していると判定される状態に切り替わったタイミングを、接触開始時であると判定する。なお、前記中間状態は、前記判定が過敏過ぎることによる誤判定を防止するために設定されるものであるが、これを考慮しない場合には、前記中間状態を設定せずに前記第2閾値と前記第3閾値とを同じ値に設定してもよい。
音声生成部212は、筆圧検出部211により検出される前記筆圧に基づいて、前記疑似音声を生成する。具体的には、音声生成部212は、筆圧検出部211により検出される前記筆圧を音声加工することにより、前記疑似音声を生成する。音声生成部212は、本発明の音声生成部の一例である。例えば、音声生成部212は、前記第1筆圧に基づき前記ファーストタッチ音の疑似音声(以下、「第1疑似音声」という。)を生成し、前記第2筆圧に基づき前記摩擦音の疑似音声(以下、「第2疑似音声」という。)を生成する。例えば音声生成部212は、サンプル音声データ224(図8参照)に記憶された前記第1サンプル音声データSF1に対して、前記第1筆圧の特徴に応じた音声加工を行うことにより、前記第1疑似音声を生成する。また音声生成部212は、サンプル音声データ224に記憶された前記第2サンプル音声データSR1に対して、前記第2筆圧の特徴に応じた音声加工を行うことにより、前記第2疑似音声を生成する。前記筆圧の特徴とは、例えば筆圧の波形の特徴、音量の特徴などである。
具体的には、音声生成部212は、先ず、感圧センサ23の出力値(波形データ)を判定用データ223に登録された筆圧波形データ(図7参照)又は判定条件により判定を行う。なお、判定用データには、筆圧波形データ(図7参照)又は判定条件と、それに対応する基準のサンプル音声データの音声波形データ(図8参照)と、音声加工情報とが互いに関連付けられて記憶されている(図6、図7及び図8参照)。音声生成部212は、感圧センサ23の出力値を用いて前記波形照合あるいは判定条件による判定を行ってもよいし、微分値を用いて前記波形照合あるいは判定条件による判定を行ってもよい。音声生成部212は、前記波形照合あるいは判定条件による判定により、前記疑似音声(第1疑似音声、第2疑似音声)を生成するために用いるサンプル音声データ及び音声加工情報を決定する。
次に、音声生成部212は、決定した前記サンプル音声データに前記音声加工情報に応じた音声加工を施して前記疑似音声(第1疑似音声、第2疑似音声)を生成する。前述の音声加工情報とは、各種の上記音声加工を行うための情報であり、具体的には、音量の倍率を定めた係数である音量係数、音声周波数の変更倍率を定めた係数である周波数変更係数、あるいはその他の音声加工を行うための各種の音声加工フィルタ(例えば、音声波形変更フィルタやバンドパスフィルタなど)が含まれる。前記音声加工は、例えば前記音量係数に基づいて前記サンプル音声データを増幅する処理(音量調整処理)、前記周波数変調係に基づいて前記サンプル音声データの音声周波数を変更する処理(周波数変更処理)、前記音声波形変更フィルタを用いて前記サンプル音声データの音声波形を方形波、正弦波のような特定の波形に近づけるように変化させる処理(音声波形変更処理)、前記サンプル音声データを前記バンドパスフィルタであるローパスフィルタ、ハイパスフィルタなどにより特定周波数の音声を強調する処理(バンドパスフィルタ処理)などを含む。ここでは一例として、音声生成部212は、前記サンプル音声データに前記音量係数に応じた音量調整処理を施して前記疑似音声を生成する。
音声出力部213は、音声生成部212により生成された前記疑似音声(第1疑似音声、第2疑似音声)をスピーカー25から出力させる。音声出力部213は、本発明の音声出力部の一例である。
ここで、筆圧検出部211は、ペン先20と前記入力面とが接触を開始したときに前記第1筆圧を検出し、その後、ペン先20と前記入力面との接触状態が終了するまでの間の筆圧を前記第2筆圧として検出する。そして、音声出力部213は、音声生成部212により生成される前記第1疑似音声及び前記第2疑似音声を連続してスピーカー25から出力させる。
[音声出力処理]
図9を参照しつつ、筆記入力システム100によって実行される音声出力処理の一例について説明する。例えば、前記音声出力処理は、タッチペン2の制御部21によって実行される。なお、ここでは、前記筆記モードが黒板筆記モードM1に設定されたものとする。
なお、本発明は、前記音声出力処理に含まれる一又は複数のステップを実行する音声出力方法の発明として捉えることができ、ここで説明する当該音声出力処理に含まれる一又は複数のステップが適宜省略されてもよい。なお、前記音声出力処理における各ステップは同様の作用効果を生じる範囲で実行順序が異なってもよい。さらに、ここでは制御部21によって前記音声出力処理における各ステップが実行される場合を例に挙げて説明するが、複数のプロセッサーによって当該音声出力処理における各ステップが分散して実行される音声出力方法も他の実施形態として考えられる。
先ずステップS11において、制御部21は、タッチペン2のペン先20が被接触部(タッチパネル14の入力面)に接触することによる筆圧を検出したか否か判定する。制御部21が筆圧を検出すると(S11:YES)、処理はステップS12に移行する。
ステップS12において、制御部21は、前記筆圧の変化量が第1閾値以上であるか否かを判定する。前記筆圧の変化量が第1閾値以上である場合(S12:YES)、処理はステップS13に移行し、前記筆圧の変化量が第1閾値未満である場合(S12:NO)、処理はステップS14に移行する。
ステップS13において、制御部21は、接触開始時(ファーストタッチ)の筆圧(第1筆圧)を検出する。一方ステップS14において、制御部21は、接触開始後の筆圧(第2筆圧)を検出する。ステップS13、S14の後、処理はステップS15に移行する。
ステップS15において、制御部21は、検出した前記筆圧(第1筆圧又は第2筆圧)の波形データを判定用データ223に登録された筆圧波形データ(図7参照)と波形照合あるいは判定条件による判定を行う。
次にステップS16において、制御部21は、前記波形照合あるいは判定条件による判定により判定された、判定用データに関連付けられた前記サンプル音声データ及び前記音声加工情報を決定する(図6参照)。
次にステップS17において、制御部21は、決定した前記サンプル音声データに前記音声加工情報に応じた音声加工を施して疑似音声(第1疑似音声、第2疑似音声)を生成する。
最後にステップS18において、制御部21は、生成した前記疑似音声(第1疑似音声、第2疑似音声)をスピーカー25から出力させる。以上の手順で前記音声出力処理が実行される。
以上説明したように、本実施形態に係る筆記入力システム100は、タッチペン2のペン先20が被接触部(例えばタッチパネル14の入力面)に接触することにより検出される筆圧に基づいて前記疑似音声を生成し、生成した前記疑似音声を出力させる構成を備える。このため、特にファーストタッチにより発生する音(ファーストタッチ音)を再現することができる。またファーストタッチに続く筆記中の音(摩擦音)を再現することができる。また、筆圧の大きさに応じて前記疑似音声の音量を変化させることができる。これらの構成によれば、ユーザの筆記状態に応じて発生する筆記音の疑似音声を出力することができるため、当該筆記音の再現性を向上させることができ、違和感のない音声出力を実現することができる。
本発明は上述の実施形態に限定されない。本発明の他の実施形態に対応する変形例について以下に説明する。
[変形例1]
ファーストタッチにより発生する打撃音(ファーストタッチ音)は、筆圧の他にペン先20とタッチパネル14の入力面とが接触する際の、前記入力面に対するタッチペン2の角度によって異なる場合がある。例えば、前記入力面に対するタッチペン2の角度が垂直な場合と傾斜している場合とで、ファーストタッチ音の性質及び音量が異なる場合がある。
そこで、変形例1に係る筆記入力システム100では、制御部21が、加速度センサ24により検出される前記傾斜角度に基づいて、タッチパネル14の入力面に対するタッチペン2の角度を検出する。そして、制御部21(音声生成部212)は、筆圧検出部211により検出される前記筆圧と前記タッチペン2の角度とに基づいて、前記疑似音声を生成する。この場合、例えば、判定用データ223には、筆圧と前記タッチペン2の角度とに対応する判定用データが記憶されてもよい。音声生成部212は、筆圧検出部211により検出される前記筆圧と前記タッチペン2の角度とに基づいて前記波形照合あるいは判定条件による判定を行い、サンプル音声データ及び音声加工情報を決定する。
この構成によれば、前記波形照合あるいは判定条件による判定の精度を向上させることができるため、より再現性の高い疑似音声を出力することができる。
[変形例2]
筆記入力システム100は、タッチペン2の移動速度(描画速度)に基づいて、前記摩擦音の疑似音声を生成してもよい。例えば、制御部21は、加速度センサ24を用いて前記移動速度を算出する。なお、前記移動速度は、加速度センサ24の検出値を時間積分することにより算出される。制御部21は、移動速度算出部として機能する。
次に、音声生成部212は、前記第2サンプル音声データに対して、前記第2筆圧の特徴及び前記移動速度に応じた音声加工を行うことにより、前記第2疑似音声を生成する。具体的には、音声生成部212は、筆圧検出部211により検出される前記第2筆圧と、加速度センサ24により算出される前記移動速度とに基づいて前記波形照合あるいは判定条件による判定を行い、前記第2サンプル音声データ及び前記音声加工情報を決定して前記疑似音声を生成する。このように、前記筆圧と前記移動速度とを用いて前記摩擦音の疑似音声を生成するため、前記摩擦音の再現性を向上させることができる。
なお、上記の例では加速度センサ24の検出値を用いて前記移動速度を算出したが、他の例として、電子ボード1の制御部11が前記移動速度を算出してもよい。この場合、電子ボード1は算出した前記移動速度の情報をタッチペン2に通知し、タッチペン2は電子ボード1から取得した前記移動速度の情報に基づいて前記疑似音声を生成する。
[変形例3]
上述した各形態では、ユーザが音声スイッチ28をON状態にした場合には、ユーザがタッチペン2をタッチパネル14以外の被接触部に接触させた場合にも前記疑似音声が出力される場合がある。例えば、ユーザがタッチペン2のペン先20を机に接触させたり、机を擦ったりした場合に、前記疑似音声が出力される。このため、ユーザは、タッチペン2を様々な被接触部に接触させて前記疑似音声を出力させることができるため、タッチペン2の利用態様を広げることができる。
一方で、ユーザは、タッチペン2をタッチパネル14に接触させた場合にのみ前記疑似音声を出力させて、タッチペン2をタッチパネル14以外(例えば机)に接触させた場合には前記疑似音声を出力させない構成を望む場合もある。この構成を実現するために、変形例3に係る筆記入力システム100では、電子ボード1の制御部11(入力検出部111)が、タッチペン2によって入力(指定)された位置座標を検出した場合に検出信号をタッチペン2に通知する。そして、タッチペン2は、電子ボード1から前記検出信号を取得した場合に、前記音声出力処理(図9参照)を実行する。これにより、ユーザが意図しない前記疑似音声の出力を防ぐことができる。
上述した各形態に係る筆記入力システム100では、タッチペン2の制御部21の各処理部(筆圧検出部211、音声生成部212、及び音声出力部213)と、記憶部22に記憶される各情報(筆記モード情報221、音声データ情報222、判定用データ223、及びサンプル音声データ224)とが、電子ボード1に含まれてもよい。またスピーカー25が、電子ボード1に含まれてもよい。例えば、電子ボード1は、左右2箇所にスピーカー25を備え、タッチペン2によりタッチ入力された位置(位置座標)に近い方のスピーカー25から前記疑似音声を出力させる構成であってもよい。
1 :電子ボード
2 :タッチペン
11 :制御部
12 :記憶部
13 :表示パネル
14 :タッチパネル
20 :ペン先
21 :制御部
22 :記憶部
23 :感圧センサ
24 :加速度センサ
25 :スピーカー
27 :モードスイッチ
28 :音声スイッチ
100 :筆記入力システム
111 :入力検出部
112 :描画処理部
211 :筆圧検出部
212 :音声生成部
213 :音声出力部
221 :筆記モード情報
222 :音声データ情報
223 :判定用データ
224 :サンプル音声データ

Claims (10)

  1. タッチパネルに対して筆記入力が可能な筆記入力装置であって、
    前記筆記入力装置の先端部と被接触部との接触開始時の筆圧である第1筆圧を検出する筆圧検出部と、
    前記筆圧検出部により検出される前記第1筆圧と前記タッチパネルの入力面に対する前記筆記入力装置の角度とに基づいて、第1疑似音声を生成する音声生成部と、
    前記音声生成部により生成される前記第1疑似音声を出力させる音声出力部と、
    筆記入力装置の種類及び当該筆記入力装置により筆記入力される入力部の種類の組み合わせに対応する複数の筆記モードのそれぞれに対応する複数の第1サンプル音声データを記憶する記憶部と
    を備え
    前記音声生成部は、前記複数の筆記モードのうちユーザーに選択された筆記モードに対応する前記第1サンプル音声データに対して、前記第1筆圧の特徴と前記角度とに応じた音声加工を行うことにより、前記第1疑似音声を生成する、筆記入力装置。
  2. 前記筆圧検出部は、前記第1筆圧の変化量が第1閾値以上である場合に前記第1筆圧を検出する、
    請求項1に記載の筆記入力装置。
  3. 前記筆圧検出部は、前記筆圧が第1閾値未満の状態から第2閾値以上に変化した場合に前記第1筆圧を検出する、
    請求項1に記載の筆記入力装置。
  4. 前記第1疑似音声は、前記先端部と前記被接触部との接触開始時に前記先端部が前記被接触部を叩く音であるファーストタッチ音の疑似音声である、
    請求項1~3の何れか1項に記載の筆記入力装置。
  5. 前記筆圧検出部は、前記先端部と前記被接触部との接触開始後の筆圧である第2筆圧を検出し、
    前記音声生成部は、前記第2筆圧に基づき第2疑似音声を生成し、
    前記音声出力部は、前記音声生成部により生成される前記第2疑似音声を出力させる、
    請求項1~4の何れか1項に記載の筆記入力装置。
  6. 前記筆圧検出部は、前記先端部と前記被接触部とが接触を開始したときに前記第1筆圧を検出し、その後に前記先端部と前記被接触部との接触状態が終了するまでの間の筆圧を前記第2筆圧として検出し、
    前記音声出力部は、前記音声生成部により生成される前記第1疑似音声及び前記第2疑似音声を連続して出力させる、
    請求項5に記載の筆記入力装置。
  7. 前記第2疑似音声は、前記先端部と前記被接触部との接触開始後に前記先端部が前記被接触部に接触した状態で移動する際に生じる摩擦音の疑似音声である、
    請求項5又は6に記載の筆記入力装置。
  8. 記先端部の前記被接触部に対する移動速度を算出する移動速度算出部をさらに備え、
    前記記憶部は、さらに、前記複数の筆記モードのそれぞれに対応する複数の第2サンプル音声データを記憶し、
    前記音声生成部は、前記複数の筆記モードのうちユーザーに選択された筆記モードに対応する前記第2サンプル音声データに対して、前記第2筆圧の特徴及び前記移動速度に応じた音声加工を行うことにより、前記第2疑似音声を生成する、
    請求項5~7の何れか1項に記載の筆記入力装置。
  9. 音声を出力するスピーカーをさらに備え、
    前記音声出力部は、前記音声生成部により生成される前記第1疑似音声を前記スピーカーから出力させる、
    請求項1~の何れか1項に記載の筆記入力装置。
  10. タッチパネルと、当該タッチパネルに筆記入力が可能な筆記入力装置と、を含み、
    前記筆記入力装置の先端部と被接触部との接触開始時の筆圧である第1筆圧を検出する筆圧検出部と、
    前記筆圧検出部により検出される前記第1筆圧と前記タッチパネルの入力面に対する前記筆記入力装置の角度とに基づいて、第1疑似音声を生成する音声生成部と、
    前記音声生成部により生成される前記第1疑似音声を出力させる音声出力部と、
    筆記入力装置の種類及び当該筆記入力装置により筆記入力される入力部の種類の組み合わせに対応する複数の筆記モードのそれぞれに対応する複数の第1サンプル音声データを記憶する記憶部と
    を備え
    前記音声生成部は、前記複数の筆記モードのうちユーザーに選択された筆記モードに対応する前記第1サンプル音声データに対して、前記第1筆圧の特徴と前記角度とに応じた音声加工を行うことにより、前記第1疑似音声を生成する、筆記入力システム。
JP2018229850A 2018-12-07 2018-12-07 筆記入力装置及び筆記入力システム Active JP7299693B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018229850A JP7299693B2 (ja) 2018-12-07 2018-12-07 筆記入力装置及び筆記入力システム
US16/700,643 US10908709B2 (en) 2018-12-07 2019-12-02 Writing input device and writing input system
CN201911243429.2A CN111290638B (zh) 2018-12-07 2019-12-06 书写输入装置以及书写输入系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018229850A JP7299693B2 (ja) 2018-12-07 2018-12-07 筆記入力装置及び筆記入力システム

Publications (2)

Publication Number Publication Date
JP2020091780A JP2020091780A (ja) 2020-06-11
JP7299693B2 true JP7299693B2 (ja) 2023-06-28

Family

ID=70970923

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018229850A Active JP7299693B2 (ja) 2018-12-07 2018-12-07 筆記入力装置及び筆記入力システム

Country Status (3)

Country Link
US (1) US10908709B2 (ja)
JP (1) JP7299693B2 (ja)
CN (1) CN111290638B (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023162373A1 (ja) * 2022-02-28 2023-08-31 株式会社ワコム 位置検出システム及び電子ペン
JP7487385B1 (ja) 2023-06-01 2024-05-20 レノボ・シンガポール・プライベート・リミテッド 情報処理システム、ペン型入力デバイス、およびプログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004517398A (ja) 2000-12-27 2004-06-10 ガーサビアン、フィルーツ スタイラス・コンピュータ
JP2005080121A (ja) 2003-09-02 2005-03-24 Yamaha Corp データ通信システム、データ送信端末およびプログラム
JP2005190042A (ja) 2003-12-25 2005-07-14 Pentel Corp 座標入力装置
JP2012164192A (ja) 2011-02-08 2012-08-30 Dainippon Printing Co Ltd コンピュータ装置、電子ペン入力システム、及びプログラム
US20160044422A1 (en) 2014-08-11 2016-02-11 Dell Products, Lp Pointer System for Context Based Feedback
US20170285774A1 (en) 2016-04-01 2017-10-05 Kunjal Parikh Characterization and simulation of writing instruments

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08190450A (ja) 1995-01-09 1996-07-23 Matsushita Electric Ind Co Ltd 手書き入力装置
JP3712835B2 (ja) * 1997-06-13 2005-11-02 株式会社リコー ペン型入力装置
JP4232582B2 (ja) * 2003-09-05 2009-03-04 ヤマハ株式会社 音生成機能を有するデータ処理装置およびそのプログラム
JP2014026460A (ja) * 2012-07-26 2014-02-06 Xacti Corp ペン型入力装置、電子機器及び電子機器システム
JP6361656B2 (ja) * 2013-06-28 2018-07-25 ソニー株式会社 下敷体
JP6717764B2 (ja) * 2017-02-15 2020-07-01 シャープ株式会社 情報処理システム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004517398A (ja) 2000-12-27 2004-06-10 ガーサビアン、フィルーツ スタイラス・コンピュータ
JP2005080121A (ja) 2003-09-02 2005-03-24 Yamaha Corp データ通信システム、データ送信端末およびプログラム
JP2005190042A (ja) 2003-12-25 2005-07-14 Pentel Corp 座標入力装置
JP2012164192A (ja) 2011-02-08 2012-08-30 Dainippon Printing Co Ltd コンピュータ装置、電子ペン入力システム、及びプログラム
US20160044422A1 (en) 2014-08-11 2016-02-11 Dell Products, Lp Pointer System for Context Based Feedback
US20170285774A1 (en) 2016-04-01 2017-10-05 Kunjal Parikh Characterization and simulation of writing instruments

Also Published As

Publication number Publication date
US20200183508A1 (en) 2020-06-11
US10908709B2 (en) 2021-02-02
CN111290638B (zh) 2023-07-04
JP2020091780A (ja) 2020-06-11
CN111290638A (zh) 2020-06-16

Similar Documents

Publication Publication Date Title
US10642366B2 (en) Proximity sensor-based interactions
JP5093117B2 (ja) 手書き電子入力システム
KR101421638B1 (ko) 터치 검출 방법 및 이를 이용하는 터치 제어 장치
CN106716317B (zh) 解决触摸不连续性的方法和装置
KR102032585B1 (ko) 사용자 제어 제스처 검출 기법
US20110320204A1 (en) Systems and methods for input device audio feedback
KR102186393B1 (ko) 입력 처리 방법 및 그 전자 장치
KR101997034B1 (ko) 인터페이스 방법 및 장치
JP2007317159A (ja) 電子装置の入力装置およびその入力方法
CN105474131A (zh) 在电子装置中识别握持状态的方法及装置
JP5639489B2 (ja) 情報処理装置及びその制御方法、プログラム、並びに記憶媒体
JP7299693B2 (ja) 筆記入力装置及び筆記入力システム
WO2015033609A1 (ja) 情報処理装置、入力方法およびプログラム
TW200949717A (en) Method for recognizing writing motion and trajectory and apparatus for writing and recognizing system
KR20120104248A (ko) 오디오 장치 설정의 터치 입력 기반 조정
TWI502411B (zh) 觸控偵測方法與觸控偵測裝置
WO2012169189A1 (ja) タッチパネル入力装置
JP7219076B2 (ja) 筆記入力装置及び筆記入力システム
JP2010271760A (ja) 情報処理装置、処理方法、ならびに、プログラム
EP2657827A2 (en) Touch detection method and touch control device using the same
JP3712835B2 (ja) ペン型入力装置
KR20140002900A (ko) 단말의 음원 재생 방법 및 그 단말
JP2006195742A (ja) 電子機器
WO2014103355A1 (ja) 情報処理装置、情報処理方法及びプログラム
KR101724923B1 (ko) 문자 인식 장치 및 그 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210922

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220623

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220816

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230613

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230616

R150 Certificate of patent or registration of utility model

Ref document number: 7299693

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150