JP6773844B1 - 情報処理端末及び情報処理方法 - Google Patents

情報処理端末及び情報処理方法 Download PDF

Info

Publication number
JP6773844B1
JP6773844B1 JP2019109747A JP2019109747A JP6773844B1 JP 6773844 B1 JP6773844 B1 JP 6773844B1 JP 2019109747 A JP2019109747 A JP 2019109747A JP 2019109747 A JP2019109747 A JP 2019109747A JP 6773844 B1 JP6773844 B1 JP 6773844B1
Authority
JP
Japan
Prior art keywords
page
information processing
text
processing terminal
controller
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2019109747A
Other languages
English (en)
Other versions
JP2020201435A (ja
Inventor
格 黒澤
格 黒澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pony Canyon Inc
Original Assignee
Pony Canyon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pony Canyon Inc filed Critical Pony Canyon Inc
Priority to JP2019109747A priority Critical patent/JP6773844B1/ja
Application granted granted Critical
Publication of JP6773844B1 publication Critical patent/JP6773844B1/ja
Publication of JP2020201435A publication Critical patent/JP2020201435A/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Telephone Function (AREA)

Abstract

【課題】視覚障碍者に対してより好適に音読を通して複数頁で構成される文書を把握し、文章を楽しむ体験を提供することが可能な情報処理端末を実現する。【解決手段】情報処理端末(1)は、複数の頁で構成される文書の各頁を撮像するカメラ(11)と、テキストデータ生成処理、及び、音声信号生成処理を実行するコントローラ(12)と、前記音声信号を出力する出力部、及び、前記音声信号を音波に変換して出力するスピーカの一方又は両方と、を備えている。【選択図】図1

Description

本発明は、情報処理端末に関する。また、本発明は、情報処理端末を載置するための支持体に関する。また、本発明は、情報処理方法に関する。
視覚障碍者が利用する文書の形態として、活字図書を点字に変換した点字図書、活字図書を音声により読み上げた音訳図書、活字図書の文字や図を拡大し、見やすく整えて出版した拡大図書、及び電子書籍が知られている(特許文献1)。
"視覚障害者の読書について"、[online]、社会福祉法人日本盲人会連合、[令和1年5月27日検索]、インターネット<URL:http://nichimou.org/morebooks/reading/>
しかしながら、点字図書、音訳図書、及び拡大図書は、作成に時間が必要であり、これらの図書を視覚障碍者が利用可能になる時期が遅いという問題がある。さらに、点字図書及び音訳図書は、コストの観点からボランティアに頼った運用となるという問題がある。また、拡大図書及び電子書籍は全盲者が利用できないという問題がある。さらには、これらは市販された書籍を対象としたものであるが、たとえば学術論文、地方自治体などが発行する広報誌、新聞、新聞の折り込み広告、パンフレットなどの広範な印刷物が網羅的に対象とされている状況ではない。そのため、視覚障碍者に向けた、より好適な、文章を音読するツールの開発が望まれている。
本発明の一態様は、前記の課題を鑑みてなされたものであり、その目的は、視覚障碍者に対してより好適に音読を通して複数頁で構成される文書を把握し、文章を楽しむ体験を提供することが可能な情報処理端末を実現することにある。
前記の課題を解決するために、本発明の一態様に係る情報処理端末は、複数の頁で構成される文書の各頁を撮像するカメラと、前記カメラにて得られた画像データを参照して、前記頁に記載されたテキストを表すテキストデータを生成するテキストデータ生成処理、及び、前記テキストデータを参照して、前記テキストを読み上げた音声を表す音声信号を生成する音声信号生成処理を実行するコントローラと、前記音声信号を出力する出力部、及び、前記音声信号を音波に変換して出力するスピーカの一方又は両方と、を備えている。
前記の課題を解決するために、本発明の一態様に係る支持体は、書籍の頁と情報処理端末のカメラレンズとが正対するように前記情報処理端末を支持する支持体において、前記情報処理端末が載置される天板であって、前記カメラレンズと重なる部分が開放された天板と、上端が前記天板の外縁に連結されると共に、下端が前記頁の外縁に押し当てられる側板と、を備えている。
前記の課題を解決するために、本発明の一態様に係る情報処理方法は、カメラと、コントローラと、出力部、及び、スピーカの一方又は両方と、を備えた情報処理端末を用いて複数の頁で構成される文書を音声として出力する情報処理方法であって、前記カメラが、複数の頁で構成される文書の各頁を撮像する撮像処理と、前記コントローラが、前記カメラにて得られた画像データを参照して、前記頁に記載されたテキストを表すテキストデータを生成するテキストデータ生成処理と、前記コントローラが、前記テキストデータを参照して、前記テキストを読み上げた音声を表す音声信号を生成する音声信号生成処理と、前記出力部が前記音声信号を出力する、及び/又は、前記スピーカが前記音声信号を音波に変換して出力する音声出力処理と、を含んでいる。
本発明の一態様によれば、視覚障碍者に対してより好適に音読を通して複数頁で構成される文書を把握し、文章を楽しむ体験を提供することが可能な情報処理端末を実現することができる。
本発明の一実施形態に係る情報処理端末の使用方法の概略を示す図である。 本発明の一実施形態に係る情報処理端末の構成を示すブロック図である。 図2に示す情報処理端末を用いて実施される情報処理方法の流れを示すフローチャートである。 本発明の一実施形態に係る情報処理端末の支持体の構成を示す斜視図である。 本発明の一実施形態に係る情報処理端末の支持体の構成を示す展開図である。
〔基本コンセプト〕
本実施形態の基本コンセプトについて、図1を参照して説明する。図1は、本実施形態に係る情報処理端末1及び支持体2の使用方法の概略を示す斜視図である。情報処理端末1としては、例えば、カメラ付きのスマートフォンが挙げられる。
まず、図1の1001に示すように、ユーザは、書籍をはじめとする複数の頁で構成される文書の頁を開く。複数の頁で構成される文書としては、例えば、新刊書や文庫本等の活字図書、学術論文、地方自治体などが発行する広報誌、新聞、新聞の折り込み広告、パンフレットなどが挙げられる。次いで、図1の1002に示すように、ユーザは、開いた頁の上に支持体2を載置する。これにより、開いた頁の外縁に支持体2の側板22の下端が押し当てられ、その結果、開いた頁は、状態が撮像に適した平坦な状態になる。その後、図1の1003に示すように、ユーザは、支持体2の天板21上に情報処理端末1を載置する。これにより、情報端末装置1のカメラレンズは、天板21に設けられた開口21aを介して開いた頁に正対し、情報端末装置1のカメラレンズから開いた頁までの距離は、当該カメラレンズの被写界深度に含まれるようになる。情報処理端末1には、この状態において開いた頁を撮像し、得られた画像データを参照して当該頁に記載されたテキストを読み上げる。これにより、ユーザは、開いた頁に記載されたテキストを、音声として聴取することができる。
〔情報処理端末〕
本実施形態に係る情報処理端末1の構成について、図2を参照して説明する。図2は、情報処理端末1の構成を示すブロック図である。以下、複数の頁で構成される文書が書籍である場合を一例として説明する。
情報処理端末1には、書籍の頁に記載されたテキストを読み上げるためのアプリケーションプログラム(以下、「朗読アプリ」と記載する)がインストールされている。情報処理端末1は、朗読アプリに従って朗読処理を実行するために利用するハードウェア資源として、カメラ11と、コントローラ12と、出力端子13(出力部)と、スピーカ14と、メモリ15と、通信インターフェース16と、を備えている。情報処理端末1は、例えば、スマートフォンで実現することができる。朗読アプリは、メモリ15に保存されていてもよいし、それ以外の記録媒体に保存されていてもよい。
カメラ11は、書籍の頁を撮像するための構成である。カメラ11としては、例えば、カメラレンズ、撮像素子、及び画像信号処理回路とにより構成されるデジタルカメラを用いられる。メモリ15としては、例えば、1又は複数の半導体RAM(random access memory)が用いられる。
コントローラ12は、朗読アプリに従って朗読処理を実行するための構成である。コントローラ12としては、例えば、1又は複数のCPU(Central Processing Unit)が用いられる。朗読処理には、少なくともテキストデータ生成処理及び音声信号生成処理が含まれる。ここで、テキストデータ生成処理とは、カメラ11にて得られた画像データを参照して、書籍の頁に記載されたテキストを表すテキストデータを生成する処理のことを指す。また、音声信号生成処理とは、テキストデータ生成処理にて生成されたテキストデータを参照して、書籍の頁に記載されたテキストを読み上げた音声を表す音声信号を生成する処理のことを指す。朗読処理の詳細については、参照する図面を代えて後述する。
出力端子13は、音声信号生成処理にて生成された音声信号を、電気信号として外部に出力するための構成である。音声信号の出力先としては、例えば、イヤホン3が挙げられる。スピーカ14は、音声信号生成処理にて生成された音声信号を、音波として外部に出力するための構成である。情報処理端末1は、出力端子13のみを備えていてもよいし、スピーカ14のみを備えていてもよいし、出力端子13及びスピーカ14の両方を備えていてもよい。また、情報処理端末1は、有線インターフェースである出力端子13の代わりに近距離無線通信インターフェースを備えていてもよいし、出力端子13に加えて無線インターフェースを備えていてもよい。近距離無線通信インターフェースとしては、例えば、Bluetooth(登録商標)インターフェースが挙げられる。情報処理端末1が近距離無線インターフェースを備えている場合、出力端子13に接続して用いるイヤホン3の代わりに、近距離無線通信に対応したイヤホン、ヘッドホン、スピーカ等に音声を出力することができる。
通信インターフェース16は、サーバと通信するためのインターフェースである。コントローラ12は、通信インターフェース16を介してサーバとの通信を行うことによって、朗読処理の一部をサーバと連携して実行することができる。コントローラ12がサーバと連携して実行する処理の具体例については、参照する図面を代えて後述する。
〔朗読処理〕
朗読アプリに従って情報処理端末1が実行する朗読処理S1の流れについて、図3を参照して説明する。図3は、朗読処理S1(複数の頁で構成される文書を音声として出力する情報処理方法)の流れを示すフローチャートである。
朗読処理S1は、図3に示すように、撮像処理S10と、逆立画像判定処理S11と、逆立画像通知処理S12と、表紙判定処理S13と、テキストデータ生成処理S14と、音声信号生成処理S15と、音声出力処理S16と、縦横判定処理S17と、テキストデータ生成処理S18と、文字過少頁判定処理S19と、文字過少頁通知処理S20と、音声信号生成処理S21と、音声出力処理S22と、を含んでいる。
撮像処理S10は、書籍の頁を撮像する処理である。撮像処理S10は、コントローラ12に制御されたカメラ11によって実行される。なお、撮像処理S10を実行するタイミングは、音声コマンドによってユーザが撮像を指示したタイミングであってもよいし、カメラ11が書籍の頁に対するフォーカスが成功したタイミングであってもよい。
逆立画像判定処理S11は、撮像処理S10にて得られた画像データの表す画像が逆立画像あるか否か(正立画像であるか)を判定する処理である。ここで、逆立画像とは、頁上方が画面下方に、且つ、頁下方が画面上方に配置された画像のことを指す。また、正立画像とは、頁上方が画面上方に、且つ、頁下方が画面下方に配置された画像のことを指す。逆立画像判定処理S11は、コントローラ12によって実行される。
逆立画像判定処理S11にて逆立画像であると判定された場合、逆立画像通知処理S12が実行される。逆立画像通知処理S12は、撮像処理S10にて得られた画像データが逆立画像を表すことをユーザに通知する処理である。逆立画像通知処理S12を実行するために、コントローラ12は、例えば、「本の上下が逆になっています」という音声信号を出力端子13又はスピーカ14に出力する。コントローラ12が出力端子13に当該音声信号を出力した場合、出力端子13は、当該音声信号をイヤホン3に出力する。イヤホン3は、当該音声信号を音波に変換して出力する。コントローラ12がスピーカ14に当該音声信号を出力した場合、スピーカ14は、当該音声信号を音波に変換して出力する。これにより、本を180°回転して正しい向きにする動作をユーザに促すことができる。
なお、コントローラ12は、逆立画像判定処理S11にて画像が逆立画像であると判定された場合に、逆立画像を180°回転して正立画像として、後述する表紙判定処理S13に進んでもよい。
逆立画像判定処理S11にて正立画像であると判定された場合、表紙判定処理S13が実行される。表紙判定処理S13は、撮像処理S10にて得られた画像データの表す画像に被写体として含まれる頁が表紙であるか否か(表紙以外であるか)を判定する処理である。表紙判定処理S13は、情報処理端末1のコントローラ12によって実行される。
表紙判定処理S13にて頁が表紙であると判定された場合、テキストデータ生成処理S14が実行される。テキストデータ生成処理S14は、撮像処理S10にて得られた画像データを参照して、頁に記載されたテキストを表すテキストデータを生成する処理である。テキストデータ生成処理S14は、情報処理端末1のコントローラ12によって実行される。特に、頁が書籍の表紙である場合に実行されるテキストデータ生成処理S14において、コントローラ12は、テキストデータとして、表紙に記載された題名を表す題名データ、及び、表紙に記載された著者名を表す著者名データを生成する。題名データ及び著者名データの生成は、例えば、以下の方法により実現される。
方法1:表紙に記載された文字列の中で、最も大きいフォントで記載された文字列を対題名として特定すると共に、表紙に記載された文字列の中で、2番目に大きいフォントで記載された文字列を著者名として特定する。そして、特定した題名及び著者名を表すテキストデータを、題名データ及び著者名データとする。
方法2:書籍の表紙を表す画像データを入力とし、その書籍の題名及び著者名を表す題名及び著者名を出力するよう、機械学習された分類器(AI)を利用する。この場合、この分類器に撮像処理S10にて得られた画像データを入力したとき、この分類器から出力される題名及び著者名を表すテキストデータを、題名データ及び著者名データとする。なお、この分類器は、情報処理端末1に実装されていてもよいし、通信インターフェース16を介して情報処理端末1と通信可能なサーバに実装されていてもよい。後者の場合、情報処理端末1は、サーバに実装された分類器を利用して、表紙に記載された題名及び著者名を特定する。
方法3:様々な書籍の題名が登録された題名データベース、及び、様々な書籍の著者名が登録された著者名データベースを利用する。この場合、表紙に記載された文字列の中で、題名データベースに登録された題名に合致する文字列を題名として特定すると共に、表紙に記載された文字列の中で、著者名データベースに登録された著者名に合致する文字列を著者名として特定する。そして、特定した題名及び著者名を表すテキストデータを、題名データ及び著者名データとする。なお、これらのデータベースは、情報処理端末1に実装されていてもよいし、通信インターフェース16を介して情報処理端末1と通信可能なサーバに実装されていてもよい。後者の場合、情報処理端末1は、サーバに実装されたデータベースを利用して、表紙に記載された題名及び著者名を特定する。
なお、著者名データベースには、漢字表記の著者名と共に、平仮名表記又は片仮名表記の著者名が登録されていることが好ましい。一例を挙げると、漢字表記の著者名「古沢良太」と共に、平仮名表記の著者名「こさわりょうた」が登録されていることが好ましい。この場合、著者名データを平仮名表記の著者名に基づいて生成すれば、後述する音声信号生成処理S15において、著者名が正しく音読された音声データを生成することができる。題名データベースについても、同様のことが言える。
なお、コントローラ12は、撮像処理S10にて得られた画像データを参照して、頁がカメラ11の撮像対象領域から外れた後に、テキストデータ生成処理S14を実行してもよい。
音声信号生成処理S15は、テキストデータ生成処理S14にて生成されたテキストデータを参照して、頁に記載されたテキストを読み上げた音声を表す音声信号を生成する処理である。音声信号生成処理S15は、テキストデータ生成処理S14を実行した後に、情報処理端末1のコントローラ12によって実行される。特に頁が表紙である場合に実行される音声信号生成処理S15において、コントローラ12は、音声信号として、題名を読み上げた音声を表す音声信号の前又は後に、著者名を読み上げた音声を表す音声信号を付加した音声信号を生成する。
なお、音声信号生成処理S15において、コントローラ12は、撮像処理S10にて得られた画像データを参照して、頁がカメラ11の撮像対象領域から外れた後に、音声信号生成処理を実行してもよい。また、音声信号生成処理S15において、コントローラ12は、音声信号として、ユーザにより指定された読み上げ速度で頁に記載されたテキストを読み上げた音声を表す音声信号を生成してもよい。
音声出力処理S16は、音声信号生成処理S15にて生成された音声信号を電気信号として出力端子13から出力する処理、及び、音声信号生成処理S15にて生成された音声信号を音波としてスピーカ14から出力する処理の一方又は両方である。音声出力処理S16は、コントローラ12によって実現される。
表紙判定処理S13にて頁が表紙以外であると判定された場合、縦横判定処理S17が実行される。縦横判定処理S17は、頁に記載されているテキストが縦書きテキストであるか横書きテキストであるかを判定する処理である。縦横判定処理S17は、コントローラ12によって実行される。
テキストデータ生成処理S18は、縦横判定処理S17の結果、及び、撮像処理S10にて得られた画像データを参照して、頁に記載されたテキストデータを生成する処理である。テキストデータ生成処理S18は、情報処理端末1のコントローラ12によって実行される。特に、頁が表紙以外である場合に実行されるテキストデータ生成処理S18において、コントローラ12は、テキストデータとして、頁に記載された頁番号を表す頁番号データ、及び、頁に記載された本文を表す本文データを生成する。
なお、テキストデータ生成処理S18において、コントローラ12は、本文データとして、(1)前頁本文の末尾が未完単語である場合、現頁本文の先頭に当該未完単語を付加すると共に、(2)現頁本文の末尾が未完単語である場合、現頁本文の末尾から当該未完単語を削除したものを表す本文データを生成してもよい。例えば、前頁本文の末尾に「ラー」と記載され、現頁本文の先頭に「メン」と記載されている場合、すなわち、「ラーメン」という単語が2頁に亘って記載されている場合、コントローラ12は、現頁本文の先頭に「ラー」を付加したものを表す本文データ生成する。また、現頁本文の末尾に「チャ―」と記載され、次頁本文の先頭に「ハン」と記載と記載されている場合、すなわち、「チャーハン」という単語が2頁に亘って記載されている場合、コントローラ12は、現頁本文の末尾から「チャ―」を削除したものを表す本文データを生成する。なお、テキストデータ生成処理S18において、本文の末尾が未完単語であるか否かを判定するアルゴリズムは、特に限定されず、公知のアルゴリズムを用いることができる。
また、テキストデータ生成処理S18において、コントローラ12は、テキストデータに含まれる見出しを特定してもよい。見出しを特定する方法としては、例えば、テキストデータに含まれている文字列のうち、太字になっている文字列、又は、周囲にスペースが空いている文字列を見出しとして特定する方法が挙げられる。
文字過少頁判定処理S19は、頁に記載されたテキストの文字数が予め定められた閾値を下回るか否かを判定する処理である。文字過少頁判定処理S19は、コントローラ12によって実行される。
文字過少頁判定処理にて文字数が閾値を下回ると判定された場合、文字過少頁通知処理S20が実行される。文字過少頁通知処理S20は、記載されたテキストの文字数が少ない頁である旨をユーザに通知する処理である。文字過少頁通知処理S20を実行するために、コントローラ12は、例えば、「頁全体が図になっています」との音声信号を出力端子13又はスピーカ14に出力する。コントローラ12が出力端子13に当該音声信号を出力した場合、出力端子13は、当該音声信号をイヤホン3に出力する。イヤホン3は、当該音声信号を音波に変換して出力する。コントローラ12がスピーカ14に当該音声信号を出力した場合、スピーカ14は、当該音声信号を音波に変換して出力する。これにより、ユーザが、当該頁には図が記載されていることを認識することができるため、ユーザに次頁の撮影に移行する動作を促すことができる。
音声信号生成処理S21は、テキストデータ生成処理S18にて生成されたテキストデータを参照して、頁に記載されたテキストを読み上げた音声を表す音声信号を生成する処理である。音声信号生成処理S21は、コントローラ12によって実行される。特に、頁が表紙以外の場合に実行される音声信号生成処理S21において、コントローラ12は、音声信号として、頁番号を読み上げた音声を表す音声信号の後に、本文を読み上げた音声を表す音声信号を付加した音声信号を生成する。
なお、音声信号生成処理S21において、コントローラ12は、音声信号として、見出しを聞き分け可能にテキストを読み上げた音声を表す音声信号を生成してもよい。例えば、見出しを聞き分け可能にテキスト「・・・である。<改行>(3)旅立ち<改行>いよいよ私は、決心した。今日こそ・・・」を読み上げた音声としては、「である(休止)みだし(休止)さん(小休止)たびだち(休止)いよいよわたしはけっしんした(小休止)きょうこそ・・・」といった例が挙げられる。別の例として、見出しとそれ以外の部分とを、異なる声(例えば、見出しは男性の声、それ以外の部分は女性の声)で読み上げた音声データを用いてもよい。
音声出力処理S22は、音声信号生成処理S21にて生成された音声信号を電気信号として出力端子13から出力する処理、及び、音声信号生成処理S21にて生成された音声信号を音波としてスピーカ14から出力する処理の一方又は両方である。音声出力処理S22は、コントローラ12によって実行される。
音声出力処理S22において、コントローラ12は、朗読停止を指示する音声コマンドをユーザから取得すると、前記音声信号の出力を停止し、朗読再開を指示する音声コマンドをユーザから取得すると、前記音声信号の出力を再開する。例えば、コントローラ12は、「停止」という音声コマンドをユーザから取得すると、音声信号の出力を停止する。また、「再開」という音声コマンドをユーザから取得すると、音声信号の出力を再開する。あるいは、コントローラ12は、ユーザによる情報処理端末1の画面をタップする操作によって音声信号の出力を停止し、更に、ユーザによる情報処理端末1の画面をタップする操作によって音声信号の出力を再開してもよい。なお、画面をタップする操作は、画面上に設けられた特定のGUI要素(ボタン等)をタップする操作であってもよいし、画面の任意の場所をタップする操作であってもよい。
以上のように、本実施形態に係る朗読処理S1は、カメラ11にて得られた画像データを参照して、頁に記載されたテキストを表すテキストデータを生成するテキストデータ生成処理S14、S18、及び、テキストデータを参照して、テキストを読み上げた音声を表す音声信号を生成する音声信号生成処理S15、S21を含んでいる。したがって、本実施形態に係る朗読処理S1によれば、視覚障碍者に対してより好適に音読を通して複数頁で構成される文書を把握し、文章を楽しむ体験を提供することができる。具体的には、視覚障碍の度合いに依らずに、重度の視覚障碍者であっても、軽度の視覚障碍者であっても、視力の衰えた高齢者であっても、健常者であっても、読書することが可能である。また、点字図書、音訳図書、及びオーディオブックと比べて低コストである。さらに、活字図書を利用して読書することができるため、幅広い種類の書籍を即座に読書することができる。以上のように、本実施形態に係る情報処理端末1は、視覚障碍者等のユーザが徹底的に使いやすい仕様となっている。
なお、朗読処理S1は、前述した各処理以外にも、最大頁番号通知処理を含んでいてもよい。最大頁番号通知処理は、メモリ15に格納された頁番データが表す頁番号のうち、最大の頁番号を通知する処理である。最大頁番号通知処理は、情報処理端末1のコントローラ12によって実行される。
最大頁番号通知処理を実行するために、コントローラ12は、例えば、「30頁まで読みました」という音声信号を出力端子13又はスピーカ14に出力する。コントローラ12が出力端子13に当該音声信号を出力した場合、出力端子13は、当該音声信号をイヤホン3に出力する。イヤホン3は、当該音声信号を音波に変換して出力する。コントローラ12がスピーカ14に当該音声信号を出力した場合、スピーカ14は、当該音声信号を音波に変換して出力する。これにより、ユーザに何ページまで読んだかを認識させることができる。
〔支持体の構成〕
本実施形態に係る支持体2の構成について、図4、5を参照して説明する。図4は、支持体2の構成を示す斜視図である。図5は、支持体2の構成を示す展開図である。なお、支持体2の使用方法については、上述した通りである。
支持体2は、書籍の頁と情報処理端末1のカメラレンズとが正対するように情報処理端末1を支持するための台である。支持体2は、1つの天板21と、4つの側板22と、を備えている。
天板21は、支持体2の上面を構成する板状部材である。本実施形態において、天板21の平面視形状は、長方形である。情報処理端末1は、天板21の上に載置される。天板21には、情報処理端末1のカメラレンズと重なる部分を開放するための開口21aが形成されている。天板21及び開口21aの形状及びサイズは、対象とする情報処理端末1の種類に応じて最適化されている。例えば、天板21の形状及びサイズは、情報処理端末1の背面の形状及びサイズに応じて設定されている。また、開口21aの形状及びサイズは、情報処理端末1の背面におけるカメラレンズの位置に応じて設定されている。
側板22は、支持体2の側面を構成する板状部材であり、側板22の上端は、天板21の外縁に連結されている。本実施形態において、側板22の平面視形状は、台形である。側板22の下端は、書籍の頁の外縁に押し当てられる。側板22の形状及びサイズは、対象とする情報処理端末1の種類、及び、対象とする書籍の種類に応じて最適化されている。例えば、天板21に直交する方向に沿って測った天板21から側板22の下端までの距離が対象とする情報処理端末1のカメラレンズの被写界深度に含まれるように、且つ、側板22の下端が対象とする書籍の頁の外縁に押し当てられるように設定されている。
本実施形態において、各側板22は、天板21の外縁に展開可能に連結されている。各側板22を展開して各側板22と天板21との成す角を180°とすると、支持体2は、図5に示すように平面化される。逆に、各側板22を折り畳んで各側板22と天板21との成す角を所定の角度(180°未満)とすると、支持体2は、図4に示すように立体化される。支持体2を販売するとき、及び、支持体2を保管するときには、可搬性を向上させるために支持体2を展開して平面化することが好ましい。
なお、天板21及び側板22の一方又は両方は、透光性を有する材料により構成されていることが好ましい。これにより、天板21又は側板22を透過した外光を利用して、撮像対象とする頁の照度を向上させることができる。なお、カメラレンズと同じ面に光源を備えた情報処理端末1をユーザが使用する場合、この光源を撮像対象とする頁の照度を確保するために利用してもよい。
また、天板21及び側板22の一方又は両方には、支持体2の利用に適した書籍の種類を触知可能に示す構造22a、及び、支持体2の利用に適した情報処理端末の種類を触知可能に示す構造22bの一方又は両方が設けられていることが好ましい。これにより、目の不自由なユーザであっても、支持体2が対象とする情報処理端末1及び/又は書籍に適したものであるか否かを触知することができる。なお、これらの構造22a,22bは、例えば、天板21又は側板22の表面に形成された凹凸によって実現することができる。
〔ソフトウェアによる実現例〕
情報処理端末1のコントローラ12は、集積回路(ICチップ)等に形成された論理回路(ハードウェア)によって実現してもよいし、ソフトウェアによって実現してもよい。
後者の場合、情報処理端末1は、各機能を実現するソフトウェアであるプログラムの命令を実行するコンピュータを備えている。このコンピュータは、例えば少なくとも1つのプロセッサ(制御装置)を備えていると共に、上記プログラムを記憶したコンピュータ読み取り可能な少なくとも1つの記録媒体を備えている。そして、上記コンピュータにおいて、上記プロセッサが上記プログラムを上記記録媒体から読み取って実行することにより、本発明の目的が達成される。上記プロセッサとしては、例えばCPU(Central Processing Unit)を用いることができる。上記記録媒体としては、「一時的でない有形の媒体」、例えば、ROM(Read Only Memory)等の他、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、上記プログラムを展開するRAM(Random Access Memory)などをさらに備えていてもよい。また、上記プログラムは、該プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記コンピュータに供給されてもよい。なお、本発明の一態様は、上記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。
〔まとめ〕
本発明の態様1に係る情報処理端末は、複数の頁で構成される文書の各頁を撮像するカメラと、前記カメラにて得られた画像データを参照して、前記頁に記載されたテキストを表すテキストデータを生成するテキストデータ生成処理、及び、前記テキストデータを参照して、前記テキストを読み上げた音声を表す音声信号を生成する音声信号生成処理を実行するコントローラと、前記音声信号を出力する出力部、及び、前記音声信号を音波に変換して出力するスピーカの一方又は両方と、を備えている、構成である。
本発明の態様2に係る情報処理端末は、上記の態様1において、前記コントローラは、前記画像データを参照して、前記頁が前記カメラの撮像対象領域から外れた後に、前記テキストデータ生成処理を実行するか、又は、前記コントローラは、前記画像データを参照して、前記頁が前記カメラの撮像対象領域から外れた後に、前記音声信号生成処理を実行する、構成としてもよい。
本発明の態様3に係る情報処理端末は、上記の態様1又は2において、前記音声信号生成処理において、前記コントローラは、前記音声信号として、ユーザにより指定された読み上げ速度で前記頁に記載されたテキストを読み上げた音声を表す音声信号を生成する、構成としてもよい。
本発明の態様4に係る情報処理端末は、上記の態様1〜3の何れか1項において、前記テキストデータ生成処理において、前記コントローラは、前記テキストデータとして、前記頁に記載された頁番号を表す頁番号データ、及び、前記頁に記載された本文を表す本文データを生成し、前記音声信号生成処理において、前記コントローラは、前記音声信号として、前記頁番号を読み上げた音声を表す音声信号の後に、前記本文を読み上げた音声を表す音声信号を付加した音声信号を生成する、構成としてもよい。
本発明の態様5に係る情報処理端末は、上記の態様1〜4の何れか1項において、前記テキストデータ生成処理において、前記コントローラは、前記本文データとして、(1)前頁本文の末尾が未完単語である場合、現頁本文の先頭に当該未完単語を付加すると共に、(2)現頁本文の末尾が未完単語である場合、現頁本文の末尾から当該未完単語を削除したものを表す本文データを生成する、構成としてもよい。
本発明の態様6に係る情報処理端末は、上記の態様1〜5の何れか1項において、前記テキストデータ生成処理において、前記コントローラは、前記テキストデータに含まれる見出しを特定し、前記音声信号生成処理において、前記コントローラは、前記音声信号として、前記見出しを聞き分け可能に前記テキストを読み上げた音声を表す音声信号を生成する、構成としてもよい。
本発明の態様7に係る情報処理端末は、上記の態様1〜6の何れか1項において、前記頁が前記複数の頁で構成される文書の表紙である場合、前記テキストデータ生成処理において、前記コントローラは、前記テキストデータとして、前記表紙に記載された題名を表す題名データ、及び、前記表紙に記載された著者名を表す著者名データを生成し、前記音声信号生成処理において、前記コントローラは、前記音声信号として、前記題名を読み上げた音声を表す音声信号の前又は後に、前記著者名を読み上げた音声を表す音声信号を付加した音声信号を生成する、構成としてもよい。
本発明の態様8に係る情報処理端末は、上記の態様7において、前記テキストデータ生成処理において、前記コントローラは、前記表紙に記載された文字列の中で、最も大きいフォントで記載された文字列を前記題名として特定すると共に、前記表紙に記載された文字列の中で、2番目に大きいフォントで記載された文字列を著者名として特定する、構成としてもよい。
本発明の態様9に係る情報処理端末は、上記の態様7において、複数の頁で構成される文書の表紙を表す画像データを入力とし、当該複数の頁で構成される文書の題名及び著者名を表すテキストデータを出力とする分類器、又は、当該分類器を備えたサーバと通信するための通信インターフェースを更に備え、前記テキストデータ生成処理において、前記コントローラは、前記カメラにて得られた画像データを入力すると共に、前記分類器から出力されるテキストデータから前記題名データ及び前記著者名データを生成する、構成としてもよい。
本発明の態様10に係る情報処理端末は、上記の態様7において、複数の著者名が予め登録されたデータベース、又は、当該データベースを備えたサーバと通信するための通信インターフェースを更に備え、前記テキストデータ生成処理において、前記コントローラは、前記表紙に記載された文字列の中で、前記データベースに著者名として登録された文字列を前記著者名データとする、構成としてもよい。
本発明の態様11に係る情報処理端末は、上記の態様1〜10の何れか1項において、前記コントローラは、前記カメラにて得られた画像データが表す画像が前記頁の逆立画像あるか否かを判定する逆立画像判定処理、及び、前記逆立画像判定処理にて前記画像が前記逆立画像であると判定された場合に、その旨をユーザに通知する逆立画像通知処理を更に実行する、構成としてもよい。
本発明の態様12に係る情報処理端末は、上記の態様1〜11の何れか1項において、前記コントローラは、前記頁に記載されたテキストの文字数が予め定められた閾値を下回るか否かを判定する文字過少頁判定処理、及び、文字過少頁判定処理にて前記文字数が前記閾値を下回ると判定された場合、その旨をユーザに通知する文字過少頁通知処理を更に実行する、構成としてもよい。
本発明の態様13に係る情報処理端末は、上記の態様1〜12の何れか1項において、前記頁に記載された頁番号を表す頁番号データを格納するメモリを更に備え、前記コントローラは、前記メモリに格納された頁番データが表す頁番号のうち、最大の頁番号を通知する最大頁番号通知処理を更に実行する、構成としてもよい。
本発明の態様14に係る情報処理端末は、上記の態様1〜13の何れか1項において、前記コントローラは、前記頁に記載されているテキストが縦書きテキストであるか横書きテキストであるかを判定する縦横判定処理を更に実行し、前記コントローラは、前記縦横判定処理の結果を参照して前記テキストデータ生成処理を実行する、構成としてもよい。
本発明の態様15に係る情報処理端末は、上記の態様1〜14の何れか1項において、前記コントローラは、朗読停止を指示する音声コマンドをユーザから取得すると、前記音声信号の出力を停止し、朗読再開を指示する音声コマンドをユーザから取得すると、前記音声信号の出力を再開する、構成としてもよい。
本発明の態様16に係る支持体は、複数の頁で構成される文書の各頁と情報処理端末のカメラレンズとが正対するように前記情報処理端末を支持する支持体において、前記情報処理端末が載置される天板であって、前記カメラレンズと重なる部分が開放された天板と、上端が前記天板の外縁に連結されると共に、下端が前記頁の外縁に押し当てられる側板と、を備えている、構成である。
本発明の態様17に係る支持体は、上記の態様16において、前記天板及び前記側板の一方又は両方は、透光性を有している、構成としてもよい。
本発明の態様18に係る支持体は、上記の態様16又は17において、上記側板は、上記天板に展開可能に連結されている、構成としてもよい。
本発明の態様19に係る支持体は、上記の態様16〜18の何れか1項において、前記天板に直交する方向に沿って測った、前記天板から前記側板の下端までの距離は、前記カメラレンズの被写界深度に含まれる、構成としてもよい。
本発明の態様20に係る情報処理端末の支持体は、上記の態様16〜19の何れか1項において、前記天板及び前記側板の一方又は両方には、当該支持体の利用に適した複数の頁で構成される文書の種類を触知可能に示す構造、及び、当該支持体の利用に適した情報処理端末の種類を触知可能に示す構造の一方又は両方が設けられている、構成としてもよい。
本発明の態様21に係る情報処理方法は、カメラと、コントローラと、出力部、及び、スピーカの一方又は両方と、を備えた情報処理端末を用いて複数の頁で構成される文書を音声として出力する情報処理方法であって、前記カメラが、複数の頁で構成される文書の各頁を撮像する撮像処理と、前記コントローラが、前記カメラにて得られた画像データを参照して、前記頁に記載されたテキストを表すテキストデータを生成するテキストデータ生成処理と、前記コントローラが、前記テキストデータを参照して、前記テキストを読み上げた音声を表す音声信号を生成する音声信号生成処理と、前記出力部が前記音声信号を出力する、及び/又は、前記スピーカが前記音声信号を音波に変換して出力する音声出力処理と、を含んでいる、構成としてもよい。
〔付記事項〕
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
1 情報処理端末
2 支持体
3 イヤホン
11 カメラ
12 コントローラ
13 出力端子(出力部)
14 スピーカ
15 メモリ
21 天板
22 側板

Claims (15)

  1. 複数の頁で構成される文書の各頁を撮像するカメラと、
    前記カメラにて得られた画像データを参照して、前記頁に記載されたテキストを表すテキストデータを生成するテキストデータ生成処理、及び、前記テキストデータを参照して、前記テキストを読み上げた音声を表す音声信号を生成する音声信号生成処理を実行するコントローラと、
    前記音声信号を出力する出力部、及び、前記音声信号を音波に変換して出力するスピーカの一方又は両方と、を備え、
    前記コントローラは、前記画像データを参照して、前記頁が前記カメラの撮像対象領域から外れた後に、前記テキストデータ生成処理を実行するか、又は、
    前記コントローラは、前記画像データを参照して、前記頁が前記カメラの撮像対象領域から外れた後に、前記音声信号生成処理を実行する、
    ことを特徴とする情報処理端末。
  2. 前記音声信号生成処理において、前記コントローラは、前記音声信号として、ユーザにより指定された読み上げ速度で前記頁に記載されたテキストを読み上げた音声を表す音声信号を生成する、
    ことを特徴とする請求項1に記載の情報処理端末。
  3. 前記テキストデータ生成処理において、前記コントローラは、前記テキストデータとして、前記頁に記載された頁番号を表す頁番号データ、及び、前記頁に記載された本文を表す本文データを生成し、
    前記音声信号生成処理において、前記コントローラは、前記音声信号として、前記頁番号を読み上げた音声を表す音声信号の後に、前記本文を読み上げた音声を表す音声信号を付加した音声信号を生成する、
    ことを特徴とする請求項1又は2に記載の情報処理端末。
  4. 前記テキストデータ生成処理において、前記コントローラは、前記頁に記載された本文を表す本文データとして、(1)前頁本文の末尾が未完単語である場合、現頁本文の先頭に当該未完単語を付加すると共に、(2)現頁本文の末尾が未完単語である場合、現頁本文の末尾から当該未完単語を削除したものを表す本文データを生成する、
    ことを特徴とする請求項1〜の何れか1項に記載の情報処理端末。
  5. 前記テキストデータ生成処理において、前記コントローラは、前記テキストデータに含まれる見出しを特定し、
    前記音声信号生成処理において、前記コントローラは、前記音声信号として、前記見出しを聞き分け可能に前記テキストを読み上げた音声を表す音声信号を生成する、
    ことを特徴とする請求項1〜の何れか1項に記載の情報処理端末。
  6. 前記頁が前記複数の頁で構成される文書の表紙である場合、
    前記テキストデータ生成処理において、前記コントローラは、前記テキストデータとして、前記表紙に記載された題名を表す題名データ、及び、前記表紙に記載された著者名を表す著者名データを生成し、
    前記音声信号生成処理において、前記コントローラは、前記音声信号として、前記題名を読み上げた音声を表す音声信号の前又は後に、前記著者名を読み上げた音声を表す音声信号を付加した音声信号を生成する、
    ことを特徴とする請求項1〜の何れか1項に記載の情報処理端末。
  7. 前記テキストデータ生成処理において、前記コントローラは、前記表紙に記載された文字列の中で、最も大きいフォントで記載された文字列を前記題名として特定すると共に、前記表紙に記載された文字列の中で、2番目に大きいフォントで記載された文字列を著者名として特定する、
    ことを特徴とする請求項に記載の情報処理端末。
  8. 複数の頁で構成される文書の表紙を表す画像データを入力とし、当該複数の頁で構成される文書の題名及び著者名を表すテキストデータを出力とする分類器、又は、当該分類器を備えたサーバと通信するための通信インターフェースを更に備え、
    前記テキストデータ生成処理において、前記コントローラは、前記カメラにて得られた画像データを入力すると共に、前記分類器から出力されるテキストデータから前記題名データ及び前記著者名データを生成する、
    ことを特徴とする請求項に記載の情報処理端末。
  9. 複数の著者名が予め登録されたデータベース、又は、当該データベースを備えたサーバと通信するための通信インターフェースを更に備え、
    前記テキストデータ生成処理において、前記コントローラは、前記表紙に記載された文字列の中で、前記データベースに著者名として登録された文字列を前記著者名データとする、
    ことを特徴とする請求項に記載の情報処理端末。
  10. 前記コントローラは、前記カメラにて得られた画像データが表す画像が前記頁の逆立画像あるか否かを判定する逆立画像判定処理、及び、前記逆立画像判定処理にて前記画像が前記逆立画像であると判定された場合に、その旨をユーザに通知する逆立画像通知処理を更に実行する、
    ことを特徴とする請求項1〜の何れか1項に記載の情報処理端末。
  11. 前記コントローラは、前記頁に記載されたテキストの文字数が予め定められた閾値を下回るか否かを判定する文字過少頁判定処理、及び、文字過少頁判定処理にて前記文字数が前記閾値を下回ると判定された場合、その旨をユーザに通知する文字過少頁通知処理を更に実行する、
    ことを特徴とする請求項1〜10の何れか1項に記載の情報処理端末。
  12. 前記頁に記載された頁番号を表す頁番号データを格納するメモリを更に備え、
    前記コントローラは、前記メモリに格納された頁番データが表す頁番号のうち、最大の頁番号を通知する最大頁番号通知処理を更に実行する、
    ことを特徴とする請求項1〜11の何れか1項に記載の情報処理端末。
  13. 前記コントローラは、前記頁に記載されているテキストが縦書きテキストであるか横書きテキストであるかを判定する縦横判定処理を更に実行し、
    前記コントローラは、前記縦横判定処理の結果を参照して前記テキストデータ生成処理を実行する、
    ことを特徴とする請求項1〜12の何れか1項に記載の情報処理端末。
  14. 前記コントローラは、朗読停止を指示する音声コマンドをユーザから取得すると、前記音声信号の出力を停止し、朗読再開を指示する音声コマンドをユーザから取得すると、前記音声信号の出力を再開する、
    ことを特徴とする請求項1〜13の何れか1項に記載の情報処理端末。
  15. カメラと、コントローラと、出力部、及び、スピーカの一方又は両方と、を備えた情報処理端末を用いて複数の頁で構成される文書を音声として出力する情報処理方法であって、
    前記カメラが、複数の頁で構成される文書の各頁を撮像する撮像処理と、
    前記コントローラが、前記カメラにて得られた画像データを参照して、前記頁に記載されたテキストを表すテキストデータを生成するテキストデータ生成処理と、
    前記コントローラが、前記テキストデータを参照して、前記テキストを読み上げた音声を表す音声信号を生成する音声信号生成処理と、
    前記出力部が前記音声信号を出力する、及び/又は、前記スピーカが前記音声信号を音波に変換して出力する音声出力処理と、を含み、
    前記コントローラは、前記画像データを参照して、前記頁が前記カメラの撮像対象領域から外れた後に、前記テキストデータ生成処理を実行するか、又は、
    前記コントローラは、前記画像データを参照して、前記頁が前記カメラの撮像対象領域から外れた後に、前記音声信号生成処理を実行する、
    ことを特徴とする情報処理方法。
JP2019109747A 2019-06-12 2019-06-12 情報処理端末及び情報処理方法 Expired - Fee Related JP6773844B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019109747A JP6773844B1 (ja) 2019-06-12 2019-06-12 情報処理端末及び情報処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019109747A JP6773844B1 (ja) 2019-06-12 2019-06-12 情報処理端末及び情報処理方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020167004A Division JP2020205123A (ja) 2020-10-01 2020-10-01 支持体

Publications (2)

Publication Number Publication Date
JP6773844B1 true JP6773844B1 (ja) 2020-10-21
JP2020201435A JP2020201435A (ja) 2020-12-17

Family

ID=72829630

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019109747A Expired - Fee Related JP6773844B1 (ja) 2019-06-12 2019-06-12 情報処理端末及び情報処理方法

Country Status (1)

Country Link
JP (1) JP6773844B1 (ja)

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0583444A (ja) * 1991-09-25 1993-04-02 Matsushita Electric Ind Co Ltd フアクシミリ装置
JPH08248971A (ja) * 1995-03-09 1996-09-27 Hitachi Ltd テキスト朗読読み上げ装置
JPH08279020A (ja) * 1995-04-05 1996-10-22 Junko Suginaka 電子読書装置
JP3094896B2 (ja) * 1996-03-11 2000-10-03 日本電気株式会社 文章読み上げ方式
JPH1011452A (ja) * 1996-06-19 1998-01-16 Hitachi Ltd データベース装置、データベースカスタマイズ方法、文書検索装置および検索情報登録方法
JP3608965B2 (ja) * 1998-12-18 2005-01-12 シャープ株式会社 自動オーサリング装置および記録媒体
JP2006171310A (ja) * 2004-12-15 2006-06-29 Hitachi Ltd リアルタイム音読装置
JP2009265246A (ja) * 2008-04-23 2009-11-12 Brother Ind Ltd 文字認識プログラム及び文字認識装置
JP2009265279A (ja) * 2008-04-23 2009-11-12 Sony Ericsson Mobilecommunications Japan Inc 音声合成装置、音声合成方法、音声合成プログラム、携帯情報端末、および音声合成システム
JP2016051191A (ja) * 2014-08-28 2016-04-11 富士通株式会社 画像処理方法
JP6365894B2 (ja) * 2015-11-26 2018-08-01 京セラドキュメントソリューションズ株式会社 画像読取装置
JP6543290B2 (ja) * 2017-02-28 2019-07-10 シナノケンシ株式会社 電子図書製作用プログラム
JP2019040005A (ja) * 2017-08-24 2019-03-14 株式会社オトングラス 読み上げシステム及び読み上げ方法

Also Published As

Publication number Publication date
JP2020201435A (ja) 2020-12-17

Similar Documents

Publication Publication Date Title
Karmel et al. IoT based assistive device for deaf, dumb and blind people
US8719029B2 (en) File format, server, viewer device for digital comic, digital comic generation device
Gottfried et al. Musical experience and Mandarin tone discrimination and imitation
CN102314778A (zh) 电子阅读器
JP2011043716A (ja) 情報処理装置、会議システム、情報処理方法及びコンピュータプログラム
CN107798931A (zh) 一种智能幼教学习系统及方法
US20140377721A1 (en) Synchronous presentation of content with a braille translation
JP6773844B1 (ja) 情報処理端末及び情報処理方法
JP2020205123A (ja) 支持体
Strong-Wilson et al. Productive remembering and social agency
KR20170017427A (ko) 시각장애인을 위한 대체컨텐츠 자동검색장치.
Weheliye " I Am I Be": The Subject of Sonic Afro-modernity
WO2020188885A1 (ja) 情報処理方法、プログラム、端末
Kumar et al. A pragmatic approach to aid visually impaired people in reading, visualizing and understanding textual contents with an automatic electronic pen
JP2007121584A (ja) 学習支援装置
JP2022041109A (ja) 情報処理システム、支持体、及び情報処理方法
Joshi et al. Automated electronic pen aiding visually impaired in reading, visualizing and understanding textual contents
JP2020204683A (ja) 電子出版物視聴覚システム、視聴覚用電子出版物作成プログラム、及び利用者端末用プログラム
JP2018093523A (ja) 画像配置決定方法、及び画像配置決定プログラム
Boyd The Color of Sound: Hearing Timbre in Ralph Ellison's Invisible Man
Gopinath et al. Development of Speech and Text to Braille Script Converter for Blind and Deaf People
Okalidou et al. Nasality patterns in word productions of children with cochlear implants: Evidence from Greek
JP5712612B2 (ja) 電子文書変換装置及び電子文書変換方法
JP2009187352A (ja) 文書データ検証方法及び文書データ検証支援システム
JP3188999U (ja) 音声出力システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191218

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20191218

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200324

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200721

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200901

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201001

R150 Certificate of patent or registration of utility model

Ref document number: 6773844

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees