JP2017107488A - スキャンシステム、スキャン画像処理装置及びスキャン方法 - Google Patents

スキャンシステム、スキャン画像処理装置及びスキャン方法 Download PDF

Info

Publication number
JP2017107488A
JP2017107488A JP2015242277A JP2015242277A JP2017107488A JP 2017107488 A JP2017107488 A JP 2017107488A JP 2015242277 A JP2015242277 A JP 2015242277A JP 2015242277 A JP2015242277 A JP 2015242277A JP 2017107488 A JP2017107488 A JP 2017107488A
Authority
JP
Japan
Prior art keywords
information
unit
text
pen
processing method
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015242277A
Other languages
English (en)
Inventor
健一郎 肱岡
Kenichiro Hijioka
健一郎 肱岡
浩一 野瀬
Koichi Nose
浩一 野瀬
俊介 奥村
Shunsuke Okumura
俊介 奥村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Renesas Electronics Corp
Original Assignee
Renesas Electronics Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Renesas Electronics Corp filed Critical Renesas Electronics Corp
Priority to JP2015242277A priority Critical patent/JP2017107488A/ja
Priority to US15/358,311 priority patent/US9906669B2/en
Publication of JP2017107488A publication Critical patent/JP2017107488A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00795Reading arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • H04N1/3876Recombination of partial images to recreate the original image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00281Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a telecommunication apparatus, e.g. a switched network of teleprinters for the distribution of text-based information, a selective call terminal
    • H04N1/00307Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a telecommunication apparatus, e.g. a switched network of teleprinters for the distribution of text-based information, a selective call terminal with a mobile telephone apparatus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/04Scanning arrangements, i.e. arrangements for the displacement of active reading or reproducing elements relative to the original or reproducing medium, or vice versa
    • H04N1/10Scanning arrangements, i.e. arrangements for the displacement of active reading or reproducing elements relative to the original or reproducing medium, or vice versa using flat picture-bearing surfaces
    • H04N1/107Scanning arrangements, i.e. arrangements for the displacement of active reading or reproducing elements relative to the original or reproducing medium, or vice versa using flat picture-bearing surfaces with manual scanning
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077Types of the still picture apparatus
    • H04N2201/0081Image reader
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0096Portable devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/04Scanning arrangements
    • H04N2201/0402Arrangements not specific to a particular one of the scanning methods covered by groups H04N1/04 - H04N1/207
    • H04N2201/0424Scanning non-straight lines
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/04Scanning arrangements
    • H04N2201/0402Arrangements not specific to a particular one of the scanning methods covered by groups H04N1/04 - H04N1/207
    • H04N2201/0426Scanning an image in a series of contiguous zones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/04Scanning arrangements
    • H04N2201/0402Arrangements not specific to a particular one of the scanning methods covered by groups H04N1/04 - H04N1/207
    • H04N2201/0434Arrangements not specific to a particular one of the scanning methods covered by groups H04N1/04 - H04N1/207 specially adapted for scanning pages of a book

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Image Input (AREA)
  • Character Input (AREA)
  • User Interface Of Digital Computer (AREA)
  • Facsimile Scanning Arrangements (AREA)

Abstract

【課題】簡便な操作で、スキャン対象の媒体における種類の異なる情報を適切な形式で保存すること。
【解決手段】本発明に係るスキャンシステム9は、スキャン対象の媒体を連続的にスキャンすることで生成された複数の画像情報を取得する画像取得部91と、画像取得部91が取得した複数の画像情報に基づいて、媒体をスキャンした軌跡を算出する軌跡算出部92と、軌跡算出部92が算出した軌跡に応じて、複数の画像情報の処理方法を決定する処理方法決定部93と、処理方法決定部93が決定した処理方法で複数の画像情報を処理することで、当該複数の画像情報を当該処理方法に応じた形式の情報に変換する処理部94とを備える。
【選択図】図36

Description

本発明は、スキャンシステム、スキャン画像処理装置及びスキャン方法に関し、例えば、媒体をスキャンする技術に関する。
読書をする際、文章(本文)中の重要だと感じた部分又は疑問に思った部分、もしくは、図面など、紙書籍中に含まれる情報に対して、ペンによってマーキングを行っている人が多い。
一方で、電子書籍では、マーキング(ハイライト)機能が提供されている。電子書籍では、書籍の内容が既に電子データ化されているため、ハイライト機能を使用することで、ユーザーが抜粋した本文の保存及び検索などを簡便に行うことができる。
紙書籍でも、電子書籍のように、簡便に紙書籍の一部を電子化して保存したいというニーズがある。このようなニーズに対して、特許文献1には、簡単なシステムを用いて文書と電子化文書との間でのデータの変換を可能にすることを目的とした技術が開示されている。
特許文献1に開示のカレンダーブックシステムは、ペン装置と親機で構成されている。このペン装置は、3つの光学センサ(CCDアレイ)を有している。1つ目の光学センサは、ペン装置の長さに沿って直線的な側面に取り付けられている。2つ目の光学センサは、ペン装置のペン先又はペン先の一側面に取り付けられている。3つ目の光学センサは、ペン装置の後方端部に取り付けられている。例えば、ページの大きい部分を走査するためには、1つ目の光学センサが用いられる。例えば、予め印刷してあるマークを認識することにより文書の局部的内容を識別するためには、2つ目の光学センサが用いられる。
光センサの出力は、ペン装置の送信機によってセンサ信号として親機に送信される。親機は、ペン装置と通信し、センサ信号を受信する。これにより、親機は、ユーザーの文書を電子化文書として取り込むことができる。
特開2004−303254号公報
ここで、紙書籍においては、本文、図面、及び、その本文又は図面が記載されたページのページ番号等のように、種類の異なる情報が存在する。そして、これらの種類の異なる情報のそれぞれに対し、その種類に応じて適切な形式で保存をしたいというニーズが存在する。例えば、ユーザーによっては、本文とページ番号は電子テキストで保存し、図面は電子画像で保存したい、といったことを望む場合もある。
しかしながら、特許文献1に開示の技術は、スキャンした文章を、電子化文書のみでしか保存することができない。すなわち、特許文献1には、スキャン対象の媒体における種類の異なる情報を適切な形式で保存する技術は開示されていない。
その他の課題と新規な特徴は、本明細書の記述および添付図面から明らかになるであろう。
一実施の形態によれば、スキャンシステムは、スキャン対象の媒体を連続的にスキャンすることで生成された複数の画像情報を、前記媒体をスキャンした軌跡に応じて決定した処理方法で処理することで、当該処理方法に応じた形式の情報に変換するものである。
前記一実施の形態によれば、簡便な操作で、スキャン対象の媒体における種類の異なる情報を適切な形式で保存することができる。
実施の形態1に係るスキャンシステムの概要構成を示す図である。 実施の形態1に係るペン型スキャナのハードウェア構成を示す図である。 実施の形態1に係るペン型スキャナのペンアップ時及びペンダウン時の状態を示す図である。 実施の形態1に係るペン型スキャナの状態遷移図である。 実施の形態1に係るペン型スキャナの移動軌跡及びベクトルの算出方法を示す図である。 実施の形態1に係るペン型スキャナの移動軌跡の算出方法をより具体的に示す図である。 実施の形態1に係るスキャンシステムの詳細構成を示す図である。 実施の形態1に係るペン型スキャナの移動軌跡のベクトルの算出方法、及び、その移動軌跡の判定方法を示す図である。 実施の形態1に係るスキャンシステムのスキャン処理を示すフローチャートである。 実施の形態1に係るスキャンシステムの効果を説明するための図である。 実施の形態2に係るペン型スキャナのハードウェア構成を示す図である。 本実施の形態2に係る動作状態及び移動軌跡と、処理方法との関係を示す図である。 実施の形態2に係るスキャンシステムの詳細構成を示す図である。 実施の形態2に係るスキャンシステムのスキャン処理を示すフローチャートである。 実施の形態3に係るスキャンシステムの詳細構成を示す図である。 実施の形態3に係るスキャンシステムのスキャン処理を示すフローチャートである。 実施の形態3に係るサーバーの記憶手段に格納される情報の一例を示す図である。 実施の形態4に係るスキャンシステムの詳細構成を示す図である。 実施の形態4に係るスキャンシステムのスキャン処理を示すフローチャートである。 実施の形態5に係るスキャンシステムの詳細構成を示す図である。 実施の形態5に係るスキャンシステムの前処理を示すフローチャートである。 実施の形態5に係るスキャンシステムのスキャン処理を示すフローチャートである。 実施の形態5に係るサーバーの記憶手段に格納される情報の一例を示す図である。 実施の形態5の変形例1に係るスキャンシステムの詳細構成を示す図である。 実施の形態5の変形例1に係るスキャンモード時のスキャン処理を示すフローチャートである。 実施の形態5の変形例1に係るサーバーの詳細構成を示す図である。 実施の形態6に係るペン型スキャナのハードウェア構成を示す図である。 実施の形態6に係るスキャンシステムの詳細構成を示す図である。 実施の形態7に係るスキャンシステムの詳細構成を示す図である。 実施の形態7に係る閲覧モードにおいて、スキャンで入力する情報と、その情報に応じて出力される情報との関係を示す図である。 実施の形態7に係るスキャンシステムの効果を説明するための図である。 実施の形態8に係るスキャンシステムの処理方法を示す図である。 実施の形態8に係るスキャンシステムの詳細構成を示す図である。 実施の形態8の変形例1に係るスキャンモード時のスキャン処理を示すフローチャートである。 実施の形態8の変形例1に係るスキャンモード時のスキャン処理を示すフローチャートである。 実施の形態の概略構成となるスキャンシステムの構成を示す図である。
以下、図面を参照しながら、好適な実施の形態について説明する。以下の実施の形態に示す具体的な数値などは、実施の形態の理解を容易とするための例示にすぎず、特に断る場合を除き、それに限定されるものではない。また、以下の記載及び図面では、説明の明確化のため、当業者にとって自明な事項などについては、適宜、省略及び簡略化がなされている。
<実施の形態1>
まず、図1を参照して、本実施の形態1に係るスキャンシステム1の概要構成について説明する。図1に示すように、スキャンシステム1は、ペン型スキャナ2と、スマートフォン3と、サーバー4とを有する。
ペン型スキャナ2とスマートフォン3は、例えば、任意の無線通信を介して、相互に任意の情報を送受信する。この無線通信には、Bluetooth又は無線LAN(Local Area Network)などの近距離無線通信を利用することができる。また、スマートフォン3とサーバー4は、例えば、任意の無線通信及び任意の有線通信を介して、相互に任意の情報を送受信する。この無線通信には、例えば、3GPP(Third Generation Partnership Project)又はLTE(Long Term Evolution)などの移動体通信(長距離無線通信)を利用することができる。この有線通信には、例えば、インターネットによる通信を利用することができる。
ペン型スキャナ2は、スキャン対象となる媒体(以下、単に「媒体」とも呼ぶ)をスキャンする装置である。ペン型スキャナ2は、ユーザーからの操作に応じて、媒体における任意の部分をスキャンし、スキャンした部分が電子画像化された画像情報を生成する。ユーザーがペン型スキャナ2によって媒体においてスキャンする部分をなぞることで、ペン型スキャナ2は、その部分を連続的にスキャンし、複数の画像情報を生成する。ペン型スキャナ2は、生成した複数の画像情報をスマートフォン3に送信する。
この際に、ペン型スキャナ2は、生成した複数の画像情報に基づいて、媒体をスキャンしたときのペン型スキャナ2の移動軌跡を算出する。ペン型スキャナ2は、算出した移動軌跡に関する情報もスマートフォン3に送信する。
ここで、スキャン対象となる媒体は、典型的には、紙書籍である。ユーザーは、電子化された情報としてサーバー4上に保存したい場合、紙書籍中の任意の部分(本文、ページ番号、図など)を、ペン型スキャナ2によってスキャンする。
スマートフォン3は、ペン型スキャナ2から受信した複数の画像情報に対して、所定の処理を実行する情報処理装置である。ここで、スマートフォン3は、ペン型スキャナ2から受信した移動軌跡に関する情報に基づいて、予め用意された複数の処理方法のうちから、複数の画像情報に対して実行する処理方法を決定する。そして、スマートフォン3は、決定した処理方法で複数の画像情報を処理することで、その処理方法に応じた形式の情報に変換する。
ここで、情報を変換するための所定の処理として、光学文字認識(OCR:Optical Character Recognition)及びjpg化(Joint Photographic experts Group)等の処理が用意されている。すなわち、ユーザーが、種類の異なる情報を異なる移動軌跡でスキャンすることで、種類の異なる情報を異なる形式の情報に変換することができる。よって、種類の異なる情報を、それぞれに適した形式で保存することができる。
スマートフォン3は、この変換後の情報に属性を付与し、サーバー4に送信する。すなわち、スマートフォン3は、変換後の情報に対して、その情報の種類(本文か、図面か、ページ番号か、等)を示す属性情報を含め、サーバー4に送信する。
以下、本実施の形態では、ペン型スキャナ2が生成した画像情報を処理してサーバー4に送信する情報処理装置として、スマートフォンを用いた例について説明するが、情報処理装置の種類は、これに限られない。この情報処理装置として、例えば、PC(Personal Computer)又は一般に「タブレット」と呼称される、タッチパネルを備えた情報端末等を用いてもよい。情報処理装置がPCである場合には、PCとサーバー4は、例えば、有線通信(例えばインターネットによる通信)を介して通信可能とされる。また、情報処理装置がタブレットである場合には、タブレットとサーバー4は、例えば、無線通信(例えば無線LAN)、及び、有線通信(例えばインターネット)を介して通信可能とされる。
サーバー4は、スマートフォン3から受信した変換後の情報を保存する情報処理装置である。ここで、サーバー4は、複数のユーザーのそれぞれがスキャンをすることで得られた複数の変換後の情報をまとめて保存することもできる。
例えば、上述のペン型スキャナ2及びスマートフォン3は、同一のユーザーによって所有される。他のユーザーも、上述のペン型スキャナ2及びスマートフォン3を所有することができる。よって、サーバー4は、異なるユーザーによって所有される複数のスマートフォン3のそれぞれから受信した複数の変換後の情報を保存することもできる。
続いて、図2を参照して、本実施の形態1に係るペン型スキャナ2のハードウェア構成について説明する。図2に示すように、ペン型スキャナ2は、レンズ10と、イメージセンサ11と、ペンダウン検出装置12と、MCU13と、メモリ14と、送受信機15とを有する。
レンズ10は、光源(図示せず)によって照らされた媒体の一部の像をイメージセンサ11上に結像する。イメージセンサ11は、レンズによって結像された像を光電変換し、画像情報を生成する。言い換えると、イメージセンサ11は、媒体の一部(例えば紙書籍の紙面の一部)を撮像(スキャン)し、その媒体の一部を、電子化された画像として示す画像情報を生成し、MCU13に出力する。1つの画像情報が示す1つの画像は、例えば、紙書籍に記載された文章の一部の文字(例えば、1文字もしくは1文字の一部)、又は、図面の一部を示す画像となる。ここで、イメージセンサ11は、所定時間間隔毎にスキャンをして画像情報を生成する。以下、この所定時間間隔毎の各画像を「フレーム」とも呼ぶ。
ペンダウン検出装置12は、ペン型スキャナ2がペンダウンされていることを検出する装置である。言い換えると、ペンダウン検出装置12は、ペン型スキャナ2のペン先に設けられた撮像部(レンズ10及びイメージセンサ11)が媒体に対して、所定距離以下まで近接しているか否かを判定する。ペンダウン検出装置12として、例えば、スイッチ又は圧力センサを利用することができる。
(1)ペンダウン検出装置12として、スイッチを利用した場合
スイッチは、スイッチが押下されているか否かを示す通知信号を生成し、MCU13に出力する。スイッチの接触面が媒体に押し付けられている場合、すなわち、スイッチが押下されている場合、スイッチは、スイッチが押下されていることを示す通知信号を生成し、MCU13に出力する。一方、スイッチの接触面が媒体に押し付けられていない場合、すなわち、スイッチが押下されていない場合、スイッチが押下されていないことを示す通知信号を生成してMCU13に出力する。
MCU13は、スイッチが押下されていることを示す通知信号が、スイッチから入力されている場合、ペン型スキャナ2がペンダウンされていると判定する。一方、MCU13は、スイッチが押下されていないことを示す通知信号が、スイッチから入力されている場合、ペン型スキャナ2がペンアップされていると判定する。
(2)ペンダウン検出装置12として、圧力センサを利用した場合
圧力センサは、媒体から加えられている圧力を検出し、検出した圧力を示す通知信号を生成し、MCU13に出力する。圧力センサから入力される通知信号が示す圧力が所定の閾値以上である場合、ペン型スキャナ2がペンダウンされていると判定する。一方、MCU13は、圧力センサから入力される通知信号が示す圧力が所定の閾値未満である場合、ペン型スキャナ2がペンアップされていると判定する。
MCU13は、ペン型スキャナ2を制御する装置である。例えば、MCU13は、イメージセンサ11が生成した画像情報を取得し、メモリ14に格納する。メモリ14は、各種データが格納される記憶装置である。
送受信機15は、スマートフォン3との間で、無線によって各種データを送受信する装置である。例えば、送受信機15は、メモリ14に格納された画像情報を、電気信号から無線信号に変換し、スマートフォン3に送信する。
これによれば、図3の右図に示すように、ユーザーが媒体をスキャンするために、ペン型スキャナ2のペン先を媒体に近づけた場合には、ペンダウン検出装置12が媒体から押圧される。これにより、MCU13は、ペン型スキャナ2のペンダウンを認識することができる。一方、図3の左図に示すように、ユーザーが媒体のスキャンを止めるために、ペン型スキャナ2のペン先を媒体から遠ざけた場合には、ペンダウン検出装置12が媒体から押圧されない。これにより、MCU13は、ペン型スキャナ2のペンアップを認識することができる。
続いて、図4を参照して、本実施の形態1に係るペン型スキャナ2の状態遷移について説明する。ペン型スキャナ2は、「アイドル状態」、「初期化状態」、「画像及び軌跡取得状態」、「分析実行状態」の4つの状態を遷移する。ここでは、ペン型スキャナ2の初期状態が「アイドル状態」であるものとして説明する。
「アイドル状態」では、ペン型スキャナ2のMCU13は、イメージセンサ11によって生成される画像情報をメモリ14に保存しない。MCU13は、ペンダウン検出装置12からの通知信号に基づいて、ペン型スキャナ2がペンダウンされたと判定した場合、「初期化状態」に遷移する(S1)。
「初期化状態」では、MCU13は、メモリ14を初期化する。より具体的には、前回のスキャンにおいて、メモリ14に格納された画像情報、軌跡情報及びベクトル情報を、メモリ14から削除する。なお、軌跡情報及びベクトル情報については、後述する。MCU13は、メモリ14の初期化後、「画像及び軌跡取得状態」に遷移する(S2)。
「画像及び軌跡取得状態」では、MCU13は、随時、イメージセンサ11によって生成される画像情報をメモリ14に格納する。すなわち、上述したように、イメージセンサ11は、所定時間間隔毎に画像情報を生成する。MCU13は、画像情報が生成される毎に、順次、画像情報をメモリ14に格納する。MCU13は、ペンダウン検出装置12からの通知信号に基づいて、ペン型スキャナ2がペンアップされたと判定した場合、「分析実行状態」に遷移する(S3)。
「分析実行状態」に遷移した場合、MCU13は、イメージセンサ11によって生成される画像情報のメモリ14への格納を止める。よって、メモリ14には、ペン型スキャナ2がペンダウンされてからペンアップされるまでの間に、イメージセンサ11によって生成された複数の画像情報が格納される。
「分析実行状態」では、MCU13は、「画像及び軌跡取得状態」中にメモリ14に格納された複数の画像情報を分析し、ペン型スキャナ2の移動軌跡及びそのベクトルを算出する。より具体的には、図5に示す手順で分析を実行する。
(1)まず、MCU13は、複数の画像情報が示す複数の画像(複数のフレーム)のそれぞれにおいて、特徴点を抽出する。(2)次に、MCU13は、複数のフレーム間で同一の特徴点を照合することで、ペン型スキャナ2の移動軌跡を算出する。例えば、MCU13は、複数のフレーム間で同一の特徴点の位置を合わせて、それら複数のフレームを重ね合わせた場合における、各フレーム内における同一の座標位置の点(図5の例では各フレームの左上の黒点)を繋ぎ合わせた線を、ペン型スキャナ2の移動軌跡として算出する。MCU13は、算出した移動軌跡を示す軌跡情報を生成し、その軌跡情報の算出に使用した複数の画像情報と関連付けてメモリ14に格納する。(3)そして、MCU13は、ペン型スキャナ2の移動軌跡を直線近似して、ペン型スキャナ2の動きを示すベクトル(いわゆる、動きベクトル)を算出する。MCU13は、算出したベクトルを示すベクトル情報を生成し、そのベクトル情報の算出に使用した複数の画像情報と関連付けてメモリ14に格納する。
このベクトルの算出は、所定数のフレーム単位で行われる。言い換えると、MCU13は、メモリ14に格納された複数の画像情報について、所定数の画像情報単位で、移動軌跡として算出した点からベクトルを算出する。これは、メモリ14に格納された複数の画像情報を、時系列順に所定数単位に分けて、分けた単位毎に移動軌跡及びベクトルを算出してもよい。また、移動軌跡及びベクトルを算出する単位となる所定数の画像情報は、その一部が他の移動軌跡及びベクトルを算出する単位となる所定数の画像情報と重複していてもよい。なお、図5では、この所定数が5である例(例えば、図5の時間t=0〜時間t=4)について説明したが、これに限られない。
ここで、図6を参照して、ペン型スキャナ2の移動軌跡の算出方法について、より具体的に説明する。ペン型スキャナ2の移動軌跡の算出方法として、ここで説明するように、光学マウスで用いられる方法を利用することができる。
図6に示すように、フレームは、複数のピクセルを含む。図6では、説明の簡略化のため、6×6ピクセルのフレームを示しているが、実際のフレームのサイズはこれよりも大きいことは言うまでもない。また、図6では、上下方向と平行な軸がY軸であり、左右方向と平行な軸がX軸であると仮定する。図6に示すように、MCU13は、媒体において、濃淡差によって周辺と区別して識別できる点を、特徴点として抽出する。この濃淡差は、例えば、媒体の凹凸、又は、文字の有無などによって生じる。
図6では、時刻t=0から時刻t=1までに、フレーム内で、特徴点がX方向に+2、Y方向に+1だけ動いている。時刻t=1から時刻t=2までに、フレーム内で、特徴点がX方向に+2、Y方向に−1だけ動いている。この場合、複数のフレーム間で同一の特徴点の位置を合わせて、それら複数のフレームを重ね合わせた場合における、各フレーム内の同一の座標位置(図6の例では最も右上のピクセル)の移動軌跡が、ペン型スキャナ2の移動軌跡として得られる。すなわち、ペン型スキャナ2の移動軌跡として、時刻t=0から時刻t=1までにX方向に−2、Y方向に−1だけ移動し、時刻t=1から時刻t=2までにX方向に−2、Y方向に+1だけ移動した移動軌跡が得られる。
MCU13は、ベクトルの算出が終了したときに、メモリ14に格納された複数の画像情報及び複数のベクトル情報を、送受信機15を介してスマートフォン3に送信する。これによって、スマートフォン3は、ペン型スキャナ2から受信した複数のベクトル情報に基づいて、複数の画像情報に対して実行する処理方法を決定する。
なお、ここでは、軌跡情報をMCU13が生成する例について説明したが、これに限られない。例えば、イメージセンサ11として、光学マウスのイメージセンサを流用し、そのイメージセンサが有するDSP(Digital Signal Processor)によって生成される軌跡情報を取得するようにしてもよい。
続いて、図7を参照して、本実施の形態1に係るスキャンシステム1の詳細構成について説明する。
図7に示すように、ペン型スキャナ2は、画像取得手段20と、軌跡算出手段21と、ベクトル算出手段22とを有する。
画像取得手段20は、ペン型スキャナ2がペンダウンされている間、媒体をスキャンすることで、その媒体を画像として示す画像情報を順次生成し、保持する。すなわち、画像取得手段20は、ペン型スキャナ2がペンダウンされている間にスキャンされた媒体の一部を複数の画像として示す複数の画像情報を生成し、保持する。画像取得手段20は、ペン型スキャナ2がペンアップされたときに、保持していた複数の画像情報をスマートフォン3に送信する。すなわち、レンズ10と、イメージセンサ11、ペンダウン検出装置12、MCU13、メモリ14及び送受信機15が、画像取得手段20として動作する。
軌跡算出手段21は、ペン型スキャナ2がペンアップされたときに、画像取得手段20が保持している複数の画像情報に基づいて、ペン型スキャナ2の移動軌跡を算出する。すなわち、ペンダウン検出装置12、MCU13及びメモリ14が、軌跡算出手段21として動作する。
ベクトル算出手段22は、軌跡算出手段21が算出したペン型スキャナ2の移動軌跡に基づいて、ペン型スキャナ2の移動軌跡における複数のベクトルを算出し、算出した複数のベクトルを示す複数のベクトル情報を生成する。ベクトル算出手段22は、生成した複数のベクトル情報をスマートフォン3に送信する。すなわち、MCU13、メモリ14及び送受信機15が、ベクトル算出手段22として動作する。
また、図7に示すように、スマートフォン3は、処理方法決定手段30と、第1の選択手段31と、第1の処理手段32と、第2の処理手段33と、第2の選択手段34とを有する。
処理方法決定手段30は、ペン型スキャナ2のベクトル算出手段22から送信された複数のベクトル情報を受信する。処理方法決定手段30は、受信した複数のベクトル情報が示す複数のベクトルに基づいて、ペン型スキャナ2の移動軌跡が直線であるか非直線であるかを判定する。
処理方法決定手段30は、ペン型スキャナ2の移動軌跡が直線であると判定した場合、第1の処理手段32が実行する第1の処理方法によって、ペン型スキャナ2から受信した複数の画像情報を処理すると判定する。一方、処理方法決定手段30は、ペン型スキャナ2の移動軌跡が非直線であると判定した場合、第2の処理手段33が実行する第2の処理方法によって、ペン型スキャナ2から受信した複数の画像情報を処理すると判定する。
ここで、図8を参照して、ペン型スキャナ2の移動軌跡のベクトルの算出方法、及び、ペン型スキャナ2の移動軌跡が直線であるか非直線であるかの判定方法について、より具体的に説明する。
例えば、図8に示すように、ペンダウンからペンアップまでの間、ユーザーが媒体を連続的にスキャンしたものとする。上述したように、所定数のフレーム単位毎に、ペン型スキャナ2の移動軌跡の複数のベクトルが算出される。処理方法決定手段30は、例えば、このようにして算出されたベクトルの内積を算出することで、ペン型スキャナ2の移動軌跡が直線であるか非直線であるかを判定する。
処理方法決定手段30は、複数のベクトルのうち、2つのベクトルを選択し、選択した2つのベクトルの内積を算出する。ここで、単純には、2つのベクトルの内積が、それら2つのベクトルの大きさの積と等しい場合、それら2つのベクトルが直線であると判定することができ、そうでない場合には、それら2つのベクトルが非直線であると判定することができる。しかしながら、このような判定方法によって非直線であると判定した場合には、ユーザーがペン型スキャナ2を直線的に移動させたつもりであっても、その移動軌跡が少しでも曲がっている場合には、全て非直線であると判定されてしまう。そのため、好ましくは、2つのベクトルの内積が、それら2つのベクトルの大きさの積の所定割合以上である場合、それら2つのベクトルが直線であると判定する。一方、2つのベクトルの内積が、それら2つのベクトルの大きさの積の所定割合未満である場合には、それら2つのベクトルが非直線であると判定するとよい。例えば、ユーザーがペン型スキャナ2によって媒体をスキャンする際に直線とみなす誤差を15°とする場合、上記所定割合を0.966(=cos15°)としてもよい。
言い換えると、処理方法決定手段30は、2つのベクトルの角度差が所定角度以下である場合、それら2つのベクトルが直線であると判定する。一方、処理方法決定手段30は、2つのベクトルの角度差が所定角度よりも大きい場合、それら2つのベクトルが非直線であると判定する。
ここで、内積を算出する2つのベクトルの組み合わせとして、任意の組み合わせを採用することができる。例えば、複数のベクトルから2つのベクトルを選択する全ての組み合わせについて内積を算出するようにしてもよく、時間的に前後に隣接する2つのベクトルを選択する組み合わせについて内積を算出するようにしてもよい。
そして、処理方法決定手段30は、全ての組み合わせについて、2つのベクトルの角度差が所定角度以下である場合、ペン型スキャナ2の移動軌跡が直線であると判定する。一方、処理方法決定手段30は、少なくともいずれか1つの組み合わせについて、2つのベクトルの角度差が所定角度よりも大きい場合、ペン型スキャナ2の移動軌跡が非直線であると判定する。
第1の選択手段31は、ペン型スキャナ2の画像取得手段20から送信された複数の画像情報を受信する。第1の選択手段31は、受信した複数の画像情報を、処理方法決定手段30の判定結果に応じて、第1の処理手段32及び第2の処理手段33のうち、いずれか1つに出力する。より具体的には、第1の選択手段31は、処理方法決定手段30が第1の処理方法によって複数の画像情報を処理すると判定した場合、複数の画像情報を第1の処理手段32に出力する。一方、第1の選択手段31は、処理方法決定手段30が第2の処理方法によって複数の画像情報を処理すると判定した場合、複数の画像情報を第2の処理手段33に出力する。
第1の処理手段32は、第1の処理方法として、複数の画像情報が示す複数の画像を結合し、結合によって生成された画像に含まれる文字列に対してOCRを施して、その文字列が電子テキスト化されたテキスト情報を生成し、生成したテキスト情報に属性を付与する。テキスト情報は、例えば、テキストファイル(例えば拡張子が「txt」)、又は、任意のテキストエディタで使用できるファイル(例えば拡張子が「doc」、「docx」等)である。
第2の処理手段33は、第2の処理方法として、複数の画像情報が示す複数の画像を結合し、結合によって生成された画像を圧縮して、圧縮された画像を示す圧縮画像情報を生成し、生成した圧縮画像情報に属性を付与する。この生成される圧縮画像情報は、例えば、JPGファイル、GIF(Graphics Interchange Format)ファイル、又は、PNG(Portable Network Graphics)ファイル等である。以下、本実施の形態では、圧縮画像情報として、JPGファイルを生成する例について説明する。
ここで、第1の処理手段32及び第2の処理手段33のそれぞれは、複数の画像間で同一の特徴点の位置を合わせて重ね合わせた状態で、それら複数の画像を結合する。これによれば、複数の画像間で同一の内容となる部分を重ね合わせて、それら複数の画像を結合することができる。
第2の選択手段34は、処理方法決定手段30の判定結果に応じて、第1の処理手段32が実行する第1の処理方法、及び、第2の処理手段33が実行する第2の処理方法のうち、いずれか1つによって生成されたテキスト情報又は圧縮画像情報を取得する。第2の選択手段34は、取得したテキスト情報又は圧縮画像情報をサーバー4に送信する。
ここで、例えば、スマートフォン3が有するCPU(Central Processing Unit)が、スマートフォン3が有する記憶手段(図示せず)に格納されたプログラムを実行することで、上述の各手段30〜34として動作する。すなわち、このプログラムは、上述の各手段30〜34としての処理をCPUに実行させる複数の命令を含んでいる。また、記憶手段は、例えば、揮発性メモリ、ハードディスク、及び、フラッシュメモリ(不揮発性メモリ)等の記憶装置のうち、少なくとも1つを含む。
図7に示すように、サーバー4は、情報制御手段40と、記憶手段41とを有する。
情報制御手段40は、スマートフォン3の第2の選択手段34から送信されたテキスト情報又は圧縮画像情報を受信する。情報制御手段40は、受信したテキスト情報又は圧縮画像情報を記憶手段41に格納する。
記憶手段41は、上述したように、テキスト情報又は圧縮画像情報が格納される。記憶手段41は、例えば、揮発性メモリ、ハードディスク、及び、フラッシュメモリ(不揮発性メモリ)等の記憶装置のうち、少なくとも1つを含む。
ここで、例えば、サーバー4が有するCPUが、サーバー4が有する記憶手段41に格納されたプログラムを実行することで、上述の情報制御手段40として動作する。すなわち、このプログラムは、上述の情報制御手段40としての処理をCPUに実行させる複数の命令を含んでいる。
続いて、図9を参照して、実施の形態1に係るスキャンシステム1のスキャン処理について説明する。ここでの説明では、ユーザーは、紙書籍のページ番号をスキャンする場合には、ペン型スキャナ2を直線的な移動軌跡で移動させてページ番号をスキャンするものとする。また、ユーザーは、紙書籍の本文をスキャンする場合には、ペン型スキャナ2を非直線的な移動軌跡で移動させて本文をスキャンするものとする。
ペン型スキャナ2の画像取得手段20は、ユーザーからペン型スキャナ2に対して媒体をスキャンする操作が行われるのを待ち合わせる(S11、S12:No)。すなわち、画像取得手段20は、ペン型スキャナ2がペンダウンされるのを待ち合わせる。
画像取得手段20は、ユーザーからペン型スキャナ2に対して媒体をスキャンする操作が行われた場合(S12:Yes)、媒体のスキャンを開始する(S13)。画像取得手段20は、ユーザーからペン型スキャナ2に対して媒体のスキャンを終了する操作が行われるまで、スキャンした媒体の画像を示す画像情報の生成・保持を繰り返す(S13、S14:No)。
画像取得手段20は、ユーザーからペン型スキャナ2に対して媒体のスキャンを終了する操作が行われた場合(S14:Yes)、媒体のスキャンを終了する。すなわち、画像取得手段20は、ペン型スキャナ2がペンアップされた場合、画像情報の生成・保持を停止する。
軌跡算出手段21は、画像取得手段20が保持している複数の画像情報に基づいて、ペン型スキャナ2の移動軌跡を算出する(S15)。ベクトル算出手段22は、軌跡算出手段21が算出したペン型スキャナ2の移動軌跡に基づいて、ペン型スキャナ2の移動軌跡における複数のベクトルを算出し、算出した複数のベクトルを示す複数のベクトル情報を生成する。スマートフォン3の処理方法決定手段30は、ベクトル算出手段22が生成した複数のベクトル情報が示す複数のベクトルに基づいて、ペン型スキャナ2の移動軌跡が直線であるか否かを判定する(S16)。
処理方法決定手段30によってペン型スキャナ2の移動軌跡が直線であると判定された場合(S16:Yes)、第1の選択手段31は、画像取得手段20によって生成された複数の画像情報を処理する処理手段として、第1の処理手段32を選択する。第1の処理手段32は、複数の画像情報が示す画像を結合し(S17)、結合によって得られた画像に含まれるページ番号の文字列に対してOCRを実施する(S18)。これにより、第1の処理手段32は、結合によって得られた画像に含まれるページ番号の文字列を、電子テキストとして示すテキスト情報を生成する。第1の処理手段32は、生成したテキスト情報に、属性「ページ番号」を示す属性情報を付与する。これにより、第1の処理手段32によって、テキスト情報が、ページ番号を示すページ番号情報として生成される。
第2の選択手段34は、第1の処理手段32によって生成されたページ番号情報を取得する。情報制御手段40は、第2の選択手段34が取得したページ番号情報を記憶手段41に格納する(S19)。そして、スキャンシステム1は、ステップS11から動作を再開する。
処理方法決定手段30によってペン型スキャナ2の移動軌跡が非直線であると判定された場合(S16:No)、第1の選択手段31は、画像取得手段20によって生成された複数の画像情報を処理する処理手段として、第2の処理手段33を選択する。第2の処理手段33は、複数の画像情報が示す画像を結合し(S20)、結合によって得られた画像を示す画像情報を生成する。第2の処理手段33は、生成した画像情報を圧縮して、圧縮された画像を示す圧縮画像情報を生成する(S21)。例えば、第2の処理手段33は、結合によって得られた画像を示す非圧縮で示すファイルを、JPGファイルに変換する。第2の処理手段33は、生成した圧縮画像情報に、属性「本文」を示す属性情報を付与する。これにより、第2の処理手段33によって、圧縮画像情報が、本文を示す本文情報として生成される。
第2の選択手段34は、第2の処理手段33によって生成された本文情報を取得する。情報制御手段40は、第2の選択手段34が取得した本文情報を記憶手段41に格納する(S22)。そして、スキャンシステム1は、ステップS11から動作を再開する。
続いて、図10を参照して、本実施の形態1の効果について説明する。本実施の形態1に係るスキャンシステム1によれば、ユーザーがペン型スキャナ2を直線的に移動させて媒体をスキャンした場合、媒体においてスキャンした部分に記載されている文字列を電子テキスト化してサーバー4に保存することができる。
また、本実施の形態1に係るスキャンシステム1によれば、ユーザーがペン型スキャナ2を非直線的に移動させて媒体をスキャンした場合、媒体においてスキャンした部分に記載されている文字列又は図を電子画像化した後に圧縮してサーバー4に保存することができる。
これによれば、例えば、図10に示すように、ユーザーが、紙書籍のページ番号をスキャンしたいときには、ペン型スキャナ2を直線的に移動させてスキャンし、紙書籍の本文をスキャンしたいときには、ペン型スキャナ2を非直線的に移動させてスキャンするようにすることで、ページ番号と本文のそれぞれを異なる形式で保存することができる。すなわち、ユーザーが、ページ番号を電子テキストで保存し、本文を電子画像で保存したい、と望んでいる場合に、それに適した形式でページ番号と本文を保存することができる。
このように、本実施の形態1によれば、(1)情報の取得、(2)取得した情報に対する変換処理と属性の付与、(3)保存を、ペン型スキャナ2によって媒体をスキャンするという1つのアクションで行うことができる。例えば、媒体における情報をスキャンする前に、その情報の種類(属性)を指定するといった操作の手間を省くことができる。すなわち、スキャン操作以外の操作を不要とし、利便性を向上することができる。よって、本実施の形態1に係るスキャンシステム1によれば、簡便な操作で、スキャン対象の媒体における種類の異なる情報を適切な形式で保存することができる。
なお、以上の説明では、ペン型スキャナ2の移動軌跡及びベクトルの算出をペン型スキャナ2で実施する例について説明したが、これに限られない。例えば、スマートフォン3が、ペン型スキャナ2の移動軌跡とベクトルの算出を行うようにしてもよい。すなわち、スマートフォン3が、軌跡算出手段21と、ベクトル算出手段22を有するようにしてもよい。
また、以上の説明では、画像情報の処理方法の決定、及び、決定した処理方法による画像情報の処理をスマートフォン3で実施する例について説明したが、これに限られない。例えば、ペン型スキャナ2が、画像情報の処理方法の決定、及び、決定した処理方法による画像情報の処理を行うようにしてもよい。すなわち、ペン型スキャナ2が、上述の説明でスマートフォン3が有していた各手段30〜34を有するようにしてもよい。この場合、スマートフォン3は、ペン型スキャナ2によって生成されたテキスト情報及び圧縮画像情報をサーバー4に中継する装置として動作する。また、この場合には、テキスト情報及び圧縮画像情報をサーバー4に送信せず、ペン型スキャナ2に格納するようにしてもよい。
また、例えば、ペン型スキャナ2の移動軌跡及びベクトルの算出、画像情報の処理方法の決定、及び、決定した処理方法による画像情報の処理の全てをサーバー4で行うようにしてもよい。すなわち、サーバー4が、上述の各手段21、22、30〜34を有するようにしてもよい。この場合、スマートフォン3は、ペン型スキャナ2によって生成された画像情報をサーバー4に中継する装置として動作する。
また、以上の説明では、テキスト情報及び圧縮画像情報をサーバー4に格納する例について説明したが、これに限られない。例えば、テキスト情報及び圧縮画像情報をサーバー4に送信せず、スマートフォン3に格納するようにしてもよい。
以上に説明したように、本実施の形態1では、図36に概略構成として示すように、画像取得部91(画像取得手段20に対応)は、スキャン対象の媒体を連続的にスキャンすることで生成された複数の画像情報を取得する。軌跡算出部92(軌跡算出手段21に対応)は、画像取得部91が取得した複数の画像情報に基づいて、媒体をスキャンした軌跡を算出する。処理方法決定部93(処理方法決定手段30に対応)は、軌跡算出部92が算出した軌跡に応じて、複数の画像情報の処理方法を決定する。そして、処理部94(第1の処理手段32及び第2の処理手段33に対応)は、処理方法決定部93が決定した処理方法で複数の画像情報を処理することで、それら複数の画像情報をその処理方法に応じた形式の情報に変換する。
これによれば、媒体をスキャンする操作で、スキャンにより得られる画像情報の変換方法の指定も兼ねることができる。よって、本実施の形態1によれば、簡便な操作で、スキャン対象の媒体における種類の異なる情報を適切な形式で保存することができる。
<実施の形態2>
次に、実施の形態2について説明する。以下、実施の形態1と同様の内容については、同一の符号を付す等して、説明を省略する。実施の形態2に係るスキャンシステム1の概要構成は、実施の形態1に係るスキャンシステム1の概要構成と同様であるため、その説明を省略する。
続いて、図11を参照して、本実施の形態2に係るペン型スキャナ2のハードウェア構成について説明する。実施の形態2に係るペン型スキャナ2は、実施の形態1に係るペン型スキャナ2と比較して、さらに、動作状態切替ボタン16を有する点が異なる。
動作状態切替ボタン16は、ユーザーからペン型スキャナ2の動作状態を切り替える操作が行われる入力装置である。動作状態切替ボタン16は、ユーザーによって押下されているか否かを示す通知信号を生成し、MCU13に出力する。動作状態切替ボタン16は、押下されている場合、押下されていることを示す通知信号を生成し、MCU13に出力する。一方、動作状態切替ボタン16は、押下されていない場合、押下されていないことを示す通知信号を生成し、MCU13に出力する。
MCU13は、媒体のスキャン時に、動作状態切替ボタン16が押下されていることを示す通知信号が、動作状態切替ボタン16から入力されている場合、複数の画像情報及び複数のベクトル情報とともに、媒体のスキャン時のペン型スキャナ2の動作状態が第1の状態であることを示す通知情報をスマートフォン3に送信する。一方、MCU13は、媒体のスキャン時に、動作状態切替ボタン16が押下されていないことを示す通知信号が、動作状態切替ボタン16から入力されている場合、複数の画像情報及び複数のベクトル情報とともに、媒体のスキャン時のペン型スキャナ2の動作状態が第2の状態であることを示す通知情報をスマートフォン3に送信する。
続いて、図12を参照して、本実施の形態2に係る処理方法の決定方法について説明する。
実施の形態1では、媒体をスキャンした際におけるペン型スキャナ2の移動軌跡を直線とするか否かによって、スキャンによって入力する情報の種類を指定するようにしていた。それに対して、本実施の形態2では、さらに、媒体をスキャンした際に動作状態切替ボタン16が押下されているか否か(ペン型スキャナ2が第1の状態であるか第2の状態であるか)によっても、スキャンによって入力する情報の種類を指定可能とする。すなわち、本実施の形態2では、図12に示すように、ペン型スキャナ2の移動軌跡が直線であるか否かと、動作状態切替ボタン16が押下されているか否かとの組み合わせによって、スキャンによって入力する情報の種類として、4種類の情報を指定可能としている。
つまり、本実施の形態2に係るスキャンシステム1は、以下の(1)〜(4)に説明するように、スキャンによって入力する情報の種類を判定する。
(1)ペン型スキャナ2の移動軌跡が直線であり、かつ、動作状態切替ボタン16が押下されている場合(ペン型スキャナ2の動作状態が第1の動作状態である場合)には、スマートフォン3は、スキャンによって入力する情報がページ番号であると判定する。
(2)ペン型スキャナ2の移動軌跡が非直線であり、かつ、動作状態切替ボタン16が押下されている場合(ペン型スキャナ2の動作状態が第1の動作状態である場合)には、スマートフォン3は、スキャンによって入力する情報が図面であると判定する。
(3)ペン型スキャナ2の移動軌跡が直線であり、かつ、動作状態切替ボタン16が押下されていない場合(ペン型スキャナ2の動作状態が第2の動作状態である場合)には、スマートフォン3は、スキャンによって入力する情報が本文であると判定する。
(4)ペン型スキャナ2の移動軌跡が非直線であり、かつ、動作状態切替ボタン16が押下されていない場合(ペン型スキャナ2の動作状態が第2の動作状態である場合)には、スマートフォン3は、スキャンによって入力する情報がメモ書きであると判定する。
なお、ペン型スキャナ2の移動軌跡が直線であるか否か、及び、動作状態切替ボタン16が押下されているか否かとの組み合わせと、スキャンによって入力する情報の種類との対応関係については、上述した例に限られない。例えば、ペン型スキャナ2の移動軌跡が直線であり、かつ、動作状態切替ボタン16が押下されている場合に、スキャンによって入力する情報を本文とし、ペン型スキャナ2の移動軌跡が直線であり、かつ、動作状態切替ボタン16が押下されていない場合に、スキャンによって入力する情報をページ番号としてもよい。例えば、ペン型スキャナ2の移動軌跡が非直線であり、かつ、動作状態切替ボタン16が押下されている場合に、スキャンによって入力する情報をメモ書きとし、ペン型スキャナ2の移動軌跡が非直線であり、かつ、動作状態切替ボタン16が押下されていない場合に、スキャンによって入力する情報を図面としてもよい。
また、本実施の形態2では、MCU13は、ベクトルの算出が終了したときに、メモリ14に格納された複数の画像情報及び複数のベクトル情報とともに、メモリ14に格納された軌跡情報もスマートフォン3に送信する。
続いて、図13を参照して、本実施の形態2に係るスキャンシステム1の詳細構成について説明する。
図13に示すように、本実施の形態2に係るペン型スキャナ2は、実施の形態1に係るペン型スキャナ2と比較して、さらに、状態設定手段23と、状態判定手段24とを有する点が異なる。
本実施の形態2に係る軌跡算出手段21は、生成した軌跡情報をスマートフォン3に送信する。
状態設定手段23は、ユーザーからペン型スキャナ2の状態を設定する操作が行われる。言い換えると、ユーザーは、状態設定手段23によって、ペン型スキャナ2の状態を、第1の状態もしくは第2の状態に設定する。すなわち、動作状態切替ボタン16が、状態設定手段23として動作する。
状態判定手段24は、ユーザーから状態設定手段23に対して行われた操作に基づいて、ペン型スキャナ2の動作状態が第1の状態であるか第2の状態であるかを判定する。状態判定手段24は、ペン型スキャナ2の動作状態が第1の状態であるか第2の状態であるかを示す通知情報を生成し、スマートフォン3に送信する。すなわち、MCU13が、状態判定手段24として動作する。
上述したように、この通知情報は、1回のスキャンにおけるペンダウンからペンアップまでに生成された複数の画像情報と対応付けられて送信されるが、状態判定手段24は、そのスキャンに対して動作状態切替ボタン16が押下されているか否かを、任意の判定基準によって判定するようにしてもよい。例えば、状態判定手段24は、そのペンダウンからペンアップまでにおいて、ペンダウン時に動作状態切替ボタン16が押下されている場合に第1の状態を示す通知情報を生成してもよく、ペンアップ時に動作状態切替ボタン16が押下されている場合に第1の状態を示す通知情報を生成してもよく、ペンダウンからペンアップまでの間に継続して動作状態切替ボタン16が押下されている場合に第1の状態を示す通知情報を生成してもよい。そして、状態判定手段24は、それ以外の場合に、第2の状態を示す通知情報を生成すればよい。
図13に示すように、本実施の形態2に係るスマートフォン3は、実施の形態1に係るスマートフォン3と比較して、さらに、第3の処理手段35と、第4の処理手段36とを有する点が異なる。
実施の形態2に係る処理方法決定手段30は、実施の形態1に係る処理方法決定手段30と比較して、ペン型スキャナのベクトル算出手段22から受信する複数のベクトル情報に加えて、ペン型スキャナの状態判定手段24から受信する通知情報に基づいて、ペン型スキャナの画像取得手段20から受信した複数の画像情報又は軌跡情報の処理方法を決定する。
処理方法決定手段30は、ペン型スキャナ2の移動軌跡が直線であり、かつ、ペン型スキャナ2の動作状態が第1の状態である場合、第1の処理手段32が実行する第1の処理方法で、ペン型スキャナ2から受信した複数の画像情報を処理すると判定する。処理方法決定手段30は、ペン型スキャナ2の移動軌跡が非直線であり、かつ、ペン型スキャナ2の動作状態が第1の状態である場合、第2の処理手段33が実行する第2の処理方法で、ペン型スキャナ2から受信した複数の画像情報を処理すると判定する。処理方法決定手段30は、ペン型スキャナ2の移動軌跡が直線であり、かつ、ペン型スキャナ2の動作状態が第2の状態である場合、第3の処理手段35が実行する第3の処理方法で、ペン型スキャナ2から受信した複数の画像情報を処理すると判定する。処理方法決定手段30は、ペン型スキャナ2の移動軌跡が非直線であり、かつ、ペン型スキャナ2の動作状態が第2の状態である場合、第4の処理手段36が実行する第4の処理方法で、ペン型スキャナ2から受信した軌跡情報を処理すると判定する。
第1の選択手段31は、ペン型スキャナ2の画像取得手段20から送信された複数の画像情報及び軌跡情報を受信する。第1の選択手段31は、受信した複数の画像情報又は軌跡情報を、処理方法決定手段30の判定結果に応じて、第1の処理手段32、第2の処理手段、第3の処理手段35及び第4の処理手段36のうち、いずれか1つに出力する。より具体的には、第1の選択手段31は、処理方法決定手段30が第3の処理方法によって複数の画像情報又は軌跡情報を処理すると判定した場合、複数の画像情報を第3の処理手段35に出力する。一方、第1の選択手段31は、処理方法決定手段30が第4の処理方法によって複数の画像情報又は軌跡情報を処理すると判定した場合、軌跡情報を第4の処理手段36に出力する。処理方法決定手段30が第1の処理方法によって複数の画像情報を処理すると判定した場合、及び、処理方法決定手段30が第2の処理方法によって複数の画像情報を処理すると判定した場合については、実施の形態1と同様である。
第3の処理手段35は、第3の処理方法として、複数の画像情報が示す複数の画像を結合し、結合によって生成された画像に含まれる文字列に対してOCRを施して、その文字列が電子テキスト化されたテキスト情報を生成し、生成したテキスト情報に属性を付与する。
第4の処理手段36は、第4の処理方法として、軌跡情報が示すペン型スキャナの移動軌跡をメモ書きとして示す画像を生成し、生成された画像を圧縮して、圧縮された画像を示す圧縮画像情報を生成し、生成した圧縮画像情報に属性を付与する。
ここで、第3の処理手段35も、第1の処理手段32及び第2の処理手段33と同様に、複数の画像間で同一の特徴点の位置を合わせて重ね合わせた状態で、それら複数の画像を結合する。その理由については、上述した通りである。
第2の選択手段34は、処理方法決定手段30の判定結果に応じて、第1の処理手段32、第2の処理手段33、第3の処理手段35及び第4の処理手段36のうち、いずれか1つによって生成されたテキスト情報又は圧縮画像情報を取得する。第2の選択手段34は、取得したテキスト情報又は圧縮画像情報をサーバー4に送信する。
ここで、例えば、スマートフォン3が有するCPUが、スマートフォン3が有する記憶手段に格納されたプログラムを実行することで、上述の手段30〜34と同様に、第3の処理手段35及び第4の処理手段36として動作する。
続いて、図14を参照して、本実施の形態2に係るスキャンシステム1のスキャン処理について説明する。ここでは、次のように動作する例について説明する。
ユーザーは、紙書籍のページ番号をスキャンする場合には、動作状態切替ボタン16を押下しつつ、直線的な移動軌跡でペン型スキャナ2を移動させてページ番号をスキャンするものとする。また、ユーザーは、紙書籍の図面をスキャンする場合には、動作状態切替ボタン16を押下しつつ、非直線的な移動軌跡でペン型スキャナ2を移動させて図面をスキャンするものとする。また、ユーザーは、本文をスキャンする場合には、動作状態切替ボタン16を押下せずに、直線的な移動軌跡でペン型スキャナ2を移動させて本文をスキャンするものとする。また、ユーザーは、メモ書きを入力する場合には、動作状態切替ボタン16を押下せずに、非直線的な移動軌跡でペン型スキャナ2を移動させてメモ書きを入力するものとする。
ステップS11〜S15の処理については、実施の形態1で説明した通りである。ステップS15の処理後、処理方法決定手段30は、状態判定手段24が生成した通知情報が示すペン型スキャナ2の動作状態が、第1の状態か、第2の状態かを判定する(S31)。上述したように、この通知情報は、スキャン中におけるペン型スキャナ2の状態が、動作状態切替ボタン16が押下された第1の状態であるか、動作状態切替ボタン16が押下されていない第2の状態であるかを示す情報となる。言い換えると、ステップS31では、処理方法決定手段30は、スキャン中におけるペン型スキャナ2の動作状態が、第1の状態であったか、第2の状態であったかを判定する。
ペン型スキャナ2の動作状態が、動作状態切替ボタン16が押下された第1の状態であると判定した場合(S31:Yes)、ステップS16〜S22の処理については、実施の形態1で説明した通りである。ただし、本実施の形態2では、第2の処理手段33は、生成した圧縮画像情報に、属性「図面」を示す属性情報を付与する。これにより、これにより、第2の処理手段33によって、圧縮画像情報が、図面を示す図面情報として生成される。
ペン型スキャナ2の動作状態が、動作状態切替ボタン16が押下されなかった第2の状態であると判定した場合(S31:No)、処理方法決定手段30は、ベクトル算出手段22が生成した複数のベクトル情報が示す複数のベクトルに基づいて、ペン型スキャナ2の移動軌跡が直線であるか否かを判定する(S32)。
処理方法決定手段30によってペン型スキャナ2の移動軌跡が直線であると判定された場合(S32:Yes)、第1の選択手段31は、画像取得手段20によって生成された複数の画像情報を処理する処理手段として、第3の処理手段35を選択する。第3の処理手段35は、複数の画像情報が示す画像を結合し(S33)、結合によって得られた画像に含まれる本文の文字列に対してOCRを実施する(S34)。これにより、第3の処理手段35は、結合によって得られた画像に含まれる本文の文字列を、電子テキストとして示すテキスト情報を生成する。第3の処理手段35は、生成したテキスト情報に、属性「本文」を示す属性情報を付与する。これにより、第3の処理手段35によって、テキスト情報が、本文を示す本文情報として生成される。
第2の選択手段34は、第3の処理手段35によって生成された本文情報を取得する。情報制御手段40は、第2の選択手段34が取得した本文情報を記憶手段41に格納する(S35)。そして、スキャンシステム1は、ステップS11から動作を再開する。
処理方法決定手段30によってペン型スキャナ2の移動軌跡が非直線であると判定された場合(S32:No)、第1の選択手段31は、軌跡算出手段21によって生成された軌跡情報を処理する処理手段として、第4の処理手段36を選択する。第4の処理手段36は、軌跡情報が示す移動軌跡を、メモ書きの筆跡とした画像を示す画像情報を生成する(S36)。第4の処理手段36は、生成した画像情報を圧縮して、圧縮された画像を示す圧縮画像情報を生成する(S37)。例えば、第4の処理手段36は、結合によって得られた画像を示す非圧縮で示すファイルを、JPGファイルに変換する。第4の処理手段36は、生成した圧縮画像情報に、属性「メモ書き」を示す属性情報を付与する。これにより、第4の処理手段36によって、圧縮画像情報が、メモ書きを示すメモ書き情報として生成される。
第2の選択手段34は、第4の処理手段36によって生成されたメモ書き情報を取得する。情報制御手段40は、第4の処理手段36が取得したメモ書き情報を記憶手段41に格納する(S38)。そして、スキャンシステム1は、ステップS11から動作を再開する。
以上の説明では、メモ書き情報が画像情報である例について説明したが、これに限られない。例えば、メモ書き情報は、移動軌跡(メモ書き)における各線の起終点の位置などを示すベクターデータ(座標情報)であってもよい。すなわち、メモ書き情報は、媒体をスキャンした軌跡を、メモ書きとして示す情報であれば、どのような形式の情報であってもよい。
また、以上の説明では、動作状態の設定をペン型スキャナ2で実施する例について説明したが、これに限られない。例えば、スマートフォン3が、動作状態の設定を行うようにしてもよい。すなわち、スマートフォン3が、状態設定手段23及び状態判定手段24を有するようにしてもよい。この場合、スマートフォン3の入力手段(例えばタッチパネル)が状態設定手段23として動作する。
以上に説明したように、本実施の形態2に係るスキャンシステム1は、実施の形態1と比較して、ユーザーから押下される動作状態切替ボタン16を備えている点が異なる。そして、本実施の形態2に係る処理方法決定手段30は、実施の形態1と比較して、さらに、媒体をスキャンしているときに、ボタンが押下されているか否かで異なる処理方法を決定するようにしている点が異なる。
これによれば、ユーザーがボタンを押下しながらスキャンをするという簡便な操作で、より多くの種類の情報を指定してスキャンし、変換処理を行うことができる。すなわち、よって、本実施の形態2に係るスキャンシステム1によれば、簡便な操作で、より多くの種類の異なる情報を適切な形式で保存することができる。
また、本実施の形態2において用意された複数の処理方法は、第1の処理方法〜第4の処理方法を含んでいる。第1の処理方法は、複数の画像情報を変換後の情報を、媒体としてスキャンした紙書籍のページ番号を示すページ番号情報として生成する。第2の処理方法は、複数の画像情報を変換後の情報を、媒体としてスキャンした紙書籍の図面を示す図面情報として生成する。第3の処理方法は、複数の画像情報を変換後の情報を、媒体としてスキャンした紙書籍の本文を示す本文情報として生成する。第4の処理方法は、複数の画像情報を変換後の情報を、当該複数の画像情報に基づいて算出した媒体をスキャンした軌跡を、メモ書きとして示すメモ書き情報として生成する。
これによれば、紙書籍に含まれる異なる種類の情報、及び、それに関するメモ書きを区別して保存することができる。
(実施の形態2の変形例)
ここで、上述の実施の形態2においては、2回の本文のスキャンの間におけるペン型スキャナ2をペンアップしている状態で動作状態切替ボタン16が押下された場合には、その入力を改行入力として処理し、2回の本文のスキャンの間に動作状態切替ボタン16が瞬間的に押下されなかった場合には、2回の本文を改行なしで連結するように処理してもよい。
例えば、状態判定手段24は、ペン型スキャナ2がペンアップされてからペンダウンされるまでの間に、状態設定手段23に対して操作が行われた場合(動作状態切替ボタン16が押下された場合)、改行入力がされたことを示す通知情報を生成し、スマートフォン3に送信する。
スマートフォン3の第2の選択手段34は、第3の処理手段35から本文情報を取得したときに、ペン型スキャナ2から改行入力がされたことを示す通知情報を受信している場合には、その本文情報に、改行入力がされたことを示す通知情報を付与して、サーバー4に送信する。一方、第2の選択手段34は、第3の処理手段35から本文情報を取得したときに、ペン型スキャナ2から改行入力がされたことを示す通知情報を受信していない場合には、その本文情報に、改行入力がされたことを示す通知情報を付与せず、サーバー4に送信する。
サーバー4の情報制御手段40は、スマートフォン3から受信した本文情報に、改行入力がされたことを示す通知情報が付与されている場合、記憶手段41に格納されている本文情報を、その本文情報が示す本文と、改行文字と、受信した本文情報が示す本文と連結した本文を示す情報に更新する。一方、サーバー4の情報制御手段40は、スマートフォン3から受信した本文情報に、改行入力がされたことを示す通知情報が付与されていない場合、記憶手段41に格納されている本文情報を、その本文情報が示す本文と、本文情報が示す本文とを、それらの間に改行文字を入れずに連結した本文を示す情報に更新する。
<実施の形態3>
次に、実施の形態3について説明する。以下、実施の形態2と同様の内容については、同一の符号を付す等して、説明を省略する。実施の形態3に係るスキャンシステム1の概要構成、及び、ペン型スキャナ2のハードウェア構成は、実施の形態2に係るスキャンシステム1の概要構成、及び、ペン型スキャナ2のハードウェア構成と同様であるため、その説明を省略する。
本実施の形態3では、最も新しく生成されたページ番号情報に関連付けて、図面情報及び本文情報を保存する。また、最も新しく生成されたページ番号情報と最も新しく生成された本文情報の組に関連付けて、メモ書き情報を保存する。これにより、ユーザーがページ番号のスキャン後に、そのページ番号のページ内の図面及び本文をスキャンすることで、サーバー4に格納された図面情報が示す図面、及び、本文情報が示す本文が、紙書籍において、どのページに記載されたものであるのかをページ番号情報から容易に把握可能となる。また、ユーザーがページ番号及び本文のスキャン後に、その本文についてのメモ書きを入力することで、メモ書き情報が示すメモ書きが、紙書籍において、どのページのどの本文に対するメモ書きであるのかをページ番号情報及び本文情報から容易に把握可能となる。
続いて、図15を参照して、本実施の形態3に係るスキャンシステム1の詳細構成について説明する。なお、図15では、上述したスマートフォン3が有する記憶手段を、「記憶手段39」として明示している。
図15に示すように、実施の形態3に係るサーバー4は、実施の形態3に係るサーバー4と比較して、さらに、情報制御手段40に代えて、構造化手段42を有する点が異なる。
本実施の形態3では、第2の選択手段34は、ページ番号情報をサーバー4に送信したときに、そのページ番号情報を記憶手段39に一時的に格納する。また、第2の選択手段34は、本文情報をサーバー4に送信したときも、その本文情報を記憶手段39に一時的に格納する。これにより、最も新しく生成されたページ番号情報及び本文情報が記憶手段39に保持される。
そして、第2の選択手段34は、図面情報をサーバー4に送信するとき、その図面情報に対して記憶手段39に格納したページ番号情報を付与してから、サーバー4に送信する。同様に、第2の選択手段34は、本文情報をサーバー4に送信するとき、その本文情報に対して記憶手段39に格納したページ番号情報を付与してから、サーバー4に送信する。また、第2の選択手段34は、メモ書き情報をサーバー4に送信するとき、そのメモ書き情報に対して記憶手段39に格納したページ番号情報及び本文情報を付与してから、サーバー4に送信する。
構造化手段42は、スマートフォン3の第2の選択手段34から送信されたページ番号情報、本文情報、図面情報及びメモ書き情報を受信し、記憶手段41に格納する。ここで、構造化手段42は、本文情報を記憶手段41に格納する場合、記憶手段41に格納されたページ番号情報のうち、その本文情報に付されたページ番号情報と同一のページ番号を示すページ番号情報に関連付けてその本文情報を格納する。これについては、図面情報についても同様である。また、構造化手段42は、メモ書き情報を記憶手段41に格納する場合、記憶手段41に格納されたページ番号情報及び本文情報のうち、そのメモ書き情報に付与されたページ番号情報及び本文情報と同一のページ番号を示すページ番号情報及び同一の本文を示す本文情報に関連付けてそのメモ書き情報を記憶手段41に格納する。
続いて、図16を参照して、本実施の形態3に係るスキャンシステム1のスキャン処理について説明する。
ステップS11〜S21の処理については、実施の形態2と同様である。ただし、本実施の形態3では、ステップS18の処理とステップS19の処理の間で、第2の選択手段34は、第1の処理手段32によって生成されたページ番号情報を記憶手段39に格納する。すなわち、最も新しくスキャンしたページ番号を、現在スキャン中のページ(現在読書中のページ)のページ番号として更新する(S41)。
一方、ステップS21の処理後、第2の選択手段34は、第2の処理手段33によって生成された図面情報とともに、記憶手段39に格納されたページ番号情報を取得する(S42)。構造化手段42は、記憶手段41に格納されているページ番号情報のうち、第2の選択手段34が取得したページ番号情報と一致するページ番号情報に、第2の選択手段34が取得した図面情報を関連付けて記憶手段41に格納する(S43)。
ステップS32〜S34、S36、S37の処理については、実施の形態2で説明した通りである。ステップS34の処理後、第2の選択手段34は、第3の処理手段35によって生成された本文情報を記憶手段39に格納する。すなわち、最も新しくスキャンした本文を、現在スキャン中のページにおいてスキャンした本文(現在読書中のページにおいて読んだ本文)として更新する(S44)。
第2の選択手段34は、第3の処理手段35によって生成された本文情報とともに、記憶手段39に格納されたページ番号情報を取得する(S45)。構造化手段42は、記憶手段41に格納されているページ番号情報のうち、第2の選択手段34が取得したページ番号情報と一致するページ番号情報に、第2の選択手段34が取得した本文情報を関連付けて記憶手段41に格納する(S46)。
一方、ステップS37の処理後、第2の選択手段34は、第4の処理手段36によって生成されたメモ書き情報とともに、記憶手段39に格納されたページ番号情報及び本文情報を取得する(S47)。構造化手段42は、記憶手段41に格納されているページ番号情報及び本文情報の組のうち、第2の選択手段34が取得したページ番号情報及び本文情報の組と一致するページ番号情報及び本文情報の組に、第2の選択手段34が取得したメモ書き情報を関連付けて記憶手段41に格納する(S48)。
上述の処理によれば、図17に示すように、ページ番号をスキャンした後に、本文をスキャンすることで、そのページ番号を示すページ番号情報に、その本文を示す本文情報を関連付けて保存することができる。また、図17に示すように、ページ番号をスキャンした後に、図面をスキャンするとこで、そのページ番号を示すページ番号情報に、その図面を示す図面情報を関連付けて保存することができる。すなわち、スキャンした本文及び図面が、どのページに記載されたものであるかを記録することができる。
また、図17に示すように、ページ番号及び本文をスキャンした後に、メモ書きを入力することで、そのページ番号及び本文を示すページ番号情報及び本文情報に、そのメモ書きを示すメモ書き情報を関連付けて保存することができる。すなわち、入力したメモ書きが、どのページにおける、どの本文に対して記載したものであるかを記録することができる。
ここで、以上の説明では、最も新しく生成されたページ番号情報と、最も新しく生成された本文情報との組に関連付けて、メモ書き情報を保存する例について説明したが、これに限られない。例えば、最も新しく生成されたページ番号情報と、最も新しく生成された図面情報との組に関連付けて、メモ書き情報を保存するようにしてもよい。この場合、ステップ21の処理後、第2の選択手段34は、第2の処理手段33によって生成された図面情報を記憶手段39に格納すればよい。ステップS47の処理として、第2の選択手段34は、第4の処理手段36によって生成されたメモ書き情報とともに、記憶手段39に格納されたページ番号情報及び本文情報を取得すればよい。そして、ステップS48の処理として、構造化手段42は、記憶手段41に格納されているページ番号情報及び図面情報の組のうち、第2の選択手段34が取得したページ番号情報及び図面情報の組と一致するページ番号情報及び図面情報の組に、第2の選択手段34が取得したメモ書き情報を関連付けて記憶手段41に格納すればよい。この場合、ステップS44の処理は不要である。
また、上述のページ番号情報と本文情報との組と関連付けてのメモ書き情報の保存と、上述のページ番号情報と図面情報との組と関連付けてのメモ書き情報の保存との両方を実施するようにしてもよい。この場合、上述のステップS44の処理と、上述のステップ21の処理後における図面情報の記憶手段39への格納の両方を実施するようにすればよい。ステップS47の処理として、第2の選択手段34は、最も新しく生成された本文情報と、最も新しく生成された図面情報のうち、最も新しく生成された情報(本文情報又は図面情報)を取得すればよい。そして、ステップS48の処理として、構造化手段42は、第2の選択手段34が取得したページ番号情報と本文情報又は図面情報との組と一致するページ番号情報と本文情報又は図面情報との組に、第2の選択手段34が取得したメモ書き情報を関連付けて記憶手段41に格納すればよい。
以上に説明したように、本実施の形態3に係るスキャンシステム1は、最も新しく生成されたページ番号情報に、そのページ番号情報の生成後に生成された図面情報、本文情報、又は、メモ書き情報を関連付けて記憶手段41に格納する構造化手段42を有している。また、さらに、構造化手段42は、最も新しく生成されたページ番号情報と、最も新しく生成された本文情報又は図面情報との組に、それらページ番号情報及び本文情報の生成後に生成されたメモ書き情報を関連付けて記憶手段41に格納するようにしている。
これによれば、ユーザーがスキャンしたデータが相互に関連付けられて保存されるため、ユーザーがサーバー4に格納された情報を検索・参照などする際に、情報を利用し易くすることができる。
<実施の形態4>
次に、実施の形態4について説明する。以下、実施の形態3と同様の内容については、同一の符号を付す等して、説明を省略する。実施の形態4に係るスキャンシステム1の概要構成、及び、ペン型スキャナ2のハードウェア構成は、実施の形態3に係るスキャンシステム1の概要構成、及び、ペン型スキャナ2のハードウェア構成と同様であるため、その説明を省略する。
本実施の形態4では、ペン型スキャナ2の移動軌跡として、非線形の軌跡を検出した場合には、その移動軌跡が予め定義されたジェスチャに該当するか否かを判定する。そして、ペン型スキャナ2の移動軌跡がジェスチャに該当する場合、そのジェスチャに対応する処理を実行する。ジェスチャとして、例えば、任意の記号(丸、四角、三角など)、又は、アルファベットなどを定義することができる。
続いて、図18を参照して、本実施の形態4に係るスキャンシステム1の詳細構成について説明する。
図18に示すように、実施の形態4に係るスマートフォン3は、実施の形態3に係るスマートフォン3は、実施の形態3に係るスマートフォン3と比較して、さらに、参照手段37と、ジェスチャ定義DB38と、第1のサブ処理手段50と、第2のサブ処理手段51と、第3のサブ処理手段52とを有する点が異なる。
本実施の形態4に係る処理方法決定手段30は、処理方法決定手段30は、ペン型スキャナ2の移動軌跡が非直線であり、かつ、ペン型スキャナ2の動作状態が第2の状態である場合、その移動軌跡が所定のジェスチャに該当するか否かを参照手段37によって判定させる。
参照手段37は、ペン型スキャナ2の移動軌跡が非直線であり、かつ、ペン型スキャナ2の動作状態が第2の状態である場合、ペン型スキャナ2から受信した軌跡情報が示すペン型スキャナ2の移動軌跡が、ジェスチャ定義DB38に含まれる複数のジェスチャ情報が示すジェスチャのいずれかに該当するか否かを判定する。
参照手段37は、ペン型スキャナ2の移動軌跡が、複数のジェスチャ情報が示すジェスチャのいずれかに該当すると判定した場合、第1のサブ処理手段50〜第3のサブ処理手段52のうち、そのジェスチャに対応するサブ処理手段に処理を実行させる。
すなわち、本実施の形態3では、複数のジェスチャ情報として、第1のサブ処理手段50〜第3のサブ処理手段52のそれぞれに対応する3つのジェスチャ情報がジェスチャ定義DB38に含まれている。なお、本実施の形態3では、ジェスチャ情報及びサブ処理手段が3つの例について示しているが、これに限られない。
ジェスチャ定義DB38には、上述したように、複数のジェスチャ情報が含まれている。ジェスチャ定義DB38は、スマートフォン3の記憶手段39に格納されている。ここで、ジェスチャ情報は、ジェスチャとして定められた移動軌跡のテンプレートを示す情報である。
例えば、参照手段37は、ペン型スキャナ2から受信した軌跡情報が示すペン型スキャナ2の移動軌跡と、ジェスチャ情報が示す移動軌跡のテンプレートとの類似度が、所定の閾値以上である場合、ペン型スキャナ2の移動軌跡が、ジェスチャ情報が示すジェスチャに該当すると判定する。一方、参照手段37は、ペン型スキャナ2から受信した軌跡情報が示すペン型スキャナ2の移動軌跡と、ジェスチャ情報が示す移動軌跡のテンプレートとの類似度が、所定の閾値未満である場合、ペン型スキャナ2の移動軌跡が、ジェスチャ情報が示すジェスチャに該当しないと判定する。なお、移動軌跡とジェスチャの類似度の判定する方法には、任意の方法を採用してよいため、詳細な説明は省略する。
第1のサブ処理手段50〜第3のサブ処理手段52のそれぞれは、所定の処理を実行する。第1のサブ処理手段50〜第3のサブ処理手段52のそれぞれが実行する処理として、任意の処理を予め定めることができる。例えば、第1のサブ処理手段50〜第3のサブ処理手段52のそれぞれが実行する処理として、スキャンシステム1の動作モードを変更する処理を定義してもよい。
例えば、第1のサブ処理手段50の処理として、スキャンシステム1の動作モードを「読書モード」と「辞書モード」の間で切り替える処理を実行してもよい。なお、「読書モード」では、スキャンシステム1は、これまでに説明したように、紙書籍を読書中のユーザーがスキャンした情報を変換して保存する動作を行う。この場合、ユーザーによってペン型スキャナ2の移動軌跡として、第1のサブ処理手段50に対応するジェスチャが入力された場合、第1のサブ処理手段50は、スキャンシステム1の動作モードを、「読書モード」から「辞書モード」に移行する。次に、ユーザーが本文をスキャンする操作で、意味が分からない単語をスキャンした場合、第3の処理手段35によって得られるテキスト情報が示す単語を、スマートフォン3が有する辞書DB(図示せず)から検索する。例えば、辞書DBは、スマートフォン3の記憶手段39に予め格納されている。辞書DBは、複数の単語と、複数の単語のそれぞれの意味が対応付けられている情報である。スマートフォン3は、辞書DBにおいて、検索した単語に対応する意味をスマートフォン3が有する表示手段(図示せず)に表示する。この表示手段は、例えば、タッチパネルである。この後、再度、ユーザーによってペン型スキャナ2の移動軌跡として、第1のサブ処理手段50に対応するジェスチャが入力された場合、第1のサブ処理手段50は、スキャンシステム1の動作モードを、「辞書モード」から「通常モード」に移行する。
なお、辞書DBは、上述したように、スマートフォン3が有する例に限られない。例えば、サーバー4が有する記憶手段41に格納されていてもよい。この場合、スマートフォン3は、第3の処理手段35によって得られるテキスト情報を送信して、サーバー4に検索を指示する。サーバー4は、スマートフォン3から受信したテキスト情報が示す単語を辞書DBから検索し、検索した単語に対応する意味を示す情報をスマートフォン3に送信する。そして、スマートフォン3は、サーバー4から受信した情報が示す意味を表示手段に表示すればよい。
ここで、例えば、スマートフォン3が有するCPUが、スマートフォン3が有する記憶手段39に格納されたプログラムを実行することで、上述の手段30〜36と同様に、参照手段37及びサブ処理手段50〜52として動作する。
続いて、図19を参照して、本実施の形態4に係るスキャンシステム1のスキャン処理について説明する。ここでは、次のように動作する例について説明する。
ステップS11〜S21、S31〜S34、S36、S37、S41〜48については、実施の形態3と同様である。処理方法決定手段30によってペン型スキャナ2の移動軌跡が非直線であると判定された場合(S32:No)、参照手段37は、ジェスチャ定義DB38を参照し(S51)、軌跡情報が示すペン型スキャナ2の移動軌跡が、ジェスチャ定義DB38に含まれる複数のジェスチャ情報が示すジェスチャのいずれかに該当するか否かを判定する(S52)。
軌跡情報が示すペン型スキャナ2の移動軌跡が、複数のジェスチャ情報が示すジェスチャのいずれかに該当すると判定した場合(S52:Yes)、第1のサブ処理手段50〜第3のサブ処理手段52のうち、ペン型スキャナ2の移動軌跡に該当すると判定されたジェスチャに対応するサブ処理手段は、処理を実行する(S53)。一方、軌跡情報が示すペン型スキャナ2の移動軌跡が、複数のジェスチャ情報が示すジェスチャのいずれにも該当しないと判定した場合(S52:No)、ステップS36以降の処理を実行する。
なお、上述したように、画像情報の処理方法の決定、及び、決定した処理方法による画像情報の処理を、ペン型スキャナ2又はサーバー4で行うようにしてもよく、この場合には、上述のジェスチャに関する処理も、画像情報の処理方法の決定、及び、決定した処理方法による画像情報の処理を行うペン型スキャナ2又はサーバー4で行うようにすればよい。すなわち、ジェスチャに関する各手段37、38、50〜52を、ペン型スキャナ2又はサーバー4に有するようにしてもよい。
また、以上の説明では、ペン型スキャナ2の移動軌跡が非直線であり、かつ、ペン型スキャナ2の動作状態が第2の状態である場合、その移動軌跡が所定のジェスチャに該当するか否かを判定する例について説明したが、これに限られない。例えば、処理方法決定手段30は、ペン型スキャナ2の移動軌跡が非直線であり、かつ、ペン型スキャナ2の動作状態が第1の状態である場合、その移動軌跡が所定のジェスチャに該当するか否かを参照手段37によって判定させるようにしてもよい。
以上に説明したように、本実施の形態4では、スマートフォン3の記憶手段39は、媒体をスキャンする軌跡のテンプレートであるジェスチャを示すジェスチャ情報が格納されている。そして、参照手段37は、媒体をスキャンした軌跡が、ジェスチャ情報が示すジェスチャに該当すると判定した場合、所定のサブ処理(第1のサブ処理手段50〜第3のサブ処理手段52のそれぞれが実行する処理に対応)を実行するようにしている。
これによれば、ペン型スキャナ2によるスキャン操作によって、より多くの種類の処理(上記実施の形態4では5種類以上の処理)を実行することが可能となる。また、上記実施の形態4では、スキャンシステム1の使用用途において、頻度が高い処理(ページ番号、本文及び図面のスキャン、及び、メモ書きの入力に応じた処理)は、簡便な操作で実行できる処理として割り当てられている。一方、頻度の低い処理(動作モードの変更)は、ペン型スキャナ2が若干複雑となるジェスチャに対応するサブ処理として割り当てればよい。よって、ユーザーによる利便性を低下させることなく、実行できる処理の種類を増加させることができる。
<実施の形態5>
次に、実施の形態5について説明する。以下、実施の形態4と同様の内容については、同一の符号を付す等して、説明を省略する。実施の形態5に係るスキャンシステム1の概要構成、及び、ペン型スキャナ2のハードウェア構成は、実施の形態4に係るスキャンシステム1の概要構成、及び、ペン型スキャナ2のハードウェア構成と同様であるため、その説明を省略する。
本実施の形態5では、ユーザーから最も新しく指定されたISBN(International Standard Book Number)を示すISBN情報に関連付けて、ページ番号情報、図面情報、本文情報及びメモ書き情報を保存する。これにより、ユーザーがISBNの指定後に、そのISBNで特定される紙書籍のページ番号、図面及び本文をスキャンすることで、サーバー4に格納されたページ番号情報、図面情報及び本文情報が示すページ番号、図面及び本文が、どの紙書籍に記載されたものであるのかをISBN情報から容易に把握可能とする。また、ユーザーがISBNの指定後に、メモ書きを入力することで、そのメモ書きが、どの紙書籍に対するメモ書きであるのかをISBN情報から容易に把握することができる。
続いて、図20を参照して、本実施の形態5に係るスキャンシステム1の詳細構成について説明する。
図20に示すように、実施の形態5に係るペン型スキャナ2は、実施の形態4に係るペン型スキャナ2と比較して、さらに、ID記憶手段25と、ID送信手段26とを有する点が異なる。
ID記憶手段25は、ペン型スキャナ2を一意に識別するIDを示すID情報が格納される。ID記憶手段25は、例えば、MCU13が有する不揮発性メモリ(例えばフラッシュメモリ)に予め格納されている。
ID送信手段26は、ID記憶手段25に格納されたID情報を取得し、スマートフォン3に送信する。
図20に示すように、実施の形態5に係るスマートフォン3は、実施の形態4に係るスマートフォン3と比較して、さらに、入力手段53と、情報制御手段54と、ISBN DB55と、表示手段56とを有する点が異なる。
入力手段53は、ユーザーから任意の内容の入力を受ける。入力手段53は、ユーザーからの入力に応じて、その入力内容を示す入力信号を生成し、情報制御手段54に出力する。
情報制御手段54は、ペン型スキャナ2から送信されたID情報を取得し、保持する。また、情報制御手段54は、ユーザーがISBNを入力手段53に入力した場合、その入力に応じて入力手段53から入力される入力信号に基づいて、ユーザーが入力したISBNを示すISBN情報を生成し、保持する。例えば、情報制御手段54は、ID情報及びISBN情報をメモリ14に格納することで保持する。
ISBN DB55は、ISBNを示すISBN情報と、そのISBN情報が示すISBNで特定される紙書籍のタイトルを示すタイトル情報との組が、異なる複数の紙書籍について予め格納されている。なお、タイトル情報は、さらに、紙書籍の版数を含んでいてもよい。
表示手段56は、任意の内容を示す画像を表示する。表示手段56は、例えば、情報制御手段54から表示が指示された画像を表示する。スマートフォン3が有するタッチパネル(図示せず)が、入力手段53及び表示手段56として動作する。
ここで、例えば、スマートフォン3が有するCPUが、スマートフォン3が有する記憶手段39に格納されたプログラムを実行することで、上述の手段30〜37、50〜52と同様に、情報制御手段54として動作する。
続いて、図21を参照して、本実施の形態5に係るスキャンシステム1の前処理について説明する。
スマートフォン3のCPUは、アプリケーションプログラムの実行を開始すると、スマートフォン3の各手段30〜37、50〜54としての動作を開始する。スマートフォン3の情報制御手段54は、ペン型スキャナ2からのペアリング情報を待ち合わせる(S101)。
ペン型スキャナ2のID送信手段26は、その電源が投入されて起動すると、ペン型スキャナ2とスマートフォン3とをペアリングするためのペアリング情報をスマートフォン3に送信する(S102)。このペアリング情報には、ID記憶手段25に格納されるID情報が含まれる。
スマートフォン3の情報制御手段54は、ペン型スキャナ2から送信されたペアリング情報を受信する(S103)。情報制御手段54は、受信したペアリング情報に基づいて、スマートフォン3とペン型スキャナ2とをペアリングする。また、情報制御手段54は、ペアリング情報に含まれるID情報を記憶手段39に格納する。すなわち、受信したID情報が示すIDを、現在スキャンに利用しているペン型スキャナ2のIDとして保存する(S104)。
情報制御手段54は、書籍リストを示す画像の表示を表示手段56に指示する。表示手段56は、情報制御手段54からの指示に応じて、書籍リストを表示する(S105)。ここで、書籍リストは、これまでにユーザーがスキャンした紙書籍のISBN及びタイトルの組の一覧を示すリストである。書籍リストを示す書籍リスト情報が、スマートフォン3が有する記憶手段39に格納されている。情報制御手段54は、記憶手段39に格納される書籍リスト情報に基づいて、書籍リストを示す画像を生成する。書籍リスト情報は、情報制御手段54によって更新される。
ユーザーは、表示手段56に表示された書籍リスト中に、これからスキャンを行う紙書籍が存在する場合(S106:Yes)、その書籍リスト中からその紙書籍を選択する入力を入力手段53に行う(S107)。情報制御手段54は、その入力に応じて入力手段53から入力される入力信号に基づいて、書籍リスト中においてユーザーが選択した紙書籍を特定する。情報制御手段54は、特定した紙書籍のISBNを書籍リストから取得し、取得したISBNを示すISBN情報を記憶手段39に格納する。すなわち、最も新しく入力されたISBNを、現在ユーザーがスキャン中(読書中)の紙書籍のISBNとして更新する(S108)。
一方、ユーザーは、表示手段56に表示された書籍リスト中に、これからスキャンを行う紙書籍が存在しない場合(S106:No)、これからスキャンを行う紙書籍のISBNを入力手段53に入力する(S109)。情報制御手段54は、その入力に応じて入力手段53から入力される入力信号に基づいて、ユーザーが入力したISBNを取得する。情報制御手段54は、取得したISBNを、ISBN DB55から検索する(S111、S112)。
取得したISBNをISBN DB55で検出した場合(S112:Yes)、取得したISBNと、ISBN DB55において、そのISBNに対応するタイトルの組を追加するように書籍リストを更新する(S113)。
一方、取得したISBNをISBN DB55で検出しなかった場合(S112:No)、情報制御手段54は、タイトルの入力を促すが画像の表示を表示手段56に指示する。表示手段56は、情報制御手段54からの指示に応じて、タイトルの入力を促すが画像を表示する(S114)。
ユーザーは、これからスキャンを行う紙書籍のタイトルを入力手段53に入力する(S115)。情報制御手段54は、その入力に応じて入力手段53から入力される入力信号に基づいて、ユーザーが入力したタイトルを取得する。情報制御手段54は、取得したISBNと、取得したタイトルの組を追加するように書籍リストを更新する(S113)。
ステップS113の実行後、情報制御手段54は、取得したISBNを示すISBN情報を記憶手段39に格納する。すなわち、最も新しく入力されたISBNを、現在ユーザーがスキャン中(読書中)の紙書籍のISBNとして更新する(S108)。
情報制御手段54は、スキャンする紙書籍の設定が完了したことを通知する通知情報を、ペン型スキャナ2に送信する(S115)。ペン型スキャナ2の画像取得手段20は、スマートフォン3からの通知情報の受信に応じて、ページ番号のスキャンを待ち合わせる(S116)。これは、図22を参照して、次に説明するスキャン処理におけるステップS11に相当する。
続いて、図22を参照して、本実施の形態5に係るスキャンシステム1のスキャン処理について説明する。
実施の形態5に係るスキャンシステム1のスキャン処理は、実施の形態4に係るスキャンシステム1のスキャン処理と比較して、ステップS42、S43、S45、S46、S47、S48のそれぞれに代えて、ステップS61、S62、S63、S64、S65、S66を有する。
ステップS21の処理後、第2の選択手段34は、第2の処理手段33によって生成された図面情報とともに、記憶手段39に格納されたID情報、ISBN情報及びページ番号情報を取得する(S61)。構造化手段42は、記憶手段41に格納されているID情報、ISBN情報及びページ番号情報の組のうち、第2の選択手段34が取得したID情報、ISBN情報及びページ番号情報の組と一致するID情報、ISBN情報及びページ番号情報の組に、第2の選択手段34が取得した図面情報を関連付けて記憶手段41に格納する(S62)。
ステップS44の処理後、第2の選択手段34は、第3の処理手段35によって生成された本文情報とともに、記憶手段39に格納されたID情報、ISBN情報及びページ番号情報を取得する(S63)。構造化手段42は、記憶手段41に格納されているID情報、ISBN情報及びページ番号情報の組のうち、第2の選択手段34が取得したID情報、ISBN情報及びページ番号情報の組と一致するID情報、ISBN情報及びページ番号情報の組に、第2の選択手段34が取得した本文情報を関連付けて記憶手段41に格納する(S64)。
ステップS37の処理後、第2の選択手段34は、第4の処理手段36によって生成されたメモ書き情報とともに、記憶手段39に格納されたID情報、ISBN情報、ページ番号情報及び本文情報を取得する(S65)。構造化手段42は、記憶手段41に格納されているID情報、ISBN情報、ページ番号情報及び本文情報の組のうち、第2の選択手段34が取得したID情報、ISBN情報、ページ番号情報及び本文情報の組と一致するID情報、ISBN情報、ページ番号情報及び本文情報の組に、第2の選択手段34が取得したメモ書き情報を関連付けて記憶手段41に格納する(S66)。
なお、以上の説明では、ISBNをスマートフォン3で入力するようにしているが、これに限られない。例えば、ISBNをペン型スキャナ2で入力するようにしてもよい。すなわち、ペン型スキャナ2が、入力手段53と、情報制御手段54の一部とを有するようにしてもよい。この場合、例えば、入力手段53として、ISBNを入力可能な操作ボタンをペン型スキャナ2に有するようにする。そして、ペン型スキャナ2の情報制御手段54が、ISBN情報を生成してスマートフォン3に送信し、スマートフォン3の情報制御手段54が、ペン型スキャナ2から受信したISBN情報に基づいて上述と同様の処理を行うようにすればよい。
上述した処理によれば、ペアリングによりペン型スキャナ2のIDを送信し、ISBNを入力し、ページ番号をスキャンした後に、本文をスキャンすることで、図23に示すように、それらのID、ISBN及びページ番号を示すID情報、ISBN情報及びページ番号情報に、その本文を示す本文情報を関連付けて保存することができる。また、ペアリングによりペン型スキャナ2のIDを送信し、ISBNを入力し、ページ番号をスキャンした後に、図面をスキャンするとこで、図23に示すように、それらのID、ISBN及びページ番号を示すID情報、ISBN情報及びページ番号情報に、その図面を示す図面情報を関連付けて保存することができる。すなわち、スキャンした本文及び図面が、どの紙書籍における、どのページに記載されたものであるかを記録することができる。
また、図23に示すように、ペアリングによりペン型スキャナ2のIDを送信し、ISBNを入力し、ページ番号及び本文をスキャンした後に、メモ書きを入力することで、それらのID、ISBN、ページ番号及び本文を示すID情報、ISBN情報、ページ番号情報及び本文情報に、そのメモ書きを示すメモ書き情報を関連付けて保存することができる。すなわち、入力したメモ書きが、どの紙書籍における、どのページにおける、どの本文に対して記載したものであるかを記録することができる。
ここで、以上の説明では、ID情報と、最も新しく生成されたISBN情報と、最も新しく生成されたページ番号情報と、最も新しく生成された本文情報との組に関連付けて、メモ書き情報を保存する例について説明したが、これに限られない。例えば、ID情報と、最も新しく生成されたISBN情報と、最も新しく生成されたページ番号情報と、最も新しく生成された図面情報との組に関連付けて、メモ書き情報を保存するようにしてもよい。この場合、ステップ21の処理後、第2の選択手段34は、第2の処理手段33によって生成された図面情報を記憶手段39に格納すればよい。ステップS65の処理として、第2の選択手段34は、第4の処理手段36によって生成されたメモ書き情報とともに、記憶手段39に格納されたID情報、ISBN情報、ページ番号情報及び図面情報を取得すればよい。そして、ステップS66の処理として、構造化手段42は、記憶手段41に格納されているID情報、ISBN情報、ページ番号情報及び図面情報の組のうち、第2の選択手段34が取得したID情報、ISBN情報、ページ番号情報及び図面情報の組と一致するID情報、ISBN情報、ページ番号情報及び図面情報の組に、第2の選択手段34が取得したメモ書き情報を関連付けて記憶手段41に格納すればよい。この場合、ステップS44の処理は不要である。
また、上述のページ番号情報と本文情報との組と関連付けてのメモ書き情報の保存と、上述のページ番号情報と図面情報との組と関連付けてのメモ書き情報の保存との両方を実施するようにしてもよい。この場合、上述のステップS44の処理と、上述のステップ21の処理後における図面情報の記憶手段39への格納の両方を実施するようにすればよい。ステップS65の処理として、最も新しく生成された本文情報と、最も新しく生成された図面情報のうち、最も新しく生成された情報(本文情報又は図面情報)を取得すればよい。そして、ステップS66の処理として、構造化手段42は、第2の選択手段34が取得したID情報とISBN情報とページ番号情報と本文情報又は図面情報との組と一致するID情報とISBN情報とページ番号情報と本文情報又は図面情報との組に、第2の選択手段34が取得したメモ書き情報を関連付けて記憶手段41に格納すればよい。
以上に説明したように、本実施の形態5では、入力手段53は、媒体としてスキャンする紙書籍のISBNを指定する入力が行われる。構造化手段42は、最も新しく指定されたISBNを示すISBN情報と、最も新しく生成されたページ番号情報とに、そのISBNの指定及びそのページ番号情報の生成後に、生成された図面情報、本文情報、又は、メモ書き情報を関連付けて記憶手段41に格納するようにしている。
これによれば、異なる紙書籍ごとにスキャンした情報群を構築することができるため、サーバー4に格納された情報を検索・参照などする際に、情報を利用し易くすることができる。
また、本実施の形態5では、ペン型スキャナ2は、ペン型スキャナ2を一意に識別するID情報が予め格納されるID記憶手段25と、ID記憶手段25に格納されたID情報を送信するID送信手段26とを有している。構造化手段42は、ID送信手段26から送信されたID情報と、最も新しく指定されたISBNを示すISBN情報と、最も新しく生成されたページ番号情報とに、そのID情報の受信、そのISBNの指定及びそのページ番号情報の生成後に、生成された図面情報、本文情報、又は、メモ書き情報を関連付けて記憶手段41に格納するようにしている。
これによれば、さらに、異なるペン型スキャナ2毎に(すなわち、異なるユーザー毎に)にスキャンした情報群を構築することができるため、サーバー4に格納された情報を検索・参照などする際に、情報を利用し易くすることができる。
(実施の形態5の変形例1)
ここで、上述の実施の形態5においては、スキャンする紙書籍を変更する場合、ユーザーは、操作対象をペン型スキャナ2からスマートフォン3に変更し、スマートフォン3に対して、書籍リストから紙書籍を選択する操作、又は、ISBNを入力する手間が必要となる。そのため、このような手間を省くため、次に説明するように、スキャンシステム1の動作モードとして、ジェスチャを入力することで移行することができ、かつ、スキャンによってISBNを入力することができる「ISBNスキャンモード」を用意するようにしてもよい。
続いて、図24を参照して、本実施の形態5の変形例1に係るスキャンシステム1の詳細構成について説明する。
実施の形態5の変形例1に係るスキャンシステム1は、実施の形態5に係るスキャンシステム1と比較して、さらに、第5の処理手段57を有する点が異なる。
実施の形態5に係る第1のサブ処理手段50は、スキャンシステム1の動作モードを「読書モード」と「ISBNスキャンモード」の間で切り替える処理を実行する。
スキャンシステム1の動作モードが「読書モード」である場合、スマートフォン3は、上述したように、ペン型スキャナ2からの複数の画像情報の受信に応じて、第1の処理手段32、第2の処理手段、第3の処理手段35及び第4の処理手段36のうち、処理方法決定手段30によって決定された処理手段を動作させる。一方、スキャンシステム1の動作モードが「ISBNスキャンモード」である場合、スマートフォン3は、ペン型スキャナ2からの複数の画像情報の受信に応じて、第5の処理手段57を動作させる。
第5の処理手段57は、複数の画像情報が示す複数の画像を結合し、結合によって生成された画像に含まれる文字列に対してOCRを施して、その文字列が電子テキスト化されたテキスト情報を、ISBNを示すISBN情報として生成する。
続いて、実施の形態5の変形例1に係るスキャンシステム1のISBNスキャンモード時のスキャン処理について説明する。
ペン型スキャナ2の画像取得手段20は、ユーザーからペン型スキャナ2に対して媒体として紙書籍のISBNをスキャンする操作が行われるのを待ち合わせる(S120、S121:No)。すなわち、画像取得手段20は、ペン型スキャナ2がペンダウンされるのを待ち合わせる。
画像取得手段20は、ユーザーからペン型スキャナ2に対して媒体をスキャンする操作が行われた場合(S121:Yes)、媒体のスキャンを開始する(S122)。画像取得手段20は、ユーザーからペン型スキャナ2に対して媒体のスキャンを終了する操作が行われるまで、スキャンした媒体の画像を示す画像情報の生成・保持を繰り返す(S122、S123:No)。
第5の処理手段57は、画像取得手段20によって生成された複数の画像情報が示す画像を結合し(S124)、結合によって得られた画像に含まれるISBNの文字列に対してOCRを実施する(S125)。これにより、第5の処理手段57は、結合によって得られた画像に含まれるISBNの文字列を電子テキストとして示すテキスト情報を、ISBN情報として生成する。
情報制御手段54は、記憶手段に格納される書籍リスト情報が示す書籍リスト中に、第5の処理手段57が生成したISBN情報が示すISBNが存在するか否かを判定する(S126)。情報制御手段54は、書籍リスト中にISBN情報が示すISBNが存在する場合(S126:Yes)、そのISBN情報を記憶手段39に格納する。すなわち、最も新しくスキャンされたISBNを、現在ユーザーがスキャン中(読書中)の紙書籍のISBNとして更新する(S127)。
書籍リスト中にISBN情報が示すISBNが存在しない場合(S126:No)、情報制御手段54は、そのISBN情報が示すISBNを、ISBN DB55から検索する(S129)。以下、実行されるステップS130〜S132、S127、S133、S134は、実施の形態5で説明したステップS113〜S115、S108、S115、S116と同様であるため、説明を省略する。
以上に説明したように、本実施の形態5の変形例1では、参照手段37は、媒体をスキャンした軌跡が、ジェスチャ情報が示すジェスチャに該当すると判定した場合、スキャンシステム1の動作モードを、通常モードからISBNスキャンモードに移行させるサブ処理を実行する。第5の処理手段57は、スキャンシステムの動作モードがISBNスキャンモードである場合、複数の画像情報を所定の形式の情報に変換し、変換後の情報を、媒体としてスキャンした紙書籍のISBNを示すISBN情報として生成する。構造化手段42は、最も新しく生成されたISBN情報と、最も新しく生成されたページ番号情報と、そのISBN情報及びそのページ番号情報の生成後に、生成された図面情報、本文情報、又は、メモ書き情報を関連付けて記憶手段41に格納するようにしている。
これによれば、ペン型スキャナ2を操作するのみ(ジェスチャの入力及びISBNのスキャン)で、ISBNを入力して、スキャン対象の紙書籍(読書対象の本)を切り替えることができる。すなわち、より簡便な操作で、スキャン対象の紙書籍(読書対象の本)を切り替えることができる。
(実施の形態5の変形例2)
また、上述の実施の形態5において、より正確な本文のスキャン結果を得るために、本文のスキャンを行った場合に、他者のスキャン結果、又は、正規の電子書籍に基づいて、OCRで誤って認識された本文の補正を行えるようにしてもよい。
続いて、図26を参照して、本実施の形態5の変形例2に係るサーバー4の詳細構成について説明する。
図26に示すように、本実施の形態5の変形例2に係るサーバー4は、実施の形態5に係るサーバー4と比較して、さらに、参照手段43と、記憶手段44と、書籍DB45とを有する点が異なる。
本実施の形態5の変形例2に係る構造化手段42は、スマートフォン3からID情報、ISBN情報、ページ番号情報及び本文情報の組を受信した場合、そのISBN情報、ページ番号情報及び本文情報を参照手段43に出力して、その本文情報が示す本文の補正を参照手段43に指示する。
参照手段43は、記憶手段44及び記憶手段45に格納された情報に基づいて、構造化手段42から出力された本文情報が示す本文を補正する。
記憶手段44は、複数の他者のそれぞれについて、記憶手段41に格納される情報と同様の情報が格納されている。すなわち、他者が、他のペン型スキャナ2及び他のスマートフォン3を使用することで、上述と同様に、ID情報、ISBN情報、ページ番号情報、本文情報、図面情報及びメモ書き情報が、記憶手段44に格納される。
記憶手段45は、複数の紙書籍のそれぞれが電子テキスト化された複数の電子書籍が格納される。この電子書籍は、紙書籍が正確に電子テキスト化された正規の電子書籍となる。例えば、この電子書籍は、紙書籍の出版社によって提供される。電子書籍は、そのISBNを示すISBN情報と対応付けられている。また、電子書籍の各ページは、そのページ番号を示すページ番号情報と対応付けられている。
記憶手段44及び記憶手段45のそれぞれは、例えば、揮発性メモリ、ハードディスク、及び、フラッシュメモリ(不揮発性メモリ)等の記憶装置のうち、少なくとも1つを含む。記憶手段41、記憶手段44及び記憶手段45のそれぞれに含まれる記憶装置は、その全部又は一部が供給されていてもよい。
参照手段43は、構造化手段42から出力された本文情報が示す本文を、構造化手段42から出力されたISBN情報が示すISBNで特定される電子書籍のうち、構造化手段42から出力されたページ番号情報が示すページ番号のページにおける本文から、部分一致検索する。
参照手段43は、それらの本文が完全一致する場合、構造化手段42から出力された本文情報が示す本文を補正しない。参照手段43は、それらの本文が部分一致する場合、電子書籍の本文と一致するように、構造化手段42から出力された本文情報が示す本文を補正する。
一方、構造化手段42から出力されたISBN情報が示すISBNで特定される電子書籍が、記憶手段45に存在しない場合、参照手段43は、構造化手段42から出力された本文情報が示す本文を、記憶手段44に格納された本文情報のうち、構造化手段42から出力されたISBN情報及びページ番号情報の組と同一のISBN情報及びページ番号情報と対応付けられている本文情報が示す本文から、部分一致検索する。このとき、参照手段43は、複数の他者の本文情報が示す本文から、部分一致検索する。
参照手段43は、構造化手段42から出力された本文情報が示す本文(自分の本文情報が示す本文)が、複数の他者の本文情報が示す本文の全てと完全一致する場合、構造化手段42から出力された本文情報が示す本文を補正しない。参照手段43は、自分の本文情報が示す本文が、複数の他者の本文情報が示す本文の少なくとも1つと部分一致する場合、他者の本文情報が示す本文と一致するように、構造化手段42から出力された本文情報が示す本文を補正する。このとき、多数決によって、最も一致する数の多い本文に完全一致するように、自分の本文情報が示す本文を補正する。
構造化手段42は、参照手段43によって本文情報が補正された場合、記憶手段41に格納する本文情報を、補正後の本文情報に置き換える。
以上に説明したように、本実施の形態5に係る変形例1では、記憶手段45は、複数の紙書籍から正規に生成された複数の電子書籍が格納されている。参照手段43は、生成した本文情報が示す本文と、最も新しく指定されたISBNに対応する電子書籍のうち、最も新しく生成されたページ情報が示すページ番号のページにおける本文とが部分一致する場合、生成された本文情報が示す本文を、最も新しく生成されたページ情報が示すページ番号のページにおける本文と完全一致するように補正するようにしている。
また、本実施の形態5に係る変形例1では、記憶手段44は、他のユーザーが媒体をスキャンすることで生成されたISBN情報、ページ情報及び本文情報の組が複数格納されている。参照手段43は、最も新しく指定されたISBNに対応する電子書籍が記憶手段45に存在せず、生成された本文情報が示す本文が、最も新しく指定されたISBNが示すISBN情報及び最も新しく生成されたページ番号情報と同一のISBN情報及びページ番号情報に関連付けられている複数の他のユーザーの本文情報が示す本文の少なくとも1つと部分一致する場合、当該複数の他のユーザーの本文情報が示す本文において最も一致する数の多い本文と完全一致するように、生成した本文情報が示す本文を補正するようにしている。
これらによれば、スキャンによって得られた本文がOCRにおいて誤変換されてしまった場合であっても、正しい本文に補正することができる。
<実施の形態6>
次に、実施の形態6について説明する。以下、実施の形態2と同様の内容については、同一の符号を付す等して、説明を省略する。実施の形態6に係るスキャンシステム1の概要構成は、実施の形態1に係るスキャンシステム1の概要構成と同様であるため、その説明を省略する。
続いて、図27を参照して、実施の形態6に係るペン型スキャナ2のハードウェア構成について説明する。実施の形態6に係るペン型スキャナ2は、実施の形態2に係るペン型スキャナ2と比較して、さらに、表示装置17を有する点が異なる。
表示装置17は、スマートフォン3の処理方法決定手段30によって決定された処理方法の通知を表示する装置である。表示装置17は、例えば、予め用意された複数の処理方法のそれぞれに対応するLEDを含んでおり、処理方法決定手段30によって決定された処理方法に対応するLEDを点灯させるものであってもよい。この場合、表示装置17は、第1の処理方法〜第4の処理方法のそれぞれに対応する4つのLEDを有する。また、表示装置17は、例えば、液晶ディスプレイパネル及び有機ELディスプレイパネル等のように、処理方法決定手段30によって決定された処理方法を通知する画像を表示するディスプレイパネルであってもよい。
本実施の形態6に係るスマートフォン3は、処理方法を決定したときに、決定した処理方法を示す通知情報を生成し、ペン型スキャナ2に送信する。ペン型スキャナ2のMCU13は、スマートフォン3から送受信機15を介して受信した通知情報が示す処理方法の通知を表示装置17に表示する。
続いて、図28を参照して、本実施の形態6に係るスキャンシステム1の詳細構成について説明する。
図28に示すように、実施の形態6に係るペン型スキャナ2は、実施の形態3に係るペン型スキャナ2と比較して、さらに、表示制御手段27と、表示手段28とを有する点が異なる。
本実施の形態6に係る処理方法決定手段30は、第1の処理方法〜第4の処理方法から、複数の画像情報又は軌跡情報を処理する処理方法を決定したとき、決定した処理方法を示す通知情報を生成し、ペン型スキャナ2に送信する。
表示制御手段27は、スマートフォン3から受信した通知情報が示す処理方法の通知を表示するように表示手段28に指示する。すなわち、MCU13、メモリ14及び送受信機15が、表示制御手段27として動作する。
表示手段28は、表示制御手段27からの指示に応じて、決定された処理方法の通知を表示する。すなわち、表示装置17が、表示手段28として動作する。
なお、実施の形態6に係るスキャンシステム1のスキャン処理については、上述したように、ユーザーに対して、決定した処理方法を通知すること以外は、実施の形態2に係るスキャンシステム1のスキャン処理と同様であるため、説明を省略する。
なお、上述の説明では、表示制御手段27(表示装置17)及び表示手段28を、実施の形態2に対して適用した形態について説明したが、これに限られない。実施の形態1〜5のいずれかに対して、表示制御手段27(表示装置17)及び表示手段28を適用した形態も実施可能である。ただし、第1の処理方法及び第2の処理方法のいずれかを示す通知情報が通知されることとなるが、それは自明であるため、詳細な説明は省略する。
以上に説明したように、本実施の形態6では、表示制御手段27は、処理方法決定手段30が決定した処理方法の通知を表示手段28に表示するようにしている。
これによれば、スキャンした情報が、ユーザーが意図した通りの情報に変換されているか否かを知ることができる。よって、例えば、スキャンシステム1の動作不良を検出することが容易となる。
<実施の形態7>
次に、実施の形態7について説明する。以下、実施の形態5と同様の内容については、同一の符号を付す等して、説明を省略する。実施の形態7に係るスキャンシステム1の概要構成、及び、ペン型スキャナ2のハードウェア構成は、実施の形態5に係るスキャンシステム1の概要構成、及び、ペン型スキャナ2のハードウェア構成と同様であるため、その説明を省略する。
本実施の形態7では、スキャンシステム1の動作モードとして、紙書籍の情報をスキャンする「読書モード」と、ソーシャルリーディングサービス(又は書籍通販サイト)において紙書籍に対して他者が入力した情報を閲覧する「閲覧モード」とを有している。これにより、ソーシャルリーディングサービスにおいて紙書籍に対して他者が入力した情報を検索するための検索キーを、紙書籍の情報をスキャンすることで、その検索を容易とする。
続いて、図29を参照して、本実施の形態7に係るスキャンシステム1の詳細構成について説明する。
図29に示すように、実施の形態7に係るサーバー4は、実施の形態5に係るサーバー4と比較して、さらに、参照手段46と、記憶手段47とを有する点が異なる。
本実施の形態7に係る構造化手段42は、スキャンシステム1の動作モードが「閲覧モード」である場合、スマートフォン3からID情報、ISBN情報及びページ情報の組を受信したとき、ISBN情報及びページ情報を参照手段46に出力する。また、構造化手段42は、スキャンシステム1の動作モードが「閲覧モード」である場合、スマートフォン3からID情報、ISBN情報、ページ情報及び本文情報の組を受信したとき、ISBN情報、ページ情報及び本文情報を参照手段46に出力する。
参照手段46は、構造化手段42から出力された情報に基づいて、記憶手段47から紙書籍に対して他者が入力した情報を取得し、スマートフォン3に送信する。
記憶手段47は、複数の他者のそれぞれについて、ソーシャルリーディングサービスにおいて紙書籍に対して他者が入力した情報が格納されている。この情報は、例えば、他者が、他のスマートフォン3で入力してサーバー4に送信することで、サーバー4の記憶手段47に格納される。なお、記憶手段47に格納するための情報をサーバー4に送信する情報処理装置は、スマートフォン3に限られず、上述したようにPC又はタブレットであってもよい。
ここで、例えば、サーバー4が有するCPUが、サーバー4が有する記憶手段41に格納されたプログラムを実行することで、上述の構造化手段42と同様に、参照手段46として動作する。
より具体的には、記憶手段47は、例えば、紙書籍全体に対するコメントを示すコメント情報又はQ&A(質問&回答)を示すQ&A情報と、紙書籍の各ページの記載に対するコメントを示すコメント情報又はQ&Aを示すQ&A情報と、各ページの記載における所定単位ずつ(例えば所定数の段落毎)の本文の記載に対するコメントを示すコメント情報又はQ&Aを示すQ&A情報とが格納される。
紙書籍全体に対するコメント情報又はQ&A情報は、その紙書籍のISBNを示すISBN情報に関連付けられて記憶手段47に格納されている。ある紙書籍における、あるページの記載に対するコメント情報又はQ&A情報は、その紙書籍のISBNを示すISBN番号と、そのページのページ番号を示すページ番号情報の組と関連付けられて記憶手段47に格納されている。ある書籍における、あるページにおける、ある単位の本文の記載に対するコメント情報又はQ&A情報は、その紙書籍のISBNを示すISBN番号と、そのページのページ番号を示すページ番号情報と、その本文を示す本文情報との組に関連付けられて記憶手段47に格納されている。
よって、図30に示すように、参照手段46は、構造化手段42からISBN情報及びページ番号情報が出力された場合、そのISBN情報及びページ番号情報と同一のISBN情報及びページ番号情報の組に関連付けられたコメント情報又はQ&A情報を、記憶手段47から取得し、スマートフォン3に送信する。
また、図30に示すように、参照手段46は、構造化手段42からISBN情報、ページ情報及び本文情報が出力された場合、そのISBN情報及びページ番号情報と同一のISBN情報及びページ番号情報と、その本文情報が示す本文を含む本文を示す本文情報との組に関連付けられたコメント情報又はQ&A情報を、記憶手段47から取得し、スマートフォン3に送信する。
図29に示すように、実施の形態7に係るスマートフォン3は、実施の形態5に係るスマートフォン3と比較して、さらに、表示制御手段58を有する点が異なる。
表示制御手段58は、サーバー4から受信したコメント情報又はQ&A情報が示すコメント又はQ&Aの画像を表示手段56に表示する。
ここで、例えば、スマートフォン3が有するCPUが、スマートフォン3が有する記憶手段39に格納されたプログラムを実行することで、上述の手段30〜37、50〜52、54と同様に、表示制御手段58として動作する。
本実施の形態7に係る入力手段53は、ユーザーからスキャンシステム1の動作モードを「読書モード」から「閲覧モード」に切り替える指示の入力が行われる。情報制御手段54は、ユーザーからスキャンシステム1の動作モードを「読書モード」から「閲覧モード」に切り替える指示が入力手段53に入力された場合、スキャンシステム1の動作モードを「読書モード」から「閲覧モード」に切り替える。
スキャンシステム1の動作モードが「閲覧モード」である場合、第2の選択手段34は、ID情報、ISBN情報、ページ情報及び本文情報などをサーバー4に送信する場合、それらの情報とともに、スキャンシステム1の動作モードが「閲覧モード」であることを示す通知情報も送信する。この通知情報により、サーバー4の構造化手段42が、スキャンシステム1の動作モードが「閲覧モード」であるか否かを認識可能とする。
続いて、図31を参照して、本実施の形態7の効果について説明する。図31の左図に示すように、一般的なソーシャルリーディングサービス又は書籍通販サイトでは、コメントなどの情報を呈示する単位が、書籍単位である。それに対して、本実施の形態7によれば、図31の右図に示すように、書籍のページ単位毎、もしくは、書籍のページを所定単位で区切った本文の単位毎で、ソーシャルリーディングサービス又は書籍通販サイトにおけるコメントなどの情報を呈示することができる。すなわち、一般的なソーシャルリーディングサービス又は書籍通販サイトと比較して、より粒度の細かい情報を呈示することができる。
なお、以上の説明では、スキャンシステム1の動作モードを、スマートフォン3への入力によって切り替える例について説明したが、これに限られない。スキャンシステム1の動作モードを、ペン型スキャナ2によるジェスチャの入力によって切り替えるようにしてもよい。例えば、第1のサブ処理手段50が、スキャンシステム1の動作モードを「読書モード」と「閲覧モード」の間で切り替える処理を実行するようにしてもよい。
また、例えば、第2のサブ処理手段51が、スキャンシステム1の動作モードを「読書モード」と「第2の閲覧モード」の間で切り替える処理を実行するようにしてもよい。そして、「第2の閲覧モード」では、スマートフォン3の他の処理手段(図示せず)が、複数の画像情報が示す複数の画像を結合し、結合によって生成された画像に含まれる文字列に対してOCRを施して、その文字列が電子テキスト化されたテキスト情報を、ISBNを示すISBN情報として生成するようにしてもよい。第2の選択手段34は、生成されたISBN情報をサーバー4に送信する。
構造化手段42は、スマートフォン3から受信したISBN情報を、参照手段46に送信する。そして、図30に示すように、参照手段46は、構造化手段42からISBN情報が出力された場合、そのISBN情報と同一のISBN情報に関連付けられたコメント情報又はQ&A情報を、記憶手段47から取得し、スマートフォン3に送信するようにしてもよい。
また、この他の処理手段によって、生成するテキスト情報を、レビュワー名を示すレビュワー名情報として生成し、サーバー4に送信するようにしてもよい。この場合、コメント情報又はQ&A情報は、そのコメント情報又はQ&A情報が示すコメント又はQ&Aを入力したレビュワー名を示すレビュワー名情報と関連付けられて記憶手段47に格納されているようにする。そして、参照手段36は、スマートフォン3から受信したレビュワー名情報と同一のレビュワー名情報に関連付けられたコメント情報又はQ&A情報を、記憶手段47から取得し、スマートフォン3に送信するようにしてもよい。
また、この他の処理手段によって、生成するテキスト情報を、章の見出しを示す章見出し情報として生成し、サーバー4に送信するようにしてもよい。この場合、章見出し情報と、その章見出し情報が示す見出しの章に対するコメント又はQ&Aを示すコメント情報又はQ&A情報とが関連付けられて記憶手段47に格納されているようにする。そして、参照手段36は、スマートフォン3から受信した章見出し情報と同一の章見出し情報に関連付けられたコメント情報又はQ&A情報を、記憶手段47から取得し、スマートフォン3に送信するようにしてもよい。
以上に説明したように、本実施の形態7では、記憶手段47は、複数の紙書籍のそれぞれについて、当該紙書籍の各ページの記載に対して他者が入力した情報が格納されている。参照手段46は、最も新しく指定されたISBNに対応する紙書籍のうち、生成されたページ番号情報が示すページ番号におけるページの記載に対して他者が入力した情報を取得する。表示制御手段58は、参照手段46が取得した情報を表示手段56に表示する。
これによれば、複雑な操作を行うことなく、紙書籍に対して他者が入力した情報を参照することができる。よって、例えば、記憶手段47に格納される情報としてソーシャルリーディングサービスにおける情報を採用することで、ソーシャルリーディングサービスを活性化することができる。
<実施の形態8>
次に、実施の形態8について説明する。以下、実施の形態3と同様の内容については、同一の符号を付す等して、説明を省略する。実施の形態8に係るスキャンシステム1の概要構成、及び、ペン型スキャナ2のハードウェア構成は、実施の形態1に係るスキャンシステム1の概要構成、及び、ペン型スキャナ2のハードウェア構成と同様であるため、その説明を省略する。
本実施の形態8では、図32に示すように、本文のスキャンを終了してから、次の本文のスキャンを開始するまでの時間を計測し、計測した時間が所定の時間間隔以内である場合には、それらの本文を連結して保存する。これによれば、例えば、図32に示すように、「あああああああああいいいいいいいいいいううう。」からなる一文が複数行にまたがる場合であっても、それを一文として保存することが可能となる。
すなわち、図32に示すように、紙書籍において、「あああああああああ」が1行目に記載されており、「いいいいいいいいいい」が2行目に記載されており、「ううう。」が3行目に記載されているものとする。この場合、1行目の終点bまでスキャンが終了してから、2行目の始点cからスキャンが開始されるまでの時間と、2行目の終点dまでスキャンが終了してから、3行目の始点eからスキャンが開始されるまでの時間のそれぞれが、所定の時間間隔以内である場合には、各行の文字列が一文に連結して保存する。
続いて、図33を参照して、本実施の形態8に係るスキャンシステム1の詳細構成について説明する。
図33に示すように、本実施の形態8に係るペン型スキャナ2は、実施の形態3に係るペン型スキャナ2と比較して、さらに、時間計測手段29を有する点が異なる。
時間計測手段29は、媒体のスキャンが終了した時点から、次に媒体のスキャンが開始される時点までの時間を計測する。言い換えると、時間計測手段29は、ペン型スキャナ2がペンアップされてから、ペン型スキャナ2がペンダウンされるまでの時間を計測する。例えば、タイマ(図示せず)を有するMCU13が、時間計測手段29として動作する。時間計測手段29は、計測した時間を示す時間情報を生成し、スマートフォン3に送信する。
図33に示すように、本実施の形態8に係るスマートフォン3は、実施の形態3に係るスマートフォン3と比較して、さらに、入力手段53と、時間判定手段59と、しきい値設定手段60とを有する点が異なる。
本実施の形態8に係る処理方法決定手段30は、前回にスキャンした情報の属性が「本文」であり、今回にスキャンした情報の属性も「本文」である場合、前回の本文のスキャン終了から今回の本文のスキャン開始までの時間の判定を時間判定手段59に指示する。言い換えると、処理方法決定手段30は、前回も今回も第3の処理手段35で実行される処理方法で複数の画像情報を処理すると判定した場合、前回の本文のスキャン終了から今回の本文のスキャン開始までの時間の判定を時間判定手段59に指示する。
時間判定手段59は、ペン型スキャナ2から受信した時間情報が示す時間が、しきい値以下であるか否かを判定する。時間判定手段59は、時間情報が示す時間がしきい値以下であると判定した場合、本文の連結を指示する指示情報を第2の選択手段34に出力する。
第2の選択手段34は、時間判定手段59から本文の連結を指示する指示情報が出力されている場合、第3の処理手段35によって今回生成された本文情報が示す本文と、前回生成されて記憶手段39に格納されている本文情報が示す本文とを連結した本文を示す本文情報を生成する。そして、第2の選択手段34は、その本文情報をサーバー4に送信するときに、その本文情報に対して、本文情報の置き換え指示する指示情報を付与してからサーバー4に送信する。
本実施の形態8に係る構造化手段42は、スマートフォン3から受信した本文情報に指示情報が付与されている場合、前回に記憶手段41に格納した本文情報を、スマートフォン3から受信した本文情報に更新する。
入力手段53は、実施の形態5〜7と同様である。ただし、本実施の形態8に係る入力手段53は、生成した入力信号を、しきい値設定手段60に出力する。
しきい値設定手段60は、ユーザーがしきい値を入力手段53に入力した場合、その入力に応じて入力手段53から入力される入力信号に基づいて、ユーザーが入力したしきい値を取得し、取得したしきい値を時間判定手段59に設定する。すなわち、時間判定手段59が使用するしきい値が、ユーザーが入力したしきい値に更新される。
ここで、例えば、スマートフォン3が有するCPUが、スマートフォン3が有する記憶手段39に格納されたプログラムを実行することで、上述の手段30〜36と同様に、時間判定手段59及びしきい値設定手段60として動作する。
続いて、図34及び図35を参照して、実施の形態8に係るスキャンシステム1のスキャン処理について説明する。
ステップS11〜S15の処理については、実施の形態3と同様である。ただし、本実施の形態8では、時間計測手段29は、ステップS14の処理とステップS15の処理の間で、計測時間をリセットし(S72)、ステップS12の処理とステップS13の処理の間で、計測時間を取得する(S71)。これにより、時間計測手段29は、前回スキャンを終了した時点から(S14:Yes)、今回スキャンを開始した時点まで(S12:Yes)の時間を取得する。
ステップS16〜S21、S31〜S34、S36、S37、S41〜S48の処理については、実施の形態3と同様である。ステップS34の処理後、時間判定手段59は、時間計測手段29が取得した時間が、しきい値以下であるか否かを判定する(S73)。
時間計測手段29が取得した時間が、しきい値以下でない場合(S73:No)、ステップS44〜S46の処理が実行される。
一方、時間計測手段29が取得した時間が、しきい値以下である場合(S73:Yes)、第2の選択手段34は、記憶手段39に格納された本文情報が示す本文と、第3の処理手段35によって生成された本文情報が示す本文とを連結した本文を示す本文情報を生成する(S74)。第2の選択手段34は、生成した本文情報を記憶手段39に格納する。すなわち、最も新しくスキャンした本文を、新たにスキャンされた本文に更新する(S75)。構造化手段42は、前回に記憶手段41に格納した本文情報を、第2の選択手段34が生成した本文情報に更新する(S76)。
なお、以上の説明では、計測した時間がしきい値以下である場合、本文情報を連結し、計測した時間がしきい値以下でない場合、本文情報を連結せず、別々の本文情報(例えば別々のテキストファイル)として記憶手段41に格納する例について説明したが、これに限られない。例えば、計測した時間がしきい値以下である場合、2つの本文情報が示す本文の間に改行文字を入れずに連結して1つの本文情報(例えば1つのテキストファイル)とし、計測した時間がしきい値以下でない場合、2つの本文情報が示す本文の間に改行文字を入れて連結して1つの本文情報とするようにしてもよい。
なお、以上の説明では、時間計測手段29が取得した時間がしきい値以下であるか否かの判定、及び、しきい値の設定をスマートフォン3で行う例について説明したが、これに限られない。例えば、時間計測手段29が取得した時間がしきい値以下であるか否かの判定、及び、しきい値の設定をペン型スキャナ2で行うようにしてもよい。すなわち、ペン型スキャナ2が、入力手段53、時間判定手段59及びしきい値設定手段60を有するようにしてもよい。この場合、例えば、入力手段53として、しきい値を入力可能な操作ボタンをペン型スキャナ2に有するようにする。
また、上述の説明では、時間計測手段29、入力手段53、時間判定手段59及びしきい値設定手段60を、実施の形態3に対して適用した形態について説明したが、これに限られない。実施の形態4〜7のいずれかに対して、時間計測手段29、入力手段53、時間判定手段59及びしきい値設定手段60を適用した形態も実施可能である。
以上に説明したように、本実施の形態8では、時間計測手段29は、前回の媒体のスキャンを終了した時点から、今回の媒体のスキャンを開始した時点までの時間を計測する。時間判定手段59は、前回と今回に本文情報を生成した場合に、時間計測手段29が計測した時間が所定の閾値以下であるか否かを判定する。構造化手段42は、時間判定手段59が計測した時間が所定の閾値以下であると判定された場合、前回に生成した本文情報を、その本文情報が示す本文と、今回に生成した本文情報が示す本文とを連結した本文を示す本文情報に更新する。構造化手段42は、時間計測手段29が計測した時間が所定の閾値以下でないと判定された場合、前回に生成した本文情報には連結せず、今回に生成した本文情報を記憶手段41に格納する。
これによれば、複雑な操作を行うことなく、複数行にまたがる本文を連結して保存することができる。
また、上述したプログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non−transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD−ROM(Read Only Memory)CD−R、CD−R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
以上、本発明者によってなされた発明を実施の形態に基づき具体的に説明したが、本発明は既に述べた実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において種々の変更が可能であることはいうまでもない。
例えば、以上の説明では、第2の処理手段33と第4の処理手段36は、複数の画像情報が示す複数の画像を結合し、結合によって生成された画像を圧縮するようにしているが、これに限られない。結合によって生成された画像を示す画像情報を圧縮せずに、サーバー4に送信して保存するようにしてもよい。
1 スキャンシステム
2 ペン型スキャナ
3 スマートフォン
4 サーバー
10 レンズ
11 イメージセンサ
12 ペンダウン検出装置
13 MCU
14 メモリ
15 送受信機
16 動作状態切替ボタン
20 画像取得手段
21 軌跡算出手段
22 ベクトル算出手段
23 状態設定手段
24 状態判定手段
25 ID記憶手段
26 ID送信手段
27 表示制御手段
28 表示手段
29 時間計測手段
30 処理方法決定手段
31 第1の選択手段
32 第1の処理手段
33 第2の処理手段
34 第2の選択手段
35 第3の処理手段
36 第4の処理手段
37 参照手段
38 ジェスチャ定義DB
39 記憶手段
40 情報制御手段
41、44、45、47 記憶手段
42 構造化手段
43、46 参照手段
50 第1のサブ処理手段
51 第2のサブ処理手段
52 第3のサブ処理手段
53 入力手段
54 情報制御手段
55 ISBN DB
56 表示手段
57 第5の処理手段
58 表示制御手段
59 時間判定手段
60 しきい値設定手段

Claims (18)

  1. スキャン対象の媒体を連続的にスキャンすることで生成された複数の画像情報を取得する画像取得部と、
    前記画像取得部が取得した複数の画像情報に基づいて、前記媒体をスキャンした軌跡を算出する軌跡算出部と、
    前記軌跡算出部が算出した軌跡に応じて、前記複数の画像情報の処理方法を決定する処理方法決定部と、
    前記処理方法決定部が決定した処理方法で前記複数の画像情報を処理することで、当該複数の画像情報を当該処理方法に応じた形式の情報に変換する処理部と、
    を備えたスキャンシステム。
  2. 前記処理方法決定部は、前記媒体をスキャンした軌跡が直線であるか否かで異なる処理方法を決定する、
    請求項1に記載のスキャンシステム。
  3. 前記処理方法決定部は、予め用意された複数の処理方法から前記複数の画像情報の処理方法を決定し、
    前記複数の処理方法は、
    前記複数の画像情報を、当該複数の画像情報が示す複数の画像を結合した画像に光学文字認識を施してテキスト情報に変換する第1の処理方法と、
    前記複数の画像情報を、当該複数の画像情報が示す複数の画像を結合した画像を示す画像情報に変換する第2の処理方法と、を含む、
    請求項1に記載のスキャンシステム。
  4. 前記スキャンシステムは、さらに、ユーザーから押下されるボタンを備え、
    前記処理方法決定部は、さらに、前記媒体をスキャンしているときに、前記ボタンが押下されているか否かで異なる処理方法を決定する、
    請求項2に記載のスキャンシステム。
  5. 前記処理方法決定部は、予め用意された複数の処理方法から、前記複数の画像情報の処理方法を決定し、
    前記複数の処理方法は、
    前記複数の画像情報の変換後の情報を、前記媒体としてスキャンした紙書籍のページ番号を示すページ番号情報として生成する第1の処理方法と、
    前記複数の画像情報の変換後の情報を、前記媒体としてスキャンした紙書籍の図面を示す図面情報として生成する第2の処理方法と、
    前記複数の画像情報の変換後の情報を、前記媒体としてスキャンした紙書籍の本文を示す本文情報として生成する第3の処理方法と、
    前記複数の画像情報の変換後の情報を、当該複数の画像情報に基づいて算出した前記媒体をスキャンした軌跡を、メモ書きとして示すメモ書き情報として生成する第4の処理方法と、を含む、
    請求項4に記載のスキャンシステム。
  6. 前記スキャンシステムは、さらに、
    記憶部と、
    最も新しく生成されたページ番号情報に、当該ページ番号情報の生成後に生成された図面情報、本文情報、又は、メモ書き情報を関連付けて前記記憶部に格納する構造化部と、を備えた
    請求項5に記載のスキャンシステム。
  7. 前記構造化部は、最も新しく生成されたページ番号情報と、最も新しく生成された本文情報または図面情報とに、当該ページ番号情報及び当該本文情報の生成後に生成されたメモ書き情報を関連付けて前記記憶部に格納する、
    請求項6に記載のスキャンシステム。
  8. 前記スキャンシステムは、さらに、
    前記媒体をスキャンする軌跡のテンプレートであるジェスチャを示すジェスチャ情報が格納される記憶部と、
    前記媒体をスキャンした軌跡が、前記ジェスチャ情報が示すジェスチャに該当すると判定した場合、所定のサブ処理を実行する参照部と、を備えた、
    請求項3に記載のスキャンシステム。
  9. 前記スキャンシステムは、さらに、
    前記媒体としてスキャンする紙書籍のISBN(International Standard Book Number)を指定する入力が行われる入力部と、
    前記構造化部は、最も新しく指定されたISBNを示すISBN情報と、最も新しく生成されたページ番号情報とに、当該ISBNの指定及び当該ページ番号の生成後に生成された図面情報、本文情報、又は、メモ書き情報を関連付けて前記記憶部に格納する、
    請求項6に記載のスキャンシステム。
  10. 前記スキャンシステムは、さらに、前記画像取得部を有するペン型スキャナを備え、
    前記ペン型スキャナは、さらに、
    前記ペン型スキャナを一意に識別するID情報が予め格納されるID記憶部と、
    前記ID記憶部に格納されたID情報を送信するID送信部と、を備え、
    前記構造化部は、前記ID送信部から送信されたID情報と、最も新しく指定されたISBNを示すISBN情報と、最も新しく生成されたページ番号情報とに、当該ID情報の受信、当該ISBNの指定及び当該ページ番号情報の生成後に生成された図面情報、本文情報、又は、メモ書き情報を関連付けて前記記憶部に格納する、
    請求項9に記載のスキャンシステム。
  11. 前記スキャンシステムは、さらに、
    前記媒体をスキャンする軌跡のテンプレートであるジェスチャを示すジェスチャ情報が格納される記憶部と、
    前記媒体をスキャンした軌跡が、前記ジェスチャ情報が示すジェスチャに該当すると判定した場合、前記スキャンシステムの動作モードを、通常モードからISBNスキャンモードに移行させるサブ処理を実行する参照部と、
    前記スキャンシステムの動作モードがISBNスキャンモードである場合、前記複数の画像情報を所定の形式の情報に変換し、変換後の情報を、前記媒体としてスキャンした紙書籍のISBNを示すISBN情報として生成する処理手段と、を備え、
    前記構造化部は、最も新しく生成されたISBN情報と、最も新しく生成されたページ番号情報と、当該ISBN情報及び当該ページ番号情報の生成後に生成された図面情報、本文情報、又は、メモ書き情報を関連付けて前記記憶部に格納する、
    請求項6に記載のスキャンシステム。
  12. 前記記憶部は、さらに、前記複数の紙書籍から正規に生成された複数の電子書籍が格納されており、
    前記スキャンシステムは、さらに、前記生成した本文情報が示す本文と、前記最も新しく指定されたISBNに対応する電子書籍のうち、前記最も新しく生成されたページ情報が示すページ番号のページにおける本文とが部分一致する場合、前記生成された本文情報が示す本文を、前記最も新しく生成されたページ情報が示すページ番号のページにおける本文と完全一致するように補正する参照部を備えた、
    請求項10に記載のスキャンシステム。
  13. 前記記憶部は、さらに、他のユーザーが前記媒体をスキャンすることで生成された前記ISBN情報、前記ページ情報及び前記本文情報の組が複数格納されており、
    前記参照部は、前記最も新しく指定されたISBNに対応する電子書籍が前記記憶部に存在せず、前記生成された本文情報が示す本文が、前記最も新しく指定されたISBNが示すISBN情報及び前記最も新しく生成されたページ番号情報と同一のISBN情報及びページ番号情報に関連付けられている複数の他のユーザーの本文情報が示す本文の少なくとも1つと部分一致する場合、当該複数の他のユーザーの本文情報が示す本文において最も一致する数の多い本文と完全一致するように、前記生成した本文情報が示す本文を補正する、
    請求項12に記載のスキャンシステム。
  14. 前記スキャンシステムは、さらに、
    表示装置と、
    前記処理方法決定部が決定した処理方法の通知を前記表示装置に表示する表示制御部を備えた、
    請求項3に記載のスキャンシステム。
  15. 前記記憶部は、さらに、前記複数の紙書籍のそれぞれについて、当該紙書籍の各ページの記載に対して他者が入力した情報が格納されており、
    前記スキャンシステムは、さらに、
    表示装置と、
    前記最も新しく指定されたISBNに対応する紙書籍のうち、前記生成されたページ番号情報が示すページ番号におけるページの記載に対して他者が入力した情報を取得する参照部と、
    前記参照部が取得した情報を前記表示装置に表示する表示制御部と、を備えた、
    請求項9に記載のスキャンシステム。
  16. 前記スキャンシステムは、さらに、
    前回の前記媒体のスキャンを終了した時点から、今回の前記媒体のスキャンを開始した時点までの時間を計測する時間計測部と、
    前回と今回に本文情報を生成した場合に、前記時間計測部が計測した時間が所定の閾値以下であるか否かを判定する時間判定部と、を備え、
    前記構造化部は、
    前記時間計測部が計測した時間が所定の閾値以下であると判定された場合、前回に生成した本文情報を、その本文情報が示す本文と、今回に生成した本文情報が示す本文とを連結した本文を示す本文情報に更新し、
    前記時間計測部が計測した時間が所定の閾値以下でないと判定された場合、前回に生成した本文情報とは連結せず、今回に生成した本文情報を前記記憶部に格納する、
    請求項6に記載のスキャンシステム。
  17. ペン型スキャナがスキャン対象の媒体を連続的にスキャンすることで生成した複数の画像情報を、前記ペン型スキャナから受信する受信部と、
    前記受信部が受信した複数の画像情報に基づいて算出された前記媒体をスキャンした軌跡に応じて、前記複数の画像情報の処理方法を決定する処理方法決定部と、
    前記処理方法決定部が決定した処理方法で前記複数の画像情報を処理することで、当該複数の画像情報を当該処理方法に応じた形式の情報に変換する処理部と、
    を備えたスキャン画像処理装置。
  18. スキャン対象の媒体を連続的にスキャンすることで生成された複数の画像情報を取得し、
    前記取得した複数の画像情報に基づいて、前記媒体をスキャンした軌跡を算出し、
    前記算出した軌跡に応じて、前記複数の画像情報の処理方法を決定し、
    前記決定した処理方法で前記複数の画像情報を処理することで、当該複数の画像情報を当該処理方法に応じた形式の情報に変換する、
    スキャン方法。
JP2015242277A 2015-12-11 2015-12-11 スキャンシステム、スキャン画像処理装置及びスキャン方法 Pending JP2017107488A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015242277A JP2017107488A (ja) 2015-12-11 2015-12-11 スキャンシステム、スキャン画像処理装置及びスキャン方法
US15/358,311 US9906669B2 (en) 2015-12-11 2016-11-22 Scanning system, scanned image processing device and scanning method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015242277A JP2017107488A (ja) 2015-12-11 2015-12-11 スキャンシステム、スキャン画像処理装置及びスキャン方法

Publications (1)

Publication Number Publication Date
JP2017107488A true JP2017107488A (ja) 2017-06-15

Family

ID=59018565

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015242277A Pending JP2017107488A (ja) 2015-12-11 2015-12-11 スキャンシステム、スキャン画像処理装置及びスキャン方法

Country Status (2)

Country Link
US (1) US9906669B2 (ja)
JP (1) JP2017107488A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7392315B2 (ja) 2019-08-05 2023-12-06 株式会社リコー 表示装置、表示方法、プログラム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6081261A (en) 1995-11-01 2000-06-27 Ricoh Corporation Manual entry interactive paper and electronic document handling and processing system
US6765700B1 (en) * 1998-08-20 2004-07-20 Canon Kabushiki Kaisha Method for detecting and controlling home position of image reader
JP2009200713A (ja) * 2008-02-20 2009-09-03 Sony Corp 画像処理装置、画像処理方法、プログラム
JP4385169B1 (ja) * 2008-11-25 2009-12-16 健治 吉田 手書き入出力システム、手書き入力シート、情報入力システム、情報入力補助シート
US9323784B2 (en) * 2009-12-09 2016-04-26 Google Inc. Image search using text-based elements within the contents of images
JP5412692B2 (ja) * 2011-10-04 2014-02-12 株式会社モルフォ 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体
US20150123966A1 (en) * 2013-10-03 2015-05-07 Compedia - Software And Hardware Development Limited Interactive augmented virtual reality and perceptual computing platform
JP2017045160A (ja) * 2015-08-25 2017-03-02 ルネサスエレクトロニクス株式会社 技能指導検証システムおよび技能指導検証プログラム
JP2017054285A (ja) * 2015-09-09 2017-03-16 ルネサスエレクトロニクス株式会社 スキャンシステム、端末装置及びスキャン方法
JP2017117306A (ja) * 2015-12-25 2017-06-29 ルネサスエレクトロニクス株式会社 マーキング解析システム及びマーキング解析方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7392315B2 (ja) 2019-08-05 2023-12-06 株式会社リコー 表示装置、表示方法、プログラム

Also Published As

Publication number Publication date
US9906669B2 (en) 2018-02-27
US20170171408A1 (en) 2017-06-15

Similar Documents

Publication Publication Date Title
US11574115B2 (en) Method of processing analog data and electronic device thereof
EP2704061A2 (en) Apparatus and method for recognizing a character in terminal equipment
US9172879B2 (en) Image display control apparatus, image display apparatus, non-transitory computer readable medium, and image display control method
KR101015663B1 (ko) 문자인식장치에서의 문자인식방법 및 그 장치
JP6005880B1 (ja) 手書きデータ描画方法及び手書きデータ描画装置
JP5270027B1 (ja) 情報処理装置および手書き文書検索方法
EP2363793A2 (en) Information processing apparatus, information processing method, and program
WO2016206279A1 (zh) 触控显示装置及其触控方法
CN104954829A (zh) 显示装置及其操作方法
US20160098594A1 (en) Electronic apparatus, processing method and storage medium
JP6600358B2 (ja) ユーザ通知方法、手書きデータ取り込み装置、及びプログラム
JP2010134876A (ja) 情報処理装置及び情報処理方法
JP4668345B1 (ja) 情報処理装置、および情報処理装置の制御方法
EP2793458B1 (en) Apparatus and method for auto-focusing in device having camera
US9432526B2 (en) Image forming system, image forming apparatus, remote control apparatus, and recording medium for displaying an input screen
JP2017107488A (ja) スキャンシステム、スキャン画像処理装置及びスキャン方法
JP2011197744A (ja) 情報処理装置、プログラム、記録媒体および情報処理システム
KR101911676B1 (ko) 지시체의 움직임을 고려한 프리젠테이션 영상 처리장치 및 방법
JP2010191907A (ja) 文字入力装置および文字入力方法
JP2017167575A (ja) 電子記録情報表示装置、電子記録情報表示プログラム、及び電子記録情報表示方法
WO2021084761A1 (ja) 画像読取装置
JP6619308B2 (ja) 手書きデータ描画方法、手書きデータ描画装置、及びプログラム
JP3169046U (ja) 情報配信システム
JP5867553B2 (ja) 情報処理装置、プログラム、記録媒体および情報処理システム
CN115223176A (zh) 文本定位方法、装置、电子设备、扫描笔和存储介质