JP2014060560A - Information processing apparatus and program - Google Patents
Information processing apparatus and program Download PDFInfo
- Publication number
- JP2014060560A JP2014060560A JP2012203821A JP2012203821A JP2014060560A JP 2014060560 A JP2014060560 A JP 2014060560A JP 2012203821 A JP2012203821 A JP 2012203821A JP 2012203821 A JP2012203821 A JP 2012203821A JP 2014060560 A JP2014060560 A JP 2014060560A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- difference
- unit
- acquired
- information processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 48
- 238000003384 imaging method Methods 0.000 claims abstract description 68
- 238000012937 correction Methods 0.000 claims description 28
- 238000001514 detection method Methods 0.000 claims description 25
- 238000000034 method Methods 0.000 description 54
- 238000004891 communication Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 11
- 239000011230 binding agent Substances 0.000 description 9
- 238000012545 processing Methods 0.000 description 9
- 230000015654 memory Effects 0.000 description 7
- 238000012015 optical character recognition Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 3
- 238000013500 data storage Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000004321 preservation Methods 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003936 working memory Effects 0.000 description 1
Images
Landscapes
- Editing Of Facsimile Originals (AREA)
- Facsimiles In General (AREA)
- Facsimile Scanning Arrangements (AREA)
Abstract
Description
本発明は、情報処理装置及びプログラムに関する。 The present invention relates to an information processing apparatus and a program.
従来、会議等で配布された資料に手書きで追記された手書き文書をスキャナにより画像データ化して保存することが行われている。例えば、手書きで追記された文書データ印刷物にスキャナ装置でスキャン処理して得られた画像データと、その画像データの元となる文書データの画像データとを比較した差分の画像データと、差分の画像データに文字認識処理を施して得た文字データとを、文書データに対応づけて記憶する情報処理装置が開示されている(特許文献1)。
この装置によれば、文書データと手書き部分の画像データ等を関連付けして保存することができる。
2. Description of the Related Art Conventionally, a handwritten document added by handwriting to materials distributed at a meeting or the like is converted into image data by a scanner and stored. For example, difference image data obtained by comparing image data obtained by scanning a document data print with handwriting with a scanner device and image data of document data that is the source of the image data, and difference image An information processing apparatus that stores character data obtained by performing character recognition processing on data in association with document data is disclosed (Patent Document 1).
According to this apparatus, document data and image data of a handwritten portion can be stored in association with each other.
しかしながら、上記のような装置では、手書きされた文書データ印刷物を画像データ化するためスキャン装置の設置してある場所に移動してデータ化する必要があり、またその手順も煩雑であるという課題を有していた。 However, in the apparatus as described above, it is necessary to move to a place where the scanning device is installed to convert the data to be converted into image data, and the procedure is complicated. Had.
本発明の課題は、元画像データを印刷した記録媒体に手書きで加筆された差分画像を元画像データに追記できるようにすることである。 An object of the present invention is to enable a difference image, which is handwritten on a recording medium printed with original image data, to be added to the original image data.
本発明の情報処理装置は、
記録媒体を撮影して画像データを取得する撮像手段と、
前記撮像手段によって取得された画像データの元となる元画像データを取得する取得手段と、
前記画像データと前記元画像データとを比較して差分画像データを取得する比較手段と、
前記比較手段によって取得された差分画像データを元画像データに追記する追記手段と、
を備えることを特徴とする。
The information processing apparatus of the present invention
Imaging means for capturing a recording medium and acquiring image data;
Acquisition means for acquiring original image data that is the source of the image data acquired by the imaging means;
Comparing means for comparing the image data with the original image data to obtain difference image data;
Additional recording means for adding the difference image data acquired by the comparison means to the original image data;
It is characterized by providing.
本発明によれば、元画像データを印刷した記録媒体に手書きで加筆された差分画像を元画像データに追記できるようにすることができる。 ADVANTAGE OF THE INVENTION According to this invention, the difference image handwritten on the recording medium which printed original image data can be added now to original image data.
以下、本発明の実施の形態を図面に基づいて説明する。 Hereinafter, embodiments of the present invention will be described with reference to the drawings.
図1は、本実施形態に係る情報処理装置100の外観斜視図である。
FIG. 1 is an external perspective view of an
情報処理装置100は、例えばA5サイズの大きさのタブレット型端末装置であり、本体部12と、筐体としてのバインダ13と、から構成されている。
本体部12には、画面表示及びタッチ入力のためのタッチ表示部5、撮像手段としての撮像部8等が設けられている。撮像部8は、タッチ表示部5の外側の部分のうち、ヒンジ部13cによる回転軸から遠い方の長手側の枠の中央部(図1では表面側の左側中央部)に配設されている。
The
The
筐体としてのバインダ13は、第1の筐体としての第1のカバー13aと第2の筐体としての第2のカバー13bとがヒンジ部13cを回転軸として開閉可能に連結されて構成されている。第1のカバー13aには記録媒体15が配置され、第2のカバー13bには本体部12が設けられている。本体部12、記録媒体15は、留め具、フック等により、バインダ13に着脱可能に装着されている。
The
なお、本実施形態において、記録媒体15とは、撮影すべき情報が記録されている媒体を示すものであり、例えば、情報が文書データを印刷することにより記録されている用紙、情報が印刷されている用紙、書籍等である。ただし、記録媒体15は、撮像すべき情報が記録されている媒体であればよく、素材は紙に限定されない。記録媒体15は、1枚のシート状の用紙であってもよいし、冊子状に綴じられていてもよい。また、記録媒体15には、情報を電子的に表示可能な電子ペーパーも含まれる。
In the present embodiment, the
第1のカバー13a及び第2のカバー13bは、平板長方形状に構成され、ヒンジ部13cにより、本や手帳を開閉するように、開閉可能となっている。図1は、第1のカバー13aと第2のカバー13bとのなす角度が180°である状態(180°開いた状態)を図示している。ユーザは、180°開いた状態、または所定の角度の状態でタッチ表示部5に表示される画面の参照及びタッチ入力を行い、記録媒体15に文字や図表等を記入する。
The
ヒンジ部13cには、第1のカバー13aと第2のカバー13bとのなす角度を検出する開閉角度センサ14が設けられている。開閉角度センサ14は、ヒンジ部13cの軸の回転を検出するロータリーエンコーダや、ホール素子等を用いて開閉状態を検出する磁気センサによって構成されている。ここで開閉角度センサ14は、検出手段として機能している。
The
図2は、情報処理装置100の第1のカバー13aを示す図である。第1のカバー13aには記録媒体15が配置され、記録媒体15が配置される部分の外側である縁部にはマークM1〜M6が設けられている。マークM1〜M3は第1のカバー13aにおいてヒンジ部13cに近い縁部に設けられている。マークM4〜M6は第1のカバー13aにおいてヒンジ部13cに遠い縁部に設けられている。本実施形態におけるマークM1〜M6の形状は2つの四角形が角部を接している形状であるが、位置を識別できる形状であればよく、例えば、十字形等の形状であってもよい。これらのマークM1〜M6は、記録媒体15とともに撮像部8によって撮影される。
FIG. 2 is a diagram illustrating the
図3は、情報処理装置100の内部構成を示すブロック図である。情報処理装置100は、機器の全体的な制御を行うCPU(Central Processing Unit)1と、操作キーを有する操作部6と、CPU1に作業用のメモリ空間を提供するRAM(Random Access Memory)3と、表示パネル5aにタッチパネル5bを積層配設した構造のタッチ表示部5と、CPU1が実行する制御プログラムや制御データ等を格納した記憶部4と、無線通信部7と、被写体の光学像を撮影する撮像部8と、撮像部8を制御するカメラコントローラ9と、現在日時を計時する計時部10と、第1のカバー13aと第2のカバー13bとのなす角度を検出する開閉角度センサ14等を備えている。CPU1、操作部6、RAM3、タッチ表示部5、記憶部4、無線通信部7、カメラコントローラ9、計時部10、開閉角度センサ14は、バス11を介して接続されている。
FIG. 3 is a block diagram illustrating an internal configuration of the
CPU1は、操作部6やタッチパネル5bから入力される操作信号に応じて情報処理装置100の各部の処理動作を統括的に制御する。具体的には、CPU1は、記憶部4に記憶されているシステムプログラムを読み出し、RAM3のワークエリアに展開し、該システムプログラムに従って各部を制御する。また、CPU1は、記憶部4に記憶されている処理プログラム4aを読み出してワークエリアに展開し、後述する第1手書き文書撮影保存処理を実行することで、撮像制御手段、比較手段、付加手段、判定手段、記憶制御手段、台形補正手段として機能する。また、CPU1は、後述する第2手書き文書撮影保存処理を実行することで、撮像制御手段、取得手段、比較手段、付加手段、台形補正手段として機能する。
The
第1記憶手段、第2記憶手段としてのRAM3は、揮発性のメモリである。また、RAM3は、実行される各種プログラムやこれら各種プログラムに係るデータ等を格納するワークエリアを有する。 The RAM 3 as the first storage means and the second storage means is a volatile memory. The RAM 3 has a work area for storing various programs to be executed and data related to these various programs.
電源部(二次電池)2は各部に電源を供給する。 A power supply unit (secondary battery) 2 supplies power to each unit.
記憶部4は、例えば、磁気記録媒体を有するHDD(Hard Disk Drive)、書換式のROM(Read Only Memory)、フラッシュメモリ等で構成される。記憶部4には、プログラム記憶部41が設けられている。なお、記憶部4は、例えば、SDカード、ICカードなど、着脱自在な可搬型メモリ(記録メディア)を含む構成であってもよく、図示しないが、通信機能を介してネットワークに接続されている状態においては所定のサーバ装置側の記憶領域を含むものであってもよい。
The
プログラム記憶部41には、CPU1で実行されるシステムプログラムや処理プログラム4a等が記憶されている。処理プログラム4aには、第1手書き文書撮影保存処理、第2手書き文書撮影保存処理を始めとする各種処理を実行するためのプログラムが含まれる。また、文書データ等を管理等するための画像データ管理プログラム、OCR(Optical Character Recognition)(光学文字認識)プログラムが含まれている。OCRプログラムは、画像処理により入力画像を2値化された画像データに認識処理し、予め記憶されたパターンとの照合により文字、符号を特定し、文字・符号データを出力するプログラムである。ここで、CPU1は、OCRプログラムを実行することで画像データを文字認識する文字認識手段として機能している。
これらのプログラムは、コンピュータ読み取り可能なプログラムコードの形態でプログラム記憶部41に格納されている。CPU1は、当該プログラムコードに従った動作を逐次実行する。
The
These programs are stored in the
タッチ表示部5は、表示パネル5aにタッチパネル5bを積層配設した構造で、表示パネル5aは、縦横比(例えば、横4:縦3)の異なる画面を有した高精細液晶ディスプレイであり、タッチパネル5bは、撮影者の指などでタッチ操作された位置を検知してその座標データを入力するタッチスクリーンを構成するもので、例えば、静電容量方式あるいは抵抗膜方式を採用しているが、その他の方式であってもよい。
The
操作部6は、図示省略したが、電源をオン/オフさせる電源キーなどの押しボタン式のキーを備え、CPU1は、この操作部6から操作キーに対応して出力される入力操作信号に応じた処理を行う。
Although not shown, the
無線通信部7は、高速大容量の通信が可能な無線通信モジュールであり、例えば、最寄りの無線LAN(Local Area Network)ルータ(図示省略)を介してインターネットに接続可能となっている。ここで、無線通信部7は取得手段として機能している。
The
撮像部8は、被写体の光学像を撮影するもので、図示省略したが、光学レンズからの被写体像が撮像素子(CCDやCMOSなど)に結像されることにより被写体を撮影するカメラモジュールであり、例えば、合焦駆動部と、CCD(Charge Coupled Device)またはCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサと、タイミング発生器と、ドライバ等を備え、撮影された光学像を二次元の画像信号に変換する。撮像部8は、例えば、フレームレートが秒15コマ(15fps)の連続撮影(高速像)が可能となっている。ここで、撮像部8は撮像手段として機能している。また、撮像部8は取得手段として機能している。
The
カメラコントローラ9は、撮像部8を制御する。撮像部8の動作のための動作制御用信号はカメラコントローラ9から出力され、画像の取得開始、画像取得位置、オートフォーカスの制御をする。撮像部8から出力される画像データは、カメラコントローラ9で受け取り、CPU1のDNA機能を使用してRAM3上に転送される。ここで、CPU1およびカメラコントローラ9は撮像制御手段として機能する。
The
計時部10は、図示しない発振回路部から入力される信号を計数して、内部時刻等を得る。そして当該内部時刻をCPU1に出力する。ここで、内部時刻とは、計時部9で計時される現在日時のことをいう。
The
次に、本実施形態に係る情報処理装置100の動作について説明する。図4は情報処理装置100におけるバインダ13の開閉状態を示す図である。図4(A)は、情報処理装置100の第1のカバー13aと第2のカバー13bとが開いた状態を示す図を、図4(B)は、第1のカバー13aの上に第2のカバー13bが重なり合う状態を示す図である。
Next, the operation of the
ユーザは、例えば、バインダ13を開いた状態において情報処理装置100を使用したり、記録媒体15に図表などを書き入れたりすることができる。また、情報処理100及び記録媒体15を使用しないときには、第1のカバー13aと第2のカバー13bとを閉じてバインダ13を閉じる(角度は0度。)ことができる。
For example, the user can use the
図5は、本実施形態に係る情報処理装置100により実行される第1手書き文書撮影保存処理のフローを示す図である。以下、情報処理装置100による第1手書き文書撮影保存処理について図5を参照して説明する。これらの処理は、CPU1と記憶部4に記憶されている処理プログラムとの協働により実行される。
FIG. 5 is a diagram illustrating a flow of the first handwritten document shooting and saving process executed by the
この第1手書き文書撮影保存処理が開始される前提として、例えば、情報処理装置100が起動されている状態で文書データを印刷した記録媒体15が第1のカバー13a上に設置されているものとする。第1手書き文書撮影保存処理では、撮影に適する角度として、例えば、略110度が設定されている。また、撮影に適する角度(略110度)に合わせてフォーカス、露出などの撮影条件が設定されている。なお、撮影に適する角度は、110度に限られず、撮像部8の画角等に対応して例えば略70度等の角度を選択することができる。また、元となる文書データは無線通信部7により取得され、記憶部4に記憶されているものとする。また、図示しないUSBメモリ等の外部記憶媒体がUSBコントローラ等で構成されたI/F部にて接続されて、元となる文書データがI/F部にて取得され、記憶部4に記憶されていてもよい。
As a premise that the first handwritten document photographing / storing process is started, for example, a
ステップS1では、CPU1は、ユーザの操作部6による操作に基づき、モードを第1手書き文書撮影保存処理のモードに決定する。
In step S <b> 1, the
ステップS2では、CPU1は、撮像部8を起動させる。
In step S <b> 2, the
ステップS3では、CPU1は、撮像部8により文書データを印刷した記録媒体15を撮影して初期画像データとし、第1記憶手段としてのRAM3の初期画像データ記憶領域に記憶する。ここで、第1手書き文書撮影保存処理では、初期画像データが元画像データである。なお、第1手書き文書撮影保存処理では、文書データもまた元画像データである。その後、ユーザは文書データを印刷した記録媒体15に文字等の追記を開始する。また、CPU1は、この初期画像データを、第2記憶手段としてのRAM3の画像データ記憶領域に記憶する。
In step S3, the
ステップS4では、CPU1は、第1手書き文書撮影保存処理が終了したか否かを判断する。具体的には、後述するステップS13による画像がRAM3に保存されている場合、または、第1手書き文書撮影保存処理開始後、所定時間経過した場合、および、手動による終了指示がされた場合に終了したと判断する。終了したと判断すると「YES」へ分岐して本処理を終了する。終了していないと判断すると、「NO」へ分岐してステップS4に移行する。
In step S4, the
ステップS5では、CPU1は、撮像部8から画像データを転送してRAM3に記憶する。
In step S <b> 5, the
ステップS6では、CPU1は、前回撮影された画像データと今回のステップS5で撮影された画像データとを比較して差分画像データを取得し、その差分画像データの差分値を計算する。ここで前回撮影された画像データとはステップS3における文書データを印刷した記録媒体15の初期画像データである。また、ステップS7またはステップS8の処理を経てステップS4に戻った後においては、前回撮影された画像データとは前回のステップS5にて撮影された画像データである。
In step S6, the
図6は、第1手書き文書撮影保存処理開始後の、画像データの差分値と時間との関係を模式的に示した図である。図7は、ユーザが、文書データを印刷した記録媒体15に文字等の追記をしている動作を示す図である。図7のように、ユーザは間欠的に、文書データを印刷した記録媒体15に文字等を追記する。追記する間、手の動作が文字等の追記に重畳して撮影されるため、画像データの差分値は大きくなる。追記が終わって手の位置が撮像部8の画角範囲外に外れると、画像データの差分値は小さくなる。手書き検出判定値とは、このような手書き動作を検出するために予め設定されている閾値である。
FIG. 6 is a diagram schematically showing the relationship between the difference value of the image data and the time after the start of the first handwritten document shooting and saving process. FIG. 7 is a diagram showing an operation in which the user adds characters or the like to the
ステップS7では、CPU1は、ステップS6で計算した差分値が手書き検出判定値を越えたか否かを判定する。画像データの差分値が手書き検出判定値を越えたと判定されると「YES」へ分岐してステップS9に移行する。画像データの差分値が手書き検出判定値を越えていないと判定されると「NO」へ分岐してステップS8に移行する。
In step S7, the
ステップS8では、CPU1は、ステップS5で転送された画像データを第2記憶手段としてのRAM3に記憶してステップS4に移行する。
In step S8, the
ステップS9では、CPU1は、ステップS6で計算した差分値がめくり検出判定値を越えたか否かを判定する。
図8は、ユーザが、追記した記録媒体15をめくっている動作を示す図である。図8に示すように、ユーザが文書データを印刷した記録媒体15をめくって次のページに移行したり、または、文書データを印刷した記録媒体15を情報処理装置100から取り除いたりすると、画像データの差分値は増大する。めくり検出判定値とは、このようなめくり動作等を検出するために予め設定されている閾値である。
画像データの差分値がめくり検出判定値を越えたと判定されると「YES」へ分岐してステップS10に移行する。画像データの差分値がめくり検出判定値を越えていないと判定されると「NO」へ分岐してステップS4に移行する。
In step S9, the
FIG. 8 is a diagram illustrating an operation in which the user turns the
If it is determined that the difference value of the image data exceeds the turning detection determination value, the process branches to “YES”, and the process proceeds to step S10. If it is determined that the difference value of the image data does not exceed the turning detection determination value, the process branches to “NO” and proceeds to step S4.
ステップS10では、CPU1は、第2記憶手段としてのRAM3への画像データ上書きを禁止する。
In step S10, the
すなわち、ステップS4からステップS8において、CPU1は、画像データの差分値が手書き検出判定値を越えていないと判定されると最新の画像データを第2記憶手段としてのRAM3に記憶し、ステップS9にて画像データの差分値がページめくり検出判定値を越えたと判定されると、ステップS10において、第2記憶手段としてのRAM3への画像データ上書きを禁止する。
That is, in step S4 to step S8, when it is determined that the difference value of the image data does not exceed the handwriting detection determination value, the
ステップS11では、CPU1は、第1記憶手段としてのRAM3に記憶された初期画像データと第2記憶手段としてのRAM3に記憶された画像データとに対し、台形補正処理、明るさ調整を行う。台形補正処理はマークM1〜M6の画像を参照し、公知の手法で行うことができる。ここで、撮像部8が第2のカバー13b側に設けられているので、例えば、長方形記録媒体の画像の対辺のうち、ヒンジ部13cに近い縁部に設けられているマークM1〜M3側の画像の対辺は、ヒンジ部13cに遠い縁部に設けられているマークM4〜M6側の画像の対辺に比べて拡大されている。そこで、解像度を下げないため、2つの対辺のうち、マークM4〜M6側の対辺の画像を拡大することにより台形を補正することがより好ましい。明るさ調整は画像データの輝度値を例えば、自動利得制御により調整する。
In step S11, the
ステップS12では、CPU1は、台形補正された初期画像データと画像データとの差分画像データを取得する。この差分画像データが追記された部分の画像データに相当する。
なお、ステップS11で台形補正処理・明るさ調整を行わず、差分データを取得した後に台形補正処理・明るさ調整を行ってもよい。
In step S <b> 12, the
Note that the keystone correction processing / brightness adjustment may be performed after obtaining the difference data without performing the keystone correction processing / brightness adjustment in step S11.
ステップS13では、CPU1は、その差分画像データを元となる文書データに付加する。即ち、差分画像データが元画像データとしての文書データに追記される。
In step S13, the
ここで、CPU1は、OCR(Optical Character Recognition)(光学文字認識)プログラムにより、その差分画像データを文字認識した後で文書データに付加(追記)することもできる。
Here, the
ステップS14では、CPU1は、「第2記憶手段としてのRAM3に記憶された最新の画像データ」と、差分画像データと、差分画像データが付加された文書データとを記憶部4に記憶する。その際、CPU1は、元となる文書データに関連付けて、「第2記憶手段としてのRAM3に記憶された最新の画像データ」と、差分画像データと、差分画像データが付加された文書データとを記憶部4に記憶する。
なお、差分画像データが付加された文書データをタッチ表示部5に表示させ、元となる文書データに差分画像データが付加されたことをユーザが確認できるようにしてもよい。
図9は、記憶部4に記憶されている画像管理プログラムにより管理されている文書データのデータ構造を示す図である。個々の文書データ毎に、ID、画像名が登録されており、インデックス1に「第2記憶手段としてのRAM3に記憶された最新の画像データ」のIDが、インデックス2に差分画像データが、インデックス3に差分画像データが付加された文書データのIDが登録できるようになっている。CPU1は、文書管理プログラムにより、「第2記憶手段としてのRAM3に記憶された最新の画像データ」と、差分画像データと、差分画像データが付加された文書データとをIDを付しつつ記憶するとともに、もとの文書データのデータ構造においてそれらのIDをインデックスとして記憶する。
また、元画像データ(初期画像データ)を文書データと関連付けて記憶部4に記憶してもよい。
さらに、ステップS13において、CPU1が、OCRプログラムにより、その差分画像データを文字認識した後で文書データに付加した場合には、ステップS14では、文書データに文字認識された差分画像データが付加されたものが記憶されてもよい。
そして、ステップS4を経て本処理を終了する。
In step S <b> 14, the
The document data to which the difference image data is added may be displayed on the
FIG. 9 is a diagram illustrating a data structure of document data managed by the image management program stored in the
Further, the original image data (initial image data) may be stored in the
Further, in step S13, when the
Then, the process ends through step S4.
以上のように、本実施形態に係る情報処理装置100によれば、撮像部8は、記録媒体15を撮影して画像データを取得し、CPU1は、撮像部8によって取得された画像データの元となる元画像データを取得し、CPU1は、撮像部8により取得された画像データと元画像データとを比較して差分画像データを取得し、取得された差分画像データを元画像データに追記する。
これにより、記録媒体に手書きで文書、図形等の内容が加筆された後、加筆された内容を撮影して手書き加筆された部分に相当する差分画像を取得し、取得した差分画像を元画像データに追記することができる。
As described above, according to the
Thereby, after the contents of a document, a figure, etc. are handwritten on the recording medium, the difference information corresponding to the handwritten part is acquired by photographing the added contents, and the acquired difference image is converted into the original image data. Can be added to.
また、情報処理装置100において、元画像を取得するのは撮像部8であって、撮像部8により取得された元画像データを記憶する第1記憶手段としてのRAM3と、撮像部8により連続して取得された画像データを順次更新して記憶する第2記憶手段としてのRAM3とを備え、CPU1は、撮像部8より連続して取得された前後の画像データの差分を計算してその差分値が手書き検出判定値を越えたか否かを判定し、CPU1は、差分値が手書き検出判定値を越えないと判定された場合にのみ、前後の画像データのうち後の画像データを第2記憶手段としてのRAM3に記憶させ、CPU1は、撮像部8より連続して取得された前後の画像データの差分を計算してその差分値がめくり検出判定値を越えたか否かを判定し、CPU1は、差分値がページめくり検出判定値を越えたと判定された場合、第1記憶手段としてのRAM3に記憶された元画像データと、第2記憶手段としてのRAM3に記憶された画像データとを比較して差分画像データを取得する。
これにより、ユーザの手書き動作とページめくり動作の検出により記録媒体に手書きで追記がされた際の画像データを適切に記憶することができ、追記された記録媒体の画像データと元画像データとを比較することにより追記された部分に相当する差分画像データを取得することができる。
In the
Thereby, it is possible to appropriately store the image data when the handwriting is added to the recording medium by detecting the user's handwriting operation and the page turning operation, and the image data and the original image data of the additionally recorded recording medium can be stored. Difference image data corresponding to the added part can be acquired by comparison.
また、情報処理装置100において、CPU1は、画像データに対し、台形補正を行い、CPU1は、第1記憶手段としてのRAM3に記憶された元画像データと、第2記憶手段としてのRAM3に記憶された最新の画像データとが台形補正された後で、それらの画像データを比較して差分画像データを取得する。
これにより、それらの画像データが台形補正されるので台形補正された差分画像データを得ることができる。
In the
Thereby, since these image data are keystone-corrected, the difference image data by which the keystone correction was carried out can be obtained.
また、情報処理装置100において、CPU1は、差分画像データを文字認識する。
これにより、文字認識された差分データが得られる。
In the
Thereby, the difference data by which character recognition was carried out is obtained.
続いて、図10に示すフローチャートを用いて、本実施形態に係る情報処理装置100における別の動作について説明する。
Next, another operation in the
図10は、本実施形態に係る情報処理装置100により実行される第2手書き文書撮影保存処理のフローを示す図である。以下、情報処理装置100による第2手書き文書撮影保存処理について図10を参照して説明する。これらの処理は、CPU1と記憶部4に記憶されている処理プログラムとの協働により実行される。
FIG. 10 is a diagram illustrating a flow of the second handwritten document shooting and saving process executed by the
この第2手書き文書撮影保存処理が開始される前提として、ユーザは例えば、情報処理装置100が起動されている状態で文書データを印刷した記録媒体15に文字等の追記を行い、追記した後で情報処理装置100のバインダ13を閉じる動作が行われるものとする。第2手書き文書撮影保存処理では、撮影に適する角度として、例えば、略110度が設定されている。具体的には、CPU1は、開閉角度センサ14によって第1のカバー13aと第2のカバー13bとの角度(撮像に最適な角度)として略110度が検出された際に、撮像部8により生成された画像を取得することになる。また、撮像に最適な角度(略110度)に合わせてフォーカス、露出などの撮像条件が設定されている。なお、撮影に適する角度は、110度に限られず、撮像部8の画角等に対応して例えば略70度等の角度を選択することができる。また、元画像データとしての文書データは無線通信部7により取得され、記憶部4に記憶されているものとする。また、図示しないUSBメモリ等の外部記憶媒体がUSBコントローラ等で構成されたI/F部にて接続されて、元画像データとしての文書データが取得され、記憶部4に記憶されていてもよい。
As a premise that the second handwritten document shooting and saving process is started, for example, the user adds characters and the like to the
ステップS21では、CPU1は、ユーザの操作部6による操作に基づき、撮影モードを第2手書き文書撮影保存処理のモードに決定する。
In step S <b> 21, the
ステップS22では、CPU1は、撮像部8を起動させる。
In step S <b> 22, the
ステップS23では、CPU1は、開閉角度センサ14の信号を取得する。
In step S <b> 23, the
ステップS24では、CPU1は、開閉角度センサ14からの信号により第1のカバー13aと第2のカバー13bとのなす角度が予め設定されている角度(例えば略110度)以下の所定角度範囲になっているか否かを判断する。このステップは、ユーザの閉じる動作により、第1のカバー13aと第2のカバー13bとが所定の角度範囲に入り撮影状態になっているかを判断するステップである。
所定の角度範囲になっていると判断されると「YES」へ分岐してステップS25に移行する。所定の角度範囲になっていないと判断されると「NO」へ分岐してステップS23に移行する。
In step S24, the
If it is determined that the angle is within the predetermined angle range, the process branches to “YES” and proceeds to step S25. If it is determined that the angle is not within the predetermined angle range, the process branches to “NO” and proceeds to step S23.
ステップS25では、CPU1は、撮像部8を制御して記録媒体15を撮影させ、撮像部8により撮影された画像データを取得してRAM3に転送して記憶する
In step S25, the
ステップS26では、CPU1は、RAM3上に記憶されている画像データに対して、台形補正処理、明るさ調整を行う。台形補正処理はマークM1〜M6の画像を参照し、公知の手法で行うことができる。ここで、撮像部8が第2のカバー13b側に設けられているので、例えば、長方形記録媒体の画像の対辺のうち、ヒンジ部13cに近い縁部に設けられているマークM1〜M3側の画像の対辺は、ヒンジ部13cに遠い縁部に設けられているマークM4〜M6側の画像の対辺に比べて拡大されている。そこで、解像度を下げないため、2つの対辺のうち、マークM4〜M6側の対辺の画像を拡大することにより台形を補正することがより好ましい。
In step S <b> 26, the
ステップS27では、CPU1は、台形補正された画像データと、取得手段としての無線通信部7により取得されて記憶部4に記憶されている元画像データとしての文書データとの差分画像を取得する。この差分画像が追記された部分の画像データである。
In step S <b> 27, the
ステップS28では、CPU1は、差分画像データを文書データに付加する。即ち、差分画像データが元画像データとしての文書データに追記される。
ここで、CPU1は、OCR(Optical Character Recognition)(光学文字認識)プログラムにより、台形補正処理された画像データを文字認識した後で文書データに付加することもできる。
In step S28, the
Here, the
ステップS29では、CPU1は、台形補正された画像データと、差分画像データと、差分画像データが付加された文書データとを記憶部4に記憶する。その際、CPU1は、もとの文書データに関連付けて記憶部4に記憶する。
関連付けて記憶する方法は、第1手書き文書撮影保存処理におけるステップS13と同じである。
In step S29, the
The method of storing in association is the same as step S13 in the first handwritten document shooting and saving process.
以上のように、情報処理装置100によれば、記録媒体15が配置される第1の筐体である第1のカバー13aと、ヒンジ部13cにより第1のカバー13aと開閉可能に連結され、本体部12が設けられた第2の筐体である第2のカバー13bと、第1のカバー13aと第2のカバー13bとが所定の状態まで閉じられたことを検出する開閉角度センサ14とを備え、CPU1は、画像データに対し、台形補正を行い、撮像部8は、本体部12の第1のカバー13aに対向する位置に設けられており、開閉角度センサ14により第1のカバー13aと第2のカバー13bとが所定の状態まで閉じられたことが検出されたタイミングで画像データを取得し、CPU1は、元画像データと、台形補正後の画像データとを比較することにより差分画像データを取得する。
これにより、バインダ13が閉じられたことが検出されたタイミングで自動的に、記録文書に追記がされた画像データを取得するとともに、追記された部分に相当する差分画像データを取得することができる。
As described above, according to the
As a result, it is possible to automatically obtain the image data added to the recorded document at the timing when it is detected that the
本発明の実施形態を説明したが、本発明の範囲は上述の実施の形態に限定するものではなく、特許請求の範囲に記載された発明とその均等の範囲に含まれる。以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
[付記]
<請求項1>
記録媒体を撮影して画像データを取得する撮像手段と、
前記撮像手段によって取得された画像データの元となる元画像データを取得する取得手段と、
前記画像データと前記元画像データとを比較して差分画像データを取得する比較手段と、
前記比較手段によって取得された差分画像データを元画像データに追記する追記手段と、
を備えることを特徴とする情報処理装置。
<請求項2>
前記取得手段は前記撮像手段であって、
前記撮影手段により取得された前記元画像データを記憶する第1記憶手段と、
前記撮影手段により連続して取得された前記画像データを順次更新して記憶する第2記憶手段と、
前記撮像手段より連続して取得された前後の画像データの差分を計算してその差分値が手書き検出判定値を越えたか否かを判定する判定手段と、
前記判定手段により、前記差分値が手書き検出判定値を越えないと判定された場合にのみ、前記前後の画像データのうち後の画像データを前記第2記憶手段に記憶させる記憶制御手段と、を備え、
前記判定手段は、前記差分値が手書き検出判定値を越えたと判定された場合に、前記差分値がめくり検出判定値を越えたか否かを判定し、
前記比較手段は、前記判定手段により前記差分値がページめくり検出判定値を越えたと判定された場合、前記第1記憶手段に記憶された元画像データと、前記第2記憶手段に記憶された画像データとを比較して前記差分画像データを取得することを特徴とする請求項1記載の情報処理装置。
<請求項3>
前記画像データに対し、台形補正を行う台形補正手段を備え、
前記比較手段は、前記第1記憶手段に記憶された元画像データと、前記記憶制御手段により第2記憶手段に記憶された最新の画像データとが台形補正手段により台形補正された後で、それらの画像データを比較して差分画像データを取得することを特徴とする請求項2に記載の情報処理装置。
<請求項4>
前記記録媒体が配置される第1の筐体と、
前記第1の筐体と開閉可能に連結され、本体部が設けられた第2の筐体と、
前記第1の筐体と前記第2の筐体とが予め決められた角度まで閉じられたことを検出する検出手段と、
前記画像データに対し、台形補正を行う台形補正手段と、
を備え、
前記撮像手段は、前記本体部の前記第1の筐体に対向する位置に設けられており、前記検出手段により前記第1の筐体と前記第2の筐体とが前記予め決められた角度まで閉じられたことが検出されたタイミングで前記画像データを取得し、
前記比較手段は、前記元画像データと、前記台形補正後の画像データとを比較することにより差分画像データを取得することを特徴とする請求項1に記載の情報処理装置。
<請求項5>
前記差分画像データを文字認識する文字認識手段を備えることを特徴とする請求項1〜4の何れか一項に記載の情報処理装置。
<請求項6>
コンピュータを、
記録媒体を撮影して画像データを取得する撮像手段を制御する撮像制御手段、
前記撮像手段によって取得された画像データの元となる元画像データを取得する取得手段、
前記画像データと前記元画像データとを比較して差分画像データを取得する比較手段、
前記比較手段によって取得された差分画像データを元画像データに追記する追記手段、
として機能させるためのプログラム。
Although the embodiment of the present invention has been described, the scope of the present invention is not limited to the above-described embodiment, and is included in the invention described in the claims and the equivalent scope thereof. Hereinafter, the invention described in the scope of claims of the present application will be appended.
[Appendix]
<Claim 1>
Imaging means for capturing a recording medium and acquiring image data;
Acquisition means for acquiring original image data that is the source of the image data acquired by the imaging means;
Comparing means for comparing the image data with the original image data to obtain difference image data;
Additional recording means for adding the difference image data acquired by the comparison means to the original image data;
An information processing apparatus comprising:
<Claim 2>
The acquisition means is the imaging means,
First storage means for storing the original image data acquired by the photographing means;
Second storage means for sequentially updating and storing the image data continuously acquired by the photographing means;
A determination unit that calculates a difference between the image data before and after continuously acquired by the imaging unit and determines whether the difference value exceeds a handwriting detection determination value;
Storage control means for storing the subsequent image data of the previous and subsequent image data in the second storage means only when the determination means determines that the difference value does not exceed the handwriting detection determination value. Prepared,
The determination means determines whether or not the difference value exceeds a turning detection determination value when it is determined that the difference value exceeds a handwriting detection determination value;
The comparing means, when the determining means determines that the difference value exceeds the page turning detection determination value, the original image data stored in the first storage means and the image stored in the second storage means The information processing apparatus according to
<Claim 3>
Keystone correction means for performing keystone correction on the image data,
The comparison means includes the original image data stored in the first storage means and the latest image data stored in the second storage means by the storage control means after the keystone correction is performed by the trapezoid correction means. The information processing apparatus according to
<Claim 4>
A first housing in which the recording medium is disposed;
A second housing connected to the first housing so as to be openable and closable and provided with a main body;
Detecting means for detecting that the first casing and the second casing are closed to a predetermined angle;
Trapezoid correction means for performing keystone correction on the image data;
With
The imaging means is provided at a position of the main body portion facing the first casing, and the first casing and the second casing are set at the predetermined angle by the detecting means. The image data is acquired at the timing when it is detected that
The information processing apparatus according to
<Claim 5>
The information processing apparatus according to
<Claim 6>
Computer
An imaging control unit that controls an imaging unit that captures a recording medium and acquires image data;
Acquisition means for acquiring original image data that is the source of the image data acquired by the imaging means;
Comparison means for comparing the image data and the original image data to obtain difference image data;
Additional recording means for additionally writing the difference image data acquired by the comparison means to the original image data;
Program to function as.
100 情報処理装置
1 CPU(取得手段、比較手段、追記手段、付加手段、判定手段、記憶制御手段、台形補正手段、撮像制御手段、文字認識手段)
2 電源部
3 RAM(第1記憶手段、第2記憶手段)
4 記憶部
41 プログラム記憶部
4a 処理プログラム
5 タッチ表示部
5a 表示パネル
5b タッチパネル
6 操作部
7 無線通信部(取得手段)
8 撮像部(撮像手段)
9 カメラコントローラ(撮像制御手段)
10 計時部
11 バス
12 情報処理装置本体部
13 バインダ
13a 第1のカバー(第1の筐体)
13b 第2のカバー(第2の筐体)
13c ヒンジ部
14 開閉角度センサ(検出手段)
15 記録媒体
100
2 Power supply unit 3 RAM (first storage means, second storage means)
4
8 Imaging unit (imaging means)
9 Camera controller (Imaging control means)
DESCRIPTION OF
13b Second cover (second housing)
15 Recording media
Claims (6)
前記撮像手段によって取得された画像データの元となる元画像データを取得する取得手段と、
前記画像データと前記元画像データとを比較して差分画像データを取得する比較手段と、
前記比較手段によって取得された差分画像データを元画像データに追記する追記手段と、
を備えることを特徴とする情報処理装置。 Imaging means for capturing a recording medium and acquiring image data;
Acquisition means for acquiring original image data that is the source of the image data acquired by the imaging means;
Comparing means for comparing the image data with the original image data to obtain difference image data;
Additional recording means for adding the difference image data acquired by the comparison means to the original image data;
An information processing apparatus comprising:
前記撮影手段により取得された前記元画像データを記憶する第1記憶手段と、
前記撮影手段により連続して取得された前記画像データを順次更新して記憶する第2記憶手段と、
前記撮像手段より連続して取得された前後の画像データの差分を計算してその差分値が手書き検出判定値を越えたか否かを判定する判定手段と、
前記判定手段により、前記差分値が手書き検出判定値を越えないと判定された場合にのみ、前記前後の画像データのうち後の画像データを前記第2記憶手段に記憶させる記憶制御手段と、を備え、
前記判定手段は、前記差分値が手書き検出判定値を越えたと判定された場合に、前記差分値がめくり検出判定値を越えたか否かを判定し、
前記比較手段は、前記判定手段により前記差分値がページめくり検出判定値を越えたと判定された場合、前記第1記憶手段に記憶された元画像データと、前記第2記憶手段に記憶された画像データとを比較して前記差分画像データを取得することを特徴とする請求項1記載の情報処理装置。 The acquisition means is the imaging means,
First storage means for storing the original image data acquired by the photographing means;
Second storage means for sequentially updating and storing the image data continuously acquired by the photographing means;
A determination unit that calculates a difference between the image data before and after continuously acquired by the imaging unit and determines whether the difference value exceeds a handwriting detection determination value;
Storage control means for storing the subsequent image data of the previous and subsequent image data in the second storage means only when the determination means determines that the difference value does not exceed the handwriting detection determination value. Prepared,
The determination means determines whether or not the difference value exceeds a turning detection determination value when it is determined that the difference value exceeds a handwriting detection determination value;
The comparing means, when the determining means determines that the difference value exceeds the page turning detection determination value, the original image data stored in the first storage means and the image stored in the second storage means The information processing apparatus according to claim 1, wherein the difference image data is acquired by comparing with data.
前記比較手段は、前記第1記憶手段に記憶された元画像データと、前記記憶制御手段により第2記憶手段に記憶された最新の画像データとが台形補正手段により台形補正された後で、それらの画像データを比較して差分画像データを取得することを特徴とする請求項2に記載の情報処理装置。 Keystone correction means for performing keystone correction on the image data,
The comparison means includes the original image data stored in the first storage means and the latest image data stored in the second storage means by the storage control means after the keystone correction is performed by the trapezoid correction means. The information processing apparatus according to claim 2, wherein difference image data is obtained by comparing the image data of the two.
前記第1の筐体と開閉可能に連結され、本体部が設けられた第2の筐体と、
前記第1の筐体と前記第2の筐体とが予め決められた角度まで閉じられたことを検出する検出手段と、
前記画像データに対し、台形補正を行う台形補正手段と、
を備え、
前記撮像手段は、前記本体部の前記第1の筐体に対向する位置に設けられており、前記検出手段により前記第1の筐体と前記第2の筐体とが前記予め決められた角度まで閉じられたことが検出されたタイミングで前記画像データを取得し、
前記比較手段は、前記元画像データと、前記台形補正後の画像データとを比較することにより差分画像データを取得することを特徴とする請求項1に記載の情報処理装置。 A first housing in which the recording medium is disposed;
A second housing connected to the first housing so as to be openable and closable and provided with a main body;
Detecting means for detecting that the first casing and the second casing are closed to a predetermined angle;
Trapezoid correction means for performing keystone correction on the image data;
With
The imaging means is provided at a position of the main body portion facing the first casing, and the first casing and the second casing are set at the predetermined angle by the detecting means. The image data is acquired at the timing when it is detected that
The information processing apparatus according to claim 1, wherein the comparison unit acquires difference image data by comparing the original image data with the image data after the keystone correction.
記録媒体を撮影して画像データを取得する撮像手段を制御する撮像制御手段、
前記撮像手段によって取得された画像データの元となる元画像データを取得する取得手段、
前記画像データと前記元画像データとを比較して差分画像データを取得する比較手段、
前記比較手段によって取得された差分画像データを元画像データに追記する追記手段、
として機能させるためのプログラム。 Computer
An imaging control unit that controls an imaging unit that captures a recording medium and acquires image data;
Acquisition means for acquiring original image data that is the source of the image data acquired by the imaging means;
Comparison means for comparing the image data and the original image data to obtain difference image data;
Additional recording means for additionally writing the difference image data acquired by the comparison means to the original image data;
Program to function as.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012203821A JP6024330B2 (en) | 2012-09-18 | 2012-09-18 | Information processing apparatus and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012203821A JP6024330B2 (en) | 2012-09-18 | 2012-09-18 | Information processing apparatus and program |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016198741A Division JP6176382B2 (en) | 2016-10-07 | 2016-10-07 | Information processing apparatus and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014060560A true JP2014060560A (en) | 2014-04-03 |
JP6024330B2 JP6024330B2 (en) | 2016-11-16 |
Family
ID=50616660
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012203821A Expired - Fee Related JP6024330B2 (en) | 2012-09-18 | 2012-09-18 | Information processing apparatus and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6024330B2 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016177364A (en) * | 2015-03-18 | 2016-10-06 | 京セラドキュメントソリューションズ株式会社 | Information processing device, and data structure of data to be obtained by imaging with respect to paper medium |
CN110516634A (en) * | 2019-08-30 | 2019-11-29 | 安徽淘云科技有限公司 | A kind of page turning detection method, device, equipment and storage medium |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006053313A (en) * | 2004-08-11 | 2006-02-23 | Sharp Corp | Image projection apparatus with photographing function and data management system using the apparatus |
JP2006186786A (en) * | 2004-12-28 | 2006-07-13 | Casio Comput Co Ltd | Audio and image recording device, audio and image reproducing device, audio and image recording method, audio and image reproducing method, and program |
JP2010056771A (en) * | 2008-08-27 | 2010-03-11 | Ricoh Co Ltd | Device and method for reading image, program, and storage medium |
JP2010262584A (en) * | 2009-05-11 | 2010-11-18 | Ricoh Co Ltd | Apparatus, system, and method for processing information and program |
JP2011076267A (en) * | 2009-09-29 | 2011-04-14 | Nec Personal Products Co Ltd | Information processing apparatus, material photographing method, program, and recording medium |
-
2012
- 2012-09-18 JP JP2012203821A patent/JP6024330B2/en not_active Expired - Fee Related
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006053313A (en) * | 2004-08-11 | 2006-02-23 | Sharp Corp | Image projection apparatus with photographing function and data management system using the apparatus |
JP2006186786A (en) * | 2004-12-28 | 2006-07-13 | Casio Comput Co Ltd | Audio and image recording device, audio and image reproducing device, audio and image recording method, audio and image reproducing method, and program |
JP2010056771A (en) * | 2008-08-27 | 2010-03-11 | Ricoh Co Ltd | Device and method for reading image, program, and storage medium |
JP2010262584A (en) * | 2009-05-11 | 2010-11-18 | Ricoh Co Ltd | Apparatus, system, and method for processing information and program |
JP2011076267A (en) * | 2009-09-29 | 2011-04-14 | Nec Personal Products Co Ltd | Information processing apparatus, material photographing method, program, and recording medium |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016177364A (en) * | 2015-03-18 | 2016-10-06 | 京セラドキュメントソリューションズ株式会社 | Information processing device, and data structure of data to be obtained by imaging with respect to paper medium |
CN110516634A (en) * | 2019-08-30 | 2019-11-29 | 安徽淘云科技有限公司 | A kind of page turning detection method, device, equipment and storage medium |
Also Published As
Publication number | Publication date |
---|---|
JP6024330B2 (en) | 2016-11-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4548144B2 (en) | Digital camera device and through image display method | |
US8988745B2 (en) | Image processing apparatus for processing photographed images | |
JP5754653B2 (en) | Image control apparatus and program | |
JP6024330B2 (en) | Information processing apparatus and program | |
JP5796747B2 (en) | Information processing apparatus and program | |
US9223396B2 (en) | Information processing apparatus and computer readable medium | |
JP6019885B2 (en) | Information processing apparatus and program | |
JP6176382B2 (en) | Information processing apparatus and program | |
JP6149905B2 (en) | Information processing apparatus and program | |
JP2012205089A (en) | Information processing device, information processing method, and information processing program | |
JP2015084028A (en) | Image formation apparatus | |
JP5971003B2 (en) | Information processing apparatus and program | |
JP5907017B2 (en) | Information processing apparatus and program | |
JP2016219061A (en) | Information processing device and program | |
JP5849886B2 (en) | Information processing apparatus and program | |
JP6439738B2 (en) | Image processing apparatus and program | |
JP5962975B2 (en) | Information processing apparatus and program | |
JP6380567B2 (en) | Information processing apparatus and program | |
JP6094660B2 (en) | Information processing apparatus and program | |
JP4554007B2 (en) | Imaging apparatus, imaging method, and recording medium | |
JP5799911B2 (en) | Information processing apparatus and program | |
JP2005348256A (en) | Image data processing apparatus, image data processing method, program and recording medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150427 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160310 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160322 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160518 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160628 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160824 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160913 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160926 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6024330 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |