JP2014171023A - Image processing device, image processing method, and program - Google Patents

Image processing device, image processing method, and program Download PDF

Info

Publication number
JP2014171023A
JP2014171023A JP2013040820A JP2013040820A JP2014171023A JP 2014171023 A JP2014171023 A JP 2014171023A JP 2013040820 A JP2013040820 A JP 2013040820A JP 2013040820 A JP2013040820 A JP 2013040820A JP 2014171023 A JP2014171023 A JP 2014171023A
Authority
JP
Japan
Prior art keywords
document
image data
timing
document image
original
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013040820A
Other languages
Japanese (ja)
Inventor
Ryo Kosaka
亮 小坂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013040820A priority Critical patent/JP2014171023A/en
Publication of JP2014171023A publication Critical patent/JP2014171023A/en
Pending legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To enable double-sided document pages to be read without prior settings when scanning a plurality of single-sided and double-sided document pages collectively.SOLUTION: According to the present invention, it is possible to automatically correlate two sides of a document and specify a document page to be removed by calculating the degree of correlated document reliability on the basis of a positional relation between document image data extracted from a currently image-captured image and document image data extracted from an immediately preceding image-captured image. It is thereby made possible to automatically output single-sided and double-sided document pages in recognition thereof by an intuitive operation of a user such as reversing or exchanging double-sided document pages.

Description

本発明は画像データを処理する画像処理装置、方法およびプログラムに関する。   The present invention relates to an image processing apparatus, method, and program for processing image data.

従来のフラットベッドスキャナ付き複合機で複数枚原稿のスキャンを行う際に、原稿を1枚ずつ読み込みスタートさせる必要がある。すなわち、原稿を1枚ずつ原稿ガラス台(フラットベッド)にセットし、また、セット前後に原稿台カバーを開けたり、閉じたり、読み込みスタートボタンを押下するといった操作を繰り返す。   When scanning a plurality of originals with a conventional multifunction machine with a flatbed scanner, it is necessary to start reading originals one by one. That is, an operation of setting originals one by one on an original glass table (flat bed), opening and closing the original table cover before and after setting, and pressing a read start button is repeated.

ADF(オートドキュメントフィーダ)付き複合機で複数枚原稿をスキャンする場合には、ADFにまとめて原稿をセットし、読み取り開始ボタンを押下するだけで済む。よって、上記のような煩雑な手順を省くことができる。しかしながら、両面原稿をスキャンする際には、事前に両面読み取り設定と読み取り方向設定を行う必要がある。片面原稿と両面原稿が混載されている場合には、原稿ごとに設定を変更するか、どちらの原稿に対しても常に両面読み取りを行い、白紙であれば処理をスキップ(片面原稿として処理)することが必要となる。   When scanning a plurality of originals with a multifunction machine with an ADF (auto document feeder), it is only necessary to set the originals together in the ADF and press the reading start button. Therefore, the complicated procedure as described above can be omitted. However, when scanning a double-sided document, it is necessary to perform double-sided reading setting and reading direction setting in advance. If single-sided and double-sided originals are mixed, change the settings for each original, or always perform double-sided reading for both originals and skip the process if it is blank (process as a single-sided original) It will be necessary.

さらに、最近では複数枚の写真などの原稿を原稿ガラス台に載せることにより自動でそれぞれの原稿領域を認識し、それぞれ個別の原稿としてスキャンする機能も搭載されている複合機も出てきている。この機能を用いると複数の原稿を同時にスキャンすることが可能であるため、作業効率は上がるが、両面原稿として取り込むことができない。   Furthermore, recently, there have been some multifunction machines equipped with a function of automatically recognizing each document area by placing a plurality of documents such as photographs on a document glass table and scanning each document as a separate document. If this function is used, it is possible to scan a plurality of documents at the same time, so that the working efficiency is improved, but it cannot be taken as a double-sided document.

一方、近年、原稿の画像データを読み取る装置として、原稿台に載置した原稿をカメラで撮像して、カメラで撮像した原稿の画像データを処理して記憶するカメラスキャナも知られている(例えば、特許文献1参照)。特許文献1のカメラスキャナでは、新たに撮像した画像が前回撮像した時の画像と比較してどれぐらい変化したかを示す画像変化量に基づいて画像の動き検出処理を行う。動き検出処理によって、原稿台上の原稿が載置されて静止したタイミングを検出する。検出されたタイミングで撮像した画像データ中から原稿部分を認識・抽出し、射影補正、拡大縮小等の画像処理を施して記憶装置に原稿の画像データとして蓄積し、プロジェクタに投影する。   On the other hand, recently, as an apparatus for reading image data of a document, a camera scanner that captures a document placed on a document table with a camera and processes and stores the image data of the document captured with the camera is also known (for example, , See Patent Document 1). In the camera scanner of Patent Document 1, a motion detection process of an image is performed based on an image change amount indicating how much a newly captured image has changed compared to an image captured at the previous time. The motion detection process detects the timing at which the document on the document table is placed and stopped. A document portion is recognized and extracted from image data captured at the detected timing, subjected to image processing such as projection correction and enlargement / reduction, and stored as image data of the document in a storage device, and projected onto a projector.

特許文献1のカメラスキャナは、従来のADF付き複合機と同様、フラットベッドスキャナ付き複合機のようなカバー開閉といった手順が省け、また、原稿の撮像タイミングを検出することによって、読み込みスタートボタンを押下する手順が省ける。   The camera scanner disclosed in Patent Document 1, like the conventional multifunction machine with ADF, omits the procedure of opening and closing the cover like the multifunction machine with flatbed scanner, and presses the reading start button by detecting the imaging timing of the document. The procedure to do can be omitted.

特開2006−115334号公報JP 2006-115334 A

上述のように、従来のADF付き複合機を利用して複数枚の両面原稿を読み取る際には、原稿1枚ずつに対して両面読み取り設定と読み取り方向設定を行うことで両面スキャンをする必要があり、設定操作に手間が必要であった。あるいは、ADFに片面と両面原稿が混載されている場合にも常に両面読み取りを行い、裏面が白紙であるかどうかを1枚ずつ判定することで片面原稿と認識する必要があった。このように複数の原稿をまとめて両面スキャンすることができず、作業効率が上がらなくなる。   As described above, when a plurality of double-sided originals are read using a conventional multifunction peripheral with ADF, it is necessary to perform double-sided scanning by performing double-sided reading setting and reading direction setting for each original. Yes, it took time and effort for the setting operation. Alternatively, even when single-sided and double-sided originals are mixedly loaded on the ADF, it is necessary to always perform double-sided reading and determine whether the reverse side is blank paper one by one to recognize it as a single-sided original. In this way, a plurality of originals cannot be scanned in a double-sided manner, and work efficiency cannot be improved.

また、原稿ガラス台上の複数枚原稿を同時にスキャンした場合には、スキャン終了後に手動で両面原稿に対する処理を行わなければならないという課題もある。   In addition, when a plurality of originals on the original glass table are scanned simultaneously, there is a problem in that it is necessary to manually process a double-sided original after the scanning is completed.

一方、特許文献1のカメラスキャナにおいては、原稿台に置かれた原稿を抽出するだけであるため、片面原稿と両面原稿という区別なく保存されてしまうという課題がある。   On the other hand, in the camera scanner of Patent Document 1, since only the original placed on the original table is extracted, there is a problem that the single-side original and the double-side original are stored without being distinguished.

上記課題を解決するために、本発明の画像処理装置は、読み取り領域内の原稿が静止したタイミングを第1のタイミングとして検出し、前記第1のタイミングの直後に前記読み取り領域内の原稿が再び静止したタイミングを第2のタイミングとして検出する、検出手段と、前記検出手段で検出されたタイミングに基づき、前記読み取り領域を撮像し、撮像した画像から、原稿画像データと原稿画像データの前記読み取り領域内の位置情報とを取得する取得手段と、前記第1のタイミングに基づき取得された原稿画像データと前記第2のタイミングに基づき取得された原稿画像データとの間の対応原稿信頼度を、原稿画像データ同士の位置関係から算出する算出手段と、算出された前記第1のタイミングに基づき取得された原稿画像データと前記第2のタイミングに基づき取得された原稿画像データとの間の対応原稿信頼度に応じて、原稿の両面対応付け処理を行う両面対応付け処理手段とを備えることを特徴とする。   In order to solve the above-described problem, the image processing apparatus according to the present invention detects the timing at which the document in the reading area is stopped as the first timing, and immediately after the first timing, the document in the reading area is detected again. A detection unit that detects a stationary timing as a second timing, and images the reading area based on the timing detected by the detection unit, and reads the document image data and the document image data from the captured image. And the corresponding document reliability between the document image data acquired based on the second timing and the document image data acquired based on the second timing, Calculation means for calculating from the positional relationship between the image data, original image data acquired based on the calculated first timing, and the previous According to the corresponding original confidence between the acquired document image data based on the second timing, characterized in that it comprises a double-sided correspondence processing means for performing duplex correspondence processing of the document.

本発明によれば、ユーザは読み取りスタートボタンの押下、両面読み取り設定、読み取り方向設定といった操作を行う必要がなくなり、大幅な手間の削減というメリットを享受可能となる。また、両面原稿と片面原稿が混在している場合において、複数の原稿を同時に読み取り、自動で両面対応付けの判定処理を行えることから、大幅な作業効率の向上にもつながる。   According to the present invention, the user does not need to perform operations such as pressing the reading start button, double-sided reading setting, and reading direction setting, and can enjoy the merit of significant labor saving. In addition, when double-sided originals and single-sided originals are mixed, a plurality of originals can be simultaneously read and the double-sided correspondence determination process can be automatically performed, which leads to a significant improvement in work efficiency.

カメラスキャナ101が含まれるネットワーク構成の一例を示す図である。1 is a diagram illustrating an example of a network configuration including a camera scanner 101. FIG. カメラスキャナ101の構成の一例を示す図である。2 is a diagram illustrating an example of a configuration of a camera scanner 101. FIG. コントローラ部201のハードウェア構成の一例を示す図である。2 is a diagram illustrating an example of a hardware configuration of a controller unit 201. FIG. カメラスキャナ101の制御用プログラムの機能構成の一例を示す図である。2 is a diagram illustrating an example of a functional configuration of a control program for the camera scanner 101. FIG. 原稿をスキャンする際の操作手順の一例を示す図である。It is a figure which shows an example of the operation procedure at the time of scanning a document. 第1の実施形態におけるカメラスキャナ101の処理フローの一例を示す図である。It is a figure which shows an example of the processing flow of the camera scanner 101 in 1st Embodiment. 撮像処理部406が撮像する読み取り領域205の画像の一例を示す図である。6 is a diagram illustrating an example of an image of a reading area 205 captured by an imaging processing unit 406. FIG. フレームインまたはフレームアウト検出方法について説明する図面である。It is drawing explaining the frame-in or frame-out detection method. 第1の実施形態における原稿画像データ抽出処理フローの一例を示す図である。It is a figure which shows an example of the original image data extraction processing flow in 1st Embodiment. データ管理部405が保存する静止画像および抽出原稿画像データの模式図である。4 is a schematic diagram of still images and extracted document image data stored by a data management unit 405. FIG. データ管理部405が保存する属性管理テーブルの一例を示す図である。It is a figure which shows an example of the attribute management table which the data management part 405 preserve | saves. 第1の実施形態における除去原稿特定処理フローの一例を示す図である。It is a figure which shows an example of the removal original specification processing flow in 1st Embodiment. 第1の実施形態における両面原稿認識処理フローの一例を示す図である。It is a figure which shows an example of the double-sided document recognition process flow in 1st Embodiment. 第1の実施形態における対応原稿信頼度算出方法について説明するための図である。It is a figure for demonstrating the corresponding original document reliability calculation method in 1st Embodiment. 出力ファイル生成部409が生成する出力ファイルの一例を示す図である。It is a figure which shows an example of the output file which the output file production | generation part 409 produces | generates. 出力ファイル生成処理フローの一例を示す図である。It is a figure which shows an example of an output file production | generation process flow. 第2の実施形態における操作手順の一例を示す図である。It is a figure which shows an example of the operation procedure in 2nd Embodiment. 第2の実施形態における両面原稿認識処理フローの一例を示す図である。It is a figure which shows an example of the double-sided document recognition process flow in 2nd Embodiment. 第3の実施形態における操作手順の一例を示す図である。It is a figure which shows an example of the operation procedure in 3rd Embodiment. 第3の実施形態における両面原稿認識処理フローの一例を示す図である。It is a figure which shows an example of the double-sided document recognition process flow in 3rd Embodiment. 第4の実施形態における操作手順の一例を示す図である。It is a figure which shows an example of the operation procedure in 4th Embodiment. 第4の実施形態における両面原稿認識処理フローの一例を示す図である。It is a figure which shows an example of the double-sided document recognition process flow in 4th Embodiment. 第5の実施形態における対応原稿信頼度算出方法について説明するための図である。It is a figure for demonstrating the corresponding original document reliability calculation method in 5th Embodiment. 第6の実施形態における対応原稿信頼度算出方法について説明するための図である。It is a figure for demonstrating the corresponding original document reliability calculation method in 6th Embodiment. 第7の実施形態における対応原稿信頼度算出方法について説明するための図である。It is a figure for demonstrating the corresponding original document reliability calculation method in 7th Embodiment.

以下、本発明を実施するための形態について図面を参照して説明する。   Hereinafter, embodiments for carrying out the present invention will be described with reference to the drawings.

[第1の実施形態]
<ネットワーク構成>
図1は、一実施形態に係るカメラスキャナ101が含まれるネットワーク構成を示す図である。
[First Embodiment]
<Network configuration>
FIG. 1 is a diagram illustrating a network configuration including a camera scanner 101 according to an embodiment.

図1に示すように、カメラスキャナ101はイーサネット(登録商標)等のネットワーク104にてホストコンピュータ102およびプリンタ103に接続されている。図1のネットワーク構成において、ホストコンピュータ102からの指示により、カメラスキャナ101から画像を読み取るスキャン機能や、スキャンデータをプリンタ103により出力するプリント機能の実行が可能である。また、ホストコンピュータ102を介さず、カメラスキャナ101への直接の指示により、スキャン機能、プリント機能の実行も可能である。   As shown in FIG. 1, a camera scanner 101 is connected to a host computer 102 and a printer 103 via a network 104 such as Ethernet (registered trademark). In the network configuration of FIG. 1, a scan function for reading an image from the camera scanner 101 and a print function for outputting scan data by the printer 103 can be executed by an instruction from the host computer 102. Further, it is possible to execute a scan function and a print function by direct instructions to the camera scanner 101 without using the host computer 102.

<外観図>
図2は、一実施形態に係るカメラスキャナ101の構成例を示す図である。
<External view>
FIG. 2 is a diagram illustrating a configuration example of the camera scanner 101 according to the embodiment.

図2に示すように、カメラスキャナ101は、コントローラ部201、カメラ部202、腕部203を含む。カメラスキャナの本体であるコントローラ部201と、撮像を行うためのカメラ部202は、腕部203により連結されている。腕部203は関節を用いて自由に曲げ伸ばしが可能である。   As shown in FIG. 2, the camera scanner 101 includes a controller unit 201, a camera unit 202, and an arm unit 203. A controller unit 201 that is a main body of the camera scanner and a camera unit 202 for performing imaging are connected by an arm unit 203. The arm portion 203 can be bent and stretched freely using a joint.

図2には、カメラスキャナ101が設置されている書画台204も示している。カメラ部202のレンズは書画台204方向に向けられており、破線で囲まれた読み取り領域205内の画像を読み取り可能である。図2の例では、原稿206は読み取り領域205内に置かれているので、カメラスキャナ101で読み取り可能となっている。   FIG. 2 also shows a document table 204 on which the camera scanner 101 is installed. The lens of the camera unit 202 is directed toward the document table 204 and can read an image in the reading area 205 surrounded by a broken line. In the example of FIG. 2, the document 206 is placed in the reading area 205 and can be read by the camera scanner 101.

カメラ部202は単一解像度で画像を撮像するものとしてもよいが、高解像度画像撮像と低解像度画像撮像が可能なものとすることが好ましい。一実施形態において、コントローラ部201は、カメラ部202の低解像度で撮像したカメラ画像を用いて、原稿が載置されて読み取り領域205内で静止したタイミングなどを検出し、検出するとカメラ部202が高解像度で静止した原稿を撮像するように制御する。また、コントローラ部201は、カメラ部202の低解像度で撮像したカメラ画像を用いて、原稿が読み取り領域205にフレームインしたタイミングおよび/または読み取り領域205からフレームアウトするタイミングを検出する。   The camera unit 202 may capture an image with a single resolution, but it is preferable that the camera unit 202 can capture a high-resolution image and a low-resolution image. In one embodiment, the controller unit 201 uses the camera image captured at a low resolution of the camera unit 202 to detect the timing when the document is placed and stopped in the reading area 205, and when the camera unit 202 detects the timing, Control is performed so as to image a stationary document at a high resolution. In addition, the controller unit 201 detects the timing at which the document is framed into the reading area 205 and / or the timing at which the document is framed out from the reading area 205 using the camera image captured at a low resolution of the camera unit 202.

なお、カメラスキャナ101は、書画台等に、操作を補助する画像の投影を行う短焦点プロジェクタ207をさらに含むことができる。また、図2に示されていないが、カメラスキャナ101は、LCDタッチパネル330およびスピーカ340をさらに含むこともできる。   Note that the camera scanner 101 can further include a short focus projector 207 that projects an image assisting the operation on a document table or the like. Although not shown in FIG. 2, the camera scanner 101 may further include an LCD touch panel 330 and a speaker 340.

<カメラスキャナのコントローラのハードウェア構成>
図3は、カメラスキャナ101の本体であるコントローラ部201のハードウェア構成例を示す図である。
<Hardware configuration of camera scanner controller>
FIG. 3 is a diagram illustrating a hardware configuration example of the controller unit 201 which is the main body of the camera scanner 101.

図3に示すように、コントローラ部201は、システムバス301に接続されたCPU302、RAM303、ROM304、HDD305、ネットワークI/F306、画像処理プロセッサ307およびカメラI/F308を含む。   As illustrated in FIG. 3, the controller unit 201 includes a CPU 302, a RAM 303, a ROM 304, an HDD 305, a network I / F 306, an image processor 307, and a camera I / F 308 connected to the system bus 301.

CPU302はコントローラ部201全体の動作を制御する中央演算装置である。RAM303は揮発性メモリである。ROM304は不揮発性メモリであり、CPU302の起動用プログラムが格納されている。HDD305はRAM303と比較して大容量なハードディスクドライブ(HDD)である。HDD305にはコントローラ部201が実行する、カメラスキャナ101の制御用プログラムが格納されている。   The CPU 302 is a central processing unit that controls the operation of the entire controller unit 201. The RAM 303 is a volatile memory. A ROM 304 is a non-volatile memory, and stores a startup program for the CPU 302. The HDD 305 is a hard disk drive (HDD) having a larger capacity than the RAM 303. The HDD 305 stores a control program for the camera scanner 101 executed by the controller unit 201.

CPU302は電源ON等の起動時、ROM304に格納されている起動用プログラムを実行する。この起動用プログラムは、ROM304あるいはHDD305に格納されている本実施形態のカメラスキャナ101の制御用プログラムを読み出し、RAM303上に展開するためのものである。CPU302は起動用プログラムを実行すると、続けてRAM303上に展開した制御用プログラムを実行し、制御を行う。また、CPU302は制御用プログラムによる動作に用いるデータもRAM303上に格納して読み書きを行う。HDD305上にはさらに、制御用プログラムによる動作に必要な各種設定や、また、カメラ入力によって生成した画像データを格納することができ、CPU302によって読み書きされる。CPU302はネットワークI/F306を介してネットワーク104上の他の機器との通信を行う。   The CPU 302 executes a startup program stored in the ROM 304 when the power is turned on. This activation program is for reading the control program for the camera scanner 101 of the present embodiment stored in the ROM 304 or the HDD 305 and developing it on the RAM 303. When the CPU 302 executes the startup program, the CPU 302 subsequently executes the control program developed on the RAM 303 to perform control. Further, the CPU 302 also stores data used for the operation by the control program on the RAM 303 to read / write. Further, various settings necessary for operation by the control program and image data generated by camera input can be stored on the HDD 305 and read / written by the CPU 302. The CPU 302 communicates with other devices on the network 104 via the network I / F 306.

画像処理プロセッサ307はRAM303やHDD305に格納された画像データを読み出して処理し、またRAM303やHDD305へ書き戻す。なお、画像処理プロセッサ307が実行する画像処理は、回転、変倍、色変換等である。   The image processor 307 reads and processes the image data stored in the RAM 303 or HDD 305, and writes it back to the RAM 303 or HDD 305. Note that image processing executed by the image processor 307 includes rotation, scaling, color conversion, and the like.

カメラI/F308はカメラ部202と接続され、CPU302からの指示に応じてカメラ部202から画像データを取得してRAM303へ書き込む。また、CPU302からの制御コマンドをカメラ部202へ送信し、カメラ部202の設定を行う。   The camera I / F 308 is connected to the camera unit 202, acquires image data from the camera unit 202 in accordance with an instruction from the CPU 302, and writes it in the RAM 303. Also, a control command from the CPU 302 is transmitted to the camera unit 202 to set the camera unit 202.

また、コントローラ部201は、ディスプレイコントローラ309、シリアルI/F310、オーディオコントローラ311およびUSBコントローラ312のうち少なくとも1つをさらに含むことができる。   The controller unit 201 can further include at least one of a display controller 309, a serial I / F 310, an audio controller 311, and a USB controller 312.

ディスプレイコントローラ309はCPU302の指示に応じてディスプレイへの画像データの表示を制御する。ここでは、ディスプレイコントローラ309は短焦点プロジェクタ207およびLCDタッチパネル330に接続されている。   A display controller 309 controls display of image data on the display in accordance with an instruction from the CPU 302. Here, the display controller 309 is connected to the short focus projector 207 and the LCD touch panel 330.

シリアルI/F310はシリアル信号の入出力を行う。ここでは、シリアルI/F310はLCDタッチパネル330に接続され、CPU302はLCDタッチパネル330が押下されたときに、シリアルI/F310を介して押下された座標を取得する。   The serial I / F 310 inputs and outputs serial signals. Here, the serial I / F 310 is connected to the LCD touch panel 330, and the CPU 302 acquires the coordinates pressed via the serial I / F 310 when the LCD touch panel 330 is pressed.

オーディオコントローラ311はスピーカ340に接続され、CPU302の指示に応じて音声データをアナログ音声信号に変換し、スピーカ340を通じて音声を出力する。   The audio controller 311 is connected to the speaker 340, converts audio data into an analog audio signal in accordance with an instruction from the CPU 302, and outputs audio through the speaker 340.

USBコントローラ312はCPU302の指示に応じて外付けのUSBデバイスの制御を行う。ここでは、USBコントローラ312はUSBメモリやSDカードなどの外部メモリ350に接続され、外部メモリへのデータの読み書きを行う。   The USB controller 312 controls an external USB device in accordance with an instruction from the CPU 302. Here, the USB controller 312 is connected to an external memory 350 such as a USB memory or an SD card, and reads / writes data from / to the external memory.

<カメラスキャナの制御用プログラムの機能構成>
図4は、CPU302が実行するカメラスキャナ101の制御用プログラムの機能構成401を示す図である。
<Functional structure of camera scanner control program>
FIG. 4 is a diagram illustrating a functional configuration 401 of a control program for the camera scanner 101 executed by the CPU 302.

カメラスキャナ101の制御用プログラムは前述のようにHDD305に格納され、CPU302が起動時にRAM303上に展開して実行する。カメラスキャナ101の制御用プログラムの機能構成401は、メイン制御部402、操作表示部403、ネットワーク通信部404、データ管理部405、撮像処理部406、画像認識部407、原稿認識部408、および出力ファイル生成部409を備える。また、撮像処理部406はタイミング検出部410を、画像認識部407は原稿画像データ抽出部411を、原稿認識部408は除去原稿特定部412と両面原稿認識部413をそれぞれ含む。   The control program for the camera scanner 101 is stored in the HDD 305 as described above, and the CPU 302 develops and executes it on the RAM 303 at the time of activation. The functional configuration 401 of the control program for the camera scanner 101 includes a main control unit 402, an operation display unit 403, a network communication unit 404, a data management unit 405, an imaging processing unit 406, an image recognition unit 407, a document recognition unit 408, and an output. A file generation unit 409 is provided. Further, the imaging processing unit 406 includes a timing detection unit 410, the image recognition unit 407 includes a document image data extraction unit 411, and the document recognition unit 408 includes a removed document specifying unit 412 and a double-sided document recognition unit 413.

メイン制御部402は制御の中心であり、制御用プログラムの機能構成401内の他の各部を制御する。   The main control unit 402 is the center of control, and controls other units in the functional configuration 401 of the control program.

操作表示部403は、メイン制御部402からの描画要求を受け、ディスプレイコントローラ309を介して、短焦点プロジェクタ207もしくはLCDタッチパネル330へ描画を実行する。また、操作表示部403は、LCDタッチパネル330が押下されたときにシリアルI/F310を介して押下座標を受信し、描画中の操作画面の内容と押下座標を対応させて操作内容(押下されたボタン等)を判定する。この押下内容をメイン制御部402へ通知することにより、操作者の操作を受け付ける。   The operation display unit 403 receives a drawing request from the main control unit 402 and executes drawing on the short focus projector 207 or the LCD touch panel 330 via the display controller 309. Further, the operation display unit 403 receives the pressed coordinates via the serial I / F 310 when the LCD touch panel 330 is pressed, and associates the contents of the operation screen being drawn with the pressed coordinates to display the operation contents (pressed Button). By notifying the main control unit 402 of the pressed content, the operator's operation is accepted.

ネットワーク通信部404は、ネットワークI/F306を介して、ネットワーク104上の他の機器とTCP/IPによる通信を行う。   The network communication unit 404 communicates with other devices on the network 104 by TCP / IP via the network I / F 306.

データ管理部405は、制御用プログラムの実行において生成した作業データ、例えば後述の原稿画像データ抽出部411で抽出した原稿画像データ、文書属性・画像属性情報をHDD305上やRAM303上の所定の領域へ保存し、管理する。   The data management unit 405 stores work data generated in the execution of the control program, for example, document image data extracted by a document image data extraction unit 411 described later, document attribute / image attribute information, in a predetermined area on the HDD 305 or the RAM 303. Save and manage.

撮像処理部406は、カメラI/F308を介してカメラ部202を制御し、撮像処理部406のタイミング検出部410で検出されたタイミングで撮像したカメラ画像を画像認識部407へ送信する。あるいは、撮像処理部406はカメラ部202を制御して、高解像度で原稿を撮像させてもよい。   The imaging processing unit 406 controls the camera unit 202 via the camera I / F 308, and transmits a camera image captured at the timing detected by the timing detection unit 410 of the imaging processing unit 406 to the image recognition unit 407. Alternatively, the imaging processing unit 406 may control the camera unit 202 to image a document with high resolution.

撮像処理部406のタイミング検出部410は、原稿がフレームインしたタイミング、静止したタイミング、およびフレームアウトするタイミングを検出する。これらのタイミングは、カメラ部202から受信したカメラ画像に基づいて検出することができる。ここで、フレームアウトタイミングは、原稿が読み取り領域205からフレームアウトする直前のタイミングもしくはフレームアウトし始めるタイミング、またはその間の任意のタイミングとしてもよい。   The timing detection unit 410 of the imaging processing unit 406 detects the timing at which the document is framed in, the timing at which the document is stopped, and the timing at which the document is out. These timings can be detected based on the camera image received from the camera unit 202. Here, the frame-out timing may be a timing immediately before the document is framed out from the reading area 205, a timing at which the document starts to be framed out, or an arbitrary timing therebetween.

画像認識部407は、撮像処理部406からカメラ画像を受信し、受信したカメラ画像の内容を認識する。図4に示すように、画像認識部407は、原稿画像データ抽出部411を含む。   The image recognition unit 407 receives a camera image from the imaging processing unit 406 and recognizes the content of the received camera image. As shown in FIG. 4, the image recognition unit 407 includes a document image data extraction unit 411.

画像認識部407の原稿画像データ抽出部411は、タイミング検出部410が検出した静止タイミングまたはフレームアウトタイミングで撮像され送信されてきたカメラ画像から、複数枚の原稿画像データを抽出する。なお、抽出した原稿画像データは、データ管理部405によってHDD305上の所定の領域へ保存され、管理される。   The document image data extraction unit 411 of the image recognition unit 407 extracts a plurality of document image data from the camera image captured and transmitted at the still timing or the frame-out timing detected by the timing detection unit 410. The extracted document image data is stored and managed in a predetermined area on the HDD 305 by the data management unit 405.

原稿認識部408は、原稿画像データ抽出部411で抽出された原稿画像データ同士の位置関係を基に、除去原稿を特定する処理および両面原稿を認識する処理を行う。図4に示すように、原稿認識部408は、除去原稿特定部412と両面原稿認識部413を含む。   The document recognizing unit 408 performs a process for specifying a removed document and a process for recognizing a double-sided document based on the positional relationship between the document image data extracted by the document image data extracting unit 411. As shown in FIG. 4, the document recognition unit 408 includes a removed document specifying unit 412 and a double-sided document recognition unit 413.

原稿認識部408の除去原稿特定部412は、フレームアウトタイミングで撮像されたカメラ画像と直前の静止タイミングで撮像されたカメラ画像より抽出されたそれぞれの原稿画像データを比較し、どの原稿が読み取り領域205から取り除かれたのかを特定する。   The removed document specifying unit 412 of the document recognition unit 408 compares each of the document image data extracted from the camera image captured at the frame-out timing and the camera image captured at the immediately preceding stationary timing, and which document is the reading area. Specify whether it has been removed from 205.

原稿認識部408の両面原稿認識部413は、現在の静止タイミングで撮像されたカメラ画像と直前の静止タイミングで撮像されたカメラ画像より抽出されたそれぞれの原稿画像データを比較することで、新たな原稿の表面なのか、両面原稿の裏面なのかを認識する。以下、静止タイミングで撮像されたカメラ画像を静止画像と呼ぶ。   The double-sided document recognizing unit 413 of the document recognizing unit 408 compares the camera image captured at the current still timing with each document image data extracted from the camera image captured at the immediately previous stationary timing, thereby creating a new one. It recognizes whether it is the front side of a document or the back side of a double-sided document. Hereinafter, a camera image captured at a still timing is referred to as a still image.

出力ファイル生成部409は、データ管理部405が保存した原稿画像データを変換し適切な画像に整えた上で、所定のデータ出力形式で出力ファイルを生成する。   The output file generation unit 409 converts the original image data saved by the data management unit 405 to prepare an appropriate image, and then generates an output file in a predetermined data output format.

図5は本実施形態における原稿操作の一例を示す図である。原稿が投入されていない状態の読み取り領域205を図5(a)に示す。2枚の両面原稿の表面をスキャンする際の操作手順を図5(b)から図5(c)に示す。その後、1枚の原稿を新しい原稿と交換し、もう一方の原稿を裏返して、再度スキャンを行う際の操作手順を図5(d)から図5(g)に示す。続いて、先ほど交換した原稿を裏返し、新しい原稿をもう1枚追加してスキャンをする際の操作手順を図5(h)から図5(j)に示す。   FIG. 5 is a diagram showing an example of manuscript operation in the present embodiment. FIG. 5A shows the reading area 205 in a state where no document is loaded. The operation procedure for scanning the surface of two double-sided originals is shown in FIGS. Thereafter, an operation procedure when one original is replaced with a new original, the other original is turned over, and scanning is performed again is shown in FIGS. 5D to 5G. Next, FIG. 5 (h) to FIG. 5 (j) show the operation procedure when scanning the document that has been replaced earlier, adding another new document, and scanning.

図6は撮像処理部406およびタイミング検出部410の処理フローについて説明する図である。図6(a)は初期化設定フローを示している。撮像処理部406がスタートすると、図6(a)で示すように読み取り領域の位置情報を取得する初期化設定を行う。   FIG. 6 is a diagram for explaining the processing flow of the imaging processing unit 406 and the timing detection unit 410. FIG. 6A shows an initialization setting flow. When the imaging processing unit 406 starts, initialization setting for acquiring position information of the reading area is performed as shown in FIG.

図6(a)のステップS601において、撮像処理部406は、背景画像として、図5(a)に示すような原稿が投入されていない状態の読み取り領域205の画像をカメラ部202に撮像させる。読み取り領域205は矩形であるが、カメラ部202は厳密には読み取り領域205の真上にあるわけではないため、ステップS601で撮像された読み取り領域の画像は図7(a)に示した画像701のように形状が歪んでいる。   In step S601 of FIG. 6A, the imaging processing unit 406 causes the camera unit 202 to capture an image of the reading area 205 in a state where no document is input as illustrated in FIG. 5A as a background image. Although the reading area 205 is rectangular, the camera unit 202 is not strictly above the reading area 205, so the image of the reading area captured in step S601 is the image 701 shown in FIG. The shape is distorted.

ステップS602において、撮像処理部406は、撮像された読み取り領域の画像701を矩形に変換する射影変換のパラメータを算出する。   In step S602, the imaging processing unit 406 calculates projection conversion parameters for converting the captured image 701 of the reading area into a rectangle.

ステップS603において、撮像処理部406は、ステップS602で算出した射影変換パラメータを使用してステップS601で撮像した読み取り領域の画像701を、図7(b)に示した読み取り領域背景画像702のように矩形に補正する。   In step S603, the imaging processing unit 406 uses the projection transformation parameter calculated in step S602 to convert the reading area image 701 captured in step S601 into a reading area background image 702 illustrated in FIG. 7B. Correct to rectangle.

ステップS604において、撮像処理部406は、補正された読み取り領域背景画像702を、データ管理部405を介してHDD305へ保存する。図10(a)に、読み取り領域背景画像702を保存した時の模式図を示す。データ管理部405は、HDD305上に空のディレクトリ(図10(a)中の「/IMGDIR」)を作成し、読み取り領域背景画像としてデータ1001を保存する。   In step S <b> 604, the imaging processing unit 406 stores the corrected reading area background image 702 in the HDD 305 via the data management unit 405. FIG. 10A is a schematic diagram when the reading area background image 702 is stored. The data management unit 405 creates an empty directory (“/ IMGDIR” in FIG. 10A) on the HDD 305 and stores the data 1001 as a reading area background image.

初期化処理が終了すると、撮像処理部406のタイミング検出部410は、読み取り領域205内に新たに入ってきた原稿が所定時間静止したときに、自動で撮像する処理を図6(b)に示す処理フローに基づき実行する。   When the initialization process is completed, the timing detection unit 410 of the imaging processing unit 406 shows a process of automatically capturing an image when a newly entered document in the reading area 205 is stationary for a predetermined time as shown in FIG. Execute based on the processing flow.

図6(b)のステップS611において、撮像処理部406は、カメラ部202から読み取り領域205を撮像したカメラ画像を受信する。ここで、カメラ部202は、所定のフレームレートで読み取り領域205を撮像し、撮像したカメラ画像を1フレームずつ撮像処理部406へ送信することができる。   In step S <b> 611 in FIG. 6B, the imaging processing unit 406 receives a camera image obtained by imaging the reading area 205 from the camera unit 202. Here, the camera unit 202 can image the reading area 205 at a predetermined frame rate and transmit the captured camera image to the imaging processing unit 406 frame by frame.

ステップS612において、撮像処理部406のタイミング検出部410は、カメラ部202から受信したカメラ画像に基づいて、原稿のフレームインまたはフレームアウトのタイミングを検出する。フレームインが検出された場合はステップS620へ、フレームアウトが検出された場合はステップS621へ進み、どちらも検出されなかった場合にはステップS613へ進む。   In step S612, the timing detection unit 410 of the imaging processing unit 406 detects the frame-in or frame-out timing of the document based on the camera image received from the camera unit 202. If frame-in is detected, the process proceeds to step S620. If frame-out is detected, the process proceeds to step S621. If neither is detected, the process proceeds to step S613.

図8にフレームインまたはフレームアウトの検出方法の一例を示す。図8(a)は原稿801および802の置かれる前の書画台204の様子であり、図8(c)は図8(a)のタイミングで読み取り領域205を撮像して得られた背景画像である。また、図8(b)は原稿801が静止してあり、原稿802が読み取り領域205に対してフレームインまたはフレームアウトする直前の書画台204の様子であり、図8(d)は図8(b)のタイミングで撮像された読み取り領域205のカメラ画像である。画像認識部407のタイミング検出部410は、図8(c)および図8(d)に示す2枚の撮像画像より、図8(e)に示す差分画像を作成する。差分画像の黒画素領域803は背景画像と変化のなかった部分を表している。差分画像の白画素領域804および805は背景画像と変化のあった部分(以下、差分領域)を表している。そのうち、白画素領域805は読み取り領域205の境界に接する差分領域であり、フレームインまたはフレームアウトしていく原稿802の端部を表している。本実施形態において、このような読み取り領域205の境界に接する差分領域を基に、原稿のフレームインまたはフレームアウトを検出する。すなわち、差分画像における読み取り領域205の境界に接する差分領域の画素数を算出し、算出した画素数と所定値とを比較することでフレームインまたはフレームアウトのタイミングを検出する。   FIG. 8 shows an example of a frame-in or frame-out detection method. FIG. 8A shows the state of the document table 204 before the originals 801 and 802 are placed, and FIG. 8C is a background image obtained by imaging the reading area 205 at the timing of FIG. 8A. is there. 8B shows the state of the document table 204 immediately before the document 801 is stationary and the document 802 is framed in or out of the reading area 205. FIG. 8D is a diagram of FIG. It is a camera image of the reading area | region 205 imaged at the timing of b). The timing detection unit 410 of the image recognition unit 407 creates a difference image shown in FIG. 8E from the two captured images shown in FIGS. 8C and 8D. A black pixel region 803 of the difference image represents a portion that has not changed from the background image. The white pixel areas 804 and 805 of the difference image represent portions that have changed from the background image (hereinafter referred to as difference areas). Among them, the white pixel area 805 is a difference area in contact with the boundary of the reading area 205, and represents an end portion of the document 802 that goes into or out of the frame. In the present embodiment, the frame-in or frame-out of the document is detected based on such a difference area in contact with the boundary of the reading area 205. That is, the number of pixels in the difference area in contact with the boundary of the reading area 205 in the difference image is calculated, and the frame-in or frame-out timing is detected by comparing the calculated number of pixels with a predetermined value.

フレームインまたはフレームアウトのどちらの状態であるかは、今回の差分画像から算出した白画像領域805の画素数と直前の差分画像から算出した白画像領域805の画素数とを比較することで判定できる。すなわち、今回の白画像領域805の画素数が直前の白画像領域805の画素数よりも増加している場合にはフレームインの過程、減少している場合にはフレームアウトの過程であると判定することができる。そして、フレームインの過程において、白画像領域805の画素数が所定値以上となったタイミングをフレームインのタイミングとして検出する。同様にフレームアウトの過程において、白画像領域805の画素数が所定値以下となったタイミングをフレームアウトのタイミングとして検出する。   Whether the frame is in or out is determined by comparing the number of pixels in the white image area 805 calculated from the current difference image with the number of pixels in the white image area 805 calculated from the immediately previous difference image. it can. That is, when the number of pixels in the current white image area 805 is larger than the number of pixels in the immediately preceding white image area 805, it is determined that the process is a frame-in process, and when it is decreasing, the process is a frame-out process. can do. In the frame-in process, the timing at which the number of pixels in the white image area 805 is equal to or greater than a predetermined value is detected as the frame-in timing. Similarly, in the frame-out process, the timing at which the number of pixels in the white image area 805 becomes equal to or smaller than a predetermined value is detected as the frame-out timing.

以上のように、本実施形態において差分画像における読み取り領域205の境界に接する差分領域の画素数を用いて、フレームインまたはフレームアウトのタイミングを検出する方法を説明した。ただし、フレームインまたはフレームアウトの検出は、他の方法で実現しても構わないことは言うまでもない。例えば、差分画像におけるいずれかの差分領域の重心と読み取り領域205の境界との距離が所定値以下となったタイミングをフレームアウトのタイミングとして検出してもよい。   As described above, in the present embodiment, the method of detecting the frame-in or frame-out timing using the number of pixels in the difference area in contact with the boundary of the reading area 205 in the difference image has been described. However, it goes without saying that the detection of frame-in or frame-out may be realized by other methods. For example, the timing at which the distance between the center of gravity of any difference area in the difference image and the boundary of the reading area 205 becomes a predetermined value or less may be detected as the frame-out timing.

ここで、図6(b)のステップS612において、図5(b)の状況を撮像したカメラ画像が入力された場合、タイミング検出部410は、このタイミングを原稿のフレームインと判定し、ステップS620へ進む。   Here, in step S612 of FIG. 6B, when a camera image that captures the situation of FIG. 5B is input, the timing detection unit 410 determines that this timing is frame-in of the document, and step S620. Proceed to

ステップS620において、メイン制御部402は、全原稿のスキャンが終了したかを判定する。スキャン終了判定は、ネットワークI/F306を介してホストコンピュータ102から送信されるスキャン終了命令や、LCDタッチパネル330から入力される終了命令、あるいはタイマー設定(図示せず)などにより行われるものとする。スキャンを終了する場合にステップS624へ進み、出力ファイル生成処理を行った後、本処理フローは終了する。スキャンを継続する場合に、ステップS611へ戻り、次の原稿の検出および撮像を行う。   In step S620, the main control unit 402 determines whether scanning of all documents has been completed. The scan end determination is performed based on a scan end command transmitted from the host computer 102 via the network I / F 306, an end command input from the LCD touch panel 330, or a timer setting (not shown). When the scan is finished, the process proceeds to step S624, and after the output file generation process is performed, the process flow ends. When the scanning is continued, the process returns to step S611, and the next original is detected and imaged.

ステップS611に戻り、撮像処理部406は、図5(b)〜図5(c)に至るまでのカメラ画像を取得する。この間では、フレームインまたはフレームアウトを検出しないため、ステップS613へ進む。   Returning to step S611, the imaging processing unit 406 acquires the camera images from FIG. 5B to FIG. 5C. During this time, since no frame-in or frame-out is detected, the process proceeds to step S613.

ステップS613において、タイミング検出部410は、所定時間内で変化がないことを検出する。具体的には、新たに撮像したカメラ画像が、前回撮像した時のカメラ画像と比較して、どれくらい変化したかを示す画像変化量が、所定の割合以下となる場合、変化がないと判定する。また、連続して変化がない時間が所定時間以上になるか否かを判定する。この判定は、連続して変化がないと判定したカメラ画像のフレーム数をカウントし、所定のフレーム数と比較することにより行うことができる。所定時間内で連続して変化がない場合、原稿が静止あるいは原稿が完全に除去されたと判定することができ、ステップS614へ進む。一方、所定時間内で変化がある場合には、読み取り領域205上で原稿を移動しているなどの状況であると判定することができ、ステップS620へ進み、変化がなくなるまでステップS611〜ステップS613までの処理を繰り返す。   In step S613, the timing detection unit 410 detects that there is no change within a predetermined time. Specifically, it is determined that there is no change when the image change amount indicating how much the newly captured camera image has changed compared to the camera image at the previous imaging is less than or equal to a predetermined ratio. . In addition, it is determined whether or not a time when there is no continuous change is a predetermined time or more. This determination can be performed by counting the number of frames of the camera image determined not to change continuously and comparing it with a predetermined number of frames. If there is no continuous change within the predetermined time, it can be determined that the document is stationary or the document has been completely removed, and the process proceeds to step S614. On the other hand, if there is a change within a predetermined time, it can be determined that the document is moving on the reading area 205, and the process proceeds to step S620, and steps S611 to S613 are performed until there is no change. Repeat the process up to.

ここで、図5(b)〜図5(c)の間では原稿を動かしている状態が続いているため、ステップS620へ進み、静止状態を検出するまで処理を繰り返す。そして図5(c)の状態が所定時間以上続いた際には、静止状態を検出し、ステップS614へ進む。   Here, since the state of moving the document continues between FIG. 5B and FIG. 5C, the process proceeds to step S620, and the process is repeated until a stationary state is detected. When the state of FIG. 5C continues for a predetermined time or more, the stationary state is detected, and the process proceeds to step S614.

ステップS614において、撮像処理部406は、今回ステップS611で取り込んだカメラ画像を、ステップS602で算出した射影変換パラメータに基づいて射影変換を行う。   In step S614, the imaging processing unit 406 performs projective transformation on the camera image captured in step S611 this time based on the projective transformation parameter calculated in step S602.

ステップS615において、タイミング検出部410は、今回ステップS614で射影変換したカメラ画像と、前回ステップS617で更新された最新静止画像との差分量を算出する。ここで、最新静止画像は、1つ前の静止画像であり、データ管理部405によって保存されている。なお、今回撮像処理部406の開始後初めてステップS615を実行した場合は、ステップS604で保存した読み取り領域背景画像との差分量を算出する。   In step S615, the timing detection unit 410 calculates a difference amount between the camera image subjected to the projective transformation in the current step S614 and the latest still image updated in the previous step S617. Here, the latest still image is the previous still image, and is stored by the data management unit 405. When step S615 is executed for the first time after the start of the current imaging processing unit 406, the difference amount from the reading area background image stored in step S604 is calculated.

ステップS616において、タイミング検出部410は、ステップS615で算出した差分量が所定の値(ここでの所定の値は0に近い)より大きいかどうかを判定する。これにより、今回射影変換したカメラ画像が保存されている最新静止画像と差分があるかどうかを判定する。差分がない場合は、前回の状態から変化がないため、ステップS620へ進み、処理を繰り返す。一方、保存されている最新静止画像との差分がある場合にはステップS617へ進む。   In step S616, the timing detection unit 410 determines whether or not the difference amount calculated in step S615 is greater than a predetermined value (the predetermined value here is close to 0). Thereby, it is determined whether or not there is a difference from the latest still image in which the camera image subjected to the projective transformation is stored. If there is no difference, since there is no change from the previous state, the process proceeds to step S620 and the process is repeated. On the other hand, if there is a difference with the latest stored still image, the process proceeds to step S617.

ステップS617において、撮像処理部406は、ステップS614で射影変換したカメラ画像を静止画像とし、データ管理部405を介してHDD305へ保存する。図10(b)および10(c)に、静止画像を保存した時の模式図を示す。1ページ目の処理については、図10(b)に示すように、取り込んだ静止画像1002を最新静止画像として、読み取り領域背景画像1001を保存したのと同じディレクトリに保存する。なお、2ページ目以降の処理においては、図10(c)に示すように、前回取り込んだ静止画像1002を直前静止画像として保存し直し、今回取り込んだ静止画像1003を最新静止画像として保存する。   In step S617, the imaging processing unit 406 sets the camera image subjected to the projective transformation in step S614 as a still image and stores it in the HDD 305 via the data management unit 405. FIGS. 10B and 10C are schematic diagrams when still images are stored. For the processing of the first page, as shown in FIG. 10B, the captured still image 1002 is stored as the latest still image in the same directory as the reading area background image 1001 is stored. In the processing for the second and subsequent pages, as shown in FIG. 10C, the previously captured still image 1002 is stored again as the previous still image, and the still image 1003 captured this time is stored as the latest still image.

ステップS618において、撮像処理部406は、ステップS617で保存した最新静止画像を画像認識部407へ送信する。そして、画像認識部407の原稿画像データ抽出部411は、この静止画像を受信すると原稿画像データ抽出処理を行う。原稿画像データ抽出処理の詳細は図9を参照して後述する。   In step S618, the imaging processing unit 406 transmits the latest still image stored in step S617 to the image recognition unit 407. Then, the document image data extraction unit 411 of the image recognition unit 407 performs document image data extraction processing when receiving the still image. Details of the document image data extraction processing will be described later with reference to FIG.

ステップS619において、画像認識部407は、ステップS618(第2のタイミング)で抽出された原稿画像データを原稿認識部408へ送信する。そして、原稿認識部408の両面原稿認識部413は、抽出された原稿画像データを受信すると両面対応付け処理を行う。その後、ステップS620へ進み、処理を繰り返す。両面対応付け処理の詳細は図13を参照して後述する。   In step S619, the image recognition unit 407 transmits the document image data extracted in step S618 (second timing) to the document recognition unit 408. When the double-sided document recognition unit 413 of the document recognition unit 408 receives the extracted document image data, the double-sided document recognition processing is performed. Then, it progresses to step S620 and repeats a process. Details of the duplex matching process will be described later with reference to FIG.

続いて、撮像処理部406は、図5(c)〜図5(g)に至るまでのカメラ画像を取得する。ここで、図5(d)〜図5(e)は原稿501を読み取り領域205から除去し、新しく原稿503を読み取り領域205に置くことで原稿を交換している様子を示している。また図5(f)は原稿502を裏返している様子を示している。   Subsequently, the imaging processing unit 406 acquires camera images from FIG. 5C to FIG. Here, FIGS. 5D to 5E show a state in which the original 501 is removed from the reading area 205 and a new original 503 is placed in the reading area 205 so that the original is exchanged. FIG. 5F shows a state where the document 502 is turned over.

ステップS611において、撮像処理部406は、図5(d)に示すようなカメラ画像を取得する。   In step S611, the imaging processing unit 406 acquires a camera image as illustrated in FIG.

ステップS612において、タイミング検出部410は、原稿のフレームアウトを検出し、ステップS621へ進む。   In step S612, the timing detection unit 410 detects the frame out of the document, and proceeds to step S621.

ステップS621において、撮像処理部406は、ステップS611で取り込んだカメラ画像をステップS602で算出したパラメータにより射影変換する。なお、この処理はステップS614の処理と同じものである。   In step S621, the imaging processing unit 406 performs projective transformation on the camera image captured in step S611 using the parameters calculated in step S602. This process is the same as the process in step S614.

ステップS622において、撮像処理部406は、ステップS621で射影変換したカメラ画像を画像認識部407へ送信し、画像認識部407の原稿画像データ抽出部411において原稿画像データ抽出処理を行う。なお、この処理はステップS618の処理と同じものである。   In step S622, the imaging processing unit 406 transmits the camera image subjected to the projective transformation in step S621 to the image recognition unit 407, and the document image data extraction unit 411 of the image recognition unit 407 performs document image data extraction processing. This process is the same as the process in step S618.

ステップS623において、画像認識部407は、ステップS622(第3のタイミング)で抽出された原稿画像データを原稿認識部408へ送信する。そして、原稿認識部408の除去原稿特定部412は、ステップS622で抽出された原稿画像データと、直前のステップS618(第1のタイミング)で抽出された原稿画像データを比較することにより読み取り領域205から除去された原稿を特定する。その後、処理はステップS620へ進み、スキャンを継続するため、ステップS611へ戻る。除去原稿特定処理の詳細は図12を参照して後述する。   In step S623, the image recognition unit 407 transmits the document image data extracted in step S622 (third timing) to the document recognition unit 408. The removed document specifying unit 412 of the document recognition unit 408 compares the document image data extracted in step S622 with the document image data extracted in the immediately preceding step S618 (first timing), thereby reading the region 205. Identify the manuscript that has been removed from. Thereafter, the process proceeds to step S620, and the process returns to step S611 to continue scanning. Details of the removal original specifying process will be described later with reference to FIG.

ステップS611へ戻り、撮像処理部406は、図5(e)に示すような原稿503を挿入している状態のカメラ画像を取得する。そしてステップS612においてタイミング検出部410はフレームインを検出し、次のカメラ画像を取得するための処理を繰り返す。ステップS611において、図5(f)に示すような原稿502を裏返すようなカメラ画像を取得する。ステップS612においてタイミング検出部410はフレームインまたはフレームアウトを検出しないため、そのままステップS613へ進む。   Returning to step S611, the imaging processing unit 406 acquires a camera image in a state in which the document 503 is inserted as shown in FIG. In step S612, the timing detection unit 410 detects the frame-in and repeats the process for acquiring the next camera image. In step S611, a camera image that turns over the document 502 as shown in FIG. In step S612, the timing detection unit 410 does not detect frame-in or frame-out, and thus proceeds directly to step S613.

ステップS613において、タイミング検出部410は、原稿の所定時間静止を検出するまで処理を繰り返す。そして、上述した図5(d)〜図5(f)における一連の連続した操作を終え、図5(g)に示す状態が所定時間以上続いたことを検出すると、ステップS614以降の処理へ進み、原稿画像データ抽出および両面対応付けの処理を行う。   In step S613, the timing detection unit 410 repeats the process until it detects that the document is stationary for a predetermined time. Then, when the series of continuous operations in FIGS. 5D to 5F described above is finished and it is detected that the state shown in FIG. 5G has continued for a predetermined time or more, the process proceeds to step S614 and subsequent steps. Then, document image data extraction and duplex matching are performed.

さらに、撮像処理部406は、図5(g)〜図5(j)に至るまでのカメラ画像を取得する。ここで、図5(h)は原稿503を裏返している状態を示し、図5(i)は読み取り領域205に新しい原稿506を挿入している状態を示している。   Furthermore, the imaging processing unit 406 acquires the camera images from FIG. 5G to FIG. Here, FIG. 5H shows a state where the original 503 is turned over, and FIG. 5I shows a state where a new original 506 is inserted in the reading area 205.

以後の操作に関しての詳細な説明は省略するが、図5(h)および図5(i)に示すように原稿の裏返しと挿入操作が行われた後、ステップS616において、撮像処理部406は、図5(j)に示すようなカメラ画像を静止画像として取り込む。そして、ステップS618において原稿画像データ抽出部411は原稿画像データを抽出し、ステップS619において両面原稿認識部413は両面対応付け処理を実行する。   Although a detailed description of the subsequent operations is omitted, after the document is turned over and inserted as shown in FIGS. 5H and 5I, in step S616, the imaging processing unit 406 A camera image as shown in FIG. 5J is captured as a still image. In step S618, the document image data extraction unit 411 extracts document image data. In step S619, the duplex document recognition unit 413 executes duplex matching processing.

以上のような操作を繰り返し、ステップS620において、メイン制御部402は、ユーザからのスキャン終了指示を受け取ると、スキャン処理を終了し、ステップS624へ進む。   When the operation as described above is repeated and in step S620 the main control unit 402 receives a scan end instruction from the user, the main control unit 402 ends the scan process and proceeds to step S624.

最後に、ステップ624において、出力ファイル生成部409は、カメラ画像から抽出された後に両面対応付け処理が施された複数の原稿画像データを、所定のファイル形式に変換して出力する。処理の詳細は図16を参照して後述する。   Finally, in step 624, the output file generation unit 409 converts the plurality of document image data extracted from the camera image and subjected to the double-sided association processing into a predetermined file format and outputs the data. Details of the processing will be described later with reference to FIG.

上記の処理を繰り返し行うことにより、撮像処理部406は、新しく読み取り領域205に入った原稿が静止したときに、静止画像を自動で取り込み、画像認識部407の原稿画像データ抽出部411へ送信し、複数枚の原稿画像データを抽出する。そして、原稿認識部408の両面原稿認識部413において、抽出した複数枚の原稿画像データ同士で両面対応付けすることができる。   By repeatedly performing the above processing, the imaging processing unit 406 automatically captures a still image and transmits it to the document image data extraction unit 411 of the image recognition unit 407 when the document newly entered in the reading area 205 stops. A plurality of document image data are extracted. Then, the double-sided document recognition unit 413 of the document recognition unit 408 can perform double-sided association between the extracted plurality of document image data.

なお、図5に示した一連の操作において、撮像処理部406のタイミング検出部410は、図5(c)、(g)、(j)のタイミングで原稿の静止または完全除去を検出し、それぞれの静止画像が原稿画像データ抽出部411へ送信される。また、図5(d)のタイミングで原稿のフレームアウトを検出し、その静止画像が除去原稿特定部412へ送信される。   In the series of operations shown in FIG. 5, the timing detection unit 410 of the imaging processing unit 406 detects stationary or complete removal of the document at the timings of FIGS. 5 (c), (g), and (j). Are transmitted to the document image data extraction unit 411. Further, the frame out of the document is detected at the timing of FIG. 5D, and the still image is transmitted to the removed document specifying unit 412.

続いて、図9〜図11を参照して、図6のステップS618における原稿画像データ抽出処理について詳細に説明する。図9は、画像認識部407の原稿画像データ抽出部411の処理フローを示す図である。図10(a)〜10(c)は、前述のようにデータ管理部405が管理する静止画像の保存方法を示す模式図であり、図10(d)〜10(f)は、抽出原稿画像データの保存方法を示す模式図である。図11は、データ管理部405が管理する属性管理テーブルを示している。   Next, the document image data extraction process in step S618 of FIG. 6 will be described in detail with reference to FIGS. FIG. 9 is a diagram illustrating a processing flow of the document image data extraction unit 411 of the image recognition unit 407. FIGS. 10A to 10C are schematic diagrams showing a still image storage method managed by the data management unit 405 as described above, and FIGS. 10D to 10F are extracted document image images. It is a schematic diagram which shows the storage method of data. FIG. 11 shows an attribute management table managed by the data management unit 405.

図6のステップS618において送信された射影変換された静止画像を原稿画像データ抽出部411が受信すると、図9に示すステップS901が実行開始される。   When the document image data extraction unit 411 receives the projective-converted still image transmitted in step S618 of FIG. 6, execution of step S901 shown in FIG. 9 is started.

ステップS901において、原稿画像データ抽出部411は、撮像処理部406より画像を受信する。ここで、静止画像1002を撮像処理部406より受信する場合の処理を例に説明を行う。   In step S <b> 901, the document image data extraction unit 411 receives an image from the imaging processing unit 406. Here, a description will be given of an example of processing when a still image 1002 is received from the imaging processing unit 406.

ステップS902において、原稿画像データ抽出部411は、読み取り領域背景画像1001と静止画像1002の差分画像と差分量を算出する。   In step S <b> 902, the document image data extraction unit 411 calculates a difference image and a difference amount between the reading area background image 1001 and the still image 1002.

ステップS903において、原稿画像データ抽出部411は、ステップS902で算出した差分量が所定値よりも大きいかどうかを判定する。ここで使用する所定値は0に近い値であり、つまり、読み取り領域背景画像1001と静止画像1002に差分があるかどうかを判定する。読み取り領域背景画像1001と静止画像1002に差分がある場合には、新たな原稿が読み取り領域205に置かれたと判定してステップS904へ進む。一方、差分がなかった場合、新たな原稿は置かれていないと判定して、ステップS905へ進む。例えば、図5(c)、(g)、(j)のようなタイミングで撮像された静止画像に関しては、読み取り領域背景画像1001と差分があることから、ステップS904へ進む。一方、図5(a)のようなタイミングで撮像された静止画像が入力された場合には、読み取り領域背景画像1001と差分が得られない。よって、読み取り領域205内に原稿が置かれていない(原稿が完全に除去された)状態であると判定され、ステップS905へ進むことになる。   In step S903, the document image data extraction unit 411 determines whether the difference amount calculated in step S902 is greater than a predetermined value. The predetermined value used here is a value close to 0, that is, whether or not there is a difference between the reading area background image 1001 and the still image 1002 is determined. If there is a difference between the reading area background image 1001 and the still image 1002, it is determined that a new document has been placed in the reading area 205, and the process advances to step S904. On the other hand, if there is no difference, it is determined that no new document is placed, and the process proceeds to step S905. For example, regarding the still image captured at the timing as shown in FIGS. 5C, 5G, and 5J, since there is a difference from the reading area background image 1001, the process proceeds to step S904. On the other hand, when a still image captured at the timing as shown in FIG. 5A is input, a difference from the reading area background image 1001 cannot be obtained. Therefore, it is determined that the document is not placed in the reading area 205 (the document is completely removed), and the process proceeds to step S905.

ステップS904において、原稿画像データ抽出部411は、静止画像1002から原稿画像データを抽出する。原稿画像データは、ステップS902で生成した差分画像よりエッジを検出し、それを矩形近似するなど既存の方法を用いて抽出すればよい。なお、ここでは、同時に複数の矩形領域を抽出することで、複数枚の原稿画像データの抽出を可能としている。ただし、ここで抽出される原稿画像データの順番は矩形領域抽出処理の結果次第となるため、認識された順番で原稿画像データの順番を決定することになる。すなわち、図5(c)の場合には、原稿501と原稿502の2枚の原稿を抽出することは可能であるが、原稿501が1枚目の原稿として認識されることもあれば、原稿502が1枚目として認識されることもありうる。   In step S <b> 904, the document image data extraction unit 411 extracts document image data from the still image 1002. The document image data may be extracted using an existing method such as detecting an edge from the difference image generated in step S902 and approximating the rectangle. Here, by extracting a plurality of rectangular areas at the same time, a plurality of document image data can be extracted. However, since the order of the original image data extracted here depends on the result of the rectangular area extraction process, the order of the original image data is determined in the recognized order. That is, in the case of FIG. 5C, it is possible to extract two originals, the original 501 and the original 502, but the original 501 may be recognized as the first original, 502 may be recognized as the first sheet.

なお、初回の原稿画像データ抽出に応じて、データ管理部405は、HDD305上に空のディレクトリ(図10(d)中の「/DOCDIR」)を作成する。作成したディレクトリに、抽出した原稿画像データを、通番管理されたファイル名とともに原稿画像データ1011および1012として保存する。さらに、データ管理部405は、図11(a)に示すような文書属性と画像属性を管理する属性管理テーブルを作成し、RAM303上に保存する。文書属性には原稿総数および原稿画像データの保存ディレクトリ名が保存される。また、画像属性には、原稿画像データごとの画像属性情報として、両面対応付け対象であるかを示す確認フラグ(chk)、原稿番号(Doc)、面情報、原稿幅、原稿高さ、画像中の原稿位置(画像中位置)などの情報が保存される。図11(a)の画像属性情報1101および1102はそれぞれ原稿画像データ1011および1012の画像属性情報を示す。以下図11(a)を参照して各画像属性情報を説明する。   Note that the data management unit 405 creates an empty directory (“/ DOCDIR” in FIG. 10D) on the HDD 305 in response to the initial document image data extraction. The extracted document image data is stored in the created directory as document image data 1011 and 1012 together with file names whose serial numbers are managed. Further, the data management unit 405 creates an attribute management table for managing document attributes and image attributes as shown in FIG. The document attribute stores the total number of originals and the name of the original image data storage directory. In addition, as image attribute information for each document image data, the image attribute includes a confirmation flag (chk) indicating whether the document is to be matched with both sides, document number (Doc), surface information, document width, document height, medium Information such as the original position (in-image position) is stored. Image attribute information 1101 and 1102 in FIG. 11A indicate image attribute information of document image data 1011 and 1012, respectively. Hereinafter, each piece of image attribute information will be described with reference to FIG.

図11(a)に示すように、確認フラグ(chk)は両面対応付け対象であることを示すONに設定される。これにより、原稿画像データ1011および1012は、後述の両面対応付け処理において参照原稿画像データとされる。なお、この時点においては原稿番号(Doc)および面情報は不明のため、空欄のまま保存される。原稿位置は、原稿の左上頂点座標と回転角度の形式で保存しているが、4頂点座標を格納するなどでもよい。原稿位置、原稿幅および原稿高さによって、原稿画像データが読み取り領域内に置かれる領域を判定することができる。以下、原稿位置、原稿幅および原稿高さを原稿画像データの位置情報と呼ぶ。なお、原稿画像データの位置情報は後述の対応原稿信頼度の算出に用いられる。   As shown in FIG. 11A, the confirmation flag (chk) is set to ON indicating that it is a double-sided correspondence target. As a result, the document image data 1011 and 1012 are used as reference document image data in a double-sided association process described later. At this point in time, the document number (Doc) and the surface information are unknown, and are stored blank. The document position is stored in the form of the upper left vertex coordinate and the rotation angle of the document, but the four vertex coordinates may be stored. A region where the document image data is placed in the reading region can be determined based on the document position, the document width, and the document height. Hereinafter, the document position, document width, and document height are referred to as document image data position information. The position information of the document image data is used for calculating the corresponding document reliability described later.

最後に、ステップS905において、原稿画像データ抽出部411は、ステップS903での判定結果および、ステップS904での原稿画像データ抽出の可否を撮像処理部406へ返して原稿抽出処理を終了し、図6のステップS619へ進む。読み取り領域背景画像と受信した画像との差分がなく、原稿画像データ抽出処理を行わなかった場合、または原稿画像データの抽出に失敗した場合には(原稿画像データの抽出が失敗したことを示す)falseを返す。また、原稿画像データ抽出処理が実行され、原稿画像データが抽出された場合には(原稿画像データの抽出が成功したことを示す)trueを返して処理を終了する。   Finally, in step S905, the document image data extraction unit 411 returns the determination result in step S903 and whether or not document image data extraction in step S904 is possible to the imaging processing unit 406, and ends the document extraction process. The process proceeds to step S619. If there is no difference between the reading area background image and the received image and the document image data extraction process has not been performed, or if document image data extraction has failed (indicating that document image data extraction has failed) returns false. When document image data extraction processing is executed and document image data is extracted, true is returned (indicating that the document image data has been successfully extracted), and the processing ends.

図12と図14(a)〜(c)を参照して原稿認識部408の除去原稿特定部412における除去原稿特定処理について説明する。なお、以下の説明では図5(d)に示すカメラ画像が撮像され、除去原稿特定処理が実行された場合を例に説明を行う。   The removed document specifying process in the removed document specifying unit 412 of the document recognition unit 408 will be described with reference to FIGS. 12 and 14A to 14C. In the following description, the case where the camera image shown in FIG. 5D is captured and the removed document specifying process is executed will be described as an example.

ステップS1201において、除去原稿特定部412は、直前に静止状態検出時に抽出された原稿画像データ(以下、参照原稿画像データとよぶ)と、今回フレームアウト検出時に抽出された原稿画像データ(以下、注目原稿画像データとよぶ)を取得する。参照原稿画像データは、図11(b)に示すデータ管理部405によって管理された属性管理テーブル中の確認フラグ(chk)がONであるN枚の原稿画像データであり、prevDoc[]に格納する。ここでは、原稿画像データ1011と1012の2枚(N=2)が参照原稿画像データとして格納される。一方、注目原稿画像データは図6のステップS622で抽出された1枚(M=1)の原稿画像データ1401がcurrDoc[]に格納される。   In step S1201, the removed document specifying unit 412 immediately before the original image data extracted when the still state is detected (hereinafter referred to as reference original image data) and the original image data extracted when the current frame-out is detected (hereinafter referred to as attention). Acquire original image data). The reference document image data is N document image data in which the confirmation flag (chk) in the attribute management table managed by the data management unit 405 illustrated in FIG. 11B is ON, and is stored in prevDoc []. . Here, two sheets (N = 2) of document image data 1011 and 1012 are stored as reference document image data. On the other hand, as the document image data of interest, one (M = 1) document image data 1401 extracted in step S622 of FIG. 6 is stored in currDoc [].

ステップS1202とステップS1209間でのループ処理(Loop1)において、除去原稿特定部412は、N枚の参照原稿画像データに対しての処理を行う。ここではループ変数としてi(0≦i<N)を用いる。   In a loop process (Loop 1) between step S1202 and step S1209, the removed document specifying unit 412 performs processing on N reference document image data. Here, i (0 ≦ i <N) is used as a loop variable.

ステップS1203とステップS1206間でのループ処理(Loop2)において、除去原稿特定部412は、M枚の注目原稿画像データに対しての処理を行う。ここではループ変数としてj(0≦j<M)を用いる。   In a loop process (Loop2) between step S1203 and step S1206, the removed document specifying unit 412 performs a process on M target document image data. Here, j (0 ≦ j <M) is used as the loop variable.

ステップS1204において、除去原稿特定部412は、i枚目の参照原稿画像データprevDoc[i]と、j枚目の注目原稿画像データcurrDoc[j]に対して、対応原稿信頼度を原稿画像データの位置情報を用いて算出する。   In step S1204, the removed document specifying unit 412 sets the corresponding document reliability of the document image data for the i-th reference document image data prevDoc [i] and the j-th document image data currDoc [j]. The position information is used for calculation.

ここで、対応原稿信頼度の算出方法について図14(a)〜(c)を参照して説明する。   Here, a method for calculating the corresponding document reliability will be described with reference to FIGS.

図14(a)は、参照原稿画像データ(上段)と注目原稿画像データ(下段)の比較の様子を示している。除去原稿特定処理においては、各参照原稿画像データ(ここでは参照原稿画像データ1011および1012)に対して、すべての注目原稿画像データ(ここでは注目原稿画像データ1401のみ)との対応原稿信頼度を算出する。なお、対応原稿信頼度としては、原稿画像データの位置情報から判定した原稿画像データの重なり度合を用い、(重なった領域の面積÷参照原稿画像データの面積)として算出する。例えば、重なりがない原稿同士では0%、完全に重なっている場合であれば100%、半分重なっている場合には50%となる。図14(b)は参照原稿画像データ1011(実線)と注目原稿画像データ1401(破線)との重なり度合を示している。ここでは、2つの原稿画像データが完全に重なっていることから、対応原稿信頼度は100%となる。一方、図14(c)は参照原稿画像データ1012(実線)と注目原稿画像データ1401(破線)との重なり度合を示している。ここでは、2つの原稿画像データ間での重なりはないため対応原稿信頼度は0%となる。   FIG. 14A shows a comparison between the reference document image data (upper row) and the target document image data (lower row). In the removed original specifying process, corresponding reference document image data (here, reference original image data 1011 and 1012) is associated with all target original image data (here, only original document image data 1401). calculate. The corresponding document reliability is calculated as (overlapping area area / reference document image data area) using the degree of overlap of the document image data determined from the position information of the document image data. For example, it is 0% for documents that do not overlap, 100% if they overlap completely, and 50% if they overlap half. FIG. 14B shows the degree of overlap between the reference document image data 1011 (solid line) and the target document image data 1401 (broken line). Here, since the two document image data are completely overlapped, the corresponding document reliability is 100%. On the other hand, FIG. 14C shows the degree of overlap between the reference document image data 1012 (solid line) and the target document image data 1401 (broken line). Here, since there is no overlap between the two document image data, the corresponding document reliability is 0%.

図12に戻り、ステップS1205において、除去原稿特定部412は、ステップS1204で算出した対応原稿信頼度が0%か否かを確認する。対応原稿信頼度が0%である場合は、ステップS1206へ進み、Loop2のループ処理を継続し、次の注目原稿画像との対応原稿信頼度の算出処理を行う。Loop2のループ処理によってすべての注目原稿画像データとの対応原稿信頼度が0%であると判定した場合は、ステップS1207へ進む。   Returning to FIG. 12, in step S1205, the removed document specifying unit 412 confirms whether or not the corresponding document reliability calculated in step S1204 is 0%. If the corresponding document reliability is 0%, the process advances to step S1206 to continue the Loop2 loop process, and perform processing for calculating the corresponding document reliability with the next document image of interest. If it is determined by Loop2 loop processing that the corresponding document reliability with all the document image data of interest is 0%, the process proceeds to step S1207.

ステップS1207において、除去原稿特定部412は、対応原稿信頼度が0%である、すなわち対応する原稿画像データが存在しないことから、参照原稿画像データprevDoc[i]が除去された原稿であると特定する。そして、データ管理部405は属性管理テーブルを更新する。ここでは参照原稿画像データ1012が除去された原稿であると特定されたことから、データ管理部405は、図11(c)に示すように画像属性情報1102における確認フラグ(chk)を、両面対応付け対象でないことを示すOFFに更新する。後述の両面対応付け処理において、この確認フラグを用いることにより、両面対応付け対象を判定することができ、除去された原稿以外の原稿画像データは参照原稿画像データとされる。   In step S1207, the removed document specifying unit 412 specifies that the corresponding document reliability is 0%, that is, the corresponding document image data does not exist, and thus the document with the reference document image data prevDoc [i] has been removed. To do. Then, the data management unit 405 updates the attribute management table. Here, since it is specified that the original document image data 1012 has been removed, the data management unit 405 sets the confirmation flag (chk) in the image attribute information 1102 to double-sided correspondence as shown in FIG. It is updated to OFF indicating that it is not an attachment target. By using this confirmation flag in a double-sided association process described later, it is possible to determine a double-sided correspondence target, and the original image data other than the removed original is used as reference original image data.

一方、ステップS1205で対応原稿信頼度が0%でないと判定した場合には、対応する注目原稿画像データが存在していることから、原稿が除去されていないと判定する。そのため、Loop2のループ処理を終了してステップS1208へ進み、Loop1のループ処理において次の参照原稿画像データの原稿除去特定処理を行う。   On the other hand, if it is determined in step S1205 that the corresponding document reliability is not 0%, it is determined that the document has not been removed because the corresponding document image data of interest exists. Therefore, the Loop2 loop process is terminated and the process proceeds to Step S1208, and the next reference original image data original removal specifying process is performed in the Loop1 loop process.

続いて、図13および図14(d)〜(f)を参照して、原稿認識部408の両面原稿認識部413における両面原稿対応付け処理について説明する。以下の説明では、図5(g)に示すカメラ画像が撮像され、両面対応付け処理が実行された場合を例に説明を行う。   Next, with reference to FIG. 13 and FIGS. 14D to 14F, the double-sided document association processing in the double-sided document recognition unit 413 of the document recognition unit 408 will be described. In the following description, the case where the camera image shown in FIG. 5G is captured and the double-side association processing is executed will be described as an example.

図13のステップS1301において、両面原稿認識部413は、参照原稿画像データ(第1のタイミングに基づいて取得された原稿画像データ)および注目原稿画像データ(直後の第2のタイミングに基づいて取得された原稿画像データ)をそれぞれ取得する。参照原稿画像データは、図11(c)に示すデータ管理部405によって管理された属性管理テーブル中の確認フラグ(chk)がONであるN枚の原稿画像データであり、原稿画像データ1011(N=1)が参照原稿画像データとして格納される。一方、注目原稿画像データは図6のステップS618で抽出されたM枚の原稿画像データであり、原稿画像データ1402および1403(M=2)が注目原稿画像データとして格納される。   In step S1301 of FIG. 13, the double-sided document recognition unit 413 acquires reference document image data (document image data acquired based on the first timing) and attention document image data (based on the second timing immediately after). Each original image data). The reference document image data is N document image data in which the confirmation flag (chk) in the attribute management table managed by the data management unit 405 illustrated in FIG. 11C is ON, and the document image data 1011 (N = 1) is stored as reference document image data. On the other hand, the original document image data is M original image data extracted in step S618 in FIG. 6, and original image data 1402 and 1403 (M = 2) are stored as the original document image data.

ステップS1302とステップS1312間でのループ処理(Loop2)において、両面原稿認識部413は、M枚の注目原稿画像データに対する両面原稿を認識するための処理を行う。   In a loop process (Loop2) between step S1302 and step S1312, the double-sided document recognition unit 413 performs a process for recognizing a double-sided document for M target document image data.

ステップS1303とステップS1307間でのループ処理(Loop1)において、両面原稿認識部413は、N枚の参照原稿画像データに対しての処理を行う。   In a loop process (Loop 1) between step S1303 and step S1307, the double-sided document recognition unit 413 performs processing on N reference document image data.

ステップS1304において、両面原稿認識部413は、j枚目の注目原稿画像データcurrDoc[j]と、i枚目の参照原稿画像データprevDoc[i]に対して対応原稿信頼度を原稿画像データの位置情報を用いて算出する。   In step S1304, the double-sided document recognizing unit 413 sets the corresponding document reliability to the position of the document image data with respect to the jth document image data currDoc [j] and the i-th reference document image data prevDoc [i]. Calculate using information.

図14(d)〜(f)を参照して、対応原稿信頼度の算出方法について説明する。図14(d)は、参照原稿画像データ(上段)と注目原稿画像データ(下段)の比較の様子を示している。両面対応付け処理においては、各注目原稿画像データ(ここでは注目原稿画像データ1402および1403)に対して、すべての参照原稿画像データ(ここでは参照原稿画像データ1011のみ)との原稿の重なり度合を調べ、対応原稿信頼度とする。ここで、原稿の重なり度合いは原稿画像データの位置情報から判定される。なお、対応原稿信頼度としては、原稿画像データの重なり度合を用い、(重なった領域の面積÷注目原稿画像データの面積)として算出する。図14(e)は注目原稿画像データ1402(実線)と参照原稿画像データ1011(破線)との重なり度合を示している。ここでは、2つの原稿画像データ間での重なりはないため対応原稿信頼度は0%となる。一方、図14(f)は注目原稿画像データ1403(実線)と参照原稿画像データ1011(破線)との重なり度合を示しており、対応原稿信頼度は約40%である。   With reference to FIGS. 14D to 14F, a method for calculating the corresponding document reliability will be described. FIG. 14D shows a comparison between the reference document image data (upper row) and the target document image data (lower row). In the double-sided association processing, the degree of document overlap with all the reference document image data (here, only the reference document image data 1011) is set for each document image data of interest (here, the document image data 1402 and 1403 of interest). Check the corresponding document reliability. Here, the degree of document overlap is determined from the position information of the document image data. As the corresponding document reliability, the degree of overlap of document image data is used and is calculated as (area of overlapped area / area of document image data of interest). FIG. 14E shows the degree of overlap between the target document image data 1402 (solid line) and the reference document image data 1011 (broken line). Here, since there is no overlap between the two document image data, the corresponding document reliability is 0%. On the other hand, FIG. 14F shows the degree of overlap between the original document image data 1403 (solid line) and the reference original image data 1011 (broken line), and the corresponding original reliability is about 40%.

ところで、両面対応付け処理と上述の除去原稿特定処理とでは、ループ処理の順番が異なっている。図14(a)の矢印の向きに示すように、除去原稿特定処理ではi枚目の参照原稿画像データprevDoc[i]が除去原稿であるかを判定するために全注目原稿画像データとの対応原稿信頼度を算出している。一方で、図14(d)の矢印の向きに示すように、両面原稿対応付け処理においては、j枚目の注目原稿画像データcurrDoc[j]に対する両面原稿を特定するために全参照原稿画像データとの対応原稿信頼度を算出するという違いのためである。   By the way, the order of the loop processing is different between the double-side association processing and the above-described removed document specifying processing. As shown in the direction of the arrow in FIG. 14A, in the removed document specifying process, the correspondence with all target document image data is used to determine whether the i-th reference document image data prevDoc [i] is a removed document. The manuscript reliability is calculated. On the other hand, as shown in the direction of the arrow in FIG. 14D, in the double-sided document association process, all reference original image data is used to specify the double-sided original for the jth original image data currDoc [j]. This is because of the difference in calculating the corresponding manuscript reliability.

図13に戻り、ステップS1305において、両面原稿認識部413は、ステップS1304で算出した対応原稿信頼度が100%か否かを判定する。算出した対応原稿信頼度が100%でない場合に、Loop1のループ処理を継続し、次の参照原稿画像との対応原稿信頼度の算出処理を行う。算出した対応原稿信頼度が100%である場合に、ステップS1306へ進む。   Returning to FIG. 13, in step S1305, the double-sided document recognition unit 413 determines whether or not the corresponding document reliability calculated in step S1304 is 100%. If the calculated corresponding document reliability is not 100%, Loop1 loop processing is continued, and the corresponding document reliability calculation process for the next reference document image is performed. If the calculated corresponding document reliability is 100%, the process advances to step S1306.

ステップS1306において、両面原稿認識部413は、対応原稿信頼度が100%である、すなわち注目原稿画像データに対して完全に重なっている参照原稿画像データが存在することから、完全に重なっている原稿画像データ同士が同一原稿であると認識する。そして、両面原稿認識部413は、j枚目の注目原稿画像データcurrDoc[j]を破棄して、この注目原稿画像データに対する両面対応付け処理を終了する。本実施形態において、対応原稿信頼度が100%であることから同一原稿と判定するが、対応原稿信頼度が100%であると判定した場合に、さらに原稿同士の差分量を算出して差分量に基づき同一原稿かどうかを判定してもよい。   In step S1306, the double-sided document recognizing unit 413 has a corresponding document reliability of 100%, that is, since there is reference document image data that completely overlaps the document image data of interest, the document that is completely overlapped. Recognize that the image data is the same document. Then, the double-sided document recognizing unit 413 discards the j-th noted original image data currDoc [j], and ends the double-sided association processing for this noted original image data. In the present embodiment, since the corresponding document reliability is 100%, the same document is determined. However, when it is determined that the corresponding document reliability is 100%, the difference amount between the documents is further calculated to calculate the difference amount. It may be determined whether or not they are the same document.

ステップS1308において、両面原稿認識部413は、j枚目の注目原稿画像データcurrDoc[j]に対する全参照原稿画像データとの対応原稿信頼度の中から最大の信頼度をもつ参照原稿画像データprevDoc[maxi]を抽出する。   In step S1308, the double-sided document recognizing unit 413 selects the reference document image data prevDoc [with the maximum reliability from the corresponding document reliability with all reference document image data with respect to the jth document image data currDoc [j]. maxi].

ステップS1309において、両面原稿認識部413は、ステップS1308で抽出した最大の対応原稿信頼度が0%か否かを確認する。そして、対応原稿信頼度が0%であった場合にはステップS1310へ、対応原稿信頼度が0%でない場合にはステップS1311へ進む。   In step S1309, the double-sided document recognition unit 413 checks whether or not the maximum corresponding document reliability extracted in step S1308 is 0%. If the corresponding document reliability is 0%, the process proceeds to step S1310. If the corresponding document reliability is not 0%, the process proceeds to step S1311.

ステップS1310において、両面原稿認識部413は、j枚目の注目原稿画像データcurrDoc[j]に対して重なりがある参照原稿画像データがないことから、この注目原稿画像データは新しく読み取り領域205に置かれた表面原稿であると認識する。そして、データ管理部405は、RAM303上に保存した属性管理テーブル中の原稿数、原稿番号(Doc)、面情報を更新する。図5(g)における原稿503の場合、表面原稿として認識されることから、図11(d)に示すように原稿503に対する画像属性情報1103を、Doc=3、面=表面とし、文書属性の原稿数を3に更新する。   In step S1310, the double-sided document recognizing unit 413 does not have reference document image data that overlaps the jth document image data currDoc [j], so that the document image data of interest is newly placed in the reading area 205. Recognize that it is a front-side original. Then, the data management unit 405 updates the number of documents, document number (Doc), and surface information in the attribute management table stored on the RAM 303. In the case of the original 503 in FIG. 5G, since it is recognized as a front side original, as shown in FIG. 11D, the image attribute information 1103 for the original 503 is set to Doc = 3, surface = front, Update the number of originals to 3.

ステップS1311において、両面原稿認識部413は、j枚目の注目原稿画像データcurrDoc[j]を、最大の信頼度を持つ参照原稿画像データprevDoc[maxi]に対する裏面原稿であると認識し保存する。図5(g)における原稿504の場合、原稿502に対する裏面原稿として認識されることから、図11(d)の原稿504に対する画像属性情報1104を、Doc=1、面=裏面とする。さらに、原稿502に対する画像属性情報1101中の確認フラグをOFFに更新する。   In step S1311, the double-sided document recognizing unit 413 recognizes and stores the jth note original image data currDoc [j] as the reverse side original for the reference original image data prevDoc [maxi] having the maximum reliability. In the case of the document 504 in FIG. 5G, since it is recognized as the back side document for the document 502, the image attribute information 1104 for the document 504 in FIG. Further, the confirmation flag in the image attribute information 1101 for the document 502 is updated to OFF.

以上のように、抽出された原稿画像データに対する両面対応付け処理が実行できる。以上の処理では、注目原稿画像データと参照原稿画像データの対応原稿信頼度として、原稿同士の重なり度合を算出することで、新規原稿(表面原稿)なのか、両面原稿(裏面原稿)なのかを自動で判定することができるようになる。   As described above, the duplex matching process can be executed on the extracted document image data. In the above processing, by calculating the degree of overlap between the originals as the corresponding original reliability of the target original image data and the reference original image data, it is determined whether the original original (front side original) or double-sided original (back side original). It becomes possible to determine automatically.

最後に図15〜図16を参照して、図6のステップS624における出力ファイル生成処理について詳細に説明する。図15は出力ファイル形式の一例を示す図であり、図16は出力ファイル生成部409の処理フローを説明する図である。   Finally, the output file generation processing in step S624 in FIG. 6 will be described in detail with reference to FIGS. FIG. 15 is a diagram illustrating an example of an output file format, and FIG. 16 is a diagram illustrating a processing flow of the output file generation unit 409.

図10(f)に示すようにHDD305上に一時保存された原稿画像データは、図15に示す各種フォーマットで出力することができる。例えば、図15(a)では、両面原稿の場合には、表面画像と裏面画像を左右あるいは上下に並べて配置して1枚の画像ファイルに結合し、片面原稿の場合はそのままで1枚の画像ファイルに変換して指定されたフォルダに保存する。あるいは、図15(b)に示すように、片面または両面の原稿ごとの個別ファイルで、原稿枚数を表す連番(####)と、表面または裏面を表す枝番(*)とで構成されたファイル名(IMG_####_*.jpg)により指定されたフォルダに保存する。さらには、図15(c)に示すように、片面または両面の原稿ごとにマルチページのドキュメント(例えばマルチページPDFなど)に変換して出力することもできる。なお、出力の形態はこれに限ったことではない。   As shown in FIG. 10F, the document image data temporarily stored on the HDD 305 can be output in various formats shown in FIG. For example, in FIG. 15A, in the case of a double-sided document, the front image and the back image are arranged side by side or side by side and combined into one image file, and in the case of a single-sided document, one image is left as it is. Convert to a file and save it in the specified folder. Alternatively, as shown in FIG. 15 (b), each file has a serial number (####) indicating the number of originals and a branch number (*) indicating the front or back side in an individual file for each original on one side or both sides. The file is saved in the folder designated by the file name (IMG _ #### _ *. Jpg). Furthermore, as shown in FIG. 15C, it is possible to convert a single-sided document or a double-sided document into a multi-page document (for example, a multi-page PDF) and output it. The output form is not limited to this.

図16を参照して、図15(a)に示すような出力画像を生成する処理フローを説明する。   A processing flow for generating an output image as shown in FIG. 15A will be described with reference to FIG.

ステップS1601において、出力ファイル生成部409は、図11(e)に示すRAM303上の属性管理テーブルより1枚目の画像属性情報1101を取得する。   In step S1601, the output file generation unit 409 acquires the first image attribute information 1101 from the attribute management table on the RAM 303 illustrated in FIG.

ステップS1602において、出力ファイル生成部409は、HDD305上より1枚目の原稿画像データ1011を取得する。   In step S <b> 1602, the output file generation unit 409 acquires the first document image data 1011 from the HDD 305.

ステップS1603において、出力ファイル生成部409は、ステップS1601で取得した画像属性情報1101より面情報を確認し、表面原稿であればステップS1604へ、裏面原稿であればステップS1609へ進む。   In step S1603, the output file generation unit 409 confirms the surface information from the image attribute information 1101 acquired in step S1601, and proceeds to step S1604 if the document is a front document and proceeds to step S1609 if the document is a back document.

ステップS1604において、出力ファイル生成部409は、出力ファイル用のヘッダ記述を作成する。画像属性のDocより原稿番号を取得し、出力ファイル名を作成する。また、出力原稿サイズには、画像属性の幅・高さ情報を用いる。   In step S1604, the output file generation unit 409 creates a header description for the output file. The document number is acquired from Doc of the image attribute, and an output file name is created. Further, the width / height information of the image attribute is used for the output document size.

ステップS1605において、出力ファイル生成部409は、出力ファイルの画像データとして、ステップS1602でHDD305から読み出した原稿画像データ1011を書き込む。この際、画像処理プロセッサ307上で、傾き補正・回転などの補正処理や、下地飛ばし・エッジ強調などの補正処理を行って画像を鮮鋭化しても構わない。   In step S1605, the output file generation unit 409 writes the document image data 1011 read from the HDD 305 in step S1602 as the image data of the output file. At this time, the image processing processor 307 may perform correction processing such as tilt correction and rotation, and correction processing such as background removal and edge enhancement to sharpen the image.

ステップS1606において、出力ファイル生成部409は、フッタ記述を生成する。   In step S1606, the output file generation unit 409 generates a footer description.

ステップS1607において、データ管理部405は、HDD305に保存されたオリジナルの原稿画像データ1011を破棄(削除)する。   In step S1607, the data management unit 405 discards (deletes) the original document image data 1011 stored in the HDD 305.

ステップS1608において、全画像の処理が終了したかを判定する。未処理の原稿画像データが残っている場合にはステップS1601に戻り、出力ファイル生成処理を続ける。全画像で処理が終了した場合には出力ファイル生成処理を終了する。   In step S1608, it is determined whether all the images have been processed. If unprocessed document image data remains, the process returns to step S1601 to continue the output file generation process. When the process is completed for all images, the output file generation process is terminated.

ステップS1601に戻り、出力ファイル生成部409は、RAM303より2枚の画像属性情報1102を取得する。そしてステップS1602において、出力ファイル生成部409は、HDD305より2枚目の原稿画像データ1012を取得し、上記と同様の処理を繰り返す。   Returning to step S1601, the output file generation unit 409 acquires two pieces of image attribute information 1102 from the RAM 303. In step S1602, the output file generation unit 409 acquires the second original image data 1012 from the HDD 305, and repeats the same processing as described above.

続いて、ステップS1601およびステップS1602において、3枚目の画像属性情報1103および原稿画像データ1013をそれぞれ取得する。   Subsequently, in step S1601 and step S1602, the third image attribute information 1103 and document image data 1013 are obtained.

ステップS1603において、出力ファイル生成部409は、画像属性情報1103の面情報より原稿画像データ1013は裏面であると認識し、ステップS1609へ進む。   In step S1603, the output file generation unit 409 recognizes that the document image data 1013 is the back side based on the side information of the image attribute information 1103, and proceeds to step S1609.

ステップS1609において、出力ファイル生成部409は、ヘッダ記述を更新する。ここでは、表面と裏面の原稿を左右あるいは上下配置で連結して出力するため、ステップS1604で生成されたヘッダ記述の出力原稿サイズに、ステップS1601で取得した原稿幅あるいは高さを足し合わせる。   In step S1609, the output file generation unit 409 updates the header description. Here, since the front and back originals are connected in the left-right or top-bottom arrangement for output, the original width or height obtained in step S1601 is added to the output original size in the header description generated in step S1604.

ステップS1610において、出力ファイル生成部409は、ステップS1605で書き出した出力画像データに連結させるように、ステップS1602で取得した原稿画像データ1012を書き出す。この際、ステップS1605での処理と同様、画像処理プロセッサ307上で画像の補正処理や先鋭化などの処理をさらに行ってもよい。   In step S1610, the output file generation unit 409 writes the document image data 1012 acquired in step S1602 so as to be linked to the output image data written in step S1605. At this time, similarly to the processing in step S1605, the image processing processor 307 may further perform processing such as image correction processing or sharpening.

ステップS1611において、出力ファイル生成部409は、フッタ記述を更新し、処理はステップS1607へ進む。そして、ステップS1607において、原稿画像データ1013を破棄する。   In step S1611, the output file generation unit 409 updates the footer description, and the process proceeds to step S1607. In step S1607, the document image data 1013 is discarded.

以上のように、両面原稿の場合に左右または上下に連結された画像を生成できる。   As described above, in the case of a double-sided document, it is possible to generate an image that is connected left and right or up and down.

以上の処理により、原稿のフレームアウト情報と原稿同士の重なり度合を基にした対応原稿信頼度を用いることで、自動的に原稿交換(原稿表面)と裏返し(両面原稿裏面)とを識別でき、片面または両面原稿として保存することができるようになった。そのため、ユーザが原稿を裏返すという単純操作により両面スキャンが可能となることから操作性が向上し、複数の原稿で片面原稿または両面原稿を自動識別することから処理パフォーマンスの向上にもつながる。   Through the above processing, by using the corresponding document reliability based on the document frame-out information and the degree of overlap between the documents, it is possible to automatically identify document replacement (document front side) and inside out (double-sided document back side), You can now save as single-sided or double-sided originals. Therefore, since the user can perform double-sided scanning by a simple operation of turning over the document, the operability is improved, and the single-sided document or the double-sided document is automatically identified by a plurality of documents, thereby improving the processing performance.

[第2の実施形態]
第1の実施形態では、撮像されたカメラ画像から抽出されたすべての原稿画像データを片面または両面原稿として保存する仕組みを提供した。本実施形態では、静止画像中から抽出した原稿画像データが白紙であるかどうかを判定することで、有効な画像データのみを保存する仕組みを提供する。
[Second Embodiment]
In the first embodiment, a mechanism for saving all document image data extracted from a captured camera image as a single-sided or double-sided document is provided. The present embodiment provides a mechanism for storing only valid image data by determining whether or not the document image data extracted from the still image is blank.

図17〜図18を参照して、図6のステップS619において、本実施形態における両面原稿認識部413が実行する両面対応付け処理について説明する。図17は裏面が白紙である原稿の裏返し操作前後の様子を示している。図18は本実施形態における両面原稿認識部413の処理フローを示している。なお、第1の実施形態と同じ処理については説明を省略する。   With reference to FIGS. 17 to 18, the double-sided association processing executed by the double-sided document recognition unit 413 in this embodiment in step S619 of FIG. FIG. 17 shows a state before and after turning over a document whose back side is blank. FIG. 18 shows the processing flow of the double-sided document recognition unit 413 in this embodiment. Note that description of the same processing as in the first embodiment is omitted.

図18のステップS1801において、両面原稿認識部413は、注目原稿画像データcurrDoc[j]が白紙であるかを確認する。ここで、原稿画像データのデータ量が所定量よりも少ない場合に、白紙であると判定することができる。図17(a)では、原稿1701は白紙でないためステップS1303以降の処理により両面対応付け処理を行い、表面原稿としてRAM303上の属性管理テーブルを更新する。一方、図17(b)では、原稿1702が白紙であると判定されるため、ステップS1306へ進む。   In step S1801 in FIG. 18, the double-sided document recognition unit 413 confirms whether the document image data of interest currDoc [j] is blank. Here, when the data amount of the document image data is smaller than the predetermined amount, it can be determined that the page is blank. In FIG. 17A, since the original 1701 is not a blank sheet, double-sided association processing is performed by the processing after step S1303, and the attribute management table on the RAM 303 is updated as a front side original. On the other hand, in FIG. 17B, since it is determined that the original 1702 is blank, the process advances to step S1306.

ステップS1306において、両面原稿認識部413は、白紙と判定された注目原稿画像データcurrDoc[j]をHDD305上から破棄し、この注目原稿画像データの両面対応付け処理を終了する。   In step S1306, the double-sided document recognizing unit 413 discards the noted original image data currDoc [j] determined to be blank from the HDD 305, and ends the double-sided association processing of this noted original image data.

以上の処理により、原稿に白紙画像が含まれていた場合にも、その画像データを読み飛ばして出力できることになり、不要な原稿の出力保存を避けることができる。   Through the above processing, even when a blank image is included in the document, the image data can be skipped and output, and output saving of an unnecessary document can be avoided.

[第3の実施形態]
第1〜2の実施形態では、フレームアウトを検出せずに次の静止画像が取得された場合、常に両面原稿の裏面であるとして自動対応付けを行っていた。本実施形態では、静止画像中から抽出した原稿同士を比較することで、原稿位置をずらしてしまって画像抽出がなされた場合に誤対応付けされることを防止する。
[Third Embodiment]
In the first and second embodiments, when the next still image is acquired without detecting a frame-out, automatic association is always performed assuming that the back side of the double-sided document is always present. In the present embodiment, by comparing originals extracted from still images, it is possible to prevent erroneous correspondence when the original position is shifted and image extraction is performed.

図19〜図20を参照して、図6のステップS619において、本実施形態における両面原稿認識部413が実行する両面対応付け処理について説明する。図19は同一原稿を読み取り領域205上で移動させた状態を示している。図20は本実施形態における両面原稿認識部413の処理フローを示している。なお、第1〜2の実施形態と同じ処理については説明を省略する。   With reference to FIGS. 19 to 20, a description will be given of the duplex matching process executed by the duplex document recognition unit 413 in the present embodiment in step S <b> 619 in FIG. 6. FIG. 19 shows a state where the same document is moved on the reading area 205. FIG. 20 shows the processing flow of the double-sided document recognition unit 413 in this embodiment. Note that description of the same processing as in the first and second embodiments is omitted.

図19(a)に示す1枚目の原稿1901が入力されると、両面原稿認識部413は、ステップS1801で白紙でないと判定し、ステップS1303以降へ進んで両面対応付け処理を実行し、表面原稿としてRAM303上の属性管理テーブルを更新する。   When the first original 1901 shown in FIG. 19A is input, the double-sided document recognition unit 413 determines in step S1801 that it is not blank, and proceeds to step S1303 and subsequent steps to execute double-side association processing. The attribute management table on the RAM 303 is updated as a document.

続いて、図19(b)に示す2枚目の原稿1902が入力されると、両面原稿認識部413は、ステップS1801で白紙でないと判定し、ステップS1303以降の処理へ進む。そしてステップS1309において、両面原稿認識部413は、対応原稿信頼度が0%でないことからステップS2001へ進む。   Subsequently, when the second original 1902 shown in FIG. 19B is input, the double-sided original recognizing unit 413 determines in step S1801 that it is not a blank sheet, and proceeds to the processing after step S1303. In step S1309, the double-sided document recognition unit 413 proceeds to step S2001 because the corresponding document reliability is not 0%.

ステップS2001において、両面原稿認識部413は、ステップS1309で抽出された原稿画像データと、注目原稿画像データとの差分量を算出する。   In step S2001, the double-sided document recognition unit 413 calculates a difference amount between the document image data extracted in step S1309 and the document image data of interest.

ステップS2002において、両面原稿認識部413は、ステップS2001で算出された差分量を基に、同一原稿か否かを判定する。差分量がある場合には異なる原稿であると判定し、ステップS1311へ進み、裏面原稿としてデータ管理部405を介してRAM303上の属性管理テーブルを更新する。一方、差分量がない場合には同一原稿であると判定し、ステップS1306へ進む。   In step S2002, the double-sided document recognition unit 413 determines whether or not the same document is based on the difference amount calculated in step S2001. If there is a difference amount, it is determined that the document is a different document, and the process advances to step S1311 to update the attribute management table on the RAM 303 via the data management unit 405 as a back document. On the other hand, if there is no difference amount, it is determined that the documents are the same, and the process proceeds to step S1306.

ステップS1306において、両面原稿認識部413は、ステップS2002で表面原稿と差分がない、すなわち同一原稿と判定されたことを受け、原稿画像データをHDD305上から破棄して、両面対応付け処理を終了する。   In step S1306, the double-sided document recognition unit 413 receives the determination that there is no difference from the front side document in step S2002, that is, the same document, discards the document image data from the HDD 305, and ends the duplex matching process. .

以上の処理により、静止画像中から抽出した原稿同士を比較することで、原稿が裏返されたのか、位置がずれてしまっただけなのかを判定することができ、同一原稿が表面と裏面に対応付けされてしまうことを防止することができる。   By comparing the originals extracted from still images with the above processing, it is possible to determine whether the original has been turned over or just misaligned. It can be prevented from being attached.

なお、ここではステップS1306の処理で、原稿画像データを破棄してしまっていたが、直前に保存された表面原稿に置き換えて保存し直すなどの処理をしても構わない。   Here, the document image data has been discarded in the processing of step S1306, but processing such as replacing the front-side document saved immediately before and saving it again may be performed.

[第4の実施形態]
第1〜3の実施形態では、1枚の原稿では表または裏と最大2回の画像を取得する場合の操作について説明してきた。本実施形態では、ユーザが同一原稿を3回以上連続して取り込もうとした場合について誤対応付けを防止する仕組みを提供する。
[Fourth Embodiment]
In the first to third embodiments, the operation in the case of acquiring a front or back image and a maximum of two images with one original has been described. In the present embodiment, a mechanism is provided that prevents erroneous association when the user tries to capture the same document three or more times in succession.

図21〜図22を参照して図6のステップS619において、本実施形態における両面原稿認識部413が実行する両面対応付け処理について説明する。図21は同一原稿を複数回読み取る操作の一例として、両面原稿を読み取り領域205上で表面→裏面→表面と読み取り領域205上に置いた場合を示している。図22は本実施形態における両面原稿認識部413の処理フローを示している。なお、第1〜3の実施形態と同じ処理については説明を省略する。   With reference to FIGS. 21 to 22, the double-sided association processing executed by the double-sided document recognition unit 413 in the present embodiment in step S619 of FIG. 6 will be described. FIG. 21 shows a case where a double-sided document is placed on the reading area 205 on the front surface → back surface → front surface and the reading area 205 as an example of an operation of reading the same document a plurality of times. FIG. 22 shows a processing flow of the double-sided document recognition unit 413 in the present embodiment. In addition, description is abbreviate | omitted about the same process as 1st-3rd embodiment.

図21(a)に示す1枚目の原稿2101が入力されると、両面原稿認識部413は、ステップS1801で白紙でないと判定し、ステップS1303以降へ進んで両面対応付け処理を実行し、表面原稿としてRAM303上の属性管理テーブルを更新する。   When the first original 2101 shown in FIG. 21A is input, the double-sided document recognition unit 413 determines in step S1801 that it is not blank, and proceeds to step S1303 and subsequent steps to execute double-side association processing. The attribute management table on the RAM 303 is updated as a document.

図21(b)に示す2枚目の原稿2102が入力された場合は、両面原稿認識部413は、ステップ1801において白紙でないと判定し、ステップS1303以降の処理へ進む。ステップS1309において、対応原稿信頼度が0%でないことからステップS2201へ進む。   When the second original 2102 shown in FIG. 21B is input, the double-sided original recognizing unit 413 determines in step 1801 that the original is not blank, and the process proceeds to step S1303 and subsequent steps. In step S1309, since the corresponding document reliability is not 0%, the process advances to step S2201.

ステップS2201において、両面原稿認識部413は、ステップS1308で抽出された参照原稿画像データが裏面原稿として保存済みであるかを確認する。ここでは、抽出された原稿2101が表面原稿として保存されているためステップS2001へ進み、最終的にステップS1311において、原稿2102が裏面原稿として保存される。   In step S2201, the double-sided document recognizing unit 413 checks whether the reference document image data extracted in step S1308 has been saved as the back side document. Here, since the extracted document 2101 is stored as the front document, the process proceeds to step S2001, and finally, in step S1311, the document 2102 is stored as the back document.

図21(c)に示す3枚目の原稿2103が入力されると、両面原稿認識部413は、ステップ1801において白紙でないと判定し、ステップS1202以降の処理を行う。そして、ステップS1309において、対応原稿信頼度が0%でないことからステップS2201へ進む。   When the third original 2103 shown in FIG. 21C is input, the double-sided original recognizing unit 413 determines in step 1801 that it is not a blank page, and performs the processes in and after step S1202. In step S1309, since the corresponding document reliability is not 0%, the process advances to step S2201.

ステップS2201において、両面原稿認識部413は、ステップS1308で抽出された参照原稿画像データが裏面原稿として保存済みであるかを確認する。ここでは、抽出された原稿2102がすでに裏面原稿として保存されていることからステップS1306へ進み、原稿画像データを破棄して、両面対応付け処理を終了する。   In step S2201, the double-sided document recognizing unit 413 checks whether the reference document image data extracted in step S1308 has been saved as the back side document. Here, since the extracted document 2102 is already stored as the back document, the process proceeds to step S1306, the document image data is discarded, and the duplex matching process ends.

以上の処理により、ユーザの誤操作により、同一原稿を複数回読み取ってしまうような状況を回避することができる。   With the above processing, it is possible to avoid a situation where the same document is read a plurality of times due to an erroneous operation by the user.

[第5の実施形態]
第1〜4の実施形態では、原稿サイズが同じであることを前提として説明してきた。本実施形態では、ユーザが異なる原稿を同時にスキャンした際、異なるサイズの原稿同士で誤対応付けされてしまうことを防止する仕組みを提供する。
[Fifth Embodiment]
The first to fourth embodiments have been described on the assumption that the document sizes are the same. In the present embodiment, a mechanism is provided that prevents erroneous association between originals of different sizes when a user scans different originals at the same time.

図23に注目原稿画像データ2302と参照原稿画像データ2301における対応原稿信頼度算出の様子を示す。   FIG. 23 shows how the corresponding original document reliability is calculated in the target original image data 2302 and the reference original image data 2301.

実施形態1〜4において、ステップS1204で対応原稿信頼度として、参照原稿画像データと注目原稿画像データでの重なり度合を用いた。この方法では、図23(b)に示すように、原稿同士の重なりがあるため、誤った両面対応付けがされてしまうことになる。それに対し、本実施形態では、この重なり度合に加え、図23(a)で原稿画像データのサイズの比較を行い、サイズが異なっていた場合には、対応原稿信頼度を0%とし、同一サイズの場合のみ原稿の重なり度合を算出する処理を行う。   In the first to fourth embodiments, the degree of overlap between the reference document image data and the target document image data is used as the corresponding document reliability in step S1204. In this method, as shown in FIG. 23 (b), there is an overlap between the originals, resulting in incorrect double-sided correspondence. On the other hand, in the present embodiment, in addition to the degree of overlap, the sizes of the document image data are compared in FIG. 23A. If the sizes are different, the corresponding document reliability is set to 0% and the same size. Only in the case of, the process of calculating the degree of overlap of the originals is performed.

以上の処理により、原稿同士のサイズを比較することで、異なるサイズの原稿で誤った両面対応付けをすることを防止することができる。   By comparing the sizes of the originals by the above processing, it is possible to prevent erroneous double-sided correspondence between different-size originals.

[第6の実施形態]
第1〜5の実施形態では注目原稿画像データと参照原稿画像データの重なり度を対応原稿信頼度としてした。本実施形態では、注目原稿画像データと参照原稿画像データの距離を対応原稿信頼度として、両面対応付け処理及び除去原稿特定処理を実行する。
[Sixth Embodiment]
In the first to fifth embodiments, the degree of overlap between the target document image data and the reference document image data is set as the corresponding document reliability. In the present embodiment, the duplex matching process and the removed document specifying process are executed with the distance between the noted document image data and the reference document image data as the corresponding document reliability.

図24(a)は、参照原稿画像データ(上段)と注目原稿画像データ(下段)の比較の様子を示している。   FIG. 24A shows a state of comparison between reference document image data (upper) and target document image data (lower).

図24(b)および図24(c)は、対応原稿信頼度にそれぞれの重心間の距離を用いた場合を示す。例えば、図24(b)に示すように、注目原稿画像データ2402の重心G1と参照原稿画像データ2401の重心G1’の距離を用いる。この重心間の距離の逆数をとることにより、距離が近いものほど対応原稿信頼度が高くなることになる。   FIG. 24B and FIG. 24C show the case where the distance between the centers of gravity is used as the corresponding document reliability. For example, as shown in FIG. 24B, the distance between the center of gravity G1 of the target document image data 2402 and the center of gravity G1 'of the reference document image data 2401 is used. By taking the reciprocal of the distance between the centroids, the closer the distance, the higher the corresponding document reliability.

図24(d)および図24(e)は、対応原稿信頼度に原稿画像データの対応頂点間の距離を用いた場合を示す。例えば、図24(d)および図24(e)に示すように、注目原稿画像データ2402の頂点V1〜V4と、参照原稿画像データ2401の頂点V1’〜V4’の距離を用いる(V2とV2’の距離およびV4とV4’の距離図示せず)。そして、4頂点間の平均距離の逆数をとることにより、距離が近いものほど対応原稿信頼度が高くなることになる。もちろん、平均距離ではなく、最大距離・最小距離・総和距離などを用いることも可能である。   FIG. 24D and FIG. 24E show a case where the distance between corresponding vertices of the document image data is used as the corresponding document reliability. For example, as shown in FIGS. 24D and 24E, distances between the vertices V1 to V4 of the target document image data 2402 and the vertices V1 ′ to V4 ′ of the reference document image data 2401 are used (V2 and V2). 'Distance and V4 and V4' distance not shown). By taking the reciprocal of the average distance between the four vertices, the closer the distance, the higher the corresponding document reliability. Of course, it is possible to use not the average distance but the maximum distance, the minimum distance, the total distance, and the like.

なお、ここでは重心間距離と頂点間距離の2つを紹介したが、注目原稿画像データの重心と参照原稿画像データの各頂点のとの距離、最も近い頂点同士の距離などを用いても構わない。また、これらの距離を示すものを組み合わせても構わない。   In this example, the distance between the center of gravity and the distance between the vertices are introduced. However, the distance between the center of gravity of the document image data of interest and each vertex of the reference document image data, the distance between the nearest vertices, and the like may be used. Absent. Moreover, you may combine what shows these distances.

最後に、離れすぎた原稿画像データ同士が対応付けられてしまうことを防止するために、上述の処理によって算出された対応原稿信頼度が所定値以下となるものは不適切であるとして、対応原稿信頼度を0%にする。その後、対応原稿信頼度が最大となる原稿画像データ同士を対応付けすればよい。   Finally, in order to prevent the document image data that are too far apart from being associated with each other, it is determined that the corresponding document reliability calculated by the above-described processing is less than a predetermined value is inappropriate. Set the reliability to 0%. Thereafter, the document image data having the maximum corresponding document reliability may be associated with each other.

以上の処理により、原稿の重なり度以外に原稿間の距離を用いることで両面原稿の対応付けを行うことができるようになる。また、原稿間の距離を用いることで、裏返し操作の前後で原稿が重なっていないような場合にも対応付けできるようになるため、名刺などの小さい原稿を扱う際の利便性が向上する。   With the above processing, it is possible to associate double-sided originals by using the distance between originals in addition to the degree of original overlap. Further, by using the distance between the originals, it is possible to make correspondence even when the originals are not overlapped before and after the flip operation, so that convenience when handling a small original such as a business card is improved.

[第7の実施形態]
第1〜6の実施形態では、裏返した原稿の置かれた位置が裏返し操作前の1枚の原稿に対して重なりを持つ場合について説明してきた。しかし、実際の操作では、裏返し操作により、裏返し前の複数の原稿と重なりが生じることがある。例えば、図25(a)のように2枚の原稿2501と2502を読み取ったのち、図25(b)のように裏返し操作を行い、図25(c)のようにおいて裏面を読み取る。25(c)のタイミングにおける原稿2504が置かれている位置は、図25(a)のタイミングにおける原稿2501の位置と2502の位置の両方に重なっていることになる。そこで、本実施形態では、このような複数原稿と対応付けの可能性が発生する場合にも、適切に対応付けを行う仕組みを提供する。
[Seventh Embodiment]
In the first to sixth embodiments, a case has been described in which the position where the inverted document is placed overlaps with one document before the flip operation. However, in an actual operation, an overlap operation may cause a plurality of documents before being turned over. For example, after two originals 2501 and 2502 are read as shown in FIG. 25A, the reverse operation is performed as shown in FIG. 25B, and the back side is read as shown in FIG. The position where the document 2504 is placed at the timing of 25 (c) overlaps both the position of the document 2501 and the position of 2502 at the timing of FIG. Therefore, the present embodiment provides a mechanism for appropriately associating even when such a possibility of association with a plurality of documents occurs.

図25(d)〜(i)を参照して、本実施形態における対応原稿信頼度算出について説明する。ここでは、対応原稿信頼度には原稿画像データの重なり度合を用いて説明を行うが、他の手法により算出した対応原稿信頼度を用いてよい。   With reference to FIGS. 25D to 25I, the corresponding document reliability calculation in the present embodiment will be described. Here, the corresponding document reliability is described using the degree of overlap of document image data, but the corresponding document reliability calculated by another method may be used.

図25(d)に対応原稿信頼度算出の仕方を説明する図面である。原稿裏返し操作前に抽出された2枚の参照原稿画像データ2511および2512(上段)と、原稿裏返し後に抽出された2枚の注目原稿画像データ2513および2514(下段)を示している。図25(e)および図25(f)は、注目原稿画像データ2513(実線)に対して参照原稿画像データ2511と2512(破線)との原稿重なり度合を算出しているところである。また、図25(g)および図25(h)は、注目原稿画像データ2514(実線)と参照原稿画像データ2511と2512(破線)との原稿重なり度合を算出しているところである。図25(i)はそれぞれの比較した対応原稿信頼度を一覧表としてまとめたものである。   FIG. 25D is a diagram for explaining how to calculate the corresponding document reliability. Two reference document image data 2511 and 2512 (upper row) extracted before the document flip-over operation and two target document image data 2513 and 2514 (lower row) extracted after the document flip are shown. 25E and 25F show the calculation of the degree of document overlap between the reference document image data 2511 and 2512 (broken line) with respect to the document image data of interest 2513 (solid line). 25 (g) and 25 (h) show the calculation of the degree of document overlap between the target document image data 2514 (solid line) and the reference document image data 2511 and 2512 (broken line). FIG. 25 (i) summarizes the compared corresponding document reliability as a list.

本実施形態では、有効な対応原稿信頼度が1つのみである注目原稿画像データを抽出し、その参照原稿画像データと両面対応付けを行う。ここで、有効な対応原稿信頼度は、値が所定範囲内になる対応原稿信頼度である。続いて、両面対応付けられた参照原稿画像データを除いて、同様の処理を繰り返していく。例えば図25(i)の場合、注目原稿画像データ2514は参照原稿画像データ2511に対してのみ有効な対応原稿信頼度(34.4%)を持ち、参照原稿画像データ2511は注目原稿画像データ2514の候補対応原稿画像データとなる。そのためこの原稿画像データ同士を両面原稿として対応付けを行う。続いて、すでに対応付けされた参照原稿画像データ2511を除いて、残りの注目原稿画像データの両面対応付け処理を行う。すると、注目原稿画像データ2513は参照原稿画像データ2512に対してのみ有効な対応原稿信頼度(38.5%)を持ち、参照原稿画像データ2511は注目原稿画像データ2514の候補対応原稿画像データとなる。そのため、この原稿画像データ同士を両面原稿として対応付けが行われる。   In the present embodiment, target document image data having only one valid corresponding document reliability is extracted, and double-sided association is performed with the reference document image data. Here, the effective corresponding document reliability is a corresponding document reliability whose value falls within a predetermined range. Subsequently, the same processing is repeated except for the reference document image data associated with both sides. For example, in the case of FIG. 25I, the target document image data 2514 has a corresponding document reliability (34.4%) that is valid only for the reference document image data 2511, and the reference document image data 2511 is the target document image data 2514. Candidate corresponding original image data. Therefore, the document image data is associated with each other as a two-sided document. Subsequently, except for the reference document image data 2511 already associated with each other, the both-side association processing of the remaining document image data of interest is performed. Then, the target document image data 2513 has a corresponding document reliability (38.5%) that is valid only for the reference document image data 2512, and the reference document image data 2511 is a candidate corresponding document image data of the target document image data 2514. Become. Therefore, the document image data is associated with each other as a double-sided document.

以上のように、注目原稿画像データと参照原稿画像データのすべての組み合わせで対応原稿信頼度を算出し、有効な対応原稿信頼度が1つのものから順番に両面対応付けしていく。これにより、同一の原稿画像データに対して複数の原稿画像データが対応付けられてしまうことを防止することができる。   As described above, the corresponding manuscript reliability is calculated for all combinations of the target manuscript image data and the reference manuscript image data, and the effective correspondence manuscript reliability is associated with both sides in order from one. Thereby, it is possible to prevent a plurality of document image data from being associated with the same document image data.

(その他の実施例)
カメラスキャナ101は、第2〜7の実施形態のいずれかにおいて追加した処理を実行するか否かを設定する機能を備えてもよい。ユーザがカメラスキャナ101の操作表示部403などを介してそれについての事前設定を行うことができる。
(Other examples)
The camera scanner 101 may include a function for setting whether or not to execute the process added in any of the second to seventh embodiments. The user can make a preset setting via the operation display unit 403 of the camera scanner 101 or the like.

また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。   The present invention can also be realized by executing the following processing. That is, software (program) that realizes the functions of the above-described embodiments is supplied to a system or apparatus via a network or various storage media, and a computer (or CPU, MPU, or the like) of the system or apparatus reads the program. It is a process to be executed.

Claims (22)

読み取り領域内の原稿が静止したタイミングを第1のタイミングとして検出し、前記第1のタイミングの直後に前記読み取り領域内の原稿が再び静止したタイミングを第2のタイミングとして検出する、検出手段と、
前記検出手段で検出されたタイミングに基づき、前記読み取り領域を撮像し、撮像した画像から、原稿画像データと原稿画像データの前記読み取り領域内の位置情報とを取得する取得手段と、
前記第1のタイミングに基づき取得された原稿画像データと前記第2のタイミングに基づき取得された原稿画像データとの間の対応原稿信頼度を、原稿画像データ同士の位置関係から算出する算出手段と、
算出された前記第1のタイミングに基づき取得された原稿画像データと前記第2のタイミングに基づき取得された原稿画像データとの間の対応原稿信頼度に応じて、原稿の両面対応付け処理を行う両面対応付け処理手段と
を備えることを特徴とする画像処理装置。
Detecting means for detecting a timing at which the document in the reading area is stopped as a first timing, and detecting a timing at which the document in the reading area is stopped again immediately after the first timing as a second timing;
An acquisition unit that captures an image of the reading area based on the timing detected by the detection unit, and acquires document image data and position information of the document image data in the reading area from the captured image;
Calculating means for calculating a corresponding document reliability between the document image data acquired based on the first timing and the document image data acquired based on the second timing from the positional relationship between the document image data; ,
A double-sided correspondence process of originals is performed according to the corresponding original document reliability between the original image data acquired based on the calculated first timing and the original image data acquired based on the second timing. An image processing apparatus comprising: a double-sided correspondence processing unit.
前記検出手段は、前記第1のタイミングと前記第2のタイミングとの間に前記読み取り領域から原稿がフレームアウトしたタイミングを第3のタイミングとして検出し、
前記算出手段は、前記第1のタイミングに基づき取得された原稿画像データと、前記第3のタイミングに基づき取得された原稿画像データとの間の対応原稿信頼度を、原稿同士の位置関係から算出し、
算出された前記第1のタイミングに基づき取得された原稿画像データと前記第3のタイミングに基づき取得された原稿画像データとの間の対応原稿信頼度に応じて、前記第3のタイミングで前記読み取り領域から除去された原稿を特定する特定手段をさらに備えることを特徴とする請求項1に記載の画像処理装置。
The detection means detects, as a third timing, a timing at which the document is out of frame from the reading area between the first timing and the second timing,
The calculation means calculates a corresponding document reliability between the document image data acquired based on the first timing and the document image data acquired based on the third timing from the positional relationship between the documents. And
The reading at the third timing according to the corresponding document reliability between the document image data acquired based on the calculated first timing and the document image data acquired based on the third timing. The image processing apparatus according to claim 1, further comprising a specifying unit that specifies the document removed from the area.
前記両面対応付け処理手段は、前記第1のタイミングに基づき取得された原稿画像データのうち前記特定手段で特定された原稿以外の原稿画像データと、前記第2のタイミングに基づき取得された原稿画像データとの間で、前記両面対応付け処理を行うことを特徴とする請求項2に記載の画像処理装置。   The double-side association processing means includes original image data other than the original specified by the specifying means among original image data acquired based on the first timing, and an original image acquired based on the second timing. The image processing apparatus according to claim 2, wherein the duplex matching process is performed with data. 前記特定手段は、前記読み取り領域から除去された原稿と特定された原稿画像データに対して、両面対応付け対象でないことを示すフラグを設定し、
前記両面対応付け処理手段は、前記フラグを用いることにより、前記両面対応付け処理が行わない原稿画像データを判定することを特徴とする請求項3に記載の画像処理装置。
The specifying unit sets a flag indicating that the original removed from the reading area and the original image data are not subject to duplex matching,
The image processing apparatus according to claim 3, wherein the double-side association processing unit determines document image data that is not subjected to the double-side association processing by using the flag.
前記第1のタイミングおよび/または前記第2のタイミングに基づき取得された原稿画像データは複数であることを特徴とする請求項1乃至4のいずれかに記載の画像処理装置。   5. The image processing apparatus according to claim 1, wherein there are a plurality of document image data acquired based on the first timing and / or the second timing. 6. 前記両面対応付け処理手段は、前記第2のタイミングに基づき取得された原稿画像データごとに、対応原稿信頼度が最大である前記第1のタイミングに基づき取得された原稿画像データを抽出し、前記抽出された原稿画像データの裏面原稿として前記第2のタイミングに基づき取得された原稿画像データを保存することを特徴とする請求項5に記載の画像処理装置。   The double-side association processing unit extracts document image data acquired based on the first timing with the maximum corresponding document reliability for each document image data acquired based on the second timing, and 6. The image processing apparatus according to claim 5, wherein the original image data acquired based on the second timing is stored as a back side original of the extracted original image data. 前記両面対応付け処理手段は、前記第2のタイミングに基づき取得された原稿画像データのそれぞれに関して、対応原稿信頼度が所定範囲内にある前記第1のタイミングに基づき取得された原稿画像データを候補対応原稿画像データとして抽出し、前記第2のタイミングに基づき取得された原稿画像データのうち候補対応原稿画像データを1つのみ有する原稿画像データから順番に両面対応付け処理を行うことを特徴とする請求項5に記載の画像処理装置。   The double-sided correspondence processing means can select the document image data acquired based on the first timing with the corresponding document reliability within a predetermined range for each of the document image data acquired based on the second timing. Extracting as corresponding document image data, and performing both-side association processing in order from document image data having only one candidate-corresponding document image data among the document image data acquired based on the second timing. The image processing apparatus according to claim 5. 前記対応原稿信頼度は、原稿画像データ同士の重なり度合とすることを特徴とする請求項1乃至7のいずれかに記載の画像処理装置。   The image processing apparatus according to claim 1, wherein the corresponding document reliability is a degree of overlap between document image data. 前記対応原稿信頼度は、原稿画像データ同士の距離とすることを特徴とする請求項1乃至7のいずれかに記載の画像処理装置。   The image processing apparatus according to claim 1, wherein the corresponding document reliability is a distance between document image data. 前記原稿画像データ同士の距離は、原稿画像データ同士の重心間の距離とすることを特徴とする請求項9に記載の画像処理装置。   The image processing apparatus according to claim 9, wherein the distance between the document image data is a distance between centroids of the document image data. 前記原稿画像データ同士の距離は、原稿画像データ同士の対応頂点間の距離とすることを特徴とする請求項9に記載の画像処理装置。   The image processing apparatus according to claim 9, wherein the distance between the document image data is a distance between corresponding vertices between the document image data. 前記両面対応付け処理により両面対応付けされた原稿画像データから所定のデータ出力形式で出力ファイルを作成する作成手段をさらに備えることを特徴とする請求項1乃至11のいずれかに記載の画像処理装置。   The image processing apparatus according to claim 1, further comprising a creation unit that creates an output file in a predetermined data output format from the document image data that has been duplexed by the duplex matching process. . 前記作成手段における前記所定のデータ出力形式は、両面対応付けされた原稿を連結して出力する形式であることを特徴とする請求項12に記載の画像処理装置。   The image processing apparatus according to claim 12, wherein the predetermined data output format in the creating unit is a format in which originals associated with both sides are connected and output. 前記作成手段における前記所定のデータ出力形式は、原稿ごとの個別ファイルで出力する形式であることを特徴とする請求項12に記載の画像処理装置。   The image processing apparatus according to claim 12, wherein the predetermined data output format in the creating unit is a format for outputting in an individual file for each document. 前記両面対応付け処理手段は、前記第2のタイミングに基づき取得された原稿画像データが白紙であるかを判定し、
前記作成手段は、白紙でないと判定した原稿画像データを出力ファイルとして作成し、白紙であると判定した原稿画像データを削除することを特徴とする請求項12乃至14のいずれかに記載の画像処理装置。
The double-side association processing unit determines whether the document image data acquired based on the second timing is blank,
15. The image processing according to claim 12, wherein the creating unit creates document image data determined not to be blank as an output file, and deletes document image data determined to be blank. apparatus.
前記両面対応付け処理手段は、前記第2のタイミングに基づき取得された原稿画像データが前記第1のタイミングに基づき取得された原稿画像データと同一原稿であるかを、原稿画像データ同士を比較することにより判定し、
前記作成手段は、同一原稿でないと判定した原稿画像データを出力ファイルとして作成し、同一原稿であると判定した原稿画像データを削除することを特徴とする請求項12乃至15のいずれかに記載の画像処理装置。
The double-side association processing unit compares the document image data with each other to determine whether the document image data acquired based on the second timing is the same as the document image data acquired based on the first timing. Judgment by
16. The document creation apparatus according to claim 12, wherein the creating unit creates document image data determined not to be the same document as an output file, and deletes the document image data determined to be the same document. Image processing device.
前記両面対応付け処理手段は、前記第1のタイミングに基づき取得された原稿画像データが裏面原稿として保存済みであるかを判定し、裏面原稿として保存済みであると判定した原稿画像データに対応する前記第2のタイミングに基づき取得された原稿画像データを削除することを特徴とする請求項12乃至15のいずれかに記載の画像処理装置。   The double-side association processing unit determines whether or not the original image data acquired based on the first timing has been saved as a back side original, and corresponds to the original image data determined to have been saved as a back side original. The image processing apparatus according to claim 12, wherein document image data acquired based on the second timing is deleted. 前記両面対応付け処理手段は、前記第2のタイミングに基づき取得された原稿画像データが前記第1のタイミングに基づき取得された原稿画像データと同一サイズであるかを判定し、同一サイズであると判定した原稿画像データに対して前記両面対応付け処理を行い、同一サイズでないと判定した原稿画像データを新たな原稿の表面として保存することを特徴とする請求項12乃至15のいずれかに記載の画像処理装置。   The double-sided association processing unit determines whether or not the document image data acquired based on the second timing is the same size as the document image data acquired based on the first timing. 16. The document image data according to claim 12, wherein the duplex matching process is performed on the determined document image data, and the document image data determined not to have the same size is stored as a front surface of a new document. Image processing device. 前記検出手段は、前記読み取り領域内の原稿が連続して静止した時間が所定時間以上になったタイミングを、前記読み取り領域内の原稿が静止したタイミングとして検出することを特徴とする請求項1乃至18のいずれかに記載の画像処理装置。   2. The detection unit according to claim 1, wherein the detection unit detects a timing at which a document stationary in the reading area is continuously stopped for a predetermined time or more as a timing at which the document in the reading area is stationary. The image processing apparatus according to any one of 18. 前記取得手段は、前記検出手段で検出されたタイミングに基づき前記読み取り領域を撮像した画像と、原稿を置いていない前記読み取り領域を撮像した背景画像との差分画像を算出し、前記差分画像から原稿画像データと原稿画像データの前記読み取り領域内の位置情報とを取得することを特徴とする請求項1乃至19のいずれかに記載の画像処理装置。   The acquisition means calculates a difference image between an image obtained by imaging the reading area based on the timing detected by the detection means and a background image obtained by imaging the reading area where no document is placed, and the original is obtained from the difference image. The image processing apparatus according to claim 1, wherein the image processing apparatus acquires image data and position information of the document image data in the reading area. 読み取り領域内の原稿が静止したタイミングを第1のタイミングとして検出し、前記第1のタイミングの直後に前記読み取り領域内の原稿が再び静止したタイミングを第2のタイミングとして検出する、検出ステップと、
前記検出ステップで検出されたタイミングに基づき、前記読み取り領域を撮像し、撮像した画像から、原稿画像データと原稿画像データの前記読み取り領域内の位置情報とを取得する取得ステップと、
前記第1のタイミングに基づき取得された原稿画像データと前記第2のタイミングに基づき取得された原稿画像データとの間の対応原稿信頼度を、原稿画像データ同士の位置関係から算出する算出ステップと、
算出された前記第1のタイミングに基づき取得された原稿画像データと前記第2のタイミングに基づき取得された原稿画像データとの間の対応原稿信頼度に応じて、原稿の両面対応付け処理を行う両面対応付け処理ステップと
を備えることを特徴とする画像処理方法。
A detection step of detecting a timing at which the document in the reading area is stopped as a first timing, and detecting a timing at which the document in the reading area is stopped again immediately after the first timing as a second timing;
An acquisition step of imaging the reading area based on the timing detected in the detection step, and acquiring document image data and position information of the document image data in the reading area from the captured image;
A calculation step of calculating a corresponding document reliability between the document image data acquired based on the first timing and the document image data acquired based on the second timing from the positional relationship between the document image data; ,
A double-sided correspondence process of originals is performed according to the corresponding original document reliability between the original image data acquired based on the calculated first timing and the original image data acquired based on the second timing. An image processing method comprising: a double-sided association processing step.
コンピュータを請求項1乃至20のいずれかに記載の画像処理装置として機能させるためのプログラム。   A program for causing a computer to function as the image processing apparatus according to any one of claims 1 to 20.
JP2013040820A 2013-03-01 2013-03-01 Image processing device, image processing method, and program Pending JP2014171023A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013040820A JP2014171023A (en) 2013-03-01 2013-03-01 Image processing device, image processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013040820A JP2014171023A (en) 2013-03-01 2013-03-01 Image processing device, image processing method, and program

Publications (1)

Publication Number Publication Date
JP2014171023A true JP2014171023A (en) 2014-09-18

Family

ID=51693123

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013040820A Pending JP2014171023A (en) 2013-03-01 2013-03-01 Image processing device, image processing method, and program

Country Status (1)

Country Link
JP (1) JP2014171023A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020088503A (en) * 2018-11-20 2020-06-04 シャープ株式会社 Image reading apparatus, image formation apparatus, control program, and control method

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020088503A (en) * 2018-11-20 2020-06-04 シャープ株式会社 Image reading apparatus, image formation apparatus, control program, and control method
JP7157638B2 (en) 2018-11-20 2022-10-20 シャープ株式会社 Image reading device, image forming device, control program and control method

Similar Documents

Publication Publication Date Title
JP4918171B1 (en) Image processing apparatus and document reading system having the same
KR102553581B1 (en) Image processing apparatus that performs multi-crop processing, method of generating image in units of documents by multi-crop processing and storage medium
JP5366699B2 (en) Image processing apparatus, image processing method, and image processing program
US9256180B2 (en) Image display apparatus, display control method, and non-transitory computer-readable recording medium encoded with display control program
JP2019161463A (en) Image processing apparatus, program and image processing method
US20190058805A1 (en) Image processing apparatus, and method of controlling the same
JP6049345B2 (en) Image processing apparatus, method, and program
US10291805B1 (en) Image processing apparatus
US20090073463A1 (en) Image processing apparatus, image processing method, and computer-readable recording medium
JP6277752B2 (en) Image forming apparatus, image processing method, and program
TW201545533A (en) Intelligent image reproducing apparatus and method for reproducing image
JP2014171023A (en) Image processing device, image processing method, and program
JP2014220772A (en) Image processing apparatus and control method and program of the same
US20150244900A1 (en) Image processing device and method, image processing system, and non-transitory computer-readable medium
JP2006072506A (en) Photographic processor
JP2019201358A (en) Image processing apparatus, program, and image processing method
JP2014216953A (en) Image processing device, image processing method, and computer program
JP2015076681A (en) Information processing device and control method therefor, computer program and storage medium
JP5819887B2 (en) Print setting program and electronic device
JP7073699B2 (en) Image processing program, information processing device and image processing method
JP7027248B2 (en) Image processing equipment, programs, image processing methods
JP2014121048A (en) Image processing apparatus, image processing method and program
JP5550309B2 (en) Image processing apparatus and display control method
US11165926B1 (en) Image forming apparatus, information processing method, and non-transitory computer readable recording medium that stores information processing program
JP7250526B2 (en) Image processing device, program, image processing method