JP4301526B1 - Image generating apparatus, image generating method, and program - Google Patents

Image generating apparatus, image generating method, and program Download PDF

Info

Publication number
JP4301526B1
JP4301526B1 JP2008300323A JP2008300323A JP4301526B1 JP 4301526 B1 JP4301526 B1 JP 4301526B1 JP 2008300323 A JP2008300323 A JP 2008300323A JP 2008300323 A JP2008300323 A JP 2008300323A JP 4301526 B1 JP4301526 B1 JP 4301526B1
Authority
JP
Japan
Prior art keywords
image
page
folded
unit
page image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008300323A
Other languages
Japanese (ja)
Other versions
JP2010130126A (en
Inventor
修 大川内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
OMI CO., LTD.
Original Assignee
OMI CO., LTD.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by OMI CO., LTD. filed Critical OMI CO., LTD.
Priority to JP2008300323A priority Critical patent/JP4301526B1/en
Application granted granted Critical
Publication of JP4301526B1 publication Critical patent/JP4301526B1/en
Priority to CN200980146194.3A priority patent/CN102217298B/en
Priority to PCT/JP2009/006297 priority patent/WO2010061568A1/en
Publication of JP2010130126A publication Critical patent/JP2010130126A/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • H04N1/3872Repositioning or masking
    • H04N1/3873Repositioning or masking defined only by a limited number of coordinate points or parameters, e.g. corners, centre; for trimming

Abstract

【課題】袋とじ製本された書物を構成する一の紙に対応する画像を生成することができる画像生成装置を提供する。
【解決手段】袋とじ製本された書物おいて一の紙が二つ折りされて構成される、一方のページの画像である第1ページ画像と、他方のページの画像である第2ページ画像とが記憶される画像記憶部13と、第1ページ画像の二つ折りの側の辺と、第2ページ画像の二つ折りの側の辺とをつなげる位置を決定する位置決定部14と、位置決定部14が決定した位置によって、第1ページ画像の二つ折りの側の辺と、第2ページ画像の二つ折りの側の辺とつなげることによって、袋とじ製本された一の紙に対応する画像である一枚画像を生成する画像生成部15と、画像生成部15が生成した一枚画像を出力する画像出力部16と、を備える。
【選択図】図1
An image generating apparatus capable of generating an image corresponding to one paper constituting a book bound by a bag is provided.
A first page image, which is an image of one page, and a second page image, which is an image of the other page, are formed by folding one sheet of paper in a book that is bound in a bag. The stored image storage unit 13, the position determination unit 14 that determines the position at which the side of the first page image that is folded in two and the side of the second page image that is folded in half are located, and the position determination unit 14 Is connected to the side of the first page image that is folded in two and the side of the second page image that is folded into two, so that the image corresponds to one piece of paper that has been bound. An image generation unit 15 that generates a single image and an image output unit 16 that outputs a single image generated by the image generation unit 15 are provided.
[Selection] Figure 1

Description

本発明は、袋とじ製本された書物に関する画像を生成する画像生成装置等に関する。   The present invention relates to an image generation apparatus that generates an image related to a book that has been bound by a bag.

従来、簡易な製本の方法として、袋とじ製本が用いられてきている。例えば、古文書や公文書、旧土地台帳などについて、袋とじ製本によって製本されたものが存在する。また、その袋とじ製本された書物を、コピー機などによって複写することも行われていた。   Conventionally, bag binding has been used as a simple bookbinding method. For example, there are old documents, official documents, old land ledgers, and the like bound by bag binding. In addition, the book bound in the bag was copied by a copy machine or the like.

なお、そのような複写を行う際に、デジタルカメラを用いて容易に正確な転写図面を得る方法も知られている(例えば、特許文献1参照)。
特許3981644号公報
A method of easily obtaining an accurate transfer drawing using a digital camera when performing such copying is also known (see, for example, Patent Document 1).
Japanese Patent No. 3981644

しかしながら、袋とじ製本された書物を複写したとしても、袋とじ製本された書物を構成する一の紙に対応する画像を得ることはできなかった。それは、袋とじ製本された書物を構成する一の紙は二つ折りにされており、その一の紙に含まれる2ページは表裏となるため、両ページを一括して複写することはできなかったからである。   However, even if a book bound in a bag is copied, an image corresponding to one paper constituting the book bound in a bag cannot be obtained. That is because one sheet of a book bound in a book is folded in half, and the two pages included in the one sheet are front and back, so both pages cannot be copied together. It is.

例えば、袋とじ製本された書物の見開きをそのままコピーすると、袋とじ製本された書物における第1の紙に含まれる一方のページの画像と、第1の紙とは異なる第2の紙に含まれる一方のページの画像とを複写できるのみであった。また、袋とじ製本された書物の見開きをコピーしたとしても、その見開きのページには少なからず湾曲が存在することになり、袋とじ製本された書物の各ページとまったく同じ画像を得ることはできなかった。   For example, if the spread of a book bound in a bag is copied as it is, the image of one page included in the first paper in the book bound in a bag is included in a second paper different from the first paper. It was only possible to copy an image on one page. In addition, even if you copy the spread of a book that has been bound in a bag, there will be a certain amount of curvature in the page of the spread book, and you will be able to obtain exactly the same image as each page of a book that has been bound in a bag. There wasn't.

本発明は、このような問題点を解決するためになされたものであり、その一の目的は、袋とじ製本された書物を構成する一の紙に対応する画像を生成することができる画像生成装置等を提供することである。また、他の目的は、湾曲している書物のページからであっても一の紙に対応する適切な画像を生成することができる画像生成装置等を提供することである。   The present invention has been made to solve such problems, and one object of the present invention is to generate an image that can generate an image corresponding to a piece of paper constituting a bound book. It is to provide a device or the like. Another object of the present invention is to provide an image generation apparatus that can generate an appropriate image corresponding to one paper even from a curved book page.

上記目的の少なくともいずれかを達成するため、本発明による画像生成装置は、袋とじ製本された書物おいて一の紙が二つ折りされて構成される、一方のページの画像である第1ページ画像と、他方のページの画像である第2ページ画像とが記憶される画像記憶部と、前記第1ページ画像の二つ折りの側の辺と、前記第2ページ画像の二つ折りの側の辺とをつなげる位置を決定する位置決定部と、前記位置決定部が決定した位置によって、前記第1ページ画像の二つ折りの側の辺と、前記第2ページ画像の二つ折りの側の辺とつなげることによって、袋とじ製本された前記一の紙に対応する画像である一枚画像を生成する画像生成部と、前記画像生成部が生成した一枚画像を出力する画像出力部と、を備えたものである。   In order to achieve at least one of the above objects, an image generation apparatus according to the present invention is a first page image that is an image of one page, which is formed by folding a sheet of paper in a book that has been bound into a bag. A second page image that is an image of the other page, a side of the first page image that is folded in two, and a side of the second page image that is folded in half A position determining unit that determines a position to connect the image, and a position that is determined by the position determining unit to connect the second folded side of the first page image and the second folded side of the second page image. An image generation unit that generates a single image that is an image corresponding to the one paper that has been bound by a bag, and an image output unit that outputs the single image generated by the image generation unit. It is.

このような構成により、袋とじ製本された書物を構成する一の紙に対応する一枚画像を生成することができる。その結果、その生成された一枚画像を用いることによって、例えば、その書物に関する研究を行ったり、その書物の完全な複製品を作成したりすることができうる。   With such a configuration, it is possible to generate a single image corresponding to one paper constituting a book bound by a booklet. As a result, by using the generated single image, for example, research on the book can be performed, or a complete reproduction of the book can be created.

また、本発明による画像生成装置では、前記画像生成部は、前記第1ページ画像の二つ折りの側の辺と、前記第2ページ画像の二つ折りの側の辺とが、前記一枚画像の中心線となるように前記一枚画像を生成してもよい。   In the image generation apparatus according to the present invention, the image generation unit may include a side of the first page image that is folded in half and a side of the second page image that is folded in half of the one-image. The single image may be generated so as to be a center line.

このような構成により、その一枚画像を適切に印刷することによって、元の二つ折りにされた線が、印刷後の紙を二つ折りにした際の二つ折りにされた線と一致するようになりうる。その結果、その紙を用いることによって、袋とじ製本された書物の複製品を容易に作成することができるようになる。   With such a configuration, by appropriately printing the single image, the original folded line is matched with the folded line when the printed paper is folded in half. Can be. As a result, by using the paper, it becomes possible to easily create a duplicate of the book bound and bound.

また、本発明による画像生成装置では、前記一の紙の二つ折りにされた線上には、両ページにまたがる図形が存在し、前記位置決定部は、前記第1ページ画像に含まれる前記図形の部分と、前記第2ページ画像に含まれる前記図形の部分とがつながるように、位置の決定を行ってもよい。
このような構成により、より厳密な位置の決定を行うことができるようになると考えられる。
Further, in the image generating apparatus according to the present invention, there is a figure that spans both pages on the folded line of the one paper, and the position determination unit is configured to display the figure included in the first page image. The position may be determined so that the portion and the portion of the graphic included in the second page image are connected.
With such a configuration, it is considered that a more precise position can be determined.

また、本発明による画像生成装置では、前記位置決定部は、前記第1ページ画像の二つ折りの側の辺上の画素列と、前記第2ページ画像の二つ折りの側の辺上の画素列との辺方向の位置関係を変更する位置関係変更手段と、前記位置関係変更手段が位置関係を変更した両画素列の類似性に関する情報である類似情報を算出する類似情報算出手段と、前記類似情報によって類似性が最も高くなる両画素列の位置関係を特定する位置関係特定手段と、を備え、前記位置関係特定手段によって特定された両画素列の位置関係が、前記第1ページ画像の二つ折りの側の辺と、前記第2ページ画像の二つ折りの側の辺とをつなげる位置関係となってもよい。   In the image generation apparatus according to the present invention, the position determination unit may include a pixel row on a side of the first page image that is folded in two and a pixel row on the side of the second page image that is folded in half. A positional relationship changing unit that changes a positional relationship in the side direction, a similarity information calculating unit that calculates similarity information that is information relating to the similarity between both pixel columns whose positional relationship has been changed by the positional relationship changing unit, and the similarity Positional relationship specifying means for specifying the positional relationship between the two pixel columns having the highest similarity according to the information, and the positional relationship between the two pixel columns specified by the positional relationship specifying means is the second positional relationship of the first page image. A positional relationship may be established in which the side of the folded side and the side of the folded second side of the second page image are connected.

このような構成により、ある図形が二つ折りの線上において2ページに分断されている場合に、両ページの二つ折りの側の辺上の画素列はほぼ同じになるであろうという仮定のもと、両ページをつなげる位置の適切な決定を行うことができるようになると考えられる。   With such a configuration, it is assumed that when a certain figure is divided into two pages on a folded line, the pixel columns on the folded side of both pages will be substantially the same. It will be possible to appropriately determine the position where the two pages are connected.

また、本発明による画像生成装置では、前記位置決定部は、前記第1ページ画像の二つ折りの側の辺の端点と、前記第2ページ画像の二つ折りの側の辺の端点とがつながるように、位置の決定を行ってもよい。
このような構成により、両ページにまたがる図形がなかった場合においても、二つ折りの側の辺の端点を用いて両ページをつなげる位置を決定することができるようになる。
In the image generating apparatus according to the present invention, the position determining unit may connect the end point of the second folded side of the first page image to the end point of the second folded side of the second page image. Alternatively, the position may be determined.
With such a configuration, even when there is no figure that spans both pages, it is possible to determine the position at which the two pages are connected using the end points of the side that is folded in half.

また、本発明による画像生成装置では、前記第1ページ画像に対応するページ上に基準点を配置して撮影された画像である第1撮影画像と、前記第2ページ画像に対応するページ上に基準点を配置して撮影された画像である第2撮影画像とを受け付ける画像受付部と、前記画像受付部が受け付けた第1撮影画像及び第2撮影画像を、前記基準点を用いて撮影方向に関する補正を行うことによって、前記第1ページ画像及び前記第2ページ画像を生成し、前記画像記憶部に蓄積する画像補正部と、をさらに備えてもよい。
このような構成により、デジタルカメラ等によって撮影された撮影画像を補正することによって、ページ画像を得ることができるようになる。特に、撮影対象となる袋とじ製本された書物が解体不能なもの、例えば、和綴じ製本(糸綴じ製本)されたものである場合には、フラットヘッドスキャナでページ画像を得ることが不可能であるが、このようにして撮影画像を補正することによって、適切なページ画像を得ることができるようになる。例えば、その撮影時にページが湾曲していたとしても、その湾曲を適切に補正することができる。
In the image generation apparatus according to the present invention, the first captured image that is an image captured by arranging a reference point on the page corresponding to the first page image, and the page corresponding to the second page image. An image receiving unit that receives a second captured image that is an image captured by arranging a reference point, and a shooting direction of the first captured image and the second captured image received by the image receiving unit using the reference point An image correcting unit that generates the first page image and the second page image and stores the first page image and the second page image in the image storage unit.
With such a configuration, a page image can be obtained by correcting a photographed image photographed by a digital camera or the like. In particular, when a book that is to be photographed is bound and bound, the book cannot be disassembled, for example, Japanese-bound bookbinding (yarn-bound bookbinding). However, an appropriate page image can be obtained by correcting the captured image in this way. For example, even if the page is curved at the time of shooting, the curvature can be corrected appropriately.

本発明による画像生成装置等によれば、袋とじ製本された書物を構成する一の紙に対応する画像を生成することができる。その結果、例えば、袋とじ製本された書物の完全なレプリカ(これも袋とじ製本されたものである)を作成することもできる。   According to the image generating apparatus and the like according to the present invention, it is possible to generate an image corresponding to one piece of paper constituting a book bound by a bag. As a result, for example, it is possible to create a complete replica of a book that has been bound by a bag (this is also a book that has been bound by a bag).

以下、本発明による画像生成装置について、実施の形態を用いて説明する。なお、以下の実施の形態において、同じ符号を付した構成要素及びステップは同一または相当するものであり、再度の説明を省略することがある。   Hereinafter, an image generation apparatus according to the present invention will be described using embodiments. In the following embodiments, components and steps denoted by the same reference numerals are the same or equivalent, and repetitive description may be omitted.

(実施の形態1)
本発明の実施の形態1による画像生成装置について、図面を参照しながら説明する。本実施の形態による画像生成装置は、袋とじ製本された書物を構成する一の紙に対応する画像を生成するものである。
(Embodiment 1)
An image generation apparatus according to Embodiment 1 of the present invention will be described with reference to the drawings. The image generation apparatus according to the present embodiment generates an image corresponding to one paper constituting a book bound by a bag.

図1は、本実施の形態による画像生成装置1の構成を示すブロック図である。本実施の形態による画像生成装置1は、画像受付部11と、画像補正部12と、画像記憶部13と、位置決定部14と、画像生成部15と、画像出力部16とを備える。   FIG. 1 is a block diagram showing a configuration of an image generation apparatus 1 according to the present embodiment. The image generation apparatus 1 according to the present embodiment includes an image reception unit 11, an image correction unit 12, an image storage unit 13, a position determination unit 14, an image generation unit 15, and an image output unit 16.

画像受付部11は、第1ページ上に基準点を配置して撮影された画像である第1撮影画像と、第2ページ上に基準点を配置して撮影された画像である第2撮影画像とを受け付ける。ここで、袋とじ製本された書物(この書物は、解体不可能なもの、すなわち、ページごとにばらばらにすることができないものであってもよい)において、二つ折りされている一の紙に含まれる一方のページが第1ページであり、他方のページが第2ページである。すなわち、第1ページ、第2ページは、袋とじ製本された書物における一の紙に含まれる2個のページであって、袋とじ製本された書物のページにおいて表裏を構成するものである。なお、基準点をページ上に配置する方法は問わない。例えば、あらかじめ複数の基準点が設けられた透明シートをページ上に重ねることによって、複数の基準点をページ上に配置してもよく、あるいは、一の基準点の設けられた透明、半透明、または不透明のシートの小片を用意し、その複数の小片をページ上に配置してもよい。   The image receiving unit 11 includes a first captured image that is an image that is captured with a reference point placed on the first page, and a second captured image that is an image that is captured with the reference point disposed on the second page. And accept. Here, in a book that has been bound in a bag (this book may not be dismantled, that is, it cannot be separated into pages), it is included in one folded paper. One page to be printed is the first page, and the other page is the second page. That is, the first page and the second page are two pages included in one paper in a book bound by a book and constitute the front and back sides of the page of the book bound by a book. The method for arranging the reference points on the page is not limited. For example, a plurality of reference points may be arranged on a page by overlapping a transparent sheet on which a plurality of reference points are provided in advance on the page, or transparent, translucent, Alternatively, a small piece of an opaque sheet may be prepared, and the plurality of small pieces may be arranged on the page.

なお、画像受付部11が3以上の撮影画像を受け付ける場合には、組となる2個の撮影画像、すなわち、第1撮影画像及び第2撮影画像を特定することができるようになっていることが好適である。組となる2個の撮影画像を特定する方法は問わないが、例えば、受け付けの順番を用いる方法や、撮影画像に対応付けられている情報を用いる方法などがある。   When the image receiving unit 11 receives three or more photographed images, it is possible to identify two pairs of photographed images, that is, the first photographed image and the second photographed image. Is preferred. There is no limitation on a method for specifying two captured images that form a pair. For example, there are a method that uses the order of acceptance and a method that uses information associated with the captured images.

受け付けの順番を用いる方法では、例えば、画像受付部11が受け付ける1番目の撮影画像と、2番目の撮影画像とが組となる2個の撮影画像であり、3番目の撮影画像と、4番目の撮影画像とが組となる2個の撮影画像である、というように定められていてもよい。そして、画像受付部11は、組となる撮影画像に対して、両者が組であることを示す情報を付与してもよい。その情報は、例えば、撮影画像のヘッダ等に含められてもよい。   In the method using the order of acceptance, for example, the first photographed image accepted by the image accepting unit 11 and the second photographed image are two photographed images, the third photographed image, and the fourth photographed image. It may be determined that the two captured images are a pair of the captured images. And the image reception part 11 may provide the information which shows that both are a group with respect to the picked-up image used as a group. The information may be included, for example, in the header of the captured image.

撮影画像に対応付けられている情報を用いる方法では、例えば、各撮影画像のヘッダ等に、その情報が含まれている。その撮影画像に対応付けられている情報は、例えば、組となる2個の撮影画像を紐付ける情報であってもよい。2個の撮影画像を紐付ける情報は、例えば、組となる撮影画像に対して付与された同じ情報であってもよく、所定の関係を有する情報であってもよい。前者の場合には、2個の撮影画像を紐付ける情報は、例えば、組となる2個の撮影画像のそれぞれに付与された組識別情報「H001」などであってもよい。ただし、組ごとに異なる組識別情報が付与されるものとする。また、後者の場合には、2個の撮影画像を紐付ける情報は、例えば、組となる2個の撮影画像の一方に付与されたページ番号「P001」と、他方に付与されたページ番号「P002」などであってもよい。そして、ページ番号「PN」と、ページ番号「PN+1」とにそれぞれ対応する2個の撮影画像が組となる撮影画像であると定められていてもよい。ただし、Nは3桁表記の1以上の整数である。また、後者の場合には、2個の撮影画像を紐付ける情報は、例えば、撮影時に撮影画像に付与されたファイル名であってもよい。通常、デジタルカメラで撮影する際には、撮影画像ごとにファイル名が付与され、そのファイル名は、撮影ごとに1ずつインクリメントされたものになる。したがって、画像受付部11が受け付けた複数の撮影画像をファイル名の昇順となるようにソートすると、そのソート後の先頭から2個ずつの撮影画像が、組となる2個の撮影画像となる。なお、この場合には、組となる2個の撮影画像ごとに撮影が行われているものとする。   In the method using information associated with a captured image, for example, the information is included in the header of each captured image. The information associated with the captured image may be, for example, information that associates two captured images that form a group. The information associated with the two captured images may be, for example, the same information given to the paired captured images, or information having a predetermined relationship. In the former case, the information for associating the two captured images may be, for example, set identification information “H001” assigned to each of the two captured images that form a set. However, different group identification information is given for each group. In the latter case, the information for linking the two captured images includes, for example, a page number “P001” assigned to one of the two captured images in the set and a page number “ P002 "or the like. Then, it may be determined that the captured image is a set of two captured images corresponding to the page number “PN” and the page number “PN + 1”, respectively. However, N is an integer of 1 or more expressed in three digits. In the latter case, the information that links the two photographed images may be, for example, a file name given to the photographed image at the time of photographing. Usually, when shooting with a digital camera, a file name is assigned to each shot image, and the file name is incremented by one for each shot. Therefore, when the plurality of photographed images received by the image receiving unit 11 are sorted in ascending order of the file names, the two photographed images from the head after the sorting become two photographed images that form a group. In this case, it is assumed that photographing is performed for every two photographed images forming a set.

なお、組となる2個の撮影画像を特定することができる情報は、後述する画像補正部12によって撮影画像がページ画像に変換された際にも、そのまま保持されていることが好適である。組となる2個のページ画像を特定することができるようにするためである。   It should be noted that the information that can specify the two captured images that form a pair is preferably retained as it is when the captured image is converted into a page image by the image correction unit 12 described later. This is because it is possible to specify two page images that form a set.

画像受付部11は、例えば、デバイス(例えば、デジタルカメラなど)から入力された撮影画像を受け付けてもよく、有線もしくは無線の通信回線を介して送信された撮影画像を受信してもよく、所定の記録媒体(例えば、光ディスクや磁気ディスク、半導体メモリなど)から読み出された撮影画像を受け付けてもよい。なお、画像受付部11は、受け付けを行うためのデバイス(例えば、モデムやネットワークカードなど)を含んでもよく、あるいは含まなくてもよい。また、画像受付部11は、ハードウェアによって実現されてもよく、あるいは所定のデバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。   For example, the image receiving unit 11 may receive a captured image input from a device (for example, a digital camera), may receive a captured image transmitted via a wired or wireless communication line, The captured image read from the recording medium (for example, an optical disk, a magnetic disk, a semiconductor memory, etc.) may be received. The image receiving unit 11 may or may not include a device (for example, a modem or a network card) for receiving. The image receiving unit 11 may be realized by hardware, or may be realized by software such as a driver that drives a predetermined device.

画像補正部12は、画像受付部11が受け付けた第1撮影画像及び第2撮影画像を、基準点を用いて撮影方向に関する補正を行うことによって、第1ページ画像及び第2ページ画像を生成する。そして、画像補正部12は、その生成した第1及び第2ページ画像を画像記憶部13に蓄積する。第1ページ画像は、第1ページに対応する画像であり、等倍で、あるいは、拡大・縮小することによって、原図である第1ページと重ね合わせ可能な画像、すなわち、その第1ページと同じ画像となり得るものである。また、第2ページ画像は、第2ページに対応する画像であり、等倍で、あるいは、拡大・縮小することによって、原図である第2ページと重ね合わせ可能な画像、すなわち、その第2ページと同じ画像となり得るものである。画像補正部12は、2次元の射影変換等を行うことによって、その補正を行うことができる。また、その補正によって、撮影画像を撮影したカメラのレンズ収差による誤差(歪み)の補正も同時に行うことができうる。画像補正部12がこの画像補正を行う方法については、前述の特許文献1を参照されたい。   The image correction unit 12 generates the first page image and the second page image by correcting the first captured image and the second captured image received by the image receiving unit 11 with respect to the shooting direction using a reference point. . Then, the image correction unit 12 accumulates the generated first and second page images in the image storage unit 13. The first page image is an image corresponding to the first page, and is the same image as the first page that can be superimposed on the first page, which is the original drawing, at the same magnification or by enlargement / reduction. It can be an image. Further, the second page image is an image corresponding to the second page, and is an image that can be superimposed on the second page that is the original drawing by equal magnification or by enlarging or reducing, that is, the second page. Can be the same image. The image correction unit 12 can perform the correction by performing a two-dimensional projective transformation or the like. In addition, the correction can also simultaneously correct an error (distortion) due to lens aberration of the camera that captured the captured image. For the method by which the image correction unit 12 performs this image correction, see the above-mentioned Patent Document 1.

画像補正部12は、撮影方向に関する補正以外の処理を行ってもよい。例えば、第1及び第2撮影画像について撮影方向に関する補正を行った後に、第1及び第2ページに対応する領域のみを切り出す処理を行ってもよい。その処理は、撮影方向に関する補正の前に行われてもよい。第1及び第2ページに対応する領域のみを切り出す処理は、例えば、輪郭抽出の技術を用いて行ってもよい。例えば、画像補正部12は、第1及び第2ページにおける背景色を取得し、その背景色の近似値を有する画素の領域を特定し、その特定した領域をすべて含む矩形形状(この場合には、各ページが矩形形状であることを前提としている)の領域を特定することによって、第1及び第2ページに対応する領域を特定してもよい。その特定した領域のみを切り出す処理は、例えば、切り抜き(トリミング)の処理としてすでに公知である。また、背景色を特定する方法としては、例えば、次の方法がある。まず、ランダムに色(輝度の階調のみでもよい。以下、同様である)をサンプリングする。そして、サンプリングした色をグルーピング(例えば、データクラスタリングの手法を用いてもよく、あらかじめ決められた幅の色ごとにグルーピングしてもよい)して、最も要素の多いグループが背景色に対応しているグループであると判断し、そのグループに含まれている色の平均値である背景色を特定してもよい。適切にランダムなサンプリングがなされた場合には、背景色が最もたくさんサンプリングされると考えられるからである。なお、画像補正部12は、第1及び第2ページに対応する領域を切り出す際に、書物の各ページに対応した縦横比や縦横の長さでその切り出しを行ってもよい。   The image correction unit 12 may perform processing other than correction related to the shooting direction. For example, after correcting the shooting direction for the first and second captured images, a process of cutting out only the areas corresponding to the first and second pages may be performed. The processing may be performed before correction related to the shooting direction. The process of cutting out only the regions corresponding to the first and second pages may be performed using, for example, a contour extraction technique. For example, the image correction unit 12 acquires the background color in the first and second pages, identifies the pixel area having an approximate value of the background color, and includes a rectangular shape including all the identified areas (in this case, The areas corresponding to the first and second pages may be specified by specifying the areas on the assumption that each page is rectangular. The process of cutting out only the specified area is already known as a process of trimming. As a method for specifying the background color, for example, there is the following method. First, a random color (only luminance gradation may be used; the same applies hereinafter) is sampled. Then, the sampled colors are grouped (for example, a data clustering method may be used or grouped for each color having a predetermined width), and the group with the most elements corresponds to the background color. The background color that is the average value of the colors included in the group may be specified. This is because it is considered that the background color is most sampled when appropriately random sampling is performed. Note that the image correction unit 12 may cut out the areas corresponding to the first and second pages with the aspect ratio and length and width corresponding to each page of the book.

また、画像補正部12は、画像の大きさに関する補正を行ってもよい。例えば、あらかじめ撮影対象のページの大きさ(書物の背の長さ方向だけの長さであってもよく、縦横の両方の長さであってもよい)を計測して登録しておき、その登録されているページの大きさとなるように、ページ画像を補正(具体的には、拡大または縮小)してもよい。このようにすることで、後述する画像生成部15によって2個のページ画像をつなげる際に、その2個のページ画像の大きさが異なっているような事態を回避することができるようになる。なお、拡大・縮小の際には、縦横比を固定していることが好適であるが、そうでなくてもよい。   Further, the image correction unit 12 may perform correction related to the size of the image. For example, measure and register in advance the size of the page to be photographed (it may be the length of the back of the book, or it may be both vertical and horizontal) The page image may be corrected (specifically, enlarged or reduced) so as to be the size of the registered page. In this way, when two page images are connected by the image generation unit 15 described later, it is possible to avoid a situation where the sizes of the two page images are different. It should be noted that the aspect ratio is preferably fixed at the time of enlargement / reduction, but this need not be the case.

また、画像補正部12は、基準図形によって示される基準点を用いた画像補正を行った後に、その基準図形を消去する処理を行ってもよい。そのようにすることで、撮影画像やページ画像から基準図形を消去することができうる。基準図形を消去する処理は、例えば、その基準図形の画素の値を、その基準図形の画素に隣接する画素の値に置き換えることによって行ってもよく、その他の方法によって行ってもよい。   Further, the image correction unit 12 may perform a process of deleting the reference graphic after performing the image correction using the reference point indicated by the reference graphic. By doing so, it is possible to delete the reference graphic from the captured image or the page image. The process of deleting the reference graphic may be performed, for example, by replacing the pixel value of the reference graphic with the value of the pixel adjacent to the pixel of the reference graphic, or may be performed by other methods.

また、画像補正部12は、組となる2個のページ画像について、色調やコントラストを一致させる補正を行ってもよい。まず、色調を一致させる補正について説明する。ここでは、第2ページ画像の色調を第1ページ画像の色調に合わせる場合について説明するが、その逆であってもよい。まず、組となる第1及び第2ページ画像のそれぞれについて、R,G,Bごとに全画素の平均値を算出する。そして、R,G,Bごとに、第1ページ画像の平均値から第2ページ画像の平均値を減算した差分を算出する。その後に、第2ページ画像について、R,G,Bごとの各画素に対して、算出したR,G,Bごとの平均値の差分を加算する。その結果、第1及び第2ページ画像のそれぞれのR,G,Bごとの平均値を一致させることができ、両画像の色調を一致させることができる。また、コントラストを一致させる場合には、一方のページ画像のコントラストゲインを取得し、それと同じコントラストゲインとなるように、他方のページ画像のコントラストを調整すればよい。このコントラストを調整する手法はすでに公知であり、その詳細な説明を省略する。なお、ここでは、2個のページ画像について色調等を一致させる補正について説明したが、3以上のページ画像が存在する場合には、2個ずつ、このような処理を行うことによって、すべてのページ画像の色調等を一致させることも可能となる。例えば、第Nページ画像の色調等を、第(N−1)ページ画像の色調等に一致させる処理を、N=2,3,…,Mまで実行してもよい。ただし、Mはページ画像の総数である。   In addition, the image correction unit 12 may perform correction to match the color tone and contrast of two page images that form a set. First, correction for matching color tones will be described. Here, a case where the color tone of the second page image is matched with the color tone of the first page image will be described, but the opposite may be possible. First, an average value of all pixels is calculated for each of R, G, and B for each of the first and second page images that form a set. Then, for each of R, G, and B, a difference is calculated by subtracting the average value of the second page image from the average value of the first page image. Thereafter, for the second page image, the difference between the calculated average values for R, G, and B is added to each pixel for each of R, G, and B. As a result, the average values for the R, G, and B of the first and second page images can be matched, and the colors of both images can be matched. Further, in order to match the contrast, the contrast gain of one page image is acquired, and the contrast of the other page image may be adjusted so that the same contrast gain is obtained. This method of adjusting the contrast is already known and will not be described in detail. Here, the correction for matching the color tones of the two page images has been described. However, when there are three or more page images, all the pages are obtained by performing such processing two by two. It is also possible to match the tone of the image. For example, the process of matching the color tone of the Nth page image with the color tone of the (N−1) th page image may be executed up to N = 2, 3,. Here, M is the total number of page images.

画像記憶部13では、袋とじ製本された書物おいて一の紙が二つ折りされて構成される、一方のページの画像である第1ページ画像と、他方のページの画像である第2ページ画像とが記憶される。この第1及び第2ページ画像は、画像補正部12によって蓄積されたものである。   In the image storage unit 13, a first page image that is an image of one page and a second page image that is an image of the other page, which are configured by folding a single sheet in a book that has been bound into a bag. Is memorized. The first and second page images are accumulated by the image correction unit 12.

なお、画像記憶部13において記憶されている各ページ画像において、二つ折りされている側の辺が分かるようになっていることが好適である。そのため、例えば、各ページ画像において、二つ折りされている側の辺がどちら側であるのか(すなわち、上側、左側、右側、下側のいずれであるのか)を示す情報がヘッダ等に含まれていてもよく、あらかじめ特定の側が二つ折りされている側であると決められていてもよく、後述するように二つ折りされている線上に両ページにまたがる図形が存在する場合には、各辺の最外縁の画素に含まれる図形を検出することによって二つ折りされている側を検出してもよい。二つ折りされている側を検出する場合には、例えば、各辺の最外縁の画素列において、隣接する画素間の輝度の変化を算出し、辺ごとにその輝度の変化が最大のものから所定の数量(例えば、4個など)の平均値を算出し、その平均値の最も大きい辺が二つ折りされている側であると検出してもよい。二つ折りされている辺上に図形が存在するのであれば、その図形によって輝度の変化の大きい地点が少なくとも2箇所は存在すると考えられるためである。なお、他の方法を用いてもよいことは言うまでもない。   It should be noted that in each page image stored in the image storage unit 13, it is preferable that the side that is folded in half is known. Therefore, for example, in each page image, information indicating which side is folded in half (that is, which side is the upper side, the left side, the right side, or the lower side) is included in the header or the like. It may be determined that the specific side is the side that is folded in advance, and if there is a figure that spans both pages on the line that is folded in half as described later, You may detect the side folded in half by detecting the figure contained in the pixel of the outermost edge. When detecting the folded side, for example, in the pixel array at the outermost edge of each side, change in luminance between adjacent pixels is calculated, and the change in luminance for each side is predetermined from the largest. The average value of the quantity (for example, four) may be calculated, and it may be detected that the side with the largest average value is the side that is folded in half. This is because if there is a figure on the side that is folded in half, it is considered that there are at least two points where the luminance changes greatly depending on the figure. Needless to say, other methods may be used.

また、各ページ画像には、種々の情報が対応付けられていてもよい。例えば、各ページ画像が撮影された袋とじ製本された書物のページに関する情報が、各ページ画像に対応付けられていてもよい。袋とじ製本された書物のページに関する情報とは、例えば、そのページの番号であってもよく、そのページに対応している他の書物のページ番号であってもよい。後者の場合には、袋とじ製本された書物のページに関する情報は、例えば、他の書物の対応するページ画像へのリンクの情報であってもよい。このように各ページ画像に対応付けられている情報は、例えば、各ページ画像のヘッダ等に含まれていてもよく、あるいは、他の情報として、そのページ画像と紐付けられて管理されていてもよい。また、各ページ画像に対応付けられている情報は、後述する画像生成部15によってページ画像がつなげられて一枚画像が生成された際にも保持されていることが好適である。その際には、一枚画像に対応する情報として保持されていてもよく、あるいは、その一枚画像に含まれるページに対応する情報として保持されていてもよい。後者の方が好適であることは言うまでもない。   Various information may be associated with each page image. For example, information about a page of a book that is bound and bound to a bag in which each page image is captured may be associated with each page image. The information related to the page of a book bound by bookbinding may be, for example, the page number or the page number of another book corresponding to the page. In the latter case, the information related to the page of the book bound and bound may be information on a link to a corresponding page image of another book, for example. Thus, the information associated with each page image may be included in, for example, the header of each page image, or managed as being associated with the page image as other information. Also good. In addition, it is preferable that the information associated with each page image is retained even when the page image is connected by the image generation unit 15 described later to generate a single image. In that case, it may be held as information corresponding to a single image, or may be held as information corresponding to a page included in the single image. Needless to say, the latter is preferred.

画像記憶部13での記憶は、RAM等における一時的な記憶でもよく、あるいは、長期的な記憶でもよい。画像記憶部13は、所定の記録媒体(例えば、半導体メモリや磁気ディスク、光ディスクなど)によって実現されうる。   Storage in the image storage unit 13 may be temporary storage in a RAM or the like, or may be long-term storage. The image storage unit 13 can be realized by a predetermined recording medium (for example, a semiconductor memory, a magnetic disk, an optical disk, etc.).

位置決定部14は、第1ページ画像の二つ折りの側の辺と、第2ページ画像の二つ折りの側の辺とをつなげる位置を決定する。「辺と辺とをつなげる位置」とは、その辺の長さ方向の位置である。位置を決定するとは、例えば、第1ページ画像と第2ページ画像とを二つ折りの線上でつながるようにすることができる情報を特定することであってもよい。情報を特定するとは、例えば、その情報を図示しない記録媒体に蓄積することであってもよく、あるいは、その情報に対応付けてフラグ等を設定することであってもよい。その情報は、例えば、第1ページ画像を第2ページ画像に対してどれだけずらすのかを示す情報(あるいは、第1ページ画像と第2ページ画像とが逆でもよい)であってもよい。その特定する情報は、結果として両ページ画像をつなげるための位置が分かる情報であれば、その内容を問わない。例えば、第1ページ画像の二つ折りの側の辺と、第2ページ画像の二つ折りの側の辺との相対的な位置関係(例えば、相対的なずれの量)を示す情報であってもよく、あるいは、基準となる座標系における、第1ページ画像の二つ折りの側の辺の位置を示す情報と、第2ページ画像の二つ折りの側の辺の位置を示す情報とであってもよい。また、結果として両ページ画像の二つ折りの側の辺の位置関係が分かるのであれば、例えば、各辺上の点と点との位置関係を示す情報が特定されてもよい。   The position determination unit 14 determines a position at which the side of the first page image that is folded in half and the side of the second page image that is folded in half are connected. The “position where the sides are connected” is a position in the length direction of the side. Determining the position may be, for example, specifying information that can connect the first page image and the second page image on a folded line. Specifying information may be, for example, storing the information in a recording medium (not shown), or setting a flag or the like in association with the information. The information may be, for example, information indicating how much the first page image is shifted with respect to the second page image (or the first page image and the second page image may be reversed). The information to be specified does not matter as long as it is information indicating the position for connecting the two page images as a result. For example, even if the information indicates the relative positional relationship (for example, the amount of relative displacement) between the side of the first page image that is folded in two and the side of the second page image that is folded in half. Well, or even in the reference coordinate system, information indicating the position of the side of the first page image folded in half and information indicating the position of the side of the second page image folded in half Good. In addition, as a result, if the positional relationship between the two-fold sides of both page images is known, for example, information indicating the positional relationship between the points on each side may be specified.

位置決定部14は、例えば、一の紙の二つ折りにされた線上(すなわち、二つ折りの折り目の線上)に、両ページにまたがる図形が存在する場合に、第1ページ画像に含まれる図形の部分と、第2ページ画像に含まれる図形の部分とがつながるように、位置の決定を行ってもよい。本実施の形態では、この場合について説明する。なお、両ページにまたがる図形とは、例えば、両ページにまたがる文字などでもよく(この場合には、文字上で二つ折りにされていることになる)、その両ページを含む一の紙の番号を示す図形(ページ数に類似したもの)であってもよく、その他の図形であってもよい。この図形は、例えば、紙の番号のように目的を持って設けられたものであってもよく、文字のように偶然にその場所で二つ折りにされることによって両ページにまたがるようになったものであってもよい。また、位置決定部14は、第1ページ画像の二つ折りの側の辺の端点(例えば、書物の天側の端点、あるいは、書物の地側の端点)と、第2ページ画像の二つ折りの側の辺の端点(例えば、書物の天側の端点、あるいは、書物の地側の端点)とがつながるように、位置の決定を行ってもよい。書物の天とは、書物の三方の小口のうち、上の小口の部分である。また、書物の地とは、書物の三方の小口のうち、下の小口の部分である。小口とは、書物の背を除く三方のことであり、特に背の反対側のみを指すこともある。第1及び第2ページ画像の二つ折りの側の辺の端点を検出する方法としては、例えば、前述のようにして第1及び第2ページに対応する領域のみを切り出した後における、切り出された矩形形状における二つ折りの側の辺に対応する辺の両端点(矩形の頂点)を検出することによって行われてもよい。また、前述の基準点がその端点に設定されている場合には、第1及び第2撮影画像において検出した基準点に対応する第1及び第2ページ画像における点を特定することによって行われてもよい。また、あるページの角の部分が破れているような場合には、そのページの下側のページの角の部分を用いて第1ページ画像や第2ページ画像の二つ折りの側の辺の端点を検出するようにしてもよい。なぜなら、1ページ分だけ下のページであっても、二つ折りの側の辺の端点の位置はほぼ同じであると考えられるからである。   For example, when there is a figure that spans both pages on a line that is folded in two on one paper (that is, on the line of the folded fold), the position determination unit 14 selects the figure included in the first page image. The position may be determined so that the portion and the graphic portion included in the second page image are connected. In this embodiment, this case will be described. The figure extending over both pages may be, for example, a character that extends over both pages (in this case, it is folded in half on the character), and the number of one paper that includes both pages. The figure may be a figure (similar to the number of pages) or other figure. This figure, for example, may be provided with a purpose such as a paper number, and it is spread across both pages by accidentally being folded in half like that of a character. It may be a thing. In addition, the position determination unit 14 folds the end point of the side of the first page image that is folded in half (for example, the end point on the top side of the book or the end point on the side of the book) and the second page image. The position may be determined so as to be connected to the end point of the side (for example, the end point on the top side of the book or the end point on the ground side of the book). The heaven of a book is the top of the book's three sides. In addition, the book ground is the lower part of the three sides of the book. The forehead is the three sides of the book, except for the back of the book. As a method for detecting the end points of the two-fold sides of the first and second page images, for example, as described above, after the regions corresponding to the first and second pages are cut out, they are cut out The detection may be performed by detecting both end points (rectangular vertices) of the side corresponding to the side of the half-fold in the rectangular shape. In addition, when the above-mentioned reference point is set as the end point, it is performed by specifying a point in the first and second page images corresponding to the reference point detected in the first and second captured images. Also good. In addition, when a corner portion of a page is torn, the end point of the side of the first page image or the second page image that is folded in half using the corner portion of the lower page of the page. May be detected. This is because the position of the end point on the side of the folded side is considered to be substantially the same even for a page that is lower by one page.

本実施の形態による位置決定部14は、上述のように、両ページにまたがる図形を用いて第1及び第2ページ画像をつなげる位置を決定するものであり、図2で示されるように、位置関係変更手段21と、類似情報算出手段22と、類似情報記憶手段23と、位置関係特定手段24とを備える。   As described above, the position determination unit 14 according to the present embodiment determines a position where the first and second page images are connected using a graphic that spans both pages. As illustrated in FIG. A relationship changing unit 21, a similar information calculating unit 22, a similar information storing unit 23, and a positional relationship specifying unit 24 are provided.

位置関係変更手段21は、第1ページ画像の二つ折りの側の辺上の画素列と、第2ページ画像の二つ折りの側の辺上の画素列との辺方向の位置関係を変更する。位置関係変更手段21は、二つ折りの側の辺上のすべての画素列の位置関係を変更してもよく、あるいは、一部の位置関係を変更してもよい。位置関係を変更するとは、両画素列を順番にずらしていくことである。具体的には、位置関係変更手段21は、両画素列のずれを示す量(本実施の形態では「ε」とする)を決定して、図示しない記録媒体に蓄積することであってもよい。   The positional relationship changing means 21 changes the positional relationship in the side direction between the pixel row on the side of the first page image that is folded in two and the pixel row on the side of the second page image that is folded in half. The positional relationship changing means 21 may change the positional relationship of all the pixel columns on the side that is folded in half, or may change a partial positional relationship. Changing the positional relationship means shifting both pixel columns in order. Specifically, the positional relationship changing means 21 may determine an amount indicating “deviation” between both pixel columns (in this embodiment, “ε”) and store it in a recording medium (not shown). .

類似情報算出手段22は、位置関係変更手段21が位置関係を変更した両画素列の類似性に関する情報である類似情報を算出する。類似情報算出手段22は、位置関係変更手段21が位置関係を変更した複数の位置関係の両画素列の類似情報を算出するものとする。好適には、類似情報算出手段22は、位置関係変更手段21が両画素列の位置関係を少しずつ(例えば、1画素ずつ)変更していくごとに、両画素列の類似情報を算出してもよい。なお、位置関係変更手段21が位置関係を変更する前の両ページ画像の位置関係が決まっているような場合には、類似情報算出手段22は、その位置関係における両画素列の類似情報を算出してもよい。   The similarity information calculation unit 22 calculates similarity information that is information related to the similarity between both pixel columns whose positional relationship has been changed by the positional relationship change unit 21. It is assumed that the similarity information calculation unit 22 calculates the similarity information of both pixel columns having a plurality of positional relationships whose positional relationship change unit 21 has changed the positional relationship. Preferably, the similarity information calculating unit 22 calculates the similarity information of both pixel columns each time the positional relationship changing unit 21 changes the positional relationship between both pixel columns little by little (for example, one pixel at a time). Also good. When the positional relationship between both page images before the positional relationship changing unit 21 changes the positional relationship is determined, the similar information calculating unit 22 calculates the similar information of both pixel columns in the positional relationship. May be.

なお、類似情報は、その値の大きい方が類似性の高くなる情報であってもよく、その値の小さい方が類似性の高くなる情報であってもよい。すなわち、類似情報は、結果として類似しているかどうかが分かる情報であれば、例えば、類似度であってもよく、相異度であってもよい。また、類似情報算出手段22は、両画素列の輝度に関する情報を用いて類似情報を算出してもよく、両画素列のRGBの各色の階調を用いて類似情報を算出してもよく、両画素列の色に関する情報(例えば、色相や彩度の情報であってもよい)を用いて類似情報を算出してもよい。   Note that the similarity information may be information having a higher similarity when the value is larger, or information having a higher similarity when the value is smaller. That is, the similarity information may be, for example, a similarity degree or a difference degree as long as it is information indicating whether or not they are similar as a result. Further, the similar information calculation means 22 may calculate similar information using information regarding the luminance of both pixel columns, may calculate similar information using gradations of RGB colors of both pixel columns, Similar information may be calculated using information on the colors of both pixel columns (for example, information on hue and saturation).

類似情報算出手段22は、算出した類似情報を類似情報記憶手段23に蓄積する。なお、類似情報算出手段22は、類似情報を、その類似情報を算出した時点における両画素列の位置関係を示す情報(例えば、上述したεの値)に対応付けて蓄積してもよい。   The similar information calculation unit 22 accumulates the calculated similar information in the similar information storage unit 23. Note that the similar information calculation unit 22 may store the similar information in association with information (for example, the value of ε described above) indicating the positional relationship between the two pixel columns at the time when the similar information is calculated.

類似情報記憶手段23では、類似情報算出手段22が蓄積した類似情報が記憶される。前述のように、その類似情報は、類似情報が算出された時点における、第1及び第2ページ画像の二つ折りの側の辺上の両画素列の位置関係を示す情報に対応付けられて記憶されていてもよい。類似情報記憶手段23での記憶は、RAM等における一時的な記憶でもよく、あるいは、長期的な記憶でもよい。類似情報記憶手段23は、所定の記録媒体(例えば、半導体メモリや磁気ディスク、光ディスクなど)によって実現されうる。   The similar information storage unit 23 stores the similar information accumulated by the similar information calculation unit 22. As described above, the similar information is stored in association with the information indicating the positional relationship between the two pixel columns on the two-fold side of the first and second page images when the similar information is calculated. May be. The storage in the similar information storage means 23 may be temporary storage in a RAM or the like, or may be long-term storage. The similar information storage means 23 can be realized by a predetermined recording medium (for example, a semiconductor memory, a magnetic disk, an optical disk, etc.).

位置関係特定手段24は、類似情報によって類似性が最も高くなる両画素列の位置関係を特定する。類似情報記憶手段23において類似情報と、その類似情報に対応する位置関係を示す情報とが記憶されている場合に、位置関係特定手段24は、例えば、最も高い類似性を示す類似情報(通常、最も大きい値となるか、最も小さい値となる)に対応する位置関係を示す情報を特定してもよい。位置関係を示す情報を特定するとは、例えば、その情報を図示しない記録媒体に蓄積することであってもよく、あるいは、その情報に対応付けてフラグ等を設定することであってもよい。このようにして特定された両画素列の位置関係が、第1ページ画像の二つ折りの側の辺と、第2ページ画像の二つ折りの側の辺とをつなげる位置関係となる。   The positional relationship specifying unit 24 specifies the positional relationship between the two pixel columns having the highest similarity according to the similar information. When the similar information and the information indicating the positional relationship corresponding to the similar information are stored in the similar information storage unit 23, the positional relationship specifying unit 24, for example, uses the similar information indicating the highest similarity (usually, Information indicating a positional relationship corresponding to the largest value or the smallest value may be specified. Specifying information indicating the positional relationship may be, for example, storing the information in a recording medium (not shown) or setting a flag or the like in association with the information. The positional relationship between the two pixel columns identified in this way is a positional relationship connecting the side of the first page image that is folded in two and the side of the second page image that is folded in half.

画像生成部15は、位置決定部14が決定した位置によって、第1ページ画像の二つ折りの側の辺と、第2ページ画像の二つ折りの側の辺とつなげることによって、袋とじ製本された一の紙に対応する画像である一枚画像を生成する。画像生成部15は、例えば、第1ページ画像のファイルと、第2ページ画像のファイルとを用いて、一枚画像の一のファイルを生成してもよい。なお、一枚画像は、結果として第1ページ及び第2ページの両方をそれぞれの二つ折りの側の辺でつなげた画像となるのであれば、データの形式を問わない。一枚画像は、例えば、前述のように一のファイルであってもよく、あるいは、第1ページ画像と、第2ページ画像と、両画像を適切につなげるための情報とから構成されてもよい。両画像を適切につなげるための情報は、両ページ画像をリンクすることによって、両画像を適切につなげる情報であってもよい。   According to the position determined by the position determination unit 14, the image generation unit 15 is bound to the bag by binding the half-fold side of the first page image and the half-fold side of the second page image. A single image that is an image corresponding to one paper is generated. The image generation unit 15 may generate one file of a single image using, for example, a first page image file and a second page image file. Note that the data format of the single image is not limited as long as it results in an image in which both the first page and the second page are connected by the sides of the two folded sides. For example, the single image may be a single file as described above, or may be composed of a first page image, a second page image, and information for appropriately connecting the two images. . The information for appropriately connecting both images may be information for appropriately connecting both images by linking both page images.

また、画像生成部15は、第1ページ画像の二つ折りの側の辺と、第2ページ画像の二つ折りの側の辺とが、一枚画像の中心線となるように一枚画像を生成してもよい。このようにすることで、その一枚画像をプリントして中心線で二つ折りにすることによって、第1及び第2ページ画像に対応する第1及び第2撮影画像が撮影された書物と同様の書物を製作することができるようになる。なお、この場合に、結果として、画像生成部15が、第1ページ画像の二つ折りの側の辺と、第2ページ画像の二つ折りの側の辺とが、一枚画像の中心線となる一枚画像を生成するのであれば、その過程は問わない。例えば、画像生成部15が第1及び第2ページ画像をつなげた後に、各ページ画像の二つ折りの側の辺が中心線となるように画像を切り抜いたり、あるいは、余白を足したりしてもよい。あるいは、画像補正部12がページ画像を生成する際の切り抜きにおいて、あらかじめ書物の各ページに対応した縦横比や縦横の長さで切り抜いておくことにより、第1及び第2ページ画像の二つ折りの側の辺をつないだ画像において、その画像の中心線上に二つ折りの線が自動的に位置するようにしてもよい。   In addition, the image generation unit 15 generates a single image so that the side of the first page image that is folded in two and the side of the second page image that is folded in half are the center line of the single image. May be. By doing so, the same image as the book in which the first and second photographed images corresponding to the first and second page images are photographed by printing the one image and folding it in half at the center line. You will be able to make books. In this case, as a result, the image generation unit 15 has the half-fold side of the first page image and the half-fold side of the second page image as the center line of the single image. The process is not particularly limited as long as a single image is generated. For example, after the image generation unit 15 connects the first and second page images, the image may be clipped so that the side of each page image that is folded in half becomes the center line, or a margin may be added. Good. Alternatively, in the cropping when the image correction unit 12 generates the page image, the first and second page images are folded in half by cutting in advance in the aspect ratio and the length and width corresponding to each page of the book. In an image in which the sides are connected, a fold line may be automatically positioned on the center line of the image.

なお、第1ページ画像と、第2ページ画像との倍率(縮尺)が異なっている場合には、画像生成部15は、第1及び第2ページ画像の一方、あるいは、両方を拡大・縮小して一枚画像を生成してもよい。また、画像生成部15は、第1ページ画像と、第2ページ画像とをつなげることによって、二つ折りの線上において段差が生じる場合には、例えば、一枚画像の形状を、一方のページの辺(二つ折りの辺と直行する辺である)を延ばした矩形にしてもよく、その他の位置における矩形にしてもよい(この処理については、図14を用いて後述する)。   When the magnification (scale) of the first page image is different from that of the second page image, the image generation unit 15 enlarges / reduces one or both of the first and second page images. A single image may be generated. In addition, when the first page image and the second page image are connected to form a step on the folded line, the image generation unit 15 changes the shape of one image to the side of one page, for example. It may be a rectangle that extends (a side that is perpendicular to the fold-folded side) or a rectangle at another position (this process will be described later with reference to FIG. 14).

画像出力部16は、画像生成部15が生成した一枚画像を出力する。ここで、この出力は、例えば、表示デバイス(例えば、CRTや液晶ディスプレイなど)への表示でもよく、所定の機器への通信回線を介した送信でもよく、プリンタによる印刷でもよく、記録媒体への蓄積でもよく、他の構成要素への引き渡しでもよい。なお、画像出力部16は、出力を行うデバイス(例えば、表示デバイスやプリンタなど)を含んでもよく、あるいは含まなくてもよい。また、画像出力部16は、ハードウェアによって実現されてもよく、あるいは、それらのデバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。   The image output unit 16 outputs the single image generated by the image generation unit 15. Here, the output may be, for example, display on a display device (for example, a CRT or a liquid crystal display), transmission via a communication line to a predetermined device, printing by a printer, or output to a recording medium. It may be accumulated or delivered to another component. The image output unit 16 may or may not include an output device (for example, a display device or a printer). The image output unit 16 may be realized by hardware, or may be realized by software such as a driver that drives these devices.

なお、画像記憶部13と、類似情報記憶手段23とは、同一の記録媒体によって実現されてもよく、あるいは、別々の記録媒体によって実現されてもよい。前者の場合には、ページ画像を記憶している領域が画像記憶部13となり、類似情報を記憶している領域が類似情報記憶手段23となる。   Note that the image storage unit 13 and the similar information storage unit 23 may be realized by the same recording medium, or may be realized by separate recording media. In the former case, the area storing the page image is the image storage unit 13, and the area storing the similar information is the similar information storage means 23.

次に、本実施の形態による画像生成装置1の動作について、図3のフローチャートを用いて説明する。   Next, the operation of the image generation apparatus 1 according to the present embodiment will be described using the flowchart of FIG.

(ステップS101)画像受付部11は、撮影画像を受け付けたかどうか判断する。そして、撮影画像を受け付けた場合には、ステップS102に進み、そうでない場合には、ステップS104に進む。   (Step S101) The image reception unit 11 determines whether a captured image has been received. If a captured image is received, the process proceeds to step S102. If not, the process proceeds to step S104.

(ステップS102)画像補正部12は、受け付けられた撮影画像について補正を行うことによって、ページ画像を生成する。   (Step S <b> 102) The image correction unit 12 generates a page image by correcting the accepted captured image.

(ステップS103)画像補正部12は、生成したページ画像を画像記憶部13に蓄積する。そして、ステップS101に戻る。   (Step S <b> 103) The image correction unit 12 accumulates the generated page image in the image storage unit 13. Then, the process returns to step S101.

(ステップS104)画像生成部15は、一枚画像を生成する処理を行うかどうか判断する。そして、生成する処理を行う場合には、ステップS105に進み、そうでない場合には、ステップS101に戻る。なお、画像生成部15は、例えば、一枚画像を生成する処理を行う旨の指示を画像生成装置1が受け付けた場合に、一枚画像を生成する処理を行うと判断してもよく、その他のタイミングで一枚画像を生成する処理を行うと判断してもよい。   (Step S104) The image generation unit 15 determines whether or not to perform processing for generating a single image. And when performing the production | generation process, it progresses to step S105, and when that is not right, it returns to step S101. Note that the image generation unit 15 may determine that the process of generating a single image is performed when the image generation apparatus 1 receives an instruction to perform the process of generating a single image, for example. It may be determined that the process of generating a single image is performed at the timing.

(ステップS105)画像生成部15は、画像記憶部13において、組となる2個のページ画像、すなわち、第1ページ画像及び第2ページ画像が記憶されているかどうか判断する。そして、記憶されている場合には、ステップS106に進み、そうでない場合には、一枚画像を生成することはできないのでステップS101に戻る。   (Step S <b> 105) The image generation unit 15 determines whether or not two page images to be paired, that is, the first page image and the second page image are stored in the image storage unit 13. If it is stored, the process proceeds to step S106. Otherwise, the single image cannot be generated, and the process returns to step S101.

(ステップS106)位置決定部14は、一枚画像を生成する元になる第1及び第2ページ画像の二つ折りの側の辺をつなげる位置を決定する。この処理の詳細については、図4のフローチャートを用いて後述する。   (Step S106) The position determination unit 14 determines a position where the sides of the first and second page images that are the basis for generating a single image are connected to each other. Details of this processing will be described later with reference to the flowchart of FIG.

(ステップS107)画像生成部15は、位置決定部14が決定した位置によって第1及び第2ページ画像をつなげることによって、一枚画像を生成する。   (Step S <b> 107) The image generation unit 15 generates a single image by connecting the first and second page images according to the position determined by the position determination unit 14.

(ステップS108)画像出力部16は、画像生成部15が生成した一枚画像を出力する。そして、ステップS101に戻る。   (Step S108) The image output unit 16 outputs the single image generated by the image generation unit 15. Then, the process returns to step S101.

なお、図3のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。また、画像受付部11が2以上の撮影画像を受け付けた場合には、画像補正部12は、ステップS102,S103の処理を撮影画像の数だけ繰り返して実行するものとする。   In the flowchart of FIG. 3, the process ends when the power is turned off or the process is terminated. When the image receiving unit 11 receives two or more captured images, the image correcting unit 12 repeats the processes in steps S102 and S103 for the number of captured images.

また、画像記憶部13において、2個のページ画像の組が2以上存在する場合には、ページ画像の各組についてステップS106,S107の処理を繰り返して2以上の一枚画像を生成し、ステップS108において、その2以上の一枚画像を出力してもよい。   If there are two or more sets of page images in the image storage unit 13, the process of steps S106 and S107 is repeated for each set of page images to generate two or more single images. In S108, the two or more single images may be output.

図4は、図3のフローチャートにおける位置の決定(ステップS106)の処理の詳細を示すフローチャートである。   FIG. 4 is a flowchart showing details of position determination (step S106) in the flowchart of FIG.

(ステップS201)位置関係変更手段21は、第1及び第2ページ画像における二つ折りの側の辺上のそれぞれの画素列について、図形の範囲を検出する。図形の範囲とは、両ページにまたがっている図形に対応する範囲である。この範囲の検出は、例えば、各画素列において、輝度がしきい値よりも暗い画素を特定し、その特定した画素のうちの最も天の側の画素から、最も地の側の画素までの範囲を検出することによって行ってもよい。そのしきい値は、あらかじめ決められていてもよく、あるいは、各画素列における輝度の平均値や中間値などであってもよい。   (Step S201) The positional relationship changing means 21 detects a figure range for each pixel row on the side of the two-fold side in the first and second page images. The range of a figure is a range corresponding to a figure that spans both pages. The detection of this range is performed by, for example, specifying a pixel whose luminance is darker than a threshold value in each pixel row, and a range from the most celestial pixel to the most ground pixel among the specified pixels. It may be performed by detecting. The threshold value may be determined in advance, or may be an average value or an intermediate value of luminance in each pixel column.

(ステップS202)位置関係変更手段21は、両画素列の位置関係、すなわち、ずれの量(画素数)を示すεを、初期値に設定する。ここで、その初期値とは、ステップS201で検出した第1ページ画像における図形の範囲(これを「第1図形の範囲」と呼ぶ)の天側の端点と、第2ページ画像における図形の範囲(これを「第2図形の範囲」と呼ぶ)の地側の端点とを一致させる場合のずれの量、あるいは、第1図形の範囲の地側の端点と、第2図形の範囲の天側の端点とを一致させる場合のずれの量のどちらであってもよい。   (Step S202) The positional relationship changing means 21 sets the positional relationship between both pixel columns, that is, ε indicating the amount of deviation (number of pixels) to an initial value. Here, the initial value is the top end point of the graphic range (referred to as “first graphic range”) in the first page image detected in step S201, and the graphic range in the second page image. The amount of deviation when matching the ground-side end point of this (referred to as "second graphic range"), or the ground-side end point of the first graphic range and the top side of the second graphic range Either of the amounts of deviation in the case of matching with the end point of may be used.

(ステップS203)類似情報算出手段22は、その時点のεで示される両画素列の位置関係における類似情報を算出する。   (Step S203) The similar information calculation means 22 calculates similar information in the positional relationship between both pixel columns indicated by ε at that time.

(ステップS204)類似情報算出手段22は、その算出した類似情報を、その時点のεの値に対応付けて類似情報記憶手段23に蓄積する。   (Step S204) The similar information calculation means 22 stores the calculated similar information in the similar information storage means 23 in association with the value of ε at that time.

(ステップS205)位置関係変更手段21は、εの値を1だけインクリメント、あるいは、デクリメントする。εが初期値の状態から、第1及び第2図形の範囲の重なりが大きい方に両画素列の位置関係を変更した際に、εが大きくなる場合には、このステップにおいて、εの値を1だけインクリメントする。一方、εが初期値の状態から、第1及び第2図形の範囲の重なりが大きい方に両画素列の位置関係を変更した際に、εが小さくなる場合には、このステップにおいて、εの値を1だけデクリメントする。   (Step S205) The positional relationship changing means 21 increments or decrements the value of ε by 1. If ε increases when the positional relationship between the two pixel columns is changed from the state where ε is the initial value to the one where the overlap between the ranges of the first and second figures is larger, in this step, the value of ε is set to Increment by one. On the other hand, if ε becomes smaller when the positional relationship between the two pixel columns is changed from the state where ε is the initial value to the one where the overlap between the ranges of the first and second figures is larger, in this step, Decrement the value by 1.

(ステップS206)位置関係変更手段21は、その時点のεで示される位置関係において、第1図形の範囲及び第2図形の範囲に重なりがあるかどうか判断する。そして、重なりがある場合には、ステップS203に戻り、そうでない場合には、ステップS207に進む。   (Step S206) The positional relationship changing means 21 determines whether or not there is an overlap between the range of the first graphic and the range of the second graphic in the positional relationship indicated by ε at that time. If there is an overlap, the process returns to step S203, and if not, the process proceeds to step S207.

(ステップS207)位置関係特定手段24は、類似性の最も高いεを特定する。例えば、位置関係特定手段24は、類似情報記憶手段23で記憶されているεと類似情報との組を類似情報の類似性が降順となるようにソートし、そのソート後の最初のεと類似情報との組に含まれるεである類似性の最も高いεを特定してもよい。そして、図3のフローチャートに戻る。   (Step S207) The positional relationship specifying unit 24 specifies ε having the highest similarity. For example, the positional relationship specifying unit 24 sorts the pairs of ε and similar information stored in the similar information storage unit 23 so that the similarity of the similar information is in descending order, and is similar to the first ε after the sorting. You may specify the epsilon with the highest similarity which is the epsilon included in a set with information. And it returns to the flowchart of FIG.

なお、図4のフローチャートにおいて、図形の範囲を検出した上で類似情報の算出等を行う場合について説明したが、図形の範囲を検出しないで、類似情報の算出等を行ってもよい。その場合には、各画素列のすべての画素を用いて類似情報の算出等を行うことになる。   In the flowchart of FIG. 4, the case where the similar information is calculated after detecting the graphic range has been described. However, the similar information may be calculated without detecting the graphic range. In that case, similar information is calculated using all the pixels in each pixel column.

次に、本実施の形態による画像生成装置1の動作について、具体例を用いて説明する。
図5は、袋とじ製本された書物30の一例を示す図である。図5で示されるように、その書物は、一の紙が二つ折りされて袋状になった方を小口として背側を綴じる方法である。例えば、和綴じの書物や、簡易製本の書物などにおいてみることができる。
Next, the operation of the image generation apparatus 1 according to the present embodiment will be described using a specific example.
FIG. 5 is a diagram illustrating an example of a book 30 that is bound into a bag. As shown in FIG. 5, the book is a method of binding the back side of a piece of paper that is folded in half into a bag shape. For example, it can be seen in a Japanese-style book or a simple bookbinding book.

まず、ユーザは、図6で示されるように、書物30を開いた状態でページごとにデジタルカメラ31で撮影していく。その撮影の際に、図7で示されるように、各ページの上に5個の基準図形の表示された透明シート40を載せて撮影するものとする。各基準図形の十字の交わる点が基準点である。なお、図7において、第1ページ41に記載されている文字等は説明の便宜上、省略している。また、それらの基準図形は、図7で示されるように、各ページにおいてできるだけ均等に配置されるようにすることが好適である。また、図7において、上記特許文献1に記載されているように、各基準図形上に半透明基準点位置認識体をおくことによって、基準図形を認識しやすいようにしてもよい。その半透明基準点位置認識体は、例えば、半透明のカラーマークであってもよい。   First, as shown in FIG. 6, the user takes a picture with the digital camera 31 for each page with the book 30 opened. At the time of photographing, as shown in FIG. 7, it is assumed that a transparent sheet 40 on which five reference figures are displayed is placed on each page for photographing. The point where the crosses of each reference figure intersect is the reference point. In FIG. 7, characters and the like described on the first page 41 are omitted for convenience of explanation. Further, as shown in FIG. 7, it is preferable that these reference graphics are arranged as evenly as possible on each page. In FIG. 7, as described in Patent Document 1, a reference figure may be easily recognized by placing a translucent reference point position recognition body on each reference figure. The translucent reference point position recognition body may be a translucent color mark, for example.

デジタルカメラ31での撮影が終了すると、ユーザは、デジタルカメラ31からメモリを取り出し、そのメモリを画像生成装置1に装着する。すると、画像受付部11は、そのメモリから撮影された第1撮影画像「IMG_00102」、第2撮影画像「IMG_00103」を読み出し、画像補正部12に渡す(ステップS101)。なお、この具体例では、説明の便宜上、2個の撮影画像のみが受け付けられた場合について説明する。   When shooting with the digital camera 31 is completed, the user takes out the memory from the digital camera 31 and attaches the memory to the image generation apparatus 1. Then, the image reception unit 11 reads the first captured image “IMG — 00102” and the second captured image “IMG — 00103” captured from the memory, and passes them to the image correction unit 12 (step S101). In this specific example, a case where only two captured images are received will be described for convenience of explanation.

また、この具体例では、撮影画像のファイル名が若いものから順番に、2個単位で組になっているものとする。また、その2個単位の撮影画像のうち、ファイル名が若い方の撮影画像では、二つ折りの側が左であり、もう一方の撮影画像では、二つ折りの側が右であるとする。   Further, in this specific example, it is assumed that the file names of captured images are grouped in units of two in order from the youngest. Further, of the two units of captured images, it is assumed that the half-folded side is left in the photographed image with the younger file name, and the half-folded side is right in the other captured image.

画像補正部12は、第1撮影画像の基準点を検出し、その5個の基準点を用いた補正を行うことによって、撮影方向に関する補正を行う。その結果、図8で示されるような画像を得ることができる。また、画像補正部12は、前述のようにして、ページ領域のみを切り抜いて図9で示されるような第1ページ画像43を生成する(ステップS102)。そして、その第1ページ画像43を画像記憶部13に蓄積する(ステップS103)。なお、画像補正部12は、第2ページの第2撮影画像についても同様の処理を行い(ステップS102)、図10で示される第2ページ画像44を画像記憶部13に蓄積する(ステップS103)。なお、図9の第1ページ画像43の二つ折りの側の辺(左側の辺)に存在する図形と、図10の第2ページ画像44の二つ折りの側の辺(右側の辺)に存在する図形とは、第1及び第2ページ画像43,44によって構成される一の紙の二つ折りにされた線上に表示されている番号の図形、すなわち、漢数字の二を丸で囲った図形である。   The image correction unit 12 detects a reference point of the first captured image and performs correction using the five reference points, thereby correcting the shooting direction. As a result, an image as shown in FIG. 8 can be obtained. Further, as described above, the image correction unit 12 cuts out only the page area and generates the first page image 43 as shown in FIG. 9 (step S102). Then, the first page image 43 is stored in the image storage unit 13 (step S103). The image correcting unit 12 performs the same process for the second captured image of the second page (step S102), and accumulates the second page image 44 shown in FIG. 10 in the image storage unit 13 (step S103). . It should be noted that the figure present on the side of the first page image 43 in FIG. 9 (left side) and the side of the second page image 44 in FIG. The figure to be displayed is the figure of the number displayed on the half-folded line of one paper composed of the first and second page images 43, 44, that is, the figure in which two Chinese numerals are circled. It is.

次に、ユーザが、マウスやキーボードなどの入力デバイスを操作することにより、一枚画像を生成する処理を実行する旨の指示を入力したとする。すると、画像生成部15は、一枚画像を生成するタイミングであると判断し(ステップS104)、画像記憶部13に組となる2個のページ画像が存在するかどうか判断する(ステップS105)。この場合には、第1及び第2ページ画像43,44が記憶されているため、画像生成部15は、組となる2個のページ画像が存在すると判断し、位置決定部14に位置を決定する処理を実行するように指示する。   Next, it is assumed that the user inputs an instruction to execute a process for generating a single image by operating an input device such as a mouse or a keyboard. Then, the image generation unit 15 determines that it is time to generate a single image (step S104), and determines whether there are two page images to be paired in the image storage unit 13 (step S105). In this case, since the first and second page images 43 and 44 are stored, the image generation unit 15 determines that there are two page images to be paired, and determines the position in the position determination unit 14. To execute the process to be executed.

その指示に応じて、位置決定部14は、位置を決定する処理を実行する(ステップS106)。なお、第1ページ画像43の二つ折りの側の辺上の画素列と、第2ページ画像44の二つ折りの側の辺上の画素列とが図11で示されるようになっていたとする。なお、説明の便宜上、画素数が非常に少なく、また、各画素が白黒の二値である場合について示しているが、本来はもっと多くの画素が各画素列に含まれている。また、各画素は、階調を有していてもよく、あるいは、カラーであってもよい(例えば、RGBのそれぞれについての階調を有していてもよい。   In response to the instruction, the position determination unit 14 executes processing for determining the position (step S106). It is assumed that the pixel row on the half-fold side of the first page image 43 and the pixel row on the half-fold side of the second page image 44 are as shown in FIG. For convenience of explanation, the case where the number of pixels is very small and each pixel is a monochrome binary is shown, but more pixels are originally included in each pixel column. Each pixel may have a gradation or may be a color (for example, each pixel may have a gradation for RGB).

まず、位置決定部14の位置関係変更手段21は、各画素列について、図形の範囲を検出する(ステップS201)。具体的には、位置関係変更手段21は、各画素列について、地側の端点から順番に黒の画素であるかどうか判断していき、黒の画素となった場合に、その画素を図形の範囲の地側の端点に設定する。ある画素を図形の範囲の地側の端点に設定するとは、その画素を特定可能な情報(アドレス)を、図示しない記録媒体の地側の端点を特定する情報を格納する領域に蓄積することであってもよい。また、位置関係変更手段21は、さらに天側に向かって順番に黒の画素であるかどうか判断していき、黒の画素となった場合に、その画素を図形の範囲の天側の端点に設定する。なお、その後にもさらに天側に向かって順番に判断を続けていき、黒の画素が存在した場合には、その画素を図形の範囲の天側の端点に設定し直す。そして、天側の端点の画素までこの判断を実行する。このようにして、図形の範囲の地側の端点と天側の端点とを特定することができ、その地側の端点から天側の端点までが図形の範囲となる。図11では、図中に記載しているように図形の範囲が検出されたものとする。   First, the positional relationship changing unit 21 of the position determining unit 14 detects a figure range for each pixel column (step S201). Specifically, the positional relationship changing unit 21 determines whether or not each pixel column is a black pixel in order from the end point on the ground side. Set to the ground end point of the range. Setting a pixel as an end point on the ground side of a graphic range means that information (address) that can identify the pixel is accumulated in an area for storing information that specifies an end point on the ground side of a recording medium (not shown). There may be. Further, the positional relationship changing means 21 further determines whether or not the pixel is a black pixel in order toward the top side, and when it becomes a black pixel, the pixel is set as the top end point of the figure range. Set. In addition, after that, the determination is continued in order toward the top side, and if a black pixel exists, the pixel is reset to the top end point of the figure range. Then, this determination is performed up to the pixel at the end point on the top side. In this way, it is possible to specify the end point on the ground side and the end point on the top side of the figure range, and the range from the end point on the ground side to the end point on the top side becomes the range of the figure. In FIG. 11, it is assumed that the figure range is detected as described in the figure.

なお、この具体例では、第1ページ画像43の画素列が、第2ページ画像44の画素列に対して天側(図11の右側)にずれている画素数をεとする。また、この具体例では、両図形の範囲が重なりを有する場合におけるεの最大値を初期値とする。したがって、位置関係変更手段21は、第1ページ画像43の画素列の地側の端点と、第2ページ画像44の画素列の天側の端点とが重なる状態でのεの値「5」を算出し、その値をεの初期値に設定する(ステップS202)。   In this specific example, the pixel number of the first page image 43 shifted from the pixel column of the second page image 44 to the top (right side in FIG. 11) is ε. In this specific example, the maximum value of ε when the ranges of both figures have an overlap is set as the initial value. Therefore, the positional relationship changing unit 21 sets the value ε “5” in a state where the end point on the ground side of the pixel column of the first page image 43 and the end point on the top side of the pixel column of the second page image 44 overlap. The calculated value is set as the initial value of ε (step S202).

また、この具体例では、類似情報として、相異度を用いるものとする。すなわち、類似情報の示す値の小さい方が類似性が高いことになる。相異度は、次式で算出するものとする。
相異度=Σ{(L1)−(L2)
In this specific example, the degree of difference is used as the similarity information. That is, the smaller the value indicated by the similar information, the higher the similarity. The difference degree is calculated by the following equation.
Degree of difference = Σ i {(L1) i − (L2) i } 2

なお、iは、その時点のεの値だけずれた状態での両図形の範囲の地側の端点を1として、天側に1画素ずれるごとに1だけインクリメントされる値である。このiによって画素の位置が指定されることになる。したがって、和(Σ)におけるiの上限は、その時点のεの値だけずれた状態での両図形の範囲の天側の端点に対応する値となる。また、(L1)は、iで特定される画素での第1ページ画像43の画素列の値である。黒の画素であれば、
(L1)=1となり、白の画素であれば、(L1)=0となるものとする。また、(L2)は、iで特定される画素での第2ページ画像44の画素列の値である。黒の画素であれば、
(L2)=1となり、白の画素であれば、(L2)=0となるものとする。また、図形の範囲外における(L1)、(L2)の値は「0」であるとする。
Note that i is a value that is incremented by 1 every time one pixel is shifted to the top side, assuming that the end point on the ground side of the range of both figures in a state shifted by the value of ε at that time is 1. This i designates the position of the pixel. Therefore, the upper limit of i in the sum (Σ) is a value corresponding to the top end point of the range of both figures in a state shifted by the value of ε at that time. Further, (L1) i is the value of the pixel column of the first page image 43 at the pixel specified by i. If it ’s a black pixel,
(L1) i = 1, and if it is a white pixel, (L1) i = 0. (L2) i is the value of the pixel column of the second page image 44 at the pixel specified by i. If it ’s a black pixel,
(L2) i = 1, and if it is a white pixel, (L2) i = 0. Further, it is assumed that the values of (L1) i and (L2) i outside the figure range are “0”.

すると、図12で示されるように、εが初期値「5」に設定されているときには、類似情報算出手段22は、類似情報である相異度「6」を算出し(ステップS203)、ε=5に対応付けて類似情報記憶手段23に蓄積する(ステップS204)。また、位置関係変更手段21は、εを1だけデクリメントし(ステップS205)、その場合にも図形の範囲に重なりがあると判断する(ステップS206)。具体的には、第1ページ画像43の図形の範囲の天側の端点、あるいは、地側の端点が、第2ページ画像44の図形の範囲のいずれかの画素と同じ位置となる場合に、重なりがあると判断し、そうでない場合に、重なりがないと判断してもよい。第1ページ画像43と、第2ページ画像とは逆であってもよい。   Then, as shown in FIG. 12, when ε is set to the initial value “5”, the similar information calculation means 22 calculates the degree of difference “6” which is similar information (step S203). = 5 and stored in the similar information storage unit 23 (step S204). Further, the positional relationship changing means 21 decrements ε by 1 (step S205), and in that case also determines that there is an overlap in the figure range (step S206). Specifically, when the top end point of the graphic range of the first page image 43 or the end point of the ground side is at the same position as any pixel in the graphic range of the second page image 44, It may be determined that there is an overlap, and if not, it may be determined that there is no overlap. The first page image 43 and the second page image may be reversed.

その後、図12で示されるように、各位置関係において相異度である類似情報の算出や、蓄積、εのデクリメントが繰り返して実行されることになる(ステップS203〜S206)。そして最終的に、類似情報記憶手段23では、図13で示される情報が記憶されるようになったとする。   Thereafter, as shown in FIG. 12, the calculation, accumulation, and decrement of similarity information that is the degree of difference in each positional relationship are repeatedly executed (steps S203 to S206). Finally, it is assumed that the information shown in FIG. 13 is stored in the similar information storage unit 23.

位置関係特定手段24は、図13の情報において、各レコードを類似情報(相異度)の昇順となるように、すなわち、類似性の降順となるようにソートし、類似情報(相異度)の最も小さいレコードの位置関係を示すε=「−3」を図示しない記録媒体に蓄積する(ステップS207)。すると、画像生成部15は、そのεの値「−3」を読み出し、図9の第1ページ画像43と、図10の第2ページ画像44とを、第1ページ画像を地側に3画素分だけ移動させた位置でつなぎ合わせる(ステップS107)。なお、そのままつなぎ合わせると、つなぎ合わせた後の画像は、矩形ではなく、辺上で段差のある図形となってしまう。したがって、画像生成部15は、前述のように、第1及び第2ページ画像43,44をつなぎ合わせた後の画像を矩形にしてもよい。その際には、図14の一点鎖線で示されるように、第1ページ画像43に合わせて矩形を設定してもよく、図14の二点鎖線で示されるように、第2ページ画像44に合わせて矩形を設定してもよく、図14の破線で示されるように、第1ページ画像43と、第2ページ画像44との間に矩形を設定してもよい。なお、図14において、説明の便宜上、実線や破線、鎖線をずらして書いているが、本来は少なくとも一部(例えば、縦線の部分)が一致しているものである。また、そのように全体を矩形に設定した後の一枚画像45は、図15で示されるようになる。その図15における破線は、二つ折りの辺の位置を示す便宜上のものであり、実際には、この破線が一枚画像45に存在しなくてもよい。   In the information of FIG. 13, the positional relationship specifying unit 24 sorts the records so that the similar information (difference degree) is in ascending order, that is, the descending order of similarity, and the similar information (difference degree). Ε = “− 3” indicating the positional relationship of the smallest record is stored in a recording medium (not shown) (step S207). Then, the image generation unit 15 reads the value “−3” of ε, and displays the first page image 43 in FIG. 9 and the second page image 44 in FIG. 10 as three pixels with the first page image as the ground side. It joins at the position moved by the amount (step S107). If the images are connected as they are, the image after the connection is not a rectangle but a figure having a step on the side. Therefore, as described above, the image generation unit 15 may form a rectangular image after joining the first and second page images 43 and 44. At that time, a rectangle may be set in accordance with the first page image 43 as shown by a one-dot chain line in FIG. 14, and a second page image 44 may be set as shown by a two-dot chain line in FIG. A rectangle may be set together, and a rectangle may be set between the first page image 43 and the second page image 44 as indicated by a broken line in FIG. In FIG. 14, for convenience of explanation, the solid line, the broken line, and the chain line are written while being shifted, but originally at least a part (for example, a vertical line part) coincides. Further, the single image 45 after the whole is set to a rectangle is as shown in FIG. The broken line in FIG. 15 is for the sake of convenience indicating the position of the folded side. In practice, this broken line may not be present in the single image 45.

画像出力部16は、その図15で示される一枚画像45を出力する(ステップS108)。その出力は、例えば、プリントアウトであってもよい。そのプリントアウトにおいて、一枚画像45の大きさと、プリント用紙との大きさが合わない場合には、第1及び第2ページ画像43,44の二つ折りの側の辺に対応する一枚画像45の中心線が、プリント用紙の中心線と一致するように、プリント用紙に合わせた自動拡大・縮小と、自動中央配置とを行うようにしてもよい。   The image output unit 16 outputs the single image 45 shown in FIG. 15 (step S108). The output may be a printout, for example. In the printout, when the size of the single image 45 and the size of the print paper do not match, the single image 45 corresponding to the side of the first and second page images 43 and 44 that is folded in half. The automatic enlargement / reduction according to the print paper and the automatic center placement may be performed so that the center line of the image coincides with the center line of the print paper.

なお、この具体例で説明した類似情報は一例であって、それ以外の方法によって類似情報を算出してもよいことは言うまでもない。また、この具体例において、第1及び第2ページ画像の二つ折りの側の辺上の各画素列を用いた類似情報の算出を行う際に、いずれか一方の画素列を拡大・縮小して再サンプリングし、その再サンプリングした画素列をも用いて類似情報を算出してもよい。その場合には、拡大・縮小された画素列を用いて算出された類似情報と、拡大・縮小を行わないで算出された類似情報とのうちから最も類似性の高い類似情報を特定し、その類似情報に対応する位置関係、拡大・縮小の倍率を用いて、第1及び第2ページ画像43,44をつなげる際の位置と、一方のページ画像の拡大・縮小の倍率を決定してもよい。   Note that the similar information described in this specific example is merely an example, and it goes without saying that the similar information may be calculated by other methods. In this specific example, when calculating similar information using each pixel column on the side of the first and second page images that is folded in half, either one of the pixel columns is enlarged or reduced. Similar information may be calculated by resampling and using the resampled pixel column. In that case, the similar information having the highest similarity is identified from the similar information calculated using the enlarged / reduced pixel column and the similar information calculated without performing the enlargement / reduction. The position when connecting the first and second page images 43 and 44 and the enlargement / reduction magnification of one page image may be determined using the positional relationship corresponding to the similar information and the enlargement / reduction magnification. .

以上のように、本実施の形態による画像生成装置1によれば、袋とじ製本された書物において表と裏に存在する2個のページ画像を適切につなげた画像である一枚画像を生成することができる。その結果、例えば、その一枚画像をプリントアウトすることによって、元の袋とじ製本された書物とまったく同じ複製品(レプリカ)を作成することも可能となる。また、袋とじ製本される前の各紙を完全に復元することができるため、それらの各紙が全体としてどのようなバランスで記載がなされていたのか、どのようなレイアウトになっていたのかなどを知ることができ、古文書等の研究の進展に資することになると考えられる。   As described above, according to the image generation apparatus 1 according to the present embodiment, a single image that is an image obtained by appropriately connecting two page images existing on the front and back sides in a book bound by a booklet is generated. be able to. As a result, for example, by printing out the single image, it is also possible to create a replica (replica) that is exactly the same as the original book that has been bound to the bag. In addition, since each paper before being bound into a bag can be completely restored, it is possible to know what balance each paper has been described in, and what layout it was in. It is thought that it will contribute to the progress of research on old documents.

また、デジタルカメラ等で撮影した撮影画像からページ画像を生成することによって、簡易な装置によってページ画像を得ることができるようになる。例えば、古文書や公文書、旧土地台帳などはたとえ閲覧が許可されていたとしても、一般に持ち出し禁止であることが多い。また、そのような閲覧が許可される場所では、フラットヘッドスキャナなどを設置するスペースを確保できないことが多い。したがって、フラットヘッドスキャナなどを持ち込むことは困難であり、デジタルカメラ等によって簡易に撮影画像を得ることができることは作業者の利便性を向上させることになる。また、そのような古文書などは、虫食いや紙の変質等により、非常にもろくなっており、フラットヘッドスキャナ上において平面状に延ばすことが困難なこともある。そのような場合であっても、デジタルカメラ等による撮影は行うことができうるものであり、書物を傷めることなく撮影画像を得ることもできうる。また、糸綴じや無線綴じなどのように、容易に解体することが困難である場合や、書物の性質上、解体することが許可され得ない場合にも、フラットヘッドスキャナを用いずに、各ページに対応するページ画像を容易に得ることができるようになる。   Further, by generating a page image from a photographed image taken with a digital camera or the like, the page image can be obtained with a simple device. For example, old documents, official documents, old land ledgers and the like are generally prohibited from being taken out even if they are permitted to be browsed. Moreover, in such a place where browsing is permitted, it is often impossible to secure a space for installing a flat head scanner or the like. Therefore, it is difficult to bring in a flat head scanner or the like, and a photographed image can be easily obtained with a digital camera or the like, which improves the convenience for the operator. Further, such old documents are very fragile due to worm-eaten and paper alteration, and it may be difficult to extend them flat on a flat head scanner. Even in such a case, photographing with a digital camera or the like can be performed, and a photographed image can be obtained without damaging the book. Also, if it is difficult to disassemble easily, such as thread binding or wireless binding, or if it is not permitted to disassemble due to the nature of the book, A page image corresponding to the page can be easily obtained.

なお、袋とじ製本された書物を撮影するカメラは、通常、デジタルスチルカメラであることが好適であるが、そうでなくてもよい。例えば、動画を撮影するデジタルビデオカメラで撮影を行い、その動画のうちの1フレームを一の撮影画像として用いてもよい。また、銀塩カメラで撮影を行い、フィルムに記録された画像や、印画紙に焼かれた画像をスキャナなどの光学的機器を用いてデジタル化したものを撮影画像として用いてもよい。   Note that a camera that captures a book that has been bound into a bag is usually a digital still camera, but this need not be the case. For example, a digital video camera that shoots a moving image may be used, and one frame of the moving image may be used as one captured image. Alternatively, a photograph taken with a silver salt camera and an image recorded on a film or an image burned on a photographic paper digitized using an optical device such as a scanner may be used as a photographed image.

また、本実施の形態では、位置決定部14が図2で示される構成を有しており、第1及び第2ページ画像の二つ折りの側の辺上の各画素列の類似性を用いて位置関係を決定する場合について説明したが、そうでなくてもよい。例えば、第1及び第2ページ画像の二つ折りの側の辺上の各画素列のそれぞれにおいて、前述のようにして図形の範囲を検出し、その検出された図形の範囲の天側及び/または地側の端点が一致するように、両画素列の位置関係を決定してもよい。また、位置決定部14は、本実施の形態で説明した以外の方法によって第1及び第2ページ画像の二つ折りの側の辺をつなげる位置を決定してもよいことは言うまでもない。   In the present embodiment, the position determination unit 14 has the configuration shown in FIG. 2, and uses the similarity of each pixel column on the side of the first and second page images that is folded in half. Although the case where the positional relationship is determined has been described, this need not be the case. For example, in each of the pixel rows on the sides of the first and second page images that are folded in half, the range of the figure is detected as described above, and the top side of the detected figure range and / or The positional relationship between the two pixel columns may be determined so that the end points on the ground side coincide. Needless to say, the position determination unit 14 may determine the position at which the sides of the first and second page images to be folded are connected by a method other than that described in the present embodiment.

また、本実施の形態では、カメラで撮影された撮影画像が受け付けられ、補正されることによってページ画像が生成される場合について説明したが、ページ画像が画像記憶部13で記憶されるようになる過程は問わない。例えば、袋とじ製本された書物の各ページがフラットヘッドスキャナ等によって読み取られた読み取り画像からページ画像が生成され、画像記憶部13に蓄積されてもよい。その場合に、読み取り画像からページ画像の部分を切り抜く処理を行ってもよく、あるいは、あらかじめページの部分のみを読み取るように設定している場合には、読み取り画像がそのままページ画像であってもよい。その場合には、画像生成装置1は、画像受付部11や画像補正部12を備えていなくてもよい。また、そのようなページ画像が画像記憶部13で記憶される過程は問わない。例えば、記録媒体を介してページ画像が画像記憶部13で記憶されるようになってもよく、通信回線等を介して送信されたページ画像が画像記憶部13で記憶されるようになってもよく、あるいは、フラットヘッドスキャナ等から入力されたページ画像が画像記憶部13で記憶されるようになってもよい。   Further, in the present embodiment, a case has been described in which a captured image captured by a camera is received and corrected to generate a page image, but the page image is stored in the image storage unit 13. The process does not matter. For example, a page image may be generated from a read image obtained by reading each page of a book bound and bound by a flat head scanner and stored in the image storage unit 13. In this case, the page image portion may be cut out from the read image. Alternatively, if only the page portion is set in advance, the read image may be the page image as it is. . In that case, the image generating apparatus 1 may not include the image receiving unit 11 and the image correcting unit 12. Moreover, the process in which such a page image is memorize | stored in the image memory | storage part 13 is not ask | required. For example, a page image may be stored in the image storage unit 13 via a recording medium, or a page image transmitted via a communication line or the like may be stored in the image storage unit 13. Alternatively, a page image input from a flat head scanner or the like may be stored in the image storage unit 13.

また、1枚の紙が二つ折りにされている場合において、厳密には、その二つ折りにされている線上に、第1及び第2ページと直行する面(あるいは線状の領域)が微小ながら存在することになる。したがって、画像生成部15が第1及び第2ページ画像をつなげる際に、その二つ折りにされている線状の領域の補正を行うようにしてもよい。例えば、画像生成部15は、二つ折りにされている線状の領域に対応する画素数分の画素列であって、第1ページ画像の二つ折りの側の辺上の画素列、または第2ページ画像の二つ折りの側の辺上の画素列を、第1ページ画像及び第2ページ画像の間に付け足して第1及び第2ページ画像をつなげるようにしてもよい。二つ折りにされている線状の領域に対応する画素数(画像の解像度にも依存するが、例えば、1〜5画素程度であってもよい)は、あらかじめ決められており、その値が図示しない記録媒体において記憶されており、画像生成部15は、その値を読み出すことによって上記処理を行うようにしてもよい。このようにすることで、一枚画像を、袋とじ製本された書物に含まれていた紙により近いものにすることができうる。   Further, in the case where a sheet of paper is folded in half, strictly speaking, the surface (or linear region) that is perpendicular to the first and second pages is minute on the folded line. Will exist. Therefore, when the image generation unit 15 connects the first and second page images, the linear region folded in half may be corrected. For example, the image generation unit 15 is a pixel row corresponding to the number of pixels corresponding to the linear region folded in half, and the pixel row on the side of the first page image that is folded in half, or the second A pixel row on the side of the page image that is folded in half may be added between the first page image and the second page image to connect the first and second page images. The number of pixels corresponding to the linear region folded in half (depending on the resolution of the image, for example, may be about 1 to 5 pixels) is determined in advance, and the value is shown in the figure. The image generation unit 15 may perform the above-described processing by reading the value. By doing so, it is possible to make the single image closer to the paper contained in the book that has been bound by the bag.

また、本実施の形態において、画像補正部12は、ページ画像の背景色を除去する処理を行ってもよい。画像補正部12は、例えば、各ページ画像の各画素の輝度についてしきい値との比較を行い、輝度がしきい値よりも明るい場合には、その画素の階調や色の情報をなくしてもよく、あらかじめ決められている背景色やいずれかのページ画像から取得した背景色に設定してもよく、あるいは、その画素についてα値(透過度情報)を完全な透明(無色)に設定してもよい。この背景色の補正は、一枚画像を構成する2個のページ画像に対して行ってもよく、一の書物から取得された複数のページ画像に対して行ってもよい。前者の場合には、一枚画像の両ページにおいて背景色を統一することができ、後者の場合には、一の書物に対応する複数の一枚画像において背景色を統一することができる。その後者の場合には、いずれかのページについてのみ高精度での撮影を行い、その撮影画像から背景色に関する情報を取り込んで背景色を補正するようにしてもよい。ここで、背景色に関する情報は、例えば、輝度、色相、彩度などのうちの任意の1以上の情報であってもよい。   In the present embodiment, the image correction unit 12 may perform a process of removing the background color of the page image. For example, the image correction unit 12 compares the luminance of each pixel of each page image with a threshold value, and if the luminance is brighter than the threshold value, the gradation and color information of the pixel is deleted. You can also set the background color to a predetermined background color or a background color obtained from any page image, or set the alpha value (transparency information) for that pixel to be completely transparent (colorless). May be. The background color correction may be performed on two page images constituting a single image, or may be performed on a plurality of page images acquired from one book. In the former case, the background color can be unified in both pages of a single image, and in the latter case, the background color can be unified in a plurality of single images corresponding to one book. In the latter case, only one of the pages may be shot with high accuracy, and the background color may be corrected by taking in information about the background color from the shot image. Here, the information regarding the background color may be, for example, any one or more information of luminance, hue, saturation, and the like.

また、上記実施の形態では、画像生成装置1がスタンドアロンである場合について説明したが、画像生成装置1は、スタンドアロンの装置であってもよく、サーバ・クライアントシステムにおけるサーバ装置であってもよい。後者の場合には、出力部や受付部は、通信回線を介して入力を受け付けたり、情報を出力したりしてもよい。   In the above embodiment, the case where the image generation apparatus 1 is a stand-alone has been described. However, the image generation apparatus 1 may be a stand-alone apparatus or a server apparatus in a server / client system. In the latter case, the output unit or the reception unit may receive input or output information via a communication line.

また、上記実施の形態において、各処理または各機能は、単一の装置または単一のシステムによって集中処理されることによって実現されてもよく、あるいは、複数の装置または複数のシステムによって分散処理されることによって実現されてもよい。   In the above embodiment, each process or each function may be realized by centralized processing by a single device or a single system, or may be distributedly processed by a plurality of devices or a plurality of systems. It may be realized by doing.

また、上記実施の形態において、各構成要素が実行する処理に関係する情報、例えば、各構成要素が受け付けたり、取得したり、選択したり、生成したり、送信したり、受信したりした情報や、各構成要素が処理で用いるしきい値や数式、アドレス等の情報等は、上記説明で明記していない場合であっても、図示しない記録媒体において、一時的に、あるいは長期にわたって保持されていてもよい。また、その図示しない記録媒体への情報の蓄積を、各構成要素、あるいは、図示しない蓄積部が行ってもよい。また、その図示しない記録媒体からの情報の読み出しを、各構成要素、あるいは、図示しない読み出し部が行ってもよい。   In the above embodiment, information related to processing executed by each component, for example, information received, acquired, selected, generated, transmitted, or received by each component In addition, information such as threshold values, mathematical formulas, addresses, etc. used by each component in processing is retained temporarily or over a long period of time on a recording medium (not shown) even when not explicitly stated in the above description. It may be. Further, the storage of information in the recording medium (not shown) may be performed by each component or a storage unit (not shown). Further, reading of information from the recording medium (not shown) may be performed by each component or a reading unit (not shown).

また、上記実施の形態において、各構成要素等で用いられる情報、例えば、各構成要素が処理で用いるしきい値やアドレス、各種の設定値等の情報がユーザによって変更されてもよい場合には、上記説明で明記していない場合であっても、ユーザが適宜、それらの情報を変更できるようにしてもよく、あるいは、そうでなくてもよい。それらの情報をユーザが変更可能な場合には、その変更は、例えば、ユーザからの変更指示を受け付ける図示しない受付部と、その変更指示に応じて情報を変更する図示しない変更部とによって実現されてもよい。その図示しない受付部による変更指示の受け付けは、例えば、入力デバイスからの受け付けでもよく、通信回線を介して送信された情報の受信でもよく、所定の記録媒体から読み出された情報の受け付けでもよい。   In the above embodiment, when information used by each component, for example, information such as a threshold value, an address, and various setting values used by each component may be changed by the user Even if it is not specified in the above description, the user may be able to change the information as appropriate, or it may not be. If the information can be changed by the user, the change is realized by, for example, a not-shown receiving unit that receives a change instruction from the user and a changing unit (not shown) that changes the information in accordance with the change instruction. May be. The change instruction received by the receiving unit (not shown) may be received from an input device, information received via a communication line, or information read from a predetermined recording medium, for example. .

また、上記実施の形態において、画像生成装置1に含まれる2以上の構成要素が通信デバイスや入力デバイス等を有する場合に、2以上の構成要素が物理的に単一のデバイスを有してもよく、あるいは、別々のデバイスを有してもよい。   In the above embodiment, when two or more constituent elements included in the image generation apparatus 1 include a communication device, an input device, or the like, the two or more constituent elements may physically include a single device. Or you may have separate devices.

また、上記実施の形態において、各構成要素は専用のハードウェアにより構成されてもよく、あるいは、ソフトウェアにより実現可能な構成要素については、プログラムを実行することによって実現されてもよい。例えば、ハードディスクや半導体メモリ等の記録媒体に記録されたソフトウェア・プログラムをCPU等のプログラム実行部が読み出して実行することによって、各構成要素が実現され得る。なお、上記実施の形態における画像生成装置1を実現するソフトウェアは、以下のようなプログラムである。つまり、このプログラムは、コンピュータを、袋とじ製本された書物おいて一の紙が二つ折りされて構成される、一方のページの画像である第1ページ画像と、他方のページの画像である第2ページ画像とが記憶される画像記憶部で記憶されている前記第1ページ画像の二つ折りの側の辺と、前記第2ページ画像の二つ折りの側の辺とをつなげる位置を決定する位置決定部、前記位置決定部が決定した位置によって、前記第1ページ画像の二つ折りの側の辺と、前記第2ページ画像の二つ折りの側の辺とつなげることによって、袋とじ製本された前記一の紙に対応する画像である一枚画像を生成する画像生成部、前記画像生成部が生成した一枚画像を出力する画像出力部、として機能させるためのプログラムである。   In the above embodiment, each component may be configured by dedicated hardware, or a component that can be realized by software may be realized by executing a program. For example, each component can be realized by a program execution unit such as a CPU reading and executing a software program recorded on a recording medium such as a hard disk or a semiconductor memory. Note that the software that implements the image generation apparatus 1 in the above embodiment is the following program. In other words, this program causes the computer to form a first page image, which is an image of one page, and an image of the other page. A position for determining a position at which the side of the second fold side of the first page image is connected to the side of the second fold side of the second page image stored in the image storage unit in which the two-page image is stored According to the position determined by the determining unit and the position determining unit, the two-folded side of the first page image and the two-folded side of the second page image are connected to each other to bind the bag. It is a program for functioning as an image generation unit that generates a single image that is an image corresponding to one paper, and an image output unit that outputs a single image generated by the image generation unit.

また、このプログラムにおいて、コンピュータを、前記第1ページ画像に対応するページ上に基準点を配置して撮影された画像である第1撮影画像と、前記第2ページ画像に対応するページ上に基準点を配置して撮影された画像である第2撮影画像とを受け付ける画像受付部、前記画像受付部が受け付けた第1撮影画像及び第2撮影画像を、前記基準点を用いて撮影方向に関する補正を行うことによって、前記第1ページ画像及び前記第2ページ画像を生成し、前記画像記憶部に蓄積する画像補正部、としてさらに機能させてもよい。   Further, in this program, the computer is configured such that a reference is placed on a first photographed image that is a photograph taken by arranging a reference point on a page corresponding to the first page image, and on a page corresponding to the second page image. An image receiving unit that receives a second captured image that is an image captured by arranging points, and a correction related to the capturing direction of the first captured image and the second captured image received by the image receiving unit using the reference point By performing the above, the first page image and the second page image may be generated and further functioned as an image correction unit that accumulates in the image storage unit.

なお、上記プログラムにおいて、上記プログラムが実現する機能には、ハードウェアでしか実現できない機能は含まれない。例えば、情報を受け付ける受付部や、情報を出力する出力部などにおけるモデムやインターフェースカードなどのハードウェアでしか実現できない機能は、上記プログラムが実現する機能には少なくとも含まれない。   In the program, the functions realized by the program do not include functions that can be realized only by hardware. For example, functions that can be realized only by hardware such as a modem and an interface card in a reception unit that receives information and an output unit that outputs information are not included in at least the functions realized by the program.

また、このプログラムは、サーバなどからダウンロードされることによって実行されてもよく、所定の記録媒体(例えば、CD−ROMなどの光ディスクや磁気ディスク、半導体メモリなど)に記録されたプログラムが読み出されることによって実行されてもよい。また、このプログラムは、プログラムプロダクトを構成するプログラムとして用いられてもよい。   Further, this program may be executed by being downloaded from a server or the like, and a program recorded on a predetermined recording medium (for example, an optical disk such as a CD-ROM, a magnetic disk, a semiconductor memory, or the like) is read out. May be executed by Further, this program may be used as a program constituting a program product.

また、このプログラムを実行するコンピュータは、単数であってもよく、複数であってもよい。すなわち、集中処理を行ってもよく、あるいは分散処理を行ってもよい。   Further, the computer that executes this program may be singular or plural. That is, centralized processing may be performed, or distributed processing may be performed.

図16は、上記プログラムを実行して、上記実施の形態による画像生成装置1を実現するコンピュータの外観の一例を示す模式図である。上記実施の形態は、コンピュータハードウェア及びその上で実行されるコンピュータプログラムによって実現されうる。   FIG. 16 is a schematic diagram illustrating an example of an external appearance of a computer that executes the program and realizes the image generation apparatus 1 according to the embodiment. The above-described embodiment can be realized by computer hardware and a computer program executed on the computer hardware.

図16において、コンピュータシステム900は、CD−ROM(Compact Disk Read Only Memory)ドライブ905、FD(Floppy(登録商標) Disk)ドライブ906を含むコンピュータ901と、キーボード902と、マウス903と、モニタ904とを備える。   In FIG. 16, a computer system 900 includes a computer 901 including a CD-ROM (Compact Disk Read Only Memory) drive 905, an FD (Floppy (registered trademark) Disk) drive 906, a keyboard 902, a mouse 903, a monitor 904, and the like. Is provided.

図17は、コンピュータシステム900の内部構成を示す図である。図17において、コンピュータ901は、CD−ROMドライブ905、FDドライブ906に加えて、MPU(Micro Processing Unit)911と、ブートアッププログラム等のプログラムを記憶するためのROM912と、MPU911に接続され、アプリケーションプログラムの命令を一時的に記憶すると共に、一時記憶空間を提供するRAM(Random Access Memory)913と、アプリケーションプログラム、システムプログラム、及びデータを記憶するハードディスク914と、MPU911、ROM912等を相互に接続するバス915とを備える。なお、コンピュータ901は、LANへの接続を提供する図示しないネットワークカードを含んでいてもよい。   FIG. 17 is a diagram showing an internal configuration of the computer system 900. In FIG. 17, in addition to the CD-ROM drive 905 and the FD drive 906, a computer 901 is connected to an MPU (Micro Processing Unit) 911, a ROM 912 for storing a program such as a bootup program, and the MPU 911. A RAM (Random Access Memory) 913 that temporarily stores program instructions and provides a temporary storage space, a hard disk 914 that stores application programs, system programs, and data, and an MPU 911 and a ROM 912 are interconnected. And a bus 915. The computer 901 may include a network card (not shown) that provides connection to the LAN.

コンピュータシステム900に、上記実施の形態による画像生成装置1の機能を実行させるプログラムは、CD−ROM921、またはFD922に記憶されて、CD−ROMドライブ905、またはFDドライブ906に挿入され、ハードディスク914に転送されてもよい。これに代えて、そのプログラムは、図示しないネットワークを介してコンピュータ901に送信され、ハードディスク914に記憶されてもよい。プログラムは実行の際にRAM913にロードされる。なお、プログラムは、CD−ROM921やFD922、またはネットワークから直接、ロードされてもよい。   A program that causes the computer system 900 to execute the functions of the image generation apparatus 1 according to the above embodiment is stored in the CD-ROM 921 or the FD 922, inserted into the CD-ROM drive 905 or the FD drive 906, and stored in the hard disk 914. May be forwarded. Instead, the program may be transmitted to the computer 901 via a network (not shown) and stored in the hard disk 914. The program is loaded into the RAM 913 when executed. The program may be loaded directly from the CD-ROM 921, the FD 922, or the network.

プログラムは、コンピュータ901に、上記実施の形態による画像生成装置1の機能を実行させるオペレーティングシステム(OS)、またはサードパーティプログラム等を必ずしも含んでいなくてもよい。プログラムは、制御された態様で適切な機能(モジュール)を呼び出し、所望の結果が得られるようにする命令の部分のみを含んでいてもよい。コンピュータシステム900がどのように動作するのかについては周知であり、詳細な説明は省略する。   The program does not necessarily include an operating system (OS) or a third-party program that causes the computer 901 to execute the functions of the image generation apparatus 1 according to the above-described embodiment. The program may include only a part of an instruction that calls an appropriate function (module) in a controlled manner and obtains a desired result. How the computer system 900 operates is well known and will not be described in detail.

また、本発明は、以上の実施の形態に限定されることなく、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることは言うまでもない。   Further, the present invention is not limited to the above-described embodiment, and various modifications are possible, and it goes without saying that these are also included in the scope of the present invention.

以上より、本発明による画像生成装置等によれば、袋とじ製本された書物を構成する一の紙に対応する画像を生成することができるという効果が得られ、例えば、袋とじ製本された古文書や旧土地台帳などのレプリカを作成するために用いることができる。   As described above, according to the image generating apparatus and the like according to the present invention, an effect that it is possible to generate an image corresponding to one piece of paper constituting a book bound by a book is obtained. It can be used to create a replica of a document or old land ledger.

本発明の実施の形態1による画像生成装置の構成を示すブロック図1 is a block diagram showing a configuration of an image generation apparatus according to Embodiment 1 of the present invention. 同実施の形態による位置決定部の構成を示すブロック図The block diagram which shows the structure of the position determination part by the embodiment 同実施の形態による画像生成装置の動作を示すフローチャートThe flowchart which shows operation | movement of the image generation apparatus by the embodiment 同実施の形態による画像生成装置の動作を示すフローチャートThe flowchart which shows operation | movement of the image generation apparatus by the embodiment 同実施の形態における袋とじ製本された書物の一例を示す図The figure which shows an example of the book bound by the bag in the embodiment 同実施の形態における書物の撮影について説明するための図The figure for demonstrating photography of the book in the embodiment 同実施の形態における書物の撮影について説明するための図The figure for demonstrating photography of the book in the embodiment 同実施の形態における撮影画像の一例を示す図The figure which shows an example of the picked-up image in the embodiment 同実施の形態における第1ページ画像の一例を示す図The figure which shows an example of the 1st page image in the embodiment 同実施の形態における第2ページ画像の一例を示す図The figure which shows an example of the 2nd page image in the embodiment 同実施の形態における位置の決定について説明するための図The figure for demonstrating the determination of the position in the embodiment 同実施の形態における位置の決定について説明するための図The figure for demonstrating the determination of the position in the embodiment 同実施の形態における類似情報の一例を示す図The figure which shows an example of the similar information in the embodiment 同実施の形態における一枚画像の生成について説明するための図The figure for demonstrating the production | generation of the single image in the embodiment 同実施の形態における一枚画像の一例を示す図The figure which shows an example of the single image in the embodiment 同実施の形態におけるコンピュータシステムの外観一例を示す模式図Schematic diagram showing an example of the appearance of the computer system in the embodiment 同実施の形態におけるコンピュータシステムの構成の一例を示す図The figure which shows an example of a structure of the computer system in the embodiment

符号の説明Explanation of symbols

1 画像生成装置
11 画像受付部
12 画像補正部
13 画像記憶部
14 位置決定部
15 画像生成部
16 画像出力部
21 位置関係変更手段
22 類似情報算出手段
23 類似情報記憶手段
24 位置関係特定手段
DESCRIPTION OF SYMBOLS 1 Image generation apparatus 11 Image reception part 12 Image correction | amendment part 13 Image memory | storage part 14 Position determination part 15 Image generation part 16 Image output part 21 Positional relationship change means 22 Similar information calculation means 23 Similar information storage means 24 Positional relationship specification means

Claims (4)

解体されていない袋とじ製本された書物おいて一の紙が二つ折りされて構成される、一方のページの画像である第1ページ画像に対応するページ上に基準点を配置して撮影された画像である第1撮影画像と、他方のページの画像である第2ページ画像に対応するページ上に基準点を配置して撮影された画像である第2撮影画像とを受け付ける画像受付部と、
前記第1ページ画像と、前記第2ページ画像とが記憶される画像記憶部と、
前記画像受付部が受け付けた第1撮影画像及び第2撮影画像を、前記基準点を用いて撮影方向に関する補正を行うことによって、前記第1ページ画像及び前記第2ページ画像を生成し、前記画像記憶部に蓄積する画像補正部と、
前記第1ページ画像の二つ折りの側の辺と、前記第2ページ画像の二つ折りの側の辺とをつなげる位置を決定する位置決定部と、
前記位置決定部が決定した位置によって、前記第1ページ画像の二つ折りの側の辺と、前記第2ページ画像の二つ折りの側の辺とつなげることによって、袋とじ製本された前記一の紙に対応する画像である一枚画像を生成する画像生成部と、
前記画像生成部が生成した一枚画像を出力する画像出力部と、を備え
前記一の紙の二つ折りにされた線上には、両ページにまたがる図形が存在し、
前記位置決定部は、前記第1ページ画像に含まれる前記図形の部分と、前記第2ページ画像に含まれる前記図形の部分とがつながるように、位置の決定を行い、
前記画像生成部は、前記第1ページ画像の二つ折りの側の辺と、前記第2ページ画像の二つ折りの側の辺とが、前記一枚画像の中心線となるように前記一枚画像を生成する、画像生成装置。
Photographed by placing a reference point on a page corresponding to the first page image , which is an image of one page, in which a single sheet of paper is folded in a book that has not been disassembled and is bound and bound An image receiving unit that receives a first captured image that is an image and a second captured image that is an image captured by arranging a reference point on a page corresponding to a second page image that is an image of the other page ;
An image storage unit for storing the first page image and the second page image ;
The first page image and the second page image are generated by correcting the first shot image and the second shot image received by the image receiving unit with respect to the shooting direction using the reference point, and the image An image correction unit stored in the storage unit;
A position determination unit that determines a position at which the side of the first page image that is folded in two and the side of the second page image that is folded in two are connected;
According to the position determined by the position determination unit, the one sheet of paper that has been bound into a bag is connected to the side of the first page image that is folded in half and the side of the second page image that is folded in half. An image generation unit that generates a single image that is an image corresponding to
An image output unit that outputs a single image generated by the image generation unit ,
On the folded line of the one paper, there is a figure that spans both pages,
The position determination unit determines a position so that the part of the graphic included in the first page image and the part of the graphic included in the second page image are connected,
The image generation unit includes the single image so that a half-fold side of the first page image and a half-fold side of the second page image are the center line of the single image. An image generation device for generating
前記位置決定部は、
前記第1ページ画像の二つ折りの側の辺上の画素列と、前記第2ページ画像の二つ折りの側の辺上の画素列との辺方向の位置関係を変更する位置関係変更手段と、
前記位置関係変更手段が位置関係を変更した両画素列の類似性に関する情報である類似情報を算出する類似情報算出手段と、
前記類似情報によって類似性が最も高くなる両画素列の位置関係を特定する位置関係特定手段と、を備え、
前記位置関係特定手段によって特定された両画素列の位置関係が、前記第1ページ画像の二つ折りの側の辺と、前記第2ページ画像の二つ折りの側の辺とをつなげる位置関係となる、請求項記載の画像生成装置。
The position determination unit
A positional relationship changing means for changing a positional relationship in a side direction between the pixel row on the side of the first page image folded in two and the pixel row on the side of the second page image folded in two;
Similarity information calculation means for calculating similarity information that is information relating to the similarity between both pixel columns whose positional relationship has been changed by the positional relationship change means;
A positional relationship specifying means for specifying a positional relationship between both pixel columns having the highest similarity according to the similar information,
The positional relationship between the two pixel columns specified by the positional relationship specifying means is a positional relationship connecting the side of the first page image folded in two and the side of the second page image folded in half. The image generation apparatus according to claim 1 .
画像受付部と、解体されていない袋とじ製本された書物おいて一の紙が二つ折りされて構成される、一方のページの画像である第1ページ画像と、他方のページの画像である第2ページ画像とが記憶される画像記憶部と、画像補正部と、位置決定部と、画像生成部と、画像出力部とを用いて処理される画像生成方法であって、
前記画像受付部が、前記第1ページ画像に対応するページ上に基準点を配置して撮影された画像である第1撮影画像と、前記第2ページ画像に対応するページ上に基準点を配置して撮影された画像である第2撮影画像とを受け付ける画像受付ステップと、
前記画像補正部が、前記画像受付ステップで受け付けた第1撮影画像及び第2撮影画像を、前記基準点を用いて撮影方向に関する補正を行うことによって、前記第1ページ画像及び前記第2ページ画像を生成し、前記画像記憶部に蓄積する画像補正ステップと、
前記位置決定部が、前記第1ページ画像の二つ折りの側の辺と、前記第2ページ画像の二つ折りの側の辺とをつなげる位置を決定する位置決定ステップと、
前記画像生成部が、前記位置決定ステップで決定した位置によって、前記第1ページ画像の二つ折りの側の辺と、前記第2ページ画像の二つ折りの側の辺とつなげることによって、袋とじ製本された前記一の紙に対応する画像である一枚画像を生成する画像生成ステップと、
前記画像出力部が、前記画像生成ステップで生成した一枚画像を出力する画像出力ステップと、を備え
前記一の紙の二つ折りにされた線上には、両ページにまたがる図形が存在し、
前記位置決定ステップでは、前記第1ページ画像に含まれる前記図形の部分と、前記第2ページ画像に含まれる前記図形の部分とがつながるように、位置の決定を行い、
前記画像生成ステップでは、前記第1ページ画像の二つ折りの側の辺と、前記第2ページ画像の二つ折りの側の辺とが、前記一枚画像の中心線となるように前記一枚画像を生成する、画像生成方法。
A first page image that is an image of one page and an image of the other page that are configured by folding an image reception unit and a book that is not disassembled into a bound and bound book. An image generation method that is processed using an image storage unit that stores a two-page image, an image correction unit, a position determination unit, an image generation unit, and an image output unit,
The image receiving unit arranges a reference point on a page corresponding to the second page image, and a first photographed image taken by arranging a reference point on the page corresponding to the first page image. An image receiving step of receiving a second captured image that is an image captured
The first image and the second page image are corrected by the image correction unit using the reference point to correct the first shooting image and the second shooting image received in the image receiving step. An image correction step of generating and storing in the image storage unit;
A position determining step for determining a position at which the position determining unit connects the side of the first page image folded in two and the side of the second page image folded in two;
According to the position determined in the position determining step, the image generation unit connects the side of the first page image folded in two and the side of the second page image folded in two, thereby binding the booklet into a booklet. An image generation step of generating a single image that is an image corresponding to the one paper that has been performed;
The image output unit includes an image output step of outputting the single image generated in the image generation step ,
On the folded line of the one paper, there is a figure that spans both pages,
In the position determining step, the position is determined so that the graphic part included in the first page image and the graphic part included in the second page image are connected,
In the image generation step, the single image is such that a side of the first page image that is folded in half and a side of the second page image that is folded in half are the center line of the single image. A method of generating an image.
コンピュータを、
解体されていない袋とじ製本された書物おいて一の紙が二つ折りされて構成される、一方のページの画像である第1ページ画像に対応するページ上に基準点を配置して撮影された画像である第1撮影画像と、他方のページの画像である第2ページ画像に対応するページ上に基準点を配置して撮影された画像である第2撮影画像とを受け付ける画像受付部、
前記画像受付部が受け付けた第1撮影画像及び第2撮影画像を、前記基準点を用いて撮影方向に関する補正を行うことによって、前記第1ページ画像及び前記第2ページ画像を生成し、画像記憶部に蓄積する画像補正部、
前記画像記憶部で記憶されている前記第1ページ画像の二つ折りの側の辺と、前記第2ページ画像の二つ折りの側の辺とをつなげる位置を決定する位置決定部、
前記位置決定部が決定した位置によって、前記第1ページ画像の二つ折りの側の辺と、前記第2ページ画像の二つ折りの側の辺とつなげることによって、袋とじ製本された前記一の紙に対応する画像である一枚画像を生成する画像生成部、
前記画像生成部が生成した一枚画像を出力する画像出力部、として機能させ
前記一の紙の二つ折りにされた線上には、両ページにまたがる図形が存在し、
前記位置決定部は、前記第1ページ画像に含まれる前記図形の部分と、前記第2ページ画像に含まれる前記図形の部分とがつながるように、位置の決定を行い、
前記画像生成部は、前記第1ページ画像の二つ折りの側の辺と、前記第2ページ画像の二つ折りの側の辺とが、前記一枚画像の中心線となるように前記一枚画像を生成する、プログラム。
Computer
Photographed by placing a reference point on a page corresponding to the first page image , which is an image of one page, in which a single paper is folded in a book that has not been disassembled and is bound and bound An image receiving unit that receives a first captured image that is an image and a second captured image that is an image captured by placing a reference point on a page corresponding to a second page image that is an image of the other page ;
The first page image and the second page image are generated by correcting the first shot image and the second shot image received by the image receiving unit with respect to the shooting direction using the reference point, and storing the image. Image correction unit to be stored in the unit,
Position determining portion that determines the position to connect the clamshell sides of the first page image stored in the image storage unit, and a clamshell sides of the second page image,
According to the position determined by the position determination unit, the one sheet of paper that has been bound into a bag is connected to the side of the first page image that is folded in half and the side of the second page image that is folded in half. An image generation unit that generates a single image that is an image corresponding to
Function as an image output unit that outputs a single image generated by the image generation unit ,
On the folded line of the one paper, there is a figure that spans both pages,
The position determination unit determines a position so that the part of the graphic included in the first page image and the part of the graphic included in the second page image are connected,
The image generation unit includes the single image so that a half-fold side of the first page image and a half-fold side of the second page image are the center line of the single image. Generate a program.
JP2008300323A 2008-11-26 2008-11-26 Image generating apparatus, image generating method, and program Active JP4301526B1 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008300323A JP4301526B1 (en) 2008-11-26 2008-11-26 Image generating apparatus, image generating method, and program
CN200980146194.3A CN102217298B (en) 2008-11-26 2009-11-24 Image creating device, image creating method
PCT/JP2009/006297 WO2010061568A1 (en) 2008-11-26 2009-11-24 Image creating device, image creating method, and program recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008300323A JP4301526B1 (en) 2008-11-26 2008-11-26 Image generating apparatus, image generating method, and program

Publications (2)

Publication Number Publication Date
JP4301526B1 true JP4301526B1 (en) 2009-07-22
JP2010130126A JP2010130126A (en) 2010-06-10

Family

ID=40972381

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008300323A Active JP4301526B1 (en) 2008-11-26 2008-11-26 Image generating apparatus, image generating method, and program

Country Status (3)

Country Link
JP (1) JP4301526B1 (en)
CN (1) CN102217298B (en)
WO (1) WO2010061568A1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6409460B2 (en) * 2014-09-30 2018-10-24 ブラザー工業株式会社 Image processing apparatus and computer program
JP2018189728A (en) * 2017-04-28 2018-11-29 コニカミノルタ株式会社 Image processing apparatus, image processing method, and program

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3437249B2 (en) * 1994-04-04 2003-08-18 キヤノン株式会社 Image processing method and image processing apparatus
JP3052870B2 (en) * 1997-01-24 2000-06-19 日本電気株式会社 Image correction method and image correction device
US7006708B1 (en) * 1998-06-23 2006-02-28 Sharp Kabushiki Kaisha Image processor, image processing method, and medium on which image processing program is recorded
JP2002366947A (en) * 2001-06-08 2002-12-20 Jc System Inc System for inputting pattern for apparel cad
JP3981644B2 (en) * 2003-03-26 2007-09-26 株式会社オーエムアイ Original drawing transfer method and camera image correction processing apparatus used therefor

Also Published As

Publication number Publication date
JP2010130126A (en) 2010-06-10
CN102217298A (en) 2011-10-12
CN102217298B (en) 2013-11-06
WO2010061568A1 (en) 2010-06-03

Similar Documents

Publication Publication Date Title
US6940526B2 (en) Image synthesizing apparatus
US7209149B2 (en) Image cropping and synthesizing method, and imaging apparatus
US8004584B2 (en) Method and apparatus for the creation of compound digital image effects
JP5452825B2 (en) A method for reducing the size of each page of a multi-page document for rendering
JP5981789B2 (en) Image processing apparatus, image processing method, and program
US20040161224A1 (en) Image extracting method, image extracting apparatus, and program for implementing the method
Farid Seeing is not believing
JPWO2003085510A1 (en) Apparatus for enabling printer to print desired design page and method of operating same
WO2004070657A1 (en) Image processing device
JP5366699B2 (en) Image processing apparatus, image processing method, and image processing program
US8687230B2 (en) Image processor
JP4301526B1 (en) Image generating apparatus, image generating method, and program
JP2000295468A (en) Image processor
JP2005210369A (en) Image processing apparatus and image processing method
JP2000147685A (en) Group printing sheet and image forming device
JP2001167265A (en) Medium with recorded image processing program, device and method for processing image
JP2004258724A (en) Document creation support device and method, program and recording medium
JP4507673B2 (en) Image processing apparatus, image processing method, and program
JP4264165B2 (en) Image display device, image display system, image display method, and recording medium
JP5005882B2 (en) Method and apparatus for outputting captured image with accompanying information
JP2004030117A (en) Image synthesis apparatus
JPH08118840A (en) Processing method and indication method of image such as character
JP2004032247A (en) Composite image output apparatus
JP2006027228A (en) Album printing method and apparatus
JP2005333519A (en) Print forming system and print forming method

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090415

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090417

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120501

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4301526

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20170501

Year of fee payment: 8

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250