JP2006311193A - Image processor, image reader provided with the same and image processing method - Google Patents

Image processor, image reader provided with the same and image processing method Download PDF

Info

Publication number
JP2006311193A
JP2006311193A JP2005131103A JP2005131103A JP2006311193A JP 2006311193 A JP2006311193 A JP 2006311193A JP 2005131103 A JP2005131103 A JP 2005131103A JP 2005131103 A JP2005131103 A JP 2005131103A JP 2006311193 A JP2006311193 A JP 2006311193A
Authority
JP
Japan
Prior art keywords
image
color
display color
display
candidates
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005131103A
Other languages
Japanese (ja)
Other versions
JP4648073B2 (en
Inventor
Hideki Irisawa
英毅 入澤
Yasuji Nakajima
保司 中島
Yujiro Kamimura
裕二郎 上村
Shigeru Shimazaki
繁 島崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP2005131103A priority Critical patent/JP4648073B2/en
Publication of JP2006311193A publication Critical patent/JP2006311193A/en
Application granted granted Critical
Publication of JP4648073B2 publication Critical patent/JP4648073B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To prevent the generation of image quality degradation that an impression viewed in a color region close to an achromatic color becomes largely different from a source image due to the color vision characteristics of a human in color subtraction by the integration of colors when generating main images for respective colors for multilayering color images. <P>SOLUTION: When extracting from the source image the main images of characters or the like plotted by luminance different from the base in the source image, sorting them by respective display colors and generating the image data of the main image for the respective colors, a display color candidate extracted from the source image is integrated with a display color candidate nearby on the condition that they are included in the same division space and the display color is decided for each main image part. At the time, in the case that the plurality of display color candidates satisfying the integration condition exist in both of a prescribed achromatic color region and a chromatic color region on the outer side, the display color candidates existing separately in both regions are not integrated with each other and are adopted as the display colors respectively. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は、カラー画像を複数のレイヤに分けてファイル化する、いわゆるマルチレイヤ画像を生成する画像処理装置及びこれを備えた画像読取装置並びに画像処理方法に関し、特にカラー画像を文字などの主画像とその背景となる下地画像とに分けると共に、主画像を表示色ごとに振り分けて別レイヤでファイルに格納するようにした画像処理装置及びこれを備えた画像読取装置並びに画像処理方法に関するものである。   The present invention relates to an image processing apparatus for generating a so-called multi-layer image by dividing a color image into a plurality of layers, and an image reading apparatus and image processing method including the image processing apparatus. And an image processing apparatus including the image processing apparatus, the image reading apparatus, and the image processing method including the image processing apparatus in which the main image is sorted for each display color and stored in a file in a separate layer. .

文書の電子化のため、文書をスキャナで読み取ってイメージデータ化する方法が広く普及しており、またコンピュータ上の文書作成ソフトウェアで作成された文書を配布する際に配布先で支障なく閲覧できるように文書をイメージデータ化しておくことが望ましく、このような文書のイメージデータ化にあたっては、記憶装置の容量の節約や通信時間の短縮などの要望からデータサイズを削減するための様々な圧縮方法が利用されている。   In order to digitize documents, a method of reading a document with a scanner and converting it to image data has become widespread, and when distributing a document created with document creation software on a computer, it can be viewed without any problems at the distribution destination. It is desirable to convert the document into image data, and there are various compression methods for reducing the data size in order to save the storage device capacity and shorten the communication time. It's being used.

特にカラー文書の場合、通常低輝度で描画される文字とその周辺との輝度差が原因でカラー圧縮処理により再生画質が低下することがあり、このような不具合を避けるため、カラー画像を文字画像と下地画像とに分けて異なる圧縮方法にて圧縮処理するものとし、描画色の異なる文字画像については表示色ごとに振り分けて別レイヤでファイルに格納するようにした技術が知られている(特許文献1参照)。特にこの技術では、ファイルサイズを小さく抑えるため、所定の色範囲で同一色とみなされる文字領域を統合して圧縮効率を高めるようにしている。
特開2003−18413号公報
In particular, in the case of a color document, the reproduction image quality may deteriorate due to the color compression process due to the difference in brightness between the character that is usually drawn at low brightness and its surroundings. There is a known technique in which a character image with a different drawing color is stored for each display color and stored in a file on a separate layer for the compression processing using different compression methods for the image and the background image (patent) Reference 1). In particular, in this technology, in order to keep the file size small, character regions that are regarded as the same color in a predetermined color range are integrated to increase the compression efficiency.
JP 2003-18413 A

しかるに、前記従来の技術のように所定の範囲に含まれる色を同一色とみなして統合する場合、1色に統合する範囲を大きく設定することで、減色による圧縮効率の向上を図ることができるものの、離れた色が統合されることで見た印象が変化することがあり、特に無彩色に近い色領域では、彩度の僅かな変化が人間の色覚で容易に識別可能なため、原画像上では明らかに有彩色として視認可能な色が無彩色としてか視認し得ない色に変化して、見た印象が原画像と大きく変わってしまうような画質の低下を招くことがある。   However, in the case where the colors included in the predetermined range are integrated as the same color as in the conventional technique, the compression efficiency can be improved by reducing the color by setting a large range to be integrated into one color. However, the impression of viewing may change due to the integration of distant colors, especially in the near-achromatic color region, since slight changes in saturation can be easily identified by human color vision, the original image In the above, a color that is clearly visible as a chromatic color may change to an achromatic color or a color that cannot be visually recognized, resulting in a deterioration in image quality such that the viewed impression is greatly different from the original image.

本発明は、このような従来技術の問題点を解消するべく案出されたものであり、その主な目的は、カラー画像をマルチレイヤ化するための色別の主画像を生成する際に、色の統合による減色において人間の色覚上の特性から無彩色に近い色領域で見た印象が原画像と大きく変わってしまう画質低下が生じることを避けることができるように構成された画像処理装置及びこれを備えた画像読取装置並びに画像処理方法を提供することにある。   The present invention has been devised to solve such problems of the prior art, and its main purpose is to generate a color-specific main image for multi-layering a color image. An image processing apparatus configured to avoid a deterioration in image quality in which an impression seen in a color region close to an achromatic color is largely changed from an original image due to human color vision characteristics in color reduction by color integration, and An object of the present invention is to provide an image reading apparatus and an image processing method provided with the same.

このような課題を解決するために、本発明による画像処理装置においては、請求項1に示すとおり、原画像中に下地と異なる輝度で描画される主画像を原画像から取り出してその主画像を表示色ごとに振り分けて主画像の画データを色別に生成する主画像生成手段と、前記主画像に対応する原画像中の部分をその周辺画素の画データに基づく所要の塗り潰し色で塗り潰して下地画像の画データを生成する下地画像生成手段と、これにより得られた主画像及び下地画像の各画データを互いに異なる圧縮方法にて圧縮処理する画像圧縮手段とを有し、前記主画像生成手段が、主画像部分ごとに原画像から抽出された表示色候補を、所定の統合条件にしたがってその近傍の表示色候補と統合して表示色を決定するものとし、このとき、所定の無彩色領域とその外側の有彩色領域との両方に、前記統合条件を満足する複数の表示色候補が存在する場合には、その両方の領域に分かれて存在する表示色候補同士の統合は行わず、別々に表示色として採用するようにしたものとした。   In order to solve such a problem, in the image processing apparatus according to the present invention, as shown in claim 1, a main image drawn with a luminance different from the background is extracted from the original image and the main image is extracted from the original image. Main image generation means for generating image data of the main image for each color by sorting for each display color, and a portion in the original image corresponding to the main image is filled with a required fill color based on the image data of the surrounding pixels A main image generating unit that generates image data of an image, and an image compressing unit that compresses each image data of the main image and the base image obtained thereby by different compression methods; However, the display color candidates extracted from the original image for each main image part are integrated with the display color candidates in the vicinity thereof according to a predetermined integration condition to determine the display color. When there are a plurality of display color candidates that satisfy the integration condition in both the area and the chromatic color area outside the area, the display color candidates existing separately in both areas are not integrated, The display color is adopted separately.

これによると、無彩色領域を適切に設定すれば、原画像上で有彩色として容易に認識可能な色が無彩色としてしか認識し得ない色に変化してしまう画質低下を避けることができる。   According to this, if the achromatic color region is appropriately set, it is possible to avoid a deterioration in image quality in which a color that can be easily recognized as a chromatic color on the original image changes to a color that can only be recognized as an achromatic color.

この場合、無彩色領域は、色空間において無彩色となる直線を中心とし、境界までの距離を所定のしきい値により規定された領域とすれば良い。   In this case, the achromatic region may be a region that is centered on a straight line that is an achromatic color in the color space and that is defined by a predetermined threshold as a distance to the boundary.

また、原画像からの表示色候補の抽出処理では、主画像を連続的に構成する画素群、すなわち主画像を2値化して得られた2値画像上で黒画素となる画素の連続領域ごとに代表色を求める、例えば複数の画素値を平均して得られる平均色を求め、これを表示色候補とすれば良い。   In addition, in the process of extracting display color candidates from the original image, a group of pixels that continuously constitute the main image, that is, each continuous region of pixels that become black pixels on a binary image obtained by binarizing the main image. For example, a representative color may be obtained, for example, an average color obtained by averaging a plurality of pixel values may be obtained and used as a display color candidate.

前記画像処理装置においては、請求項2に示すとおり、前記主画像生成手段が、色空間を等間隔に分割した分割空間の1つに含まれることを前記統合条件として複数の表示色候補を1つに統合すると共に、その分割空間ごとの表示色候補に対して画素数に応じて設定された優先順位にしたがって表示色候補を表示色に決定し、このとき、表示色候補を中心とした所定の類似領域内に優先順位の高い表示色が存在する場合には、その表示色に当該表示色候補を統合するようにした構成とすることができる。これによると、1つの文字のように同一色で描画される主画像の色が複数の分割空間の境界付近にあるため、本来1つとなるべき表示色候補が複数設定された場合でも、類似領域内にあることを条件に統合することができ、表示色が無用に増加する不具合を避けることができる。   In the image processing device, as described in claim 2, the main image generation means includes a plurality of display color candidates as one of the integration conditions that the color space is included in one of the divided spaces. The display color candidates are determined as display colors according to the priority order set according to the number of pixels for the display color candidates for each divided space. At this time, a predetermined color centered on the display color candidates is determined. If there is a display color with a high priority in the similar region, the display color candidates can be integrated with the display color. According to this, since the color of the main image drawn in the same color as one character is in the vicinity of the boundaries of the plurality of divided spaces, even if a plurality of display color candidates that should originally be one are set, the similar region It can be integrated on the condition that it is within, and the problem that the display color increases unnecessarily can be avoided.

この場合、類似領域は、対象とする表示色候補を中心として、境界までの距離を所定のしきい値により規定された領域である。   In this case, the similar region is a region in which the distance to the boundary is defined by a predetermined threshold with the target display color candidate as the center.

前記画像処理装置においては、請求項3に示すとおり、前記主画像生成手段が、前記無彩色領域内の表示色候補を統合する場合と、前記有彩色領域内の表示色候補を統合する場合とで、異なる大きさの前記類似領域を用いて統合処理を行い、前記無彩色領域用の類似領域が、前記有彩色領域用の類似領域に比較して大きく設定された構成とすることができる。これによると、有彩色領域では離れた色の統合により見た印象が大きく変化するのに対して、無彩色領域では離れた色の統合でも階調変化のみで見た印象がさほど変化しないことから、無彩色領域で大きな類似領域を用いて減色を図ることにより、画質の低下を抑えつつ、圧縮効率を高めることができる。   In the image processing device, as shown in claim 3, the main image generation unit integrates display color candidates in the achromatic color region and integrates display color candidates in the chromatic color region. Thus, the integration process is performed using the similar areas having different sizes, and the similar area for the achromatic color area is set to be larger than the similar area for the chromatic color area. According to this, in the chromatic color area, the impression seen by the integration of distant colors changes greatly, but in the achromatic color area, the impression seen only by the gradation change does not change much even when the distant colors are integrated. By reducing the color by using a large similar area in the achromatic color area, it is possible to increase the compression efficiency while suppressing the deterioration of the image quality.

また本発明による画像読取装置においては、請求項4に示すとおり、前記の画像処理装置と、原稿のカラー画像を読み取る原稿読取手段とを備え、この原稿読取手段で取得した原画像のデータに基づいて前記画像処理装置にて所要の処理が行われてマルチレイヤ画像ファイルを出力するようにしたものとした。   According to a fourth aspect of the present invention, there is provided an image reading apparatus comprising the image processing apparatus and original reading means for reading a color image of an original, and based on original image data acquired by the original reading means. Thus, the image processing apparatus performs a required process and outputs a multilayer image file.

また本発明による画像処理方法においては、請求項5に示すとおり、原画像中に下地と異なる輝度で描画される主画像を原画像から取り出してその主画像を表示色ごとに振り分けて主画像の画データを色別に生成するステップと、前記主画像に対応する原画像中の部分をその周辺画素の画データに基づく所要の塗り潰し色で塗り潰して下地画像の画データを生成するステップと、これにより得られた主画像及び下地画像の各画データを互いに異なる圧縮方法にて圧縮処理するステップとを有し、前記主画像の画データを色別に生成するステップにおいて、主画像部分ごとに原画像から抽出された表示色候補を、所定の統合条件にしたがってその近傍の表示色候補と統合して表示色を決定するものとし、このとき、所定の無彩色領域とその外側の有彩色領域との両方に、前記統合条件を満足する複数の表示色候補が存在する場合には、その両方の領域に分かれて存在する表示色候補同士の統合は行わず、別々に表示色として採用するものとした。   In the image processing method according to the present invention, as shown in claim 5, a main image drawn with a luminance different from that of the background is extracted from the original image, and the main image is sorted by display color. A step of generating image data for each color, a step of generating a background image image data by painting a portion in the original image corresponding to the main image with a required fill color based on the image data of the surrounding pixels, and Compressing each image data of the obtained main image and background image by mutually different compression methods, and generating image data of the main image for each color from the original image for each main image portion The extracted display color candidates are integrated with the display color candidates in the vicinity thereof in accordance with a predetermined integration condition to determine the display color. At this time, the predetermined achromatic color region and the outside thereof are determined. When there are a plurality of display color candidates that satisfy the integration condition in both the chromatic color area, the display color candidates that exist separately in both areas are not integrated, and are separately displayed as display colors. Adopted.

これによると、無彩色領域を適切に設定すれば、原画像上で有彩色として視認可能な色が無彩色としてしか視認し得ない色に変化してしまう画質低下を避けることができる。   According to this, if the achromatic color region is appropriately set, it is possible to avoid a deterioration in image quality in which a color that can be visually recognized as a chromatic color on the original image changes to a color that can only be visually recognized as an achromatic color.

このように本発明によれば、減色による圧縮効率の向上を図るために、1色に統合する範囲を大きく設定することで、無彩色に近い色領域で見た印象が原画像と大きく変わってしまうような画質低下を避けることができ、これにより画質低下を抑制しつつ、圧縮効率を高めてデータサイズの削減を図る上で大きな効果が得られる。   As described above, according to the present invention, in order to improve the compression efficiency by subtractive color, by setting a large range to be integrated into one color, the impression seen in the color region close to the achromatic color is greatly changed from the original image. Thus, a significant effect can be obtained in reducing the data size by increasing the compression efficiency while suppressing the deterioration of the image quality.

以下、本発明の実施の形態を、図面を参照しながら説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

図1は、本発明による画像処理装置が適用された複合機の構成概略を示すブロック図である。この複合機は、原稿の画像を読み取るCCD1と、適切な読取結果が得られるようにCCD1からの画データを処理する読取データ処理部2と、適切なプリント結果が得られるように読取データ処理部2からの画データを処理するプリントデータ処理部3と、プリントデータ処理部3からの画データに基づいて記録紙に画像を記録するプリンタエンジン4とを有し、原稿画像を記録紙に複写する複写機能を備えている。   FIG. 1 is a block diagram showing a schematic configuration of a multifunction machine to which an image processing apparatus according to the present invention is applied. This multi-function machine includes a CCD 1 that reads an image of a document, a read data processing unit 2 that processes image data from the CCD 1 so as to obtain an appropriate read result, and a read data processing unit that obtains an appropriate print result. 2 has a print data processing unit 3 that processes image data from 2, and a printer engine 4 that records an image on recording paper based on the image data from the print data processing unit 3, and copies the original image onto the recording paper. It has a copy function.

また、この複合機は、原稿の画像を読み取って出力画像ファイルを作成するスキャナ機能を備えており、CCD1及び読取データ処理部2を経て得られた画データが、マルチレイア画像生成部5に送られ、ここで読取画データが下地画像と文字画像とに分離された上で異なる圧縮方法にて圧縮処理されてレイヤ別に格納したPDF(portable document format)のファイル形式による出力ファイル(マルチレイヤ画像ファイル)が作成される。   In addition, this multifunction device has a scanner function for reading an image of a document and creating an output image file, and image data obtained through the CCD 1 and the read data processing unit 2 is sent to the multi-layer image generation unit 5. In this case, the read image data is separated into a base image and a character image, compressed by a different compression method, and stored in a PDF (portable document format) file format (multi-layer image file). ) Is created.

さらに、この複合機は、PCなどのコンピュータ上の文書作成ソフトウェアで作成された文書の印刷データからマルチレイヤ画像ファイルを作成するデータ変換機能を備えており、ポストスクリプトなどのページ記述言語による印刷データがネットワーク制御部6で受信され、その印刷データがデータ変換部7にてRGBの画データに変換された後、マルチレイア画像生成部5に送られてマルチレイヤ画像ファイルが作成される。   Furthermore, this multifunction device has a data conversion function for creating a multi-layer image file from print data of a document created by document creation software on a computer such as a PC, and print data in a page description language such as a postscript. Is received by the network control unit 6, and the print data is converted into RGB image data by the data conversion unit 7 and then sent to the multi-layer image generation unit 5 to create a multilayer image file.

読取データ処理部2は、CCD1の出力信号のA/D変換及びオフセット調整を行うA/D・オフセット調整部11と、CCD1の感度ムラを修正するシェーディング・黒補正部12と、ラインセンサで構成されるCCD1による副走査方向のずれを補正するライン間補正部13と、CCD1の特性に応じたガンマ補正を行うガンマ補正部14とを有している。   The read data processing unit 2 includes an A / D / offset adjustment unit 11 that performs A / D conversion and offset adjustment of the output signal of the CCD 1, a shading / black correction unit 12 that corrects sensitivity unevenness of the CCD 1, and a line sensor. The line-to-line correction unit 13 corrects a shift in the sub-scanning direction caused by the CCD 1 and the gamma correction unit 14 performs gamma correction according to the characteristics of the CCD 1.

プリントデータ処理部3は、RGBの画データをCMYKの画データに色空間変換する色変換部16と、プリンタエンジン4の出力解像度に対応する画像サイズに拡大・縮小する変倍部17と、プリンタエンジン4の出力特性に適合するように階調を補正するプリンタ階調補正部18と、色変換部16及びプリンタ階調補正部18の処理を画像の特性に応じて適正に行わせるために文字や写真などの領域を検出する像域判定部19とを有している。   The print data processing unit 3 includes a color conversion unit 16 that performs color space conversion of RGB image data to CMYK image data, a scaling unit 17 that expands and contracts to an image size corresponding to the output resolution of the printer engine 4, and a printer. A printer gradation correction unit 18 that corrects gradation so as to conform to the output characteristics of the engine 4 and characters in order to appropriately perform the processing of the color conversion unit 16 and the printer gradation correction unit 18 according to the characteristics of the image. And an image area determination unit 19 for detecting an area such as a photograph.

図2は、図1に示したマルチレイア画像生成部の構成を示すブロック図である。マルチレイア画像生成部5は、カラーの原画像内において下地画像(背景画像)と異なる輝度で描画される文字や線画図形などの主画像を原画像から取り出す主画像生成部(主画像生成手段)21と、主画像に対応する原画像中の部分を所要の塗り潰し色で塗り潰して下地画像を生成する下地画像生成部(下地画像生成手段)22と、これにより得られた主画像及び下地画像とを互いに異なる圧縮方法にて圧縮処理する主画像圧縮部(画像圧縮手段)23及び下地画像圧縮部(画像圧縮手段)24と、これにより得られた主画像及び下地画像の各圧縮画像データを複数のレイヤに振り分けてファイル化するファイル生成部25とを有している。   FIG. 2 is a block diagram illustrating a configuration of the multi-layer image generation unit illustrated in FIG. The multi-layer image generation unit 5 extracts a main image such as a character or a line drawing figure drawn with a luminance different from that of the background image (background image) in the color original image from the original image (main image generation unit). 21, a background image generation unit (background image generation means) 22 that generates a background image by painting a portion of the original image corresponding to the main image with a predetermined fill color, and the main image and the background image obtained thereby A main image compression unit (image compression unit) 23 and a background image compression unit (image compression unit) 24 for compressing the image by different compression methods, and a plurality of compressed image data of the main image and the background image obtained thereby. And a file generation unit 25 for allocating the files to a file.

主画像生成部21は、RGBの画データから画素ごとの輝度を算出する輝度生成部31と、これにより得られた輝度画像を所定のしきい値を基準にして2値化する2値化処理部32と、これにより得られた2値画像内の文字や図形などの領域を判定する領域判定部33と、これにより得られた領域情報に基づいて文字や図形などの主画像を抽出する像抽出部34と、これにより得られた主画像の再生時の表示色を原画像から抽出する主画像色抽出部35と、これにより得られた表示色ごとに主画像を別レイヤでファイルに格納するために色別の主画像のデータを作成する色別レイヤ分割部36とを有している。   The main image generation unit 21 includes a luminance generation unit 31 that calculates luminance for each pixel from RGB image data, and a binarization process that binarizes the luminance image obtained thereby based on a predetermined threshold value. An image for extracting a main image such as a character or a graphic based on the area information obtained by the area determination unit 33 for determining an area such as a character or a graphic in the binary image obtained thereby; An extraction unit 34, a main image color extraction unit 35 that extracts a display color at the time of reproduction of the main image obtained thereby from the original image, and stores the main image in a file in a separate layer for each display color obtained thereby In order to do this, it has a color-by-color layer dividing unit 36 that creates data of main images by color.

領域判定部33では、2値画像内の文字、罫線で区切られた表、線画で描かれた図形、ビットマップイメージ(写真など)の各領域を判定し、ここで得られる各領域の2値画像上の位置(座標)に関する領域情報に基づいて像抽出部34において、主画像としての文字、罫線、並びに線画図形の画像が抽出される。文字領域では、行認識を経て1文字単位の画像を切り出す処理が行われる。表領域では、表構造を認識して罫線の画像、並びにセル単位の画像を切り出す処理を行うようにしても良い。   The area determination unit 33 determines each area of the character in the binary image, the table separated by the ruled line, the figure drawn by the line drawing, and the bitmap image (photograph, etc.), and the binary of each area obtained here Based on the area information regarding the position (coordinates) on the image, the image extracting unit 34 extracts characters, ruled lines, and line drawing figures as main images. In the character area, a process of cutting out an image of one character unit through line recognition is performed. In the table area, the table structure may be recognized and a ruled line image and a cell unit image may be cut out.

主画像圧縮部23では、2値画像の圧縮に適した圧縮方式、例えばMMRやJBIGにより文字や線画図形などの主画像のデータが圧縮処理される。下地画像圧縮部24では、多値画像の圧縮効率に優れた圧縮方式、例えばJPEGにより下地画像のデータが圧縮処理される。このようにして得られた主画像及び下地画像の各圧縮画像データは、ファイル生成部25で別レイヤとしてファイル化され、これにより原画像をそのままJPEG圧縮した場合に、周辺の下地部分より低輝度に描画された文字や線画などの主画像により、周辺の下地部分にモスキートノイズが発生することを避けることができる。   The main image compression unit 23 compresses main image data such as characters and line drawing figures by a compression method suitable for binary image compression, for example, MMR or JBIG. In the background image compression unit 24, the data of the background image is compressed by a compression method with excellent multi-value image compression efficiency, for example, JPEG. The compressed image data of the main image and the background image obtained in this manner is filed as a separate layer in the file generation unit 25, so that when the original image is directly JPEG compressed, the luminance is lower than that of the surrounding background portion. It is possible to avoid the occurrence of mosquito noise in the surrounding background portion due to the main images such as characters and line drawings drawn on the screen.

主画像の圧縮データを色別レイヤに振り分けるにあたっては、色別レイヤを予め所定の数(例えば、8つ)だけ設定しておき、主画像色抽出部35では、レイヤ数に対応する色数とするため、近似色に統一する減色処理が行われる。また主画像色抽出部35では、色別に分離された主画像(2値画像)の表示色と色別レイヤの識別番号との対応関係を示すカラーパレット情報が生成され、このカラーパレット情報は、ファイル生成部25においてマルチレイヤ画像ファイルに格納される。   In assigning the compressed data of the main image to the color-specific layers, a predetermined number (for example, eight) of color-specific layers is set in advance, and the main image color extracting unit 35 determines the number of colors corresponding to the number of layers. Therefore, a color reduction process for unifying the approximate colors is performed. The main image color extraction unit 35 generates color palette information indicating the correspondence between the display color of the main image (binary image) separated by color and the identification number of each color layer. The file generation unit 25 stores the multi-layer image file.

下地画像生成部22は、主画像生成部21の像抽出部34で得た2値の主画像の画線部、すなわち2値画像上で黒画素となる画素に対応する原画像中の部分をその周辺色に類似する塗り潰し色で塗り潰して下地画像を生成するものであり、塗り潰しのための塗り潰し色を原画像から抽出する塗り潰し色抽出部37と、主画像生成部21の像抽出部34で得た主画像の画線部に対応する原画像中の部分を、塗り潰し色抽出部37で得た塗り潰し色で塗り潰す塗り潰し処理部38とを有している。   The base image generation unit 22 represents a portion of the binary main image obtained by the image extraction unit 34 of the main image generation unit 21, that is, a portion in the original image corresponding to a pixel that is a black pixel on the binary image. A background image is generated by painting with a paint color similar to the surrounding color, and a paint color extracting unit 37 that extracts a paint color for painting from the original image and an image extracting unit 34 of the main image generating unit 21. A paint processing unit 38 is provided for painting a portion in the original image corresponding to the image line part of the obtained main image with the paint color obtained by the paint color extracting unit 37.

塗り潰し色抽出部37では、像抽出部34で得た主画像の画線部の周囲の非画線部に対応する原画像中の部分の画素値を参考にして塗り潰し色が決定される。特にここでは、RGBの画データがYCbCrの画データに変換された後、非画線部に対応する原画像中の部分の画素の輝度成分値に基づいて塗り潰し色の輝度成分値Yが決定され、他方、塗り潰し色の色差成分値(色度成分値)Cb・Crは、中間値、例えば色差成分値を256段階で表す場合にはCb=Cr=128に予め設定されており、塗り潰し色は無彩色となる。   The fill color extraction unit 37 determines the fill color with reference to the pixel values of the part in the original image corresponding to the non-image line part around the image line part of the main image obtained by the image extraction unit 34. In particular, here, after the RGB image data is converted to YCbCr image data, the luminance component value Y of the fill color is determined based on the luminance component value of the pixel in the portion of the original image corresponding to the non-image portion. On the other hand, the color difference component values (chromaticity component values) Cb · Cr of the fill color are preset to Cb = Cr = 128 when the intermediate value, for example, the color difference component value is expressed in 256 levels, and the fill color is It becomes achromatic.

下地画像圧縮部(画像圧縮手段)24では、下地画像のデータがJPEG圧縮され、このJPEG圧縮では、輝度成分値に対して色差成分値を大きく圧縮するダウンサンプリングが行われる。輝度成分値Y及び色差成分値Cb・Crのサンプリング比率Y:Cb:Crは、4:1:1、4:2:2、4:2:0のいずれかとすれば良い。   In the background image compression unit (image compression means) 24, the data of the background image is JPEG-compressed, and in this JPEG compression, downsampling for greatly compressing the color difference component value with respect to the luminance component value is performed. The sampling ratio Y: Cb: Cr of the luminance component value Y and the color difference component values Cb · Cr may be any one of 4: 1: 1, 4: 2: 2, 4: 2: 0.

図3は、図2に示したマルチレイヤ画像生成部での処理の要領を示す概念図である。主画像生成部21の輝度生成部31及び2値化処理部32を経て原画像を2値化した2値画像が得られ、さらに領域判定部33及び像抽出部34を経て文字、表、図形などの領域種別ごとの主画像の画データが得られ、文字領域の画像は、2値画像において文字に外接する矩形により1文字単位で切り分けて1文字ごとの文字画像が得られる。   FIG. 3 is a conceptual diagram showing a processing procedure in the multilayer image generation unit shown in FIG. A binary image obtained by binarizing the original image is obtained through the luminance generation unit 31 and the binarization processing unit 32 of the main image generation unit 21, and further, the characters, tables, and figures are obtained through the region determination unit 33 and the image extraction unit 34. The image data of the main image for each area type is obtained, and the image of the character area is segmented in units of one character by a rectangle circumscribing the character in the binary image to obtain a character image for each character.

主画像生成部21の主画像色抽出部35で行われる主画像の色の抽出、並びに下地画像生成部22の塗り潰し色抽出部37及び塗り潰し処理部38で行われる塗り潰し色の抽出及び塗りつぶしの処理は、JPEG圧縮処理での処理単位となる8×8画素からなるブロックごとに行われる。   Extraction of the color of the main image performed by the main image color extraction unit 35 of the main image generation unit 21, and extraction of the fill color and fill processing performed by the fill color extraction unit 37 and the fill processing unit 38 of the base image generation unit 22. Is performed for each block of 8 × 8 pixels, which is a processing unit in JPEG compression processing.

まず主画像生成部21の主画像色抽出部35では、2値画像上で黒画素となる画線部を構成する画素と同一座標の画素の色が多値画像(原画像)のデータから取得され、その多値画像上の各画素値に基づいて、主画像の画線部を表示する色(例えば、赤色)が決定される。そして主画像生成部21の色別レイヤ分割部36で、主画像色抽出部35により得られた表示色ごとに主画像を振り分けて色別の主画像のデータを作成する処理が行われる。   First, in the main image color extracting unit 35 of the main image generating unit 21, the color of the pixel having the same coordinate as that of the pixel constituting the image line unit which is a black pixel on the binary image is acquired from the data of the multi-valued image (original image). Then, based on each pixel value on the multi-valued image, a color (for example, red) for displaying the image line portion of the main image is determined. Then, the color layer dividing unit 36 of the main image generating unit 21 performs a process of distributing the main image for each display color obtained by the main image color extracting unit 35 and creating data of the main image for each color.

また下地画像生成部22の塗り潰し色抽出部37では、2値画像上で黒画素となる画線部の周囲で白画素となる非画線部を構成する画素と同一座標の画素の輝度成分値が、YCbCr表色系変換された多値画像のデータから取得され、その多値画像上の各画素ごとの輝度成分値の平均値が算出され、その平均輝度成分値と中間値(128)に予め設定され色差成分値とにより、塗り潰し色が決定される。例えば、2値画像の非画線部に対応する多値画像中の部分が青色であれば、塗り潰し処理部38で得られる下地画像では、2値画像の画線部に対応する部分がその周囲の青色と同一輝度の灰色で塗り潰された配色となる。   In addition, the fill color extraction unit 37 of the base image generation unit 22 has luminance component values of pixels having the same coordinates as the pixels constituting the non-image part that is a white pixel around the image line part that is a black pixel on the binary image. Is obtained from the data of the multivalued image subjected to the YCbCr color system conversion, the average value of the luminance component values for each pixel on the multivalued image is calculated, and the average luminance component value and the intermediate value (128) are calculated. The fill color is determined based on the color difference component value set in advance. For example, if the portion in the multi-valued image corresponding to the non-image area of the binary image is blue, the portion corresponding to the image area of the binary image is surrounded by the background image obtained by the fill processing unit 38. The color scheme is filled with gray with the same brightness as the blue color.

なお、主画像の表示色の取得の際には、処理ブロック内の画線部を構成する全ての画素を対象せず、適宜な規則にしたがって選出された複数の画素を対象として表示色を決定するものとしても良い。また下地画像の塗り潰し色の取得の際も、同様に非画線部を構成する画素の中から適宜な規則にしたがって選出された複数の画素を対象として塗り潰し色を決定するものとしても良い。この他、1文字ごとの文字画像の外周部に位置する画素を、下地画像の塗り潰し色決定の基準とすることも可能である。   When acquiring the display color of the main image, the display color is determined for a plurality of pixels selected according to an appropriate rule, not for all the pixels constituting the image line portion in the processing block. It is good to do. Similarly, when obtaining the fill color of the background image, the fill color may be determined for a plurality of pixels selected according to an appropriate rule from the pixels constituting the non-image portion. In addition, pixels located on the outer periphery of the character image for each character can be used as a reference for determining the fill color of the base image.

図4及び図5は、図2に示したマルチレイヤ画像生成部での処理の手順を示すフロー図である。ここでは、文字を主画像とした例について示す。   4 and 5 are flowcharts showing a processing procedure in the multilayer image generation unit shown in FIG. Here, an example in which characters are used as a main image is shown.

まずメモリに格納されたRGBによる原画像の画データが主画像生成部21において取得され(ステップ101)、ついで表色系(色空間)変換処理によりYCbCrによる画データが生成され(ステップ102)、その輝度成分値Yによる輝度画像が輝度生成部31で作成された後、その輝度画像を2値化する処理が2値化処理部32で行われる(ステップ103)。そして2値画像内の文字や図形などの領域を検出するレイアウト解析処理が領域判定部33で行われ、文字や図形などの領域種別や領域の原画像上の位置(座標)に関する属性を領域ごとに記載した領域リストが作成される(ステップ104)。   First, image data of an RGB original image stored in the memory is acquired in the main image generation unit 21 (step 101), and then image data based on YCbCr is generated by color system (color space) conversion processing (step 102). After the luminance image by the luminance component value Y is created by the luminance generation unit 31, the binarization processing unit 32 performs a process of binarizing the luminance image (step 103). A layout analysis process for detecting areas such as characters and graphics in the binary image is performed by the area determination unit 33, and attributes relating to the area type and the position (coordinates) of the area on the original image are set for each area. Is created (step 104).

次に1文字単位の画像を取得する工程(ステップ105〜108)に進み、ここではまず文字領域内の2値画像から1文字ごとの文字画像を切り出す処理が像抽出部34で行われ(ステップ106)、ついで切り出した1文字ごとの文字画像の格納先アドレスを領域リストに追加する処理が行われる(ステップ107)。   Next, the process proceeds to a process of acquiring an image of one character unit (steps 105 to 108). Here, a process of cutting out a character image for each character from the binary image in the character region is first performed by the image extraction unit 34 (step 106) Next, a process of adding the storage address of the character image for each character cut out to the area list is performed (step 107).

次に文字画像の表示色を1文字ごとに取得して色別文字レイヤに振り分けて圧縮処理する工程(ステップ109〜116)に進み、ここではまず領域リストを参照して文字領域に属する文字画像に関する処理ブロックごとの座標を求める処理が行われ、これにより得られた処理ブロックに関する情報を記載した文字リストが作成される(ステップ110)。そして文字リストに記載された処理ブロック単位で文字画像の表示色を取得する処理が主画像色抽出部35で行われ(ステップ112)、ついで処理ブロック単位の画像を表示色ごとに仕分けする処理が色別レイヤ分割部36で行われる(ステップ113)。さらに対象文字領域に属する全ての文字ごとの表示色の取得及び仕分けの処理が終了すると(ステップ114)、表示色ごとの2値画像を圧縮する処理が主画像圧縮部23で行われる(ステップ115)。   Next, the display color of the character image is acquired for each character, and the process proceeds to the step of compressing the image by assigning it to the character layer by color (steps 109 to 116). Here, the character image belonging to the character region is first referred to the region list. The processing for obtaining the coordinates for each processing block is performed, and a character list describing the information regarding the processing block thus obtained is created (step 110). Then, the process of acquiring the display color of the character image in units of processing blocks described in the character list is performed by the main image color extraction unit 35 (step 112), and then the process of sorting the image in units of processing blocks for each display color is performed. This is performed by the color-specific layer dividing unit 36 (step 113). Further, when the display color acquisition and sorting process for all characters belonging to the target character area is completed (step 114), the main image compression unit 23 performs a process of compressing the binary image for each display color (step 115). ).

次に図5に示すように、下地画像の塗り潰し色を処理ブロック単位で取得して塗り潰す工程(ステップ117〜123)に進み、ここではまず前記と同様に1文字ごとの処理ブロックに関する情報を記載した文字リストが作成された後(ステップ118)、文字リストに記載された処理ブロック単位で塗り潰し色を取得する処理が塗り潰し色抽出部37で行われ(ステップ120)、ついで取得した塗り潰し色で塗り潰す処理が塗り潰し処理部38で処理ブロック単位で行われる(ステップ121)。   Next, as shown in FIG. 5, the process proceeds to a process (steps 117 to 123) of obtaining and painting the fill color of the background image in units of processing blocks. Here, first, information on the processing block for each character is obtained as described above. After the described character list is created (step 118), a process of acquiring a fill color for each processing block described in the character list is performed by the fill color extracting unit 37 (step 120), and then the acquired fill color is used. The painting process is performed by the painting processing unit 38 in units of processing blocks (step 121).

そして1ページ分の塗り潰し処理が終了すると(ステップ123)、塗り潰し済みの多値画像をサブサンプリングしてJPEG圧縮する処理が下地画像圧縮部24で行われる(ステップ124・125)。   When the filling process for one page is completed (step 123), the background image compression unit 24 performs the sub-sampling of the filled multi-value image and JPEG compression (steps 124 and 125).

このようにして文字画像及び下地画像の圧縮データが取得されると、マルチレイヤ画像ファイルの作成の工程に進み、文字画像及び下地画像の各圧縮データにヘッダ情報を付けてファイルに書き込む処理がファイル生成部25で行われる(ステップ126・127)。   When the compressed data of the character image and the background image is acquired in this way, the process proceeds to the process of creating the multilayer image file, and the process of adding the header information to each compressed data of the character image and the background image and writing to the file is performed. This is performed by the generation unit 25 (steps 126 and 127).

図6・図7は、図4に示した文字色抽出処理の概要を示す概念図である。特に図7は、説明の便宜からRB平面で示している。主画像生成部21の主画像色抽出部35では、表示色数を所定値に制限するため、主画像部分ごとに原画像から抽出された表示色候補を、その近傍の表示色候補と統合して表示色が決定され、特にここでは、RGB色空間を等間隔に分割した分割空間について原則として表示色が1つ設定され、1つの分割空間に複数の表示色候補が存在する場合(統合条件)には、その複数の表示色候補を1つに統合する処理が行われる。   6 and 7 are conceptual diagrams showing an outline of the character color extraction process shown in FIG. In particular, FIG. 7 shows an RB plane for convenience of explanation. In the main image color extraction unit 35 of the main image generation unit 21, in order to limit the number of display colors to a predetermined value, the display color candidates extracted from the original image for each main image part are integrated with the display color candidates in the vicinity thereof. In particular, here, one display color is set in principle for a divided space obtained by dividing the RGB color space at equal intervals, and a plurality of display color candidates exist in one divided space (integration condition) ) Is performed to integrate the plurality of display color candidates into one.

原画像からの表示色候補の抽出処理では、主画像を連続的に構成する画素群、すなわち主画像を2値化して得られた2値画像上で黒画素となる画素の連続領域ごとに代表色を求め、これを表示色候補とする。このとき、黒画素の連続領域を構成する複数の画素値の平均値を算出する、すなわち各画素のRGBの各値をそれぞれ平均してRGBごとの平均値を算出して得られる平均色を代表色とすれば良い。また、1つの分割空間に複数の表示色候補が存在する場合の統合処理でも、同様に、複数の表示色候補の画素値の平均値を算出して得られる平均色を該当する分割空間の表示色候補とすれば良い。   In the process of extracting display color candidates from the original image, a pixel group that continuously constitutes the main image, that is, a continuous region of pixels that become black pixels on the binary image obtained by binarizing the main image is represented. A color is obtained and used as a display color candidate. At this time, the average value of a plurality of pixel values constituting a continuous area of black pixels is calculated, that is, the average value obtained by calculating the average value for each RGB by averaging the RGB values of each pixel is representative. Color should be used. Similarly, in the integration process in the case where a plurality of display color candidates exist in one divided space, similarly, the average color obtained by calculating the average value of the pixel values of the plurality of display color candidates is displayed in the corresponding divided space. Color candidates can be used.

なお、図6の例では、RGBの各成分値について分割数を4としており、分割空間の総数は4×4×4=64となるが、この分割数は、要求される圧縮率などに応じて適宜に設定すれば良く、分割数をこれよりも多く設定することも可能であり、例えばRGBの各成分値について分割数を16とすると良く、この場合、分割空間の総数は16×16×16=4096となる。   In the example of FIG. 6, the number of divisions is set to 4 for each RGB component value, and the total number of division spaces is 4 × 4 × 4 = 64, but this division number depends on the required compression rate and the like. It is possible to set the number of divisions more appropriately than this, and for example, the number of divisions may be 16 for each RGB component value. In this case, the total number of division spaces is 16 × 16 ×. 16 = 4096.

さらにここでは、白(R,G,B)=(0,0,0)と黒(R,G,B)=(255,255,255)とを結ぶ直線R=G=Bを中心とした所定の幅の領域を無彩色領域とし、この無彩色領域内の表示色候補と、無彩色領域の外側の有彩色領域内の表示色候補とで統合処理を別々に行うものとし、無彩色領域とその外側の有彩色領域との両方に、前記分割空間による統合条件を満足する複数の表示色候補が存在する場合には、その両方の領域に分かれて存在する表示色候補同士の統合は行わず、別々に表示色として採用するようにしている。   Furthermore, here, a straight line R = G = B connecting white (R, G, B) = (0, 0, 0) and black (R, G, B) = (255, 255, 255) is the center. An area of a predetermined width is defined as an achromatic color area, and the integration process is separately performed for the display color candidates in the achromatic color area and the display color candidates in the chromatic color area outside the achromatic color area. When there are a plurality of display color candidates that satisfy the integration condition of the divided space in both the chromatic color area and the outer chromatic color area, the display color candidates that exist separately in both areas are integrated. Instead, they are adopted separately as display colors.

したがって、無彩色領域を含む無彩色分割空間では、無彩色と有彩色との2つの表示色を設定することができ、無彩色分割空間内の無彩色領域に複数の表示色候補がある場合、並びに無彩色分割空間内の有彩色領域に複数の表示色候補がある場合には、各々で統合処理が行われる。他方、無彩色領域を含まない有彩色分割空間では、1つの表示色が設定され、複数の表示色候補がある場合にはそれらの統合処理が行われる。   Therefore, in the achromatic color division space including the achromatic color region, two display colors of the achromatic color and the chromatic color can be set, and when there are a plurality of display color candidates in the achromatic color region in the achromatic color division space, In addition, when there are a plurality of display color candidates in the chromatic color region in the achromatic color division space, the integration process is performed for each. On the other hand, in the chromatic color division space that does not include the achromatic color region, one display color is set, and when there are a plurality of display color candidates, their integration processing is performed.

無彩色領域は、色空間において無彩色となる直線R=G=Bを中心とし、境界までの距離を所定のしきい値により規定された領域であり、この無彩色領域は、RGB色空間において直線R=G=Bを中心線とした円柱状をなし、その大きさ(半径)を規定するしきい値は、RGBの各色成分値を0〜255の各値で表す場合、例えば15に設定されている。   The achromatic region is a region centered on a straight line R = G = B, which is an achromatic color in the color space, and the distance to the boundary is defined by a predetermined threshold value. The achromatic color region is the RGB color space. The threshold value that defines the size (radius) of the cylinder having the straight line R = G = B as the center line is set to 15 when the RGB color component values are represented by values of 0 to 255, for example. Has been.

またここでは、分割空間ごとの表示色候補に対して画素数に応じて設定された優先順位にしたがって表示色候補を表示色に決定し、このとき、表示色候補を中心とした類似領域内に優先順位の高い表示色が存在する場合には、その表示色に当該表示色候補を統合するようにしている。特に、無彩色領域内の表示色候補を統合する場合と、有彩色領域内の表示色候補を統合する場合とで、異なる大きさの類似領域を用いて統合処理が行われ、無彩色領域用の類似領域が、有彩色領域用の類似領域に比較して大きく設定されている。   Further, here, the display color candidate is determined as the display color according to the priority set in accordance with the number of pixels with respect to the display color candidate for each divided space, and at this time, in the similar region centered on the display color candidate. When there is a display color with a high priority, the display color candidate is integrated with the display color. In particular, when the display color candidates in the achromatic color area are integrated and when the display color candidates in the chromatic color area are integrated, integration processing is performed using similar areas of different sizes, and for the achromatic color area. The similar region is set larger than the similar region for the chromatic color region.

類似領域は、対象とする表示色候補を中心として、境界までの距離を所定のしきい値により規定された領域であり、この類似領域は、表示色候補を中心とした球状をなし、その大きさ(半径)を規定するしきい値は、例えば無彩色用で96、有彩色用で32に設定されている。   The similar region is a region in which the target display color candidate is the center and the distance to the boundary is defined by a predetermined threshold. The similar region is a sphere centered on the display color candidate and has a large size. The threshold value defining the thickness (radius) is set to 96 for achromatic colors and 32 for chromatic colors, for example.

図7の例では、まず第1位の表示色候補が表示色に決定される。そして、この第1位の表示色候補が有彩色であるのに対して、第2位の表示色候補は無彩色であるため、両者は、共に同一の分割空間内にあるが統合されず、第2位の表示色候補も表示色に決定される。これに対し、第3位の表示色候補は有彩色であるため、類似領域により統合の要否が判定され、ここでは第3位の表示色候補を中心とした類似領域内に第1位の表示色候補が存在するため、第3位の表示色候補は先順位で優先度が高い第1位の表示色候補に統合される。   In the example of FIG. 7, first, the first display color candidate is determined as the display color. And since this first display color candidate is a chromatic color, the second display color candidate is an achromatic color, so both are in the same divided space but are not integrated, The second display color candidate is also determined as the display color. On the other hand, since the third display color candidate is a chromatic color, the necessity of integration is determined by the similar region. Here, the first display color candidate is ranked first in the similar region centered on the third display color candidate. Since there are display color candidates, the third display color candidate is integrated with the first display color candidate with the highest priority in the prior order.

これに対し、例えば、表示色候補の値を平均して統合する従来の手法では、第1位及び第2位の表示色候補がそれらの平均色(無彩色)に統合され、さらにその平均色に優先度が低い第3位の表示色候補が統合され、これにより有彩色の第1位及び第3位の表示色候補のいずれも表示色に採用されないという不都合が生じるが、本発明のように構成すると、有彩色の第1位の表示色候補が表示色に採用されるため、原画像と色味が変化する画質低下を避けることができる。   On the other hand, for example, in the conventional method of averaging and integrating the display color candidate values, the first and second display color candidates are integrated into their average colors (achromatic colors), and the average color The third priority display color candidate having a low priority is integrated into the display color, and this causes a disadvantage that neither the first or third display color candidate of the chromatic color is adopted as the display color. With this configuration, since the first display color candidate of the chromatic color is adopted as the display color, it is possible to avoid deterioration in image quality in which the color changes from the original image.

以上のようにして、主画像部分(黒画素の連続領域)ごとに原画像から抽出された表示色候補を所定の統合条件にしたがって統合して表示色が決定されるが、この表示色の色数は、像域判定部19で検出された文字、罫線で区切られた表、線画で描かれた図形などの各領域ごとに所定数、例えば12に制限される。表示色数が所定数に達した場合には処理が終了し、このとき、表示色として採用されない表示色候補は切り捨てられるが、前記のように、画素数に応じて設定された優先順位にしたがって表示色候補を表示色に決定するため、見た印象が大きく変化するような画質低下を避けることができる。   As described above, display colors are determined by integrating display color candidates extracted from the original image for each main image portion (continuous region of black pixels) according to a predetermined integration condition. The number is limited to a predetermined number, for example, 12 for each region such as a character detected by the image area determination unit 19, a table delimited by ruled lines, and a figure drawn by a line drawing. When the number of display colors reaches a predetermined number, the process ends. At this time, display color candidates that are not adopted as display colors are discarded, but according to the priority set according to the number of pixels as described above. Since the display color candidate is determined as the display color, it is possible to avoid image quality deterioration that greatly changes the viewed impression.

図8は、図4に示した文字色抽出の処理手順を示すフロー図である。この文字色抽出の処理は、図2に示した主画像生成部21の主画像色抽出部35にて行われるものであり、黒画素の連続領域を1単位として各々に対して画素数の多い順に番号を付けたラベリングデータの代表色を表示色候補として登録し、この表示色候補を画素数に応じた優先順位に基づいて順に表示色に決定し、このとき所定の統合条件にしたがって近似色が1つの表示色に統合されて、所定数を超えない範囲で表示色が決定される。   FIG. 8 is a flowchart showing a processing procedure of character color extraction shown in FIG. This character color extraction process is performed by the main image color extracting unit 35 of the main image generating unit 21 shown in FIG. 2, and the number of pixels is large with respect to each continuous area of black pixels. The representative colors of the numbered labeling data are registered as display color candidates, and the display color candidates are sequentially determined as display colors based on the priority order according to the number of pixels. At this time, approximate colors are determined according to predetermined integration conditions. Are integrated into one display color, and the display color is determined in a range not exceeding a predetermined number.

まず、文字ブロックを複数のラベリングデータに分解する処理が行われ(ステップ201)、ついでそれらのラベリングデータに含まれる各画素の値を平均してラベリングデータの代表色を取得する処理が行われる(ステップ202)。そして所定のしきい値に基づいてラベリングデータの代表色が無彩色か否か、すなわち図7に示した無彩色領域にあるか否かの判定が行われ(ステップ203)、無彩色であれば、そのラベリングデータの代表色を該当する無彩色分割空間に無彩色の表示色候補として登録する処理が行われ(ステップ204)、無彩色でない、すなわち有彩色であれば、そのラベリングデータの代表色を該当する無彩色あるいは有彩色の分割空間に有彩色の表示色候補として登録する処理が行われる(ステップ205)。   First, a process of decomposing a character block into a plurality of labeling data is performed (step 201), and then a process of obtaining a representative color of the labeling data by averaging the values of each pixel included in the labeling data (step 201). Step 202). Based on a predetermined threshold value, it is determined whether or not the representative color of the labeling data is an achromatic color, that is, whether or not it is in the achromatic color region shown in FIG. 7 (step 203). Then, a process of registering the representative color of the labeling data as an achromatic color candidate in the corresponding achromatic color divided space is performed (step 204), and if it is not an achromatic color, that is, if it is a chromatic color, the representative color of the labeling data Is registered as a chromatic color display color candidate in the corresponding achromatic or chromatic color divided space (step 205).

次に表示色候補に対応する分割空間に含まれる画素数を計数して、表示色候補を画素数が多い順に並べ換える処理が行われる(ステップ206)。ついで各分割空間について、その中に表示色候補が複数存在する場合に、それらの複数の表示色候補の値を平均して各分割空間ごとの代表となる表示色候補を求める処理が行われる(ステップ207)。ここで、無彩色分割空間では、無彩色領域と有彩色領域とで別々に平均化処理が行われ、ラベリングデータの表示色候補が両領域に分かれて存在する場合には、代表となる表示色候補が2つ設定される。   Next, the number of pixels included in the divided space corresponding to the display color candidates is counted, and the process of rearranging the display color candidates in the descending order of the number of pixels is performed (step 206). Next, when there are a plurality of display color candidates in each divided space, a process for obtaining a representative display color candidate for each divided space is performed by averaging the values of the plurality of display color candidates ( Step 207). Here, in the achromatic color division space, averaging processing is performed separately for the achromatic color region and the chromatic color region, and when the display color candidates for the labeling data are divided into both regions, the representative display color is displayed. Two candidates are set.

次に優先順位にしたがって表示色候補を選択し、このとき未処理の表示色候補が存在するする場合には(ステップ208)、決定済みの表示色数が所定のしきい値未満であるか否かの判定が行われ(ステップ209)、ここで表示色数がしきい値未満と判定されると、決定済みの表示色が存在するか否かの判定が行われ(ステップ210)、決定済みの表示色が存在しない、すなわち最も優先順位の高い最初の表示色候補であれば、その表示色候補を表示色に決定する処理が行われ(ステップ211)、次の表示色候補の処理に進む(ステップ208〜210)。   Next, display color candidates are selected according to the priority order. If there are unprocessed display color candidates at this time (step 208), whether or not the determined number of display colors is less than a predetermined threshold value. Is determined (step 209), and if it is determined that the number of display colors is less than the threshold value, it is determined whether or not there is a determined display color (step 210). If there is no display color, that is, the first display color candidate with the highest priority, the display color candidate is determined as the display color (step 211), and the process proceeds to the next display color candidate process. (Steps 208-210).

そして決定済みの表示色が存在するか否かの判定(ステップ210)において、決定済みの表示色が存在するものと判定されると、対象とする表示色候補が無彩色か否か、すなわち図7に示した無彩色領域内にあるか否かの判定が行われ(ステップ212)、ここで表示色候補が無彩色であれば、決定済みの無彩色の表示色の中から対象とする表示色候補に近いものを探索する処理が行われ(ステップ213)、表示色候補が無彩色でない、すなわち有彩色であれば、決定済みの有彩色の表示色の中から対象とする表示色候補に近いものを探索する処理が行われる(ステップ214)。   If it is determined in step 210 that the determined display color is present (step 210), it is determined whether the target display color candidate is an achromatic color. 7 is determined (step 212). If the display color candidate is an achromatic color, the target display is selected from the determined achromatic display colors. A process for searching for a color candidate that is close to the color candidate is performed (step 213). If the display color candidate is not an achromatic color, that is, if it is a chromatic color, the display color candidate that has been determined is selected as a target display color candidate. A process for searching for a nearby object is performed (step 214).

ついで前記の探索処理(ステップ213・214)により見つかった決定済みの表示色が対象とする表示色候補を中心とした類似領域の中にあるか否かの判定が、無彩色用及び有彩色用の各しきい値を用いて行われ(ステップ215)、ここで対象とする表示色候補の類似領域内に決定済みの表示色がないものと判定されると、その表示色候補を表示色に決定する処理が行われる(ステップ216)。他方、対象とする表示色候補の類似領域内に決定済みの表示色があるものと判定されると、その表示色候補を削除する処理が行われる(ステップ217)。   Next, whether or not the determined display color found by the search process (steps 213 and 214) is in a similar region centered on the target display color candidate is determined for achromatic color and chromatic color. (Step 215). If it is determined that there is no display color already determined in the similar region of the target display color candidate, the display color candidate is set as the display color. Processing to determine is performed (step 216). On the other hand, if it is determined that there is a determined display color in the similar region of the target display color candidate, processing for deleting the display color candidate is performed (step 217).

以上の処理が優先順位に従って各表示色候補について行われ、未処理の表示色候補が存在するか否かの判定(ステップ208)で、未処理の表示色候補が存在しないものと判定されると、処理を終了する。また決定済みの表示色数が所定のしきい値未満であるか否かの判定(ステップ209)で、表示色数が所定のしきい値未満でない、すなわち表示色数が所定のしきい値に到達してこれ以上の表示色の登録ができないものと判定されると、未処理の表示色候補が残っている場合でも処理を終了する。   When the above processing is performed for each display color candidate according to the priority order, and it is determined in step 208 that there is no unprocessed display color candidate, it is determined that there is no unprocessed display color candidate. The process is terminated. In the determination of whether or not the determined display color number is less than the predetermined threshold value (step 209), the display color number is not less than the predetermined threshold value, that is, the display color number is set to the predetermined threshold value. If it is determined that it is not possible to register any more display colors, the process ends even if there are unprocessed display color candidates remaining.

図9は、図4に示した文字画像色別分離の処理手順を示すフロー図である。この文字画像色別分離の処理は、図2に示した主画像生成部21の色別レイヤ分割部36にて行われるものであり、図8に示した文字色抽出の処理で取得した表示色ごとに、ラベリングデータの代表色に基づいて各ラベリングデータを仕分けして、別レイヤでファイルに格納される主画像の画データを色別に生成する。   FIG. 9 is a flowchart showing a processing procedure of character image color separation shown in FIG. This character image color separation processing is performed by the color layer division unit 36 of the main image generation unit 21 shown in FIG. 2, and the display color acquired by the character color extraction processing shown in FIG. Each time, the labeling data is sorted based on the representative color of the labeling data, and the image data of the main image stored in the file in another layer is generated for each color.

まず、文字ブロックを複数のラベリングデータに分解する処理が行われ(ステップ301)、ついで未処理のラベリングデータが存在するか否かの判定が行われ(ステップ302)、未処理のラベリングデータがあれば、当該ラベリングデータの代表色が無彩色か否かの判定が行われ(ステップ303)、その代表色が無彩色であれば、無彩色の表示色の中から当該ラベリングデータの代表色に最も近いものを探索する処理が行われ(ステップ304)、これにより取得した表示色で当該ラベリングデータを描画するものとする(ステップ305)。   First, a process of decomposing a character block into a plurality of labeling data is performed (step 301), then it is determined whether or not unprocessed labeling data exists (step 302), and there is unprocessed labeling data. For example, it is determined whether or not the representative color of the labeling data is an achromatic color (step 303). If the representative color is an achromatic color, the most representative color of the labeling data is selected from the achromatic display colors. A process of searching for a close object is performed (step 304), and the labeling data is drawn with the display color acquired thereby (step 305).

他方、ラベリングデータの代表色が無彩色か否かの判定(ステップ303)で、無彩色でない、すなわち有彩色と判定されると、有彩色の表示色の中から当該ラベリングデータの代表色に最も近いものを探索する処理が行われ(ステップ306)、ついでこの探索処理により見つかった表示色と当該ラベリングデータの代表色とを比較して両者が所定のしきい値以内にあるか否かの判定が行われ(ステップ307)、ここでしきい値以内と判定されると、探索処理(ステップ306)により見つかった表示色で当該ラベリングデータを描画するものとする(ステップ305)。   On the other hand, if it is determined whether the representative color of the labeling data is an achromatic color (step 303), it is determined that the representative color of the labeling data is not the achromatic color, that is, if it is determined to be a chromatic color, the most representative color of the labeling data. A process of searching for a close one is performed (step 306), and then the display color found by the search process is compared with the representative color of the labeling data to determine whether or not both are within a predetermined threshold value. (Step 307). If it is determined that the value is within the threshold value, the labeling data is drawn with the display color found by the search process (step 306) (step 305).

これに対して、しきい値による判定(ステップ307)で、探索処理(ステップ306)により見つかった表示色がしきい値以内にないものと判定されると、当該ラベリングデータをリストから外す処理が行われ(ステップ308)、これにより該当するラベリングデータを主画像として描画するのを断念し、これに対応する主画像部分は下地画像として表示される。これにより、色調が大きく離れた表示色で描画されることを避けることができる。このようにして注目したラベリングデータの処理が終了すると、次のラベリングデータの処理に進み、同様の処理が全てのラベリングデータについて繰り返し行われる。   On the other hand, if it is determined that the display color found by the search process (step 306) is not within the threshold value in the determination based on the threshold value (step 307), the process of removing the labeling data from the list is performed. This is done (step 308), thereby abandoning drawing of the corresponding labeling data as the main image, and the main image portion corresponding to this is displayed as the background image. Thereby, it is possible to avoid drawing with a display color whose color tone is greatly separated. When the processing of the labeling data focused in this way is completed, the process proceeds to the processing of the next labeling data, and the same processing is repeated for all the labeling data.

本発明にかかる画像処理装置及びこれを備えた画像読取装置並びに画像処理方法は、カラー画像をマルチレイヤ化するための色別の主画像を生成する際に、色の統合による減色において人間の色覚上の特性から無彩色に近い色領域で見た印象が原画像と大きく変わってしまう画質低下が生じることを避けることができる効果を有し、カラー画像を複数のレイヤに分けてファイル化する、いわゆるマルチレイヤ画像を生成する画像処理装置及びこれを備えた画像読取装置並びに画像処理方法などとして有用である。   An image processing apparatus, an image reading apparatus provided with the image processing apparatus, and an image processing method according to the present invention provide a human color vision in color reduction by color integration when generating a color-specific main image for multi-layering a color image. Due to the above characteristics, it has the effect of avoiding the image quality degradation that the impression seen in the color area close to achromatic color greatly changes from the original image, and the color image is divided into multiple layers and filed. The present invention is useful as an image processing apparatus that generates a so-called multi-layer image, an image reading apparatus including the image processing apparatus, and an image processing method.

本発明による画像処理装置が適用された複合機の構成概略を示すブロック図1 is a block diagram showing a schematic configuration of a multifunction machine to which an image processing apparatus according to the present invention is applied. 図1に示したマルチレイア画像生成部の構成を示すブロック図The block diagram which shows the structure of the multi-layer image production | generation part shown in FIG. 図2に示したマルチレイヤ画像生成部での処理の要領を示す概念図The conceptual diagram which shows the point of the process in the multilayer image generation part shown in FIG. 図2に示したマルチレイヤ画像生成部での処理の手順を示すフロー図The flowchart which shows the procedure of the process in the multilayer image generation part shown in FIG. 図2に示したマルチレイヤ画像生成部での処理の手順を示すフロー図The flowchart which shows the procedure of the process in the multilayer image generation part shown in FIG. 図4に示した文字色抽出処理の概要を示す概念図Conceptual diagram showing an outline of the character color extraction process shown in FIG. 図4に示した文字色抽出処理の概要を示す概念図Conceptual diagram showing an outline of the character color extraction process shown in FIG. 図4に示した文字色抽出処理の手順を示すフロー図The flowchart which shows the procedure of the character color extraction process shown in FIG. 図4に示した文字画像色別分離処理の手順を示すフロー図FIG. 4 is a flowchart showing the procedure of character image color separation processing shown in FIG.

符号の説明Explanation of symbols

5 マルチレイア画像生成部
21 主画像生成部(主画像生成手段)
22 下地画像生成部(下地画像生成手段)
23 主画像圧縮部(画像圧縮手段)
24 下地画像圧縮部(画像圧縮手段)
37 塗り潰し色抽出部
38 塗り潰し処理部
5 Multilayer image generation unit 21 Main image generation unit (main image generation means)
22 Background image generation unit (background image generation means)
23 Main image compression unit (image compression means)
24 Base image compression unit (image compression means)
37 Fill Color Extraction Unit 38 Fill Processing Unit

Claims (5)

原画像中に下地と異なる輝度で描画される主画像を原画像から取り出してその主画像を表示色ごとに振り分けて主画像の画データを色別に生成する主画像生成手段と、
前記主画像に対応する原画像中の部分をその周辺画素の画データに基づく所要の塗り潰し色で塗り潰して下地画像の画データを生成する下地画像生成手段と、
これにより得られた主画像及び下地画像の各画データを互いに異なる圧縮方法にて圧縮処理する画像圧縮手段とを有し、
前記主画像生成手段が、主画像部分ごとに原画像から抽出された表示色候補を、所定の統合条件にしたがってその近傍の表示色候補と統合して表示色を決定するものとし、このとき、所定の無彩色領域とその外側の有彩色領域との両方に、前記統合条件を満足する複数の表示色候補が存在する場合には、その両方の領域に分かれて存在する表示色候補同士の統合は行わず、別々に表示色として採用するようにしたことを特徴とする画像処理装置。
Main image generation means for extracting a main image drawn with a luminance different from that of the background in the original image from the original image and distributing the main image for each display color to generate image data of the main image for each color;
A background image generation means for generating a background image image data by painting a portion in the original image corresponding to the main image with a required fill color based on image data of surrounding pixels;
Image compression means for compressing each image data of the main image and the background image obtained thereby by different compression methods;
The main image generation means determines the display color by integrating the display color candidates extracted from the original image for each main image portion with the display color candidates in the vicinity thereof according to a predetermined integration condition. When there are a plurality of display color candidates that satisfy the integration condition in both the predetermined achromatic color area and the chromatic color area outside the predetermined achromatic color area, the display color candidates that exist separately in both areas are integrated. An image processing apparatus characterized in that the display color is adopted separately.
前記主画像生成手段が、色空間を等間隔に分割した分割空間の1つに含まれることを前記統合条件として複数の表示色候補を1つに統合すると共に、その分割空間ごとの表示色候補に対して画素数に応じて設定された優先順位にしたがって表示色候補を表示色に決定し、このとき、表示色候補を中心とした所定の類似領域内に優先順位の高い表示色が存在する場合には、その表示色に当該表示色候補を統合するようにしたことを特徴とする請求項1に記載の画像処理装置。   The main image generation means integrates a plurality of display color candidates into one as a result of being included in one of the divided spaces obtained by dividing the color space at equal intervals, and the display color candidates for each divided space Display color candidates are determined as display colors according to the priority order set according to the number of pixels. At this time, a display color with a high priority order exists in a predetermined similar region centering on the display color candidates. 2. The image processing apparatus according to claim 1, wherein the display color candidates are integrated with the display color. 前記主画像生成手段が、前記無彩色領域内の表示色候補を統合する場合と、前記有彩色領域内の表示色候補を統合する場合とで、異なる大きさの前記類似領域を用いて統合処理を行い、前記無彩色領域用の類似領域が、前記有彩色領域用の類似領域に比較して大きく設定されたことを特徴とする請求項2に記載の画像処理装置。   Integration processing using the similar regions having different sizes when the main image generation unit integrates display color candidates in the achromatic color region and when integrates display color candidates in the chromatic color region The image processing apparatus according to claim 2, wherein the similar region for the achromatic color region is set to be larger than the similar region for the chromatic color region. 請求項1乃至請求項3のいずれかに記載の画像処理装置と、原稿のカラー画像を読み取る原稿読取手段とを備え、この原稿読取手段で取得した原画像のデータに基づいて前記画像処理装置にて所要の処理が行われてマルチレイヤ画像ファイルを出力するようにしたことを特徴とする画像読取装置。   An image processing apparatus according to any one of claims 1 to 3 and an original reading unit that reads a color image of an original, and the image processing apparatus includes the original image data acquired by the original reading unit. An image reading apparatus in which a required process is performed and a multilayer image file is output. 原画像中に下地と異なる輝度で描画される主画像を原画像から取り出してその主画像を表示色ごとに振り分けて主画像の画データを色別に生成するステップと、
前記主画像に対応する原画像中の部分をその周辺画素の画データに基づく所要の塗り潰し色で塗り潰して下地画像の画データを生成するステップと、
これにより得られた主画像及び下地画像の各画データを互いに異なる圧縮方法にて圧縮処理するステップとを有し、
前記主画像の画データを色別に生成するステップにおいて、主画像部分ごとに原画像から抽出された表示色候補を、所定の統合条件にしたがってその近傍の表示色候補と統合して表示色を決定するものとし、このとき、所定の無彩色領域とその外側の有彩色領域との両方に、前記統合条件を満足する複数の表示色候補が存在する場合には、その両方の領域に分かれて存在する表示色候補同士の統合は行わず、別々に表示色として採用することを特徴とする画像処理方法。
Extracting a main image drawn with a luminance different from the background in the original image from the original image and distributing the main image for each display color to generate image data of the main image for each color;
Generating a background image image data by painting a portion in the original image corresponding to the main image with a required fill color based on the image data of the surrounding pixels;
Compressing each image data of the main image and the background image obtained thereby by different compression methods,
In the step of generating image data of the main image for each color, a display color candidate extracted from the original image for each main image portion is integrated with a display color candidate in the vicinity thereof according to a predetermined integration condition to determine a display color. In this case, if there are a plurality of display color candidates that satisfy the integration condition in both the predetermined achromatic color area and the chromatic color area outside the predetermined achromatic color area, the display color is divided into both areas. An image processing method characterized in that display color candidates to be used are not integrated but are separately adopted as display colors.
JP2005131103A 2005-04-28 2005-04-28 Image processing apparatus, image reading apparatus including the same, and image processing method Expired - Fee Related JP4648073B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005131103A JP4648073B2 (en) 2005-04-28 2005-04-28 Image processing apparatus, image reading apparatus including the same, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005131103A JP4648073B2 (en) 2005-04-28 2005-04-28 Image processing apparatus, image reading apparatus including the same, and image processing method

Publications (2)

Publication Number Publication Date
JP2006311193A true JP2006311193A (en) 2006-11-09
JP4648073B2 JP4648073B2 (en) 2011-03-09

Family

ID=37477561

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005131103A Expired - Fee Related JP4648073B2 (en) 2005-04-28 2005-04-28 Image processing apparatus, image reading apparatus including the same, and image processing method

Country Status (1)

Country Link
JP (1) JP4648073B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010171735A (en) * 2009-01-22 2010-08-05 Sharp Corp Method, and apparatus for compressing image, image forming apparatus, computer program and recording medium
JP2015029242A (en) * 2013-06-28 2015-02-12 京セラドキュメントソリューションズ株式会社 Image processing system

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0822532A (en) * 1994-07-07 1996-01-23 Fuji Xerox Co Ltd Color picture processor for subtractive color processing
JPH0884257A (en) * 1994-09-14 1996-03-26 Canon Inc Image processing unit and its method

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0822532A (en) * 1994-07-07 1996-01-23 Fuji Xerox Co Ltd Color picture processor for subtractive color processing
JPH0884257A (en) * 1994-09-14 1996-03-26 Canon Inc Image processing unit and its method

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010171735A (en) * 2009-01-22 2010-08-05 Sharp Corp Method, and apparatus for compressing image, image forming apparatus, computer program and recording medium
JP4698743B2 (en) * 2009-01-22 2011-06-08 シャープ株式会社 Image compression method, image compression apparatus, image forming apparatus, computer program, and recording medium
US8280160B2 (en) 2009-01-22 2012-10-02 Sharp Kabushiki Kaisha Image compressing method, image compressing apparatus and image forming apparatus
JP2015029242A (en) * 2013-06-28 2015-02-12 京セラドキュメントソリューションズ株式会社 Image processing system

Also Published As

Publication number Publication date
JP4648073B2 (en) 2011-03-09

Similar Documents

Publication Publication Date Title
JP4568460B2 (en) Image processing apparatus and recording medium
JP4295882B2 (en) Method for classifying digital image data and method for classifying and classifying data blocks
JP4071701B2 (en) Color image compression method and color image compression apparatus
KR100994644B1 (en) Image processing apparatus and method thereof
US20030118234A1 (en) Image processing device, image processing method, program for executing image processing, and computer readable recording medium on which the program is stored
JP4861967B2 (en) Image processing apparatus, image processing method, image processing program, image forming apparatus, and storage medium
US8565531B2 (en) Edge detection for mixed raster content (MRC) images for improved compression and image quality
US20090284801A1 (en) Image processing apparatus and image processing method
JP2005045404A (en) Image processor and method, and program
JP4035456B2 (en) Image compression method and image compression apparatus
JP4695914B2 (en) Image processing apparatus and image processing method
JP2016184914A (en) Image processing apparatus
US8577132B2 (en) Electronic document generation system, electronic document generation method, and program
JP4648073B2 (en) Image processing apparatus, image reading apparatus including the same, and image processing method
JP5003445B2 (en) Image processing apparatus, character area specifying method, and character area specifying program
JP4710672B2 (en) Character color discrimination device, character color discrimination method, and computer program
JP2009017247A (en) Image processing device and program
JP6641982B2 (en) Image processing apparatus, image processing method, and program
JP6025803B2 (en) Image processing device
JP7185451B2 (en) Image processing device, image processing method, and program
JP7413751B2 (en) Image processing systems and programs
US20100188670A1 (en) Image processing apparatus, image processing method and program executing the image processing method
US11831834B2 (en) Information processing apparatus, method, and product performing multiplexing processing by different methods with respect to printing and non-printing areas
JP4165599B2 (en) Image processing device
JP5884509B2 (en) Image processing apparatus, image reading apparatus, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080409

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101124

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101209

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131217

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4648073

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees