JP2016019267A - Image processing system, image processing method, and program - Google Patents

Image processing system, image processing method, and program Download PDF

Info

Publication number
JP2016019267A
JP2016019267A JP2014143127A JP2014143127A JP2016019267A JP 2016019267 A JP2016019267 A JP 2016019267A JP 2014143127 A JP2014143127 A JP 2014143127A JP 2014143127 A JP2014143127 A JP 2014143127A JP 2016019267 A JP2016019267 A JP 2016019267A
Authority
JP
Japan
Prior art keywords
image
information
image information
exposure
line sensors
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014143127A
Other languages
Japanese (ja)
Inventor
酒井 教雄
Norio Sakai
教雄 酒井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2014143127A priority Critical patent/JP2016019267A/en
Publication of JP2016019267A publication Critical patent/JP2016019267A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Optical Systems Of Projection Type Copiers (AREA)
  • Image Input (AREA)
  • Facsimile Scanning Arrangements (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an image processing system capable of obtaining a high-quality image under simple control and without requiring much time in such a case that an image subjected to read is not settled within one field.SOLUTION: The image processing system includes a plurality of sensor modules which are arranged side by side in a direction of document conveyance, each sensor module including a plurality of line sensors arranged side by side in the direction of document conveyance. Different positions on a document are read by the plurality of line sensors, and information acquired from the read positions is integrated by performing temporal delay processing thereon and acquired as image information. For the plurality of sensor modules, the numbers of line sensors to be integrated are set at different values, image information for which information items as many as the set number of line sensors are integrated, is acquired for each of the plurality of corresponding sensor modules, and a plurality of acquired image information items are combined.SELECTED DRAWING: Figure 2

Description

本発明は、画像処理装置、画像処理方法、及び、プログラムに関する。   The present invention relates to an image processing apparatus, an image processing method, and a program.

ダイナミックレンジを拡大させるために、露光時間の異なる画像を複数読み取り、それらを合成する方法が知られている。例えば、特許文献1には、デジタルカメラにおいて露光時間の異なる画像を1フィールド内に取得する方法が開示されている。また、特許文献2には、原稿に対して異なる露光条件で読み取ったものを、一度の走査で取得する方法が開示されている。   In order to expand the dynamic range, a method of reading a plurality of images with different exposure times and combining them is known. For example, Patent Document 1 discloses a method for acquiring images with different exposure times in one field in a digital camera. Japanese Patent Application Laid-Open No. 2004-228561 discloses a method of acquiring a document read under different exposure conditions by a single scan.

しかし、従来は、CCDの感度やランプ照度を変化させながら原稿を複数回読み取っているため、原稿を移動させる場合のように、読取対象画像が1フィールド内に収まらない場合、各画像の読み取り位置が異なり、正しく合成ができず、高画質の画像を得られないという問題がある。また、従来の方法では、原稿を複数回読み取るため多大な時間を要するという問題がある。   However, conventionally, since the document is read a plurality of times while changing the sensitivity of the CCD and the lamp illuminance, when the image to be read does not fit in one field as in the case of moving the document, the reading position of each image However, there is a problem that high-quality images cannot be obtained because they cannot be combined correctly. Further, the conventional method has a problem that it takes a lot of time to read the document a plurality of times.

また、ダイナミックレンジを拡大させるため、従来は、特許文献2に係る技術のように、ラインごとに異なる露光条件による処理を要するという複雑な制御が必要である。また、特許文献2に係る技術は、走査速度を通常時より遅くする必要があるため、処理に多大な時間を要する。   In order to expand the dynamic range, conventionally, as in the technique according to Patent Document 2, complicated control that requires processing under different exposure conditions for each line is necessary. Further, the technique according to Patent Document 2 requires a long time for processing because the scanning speed needs to be slower than normal.

本発明は、このような実情に鑑みてなされたものであって、読取対象画像が1フィールドに収まらないような場合に、簡易な制御で、多大な時間を要さず、高画質の画像を得ることができる画像処理装置を提供することを目的とする。   The present invention has been made in view of such circumstances, and in the case where an image to be read does not fit in one field, a high-quality image can be obtained with a simple control without requiring much time. An object is to provide an image processing apparatus that can be obtained.

上記の課題を解決するため、本発明の画像処理装置は、原稿の搬送方向に沿って並べて配置された複数のラインセンサからなる、原稿の搬送方向に沿って複数並べて配置されたセンサモジュールを有し、複数のラインセンサにより原稿上の異なる位置を読み取り、読み取られた位置から取得した情報に対して時間遅延処理を行って積算し、画像情報として取得する画像処理装置であって、複数のセンサモジュールに対して、積算するラインセンサ数をそれぞれ異なる値に設定する積算ライン数設定手段と、積算ライン数設定手段によって設定されたラインセンサ数分の情報を積算した画像情報を、対応する複数のセンサモジュールからそれぞれ取得する画像取得手段と、画像取得手段によって取得された複数の画像情報を合成する画像合成手段と、を備えることを特徴とする。   In order to solve the above-described problems, an image processing apparatus according to the present invention includes a plurality of sensor modules arranged in a line along the document conveyance direction. The sensor module includes a plurality of line sensors arranged in a line along the document conveyance direction. An image processing apparatus that reads different positions on a document by a plurality of line sensors, performs time delay processing on information acquired from the read positions, integrates the information, and acquires the information as image information. For the module, integrated line number setting means for setting the number of line sensors to be integrated to different values, and image information obtained by integrating information for the number of line sensors set by the integrated line number setting means, Image acquisition means for acquiring each from the sensor module, and image combining means for combining a plurality of pieces of image information acquired by the image acquisition means Characterized in that it comprises a and.

本発明によれば、読取対象画像が1フィールドに収まらない場合でも、簡易な制御で、多大な時間を要さず、高画質の画像を得ることが可能となる。   According to the present invention, even when the reading target image does not fit in one field, it is possible to obtain a high-quality image with a simple control without requiring much time.

本発明の実施形態における画像処理装置の概略構成図である。1 is a schematic configuration diagram of an image processing apparatus according to an embodiment of the present invention. 本発明の実施形態に用いるTDIセンサの概略について説明する模式図である。It is a schematic diagram explaining the outline of the TDI sensor used for embodiment of this invention. 本発明の実施形態に用いるTDIセンサモジュールの概略について説明する模式図である。It is a schematic diagram explaining the outline of the TDI sensor module used for embodiment of this invention. 本発明の実施形態におけるラインディレイメモリライン整列タイミングについて説明する模式図である。It is a schematic diagram explaining the line delay memory line alignment timing in the embodiment of the present invention. 本発明の実施形態における読取画像処理部の概略構成図である。It is a schematic block diagram of the read image processing part in the embodiment of the present invention. 本発明の実施形態における画像合成処理について説明する模式図である。It is a schematic diagram explaining the image composition process in the embodiment of the present invention.

本発明の実施形態の画像処理装置に関し以下図面を用いて説明するが、本発明の趣旨を越えない限り、何ら本実施形態に限定されるものではない。なお、各図中、同一または相当する部分には同一の符号を付しており、その重複説明は適宜に簡略化乃至省略する。   An image processing apparatus according to an embodiment of the present invention will be described below with reference to the drawings. However, the present invention is not limited to the present embodiment as long as the gist of the present invention is not exceeded. In addition, in each figure, the same code | symbol is attached | subjected to the part which is the same or it corresponds, The duplication description is simplified thru | or abbreviate | omitted suitably.

本発明の実施形態における画像処理装置の概略構成について図1を参照して説明する。本実施形態における画像処理装置は、エンジン制御部1とコントローラ部2を含み構成される。エンジン制御部1は、例えば、画像読取制御、画像書込制御、及び各種画像処理等を行う。コントローラ部2は、例えば、外部からのプリントデータ受信、スキャナ画像の配信、画像データの保存等を行う。   A schematic configuration of an image processing apparatus according to an embodiment of the present invention will be described with reference to FIG. The image processing apparatus according to the present embodiment includes an engine control unit 1 and a controller unit 2. The engine control unit 1 performs, for example, image reading control, image writing control, various image processing, and the like. The controller unit 2 performs, for example, external print data reception, scanner image distribution, and image data storage.

エンジン制御部1は、エンジンCPU11と、タイムディレイインテグレーション(以下「TDI」という。)モジュール12と、エンジンメモリ13と、レーザーダイオード(以下「LD」という。)14、15、16、17、18と、エンジン画像処理部19を含み構成される。   The engine control unit 1 includes an engine CPU 11, a time delay integration (hereinafter referred to as “TDI”) module 12, an engine memory 13, and a laser diode (hereinafter referred to as “LD”) 14, 15, 16, 17, 18. The engine image processing unit 19 is included.

エンジン画像処理部19は、レジスタI/F191と、読取制御部192と、書込制御部193と、エンジン内部バス制御部194と、読取画像処理部195と、回転器196と、編集器197と、書込画像処理部198と、シリアル通信制御部199を含み構成される。   The engine image processing unit 19 includes a register I / F 191, a reading control unit 192, a writing control unit 193, an engine internal bus control unit 194, a reading image processing unit 195, a rotator 196, and an editor 197. A writing image processing unit 198 and a serial communication control unit 199.

エンジンCPU11は、エンジン制御部1の全体制御を行う。TDIモジュール12は、複数のTDIセンサで構成されている。TDIは、ライン上に配列されたCCDを更に垂直方向にも複数列配列したものであり、複数列のCCDで得られた画像を積分露光することで、高い感度の画像を得ることができる。TDIモジュール12は、積算ライン数設定部121を有する。TDIモジュール12及びTDIセンサの詳細については後述する。   The engine CPU 11 performs overall control of the engine control unit 1. The TDI module 12 is composed of a plurality of TDI sensors. In the TDI, a plurality of CCDs arranged on a line are arranged in a plurality of rows in the vertical direction, and an image obtained with a plurality of CCDs is subjected to integral exposure, whereby an image with high sensitivity can be obtained. The TDI module 12 includes an integrated line number setting unit 121. Details of the TDI module 12 and the TDI sensor will be described later.

エンジンメモリ13は、読取制御部192から受け取った露光量の異なるラインデータを揃えるためのラインディレイ用記憶部として機能する。また、エンジンメモリ13は、書込画像処理部198から受け取った総量規制処理後の印刷画像を一時的に記憶する。なお、エンジンメモリ13は、その他、エンジン制御に必要なデータ等を記憶することとしてもよい。   The engine memory 13 functions as a line delay storage unit for aligning line data with different exposure amounts received from the reading control unit 192. The engine memory 13 temporarily stores the print image after the total amount restriction process received from the write image processing unit 198. The engine memory 13 may store other data necessary for engine control.

LD14、15、16、17、18は、書込制御部193から受け取った画像データに基づいた画像書き込みに用いられる。なお、本実施形態においては、LDは5つ設けられているが、これに限定されず、6つ以上のLDを設ける構成であってもよい。   The LDs 14, 15, 16, 17, and 18 are used for image writing based on the image data received from the writing control unit 193. In the present embodiment, five LDs are provided. However, the present invention is not limited to this, and a configuration in which six or more LDs are provided may be used.

レジスタI/F191は、エンジン画像処理部19とエンジンCPU11との間のインタフェースとして機能する。   The register I / F 191 functions as an interface between the engine image processing unit 19 and the engine CPU 11.

読取制御部192は、TDIモジュール12を用いてカラー画像を読み取る画像取得手段である。また、読取制御部192は、TDIモジュール12の制御を行う。書込制御部193は、不図示の作像ステーションにおける作像タイミングに応じて、エンジンメモリ13から受け取った画像データをLD14、15、16、17、18へ出力する。   The reading control unit 192 is an image acquisition unit that reads a color image using the TDI module 12. The reading control unit 192 controls the TDI module 12. The writing control unit 193 outputs the image data received from the engine memory 13 to the LDs 14, 15, 16, 17, 18 according to the image forming timing in an image forming station (not shown).

エンジン内部バス制御部194は、読取制御部192、書込制御部193、読取画像処理部195、書込画像処理部198、エンジンメモリ13等の相互間におけるバス切替およびバス調停等を行う。   The engine internal bus control unit 194 performs bus switching and bus arbitration among the reading control unit 192, the writing control unit 193, the reading image processing unit 195, the writing image processing unit 198, the engine memory 13, and the like.

読取画像処理部195は、例えば、読取画像の変調あるいは振幅伝達関数を用いた補正、平滑フィルタ補正、ダイナミックレンジ合成、RGB画像からCMYK画像への色補正、読取画像の変倍、読取画像データの圧縮処理等を行う。   The read image processing unit 195 includes, for example, correction using the read image modulation or amplitude transfer function, smoothing filter correction, dynamic range synthesis, color correction from an RGB image to a CMYK image, scaling of the read image, and read image data. Perform compression processing.

回転器196は、例えば画像データの向きを変えたいような場合に、最後のアドレスのデータを一番先頭のアドレスのデータに置き換える処理等を行う。編集器197は、例えば、不図示のレジスタ制御回路による設定に従い、画像データをメインメモリ13から読出して合成するといった編集処理を実行し、メインメモリ13に書き戻す処理等を行う。   For example, when it is desired to change the direction of the image data, the rotator 196 performs processing for replacing the data at the last address with the data at the top address. For example, the editor 197 performs an editing process such as reading out and synthesizing image data from the main memory 13 in accordance with a setting by a register control circuit (not shown), and performing a process of writing back to the main memory 13.

書込画像処理部198は、例えば、CMYK色に基づく画像データの伸長処理、CMYK色に基づく画像データの階調処理、スタンプ画像データ、地紋画像データ、透明色画像データの解像度変換や変倍、版ごとの画像シフト処理、各画像データの合成処理、使用トナー量の総量規制処理等を行う。   The writing image processing unit 198 includes, for example, image data expansion processing based on CMYK colors, gradation processing of image data based on CMYK colors, resolution conversion and scaling of stamp image data, copy-forgery-inhibited pattern image data, transparent color image data, An image shift process for each plate, a composition process of each image data, a total toner amount restriction process, and the like are performed.

シリアル通信制御部199は、エンジン制御部1とコントローラ部2とを接続するインタフェースであり、例えばPCI−Express等の高速シリアルインタフェース等で構成されるものであってもよい。   The serial communication control unit 199 is an interface that connects the engine control unit 1 and the controller unit 2, and may be configured by a high-speed serial interface such as PCI-Express, for example.

他方、コントローラ部2は、コントローラCPU21と、コントローラメモリ22と、HDD23と、外部I/F制御部24と、コントローラ画像処理部25を含み構成される。   On the other hand, the controller unit 2 includes a controller CPU 21, a controller memory 22, an HDD 23, an external I / F control unit 24, and a controller image processing unit 25.

このうち、コントローラ画像処理部25は、入力コントローラ251と、出力コントローラ252と、コントローラ内部バス制御部253と、回転器254と、編集器255と、圧縮器256と、伸長器257と、HDDコントローラ258と、シリアル通信制御部259を含み構成される。   Among these, the controller image processing unit 25 includes an input controller 251, an output controller 252, a controller internal bus control unit 253, a rotator 254, an editor 255, a compressor 256, a decompressor 257, and an HDD controller. 258 and a serial communication control unit 259.

コントローラCPU21は、コントローラ部2の全体制御を行う。例えば、コントローラCPU21は、画像データの翻訳、プリント画像の描画、スタンプ画像の描画、地紋画像の描画、透明色画像の描画、JPEGデータへの圧縮処理、JPEGデータから画像への伸長処理等を行う。   The controller CPU 21 performs overall control of the controller unit 2. For example, the controller CPU 21 performs translation of image data, drawing of a print image, drawing of a stamp image, drawing of a tint block image, drawing of a transparent color image, compression processing to JPEG data, decompression processing from JPEG data to an image, and the like. .

コントローラメモリ22は、外部から受け取った画像データを一時保存するメモリである。また、コントローラメモリ22は、例えば、プリント画像、スタンプ画像、地紋画像、透明色画像、通常色画像、読取画像用のワークメモリとして機能する。さらに、コントローラメモリ22は、各種プログラムを保存するメモリとしても機能する。   The controller memory 22 is a memory for temporarily storing image data received from the outside. The controller memory 22 functions as, for example, a work memory for print images, stamp images, copy-forgery-inhibited pattern images, transparent color images, normal color images, and read images. Furthermore, the controller memory 22 also functions as a memory that stores various programs.

HDD23は、画像データ等を保存する大容量記憶装置である。なお、本実施形態においては、HDD23はコントローラ部2に内蔵された構成としているが、これに限定されず、外付け構成であってもよい。   The HDD 23 is a mass storage device that stores image data and the like. In the present embodiment, the HDD 23 is built in the controller unit 2, but is not limited thereto, and may be an external configuration.

外部I/F制御部24は、不図示のネットワークを介して外部の通信機器と接続されるインタフェースである。外部I/F制御部24は、例えば、外部機器への画像転送、外部機器からの画像データ入力処理等の制御を行う。   The external I / F control unit 24 is an interface connected to an external communication device via a network (not shown). The external I / F control unit 24 controls, for example, image transfer to an external device, image data input processing from the external device, and the like.

入力コントローラ251は、エンジン制御部1から画像データを受け取る。一方、出力コントローラ252は、エンジン制御部1へ画像データを送る。   The input controller 251 receives image data from the engine control unit 1. On the other hand, the output controller 252 sends image data to the engine control unit 1.

コントローラ内部バス制御部253は、コントローラ画像処理部25における各機能ブロック間のバス切替およびバス調停を行う。回転器254及び編集器255については、エンジン画像処理部19における回転器196及び編集器197の説明と重複するため、説明を省略する。   The controller internal bus control unit 253 performs bus switching and bus arbitration between the functional blocks in the controller image processing unit 25. The description of the rotator 254 and the editor 255 is omitted because it overlaps with the description of the rotator 196 and the editor 197 in the engine image processing unit 19.

圧縮器256は、読取画像データ等をHDD23等に保存する際にデータ圧縮を行う。他方、伸長器257は、圧縮された保存データを元の読取画像データ等に戻す処理を行う。   The compressor 256 performs data compression when storing read image data or the like in the HDD 23 or the like. On the other hand, the decompressor 257 performs processing for returning the compressed saved data to the original read image data or the like.

HDDコントローラ258は、HDD23の制御を行う。また、シリアル通信制御部259は、上述したシリアル通信制御部199を介して、エンジン制御部1とコントローラ部2とを接続するインタフェースである。   The HDD controller 258 controls the HDD 23. The serial communication control unit 259 is an interface that connects the engine control unit 1 and the controller unit 2 via the serial communication control unit 199 described above.

次に、本実施形態に用いるTDIセンサの概略について図2を参照して説明する。本実施形態においては、センサモジュールとしてのTDIモジュール12は、読み取り原稿の搬送方向に沿って複数並べて配置されるものであってよい。そして、TDIモジュール12は、読み取り原稿の搬送方向に沿って並べて配置され、原稿上の異なる位置を読み取る複数のラインセンサとしてのTDIセンサと、積算ライン数設定部121を含み構成される。以下、TDIセンサについて具体的に説明する。   Next, an outline of the TDI sensor used in the present embodiment will be described with reference to FIG. In the present embodiment, a plurality of TDI modules 12 as sensor modules may be arranged side by side along the conveyance direction of the read document. The TDI module 12 is arranged side by side along the conveyance direction of the read document, and includes a TDI sensor as a plurality of line sensors for reading different positions on the document and an integrated line number setting unit 121. Hereinafter, the TDI sensor will be specifically described.

本図においては、積算ラインを可変可能な256段からなるTDIセンサを示している。ここでは、C1〜C7680の7680個のCCD画素を水平方向に並べたライン状のCCDステージが行(以下「Row」という。)1からRow256までの256ライン分、垂直方向に並べられている。なお、積算ラインは256段に限定されず、装置の仕様等に応じて適宜設定変更されるものであってよい。   In the figure, a TDI sensor having 256 stages capable of varying the integration line is shown. Here, a line-shaped CCD stage in which 7680 CCD pixels C1 to C7680 are arranged in the horizontal direction is arranged in the vertical direction for 256 lines from row (hereinafter referred to as “Row”) 1 to Row256. The integration line is not limited to 256 stages, and may be appropriately changed according to the specifications of the apparatus.

各CCDステージ上に蓄積された電荷は1垂直クロック信号により、一度に垂直方向に1ステージ分だけ転送される。   The charges accumulated on each CCD stage are transferred by one stage at a time in the vertical direction by one vertical clock signal.

例えば、まず、積算ライン数が外部からの信号により最大256ラインに設定されている場合、ある時点でRow256に撮像された7680画素の画像が、垂直方向に1ステージ分だけ移動する。それと同期して垂直クロック信号が与えられるとRow256に撮像されたライン画像はRow255に転送される。そこで同じ画像を撮像し続けるので、蓄積される画像の電荷は2倍になる。したがって露光量としても2倍になる。   For example, first, when the number of integrated lines is set to a maximum of 256 lines by an external signal, an image of 7680 pixels imaged at Row 256 at a certain point moves by one stage in the vertical direction. When a vertical clock signal is given in synchronization therewith, the line image picked up by Row 256 is transferred to Row 255. Therefore, since the same image is continuously captured, the charge of the accumulated image is doubled. Therefore, the exposure amount is doubled.

続いて、画像が垂直方向にさらに1ステージ分移動し、同期クロック信号が与えられると蓄積画像はRow254に転送され、そこで3倍の画像電荷を蓄積する。以下、順にRow1まで転送が完了すると256倍の画像電荷が水平シフトレジスタからシリアルに画像データとして取り出される。   Subsequently, when the image further moves one stage in the vertical direction and a synchronizing clock signal is given, the accumulated image is transferred to Row 254, where three times as much image charge is accumulated. Thereafter, when transfer to Row 1 is completed in sequence, 256 times the image charge is serially extracted from the horizontal shift register as image data.

以上の動作が、各ステージRow1〜Row256において同時に行われる。そして、7680画素×256画素からなる2次元の画像を垂直に送りながら、256倍の電荷を蓄積した画像を1ラインずつ同期して取り出すことが可能となる。   The above operation is performed simultaneously in each of the stages Row1 to Row256. Then, while sending a two-dimensional image consisting of 7680 pixels × 256 pixels vertically, an image in which 256 times the charge has been accumulated can be taken out synchronously line by line.

本実施形態においては、図1に示した積算ライン数設定部121により、複数のTDIセンサモジュールに対して、積算するラインセンサ数をそれぞれ異なる値に設定、つまり可変することが好ましい。そして、読取制御部192は、積算ライン数設定部121によって設定されたラインセンサ数分の情報を積算した画像情報を、対応する複数のセンサモジュールからそれぞれ取得することが好ましい。   In the present embodiment, it is preferable that the integrated line number setting unit 121 shown in FIG. 1 sets the number of line sensors integrated to a plurality of TDI sensor modules to different values, that is, varies. The reading control unit 192 preferably acquires image information obtained by integrating information corresponding to the number of line sensors set by the integrated line number setting unit 121 from a plurality of corresponding sensor modules.

例えば積算するラインセンサ数を32段と設定した場合、CUT32で示されているライン状の箇所で転送電荷がカットされる。これにより、蓄積される電荷はRow1からRow32までに限定される。なお、本図において設定可能な積算するラインセンサ数は、256段、128段、64段、32段、16段、8段の6通りを選択可能としているが、これに限定されず、ラインセンサ数の増加に伴って適宜積算するラインセンサ数を増加させることとしてもよい。   For example, when the number of line sensors to be integrated is set to 32, the transfer charge is cut at the line-shaped portion indicated by CUT 32. As a result, the accumulated charge is limited to Row 1 to Row 32. In addition, the number of line sensors to be integrated that can be set in this figure can be selected from six types of 256 steps, 128 steps, 64 steps, 32 steps, 16 steps, and 8 steps, but is not limited to this. As the number increases, the number of line sensors to be integrated may be increased as appropriate.

次に、本実施形態に用いるTDIモジュール12の概略について図3を参照して説明する。図示のように、本実施形態のTDIモジュール12においては、RGBそれぞれ3通りの露光量を設定可能としている。   Next, an outline of the TDI module 12 used in the present embodiment will be described with reference to FIG. As shown in the figure, in the TDI module 12 of the present embodiment, three exposure amounts for RGB can be set.

例えば、Red1、Green1、Blue1のTDIセンサを256段と設定すれば、露光量として256倍のRGBラインデータを取り出すことができる。また、Red1、Green1、Blue1のTDIセンサを128段と設定すれば、露光量として128倍のRGBラインデータを取り出すことができる。さらに、Red1、Green1、Blue1のTDIセンサを64段と設定すれば、露光量として64倍のRGBラインデータを取り出すことができる。   For example, if the TDI sensors of Red1, Green1, and Blue1 are set to 256 stages, 256 times RGB line data can be extracted as the exposure amount. If the TDI sensors of Red1, Green1, and Blue1 are set to 128 stages, 128 times of RGB line data can be extracted as the exposure amount. Further, if the Red1, Green1, and Blue1 TDI sensors are set to 64 stages, it is possible to extract RGB line data of 64 times as the exposure amount.

つまり、TDIセンサの段数を変更することで、異なる露光量のRGBラインデータを取り出すことが可能となる。なお、各ラインデータ間のラインギャップはTDIセンサの256ライン分必要となる。   That is, by changing the number of stages of the TDI sensor, it is possible to extract RGB line data with different exposure amounts. The line gap between the line data is required for 256 lines of the TDI sensor.

次に、本実施形態におけるラインディレイメモリライン整列タイミング、時間遅延処理について図4を参照して説明する。読取制御部192により、各画像データは、TDIセンサから各ラインデータ間のラインギャップ分遅延した状態で読み取られる。   Next, line delay memory line alignment timing and time delay processing in this embodiment will be described with reference to FIG. Each image data is read by the reading control unit 192 in a state of being delayed by the line gap between the line data from the TDI sensor.

書込制御部193によって、これらの画像データをエンジンメモリ13に順次書き込み、最終ラインにおけるb3_dataの書き込みが開始された時点から、読取画像処理部195はエンジンメモリ13から画像データの読み出しを開始する。読取画像処理部195は、エンジンメモリ13に記憶された複数の画像データの読み出しタイミングを、RGB全9種類の画像を同期して読み出す。これにより、画素の先頭を揃えることができる。   These image data are sequentially written in the engine memory 13 by the writing control unit 193, and the reading image processing unit 195 starts reading image data from the engine memory 13 from the time when writing of b3_data in the last line is started. The read image processing unit 195 reads the read timings of the plurality of image data stored in the engine memory 13 in synchronization with all nine types of RGB images. Thereby, the tops of the pixels can be aligned.

次に、本実施形態における読取画像処理部195の概略構成と画像合成処理について図5を参照して説明する。読取画像処理部195は、3つのシェーディング補正部301、302、303と、これらにそれぞれ対応する3つのフィルタ処理部304、305、306と、画像合成部307と、色補正部308と、変倍部309を含み構成される。   Next, a schematic configuration and image composition processing of the read image processing unit 195 in the present embodiment will be described with reference to FIG. The read image processing unit 195 includes three shading correction units 301, 302, and 303, three filter processing units 304, 305, and 306, an image composition unit 307, a color correction unit 308, and a scaling unit corresponding to the three shading correction units 301, 302, and 303, respectively. The unit 309 is configured.

エンジンメモリ13から読み出された画像データは露光量の異なるRGBセットごとに3つのシェーディング補正部301、302、303に送られ、シェーディング補正が行われる。   The image data read from the engine memory 13 is sent to the three shading correction units 301, 302, and 303 for each RGB set having different exposure amounts, and shading correction is performed.

ここでは、例えば、画像データとして、「r1_rd」、「g1_rd」、「b1_rd」がシェーディング補正部301に送られる。また、画像データとして、「r2_rd」、「g2_rd」、「b2_rd」がシェーディング補正部302に送られる。さらに、画像データとして、「r3_rd」、「g3_rd」、「b3_rd」がシェーディング補正部302に送られる。   Here, for example, “r1_rd”, “g1_rd”, and “b1_rd” are sent to the shading correction unit 301 as image data. Also, “r2_rd”, “g2_rd”, and “b2_rd” are sent to the shading correction unit 302 as image data. Further, “r3_rd”, “g3_rd”, and “b3_rd” are sent to the shading correction unit 302 as image data.

その後、シェーディング補正が行われた各画像データが3つのフィルタ処理部304、305、306に送られ、フィルタ処理が行われる。   Thereafter, each image data subjected to the shading correction is sent to the three filter processing units 304, 305, and 306, and the filter processing is performed.

ここでは、例えば、シェーディング補正後の画像データとして、「r1_sh」、「g1_sh」、「b1_sh」がフィルタ処理部304に送られる。また、シェーディング補正後の画像データとして、「r2_sh」、「g2_sh」、「b2_sh」がフィルタ処理部305に送られる。さらに、シェーディング補正後の画像データとして、「r3_sh」、「g3_sh」、「b3_sh」がフィルタ処理部306に送られる。   Here, for example, “r1_sh”, “g1_sh”, and “b1_sh” are sent to the filter processing unit 304 as image data after shading correction. Further, “r2_sh”, “g2_sh”, and “b2_sh” are sent to the filter processing unit 305 as the image data after shading correction. Further, “r3_sh”, “g3_sh”, and “b3_sh” are sent to the filter processing unit 306 as image data after shading correction.

そして、フィルタ処理が完了した画像データが画像合成部307へ送られる。ここでは、例えば、フィルタ処理後の画像データとして、「r1_fl」、「g1_fl」、「b1_fl」、「r2_fl」、「g2_fl」、「b2_fl」、「r3_fl」、「g3_fl」、「b3_fl」が画像合成部307へ送られる。画像合成部307では、上記フィルタ処理後の画像データの複数からなる露光量の異なるRGBセットを用いてダイナミックレンジ合成を行う。   Then, the image data that has undergone the filter processing is sent to the image composition unit 307. Here, for example, “r1_fl”, “g1_fl”, “b1_fl”, “r2_fl”, “g2_fl”, “b2_fl”, “r3_fl”, “g3_fl”, “b3_fl” are the image data after filtering. The data is sent to the synthesis unit 307. The image composition unit 307 performs dynamic range composition using RGB sets having a plurality of exposure amounts and having different exposure amounts.

合成された結果の画像は色補正部308によりRGB画像からCMYK画像に変換されるか、又はRGB画像のままとして処理される。その後、変倍部309において、指定された大きさの画像に拡大または縮小処理される。   The synthesized image is converted from an RGB image to a CMYK image by the color correction unit 308 or processed as it is as an RGB image. Thereafter, the scaling unit 309 enlarges or reduces the image to the designated size.

次に、本実施形態における画像合成処理について図6を参照して説明する。本実施形態においては、図5に示した画像合成部307は、高露光の画像情報における画像劣化を判定する第1の閾値と、低露光の画像情報における画像劣化を判定する第2の閾値と、に基づいて合成対象とする画像情報を判定することが好ましい。   Next, the image composition processing in this embodiment will be described with reference to FIG. In the present embodiment, the image composition unit 307 illustrated in FIG. 5 includes a first threshold for determining image degradation in high-exposure image information, and a second threshold for determining image degradation in low-exposure image information. It is preferable to determine image information to be synthesized based on.

そして、画像合成部307は、第1の閾値により画像劣化と判定された高露光の画像情報を少なくとも高露光の画像情報より低露光の画像情報に置き換えるものとしてよい。他方、画像合成部307は、第2の閾値により画像劣化と判定された低露光の画像情報を少なくとも低露光の画像情報より高露光の画像情報に置き換えるものとしてよい。   Then, the image composition unit 307 may replace the high-exposure image information determined to be image degradation by the first threshold value with at least the low-exposure image information rather than the high-exposure image information. On the other hand, the image composition unit 307 may replace the low-exposure image information determined to be image degradation by the second threshold with at least high-exposure image information than the low-exposure image information.

図6に示すように、画像合成によるダイナミックレンジ画像の生成について、横軸に、画像合成部307に入力される画像の画素値を光強度に換算した値をとり、縦軸に、生成されるダイナミックレンジ画像の出力画素値をとる。すなわち、本図は、画像合成部307に対する画素値の入出力特性を表している。   As shown in FIG. 6, regarding the generation of a dynamic range image by image composition, the horizontal axis represents the pixel value of the image input to the image composition unit 307 and is converted to light intensity, and the vertical axis is generated. The output pixel value of the dynamic range image is taken. That is, this figure represents the input / output characteristics of the pixel values for the image composition unit 307.

そして、本図において、線分L1が高露光画像の入出力特性を、線分L2がL1より露光時間が短い中露光画像の入出力特性を、線分L3がL2よりさらに露光時間が短い低露光画像の入出力特性を示している。本実施形態においては、高露光画像とは、TDIセンサの段数を多く設定した場合に取得される画像データを言い、低露光画像とはTDIセンサの段数を少なく設定した場合に取得される画像データを言う。   In this figure, the line segment L1 shows the input / output characteristics of the high exposure image, the line segment L2 shows the input / output characteristics of the medium exposure image whose exposure time is shorter than L1, and the line segment L3 has the exposure time shorter than L2. The input / output characteristics of the exposure image are shown. In the present embodiment, the high exposure image means image data acquired when the number of stages of the TDI sensor is set, and the low exposure image means image data acquired when the number of stages of the TDI sensor is set small. Say.

ここで、高露光画像の入出力特性L1と中露光画像の入出力特性L2において、画像上で白とびとみなすことができる光強度の閾値をsh2の値とし、これが上記した「第1の閾値」に対応する。つまり、sh2よりも大きな値については白とびで諧調が失われてしまう領域となる。   Here, in the input / output characteristics L1 of the high exposure image and the input / output characteristics L2 of the medium exposure image, the threshold value of light intensity that can be regarded as overexposure on the image is set as the sh2 value. ". In other words, a value larger than sh2 is an area where gradation is lost due to overexposure.

これに対して、露光時間の短い低露光画像では飽和する前に読み取られるため白トビしてしまう領域においてもなお諧調を損なうことなく読み取ることが可能である。したがって、閾値sh2よりも大きな光強度の領域については低露光画像の値に置き換えることで白トビのような画像劣化を改善することが可能となる。   On the other hand, a low-exposure image with a short exposure time is read before saturation, and therefore, even in a region where white highlighting occurs, it is possible to read without impairing gradation. Therefore, it is possible to improve image degradation such as white stripes by replacing a region having a light intensity greater than the threshold sh2 with a value of a low exposure image.

他方、低露光画像の入出力特性L3と中露光画像の入出力特性L2において、画像上で黒トビとみなすことができる光強度の閾値をsh1の値とし、これが上述した「第2の閾値」に対応する。つまり、sh1よりも小さな値については黒トビで諧調が失われてしまう領域となる。この領域に対しては高露光画像の値に置き換えることで黒トビのような画像劣化を改善することが可能となる。   On the other hand, in the input / output characteristics L3 of the low exposure image and the input / output characteristics L2 of the middle exposure image, the threshold value of light intensity that can be regarded as black stripes on the image is set as the value of sh1, and this is the above-described "second threshold value" Corresponding to In other words, a value smaller than sh1 is a region where the gradation is lost due to black stripes. By replacing the area with the value of the high-exposure image, it is possible to improve image deterioration such as black stripes.

さらに、sh1、sh2間の領域は中露光画像の値に置き換えることで諧調とびのような画像劣化を改善することが可能となる。   Furthermore, by replacing the area between sh1 and sh2 with the value of the medium exposure image, it is possible to improve image deterioration such as gradation skipping.

以上のように、本実施形態においては、複数のTDIセンサを副走査方向に並べ、各TDIセンサは積算ラインを可変にすることで露光量を調整する。これによって、原稿を移動させながら読み取るドキュメントフィーダー等においても、1回の原稿読み取り動作で、異なるTDIセンサから露光量の異なるラインデータを順次読み出し、ラインディレイ用のメモリを経由することで同一画素のラインを揃え、画像合成する。これにより複数回の読み取り動作を行うことなくダイナミックレンジを拡張した画像を作ることができる。   As described above, in the present embodiment, a plurality of TDI sensors are arranged in the sub-scanning direction, and each TDI sensor adjusts the exposure amount by making the integration line variable. As a result, even in a document feeder or the like that reads a document while moving it, line data with different exposure amounts are sequentially read from different TDI sensors in a single document reading operation, and the same pixel is read by way of a line delay memory. Align the lines and compose the image. As a result, an image with an expanded dynamic range can be created without performing multiple reading operations.

なお、上述する各実施の形態は、本発明の好適な実施の形態であり、本発明の要旨を逸脱しない範囲内において種々変更実施が可能である。例えば、上述した本実施形態の画像処理装置における各処理を、ハードウェア、又は、ソフトウェア、あるいは、両者の複合構成を用いて実行することも可能である。   Each of the above-described embodiments is a preferred embodiment of the present invention, and various modifications can be made without departing from the scope of the present invention. For example, each process in the above-described image processing apparatus of the present embodiment can be executed using hardware, software, or a combined configuration of both.

なお、ソフトウェアを用いて処理を実行する場合には、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれているコンピュータ内のメモリにインストールして実行させることが可能である。あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。   In the case of executing processing using software, it is possible to install and execute a program in which a processing sequence is recorded in a memory in a computer incorporated in dedicated hardware. Alternatively, the program can be installed and executed on a general-purpose computer capable of executing various processes.

1 エンジン制御部
2 コントローラ部
11 エンジンCPU
12 TDIモジュール
13 エンジンメモリ
14、15、16、17、18 レーザーダイオード
19 エンジン画像処理部
21 コントローラCPU
22 コントローラメモリ
23 HDD
24 外部I/F制御部
25 コントローラ画像処理部
191 レジスタI/F
192 読取制御部
193 書込制御部
194 エンジン内部バス制御部
195 読取画像処理部
196、254 回転器
197、255 編集器
198 書込画像処理部
199、259 シリアル通信制御部
251 入力コントローラ
252 出力コントローラ
253 コントローラ内部バス制御部
256 圧縮器
257 伸長器
258 HDDコントローラ
301、302、303 シェーディング補正部
304、305、306 フィルタ処理部
307 画像合成部
308 色補正部
309 変倍部
1 Engine control unit 2 Controller unit 11 Engine CPU
12 TDI module 13 Engine memory 14, 15, 16, 17, 18 Laser diode 19 Engine image processing unit 21 Controller CPU
22 Controller memory 23 HDD
24 External I / F Control Unit 25 Controller Image Processing Unit 191 Register I / F
192 Reading control unit 193 Writing control unit 194 Engine internal bus control unit 195 Reading image processing unit 196, 254 Rotator 197, 255 Editor 198 Writing image processing unit 199, 259 Serial communication control unit 251 Input controller 252 Output controller 253 Controller internal bus control unit 256 Compressor 257 Expander 258 HDD controller 301, 302, 303 Shading correction unit 304, 305, 306 Filter processing unit 307 Image composition unit 308 Color correction unit 309 Scaling unit

特許第3508736号公報Japanese Patent No. 3508736 特開2008−228190号公報JP 2008-228190 A

Claims (7)

原稿の搬送方向に沿って並べて配置された複数のラインセンサからなる、前記原稿の搬送方向に沿って複数並べて配置されたセンサモジュールを有し、前記複数のラインセンサにより前記原稿上の異なる位置を読み取り、読み取られた位置から取得した情報に対して時間遅延処理を行って積算し、画像情報として取得する画像処理装置であって、
前記複数のセンサモジュールに対して、積算するラインセンサ数をそれぞれ異なる値に設定する積算ライン数設定手段と、
前記積算ライン数設定手段によって設定された前記ラインセンサ数分の情報を積算した前記画像情報を、対応する前記複数のセンサモジュールからそれぞれ取得する画像取得手段と、
前記画像取得手段によって取得された複数の前記画像情報を合成する画像合成手段と、
を備えることを特徴とする画像処理装置。
A plurality of line sensors arranged side by side along the document conveyance direction, and a plurality of sensor modules arranged side by side along the document conveyance direction; An image processing device that reads and accumulates information acquired from the read position by performing time delay processing, and acquires the information as image information,
For the plurality of sensor modules, integrated line number setting means for setting the number of line sensors to be integrated to different values, and
Image acquisition means for acquiring the image information obtained by integrating the information for the number of line sensors set by the integrated line number setting means from the corresponding sensor modules;
Image combining means for combining a plurality of the image information acquired by the image acquisition means;
An image processing apparatus comprising:
前記画像合成手段は、高露光の前記画像情報における画像劣化を判定する第1の閾値と、低露光の前記画像情報における画像劣化を判定する第2の閾値と、に基づいて合成対象とする前記画像情報を判定することを特徴とする請求項1記載の画像処理装置。   The image synthesizing unit is a synthesis target based on a first threshold value for determining image degradation in the image information with high exposure and a second threshold value for determining image degradation in the image information with low exposure. The image processing apparatus according to claim 1, wherein the image information is determined. 前記画像合成手段は、前記第1の閾値により画像劣化と判定された高露光の前記画像情報を少なくとも前記高露光の前記画像情報より低露光の前記画像情報に置き換えることを特徴とする請求項2記載の画像処理装置。   3. The image synthesizing unit replaces the high-exposure image information determined to be image degradation by the first threshold with at least the low-exposure image information than the high-exposure image information. The image processing apparatus described. 前記画像合成手段は、前記第2の閾値により画像劣化と判定された低露光の前記画像情報を少なくとも前記低露光の前記画像情報より高露光の前記画像情報に置き換えることを特徴とする請求項2又は3記載の画像処理装置。   3. The image combining means replaces the low-exposure image information determined to be image degradation by the second threshold value with at least the image information that is higher exposure than the low-exposure image information. Or the image processing apparatus of 3. 前記画像取得手段により前記ラインセンサのラインギャップ分遅延させて取得された複数の前記画像情報を記憶する記憶手段を備え、
前記画像合成手段は、前記記憶手段に記憶された複数の前記画像情報の読み出しタイミングを同期して読み出すことを特徴とする請求項1から4の何れか1項に記載の画像処理装置。
Storage means for storing a plurality of pieces of the image information acquired by the image acquisition means delayed by a line gap of the line sensor;
5. The image processing apparatus according to claim 1, wherein the image synthesizing unit reads out the read timings of the plurality of pieces of image information stored in the storage unit in synchronization with each other.
原稿の搬送方向に沿って複数並べて配置されたセンサモジュールに含まれる、前記原稿の搬送方向に沿って並べて配置された複数のラインセンサにより前記原稿上の異なる位置を読み取り、読み取られた位置から取得した情報に対して時間遅延処理を行って積算し、画像情報として取得する画像処理方法であって、
前記複数のセンサモジュールに対して、積算するラインセンサ数をそれぞれ異なる値に設定する工程と、
前記設定された前記ラインセンサ数分の情報を積算した前記画像情報を、対応する前記複数のセンサモジュールからそれぞれ取得する工程と、
前記取得された複数の前記画像情報を合成する工程と、
を備えることを特徴とする画像処理方法。
A plurality of line sensors arranged side by side along the document conveyance direction are included in a plurality of sensor modules arranged side by side along the document conveyance direction, and different positions on the document are read and acquired from the read positions. An image processing method for performing time delay processing on the obtained information and integrating the acquired information as image information,
A step of setting the number of line sensors to be integrated to different values for the plurality of sensor modules;
Obtaining the image information obtained by accumulating information for the set number of line sensors from the corresponding plurality of sensor modules, and
Synthesizing the plurality of acquired image information;
An image processing method comprising:
原稿の搬送方向に沿って並べて配置された複数のラインセンサからなる、前記原稿の搬送方向に沿って複数並べて配置されたセンサモジュールを有し、前記複数のラインセンサにより前記原稿上の異なる位置を読み取り、読み取られた位置から取得した情報に対して時間遅延処理を行って積算し、画像情報として取得する画像処理装置に実行させるプログラムであって、
前記複数のセンサモジュールに対して、積算するラインセンサ数をそれぞれ異なる値に設定する処理と、
前記設定された前記ラインセンサ数分の情報を積算した前記画像情報を、対応する前記複数のセンサモジュールからそれぞれ取得する処理と、
前記取得された複数の前記画像情報を合成する処理と、
を含むことを特徴とするプログラム。
A plurality of line sensors arranged side by side along the document conveyance direction, and a plurality of sensor modules arranged side by side along the document conveyance direction; A program that is executed by an image processing device that reads and accumulates information obtained from a read position by performing time delay processing, and acquires the information as image information.
A process for setting the number of line sensors to be integrated to different values for the plurality of sensor modules;
Processing for acquiring the image information obtained by integrating the information for the number of the set line sensors from the corresponding sensor modules;
A process of combining the plurality of acquired image information;
The program characterized by including.
JP2014143127A 2014-07-11 2014-07-11 Image processing system, image processing method, and program Pending JP2016019267A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014143127A JP2016019267A (en) 2014-07-11 2014-07-11 Image processing system, image processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014143127A JP2016019267A (en) 2014-07-11 2014-07-11 Image processing system, image processing method, and program

Publications (1)

Publication Number Publication Date
JP2016019267A true JP2016019267A (en) 2016-02-01

Family

ID=55234160

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014143127A Pending JP2016019267A (en) 2014-07-11 2014-07-11 Image processing system, image processing method, and program

Country Status (1)

Country Link
JP (1) JP2016019267A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021261116A1 (en) * 2020-06-23 2021-12-30 ソニーセミコンダクタソリューションズ株式会社 Image capturing device

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS567579A (en) * 1979-06-29 1981-01-26 Ibm Image pickup device
JPH089258A (en) * 1994-06-15 1996-01-12 Canon Inc Image reader
JPH08251401A (en) * 1995-03-07 1996-09-27 Canon Inc Image reader
JPH08251407A (en) * 1995-03-07 1996-09-27 Canon Inc Image reader

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS567579A (en) * 1979-06-29 1981-01-26 Ibm Image pickup device
JPH089258A (en) * 1994-06-15 1996-01-12 Canon Inc Image reader
JPH08251401A (en) * 1995-03-07 1996-09-27 Canon Inc Image reader
JPH08251407A (en) * 1995-03-07 1996-09-27 Canon Inc Image reader

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021261116A1 (en) * 2020-06-23 2021-12-30 ソニーセミコンダクタソリューションズ株式会社 Image capturing device
US11956559B2 (en) 2020-06-23 2024-04-09 Sony Semiconductor Solutions Corporation Imaging device

Similar Documents

Publication Publication Date Title
US7495669B2 (en) Image processing apparatus and image processing method
JP6205885B2 (en) Photoelectric conversion element, image reading apparatus, image forming apparatus, and image reading method
JP6032919B2 (en) Image processing device
US8780215B2 (en) Apparatus and method for processing an image to correct image distortion caused by a hand shake
US20080030600A1 (en) Defective pixel correction device
US7817297B2 (en) Image processing apparatus and image processing method
US8149285B2 (en) Video camera which executes a first process and a second process on image data
US11431941B2 (en) Method, apparatus, and system for processing digital images
KR102368222B1 (en) Image processing apparatus, image processing method, and photographing apparatus
US7612810B2 (en) Reduction of effect of image processing on image sensor
US20220309712A1 (en) Application processor including neural processing unit and operating method thereof
KR101364050B1 (en) Method and apparatus for image processing
US10681266B2 (en) Method, apparatus, and system for processing digital images
JP2018011328A (en) Photoelectric conversion element, image reading apparatus, image forming apparatus, and image reading method
JP2016019267A (en) Image processing system, image processing method, and program
US20140132806A1 (en) Image processing apparatus, imaging apparatus, image processing method and program
JP2013126101A (en) Imaging device and imaging method
JP6415086B2 (en) Image processing apparatus, image processing method, and program
US11729506B2 (en) Imaging element with processor configured to receive vibration information, imaging apparatus, operation method of imaging element, and program
JP6280713B2 (en) Imaging device
JP2003143491A (en) Image pickup device
JP2021141469A (en) Photographing system
JP5041935B2 (en) Video camera
JP2007028352A (en) Imaging device
JPS6378659A (en) Image reader

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170627

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20170720

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180322

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180424

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20181016