JP2001175852A - Method and device for convolution processing - Google Patents

Method and device for convolution processing

Info

Publication number
JP2001175852A
JP2001175852A JP29687999A JP29687999A JP2001175852A JP 2001175852 A JP2001175852 A JP 2001175852A JP 29687999 A JP29687999 A JP 29687999A JP 29687999 A JP29687999 A JP 29687999A JP 2001175852 A JP2001175852 A JP 2001175852A
Authority
JP
Japan
Prior art keywords
image data
data
convolution
mask
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP29687999A
Other languages
Japanese (ja)
Other versions
JP3209420B2 (en
Inventor
Hong Chol-Gi
哲基 洪
Kim Chol-Woo
▲哲▼佑 金
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
LG Electronics Inc
Original Assignee
LG Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1019990025717A external-priority patent/KR100298327B1/en
Application filed by LG Electronics Inc filed Critical LG Electronics Inc
Priority to JP29687999A priority Critical patent/JP3209420B2/en
Publication of JP2001175852A publication Critical patent/JP2001175852A/en
Application granted granted Critical
Publication of JP3209420B2 publication Critical patent/JP3209420B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To provide a method and a device which enable high-speed convolution processing irrelevantly to the size of a mask in consideration of the fact that while the reliability of inspection is higher and higher as the mask for convolution is larger and larger, that can not be actualized because of a processing time. SOLUTION: A mask divided into arbitrary areas corresponding to multiples of sampling intervals of image data is set and cumulative image data of object pixels of convolution processing of the image data are generated by a cumulative image data generating means 100. With the output of the cumulative image data generating means 100, addition data of areas corresponding to respective stages of the mask are obtained by a corresponding area addition data acquiring means 200 and outputted to a convolution value output means 300. The convolution value output means 300 multiplies the respective corresponding area addition data by the values of respective corresponding stages of the mask, sums up all the multiplication results, and outputs the result as the convolution value of the object pixels of convolution.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、撮像器を用いた検
査等のために行われる画像処理における畳み込み(convo
lution)処理に関するものである。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a convolution in image processing performed for an inspection using an image pickup device.
lution) processing.

【0002】[0002]

【従来の技術】画像処理において、畳み込みとは、数字
の配列であるカーネル(Kernel)と画像データとの間に行
われる演算であって、画像データの各画素毎にカーネル
の配列の中心(以下、単にカーネル中心)を一致させ、
カーネルの領域と同一領域の画像データの各データをカ
ーネルの各値にそれぞれ掛け合わせてからその全てを合
算し、該当画素の結果値に出力する演算プロセスをい
う。カーネルは数値の配列であるが、カーネルがフィル
タ等の画像データに対する処理に使われるものであると
き、マスクと呼ばれる。画像データの各画素値をI
(x,y)とし、マスクの大きさが(2m+1)×(2
n+1)であるとするとともに、マスクの値(以下、単
にマスク値)をM(x,y)とすると、各画素に対する
演算結果値は、式1のように表すことができる。
2. Description of the Related Art In image processing, convolution is an operation performed between a kernel (Kernel), which is an array of numbers, and image data. , Just kernel center)
It refers to an arithmetic process of multiplying each value of the image data in the same area as the area of the kernel by each value of the kernel, adding up all of them, and outputting the result as a result value of the corresponding pixel. The kernel is an array of numerical values. When the kernel is used for processing image data such as a filter, the kernel is called a mask. Each pixel value of the image data is represented by I
(X, y), and the size of the mask is (2m + 1) × (2
n + 1) and the value of the mask (hereinafter simply referred to as the mask value) is M (x, y), the operation result value for each pixel can be expressed as in Equation 1.

【式1】 この際、画像データのインデックスが領域から外れた場
合は、一般的には0値を代入する。マスク値M(x,
y)のインデックスは正の値を有するよう表記した。図
1はこのような計算プロセスの一次元の例を示す。
(Equation 1) At this time, when the index of the image data is out of the area, a value of 0 is generally substituted. The mask value M (x,
The index of y) is described as having a positive value. FIG. 1 shows a one-dimensional example of such a calculation process.

【0003】画像処理を行う検査プロセスにおいてフィ
ルタの使用は一般的なプロセスであり、この際のマスク
の大きさによって出力画像の品質が異なるようになる場
合がよく発生する。マスクの大きさを大きくする場合、
演算結果は画像データのノイズ成分に鈍くなるし、使用
者の調整可能な値が多くなるので、さらに正確な結果値
が得られるようになる。しかし、演算プロセスで各画素
毎にマスクの大きさに応じた回数の掛け算と足し算が必
要であるので、マスクの大きさを大きくすると急速に演
算時間が多く所要される。従って、実際にはマスクの大
きさが制限される。
The use of a filter in an inspection process for performing image processing is a general process, and the quality of an output image often varies depending on the size of a mask at this time. When increasing the size of the mask,
The result of the calculation becomes dull to the noise component of the image data, and the value that can be adjusted by the user increases, so that a more accurate result value can be obtained. However, in the calculation process, multiplication and addition of the number of times corresponding to the size of the mask are required for each pixel. Therefore, when the size of the mask is increased, the calculation time is rapidly increased. Therefore, the size of the mask is actually limited.

【0004】周知の通り、畳み込みの演算プロセスで
は、各画素とそれに対応する値を乗算してそれら乗算値
を合算して画素のそれぞれの結果値を求める。しかし、
マスクの大きさが大きくなると計算量が急速に増加する
という問題点があった。従って、かかる問題点を解決す
るために二次元マスクを一次元マスクに分離するか、高
速ハードウェアを用いてリアルタイム計算を試みた発明
が提示された。
As is well known, in the convolution operation process, each pixel is multiplied by a corresponding value, and the multiplied values are summed to obtain a result value of each pixel. But,
As the size of the mask increases, the amount of calculation increases rapidly. Therefore, in order to solve such a problem, an invention was proposed in which a two-dimensional mask was separated into a one-dimensional mask, or real-time calculation was attempted using high-speed hardware.

【0005】その中で、ハードウェアを用いた従来の方
法の場合、米国特許第5,119,444号では、発明
の一部としてハードウェアを用いたラプラシアンとガウ
シアンの模写を行っている。ここでは、最も単純な形態
のラプラシアンフィルタと二項形態のフィルタを三個連
続に用いて、7×7ガウシアンを模写したハードウェア
を構成している。
[0005] Among them, in the case of the conventional method using hardware, in US Pat. No. 5,119,444, Laplacian and Gaussian are copied using hardware as a part of the invention. Here, hardware that replicates a 7 × 7 Gaussian is configured using three simplest forms of a Laplacian filter and a binomial form filter in succession.

【0006】図2は、従来の方法において、画像データ
獲得時に畳み込み対象画素のデータとその対象画素の周
囲に位置する画素(以下、周囲画素)のデータとを遅延
器(delay)を用いて記憶することを示した図面である。
ここにおいて、参照符号42は、撮像を行う撮像器とし
ての走査型電子顕微鏡(Scanning Electron Microscope,
SEM)であり、43はSEM42で獲得したアナログ画
像信号を、それに対応するデジタル画像データに変換す
るアナログ/デジタル変換器であり、44はパターン補
償のための補償データを出力するパターン補償器であ
る。そして、参照符号51及び52はスイッチであり、
50は遅延器、45乃至49は前記のスイッチ51とス
イッチ52とをそれぞれ通した合算画像データの信号及
び多数個の遅延器50をそれぞれ通した信号をラッチに
記憶するための出力ラインである。
FIG. 2 shows a conventional method in which data of a convolution target pixel and data of a pixel located around the target pixel (hereinafter referred to as a peripheral pixel) are stored using a delay unit at the time of acquiring image data. FIG.
Here, reference numeral 42 denotes a scanning electron microscope (Scanning Electron Microscope,
SEM), 43 is an analog / digital converter for converting the analog image signal acquired by the SEM into digital image data corresponding thereto, and 44 is a pattern compensator for outputting compensation data for pattern compensation. . Reference numerals 51 and 52 are switches,
Reference numeral 50 denotes a delay unit, and reference numerals 45 to 49 denote output lines for storing, in a latch, a signal of the combined image data passed through the switches 51 and 52 and a signal passed through a plurality of delay units 50, respectively.

【0007】図3は、図2により獲得した五個のデータ
の中、周囲画素のデータを合算回路60,61,64を
通して合算し、合算回路60,61で合算された四個の
データを除いた対象画素のデータをシフタ66を通して
掛け算してから、その二個の値を減算器68で減算して
ラプラシアンを求めるプロセスをハードウェア的に示し
た図面である。
FIG. 3 shows that the data of the surrounding pixels are summed up through summing circuits 60, 61 and 64 out of the five data obtained in FIG. 2, and the four data summed up by the summing circuits 60 and 61 are removed. FIG. 9 is a hardware diagram illustrating a process of multiplying the data of the target pixel through a shifter 66 and then subtracting the two values by a subtractor 68 to obtain a Laplacian.

【0008】図4は、図3から得られるデジタル画像信
号を、遅延器78,79を用いて所定のレベルに遅延さ
せて必要なデータを得て、合算回路70,74とシフタ
72,77を用いて一次元ガウシアンを求めるプロセス
をハードウェア的に示した図である。また、図5は、図
4に示した回路を用いて、7n×7nガウシアンを求め
るプロセスをハードウェア的に示している。
FIG. 4 shows that the digital image signal obtained from FIG. 3 is delayed to a predetermined level by use of delay units 78 and 79 to obtain necessary data. FIG. 3 is a diagram illustrating a process of obtaining a one-dimensional Gaussian by using hardware. FIG. 5 shows a hardware process for obtaining 7n × 7n Gaussian using the circuit shown in FIG.

【0009】しかし、このような従来の畳み込み処理
は、処理速度の向上をハードウェアの構成に依存するの
で、変更が容易でないことによりフィルタ等の具現が難
しく、修正が容易でないという短所がある。また、リア
ルタイム計算において、計算結果の品質を向上させるた
めに、マスクの大きさを大きくしなければならない場
合、ハードウェアの速度が問題となり、費用が大きく増
加するという短所があった。
However, such a conventional convolution process has a disadvantage that the improvement of the processing speed depends on the hardware configuration, so that it is difficult to implement a filter or the like because the change is not easy, and the modification is not easy. Also, in real-time calculation, if the size of the mask must be increased in order to improve the quality of the calculation result, there is a disadvantage that the speed of the hardware becomes a problem and the cost increases greatly.

【0010】[0010]

【発明が解決しようとする課題】本発明は、前記のよう
な従来の畳み込み処理方法及び装置から発生する諸問題
点を解決するために提案されたものである。即ち、本発
明は、畳み込みのためのマスクのサイズが大きいほど検
査の信頼性が良くなることに反して、処理時間の問題で
現実的に具現できない事情があることに鑑み、マスクの
サイズに関係なく、高速の畳み込み処理を可能にした方
法及び装置を提供することを目的としている。
SUMMARY OF THE INVENTION The present invention has been proposed to solve the problems arising from the above-described conventional convolution processing method and apparatus. That is, according to the present invention, the larger the size of the mask for convolution becomes, the higher the reliability of the inspection becomes. It is another object of the present invention to provide a method and an apparatus which enable high-speed convolution processing.

【0011】[0011]

【課題を解決するための手段】上記課題を解決するた
め、本願の請求項1記載の発明は、画像データとマスク
との畳み込み処理を行う畳み込み処理方法において、画
像データのサンプリング間隔の倍数となる任意領域に分
割してマスクを設定するマスク設定プロセスと、画像デ
ータの各画素の累積画像データを生成してメモリに記憶
する累積画像データの生成プロセスと、累積画像データ
から、マスクの各段の領域に対応する累積画像データの
領域である対応領域の合算データを獲得する対応領域合
算データ獲得プロセスと、獲得した各対応領域合算デー
タと、対応領域に対応するマスクの各段の値とを乗算し
た後、各乗算結果の全てを合算して畳み込み対象画素の
畳み込み値として出力する畳み込み計算プロセスを含ん
でいるという構成を有する。また、上記課題を解決する
ため、請求項2記載の発明は、前記請求項1の構成にお
いて、前記累積画像データを記憶するためのメモリの大
きさは、累積画像データ全体が最大値を有する時、それ
らの合算データを記憶することができる大きさであると
いう構成を有する。また、上記課題を解決するため、請
求項3記載の発明は、画像データとマスクとの畳み込み
処理を行う畳み込み処理装置であって、撮像器から入力
された画像をデジタル画像データに変換し、その変換し
たデジタル画像データのうち累積対象画素であるカレン
ト画素のデータと、カレント画素が属する水平ラインで
あるカレント水平ラインのライン原点から前回の累積対
象画素である前回画素までの累積データとを加算し、そ
の加算の結果値と、現カレント画素よりも一つ以前の水
平ラインである以前ラインにおけるカレント画素と同じ
水平方向の位置である画素の累積画像データとを加算す
ることで、画像原点とカレント画素とが成す四角形領域
の各データを累積した累積画像データを生成する累積画
像データ生成手段と、累積画像データ生成手段により生
成された累積画像データから、所定個の部分領域データ
を抽出し、これを選択的に加算及び減算して対応領域の
画像の合算データを獲得し、併せて対応領域に対応する
マスクの段の値を出力する対応領域合算データ獲得手段
と、対応領域合算データ獲得手段により獲得される各対
応領域合算データと、対応するマスクの段の値とを乗算
し、各乗算結果の全てを合算してその結果値を畳み込み
対象画素の畳み込み値として出力する畳み込み値出力手
段とを含んで構成されているという構成を有する。ま
た、上記課題を解決するため、請求項4記載の発明は、
前記請求項3の構成において、前記累積画像データ生成
手段は、撮像器から入力された画像をデジタル値に変換
して画像データf(x,y)として出力する画像データ
出力器と、画像データf(x,y)のうち累積対象画素
であるカレント画素のデータと、前回の累積で計算され
た前回画素までのその水平ラインのデータの累積値を臨
時に記憶する前回累積画像データ記憶器の出力データと
を合算する第一合算器と、第一合算器による合算値が記
憶されるバッファと、カレント画素が属する水平ライン
よりも一つ以前の水平ラインである以前ラインにおいて
カレント画素と同じ水平方向の位置の画素の累積画像デ
ータを記憶した以前ライン累積画像データ記憶器と、バ
ッファから出力される画像データと、以前ライン累積画
像データ記憶器から出力される以前ライン累積画像デー
タとを合算して、画像原点とカレント画素とが成す四角
形領域の各データを累積する第二合算器と、第二合算器
の合算結果を累積画像データとして記憶する累積画像デ
ータ記憶器とから構成されるという構成を有する。ま
た、上記課題を解決するため、請求項5記載の発明は、
前記請求項3の構成において、前記対応領域合算データ
獲得手段は、前記累積画像データ生成手段により生成さ
れた累積画像データ(Fxy(x,y))から必要な四
個の部分領域データFxy(x2,y2)、Fxy(x
1,y1)、Fxy(x1,y2)、Fxy(x2,y
1)を抽出する第一乃至第四部分領域抽出器と、抽出し
た四個の部分領域データFxy(x2,y2)、Fxy
(x1,y1)、Fxy(x1,y2)、Fxy(x
2,y1)をそれぞれ二個の部分領域同士に合算する第
三合算器及び第四合算器と、第三合算器の出力データか
ら第四合算器の出力データを減算する減算器と、減算器
の出力を、対応領域合算データFxy(x1,y1,x
2,y2)として出力する対応領域合算データ出力器
と、対応領域に対応するマスクの段の値を出力するマス
ク対応段値出力器とから構成されるという構成を有す
る。また、上記課題を解決するため、請求項6記載の発
明は、前記請求項3の構成において、前記畳み込み値出
力手段は、前記対応領域合算データ獲得手段から得られ
る複数個の対応領域合算データ(Fxy(x1,y1,
x2,y2),・・・・Fxy(xm,ym,xn,y
n))と、その複数個の対応領域に対応するマスクの各
段の値(V(1),V(2),・・・V(n))とをそ
れぞれ乗算する多数個の乗算器と、多数個の乗算器の各
出力データを合算する合算器と、合算器の出力データを
畳み込み対象画素の畳み込み値として出力する畳み込み
値出力器とから構成されるという構成を有する。
According to a first aspect of the present invention, there is provided a convolution processing method for performing a convolution process between image data and a mask, the method comprising a multiple of a sampling interval of the image data. A mask setting process of setting a mask by dividing the image into an arbitrary region, a process of generating cumulative image data for generating cumulative image data of each pixel of image data and storing the same in a memory; A corresponding area combined data acquisition process for acquiring combined data of the corresponding area that is the area of the accumulated image data corresponding to the area, and multiplying the acquired corresponding area combined data by the value of each stage of the mask corresponding to the corresponding area After that, the configuration includes a convolution calculation process in which all of the multiplication results are summed and output as a convolution value of the convolution target pixel. To. According to a second aspect of the present invention, in the configuration of the first aspect, the size of the memory for storing the accumulated image data is such that the entire accumulated image data has a maximum value. , The size of which can store the sum data of them. According to another aspect of the present invention, there is provided a convolution processing apparatus for performing a convolution process between image data and a mask, which converts an image input from an image pickup device into digital image data. In the converted digital image data, the data of the current pixel that is the accumulation target pixel and the accumulation data from the line origin of the current horizontal line that is the horizontal line to which the current pixel belongs to the previous pixel that is the previous accumulation target pixel are added. By adding the result of the addition and the accumulated image data of the pixel located at the same horizontal position as the current pixel in the previous line, which is the horizontal line one line before the current current pixel, the image origin and the current Cumulative image data generating means for generating cumulative image data obtained by accumulating each data of a rectangular area formed by pixels; A predetermined number of partial area data are extracted from the accumulated image data generated by the generating means, and the partial data is selectively added and subtracted to obtain sum data of the image of the corresponding area, and a mask corresponding to the corresponding area is obtained. The corresponding area total data obtaining means for outputting the value of the corresponding step, the corresponding area total data obtained by the corresponding area total data obtaining means, and the value of the corresponding mask level are multiplied. And a convolution value output unit that outputs the result as a convolution value of the convolution target pixel. Further, in order to solve the above problem, the invention described in claim 4 is:
4. The image data output device according to claim 3, wherein the cumulative image data generation means converts an image input from the image pickup device into a digital value and outputs the digital value as image data f (x, y). The output of the previous accumulated image data storage for temporarily storing the data of the current pixel which is the accumulation target pixel in (x, y) and the accumulated value of the data of the horizontal line up to the previous pixel calculated in the previous accumulation. A first adder for summing the data, a buffer for storing the sum of the first adder, and the same horizontal direction as the current pixel in the previous line that is one horizontal line before the horizontal line to which the current pixel belongs The previous line accumulated image data storage storing the accumulated image data of the pixel at the position, the image data output from the buffer, and the previous line accumulated image data A second adder that adds together the output previous line accumulated image data and accumulates each data of a quadrangular region formed by the image origin and the current pixel, and stores the added result of the second adder as accumulated image data. And a cumulative image data storage. Further, in order to solve the above problem, the invention according to claim 5 is as follows.
4. The configuration according to claim 3, wherein the corresponding area sum data obtaining means obtains necessary four partial area data F xy from the accumulated image data (F xy (x, y)) generated by the accumulated image data generating means. (X2, y2), F xy (x
1, y1), F xy (x1, y2), F xy (x2, y
First to fourth partial area extractors for extracting 1), four extracted partial area data F xy (x2, y2), F xy
(X1, y1), F xy (x1, y2), F xy (x
2, y1) for each of the two partial areas, a third summer and a fourth summer, a subtractor for subtracting the output data of the fourth summer from the output data of the third summer, and a subtractor. Is output to the corresponding area sum data F xy (x1, y1, x
2, y2), and a mask corresponding stage value output device that outputs the value of the mask stage corresponding to the corresponding region. According to a sixth aspect of the present invention, in the configuration of the third aspect, the convolution value output means includes a plurality of corresponding area sum data (A) obtained from the corresponding area sum data acquisition means. F xy (x1, y1,
x2, y2),... F xy (xm, ym, xn, y
n)) and a number of multipliers each multiplying the value (V (1), V (2),... V (n)) of each stage of the mask corresponding to the plurality of corresponding regions, , And a convolutional value output device for outputting the output data of the adder as a convolutional value of the convolution target pixel.

【0012】[0012]

【発明の実施の形態】以下、本発明の好ましい実施の形
態を、図面により詳細に説明する。図6は、本発明の実
施形態である畳み込み処理方法の構成の一部であるマス
クの単純化プロセスを説明する図、即ち、マスクのデジ
タル計数化の方法を示す図である。このうち、図6
(a)は、一般的な場合に理論的なマスクを画像データ
のサンプリング間隔と同一にサンプリングしたマスクを
用いて演算を遂行する場合であり、従来の畳み込み処理
におけるのマスクのデジタル計数化を説明している。本
実施形態では、図6(b)に示すように、画像データの
サンプリング間隔の倍数となる任意領域に分けてマスク
を設定する。このときマスクの段数は、従来の方法と同
一、または小さい数となる。
DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Preferred embodiments of the present invention will be described below in detail with reference to the drawings. FIG. 6 is a diagram for explaining a mask simplification process which is a part of the configuration of the convolution processing method according to the embodiment of the present invention, that is, a diagram showing a method for digitally counting a mask. Among them, FIG.
(A) is a case in which a calculation is performed using a mask obtained by sampling a theoretical mask at the same sampling interval as image data in a general case, and the digital digitization of a mask in a conventional convolution process will be described. are doing. In the present embodiment, as shown in FIG. 6B, the mask is set for an arbitrary area that is a multiple of the sampling interval of the image data. At this time, the number of mask steps is the same as or smaller than that of the conventional method.

【0013】二次元の場合は、カーネル中心に対して対
称構造であるマスク値は、四角形形態である各段を積ん
で置いたピラミッド状とした形態に変形される。これは
累積画像データを活用するために、マスク値が掛けられ
る領域を四角形形態にすると、計算量を減らすことがで
きるからである。
In the two-dimensional case, the mask value having a symmetrical structure with respect to the center of the kernel is transformed into a pyramid shape in which the respective steps, which are square shapes, are stacked and placed. This is because the amount of calculation can be reduced by making the area to be masked multiplied by a square in order to utilize the accumulated image data.

【0014】次に、累積画像データに関して説明する。
累積画像データは、画像データ全体の原点(以下、単に
画像原点)と累積対象画素とが成す四角形領域の内部に
存在する各画素の明るさ値等のデータを累積していった
データである。これは、下記のような式2により表現す
ることができる。式2において、Fxy(x,y)が累
積画像データである。
Next, the accumulated image data will be described.
The cumulative image data is data obtained by accumulating data such as the brightness value of each pixel existing inside a rectangular area defined by the origin of the entire image data (hereinafter, simply referred to as the image origin) and the accumulation target pixel. This can be expressed by Equation 2 below. In Expression 2, F xy (x, y) is the accumulated image data.

【式2】 (Equation 2)

【0015】累積画像データの例を、図7に示した。図
7(1)に示す画像データの各画素に対して累積処理を
行うと、図7(2)に示すデータが得られる。また、図
7(2)に示すデータをさらにもう一回累積処理を行う
と、図7(3)に示すデータが得られる。
FIG. 7 shows an example of the accumulated image data. When accumulation processing is performed on each pixel of the image data shown in FIG. 7A, data shown in FIG. 7B is obtained. When the data shown in FIG. 7 (2) is further accumulated once, the data shown in FIG. 7 (3) is obtained.

【0016】このような累積処理の際、累積画像データ
を記憶するためのメモリの大きさは、データ全体が最大
値を有するときに全体の合計を記憶することができなけ
ればならない。例えば、512×512のデータを用い
れば、記憶可能な最大値は、255×512×512を
表現しなければならないので、各画素あたり26ビット
が必要であり、従って全体のデータを記憶するために
は、1Mバイトが必要となる。
In such an accumulation process, the size of the memory for storing the accumulated image data must be able to store the total of the entire data when the entire data has the maximum value. For example, if 512 × 512 data is used, the maximum value that can be stored must represent 255 × 512 × 512, so 26 bits are required for each pixel, and therefore, in order to store the entire data, Requires 1M bytes.

【0017】例えば、マスクの大きさを5×5とし、マ
スクの段数を5とするとともにマスク値をM(1,1)
からM(5,5)とする。畳み込み処理の対象画素のデ
ータ及び周辺画素のデータをI(1,1,)からI
(5,5)とすると、畳み込み対象画素のデータは、カ
ーネル中心を一致させるから、I(3,3)となる。こ
のときの畳み込み処理の結果値Gは、式3のように計算
される。
For example, the size of the mask is 5 × 5, the number of steps of the mask is 5, and the mask value is M (1, 1).
To M (5,5). The data of the target pixel of the convolution process and the data of the peripheral pixels are converted from I (1,1,) to I
If (5, 5) is set, the data of the convolution target pixel will be I (3, 3) because the kernel center is matched. The result value G of the convolution process at this time is calculated as in Expression 3.

【式3】 (Equation 3)

【0018】この際、マスクの上述の通り単純化する
と、マスクは3段に表現され得るし、この際のマスク値
は3個で済む。即ち、 マスクの中心:M(3,3)=V(1) その次の段:M(2,3),M(2,3),M(2,
4),M(3,2),M(3,4),M(4,2),M
(4,3),M(4,4)=V(2) 最後の段:マスク値はすべてV(3)
At this time, if the mask is simplified as described above, the mask can be expressed in three stages, and in this case, only three mask values are required. That is, the center of the mask: M (3,3) = V (1) The next stage: M (2,3), M (2,3), M (2,3)
4), M (3,2), M (3,4), M (4,2), M
(4,3), M (4,4) = V (2) Last stage: All mask values are V (3)

【0019】従って、前記式3は、 G=I(3,3)×V(1)+[I(2,2)+I(2,3)+I(2,4)+I(3,2)+I(3,4)
+I(4,2)+I(4,3)+I(4,4)]×V(2)+[I(1,1)+I(1,2)+I(1,3)
+I(1,4)+I(1,5)+I(2,1)+I(2,5)+I(3,1)+I(3,5)+I(4,1)+
I(4,5)+I(5,1)+I(5,2)+I(5,3)+I(5,4)+I(5,5)]×V(3) となり、さらにこれは、式4のように書ける。
Therefore, the equation (3) can be expressed as follows: G = I (3,3) × V (1) + [I (2,2) + I (2,3) + I (2,4) + I (3,3) 2) + I (3,4)
+ I (4,2) + I (4,3) + I (4,4)] × V (2) + [I (1,1) + I (1,2) + I (1,3)
+ I (1,4) + I (1,5) + I (2,1) + I (2,5) + I (3,1) + I (3,5) + I (4,1) +
I (4,5) + I (5,1) + I (5,2) + I (5,3) + I (5,4) + I (5,5)] × V (3), and This can be written as in Equation 4.

【式4】 (Equation 4)

【0020】従って、前述した累積画像データで、対応
領域のデータの合計を簡単に計算し、既に備えられたマ
スクの段同士の差異値を用いると、畳み込み時間を大き
く短縮させることができる。即ち、マスク値を数個の段
に分けて表現するように変形し、各段の値を分けて次の
段で一部分計算されるようにすると、計算過程が大きく
減らされることになる。この点を図8から図15に示し
た。
Therefore, the convolution time can be greatly reduced by simply calculating the sum of the data of the corresponding areas from the above-mentioned accumulated image data and using the difference value between the stages of the already provided mask. In other words, if the mask value is modified so as to be expressed in several stages, and the value of each stage is divided so as to be partially calculated in the next stage, the calculation process is greatly reduced. This point is shown in FIGS.

【0021】このうち、図8は、畳み込みを行う画像デ
ータを示す図である。図9は、図8に示す画像データの
累積画像データである。図10はマスク値を示し、図1
1は、図9に示すマスク値のマスクを二個の段に分離し
たことを示す図である。そして、図12は従来の畳み込
み演算プロセスを示し、図13は、マスクを各段別に区
分した本実施形態の畳み込み演算するプロセスを示す図
である。また、図14は、従来の畳み込み演算プロセス
で対象画素の結果値を得るために、図12で示すように
掛けられた値を合算するプロセスを示した図であり、図
15は、本実施形態において対象画素の結果値を得るた
めに図13で示すように掛けられた値を合算するプロセ
スを示す図である。
FIG. 8 is a diagram showing image data to be convolved. FIG. 9 shows cumulative image data of the image data shown in FIG. FIG. 10 shows the mask values, and FIG.
FIG. 1 is a diagram showing that the mask of the mask value shown in FIG. 9 is separated into two stages. FIG. 12 is a diagram showing a conventional convolution operation process, and FIG. 13 is a diagram showing a process of the convolution operation of the present embodiment in which a mask is divided into stages. FIG. 14 is a diagram showing a process of summing multiplied values as shown in FIG. 12 in order to obtain a result value of a target pixel in a conventional convolution operation process, and FIG. FIG. 14 is a diagram showing a process of summing multiplied values as shown in FIG. 13 to obtain a result value of a target pixel in FIG.

【0022】二次元データに対する計算量を、従来の方
法と本実施形態の方法とで比較してみると、以下のよう
になる。対象となる画像データの大きさをM×Nとし、
マスクの大きさをm×nとすると、従来の方法では畳み
込み対象画素毎にマスクの大きさに相当する回数の掛け
算と足し算が必要であるので、M×N×(m×n回の掛
け算及びm×n回の足し算)が必要である。
A comparison of the amount of calculation for two-dimensional data between the conventional method and the method of the present embodiment is as follows. The size of the target image data is M × N,
Assuming that the size of the mask is m × n, the conventional method requires multiplication and addition of the number of times corresponding to the size of the mask for each pixel to be convolved, so that M × N × (m × n multiplication and m × n times).

【0023】本実施形態の方法では、マスクの段数が最
大の場合、M×N×2個の対象画素毎に3回の足し算と
1回の掛け算がマスクの段数に相当する回数だけ必要で
あるので、[2回の足し算+(3回の足し算及び1回の
掛け算)×マスク段数]が必要である。従って、もし、
マスクの大きさが13×13であれば、おおよそ掛け算
24倍、足し算7倍の計算量の差異があるので、本実施
形態によれば、演算に要する時間を大きく減らすことが
できることが判る。従って、本実施形態の方法を用いる
ことによって、既存の方法を用いた場合より演算時間が
大きく短縮され、高速処理が必要な分野に有効に使用さ
れ得るし、大きさが大きいマスクを使用できるので、フ
ィルタ等の処理の結果の正確度を向上させ得る。
In the method of the present embodiment, when the number of mask steps is the maximum, three additions and one multiplication are required for each of M × N × 2 target pixels by the number of times corresponding to the number of mask steps. Therefore, [two additions + (three additions and one multiplication) × the number of mask stages] is required. Therefore, if
If the size of the mask is 13 × 13, there is a difference in the calculation amount of about 24 times the multiplication and 7 times the addition, so it can be seen that according to the present embodiment, the time required for the calculation can be greatly reduced. Therefore, by using the method of the present embodiment, the operation time is greatly reduced as compared with the case of using the existing method, and the method can be effectively used in a field requiring high-speed processing, and a large-sized mask can be used. , A filter, etc., can improve the accuracy of the result.

【0024】図16は、本発明の畳み込み処理装置の実
施形態を示したブロック構成図である。ここにおいて、
参照符号100は、撮像器で入力された画像をデジタル
画像データに変換し、その変換した画像データのうちの
累積対象画素であるカレント画素のデータと、カレント
画素が属する水平ラインであるカレント水平ラインのラ
イン原点から前回の累積対象画素である前回画素までの
累積データとを加算し、その加算の結果値と、現在画素
よりも一つ以前の水平ラインである以前ラインにおける
カレント画素と同じ水平方向の位置である画素の累積画
像データとを加算することで、画像原点とカレント画素
とが成す四角形領域の各データを加算した累積画像デー
タを生成する累積画像データ生成手段である。
FIG. 16 is a block diagram showing an embodiment of the convolution processing apparatus according to the present invention. put it here,
Reference numeral 100 denotes an image input by an image pickup device, which is converted into digital image data, and data of a current pixel which is an accumulation target pixel in the converted image data and a current horizontal line which is a horizontal line to which the current pixel belongs. Adds the accumulated data from the line origin to the previous pixel that is the previous accumulation target pixel, and adds the result value and the same horizontal direction as the current pixel in the previous line that is one horizontal line before the current pixel. Is cumulative image data generating means for generating cumulative image data by adding data of a rectangular area formed by the image origin and the current pixel by adding the cumulative image data of the pixel at the position of.

【0025】累積画像データの生成手段100は、カメ
ラ等の撮像器から入力された画像をデジタル値に変換し
て画像データf(x,y)として出力する画像データ出
力器111と、画像データf(x,y)のうち累積対象
画素であるカレント画素のデータと、前回の累積処理で
計算された前回の累積対象画素までのその水平ラインの
各データの累積値を臨時に記憶する前回累積画像データ
記憶器112の出力データとを合算する第一合算器11
3と、第一合算器113による合算値が記憶されるバッ
ファ114と、カレント画素が属する水平ラインよりも
一つ以前の水平ラインである以前ラインにおいてカレン
ト画素と同じ水平方向の位置の画素での累積画像データ
を記憶した以前ライン累積画像データ記憶器117と、
バッファ114から出力されるデータと、以前ライン累
積画像データ記憶器117から出力される以前ライン累
積画像データとを加算することで、画像原点とカレント
画素とが成す四角形領域内の各データを累積する第二合
算器115と、第二合算器115の合算結果を累積画像
データとして記憶する累積画像データ記憶器116とか
ら構成される
The cumulative image data generating means 100 converts an image input from an image pickup device such as a camera into a digital value and outputs it as image data f (x, y), and an image data output device 111. A previous accumulated image that temporarily stores the data of the current pixel that is the accumulation target pixel of (x, y) and the accumulated value of each data of the horizontal line up to the previous accumulation target pixel calculated in the previous accumulation process. First adder 11 for adding the output data of data storage 112
3, a buffer 114 in which the sum by the first adder 113 is stored, and a pixel at the same horizontal position as the current pixel in the previous line which is one horizontal line before the horizontal line to which the current pixel belongs. A previous line cumulative image data storage unit 117 storing the cumulative image data,
By adding the data output from the buffer 114 and the previous line accumulated image data output from the previous line accumulated image data storage unit 117, each data in the square area defined by the image origin and the current pixel is accumulated. It is composed of a second summer 115 and an accumulated image data storage 116 for storing the sum of the second summer 115 as accumulated image data.

【0026】また、参照符号200は、累積画像データ
生成手段100で生成された累積画像データF
xy(x,y)から所定個の部分領域データFxy(x
2,y2)、Fxy(x1,y1)、Fxy(x1,y
2)、Fxy(x2,y1)を抽出し、これを選択的に
加算及び減算し、対応領域(x1,y1,x2,y2)
の合算データFxy(x1,y1,x2,y2)を獲得
し、併せて対応領域(x1,y1,x2,y2)に対応
するマスクの段の値を出力する対応領域合算データ獲得
手段である。対応領域合算データ獲得手段200は、累
積画像データ生成手段100により生成された累積画像
データ(Fxy(x,y))から必要な四個の部分領域
データFxy(x2,y2)、Fxy(x1,y1)、
xy(x1,y2)、F (x2,y1)を抽出す
る第一乃至第四部分領域抽出器211,212,21
3,214と、抽出した四個の部分領域データF
xy(x2,y2)、Fxy(x1,y1)、F
xy(x1,y2)、Fxy(x2,y1)をそれぞれ
二個の部分領域どうしに合算する第三合算器215及び
第四合算器216と、第三合算器215の出力データか
ら第四合算器216の出力データを減算する減算器21
7と、減算器217の出力を、対応領域合算データF
xy(x1,y1,x2,y2)として出力する対応領
域合算データ出力器218と、対応領域(x1,y1,
x2,y2)に対応するマスクの段の値を出力するマス
ク対応段値出力器219とから構成される。
Reference numeral 200 denotes the cumulative image data F generated by the cumulative image data generating means 100.
xy (x, y) from a predetermined number of partial area data F xy (x
2, y2), F xy (x1, y1), F xy (x1, y
2), F xy (x2, y1) is extracted, and this is selectively added and subtracted to obtain a corresponding area (x1, y1, x2, y2).
Is a corresponding area total data obtaining means that obtains the total data F xy (x1, y1, x2, y2) and outputs the value of the mask stage corresponding to the corresponding area (x1, y1, x2, y2). . The corresponding area total data obtaining means 200 obtains four necessary partial area data F xy (x2, y2) and F xy from the cumulative image data (F xy (x, y)) generated by the cumulative image data generating means 100. (X1, y1),
F xy (x1, y2), F x y (x2, y1) first to fourth partial area extractor for extracting 211,212,21
3,214 and the four extracted partial area data F
xy (x2, y2), F xy (x1, y1), F
xy (x1, y2) and Fxy (x2, y1) are respectively added to the two partial areas by a third adder 215 and a fourth adder 216, and a fourth adder is obtained from the output data of the third adder 215. Subtractor 21 for subtracting the output data of the adder 216
7 and the output of the subtractor 217,
xy (x1, y1, x2, y2) and a corresponding area sum data output unit 218, and a corresponding area (x1, y1,
(x2, y2), and a mask-corresponding stage value output unit 219 for outputting the value of the mask stage corresponding to the mask stage.

【0027】また、参照符号300は、対応領域合算デ
ータ獲得手段200から得られる対応領域(x1,y
1,x2,y2)の対応領域合算データFxy(x1,
y1,x2,y2)と、対応するマスク対応段値とを乗
算し、対応領域の乗算結果値の全てを合算し、その結果
値を対象画素の畳み込み値に出力する畳み込み値出力手
段である。畳み込み値出力手段300は、対応領域合算
データ獲得手段200から得られる複数個の対応領域合
算データFxy(x1,y1,x2,y2),・・・・
xy(xm,ym,xn,yn)と、その複数個の対
応領域にそれぞれ対応するマスク対応段値(V(1),
V(2),・・・V(n))をそれぞれ乗算する多数個
の乗算器301と、多数個の乗算器301の各出力デー
タを合算する合算器321と、合算器321の出力デー
タを対象画素の畳み込み値として出力する畳み込み値出
力器331とから構成される。
Reference numeral 300 denotes a corresponding area (x1, y) obtained from the corresponding area total data acquisition means 200.
1, x2, y2) corresponding area sum data F xy (x1,
y1, x2, y2) and a corresponding mask corresponding stage value, sum all the multiplication result values of the corresponding area, and output the result value to the convolution value of the target pixel. The convolution value output means 300 outputs a plurality of corresponding area sum data F xy (x1, y1, x2, y2) obtained from the corresponding area sum data acquisition means 200.
F xy (xm, ym, xn, yn) and mask corresponding step values (V (1),
V (2),... V (n)), a multiplier 321 for summing the output data of each of the multipliers 301, and an output data of the summer 321. A convolution value output unit 331 that outputs a convolution value of the target pixel.

【0028】まず、累積画像データ生成手段100内の
画像データ出力器111は、カメラ等の撮像器から入力
された画像をデジタル値に変換し、画像データf(x、
y)に出力し、第一合算器113は、前回累積画像デー
タ記憶器112から得られるカレント水平ラインのライ
ン原点から前回画素までの画像データの累積値と、画像
データ出力器111から出力されるカレント画素の画像
データとを合算する。その結果値はバッファ114に一
時記憶される。第二合算器115は、バッファ114か
ら出力される画像データと以前ライン累積画像データ記
憶器117から出力される以前ライン累積画像データと
を合算することにより、カレント画素と画像原点とが成
す四角形領域の各画像データを累積する。そしてその結
果値は、累積画像データ記憶器116に記憶されるし、
これによって累積画像データが生成される。
First, an image data output unit 111 in the cumulative image data generating means 100 converts an image input from an image pickup device such as a camera into a digital value, and outputs image data f (x,
y), the first summer 113 outputs the accumulated value of the image data from the line origin of the current horizontal line obtained from the previous accumulated image data storage 112 to the previous pixel, and the image data output unit 111. The image data of the current pixel is summed. The result value is temporarily stored in the buffer 114. The second adder 115 adds the image data output from the buffer 114 and the previous line accumulated image data output from the previous line accumulated image data storage 117 to form a quadrangular region formed by the current pixel and the image origin. Are accumulated. Then, the result value is stored in the cumulative image data storage 116,
As a result, accumulated image data is generated.

【0029】このように生成される累積画像データは、
対応領域合算データ獲得手段200に入力され、対応領
域合算データ獲得手段200内の第一乃至第四部分領域
抽出器211〜214は、累積画像データ生成手段10
0から生成された累積画像データから必要な四個の部分
領域データを抽出する。そして、第三合算器215と第
四合算器216は、前記抽出した四個の部分領域データ
をそれぞれ二個の部分領域同士で合算する。それから、
減算器217で第三合算器215の出力データから、第
四合算器216の出力データを減算する。減算器217
の出力は、対応領域合算データ出力器218を通して出
力される。そして、対応領域合算データ獲得出段200
は、前記の通り対応領域合算データを獲得した場合は、
その対応領域に対応するマスクの段の値もマスク対応段
値出力器219を通して出力する。
The accumulated image data thus generated is
The first to fourth partial area extractors 211 to 214 that are input to the corresponding area total data acquisition means 200 and are included in the corresponding area total data acquisition means 200
The necessary four partial area data are extracted from the accumulated image data generated from 0. Then, the third adder 215 and the fourth adder 216 add the extracted four partial area data to each of the two partial areas. then,
The output data of the fourth adder 216 is subtracted from the output data of the third adder 215 by the subtracter 217. Subtractor 217
Is output through the corresponding area sum data output unit 218. Then, the corresponding area total data acquisition output stage 200
If, as described above, the corresponding area total data is obtained,
The value of the mask stage corresponding to the corresponding area is also output through the mask corresponding stage value output unit 219.

【0030】このように出力される対応領域合算データ
とマスクの対応する段の値は、畳み込み値出力手段30
0内の乗算器301で乗算され、その結果値は合算器3
21で他の乗算器の出力と全部合算されてから、その結
果値が畳み込み値出力器331を通して対象画素の畳み
込み値として出力される。
The output of the corresponding area sum data and the value of the corresponding stage of the mask are performed by the convolution value output means 30.
The result is multiplied by the multiplier 301 within 0, and the result is summed by the adder 3
At 21, the output is summed with the outputs of the other multipliers, and the resulting value is output as a convolution value of the target pixel through a convolution value output unit 331.

【0031】以上の説明では、一つの対象画素に対する
畳み込み値の計算プロセスを説明したが、実際には上述
した畳み込み処理プロセスを多数回繰り返して1つの画
像データ全体の畳み込み値を得る。尚、ハードウェアの
構成によっては、累積画像データの生成プロセスには、
デジタル画像データの獲得と同時に行われ得るし、マス
クの大きさ以上の累積画像データが計算された以降は、
対応領域合算データの獲得プロセスと畳み込み値の出力
プロセスとが別個のプロセスで行われることもある。
In the above description, the process of calculating the convolution value for one target pixel has been described. In practice, however, the convolution process described above is repeated many times to obtain the convolution value of one image data as a whole. Note that, depending on the hardware configuration, the process of generating the accumulated image data includes:
It can be performed at the same time as the acquisition of digital image data, and after the cumulative image data larger than the size of the mask is calculated,
The process of obtaining the corresponding region sum data and the process of outputting the convolution value may be performed in separate processes.

【0032】図17は、本実施形態の構成のラプラシア
ンガウス処理への適用例を示す図である。このうち、図
17aは、処理前の画像データを示す。図17bは従来
の畳み込み処理方法により得られた畳み込み値であり、
図17cは本実施形態の畳み込み処理方法により得られ
た畳み込み値であり、図18は畳み込み結果値の比較図
である。図18に示す例は、平均値が約131であり、
中心部における値が4程度差異がある輝点がある画像の
処理結果である。図18から分かる通り、本実施形態の
処理方法でも、従来の処理方法と大きく差異のないこと
が分かる。
FIG. 17 is a diagram showing an example of application of the configuration of the present embodiment to Laplacian Gaussian processing. Among them, FIG. 17A shows image data before processing. FIG. 17b shows the convolution value obtained by the conventional convolution processing method,
FIG. 17C shows the convolution values obtained by the convolution processing method according to the present embodiment, and FIG. 18 is a comparison diagram of the convolution result values. In the example shown in FIG. 18, the average value is about 131,
It is a processing result of an image having a bright spot having a difference of about 4 at the center. As can be seen from FIG. 18, it can be seen that the processing method of the present embodiment is not significantly different from the conventional processing method.

【0033】[0033]

【発明の効果】以上説明した通り、本願の発明によれ
ば、畳み込み処理において、マスクの大きさに関係なく
高速の畳み込み処理が行える効果がある。
As described above, according to the present invention, in the convolution processing, there is an effect that high-speed convolution processing can be performed regardless of the size of the mask.

【図面の簡単な説明】[Brief description of the drawings]

【図1】一次元の畳み込み処理の一例を説明する図であ
る。
FIG. 1 is a diagram illustrating an example of a one-dimensional convolution process.

【図2】従来の方法において、画像データ獲得時に畳み
込み対象画素のデータとその対象画素の周囲に位置する
画素のデータとを遅延器(delay)を用いて記憶すること
を示した図面である。
FIG. 2 is a diagram illustrating that data of a convolution target pixel and data of a pixel located around the target pixel are stored using a delay unit when acquiring image data in the conventional method.

【図3】図2により獲得した五個のデータの中、周囲画
素のデータを合算回路60,61,64を通して合算
し、合算回路60,61で合算された四個のデータを除
いた対象画素のデータをシフタ66を通して掛け算して
から、その二個の値を減算器68で減算してラプラシア
ンを求めるプロセスをハードウェア的に示した図面であ
る。
FIG. 3 shows a target pixel obtained by adding data of surrounding pixels through summing circuits 60, 61 and 64 from among the five data obtained according to FIG. 2, and excluding the four data summed up by the summing circuits 60 and 61; Is a hardware diagram illustrating a process of multiplying the data of the data by a shifter 66 and then subtracting the two values by a subtractor 68 to obtain a Laplacian.

【図4】図3から得られるデジタル画像信号を、遅延器
78,79を用いて所定のレベルに遅延させて必要なデ
ータを得て、合算回路70,74とシフタ72,77を
用いて一次元ガウシアンを求めるプロセスをハードウェ
ア的に示した図である。
4 delays the digital image signal obtained from FIG. 3 to a predetermined level using delay units 78 and 79 to obtain necessary data, and uses primary circuits using summing circuits 70 and 74 and shifters 72 and 77. FIG. 3 is a diagram illustrating a process of obtaining an original Gaussian in terms of hardware.

【図5】図4に示した回路を用いて、7n×7nガウシ
アンを求めるプロセスをハードウェア的に示している。
FIG. 5 is a hardware diagram showing a process for obtaining 7n × 7n Gaussian using the circuit shown in FIG. 4;

【図6】本発明の実施形態である畳み込み処理方法の構
成の一部であるマスクの単純化プロセスを説明する図、
即ち、マスクのデジタル計数化の方法を示す図である。
FIG. 6 is a view for explaining a mask simplification process which is a part of the configuration of a convolution processing method according to an embodiment of the present invention;
That is, it is a diagram showing a method of digitally counting a mask.

【図7】累積画像データの例を示す図である。FIG. 7 is a diagram illustrating an example of accumulated image data.

【図8】畳み込みを行う画像データを示す図である。FIG. 8 is a diagram illustrating image data on which convolution is performed.

【図9】図8に示す画像データの累積画像データであ
る。
9 is cumulative image data of the image data shown in FIG.

【図10】マスク値の一例を示す。FIG. 10 shows an example of a mask value.

【図11】図9に示すマスク値のマスクを二個の段に分
離したことを示す図である。
11 is a diagram showing that the mask of the mask value shown in FIG. 9 is separated into two stages.

【図12】従来の畳み込み演算プロセスを示す。FIG. 12 shows a conventional convolution operation process.

【図13】マスクを各段別に区分した本実施形態の畳み
込み演算するプロセスを示す図である。
FIG. 13 is a diagram illustrating a process of performing a convolution operation according to the present embodiment in which a mask is divided into stages.

【図14】従来の畳み込み演算プロセスで対象画素の結
果値を得るために、図12で示すように掛けられた値を
合算するプロセスを示した図である。
FIG. 14 is a diagram showing a process of summing multiplied values as shown in FIG. 12 to obtain a result value of a target pixel in a conventional convolution operation process.

【図15】本実施形態において対象画素の結果値を得る
ために図13で示すように掛けられた値を合算するプロ
セスを示す図である。
FIG. 15 is a diagram showing a process of summing the multiplied values as shown in FIG. 13 to obtain a result value of the target pixel in the embodiment.

【図16】本発明の畳み込み処理装置の実施形態を示し
たブロック構成図である。
FIG. 16 is a block diagram showing an embodiment of the convolution processing device of the present invention.

【図17】本実施形態の構成のラプラシアンガウス処理
への適用例を示す図である。
FIG. 17 is a diagram illustrating an example of application of the configuration of the present embodiment to Laplacian Gaussian processing.

【図18】畳み込み結果値の比較図である。FIG. 18 is a comparison diagram of convolution result values.

【符号の説明】[Explanation of symbols]

100 留積画像データ生成手段 200 対応領域合算データ獲得手段 300 畳み込み値出力手段 Reference Signs List 100 accumulated image data generation means 200 corresponding area sum data acquisition means 300 convolution value output means

Claims (6)

【特許請求の範囲】[Claims] 【請求項1】 画像データとマスクとの畳み込み処理を
行う畳み込み処理方法において、画像データのサンプリ
ング間隔の倍数となる任意領域に分割してマスクを設定
するマスク設定プロセスと、 画像データの各画素の累積画像データを生成してメモリ
に記憶する累積画像データの生成プロセスと、 累積画像データから、マスクの各段の領域に対応する累
積画像データの領域である対応領域の合算データを獲得
する対応領域合算データ獲得プロセスと、 獲得した各対応領域合算データと、対応領域に対応する
マスクの各段の値とを乗算した後、各乗算結果の全てを
合算して畳み込み対象画素の畳み込み値として出力する
畳み込み計算プロセスを含んでいることを特徴とする畳
み込み処理方法。
1. A convolution processing method for performing convolution processing between image data and a mask, comprising: a mask setting process of setting a mask by dividing the image data into an arbitrary area which is a multiple of a sampling interval of the image data; A process of generating cumulative image data for storing the cumulative image data in a memory; and a corresponding area for obtaining, from the cumulative image data, sum data of a corresponding area that is an area of the cumulative image data corresponding to the area of each stage of the mask. The sum data acquisition process, multiplies the acquired sum data of each corresponding region by the value of each stage of the mask corresponding to the corresponding region, and then sums all the multiplication results and outputs the result as the convolution value of the convolution target pixel A convolution processing method comprising a convolution calculation process.
【請求項2】 前記累積画像データを記憶するためのメ
モリの大きさは、累積画像データ全体が最大値を有する
時、それらの合算データを記憶することができる大きさ
であることを特徴とする請求項1記載の畳み込み処理方
法。
2. The size of the memory for storing the accumulated image data is such that when the total accumulated image data has a maximum value, the sum of those data can be stored. The convolution processing method according to claim 1.
【請求項3】 画像データとマスクとの畳み込み処理を
行う畳み込み処理装置であって、 撮像器から入力された画像をデジタル画像データに変換
し、その変換したデジタル画像データのうち累積対象画
素であるカレント画素のデータと、カレント画素が属す
る水平ラインであるカレント水平ラインのライン原点か
ら前回の累積対象画素である前回画素までの累積データ
とを加算し、その加算の結果値と、カレント画素よりも
一つ以前の水平ラインである以前ラインにおけるカレン
ト画素と同じ水平方向の位置である画素の累積画像デー
タとを加算することで、画像原点とカレント画素とが成
す四角形領域の各データを累積した累積画像データを生
成する累積画像データ生成手段と、 累積画像データ生成手段により生成された累積画像デー
タから、所定個の部分領域データを抽出し、これを選択
的に加算及び減算して対応領域合算データを獲得し、併
せて対応領域に対応するマスクの段の値を出力する対応
領域合算データ獲得手段と、 対応領域合算データ獲得手段により獲得される各対応領
域合算データと、対応するマスクの段の値とを乗算し、
各乗算結果の全てを合算してその結果値を畳み込み対象
画素の畳み込み値として出力する畳み込み値出力手段と
を含んで構成されていることを特徴とする畳み込み処理
装置。
3. A convolution processing device for performing a convolution process between image data and a mask, wherein the convolution processing device converts an image input from an image pickup device into digital image data, and is an accumulation target pixel in the converted digital image data. The data of the current pixel and the accumulated data from the line origin of the current horizontal line, which is the horizontal line to which the current pixel belongs, to the previous pixel, which is the previous accumulation target pixel, are added. By adding the current pixel in the previous line, which is the previous horizontal line, and the accumulated image data of the pixel in the same horizontal direction as the current pixel, the accumulation of each data of the square area formed by the image origin and the current pixel is performed. A cumulative image data generating means for generating image data; and a cumulative image data generated by the cumulative image data generating means. Means for extracting a predetermined number of partial area data, selectively adding and subtracting the data to obtain corresponding area total data, and also outputting a value of a mask stage corresponding to the corresponding area. And multiplying each corresponding area total data obtained by the corresponding area total data obtaining means by the value of the corresponding mask stage,
A convolution value output means for summing all of the multiplication results and outputting the result value as a convolution value of a convolution target pixel.
【請求項4】 前記累積画像データ生成手段は、 撮像器から入力された画像をデジタル値に変換して画像
データf(x,y)として出力する画像データ出力器
と、 画像データf(x,y)のうち累積対象画素であるカレ
ント画素のデータと、前回の累積で計算された前回画素
までのその水平ラインのデータの累積値を臨時に記憶す
る前回累積画像データ記憶器の出力データとを合算する
第一合算器と、 第一合算器による合算値が記憶されるバッファと、 カレント画素が属する水平ラインよりも一つ以前の水平
ラインである以前ラインにおいてカレント画素と同じ水
平方向の位置の画素の累積画像データを記憶した以前ラ
イン累積画像データ記憶器と、 バッファから出力される画像データと、以前ライン累積
画像データ記憶器から出力される以前ライン累積画像デ
ータとを合算して、画像原点とカレント画素とが成す四
角形領域の各データを累積する第二合算器と、 第二合算器の合算結果を累積画像データとして記憶する
累積画像データ記憶器とから構成されることを特徴とす
る請求項3記載の畳み込み処理装置。
4. An image data output device for converting an image input from an image pickup device into a digital value and outputting the converted image data as image data f (x, y), wherein the image data f (x, y) y), the data of the current pixel which is the accumulation target pixel and the output data of the previous accumulation image data storage for temporarily storing the accumulation value of the data of the horizontal line up to the previous pixel calculated in the previous accumulation. A first adder to be added, a buffer in which the sum of the first adder is stored, and a horizontal line at the same horizontal position as the current pixel in a previous line that is one horizontal line before the horizontal line to which the current pixel belongs. A previous line accumulated image data storage device that stores accumulated image data of pixels, image data output from a buffer, and output from a previous line accumulated image data storage device A second adder that adds together the previous line accumulated image data and accumulates each data of a quadrangular region formed by the image origin and the current pixel; and accumulated image data that stores the sum of the results of the second adder as accumulated image data. 4. The convolution processing device according to claim 3, comprising a storage device.
【請求項5】 前記対応領域合算データ獲得手段は、 前記累積画像データ生成手段により生成された累積画像
データ(Fxy(x,y))から必要な四個の部分領域
データFxy(x2,y2)、Fxy(x1,y1)、
xy(x1,y2)、Fxy(x2,y1)を抽出す
る第一乃至第四部分領域抽出器と、抽出した四個の部分
領域データFxy(x2,y2)、F (x1,y
1)、Fxy(x1,y2)、Fxy(x2,y1)を
それぞれ二個の部分領域同士に合算する第三合算器及び
第四合算器と、 第三合算器の出力データから第四合算器の出力データを
減算する減算器と、 減算器の出力を、対応領域合算データFxy(x1,y
1,x2,y2)として出力する対応領域合算データ出
力器と、 対応領域に対応するマスクの段の値を出力するマスク対
応段値出力器とから構成されることを特徴とする請求項
3記載の畳み込み処理装置。
5. A method according to claim 1, wherein the corresponding area sum data obtaining means obtains necessary four partial area data F xy (x2, x2) from the cumulative image data (F xy (x, y)) generated by the cumulative image data generating means. y2), F xy (x1, y1),
F xy (x1, y2), F xy and first to fourth partial area extractor for extracting (x2, y1), extracted four partial region data F xy (x2, y2), F x y (x1 , Y
1), a third adder and a fourth adder for adding F xy (x1, y2) and F xy (x2, y1) to each of the two partial areas, and a fourth adder from the output data of the third adder. A subtracter for subtracting the output data of the adder; and an output of the subtracter, the corresponding area combined data F xy (x1, y
4. The apparatus according to claim 3, further comprising: a corresponding area sum data output device for outputting as (1, x2, y2); and a mask corresponding stage value output device for outputting a value of a mask stage corresponding to the corresponding region. Convolution processing device.
【請求項6】 前記畳み込み値出力手段は、 前記対応領域合算データ獲得手段から得られる複数個の
対応領域合算データ(Fxy(x1,y1,x2,y
2),・・・・Fxy(xm,ym,xn,yn))
と、その複数個の対応領域に対応するマスクの各段の値
(V(1),V(2),・・・V(n))とをそれぞれ
乗算する多数個の乗算器と、 多数個の乗算器の各出力データを合算する合算器と、 合算器の出力データを畳み込み対象画素の畳み込み値と
して出力する畳み込み値出力器とから構成されることを
特徴とする請求項3記載の畳み込み処理装置。
6. The convolution value output means includes: a plurality of corresponding area sum data (F xy (x1, y1, x2, y) obtained from the corresponding area sum data acquisition means.
2),... F xy (xm, ym, xn, yn))
, V (1), V (2),..., V (n), respectively, and a plurality of multipliers for multiplying the respective values (V (1), V (2),... V (n)) of the mask corresponding to the plurality of corresponding regions; 4. The convolution process according to claim 3, further comprising: a summation unit that sums the respective output data of the multipliers; and a convolution output unit that outputs the output data of the summation as a convolution value of a convolution target pixel. apparatus.
JP29687999A 1999-06-30 1999-10-19 Convolution processing method and apparatus Expired - Fee Related JP3209420B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP29687999A JP3209420B2 (en) 1999-06-30 1999-10-19 Convolution processing method and apparatus

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
KR1019990025717A KR100298327B1 (en) 1999-06-30 1999-06-30 Method and Apparatus for high speed Convolution
JP28885599 1999-10-08
JP11-288855 1999-10-08
JP1999-25717 1999-10-08
JP29687999A JP3209420B2 (en) 1999-06-30 1999-10-19 Convolution processing method and apparatus

Publications (2)

Publication Number Publication Date
JP2001175852A true JP2001175852A (en) 2001-06-29
JP3209420B2 JP3209420B2 (en) 2001-09-17

Family

ID=27337473

Family Applications (1)

Application Number Title Priority Date Filing Date
JP29687999A Expired - Fee Related JP3209420B2 (en) 1999-06-30 1999-10-19 Convolution processing method and apparatus

Country Status (1)

Country Link
JP (1) JP3209420B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012073970A (en) * 2010-09-30 2012-04-12 Olympus Corp Arithmetic unit and arithmetic method
JP2017078934A (en) * 2015-10-20 2017-04-27 富士通株式会社 Calculation method of convolution neural network, calculation program, and information processor

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2587785B (en) * 2019-07-17 2022-11-23 Gum Tech Co Ltd Method of forming aligned patterns on mat

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012073970A (en) * 2010-09-30 2012-04-12 Olympus Corp Arithmetic unit and arithmetic method
JP2017078934A (en) * 2015-10-20 2017-04-27 富士通株式会社 Calculation method of convolution neural network, calculation program, and information processor

Also Published As

Publication number Publication date
JP3209420B2 (en) 2001-09-17

Similar Documents

Publication Publication Date Title
KR100298327B1 (en) Method and Apparatus for high speed Convolution
US8121429B2 (en) Image processing apparatus, image-capturing apparatus, image processing method, and program
WO2002065760A1 (en) Screen correcting method and imaging device
EP0523924B1 (en) Image signal processing apparatus
US6876778B2 (en) Edge enhancement method and apparatus in digital image scalar-up circuit
JP3209420B2 (en) Convolution processing method and apparatus
US7522190B2 (en) Image detection processing device for calculating the moments of image data
JP4323808B2 (en) Two-dimensional pyramid filter architecture
JP3132055B2 (en) Image processing apparatus and image processing method
JP2008021219A (en) Image processing apparatus and method
JP5169926B2 (en) Image processing device
JP3017239B2 (en) Image generation method
JP4197821B2 (en) Image processing device
JP2009017583A (en) Image processing device
KR970006553B1 (en) Display zooming apparatus of image signal processing system
JPS61222374A (en) Picture image reader
JPH1117931A (en) Pixel density converter
JP3289204B2 (en) Image processing device
JP2806436B2 (en) Arithmetic circuit
JPH07175932A (en) Image processor
JPH0591320A (en) Method and device for picture processing
JPH0877343A (en) Raster/block converting method and device for executing the method
KR20090110268A (en) Image processing apparatus, image-capturing apparatus, image processing method, and program
JPH01219961A (en) Coordinate transforming method for image
JPS5937770A (en) Picture reduction device

Legal Events

Date Code Title Description
R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20070713

Year of fee payment: 6

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080713

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees