JPH0981712A - Method and device for image processing - Google Patents

Method and device for image processing

Info

Publication number
JPH0981712A
JPH0981712A JP7231218A JP23121895A JPH0981712A JP H0981712 A JPH0981712 A JP H0981712A JP 7231218 A JP7231218 A JP 7231218A JP 23121895 A JP23121895 A JP 23121895A JP H0981712 A JPH0981712 A JP H0981712A
Authority
JP
Japan
Prior art keywords
line
point
predetermined
image
points
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP7231218A
Other languages
Japanese (ja)
Other versions
JP3679467B2 (en
Inventor
Kenji Hatori
健司 羽鳥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP23121895A priority Critical patent/JP3679467B2/en
Publication of JPH0981712A publication Critical patent/JPH0981712A/en
Application granted granted Critical
Publication of JP3679467B2 publication Critical patent/JP3679467B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

PROBLEM TO BE SOLVED: To enable an optimum image segmentation processing adaptive to user's intention. SOLUTION: This method include a 1st selecting process (S201-S202) which selects a 2nd point closest to a 1st point out of pixels having density gradients larger than a specific threshold on a line that passes a 1st point on a specific line on an image and crosses the specific line almost at right angles and a 2nd selecting processes (S203) which selects a 4th point closest to the selected 2nd point out of the pixels having density gradients larger than the specific threshold nearby the 1st point that passes a 3rd point on the specific line and crosses the specific line almost at right angles; and the line passing the 2nd and 4th points selected by the 1st and 2nd selecting means is decided as an image segmentation line (S205).

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】本発明は、画像処理方法とそ
の装置、特に、画像からの領域切り出しを行う画像処理
方法とその装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image processing method and an apparatus thereof, and more particularly to an image processing method and an apparatus thereof for cutting out a region from an image.

【0002】[0002]

【従来の技術】従来、画像の特定領域を切り出し、その
他の領域を除去する方法として、例えば特開昭60−1
69977で記述されている方法があった。この方法で
は、まず、ユーザが切り出したい領域の境界線付近に代
表点を指示する。そして、その代表点を結んだ線分の垂
線上にあり、かつ、ある一定距離内に位置する点の中で
各画素値の微分値(エッジ)が最大となる点を選ぶ。さ
らに、これらの点を連結することで切り出しを行う境界
線を決定する。
2. Description of the Related Art Conventionally, as a method for cutting out a specific area of an image and removing the other area, for example, Japanese Patent Laid-Open No. 60-1
There was a method described in 69977. In this method, first, the user designates a representative point in the vicinity of the boundary line of the area to be cut out. Then, a point on the perpendicular of the line segment connecting the representative points and located within a certain fixed distance, where the differential value (edge) of each pixel value is the maximum, is selected. Further, by connecting these points, the boundary line for cutting out is determined.

【0003】この方法ではさらに、あらかじめ画像の平
滑化を行ったり、得られた点に対して最小2乗法による
当てはめを行って境界線を決定するなどして、画像のノ
イズによって生じる凹凸をなくしていた。また、人物の
頭髪のように輪郭をぼかしたい場合には、輪郭の周囲の
各画素に対して周囲の画素値を重み付けして足し込んで
いた。
In this method, further, the image is smoothed in advance, or the obtained points are fitted by the method of least squares to determine the boundary line, thereby eliminating the unevenness caused by the noise of the image. It was Further, when it is desired to blur the contour like the hair of a person, the surrounding pixel values are weighted and added to each pixel around the contour.

【0004】[0004]

【発明が解決しようとする課題】しかし、このような従
来の方法では、次のような問題点があった。すなわち、
ユーザが指定した点の近傍において、画素値の微分値が
最大となる画素が必ずしもユーザが切り出したいと境界
点にならないことがあることである。例えば、画像から
人物の領域を切り出す際に、洋服のしわのように何本も
の線が同一方向に存在する領域に対しては、画素値の微
分値が最大となる点が分散してしまい、結果的には凹凸
を持つ線で切り出しが行われてしまう。
However, such a conventional method has the following problems. That is,
In the vicinity of the point designated by the user, the pixel having the maximum differential value of the pixel value may not necessarily be the boundary point if the user wants to cut out the pixel. For example, when cutting out a region of a person from an image, for a region where many lines exist in the same direction like a wrinkle of clothes, the points where the differential value of the pixel value is the maximum are dispersed, As a result, cutting out is performed with a line having irregularities.

【0005】また、孤立点などのノイズに強く影響され
た境界切り出しとなっていまっていた。さらに、輪郭の
特定箇所のぼかし量を他の箇所と変えることが不可能で
あり、すべての輪郭を一様にぼかすことができるだけで
あった。本発明は、上記従来例に鑑みてなされたもの
で、ユーザの意図する適正な画像切り出しが可能な画像
処理方法とその装置提供することを目的とする。
Further, the boundary has been cut out which is strongly affected by noise such as isolated points. Furthermore, it is impossible to change the blurring amount of a specific portion of the contour from that of other portions, and it is only possible to blur all contours uniformly. The present invention has been made in view of the above conventional example, and an object of the present invention is to provide an image processing method and an apparatus thereof capable of appropriately cutting out an image intended by a user.

【0006】[0006]

【課題を解決するための手段】上記目的を達成するた
め、本発明の画像処理方法とその装置は以下の構成を備
える。即ち、画像に対する所定の線上の第1の点を通り
前記所定の線に概直交する線上にあって、所定の閾値以
上の濃度勾配を有する画素のうち前記点に最も近い第2
の点を選択する第1の選択手段と、前記第1の点の近傍
にある、前記所定の線上の第3の点を通り、前記所定の
線に直交する線上にあって、所定の閾値以上の濃度勾配
を有する画素のうち、前記選択された第2の点に最も近
い第4の点を選択する第2の選択手段とを備え、前記第
1と第2の選択手段で、選択された第2の点と第4の点
を通る線を画像切り出し線とする。
In order to achieve the above object, an image processing method and apparatus according to the present invention have the following arrangement. That is, the second pixel closest to the point on the line that passes through the first point on the predetermined line with respect to the image and is substantially orthogonal to the predetermined line and has a density gradient of a predetermined threshold value or more.
And a third threshold on the predetermined line in the vicinity of the first point, and on a line orthogonal to the predetermined line and having a predetermined threshold value or more. A second selection unit that selects a fourth point that is closest to the selected second point among pixels having a density gradient of 2 above, and is selected by the first and second selection units. The line that passes through the second point and the fourth point is the image cutout line.

【0007】また、別の発明は、画像に対する所定の線
上の第1の点を通り前記所定の線に概直交する線上にあ
って、所定の閾値以上の濃度勾配を有する画素のうち前
記点に最も近い第2の点を選択する第1の選択手段と、
前記第1の点の近傍にある、前記所定の線上の第3の点
を通り、前記所定の線に直交する線上にあって、所定の
閾値以上の濃度勾配を有する画素のうち、前記選択され
た第2の点に最も近い第4の点を選択する第2の選択手
段と、前記第4の点が、既に選択されている他の第2ま
たは第4の点に隣接していない時、前記第4の点を無効
にする無効化手段とを備え、前記選択された有効な第2
と第4の点を通る線を画像切り出し線とする。
According to another aspect of the invention, among the pixels having a density gradient of a predetermined threshold value or more on a line which passes through a first point on a predetermined line with respect to the image and is substantially orthogonal to the predetermined line, First selecting means for selecting the closest second point;
Of the pixels having a density gradient of a predetermined threshold value or more on a line passing through a third point on the predetermined line in the vicinity of the first point and orthogonal to the predetermined line, the selected pixel is selected. Second selecting means for selecting a fourth point closest to the second point, and the fourth point is not adjacent to another second or fourth point already selected, Invalidating means for invalidating the fourth point, wherein the selected valid second
And a line passing through the fourth point is set as an image cutout line.

【0008】また、別の発明は、画像に対する所定の線
上の第1の点を通り前記所定の線に概直交する線上にあ
って、所定の閾値以上の濃度勾配を有する画素のうち前
記点に最も近い第2の点を選択する第1の選択工程と、
前記第1の点の近傍にある、前記所定の線上の第3の点
を通り、前記所定の線に直交する線上にあって、所定の
閾値以上の濃度勾配を有する画素のうち、前記選択され
た第2の点に最も近い第4の点を選択する第2の選択工
程とを備え、前記第1と第2の選択工程で選択された第
2の点と第4の点を通る線を画像切り出し線とする。
Another aspect of the present invention is that, on a line that passes through a first point on a predetermined line with respect to an image and is substantially orthogonal to the predetermined line, the point having a density gradient of a predetermined threshold value or more is set to the point. A first selection step of selecting the closest second point;
Of the pixels having a density gradient of a predetermined threshold value or more on a line passing through a third point on the predetermined line in the vicinity of the first point and orthogonal to the predetermined line, the selected pixel is selected. A second selection step of selecting a fourth point closest to the second point, and a line passing through the second point and the fourth point selected in the first and second selection steps. Image cutout line.

【0009】また、別の発明は、画像に対する所定の線
上の第1の点を通り前記所定の線に概直交する線上にあ
って、所定の閾値以上の濃度勾配を有する画素のうち前
記点に最も近い第2の点を選択する第1の選択工程と、
前記第1の点の近傍にある、前記所定の線上の第3の点
を通り、前記所定の線に直交する線上にあって、所定の
閾値以上の濃度勾配を有する画素のうち、前記選択され
た第2の点に最も近い第4の点を選択する第2の選択工
程と、前記第4の点が、既に選択されている他の第2ま
たは第4の点に隣接していない時、前記第4の点を無効
にする無効化工程とを備え、前記選択された有効な第2
と第4の点を通る線を画像切り出し線とする。
According to another aspect of the invention, among the pixels having a density gradient of a predetermined threshold value or more on a line that passes through a first point on a predetermined line with respect to the image and is substantially orthogonal to the predetermined line, A first selection step of selecting the closest second point;
Of the pixels having a density gradient of a predetermined threshold value or more on a line passing through a third point on the predetermined line in the vicinity of the first point and orthogonal to the predetermined line, the selected pixel is selected. A second selection step of selecting a fourth point closest to the second point, and the fourth point is not adjacent to another second or fourth point already selected, A nullification step of nullifying the fourth point, wherein the selected valid second
And a line passing through the fourth point is set as an image cutout line.

【0010】また、別の発明は、コンピュータプログラ
ム製品であって、画像から所定の領域を切り出す、コン
ピュータ読み取り可能なプログラムコード手段を有する
コンピュータ使用可能な媒体を備え、前記コンピュータ
プログラム製品は、画像に対する所定の線上の第1の点
を通り前記所定の線に概直交する線上にあって、所定の
閾値以上の濃度勾配を有する画素のうち前記点に最も近
い第2の点を選択するコンピュータ読み取り可能な第1
のプログラムコード手段と、前記第1の点の近傍にあ
る、前記所定の線上の第3の点を通り、前記所定の線に
直交する線上にあって、所定の閾値以上の濃度勾配を有
する画素のうち、前記選択された第2の点に最も近い第
4の点を選択するコンピュータ読み取り可能な第2のプ
ログラムコード手段とを備え、前記第1と第2の選択工
程で選択された第2の点と第4の点を通る線を画像切り
出し線とする。
Another invention is a computer program product, comprising a computer usable medium having computer readable program code means for cutting out a predetermined area from an image, said computer program product for an image. Computer readable to select a second point closest to the first point on a line that passes through the first point on the predetermined line and is substantially orthogonal to the predetermined line and has a density gradient of a predetermined threshold value or more. Na first
And a pixel having a density gradient of a predetermined threshold value or more on a line that passes through a third point on the predetermined line near the first point, passes through the program code means, and is orthogonal to the predetermined line. Computer-readable second program code means for selecting a fourth point closest to the selected second point, the second selected in the first and second selection steps. The line that passes through the point and the fourth point is the image cutout line.

【0011】また、別の発明は、画像に対する所定の線
上の第1の点を通り前記所定の線に概直交する線上にあ
って、所定の閾値以上の濃度勾配を有する画素のうち前
記点に最も近い第2の点を選択する第1の選択工程と、
前記第1の点の近傍にある、前記所定の線上の第3の点
を通り、前記所定の線に直交する線上にあって、所定の
閾値以上の濃度勾配を有する画素のうち、前記選択され
た第2の点に最も近い第4の点を選択する第2の選択工
程と、前記第4の点が、既に選択されている他の第2ま
たは第4の点に隣接していない時、前記第4の点を無効
にする無効化工程とを備え、前記選択された有効な第2
と第4の点を通る線を画像切り出し線とする。
Another aspect of the present invention is that, on a line which passes through a first point on a predetermined line with respect to an image and is substantially orthogonal to the predetermined line, the point having a density gradient of a predetermined threshold value or more is set to the point. A first selection step of selecting the closest second point;
Of the pixels having a density gradient of a predetermined threshold value or more on a line passing through a third point on the predetermined line in the vicinity of the first point and orthogonal to the predetermined line, the selected pixel is selected. A second selection step of selecting a fourth point closest to the second point, and the fourth point is not adjacent to another second or fourth point already selected, A nullification step of nullifying the fourth point, wherein the selected valid second
And a line passing through the fourth point is set as an image cutout line.

【0012】[0012]

【発明の実施の形態】まず、本発明に係る実施の形態に
おけるポイントを要約した後に、その詳細な説明を行う
こととする。本実施の形態の画像領域切り出し処理で
は、まず、画像上に線を指定する。そして、切り出しを
行う境界点を決定するために指定された線上の各点に対
して、一定範囲内の距離にあり、かつ、所定値以上の特
徴量を持ち、かつ、境界点として決定された点からの距
離が最も近い点を選択する。そして、それらの点の中か
ら所定個数以上連結していない点を削除し、境界点の補
間を行うことで所望の画像領域の切り出しを可能とす
る。
BEST MODE FOR CARRYING OUT THE INVENTION First, a summary of the points in the embodiment of the present invention will be given, followed by a detailed description thereof. In the image area cutout processing of the present embodiment, first, a line is designated on the image. Then, with respect to each point on the line designated for determining the boundary point to be cut out, the distance is within a certain range, the feature amount is equal to or more than a predetermined value, and the boundary point is determined. Select the point closest to the point. Then, it is possible to cut out a desired image area by deleting the points that are not connected by a predetermined number or more from these points and interpolating the boundary points.

【0013】また、境界点の補間を行う際には、はじめ
に画像上に指定された線を利用して補間を行う。さら
に、切り出しを行う境界点に沿って画像の切り出しを行
い、補間した境界点に対しては、補間を行ってない境界
点よりもぼかす度合を強くすることで、切り出された画
像の周囲をぼかす。
When the boundary points are interpolated, the lines designated on the image are first used to interpolate. Furthermore, the image is cut out along the cut-out boundary points, and the interpolated boundary points are blurred more strongly than the non-interpolated boundary points, thereby blurring the surroundings of the cut-out image. .

【0014】さらに、切り出した領域の境界点を変更
し、補間した境界点を変更した場合、変更後の境界点に
対しては、補間を行ってないものとしてぼかす。また、
境界点の近傍の画素に関して、その周囲の画素値の平均
を取ることでほかし、また、ぼかす度合を強くするため
に、より多くの画素に関してぼかし、あるいはより多く
の画素との平均をとる。
Further, when the boundary points of the cut-out area are changed and the interpolated boundary points are changed, the changed boundary points are blurred because they are not interpolated. Also,
With respect to the pixels in the vicinity of the boundary point, the average of the pixel values in the surroundings is used, and in order to increase the degree of blurring, more pixels are blurred or averaged with more pixels.

【0015】以上、本発明に係る特徴となる処理のポイ
ントを要約した。次に、これらの処理の詳細な説明を行
う。第1図は、本実施の形態の処理の構成例を示す図で
ある。101は、原画像及び原画像から切り出された画
像を格納する画像格納部である。
The points of the processing that characterizes the present invention have been summarized above. Next, these processes will be described in detail. FIG. 1 is a diagram showing a configuration example of processing of the present embodiment. An image storage unit 101 stores an original image and an image cut out from the original image.

【0016】102は、画像の表示を行う表示部であ
る。103は、画像中の切り出し領域を大まかに指定す
るポインティングデバイス及び各種コマンドを入力する
ためのキーボードを備える入力部である。104は、画
像の切り出し領域を決定し、実際の切り出しを行う画像
切り出し部である。
A display unit 102 displays an image. An input unit 103 includes a pointing device for roughly specifying a cutout area in an image and a keyboard for inputting various commands. An image cutout unit 104 determines an image cutout area and actually cuts out the image.

【0017】105は、切り出した領域の周囲をぼかす
ためのぼかし処理部である。106は、切り出した領域
をユーザが修正するための修正部である。次に、本実施
の形態の画像領域切り出し処理に関して、図2のフロー
チャートを用いて説明する。尚、表示部102には、既
に、切り出し対象の画像を表示しているものとする。
Reference numeral 105 denotes a blurring processing unit for blurring the periphery of the cut out area. Reference numeral 106 denotes a correction unit for the user to correct the cut out area. Next, the image area cutout processing of the present embodiment will be described using the flowchart of FIG. Note that it is assumed that the image to be cut out is already displayed on the display unit 102.

【0018】まず、ステップS201において、ユーザ
ーは原画像中の切り抜きを行う領域を、入力部103を
用いて大まかに太い線でなぞる。この線をユーザ指定線
と呼ぶ。画像切り出し部104では、入力部103を介
して、ユーザ指定線の軌跡を入力して、対応する線を表
示部102に表示する。表示するユーザ指定線は、図3
に示すように、波線(301)等を用い、原画がなるべ
く消えないようにする。
First, in step S201, the user traces a region in the original image to be clipped with the input unit 103 with a roughly thick line. This line is called a user-specified line. The image cutout unit 104 inputs the locus of the user-specified line via the input unit 103 and displays the corresponding line on the display unit 102. The user-specified line to be displayed is shown in FIG.
As shown in, the wavy line (301) or the like is used to prevent the original image from disappearing as much as possible.

【0019】ステップS202では、画像切り出し部1
04は、ユーザ指定線の領域内に存在する画素に対し
て、画素値の微分値(以下では、エッジと呼ぶ)を決定
するために、ユーザ指定線の中心線上の各点に対して、
境界線上の対応する点(以下では境界点と呼ぶ)を求め
る。具体的には、以下の処理を行う。図4は、図3の3
01の部分を拡大したものであり、この図を用いて説明
する。
In step S202, the image cutout unit 1
04 determines, for each pixel on the center line of the user-specified line, in order to determine a differential value (hereinafter, referred to as an edge) of the pixel value with respect to the pixel existing in the area of the user-specified line,
A corresponding point on the boundary line (hereinafter referred to as a boundary point) is obtained. Specifically, the following processing is performed. FIG. 4 shows 3 of FIG.
The area 01 is enlarged and will be described with reference to this drawing.

【0020】同図において、402はユーザ指定線の中
心線であり、この線の開始点を403とする。まず、点
403に対して、線402の進行方向と直交する線40
4方向でのユーザ指定線内の各点を調べ、エッジ勾配が
ある閾値以上である点でかつ、点403に最も距離が近
い点を選択する。図4では、この点を405で示してお
り、この点が境界線の開始点となる。
In the figure, reference numeral 402 is the center line of the user-specified line, and the starting point of this line is 403. First, with respect to the point 403, the line 40 orthogonal to the traveling direction of the line 402
Each point in the user-specified line in the four directions is examined, and a point whose edge gradient is equal to or larger than a certain threshold and which is closest to the point 403 is selected. In FIG. 4, this point is indicated by 405, and this point is the starting point of the boundary line.

【0021】そして次に、ユーザ指定線の中心線上の他
の点、例えば点406に対して、対応する境界点を以下
のように決定する。すなわち、線402の進行方向と直
交する線407方向を調べ、ユーザ線の領域内に存在す
る点のうち、エッジがある閾値以上であり、かつ直前に
選択された境界点(この場合、点408)に最も近い点
を選択する。図4では、点409が選択された点を示し
ている。
Then, a boundary point corresponding to another point on the center line of the user-specified line, for example, the point 406, is determined as follows. That is, the direction of the line 407 that is orthogonal to the traveling direction of the line 402 is checked, and among the points existing in the area of the user line, the edge is equal to or greater than a certain threshold and the boundary point selected immediately before (in this case, the point 408). ) Select the point closest to. In FIG. 4, the point 409 shows the selected point.

【0022】このように、ユーザ指定線内の領域である
閾値以上の勾配を持つエッジを持ち、さらに、直前の境
界点に最も近い点を選択させるのは、次のような理由か
らである。まず、所定の閾値以下の勾配の小さなエッジ
しか持たない箇所は特徴のないところであり、人間にと
ってもどこを切り出してよいか判断がつかない。そのよ
うな箇所で、無理に境界点を選ぶことは誤った境界を導
く原因となる。
The reason why an edge having a gradient equal to or greater than a threshold value, which is an area within the user-specified line, and which is closest to the immediately preceding boundary point is selected is as follows. First, a portion having only a small gradient edge equal to or less than a predetermined threshold is a featureless portion, and it is difficult for humans to determine where to cut out. Forcing a boundary point at such a point can lead to a false boundary.

【0023】さらに、ある閾値以上の勾配の大きなエッ
ジを持つ点は、その値の大小に関わりなく境界点の候補
となりうる。また、直前の境界点に最も近い点を選択す
るのは、境界線をより滑らかにするためである。例え
ば、図5において、ユーザ指定線の中心線上に位置する
点601に対する境界点を求める際に、点602におけ
るエッジ点の勾配が603よりほんのわずか上回ってい
たとしても、両者の値が閾値以上ならば、直前の境界点
により近い点603の方が選択されることになる。
Furthermore, a point having an edge with a large gradient equal to or greater than a certain threshold can be a candidate for a boundary point regardless of the magnitude of the value. The point closest to the immediately preceding boundary point is selected in order to make the boundary line smoother. For example, in FIG. 5, when the boundary point for the point 601 located on the center line of the user-specified line is obtained, even if the gradient of the edge point at the point 602 is slightly higher than 603, if both values are equal to or greater than the threshold value. For example, the point 603 closer to the border point immediately before is selected.

【0024】次に、ステップS204において、画像切
り出し部は、以上によって求められた境界点のうち、所
定個数以上、例えば3個以上連結している点のみを残
し、他の境界点を削除する。この処理を以下に具体的に
説明する。例えば、ステップS203によって境界点
が、図6のように抽出されたとする。図6は、4点の連
結した境界点501と、1個の境界点502と、3個の
連結した境界点(503)が抽出された様子を示してい
る。孤立している1個の境界点502がある箇所は、例
えば、頭髪のようにエッジがある部分であり、境界点5
01と境界点503に一本の線があり、境界点502に
別の線がある可能性が高い。このような状態において
は、どちらの線を境界線として選択しても切り出し後の
領域の形状には大差がなくユーザにとって自然に見える
が、逆に2つの線を交互に選択するような、つまり境界
点501、502、503をつないだ境界線で切り出す
と領域の凹凸が発生し、ユーザにとって不自然に見えて
しまう。それを防ぐためには孤立している境界点502
を削除すればよく、これによりユーザが所望する領域の
形状に近く、また凹凸のない滑らかな領域を切り出せる
ようになる。
Next, in step S204, the image cutout unit leaves only a predetermined number or more, for example, three or more, of the boundary points obtained as described above, and deletes other boundary points. This process will be specifically described below. For example, it is assumed that the boundary points are extracted as shown in FIG. 6 in step S203. FIG. 6 shows a state where four connected boundary points 501, one boundary point 502, and three connected boundary points (503) are extracted. A location where there is one isolated boundary point 502 is, for example, a portion having an edge such as hair, and the boundary point 5
It is highly possible that 01 and the boundary point 503 have one line and the boundary point 502 has another line. In such a state, no matter which line is selected as the boundary line, there is no great difference in the shape of the region after cutting out, and it looks natural to the user, but on the contrary, two lines are alternately selected, that is, If the boundary points 501, 502, and 503 are cut out by a boundary line that connects them, unevenness of the region occurs, and the image looks unnatural to the user. To prevent this, the boundary points 502 that are isolated
Can be deleted, which makes it possible to cut out a smooth area that is close to the shape of the area desired by the user and has no unevenness.

【0025】次に、ステップ205では、画像切り出し
部104は、ステップS204までで求められた境界点
を基づき境界線を作成する。この操作は、境界点がもし
隣接していた場合にはそれらを直線で結ぶことによって
行うが、もし、ステップS203で閾値以上の勾配のエ
ッジを持つ点が存在しなかった箇所や、ステップS20
4において所定個数以上の点が連結していないために境
界点が削除された箇所には、境界点が隣接しない状態に
なる。その場合には、以下の方法で境界点の存在しない
箇所を補間する。
Next, in step 205, the image clipping unit 104 creates a boundary line based on the boundary points obtained up to step S204. This operation is performed by connecting the boundary points with a straight line if they are adjacent to each other. However, if there is no point having an edge with a gradient equal to or greater than the threshold value in step S203, or step S20.
In 4, the boundary points are not adjacent to the positions where the boundary points are deleted because the predetermined number or more of points are not connected. In that case, a portion where no boundary point exists is interpolated by the following method.

【0026】第1の方法は、ベジェ曲線あるいは直線等
で前後の境界点を用いて補間を行う方法である。第2
は、ユーザ指定線の曲線形状を利用する方法であり、こ
れを図8を用いて説明する。図8において、801及び
802は境界点であり、803及び804はユーザ指定
線の両端を指す。ここでまず、境界点801を通りユー
ザ指定線と直交する線805と、境界点802を通りユ
ーザ指定線と直交する線806によって、指定されるユ
ーザ指定線の区間が得られる。そして、そのユーザ指定
線の区間内の線分を境界点801と802の区間間に当
てはめ、線807のように連結することで補間が完成す
る。
The first method is a method of performing interpolation using front and rear boundary points with a Bezier curve or a straight line. Second
Is a method of using the curved shape of the user-specified line, which will be described with reference to FIG. In FIG. 8, 801 and 802 are boundary points, and 803 and 804 indicate both ends of the user-specified line. Here, first, a section of the user-specified line designated by the line 805 passing through the boundary point 801 and orthogonal to the user-specified line and the line 806 passing through the boundary point 802 and orthogonal to the user-specified line is obtained. Then, the line segment in the section of the user-specified line is fitted between the sections of the boundary points 801 and 802, and connected as a line 807 to complete the interpolation.

【0027】以上の方法で境界線を作成した後、その境
界線を原画像上に重ねて表示する。ユーザーはその表示
された境界線を見て結果が期待通りのものであれば、ス
テップS201からS205までを実行することでさら
に境界線を延長し、期待するものでない場合は、再び同
じ領域に対して同ステップを実行してやり直しを行うこ
とができる。
After the boundary line is created by the above method, the boundary line is displayed overlaid on the original image. If the user looks at the displayed boundary line and the result is as expected, the user further extends the boundary line by executing steps S201 to S205. Then, the same step can be executed to start over.

【0028】そして、以上のステップで作成される境界
線が所望の領域を形成するまで同様の処理を繰り返す。
ステップ206では、以上の処理によって、切り出した
領域が決定されたかどうか、入力部103から所定の決
定コマンドを入力する。そして、決定コマンドを入力す
るとステップS207に進み、入力されなければステッ
プS201に戻り同様の処理を繰り返す。
Then, the same processing is repeated until the boundary line created in the above steps forms a desired area.
In step 206, a predetermined determination command is input from the input unit 103 to determine whether or not the clipped area is determined by the above processing. Then, if a decision command is input, the process proceeds to step S207, and if not input, the process returns to step S201 and repeats the same processing.

【0029】ステップ207では、画像切り出し部10
4では決定した境界線を用いて領域の切り出しを行い、
切り出された領域を画像格納部101に格納して、その
境界線を表示部102に表示する。図3の画像に対して
領域の切り出しを行い表示した例を図7に示す。以上、
原画像から所望の領域を切り出すための処理動作に関し
て説明したが、図2のステップS207において領域を
切り出した後、それを表示する前に、ぼかし部105に
よって切り出す画像領域の周囲をぼかし込むことができ
る。これによって、人間の見た目に対して自然な印象か
つソフトフォーカスに似た視覚的効果を与えることがで
きる。次に、この方法を説明する。
In step 207, the image cutout unit 10
In 4, the area is cut out using the determined boundary line,
The cut-out area is stored in the image storage unit 101, and the boundary line is displayed on the display unit 102. FIG. 7 shows an example in which a region is cut out and displayed on the image of FIG. that's all,
The processing operation for cutting out a desired area from the original image has been described. However, after cutting out the area in step S207 of FIG. 2, the blurring unit 105 may blur the periphery of the image area to be cut out before displaying the area. it can. As a result, it is possible to give a natural impression to the human appearance and a visual effect similar to soft focus. Next, this method will be described.

【0030】画素(i,j)の画素値をx(i,j)と
するとき、描く境界点の近傍の画素(i’,j’)につ
いて
When the pixel value of the pixel (i, j) is x (i, j), the pixel (i ', j') near the boundary point to be drawn

【0031】[0031]

【数1】 [Equation 1]

【0032】なるxhを計算する。ここで、mは定数で
あり、画素(i,j)の画素の個数を決定する。このm
が大きくなるほどぼかし量も大きくなる。ここでは、m
を境界点によって可変にすることで、ぼかしの程度を変
える。具体的には、ステップS205において、境界点
から境界線を作成する際に、上述のように隣接していな
い境界点に対しては補間を行うが、このような補間を行
った境界点の近傍の画素に対してはぼかしの程度を大き
くする。つまり、mの値を大きくして多くの画素との平
均をとる。あるいは、補間を行った箇所のみをぼかし、
他の部分はぼかさない。補間を行った箇所は、エッジの
勾配の値が小さい場所か、あるいは勾配の小さいエッジ
が多く存在する場所であり、そのような箇所をぼかすこ
とで、補間によって作り出された擬似的な境界線を曖昧
にして、より違和感のない境界線を作り出すことができ
る。
Xh is calculated. Here, m is a constant and determines the number of pixels of the pixel (i, j). This m
The larger the value, the larger the blur amount. Here, m
The degree of blurring can be changed by making the variable according to the boundary points. Specifically, in step S205, when a boundary line is created from the boundary points, interpolation is performed for boundary points that are not adjacent as described above, but in the vicinity of the boundary points that have undergone such interpolation. The degree of blurring is increased for the pixels. That is, the value of m is increased and the average with many pixels is calculated. Or blur only the interpolated part,
Do not blur other parts. The location where interpolation is performed is a location where the gradient value of the edge is small, or where there are many edges with a small gradient. By blurring such a location, the pseudo boundary line created by interpolation is created. You can create vague and more natural boundaries.

【0033】また、ぼかし量だけでなくぼかし幅も可変
にすることもできる。ぼかし幅とは、各境界点に対して
とる近傍の画素(i’,j’)の数である。この数を、
補間によって作られた境界点に対しては多くすること
で、ぼかし幅を多くする。例として、図7の画像をぼか
した様子を図9に示す。さらに、ユーザーは以上の結果
によって切り出された領域を修正することができる。
Further, not only the blur amount but also the blur width can be made variable. The blur width is the number of pixels (i ', j') in the vicinity taken for each boundary point. This number,
The blur width is increased by increasing the number of boundary points created by interpolation. As an example, FIG. 9 shows a state in which the image of FIG. 7 is blurred. Further, the user can correct the area cut out by the above result.

【0034】この処理は、修正部106によって実行さ
れる。図10を参照して、この処理を説明する。図10
は、画像領域の一部を修正して拡大している様子を表し
ている。図10において、1001は、入力部103の
ポインティングバイスによって操作されるツールを表し
ている。このツールで、上述の処理で決定された切り出
し輪郭線を押したり、引いたりすることで、輪郭線を変
形させる。
This processing is executed by the correction unit 106. This processing will be described with reference to FIG. FIG.
Indicates that a part of the image area is corrected and enlarged. In FIG. 10, reference numeral 1001 denotes a tool operated by the pointing device of the input unit 103. With this tool, the contour line is deformed by pushing or pulling the cut-out contour line determined in the above processing.

【0035】ツール1001は、ポインテイングデバイ
ス204の動きに合わせて、移動するように、修正部1
06によって移動制御される。例えば、図10の波線1
002は、上述の処理で決定された切り出し輪郭線であ
るとする。この状態で、ユーザが、切り出し輪郭線10
02の位置をずらしたい場合、ツール1001を、切り
出し輪郭線1002の移動させたい位置に移動させ、外
側に向かって押すことで、その位置を中心に切り出し輪
郭線1002は、外側に移動変形する。
The tool 1001 moves so as to move in accordance with the movement of the pointing device 204.
The movement is controlled by 06. For example, the wavy line 1 in FIG.
It is assumed that 002 is the cut-out contour line determined by the above processing. In this state, the user cuts out the contour line 10
When it is desired to shift the position of 02, the tool 1001 is moved to the position of the cut-out contour line 1002 to be moved and pushed outward, so that the cut-out contour line 1002 is moved and deformed outward at the position.

【0036】修正部106ではまた、画像格納部101
から原画像を読み出して、移動変形した部分に対応する
原画像を拡大表示することができる。さらに、ぼかし部
105では、修正された領域に関しても前述と同様なぼ
かし処理を行う。この場合も、もし修正した箇所がステ
ップS205において補間によって作られた境界線であ
れば、補間されていない箇所と同等のぼかし量及びぼか
し幅のぼかしを行う。このような境界線は前述のように
強くぼかされているはずであるが、ユーザの積極的な修
正により作成された新たな境界線は、ユーザが欲する切
り出し領域を正確に反映しており、ぼかし量及びぼかし
幅を強くする必要はない。
The correction section 106 also includes the image storage section 101.
The original image can be read out from and the original image corresponding to the moved and deformed portion can be enlarged and displayed. Further, the blurring unit 105 also performs the same blurring processing on the corrected area as described above. Also in this case, if the corrected portion is the boundary line created by the interpolation in step S205, the blurring amount and blurring width equivalent to those of the non-interpolated portion are blurred. Such a boundary line should be strongly blurred as described above, but the new boundary line created by the user's positive correction accurately reflects the cutout area desired by the user, It is not necessary to increase the blur amount and blur width.

【0037】ツール1001を用いて切り出された領域
の一部を消去することも可能である。これは、例えば入
力部103のキーボードの所定のキーを押下して、消去
モードに切り替え、切り出された領域の所定部分をツー
ル1001で囲うように指定することでおこなう。この
場合、その部分が消去されることになる。この場合にも
前と同様に、もし補間によって作成された境界線であれ
ば補間されていない箇所と同等のぼかしを行う。
It is also possible to erase a part of the cut out area by using the tool 1001. This is done, for example, by pressing a predetermined key on the keyboard of the input unit 103 to switch to the erasing mode and designating that a predetermined portion of the cut out area is surrounded by the tool 1001. In this case, that portion will be erased. In this case as well, as in the previous case, if the boundary is created by interpolation, blurring equivalent to that of the non-interpolated portion is performed.

【0038】次に、図11を参照して、本実施の形態の
画像処理をインプリメントできるハードウエア構成を説
明する。CPU203は、本実施の形態の画像処理装置
全体を、メモリ202に格納されている上述した図2の
フローチャートに対応するプログラム(図1のぼかし部
105、修正部106、画像切り出し部104に対応す
るプログラムを含む)等の各種画像処理プログラムを読
み出し、解釈し、実行する。
Next, a hardware configuration capable of implementing the image processing of this embodiment will be described with reference to FIG. The CPU 203 controls the entire image processing apparatus according to the present embodiment by a program stored in the memory 202 and corresponding to the above-described flowchart in FIG. 2 (corresponding to the blurring unit 105, the correction unit 106, and the image cutout unit 104 in FIG. 1). Various image processing programs (including programs) are read, interpreted, and executed.

【0039】キーボード203とポインテイングデバイ
ス204は、図1の入力部103に対応する。メモリ2
02は、上述した各画像処理プログラムを内蔵したRO
Mの領域と、各種の作業領域として使われるRAMの領
域(図1の画像格納部101に対応する領域を含む)を
備える。
The keyboard 203 and pointing device 204 correspond to the input unit 103 in FIG. Memory 2
Reference numeral 02 denotes an RO that incorporates the above-mentioned image processing programs
An M area and a RAM area (including an area corresponding to the image storage unit 101 in FIG. 1) used as various work areas are provided.

【0040】次に、図12は、メモリ202のROM領
域にアサインされた上述したフローチャートの各処理に
対応する各プログラムのレイアウトの一例を示す。尚、
このプログラムは、フロッピーディスクなどの可搬可能
な媒体に格納され、実行時に、メモリ202にロードさ
れて、CPU200によって実行されてもよいことは言
うまでもない。
Next, FIG. 12 shows an example of the layout of each program corresponding to each process of the above-mentioned flowchart assigned to the ROM area of the memory 202. still,
It goes without saying that this program may be stored in a portable medium such as a floppy disk, loaded into the memory 202 at the time of execution, and executed by the CPU 200.

【0041】2000は、線入力プログラムであり、ス
テップS201での処理に対応する。2001は、エッ
ジ抽出プログラムであり、ステップS202での処理に
対応する。2002は、エッジ決定プログラムであり、
ステップS203、S204に対応する。
A line input program 2000 corresponds to the processing in step S201. Reference numeral 2001 is an edge extraction program, which corresponds to the processing in step S202. 2002 is an edge determination program,
It corresponds to steps S203 and S204.

【0042】2003は、上述の線補間処理に対応する
プログラムである。2004は、上述の切り出し輪郭周
囲での平滑処理を行うプログラムである。2005は、
平滑処理された切り出し領域を抽出して、表示するプロ
グラムである。尚、本発明は、ホストコンピュータ、イ
ンタフェース、プリンタ等の複数の機器から構成される
システムに適用しても、複写機等の1つの機器からなる
装置に適用しても良い。また、本発明はシステム或は装
置にプログラムを供給することによって達成される場合
にも適用できることはいうまでもない。この場合、本発
明を達成するためのソフトウェアによって表されるプロ
グラムを格納した記憶媒体から、該プログラムを該シス
テム或は装置に読み出すことによって、そのシステム或
は装置が、本発明の効果を享受することが可能となる。
2003 is a program corresponding to the above-mentioned line interpolation processing. Reference numeral 2004 is a program for performing the smoothing processing around the cutout contour described above. 2005 is
This is a program for extracting and displaying the cut-out area that has been smoothed. The present invention may be applied to a system including a plurality of devices such as a host computer, an interface, and a printer, or may be applied to an apparatus including a single device such as a copying machine. Needless to say, the present invention can be applied to a case where the present invention is achieved by supplying a program to a system or an apparatus. In this case, the system or device enjoys the effects of the present invention by reading the program into the system or device from a storage medium storing a program represented by software for achieving the present invention. It becomes possible.

【0043】以上説明してきたように、本実施の形態に
よれば、画像を切り出すための境界点を決定するため
に、ユーザがなぞった先から一定の距離にあり、かつ一
定量以上の特徴量(エッジ勾配)を持つかどうかをチェ
ックしているので、画像中で特徴量が一定量以下しかな
く、どこを境界としてよいか分からないような箇所で境
界点を選択することはなく、そのためユーザののぞまな
い境界点を選択する可能性が減る。
As described above, according to the present embodiment, in order to determine the boundary point for cutting out the image, the feature amount that is at a certain distance from the point traced by the user and that is a certain amount or more. Since it checks whether it has (edge gradient), it does not select the boundary point at the place where the feature amount is less than a certain amount in the image and it is not known where to set the boundary. Reduces the chance of picking unintended boundary points.

【0044】従って、境界点を決定するための他の方
法、例えば、最大の特徴量を持つ点を選択する方法と比
較して、より正確で、かつ凹凸の少ない滑らかな領域が
切り出されることになる。また、一旦、境界点として決
定された点からの距離が最も近い点を選択しているの
で、境界点が隣接して選択されることになり、凹凸の少
ない滑らかな領域が切り出されることになる。
Therefore, as compared with other methods for determining the boundary points, for example, the method for selecting the point having the maximum feature amount, a more accurate and less uneven surface is cut out. Become. Further, since the point closest to the point once determined as the boundary point is selected, the boundary points are selected adjacent to each other, and a smooth area with less unevenness is cut out. .

【0045】また、境界点の中から一定個数以上連結し
ていない点を削除しているので、孤立した連結点を連結
することによって発生する切り出し領域の凹凸がなくな
る。第2の実施形態によれば、境界点が隣接してない場
合には、境界点の補間をユーザがなぞった線を基に行っ
ているので、境界点が離れている箇所においても、直線
あるいはベジェ曲線などによる補間に比較してよりユー
ザが望む形状で領域を切り出すことが可能である。
Since a certain number of points that are not connected are deleted from the boundary points, there is no unevenness in the cutout area that occurs when connecting isolated connecting points. According to the second embodiment, when the boundary points are not adjacent to each other, the boundary points are interpolated based on the line traced by the user. Therefore, even if the boundary points are distant from each other, a straight line or It is possible to cut out a region in a shape desired by the user as compared with interpolation using a Bezier curve or the like.

【0046】さらに、上述の補間を行った境界点に対し
ては、それを行ってない境界点よりもぼかす度合を強く
することで、切り出された画像の周囲をぼかしているの
で、補間による擬似的な境界線を曖昧にすることがで
き、さらにユーザが望む形状で領域を切り出すことが可
能である。また、境界線の変更が可能であり、上述の補
間を行った境界点を変更した場合、変更後の境界点に対
しては、補業を行ってないものとしてぼかすので、境界
点に対してユーザが積極的に変更して境界点の曖昧さが
排除された時点で、境界線のぼかしをおこなうことで、
よりユーザが望む形状で領域を切り出すことが可能であ
る。
Further, for the boundary points on which the above-mentioned interpolation has been performed, the degree of blurring is made stronger than the boundary points on which the above interpolation has not been performed, so that the periphery of the clipped image is blurred, so pseudo-interpolation is performed. It is possible to make the boundary line ambiguous and to cut out the region in a shape desired by the user. In addition, it is possible to change the boundary line, and if the boundary point that has been interpolated is changed, the boundary point after the change will be blurred as if no work was performed. By blurring the boundary line when the user positively changes and the ambiguity of the boundary point is eliminated,
It is possible to cut out the region in a shape desired by the user.

【0047】[0047]

【発明の効果】以上説明したように本発明によれば、ユ
ーザの意図する適正な画像切り出しが可能となる。
As described above, according to the present invention, it is possible to appropriately cut out an image intended by the user.

【図面の簡単な説明】[Brief description of drawings]

【図1】本発明に係る一実施の形態の画像処理の構成概
念を示す図である。
FIG. 1 is a diagram showing a configuration concept of image processing according to an embodiment of the present invention.

【図2】画像領域の切り出し処理手順を示すフローチャ
ートである。
FIG. 2 is a flowchart showing a procedure for cutting out an image area.

【図3】ユーザが指定した領域を示す図である。FIG. 3 is a diagram showing an area designated by a user.

【図4】境界点の選択方法を説明するための図である。FIG. 4 is a diagram for explaining a method of selecting a boundary point.

【図5】直前の境界点に近い点が選択される様子を表す
図である。
FIG. 5 is a diagram showing how a point close to a boundary point immediately before is selected.

【図6】孤立した境界点の様子を表す図である。FIG. 6 is a diagram showing a state of an isolated boundary point.

【図7】切り出された画像の例を表す図である。FIG. 7 is a diagram illustrating an example of a clipped image.

【図8】境界点が補間される様子を説明するための図で
ある。
FIG. 8 is a diagram for explaining how boundary points are interpolated.

【図9】境界線がぼかされている様子を表す図である。FIG. 9 is a diagram illustrating a state where a boundary line is blurred.

【図10】領域を修正する様子を表す図である。FIG. 10 is a diagram showing how an area is modified.

【図11】本実施の形態の画像処理装置のハードウエア
構成の図である。
FIG. 11 is a diagram of a hardware configuration of the image processing apparatus according to the present embodiment.

【図12】本実施の形態の画像処理装置のメモリのレイ
アウト構成の図である。
FIG. 12 is a diagram showing a layout configuration of a memory of the image processing apparatus according to the present embodiment.

【符号の説明】[Explanation of symbols]

101 画像格納部 102 表示部 103 入力部 104 画像切り出し部 105 ぼかし部 106 修正部 101 image storage unit 102 display unit 103 input unit 104 image cutout unit 105 blurring unit 106 correction unit

Claims (39)

【特許請求の範囲】[Claims] 【請求項1】 画像に対する所定の線上の第1の点を通
り前記所定の線に概直交する線上にあって、所定の閾値
以上の濃度勾配を有する画素のうち前記点に最も近い第
2の点を選択する第1の選択手段と、 前記第1の点の近傍にある、前記所定の線上の第3の点
を通り、前記所定の線に直交する線上にあって、所定の
閾値以上の濃度勾配を有する画素のうち、前記選択され
た第2の点に最も近い第4の点を選択する第2の選択手
段とを備え、 前記第1と第2の選択手段で、選択された第2の点と第
4の点を通る線を画像切り出し線とすることを特徴とす
る画像処理装置。
1. A second pixel, which is on a line that passes through a first point on a predetermined line with respect to an image and is substantially orthogonal to the predetermined line, and is closest to the point among pixels having a density gradient of a predetermined threshold value or more. First selection means for selecting a point and a third point on the predetermined line in the vicinity of the first point and on a line orthogonal to the predetermined line and having a predetermined threshold value or more. A second selecting unit that selects a fourth point closest to the selected second point among pixels having a density gradient, and the first and second selecting units select the fourth point that is selected by the first and second selecting units. An image processing apparatus, wherein a line passing through the second point and the fourth point is used as an image cutout line.
【請求項2】 所望の画像切り出し線を含む帯状領域位
置を入力して、前記帯状領域の中心線を前記画像に対す
る所定の線とする入力手段をさらに備えることを特徴と
する請求項1に記載の画像処理装置。
2. The input device according to claim 1, further comprising an input unit for inputting a band-shaped region position including a desired image cutout line and setting a center line of the band-shaped region as a predetermined line for the image. Image processing device.
【請求項3】 前記選択された第2の点と第4の点を通
る線において、前記第2の選択手段で、前記所定の閾値
以上の濃度勾配を有する画素がなく、第4の点が選択さ
れていない部分の線補間を行う線補間手段をさらに備
え、 前記線補間手段は、第4の点が選択されていない部分に
対して両側方向で第4の点または第2の点の中から最近
傍の2点を選択し、 前記2点の各々を通り前記中心線と概直交する2本の線
と前記帯状領域を囲う線との交点間の線分を、前記2点
間に内挿することを特徴とする請求項2に記載の画像処
理装置。
3. In the line passing through the selected second point and fourth point, there is no pixel having a density gradient greater than or equal to the predetermined threshold value in the second selection means, and the fourth point is The method further comprises line interpolation means for performing line interpolation of the unselected portion, wherein the line interpolation means is located at the fourth point or the second point in both directions with respect to the portion where the fourth point is not selected. From the two nearest points, and a line segment between the intersections of two lines that pass through each of the two points and are substantially orthogonal to the center line and a line that surrounds the band-shaped region is defined between the two points. The image processing apparatus according to claim 2, wherein the image processing apparatus is inserted.
【請求項4】 前記選択された第2の点と第4の点を通
る周辺に所定の平滑化フィルタを作用させる平滑化手段
をさらに備えることを特徴とする請求項1及至請求項3
のいづれかに記載の画像処理装置。
4. The smoothing means for causing a predetermined smoothing filter to act on the periphery passing through the selected second point and fourth point, as claimed in any one of claims 1 to 3.
An image processing apparatus according to any one of claims 1 to 4.
【請求項5】 前記平滑化手段で平滑化された画像を表
示する表示する手段をさらに備えることを特徴とする請
求項4に記載の画像処理装置。
5. The image processing apparatus according to claim 4, further comprising display means for displaying the image smoothed by the smoothing means.
【請求項6】 前記平滑化手段は、前記補間手段で補間
された線の周囲をより強く平滑化することを特徴とする
請求項4に記載の画像処理装置。
6. The image processing apparatus according to claim 4, wherein the smoothing unit smoothes the periphery of the line interpolated by the interpolation unit more strongly.
【請求項7】 画像に対する所定の線上の第1の点を通
り前記所定の線に概直交する線上にあって、所定の閾値
以上の濃度勾配を有する画素のうち前記点に最も近い第
2の点を選択する第1の選択手段と、 前記第1の点の近傍にある、前記所定の線上の第3の点
を通り、前記所定の線に直交する線上にあって、所定の
閾値以上の濃度勾配を有する画素のうち、前記選択され
た第2の点に最も近い第4の点を選択する第2の選択手
段と、 前記第4の点が、所定数以上の既に選択されている他の
第2または第4の点に隣接していない時、前記第4の点
を無効にする無効化手段とを備え、 前記選択された有効な第2と第4の点を通る線を画像切
り出し線とすることを特徴とする画像処理装置。
7. A second pixel, which is on a line that passes through a first point on a predetermined line with respect to the image and is substantially orthogonal to the predetermined line, and is closest to the point among pixels having a density gradient of a predetermined threshold value or more. First selection means for selecting a point and a third point on the predetermined line in the vicinity of the first point and on a line orthogonal to the predetermined line and having a predetermined threshold value or more. Second selecting means for selecting a fourth point closest to the selected second point among pixels having a density gradient; and a predetermined number or more of the fourth points already selected. And a disabling means for disabling the fourth point when it is not adjacent to the second or fourth point of the image, and a line passing through the selected valid second and fourth points is cut out from the image. An image processing device characterized by being a line.
【請求項8】 所望の画像切り出し線を含む帯状領域位
置を入力して、前記帯状領域の中心線を前記画像に対す
る所定の線とする入力手段をさらに備えることを特徴と
する請求項7に記載の画像処理装置。
8. The input device according to claim 7, further comprising input means for inputting a band-shaped region position including a desired image cutout line and setting a center line of the band-shaped region as a predetermined line for the image. Image processing device.
【請求項9】 前記選択された有効な第2と第4の点を
通る線において、前記第2の選択手段で、前記所定の閾
値以上の濃度勾配を有する画素がなく、第4の点が選択
されていない部分の線補間を行う線補間手段をさらに備
え、 前記線補間手段は、第4の点が選択されていない部分に
対して両側方向で第4の点または第2の点の中から最近
傍の2点を選択し、 前記2点の各々を通り前記中心線と概直交する2本の線
と前記帯状領域を囲う線との交点間の線分を、前記2点
間に内挿することを特徴とする請求項8に記載の画像処
理装置。
9. In the line passing through the selected valid second and fourth points, there is no pixel having a density gradient equal to or higher than the predetermined threshold value in the second selection means, and the fourth point is The method further comprises line interpolation means for performing line interpolation of the unselected portion, wherein the line interpolation means is located at the fourth point or the second point in both directions with respect to the portion where the fourth point is not selected. From the two nearest points, and a line segment between the intersections of two lines that pass through each of the two points and are substantially orthogonal to the center line and a line that surrounds the band-shaped region is defined between the two points. The image processing device according to claim 8, wherein the image processing device is inserted.
【請求項10】 前記選択された第2の点と第4の点を
通る周辺に所定の平滑化フィルタを作用させる平滑化手
段をさらに備えることを特徴とする請求項1及至請求項
9のいづれかに記載の画像処理装置。
10. The smoothing means for causing a predetermined smoothing filter to act on the periphery passing through the selected second point and fourth point, as claimed in any one of claims 1 to 9. The image processing device according to item 1.
【請求項11】 前記平滑化手段で平滑化された画像を
表示する表示する手段をさらに備えることを特徴とする
請求項10に記載の画像処理装置。
11. The image processing apparatus according to claim 10, further comprising display means for displaying the image smoothed by the smoothing means.
【請求項12】 前記平滑化手段は、前記補間手段で補
間された線の周囲をより強く平滑化することを特徴とす
る請求項10に記載の画像処理装置。
12. The image processing apparatus according to claim 10, wherein the smoothing unit smoothes the periphery of the line interpolated by the interpolation unit more strongly.
【請求項13】 前記画像切り出し線の所定の位置に所
定の仮想的力を加えることで、その力方向に前記画像切
り出し線を変形する変形手段を備えることを特徴とする
請求項1及至請求項12のいづれかに記載の画像処理装
置。
13. A deformation means for deforming the image cutout line in the force direction by applying a predetermined virtual force to a predetermined position of the image cutout line. 12. The image processing device according to any one of 12.
【請求項14】 画像に対する所定の線上の第1の点を
通り前記所定の線に概直交する線上にあって、所定の閾
値以上の濃度勾配を有する画素のうち前記点に最も近い
第2の点を選択する第1の選択工程と、 前記第1の点の近傍にある、前記所定の線上の第3の点
を通り、前記所定の線に直交する線上にあって、所定の
閾値以上の濃度勾配を有する画素のうち、前記選択され
た第2の点に最も近い第4の点を選択する第2の選択工
程とを備え、 前記第1と第2の選択工程で選択された第2の点と第4
の点を通る線を画像切り出し線とすることを特徴とする
画像処理方法。
14. A second pixel, which is on a line that passes through a first point on a predetermined line with respect to an image and is substantially orthogonal to the predetermined line, and is closest to the point among pixels having a density gradient of a predetermined threshold value or more. A first selection step of selecting a point, and a line passing through a third point on the predetermined line in the vicinity of the first point and orthogonal to the predetermined line and having a predetermined threshold value or more. A second selection step of selecting a fourth point closest to the selected second point among pixels having a density gradient, and a second selection step performed in the first and second selection steps. Point and fourth
An image processing method, characterized in that a line passing through the points is used as an image cutout line.
【請求項15】 所望の画像切り出し線を含む帯状領域
位置を入力して、前記帯状領域の中心線を前記画像に対
する所定の線とする入力工程をさらに備えることを特徴
とする請求項14に記載の画像処理方法。
15. The method according to claim 14, further comprising an input step of inputting a band-shaped region position including a desired image cutout line and setting a center line of the band-shaped region as a predetermined line for the image. Image processing method.
【請求項16】 前記選択された第2の点と第4の点を
通る線において、前記第2の選択工程で、前記所定の閾
値以上の濃度勾配を有する画素がなく、第4の点が選択
されていない部分の線補間を行う線補間工程をさらに備
え、 前記線補間工程は、第4の点が選択されていない部分に
対して両側方向で第4の点または第2の点の中から最近
傍の2点を選択し、 前記2点の各々を通り前記中心線と概直交する2本の線
と前記帯状領域を囲う線との交点間の線分を、前記2点
間に内挿することを特徴とする請求項15に記載の画像
処理方法。
16. On a line passing through the selected second point and fourth point, there is no pixel having a density gradient equal to or higher than the predetermined threshold in the second selecting step, and the fourth point is The method further comprises a line interpolation step of performing line interpolation on an unselected portion, wherein the line interpolation step is performed on both sides of a fourth point or a second point with respect to a portion where the fourth point is not selected. From the two nearest points, and a line segment between the intersections of two lines that pass through each of the two points and are substantially orthogonal to the center line and a line that surrounds the band-shaped region is defined between the two points. The image processing method according to claim 15, further comprising:
【請求項17】 前記選択された第2の点と第4の点を
通る周辺に所定の平滑化フィルタを作用させる平滑化工
程をさらに備えることを特徴とする請求項14及至請求
項16のいづれかに記載の画像処理方法。
17. The smoothing step of causing a predetermined smoothing filter to act on the periphery passing through the selected second point and fourth point, as claimed in any one of claims 14 to 16. The image processing method described in.
【請求項18】 前記平滑化工程で平滑化された画像を
表示する表示する工程をさらに備えることを特徴とする
請求項17に記載の画像処理方法。
18. The image processing method according to claim 17, further comprising a step of displaying the image smoothed in the smoothing step.
【請求項19】 前記平滑化工程は、前記補間工程で補
間された線の周囲をより強く平滑化することを特徴とす
る請求項17に記載の画像処理方法。
19. The image processing method according to claim 17, wherein the smoothing step further strongly smoothes the periphery of the line interpolated in the interpolation step.
【請求項20】 画像に対する所定の線上の第1の点を
通り前記所定の線に概直交する線上にあって、所定の閾
値以上の濃度勾配を有する画素のうち前記点に最も近い
第2の点を選択する第1の選択工程と、 前記第1の点の近傍にある、前記所定の線上の第3の点
を通り、前記所定の線に直交する線上にあって、所定の
閾値以上の濃度勾配を有する画素のうち、前記選択され
た第2の点に最も近い第4の点を選択する第2の選択工
程と、 前記第4の点が、所定数以上の既に選択されている他の
第2または第4の点に隣接していない時、前記第4の点
を無効にする無効化工程とを備え、 前記選択された有効な第2と第4の点を通る線を画像切
り出し線とすることを特徴とする画像処理方法。
20. A second pixel, which is on a line that passes through a first point on a predetermined line with respect to an image and is substantially orthogonal to the predetermined line, and is closest to the point among pixels having a density gradient of a predetermined threshold value or more. A first selection step of selecting a point, and a line passing through a third point on the predetermined line in the vicinity of the first point and orthogonal to the predetermined line and having a predetermined threshold value or more. A second selecting step of selecting a fourth point closest to the selected second point among pixels having a density gradient; and a predetermined number or more of the fourth points having already been selected. A nullification step of nullifying the fourth point when not adjacent to the second or the fourth point of the image, and image-cutting a line passing through the selected valid second and fourth points. An image processing method characterized by using lines.
【請求項21】 所望の画像切り出し線を含む帯状領域
位置を入力して、前記帯状領域の中心線を前記画像に対
する所定の線とする入力工程をさらに備えることを特徴
とする請求項20に記載の画像処理方法。
21. The method according to claim 20, further comprising an input step of inputting a band-shaped region position including a desired image cutout line and setting a center line of the band-shaped region as a predetermined line for the image. Image processing method.
【請求項22】 前記選択された有効な第2と第4の点
を通る線において、前記第2の選択工程で、前記所定の
閾値以上の濃度勾配を有する画素がなく、第4の点が選
択されていない部分の線補間を行う線補間工程をさらに
備え、 前記線補間工程は、第4の点が選択されていない部分に
対して両側方向で第4の点または第2の点の中から最近
傍の2点を選択し、 前記2点の各々を通り前記中心線と概直交する2本の線
と前記帯状領域を囲う線との交点間の線分を、前記2点
間に内挿することを特徴とする請求項21に記載の画像
処理方法。
22. In the line passing through the selected valid second and fourth points, there is no pixel having a density gradient equal to or higher than the predetermined threshold value in the second selecting step, and the fourth point is The method further comprises a line interpolation step of performing line interpolation on an unselected portion, wherein the line interpolation step is performed on both sides of a fourth point or a second point with respect to a portion where the fourth point is not selected. From the two nearest points, and a line segment between the intersections of two lines that pass through each of the two points and are substantially orthogonal to the center line and a line that surrounds the band-shaped region is defined between the two points. The image processing method according to claim 21, further comprising:
【請求項23】 前記選択された第2の点と第4の点を
通る周辺に所定の平滑化フィルタを作用させる平滑化工
程をさらに備えることを特徴とする請求項14及至請求
項22のいづれかに記載の画像処理方法。
23. The smoothing step of applying a predetermined smoothing filter to the periphery passing through the selected second point and fourth point, and further comprising a smoothing step. The image processing method described in.
【請求項24】 前記平滑化工程で平滑化された画像を
表示する表示する工程をさらに備えることを特徴とする
請求項23に記載の画像処理方法。
24. The image processing method according to claim 23, further comprising a step of displaying the image smoothed in the smoothing step.
【請求項25】 前記平滑化工程は、前記補間工程で補
間された線の周囲をより強く平滑化することを特徴とす
る請求項23に記載の画像処理方法。
25. The image processing method according to claim 23, wherein the smoothing step further strongly smoothes the periphery of the line interpolated in the interpolation step.
【請求項26】 前記画像切り出し線の所定の位置に所
定の仮想的力を加えることで、その力方向に前記画像切
り出し線を変形する変形工程を備えることを特徴とする
請求項14及至請求項25のいづれかに記載の画像処理
方法。
26. The method according to claim 14, further comprising a deforming step of deforming the image cutout line in a direction of the force by applying a predetermined virtual force to a predetermined position of the image cutout line. 25. The image processing method according to any one of 25.
【請求項27】 コンピュータプログラム製品であっ
て、画像から所定の領域を切り出す、コンピュータ読み
取り可能なプログラムコード手段を有するコンピュータ
使用可能な媒体を備え、前記コンピュータプログラム製
品は、 画像に対する所定の線上の第1の点を通り前記所定の線
に概直交する線上にあって、所定の閾値以上の濃度勾配
を有する画素のうち前記点に最も近い第2の点を選択す
るコンピュータ読み取り可能な第1のプログラムコード
手段と、 前記第1の点の近傍にある、前記所定の線上の第3の点
を通り、前記所定の線に直交する線上にあって、所定の
閾値以上の濃度勾配を有する画素のうち、前記選択され
た第2の点に最も近い第4の点を選択するコンピュータ
読み取り可能な第2のプログラムコード手段とを備え、 前記第1と第2の選択工程で選択された第2の点と第4
の点を通る線を画像切り出し線とすることを特徴とする
コンピュータプログラム製品。
27. A computer program product comprising a computer usable medium having computer readable program code means for cutting out a predetermined area from an image, said computer program product comprising: a first line on a predetermined line for the image. A computer-readable first program for selecting a second point that is closest to the predetermined point on a line that passes through the first point and is approximately orthogonal to the predetermined line and that has a density gradient of a predetermined threshold value or more. Code means and a pixel having a density gradient of a predetermined threshold value or more on a line passing through a third point on the predetermined line in the vicinity of the first point and orthogonal to the predetermined line A computer readable second program code means for selecting a fourth point closest to the selected second point, The second point and the fourth point selected in the first and second selection steps
A computer program product, characterized in that a line passing through the points is used as an image cutting line.
【請求項28】 所望の画像切り出し線を含む帯状領域
位置を入力して、前記帯状領域の中心線を前記画像に対
する所定の線とする第3のコンピュータプログラムコー
ド手段をさらに備えることを特徴とする請求項27に記
載のコンピュータプログラム製品。
28. Further comprising third computer program code means for inputting a band-shaped region position including a desired image cutout line and setting a center line of the band-shaped region as a predetermined line for the image. A computer program product according to claim 27.
【請求項29】 前記選択された第2の点と第4の点を
通る線において、前記第2のコンピュータプログラムコ
ード手段で、前記所定の閾値以上の濃度勾配を有する画
素がなく、第4の点が選択されていない部分の線補間を
行う第4のコンピュータプログラムコード手段をさらに
備え、 前記第4のコンピュータプログラムコード手段は、第4
の点が選択されていない部分に対して両側方向で第4の
点または第2の点の中から最近傍の2点を選択し、 前記2点の各々を通り前記中心線と概直交する2本の線
と前記帯状領域を囲う線との交点間の線分を、前記2点
間に内挿することを特徴とする請求項28に記載のコン
ピュータプログラム製品。
29. In the line passing through the selected second point and fourth point, the second computer program code means finds no pixel having a density gradient equal to or higher than the predetermined threshold value, The present invention further comprises fourth computer program code means for performing line interpolation of a portion where no point is selected, and the fourth computer program code means includes the fourth computer program code means.
2 points are selected from the 4th point and the 2nd point in the opposite directions with respect to the part where the point is not selected, and the two points pass through each of the 2 points and are substantially orthogonal to the center line. 29. The computer program product according to claim 28, wherein a line segment between the intersections of the line of the book and the line surrounding the band-shaped area is interpolated between the two points.
【請求項30】 前記選択された第2の点と第4の点を
通る周辺に所定の平滑化フィルタを作用させる第5のコ
ンピュータプログラムコード手段をさらに備えることを
特徴とする請求項27及至請求項29のいづれかに記載
のコンピュータプログラム製品。
30. The method according to claim 27, further comprising fifth computer program code means for causing a predetermined smoothing filter to act on a periphery passing through the selected second point and fourth point. A computer program product according to any of paragraphs 29.
【請求項31】 前記第5のコンピュータプログラムコ
ード手段で平滑化された画像を表示する表示する工程を
さらに備えることを特徴とする請求項30に記載のコン
ピュータプログラム製品。
31. The computer program product according to claim 30, further comprising the step of displaying the image smoothed by the fifth computer program code means.
【請求項32】 前記平滑化工程は、前記補間工程で補
間された線の周囲をより強く平滑化することを特徴とす
る請求項30に記載のコンピュータプログラム製品。
32. The computer program product according to claim 30, wherein the smoothing step further strongly smoothes the circumference of the line interpolated in the interpolation step.
【請求項33】 画像に対する所定の線上の第1の点を
通り前記所定の線に概直交する線上にあって、所定の閾
値以上の濃度勾配を有する画素のうち前記点に最も近い
第2の点を選択する第1のコンピュータプログラムコー
ド手段と、 前記第1の点の近傍にある、前記所定の線上の第3の点
を通り、前記所定の線に直交する線上にあって、所定の
閾値以上の濃度勾配を有する画素のうち、前記選択され
た第2の点に最も近い第4の点を選択する第2のコンピ
ュータプログラムコード手段と、 前記第4の点が、所定数以上の既に選択されている他の
第2または第4の点に隣接していない時、前記第4の点
を無効にする第3のコンピュータプログラムコード手段
とを備え、 前記選択された有効な第2と第4の点を通る線を画像切
り出し線とすることを特徴とするコンピュータプログラ
ム製品。
33. A second pixel, which is on a line which passes through a first point on a predetermined line with respect to an image and is substantially orthogonal to the predetermined line, and which is closest to the point among pixels having a density gradient of a predetermined threshold value or more. A first computer program code means for selecting a point, and a predetermined threshold value on a line passing through a third point on the predetermined line in the vicinity of the first point and orthogonal to the predetermined line. Second computer program code means for selecting a fourth point closest to the selected second point among pixels having the above density gradient; and a predetermined number or more of the fourth points already selected. Third computer program code means for disabling the fourth point when not adjacent to another second or fourth point being stored, the selected valid second and fourth points The line that passes through the points of A computer program product characterized by:
【請求項34】 所望の画像切り出し線を含む帯状領域
位置を入力して、前記帯状領域の中心線を前記画像に対
する所定の線とする入力工程をさらに備えることを特徴
とする請求項33に記載のコンピュータプログラム製
品。
34. The method according to claim 33, further comprising an input step of inputting a band-shaped region position including a desired image cutting line and setting a center line of the band-shaped region as a predetermined line for the image. Computer program products.
【請求項35】 前記選択された有効な第2と第4の点
を通る線において、前記第2のコンピュータプログラム
コード手段で、前記所定の閾値以上の濃度勾配を有する
画素がなく、第4の点が選択されていない部分の線補間
を行う第3のコンピュータプログラムコード手段をさら
に備え、 前記第3のコンピュータプログラムコード手段は、第4
の点が選択されていない部分に対して両側方向で第4の
点または第2の点の中から最近傍の2点を選択し、 前記2点の各々を通り前記中心線と概直交する2本の線
と前記帯状領域を囲う線との交点間の線分を、前記2点
間に内挿することを特徴とする請求項34に記載のコン
ピュータプログラム製品。
35. In the line passing through the selected valid second and fourth points, there is no pixel in the second computer program code means having a density gradient greater than or equal to the predetermined threshold, and the fourth The present invention further comprises third computer program code means for performing line interpolation of a portion where no point is selected, and the third computer program code means includes a fourth computer program code means.
2 points are selected from the 4th point and the 2nd point in the opposite directions with respect to the part where the point is not selected, and the two points pass through each of the 2 points and are substantially orthogonal to the center line. 35. The computer program product according to claim 34, wherein a line segment between intersections of a line of a book and a line surrounding the band-shaped area is interpolated between the two points.
【請求項36】 前記選択された第2の点と第4の点を
通る周辺に所定の平滑化フィルタを作用させる第4のコ
ンピュータプログラムコード手段をさらに備えることを
特徴とする請求項27及至請求項35のいづれかに記載
のコンピュータプログラム製品。
36. The method according to claim 27, further comprising fourth computer program code means for causing a predetermined smoothing filter to act on a periphery passing through the selected second point and fourth point. The computer program product of any of paragraphs 35.
【請求項37】 前記第4のコンピュータプログラムコ
ード手段で平滑化された画像を表示する表示する工程を
さらに備えることを特徴とする請求項36に記載のコン
ピュータプログラム製品。
37. The computer program product of claim 36, further comprising the step of displaying the image smoothed by the fourth computer program code means.
【請求項38】 前記第4のコンピュータプログラムコ
ード手段は、前記第3のコンピュータプログラムコード
手段で補間された線の周囲をより強く平滑化することを
特徴とする請求項36に記載のコンピュータプログラム
製品。
38. The computer program product of claim 36, wherein the fourth computer program code means more strongly smooths the perimeter of the line interpolated by the third computer program code means. .
【請求項39】 前記画像切り出し線の所定の位置に所
定の仮想的力を加えることで、その力方向に前記画像切
り出し線を変形する第5のコンピュータプログラムコー
ド手段を備えることを特徴とする請求項27及至請求項
38のいづれかに記載のコンピュータプログラム製品。
39. A fifth computer program code means for deforming the image cutout line in the force direction by applying a predetermined virtual force to a predetermined position of the image cutout line. A computer program product according to any of claims 27 to 38.
JP23121895A 1995-09-08 1995-09-08 Image processing method and apparatus Expired - Fee Related JP3679467B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP23121895A JP3679467B2 (en) 1995-09-08 1995-09-08 Image processing method and apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP23121895A JP3679467B2 (en) 1995-09-08 1995-09-08 Image processing method and apparatus

Publications (2)

Publication Number Publication Date
JPH0981712A true JPH0981712A (en) 1997-03-28
JP3679467B2 JP3679467B2 (en) 2005-08-03

Family

ID=16920181

Family Applications (1)

Application Number Title Priority Date Filing Date
JP23121895A Expired - Fee Related JP3679467B2 (en) 1995-09-08 1995-09-08 Image processing method and apparatus

Country Status (1)

Country Link
JP (1) JP3679467B2 (en)

Also Published As

Publication number Publication date
JP3679467B2 (en) 2005-08-03

Similar Documents

Publication Publication Date Title
US9053553B2 (en) Methods and apparatus for manipulating images and objects within images
EP0977151B1 (en) Image processing apparatus, image processing method, and storage medium
US5805725A (en) Handwriting input apparatus
JPH06203157A (en) Method for processing color image and device thereof
US5774130A (en) Computer animation generator creating hierarchies of models for rapid display
JPH07302336A (en) Method and apparatus for making feature of image ambiguous
JPH1145334A (en) Comparative display method for images and recording medium
JP3237898B2 (en) Image figure editing apparatus and processing method of image figure editing apparatus
CN111986291A (en) Automatic composition of content-aware sampling regions for content-aware filling
JP4188487B2 (en) Eye makeup simulation system
US6404434B1 (en) Curve generating apparatus and method, storage medium storing curve generating program, and method of setting associate points
JPH06309395A (en) Picture preparing device
CN106716500B (en) Information processing device and depth definition method
JPH0981712A (en) Method and device for image processing
JP2652069B2 (en) Graphic processing system
JP4123548B2 (en) Embroidery data processing apparatus and recording medium
Le Vaou et al. Feature lines modification based on as-stiff-as-needed surface deformation
JP3887961B2 (en) Image association method, computer-readable storage medium for causing computer to execute image association method, and information processing apparatus
JPH08315167A (en) Method for securing blank at handwriting stroke input time
JP2009080314A (en) Road extraction device and road extraction method
JPH04183436A (en) Image processing device
JPH03296868A (en) Image editing device
JP3058630B2 (en) Graphic processing unit
JPH0991443A (en) Image contour extract device
JPH11272869A (en) Method and device for editing raster data

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050404

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050422

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050513

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090520

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100520

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100520

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110520

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120520

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees