JP4185479B2 - Small information terminal, image processing method for small information terminal, and program for the method - Google Patents

Small information terminal, image processing method for small information terminal, and program for the method Download PDF

Info

Publication number
JP4185479B2
JP4185479B2 JP2004248398A JP2004248398A JP4185479B2 JP 4185479 B2 JP4185479 B2 JP 4185479B2 JP 2004248398 A JP2004248398 A JP 2004248398A JP 2004248398 A JP2004248398 A JP 2004248398A JP 4185479 B2 JP4185479 B2 JP 4185479B2
Authority
JP
Japan
Prior art keywords
image
frame
processing
video
target image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004248398A
Other languages
Japanese (ja)
Other versions
JP2006067306A (en
Inventor
悠一 吉田
健人 宮奥
豪 東野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2004248398A priority Critical patent/JP4185479B2/en
Publication of JP2006067306A publication Critical patent/JP2006067306A/en
Application granted granted Critical
Publication of JP4185479B2 publication Critical patent/JP4185479B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Studio Circuits (AREA)
  • Television Signal Processing For Recording (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Studio Devices (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、携帯電話やビデオカメラなどの小型情報端末において、カメラで撮影した事物の撮像・映像の画像に対し、トリミングやスタンプ追加などの画像処理を行うための小型情報端末およびその画像処理方法に関する。   The present invention relates to a small information terminal and an image processing method for performing image processing such as trimming or adding a stamp to an image of an object taken by a camera or a video image in a small information terminal such as a mobile phone or a video camera. About.

今日、携帯電話端末などの小型情報端末で撮影した事物の撮像・映像の画像にスタンプを追加したり、所望の大きさや形に切り出すトリミング処理を行い、この画像を電子メールに添付して送信したり、プリンタで印刷したりする機能をもつものが多くなってきた(例えば、非特許文献1参照)。
FOMA N900i「取扱説明書 基本編」、2004年4月版、p.298〜300
Today, stamps are added to images and video images of things taken with small information terminals such as mobile phone terminals, and trimming processing is performed to cut out to the desired size and shape, and this image is attached to an e-mail and sent. Or have a function of printing with a printer (see Non-Patent Document 1, for example).
FOMA N900i "Basic Manual", April 2004, p.298-300

従来の小型情報端末では、入力デバイス、表示デバイスのサイズなどに制限があり、様々な操作を行うに当たりインタフェース上の問題点がある。具体的には、トリミング、スタンプの追加などの画像処理には位置決め処理等の多数のパラメータの調整が必要である。   In conventional small information terminals, there are limitations on the sizes of input devices and display devices, and there are problems with the interface when performing various operations. Specifically, image processing such as trimming and stamp addition requires adjustment of a number of parameters such as positioning processing.

例えば、トリミング処理の場合、画像処理の対象となる処理対象画像からの切り出し位置の座標設定が必要である。また、スタンプ追加処理の場合、スタンプ画像を追加する位置の座標設定が必要である。さらに枠の大きさを変更したり、回転角度(傾き)を変更したりする操作のために、枠やスタンプの大きさ、姿勢(回転)などの設定も必要となる。   For example, in the case of trimming processing, it is necessary to set the coordinates of the cutout position from the processing target image that is the target of image processing. In the case of stamp addition processing, it is necessary to set the coordinates of the position where the stamp image is added. Furthermore, for the operation of changing the size of the frame or changing the rotation angle (tilt), it is necessary to set the size and posture (rotation) of the frame and stamp.

上記のように、多数の連続量のパラメータを同時に小型情報端末で調整することは非常に困難である。小型情報端末は前述のように入力デバイスに制限があり、数値を入力する場合、ボタンやキーを押しつづけたり、数回押したりする操作あるいは数字キーによる数値の直接入力などによって行わねばならない。また、同時に複数のパラメータを入力する際は、入力対象となるパラメータを切り替えながら、操作を行わなければならない。   As described above, it is very difficult to adjust a large number of continuous parameters simultaneously with a small information terminal. As described above, the small information terminal has a limited input device, and when inputting a numerical value, it must be performed by continuously pressing a button or key, pressing it several times, or directly inputting a numerical value using a numeric key. Further, when inputting a plurality of parameters at the same time, the operation must be performed while switching the parameters to be input.

このように小型情報端末では、数値入力操作が煩雑で、さらに入力するパラメータが増えるほど入力対象の切り替え回数が増えるため、操作ステップが多くなる可能性が高く、操作全体が困難になりやすい。   As described above, in the small information terminal, the numerical value input operation is complicated, and as the number of parameters to be further input increases, the number of times of input object switching increases. Therefore, there is a high possibility that the operation steps increase, and the entire operation tends to be difficult.

本発明の目的は、上記の課題を解決した小型情報端末、その画像処理方法、およびこの方法のプログラムを提供することにある。   The objective of this invention is providing the small information terminal which solved said subject, its image processing method, and the program of this method.

本発明は、前記の課題を解決するため、枠を付与した事物を小型情報端末がもつカメラで撮影し、この枠付き画像の枠を抽出しておき、該端末の撮影方向などを変えることで、処理対象画像上に重畳表示された枠の位置や大きさ、傾きを直接変化させ、処理対象画像のトリミング、処理対象画像に対するスタンプ追加などの加工処理を可能にする。   In order to solve the above-described problems, the present invention captures a thing with a frame by a camera of a small information terminal, extracts a frame of the image with the frame, and changes the shooting direction of the terminal. The position, size, and inclination of the frame superimposed on the processing target image are directly changed to enable processing such as trimming of the processing target image and addition of a stamp to the processing target image.

トリミング処理を例に説明する。小型情報端末のカメラで枠付き事物が撮像されると、処理対象画像に枠付き事物の撮像・映像が重畳表示され、該撮像・映像からその枠を抽出する。この処理はリアルタイムで行われるため、ユーザが前記端末を動かせば、その動きに従って枠は、処理対象画像上で変化する。具体的には枠と端末の距離が近づけば枠の大きさは大きくなり、枠の中心と撮像・映像の中心がずれた距離だけ、枠の位置も移動する。ユーザは、前記端末を動かし、重畳表示された枠が処理対象画像の所望の領域を囲っている状態で画像を保存すると、当該の所望の領域画像をトリミング画像として得ることができる。   A trimming process will be described as an example. When an object with a frame is imaged by the camera of the small information terminal, an image / video of the framed object is superimposed on the processing target image, and the frame is extracted from the image / video. Since this processing is performed in real time, if the user moves the terminal, the frame changes on the processing target image according to the movement. Specifically, when the distance between the frame and the terminal is reduced, the size of the frame is increased, and the position of the frame is moved by a distance in which the center of the frame is shifted from the center of the imaging / video. When the user moves the terminal and saves the image in a state where the superimposed frame surrounds the desired area of the processing target image, the desired area image can be obtained as a trimmed image.

スタンプ追加処理の場合は、枠内の図形が処理対象画像に書き込まれ、この画像を処理結果画像として得ることができる。   In the case of stamp addition processing, the figure inside the frame is written in the processing target image, and this image can be obtained as a processing result image.

以上のことから、本発明は、以下の小型端末装置、小型端末装置の画像処理方法およびこの方法のプログラムを特徴とする。   As described above, the present invention is characterized by the following small terminal device, image processing method of the small terminal device, and program of this method.

(小型端末装置の発明)
(1)事物の撮像・映像を得るカメラと、前記撮像・映像等を表示できるモニタと、コマンド入力できる操作ボタンと、前記カメラとモニタおよび操作ボタンを入出力装置として前記画像に対する画像処理を行う画像処理手段とを備えた小型情報端末であって、
前記画像処理手段は、
前記カメラ等から得る事物の撮像・映像を前記モニタに処理対象画像として表示しておく表示処理手段と、
枠をもつ枠付き事物を前記カメラで撮影した枠付き画像を、前記処理対象画像上に重畳表示させる重畳表示処理手段と、
前記操作ボタンの操作で前記枠付き画像の枠を抽出する枠抽出処理手段と、
前記抽出手段が抽出した枠または枠内の画像を利用して前記処理対象画像を加工する加工処理手段と、を備えたことを特徴とする。
(Invention of small terminal device)
(1) A camera that captures images / videos of a thing, a monitor that can display the imaging / videos, an operation button that can input commands, and performs image processing on the image using the camera, the monitor, and the operation buttons as input / output devices. A small information terminal comprising image processing means,
The image processing means includes
Display processing means for displaying imaging / video of things obtained from the camera or the like as a processing target image on the monitor;
A superimposed display processing unit that superimposes and displays a framed image obtained by photographing a framed thing with a frame on the processing target image;
Frame extraction processing means for extracting a frame of the framed image by operation of the operation button;
And processing means for processing the processing target image using the frame extracted by the extraction means or an image in the frame.

(2)事物の撮像・映像を得るカメラと、前記撮像・映像等を表示できるモニタと、コマンド入力できる操作ボタンと、前記カメラとモニタおよび操作ボタンを入出力装置として前記画像に対するトリミングやスタンプ追加などの画像処理を行う画像処理手段とを備えた小型情報端末であって、
前記画像処理手段は、
前記カメラ等から得る事物の撮像・映像を前記モニタに処理対象画像として表示しておく表示処理手段と、
前記トリミングやスタンプ追加の領域を示す枠をもつ枠付き事物を前記カメラで撮影した枠付き画像を、前記処理対象画像上に重畳表示させる重畳表示処理手段と、
前記カメラによる前記枠付き事物の撮影位置、姿勢の変更に応じて、前記処理対象画像に対する前記枠付き画像の位置、大きさ、傾きを変化させて前記モニタに重畳表示させる調整処理手段と、
前記調整処理手段による調整後、前記操作ボタンの操作で前記枠付き画像の枠を抽出する枠抽出処理手段と、
前記抽出手段が抽出した枠内の前記処理対象画像をトリミング、または枠内のスタンプ画像を処理対象画像に追加する加工処理手段とを備えたことを特徴とする。
(2) A camera that captures and captures images of things, a monitor that can display the captured images and images, an operation button that can input commands, and trimming and adding stamps to the image using the camera, monitor, and operation buttons as input / output devices A small information terminal comprising image processing means for performing image processing such as
The image processing means includes
Display processing means for displaying imaging / video of things obtained from the camera or the like as a processing target image on the monitor;
Superimposing display processing means for superimposing and displaying a framed image obtained by photographing the framed thing having a frame indicating the trimming or stamp addition area on the processing target image;
Adjustment processing means for changing the position, size, and inclination of the framed image with respect to the processing target image according to a change in the shooting position and posture of the framed thing by the camera,
After the adjustment by the adjustment processing unit, a frame extraction processing unit that extracts a frame of the framed image by operating the operation button;
Processing means for trimming the processing target image within the frame extracted by the extraction means or adding a stamp image within the frame to the processing target image is provided.

(画像処理方法の発明)
(3)事物の撮像・映像を得るカメラと、前記撮像・映像等を表示できるモニタと、コマンド入力できる操作ボタンと、前記カメラとモニタおよび操作ボタンを入出力装置として前記画像に対する画像処理を行う画像処理手段とを備えた小型情報端末の画像処理方法であって、
前記画像処理手段は、
前記カメラ等から得る事物の撮像・映像を前記モニタに処理対象画像として表示しておく表示処理ステップと、
枠をもつ枠付き事物を前記カメラで撮影した枠付き画像を、前記処理対象画像上に重畳表示させる重畳表示処理ステップと、
前記操作ボタンの操作で前記枠付き画像の枠を抽出する枠抽出処理ステップと、
前記抽出ステップが抽出した枠または枠内の画像を利用して前記処理対象画像を加工する加工処理ステップとを有することを特徴とする。
(Invention of image processing method)
(3) A camera that captures images / videos of things, a monitor that can display the imaging / videos, an operation button that can input commands, and performs image processing on the image using the camera, the monitor, and the operation buttons as input / output devices. An image processing method of a small information terminal comprising an image processing means,
The image processing means includes
Display processing step of displaying an image / video of an object obtained from the camera or the like as a processing target image on the monitor;
A superimposed display processing step of superimposing and displaying a framed image obtained by photographing a framed thing with a frame on the processing target image;
A frame extraction processing step of extracting a frame of the framed image by operation of the operation button;
And a processing step of processing the processing target image using the frame extracted in the extraction step or an image in the frame.

(4)事物の撮像・映像を得るカメラと、前記撮像・映像等を表示できるモニタと、コマンド入力できる操作ボタンと、前記カメラとモニタおよび操作ボタンを入出力装置として前記画像に対するトリミングやスタンプ追加などの画像処理を行う画像処理手段とを備えた小型情報端末の画像処理方法であって、
前記画像処理手段は、
前記カメラ等から得る事物の撮像・映像を前記モニタに処理対象画像として表示しておく表示処理ステップと、
前記トリミングやスタンプ追加の領域を示す枠をもつ枠付き事物を前記カメラで撮影した枠付き画像を、前記処理対象画像上に重畳表示させる重畳表示処理ステップと、
前記カメラによる前記枠付き事物の撮影位置、姿勢の変更に応じて、前記処理対象画像に対する前記枠付き画像の位置、大きさ、傾きを変化させて前記モニタに重畳表示させる調整処理ステップと、
前記調整処理ステップによる調整後、前記操作ボタンの操作で前記枠付き画像の枠を抽出する枠抽出処理ステップと、
前記抽出ステップが抽出した枠内の前記処理対象画像をトリミング、または枠内のスタンプ画像を処理対象画像に追加する加工処理ステップとを有することを特徴とする。
(4) A camera that captures images and images of things, a monitor that can display the images and images, operation buttons that can input commands, and trimming and adding stamps to the images using the camera, monitor, and operation buttons as input / output devices An image processing method for a small information terminal comprising image processing means for performing image processing such as
The image processing means includes
Display processing step of displaying an image / video of an object obtained from the camera or the like as a processing target image on the monitor;
A superimposed display processing step of superimposing and displaying on the processing target image a framed image obtained by photographing the framed thing having a frame indicating the trimming or stamp addition region;
An adjustment process step of changing the position, size, and inclination of the framed image with respect to the processing target image in accordance with a change in the shooting position and orientation of the framed thing by the camera,
After the adjustment by the adjustment processing step, a frame extraction processing step of extracting a frame of the framed image by operating the operation button;
And trimming the processing target image in the frame extracted in the extraction step, or adding a stamp image in the frame to the processing target image.

(5)前記枠抽出ステップは、
・特定の色で構成された枠の撮像・映像を利用し、前記特定の色を持つ画素からなる領域を枠として抽出するステップ、
・内側と外側で色が異なる二重の枠の撮像・映像を利用し、撮像・映像の前記内側の枠と外側の枠の境界領域を枠として抽出するステップ、
・各頂点に抽出可能なビジュアルマーカーを配置した枠の撮像・映像を利用し、撮像・映像からビジュアルマーカーを抽出し、前記ビジュアルマーカーを頂点として枠を抽出するステップ、
の少なくとも1つのステップを有することを特徴とする。
(5) The frame extraction step includes:
A step of extracting a region composed of pixels having the specific color as a frame by using an image / video of the frame configured with the specific color;
A step of extracting a boundary area between the inner frame and the outer frame of the imaging / video as a frame by using imaging / video of a double frame having different colors on the inner side and the outer side;
A step of extracting a visual marker from the imaged / video using the image / video of a frame in which an extractable visual marker is arranged at each vertex, and extracting the frame using the visual marker as a vertex;
At least one step.

(6)前記加工処理ステップは、
・前記枠に囲まれた撮像・映像の領域から特定の色を持つ画素からなる領域を抽出し、前記枠に囲まれた処理対象画像の領域に対して加工するステップ、
・前記枠に囲まれた処理対象画像の領域を特定の色で塗りつぶすステップ、
・内部の領域に識別情報が埋め込まれた図形を持つ枠の撮像・映像を利用し、前記枠に囲まれた撮像・映像の領域から識別情報を抽出し、前記識別情報によって付加情報を識別し、前記付加情報を前記処理対象画像に付加するステップ、
の少なくとも1つのステップを有することを特徴とする。
(6) The processing step includes
Extracting a region composed of pixels having a specific color from the imaging / video region surrounded by the frame and processing the region of the processing target image surrounded by the frame;
A step of painting a region of the processing target image surrounded by the frame with a specific color;
-Using the image / video of a frame having a figure with identification information embedded in the internal area, extracting the identification information from the area of the image / video surrounded by the frame, and identifying the additional information by the identification information Adding the additional information to the processing target image;
At least one step.

(7)前記識別情報の抽出ステップは、
・前記枠に囲まれた撮像・映像の領域から文字を読み取り、識別情報を取得するステップ、
・内部の領域に2次元コードが埋め込まれた図形を持つ枠の撮像・映像を利用し、前記2次元コードを抽出し、識別情報を読み取るステップ、
・内部の領域に電子透かしが埋め込まれた図形を持つ枠の撮像・映像を利用し、前記電子透かしを抽出し、識別情報を読み取るステップ、
の少なくとも1つのステップを有することを特徴とする。
(7) The identification information extracting step includes:
A step of reading characters from an imaging / video region surrounded by the frame to obtain identification information;
Using an image / video of a frame having a figure with a two-dimensional code embedded in an internal region, extracting the two-dimensional code and reading identification information;
Using an image / video of a frame having a figure in which a digital watermark is embedded in an internal area, extracting the digital watermark, and reading identification information;
At least one step.

(8)前記識別情報による付加情報の識別ステップは、
・識別情報に枠に関する情報等が含まれ、該情報を付加情報とするステップ、
・識別情報によって特定される外部ネットワーク上の情報を付加情報とするステップ、
の少なくとも1つのステップを有することを特徴とする。
(8) The step of identifying additional information by the identification information includes:
A step in which information about the frame is included in the identification information and the information is used as additional information;
A step of using information on the external network specified by the identification information as additional information;
At least one step.

(9)前記処理対象画像への枠画像の重畳表示ステップは、
・処理対象画像への前記枠のみの重畳表示に切り替えるステップ、
・処理対象画像への前記抽出された枠内画像のみの重畳表示に切り替えるステップ、
・前記枠が囲む処理対象画像のみの表示に切り替えるステップ、
の少なくとも1つのステップを有することを特徴とする。
(9) The step of superimposing and displaying the frame image on the processing target image includes:
A step of switching to a superimposed display of only the frame on the processing target image;
A step of switching to a superimposed display of only the extracted in-frame image on the processing target image;
A step of switching to display only the processing target image surrounded by the frame;
At least one step.

(画像処理方法のプログラムの発明)
(10)上記の(3)〜(9)のいずれか1項に記載の画像処理方法における処理手順をコンピュータで実行可能に構成したことを特徴とする。
(Invention of image processing method program)
(10) The processing procedure in the image processing method according to any one of (3) to (9) is configured to be executable by a computer.

以上のとおり、本発明によれば、枠を付与した事物を小型情報端末がもつカメラで撮影し、この枠付き画像の枠を抽出しておき、該端末の撮影方向などを変えることで、処理対象画像上に重畳表示された枠の位置や大きさ、傾きを直接変化させ、処理対象画像のトリミング、処理対象画像に対するスタンプ追加などの加工処理を可能にしたため、小型情報端末のカメラを枠付き事物に向けてカメラ位置や方向を調整し、操作ボタンの簡単な操作のみで処理対象画像に対するトリミング処理やスタンプ追加処理の操作が簡単にできる。すなわち、ユーザは、小型情報端末を動かすことで直感的にこれらの画像処理を行うことができる。   As described above, according to the present invention, an object with a frame is photographed with a camera included in the small information terminal, the frame of the image with the frame is extracted, and the processing direction is changed by changing the photographing direction of the terminal. Since the position, size, and tilt of the frame superimposed on the target image can be changed directly to enable processing such as trimming the processing target image and adding a stamp to the processing target image, the small information terminal camera has a frame. The camera position and direction can be adjusted toward the object, and trimming processing and stamp addition processing can be easily performed on the processing target image only by simple operation of the operation buttons. That is, the user can intuitively perform these image processes by moving the small information terminal.

(実施形態1)
本実施形態は、小型情報端末と抽出可能な枠が印刷された印刷物(事物)を用いて、処理対象画像に対してトリミングを行うトリミング処理システムを構築する場合である。
(Embodiment 1)
This embodiment is a case where a trimming processing system for trimming a processing target image using a small information terminal and a printed matter (thing) on which an extractable frame is printed is constructed.

図1に小型情報端末として携帯電話を利用した装置構成例を示す。携帯電話1は、カメラ等で撮影した事物の撮像・映像を端末自身に画像データとして保存するための画像データベース手段となる内蔵メモリ2、画像等の表示手段となる液晶モニタ3、事物の撮像・撮影手段となるデジタルカメラ4、コマンド入力手段となる操作ボタン5、これら手段を入出力装置としてデジタルカメラ4で撮影した撮像・映像の処理などの情報処理手段となるCPU(マイクロプロセッサ)6で構成される。CPU6には、一般のコンピュータと同様に、ROM、RAM、インタフェースなどのハードウェア構成に、情報処理プログラムとして記述されるソフトウェアを搭載して実現される。なお、本実施形態等では、携帯電話に適用した場合で説明するが、携帯電話と同等以上の機能をもつビデオカメラ等に適用することができる。   FIG. 1 shows an example of a device configuration using a mobile phone as a small information terminal. The mobile phone 1 includes a built-in memory 2 serving as an image database means for storing images / videos taken by a camera or the like as image data in the terminal itself, a liquid crystal monitor 3 serving as a display means for images, and the like. A digital camera 4 serving as a photographing means, an operation button 5 serving as a command input means, and a CPU (microprocessor) 6 serving as information processing means such as imaging / video processing photographed by the digital camera 4 using these means as input / output devices. Is done. As with a general computer, the CPU 6 is realized by mounting software described as an information processing program on a hardware configuration such as a ROM, a RAM, and an interface. Although the present embodiment and the like will be described in the case where the present invention is applied to a mobile phone, the present embodiment can be applied to a video camera having a function equivalent to or higher than that of a mobile phone.

図2にトリミング処理に用いる抽出可能なトリミング枠の構成例を示す。トリミング枠10は、画像処理によって白い背景の中から抽出しやすい黒色の枠で構成される。図3には、種々のトリミング枠11が印刷されたトリミングシート12を示す。   FIG. 2 shows a configuration example of an extractable trimming frame used for trimming processing. The trimming frame 10 is composed of a black frame that can be easily extracted from a white background by image processing. FIG. 3 shows a trimming sheet 12 on which various trimming frames 11 are printed.

本実施形態における一連のトリミング処理について説明する。図4にこの一連の処理手順を示し、以下の処理になる。   A series of trimming processes in the present embodiment will be described. FIG. 4 shows this series of processing procedures, which are as follows.

(S1)処理対象画像の表示
図5に例を示すように、ユーザは、内蔵メモリ2に保存されている複数の画像からトリミング処理を行いたい処理対象画像40を操作ボタン5で選択し、液晶モニタ3に表示させる。この処理対象画像40は、カメラで撮影した撮像・映像の他、通信手段等を介して受信した撮像・映像でもよい。
(S1) Display of Processing Target Image As shown in FIG. 5, the user selects the processing target image 40 to be trimmed from a plurality of images stored in the built-in memory 2 with the operation button 5, and displays the liquid crystal It is displayed on the monitor 3. The processing target image 40 may be an image / video received via a communication unit or the like in addition to an image / video shot by a camera.

(S2)枠撮影・画角調整
次に、図6に例を示すように、ユーザは、多数のトリミング枠41が印刷されたトリミングシート42の中から、所望のトリミング枠を一つ選び、それを撮像し、デジタルカメラ4の画角内に収める。
(S2) Frame Shooting / View Angle Adjustment Next, as shown in the example of FIG. 6, the user selects a desired trimming frame from the trimming sheet 42 on which a large number of trimming frames 41 are printed. And within the angle of view of the digital camera 4.

(S3)処理対象画像に枠重畳表示
撮像・映像は、デジタルカメラ4からCPU6へ送られ、図6に例を示すように、液晶モニタ3上で表示する処理対象画像上に撮像した枠を重畳表示する。
(S3) Frame superimposed display on processing target image The captured image / video is sent from the digital camera 4 to the CPU 6, and the captured frame is superimposed on the processing target image displayed on the liquid crystal monitor 3 as shown in FIG. indicate.

(S4)トリミング枠画像生成
図6に例示する状態で、操作ボタンを5が操作されると、撮像画像から枠を抽出し、トリミング枠画像50を生成する。このとき、CPU6はトリミング枠画像50について、2値化処理を行う。
(S4) Trimming frame image generation When the operation button 5 is operated in the state illustrated in FIG. 6, a frame is extracted from the captured image and a trimming frame image 50 is generated. At this time, the CPU 6 performs binarization processing on the trimming frame image 50.

上述のようにトリミングシートは、背景が白色で、枠が黒色である。2値化後に黒色となった画素は、枠であると予測できる。CPU6は、処理対象画像と同じサイズの一時作業画像を生成する。CPU6は、枠画像中の黒色である画素を枠として抽出し、対応する位置にある一時作業画像上の画素を黒色で上書きし、枠の抽出結果として、該一時作業画像をトリミング枠画像50として得る(参考文献・コンピュータ画像処理・田村秀行・オーム社)。   As described above, the trimming sheet has a white background and a black frame. A pixel that becomes black after binarization can be predicted to be a frame. The CPU 6 generates a temporary work image having the same size as the processing target image. The CPU 6 extracts the black pixel in the frame image as a frame, overwrites the pixel on the temporary work image at the corresponding position with black, and uses the temporary work image as the trimming frame image 50 as a frame extraction result. Get (references, computer image processing, Hideyuki Tamura, Ohmsha).

(S5、S6)枠調整
処理対象画像への枠画像の重畳表示と、トリミング枠画像の生成は、リアルタイムで行われる。図7に例を示すように、トリミング枠60は、携帯電話70とトリミングシート71の物理的な位置関係72に応じて変化し続ける。
(S5, S6) Frame Adjustment The frame image is superimposed on the processing target image and the trimming frame image is generated in real time. As shown in FIG. 7, the trimming frame 60 continues to change according to the physical positional relationship 72 between the mobile phone 70 and the trimming sheet 71.

具体的には、図8に例を示すように、携帯電話70とトリミングシート71の距離72が大きくなれば枠は小さくなり、距離が小さくなれば枠は大きくなる。また、携帯電話70をトリミングシート71に対して回転させると枠は回転し、移動させると枠は移動する。ユーザはこれを利用して、携帯電話70を動かすこと(カメラの位置や方向を変えること)で、重畳表示される撮像・映像中のトリミング枠の位置、大きさ、回転(傾き)を調整する。   Specifically, as shown in FIG. 8, as the distance 72 between the mobile phone 70 and the trimming sheet 71 increases, the frame decreases, and as the distance decreases, the frame increases. When the mobile phone 70 is rotated with respect to the trimming sheet 71, the frame rotates, and when the mobile phone 70 is moved, the frame moves. Using this, the user moves the mobile phone 70 (changes the position and direction of the camera) to adjust the position, size, and rotation (tilt) of the trimming frame in the superimposed / captured image / video. .

(S7)トリミング処理
図9に例を示すように、ユーザが、操作ボタン5で、トリミング枠の調整の終了を決定すると、処理対象画像中のトリミング枠80によって囲まれるトリミング領域81が抽出される。CPU6は、処理対象画像と同じサイズの一時作業画像を作成する。この一時作業画像に処理対象画像を書き込み、トリミング枠画像の黒色の画素で構成される枠領域をさらに上書きする。一時作業画像中の枠で囲まれる領域のすべての画素を読み取り、トリミング領域81を抽出する。
(S7) Trimming Processing As shown in the example of FIG. 9, when the user decides to end the trimming frame adjustment with the operation button 5, a trimming region 81 surrounded by the trimming frame 80 in the processing target image is extracted. . The CPU 6 creates a temporary work image having the same size as the processing target image. The processing target image is written into the temporary work image, and the frame area composed of the black pixels of the trimming frame image is further overwritten. All the pixels in the area surrounded by the frame in the temporary work image are read, and the trimming area 81 is extracted.

(S8)トリミング結果の保存
図10に例を示すように、抽出されたトリミング領域81は、トリミング領域画像90として、内蔵メモリ2に保存され、ユーザは所望の画像を取得すること(トリミング)ができる。
(S8) Saving Trimming Results As shown in FIG. 10, the extracted trimming area 81 is saved as the trimming area image 90 in the built-in memory 2, and the user can acquire a desired image (trimming). it can.

(実施形態2)
本実施形態は、抽出可能な枠内に、図形が印刷された印刷物(事物)を用いて、枠を抽出し、該図形をスタンプとして処理対象画像に追加できるステップ追加処理システムを構築する。
(Embodiment 2)
In the present embodiment, a step addition processing system is constructed in which a frame is extracted using a printed matter (thing) on which a figure is printed in an extractable frame, and the figure can be added to a processing target image as a stamp.

このスタンプ追加処理システムで利用するスタンプの例を図11に示す。スタンプ100は、画像処理によって白い背景の中から抽出しやすい枠とその内部の図形で構成される。図12にスタンプシートの構成例を示す。スタンプシート101は白地で、何種類かのスタンプ102が印刷される。   An example of a stamp used in this stamp addition processing system is shown in FIG. The stamp 100 includes a frame that can be easily extracted from a white background by image processing, and a figure inside the frame. FIG. 12 shows a configuration example of the stamp sheet. The stamp sheet 101 is white, and several types of stamps 102 are printed.

本実施形態におけるスタンプ追加処理について説明する。図13にスタンプ追加の一連の処理手順を示し、以下の処理になる。   The stamp addition process in this embodiment will be described. FIG. 13 shows a series of processing steps for adding a stamp, and the following processing is performed.

(S11)処理対象画像の表示
図14に例を示すように、スタンプを追加しようとする処理対象画像142を液晶モニタ3に表示させる。
(S11) Display of processing target image As shown in FIG. 14, a processing target image 142 to which a stamp is to be added is displayed on the liquid crystal monitor 3.

(S12)スタンプ追加画像の画角表示
図14に例を示すように、携帯電話を動かし、カメラ4をスタンプシート140側に向け、スタンプ追加に使用したいスタンプ画像の枠を画角に収める。
(S12) Angle-of-view display of added stamp image As shown in FIG. 14, the mobile phone is moved, the camera 4 is directed toward the stamp sheet 140, and the frame of the stamp image desired to be used for adding the stamp is included in the angle of view.

(S13)処理対象画像にスタンプ画像を重畳表示
図15に示すように、スタンプシート140から所望のスタンプ141を一つ選び、液晶モニタ3上にその撮像・映像150を処理対象画像に重畳表示させる。
(S13) Stamp image is superimposed on the processing target image As shown in FIG. 15, one desired stamp 141 is selected from the stamp sheet 140, and the captured image / video 150 is superimposed on the processing target image on the liquid crystal monitor 3. .

(S14〜S16)スタンプ追加の枠画像生成・調整
実施形態1のトリミング処理と同様に、図16に示すように、処理対象画像160へのスタンプ追加の枠付き画像の重畳表示を見ながら、携帯電話を動かし、スタンプ画像161を追加する場所やスタンプ画像の大きさを調整する。なお、トリミング処理システムと同様にスタンプ追加処理システムでも、重畳表示とスタンプ枠画像の生成は、リアルタイムで行われる。
(S14 to S16) Generation / Adjustment of Stamp-added Frame Image Similar to the trimming process of the first embodiment, as shown in FIG. The phone is moved to adjust the place where the stamp image 161 is added and the size of the stamp image. Note that in the stamp addition processing system as well as the trimming processing system, the superimposed display and the generation of the stamp frame image are performed in real time.

(S17、S18)スタンプ追加処理
図17に示すように、スタンプの追加を操作ボタン5によって決定すると、CPU6は、抽出されたスタンプ枠に囲まれた領域内のスタンプ画像170を処理対象画像160に書き込み、該処理対象画像上にスタンプが追加される。
(S17, S18) Stamp Addition Processing As shown in FIG. 17, when the addition of the stamp is determined by the operation button 5, the CPU 6 sets the stamp image 170 in the area surrounded by the extracted stamp frame as the processing target image 160. Writing and a stamp is added on the processing target image.

(S19、S20)スタンプ追加画像の保存
上記のスタンプの調整と追加の操作を複数回行えば、複数個の異なるスタンプを処理対象画像に追加する。そして、操作ボタン5によってスタンプの追加を終了すると、図18に示すように、スタンプを追加された処理結果画像180が得られる。この処理結果画像は、内蔵メモリ2に保存され、ユーザは所望のスタンプが追加された画像を得ることができる。
(S19, S20) Save Stamp Additional Image If the above stamp adjustment and addition operations are performed a plurality of times, a plurality of different stamps are added to the processing target image. Then, when the addition of the stamp is ended by the operation button 5, a processing result image 180 to which the stamp is added is obtained as shown in FIG. This processing result image is stored in the built-in memory 2, and the user can obtain an image with a desired stamp added thereto.

本発明は、以上までの実施形態に限られるものでなく、撮像・映像からの枠抽出処理、枠付き画像を使用した画像処理等についての変形例を以下に説明する。なお、以下の変形例は、1つを装置に搭載する手法に限られるものでなく、複数のものを装置に搭載してもよい。   The present invention is not limited to the above-described embodiments, and modified examples of frame extraction processing from captured images / videos, image processing using a framed image, and the like will be described below. Note that the following modifications are not limited to the method of mounting one on the apparatus, and a plurality of modifications may be mounted on the apparatus.

(変形例1)色抽出スタンプ
前述のスタンプの追加処理において、抽出されたスタンプ画像枠に囲まれる撮像画像の領域を読み取るのではなく、該領域内の特定の色を持つ画素のみを読み取り、その画素だけを処理対象画像に書き込むように構成することもできる。
(Modification 1) Color extraction stamp In the above-described stamp addition process, instead of reading the area of the captured image surrounded by the extracted stamp image frame, only the pixels having a specific color in the area are read, It can also be configured to write only the pixels in the processing target image.

具体的な処理を説明する。図19に示すように、CPU6は、処理対象画像と同じサイズの一時作業画像を生成し、スタンプ画像領域内で、前記特定の色を持つ画素190のみを該一時作業画像へ書き込む。次に、該一時作業画像の画素すべてを対応する位置にある処理対象画像の画素に上書きする。これにより、処理対象画像に枠内のサイン191だけを書き込むことができる。   A specific process will be described. As shown in FIG. 19, the CPU 6 generates a temporary work image having the same size as the processing target image, and writes only the pixels 190 having the specific color in the temporary work image within the stamp image area. Next, all the pixels of the temporary work image are overwritten on the pixels of the processing target image at the corresponding positions. Thereby, only the sign 191 within the frame can be written in the processing target image.

(変形例2)消しゴム
前述のスタンプ追加処理において、抽出されたスタンプ画像枠に囲まれる処理対象画像の領域を特定の色で塗りつぶして書き込むように構成することもできる。枠に囲まれる処理対象画像の領域を特定の色で塗りつぶすことができ、特殊な形状の画像用の消しゴムとして使用することができる。
(Modification 2) Eraser In the above-described stamp addition processing, the region of the processing target image surrounded by the extracted stamp image frame may be filled with a specific color and written. The region of the processing target image surrounded by the frame can be filled with a specific color, and can be used as an eraser for an image having a special shape.

(変形例3)2次元コード
前述のスタンプ追加処理において、枠内の図形に2次元コードを埋め込んだスタンプシートを用い、撮像・映像から2次元コードを抽出し、該2次元コードが含む付加情報を処理対象画像に付加するように構成することもできる。
(Modification 3) Two-dimensional code In the above-described stamp addition process, a two-dimensional code is extracted from an image / video using a stamp sheet in which a two-dimensional code is embedded in a figure in a frame, and additional information included in the two-dimensional code Can be added to the processing target image.

2次元コードは、「特開2000−148904、サイバーコード」にあるサイバーコード、または「特開10−208001、QRコード」にあるQRコードを用いて構成することができる。   The two-dimensional code can be configured using a cyber code in “JP 2000-148904, CYBER CODE” or a QR code in “JP 10-208001, QR CODE”.

2次元コードに前記QRコードを用いた具体的な処理について、図20に示す例で説明する。CPU6は、撮像画像のトリミング領域からQRコード200を抽出する。この抽出方法は、上記参考文献に記載の方法で行う。CPU6は、抽出したQRコード200が保持する情報201を取得し、処理対象画像に追加する。   A specific process using the QR code as a two-dimensional code will be described with reference to an example shown in FIG. The CPU 6 extracts the QR code 200 from the trimming area of the captured image. This extraction method is performed by the method described in the above reference. The CPU 6 acquires information 201 held by the extracted QR code 200 and adds it to the processing target image.

(変形例4)電子透かしによるメタデータ付加
前述のスタンプ追加処理において、枠内の図形に電子透かしを埋め込んだスタンプシートを用いて、撮像・映像から電子透かしを抽出し、該電子透かしが含む付加情報を処理対象画像に付加するように構成する。
(Modification 4) Addition of metadata by digital watermark In the above-described stamp addition processing, a digital watermark is extracted from an image / video using a stamp sheet in which the digital watermark is embedded in a figure in the frame, and the digital watermark includes The information is configured to be added to the processing target image.

電子透かしに周波数領域利用型手法を用いた具体的な処理について説明する(参考文献・電子透かしの基礎−マルチメディアのニュープロテクト技術・森北出版)。   Specific processing using a frequency domain-based technique for digital watermarking will be described (references: Basics of Digital Watermarking-New Protect Technology for Multimedia, Morikita Publishing).

図21に例を示すように、CPU6は、撮像画像のスタンプ領域を抽出し、該領域と同じサイズの透かし読み取り用画像210を生成する。この画像から参考文献に記載の手法で電子透かしの透かしビットを抽出し、これを付加情報211とする。CPU6は、該付加情報211を処理対象画像に追加する。   As illustrated in FIG. 21, the CPU 6 extracts a stamp area of the captured image and generates a watermark reading image 210 having the same size as the area. A watermark bit of a digital watermark is extracted from this image by the method described in the reference document, and this is used as additional information 211. The CPU 6 adds the additional information 211 to the processing target image.

(変形例5)OCR
スタンプ追加処理において、撮像・映像から枠内の図形に描かれた文字を読み取り、その文字を付加情報として、処理対象画像に付加するように構成する。
(Modification 5) OCR
In the stamp addition process, a character drawn on a figure in the frame is read from the image / video, and the character is added to the processing target image as additional information.

具体的な処理について説明する。市販の一部の携帯電話は画像に含まれる文字を認識する文字認識機能を備えている。図22に例を示すように、CPU6は、処理対象画像中のスタンプ領域から、該文字認識機能を利用し、枠内の図形に印刷された文字220を抽出する。CPUは該文字220を付加情報221として、処理対象画像に付加する。   Specific processing will be described. Some commercially available mobile phones have a character recognition function for recognizing characters included in images. As illustrated in FIG. 22, the CPU 6 uses the character recognition function to extract the character 220 printed on the graphic in the frame from the stamp area in the processing target image. The CPU adds the character 220 as additional information 221 to the processing target image.

(変形例6)付加情報を外部ネットワークから取得
携帯電話が備える通信機能を利用し、外部ネットワークに設置された外部データベースから、前記付加情報を識別情報として特定できるネットワーク付加情報を処理対象画像に付加するように構成する。
(Modification 6) Acquiring additional information from an external network Using a communication function of a mobile phone, network additional information that can identify the additional information as identification information is added to an image to be processed from an external database installed in the external network To be configured.

具体的な処理について説明する。図23に例を示すように、CPU6は、通信手段230へ付加情報を送信し、通信手段230は、付加情報を外部データーベース手段231へ送信する。外部データベース手段231は、受信した付加情報を識別情報240として、該識別情報240に対応するネットワーク付加情報241を検索する。ネットワーク付加情報241は、スタンプの名前や関連する情報が得られるURL、メールアドレス等から構成される。外部データベース手段231は、識別情報240に該当するネットワーク付加情報241を携帯電話の通信手段230へ送信し、CPU6は、該ネットワーク付加情報241を処理対象画像に付加する。   Specific processing will be described. As illustrated in FIG. 23, the CPU 6 transmits additional information to the communication unit 230, and the communication unit 230 transmits the additional information to the external database unit 231. The external database means 231 searches the network additional information 241 corresponding to the identification information 240 using the received additional information as the identification information 240. The network additional information 241 includes a stamp name, a URL for obtaining related information, a mail address, and the like. The external database unit 231 transmits the network additional information 241 corresponding to the identification information 240 to the communication unit 230 of the mobile phone, and the CPU 6 adds the network additional information 241 to the processing target image.

(変形例7)2重枠の色相差で枠抽出
トリミングシートあるいはスタンプシートに用いられる枠は、内側と外側で色が異なる2種類の枠250を用いて構成する。
(Modification 7) Frame extraction based on hue difference of double frame A frame used for a trimming sheet or a stamp sheet is configured by using two types of frames 250 having different colors on the inner side and the outer side.

具体的な処理について説明する。図24に例を示すように、CPU6は、撮像画像と同じサイズの一時作業画像を生成する。次に撮像・映像の左上隅の点から右方向に、前記内側と外側の枠の色相差に等しい隣接画素との色相差を持つ画素251を調査する。該当する画素が抽出された場合、対応する位置にある一時作業画像の画素を黒色で上書きする。1行の調査が終わると下の行について同様に右方向への調査を行う。同様の処理を撮像・映像の左上隅の点から下方向へも行う。これらの処理後、一時作業画像には、2つの枠の境界領域が書き込まれる。CPUは、該一時作業画像をトリミング枠画像と置き換え、使用する。   Specific processing will be described. As illustrated in FIG. 24, the CPU 6 generates a temporary work image having the same size as the captured image. Next, a pixel 251 having a hue difference between adjacent pixels equal to the hue difference between the inner and outer frames is examined in the right direction from the upper left corner of the image / video. When the corresponding pixel is extracted, the pixel of the temporary work image at the corresponding position is overwritten with black. When the survey for one line is completed, the right line is similarly investigated for the lower line. Similar processing is performed downward from the upper left corner of the image / video. After these processes, the boundary area between the two frames is written in the temporary work image. The CPU replaces the temporary work image with the trimming frame image and uses it.

(変形例8)枠をマーカーで構成
トリミングシートあるいはスタンプシートに用いられる枠は、図25に例を示すように、ビジュアルマーカー261を用いて構成する。ビジュアルマーカーに識別番号を付与し、抽出したビジュアルマーカーを頂点として、識別番号順に結んでいくことで枠を簡単に抽出できるようにする。
(Modification 8) Frame is configured with a marker A frame used for a trimming sheet or a stamp sheet is configured using a visual marker 261 as shown in FIG. An identification number is assigned to a visual marker, and a frame can be easily extracted by connecting the extracted visual marker in the order of the identification number.

図25の例では、色と大きさの異なる2つの同心円の組み合わせによるビジュアルマーカー260を用いている。該ビジュアルマーカー260は、2つの円から構成されている。大小の円の半径の比は、1:2となっている。2つの円261、262は、同心円であり、それらの中心が一致するように配置されている。該2つの円は、それぞれ異なる色相を持つ色で塗りつぶされている。   In the example of FIG. 25, a visual marker 260 is used which is a combination of two concentric circles having different colors and sizes. The visual marker 260 is composed of two circles. The ratio of the radius of the large and small circles is 1: 2. The two circles 261 and 262 are concentric circles and are arranged so that their centers coincide. The two circles are filled with colors having different hues.

このビジュアルマーカーでは、塗りつぶしに青色、赤色および黄色の固定の3色を用いている。このマーカーに用いる色の組み合わせとマーカーの識別番号の対応は、図26の表に示すようになっている。   In this visual marker, three colors of blue, red and yellow are used for filling. The correspondence between the combination of colors used for the marker and the identification number of the marker is as shown in the table of FIG.

トリミング領域あるいはスタンプの撮像・映像から該ビジュアルマーカーを抽出する処理について説明する。CPU6は、はじめに撮像・映像から前記固定の3色以外の色相値を持つ画素の値を黒色に置き換える。次に、撮像画像を左上隅の点から右方向に調査し、例えば、赤色、青色、赤色と色が変化している領域を抽出する。このとき図26の表に従って、抽出した領域の識別番号も同時に抽出できる。この例の場合、抽出された領域は外側が赤色、内側が青色の円で構成されたビジュアルマーカーの一部であり、識別番号は5と抽出できる。   A process of extracting the visual marker from the trimming area or stamp image / video will be described. First, the CPU 6 replaces the value of the pixel having a hue value other than the fixed three colors with black from the captured image / video. Next, the captured image is examined in the right direction from the upper left corner point, and, for example, a region in which the color changes from red, blue, and red is extracted. At this time, the identification number of the extracted area can be extracted at the same time according to the table of FIG. In the case of this example, the extracted region is a part of a visual marker composed of a circle whose outer side is red and whose inner side is blue, and an identification number of 5 can be extracted.

CPU6は、ビジュアルマーカーの一部である領域が抽出されると、該領域に抽出した識別番号を書き込む。撮像画像の1行の調査が終了すると下の行へ移動し、同様の調査を行う。また、同様の処理を左上の隅の点から下方向へも行う。右方向と下方向の調査のいずれにも抽出され、さらに上書きされた識別番号が両方向の調査で一致する画素をビジュアルマーカーを構成する領域であるとし、該領域の重心を抽出し、ビジュアルマーカーの画像中の位置と識別番号を抽出する。   When the area that is a part of the visual marker is extracted, the CPU 6 writes the extracted identification number in the area. When the investigation of one line of the captured image is completed, the process moves to the lower line and the same investigation is performed. The same processing is performed downward from the upper left corner point. The pixel that is extracted in both the right direction and the downward direction and the overwritten identification number matches in both directions is assumed to be the region constituting the visual marker, the center of gravity of the region is extracted, and the visual marker Extract the position and identification number in the image.

最後にCPU6は、抽出されたビジュアルマーカーそれぞれに割り当てられた識別番号順にそれぞれの重心を線で結んでゆき、枠を抽出し、トリミング枠画像に枠を黒色で書き込む。図25に例を示すように非凸多角形、複雑な図形となる枠でも認識することができる。   Finally, the CPU 6 connects the centers of gravity with lines in the order of the identification numbers assigned to the extracted visual markers, extracts the frames, and writes the frames in black in the trimming frame image. As shown in FIG. 25, a non-convex polygon or a frame that is a complex figure can be recognized.

(変形例9)マーカーを制御点として利用
前記枠をビジュアルマーカーで構成した場合に、B−Spline曲線あるいはベツィエ曲線などのパラメータ曲線技術を用いて、図27に示すように枠を自由閉曲線として構成する(参考文献・杉原厚吉著、共立出版、グラフィックスの数理)。
(Variation 9) Using markers as control points When the frame is configured with visual markers, the frame is configured as a free closed curve as shown in FIG. 27 using a parameter curve technique such as a B-Spline curve or a Bezier curve. Yes (references: Sugihara Akiyoshi, Kyoritsu Publishing, graphics mathematics).

具体的な処理について説明する。図28に例を示すように、前記の2次元コード、電子透かし等から付加情報を取得し、該付加情報を識別情報264として枠を識別し、制御点データベース手段から各頂点の制御情報265を取得する。これによって多角形領域だけでなく、任意の形状をもつ領域263を抽出することも可能となる。   Specific processing will be described. As shown in FIG. 28, additional information is acquired from the two-dimensional code, digital watermark, etc., the additional information is used as identification information 264, a frame is identified, and control information 265 for each vertex is obtained from the control point database means. get. As a result, it is possible to extract not only the polygonal region but also the region 263 having an arbitrary shape.

(変形例10)処理対象画像を変化させてトリミング/スタンプ
前述のトリミング処理およびスタンプ追加処理では、枠の全部が撮影映像の画角に入らない場合、処理対象画像を液晶モニタいっぱいに表示すると、枠が認識できないため、該処理対象画像の隅の一部を切り取ることができない。そこで、処理対象画像の大きさ等を変化させて画像処理を行えるように構成し、この問題を解決する。
(Modification 10) Trimming / stamping by changing the processing target image In the above-described trimming processing and stamp addition processing, if the entire processing frame image does not fall within the angle of view of the captured video, Since the frame cannot be recognized, a part of the corner of the processing target image cannot be cut out. In view of this, the image processing can be performed by changing the size or the like of the processing target image to solve this problem.

具体的に説明する。図29に例を示すように、処理対象画像のサイズを変更して表示し、トリミングまたはスタンプの撮像・映像の重畳表示を行う。ユーザは、前記の実施形態1、2と同様にトリミング処理あるいはスタンプ追加処理を行う。これにより、重畳表示されている枠267が処理対象画像266からはみ出している状況でも、トリミング処理やスタンプ追加といった画像処理を行うことができ、トリミング処理の場合、図30に例を示すように、トリミング領域画像268を得ることができる。   This will be specifically described. As shown in FIG. 29, the size of the processing target image is changed and displayed, and trimming or stamp imaging / video overlay display is performed. The user performs trimming processing or stamp addition processing in the same manner as in the first and second embodiments. As a result, even when the superimposed frame 267 protrudes from the processing target image 266, image processing such as trimming processing and stamp addition can be performed. In the case of trimming processing, as shown in FIG. A trimming region image 268 can be obtained.

(変形例11)枠のみを重畳表示
前述のトリミング処理において、撮像・映像から枠が抽出されたとき、処理対象画像に対して、撮像・映像ではなく、抽出された枠のみを重畳表示するように切り替えることで、トリミングする領域をよりわかりやすく表示するように構成する。
(Modification 11) Only the frame is superimposed and displayed In the above-described trimming process, when the frame is extracted from the captured / video, only the extracted frame is superimposed on the processing target image instead of the captured / video. By switching to, the area to be trimmed is displayed more clearly.

具体的な処理について説明する。図31に例を示すように、CPU6は、撮像・映像から枠が抽出されると、液晶モニタ上での処理対象画像への撮像・映像の重畳表示を停止する。次に、トリミング枠画像中の枠領域である黒色の画素を抽出し、該画素に対応する処理対象画像中の位置の画素へ黒色を液晶モニタ上に重畳表示する(270)。   Specific processing will be described. As illustrated in FIG. 31, when the frame is extracted from the image / video, the CPU 6 stops the image / video superimposed display on the processing target image on the liquid crystal monitor. Next, a black pixel that is a frame region in the trimming frame image is extracted, and black is superimposed on the pixel at a position in the processing target image corresponding to the pixel (270).

(変形例12)トリミング領域のみを表示
前述のトリミング処理において、撮像・映像から枠が抽出されたとき、トリミング領域のみの表示に切り替えることで、トリミング処理の結果をよりわかりやすく表示するように構成する。
(Modification 12) Displaying only the trimming area In the above-described trimming process, when the frame is extracted from the captured image / video, the trimming process result is displayed more clearly by switching to the display of only the trimming area. To do.

具体的な処理について説明する。図32に例を示すように、CPU6は、枠が抽出されると、液晶モニタ上での撮影映像の重畳表示、および処理対象画像の表示を停止し、抽出された前記実施形態中のトリミング領域280を液晶モニタに表示する。   Specific processing will be described. As illustrated in FIG. 32, when the frame is extracted, the CPU 6 stops the superimposed display of the captured video and the display of the processing target image on the liquid crystal monitor, and the extracted trimming area in the above embodiment. 280 is displayed on the liquid crystal monitor.

(変形例13)スタンプのみを重畳表示
前述のスタンプ追加処理において、撮像・映像から枠が抽出されたとき、処理対象画像に対して、撮像・映像ではなく、撮像・映像から抽出したスタンプ画像の枠内に対応する処理対象画像中の領域を重畳表示するように切り替えることで、スタンプ追加する領域をよりわかりやすく表示するように構成する。
(Modification 13) Only a stamp is superimposed and displayed In the above-described stamp addition process, when a frame is extracted from an image / video, the stamp image extracted from the image / video is not the image / video to be processed. By switching so that the region in the processing target image corresponding to the inside of the frame is displayed in a superimposed manner, the region to be added with the stamp is displayed more clearly.

具体的な処理について説明する。図33に例を示すように、CPU6は、枠が抽出されると、液晶モニタ上での撮像・映像の重畳表示を停止し、枠に囲まれる撮像画像の領域290のすべての画素を読み取り、液晶モニタ上で該すべての画素を処理対象画像上に重畳表示する。   Specific processing will be described. As illustrated in FIG. 33, when the frame is extracted, the CPU 6 stops the superimposed image / video display on the liquid crystal monitor, reads all pixels in the region 290 of the captured image surrounded by the frame, All the pixels are superimposed on the processing target image on the liquid crystal monitor.

(変形例14)印刷物だけではなくディスプレイで表示
上述の実施形態では、紙媒体であるトリミングシートやスタンプシートを利用しているが、図34に例を示すように、これをCRTディスプレイ300等の画像表示手段を用いて表示させ、携帯電話で撮像し、トリミング処理やスタンプ追加処理を行うように構成する。
(Modification 14) Display not only on printed matter but on display In the above-described embodiment, a trimming sheet or stamp sheet, which is a paper medium, is used. As shown in FIG. 34, this is displayed on a CRT display 300 or the like. The image is displayed using an image display means, picked up by a mobile phone, and configured to perform trimming processing and stamp addition processing.

なお、本発明は、図4、13に示した処理手順等による画像処理方法の一部又は全部の処理機能をプログラムとして構成してコンピュータに実行させることができる。   In the present invention, some or all of the processing functions of the image processing method according to the processing procedures shown in FIGS. 4 and 13 can be configured as a program and executed by a computer.

本発明の実施形態を示す小型情報端末の装置構成例。The apparatus structural example of the small information terminal which shows embodiment of this invention. 実施形態におけるトリミング枠の構成例。3 is a configuration example of a trimming frame in the embodiment. 実施形態におけるトリミングシートの例。The example of the trimming sheet in embodiment. 実施形態におけるトリミング処理手順。The trimming processing procedure in embodiment. 実施形態における処理対象画像の表示例。The example of a display of the process target image in embodiment. 実施形態におけるトリミング枠の撮影状態を示す図。The figure which shows the imaging | photography state of the trimming frame in embodiment. 実施形態におけるトリミング枠の調整状態を示す図。The figure which shows the adjustment state of the trimming frame in embodiment. 実施形態におけるトリミング枠の調整状態を示す図。The figure which shows the adjustment state of the trimming frame in embodiment. 実施形態におけるトリミングの処理状態を示す図。The figure which shows the process state of the trimming in embodiment. 実施形態におけるトリミング画像例を示す図。The figure which shows the example of a trimming image in embodiment. 実施形態におけるスタンプ画像の例。The example of the stamp image in embodiment. 実施形態におけるスタンプシートの構成例。The structural example of the stamp sheet | seat in embodiment. 実施形態におけるスタンプ追加処理手順。The stamp addition processing procedure in the embodiment. 実施形態における処理対象画像の表示例。The example of a display of the process target image in embodiment. 実施形態におけるスタンプ画像の撮影状態を示す図。The figure which shows the imaging | photography state of the stamp image in embodiment. 実施形態におけるスタンプ画像の調整状態を示す図。The figure which shows the adjustment state of the stamp image in embodiment. 実施形態におけるスタンプ画像を追加した状態を示す図。The figure which shows the state which added the stamp image in embodiment. 実施形態におけるスタンプ画像を追加した画像の例。The example of the image which added the stamp image in embodiment. 実施形態における色抽出によるスタンプ画像追加の説明図。Explanatory drawing of the stamp image addition by the color extraction in embodiment. 実施形態における2次元コード付加の説明図。Explanatory drawing of the two-dimensional code addition in embodiment. 実施形態における電子透かしによるメタデータ付加の説明図。Explanatory drawing of the metadata addition by the digital watermark in embodiment. 実施形態における文字情報付加の説明図。Explanatory drawing of the character information addition in embodiment. 実施形態における外部ネットワークから付加情報を取得の構成図。The block diagram of acquiring additional information from the external network in embodiment. 実施形態における2重枠の色相差で枠抽出の説明図。Explanatory drawing of frame extraction by the hue difference of the double frame in embodiment. 実施形態における枠をマーカーで構成する説明図。Explanatory drawing which comprises the frame in embodiment with a marker. 実施形態における色の組み合わせとマーカーの識別番号の対応表の例。6 is an example of a correspondence table of color combinations and marker identification numbers in the embodiment. 実施形態におけるマーカーを制御点とした枠の構成例。The structural example of the frame which used the marker in embodiment as a control point. 実施形態における枠の付加情報とマーカー制御点の対応表の例。The example of the correspondence table of the additional information of a frame and marker control point in an embodiment. 実施形態における処理対象画像を変化させたトリミングの状態図。FIG. 6 is a state diagram of trimming in which a processing target image is changed in the embodiment. 実施形態における処理対象画像を変化させたトリミング画像の例。An example of a trimmed image obtained by changing a processing target image in the embodiment. 実施形態における枠のみを切り替えて重畳表示させる状態図。The state diagram which switches and displays only the frame in embodiment. 実施形態におけるトリミング領域のみを表示させる状態図。The state diagram which displays only the trimming area | region in embodiment. 実施形態におけるスタンプのみを切り替えて重畳表示させる状態図。FIG. 6 is a state diagram in which only the stamp in the embodiment is switched and displayed in a superimposed manner. 実施形態におけるトリミング枠をディスプレイで表示する例。The example which displays the trimming frame in embodiment on a display.

符号の説明Explanation of symbols

1 小型情報端末
2 内部メモリ
3 液晶モニタ
4 デジタルカメラ
5 操作ボタン
6 CPU
DESCRIPTION OF SYMBOLS 1 Small information terminal 2 Internal memory 3 Liquid crystal monitor 4 Digital camera 5 Operation button 6 CPU

Claims (10)

事物の撮像・映像を得るカメラと、前記撮像・映像等を表示できるモニタと、コマンド入力できる操作ボタンと、前記カメラとモニタおよび操作ボタンを入出力装置として前記画像に対する画像処理を行う画像処理手段とを備えた小型情報端末であって、
前記画像処理手段は、
前記カメラ等から得る事物の撮像・映像を前記モニタに処理対象画像として表示しておく表示処理手段と、
枠をもつ枠付き事物を前記カメラで撮影した枠付き画像を、前記処理対象画像上に重畳表示させる重畳表示処理手段と、
前記操作ボタンの操作で前記枠付き画像の枠を抽出する枠抽出処理手段と、
前記抽出手段が抽出した枠または枠内の画像を利用して前記処理対象画像を加工する加工処理手段と、
を備えたことを特徴とする小型情報端末。
A camera for obtaining an image / video of a thing, a monitor capable of displaying the image / video, an operation button for inputting a command, and an image processing means for performing image processing on the image using the camera, the monitor and the operation button as an input / output device A small information terminal equipped with
The image processing means includes
Display processing means for displaying imaging / video of things obtained from the camera or the like as a processing target image on the monitor;
A superimposed display processing unit that superimposes and displays a framed image obtained by photographing a framed thing with a frame on the processing target image;
Frame extraction processing means for extracting a frame of the framed image by operation of the operation button;
Processing means for processing the processing target image using the frame extracted by the extraction means or an image in the frame;
A compact information terminal characterized by comprising:
事物の撮像・映像を得るカメラと、前記撮像・映像等を表示できるモニタと、コマンド入力できる操作ボタンと、前記カメラとモニタおよび操作ボタンを入出力装置として前記画像に対するトリミングやスタンプ追加などの画像処理を行う画像処理手段とを備えた小型情報端末であって、
前記画像処理手段は、
前記カメラ等から得る事物の撮像・映像を前記モニタに処理対象画像として表示しておく表示処理手段と、
前記トリミングやスタンプ追加の領域を示す枠をもつ枠付き事物を前記カメラで撮影した枠付き画像を、前記処理対象画像上に重畳表示させる重畳表示処理手段と、
前記カメラによる前記枠付き事物の撮影位置、姿勢の変更に応じて、前記処理対象画像に対する前記枠付き画像の位置、大きさ、傾きを変化させて前記モニタに重畳表示させる調整処理手段と、
前記調整処理手段による調整後、前記操作ボタンの操作で前記枠付き画像の枠を抽出する枠抽出処理手段と、
前記抽出手段が抽出した枠内の前記処理対象画像をトリミング、または枠内のスタンプ画像を処理対象画像に追加する加工処理手段と、
を備えたことを特徴とする小型情報端末。
A camera that obtains images / videos of things, a monitor that can display the images / videos, an operation button that can input commands, and an image such as trimming or adding a stamp to the image using the camera, monitor, and operation buttons as input / output devices A small information terminal comprising image processing means for processing,
The image processing means includes
Display processing means for displaying imaging / video of things obtained from the camera or the like as a processing target image on the monitor;
Superimposing display processing means for superimposing and displaying a framed image obtained by photographing the framed thing having a frame indicating the trimming or stamp addition area on the processing target image;
Adjustment processing means for changing the position, size, and inclination of the framed image with respect to the processing target image according to a change in the shooting position and posture of the framed thing by the camera,
After the adjustment by the adjustment processing unit, a frame extraction processing unit that extracts a frame of the framed image by operating the operation button;
Processing means for trimming the processing target image in the frame extracted by the extraction means, or adding a stamp image in the frame to the processing target image;
A compact information terminal characterized by comprising:
事物の撮像・映像を得るカメラと、前記撮像・映像等を表示できるモニタと、コマンド入力できる操作ボタンと、前記カメラとモニタおよび操作ボタンを入出力装置として前記画像に対する画像処理を行う画像処理手段とを備えた小型情報端末の画像処理方法であって、
前記画像処理手段は、
前記カメラ等から得る事物の撮像・映像を前記モニタに処理対象画像として表示しておく表示処理ステップと、
枠をもつ枠付き事物を前記カメラで撮影した枠付き画像を、前記処理対象画像上に重畳表示させる重畳表示処理ステップと、
前記操作ボタンの操作で前記枠付き画像の枠を抽出する枠抽出処理ステップと、
前記抽出ステップが抽出した枠または枠内の画像を利用して前記処理対象画像を加工する加工処理ステップと、
を有することを特徴とする小型情報端末の画像処理方法。
A camera for obtaining an image / video of a thing, a monitor capable of displaying the image / video, an operation button for inputting a command, and an image processing means for performing image processing on the image using the camera, the monitor and the operation button as an input / output device An image processing method for a compact information terminal comprising:
The image processing means includes
Display processing step of displaying an image / video of an object obtained from the camera or the like as a processing target image on the monitor;
A superimposed display processing step of superimposing and displaying a framed image obtained by photographing a framed thing with a frame on the processing target image;
A frame extraction processing step of extracting a frame of the framed image by operation of the operation button;
A processing step for processing the processing target image using the frame extracted in the extraction step or an image in the frame;
An image processing method for a small information terminal characterized by comprising:
事物の撮像・映像を得るカメラと、前記撮像・映像等を表示できるモニタと、コマンド入力できる操作ボタンと、前記カメラとモニタおよび操作ボタンを入出力装置として前記画像に対するトリミングやスタンプ追加などの画像処理を行う画像処理手段とを備えた小型情報端末の画像処理方法であって、
前記画像処理手段は、
前記カメラ等から得る事物の撮像・映像を前記モニタに処理対象画像として表示しておく表示処理ステップと、
前記トリミングやスタンプ追加の領域を示す枠をもつ枠付き事物を前記カメラで撮影した枠付き画像を、前記処理対象画像上に重畳表示させる重畳表示処理ステップと、
前記カメラによる前記枠付き事物の撮影位置、姿勢の変更に応じて、前記処理対象画像に対する前記枠付き画像の位置、大きさ、傾きを変化させて前記モニタに重畳表示させる調整処理ステップと、
前記調整処理ステップによる調整後、前記操作ボタンの操作で前記枠付き画像の枠を抽出する枠抽出処理ステップと、
前記抽出ステップが抽出した枠内の前記処理対象画像をトリミング、または枠内のスタンプ画像を処理対象画像に追加する加工処理ステップと、
を有することを特徴とする小型情報端末の画像処理方法。
A camera that obtains images / videos of things, a monitor that can display the images / videos, an operation button that can input commands, and an image such as trimming or adding a stamp to the image using the camera, monitor, and operation buttons as input / output devices An image processing method of a small information terminal comprising image processing means for performing processing,
The image processing means includes
Display processing step of displaying an image / video of an object obtained from the camera or the like as a processing target image on the monitor;
A superimposed display processing step of superimposing and displaying on the processing target image a framed image obtained by photographing the framed thing having a frame indicating the trimming or stamp addition region;
An adjustment process step of changing the position, size, and inclination of the framed image with respect to the processing target image in accordance with a change in the shooting position and orientation of the framed thing by the camera,
After the adjustment by the adjustment processing step, a frame extraction processing step of extracting a frame of the framed image by operating the operation button;
A processing step of trimming the processing target image in the frame extracted by the extraction step or adding a stamp image in the frame to the processing target image;
An image processing method for a small information terminal characterized by comprising:
前記枠抽出ステップは、
・特定の色で構成された枠の撮像・映像を利用し、前記特定の色を持つ画素からなる領域を枠として抽出するステップ、
・内側と外側で色が異なる二重の枠の撮像・映像を利用し、撮像・映像の前記内側の枠と外側の枠の境界領域を枠として抽出するステップ、
・各頂点に抽出可能なビジュアルマーカーを配置した枠の撮像・映像を利用し、撮像・映像からビジュアルマーカーを抽出し、前記ビジュアルマーカーを頂点として枠を抽出するステップ、
の少なくとも1つのステップを有することを特徴とする請求項3または4に記載の小型情報端末の画像処理方法。
The frame extraction step includes:
A step of extracting a region composed of pixels having the specific color as a frame by using an image / video of the frame configured with the specific color;
A step of extracting a boundary area between the inner frame and the outer frame of the imaging / video as a frame by using imaging / video of a double frame having different colors on the inner side and the outer side;
A step of extracting a visual marker from the imaged / video using the image / video of a frame in which an extractable visual marker is arranged at each vertex, and extracting the frame using the visual marker as a vertex;
5. The image processing method for a small information terminal according to claim 3, comprising at least one of the following steps.
前記加工処理ステップは、
・前記枠に囲まれた撮像・映像の領域から特定の色を持つ画素からなる領域を抽出し、前記枠に囲まれた処理対象画像の領域に対して加工するステップ、
・前記枠に囲まれた処理対象画像の領域を特定の色で塗りつぶすステップ、
・内部の領域に識別情報が埋め込まれた図形を持つ枠の撮像・映像を利用し、前記枠に囲まれた撮像・映像の領域から識別情報を抽出し、前記識別情報によって付加情報を識別し、前記付加情報を前記処理対象画像に付加するステップ、
の少なくとも1つのステップを有することを特徴とする請求項3または4に記載の小型情報端末の画像処理方法。
The processing step includes
Extracting a region composed of pixels having a specific color from the imaging / video region surrounded by the frame and processing the region of the processing target image surrounded by the frame;
A step of painting a region of the processing target image surrounded by the frame with a specific color;
-Using the image / video of a frame having a figure with identification information embedded in the internal area, extracting the identification information from the area of the image / video surrounded by the frame, and identifying the additional information by the identification information Adding the additional information to the processing target image;
5. The image processing method for a small information terminal according to claim 3, comprising at least one of the following steps.
前記識別情報の抽出ステップは、
・前記枠に囲まれた撮像・映像の領域から文字を読み取り、識別情報を取得するステップ、
・内部の領域に2次元コードが埋め込まれた図形を持つ枠の撮像・映像を利用し、前記2次元コードを抽出し、識別情報を読み取るステップ、
・内部の領域に電子透かしが埋め込まれた図形を持つ枠の撮像・映像を利用し、前記電子透かしを抽出し、識別情報を読み取るステップ、
の少なくとも1つのステップを有することを特徴とする請求項6に記載の小型情報端末の画像処理方法。
The step of extracting the identification information includes
A step of reading characters from an imaging / video region surrounded by the frame to obtain identification information;
Using an image / video of a frame having a figure with a two-dimensional code embedded in an internal region, extracting the two-dimensional code and reading identification information;
Using an image / video of a frame having a figure in which a digital watermark is embedded in an internal area, extracting the digital watermark, and reading identification information;
The image processing method for a small information terminal according to claim 6, comprising at least one of the following steps.
前記識別情報による付加情報の識別ステップは、
・識別情報に枠に関する情報等が含まれ、該情報を付加情報とするステップ、
・識別情報によって特定される外部ネットワーク上の情報を付加情報とするステップ、
の少なくとも1つのステップを有することを特徴とする請求項6に記載の小型情報端末の画像処理方法。
The step of identifying additional information by the identification information includes:
A step in which information about the frame is included in the identification information and the information is used as additional information;
A step of using information on the external network specified by the identification information as additional information;
The image processing method for a small information terminal according to claim 6, comprising at least one of the following steps.
前記処理対象画像への枠画像の重畳表示ステップは、
・処理対象画像への前記枠のみの重畳表示に切り替えるステップ、
・処理対象画像への前記抽出された枠内画像のみの重畳表示に切り替えるステップ、
・前記枠が囲む処理対象画像のみの表示に切り替えるステップ、
の少なくとも1つのステップを有することを特徴とする請求項3または4に記載の小型情報端末の画像処理方法。
The frame image superimposed display step on the processing target image includes:
A step of switching to a superimposed display of only the frame on the processing target image;
A step of switching to a superimposed display of only the extracted in-frame image on the processing target image;
A step of switching to display only the processing target image surrounded by the frame;
5. The image processing method for a small information terminal according to claim 3, comprising at least one of the following steps.
請求項3〜9のいずれか1項に記載の画像処理方法における処理手順をコンピュータで実行可能に構成したことを特徴とする画像処理方法のプログラム。
A program for an image processing method, wherein the processing procedure in the image processing method according to any one of claims 3 to 9 is configured to be executable by a computer.
JP2004248398A 2004-08-27 2004-08-27 Small information terminal, image processing method for small information terminal, and program for the method Expired - Fee Related JP4185479B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004248398A JP4185479B2 (en) 2004-08-27 2004-08-27 Small information terminal, image processing method for small information terminal, and program for the method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004248398A JP4185479B2 (en) 2004-08-27 2004-08-27 Small information terminal, image processing method for small information terminal, and program for the method

Publications (2)

Publication Number Publication Date
JP2006067306A JP2006067306A (en) 2006-03-09
JP4185479B2 true JP4185479B2 (en) 2008-11-26

Family

ID=36113368

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004248398A Expired - Fee Related JP4185479B2 (en) 2004-08-27 2004-08-27 Small information terminal, image processing method for small information terminal, and program for the method

Country Status (1)

Country Link
JP (1) JP4185479B2 (en)

Also Published As

Publication number Publication date
JP2006067306A (en) 2006-03-09

Similar Documents

Publication Publication Date Title
US10789671B2 (en) Apparatus, system, and method of controlling display, and recording medium
JP5480777B2 (en) Object display device and object display method
JP4556813B2 (en) Image processing apparatus and program
JP4743892B2 (en) Terminal and program for displaying additional image superimposed on captured image
JPWO2008012905A1 (en) Authentication apparatus and authentication image display method
KR101450782B1 (en) Image processing device and program
JP2007074578A (en) Image processor, photography instrument, and program
CN106713696A (en) Image processing method and device
JP5751430B2 (en) Image processing terminal, image processing system, and control program for image processing terminal
JP4621089B2 (en) QR code creation program, computer-readable recording medium storing this program, QR code creation device, and QR code creation method
JP2022109253A (en) Imaging apparatus, operation program and operation method of imaging apparatus
US8891836B2 (en) Stripe pattern image analysis device, stripe pattern image analysis method, and program thereof
JP2009187387A (en) Image processing unit, image data communication system, and image processing program
US20230342990A1 (en) Image processing apparatus, imaging apparatus, image processing method, and image processing program
JPH08123658A (en) Method and device for registering icon pattern or icon, and method and device for displaying icon
JP2006277445A (en) Information acquisition method and information acquisition program
JP5853466B2 (en) Image processing system and image processing program
JP4185479B2 (en) Small information terminal, image processing method for small information terminal, and program for the method
JP2005316958A (en) Red eye detection device, method, and program
CN111540060B (en) Display calibration method and device of augmented reality equipment and electronic equipment
JP2017208655A (en) Information processing system, information processing method and program
CN111831846A (en) Information processing apparatus, recording medium, and information processing method
JP2005227929A (en) Processing method for photography image of object, image display system, program and recording medium
US11495010B2 (en) Image processing apparatus, imaging apparatus, image processing method, and image processing program
JP4328282B2 (en) Numerical input method and apparatus, and numerical input program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060720

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080825

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080902

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080905

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110912

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120912

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130912

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees