JP4286702B2 - Image printing system, apparatus and image printing method - Google Patents

Image printing system, apparatus and image printing method Download PDF

Info

Publication number
JP4286702B2
JP4286702B2 JP2004103403A JP2004103403A JP4286702B2 JP 4286702 B2 JP4286702 B2 JP 4286702B2 JP 2004103403 A JP2004103403 A JP 2004103403A JP 2004103403 A JP2004103403 A JP 2004103403A JP 4286702 B2 JP4286702 B2 JP 4286702B2
Authority
JP
Japan
Prior art keywords
image
area
captured image
imaging
face area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004103403A
Other languages
Japanese (ja)
Other versions
JP2005294951A (en
Inventor
秀二 伊藤
雅文 木下
正信 金子
淳晴 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2004103403A priority Critical patent/JP4286702B2/en
Publication of JP2005294951A publication Critical patent/JP2005294951A/en
Application granted granted Critical
Publication of JP4286702B2 publication Critical patent/JP4286702B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)
  • Cameras Adapted For Combination With Other Photographic Or Optical Apparatuses (AREA)

Description

本発明は、画像印刷システム、装置および画像印刷方法に関する。
The present invention relates to an image printing system, an apparatus, and an image printing method .

従来の証明写真撮影装置やプリントクラブ(登録商標)に代表される自動写真撮影装置等のデジタル画像印刷システムは、被写体となる人物がカメラ等の撮像手段により被写体を撮像し、その撮像写真をシール等の媒体に印刷するものである(例えば、特許文献1参照)。
特開平11−266419号公報
2. Description of the Related Art Conventional digital image printing systems such as ID photo photographic devices and automatic photo photographic devices typified by Print Club (registered trademark), a person who is a photographic subject picks up a subject with an imaging means such as a camera, and seals the photograph taken. Or the like (see, for example, Patent Document 1).
JP-A-11-266419

しかしながら、上記従来のデジタル画像印刷システムにあっては、カメラレンズで撮像される範囲が固定されているカメラの広角に合わせて撮像範囲が決定されるため、被写体となる人物が前後に移動して、撮像アングル等を調整しながら撮像しなければならず、利用者に手間を取らせてしまうという事情があった。   However, in the above-described conventional digital image printing system, since the imaging range is determined in accordance with the wide angle of the camera in which the imaging range with the camera lens is fixed, the subject person moves back and forth. However, there is a situation in which the user has to take an image while adjusting the imaging angle and the like, which makes the user troublesome.

本発明は、上記従来の事情に鑑みてなされたものであって、利用者に手間を取らせずに撮像可能な画像印刷システム、装置および画像印刷方法を提供することを目的とする。
The present invention has been made in view of the above-described conventional circumstances, and an object thereof is to provide an image printing system, an apparatus, and an image printing method capable of capturing an image without taking time and effort from a user.

本発明は、被写体撮像し撮像画像を取得する撮像手段と、記撮像画像に含まれる顔領域を検出する顔領域検出手段と、前記検出された顔領域に基づいて、前記撮像画像に含まれる人物の存在範囲を検出する存在範囲検出手段と、前記検出された存在範囲に応じて前記撮像手段の画角およびズームの少なくとも一方を調整する調整制御手段と、を備えるものであって、前記顔領域検出手段は、前記撮像画像に含まれる人物の顔の候補領域を抽出する候補領域検出手段と、前記候補領域に含まれる特徴に基づいて前記顔領域を確定する確定手段とを有し、前記確定手段は、前記候補領域のうち、目の領域が検出された領域を前記顔領域として確定し、前記調整制御手段は、前記顔領域が複数ある場合には、左右方向において最も外側にある顔領域にそれぞれ含まれる目領域の中点同士の中心が前記撮像画像の中心となるように前記撮像手段の画角を調整する信号を前記撮像手段に送るものである。
The present invention includes an imaging means for acquiring a captured image by imaging a subject, a face region detection unit for detecting a face area included in prior Symbol captured image, based on the detected face area, included in the captured image the existence range detection means for detecting the existence range of a person, there is provided a adjustment control means for adjusting at least one of the angle and zoom of the image pickup means in accordance with the detected existence range, the The face area detection means includes candidate area detection means for extracting a candidate area of a human face included in the captured image, and a determination means for determining the face area based on features included in the candidate area, The determination means determines an area in which an eye area is detected among the candidate areas as the face area, and the adjustment control means is outermost in the left-right direction when there are a plurality of face areas. face Is intended to send a signal that the center of the midpoints of the eye region respectively included in the frequency adjusting the angle of view of the imaging means such that the center of the captured image on the imaging means.

この構成により、人物の存在範囲に応じて撮像手段を調整するので、利用者に手間を取らせずに撮像することができる。また、撮像画像に含まれる人物の顔の候補領域を抽出し、候補領域のうちの目の領域が検出された領域によって顔領域を確定することができ、その確定した領域に基づいて人物の存在範囲を求めることができる。また、複数の人物が被写体となった場合、適切に被写体となる人物を撮像できるように画角を調整することができる。
With this configuration, the imaging means is adjusted according to the person's presence range, so that it is possible to take an image without requiring the user to take time. In addition, a candidate area for a human face included in the captured image can be extracted, and the face area can be determined based on the area of the candidate area where the eye area is detected, and the presence of the person can be determined based on the determined area. A range can be determined. In addition, when a plurality of persons are subjects, the angle of view can be adjusted so that the person who is the subject can be captured appropriately.

前記調整制御手段は、前記存在範囲の幅と前記撮像画像の幅との比に基づいて前記撮像手段のズームを調整する。
The adjustment control unit adjusts the zoom of the imaging unit based on a ratio between the width of the existence range and the width of the captured image.

この構成により、被写体となる人物を適切な大きさに撮像することができる。   With this configuration, it is possible to capture a person who is a subject in an appropriate size.

本発明によれば、利用者に手間を取らせずに撮像可能な画像印刷システム、装置および画像印刷方法を提供することができる。
According to the present invention, it is possible to provide an image printing system, an apparatus, and an image printing method capable of capturing an image without requiring a user to take time.

(第1の実施形態)
図1は、本発明の第1の実施形態を説明するためのデジタル画像印刷システムを示すの外観図である。図1に示すように、第1の実施形態のデジタル画像印刷システムは、表示入力部1と、撮像部2と、照明部3と、データ通信部4と、料金投入部5と、受領証取出部6と、印刷物取出部7とを備える。
(First embodiment)
FIG. 1 is an external view of a digital image printing system for explaining a first embodiment of the present invention. As shown in FIG. 1, the digital image printing system according to the first embodiment includes a display input unit 1, an imaging unit 2, an illumination unit 3, a data communication unit 4, a charge input unit 5, and a receipt taking-out unit. 6 and a printed matter take-out unit 7.

表示入力部1は、例えばタッチパネル等を有して構成され、操作のガイダンスの表示や使用者による操作入力を行う。なお、表示部と入力部とを別に設けても良い。撮像部2は、例えばデジタルカメラ等であり、被写体となる人物等を撮像する。本実施形態では、カラーデジタルカメラが用いられた場合を例にとって説明する。照明部3は、撮像時に発光するフラッシュ等や、補助照明等を有して構成される。   The display input unit 1 is configured to include, for example, a touch panel, and performs operation guidance display and user operation input. Note that a display unit and an input unit may be provided separately. The imaging unit 2 is a digital camera or the like, for example, and images a person or the like that is a subject. In this embodiment, a case where a color digital camera is used will be described as an example. The illumination unit 3 includes a flash that emits light during imaging, auxiliary illumination, and the like.

データ通信部4は、記憶媒体等からの画像取り込むマルチメディアリーダや、写真等から画像取り込むスキャナ、携帯電話等と赤外線通信を介して画像データ取込みが可能な赤外線データ通信装置等のうちの少なくとも一つを有して構成される。料金投入部5は料金を投入・返却する。印刷物取出部6は、撮像部2で撮像した画像やデータ通信部4で取り込まれた画像を印刷媒体に印刷したものを取り出すための部分である。受領証取出部7は、料金受領を示す受領証を取り出すための部分である。   The data communication unit 4 is at least one of a multimedia reader that captures an image from a storage medium, a scanner that captures an image from a photo, an infrared data communication device that can capture image data via infrared communication with a mobile phone, and the like. It is configured with one. The charge input unit 5 inputs and returns charges. The printed matter takeout unit 6 is a portion for taking out an image captured by the image capturing unit 2 or an image captured by the data communication unit 4 and printed on a print medium. The receipt taking-out unit 7 is a part for taking out a receipt indicating receipt of a fee.

図2は、本実施形態のデジタル画像システムの概略構成を示すブロック図である。図2に示すように、本実施形態のデジタル画像システムの内部構成として、制御部10と、画像印刷部11と、受領証印刷部12とを備える。   FIG. 2 is a block diagram showing a schematic configuration of the digital image system of the present embodiment. As shown in FIG. 2, the digital image system according to this embodiment includes a control unit 10, an image printing unit 11, and a receipt printing unit 12 as an internal configuration.

制御部10は、デジタル画像システム全体の動作を制御するもので、所定のプログラムによって動作するプロセッサやメモリを主体に構成される。画像印刷部11は、撮像部2で撮像した画像やデータ通信部4で取り込まれた画像を印刷媒体に印刷し、印刷物は印刷物取出口6に出力される。受領書印刷部12は受領証を印刷し、印刷された受領証は受領証取出口7に出力される。   The control unit 10 controls the operation of the entire digital image system, and is mainly composed of a processor and a memory that operate according to a predetermined program. The image printing unit 11 prints the image captured by the imaging unit 2 or the image captured by the data communication unit 4 on a print medium, and the printed material is output to the printed material outlet 6. The receipt printing unit 12 prints the receipt, and the printed receipt is output to the receipt pickup 7.

また、必要に応じて、リモートコントローラ13が設置されてもよい。このリモートコントローラ13は、有線または無線で本体に接続され、撮像時にシャッターを切る等、利用者の手元操作を行うものである。無線通信の場合、たとえば、上に述べたデータ通信部4が有する赤外線通信装置を共用してもよい。このリモートコントローラ13により、撮像したいシャッターチャンスを逃さずに撮像することができる。特に、複数人数で撮像するために利用者が本体から離れる必要があり、本体に設けられている入力部等の操作手段に手が届きにくい場合に有効である。   Moreover, the remote controller 13 may be installed as needed. The remote controller 13 is connected to the main body by wire or wireless, and performs a user's hand operation such as releasing a shutter during imaging. In the case of wireless communication, for example, the infrared communication device included in the data communication unit 4 described above may be shared. The remote controller 13 can capture an image without missing a photo opportunity. In particular, it is effective when the user needs to move away from the main body in order to take an image with a plurality of people and it is difficult to reach the operation means such as the input unit provided in the main body.

さらに、本実施形態のデジタル画像印刷システムを不図示の管理センター等にネットワーク接続し、制御部10は、定期的に撮像部2の撮像画像を管理センターへ防犯画像として送信してもよい。デジタル画像印刷システムは撮像部を備えて自動撮像できる構成を有しているので、その元々備わっている撮像部を利用し、定期的に撮像することにより、防犯用に利用することができる。また、定期的に撮像するほか、センサー等を設けて、そのセンサーの感知信号によって撮像してもよい。   Further, the digital image printing system of the present embodiment may be connected to a management center (not shown) via a network, and the control unit 10 may periodically transmit the captured image of the imaging unit 2 to the management center as a security image. Since the digital image printing system has a configuration that includes an imaging unit and can automatically capture images, it can be used for crime prevention by regularly capturing images using the imaging unit that is originally provided. Further, in addition to periodic imaging, a sensor or the like may be provided, and imaging may be performed using a sensing signal of the sensor.

図3は、本実施形態のデジタル画像印刷システムに係る撮像部の調整を行う手順を示すフロー図であり、図4は、撮像部の調整における画像処理を示す概念図である。   FIG. 3 is a flowchart illustrating a procedure for adjusting the imaging unit according to the digital image printing system of the present embodiment, and FIG. 4 is a conceptual diagram illustrating image processing in the adjustment of the imaging unit.

まず、表示入力部1に表示されている初期画面から、利用者によって、画像登録方法の選択等が行なわれる。画像登録方法として、撮像部2によって撮像された画像を登録する指示が入力された場合、撮像部2から制御部10へカラーデジタル画像が入力される(ステップS301)。図4(a)は入力されたカラーデジタル画像の一例を示す。カラーデジタル画像401には、人物402および403が含まれている。   First, the user selects an image registration method from the initial screen displayed on the display input unit 1. As an image registration method, when an instruction to register an image captured by the imaging unit 2 is input, a color digital image is input from the imaging unit 2 to the control unit 10 (step S301). FIG. 4A shows an example of an input color digital image. The color digital image 401 includes persons 402 and 403.

なお、入力されたカラーデジタル画像は表示入力部1に表示される。また、画像登録方法の選択と共に背景に合成するための画像の選択処理を行ってもよく、その場合は、制御部2は撮像部2から入力されている画像に、選択された背景画像を重畳して表示する。   The input color digital image is displayed on the display input unit 1. In addition, the image selection method may be selected along with the selection of the image registration method. In this case, the control unit 2 superimposes the selected background image on the image input from the imaging unit 2. And display.

次に、制御部10は、入力されているカラーデジタル画像から人物の顔の候補領域を検出する(ステップS302)。本実施形態では、カラーデジタル画像に含まれる肌色領域の部分を候補領域とする。図4(b)に示すように、カラーデジタル画像401のうち、肌色領域である、領域411、412、421〜425を候補領域として抽出する。   Next, the controller 10 detects a human face candidate region from the input color digital image (step S302). In the present embodiment, a skin color area portion included in a color digital image is set as a candidate area. As shown in FIG. 4B, areas 411, 412, and 421 to 425, which are skin color areas, are extracted from the color digital image 401 as candidate areas.

なお、人物の着用している衣服や背景領域等により、肌色として検出される画素がノイズとして混ざってしまう場合がある。このノイズ対策として、肌色領域抽出に先立って、予め人物が撮像されていない画像を記憶しておき、その画像と入力された画像との差分をとって、変化のあった部分、すなわち、人物部分のみを抽出し、その部分のみについて、肌色領域の抽出を行ってもよい。また、肌色領域抽出を行った画像(2値画像)に対して、例えば膨張・収縮処理を行うことで、ノイズの除去を行われた領域を候補領域として検出してもよい。   Note that pixels detected as skin color may be mixed as noise depending on clothes worn by a person, a background region, and the like. As a countermeasure against this noise, an image in which a person is not captured is stored in advance prior to skin color area extraction, and a difference between the image and the input image is obtained to obtain a changed portion, that is, a person portion. May be extracted, and the skin color region may be extracted for only that portion. Further, for example, an area from which noise has been removed may be detected as a candidate area by performing an expansion / contraction process on the image (binary image) from which the skin color area has been extracted.

そして、制御部10は、検出された候補領域が人物の顔領域であるかどうかを確定する(ステップS303)。この確定動作は、まず、ステップS302で検出された候補領域の中心にして判定領域を設定して切り出す。図4(b)では、候補領域411に対する判定領域413を設定した場合を示す。制御部10は、その判定領域において、色要素である色相、彩度、輝度のうち、輝度信号成分を取り出して、濃淡画像処理によって顔領域判定を行う。そして、目の近傍に現れる水平エッジ成分が検出された部分を目候補とし、左右の目候補とその間にエッジ成分のない領域の組合せを検出した領域を、顔領域と確定する。   Then, the control unit 10 determines whether or not the detected candidate area is a human face area (step S303). In this determination operation, first, a determination region is set and cut out at the center of the candidate region detected in step S302. FIG. 4B shows a case where the determination area 413 for the candidate area 411 is set. In the determination area, the control unit 10 extracts a luminance signal component from hue, saturation, and luminance that are color elements, and performs face area determination by grayscale image processing. Then, the part where the horizontal edge component appearing in the vicinity of the eyes is detected is set as an eye candidate, and the area where the combination of the left and right eye candidates and the area having no edge component is detected is determined as the face area.

そして、他に顔領域確定処理が行われていない候補領域があれば(ステップS304のYES)、その候補領域についてステップS303の確定処理を行う。そして、他の確定処理が行われていない候補領域がなければ、すなわち、全ての候補領域について顔領域確定処理が行われれば(ステップS304のNO)、確定した顔領域に基づいて、人物範囲の検出を行う(ステップS305)。そして、検出された人物範囲に基づいて、撮像部2の画角およびズームの少なくとも一方に対する調整制御を行う(ステップS306)。   If there is another candidate area for which the face area determination process has not been performed (YES in step S304), the determination process in step S303 is performed for the candidate area. Then, if there is no other candidate area for which the confirmation process has not been performed, that is, if the face area confirmation process has been performed for all candidate areas (NO in step S304), the person range is determined based on the confirmed face area. Detection is performed (step S305). Based on the detected person range, adjustment control is performed on at least one of the angle of view and zoom of the imaging unit 2 (step S306).

ここで、人物範囲検出および撮像部の調整制御について説明する。ステップS304で確定された顔領域が1つのときには、その顔領域の位置がカメラ画角の中心に来るように振り角を求めると共に、画像の横サイズWと両目位置の間隔Ewとの比(W/Ew)が所定の値K1となるようにズーム量を求める。   Here, person range detection and imaging unit adjustment control will be described. If there is one face area determined in step S304, the swing angle is calculated so that the position of the face area is at the center of the camera angle of view, and the ratio (W The zoom amount is obtained so that / Ew becomes a predetermined value K1.

図4(b)に示すように、確定された顔領域が複数ある場合には、確定した顔領域のうち、左右両方向に、最も外側の顔領域の、目の間の位置431、432をそれぞれ求め、これらの位置431、432の中点位置433を求める。そして、カメラ振り角の中心を433に取ると共に、画像の横サイズWと最も外側の顔領域の目の間の位置431、432の間隔Bwの比(W/Bw)が所定の値K2となるようにズーム量を求める。そして、カメラ制御部に制御データを送信し、撮像部2のパンとズームを行う。   As shown in FIG. 4B, when there are a plurality of determined face areas, positions 431 and 432 between the eyes of the outermost face area in the left and right directions of the determined face areas, respectively. Then, the midpoint position 433 of these positions 431 and 432 is obtained. The center of the camera swing angle is set to 433, and the ratio (W / Bw) of the interval Bw between the positions 431 and 432 between the lateral size W of the image and the eyes of the outermost face region becomes a predetermined value K2. Determine the zoom amount. Then, control data is transmitted to the camera control unit, and panning and zooming of the imaging unit 2 are performed.

ここで、画像の横サイズWとしては、カメラの撮像する範囲でもよいし、撮像した画像を印刷するときの印刷範囲(印刷枠の幅)に応じた範囲でもよい。また、人物範囲の一例として、目の位置に基づいて検出する場合について説明したが、目の位置に限らず、顔領域の幅に基づいてもよい。   Here, the horizontal size W of the image may be a range captured by the camera, or may be a range corresponding to a print range (print frame width) when the captured image is printed. Moreover, although the case where it detected based on the position of an eye was demonstrated as an example of a person range, it may be based not only on the position of an eye but on the width | variety of a face area.

このように、カラー画像の持つ色成分と輝度情報から、画像処理により顔領域を検出することで、特別な構成を必要とせずカメラおよび制御用コンピュータで自動的に撮像部の画角とズームを調整することができ、安定して撮像することができる。   In this way, the face area is detected by image processing from the color components and luminance information of the color image, so that the angle of view and zoom of the imaging unit can be automatically adjusted by the camera and control computer without requiring a special configuration. The image can be adjusted and stable imaging can be performed.

また、従来、印刷すべき画像を利用者が決定するまでに、広角で撮像した画像を自動ズーム等で拡大して確認する方式があったが、本実施形態のデジタル画像印刷システムでは利用者が自動的に適切なカメラ制御を行った画像を確認しながら撮像すべきかを判断できるので、画像撮像に要する時間を短縮することができる。   Conventionally, there has been a method in which an image captured at a wide angle is enlarged and confirmed by an automatic zoom until the user determines an image to be printed. However, in the digital image printing system of this embodiment, the user Since it is possible to determine whether or not to capture an image while automatically confirming an image that has undergone appropriate camera control, it is possible to reduce the time required to capture the image.

このような本実施形態のデジタル画像印刷システムによれば、撮像した画像から人物だけを切り出すことが可能になり、切り出した画像から撮像対象人数を自動的に認識し、撮像範囲や画像を印刷する範囲に応じて撮像部を制御することにより、最適な画角やズームを自動的に調整することが可能となる。   According to such a digital image printing system of the present embodiment, it is possible to cut out only a person from a captured image, automatically recognize the number of imaging targets from the cut out image, and print the imaging range and image. By controlling the imaging unit in accordance with the range, it is possible to automatically adjust the optimum field angle and zoom.

(第2の実施形態)
図5は、本発明の第2の実施形態を説明するためのデジタル画像印刷システムの概略構成を示す図である。同図において、第1の実施形態で説明した図1および図2と重複する部分には同一の符号を付す。
(Second Embodiment)
FIG. 5 is a diagram showing a schematic configuration of a digital image printing system for explaining the second embodiment of the present invention. In the figure, the same reference numerals are given to the portions overlapping those in FIGS. 1 and 2 described in the first embodiment.

図5に示すように、本実施形態のデジタル画像印刷システムは、制御部20と、画像印刷部21とを備える。制御部20は、デジタル画像システム全体の動作を制御するもので、所定のプログラムによって動作するプロセッサやメモリを主体に構成される。画像印刷部21は制御部20に接続され、切手印刷部22と、はがき印刷部23、証紙印刷部24とを有する。特に、はがきおよび切手に関しては、複数の種類に対応できるように、切手印刷部22およびはがき印刷部23には、その印刷媒体の種類数に応じて複数の印刷ユニットが設けられてもよい。   As shown in FIG. 5, the digital image printing system of this embodiment includes a control unit 20 and an image printing unit 21. The control unit 20 controls the operation of the entire digital image system, and is configured mainly with a processor and a memory that operate according to a predetermined program. The image printing unit 21 is connected to the control unit 20 and includes a stamp printing unit 22, a postcard printing unit 23, and a certificate printing unit 24. In particular, with regard to postcards and stamps, the stamp printing unit 22 and the postcard printing unit 23 may be provided with a plurality of printing units according to the number of types of printing media so as to correspond to a plurality of types.

次に、本実施形態のデジタル画像印刷システムの動作について説明する。まず、表示入力部1に表示されている初期画面から、利用者によって、背景画像および画像登録方法の選択等が行なわれる。画像登録方法としては、撮像部2によって撮影を行い、その撮影された画像登録のほか、データ通信部4にて、記憶媒体等から取り込んだ画像、スキャナで取り込んだ画像、または携帯電話等と赤外線通信を介して取り込んだ画像等の登録が可能である。また、本実施形態のデジタル画像印刷システムを図示しない管理センタとネットワーク等の通信回線を介して接続し、利用者が予め管理センタへ送信した画像データを読み出して登録しても良い。その場合、利用者は管理センタへ送信した画像データに割り当てられる管理番号等をデジタル画像印刷システムへ入力することで登録することができる。   Next, the operation of the digital image printing system of this embodiment will be described. First, the user selects a background image and an image registration method from the initial screen displayed on the display input unit 1. As an image registration method, an image is captured by the imaging unit 2 and, in addition to the captured image registration, an image captured by a data communication unit 4 from a storage medium, an image captured by a scanner, or a mobile phone or the like It is possible to register an image taken in via communication. Further, the digital image printing system of the present embodiment may be connected to a management center (not shown) via a communication line such as a network, and image data transmitted by the user to the management center in advance may be read and registered. In this case, the user can register the management number assigned to the image data transmitted to the management center by inputting it into the digital image printing system.

また、印刷すべき画像を確定すると、制御部20は、印刷すべき印刷媒体の種類、および発行枚数の確定の指示を促す表示を表示入力部1に表示し、これらが確定されると、その料金を計算し、表示する。利用者は、表示された料金に基づいて、料金投入部5へ料金を投入することで、印刷物の購入が行われる。なお、料金投入のタイミングは、いつでもよく、予め料金が投入され、印刷媒体、発行枚数確定後に不足分がある場合には不足分を求め、また、超過分がある場合には釣銭を返却してもよい。   When the image to be printed is confirmed, the control unit 20 displays on the display input unit 1 a display for prompting the confirmation of the type of print medium to be printed and the number of prints. Calculate and display charges. The user purchases the printed material by charging the fee input unit 5 based on the displayed fee. The fee may be charged at any time. If a fee is charged in advance and there is a shortage after the print media and the number of prints are determined, the shortage is calculated. If there is an excess, change is returned. Also good.

また、制御部20は、指定された印刷媒体に応じて、確定した画像の画像処理を行って、指定された印刷媒体に対応した印刷ユニットに対して処理を行った画像データを出力する。   In addition, the control unit 20 performs image processing on the determined image according to the designated print medium, and outputs the processed image data to the print unit corresponding to the designated print medium.

印刷媒体として、切手が選択された場合には、制御部20は、印刷確定された画像に対して切手印刷用の画像処理を行い、切手印刷部22へ画像データを出力する。本実施形態の切手印刷部22は、複数種類・サイズのシート切手の印刷ユニットや、単独切手の印刷ユニットを備える。したがって、シート切手の印刷だけでなく、単独切手を印刷媒体とした画像印刷、販売を行うことが可能となる。   When a stamp is selected as the print medium, the control unit 20 performs image processing for stamp printing on the image whose printing has been confirmed, and outputs image data to the stamp printing unit 22. The stamp printing unit 22 of the present embodiment includes a plurality of types and sizes of sheet stamp printing units and a single stamp printing unit. Accordingly, not only printing of sheet stamps but also image printing and sales using single stamps as printing media can be performed.

また、印刷媒体として、はがきが選択された場合には、制御部20は、印刷確定された画像に対してはがき印刷用の画像処理を行い、はがき印刷部23へ画像データを出力する。はがき印刷部23は、私製はがきのほか、官製はがきや、絵入りはがき、くじ付きはがきなどの特殊はがきなどを印刷媒体として印刷することもできる。   When a postcard is selected as the print medium, the control unit 20 performs image processing for postcard printing on the image whose printing has been confirmed, and outputs image data to the postcard printing unit 23. The postcard printing unit 23 can print not only private postcards but also special postcards such as government-made postcards, postcards with pictures, postcards with lotteries, and the like as print media.

さらに、印刷媒体として、証紙が選択された場合には、制御部20は、印刷確定された画像に対して証紙印刷用の画像処理を行い、証紙印刷部24へ画像データを出力する。ここで、本実施形態のデジタル画像印刷システムは、不図示の計量部を有し、または、計量装置に接続され、計量部または計量装置によって測定された郵便物の重量に応じた料金の証紙を印刷する。   Further, when a certificate is selected as the print medium, the control unit 20 performs image processing for certificate printing on the image that has been confirmed to be printed, and outputs image data to the certificate printing unit 24. Here, the digital image printing system of the present embodiment has a weighing unit (not shown), or is connected to a weighing device, and provides a stamp of a fee according to the weight of the mail measured by the weighing unit or the weighing device. Print.

図6は、本実施形態のデジタル画像印刷システムによって印刷された証紙の例を示す図である。証紙600には、従来の証紙と同様に可変情報の発行日付601、料額602が形成されている。そして、本実施形態に係る証紙600には、制御部20によって画像処理され、証紙印刷部24によって印刷された画像610が形成されている。   FIG. 6 is a diagram illustrating an example of a certificate printed by the digital image printing system of the present embodiment. In the certificate 600, an issuance date 601 and a fee 602 of variable information are formed as in the conventional certificate. The certificate 600 according to the present embodiment is formed with an image 610 that has been subjected to image processing by the control unit 20 and printed by the certificate printing unit 24.

さらに、図6に示すように、必要に応じて速達、引受時刻証明、配達証明、配達記録郵便などや、こわれもの、保冷などの郵便特殊取扱表示603の表示も印刷し、さらに、郵便取扱として「書留」が指定された場合には、制御部10が、書留郵便物の追跡用の付加情報である書留番号604を同時に印刷する印刷制御を行ってもよい。この場合、例えば、本実施形態のデジタル画像印刷システムを通信回線を介して郵便局の事務処理装置等に接続することで、郵便局側で書留番号を管理することができる。図6では、書留番号の2次元コード表示604が印刷された例を示している。このように、書留番号等を証紙の紙面上の表示場所にこだわらず同時印刷することにより、郵便局における作業の軽減につながる。   In addition, as shown in FIG. 6, special delivery indications 603 such as express delivery, underwriting time certification, delivery certification, delivery record mail, etc., broken items, cold storage etc. are printed as necessary. When “registered mail” is designated, the control unit 10 may perform printing control for simultaneously printing a registered mail number 604 that is additional information for tracking registered mail. In this case, for example, the registered number can be managed on the post office side by connecting the digital image printing system of the present embodiment to a post-office processing device or the like via a communication line. FIG. 6 shows an example in which a registered number two-dimensional code display 604 is printed. In this way, the registered number and the like are printed at the same time regardless of the display location of the certificate paper, thereby reducing the work at the post office.

ところで、サイズの大きな印刷媒体のサービス提供をする場合や、高速印刷処理速度を要求される場合、また、切手や官製はがきに印刷する画像が著作権や肖像権侵害等の公序良俗に反しないかどうかを人が確認して利用者に引き渡す必要がある場合には、画像印刷部21をLAN(Local Area Network)等の通信回線を介して制御部20に接続することにより、本体と離れた場所に設置してもよい。   By the way, when providing services for large print media, when high-speed printing processing speed is required, and whether images printed on stamps and government-made postcards violate public order and morals such as copyright and portrait rights infringement If it is necessary for a person to confirm and hand it over to the user, the image printing unit 21 is connected to the control unit 20 via a communication line such as a LAN (Local Area Network), so that it can be separated from the main body. May be installed.

画像撮像システム本体から直接印刷物を出力せずに引渡しを別の場所で行う場合には、受領証印刷部12は、引換券を印刷および出力する。図7は、引換券受領証書の一例を示す図である。図7に示すように、引換券と領収証書とを共用する形式を示している。   When delivery is performed at a different place without directly outputting the printed matter from the main body of the image pickup system, the receipt printing unit 12 prints and outputs the voucher. FIG. 7 is a diagram showing an example of a voucher receipt. As shown in FIG. 7, the form which shares a voucher and a receipt is shown.

図7に示された引換券受領証書は、受領書と引換券との間にハーフカットし、切り離しやすくしても良い。そして、利用者に対して、印刷媒体を引換券と交換することで引渡しを行うことができる。また、引き換え時の交換間違えを防ぐために、引換券受領証書700に印刷媒体に印刷した画像701を印刷してもよい。   The voucher receipt certificate shown in FIG. 7 may be half-cut between the receipt and the voucher to facilitate separation. And it can deliver to a user by exchanging a printing medium for a voucher. Further, in order to prevent a mistake in exchange at the time of redemption, an image 701 printed on a print medium may be printed on the voucher receipt certificate 700.

このような本実施形態のデジタル画像印刷システムによれば、切手シートやはがき、証紙等にその場で撮像した画像や取り込んだ画像を印刷することが可能となり、デジタル画像印刷システムで提供できるサービスに広がりを持たせることができ、さらに、このデジタル画像印刷システムの利用者に対して郵便への関心を促すことができる。   According to the digital image printing system of the present embodiment, it is possible to print an image captured on the spot or a captured image on a stamp sheet, a postcard, a certificate paper, etc., and the service can be provided by the digital image printing system. In addition, the user of this digital image printing system can be encouraged to be interested in mail.

さらに、印刷媒体引渡しを遠隔して行う場合においても、引換券を印刷して出力することにより、確実に印刷物の引渡しを行うことができる。   Furthermore, even when the printing medium is delivered remotely, the printed matter can be reliably delivered by printing and outputting the voucher.

なお、本実施形態では、画像印刷部20は、はがき印刷部21、切手印刷部22、証紙印刷部23を有する場合を説明したが、これら全ての印刷部を有する必要はなく、これらのうちの一つ、または二つ以上の組合せを含んでもよい。   In the present embodiment, the case where the image printing unit 20 includes the postcard printing unit 21, the stamp printing unit 22, and the certificate printing unit 23 is described. However, it is not necessary to include all of these printing units. One or a combination of two or more may be included.

(第3の実施形態)
図8は、本発明の第3の実施形態を説明するためのデジタル画像印刷システムの概略構成を示す図である。同図において、第1または第2の実施形態で説明した図1、図2、図5と重複する部分には同一の符号を付す。
(Third embodiment)
FIG. 8 is a diagram showing a schematic configuration of a digital image printing system for explaining a third embodiment of the present invention. In the figure, the same reference numerals are given to the portions overlapping those in FIGS. 1, 2, and 5 described in the first or second embodiment.

図8に示すように、本実施形態のデジタル画像印刷システムは、制御部30と、通信部31と、音声入出力部32とを有し、画像加工端末装置34とネットワーク等の通信回線33を介して通信可能に接続されている。   As shown in FIG. 8, the digital image printing system of the present embodiment includes a control unit 30, a communication unit 31, and a voice input / output unit 32, and includes an image processing terminal device 34 and a communication line 33 such as a network. Via a communicable connection.

制御部30は、デジタル画像システム全体の動作を制御するもので、所定のプログラムによって動作するプロセッサやメモリを主体に構成される。通信部31は、制御部30に接続され、また、ネットワーク等の通信回線33を介して画像加工端末34に接続されている。音声入出力部32は、制御部30に接続され、通信部31を介して画像加工端末34と音声通信を行った場合にその音声の入出力を行うことができる。   The control unit 30 controls the operation of the entire digital image system, and is mainly composed of a processor and a memory that operate according to a predetermined program. The communication unit 31 is connected to the control unit 30 and is also connected to the image processing terminal 34 via a communication line 33 such as a network. The voice input / output unit 32 is connected to the control unit 30 and can perform voice input / output when voice communication is performed with the image processing terminal 34 via the communication unit 31.

画像加工端末34には、画像加工を行うためのスタッフが配置されており、通信回線31を介して、アバター変身サービスや画像上の整形サービス等の、リアルタイムかつ対話型の画像加工サービスを提供することができる。   The image processing terminal 34 has staff for image processing, and provides real-time and interactive image processing services such as an avatar transformation service and an image shaping service via the communication line 31. be able to.

次に、本実施形態のデジタル画像印刷システムの動作について説明する。表示入力部1の入力により、画像加工サービスが指定された場合は、まず、利用者は撮像部2によって撮像した画像やデータ入力部4等で取り込んだ画像等から、画像加工対象となる画像を決定する。そして、加工対象となる画像が決定すると、制御部30は、その決定された画像を通信回線33を介して画像加工端末34へ送信する。また、そして、表示入力部1や音声入出力部32を用いて画像加工端末34と情報や音声の通信を行うことで、利用者は、髪型の変更や目や鼻の形の変更等の指示することができる。   Next, the operation of the digital image printing system of this embodiment will be described. When the image processing service is designated by the input of the display input unit 1, first, the user selects an image to be processed from the image captured by the image capturing unit 2, the image captured by the data input unit 4, or the like. decide. When the image to be processed is determined, the control unit 30 transmits the determined image to the image processing terminal 34 via the communication line 33. In addition, by performing information and voice communication with the image processing terminal 34 using the display input unit 1 and the voice input / output unit 32, the user can change the hairstyle or change the shape of the eyes or nose. can do.

画像加工端末34の操作者は、利用者からの指示に基づいて、画像の加工を行う。そして、画像加工端末34は、加工した画像を通信回線33を介してデジタル画像印刷システムに送信する。そして、利用者が加工画像を印刷する画像として確定すると、料金精算、印刷処理を行う。   The operator of the image processing terminal 34 processes the image based on an instruction from the user. Then, the image processing terminal 34 transmits the processed image to the digital image printing system via the communication line 33. When the user confirms the processed image as an image to be printed, fee settlement and print processing are performed.

このような本実施形態のデジタル画像印刷システムによれば、また、ネットワーク等の通信回線で画像加工端末34を接続しているので、画像加工端末34側に画像加工の専門スタッフを待機させることができ、リアルタイムで高品質な画像加工サービスを提供することができる。   According to the digital image printing system of the present embodiment as described above, since the image processing terminal 34 is connected via a communication line such as a network, it is possible to have an image processing specialist on the image processing terminal 34 side. It is possible to provide a high-quality image processing service in real time.

本発明は、利用者に手間を取らせずに撮像可能な効果を有し、デジタル画像印刷システム等に有用である。   INDUSTRIAL APPLICABILITY The present invention has an effect capable of capturing an image without requiring a user time and is useful for a digital image printing system or the like.

本発明の第1の実施形態を説明するためのデジタル画像印刷システムを示すの外観図1 is an external view of a digital image printing system for explaining a first embodiment of the present invention. 第1の実施形態のデジタル画像システムの概略構成を示すブロック図1 is a block diagram showing a schematic configuration of a digital image system according to a first embodiment. 第1の実施形態のデジタル画像印刷システムに係る撮像部の調整を行う手順を示すフロー図FIG. 3 is a flowchart showing a procedure for adjusting the imaging unit according to the digital image printing system of the first embodiment. 撮像部の調整における画像処理を示す概念図Conceptual diagram showing image processing in adjustment of imaging unit 本発明の第2の実施形態を説明するためのデジタル画像印刷システムの概略構成を示す図The figure which shows schematic structure of the digital image printing system for demonstrating the 2nd Embodiment of this invention. 第2の実施形態のデジタル画像印刷システムによって印刷された証紙の例を示す図The figure which shows the example of the certificate printed by the digital image printing system of 2nd Embodiment 引換券受領証書の一例を示す図Figure showing an example of a voucher receipt 本発明の第3の実施形態を説明するためのデジタル画像印刷システムの概略構成を示す図The figure which shows schematic structure of the digital image printing system for demonstrating the 3rd Embodiment of this invention.

符号の説明Explanation of symbols

1 表示入力部
2 撮像部
3 照明部
4 データ通信部
5 料金投入部
6 印刷物取出部
7 受領証取出部
10、20、30 制御部
11、21 画像印刷部
12 受領証印刷部
13 リモートコントローラ
21 はがき印刷部
22 切手印刷部
23 証紙印刷部
31 通信部
32 音声入出力部
DESCRIPTION OF SYMBOLS 1 Display input part 2 Image pick-up part 3 Illumination part 4 Data communication part 5 Charge input part 6 Print taking-out part 7 Receipt taking-out part 10, 20, 30 Control part 11, 21 Image printing part 12 Receipt printing part 13 Remote controller 21 Postcard printing part 22 stamp printing section 23 certificate printing section 31 communication section 32 voice input / output section

Claims (6)

被写体撮像し撮像画像を取得する撮像手段と、
記撮像画像に含まれる顔領域を検出する顔領域検出手段と、
前記検出された顔領域に基づいて、前記撮像画像に含まれる人物の存在範囲を検出する存在範囲検出手段と、
前記検出された存在範囲に応じて前記撮像手段の画角およびズームの少なくとも一方を調整する調整制御手段と、を備える画像印刷システムであって、
前記顔領域検出手段は、
前記撮像画像に含まれる人物の顔の候補領域を抽出する候補領域検出手段と、
前記候補領域に含まれる特徴に基づいて前記顔領域を確定する確定手段とを有し、
前記確定手段は、前記候補領域のうち、目の領域が検出された領域を前記顔領域として確定し、
前記調整制御手段は、前記顔領域が複数ある場合には、左右方向において最も外側にある顔領域にそれぞれ含まれる目領域の中点同士の中心が前記撮像画像の中心となるように前記撮像手段の画角を調整する信号を前記撮像手段に送るものである画像印刷システム。
Imaging means for imaging a subject and obtaining a captured image ;
A face region detecting means for detecting a face area included in prior Symbol captured image,
Presence range detecting means for detecting a presence range of a person included in the captured image based on the detected face area;
An adjustment control unit that adjusts at least one of an angle of view and a zoom of the imaging unit according to the detected existence range, and an image printing system comprising:
The face area detecting means includes
Candidate area detection means for extracting candidate areas of human faces included in the captured image;
Determining means for determining the face area based on features included in the candidate area;
The determination means determines an area where an eye area is detected among the candidate areas as the face area,
In a case where there are a plurality of the face areas, the adjustment control means is configured so that the center of the middle points of the eye areas respectively included in the outermost face area in the left-right direction is the center of the captured image. An image printing system for sending a signal for adjusting the angle of view to the imaging means .
被写体を撮像し撮像画像を取得する撮像手段と、Imaging means for imaging a subject and obtaining a captured image;
前記撮像画像に含まれる顔領域を検出する顔領域検出手段と、Face area detecting means for detecting a face area included in the captured image;
前記検出された顔領域に基づいて、前記撮像画像に含まれる人物の存在範囲を検出する存在範囲検出手段と、Presence range detecting means for detecting a presence range of a person included in the captured image based on the detected face area;
前記検出された存在範囲に応じて前記撮像手段の画角およびズームの少なくとも一方を調整する調整制御手段と、を備える画像印刷装置であって、An adjustment control unit that adjusts at least one of an angle of view and a zoom of the imaging unit according to the detected presence range, and an image printing apparatus comprising:
前記顔領域検出手段は、The face area detecting means includes
前記撮像画像に含まれる人物の顔の候補領域を抽出する候補領域検出手段と、Candidate area detection means for extracting candidate areas of human faces included in the captured image;
前記候補領域に含まれる特徴に基づいて前記顔領域を確定する確定手段とを有し、Determining means for determining the face area based on features included in the candidate area;
前記確定手段は、前記候補領域のうち、目の領域が検出された領域を前記顔領域として確定し、The determination means determines an area where an eye area is detected among the candidate areas as the face area,
前記調整制御手段は、前記顔領域が複数ある場合には、左右方向において最も外側にある顔領域にそれぞれ含まれる目領域の中点同士の中心が前記撮像画像の中心となるように前記撮像手段の画角を調整する信号を前記撮像手段に送るものである画像印刷装置。In a case where there are a plurality of the face areas, the adjustment control means is configured so that the center of the middle points of the eye areas respectively included in the outermost face area in the left-right direction is the center of the captured image. An image printing apparatus for sending a signal for adjusting the angle of view to the imaging means.
被写体を撮像し撮像画像を取得する撮像手段と、前記撮像手段の画角およびズームの少なくとも一方を調整する調整制御手段とを備える画像印刷システムに用いる画像印刷方法であって、An image printing method used for an image printing system, comprising: an imaging unit that images a subject and acquires a captured image; and an adjustment control unit that adjusts at least one of an angle of view and a zoom of the imaging unit,
前記撮像手段から入力される撮像画像に含まれる人物の顔の候補領域を抽出するステップと、Extracting a candidate area of a human face included in a captured image input from the imaging means;
前記候補領域のうち、目の領域が検出された領域を前記顔領域として確定するステップと、Determining an area of the candidate area in which an eye area is detected as the face area;
前記確定された顔領域が複数ある場合には、左右方向において最も外側にある顔領域にそれぞれ含まれる目領域の中点同士の中心が前記撮像画像の中心となるように前記撮像手段の画角を調整する信号を前記調整制御手段より前記撮像手段に送るステップと、When there are a plurality of determined face areas, the angle of view of the imaging means is such that the center of the middle points of the eye areas respectively included in the outermost face area in the left-right direction is the center of the captured image. Sending a signal for adjusting the image from the adjustment control means to the imaging means;
を有する画像印刷方法。An image printing method comprising:
前記調整制御手段は、前記存在範囲の幅と前記撮像画像の幅との比に基づいて前記撮像手段のズームを調整する請求項1に記載の画像印刷システム。The image printing system according to claim 1, wherein the adjustment control unit adjusts a zoom of the imaging unit based on a ratio between a width of the existence range and a width of the captured image. 前記調整制御手段は、前記存在範囲の幅と前記撮像画像の幅との比に基づいて前記撮像手段のズームを調整する請求項2に記載の画像印刷装置。The image printing apparatus according to claim 2, wherein the adjustment control unit adjusts a zoom of the imaging unit based on a ratio between a width of the existence range and a width of the captured image. 前記確定された顔領域に基づいて、前記撮像画像に含まれる人物の存在範囲を検出するステップと、Detecting a presence range of a person included in the captured image based on the determined face area;
前記存在範囲の幅と前記撮像画像の幅との比に基づいて前記撮像手段のズームを調整するステップとを有する請求項3に記載の画像印刷方法。The image printing method according to claim 3, further comprising: adjusting a zoom of the imaging unit based on a ratio between the width of the existence range and the width of the captured image.
JP2004103403A 2004-03-31 2004-03-31 Image printing system, apparatus and image printing method Expired - Fee Related JP4286702B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004103403A JP4286702B2 (en) 2004-03-31 2004-03-31 Image printing system, apparatus and image printing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004103403A JP4286702B2 (en) 2004-03-31 2004-03-31 Image printing system, apparatus and image printing method

Publications (2)

Publication Number Publication Date
JP2005294951A JP2005294951A (en) 2005-10-20
JP4286702B2 true JP4286702B2 (en) 2009-07-01

Family

ID=35327443

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004103403A Expired - Fee Related JP4286702B2 (en) 2004-03-31 2004-03-31 Image printing system, apparatus and image printing method

Country Status (1)

Country Link
JP (1) JP4286702B2 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4935264B2 (en) * 2006-09-13 2012-05-23 辰巳電子工業株式会社 Automatic photo creation device and automatic photo creation method
JP4623193B2 (en) 2008-09-29 2011-02-02 カシオ計算機株式会社 Imaging apparatus, imaging method, and program
JP5219847B2 (en) 2009-01-09 2013-06-26 キヤノン株式会社 Image processing apparatus and image processing method
JP2011035634A (en) * 2009-07-31 2011-02-17 Casio Computer Co Ltd Image processor and method
JP6586082B2 (en) * 2013-05-20 2019-10-02 ダースト セブリング レボリューション, エルエルシー System and method for generating a visual representation of an object
JP6555769B1 (en) * 2019-02-22 2019-08-07 成司 猪俣 Composite video generator

Also Published As

Publication number Publication date
JP2005294951A (en) 2005-10-20

Similar Documents

Publication Publication Date Title
JP4333223B2 (en) Automatic photographing device
JP4378785B2 (en) Image input device with image processing function
CN102164214B (en) Captured image processing system, portable terminal apparatus and image output apparatus
US20090136221A1 (en) Photographic management system, photographic management method, and device and program used for them
JP4663700B2 (en) Imaging apparatus and imaging method
KR20060063265A (en) Method and apparatus for processing image
KR20110047398A (en) Image providing system and image providing mehtod of the same
JP5922067B2 (en) Image forming system
US20020145752A1 (en) Image processing system
JP2007158421A (en) Monitoring camera system and face image tracing recording method
JP5044958B2 (en) Imaging apparatus, photographing restriction method, and program
US8325380B2 (en) Printing method of printing an image based on the position of a face area detected on the image, a photo-printing system and digital camera adapted to the method
CN102111491A (en) Mobile equipment with picture-taking function and face recognition processing method thereof
JP4286702B2 (en) Image printing system, apparatus and image printing method
JP2006301199A (en) Photographing apparatus
JP2006311276A (en) Picture photographing device
JP2008090447A (en) Image album creation device and method, communication terminal, and image collection device
KR101058043B1 (en) Image printing method, photo printing system and digital camera applied thereto
US7533417B2 (en) Method for obtaining photo property release
JP2001148843A (en) Image pickup device and criminal prevention system using the image pickup device
JP6888543B2 (en) Automatic shooting system and automatic shooting method
JP2008306373A (en) Vehicle imaging device
JP2005071059A (en) System and method for registering photographing image
JP2005134801A (en) Photographic apparatus and picture printing system
JP6515539B2 (en) Image forming device

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060327

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060912

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20071114

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071121

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20071128

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071205

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071212

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090224

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090325

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120403

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees