JP2010098404A - Imaging device, mobile terminal provided with imaging device, portrait image processing method, portrait image processing program, and recording medium - Google Patents

Imaging device, mobile terminal provided with imaging device, portrait image processing method, portrait image processing program, and recording medium Download PDF

Info

Publication number
JP2010098404A
JP2010098404A JP2008265928A JP2008265928A JP2010098404A JP 2010098404 A JP2010098404 A JP 2010098404A JP 2008265928 A JP2008265928 A JP 2008265928A JP 2008265928 A JP2008265928 A JP 2008265928A JP 2010098404 A JP2010098404 A JP 2010098404A
Authority
JP
Japan
Prior art keywords
person
image
images
best shot
degree
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008265928A
Other languages
Japanese (ja)
Other versions
JP5527789B2 (en
Inventor
Sakiko Kakehi
佐紀子 掛樋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2008265928A priority Critical patent/JP5527789B2/en
Publication of JP2010098404A publication Critical patent/JP2010098404A/en
Application granted granted Critical
Publication of JP5527789B2 publication Critical patent/JP5527789B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide an imaging device which extracts best-shot images for each person from a plurality of images including one or more persons, and generates one composite image to output it. <P>SOLUTION: When imaging one or more persons as objects, a plural photographic image acquisition means 201a acquires photographic images corresponding to the number of images predetermined as the number of acquisition images or the number of images captured in a time predetermined as image acquisition time through shutter release operation, and a figure part image extraction means 203a extracts images for each of one or more persons from among the acquired photographic images as figure part images. A best-shot image determination means 203b extracts best-shot images for each person, which are the best-looking images for each person from the extracted figure part images, and a composite image generation means 203c combines the best-shot images with any of captured background images to generate and output one composite image. <P>COPYRIGHT: (C)2010,JPO&INPIT

Description

本発明は、撮影装置、撮影装置付き携帯端末、人物撮影画像処理方法、人物撮影画像処理プログラムおよびプログラム記録媒体に関する。   The present invention relates to a photographing apparatus, a portable terminal with a photographing apparatus, a person photographed image processing method, a person photographed image processing program, and a program recording medium.

近年、カメラ機能については、特許文献1の特開2007−41987号公報「画像処理装置および方法、並びにプログラム」に記載のように、人物撮影時の機能が多様化している。例えば、顔検出機能を搭載し、被写体の人物の顔毎に色補正を行ったり、被写体の人物が笑顔になったタイミングでシャッタを開かせて画像を取り込んだりするような機能も登場してきている。
特開2007−41987号公報(第7−9頁)
In recent years, with regard to camera functions, as described in Japanese Patent Application Laid-Open No. 2007-41987, “Image Processing Apparatus and Method, and Program”, Japanese Patent Application Laid-Open No. 2007-41987 has diversified functions when photographing people. For example, a function that has a face detection function, performs color correction for each face of the subject person, and opens the shutter and captures an image when the subject person smiles has appeared. .
JP 2007-41987 (page 7-9)

しかしながら、従来のようなカメラ機能においては、複数の人物撮影において、顔検出機能を使用することなどにより、被写体の人物毎に個別の露光や色補正を行うことなどの画像処理が工夫され、各人の顔をきれいに補正することは可能であるが、シャッタタイミングに関しては、全員にとってベストショットとなる最適なタイミングでシャッタを押すことは困難であり、限られた被写体にのみタイミングを合わせた撮影とならざるを得なかった。   However, in conventional camera functions, image processing such as performing individual exposure and color correction for each person in the subject is devised by using a face detection function in a plurality of person photographing, etc. Although it is possible to correct a person's face cleanly, with regard to shutter timing, it is difficult to press the shutter at the optimal timing that will be the best shot for everyone, and shooting with timing matched only to a limited subject I had to be.

本発明は、かかる事情に鑑みてなされたものであり、多人数の人物撮影において、被写体の全員にとって最適なタイミングでシャッタが切られた状態と等価なベストショットの撮影画像の取得を可能とする撮影装置、撮影装置付き携帯端末、人物撮影画像処理方法、人物撮影画像処理プログラムおよびプログラム記録媒体を提供することを、その目的としている。   The present invention has been made in view of such circumstances, and in the shooting of a large number of people, it is possible to acquire a shot image of the best shot equivalent to a state in which the shutter is released at an optimal timing for all of the subjects. It is an object of the present invention to provide a photographing device, a portable terminal with a photographing device, a person photographed image processing method, a person photographed image processing program, and a program recording medium.

前述の課題を解決するため、本発明による撮影装置、撮影装置付き携帯端末、人物撮影画像処理方法、人物撮影画像処理プログラムおよびプログラム記録媒体は、次のような特徴的な構成を採用している。   In order to solve the above-described problems, a photographing apparatus, a portable terminal with a photographing apparatus, a person-captured image processing method, a person-captured image processing program, and a program recording medium according to the present invention employ the following characteristic configurations. .

(1)被写体として1ないし複数の人物を撮影した撮影画像を取得するカメラセンサと、該カメラセンサにより取得された撮影画像の画像処理を行う画像処理部とを少なくとも備えた撮影装置において、前記カメラセンサは、同一の被写体を撮影した撮影画像を複数枚取得する複数枚撮影画像取得手段を備え、前記画像処理部は、前記カメラセンサの前記複数枚撮影画像取得手段により取得された複数枚の撮影画像それぞれから被写体とされた同一人物毎の画像を人物部分画像として抽出する人物部分画像抽出手段と、該人物部分画像抽出手段により同一人物毎に抽出された複数枚の前記人物部分画像の中から同一人物それぞれに関して最も写りが良い画像を、各人物毎のベストショット画像として判別するベストショット画像判別手段と、前記カメラセンサにより取得された複数枚の撮影画像のいずれかの背景画像と前記ベストショット画像判別手段にて判別された各人物毎のベストショット画像とを合成して1枚の合成画像として生成する合成画像生成手段とを、少なくとも備えている撮影装置。   (1) In the photographing apparatus including at least a camera sensor that obtains a photographed image of one or more persons as a subject and an image processing unit that performs image processing on the photographed image obtained by the camera sensor, the camera The sensor includes a plurality of captured image acquisition means for acquiring a plurality of captured images obtained by capturing the same subject, and the image processing unit is configured to capture a plurality of captured images acquired by the plurality of captured image acquisition means of the camera sensor. A person partial image extracting means for extracting, as a person partial image, an image for each person who is a subject from each image, and a plurality of the person partial images extracted for each person by the person partial image extracting means. A best shot image discriminating means for discriminating the best image for each person as the best shot image for each person; One background image of a plurality of photographed images acquired by the camera sensor and the best shot image for each person determined by the best shot image determining means are combined to generate one combined image. An imaging apparatus comprising at least composite image generation means.

本発明の撮影装置、撮影装置付き携帯端末、人物撮影画像処理方法、人物撮影画像処理プログラムおよびプログラム記録媒体によれば、以下のような効果を得ることができる。   According to the photographing apparatus, the portable terminal with the photographing apparatus, the person photographed image processing method, the person photographed image processing program, and the program recording medium of the present invention, the following effects can be obtained.

第1の効果は、複数の人物を被写体とした撮影時において、撮影した複数枚の画像の中から、被写体の人物毎にベストな写りの画像を抽出して合成しているので、被写体の人物全員にとって、より良い状態の画像を取得することが可能となることにある。   The first effect is that, when shooting a plurality of persons as subjects, the best image for each subject person is extracted and combined from a plurality of captured images. It is to be able to acquire a better image for all.

第2の効果は、撮影した複数枚の画像を用いて、より明瞭な人物部分画像の補間処理を行うため、手振れなどによる劣化が少ない画像の生成を期待することができることにある。   The second effect is that a clearer human partial image interpolation process is performed using a plurality of captured images, so that it is possible to expect generation of an image with little deterioration due to camera shake or the like.

第3の効果は、画像処理に関するソフトウェア処理のみによって各人物のベストショット画像を用いた画像を合成することが可能であるため、一般的なカメラや携帯端末装置に装備されている画像処理チップによって容易に実現することができ、コスト負担の低減が可能となることにある。   The third effect is that an image using the best shot image of each person can be synthesized only by software processing related to image processing. Therefore, an image processing chip equipped in a general camera or mobile terminal device can be used. This can be easily realized and the cost burden can be reduced.

以下、本発明による撮影装置、撮影装置付き携帯端末、人物撮影画像処理方法、人物撮影画像処理プログラムおよびプログラム記録媒体の好適な実施例について添付図を参照して説明する。なお、以下の説明においては、本発明による撮影装置、人物撮影画像処理方法について説明するが、かかる撮影装置を携帯端末に搭載するようにした撮影装置付き携帯端末として実現することもできるし、また、かかる人物撮影画像処理方法をコンピュータにより実行可能な人物撮影画像処理プログラムとして実施するようにしても良いし、あるいは、人物撮影画像処理プログラムをコンピュータにより読み取り可能な記録媒体に記録するようにしても良いことは言うまでもない。   Preferred embodiments of a photographing apparatus, a portable terminal with a photographing apparatus, a person photographed image processing method, a person photographed image processing program, and a program recording medium according to the present invention will be described below with reference to the accompanying drawings. In the following description, the photographing device and the person-captured image processing method according to the present invention will be described. However, the photographing device can be realized as a portable terminal with a photographing device that is mounted on a portable terminal. The person photographed image processing method may be implemented as a person photographed image processing program that can be executed by a computer, or the person photographed image processing program may be recorded on a computer-readable recording medium. It goes without saying that it is good.

また、本発明に係る撮影装置付き携帯端末としては、携帯電話機、携帯用のPHS(Personal Handy-Phone System)端末、携帯情報端末(PDA:Personal Digital
Assistants)、携帯型ノートPC(Personal Computer)、携帯音楽プレーヤなど、画像を撮影する撮影機能を有する携帯型の機器であれば如何なる種類の機器であっても構わない。
The portable terminal with a photographing device according to the present invention includes a mobile phone, a portable PHS (Personal Handy-Phone System) terminal, and a personal digital assistant (PDA).
Assistants), portable notebook PCs (Personal Computers), portable music players, etc., any type of device may be used as long as it is a portable device having a photographing function for photographing images.

(本発明の特徴)
本発明の実施形態の説明に先立って、本発明の特徴についてその概要をまず説明する。本発明は、カメラ等の撮影装置付き携帯端末による複数人物の撮影時において、撮影した複数枚の画像を取り込み、各画像の中から、被写体の人物毎のベストショット画像を抽出し、背景部分と合成することによって、被写体の人物全員がベストショット画像となる1枚の画像を取得することが可能になることを主要な特徴としている。
(Features of the present invention)
Prior to the description of the embodiments of the present invention, an outline of the features of the present invention will be described first. The present invention captures a plurality of captured images at the time of capturing a plurality of persons using a mobile terminal with a capturing device such as a camera, extracts a best shot image for each person of the subject from each image, The main feature is that by combining, it is possible for all the subjects to acquire one image that is the best shot image.

つまり、本発明は、シャッタ押下操作がなされた際に、自動的に、連続して複数枚の画像が撮影されることにより、複数枚の画像を取得し、しかる後、取得された複数枚の画像内それぞれにおける人物部分を抽出し、抽出された人物部分それぞれにおいて、それぞれの人物のベストショットとなる画像を、それぞれの人物に関する人物部分画像の中から抜き出し、背景画像と合成することによって、被写体となった人物全員のベストショット写真を取得することを可能としている。   That is, according to the present invention, when a shutter pressing operation is performed, a plurality of images are automatically captured in succession, thereby acquiring a plurality of images, and then the acquired plurality of images. The person part in each image is extracted, and in each extracted person part, the image that is the best shot of each person is extracted from the person part images related to each person, and combined with the background image, the subject It is possible to get the best shot photos of all who became.

図1を用いて、さらに説明する。図1は、本発明による人物撮影方法の一例を説明するための模式図であり、被写体として複数人物(図1の例では、人物A,Bの2人)を撮影した際に取得された複数枚(図1の例では、3枚)の撮影画像の中から、撮影した複数の人物それぞれのベストショットの画像を抽出して、背景画像と合成する例を示している。   This will be further described with reference to FIG. FIG. 1 is a schematic diagram for explaining an example of a person photographing method according to the present invention. A plurality of persons obtained when a plurality of persons (two persons A and B in the example of FIG. 1) are photographed as subjects. An example is shown in which images of the best shots of a plurality of photographed persons are extracted from the captured images (three in the example of FIG. 1) and combined with the background image.

図1に示すように、カメラ付き携帯端末による複数人物の撮影時において、シャッタ押下操作によって、撮影画像101〜103の3枚の画像を撮影して取り込む。しかる後、画像処理部において、3枚の撮影画像101〜103それぞれの中から、人物部分抽出画像104〜106に示すように、被写体の人物A,Bの人物部分の抽出処理を実施し、人物Aについては、それぞれ、人物部分画像RA1〜RA3を抽出し、人物Bについては、それぞれ、人物部分画像RB1〜RB3を抽出する。   As shown in FIG. 1, when a plurality of persons are photographed by a camera-equipped mobile terminal, three images of photographed images 101 to 103 are photographed and captured by a shutter pressing operation. Thereafter, in the image processing unit, the person portions of the subjects A and B as subjects are extracted from the three photographed images 101 to 103, as shown in the person portion extracted images 104 to 106, and the person is extracted. For A, person partial images RA1 to RA3 are extracted, and for person B, person partial images RB1 to RB3 are extracted, respectively.

次に、抽出した人物部分画像RA1〜RA3、人物部分画像RB1〜RB3の中から、被写体それぞれの人物A,Bについて、ベストショット画像の判別処理を行い、人物Aについては、人物部分画像RA1の顔が横向き、人物部分画像RA2の目が横向きであり、人物部分画像RA3が正面を向いた笑顔であり、3枚目の人物部分抽出画像106の人物部分画像RA3がベストショット画像であるものと判別し、一方、人物Bについては、人物部分画像RB1が片目を閉じており、人物部分画像RB2が正面を向いた笑顔であり、人物部分画像RB3は笑顔ではあるが、目を綴じており、2枚目の人物部分抽出画像105の人物部分画像RB2がベストショット画像であるものと判別して、判別したそれぞれのベストショット画像を取り出す。   Next, a best shot image discrimination process is performed for each of the subjects A and B of the subject from the extracted person partial images RA1 to RA3 and person partial images RB1 to RB3. The face is horizontal, the eyes of the person part image RA2 are sideways, the person part image RA3 is a smiling face, and the person part image RA3 of the third person part extraction image 106 is the best shot image. On the other hand, for the person B, the person part image RB1 is closed with one eye, the person part image RB2 is a smile facing the front, the person part image RB3 is a smile, but the eyes are bound, It is determined that the person part image RB2 of the second person part extraction image 105 is the best shot image, and each determined best shot image is extracted. .

しかる後、被写体の人物A,Bのそれぞれについてベストショット画像として判別した人物部分画像RA3,RB2を撮影画像101から103のいずれかから抜き出した背景画像107と合成することによって、被写体の人物A,Bの全員がベストショットの画像となっている1枚の生成画像108を取得する。   Thereafter, the person partial images RA3 and RB2 determined as the best shot images for each of the subject persons A and B are combined with the background image 107 extracted from any one of the photographed images 101 to 103, whereby the subject person A, One generation image 108 in which all of B are images of the best shot is acquired.

(実施例の構成)
図2は、本発明の一実施例として撮影装置の回路構成の要部を示したブロック図であり、携帯電話機、PHS(Personal Handy-Phone System)端末、PDA(Personal Digital Assistants:携帯情報端末)、携帯型ノートPC、携帯音楽プレーヤ等の撮影装置付き携帯端末に備えることが可能な撮影装置の一例を示している。図2に示すように、本撮影装置は、カメラセンサ201、表示部202、画像処理部203、CPU204、メモリ部205、キー操作部206、処理用メモリ207を少なくとも備えている。ここで、カメラセンサ201、画像処理部203は、CPU204において実行されるプログラムつまりソフトウェア処理として実現することも可能である。
(Configuration of Example)
FIG. 2 is a block diagram showing the main part of the circuit configuration of the photographing apparatus as an embodiment of the present invention, which is a mobile phone, a PHS (Personal Handy-Phone System) terminal, a PDA (Personal Digital Assistants: portable information terminal). 1 shows an example of a photographing device that can be provided in a portable terminal with a photographing device such as a portable notebook PC or a portable music player. As shown in FIG. 2, the photographing apparatus includes at least a camera sensor 201, a display unit 202, an image processing unit 203, a CPU 204, a memory unit 205, a key operation unit 206, and a processing memory 207. Here, the camera sensor 201 and the image processing unit 203 can also be realized as a program executed by the CPU 204, that is, a software process.

図2の撮影装置において、キー操作部206は、使用者がカメラの起動、シャッタ押下、被写体となる人物の人数の指定、ベストショット画像を判別するためのパラメータの選択、撮影画像の保存、撮影画像のキャンセル等の指示を入力する装置である。カメラセンサ201は、被写体を撮影した画像の取得を行う装置であり、複数枚撮影画像取得手段201aを備えており、1回のシャッタの押下操作により、画像取得枚数としてあらかじめ定めた枚数の画像を自動的に撮影して取得したり、あるいは、シャッタの押下操作の違いによって使用者が任意に指定することが可能な画像取得時間内に、あらかじめ定めた時間間隔で撮影動作を繰り返すことにより任意の枚数の画像を撮影して取得したりして、その結果として、取得した複数枚分の撮影画像を画像処理部203に転送するものである。表示部202は、撮影時のプレビュー表示、撮影画像や画像処理部203の処理結果の画像等の確認表示などを行うものである。   In the photographing apparatus of FIG. 2, the key operation unit 206 is configured such that the user activates the camera, presses the shutter, designates the number of persons to be the subject, selects parameters for determining the best shot image, saves the photographed image, and photographs. This is an apparatus for inputting an instruction to cancel an image. The camera sensor 201 is a device that acquires an image of a subject and includes a plurality of captured image acquisition means 201a. By pressing the shutter once, a predetermined number of images are acquired as the number of images to be acquired. Capture and acquire images automatically, or repeat the shooting operation at a predetermined time interval within an image acquisition time that can be specified by the user according to the difference in the shutter pressing operation. As a result, a plurality of captured images are transferred to the image processing unit 203. The display unit 202 performs preview display at the time of shooting, confirmation display of a captured image, an image of a processing result of the image processing unit 203, and the like.

画像処理部203は、撮影時にカメラセンサ201から送られてきた複数枚分の撮影画像を処理用メモリ207に蓄える。さらに、画像処理部203は、人物部分画像抽出手段203aを備えており、処理用メモリ207に蓄えた複数枚分の撮影画像それぞれから、被写体である各人物に関する人物部分の画像と背景部分の画像とを分離して、各人物に関する人物部分の画像を人物部分画像として抽出し、処理用メモリ207に一時的に保存する。   The image processing unit 203 stores a plurality of shot images sent from the camera sensor 201 at the time of shooting in the processing memory 207. Further, the image processing unit 203 includes a person part image extracting unit 203a, and from each of a plurality of photographed images stored in the processing memory 207, an image of a person part and an image of a background part relating to each person as a subject. Are extracted, and a person part image relating to each person is extracted as a person part image and temporarily stored in the processing memory 207.

また、画像処理部203は、ベストショット画像判別手段203bを備えており、人物部分画像抽出手段203aにより抽出された各人物に関する人物部分画像を処理用メモリ207から順次取り出して、同一人物に関する複数枚の人物部分画像の中から、最も写りの良い画像(例えば、正面を向いて、目も正対した状態で開いていて、顔の表情として笑顔をたたえている画像など)を、それぞれ、当該人物に関するベストショット画像として抽出する。さらに、画像処理部203は、合成画像生成手段203cを備えており、被写体の各人物に関するベストショット画像として抽出された各人物部分画像を、複数枚の撮影画像のいずれかの背景画像と合成することにより、1枚の合成画像として生成して出力する。   Further, the image processing unit 203 includes a best shot image determination unit 203b, and sequentially extracts a person partial image relating to each person extracted by the person partial image extraction unit 203a from the processing memory 207, and a plurality of pieces relating to the same person. Each of the person's partial images of the person's best image (for example, an image that faces the front, opens with the eyes facing up, and smiles as a facial expression). As the best shot image. Further, the image processing unit 203 includes a composite image generation unit 203c, and combines each person partial image extracted as the best shot image regarding each person of the subject with any one of the background images of the plurality of photographed images. Thus, it is generated and output as a single composite image.

ここで、画像処理部203においては、最も写りが良い画像と判断する基準として、前述のように、例えば、少なくとも顔が正面を向いている度合い、目を開いて正面を見ている度合い、顔の表情が笑顔になっている度合い、人物部分画像における顔部分の大きさの度合い、人物部分画像のシャープネス度、色彩の鮮やかさの度合い、ブライトネス度等のいずれか1ないし複数を含む度合いの測定に基づいて、同一人物の複数枚の人物部分画像に関するベストショット度合い(以降、「ベストショット度」と呼ぶ)の判定を行う。また、画像処理部203は、撮影画像の色合い補正、ノイズ除去、露出補正、サイズ補正、赤目補正等の通常の画像処理機能も合わせて有しており、必要に応じた画像処理を施すことが可能である。   Here, in the image processing unit 203, as a reference for determining the image with the best image, as described above, for example, at least the degree that the face is facing the front, the degree that the front is opened and the face is opened, The degree of facial expression of a person's facial expression, the degree of the size of a face part in a person part image, the degree of sharpness of a person part image, the degree of color vividness, the degree of brightness, etc. Based on the above, the best shot degree (hereinafter referred to as “best shot degree”) regarding a plurality of person partial images of the same person is determined. The image processing unit 203 also has normal image processing functions such as color correction, noise removal, exposure correction, size correction, and red-eye correction of a captured image, and can perform image processing as necessary. Is possible.

メモリ部205は、画像処理部203において画像処理された画像を保持する。CPU204は、キー操作部206から入力された使用者の指示に基づいて、カメラセンサ201に対する撮影対象の画像の取得命令やデータの転送命令、画像処理部203に対する画像処理命令やデータ転送命令、メモリ部205へのデータ転送命令や保存処理命令やキャンセル命令、画像処理部203やメモリ部205からの画像を表示部202にて画面表示する表示命令等を行い、当該撮影装置の全体の動作を制御する。   The memory unit 205 holds the image processed by the image processing unit 203. Based on a user instruction input from the key operation unit 206, the CPU 204 acquires an image acquisition command or data transfer command to the camera sensor 201, an image processing command or data transfer command to the image processing unit 203, a memory A data transfer command to the unit 205, a storage processing command, a cancel command, a display command to display an image from the image processing unit 203 or the memory unit 205 on the display unit 202, and the like are controlled to control the overall operation of the photographing apparatus. To do.

(実施例の動作の説明)
次に、図2に示す撮影装置の動作について、図3に示すフローチャートを用いてその一例を説明する。図3は、図2の撮影装置において実施される人物撮影処理の流れの一例を表したフローチャートであり、1回のシャッタの押下操作時に、操作画像取得枚数としてあらかじめ定めた枚数の画像を撮影して取得する場合について、取得した複数枚の画像の中から、被写体となる複数の人物それぞれのベストショット画像を抽出して背景画像と合成して1枚の生成画像を出力するまでの動作例を示している。なお、図3に示すフローチャートには、被写体人数をM人(M:使用者が指定する人数)、シャッタ押下操作時に取得すべき撮影画像の枚数を示す画像取得枚数をn枚(n:画像取得枚数としてあらかじめ定めた枚数)、i番目に取得した撮影画像をFi、写りの良さを示す指標であるベストショット度をBS(また、処理した画像のうち最も写りが良かった度合いを示す最大ベストショット度をBSmax)として表現している。
(Description of operation of the embodiment)
Next, an example of the operation of the photographing apparatus shown in FIG. 2 will be described using the flowchart shown in FIG. FIG. 3 is a flowchart showing an example of the flow of the person photographing process performed in the photographing apparatus of FIG. 2, and a predetermined number of images are photographed as the number of operation image acquisitions at the time of one shutter pressing operation. In this case, the best shot image of each of a plurality of persons as subjects is extracted from the acquired images and combined with the background image to output one generated image. Show. In the flowchart shown in FIG. 3, the number of subjects is M (M: the number specified by the user), and the number of acquired images indicating the number of captured images to be acquired at the time of pressing the shutter is n (n: image acquisition). Fi is the i-th acquired image, and BS is the best shot degree that is an index that indicates the quality of the image (and the maximum best shot that indicates the degree to which the image is the best among the processed images). The degree is expressed as BSmax).

図3の処理が起動すると(ステップS301)、キー操作部206によりカメラ起動が指示された場合(ステップS302)、CPU204の命令により、カメラセンサ201および画像処理部203を起動し、画像処理部203は、最大ベストショット度の初期化(BSmax=0)や処理用メモリ207内の画像データの消去などの初期化を実施する(ステップS303)。   When the process of FIG. 3 is activated (step S301), when the camera operation is instructed by the key operation unit 206 (step S302), the camera sensor 201 and the image processing unit 203 are activated by an instruction of the CPU 204, and the image processing unit 203 is activated. Performs initialization such as initialization of the maximum best shot degree (BSmax = 0) and deletion of image data in the processing memory 207 (step S303).

カメラセンサ201による被写体のプレビュー開始後(ステップS304)、使用者によるキー操作部206からのキー入力により、被写体人数としてM人を設定する(ステップS305)。しかる後、シャッタの押下操作がなされたか否かを確認し(ステップS306)、シャッタの押下操作がなされていない場合には(ステップS306のNO)、あらかじめ定めた許容時間を過ぎない限り(ステップS325のNO)、ステップS306の処理に戻って、シャッタの押下操作の確認を繰り返す。   After starting the preview of the subject by the camera sensor 201 (step S304), M people are set as the number of subjects by the key input from the key operation unit 206 by the user (step S305). Thereafter, it is confirmed whether or not a shutter pressing operation has been performed (step S306). If the shutter pressing operation has not been performed (NO in step S306), a predetermined allowable time has not passed (step S325). NO), returning to the process of step S306, the confirmation of the shutter pressing operation is repeated.

使用者によるキー操作部206からのキー入力により、シャッタが押下されると(ステップS306のYES)、カメラセンサ201によりあらかじめ定めた時間間隔で連続的に撮影されたn枚分(n:任意の正整数であり、画像取得枚数としてあらかじめ定めた枚数)の撮影画像を取得して処理用メモリ207に保存し、保存したn枚分の撮影画像について、1枚ずつ、順次、処理用メモリ207から取り出して、ステップS308ないしステップS319までの処理を繰り返す。まず、1枚目の撮影画像(F1)を取り出して(ステップS308)、取り出した1枚目の撮影画像(F1)について、人物部分画像と背景画像とに分離し(ステップS309)、背景画像を処理用メモリ207に保存する(ステップS310)。   When the shutter is pressed by a key input from the key operation unit 206 by the user (YES in step S306), the camera sensor 201 continuously captures n images (n: arbitrary) A positive integer and a predetermined number of captured images) are acquired and stored in the processing memory 207, and the stored n captured images are sequentially transferred from the processing memory 207 one by one. Then, the processing from step S308 to step S319 is repeated. First, the first captured image (F1) is extracted (step S308), and the extracted first captured image (F1) is separated into a person partial image and a background image (step S309), and the background image is extracted. Save in the processing memory 207 (step S310).

一方、撮影画像(F1)から抽出された各人物部分画像に対しては、被写体の各人物を識別するためのラベル(R1,R2,…Rs,…,RM)を付与するラベリング処理を行う(ステップS311)。次に、ステップS312ないしステップS317までの処理を繰り返すことによって、被写体の各人物のベストショット画像を判別する処理を行なう。   On the other hand, a labeling process for assigning labels (R1, R2,... Rs,..., RM) for identifying each person of the subject is performed on each person partial image extracted from the photographed image (F1) ( Step S311). Next, by repeating the processes from step S312 to step S317, the process of determining the best shot image of each person of the subject is performed.

すなわち、付与されたラベル(R1,R2,…Rs,…,RM)毎に、つまり、被写体の各人物毎に、各人物部分画像のベストショット度BS(例えば、ラベルRsの場合、ベストショット度BSs)を算出し(ステップS313)、算出した各人物部分画像のベストショット度BS(例えば、ラベルRsの人物の場合、ベストショット度BSs)を、現在までに処理用メモリ207に保存されている各人物毎の人物部分画像に関する最大ベストショット度BSmax(例えば、ラベルRsの人物の場合、ラベルRsに該当する人物の人物部分画像に関する現在までの最大ベストショット度)と比較する(ステップS314)。   That is, for each given label (R1, R2,... Rs,..., RM), that is, for each person of the subject, the best shot degree BS of each person partial image (for example, in the case of label Rs, the best shot degree BSs) is calculated (step S313), and the calculated best shot degree BS of each person partial image (for example, the best shot degree BSs in the case of a person with label Rs) has been stored in the processing memory 207 so far. It is compared with the maximum best shot degree BSmax for the person partial image for each person (for example, in the case of a person with the label Rs, the maximum best shot degree to date for the person partial image of the person corresponding to the label Rs) (step S314).

なお、各人物部分画像のベストショット度は、前述のように、画像処理部203において、当該人物部分画像内の人物部分が、正面を向いているか、目を開けて正面を見ているか、笑顔の度合い、画像としてのシャープネス、色彩の鮮やかさ、ブライトネスなどの度合いをパラメータ化することによって表現される。   As described above, the best shot degree of each person partial image is determined by whether the person part in the person partial image is facing the front, looking at the front with eyes open, And the degree of sharpness as an image, the vividness of colors, the brightness, and the like are parameterized.

算出した各人物部分画像のベストショット度BSが、現在までに処理用メモリ207に保存されている各人物部分画像の最大ベストショット度BSmaxを超えていない場合は(ステップS314のNO)、現在保存されている各人物部分画像の最大ベストショット度BSmaxの更新は行わない。   If the calculated best shot degree BS of each person partial image does not exceed the maximum best shot degree BSmax of each person partial image stored in the processing memory 207 so far (NO in step S314), the current save is performed. The maximum best shot degree BSmax of each person partial image that has been set is not updated.

一方、現在までに処理用メモリ207に保存されている各人物部分画像の最大ベストショット度BSmaxを超えている場合は(ステップS314のYES)、処理用メモリ207に現在保存されている各人物部分画像の最大ベストショット度BSmaxを、算出した各人物部分画像のベストショット度BSにより更新するとともに(ステップS316)、当該人物部分画像を現在までのベストショット画像として処理用メモリ207内に保持する(例えば、ラベルRsの人物の場合、ラベルRsに該当する人物の現在までの最大ベストショット度BSmaxとして、処理用メモリ207のラベルRsに該当する最大ベストショット度BSmaxを更新し、ラベルRsに該当する当該人物の現在までのベストショット画像として保持する)。   On the other hand, if the maximum best shot degree BSmax of each person partial image stored in the processing memory 207 is exceeded (YES in step S314), each person part currently stored in the processing memory 207 is displayed. The maximum best shot degree BSmax of the image is updated with the calculated best shot degree BS of each person partial image (step S316), and the person partial image is held in the processing memory 207 as the best shot image up to the present ( For example, in the case of the person with the label Rs, the maximum best shot degree BSmax corresponding to the label Rs in the processing memory 207 is updated as the maximum best shot degree BSmax of the person corresponding to the label Rs so far, and the person corresponds to the label Rs. It is stored as the best shot image of the person up to the present).

かかる最大ベストショット度BSmaxの更新の要否に関する判別処理を、最初のラベルR1から始めて被写体人数M人の最終のラベルRMに達するまで繰り返すことによって(ステップS312ないしステップS317)、1枚目の画像(F1)における被写体の複数の人物に関するベストショット度BSの判別処理を終了し、次の2枚目の画像(F2)以降、人物とラベルの紐付けを1枚目の人物部分画像と同じになるように対応付けを行いつつ、画像取得枚数n枚に達するまで、同様の処理を繰り返す(ステップS307ないしステップS318)。このような繰り返し処理により、撮影したn枚分の中から、ラベルR1,R2,…Rs,…,RMそれぞれに該当する被写体の人物毎の最大ベストショット画像を示す人物部分画像が処理用メモリ207に保持されることになる。   By repeating the determination processing regarding the necessity of updating the maximum best shot degree BSmax from the first label R1 until reaching the final label RM of the number of subjects M (steps S312 to S317), the first image The process of determining the best shot degree BS for a plurality of subjects of the subject in (F1) is terminated, and after the next second image (F2), the person and the label are linked to the same as the first person partial image. The same process is repeated until the number n of image acquisitions is reached (step S307 to step S318). Through such repeated processing, the person partial image indicating the maximum best shot image for each person of the subject corresponding to each of the labels R1, R2,. Will be held.

各人物の最大ベストショット画像を示す人物部分画像が得られると、次に、ラベルR1,R2,…Rs,…,RMそれぞれに該当する被写体の人物毎の最大ベストショット画像を示す人物部分画像と処理用メモリ207に保存されている背景画像とを合成して、1枚の生成画像とし(ステップS319)、該生成画像を、使用者の確認のために表示部202に画面表示する(ステップS320)。   When the person partial image indicating the maximum best shot image of each person is obtained, the person partial image indicating the maximum best shot image for each person of the subject corresponding to each of the labels R1, R2,... Rs,. The background image stored in the processing memory 207 is combined into a single generated image (step S319), and the generated image is displayed on the display unit 202 for user confirmation (step S320). ).

使用者が、表示部202に画面表示された生成画像を確認して、当該生成画像の不採用の旨を示すキャンセルをキー操作部206のキー操作により指定した場合(ステップS321のNO)、当該生成画像をキャンセルして、さらに撮影を続行するか否かを確認する(ステップS323)。一方、当該生成画像の保存を指示すると(ステップS321のYES)、当該生成画像をメモリ部205に保存することにより、当該生成画像を他のアプリケーション(転送、印刷、文書等への貼付けなど)においても利用が可能な状態に設定した後(ステップS322)、さらに撮影を続行するか否かを確認する(ステップS323)。撮影を続行する場合は(ステップS323のYES)、ステップS303に復帰し、以上に説明した動作を繰り返す。一方、撮影を終了する場合は(ステップS323のNO)、カメラセンサ201、画像処理部203の動作を終了させ(ステップS324)、図3の処理を終了する(ステップS326)。   When the user confirms the generated image displayed on the screen of the display unit 202 and designates cancellation indicating that the generated image is not adopted by the key operation of the key operation unit 206 (NO in step S321), The generated image is canceled and it is confirmed whether or not to continue shooting (step S323). On the other hand, when an instruction is given to save the generated image (YES in step S321), the generated image is stored in the memory unit 205, so that the generated image is transferred to another application (transfer, printing, pasting to a document, etc.). Is set to a usable state (step S322), and it is confirmed whether or not to continue photographing (step S323). When shooting is continued (YES in step S323), the process returns to step S303, and the operations described above are repeated. On the other hand, when the shooting is to be ended (NO in step S323), the operations of the camera sensor 201 and the image processing unit 203 are ended (step S324), and the processing in FIG. 3 is ended (step S326).

(他の実施例の動作の説明)
次に、図2に示す撮影装置の動作について、図3のフローチャートとは異なる動作例について説明する。
(Description of operation of other embodiments)
Next, an operation example different from the flowchart of FIG. 3 will be described for the operation of the photographing apparatus shown in FIG.

本実施例においても、その基本的動作は、前述した図3のフローチャートの場合と同じであるが、1回のシャッタの押下操作による複数枚の撮影画像を取得する動作が、図3に示すフローチャートの場合とは異なっている。つまり、図3のフローチャートにおいては、シャッタ押下操作により、あらかじめ決められた枚数分の撮影画像を取得していたが、本実施例においては、1回のシャッタの押下操作によりあらかじめ定めた時間間隔で連続的に撮影して撮影画像を取得する動作を行うものの、図3の場合とは異なり、シャッタ押下操作方法の違いなどによって使用者が画像取得時間として任意の時間を指定し、指定された時間の間に撮影された複数枚の撮影画像を取得することを可能とする動作例を、図4、図5に示している。   In this embodiment, the basic operation is the same as that in the flowchart of FIG. 3 described above, but the operation of acquiring a plurality of photographed images by pressing the shutter once is shown in the flowchart of FIG. This is not the case. That is, in the flowchart of FIG. 3, a predetermined number of photographed images are acquired by a shutter pressing operation. In this embodiment, at a predetermined time interval by a single shutter pressing operation. Unlike the case of FIG. 3, the user designates an arbitrary time as the image acquisition time due to a difference in the shutter pressing operation method and the like. FIG. 4 and FIG. 5 show an operation example that makes it possible to acquire a plurality of photographed images taken during the period.

例えば、図4のフローチャートは、図2の撮影装置において実施される人物撮影処理の流れの図3とは異なる例を表したフローチャートであリ、斜線でハッチングしているステップS406、s417のみが図3のフローチャートの場合と異なっている。つまり、ステップS406を、図3のフローチャートのステップS306の代わりに、また、ステップS417を、図3のフローチャートのステップS307、s318の代わりに用いる以外は、図3の各ステップと同一の処理であり、ステップS401〜S405、ステップS407〜S416、ステップS418〜S425は、それぞれ、図3のフローチャートのステップS301〜S305、ステップS308〜S317、ステップS319〜S326と同一の処理である。   For example, the flowchart of FIG. 4 is a flowchart showing an example different from FIG. 3 of the flow of the person photographing process performed in the photographing apparatus of FIG. 2, and only steps S406 and s417 hatched with diagonal lines are illustrated. This is different from the flowchart of FIG. That is, the process is the same as each step in FIG. 3 except that step S406 is used in place of step S306 in the flowchart in FIG. 3 and step S417 is used in place of steps S307 and s318 in the flowchart in FIG. Steps S401 to S405, Steps S407 to S416, and Steps S418 to S425 are the same processes as Steps S301 to S305, Steps S308 to S317, and Steps S319 to S326 in the flowchart of FIG.

図4のフローチャートの場合、撮影の開始を指示する開始シャッタ操作と撮影の終了を指示する終了シャッタ操作とにシャッタ操作を使い分けるものであり、1つのシャッタの押下操作として、撮影開始を指示する開始シャッタの押下操作(ステップS406の動作)と撮影終了を指示する終了シャッタの押下操作(ステップS417の動作)との2つの操作が可能である。つまり、使用者が、撮影の開始を指示する開始シャッタの押下操作を行うことにより、任意のタイミングで、撮影画像の取得動作を開始し(ステップS406)、撮影の終了を指示する終了シャッタの押下操作を行うことにより、任意のタイミングで、撮影を終了させる(ステップS417)。この操作において、撮像装置は、プレビューモード(撮像待機状態)においてシャッタを押下されることにより撮像モードになって、撮像を開始し、この撮像モードにおいてシャッタを押下されることによりプレビューモードに戻る。   In the flowchart of FIG. 4, the shutter operation is selectively used for the start shutter operation for instructing the start of shooting and the end shutter operation for instructing the end of shooting, and the start of instructing the start of shooting is performed as one shutter pressing operation. Two operations, a shutter pressing operation (operation in step S406) and an end shutter pressing operation for instructing the end of shooting (operation in step S417), are possible. That is, the user starts the captured image acquisition operation at an arbitrary timing by pressing the start shutter to instruct the start of shooting (step S406), and presses the end shutter to instruct the end of shooting. By performing the operation, photographing is terminated at an arbitrary timing (step S417). In this operation, the imaging apparatus enters the imaging mode when the shutter is pressed in the preview mode (imaging standby state), starts imaging, and returns to the preview mode when the shutter is pressed in this imaging mode.

したがって、画像取得時間として、使用者が、撮影の開始を指示する開始シャッタの押下操作を行った以降(ステップS406)、撮影の終了を指示する終了シャッタの押下操作が行われるまでの間(ステップS417)、あらかじめ定めた時間間隔で連続的に撮影して撮影画像を取得し続けることにより、使用者が所望する任意の枚数の撮影画像を取得することができる。ステップS406で指示した開始タイミングからステップS417で指示した終了タイミングまでの間に取得された任意の枚数の撮影画像それぞれについて、図3のフローチャートと同様の処理を行うことにより、被写体の複数の人物それぞれのベストショット画像を抽出し、背景画像と合成して、1枚の生成画像として出力することになる。   Therefore, as the image acquisition time, after the user performs the pressing operation of the start shutter for instructing the start of shooting (step S406), until the pressing operation of the end shutter for instructing the end of shooting is performed (step S406). S417), by continuously capturing images at predetermined time intervals and acquiring captured images, it is possible to acquire any number of captured images desired by the user. The same processing as in the flowchart of FIG. 3 is performed on each of a number of photographed images acquired between the start timing instructed in step S406 and the end timing instructed in step S417. The best shot image is extracted, synthesized with the background image, and output as one generated image.

また、図5のフローチャートは、図2の撮影装置において実施される人物撮影処理の流れの図3、図4とは異なる例を表したフローチャートであリ、斜線でハッチングしているステップS517のみが図3のフローチャートの場合と異なっている。つまり、ステップS517を、図3のフローチャートのステップS307、s318の代わりに用いる以外は、図3の各ステップと同一の処理であり、ステップS501〜S506、ステップS507〜S516、ステップS518〜S525は、それぞれ、図3のフローチャートのステップS301〜S306、ステップS308〜S317、ステップS319〜S326と同一の処理である。   The flowchart of FIG. 5 is a flowchart showing an example different from FIGS. 3 and 4 of the flow of the person photographing process performed in the photographing apparatus of FIG. 2, and only the step S517 hatched with diagonal lines is shown. This is different from the flowchart of FIG. In other words, except that step S517 is used in place of steps S307 and s318 in the flowchart of FIG. 3, steps S501 to S506, steps S507 to S516, and steps S518 to S525 are the same. These are the same processes as steps S301 to S306, steps S308 to S317, and steps S319 to S326 in the flowchart of FIG.

図5のフローチャートの場合、シャッタ押下操作として、図3のフローチャートの場合と同様に、画像取得枚数としてあらかじめ定めた枚数の複数枚の撮影画像を取得することを指示するシャッタ押下(短押し)操作(ステップS506の動作)の他に、撮影継続を指示するシャッタ長押し操作(ステップS517の動作)が可能であり、使用者が、撮影の開始を指示するシャッタの押下操作を行うことにより、任意のタイミングで、撮影画像の取得動作を開始し(ステップS506)、シャッタ長押し操作が続く間、撮影画像の取得動作を継続し、任意のタイミングで、シャッタ長押し操作を解除することにより、撮影を終了させる(ステップS517)。   In the case of the flowchart of FIG. 5, as the shutter pressing operation, as in the case of the flowchart of FIG. 3, a shutter pressing (short pressing) operation for instructing acquisition of a plurality of photographed images having a predetermined number of image acquisitions. In addition to (operation of step S506), a shutter long press operation (operation of step S517) for instructing continuation of shooting can be performed, and the user can arbitrarily press the shutter to instruct the start of shooting. The captured image acquisition operation is started at the timing (step S506), and the captured image acquisition operation is continued while the shutter long press operation continues, and the shutter long press operation is canceled at an arbitrary timing to capture the image. Is terminated (step S517).

したがって、画像取得時間として、使用者によりシャッタ長押し操作が継続している間、あらかじめ定めた時間間隔で連続的に撮影して撮影画像を取得し続けることにより、使用者が所望する任意の枚数の撮影画像を取得することができる。ステップS506でシャッタ押下操作を行ったタイミングからステップS517で撮影を終了するシャッタ長押し操作解除(S517のNO)のタイミングまでの間に取得された任意の枚数の撮影画像それぞれについて、図3のフローチャートと同様の処理を行うことにより、被写体の複数の人物それぞれのベストショット画像を抽出し、背景画像と合成して、1枚の生成画像として出力することになる。   Therefore, as the image acquisition time, while the user continues to press and hold the shutter for a long time, any number of images desired by the user can be obtained by continuously capturing images at predetermined time intervals. Can be obtained. FIG. 3 is a flowchart for each of an arbitrary number of photographed images acquired from the timing when the shutter pressing operation is performed in step S506 to the timing when the shutter long-press operation is canceled (NO in S517) to finish photographing in step S517. By performing the same processing as the above, the best shot images of each of a plurality of persons as subjects are extracted, combined with the background image, and output as one generated image.

また、被写体人数M人の設定に関して、図3〜図5のフローチャートにおいては、使用者が任意に設定する例を示したが、図2の撮影装置に、撮影画像の中から被写体となる人物を検出することができる人物検出部を組み込むことにより、自動的に、被写体となる人物を検出し、検出した人物の人数を計数して、被写体人数M人の設定を自動的に行うことも可能である。   Further, regarding the setting of the number of subjects M, in the flowcharts of FIGS. 3 to 5, an example in which the user arbitrarily sets is shown. However, a person who is a subject from the photographed images is added to the photographing apparatus of FIG. 2. By incorporating a human detection unit capable of detection, it is possible to automatically detect a person as a subject, count the number of detected persons, and automatically set the number of subjects M. is there.

なお、複数枚の撮影画像における被写体の人物の中から、同一人物を判別して、各人物を特定するためのラベル付けを行う場合、被写体となる人物毎に撮影位置を固定しておき、複数枚の撮影画像の略同じ座標位置に存在している人物部分画像を、同一人物として判別したり、あるいは、各人物部分画像の服装や帽子等の模様、色合いなどに基づいて、同一人物を判別したり、あるいは、顔の部分を抽出して、顔の輪郭、目・鼻・口などの相対的位置関係などから得られる特徴量を比較して、同一人物として判別したりすることも可能である。   In addition, when the same person is discriminated from the persons of the subject in the plurality of photographed images and labeling is performed for specifying each person, the photographing position is fixed for each person who becomes the subject, Discrimination of person partial images that exist at approximately the same coordinate position of the shot images as the same person, or the same person based on clothes, hats, and other patterns and shades of each person partial image Or by extracting facial parts and comparing the features obtained from the facial contours, relative positional relationships such as eyes, nose and mouth, etc., and distinguishing them as the same person. is there.

また、画像処理部203における画像処理として、複数枚の撮影画像の中から、被写体の人物毎に、それぞれの人物部分画像の抽出処理を行った際に、抽出された人物部分画像に対して、それぞれの被写体の人物の特徴に合わせた色補正を施すことも可能である。   In addition, as image processing in the image processing unit 203, when each person partial image is extracted from a plurality of photographed images for each person of the subject, It is also possible to perform color correction according to the characteristics of the person of each subject.

また、ベストショット度の算出方法に関しては、ベストショット度を用途・シーンに応じて可変に設定することを可能としても良い。例えば、人物認証用に用いようとする場合、顔の部分が大きく撮影された画像やシャープネス度が高い画像に対して、ベストショット度を高く設定したり、あるいは、単純に正面を向いているか否かだけを基準にしてベストショット度を設定したりすることも可能である。   As for the best shot degree calculation method, the best shot degree may be variably set according to the application and the scene. For example, when trying to use it for personal authentication, whether the best shot degree is set high or the front is simply faced for an image of a large face image or a high sharpness degree It is also possible to set the best shot degree based only on this.

また、被写体の人物が一人だけの場合であっても、本発明を適用することができる。かかる場合は、図3のフローチャートの前提として説明した被写体人数M人を1人として処理を行えば良い。   Further, the present invention can be applied even when the subject is only one person. In such a case, the processing may be performed with the number of subjects M described as the premise of the flowchart of FIG.

以上に詳細に説明したように、本発明による実施例においては、以下に記載するような効果を奏することができる。   As described in detail above, in the embodiment according to the present invention, the following effects can be obtained.

第1の効果は、複数の人物を被写体とした撮影時において、複数枚の撮影画像中から、被写体毎にそれぞれのベストな写りの画像を抽出して、背景画像と合成するので、被写体となった全員にとって、より良い状態における画像を生成することが可能である。   The first effect is that when photographing a plurality of persons as subjects, the best image of each subject is extracted from a plurality of photographed images and combined with the background image. It is possible for all of them to generate images in a better state.

第2の効果は、複数枚の撮影画像を用いて、より明瞭な人物部分画像の補間処理を行うため、手振れなどによる劣化の少ない画像生成が期待できる。   The second effect is that a clearer human partial image interpolation process is performed using a plurality of photographed images, so that it is possible to generate an image with less deterioration due to camera shake or the like.

第3の効果は、画像処理に関するソフトウェア処理のみにより、各被写体のベストショット画像を抽出して背景画像と合成した生成画像を出力することが可能であるので、一般的なカメラや携帯端末装置に装備されている画像処理チップをそのまま用いて実現することが可能である。   The third effect is that it is possible to extract a best shot image of each subject and output a generated image synthesized with a background image only by software processing related to image processing. It can be realized by using the equipped image processing chip as it is.

以上、本発明の好適実施例の構成を説明した。しかし、斯かる実施例は、本発明の単なる例示に過ぎず、何ら本発明を限定するものではないことに留意されたい。本発明の要旨を逸脱することなく、特定用途に応じて種々の変形変更が可能であることが、当業者には容易に理解できよう。   The configuration of the preferred embodiment of the present invention has been described above. However, it should be noted that such examples are merely illustrative of the invention and do not limit the invention in any way. Those skilled in the art will readily understand that various modifications and changes can be made according to a specific application without departing from the gist of the present invention.

本発明による人物撮影方法の一例を説明するための模式図である。It is a schematic diagram for demonstrating an example of the person imaging | photography method by this invention. 本発明の一実施例として撮影装置の回路構成の要部を示したブロック図である。1 is a block diagram illustrating a main part of a circuit configuration of a photographing apparatus as an embodiment of the present invention. 図2の撮影装置において実施される人物撮影処理の流れの一例を表したフローチャートである。3 is a flowchart illustrating an example of a flow of person photographing processing performed in the photographing apparatus in FIG. 2. 図2の撮影装置において実施される人物撮影処理の流れの図3とは異なる例を表したフローチャートである。FIG. 4 is a flowchart showing an example different from FIG. 3 of the flow of the human photographing process performed in the photographing apparatus of FIG. 2. 図2の撮影装置において実施される人物撮影処理の流れの図3、図4とは異なる例を表したフローチャートである。5 is a flowchart showing an example different from FIGS. 3 and 4 of the flow of the person photographing process performed in the photographing apparatus of FIG. 2.

符号の説明Explanation of symbols

101〜103 撮影画像
104〜106 人物部分抽出画像
107 背景画像
108 生成画像
201 カメラセンサ
201a 複数枚撮影画像取得手段
202 表示部
203 画像処理部
203a 人物部分画像抽出手段
203b ベストショット画像判別手段
203c 合成画像生成手段
204 CPU
205 メモリ部
206 キー操作部
207 処理用メモリ
A,B 人物
RA1〜RA3 人物部分画像(人物A)
RB1〜RB3 人物部分画像(人物B)
101-103 Photographed images 104-106 Person partial extracted image 107 Background image 108 Generated image 201 Camera sensor 201a Multiple photographed image acquisition means 202 Display section 203 Image processing section 203a Person partial image extraction means 203b Best shot image discrimination means 203c Composite image Generation means 204 CPU
205 Memory Unit 206 Key Operation Unit 207 Processing Memory A, B Person RA1 to RA3 Person partial image (person A)
RB1 to RB3 Person partial image (person B)

Claims (15)

被写体として1ないし複数の人物を撮影した撮影画像を取得するカメラセンサと、該カメラセンサにより取得された撮影画像の画像処理を行う画像処理部とを少なくとも備えた撮影装置において、前記カメラセンサは、同一の被写体を撮影した複数枚の撮影画像を取得する複数枚撮影画像取得手段を備え、前記画像処理部は、前記カメラセンサの前記複数枚撮影画像取得手段により取得された複数枚の撮影画像それぞれから被写体とされた同一人物毎の画像を人物部分画像として抽出する人物部分画像抽出手段と、該人物部分画像抽出手段により同一人物毎に抽出された複数枚の前記人物部分画像の中から同一人物それぞれに関して最も写りが良い画像を、各人物毎のベストショット画像として判別するベストショット画像判別手段と、前記カメラセンサにより取得された複数枚の撮影画像のいずれかの背景画像と前記ベストショット画像判別手段にて判別された各人物毎のベストショット画像とを合成して1枚の合成画像として生成する合成画像生成手段とを、少なくとも備えていることを特徴とする撮影装置。   In a photographing apparatus including at least a camera sensor that obtains a photographed image of one or a plurality of persons as a subject and an image processing unit that performs image processing on the photographed image obtained by the camera sensor, the camera sensor includes: A plurality of captured image acquisition means for acquiring a plurality of captured images obtained by capturing the same subject, wherein the image processing unit is a plurality of captured images acquired by the plurality of captured image acquisition means of the camera sensor; A person partial image extracting means for extracting, as a person partial image, an image of the same person as a subject from the person, and the same person from the plurality of person partial images extracted for each person by the person partial image extracting means A best shot image discriminating means for discriminating the best image for each person as the best shot image for each person; A synthesized image generated by synthesizing one of the background images of the plurality of photographed images acquired by the mela sensor and the best shot image for each person determined by the best shot image determining means to generate one synthesized image. An imaging device comprising at least a generation unit. 前記複数枚撮影画像取得手段として、1回のシャッタの押下操作がなされた際に、画像取得枚数としてあらかじめ定めた枚数の画像を連続して撮影する手段、あるいは、撮影開始を指示する開始シャッタ操作と撮影終了を指示する終了シャッタ操作とを備え、前記開始シャッタの押下操作がなされた以降、前記終了シャッタの押下操作がなされるまでの期間を画像取得時間として、該画像取得時間の間、あらかじめ定めた時間間隔で連続して画像を撮影する動作を繰り返すことにより、任意の枚数の撮影画像を取得する手段、あるいは、シャッタの長押しが継続する期間を画像取得時間として、該画像取得時間の間、あらかじめ定めた時間間隔で連続して画像を撮影する動作を繰り返すことにより、任意の枚数の撮影画像を取得する手段、のいずれか1ないし複数の手段を備えていることを特徴とする請求項1に記載の撮影装置。   As the plurality of photographed image acquisition means, means for continuously taking a predetermined number of images as the number of image acquisitions when a shutter pressing operation is performed once, or a start shutter operation for instructing start of photography And an end shutter operation for instructing the end of shooting, and a period from when the start shutter is pressed to when the end shutter is pressed is defined as an image acquisition time in advance during the image acquisition time. By repeating the operation of capturing images continuously at a set time interval, the means for acquiring an arbitrary number of captured images, or the period of time during which the shutter is continuously pressed is set as the image acquisition time, and the image acquisition time Means for acquiring an arbitrary number of captured images by repeating the operation of continuously capturing images at predetermined time intervals. The photographing device according to claim 1, characterized in that it comprises a Zureka one or a plurality of means. 前記人物部分画像抽出手段により抽出すべき被写体の人物の人数を設定する手段として、使用者が入力部を介して当該人数を入力することにより設定する手段、および/または、撮影画像の中から被写体となる人物を検出する人物検出部を備え、該人物検出部により検出した人物の人数を計数して自動的に設定する手段、を備えていることを特徴とする請求項1または2に記載の撮影装置。   As means for setting the number of persons of the subject to be extracted by the person partial image extracting means, means for setting by the user inputting the number of persons via the input unit, and / or the subject from the photographed image 3. The apparatus according to claim 1, further comprising: a person detection unit that detects a person to be detected, and means for counting and automatically setting the number of persons detected by the person detection unit. Shooting device. 前記人物部分画像抽出手段において、複数枚の撮影画像それぞれから同一人物の前記人物部分画像を抽出する際に、被写体の人物の中から同一人物を判別する手段として、撮影画像の座標位置に基づいて同一人物か否かを判別する手段、あるいは、撮影画像の人物の服装、帽子の模様、色合いに基づいて同一人物か否かを判別する手段、あるいは、少なくとも撮影画像の人物の顔部分の輪郭、目、鼻、口の特徴量に基づいて同一人物か否かを判別する手段、のいずれか1ないし複数の手段を備えていることを特徴とする請求項1ないし3のいずれかに記載の撮影装置。   In the person partial image extracting means, when extracting the person partial image of the same person from each of a plurality of photographed images, as means for discriminating the same person from the subjects, based on the coordinate position of the photographed image Means for determining whether or not they are the same person, or means for determining whether or not they are the same person based on the clothes, hat pattern and color of the photographed image, or at least the contour of the face portion of the person in the photographed image, The photographing according to any one of claims 1 to 3, further comprising any one or more means for discriminating whether or not they are the same person based on feature quantities of eyes, nose and mouth. apparatus. 前記ベストショット画像判別手段において人物毎の前記ベストショット画像を判別する際に、顔が正面を向いている度合い、目が開いていて正面を見ている度合い、表情が笑顔となっている度合い、取得した前記人物部分画像の顔部分の大きさの度合い、取得した前記人物部分画像のシャープネス度、色彩の鮮やかさの度合い、ブライトネス度、のいずれか1ないし複数を少なくとも含むベストショット度に基づいて判別することを特徴とする請求項1ないし4のいずれかに記載の撮影装置。   When determining the best shot image for each person in the best shot image determining means, the degree that the face is facing the front, the degree that the eyes are open and looking the front, the degree that the expression is smiling, Based on the best shot degree including at least one or more of the degree of the size of the face part of the acquired person partial image, the sharpness degree, the degree of vividness of the color, and the degree of brightness of the acquired person part image. The photographing apparatus according to claim 1, wherein the photographing apparatus is discriminated. 前記ベストショット画像判別手段において人物毎の前記ベストショット画像を判別するために用いる前記ベストショット度を、前記合成画像の用途・シーンに応じて、可変に設定することができることを特徴とする請求項5に記載の撮影装置。   The best shot degree used for discriminating the best shot image for each person in the best shot image discriminating means can be variably set according to the use / scene of the composite image. 5. The photographing apparatus according to 5. 画像を撮影する撮影機能を有する撮影装置付き携帯端末において、前記撮影機能として、請求項1ないし6のいずれかに記載の撮影装置を搭載することを特徴とする撮影装置付き携帯端末。   A portable terminal with a photographing apparatus having a photographing function for photographing an image, wherein the photographing apparatus according to any one of claims 1 to 6 is mounted as the photographing function. 同一の被写体として1ないし複数の人物を撮影した撮影画像を複数枚取得する複数枚撮影画像取得ステップと、取得された複数枚の撮影画像それぞれから被写体とされた同一人物毎の画像を人物部分画像として抽出する人物部分画像抽出ステップと、同一人物毎に抽出された複数枚の前記人物部分画像の中から同一人物それぞれに関して最も写りが良い画像を、各人物毎のベストショット画像として判別するベストショット画像判別ステップと、取得された複数枚の撮影画像のいずれかの背景画像と各人物毎の前記ベストショット画像とを合成して1枚の合成画像として生成する合成画像生成ステップとを、少なくとも有していることを特徴とする人物撮影画像処理方法。   A plurality of captured image acquisition steps for acquiring a plurality of captured images obtained by capturing one or a plurality of persons as the same subject, and images of the same person as subjects from each of the acquired plurality of captured images A person partial image extraction step to extract the best shot image for each person as the best shot image for each person from among the plurality of person partial images extracted for each person At least an image discrimination step and a composite image generation step of generating a single composite image by combining any one of the acquired background images of the captured images and the best shot image for each person. A person-captured image processing method characterized by: 前記複数枚撮影画像取得ステップとして、シャッタの押下操作がなされた際に、画像取得枚数としてあらかじめ定めた枚数の画像を連続して撮影するステップ、あるいは、撮影開始を指示する開始シャッタと撮影終了を指示する終了シャッタとを備え、前記開始シャッタの押下操作がなされた以降、前記終了シャッタの押下操作がなされるまでの期間を画像取得時間として、該画像取得時間の間、あらかじめ定めた時間間隔で連続して画像を撮影する動作を繰り返すことにより、任意の枚数の撮影画像を取得するステップ、あるいは、シャッタの長押しが継続する期間を画像取得時間として、該画像取得時間の間、あらかじめ定めた時間間隔で連続して画像を撮影する動作を繰り返すことにより、任意の枚数の撮影画像を取得するステップ、のいずれか1ないし複数のステップを有していることを特徴とする請求項8に記載の人物撮影画像処理方法。   As the multiple-photographed image acquisition step, when a shutter pressing operation is performed, a step of continuously capturing a predetermined number of images as the number of image acquisitions, or a start shutter for instructing start of shooting and an end of shooting are performed. An end shutter for instructing, and a period from when the start shutter is pressed down to when the end shutter is pressed is set as an image acquisition time, and the image acquisition time is set at a predetermined time interval. By repeating the operation of continuously capturing images, a step of acquiring an arbitrary number of captured images or a period during which the shutter is continuously pressed is set as an image acquisition time. A step of acquiring an arbitrary number of captured images by repeating an operation of continuously capturing images at time intervals; Portrait image processing method according to claim 8, characterized in that it has either one or a plurality of steps. 前記人物部分画像抽出ステップにより抽出すべき被写体の人物の人数を設定するステップとして、使用者が入力部を介して当該人数を入力することにより設定するステップ、および/または、撮影画像の中から被写体となる人物を検出する人物検出ステップにより検出した人物の人数を計数して自動的に設定するステップ、を有していることを特徴とする請求項8または9に記載の人物撮影画像処理方法。   As the step of setting the number of persons of the subject to be extracted in the person partial image extraction step, the step of setting by the user inputting the number of persons via the input unit and / or the subject from the captured image 10. The person-photographed image processing method according to claim 8, further comprising: a step of counting and automatically setting the number of persons detected in the person detection step of detecting a person who becomes a person. 前記人物部分画像抽出ステップにおいて、複数枚の撮影画像それぞれから同一人物の前記人物部分画像を抽出する際に、被写体の人物の中から同一人物を判別するステップとして、撮影画像の座標位置に基づいて同一人物か否かを判別するステップ、あるいは、撮影画像の人物の服装、帽子の模様、色合いに基づいて同一人物か否かを判別するステップ、あるいは、撮影画像の人物の顔部分の輪郭、目、鼻、口の特徴量に基づいて同一人物か否かを判別するステップ、のいずれか1ないし複数のステップを少なくとも有していることを特徴とする請求項8ないし10のいずれかに記載の人物撮影画像処理方法。   In the person partial image extraction step, when extracting the person partial image of the same person from each of a plurality of photographed images, as a step of discriminating the same person from the subjects, based on the coordinate position of the photographed image A step of determining whether or not they are the same person, a step of determining whether or not they are the same person based on the clothes, hat pattern and color of the person in the photographed image, or the contour and eyes of the person's face in the photographed image 11. The method according to claim 8, further comprising at least one step of determining whether or not the person is the same person based on a feature amount of the nose and mouth. Person photographed image processing method. 前記ベストショット画像判別ステップにおいて人物毎の前記ベストショット画像を判別する際に、顔が正面を向いている度合い、目が開いていて正面を見ている度合い、表情が笑顔となっている度合い、取得した前記人物部分画像の顔部分の大きさの度合い、取得した前記人物部分画像のシャープネス度、色彩の鮮やかさの度合い、ブライトネス度、のいずれか1ないし複数を少なくとも含むベストショット度に基づいて判別することを特徴とする請求項8ないし11のいずれかに記載の人物撮影画像処理方法。   When determining the best shot image for each person in the best shot image determination step, the degree of face facing forward, the degree of open eyes and looking forward, the degree of facial expression smiling, Based on the best shot degree including at least one or more of the degree of the size of the face part of the acquired person partial image, the sharpness degree, the degree of vividness of the color, and the degree of brightness of the acquired person part image. 12. The person-photographed image processing method according to claim 8, wherein discrimination is performed. 前記ベストショット画像判別ステップにおいて人物毎の前記ベストショット画像を判別するために用いる前記ベストショット度を、前記合成画像の用途・シーンに応じて、可変に設定することができることを特徴とする請求項12に記載の人物撮影画像処理方法。   The best shot degree used for discriminating the best shot image for each person in the best shot image discriminating step can be variably set according to the use / scene of the composite image. 12. The person-captured image processing method according to 12. 請求項8ないし13のいずれかに記載の人物撮影画像処理方法を、コンピュータにより実行可能なプログラムとして実施していることを特徴とする人物撮影画像処理プログラム。   14. A person photographed image processing program, wherein the person photographed image processing method according to claim 8 is implemented as a program executable by a computer. 請求項14に記載の人物撮影画像処理プログラムを、コンピュータにより読み取り可能な記録媒体に記録していることを特徴とするプログラム記憶媒体。
15. A program storage medium, wherein the human photographed image processing program according to claim 14 is recorded on a computer-readable recording medium.
JP2008265928A 2008-10-15 2008-10-15 Imaging device, portable terminal with imaging device, person captured image processing method, person captured image processing program, and recording medium Expired - Fee Related JP5527789B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008265928A JP5527789B2 (en) 2008-10-15 2008-10-15 Imaging device, portable terminal with imaging device, person captured image processing method, person captured image processing program, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008265928A JP5527789B2 (en) 2008-10-15 2008-10-15 Imaging device, portable terminal with imaging device, person captured image processing method, person captured image processing program, and recording medium

Publications (2)

Publication Number Publication Date
JP2010098404A true JP2010098404A (en) 2010-04-30
JP5527789B2 JP5527789B2 (en) 2014-06-25

Family

ID=42259801

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008265928A Expired - Fee Related JP5527789B2 (en) 2008-10-15 2008-10-15 Imaging device, portable terminal with imaging device, person captured image processing method, person captured image processing program, and recording medium

Country Status (1)

Country Link
JP (1) JP5527789B2 (en)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010098661A (en) * 2008-10-20 2010-04-30 Nikon Corp Camera, image sharing server and image sharing program
JP2012004747A (en) * 2010-06-15 2012-01-05 Toshiba Corp Electronic equipment and image display method
WO2013128605A1 (en) * 2012-02-29 2013-09-06 富士通株式会社 Transmission device, receiving device, transmission-power control method, and program
JP2014039171A (en) * 2012-08-16 2014-02-27 Make Softwear:Kk Photographing game machine
US20160241916A1 (en) * 2011-08-01 2016-08-18 At&T Intellectual Property I, Lp Method and apparatus for managing personal content
JP2020162123A (en) * 2019-06-04 2020-10-01 マクセル株式会社 Imaging apparatus and image processing method
US10929900B2 (en) 2011-08-11 2021-02-23 At&T Intellectual Property I, L.P. Method and apparatus for managing advertisement content and personal content
JP2021066575A (en) * 2019-10-25 2021-04-30 株式会社日立製作所 Elevator system

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7472363B1 (en) 2023-04-07 2024-04-22 美恵子 藤山 Wire type door closer

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005227957A (en) * 2004-02-12 2005-08-25 Mitsubishi Electric Corp Optimal face image recording device and optimal face image recording method
JP2006203600A (en) * 2005-01-21 2006-08-03 Konica Minolta Holdings Inc Imaging apparatus, image processor, image processing system, and image processing method and program
JP2007226346A (en) * 2006-02-21 2007-09-06 Canon Inc Image processor and image processing method
JP2007299297A (en) * 2006-05-02 2007-11-15 Fujifilm Corp Image composition device and control method thereof
JP2008099260A (en) * 2006-09-14 2008-04-24 Nikon Corp Image processing device, electronic camera and image processing program
JP2008217714A (en) * 2007-03-07 2008-09-18 Sogo Keibi Hosho Co Ltd Tracking device, tracking method and tracking program
JP2008236645A (en) * 2007-03-23 2008-10-02 Fujifilm Corp Photographing device

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005227957A (en) * 2004-02-12 2005-08-25 Mitsubishi Electric Corp Optimal face image recording device and optimal face image recording method
JP2006203600A (en) * 2005-01-21 2006-08-03 Konica Minolta Holdings Inc Imaging apparatus, image processor, image processing system, and image processing method and program
JP2007226346A (en) * 2006-02-21 2007-09-06 Canon Inc Image processor and image processing method
JP2007299297A (en) * 2006-05-02 2007-11-15 Fujifilm Corp Image composition device and control method thereof
JP2008099260A (en) * 2006-09-14 2008-04-24 Nikon Corp Image processing device, electronic camera and image processing program
JP2008217714A (en) * 2007-03-07 2008-09-18 Sogo Keibi Hosho Co Ltd Tracking device, tracking method and tracking program
JP2008236645A (en) * 2007-03-23 2008-10-02 Fujifilm Corp Photographing device

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010098661A (en) * 2008-10-20 2010-04-30 Nikon Corp Camera, image sharing server and image sharing program
JP2012004747A (en) * 2010-06-15 2012-01-05 Toshiba Corp Electronic equipment and image display method
US20160241916A1 (en) * 2011-08-01 2016-08-18 At&T Intellectual Property I, Lp Method and apparatus for managing personal content
US10219042B2 (en) * 2011-08-01 2019-02-26 At&T Intellectual Property I, L.P. Method and apparatus for managing personal content
US11082747B2 (en) 2011-08-01 2021-08-03 At&T Intellectual Property I, L.P. Method and apparatus for managing personal content
US10929900B2 (en) 2011-08-11 2021-02-23 At&T Intellectual Property I, L.P. Method and apparatus for managing advertisement content and personal content
WO2013128605A1 (en) * 2012-02-29 2013-09-06 富士通株式会社 Transmission device, receiving device, transmission-power control method, and program
JP2014039171A (en) * 2012-08-16 2014-02-27 Make Softwear:Kk Photographing game machine
JP2020162123A (en) * 2019-06-04 2020-10-01 マクセル株式会社 Imaging apparatus and image processing method
JP2021066575A (en) * 2019-10-25 2021-04-30 株式会社日立製作所 Elevator system

Also Published As

Publication number Publication date
JP5527789B2 (en) 2014-06-25

Similar Documents

Publication Publication Date Title
JP5527789B2 (en) Imaging device, portable terminal with imaging device, person captured image processing method, person captured image processing program, and recording medium
JP5880182B2 (en) Image generating apparatus, image generating method, and program
TWI380231B (en)
JP5467992B2 (en) Imaging device
TW201246119A (en) Face detector, image pickup device, and face detecting method
JP5402018B2 (en) Display device and imaging device
JP2004062565A (en) Image processor and image processing method, and program storage medium
US10348958B2 (en) Image processing apparatus for performing predetermined processing on a captured image
US20100188520A1 (en) Imaging device and storage medium storing program
JP4802884B2 (en) Imaging apparatus, captured image recording method, and program
JP5604285B2 (en) Imaging device
JP7179446B2 (en) Information processing device, information processing method, and program
EP2430612A1 (en) Camera arrangement with image modification
KR20130035207A (en) Image processing device, image processing metho and recording medium
JP5111255B2 (en) Image processing apparatus, image processing method, computer program, and recording medium
JP2011130208A (en) Imaging apparatus, apparatus and method for processing image
JP5477025B2 (en) Image display device and program
JP2011128676A (en) Image processing apparatus, image processing method, and image processing program
JP2004104426A (en) Imaging apparatus
JP2009089083A (en) Age estimation photographing device and age estimation photographing method
JP6664271B2 (en) Printing system
JP2013141104A (en) Imaging apparatus
JP2010114708A (en) Camera device, photographing method, photographing control program
JP5111215B2 (en) IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM
JP6390075B2 (en) Image processing apparatus, electronic camera, and image processing program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110908

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120927

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121009

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130409

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130709

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20130718

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20130809

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140410

R150 Certificate of patent or registration of utility model

Ref document number: 5527789

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees