JP5036599B2 - Imaging device - Google Patents

Imaging device Download PDF

Info

Publication number
JP5036599B2
JP5036599B2 JP2008054625A JP2008054625A JP5036599B2 JP 5036599 B2 JP5036599 B2 JP 5036599B2 JP 2008054625 A JP2008054625 A JP 2008054625A JP 2008054625 A JP2008054625 A JP 2008054625A JP 5036599 B2 JP5036599 B2 JP 5036599B2
Authority
JP
Japan
Prior art keywords
blur
amount
main subject
blurring
focal length
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008054625A
Other languages
Japanese (ja)
Other versions
JP2009212899A (en
Inventor
圭二 日室
浩 武田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2008054625A priority Critical patent/JP5036599B2/en
Publication of JP2009212899A publication Critical patent/JP2009212899A/en
Application granted granted Critical
Publication of JP5036599B2 publication Critical patent/JP5036599B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、撮像装置に関し、特に、ズームレンズの焦点距離やズーム位置、デジタルズームの拡大倍率や擬似焦点距離に応じて、ぼけの量を変更し、被写界深度を擬似的に可変することで、銀塩カメラのような望遠効果を得たり、銀塩カメラではありえなかった撮影効果を得ることが可能な撮像装置に関する。   The present invention relates to an imaging apparatus, and in particular, by changing the amount of blur and changing the depth of field in a pseudo manner according to the focal length and zoom position of a zoom lens, the enlargement magnification of a digital zoom, and the pseudo focal length. The present invention relates to an imaging apparatus capable of obtaining a telephoto effect such as a silver salt camera or a photographing effect that cannot be obtained with a silver salt camera.

ポートレート撮影や花などのマクロ撮影では、意図的に前景や背景をぼかすことによって主要被写体を浮かび上がらせる写真表現が効果的である。このような写真表現を行う場合、主要被写体にピントを合わせ、被写界深度を浅くした状態で撮影を行うが、この場合の被写界深度は、レンズの口径や焦点距離などの光学要素により決定されることになる。   In portrait photography and macro photography such as flowers, it is effective to use photographic expressions that highlight the main subject by intentionally blurring the foreground or background. When performing such photographic expression, focus on the main subject and shoot with the depth of field shallow, but the depth of field in this case depends on optical elements such as the aperture and focal length of the lens. Will be decided.

一方、デジタルカメラ、特にコンパクトタイプのデジタルカメラにおいて、撮像素子の露光面は、銀塩カメラの露光面(フイルム面)比べて著しく狭い。このため、銀塩カメラと同じ画角を得ようとすると、銀塩カメラの撮像レンズの焦点距離に比べてデジタルカメラの撮像レンズの焦点距離は短くなる。また、口径の大きな撮影レンズは大型、高価となるため、コンパクトタイプのデジタルカメラでは口径の小さな撮影レンズが用いられていることが多い。
被写界深度は、焦点距離が小さく、口径が小さくなると深くなり、あまりぼけなくなることは周知である。したがって、デジタルカメラ、特にコンパクトタイプのデジタルカメラでは被写界深度が銀塩カメラよりも深くなり、上記のような被写界深度を浅くしてぼけ量を大きくした写真表現を苦手とすることが多い。
On the other hand, in a digital camera, particularly a compact type digital camera, the exposure surface of the image sensor is significantly narrower than the exposure surface (film surface) of the silver halide camera. For this reason, when trying to obtain the same angle of view as the silver salt camera, the focal length of the imaging lens of the digital camera becomes shorter than the focal length of the imaging lens of the silver salt camera. In addition, since a photographic lens having a large aperture is large and expensive, a photographic lens having a small aperture is often used in a compact digital camera.
It is well known that the depth of field becomes deeper and less blurred when the focal length is small and the aperture is small. Therefore, digital cameras, especially compact type digital cameras, have a deeper depth of field than silver halide cameras, and are often not good at photographic expressions with a shallow depth of field and a large amount of blur. .

デジタルカメラの上記苦手を解決するための技術としては、例えば特許文献1がある。
特許文献1には、焦点調節用レンズと、撮影部と、制御部と、ボケ検出部と、画像分割部と、ボケ強調部とを備え、制御部が、主要被写体が被写界深度の範囲内に収まり、ジャストピントでない位置にフォーカス位置を調整し、撮影する。その後ボケ検出部が、画像データを主要被写体と、背景に分離し、背景のぼけ量に応じて、さらに背景のぼけ量を強調し、できるだけ自然なぼけの写真表現を得るものである(第1の実施形態)。さらに第2の実施形態として、演算量を減らす方法、第3の実施形態として、背景だけでなく前景のぼけを自然にさせるための技術が提案されている。
As a technique for solving the above weaknesses of digital cameras, there is, for example, Patent Document 1.
Patent Document 1 includes a focus adjustment lens, a photographing unit, a control unit, a blur detection unit, an image division unit, and a blur enhancement unit, and the control unit has a main subject within the range of depth of field. Adjust the focus position to a position that fits inside and is not in focus. Thereafter, the blur detection unit separates the image data into the main subject and the background, further enhances the blur amount of the background according to the blur amount of the background, and obtains a photographic expression that is as natural as possible (first). Embodiment). Furthermore, as a second embodiment, a method for reducing the amount of calculation is proposed, and as a third embodiment, a technique for naturally blurring not only the background but also the foreground is proposed.

特開2007−124398号公報JP 2007-124398 A

ところで、上記特許文献1のカメラシステムでは、できるだけ自然なぼけを得ることが目的であり、そのために、主要被写体が被写界深度内のぎりぎりの部分にくるようにあえてフォーカスレンズをジャストピント位置からずらしてセットし、背景部を光学的にできるだけぼかしておき、さらにそのぼけ量に応じて、画像処理で付加・強調するぼかし量を変化させることで、元々のぼけ量が大きい場合はより大きくぼかし、小さい場合には小さくぼかすという処理を行う。
元々のぼけ量に応じた自然なぼけは得られるものの、ズームレンズの焦点距離やズーム位置に応じてぼけを強調したり、ましてやデジタルズームの拡大率や擬似焦点距離に応じて、ぼけを付加し望遠効果を変更・強調したり、銀塩カメラではありえなかった写真表現(望遠側より、広角側で大きくぼかすなど)という効果はない。更には、ズームレンズや、デジタルズームの望遠効果を変更・強調する、従来ありえなかった写真表現を実現するという課題に対しては、解決方法が提示されているわけではない。
By the way, in the camera system of the above-mentioned Patent Document 1, the objective is to obtain as natural a blur as possible. For this purpose, the focus lens is deliberately moved from the just-focus position so that the main subject is at the last part of the depth of field. Set the offset and optically blur the background as much as possible, and change the blur amount added / emphasized by image processing according to the blur amount, so that the blur is larger when the original blur amount is large. If it is small, a process of blurring is performed.
Although natural blur according to the original amount of blur can be obtained, blur is emphasized according to the focal length and zoom position of the zoom lens, or even blur is added according to the enlargement ratio and pseudo focal length of the digital zoom. There is no effect of changing or emphasizing the effect or photographic expression (such as blurring more widely on the wide-angle side than on the telephoto side) that could not have been possible with a silver halide camera. Furthermore, no solution has been proposed for the problem of realizing a photographic expression that has not been possible before, which changes or emphasizes the telephoto effect of a zoom lens or digital zoom.

本発明は上記従来技術の課題を解決するためのものであって、その目的は、ズームレンズの焦点距離やズーム位置、デジタルズームの拡大倍率や擬似焦点距離に応じて、ぼけの量を変更し、被写界深度を擬似的に可変することで、銀塩カメラのような望遠効果を得たり、銀塩カメラではありえなかった撮影効果を得ることが可能な撮像装置を提供することである。   The present invention is for solving the above-described problems of the prior art, and its purpose is to change the amount of blur according to the focal length and zoom position of the zoom lens, the enlargement magnification and the pseudo focal length of the digital zoom, It is an object of the present invention to provide an imaging apparatus that can obtain a telephoto effect like a silver salt camera or a photographing effect that cannot be obtained with a silver salt camera by artificially varying the depth of field.

この目的を達成するために請求項1記載の発明は、焦点距離を変更可能なズームレンズと、
該ズームレンズの焦点距離を制御するズームレンズ制御手段と、
前記ズームレンズとズームレンズ制御手段とを介して撮像された被写体画像の主要被写体部の領域と該主要被写体部以外の領域を分離する被写体像分離手段と、
該被写体像分離手段により分離された前記主要被写体部以外の領域をぼかし、かつ、ぼかし量を変更可能なぼかし量制御手段と、
前記ズームレンズの焦点距離またはズームレンズ位置を変更した場合に、前記ぼかし量制御手段からの出力であるぼかし量を変更するぼかし量変更手段とを有し、
前記ぼかし量変更手段は、前記ズームレンズの焦点距離が大きくなるか、または前記ズームレンズ位置が望遠位置に近づくことに応じて、ぼかし量を小さくするように制御することを特徴とする撮像装置である。
In order to achieve this object, the invention described in claim 1 includes a zoom lens capable of changing a focal length,
Zoom lens control means for controlling the focal length of the zoom lens;
Subject image separation means for separating the main subject portion area of the subject image captured through the zoom lens and the zoom lens control means and the region other than the main subject portion;
A blur amount control unit capable of blurring a region other than the main subject portion separated by the subject image separation unit and changing a blur amount;
If you change the focal length or the zoom lens position of the zoom lens, have a, a blurring amount changing means for changing the amount of blur that is an output from the blurring amount control means,
The blur amount changing means controls the blur amount to be decreased as the focal length of the zoom lens increases or the zoom lens position approaches the telephoto position. is there.

また、請求項2記載の発明は、撮像レンズと、
該撮像レンズにより撮像された被写体画像を電気的に処理して擬似的に焦点距離を変更したかのような画像を得るデジタルズーム処理手段と、
前記撮像レンズとデジタルズーム処理手段とを介して撮像された被写体画像の主要被写体部の領域と該主要被写体部以外の領域を分離する被写体像分離手段と、
該被写体像分離手段により分離された前記主要被写体部以外の領域をぼかし、かつ、ぼかし量を変更可能なぼかし量制御手段と、
前記デジタルズーム処理手段によるデジタルズームの拡大倍率または擬似焦点距離を変更した場合に、前記ぼかし量制御手段からの出力であるぼかし量を変更するぼかし量変更手段とを有し、
前記ぼかし量変更手段は、前記デジタルズーム処理手段によるデジタルズームの拡大倍率が大きくなるか、または擬似焦点距離が大きくなることに応じて、ぼかし量を小さくするように制御することを特徴とする撮像装置である。
The invention according to claim 2 is an imaging lens;
A digital zoom processing means for obtaining an image as if the focal length was changed in a pseudo manner by electrically processing a subject image captured by the imaging lens;
Subject image separation means for separating a main subject portion area of a subject image captured through the imaging lens and the digital zoom processing means and a region other than the main subject portion;
A blur amount control unit capable of blurring a region other than the main subject portion separated by the subject image separation unit and changing a blur amount;
If you change the magnification or pseudo focal length of the digital zoom by the digital zoom processing unit, have a, a blurring amount changing means for changing the amount of blur that is an output from the blurring amount control means,
The blur amount changing unit is an imaging apparatus that controls to reduce the blur amount in accordance with an increase in the digital zoom magnification by the digital zoom processing unit or an increase in the pseudo focal length. is there.

また、請求項3記載の発明は、前記被写体像分離手段は、前記主要被写体部の領域と、前記主要被写体部以外の領域として、前景領域および背景領域に分離し、前記ぼかし量制御手段は、前記主要被写体部以外の領域のうち前記前景領域のみをぼかすように制御することを特徴とする請求項1または請求項2の撮像装置である。
また、請求項4記載の発明は、前記被写体像分離手段は、前記主要被写体部の領域と、前記主要被写体部以外の領域として、前景領域および背景領域に分離し、
前記ぼかし量変更手段は、前記前景領域のぼかし量を前記背景領域よりも小さくするように制御する請求項1または請求項2の撮像装置である
Further, the subject image separating means separates the main subject portion area and the area other than the main subject portion into a foreground area and a background area, and the blur amount control means includes: 3. The image pickup apparatus according to claim 1, wherein control is performed so as to blur only the foreground area of the area other than the main subject portion .
Further, in the invention according to claim 4, the subject image separating unit separates the main subject portion region and the main subject portion region into a foreground region and a background region,
The imaging apparatus according to claim 1, wherein the blur amount changing unit controls the blur amount of the foreground region to be smaller than that of the background region .

また、請求項5記載の発明は、さらに、各種撮影モードを設定する撮影モード設定手段と、前記被写体画像を表示する表示手段とを備え、
前記ぼかし量制御手段によるぼかし制御を行う撮影モード設定時において、撮影前にぼかし処理状況を確認する際に、ぼかし制御を一時的に付加、解除可能なぼかし制御一時解除手段を有することを特徴とする請求項1または請求項2の撮像装置である。
また、請求項記載の発明は、前記ぼかし制御一時解除手段を操作した状態で、撮影を行うことにより、ぼかし処理を行わない撮影を行う手段を有することを特徴とする請求項記載の撮像装置である。
Further, the invention according to claim 5 further includes shooting mode setting means for setting various shooting modes, and display means for displaying the subject image.
In the shooting mode setting for performing blur control by the blur amount control means, it has blur control temporary release means that can temporarily add and release blur control when checking the blur processing status before shooting. The imaging apparatus according to claim 1 or 2.
The invention of claim 6, wherein, in a state of operating the blurring control temporary release means, by performing photographing, imaging according to claim 5, characterized in that it comprises a means for performing photography is not carried out blurring processing Device.

ここで、本発明の「課題」と「解決手段」を明確にしておく。
「課題」
光学ズームを持っているデジタルカメラ、特にコンパクトタイプのデジタルカメラの場合、銀塩カメラに比べて、撮像面が小さいため光学系の焦点距離が小さいので、被写界深度が小さく、銀塩カメラのような撮影効果(一例として、ポートレート撮影などで人物だけが浮き上がってくるような撮影効果)が得られない。
また、光学ズームを持っていないコンパクトタイプのデジタルカメラの場合、いわゆるデジタルズーム機能を持っている機種が存在する。デジタルズーム機能では、元々の画像の一部を切り出して拡大している。そのため、元々の画像がぼけていない場合、拡大することによるぼけ量の拡大を除くと、ぼけ量はそのままであり、同様に、銀塩カメラのような撮影効果(一例として、ポートレート撮影などで人物だけが浮き上がってくるような撮影効果)は得られない。
Here, the “issue” and “solution” of the present invention will be clarified.
"Task"
In the case of digital cameras with optical zoom, especially compact type digital cameras, the focal length of the optical system is small because the imaging surface is small compared to silver halide cameras, so the depth of field is small, like a silver halide camera. Photographic effect (for example, a photographic effect in which only a person is raised in portrait photography or the like) cannot be obtained.
In the case of a compact digital camera that does not have an optical zoom, there is a model that has a so-called digital zoom function. In the digital zoom function, a part of the original image is cut out and enlarged. For this reason, if the original image is not blurred, the blur amount remains the same except for enlargement of the blur amount due to enlargement. It is not possible to obtain a shooting effect that makes only a person rise.

「解決手段」
本発明の撮像装置は、ズームレンズと、ズーム制御部、撮像部(撮像装置なので当然備えている)、撮像画像分離部とを有し、撮像した被写体画像を主要被写体と、それ以外の領域に分離する。分離した主要被写体以外の領域部についてはズームレンズの焦点距離またはズーム位置に応じて、ぼかし量を変更することで、望遠効果を強調したり、銀塩カメラでは実施し得なかった撮影効果を付加するものである。また、ズームレンズを持たず、デジタルズーム機能を持つ構成の場合は、デジタルズームの拡大倍率または、擬似焦点距離に応じて、ぼかし量を変更して、同様の効果を得るものである。
なお、前記特許文献1は、主として被写体像を主要被写体と背景に分離して、背景領域に対し、所定の画像処理を行って、ぼけ量を変化させる点は本発明と似ている。しかし、本発明は、何に基づいて、ぼけ量を変化させているかが異なり、その目的、効果も異なる。
"Solution"
The imaging device of the present invention includes a zoom lens, a zoom control unit, an imaging unit (which is naturally provided as an imaging device), and a captured image separation unit. The captured subject image is placed in a main subject and other areas. To separate. For areas other than the separated main subject, the telephoto effect is enhanced by changing the blur amount according to the focal length or zoom position of the zoom lens, or a shooting effect that could not be implemented with a silver salt camera was added. To do. In the case of a configuration having a digital zoom function without a zoom lens, the same effect can be obtained by changing the blur amount in accordance with the enlargement magnification of the digital zoom or the pseudo focal length.
Note that Patent Document 1 is similar to the present invention in that a subject image is mainly separated into a main subject and a background, and predetermined image processing is performed on the background region to change the blur amount. However, the present invention is different based on what the blur amount is changed, and the purpose and effect are also different.

請求項1記載の発明によれば、焦点距離を変更可能なズームレンズと、該ズームレンズの焦点距離を制御するズームレンズ制御手段と、前記ズームレンズとズームレンズ制御手段とを介して撮像された被写体画像の主要被写体部の領域と該主要被写体部以外の領域を分離する被写体像分離手段と、該被写体像分離手段により分離された前記主要被写体部以外の領域をぼかし、かつ、ぼかし量を変更可能なぼかし量制御手段と、前記ズームレンズの焦点距離またはズームレンズ位置を変更した場合に、前記ぼかし量制御手段からの出力であるぼかし量を変更するぼかし量変更手段とを有するので、ズームレンズの焦点距離またはズーム位置を変更した時に、ぼかし制御するぼかし量を変更できる。   According to the first aspect of the present invention, the zoom lens that can change the focal length, the zoom lens control unit that controls the focal length of the zoom lens, and the zoom lens and the zoom lens control unit. A subject image separation unit that separates a region of a main subject portion of a subject image from a region other than the main subject portion, a region other than the main subject portion separated by the subject image separation unit is blurred, and a blur amount is changed. The zoom lens includes a possible blur amount control unit and a blur amount change unit that changes a blur amount that is an output from the blur amount control unit when a focal length or a zoom lens position of the zoom lens is changed. When the focal length or zoom position is changed, the blur amount for blur control can be changed.

請求項2記載の発明によれば、撮像レンズと、該撮像レンズにより撮像された被写体画像を電気的に処理して擬似的に焦点距離を変更したかのような画像を得るデジタルズーム処理手段と、前記撮像レンズとデジタルズーム処理手段とを介して撮像された被写体画像の主要被写体部の領域と該主要被写体部以外の領域を分離する被写体像分離手段と、該被写体像分離手段により分離された前記主要被写体部以外の領域をぼかし、かつ、ぼかし量を変更可能なぼかし量制御手段と、前記デジタルズーム処理手段によるデジタルズームの拡大倍率または擬似焦点距離を変更した場合に、前記ぼかし量制御手段からの出力であるぼかし量を変更するぼかし量変更手段とを有するので、デジタルズームの拡大倍率、または擬似焦点距離を変更すると、ぼかし制御するぼかし量を変更できる。   According to the second aspect of the present invention, the image pickup lens and the digital zoom processing means for obtaining an image as if the focal length was changed in a pseudo manner by electrically processing the subject image picked up by the image pickup lens, A subject image separation unit that separates a region of a main subject portion of a subject image captured through the imaging lens and the digital zoom processing unit from a region other than the main subject portion, and the main image separated by the subject image separation unit. The blur amount control means that can blur the area other than the subject portion and change the blur amount, and the digital zoom processing means when the digital zoom magnification or pseudo focal length is changed, the output from the blur amount control means Since there is a blur amount changing means for changing a certain blur amount, if the magnification of the digital zoom or the pseudo focal length is changed, You can change the blurring amount that lend control.

また、請求項記載の発明によれば、前記ぼかし量変更手段は、前記ズームレンズの焦点距離が大きくなるか、または前記ズームレンズ位置が望遠位置に近づくことに応じて、ぼかし量を小さくするように制御するので、ズーム位置の変更に比例してぼかし制御するぼかし量を増減することができる。
Further, according to the first aspect of the invention, the blurring amount changing means or the focal length of the zoom lens becomes large, or the zoom lens position in response to approach the telephoto position, the blurring amount small fence Therefore, it is possible to increase / decrease the blur amount to be controlled in proportion to the change of the zoom position.

また、請求項記載の発明によれば、前記ぼかし量変更手段は、前記デジタルズーム処理手段によるデジタルズームの拡大倍率が大きくなるか、または擬似焦点距離が大きくなることに応じて、ぼかし量を小さくするように制御するので、デジタルズームの拡大倍率に比例してぼかし制御するぼかし量を増減することができる。
請求項記載の発明によれば、請求項1または請求項2の撮像装置において、さらに、各種撮影モードを設定する撮影モード設定手段と、前記被写体画像を表示する表示手段とを備え、前記ぼかし量制御手段によるぼかし制御を行う撮影モード設定時において、撮影前にぼかし処理状況を確認する際に、ぼかし制御を一時的に付加、解除可能なぼかし制御一時解除手段を有するので、撮影前のぼかし制御するぼかし量の有無を切り替えながら、撮影結果を予測できる。
Further, according to the second aspect of the invention, the blurring amount changing means, the or magnification of the digital zoom by the digital zoom processing unit increases, or in response to the pseudo focal length increases, the blurring amount small fence Therefore, it is possible to increase or decrease the blur amount to be controlled in proportion to the enlargement magnification of the digital zoom.
According to a fifth aspect of the present invention, in the imaging apparatus according to the first or second aspect, the photographing apparatus further includes photographing mode setting means for setting various photographing modes and display means for displaying the subject image, and the blurring is performed. When setting the shooting mode to perform blur control by the amount control means, it has blur control temporary release means that can temporarily add and release blur control when checking the blur processing status before shooting, so blur before shooting Shooting results can be predicted while switching the presence or absence of the blur amount to be controlled.

請求項記載の発明によれば、請求項記載の撮像装置において、前記ぼかし制御一時解除手段を操作した状態で、撮影を行うことにより、ぼかし処理を行わない撮影を行う手段を有するので、ぼかし制御するぼかし量切り替えを使用する撮影モードかどうかを、撮影直前に簡単に切り替えることができる。
According to the invention described in claim 6, in the imaging apparatus according to claim 5 , since the photographing control is performed in a state in which the blur control temporary canceling unit is operated, the photographing is performed without performing the blurring process. Whether or not the shooting mode uses blur amount switching for blur control can be easily switched immediately before shooting.

効果のまとめとして、以上述べてきた構成により、ズームレンズ搭載の有無に関わらず、望遠効果の強調や、銀塩カメラでは、実施できなかった撮影を行うことができるとともに、使い勝手のよい、撮像装置を実現することができる。   As a summary of the effects, the above-described configuration makes it possible to enhance the telephoto effect and to perform shooting that could not be performed with a silver halide camera, regardless of whether or not a zoom lens is mounted, and is easy to use. Can be realized.

以下、本発明を図示の実施形態に基づいて説明する。
<<第1の実施形態>>
<構成>
図1に、デジタルスチルカメラ装置および接続機器の構成を示す。
図1において、01は、デジタルスチルカメラ装置である。02は、デジタルスチルカメラ装置01全体の制御を行うために設けられた、CPU、NANDフラッシュメモリ、SDRAM、タイマ−等からなるシステム制御部である。
03は、撮像のために設けられた光学系部品(レンズおよびレンズ駆動モータ)、CCD、CCD駆動回路、A/D変換器等からなる、撮像部である。
Hereinafter, the present invention will be described based on the illustrated embodiments.
<< First Embodiment >>
<Configuration>
FIG. 1 shows the configuration of a digital still camera device and connection devices.
In FIG. 1, 01 is a digital still camera device. Reference numeral 02 denotes a system control unit including a CPU, a NAND flash memory, an SDRAM, a timer, and the like, which are provided to control the entire digital still camera device 01.
Reference numeral 03 denotes an imaging unit including optical system parts (lens and lens driving motor) provided for imaging, a CCD, a CCD driving circuit, an A / D converter, and the like.

04は、撮像部03で得られた画像信号に種々の画像処理を施すと共に、撮像部03のCCD駆動タイミング、レンズ駆動モータを制御して焦点距離やズーム位置の切り替え、フォーカシング、露出調整等を行い、また、画像の圧縮伸長を行うために設けられた画像処理用DSP(デジタルシグナルプロセッサ)、RAM等からなる画像処理部である。
05は、画像処理部04で処理された画像信号をLCDへ表示するための信号処理を行い、また、ユーザーインターフェイスのための種々のグラフィック画像を生成し、次に説明するLCD06へ表示するために設けられたD/A変換器、オンスクリーンディスプレイコントローラ等からなる表示制御部である。
04 performs various image processing on the image signal obtained by the image pickup unit 03 and controls the CCD drive timing and lens drive motor of the image pickup unit 03 to switch the focal length and zoom position, perform focusing, exposure adjustment, and the like. The image processing unit includes an image processing DSP (digital signal processor), a RAM, and the like provided to perform compression and expansion of images.
05 performs signal processing for displaying the image signal processed by the image processing unit 04 on the LCD, generates various graphic images for the user interface, and displays them on the LCD 06 described below. This is a display control unit including a D / A converter, an on-screen display controller, and the like.

06は、画像を表示し、また、ユーザーインターフェイスのためのグラフィックを表示するために設けられたLCDである。07は、記録メディアとのインターフェイスのために設けられたメモリカードコントローラ等からなる記録メディアインターフェイス部である。
08は、圧縮された画像信号や画像に関する種々の情報を記憶するために設けられたフラッシュメモリ等からなる、デジタルスチルカメラ装置01から着脱可能な記録メディアである。
Reference numeral 06 denotes an LCD provided for displaying an image and displaying a graphic for a user interface. Reference numeral 07 denotes a recording medium interface unit including a memory card controller or the like provided for an interface with the recording medium.
Reference numeral 08 denotes a recording medium that is detachable from the digital still camera device 01 and includes a flash memory or the like provided to store a compressed image signal and various information related to the image.

09は、図示されていないキー、ダイアル等のユーザーインターフェイス(例えば電源SW、レリーズのためのレリーズSWや、撮影モード設定のための撮影モードダイヤル、各種設定のためのメニューSW、更には後述するぼけ量制御の一時解除や、ぼけ量制御使用撮影モードの有無を切り替えるや、ぼかし制御一時解除釦などからなる)を行い、またメインCPU(図示省略)への主電源制御を行うために設けられた、サブCPU等からなるハードキーインターフェイス部である。
10は、USBを接続してデータ通信を行うために設けられた、通信コントローラからなる通信インターフェイス部である。11は、デジタルスチルカメラ装置01をUSBで接続し、デジタルスチルカメラ装置01からの画像を転送して再生したり、デジタルスチルカメラ装置01へ各種設定を行うためのPC(パソコン)である。
09 is a user interface (not shown) such as a key and a dial (for example, a power switch, a release SW for release, a shooting mode dial for setting a shooting mode, a menu SW for various settings, and a blur described later. Provided to temporarily cancel the amount control, switch the presence / absence of the shooting mode using the blur amount control, and / or the blur control temporary release button), and perform the main power control to the main CPU (not shown) , A hard key interface unit including a sub CPU and the like.
Reference numeral 10 denotes a communication interface unit including a communication controller, which is provided to connect the USB and perform data communication. Reference numeral 11 denotes a PC (personal computer) for connecting the digital still camera device 01 via USB, transferring an image from the digital still camera device 01 for reproduction, and making various settings for the digital still camera device 01.

<概略動作>
まず、「従来の起動動作」について説明する。
利用者が図示されていない電源SWを入れると、ハードキーインターフェイス部09はメインCPUへの電源供給をオンする。システム制御部02内のメインCPUは、まずNANDフラッシュメモリのブート部からアクセス(プログラム実行)を開始し、ブートプログラムによってプログラム・データをSDRAMへ転送する。SDRAMへの転送が完了すると、プログラムの実行ポインタ(プログラムカウンタ)を、転送したSDRAM上のプログラムに移し、以降はSDRAM上のプログラムにより起動処理を開始する。
<Overview of operation>
First, the “conventional startup operation” will be described.
When the user turns on the power switch (not shown), the hard key interface unit 09 turns on the power supply to the main CPU. The main CPU in the system control unit 02 first starts access (program execution) from the boot unit of the NAND flash memory, and transfers program data to the SDRAM by the boot program. When the transfer to the SDRAM is completed, the program execution pointer (program counter) is moved to the transferred program on the SDRAM, and thereafter, the startup process is started by the program on the SDRAM.

起動処理には、OS(オペレーティングシステム)の初期化やレンズ鏡胴の繰りだし処理、記録メディアの初期化処理などが含まれる。鏡胴の繰り出し処理は、画像処理部04を介して撮像部03のレンズ駆動モータに所定の間隔毎にパルス信号を与えることにより行う。
また、記録メディアの初期化処理は、記録メディアインターフェイス部07を介して記録メディア08への電源とクロックを供給した後、記録メディア08へ初期化コマンドを発行する。実際の初期化処理は記録メディア08内で行われ、システム制御部02はその完了を検知するために記録メディア08のステータスを所定の間隔でチェックしている。
The start-up process includes an OS (operating system) initialization, a lens barrel extension process, a recording medium initialization process, and the like. The lens barrel feeding process is performed by giving a pulse signal to the lens driving motor of the imaging unit 03 at predetermined intervals via the image processing unit 04.
Also, in the initialization process of the recording medium, after supplying power and a clock to the recording medium 08 via the recording medium interface unit 07, an initialization command is issued to the recording medium 08. The actual initialization process is performed in the recording medium 08, and the system control unit 02 checks the status of the recording medium 08 at a predetermined interval in order to detect the completion.

次に、「撮影時の動作」について説明する。
利用者は撮影に先立ち、図示されていない種々のキーSWや、ダイヤルSWを操作し、撮影モード(後述するノーマルモード、ぼけ量制御モード等)を決定する。利用者の操作内容はハードキーインターフェイス部09を通じてシステム制御部02で判別され、システム制御部02は、操作に応じて表示制御部05へガイダンスグラフィックを生成して、利用者に次操作を促す。システム制御部02は、撮影モードが決定されると、モードに応じた処理パラメータを画像処理部04へ設定する。
Next, “operation during photographing” will be described.
Prior to shooting, the user operates various keys SW and dial SW (not shown) to determine the shooting mode (normal mode, blur amount control mode, etc. described later). The user's operation content is determined by the system control unit 02 through the hard key interface unit 09, and the system control unit 02 generates a guidance graphic to the display control unit 05 according to the operation, and prompts the user to perform the next operation. When the photographing mode is determined, the system control unit 02 sets processing parameters corresponding to the mode in the image processing unit 04.

また、利用者は図示されていないズームレバーSWを操作し、画角(撮影範囲)を決定する。利用者の操作内容はハードキーインターフェイス部09を通じてシステム制御部02で判別され、システム制御部02は、操作に応じて撮像部03を制御しレンズを駆動する。撮像部03は画像処理部04からの制御に従い、実際の撮影に先だって、モニタリング画像(被写体画像を撮像手段で撮像し、表示手段の解像度にあわせて加工したスルー画像)を表示するための撮像動作を開始する。   Further, the user operates a zoom lever SW (not shown) to determine the angle of view (shooting range). The user's operation content is determined by the system control unit 02 through the hard key interface unit 09, and the system control unit 02 controls the imaging unit 03 in accordance with the operation to drive the lens. In accordance with control from the image processing unit 04, the imaging unit 03 performs an imaging operation for displaying a monitoring image (a through image obtained by capturing the subject image with the imaging unit and processing it according to the resolution of the display unit) prior to actual shooting. To start.

撮像されたデータは連続的に画像処理部04へ送られ、画像処理部04では色空間変換、ガンマ補正、ホワイトバランス調整などの処理を施した後、画像データを表示制御部05へ送る。表示制御部05では、画像データを信号処理してLCD06へ表示し、利用者へ撮像状態を提示する。図示されていないレリーズボタンが押されると、その操作はモード設定と同様にしてハードキーインターフェイス部09を通じてシステム制御部02で判別される。   The imaged data is continuously sent to the image processing unit 04. The image processing unit 04 performs processing such as color space conversion, gamma correction, and white balance adjustment, and then sends the image data to the display control unit 05. In the display control unit 05, the image data is signal-processed and displayed on the LCD 06, and the imaging state is presented to the user. When a release button (not shown) is pressed, the operation is discriminated by the system control unit 02 through the hard key interface unit 09 as in the mode setting.

撮像部03は画像処理部04からの制御に従い、フォーカス合わせを行った後、取り込んだ画像を画像処理部04へ送り、画像処理部04は、撮影モードに応じた画像処理、圧縮処理を行う。システム制御部02は、圧縮された画像データを読み出し、さらにヘッダー情報を付加した後、記録メディアインターフェイス部07を通じて記録メディア08へ書き込む。以上で一連の撮影動作を完了する。   The imaging unit 03 performs focus adjustment according to the control from the image processing unit 04 and then sends the captured image to the image processing unit 04. The image processing unit 04 performs image processing and compression processing according to the shooting mode. The system control unit 02 reads the compressed image data, adds header information, and then writes the compressed image data to the recording medium 08 through the recording medium interface unit 07. This completes a series of shooting operations.

<詳細動作>
次に、第1の実施形態の要部である、「利用者の操作に応じて、背景部分のぼかし量を変える例」について説明する。
動作フローを図4(A)に示す。本フローはモニタリング中の動作に関わる動作を示している。モニタリング動作を開始すると、システム制御部02は、後述するぼかし量パラメータを初期値(=5)に設定する(step01−001)。システム制御部02は画像処理部04および撮像部03を制御し、CCDAF(CCDのオートフォーカス)のスキャン動作を行う(step01−002)。続いてシステム制御部02は、各画像の小領域毎の距離または、距離に関連するパラメータの判定を行う(step01−003)。
<Detailed operation>
Next, a description will be given of “an example of changing the blurring amount of the background portion in accordance with the user's operation”, which is a main part of the first embodiment.
The operation flow is shown in FIG. This flow shows the operation related to the operation during monitoring. When the monitoring operation is started, the system control unit 02 sets a blurring amount parameter described later to an initial value (= 5) (step 01-001). The system control unit 02 controls the image processing unit 04 and the imaging unit 03 to perform a CCDAF (CCD autofocus) scanning operation (step 01-002). Subsequently, the system control unit 02 determines a distance for each small region of each image or a parameter related to the distance (step 01-003).

以下、図2(A)〜(D)を参照しながら説明する。図2(A)において、100はモニタリング画像の画角、101は1つのAF評価値エリアを示している。図のように、AF評価値エリアは、画角内を均等に分割した小領域となっており、CCDAFにより小領域毎のAF評価値(領域内の画像のコントラストの積算値)が得られる。システム制御部02は、小領域毎に、CCDAFのスキャンにより得られたレンズ位置毎のAF評価値を、所定のアルゴリズムに基づき解析し、AF評価値のピーク位置に相当するレンズの駆動位置を判定する。さらにシステム制御部02は、小領域毎に、現在のズーム位置からレンズの駆動位置を距離情報に変換する。   Hereinafter, a description will be given with reference to FIGS. In FIG. 2A, 100 indicates the angle of view of the monitoring image, and 101 indicates one AF evaluation value area. As shown in the figure, the AF evaluation value area is a small area that is equally divided within the angle of view, and the AF evaluation value (integrated value of the contrast of the image in the area) for each small area is obtained by CCDAF. The system control unit 02 analyzes the AF evaluation value for each lens position obtained by CCDAF scanning for each small area based on a predetermined algorithm, and determines the lens driving position corresponding to the peak position of the AF evaluation value. To do. Further, the system control unit 02 converts the driving position of the lens from the current zoom position into distance information for each small area.

ここで、AF評価値はエリア内の各画素に対し、水平方向のHPF(ハイパス・フィルタ)の演算を行い、得られた結果を加算して得られるものである。HPFの係数は、例えば、ki={−1,−2,6,−2,−1}といった値が用いられる。k0は注目画素の水平方向−2の座標の画素に乗算される係数、k1は注目画素の水平方向−1の座標の画素に乗算される係数、k3は注目画素に乗算される係数、k4は注目画素の水平方向+1の座標の画素に乗算される係数、k5は注目画素の水平方向+2の座標の画素に乗算される係数である。   Here, the AF evaluation value is obtained by performing a horizontal HPF (high pass filter) operation on each pixel in the area and adding the obtained results. For example, a value such as ki = {− 1, −2,6, −2, −1} is used as the HPF coefficient. k0 is a coefficient that is multiplied by the pixel of the pixel in the horizontal direction-2 of the target pixel, k1 is a coefficient that is multiplied by the pixel of the pixel of interest in the horizontal direction-1 coordinate, k3 is a coefficient that is multiplied by the target pixel, and k4 is A coefficient to be multiplied by a pixel having a coordinate in the horizontal direction + 1 of the target pixel, and k5 is a coefficient to be multiplied by a pixel having a coordinate in the horizontal direction + 2 of the target pixel.

AF評価値から距離情報を取得するには、ガウスの結像方程式、1/a+1/b=1/f、から、a=bf/(b−f)、として求められる。ここで、a:レンズから被写体までの距離、b:レンズから撮像素子間の距離、f:レンズの焦点距離、である。レンズから被写体までの距離aが求める距離情報である。レンズの焦点距離fは、撮影時のズーム位置により一意に求められる。レンズから撮像素子間の距離bは、AF評価値のピークの得られたフォーカスレンズの駆動位置から一意に求められる。
以上により、画角100内の全領域のAF評価値エリア101毎の距離情報を得ることができる。全領域の距離情報が得られない場合は、周辺データにて補間処理を行ったり、AF評価値取得時のフィルタを変更して、再スキャンするなどして、対応する。
In order to obtain distance information from the AF evaluation value, a = bf / (b−f) is obtained from the Gaussian imaging equation, 1 / a + 1 / b = 1 / f. Here, a is the distance from the lens to the subject, b is the distance between the lens and the image sensor, and f is the focal length of the lens. The distance information from the lens to the subject is the distance information to be obtained. The focal length f of the lens is uniquely obtained from the zoom position at the time of shooting. The distance b between the lens and the image sensor is uniquely obtained from the driving position of the focus lens where the peak of the AF evaluation value is obtained.
As described above, it is possible to obtain distance information for each AF evaluation value area 101 of the entire region within the angle of view 100. If distance information of the entire area cannot be obtained, it is possible to perform interpolation processing on peripheral data, or change the filter at the time of AF evaluation value acquisition and perform rescanning.

また、図2(A)において、102はAFでフォーカスを合わせるエリアに設定されたAFエリアを示している。システム制御部02は、画面中央部分のAF評価値エリアのうち、最も近距離にあるエリアをAFエリアとして判定し(step01−004)、さらにAFエリアと等距離にあるブロックを主要被写体ブロックとして判定する(step01−005)。図2(B)において、103は主要被写体ブロックを示している。なお、主要被写体ブロック103はAFエリア102を含む。   In FIG. 2A, reference numeral 102 denotes an AF area set as an area to be focused by AF. The system control unit 02 determines the area closest to the AF evaluation value area in the center of the screen as the AF area (step 01-004), and further determines the block equidistant from the AF area as the main subject block. (Step 01-005). In FIG. 2B, reference numeral 103 denotes a main subject block. The main subject block 103 includes an AF area 102.

このときシステム制御部02は、主要被写体ブロック103に相当する位置の画像データの平均輝度を算出して記憶する(step01−006)。また、システム制御部02は、得られた主要被写体ブロック103の情報と、撮像した画像を元に主要被写体領域を判定する(step01−007)。この処理は、従来の画像処理(輪郭抽出)により、主要被写体ブロック103を含む任意形状の領域の判定を行う。   At this time, the system control unit 02 calculates and stores the average luminance of the image data at the position corresponding to the main subject block 103 (step 01-006). Further, the system control unit 02 determines the main subject area based on the obtained information on the main subject block 103 and the captured image (step 01-007). In this process, a region having an arbitrary shape including the main subject block 103 is determined by conventional image processing (contour extraction).

図2(C)において、104は主要被写体領域を示している。画像処理部04は、主要被写体領域104の情報を基に、主要被写体画像の抽出処理、背景画像のぼかし処理、合成処理を順次行う(step01−008〜010)。図2(D)において、105は撮影画像、106は主要被写体、107は抽出した主要被写体画像、108は背景画像、109はぼかした背景画像、110は合成画像を示している。   In FIG. 2C, reference numeral 104 denotes a main subject area. The image processing unit 04 sequentially performs main subject image extraction processing, background image blurring processing, and composition processing based on the information of the main subject region 104 (steps 01-008 to 010). In FIG. 2D, 105 is a captured image, 106 is a main subject, 107 is an extracted main subject image, 108 is a background image, 109 is a blurred background image, and 110 is a composite image.

主要被写体の抽出処理(step01−008)では、主要被写体領域104に沿って画像を分離することで、主要被写体の抽出を行う。結果として、撮影画像105は主要被写体画像107と背景画像108に分離される。背景画像のぼかし処理(step01−009)では、背景画像108にぼかし量パラメータに基づくぼかし処理を行い、ぼかした背景画像109を生成する。   In the main subject extraction process (step 01-008), the main subject is extracted by separating the image along the main subject region 104. As a result, the captured image 105 is separated into the main subject image 107 and the background image 108. In the background image blurring process (step 01-009), the background image 108 is blurred based on the blurring amount parameter to generate a blurred background image 109.

ここで、ぼかし処理(step01−009)の詳細について、図4(C)のフローに基づいて説明する。システム制御装置02は、ぼかし量パラメータに基づき、表1に示すような処理内容を決定する(step03−001)。   Here, details of the blurring process (step 01-009) will be described based on the flow in FIG. The system control device 02 determines the processing contents as shown in Table 1 based on the blurring amount parameter (step 03-001).

表1において、ぼかし量はぼけの大きさを決定するぼかし量パラメータの値、縮小処理はぼかし量パラメータの値により決定する縮小処理の縮小率、フィルタタイプは後述する空間フィルタのタイプAもしくはタイプBを示している。ぼかし量パラメータは、2〜112の範囲で変化する整数値である。
なお、縮小処理の縮小率の分母の値16は、画像の水平サイズと垂直サイズの公約数となる値が設定されており、縮小後の画像サイズは水平方向、垂直方向共に整数以下の端数を生じない。
In Table 1, the blurring amount is the value of the blurring amount parameter that determines the size of the blur, the reduction processing is the reduction rate of the reduction processing determined by the value of the blurring amount parameter, and the filter type is the type A or type B of the spatial filter described later. Is shown. The blur amount parameter is an integer value that changes in the range of 2 to 112.
Note that the denominator value 16 of the reduction ratio of the reduction processing is set to a value that is a common divisor of the horizontal size and vertical size of the image, and the image size after reduction has a fraction that is less than an integer in both the horizontal and vertical directions. Does not occur.

ぼかし量パラメータの値が、所定値以下の場合には、縮小処理を行わずに空間フィルタの処理のみを行う(step03−002、003)。空間フィルタの処理は、システム制御部02からの設定に基づき画像処理部04で実行される。空間フィルタ処理では、下式のように入力画像(In(x,y))にフィルタ係数(k(ix,iy))を演算し、出力画像(Out(x,y))を得る。   If the value of the blur amount parameter is equal to or smaller than the predetermined value, only the spatial filter processing is performed without performing the reduction processing (steps 03-002, 003). Spatial filter processing is executed by the image processing unit 04 based on settings from the system control unit 02. In the spatial filter processing, the filter coefficient (k (ix, iy)) is calculated for the input image (In (x, y)) as shown in the following formula to obtain the output image (Out (x, y)).

フィルタ係数の例を図3に示す。図3(A)は、ぼかし量パラメータの値が2の場合のフィルタ係数を示しており、ぼけの大きさの直径の画素数が2相当のぼけ画像を生成する。
図において波線で示した円がぼけの大きさを示している。同様にして図3(B)は、ぼかし量パラメータの値が7の場合のフィルタ係数を示している。このように、システム制御部02は、ぼけの大きさの直径の画素数が、ぼかし量パラメータの値に等しくなるようなフィルタ係数を設定してぼかし処理を行う。
An example of the filter coefficient is shown in FIG. FIG. 3A shows filter coefficients when the value of the blurring amount parameter is 2, and generates a blurred image in which the number of pixels having a diameter of the blur is equivalent to two.
In the figure, a circle indicated by a broken line indicates the size of the blur. Similarly, FIG. 3B shows the filter coefficient when the value of the blur amount parameter is 7. As described above, the system control unit 02 performs the blurring process by setting the filter coefficient so that the number of pixels having the diameter of the blur is equal to the value of the blurring amount parameter.

ぼかし量が所定量以上の場合には、一旦画像を縮小処理した後、空間フィルタの処理を行い、更に拡大処理を行う(step03−004〜006)。拡大処理では、step03−004で行われる縮小率の逆数分の拡大処理を行い、結果、画像サイズは元の大きさとなる。
これらの縮小、空間フィルタ、拡大の処理は、システム制御部02からの設定に基づき画像処理部04で実行される。縮小処理を伴うぼかし処理のフィルタは、ぼけの大きさの直径の画素数が、(ぼかし量パラメータの値)×(縮小率)の値に等しくなるようなフィルタ係数を設定してぼかし処理を行う。
図3(C)は、ぼかし量パラメータの値が28の場合のフィルタ係数を示しており、ぼけの大きさの直径の画素数は、(28)×(4/16)=7、となる。
If the amount of blurring is greater than or equal to the predetermined amount, the image is once reduced, then the spatial filter is processed, and further enlargement is performed (steps 03-004 to 006). In the enlargement process, the enlargement process for the reciprocal of the reduction ratio performed in step 03-004 is performed, and as a result, the image size becomes the original size.
These reduction, spatial filter, and enlargement processes are executed by the image processing unit 04 based on settings from the system control unit 02. A blurring filter with a reduction process performs a blurring process by setting a filter coefficient such that the number of pixels having the diameter of the blur is equal to the value of (bluring amount parameter value) × (reduction rate). .
FIG. 3C shows the filter coefficient when the value of the blurring amount parameter is 28, and the number of pixels having a diameter of blur is (28) × (4/16) = 7.

ここでフィルタタイプA、Bについて説明する。これまで説明した図3(A)、図3(B)、図3(C)はフィルタタイプAに分類され、図3(D)はフィルタタイプBに分類される。図3(D)は、ぼかし量パラメータの値が56の場合のフィルタ係数を示しており、ぼけの大きさの直径の画素数は、(56)×(2/16)=7、となり、大きさはぼかし量パラメータの値が28の場合のフィルタ係数と等しい。
しかしながら図3(D)の係数では、波線で示した2重の円で囲まれるドーナツ状の部分の係数を大きな値に設定しており、これにより、縮小に伴うぼけ形状の視認性の劣化を防いでいる。
Here, filter types A and B will be described. 3A, 3B, and 3C described so far are classified into filter type A, and FIG. 3D is classified into filter type B. FIG. 3D shows the filter coefficient when the value of the blurring amount parameter is 56, and the number of pixels having the diameter of the blur is (56) × (2/16) = 7. This is equal to the filter coefficient when the value of the blur amount parameter is 28.
However, in the coefficient of FIG. 3 (D), the coefficient of the donut-shaped portion surrounded by the double circles indicated by the wavy line is set to a large value, thereby reducing the visibility of the blur shape due to the reduction. It is preventing.

以下、図4(A)のフローに戻り説明する。合成処理(step01−010)では、ぼかした背景画像109に主要被写体画像107を重ね合わせて合成を行い、合成画像110を生成する。生成した合成画像は、表示制御部05を介してLCD06へ表示される(step01−011)。以上で1コマのモニタリング画像の処理が完了する。
このときシステム制御部02は、主要被写体ブロック103に相当する位置の画像データの平均輝度を算出し(step01−012)、step01−006で算出して記憶した値と比較し、所定量以上の差があった場合には、再度CCDAFのスキャン動作へ移行する(step01−013)。
Hereinafter, the description will return to the flow of FIG. In the synthesis process (step 01-010), the main subject image 107 is superimposed on the blurred background image 109 to perform synthesis, and a synthesized image 110 is generated. The generated composite image is displayed on the LCD 06 via the display control unit 05 (step 01-011). This completes the processing of one frame of the monitoring image.
At this time, the system control unit 02 calculates the average luminance of the image data at the position corresponding to the main subject block 103 (step 01-012), compares it with the value calculated and stored in step 01-006, and compares the difference by a predetermined amount or more. If there is, the process proceeds to the CCDAF scanning operation again (step 01-013).

また、ぼかし量の変更の操作が行われた場合には、操作に応じてぼかし量パラメータを変更し(step01−014、015)、以上の動作をモニタリング終了まで繰り返し実行する(step01−016)。
なお、1コマ毎のモニタリング画像の処理は、step01−007から繰り返し行われる。また、レリーズボタンが押された場合には、取り込んだ画像に対してstep01−007〜010と同様のぼかし処理を行い、背景をぼかした画像を記録する。その場合、ぼかし量パラメータは、(モニタリング時のぼかし量パラメータ)×(記録画像サイズ)/(モニタリング画像サイズ)、を適用する。
Further, when an operation for changing the blur amount is performed, the blur amount parameter is changed according to the operation (step 01-014, 015), and the above operation is repeatedly executed until the monitoring is completed (step 01-016).
The monitoring image processing for each frame is repeatedly performed from step 01-007. When the release button is pressed, the same blurring process as in steps 01-007 to 010 is performed on the captured image, and an image with a blurred background is recorded. In this case, (blurring amount parameter at the time of monitoring) × (recording image size) / (monitoring image size) is applied as the blurring amount parameter.

次に、ズームレンズの焦点距離またはズーム位置を変更した時に、ぼかし量を変更する手順について説明する。動作フローを図4(B)に示す。step02−001〜008は、step01−001〜008と同じである。step02−010に入る前段階において、制御部は現在の焦点距離位置の情報を取得し、メモリに保管しておく。
(通常はズームレバーにより、ズーム位置を変更した時に行われるが、この時点にて再取得してもよい)。
Next, a procedure for changing the blur amount when the focal length or zoom position of the zoom lens is changed will be described. The operation flow is shown in FIG. Steps 02-001 to 008 are the same as steps 01 to 001 to 008. Prior to entering step 02-010, the control unit acquires information on the current focal length position and stores it in the memory.
(Normally, this is performed when the zoom position is changed by the zoom lever, but may be reacquired at this point).

画像処理部04は、ズーム位置(焦点距離)に応じたぼかし量をもって、背景画像のぼかし処理を行う(step02−010)。step02−010における内部処理を図5の動作フローに示す。
ここでズーム位置に応じたぼかし量のパラメータは、適宜テーブル化するなどして、対応を決めておく。本発明では、ズーム位置が、ワイド(広角端)、ワイドミーン(広角端と中間位置の間)、ミーン(中間位置)、ミーンテレ(中間位置と望遠端の中間)、テレ(望遠端)と変化する場合に前記、表1におけるぼかし量を順次5段階に切り替える構成となっている。
また、撮影モードダイヤルや、メニュー設定による事前設定に応じ、その逆(焦点距離が長くなるとぼかし量を減らす構成)も可能な構成としておく。この場合は、銀塩カメラではありえない、広角にいくほどぼけ量が大きくなる構成となり、デジタルカメラならではの不自然ながらも幅の広い写真表現を行うことができる。
The image processing unit 04 performs a background image blurring process with a blurring amount corresponding to the zoom position (focal length) (step 02-010). The internal processing in step 02-010 is shown in the operation flow of FIG.
Here, the correspondence of the parameter of the blur amount corresponding to the zoom position is determined by appropriately making a table or the like. In the present invention, the zoom position changes as wide (wide-angle end), wide mean (between wide-angle end and intermediate position), mean (intermediate position), mean tele (middle between the intermediate position and telephoto end), tele (telephoto end). In this case, the blur amount in Table 1 is sequentially switched to five stages.
Further, a configuration is also possible in which the reverse (configuration in which the blurring amount is reduced as the focal length becomes longer) is possible in accordance with the shooting mode dial or the presetting by menu setting . In the case of this, not be a silver halide camera, becomes a configuration in which the blur amount closer to the wide-angle increases, while unnatural of digital camera unique it is also possible to carry out a wide photographic expression.

また、モニタリング時に、ぼかし制御一時解除キーが押下されていれば、step02−010の処理をスキップする構成にしておくことで(図5参照)、ぼかし制御をモニタリングでの確認結果により容易に付加、解除できる構成とすることができる。
また、ぼかし制御一時解除キーが押下されている場合に、そのままレリーズキーを押下した場合は、モニタリング処理状態の処理を引きついて、ぼかし制御を行わない状態での撮影を行う構成とすることができ、ぼかし制御撮影を行うモードであってもモニタリング時のぼかし状態(有り、無し)を簡単に確認し、ぼかし制御を行わない方がよいと使用者が判断した場合には、ぼかし制御を行わない状態での撮影を行うことが可能である。
In addition, if the blur control temporary release key is pressed during monitoring, the process of step 02-010 is skipped (see FIG. 5), and blur control can be easily added based on the confirmation result in monitoring. It can be set as the structure which can be cancelled | released.
In addition, when the blur control temporary release key is pressed and the release key is pressed as it is, it is possible to take a picture in the state where the blur control is not performed by attracting the processing of the monitoring process state. Even if it is a mode that performs blur control shooting, if the user decides that it is better not to perform blur control by simply checking the blur state (existing or not) during monitoring, do not perform blur control It is possible to perform shooting in a state.

合成処理(step02−011)では、ぼかした背景画像205に、ぼかした背景画像206を重ね合わせ、さらに主要被写体画像202を重ね合わせて合成を行い、合成画像207を生成する。なお、step02−012〜014は、step01−011〜013と同じである。   In the compositing process (step 02-011), the blurred background image 205 is superimposed on the blurred background image 205, and the main subject image 202 is further superimposed to generate a composite image 207. Steps 02-012 to 014 are the same as steps 01-011 to 013.

<<第2の実施形態>>
本説明では、第1の実施形態を変更した部分のみ(step02−010)を述べる。
画像処理部04は、デジタルズームの使用有無とデジタルズームの拡大倍率(擬似焦点距離)に応じたぼかし量をもって、背景画像のぼかし処理を行う(step02−010)。ここでデジタルズームの使用有無、デジタルズームの拡大倍率(擬似焦点距離)に応じたぼかし量のパラメータは、適宜テーブル化するなどして、対応を決めておくものとする。
<< Second Embodiment >>
In the present description, only the part in which the first embodiment is changed (step 02-010) will be described.
The image processing unit 04 performs a blurring process on the background image with a blurring amount corresponding to the presence / absence of use of the digital zoom and the enlargement magnification (pseudo focal length) of the digital zoom (step 02-010). Here, the correspondence of the parameters of the blur amount corresponding to the presence / absence of use of the digital zoom and the enlargement magnification (pseudo focal length) of the digital zoom is determined as appropriate, for example, as a table.

例えば、図1のレンズ(不図示)が単焦点レンズとして、デジタルズーム機能を有する場合、step02−010処理にて、デジタルズームの使用有無を判定し、使用してない場合は、ぼかし制御を行わずに、step02−010処理を抜ける。また、デジタルズームを使用している場合は、拡大倍率に応じて、前記の表1におけるぼかし量を図5の動作フローに示したように、順次5段階に切り替える構成にしておく。
撮影モードダイヤルや、メニュー設定による事前設定に応じ、逆の場合(拡大倍率に応じて、ぼかし量を小さくしていく)設定(図6に示す表2に設定例を示した)を可能としてもよい。この場合は、拡大倍率が上がるほど、ぼかし量が小さくなる構成となり、不自然ながらも幅の広い写真表現を行うことができる。
For example, when the lens (not shown) in FIG. 1 has a digital zoom function as a single focus lens, it is determined whether or not the digital zoom is used in step 02-010 processing, and if not used, the blur control is not performed. Step 02-010 is exited. When digital zoom is used, the blurring amount in Table 1 is sequentially switched in five steps as shown in the operation flow of FIG. 5 according to the enlargement magnification.
Depending on the shooting mode dial or menu settings, the reverse setting (decreasing the blur amount according to the magnification) (setting example shown in Table 2 in FIG. 6) may be possible. Good . For this, as magnification increases, it becomes a configuration in which blurring amount is small, unnatural while it is also possible to perform a wide photographic representation width.

<<第3の実施形態>>
本説明では、第1,第2の実施形態に追加・変更した部分のみを述べる。
さらに自然なボケ味とするために、図4(A)のフローチャートにおける事前取得したAF評価値にもとづく主要被写体の距離と、本実施形態を組み合わせ、第1の実施形態における焦点距離位置と、主要被写体までの距離をパラメータとして、ぼかし量を変更する構成としてもよい。
この場合は、焦点距離が長いほど、また主要被写体までの距離が近いほど、ぼかし量を大きくしたほうが自然な画像となることはいうまでもない。また、この場合は、前記の表1における5段階パラメータを表2(図6参照)に図示したように、組み合わせてさらに細かく段階わけして処理すれば、さらに効果的となる。
<< Third Embodiment >>
In this description, only the parts added / changed to the first and second embodiments will be described.
In order to obtain a more natural blur, the distance of the main subject based on the AF evaluation value acquired in advance in the flowchart of FIG. 4A is combined with the present embodiment, the focal length position in the first embodiment, The blur amount may be changed using the distance to the subject as a parameter.
In this case, it goes without saying that the longer the focal length and the closer to the main subject, the more natural the image will be when the blur amount is increased. Further, in this case, it becomes more effective if the five-step parameters in Table 1 are combined and processed in more detailed steps as shown in Table 2 (see FIG. 6).

また、同じく、表2(図6参照)に示したように、主要被写体と前景、背景が分離でき、それぞれの距離が把握できる場合には、本発明の趣旨に則り、自然なぼけ量を目的として、前景観、主要被写体、背景の距離関係によって、ぼかし量を制御し、光学レンズの被写界深度計算に適合するように、(すなわち同じ距離関係の時前景のぼけ量が、背景のぼけ量より大きくなるように等)ぼかすことも可能であり、逆に、前景だけぼかして、主要被写体と背景はぼかさない制御や、前景のぼけ量を背景より小さく設定するなどの制御方式とすることが可能である。   Similarly, as shown in Table 2 (see FIG. 6), when the main subject and the foreground and the background can be separated and the respective distances can be grasped, a natural blur amount is set in accordance with the gist of the present invention. Control the blur amount according to the distance relationship between the forescape, the main subject, and the background so that it matches the depth-of-field calculation of the optical lens (i.e., when the foreground blur amount is the same distance relationship, It is possible to blur the image so that it is larger than the amount). Conversely, the control method is such that only the foreground is blurred and the main subject and the background are not blurred, and the blur amount of the foreground is set smaller than the background. Is possible.

以上述べてきたように、本発明によれば、簡便な構成で、ズームレンズの望遠効果を強調したり、銀塩カメラでは実現不可能だったぼかし効果のある写真表現を容易に行うことができ、ぼかし制御の付加の有無を簡単に選択した撮影を行うことができる。また、本明細書において、主要被写体とそれ以外の領域の分離方法、距離情報取得方法、ぼかし処理、とその後の合成方法などは、1つの実施形態として述べただけであるので、本発明の趣旨を逸脱しない範囲に置いて、他の方法で実現してもよい。   As described above, according to the present invention, the telephoto effect of a zoom lens can be emphasized with a simple configuration, and a photographic expression with a blurring effect that cannot be realized with a silver halide camera can be easily performed. Thus, it is possible to perform shooting by simply selecting whether or not to add blur control. Further, in the present specification, the method for separating the main subject and other regions, the distance information acquisition method, the blurring process, and the subsequent synthesis method are only described as one embodiment. Other methods may be used without departing from the scope of the present invention.

本発明の実施形態の構成を示すブロック図である。It is a block diagram which shows the structure of embodiment of this invention. 同第1の実施形態の画像処理を示す図である。It is a figure which shows the image processing of the 1st embodiment. 同第1の実施形態のフィルタ係数の分布を示す図である。It is a figure which shows distribution of the filter coefficient of the 1st embodiment. 本発明の各実施形態の動作フローチャートである。It is an operation | movement flowchart of each embodiment of this invention. 図4(B)における、step−02−010の内部処理例を示す動作フローチャートである。5 is an operation flowchart illustrating an example of internal processing of step-02-010 in FIG. 同第2の実施形態における、5段階パラメータを表2として表した図である。It is the figure which represented the 5 step | paragraph parameter as Table 2 in the said 2nd Embodiment.

符号の説明Explanation of symbols

01…デジタルスチルカメラ装置
02…システム制御部
03…撮像部
04…画像処理部
05…表示制御部
06…LCD
07…記録メディアインターフェース部
08…記録メディア
09…ハードキーインターフェース部
10…通信インターフェース部
11…PC
DESCRIPTION OF SYMBOLS 01 ... Digital still camera apparatus 02 ... System control part 03 ... Imaging part 04 ... Image processing part 05 ... Display control part 06 ... LCD
07 ... Recording media interface unit 08 ... Recording media 09 ... Hard key interface unit 10 ... Communication interface unit 11 ... PC

Claims (6)

焦点距離を変更可能なズームレンズと、
該ズームレンズの焦点距離を制御するズームレンズ制御手段と、
前記ズームレンズとズームレンズ制御手段とを介して撮像された被写体画像の主要被写体部の領域と該主要被写体部以外の領域を分離する被写体像分離手段と、
該被写体像分離手段により分離された前記主要被写体部以外の領域をぼかし、かつ、ぼかし量を変更可能なぼかし量制御手段と、
前記ズームレンズの焦点距離またはズームレンズ位置を変更した場合に、前記ぼかし量制御手段からの出力であるぼかし量を変更するぼかし量変更手段とを有し、
前記ぼかし量変更手段は、前記ズームレンズの焦点距離が大きくなるか、または前記ズームレンズ位置が望遠位置に近づくことに応じて、ぼかし量を小さくするように制御することを特徴とする撮像装置。
A zoom lens with variable focal length,
Zoom lens control means for controlling the focal length of the zoom lens;
Subject image separation means for separating the main subject portion area of the subject image captured through the zoom lens and the zoom lens control means and the region other than the main subject portion;
A blur amount control unit capable of blurring a region other than the main subject portion separated by the subject image separation unit and changing a blur amount;
If you change the focal length or the zoom lens position of the zoom lens, have a, a blurring amount changing means for changing the amount of blur that is an output from the blurring amount control means,
The image blurring apparatus according to claim 1, wherein the blur amount changing unit controls the blur amount to be decreased as the focal length of the zoom lens increases or the zoom lens position approaches the telephoto position .
撮像レンズと、
該撮像レンズにより撮像された被写体画像を電気的に処理して擬似的に焦点距離を変更したかのような画像を得るデジタルズーム処理手段と、
前記撮像レンズとデジタルズーム処理手段とを介して撮像された被写体画像の主要被写体部の領域と該主要被写体部以外の領域を分離する被写体像分離手段と、
該被写体像分離手段により分離された前記主要被写体部以外の領域をぼかし、かつ、ぼかし量を変更可能なぼかし量制御手段と、
前記デジタルズーム処理手段によるデジタルズームの拡大倍率または擬似焦点距離を変更した場合に、前記ぼかし量制御手段からの出力であるぼかし量を変更するぼかし量変更手段とを有し、
前記ぼかし量変更手段は、前記デジタルズーム処理手段によるデジタルズームの拡大倍率が大きくなるか、または擬似焦点距離が大きくなることに応じて、ぼかし量を小さくするように制御することを特徴とする撮像装置。
An imaging lens;
A digital zoom processing means for obtaining an image as if the focal length was changed in a pseudo manner by electrically processing a subject image captured by the imaging lens;
Subject image separation means for separating a main subject portion area of a subject image captured through the imaging lens and the digital zoom processing means and a region other than the main subject portion;
A blur amount control unit capable of blurring a region other than the main subject portion separated by the subject image separation unit and changing a blur amount;
If you change the magnification or pseudo focal length of the digital zoom by the digital zoom processing unit, have a, a blurring amount changing means for changing the amount of blur that is an output from the blurring amount control means,
The imaging apparatus according to claim 1, wherein the blur amount changing unit controls the blur amount to be decreased in accordance with an increase in an enlargement magnification of the digital zoom by the digital zoom processing unit or an increase in a pseudo focal length .
前記被写体像分離手段は、前記主要被写体部の領域と、前記主要被写体部以外の領域として、前景領域および背景領域に分離し、The subject image separation means separates the main subject portion area and the main subject portion area into a foreground region and a background region,
前記ぼかし量制御手段は、前記主要被写体部以外の領域のうち前記前景領域のみをぼかすように制御することを特徴とする請求項1または請求項2の撮像装置。The imaging apparatus according to claim 1, wherein the blur amount control unit performs control so as to blur only the foreground region of the region other than the main subject portion.
前記被写体像分離手段は、前記主要被写体部の領域と、前記主要被写体部以外の領域として、前景領域および背景領域に分離し、The subject image separation means separates the main subject portion area and the main subject portion area into a foreground region and a background region,
前記ぼかし量変更手段は、前記前景領域のぼかし量を前記背景領域よりも小さくするように制御することを特徴とする請求項1または請求項2の撮像装置。The imaging apparatus according to claim 1, wherein the blur amount changing unit controls the blur amount of the foreground area to be smaller than that of the background area.
さらに、各種撮影モードを設定する撮影モード設定手段と、前記被写体画像を表示する表示手段とを備え、
前記ぼかし量制御手段によるぼかし制御を行う撮影モード設定時において、撮影前にぼかし処理状況を確認する際に、ぼかし制御を一時的に付加、解除可能なぼかし制御一時解除手段を有することを特徴とする請求項1または請求項2の撮像装置。
Furthermore, a shooting mode setting means for setting various shooting modes, and a display means for displaying the subject image,
In the shooting mode setting for performing blur control by the blur amount control means, it has blur control temporary release means that can temporarily add and release blur control when checking the blur processing status before shooting. The imaging device according to claim 1 or 2.
前記ぼかし制御一時解除手段を操作した状態で、撮影を行うことにより、ぼかし処理を行わない撮影を行う手段を有することを特徴とする請求項記載の撮像装置。 The imaging apparatus according to claim 5, further comprising a unit that performs shooting without performing blur processing by performing shooting while the blur control temporary release unit is operated.
JP2008054625A 2008-03-05 2008-03-05 Imaging device Expired - Fee Related JP5036599B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008054625A JP5036599B2 (en) 2008-03-05 2008-03-05 Imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008054625A JP5036599B2 (en) 2008-03-05 2008-03-05 Imaging device

Publications (2)

Publication Number Publication Date
JP2009212899A JP2009212899A (en) 2009-09-17
JP5036599B2 true JP5036599B2 (en) 2012-09-26

Family

ID=41185610

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008054625A Expired - Fee Related JP5036599B2 (en) 2008-03-05 2008-03-05 Imaging device

Country Status (1)

Country Link
JP (1) JP5036599B2 (en)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101015935B1 (en) 2009-10-28 2011-02-23 주식회사 넥슨 Computer system and method for processing depth of filed and motion blur
JP5300756B2 (en) * 2010-02-05 2013-09-25 キヤノン株式会社 Imaging apparatus and image processing method
JP5517746B2 (en) * 2010-05-26 2014-06-11 キヤノン株式会社 Image processing apparatus and method
KR101661216B1 (en) * 2010-09-02 2016-09-29 삼성전자주식회사 Digital image processing apparatus, method for digital image signal processing, medium for recording the method
JP2015103879A (en) * 2013-11-21 2015-06-04 キヤノン株式会社 Image processing apparatus and control method thereof
AU2016252993B2 (en) 2015-04-23 2018-01-04 Apple Inc. Digital viewfinder user interface for multiple cameras
US9912860B2 (en) 2016-06-12 2018-03-06 Apple Inc. User interface for camera effects
DK180859B1 (en) 2017-06-04 2022-05-23 Apple Inc USER INTERFACE CAMERA EFFECTS
US11112964B2 (en) 2018-02-09 2021-09-07 Apple Inc. Media capture lock affordance for graphical user interface
US10375313B1 (en) 2018-05-07 2019-08-06 Apple Inc. Creative camera
US11722764B2 (en) 2018-05-07 2023-08-08 Apple Inc. Creative camera
DK201870623A1 (en) 2018-09-11 2020-04-15 Apple Inc. User interfaces for simulated depth effects
US10645294B1 (en) 2019-05-06 2020-05-05 Apple Inc. User interfaces for capturing and managing visual media
US11770601B2 (en) 2019-05-06 2023-09-26 Apple Inc. User interfaces for capturing and managing visual media
US11321857B2 (en) 2018-09-28 2022-05-03 Apple Inc. Displaying and editing images with depth information
US11128792B2 (en) 2018-09-28 2021-09-21 Apple Inc. Capturing and displaying images with multiple focal planes
US11706521B2 (en) 2019-05-06 2023-07-18 Apple Inc. User interfaces for capturing and managing visual media
CN113194242B (en) * 2020-01-14 2022-09-20 荣耀终端有限公司 Shooting method in long-focus scene and mobile terminal
US11039074B1 (en) 2020-06-01 2021-06-15 Apple Inc. User interfaces for managing media
US11212449B1 (en) 2020-09-25 2021-12-28 Apple Inc. User interfaces for media capture and management
US11539876B2 (en) 2021-04-30 2022-12-27 Apple Inc. User interfaces for altering visual media
US11778339B2 (en) 2021-04-30 2023-10-03 Apple Inc. User interfaces for altering visual media

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4612750B2 (en) * 1998-03-17 2011-01-12 キヤノン株式会社 Digital camera, photographing method, and storage medium
JP2007124278A (en) * 2005-10-28 2007-05-17 Nikon Corp Imaging apparatus
WO2007049634A1 (en) * 2005-10-28 2007-05-03 Nikon Corporation Imaging device, image processing device, and program

Also Published As

Publication number Publication date
JP2009212899A (en) 2009-09-17

Similar Documents

Publication Publication Date Title
JP5036599B2 (en) Imaging device
JP7145208B2 (en) Method and Apparatus and Storage Medium for Dual Camera Based Imaging
EP2171685B1 (en) Image processor, image processing method, digital camera, and imaging apparatus
US9578260B2 (en) Digital photographing apparatus and method of controlling the digital photographing apparatus
US8149290B2 (en) Image processor, imaging apparatus including the same, and image processing method, with blurring processing of background image
JP2009027298A (en) Imaging apparatus and control method thereof
JP5262417B2 (en) Image processing apparatus, image processing method, and image processing program
JP2008271241A (en) Imaging apparatus, image processing apparatus, imaging method, and image processing method
JP2008271240A (en) Imaging apparatus, image processing apparatus, imaging method, and image processing method
JP2007124398A (en) Photographing device
JP2011041089A (en) Method, device and program for processing image, and imaging device
JP5950678B2 (en) Imaging apparatus, control method, and program
JP2011188481A (en) Imaging device
JP4866317B2 (en) IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD
JP2010279054A (en) Image pickup device, image processing device, image pickup method, and image processing method
JP5407373B2 (en) Imaging apparatus and program
JP2009218704A (en) Image processing apparatus and image processing method
JP5117889B2 (en) Image processing apparatus and image processing method
JP2015204470A (en) Imaging apparatus, control method thereof, and program
JP2017143354A (en) Image processing apparatus and image processing method
JP5282533B2 (en) Image processing apparatus, imaging apparatus, and program
JP2006246014A (en) Digital camera and image processing method thereof
JP6828069B2 (en) Imaging equipment, imaging methods and programs
JP5338248B2 (en) Image processing apparatus, electronic camera, and image processing program
JP2014138378A (en) Image pickup device, control method thereof, and control program thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101102

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120319

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120327

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120528

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120619

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120703

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150713

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5036599

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees