JP5015340B2 - Compound eye imaging device - Google Patents
Compound eye imaging device Download PDFInfo
- Publication number
- JP5015340B2 JP5015340B2 JP2011139905A JP2011139905A JP5015340B2 JP 5015340 B2 JP5015340 B2 JP 5015340B2 JP 2011139905 A JP2011139905 A JP 2011139905A JP 2011139905 A JP2011139905 A JP 2011139905A JP 5015340 B2 JP5015340 B2 JP 5015340B2
- Authority
- JP
- Japan
- Prior art keywords
- lens
- imaging
- focus
- release button
- compound
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003384 imaging method Methods 0.000 title claims description 179
- 150000001875 compounds Chemical class 0.000 title claims description 34
- 230000035945 sensitivity Effects 0.000 claims description 29
- 238000012937 correction Methods 0.000 claims description 27
- 238000005375 photometry Methods 0.000 claims description 18
- 230000004888 barrier function Effects 0.000 claims description 17
- 230000003287 optical effect Effects 0.000 claims description 9
- 238000005452 bending Methods 0.000 claims description 5
- 239000007787 solid Substances 0.000 claims description 3
- 238000001514 detection method Methods 0.000 description 26
- 238000012545 processing Methods 0.000 description 18
- 239000004973 liquid crystal related substance Substances 0.000 description 15
- 238000000034 method Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 238000011156 evaluation Methods 0.000 description 11
- 230000000875 corresponding effect Effects 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 230000008569 process Effects 0.000 description 6
- 230000001276 controlling effect Effects 0.000 description 4
- 238000009825 accumulation Methods 0.000 description 3
- 230000006835 compression Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 230000006837 decompression Effects 0.000 description 3
- 239000011521 glass Substances 0.000 description 3
- 238000006073 displacement reaction Methods 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Landscapes
- Exposure Control For Cameras (AREA)
- Focusing (AREA)
- Stereoscopic And Panoramic Photography (AREA)
- Blocking Light For Cameras (AREA)
- Camera Bodies And Camera Details Or Accessories (AREA)
- Automatic Focus Adjustment (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Studio Devices (AREA)
Description
本発明は複眼撮像装置に係り、特に互いに視差を有する2つの画像を撮像する複眼撮像装置に関する。 The present invention relates to a compound eye imaging apparatus, and more particularly to a compound eye imaging apparatus that captures two images having parallax with each other.
従来、互いに視差を有する視差画像からなる立体視可能な3次元画像(3D画像)の撮像機能を持つ複眼撮像装置において、装置本体の小型化のために、プリズムを用いた屈曲光学系の撮影レンズ(以下、「屈曲レンズ」という)を使用したものが提案されている(特許文献1)。 2. Description of the Related Art Conventionally, in a compound-eye imaging apparatus having a function of capturing a stereoscopically viewable three-dimensional image (3D image) composed of parallax images having parallax with each other, a photographic lens of a bending optical system using a prism for miniaturizing the apparatus body (Hereinafter referred to as “bending lens”) has been proposed (Patent Document 1).
また、2つのフォーカスレンズを同時に駆動し、所定の送り量ごとに画像のコントラストを示す評価値(AF評価値)を算出し、AF評価値の最大値を先に検出したフォーカスレンズの位置に、他方のフォーカスレンズを設定する複眼撮像装置が提案されている(特許文献2)。例えば、一方のフォーカスレンズは至近から無限遠に向けてAFサーチを行い、他方のフォーカスレンズは無限遠から至近に向けてAFサーチを行うことで、短時間に効率よくAF動作を完了できるようにしている。 Further, the two focus lenses are driven simultaneously, an evaluation value (AF evaluation value) indicating the contrast of the image is calculated for each predetermined feed amount, and the maximum value of the AF evaluation value is detected at the position of the focus lens previously detected. A compound eye imaging device that sets the other focus lens has been proposed (Patent Document 2). For example, one focus lens performs AF search from close to infinity, and the other focus lens performs AF search from infinity to close so that the AF operation can be completed efficiently in a short time. Yes.
特許文献1に記載の複眼撮像装置は、屈曲レンズを使用することにより小型化されているが、左右の屈曲レンズは、立体感、臨場感を高めるために(基線長を長くとるために)、装置本体の左右の端部にそれぞれ配置されている。
The compound eye imaging device described in
従って、装置本体のグリップ部(レリーズボタン側の端部)を把持した場合には、把持した手の指がレリーズボタン側の屈曲レンズに掛かりやすいという問題がある。 Therefore, when the grip portion (end portion on the release button side) of the apparatus main body is gripped, there is a problem that the finger of the gripped hand is easily caught on the bent lens on the release button side.
尚、左右のレンズの一方に指が掛かると、左右のレンズに入射する光量が大きく変化し、左眼画像と右眼画像の明るさが大きく変化するという問題がある。同様に、左眼画像と右眼画像の焦点調節やホワイトバランス補正が異なり、良好な3D画像が得られないという問題がある。 If a finger is placed on one of the left and right lenses, there is a problem that the amount of light incident on the left and right lenses changes greatly, and the brightness of the left eye image and the right eye image changes greatly. Similarly, the focus adjustment and white balance correction of the left eye image and the right eye image are different and there is a problem that a good 3D image cannot be obtained.
一方、特許文献2に記載の複眼撮像装置は、沈胴式の鏡筒を使用しているため(特許文献2の図1、段落[0016])、撮影時にレンズへの指掛かりの問題はないが、装置の薄型化、小型化を図ることができない。また、特許文献2に記載の複眼撮像装置は、先に合焦したフォーカスレンズの合焦位置に、他方のフォーカスレンズの位置を合わせるようにしているため、基準となる撮像部を固定化することができない。
On the other hand, the compound-eye imaging apparatus described in
尚、従来のデジタルカメラでは、本撮像前に被写体の構図を確認するために、カメラ背面の液晶モニタにライブビュー画像(スルー画像)を表示させているが、3Dのスルー画像は、2次元(2D)のスルー画像に比べて指掛りが確認しにくいという問題がある。これは、一方のレンズに指掛りがあっても、他方のレンズに指掛りがない場合には、指掛りのある画像と指掛りのない画像とが重畳されて表示されるからである。 In a conventional digital camera, a live view image (through image) is displayed on a liquid crystal monitor on the back of the camera in order to confirm the composition of a subject before actual imaging. However, a 3D through image is two-dimensional ( There is a problem that finger catching is difficult to confirm as compared to a through image of 2D). This is because an image with a finger and an image without a finger are superimposed and displayed when there is no finger on the other lens even if there is a finger on one lens.
本発明はこのような事情に鑑みてなされたもので、レンズへの指掛りの有無にかかわらず、良好な3D画像を撮像することができる複眼撮像装置を提供することを目的とする。 The present invention has been made in view of such circumstances, and an object of the present invention is to provide a compound eye imaging apparatus capable of capturing a good 3D image regardless of whether or not a finger is caught on the lens.
前記目的を達成するために本発明の一の態様に係る複眼撮像装置は、装置本体の長手方向の位置に配設され、互いに視差を有する2つの画像を撮像する2つの撮像手段であって、それぞれ装置本体の前面から突出しない、あるいは突出が小さい撮影レンズを有する2つの撮像手段と、前記装置本体に配設されたレリーズボタンと、前記レリーズボタンから最も離れた撮影レンズを有する撮像手段を介して取得される画像信号に基づいて被写体の明るさを測光する測光手段と、前記測光手段により測光された被写体の明るさに基づいて前記2つの撮像手段の露出をそれぞれ制御する露出制御手段と、前記レリーズボタンから最も離れた撮影レンズを有する撮像手段を介して取得される画像信号に基づいて該撮影レンズの焦点調節を行うとともに、該焦点調節結果を利用して他の撮像手段の撮影レンズの焦点調節を行う焦点調節手段と、を備え、前記2つの撮像手段の撮影レンズの長手方向の中心位置が、装置本体の長手方向の中心位置に対して前記レリーズボタンの位置から遠ざかる方向にずれて配置されていることを特徴としている。 In order to achieve the above object, a compound-eye imaging device according to one aspect of the present invention is two imaging means that are arranged at positions in the longitudinal direction of the device main body and capture two images having parallax with each other, Two imaging means each having a photographic lens that does not protrude from the front surface of the apparatus main body or has a small protrusion, a release button disposed on the apparatus main body, and an imaging means having a photographic lens farthest from the release button Metering means for metering the brightness of the subject based on the image signal acquired in the above; exposure control means for controlling the exposure of the two imaging means based on the brightness of the subject metered by the photometry means; While adjusting the focus of the photographic lens based on the image signal acquired through the imaging means having the photographic lens furthest from the release button Using the focal point adjusting result and a focus adjustment unit that performs focus adjustment of the taking lens of the other imaging means, the longitudinal center position of the imaging lens of the two imaging means, of the apparatus main body longitudinal It is characterized by being shifted from the center position in a direction away from the position of the release button.
前記2つの撮像手段のうちのレリーズボタンから最も離れた撮影レンズを有する撮像手段を基準の撮像手段とし、前記測光手段は、前記基準の撮像手段を介して取得される画像信号に基づいて被写体の明るさを測光するようにしている。前記基準の撮像手段は、レリーズボタンから最も離れた撮影レンズを有するため、前記レリーズボタンを操作する手の指は前記撮影レンズに掛かることがない。前記測光手段は、前記指掛りのない撮像レンズを有する撮像手段(基準の撮像手段)から取得される画像信号に基づいて被写体の明るさを測光するため、良好な測光を行うことができる。また、前記測光結果に基づいて2つの撮像手段の露出をそれぞれ制御するようにしたため、2つの撮像手段によって撮像される2つの画像をそれぞれ適正な露出で撮像することができるとともに、2つの画像の明るさを合わせることができ、良好な3D画像が得られる。 Of the two image pickup means, an image pickup means having a taking lens farthest from the release button is used as a reference image pickup means, and the photometry means is configured to detect a subject based on an image signal acquired through the reference image pickup means. The brightness is metered. Since the reference imaging means has the taking lens farthest from the release button, the finger of the hand operating the release button does not get caught on the taking lens. Since the light metering unit measures the brightness of the subject based on the image signal acquired from the image pickup unit (reference image pickup unit) having the image pickup lens without the finger hold, it can perform good photometry. In addition, since the exposure of the two image pickup means is controlled based on the photometric result, two images picked up by the two image pickup means can be picked up with appropriate exposure, respectively, and The brightness can be adjusted and a good 3D image can be obtained.
また、2つの撮影レンズの長手方向の中心位置が、装置本体の長手方向の中心位置に対して前記レリーズボタンの位置から遠ざかる方向にずれて配置されているため、レリーズボタンを操作する手で前記装置本体を把持する際に、その手で把持するためのグリップ部を前記装置本体に確保することができる。 Further, since the center position in the longitudinal direction of the two photographic lenses is arranged to be shifted in the direction away from the position of the release button with respect to the center position in the longitudinal direction of the apparatus main body, When grasping the apparatus main body, a grip portion for grasping with the hand can be secured in the apparatus main body.
また、本発明の一の態様によれば、前記2つの撮像手段のうちのレリーズボタンから最も離れた撮影レンズを有する撮像手段を基準の撮像手段とし、前記焦点調節手段は、前記基準の撮像手段を介して取得される画像信号に基づいて該撮影レンズの焦点調節を行うとともに、該焦点調節結果を利用して他の撮像手段の撮影レンズの焦点調節を行うことができる。前記基準の撮像手段は、レリーズボタンから最も離れた撮影レンズを有するため、前記レリーズボタンを操作する手の指は前記撮影レンズに掛かることがない。これにより、前記焦点調節手段は、前記基準の撮像手段側の撮影レンズの焦点調節を適正に行うことができ、また、前記焦点調節結果を利用して他の撮像手段の撮影レンズの焦点調節を行うようにしため、他の撮影レンズに指掛りがあっても他の撮影レンズの焦点調節を適正に行うことができる。 Further , according to one aspect of the present invention , the imaging unit having a photographic lens farthest from the release button of the two imaging units is set as a reference imaging unit, and the focus adjustment unit is the reference imaging unit. The focus adjustment of the photographic lens can be performed based on the image signal acquired via the camera, and the focus adjustment of the photographic lens of another imaging unit can be performed using the focus adjustment result. Since the reference imaging means has the taking lens farthest from the release button, the finger of the hand operating the release button does not get caught on the taking lens. As a result, the focus adjustment unit can appropriately adjust the focus of the photographic lens on the reference image pickup unit side, and the focus adjustment of the photographic lens of another image pickup unit can be performed using the focus adjustment result. Therefore, even if there is a finger hook on another photographic lens, it is possible to appropriately adjust the focus of the other photographic lens.
本発明の更に他の態様に係る複眼撮像装置において、前記レリーズボタンから最も離れた撮影レンズを有する撮像手段を介して取得される画像信号に基づいてホワイトバランス補正値を算出する算出手段と、前記算出手段により算出されたホワイトバランス補正値に基づいて前記2つの撮像手段から取得された視差画像のホワイトバランスをそれぞれ補正するホワイトバランス補正手段と、を更に備えることができる。 In the compound eye imaging device according to still another aspect of the present invention, a calculating unit that calculates a white balance correction value based on an image signal acquired through an imaging unit having a photographing lens farthest from the release button; White balance correction means for correcting the white balance of the parallax images acquired from the two imaging means based on the white balance correction value calculated by the calculation means can be further provided.
本発明の更に他の態様によれば、前記2つの撮像手段のうちの基準の撮像手段は、レリーズボタンから最も離れた撮影レンズを有するため、前記レリーズボタンを操作する手の指は前記撮影レンズに掛かることがない。これにより、前記算出手段は、前記基準の撮像手段から得られる画像信号に基づいて適正なホワイトバランス補正値を算出することができ、また、2つの撮像手段から取得される2つの画像のホワイトバランスを合わせることができ、良好な3D画像が得られる。 According to still another aspect of the present invention, the reference imaging means of the two imaging means has a photographing lens that is farthest from the release button, so the finger of the hand that operates the release button is the photographing lens. It wo n’t hang. As a result, the calculating means can calculate an appropriate white balance correction value based on the image signal obtained from the reference imaging means, and the white balance of the two images acquired from the two imaging means. And a good 3D image can be obtained.
本発明の更に他の態様に係る複眼撮像装置は、装置本体の長手方向の位置に配設され、互いに視差を有する2つの画像を撮像する2つの撮像手段であって、それぞれ装置本体の前面から突出しない、あるいは突出が小さい撮影レンズを有する2つの撮像手段と、前記装置本体に配設されたレリーズボタンと、前記レリーズボタンから最も離れた撮影レンズを有する撮像手段を介して取得される画像信号に基づいて被写体の明るさを測光する測光手段と、前記測光手段により測光された被写体の明るさに基づいて前記2つの撮像手段の露出をそれぞれ制御する露出制御手段と、を備え、前記露出制手段は、前記測光手段により測光された被写体の明るさに基づいて撮影感度、絞り値及び露光時間を求める手段と、前記2つの撮像手段の所定の基準値からの個体差を示す撮影感度、絞り、及びメカシャッター遅れのズレ量を記憶する記憶手段と、前記記憶手段に記憶されたズレ量に基づいて前記求めた撮影感度を補正するとともに、メカシャッター閉じ予定位置を修正する手段と、を有し、前記2つの撮像手段の撮影レンズの長手方向の中心位置が、装置本体の長手方向の中心位置に対して前記レリーズボタンの位置から遠ざかる方向にずれて配置されていることを特徴としている。これによれば、2つの撮像手段の固体差を吸収して高精度に露出制御を行うことができる。 A compound eye imaging device according to still another aspect of the present invention is two imaging units that are arranged at positions in the longitudinal direction of the apparatus main body and that capture two images having parallax with each other, each from the front of the apparatus main body. Image signals acquired via two imaging means having a photographing lens that does not protrude or has a small protrusion, a release button disposed in the apparatus main body, and an imaging means that has a photographing lens farthest from the release button Metering means for metering the brightness of the subject based on the exposure, and exposure control means for controlling the exposure of the two imaging means based on the brightness of the subject metered by the metering means, respectively. A means for obtaining a photographing sensitivity, an aperture value, and an exposure time based on the brightness of the subject photometrically measured by the photometric means; and a predetermined base of the two imaging means. A storage means for storing an imaging sensitivity indicating an individual difference from the value, an aperture, and a mechanical shutter delay deviation amount; and correcting the obtained imaging sensitivity based on the deviation amount stored in the storage means; and a mechanical shutter possess a means for correcting the predetermined position to close the longitudinal center position of the imaging lens of the two imaging means, displaced in a direction away from the position of the release button relative to the longitudinal center position of the main body It is characterized by being arranged. According to this, exposure control can be performed with high accuracy by absorbing the solid difference between the two imaging means.
本発明の更に他の態様に係る複眼撮像装置において、前記焦点調節手段は、前記レリーズボタンから最も離れた撮影レンズを有する撮像手段の撮影レンズを至近から無限遠又は無限遠から至近に向けてサーチ動作させ、該撮像手段から取得される画像のコントラストが最大になる合焦位置に前記撮影レンズを移動させるとともに、前記焦点調節された撮影レンズの合焦位置に基づいて他の撮影レンズのサーチ範囲を制限して他の撮影レンズをサーチ動作させ、他の撮影レンズを有する撮像手段から取得される画像のコントラストが最大になる合焦位置に前記他の撮影レンズを移動させることが好ましい。前記他の撮影レンズは、前記焦点調節された撮影レンズの合焦位置を基準にしてサーチ範囲が制限されるため、前記焦点調節された撮影レンズの合焦位置から大幅に合焦位置がずれないようにすることができる。これにより、基準の撮像手段の撮影レンズが合焦している被写体と同じ被写体に、他の撮像手段の撮影レンズを合焦させることができる。 In the compound-eye imaging apparatus according to still another aspect of the present invention, the focus adjustment unit performs a search operation from the closest to infinity or from infinity to the closest to the imaging lens of the imaging unit having the imaging lens farthest from the release button. And moving the photographic lens to a focus position where the contrast of the image acquired from the imaging means is maximized, and setting a search range for other photographic lenses based on the focus position of the focus-adjusted photographic lens. It is preferable to restrict the other photographing lens to perform a search operation and move the other photographing lens to a focus position where the contrast of an image acquired from an imaging unit having the other photographing lens is maximized. Since the search range of the other photographic lens is limited based on the focus position of the focus-adjusted photographic lens, the focus position does not deviate significantly from the focus position of the focus-adjusted photographic lens. Can be. Thereby, the photographic lens of the other imaging means can be focused on the same subject as the subject on which the photographic lens of the reference imaging means is focused.
本発明の更に他の態様に係る複眼撮像装置において、前記焦点調節手段は、前記レリーズボタンから最も離れた撮影レンズと他の撮影レンズとの固体差に対応するフォーカスズレ量を記憶する記憶手段と、前記焦点調節された撮影レンズの合焦位置と前記記憶手段に記憶されたフォーカスズレ量とに基づいて他の撮影レンズの移動すべき中心位置を算出する手段と、前記算出した中心位置を中心にしてサーチ余裕分の範囲で他の撮影レンズをサーチ動作させる手段と、を有することができる。 In the compound-eye imaging device according to still another aspect of the present invention, the focus adjustment unit includes a storage unit that stores a focus shift amount corresponding to a solid difference between the photographic lens farthest from the release button and another photographic lens. A means for calculating a center position to be moved by another photographing lens based on the in-focus position of the focus-adjusted photographing lens and a focus shift amount stored in the storage means; and centering the calculated center position. And a means for performing a search operation of another photographing lens within a range of a search margin.
本発明の更に他の態様に係る複眼撮像装置において、前記焦点調節手段は、前記他の撮像手段から取得される画像のコントラストが最大になる合焦位置が得られない場合には、前記他の撮影レンズの移動すべき中心位置に該他の撮影レンズを移動させることを特徴としている。これにより、何らかの原因により他の撮影レンズの合焦位置が得られない場合でも、焦点調節された撮影レンズの合焦位置に対応する位置に他の撮影レンズを移動させることにより、他の撮影レンズも合焦する可能性が高くなる。 In the compound eye imaging device according to still another aspect of the present invention, the focus adjustment unit may be configured to perform the other adjustment when the in-focus position where the contrast of the image acquired from the other imaging unit is maximized cannot be obtained. The other photographic lens is moved to the center position to which the photographic lens should be moved. As a result, even if the focus position of the other photographic lens cannot be obtained for some reason, the other photographic lens is moved by moving the other photographic lens to a position corresponding to the focus position of the photographic lens whose focus has been adjusted. There is a high possibility of focusing.
本発明の更に他の態様に係る複眼撮像装置において、前記ホワイトバランス補正値を算出する算出手段は、前記レリーズボタンから最も離れた撮影レンズを有する撮像手段と他の撮像手段とのカラーバランスの感度比を記憶する記憶手段を有し、前記算出したホワイトバランス補正値と前記記憶手段から読み出した感度比とに基づいて他の撮像手段から取得した視差画像に対するホワイトバランス補正値を算出することができる。これにより2つの撮像手段の個体差を吸収してホワイトバランスを揃えることができる。 In the compound-eye imaging device according to still another aspect of the present invention, the calculation means for calculating the white balance correction value is a color balance sensitivity between an imaging means having an imaging lens farthest from the release button and another imaging means. A storage unit for storing a ratio, and a white balance correction value for a parallax image acquired from another imaging unit can be calculated based on the calculated white balance correction value and the sensitivity ratio read from the storage unit; . Thereby, the individual difference between the two imaging means can be absorbed and the white balance can be made uniform.
本発明の更に他の態様に係る複眼撮像装置において、前記2つの撮影レンズは、それぞれ屈曲光学系の撮影レンズとすることができる。 In the compound-eye imaging device according to still another aspect of the present invention, the two photographing lenses can each be a photographing lens of a bending optical system.
本発明の更に他の態様に係る複眼撮像装置は、装置本体の長手方向の位置に配設され、互いに視差を有する2つの画像を撮像する2つの撮像手段であって、それぞれ装置本体の前面から突出しない、あるいは突出が小さい撮影レンズを有する2つの撮像手段と、前記装置本体に配設されたレリーズボタンと、前記レリーズボタンから最も離れた撮影レンズを有する撮像手段を介して取得される画像信号に基づいて被写体の明るさを測光する測光手段と、前記測光手段により測光された被写体の明るさに基づいて前記2つの撮像手段の露出をそれぞれ制御する露出制御手段と、前記装置本体の上下方向に移動自在に配設され、前記2つの撮像手段の2つの撮影レンズの前面を同時に開閉する1つのレンズバリアと、を備え、前記2つの撮像手段の撮影レンズの長手方向の中心位置が、装置本体の長手方向の中心位置に対して前記レリーズボタンの位置から遠ざかる方向にずれて配置されていることを特徴としている。 A compound eye imaging device according to still another aspect of the present invention is two imaging units that are arranged at positions in the longitudinal direction of the apparatus main body and that capture two images having parallax with each other, each from the front of the apparatus main body. Image signals acquired via two imaging means having a photographing lens that does not protrude or has a small protrusion, a release button disposed in the apparatus main body, and an imaging means that has a photographing lens farthest from the release button Metering means for metering the brightness of the subject based on the exposure, exposure control means for controlling the exposure of the two imaging means based on the brightness of the subject metered by the photometry means, and the vertical direction of the apparatus body movably disposed, and a single lens barrier for opening and closing the front at the same time the two imaging lenses of the two imaging means, said two imaging means Longitudinal center position of the photographing lens is characterized in that it is arranged offset in a direction away from the position of the release button relative to the longitudinal center position of the apparatus main body.
本発明の更に他の態様に係る複眼撮像装置において、前記レンズバリアの長手方向の幅は、前記装置本体の長手方向の幅と略一致していることができる。 In the compound-eye imaging device according to still another aspect of the present invention, the longitudinal width of the lens barrier may substantially coincide with the longitudinal width of the device body.
本発明の更に他の態様に係る複眼撮像装置において、前記レンズバリアは、その表面の左右方向にわたって指掛り用の凸部が形成されていることが好ましい。前記レンズバリアに形成された指掛り用の凸部は、該レンズバリアを操作する際に指掛りになるとともに、撮影時には2つのレンズへの指掛りを防止する役割を果たす。 In the compound-eye imaging device according to still another aspect of the present invention, it is preferable that the lens barrier has a convex portion for hooking a finger over a lateral direction of the surface of the lens barrier. The finger-hanging convex portion formed on the lens barrier serves as a finger-hold when the lens barrier is operated and plays a role of preventing finger-holding on the two lenses during photographing.
本発明によれば、装置本体の長手方向の位置に配設され、装置本体の前面から突出しない、あるいは突出が小さい撮影レンズを有する2つの撮像手段のうち、レリーズボタンから最も離れた撮影レンズを有する撮像手段を基準の撮像手段とし、この基準の撮像手段を介して取得される画像信号に基づいて2つの撮像手段の露出制御(AE制御)を行い、2つの撮影レンズの焦点調節(AF制御)を行い、又は2つの視差を有する画像のホワイトバランス補正(AWB補正)を行うようにしたため、他の撮影レンズへの指掛りの有無にかかわらず、良好な3D画像を撮像することができる。また、2つの撮像手段の撮影レンズの長手方向の中心位置が、装置本体の長手方向の中心位置に対して前記レリーズボタンの位置から遠ざかる方向にずれて配置するようにしたため、レリーズボタンを操作する手で前記装置本体を把持する際に、その手で把持するためのグリップ部を前記装置本体に確保することができる。 According to the present invention, the photographic lens that is disposed at a position in the longitudinal direction of the apparatus main body and that does not protrude from the front surface of the apparatus main body or has a photographic lens with a small protrusion, of the photographic lens that is farthest from the release button The image pickup unit having the image pickup unit is used as a reference image pickup unit, and exposure control (AE control) of the two image pickup units is performed on the basis of an image signal acquired via the reference image pickup unit, and focus adjustment (AF control) of the two photographing lenses is performed. ) Or white balance correction (AWB correction) of an image having two parallaxes, it is possible to capture a good 3D image regardless of the presence or absence of a finger on another photographing lens. In addition, since the center position in the longitudinal direction of the photographing lens of the two image pickup means is shifted from the center position in the longitudinal direction of the apparatus main body in a direction away from the position of the release button, the release button is operated. When the apparatus main body is held by hand, a grip portion for holding by the hand can be secured in the apparatus main body.
以下、添付図面に従って本発明に係る複眼撮像装置の実施の形態について説明する。 Embodiments of a compound eye imaging apparatus according to the present invention will be described below with reference to the accompanying drawings.
[複眼撮像装置の外観]
図1は本発明に係る複眼撮像装置の外観を示す図であり、同図(A)〜(D)はそれぞれ複眼撮像装置の上面図、正面図、背面図、及び左側面図である。また、図2は図1に示した複眼撮像装置の撮像時の正面図である。
[Appearance of compound eye imaging device]
FIG. 1 is a diagram showing the appearance of a compound eye imaging device according to the present invention, and FIGS. 1A to 1D are a top view, a front view, a rear view, and a left side view of the compound eye imaging device, respectively. FIG. 2 is a front view of the compound eye imaging apparatus shown in FIG.
この複眼撮像装置(複眼カメラ)10は、2D/3Dの静止画、及び2D/3Dの動画の記録再生が可能なデジタルカメラであり、図1に示すように薄型の直方体状のカメラ本体の上面には、レリーズボタン11、ズームボタン12が配設されている。
This compound-eye imaging device (compound-eye camera) 10 is a digital camera capable of recording and reproducing 2D / 3D still images and 2D / 3D moving images. As shown in FIG. 1, the upper surface of a thin rectangular parallelepiped camera body Are provided with a
カメラ本体の前面には、カメラ本体の左右方向の幅と略一の幅を有するレンズバリア13が、カメラ本体の上下方向に移動自在に配設されており、このレンズバリア13を上下方向に移動させることにより、図2に示すように左右一対の撮影レンズ14-1,14-2の前面を同時に開閉できるようになっている。尚、撮影レンズ14-1,14-2としては、屈曲レンズが使用されている。
On the front surface of the camera body, a
また、レンズバリア13の表面には、左右方向にわたって指掛り用の凸部13Aが形成されている。この指掛り用の凸部13Aは、レンズバリア13を操作する際に指掛りになるとともに、撮像時にはレンズへの指掛りを防止する役割を果たす。また、レンズバリア13によるレンズ前面の開閉動作に連動して、カメラ電源をON/OFFさせることができるようになっている。
Further, on the surface of the
カメラ本体の背面には、その中央部に3D用の液晶モニタ16が配設されている。液晶モニタ16は、2つの画像(右目用画像、左目用画像)をパララックスバリアによりそれぞれ所定の指向性をもった指向性画像として表示できるものである。尚、3D用の液晶モニタ16としては、レンチキュラレンズを使用するものや、偏光メガネ、液晶シャッタメガネなどの専用メガネをかけることで右目用画像と左目用画像とを個別に見ることができるものなどが適用できる。 On the back of the camera body, a 3D liquid crystal monitor 16 is disposed at the center. The liquid crystal monitor 16 can display two images (right-eye image and left-eye image) as directional images each having a predetermined directivity by a parallax barrier. The 3D liquid crystal monitor 16 uses a lenticular lens, or can display a right eye image and a left eye image individually by wearing dedicated glasses such as polarized glasses or liquid crystal shutter glasses. Is applicable.
上記液晶モニタ16の左右には、各種の操作スイッチが配設されている(図1(C))。操作スイッチ18Aは、静止画撮影と動画撮影とを切り替える切替えスイッチであり、操作スイッチ18Bは、2D撮影と3D撮影とを切り替える切替えスイッチである。また、操作スイッチ18Cは、MENU/OKボタンと再生ボタンとを兼ねたシーソーキーであり、操作スイッチ18Dは、マルチファンクションの十字キーであり、操作スイッチ18Eは、DISP/BACKキーである。
Various operation switches are arranged on the left and right of the liquid crystal monitor 16 (FIG. 1C). The
MENU/OKボタンは、液晶モニタ16の画面上にメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行などを指令するOKボタンとしての機能とを兼備した操作スイッチである。再生ボタンは、撮影モードから再生モードに切り替えるボタンである。十字キーは、上下左右の4方向の指示を入力する操作スイッチであり、マクロボタン、フラッシュボタン、セルフタイマーボタン等が割り当てられており、また、メニューが選択されている場合には、そのメニュー画面から項目を選択したり、各メニューから各種設定項目の選択を指示するスイッチ(カーソル移動操作手段)として機能する。また、十字キーの左/右キーは再生モード時のコマ送り(順方向/逆方向送り)ボタンとして機能する。DISP/BACKキーは、液晶モニタ16の表示形態を切り替えたり、メニュー画面上での指示内容の取消し、あるいは1つ前の操作状態に戻らせる時などに使用される。
The MENU / OK button is an operation switch having both a function as a menu button for instructing to display a menu on the screen of the liquid crystal monitor 16 and a function as an OK button for instructing confirmation and execution of selection contents. It is. The playback button is a button for switching from the shooting mode to the playback mode. The cross key is an operation switch for inputting instructions in four directions, up, down, left, and right. A macro button, a flash button, a self-timer button, or the like is assigned to the menu key. When a menu is selected, the menu screen is displayed. Function as a switch (cursor moving operation means) for selecting an item from the menu or instructing selection of various setting items from each menu. The left / right key of the cross key functions as a frame advance (forward / reverse feed) button in the playback mode. The DISP / BACK key is used for switching the display form of the
図2に示すように、カメラ本体の左右方向の中心をC1,左右の撮影レンズ14-1,14-2の中心をC2とすると、C2は、C1よりも長さLだけ図2上で右側(正面側から見て右側)にずれている。即ち、各撮影レンズ14-1,14-2は、カメラ本体の中心C1に対してレンズ中心C2がレリーズボタン11側から遠ざかる方向にずれて配設されており、これによりカメラ本体を右手で把持してレリーズボタン11を操作する際のグリップ部を確保できるようにしている。
As shown in FIG. 2, when C 1 is the center of the camera body in the left-right direction and C 2 is the center of the left and right photographing lenses 14-1 and 14-2, C 2 is shown by a length L than C 1 . 2 is shifted to the right side (right side when viewed from the front side). That is, each imaging lens 14-1 and 14-2, the lens center C 2 with respect to the center C 1 of the camera body is disposed displaced in the direction away from the
[第1の実施形態]
図3は上記複眼撮像装置(複眼カメラ)10の第1の実施形態を示すブロック図である。
[First Embodiment]
FIG. 3 is a block diagram showing a first embodiment of the compound eye imaging device (compound eye camera) 10.
図3に示すように、この複眼カメラ10は、主として2つの撮像部20-1,20-2、中央処理装置(CPU)32、AE(Automatic Exposure:自動露出)測光部33、前述したレリーズボタン11、ズームボタン12、及び各種の操作スイッチを含む操作部34、表示制御部36、液晶モニタ16、記録制御部38、圧縮/伸張処理部42、デジタル信号処理部44、AF(Auto Focus:自動焦点)検出部46、AWB(Automatic White Balance:自動ホワイトバランス)検出部48、VRAM50、RAM52、フラッシュメモリ54、ROM56、及び露出設定算出部58等から構成されている。尚、撮像部20-1,20-2は、互いに視差を有する左眼用画像と右眼用画像の2枚の視差画像を撮像するが、撮像部20は、3つ以上あってもよい。
As shown in FIG. 3, this compound-
左眼用画像を撮像する撮像部20-1は、プリズム(図示せず)、フォーカスレンズ及びズームレンズ21からなる屈曲レンズ、絞り22及びメカシャッター23からなる光学ユニットと、固体撮像素子(CCD)24と、アナログ信号処理部25と、A/D変換器26と、画像入力コントローラ27と、前記光学ユニットを駆動するレンズ駆動部28、絞り駆動部29及びシャッター制御部30と、CCD24を制御するCCD制御部31とを備えている。尚、右眼用画像を撮像する撮像部20-2は、前記左眼用画像を撮像する撮像部20-1と同じ構成を有するため、その具体的な構成の説明は省略する。
The imaging unit 20-1 that captures an image for the left eye includes a prism (not shown), a bending lens including a focus lens and a
CPU32は、操作部34からの入力に基づき所定の制御プログラムに従って複眼カメラ全体の動作を統括制御する。尚、ROM56には、CPU32が実行する制御プログラム及び制御に必要な各種データ等が格納され、フラッシュメモリ54には、ユーザ設定情報等の複眼カメラの動作に関する各種設定情報等が格納される。また、VRAM50は、液晶モニタ16に表示する表示用の画像データを一時記憶するメモリであり、RAM52は、CPU32の演算作業用領域及び画像データの一時記憶領域を含んでいる。
The
屈曲レンズに含まれるフォーカスレンズ及びズームレンズ21は、レンズ駆動部28により駆動されて光軸に沿って前後に移動する。CPU32は、レンズ駆動部28の駆動を制御することにより、フォーカスレンズの位置を制御して被写体に焦点が合うように焦点調節を行うとともに、操作部34中のズームボタン12からのズーム指令に応じてズームレンズの位置を制御してズーミングを行う。
The focus lens and
絞り22は、例えば、アイリス絞りで構成されており、絞り駆動部29に駆動されて動作する。CPU32は、絞り駆動部29を介して絞り22の開口量(絞り値)を制御し、CCD24への入射光量を制御する。
The
メカシャッター23は、光路を開閉することによりCCD24での露光時間を決めるとともに、CCD24からの画像信号の読み出し時に不要光がCCD24に入射しないようにしてスミアの発生を防止する。CPU32は、シャッター速度に対応する露光終了時点に同期したシャッター閉信号をシャッター制御部30に出力し、メカシャッター23を制御する。
The
CCD24は、2次元のカラーCCD固体撮像素子により構成されている。CCD24の受光面には、多数のフォトダイオードが2次元的に配列されており、各フォトダイオードには所定の配列でカラーフィルタが配置されている。
The
上記構成の光学ユニットを介してCCD受光面上に結像された被写体の光学像は、このフォトダイオードによって入射光量に応じた信号電荷に変換される。各フォトダイオードに蓄積された信号電荷は、CPU32の指令に従ってCCD制御部31から与えられる駆動パルスに基づいて信号電荷に応じた電圧信号(画像信号)としてCCD24から順次読み出される。CCD24は、電子シャッター機能を備えており、フォトダイオードへの電荷蓄積時間を制御することにより、露光時間(シャッター速度)が制御される。尚、電子シャッターによりシャッター速度に対応する電荷蓄積開始時点が制御され、前記メカシャッター23を閉じることにより露光終了時点(電荷蓄積終了時点)が制御される。本実施の形態では、撮像素子としてCCD24を用いているが、CMOSセンサ等の他の構成の撮像素子を用いることもできる。
The optical image of the subject formed on the CCD light receiving surface via the optical unit having the above configuration is converted into a signal charge corresponding to the amount of incident light by the photodiode. The signal charge accumulated in each photodiode is sequentially read out from the
CCD44から読み出されたR、G、Bのアナログ信号は、アナログ信号処理部25により相関二重サンプリング(CDS)や増幅が行われた後、A/D変換器26によりR、G、Bのデジタル信号に変換される。
The analog signals R, G, and B read from the
画像入力コントローラ27は、所定容量のラインバッファを内蔵しており、A/D変換器26によりA/D変換されたR、G、Bの画像信号を一時蓄積したのち、バス60を介してRAM52に格納する。
The
CPU32は、3D撮影モード時には左目用画像を撮像する撮像部20-1と同様に右眼用画像を撮像する撮像部20-2を制御する。
In the 3D shooting mode, the
AE測光部33は、レリーズボタン11の半押し時に取り込まれる画像信号に基づいてAE制御に必要な被写体輝度を算出する。露出設定算出部58は、AE測光部33により測光された測光値に基づいて2つの撮像部20-1,20-2におけるシャッター速度(露光時間)、絞り値、撮影感度を設定する。
The
AF検出部46は、レリーズボタン11の半押し時に取り込まれるAFエリアの画像信号の高周波成分の絶対値を積算し、この積算した値(AF評価値)をCPU32に出力する。CPU32は、フォーカスレンズを至近から無限遠側に移動させ、AF検出部46により検出されるAF評価値が最大となる合焦位置をサーチし、その合焦位置にフォーカスレンズを移動させることにより、被写体(主要被写体)への焦点調節を行う。AWB検出部48は、本撮像時に取得されたR、G、Bの画像信号に基づいて自動的に光源種(被写界の色温度)を求め、予め光源種別に設定されたR、G、Bのホワイトバランスゲイン(ホワイトバランス補正値)を記憶するテーブルから対応するホワイトバランスゲインを読み出す。
The
尚、AE測光部33、AF検出部46、AWB検出部48及び露出設定算出部58の詳細については後述する。
Details of the
デジタル信号処理部44は、ホワイトバランス補正回路、階調変換処理回路(例えば、ガンマ補正回路)、単板CCDのカラーフィルタ配列に伴うR,G,Bなどの色信号の空間的なズレを補間して各色信号の位置を合わせる処理回路、輪郭補正回路、輝度・色差信号生成回路等を含む画像処理手段として機能し、RAM52に格納されたR、G、Bの画像信号に対して所定の信号処理を行う。即ち、R、G、Bの画像信号は、デジタル信号処理部44において、AWB検出部48により検出されたホワイトバランスゲインが乗算されてホワイトバランス補正が行われ、その後、階調変換処理(例えば、ガンマ補正)等の所定の処理が施された後、輝度信号(Y信号)及び色差信号(Cr、Cb信号)からなるYC信号に変換される。デジタル信号処理部44により処理されたYC信号はRAM52に格納される。
The digital
圧縮/伸張処理部42は、記録メディア40への記録時にはCPU32からの指令に従い、RAM52に格納されたYC信号を圧縮処理し、また、記録メディア40に記録された圧縮された圧縮データを伸張処理してYC信号にする。記録制御部38は、圧縮/伸張処理部42により圧縮された圧縮データを所定形式の画像ファイル(例えば、3Dの静止画は、MP(マルチピクチャ)フォーマットの画像ファイル)にして記録メディア40に記録し、又は記録メディア40から画像ファイルの読み出しを行う。
The compression /
液晶モニタ16は、撮影済み画像を表示するための画像表示部として使用されるとともに、各種設定時にGUI(グラフィカルユーザインターフェース)として使用される。また、液晶モニタ16は、撮影モード時に画角を確認するための電子ファインダとして利用される。表示制御部36は、液晶モニタ16に3D画像を表示させる場合には、VRAM50に保持されている左目用画像と右眼用画像とを1画素ずつ交互に表示させる。液晶モニタ16に設けられているパララックスバリアにより、所定の距離から観察するユーザの左右の眼には、1画素ずつ交互に配列された左右の画像がそれぞれ別々に視認される。これにより、立体視を可能にしている。
The liquid crystal monitor 16 is used as an image display unit for displaying captured images, and is used as a GUI (graphical user interface) during various settings. The liquid crystal monitor 16 is used as an electronic viewfinder for confirming the angle of view in the shooting mode. When displaying a 3D image on the
<AE制御>
図4は本発明の第1の実施形態を示すフローチャートであり、各撮像部における露出設定値の算出手順に関して示している。
<AE control>
FIG. 4 is a flowchart showing the first embodiment of the present invention, and shows the procedure for calculating the exposure setting value in each imaging unit.
図4において、レリーズボタン11が半押しされると、AE測光部33は、レリーズボタン11から最も離れたレンズを有する撮像部から取得される画像信号に基づいて被写体輝度の測光を行う(ステップS10)。即ち、AE測光部33は、レリーズボタン11から最も離れたレンズを有する撮像部(この実施の形態では、撮影レンズ14-1を有する左眼用画像を撮像する撮像部20-1)から取得される画像信号の積算平均値を算出することにより被写体輝度を測光する。尚、測光方式は、平均測光に限らず、中央重点測光やスポット測光などの各種の測光方式を適応することができる。
In FIG. 4, when the
AE測光部33により測光された測光値は、図5に示すように露出設定算出部58に入力される。露出設定算出部58の他の入力には、全て撮像部の絞り22及びメカシャッター23の、基準値に対する絞りズレ量及びメカシャッター遅れのズレ量が加えられており、露出設定算出部58は、上記入力した測光値と、全ての撮像部の絞りズレ量及びメカシャッター遅れのズレ量とに基づいて全ての撮像部の露出設定値を算出する(ステップS12〜S20)。
The metering value measured by the
尚、露出設定算出部58は、予め記憶部58Aに記憶されている感度/絞りの基準値に対する全ての撮像部の感度/絞りのズレ量、及びメカシャッター遅れの基準値に対する全ての撮像部のメカシャッターのズレ量から、それぞれ対応する感度/絞りのズレ量及びメカシャッター遅れのズレ量を入力できるようになっている。
Note that the exposure setting
続いて、露出設定算出部58は、上記補正により得られた測光値から露出値(撮影EV値)を求め、この露出値と予め設定されたプログラム線図より撮影感度、絞り値及び露光時間(シャッター速度)を求める(ステップS14)。
Subsequently, the exposure setting
図6にプログラム線図の一例を示す。例えば、露出値が9の場合、図4のプログラム線図によれば、露光時間は1/125(秒)(TV7)、撮影感度はISO400、絞り値はF2.9(AV3)となる。 FIG. 6 shows an example of a program diagram. For example, when the exposure value is 9, according to the program diagram of FIG. 4, the exposure time is 1/125 (second) (TV7), the photographing sensitivity is ISO400, and the aperture value is F2.9 (AV3).
次に、露出設定算出部58は、上記のようにして求めたレリーズボタン11から最も離れたレンズを有する撮像部に対する露出設定値(撮影感度/絞り値/露光時間)を、他のレンズを有する撮像部に対する露出設定値として反映させる(ステップS16)。
Next, the exposure setting
ここで、前記設定される各撮像部の撮影感度としては、その撮像部の感度/絞りの基準値からのズレ量により感度を補正し、この補正した感度を設定する(ステップS18)。 Here, as the imaging sensitivity of each imaging unit to be set, the sensitivity is corrected by the amount of deviation from the sensitivity / aperture reference value of the imaging unit, and the corrected sensitivity is set (step S18).
また、各撮像部のメカシャッターは、その撮像部のメカシャッターの、メカシャッター遅れの基準値からのズレ量により、メカシャッター閉じ予定位置が修正される(ステップS20)。 Further, the mechanical shutter planned closing position of the mechanical shutter of each imaging unit is corrected by the amount of deviation from the mechanical shutter delay reference value of the mechanical shutter of the imaging unit (step S20).
露出設定算出部58は、上記のようにして算出した全ての撮像部の露出設定値をCPU32に渡し、CPU32は、各撮像部ごとに設定された露出設定値に基づいて絞り22、電子シャッター、メカシャッター23及び撮影感度を制御する。尚、撮影感度の設定は、アナログ信号処理部25のアンプゲインを設定することにより行われる。
The exposure setting
上記のように屈曲レンズで構成された複眼カメラにおいて、レリーズボタンから最も離れたレンズを有する撮像部から取得された画像信号に基づいて被写体輝度を測光するようにしたため、指掛りしにくいレンズ側(片手持ちの時は、100%指掛りしないレンズ側)の撮像部により測光できるため、測光・露出精度が向上する。また、それぞれの撮像部の感度/絞り/メカシャッター遅れの基準値からのズレ量をそれぞれ補正することで、各撮像部の個体差を吸収して高精度に露出制御することができ、可視性の高い立体画像を行うことができる。 In the compound-eye camera configured with a bent lens as described above, the subject brightness is measured based on the image signal acquired from the imaging unit having the lens farthest from the release button, so that the lens side that is difficult to catch on the finger ( When the camera is held by one hand, photometry can be performed by the imaging unit on the lens side that does not hold the finger 100%, so that the photometry / exposure accuracy is improved. In addition, by correcting the amount of deviation from the reference value of sensitivity / aperture / mechanical shutter delay of each image pickup unit, individual differences in each image pickup unit can be absorbed and exposure control can be performed with high accuracy. A high-quality stereoscopic image can be performed.
[第2の実施形態]
図7は本発明に係る複眼カメラの第2の実施形態を示すブロック図である。尚、図3に示した第1の実施形態と共通する部分には同一の符号を付し、その詳細な説明は省略する。
[Second Embodiment]
FIG. 7 is a block diagram showing a second embodiment of the compound eye camera according to the present invention. In addition, the same code | symbol is attached | subjected to the part which is common in 1st Embodiment shown in FIG. 3, and the detailed description is abbreviate | omitted.
図7に示す第2の実施形態の複眼カメラは、図3に示したAE測光部33、AWB検出部48の代わりにAE/AWB検出部49が設けられ、また、露出設定算出部58の代わりにフォーカス範囲算出部62が設けられている点で、第1の実施形態と相違する。尚、AE/AWB検出部49は、図3に示したAE測光部33及びAWB検出部48と同様な検出を行うものである。
The compound eye camera of the second embodiment shown in FIG. 7 is provided with an AE /
<AF制御>
図8は本発明の第2の実施形態を示すフローチャートであり、各撮像部における焦点調節方法に関して示している。
<AF control>
FIG. 8 is a flowchart showing a second embodiment of the present invention, and shows a focus adjustment method in each imaging unit.
図8において、レリーズボタン11が半押しされると、AF検出部46は、レリーズボタン11から最も離れたレンズを有する撮像部から取得されるAFエリアの画像信号の高周波成分の絶対値を積算し、その積算値(AF評価値)をCPU32に出力する。CPU32は、フォーカスレンズを至近から無限遠側に移動させ、AF検出部46により検出されるAF評価値が最大となる合焦位置P1をサーチし、その合焦位置P1にフォーカスレンズを移動させることにより、被写体(主要被写体)への焦点調節を行う(ステップS30)。
In FIG. 8, when the
図9(A)はレリーズボタン11から最も離れた1番目のレンズのフォーカスレンズのサーチ位置とAF評価値との関係を示す図であり、フォーカスレンズは、AF評価値が最大となる合焦位置P1に移動させられる。レリーズボタン11から最も離れた1番目のレンズの焦点調節手段にて合焦位置P1を得ることで、指掛りの影響のない合焦位置を得ることができる。尚、レリーズボタン11側にはグリップがあるため、レリーズボタン11に近いレンズには指が掛かる可能性がある。
FIG. 9A is a diagram showing the relationship between the search position of the focus lens of the first lens farthest from the
続いて、複眼カメラの撮像部を示す変数iを2に初期設定する(ステップS32)。 Subsequently, a variable i indicating the imaging unit of the compound eye camera is initially set to 2 (step S32).
図10に示すようにフォーカス範囲算出部62には、レリーズボタン11から最も離れた1番目のレンズの合焦位置Pi、予め記憶部62Aに調査・保存されているi番目のレンズと1番目のレンズとのフォーカスズレ量Dfi、及びサーチ余裕分(Ni,Fi)の焦点調節幅が入力される。
As shown in FIG. 10, the focus
フォーカス範囲算出部62は、1番目のレンズの合焦位置P1と、i番目のレンズと1番目のレンズとのフォーカスズレ量Dfiにより、i番目のレンズの焦点調節手段の中心位置PiをP1−Dfiとして求める(ステップS34、図9(B))。
The focus
また、フォーカス範囲算出部62は、上記求めたi番目のレンズの焦点調節手段の中心位置Piと、記憶部62Aに保存されているサーチ余裕分の焦点調節幅をCPU32に渡す。CPU32は、中心位置Piを中心にした近側にNiパルス、遠側にFiパルス(温度や姿勢等によるサーチ余裕分)の範囲で、i番目のレンズのフォーカスレンズによるAFサーチを行わせる(ステップS36)。
Further, the focus
CPU32は、i番目のレンズのフォーカスレンズによるAFサーチにより取得したAF評価値に基づいて該AF評価値が最大となる合焦位置Pi’の有無を判別し(ステップS38)、合焦位置Pi’があった場合には、i番目のレンズのフォーカスレンズを合焦位置Pi’に移動させ(ステップS40)、合焦位置Pi’がなかった場合には、i番目のレンズのフォーカスレンズを前記算出した位置Piに移動させる(ステップS42)。
The
続いて、CPU32は、全てのレンズの焦点調節が終わったか否かを判別し(ステップS44)、全てのレンズの焦点調節が終わっていない場合には、変数iを1だけインクリメントし(ステップS46)、ステップS34に遷移させ、次のi番目のレンズについて上記と同様な焦点調節を行う。尚、撮像部が3以上の場合には、上記フローラインにしたがってステップS34に戻る場合があるが、2つの撮像部の場合は、ステップS34には戻らない。
Subsequently, the
上記のように屈曲レンズで構成された複眼カメラにおいて、レリーズボタンから最も離れたレンズを有する撮像部から取得された画像信号に基づいて焦点調節するようにしたため、指掛りしにくいレンズ側(片手持ちの時は、100%指掛りしないレンズ側)の撮像部から取得された画像信号に基づいて焦点調節することができ、正しい合焦位置が得られ、精度の高い焦点調節を行うことができる。また、予め求められているレリーズボタンから最も離れているレンズとi番目のレンズのフォーカスレンズのズレ量(Dfi)と、温度や姿勢等によるサーチ余裕分(Ni,Fi)を考慮してi番目のレンズを焦点調節することで、正しい合焦位置(同じ被写体に合焦させる合焦位置)を得られる可能性が高くなる。 In the compound-eye camera configured with a bent lens as described above, the focus is adjusted based on the image signal acquired from the imaging unit having the lens farthest from the release button. In this case, the focus can be adjusted based on the image signal acquired from the image pickup unit on the lens side that is not 100% finger-fingered, so that a correct in-focus position can be obtained and high-precision focus adjustment can be performed. In addition, the i-th lens takes into account the shift amount (Dfi) of the focus lens between the lens farthest from the release button and the i-th lens, and the search margin (Ni, Fi) due to temperature, posture, etc. By adjusting the focus of this lens, there is a high possibility that a correct focus position (a focus position for focusing on the same subject) can be obtained.
更に、何らかの原因(例えば、レンズへの指掛りの原因)でi番目の合焦位置が得られなかった場合でも、予め求められているフォーカスレンズのズレ量から求めた位置に他のフォーカスレンズを移動させることで、合焦している可能性を上げることができる。以上により、可視性の高い立体画像を撮像することができる。 Furthermore, even when the i-th in-focus position cannot be obtained due to some cause (for example, the cause of finger catching on the lens), another focus lens is placed at the position obtained from the previously obtained amount of shift of the focus lens. By moving it, the possibility of being in focus can be increased. As described above, a highly visible stereoscopic image can be captured.
尚、上記の実施形態では、至近から無限遠に向けてAFサーチを行うようにしたが、例えば、風景モードによる撮影時には無限遠から至近に向けてAFサーチを行うようにしてもよい。 In the above embodiment, the AF search is performed from close to infinity. However, for example, when shooting in landscape mode, the AF search may be performed from infinity to close.
[第3の実施形態]
図11は本発明に係る複眼カメラの第3の実施形態を示すブロック図である。尚、図3に示した第1の実施形態と共通する部分には同一の符号を付し、その詳細な説明は省略する。
[Third Embodiment]
FIG. 11 is a block diagram showing a third embodiment of the compound-eye camera according to the present invention. In addition, the same code | symbol is attached | subjected to the part which is common in 1st Embodiment shown in FIG. 3, and the detailed description is abbreviate | omitted.
図11に示す第3の実施形態の複眼カメラは、図3に示したAWB検出部48の代わりにAWB検出部64が設けられ、また、AE測光部33の代わりにAE検出部51が設けられ、更に露出設定算出部58の代わりにWB算出部66が設けられている点で、第1の実施形態と相違する。尚、AE検出部51は、図3に示したAE測光部33と同様な検出を行うものである。
The compound eye camera of the third embodiment shown in FIG. 11 is provided with an
<AWB補正>
図12は本発明の第3の実施形態を示すフローチャートであり、各撮像部におけるAWB補正方法に関して示している。
<AWB correction>
FIG. 12 is a flowchart showing a third embodiment of the present invention, and shows an AWB correction method in each imaging unit.
図12において、AWB検出部64は、レリーズボタン11の全押しにより本撮像され、RAM52に格納された複数視点の画像信号のうち、レリーズボタン11から最も離れたレンズを有する撮像部から取得された1画面分の画像信号を取り込み、この画像信号の画面を複数の分割エリア(例えば、8×8)に分割し、各分割エリアごとにR、G、B信号を積算し、積算値R/G/Bの比で表される各分割エリアの色情報(R/G,B/G)を算出する(ステップS50)。AWB検出部64は、得られた各分割エリアの色情報(R/G,B/G)の、R/G軸,B/G軸を座標軸とする色空間上の分布から日陰、曇り、晴れ、蛍光灯、及び電球等の各光源種の中から光源種を推定する(ステップS52)。この光源種の推定方法としては、特開2000−224608号公報、特開2004−304695号公報等に記載の公知のものを使用することができる。
In FIG. 12, the
AWB検出部64は、光源種を推定すると、その推定した光源種に合わせてホワイトバランスゲイン(ホワイトバランス補正値)を求める(ステップS53)。尚、前記ホワイトバランスゲインは、予め光源種別に最適なホワイトバランス補正を行うためのホワイトバランスゲインのテーブルを準備しておき、前記求めた光源種に応じて対応するホワイトバランスゲインを読み出すことで求めることができる。
After estimating the light source type, the
続いて、複眼カメラの撮像部を示す変数iを2に初期設定する(ステップS54)。 Subsequently, a variable i indicating the imaging unit of the compound eye camera is initially set to 2 (step S54).
図13に示すようにWB算出部66には、レリーズボタン11から最も離れた1番目のレンズのホワイトバランスゲインが前記AWB検出部64から入力されるとともに、撮像部感度比を記憶する記憶部66Aから全てのレンズにおけるレリーズボタンから最も離れたレンズとの撮像部の感度比が入力できるようになっている。
As shown in FIG. 13, the white balance gain of the first lens farthest from the
WB算出部66は、レリーズボタンから最も離れた1番目のレンズとi番目のレンズとの感度比と、1番目のレンズに対して求めたホワイトバランスゲインとに基づいてi番目のレンズのホワイトバランスゲインを算出する(ステップS56)。
The
いま、1番目のレンズのホワイトバランスゲインを、R、G、B信号別にWBR1/WBG1/WBB1とし、1番目のレンズの撮像部とi番目のレンズの撮像部との感度比をGRi/GGi/GBiとすると、i番目のレンズのホワイトバランスゲイン(WBRi/WBGi/WBBi)は、次の[数1]式により求めることができる。 Now, the white balance gain of the first lens is WBR1 / WBG1 / WBB1 for each of the R, G, and B signals, and the sensitivity ratio between the imaging unit of the first lens and the imaging unit of the i-th lens is GRi / GGi / Assuming GBi, the white balance gain (WBRi / WBGi / WBBi) of the i-th lens can be obtained by the following [Equation 1].
[数1]
WBRi=WBR1*GRi
WBGi=WBG1*GGi
WBBi=WBB1*GBi
WB算出部66は、全てのレンズのホワイトバランスゲインの算出が終了したか否かを判別し(ステップS58)、全てのレンズのホワイトバランスゲインの算出が終了していない場合には、変数iを1だけインクリメントし(ステップS60)、ステップS56に遷移させ、次のi番目のレンズについて上記と同様にしてホワイトバランスゲインの算出を行う。尚、撮像部が3以上の場合には、上記フローラインにしたがってステップS56に戻る場合があるが、2つの撮像部の場合は、ステップS56には戻らない。
[Equation 1]
WBRi = WBR1 * GRi
WBGi = WBG1 * GGi
WBBi = WBB1 * GBi
The
上記のように屈曲レンズで構成された複眼カメラにおいて、レリーズボタンから最も離れたレンズを有する撮像部から取得された画像信号に基づいてホワイトバランスゲインを算出するようにしたため、指掛りしにくいレンズ側(片手持ちの時は、100%指掛りしないレンズ側)の撮像部から取得された画像信号に基づいてホワイトバランスゲインを算出することができ、正しいホワイトバランスゲインが得られ、正しいホワイトバランス補正を行うことができる。また、予め求められているレリーズボタンから最も離れているレンズの撮像部と他のレンズの撮像部との感度比を用いて、レリーズボタンから最も離れているレンズのホワイトバランスゲインから、他のレンズのホワイトバランスゲインを算出することで、それぞれのレンズの撮像部の個体差を吸収してホワイトバランスを揃えることができる。以上により、可視性の高い立体画像が得られる。 In the compound-eye camera configured with a bent lens as described above, the white balance gain is calculated based on the image signal acquired from the imaging unit having the lens farthest from the release button, so that the lens side that is difficult to catch on with the finger The white balance gain can be calculated based on the image signal acquired from the imaging unit (the lens side that is not 100% finger-holding when it is held by one hand), and the correct white balance gain can be obtained. It can be carried out. In addition, by using the sensitivity ratio between the imaging unit of the lens farthest from the release button and the imaging unit of the other lens, which is obtained in advance, the white balance gain of the lens farthest from the release button is used to calculate another lens. By calculating the white balance gain, it is possible to match the white balance by absorbing individual differences in the imaging units of the respective lenses. As a result, a highly visible stereoscopic image can be obtained.
[その他]
本発明は、上記第1から第3の実施形態に示したものに限らず、各実施形態を適宜組み合わせたものでもよい。
[Others]
The present invention is not limited to those shown in the first to third embodiments, but may be a combination of the embodiments as appropriate.
また、本発明に適用される撮影レンズは屈曲レンズに限らず、カメラ前面からレンズが突出しないレンズであれば、如何なるものでもよい。 The photographing lens applied to the present invention is not limited to a bent lens, and any lens may be used as long as the lens does not protrude from the front surface of the camera.
本発明は上述した実施形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。 It goes without saying that the present invention is not limited to the above-described embodiments, and various modifications can be made without departing from the spirit of the present invention.
10…複眼撮像装置(複眼カメラ)、11…レリーズボタン、13…レンズバリア、13A…凸部、16…液晶モニタ、20-1,20-2…撮像部、21…フォーカスレンズ及びズームレンズ、22…絞り、23…メカシャッター、24…CCD、25…アナログ信号処理部、28…レンズ駆動部、29…絞り駆動部、30…シャッター制御部、31…CCD制御部、32…中央処理装置(CPU)、34…操作部、44…デジタル信号処理部、46…AF検出部、48、64…AWB検出部、52…RAM、56…ROM、58…露出設定算出部、58A、66A、62A…記憶部、62…フォーカス範囲算出部、66…WB算出部
DESCRIPTION OF
Claims (11)
前記装置本体に配設されたレリーズボタンと、
前記レリーズボタンから最も離れた撮影レンズを有する撮像手段を介して取得される画像信号に基づいて被写体の明るさを測光する測光手段と、
前記測光手段により測光された被写体の明るさに基づいて前記2つの撮像手段の露出をそれぞれ制御する露出制御手段と、
前記レリーズボタンから最も離れた撮影レンズを有する撮像手段を介して取得される画像信号に基づいて該撮影レンズの焦点調節を行うとともに、該焦点調節結果を利用して他の撮像手段の撮影レンズの焦点調節を行う焦点調節手段と、を備え、
前記2つの撮像手段の撮影レンズの長手方向の中心位置が、装置本体の長手方向の中心位置に対して前記レリーズボタンの位置から遠ざかる方向にずれて配置されていることを特徴とする複眼撮像装置。 Two imaging units that are disposed at positions in the longitudinal direction of the apparatus main body and that capture two images having parallax with each other, each having an imaging lens that does not protrude from the front surface of the apparatus main body or has a small protrusion Means,
A release button disposed in the apparatus body;
Photometric means for measuring the brightness of a subject based on an image signal acquired through an imaging means having a taking lens farthest from the release button;
Exposure control means for controlling the exposure of the two imaging means based on the brightness of the subject measured by the photometry means,
The focus of the photographic lens is adjusted based on the image signal acquired through the imaging means having the photographic lens farthest from the release button, and the photographic lens of the other imaging means is utilized using the focus adjustment result. A focus adjusting means for performing focus adjustment ,
A compound-eye imaging apparatus , wherein a center position in the longitudinal direction of the photographing lens of the two imaging means is arranged to be shifted in a direction away from the position of the release button with respect to the center position in the longitudinal direction of the apparatus body. .
前記算出手段により算出されたホワイトバランス補正値に基づいて前記2つ撮像手段から取得された視差画像のホワイトバランスをそれぞれ補正するホワイトバランス補正手段と、
を更に備えたことを特徴とする請求項1に記載の複眼撮像装置。 Calculating means for calculating a white balance correction value based on an image signal acquired through an imaging means having a taking lens farthest from the release button;
White balance correction means for correcting white balance of parallax images acquired from the two imaging means based on the white balance correction value calculated by the calculation means;
The compound eye imaging apparatus according to claim 1 , further comprising:
前記装置本体に配設されたレリーズボタンと、
前記レリーズボタンから最も離れた撮影レンズを有する撮像手段を介して取得される画像信号に基づいて被写体の明るさを測光する測光手段と、
前記測光手段により測光された被写体の明るさに基づいて前記2つの撮像手段の露出をそれぞれ制御する露出制御手段と、を備え、
前記露出制手段は、前記測光手段により測光された被写体の明るさに基づいて撮影感度、絞り値及び露光時間を求める手段と、前記2つの撮像手段の所定の基準値からの個体差を示す撮影感度、絞り、及びメカシャッター遅れのズレ量を記憶する記憶手段と、前記記憶手段に記憶されたズレ量に基づいて前記求めた撮影感度を補正するとともに、メカシャッター閉じ予定位置を修正する手段と、を有し、
前記2つの撮像手段の撮影レンズの長手方向の中心位置が、装置本体の長手方向の中心位置に対して前記レリーズボタンの位置から遠ざかる方向にずれて配置されていることを特徴とする複眼撮像装置。 Two imaging units that are disposed at positions in the longitudinal direction of the apparatus main body and that capture two images having parallax with each other, each having an imaging lens that does not protrude from the front surface of the apparatus main body or has a small protrusion Means,
A release button disposed in the apparatus body;
Photometric means for measuring the brightness of a subject based on an image signal acquired through an imaging means having a taking lens farthest from the release button;
Exposure control means for controlling the exposure of the two imaging means based on the brightness of the subject measured by the photometry means,
The exposure control means is a means for obtaining an imaging sensitivity, an aperture value and an exposure time based on the brightness of the subject measured by the photometry means, and an image showing an individual difference from a predetermined reference value of the two imaging means. Storage means for storing the sensitivity, aperture, and mechanical shutter delay shift amount; and means for correcting the calculated photographing sensitivity based on the shift amount stored in the storage means and correcting the mechanical shutter expected closing position; , have a,
A compound-eye imaging apparatus , wherein a center position in the longitudinal direction of the photographing lens of the two imaging means is arranged to be shifted in a direction away from the position of the release button with respect to the center position in the longitudinal direction of the apparatus body. .
前記装置本体に配設されたレリーズボタンと、
前記レリーズボタンから最も離れた撮影レンズを有する撮像手段を介して取得される画像信号に基づいて被写体の明るさを測光する測光手段と、
前記測光手段により測光された被写体の明るさに基づいて前記2つの撮像手段の露出をそれぞれ制御する露出制御手段と、
前記装置本体の上下方向に移動自在に配設され、前記2つの撮像手段の2つの撮影レンズの前面を同時に開閉する1つのレンズバリアと、を備え、
前記2つの撮像手段の撮影レンズの長手方向の中心位置が、装置本体の長手方向の中心位置に対して前記レリーズボタンの位置から遠ざかる方向にずれて配置されていることを特徴とする複眼撮像装置。 Two imaging units that are disposed at positions in the longitudinal direction of the apparatus main body and that capture two images having parallax with each other, each having an imaging lens that does not protrude from the front surface of the apparatus main body or has a small protrusion Means,
A release button disposed in the apparatus body;
Photometric means for measuring the brightness of a subject based on an image signal acquired through an imaging means having a taking lens farthest from the release button;
Exposure control means for controlling the exposure of the two imaging means based on the brightness of the subject measured by the photometry means,
A lens barrier that is movably arranged in the vertical direction of the apparatus main body and that opens and closes the front surfaces of the two photographing lenses of the two imaging means at the same time ;
A compound-eye imaging apparatus , wherein a center position in the longitudinal direction of the photographing lens of the two imaging means is arranged to be shifted in a direction away from the position of the release button with respect to the center position in the longitudinal direction of the apparatus body. .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011139905A JP5015340B2 (en) | 2011-06-23 | 2011-06-23 | Compound eye imaging device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011139905A JP5015340B2 (en) | 2011-06-23 | 2011-06-23 | Compound eye imaging device |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009169332A Division JP5426262B2 (en) | 2009-07-17 | 2009-07-17 | Compound eye imaging device |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012030472A Division JP5351298B2 (en) | 2012-02-15 | 2012-02-15 | Compound eye imaging device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011232771A JP2011232771A (en) | 2011-11-17 |
JP5015340B2 true JP5015340B2 (en) | 2012-08-29 |
Family
ID=45322058
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011139905A Expired - Fee Related JP5015340B2 (en) | 2011-06-23 | 2011-06-23 | Compound eye imaging device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5015340B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6219416B2 (en) * | 2014-02-14 | 2017-10-25 | 日立オートモティブシステムズ株式会社 | Stereo camera |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4243938B2 (en) * | 2002-09-06 | 2009-03-25 | ソニー株式会社 | 3D image adapter and 3D image capturing device mounting mechanism |
JP4260094B2 (en) * | 2004-10-19 | 2009-04-30 | 富士フイルム株式会社 | Stereo camera |
JP2008005048A (en) * | 2006-06-20 | 2008-01-10 | Olympus Imaging Corp | Imaging apparatus and signal processor |
JP4714176B2 (en) * | 2007-03-29 | 2011-06-29 | 富士フイルム株式会社 | Stereoscopic apparatus and optical axis adjustment method |
JP2009047894A (en) * | 2007-08-20 | 2009-03-05 | Fujifilm Corp | Digital stereo camera |
-
2011
- 2011-06-23 JP JP2011139905A patent/JP5015340B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2011232771A (en) | 2011-11-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5426262B2 (en) | Compound eye imaging device | |
JP4897940B2 (en) | Stereo imaging device | |
JP4875225B2 (en) | Stereo imaging device | |
JP5449537B2 (en) | Stereoscopic image reproduction apparatus and method, stereoscopic imaging apparatus, and stereoscopic display apparatus | |
JP5449536B2 (en) | Stereoscopic image reproduction apparatus and method, stereoscopic imaging apparatus, and stereoscopic display apparatus | |
JP4692770B2 (en) | Compound eye digital camera | |
US9077976B2 (en) | Single-eye stereoscopic image capturing device | |
JP5722975B2 (en) | Imaging device, shading correction method for imaging device, and program for imaging device | |
JP5166650B2 (en) | Stereo imaging device, image playback device, and editing software | |
JP5415170B2 (en) | Compound eye imaging device | |
JP5231771B2 (en) | Stereo imaging device | |
US9310672B2 (en) | Stereoscopic image capturing device and method of controlling thereof | |
JP2011259168A (en) | Stereoscopic panoramic image capturing device | |
JP5449551B2 (en) | Image output apparatus, method and program | |
WO2013035427A1 (en) | Stereoscopic image capture device and method | |
JP2010103949A (en) | Apparatus, method and program for photographing | |
JP5351298B2 (en) | Compound eye imaging device | |
JP5580486B2 (en) | Image output apparatus, method and program | |
JP2010204385A (en) | Stereoscopic imaging apparatus and method | |
JP5015340B2 (en) | Compound eye imaging device | |
JP2012124650A (en) | Imaging apparatus, and imaging method | |
JP2010200024A (en) | Three-dimensional image display device and three-dimensional image display method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111129 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20111129 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20111227 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120104 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120215 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120528 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120606 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150615 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |