JP5790011B2 - Imaging device - Google Patents

Imaging device Download PDF

Info

Publication number
JP5790011B2
JP5790011B2 JP2011029568A JP2011029568A JP5790011B2 JP 5790011 B2 JP5790011 B2 JP 5790011B2 JP 2011029568 A JP2011029568 A JP 2011029568A JP 2011029568 A JP2011029568 A JP 2011029568A JP 5790011 B2 JP5790011 B2 JP 5790011B2
Authority
JP
Japan
Prior art keywords
image
magnification
lens
focus
focus adjustment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011029568A
Other languages
Japanese (ja)
Other versions
JP2012168371A (en
Inventor
鉾井 逸人
逸人 鉾井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2011029568A priority Critical patent/JP5790011B2/en
Publication of JP2012168371A publication Critical patent/JP2012168371A/en
Application granted granted Critical
Publication of JP5790011B2 publication Critical patent/JP5790011B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、撮像装置に関するものである。   The present invention relates to an imaging apparatus.

従来より、撮像素子により繰り返し撮像を行うことで、動画像の記録を行なう撮像装置が知られている。このような撮像装置として、たとえば、焦点調節レンズを所定の基準位置から、光軸方向に沿って微小に往復駆動させるウォブリング動作を行なう際に、ウォブリング動作による撮影倍率の変化による動画像の品位の低下を抑制するために、焦点調節レンズが所定の基準位置にある場合にのみ、動画像の記録を行なう方法が知られている(たとえば、特許文献1)。   2. Description of the Related Art Conventionally, there has been known an imaging device that records a moving image by repeatedly capturing an image using an imaging element. As such an imaging apparatus, for example, when performing a wobbling operation in which the focus adjustment lens is finely reciprocated along the optical axis direction from a predetermined reference position, the quality of the moving image due to a change in imaging magnification due to the wobbling operation is improved. In order to suppress the decrease, a method of recording a moving image only when the focus adjustment lens is at a predetermined reference position is known (for example, Patent Document 1).

特開2010−113291号公報JP 2010-113291 A

しかしながら、上記特許文献1では、焦点調節レンズが所定の基準位置にある場合にのみ、動画像の記録を行なうものであり、そのため、焦点調節を行なうために、焦点調節レンズが所定の基準位置から焦点調節位置まで駆動する際には、撮影倍率の変化による動画像の品位の変化を抑制することができないという問題があった。   However, in Patent Document 1, a moving image is recorded only when the focus adjustment lens is at a predetermined reference position. Therefore, in order to perform focus adjustment, the focus adjustment lens is moved from a predetermined reference position. When driving to the focus adjustment position, there has been a problem that a change in the quality of a moving image due to a change in photographing magnification cannot be suppressed.

本発明が解決しようとする課題は、良好な撮影画像を得ることのできる撮像装置を提供することにある。   The problem to be solved by the present invention is to provide an imaging apparatus capable of obtaining a good captured image.

本発明は、以下の解決手段によって上記課題を解決する。なお、以下においては、本発明の実施形態を示す図面に対応する符号を付して説明するが、この符号は本発明の理解を容易にするためだけのものであって発明を限定する趣旨ではない。   The present invention solves the above problems by the following means. In the following description, the reference numerals corresponding to the drawings showing the embodiments of the present invention are used for explanation, but these reference numerals are only for facilitating the understanding of the present invention and are not intended to limit the invention. Absent.

[1]本発明の撮像装置は、光学系による像を、所定のフレームレートで繰り返し撮像し、撮像した像に対応する撮像画像信号を出力する撮像部(31)と、焦点調節レンズ(12)を光軸方向に駆動して、前記光学系の焦点状態を調節する焦点調節部(70a)と、ズームレンズ(13)を光軸方向に駆動して、ズーム倍率を変更するズーム倍率変更部(51)と、前記焦点調節レンズの駆動量に対する前記光学系の撮影倍率の変化量の関係を記憶する記憶部(70)と、前記焦点調節レンズを合焦方向に移動させる場合において、前記焦点調節レンズが、前記光学系の撮影倍率が大きくなる方向に駆動したか、前記光学系の撮影倍率が小さくなる方向に駆動したか、を判定する判定部と、前記判定部の判定結果により、前記焦点調節レンズが、前記光学系の撮影倍率が大きくなる方向に駆動したと判定された場合、前記光学系の撮影倍率が、前記焦点調節レンズの駆動を開始する前よりも小さなものとなるように、前記焦点調節レンズの駆動量に対する前記光学系の撮影倍率の変化量の関係に基づいて、前記ズームレンズを光軸方向に駆動させるように前記ズーム倍率変更部の制御を行う制御部(70)と、前記判定部の判定結果により、前記焦点調節レンズが、前記光学系の撮影倍率が小さくなる方向に駆動したと判定された場合、前記光学系の撮影倍率が、前記焦点調節レンズの駆動を開始する前よりも小さなものとなった場合に、前記撮像画像信号に基づく画像から、一部の領域を切り出して、切り出し画像を生成する画像処理部(70)と、を備えることを特徴とする。
[1] The imaging apparatus of the present invention repeatedly captures an image by an optical system at a predetermined frame rate, and outputs a captured image signal corresponding to the captured image, and a focus adjustment lens (12). Is driven in the optical axis direction to adjust the focus state of the optical system, and the zoom lens changing unit is configured to change the zoom magnification by driving the zoom lens (13) in the optical axis direction. 51), a storage unit (70) that stores the relationship between the amount of change in the photographing magnification of the optical system with respect to the driving amount of the focus adjustment lens, and the focus adjustment in the case of moving the focus adjustment lens in the in-focus direction. A determination unit that determines whether the lens is driven in a direction in which the imaging magnification of the optical system is increased or a direction in which the imaging magnification of the optical system is decreased, and the focus is determined based on a determination result of the determination unit. Adjustment lens , If the imaging magnification of the optical system is determined to have drive in the direction of increasing, as imaging magnification of the optical system becomes smaller than the before starting the driving of the focusing lens, said focusing on the basis of the amount of change in the relationship of the photographing magnification of the optical system with respect to the drive amount of the lens, the control unit for controlling the zoom magnification changing unit so as to drive the zoom lens in the optical axis direction (70), the determination When it is determined that the focus adjustment lens is driven in a direction in which the imaging magnification of the optical system is reduced according to the determination result of the optical unit, the imaging magnification of the optical system is greater than before the drive of the focus adjustment lens is started. And an image processing unit (70) for cutting out a part of the area from the image based on the captured image signal and generating a cut-out image.

[2]本発明の撮像装置において、前記制御部(70)が、前記光学系の撮影倍率が、前記焦点調節レンズ(12)の駆動を開始する前よりも小さなものとなるように、前記ズームレンズ(13)を光軸方向に駆動させる際には、前記ズームレンズの駆動を段階的に行なわせるように構成することができる。   [2] In the image pickup apparatus of the present invention, the control unit (70) causes the zoom magnification so that the photographing magnification of the optical system is smaller than that before the focus adjustment lens (12) starts to be driven. When the lens (13) is driven in the optical axis direction, the zoom lens can be driven stepwise.

[3]本発明の撮像装置において、前記画像処理部(70)が、前記切り出し画像の像倍率が、前記焦点調節レンズの駆動を開始する前の像倍率と同じとなるように、前記切り出し画像の生成を行うように構成することができる。   [3] In the imaging apparatus of the present invention, the image processing unit (70) causes the clipped image so that the image magnification of the clipped image is the same as the image magnification before starting the driving of the focus adjustment lens. Can be configured to generate.

[4]本発明の撮像装置において、前記焦点調節部(70a)が、前記焦点調節レンズ(12)を、前記光学系の撮影倍率が小さくなる方向にウォブリング駆動させて、前記ウォブリング駆動の結果に基づいて、前記焦点調節レンズの駆動方向を決定するように構成することができる。   [4] In the imaging apparatus of the present invention, the focus adjustment unit (70a) causes the focus adjustment lens (12) to wobble in a direction in which the imaging magnification of the optical system decreases, and the result of the wobbling drive is obtained. The driving direction of the focus adjustment lens may be determined based on the determination result.

[5]本発明の撮像装置において、前記撮像画像信号に基づいて、焦点評価値を算出する算出部(70a)をさらに備え、前記画像処理部(70)は、前記撮像画像信号の前記焦点評価値が、所定値以上であるか否かを判断し、前記焦点評価値が前記所定値以上である場合と前記所定値未満である場合とで、前記切り出し画像を生成する際の生成方法を異ならせるように構成することができる。   [5] The imaging apparatus of the present invention further includes a calculation unit (70a) for calculating a focus evaluation value based on the captured image signal, and the image processing unit (70) is configured to evaluate the focus evaluation of the captured image signal. It is determined whether the value is equal to or greater than a predetermined value, and the generation method for generating the cut-out image is different between the case where the focus evaluation value is equal to or greater than the predetermined value and the case where the value is less than the predetermined value. Can be configured.

本発明の撮像装置によれば、良好な撮影画像を得ることができる。   According to the imaging apparatus of the present invention, a good captured image can be obtained.

図1は、本実施形態に係るデジタルカメラ1を示すブロック図である。FIG. 1 is a block diagram showing a digital camera 1 according to this embodiment. 図2は、本実施形態に係るカメラの動作例を示すフローチャートである。FIG. 2 is a flowchart showing an operation example of the camera according to the present embodiment. 図3は、本実施形態が適用される一場面例を示す図である。FIG. 3 is a diagram illustrating an example of a scene to which the present embodiment is applied. 図4(A)〜図4(C)は、フォーカスレンズの駆動による撮影倍率の変化の一例を説明する図である。FIGS. 4A to 4C are diagrams illustrating an example of a change in photographing magnification by driving the focus lens. 図5(A)〜図5(C)は、本実施形態におけるクロップ処理を説明するための図である。FIG. 5A to FIG. 5C are diagrams for explaining the crop processing in the present embodiment. 図6は、本実施形態が適用される一場面例を示す図である。FIG. 6 is a diagram illustrating an example of a scene to which the present embodiment is applied. 図7は、図6に示す場面例における、フォーカスレンズ位置の変化、ズームレンズ位置の変化、および像倍率の変化を示す図である。FIG. 7 is a diagram illustrating changes in the focus lens position, zoom lens position, and image magnification in the scene example shown in FIG.

本発明をデジタルカメラに適用した実施形態を図面に基づいて説明する。   An embodiment in which the present invention is applied to a digital camera will be described with reference to the drawings.

図1は、本実施形態に係るデジタルカメラ1を示すブロック図であり、本発明の撮像装置に関する構成以外のカメラの一般的構成については、その図示と説明を一部省略する。   FIG. 1 is a block diagram showing a digital camera 1 according to the present embodiment, and illustration and description of a general configuration of the camera other than the configuration related to the imaging apparatus of the present invention are partially omitted.

本実施形態のデジタルカメラ1(以下、単にカメラ1という。)は、レンズ系10、絞り21、絞り駆動制御部22、撮像素子31、アナログ信号処理回路41、A/D変換部42、レンズ駆動制御部51、メモリ60、カメラ制御部70、操作部80および表示部90を備えている。   The digital camera 1 (hereinafter simply referred to as the camera 1) of the present embodiment includes a lens system 10, an aperture 21, an aperture drive control unit 22, an image sensor 31, an analog signal processing circuit 41, an A / D conversion unit 42, and lens drive. A control unit 51, a memory 60, a camera control unit 70, an operation unit 80, and a display unit 90 are provided.

レンズ系10は、焦点調節用のフォーカスレンズ12、ズーム倍率変更用のズームレンズ13を含む複数のレンズ11,12,13からなり、絞り21とともに撮影光学系を構成する。   The lens system 10 includes a plurality of lenses 11, 12, and 13 including a focus lens 12 for adjusting the focus and a zoom lens 13 for changing the zoom magnification, and constitutes a photographing optical system together with the diaphragm 21.

フォーカスレンズ12は、その光軸L1に沿って移動可能に設けられ、フォーカスレンズ用エンコーダ(不図示)によってその位置または移動量が検出されつつ、フォーカスレンズ駆動モータ52によってその位置が調節される。そして、フォーカスレンズ用エンコーダで検出されたフォーカスレンズ12の現在位置情報は、レンズ駆動制御部51を介してカメラ制御部70へ送信される一方で、カメラ制御部70はこの情報を参照しつつフォーカスレンズ12の焦点調節位置を演算し、レンズ駆動制御部51を介してフォーカスレンズ駆動モータ52にレンズ駆動信号を送信する。   The focus lens 12 is provided so as to be movable along the optical axis L <b> 1, and its position or amount of movement is detected by a focus lens encoder (not shown), and its position is adjusted by the focus lens drive motor 52. The current position information of the focus lens 12 detected by the focus lens encoder is transmitted to the camera control unit 70 via the lens drive control unit 51, and the camera control unit 70 refers to this information to focus. The focus adjustment position of the lens 12 is calculated, and a lens drive signal is transmitted to the focus lens drive motor 52 via the lens drive control unit 51.

ズームレンズ13は、その光軸L1に沿って移動可能に設けられ、ズームレンズ用エンコーダ(不図示)によってその位置または移動量が検出されつつ、ズームレンズ駆動モータ53によってその位置が調節される。ズームレンズ13の位置は、操作部80に設けられたズームボタンを操作することにより、あるいは、カメラ制御部70からレンズ駆動制御部51を介して送出されるズームレンズ駆動指令により、調節される。   The zoom lens 13 is provided so as to be movable along the optical axis L <b> 1, and its position or amount of movement is detected by a zoom lens encoder (not shown), and its position is adjusted by the zoom lens driving motor 53. The position of the zoom lens 13 is adjusted by operating a zoom button provided on the operation unit 80 or by a zoom lens drive command sent from the camera control unit 70 via the lens drive control unit 51.

絞り21は、レンズ系10を通過して、撮像素子31に至る光束L1の光量を制限するとともにボケ量を調整するために、光軸L1を中心にした開口径が調節可能に構成されている。たとえば自動露出モードにおいては、カメラ制御部70により、撮像素子31に至る光束に基づいて目標とする開口径の演算が行われ、演算された開口径に相当する絞り駆動信号が、カメラ制御部70から絞り駆動制御部22を介して絞り駆動部23へ送信されることにより、絞り21による開口径の調節が行われる。また、開口径の調節は、カメラ1に設けられた操作部80をマニュアル操作することによっても行われ、操作部80で設定された開口径がカメラ制御部70から絞り駆動制御部22を介して絞り駆動部23に入力される。なお、絞り21の開口径は絞り開口センサ(不図示)により検出され、カメラ制御部70により現在の開口径が認識される。   The diaphragm 21 is configured such that the aperture diameter around the optical axis L1 can be adjusted in order to limit the amount of the light beam L1 that passes through the lens system 10 and reaches the image sensor 31 and adjust the amount of blur. . For example, in the automatic exposure mode, the camera control unit 70 calculates a target aperture diameter based on the light flux reaching the image pickup device 31, and an aperture drive signal corresponding to the calculated aperture diameter is generated by the camera control unit 70. Is transmitted to the aperture drive unit 23 via the aperture drive control unit 22 to adjust the aperture diameter by the aperture 21. The aperture diameter is also adjusted by manually operating the operation unit 80 provided in the camera 1, and the aperture diameter set by the operation unit 80 is changed from the camera control unit 70 via the aperture drive control unit 22. Input to the aperture drive unit 23. The aperture diameter of the diaphragm 21 is detected by a diaphragm aperture sensor (not shown), and the current aperture diameter is recognized by the camera control unit 70.

撮像素子31は、カメラ1の被写体からの光軸L1上であって、レンズ系10の予定焦点面となる位置に配置されている。撮像素子31は、複数の光電変換素子が二次元に配列されたものであって、二次元CCDイメージセンサ、MOSセンサまたはCID(電荷注入デバイス)などで構成することができる。なお、撮像素子31は、各画素に蓄積される電荷の蓄積時間、すなわちシャッタースピードをシャッターゲートパルスによって制御する電子シャッター機能を備える。   The image pickup device 31 is disposed on the optical axis L1 from the subject of the camera 1 and at a position that is a planned focal plane of the lens system 10. The imaging element 31 is a two-dimensional array of a plurality of photoelectric conversion elements, and can be constituted by a two-dimensional CCD image sensor, a MOS sensor, a CID (charge injection device), or the like. Note that the image sensor 31 has an electronic shutter function for controlling the accumulation time of charges accumulated in each pixel, that is, the shutter speed by a shutter gate pulse.

また、撮像素子31の撮像面の有効画素領域には、赤色(R)、緑色(G)、および青色(B)に対応するカラーフィルタが配置されており、撮像面で受光した被写体像はRGBの画像信号に変換されることとなる。このようなカラーフィルタの配列としては、たとえば、ベイヤー配列(Bayer Arrangement)などが挙げられるが、特にこれに限定されない。   In addition, color filters corresponding to red (R), green (G), and blue (B) are arranged in the effective pixel area on the imaging surface of the imaging device 31, and the subject image received on the imaging surface is RGB. It is converted into the image signal. Examples of such a color filter array include, but are not limited to, a Bayer Arrangement.

撮像素子31の撮像面に被写体像が投影されると、その入射光量に応じた量の信号電荷に光電変換され、撮像出力信号として順次読み出される。この光電変換されたアナログ画像信号は、アナログ信号処理部41へ出力される。   When a subject image is projected onto the imaging surface of the image sensor 31, it is photoelectrically converted into a signal charge of an amount corresponding to the amount of incident light, and sequentially read out as an imaging output signal. The photoelectrically converted analog image signal is output to the analog signal processing unit 41.

アナログ信号処理部41は、相関二重サンプリング(CDS)を行うCDS回路と、アナログ画像信号の出力を増幅するゲイン回路と、色分離回路とを有している。このアナログ信号処理部41では、RGBの各色に対応する画素の出力に関する出力ゲインの値をそれぞれ独立して設定できるようになっている。   The analog signal processing unit 41 includes a CDS circuit that performs correlated double sampling (CDS), a gain circuit that amplifies the output of the analog image signal, and a color separation circuit. In the analog signal processing unit 41, output gain values relating to output of pixels corresponding to RGB colors can be set independently.

A/D変換部42はアナログ信号処理部41から出力されたアナログ画像信号をデジタル画像信号に変換する。A/D変換部42によってデジタル化された画像信号は、カメラ制御部70に出力される。   The A / D conversion unit 42 converts the analog image signal output from the analog signal processing unit 41 into a digital image signal. The image signal digitized by the A / D conversion unit 42 is output to the camera control unit 70.

操作部80は、カメラ1を起動させるための主電源スイッチや、シャッターレリーズボタン、ズームレンズ13を駆動させてズーム動作を行なうためのズームスイッチ、さらには、撮影者がカメラ1の各種動作モードを設定するための入力スイッチなどを備えている。そして、撮影者は、操作部80を介して、動画撮影モード/静止画撮影モードの切換や、自動露出モード/マニュアル露出モードの切換、さらには、オートフォーカスモード/マニュアルフォーカスモードの切換などができるようになっている。この操作部80による操作、および設定された各種モードはカメラ制御部70へ送信される。   The operation unit 80 includes a main power switch for activating the camera 1, a shutter release button, a zoom switch for driving the zoom lens 13 to perform a zoom operation, and a photographer selecting various operation modes of the camera 1. It has an input switch for setting. The photographer can switch the moving image shooting mode / still image shooting mode, the automatic exposure mode / manual exposure mode, the auto focus mode / manual focus mode, and the like via the operation unit 80. It is like that. The operation by the operation unit 80 and various set modes are transmitted to the camera control unit 70.

カメラ制御部70は、マイクロプロセッサとメモリなどの周辺部品から構成され、カメラ1を構成する各部の制御するための演算を行う。そして、カメラ制御部70は、該演算結果に基づき、絞り21による開口径を調節したり、アナログ信号処理部41のゲインの設定を行なったりする。   The camera control unit 70 is composed of peripheral components such as a microprocessor and a memory, and performs operations for controlling each unit constituting the camera 1. Based on the calculation result, the camera control unit 70 adjusts the opening diameter of the diaphragm 21 and sets the gain of the analog signal processing unit 41.

また、カメラ制御部70は、A/D変換部42によってデジタル化された画像信号を取得し、取得した画像信号についてデジタル処理を行ない、メモリ60および表示部90に出力して、メモリ60に保存させるとともに、表示部90に、画像信号に基づく画像の表示を行なわせる。   In addition, the camera control unit 70 acquires the image signal digitized by the A / D conversion unit 42, performs digital processing on the acquired image signal, outputs it to the memory 60 and the display unit 90, and saves it in the memory 60. In addition, the display unit 90 displays an image based on the image signal.

さらに、カメラ制御部70は、オートフォーカス動作を制御するAF処理部70aを備えている。AF処理部70aは、レンズ駆動制御部51を介して、フォーカスレンズ駆動モータ52を駆動させることにより、フォーカスレンズ12を移動させながら、撮像素子31に被写体像の撮像を行なわせて、フォーカスレンズ12の各移動位置に対応する、デジタル画像信号を取得する。そして、取得したデジタル画像信号のうち、焦点検出に用いる画像信号から高周波成分を抽出して焦点評価値の演算を行う。具体的には、画像信号をバンドパスフィルタに通して画像信号から所定帯域の周波数成分に対応する信号を抽出し、抽出された信号の絶対値を積分することにより、被写体像に関する焦点評価値を得る。そして、AF処理部70aは、算出された焦点評価値に基づいて、レンズ駆動制御部51を介して、フォーカスレンズ駆動モータ52を駆動させて、これにより、フォーカスレンズ12を所定のレンズ調整位置に移動させる。   Furthermore, the camera control unit 70 includes an AF processing unit 70a that controls the autofocus operation. The AF processing unit 70 a drives the focus lens drive motor 52 via the lens drive control unit 51 to cause the image pickup device 31 to pick up the subject image while moving the focus lens 12, thereby moving the focus lens 12. A digital image signal corresponding to each movement position is acquired. A high frequency component is extracted from the image signal used for focus detection from the acquired digital image signal, and a focus evaluation value is calculated. Specifically, the image signal is passed through a bandpass filter, a signal corresponding to a frequency component of a predetermined band is extracted from the image signal, and the absolute value of the extracted signal is integrated to obtain a focus evaluation value for the subject image. obtain. Then, the AF processing unit 70a drives the focus lens drive motor 52 via the lens drive control unit 51 based on the calculated focus evaluation value, thereby bringing the focus lens 12 into a predetermined lens adjustment position. Move.

さらに、AF処理部70aは、動画撮影モードが選択されている場合には、オートフォーカス動作を実行する前に、フォーカスレンズ12を、現在位置近傍において、微小駆動させるウォブリング動作を行い、ウォブリング動作中に、算出された焦点評価値に基づいて、オートフォーカス動作を行なう際における、フォーカスレンズ12の駆動方向を決定する。なお、本実施形態においては、ウォブリング動作は、フォーカスレンズ12を現在のレンズ位置から、撮影倍率が小さくなる方向に微小駆動させ、次いで、元のレンズ位置に戻すという動作を繰り返すことにより実行される。   Further, when the moving image shooting mode is selected, the AF processing unit 70a performs a wobbling operation for minutely driving the focus lens 12 in the vicinity of the current position before executing the autofocus operation. Further, based on the calculated focus evaluation value, the driving direction of the focus lens 12 when performing the autofocus operation is determined. In the present embodiment, the wobbling operation is executed by repeating the operation of causing the focus lens 12 to be finely driven from the current lens position in a direction in which the photographing magnification decreases, and then returning to the original lens position. .

また、カメラ制御部70は、フォーカスレンズ12のレンズ駆動量と、撮像素子31により撮像される撮影画像の像倍率の変化量との関係を示すテーブルを予め記憶しており、このテーブルを用いて、AF処理部70aにより、オートフォーカス動作が行なわれている際のフォーカスレンズ12の駆動中における、撮影画像の像倍率の変化を補正する動作を行なう。なお、撮影画像の像倍率の変化を補正する動作については、後述する。   In addition, the camera control unit 70 stores in advance a table indicating the relationship between the lens driving amount of the focus lens 12 and the amount of change in the image magnification of the captured image picked up by the image pickup device 31, and this table is used. Then, the AF processing unit 70a performs an operation of correcting a change in the image magnification of the photographed image while the focus lens 12 is being driven when the autofocus operation is being performed. The operation for correcting the change in the image magnification of the captured image will be described later.

表示部90は、液晶ディスプレイなどで構成され、撮像素子31により撮像した画像を逐次表示する電子ファインダとして機能し、撮影者が、表示部90に表示される被写体を観察しながら撮影操作を行うことができるようになっている。   The display unit 90 is configured with a liquid crystal display or the like, and functions as an electronic viewfinder that sequentially displays images captured by the image sensor 31. The photographer performs a shooting operation while observing the subject displayed on the display unit 90. Can be done.

次に、本実施形態に係るカメラ1の動作例を説明する。図2は、本実施形態に係るカメラ1の動作を示すフローチャートである。なお、以下においては、動画撮影モードが選択されている場面における、動作について説明する。   Next, an operation example of the camera 1 according to this embodiment will be described. FIG. 2 is a flowchart showing the operation of the camera 1 according to this embodiment. In the following, the operation in a scene where the moving image shooting mode is selected will be described.

まず、ステップS101では、カメラ1の電源がオンされると、撮像素子31により被写体像の撮像が開始される。本実施形態においては、撮像素子31による被写体像の撮像は、所定のフレームレートで繰り返し行なわれる。   First, in step S <b> 101, when the camera 1 is turned on, the imaging element 31 starts capturing a subject image. In the present embodiment, imaging of a subject image by the image sensor 31 is repeatedly performed at a predetermined frame rate.

次いで、ステップS102では、カメラ制御部70により、撮像素子31により撮像された画像の画像信号の取得が行なわれる。本実施形態では、カメラ制御部70は、撮像素子31により撮像された画像の画像信号を、アナログ信号処理部41およびA/D変換部42により変換され、デジタル化された信号として取得する。   Next, in step S <b> 102, the camera control unit 70 acquires an image signal of an image captured by the image sensor 31. In the present embodiment, the camera control unit 70 converts the image signal of the image captured by the image sensor 31 by the analog signal processing unit 41 and the A / D conversion unit 42 and obtains it as a digitized signal.

次いで、ステップS103では、カメラ制御部70により、ステップS102で取得した画像信号に基づく撮影画像を、メモリ60に記憶させる処理が行なわれる。   Next, in step S103, the camera control unit 70 performs processing for storing the captured image based on the image signal acquired in step S102 in the memory 60.

ステップS104では、カメラ制御部70のAF処理部70aにより、ステップS102で取得した画像信号に基づいて、焦点評価値の算出が行われる。算出された焦点評価値は、フォーカスレンズ12の位置の情報とともに、カメラ制御部70に備えられたメモリに記憶される。   In step S104, a focus evaluation value is calculated based on the image signal acquired in step S102 by the AF processing unit 70a of the camera control unit 70. The calculated focus evaluation value is stored in a memory provided in the camera control unit 70 together with information on the position of the focus lens 12.

ステップS105では、ウォブリング動作が実行されているか否かの判定が行なわれる。ウォブリング動作は、オートフォーカス動作を実行する前に、フォーカスレンズ12を、現在位置近傍において、微小駆動させる動作であり、カメラ制御部70に備えられたAF処理部70aにより制御される。ウォブリング動作を実行していないと判定された場合には、ステップS106に進む。一方、ウォブリング動作が実行中であると判定された場合には、ステップS113に進む。   In step S105, it is determined whether or not a wobbling operation is being performed. The wobbling operation is an operation for minutely driving the focus lens 12 in the vicinity of the current position before executing the autofocus operation, and is controlled by the AF processing unit 70a provided in the camera control unit 70. If it is determined that the wobbling operation is not executed, the process proceeds to step S106. On the other hand, if it is determined that the wobbling operation is being executed, the process proceeds to step S113.

ステップS106では、カメラ制御部70により、オートフォーカス動作を行なうために、フォーカスレンズ12の駆動動作(ウォブリング動作とは異なる、一方向への連続的な駆動動作)が行なわれているか否かの判定が行なわれる。フォーカスレンズ12の駆動動作が行なわれていると判定された場合には、ステップS107に進む。一方、フォーカスレンズ12の駆動動作が行なわれていないと判定された場合には、ステップS112に進む。なお、フォーカスレンズ12の駆動動作は、カメラ制御部70に備えられたAF処理部70aにより制御される。本実施形態においては、たとえば、ウォブリング動作の結果により、新たな合焦位置を検出する必要が生じたと判断された場合や、撮影輝度が大きく変化した場合、さらには、前回処理時に算出された焦点評価値と比較して所定値以上変化した場合に、AF処理部70aにより、オートフォーカス動作が実行される。   In step S106, it is determined whether or not the driving operation of the focus lens 12 (continuous driving operation in one direction different from the wobbling operation) is being performed by the camera control unit 70 in order to perform the autofocus operation. Is done. If it is determined that the drive operation of the focus lens 12 is being performed, the process proceeds to step S107. On the other hand, if it is determined that the drive operation of the focus lens 12 is not performed, the process proceeds to step S112. The driving operation of the focus lens 12 is controlled by an AF processing unit 70 a provided in the camera control unit 70. In the present embodiment, for example, when it is determined that it is necessary to detect a new in-focus position based on the result of the wobbling operation, or when the photographing brightness changes greatly, the focus calculated during the previous process is further changed. When the value changes by a predetermined value or more as compared with the evaluation value, the autofocus operation is executed by the AF processing unit 70a.

ステップS107では、フォーカスレンズ12の駆動が開始された時点(すなわち、オートフォーカス動作が開始された時点)と比較して、フォーカスレンズ12が、撮影倍率が小さくなる方向(すなわち、画角が広くなる方向)に移動しているか否かの判定が行なわれる。フォーカスレンズ12の駆動が開始された時点と比較して、フォーカスレンズ12が、撮影倍率が小さくなる方向に移動していると判定された場合には、ステップS108に進む。一方、フォーカスレンズ12の駆動が開始された時点と比較して、フォーカスレンズ12が、撮影倍率が大きくなる方向(すなわち、画角が狭くなる方向)に移動していると判定された場合には、ステップS111に進む。   In step S107, the focus lens 12 is in a direction in which the photographing magnification decreases (that is, the angle of view becomes wider) than when the drive of the focus lens 12 is started (that is, when the autofocus operation is started). It is determined whether or not it is moving in the direction). If it is determined that the focus lens 12 has moved in a direction in which the photographing magnification is decreased as compared with the time when the drive of the focus lens 12 is started, the process proceeds to step S108. On the other hand, when it is determined that the focus lens 12 is moved in a direction in which the photographing magnification is increased (that is, a direction in which the angle of view is narrowed) compared to the time when the drive of the focus lens 12 is started. The process proceeds to step S111.

ここで、図3は、本実施形態が適用される一場面例であり、図3(A)は、一場面例における、フォーカスレンズ12のレンズ位置の変化を示しており、また、図3(B)は、一場面例における、撮像素子31により撮像される画像の像倍率の変化、およびメモリ60に記憶させる動画像の像倍率の変化を示している。なお、図3(A)中においては、撮像素子31からの画像信号の取得タイミングを、黒丸で示した。すなわち、図3(A)においては、時間Tαの間隔で、撮像素子31により撮像が行なわれ、時間Tαの間隔で、AF処理部70aにより、撮像素子31により撮像された画像信号に基づいて、焦点評価値の算出が行われている例を示している。この図3(A)においては、時間t1において、フォーカスレンズ12が位置P1にある場合において、時間t2において、オートフォーカス動作が開始され、フォーカスレンズ12を、撮影倍率が小さくなる方向に駆動させながら、焦点評価値の算出を行い、算出された焦点評価値に基づいて、時間t3において、フォーカスレンズ12を、合焦位置である位置P2に移動させた場面を示している。 Here, FIG. 3 shows an example of a scene to which the present embodiment is applied. FIG. 3A shows a change in the lens position of the focus lens 12 in the example of the scene, and FIG. B) shows a change in image magnification of an image captured by the image sensor 31 and a change in image magnification of a moving image stored in the memory 60 in one scene example. In FIG. 3A, the acquisition timing of the image signal from the image sensor 31 is indicated by a black circle. That is, in FIG. 3 (A), the intervals of time T alpha, imaging is performed by the image pickup device 31, at intervals of time T alpha, based by the AF processing section 70a, the image signal captured by the image pickup device 31 In this example, the focus evaluation value is calculated. In FIG. 3A, when the focus lens 12 is at the position P1 at time t1, the autofocus operation is started at time t2, and the focus lens 12 is driven in a direction in which the photographing magnification decreases. The scene where the focus evaluation value is calculated and the focus lens 12 is moved to the position P2 which is the focus position at time t3 based on the calculated focus evaluation value is shown.

この図3(A)に示す例においては、時間t2〜t3の間においては、フォーカスレンズ12の駆動が開始された時点におけるフォーカスレンズ12の位置P1と比較して、フォーカスレンズ12が、撮影倍率が小さくなる方向に移動しているため、この場合には、ステップS108に進むこととなる。   In the example shown in FIG. 3A, during the time t2 to t3, the focus lens 12 is compared with the position P1 of the focus lens 12 when the drive of the focus lens 12 is started. In this case, the process proceeds to step S108.

このように、フォーカスレンズ12の駆動が開始された時点と比較して、フォーカスレンズ12が、撮影倍率が小さくなる方向に移動していると判定された場合には、ステップS108に進み、ステップS108では、カメラ制御部70により、ステップS102で得られた画像信号に基づく撮影画像について、一部の領域を切り出すクロップ処理が行なわれる。ここで、フォーカスレンズ12を、撮影倍率が小さくなる方向に駆動すると、得られる撮影画像は、図4(A)に示す画像から、図4(C)に示す画像へと画角が変化してしまうこととなる。これに対し、本実施形態では、このような画角の変化を防止するために、クロップ処理を行なう。具体的には、図5(A)に示すように、得られた撮影画像から、画像を切り出すための切り出し領域を選択し、次いで、図5(B)に示すように、切り出し領域の大きさが、撮影画像の大きさに対応する大きさとなるように、撮影画像を拡大するための処理を行なう。そして、図5(C)に示すように、切り出し領域を切り出す処理を行なうことで、クロップ画像を得る。なお、本実施形態においては、クロップ画像を得る際には、得られるクロップ画像が、フォーカスレンズ12を駆動する前の像倍率と同じ像倍率となるように、画像の切り出しを行なう。具体的には、カメラ制御部70に予め保存されているフォーカスレンズ12のレンズ位置と、各レンズ位置において、撮像素子31により撮像される撮影画像の像倍率との関係を示すテーブルに基づいて、得られるクロップ画像が、フォーカスレンズ12を駆動する前の像倍率と同じ像倍率となるように、画像の切り出しを行なう。   As described above, when it is determined that the focus lens 12 is moved in the direction in which the photographing magnification is decreased as compared with the time when the drive of the focus lens 12 is started, the process proceeds to step S108, and step S108. Then, the camera control unit 70 performs a crop process for cutting out a part of the captured image based on the image signal obtained in step S102. Here, when the focus lens 12 is driven in a direction in which the photographing magnification decreases, the obtained photographed image changes in the angle of view from the image shown in FIG. 4A to the image shown in FIG. It will end up. On the other hand, in this embodiment, cropping processing is performed to prevent such a change in the angle of view. Specifically, as shown in FIG. 5A, a cutout area for cutting out an image is selected from the obtained captured image, and then the size of the cutout area is shown in FIG. 5B. However, a process for enlarging the captured image is performed so that the size corresponds to the size of the captured image. Then, as shown in FIG. 5C, a cropped image is obtained by performing a process of cutting out the cutout region. In this embodiment, when a crop image is obtained, the image is cut out so that the obtained crop image has the same image magnification as that before the focus lens 12 is driven. Specifically, based on a table indicating the relationship between the lens position of the focus lens 12 stored in advance in the camera control unit 70 and the image magnification of the captured image captured by the image sensor 31 at each lens position, The image is cut out so that the obtained crop image has the same image magnification as that before driving the focus lens 12.

なお、本実施形態においては、図5(B)に示す撮影画像を拡大するための処理を行なう際には、AF処理部70aによって、算出された焦点評価値により、異なる処理方法を選択するような対応としてもよい。具体的には、焦点評価値が予め定められた所定値未満であり、撮像素子31により撮像された撮影画像のボケ量が比較的大きいと判断される場合には、比較的演算負荷の低い方法を用い、焦点評価値が予め定められた所定値以上であり、撮像素子31により撮像された撮影画像のボケ量が比較的小さいと判断される場合には、高解像度の画像を得るための方法を用いることができる。たとえば、焦点評価値が予め定められた所定値未満である場合には、比較的演算負荷の低い方法として、たとえば、リニア補間により、画素レベルで画素補間を行なうことで、拡大画像を得る方法などを用いることができる。一方、焦点評価値が予め定められた所定値以上である場合には、高解像度の画像を得るための方法として、たとえば、バイキュービック法や、連続する複数のフレームにおいて撮像された複数の画像を用いて、画素補間を行なう超解像処理を実行することで、拡大画像を得る方法などを用いることができる。なお、この場合における所定値としては、たとえば、撮像素子31により撮像された撮影画像が、合焦位置付近の画像であるか否かが判断できるような値に設定することができる。   In the present embodiment, when processing for enlarging the captured image shown in FIG. 5B is performed, a different processing method is selected by the AF processing unit 70a depending on the calculated focus evaluation value. This may be a good response. Specifically, when it is determined that the focus evaluation value is less than a predetermined value and the amount of blur of the captured image captured by the image sensor 31 is relatively large, a method with a relatively low computational load And the focus evaluation value is equal to or greater than a predetermined value, and the blur amount of the captured image captured by the image sensor 31 is determined to be relatively small, a method for obtaining a high-resolution image Can be used. For example, when the focus evaluation value is less than a predetermined value, as a method with a relatively low calculation load, for example, a method of obtaining an enlarged image by performing pixel interpolation at the pixel level by linear interpolation, etc. Can be used. On the other hand, when the focus evaluation value is equal to or greater than a predetermined value, as a method for obtaining a high-resolution image, for example, a bicubic method or a plurality of images captured in a plurality of consecutive frames are used. A method for obtaining an enlarged image by performing super-resolution processing that performs pixel interpolation can be used. Note that the predetermined value in this case can be set to a value by which it can be determined, for example, whether the captured image captured by the image sensor 31 is an image near the in-focus position.

次いで、ステップS109では、カメラ制御部70により、ステップS108で得られたクロップ画像を、動画像として、メモリ60に記憶させる処理が行なわれる。   Next, in step S109, the camera control unit 70 performs processing for storing the cropped image obtained in step S108 in the memory 60 as a moving image.

次いで、ステップS110では、ステップS108で得られたクロップ画像が、カメラ制御部70から、表示部90に出力され、表示部90により、クロップ画像の出力が行なわれる。   Next, in step S110, the cropped image obtained in step S108 is output from the camera control unit 70 to the display unit 90, and the cropped image is output by the display unit 90.

上述したように、本実施形態においては、クロップ画像を得る際に、得られるクロップ画像が、フォーカスレンズ12を駆動する前の像倍率と同じ像倍率となるように、画像の切り出しを行なうものである。そのため、たとえば、図3(A)に示す時間t2〜t3において、フォーカスレンズ12を駆動させることにより、撮影画像の画角が、図4(A)に示す画像から、図4(C)に示す画像のように変化してしまった場合でも、図5(A)〜図5(C)に示すようにクロップ処理を行なうことにより得られたクロップ画像を得て、これを動画像として保存することにより、得られる動画像における、画角の変化を防止することが可能となる。   As described above, in this embodiment, when a crop image is obtained, the image is cut out so that the obtained crop image has the same image magnification as that before driving the focus lens 12. is there. Therefore, for example, by driving the focus lens 12 at time t2 to t3 shown in FIG. 3 (A), the angle of view of the captured image is shown in FIG. 4 (C) from the image shown in FIG. 4 (A). Even when the image has changed like the image, a crop image obtained by performing the crop processing as shown in FIGS. 5A to 5C is obtained and stored as a moving image. Thus, it is possible to prevent a change in the angle of view in the obtained moving image.

そして、本実施形態によれば、図3(B)に示すように、フォーカスレンズ12が駆動することにより、時間t2〜t3のように、撮像素子31により撮像される撮影画像の像倍率(図3(B)中において、実線で示した。)が変化した場合でも、上述したステップS107で説明したようにクロップ画像を得て、得られたクロップ画像を、メモリ60に保存するための動画像とすることにより、得られる動画像の像倍率(図3(B)において、破線で示した。)が、フォーカスレンズ12を駆動させる前の像倍率α1のままに保たれることとなる。なお、本実施形態においては、フォーカスレンズ12の駆動が停止した時間t3以降においても、クロップ画像を得て、得られたクロップ画像を、メモリ60に保存するための動画像とするような態様を例示したが、特にこれに限定されるものではなく、たとえば、クロップ画像の切り出し割合を徐々に減少させていき、動画像の像倍率を、徐々に撮像素子31により撮像された撮影画像に近づけていくような処理を行なってもよい。   Then, according to the present embodiment, as shown in FIG. 3B, when the focus lens 12 is driven, the image magnification (FIG. 3 (B), even when the solid line changes), a moving image for obtaining a cropped image and storing the obtained cropped image in the memory 60 as described in step S107 above. By doing so, the image magnification (indicated by a broken line in FIG. 3B) of the obtained moving image is maintained at the image magnification α1 before the focus lens 12 is driven. In the present embodiment, a mode in which a cropped image is obtained even after time t3 when driving of the focus lens 12 is stopped, and the obtained cropped image is used as a moving image to be stored in the memory 60. Although illustrated, it is not particularly limited to this. For example, the cropping ratio of the cropped image is gradually decreased, and the image magnification of the moving image is gradually brought closer to the photographed image captured by the image sensor 31. Any processing may be performed.

一方、ステップS107において、フォーカスレンズ12の駆動が開始された時点と比較して、フォーカスレンズ12が、撮影倍率が大きくなる方向(すなわち、画角が狭くなる方向)に移動していると判定された場合には、ステップS111に進み、ステップS111では、フォーカスレンズ12の駆動に応じて、ズームレンズ13を駆動させる処理が開始される。ここで、フォーカスレンズ12を、撮影倍率が大きくなる方向に駆動すると、得られる撮影画像は、図4(A)に示す画像から、図4(B)に示す画像へと画角が変化してしまうこととなる。これに対し、本実施形態では、このような画角の変化を防止するために、フォーカスレンズ12が、撮影倍率が大きくなる方向に移動していると判定された場合には、フォーカスレンズ12の駆動に応じて、ズームレンズ13を駆動させるものである。   On the other hand, in step S107, it is determined that the focus lens 12 has moved in the direction in which the photographing magnification is increased (that is, the direction in which the angle of view is narrowed) compared to the time when the drive of the focus lens 12 is started. If YES in step S111, the flow advances to step S111. In step S111, processing for driving the zoom lens 13 is started in response to driving of the focus lens 12. Here, when the focus lens 12 is driven in a direction in which the shooting magnification increases, the obtained shot image changes in angle of view from the image shown in FIG. 4 (A) to the image shown in FIG. 4 (B). It will end up. On the other hand, in this embodiment, in order to prevent such a change in the angle of view, when it is determined that the focus lens 12 is moving in a direction in which the photographing magnification is increased, the focus lens 12 The zoom lens 13 is driven according to the drive.

ここで、図6に、本実施形態が適用される他の場面例を示す。図6(A)は、他の場面例における、フォーカスレンズ12のレンズ位置の変化を示しており、また、図6(B)は、他の場面例における、撮像素子31により撮像される画像の像倍率の変化、およびメモリ60に記憶させる動画像の像倍率の変化を示している。なお、図6(A)中においても、図3(A)と同様に、撮像素子31からの画像信号の取得タイミングを、黒丸で示した。そして、この図6(A)においては、時間t11において、フォーカスレンズ12が位置P3にある場合において、時間t12において、オートフォーカス動作が開始され、フォーカスレンズ12を、撮影倍率が大きくなる方向に駆動させながら、焦点評価値の算出を行い、算出された焦点評価値に基づいて、時間t16において、フォーカスレンズ12を、合焦位置である位置P4に移動させた場面を示している。   Here, FIG. 6 shows another scene example to which the present embodiment is applied. 6A shows a change in the lens position of the focus lens 12 in another example of the scene, and FIG. 6B shows an image captured by the image sensor 31 in the other example of the scene. A change in image magnification and a change in image magnification of a moving image stored in the memory 60 are shown. In FIG. 6A as well, the acquisition timing of the image signal from the image sensor 31 is indicated by a black circle, as in FIG. 3A. In FIG. 6A, when the focus lens 12 is at the position P3 at time t11, the autofocus operation is started at time t12, and the focus lens 12 is driven in the direction in which the photographing magnification increases. In this case, the focus evaluation value is calculated while the focus lens 12 is moved to the focus position P4 at time t16 based on the calculated focus evaluation value.

そして、このような場合において、本実施形態においては、図7(A)、図7(B)に示すように、時間t12において、フォーカスレンズ12を、撮影倍率が大きくなる方向に駆動を開始するのに伴い、時間t12〜t13において、ズームレンズ13を、撮影倍率が小さくなる方向(位置P5→P6)に駆動させ、さらに、時間t14〜t15において、ズームレンズ13を、撮影倍率が小さくなる方向(位置P6→P7)に駆動させるものである。そして、これにより、図7(C)に示すように、フォーカスレンズ12が、撮影倍率が大きくなる方向に駆動した場合でも、撮像素子31により撮像される撮影画像の像倍率が、フォーカスレンズ12を駆動させる前における像倍率α3よりも小さなものとなるように、制御するものである。なお、図7(C)においては、ズームレンズ13を駆動させた場合における、撮像素子31により撮像される撮影画像の像倍率を実線で、ズームレンズ13を駆動させない場合における、撮像素子31により撮像される撮影画像の像倍率を破線で、それぞれ示した。   In such a case, in this embodiment, as shown in FIGS. 7A and 7B, at time t12, the focus lens 12 starts to be driven in the direction in which the photographing magnification increases. Accordingly, the zoom lens 13 is driven in the direction in which the photographing magnification decreases (position P5 → P6) from time t12 to t13, and further, the zoom lens 13 is moved in the direction in which the photographing magnification decreases from time t14 to t15. It is driven to (position P6 → P7). As a result, as shown in FIG. 7C, even when the focus lens 12 is driven in a direction in which the shooting magnification is increased, the image magnification of the shot image picked up by the image pickup device 31 is the same as that of the focus lens 12. Control is performed so that the image magnification α3 is smaller than that before driving. In FIG. 7C, when the zoom lens 13 is driven, the image magnification of the captured image picked up by the image pickup device 31 is a solid line, and the image pickup is performed by the image pickup device 31 when the zoom lens 13 is not driven. The image magnifications of the captured images are shown by broken lines.

なお、図7(A)〜図7(C)においては、ズームレンズ13を、フォーカスレンズ12の駆動に伴い、段階的に駆動させる例を示したが、このような例に限定されず、フォーカスレンズ12の駆動に伴い、連続的に駆動させるような構成としてもよい。また、フォーカスレンズ12の駆動に伴って、ズームレンズ13を駆動させる際における、ズームレンズ13の駆動量は、予め記憶されたフォーカスレンズ12のレンズ駆動量と、撮像素子31により撮像される撮影画像の像倍率の変化量との関係を示すテーブルを用い、このテーブルに基づいて、算出することができる。また、ズームレンズ13の駆動量は、ズームレンズ13の駆動後における下限像倍率α5(図7(C)参照)は、フォーカスレンズ12の駆動前の像倍率α3(図7(C)参照)に対して、後述するクロップ処理により拡大画像を得る際における拡大率が1.2倍以内程度となるような範囲に設定することが、得られるクロップ画像の画像品質を良好に保つという観点より望ましい。なお、測光値や画像のヒストグラムが比較的大きく変化した場合には、構図変更がされたものと判断し、ズームレンズ13を、下限像倍率α5を超えて、ズームレンズ13を、撮影倍率が小さくなる方向に駆動してもよい。   7A to 7C show an example in which the zoom lens 13 is driven stepwise as the focus lens 12 is driven. However, the present invention is not limited to such an example. A configuration in which the lens 12 is continuously driven as the lens 12 is driven may be employed. The driving amount of the zoom lens 13 when the zoom lens 13 is driven in accordance with the driving of the focus lens 12 is the lens driving amount of the focus lens 12 stored in advance and a photographed image captured by the image sensor 31. It is possible to calculate based on this table using a table showing the relationship with the amount of change in image magnification. The driving amount of the zoom lens 13 is such that the lower limit image magnification α5 (see FIG. 7C) after driving the zoom lens 13 is the image magnification α3 before driving the focus lens 12 (see FIG. 7C). On the other hand, it is desirable from the viewpoint of maintaining good image quality of the obtained cropped image that the enlargement ratio when obtaining an enlarged image by the cropping process described later is within about 1.2 times. If the photometric value or the histogram of the image changes relatively greatly, it is determined that the composition has been changed, and the zoom lens 13 exceeds the lower limit image magnification α5, and the zoom lens 13 has a lower photographing magnification. You may drive in the direction.

また、本実施形態において、フォーカスレンズ12の駆動に伴い、ズームレンズ13を駆動させる処理を実行するに際しては、たとえば、撮像素子31により得られる撮影画像の像倍率が、上限像倍率α4(図7(C)参照)と、下限像倍率α5(図7(C)参照)との範囲内となるように制御される。たとえば、図7(A)〜図7(C)においては、上限像倍率α4に到達すると、ズームレンズ13を撮影倍率が小さくなる方向に駆動させ、ズームレンズ13を駆動させた結果、下限像倍率α5に到達すると、ズームレンズ13を停止させる制御が繰り返し行われる。   Further, in the present embodiment, when executing the process of driving the zoom lens 13 with the driving of the focus lens 12, for example, the image magnification of the captured image obtained by the image sensor 31 is the upper limit image magnification α4 (FIG. 7). (See (C)) and the lower limit image magnification α5 (see FIG. 7C). For example, in FIGS. 7A to 7C, when the upper limit image magnification α4 is reached, the zoom lens 13 is driven in a direction in which the photographing magnification decreases, and the zoom lens 13 is driven. When α5 is reached, the control for stopping the zoom lens 13 is repeatedly performed.

そのため、本実施形態では、ステップS111においては、ズームレンズ13が駆動している場合には、下限像倍率α5に到達したか否かの判断が行なわれ、下限像倍率α5に到達した場合には、ズームレンズ13の駆動を停止する処理が行なわれる。一方、ズームレンズ13が停止している場合には、上限像倍率α4に到達したか否かの判断が行なわれ、上限像倍率α4に到達した場合には、ズームレンズ13を、撮影倍率が小さくなる方向に駆動させる処理が行なわれる。なお、上限像倍率α4としては、フォーカスレンズ12を駆動させる前における像倍率α3よりも小さいものであればよく、特に限定されない。   Therefore, in this embodiment, in step S111, when the zoom lens 13 is driven, it is determined whether or not the lower limit image magnification α5 has been reached, and if the lower limit image magnification α5 has been reached. Then, processing for stopping the driving of the zoom lens 13 is performed. On the other hand, when the zoom lens 13 is stopped, it is determined whether or not the upper limit image magnification α4 has been reached. When the upper limit image magnification α4 has been reached, the zoom lens 13 has a lower shooting magnification. A process of driving in a certain direction is performed. The upper limit image magnification α4 is not particularly limited as long as it is smaller than the image magnification α3 before the focus lens 12 is driven.

そして、フォーカスレンズ12の駆動に伴い、ズームレンズ13を駆動させる処理が実行されると、ステップS108に進み、上記と同様に、撮影画像のクロップ処理を行ない、フォーカスレンズ12を駆動する前の像倍率と同じ像倍率を有するクロップ画像を得て、次いで、ステップS109において、得られたクロップ画像を、動画像として、メモリ60に記憶させる処理が行なわれ、ステップS110において、クロップ画像を表示部90に表示させる処理が行なわれる。   Then, when the process for driving the zoom lens 13 is executed along with the driving of the focus lens 12, the process proceeds to step S108, and the cropped image is subjected to the cropping process in the same manner as described above, and the image before the focus lens 12 is driven. A crop image having the same image magnification as the magnification is obtained. Then, in step S109, the obtained crop image is stored in the memory 60 as a moving image. In step S110, the crop image is displayed on the display unit 90. The process of displaying on is performed.

ここで、上述したように、本実施形態においては、クロップ画像を得る際に、得られるクロップ画像が、フォーカスレンズ12を駆動する前の像倍率と同じ像倍率となるように、画像の切り出しを行なうものである。そのため、たとえば、図6(A)に示す時間t12〜t16において、フォーカスレンズ12の駆動に伴い、ズームレンズ13を駆動させることにより、撮影画像の画角を、図4(A)に示す画像から、図4(C)に示す画像のように変化させるとともに、図5(A)〜図5(C)に示すようにクロップ処理を行なうことにより得られたクロップ画像を得て、これを動画像として保存することにより、得られる動画像における、画角の変化を防止することが可能となる。   Here, as described above, in the present embodiment, when a crop image is obtained, the image is clipped so that the obtained crop image has the same image magnification as that before driving the focus lens 12. To do. Therefore, for example, at time t12 to t16 shown in FIG. 6A, the zoom lens 13 is driven in accordance with the driving of the focus lens 12, so that the angle of view of the captured image is changed from the image shown in FIG. 4C, and the cropped image obtained by performing the cropping process as shown in FIGS. 5A to 5C is obtained, and this is converted into a moving image. As a result, it is possible to prevent a change in the angle of view in the obtained moving image.

そして、本実施形態によれば、図6(A)に示すように、t12〜t16において、フォーカスレンズ12が、撮影倍率が大きくなる方向に駆動した場合でも、図7(B)のように、ズームレンズ13を駆動させ、これにより、撮像素子31により撮像される撮影画像の像倍率(図6(B)中において、実線で示した。)を、フォーカスレンズ12を駆動させる前の像倍率α3より小さいものとし、かつ、得られた撮影画像から、上述したステップS107で説明したようにクロップ画像を得て、得られたクロップ画像を、メモリ60に保存するための動画像とすることにより、得られる動画像の像倍率(図3(B)において、破線で示した。)が、フォーカスレンズ12を駆動させる前の像倍率α3のままに保たれることとなる。   Then, according to the present embodiment, as shown in FIG. 6A, even when the focus lens 12 is driven in a direction in which the photographing magnification increases from t12 to t16, as shown in FIG. The zoom lens 13 is driven, whereby the image magnification (shown by a solid line in FIG. 6B) of the captured image captured by the image sensor 31 is set to the image magnification α3 before the focus lens 12 is driven. By obtaining a cropped image as described in step S107 described above from the obtained captured image, and making the obtained cropped image a moving image for storing in the memory 60, The image magnification (indicated by a broken line in FIG. 3B) of the obtained moving image is maintained at the image magnification α3 before the focus lens 12 is driven.

一方、上述したステップS106において、フォーカスレンズ12の駆動動作が行なわれていないと判定された場合には、ステップS112に進み、ステップS103において、メモリ60に保存した、撮像素子31により撮像された撮影画像を、動画像として記憶させる処理が行なわれるとともに、この撮影画像を、表示部90に表示させる処理が行なわれる。   On the other hand, if it is determined in step S106 described above that the driving operation of the focus lens 12 has not been performed, the process proceeds to step S112, and the image captured by the image sensor 31 stored in the memory 60 in step S103. A process of storing the image as a moving image is performed, and a process of displaying the captured image on the display unit 90 is performed.

また、上述したステップS105において、フォーカスレンズ12がウォブリング駆動中であると判断された場合には、ステップS113に進む。なお、上述したように、本実施形態においては、ウォブリング動作は、フォーカスレンズ12を現在のレンズ位置から、撮影倍率が小さくなる方向に微小駆動させ、次いで、元のレンズ位置に戻すという動作を繰り返すことにより実行される。そのため、ステップS113では、フォーカスレンズ12が、ウォブリング動作を実行する前のレンズ位置にあるか、あるいは、ウォブリング動作を実行する前のレンズ位置よりも、撮影倍率が小さくなる方向に位置しているかの判定が行なわれる。ウォブリング動作を実行する前のレンズ位置にあると判断された場合には、ステップS112に進み、ステップS103において、メモリ60に保存した、撮像素子31により撮像された撮影画像を、動画像として記憶させる処理が行なわれるとともに、この撮影画像を、表示部90に表示させる処理が行なわれる。   If it is determined in step S105 described above that the focus lens 12 is in the wobbling drive, the process proceeds to step S113. As described above, in the present embodiment, the wobbling operation repeats the operation of causing the focus lens 12 to be finely driven from the current lens position in a direction in which the photographing magnification decreases, and then returning to the original lens position. Is executed. Therefore, in step S113, whether the focus lens 12 is at the lens position before the wobbling operation is performed, or whether the photographing magnification is smaller than the lens position before the wobbling operation is performed. A determination is made. If it is determined that the lens position is before the wobbling operation, the process proceeds to step S112, and the captured image captured by the image sensor 31 stored in the memory 60 is stored as a moving image in step S103. Processing is performed, and processing for displaying the captured image on the display unit 90 is performed.

一方、フォーカスレンズ12が、ウォブリング動作を実行する前のレンズ位置よりも、撮影倍率が小さくなる方向に位置していると判定された場合には、ステップS108に進み、上記と同様に、撮影画像のクロップ処理を行ない、ウォブリング動作を実行する前の像倍率と同じ像倍率を有するクロップ画像を得て、次いで、ステップS109において、得られたクロップ画像を、動画像として、メモリ60に記憶させる処理が行なわれ、ステップS110において、クロップ画像を表示部90に表示させる処理が行なわれる。   On the other hand, if it is determined that the focus lens 12 is located in a direction in which the photographing magnification is smaller than the lens position before the wobbling operation is performed, the process proceeds to step S108, and the photographed image is similar to the above. To obtain a cropped image having the same image magnification as that before executing the wobbling operation, and then storing the obtained cropped image in the memory 60 as a moving image in step S109. In step S110, a process for displaying the cropped image on the display unit 90 is performed.

以上のように、本実施形態に係るカメラ1は動作する。   As described above, the camera 1 according to this embodiment operates.

本実施形態においては、フォーカスレンズ12の駆動が開始された時点(すなわち、オートフォーカス動作が開始された時点)と比較して、フォーカスレンズ12が、撮影倍率が大きくなる方向(すなわち、画角が狭くなる方向)に移動した場合には、図7(A)〜図7(C)に示すように、フォーカスレンズ12の駆動に伴い、ズームレンズ13を駆動させることにより、フォーカスレンズ12を駆動する前と比較して、撮像素子31により撮像される画像の撮影倍率が小さくなるように制御するとともに、得られた撮影画像について、一部の領域を切り出すクロップ処理を行ない、得られたクロップ画像を、動画像として保存するものである。そのため、本実施形態によれば、フォーカスレンズ12が、撮影倍率が大きくなる方向に移動した場合でも、得られる動画像の画角の変化を抑制することができ、これにより、得られる動画像を画角変化の少ない良好なものとすることができる。   In the present embodiment, the focus lens 12 has a direction in which the photographing magnification is increased (that is, the angle of view is larger than the time when the drive of the focus lens 12 is started (that is, the time when the autofocus operation is started). When the focus lens 12 moves in the direction of narrowing, the focus lens 12 is driven by driving the zoom lens 13 as the focus lens 12 is driven, as shown in FIGS. As compared with the previous case, control is performed so that the shooting magnification of the image captured by the image sensor 31 is reduced, and a crop process for cutting out a part of the obtained captured image is performed. The video is saved as a moving image. Therefore, according to this embodiment, even when the focus lens 12 moves in the direction in which the shooting magnification increases, the change in the angle of view of the obtained moving image can be suppressed. It can be made favorable with little change in the angle of view.

また、本実施形態によれば、フォーカスレンズ12の駆動が開始された時点(すなわち、オートフォーカス動作が開始された時点)と比較して、フォーカスレンズ12が、撮影倍率が小さくなる方向(すなわち、画角が広くなる方向)に移動した場合には、撮像素子31により撮像された撮影画像について、一部の領域を切り出すクロップ処理を行ない、得られたクロップ画像を、動画像として保存する。そのため、本実施形態によれば、フォーカスレンズ12が、撮影倍率が大きくなる方向に移動した場合に加えて、撮影倍率が小さくなる方向に移動した場合でも、得られる動画像の画角の変化を抑制することができ、これにより、得られる動画像を画角変化の少ない良好なものとすることができる。   Further, according to the present embodiment, the focus lens 12 has a direction in which the photographing magnification decreases (that is, when the focus lens 12 starts to be driven (that is, when the autofocus operation is started)). When the image is moved in the direction in which the angle of view is widened, a cropping process for cutting out a part of the captured image captured by the image sensor 31 is performed, and the obtained crop image is stored as a moving image. Therefore, according to the present embodiment, in addition to the case where the focus lens 12 is moved in the direction in which the photographing magnification is increased, the change in the angle of view of the obtained moving image is performed even when the focus lens 12 is moved in the direction in which the photographing magnification is decreased. Accordingly, the obtained moving image can be improved with little change in the angle of view.

さらに、本実施形態によれば、ウォブリング動作を、フォーカスレンズ12を現在のレンズ位置から、撮影倍率が小さくなる方向に微小駆動させ、次いで、元のレンズ位置に戻すという動作を繰り返すことにより実行するとともに、フォーカスレンズ12が、ウォブリング動作を実行する前のレンズ位置よりも、撮影倍率が小さくなる方向に位置する場合に、ウォブリング動作を実行する前の像倍率と同じ像倍率を有するクロップ画像を得て、得られたクロップ画像を、動画像として保存する。そのため、本実施形態によれば、ウォブリング動作により、撮影倍率が変化した場合でも、得られる動画像の画角の変化を抑制することができ、これにより、得られる動画像を画角変化の少ない良好なものとすることができる。   Furthermore, according to the present embodiment, the wobbling operation is performed by repeating the operation of minutely driving the focus lens 12 from the current lens position in a direction in which the photographing magnification decreases, and then returning to the original lens position. At the same time, when the focus lens 12 is positioned in a direction in which the photographing magnification is smaller than the lens position before the wobbling operation is performed, a crop image having the same image magnification as that before the wobbling operation is obtained. The obtained crop image is saved as a moving image. Therefore, according to the present embodiment, even when the shooting magnification changes due to the wobbling operation, it is possible to suppress the change in the angle of view of the obtained moving image, and thereby the obtained moving image has less change in the angle of view. It can be good.

なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。   The embodiment described above is described for facilitating the understanding of the present invention, and is not described for limiting the present invention. Therefore, each element disclosed in the above embodiment is intended to include all design changes and equivalents belonging to the technical scope of the present invention.

たとえば、上述した実施形態では、AF処理部70aにより、コントラスト方式によって、オートフォーカス動作を行なう態様を例示したが、コントラスト方式に特に限定されず、たとえば、位相差方式によって、オートフォーカス動作を行なう態様としてもよい。   For example, in the above-described embodiment, an example in which the AF processing unit 70a performs the autofocus operation by the contrast method is illustrated. However, the embodiment is not particularly limited to the contrast method, and for example, the autofocus operation is performed by the phase difference method. It is good.

また、上述した実施形態においては、レンズ一体型のデジタルカメラ1を例示して説明したが、レンズ交換型のデジタルカメラや、携帯電話機などに内蔵される小型カメラモジュールなどにも適用することができる。   In the above-described embodiment, the lens-integrated digital camera 1 has been described as an example. However, the present invention can also be applied to a lens interchangeable digital camera, a small camera module built in a mobile phone, or the like. .

1…デジタルカメラ
10…レンズ系
12…フォーカスレンズ
13…ズームレンズ
21…絞り
22…絞り駆動制御部
31…撮像素子
41…アナログ信号処理回路
42…A/D変換部
51…レンズ駆動制御部
60…メモリ
70…カメラ制御部
80…操作部
90…表示部
DESCRIPTION OF SYMBOLS 1 ... Digital camera 10 ... Lens system 12 ... Focus lens 13 ... Zoom lens 21 ... Diaphragm 22 ... Diaphragm drive control part 31 ... Imaging element 41 ... Analog signal processing circuit 42 ... A / D conversion part 51 ... Lens drive control part 60 ... Memory 70 ... Camera control unit 80 ... Operation unit 90 ... Display unit

Claims (5)

光学系による像を、所定のフレームレートで繰り返し撮像し、撮像した像に対応する撮像画像信号を出力する撮像部と、
焦点調節レンズを光軸方向に駆動して、前記光学系の焦点状態を調節する焦点調節部と、
ズームレンズを光軸方向に駆動して、ズーム倍率を変更するズーム倍率変更部と、
前記焦点調節レンズの駆動量に対する前記光学系の撮影倍率の変化量の関係を記憶する記憶部と、
前記焦点調節レンズを合焦方向に移動させる場合において、前記焦点調節レンズが、前記光学系の撮影倍率が大きくなる方向に駆動したか、前記光学系の撮影倍率が小さくなる方向に駆動したか、を判定する判定部と、
前記判定部の判定結果により、前記焦点調節レンズが、前記光学系の撮影倍率が大きくなる方向に駆動したと判定された場合、前記光学系の撮影倍率が、前記焦点調節レンズの駆動を開始する前よりも小さなものとなるように、前記焦点調節レンズの駆動量に対する前記光学系の撮影倍率の変化量の関係に基づいて、前記ズームレンズを光軸方向に駆動させるように前記ズーム倍率変更部の制御を行う制御部と、
前記判定部の判定結果により、前記焦点調節レンズが、前記光学系の撮影倍率が小さくなる方向に駆動したと判定された場合、前記撮像画像信号に基づく画像から、一部の領域を切り出して、切り出し画像を生成する画像処理部と、を備えることを特徴とする撮像装置。
An imaging unit that repeatedly captures an image of the optical system at a predetermined frame rate and outputs a captured image signal corresponding to the captured image;
A focus adjustment unit that drives the focus adjustment lens in the optical axis direction to adjust the focus state of the optical system;
A zoom magnification change unit for changing the zoom magnification by driving the zoom lens in the optical axis direction;
A storage unit that stores a relationship of a change amount of the imaging magnification of the optical system with respect to a driving amount of the focus adjustment lens;
When moving the focus adjustment lens in the in-focus direction, whether the focus adjustment lens is driven in a direction in which the imaging magnification of the optical system is increased, or is driven in a direction in which the imaging magnification of the optical system is reduced, A determination unit for determining
When it is determined by the determination result of the determination unit that the focus adjustment lens is driven in a direction in which the imaging magnification of the optical system is increased, the imaging magnification of the optical system starts driving the focus adjustment lens. The zoom magnification changing unit is configured to drive the zoom lens in the optical axis direction based on the relationship of the change amount of the photographing magnification of the optical system with respect to the drive amount of the focus adjustment lens so as to be smaller than before. A control unit for controlling
When it is determined by the determination result of the determination unit that the focus adjustment lens is driven in a direction in which the imaging magnification of the optical system decreases , a part of the region is cut out from the image based on the captured image signal, An image processing apparatus comprising: an image processing unit that generates a cut-out image.
請求項1に記載の撮像装置において、
前記制御部は、前記光学系の撮影倍率が、前記焦点調節レンズの駆動を開始する前よりも小さなものとなるように、前記ズームレンズを光軸方向に駆動させる際には、前記ズームレンズの駆動を段階的に行なわせることを特徴とする撮像装置。
The imaging device according to claim 1,
When the zoom lens is driven in the optical axis direction so that the photographing magnification of the optical system is smaller than that before starting the driving of the focus adjustment lens, An imaging device characterized in that driving is performed in stages.
請求項1または2に記載の撮像装置において、
前記画像処理部は、前記切り出し画像の像倍率が、前記焦点調節レンズの駆動を開始する前の像倍率と同じとなるように、前記切り出し画像の生成を行うことを特徴とする撮像装置。
The imaging device according to claim 1 or 2,
The image processing unit generates the clipped image so that an image magnification of the clipped image is the same as an image magnification before starting the driving of the focus adjustment lens.
請求項1〜3のいずれかに記載の撮像装置において、
前記焦点調節部は、前記焦点調節レンズを、前記光学系の撮影倍率が小さくなる方向にウォブリング駆動させて、前記ウォブリング駆動の結果に基づいて、前記焦点調節レンズの駆動方向を決定することを特徴とする撮像装置。
In the imaging device in any one of Claims 1-3,
The focus adjustment unit drives the focus adjustment lens in a direction in which a photographing magnification of the optical system decreases, and determines a drive direction of the focus adjustment lens based on a result of the wobbling drive. An imaging device.
請求項1〜4のいずれかに記載の撮像装置において、
前記撮像画像信号に基づいて、焦点評価値を算出する算出部をさらに備え、
前記画像処理部は、前記撮像画像信号の前記焦点評価値が、所定値以上であるか否かを判断し、前記焦点評価値が前記所定値以上である場合と前記所定値未満である場合とで、前記切り出し画像を生成する際の生成方法を異ならせることを特徴とする撮像装置。
In the imaging device according to any one of claims 1 to 4,
A calculation unit for calculating a focus evaluation value based on the captured image signal;
The image processing unit determines whether or not the focus evaluation value of the captured image signal is greater than or equal to a predetermined value, and the focus evaluation value is greater than or equal to the predetermined value and less than the predetermined value. Thus, the imaging device is characterized in that the generation method for generating the cut-out image is different.
JP2011029568A 2011-02-15 2011-02-15 Imaging device Active JP5790011B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011029568A JP5790011B2 (en) 2011-02-15 2011-02-15 Imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011029568A JP5790011B2 (en) 2011-02-15 2011-02-15 Imaging device

Publications (2)

Publication Number Publication Date
JP2012168371A JP2012168371A (en) 2012-09-06
JP5790011B2 true JP5790011B2 (en) 2015-10-07

Family

ID=46972585

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011029568A Active JP5790011B2 (en) 2011-02-15 2011-02-15 Imaging device

Country Status (1)

Country Link
JP (1) JP5790011B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11736819B2 (en) 2019-09-05 2023-08-22 Panasonic Intellectual Property Management Co., Ltd. Imaging apparatus and image scaling timing in relation to thinned-out frame

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006343496A (en) * 2005-06-08 2006-12-21 Hitachi Maxell Ltd Automatic focusing apparatus
JP4759488B2 (en) * 2006-10-17 2011-08-31 キヤノン株式会社 Imaging device
JP5013852B2 (en) * 2006-12-26 2012-08-29 三洋電機株式会社 Angle of view correction apparatus and method, and imaging apparatus

Also Published As

Publication number Publication date
JP2012168371A (en) 2012-09-06

Similar Documents

Publication Publication Date Title
JP4528235B2 (en) Digital camera
US8823857B2 (en) Image apparatus
JP3992992B2 (en) Subject image acquisition device
JP5864938B2 (en) Imaging apparatus and control method thereof
JP5931619B2 (en) Imaging device
JP4843009B2 (en) Camera lens control method and apparatus, and camera
CN106101519B (en) Observation device
JP2009175478A (en) Imaging apparatus, imaging apparatus control method, and computer program
JP2008262049A (en) Autofocusing unit, imaging apparatus, and autofocusing method
JP5393300B2 (en) Imaging device
JP4596246B2 (en) Auto focus system
JP4941141B2 (en) Imaging device
JP2007225897A (en) Focusing position determination device and method
JP2006349744A (en) Imaging apparatus
KR101589498B1 (en) Digital camera and controlling method thereof
JP5790011B2 (en) Imaging device
JP5664440B2 (en) Imaging device
JP5682358B2 (en) Imaging device
CN114788261A (en) Image making method
JP6729574B2 (en) Image processing apparatus and image processing method
JP2016032180A (en) Imaging apparatus, control method and program
JP5438496B2 (en) Imaging apparatus, control method therefor, and program
JP6511716B2 (en) Focus detection device and imaging device
JP6149345B2 (en) Image capturing apparatus and image quality adjustment method
JP5595167B2 (en) Imaging apparatus and control method thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141028

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150707

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150720

R150 Certificate of patent or registration of utility model

Ref document number: 5790011

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250