JP3962871B2 - Electronic camera and electronic zoom method - Google Patents

Electronic camera and electronic zoom method Download PDF

Info

Publication number
JP3962871B2
JP3962871B2 JP2005307261A JP2005307261A JP3962871B2 JP 3962871 B2 JP3962871 B2 JP 3962871B2 JP 2005307261 A JP2005307261 A JP 2005307261A JP 2005307261 A JP2005307261 A JP 2005307261A JP 3962871 B2 JP3962871 B2 JP 3962871B2
Authority
JP
Japan
Prior art keywords
zoom
image
frame
attention
amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005307261A
Other languages
Japanese (ja)
Other versions
JP2006115525A (en
Inventor
光幸 赤澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2005307261A priority Critical patent/JP3962871B2/en
Publication of JP2006115525A publication Critical patent/JP2006115525A/en
Application granted granted Critical
Publication of JP3962871B2 publication Critical patent/JP3962871B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Viewfinders (AREA)
  • Lens Barrels (AREA)
  • Cameras In General (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)
  • Studio Devices (AREA)

Description

本発明はカメラのズーミング技術に関し、特に、動体を撮影する場合に適したフレーミング技術に関する。   The present invention relates to a zooming technique for a camera, and more particularly to a framing technique suitable for photographing a moving object.

従来、カメラで動きの激しい被写体を撮影するとき被写体を画面中央で適度な大きさにするためには、撮影者が被写体の動きに合わせてカメラを向け、ズーム操作をする必要があった。   Conventionally, when shooting a subject that moves rapidly with a camera, in order to make the subject have an appropriate size in the center of the screen, it is necessary for the photographer to point the camera in accordance with the movement of the subject and perform a zoom operation.

従来のフレーミング技術では、撮影待機時に被写体の動きに合わせてカメラを向けると手ぶれが生じたり、被写体が大きく動くことによりフレームアウトしてしまうといった問題点があった。また、撮影者のカメラ操作の遅れにより正確なフレーム合わせができないといった問題点や、1回の撮影では1つの画像しか記録できないといった問題点もあった。   In the conventional framing technology, there is a problem that camera shake occurs when the camera is pointed in accordance with the movement of the subject during shooting standby, or the subject moves out of the frame due to a large movement. In addition, there is a problem that accurate frame alignment cannot be performed due to a camera operation delay of the photographer, and that only one image can be recorded in one shooting.

本発明は上述した問題点を解決するためになされたものであり、被写体がフレームアウトすることなしに正確なフレーム合わせを行うことのできる電子カメラ及び電子ズーム方法の提供を目的とする。 The present invention has been made to solve the above-described problems, and an object thereof is to provide an electronic camera and an electronic zoom method capable of performing accurate frame alignment without causing the subject to be out of frame.

上記課題を解決するために、第1の発明の電子カメラは、被写体像を順次撮像する撮像手段と、この撮像手段から順次出力される動画像内の注目画像を検出する注目画像検出手段と、この注目画像検出手段により検出された注目画像の位置を検出する位置検出手段と、この位置検出手段により検出される注目画像の位置の変化量に基づいてズーム量を変更するズーム量変更制御手段と、前記位置検出手段により検出される注目画像の位置に基づいてズーム位置を変更するズーム位置変更制御手段と、を備え、前記ズーム位置変更制御手段は、前記ズーム位置の中心が前記注目画像の中心位置となるようにズーム位置を変更し、前記ズーム量変更制御手段は、前記注目画像に対してズーム量を変更することを特徴とする。また、第2の発明の電子カメラは、上述の第1の発明の電子カメラにおいて、前記ズーム量変更制御手段は、前記動画像における各フレームの切り出しサイズの変更に基づいてズーム量を変更することを特徴とする。また、第3の発明の電子カメラは、上述の第1または第2の発明の電子カメラにおいて、前記ズーム位置変更制御手段は、前記動画像における各フレームの切り出し位置の変更に基づいてズーム位置を変更することを特徴とする。また、第4の発明の電子カメラは、上述の第1から第3の何れかの発明の電子カメラにおいて、前記位置検出手段は、前記注目画像検出手段により検出された注目画像の少なくとも中心の位置を検出し、前記ズーム位置変更制御手段は、前記位置検出手段により検出された前記注目画像の中心の位置に基づいて前記ズーム位置の中心が前記注目画像の中心位置となるようにズーム位置を変更することを特徴とする。また、第5の発明の電子ズーム方法は、撮像手段から順次出力される動画像内の注目画像を検出する注目画像検出工程と、この注目画像検出工程で検出された注目画像の位置を検出する位置検出工程と、この位置検出工程で検出される注目画像の位置の変化量に基づいてズーム量を変更するズーム量変更工程と、前記位置検出工程で検出される注目画像の位置に基づいてズーム位置を変更するズーム位置変更工程と、を有し、前記ズーム位置変更工程は、前記ズーム位置の中心が前記注目画像の中心位置となるようにズーム位置を変更し、前記ズーム量変更工程は、前記注目画像に対してズーム量を変更することを特徴とする。 In order to solve the above-described problems, an electronic camera according to a first aspect of the present invention includes an imaging unit that sequentially captures subject images, an attention image detection unit that detects an attention image in a moving image sequentially output from the imaging unit , A position detection unit that detects the position of the target image detected by the target image detection unit; and a zoom amount change control unit that changes the zoom amount based on the change amount of the position of the target image detected by the position detection unit; Zoom position change control means for changing the zoom position based on the position of the target image detected by the position detection means , wherein the zoom position change control means has the center of the zoom position as the center of the target image. The zoom position is changed so as to be the position, and the zoom amount change control means changes the zoom amount with respect to the image of interest . The electronic camera according to a second aspect is the electronic camera according to the first aspect, wherein the zoom amount change control means changes the zoom amount based on a change in a cutout size of each frame in the moving image. It is characterized by. The electronic camera according to a third aspect is the electronic camera according to the first or second aspect described above, wherein the zoom position change control means sets the zoom position based on a change of a cutout position of each frame in the moving image. It is characterized by changing. According to a fourth aspect of the present invention, there is provided the electronic camera according to any one of the first to third aspects of the invention described above, wherein the position detection means is a position of at least the center of the attention image detected by the attention image detection means. And the zoom position change control means changes the zoom position so that the center of the zoom position becomes the center position of the attention image based on the position of the center of the attention image detected by the position detection means. It is characterized by doing. According to a fifth aspect of the present invention, there is provided an electronic zoom method for detecting an attention image in a moving image sequentially output from the imaging means, and detecting a position of the attention image detected in the attention image detection step. A position detection step, a zoom amount changing step for changing the zoom amount based on a change amount of the position of the target image detected in the position detection step, and a zoom based on the position of the target image detected in the position detection step A zoom position changing step for changing a position, wherein the zoom position changing step changes a zoom position so that a center of the zoom position is a center position of the attention image, and the zoom amount changing step includes: The zoom amount is changed with respect to the attention image.

上記説明したように、本発明によれば、動画表示される被写体画像の位置を画像処理等の位置検出手段により自動的に検出し、これにより検出された位置の変化量(動きベクトル)に基づいてズーム量及びズーム位置を変更するので、枠外へのはみ出しが生じない上にズーム枠を移動させるための手動操作が必要なくなる。 As described above , according to the present invention, the position of a subject image displayed as a moving image is automatically detected by position detection means such as image processing, and based on the detected change amount (motion vector). Thus, since the zoom amount and the zoom position are changed, no protrusion to the outside of the frame occurs and no manual operation for moving the zoom frame is required.

1.カメラの構成例
図1は本発明の電子カメラの一実施例の構成を示すブロック図であり、デジタルカメラ100は図1(a)に示すように、撮像部(撮像手段)2、制御部(表示制御手段、ズーム位置変更手段、移動量検出手段、ズーム量変更制御手段、移動速度算出手段、ズーム位置変更制御手段、保存記録制御手段、位置検出手段)3、操作部(位置指定手段、ズーム量指定手段)4、一次メモリ(DRAM(記憶手段))5、保存メモリ(フラッシュメモリ(保存記録手段))6、表示部(表示手段)7及び図示しない電源回路を有している。
また、撮像部2は図1(b)に示すように、撮像レンズ211、ズーム機構212及び自動合焦機構213を含む光学系21、CCD及びCCD駆動部を含む信号変換部22及び信号処理部23からなっている。
1. 1 is a block diagram showing a configuration of an embodiment of an electronic camera according to the present invention. As shown in FIG. 1A, a digital camera 100 includes an imaging unit (imaging means) 2, a control unit ( Display control means, zoom position change means, movement amount detection means, zoom amount change control means, movement speed calculation means, zoom position change control means, storage recording control means, position detection means) 3, operation unit (position designation means, zoom) A quantity specifying means) 4, a primary memory (DRAM (storage means)) 5, a storage memory (flash memory (storage recording means)) 6, a display unit (display means) 7, and a power supply circuit (not shown).
As shown in FIG. 1B, the imaging unit 2 includes an imaging lens 211, an optical system 21 including a zoom mechanism 212 and an automatic focusing mechanism 213, a signal conversion unit 22 including a CCD and a CCD driving unit, and a signal processing unit. It consists of 23.

撮像部2は撮像レンズ211で取込んだ被写体像を信号変換部22でCCD等の撮像素子により画像信号に変換した後更にデジタルデータ(画像データ)に変換し、信号処理部23でデジタルデータからデジタルの輝度、色差マルチプレクス信号(Y、Cb、Crデータ)等の信号成分(以下、画像データ)を得て一時記憶手段としてのDRAM5に転送する。また、ズーム機構212は制御部3の制御に基づいて図示しないズームレンズを移動させてズーム動作を実行し、自動合焦機構213は制御部3の制御に基づいて撮像レンズ211を移動させ自動合焦(オートフォーカス)させる。   The imaging unit 2 converts the subject image captured by the imaging lens 211 into an image signal by an image sensor such as a CCD in the signal conversion unit 22 and further converts it into digital data (image data). The signal processing unit 23 converts the subject image from the digital data. Signal components (hereinafter referred to as image data) such as digital luminance and color difference multiplexed signals (Y, Cb, Cr data) are obtained and transferred to the DRAM 5 as a temporary storage means. The zoom mechanism 212 moves a zoom lens (not shown) based on the control of the control unit 3 to execute a zoom operation, and the automatic focusing mechanism 213 moves the imaging lens 211 based on the control of the control unit 3 to perform automatic focusing. Focus (auto focus).

制御部3は、CPU、RAM、プログラム格納用メモリ及びタイマ等の周辺回路を有したマイクロプロセッサ構成を有しており、CPUは上述の各回路及び図示しない電源切換えスイッチ等にバスラインを介して接続し、プログラム格納用メモリに格納されている制御プログラムによりデジタルカメラ全体の制御を行なうと共に、操作部4からの状態信号に対応してプログラム格納用メモリに格納されている各モード処理用のプログラムや本発明に基づく撮影待機時のフレーミング処理用プログラムを取り出して、本発明のフレーミングの実行制御及びデジタルカメラ100の各機能の実行制御等を行なう。なお、プログラム格納メモリには上述した各プログラムのほか定数やメニューデータを格納している。   The control unit 3 has a microprocessor configuration including peripheral circuits such as a CPU, a RAM, a program storage memory, and a timer. The whole digital camera is controlled by the control program stored in the program storage memory, and each mode processing program stored in the program storage memory corresponding to the status signal from the operation unit 4 In addition, a framing processing program during shooting standby according to the present invention is taken out, and execution control of the framing of the present invention and execution control of each function of the digital camera 100 are performed. The program storage memory stores constants and menu data in addition to the above-described programs.

操作部4は、電源スイッチ41、シャッターキー42、ズームキー(ズーム量指定手段)43、処理モード切替えスイッチ44、後述するタッチパネルキー及び機能選択ボタン等のキーやスイッチ(位置指定手段)を構成部分としており、これらのキー或いはスイッチが操作されると状態信号が制御部3に送出される。
なお、ズームキー43をロータリーキーとし、ズームキー43が+方向に回転されると回転角に応じた拡大ズーム信号を送出し、ズームキー43が−方向に回転されると回転角に応じた縮小ズーム信号を送出するように構成してもよい。
The operation unit 4 includes a power switch 41, a shutter key 42, a zoom key (zoom amount designation means) 43, a processing mode changeover switch 44, keys and switches (position designation means) such as touch panel keys and function selection buttons, which will be described later, as constituent parts. When these keys or switches are operated, a status signal is sent to the control unit 3.
The zoom key 43 is a rotary key. When the zoom key 43 is rotated in the + direction, an enlarged zoom signal corresponding to the rotation angle is transmitted. When the zoom key 43 is rotated in the-direction, a reduced zoom signal corresponding to the rotation angle is transmitted. You may comprise so that it may send out.

DRAM5は作業用メモリ(記憶手段)として用いられ、撮影画像や再生画像を一時的に記憶する画像バッファ領域や圧縮/伸張時の作業用領域等が確保されている。
また、フラッシュメモリ6は保存メモリ(保存記録手段)として撮影した画像を保存記憶する。なお、保存メモリをフラッシュメモリ6に代えてメモリカード等の着脱可能なメモリを用いるようにしてもよい。
The DRAM 5 is used as a working memory (storage means), and an image buffer area for temporarily storing captured images and reproduced images, a working area for compression / decompression, and the like are secured.
The flash memory 6 saves and stores the captured image as a storage memory (storage recording means). Note that a detachable memory such as a memory card may be used instead of the flash memory 6 as the storage memory.

また、表示部7はビデオメモリ、ビデオエンコーダ及び液晶表示装置からなり、ビデオエンコーダは制御部3からビデオメモリに出力された画像データをビデオ信号に変換し、液晶表示装置に出力する。液晶表示装置はビデオエンコーダからのビデオ信号を液晶画面に表示する。
また、前述した操作部4の構成部分(位置指定手段)として表示部7の液晶画面上には感圧素子を配設した板状の透明層(タッチパネルキー)が設けられており、ポイント用の入力ペンでポイントするとその位置(座標)信号が制御部3に送られる。
The display unit 7 includes a video memory, a video encoder, and a liquid crystal display device. The video encoder converts image data output from the control unit 3 to the video memory into a video signal and outputs the video signal to the liquid crystal display device. The liquid crystal display device displays the video signal from the video encoder on the liquid crystal screen.
Further, a plate-like transparent layer (touch panel key) provided with a pressure-sensitive element is provided on the liquid crystal screen of the display unit 7 as a constituent part (position specifying means) of the operation unit 4 described above. Pointing with the input pen sends a position (coordinate) signal to the control unit 3.

図2はデジタルカメラ100の一実施例の外観を示す図であり、図2(a)は背面図、図2(b)は正面図、図2(c)は表示画面上の所望の位置をポイントするポイントペンを示す。
図2でデジタルカメラ100は、シャッターキー42を上部に備え、正面には撮像レンズ211及び光学ファインダ8が配置され、背面には表示部7の液晶ディスプレイ(画面)70、電源スイッチ41、ズームキー43、処理モード切替えスイッチ44が配置されている。
2A and 2B are views showing the appearance of an embodiment of the digital camera 100. FIG. 2A is a rear view, FIG. 2B is a front view, and FIG. 2C is a desired position on the display screen. Indicates the point pen to point to.
In FIG. 2, the digital camera 100 includes a shutter key 42 at the top, an imaging lens 211 and an optical viewfinder 8 disposed on the front, and a liquid crystal display (screen) 70 of the display unit 7, a power switch 41, and a zoom key 43 on the back. A processing mode changeover switch 44 is arranged.

2.動きベクトル及びフレーミング(ズーム枠合わせ)
図3は本発明のフレーミング制御方法の概要説明図であり、図4はフレーミングされた表示画像及び記録画像の説明図である。
また、図3(a)、(a’)は画角内の注目被写体像(注目画像)の動きベクトル(移動量)の説明図であり、図3(a)で時刻T1に左下隅位置P1(x1、y1)に表示されていた動画像内の注目画像1(ウサギ像)が、時刻T2には被写体の移動により図3(a’)に示すように同一画角内の右上隅P2(x2、y2)に表示された様子を示している。
このとき、画角内の注目画像1の位置P1、P2の軌跡は動きベクトルA(θ、X)となる。
ここで、移動距離X=((x1−x2)2+(y1−y2)21/2 、移動速度V=X/(T2−T1)から、
V=((x1−x2)2+(y1−y2)21/2 /(T2−T1)
となる。
2. Motion vector and framing (zoom frame alignment)
FIG. 3 is a schematic explanatory diagram of a framing control method according to the present invention, and FIG. 4 is an explanatory diagram of a framed display image and recorded image.
FIGS. 3A and 3A are explanatory diagrams of the motion vector (movement amount) of the target subject image (target image) within the angle of view, and the lower left corner position P1 at time T1 in FIG. The attention image 1 (rabbit image) in the moving image displayed at (x1, y1) is moved to the upper right corner P2 (within the same angle of view) as shown in FIG. The state displayed in x2, y2) is shown.
At this time, the locus of the positions P1 and P2 of the target image 1 within the angle of view is a motion vector A (θ, X).
Here, from the moving distance X = ((x1-x2) 2 + (y1-y2) 2 ) 1/2 and the moving speed V = X / (T2-T1),
V = ((x1-x2) 2 + (y1-y2) 2 ) 1/2 / (T2-T1)
It becomes.

そこで、図3(b)に示すように動画像内の注目画像1の動き(=速度V)が大きい場合は動画像上に表示するズーム(フレーミング)枠90を注目画像1の速度に合わせて拡大し、ズーム枠90’とすれば注目画像1がズーム枠90’から外れてしまうといったことがなくなる。
また、図3(c)に示すように動画像内の注目画像1の動きが小さい場合はズーム枠90を縮小して、ズーム枠90”としても注目画像1がズーム枠90”から外れるといったことがなく、且つ注目画像1とズーム枠のバランスがよくなる。
Therefore, as shown in FIG. 3B, when the movement (= speed V) of the attention image 1 in the moving image is large, the zoom (framing) frame 90 displayed on the moving image is matched with the speed of the attention image 1. If the zoom frame 90 ′ is enlarged, the attention image 1 will not be out of the zoom frame 90 ′.
Further, as shown in FIG. 3C, when the movement of the attention image 1 in the moving image is small, the zoom frame 90 is reduced, and the attention image 1 is not included in the zoom frame 90 ″ even as the zoom frame 90 ″. And the balance between the image of interest 1 and the zoom frame is improved.

なお、動画撮影の場合は所定時間間隔で画像がフラッシュメモリ6に記録されるが、図4(a)に示すように、画角内で表示されている注目画像1をポイントペン9等のポインティングデバイスでポイントすると画角位置(ズーム枠の位置)が入力され、上述したようにズーム枠90内の注目画像1の動きベクトルに基づいてズーム枠90の大きさが自動的に拡大または縮小されるので、注目画像1が移動してユーザのポイント操作(ズーム枠移動操作)が被写体像の動きについていけない場合でも、ズーム枠90’(または90”)の枠外に注目画像1が出るようなことは起こらず、図4(b)に示すようにフレーム内に注目画像1が収まった記録画像(動画画像)を得ることができる。   In the case of moving image shooting, images are recorded in the flash memory 6 at predetermined time intervals. As shown in FIG. 4A, the attention image 1 displayed within the angle of view is displayed by pointing with a point pen 9 or the like. Pointing at the device inputs the angle of view (zoom frame position), and the size of the zoom frame 90 is automatically enlarged or reduced based on the motion vector of the image of interest 1 in the zoom frame 90 as described above. Therefore, even when the attention image 1 moves and the user's point operation (zoom frame movement operation) cannot follow the movement of the subject image, the attention image 1 does not appear outside the zoom frame 90 ′ (or 90 ″). A recorded image (moving image) in which the image of interest 1 is contained in the frame can be obtained as shown in FIG.

3.フレーミング
図5は動画撮影モード時のフレーミング動作の一実施例を示すフローチャートであり、図5(a)はポインティングデバイスの操作によるポイント位置を取得してフレーム枠(ズーム枠)の移動動作を行う例、図5(b)は画像処理により自動的に移動する被写体像の位置を取得してフレーム枠(ズーム枠)の移動動作を行う例、図5(c)は枠の移動を自動とし、枠の大きさは手動で行う例を示す。
3. Framing FIG. 5 is a flowchart showing an embodiment of the framing operation in the moving image shooting mode, and FIG. 5A shows an example of acquiring the point position by operating the pointing device and moving the frame frame (zoom frame). FIG. 5B shows an example in which the position of a subject image that is automatically moved by image processing is acquired and the frame frame (zoom frame) is moved. FIG. 5C shows that the frame is automatically moved. The size of shows an example of manual operation.

(1):ポインティングデバイスによるフレーミング動作の例
ステップS1:(動画撮影モード選択)
図5(a)で、デジタルカメラ100が起動されると制御部3は操作部4からの信号を監視し、撮影者が処理モード切替えスイッチ44で動画撮影モードを選択し、シャッターキー42を操作することにより動画画像の撮影を開始するとS2に遷移する。
(1): Example of framing operation by pointing device Step S1: (Movie shooting mode selection)
In FIG. 5A, when the digital camera 100 is activated, the control unit 3 monitors the signal from the operation unit 4, the photographer selects the moving image shooting mode with the processing mode switch 44, and operates the shutter key 42. Thus, when shooting of a moving image starts, the process proceeds to S2.

ステップS2:(被写体画像の取り込み)
制御部3は撮像部2から送られる被写体画像(データ)を所定時間t毎に1フレーム分DRAM5に取り込む(なお、t=1/1分間の撮影可能な動画枚数である)。
Step S2: (Subject image capture)
The control unit 3 captures the subject image (data) sent from the imaging unit 2 into the DRAM 5 for one frame every predetermined time t (t = 1 is the number of moving images that can be taken for 1 minute).

ステップS3:(動画画像表示)
制御部3は上記ステップS2でDRAM5に取り込んだ動画像(データ)を表示部7に送り、画像メモリ上にイメージ展開して液晶画面70に表示させる。
Step S3: (Movie image display)
The control unit 3 sends the moving image (data) taken into the DRAM 5 in step S2 to the display unit 7, develops the image on the image memory, and displays it on the liquid crystal screen 70.

ステップS4:(ポインティングデバイスによるポイントの有無判定)
制御部3は液晶画面70がポイント(ポイントペン9の例では表示画面70にタッチ)されたか否かを位置(座標(x2、y2))信号受信の有無で監視している。
撮影者が液晶画面70に表示された動画像内の注目画像1(図3)をポイントするとその位置信号が制御部3に送られる。制御部3は所定時間t内に位置信号を受け取るとS5に遷移する。また、ポイントがない場合には所定時間tだけこのステップを繰り返してポインティングデバイスによるポイント待ちを行い、所定時間tを経過した場合にはS11に遷移する。
Step S4: (Point presence / absence determination by pointing device)
The control unit 3 monitors whether or not the liquid crystal screen 70 is pointed (in the example of the point pen 9, the display screen 70 is touched) based on whether or not a position (coordinate (x2, y2)) signal is received.
When the photographer points to the attention image 1 (FIG. 3) in the moving image displayed on the liquid crystal screen 70, the position signal is sent to the control unit 3. When the control unit 3 receives the position signal within the predetermined time t, the control unit 3 transits to S5. If there is no point, this step is repeated for a predetermined time t to wait for the point by the pointing device. If the predetermined time t has elapsed, the process proceeds to S11.

ステップS5:(位置(座標値)及び移動時間の取得)
制御部3は上記ステップS4で受け取った位置信号を変換して画面70上の座標値を取得し、制御部3のRAMに保持(一時記憶)する。また、デジタルカメラ100に内蔵されているタイマーからの信号を基に現在の時刻(T2)を取得し、RAMに保持していた前回のポイント時刻(T1)との差から移動時間Tを算出し、制御部3のRAMに保持する。
Step S5: (Acquisition of position (coordinate value) and movement time)
The control unit 3 converts the position signal received in step S4 to obtain a coordinate value on the screen 70, and stores (temporarily stores) it in the RAM of the control unit 3. Also, the current time (T2) is acquired based on a signal from a timer built in the digital camera 100, and the movement time T is calculated from the difference from the previous point time (T1) held in the RAM. And stored in the RAM of the control unit 3.

ステップS6:(移動距離の算出)
制御部3は上記ステップS5で取得した座標値(x2、y2)とRAMに保持していた前回の座標値(x1、y1)から前回のポイント位置から今回のポイント位置までの移動距離Xを算出する(つまり、X=((x1−x2)2+(y1−y2)21/2 )。
Step S6: (Calculation of moving distance)
The control unit 3 calculates the movement distance X from the previous point position to the current point position from the coordinate values (x2, y2) acquired in step S5 and the previous coordinate values (x1, y1) held in the RAM. (That is, X = ((x1-x2) 2 + (y1-y2) 2 ) 1/2 ).

ステップS7:(被写体像の速度の算出)
制御部3は上記ステップS6で算出した移動距離X及び上記ステップS5で算出した移動時間Tから前記電子ズーム指示手段によるズーム指示がなされない時間を計測する計測手段と、注目画像1の移動速度(被写体(動体)の移動速度)を算出する(つまり、V=X/T)。
Step S7: (Calculation of subject image speed)
The control unit 3 measures the time during which the zoom instruction is not given by the electronic zoom instruction means from the movement distance X calculated in step S6 and the movement time T calculated in step S5, and the moving speed ( The movement speed of the subject (moving body) is calculated (that is, V = X / T).

ステップS8:(ズーム比率の算出)
所定速度vに対応するズーム枠のサイズ(例えばズーム枠90の対角線長さ)L0を予め設定しておき、所定速度vと上記ステップS7で算出した速度Vとの比率αを算出すればズーム枠90のサイズの比率(ズーム比率(ズーム量))もαとなるので、ズーム枠90のサイズは被写体速度に比例する(L:L0=V:v)。つまり、所定速度vより上記ステップS7で算出した速度Vが大きければ図3(b)に示したようにズーム枠の大きさは基準のズーム枠90より拡大され、小さければ図3(c)に示したように縮小されることとなる。
Step S8: (Calculation of zoom ratio)
If the zoom frame size (for example, the diagonal length of the zoom frame 90) L0 corresponding to the predetermined speed v is set in advance, and the ratio α between the predetermined speed v and the speed V calculated in step S7 is calculated, the zoom frame Since the ratio of the size of 90 (zoom ratio (zoom amount)) is also α, the size of the zoom frame 90 is proportional to the subject speed (L: L0 = V: v). That is, if the speed V calculated in step S7 is larger than the predetermined speed v, the size of the zoom frame is larger than that of the reference zoom frame 90 as shown in FIG. It will be reduced as shown.

ステップS9:(ズーム枠の表示)
制御部3は上記ステップS8で得た比率αで基準サイズのズーム枠を拡大(αc>1のとき)または縮小(1<αcのとき)し、表示画像上に重畳表示する。また、この際、ステップS5で取得したポインティングデバイスによるポイント位置(座標)がズーム枠90の中心となる。なお、cはズーム枠から移動する注目画像1がはみ出さないように設ける重み計数であり、c≧1である。
Step S9: (Display zoom frame)
The control unit 3 enlarges (when αc> 1) or reduces (when 1 <αc) the zoom frame of the reference size by the ratio α obtained in step S8, and displays the zoom frame on the display image in a superimposed manner. At this time, the point position (coordinates) obtained by the pointing device acquired in step S <b> 5 is the center of the zoom frame 90. Note that c is a weighting factor provided so that the target image 1 moving from the zoom frame does not protrude, and c ≧ 1.

ステップS10:(前回のポイント位置の座標値及び時刻の更新)
制御部3は上記ステップS5で取得した座標値(x2、y2)及び時刻T2とRAMに保持されている前回の座標値(x1、y1)及び時刻(T1)を更新(上書き記憶)し、RAMに保持されていた座標値(x2、y2)及び時刻(T2)をクリアする。
Step S10: (Update of coordinate value and time of previous point position)
The control unit 3 updates (overwrites) the coordinate value (x2, y2) and time T2 acquired in step S5 and the previous coordinate value (x1, y1) and time (T1) held in the RAM. The coordinate values (x2, y2) and time (T2) held in are cleared.

ステップS11:(動画画像の保存記憶)
制御部3はDRAM5に取り込まれているズーム枠内の画像データに圧縮処理を施してフラッシュメモリ6に保存記憶する。なお、ズーム枠で示された画像はそのズーム枠内の画像を1フレームの画像となるようにズーム(拡大/圧縮)してから保存記憶処理を行う。これにより、1フレームの電子ズーム画像(図4(b))を保存記憶(記録)することができる。
Step S11: (Moving image storage)
The control unit 3 compresses the image data in the zoom frame captured in the DRAM 5 and stores it in the flash memory 6. Note that the image indicated by the zoom frame is stored (stored) after the image within the zoom frame is zoomed (enlarged / compressed) to become an image of one frame. Thus, one frame of the electronic zoom image (FIG. 4B) can be stored (recorded).

ステップS12:(動画撮影終了判定)
制御部3は撮影した動画の数を調べ、所定数になった場合には撮影処理を終了する。撮影者が撮影終了操作を行った場合も撮影処理を終了する。また、これ以外の場合には、S2に遷移して次の画像の取り込みを行う。
Step S12: (Movie shooting end determination)
The control unit 3 checks the number of shot videos, and ends the shooting process when the number reaches a predetermined number. The photographing process is also terminated when the photographer performs a photographing end operation. In other cases, the process proceeds to S2 to capture the next image.

なお、上記説明では、画面70を液晶画面に感圧素子を配列した透明膜を重ね合わせた構成(タッチパネルキー)としポイントペンを用いて被写体像をポイント(撮影エリアを指定)する例を示したがこの例に限定されない。例えば、デジタルカメラ100にポイント用の操作キーを設け、この操作キーの操作によりカーソル等を画角内で移動させて被写体像をポイントするようにしてもよく、指先で操作可能なマウス状のポインティングデバイスでポイントするようにしてもよい。   In the above description, an example in which the screen 70 has a configuration in which a transparent film in which pressure-sensitive elements are arranged on a liquid crystal screen is overlaid (touch panel key) and a subject image is pointed (designated as a shooting area) using a point pen is shown. Is not limited to this example. For example, an operation key for a point may be provided on the digital camera 100, and a cursor or the like may be pointed to by moving the cursor or the like within the angle of view by operating the operation key. You may make it point with a device.

上記構成により、ポインティングデバイスで画面70に表示されている動画中の被写体画像をポイントすると、動きベクトルから被写体像の移動速度を推定し、ズーム枠の大きさを自動的に決定して被写体像に重畳表示できるので枠外へのはみ出しが生じないと同時に被写体の動きに合った画角で撮影することができる。   With the above configuration, when the subject image in the moving image displayed on the screen 70 is pointed at the pointing device, the moving speed of the subject image is estimated from the motion vector, and the size of the zoom frame is automatically determined to obtain the subject image. Since the image can be displayed in a superimposed manner, the image can be taken with an angle of view that matches the movement of the subject without protruding from the frame.

なお、上記図5(a)のフローチャートでは動画撮影時にポイント動作を行うようにしたが、動画の再生時にポイントし、その部分(再生像)を新たな動画として保存したり、動画(又は静止画)の撮影待機状態であるファインダー画像(スルー画像)表示時にポイント動作を行うようにしてもよい。   In the flowchart of FIG. 5A, the point operation is performed at the time of moving image shooting. However, when the moving image is played back, the point (reproduced image) is saved as a new moving image, or the moving image (or still image) is displayed. The point operation may be performed when a finder image (through image) in the shooting standby state is displayed.

また、上記図5(a)のフローチャートでは、ポイント位置間の動きベクトル(速度)を求めるようにしたが、画像認識技術を用いて画角内の被写体位置を認識することにより動体認識を行い、動きベクトル(速度)を求めるようにしてもよい。このように構成した場合、被写体像の移動速度を正確に求めることができるのでより効果が大きくなる。また、上記図5(a)のフローチャートでは、ズーム枠90の大きさを変化させる(電子ズーム)ようにしたが、ズーム枠を変化させず、図1のズーム機構212を駆動させることにより、光学ズーム量を変化させるようにしたり、電子ズーム量及び光学ズーム量の双方を変化させるようにしてもよい。   Further, in the flowchart of FIG. 5A, the motion vector (speed) between the point positions is obtained, but moving object recognition is performed by recognizing the subject position within the angle of view using image recognition technology. A motion vector (speed) may be obtained. In such a configuration, the moving speed of the subject image can be accurately obtained, and thus the effect is further increased. Further, in the flowchart of FIG. 5A, the size of the zoom frame 90 is changed (electronic zoom). However, the zoom mechanism 212 of FIG. The zoom amount may be changed, or both the electronic zoom amount and the optical zoom amount may be changed.

(2):画像処理によるフレーミング動作の例
この例で、ステップS1、S2とステップS6〜S12の動作は図5(a)のフローチャートと同様であり、ステップS2とS6の間を下記ステップ(S3’〜S5’)で置き換える。なお、図5(a)のステップS12の動画撮影終了判定結果が未終了の場合の戻り先はステップS2であるが、図5(b)ではステップS6’となる。また、この例では液晶画面70上に感圧素子を配列した透明な薄膜を設ける必要はない。また、図6は画像処理によるフレーミング動作の説明図である。
(2): Example of framing operation by image processing In this example, the operations of steps S1 and S2 and steps S6 to S12 are the same as those in the flowchart of FIG. 5A, and the following steps (S3 and S3) are performed between steps S2 and S6. Replace with '~ S5'). Note that the return destination when the moving image shooting end determination result of step S12 in FIG. 5A is not ended is step S2, but in FIG. 5B, it is step S6 ′. In this example, it is not necessary to provide a transparent thin film in which pressure sensitive elements are arranged on the liquid crystal screen 70. FIG. 6 is an explanatory diagram of a framing operation by image processing.

ステップS3’:(動画(スルー)画像表示)
図5(b)で、制御部3は上記ステップS2(図5(a))でDRAM5に取り込んだ画像(データ)を表示部7に送り、画像メモリ上にイメージ展開して液晶画面70に表示する。また、この際、画面の左右には図6(a)に示すようにズーム枠90−1、90−2が表示される。
Step S3 ': (Movie (through) image display)
In FIG. 5B, the control unit 3 sends the image (data) taken into the DRAM 5 in step S2 (FIG. 5A) to the display unit 7, develops the image on the image memory, and displays it on the liquid crystal screen 70. To do. At this time, zoom frames 90-1 and 90-2 are displayed on the left and right sides of the screen as shown in FIG.

ステップS4’:(ズーム対象画像の捕捉判定)
撮影者はズームアップしたい(つまり、撮影したい)被写体がある場合には画面に表示された左右のいずれかのズーム枠90(90−1または90−2)が被写体像に重なるようにカメラを移動させ、ズーム枠90が注目画像1に重なったときズーム(撮影開始)指示(例えば、シャッターキー42の全押し操作)を行う。制御部3はズーム指示がなされたか否かを操作部4から送られてくるシャッター信号受信の有無で監視しているので、シャッター信号を受け取るとS5’に遷移する。
図6(a)の例で、撮影者が被写体1(ウサギ)をズームアップしようとした場合、被写体1は左方から右方に向かって移動しているので、撮影者は左側のズーム枠90−1に注目画像1が重なるようにカメラを移動させ、図6(b)に示すようにズーム枠90−1と注目画像1が重なったときにシャッター42の全押し操作を行う。
Step S4 ': (Zoom target image capture determination)
If there is a subject to be zoomed in (that is, a subject to be photographed), the photographer moves the camera so that either the left or right zoom frame 90 (90-1 or 90-2) displayed on the screen overlaps the subject image. When the zoom frame 90 overlaps the image of interest 1, a zoom (shooting start) instruction (for example, full pressing operation of the shutter key 42) is performed. Since the control unit 3 monitors whether or not a zoom instruction has been given based on whether or not the shutter signal sent from the operation unit 4 has been received, the process proceeds to S5 ′ when the shutter signal is received.
In the example of FIG. 6A, when the photographer attempts to zoom up the subject 1 (rabbit), the subject 1 moves from the left to the right. -1 is moved so that the target image 1 overlaps, and the shutter 42 is fully pressed when the zoom frame 90-1 and the target image 1 overlap as shown in FIG. 6B.

ステップS5’:(被写体像の位置及び比較画像の取得)
制御部3はシャッター信号を受け取ると画像認識処理により被写体像を認識し、認識した被写体画像の中心の座標値(x2、y2)を取得し、制御部3のRAMに保持(一時記憶)し、S6に遷移する。
Step S5 ′: (Acquisition of subject image position and comparison image)
When the control unit 3 receives the shutter signal, it recognizes the subject image by image recognition processing, acquires the coordinate value (x2, y2) of the center of the recognized subject image, holds it in the RAM of the control unit 3 (temporarily stores), Transition to S6.

ステップS6’:(被写体画像の取り込み)
また、図5(a)のステップS12の動画撮影終了判定結果が未終了(NO)の場合は、制御部3は撮像部2から送られる被写体画像(動画像)を所定時間t毎に1フレーム分DRAM5に取り込む(なお、t=1/1分間の撮影可能な動画枚数である)。
Step S6 ': (Subject image capturing)
Further, when the moving image shooting end determination result in step S12 of FIG. 5A is not completed (NO), the control unit 3 displays the subject image (moving image) sent from the imaging unit 2 for one frame every predetermined time t. The amount is taken into the DRAM 5 (where t = 1/1 minute is the number of moving images that can be shot).

ステップS7’:(動画画像表示)
制御部3は上記ステップS2でDRAM5に取り込んだ動画像(データ)を表示部7に送り、画像メモリ上にイメージ展開して液晶画面70に表示し、S5’に遷移する。
Step S7 ': (Movie image display)
The control unit 3 sends the moving image (data) captured in the DRAM 5 in step S2 to the display unit 7, develops the image on the image memory, displays the image on the liquid crystal screen 70, and transitions to S5 ′.

以下、図5(a)のステップS6〜S11により移動距離(前回と今回の画像中の被写体(注目画像)間の距離)算出、移動速度の算出(つまり、V=X/t)、ズーム比率の算出、ズーム枠の表示(この際、注目画像1の中心がズーム枠90の中心となるようにズーム枠90を移動)、前回の注目画像位置の更新等を経て、図6(c)に示すように、所定時間t毎に表示される注目画像1(動画)に重畳して、注目画像1の速度に応じて拡大または縮小されたズーム枠90’を自動的に表示すると同時に、注目画像1の移動に応じてズーム枠90を移動することができる。   Hereinafter, in steps S6 to S11 in FIG. 5A, the moving distance (the distance between the subject (the target image) in the previous and current images) is calculated, the moving speed is calculated (that is, V = X / t), and the zoom ratio. 6C, display of the zoom frame (in this case, the zoom frame 90 is moved so that the center of the target image 1 is the center of the zoom frame 90), the previous update of the target image position, and the like. As shown, a zoom frame 90 ′ that is superposed on the attention image 1 (moving image) displayed every predetermined time t and enlarged or reduced according to the speed of the attention image 1 is automatically displayed, and at the same time The zoom frame 90 can be moved according to the movement of 1.

上記構成により、ズーム指示があると、動画表示される被写体画像を画像処理により自動的に判別し、被写体の動きベクトルから被写体像の移動速度を算出し、ズーム枠の大きさを自動的に決定して被写体像に重畳表示できるので枠外へのはみ出しが生じない上に、更に、被写体の動きベクトルに基づいてズーム枠を自動的に移動させることができるので、ズーム枠90を移動させるための手動操作が必要なくなる。   With the above configuration, when there is a zoom instruction, the subject image displayed as a moving image is automatically determined by image processing, the moving speed of the subject image is calculated from the subject motion vector, and the size of the zoom frame is automatically determined. In addition, since the image can be superimposed and displayed on the subject image, the zoom frame 90 can be automatically moved based on the motion vector of the subject, and the manual operation for moving the zoom frame 90 can be performed. No operation is required.

なお、上記(1)、(2)(図5(a)、(b))では動画撮影の場合について動画表示される画像の動きベクトルに応じてズーム枠を拡大/縮小するものとして説明したが、これに限定されない。つまり、静止画像撮影の場合もスルー表示されている画像の動きベクトルに応じてズーム枠を拡大/縮小するように構成することができる。   In the above (1), (2) (FIGS. 5 (a), (b)), in the case of moving image shooting, the zoom frame is enlarged / reduced according to the motion vector of the image displayed on the moving image. However, the present invention is not limited to this. That is, in the case of still image shooting, the zoom frame can be enlarged / reduced according to the motion vector of the through-displayed image.

また、上記図5(b)のフローチャートでは予め画像上に表示されているズーム枠内にカメラを動かすことにより被写体像を入れるようにしたが、このような動作を行うことなく自動的に画像内の被写体位置を検出し、この検出位置にズーム枠90を移動させるようにしてもよい。   Further, in the flowchart of FIG. 5B, the subject image is inserted by moving the camera within the zoom frame that is displayed in advance on the image. The subject position may be detected, and the zoom frame 90 may be moved to this detected position.

(3):ズーム枠の移動を自動、枠の大きさを手動としたズーム動作例
この例で、ステップS1〜S5’の動作は図5(b)のフローチャートと、ステップS9〜S12の動作は、図5(a)のフローチャートと同様であり、ステップS5とステップS9の間を下記ステップ(S6”〜S8”)で置き換える。なお、図5(a)のステップS12の動画撮影終了判定結果が未終了(NO)の場合は、図5(b)のS6’に移行する。
(3): Zoom operation example in which the movement of the zoom frame is automatic and the size of the frame is manual. In this example, the operation of steps S1 to S5 ′ is the flowchart of FIG. 5B and the operation of steps S9 to S12 is This is the same as the flowchart of FIG. 5A, and the step S5 and step S9 are replaced with the following steps (S6 ″ to S8 ″). If the moving image shooting end determination result in step S12 in FIG. 5A is not completed (NO), the process proceeds to S6 ′ in FIG. 5B.

ステップS6”:(動画像上へのズーム枠の移動)
図5(c)で、制御部3はDRAM5に保持している前回(つまり、現在−t秒前)のサイズのフレーム枠(データ)を表示部7に送ってイメージ展開し、ステップS5’で取得し、表示されている動画像(被写体像)のポイント(中心)位置にフレーム(ズーム)枠の中心を一致させ、重畳表示する。これにより、動画像上に前回のサイズのフレーム枠が移動する。
Step S6 ″: (moving the zoom frame onto the moving image)
In FIG. 5C, the control unit 3 sends the frame (data) of the previous size (that is, the current −t seconds ago) held in the DRAM 5 to the display unit 7 to develop the image, and in step S5 ′. The center of the frame (zoom) frame is made to coincide with the point (center) position of the acquired moving image (subject image) that is acquired and displayed in a superimposed manner. Thereby, the frame frame of the previous size moves on the moving image.

ステップS7”:(ズーム操作の有無判定)
撮影者が上記ステップS6”で被写体像上に重畳表示されたズーム枠を見て大きさを調整する必要がある場合にはズームキー43(ズーム量指定手段)を使用してズーム枠の拡大または縮小操作を行う。なお、この例ではズームキー43をロータリーキーとし、ズームキー43が+方向に回転されると回転角に応じた拡大ズーム信号を送出し、ズームキー43が−方向に回転されると回転角に応じた縮小ズーム信号を送出するように構成されている。
制御部3は操作部4からのズーム信号の有無を監視し、ズーム信号を受け取るとS8”に遷移する。また、ズームキー43の操作が所定時間t以内になされなかった場合にはS11(図5(a))に遷移する。
Step S7 ": (determining whether zoom operation is performed)
When the photographer needs to adjust the size by looking at the zoom frame superimposed on the subject image in step S6 ″, the zoom key 43 (zoom amount designation means) is used to enlarge or reduce the zoom frame. In this example, the zoom key 43 is a rotary key, and when the zoom key 43 is rotated in the + direction, an enlarged zoom signal corresponding to the rotation angle is transmitted, and when the zoom key 43 is rotated in the-direction, the rotation angle is It is configured to send a reduced zoom signal corresponding to.
The control unit 3 monitors the presence / absence of a zoom signal from the operation unit 4. When the zoom signal is received, the control unit 3 shifts to S8 ″. When the operation of the zoom key 43 is not performed within the predetermined time t, the control unit 3 performs S11 (FIG. 5). Transition to (a)).

ステップS8”:(今回のズーム比率αの算出及び保持)
ズーム信号は、ズームキー43の+方向の回転角に応じた値を含む拡大ズーム信号とズームキー43の−方向の回転角に応じた値を含む縮小ズーム信号からなるので、制御部3はズームキー43の回転角を基にズーム枠の拡大/縮小比率(前回のズーム枠のサイズを1とした場合の比率(例えば、1.2(20%拡大)、0.8(20%縮小))、つまり、ズーム比率を算出する。また、RAMに保持されている前回のズーム比率を今回のズーム比率で置き換えて保持する。
Step S8 ": (Calculation and holding of the current zoom ratio α)
The zoom signal includes an enlarged zoom signal including a value corresponding to the rotation angle in the + direction of the zoom key 43 and a reduction zoom signal including a value corresponding to the rotation angle in the − direction of the zoom key 43. The zoom frame enlargement / reduction ratio based on the rotation angle (the ratio when the previous zoom frame size is 1 (for example, 1.2 (20% enlargement), 0.8 (20% reduction)), that is, The zoom ratio is calculated, and the previous zoom ratio held in the RAM is replaced with the current zoom ratio and held.

以下、図5(a)のステップS9〜S11により所定時間t毎に表示される注目画像1(動画)に重畳して、注目画像1の移動に応じて移動表示されるズーム枠90’の大きさを手動操作により被写体像の大きさに合わせて拡大/縮小して表示することができる。   Hereinafter, the size of the zoom frame 90 ′ that is superimposed and displayed on the attention image 1 (moving image) displayed every predetermined time t in steps S9 to S11 of FIG. The image can be enlarged / reduced according to the size of the subject image by manual operation.

上記構成により、ズーム指示があると、動画表示される被写体画像中の注目画像を画像処理により自動的に判別してその位置を得て、前回のズーム枠を移動した注目画像に重畳表示し、ズーム枠の大きさが注目画像にあっていない場合は手動によりその大きさを変えて表示することができ、枠外へのはみ出しを防止できる。   With the above configuration, when there is a zoom instruction, an image of interest in a subject image displayed as a moving image is automatically determined by image processing to obtain its position, and the previous zoom frame is superimposed and displayed on the image of interest. When the size of the zoom frame is not in the image of interest, the zoom frame can be manually changed in size and displayed, and it can be prevented from protruding outside the frame.

(4):ポイントより数フレーム前の画像をズームする例
図7はポイントより数フレーム前の画像をズームする例の説明図であり、図8はDRAM5のバッファ領域に取り込まれた複数の画像(この例では1秒間に8枚、2秒分の画像16枚)のうち、ポイントされた画像とズーム画像として保存記憶(記録)される画像の説明図である。
(4): Example of zooming an image several frames before the point FIG. 7 is an explanatory diagram of an example of zooming an image several frames before the point, and FIG. 8 shows a plurality of images captured in the buffer area of the DRAM 5 ( In this example, among the 8 images per second and 16 images for 2 seconds), it is an explanatory diagram of the pointed image and the image stored and recorded as a zoom image.

上記(1)〜(3)(図5(a)〜図5(c))の例では保存記憶時に枠内の画像をズーム画像として保存記憶したが、図7(b)に示すように撮影者が時刻T4に注目画像1−5をポイントしようとしても、人間は表示された被写体像を見てからポインティングデバイス9を操作するので、ポイント遅れを生じて図7(c)に示すように注目画像1−5が表示されるズーム枠90’とずれる場合がある(図7(b)→図7(c))。そこで、図8に示すように1回の動画撮影で撮影可能な画像数分(この例では16枚)の画像バッファ50−1〜50−16をDRAM5に確保し、所定時間t(=撮影時間間隔t(この例ではt=1/8秒))毎にバッファ50−1〜50−16に取り込むようにし、ポイント時のズーム枠及びズーム比率をポイントした時点のフレームより数枚分遡ったフレームの画像にフィードバックするようにする(図7(a)←図7(c))。
図9はポイントより数フレーム前の画像をポイント時のズーム画像とする場合のフレーミング動作例を示すフローチャートである。
In the above examples (1) to (3) (FIG. 5 (a) to FIG. 5 (c)), the image in the frame is saved and stored as a zoom image at the time of saving and storage, but as shown in FIG. Even if the person tries to point the attention image 1-5 at the time T4, the person operates the pointing device 9 after seeing the displayed subject image, so that the point is delayed and attention is paid as shown in FIG. There is a case that the zoom frame 90 ′ in which the image 1-5 is displayed is shifted (FIG. 7B → FIG. 7C). Therefore, as shown in FIG. 8, image buffers 50-1 to 50-16 corresponding to the number of images that can be captured by one moving image shooting (16 images in this example) are secured in the DRAM 5, and a predetermined time t (= shooting time). The frames are taken into the buffers 50-1 to 50-16 at intervals t (in this example, t = 1/8 seconds), and the frame is several frames earlier than the frame at the time of pointing the zoom frame at the point and the zoom ratio. The image is fed back (FIG. 7 (a) ← FIG. 7 (c)).
FIG. 9 is a flowchart showing an example of a framing operation when an image several frames before the point is used as a zoom image at the point.

ステップW1:(動画撮影モード選択)
図9で、デジタルカメラ100が起動されると制御部3は操作部4からの信号を監視し、撮影者が処理モード切替えスイッチ44で動画撮影モードを選択し、シャッターキー42を操作することにより動画撮影の開始を指示するとカウンタJの値を1としてW2に遷移する。
Step W1: (Movie shooting mode selection)
In FIG. 9, when the digital camera 100 is activated, the control unit 3 monitors the signal from the operation unit 4, and the photographer selects the moving image shooting mode with the processing mode switch 44 and operates the shutter key 42. When the start of moving image shooting is instructed, the value of the counter J is set to 1 and the process proceeds to W2.

ステップW2:(被写体画像の取り込み)
制御部3は撮像部2から送られる被写体画像(データ)を所定時間t毎にDRAM5に設けたバッファ50−jに取り込む。なお、jはカウンタjの値であり、t=1/(1分間の撮影可能な動画枚数)である。
Step W2: (Subject image capture)
The control unit 3 captures the subject image (data) sent from the imaging unit 2 into a buffer 50-j provided in the DRAM 5 every predetermined time t. Note that j is the value of the counter j, and t = 1 / (number of moving images that can be shot in one minute).

ステップW3:(動画画像表示)
制御部3は上記ステップW2でバッファ50−jに取り込んだ画像(データ)を表示部7に送り、画像メモリ上にイメージ展開して液晶画面70に表示する。
Step W3: (Video image display)
The control unit 3 sends the image (data) captured in the buffer 50-j in step W2 to the display unit 7, develops the image on the image memory, and displays it on the liquid crystal screen 70.

ステップW4:(ポインティングデバイスによるポイントの有無判定)
制御部3は液晶画面70がポイント(ポイントペン9の例では表示画面70にタッチ)されたか否かを位置(座標(x2、y2))信号受信の有無で監視している。
撮影者が液晶画面70に表示された被写体像をポイントするとその位置信号が制御部3に送られる。制御部3は位置信号を受け取るとW5に遷移する。また、ポイントがない場合には所定時間tだけこのステップを繰り返してポインティングデバイスによるポイント待ちを行い、所定時間tを経過した場合にはW7に遷移する。
Step W4: (Point presence / absence determination by pointing device)
The control unit 3 monitors whether or not the liquid crystal screen 70 is pointed (in the example of the point pen 9, the display screen 70 is touched) based on whether or not a position (coordinate (x2, y2)) signal is received.
When the photographer points to the subject image displayed on the liquid crystal screen 70, the position signal is sent to the control unit 3. When receiving the position signal, the control unit 3 makes a transition to W5. If there is no point, this step is repeated for a predetermined time t to wait for a point by the pointing device. If the predetermined time t has elapsed, the process proceeds to W7.

ステップW5:(ズーム枠の表示処理等(S5〜S10))
このステップでは図5(a)のステップS5〜S8と同様の処理、つまり、「位置(座標値)及び移動時間の取得」、「移動距離の算出」、「被写体像の速度の算出」を経て「ズーム比率の算出」を行い、算出されたズーム比率αで基準サイズのズーム枠を拡大(αc>1のとき)または縮小(1<αcのとき)し、「ズーム枠の表示」で画面にズームされた枠を被写体像と共に表示し、更に、「前回のポイント位置の座標値及び時刻の更新」で、取得した座標値(x2、y2)及び時刻T2でRAMに保持されている前回の座標値(x1、y1)及び時刻(T1)を更新(上書き記憶)し、RAMに保持されていた座標値(x2、y2)及び時刻(T2)をクリアする。
また、「ズーム枠の表示」の際、ポインティングデバイスによってポイントされた位置(座標)がズーム枠90の中心となる。つまり、図7(c)に示すように、ポイント遅れがあっても計算されたサイズのズーム枠90’がユーザによりポイントされた位置に表示される。
Step W5: (Zoom frame display processing, etc. (S5 to S10))
In this step, the same processing as steps S5 to S8 in FIG. 5A, that is, “acquisition of position (coordinate values) and moving time”, “calculation of moving distance”, “calculation of subject image speed” is performed. “Calculate the zoom ratio” is performed, and the zoom frame of the reference size is enlarged (when αc> 1) or reduced (when 1 <αc) with the calculated zoom ratio α, and “Display zoom frame” is displayed on the screen. The zoomed frame is displayed together with the subject image, and the coordinate values (x2, y2) acquired in the previous point position coordinate value and time update and the previous coordinate stored in the RAM at time T2 are displayed. The value (x1, y1) and the time (T1) are updated (overwritten), and the coordinate values (x2, y2) and the time (T2) held in the RAM are cleared.
In addition, the position (coordinates) pointed to by the pointing device becomes the center of the zoom frame 90 during “display of the zoom frame”. That is, as shown in FIG. 7C, even if there is a point delay, the calculated size of the zoom frame 90 ′ is displayed at the position pointed to by the user.

ステップW6:(今回のズーム枠情報の遡及画像への対応付け)
次に、制御部3は現在のフレーム数、つまり、上記ステップW2でのカウンタJの値jから所定数(この例では「3」)を差し引いた値iを求め、DRAM5のバッファ50−iに記憶されている画像を求め、上記ステップW5で得たズーム枠の位置(座標値)とズーム比率を求めた画像(つまり、バッファ50−iに記憶されている画像)と対応付けて記憶する。
Step W6: (Associating the current zoom frame information with the retroactive image)
Next, the control unit 3 obtains the current number of frames, that is, a value i obtained by subtracting a predetermined number (in this example, “3”) from the value j of the counter J at the above step W2, and stores it in the buffer 50-i of the DRAM 5. The stored image is obtained and stored in association with the position (coordinate value) of the zoom frame obtained in step W5 and the image for which the zoom ratio is obtained (that is, the image stored in the buffer 50-i).

ステップW7:(動画撮影枚数の判定等)
制御部3は撮影した動画の数を調べ、所定(図8の例では16枚)になった場合、又は撮影者が記録操作を行った場合にW8に遷移する。また、これ以外の場合には、カウンタJに1を加えてW2に遷移して次の画像の取り込みを行う。
Step W7: (Determination of the number of moving images shot, etc.)
The control unit 3 checks the number of captured moving images, and when it reaches a predetermined value (16 in the example of FIG. 8) or when a photographer performs a recording operation, the process proceeds to W8. In other cases, 1 is added to the counter J and the process proceeds to W2 to capture the next image.

ステップW8:(バッファに記憶された画像の保存記憶)
制御部3はDRAM5のバッファ50−1〜50−16に取り込まれている各画像に対応付けて記憶されているズーム枠の位置及びズーム比率に基づいて対応する部分の画像を順次取り出し、圧縮処理を施してフラッシュメモリ6に保存記憶する。これにより、ポイント時より数フレーム前の画像(図7(a))をポイントした位置のズーム画像として保存記憶することができる(図4(b))。
Step W8: (Saving and storing the image stored in the buffer)
The control unit 3 sequentially extracts the corresponding portion of the image based on the position of the zoom frame and the zoom ratio stored in association with each image captured in the buffers 50-1 to 50-16 of the DRAM 5, and performs compression processing. And stored in the flash memory 6. As a result, an image several frames before the point of time (FIG. 7A) can be stored and stored as a zoom image at the pointed position (FIG. 4B).

上記図9のフローチャートにより、図8で撮影者が注目画像1−4をポイントしようとしたがポイント遅れでズーム枠90’(図7(b))が表示されたときには注目画像1−5が表示されていても、3フレーム分前の注目画像1−1(図7(a))にズーム枠90のズーム比率α及び座標(x2、y2)を対応付けて記録できる。従って、再生時には、1フレーム目の動画はズームされた画像として再生表示される。   According to the flowchart of FIG. 9, when the photographer tries to point the attention image 1-4 in FIG. 8, but the zoom frame 90 ′ (FIG. 7B) is displayed with a point delay, the attention image 1-5 is displayed. Even in this case, the zoom ratio α and the coordinates (x2, y2) of the zoom frame 90 can be recorded in association with the target image 1-1 (FIG. 7A) three frames before. Therefore, at the time of reproduction, the moving image of the first frame is reproduced and displayed as a zoomed image.

4.他のフレーミング方法
以上、フレーミング方法の実施例の幾つかについて説明したが、ポインティングデバイスでズーム枠の位置(撮影エリア)をポイントして撮影する場合、ポインティングデバイスで画面に表示されている被写体の複数の箇所(つまり、複数の注目画像)をポイントするようにし、ポイントされた複数の部分にズーム枠を重畳表示し、1回の撮影で複数の動画(又は静止画)をズーム撮影するように構成することもできる。なお、複数の動画をズーム表示する場合は複数の注目画像の動きベクトルを求めて(又は、画像処理によりそれぞれの注目画像の位置を得て)各注目画像に追従してズーム枠の位置を変更するようにする。
4). Other Framing Methods While some of the embodiments of the framing method have been described above, when shooting with the pointing device pointing to the position of the zoom frame (shooting area), a plurality of subjects displayed on the screen with the pointing device Pointed to (that is, a plurality of images of interest), a zoom frame is superimposed on the pointed portions, and a plurality of moving images (or still images) are zoomed in one shooting. You can also When zooming in on multiple movies, obtain the motion vectors of multiple images of interest (or obtain the position of each image of interest through image processing) and change the position of the zoom frame following each image of interest. To do.

また、図5(a)及び図9のフローチャートでは動画撮影時にポインティングデバイスで画像をポイントしてその部分をズームして記録するように構成したが、撮影前に被写体の動きが分かっている場合には、撮影前にその動きに追従するようにポインティングデバイス等の位置指定手段で画面(タッチパネルキー)をポイントすると共にズームキー43のようなズーム量指定手段でズーム比率(ズーム量)を指定してその位置及びズーム比率をDRAM5又はフラッシュメモリ6のようなズーム位置設定手段に設定しておき、動画撮影時にズーム位置設定手段に設定されているズーム位置及びズーム比率を順次取り出して動画像のズーム位置及びズーム比率を順次変更してズーム枠を順次重畳表示し、記録時にこのズーム枠内の画像を上記ズーム位置及びズーム比率と対応付けて記録するように構成できる。撮影前に行うズーム位置の設定をポインティングデバイス等の位置指定手段で行う場合には実際の動きとは異なったズーム枠位置を指定することもでき、いわゆる面白さを演出することもできる。
なお、撮影前に被写体の動きが分かっている場合にズーム位置の設定を画像認識処理等の位置検出手段により撮影前に行って設定するようにしてもよい。この場合は実際の動きに忠実なズーム位置を設定することができる。
Further, in the flowcharts of FIGS. 5A and 9, the image is pointed by the pointing device at the time of moving image shooting and the portion is zoomed and recorded. However, when the movement of the subject is known before shooting. Point the screen (touch panel key) with a position specifying means such as a pointing device so as to follow the movement before shooting, and specify a zoom ratio (zoom amount) with a zoom amount specifying means such as the zoom key 43. The position and zoom ratio are set in the zoom position setting means such as the DRAM 5 or the flash memory 6, and the zoom position and zoom ratio set in the zoom position setting means at the time of moving image shooting are sequentially taken out to obtain the zoom position and zoom ratio of the moving image. The zoom ratio is changed sequentially, and the zoom frame is displayed in a superimposed manner. It can be configured to record in association with the over zoom position and the zoom ratio. When the zoom position setting before photographing is performed by position specifying means such as a pointing device, a zoom frame position different from the actual movement can be specified, and so-called fun can be produced.
If the movement of the subject is known before shooting, the zoom position may be set before shooting by position detection means such as image recognition processing. In this case, a zoom position faithful to the actual movement can be set.

また、各動画の動きベクトルを撮影時にフラッシュメモリ6に記録しておき、被写体が既に撮影してある動画の被写体と同じ動きをする場合には、その動画を指定してその動きベクトルをフラッシュメモリ6から取り出し、その動画の動きベクトルを用いて撮影中にズームするようにしてもよい。
また、上記各実施例の説明ではデジタルカメラを例としたが、ビデオカメラや電子スチルカメラでもよく、本発明の適用範囲はデジタルカメラに限定されない。
以上、本発明の一実施例について説明したが本発明は上記実施例に限定されるものではなく、種々の変形実施が可能であることはいうまでもない。
In addition, when the motion vector of each moving image is recorded in the flash memory 6 at the time of shooting and the subject moves in the same manner as the subject of the moving image already shot, the moving vector is designated and the motion vector is stored in the flash memory. 6 may be taken out and zoomed during shooting using the motion vector of the moving image.
In the description of each of the above embodiments, a digital camera is used as an example. However, a video camera or an electronic still camera may be used, and the scope of application of the present invention is not limited to a digital camera.
As mentioned above, although one Example of this invention was described, this invention is not limited to the said Example, It cannot be overemphasized that various deformation | transformation implementation is possible.

本発明のカメラの一実施例の構成を示すブロック図である。It is a block diagram which shows the structure of one Example of the camera of this invention. デジタルカメラの一実施例の外観を示す図である。It is a figure which shows the external appearance of one Example of a digital camera. 本発明のズーム撮影方法の概要説明図である。It is outline | summary explanatory drawing of the zoom imaging | photography method of this invention. フレーミングされた表示画像及び記録画像の説明図である。It is explanatory drawing of the display image and recording image which were framing. 動画撮影モード時のフレーミング動作の一実施例を示すフローチャートである。It is a flowchart which shows one Example of the framing operation | movement at the time of video recording mode. 動画再生モード時のフレーミング動作の説明図である。It is explanatory drawing of the framing operation | movement at the time of a moving image reproduction mode. ポイントより数フレーム前の画像をズームする例の説明図である。It is explanatory drawing of the example which zooms the image several frames before a point. ポイントされた画像とズーム画像として保存記憶(記録)される画像の説明図である。It is explanatory drawing of the image preserve | saved (recorded) as a pointed image and a zoom image. ポイントより数フレーム前の画像をポイント時のズーム画像とする場合のフレーミング動作例を示すフローチャートである。It is a flowchart which shows the example of framing operation | movement in case the image several frames before a point is made into the zoom image at the time of a point.

符号の説明Explanation of symbols

1 注目画像
2 撮像部(撮像手段)
3 制御部(表示制御手段、ズーム位置変更手段、移動量検出手段、ズーム量変更制御手段、移動速度算出手段、ズーム位置変更制御手段、保存記録制御手段、位置検出手段)
4 操作部(位置指定手段、ズーム量指定手段)
5 一次メモリ(DRAM(記憶手段、ズーム位置設定手段))
6 保存メモリ(フラッシュメモリ(保存記録手段、ズーム位置設定手段))
7 表示部(表示手段)
9 ポイントペン(位置指定手段)
43 ズームキー(ズーム量指定手段)
70 液晶画面(画面)
90,90’90” ズーム枠
100 デジタルカメラ(電子カメラ)
1 Image of interest 2 Imaging unit (imaging means)
3 Control unit (display control means, zoom position change means, movement amount detection means, zoom amount change control means, movement speed calculation means, zoom position change control means, storage recording control means, position detection means)
4 Operation part (position designation means, zoom amount designation means)
5 Primary memory (DRAM (storage means, zoom position setting means))
6 Storage memory (flash memory (storage recording means, zoom position setting means))
7 Display section (display means)
9 Point pen (position designation means)
43 Zoom key (Zoom amount designation means)
70 LCD screen (screen)
90, 90'90 "Zoom frame 100 Digital camera (electronic camera)

Claims (5)

被写体像を順次撮像する撮像手段と、
この撮像手段から順次出力される動画像内の注目画像を検出する注目画像検出手段と、
この注目画像検出手段により検出された注目画像の位置を検出する位置検出手段と、
この位置検出手段により検出される注目画像の位置の変化量に基づいてズーム量を変更するズーム量変更制御手段と、
前記位置検出手段により検出される注目画像の位置に基づいてズーム位置を変更するズーム位置変更制御手段と、を備え、
前記ズーム位置変更制御手段は、前記ズーム位置の中心が前記注目画像の中心位置となるようにズーム位置を変更し、
前記ズーム量変更制御手段は、前記注目画像に対してズーム量を変更することを特徴とする電子カメラ。
Imaging means for sequentially capturing subject images;
Attention image detection means for detecting attention images in a moving image sequentially output from the imaging means ;
Position detection means for detecting the position of the attention image detected by the attention image detection means;
Zoom amount change control means for changing the zoom amount based on the change amount of the position of the target image detected by the position detection means;
Zoom position change control means for changing the zoom position based on the position of the image of interest detected by the position detection means ,
The zoom position change control means changes the zoom position so that the center of the zoom position becomes the center position of the attention image,
The electronic camera according to claim 1, wherein the zoom amount change control unit changes a zoom amount with respect to the attention image .
前記ズーム量変更制御手段は、前記動画像における各フレームの切り出しサイズの変更に基づいてズーム量を変更することを特徴とする請求項1に記載の電子カメラ。The electronic camera according to claim 1, wherein the zoom amount change control unit changes the zoom amount based on a change in a cutout size of each frame in the moving image. 前記ズーム位置変更制御手段は、前記動画像における各フレームの切り出し位置の変更に基づいてズーム位置を変更することを特徴とする請求項1または2に記載の電子カメラ。3. The electronic camera according to claim 1, wherein the zoom position change control unit changes the zoom position based on a change in a cutout position of each frame in the moving image. 前記位置検出手段は、前記注目画像検出手段により検出された注目画像の少なくとも中心の位置を検出し、The position detecting means detects a position of at least the center of the attention image detected by the attention image detection means;
前記ズーム位置変更制御手段は、前記位置検出手段により検出された前記注目画像の中心の位置に基づいて前記ズーム位置の中心が前記注目画像の中心位置となるようにズーム位置を変更することを特徴とする請求項1から3の何れかに記載の電子カメラ。The zoom position change control means changes the zoom position so that the center of the zoom position becomes the center position of the attention image based on the position of the center of the attention image detected by the position detection means. The electronic camera according to any one of claims 1 to 3.
撮像手段から順次出力される動画像内の注目画像を検出する注目画像検出工程と、An attention image detection step of detecting an attention image in a moving image sequentially output from the imaging means;
この注目画像検出工程で検出された注目画像の位置を検出する位置検出工程と、A position detection step for detecting the position of the target image detected in the target image detection step;
この位置検出工程で検出される注目画像の位置の変化量に基づいてズーム量を変更するズーム量変更工程と、A zoom amount changing step for changing the zoom amount based on the amount of change in the position of the target image detected in the position detecting step;
前記位置検出工程で検出される注目画像の位置に基づいてズーム位置を変更するズーム位置変更工程と、を有し、A zoom position changing step for changing the zoom position based on the position of the image of interest detected in the position detecting step,
前記ズーム位置変更工程は、前記ズーム位置の中心が前記注目画像の中心位置となるようにズーム位置を変更し、The zoom position changing step changes the zoom position so that the center of the zoom position becomes the center position of the attention image,
前記ズーム量変更工程は、前記注目画像に対してズーム量を変更することを特徴とする電子ズーム方法。The electronic zoom method according to claim 1, wherein the zoom amount changing step changes a zoom amount with respect to the attention image.
JP2005307261A 2005-10-21 2005-10-21 Electronic camera and electronic zoom method Expired - Fee Related JP3962871B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005307261A JP3962871B2 (en) 2005-10-21 2005-10-21 Electronic camera and electronic zoom method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005307261A JP3962871B2 (en) 2005-10-21 2005-10-21 Electronic camera and electronic zoom method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2000215487A Division JP3750499B2 (en) 2000-07-17 2000-07-17 Electronic camera

Publications (2)

Publication Number Publication Date
JP2006115525A JP2006115525A (en) 2006-04-27
JP3962871B2 true JP3962871B2 (en) 2007-08-22

Family

ID=36383553

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005307261A Expired - Fee Related JP3962871B2 (en) 2005-10-21 2005-10-21 Electronic camera and electronic zoom method

Country Status (1)

Country Link
JP (1) JP3962871B2 (en)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4752685B2 (en) * 2006-08-31 2011-08-17 カシオ計算機株式会社 Imaging apparatus and program
JP4293236B2 (en) 2006-12-20 2009-07-08 ソニー株式会社 Imaging apparatus and imaging method
JP2008278480A (en) * 2007-04-02 2008-11-13 Sharp Corp Photographing apparatus, photographing method, photographing apparatus control program and computer readable recording medium with the program recorded thereon
US8111942B2 (en) 2008-02-06 2012-02-07 O2Micro, Inc. System and method for optimizing camera settings
JP4999760B2 (en) * 2008-04-07 2012-08-15 キヤノン株式会社 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, PROGRAM, AND RECORDING MEDIUM
US8134597B2 (en) * 2008-12-05 2012-03-13 Sony Ericsson Mobile Communications Ab Camera system with touch focus and method
JP2010147925A (en) * 2008-12-19 2010-07-01 Sanyo Electric Co Ltd Imaging apparatus
US9661232B2 (en) * 2010-08-12 2017-05-23 John G. Posa Apparatus and method providing auto zoom in response to relative movement of target subject matter
JP5872981B2 (en) * 2012-08-02 2016-03-01 オリンパス株式会社 Shooting equipment, moving body shooting method, shooting program
US9551779B2 (en) * 2013-01-04 2017-01-24 Yariv Glazer Controlling movements of pointing devices according to movements of objects
JP6153354B2 (en) 2013-03-15 2017-06-28 オリンパス株式会社 Photographing equipment and photographing method

Also Published As

Publication number Publication date
JP2006115525A (en) 2006-04-27

Similar Documents

Publication Publication Date Title
JP3962871B2 (en) Electronic camera and electronic zoom method
JP4510713B2 (en) Digital camera
JP4250543B2 (en) Imaging apparatus, information processing apparatus, and control method thereof
US6919927B1 (en) Camera with touchscreen
JP3695119B2 (en) Image synthesizing apparatus and recording medium storing program for realizing image synthesizing method
JP3750499B2 (en) Electronic camera
JPH10240436A (en) Information processor and recording medium
JP2012049651A (en) Imaging apparatus and imaging method
KR20110100232A (en) Information display apparatus, information display method and recording medium
JP2007074031A (en) Imaging device, and image processing apparatus and method therefor
JP2009225027A (en) Imaging apparatus, imaging control method, and program
WO2023185683A1 (en) Macro photographing method, electronic device and computer-readable storage medium
JP4992215B2 (en) Imaging apparatus and program
JP5785038B2 (en) Photography equipment
JP4906632B2 (en) Image processing apparatus, image processing method, and image processing program
JP2007049371A (en) Digital camera and method for controlling to display photographed image
JP5694097B2 (en) Photography equipment
JP5965037B2 (en) Photography equipment
JP7001087B2 (en) Imaging device
JP5021370B2 (en) Imaging apparatus, display method, and program
JP2013207634A (en) Imaging apparatus
JP2008065851A (en) Information processing apparatus and recording medium
JP4095372B2 (en) Video recording device
JP5289354B2 (en) Imaging device
JP4408397B2 (en) Imaging apparatus, imaging method, and program

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060705

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070424

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070507

R150 Certificate of patent or registration of utility model

Ref document number: 3962871

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110601

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120601

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120601

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130601

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees