JP2007325129A - Imaging apparatus, control method of imaging apparatus, program, and storage medium - Google Patents

Imaging apparatus, control method of imaging apparatus, program, and storage medium Download PDF

Info

Publication number
JP2007325129A
JP2007325129A JP2006155398A JP2006155398A JP2007325129A JP 2007325129 A JP2007325129 A JP 2007325129A JP 2006155398 A JP2006155398 A JP 2006155398A JP 2006155398 A JP2006155398 A JP 2006155398A JP 2007325129 A JP2007325129 A JP 2007325129A
Authority
JP
Japan
Prior art keywords
video signal
memory means
signal output
imaging apparatus
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006155398A
Other languages
Japanese (ja)
Other versions
JP2007325129A5 (en
JP4671429B2 (en
Inventor
Yoshinori Watanabe
喜則 渡辺
Yoshihiro Honma
義浩 本間
Yoshinobu Sato
佳宣 佐藤
Masato Kosugi
真人 小杉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2006155398A priority Critical patent/JP4671429B2/en
Publication of JP2007325129A publication Critical patent/JP2007325129A/en
Publication of JP2007325129A5 publication Critical patent/JP2007325129A5/ja
Application granted granted Critical
Publication of JP4671429B2 publication Critical patent/JP4671429B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a camera shake detecting function achievable with the small number of frame memories. <P>SOLUTION: An imaging apparatus is provided with an imaging means for picking up a subject image and outputting video signals; a first memory means for temporarily storing the video images from the imaging means; a second memory means for receiving the successively inputted video signals stored in the first memory means, and storing composite video signals to be successively generated so as to be composited with the previously stored video signals; and a detecting means for detecting deviation quantity between the two video signals, i.e. between the video signals stored in the first memory means and the composite video signals stored in the second memory means. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、手ぶれ検出を行い、手ぶれ補正を可能とする撮像装置、撮像装置の制御方法、プログラム及び記憶媒体に関する。   The present invention relates to an imaging apparatus that detects camera shake and enables camera shake correction, a control method for the imaging apparatus, a program, and a storage medium.

従来から、デジタルカメラ等の撮像装置において、複数のフレーム画像を撮影し、フレーム画像間の相関を取ることで、手ぶれによる移動量を検出することが知られている。この場合、この検出結果を基に複数のフレーム画像をずらしながら合成し、手ぶれによる画像のぶれを補正する電子手ぶれ補正処理を行う。この種の電子手ぶれ補正処理は、特に光学手ぶれ補正方式とは異なり、光学駆動部を必要としないため、撮像装置の小型化が可能である。   2. Description of the Related Art Conventionally, it is known that an imaging device such as a digital camera captures a plurality of frame images and obtains a correlation between the frame images to detect a movement amount due to camera shake. In this case, based on this detection result, a plurality of frame images are combined while being shifted, and electronic camera shake correction processing is performed to correct image blur due to camera shake. This type of electronic camera shake correction processing does not require an optical drive unit, unlike the optical camera shake correction method in particular, so that the image pickup apparatus can be downsized.

例えば図10に示すように、撮像装置が第1メモリ200と第2メモリ202を備える。そして、演算部201により、連続して撮影してそれぞれ第1メモリ200、第2メモリ202に蓄積されたフレーム画像(203)間の特徴的な領域における動きベクトルを検出する。かくして検出された動きベクトルは、動きベクトル出力部204より出力される。そして図11に示すように、検出結果である動きベクトルに基づき、順次取り込まれるフレーム画像を、手ぶれ方向とは逆方向にズラしながら加算処理をしていく。それにより、手ぶれ補正処理されたフレーム画像を合成用メモリ205に得ることができる発明が特許文献1に開示されている。   For example, as illustrated in FIG. 10, the imaging apparatus includes a first memory 200 and a second memory 202. Then, the arithmetic unit 201 detects motion vectors in characteristic areas between the frame images (203) that are continuously shot and stored in the first memory 200 and the second memory 202, respectively. The motion vector thus detected is output from the motion vector output unit 204. Then, as shown in FIG. 11, based on the motion vector that is the detection result, the frame images that are sequentially captured are subjected to addition processing while shifting in the direction opposite to the direction of camera shake. Thus, Patent Document 1 discloses an invention in which a frame image subjected to camera shake correction processing can be obtained in the compositing memory 205.

また、図10で説明した電子手ぶれ補正処理では、複数のフレームメモリを必要とする。また、図12に示すように、1フレームよりも広いフレームメモリ領域を持つメモリ300を備えることも考えられる。この場合、移動量検出装置による手ぶれ移動情報をもとに順次取り込まれるフレーム画像データをずらしながら重ね合わせることにより、手ぶれ補正処理を可能とする。このような、合成用のメモリ1つで手ぶれ補正処理可能な発明も特許文献2に開示されている。
特開2005−033785号公報 特開2005−328326号公報
Further, the electronic camera shake correction process described with reference to FIG. 10 requires a plurality of frame memories. In addition, as shown in FIG. 12, it may be possible to provide a memory 300 having a frame memory area wider than one frame. In this case, camera shake correction processing can be performed by superimposing the frame image data sequentially captured based on the camera shake movement information by the movement amount detection device while shifting them. Such an invention capable of performing camera shake correction processing with one compositing memory is also disclosed in Patent Document 2.
JP 2005-033785 A JP 2005-328326 A

しかしながら特許文献1では、手ぶれ検出するためには、時間的に前後するフレーム画像を記憶する必要があるため、手ぶれ検出のために、少なくとも2つのフレームメモリと、加算処理回路及び補正結果を格納する合成用のフレームメモリが必要となる。   However, in Patent Document 1, in order to detect camera shake, it is necessary to store frame images moving back and forth in time. Therefore, at least two frame memories, an addition processing circuit, and a correction result are stored for camera shake detection. A frame memory for synthesis is required.

また特許文献2では移動量検出装置を用いることで合成用のフレームメモリを1つで手ぶれ補正を実現しているが、移動量検出に機械装置を用いているため装置の小型化に限界がある。また特許文献2で移動量検出装置を用いずに、手ぶれ検出に時間的に前後するフレーム画像を使用する場合は、従来の発明同様、手ぶれを検出するための2つのフレームメモリと合成画像を格納するフレームメモリを持つ必要がある。   In Patent Document 2, camera shake correction is realized by using a single frame memory for synthesis by using a movement amount detection device. However, since a mechanical device is used for movement amount detection, there is a limit to downsizing of the device. . In addition, when using a frame image that moves back and forth in camera shake detection without using a movement amount detection device in Patent Document 2, two frame memories for detecting camera shake and a composite image are stored as in the conventional invention. It is necessary to have a frame memory.

従って、本発明は、撮像装置において、少ない数のフレームメモリで実現可能な手ぶれ検出機能を提供することを目的とする。   Accordingly, an object of the present invention is to provide a camera shake detection function that can be realized with a small number of frame memories in an imaging apparatus.

上記の目的を達成するために、本発明の実施形態における撮像装置は、被写体像を撮像し映像信号を出力する撮像手段と、
前記撮像手段からの前記映像信号を一時的に蓄積する第1メモリ手段と、
前記第1メモリ手段に蓄積された前記映像信号が順次入力され、先に蓄積した映像信号に合成して順次生成される合成映像信号を蓄積する第2メモリ手段と、
前記第1メモリ手段に蓄積されている前記映像信号と前記第2メモリ手段に蓄積されている前記合成映像信号との間で2つの映像信号間のズレ量を検出する検出手段と、を備える、ことを特徴とする。
In order to achieve the above object, an imaging apparatus according to an embodiment of the present invention includes an imaging unit that captures a subject image and outputs a video signal;
First memory means for temporarily storing the video signal from the imaging means;
Second video means for sequentially storing the video signals stored in the first memory means, and synthesizing the video signals generated in advance and synthesizing the video signals.
Detecting means for detecting a shift amount between two video signals between the video signal stored in the first memory means and the synthesized video signal stored in the second memory means; It is characterized by that.

上記の目的を達成するために、本発明の他の実施形態における撮像装置の制御方法は、
被写体像を撮像し映像信号を出力する撮像工程と、
前記撮像工程で取得した前記映像信号を第1メモリ手段に一時的に蓄積する第1蓄積工程と、
前記第1メモリ手段に蓄積された前記映像信号が順次入力され、先に蓄積した映像信号に合成して順次生成される合成映像信号を第2メモリ手段に蓄積する第2蓄積工程と、
前記第1メモリ手段に蓄積されている前記映像信号と前記第2メモリ手段に蓄積されている前記合成映像信号との間で2つの映像信号間のズレ量を検出する検出検出工程と、を備える、ことを特徴とする。
In order to achieve the above object, a method for controlling an imaging apparatus according to another embodiment of the present invention includes:
An imaging process for capturing a subject image and outputting a video signal;
A first accumulation step of temporarily accumulating the video signal acquired in the imaging step in a first memory means;
A second storage step for sequentially storing the video signals stored in the first memory means and combining the previously stored video signals and sequentially generating a composite video signal generated in the second memory means;
A detection detecting step of detecting a shift amount between two video signals between the video signal stored in the first memory means and the synthesized video signal stored in the second memory means. It is characterized by that.

上記の目的を達成するために、本発明の、さらに他の実施形態においては、前記実施形態の撮像装置の制御方法の手順が記述されたコンピュータで実行可能なプログラムを提供する。   In order to achieve the above object, in yet another embodiment of the present invention, a computer-executable program is described in which a procedure of a control method for an imaging apparatus according to the above embodiment is described.

上記の目的を達成するために、本発明の、さらに他の実施形態においては、前記実施形態の撮像装置の制御方法の手順が記述されたプログラムが記憶されたコンピュータ可読記憶媒体を提供する。   In order to achieve the above object, in yet another embodiment of the present invention, there is provided a computer readable storage medium storing a program in which a procedure of a control method of an imaging apparatus of the above embodiment is described.

本発明によれば、撮像装置において、少ない数のフレームメモリで手ぶれ検出機能を実現することが可能となる。   According to the present invention, it is possible to realize a camera shake detection function with a small number of frame memories in an imaging apparatus.

<実施形態1>
図1は、本発明の実施形態1における撮像装置のブロック図を示す。また図5は、実施形態1の撮像装置における手ぶれ検出部9とウィンドウ制御部7の処理手順を示したフローチャートである。また図8は合成演算部8の処理手順を示したフローチャートである。
<Embodiment 1>
FIG. 1 is a block diagram of an imaging apparatus according to Embodiment 1 of the present invention. FIG. 5 is a flowchart illustrating processing procedures of the camera shake detection unit 9 and the window control unit 7 in the imaging apparatus according to the first embodiment. FIG. 8 is a flowchart showing the processing procedure of the composition calculation unit 8.

図1において、結像光学部1を通って入射した被写体像を、撮像部2の有する撮像素子で電気信号に光電変換する。A/D変換部3は、撮像部1から出力される映像信号をデジタル画像データに変換するものである。信号処理部4は、A/D変換部3から出力される画像データを後述の手ブレ検出部9において使用するYUVデータ形式の画像データに変換するため、ホワイトバランス回路、ガンマ補正回路、マトリクス変換回路等を含む。信号処理部4から出力される画像データは、メモリI/F5を介して一時的にメモリ部6に保存される。ここで、図2に示すように、メモリ部6は、フレームメモリ領域6−1と、合成処理用フレームメモリ領域6−2の少なくとも2つの記憶領域を有する。本実施形態1においては、合成処理用フレームメモリ領域6−2はフレームメモリ領域6−1より広い記憶領域が設定される。   In FIG. 1, a subject image that has entered through the imaging optical unit 1 is photoelectrically converted into an electrical signal by an imaging element of the imaging unit 2. The A / D conversion unit 3 converts the video signal output from the imaging unit 1 into digital image data. The signal processing unit 4 converts the image data output from the A / D conversion unit 3 into image data in a YUV data format used in a camera shake detection unit 9 to be described later, so that a white balance circuit, a gamma correction circuit, a matrix conversion Including circuits. Image data output from the signal processing unit 4 is temporarily stored in the memory unit 6 via the memory I / F 5. Here, as shown in FIG. 2, the memory unit 6 has at least two storage areas, a frame memory area 6-1 and a frame memory area 6-2 for synthesis processing. In the first embodiment, a storage area wider than the frame memory area 6-1 is set in the frame memory area 6-2 for synthesis processing.

またフレームメモリ領域6−1には撮像枚数をNとしたとき、N枚目の画像データが記憶されており、合成処理用フレームメモリ領域6−2にはN−1枚目までの複数の画像データが合成された合成画像データが記憶されている。手ぶれ検出部9は、メモリ部6のフレームメモリ領域6−1に記憶されているN枚目の画像データと合成処理用フレームメモリ領域6−2に記憶されている合成画像データからN−1枚目の画像データの領域部分を抽出する。このように抽出した画像データから、手ぶれによる画像データの画像の移動量が求められる。   The frame memory area 6-1 stores N-th image data when the number of captured images is N, and the composition processing frame memory area 6-2 includes a plurality of images up to the (N-1) th image. Composite image data obtained by combining the data is stored. The camera shake detection unit 9 includes N−1 sheets from the Nth image data stored in the frame memory area 6-1 of the memory unit 6 and the combined image data stored in the frame memory area 6-2 for combination processing. Extract the region of the eye image data. From the image data extracted in this way, the amount of image movement of the image data due to camera shake is obtained.

画像データの手ぶれ量の検出方法は、基本的に動きベクトルを検出するもので、まず画面を複数の領域に分割し、それぞれの領域ごとの局所的な移動量の平均化等の統計的処理により、画面全体の移動量を求め、撮像装置の手ぶれ量を決定する。このとき手ぶれ検出部9に入力されるN−1枚目の画像データは合成画像データから抜き出すため、N枚目の画像データと輝度レベルが異なる。   The method for detecting the amount of camera shake in image data is basically to detect motion vectors. First, the screen is divided into multiple regions, and statistical processing such as local movement amount averaging for each region is performed. Then, the amount of movement of the entire screen is obtained, and the amount of camera shake of the imaging device is determined. At this time, since the (N-1) th image data input to the camera shake detection unit 9 is extracted from the composite image data, the brightness level is different from that of the Nth image data.

したがって、このように、合成画像データが、信号レベルを考慮せずに、単に信号の合成る合成画像データの場合には、抜き出されるN−1枚目の画像データは1/(N-1)倍に信号レベルが下げられてから手ぶれ検出部9に入力される。以上の動作について、図2で説明すると、N枚目の画像データがフレームメモリ領域6−1から、メモリI/F5を介し、手ぶれ検出部9に入力される。一方、合成処理用フレームメモリ領域6−2領域からのN−1枚目の画像データは、メモリI/F5を介し、さらに信号レベル調整部18を介して手ぶれ検出部9に入力される。信号レベル調整部18は、N−1枚目の画像データの信号レベルを1/(N-1)倍に下げてから、手ぶれ検出部9に入力される。信号レベル調整部18は、CPU13からのレベル制御信号にしたがって、信号レベルを調整する機能を有する。   Therefore, in this way, when the composite image data is composite image data in which signals are simply combined without considering the signal level, the (N−1) th image data to be extracted is 1 / (N−1). ) After the signal level is lowered by a factor of 2, it is input to the camera shake detection unit 9. The above operation will be described with reference to FIG. 2. The Nth image data is input from the frame memory area 6-1 to the camera shake detection unit 9 via the memory I / F 5. On the other hand, the (N−1) th image data from the synthesis processing frame memory area 6-2 is input to the camera shake detection unit 9 via the memory I / F 5 and further via the signal level adjustment unit 18. The signal level adjustment unit 18 lowers the signal level of the (N−1) th image data by 1 / (N−1) times before being input to the camera shake detection unit 9. The signal level adjustment unit 18 has a function of adjusting the signal level according to the level control signal from the CPU 13.

このように信号レベルが合された2つの画像データとの間で手ぶれ検出が実行される。手ぶれ検出部9で求めた手ぶれによる画像データの移動情報はCPU13へ送られる。この移動情報に基づき、ウィンドウ制御部7は、メモリI/F5を介してメモリ部6の合成処理用フレームメモリ領域6−2領域にN枚目の画像データが重ねられるメモリ記憶領域を示すウィンドウを設定する(ウィンドウWin-A)。また合成画像データの全領域を示すウィンドウもウィンドウ制御部7が設定する(ウィンドウWin-B)。以上の動作について、図3で説明すると、合成演算部8は、機能的に信号レベル調整部19と加算部20を有し、N枚目の画像データがフレームメモリ領域6−1から、メモリI/F5を介して合成演算部8に入力される。一方、合成処理用フレームメモリ領域6−2領域からのN−1枚目の画像データもメモリI/F5を介して合成演算部8に入力される。この2つの画像データを加算するにあたり、合成処理用フレームメモリ領域6−2領域からのN−1枚目の画像データは信号レベル変換部19で信号レベルが1/(N-1)倍に変換されて、加算部20に入力される。このことで、合成される2つの画像データの信号レベルが合され、合成された画像データは、加算部20からメモリI/F5を介してメモリ部6の合成処理用フレームメモリ領域6−2領域に再び書込まれる。   In this way, camera shake detection is performed between the two image data with the signal levels combined. The movement information of the image data due to the camera shake obtained by the camera shake detection unit 9 is sent to the CPU 13. Based on this movement information, the window control unit 7 displays a window indicating a memory storage area in which the Nth image data is overlaid on the composition processing frame memory area 6-2 of the memory unit 6 via the memory I / F 5. Set (Window Win-A). The window controller 7 also sets a window indicating the entire area of the composite image data (window Win-B). The above operation will be described with reference to FIG. 3. The synthesis calculation unit 8 functionally includes a signal level adjustment unit 19 and an addition unit 20, and the Nth image data is transferred from the frame memory area 6-1 to the memory I. It is input to the composition calculation unit 8 via / F5. On the other hand, the (N−1) th image data from the composition processing frame memory area 6-2 is also input to the composition calculation unit 8 via the memory I / F 5. In adding these two image data, the signal level conversion unit 19 converts the signal level of the (N−1) -th image data from the frame memory area 6-2 for composition processing to 1 / (N−1) times. And input to the adder 20. As a result, the signal levels of the two image data to be combined are combined, and the combined image data is sent from the adder 20 via the memory I / F 5 to the frame memory area 6-2 for combining processing in the memory section 6. Will be written again.

図1の説明にもどるが、図1の実施形態の撮像装置は、さらに、表示制御部10、表示I/F11及び表示部12を備える。したがって、表示部12により、撮影前の画像及び撮影されてメモリ部6に蓄積された画像データを見ることが可能である。また、CPU13を動作させるために、各種プログラムが格納されたROM14、さらに、CPU13の動作のワークメモリとしてのRAM15を備える。また、ユーザが行う、各種の調整、切り換え、シャッタ操作等をおこなう操作部17が、操作入力I/F16を介してCPU13に結合され、ROM14に格納されたプログラムに従って撮像装置は動作する。操作関係に限られることなく、各種の信号処理、また本発明の実施形態に係る動作もCPU13により制御することが可能である。さらに、フラッシュメモリ等で構成される着脱可能なメモリカード30を備え、メモリ部6に蓄積された画像データを順次蓄積することが可能に構成されている。   Returning to the description of FIG. 1, the imaging apparatus of the embodiment of FIG. 1 further includes a display control unit 10, a display I / F 11, and a display unit 12. Therefore, it is possible to view the pre-photographed image and the image data captured and stored in the memory unit 6 by the display unit 12. Further, in order to operate the CPU 13, a ROM 14 in which various programs are stored and a RAM 15 as a work memory for the operation of the CPU 13 are provided. An operation unit 17 that performs various adjustments, switching, shutter operations, and the like performed by the user is coupled to the CPU 13 via the operation input I / F 16, and the imaging apparatus operates according to a program stored in the ROM 14. The CPU 13 can control various signal processing and operations according to the embodiment of the present invention without being limited to the operation relationship. Further, the detachable memory card 30 composed of a flash memory or the like is provided, and the image data stored in the memory unit 6 can be sequentially stored.

図4に、メモリ部6のフレームメモリ領域6−1と、合成処理用フレームメモリ領域6−2に設定される2つのウィンドウの動作を説明するためのイメージ図を示す。まず、図4のフレームメモリ領域6−1において、(a)と(b)に示すように、撮像され、記憶された1枚目(N=1)の画像データは、フレームメモリ領域6−1から合成処理用フレームメモリ領域6−2に格納される。格納記憶領域は先に設定されたウィンドウWin-Aで決定される。   FIG. 4 is an image diagram for explaining the operation of two windows set in the frame memory area 6-1 of the memory unit 6 and the frame memory area 6-2 for composition processing. First, as shown in FIGS. 4A and 4B, the first (N = 1) image data captured and stored in the frame memory area 6-1 in FIG. 4 is stored in the frame memory area 6-1. To the synthesis processing frame memory area 6-2. The storage area is determined by the previously set window Win-A.

次に、(b)に示すように、2回目の撮像で得られた2枚目(N=2)の画像データがフレームメモリ領域6−1に記憶される。次に、(b)のフレームメモリ領域6−1に記憶された2枚目の画像データと、合成処理用フレームメモリ領域6−2の(d)に示すウィンドウWin-A内の画像データとで手ぶれ検出処理が行われる。この検出処理結果に基づいて、合成処理用フレームメモリ領域6−2の(e)に示すように、ウィンドウWin-Aの位置が手ぶれ補正処理される方向にずらされる。また、ウィンドウWin-Aのズレに追従してウィンドウWin-Bも図で実線で示すように領域が広げられる。   Next, as shown in (b), the second (N = 2) image data obtained by the second imaging is stored in the frame memory area 6-1. Next, with the second image data stored in the frame memory area 6-1 in (b) and the image data in the window Win-A shown in (d) of the frame memory area 6-2 for composition processing. A camera shake detection process is performed. Based on this detection processing result, the position of the window Win-A is shifted in the direction in which camera shake correction processing is performed, as shown in (e) of the frame memory area 6-2 for composition processing. Further, following the shift of window Win-A, the area of window Win-B is expanded as shown by the solid line in the figure.

つぎに、合成処理用フレームメモリ領域6−2の(e)のウィンドウWin-Aに、フレームメモリ領域6−1の(b)に格納されている2枚目の画像データが重ね合わされる。このときの重ね合わせについては後述の合成処理方法で詳細を説明する。   Next, the second image data stored in (b) of the frame memory area 6-1 is superimposed on the window Win-A of (e) in the frame memory area 6-2 for composition processing. Details of the superposition at this time will be described in a later-described synthesis processing method.

次に、フレームメモリ領域6−1の(c)に示すように、3回目の撮像で得られた3枚目(N=3)の画像データがフレームメモリ領域6−1に記憶される。そして、フレームメモリ領域6−1の(c)の3枚目の画像データと、合成処理用フレームメモリ領域6−2の(e)のウィンドウWin-A内の画像データとで手ぶれ検出処理が行われる。この検出処理結果に基づき、合成処理用フレームメモリ領域6−2の(f)に示すように、ウィンドウWin-Aの位置がずらされる。また、このウィンドウWin-Aのズレに追従してウィンドウWin-Bも領域が広げられる。そして、合成処理用フレームメモリ領域6−2の(f)のウィンドウWin-Aに、フレームメモリ領域6−1の(c)に格納されている3枚目の画像データが重ね合わされる。以降、ユーザが設定した露光の回数のN回が終わるまで同様の処理が行われる。図4において、フレームメモリ領域6−1及び合成処理用フレームメモリ領域6−2には、あたかも、それぞれ3フレーム分の記憶領域が設定される図となっている。しかしながら、これは、動作の説明のためであって、基本的に、フレームメモリ領域6−1及び合成処理用フレームメモリ領域6−2には、図2、3で示すように1フレーム分の記憶領域が設定されている。   Next, as shown in (c) of the frame memory area 6-1, the third (N = 3) image data obtained by the third imaging is stored in the frame memory area 6-1. Then, camera shake detection processing is performed using the third image data (c) in the frame memory area 6-1 and the image data in the window Win-A (e) in the frame memory area 6-2 for composition processing. Is called. Based on this detection processing result, the position of the window Win-A is shifted as shown in (f) of the frame memory area 6-2 for composition processing. In addition, the area of window Win-B is expanded following the shift of window Win-A. Then, the third image data stored in (c) of the frame memory area 6-1 is superimposed on the window Win-A of (f) in the frame memory area 6-2 for composition processing. Thereafter, the same processing is performed until N exposure times set by the user are completed. In FIG. 4, storage areas for three frames are set in the frame memory area 6-1 and the composition processing frame memory area 6-2, respectively. However, this is for explanation of the operation. Basically, the frame memory area 6-1 and the frame memory area for synthesis processing 6-2 store one frame as shown in FIGS. The area is set.

次に、図5および図6を用いて本発明の実施形態1における撮像装置のウィンドウ制御部7の処理手順を説明する。   Next, a processing procedure of the window control unit 7 of the imaging apparatus according to the first embodiment of the present invention will be described with reference to FIGS. 5 and 6.

まず図6について説明するが、図6はメモリ部6の合成処理用フレームメモリ領域6−2のメモリ記憶領域をイメージ化した図である。   First, FIG. 6 will be described. FIG. 6 is an image of the memory storage area of the synthesis processing frame memory area 6-2 in the memory unit 6. FIG.

メモリ部6の合成処理用フレームメモリ領域6−2の記憶領域にはウィンドウ制御部7によって2つのウィンドウが設定される。1つのウィンドウは、手ぶれ検出処理結果をもとにN−1枚目の画像データとズラして重ねられるN枚目の画像データの領域を示すウィンドウで、本実施形態1ではウィンドウWin-Aとして明示している。また、もう1つのウィンドウは、合成画像データの領域を示すウィンドウで、本実施形態ではウィンドウWin-Bとして明示している。このWin-Bは、N枚目の画像データが重ねられることで合成画像データの領域が広がると、実線で示すように、それに合わせて領域のサイズが変更されるウィンドウである。   Two windows are set by the window control unit 7 in the storage area of the frame memory area 6-2 for composition processing in the memory unit 6. One window is a window showing an area of the Nth image data that is overlapped with the (N-1) th image data based on the camera shake detection processing result. In the first embodiment, the window is a window Win-A. It is clearly stated. The other window is a window indicating the area of the composite image data, and is clearly shown as window Win-B in this embodiment. Win-B is a window in which the size of the area is changed in accordance with the area of the composite image data when the area of the composite image data is expanded by overlaying the Nth image data.

各々のウィンドウに関して相互的な関係を詳細に説明する。まず合成処理用フレームメモリ領域6−2のメモリ領域を図6の(a)に示すように左上の座標を(0、0)、右下の座標を(n、n)として設定する。(n≧0)
またウィンドウWin-Aは、初め、1枚目の画像データを記憶する領域を示すウィンドウとして座標が初期化されている。例えば図6の(a)に示すように、ウィンドウWin-Aの左上の座標は(xs(1)、ys(1))、また右下の座標は(xe(1)、ye(1))とする。
The mutual relationship regarding each window will be described in detail. First, as shown in FIG. 6A, the upper left coordinate is set to (0, 0) and the lower right coordinate is set to (n, n) in the memory area of the composition processing frame memory area 6-2. (N ≧ 0)
The coordinates of the window Win-A are initialized as a window indicating an area for storing the first image data. For example, as shown in FIG. 6A, the upper left coordinates of the window Win-A are (xs (1), ys (1)), and the lower right coordinates are (xe (1), ye (1)). And

また図6の(b)に示すように、ウィンドウWin-Bの左上の座標は(Xs、Ys)、右下の座標は(Xe、Ye)と設定する。ここでウィンドウWin-Bは合成画像データの領域を示すウィンドウであるが、1枚目の画像データに関してはウィンドウWin-Aの初期座標と同じ座標が設定される。   Further, as shown in FIG. 6B, the upper left coordinates of the window Win-B are set to (Xs, Ys) and the lower right coordinates are set to (Xe, Ye). Here, the window Win-B is a window indicating the area of the composite image data, but the same coordinates as the initial coordinates of the window Win-A are set for the first image data.

つまり
Xs=xs(1)・・・(a)、
Ys=ys(1)・・・(b)、
Xe=xe(1)・・・(c)及び
Ye=ye(1)・・・(d)となる。
That is, Xs = xs (1) (a),
Ys = ys (1) (b),
Xe = xe (1) (c) and Ye = ye (1) (d).

またウィンドウWin-Bは、画像データが重ねられていくにつれ合成画像データ領域が広がると座標を更新していく。本実施形態では、下記条件を満たすとき座標が更新される。   The window Win-B updates the coordinates as the composite image data area expands as the image data is overlaid. In the present embodiment, the coordinates are updated when the following condition is satisfied.

つまり、
xs(N)<Xsであれば、Xsにxs(N)を代入・・・(e)、
ys(N)<Ysであれば、Ysにys(N)を代入・・・(f)、
xe(N)>Xeであれば、Xeにxe(N)を代入・・・(g)及び
ye(N)>Yeであれば、Yeにye(N)を代入・・・(h)となる。
That means
If xs (N) <Xs, substitute xs (N) for Xs (e),
If ys (N) <Ys, substitute ys (N) for Ys (f),
If xe (N)> Xe, substitute xe (N) for Xe ... (g) and if ye (N)> Ye, substitute Ye (N) for Ye ... (h) Become.

次に2枚目の画像データが取り込まれた時のウィンドウの変更について説明する。2枚目の画像データが取り込まれると、手ぶれ検出部9は、ウィンドウWin-Aの領域の画像データと2枚目の画像データにより手ぶれ量を検出する。ここでウィンドウWin-Aは1枚目の画像データが置かれている領域を示している。   Next, the change of the window when the second image data is captured will be described. When the second image data is captured, the camera shake detection unit 9 detects the amount of camera shake based on the image data of the window Win-A and the second image data. Here, the window Win-A indicates an area where the first image data is placed.

手ぶれ検出部9における手ぶれの検出処理方法は、まず輝度信号成分のみの画像データを複数の領域に分割し、それぞれの領域ごとの局所的な移動量の平均化等の統計的処理により画面全体の移動量を求め、撮像装置の手ぶれ量を決定する。   The camera shake detection processing method in the camera shake detection unit 9 first divides the image data of only the luminance signal component into a plurality of regions, and performs statistical processing such as averaging of the local movement amount for each region for the entire screen. The amount of movement is obtained, and the amount of camera shake of the imaging apparatus is determined.

この決定された手ぶれ量に基づき、ウィンドウWin-Aは1枚目の画像データよりもズレた領域として設定される。例えば図6の(c)に示すように、1枚目の画像データよりも右下の方向にズレた位置に2枚目の画像データが重なるように補正されるとする。このときのウィンドウWin-Aの左上の座標は(xs(2)、ys(2))、右下の座標は(xe(2)、ye(2))として設定される。   Based on the determined amount of camera shake, the window Win-A is set as a region shifted from the first image data. For example, as shown in FIG. 6C, it is assumed that the second image data is corrected so as to overlap at a position shifted in the lower right direction from the first image data. At this time, the upper left coordinates of the window Win-A are set as (xs (2), ys (2)), and the lower right coordinates are set as (xe (2), ye (2)).

ここでウィンドウWin-Bは、
xe(2)>Xe・・・(i)及び
ye(2)>Ye・・・(j)
の条件を満たすため、Xeにはxe(2)が、Yeにはye(2)が設定される。これにより図6の(d)に示すように、ウィンドウWin-Bは1枚目と2枚目の画像データが置かれる全ての領域を示すウィンドウとして座標が更新される。
Here window Win-B
xe (2)> Xe (i) and ye (2)> Ye (j)
Therefore, xe (2) is set for Xe and ye (2) is set for Ye. As a result, as shown in FIG. 6D, the coordinates of the window Win-B are updated as a window indicating all areas in which the first and second image data are placed.

次に3枚目の画像データが取り込まれた時のウィンドウの変更について説明する。3枚目の画像データが取り込まれると、手ぶれ検出部9は、ウィンドウWin-Aの領域の画像データと3枚目の画像データとにより手ぶれ量を検出する。ここで、ウィンドウWin-Aは2枚目の画像データが置かれている領域を示している。   Next, the change of the window when the third image data is captured will be described. When the third image data is captured, the camera shake detection unit 9 detects the amount of camera shake based on the image data in the area of the window Win-A and the third image data. Here, the window Win-A indicates an area where the second image data is placed.

検出された手ぶれ量に基づき、ウィンドウWin-Aは2枚目の画像データよりもズレた位置の領域として設定される。例えば図6の(e)に示すように、2枚目の画像データよりも左上の方向にズレて3枚目の画像データが重なるように補正されるとする。このときのウィンドウWin-Aの左上の座標は(xs(3)、ys(3))、右下の座標は(xe(3)、ye(3))として設定される。   Based on the detected amount of camera shake, the window Win-A is set as an area at a position shifted from the second image data. For example, as shown in FIG. 6E, it is assumed that the third image data is corrected so as to be shifted in the upper left direction with respect to the second image data. At this time, the upper left coordinates of the window Win-A are set as (xs (3), ys (3)), and the lower right coordinates are set as (xe (3), ye (3)).

ここでウィンドウWin-Bは
xs(3)<Xs・・・(k)及び
ys(3)<Ys・・・(l)
の条件を満たすため、Xsにはxs(3)が、またYsにはys(3)が設定される。これにより図6の(f)に示すように、ウィンドウWin-Bは合成画像データと3枚目の画像データが置かれる全ての領域を示すウィンドウとして座標が更新される。以上の処理が撮影枚数のN回分行われる。
Here, the window Win-B has xs (3) <Xs (k) and ys (3) <Ys (l).
Therefore, xs (3) is set for Xs and ys (3) is set for Ys. As a result, as shown in FIG. 6F, the coordinates of the window Win-B are updated as a window indicating all areas in which the composite image data and the third image data are placed. The above processing is performed N times for the number of shots.

次に、図5を用いてウィンドウ制御の処理手順をフローチャートで説明する。図5において、まず処理手順S100で、初期化処理が実行される。この初期化処理においては、ウィンドウWin-Aの位置を表す座標の初期化と、合成処理用フレームメモリ領域6−2の全記憶領域の値を0とする初期化が実行される。さらに、ユーザが何枚のフレーム画像で手ぶれ補正を行うかをNmaxとして設定する。また初め撮像枚数Nは0である。次に処理手順S101で撮像枚数NがN+1とされて処理手順S102でN(=1)枚目の撮像が行われる。処理手順S103では撮像枚数が1枚目か2枚目以降かが判断され、1枚目のときは処理手順110に進み、ウィンドウWin-Bの位置を示す座標にウィンドウWin-Aの座標が入力される。   Next, a window control processing procedure will be described with reference to FIG. In FIG. 5, an initialization process is first executed in process procedure S100. In this initialization process, initialization of coordinates indicating the position of the window Win-A and initialization of values of all storage areas of the synthesis process frame memory area 6-2 are executed. Further, Nmax is set to how many frame images the user performs camera shake correction. In addition, the number of images N is initially zero. Next, the number N of captured images is set to N + 1 in the processing procedure S101, and the N (= 1) th imaging is performed in the processing procedure S102. In the processing procedure S103, it is determined whether the number of images to be taken is the first image or the second image. When the first image is taken, the processing proceeds to the processing procedure 110, and the coordinates of the window Win-A are input to the coordinates indicating the position of the window Win-B. Is done.

次に処理手順S111で、1枚目の画像データがウィンドウWin-Aの領域に格納される。また処理手順S103で撮像枚数が2枚目以降と判断されると処理手順S104に進む。処理手順S104では、合成画像においてN−1枚目の画像データの領域を示すウィンドウWin-Aの画像データと撮像されたN枚目の画像データとで手ぶれ検出処理が行われる。このとき手ぶれ検出には輝度信号成分のみを使用し、ウィンドウWin-Aから読み出される画像データは1/(N−1)倍に信号レベルが調整されて手ぶれ検出部9に入力される。この動作は、図2を用いて機能的に説明されたものである。   Next, in the processing procedure S111, the first image data is stored in the area of the window Win-A. If it is determined in process step S103 that the number of images to be taken is the second or later, the process proceeds to process step S104. In the processing procedure S104, camera shake detection processing is performed on the image data of the window Win-A indicating the area of the (N-1) th image data in the composite image and the captured Nth image data. At this time, only the luminance signal component is used for camera shake detection, and the image data read from the window Win-A is input to the camera shake detection unit 9 with the signal level adjusted to 1 / (N-1) times. This operation has been functionally described with reference to FIG.

次に処理手順S105では、手ぶれ検出結果をもとにウィンドウWin-Aの座標が手ぶれ補正処理されるように、手ぶれ方向とは逆の方向に座標が補正される。この座標変更により処理手順S106でウィンドウWin-AがウィンドウWin-Bよりも外の領域にずれた時、ウィンドウWin-Bの座標が処理手順S107において更新される。またウィンドウWin-AがウィンドウWin-Bよりも外の領域にずれていない時は、ウィンドウWin-Bの座標は更新されない。ここで本実施形態1では、図6に示した座標を用いて下記条件を満す時、ウィンドウWin-AがウィンドウWin-Bの領域よりも外にずれたと判断し、ウィンドウWin-Bの座標を更新する。   Next, in processing step S105, the coordinates are corrected in the direction opposite to the camera shake direction so that the camera shake correction processing is performed on the coordinates of the window Win-A based on the camera shake detection result. When the window Win-A is shifted to an area outside the window Win-B in the processing procedure S106 due to this coordinate change, the coordinates of the window Win-B are updated in the processing procedure S107. When the window Win-A is not shifted to an area outside the window Win-B, the coordinates of the window Win-B are not updated. Here, in the first embodiment, when the following conditions are satisfied using the coordinates shown in FIG. 6, it is determined that the window Win-A has shifted out of the area of the window Win-B, and the coordinates of the window Win-B are determined. Update.

すなわち、
xs(N)<Xs、またはys(N)<Ys、またはxe(N)>Xe、またはye(N)>Ye・・・(m)
の時、ウィンドウWin-Bの座標を更新する。
That is,
xs (N) <Xs, or ys (N) <Ys, or xe (N)> Xe, or ye (N)> Ye (m)
At the time, update the coordinates of window Win-B.

次に処理手順S108では、N枚目に撮像された画像データがウィンドウWin-Aの領域の画像データに合成される。この処理手順S108における合成処理方法については図8のフローチャートを用いて後述する。処理手順S109では、ユーザが設定したNmaxに撮像枚数Nが達していれば処理フローを抜け処理を終了し、達していなければ、処理手順S101へもどり、それ以降の処理フローを繰り返す。以上のフローに従い合成処理用フレームメモリ領域6−2の記憶領域に2つのウィンドウが設定される。さらに、前記のウィンドウによって合成画像データからN−1枚目の画像データを抜き出し、N枚目の画像データとの間でで手ぶれ検出処理を行うことが可能となる。   Next, in the processing procedure S108, the image data captured on the Nth image is combined with the image data of the area of the window Win-A. The composition processing method in this processing procedure S108 will be described later with reference to the flowchart of FIG. In process step S109, if the number N of images has reached Nmax set by the user, the process flow is exited and the process is terminated. If not, the process returns to process step S101 and the subsequent process flow is repeated. In accordance with the above flow, two windows are set in the storage area of the synthesis processing frame memory area 6-2. Further, it is possible to extract the (N−1) th image data from the composite image data by the window and perform a camera shake detection process with the Nth image data.

次に、図7を用いて本実施形態の画像合成処理を説明する。図7は、画像合成時にメモリ部6におけるフレームメモリ領域6−1と合成処理用フレームメモリ領域6−2における画像データの配置をイメージ表現した図である。合成処理用フレームメモリ領域6−2は、図5のフローチャートで説明したようにはじめ全記憶領域が0で初期化されている。   Next, the image composition processing of this embodiment will be described with reference to FIG. FIG. 7 is an image representation of the arrangement of image data in the frame memory area 6-1 and the composition processing frame memory area 6-2 in the memory unit 6 during image composition. In the synthesis processing frame memory area 6-2, the entire storage area is initialized with 0 as described in the flowchart of FIG.

まず1枚目の撮像で図7の(a)に示すように、フレームメモリ領域6−1に1枚目の画像データが置かれる。つぎに、前述のウィンドウWin-Aの領域にこの1枚目の画像データが図7の(e)に示すように合成処理用フレームメモリ領域6−2に置かれる。   First, as shown in FIG. 7A, the first image data is placed in the frame memory area 6-1 when the first image is captured. Next, the first image data is placed in the composition processing frame memory area 6-2 in the area of the window Win-A as shown in FIG.

つぎに2枚目の撮像で、図7の(b)に示すように、フレームメモリ領域6−1に2枚目の画像データが記憶される。そして図7の(f)に示す様に、この2枚目の画像データは1枚目の画像よりも手ぶれ移動量分補正された位置にウィンドウWin-Aが設定されて画像データが合成される。   Next, in the second image pickup, as shown in FIG. 7B, the second image data is stored in the frame memory area 6-1. Then, as shown in FIG. 7F, a window Win-A is set at the position where the second image data is corrected by the amount of camera shake movement compared to the first image, and the image data is synthesized. .

この合成処理は、図7の(f)において、ウィンドウWin-Bよりも内側で、且つウィンドウWin-Aよりも外側の領域はN/(N-1)倍、つまり2倍に信号レベルが調整されて格納される。そしてウィンドウWin-Aよりも内側の領域で、且つ合成処理用フレームメモリ領域6−2のデータが0の時は2枚目の画像データをN倍、つまり2倍に信号レベルが調整されて、合成処理用フレームメモリ領域6−2に格納される。この部分は、図中ハッチングで示す。またウィンドウWin-Aよりも内側の領域で、且つ合成処理用フレームメモリ領域6−2のデータが0以外の時は、2枚目の画像データと合成処理用フレームメモリ領域6−2に格納されている画像データを積算し書き戻す。以上により1枚目と2枚目の画像データが重ならない領域においても信号レベル調整が行われ、合成画像データの全領域において同じ信号レベルで画像合成処理が行われる。   In this synthesis process, the signal level is adjusted to N / (N-1) times, that is, twice the area inside window Win-B and outside window Win-A in FIG. Stored. When the data in the area inside the window Win-A and in the frame memory area 6-2 for composition processing is 0, the signal level is adjusted to N times the second image data, that is, twice, It is stored in the frame memory area 6-2 for composition processing. This part is indicated by hatching in the figure. Further, when the data in the area inside the window Win-A and the data in the compositing process frame memory area 6-2 is other than 0, the second image data and the data in the compositing process frame memory area 6-2 are stored. Accumulate and write back the current image data. As described above, signal level adjustment is performed even in a region where the first and second image data do not overlap, and image synthesis processing is performed at the same signal level in all regions of the composite image data.

次に3枚目の撮像で図7の(c)に示すように、フレームメモリ領域6−1に3枚目の画像データが記憶される。そして図7の(g)に示す様に、3枚目の画像データは2枚目の画像データよりも手ぶれ移動量分補正された位置にウィンドウWin-Aが設定され画像データが合成される。   Next, as shown in FIG. 7C, the third image data is stored in the frame memory area 6-1 when the third image is captured. Then, as shown in FIG. 7G, the window image Win-A is set in the position where the third image data is corrected by the amount of camera shake movement compared to the second image data, and the image data is synthesized.

この合成処理は、図7の(g)において、ウィンドウWin-Bよりも内側で、且つウィンドウWin-Aよりも外側の領域はN/(N-1)倍、つまり3/2倍に信号レベルが調整されて格納される。また、ウィンドウWin-Aよりも内側の領域で、且つ合成処理用フレームメモリ領域6−2のデータが0の時は、3枚目の画像データをN倍、つまり3倍にして合成処理用フレームメモリ領域6−2に格納する。さらにウィンドウWin-Aよりも内側の領域で、且つ合成処理用フレームメモリ領域6−2のデータが0以外の時は、3枚目の画像データと合成処理用フレームメモリ領域6−2に格納されているデータを積算し書き戻す。以上により2枚目までの合成画像データと、3枚目の画像データが重ならない領域においても信号レベル調整が行われ、合成画像データの全領域において同じ信号レベルで画像合成処理が行われる。   In FIG. 7 (g), this combining process is performed by N / (N-1) times, that is, 3/2 times the signal level inside the window Win-B and outside the window Win-A. Is adjusted and stored. Further, when the data in the area inside the window Win-A and the data in the compositing process frame memory area 6-2 is 0, the third image data is multiplied by N, that is, tripled, and the compositing process frame. Store in the memory area 6-2. Furthermore, if the data in the area inside the window Win-A and the data in the compositing process frame memory area 6-2 is other than 0, the third image data and the compositing process frame memory area 6-2 are stored. Accumulate and write back data. As described above, the signal level adjustment is performed even in a region where the synthesized image data up to the second image and the third image data do not overlap, and the image synthesis process is performed at the same signal level in all the regions of the synthesized image data.

次に、4枚目の撮像で図7の(d)に示すように、フレームメモリ領域6−1に4枚目の画像データが記憶される。そして図7の(h)に示す様に、4枚目の画像データは2枚目の画像データよりも手ぶれ移動量分補正された位置にウィンドウWin-Aが設定され画像データが合成される。   Next, as shown in FIG. 7D, the fourth image data is stored in the frame memory area 6-1 when the fourth image is captured. Then, as shown in (h) of FIG. 7, the window Win-A is set at the position where the image data of the fourth image is corrected by the amount of movement of the camera shake compared to the image data of the second image, and the image data is synthesized.

この合成処理は、図7の(h)において、ウィンドウWin-Bよりも内側で、且つウィンドウWin-Aよりも外側の領域はN/(N-1)倍、つまり4/3倍に信号レベルが調整されて格納される。また、ウィンドウWin-Aよりも内側の領域で、且つ合成処理用フレームメモリ領域6−2のデータが0の時は、3枚目の画像データをN倍、つまり4倍にして合成処理用フレームメモリ領域6−2に格納する。さらにウィンドウWin-Aよりも内側の領域で、且つ合成処理用フレームメモリ領域6−2のデータが0以外の時は、4枚目の画像データと合成処理用フレームメモリ領域6−2に格納されているデータを積算し書き戻す。以上により3枚目までの合成画像データと、4枚目の画像データが重ならない領域においても信号レベル調整が行われ、合成画像データの全領域において同じ信号レベルで画像合成処理が行われる。以上の処理が撮影枚数のN回分行われる。   In FIG. 7 (h), this combining process is performed by N / (N-1) times, that is, 4/3 times the signal level inside the window Win-B and outside the window Win-A. Is adjusted and stored. Further, when the data in the area inside the window Win-A and the data in the compositing process frame memory area 6-2 is 0, the third image data is multiplied by N, that is, quadrupled, and the compositing process frame. Store in the memory area 6-2. Further, if the data in the area inside the window Win-A and the data in the compositing process frame memory area 6-2 is other than 0, the fourth image data is stored in the compositing process frame memory area 6-2. Accumulate and write back data. As described above, the signal level adjustment is performed even in the region where the synthesized image data up to the third image and the fourth image data do not overlap, and the image synthesis processing is performed at the same signal level in all the regions of the synthesized image data. The above processing is performed N times for the number of shots.

上記の説明において、信号レベルの調整は、図3で説明した信号レベル調整部19に対して各種の調整レベルに対応するレベル制御信号を与えることで実行される。   In the above description, the signal level is adjusted by giving level control signals corresponding to various adjustment levels to the signal level adjusting unit 19 described in FIG.

図8と図9を用いて、画像合成処理方法の処理手順を説明する。本実施形態1において画像合成処理は、図5の処理手順S108において行われる。まず図8の処理手順S200において、ウィンドウWin-Bの領域から1画素ずつ画像データを読み出す。本実施形態では、図9に示すようにウィンドウWin-Bの領域の、左上のstartアドレスから順にラスタ形式で読み出す。処理手順S201では、ウィンドウWin-Bの領域より読み出した画素データがウィンドウWin-Aの領域内にあるかどうかを判別する。このとき読み出した画素データがウィンドウWin-Aの領域よりも外の領域に位置する場合は処理手順S207に進む。   The processing procedure of the image composition processing method will be described with reference to FIGS. In the first embodiment, the image composition processing is performed in the processing procedure S108 of FIG. First, in the processing procedure S200 of FIG. 8, image data is read pixel by pixel from the area of the window Win-B. In the present embodiment, as shown in FIG. 9, data is read out in raster format in order from the start address in the upper left of the window Win-B area. In the processing procedure S201, it is determined whether or not the pixel data read from the window Win-B area is in the window Win-A area. If the pixel data read at this time is located in an area outside the window Win-A area, the process proceeds to step S207.

処理手順S207では、ウィンドウWin-Bの領域より読み出した画素データをN/(N−1)倍にレベル調整し処理手順S205へ進む。また処理手順S201において、ウィンドウWin-Bの領域より読み出した画素データがウィンドウWin-Aの領域よりも中にあると判断されると、処理手順S202へ進む。また処理手順S202では、読み出した画素データとN枚目の画像データとが加算される。   In the processing procedure S207, the pixel data read from the area of the window Win-B is adjusted by N / (N−1) times, and the process proceeds to the processing procedure S205. If it is determined in the processing procedure S201 that the pixel data read from the window Win-B area is inside the window Win-A area, the process proceeds to the processing procedure S202. In the processing procedure S202, the read pixel data and the Nth image data are added.

次に処理手順S203において処理手順S200において、ウィンドウWin-Bの領域より読み出した画素データの値が0かどうかが判断され、値が0のときは処理手順S204へ移る。ステップS204では画素データがN倍にレベル調整されて処理手順S205へ移る。また処理手順S203において読み出した画素データの値が0でないと判断された時は処理手順S205へ飛ぶ。   Next, in process step S203, in process step S200, it is determined whether or not the value of the pixel data read from the window Win-B area is 0. If the value is 0, the process proceeds to process step S204. In step S204, the level of the pixel data is adjusted N times, and the process proceeds to processing procedure S205. On the other hand, when it is determined in the processing procedure S203 that the value of the read pixel data is not 0, the process jumps to the processing procedure S205.

処理手順S205では読み出してきたアドレスと同じアドレスに加算またはレベル調整した画素データを合成処理用フレームメモリ領域6−2に書き戻す。次に処理手順S206においてウィンドウWin-Bの領域内の画素データが全て読み出されたか判断され、全て読み出されていないと処理手順S200に戻り、それ以降の処理手順を繰り返す。また処理手順S206においてウィンドウWin-Bの領域内の画素データが全て読み出されたと判断されると図8の処理フローを抜け処理を終了する。上記の説明において、画素信号レベルの調整は、図3で説明した信号レベル調整部19に対して各種の調整レベルに対応するレベル制御信号を与えることで実行される。   In the processing procedure S205, the pixel data added or level-adjusted to the same address as the read address is written back to the synthesis processing frame memory area 6-2. Next, in processing step S206, it is determined whether all the pixel data in the area of the window Win-B has been read out. If not all of the pixel data has been read out, the processing returns to processing step S200 and the subsequent processing steps are repeated. If it is determined in the processing procedure S206 that all the pixel data in the area of the window Win-B has been read, the process flow of FIG. In the above description, the adjustment of the pixel signal level is performed by giving level control signals corresponding to various adjustment levels to the signal level adjustment unit 19 described in FIG.

以上により、画像合成処理時、フレーム毎に加算領域以外のゲイン調整を行いながら画像合成処理を行うため、合成画像データの全領域において同じゲインで記憶されるため、1フレームよりも広い範囲から画像データを抽出することが可能となる。このようにして電子手ぶれ補正がされた画像信号が合成処理用フレームメモリ領域6−2に合成映像信号として蓄積されることとなる。この合成映像信号が表示部12に表示され、また、メモリカード30に記憶される。   As described above, during image composition processing, image composition processing is performed while performing gain adjustment other than the addition region for each frame, and therefore, the entire area of the composite image data is stored with the same gain. Data can be extracted. The image signal subjected to the electronic image stabilization in this way is stored as a synthesized video signal in the synthesis processing frame memory area 6-2. This synthesized video signal is displayed on the display unit 12 and stored in the memory card 30.

以上、この明細書で説明した実施形態は、本発明の一例を説明するために引用したものであって、本発明の請求項で表現された発明を満すものであれば、その構成は、本明細書に開示した実施形態に限られない。   As mentioned above, the embodiment described in this specification is cited for explaining an example of the present invention, and if the invention expressed in the claims of the present invention is satisfied, the configuration is as follows. It is not limited to the embodiments disclosed herein.

例えば、本実施形態において加算時のゲイン調整は、N枚目の画像データとウィンドウWin-Bの領域より読み出した画像データを加算した後に行ったが、加算前にそれぞれのデータにレベル調整を行ったうえで加算する構成をとっても構わない。   For example, in this embodiment, the gain adjustment at the time of addition is performed after adding the Nth image data and the image data read from the area of the window Win-B, but the level adjustment is performed on each data before the addition. In addition, a configuration of adding the values may be taken.

また、本実施形態においては、ウィンドウ制御としてメモリ領域をイメージ化し、座標でウィンドウ領域を表現したが、メモリのアドレスを直接用いてウィンドウ内の領域を表現しても構わない。   In this embodiment, the memory area is imaged as window control and the window area is expressed by coordinates. However, the memory area may be directly used to express the area in the window.

また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記憶した記憶媒体を、システムあるいは装置に供給しても達成可能である。すなわち、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読出し実行することによっても、達成されることは言うまでもない。この場合、記憶媒体から読出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。   The object of the present invention can also be achieved by supplying a storage medium storing software program codes for realizing the functions of the above-described embodiments to a system or apparatus. That is, it goes without saying that this can also be achieved by the computer (or CPU or MPU) of the system or apparatus reading and executing the program code stored in the storage medium. In this case, the program code itself read from the storage medium realizes the functions of the above-described embodiments, and the storage medium storing the program code constitutes the present invention.

プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性の半導体メモリカード、ROMなどを用いることができる。   As a storage medium for supplying the program code, for example, a flexible disk, hard disk, optical disk, magneto-optical disk, CD-ROM, CD-R, magnetic tape, nonvolatile semiconductor memory card, ROM, or the like can be used. .

また、コンピュータが読出したプログラムコードを実行することにより、前述した実施形態の機能が実現される場合もある。しかし、さらにそのプログラムコードの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。   Further, the functions of the above-described embodiments may be realized by executing the program code read by the computer. However, when the OS (operating system) operating on the computer performs part or all of the actual processing based on the instruction of the program code, and the functions of the above-described embodiments are realized by the processing. Needless to say, is also included.

さらに、記憶媒体から読出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれる場合もあり得る。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。   Furthermore, the program code read from the storage medium may be written in a memory provided in a function expansion board inserted into the computer or a function expansion unit connected to the computer. After that, based on the instruction of the program code, the CPU of the function expansion board or function expansion unit performs part or all of the actual processing, and the processing of the above-described embodiment is realized by the processing. Needless to say.

本発明の実施形態1における撮像装置のブロック構成図である。It is a block block diagram of the imaging device in Embodiment 1 of this invention. 本発明の実施形態1における撮像装置の手ぶれ検出の際に実行される信号レベル調整の機能を説明するブロック構成図である。It is a block block diagram explaining the function of the signal level adjustment performed at the time of the camera-shake detection of the imaging device in Embodiment 1 of this invention. 本発明の実施形態1における撮像装置の合成処理の際に実行される信号レベル調整の機能を説明するブロック構成図である。It is a block block diagram explaining the function of the signal level adjustment performed in the case of the synthetic | combination process of the imaging device in Embodiment 1 of this invention. 本発明の実施形態1の撮像装置における手ぶれ検出方法の動作を説明するためのイメージ図である。It is an image figure for demonstrating operation | movement of the camera shake detection method in the imaging device of Embodiment 1 of this invention. 本発明の実施形態1の撮像装置における手ぶれ検出処理の処理手順を示したフローチャート図である。It is the flowchart figure which showed the process sequence of the camera-shake detection process in the imaging device of Embodiment 1 of this invention. 本発明の実施形態1の撮像装置における画像合成処理の動作を説明するためのイメージ図である。It is an image figure for demonstrating the operation | movement of the image composition process in the imaging device of Embodiment 1 of this invention. 本発明の実施形態1の撮像装置におけるウィンドウ制御方法の動作を説明するためのイメージ図である。It is an image figure for demonstrating operation | movement of the window control method in the imaging device of Embodiment 1 of this invention. 本発明の実施形態1の撮像装置における画像合成処理の処理手順を示したフローチャート図である。It is the flowchart figure which showed the process sequence of the image composition process in the imaging device of Embodiment 1 of this invention. 本発明の実施形態1の撮像装置における画像合成時の画像データの読み出しの動作を説明するためのイメージ図である。It is an image figure for demonstrating the read-out operation | movement of the image data at the time of the image synthesis in the imaging device of Embodiment 1 of this invention. 従来技術における電子手ぶれ検出装置の構成図である。It is a block diagram of the electronic camera shake detection apparatus in a prior art. 従来技術における電子手ぶれ検出方法の動作を説明するためのイメージ図である。It is an image figure for demonstrating operation | movement of the electronic camera shake detection method in a prior art. 従来技術における電子手ぶれ補正方法の動作を説明するためのイメージ図である。It is an image figure for demonstrating operation | movement of the electronic camera-shake correction method in a prior art.

Claims (22)

被写体像を撮像し映像信号を出力する撮像手段と、
前記撮像手段からの前記映像信号を一時的に蓄積する第1メモリ手段と、
前記第1メモリ手段に蓄積された前記映像信号が順次入力され、先に蓄積した映像信号に合成して順次生成される合成映像信号を蓄積する第2メモリ手段と、
前記第1メモリ手段に蓄積されている前記映像信号と前記第2メモリ手段に蓄積されている前記合成映像信号との間で2つの映像信号間のズレ量を検出する検出手段と、を備える、ことを特徴とする撮像装置。
Imaging means for capturing a subject image and outputting a video signal;
First memory means for temporarily storing the video signal from the imaging means;
Second video means for sequentially storing the video signals stored in the first memory means, and synthesizing the video signals generated in advance and synthesizing the video signals.
Detecting means for detecting a shift amount between two video signals between the video signal stored in the first memory means and the synthesized video signal stored in the second memory means; An imaging apparatus characterized by that.
前記第1メモリ手段と前記第2メモリ手段は、同一のメモリの記憶領域を分割してそれぞれの記憶領域が設定される、ことを特徴とする請求項1に記載の撮像装置。   The imaging apparatus according to claim 1, wherein the first memory unit and the second memory unit divide a storage area of the same memory and set each storage area. 前記第2メモリ手段の記憶領域は、前記第1メモリ手段の記憶領域より大とされる、ことを特徴とする請求項1又は2に記載の撮像装置。   3. The image pickup apparatus according to claim 1, wherein a storage area of the second memory unit is larger than a storage area of the first memory unit. 前記第2メモリ手段に蓄積されている前記合成映像信号は、前記第1メモリ手段に蓄積されている前記映像信号より時間的に1フレーム前の映像信号に相当する、ことを特徴とする請求項1乃至3の何れか1項に記載の撮像装置。   2. The composite video signal stored in the second memory means corresponds to a video signal one frame before the video signal stored in the first memory means. The imaging device according to any one of 1 to 3. 前記第2メモリ手段から出力される前記合成映像信号の信号レベルは、前記第1メモリ手段から出力される前記映像信号の信号レベルとなるようにレベル調整される、ことを特徴とする請求項1乃至4の何れか1項に記載の撮像装置。   2. The signal level of the composite video signal output from the second memory means is adjusted so as to be the signal level of the video signal output from the first memory means. 5. The imaging device according to any one of items 1 to 4. 前記検出手段は、前記第1メモリ手段から出力される前記映像信号と、前記第2メモリ手段から出力される前記合成映像信号との間の信号レベルの差分により2つの映像信号間のズレ量を検出する、ことを特徴とする請求項1乃至5の何れか1項に記載の撮像装置。   The detecting means calculates a deviation amount between two video signals based on a difference in signal level between the video signal output from the first memory means and the synthesized video signal output from the second memory means. The imaging device according to claim 1, wherein the imaging device is detected. 前記第1メモリ手段から出力され、前記第2メモリ手段に合成されて蓄積される前記映像信号を記憶する領域を示す記憶領域情報を、前記検出手段の検出結果に基づいて補正する補正手段と、を更に備える、ことを特徴とする請求項1乃至6の何れか1項に記載の撮像装置。   Correction means for correcting storage area information indicating an area for storing the video signal output from the first memory means and synthesized and accumulated in the second memory means based on a detection result of the detection means; The imaging apparatus according to claim 1, further comprising: 前記検出手段は、前記第1メモリ手段から出力される前記映像信号に含まれる輝度信号と、第2メモリ手段から出力される前記合成映像信号に含まれる輝度信号との間で、2つの映像信号間のズレ量を検出する、ことを特徴とする請求項1乃至7の何れか1項に記載の撮像装置。   The detection means includes two video signals between a luminance signal included in the video signal output from the first memory means and a luminance signal included in the composite video signal output from the second memory means. The image pickup apparatus according to claim 1, wherein an amount of deviation is detected. 前記検出手段で実行される前記2つの映像信号間のズレ量の検出は、動きベクトルの検出を行う、ことを特徴とする請求項1乃至8の何れか1項に記載の撮像装置。   The imaging apparatus according to claim 1, wherein the detection of a shift amount between the two video signals executed by the detection unit detects a motion vector. 前記レベル調整は、前記第1メモリ手段から出力される前記映像信号をN枚目とし、前記第2メモリ手段から出力される前記合成映像信号をN−1枚目とすると、前記第2メモリ手段から出力される前記合成映像信号の信号レベルは、1/(N−1)にレベル調整される、ことを特徴とする請求項5に記載の撮像装置。   In the level adjustment, when the video signal output from the first memory means is the Nth picture and the composite video signal output from the second memory means is the N-1th picture, the second memory means The image pickup apparatus according to claim 5, wherein a signal level of the composite video signal output from the video signal is adjusted to 1 / (N−1). 被写体像を撮像し映像信号を出力する撮像工程と、
前記撮像工程で取得した前記映像信号を第1メモリ手段に一時的に蓄積する第1蓄積工程と、
前記第1メモリ手段に蓄積された前記映像信号が順次入力され、先に蓄積した映像信号に合成して順次生成される合成映像信号を第2メモリ手段に蓄積する第2蓄積工程と、
前記第1メモリ手段に蓄積されている前記映像信号と前記第2メモリ手段に蓄積されている前記合成映像信号との間で2つの映像信号間のズレ量を検出する検出検出工程と、を備える、ことを特徴とする撮像装置の制御方法。
An imaging process for capturing a subject image and outputting a video signal;
A first accumulation step of temporarily accumulating the video signal acquired in the imaging step in a first memory means;
A second storage step for sequentially storing the video signals stored in the first memory means and combining the previously stored video signals and sequentially generating a composite video signal generated in the second memory means;
A detection detecting step of detecting a shift amount between two video signals between the video signal stored in the first memory means and the synthesized video signal stored in the second memory means. A method for controlling an imaging apparatus, characterized by:
前記第1メモリ手段と前記第2メモリ手段は、同一のメモリの記憶領域を分割してそれぞれの記憶領域が設定される、ことを特徴とする請求項11に記載の撮像装置の制御方法。   12. The imaging apparatus control method according to claim 11, wherein the first memory unit and the second memory unit divide a storage area of the same memory and set each storage area. 前記第2メモリ手段の記憶領域は、前記第1メモリ手段の記憶領域より大とされることを特徴とする請求項11又は12に記載の撮像装置の制御方法。   13. The method according to claim 11, wherein the storage area of the second memory means is larger than the storage area of the first memory means. 前記第2メモリ手段に蓄積されている前記合成映像信号は、前記第1メモリ手段に蓄積されている前記映像信号より時間的に1フレーム前の映像信号に相当する、ことを特徴とする請求項11乃至13の何れか1項に記載の撮像装置の制御方法。   2. The composite video signal stored in the second memory means corresponds to a video signal one frame before the video signal stored in the first memory means. The control method of the imaging device according to any one of 11 to 13. 前記第2メモリ手段から出力される前記合成映像信号の信号レベルは、前記第1メモリ手段から出力される前記映像信号の信号レベルとなるようにレベル調整される、ことを特徴とする請求項11乃至14の何れか1項に記載の撮像装置の制御方法。   12. The signal level of the composite video signal output from the second memory means is adjusted so as to be the signal level of the video signal output from the first memory means. The control method of the imaging device according to any one of 1 to 14. 前記検出工程は、前記第1メモリ手段から出力される前記映像信号と、前記第2メモリ手段から出力される前記合成映像信号との間の信号レベルの差分により2つの映像信号間のズレ量を検出する、ことを特徴とする請求項11乃至15の何れか1項に記載の撮像装置の制御方法。   In the detecting step, a deviation amount between two video signals is calculated based on a difference in signal level between the video signal output from the first memory means and the synthesized video signal output from the second memory means. The method of controlling an imaging apparatus according to claim 11, wherein detection is performed. 前記第1メモリ手段から出力され、前記第2メモリ手段に合成されて蓄積される前記映像信号を記憶する領域を示す記憶領域情報を、前記検出工程の検出結果に基づいて補正する補正工程と、を更に備える、ことを特徴とする請求項11乃至16の何れか1項に記載の撮像装置の制御方法。   A correction step of correcting storage region information indicating a region for storing the video signal output from the first memory unit and synthesized and accumulated in the second memory unit based on a detection result of the detection step; The imaging apparatus control method according to claim 11, further comprising: 前記検出工程は、前記第1メモリ手段から出力される前記映像信号に含まれる輝度信号と、第2メモリ手段から出力される前記合成映像信号に含まれる輝度信号との間で、2つの映像信号間のズレ量を検出する、ことを特徴とする請求項11乃至17の何れか1項に記載の撮像装置の制御方法。   The detection step includes two video signals between a luminance signal included in the video signal output from the first memory means and a luminance signal included in the composite video signal output from the second memory means. The method of controlling an imaging apparatus according to claim 11, wherein an amount of deviation is detected. 前記検出工程で実行される前記2つの映像信号間のズレ量の検出は、動きベクトルの検出を行う、ことを特徴とする請求項11乃至18の何れか1項に記載の撮像装置の制御方法。   The method of controlling an imaging apparatus according to claim 11, wherein the detection of a shift amount between the two video signals performed in the detection step includes a motion vector detection. . 前記レベル調整は、前記第1メモリ手段から出力される前記映像信号をN枚目とし、前記第2メモリ手段から出力される前記合成映像信号をN−1枚目とすると、前記第2メモリ手段から出力される前記合成映像信号の信号レベルは、1/(N−1)にレベル調整される、ことを特徴とする請求項15に記載の撮像装置の制御方法。   In the level adjustment, when the video signal output from the first memory means is the Nth picture and the composite video signal output from the second memory means is the N-1th picture, the second memory means The method of controlling an imaging apparatus according to claim 15, wherein the level of the composite video signal output from the signal is adjusted to 1 / (N−1). 請求項11乃至20のいずれか1項に記載の撮像装置の制御方法の手順が記述されたコンピュータで実行可能なプログラム。   21. A computer-executable program in which a procedure of a control method for an imaging apparatus according to any one of claims 11 to 20 is described. 請求項11乃至20のいずれか1項に記載の撮像装置の制御方法の手順が記述されたプログラムが記憶されたコンピュータ可読記憶媒体。   21. A computer-readable storage medium storing a program in which a procedure of a control method for an imaging apparatus according to claim 11 is described.
JP2006155398A 2006-06-02 2006-06-02 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, PROGRAM, AND RECORDING MEDIUM Active JP4671429B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006155398A JP4671429B2 (en) 2006-06-02 2006-06-02 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, PROGRAM, AND RECORDING MEDIUM

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006155398A JP4671429B2 (en) 2006-06-02 2006-06-02 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, PROGRAM, AND RECORDING MEDIUM

Publications (3)

Publication Number Publication Date
JP2007325129A true JP2007325129A (en) 2007-12-13
JP2007325129A5 JP2007325129A5 (en) 2009-07-16
JP4671429B2 JP4671429B2 (en) 2011-04-20

Family

ID=38857511

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006155398A Active JP4671429B2 (en) 2006-06-02 2006-06-02 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, PROGRAM, AND RECORDING MEDIUM

Country Status (1)

Country Link
JP (1) JP4671429B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6236259B2 (en) 2013-09-06 2017-11-22 株式会社東芝 Image processing apparatus, image processing method, and image processing program

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005236662A (en) * 2004-02-19 2005-09-02 Mitsubishi Electric Corp Imaging method, imaging device, and imaging system
JP2006025312A (en) * 2004-07-09 2006-01-26 Konica Minolta Photo Imaging Inc Imaging apparatus and image acquisition method

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005236662A (en) * 2004-02-19 2005-09-02 Mitsubishi Electric Corp Imaging method, imaging device, and imaging system
JP2006025312A (en) * 2004-07-09 2006-01-26 Konica Minolta Photo Imaging Inc Imaging apparatus and image acquisition method

Also Published As

Publication number Publication date
JP4671429B2 (en) 2011-04-20

Similar Documents

Publication Publication Date Title
JP4671430B2 (en) IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, PROGRAM, AND RECORDING MEDIUM
JP5574423B2 (en) Imaging apparatus, display control method, and program
JP5764740B2 (en) Imaging device
JP2010021698A (en) Image processing device, and program
JP2013165485A (en) Image processing apparatus, image capturing apparatus, and computer program
JP2017175364A (en) Image processing device, imaging device, and control method of image processing device
JP6541501B2 (en) IMAGE PROCESSING APPARATUS, IMAGING APPARATUS, AND IMAGE PROCESSING METHOD
JP2007096588A (en) Imaging device and method for displaying image
JP4670663B2 (en) Image generating apparatus and image generating program
JP2009065519A (en) Image processing apparatus
US11722788B2 (en) Image processing apparatus and method, and image capturing apparatus
JP4818862B2 (en) Composite video display device
JP4671429B2 (en) IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, PROGRAM, AND RECORDING MEDIUM
JP4750631B2 (en) IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM
JP5197064B2 (en) Video camera
JP5831492B2 (en) Imaging apparatus, display control method, and program
JP6717354B2 (en) Image processing apparatus, image processing method and program
JP4801549B2 (en) Composite video display device and integrated circuit
JP2007282134A (en) Imaging apparatus
CN110178365B (en) Image processing apparatus, image processing method, and program
JP6869841B2 (en) Image processing device, control method of image processing device, and program
JP6762843B2 (en) Image processing equipment, image processing methods, and programs
JP2014236244A (en) Image processing system, image processing program, and digital camera
US11206344B2 (en) Image pickup apparatus and storage medium
JP2007251997A (en) Imaging unit

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090529

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101015

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110114

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110117

R150 Certificate of patent or registration of utility model

Ref document number: 4671429

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140128

Year of fee payment: 3