JP2013197923A - Electron camera - Google Patents

Electron camera Download PDF

Info

Publication number
JP2013197923A
JP2013197923A JP2012063369A JP2012063369A JP2013197923A JP 2013197923 A JP2013197923 A JP 2013197923A JP 2012063369 A JP2012063369 A JP 2012063369A JP 2012063369 A JP2012063369 A JP 2012063369A JP 2013197923 A JP2013197923 A JP 2013197923A
Authority
JP
Japan
Prior art keywords
image
frame
motion
motion detection
amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012063369A
Other languages
Japanese (ja)
Other versions
JP5874473B2 (en
Inventor
Masakazu Suhara
正和 須原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2012063369A priority Critical patent/JP5874473B2/en
Publication of JP2013197923A publication Critical patent/JP2013197923A/en
Application granted granted Critical
Publication of JP5874473B2 publication Critical patent/JP5874473B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide an electron camera which realizes low power consumption during display of a live view or recording of a moving image.SOLUTION: The electron camera comprises an imaging device, a motion detection part, and a reading control part. The imaging device captures a subject image within an imaging screen and outputs an image. The motion detection part detects the motion amount of the subject on the basis of the detection of the motion amount between images outputted by the imaging device at a predetermined frame rate. On the basis of the motion amount detected by the motion detection part, the reading control part selects reading in a designated region including at least a region in which the subject moves within the imaging screen and controls the imaging device to output images to be used for the next detection of a motion amount between the images.

Description

本発明は、被写体の動きを検出する機能を有する電子カメラに関する。   The present invention relates to an electronic camera having a function of detecting the movement of a subject.

従来から、電子カメラにおいては、電子カメラ本体の背面に液晶等の表示モニタが備えられている機種が一般的である(例えば、特許文献1参照)。   2. Description of the Related Art Conventionally, in an electronic camera, a model in which a display monitor such as a liquid crystal is provided on the back surface of the electronic camera body is generally used (see, for example, Patent Document 1).

特開2007−251590号公報JP 2007-251590 A

ところで、上記の電子カメラでは、例えば静止画撮影の際、いわゆるライブビュー表示として、構図確認用のスルー画像を表示モニタに表示させる。そのため、撮影者がスルー画像にて構図を確認してレリーズ釦で撮影を行なうまでの電子カメラの使用時間に対して、ライブビュー表示の占める時間の占有率は、高くなる。この場合、電子カメラの撮像素子は、常時、通電中であるため、電力消費が問題となる。   By the way, in the above-mentioned electronic camera, for example, when shooting a still image, a through image for composition confirmation is displayed on a display monitor as a so-called live view display. Therefore, the occupation ratio of the time occupied by the live view display becomes higher than the usage time of the electronic camera until the photographer confirms the composition with the through image and performs photographing with the release button. In this case, since the imaging device of the electronic camera is always energized, power consumption becomes a problem.

そこで、本発明は、上記事情に鑑み、ライブビュー表示中や動画記録中において、低消費電力化を実現する電子カメラを提供することを目的とする。   In view of the above circumstances, an object of the present invention is to provide an electronic camera that achieves low power consumption during live view display or moving image recording.

第1の発明に係る電子カメラは、撮像素子と、動き検出部と、読み出し制御部とを備える。撮像素子は、撮影画面内の被写体の像を撮像し、画像を出力する。動き検出部は、撮像素子が所定のフレームレートで出力する画像間の動き検出量に基づいて、被写体の動き量を検出する。読み出し制御部は、動き検出部が検出した動き量に基づいて、撮影画面内の少なくとも被写体が動く領域を含む指定領域での読み出しを選択して、撮像素子に次の画像間の動き検出量に用いる画像を出力させる。   An electronic camera according to a first invention includes an image sensor, a motion detection unit, and a read control unit. The imaging element captures an image of a subject in the shooting screen and outputs the image. The motion detection unit detects a motion amount of the subject based on a motion detection amount between images output by the image sensor at a predetermined frame rate. Based on the amount of motion detected by the motion detection unit, the readout control unit selects readout in a designated region including at least a region where the subject moves in the shooting screen, and sets the motion detection amount between the next images on the image sensor. Output the image to be used.

第2の発明は、第1の発明において、読み出し制御部は、動き量に基づいて、指定領域として撮影画面の全体からなる第1画像の読み出しと、指定領域として撮影画面内の被写体が動く領域を含む部分領域からなる第2画像の読み出しとの何れか一方を選択する。動き検出部は、撮像素子が現フレームに相当する第1画像を出力した場合には、前フレームに相当する第1画像と、現フレームに相当する第1画像との間で動き検出を行なう。動き検出部は、撮像素子が現フレームに相当する第2画像を出力した場合には、その第2画像のフレームに相当する第1画像の部分領域となる箇所を、第2画像で上書きしてなる第3画像を生成して、第1画像と第3画像との間で動き検出を行なう。   In a second aspect based on the first aspect, the reading control unit reads the first image composed of the entire shooting screen as the designated area based on the amount of movement, and the area in which the subject in the shooting screen moves as the designated area One of the reading of the second image consisting of the partial region including is selected. When the image sensor outputs a first image corresponding to the current frame, the motion detection unit performs motion detection between the first image corresponding to the previous frame and the first image corresponding to the current frame. When the image sensor outputs a second image corresponding to the current frame, the motion detection unit overwrites a portion that becomes a partial region of the first image corresponding to the frame of the second image with the second image. A third image is generated, and motion detection is performed between the first image and the third image.

第3の発明は、第2の発明において、読み出し制御部は、動き量が予め設定した閾値以上の場合、第2画像の読み出しを非連続とする選択を行なう。   In a third aspect based on the second aspect, the readout control unit performs selection so that readout of the second image is not continuous when the amount of motion is equal to or greater than a preset threshold value.

第4の発明は、第2の発明において、読み出し制御部は、動き量が予め設定した閾値未満の場合、第2画像の読み出しを予め設定した回数分連続して選択する。   In a fourth aspect based on the second aspect, when the amount of motion is less than a preset threshold, the readout control unit continuously selects readout of the second image for a preset number of times.

第5の発明は、第2から第4の何れか1の発明において、読み出し制御部は、動き量が大きくなるに従って、部分領域のサイズも大きくなるようにして第2画像の読み出しを選択する。   In a fifth aspect based on any one of the second to fourth aspects, the reading control unit selects reading of the second image so that the size of the partial region increases as the amount of motion increases.

本発明によれば、ライブビュー表示中や動画記録中において、低消費電力化を実現する電子カメラを提供できる。   ADVANTAGE OF THE INVENTION According to this invention, the electronic camera which implement | achieves low power consumption can be provided during live view display or moving image recording.

本実施形態の電子カメラ1の構成を説明するブロック図1 is a block diagram illustrating a configuration of an electronic camera 1 according to an embodiment. 電子カメラ1の動作の一例を示すフローチャートA flowchart showing an example of the operation of the electronic camera 1 第1モードのサブルーチンの一例を示すフローチャートFlowchart showing an example of a first mode subroutine モードに応じた動き量検出処理を説明する図The figure explaining the motion amount detection process according to a mode 擬似フレームの生成の処理を説明する図The figure explaining the production | generation process of a pseudo frame 第1モード及び第2モードでの処理のシーケンスの一例を説明する図The figure explaining an example of the sequence of the process in 1st mode and 2nd mode 第2モードのサブルーチンの一例を示すフローチャートFlowchart showing an example of a second mode subroutine 第3モードのサブルーチンの一例を示すフローチャートFlowchart showing an example of a third mode subroutine 第1モード及び第3モードでの処理のシーケンスの一例を説明する図The figure explaining an example of the sequence of the process in 1st mode and 3rd mode

以下、図面に基づいて本発明の実施の形態を詳細に説明する。なお、本実施形態においては、撮像素子の撮影画面の全体から出力された画像を第1画像と定義し、撮影画面内の被写体が動く領域を含む部分領域が出力された画像を第2画像と定義し、また、第1画像の部分領域となる箇所を、第2画像で上書き(或いは置換)することで生成した擬似フレームを第3画像と定義する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. In the present embodiment, an image output from the entire shooting screen of the image sensor is defined as a first image, and an image in which a partial region including a region in which the subject moves in the shooting screen is output is referred to as a second image. Further, a pseudo frame generated by overwriting (or replacing) a portion that becomes a partial region of the first image with the second image is defined as a third image.

図1は、本実施形態の電子カメラ1の構成を説明するブロック図である。   FIG. 1 is a block diagram illustrating the configuration of the electronic camera 1 of the present embodiment.

電子カメラ1は、図1に示す通り、撮影光学系11と、撮像素子12と、タイミングジェネレータ(以下「TG」という)13と、信号処理部14と、RAM(Random Access Memory)15と、フラッシュメモリ16と、表示モニタ17と、記録インターフェース部(以下「記録I/F部」という)18と、タッチパネル19と、操作部20と、レリーズ釦21と、ASIC(Application Specific Integrated Circuit)22と、データバス23とを備える。   As shown in FIG. 1, the electronic camera 1 includes a photographing optical system 11, an image sensor 12, a timing generator (hereinafter referred to as “TG”) 13, a signal processing unit 14, a RAM (Random Access Memory) 15, a flash A memory 16, a display monitor 17, a recording interface unit (hereinafter referred to as “recording I / F unit”) 18, a touch panel 19, an operation unit 20, a release button 21, an ASIC (Application Specific Integrated Circuit) 22, And a data bus 23.

このうち、RAM15、フラッシュメモリ16、表示モニタ17、記録I/F部18及びASIC22は、データバス23を介して互いに接続されている。また、タッチパネル19、操作部20及びレリーズ釦21は、ASIC22に接続されている。   Among these, the RAM 15, the flash memory 16, the display monitor 17, the recording I / F unit 18, and the ASIC 22 are connected to each other via the data bus 23. The touch panel 19, the operation unit 20, and the release button 21 are connected to the ASIC 22.

撮影光学系11は、ズームレンズと、フォーカスレンズとを含む複数のレンズ群で構成されている。なお、簡単のため、図1では、撮影光学系11を1枚のレンズとして図示する。   The photographing optical system 11 is composed of a plurality of lens groups including a zoom lens and a focus lens. For the sake of simplicity, FIG. 1 shows the photographing optical system 11 as a single lens.

撮像素子12は、撮影画面内の被写体の像を撮像し、画像(アナログの画像信号)を出力する。ここで、撮像素子12は、複数の画素を2次元的に配列し、XYアドレス指定により任意のラインを読み出し可能なCMOS(Complementary Metal−Oxide Semiconductor)型のイメージセンサである。CMOS型のイメージセンサには、画像信号を読み出すための水平走査回路と垂直走査回路(不図示)とが設けられている。撮像素子12は、垂直走査回路にて指定された読み出しラインに基づいて、撮影画面の全体からなる第1画像と、撮影画面内の被写体が動く領域を含む部分領域からなる第2画像との何れか一方を出力する(詳細は後述する)。なお、撮像素子12の撮像面には、R(赤)、G(緑)B(青)の3種類のカラーフィルタが例えばベイヤー配列で配置されている。   The image sensor 12 captures an image of a subject in the shooting screen and outputs an image (analog image signal). Here, the image sensor 12 is a CMOS (Complementary Metal-Oxide Semiconductor) type image sensor in which a plurality of pixels are two-dimensionally arranged and an arbitrary line can be read by XY addressing. A CMOS type image sensor is provided with a horizontal scanning circuit and a vertical scanning circuit (not shown) for reading an image signal. The image sensor 12 is based on the readout line designated by the vertical scanning circuit, and either the first image composed of the entire photographing screen or the second image composed of a partial region including a region in which the subject moves in the photographing screen. One of them is output (details will be described later). Note that three types of color filters of R (red), G (green), and B (blue) are arranged on the imaging surface of the imaging device 12 in, for example, a Bayer array.

ここで、撮像素子12は、レリーズ釦21の全押し操作に応答して記録用の画像(本画像)を撮像する。また、撮像素子12は、撮影待機時にも所定のフレームレート(例えば、30fps)で観測用の画像(スルー画像)を連続的に撮像する(ライブビュー表示)。   Here, the image sensor 12 captures a recording image (main image) in response to the full-pressing operation of the release button 21. In addition, the imaging device 12 continuously captures images for observation (through images) at a predetermined frame rate (for example, 30 fps) even during shooting standby (live view display).

TG13は、撮像素子12の電荷蓄積時間及び画像信号の読み出しを制御する。具体的には、ASIC22からの指示に従い撮像素子12及び信号処理部14の各々へ向けて制御信号を送信し、駆動タイミングを制御する。そして、撮像素子12が出力するアナログの画像信号は、信号処理部14に入力される。   The TG 13 controls the charge accumulation time of the image sensor 12 and the reading of the image signal. Specifically, a control signal is transmitted to each of the image sensor 12 and the signal processing unit 14 in accordance with an instruction from the ASIC 22 to control drive timing. The analog image signal output from the image sensor 12 is input to the signal processing unit 14.

信号処理部14は、撮像素子12が出力する画像信号に対してアナログ信号処理を施すアナログフロントエンド回路(AFE)と、そのAFEでアナログ信号処理が施された画像信号に対して、デジタル信号処理を施すデジタルフロントエンド回路(DFE)とを有する。ここで、信号処理部14のAFEは、アナログの画像信号に対して相関二重サンプリングやゲイン調整をした後、アナログの画像信号をデジタルの画像信号に変換する(A/D変換)処理等を行なう。また、信号処理部14のDFEは、A/D変換されたデジタルの画像信号におけるノイズ成分の除去等を行なう。   The signal processing unit 14 performs analog signal processing on an analog front end circuit (AFE) that performs analog signal processing on the image signal output from the image sensor 12 and digital signal processing on the image signal that has been subjected to analog signal processing by the AFE A digital front-end circuit (DFE). Here, the AFE of the signal processing unit 14 performs correlated double sampling or gain adjustment on the analog image signal, and then performs a process of converting the analog image signal into a digital image signal (A / D conversion). Do. The DFE of the signal processing unit 14 removes noise components from the A / D converted digital image signal.

この信号処理部14が出力する画像信号は、RGB信号の画像データとして、ライブビュー表示の際、ASIC22内の第1フレームメモリ22c、又は、第2フレームメモリ22dに一時的に順次記録(格納)される。第1フレームメモリ22c、第2フレームメモリ22dは、画像処理の前工程(動き検出)に用いるためのバッファメモリである。なお、第1フレームメモリ22c、第2フレームメモリ22dは、例えば、前工程に必要なフレーム数分の画像データを各々格納することができる容量を有している。ASIC22の動き検出部22aは、第1フレームメモリ22cと第2フレームメモリ22dとに記録された画像データを用いて、フレーム間差分を行なうことにより、動き量を検出する(詳細は後述する)。   The image signal output by the signal processing unit 14 is temporarily and sequentially recorded (stored) in the first frame memory 22c or the second frame memory 22d in the ASIC 22 as image data of RGB signals during live view display. Is done. The first frame memory 22c and the second frame memory 22d are buffer memories for use in a preprocess (motion detection) of image processing. The first frame memory 22c and the second frame memory 22d have, for example, a capacity capable of storing image data for the number of frames necessary for the previous process. The motion detector 22a of the ASIC 22 detects the amount of motion by performing inter-frame differences using the image data recorded in the first frame memory 22c and the second frame memory 22d (details will be described later).

RAM15は、例えば、記録用の画像の画像データを一時的に記録するバッファメモリである。つまり、RAM15は、画像処理の後工程(各種の画像処理)に用いるためのバッファメモリである。   The RAM 15 is a buffer memory that temporarily records image data of a recording image, for example. In other words, the RAM 15 is a buffer memory for use in subsequent steps of image processing (various image processing).

フラッシュメモリ16は、電子カメラ1の制御を行なうプログラム等を予め記憶している不揮発性のメモリである。なお、ASIC22は、記録用の画像をフラッシュメモリ16に記録しても良い。また、表示モニタ17は、ASIC22の指示に応じて各種画像や電子カメラ1の操作メニュー等を表示する。   The flash memory 16 is a non-volatile memory that stores a program for controlling the electronic camera 1 in advance. The ASIC 22 may record a recording image in the flash memory 16. In addition, the display monitor 17 displays various images, an operation menu of the electronic camera 1, and the like according to instructions from the ASIC 22.

また、記録I/F部18には、着脱自在の記録媒体30を接続するためのコネクタ(不図示)が形成されている。そして、記録I/F部18は、そのコネクタに接続された記録媒体30にアクセスして記録用の画像の記録処理等を行なう。この記録媒体30は、例えば、不揮発性のメモリカードである。図1では、コネクタに接続された後の記録媒体30を示している。   The recording I / F unit 18 is formed with a connector (not shown) for connecting a detachable recording medium 30. Then, the recording I / F unit 18 accesses the recording medium 30 connected to the connector and performs recording processing of an image for recording. The recording medium 30 is, for example, a non-volatile memory card. FIG. 1 shows the recording medium 30 after being connected to the connector.

タッチパネル19は、タッチパネル表面に接触した指先等の位置を検出する。そして、タッチパネル19は、検出した位置情報をASIC22に出力することで撮影者からの操作を受け付ける。なお、タッチパネル19は、表示モニタ17と同等の大きさを有する透明なパネルで構成されており、表示モニタ17の表面全体に積層して配置される。また、本実施形態の例では、タッチパネル19は、静電気による電気信号を感知する静電容量式のパネルで構成されている。タッチパネル19の構成は、静電容量式に限られず、圧力による電圧の変化を検出する抵抗膜式のパネルを用いても良い。操作部20は、撮影者の操作を受け付ける複数の釦(不図示)を有している。   The touch panel 19 detects the position of a fingertip or the like that has touched the touch panel surface. The touch panel 19 receives the operation from the photographer by outputting the detected position information to the ASIC 22. The touch panel 19 is composed of a transparent panel having a size equivalent to that of the display monitor 17 and is laminated on the entire surface of the display monitor 17. Moreover, in the example of this embodiment, the touch panel 19 is comprised with the electrostatic capacitance type panel which senses the electrical signal by static electricity. The configuration of the touch panel 19 is not limited to the capacitance type, and a resistive film type panel that detects a change in voltage due to pressure may be used. The operation unit 20 has a plurality of buttons (not shown) that accept operations of the photographer.

レリーズ釦21は、半押し操作(撮影前における自動露出(AE)、自動焦点合わせ(AF:Auto Focus)等の動作開始)の指示入力と全押し操作(撮像動作開始)との指示入力とを受け付ける。   The release button 21 receives an instruction input for a half-press operation (automatic exposure (AE), automatic focusing (AF: auto focus) operation before shooting) and a full-press operation (imaging operation start). Accept.

ASIC22は、各種演算及び電子カメラ1の制御を行なうプロセッサである。ASIC22は、フラッシュメモリ16に予め格納されたプログラムを実行することにより、電子カメラ1の各部の制御を行なう。また、ASIC22は、上記の画像処理(前工程や後工程)の機能を有する。例えば、ASIC22は、RAM15に記録されている画像データを読み出し、必要に応じて各種の画像処理(例えば、輪郭強調処理、色補間処理、ホワイトバランス処理等)を施す。   The ASIC 22 is a processor that performs various calculations and control of the electronic camera 1. The ASIC 22 controls each part of the electronic camera 1 by executing a program stored in advance in the flash memory 16. The ASIC 22 has a function of the image processing (pre-process and post-process). For example, the ASIC 22 reads the image data recorded in the RAM 15 and performs various image processing (for example, edge enhancement processing, color interpolation processing, white balance processing, etc.) as necessary.

また、ASIC22は、動き検出部22a及び読み出し制御部22bとしても機能する。また、ASIC22は、上述した第1フレームメモリ22c及び第2フレームメモリ22dを有する。   The ASIC 22 also functions as a motion detection unit 22a and a read control unit 22b. The ASIC 22 includes the first frame memory 22c and the second frame memory 22d described above.

動き検出部22aは、撮像素子12が所定のフレームレートで出力する画像間の差分に基づいて、追尾対象である注目被写体の動き量を検出する。具体的には、動き検出部22aは、先ず、撮影画面内を複数のブロックに分割して各々の画像内における注目被写体の領域の位置を検出する。続いて、動き検出部22aは、時系列の複数の画像間にわたって注目被写体として例えば人物の輪郭形状を含む領域をブロック単位で追尾する。一例として、先ず、動き検出部22aは、第1フレームメモリ22c又は第2フレームメモリ22dに記録されたスルー画像の元になる画像データを用いて注目被写体の位置を検出する。この場合、動き検出部22aは、公知のフレーム間差分により注目被写体の位置の動きを検出し、順次、動きベクトルを算出していく。これにより、動き検出部22aは、注目被写体(人物の輪郭形状)の動きを検出して、撮影画面内でその注目被写体を追尾する。なお、動き検出部22aは、上記手法に限られず、他の公知の追尾手段によって追尾しても良い。   The motion detection unit 22a detects the amount of motion of the subject of interest that is the tracking target, based on the difference between images output by the image sensor 12 at a predetermined frame rate. Specifically, the motion detection unit 22a first divides the shooting screen into a plurality of blocks, and detects the position of the region of interest in each image. Subsequently, the motion detection unit 22a tracks, for example, a region including a contour shape of a person as a subject of interest across a plurality of time-series images in units of blocks. As an example, first, the motion detection unit 22a detects the position of a subject of interest using image data that is a source of a through image recorded in the first frame memory 22c or the second frame memory 22d. In this case, the motion detection unit 22a detects the motion of the position of the subject of interest based on a known inter-frame difference, and sequentially calculates a motion vector. Thereby, the motion detection unit 22a detects the movement of the subject of interest (the contour shape of the person) and tracks the subject of interest within the shooting screen. In addition, the motion detection part 22a is not restricted to the said method, You may track by another well-known tracking means.

読み出し制御部22bは、動き検出部22aが検出した動き量に基づいて、撮影画面内の少なくとも被写体が動く領域を含む指定領域での読み出しを選択して、撮像素子12に次の画像間の差分に用いる画像を出力させる。具体的には、読み出し制御部22bは、動き量に基づいて、指定領域として第1画像の読み出しと、指定領域として第2画像の読み出しとの何れか一方を選択する。そして、読み出し制御部22bは、第1画像の読み出しを選択する場合には、撮像素子12の垂直走査回路に全てのライン番号の読み出しを指示する。一方、読み出し制御部22bは、第2画像の読み出しを選択する場合には、撮像素子12の垂直走査回路に、部分的に読み出すライン番号を指示する。   Based on the amount of motion detected by the motion detection unit 22a, the readout control unit 22b selects readout in a designated region including at least a region in which the subject moves within the shooting screen, and causes the image sensor 12 to perform a difference between the next images. The image used for is output. Specifically, the read control unit 22b selects one of reading of the first image as the designated area and reading of the second image as the designated area based on the amount of motion. Then, when selecting reading of the first image, the reading control unit 22b instructs the vertical scanning circuit of the image sensor 12 to read all line numbers. On the other hand, when the reading control unit 22b selects reading of the second image, the reading control unit 22b instructs the vertical scanning circuit of the image pickup device 12 about the line number to be partially read.

ここで、動き検出部22aは、撮像素子12が現フレームに相当する第1画像を出力した場合には、前フレームに相当する第1画像と、現フレームに相当する第1画像との間で動き検出を行なう。また、動き検出部22aは、撮像素子12が現フレームに相当する第2画像を出力した場合には、その第2画像の前フレームに相当する第1画像の部分領域となる箇所を、第2画像で上書き(或いは置換)してなる第3画像(擬似フレーム)を生成して、第1画像と第3画像との間で動き検出を行なう。これにより、本実施形態では、第1画像と比較して第2画像を出力する分、電力消費を抑制することができる。なお、擬似フレームは、元来、第1画像であるので、動き検出部22aは、前フレームが擬似フレームの場合には、擬似フレームを第1画像相当であるとみなして、現フレーム(第1画像又は擬似フレーム)との間で動き検出を行なう。   Here, when the image pickup device 12 outputs the first image corresponding to the current frame, the motion detection unit 22a is configured between the first image corresponding to the previous frame and the first image corresponding to the current frame. Perform motion detection. In addition, when the image sensor 12 outputs the second image corresponding to the current frame, the motion detection unit 22a sets the second region as a partial region of the first image corresponding to the previous frame of the second image. A third image (pseudo frame) overwritten (or replaced) with the image is generated, and motion detection is performed between the first image and the third image. Thereby, in this embodiment, power consumption can be suppressed by the amount of outputting the second image compared to the first image. Since the pseudo frame is originally the first image, when the previous frame is a pseudo frame, the motion detection unit 22a regards the pseudo frame as equivalent to the first image, and determines the current frame (first frame). Motion detection is performed between an image and a pseudo frame.

また、読み出し制御部22aは、動き量が予め設定した閾値以上の場合、第2画像の読み出しを非連続とする選択を行なっても良い。つまり、第2画像の読み出しを非連続とすることにより、読み出し制御部22aは、動き量が予め設定した閾値未満の被写体に比べて、動きが速い注目被写体に対しても第1画像にて位置を正確に特定して追尾することができる。なお、閾値は、予めフラッシュメモリ16に記録されており、読み出し制御部22aは、その閾値をフラッシュメモリ16から読み出す。   In addition, when the amount of motion is equal to or greater than a preset threshold, the read control unit 22a may perform selection so that reading of the second image is not continuous. That is, by making the reading of the second image discontinuous, the reading control unit 22a can also position the subject in the first image even for a subject of interest that moves faster than a subject whose amount of movement is less than a preset threshold. Can be accurately identified and tracked. The threshold value is recorded in advance in the flash memory 16, and the read control unit 22 a reads the threshold value from the flash memory 16.

また、読み出し制御部22aは、動き量が予め設定した閾値未満の場合、第2画像の読み出しを予め設定した回数分連続して選択しても良い。つまり、動き量が予め設定した閾値未満であれば、読み出し制御部22aは、第2画像を連続して読み出しても、注目被写体が第2画像の領域からはみ出すことを極力、防ぐ。なお、予め設定した回数は、ここでは3回とする。つまり、読み出し制御部22aは、3回連続して第2画像を読み出すことで、その分、電力消費を抑制することができる。なお、予め設定した回数(3回)は、一例であって、この3回に限定されない。   In addition, when the amount of motion is less than a preset threshold, the readout control unit 22a may continuously select readout of the second image for a preset number of times. That is, if the amount of motion is less than a preset threshold, the read control unit 22a prevents the target subject from protruding from the region of the second image as much as possible even when the second image is read continuously. Note that the preset number of times is three here. That is, the reading control unit 22a can suppress power consumption by reading the second image three times in succession. Note that the preset number of times (three times) is an example, and is not limited to these three times.

次に、本実施形態の電子カメラ1の動作の一例を説明する。図2は、電子カメラ1の動作の一例を示すフローチャートである。ここで、電子カメラ1の電源がオンされた後、図1に示す操作部20が、静止画撮影を行なう撮影モードの入力を受け付けると、ASIC22は、図2に示すフローの処理を開始させる。   Next, an example of the operation of the electronic camera 1 of the present embodiment will be described. FIG. 2 is a flowchart illustrating an example of the operation of the electronic camera 1. Here, after the power of the electronic camera 1 is turned on, when the operation unit 20 shown in FIG. 1 receives an input of a shooting mode for taking a still image, the ASIC 22 starts the processing of the flow shown in FIG.

ステップS101:ASIC22は、TG13を介して、撮像素子12にスルー画像の取得を指示する。これにより、ASIC22は、例えば、30fpsのフレームレートでスルー画像を表示モニタ17に表示させる。   Step S101: The ASIC 22 instructs the image sensor 12 to acquire a through image via the TG 13. Thereby, the ASIC 22 displays the through image on the display monitor 17 at a frame rate of 30 fps, for example.

ステップS102:ASIC22は、追尾対象となる注目被写体の動体検出処理を行なう。具体的には、ASIC22は、スルー画像の元になる画像データを解析して被写体の輪郭を検出する。例えば、ASIC22は、画像データに基づいて画素値が急変する部分を算出し、その画素値が急変する部分を輪郭として検出する。   Step S102: The ASIC 22 performs a moving object detection process for the subject of interest to be tracked. Specifically, the ASIC 22 analyzes the image data that is the source of the through image and detects the contour of the subject. For example, the ASIC 22 calculates a portion where the pixel value changes suddenly based on the image data, and detects the portion where the pixel value changes suddenly as a contour.

なお、ASIC22は、他の動体検出処理を採用しても良い。例えば、ASIC22は、撮影者が表示モニタ17の表示画面上において注目被写体の周囲を指先でなぞった場合、注目被写体を囲む領域の位置座標の入力をタッチパネル19を介して受け付ける。これにより、ASIC22は、追尾対象となる注目被写体を検出することができる。   The ASIC 22 may employ other moving object detection processing. For example, when the photographer traces the periphery of the subject of interest with the fingertip on the display screen of the display monitor 17, the ASIC 22 receives input of the position coordinates of the region surrounding the subject of interest via the touch panel 19. As a result, the ASIC 22 can detect the target subject to be tracked.

ステップS103:ASIC22は、第1モードの設定を行なう。ここで、第1モードは、注目被写体が動く領域を含む指定領域として撮影画面の全体からなる第1画像の読み出しを2回連続して行なった後、指定領域として撮影画面内の注目被写体が動く領域を含む部分領域からなる第2画像の読み出しを行なうモードである。ASIC22は、図2に示すフローの処理が開始された場合、第1モードの設定を初期設定の位置づけとして行なう。それ以降、ASIC22は、後述する通り、注目被写体の動き量に応じて、第2モードの設定と第3モードの設定との何れか一方を選択する。   Step S103: The ASIC 22 sets the first mode. Here, in the first mode, after the first image consisting of the entire photographing screen is read twice as a designated region including a region where the subject of interest moves, the subject of interest within the photographing screen moves as the designated region. In this mode, the second image composed of the partial area including the area is read. When the processing of the flow shown in FIG. 2 is started, the ASIC 22 sets the first mode as the initial setting. Thereafter, as will be described later, the ASIC 22 selects either the second mode setting or the third mode setting according to the amount of movement of the subject of interest.

ステップS104:ASIC22は、モードに応じた動き検出処理をモード別のサブルーチンにより行なう(詳細は後述する)。   Step S104: The ASIC 22 performs motion detection processing according to the mode by a subroutine for each mode (details will be described later).

ステップS105:ASIC22は、注目被写体の動き量が閾値以上か否かを判定する。動き量が閾値以上の場合(ステップS105:Yes)、ASIC22は、ステップS106の処理に移行する。一方、動き量が閾値未満の場合(ステップS105:No)、ASIC22は、ステップS107の処理に移行する。   Step S105: The ASIC 22 determines whether or not the amount of movement of the subject of interest is greater than or equal to a threshold value. If the amount of motion is equal to or greater than the threshold (step S105: Yes), the ASIC 22 proceeds to the process of step S106. On the other hand, when the amount of motion is less than the threshold (step S105: No), the ASIC 22 proceeds to the process of step S107.

ステップS106:ASIC22は、第2モードの設定を行ない、ステップS108の処理に移行する。ここで、第2モードは、動き量が予め設定した閾値以上の場合、第2画像の読み出しを非連続とするモードである。   Step S106: The ASIC 22 sets the second mode, and proceeds to the process of step S108. Here, the second mode is a mode in which reading of the second image is discontinuous when the amount of motion is equal to or greater than a preset threshold value.

ステップS107:ASIC22は、第3モードの設定を行ない、ステップS108の処理に移行する。ここで、第3モードは、動き量が予め設定した閾値未満の場合、第2画像の読み出しを予め設定した回数分連続して選択するモードである。本実施形態では、第2画像の読み出しの回数を3回とする。   Step S107: The ASIC 22 sets the third mode, and proceeds to the process of step S108. Here, the third mode is a mode in which, when the amount of motion is less than a preset threshold, the second image is continuously read for the preset number of times. In the present embodiment, the second image is read three times.

ステップS108:ASIC22は、レリーズ釦21が全押し操作の指示入力を受け付けたか否かを判定する。レリーズ釦21が全押し操作の指示入力を受け付けた場合(ステップS108:Yes)、ASIC22は、ステップS109の処理に移行する。一方、レリーズ釦21が全押し操作の指示入力を受け付けていない場合(ステップS108:No)、ASIC22は、ステップS104の処理に戻り、再度、モードに応じた動き検出処理を行なう。   Step S108: The ASIC 22 determines whether or not the release button 21 has received an instruction input for a full press operation. When the release button 21 receives an instruction input for a full-press operation (step S108: Yes), the ASIC 22 proceeds to the process of step S109. On the other hand, when the release button 21 has not received an instruction input for a full-press operation (step S108: No), the ASIC 22 returns to the process of step S104 and performs the motion detection process corresponding to the mode again.

ステップS109:ASIC22は、記録用の画像(本画像)の撮影処理を行なう。具体的には、ASIC22は、TG13を介して、レリーズ釦21による全押し操作の指示入力に応答して、露出値、絞り、シャッタ速度等の撮影条件に基づいて撮像素子12を駆動する。信号処理部14は、画像信号のゲイン調整やA/D変換等を行なう。信号処理部14が出力する画像信号は、RAM15に画像データとして一時記録される。ASIC22は、RAM15に記録されている画像データを読み出し、各種の画像処理(階調変換処理、輪郭強調処理、ホワイトバランス処理等)を施す。   Step S109: The ASIC 22 performs a photographing process for a recording image (main image). Specifically, the ASIC 22 drives the image sensor 12 based on photographing conditions such as an exposure value, an aperture, and a shutter speed in response to an instruction input of a full press operation by the release button 21 via the TG 13. The signal processing unit 14 performs gain adjustment, A / D conversion, and the like of the image signal. The image signal output from the signal processing unit 14 is temporarily recorded as image data in the RAM 15. The ASIC 22 reads the image data recorded in the RAM 15 and performs various image processing (gradation conversion processing, contour enhancement processing, white balance processing, etc.).

ステップS110:ASIC22は、本画像の記録処理を行なう。具体的には、ASIC22は、各種の画像処理が施された本画像を、記録I/F部18を介して、記録媒体30に記録する。そして、ASIC22は、図2に示すフローを終了させる。   Step S110: The ASIC 22 performs a recording process for the main image. Specifically, the ASIC 22 records the main image on which various image processes have been performed on the recording medium 30 via the recording I / F unit 18. Then, the ASIC 22 ends the flow shown in FIG.

次に、第1モードの動き検出処理について説明する。   Next, the motion detection process in the first mode will be described.

図3は、第1モードのサブルーチンの一例を示すフローチャートである。図4は、モードに応じた動き量検出処理を説明する図である。図5は、擬似フレームの生成の処理を説明する図である。図6は、第1モード及び第2モードでの処理のシーケンスの一例を説明する図である。図6では、第1フレームメモリ22c及び第2フレームメモリ22dに順次記録される画像を模式的に示している。ここで、図6において、各フレームには、シーケンスの番号が付与されている。なお、図中の丸付きの番号は、第2画像を表している。そして、図中のダッシュ付きの番号は、第2画像で上書きした擬似フレームを表している。   FIG. 3 is a flowchart illustrating an example of the first mode subroutine. FIG. 4 is a diagram illustrating the motion amount detection process according to the mode. FIG. 5 is a diagram for explaining the process of generating a pseudo frame. FIG. 6 is a diagram illustrating an example of a processing sequence in the first mode and the second mode. FIG. 6 schematically shows images sequentially recorded in the first frame memory 22c and the second frame memory 22d. Here, in FIG. 6, a sequence number is assigned to each frame. In addition, the number with a circle in a figure represents the 2nd image. A number with a dash in the figure represents a pseudo frame overwritten with the second image.

図3では、説明をわかりやすくするため、撮像素子12側の制御とASIC22側との制御のシーケンスの処理を例示している(後述する図7、図8も同様)。図3において、先ず、ASIC22の読み出し制御部22bが、第1画像(全画面)の読み出しの指示を行なうことにより、撮像素子12は、ステップS201の処理を開始する。なお、ASIC22は、撮像素子12への指示をTG13を介して行なう。また、フローの処理では、フレームの番号をnで一般化しているが、簡単のため撮像素子12が読み出し開始時のフレームの番号をn=1として説明する。   In FIG. 3, in order to make the explanation easy to understand, the processing of the control sequence on the image sensor 12 side and the control on the ASIC 22 side is illustrated (the same applies to FIGS. 7 and 8 described later). In FIG. 3, first, the readout control unit 22b of the ASIC 22 instructs the readout of the first image (full screen), whereby the imaging device 12 starts the process of step S201. Note that the ASIC 22 gives an instruction to the image sensor 12 via the TG 13. In the flow processing, the frame number is generalized by n, but for simplicity, the description will be made assuming that the frame number at the start of reading by the image sensor 12 is n = 1.

ステップS201:撮像素子12は、1フレーム目(n=1)の第1画像を出力する。すなわち、撮像素子12は、撮像された入射光を有効画素領域の全体で読み出して、1フレーム目の第1画像として出力する。ASIC22は、この第1画像の画像データを図6に示す第1フレームメモリ22cに記録する。   Step S201: The image sensor 12 outputs the first image of the first frame (n = 1). That is, the image sensor 12 reads the captured incident light over the entire effective pixel region and outputs it as the first image of the first frame. The ASIC 22 records the image data of the first image in the first frame memory 22c shown in FIG.

ステップS202:撮像素子12は、(n+1)フレーム目の第1画像を出力する。具体例として、撮像素子12は、2フレーム目の第1画像を出力する。ASIC22は、この第1画像の画像データを図6に示す第2フレームメモリ22dに記録する。   Step S202: The image sensor 12 outputs the first image of the (n + 1) th frame. As a specific example, the imaging device 12 outputs the first image of the second frame. The ASIC 22 records the image data of the first image in the second frame memory 22d shown in FIG.

ステップS203:ASIC22の動き検出部22aは、フレーム間差分に基づく動き検出処理を行なう。具体的には、図4に示す通り、画像を複数のブロックに分割する。各々のブロックには、複数の画素が含まれる。そして、動き検出部22aは、ブロック毎に、隣り合うフレーム間(例えば、図4(a)に示す2フレーム目の第1画像と、図4(b)に示す1フレーム目の第1画像)での差分により動き(動きベクトル)を検出する。これにより、動き検出部22aは、動きベクトルを有することにより差分が生じたブロックを検出する。例えば、図4(c)の差分画像に示す通り、時刻t1での注目被写体Pの位置から時刻t2での注目被写体Pの位置へと移動したことにより、動き検出部22aは、斜線で囲むブロックについて、動きを検出する。   Step S203: The motion detector 22a of the ASIC 22 performs a motion detection process based on the inter-frame difference. Specifically, as shown in FIG. 4, the image is divided into a plurality of blocks. Each block includes a plurality of pixels. Then, for each block, the motion detection unit 22a is between adjacent frames (for example, the first image of the second frame shown in FIG. 4A and the first image of the first frame shown in FIG. 4B). The motion (motion vector) is detected by the difference at. Thereby, the motion detection unit 22a detects a block in which a difference occurs due to the motion vector. For example, as shown in the difference image in FIG. 4C, the movement detection unit 22a is surrounded by a diagonal line by moving from the position of the subject of interest P at the time t1 to the position of the subject of interest P at the time t2. Detect motion.

ステップS204:ASIC22の読み出し制御部22bは、動きを検出したブロックを含む複数の水平方向のライン番号(座標データ)を送信する。すなわち、読み出し制御部22bは、撮像素子12の垂直走査回路に第2画像の読み出しを指示する。なお、図4では、ブロックに分割された画像を撮像素子12の有効撮像領域に対応付けており、読み出し制御部22bは、ライン番号5〜8の読み出しを指示する。また、読み出し制御部22aは、動き量が大きくなるに従って、部分領域のサイズも大きくなるようにして第2画像の読み出しを選択しても良い。これにより、読み出し制御部22aは、注目被写体を見失うことを防ぎながら、電力消費を抑制することができる。   Step S204: The reading control unit 22b of the ASIC 22 transmits a plurality of horizontal line numbers (coordinate data) including the block in which the motion is detected. That is, the read control unit 22b instructs the vertical scanning circuit of the image sensor 12 to read the second image. In FIG. 4, the image divided into blocks is associated with the effective imaging area of the imaging device 12, and the readout control unit 22 b instructs readout of line numbers 5 to 8. Further, the reading control unit 22a may select reading of the second image so that the size of the partial area increases as the amount of motion increases. Thereby, the read control unit 22a can suppress power consumption while preventing the subject of interest from being lost.

ステップS205:撮像素子12は、第2画像の読み出しのライン番号(座標データ)を受信する。具体的には、撮像素子12は、読み出しラインをフラグのオン、オフで管理しており、垂直走査回路に第2画像の読み出しのライン番号が入力されると、読み出すライン番号についてフラグをオンにする。   Step S205: The image sensor 12 receives the line number (coordinate data) for reading the second image. Specifically, the imaging device 12 manages the readout line by turning on and off the flag, and when the readout line number of the second image is input to the vertical scanning circuit, the flag is turned on for the readout line number. To do.

ステップS206:撮像素子12は、(n+2)フレーム目の第2画像を出力する。具体的には、撮像素子12は、有効画素領域のうち、フラグがオンになったライン番号の部分領域のみ読み出して、3フレーム目の第2画像の画像信号として出力する。図5(a)では、第2画像を各ブロックに分割して模式的に表している。そして、ASIC22は、第2画像の画像信号を受信して、第2フレームメモリ22dに記録する。   Step S206: The image sensor 12 outputs the second image of the (n + 2) th frame. Specifically, the image sensor 12 reads out only the partial region of the line number for which the flag is turned on from the effective pixel region, and outputs it as the image signal of the second image of the third frame. In FIG. 5A, the second image is schematically shown by being divided into blocks. Then, the ASIC 22 receives the image signal of the second image and records it in the second frame memory 22d.

ステップS207:ASIC22は、(n+1)フレーム目の第1画像に第2画像を上書きして、(n+2)フレームの第3画像(擬似フレーム)を生成する。具体的には、ASIC22は、3フレーム目の第2画像(図5(a)参照)を2フレーム目の第1画像(図5(b)参照)に上書きすることにより、3フレーム目として第3画像(擬似フレーム)を生成する(図5(c)参照)。なお、説明の便宜上、各画像はブロックで分割されている。また、図6では、3フレーム目として第3画像(擬似フレーム3’)が第2フレームメモリ22dに記録されたことを表している。   Step S207: The ASIC 22 overwrites the second image on the first image of the (n + 1) th frame to generate a third image (pseudo frame) of the (n + 2) frame. Specifically, the ASIC 22 overwrites the second image of the third frame (see FIG. 5A) with the first image of the second frame (see FIG. 5B) as the third frame. Three images (pseudo frames) are generated (see FIG. 5C). For convenience of explanation, each image is divided into blocks. FIG. 6 shows that the third image (pseudo frame 3 ') is recorded in the second frame memory 22d as the third frame.

ステップS208:読み出し制御部22bは、次のフレームの番号(n=n+3)のセットを行なう。具体的には、読み出し制御部22bは、次のフレームの番号(n=4)をセットする。   Step S208: The read control unit 22b sets the number of the next frame (n = n + 3). Specifically, the read control unit 22b sets the number of the next frame (n = 4).

以上より、動き検出部22aは、第1モードに応じた動き検出処理を終了し、図2に示すステップS105の処理に移行する。そして、上述した通り、ASIC22は、動き量が閾値以上か否かを判定する。   As described above, the motion detection unit 22a ends the motion detection process according to the first mode, and proceeds to the process of step S105 illustrated in FIG. Then, as described above, the ASIC 22 determines whether or not the motion amount is equal to or greater than the threshold value.

動き量が閾値以上の場合には、ASIC22は、第2モードを設定する。そして、全押しの指示入力がない場合には、ASIC22は、再度、ステップS104の処理に移行し、第2モードの動き検出処理を行なう。   If the amount of motion is greater than or equal to the threshold, the ASIC 22 sets the second mode. If there is no full-press instruction input, the ASIC 22 proceeds to the process of step S104 again, and performs the motion detection process in the second mode.

一方、動き量が閾値未満の場合には、ASIC22は、第3モードを設定する。そして、全押しの指示入力がない場合には、ASIC22は、再度、ステップS104の処理に移行し、第3モードの動き検出処理を行なう。なお、ライブビュー表示の場合には、例えば、第1フレームメモリ22c又は第2フレームメモリ22dに順次記録された第1画像(擬似フレームも含む)は、表示モニタ17に順次出力される。   On the other hand, when the amount of motion is less than the threshold, the ASIC 22 sets the third mode. If there is no full-press instruction input, the ASIC 22 proceeds to the process of step S104 again and performs the motion detection process in the third mode. In the case of live view display, for example, the first images (including pseudo frames) sequentially recorded in the first frame memory 22c or the second frame memory 22d are sequentially output to the display monitor 17.

以下、第2モード及び第3モードの動き検出処理について説明する。先ず、第2モードの動き検出処理について説明する。   Hereinafter, the motion detection processing in the second mode and the third mode will be described. First, the motion detection process in the second mode will be described.

図7は、第2モードのサブルーチンの一例を示すフローチャートである。第2モードでは、読み出し制御部22bは、一例として、第1画像の読み出しと第2画像の読み出しとを交互に行なう。これにより、第2モードでは、注目被写体の動きに伴う画質の劣化を防ぐことができる。なお、フローの処理では、図6を参照して説明する。   FIG. 7 is a flowchart illustrating an example of the second mode subroutine. In the second mode, as an example, the read control unit 22b alternately reads the first image and the second image. Thereby, in the second mode, it is possible to prevent the deterioration of the image quality due to the movement of the subject of interest. The flow process will be described with reference to FIG.

図7において、先ず、読み出し制御部22bが、第1画像の読み出しの指示を行なうことにより、撮像素子12は、ステップS301の処理を開始する。ここで、上述した第1モードから第2モードに切り替っているため、読み出し制御部22bは、第2モード時に4フレーム目の第1画像の読み出しの指示を行なう。   In FIG. 7, first, the reading control unit 22b instructs the reading of the first image, whereby the imaging device 12 starts the process of step S301. Here, since the first mode is switched to the second mode, the read control unit 22b instructs to read the first image of the fourth frame in the second mode.

ステップS301:撮像素子12は、4フレーム目(n=4)の第1画像を出力する。すなわち、撮像素子12は、有効画素領域の全体で読み出して、4フレーム目の第1画像として出力する。ASIC22は、この第1画像の画像データを図6に示す第1フレームメモリ22cに記録する。   Step S301: The image sensor 12 outputs the first image of the fourth frame (n = 4). That is, the image sensor 12 reads the entire effective pixel area and outputs it as the first image of the fourth frame. The ASIC 22 records the image data of the first image in the first frame memory 22c shown in FIG.

ステップS302:動き検出部22aは、フレーム間差分に基づく動き検出処理を行なう。具体的には、動き検出部22aは、図6に示す通り、第2フレームメモリ22dに記録されている3フレーム目の第3画像(擬似フレーム3’)と、第1フレームメモリ22cに記録されている4フレーム目の第1画像4とを用いて、フレーム間差分に基づく動き検出処理を行なう。   Step S302: The motion detector 22a performs a motion detection process based on the inter-frame difference. Specifically, as shown in FIG. 6, the motion detection unit 22a records the third image (pseudo frame 3 ′) of the third frame recorded in the second frame memory 22d and the first frame memory 22c. The motion detection process based on the interframe difference is performed using the first image 4 of the fourth frame.

ステップS303:読み出し制御部22bは、動きを検出したブロックを含む複数の水平方向のライン番号(座標データ)を送信する。すなわち、読み出し制御部22bは、撮像素子12の垂直走査回路に第2画像の読み出しを指示する。   Step S303: The read control unit 22b transmits a plurality of horizontal line numbers (coordinate data) including the block in which the motion is detected. That is, the read control unit 22b instructs the vertical scanning circuit of the image sensor 12 to read the second image.

ステップS304:撮像素子12は、第2画像の読み出しのライン番号を受信する。具体的には、上述した通り、撮像素子12は、垂直走査回路に第2画像の読み出しのライン番号が入力されると、読み出すライン番号についてフラグをオンにする。   Step S304: The image sensor 12 receives the line number for reading the second image. Specifically, as described above, when the line number for reading the second image is input to the vertical scanning circuit, the image sensor 12 turns on the flag for the line number to be read.

ステップS305:撮像素子12は、(n+1)フレーム目の第2画像を出力する。具体的には、撮像素子12は、有効画素領域のうち、フラグがオンになったライン番号の部分領域のみ読み出して、5フレーム目の第2画像の画像信号として出力する。そして、ASIC22は、第2画像の画像信号を受信して、第1フレームメモリ22cに記録する。   Step S305: The image sensor 12 outputs a second image of the (n + 1) th frame. Specifically, the image sensor 12 reads out only the partial region of the line number for which the flag is turned on from the effective pixel region, and outputs it as the image signal of the second image of the fifth frame. Then, the ASIC 22 receives the image signal of the second image and records it in the first frame memory 22c.

ステップS306:ASIC22は、nフレーム目の第1画像に第2画像を上書きして、(n+1)フレームの第3画像(擬似フレーム)を生成する。具体的には、ASIC22は、5フレーム目の第2画像を4フレーム目の第1画像に上書きすることにより、5フレーム目として第3画像(擬似フレーム5’)を生成する。図6では、5フレーム目として第3画像(擬似フレーム5’)が第1フレームメモリ22cに記録されたことを表している。   Step S306: The ASIC 22 overwrites the second image on the first image of the nth frame to generate a third image (pseudo frame) of (n + 1) frames. Specifically, the ASIC 22 overwrites the first image of the fourth frame with the second image of the fifth frame, thereby generating a third image (pseudo frame 5 ') as the fifth frame. FIG. 6 shows that the third image (pseudo frame 5 ') is recorded in the first frame memory 22c as the fifth frame.

ステップS307:読み出し制御部22bは、次のフレームの番号(n=n+2)のセットを行なう。具体的には、読み出し制御部22bは、次のフレームの番号(n=6)をセットする。   Step S307: The read control unit 22b sets the number of the next frame (n = n + 2). Specifically, the read control unit 22b sets the number of the next frame (n = 6).

以上より、動き検出部22aは、第2モードに応じた動き検出処理を終了し、図2に示すステップS105の処理に移行する。その後、ASIC22は、ステップS104に戻り、第2モードに応じた動き検出処理を繰り返す場合、図7に示す第2モードのサブルーチンのフローの処理を行なう。これにより、図6に示す通り、6フレーム(第1画像6)、7フレーム(擬似フレーム7’)、8フレーム(第1画像8)、9フレーム(擬似フレーム9’)というように、各々のフレームは、第1フレームメモリ22c又は第2フレームメモリ22dに順次記録されていく。これにより、動き検出部22aは、フレーム間差分を行なうことができる。   As described above, the motion detection unit 22a ends the motion detection process according to the second mode, and proceeds to the process of step S105 illustrated in FIG. Thereafter, the ASIC 22 returns to step S104, and when the motion detection process corresponding to the second mode is repeated, the process of the subroutine of the second mode shown in FIG. 7 is performed. Accordingly, as shown in FIG. 6, each of 6 frames (first image 6), 7 frames (pseudo frame 7 ′), 8 frames (first image 8), 9 frames (pseudo frame 9 ′), and so on. Frames are sequentially recorded in the first frame memory 22c or the second frame memory 22d. Thereby, the motion detection part 22a can perform the difference between frames.

次に、第3モードの動き検出処理について説明する。   Next, the motion detection process in the third mode will be described.

図8は、第3モードのサブルーチンの一例を示すフローチャートである。図9は、第1モード及び第3モードでの処理のシーケンスの一例を説明する図である。第3モードでは、読み出し制御部22bは、一例として、動き量が予め設定した閾値未満の場合、第2画像の読み出しを予め設定した回数(3回)分連続して選択する。これにより、第3モードでは、第2画像を連続して読み出す分、省電力化を図ることができる。なお、前フレームが既に第2画像として出力されていた場合には、読み出し制御部22bは、引き続き2回連続して第2画像の読み出しを選択する。つまり、読み出し制御部22bは、結果的に3回連続して第2画像の読み出しを選択することとする。   FIG. 8 is a flowchart illustrating an example of a third mode subroutine. FIG. 9 is a diagram illustrating an example of a processing sequence in the first mode and the third mode. In the third mode, for example, when the amount of motion is less than a preset threshold value, the readout control unit 22b selects the second image readout continuously for a preset number of times (three times). As a result, in the third mode, it is possible to save power by continuously reading the second image. If the previous frame has already been output as the second image, the read control unit 22b selects to read the second image in succession twice. That is, as a result, the read control unit 22b selects to read the second image three times in succession.

図8において、第3モードでは、読み出し制御部22bが第1画像の読み出しの指示を行なわずに、撮像素子12は、ステップS401の処理を開始する。なお、フローの処理では、図9を参照して説明する。   In FIG. 8, in the third mode, the image sensor 12 starts the process of step S <b> 401 without the read control unit 22 b issuing an instruction to read the first image. The flow process will be described with reference to FIG.

ステップS401:撮像素子12は、4フレーム目(n=4)の第2画像を出力する。ASIC22は、この第2画像の画像データを第2フレームメモリ22dに記録する。   Step S401: The image sensor 12 outputs a second image of the fourth frame (n = 4). The ASIC 22 records the image data of the second image in the second frame memory 22d.

ステップS402:ASIC22は、(n−1)フレーム目の第1画像に第2画像を上書きして、nフレームの第3画像(擬似フレーム)を生成する。具体的には、ASIC22は、4フレーム目の第2画像を3フレーム目の第1画像(擬似フレーム3’)に上書きすることにより、4フレーム目として第3画像(擬似フレーム4’)を生成する。図9では、4フレーム目として第3画像(擬似フレーム4’)が第2フレームメモリ22dに記録されたことを表している。   Step S402: The ASIC 22 overwrites the second image on the first image of the (n-1) th frame to generate a third image (pseudo frame) of n frames. Specifically, the ASIC 22 generates the third image (pseudo frame 4 ′) as the fourth frame by overwriting the second image of the fourth frame on the first image (pseudo frame 3 ′) of the third frame. To do. FIG. 9 shows that the third image (pseudo frame 4 ') is recorded in the second frame memory 22d as the fourth frame.

ステップS403:撮像素子12は、(n+1)フレーム目の第2画像を出力する。具体的には、撮像素子12は、5フレーム目の第2画像を出力する。ASIC22は、この第2画像の画像データを第2フレームメモリ22dに記録する。   Step S403: The image sensor 12 outputs the second image of the (n + 1) th frame. Specifically, the image sensor 12 outputs the second image of the fifth frame. The ASIC 22 records the image data of the second image in the second frame memory 22d.

ステップS404:ASIC22は、nフレーム目の第1画像に第2画像を上書きして、n+1フレームの第3画像(擬似フレーム)を生成する。具体的には、ASIC22は、5フレーム目の第2画像を4フレーム目の第1画像(擬似フレーム4’)に上書きすることにより、5フレーム目として第3画像(擬似フレーム5’)を生成する。図9では、5フレーム目として第3画像(擬似フレーム5’)が第2フレームメモリ22dに記録されたことを表している。そして、読み出し制御部22bは、第1画像の読み出しの指示を行なう。   Step S404: The ASIC 22 overwrites the second image on the first image of the nth frame to generate a third image (pseudo frame) of the (n + 1) th frame. Specifically, the ASIC 22 generates the third image (pseudo frame 5 ′) as the fifth frame by overwriting the second image of the fifth frame with the first image (pseudo frame 4 ′) of the fourth frame. To do. FIG. 9 shows that the third image (pseudo frame 5 ') is recorded in the second frame memory 22d as the fifth frame. Then, the read control unit 22b instructs to read the first image.

ステップS405:撮像素子12は、(n+2)フレーム目の第1画像を出力する。具体的には、撮像素子12は、有効画素領域の全体で読み出して、6フレーム目の第1画像6として出力する。ASIC22は、この第1画像の画像データを第1フレームメモリ22cに記録する。   Step S405: The image sensor 12 outputs the first image of the (n + 2) th frame. Specifically, the image sensor 12 reads out the entire effective pixel region and outputs the first image 6 in the sixth frame. The ASIC 22 records the image data of the first image in the first frame memory 22c.

ステップS406:動き検出部22aは、フレーム間差分に基づく動き検出処理を行なう。具体的には、動き検出部22aは、第2フレームメモリ22dに記録されている5フレーム目の第3画像(擬似フレーム5’)と、第1フレームメモリ22cに記録されている6フレーム目の第1画像6とを用いて、フレーム間差分に基づく動き検出処理を行なう。   Step S406: The motion detector 22a performs a motion detection process based on the inter-frame difference. Specifically, the motion detection unit 22a includes the third image (pseudo frame 5 ′) recorded in the second frame memory 22d and the sixth frame recorded in the first frame memory 22c. Using the first image 6, a motion detection process based on the interframe difference is performed.

ステップS407:読み出し制御部22bは、動きを検出したブロックを含む複数の水平方向のライン番号(座標データ)を送信する。すなわち、読み出し制御部22bは、撮像素子12の垂直走査回路に第2画像の読み出しを指示する。   Step S407: The read control unit 22b transmits a plurality of horizontal line numbers (coordinate data) including the block in which the motion is detected. That is, the read control unit 22b instructs the vertical scanning circuit of the image sensor 12 to read the second image.

ステップS408:撮像素子12は、第2画像の読み出しのライン番号(座標データ)を受信する。具体的には、上述した通り、撮像素子12は、垂直走査回路に第2画像の読み出しのライン番号が入力されると、読み出すライン番号についてフラグをオンにする。   Step S408: The image sensor 12 receives the line number (coordinate data) for reading the second image. Specifically, as described above, when the line number for reading the second image is input to the vertical scanning circuit, the image sensor 12 turns on the flag for the line number to be read.

ステップS409:撮像素子12は、(n+3)フレーム目の第2画像を出力する。具体的には、撮像素子12は、有効画素領域のうち、フラグがオンになったライン番号の部分領域のみ読み出して、7フレーム目の第2画像の画像信号として出力する。そして、ASIC22は、第2画像の画像信号を受信して、第1フレームメモリ22cに記録する。   Step S409: The image sensor 12 outputs the second image of the (n + 3) th frame. Specifically, the image sensor 12 reads out only the partial region of the line number for which the flag is turned on from the effective pixel region, and outputs it as the image signal of the second image of the seventh frame. Then, the ASIC 22 receives the image signal of the second image and records it in the first frame memory 22c.

ステップS410:ASIC22は、n+2フレーム目の第1画像に第2画像を上書きして、n+3フレームの第3画像(擬似フレーム)を生成する。具体的には、ASIC22は、7フレーム目の第2画像を6フレーム目の第1画像6に上書きすることにより、7フレーム目として第3画像(擬似フレーム7’)を生成する。図9では、7フレーム目として第3画像(擬似フレーム7’)が第1フレームメモリ22cに記録されたことを表している。   Step S410: The ASIC 22 overwrites the second image on the first image of the (n + 2) th frame and generates a third image (pseudo frame) of the (n + 3) th frame. Specifically, the ASIC 22 generates a third image (pseudo frame 7 ′) as the seventh frame by overwriting the second image of the seventh frame with the first image 6 of the sixth frame. FIG. 9 shows that the third image (pseudo frame 7 ') is recorded in the first frame memory 22c as the seventh frame.

ステップS411:読み出し制御部22bは、次のフレームの番号(n=n+4)のセットを行なう。具体的には、読み出し制御部22bは、次のフレームの番号(n=8)をセットする。   Step S411: The read control unit 22b sets the number of the next frame (n = n + 4). Specifically, the read control unit 22b sets the number of the next frame (n = 8).

以上より、動き検出部22aは、第3モードに応じた動き検出処理を終了し、図2に示すステップS105の処理に移行する。その後、ASIC22は、ステップS104に戻り、第3モードに応じた動き検出処理を繰り返す場合、図8に示す第3モードのサブルーチンのフローの処理を行なう。これにより、図9に示す通り、8フレーム(擬似フレーム8’)、9フレーム(擬似フレーム9’)、10フレーム(第1画像10)というように、各々のフレームは、第1フレームメモリ22c又は第2フレームメモリ22dに順次記録されていく。これにより、動き検出部22aは、フレーム間差分を行なうことができる。   As described above, the motion detection unit 22a ends the motion detection process according to the third mode, and proceeds to the process of step S105 illustrated in FIG. Thereafter, the ASIC 22 returns to step S104, and when the motion detection process according to the third mode is repeated, the process of the third mode subroutine shown in FIG. 8 is performed. As a result, as shown in FIG. 9, each frame includes the first frame memory 22c or the eight frames (pseudo frame 8 ′), 9 frames (pseudo frame 9 ′), 10 frames (first image 10), or the like. The data is sequentially recorded in the second frame memory 22d. Thereby, the motion detection part 22a can perform the difference between frames.

なお、動画記録の場合には、第1フレームメモリ22c又は第2フレームメモリ22dに順次記録された第1画像(擬似フレームも含む)は、RAM15に記録され、所定の画像処理が施された後、フラッシュメモリ16又は記録媒体30に記録される。   In the case of moving image recording, the first images (including pseudo frames) sequentially recorded in the first frame memory 22c or the second frame memory 22d are recorded in the RAM 15 and subjected to predetermined image processing. And recorded in the flash memory 16 or the recording medium 30.

以上より、本実施形態の電子カメラ1は、ライブビュー表示中や動画記録中において、ASIC22からフィードバックされた読み出しラインの情報に基づいて、撮影画面内で動く被写体を含む第2画像を撮像素子12から出力する。この第2画像は第1画像に上書き(或いは置換)され擬似フレームとして表示モニタ17に表示される。電子カメラ1は、第2画像を出力することによりデータ転送量を削減することができるので、その分、電力消費を抑制できる。従って、本発明によれば、低消費電力化を実現する電子カメラを提供できる。   As described above, the electronic camera 1 according to the present embodiment captures the second image including the subject moving in the shooting screen based on the information of the readout line fed back from the ASIC 22 during live view display or moving image recording. Output from. The second image is overwritten (or replaced) with the first image and displayed on the display monitor 17 as a pseudo frame. Since the electronic camera 1 can reduce the amount of data transfer by outputting the second image, the power consumption can be reduced accordingly. Therefore, according to the present invention, an electronic camera that realizes low power consumption can be provided.

(実施形態の補足事項)
(1)上記実施形態では、CMOS型のイメージセンサを用いて説明したが、CCD(Charge Coupled Device)型のイメージセンサであっても良い。
(Supplementary items of the embodiment)
(1) In the above embodiment, a CMOS type image sensor has been described, but a CCD (Charge Coupled Device) type image sensor may be used.

(2)上記実施形態では、撮影画面内を左右方向に移動する被写体について説明したが、移動方向は左右のみに限定されるものではなく、撮影画面内を上下方向、斜め方向、もしくは前後(光軸)方向に移動する被写体であっても良い。   (2) In the above embodiment, the subject that moves in the left-right direction in the shooting screen has been described. It may be a subject that moves in the (axis) direction.

(3)上記実施形態では、スルー画像から追尾対象として人物の被写体を例示したが、追尾対象は、人物に限られず、動物、乗物等の各種の物体を追尾対象としても良い。   (3) In the above embodiment, a human subject is exemplified as a tracking target from a through image, but the tracking target is not limited to a person, and various objects such as animals and vehicles may be set as tracking targets.

(4)上記実施形態では、被写体の動きを検知して、動き量に応じて、第2モードと第3モードに切り替えたが、例えば、第2モードに固定して読み出す方式を採用しても良い。   (4) In the above embodiment, the movement of the subject is detected, and the mode is switched between the second mode and the third mode in accordance with the amount of movement. good.

(5)上記実施形態では、フレーム間差分では、隣接するフレーム間で差分を行なったが、例えば、動き量が閾値未満の場合、30fps毎に出力される第1フレームを読み出して、フレーム間差分を行なうようにしても良い。   (5) In the embodiment described above, the difference between frames is performed between adjacent frames. For example, when the amount of motion is less than the threshold, the first frame output every 30 fps is read and the difference between frames is determined. May be performed.

(6)上記実施形態では、動き量の閾値として、第2モードと第3モードの切換えを判定するための閾値について説明したが、第2モードと第3モードの判定閾値よりもさらに大きい動き量を判別するための閾値を新たに追加して、検出した動き量がこの新たな閾値以上の場合、被写体の動きが非常に早いものと判別し、第1画像を毎フレーム出力し続けるようにしても良い。このようにすれば、被写体の動きが非常に速い場合は被写体の動きに対する追従性を優先した制御を行い、被写体の動きがそれ程速くない場合は消費電力の低減を優先した制御を行うというように、撮影条件に応じて要求される目的に適した制御を行うことが可能となる。   (6) In the above embodiment, the threshold value for determining the switching between the second mode and the third mode has been described as the threshold value for the motion amount. However, the motion amount is larger than the determination threshold value for the second mode and the third mode. A new threshold is added, and if the detected amount of motion is greater than or equal to this new threshold, it is determined that the subject moves very quickly and the first image is continuously output every frame. Also good. In this way, when subject movement is very fast, priority is given to tracking the subject's movement, and when subject movement is not so fast, control is given priority to reducing power consumption. Thus, it is possible to perform control suitable for the purpose required according to the shooting conditions.

1・・・電子カメラ、12・・・撮像素子、22a・・・動き検出部、22b・・・読み出し制御部 DESCRIPTION OF SYMBOLS 1 ... Electronic camera, 12 ... Image sensor, 22a ... Motion detection part, 22b ... Read-out control part

Claims (5)

撮影画面内の被写体の像を撮像し、画像を出力する撮像素子と、
前記撮像素子が所定のフレームレートで出力する画像間の動き検出量に基づいて、前記被写体の動き量を検出する動き検出部と、
前記動き検出部が検出した前記動き量に基づいて、前記撮影画面内の少なくとも前記被写体が動く領域を含む指定領域での読み出しを選択して、前記撮像素子に次の画像間の前記動き検出量に用いる画像を出力させる読み出し制御部と、
を備えることを特徴とする電子カメラ。
An image sensor that captures an image of a subject in the shooting screen and outputs the image;
A motion detector that detects a motion amount of the subject based on a motion detection amount between images output by the image sensor at a predetermined frame rate;
Based on the amount of motion detected by the motion detection unit, reading in a designated region including at least the region in which the subject moves within the shooting screen is selected, and the amount of motion detection between the next images is selected on the image sensor. A read control unit for outputting an image used for
An electronic camera comprising:
請求項1に記載の電子カメラにおいて、
前記読み出し制御部は、前記動き量に基づいて、前記指定領域として前記撮影画面の全体からなる第1画像の読み出しと、前記指定領域として前記撮影画面内の前記被写体が動く領域を含む部分領域からなる第2画像の読み出しとの何れか一方を選択し、
前記動き検出部は、前記撮像素子が現フレームに相当する前記第1画像を出力した場合には、前フレームに相当する前記第1画像と、現フレームに相当する前記第1画像との間で動き検出を行ない、
前記動き検出部は、前記撮像素子が現フレームに相当する前記第2画像を出力した場合には、該第2画像の前フレームに相当する前記第1画像の前記部分領域となる箇所を、前記第2画像で上書きしてなる第3画像を生成して、前記第1画像と前記第3画像との間で動き検出を行なうことを特徴とする電子カメラ。
The electronic camera according to claim 1,
Based on the amount of movement, the read control unit reads out a first image that is the whole of the shooting screen as the designated area, and a partial area that includes an area in which the subject moves in the shooting screen as the designated area. Select one of the second image reading,
When the image sensor outputs the first image corresponding to the current frame, the motion detection unit is configured to perform the operation between the first image corresponding to the previous frame and the first image corresponding to the current frame. Perform motion detection,
In the case where the image sensor outputs the second image corresponding to the current frame, the motion detection unit is configured to determine a location that is the partial region of the first image corresponding to the previous frame of the second image. An electronic camera that generates a third image overwritten with a second image and performs motion detection between the first image and the third image.
請求項2に記載の電子カメラにおいて、
前記読み出し制御部は、前記動き量が予め設定した閾値以上の場合、前記第2画像の読み出しを非連続とする選択を行なうことを特徴とする電子カメラ。
The electronic camera according to claim 2,
The electronic camera according to claim 1, wherein when the amount of motion is equal to or greater than a preset threshold value, the readout control unit performs selection so that readout of the second image is not continuous.
請求項2に記載の電子カメラにおいて、
前記読み出し制御部は、前記動き量が予め設定した閾値未満の場合、前記第2画像の読み出しを予め設定した回数分連続して選択することを特徴とする電子カメラ。
The electronic camera according to claim 2,
The electronic camera according to claim 1, wherein when the amount of motion is less than a preset threshold, the readout control unit continuously selects readout of the second image for a preset number of times.
請求項2から請求項4の何れか1項記載の電子カメラにおいて、
前記読み出し制御部は、前記動き量が大きくなるに従って、前記部分領域のサイズも大きくなるようにして前記第2画像の読み出しを選択することを特徴とする電子カメラ。
The electronic camera according to any one of claims 2 to 4,
The electronic camera according to claim 1, wherein the reading control unit selects reading of the second image so that the size of the partial region increases as the amount of motion increases.
JP2012063369A 2012-03-21 2012-03-21 Electronic camera Active JP5874473B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012063369A JP5874473B2 (en) 2012-03-21 2012-03-21 Electronic camera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012063369A JP5874473B2 (en) 2012-03-21 2012-03-21 Electronic camera

Publications (2)

Publication Number Publication Date
JP2013197923A true JP2013197923A (en) 2013-09-30
JP5874473B2 JP5874473B2 (en) 2016-03-02

Family

ID=49396333

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012063369A Active JP5874473B2 (en) 2012-03-21 2012-03-21 Electronic camera

Country Status (1)

Country Link
JP (1) JP5874473B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020188350A (en) * 2019-05-14 2020-11-19 株式会社エクスビジョン Object imaging system

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003189186A (en) * 2001-12-20 2003-07-04 Matsushita Electric Ind Co Ltd Image pickup device
JP2011103528A (en) * 2009-11-10 2011-05-26 Fujitsu Ltd High-speed moving image capturing apparatus and method

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003189186A (en) * 2001-12-20 2003-07-04 Matsushita Electric Ind Co Ltd Image pickup device
JP2011103528A (en) * 2009-11-10 2011-05-26 Fujitsu Ltd High-speed moving image capturing apparatus and method

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020188350A (en) * 2019-05-14 2020-11-19 株式会社エクスビジョン Object imaging system

Also Published As

Publication number Publication date
JP5874473B2 (en) 2016-03-02

Similar Documents

Publication Publication Date Title
JP4662880B2 (en) Imaging apparatus and imaging method
CN108156365B (en) Image pickup apparatus, image pickup method, and recording medium
JP2001086395A (en) Image pickup unit
US10218894B2 (en) Image capturing apparatus, image capturing method, and storage medium
JP2011135152A (en) Image pickup apparatus and method of picking up image
CN109474781B (en) Image pickup apparatus, control method for image pickup apparatus, and recording medium
US10999489B2 (en) Image processing apparatus, image processing method, and image capture apparatus
JP7320024B2 (en) IMAGE SENSOR, IMAGING DEVICE, IMAGE DATA PROCESSING METHOD, AND PROGRAM
JP5829122B2 (en) Imaging apparatus and evaluation value generation apparatus
US9282245B2 (en) Image capturing apparatus and method of controlling the same
JP5874473B2 (en) Electronic camera
US20180139380A1 (en) Image capture device
JP4687619B2 (en) Image processing apparatus, image processing method, and program
JP5127510B2 (en) IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD
JP6355324B2 (en) Imaging apparatus and control method thereof
JP7020463B2 (en) Imaging device
JP6590055B2 (en) Imaging device
JP7004853B2 (en) Image sensor, image sensor, operation method of image sensor, and program
JP6167473B2 (en) Imaging device
US20150085172A1 (en) Image capturing apparatus and control method thereof
JP6402807B2 (en) Imaging device
JP6622555B2 (en) Image processing apparatus and control method therefor, imaging apparatus, program, and storage medium
JP2020198557A (en) Image processing device, image processing method, and program
JP2011176458A (en) Digital camera
KR20090133059A (en) Apparatus for taking picture and method thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150925

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151006

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151222

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160104

R150 Certificate of patent or registration of utility model

Ref document number: 5874473

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250