JP2006148557A - Automatic imaging apparatus and program for controlling the same - Google Patents

Automatic imaging apparatus and program for controlling the same Download PDF

Info

Publication number
JP2006148557A
JP2006148557A JP2004336130A JP2004336130A JP2006148557A JP 2006148557 A JP2006148557 A JP 2006148557A JP 2004336130 A JP2004336130 A JP 2004336130A JP 2004336130 A JP2004336130 A JP 2004336130A JP 2006148557 A JP2006148557 A JP 2006148557A
Authority
JP
Japan
Prior art keywords
imaging
image
imaging data
moving object
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2004336130A
Other languages
Japanese (ja)
Inventor
Junichi Takizawa
順一 瀧澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hanwha Techwin Co Ltd
Original Assignee
Samsung Techwin Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Techwin Co Ltd filed Critical Samsung Techwin Co Ltd
Priority to JP2004336130A priority Critical patent/JP2006148557A/en
Priority to KR1020050099949A priority patent/KR100763969B1/en
Publication of JP2006148557A publication Critical patent/JP2006148557A/en
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/188Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide an automatic imaging apparatus capable of detecting a change in an object without requiring an additional device, and capable of detecting and photographing a moving object and a control program to be integrated into a control device for the automatic imaging apparatus. <P>SOLUTION: A detection area for detecting a moving object and a detection condition for defining a reference image are set (step S1), detection quantity to be a threshold is set (step S2), and the number of images to be photographed is set as an end condition (step S3). Then a moving object detection/photographing is started (step S4). An image displayed on a display unit is photographed in each certain time (step S5), conversion quantity is calculated by the mean square of respective color information included in pixels of the image (step S6), whether the conversion quantity is larger than the detection quantity set in the step S2 or not is judged (step S7), and when the conversion quantity is larger, the moving object is detected and its image is photographed (step S8). When images for the set number of images are photographed, the moving object detection/photographing is allowed to end (step S9). <P>COPYRIGHT: (C)2006,JPO&NCIPI

Description

本発明は画像を撮影するディジタルカメラ、ビデオカメラ、CCTV(Closed Circuit TV:閉回路テレビ)等の撮像装置に係り、特に、動いている被写体を検知し、これに反応して自動的に撮影を行う自動撮像装置および自動撮像装置の制御装置(コンピュータ)に組み込まれる制御用プログラムに関する。   The present invention relates to an image pickup apparatus such as a digital camera, a video camera, or a CCTV (Closed Circuit TV) for taking an image, and particularly detects a moving subject and automatically takes a picture in response thereto. The present invention relates to an automatic imaging device to be performed and a control program incorporated in a control device (computer) of the automatic imaging device.

従来、野生動物を撮影する、所謂ネイチャーフォトにおいては、運動している動物の存在を検出し、それに応じて撮影を行うことにより、効率よく撮影を行うことができる。それを実現するために、例えば、二つの赤外線検知センサを対向して配置して、ディジタルカメラまたはビデオカメラのシャッター回路に接続し、該赤外線センサ間を動物が通過した場合、一方の赤外線検知センサが発光した赤外線が他方の赤外線検知センサに受光されなくなる(遮られる)ことにより、動物が該赤外線センサ間を通過したことを検出して、それに応じてシャッターを予め定められた時間だけ開くことにより、該動物の撮影を行っている。   Conventionally, in so-called nature photography in which wild animals are photographed, it is possible to efficiently photograph by detecting the presence of a moving animal and photographing accordingly. In order to realize this, for example, when two infrared detection sensors are arranged facing each other and connected to a shutter circuit of a digital camera or a video camera, and an animal passes between the infrared sensors, one infrared detection sensor By detecting that the animal has passed between the infrared sensors by the other infrared detection sensor not receiving (blocking) the emitted infrared light, and opening the shutter accordingly for a predetermined time. , Taking pictures of the animals.

また、ディジタルカメラにおいて、タイムラプス撮影という機能によって、一定時間(例えば、1秒)毎に静止画像を撮影することが行われる。また、監視カメラとして使用されるCCTVは、連続的な画像の撮影と並行して、一定時間(例えば、1秒)毎に静止画像を撮影する、タイムラプス撮影機能を有している。例えば、蝉の脱皮の様子を時系列的に撮影したり、店舗において、該一定時間毎に静止画像を撮影することにより、CCTVによって連続的に撮影される画像に比して、高精彩な静止画像を該一定時間毎に得られ、監視する対象物(例、脱皮する蝉、店舗に出入りする人等)の詳細な情報を得ることができる。   Further, in a digital camera, a still image is taken every certain time (for example, 1 second) by a function called time-lapse photography. The CCTV used as a surveillance camera has a time-lapse shooting function that takes a still image every predetermined time (for example, 1 second) in parallel with continuous image shooting. For example, by taking a chronological image of the molting of a moth or by taking a still image at a certain time in a store, a high-resolution still image can be obtained as compared with images continuously taken by CCTV. Images can be obtained at regular intervals, and detailed information on the object to be monitored (eg, a bag to be peeled off, a person entering and exiting a store, etc.) can be obtained.

しかしながら、上述したように、ディジタルカメラのシャッター回路に赤外線センサを接続して動体検出をして撮影する場合においては、ディジタルカメラの他に、赤外線センサを用意しなくはならないという問題があった。また、上述したCCTVにおいては、静止画像の撮影を一定時間毎に行っているため、該撮影が行われているタイミングにおいて対象物が変化する(以下、「撮影と対象物の変化とが同期する」という)とは限らず、次のような不都合が生じてしまう。すなわち、蝉の脱皮を撮影する場合、脱皮そのものは短時間にて完了してしまうので、脱皮が進行し、細かい時間間隔にて多くの静止画像を撮影すべきタイミングにおいて、撮影される静止画像の数を増やすことができず、同じような静止画像が連続して撮影され、対象物が変化する様子を撮影できず、故に、動体を検知して撮影することができない場合があるという問題があった。また、監視カメラとしては、例えば、店舗に入ってきた人について、その人が店舗に入ってきたときに高精彩な静止画像を撮影して、その人の詳細な情報を得ることが必要であるが、上述したCCTVにおいては、変化があってもなくても(店舗に人が入って来ても来なくても)、一定時間毎に静止画像の撮影が行われ、同様に、象物が変化する様子を撮影できず、故に、動体を検知して撮影することができない場合があるという問題があった。   However, as described above, when an infrared sensor is connected to the shutter circuit of a digital camera to detect a moving object and shoot, there is a problem that an infrared sensor must be prepared in addition to the digital camera. Further, in the CCTV described above, since still images are taken at regular intervals, the target changes at the timing when the shooting is performed (hereinafter, “shooting and changes in the target are synchronized”). The following inconvenience occurs. In other words, when taking a picture of an unhulled moth, the molting itself is completed in a short time, so that the molting proceeds, and at the timing when many still images should be taken at fine time intervals, The number of images cannot be increased, the same still images are taken continuously, the situation where the object is changing cannot be taken, and there is a problem that it may not be possible to detect and shoot moving objects. It was. As a surveillance camera, for example, for a person who has entered a store, it is necessary to take a high-definition still image when the person enters the store and obtain detailed information about the person. However, in the above-mentioned CCTV, even if there is no change (whether or not a person enters the store), still images are taken at regular intervals. There is a problem in that it is impossible to shoot the changing state, and therefore it may not be possible to detect and shoot a moving object.

本発明は、上記事情を考慮してなされたもので、その目的は、付加的な装置を必要とすることなく、対象物の変化を検知し、それにより、動体を検知して撮影することができる自動撮像装置および自動撮像装置の制御装置に組み込まれる制御用プログラムを提供することにある。   The present invention has been made in view of the above circumstances, and its purpose is to detect a change in an object without using an additional device, thereby detecting a moving object and photographing it. It is an object of the present invention to provide an automatic imaging apparatus that can be used and a control program incorporated in the control apparatus of the automatic imaging apparatus.

上記目的を達成するために、この発明では、以下の手段を提案している。
請求項1に係る発明は、光学像を電気信号に変換して撮像データを得る撮像手段と、所定の時間間隔において、前記撮像手段から得られた撮像データをサンプリングするサンプリング手段と、前記サンプリングされた撮像データによって変移量を算出する演算手段と、前記変移量が閾値を超えた場合、前記撮像データを撮像データ記憶手段に記憶する制御手段とを備えたことを特徴とする。
この発明によれば、演算手段によって、撮像データの変移量が算出され、該変移量が閾値を超え、該撮像データに閾値以上の変化が発生した場合、制御手段によって撮像データが撮像データ記憶手段に記憶される。
In order to achieve the above object, the present invention proposes the following means.
According to a first aspect of the present invention, there is provided an imaging means for obtaining imaging data by converting an optical image into an electrical signal, a sampling means for sampling imaging data obtained from the imaging means at a predetermined time interval, and the sampling And a calculation unit that calculates a shift amount based on the captured image data, and a control unit that stores the captured data in the captured data storage unit when the shift amount exceeds a threshold value.
According to the present invention, when the amount of change of the imaging data is calculated by the arithmetic means, and the amount of change exceeds the threshold value, and the change of the imaging data exceeds the threshold value, the imaging data is stored in the imaging data storage means by the control means. Is remembered.

請求項2に係る発明は、請求項1に記載の自動撮像装置であって、少なくとも、前記変移量を算出する領域か、前記所定の時間間隔か、前記閾値かのいずれか一つを必要に応じて変更する算出条件変更手段を備えたことを特徴とする。
この発明によれば、算出条件変更手段が、少なくとも、変移量を算出する領域か、基準となる画像が撮影された時間間隔か、変移量の閾値かのいずれか一つを被写体に応じて必要に応じて変更する。
The invention according to claim 2 is the automatic imaging apparatus according to claim 1, wherein at least one of the region for calculating the shift amount, the predetermined time interval, or the threshold is required. According to the present invention, there is provided a calculation condition changing means for changing in response.
According to the present invention, the calculation condition changing means needs at least one of the region for calculating the shift amount, the time interval at which the reference image is taken, or the threshold value of the shift amount according to the subject. Change according to.

請求項3に係る発明は、請求項1または請求項2のいずれかの項に記載の自動撮像装置であって、前記演算手段によって前記変移量を求めるための撮像データの画素を所定の間隔毎に間引くサブサンプリング手段を備えたことを特徴とする。
この発明によれば、サブサンプリング手段が各撮像データの画素を所定の間隔毎に間引くことにより、変移量を算出するためのデータ量が削減され、演算手段によって行われる演算量が削減される。
The invention according to claim 3 is the automatic imaging apparatus according to claim 1 or 2, wherein pixels of the imaging data for obtaining the shift amount by the calculating means are set at predetermined intervals. Subsampling means for thinning out is provided.
According to the present invention, the sub-sampling means thins out the pixels of the respective imaging data at predetermined intervals, thereby reducing the data amount for calculating the shift amount and reducing the amount of computation performed by the computing means.

請求項4に係る発明は、請求項1または請求項2のいずれかの項に記載の自動撮像装置であって、前記演算手段によって前記変移量を求めるための撮像データの画素の持つ色情報の一部を取り出すサブサンプリング手段を備えたことを特徴とする。
この発明によれば、サブサンプリング手段が各撮像データの画素が持つ色情報の一部を取り出すことにより、変移量を算出するためのデータ量が削減され、演算手段によって行われる演算量が削減される。
The invention according to claim 4 is the automatic image pickup apparatus according to claim 1 or 2, wherein the color information of the pixels of the image data for obtaining the shift amount by the calculating means is obtained. Subsampling means for extracting a part is provided.
According to the present invention, the sub-sampling unit extracts part of the color information held by the pixels of the respective imaging data, thereby reducing the amount of data for calculating the shift amount and reducing the amount of calculation performed by the calculation unit. The

請求項5に係る発明は、光学像を電気信号に変換して撮像データを得る撮像手段と、必要に応じて前記撮像データを記憶する撮像データ記憶手段とを有する自動撮像装置の制御用コンピュータに、前記撮像手段によって、光学像を電気信号に変換して撮像データを得るステップと、所定の時間間隔において、前記撮像手段から得られた撮像データをサンプリングするステップと、前記サンプリングされた撮像データによって変移量を算出するステップと、前記変移量が閾値を超えた場合、前記撮像データを撮像データ記憶手段に記憶するステップとを実行させるための自動撮像装置の制御用プログラムを提供する。
この発明によれば、撮像データの変移量が算出され、該変移量が閾値を超え、該撮像データに閾値以上の変化が発生した場合、撮像データが撮像データ記憶手段に記憶される。
According to a fifth aspect of the present invention, there is provided a computer for controlling an automatic image pickup apparatus, comprising: an image pickup unit that obtains image pickup data by converting an optical image into an electrical signal; and an image pickup data storage unit that stores the image pickup data as necessary. The imaging means converts an optical image into an electrical signal to obtain imaging data, the imaging data obtained from the imaging means is sampled at a predetermined time interval, and the sampled imaging data. There is provided a control program for an automatic imaging apparatus for executing a step of calculating a shift amount and a step of storing the imaging data in an imaging data storage means when the shift amount exceeds a threshold value.
According to the present invention, the amount of change of the imaging data is calculated, and when the amount of change exceeds the threshold and the change of the imaging data exceeds the threshold, the imaging data is stored in the imaging data storage means.

請求項1または請求項5のいずれかの項に係る発明によれば、例えば、従来のディジタルカメラと同等の構成要素によって、別途、赤外線センサのような外部機器を設けることなく、撮像手段から得られた撮像データによって算出された変移量によって、動体を検出して撮影することができる効果がある。   According to the invention according to any one of claims 1 and 5, for example, it is obtained from the imaging means by a component equivalent to that of a conventional digital camera without separately providing an external device such as an infrared sensor. There is an effect that a moving object can be detected and photographed by the shift amount calculated from the obtained imaging data.

請求項2に係る発明によれば、被写体に応じて動体検出の条件を変更することができるので、被写体の大きさや動き方等の実情に合わせて動体検出撮影を行うことができる効果がある。   According to the second aspect of the present invention, since the moving object detection condition can be changed according to the subject, there is an effect that the moving object detection photographing can be performed in accordance with the actual situation such as the size of the subject and how to move.

請求項3または請求項4のいずれかの項に係る発明によれば、変移量を算出するためのデータ量を削減することにより、変移量の演算量を削減し、処理の簡易化および装置のコストダウンを図ることができる効果がある。   According to the invention according to claim 3 or 4, the amount of data for calculating the shift amount is reduced, thereby reducing the calculation amount of the shift amount, simplifying the processing, and There is an effect that the cost can be reduced.

以下、図面を参照し、この発明の一実施形態について説明する。
図1は本実施形態における自動撮像装置の一例である、ディジタルカメラの構成を示すブロック図である。この図において、ディジタルカメラは、OPS(OPtical System)1と、OEC(OptoElectric Converter)2(以上、撮像手段)と、CDS−ADC(Correlated Double Sampler−Analog Digital Converter)3(サンプリング手段)と、タイミング回路4と、DSP(Digital Signal Processor)5と、DRAM(Dynamic Random Access Memory)6と、EEPROM(Electronically Erasable and Programmable Read Only Memory)7と、メモリカードI/F(InterFace)8(撮像データ記憶手段)と、CPU(Central Processing Unit)9(演算手段)(制御手段)(算出条件変更手段)(サブサンプリング手段)と、レンズ駆動部10と、フラッシュ制御部11と、フラッシュ12と、操作部13(算出条件変更手段)と、表示制御部14と、ファインダである表示部15と、マイク16と、ADC(Analog Digital Converter)17と、エンコーダ18と、デコーダ19と、DAC(Digital Analog Converter)20と、スピーカ21とから構成される。尚、上述したディジタルカメラの構成は、従来におけるディジタルカメラと同様である。
Hereinafter, an embodiment of the present invention will be described with reference to the drawings.
FIG. 1 is a block diagram illustrating a configuration of a digital camera, which is an example of an automatic imaging apparatus according to the present embodiment. In this figure, a digital camera includes an OPS (OPtical System) 1, an OEC (OptoElectric Converter) 2 (hereinafter, imaging means), a CDS-ADC (Correlated Double Sampler-Analog Digital Converter) 3 (sampling means), a timing, Circuit 4, DSP (Digital Signal Processor) 5, DRAM (Dynamic Random Access Memory) 6, EEPROM (Electronically Erasable and Programmable Read Only Memory) 7, memory card I / F (InterFace) 8 (imaging data storage means) ), CPU (Central Processing Unit) 9 (calculation means) (control means) (calculation condition changing means) (subsampling means), lens driving unit 10, flash control unit 11, flash 12, and operation unit 13 (Calculation condition changing means), display control unit 14, display unit 15 as a finder, microphone 16, and ADC (Analog Digit) al Converter) 17, encoder 18, decoder 19, DAC (Digital Analog Converter) 20, and speaker 21. The configuration of the digital camera described above is the same as that of a conventional digital camera.

OPS1は、レンズを保持する鏡胴あるいは複数のレンズからなるレンズユニットである。OEC2は、CCD素子(Charge Coupled Devices:電荷結合素子)またはC−MOS(Complementary−Metal Oxide Semiconductor)素子からなる光電変換器であり、タイミング回路4から入力したタイミング信号に同期してOPS1から入力した光信号を電気信号に変換する。CDS−ADC3は、OEC2から入力した画像信号(電気信号)をタイミング回路4から入力したタイミング信号(例えば、1/15秒または1/30秒周期)に同期してサンプリングを行うサンプラと、該サンプラの出力信号をAD(Analog Digital)変換するADコンバータとから構成され、該ADコンバータからDSP5に変換されたディジタル画像信号が出力される。DSP5は、タイミング回路4にトリガ信号を出力する。   The OPS 1 is a lens barrel that holds a lens or a lens unit that includes a plurality of lenses. The OEC 2 is a photoelectric converter including a CCD (Charge Coupled Device) or C-MOS (Complementary-Metal Oxide Semiconductor) element, and is input from the OPS 1 in synchronization with the timing signal input from the timing circuit 4. Convert optical signals into electrical signals. The CDS-ADC 3 includes a sampler that samples an image signal (electrical signal) input from the OEC 2 in synchronization with a timing signal (for example, a 1/15 second or 1/30 second period) input from the timing circuit 4, and the sampler. A digital image signal converted from the AD converter to the DSP 5 is output from the AD converter. The DSP 5 outputs a trigger signal to the timing circuit 4.

メモリカードI/F8は、図示しないメモリカードが脱着可能に装着され、DSP5は、CDS−ADC3から入力したディジタル画像信号について、ディジタル信号処理を行い、信号処理されたディジタル画像信号はDRAM6に一時記憶させる。CPU9は、DSP5を介して、該ディジタル画像信号を読み出し、表示制御部14を介して、表示部15にディジタル画像信号に対応する画像を表示させる。尚、新たなディジタル画像信号がDSP5から出力されると、DRAM6に一時記憶されていたディジタル画像信号は新たなディジタル画像信号によって上書きされる。   The memory card I / F 8 is detachably mounted with a memory card (not shown), and the DSP 5 performs digital signal processing on the digital image signal input from the CDS-ADC 3, and the signal-processed digital image signal is temporarily stored in the DRAM 6. Let The CPU 9 reads the digital image signal via the DSP 5 and causes the display unit 15 to display an image corresponding to the digital image signal via the display control unit 14. When a new digital image signal is output from the DSP 5, the digital image signal temporarily stored in the DRAM 6 is overwritten by the new digital image signal.

また、DSP5は、CPU9の指示に基づいて、ディジタル信号処理を施したディジタル画像データを、メモリカードI/F8を介して、該メモリカードI/F8に装着されたメモリカード(撮像データ記憶手段)に書き込む。EEPROM7は、DSP5の動作パラメータを書き換え可能に記憶する。DRAM6は、DSP5が制御用プログラムを実行する場合に用いるデータおよび前述したようにディジタル画像データを一時記憶する。   Further, the DSP 5 converts the digital image data subjected to the digital signal processing based on an instruction from the CPU 9 to the memory card (imaging data storage unit) attached to the memory card I / F 8 via the memory card I / F 8. Write to. The EEPROM 7 stores the operation parameters of the DSP 5 in a rewritable manner. The DRAM 6 temporarily stores data used when the DSP 5 executes the control program and the digital image data as described above.

CPU9は操作部13からの指示により、以下のように各部の制御を行う。すなわち、CPU9は、DSP5に動作指示を出力し、DSP5からフラッシュ点灯要求信号を入力する。また、CPU9は、レンズ駆動部10にレンズ駆動の指示を出力し、フラッシュ制御部11を介して、フラッシュ12を駆動し、表示制御部14を介して、表示部15に動作状態等の表示内容を表示させる。   The CPU 9 controls each unit as follows according to an instruction from the operation unit 13. That is, the CPU 9 outputs an operation instruction to the DSP 5 and inputs a flash lighting request signal from the DSP 5. Further, the CPU 9 outputs a lens driving instruction to the lens driving unit 10, drives the flash 12 via the flash control unit 11, and displays display contents such as an operation state on the display unit 15 via the display control unit 14. Is displayed.

ディジタルカメラに設けられたマイク16はADC17に音声信号を出力し、ADC17においてAD変換された信号がエンコーダ18に入力され、エンコーダ18から符号化された信号がCPU9に入力される。CPU9は、該信号をDSP5およびメモリカードI/F8を介してメモリカードに書き込む。また、CPU9は、メモリカードに書き込まれた符号化された音声信号をメモリカードI/F8およびDSP5を介して読み出す。CPU9は、デコーダ19に符号化された信号を出力し、デコーダ19は該信号を復号化する。DAC20は、復号化された該信号をDA変換、スピーカ21に出力する。スピーカ21は、DAC20から出力された音声信号に基づいて鳴音する。   A microphone 16 provided in the digital camera outputs an audio signal to the ADC 17, a signal AD-converted in the ADC 17 is input to the encoder 18, and a signal encoded from the encoder 18 is input to the CPU 9. The CPU 9 writes the signal to the memory card via the DSP 5 and the memory card I / F 8. Further, the CPU 9 reads the encoded audio signal written in the memory card via the memory card I / F 8 and the DSP 5. The CPU 9 outputs the encoded signal to the decoder 19, and the decoder 19 decodes the signal. The DAC 20 performs DA conversion on the decoded signal and outputs it to the speaker 21. The speaker 21 sounds based on the audio signal output from the DAC 20.

次に、本実施形態におけるディジタルカメラ、ビデオカメラまたはCCTVからなる自動撮像装置の動作の概略を説明する。本実施形態における自動撮像装置の基本的な考えは、ある時刻においてOEC2によって撮影された画像を基準として、該時刻とは異なる時刻において撮影された画像と比較し、予め定められた領域において、ある一定量以上の変化(変移量)が観測されることをもって、動体を検出し、該動体の画像を撮影し、メモリカードに記憶する。尚、上述した領域は必要に応じて、OEC2の撮像エリアの一部または全部が選択される。また、上述した処理は、ディジタルカメラにおいては、図1に示すCPU9に組み込まれる制御用プログラムによって行われる。また、ビデオカメラまたはCCTVにおいては、該装置の制御を行う制御部に組み込まれる制御用プログラムによって、上述した処理が行われる。   Next, an outline of the operation of the automatic image pickup apparatus including a digital camera, a video camera, or a CCTV in this embodiment will be described. The basic idea of the automatic imaging apparatus according to the present embodiment is based on an image photographed by the OEC 2 at a certain time as a reference and is in a predetermined region compared with an image photographed at a time different from the time. When a certain amount of change (amount of change) is observed, a moving object is detected, an image of the moving object is taken, and stored in a memory card. Note that, as described above, a part or all of the imaging area of the OEC 2 is selected as necessary. In the digital camera, the above-described processing is performed by a control program incorporated in the CPU 9 shown in FIG. In a video camera or CCTV, the above-described processing is performed by a control program incorporated in a control unit that controls the apparatus.

次に、上述した変移量を算出する方法において説明する。
先ず、現在の画像と、その一枚前の画像を各々、画像Atnと画像Arefとする。 ここで、tnは、画像の時系列上の順番を示す添え字であり、時間の経過毎にt1、t2、・・・となる。 ref は、基準となる画像の時系列上の順番を示す添え字でありt0となる。
Next, the method for calculating the above-described shift amount will be described.
First, let the current image and the previous image be an image Atn and an image Aref, respectively. Here, tn is a subscript indicating the order of the images in time series, and becomes t1, t2,. ref is a subscript indicating the time-series order of the reference image and is t0.

また、画像Atnおよび画像ArefはOEC2の撮像エリアの全部であり、その一部のエリアの画像を、画像atnおよび画像aref とする。画像atnおよび画像arefは、その構成要素として、例えば(R、G、B)信号、(Y、Cb、Cr)信号、または(Y、I、Q)信号等を持っている。   Further, the image Atn and the image Aref are all the imaging areas of the OEC 2, and the images in a part of the areas are set as the image atn and the image aref. The image atn and the image aref have, for example, (R, G, B) signals, (Y, Cb, Cr) signals, (Y, I, Q) signals, or the like as constituent elements.

ここで、(R、G、B)信号について考え、 例えば、画像atnおよび画像arefを矩形のエリアに存在する画像とすると、横方向(:i=0〜m)、縦方向(:j=0〜n)の m×n個の (R、G、B)の情報がある。 これを 画像atnRi、j 画像atnGi、j 画像atnBi、j と表記する。   Here, considering the (R, G, B) signals, for example, if the image atn and the image are are present in a rectangular area, the horizontal direction (: i = 0 to m) and the vertical direction (: j = 0). N) m × n pieces of (R, G, B) information. This is expressed as image atnRi, j image atnGi, j image atnBi, j.

この時の変移量Vを、   The amount of change V at this time is

Figure 2006148557
Figure 2006148557

とする。そして、上述した変移量Vを予め定められた検出量と比較し、該検出量より変移量Vが大きい場合、動体が検出されることになる。尚、検出量を小さな値に設定することによって、動体が微細な変化をしても、該動体を検出することができる。尚、上述した式により、変移量Vは、画素が持つ各色情報の二乗平均によって定義されることになる。   And Then, the above-described transition amount V is compared with a predetermined detection amount. When the transition amount V is larger than the detection amount, a moving object is detected. Note that, by setting the detection amount to a small value, the moving object can be detected even if the moving object changes minutely. Note that the shift amount V is defined by the mean square of each color information of the pixel by the above-described equation.

次に、本実施形態における自動撮像装置の動作を、図2に示すフローチャートを参照して、主としてディジタルカメラにおける動作として説明する。
先ず、ディジタルカメラの電源が投入され、ディジタルカメラの動作が開始される。ユーザが、表示部15を見ながら、操作部13を操作することによって、ディジタルカメラの動作モードを、動体を検出したときに撮影を行う動体検出撮影モードに移行する。そして、動体が存在するか否かを判定する領域(検出エリア)を、OEC2の撮像エリアの一部にするか、または全部にするがが選択され、且つ、検出条件として、動体検出を行う際に基準となる画像が選択されることにより、検出エリアおよび検出条件が設定される(ステップS1)。尚、動体検出を行う際に基準となる画像は、例えば、動体検出撮影モードに移行した当初においてOEC2によって得られた画像か、または、予め定められた時間間隔だけ前の時点においてOEC2によって得られた画像かのいずれかから選択される。
Next, the operation of the automatic imaging apparatus in the present embodiment will be described mainly as an operation in a digital camera with reference to a flowchart shown in FIG.
First, the power of the digital camera is turned on, and the operation of the digital camera is started. When the user operates the operation unit 13 while looking at the display unit 15, the operation mode of the digital camera shifts to a moving object detection shooting mode in which shooting is performed when a moving object is detected. When an area (detection area) for determining whether or not a moving object is present is selected to be a part or all of the imaging area of OEC2, and when moving object detection is performed as a detection condition By selecting a reference image, a detection area and a detection condition are set (step S1). Note that the image used as a reference when performing moving object detection is, for example, an image obtained by OEC2 at the beginning of moving to the moving object detection photographing mode, or obtained by OEC2 at a time point that is a predetermined time interval before. Selected from one of the images.

次に、動体検出に使用される検出量が設定される(ステップS2)。次に、動体検出撮影が終了する条件(終了条件)が、ディジタルカメラにおいては、動体検出撮影モードにおいてメモリカードに記録される画像の枚数が設定され(ステップS3)、また、ビデオカメラまたはCCTVにおいては、動体検出撮影が継続する時間が指定されることにより、設定される。そして、操作部13の操作により、動体検出撮影が開始される(ステップS4)。   Next, a detection amount used for moving object detection is set (step S2). Next, as a condition for ending the moving object detection shooting (end condition), in the digital camera, the number of images recorded on the memory card in the moving object detection shooting mode is set (step S3), and in the video camera or CCTV. Is set by designating the time during which moving object detection imaging continues. Then, the moving object detection photographing is started by the operation of the operation unit 13 (step S4).

次に、ディジタルカメラにおいては、OPS1から入力された(以下、撮影された、という)画像がDRAM6に記憶され、該画像が表示部15に表示される(ステップS5)。尚、ビデオカメラまたはCCTVにおいては、動画の撮影が開始され、撮影された画像がファインダに表示され、DRAM6およびビデオテープまたはハードディスク等の大容量記憶装置(図示しない)に記憶される。尚、ステップS1において、動体検出を行う際に基準となる画像をディジタルカメラの起動時点の画像とする設定がなされている場合、DRAM6にディジタルカメラの起動時点の画像が記憶される。それ以外の場合、DRAM6に予め定められた時間毎に撮影された画像が上書きされつつ、記憶される。   Next, in the digital camera, an image input from the OPS 1 (hereinafter referred to as a photographed image) is stored in the DRAM 6 and displayed on the display unit 15 (step S5). In the video camera or CCTV, shooting of a moving image is started, and the shot image is displayed on the finder and stored in the DRAM 6 and a mass storage device (not shown) such as a video tape or a hard disk. In step S1, if the setting is made such that the image used as a reference when performing moving object detection is the image at the time of starting the digital camera, the image at the time of starting the digital camera is stored in the DRAM 6. In other cases, images taken at predetermined time intervals are overwritten and stored in the DRAM 6.

次に、DRAM6に撮影された画像が記憶された後に、撮影された画像と、DRAM6に記憶された画像とが、ステップS1において設定された検出エリアにおいて比較される。すなわち、前述したように変移量が算出され(ステップS6)、該変移量がステップS2において設定された検出量より大きいか否かが判断される(ステップS7)。判断が「YES」であった場合、上述した検出エリアにおいて、動体が検出されたことになるので、画像が撮影され(ステップS8)、ディジタル画像データが得られ、メモリカードI/F8を介して、メモリカードに記憶され、ステップS9に移行する。一方、ステップS7における判断が「NO」であった場合、上述した検出エリアにおいて、動体が検出されないことになり、ステップS9に移行する。   Next, after the captured image is stored in the DRAM 6, the captured image is compared with the image stored in the DRAM 6 in the detection area set in step S1. That is, as described above, the shift amount is calculated (step S6), and it is determined whether the shift amount is larger than the detection amount set in step S2 (step S7). If the determination is “YES”, it means that a moving object has been detected in the detection area described above, so an image is taken (step S8), digital image data is obtained, and the memory card I / F 8 is used. And stored in the memory card, the process proceeds to step S9. On the other hand, when the determination in step S7 is “NO”, no moving object is detected in the detection area described above, and the process proceeds to step S9.

そして、ディジタルカメラについてステップS3において設定された終了条件によって決まる撮影枚数以上の枚数の画像が記録されたか、ビデオカメラまたはCCTVについてステップS3において設定された終了条件によって決まる撮影時間以上の時間、動体検出撮影が継続しているか否かが判断される(ステップS9)。すなわち、動体検出撮影が終了する条件が満足しているか否かが判断される。判断が「YES」である場合、動体検出撮影が終了する。一方、ステップS9における判断が「NO」であった場合、ステップS5に戻り、以下のステップによる動作が繰り返される。   Then, for the digital camera, the number of images greater than or equal to the number of shots determined by the end condition set in step S3 has been recorded, or for the video camera or CCTV, the moving object is detected for a time equal to or longer than the shooting time determined by the end condition set in step S3. It is determined whether or not shooting is continued (step S9). That is, it is determined whether or not the condition for ending the moving object detection photographing is satisfied. When the determination is “YES”, the moving object detection photographing is finished. On the other hand, if the determination in step S9 is “NO”, the process returns to step S5, and the operations in the following steps are repeated.

上記実施形態によれば、従来のディジタルカメラにおけるCPU9、ビデオカメラ、CCTV等における制御部に組み込まれる制御用プログラムを用いて、OEC2によって撮影された画像の変移量によって、上述したような動体検出撮影を行うことができるので、他に赤外線センサのような動体検出手段を設けることなく、予め定められたエリアにて、動体が検出されたときのみ、該動体の画像を撮影することができる。   According to the above-described embodiment, the moving object detection shooting as described above is performed by using the control program incorporated in the control unit of the CPU 9, the video camera, the CCTV, or the like in the conventional digital camera, based on the shift amount of the image shot by the OEC 2. Therefore, an image of the moving object can be taken only when a moving object is detected in a predetermined area without providing a moving object detection unit such as an infrared sensor.

また、上記実施形態によれば、例えば、野鳥が飛来する様を、CCTVを用いて動画撮影を行う際にも、通常の動画撮影を行いながら、動体として飛翔する野鳥を検出して、該野鳥の静止画像を撮影することができ、通常のCCTVの静止画像取得手段よりも高精彩な静止画像を得ることができる。   In addition, according to the above-described embodiment, for example, when shooting a moving image using CCTV, such as a wild bird flying, the wild bird flying as a moving object is detected while performing normal moving image shooting. Still images can be taken, and a still image with higher definition than that of a normal CCTV still image acquisition means can be obtained.

また、上記実施形態によれば、一般的に、一定時間が経過したことをトリガとして静止画像を得るインターバル撮影を、画像の変化が一定量あることをトリガとして行わせることができる。これにより、例えば、蝉の脱皮を追跡撮影しようとする際に、画像の変化の大きい部分のみを抽出して撮影することができるので、より合理的な情報を得ることができる。   In addition, according to the above-described embodiment, it is generally possible to perform interval shooting for obtaining a still image with a certain time elapse as a trigger, with a certain amount of image change as a trigger. As a result, for example, when tracking and photographing the molting of a cocoon, it is possible to extract and photograph only a portion having a large change in the image, so that more rational information can be obtained.

また、上記実施形態によれば、監視カメラとして使用されるCCTVにおいて、通常は動画を撮影記録して、何らかの動体の存在、例えば人の侵入が検出されたときは、該胴体についての静止画像を撮影し記録することができるので、 該動体について、高精彩な画像を得ることができる。   Further, according to the above-described embodiment, in CCTV used as a surveillance camera, a moving image is usually shot and recorded, and when the presence of any moving object, for example, a human intrusion is detected, a still image of the trunk is displayed. Since it can shoot and record, a high-definition image can be obtained for the moving object.

尚、本実施形態においては、ステップS1にて、検出エリア設定および検出条件設定が行われ、ステップS2において検出量設定が行われることを想定したが、検出エリアおよび検出条件ならびに検出量については、過去に実績のある値を予めディジタルカメラに設定しておき、必要に応じて、それらの設定値を変更するようにしてもよい。   In the present embodiment, it is assumed that detection area setting and detection condition setting are performed in step S1, and detection amount setting is performed in step S2. However, for the detection area, detection condition, and detection amount, It is also possible to previously set values having a track record in the past in the digital camera and change those set values as necessary.

また、ステップS6における変移量の算出において、検出エリアに存在する全ての画素について演算を行わず、以下のことについて、画像が持つデータから一部のデータを抜き出す処理なるサブサンプリングを行い、該サブサンプリングされた画素について演算を行って、総演算量の削減を図ってもよい。すなわち、画素自体を空間的にサブサンプリングして間引いてもよい。つまり、前述した画素atnRi、j 、arefRi、jの添え字iおよびjを間引いて、残ったiおよびjについての画素atnRi、j 、arefRi、jのみを変移量の算出に用いて、総演算量の削減を図ってもよい   Further, in the calculation of the shift amount in step S6, sub-sampling that is a process of extracting a part of data from the data of the image is performed for the following without performing the calculation for all the pixels existing in the detection area. A calculation may be performed on the sampled pixels to reduce the total calculation amount. That is, the pixels themselves may be subsampled and thinned out. That is, the subscripts i and j of the pixels atnRi, j, arefRi, j described above are thinned out, and only the pixels atnRi, j, arefRi, j for the remaining i and j are used for calculating the shift amount, and the total amount of computation May be reduced

また、カラー画像を扱うディジタルカメラにおいては、一つの画素について、色(例えばR(赤)、G(緑)、B(青)といった三原色)についての複数の情報を持っているので、例えば、上述した変移量の算出において、一つの画素が持つ全ての色の情報について演算を行わず、例えば、R信号のみ、G信号のみ、またはB信号のみを用いて、変移量の算出を行って、総演算量の削減を図ってもよい。   In addition, a digital camera that handles color images has a plurality of pieces of information about colors (for example, three primary colors such as R (red), G (green), and B (blue)) for one pixel. In the calculation of the shift amount, the calculation of the shift amount is performed by using only the R signal, only the G signal, or only the B signal, for example, without calculating the information on all colors of one pixel. The amount of calculation may be reduced.

以上、本発明の実施形態について図面を参照して詳述したが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲での設計変更も含まれる。   As mentioned above, although embodiment of this invention was explained in full detail with reference to drawings, the concrete structure is not restricted to this embodiment, The design change in the range which does not deviate from the summary of this invention is also included.

本発明の一実施形態における自動撮像装置の一種である、ディジタルカメラの構成図である。1 is a configuration diagram of a digital camera that is a type of automatic imaging apparatus according to an embodiment of the present invention. FIG. 同実施形態における自動撮像装置の動体検出撮影の動作を示す図である。It is a figure which shows the operation | movement of the moving body detection imaging | photography of the automatic imaging device in the embodiment.

符号の説明Explanation of symbols

1・・・OPS(OPtical System)、2・・・OEC(OptoElectric Converter)(以上、撮像手段)、3・・・CDS−ADC(Correlated Double Sampler−Analog Digital Converter)(サンプリング手段)、4・・・タイミング回路、5・・・DSP(Digital Signal Processor)、6・・・DRAM(Dynamic Random Access Memory)、7 ・・・EEPROM(Electronically Erasable and Programmable Read Only Memory)、8・・・メモリカードI/F(InterFace)(撮像データ記憶手段)、9・・・CPU(Central Processing Unit)(演算手段)(制御手段)(算出条件変更手段)(サブサンプリング手段)、10・・・レンズ駆動部、11・・・フラッシュ制御部、12・・・フラッシュ、13・・・操作部(算出条件変更手段)、14・・・表示制御部、15・・・表示部、16・・・マイク、17 ・・・ADC(Analog Digital Converter)、18・・・エンコーダ、19・・・デコーダ、20・・・DAC(Digital Analog Converter)、21・・・スピーカ
DESCRIPTION OF SYMBOLS 1 ... OPS (OPtical System), 2 ... OEC (OptoElectric Converter) (above, imaging means), 3 ... CDS-ADC (Correlated Double Sampler-Analog Digital Converter) (sampling means), 4 ... Timing circuit, 5... DSP (Digital Signal Processor), 6... DRAM (Dynamic Random Access Memory), 7... EEPROM (Electronically Erasable and Programmable Read Only Memory), 8. F (InterFace) (imaging data storage means), 9... CPU (Central Processing Unit) (calculation means) (control means) (calculation condition changing means) (subsampling means), 10.・ ・ ・ Flash control unit, 12 ... Flash, 13 ... Operation unit (calculation condition changing means), 14 ... Display control unit, 15 ... Display unit, 16 ... Microphone, 1 ··· ADC (Analog Digital Converter), 18 ··· encoder, 19 ... decoder, 20 ··· DAC (Digital Analog Converter), 21 ··· speaker

Claims (5)

光学像を電気信号に変換して撮像データを得る撮像手段と、
所定の時間間隔において、前記撮像手段から得られた撮像データをサンプリングするサンプリング手段と、
前記サンプリングされた撮像データによって変移量を算出する演算手段と、
前記変移量が閾値を超えた場合、前記撮像データを撮像データ記憶手段に記憶する制御手段と、
を備えたことを特徴とする自動撮像装置。
Imaging means for obtaining optical data by converting an optical image into an electrical signal;
Sampling means for sampling imaging data obtained from the imaging means at a predetermined time interval;
A calculation means for calculating a shift amount based on the sampled imaging data;
Control means for storing the imaging data in the imaging data storage means when the amount of change exceeds a threshold;
An automatic imaging apparatus comprising:
少なくとも、前記変移量を算出する領域か、前記所定の時間間隔か、前記閾値かのいずれか一つを必要に応じて変更する算出条件変更手段を備えたことを特徴とする請求項1に記載の自動撮像装置。   The calculation condition changing means for changing at least one of the region for calculating the shift amount, the predetermined time interval, or the threshold value as needed. Automatic imaging device. 前記演算手段によって前記変移量を求めるための撮像データの画素を所定の間隔毎に間引くサブサンプリング手段を備えたことを特徴とする請求項1または請求項2のいずれかの項に記載の自動撮像装置。   3. The automatic imaging according to claim 1, further comprising sub-sampling means for thinning out pixels of imaging data for obtaining the shift amount by the calculating means at predetermined intervals. apparatus. 前記演算手段によって前記変移量を求めるための撮像データの画素の持つ色情報の一部を取り出すサブサンプリング手段を備えたことを特徴とする請求項1または請求項2のいずれかの項に記載の自動撮像装置。   The sub-sampling unit for extracting a part of color information of pixels of the imaging data for obtaining the shift amount by the arithmetic unit is provided. Automatic imaging device. 光学像を電気信号に変換して撮像データを得る撮像手段と、必要に応じて前記撮像データを記憶する撮像データ記憶手段とを有する自動撮像装置の制御用コンピュータに、
前記撮像手段によって、光学像を電気信号に変換して撮像データを得るステップと、
所定の時間間隔において、前記撮像手段から得られた撮像データをサンプリングするステップと、
前記サンプリングされた撮像データによって変移量を算出するステップと、
前記変移量が閾値を超えた場合、前記撮像データを撮像データ記憶手段に記憶するステップと、
を実行させるための自動撮像装置の制御用プログラム。

In a computer for control of an automatic imaging apparatus having an imaging means for converting an optical image into an electrical signal to obtain imaging data, and an imaging data storage means for storing the imaging data as required,
Converting the optical image into an electrical signal to obtain imaging data by the imaging means;
Sampling imaging data obtained from the imaging means at a predetermined time interval;
Calculating a shift amount based on the sampled imaging data;
Storing the imaging data in imaging data storage means when the amount of change exceeds a threshold;
A program for controlling an automatic imaging apparatus for executing the above.

JP2004336130A 2004-11-19 2004-11-19 Automatic imaging apparatus and program for controlling the same Pending JP2006148557A (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004336130A JP2006148557A (en) 2004-11-19 2004-11-19 Automatic imaging apparatus and program for controlling the same
KR1020050099949A KR100763969B1 (en) 2004-11-19 2005-10-22 Auto image pickup apparatus and computer-readable recording medium recorded with program for controlling the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004336130A JP2006148557A (en) 2004-11-19 2004-11-19 Automatic imaging apparatus and program for controlling the same

Publications (1)

Publication Number Publication Date
JP2006148557A true JP2006148557A (en) 2006-06-08

Family

ID=36627724

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004336130A Pending JP2006148557A (en) 2004-11-19 2004-11-19 Automatic imaging apparatus and program for controlling the same

Country Status (2)

Country Link
JP (1) JP2006148557A (en)
KR (1) KR100763969B1 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007336353A (en) * 2006-06-16 2007-12-27 Canon Inc Information processor
JP2008311920A (en) * 2007-06-14 2008-12-25 Fujifilm Corp Imaging apparatus
JP2009071651A (en) * 2007-09-14 2009-04-02 Nikon Corp Camera
US9065998B2 (en) 2007-06-14 2015-06-23 Fujifilm Corporation Photographing apparatus provided with an object detection function
JP2016197795A (en) * 2015-04-03 2016-11-24 日立オートモティブシステムズ株式会社 Imaging device
JP2019193272A (en) * 2019-05-23 2019-10-31 日立オートモティブシステムズ株式会社 Imaging device

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR19980019258A (en) * 1998-01-20 1998-06-05 나종래 Motion detection method using video input signal for video activated recorder
KR20000031470A (en) * 1998-11-06 2000-06-05 권태웅 Monitoring camera and controlling method thereof

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007336353A (en) * 2006-06-16 2007-12-27 Canon Inc Information processor
JP2008311920A (en) * 2007-06-14 2008-12-25 Fujifilm Corp Imaging apparatus
US9065998B2 (en) 2007-06-14 2015-06-23 Fujifilm Corporation Photographing apparatus provided with an object detection function
US9131138B2 (en) 2007-06-14 2015-09-08 Fujifilm Corporation Photographing apparatus
JP2009071651A (en) * 2007-09-14 2009-04-02 Nikon Corp Camera
JP2016197795A (en) * 2015-04-03 2016-11-24 日立オートモティブシステムズ株式会社 Imaging device
JP2019193272A (en) * 2019-05-23 2019-10-31 日立オートモティブシステムズ株式会社 Imaging device

Also Published As

Publication number Publication date
KR20060056235A (en) 2006-05-24
KR100763969B1 (en) 2007-10-05

Similar Documents

Publication Publication Date Title
JP4695541B2 (en) Imaging device
KR101118980B1 (en) Image capturing device suitable for photographing a person
JP5293206B2 (en) Image search apparatus, image search method and program
US20070242149A1 (en) Image display control apparatus, method of controlling the same, and control program therefor
JP4780205B2 (en) Imaging device, angle of view adjustment method, and program
JP6574878B2 (en) Image processing apparatus, image processing method, imaging apparatus, program, and storage medium
WO2016008359A1 (en) Object movement track image synthesizing method, device and computer storage medium
US7493036B2 (en) Imaging device
KR100763969B1 (en) Auto image pickup apparatus and computer-readable recording medium recorded with program for controlling the same
CN103369242B (en) Digital image processing apparatus and its control method
KR101665175B1 (en) Image acquisition apparatus,image acquisition method and recording medium
JP6762777B2 (en) Imaging device and its control method and program
JP5206422B2 (en) Composition selection device and program
US7193647B2 (en) Filtering still image data from a multimode stream
KR20150088200A (en) Imaging apparatus, imaging control method and program
JP2007116372A (en) Digital camera
JP6450107B2 (en) Image processing apparatus, image processing method, program, and storage medium
JP5392336B2 (en) Imaging apparatus, imaging method, and imaging program
JP4877186B2 (en) Image processing apparatus, image processing method, and program
JP2000165891A (en) Image pickup method, device and storage medium
KR101396355B1 (en) Digital image processing apparatus for diplaying slideshow of a number of continuous captured image and thereof method
JP2003069888A (en) Digital camera with multi-photographing function
JP5170217B2 (en) Camera, camera control program, and photographing method
JP2017092544A (en) Output control device, output control method and program
JP2006253875A (en) Imaging apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070608

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090713

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090728

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20090804

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091028

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20091124