WO2002102085A1 - Appareil d'enregistrement et de lecture video a camera integree et procede de commande d'enregistrement associe - Google Patents

Appareil d'enregistrement et de lecture video a camera integree et procede de commande d'enregistrement associe Download PDF

Info

Publication number
WO2002102085A1
WO2002102085A1 PCT/JP2002/005266 JP0205266W WO02102085A1 WO 2002102085 A1 WO2002102085 A1 WO 2002102085A1 JP 0205266 W JP0205266 W JP 0205266W WO 02102085 A1 WO02102085 A1 WO 02102085A1
Authority
WO
WIPO (PCT)
Prior art keywords
camera
recording
image
reproducing apparatus
control
Prior art date
Application number
PCT/JP2002/005266
Other languages
English (en)
French (fr)
Inventor
Masaaki Kojima
Original Assignee
Sony Corporation
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corporation filed Critical Sony Corporation
Priority to US10/343,881 priority Critical patent/US7349023B2/en
Priority to DE60227370T priority patent/DE60227370D1/de
Priority to KR1020037001609A priority patent/KR100893419B1/ko
Priority to EP02730780A priority patent/EP1404134B1/en
Publication of WO2002102085A1 publication Critical patent/WO2002102085A1/ja

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/115Selection of the code volume for a coding unit prior to coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/15Data rate or code amount at the encoder output by monitoring actual compressed data size at the memory before deciding storage at the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/152Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162User input
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/179Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scene or a shot
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction

Definitions

  • the present invention relates to a camera-integrated video recording / reproducing apparatus and a recording control method thereof.
  • the present invention relates to a camera-integrated video recording / reproducing apparatus for compressing and encoding a captured image and recording an image signal on a predetermined recording medium, and in particular, based on imaging control data for setting an imaging condition in an imaging unit.
  • the present invention also relates to a recording control method for a camera-integrated video recording / reproducing apparatus that performs appropriate quality compression encoding on image data of a captured subject and performs optimal image quality control processing.
  • MPEG2 (Moving Picture Experts Group Phase 2) is an encoding method used for broadcasting and AV equipment, and is widely used as an information compression technique for image Z audio data.
  • the input video is encoded once, the complexity and motion of the video are extracted from the amount of information generated, and the features of the video are identified and matched to the features.
  • An object of the present invention is to provide a camera-integrated video recording / reproducing apparatus which corrects and controls a target information amount in accordance with the content and properties of a moving image to be captured, and a recording control method thereof. Disclosure of the invention
  • a camera-integrated video recording / reproducing apparatus for compressing and encoding a captured image and recording an image signal on a predetermined recording medium.
  • the camera-integrated video recording / reproducing apparatus of the present invention includes: a first control unit that corrects the image signal by performing lens driving, exposure adjustment, white balance, or camera shake detection of the video camera; Second control means for controlling start and stop of shooting by the camera, and a plurality of pieces of shooting control information output from the first and second control means are received to determine the importance of the scene to be shot and the shooting environment. And a third control unit for optimizing the target information amount of the image signal recorded on the recording medium.
  • the target information amount when the target information amount is supplied to the encoding / compression device, the recording mode signal, the zoom lens position information, and the focus as the input signal and the input information to the target information amount control microcomputer.
  • the evaluation value camera shake detection value, iris opening / closing amount, camera signal gain amount, white balance control amount, etc., it is possible to set a new target information amount in consideration of the actual shooting situation.
  • FIG. 1 is a block diagram showing a control model of a camera-integrated video recording / reproducing apparatus of the present invention.
  • FIG. 2 is a block circuit diagram showing a configuration of a standard model of MPEG2.
  • FIG. 3 is an evening timing chart showing an example of target information amount control.
  • FIG. 4 is an evening timing chart showing an example of target information amount control at low illuminance.
  • FIG. 5 is a timing chart showing an example of target information amount control when detecting a white balance abnormality or camera shake.
  • FIG. 6 is a flowchart showing an example (part 1) of the control procedure.
  • FIG. 7 is a flowchart showing an example (part 2) of the control procedure.
  • FIG. 8 is a flowchart showing an example (part 3) of the control procedure.
  • FIG. 1 is a block diagram showing a control model of a camera-type video recording / reproducing apparatus incorporating various control microcomputers and an encoding / compression device.
  • the lens system 1 includes a zoom lens 1 z and a focus lens 1 f, and inputs light from a subject to the imaging device 2 via the lens system 1.
  • the image of the subject is extracted as three video signals corresponding to three colors of RGB (red, green, and blue).
  • RGB red, green, and blue
  • the video signal from the imaging device 2 is sent to the AZD converter 3 as moving image data, and the A / D converter 3 converts the moving image data to digital data.
  • the filter calculator 4 is configured using a digital filter, and by changing the filter coefficient, the passband characteristic of the frequency component is controlled to perform predetermined frequency conversion.
  • This moving image data is recorded as a bit stream from the encoding and compression device 10 on a recording medium such as a video tape (not shown).
  • the camera shake detection sensor 5 outputs a camera shake detection signal by an angular velocity sensor or the like.
  • the camera control microcomputer 6 corrects the camera shake based on the camera shake detection signal so as to eliminate the deterioration of the image quality due to the camera shake.
  • the camera control microcomputer 6 controls the optical system in the imaging device 2 based on the image input from the imaging device 2, the control output for optimally controlling the image input, and various signal inputs, in addition to the camera shake correction.
  • the camera control microcomputer 6 controls zooming and the like by driving the zoom lens 1z and the focus lens 1f.
  • the target information amount control microcomputer 7 controls the encoding / compression device 10 according to the target bit rate, thereby performing a predetermined compression / encoding process on the moving image data from the filter arithmetic unit 4 and encoding the moving image data. It forms a bit stream. Further, a filter coefficient is instructed to the filter operation unit 4 so that the moving image data is converted into data having a resolution suitable for encoding.
  • the human interface control microcomputer 8 controls recording start / stop, recording elapsed time information, and the like according to an operation switch input or the like from the user, and also controls display to the user.
  • an iris (aperture) 9 for exposure adjustment is arranged between the zoom lens lz and the focus lens If, and is input to the imaging device 2 via the lens system 1 by the camera control microcomputer 6.
  • the amount of light from the subject is being adjusted.
  • the target information amount control microcomputer 7 includes information from the camera control microcomputer 6, such as lens position information of a video camera, exposure adjustment information, white balance control information, and camera shake detection information by an angular velocity sensor. Is entered.
  • the coding control device 10 performs optimum coding control for the shooting scene. By instructing, more moving images are recorded with the optimal image quality on a recording medium with a limited recording capacity.
  • FIG. 2 is a block circuit diagram showing the configuration of a standard MPEG2 model for compressing digital video signals.
  • the encoding / compression device 10 outputs a bit stream obtained by performing an encoding process on the moving image data supplied from the AZD converter 3 via the filter operation unit 4. That is, a discrete cosine transform (DCT) unit 11 included in the encoding / compression unit 10 is configured to generate a moving image data supplied via an adder 12 that performs a difference calculation. It is configured to perform a discrete cosine conversion process and supply the result to a quantizer 13. The quantizer 13 performs a quantization process on the image data from the DCT unit 11 and supplies the image data to the variable-length encoder 14 and the inverse quantizer 15.
  • DCT discrete cosine transform
  • the inverse quantizer 15 performs inverse quantization on the quantized image data supplied from the quantizer 13 and supplies the result to the inverse DCT unit 16.
  • the inverse DCT unit 16 performs an inverse DCT transform on the inversely quantized image data from the inverse quantizer 15, and then supplies the data to the motion compensator 17.
  • the motion compensator 17 performs motion compensation on the image data and supplies it to the adder 12.
  • the variable length encoder 14 performs a variable length encoding process on the image data from the quantizer 13 and supplies the processed image data to the output buffer 18.
  • the output buffer 18 temporarily stores the image data from the variable-length encoder 14 and 6 to the rate controller 19 that controls the speed.
  • the rate controller 19 supplies a rate control signal for controlling the quantization rate to the quantizer 13 based on the compression control signal from the target information amount control microcomputer 7.
  • coding control is performed so as to match the target information amount from the target information amount control microcomputer 7, and a bit stream with high efficiency and high efficiency is output. be able to.
  • the conventional camera-integrated video recording / reproducing device only extracts the complexity and features of the image in the encoding / compression device 10, so when considering the actual shooting conditions, Distinguishing between image data of a scene with fast movement and image data that has the same complexity as a scene with fast movement even though it is a scene of non-attention, such as during panning could not.
  • the input signal to the target information amount control microcomputer 7 the input information, the recording mode signal, the zoom lens position
  • a new target information amount considering actual shooting conditions is set, and Has solved the problem.
  • FIG. 3 is a timing chart showing an example of target information amount control.
  • 7A to 7C show state information input to the target information amount control microcomputer 7, and
  • FIGS. 7D and 7E show the target bit rate output from the target information amount control microcomputer 7, respectively.
  • FIG. 3 (a) which is a command signal of the filter coefficient and the filter coefficient, shows the switching state of the recording mode signal.
  • the recording mode signal is determined by the human interface control microcomputer 8 based on a user operation.
  • the recording mode signal is divided into two operation modes: recording mode RM and standby mode SBM.In the recording mode RM, the image signal is recorded on the recording medium, but in the standby mode SBM, the camera image is output. But not recorded.
  • the mode switches from the standby mode SBM to the recording mode RM, and the recording state continues until time t7. Thereafter, the standby mode SBM is maintained until time 1: 8, and the recording mode RM is continued again from time t8 to time t9.
  • FIG. 3 (b) shows a change state of the zoom lens position
  • FIG. 3 (c) shows a change state of the focus evaluation value
  • the zoom lens position signal is a signal output from the camera control microcomputer 6 corresponding to the lens position changed and set based on the user's operation.
  • This lens position is telephoto in the vertical axis direction (longest focal length It can be moved manually or electrically within the zoom range from) to wide angle (shortest focal length).
  • the movement of the zoom lens during zooming is shown by a line inclined within the zoom range. Time At time 1: 3, the user switches the lens position during recording from wide angle to telephoto, and at time t5, again switches to wide angle.
  • the focus evaluation value is a value obtained by evaluating the contrast of an image projected on an image pickup device such as a CCD of the image pickup device 2 as a result of moving the focus lens 1f by the camera control microcomputer 6, and is a normalized numerical value. Is expressed.
  • the focusing operation of the focus lens is to control the evaluation value in a direction in which the evaluation value is increased. By focusing and increasing the contrast, the projected image becomes clear.
  • standby mode SBM before time t1 zooming at times t3 to t4 and times t5 to t6, etc., the focus evaluation is in progress, so the force evaluation value is below the optimal contrast .
  • the target bit rate shown in FIG. 3 (d) is a value corresponding to the MPEG2 standard model encoding / compression device 10 determined by the control algorithm of the target information amount control microcomputer 7 based on each input signal and input information. Parameters are set as overnight. In the MPEG2 standard model, the internal calculation is changed and controlled so that the calculation result of the output bit stream approaches the set value.
  • the fill coefficient shown in FIG. 3 (e) is a value obtained by the control algorithm of the target information amount control microcomputer 7 based on the input compression signal of the MPEG 2 standard model determined based on each input signal and input information.
  • this filter coefficient which is a parameter of a filter operation unit that performs a filtering process on the video signal before being input, to a small value, the resolution in the filter operation can be reduced. As a result, the information amount of the output video can be reduced without lowering the target bit rate.
  • the target bit rate is set lower as shown in Fig. 3 (d), and the target bit rate is set as shown in Fig. 3 (e).
  • the absolute value of the bit stream is reduced by setting the filter coefficient small.
  • the frame of the subject (image frame) is changed, and the photographer's attention generally increases. Therefore, in the recording operation immediately after focusing, such as time t4 or time t6 when the focus evaluation value exceeds the threshold value, the target bit rate and fill coefficient are set to be high, and the time after that is set. The average target information amount is reduced as time passes. This makes it possible to record more moving images with optimal image quality on a medium with a limited recording capacity.
  • FIG. 4 is a timing chart showing an example of target information amount control at low illuminance. Similar to FIG. 3, FIGS. 4 (a) to (c) show the state information input to the target information amount control microcomputer 7, and FIGS. 4 (d) and (e) show the target information respectively. These are command signals for the target bit rate and the filter coefficient output from the quantity control microcomputer 7.
  • FIG. 4 (a) shows the switching state of the recording mode.
  • the mode switches from the standby mode SBM to the recording mode RM, and the recording state continues until time t5.
  • the standby mode SBM is set until time t6, and the recording mode RM is set again from time t6 to time t8.
  • recording is often started when the video to be shot is focused on.
  • continuous shooting time information is input from the human interface control microcomputer 8 to the target information amount control microcomputer 7, and is relatively large immediately after the recording start such as at time t1 or time t6.
  • the target information amount is allocated.
  • the target information amount is controlled so as to reduce the average target information amount, for example, from time t4.
  • FIG. 4 (b) shows the change in the iris opening / closing amount that changes based on the exposure information of the subject
  • FIG. 4 (C) shows the change in the camera signal gain amount.
  • the iris opening / closing amount and the camera signal gain amount are both determined by the camera control microcomputer 6 detecting the signal level of the image projected on the image sensor. In a normal video camera, the iris 9 is fully opened in a dark place such as a room.
  • the camera signal gain amount is controlled by a camera signal processing circuit (not shown) in the imaging device 2 so that the video signal level becomes an appropriate signal amount.
  • the iris opening and closing amount is fully open at time t3 during recording and the camera signal gain increases, the image is dark and the SZN is poor, so the resolution is reduced and the bit rate is reduced. It is unlikely that a bad impression will be given to the image quality even if it is set to.
  • information is input from the camera control microcomputer 6 to the target information amount control microcomputer 7 to lower the bit rate and suppress image degradation.
  • the information amount of the target is appropriately adjusted by using the exposure correction information from the camera control microcomputer 6. It is possible to control.
  • FIG. 5 is a timing chart showing an example of target information amount control when detecting a white balance abnormality or camera shake.
  • FIGS. 5 (a) to 5 (C) show state information input to the target information amount control microcomputer 7, and FIGS. 5 (d) and (e) show the target information amount control microcomputer 7, respectively.
  • 7 is a command signal for a target bit rate and a filter coefficient output from 7.
  • FIG. 5 (a) shows the switching state of the recording mode.
  • the mode switches from the standby mode SBM to the recording mode RM, and the recording state continues until time t2. Thereafter, the standby mode SBM is maintained until time t3, and the recording mode is continued again from time t3 to time t8.
  • FIG. 5 (b) shows how the white balance control amount changes.
  • the white balance control amount is obtained by the camera control microcomputer 6 analyzing the color components of the video signal projected on the image sensor, and by this white balance control, the RGB (red, green, Color of the camera signal processing circuit so that the sum of the three video signals corresponding to the three colors (blue) becomes white.
  • the component ratio is controlled.
  • the control balance may be temporarily lost due to changes in the brightness of the subject or the light source in the environment. The larger this value is, the more balanced the control is.
  • FIG. 5 shows that an abnormal state of the white balance control has occurred from the time t4 to the time t5.
  • the image is judged to be NG. Therefore, there is no need to record this video at a high bit rate.
  • the recording mode from time t3 to time t8, for example, if the white balance control amount becomes abnormal at time t4, the fill coefficient is reduced to lower the resolution, and the target bit rate is increased. It can be set lower.
  • Fig. 5 (c) shows how the detected camera shake changes.
  • the camera shake detection value is determined based on an output signal from a camera shake detection sensor 5 provided near the lens system 1 of the video camera, and is processed as a normalized value by the camera control microcomputer 6. Have been. The larger the value, the more the lens movement is perceived.
  • the camera shake detection value becomes a large value exceeding the threshold.
  • the conventional camera control microcomputer recognizes that there is a large movement in the subject by detecting the correlation of the image on the time axis and extracting features even during panning of a stationary scenery, etc., and instructs the encoding / compression device 10. The amount of information to be obtained was increased more than necessary.
  • the absolute amount of the bit stream output from the encoding / compression device 10 can be reduced by the target information amount control microcomputer 7, and the target information amount control microcomputer 7 can be used comfortably and on a medium having a limited recording capacity. It will be possible to record more videos with appropriate image quality.
  • step S1 shown in FIG. 6 an initial value in the target information amount control microcomputer 7 is set immediately after the power is turned on.
  • the initial value of the target information amount set here is the initial value of the target bit rate and the filter coefficient.
  • step S2 information indicating the current state of the camera is input from the camera control microcomputer 6.
  • This information includes zoom lens position information, force evaluation value, iris opening / closing amount, camera signal gain amount, change in white balance control amount, camera shake detection value, and the like.
  • step S3 information indicating the operation state of the user is input from the human interface control microcomputer 8.
  • This information includes a recording mode signal, information on an elapsed time from the start of recording, and the like.
  • step S4 it is determined whether or not recording to the recording medium is being performed based on the recording mode signal. If the recording mode is RM, recording is in progress, so the process proceeds to step S5. If the mode is the standby mode SBM, the process proceeds to step S18 and waits. This is because the video recording / reproducing device with a built-in camera often starts actual recording when the user focuses on the video to be shot.
  • step S6 it is determined from the iris opening / closing amount and the camera signal gain whether or not the photographic environment has low illuminance. If the iris 9 is fully open and the camera signal gain is the maximum (low-light shooting), the process proceeds to step S15 (FIG. 8). This is because, by using the exposure correction information in the target information amount control microcomputer 7, it is assumed that shooting is performed in a low illuminance environment where the gain of the imaging device 2 is increased with the iris 9 open. If the illuminance is sufficient, proceed to step S7.
  • step S7 it is determined from the white balance information whether the white balance is abnormal. If it is determined to be abnormal, proceed to step S15 (FIG. 8).
  • step S15 By using the white balance information in the target information amount control microcomputer 7, the evaluation value of the white balance can be changed to blackbody radiation. Anything that deviates from the curve is judged as NG in the video. If normal, go to step S8.
  • step S8 it is determined whether the camera is panning based on the camera shake detection value. If the shake detection value exceeds a certain value, it is determined that panning is being performed, and the process proceeds to step S15 (FIG. 8). If no camera shake is detected, go to step S9.
  • step S9 it is determined whether or not zooming is being performed based on a change in the zoom lens position. If zooming is in progress, proceed to step S15 (FIG. 8); otherwise, proceed to step S10.
  • step S10 it is determined whether or not a focusing operation is being performed based on the magnitude of the focus evaluation value. If the focus evaluation value is smaller than the focus threshold value, it is determined that a focusing operation is being performed, and the process proceeds to step S15 (FIG. 8). Otherwise, the process proceeds to step S11. This is because the degree of attention of the photographer or the like to the image decreases during panning, zooming, and during focusing operation. In particular, during panning, according to the conventional image correlation detection and feature extraction on the time axis, it is determined that the image has motion, so the target information amount is not set higher than necessary.
  • step S11 the elapsed time T2 after the change of the zoom lens position is determined.
  • step S 1 2 If zooming has just started (T 2 ⁇ K 3), go to step S 1 2 (Fig. 7); otherwise ( ⁇ 3 ⁇ 2), go to step S 18, right after zooming This is because it is preferable to increase the target information amount because the degree of attention to the image during recording increases. Since the degree of attention decreases with the passage of time thereafter, the average target information amount is reduced when the elapsed time ⁇ 2 exceeds the predetermined time ⁇ 3.
  • step S12 shown in FIG. 7 it is determined whether or not the target bit rate has reached the maximum value. If it is the maximum value, the process proceeds to step S13. Otherwise, the process proceeds to step S14.
  • step S13 it is determined whether the filter coefficient is set to the maximum resolution. If it is the maximum value, proceed to step S 18 (FIG. 6); otherwise, proceed to step S 14.
  • step S14 the target information amount is changed. That is, the target bit rate is set to the maximum value, the filter coefficient is increased by one step in the direction of increasing the resolution, and then the process proceeds to step S18 (FIG. 6).
  • step S15 shown in FIG. 8 it is determined whether or not the target bit rate has reached the minimum value. If it is the minimum value, the process proceeds to step S16. Otherwise, the process proceeds to step S17.
  • step S16 it is determined whether the filter coefficient is set to the minimum resolution. If it is the minimum value, the process proceeds to step S18 (FIG. 6); otherwise, the process proceeds to step S17.
  • step S17 the target information amount is changed.
  • the target bit rate is reduced by one step
  • the filtering coefficient is reduced by one step in the direction of decreasing the resolution, before proceeding to step S18 (Fig. 6).
  • step S18 the process waits for a predetermined time, and then returns to step S2.
  • the loop operation starts at regular intervals immediately after the power is turned on, and stops when the power is turned off.
  • the loop time can be set arbitrarily.However, when controlling the target information amount for the MPEG2 standard model, the target bit rate within 1 GOP (Group of Picture) unit Its integer because it is difficult to change It is desirable to set a double time.
  • the magnitudes of the constants K1 to K3 in decision steps 5 and 11 are determined by a field test under actual shooting conditions.
  • the lens drive, exposure adjustment, white balance, and angular velocity of the video camera with respect to the MPEG-2 standard model Optimum coding control for the shooting scene taking into account information from the control microcomputer that detects and corrects camera shake by the sensor and information from the human interface microcomputer that controls starting and stopping shooting of the video camera, etc. This has the advantage that more moving images can be recorded with optimal image quality on media with limited storage capacity.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Television Signal Processing For Recording (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

明細書 カメラ一体型ビデオ記録再生装置、 及びその記録制御方法 技術分野
この発明は、 撮影された画像を圧縮符号化して、 画像信号を所定の記 録媒体に記録するカメラ一体型ビデオ記録再生装置に関し、 特に、 撮像 部に撮像条件を設定する撮像制御データに基づいて、 撮像された被写体 の画像データに対して適切な品質の圧縮符号化を行って、 最適な画質制 御処理を行うようにしたカメラ一体型ビデオ記録再生装置の記録制御方 法に関する。 背景技術
MP E G 2 (Moving Picture Experts Group Phase 2) は、 放送 や AV機器に用いられる符号化方式であり、 画像 Z音声 デ一夕などの 情報圧縮技術として広く用いられている。
MP E G 2の標準モデルによる圧縮符号化装置によれば、 入力される 映像を一度符号化し、 その発生情報量などから映像の複雑さや動きを抽 出し、 その映像の特徴を割出し、 特徴に合わせた符号化制御を行うこと により、 圧縮伸張後の画質の向上を図ることができる。
しかし、 従来の動き検出による符号化制御では、 実際の撮影状況を考 え'た場合には、 以下のような不都合があった。 たとえば、 動きの激しい シーンに注目して撮影を行っている場合と、 パンニング中のように、 非 注目のシーンであるにもかかわらず、 画像の相関検出結果としては、 動 きの激しいシーンと同様の複雑度を出力する場合とを区別できない。 このため、 記録容量に限りがあるディスクメディアを用いたカメラ一 体型ビデオ記録再生装置に、 動き検出による符号化制御を行う圧縮符号 化装置を適用すると、 再生画像を高画質に維持するためには、 撮影する 全てのシーンに常に最大のビッ トレートを割り付けることが必要になる その結果、 ディスクメディアへの記録時間が短くなつてしまう。
この発明の目的は、 撮影される動画像の内容と性質に合わせて目標情 報量を補正制御するようにしたカメラ一体型ビデオ記録再生装置、 及び その記録制御方法を提供することにある。 発明の開示
上記目的を達成するために、 撮影された画像を圧縮符号化して、 画像 信号を所定の記録媒体に記録するカメラ一体型ビデオ記録再生装置が提 供される。 この発明のカメラ一体型ビデオ記録再生装置は、 ビデオカメ ラのレンズ駆動、 露光調整、 ホワイ トバランス、 又は手ぶれ検出を行つ て、 前記画像信号の補正を行う第 1の制御手段と、 前記ビデオカメラに おける撮影開始、 停止を制御する第 2の制御手段と、 前記第 1、 第 2の 制御手段から出力される複数の撮影制御情報を受け取って、 撮影される シーンの重要度、 撮影環境を判断して、 前記記録媒体に記録される画像 信号の目標情報量を最適に設定する第 3の制御手段とから構成される。
この発明のカメラ一体型ビデオ記録再生装置では、 目標情報量を符号 化圧縮装置に供給する場合に、 目標情報量制御マイコンへの入力信号、 入力情報として、 録画モード信号、 ズームレンズ位置情報、 フォーカス 評価値、 手ぶれ検出値、 アイリス開閉量、 カメラ信号ゲイン量、 ホワイ トバランス制御量などを用いることにより、 実撮影状況を加味した新た な目標情報量を設定できる。 図面の簡単な説明
第 1図は、 この発明のカメラ一体型ビデオ記録再生装置の制御モデル を示すプロック図である。
第 2図は、 M P E G 2の標準モデルの構成を示すブロック回路図であ る。
第 3図は、 目標情報量制御の一例を示す夕イミングチャートである。 第 4図は、 低照度での目標情報量制御の一例を示す夕イミングチヤ一 トである。
第 5図は、 ホワイ トバランス異常や手ぶれ検出時の目標情報量制御の 一例を示すタイミングチャートである。
第 6図は、 制御手順の一例 (その 1 ) を示すフローチャートである。 第 7図は、 制御手順の一例 (その 2 ) を示すフローチャートである。 第 8図は、 制御手順の一例 (その 3 ) を示すフローチャートである。 発明を実施するための最良の形態
以下、 この発明の実施の形態について、 図面を参照して説明する。 . 第 1図は、 各種制御マイコン等や符号化圧縮装置が組み込まれたカメ ラー体型ビデオ記録再生装置の制御モデルを示すプロック図である。 レンズ系 1は、 ズームレンズ 1 z、 フォーカスレンズ 1 f とから構成 され、 このレンズ系 1を介して、 被写体からの光を撮像装置 2に入力し ている。 撮像装置 2では、 被写体の画像が R G B (赤、 緑、 青) の 3色 に相当する三つの映像信号として取り出される。 このとき、 レンズ系 1 は、 被写体に対してつねに合焦点に維持されるように位置制御される。 撮像装置 2からの映像信号は、 動画像データとして A Z D変換器 3に送 られ、 A / D変換器 3では動画像データをディジタルデータに変換する フィル夕演算器 4はディジ夕ルフィルタを用いて構成されており、 フ ィル夕係数を変えることにより、 周波数成分の通過帯域特性を制御して 所定の周波数変換が行われる。 この動画像データは、 符号化圧縮装置 1 0からピッ トストリームとして図示しないビデオテープなどの記録媒体 に記録される。
手ぶれ検知センサ 5は、 角速度センサなどにより手ぶれ検出信号を出 力するものである。 カメラ制御マイコン 6ではこの手ぶれ検出信号に基 づいて、 手ぶれ補正を行って手ぶれによる画質の劣化をなくすようにし ている。 また、 カメラ制御マイコン 6は、 手ぶれ補正のほか、 撮像装置 2からの映像入力、 それを最適に制御するコントロール出力、 及び各種 の信号入力に基づいて、 撮像装置 2における光学系の制御を行っている, さらに、 カメラ制御マイコン 6はズームレンズ 1 z、 フォーカスレンズ 1 f を駆動することによって、 ズーミングなどの制御も行っている。
目標情報量制御マイコン 7は、 目標ビッ トレートによって符号化圧縮 装置 1 0を制御することにより、 フィル夕演算器 4からの動画像データ に対して所定の圧縮符号化処理を施し、 符号化されたビットストリーム を形成するものである。 また、 フィルタ演算器 4に対してはフィルタ係 数を指令して、 動画像データを符号化に適した解像度のデータに変換す るようにしている。
ヒューマンインタフェース制御マイコン 8は、 ユーザからの操作スィ ツチ入力等により録画の開始、 停止や、 録画の経過時間情報などを制御 するとともに、 ユーザに対する表示を制御するものである。
なお、 レンズ系 1には、 ズームレンズ l z、 フォーカスレンズ I f の 間に露光調整用のアイリス (絞り) 9が配置され、 カメラ制御マイコン 6によって、 レンズ系 1を介して撮像装置 2に入力する被写体からの光 量を調整している。 目標情報量制御マイコン 7には、 後に詳述するように、 カメラ制御マ イコン 6からの情報、 例えばビデオカメラのレンズ位置情報、 露光調整 情報、 ホワイ トバランス制御情報、 及び角速度センサによる手ぶれ検出 情報などが入力されている。 また、 ヒューマンインタフェース制御マイ コン 8からの情報、 例えばビデオカメラの撮影開始、 停止などを制御す る情報などを加味して、 符号化圧縮装置 1 0に対して撮影シーンに最適 な符号化制御を指示することによって、 限られた記録容量の記録メディ ァに最適な画質でより多くの動画を記録するようにしている。
第 2図は、 ディジタル映像信号を圧縮処理する MP E G 2の標準モデ ルの構成を示すブロック回路図である。
符号化圧縮装置 1 0は、 フィルタ演算器 4を介して AZD変換器 3か ら供給される動画像データに対して、 符号化処理を施したビッ トストリ —ムを出力する。 即ち、 符号化圧縮装置 1 0を構成する離散コサイン変 換 (discrete cosine transform; D C T) 器 1 1は、 差分計算を行 う加算器 1 2を介して供給される動画像デ一夕に対して離散コサイン変 換処理を行い、 量子化器 1 3に供給するように構成されている。 量子化 器 1 3は、 DCT器 1 1からの画像データに対して量子化処理を施し、 可変長符号化器 1 4及び逆量子化器 1 5に供給する。
逆量子化器 1 5は、 量子化器 1 3より供給される量子化された画像デ —夕に対して、 逆量子化処理を施し、 逆 DCT器 1 6に供給する。 逆 D CT器 1 6は、 逆量子化器 1 5からの逆量子化された画像データに対し て逆 DCT変換を施した後、 動き補償器 1 7に供給する。 動き補償器 1 7は、 画像データに対して動き補償を行い、 加算器 1 2に供給する。 可変長符号化器 14は、 量子化器 1 3からの画像データに対して、 可 変長符号化処理を行い、 出力バッファ 1 8に供給する。 出力バッファ 1 8は、 可変長符号化器 1 4からの画像データを一旦記憶し、 量子化レー 6 トを制御するレート制御器 1 9に供給する。 レート制御器 1 9は、 目標 情報量制御マイコン 7からの圧縮制御信号に基づいて、 量子化器 1 3に 対して量子化レートを制御するためのレート制御信号を供給する。
このように構成された符号化圧縮装置 1 0では、 目標情報量制御マイ コン 7からの目標情報量に合致するように符号化制御が行われ、 効率よ く高圧縮なビッ トストリームを出力することができる。 しかし前述の通 り、 従来のカメラ一体型ビデオ記録再生装置では、 符号化圧縮装置 1 0 の中で画像の複雑度や特徴抽出を行うだけであったために、 実撮影状況 を考えた場合、 本当に動きの激しいシーンの画像データなのか、 それと もパンニング中のように、 非注目のシーンであるにもかかわらず、 動き の激しいシーンと同様の複雑度を持った画像データなのかを区別するこ とができなかった。
この発明のカメラ一体型ビデオ記録再生装置では、 目標情報量を符号 化圧縮装置 1 0に供給する場合に、 目標情報量制御マイコン 7への入力 信号、 入力情報として、 録画モード信号、 ズームレンズ位置情報、 フォ —カス評価値、 手ぶれ検出値、 アイリス開閉量、 カメラ信号ゲイン量、 ホワイ トバランス制御量などを用いることにより、 実撮影状況を加味し た新たな目標情報量を設定して、 従来の問題点を解決している。 すなわ ち、 注目している動きの激しいシーンに対しては、 フィル夕演算器 4に よる帯域制限を行わないで、 かつ画質を維持するに充分なピッ トレート を割り付けることが可能である。 一方、 パンニング中などのように、 非 注目の画像データが入力している場合には、 記録映像の重要度は低いと 考えられる。 したがって、 そのような場合には、 少ないビッ トレートで も画質の破綻を来たさないように、 フィルタ演算器 4による帯域制限を 行い、 ビッ トレートも低く抑えて記録することが有効である。 なお、 上述した各種制御マイコン 6 , 7 , 8は、 一つの I Cやマイコ ンに内蔵されていても、 同様の効果を期待できる。
つぎに、 上記カメラ一体型ビデオ記録再生装置の画像圧縮における目 標情報量の制御動作について、 さらに詳細に説明する。
第 3図は、 目標情報量制御の一例を示すタイミングチャートである。 同図 (a ) 〜 (c ) は目標情報量制御マイコン 7へ入力される状態情報 であり、 同図 (d ) 及び (e ) は、 それぞれ目標情報量制御マイコン 7 から出力される目標ビッ トレート、 及びフィルタ係数の指令信号である 第 3図 ( a ) は、 録画モード信号の切替え状態を示している。
録画モード信号は、 ヒューマンインタフェース制御マイコン 8からュ 一ザの操作に基づいて決定されるものである。 録画モード信号は、 記録 モ一ド R Mとスタンバイモード S B Mの 2つの動作モードに区別され、 記録モード R Mでは記録メディアに画像信号を記録しているが、 スタン バイモード S B Mではカメラ画像は出力されているが記録していない。 時刻 t 2でスタンバイモード S B Mから記録モード R Mに切り替わり、 時刻 t 7まで録画状態が続いている。 その後、 時刻 1: 8までスタンバイ モード S B Mとなり、 再び時刻 t 8から時刻 t 9まで記録モード R Mが 続いている。
第 3図 (b ) は、 ズームレンズ位置の変動状態、 同図 (c ) は、 フォ 一カス評価値の変化の様子を示している。
ズームレンズ位置信号は、 ユーザの操作に基づいて変更設定されるレ ンズ位置に対応して、 カメラ制御マイコン 6から出力される信号である < このレンズ位置は、 縦軸方向に望遠 (最長焦点距離) から広角 (最短焦 点距離) までのズームレンジ内で、 手動、 又は電動で移動可能である。 第 3図 (b ) のタイミングチャートでは、 ズームレンジ内に傾斜したラ ィンによってズーミング中のズームレンズ移動状態が示されている。 時 刻 1: 3では、 ユーザが録画中のレンズ位置を広角から望遠に切替え、 時 刻 t 5では再び広角に切り替えている。
フォーカス評価値とは、 カメラ制御マイコン 6がフォーカスレンズ 1 f を動かした結果、 撮像装置 2の C C Dなどの撮像素子に映し出された 映像のコントラストを評価したものであって、 正規化された数値として 表現されている。 ここで、 フォーカスレンズの合焦動作とは、 この評価 値が大きくなる方向に制御することであって、 ピントを合わせて、 コン トラストを上げることによって、 映し出される映像は鮮明になる。 時刻 t 1以前のスタンバイモード S B M時、 時刻 t 3〜 t 4、 及び時刻 t 5 〜 t 6などのズーミング時は、 フォーカス合焦中であるため、 フォー力 ス評価値が最適コントラストを下回っている。
第 3図 (d ) に示す目標ビッ トレートとは、 目標情報量制御マイコン 7の制御アルゴリズムによって、 その各入力信号、 入力情報に基づいて 決定された M P E G 2標準モデルの符号化圧縮装置 1 0に対するパラメ 一夕として設定されるものである。 M P E G 2標準モデルでは、 出力さ れるビッ トストリ一ムの演算結果をこの設定値に近づけるように、 その 内部演算が変更制御される。
第 3図 (e ) に示すフィル夕係数とは、 目標情報量制御マイコン 7の 制御アルゴリズムによって、 その各入力信号、 入力情報に基づいて決定 された M P E G 2標準モデルの符号化圧縮装置 1 0に入力される前の映 像信号にフィルタリング処理を行うフィルタ演算器のパラメータである, このフィルタ係数を小さく設定することにより、 フィルタ演算における 解像度を下げることができる。 これにより、 目標ビッ トレートを低下さ せないでも、 出力される映像の情報量を小さくすることができる。
一般に、 人間は視線移動中には、 通常より視線感度を落とし、 必要以 上の鮮明な映像を入力していないという特性がある。 これは、 疲れゃ不 快感を感じないようにするためである。 したがって、 時刻 t 3から t 4 などのズーム中や、 フォーカス合焦への動作中には、 画像に対する注目 度が下がっているものと想定することができる。
すなわち、 このような撮影状態では、 必要以上に解像度の高い、 鮮明 な映像にする必要はない。 そこで、 カメラ制御マイコン 6から目標情報 量制御マイコン 7に入力される状態情報に基づいて、 第 3図 (d ) に示 すように目標ビッ トレートを低めに設定し、 第 3図 (e ) に示すように フィル夕係数を小さく設定することにより、 ビッ トストリームの絶対量 を減らすようにしている。
また、 ズーム直後には、 被写体のフレーム (画枠) を変えたために、 一般に撮影者の注目度が高くなる。 そこで、 フォーカス評価値が閾値を 超えた時刻 t 4や時刻 t 6など、 合焦完了直後の録画動作では、 目標ビ ッ トレ一卜とフィル夕係数が高くなるように設定するとともに、 その後 の時間経過に応じて平均目標情報量を下げている。 これによつて、 限ら れた記録容量のメディアに、 最適な画質でより多くの動画を記録するこ とができる。
第 4図は、 低照度での目標情報量制御の一例を示すタイミングチヤ一 トである。 第 3図と同様、 第 4図 ( a ) 〜 (c ) は目標情報量制御マイ コン 7へ入力される状態情報であり、 第 4図 (d ) 及び (e ) は、 それ ぞれ目標情報量制御マイコン 7から出力される目標ビッ トレート、 及び フィルタ係数の指令信号である。
第 4図 (a ) は、 録画モードの切替え状態を示している。 時刻 t 1で ス夕ンバイモード S B Mから記録モード R Mに切り替わり、 時刻 t 5ま で録画状態が続いている。 その後、 時刻 t 6までスタンバイモード S B Mとなり、 再び時刻 t 6から時刻 t 8まで録画モード R Mである。 カメラ一体型ビデオ記録再生装置の場合には、 撮影したい映像に注目 したところより録画開始とするケースが多い。 このことを利用して、 連 続撮影時間情報をヒューマンインタフェース制御マイコン 8から目標情 報量制御マイコン 7に入力し、 時刻 t 1や時刻 t 6のような録画スター ト直後には比較的多めに目標情報量を割り振るようにしている。
その後、 連続して録画を続けた場合、 長い時間が経過すると撮影者、 及び再生時の視聴者の注目度が下がってくるものと想定される。 前述し たように、 画像に対する注目度が下がってきた場合には、 フィルタ演算 器 4のフィルタ係数を変え、 高域の周波数成分を取り除くことで解像度 を下げれば、 後段の符号化圧縮装置 1 0での圧縮効率がさらに高まり、 低いピッ トレートでも、 映像劣化を抑えることができる。 そこで、 録画 開始から録画モードが一定時間継続した後、 例えば時刻 t 4から平均目 標情報量を下げるように目標情報量を制御している。
第 4図 (b ) は、 被写体の露光情報に基づいて変化するアイリス開閉 量の変化を、 同図 (C ) には、 カメラ信号ゲイン量の変化の様子を示し ている。
アイリス開閉量とカメラ信号ゲイン量は、 いずれもカメラ制御マイコ ン 6が撮像素子に映し出された映像の信号レベルを検出して決定される ものである。 通常のビデオカメラでは、 室内の暗いところなどでは、 ァ ィリス 9が全開となる。 また、 カメラ信号ゲイン量は、 撮像装置 2内の 図示しないカメラ信号処理回路において、 映像信号レベルが適切な信号 量となるようゲイン (利得) コントロールされるものである。
通常、 ビデオカメラでは、 カメラ信号処理回路のゲインを上げると、 信号中のノィズ成分も大きくなつてしまうので、 室内の暗いところなど では、 まずアイリス開閉量を調節により信号レベルをコントロールし、 全開となった後に、 カメラ信号処理回路のゲインを上げる制御を行って いる。 アイリス開閉量が全開で、 カメラ信号ゲイン量が大きい場合には, 低照度の撮影であるといえる。
例えば、 録画中の時刻 t 3でアイリス開閉量が全開であって、 カメラ 信号ゲイン量が増加してくるような状態では、 映像が暗く、 S Z Nも悪 いため、 解像度を下げるとともに、 ビッ トレートを低めに設定しても画 質に対して悪い印象を与えることは少ない。 同様にカメラ制御マイコン 6から目標情報量制御マイコン 7に情報を入力してビッ トレートを低く するとともに、 映像劣化を抑える。
このようにアイリス 9がオープン状態であって、 撮像装置 2のゲイン が上がった低照度の環境下では、 これらのカメラ制御マイコン 6からの 露光補正の情報を利用して、 目標情報量を適切に制御することが可能で ある。
第 5図は、 ホワイ トバランス異常や手ぶれ検出時の目標情報量制御の 一例を示すタイミングチャートである。 第 3図と同様、 第 5図 (a ) 〜 ( C ) は目標情報量制御マイコン 7へ入力される状態情報であり、 第 5 図 (d ) 及び (e ) は、 それぞれ目標情報量制御マイコン 7から出力さ れる目標ビットレート、 及びフィルタ係数の指令信号である。
第 5図 (a ) は、 録画モードの切替え状態を示している。 時刻 t 1で スタンバイモード S B Mから記録モード R Mに切り替わり、 時刻 t 2ま で録画状態が続いている。 その後、 時刻 t 3までスタンバイモード S B Mとなり、 再び時刻 t 3から時刻 t 8まで録画モードが続く。
第 5図 (b ) は、 ホワイ トバランス制御量の変化の様子を示している。 ホワイ トバランス制御量とは、 カメラ制御マイコン 6が撮像素子に映 し出された映像信号の色成分を分析して求められるものであって、 この ホワイ トバランス制御によって、 R G B (赤、 緑、 青) の 3色に相当す る三つの映像信号全体の和が白になるように、 カメラ信号処理回路の色 成分比率が制御される。 しかし、 被写体の明るさや環境の光源の変化な どにより一時的に制御バランスが取れない状態になることがある。 この 値が大きいほど制御バランスが取れた状態であるが、 第 5図では、 時刻 t 4から t 5のタイミングに、 ホワイ トバランス制御の異常状態が生じ たことを示している。
ホワイ トバランスの情報を利用した場合として、 ホワイ トバランスの 評価値が黒体放射カーブから外れたものは、 映像としては N Gと判断さ れる。 そのため、 この映像を高いビッ トレートで記録する必要は生じな い。 時刻 t 3から時刻 t 8までの録画モード中に、 例えば時刻 t 4でホ ワイ トバランス制御量が異常となった場合には、 フィル夕係数を小さく して解像度を下げるとともに、 目標ビッ トレートを低めに設定すること が可能である。
第 5図 (c ) には、 手ぶれ検出値の変化の様子を示している。
手ぶれ検出値とは、 ビデオカメラのレンズ系 1の近傍に設けられた手 ぶれ検知センサ 5からの出力信号に基づいて決定されるものであって、 カメラ制御マイコン 6では正規化された数値として処理されている。 こ の数値が大きいほどレンズの動きが激しいものと認識される。
ビデオカメラにより移動中の被写体やパノラマ画像などを映し出す場 合に、 カメラを水平に左右方向に大きく動かして、 パンニングなどが行 われる。 このような場合、 例えば時刻 t 6から t 7に示すように、 手ぶ れ検出値が閾値を超えた大きな値となる。 従来のカメラ制御マイコンで は、 静止した風景などのパンニング中でも、 時間軸上での画像の相関検 出、 特徴抽出によって被写体に大きな動きがあるものと認識して、 符号 化圧縮装置 1 0に指令される目標情報量を必要以上に上げてしまってい た。 ここでは、 手ぶれ検知センサ 5の出力によるパンニング中という付加 情報をカメラ制御マイコン 6から目標情報量制御マイコン 7に入力して 目標情報量を必要以上に上げないように制御している。 このときも、 フ ィルタ演算器 4のフィル夕係数を変え、 高域の周波数成分を取り除くこ とを行えば、 後段の符号化圧縮装置 1 0での圧縮効率がさらに高まり、 低いビッ トレー卜でも、 映像劣化を抑えることができる。
さらに、 パンニング中には第 3図、 第 4図で説明した録画モードの切 替えの場合と同様に、 画像に対する注目度が下がっているので、 必要以 上に解像度の高い、 鮮明な映像にする必要はない。
以上に説明したように、 目標情報量制御マイコン 7によって符号化圧 縮装置 1 0から出力されるビッ トストリームの絶対量を減らすことがで き、 限られた記録容量のメディアに、 快適でかつ適切な画質でより多く の動画を記録することが可能になる。
つぎに、 目標情報量制御マイコン 7の入力信号 入力情報に対する制 御方法の具体例について説明する。
第 6図乃至第 8図は、 制御手順の一例を示すフローチャートである。 第 6図に示すステップ S 1では、 電源投入直後に目標情報量制御マイ コン 7における初期値が設定される。 ここで設定される目標情報量の初 期値は、 目標ビッ トレ一トとフィルタ係数の初期値である。
ステップ S 2では、 カメラ制御マイコン 6からカメラの現在の状態を 示す情報が入力される。 この情報は、 ズームレンズ位置情報、 フォー力 ス評価値、 アイリス開閉量、 カメラ信号ゲイン量、 ホワイ トバランス制 御量の変化、 手ぶれ検出値などである。
ステップ S 3では、 ヒューマンインタフェース制御マイコン 8からュ —ザの操作状態を示す情報が入力される。 この情報は、 録画モード信号、 録画開始からの経過時間情報などである。 ステップ S 4では、 録画モ一ド信号により記録メディァへの記録中で あるかどうかを判定する。 記録モード RMであれば録画中であるので、 ステツプ S 5に進み、 スタンバイモー S B Mであればステツプ S 1 8 に進み、 待機する。 これはカメラ一体型ビデオ記録再生装置では撮影し たい映像に注目したときから、 実際の録画を開始するケースが多いから である。
ステップ S 5では、 連続撮影時間 T 1の測定信号により記録開始から の時間経過を判定する。 録画開始直後の場合 (T 1≤K 1 ) は、 ステツ プ S 1 2 (第 7図) に進み、 録画開始から十分に時間が経過した場合 (Κ 2≤Τ 1 ) は、 ステップ S 1 5 (第 8図) に進む。 それ以外の場合 (Κ ΚΤ ΚΚ2) は、 ステップ S 6に進む。 連続して一定時間 (= Κ 2) 以上録画を続けた場合には、 撮影者だけでなく再生映像の視聴者 にとつても、 注目度が低下することが常識として知られている。 第 4図 に示すように、 連続撮影時間が録画開始から Κ 2 (= t 4 - t 1 ) を超 えた時点で、 平均目標情報量を下げていくためである。
ステップ S 6では、 アイリス開閉量とカメラ信号ゲインから撮影環境 が低照度であるかどうかを判定する。 アイリス 9が全開で、 かつカメラ 信号ゲイン量が最大である場合 (低照度撮影) には、 ステップ S 1 5 (第 8図) に進む。 目標情報量制御マイコン 7で露光補正の情報を利用 することにより、 アイリス 9がオープン状態で撮像装置 2のゲインが上 がった低照度の環境下での撮影が想定されるからである。 照度が十分で あれば、 ステツプ S 7に進む。
ステップ S 7では、 ホワイ トバランス情報によりホワイ トバランスが 異常であるかどうかを判定する。 異常と判断した場合には、 ステップ S 1 5 (第 8図) に進む。 目標情報量制御マイコン 7でホワイ トバランス の情報を利用することによって、 ホワイ トバランスの評価値が黒体放射 カーブから外れたものは、 映像としては N Gと判断されるからである。 正常であれば、 ステップ S 8に進む。
ステップ S 8では、 手ぶれ検出値によりカメラがパンニング中である かどうかを判定する。 手ぶれ検出値が一定の値を超えた場合には、 パン ニング中であるとして、 ステップ S 1 5 (第 8図) に進む。 手ぶれが検 出されなかったときは、 ステップ S 9に進む。
ステツプ S 9では、 ズームレンズ位置の変化によりズーミング中であ るかどうかを判定する。 ズーミング中であれば、 ステップ S 1 5 (第 8 図) に進み、 そうでなければステップ S 1 0に進む。
ステップ S 1 0では、 フォーカス評価値の大きさにより合焦動作中で あるかどうかを判定する。 フォーカス評価値がフォーカス閾値より小さ い場合には、 合焦動作中であるとして、 ステップ S 1 5 (第 8図) に進 み、 そうでなければステップ S 1 1に進む。 パンニング中、 ズーム中、 及びフォーカス合焦への動作中には、 撮影者等の画像に対する注目度が 下がっているからである。 とりわけ、 パンニング中には従来の時間軸上 での画像の相関検出、 特徴抽出によると、 動きがある画像という判断が なされるので、 必要以上に目標情報量を高く設定しないためである。
ステップ S 1 1では、 ズームレンズ位置の変更後の経過時間 T 2を判 定する。
ズーミング開始直後の場合 (T 2≤K 3 ) は、 ステップ S 1 2 (第 7 図) に進み、 それ以外の場合 (Κ 3 < Τ 2 ) は、 ステツプ S 1 8に進む, ズーム開始直後の録画に際して、 画像に対する注目度が高くなるので、 目標情報量を上げることが好ましいからである。 その後の時間経過とと もに注目度は低下するので、 経過時間 Τ 2が所定時間 Κ 3を超えた時点 では、 平均目標情報量を下げていく。 第 7図に示すステップ S 1 2では、 目標ビットレートが最大値となつ ているかどうかを判断する。 最大値であればステップ S 1 3に進み、 そ うでなければステップ S 1 4に進む。
ステップ S 1 3では、 フィルタ係数が最大解像度に設定されているか どうかを判断する。 最大値であればステップ S 1 8 (第 6図) に進み、 そうでなければステップ S 1 4に進む。
ステップ S 1 4では、 目標情報量を変更する。 すなわち、 目標ビット レ一トを最大値にするとともに、 解像度を増やす方向にフィルタ係数を 1ステップだけ増加させてから、 ステップ S 1 8 (第 6図) に進む。 第 8図に示すステップ S 1 5では、 目標ビットレートが最小値となつ ているかどうかを判断する。 最小値であればステップ S 1 6に進み、 そ うでなければステップ S 1 7に進む。
ステップ S 1 6では、 フィル夕係数が最小解像度に設定されているか どうかを判断する。 最小値であればステップ S 1 8 (第 6図) に進み、 そうでなければステップ S 1 7に進む。
ステップ S 1 7では、 目標情報量を変更する。 すなわち、 目標ビット レートを 1ステップだけ減少させるとともに、 解像度を減らす方向にフ ィル夕係数を 1ステップだけ減少させてから、 ステップ S 1 8 (第 6 図) に進む。
ステップ S 1 8では、 一定時間だけ待機し、 その後にステップ S 2に 戻る。
以上のフローチャートは、 電源投入直後から一定時間ごとにループ動 作が開始され、 電源遮断によって停止するものとする。 ループ時間は任 意に設定することができるが、 MP E G 2の標準モデルに対して目標情 報量を制御する場合には、 1 GO P (G r o u p o f P i c t u r e ) 単位以内での目標ビットレートの変更が困難であるため、 その整数 倍の時間を設定することが望ましい。 また、 判断ステップ 5, 1 1など の定数 K 1〜K 3の大きさは、 実際の撮影条件下でのフィールドテスト によって決定する。
以上に説明したように、 この発明のカメラ一体型ビデオ記録再生装置, 及びその記録制御方法によれば、 M P E G 2の標準モデルに対してビデ ォカメラのレンズ駆動、 露光調整、 ホワイ トバランス、 及び角速度セン サによる手ぶれ検出を行い、 補正する制御マイコンからの情報やビデオ カメラの撮影開始、 停止などを制御するヒューマンィンタフエースマイ コンからの情報を加味し、 その撮影シーンに最適な符号化制御を行うこ とで、 限られた記録容量のメディアに、 最適な画質でより多くの動画を 記録できる利点がある。

Claims

請求の範囲
1 . 撮影された画像を圧縮符号化して、 画像信号を所定の記録媒体に 記録するカメラ一体型ビデオ記録再生装置において、
ビデオカメラのレンズ駆動、 露光調整、 ホワイ トバランス、 又は手ぶ れ検出を行って、 前記画像信号の補正を行う第 1の制御手段と、 前記ビデオカメラにおける撮影開始、 停止を制御する第 2の制御手段 と、
前記第 1、 第 2の制御手段から出力される複数の撮影制御情報を受け 取って、 撮影されるシーンの重要度、 撮影環境を判断して、 前記記録媒 体に記録される画像信号の目標情報量を最適に設定する第 3の制御手段 と、
を備えることを特徴とするカメラ一体型ビデオ記録再生装置。
2 . 前記第 3の制御手段は、 M P E G 2の標準モデルによる圧縮符号 化手段を含むことを特徴とする請求の範囲第 1項記載のカメラ一体型ビ デォ記録再生装置。
3 . 前記第 3の制御手段は、 符号化される動画像データを前処理する フィルタ手段を含むことを特徴とする請求の範囲第 1項記載のカメラ一 体型ビデオ記録再生装置。
4 . 撮影された画像を圧縮符号化して、 画像信号を所定の記録媒体に 記録するカメラ一体型ビデオ記録再生装置の記録制御方法であって、 記録継続時間情報と光学系の撮影制御情報とに基づいて、 圧縮符号化 される画像の目標情報量を補正するようにしたことを特徴とするカメラ 一体型ビデオ記録再生装置の記録制御方法。
PCT/JP2002/005266 2001-06-07 2002-05-30 Appareil d'enregistrement et de lecture video a camera integree et procede de commande d'enregistrement associe WO2002102085A1 (fr)

Priority Applications (4)

Application Number Priority Date Filing Date Title
US10/343,881 US7349023B2 (en) 2001-06-07 2002-05-30 Camera-integrated video recording and reproducing apparatus, and record control method thereof
DE60227370T DE60227370D1 (de) 2001-06-07 2002-05-30 Kamera-integrierte videoaufzeichnung und wiedergabevorrichtung und aufzeichnungssteuerverfahren dafür
KR1020037001609A KR100893419B1 (ko) 2001-06-07 2002-05-30 촬상 장치 및 촬상 방법
EP02730780A EP1404134B1 (en) 2001-06-07 2002-05-30 Camera-integrated video recording and reproducing apparatus, and record control method thereof

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2001-172640 2001-06-07
JP2001172640A JP3849461B2 (ja) 2001-06-07 2001-06-07 撮像装置及び撮像方法

Publications (1)

Publication Number Publication Date
WO2002102085A1 true WO2002102085A1 (fr) 2002-12-19

Family

ID=19014228

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2002/005266 WO2002102085A1 (fr) 2001-06-07 2002-05-30 Appareil d'enregistrement et de lecture video a camera integree et procede de commande d'enregistrement associe

Country Status (7)

Country Link
US (1) US7349023B2 (ja)
EP (1) EP1404134B1 (ja)
JP (1) JP3849461B2 (ja)
KR (1) KR100893419B1 (ja)
CN (1) CN1212018C (ja)
DE (1) DE60227370D1 (ja)
WO (1) WO2002102085A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11831985B2 (en) 2019-03-13 2023-11-28 Sony Semiconductor Solutions Corporation Camera and control method

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9113846B2 (en) 2001-07-26 2015-08-25 Given Imaging Ltd. In-vivo imaging device providing data compression
IL155175A (en) * 2003-03-31 2012-01-31 Given Imaging Ltd A diagnostic device that uses information thinning
US8369402B2 (en) * 2004-06-17 2013-02-05 Canon Kabushiki Kaisha Apparatus and method for prediction modes selection based on image formation
WO2006090755A1 (en) * 2005-02-23 2006-08-31 Canon Kabushiki Kaisha Image processing apparatus
JP4708819B2 (ja) * 2005-03-14 2011-06-22 キヤノン株式会社 画像処理装置、方法、コンピュータプログラム及び記憶媒体
EP1713284A1 (en) * 2005-04-15 2006-10-18 Deutsche Thomson-Brandt Gmbh Method and device for recording digital data
JP4817990B2 (ja) 2005-08-17 2011-11-16 キヤノン株式会社 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP4542011B2 (ja) * 2005-09-27 2010-09-08 富士通株式会社 カメラ及び手ぶれ補正方法及び手ぶれ補正プログラム
JP4794987B2 (ja) * 2005-11-09 2011-10-19 キヤノン株式会社 映像信号処理装置
KR100770927B1 (ko) * 2005-11-14 2007-10-26 삼성전자주식회사 휴대용 단말기에서 영상을 촬영하는 방법
JP2007295370A (ja) * 2006-04-26 2007-11-08 Sony Corp 符号化装置および方法、並びにプログラム
TWI367457B (en) * 2006-07-03 2012-07-01 Nippon Telegraph & Telephone Image processing method and apparatus, image processing program, and storage medium for storing the program
JP4834535B2 (ja) * 2006-12-22 2011-12-14 キヤノン株式会社 撮像装置
JP4901460B2 (ja) * 2006-12-26 2012-03-21 富士フイルム株式会社 撮影装置、方法およびプログラム
US8467460B2 (en) * 2006-12-28 2013-06-18 Nippon Telegraph And Telephone Corporation Video processing method and apparatus, video processing program, and storage medium which stores the program
US8532199B2 (en) 2008-01-24 2013-09-10 Panasonic Corporation Dynamic image compression device
JP5780764B2 (ja) 2011-01-17 2015-09-16 オリンパス株式会社 撮像装置
US9568985B2 (en) 2012-11-23 2017-02-14 Mediatek Inc. Data processing apparatus with adaptive compression algorithm selection based on visibility of compression artifacts for data communication over camera interface and related data processing method
US10666925B2 (en) * 2015-04-29 2020-05-26 Adam S Rowell Stereoscopic calibration using a multi-planar calibration target
EP3300363B1 (en) 2015-12-15 2018-08-29 Axis AB A bit rate controller and a method for limiting output bit rate
US10148964B2 (en) * 2016-11-03 2018-12-04 Ujet, Inc. Image quality management
KR102315524B1 (ko) * 2017-06-16 2021-10-21 한화테크윈 주식회사 영상의 비트레이트 조절 방법 및 영상 획득 장치
JP2021170690A (ja) * 2018-06-01 2021-10-28 ソニーグループ株式会社 画像処理装置および方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05130602A (ja) * 1991-11-07 1993-05-25 Canon Inc 端末装置
JPH05300506A (ja) * 1992-04-23 1993-11-12 Canon Inc 画像音声通信端末装置
JPH0622193A (ja) * 1992-07-01 1994-01-28 Canon Inc カメラ制御装置
JPH0884327A (ja) * 1994-09-13 1996-03-26 Matsushita Electric Ind Co Ltd 画像通信装置及び画像通信方法
JPH1141515A (ja) * 1997-07-24 1999-02-12 Minolta Co Ltd スチルカメラ
JPH11187309A (ja) * 1997-12-19 1999-07-09 Canon Inc 撮像装置及び撮像方法
JP2001036904A (ja) * 1999-07-16 2001-02-09 Fuji Photo Film Co Ltd 信号処理装置
JP2001086510A (ja) * 1999-09-14 2001-03-30 Canon Inc 画像処理装置、方法、及びコンピュータ読み取り可能な記憶媒体

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5237363A (en) * 1989-08-31 1993-08-17 Minolta Camera Kabushiki Kaisha Camera system with lens movable in vertical direction to optical axis of photo-taking lens
US5221963A (en) * 1990-03-31 1993-06-22 Minolta Camera Kabushiki Kaisha Video camera having a video signal processing apparatus
KR100195071B1 (ko) * 1992-07-14 1999-06-15 윤종용 디지탈 비디오신호 기록 재생방법 및 그 장치
JPH06205249A (ja) * 1992-10-22 1994-07-22 Konica Corp ビデオカメラ
JP3400506B2 (ja) * 1993-03-12 2003-04-28 オリンパス光学工業株式会社 画像処理装置
US6078751A (en) * 1994-04-27 2000-06-20 Canon Kabushiki Kaisha Image-shake correcting device
JP3525353B2 (ja) * 1994-09-28 2004-05-10 株式会社リコー デジタル電子スチル・カメラ
US5926209A (en) 1995-07-14 1999-07-20 Sensormatic Electronics Corporation Video camera apparatus with compression system responsive to video camera adjustment
US5835138A (en) * 1995-08-30 1998-11-10 Sony Corporation Image signal processing apparatus and recording/reproducing apparatus
JP3480206B2 (ja) * 1996-11-26 2003-12-15 ミノルタ株式会社 位置検出装置及びカメラ
US6404776B1 (en) * 1997-03-13 2002-06-11 8 × 8, Inc. Data processor having controlled scalable input data source and method thereof
KR100265113B1 (ko) * 1997-08-06 2000-09-01 윤종용 방송프로그램녹화방법
JP4123567B2 (ja) * 1998-04-30 2008-07-23 ソニー株式会社 画像信号処理装置及び方法
JP4213297B2 (ja) * 1999-06-11 2009-01-21 富士フイルム株式会社 撮影装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05130602A (ja) * 1991-11-07 1993-05-25 Canon Inc 端末装置
JPH05300506A (ja) * 1992-04-23 1993-11-12 Canon Inc 画像音声通信端末装置
JPH0622193A (ja) * 1992-07-01 1994-01-28 Canon Inc カメラ制御装置
JPH0884327A (ja) * 1994-09-13 1996-03-26 Matsushita Electric Ind Co Ltd 画像通信装置及び画像通信方法
JPH1141515A (ja) * 1997-07-24 1999-02-12 Minolta Co Ltd スチルカメラ
JPH11187309A (ja) * 1997-12-19 1999-07-09 Canon Inc 撮像装置及び撮像方法
JP2001036904A (ja) * 1999-07-16 2001-02-09 Fuji Photo Film Co Ltd 信号処理装置
JP2001086510A (ja) * 1999-09-14 2001-03-30 Canon Inc 画像処理装置、方法、及びコンピュータ読み取り可能な記憶媒体

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP1404134A4 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11831985B2 (en) 2019-03-13 2023-11-28 Sony Semiconductor Solutions Corporation Camera and control method

Also Published As

Publication number Publication date
JP3849461B2 (ja) 2006-11-22
EP1404134B1 (en) 2008-07-02
KR100893419B1 (ko) 2009-04-17
DE60227370D1 (de) 2008-08-14
CN1465192A (zh) 2003-12-31
EP1404134A4 (en) 2007-06-06
CN1212018C (zh) 2005-07-20
US7349023B2 (en) 2008-03-25
EP1404134A1 (en) 2004-03-31
KR20030029123A (ko) 2003-04-11
JP2002369142A (ja) 2002-12-20
US20040008772A1 (en) 2004-01-15

Similar Documents

Publication Publication Date Title
JP3849461B2 (ja) 撮像装置及び撮像方法
US8634458B2 (en) Image processing apparatus
US7272263B2 (en) Image decoding with a simplified process
JP3783238B2 (ja) 撮像システム、画像処理装置、符号化装置、符号化方法及びランダムノイズを除去する方法
JP2010199656A (ja) 動画撮像装置
JP5153674B2 (ja) 動画像符号化装置及び動画像符号化方法
JPH06153152A (ja) 動画像符号化装置および方法
JP3221785B2 (ja) 撮像装置
JP3592025B2 (ja) 撮影画像記録装置
JP6354877B2 (ja) 撮像制御装置、及びその制御方法とプログラム
US20120093483A1 (en) Image processing apparatus and image processing method
US8305467B2 (en) Image pickup apparatus and image pickup method
JP6103481B2 (ja) 撮像装置、及びその制御方法とプログラム
JP4281778B2 (ja) 撮像装置および撮像画像記録方法
JP4854580B2 (ja) 画像処理装置
JP2004180345A (ja) 撮影画像記録装置
JP2001313906A (ja) デジタルカメラ
JP5762026B2 (ja) 画像処理装置
JPH09186919A (ja) 撮像装置
JP2006180200A (ja) 監視装置
JP2006345255A (ja) 撮像装置
JP2003250114A (ja) 映像記録装置
JPH03272289A (ja) 電子スチルカメラ
JPH0865565A (ja) 撮像記録装置
JP2007124371A (ja) 映像信号処理装置及び方法

Legal Events

Date Code Title Description
AK Designated states

Kind code of ref document: A1

Designated state(s): CN KR US

AL Designated countries for regional patents

Kind code of ref document: A1

Designated state(s): AT BE CH CY DE DK ES FI FR GB GR IE IT LU MC NL PT SE TR

WWE Wipo information: entry into national phase

Ref document number: 2002730780

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 1020037001609

Country of ref document: KR

121 Ep: the epo has been informed by wipo that ep was designated in this application
WWE Wipo information: entry into national phase

Ref document number: 028024478

Country of ref document: CN

WWP Wipo information: published in national office

Ref document number: 1020037001609

Country of ref document: KR

WWE Wipo information: entry into national phase

Ref document number: 10343881

Country of ref document: US

WWP Wipo information: published in national office

Ref document number: 2002730780

Country of ref document: EP

WWG Wipo information: grant in national office

Ref document number: 2002730780

Country of ref document: EP